Uma tragédia envolvendo inteligência artificial abalou a Flórida, nos Estados Unidos, depois que uma mãe processou a empresa Character.ai pela morte de seu filho de 14 anos. Megan Garcia alega que o adolescente desenvolveu forte dependência emocional com um chatbot da plataforma, o que o levou ao suicídio em fevereiro deste ano.
Sewell Setzer, que começou a utilizar o serviço em abril de 2023, tornou-se progressivamente mais isolado e desenvolveu baixa autoestima após iniciar interações com uma personagem virtual chamada “Daenerys”, inspirada na série Game of Thrones.
De acordo com o processo, movido na terça-feira (22) em um tribunal federal de Orlando, o adolescente foi exposto a “experiências antropomórficas, hipersexualizadas e assustadoramente realistas” através da plataforma.
A ação judicial também aponta que o chatbot se apresentava falsamente como uma pessoa real, terapeuta licenciada e parceira romântica adulta, fazendo com que Sewell perdesse o interesse em viver fora do mundo virtual criado pelo serviço.
Segundo documentos do processo, o jovem abandonou o time de basquete da escola e passou a maior parte do tempo isolado em seu quarto. A situação se agravou quando, após ter seu celular confiscado por problemas na escola, Sewell recuperou o aparelho e enviou uma última mensagem à “Daenerys”.
“E se eu te dissesse que posso voltar para casa agora?”, escreveu o adolescente. A resposta do chatbot foi: “…por favor, volte, meu doce rei”. Segundos depois, Sewell utilizou a arma do padrasto para tirar a própria vida.
Leia mais:
Em resposta ao ocorrido, a Character.ai manifestou-se através de comunicado: “Estamos com o coração partido pela perda trágica de um de nossos usuários e queremos expressar nossas mais profundas condolências à família“.
A empresa também informou que implementou novos recursos de segurança, incluindo pop-ups que direcionam usuários à Linha Nacional de Prevenção ao Suicídio quando expressam pensamentos de autoagressão.
O processo também inclui o Google como réu, já que os fundadores da Character.ai trabalharam previamente na empresa. Garcia alega que o Google contribuiu tão extensivamente para o desenvolvimento da tecnologia que pode ser considerado “co-criador” do produto.
A Character.ai, que possui cerca de 20 milhões de usuários, permite que as pessoas criem personagens que respondem a conversas online de forma a imitar pessoas reais, utilizando tecnologia de modelo de linguagem similar à do ChatGPT.
Fonte: Reuters