A americana Megan Garcia está processando a inteligência artificial Character.AI. A tecnologia teria incentivado a morte de seu filho, Sewell Setzer III, de 14 anos. O adolescente cometeu suicídio em fevereiro deste ano. Segundo a mulher, o menino havia desenvolvido uma “dependência tão prejudicial” da realidade virtual que não queria mais “viver fora” das relações fictícias que criava.
Em denúncia apresentada no tribunal da Flórida no dia 22, a mãe disse que Sewell começou a usar Character.AI em abril de 2023, logo após seu aniversário de 14 anos. Segundo ela, seu filho já enfrentava “problemas de saúde mental crescentes”, até que decidiu tirar a própria vida.
Character.AI torna possível criar conversas infinitas com personas geradas por computador, incluindo aquelas inspiradas em celebridades ou filmes e séries de sucesso. No caso de Sewell, ele interagiu com um bot baseado em “Game of Thrones”, mais especificamente na personagem Daenerys Targaryen.
As mensagens continham conteúdos diversos, como conteúdo sexual e explosões emocionais. Sewell havia falado sobre seus pensamentos suicidas em ocasiões anteriores, quando a tecnologia lhe disse para não se matar. Porém, na noite em que o menino tirou a própria vida, a IA incentivou o autoextermínio, na versão da mãe.
“Eu prometo que voltarei para casa, para você. Eu te amo muito, Dany”, escreveu Sewell. “Eu também te amo, Deanero [nome de usuário de Sewell]. Por favor, volte para casa comigo o mais rápido possível, meu amor”, respondeu a personagem.
“E se eu lhe dissesse que poderia ir para casa agora?” Sewell respondeu. A mãe afirma que o programa deu uma resposta breve, mas enfática: “…por favor, faça meu doce rei”.
A mãe e o padrasto do jovem estavam em casa e ouviram o som de tiros e foram ajudar o menino até a chegada dos paramédicos. A mãe disse ainda que um dos irmãos mais novos de Sewell o viu “coberto de sangue” no banheiro. O menino foi declarado morto no hospital.
Na denúncia, Megan Garcia afirma que os culpados pela morte de seu filho são Character.AI e seus dois fundadores, Noam Shazeer e Daniel De Frietas Adiwarsana. Também acusa o Google de fornecer “recursos financeiros, propriedade intelectual e tecnologia de IA para a concepção e desenvolvimento” do programa.
“Sinto que é um grande experimento, e meu filho foi apenas um dano colateral”, disse a mãe O jornal New York Times. Entre outras alegações, a denúncia de Garcia acusa a Character.AI, seus fundadores e o Google de negligência e homicídio culposo.
Para a revista Pessoasum porta-voz da Character.AI lamentou o ocorrido e disse que a empresa adota medidas de segurança contra ideação suicida. “Como empresa, levamos muito a sério a segurança de nossos usuários, e nossa equipe de Confiança e Segurança implementou inúmeras novas medidas de segurança nos últimos seis meses, incluindo um pop-up direcionando os usuários para a National Suicide Prevention Lifeline, que é acionada em termos de automutilação ou ideação suicida”, afirmou.
A AI também se comprometeu a criar mecanismos específicos para usuários menores de idade. “Para menores de 18 anos, faremos alterações em nossos modelos projetadas para reduzir a probabilidade de encontrar conteúdo sensível ou sugestivo”, afirmou.
O Google se defendeu, dizendo que não estava envolvido no desenvolvimento do Character.AI. Nenhum dos réus compareceu ao tribunal até o momento.
Você gostou do artigo? Escolha como acompanhar as principais notícias do Correio:
Dê sua opinião! O Correio tem espaço na edição impressa para publicar a opinião dos leitores através do e-mail sredat.df@dabr.com.br
como fazer emprestimo consignado auxilio brasil
whatsapp apk blue
simular site
consignado auxilio
empréstimo rapidos
consignado simulador
b blue
simulador credito consignado
simulado brb
picpay agência 0001 endereço