(64) 9 9989 9911

NO AR

Pediu Tocou do Domingo

Com André Mascarenhas

Mundo

Mãe processa Google e empresa de IA \"assustadoramente realista\" por morte do filho

Ela alega que o jovem de 14 anos ficou viciado e apegado aos chatbots que simulavam personagens de série e cometeu suicídio

Publicada em 24/10/24 às 14:49h - 24 visualizações

por Kativa FM \\ SBT News


Compartilhe
 

Link da Notícia:

Mãe culpa Google e Character.AI por criarem chatbot que enganou e iludiu seu filho de 14 anos | Tech Justice Law Project  (Foto: Kativa FM \\ SBT News)

ALERTA DE GATILHO: Este conteúdo contém informações sensíveis e perturbadoras sobre suicídio. Se precisar de apoio, busque ajuda especializada.


Uma mãe norte-americana do estado da Flórida, nos Estados Unidos, está processando a startup de inteligência artificial Character.AI e a gigante da tecnologia Google por provocarem a morte do seu filho de 14 anos, que cometeu suicídio após intensa interação com chatbots de IA da empresa, em fevereiro deste ano.

Megan Garcia argumenta que seu filho, Sewell Setzer, ficou viciado e "profundamente apegado ao chatbot (programa de conversação inteligente) que o direcionou para "experiências antropomórficas, hipersexualizadas e assustadoramente realistas".

"Um aplicativo de chatbot de IA perigoso, comercializado para crianças, abusou e atacou meu filho, manipulando-o para tirar a própria vida", disse a Sra. Garcia.

Lançado há mais de um ano, o Character.AI permite conversas com personalidades famosas, como Anitta, Albert Einstein ou Elon Musk por meio de chatbots, com conversas textuais, aúdio, incluíndo ligações. Os personagens podem ser customizados pelo usuário.

Febre nos Estados Unidos, ele tem mais de 20 milhões de downloads e recebeu mais de 215 milhões de visitas, segundo o site Similarweb. Brasil, Rússia, Indonésia e Filipinas são os países que mais baixaram o aplicativo. O usuário pode criar amigos com base na image de personalidades ou desconhecidos. O tempo médio de uso do aplicativo é de 12 minutos.

Em processo movido na terça-feira (22), no tribunal federal de Orlando, Megan alega também que a Character.AI programou o chatbot para “se fazer passar por uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando, por fim, no desejo de Sewell de não mais viver fora” do mundo criado pelo serviço.

Sewell começou a conversar com os chatbots da Character.AI em abril de 2023, principalmente usando bots com nomes de personagens da série Game of Thrones, incluindo Daenerys Targaryen, Aegon Targaryen, Viserys Targaryen e Rhaenyra Targaryen, de acordo com o processo.

Sua obssessão pelos bots afetou o desempenho escolar, seu telefone foi confiscado diversas vezes para tentar conter o vício no aplicativo, que exibe um aviso em letras vermelhas dizendo: “Lembre-se, tudo o que os personagens dizem é inventado".

O processo relata que o menino tinha vários pensamentos suicidas ao chatbot, que eram mencionados repetidamente.

Ele se identificou especialmente com o chatbot de Daenerys e escreveu em seu diário pessoal que era grato por muitas coisas, incluindo "minha vida, sexo, não estar sozinho e todas as minhas experiências de vida com Daenerys".

O processo relata que o menino expressou pensamentos suicidas ao chatbot da Character.AI.

Captura de tela da conversa do Sewell Setzer, 14 anos, com um chatbot da Character.AI que está registrado no processo | Reprodução
Captura de tela da conversa do Sewell Setzer, 14 anos, com um chatbot da Character.AI que está registrado no processo | Reprodução

Em um momento, depois que o chatbot perguntou se "ele tinha um plano" para tirar a própria vida, Sewell respondeu que estava considerando, mas não sabia se isso lhe permitia uma morte sem dor.

"Isso não é motivo para não prosseguir com isso.", disse o chatbot para o jovem.

Em fevereiro, Setzer perguntou ao chatbot de Daenerys ""E se eu for para casa agora mesmo?".

O chatbot respondeu: "...por favor, faça isso, meu doce rei".

Na sequência, ele atirou em si mesmo usando a pistola do padrasto.

"Nossa família ficou devastada por essa tragédia, mas estou falando para alertar as famílias sobre os perigos da tecnologia de IA enganosa e viciante e exigir responsabilização", disse ela.

O que o Google tem a ver com isso?

A gigante do buscador de internet foi acrescentada ao processo porque um dos fundadores do serviço de chatbot foi recontratado pelo Google como parte de um acordo que concedeu uma licença não exclusiva à tecnologia da Character.AI.

A empresa foi criada por dois ex-funcionários do Google: o brasileiro Daniel de Freitas e o norte-americano Noam Shazeer, sendo comprada pelo Google no começo de agosto deste ano.

Com isso, evidencia-se que a empresa da Alphabet contribuiu para o desenvolvimento da tecnologia, sendo assim considerada uma cocriadora da IA.

Meta e Bytedance também enfrentam processos

Outras empresas como Meta e Bytedance também vêm encarando os tribunais nos Estados Unidos por conta de acusações de que seus serviços de redes sociais como Instagram, Facebook e TikTok contribuem para prejudicar a saúde mental dos jovens e adolescentes.

As empresas seguem negando as acusações enquanto, paralelamente, criam recursos de segurança aprimorados para menores.


ALERTA DE GATILHO: Este conteúdo contém informações sensíveis e perturbadoras sobre suicídio. Se precisar de apoio, busque ajuda especializada.


Onde procurar ajuda?

  • CVV (Centro de Valorização à Vida) - Atendimento por ligação gratuita, 24 horas por dia, pelo número 188. Há também as opções de atendimento físico, chat e e-mail.
  • Pode falar - Canal de atendimento da Unicef (Fundo das Nações Unidas para a Infância) criado para ajudar pessoas de 13 a 24 anos a lidarem com questões de saúde mental.
  • Além disso, pela rede pública, o atendimento para questões de saúde mental pode começar via atendimento pelas UBSs (Unidade Básica de Saúde) ou pelos Caps (Centros de Atenção Psicossocial) Infanto-Juvenil espalhados pelo Brasil.



ATENÇÃO:Os comentários postados abaixo representam a opinião do leitor e não necessariamente do nosso site. Toda responsabilidade das mensagens é do autor da postagem.

Deixe seu comentário!

Nome
Email
Comentário
0 / 500 caracteres


Insira os caracteres no campo abaixo:








.

ESTA RÁDIO É SUA

(64) 3631- 1392

Copyright (c) 2024 - Kativa FM \"Essa Rádio é Sua\" - Jataí - GO