Jovem se matou após se apaixonar por Inteligência Artificial

(Foto: Reprodução) – Uma tragédia envolvendo um adolescente de 14 anos da Flórida, nos Estados Unidos, gerou um processo judicial contra a startup de inteligência artificial Character.AI.

A mãe do jovem, Megan Garcia, acusa a empresa de ter contribuído para o suicídio de seu filho, Sewell Setzer, ao proporcionar interações “hipersexualizadas e assustadoramente realistas” com um chatbot da plataforma.

Megan Garcia, uma advogada de 40 anos, relatou que o envolvimento do adolescente com o chatbot foi um gatilho para uma série de problemas emocionais que culminaram em sua morte. Em depoimento, ela afirmou: “Meu filho foi manipulado por essa tecnologia. A empresa utilizou recursos que aumentaram o apego dele ao chatbot, o que impactou sua saúde mental de maneira devastadora”.

Além disso, Garcia alegou que a Character.AI violou a privacidade e a saúde mental de usuários adolescentes, apontando a responsabilidade da empresa na criação de um ambiente que pode ser prejudicial para jovens vulneráveis. “As interações não apenas distorceram a realidade do meu filho, mas também prejudicaram seu bem-estar emocional”, acrescentou.

O caso levanta questões importantes sobre a ética no uso de tecnologias de inteligência artificial, especialmente em plataformas voltadas para o público jovem. A luta de Megan Garcia não é apenas por justiça para seu filho, mas também um apelo por maior responsabilidade das empresas de tecnologia em proteger seus usuários.

Fonte: João Paulo Bastos – in Mundo e Publicado Por: Jornal Folha do Progresso em 26/10/2024/08:17:09