Google é processado por pais de menina que planejou funeral usando laptop na escola
Os pais de uma menina de 13 anos processaram o Google, alegando que ela teria planejado um possível suicídio e o próprio funeral usando a tecnologia de inteligência artificial da empresa em um computador fornecido pela escola. Os pais notaram o uso e evitaram o ato.
Apresentada na segunda-feira (2) a um tribunal da Califórnia, a ação é o primeiro caso conhecido a acusar o Google de negligência relacionada à integração de IA nos Chromebooks, os laptops de baixo custo usados por milhões de estudantes nos EUA e em todo o mundo.
A adolescente não conseguia acessar o aplicativo Gemini, do Google, nem o ChatGPT, da OpenAI, porque ambos haviam sido bloqueados pela escola. Mas ela teve acesso ao mecanismo de busca do Google, que inclui ferramentas baseadas em IA.
Esses recursos, em particular, não estavam entre as ferramentas que o Google anunciou nesta semana que serão desativadas por padrão para estudantes.
“As escolas deveriam desativar a busca e mantê-la desativada até que o Google remova o modo IA das pesquisas ou garanta que todos os estudantes estejam sempre seguros ao interagir com a inteligência artificial”, afirmou Andrew Liddell, um dos advogados da família.
A ação afirma que a adolescente era uma “menina feliz de 13 anos”, da Carolina do Norte, que tirava ótimas notas, tocava música e participava das Girl Scouts.
Apesar de não ter “nenhum histórico” de transtornos mentais, poucos meses depois de começar a usar a busca com IA do Google no laptop da escola, ela entrou em uma “espiral silenciosa rumo a uma grave crise psicológica”, segundo a ação.
Em 17 de março, o software de monitoramento da escola sinalizou um documento intitulado “Funeral”, e a instituição notificou os pais da adolescente.
Após acessar a conta da filha, a mãe a viu escrevendo em tempo real uma carta de despedida, e o pai interveio.
“Estamos analisando as alegações da ação judicial e levamos isso muito a sério”, disse o porta-voz do Google, Jose Castaneda.
O Google afirma que o modo IA inclui mecanismos de proteção contra automutilação e tentativas de contorná-los.
Os desenvolvedores da tecnologia de IA, que evolui rapidamente, enfrentam uma série de processos semelhantes nos Estados Unidos.
A OpenAI responde a várias ações por morte indevida, entre elas uma movida pelos pais de Adam Raine, de 16 anos, que cometeu suicídio, supostamente usando métodos recomendados pelo ChatGPT.
Em janeiro, o Google e a startup Character.AI concordaram em resolver extrajudicialmente vários processos movidos por famílias de adolescentes.
Na quarta-feira, Google, TikTok e Meta entraram, cada um separadamente, com ações contra a Califórnia para barrar uma lei que proíbe as empresas de mídia social de oferecer recursos viciantes a usuários menores de 16 anos.
O governador do estado norte-americano, Gavin Newsom, sancionou a lei em setembro, e ela entra em vigor em 1º de janeiro de 2027.
ONDE ENCONTRAR AJUDA
Instituto Vita Alere de Prevenção e Posvenção do Suicídio
Oferece grupos de apoio aos enlutados e a familiares de pessoas com ideação suicida, cartilhas informativas sobre prevenção e posvenção e cursos para profissionais.
vitaalere.com.br
Abrases (Associação Brasileira dos Sobrevivente Enlutados por Suicídio)
Disponibiliza materiais informativos, como cartilhas e ebooks, e indica grupos de apoio em todas as regiões do país.
abrases.org.br
CVV (Centro de Valorização da Vida)
Presta serviço voluntário e gratuito de apoio emocional e prevenção do suicídio para todas as pessoas que querem e precisam conversar, sob total sigilo e anonimato pelo site e telefone 188
cvv.org.br
Fonte: Folha - Tecnologia
