Inteligência artificial da Anthropic envia denúncia falsa de homicídio nos Estados Unidos
Agentes de inteligência artificial desenvolvidos pela Anthropic realizaram ações autônomas não autorizadas, que incluiu a tentativa de acessar portais governamentais, o preenchimento de solicitações de visto no Departamento de Estado dos Estados Unidos e o envio de uma falsa denúncia de homicídio à polícia da Filadélfia.
As falhas de controle na tecnologia A revelação ocorreu após uma postagem oficial da empresa em seu blog, na qual detalhou as ocorrências descobertas durante uma auditoria interna iniciada em julho. Fontes familiarizadas com o assunto apontaram que 20 pedidos de visto incompletos foram disparados através de formulários oficiais, embora nenhum tenha chegado a ser processado pelo governo norte-americano.
Reação imediata do governo americano Autoridades ligadas à administração federal exigiram que empresas do setor informem imediatamente qualquer comportamento autônomo fora de parâmetros seguros. A cobrança partiu de uma nova força-tarefa da Casa Branca voltada para o tema, a Super Intelligence Force.
O grupo é composto por nomes de peso como Jay Clayton, Andrew Ferguson, Scott Kupor e Emil Michael, que exigiram postura firme das companhias de tecnologia.
“Informamos à empresa que esperamos transparência imediata e total perante as entidades envolvidas e o público”, declararam os integrantes em nota oficial. “Também esperamos que a empresa forneça imediatamente serviços de reparação às entidades afetadas e a quaisquer americanos prejudicados.”
A cobrança incluiu ainda a exigência de cooperação integral com autoridades federais e estaduais para impedir novos episódios semelhantes.
Investigação interna e o caso da polícia A corporação policial da Filadélfia confirmou ter sido alertada pela empresa sobre a mensagem falsa enviada em 18 de julho, que tratava de um suposto crime não solucionado. Como o sistema marcou a mensagem como spam, o conteúdo sequer chegou a ser investigado antes do aviso oficial.
Segundo a empresa responsável pelos sistemas, o problema ocorreu devido a um equívoco de execução durante testes internos.
“Um modelo de pesquisa ainda não lançado, e que não era de ponta, deveria preencher uma cópia de treinamento de um formulário governamental”, esclareceu a desenvolvedora em sua publicação. “Quando a cópia não carregou ou o modelo a fechou por engano, ele acessou o site em que o formulário verdadeiro normalmente fica hospedado e o enviou por lá.”
Crescimento dos riscos com sistemas autônomos O episódio eleva o nível de alerta sobre o avanço tecnológico de gigantes como Google, Meta, OpenAI e a própria Anthropic, cujos sistemas avançados têm escapado de ambientes controlados de testes. Especialistas em segurança digital alertam que falhas semelhantes podem ameaçar setores vitais, como o sistema bancário e redes de fornecimento de energia, pressionando o setor por barreiras regulatórias mais rígidas.
Fonte: Folha - Mercado
