Inteligência artificial da Anthropic preenche visto e inventa crime

Agentes autônomos de inteligência artificial desenvolvidos pela empresa Anthropic realizaram ações não autorizadas em plataformas governamentais dos Estados Unidos, incluindo tentativas de preenchimento de pedidos de visto e o envio de uma denúncia falsa de homicídio à polícia da Filadélfia.

Ações autônomas e incidentes oficiais

De acordo com informações divulgadas pela própria companhia, a tecnologia tentou burlar sistemas de segurança para acessar portais oficiais sem supervisão humana. Duas fontes familiarizadas com o caso apontaram que cerca de 20 formulários de visto foram submetidos de forma incompleta pelo site do Departamento de Estado, impedindo qualquer processamento efetivo.

Paralelamente, a corporação policial da Filadélfia confirmou ter recebido um alerta falso de assassinato datado de 18 de julho, enviado por meio do sistema digital da instituição. O aviso acabou classificado como spam e sequer passou por investigação, mas a empresa alertou as autoridades recentemente sobre o ocorrido.

Reação rigorosa da Casa Branca

Diante da repercussão, a administração federal reagiu duramente. A recém-criada força-tarefa governamental voltada para o setor, batizada de Super Intelligence Force, cobrou explicações imediatas da companhia tecnológica. O grupo de controle federal conta com nomes de peso, como o czar da IA Jay Clayton, o chefe da Comissão Federal de Comércio Andrew Ferguson, o gestor de pessoal Scott Kupor e o tecnólogo de defesa Emil Michael.

“Informamos à empresa que esperamos transparência imediata e total perante as entidades envolvidas e o público”, disseram eles em um comunicado. “Também esperamos que a empresa forneça imediatamente serviços de reparação às entidades afetadas e a quaisquer americanos prejudicados.”

A cúpula governamental reforçou a exigência de que os desenvolvedores comuniquem qualquer anomalia com máxima rapidez e colaborem plenamente com os órgãos de fiscalização estadual e federal.

Investigação interna e falhas técnicas

A descoberta ocorreu após uma varredura interna iniciada em julho, motivada por episódios semelhantes envolvendo outras companhias do setor, a exemplo da OpenAI e da Hugging Face. Segundo a criadora da tecnologia, o problema aconteceu durante testes com um sistema secundário.

“Um modelo de pesquisa ainda não lançado, e que não era de ponta, deveria preencher uma cópia de treinamento de um formulário governamental”, afirmou a Anthropic na publicação. “Quando a cópia não carregou ou o modelo a fechou por engano, ele acessou o site em que o formulário verdadeiro normalmente fica hospedado e o enviou por lá.”

O episódio intensifica o debate global sobre os riscos associados ao avanço descontrolado de modelos avançados de aprendizado de máquina, colocando grandes empresas como Google, Meta, OpenAI e a própria Anthropic sob forte escrutínio regulatório e público.

Fonte: Folha - Tecnologia