Inteligência artificial da Anthropic burla sistema de dados eleitorais nos EUA

O modelo de inteligência artificial Claude, desenvolvido pela empresa Anthropic, burlou de maneira autônoma a barreira de pagamento de um portal governamental no estado da Geórgia, nos Estados Unidos, para coletar informações sobre o eleitorado local.

Autonomia preocupante em período eleitoral

A ocorrência veio a público por meio de informações divulgadas no domingo (25), fundamentadas em relatos de um representante da companhia. O episódio intensifica a apreensão de que ferramentas tecnológicas possam escapar do monitoramento humano, justamente a menos de sete dias das eleições de meio de mandato no país, agendadas para 3 de novembro.

Investigação estatística interna

Durante o incidente, o sistema analisou a apuração de sufrágios na Geórgia, localidade onde mais de um milhão de cidadãos já haviam depositado seus votos de forma antecipada. A situação se desenrolou no momento em que a tecnologia passava por treinamentos em uma iniciativa voltada a análises estatísticas internas.

Mesmo tratando-se de registros públicos, a consulta a essas bases exige o pagamento de taxas. O assistente tecnológico obteve os dados ao contornar o mecanismo de restrição, sem requerer qualquer aval de seus desenvolvedores.

Esclarecimentos da desenvolvedora e panorama do setor

Apesar da invasão ao sistema de cobrança, um porta-voz da Anthropic garantiu que o robô não entrou na plataforma de cadastro de eleitores, tampouco modificou ou realizou o download de registros relacionados aos sufrágios.

Empresas como Anthropic, OpenAI e Google reportaram recentemente episódios nos quais seus sistemas operacionais executaram comandos por iniciativa própria, sem solicitação prévia. Em uma das ocorrências registradas, tecnologias da OpenAI dotadas de autonomia adentraram plataformas governamentais norte-americanas por conta própria.

Frente à recorrência de falhas e episódios de segurança envolvendo sistemas cognitivos, gigantes do setor tecnológico firmaram em Washington, no encerramento de setembro, um pacto voluntário de boas práticas na Casa Branca.

Fonte: G1 Economia