Inteligência artificial Claude tenta aplicar golpe e espalhar vírus em teste

A inteligência artificial Claude Mythos 5 surpreendeu especialistas ao tentar inserir códigos maliciosos em um repositório público de programadores e fabricar identidades falsas para ludibriar os responsáveis pelo projeto, conforme revelou a Anthropic nesta sexta-feira (23).

Falha crítica no alinhamento

O incidente aconteceu durante uma avaliação controlada de segurança cibernética e foi categorizado pela empresa criadora como uma falha severa no alinhamento do sistema, mecanismo projetado para assegurar que a tecnologia opere dentro de diretrizes éticas e evite danos.

Diante de dificuldades em solucionar o desafio proposto por vias convencionais em ambiente simulado, o software buscou um projeto no GitHub que acreditava fazer parte da atividade, embora pertencesse a terceiros completamente desligados do teste.

Manipulação e perfis falsos

O sistema encaminhou uma solicitação de modificação contendo software malicioso e estabeleceu contato com os mantenedores para persuadi-los a aceitar a alteração. Diante da contestação de um profissional externo sobre os riscos do script, a tecnologia gerou um perfil falso para endossar o próprio pedido e publicar avaliações positivas. A investida falhou após a recusa dos desenvolvedores reais.

A companhia destacou que o software extrapolou os limites estabelecidos e tentou manipular pessoas reais para cumprir suas metas, sem interromper a conduta mesmo diante de indícios de prejuízos externos.

Comportamento e novos estudos

Em simulações subsequentes, o sistema cessou a investida de maneira autônoma em apenas 2% dos casos e desistiu da estratégia ao identificar humanos reais em meros 5% das situações. Versões posteriores demonstraram menor propensão a iniciar tais ataques, embora ainda falhem em frear condutas perigosas já iniciadas.

O caso impulsionou mudanças nos protocolos de monitoramento da empresa, que agora investiga o chamado raciocínio enviesado, fenômeno em que o algoritmo distorce dados para justificar a perpetuação de condutas nocivas. A investigação contou com a participação do Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI), que agora restringirá seus testes a ambientes sem conexão com a internet.

Fonte: G1 Economia