Cibernética na justiça: agentes de IA podem vazar dados sigilosos

O avanço da inteligência artificial na rotina jurídica brasileira trouxe novos desafios para a segurança da informação nos tribunais. Programas automatizados conhecidos como agentes de IA podem ser alvo de manipulação externa, abrindo brechas para o acesso indevido a dados sigilosos, informações pessoais de magistrados e senhas de servidores.

Riscos de segurança nos tribunais

O alerta sobre essas vulnerabilidades veio de George Marmelstein, juiz federal e membro do Comitê Nacional de Inteligência Artificial do Judiciário, vinculado ao Conselho Nacional de Justiça (CNJ).

O problema é uma evolução dos chamados comandos ocultos inseridos em petições, técnica conhecida como prompt injection. Em novembro, uma reportagem televisiva revelou dezenas de episódios em que advogados tentaram influenciar análises de magistrados por meio de instruções imperceptíveis em documentos.

“Existem mecanismos para diferenciar essas origens, mas eles podem falhar, especialmente quando o comando malicioso se apresenta como uma orientação oficial ou uma etapa necessária do trabalho”, afirma o especialista em cibersegurança Matheus Vasconcelos.

O perigo dos agentes autônomos

Enquanto o uso comum de IA exige que um humano revise a resposta gerada antes de qualquer ação, os agentes autônomos operam de forma diferente. Eles recebem permissões para navegar na internet, abrir arquivos, ler e-mails e executar tarefas encadeadas sem supervisão passo a passo.

“Os agentes apertam botões, executam códigos, criam documentos. Eles têm essa questão do fazer. E, ao fazer, pode haver uma influência para que ele rode um código [de um programa] e esse código seja malicioso, no sentido, por exemplo, de pegar suas credenciais, pegar seus dados. E isso é um risco maior”, afirma George Marmelstein.

Para mitigar esses problemas, o CNJ aprovou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário (PROSEG-IA), criando frentes permanentes de monitoramento. O Superior Tribunal de Justiça (STJ) também tem monitorado peças processuais para detectar possíveis fraudes e ondas de litigiosidade.

Desafios regulatórios e fiscalização

Especialistas apontam que a segurança depende das permissões concedidas aos sistemas e do nível de governança adotado. A professora Ana Frazão, da Universidade de Brasília, destaca que a tecnologia pode inclusive ameaçar a igualdade entre as partes se a disputa processual se transformar em uma corrida tecnológica.

“Me preocupa muito a gente ter um cenário em que a disputa processual não seja a disputa pelo melhor Direito, mas daqui a pouco seja a disputa por quem tem a melhor tecnologia, porque aí eu vou conseguir burlar, ou induzir, ou de alguma maneira influenciar o sistema de inteligência artificial que vai julgar a minha causa”, afirma.

A discussão sobre o uso de plataformas comerciais e a fiscalização do trabalho individual de magistrados continua em aberto, enquanto o Judiciário busca equilibrar inovação tecnológica, transparência e proteção de dados.

Fonte: G1 - Política