Deepfakes desafiam tribunais e especialistas apontam avanço da IA

A evolução tecnológica dos vídeos e áudios falsificados por inteligência artificial coloca em risco a confiabilidade de evidências apresentadas em processos judiciais, conforme apontaram representantes de grandes empresas de tecnologia.

O impacto da inteligência artificial nos tribunais

Especialistas da OpenAI e da Meta fizeram um alerta durante uma reunião realizada em Boston pelo Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA. O colegiado debate há três anos os impactos e os riscos trazidos por materiais falsificados nos julgamentos.

O avanço expressivo da chamada IA generativa — tecnologia capaz de criar conteúdos, como imagens, vídeos e áudios, a partir de comandos — tornou as falsificações complexas demais para identificação humana ou computacional.

“As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, disse Shira Anderson, consultora de políticas da OpenAI.

Panorama atual e desafios na justiça

Embora o tema preocupe juristas e especialistas em segurança, o volume de ocorrências práticas ainda é baixo. Uma pesquisa divulgada em março pelo Centro Federal do Judiciário apontou que apenas 15 de 931 magistrados ouvidos enfrentaram contestações de provas por suspeita de deepfake.

“Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, disse o juiz federal Jesse Furman, de Manhattan, que preside o comitê.

Apesar da baixa incidência atual, profissionais da indústria e da academia reforçam que a ameaça é real e tende a escalar com o barateamento e a facilidade de produção desses arquivos.

Devin Norder, diretor de gestão de produtos da Meta, afirmou à Reuters que conteúdos criados pelos modelos de IA mais avançados já podem ser indistinguíveis, para os seres humanos, de mídias autênticas. Ele também destacou que produzir esse tipo de material exige pouco tempo e dinheiro.

Regulamentação e limites das marcas d’água

Como resposta ao avanço das fraudes digitais, legislações na Califórnia e na União Europeia passaram a exigir o uso de marcas-d’água — sinais embutidos nos arquivos para rastrear sua origem.

No entanto, especialistas ponderam que essas barreiras ainda possuem falhas técnicas e operacionais. Como cada companhia adota um padrão próprio de identificação, não há garantia absoluta de segurança na checagem.

“Minha impressão é que isso certamente continuará melhorando”, disse ela. “Não acho que algum dia será à prova de falhas.”

Fonte: G1 Economia