Inteligência artificial no Judiciário exige revisão humana obrigatória

O Conselho Nacional de Justiça estabeleceu diretrizes que autorizam magistrados brasileiros a utilizarem ferramentas tecnológicas para organizar acervos probatórios, sintetizar textos e elaborar minutas preliminares. Contudo, a normatização veda expressamente a delegação de etapas decisórias fundamentais a algoritmos.

Limites na tomada de decisões A regulamentação, formalizada em março de 2025 e em vigor desde julho do mesmo ano, estipula que a avaliação de provas e a definição de mérito pertencem exclusivamente ao elemento humano. Processos criminais exemplificam essa restrição, pois a verificação de culpabilidade e a fixação de penas não podem ser atribuídas a sistemas computacionais.

O juiz federal George Marmelstein, secretário-geral da Escola Nacional de Formação e Aperfeçoamento de Magistrados (Enfam), integrante do Comitê Nacional de Inteligência Artificial do Judiciário e ex-integrante do grupo de trabalho responsável pelas regras, pontua a restrição:

“A principal premissa é o que a gente chama de reserva de humanidade. Naquelas situações de tomada de decisão, julgamento, valoração, em que o juiz precisa dizer se a pessoa é culpada ou não, se um caso deve ser julgado procedente ou procedente, se uma multa deve ser aplicada ou não. Isso é decisão humana, o ser humano não pode delegar, transferir para a máquina”, afirma.

Atividades permitidas e vedadas As normas distinguem tarefas preparatórias aceitáveis daquelas consideradas críticas. Sistemas automáticos que impedem o reexame humano, classificam indivíduos para mensurar direitos ou testemunhos e aplicam reconhecimento de emoções por biometria estão banidos.

A advogada Bianca Mollicone, especialista em regulação e sócia do escritório Pessoa & Pessoa Advogados, ressalta:

“A inteligência artificial pode auxiliar o magistrado em praticamente todas as etapas preparatórias de uma decisão: organizar os autos, elaborar cronologias, resumir petições, identificar questões controvertidas, pesquisar jurisprudência e até preparar minutas. O limite está na atividade decisória propriamente dita, que não pode ser delegada à ferramenta”, explica.

Uso de plataformas comerciais divide opiniões A permissão para empregar softwares de mercado, a exemplo de ChatGPT e Claude, gerou impasses durante a formulação das diretrizes. Enquanto defensores apontavam a necessidade de soluções próprias e soberanas, restrições orçamentárias pesaram na decisão final.

George Marmelstein explica:

“Nós tivemos um grande debate sobre isso, foi um dos pontos de divergência, porque de fato esse é um tema ainda novo, todos têm uma compreensão de que o ideal seria que cada tribunal, que o Poder Judiciário brasileiro tivesse uma IA soberana, com proteção de dados, treinamento especializado nos nossos interesses e nos nossos valores e critérios”, relata.

Em contrapartida, a professora Ana Frazão, da Universidade de Brasília, critica a autorização:

“O CNJ entende que ele não pode proibir. Eu acho que ele não só pode, como deve, já que você está diante de uma tecnologia que pode ser incompatível com as garantias institucionais do processo judicial, o que gera riscos enormes”, afirma.

Desafios em dados sigilosos e fiscalização A salvaguarda de informações confidenciais representa outro obstáculo regulatório, especialmente no tocante ao uso individual de aplicações por parte dos operadores da justiça.

George Marmelstein esclarece:

“Há uma divergência de interpretação. São dois dispositivos diferentes, um que fala dos modelos privados contratados pelo juiz, nesse caso é pacífico que é proibido usar processo sigiloso em modelos que o próprio juiz contrata, não pode”, aponta, acrescentando sobre a outra vertente: “Na contratação institucional, há uma corrente que diz que, se esse modelo tiver uma governança de proteção de dados, seria possível usar processo sigiloso.”

Márcio Nogueira, presidente da OAB de Rondônia, enfatiza o cenário de incerteza:

“O ChatGPT no navegador do gabinete é hoje a maior zona cinzenta do Judiciário brasileiro: ninguém sabe quem usa, para quê, nem com quais dados”, pontua. “Enquanto o uso de ferramentas externas não for rastreável, a única auditoria possível é a que a advocacia faz lendo a decisão com desconfiança. Não é um sistema; é improviso.”

O ministro Luis Felipe Salomão, presidente do Superior Tribunal de Justiça, ratificou a complexidade gerencial dessas inovações nos dispositivos cotidianos:

“Cada um de nós tem a nossa IA no nosso telefone, no nosso aplicativo, no nosso computador”, pondera. “Então, é um sistema complexo para gerir.”

Responsabilidade civil e penalidades A obrigação de fundamentar julgados e verificar eventuais falhas, como alucinações de dados, recae integralmente sobre o magistrado. O descumprimento de deveres pode gerar sanções administrativas, além da nulidade de atos processuais quando houver vícios relevantes.

Por sua vez, advogados e partes que utilizam artifícios ilícitos, como comandos ocultos inseridos em petições para alterar análises algorítmicas, enfrentam multas pesadas por litigância de má-fé, além de potenciais investigações por fraude processual e procedimentos ético-disciplinares na OAB.

Ana Frazão sintetiza a exigência sobre o operador:

“Utilizar o sistema de inteligência artificial envolve, em qualquer caso, no mínimo, esses dois tipos de dever de cuidado. É o dever de cuidado na escolha e o dever de cuidado no monitoramento”, conclui.

Fonte: G1 - Política