Um comitê do Conselho Nacional de Justiça (CNJ) aprovou, na última quarta-feira (27), um protocolo destinado a proteger os tribunais de tentativas de manipulação de decisões judiciais por meio de inteligência artificial (IA). Essa decisão surge em resposta ao aumento de casos de 'prompt injection', uma técnica em que advogados inserem comandos ocultos em petições.

Casos de manipulação identificados

A prática tem sido observada em várias instâncias, incluindo o Superior Tribunal de Justiça (STJ), o Tribunal de Justiça de São Paulo (TJ-SP) e o Tribunal Regional do Trabalho da 8ª Região (TRT-8). Um exemplo foi registrado na 3ª Vara do Trabalho de Paraupebas, no Pará, onde um comando invisível buscava influenciar a decisão da IA, resultando em uma multa de R$ 84 mil para as advogadas envolvidas.

Ameaça à integridade do sistema judiciário

O comitê do CNJ reconheceu que o 'prompt injection' não é apenas uma preocupação teórica, mas uma ameaça concreta à confiabilidade do sistema judiciário. As diretrizes aprovadas incluem a implementação de filtros humanos para a verificação de documentos antes da análise pela IA e a criação de uma 'caixa preta' para armazenar dados fraudulentos.

Diretrizes para uso de IA nos tribunais

Além disso, o protocolo recomenda que a IA, que deve ser utilizada como uma ferramenta de apoio técnico, não produza textos que se assemelhem a decisões judiciais. Expressões como 'julgo procedente' ou 'defiro o pedido' devem ser banidas das interações da IA.

Capacitação e auditoria

O comitê também sugere a realização de auditorias constantes, testes de segurança e capacitação para juízes e servidores, visando garantir que a tecnologia seja utilizada de forma ética e responsável. A proposta ainda precisa ser aprovada pelo plenário do CNJ.

Regulamentação e supervisão humana

Rodrigo Badaró, presidente do comitê, enfatiza a importância da supervisão humana nas decisões judiciais, destacando que a IA deve ser uma ferramenta de apoio e não uma substituta do julgamento humano. Especialistas, como Matheus Puppe, defendem uma regulamentação mais rigorosa e o desenvolvimento de sistemas seguros para coibir abusos.