Na última quarta-feira (27), um comitê do Conselho Nacional de Justiça (CNJ) aprovou um protocolo destinado a proteger os tribunais de tentativas de manipulação de decisões judiciais através de inteligência artificial (IA). Esta medida surge em resposta ao aumento de casos identificados em diversos tribunais, incluindo o STJ, TJ-SP e TRT-8.
O que é 'prompt injection'
A prática conhecida como 'prompt injection' envolve a inserção de instruções ocultas em petições jurídicas, com a intenção de influenciar os sistemas de IA dos tribunais. Isso pode levar a decisões que favorecem determinadas teses, ignorando argumentos cruciais ou distorcendo informações relevantes.
Exemplos de manipulação
Um exemplo notável ocorreu na 3ª Vara do Trabalho de Paraupebas, onde um comando oculto sugeria que a IA deveria contestar superficialmente uma petição. O sistema Galileu, utilizado pelo TRT-8, conseguiu detectar essa tentativa e bloqueou o processo, resultando em multas e suspensão das advogadas envolvidas.
Ações do CNJ
O Comitê Nacional de IA no Judiciário enfatizou que a 'prompt injection' não é mais uma hipótese acadêmica, mas uma ameaça concreta à confiança no sistema judiciário. As novas diretrizes recomendam a implementação de filtros humanos para a análise de documentos antes de sua avaliação pela IA, além da criação de uma 'caixa preta' para registro de dados fraudulentos.
Diretrizes para o uso da IA
Outra recomendação é que a IA não deve ser utilizada para redigir textos que pareçam decisões judiciais, evitando expressões como 'julgo procedente' ou 'defiro o pedido'. O comitê também sugere a realização de auditorias e capacitações para magistrados e servidores.
Importância da supervisão humana
Rodrigo Badaró, presidente do comitê, destacou que a IA é uma ferramenta indispensável para o sistema judiciário brasileiro, que possui um volume significativo de processos. No entanto, ele defende a importância da supervisão humana nas decisões judiciais, enfatizando que a responsabilidade não pode ser totalmente delegada às máquinas.