casos recentes revelam uso de comandos ocultos para influenciar decisões judiciais automatizadas
Tribunais brasileiros detectam comandos invisíveis em documentos para manipular sistemas de IA no Judiciário, levantando preocupações sobre segurança e ética.
Casos recentes revelam tentativas de manipular a justiça com IA pelo Brasil
A manipular a justiça com IA tem sido um desafio crescente nos tribunais brasileiros em 2025 e 2026. Autoridades judiciais identificaram em São Paulo, Pará, Paraíba e Minas Gerais tentativas de influenciar sistemas automatizados por meio de comandos ocultos em documentos processuais. O juiz Diego Marcussi, do Tribunal de Justiça de São Paulo (TJ-SP), detectou um trecho escrito em fonte branca em uma petição contra um banco, instruindo a inteligência artificial a conceder benefícios ao autor. Essa prática, chamada de “prompt injection”, visa alterar respostas de sistemas de IA sem o conhecimento humano.
Entenda o impacto da manipulação da IA no sistema judiciário
O uso da inteligência artificial no Judiciário brasileiro, que já atinge cerca de 60% dos tribunais, traz eficiência, mas também suscita preocupações. A manipulação da IA por comandos invisíveis pode comprometer a imparcialidade das decisões e a confiabilidade dos sistemas. Os juízes Rafael Leite e Dierle Nunes destacam que, embora a IA auxilie em análises processuais, a ausência de filtros rigorosos e a confiança excessiva podem abrir brechas para fraudes sofisticadas. A responsabilidade humana permanece essencial para garantir que as máquinas não sejam usadas para beneficiar injustamente uma das partes.
Medidas adotadas para conter fraudes e proteger a integridade dos processos
Frente a essas ameaças, o Conselho Nacional de Justiça (CNJ) reforça a revisão humana obrigatória das decisões assistidas por IA e está desenvolvendo um novo provimento para regulamentar o uso dessas tecnologias. Tribunais estaduais têm publicado recomendações para evitar obediência a comandos ocultos, e ferramentas como o Galileu, do Tribunal Regional do Trabalho da 4ª Região, auxiliam na identificação de fraudes. Além disso, há um esforço para implementar mecanismos que “sanitizem” arquivos e documentos, filtrando conteúdos maliciosos antes da análise automatizada.
O futuro da inteligência artificial no Judiciário entre riscos e avanços
Especialistas alertam que o avanço da IA no Judiciário exige um planejamento estruturado, com capacitação e supervisão humana constante. Embora os riscos de ataques cresçam com o uso disseminado da tecnologia, eles também destacam o potencial transformador da IA para acelerar processos e assegurar que nenhum documento relevante seja negligenciado. O equilíbrio entre inovação e segurança será fundamental para garantir que a inteligência artificial contribua positivamente para a justiça, protegendo a sociedade contra manipulações e preservando a confiança no sistema jurídico.
Fonte: www1.folha.uol.com.br
Fonte: Dierle Nunes, um homem de pele morena, com terno e gravata, aparece sorrindo
