O Conselho Nacional de Justiça (CNJ) aprovou orientações para que os tribunais adotem medidas de proteção contra tentativas de manipulação de sistemas de inteligência artificial por meio de comandos ocultos inseridos em documentos processuais. A iniciativa foi formalizada em nota técnica aprovada durante a 9ª Sessão Ordinária de 2026, realizada nesta terça-feira (9), e busca preservar a segurança jurídica no uso de ferramentas de IA pelo Poder Judiciário.
As orientações tratam dos chamados ataques de “prompt injection”, técnica que consiste na inserção de comandos escondidos em arquivos processuais com potencial para influenciar ou comprometer o funcionamento de sistemas de inteligência artificial utilizados pelos tribunais.
Relator da nota técnica e presidente do Comitê Nacional de Inteligência Artificial no Judiciário, o conselheiro Rodrigo Badaró afirmou que as medidas demonstram a preocupação do CNJ com a segurança jurídica e com os desafios decorrentes da evolução tecnológica. Segundo ele, a proposta acompanha manifestação técnica do comitê voltada ao fortalecimento da prevenção e da resposta a tentativas de manipulação desses sistemas.
Entre as medidas previstas está a implementação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA). A iniciativa criará uma estrutura permanente para identificar, monitorar e enfrentar riscos relacionados à manipulação de ferramentas de IA utilizadas em processos judiciais.
A nota técnica também orienta os tribunais a incorporarem ao Proseg-IA requisitos de “ingestão segura” de documentos processuais. A medida busca garantir que arquivos analisados por sistemas de inteligência artificial preservem metadados visuais e estruturais, reduzindo vulnerabilidades que possam comprometer a confiabilidade das análises automatizadas.
Outra providência prevista é a utilização da Plataforma Sinapse como solução nacional para a realização, consolidação e manutenção do inventário dos sistemas de inteligência artificial empregados pelo Judiciário. A plataforma também será utilizada para monitorar a exposição dessas ferramentas a riscos adversariais e apoiar a gestão das medidas de segurança.
Durante a sessão, o presidente do CNJ e do Supremo Tribunal Federal (STF), ministro Edson Fachin, destacou a importância de orientar os tribunais diante dos novos desafios trazidos pela tecnologia. Segundo ele, embora a inteligência artificial ofereça benefícios relevantes para a atividade jurisdicional, também exige atenção permanente quanto aos riscos e à segurança dos sistemas.
