O Poder Judiciário passará a contar com parâmetros que devem ser obedecidos para utilização da inteligência artificial (IA) pelos tribunais. Eles constam de uma minuta de resolução elaborada pelo grupo de trabalho coordenado pelo Conselho Nacional de Justiça (CNJ) sobre o tema e que será julgado pelo Plenário até o fim de fevereiro.
O texto traz orientações para o desenvolvimento, a auditoria, o monitoramento e o uso responsável de IA. Entre os pressupostos estabelecidos, está a informação ao usuário quando houver o uso dessas soluções em processos e decisões, além da aplicação de linguagem simples nessas comunicações — um dos pilares da gestão do presidente do CNJ e do Supremo Tribunal Federal (STF), Luís Roberto Barroso.
A inteligência artificial é um campo da ciência da computação voltado ao desenvolvimento de máquinas e programas capazes de reproduzir competências semelhantes às humanas. Contudo, entre os aspectos abordados na resolução, estará a previsão de que a participação e a supervisão humana aconteçam em todas as etapas dos ciclos de desenvolvimento e de utilização das soluções técnicas.
Direitos fundamentais
O objetivo da regulamentação é assegurar os direitos fundamentais dos cidadãos e das cidadãs que acessam o Judiciário, promovendo a inovação tecnológica e a eficiência dos serviços judiciários de modo seguro, transparente, isonômico e ético e preservando a autonomia dos tribunais.
A minuta do normativo é fruto das discussões realizadas ao longo de um ano pelo GT instituído pela Portaria n. 338/2023, coordenado pelo conselheiro Luiz Fernando Bandeira de Mello Filho. Um marco desse debate foi a realização de uma audiência pública, de 25 a 27 de setembro de 2024. Nela, foram debatidos temas como: governança, transparência e regulamentação; uso da IA na tomada de decisões judiciais; proteção de dados, privacidade e segurança; aplicações práticas e desenvolvimento; desafios éticos e direitos fundamentais; e IA generativa e seus impactos. No evento, houve ainda o lançamento da pesquisa “O uso da Inteligência Artificial Generativa no Poder Judiciário Brasileiro”.
Segundo o levantamento, quase metade dos servidores e dos magistrados que respondeu ao diagnóstico usa a ferramenta nos tribunais. Entretanto, mais de 70% dos participantes, em ambos os grupos, informaram que a utilizam “raramente” ou “eventualmente”. Apesar de ser pouco utilizada, entre os que lançam mão da ferramenta, há um considerável uso para atividades do tribunal (27% dos magistrados e 31% dos servidores fazem uso na vida profissional).
Principais diretrizes da minuta
A resolução enfatiza que a utilização da inteligência artificial no Judiciário deve seguir princípios fundamentais como transparência, não discriminação, previsibilidade e segurança da informação. Entre as principais disposições estão:
Autonomia dos Tribunais: Cada tribunal poderá desenvolver e implementar suas próprias soluções tecnológicas, desde que sigam padrões de auditoria e monitoramento estabelecidos pela resolução.
Governança e fiscalização: A minuta prevê a criação do Comitê Nacional de Inteligência Artificial do Judiciário, responsável por supervisionar o uso da IA, garantir conformidade com a legislação vigente e reavaliar continuamente os impactos dos sistemas implantados.
Transparência e controle: O documento exige que todas as soluções de IA no Judiciário sejam auditáveis e monitoráveis, garantindo que sua utilização seja compreensível para os usuários e que as decisões automatizadas possam ser revisadas.
Riscos e restrições: Sistemas de IA que apresentem riscos excessivos, como aqueles que possam comprometer a independência do magistrado ou influenciar diretamente decisões judiciais, serão proibidos. Além disso, a classificação de risco das ferramentas será realizada com base em critérios rigorosos.
Proteção de dados e segurança: O desenvolvimento das soluções deverá observar as diretrizes da Lei Geral de Proteção de Dados (LGPD), garantindo a privacidade dos cidadãos e a segurança das informações processadas pelo Judiciário.
Uso da Inteligência Artificial Generativa
A minuta traz regras específicas para a utilização de ferramentas de IA generativa, como os modelos de linguagem de larga escala (LLMs). Essas ferramentas poderão ser utilizadas para auxiliar magistrados e servidores na gestão processual, desde que respeitem diretrizes de ética e segurança. Entre as restrições, destaca-se a vedação ao uso de IA para classificar ou ranquear indivíduos com base em comportamento ou situação social, bem como para fundamentar decisões judiciais sem a revisão humana adequada.
A proposta ainda determina que todas as soluções de IA utilizadas no Poder Judiciário sejam registradas na Plataforma Sinapses, um banco de dados que garantirá maior controle e supervisão sobre as ferramentas adotadas.
Próximos passos
Com a aprovação da minuta, o CNJ deverá promover discussões e audiências públicas para colher sugestões de magistrados, advogados e demais atores do sistema de justiça antes da publicação da versão final da resolução. O objetivo é garantir que as diretrizes sejam implementadas de forma eficiente e compatível com os princípios fundamentais da Justiça.
A resolução entrará em vigor após 120 dias da sua publicação oficial, e os tribunais terão um prazo de 12 meses para adequar suas soluções tecnológicas às novas exigências.
