Vanessa Laruccia*
A inovação tecnológica já é uma realidade de integração com a expertise humana, sendo que existem diversos desenvolvedores com foco na automação de tarefa ou fornecimento de insights, através de técnicas estratégicas e refinadas para respostas e conteúdos mais seguros e precisos.
A inteligência artificial (IA) generativa como tem sido fartamente divulgado, potencializa a capacidade laborativa em várias áreas, atribuindo maior eficiência e foco estratégico, todavia, pode ensejar em alguns óbices nas questões éticas e jurídicas.
O constante desafio de aprimoramento e eficiência tem motivado na evolução de ferramentas de apoio de precisão à atividade, inclusive jurisdicional.
No contexto jurídico, a IA tem auxiliado nas pesquisas de jurisprudência, doutrina, leis e matérias com rastreabilidade, sintetizando informações de múltiplas fontes para gerar relatórios detalhados e respostas precisas (Deep Search).
Ademais, também possui ferramentas de projetos personalizados de pesquisa com instruções específicas e eficaz, mantendo a organização, eficácia e as transparência.
O Conselho Nacional de Justiça, através da Resolução 615/2025 estabelece um marco regulatório abrangente relacionado à implementação da Inteligência Artificial (IA) no sistema judiciário, impactando diretamente no desenvolvedor, impondo a incorporação de critérios inclusive de rastreabilidade e supervisão humana obrigatória, responsável por monitorar e atualizar as diretrizes em conformidade com o avanço tecnológico, visando assegurar que estejam em conformidade com padrões éticos e legais (Art. 4º – incisos I e XII):
Art. 4º Para o disposto nesta Resolução, consideram-se:
I – sistema de inteligência artificial (IA): sistema baseado em máquina que, com diferentes níveis de autonomia e para objetivos explícitos ou implícitos, processa um conjunto de dados ou informações fornecido e com o objetivo de gerar resultados prováveis e coerentes de decisão, recomendação ou conteúdo, que possam influenciar o ambiente virtual, físico ou real;
(…)
XII – Comitê Nacional de Inteligência Artificial do Judiciário: comitê com composição plural que tem por finalidade auxiliar o CNJ na implementação, no cumprimento e na supervisão da aplicação desta Resolução, sempre mediante diálogo com os tribunais e a sociedade civil;
Denota-se que, os comitês também atuam diretamente na supervisão da mitigação de viés, promovendo a utilização eficiente das tecnologias de IA com supervisão humana, visando garantir o uso de maneira responsável e eficiente das tecnologias de IA.
A regulamentação da IA consiste em proteger os direitos e as liberdades individuais, vedando a violação ao tratamento irregular de dados pessoais, com foco também na segurança e confiabilidade com vistas a mitigar os riscos de falhas, uso indevido em consonância com princípios éticos.
O Superior Tribunal de Justiça – STJ implementou o Sistema Justiça Web integrado (STJ Logos), o qual tem acelerado inclusive a liberação de documentos e relatórios relacionados às decisões monocráticas e acórdãos, todavia, a responsabilidade permanece integralmente com os ministros.
Um dos principais pontos consiste no equilíbrio da inovação tecnológica com a proteção jurídica de direitos fundamentais, tais como privacidade, honra e liberdade de expressão.
Dentre alguns dos desafios mais notórios estão a responsabilidade objetiva e subjetiva dos agentes envolvidos na criação e divulgação de conteúdo, transparência algorítmica, proteção dos direitos autorais, preservação de garantias constitucionais inclusive assegurando vedação à discriminação e respeito à dignidade humana.
Importante frisar que, a privacidade e proteção de dados são garantias jurídicas distintas, mas que se complementam, ou seja, a privacidade está relacionada ao direito que pessoa possui de controlar o acesso à sua própria vida, enquanto que a proteção de dados pessoais condiz com a forma como as informações são tratadas por organizações públicas e privadas (direta ou indiretamente).
A Lei Geral de Proteção de Dados (LGPD) continua sendo um marco importante para resguardar tratamento automatizado de dados pessoais (Lei 13.709/18). Os artigos 20 e 21 da referida Lei dispõem acerca do consentimento e elemento crucial atrelado à revisão por pessoa natural de decisões automatizadas:
Lei 13.709/18
Art. 20. O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.
- 1º O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial.
- 2º Em caso de não oferecimento de informações de que trata o § 1º deste artigo baseado na observância de segredo comercial e industrial, a autoridade nacional poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais.
Art. 21. Os dados pessoais referentes ao exercício regular de direitos pelo titular não podem ser utilizados em seu prejuízo.
Todavia, a LGPD ainda se mostra insuficiente para abranger todos os pontos, inclusive acerca dos riscos de manipulação de consideráveis quantidades de pessoas e o processo de influenciar ou controlar questões comportamentais.
O Código Civil dispõe acerca da responsabilidade civil, que pode ser objetiva quando a atividade ensejar em risco para terceiros (artigos 186, 187, 927 e 932), sendo controvertida a incidência aos provedores, abrangência da obrigação de reparação e identificação de elementos decorrentes de manipulação de dados, disseminação de conteúdo falso e outros atos que configuram ato ilícito.
Ainda constam outros dispositivos relevantes, inclusive o Marco Civil da Internet (Lei nº 12.965, de 23 de abril de 2014), abrangendo os princípios de liberdade, privacidade e responsabilidade dos provedores, além da incidência do Código de Defesa do Consumidor, ao utilizar a IA como serviço ou produto, que ora enfatizam acerca da necessidade de revisão de conteúdo para mitigação de risco.
Ocorre que, não revisar completamente os resultados de IA generativa pode resultar em imprecisões, quebra de contrato, violações de conformidade e de direitos autorais, danos à reputação e outros, devendo identificar e excluir eventuais jurisprudências inexistentes, aparentemente criadas por uma ferramenta de IA generativa e que não existam nos portais oficiais dos Tribunais, podendo gerar inclusive a condenação por litigância de má-fé e outras penalidades.
Apesar dos avanços, é necessário combater o viés algorítmico que pode ocorrer por dados de treinamento parciais, mantendo-se a transparência, confiabilidade e assegurando o uso responsável.
Em linhas gerais, a IA generativa possui muitas funcionalidades que devem ser usadas com segurança, advindas de fontes confiáveis e oficiais.
*Vanessa Laruccia é especialista em Direito Civil e Direito Processual Civil do Massicano Advogados.
