IA e as mudanças no judiciário brasileiro
Em fevereiro de 2025, o CNJ aprovou nova resolução sobre IA no Judiciário, estabelecendo diretrizes para seu uso responsável e transparente. A Data Privacy Brasil contribuiu com recomendações sobre governança ética e proteção de direitos fundamentais.
Por Carla Rodrigues, Eduardo Mendonça e Natasha Nóvoa
A IA já está no Judiciário – e agora?
A Inteligência Artificial (IA) já faz parte do sistema de justiça. Ferramentas algorítmicas otimizam a digitalização de processos, o acompanhamento processual e até mesmo audiências remotas. No entanto, com essa inovação surgem desafios urgentes: como garantir que a IA respeite os direitos fundamentais sem comprometer a justiça? Como evitar decisões enviesadas e algoritmos opacos capazes de perpetuar desigualdades? Como equilibrar a busca por eficiência com a necessidade de transparência e accountability?
Para enfrentar essas questões, o Conselho Nacional de Justiça (CNJ) aprovou, em fevereiro de 2025, uma nova resolução sobre o uso da IA no Judiciário. Essa regulamentação substitui a Resolução CNJ nº 332/2020 e traz novas orientações e diretrizes relacionadas à estrutura de governança, desenvolvimento e aplicabilidade das ferramentas da IA nos tribunais.
Na nossa Contribuição fizemos recomendações para assegurar o uso da IA de forma ética e segura, bem como sugerimos meios de mitigação de riscos que exigem a supervisão humana durante os processos de desenvolvimento, aplicação e monitoramento dessas tecnologias. Focamos tanto nos aspecto principiológico, que reforça os direitos fundamentais constitucionais, como no aspecto procedimental, que aprofunda ferramentas de Governança para o uso mais eficiente da IA.
Desse modo, entendemos que a nova norma representa um avanço significativo na governança da IA ao garantir que a sua aplicação esteja alinhada com valores democráticos, bem como à proteção dos direitos fundamentais e à transparência do processo judicial. Mas, afinal, o que exatamente mudou?
As principais mudanças da nova regulamentação
A resolução define diretrizes explícitas para o desenvolvimento, governança, auditoria e uso responsável da IA, com foco na transparência, explicabilidade e controle de riscos.
Entre as inovações mais relevantes, destaca-se a criação do Comitê Nacional de Inteligência Artificial do Judiciário, órgão responsável por monitorar e atualizar as diretrizes sobre o uso da tecnologia no Judiciário. O comitê tem a missão de avaliar e classificar os riscos das soluções tecnológicas, garantindo sua conformidade com padrões éticos e legais.
A classificação dos sistemas em baixo e alto risco permite um acompanhamento mais rigoroso e ajustado a cada tipo de aplicação:
“As soluções de alto risco deverão ser submetidas a processos regulares de auditoria e monitoramento contínuo para supervisionar seu uso e mitigar potenciais riscos aos direitos fundamentais, à privacidade e à justiça.” (Art. 11, §1)
Outro avanço fundamental é o fortalecimento da transparência e publicidade no uso da IA, com a exigência de relatórios públicos que informem os jurisdicionados sobre sua aplicação nos processos judiciais. Isso contribui para a confiança no sistema judicial, conforme destaca o texto:
“a transparência, a eficiência, a explicabilidade, a contestabilidade, a auditabilidade e a confiabilidade das soluções que adotam técnicas de inteligência artificial.” (Art. 3º, §1)
Essas mudanças não são apenas técnicas – elas redefinem o papel da IA no Judiciário e seu impacto na sociedade, promovendo maior segurança jurídica e eficiência no uso dessas tecnologias alinhadas aos princípios éticos e aos direitos dos cidadãos. Enquanto a introdução de diretrizes e mecanismos de monitoramento contínuo busca assegurar que a IA seja aplicada de forma responsável e transparente.
Avanços e novas diretrizes para o uso da IA
A nova resolução do CNJ estabelece parâmetros claros para o desenvolvimento, governança e supervisão de soluções de IA no Judiciário. Para conferir os principais avanços e saber mais sobre a contribuição realizada pela Data, confira o artigo completo, onde é possível entender mais sobre como a nova regulamentação estabelece medidas rigorosas para evitar vieses discriminatórios e garantir que a IA contribua para um julgamento mais justo; a classificação de riscos e restrições ao uso de IA e a avaliação de Impacto Algorítmico. Além de entender o contexto da atualização normativa e quais foram as principais contribuições da Data na Audiência Pública.
Veja também
-
Beyond Digital Rights: Towards a Fair Information Ecosystem?
One of the major challenges in the field of digital rights is the tendency toward segmentation and hyper-specialization in topics such as privacy, freedom of expression, net neutrality, data protection, and the regulation of AI systems. Learn more about the topic in the article published in Tech Policy.
-
A participação da Data Privacy Brasil no Paris AI Action Summit 2025
A Data Privacy Brasil estará na Cúpula de Ação Sobre Inteligência Artificial (IA) nos dias 10 e 11 de fevereiro de 2025, em Paris. Confira o texto e saiba como será nossa participação.
-
A construção da legislação de Inteligência Artificial no Brasil: análise técnica do texto que será votado no Plenário do Senado Federal
A Comissão Temporária Interna de Inteligência Artificial (CTIA) do Senado Federal aprovou o relatório do substitutivo do Projeto de Lei 2338/2023, que objetiva definir as normas jurídicas de regulamentação dos usos de sistemas de Inteligência Artificial no Brasil. Confira o texto análise sobre o tema em nosso site.
-
IA e os direitos das crianças
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger as crianças e adolescentes em um cenário onde as interações digitais estão se tornando cada vez mais prevalentes? Saiba mais no texto.
-
Data Privacy Brasil submete contribuição para o Grupo de Trabalho do Conanda
O objetivo é contribuir para o desenvolvimento da Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. Confira quais foram as nossas indicações no texto.
-
Relatório aponta que uso da IA nas eleições não causou impacto negativo
Na quarta-feira (16), Carla Rodrigues, coordenadora da área de Plataformas e Mercados Dgitais na Data Privacy Brasil esteve presente no programa Jornal da Cultura. A edição repercutiu o relatório "IA no primeiro turno: o que vimos até aqui?", uma parceria entre Aláfia Lab, *desinformante e Data Privacy Brasil.
-
IA no primeiro turno: o que vimos até aqui?
Aláfia Lab, *desinformante e Data Privacy Brasil lançam relatório com análise sobre o uso de IA no primeiro turno das eleições de 2024.
Veja Também
-
Beyond Digital Rights: Towards a Fair Information Ecosystem?
One of the major challenges in the field of digital rights is the tendency toward segmentation and hyper-specialization in topics such as privacy, freedom of expression, net neutrality, data protection, and the regulation of AI systems. Learn more about the topic in the article published in Tech Policy.
-
A construção da legislação de Inteligência Artificial no Brasil: análise técnica do texto que será votado no Plenário do Senado Federal
A Comissão Temporária Interna de Inteligência Artificial (CTIA) do Senado Federal aprovou o relatório do substitutivo do Projeto de Lei 2338/2023, que objetiva definir as normas jurídicas de regulamentação dos usos de sistemas de Inteligência Artificial no Brasil. Confira o texto análise sobre o tema em nosso site.
-
IA e os direitos das crianças
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger as crianças e adolescentes em um cenário onde as interações digitais estão se tornando cada vez mais prevalentes? Saiba mais no texto.
-
Data Privacy Brasil submete contribuição para o Grupo de Trabalho do Conanda
O objetivo é contribuir para o desenvolvimento da Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. Confira quais foram as nossas indicações no texto.
-
Relatório aponta que uso da IA nas eleições não causou impacto negativo
Na quarta-feira (16), Carla Rodrigues, coordenadora da área de Plataformas e Mercados Dgitais na Data Privacy Brasil esteve presente no programa Jornal da Cultura. A edição repercutiu o relatório "IA no primeiro turno: o que vimos até aqui?", uma parceria entre Aláfia Lab, *desinformante e Data Privacy Brasil.
-
IA no primeiro turno: o que vimos até aqui?
Aláfia Lab, *desinformante e Data Privacy Brasil lançam relatório com análise sobre o uso de IA no primeiro turno das eleições de 2024.
-
‘Nudes’ falsos, deepfake e jingles sintéticos marcam uso da IA no primeiro turno e apontam desafios para 2026
Embora o temor de desinformação massiva não tenha se concretizado, casos registrados na eleições municipais servem de alerta para a corrida presidencial, avaliam especialistas. Confira a reportagem sobre o novo relatório do Observatório IA nas Eleições, parceria entre Data Privacy Brasil, o Aláfia Lab e desinformante.
-
Data participa da 9ª edição do Simpósio Crianças e Adolescentes na Internet
Estão abertas as inscrições para a 9° edição do “Simpósio Crianças e Adolescentes na Internet”, que acontece no dia 23 de outubro de 2024, em São Paulo.
-
IA com Direitos: diálogo e colaboração para regular e proteger
A Data Privacy Brasil lança projeto para unir pessoas e organizações para uma regulação de IA centrada em direitos no Brasil.
-
Data Privacy Brasil e Aláfia Lab lançam o “Observatório de IA nas eleições”
A Data Privacy Brasil, em parceria com o Aláfia Lab e o *desinformante, lançam o “Observatório de IA nas Eleições”, uma nova plataforma que tem o objetivo de mapear e registrar casos de uso de IA generativa durante as eleições brasileiras de 2024.
-
Leituras fundamentais para compreender o debate de regulação de mercados digitais no Brasil
O tema da regulação econômica dos mercados digitais tem se tornado cada vez mais crucial para democracias contemporâneas, como a brasileira. Confira as recomendações sobre o tema em texto escrito por Rafael Zanatta, codiretor da Data.
-
IA e direitos para quem trabalha
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger quem trabalha em um ambiente de rápidas transformações? Confira no texto.
-
No aniversário de 6 anos da LGPD, Data Privacy Brasil pede priorização da proteção das crianças e adolescentes
A tomada de subsídios é mais um passo na construção de uma agenda de regulação da ANPD neste tema, em julho, diversas organizações da sociedade civil pediram aumento do prazo para a agência devido à importância da discussão.
-
Entidades civis exigem da ANPD mais prazo para discussão de proteção de dados de crianças e adolescentes
Dada a importância do tema e a necessidade de um prazo maior para análise, compreensão e produção de contribuições, diversas entidades assinaram uma Carta Aberta solicitando à ANPD a ampliação do prazo por mais 30 dias.
-
Plataforma de inteligência artificial usa imagens de crianças brasileiras sem autorização
Reportagem do Jornal nacional aborda como uma plataforma de inteligência artificial na Alemanha está usando imagens de crianças brasileiras sem autorização. Rafael Zanatta, codiretor da Data Privacy Brasil fala sobre as principais preocupações relacionadas ao tema.
-
IA na sala de aula: Construindo modelos participativos para a comunidade escolar
Como a comunidade escolar pode participar da governança das tecnologias de ensino-aprendizagem? Para responder a esta questão, lançamos a cartilha “Inteligência Artificial na Sala de Aula: modelos de participação para a comunidade escolar”.
-
IAs nas eleições: ‘socializar e compartilhar não apenas os benefícios mas também os riscos’
O TSE deve votar hoje as regras para as eleições municipais. Bruno Bioni, diretor do Data Privacy Brasil, fala sobre resolução que deve disciplinar uso de tecnologias de inteligência artificial nas campanhas.
-
Data Privacy Brasil demanda esforços públicos e privados nas eleições de 2024 diante das IAs
A Data Privacy Brasil vem a público elogiar a aprovação de novas regras para eleições de 2024 pelo Tribunal Superior Eleitoral (TSE) na noite de 27 de fevereiro, sob relatoria da vice-presidente da corte eleitoral, ministra Cármen Lúcia, bem como manifestar preocupações com relação aos potenciais usos abusivos de tecnologias da informação nas eleições deste ano.
-
Temas Centrais na Regulação de IA: o local, regional e o global na busca da interoperabilidade regulatória
A Data Privacy Brasil anuncia o lançamento de seu position paper sobre temas centrais na regulação local, regional e global de inteligência artificial. O documento traz os principais pontos de convergência entre mais de 20 fontes normativas, sem deixar de considerar as particularidades necessárias para o contexto brasileiro.
-
Confundida com criminosa por ‘Inteligência Artificial’ denuncia racismo: “Discriminada por ser pobre e preta”
Um erro da IA (Inteligência Artificial) usada no reconhecimento facial das câmeras de um evento em Aracaju (SE), motivou a abordagem. Ela conta que, meia hora após chegar à micareta, três agentes à paisana da PM a interceptaram. Perguntaram o nome dela e pediram o documento. Como ela estava sem o RG, o constrangimento iniciou.
-
EUA adotam novas diretrizes para IA
Na última segunda (30/10), o presidente dos Estados Unidos, Joe Biden assinou um decreto sobre inteligência artificial, o qual busca equilibrar as necessidades de empresas de tecnologia de ponta com a segurança nacional e os direitos dos consumidores. O governo estadunidense almeja estabelecer um conjunto de proteções que possam ser fortalecidas por legislações e acordos globais. Mas quais disposições são essas? Vamos conferir!
-
Data Privacy Brasil participates in UN’s OHCHR briefing on Brazil
The organization highlighted how the advance of edtech has been violating children’s privacy in the country
-
Privacidade e Proteção de Dados: Uma abordagem dos direitos das crianças para a criptografia
Há quem entenda que a garantia do anonimato pela criptografia e a proteção de crianças na internet são coisas separadas, até mesmo opostas. Porém, novo relatório propõe uma olhar mais complexo e multissetorial para a questão.
-
Associação Data Privacy Brasil de Pesquisa participa da Reunião Ministerial da OCDE sobre economia digital
Evento teve como principal tema de debate os caminhos para um futuro inclusivo no ambiente virtual
-
Organização Mundial do Comércio realiza a sua 12ª Conferência Ministerial
A cobertura do evento, dedicado a acordos e negociações envolvendo comércio internacional, foi acompanhada pela Associação Data Privacy Brasil de Pesquisa.
-
Associação Data Privacy Brasil de Pesquisa participa do painel “Proteção de criança online na pandemia: ferramentas e boas práticas para um ambiente seguro”
Workshop, que faz parte das atividades do 12 Fórum da Internet no Brasil, buscou apresentar e debater o surgimento de novas ferramentas para conter as ameaças que crianças e adolescentes encontram ao utilizarem a internet
-
The regulation of digital platforms is already a reality
The Digital Markets Act is about to be approved in the European Union and is expected to impact other jurisdictions
-
Conectas e Data Privacy Brasil lançam a 31° edição da Revista Sur
Publicação proporciona debates a respeito dos impactos da pandemia sobre os direitos coletivos e liberdades individuais no Sul Global
-
A regulação de plataformas digitais já é realidade
O Digital Markets Act está para ser aprovado na União Europeia e deve impactar outras jurisdições
-
DISCUSSION PAPER No 2/2021: A MULTIJURISDICTIONAL ANALYSIS OF DATA-DRIVEN MERGERS: CURRENT ASSESSMENT AND PUBLIC POLICY PROPOSALS FOR BRAZIL
Data Privacy Brazil Research in partnership with the Brazilian Institute for Consumer Protection (Idec) launches a seven month study about data-driven mergers led by the researcher Lucas Griebeler Motta (University of Chicago).
-
A proteção legal dos dados pessoais de crianças e adolescentes no Brasil
Discussões sobre a proteção de dados de crianças e adolescentes ao longo do processo de discussão da LGPD no Executivo e Legislativo, buscando entender como chegou-se ao atual art. 14 da lei.
-
TikTok e o “caso Antonella” na Itália
Uma menina de 10 anos chamada Antonella foi ao banheiro da sua residência, sozinha, levando seu celular, para realizar um desafio denominado blackout challenge no aplicativo TikTok. O desafio consistia em tentar ficar sem respirar o máximo possível. Para tanto, ela colocou uma faixa ao redor do pescoço, o que gerou um desmaio, seguido de um coma. […]
DataPrivacyBr Research | Conteúdo sob licenciamento CC BY-SA 4.0