IA e os direitos das crianças

Por Júlia Mendonça, Eduardo Mendonça, Carla Rodrigues e Rafael Zanatta.

Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger as crianças e adolescentes em um cenário onde as interações digitais estão se tornando cada vez mais prevalentes?

A pesquisa TIC Kids Online Brasil 2024, realizada pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic), mostrou que entre as crianças e os adolescentes que usam internet no Brasil, 83% têm perfis em plataformas como WhatsApp, Instagram, TikTok e YouTube. A pesquisa realizou coleta de dados entre março a agosto de 2024, com amostra de mais de 2.400 crianças em todo o território brasileiro. O número de crianças e adolescentes no Brasil é enorme, superando largamente países inteiros como Portugal e Dinamarca. Milhões delas, mesmo vivendo na pobreza, têm acesso a celulares e aplicações de Internet.

Estamos lidando com as primeiras gerações de jovens que têm sua relação com o mundo intermediada constantemente pelas tecnologias digitais. Jonathan Haidt define tal fenômeno como a grande reconfiguração da infância, em que o desenvolvimento e amadurecimento dos mais jovens vem sendo pautada pela infância baseada no “celular” e não no “brincar”. Não é atoa que nos últimos tempos surgiram várias discussões sobre o uso – e potencial vedação – de celulares nas escolas, não só no contexto brasileiro, mas em diversas partes do mundo. 

A complexidade da discussão aumenta quando observamos que tais tecnologias são repletas de produtos, redes sociais, aplicativos baseados em sistemas de Inteligência Artificial (IA) e publicidade direcionada a crianças e adolescentes.

E apesar de, segundo a UNICEF,  ainda não termos certeza quais serão os efeitos concretos do uso de IA no desenvolvimento dos mais jovens, observa-se que, ao falarmos em termos de políticas e regulação de IA globalmente, a proteção dos mesmos não é colocada como pilar central, muitas vezes se restringindo a uma abordagem “adultocêntrica”, negligenciando suas necessidades e direitos. A importância dos impactos da IA na vida de crianças e adolescentes precisa levar  em conta a variedade de contextos em que vivem, com foco especial naquelas em condições de maior vulnerabilidade socioeconômica.

Enquanto isso, Big Techs seguem desenvolvendo e testando as versões infantis dos seus produtos baseados em IA, sem ter diretrizes específicas que garantam que essas crianças, em uma fase de desenvolvimento progressivo e vulnerável, tenham seus direitos respeitados. De acordo com o Instituto de Estudos da Família nos EUA, depressão, automutilação, tentativas de suicídio e suicídio aumentaram acentuadamente entre adolescentes dos EUA entre 2011 e 2019, com tendências semelhantes em todo o mundo. Entre 2011 e 2016, conforme as mídias sociais se tornaram populares, a privação de sono entre adolescentes dos EUA aumentou em 17%.

Estudos de psicologia também revelam um problema crescente da dismorfia corporal entre adolescentes, especialmente mulheres. Tais estudos especulam o efeito de usos intensivos de aplicativos como Snapchat, TikTok e Instagram.

No caso do Brasil, o país possui robustas salvaguardas de proteção das crianças e adolescentes de maneira mais holística. A Constituição Federal, junto com as diretrizes específicas do Estatuto da Criança e do Adolescentes (ECA), estabelece que tais sujeitos são detentores de proteção integral, devendo esta ser garantida por toda a sociedade – incluindo o setor privado – com absoluta prioridade. Mais recentemente, o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda) publicou a Resolução nº245/24, que estabelece outras importantes diretrizes para a promoção dos direitos das crianças em ambientes digitais. Todo esse arcabouço precisa estar refletido quando falamos regular IA no contexto nacional. 

Tendo isso em vista, o PL nº2338/23 veio lapidando a abordagem do tema ao longo das suas versões. A sua última versão publicada em Julho/24, estabelece como um dos seus fundamentos centrais para o desenvolvimento, a implementação e o uso de sistemas de IA, a garantia da proteção integral e melhor interesse das crianças e adolescentes, a partir do reconhecimento da vulnerabilidade agravada. Igualmente reforça a referida “proteção integral” em seu artigo 3º, como um dos princípios norteadores que precisam ser observados.

Em termos mais específicos, o PL nº2338/23 também enquadra, em seu artigo 13, como um sistema de IA de risco excessivo iniciativas que permitam a produção, disseminação ou facilitem a criação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes, proibindo assim o seu desenvolvimento. 

Essa diretriz não apenas reforça o artigo 240 e seguintes do ECA (que visam coibir a exploração sexual de tais sujeitos), como também endereça de maneira específica a grande problemática de disseminação de deepfakes de crianças e adolescentes, especialmente do gênero feminino, que vem ocorrendo nas escolas brasileiras.

O artigo 15 do PL, propõe uma ampliação das categorias de sistemas de IA de alto risco, permitindo a identificação de novas hipóteses que possam se enquadrar na categoria, levando em consideração a probabilidade e a gravidade dos impactos adversos sobre pessoas ou grupos afetados. Um dos critérios estabelecidos é que um sistema de IA possa “impactar negativamente o desenvolvimento e a integridade física, psíquica ou moral de crianças e adolescentes”. Isso permite que eventuais novas potencialidades danosas aos mais jovens, oriundas de sistemas de IA, possam ser endereçadas futuramente com o cuidado necessário. 

Sendo assim, diante dos desafios existentes e evoluções realizados no texto do PL 2338/23, entendemos que sua última versão é um grande avanço para colocar a proteção integral das crianças e adolescentes como base essencial para o desenvolvimento de sistemas de IA no contexto nacional. 

No segundo semestre de 2024, as  discussões do PL 2338/2023 estão previstas para serem retomadas no Senado Federal, dessa forma, é crucial um olhar atento de toda a comunidade preocupada com o futuro dos direitos de crianças e adolescentes. A IA já é uma realidade vivenciada pelos mais jovens, desde a primeira infância e tende a permear por todo seu desenvolvimento. Nesse sentido, o amplo engajamento cívico é urgente.

Leitura recomendada: “IA com Direitos: diálogo e colaboração para regular e proteger”

O artigo “IA com Direitos: diálogo e colaboração para regular e proteger“, de Eduardo Mendonça, Júlia Mendonça e Carla Rodrigues, discute a importância de regular a IA com foco na justiça social e nos direitos humanos. O texto explora o impacto da IA sobre grupos vulneráveis, como trabalhadores informais e comunidades com menor acesso à tecnologia, destacando os riscos de exclusão e discriminação. Além disso, aborda o Projeto de Lei 2338/2023 e como ele busca equilibrar a inovação tecnológica com a proteção dos direitos fundamentais.

Clique aqui para acessar o texto completo e entender como a IA pode ser uma ferramenta para o bem-estar coletivo, promovendo justiça social e igualdade de oportunidades.

IA com Direitos

O projeto IA com Direitos convida você a se informar, participar e apoiar essa causa tão importante. A tecnologia pode transformar a sociedade, mas é responsabilidade de todos garantir que essa transformação seja para melhor – e para todas as pessoas.