Plataforma de inteligência artificial usa imagens de crianças brasileiras sem autorização
Reportagem do Jornal nacional aborda como uma plataforma de inteligência artificial na Alemanha está usando imagens de crianças brasileiras sem autorização. Rafael Zanatta, codiretor da Data Privacy Brasil fala sobre as principais preocupações relacionadas ao tema.
Uma plataforma de inteligência artificial na Alemanha está usando imagens de crianças brasileiras sem autorização.
Crianças na festinha de aniversário, nas brincadeiras com amiguinhos, o recém-nascido na maternidade. São imagens de momentos assim, compartilhados nas redes sociais e mesmo em antigos blogs ou grupos fechados, que estão sendo usadas, sem autorização, por plataformas de treinamento da inteligência artificial. A denúncia foi feita a partir de uma descoberta da organização internacional de direitos humanos Human Rights Watch.
“Os primeiros que vi foram vídeos caseiros, de família, postados em 1994. E tem também imagens recentes de festas de aniversário de crianças que aconteceram em 2023”, diz Hye Jung Han, pesquisadora do Human Rights Watch.
A pesquisadora da organização contou que foram descobertas, em uma plataforma alemã chamada LAION-5B, pelo menos 170 fotos de crianças de 10 estados brasileiros. Ela disse que a plataforma reconheceu o uso e disse que retiraria as imagens.
“O problema é que olhamos apenas uma pequena amostra de um conjunto de dados. Então, é realmente a ponta do iceberg”, afirma Hye Jung Han.
Além da invasão de privacidade, o grande perigo do uso de imagens sem autorização é o da manipulação dessas imagens. Elas podem acabar sendo usadas não só para treinar a inteligência artificial, mas em manipulações difamatórias, criminosas, pornográficas. E isso pode prejudicar muito a vida de qualquer um, especialmente das crianças e adolescentes.
As letras miúdas com as quais concordamos ao entrar em redes sociais e aplicativos envelheceram diante da nova realidade da inteligência artificial. É o que explica Rafael Zanatta, membro da Comissão de Defesa dos Direitos da Criança da OAB e advogado especializado em direito à privacidade e vigilância em tecnologia.
“Nós não podemos usar esses modelos antigos de consentimento porque pessoas que concordaram no passado, concordaram com contextos específicos. Elas não concordaram que poderia existir uma extração massiva dessas informações para outros fins. Eles treinaram as bases de dados com crianças, com possibilidade de reredificação e estão utilizando para oferecer depois serviços de imagem sintética. Então, o problema é bastante grave”, afirma Rafael Zanatta.
O perigo pode diminuir com a lei que está em discussão essa semana no Senado e deve ser aperfeiçoada com ajuda da sociedade e votada em breve.
“É realmente importante garantir que os legisladores levem isso muito a sério e aprovem leis realmente abrangentes de proteção de dados infantis. É possível aprovar leis agora mesmo para impedir que isso se torne ainda mais prejudicial, não apenas para as crianças, mas para todos”, diz Hye Jung Han, pesquisadora do Human Rights Watch.
Texto publicado originalmente no dia 10.06.2024 no site Jornal nacional, disponível também em vídeo.
Veja também
-
IA e os direitos das crianças
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger as crianças e adolescentes em um cenário onde as interações digitais estão se tornando cada vez mais prevalentes? Saiba mais no texto.
-
Data Privacy Brasil submete contribuição para o Grupo de Trabalho do Conanda
O objetivo é contribuir para o desenvolvimento da Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital. Confira quais foram as nossas indicações no texto.
-
Relatório aponta que uso da IA nas eleições não causou impacto negativo
Na quarta-feira (16), Carla Rodrigues, coordenadora da área de Plataformas e Mercados Dgitais na Data Privacy Brasil esteve presente no programa Jornal da Cultura. A edição repercutiu o relatório "IA no primeiro turno: o que vimos até aqui?", uma parceria entre Aláfia Lab, *desinformante e Data Privacy Brasil.
-
IA no primeiro turno: o que vimos até aqui?
Aláfia Lab, *desinformante e Data Privacy Brasil lançam relatório com análise sobre o uso de IA no primeiro turno das eleições de 2024.
-
‘Nudes’ falsos, deepfake e jingles sintéticos marcam uso da IA no primeiro turno e apontam desafios para 2026
Embora o temor de desinformação massiva não tenha se concretizado, casos registrados na eleições municipais servem de alerta para a corrida presidencial, avaliam especialistas. Confira a reportagem sobre o novo relatório do Observatório IA nas Eleições, parceria entre Data Privacy Brasil, o Aláfia Lab e desinformante.
-
Data participa da 9ª edição do Simpósio Crianças e Adolescentes na Internet
Estão abertas as inscrições para a 9° edição do “Simpósio Crianças e Adolescentes na Internet”, que acontece no dia 23 de outubro de 2024, em São Paulo.
-
IA com Direitos: diálogo e colaboração para regular e proteger
A Data Privacy Brasil lança projeto para unir pessoas e organizações para uma regulação de IA centrada em direitos no Brasil.
-
Data Privacy Brasil e Aláfia Lab lançam o “Observatório de IA nas eleições”
A Data Privacy Brasil, em parceria com o Aláfia Lab e o *desinformante, lançam o “Observatório de IA nas Eleições”, uma nova plataforma que tem o objetivo de mapear e registrar casos de uso de IA generativa durante as eleições brasileiras de 2024.
Veja Também
-
IA e os direitos das crianças
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger as crianças e adolescentes em um cenário onde as interações digitais estão se tornando cada vez mais prevalentes? Saiba mais no texto.
-
Relatório aponta que uso da IA nas eleições não causou impacto negativo
Na quarta-feira (16), Carla Rodrigues, coordenadora da área de Plataformas e Mercados Dgitais na Data Privacy Brasil esteve presente no programa Jornal da Cultura. A edição repercutiu o relatório "IA no primeiro turno: o que vimos até aqui?", uma parceria entre Aláfia Lab, *desinformante e Data Privacy Brasil.
-
IA no primeiro turno: o que vimos até aqui?
Aláfia Lab, *desinformante e Data Privacy Brasil lançam relatório com análise sobre o uso de IA no primeiro turno das eleições de 2024.
-
‘Nudes’ falsos, deepfake e jingles sintéticos marcam uso da IA no primeiro turno e apontam desafios para 2026
Embora o temor de desinformação massiva não tenha se concretizado, casos registrados na eleições municipais servem de alerta para a corrida presidencial, avaliam especialistas. Confira a reportagem sobre o novo relatório do Observatório IA nas Eleições, parceria entre Data Privacy Brasil, o Aláfia Lab e desinformante.
-
Data participa da 9ª edição do Simpósio Crianças e Adolescentes na Internet
Estão abertas as inscrições para a 9° edição do “Simpósio Crianças e Adolescentes na Internet”, que acontece no dia 23 de outubro de 2024, em São Paulo.
-
IA com Direitos: diálogo e colaboração para regular e proteger
A Data Privacy Brasil lança projeto para unir pessoas e organizações para uma regulação de IA centrada em direitos no Brasil.
-
Data Privacy Brasil e Aláfia Lab lançam o “Observatório de IA nas eleições”
A Data Privacy Brasil, em parceria com o Aláfia Lab e o *desinformante, lançam o “Observatório de IA nas Eleições”, uma nova plataforma que tem o objetivo de mapear e registrar casos de uso de IA generativa durante as eleições brasileiras de 2024.
-
Leituras fundamentais para compreender o debate de regulação de mercados digitais no Brasil
O tema da regulação econômica dos mercados digitais tem se tornado cada vez mais crucial para democracias contemporâneas, como a brasileira. Confira as recomendações sobre o tema em texto escrito por Rafael Zanatta, codiretor da Data.
-
IA e direitos para quem trabalha
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger quem trabalha em um ambiente de rápidas transformações? Confira no texto.
-
No aniversário de 6 anos da LGPD, Data Privacy Brasil pede priorização da proteção das crianças e adolescentes
A tomada de subsídios é mais um passo na construção de uma agenda de regulação da ANPD neste tema, em julho, diversas organizações da sociedade civil pediram aumento do prazo para a agência devido à importância da discussão.
-
Entidades civis exigem da ANPD mais prazo para discussão de proteção de dados de crianças e adolescentes
Dada a importância do tema e a necessidade de um prazo maior para análise, compreensão e produção de contribuições, diversas entidades assinaram uma Carta Aberta solicitando à ANPD a ampliação do prazo por mais 30 dias.
-
IA na sala de aula: Construindo modelos participativos para a comunidade escolar
Como a comunidade escolar pode participar da governança das tecnologias de ensino-aprendizagem? Para responder a esta questão, lançamos a cartilha “Inteligência Artificial na Sala de Aula: modelos de participação para a comunidade escolar”.
-
IAs nas eleições: ‘socializar e compartilhar não apenas os benefícios mas também os riscos’
O TSE deve votar hoje as regras para as eleições municipais. Bruno Bioni, diretor do Data Privacy Brasil, fala sobre resolução que deve disciplinar uso de tecnologias de inteligência artificial nas campanhas.
-
Data Privacy Brasil demanda esforços públicos e privados nas eleições de 2024 diante das IAs
A Data Privacy Brasil vem a público elogiar a aprovação de novas regras para eleições de 2024 pelo Tribunal Superior Eleitoral (TSE) na noite de 27 de fevereiro, sob relatoria da vice-presidente da corte eleitoral, ministra Cármen Lúcia, bem como manifestar preocupações com relação aos potenciais usos abusivos de tecnologias da informação nas eleições deste ano.
-
Temas Centrais na Regulação de IA: o local, regional e o global na busca da interoperabilidade regulatória
A Data Privacy Brasil anuncia o lançamento de seu position paper sobre temas centrais na regulação local, regional e global de inteligência artificial. O documento traz os principais pontos de convergência entre mais de 20 fontes normativas, sem deixar de considerar as particularidades necessárias para o contexto brasileiro.
-
Confundida com criminosa por ‘Inteligência Artificial’ denuncia racismo: “Discriminada por ser pobre e preta”
Um erro da IA (Inteligência Artificial) usada no reconhecimento facial das câmeras de um evento em Aracaju (SE), motivou a abordagem. Ela conta que, meia hora após chegar à micareta, três agentes à paisana da PM a interceptaram. Perguntaram o nome dela e pediram o documento. Como ela estava sem o RG, o constrangimento iniciou.
-
EUA adotam novas diretrizes para IA
Na última segunda (30/10), o presidente dos Estados Unidos, Joe Biden assinou um decreto sobre inteligência artificial, o qual busca equilibrar as necessidades de empresas de tecnologia de ponta com a segurança nacional e os direitos dos consumidores. O governo estadunidense almeja estabelecer um conjunto de proteções que possam ser fortalecidas por legislações e acordos globais. Mas quais disposições são essas? Vamos conferir!
-
Data Privacy Brasil participates in UN’s OHCHR briefing on Brazil
The organization highlighted how the advance of edtech has been violating children’s privacy in the country
-
Privacidade e Proteção de Dados: Uma abordagem dos direitos das crianças para a criptografia
Há quem entenda que a garantia do anonimato pela criptografia e a proteção de crianças na internet são coisas separadas, até mesmo opostas. Porém, novo relatório propõe uma olhar mais complexo e multissetorial para a questão.
-
Associação Data Privacy Brasil de Pesquisa participa da Reunião Ministerial da OCDE sobre economia digital
Evento teve como principal tema de debate os caminhos para um futuro inclusivo no ambiente virtual
-
Organização Mundial do Comércio realiza a sua 12ª Conferência Ministerial
A cobertura do evento, dedicado a acordos e negociações envolvendo comércio internacional, foi acompanhada pela Associação Data Privacy Brasil de Pesquisa.
-
Associação Data Privacy Brasil de Pesquisa participa do painel “Proteção de criança online na pandemia: ferramentas e boas práticas para um ambiente seguro”
Workshop, que faz parte das atividades do 12 Fórum da Internet no Brasil, buscou apresentar e debater o surgimento de novas ferramentas para conter as ameaças que crianças e adolescentes encontram ao utilizarem a internet
-
The regulation of digital platforms is already a reality
The Digital Markets Act is about to be approved in the European Union and is expected to impact other jurisdictions
-
Conectas e Data Privacy Brasil lançam a 31° edição da Revista Sur
Publicação proporciona debates a respeito dos impactos da pandemia sobre os direitos coletivos e liberdades individuais no Sul Global
-
A regulação de plataformas digitais já é realidade
O Digital Markets Act está para ser aprovado na União Europeia e deve impactar outras jurisdições
-
DISCUSSION PAPER No 2/2021: A MULTIJURISDICTIONAL ANALYSIS OF DATA-DRIVEN MERGERS: CURRENT ASSESSMENT AND PUBLIC POLICY PROPOSALS FOR BRAZIL
Data Privacy Brazil Research in partnership with the Brazilian Institute for Consumer Protection (Idec) launches a seven month study about data-driven mergers led by the researcher Lucas Griebeler Motta (University of Chicago).
-
A proteção legal dos dados pessoais de crianças e adolescentes no Brasil
Discussões sobre a proteção de dados de crianças e adolescentes ao longo do processo de discussão da LGPD no Executivo e Legislativo, buscando entender como chegou-se ao atual art. 14 da lei.
-
TikTok e o “caso Antonella” na Itália
Uma menina de 10 anos chamada Antonella foi ao banheiro da sua residência, sozinha, levando seu celular, para realizar um desafio denominado blackout challenge no aplicativo TikTok. O desafio consistia em tentar ficar sem respirar o máximo possível. Para tanto, ela colocou uma faixa ao redor do pescoço, o que gerou um desmaio, seguido de um coma. […]
DataPrivacyBr Research | Conteúdo sob licenciamento CC BY-SA 4.0