Banimento, moratória, regulação: os movimentos em torno do reconhecimento facial
No artigo intitulado Regulating AI and Machine Learning: Setting the Regulatory Agenda, Julia Black e Andrew Murray afirmam que a forma como a sociedade recebe e absorve o potencial de novas tecnologias é largamente determinada pelos modelos regulatórios e de governança que são aplicados a elas. Dentre as tecnologias que atualmente estão no epicentro do debate regulatório, destacam-se as de […]
No artigo intitulado Regulating AI and Machine Learning: Setting the Regulatory Agenda, Julia Black e Andrew Murray afirmam que a forma como a sociedade recebe e absorve o potencial de novas tecnologias é largamente determinada pelos modelos regulatórios e de governança que são aplicados a elas. Dentre as tecnologias que atualmente estão no epicentro do debate regulatório, destacam-se as de reconhecimento facial. Embora não se trate de debate novo (em 2009, a Declaração de Madri já clamava por uma moratória sobre o reconhecimento facial para fins de vigilância), recentemente o avanço da tecnologia tem levado a movimentos pela regulação do reconhecimento facial e, em alguns casos, pelo seu banimento parcial ou completo.
Não é por pouco. Em recente reportagem, o The Guardian relatou que a Alemanha executou um teste com a ferramenta em Berlim e, em razão de seu sucesso, pretende implementar o reconhecimento facial em 134 estações de trem e 14 aeroportos. Na França, também há um movimento acelerado quanto à aplicação da tecnologia e no Reino Unido, apoiadores do Brexit veem a saída da União Europeia como positiva por quererem a instalação rápida desta tecnologia, dentre outras. O distanciamento significa escapar de regulações existentes sobre privacidade e proteção de dados pessoais, bem como de futuras leis sobre o emprego do reconhecimento facial. O avanço rápido da tecnologia gera preocupações, e não apenas por parte da sociedade civil organizada.
As grandes empresas de tecnologia, como a Microsoft, não negam os potenciais problemas advindos do emprego do reconhecimento facial, mas, ao mesmo tempo, não endossam o discurso de que a tecnologia deva ser banida. Há uma tendência entre o setor empresarial de pressionar os governos para o estabelecimento de regulação, parâmetros e princípios para a aplicação do reconhecimento facial, enquanto também desenvolvem as suas próprias diretrizes.
Segundo o artigo “Facial Recognition: It’s time for action“ de Brad Smith, presidente da Microsoft, não estabelecer imediatamente parâmetros regulatórios para o uso do reconhecimento facial e banir seu uso significa que, no futuro, o uso da tecnologia será inevitável e terá um impacto ainda mais negativo da perspectiva da vigilância opressiva. Do ponto de vista prático, a empresa elencou os três principais propósitos de uma regulação do reconhecimento facial: endereçar vieses e discriminação, proteger a privacidade das pessoas e proteger liberdades democráticas e direitos humanos.
A opinião da Microsoft, no entanto, não convenceu parte dos estados e cidades americanos. Em 2019, São Francisco baniu o uso de reconhecimento facial pelos órgãos governamentais locais e em 2020, Cambridge, cidade do Massachusetts Institute of Technology (MIT) e de Harvard, também vetou o emprego da tecnologia. Esses são dois eventos representativos de como as cidades mais tecnológicas do mundo têm lidado com os problemas apresentados pela aplicação do reconhecimento facial.
Entre o banimento e a aplicação imediata, existem as instituições que se posicionam pela moratória do uso das tecnologias de reconhecimento facial. Mais de quarenta grupos assinaram uma carta redigida no dia 27 de janeiro pela Electronic Privacy Information Center (EPIC) endereçada ao Conselho de Privacidade e Liberdades Civis, uma agência do ramo executivo estadunidense. A argumentação da carta gira em torno da ideia de o uso da tecnologia deve ser proibido “com revisão pendente” pois, em recente investigação do New York Times sobre a empresa Clearview AI, concluiu-se que a formulação do banco de dados e implementação de decisões por inteligência artificial pode ser imprecisa e pode ser usada para “controlar populações minoritárias e limitar a dissidência“.
A carta vem na esteira de um crescente movimento pela moratória do reconhecimento facial, que encontra expressão em manifestos como o assinado pela professora Kate Crawford, em agosto de 2019, e a Declaração pela Moratória da Tecnologia de Reconhecimento Facial para fins de Vigilância em Massa, adotada em Tirana, Albânia, em outubro de 2019, e subscrita por cerca de 100 organizações e mais de 1000 indivíduos. No mesmo mês, os professores Evan Selinger e Woodrow Hartzog escreveram, para o New York Times, um contundente ensaio sobre o tema, intitulado ‘’What Happens When Employers Can Read Your Facial Expressions?’’. Os argumentos giram em torno das imprecisões e vieses verificados no emprego da tecnologia, mas também dos perigos apresentados por ela quando funciona corretamente. A ubiquidade do reconhecimento facial, isto é, sua capacidade de ‘’estar em todo lugar’’ é um dos pontos levantados. O subtítulo do texto de Selinger e Hartzog sintetiza a tese: ‘’os benefícios não chegam perto de superar os riscos’’.
Mais recentemente, a União Europeia fez um movimento no sentido de adotar uma moratória ao reconhecimento facial em locais públicos por um período de 3 a 5 anos. A proposta surgiu em um ‘’white paper’’ da Comissão Europeia e apontava para a necessidade de estabelecimento de mecanismos de avaliação de risco antes de se permitir o emprego massivo do reconhecimento facial em locais como shopping centers, praças públicas, estádios de futebol, etc… No entanto, a iniciativa parece não ter avançado nas versões mais recentes do documento, conforme indica matéria da Reuters.
No Brasil, igualmente a tecnologia parece avançar, mesmo sem nenhuma regulação específica. Estudo do Instituto Igarapé identificou inúmeros casos de implantação da tecnologia pelo poder público, com destaque para os seguinte setores: (i) educação, (ii) transporte, (iii) controle de fronteiras e (iv) segurança pública. O setor privado não é diferente – em 2019, o Instituto Brasileiro de Defesa do Consumidor (Idec) notificou a empresa Hering, requerendo informações sobre o emprego da tecnologia de reconhecimento facial para fins de publicidade direcionada. Ricardo Abramovay, no ensaio Como enfrentar a Era da Vigilância Total, faz referência ao caso brasileiro e aos perigos que o avanço da tecnologia suscita frente a um quadro que inclui, por exemplo, o novo Cadastro Base do Cidadão.
Ainda não há, no país, um movimento pelo banimento do reconhecimento facial, nem por uma moratória, mas o mesmo não pode ser dito de iniciativas para sua regulação. Se entre 2015 e 2017, foram registrados 2 atos legislativos sobre reconhecimento facial na Câmara dos Deputados, entre 2018 e 2019, o número subiu para 23, dentre os quais 10 projetos de lei em tramitação, com diferentes vieses: direito à informação, utilização em casos de medidas protetivas, e regulamentação propriamente dita. .
Enquanto não surge uma regulação específica para a matéria, vale lembrar que o Brasil possui um marco robusto de proteção aos direitos fundamentais, inclusive a privacidade, e que a Lei Geral de Proteção de Dados (Lei nº 13.709/2018), cuja vigência inicia em agosto de 2020, também traz elementos que serão importantes na disputa regulatória do tema, como os princípios da necessidade, qualidade e não-discriminação e a previsão de relatórios de impacto à proteção de dados.
Veja também
-
Fortalecendo a Sociedade Civil no Combate ao Spyware: o processo seletivo do Malhas Digitais
O Programa Malhas Digitais tem o orgulho de anunciar os três projetos selecionados na sua primeira rodada de financiamento. Cada um desses projetos foi escolhido após um rigoroso processo seletivo, trazendo contribuições inovadoras e essenciais para o campo da detecção e análise forense de spyware no Brasil. Confira o resultado no texto.
-
Câmeras corporais na segurança pública no Brasil: diagnóstico sobre o uso secundário de dados de forma justa
A Data Privacy Brasil, com apoio do Instituto Betty e Jacob Lafer, lança relatório inédito a respeito do tratamento de dados pessoais através das câmeras corporais por policiais militares no Brasil.
-
Evento – Câmeras Corporais na segurança pública no Brasil
A Data Privacy Brasil anuncia o evento online “Câmeras Corporais na segurança pública no Brasil”, para promover o lançamento do relatório inédito “Câmeras corporais na segurança pública no Brasil: diagnóstico sobre o uso secundário de dados de forma justa”. A conversa acontece na próxima terça-feira (12), às 16:30.
-
Lideranças comunitárias participam de oficina sobre direitos digitais em Salvador – BA
Promovida pela Data Privacy Brasil junto da Defensoria Pública do Estado da Bahia, com apoio de sua Ouvidoria-Geral, o evento teve o objetivo de sensibilizar lideranças comunitárias para as questões de discriminação e abuso relacionadas à tecnologia e dados.
-
Programa de vigilância do MJ permite a 55 mil agentes seguir “alvos” sem justificativa
Com milhares de usuários civis e militares, sistema Córtex do Ministério da Justiça explodiu desde o governo Bolsonaro. Confira a matéria da Agência Pública sobre o tema com participação de Rafael Zanatta, codiretor da Data.
-
Edital | Programa Malhas Digitais: apoio para projetos de detecção de Spywares no Brasil
A Data Privacy Brasil, em parceria com o InternetLab, anuncia o lançamento do edital Malhas Digitais para financiamento semente de projetos que visam o desenvolvimento de protocolos e soluções voltadas à detecção de spywares no Brasil.
-
Datificação da carne: a imprescindibilidade de dados pessoais para rastreabilidade, monitoramento e responsabilização da cadeia produtiva da carne no Brasil
O relatório tem como objetivo identificar a possibilidade de utilização dos dados pessoais contidos nas bases de dados da Guia de Trânsito Animal (GTA) para fins de proteção do meio ambiente, auxiliando na aplicação do Código Florestal.
-
Guia de Trânsito de Animais auxilia na proteção do meio ambiente
Confira a matéria da Folha de S. Paulo sobre o novo relatório produzido pela Data.
Veja Também
-
Fortalecendo a Sociedade Civil no Combate ao Spyware: o processo seletivo do Malhas Digitais
O Programa Malhas Digitais tem o orgulho de anunciar os três projetos selecionados na sua primeira rodada de financiamento. Cada um desses projetos foi escolhido após um rigoroso processo seletivo, trazendo contribuições inovadoras e essenciais para o campo da detecção e análise forense de spyware no Brasil. Confira o resultado no texto.
-
Evento – Câmeras Corporais na segurança pública no Brasil
A Data Privacy Brasil anuncia o evento online “Câmeras Corporais na segurança pública no Brasil”, para promover o lançamento do relatório inédito “Câmeras corporais na segurança pública no Brasil: diagnóstico sobre o uso secundário de dados de forma justa”. A conversa acontece na próxima terça-feira (12), às 16:30.
-
Lideranças comunitárias participam de oficina sobre direitos digitais em Salvador – BA
Promovida pela Data Privacy Brasil junto da Defensoria Pública do Estado da Bahia, com apoio de sua Ouvidoria-Geral, o evento teve o objetivo de sensibilizar lideranças comunitárias para as questões de discriminação e abuso relacionadas à tecnologia e dados.
-
Programa de vigilância do MJ permite a 55 mil agentes seguir “alvos” sem justificativa
Com milhares de usuários civis e militares, sistema Córtex do Ministério da Justiça explodiu desde o governo Bolsonaro. Confira a matéria da Agência Pública sobre o tema com participação de Rafael Zanatta, codiretor da Data.
-
Edital | Programa Malhas Digitais: apoio para projetos de detecção de Spywares no Brasil
A Data Privacy Brasil, em parceria com o InternetLab, anuncia o lançamento do edital Malhas Digitais para financiamento semente de projetos que visam o desenvolvimento de protocolos e soluções voltadas à detecção de spywares no Brasil.
-
Datificação da carne: a imprescindibilidade de dados pessoais para rastreabilidade, monitoramento e responsabilização da cadeia produtiva da carne no Brasil
O relatório tem como objetivo identificar a possibilidade de utilização dos dados pessoais contidos nas bases de dados da Guia de Trânsito Animal (GTA) para fins de proteção do meio ambiente, auxiliando na aplicação do Código Florestal.
-
Guia de Trânsito de Animais auxilia na proteção do meio ambiente
Confira a matéria da Folha de S. Paulo sobre o novo relatório produzido pela Data.
-
Edital | Artistas – Ciclo formativo em direitos digitais
A Data Privacy Brasil torna pública a seleção de artistas da região metropolitana de Salvador/Bahia para participar na atividade “Ciclo formativo em direitos digitais e proteção de dados para lideranças populares”.
-
Edital | Monitoria – Ciclo formativo em direitos digitais
A Data Privacy Brasil torna pública a seleção de bolsistas para apoiar a atividade de monitoria do projeto “Ciclo formativo em direitos digitais e proteção de dados para lideranças populares”, até o dia 16 de setembro de 2024.
-
Data Privacy Brasil e InternetLab protocolam Amicus Curiae no Supremo Tribunal Federal (STF) analisando o uso de ferramentas de monitoramento secreto
A Data Privacy Brasil e a InternetLab, com o apoio do escritório Mudrovitsch Advogados, protocolaram nesta semana a amicus curiae referente à Arguição de Descumprimento de Preceito Fundamental (ADPF) 1143, proposta pela Procuradoria-Geral da República (PGR), que aborda a regulamentação do uso de ferramentas de hacking governamental, monitoramento através de spywares em aparelhos de comunicação pessoal por órgãos e agentes públicos.
-
Data Privacy Brasil publica nota sobre a Portaria 648/2024 – Diretrizes sobre o uso de câmeras corporais pelos órgãos de segurança pública
As diretrizes estabelecidas pela Portaria nº 648/2024 são fundamentais para promover a transparência e integridade no uso de câmeras corporais pelos órgãos de segurança pública e reafirmam a importância da participação social.
-
Data Privacy Brasil, com apoio do Instituto Lafer, promove primeiro Encontro sobre Câmeras Corporais
O 1º Encontro de Discussão Câmeras Corporais: Parâmetros para o uso , teve como objetivo a capacitação e debate técnico para promoção do uso de tecnologias por órgãos de segurança pública, orientados pela qualidade, eficiência e o devido processo.
-
Data Privacy Brasil participa de audiência no Supremo Tribunal Federal (STF) que discutiu o uso de ferramentas de monitoramento secreto
A Data Privacy Brasil, esteve presente na segunda-feira (10) na audiência pública no Supremo Tribunal Federal sobre a regulamentação de softwares espiões, sendo representada por Pedro Saliba, coordenador da área de Assimetrias e Poder.
-
Entidades mostram preocupação com aumento na contratação de softwares espiões
A Data Privacy Brasil, esteve presente na segunda-feira (10) na audiência pública no Supremo Tribunal Federal sobre a regulamentação de softwares espiões, sendo representada por Pedro Saliba, coordenador da área de Assimetrias e Poder.
-
Transparent monitoring for sustainability through DPIs
In this new publication, researchers Gabriela Vergili, Pedro Saliba from Data Privacy Brasil, Vinay Narayan and Soujanya Sridharan from Aapti Institute, discuss the “Transparent monitoring for sustainability through DPIs”.
-
Data Privacy Brasil adere a movimento sobre informação ambiental
A Data Privacy Brasil comunica a adesão ao Movimento Escazú Brasil. O Movimento é formado por organizações da sociedade civil, redes, coalizões, movimentos sociais e cidadãos e cidadãs que atuam para promover o Acordo de Escazú no Brasil e a participação qualificada da sociedade civil brasileira nas Conferências das Partes (COPs) e outras atividades relacionadas ao acordo.
-
Rio de Janeiro regulamenta reconhecimento fotográfico de pessoas em investigações criminais
Lei nº 10.141/2023 é fruto do trabalho de diversas organizações que lutavam contra a prisão de inocentes baseadas unicamente em fotos e vídeos.
-
Data Privacy Brasil fará parte de Grupo de Trabalho Global para Combater o Autoritarismo Digital
O instituto reuniu um grupo de trabalho de especialistas com experiência no domínio dos direitos humanos e da tecnologia para consultas sobre tendências globais emergentes nas relações com o autoritarismo digital e para ajudar a aconselhar o financiamento e a estratégia operacional do GDAA.
-
Câmeras Corporais: Nota técnica, audiência pública e a contribuição da Data Privacy Brasil
No dia 1º de setembro de 2023, a Data Privacy Brasil esteve presente com fala de Pedro Saliba, coordenador da área de Assimetrias e Poder na audiência pública nº 01/2023 - CNM/CGMTEC/DSUSP/SENASP/MJSP, referente ao projeto de norma técnica sobre câmeras corporais sendo desenvolvida pelo Ministério da Justiça e Segurança Pública.
-
Tecnoautoritarismo e o controle das atividades de inteligência: por que a CCAI não está analisando mais casos?
Falta transparência na Comissão Mista de Controle de Atividades de Inteligência, órgão legislativo de fiscalização e controle externo das atividades de inteligência e contrainteligência no Brasil, que deixou de analisar casos importantes entre 2020 e 2021.
-
Associação Data Privacy Brasil de Pesquisa oficia Ministério Público Federal sobre uso do software FirstMile pela Inteligência
A utilização do sistema FirstMile, capaz de rastrear pessoas a partir de seus celulares pela Abin, viola direitos fundamentais como a proteção de dados e escancara o tecnoautorismo.
-
Nota pública da Data Privacy Brasil sobre os atos antidemocráticos de 08 de janeiro de 2023
A Associação Data Privacy Brasil de Pesquisa e o Data Privacy Brasil Ensino vêm a público manifestar sua preocupação e repúdio aos atos antidemocráticos ocorridos no Palácio do Planalto, Congresso Nacional e Supremo Tribunal Federal na tarde de domingo, 08 de janeiro de 2023. Confira a nota na íntegra.
-
Associação Data Privacy Brasil de Pesquisa entra com representação no Ministério Público Eleitoral contra a campanha do presidente Jair Bolsonaro por ilícito de dados
Documento apresentado pela organização expõe denúncia envolvendo o compartilhamento ilegal de dados pessoais do Cadastro Único
-
First of a workshop series about technical forums talks about standards at the IEEE
Event organized by Associação Data Privacy Brasil de Pesquisa addressed the debate on organized policies and/or technical standards that impact the future of dataification and democracy.
-
Data Privacy promove denúncia na Procuradoria Regional Eleitoral por usos ilícitos de dados pessoais em São Paulo
Representação legal ocorre em razão da possível utilização de base de dados de maneira ilegal no contexto de propaganda eleitoral
-
Falta de transparência e liberdade de imprensa e uso indevido de tecnologias traçam panorama do espaço cívico brasileiro em avaliação da OCDE
Relatório lançado em junho deste ano avalia as práticas e políticas do governo federal na última década e identifica ameaças ao espaço cívico.
-
Tecnoautoritarismo é discutido na Law and Society Association
7th Global Meeting on Law & Society ocorreu de maneira hibrida e buscou debater e reimaginar estruturas sociais, legais e políticas que perpetuam assimetrias na sociedade
-
Fórum da Sociedade Civil da Rede Ibero-Americana de Proteção de Dados promove webinar sobre proteção de dados e concorrência
Evento buscou debater os impactos causados pela mudança da politica de privacidade do WhatsApp
-
MPF acata pedido da sociedade civil sobre irregularidades do Poder Executivo Federal acerca de tecnologias de segurança pública
A utilização de tecnologias pelo Governo Federal sem qualquer controle representa uma ameaça a direitos e liberdades fundamentais dos cidadãos.
-
Construindo caminhos para a justiça de dados no Brasil: o papel das Defensorias Públicas na proteção de dados pessoais
Resultado do projeto “Expandindo o papel das Defensorias Públicas na proteção de dados no Brasil” e-book busca evidenciar as desigualdades estruturais deste país como desafios para a proteção de dados pessoais e para o acesso à justiça, e o papel das Defensorias Públicas na concretização de direitos.
-
O que sabemos sobre a Harpia Tech?
As informações abaixo são parte de um dossiê coletivo do projeto “Defendendo o Brasil do Tecnoautoritarismo”
-
Data Privacy Brasil apresenta plataforma Dados Virais em conferência internacional
Evento realizado na Holanda buscou debater o vigilantismo digital e social no contexto pós-pandêmico
-
Abraji e Associação Data Privacy Brasil de Pesquisa lançam documento sobre a não aplicação da LGPD ao jornalismo
Texto ressalta a importância da lei na garantia do acesso à informação, liberdade de expressão e da livre atividade jornalística como um dos pilares do Estado Democrático de Direito
-
Data Privacy Brasil participa do Fórum Social Mundial
Evento buscou colocar em colaboração organizações e movimentos sociais que se contrapõem à globalização neoliberal e estão construindo alternativas para favorecer as lutas democráticas e humanistas
-
Reconhecimento fotográfico e proteção de dados pessoais nas delegacias
Método utilizado de maneira habitual nas delegacias brasileiras para identificação de supostos criminosos é uma violação constitucional com evidente viés racial
-
Associação Data Privacy Brasil de Pesquisa e TEDIC lançam relatório sobre vigilância na tríplice fronteira
Pesquisa buscou investigar o funcionamento do Centro Integrado de Operações na Fronteira (CIOF) e suas infraestruturas de guarda de dados
-
Conectas e Data Privacy Brasil lançam a 31° edição da Revista Sur
Publicação proporciona debates a respeito dos impactos da pandemia sobre os direitos coletivos e liberdades individuais no Sul Global
-
Data Privacy Brasil participa do encontro Privacy Camp 2022
Evento reúne ativistas de proteção de dados pessoais para discussão sobre marginalização de direitos
-
Transparência sob ataque
Texto publicado na Folha de São Paulo sobre o uso da LGPD como escudo contrário à transparência de informações públicas.
-
Uma questão de justeza procedimental: regulamentação do reconhecimento fotográfico e ciclo de vida dos dados
Ensaio sobre o ciclo de vida dos dados na procedimentalização do reconhecimento fotográfico.
-
Tudo o que você precisa saber sobre as tecnologias de rastreamento utilizadas no combate à COVID-19
Contribuição especial de Luiza Pollo para Associação Data Privacy Brasil de Pesquisa Ainda sem uma vacina ou um medicamento que comprovadamente ajude a combater a Covid-19, o distanciamento social é a maneira defendida por especialistas para conter a disseminação do novo coronavírus. Considerando que quase quatro bilhões de pessoas no mundo têm um smartphone e […]
DataPrivacyBr Research | Conteúdo sob licenciamento CC BY-SA 4.0