Artigo | IA com Direitos | Plataformas e Mercados Digitais

Banimento, moratória, regulação: os movimentos em torno do reconhecimento facial

No artigo intitulado Regulating AI and Machine Learning: Setting the Regulatory Agenda, Julia Black e Andrew Murray afirmam que a forma como a sociedade recebe e absorve o potencial de novas tecnologias é largamente determinada pelos modelos regulatórios e de governança que são aplicados a elas. Dentre as tecnologias que atualmente estão no epicentro do debate regulatório, destacam-se as de reconhecimento facial. Embora não se trate de debate novo (em 2009, a Declaração de Madri já clamava por uma moratória sobre o reconhecimento facial para fins de vigilância), recentemente o avanço da tecnologia tem levado a movimentos pela regulação do reconhecimento facial e, em alguns casos, pelo seu banimento parcial ou completo.

Não é por pouco. Em recente reportagem, o The Guardian relatou que a  Alemanha executou um teste com a ferramenta em Berlim e, em razão de seu sucesso, pretende implementar o reconhecimento facial em 134 estações de trem e 14 aeroportos. Na França, também há um movimento acelerado quanto à aplicação da tecnologia e no Reino Unido, apoiadores do Brexit veem a saída da União Europeia como positiva por quererem a instalação rápida desta tecnologia, dentre outras. O distanciamento significa escapar de regulações existentes sobre privacidade e proteção de dados pessoais, bem como de futuras leis sobre o emprego do reconhecimento facial. O avanço rápido da tecnologia gera preocupações, e não apenas por parte da sociedade civil organizada.

As grandes empresas de tecnologia, como a Microsoft, não negam os potenciais problemas advindos do emprego do reconhecimento facial, mas, ao mesmo tempo, não endossam o discurso de que a tecnologia deva ser banida. Há uma tendência entre o setor empresarial de pressionar os governos para o estabelecimento de regulação, parâmetros e princípios para a aplicação do reconhecimento facial, enquanto também desenvolvem as suas próprias diretrizes.

Segundo o artigo “Facial Recognition: It’s time for action“ de Brad Smith, presidente da Microsoft, não estabelecer imediatamente parâmetros regulatórios para o uso do reconhecimento facial e banir seu uso significa que, no futuro, o uso da tecnologia será inevitável e terá um impacto ainda mais negativo da perspectiva da vigilância opressiva. Do ponto de vista prático, a empresa elencou os três principais propósitos de uma regulação do reconhecimento facial: endereçar vieses e discriminação, proteger a privacidade das pessoas e proteger liberdades democráticas e direitos humanos.

A opinião da Microsoft, no entanto, não convenceu parte dos estados e cidades americanos. Em 2019, São Francisco baniu o uso de reconhecimento facial pelos órgãos governamentais locais e em 2020, Cambridge, cidade do Massachusetts Institute of Technology (MIT) e de Harvard, também vetou o emprego da tecnologia. Esses são dois eventos representativos de como as cidades mais tecnológicas do mundo têm lidado com os problemas apresentados pela aplicação do reconhecimento facial.

Entre o banimento e a aplicação imediata, existem as instituições que se posicionam pela moratória do uso das tecnologias de reconhecimento facial. Mais de quarenta grupos assinaram uma carta redigida no dia 27 de janeiro pela Electronic Privacy Information Center (EPIC) endereçada ao Conselho de Privacidade e Liberdades Civis, uma agência do ramo executivo estadunidense. A argumentação da carta gira em torno da ideia de o uso da tecnologia deve ser proibido “com revisão pendente” pois, em recente investigação do New York Times sobre a empresa Clearview AI, concluiu-se que a formulação do banco de dados e implementação de decisões por inteligência artificial pode ser imprecisa e pode ser usada para “controlar populações minoritárias e limitar a dissidência“.

A carta vem na esteira de um crescente movimento pela moratória do reconhecimento facial, que encontra expressão em manifestos como o assinado pela professora Kate Crawford, em agosto de 2019, e a Declaração pela Moratória da Tecnologia de Reconhecimento Facial para fins de Vigilância em Massa, adotada em Tirana, Albânia, em outubro de 2019, e subscrita por cerca de 100 organizações e mais de 1000 indivíduos. No mesmo mês, os professores Evan Selinger e Woodrow Hartzog escreveram, para o New York Times, um contundente ensaio sobre o tema, intitulado ‘’What Happens When Employers Can Read Your Facial Expressions?’’. Os argumentos giram em torno das imprecisões e vieses verificados no emprego da tecnologia, mas também dos perigos apresentados por ela quando funciona corretamente. A ubiquidade do reconhecimento facial, isto é, sua capacidade de ‘’estar em todo lugar’’ é um dos pontos levantados. O subtítulo do texto de Selinger e Hartzog sintetiza a tese: ‘’os benefícios não chegam perto de superar os riscos’’.

Mais recentemente, a União Europeia fez um movimento no sentido de adotar uma moratória ao reconhecimento facial em locais públicos por um período de 3 a 5 anos. A proposta surgiu em um ‘’white paper’’ da Comissão Europeia e apontava para a necessidade de estabelecimento de mecanismos de avaliação de risco antes de se permitir o emprego massivo do reconhecimento facial em locais como shopping centers, praças públicas, estádios de futebol, etc… No entanto, a iniciativa parece não ter avançado nas versões mais recentes do documento, conforme indica matéria da Reuters.

No Brasil, igualmente a tecnologia parece avançar, mesmo sem nenhuma regulação específica. Estudo do Instituto Igarapé identificou inúmeros casos de implantação da tecnologia pelo poder público, com destaque para os seguinte setores: (i) educação, (ii) transporte, (iii) controle de fronteiras e (iv) segurança pública. O setor privado não é diferente – em 2019, o Instituto Brasileiro de Defesa do Consumidor (Idec) notificou a empresa Hering, requerendo informações sobre o emprego da tecnologia de reconhecimento facial para fins de publicidade direcionada. Ricardo Abramovay, no ensaio Como enfrentar a Era da Vigilância Total, faz referência ao caso brasileiro e aos perigos que o avanço da tecnologia suscita frente a um quadro que inclui, por exemplo, o novo Cadastro Base do Cidadão.  

Ainda não há, no país, um movimento pelo banimento do reconhecimento facial, nem por uma moratória, mas o mesmo não pode ser dito de iniciativas para sua regulação. Se entre 2015 e 2017, foram registrados 2 atos legislativos sobre reconhecimento facial na Câmara dos Deputados, entre 2018 e 2019, o número subiu para 23, dentre os quais 10 projetos de lei em tramitação, com diferentes vieses: direito à informação, utilização em casos de medidas protetivas, e regulamentação propriamente dita. .

Enquanto não surge uma regulação específica para a matéria, vale lembrar que o Brasil possui um marco robusto de proteção aos direitos fundamentais, inclusive a privacidade, e que a Lei Geral de Proteção de Dados (Lei nº 13.709/2018), cuja vigência inicia em agosto de 2020, também traz elementos que serão importantes na disputa regulatória do tema, como os princípios da necessidade, qualidade e não-discriminação e a previsão de relatórios de impacto à proteção de dados.