Governança global de IA: agindo com a sociedade civil

Uma cúpula de ação inclusiva

Nos dias 10 e 11 de fevereiro de 2025, quase 80 chefes de estado e muitos líderes empresariais do setor de inteligência artificial (IA) se reunirão no AI Action Summit de Paris. Em várias ocasiões, os organizadores indicaram seu desejo de que esta reunião seja “o mais inclusiva possível”. Para este fim, algumas organizações da sociedade civil foram convidadas a participar das discussões – embora quem, e as modalidades e escopo de sua participação ainda não sejam conhecidos. Uma ampla amostra representativa de atores deve participar das discussões, incluindo organizações dos setores de justiça social, privacidade e igualdade de gênero.

A terceira roda

A IA vem transformando profundamente várias áreas de nossas vidas, incluindo o acesso a informações on-line e certos serviços públicos. Portanto, é crucial que a pluralidade de pontos de vista dos atores que compõem a sociedade, com suas diferenças culturais, sociais e éticas, e suas diversas preocupações econômicas e geopolíticas, seja representada. No entanto, com muita frequência, a mobilização da sociedade civil não vai além do estágio de consulta. Normalmente, sua voz só é ouvida depois que as decisões são tomadas, de forma performática e de marcar caixas.

A consulta pública organizada antes da cúpula demonstrou mais uma vez o valor de envolver a sociedade civil nos esforços globais de governança da IA. Definir o bem comum na era da inteligência artificial requer a participação de todos os setores da sociedade e a representação dos vários interesses em jogo, além daqueles dos atores privados e estatais. Para que essa participação seja eficaz, os representantes da sociedade civil devem ter um assento permanente à mesa.

Legitimidade igual com outras partes interessadas

A sociedade civil é uma parte interessada fundamental, capaz de desafiar os objetivos e reivindicações dos jogadores que defendem seus próprios interesses. No caso da governança de IA, ela traz evidências e conhecimentos específicos e uma perspectiva indispensável, particularmente em três níveis.

Primeiro, ela atua como denunciante. Ela aumenta a conscientização e chama a atenção para questões-chave que, de outra forma, seriam negligenciadas: respeito aos direitos e liberdades fundamentais, vieses que levam à discriminação contra minorias ou populações que já são vulneráveis, os efeitos de algoritmos de recomendação “viciantes” na saúde mental dos jovens. Segundo, ela ajuda a definir métodos para avaliar essas questões e elaborar soluções, no interesse público, e realiza investigações aprofundadas, com base nas lições aprendidas de outros setores. Por último, mas não menos importante, ela fornece conhecimento especializado em direitos humanos e ética, bem como conhecimento técnico.

Nossa chamada para ação

No campo da governança de IA, como em muitas outras áreas, o financiamento limitado, os processos de seleção opacos e os riscos de instrumentalização prejudicam a capacidade da sociedade civil de participar efetivamente. Na preparação para a Cúpula de Ação de IA de Paris, solicitamos aos organizadores que implementem urgentemente três medidas concretas para fortalecer e facilitar o envolvimento da sociedade civil na governança de IA, durante e especialmente após o summit:

1. Apoiar processos de seleção mais abertos e transparentes

Esclarecer e abrir os processos de seleção para a participação da sociedade civil em grupos de especialistas (em processos de padronização, dentro da Comissão Europeia, etc.) e torná-los públicos é essencial para garantir uma representação justa e restaurar a confiança. As oportunidades para a participação da sociedade civil também devem ser ampliadas: recomendamos abrir esses espaços de participação organizados por autoridades públicas ou atores privados para um espectro mais amplo de organizações, além das mais estabelecidas.

2. Impor o dever de responder às contribuições
Muitas vezes não há mecanismos em vigor para garantir que as contribuições da sociedade civil sejam realmente levadas em conta. Apelamos aos participantes da cúpula para encorajar o estabelecimento de mecanismos claros para feedback e relatórios sobre a integração de contribuições da sociedade civil em políticas e práticas relacionadas à IA.

3. Facilitar financiamento

Muitas organizações da sociedade civil têm recursos extremamente limitados. A criação de fundos ou processos dedicados para incentivar seu financiamento permitiria que contribuíssem de forma eficaz e sustentável para a governança da IA.

Simplesmente consultar a sociedade civil de forma superficial ou destacar sua presença por meio de operações de mídia não é mais suficiente. Agora é hora de dar aos representantes da sociedade civil um assento pleno e permanente à mesa, para que eles possam se tornar parceiros líderes no desenvolvimento de políticas e diretrizes e no ajuste de ferramentas de IA. O Paris AI Action Summit oferece uma oportunidade de reequilibrar os poderes entre todos os participantes que devem ter voz na governança global da IA. Não vamos perder isso.

Lista de signatários

Jessica Galissaire, Gerente de Estudos, Renaissance Numérique

Rémy Gerbet, Diretor Executivo, Wikimedia França

Justine Atlan, Diretora Executiva, Associação e-Enfance/3018

Gary Marcus, Professor Emérito, Universidade de Nova York

Sarah Andrew, Diretora Jurídica e de Campanha, Avaaz 

Anna Wohlfarth, Diretora Executiva, interface

Vanja Skoric, Diretora de Programa, Centro Europeu de Direito Sem Fins Lucrativos

Karine Caunes, Diretora Executiva, Digihumanism – Centro de IA e Humanismo Digital

Matthias Spielkamp, ​​Diretor Executivo, AlgorithmWatch

Gbenga Sesan, Diretor Executivo, Iniciativa Paradigma

Mariana Rielli, Diretora, Data Privacy Brasil

Nicolas Chagny, Presidente, Internet Society (ISOC) França

Karine Gentelet, Diretora Científica, responsável pelas Relações com a Sociedade Civil, OBVIA

Angela Mueller, Diretora Executiva, AlgorithmWatch CH

Jeni Tennison, Diretora Executiva, Connected by Data

Jean-François Lucas, Gerente Geral, Renaissance Numérique

Mélusine Blondel, Codiretora, La Mednum

Jann Büscher, Codiretor, La Mednum

David Evan Harris, Bolsista Público do Chanceler, Universidade da Califórnia, Berkeley

Valérie Fernandez, Professora e Presidente do RD-ID, Télécom Paris

Damien Jacob, Palestrante Convidado, ULiege

Stephen Russel, Diretor Geral, ANEC (A voz do consumidor europeu na normalização)

Alice Stollmeyer, Fundadora e Diretora Executiva, Defend Democracy

Anna Obem, Diretora Executiva, Fundação Panoptykon

Tania Duarte, Fundadora, Nós e IA

Rachel Coldicutt OBE, Diretora Executiva, Careful Trouble

Kim Thompson, Fundadora, United We Rise UK

Kyle Taylor, Fundador, Fair Vote UK

Ryan Carrier, Diretor Executivo, ForHumanity

Ben Stewart, Fundador/Diretor Administrativo, Caution Your Blast Ltd.

Maxime Fournes, Cofundador, Engenheiro e Pesquisador de IA, PauseIA

Irénée Régnauld, Pesquisadora Associada, laboratório COSTECH (conhecimento, organização e técnicas de sistemas), Université de Technologie de Compiègne

Dra. Nora Ni Loideain, Diretora, Information Law & Policy Centre, Instituto de Estudos Jurídicos Avançados, Universidade de Londres

Yonah Welker, Avaliadora de Projetos da Comissão Europeia, Relatora, ex-enviada técnica, conselheira do Ministério da IA

Martin Parker, Professor de Estudos Organizacionais, University of Bristol Business School

Anthony Masure, Professor Associado, Haute école d’art et design de Genève (HEAD, HES-SO)

Sara (Meg) Davis, Professora, Centro de Metodologias Interdisciplinares, Universidade de Warwick

Simon Buckingham Shum, Professor de Informática de Aprendizagem, Universidade de Tecnologia de Sydney

Mike Podmore, CEO, STOPAIDS

Maria Farrell, Escritora e Palestrante

Peter Flach, Professor de Inteligência Artificial, Universidade de Bristol

Luke Stark, Professor Assistente, Faculdade de Estudos de Informação e Mídia (FIMS), Western University, London, Ontário

Yaniv Benhamou, Professor, Advogado, Direito de TI, Centro de Direito Digital, Université de Genève