Podcast | IA com Direitos | Plataformas e Mercados Digitais

Dadocracia – Ep. 142 | Encontros e desencontros da regulação de IA pelo mundo

No último episódio do ano do Dadocracia, João Paulo Vicente conversa com Bruno Bioni, codiretor da Data Privacy Brasil e Paula Guedes, pesquisadora da área de plataformas e mercados digitais da Data sobre regulação da inteligência artificial no Brasil e no mundo.

No Brasil, o projeto de lei 2338, o principal projeto para regulamentar IA, está em análise por uma comissão temporária do Senado. Na União Europeia, a IA act, outra regulação sobre o tema, é objeto de discussão entre os países do bloco e recentemente Alemanha, França e Itália começaram a defender um modelo diferente de regulação.

Iniciativas semelhantes em busca de leis específicas para a regulação de inteligência artificial se espalham pelo mundo, aqui na América do Sul, com Chile, América do Norte, com Estados Unidos e Canadá, na China e também com as diretrizes globais da OCDE e Unesco. Recentemente, buscando entender esse contexto, a Data Privacy Brasil anunciou um novo relatório intitulado “Temas Centrais na Regulação de IA: o local, regional e o global na busca da interoperabilidade regulatória”.

O documento tem como objetivo contribuir com a discussão sobre a regulação da inteligência artificial no Brasil e tem como finalidade central informar aos possíveis interessados o estado da arte atual em termos de regulação de IA, especialmente no curso do processo legislativo no Brasil. Mas como todas essas propostas conversam entre si?

De acordo com Paula,  existiu uma tentativa de que os próprios agentes econômicos se regulassem para tentar mitigar e impedir a proliferação dos casos danosos de uso de IA. Mas na prática não se mostrou tão eficaz, como explica:

“Isso a gente consegue ver pela perpetuação de muitos casos de racismo algorítmico, por exemplo, de às vezes, a dificuldade de acesso a bens e serviços essenciais por decisões automatizadas que estão equivocadas por erros de reconhecimento facial. Todos esses casos problemáticos que causam danos a direitos fundamentais foram reforçados pela beleza dos diálogos do tempo e apenas as medidas de auto regulação não foram o suficiente para limitar essa propagação”.

Bruno Bioni afirma que já está na hora de falarmos sobre o tema e pensar nas soluções:

“Hoje grandes players da tecnologia dizem que uma regulação seria muito bem vinda justamente para você alcançar esse equilíbrio entre fomento e desenvolvimento econômico e proteção das pessoas. Os grupos afetados por sistemas de inteligência artificial. Ou seja, a gente está em um outro ponto da linha do tempo sobre inteligência digital”.

O novo estudo elaborado pela Data mapeia ainda o nível de convergência das propostas brasileiras ao de outros países e organismos multilaterais e internacionais. E conta com três eixos temáticos principais: regulação baseada no risco; avaliações de impacto algorítmico e IA Generativa. O episódio conversa sobre cada um dos eixos, abordando temas como ChatGPT, Midjourney, e outros modelos de IA, questionando sobre os desafios extras de  pensar na regulação desses novos formatos.

Para Bruno, a discussão hoje em dia não é mais apenas se precisa regular, como comenta: “O movimento de regulação não é contra a inovação, contra desenvolvimento tecnológico, econômico, porque, ao se fixar as regras do jogo, se traz segurança jurídica não apenas para o cidadão, para cidadã afetada, mas também por quem vai desenvolver, quem vai, sobretudo, consumir e implementar essas tecnologias também na ponta”.

O episódio ainda aborda temas como soft law e hard law e reflete quais as tendências sobre o assunto para 2024. O relatório “Temas Centrais na Regulação de IA: o local, regional e o global na busca da interoperabilidade regulatória” já está disponível de forma gratuita, acesse aqui. Se quiser continuar acompanhando o tema, a Data criou uma lista de distribuição de conteúdos sobre IA para quem tem interesse no tópico, que também já pode ser acessado aqui. A conversa completa você escuta no novo episódio do Dadocracia já disponível, ouça agora!

O roteiro deste episódio é de João Paulo Vicente, a produção é de Alicia Lobato, Horrara Moreira e Pedro Henrique Santos. O som é da Vega Films e a vinheta e trilha originais são de Paulo Pinheiro e Diogo Saraiva.