Este artigo foi escrito por Ayca Ariyoruk, consultora de política e ética intercultural para IA. Ela também é membro do Center for AI and Digital Policy em Washington, DC.

Como parte do recém-lançado Government AI Campus , a A Political está publicando uma série de artigos explorando a adoção de IA no governo. Estes artigos assumem muitas formas, desde artigos de opinião escritos por especialistas académicos até entrevistas com líderes do setor público que trabalham eles próprios na adoção da IA.

  • O problema: a variação nos quadros de gestão de risco nacionais e multinacionais complicou o panorama de governação global da inteligência artificial. Como podem os decisores políticos harmonizar as normas e, ao mesmo tempo, abraçar a diversidade social e cultural do mundo?
  • Por que é importante: A inteligência artificial é uma tecnologia globalizada. Uma abordagem global à governação da IA ​​facilitaria a colaboração, o comércio e a inovação internacionais, garantiria a consistência ética e ajudaria a minimizar os riscos e a maximizar os benefícios.
  • A solução: os direitos humanos são uma linguagem universal. Ao explorar os tratados e instrumentos internacionais existentes e aplicá-los através de uma nova perspectiva, vemos o impacto convergente dos direitos humanos na IA e desenvolvemos um quadro de gestão de riscos intercultural.

Magical Ref criado por Ayca usando Meta AI Image Generator

Crédito da imagem: Criado por Ariyoruk usando Meta AI

Imagine que sua nova geladeira possa preparar cafés da manhã com base nos suprimentos e receitas que você forneceu. Você comprou ovos, queijo e manteiga; rotulado como tal e forneceu instruções passo a passo sobre como fazer uma omelete. Na manhã seguinte, você abre a porta da geladeira e lá está ela, uma omelete recém-preparada olhando para seus olhos famintos. Que delícia.

💬 Deixe o autor saber o que você pensa sobre o papel dos formuladores de políticas na governança eficaz da IA , deixando um comentário abaixo

Agora imagine que na manhã seguinte sua omelete está um pouco diferente. Existem ingredientes nele que você não consegue reconhecer. Você não comprou cogumelos, então de onde eles vieram? Eles eram orgânicos? Eles foram bem lavados? Eles foram roubados ou pagos? De quem foi a receita que a geladeira seguiu?

Você pensa consigo mesmo: minha geladeira sabe o que é melhor. Afinal, esta é a tecnologia mais recente em expansão nos mercados, por isso deve ser confiável. Ao estender a mão para pegar a omelete, há mais uma surpresa. A geladeira se recusa a soltar o prato e você ouve uma voz: Ayca, você está gorda para uma mulher da sua idade e altura. Pule o café da manhã. Na manhã seguinte, sua geladeira se recusa a preparar uma refeição para você.

A principal diferença entre as omeletes de queijo e cogumelos

A inteligência artificial tradicional classifica ou prevê resultados com base nos dados de entrada. O aprendizado depende de conjuntos de dados rotulados e instruções (código) para treinar modelos. Quando o seu Netflix faz uma recomendação sobre o que assistir esta noite, isso é IA tradicional. A inteligência artificial gerativa (também conhecida como modelos fundamentais), por outro lado, não apenas analisa os dados existentes, mas cria novos que não existiam antes. É criativo e oferece novos conteúdos semelhantes, mas distintos dos dados de treinamento. Essa é a diferença entre a omelete de queijo e a omelete de cogumelos. (Para obter mais informações sobre a diferença entre IA tradicional e generativa, confira NoCode.ai de Armand Ruiz, Diretor de Ciência de Dados da IBM e fundador do NoCode.ai.)

Agora que sua geladeira conseguiu irritá-lo, você decide investigar mais a fundo. Você liga para o fabricante, exigindo uma explicação. A empresa diz, não, não posso fazer. É um segredo comercial. Revelar o segredo prejudicaria o espírito de inovação e de concorrência no mercado, colocando em risco o crescimento económico e as oportunidades. Mas a empresa não consegue manter o gênio na garrafa por muito tempo e, logo, você lê notícias de que os cogumelos da sua omelete eram sintéticos, nem mesmo comida de verdade. A receita foi roubada de um chef que agora está desempregado e sem condições de sustentar a família. O trabalho nos bastidores da produção da omelete envolveu mão de obra de pessoas mal remuneradas e que trabalhavam em condições muito duras.

Não termina aí. Você então descobre por que sua geladeira (chame-a de aplicação específica ou caso de uso da tecnologia) tinha uma opinião sexista. A geladeira foi desenvolvida por um engenheiro que tinha uma visão particular de como deveria ser a aparência das mulheres. Também foi treinado em conjuntos de dados grandes, mas não diversos, fornecidos por uma população de classe média residente na América do Norte, sem condições de saúde existentes. Você percebe que esta nova tecnologia pode representar um risco significativo à saúde se usada por outros grupos demográficos. Isso, é claro, se eles puderem comprar a geladeira. Uma geladeira inteligente não ajudará a alimentar uma família nem oferecerá ganhos de produtividade com o tempo economizado cozinhando se a família não tiver acesso à Internet. (Hoje, cerca de 3,7 mil milhões de pessoas, quase metade da população mundial, não têm acesso à Internet .)

Substitua a dieta alimentar por uma dieta informativa e ficará ainda mais claro que a IA não é como qualquer outra tecnologia. A IA tem opiniões nem sempre baseadas em fatos.

Avançando para o ano seguinte, a empresa dobrou seus investimentos. A geladeira inteligente agora pode preparar o café da manhã e entregar um cardápio completo para toda a vizinhança do Vale do Silício. Como tal, exige mais ingredientes e consome mais eletricidade. Neste ponto, a empresa não consegue mais explicar o funcionamento interno da geladeira, mesmo que queira. Como essa entrada gerou essa saída? É um mistério. Os pesquisadores de IA chamam isso de “Caixa Preta”. Bem-vindo ao campo do **aprendizado de máquina. **

O que é inteligência artificial?

Antes de entrar no “subcampo” do aprendizado de máquina, vamos dar uma olhada rápida no campo principal. O que é inteligência artificial? Acredite ou não, não existe consenso científico sobre a definição de IA. Mesmo os pesquisadores de IA não conseguem concordar com uma única definição. O campo está sendo constantemente redefinido à medida que novas tecnologias surgem. O curso “ Elementos de IA ” da Universidade de Helsínquia – que é um excelente curso para iniciantes para pessoas com formação não técnica – refere-se a uma velha piada sobre a definição de IA. IA é definida como “coisas legais que os computadores não podem fazer”. Segundo esta definição, a IA nunca poderá fazer qualquer progresso: “Assim que encontrarmos uma forma de fazer algo interessante com um computador, isso deixa de ser um problema de IA”.

Há alguma verdade nesta definição. Por mais irónico que possa parecer, diz o Elements of AI: “Há cinquenta anos, por exemplo, considerava-se que os métodos automáticos de pesquisa e planeamento pertenciam ao domínio da IA. Hoje em dia, esses métodos são ensinados a todos os estudantes de ciência da computação. Da mesma forma, certos métodos de processamento de informação incerta estão a tornar-se tão bem compreendidos que é provável que sejam transferidos da IA ​​para a estatística ou probabilidade muito em breve.”

Apesar dos desafios, para efeitos de regulamentação, existe agora uma definição de trabalho detalhada fornecida pela Organização de Cooperação e Desenvolvimento Económico (OCDE), na qual os legisladores da UE basearam a recente Lei da UE sobre IA. O truque é chegar a uma definição que seja voltada para o futuro e abrangente, de modo a não deixar nenhuma tecnologia ou casos de uso de fora, mas também não muito ampla a ponto de se tornar impraticável.

O negócio arriscado do aprendizado de máquina

Para efeitos da história do frigorífico (e correndo o risco de simplificar demasiado), pode pensar na IA como um subconjunto de disciplina da ciência da computação que utiliza dados para permitir máquinas de resolução de problemas. O aprendizado de máquina é um subcampo da IA ​​que pode se adaptar automaticamente, mas depende de interferência humana mínima para corrigir e aprender. O aprendizado profundo é um subconjunto do aprendizado de máquina que usa grandes quantidades de dados e aprende com seu ambiente e com os erros do passado e sem intervenção humana. (Para saber mais sobre a diferença, consulte Deep Learning vs Machine Learning:A Beginner's Guide do Coursera ).

Geralmente é nesse estágio de aprendizagem profunda que as tecnologias se tornam inexplicáveis. Perguntas que valem a pena serem feitas: Se não conseguimos explicar, é ciência ou ficção? Até que ponto a nossa confiança nas tecnologias emergentes se assemelha à nossa relação com “Deus”, mais como uma religião e menos como uma investigação científica?

É verdade que só porque não podemos fornecer provas de que algo existe não é prova de que algo não existe.

É aí que a IA se torna um negócio arriscado. Um dos maiores obstáculos à governação responsável da IA ​​é a variação nos quadros nacionais e multinacionais de gestão de risco para regulamentação. Afinal, o que consideramos perigoso e quanto risco podemos tolerar em torno do desconhecido depende do que valorizamos.

A IA não é como qualquer outra tecnologia. IA é política.

Se a IA e a gestão de riscos têm a ver com valores, como protegeremos a diversidade mundial e, ao mesmo tempo, harmonizaremos a nossa abordagem? Entre na política da IA, a luta pelo poder para decidir as regras do jogo.

Os tecnodeterministas afirmam que a IA é como qualquer outra tecnologia e que um impacto progressivo na sociedade é inevitável. Mas se avançaremos ou regrediremos depende dos resultados de uma luta contínua pelo poder entre i) uma poderosa indústria tecnológica, ii) governos com diferentes ideologias políticas e graus de controlo sobre a empresa privada e iii) a sociedade civil com diferentes níveis de influência no governo. romances. Por mais que a indústria impulsione a inovação e o crescimento económico, e apesar dos esforços bem intencionados para criar um argumento comercial para uma IA responsável que sirva a humanidade, a indústria está presa a um modelo de negócio que coloca o interesse individual dos accionistas acima do interesse público colectivo.

A indústria favorece a autorregulação porque ela pode. Os governos, sejam eles liberais ou autoritários, querem um manual que não prejudique o seu estilo de poder. Isso faz diferença na forma como a IA capacita o governo e se este a utilizará para minar ou capacitar os seus cidadãos. O que querem as pessoas?Quando olhamos para a actividade da sociedade civil na governação da IA, a resposta torna-se clara. Queremos o que sempre quisemos: proteção, promoção e defesa dos nossos direitos fundamentais.

Uma estrutura de risco universal: “Os direitos humanos não são estranhos a nenhuma cultura e nativos de todas as nações”.

“ Os direitos humanos não são estranhos a nenhuma cultura e são nativos de todas as nações ”, disse Kofi Annan, o falecido Secretário-Geral das Nações Unidas. São universais, indivisíveis e interdependentes, pois são “o que nos torna humanos”. Pergunte aos chefes de Estado e eles poderão dizer que temos de respeitar as variações culturais, o que muitas vezes se traduz como “não questione a minha autoridade”. Pergunte ao povo, e todos nós queremos as mesmas coisas: viver com dignidade, com a liberdade de praticar as nossas religiões, oportunidades iguais de educação, empregos e benefícios sociais, ter uma palavra a dizer sobre a forma como somos governados e um sistema de justiça justo. Somos inocentes antes de sermos culpados.

As pessoas têm o direito de saber se a sua candidatura de emprego foi rejeitada por uma Caixa Preta? E se um banco não conseguir explicar por que foi negado a um cidadão um empréstimo para comprar uma casa ou ajuda financeira para a faculdade, foi demitido por um empregador ou foi preso porque um órgão de vigilância o considerou um criminoso ? E se um aparelho de saúde destinado a medir a pressão arterial não funcionasse apenas por causa da cor da sua pele?

Não há nada de controverso ou “relativo” sobre os direitos humanos quando se trata de IA. Estas são preocupações universais para todas as pessoas, independentemente do contexto cultural, e reconhecê-las como tal é crucial para manter a confiança dos cidadãos nas instituições e serviços públicos. (É importante não confundir o relativismo cultural nos direitos humanos — um pretexto para a tirania — com a diversidade cultural, que é algo a ser protegido e valorizado. O primeiro limita as liberdades e o segundo expande-as.)

É verdade que o clima da Guerra Fria está a obscurecer as negociações internacionais sobre a política de IA, levando alguns diplomatas a encarar os direitos humanos como um tema polêmico e difícil de operacionalizar. Na realidade, a IA quebrou as regras da Guerra Fria. Veja-se a Ordem Executiva dos EUA emitida pelo Presidente Biden em Outubro de 2023. Não há forma de abordar os riscos da IA ​​sem abraçar os direitos sociais e económicos. O presidente dos EUA exige que o governo federal e as suas agências não adquiram quaisquer produtos ou serviços de IA que possam, através de “fraude, preconceito não intencional, discriminação”, prejudicar o acesso a “cuidados de saúde, serviços financeiros, empregos, educação, habitação e transporte”. Da mesma forma, em todo o Pacífico, o Presidente Xi da China apelou a regulamentações para proteger a privacidade individual e a segurança dos dados. É um raro exemplo de um país que tenta limitar a interferência do Estado sobre o indivíduo. Os direitos civis e os direitos sociais são indivisíveis e interdependentes, especialmente no que diz respeito ao ciclo de vida da IA. Não podemos evitar o preconceito e a discriminação sem o devido processo para a opinião pública ou feedback do usuário final. Há uma convergência gradual em torno da aplicação prática de valores para inteligência artificial.

De volta à nossa história mágica da geladeira

Então, da próxima vez que alguém lhe disser que a IA é como qualquer outra tecnologia, espero que você se lembre da nossa história da geladeira. (O refrigerador inteligente ainda é imaginário. Mas as tecnologias com capacidades comparáveis ​​são reais.)

Substitua a dieta alimentar por uma dieta informativa e ficará ainda mais claro que a IA não é como qualquer outra tecnologia. A IA tem opiniões nem sempre baseadas em fatos. Grandes modelos de linguagem (IA generativa) escreverão as histórias que contamos uns aos outros e a nossa história, se permitirmos. A IA pode gerar e dimensionar propaganda e falsificações profundas com consequências mais severas do que uma omelete com cogumelos sintéticos. A IA não elevará as sociedades de forma igual em todos os lugares (para saber mais, assista à apresentação baseada em seu livro Power and Progress, Our Thousand Year Struggle Over Technology and Prosperity , de Daron Acemoglu, professor e economista do MIT). Além disso, dê uma olhada no mais recente Índice de Inteligência Artificial e Valores Democráticos publicado pelo Centro de IA e Política Digital para ver a avaliação do desempenho comparativo do seu país em políticas e práticas de IA. Abrange 80 países com base em 12 métricas baseadas nos direitos humanos. (Você também pode se inscrever nas Clínicas de Políticas . São cursos intensivos, interdisciplinares, com duração de um semestre, que cobrem a história da IA, questões, instituições, estruturas regulatórias e políticas e métodos de pesquisa.)

Não há problema em não confiar nas mãos invisíveis dos algoritmos. Você não será anti-tecnologia. Você será pró-humano, garantindo que nossas tecnologias estejam alinhadas com o interesse público. Para nossa sorte, temos uma escolha.

Terminou de ler? Certifique-se de compartilhar suas próprias idéias sobre o desenvolvimento de uma estrutura de gerenciamento de risco intercultural para governança de IA , deixando um comentário abaixo ⬇️

(Crédito da imagem: Pexels )