Permitir que os governos tomem decisões significativas sobre IA

_Este artigo foi escrito por Melodena Stephens, Professora de Inovação e Governança Tecnológica na Escola de Governo Mohammed Bin Rashid. _

• O problema: Os governos têm sido historicamente os principais investidores e grandes adotantes da IA, mas a sua supervisão não tem acompanhado a imaginação pública e o avanço tecnológico.
• Por que é importante: a IA é uma ferramenta e a forma como é construída, utilizada, implantada e retirada é importante — especialmente quando a população em geral e muitos decisores podem não ter a literacia necessária para compreender as consequências.
• A solução: Ao compreender o contexto da tomada de decisões, os decisores políticos podem fazer melhor.

A IA é uma ferramenta que pode trazer enormes benefícios ou danos, dependendo de como é concebida, gerida, utilizada ou retirada. O governo não é apenas um grande utilizador de IA , mas também um facilitador e regulador, tornando o seu papel na governação muito complexo. Os governos têm um contrato social para entregar valor público. E isto coloca-as num nível de responsabilização mais elevado do que outras organizações. Entregar valor público não é opcional; é uma necessidade. Além disso, como o governo é um administrador dos recursos estatais e um guardião dos talentos e dos recursos planetários, é responsável perante as gerações actuais e sucessivas.

Os governos têm investido em IA há décadas, desde a Primeira Guerra Mundial. Grande parte da investigação fundamental e aplicada em IA continua a ser financiada pelo governo (por exemplo, EUA ). Assim, as “novas tecnologias” que vemos, como a IA generativa, levaram, na realidade, décadas a desenvolver, mas apenas alguns dias a capturar a imaginação do público. Sem supervisão, estas tecnologias estão muito à frente da curva regulamentar. Com o aumento das parcerias público-privadas, a supervisão torna-se mais confusa. A autogovernação no sector privado enfrenta dificuldades com 1) rentabilidade e pressões dos accionistas e 2) procura do mercado e ser o primeiro (uma vez que muitas vezes a IA só pode ser rentável em escala). Para os governos, à medida que a corrida à IA parece aquecer como uma guerra fria por procuração, os investimentos em IA estão a ser usados ​​para justificar: 1) a nação em primeiro lugar, 2) a segurança e 3) uma melhor gestão de recursos.

O que está faltando? Precisamos de mais decisores políticos que compreendam a IA no contexto da tomada de decisões .

1. Propósito centrado no ser humano

Lembre-se do propósito do seu governo e departamento. A IA precisa ser inclusiva e beneficiar todos os seres humanos (de preferência igualmente). Dado que se sabe tão pouco sobre a caixa negra da IA, é tentador que os decisores políticos compreendam os _benefícios da IA_ e não façam a devida diligência sobre a forma como a IA chega às suas conclusões e os potenciais danos. É essencial conhecer a taxa de erro e treinar constantemente o sistema quando ele é implantado em escala ou quando os dados ou a tecnologia subjacente mudam. É preciso que haja uma pessoa responsável. No sector público, medimos frequentemente variáveis ​​qualitativas humanas, como a qualidade de vida, e atribuímos-lhes medidas objectivas que podem não captar informações de forma adequada. Vejamos o exemplo da pontuação NarxCare dos EUA (algoritmo de IA) atribuída por uma empresa privada (Appriss, nome mudou recentemente, post artigo da Wired), financiada em parte pelo Departamento de Justiça dos EUA, que usa o banco de dados estadual por meio de seu monitoramento de medicamentos prescritos programas (PDMP). Quando os hospitais adotaram o sistema, os pacientes receberam automaticamente uma pontuação de risco de overdose, indicando abuso de prescrição de opioides. Influenciou o manejo e o tratamento da dor. Os médicos tornaram-se relutantes em prescrever medicamentos a pacientes com pontuações elevadas, uma vez que a prescrição de medicamentos a um conhecido utilizador de opiáceos afetava o médico. Só a empresa sabe como o algoritmo é calculado (é uma caixa preta). Embora a intenção do sistema de IA fosse boa, médicos e pacientes não tinham arbítrio e o sistema também poderia causar grandes danos. Actualmente, tal sistema não necessita de supervisão regulamentar.

💬 Deixe o autor saber o que você pensa sobre o papel dos governos na governança e responsabilização da IA , deixando um comentário abaixo

É difícil responsabilizar a IA generativa, pois ela pode fazer bilhões de cálculos por segundo. Como você verificaria e verificaria isso como humano? Demora até 215 dias para encontrar uma vulnerabilidade de software. Para alimentar o monstro generativo da IA, você precisa de dados –onde você os obterá e endossará sua qualidade? Onde está a fonte de energia para essas máquinas de IA com uso intensivo de energia ?

A IA é uma ferramenta que idealmente deveria aumentar a tomada de decisões humanas, e nem sempre substituí-la.

Esta baixa diligência levou à adoção de sistemas que demitiram pessoas injustamente ( Houston Independent School District por desempenho de professores; MiDAS do estado de Michigan), acusaram pessoas de fraude ou crimes ( escândalo dos Correios do Reino Unido com o Fujitsu Horizon System; testes de DNA e algoritmo correspondência por crimes ), negou-lhes benefícios ( sistemas de bem-estar infantil ; vistos ), violou direitos legais ( direitos autorais e IA generativa , código aberto ) ou deu conselhos incorretos ( chatbots de saúde mental ). Para sermos centrados no ser humano, deveríamos fazer perguntas como: “ O serviço ainda será inclusivo ?” “ Se uma IA substituir o emprego de alguém, quanto tempo leva para a pessoa conseguir outro emprego e ela ganhará renda ou terá que escolher um emprego com remuneração mais baixa ?” “ Se houver um problema, quem é a pessoa que eles podem contatar e que tem a agência para resolver a discrepância ?” “ Quais são as compensações ?”

2. Transparência na tomada de decisões de IA humana

A IA é uma **ferramenta ** que idealmente deveria aumentar a tomada de decisões humanas, nem sempre substituí-la. Saber quando substituir uma habilidade humana não é fácil. Transparência é permitir que usuários e funcionários saibam quando a IA será usada, como será usada e quem será o responsável pelas falhas. A tomada de decisões requer dados e, embora existam muitas regulamentações sobre dados , a privacidade dos dados continua a ser um desafio, pois é difícil identificar quando ocorreu uma violação, contê-la e processar e obter justiça. É problemático que as regulamentações sejam inconsistentes entre jurisdições, que os acordos comerciais de dados estejam a aumentar e que a corretagem de dados continue a ser um negócio lucrativo.

As leis também enfrentam dificuldades para decidir quem penalizar quando há uma falha na IA. Um ser humano é frequentemente tratado com mais severidade, por exemplo, pela perda de vidas, do que uma tecnologia ou os seus proprietários, o que levanta a questão da justiça. Portanto, as leis podem precisar levar em conta isso. Mais programas de treinamento são necessários sobre a equipe humano-IA e o papel da IA ​​ou dos humanos.

Para fins de transparência, precisamos de saber quando há uma falha e também como o problema pode ser escalado na cadeia de comando. Os governos são organizações complexas, muitas vezes com silos e pouca experiência interna (graças à terceirização). Esta falha na cadeia de comando na tomada de decisões complexas é vista em casos como as aprovações do Boeing MCAS , a recolha de dados e a criação de perfis dos cidadãos ( China ), ou a questão Cambridge Analytica-Facebook de 2016) ou a questão do controlo de opiáceos NarxCare .

3. Construir, adquirir e planear a governação da IA .

As compras públicas representam 12% do PIB nos países da OCDE e, segundo o Banco Mundial, podem atingir 20% . Aqui estão algumas regras importantes a serem lembradas ao projetar melhores políticas em torno de compras públicas para o projeto e implantação ou subcontratação de sistemas de IA:

• Esteja ciente do que está acontecendo: consulte o banco de dados de incidentes de IA . Podemos construir e implantar melhores sistemas de IA se soubermos quais erros evitar. A RAND recomenda previsão para pensar no que pode dar errado. Hackeie a si mesmo, como o AI Cyber ​​Challenge – esta é uma boa maneira de testar seus sistemas (é claro, a suposição é que você tenha recursos internos),
• Convide diversas partes interessadas para a mesa para compreender as implicações da adoção da IA.
• O IEEE recomenda auditar IA. Observe especialmente as APIs e todos os fornecedores. Gartner Inc. disse : _ “ Muitas violações de API têm uma coisa em comum: a organização violada não sabia sobre sua API insegura até que fosse tarde demais. A primeira etapa na segurança da API é descobrir as APIs que a organização fornece ou consome de terceiros_.”
• Planeje a obsolescência: As atualizações tecnológicas (software e hardware) podem custar de 10 a 40% dos orçamentos de TI e estão aumentando. Gerenciar a obsolescência e o treinamento de dados custará mais caro.
• Planeje e treine para a obsolescência de habilidades. Com a maior dependência da alta tecnologia, existe o desafio de que as competências convencionais que adquirimos podem não ser necessárias até que haja uma falha crítica da IA, e então poderemos não ter a capacidade.
• Evite o dilema do grande demais para falir. É tentador ignorar o elefante na sala e continuar a investir um bom dinheiro num sistema falho.
• Desescalar a corrida da guerra fria da IA, que tem mais arsenal com menos supervisão do que a guerra fria nuclear, com cerca de 70.000 ou mais armas.

Contrariamente à percepção pública, o governo pode e deve trabalhar com as suas partes interessadas para gerir melhor a governação, a alfabetização e os propósitos da IA. Tentar recuperar o atraso resulta em mais custos regulatórios para as empresas e mais lobby (o que favorece desproporcionalmente as grandes tecnologias).

Terminou de ler? Certifique-se de compartilhar suas próprias idéias sobre a importância da transparência e da tomada de decisões de IA centrada no ser humano , deixando um comentário abaixo ⬇️

(Crédito da imagem: Unsplash )