Este artigo foi escrito por Ravit Dotan , pesquisador do Centro de Governança e Mercados da Universidade de Pittsburgh; Emmaline Rial , estudante de pós-graduação, Universidade de Pittsburgh; Ana Maria Dimand , Professora Assistente de Políticas Públicas e Administração, Boise State University; e Virginia Dignum , professora de Inteligência Artificial Responsável, Umeå School of Business, Economics and Statistics. Este artigo foi publicado pela primeira vez pelo Fórum Econômico Mundial . Leia o artigo original aqui e mais artigos do Banco Mundial aqui .

  • Os governos estão cada vez mais a adquirir sistemas de IA, mas há necessidade de práticas de aquisição responsáveis ​​que considerem os riscos e oportunidades sociais.
  • Os recursos existentes incluem diretrizes gerais, recomendações direcionadas e iniciativas regulatórias de organizações como a AI Now, o governo do Reino Unido e o Escritório de Gestão e Orçamento dos EUA.
  • São necessárias mais ferramentas e repositórios para apoiar a aquisição responsável de IA, incluindo modelos de RFP, cláusulas contratuais e scorecards para avaliar a maturidade ética da IA.

Os governos e os administradores públicos compram IA numa escala cada vez maior. Por exemplo, em 2022, os EUA gastaram 2,5 mais em contratos relacionados com a IA do que em 2017. Estas compras podem ser muito úteis, mas incluem sistemas de alto risco com imenso potencial de danos. Por conseguinte, os administradores públicos que adquirem sistemas de IA devem ter os conhecimentos e os recursos necessários para adquirir IA de forma responsável, tendo em conta os riscos e oportunidades sociais. Já existem recursos úteis a ser publicados, mas há espaço para preencher lacunas adicionais, para acomodar a evolução dos sistemas de IA e das suas aplicações. Este artigo analisa os recursos existentes em inglês e as lacunas a serem preenchidas.

Diretrizes e regulamentação

O tipo mais comum de recurso disponível para administradores públicos que adquirem IA são as diretrizes de IA. As diretrizes se enquadram em três categorias: 1) consultoria geral sobre compras; 2) recomendações direcionadas, com foco em um setor, um caso de uso, um assunto ou uma lente; e 3) iniciativas regulatórias.

💬 Deixe o autor saber o que você pensa deixando um comentário abaixo

As directrizes e recomendações gerais incluem as produzidas pela AI Now , DataEthics , Hickok , Miller and Waters , Rubenstein , Governo do Reino Unido e Fórum Económico Mundial . Além disso, os EUA anunciaram que o Gabinete de Gestão e Orçamento (OMB) divulgará directrizes para aquisições de IA.

Entre as diretrizes específicas, a Prison Policy Initiative fornece diretrizes para a compra de tablets nas prisões. Embora não abordem especificamente a IA, estas diretrizes incorporam requisitos de ética tecnológica que podem ser adaptados à IA. Coglianese & Lampmann recomendam adicionar cláusulas contratuais sobre segredos comerciais, privacidade e segurança cibernética, auditoria e participação pública. Jacobs & Mulligan sugerem a utilização de um método chamado “modelagem de medição” em processos de aquisição para compreender os impactos esperados dos sistemas de IA.

As iniciativas regulatórias também fornecem diretrizes. Os profissionais de compras podem buscar orientação nessas iniciativas, mesmo que elas não se apliquem à sua jurisdição e mesmo que não tenham sido aprovadas em lei.

No Canadá, as agências federais devem cumprir a Diretiva sobre Tomada de Decisão Automatizada , que inclui requisitos para aquisições de IA em torno de avaliação de impacto, transparência, garantia de qualidade e muito mais. Nos EUA, a regulamentação existente sobre aquisições de IA inclui a Ordem Executiva (EO) 13960 , que exige que as agências federais projetem, desenvolvam, adquiram e utilizem a IA de uma forma que promova a confiança e a confiança do público , dando empatia a temas como privacidade, direitos civis e liberdades civis. . A Lei de Treinamento em IA exige orçamento para treinamento em IA para a força de trabalho de compras. Por último, os estados de Maryland , Connecticut e Washington propuseram projetos de lei que introduzem requisitos éticos de IA no processo de aquisição.

Estas diretrizes e iniciativas regulatórias são um bom começo. No entanto, ainda existem lacunas a preencher para equipar os profissionais com as ferramentas adequadas. Em conversas com os autores deste artigo, os profissionais expressaram preocupação de que, sem o apoio adequado, as práticas responsáveis ​​de aquisição de IA não serão implementadas, mesmo que sejam exigidas por lei. Isso aconteceu com regulamentações de compras semelhantes no passado.

Ferramentas

Existem ferramentas úteis e relevantes disponíveis publicamente, mas é necessário dar mais atenção à sua implementação, utilização, melhoria e expansão adequadas. A Fundação Ford , Richardson e o Fórum Económico Mundial criaram listas de perguntas que os profissionais de compras devem colocar à medida que avançam no ciclo de vida das compras. A cidade de Amesterdão criou um modelo em inglês para contratos de aquisição de IA , incorporando características de IA responsável (ver Miller e Waters para contextualização e discussão). A cidade de San Jose , Califórnia, criou diversas ferramentas de aquisição de IA. Estes incluem um mapa do processo de revisão ao adquirir um sistema de IA e um formulário para coletar informações de fornecedores de IA . Por último, o condado de Alameda, na Califórnia, publicou uma RFP para um sistema de IA que inclui requisitos de privacidade. Ele pode ser usado como modelo.

Embora o acima exposto represente grandes esforços na direção certa, é necessário mais trabalho para abordar a aquisição responsável de IA. Por exemplo, os profissionais expressam a necessidade de modelos completos de RFPs, cláusulas breves para serem inseridas em contratos existentes e scorecards para avaliar a maturidade ética da IA ​​de um possível fornecedor. Além disso, as ferramentas existentes não abordam os desafios que os profissionais encontram ao tentar adquirir IA de forma responsável, tais como dificuldades em fazer com que os fornecedores divulguem informações relacionadas com a ética da IA ​​ou acompanhem os compromissos de ética da IA, mesmo que os compromissos sejam declarados em contratos assinados.

Repositórios

Encontrámos dois tipos de repositórios relacionados com a aquisição responsável de IA na administração pública. Alguns repositórios ajudam no gerenciamento do conhecimento. Por exemplo, a base de dados de soft law de Gutierrez contém uma lista de soft law relacionadas com aquisições de IA dos anos 2001-2019. Você pode encontrar discussões sobre este repositório aqui e aqui . Outro repositório relevante de gestão do conhecimento é a Tabela Periódica de Inovações em Aquisição dos EUA, criada pelo Instituto Federal de Aquisição dos EUA (FAI).

Outros repositórios documentam informações sobre IA adquiridas pela administração pública. Os Países Baixos , a cidade de Amsterdã , a cidade de Helsinque e a cidade de San Jose (Califórnia) criaram registros para algoritmos em seus municípios. Além disso, a Eurocities criou um esquema para cadastrar algoritmos utilizados nas cidades

Não foram encontrados repositórios que selecionam recursos sobre a aquisição responsável de IA. No entanto, sem um repositório, os profissionais podem ter dificuldade em encontrar recursos relevantes e escolher os melhores para eles. Nossa análise exigiu um mergulho profundo que muitos envolvidos na aquisição de IA talvez não consigam realizar.

Aprendizado

Os recursos atuais para a contratação responsável de IA na administração pública são úteis, mas precisamos de mais atenção no desenvolvimento destas ferramentas e na criação de recursos adicionais para garantir que os profissionais estejam totalmente equipados para enfrentar todo o ciclo de contratação. No desenvolvimento de novas ferramentas, é fundamental incluir mais profissionais. Muitos dos recursos que encontrámos não mencionam consultas substanciais com os profissionais e negligenciam a abordagem dos desafios que os profissionais enfrentam. Fechar essas lacunas é uma tarefa crítica. A aquisição responsável de IA na administração pública é fundamental para a segurança pública e para influenciar o setor tecnológico a desenvolver a IA de forma mais responsável.

Este artigo beneficiou-se enormemente da contribuição de Beth Schwanke e Hubert Halopé. Beth Schwanke, PhD, é Diretora Executiva do Instituto de Direito, Política e Segurança Cibernética da Universidade de Pittsburgh. Hubert Halopé é líder de Inteligência Artificial e Aprendizado de Máquina no Fórum Econômico Mundial.

Terminou de ler? Certifique-se de compartilhar suas próprias dicas deixando um comentário abaixo ⬇️

(Crédito da imagem: Unsplash)