Cet article est rédigé par Ravit Dotan , chercheur, Centre pour la gouvernance et les marchés, Université de Pittsburgh ; Emmaline Rial , étudiante diplômée, Université de Pittsburgh ; Ana Maria Dimand , professeure adjointe de politique publique et d'administration, Boise State University ; et Virginia Dignum , professeur d'intelligence artificielle responsable, Umeå School of Business, Economics and Statistics. Cet article a été publié pour la première fois par le Forum économique mondial . Lisez l'article original ici et d'autres articles de la Banque mondiale ici .

  • Les gouvernements achètent de plus en plus de systèmes d’IA, mais il est nécessaire de mettre en place des pratiques d’achat responsables tenant compte des risques et des opportunités sociétales.
  • Les ressources existantes comprennent des lignes directrices générales, des recommandations ciblées et des initiatives réglementaires d'organisations telles que AI Now, le gouvernement britannique et l'Office of Management and Budget des États-Unis.
  • Davantage d'outils et de référentiels sont nécessaires pour soutenir l'approvisionnement responsable en IA, notamment des modèles d'appel d'offres, des clauses contractuelles et des cartes de pointage pour évaluer la maturité éthique de l'IA.

Les gouvernements et les administrateurs publics achètent l’IA à une échelle de plus en plus grande. Par exemple, en 2022, les États-Unis ont dépensé 2,5 fois plus en contrats liés à l’IA qu’en 2017. Ces achats peuvent être très utiles, mais ils incluent des systèmes à haut risque avec un immense potentiel de préjudice. Par conséquent, les administrateurs publics qui achètent des systèmes d’IA doivent disposer des connaissances et des ressources nécessaires pour se procurer de l’IA de manière responsable, en tenant compte des risques et des opportunités sociétales. Des ressources utiles sont déjà publiées, mais il est possible de combler des lacunes supplémentaires, afin de s'adapter à l'évolution des systèmes d'IA et de leurs applications. Cet article passe en revue les ressources en anglais existantes et les lacunes à combler.

Lignes directrices et réglementation

Le type de ressource le plus couramment disponible pour les administrateurs publics qui achètent de l’IA est les lignes directrices en matière d’IA. Les lignes directrices se répartissent en trois catégories : 1) conseils généraux en matière de passation des marchés ; 2) des recommandations ciblées, axées sur un secteur, un cas d'utilisation, un sujet ou une optique ; et 3) les initiatives réglementaires.

💬 Faites savoir à l'auteur ce que vous pensez en laissant un commentaire ci-dessous

Les lignes directrices et recommandations générales incluent celles produites par AI Now , DataEthics , Hickok , Miller and Waters , Rubenstein , le gouvernement britannique et le Forum économique mondial . En outre, les États-Unis ont annoncé que l’Office of Management and Budget (OMB) publierait des directives en matière d’achat d’IA.

Parmi les lignes directrices ciblées, la Prison Policy Initiative fournit des lignes directrices pour l’achat de tablettes dans les prisons. Bien qu’elles n’abordent pas spécifiquement l’IA, ces lignes directrices intègrent des exigences éthiques technologiques qui pourraient être adaptées à l’IA. Coglianese & Lampmann recommandent d'ajouter des clauses contractuelles concernant les secrets commerciaux, la confidentialité et la cybersécurité, l'audit et la participation du public. Jacobs & Mulligan suggèrent d'utiliser une méthode appelée « modélisation de mesures » dans les processus d'approvisionnement pour comprendre les impacts attendus des systèmes d'IA.

Les initiatives réglementaires fournissent également des lignes directrices. Les praticiens de l'approvisionnement peuvent demander conseil à ces initiatives, même si cela ne s'applique pas à leur juridiction et même si cela n'a pas été adopté par la loi.

Au Canada, les agences fédérales doivent se conformer à la Directive sur la prise de décision automatisée , qui comprend des exigences en matière d'approvisionnement en IA en matière d'évaluation d'impact, de transparence, d'assurance qualité et plus encore. Aux États-Unis, la réglementation existante en matière d'achat d'IA comprend le décret (EO) 13960 , qui exige que les agences fédérales conçoivent, développent, acquièrent et utilisent l'IA d'une manière qui favorise la confiance du public , en faisant preuve d'empathie avec des thèmes tels que la vie privée, les droits civils et les libertés civiles. . La loi sur la formation en IA exige la budgétisation de la formation en IA pour le personnel chargé des achats. Enfin, les États du Maryland , du Connecticut et de Washington ont proposé des projets de loi introduisant des exigences éthiques en matière d'IA dans le processus de passation des marchés publics.

Ces lignes directrices et initiatives réglementaires sont un bon début. Il reste cependant des lacunes à combler pour doter les praticiens des bons outils. Lors de conversations avec les auteurs de cet article, les praticiens ont exprimé leur inquiétude quant au fait que, sans un soutien approprié, des pratiques d'approvisionnement responsables en matière d'IA ne seront pas mises en œuvre, même si elles étaient requises par la loi. Cela s’est produit dans le passé avec une réglementation similaire en matière de marchés publics.

Outils

Il existe des outils utiles et pertinents accessibles au public, mais une plus grande attention doit être accordée à leur mise en œuvre, utilisation, amélioration et expansion appropriées. La Fondation Ford , Richardson et le Forum économique mondial ont créé des listes de questions que les praticiens des achats peuvent poser tout au long du cycle de vie des achats. La ville d'Amsterdam a créé un modèle anglais pour les contrats d'achat d'IA , intégrant des fonctionnalités d'IA responsable (voir Miller et Waters pour une mise en contexte et une discussion). La ville de San Jose , en Californie, a créé plusieurs outils d'approvisionnement en IA. Ceux-ci incluent une carte du processus d'examen lors de l'achat d'un système d'IA et un formulaire pour collecter des informations auprès des fournisseurs d'IA . Enfin, le comté d'Alameda en Californie a publié un appel d'offres pour un système d'IA qui inclut des exigences en matière de confidentialité. Il peut être utilisé comme modèle.

Même si ce qui précède représente de gros efforts dans la bonne direction, des efforts supplémentaires sont nécessaires pour lutter contre l’approvisionnement responsable en IA. Par exemple, les praticiens expriment le besoin de modèles d’appels d’offres complets, de brèves clauses à intégrer dans les contrats existants et de tableaux de bord pour évaluer la maturité éthique de l’IA d’un fournisseur potentiel. En outre, les outils existants ne répondent pas aux défis que rencontrent les praticiens lorsqu'ils tentent d'acquérir de l'IA de manière responsable, tels que les difficultés à amener les fournisseurs à divulguer des informations liées à l'éthique de l'IA ou à assurer le suivi des engagements en matière d'éthique de l'IA, même si les engagements sont énoncés dans le document. contrats signés.

Dépôts

Nous avons trouvé deux types de référentiels liés à l’approvisionnement responsable en IA dans l’administration publique. Certains référentiels facilitent la gestion des connaissances. Par exemple, la base de données de droit non contraignant de Gutierrez contient une liste de lois non contraignantes liées à l'acquisition d'IA pour les années 2001 à 2019. Vous pouvez trouver des discussions sur ce référentiel ici et ici . Un autre référentiel pertinent de gestion des connaissances est le Tableau périodique des innovations en matière d'acquisition des États-Unis, créé par le Federal Acquisition Institute (FAI) des États-Unis.

D’autres référentiels documentent des informations sur l’IA achetées par l’administration publique. Les Pays-Bas , la ville d'Amsterdam , la ville d'Helsinki et la ville de San Jose (Californie) ont mis en place des registres d'algorithmes dans leurs municipalités. De plus, Eurocities a créé un schéma pour enregistrer les algorithmes utilisés dans les villes

Les référentiels qui conservent les ressources sur l’approvisionnement responsable en IA n’ont pas été trouvés. Cependant, sans référentiel, les praticiens peuvent avoir du mal à trouver les ressources pertinentes et à choisir celles qui leur conviennent le mieux. Notre examen a nécessité une analyse approfondie que de nombreuses personnes impliquées dans l’acquisition d’IA ne sont peut-être pas en mesure de mener.

Points à retenir

Les ressources actuelles pour l’achat responsable d’IA dans l’administration publique sont utiles, mais nous devons accorder plus d’attention au développement de ces outils et à la création de ressources supplémentaires pour garantir que les praticiens sont pleinement équipés pour aborder l’ensemble du cycle d’achat. Lors du développement de nouveaux outils, il est essentiel d’impliquer davantage les praticiens. La plupart des ressources que nous avons trouvées ne mentionnent pas de consultation approfondie avec les praticiens et négligent de répondre aux défis auxquels les praticiens sont confrontés. Combler ces écarts est une tâche cruciale. L’approvisionnement responsable en IA dans l’administration publique est essentiel pour la sécurité publique et pour inciter le secteur technologique à développer l’IA de manière plus responsable.

Cet article a grandement bénéficié de la contribution de Beth Schwanke et Hubert Halopé. Beth Schwanke, PhD, est directrice exécutive de l'Institut pour le droit, la politique et la sécurité de l'Université de Pittsburgh. Hubert Halopé est responsable de l'intelligence artificielle et de l'apprentissage automatique au Forum économique mondial.

Vous avez fini de lire ? Assurez-vous de partager vos propres conseils en laissant un commentaire ci-dessous ⬇️

(Crédit image : Unsplash)