Cet article est rédigé par Firdaus Imambaccus, un chercheur en sciences sociales impliqué dans des travaux percutants autour des données et de l'éthique de l'IA au ministère de l'Emploi et du Développement social Canada, et Hugo Morin, un économiste comportemental travaillant dans le monde de l'éthique de l'IA au ministère de l'Emploi et du Développement social. Développement social Canada.

Les opinions exprimées dans ce document sont uniquement celles des auteurs et ne reflètent pas nécessairement les opinions d'Emploi et Développement social Canada, ni celles du gouvernement du Canada.

  • Le problème : L'innovation dans le domaine de l'intelligence artificielle (IA) a occupé le devant de la scène au cours des deux dernières années avec son évolution rapide. Cette croissance explosive a obligé les acteurs concernés à se mobiliser et à s'aligner autour de principes communs pour réglementer son utilisation et atténuer ses risques. Cependant, la traduction de ces principes et idéaux en pratique a présenté ses propres défis.
  • Pourquoi c'est important : Les principes directeurs et les cadres, bien que nécessaires, ne sont guère efficaces s'ils ne sont pas mis en pratique. Le défi consiste à déterminer comment opérationnaliser efficacement ces idéaux d'une manière qui nous permette de réglementer les systèmes d'IA sans compromettre l'innovation.
  • La solution : dans cet article, nous présentons des stratégies et des composants essentiels à l'opérationnalisation de l'éthique de l'IA, en l'illustrant à travers un écosystème de science des données responsable. Cet écosystème est un ensemble d'outils qui peuvent être utilisés dans le cadre ou pour soutenir des cadres éthiques.

Commençons par une déclaration universelle : tout le monde veut construire et utiliser des systèmes d'IA de manière responsable, éthique et impartiale . Pourtant, les exemples d'impacts et de conséquences négatifs des systèmes d'IA sont bien documentés. La prévalence de ces risques et la nécessité d'atténuer leur actualisation ont entraîné la montée en puissance des cadres éthiques de l'IA, tant dans le secteur public que privé. Cependant, ces cadres éthiques ressemblent beaucoup aux tartes aux pommes : personne n'aime vraiment l'idée de la tarte, mais très peu sont doués pour la faire cuire à partir de farine et d'eau jusqu'à ce qu'elle soit croustillante à la perfection.

Cela soulève alors la question : comment pouvons-nous opérationnaliser ces principes dans le monde réel ?

Les deux faces d'une même médaille

Comme pour d'autres questions éthiques, il n'y a pas de solution miracle pour opérationnaliser l'éthique de l'IA, car son application varie selon les contextes. Pourtant, nous pourrions classer ses composants cruciaux en deux thèmes étroitement liés :

1. Sensibilisation et autonomisation

Un classique de la gestion des risques ! La meilleure idée absolue est totalement inutile si personne n'en est conscient.

Dans ce contexte, la sensibilisation passe par l'éducation et le renforcement des capacités. Les gens doivent d'abord savoir comment distinguer l'IA de "The Terminator" ou d'un obscur écran d'ordinateur d'aspect extraterrestre. Quelles sont les capacités de l'intelligence artificielle ? Quels sont ses risques ? Comment est-il exploité dans le contexte donné ?

La prochaine étape consiste à définir quelles pratiques critiques sous-tendent une IA responsable. Quelles sont les réglementations et politiques pertinentes à la base du développement et de l'utilisation responsables de l'IA ? Quelles sont les bonnes pratiques pour éviter d'amplifier et de reproduire les préjugés sociaux ? L'intervention technologique est-elle la meilleure approche dans le contexte donné ? Comme l'a souligné Maslow , "[Il] est tentant, si le seul outil dont vous disposez est un marteau, de tout traiter comme s'il s'agissait d'un clou."

2. Mise en œuvre d'une surveillance solide de la gouvernance de l'IA

Pour garantir que les solutions d'IA sont développées et déployées de manière responsable, les processus de gouvernance jouent un rôle déterminant pour garantir que les projets et les personnes impliquées restent conformes aux réglementations, directives et objectifs généraux pertinents tout au long du projet d'une manière qui n'entrave pas les flux de travail, la progression du projet et l'innovation.

Enveloppez le tout !

Les outils et processus de gouvernance permettent aux gens d'intégrer la réflexivité dans leur pratique et d'évaluer en permanence l'efficacité et les risques des solutions d'IA. Cependant, comme les cadres éthiques et les réglementations pertinentes peuvent varier d'un contexte à l'autre, il serait pratiquement impossible de suggérer une approche globale de l'opérationnalisation de l'éthique de l'IA.

Nous proposons plutôt un ensemble d'outils pratiques qui peuvent être exploités et mobilisés en réponse aux besoins uniques du projet (ou de l'organisation), intégrés dans un écosystème de science des données responsable .

Par exemple, cet écosystème peut inclure :

  • Processus de gouvernance automatisés L'automatisation des processus de gouvernance rationalise le processus tout en garantissant la confidentialité, la transparence, la fiabilité, la responsabilité et le respect des réglementations applicables à votre contexte.

  • Évaluations de l'équité Il pourrait s'agir d'un pipeline où la performance du modèle pourrait être testée auprès de divers sous-groupes de la population, afin de déterminer les résultats justes et équitables du modèle.

  • Confiance des données Les personnes demandant l'utilisation de données pourraient être guidées dans un processus coordonné impliquant une évaluation des risques, une vérification de la qualité des données et de leur pertinence et, si nécessaire, un examen éthique de haut niveau.

  • Outil de défi éthique Cela pourrait prendre la forme d'un outil de fonction de défi pour soutenir l'utilisation et le développement éthiques et responsables des outils d'IA et pour traiter et atténuer les risques associés. Cela pourrait être aussi simple qu'un ensemble de questions difficiles à répondre, dans lesquelles les utilisateurs confrontent leurs préjugés implicites, et les risques potentiels de la solution sont identifiés et atténués.

  • Renforcement des capacités Cela pourrait impliquer la diffusion de ressources pédagogiques autour des politiques, réglementations ou directives pertinentes. Des ressources plus générales, sensibilisant l'organisation aux problèmes clés et aux stratégies d'atténuation des risques, sont aussi cruciales que des formations techniques plus avancées. Lors de l'élaboration de telles ressources, il est important d'être conscient et sensible aux besoins du public cible. De plus, c'est aussi une bonne pratique d'impliquer des parties prenantes ayant une expertise et une connaissance variées du sujet dans le développement des ressources.

Parmi les exemples fournis, plongeons-nous dans les défis éthiques. Trop souvent, et en particulier avec les systèmes achetés auprès de fournisseurs tiers, des considérations cruciales peuvent souvent passer inaperçues. De telles considérations pourraient être :

Personne (et aucun champ !) n'est une île

Maintenant que les gens sont au courant et que les bons outils de gouvernance sont en place, le travail n'est pas encore terminé. Nous devons maintenant nous concentrer sur l'état d'esprit que les gens devraient adopter.

Chaque domaine a ses propres préjugés, perspectives et approches. En abordant l'éthique de l'IA dans une optique multidisciplinaire, nous pouvons créer des ponts entre des personnes ayant une expertise, des connaissances et une expérience diverses ; et dans le processus, s'assurer qu'une multitude de perspectives et de solutions sont prises en compte.

Si l'IA est dans son adolescence, l'éthique de l'IA en est à ses balbutiements.

Ce faisant, nous sommes encouragés à rester ouverts d'esprit et à confronter de manière critique la manière dont notre origine, notre sexe, notre âge et notre domaine d'expertise, pour n'en nommer que quelques-uns, influencent nos points de vue sur les problèmes présentés. Collaborer avec des personnes de perspectives différentes aide à minimiser ces préjugés et permet une approche plus holistique du problème et de sa solution.

Cette ouverture d'esprit doit s'accompagner d'humilité. Il est important d'éviter l'envie de contrôler (ce qui pourrait être difficile lors de l'éclosion d'un programme à partir de zéro). Le principal moteur du processus d'opérationnalisation de l'IA responsable est d'être humble, réceptif et ouvert aux commentaires d'autres spécialistes et parties prenantes.

Les nouveau-nés grandissent vite

Si l'IA est dans son adolescence, l'éthique de l'IA en est à ses balbutiements. C'est un nouveau-né qui est traîné dans toutes sortes de directions. Lorsque quelques lignes de code peuvent entraîner des conséquences néfastes imprévues , et sachant que le codage crée une dépendance , des limites et des garanties claires doivent être établies, souvent à partir d'une ardoise vierge. Cependant, notre désir de productivité et le besoin croissant d'efficacité doivent aussi être tempérés. Ces questions deviennent chaque jour plus complexes. Pour cette raison, il vaut probablement mieux commencer par un cadre éthique rigoureux. D'un point de vue coûts-avantages, les retards de projet pourraient être préférés aux conséquences de l'utilisation contraire à l'éthique de l'IA. De même, un cadre mal pensé pourrait inspirer trop de confiance dans nos approches et peut-être nous amener à être moins critiques et minutieux lors de l'évaluation de notre solution.

En fin de compte, l'opérationnalisation de l'éthique de l'IA reste un exercice d'équilibre délicat nécessitant un investissement à long terme en temps et en efforts. Comme Matshona Dhliwayo l'a dit un jour : « Les roses ne fleurissent pas à la hâte ; car la beauté, comme tout chef-d'œuvre, prend du temps pour s'épanouir.

👋 Vous pouvez écrire un article comme celui-ci ! Partagez vos réflexions avec une communauté de fonctionnaires. En savoir plus .

(Crédit image : Deep Mind, Unsplash)