Cet article est rédigé par Ayca Ariyoruk, conseillère en politique interculturelle et en éthique pour l'IA. Elle est également membre du Center for AI and Digital Policy à Washington, DC.

Dans le cadre du Government AI Campus récemment lancé, Apolitique publie une série d'articles explorant l'adoption de l'IA au sein du gouvernement. Ces articles prennent de nombreuses formes, depuis des articles d’opinion rédigés par des experts universitaires jusqu’à des entretiens avec des dirigeants du secteur public travaillant eux-mêmes sur l’adoption de l’IA.

  • Le problème : la diversité des cadres nationaux et multinationaux de gestion des risques a compliqué le paysage de la gouvernance mondiale de l’intelligence artificielle. Comment les décideurs politiques peuvent-ils harmoniser les normes tout en tenant compte de la diversité sociale et culturelle du monde ?
  • Pourquoi c’est important : L’intelligence artificielle est une technologie mondialisée. Une approche mondiale de la gouvernance de l’IA faciliterait la collaboration internationale, le commerce et l’innovation, garantirait la cohérence éthique et contribuerait à minimiser les risques et à maximiser les avantages.
  • La solution : les droits de l’homme sont un langage universel. En exploitant les traités et instruments internationaux existants et en les appliquant sous un angle nouveau, nous constatons l’impact convergent des droits de l’homme sur l’IA et développons un cadre de gestion des risques interculturel.

Réf magique créée par Ayca à l'aide du générateur d'images Meta AI

Crédit image : Créé par Ariyoruk à l'aide de Meta AI

Imaginez que votre nouveau réfrigérateur puisse préparer des petits-déjeuners en fonction des fournitures et des recettes que vous avez fournies. Vous avez acheté des œufs, du fromage et du beurre ; étiqueté comme tel et fourni des instructions étape par étape sur la façon de préparer une omelette. Le lendemain matin, vous ouvrez la porte du réfrigérateur et la voilà, une omelette fraîchement préparée qui regarde vos yeux affamés. Comme c’est délicieux.

💬 Faites savoir à l'auteur ce que vous pensez du rôle des décideurs politiques dans une gouvernance efficace de l'IA en laissant un commentaire ci-dessous

Maintenant, imaginez que le lendemain matin, votre omelette soit un peu différente. Il contient des ingrédients que vous ne pouvez pas reconnaître. Vous n’avez pas acheté de champignons, alors d’où viennent-ils ? Étaient-ils biologiques ? Ont-ils été soigneusement lavés ? Ont-ils été volés ou payés ? De quelle recette le réfrigérateur a-t-il suivi ?

Vous pensez que mon réfrigérateur sait mieux. Après tout, il s’agit de la dernière technologie en plein essor sur les marchés, elle doit donc être digne de confiance. Alors que vous tendez la main pour attraper l’omelette, il y a une autre surprise. Le réfrigérateur refuse de lâcher l'assiette et vous entendez une voix : Ayca, tu es grosse pour une femme de ton âge et de ta taille. Sauter le petit-déjeuner. Le lendemain matin, votre réfrigérateur refuse de vous préparer un repas.

La principale différence entre les omelettes au fromage et aux champignons

L'intelligence artificielle traditionnelle classe ou prédit les résultats en fonction des données d'entrée. L'apprentissage dépend d'ensembles de données étiquetés et d'instructions (code) pour entraîner les modèles. Lorsque votre Netflix vous fait une recommandation sur ce qu'il faut regarder ce soir, c'est de l'IA traditionnelle. En revanche, l’intelligence artificielle générative (également appelée modèles fondamentaux) ne se contente pas d’analyser les données existantes, elle en crée de nouvelles qui n’existaient pas auparavant. Il est créatif et propose un nouveau contenu similaire mais distinct des données de formation. C'est la différence entre l'omelette au fromage et l'omelette aux champignons. (Pour plus d'informations sur la différence entre l'IA traditionnelle et l'IA générative, consultez NoCode.ai d'Armand Ruiz, directeur de la science des données chez IBM et fondateur de NoCode.ai.)

Maintenant que votre réfrigérateur a réussi à vous embêter, vous décidez d’enquêter plus en profondeur. Vous appelez le fabricant pour lui demander des explications. L’entreprise dit non, ce n’est pas possible. C'est un secret commercial. Révéler ce secret nuirait à l’esprit d’ innovation et à la concurrence sur le marché, mettant ainsi en péril la croissance et les opportunités économiques. Mais l'entreprise ne peut pas garder le génie dans une bouteille trop longtemps, et bientôt, vous lisez des reportages selon lesquels les champignons de votre omelette étaient synthétiques, pas même de vrais aliments. La recette a été volée à un chef qui est désormais au chômage, incapable de subvenir aux besoins de sa famille. Le travail en coulisses dans la production de l'omelette impliquait du travail de personnes sous-payées et travaillant dans des conditions très dures.

Cela ne s'arrête pas là. Vous découvrez alors pourquoi votre réfrigérateur (appelez-le l’application spécifique ou le cas d’utilisation de la technologie) avait une opinion sexiste. Le réfrigérateur a été développé par un ingénieur qui avait une vision particulière de l’apparence des femmes. Il a également été formé sur des ensembles de données volumineux, mais peu diversifiés, fournis par une population de classe moyenne résidant en Amérique du Nord sans aucun problème de santé. Vous réalisez que cette nouvelle technologie pourrait présenter un risque important pour la santé si elle était utilisée par d’autres groupes démographiques. Bien sûr, à condition qu’ils puissent se permettre d’acheter un réfrigérateur. Un réfrigérateur intelligent n’aidera pas à nourrir une famille ni n’offrira de gains de productivité grâce au temps gagné sur la cuisine si le ménage n’a pas accès à Internet au départ. (Aujourd'hui, environ 3,7 milliards de personnes, soit près de la moitié de la population mondiale, n'ont pas accès à Internet .)

Remplacez le régime alimentaire par un régime informationnel, et il devient encore plus clair que l’IA n’est pas comme les autres technologies. L’IA a des opinions qui ne sont pas toujours fondées sur des faits.

Avance rapide jusqu’à l’année suivante et l’entreprise a doublé ses investissements. Le réfrigérateur intelligent peut désormais préparer le petit-déjeuner et proposer un menu complet à tout le quartier de la Silicon Valley. En tant que tel, il exige plus d’ingrédients et consomme plus d’électricité. À ce stade, l’entreprise ne peut plus expliquer le fonctionnement interne du réfrigérateur, même si elle le souhaite. Comment cette entrée a-t-elle donné ce résultat ? C'est un mystère. Les chercheurs en IA l’appellent une « boîte noire ». Bienvenue dans le domaine de l'**apprentissage automatique. **

Qu’est-ce que l’intelligence artificielle ?

Avant d'entrer dans le « sous-domaine » de l'apprentissage automatique, jetons un coup d'œil rapide au domaine principal. Qu’est-ce que l’intelligence artificielle ? Croyez-le ou non, il n’existe pas de consensus scientifique sur la définition de l’IA. Même les chercheurs en IA ne parviennent pas à s’entendre sur une seule définition. Le domaine est constamment redéfini à mesure que de nouvelles technologies émergent. Le cours « Elements of AI » de l'Université d'Helsinki — qui est un excellent cours pour débutants destiné aux personnes ayant une formation non technique — fait référence à une vieille plaisanterie dans la définition de l'IA. L'IA est définie comme « des choses intéressantes que les ordinateurs ne peuvent pas faire ». Selon cette définition, l’IA ne peut jamais faire de progrès : « Dès que nous trouvons un moyen de faire quelque chose de cool avec un ordinateur, cela cesse d’être un problème d’IA. »

Il y a du vrai dans cette définition. Aussi ironique que cela puisse paraître, dit Elements of AI : « Il y a cinquante ans, par exemple, les méthodes automatiques de recherche et de planification étaient considérées comme appartenant au domaine de l’IA. De nos jours, ces méthodes sont enseignées à tous les étudiants en informatique. De même, certaines méthodes de traitement d’informations incertaines sont si bien comprises qu’elles devraient très prochainement passer de l’IA aux statistiques ou aux probabilités.

Malgré les défis, aux fins de la réglementation, il existe désormais une définition de travail détaillée fournie par l’Organisation de coopération et de développement économiques (OCDE), sur laquelle les législateurs européens ont fondé la récente loi européenne sur l’IA. L’astuce consiste à proposer une définition prospective et globale afin de ne laisser de côté aucune technologie ou aucun cas d’utilisation, mais aussi de ne pas laisser de côté une définition trop large qui deviendrait peu pratique.

L’activité risquée de l’apprentissage automatique

Pour les besoins de l’histoire du réfrigérateur (et au risque de simplifier à l’extrême), vous pouvez considérer l’IA comme un sous-ensemble de la discipline informatique qui utilise les données pour permettre aux machines de résoudre des problèmes. L’apprentissage automatique est un sous-domaine de l’IA qui peut s’adapter automatiquement mais qui dépend d’une interférence humaine minimale pour corriger et apprendre. L’apprentissage profond est un sous-ensemble de l’apprentissage automatique qui utilise de grandes quantités de données et apprend de son environnement et des erreurs passées, et ce, sans intervention humaine. (Pour en savoir plus sur la différence, consultez Deep Learning vs Machine Learning :A Beginner's Guide de Coursera ).

C'est généralement à ce stade de l'apprentissage profond que les technologies deviennent inexplicables. Questions qui méritent d'être posées : si nous ne pouvons pas l'expliquer, est-ce de la science ou de la fiction ? À quel point notre confiance dans les technologies émergentes ressemble-t-elle à notre relation avec « Dieu », un peu comme une religion et moins comme une enquête scientifique ?

C’est vrai, ce n’est pas parce que nous ne pouvons pas prouver que quelque chose existe que quelque chose n’existe pas.

C’est là que l’IA devient une activité risquée. L’un des plus grands obstacles à une gouvernance responsable de l’IA est la diversité des cadres réglementaires nationaux et multinationaux de gestion des risques. Après tout, ce que nous considérons comme dangereux et le niveau de risque que nous pouvons tolérer face à l’inconnu dépendent de ce que nous valorisons.

L’IA n’est pas comme les autres technologies. L’IA est politique.

Si l’IA et la gestion des risques sont une question de valeurs, comment pouvons-nous alors protéger la diversité du monde tout en harmonisant notre approche ? Entrez dans la politique de l’IA, la lutte pour le pouvoir pour décider des règles du jeu.

Les techno-déterministes affirment que l’IA est comme n’importe quelle autre technologie et qu’un impact progressif sur la société est inévitable. Mais notre progression ou notre régression dépend des résultats d’une lutte de pouvoir en cours entre i) une puissante industrie technologique, ii) des gouvernements ayant des idéologies politiques et des degrés de contrôle variables sur l’entreprise privée et iii) une société civile ayant différents niveaux d’influence au sein du gouvernement. affaires. Même si l’industrie est le moteur de l’innovation et de la croissance économique, et malgré les efforts bien intentionnés visant à justifier une IA responsable au service de l’humanité, l’industrie est piégée par un modèle économique qui place l’intérêt des actionnaires individuels au-dessus de l’intérêt public collectif.

L’industrie favorise l’autoréglementation parce qu’elle le peut. Les gouvernements, qu’ils soient libéraux ou autoritaires, veulent un modèle qui ne portera pas atteinte à leur style de pouvoir. Cela fait une différence dans la manière dont l’IA alimente le gouvernement et dans la mesure où celui-ci l’utilisera pour affaiblir ou responsabiliser ses citoyens. Que veulent les gens ? Lorsque nous examinons l’activité de la société civile en matière de gouvernance de l’IA, la réponse devient claire. Nous voulons ce que nous avons toujours voulu : la protection, la promotion et la défense de nos droits fondamentaux.

Un cadre de risque universel : « Les droits de l’homme ne sont étrangers à aucune culture et sont originaires de toutes les nations. »

« Les droits de l'homme ne sont étrangers à aucune culture et sont inhérents à toutes les nations », a déclaré Kofi Annan, ancien secrétaire général des Nations Unies. Ils sont universels, indivisibles et interdépendants car ils sont « ce qui fait de nous des humains ». Demandez aux chefs d'État, et ils diront peut-être que nous devons respecter les variations culturelles, ce qui se traduit souvent par « ne remettez pas en question mon autorité ». Demandez aux gens, et nous voulons tous les mêmes choses : vivre dans la dignité, avec la liberté de pratiquer nos religions, l’égalité des chances en matière d’éducation, d’emploi et de prestations sociales, avoir notre mot à dire sur la façon dont nous sommes gouvernés et un système judiciaire équitable. Nous sommes innocents avant d’être prouvés coupables.

Les gens ont-ils le droit de savoir si leur candidature a été rejetée par une boîte noire ? Que se passe-t-il si une banque ne peut pas expliquer pourquoi un citoyen se voit refuser un prêt pour acheter une maison ou une aide financière pour ses études universitaires, est licencié par un employeur ou a été arrêté parce qu'un système de surveillance l'a considéré comme un criminel ? Et si un gadget de santé destiné à mesurer la tension artérielle ne fonctionnait pas simplement à cause de la couleur de votre peau ?

Il n’y a rien de controversé ou de « relatif » dans les droits de l’homme lorsqu’il s’agit d’IA. Ce sont des préoccupations universelles pour tous, quel que soit le contexte culturel, et les reconnaître comme telles est crucial pour maintenir la confiance des citoyens dans les institutions et services publics. (Il est important de ne pas confondre le relativisme culturel en matière de droits de l’homme – prétexte à la tyrannie – avec la diversité culturelle, qui doit être protégée et chérie. Le premier limite les libertés et la seconde les élargit.)

Il est vrai que l’air de la guerre froide assombrit les négociations internationales sur la politique en matière d’IA, ce qui amène certains diplomates à considérer les droits de l’homme comme un sujet de division difficile à mettre en œuvre. En réalité, l’IA a brisé les règles de la guerre froide. Regardez le décret américain publié par le président Biden en octobre 2023. Il n’y a aucun moyen de s’attaquer aux risques de l’IA sans adopter les droits sociaux et économiques. Le président américain exige du gouvernement fédéral et de ses agences qu’ils n’achètent aucun produit ou service d’IA qui pourrait, par « fraude, préjugés involontaires, discrimination », compromettre l’accès « aux soins de santé, aux services financiers, à l’emploi, à l’éducation, au logement et aux transports ». De même, de l’autre côté du Pacifique, le président chinois Xi a appelé à des réglementations visant à protéger la vie privée et la sécurité des données. Il s’agit d’un exemple rare d’un pays qui tente de limiter l’ingérence de l’État dans l’individu. Les droits civils et les droits sociaux sont indissociables et interdépendants, notamment lorsqu’il s’agit du cycle de vie de l’IA. Nous ne pouvons pas empêcher les préjugés et la discrimination sans une procédure régulière pour la contribution du public ou les commentaires de l'utilisateur final. Il existe une convergence progressive autour de l’application pratique des valeurs de l’intelligence artificielle.

Retour à notre histoire magique du réfrigérateur

Alors la prochaine fois que quelqu’un vous dira que l’IA est comme n’importe quelle autre technologie, j’espère que vous vous souviendrez de notre histoire de réfrigérateur. (Le réfrigérateur intelligent est encore imaginaire. Mais les technologies dotées de capacités comparables sont réelles.)

Remplacez le régime alimentaire par un régime informationnel , et il devient encore plus clair que l’IA ne ressemble à aucune autre technologie. L’IA a des opinions qui ne sont pas toujours fondées sur des faits. Les grands modèles de langage (IA générative) écriront les histoires que nous nous racontons et notre histoire si nous le permettons. L’IA peut générer et diffuser de la propagande et des contrefaçons profondes avec des conséquences plus graves qu’une omelette aux champignons synthétiques. L’IA ne fera pas progresser les sociétés de la même manière partout (pour en savoir plus, regardez la présentation basée sur son livre Power and Progress, Our Thousand Year Struggle Over Technology and Prosperity de Daron Acemoglu, professeur et économiste au MIT). De plus, jetez un œil au dernier Indice d'intelligence artificielle et de valeurs démocratiques publié par le Centre pour l'IA et la politique numérique pour voir l'évaluation des performances comparatives de votre pays en matière de politiques et pratiques en matière d'IA. Il couvre 80 pays sur la base de 12 indicateurs fondés sur les droits de l’homme. (Vous pouvez également postuler aux Policy Clinics . Il s'agit de cours intensifs et interdisciplinaires d'un semestre couvrant l'histoire, les problèmes, les institutions, les cadres réglementaires et politiques et les méthodes de recherche de l'IA.)

Il n’y a rien de mal à ne pas faire confiance aux mains invisibles des algorithmes. Vous ne serez pas anti-tech. Vous serez pro-humain et veillerez à ce que nos technologies soient alignées sur l’intérêt public. Heureusement pour nous, nous avons le choix.

Vous avez fini de lire ? Assurez-vous de partager vos propres réflexions sur le développement d'un cadre de gestion des risques interculturel pour la gouvernance de l'IA en laissant un commentaire ci-dessous ⬇️

(Crédit image : Pexels )