Cet article est rédigé par Octavia Reeve, directrice associée, Ada Lovelace Institute, Royaume-Uni.

Dans le cadre du Government AI Campus récemment lancé, Apolitique publie une série d'articles explorant l'adoption de l'IA au sein du gouvernement. Ces articles prennent de nombreuses formes, depuis des articles d’opinion rédigés par des experts universitaires jusqu’à des entretiens avec des dirigeants du secteur public travaillant eux-mêmes sur l’adoption de l’IA. Pour en savoir plus, visitez le AI Campus .

Cet article soutiendra que lors du développement de la gouvernance , de la réglementation et de la législation de l'IA, il est essentiel non seulement d'écouter les points de vue et les expériences des gens en matière d' IA – ainsi que l'expertise des décideurs politiques et des développeurs et déployeurs de technologies – mais également de les impliquer dans la prise de décision. de manière légitime, digne de confiance et responsable.

La loi de l’UE sur l’IA représente une étape importante dans l’alignement des technologies d’intelligence artificielle sur les besoins des personnes et de la société : il s’agit de la première tentative globale de légiférer sur l’IA. Au fur et à mesure de son adoption, il convient de noter qu'il ne contient aucune disposition définitive concernant la participation directe du public à sa mise en œuvre. L'article 58a s'engage uniquement à créer un forum consultatif réunissant diverses parties prenantes commerciales et non commerciales pour soutenir la Commission européenne dans la mise en œuvre et l'application de la loi sur l'IA, y compris la société civile et les « partenaires sociaux » et le potentiel de sous-groupes spécifiques à des sujets spécifiques. des groupes qui_ pourraient_ inclure des membres du public. Nous ne devrions pas prendre pour acquis la participation du public à la prise de décisions politiques, ni supposer que les législateurs et les décideurs politiques savent quand, comment et pourquoi bien le faire.

💬 Faites savoir à l'auteur ce que vous pensez de l'implication des perspectives publiques dans la gouvernance de l'IA en laissant un commentaire ci-dessous

"À mesure que les technologies deviennent monnaie courante au travail, à la maison et dans l'éducation, et que la relation entre l'IA, le gouvernement et les personnes utilisant et affectées par ces technologies devient de plus en plus complexe, il est de plus en plus important d'impliquer de manière significative les gens dans la prise de décision politique en matière d'IA."

Au Royaume-Uni, la confiance du public dans la prise de décision politique est au plus bas. En 2021, la British Academy a décrit les perceptions du public britannique comme « en contradiction flagrante avec le sentiment que le système de gouvernement central répond à leurs besoins et reflète leur voix », et l' outil de suivi 2023 du CDEI montre que les niveaux de confiance dans les pratiques gouvernementales en matière de données restent faibles ( 41%) par rapport aux autres acteurs. La confiance du public sera essentielle pour renforcer la confiance et la légitimité dans la prise de décision concernant l’IA et pour obtenir des avantages sociétaux. Lorsque le Royaume-Uni adoptera sa propre législation sur l’IA, il sera impératif que les décideurs politiques du gouvernement britannique et d’autres juridictions aient une solide compréhension non seulement des attitudes pertinentes du public, mais également de la manière d’impliquer les citoyens dans les décisions.

Les recherches actuelles de l' Institut Ada Lovelace révèlent des opinions publiques cohérentes à l'égard de l'IA : il existe un fort soutien en faveur de la protection des droits fondamentaux (par exemple, la vie privée) et une conviction selon laquelle une réglementation est nécessaire. Les gens ont une attitude positive à l'égard de certaines utilisations de l'IA (par exemple, dans le domaine de la santé et du développement scientifique), mais certains s'inquiètent de l'IA pour la prise de décision qui affecte la vie des gens (par exemple, l'éligibilité aux prestations sociales).

Alors que les technologies deviennent monnaie courante au travail, à la maison et dans l’éducation, et que la relation entre l’IA, le gouvernement et les personnes utilisant et affectées par ces technologies devient de plus en plus complexe, il est de plus en plus important d’impliquer de manière significative les gens dans la prise de décision politique en matière d’IA.

Il est important de noter que dans l’esprit du public, il n’existe pas qu’une seule IA : ils ont des points de vue nuancés et font la différence entre les avantages, les risques, les inconvénients et les opportunités des utilisations existantes et potentielles des différentes technologies. Il est également important de noter que certaines préoccupations sont associées à des différences sociodémographiques. Cela signifie qu’il ne peut y avoir un seul modèle de gouvernance de l’IA : il doit être spécifique au contexte et prendre en compte les avantages et les inconvénients spécifiques pour différentes personnes et communautés. Par exemple, l’utilisation des technologies de reconnaissance faciale dans les espaces publics nécessiterait une attention différente de celle des maisons de retraite employant des travailleurs autonomes pour s’occuper des personnes âgées et vulnérables.

La soi-disant « vague délibérative » a fluctué au cours des 20 dernières années et n'a pas encore atteint l'objectif d'une participation significative et institutionnalisée et d'une responsabilisation des citoyens dans la prise de décision. Cependant, cela semble effectivement se répercuter sur les décideurs politiques britanniques. En 2023, le régulateur britannique ICO a pris en compte les preuves du British Youth Council et du Citizen's Biometrics Council de l'Ada Lovelace Institute dans l'élaboration de ses lignes directrices sur les données biométriques, et le ministère de la Culture, des Médias et du Sport (maintenant DSIT) a commandé une mini-enquête publique. dialogue pour examiner l'approche du gouvernement britannique en matière de gestion de son cadre de confiance et de déploiement de son système d'identité numérique par le biais de fournisseurs de technologies et de services du secteur privé.

Ce sont des étapes positives – la chef de cabinet Sue Gray a récemment laissé entendre qu’un nouveau gouvernement travailliste pourrait avoir recours aux assemblées de citoyens – mais il reste encore du chemin à parcourir avant que les gouvernements n’impliquent régulièrement et systématiquement les citoyens en tant que participants actifs à l’élaboration et à la mise en œuvre des politiques. Cela signifie non seulement contribuer aux consultations publiques, mais aussi comprendre et utiliser des méthodes de recherche sociale validées qui permettent aux connaissances et à l'expérience des citoyens de contribuer dès le début des processus d'élaboration des politiques.

Dans un monde idéal, la prise de décision politique examinera de manière proactive comment différentes attitudes du public et approches participatives peuvent aider les décideurs politiques à recueillir des preuves solides sur ce que le public attend de l’IA, à trouver de nouvelles façons de générer des preuves et à établir des relations légitimes et productives avec les personnes utilisant et touchés par les technologies. Sans ces approches, les élus et les fonctionnaires sont plus susceptibles de se rapprocher d’une opinion publique non représentative et subjective, laissant place à des malentendus et à des informations manquantes sur des personnes et des communautés spécifiques.

Les enjeux sont sans aucun doute élevés pour les responsables politiques, dans un environnement où les décideurs sont tenus responsables devant les parlements, les tribunaux, les médias et les représentants du public. Pour soutenir les méthodes participatives dans le cadre de l’élaboration des politiques, les décideurs doivent pouvoir s’appuyer sur des preuves de haute qualité, robustes, fiables et attribuables à des populations et des groupes spécifiques. Ils doivent également comprendre que les méthodes participatives ont des objectifs distincts et importants par rapport aux études quantitatives : elles n'aspirent pas à être statistiquement représentatives, mais, bien conçues, elles peuvent inclure diverses perspectives et offrir l'opportunité d'une délibération démocratique qui permet la réflexion et la réflexion collaborative. sur les grands défis sociétaux.

Les méthodes quantitatives des sciences sociales peuvent sembler attrayantes, car elles fournissent des informations importantes sur ce que de larges groupes de personnes pensent de questions particulières. Dans un environnement technologique en évolution rapide, ils fournissent des preuves générales pour susciter de nouvelles réflexions et questions. Mais la façon dont ces études sont construites est importante – en particulier la manière dont elles échantillonnent des groupes qui peuvent déjà être minoritaires, sous-représentés ou vulnérables, et la possibilité d’isoler les points de vue de communautés particulières et de réaliser des analyses intersectionnelles (que font les enfants écossais ou les femmes noires dans un contexte donné) ? différents endroits à travers le Royaume-Uni pensent à l’IA, par exemple ?).

Tout cela met en évidence toutes sortes de raisons, notamment des barrières institutionnelles et culturelles, qui pourraient inciter les décideurs politiques à ignorer la voix du public. Ces obstacles soulèvent des questions de pouvoir et de privilèges : qui est entendu et qui ne l’est pas, qui est inclus dans les données et qui est absent. Changer cela nécessite de s’éloigner d’une dépendance culturellement ancrée à des méthodes spécifiques pour fournir des représentations précises de l’opinion publique. Jennifer Gabrys a plaidé pour que les données de la science citoyenne soient considérées comme « des données juste assez bonnes », remettant en question le recours à des méthodes étroites de production, de valorisation et d'analyse d'ensembles de données.

Le monde dans lequel nous vivons est désordonné, fluide et difficile à cerner, et toutes les méthodes de recherche véhiculent des convictions politiques et philosophiques. Cependant, si les décideurs restent attachés uniquement aux données d’enquêtes à grande échelle – et par implication à une réalité holistique et substantielle qui peut être rapportée – ils rateront l’occasion de tirer de la valeur d’études qui impliquent et responsabilisent les gens, comme les délibérations publiques ou la recherche par les pairs . ce qui peut nous dire non seulement ce que les gens pensent, mais aussi pourquoi.

Les technologies de l'IA peuvent sans aucun doute offrir des avantages en matière d'efficacité et de résolution de problèmes informatiques et feront rapidement partie de la vie de chacun, par exemple dans les écoles, les hôpitaux et les services sociaux. Les opinions du public nous indiquent qu’il est particulièrement important de prendre en compte le contexte , ce qui signifie qu’il est essentiel que les décideurs politiques aient une solide compréhension des approches participatives qui touchent les personnes sous-représentées dans les communautés, et qu’ils les utilisent avec rigueur et intégrité.

Outre toutes les opportunités que l’IA présente en termes d’avantages sociétaux, il existe une opportunité spécifique pour les décideurs politiques : écouter et interagir avec les points de vue du public, afin que leur prise de décision puisse naviguer efficacement dans le monde complexe et en évolution rapide de l’IA avec légitimité, fiabilité et responsabilité.

Pour plus d'informations, consultez notre revue des preuves récemment publiée : https://www.adalovelaceinstitute.org/evidence-review/what-do-the-public-think-about-ai/

Points clés à retenir:

  • Il est essentiel de prendre en compte les points de vue et les expériences des individus en matière d'IA, ainsi que l'expertise des décideurs politiques, des développeurs et des déployeurs de technologies, pour garantir que l'IA soit alignée sur les valeurs et les besoins de la société d'une manière légitime, fiable et responsable.

  • Alors que le gouvernement britannique et d’autres juridictions réfléchissent à la gouvernance et à la réglementation de l’IA, il est impératif que les décideurs politiques aient une solide compréhension des attitudes publiques pertinentes et de la manière d’impliquer les gens dans les décisions.

  • Il existe des preuves que les décideurs politiques sont ouverts à l’écoute et incluent les voix du public.

  • La recherche sur les attitudes du public et la recherche participative sont des approches différentes pour entendre les voix du public qui recueillent des informations distinctives avec des utilisations différentes. Grâce à l’IA, ils peuvent apporter une légitimité dans la prise de décision.

  • En raison du caractère omniprésent de l’IA, il est particulièrement important de prendre en compte le contexte, ce qui signifie qu’il est essentiel de bien comprendre les approches participatives et de les utiliser avec rigueur et intégrité.

Vous avez fini de lire ? Assurez-vous de partager vos propres réflexions sur le rôle de la contribution du public dans l'élaboration des politiques en matière d'IA en laissant un commentaire ci-dessous ⬇️

(Crédit image : Unsplash )