Cet article est rédigé par André Corrêa d'Almeida, professeur associé adjoint en affaires internationales et publiques à l'Université de Columbia, et Bernardo Rivera Muñozcano, spécialiste des affaires urbaines, de la gouvernance des données et des technologies.

À mesure que les gouvernements adoptent et mettent à l'échelle des solutions d' intelligence artificielle (IA) , les outils d'IA deviennent de plus en plus complexes et traitent de plus en plus les informations sensibles et privées des citoyens.

Ils ont une influence croissante - parfois non supervisée - dans les processus de décision publique.

Les algorithmes ont bien sûr rendu la fourniture de services publics plus efficace. Cependant, des recherches théoriques et empiriques montrent que ces outils peuvent contenir et même amplifier les préjugés humains, permettant la violation des droits et libertés civils fondamentaux en produisant des conséquences imprévues pouvant avoir un impact négatif sur des centaines ou des milliers de vies.

La conversation critique de nos jours n'est pas de savoir s'il faut utiliser l' IA et des méthodes basées sur les données pour aider à l'élaboration des politiques, mais comment les construire et les utiliser de manière éthique. L'équité, la partialité, la responsabilité et la transparence sont des concepts de plus en plus fréquents dans les discussions entre les experts techniques de l'IA, les universitaires, les professionnels de l'industrie et les législateurs.

Les entrepreneurs publics doivent prendre en compte au moins deux aspects essentiels lorsqu'ils se lancent dans la conception et la mise en œuvre d'outils et de systèmes d'IA pour le bien commun.

Premièrement, une identification et une hiérarchisation menées par la communauté des préoccupations des membres de leurs communautés concernant l'utilisation de ces outils. Deuxièmement, la capacité de travailler avec des experts techniques afin d'encoder ces valeurs et priorités spécifiques au contexte dans les algorithmes et leurs réglementations. Cet article se concentre sur le premier problème critique: l'engagement de la communauté dans la gestion de l'IA.

Encoder les voix des gens dans des algorithmes localisés

Les sociétés ont des perspectives différentes sur les questions de confidentialité et d'équité en fonction de leurs besoins, attitudes, culture et institutions spécifiques. Les disparités spécifiques entre ces priorités sont critiques, car il y a toujours des compromis lors de l'encodage de l'éthique dans des modèles informatiques. Comme Michael Kearns et Aaron Roth le soutiennent dans leur livre « The Ethical Algorithm », il y a des compromis inévitables lors du «réglage» des algorithmes: précision contre équité dans la classification, confidentialité contre pertinence analytique des données, entre autres.

Les études futures et les méthodologies de prospective peuvent ouvrir la voie à l'engagement de la communauté dans une question publique complexe comme celle-ci

Au lieu d'essayer de proposer un cadre unique pour la gestion algorithmique éthique , comme cela semble être le discours dominant , les décideurs devraient se concentrer sur les résultats locaux souhaités (par exemple, la vie privée des locataires au- dessus de l'efficacité dans l'accès à leur immeuble) et rétro-ingénierie de leurs solutions et réglementations en conséquence. Ce faisant, le schéma de hiérarchisation variera en fonction de ces préférences sociales, des circonstances historiques et des inégalités structurelles qui prévalent dans les contextes locaux. Les promoteurs du localisme de l'IA, un domaine de recherche en pleine croissance , soulignent comment, en calibrant les algorithmes pour les conditions locales, les décideurs politiques ont de meilleures chances d'établir des boucles de rétroaction qui se traduiront par une plus grande efficacité et une plus grande responsabilité.

Cet argument suit la logique de l'immédiateté et de la proximité des gouvernements locaux par rapport à leurs communautés, par rapport à d'autres niveaux de gouvernement, tels que les cadres réglementaires régionaux et internationaux. Un exemple de ces disparités peut être tiré autour des préjugés raciaux dans les algorithmes. Même lorsque cette question est primordiale dans une communauté, il peut être difficile d'utiliser des directives éthiques tirées de cette perspective et de les mettre en œuvre ailleurs. La différence pourrait facilement apparaître dans une communauté qui n'admet aucune catégorisation juridique claire de la race, ou où la discrimination et les récits sociaux sont tirés autour de différentes identités raciales qui dérivent d'autres constructions sociales .

La mise en œuvre d'une stratégie d'engagement communautaire est déjà assez difficile, et réussir à engager un public non spécialisé dans une conversation hautement technique peut sembler impossible. Cependant, les études futures et les méthodologies de prospective peuvent ouvrir la voie à un engagement communautaire dans une question publique complexe comme celle-ci. En fait, certaines villes du monde entier ont développé des exercices expérimentaux sur la gouvernance de l'IA avec ces méthodologies d'études futures. Leurs utilisations pourraient être explorées au-delà du domaine expérimental et dans des mécanismes de gouvernance rationalisés.

L'analyse causale par couches (CLA) , par exemple, fournit un cadre approprié dans les scénarios où l'aversion au risque et la résistance au changement sont présentes, comme dans le secteur public, et surtout dans les situations où l'inclusion de différentes visions du monde, expressions et niveaux de participation sont requis.

En offrant un espace où se croisent des visions du monde contradictoires, cette méthodologie permet également la création de conversations où un large public peut s'engager dans le dialogue sur les nouvelles technologies, renforçant ainsi la confiance du public dans les nouvelles approches de l'élaboration des politiques. En étant en mesure d'incorporer cette précieuse contribution participative, les organisations peuvent aligner les résultats politiques qui peuvent être informés par des couches d'analyse alternatives (technique, communautaire, juridique, entre autres).

La gouvernance anticipative offre peut-être l'une des méthodes les plus intéressantes pour l'engagement de la communauté dans la gestion de l'IA . à des circonstances imprévues.

Selon l' Institute for the Future , la gouvernance anticipative pourrait impliquer d'incorporer des processus de prévision, de vision et de participation lors de la définition des objectifs publics, d'impliquer les institutions gouvernementales dans la réalisation de ces objectifs et de mesurer les progrès par rapport à eux. La méthodologie permet aux gouvernements de mettre en place des boucles de rétroaction immédiates entre les outils technologiques et leurs impacts sociaux.

La feuille de route technologique est une technique qui peut être utilisée pour explorer les développements technologiques et créer des cadres pour les intégrer à une planification organisationnelle plus large et, surtout, avec des valeurs et des normes sociales prédéfinies. Cette méthodologie est également utile pour évaluer l'impact des nouvelles technologies et des développements du marché, et pour saisir leur paysage environnemental et social, les menaces et les opportunités pour un groupe particulier de parties prenantes dans une technologie ou un domaine d'application.

Dans le contexte des gouvernements et des sociétés confrontés à des chocs technologiques externes, cette technique peut aider les décideurs à se préparer à des solutions tenant compte de la culture organisationnelle, des nouvelles technologies (imprévues) et de la manière dont les capacités internes de l'organisation peuvent gérer ces facteurs.

Compte tenu de la nature ouverte de ces méthodologies, de leur flexibilité face aux chocs externes et du (sans doute) stade précoce de l'adoption actuelle de l'IA dans les gouvernements, leur mise en œuvre est appropriée pour les contextes où l'écosystème local n'a pas encore défini l'IA à long terme. objectifs.

La CLA et la gouvernance anticipative peuvent être utilisées simultanément pour créer une feuille de route complète qui permet aux gouvernements d'adapter les processus de prise de décision au fur et à mesure. L'immédiateté de l'engagement communautaire et des boucles de rétroaction au niveau local a le potentiel d'améliorer les avantages de ces outils dans la fourniture de services gouvernementaux, tout en limitant les risques et les préjudices pour les communautés où ils sont déployés. Ces feuilles de route sociétales locales pourraient même influencer les décisions futures tant dans le milieu universitaire que dans la recherche et le développement industriels.

Alors que nous entrons dans la troisième décennie du 21ème siècle, les entrepreneurs publics et les innovateurs doivent continuer à construire des outils, des techniques et des méthodologies pour la conception d'algorithmes éthiques dans la prise de décision publique. Comme le soutiennent Kearns et Roth, cela est essentiel pour élargir les principes sur lesquels repose notre technologie. Si nous voulons qu'elles intègrent bon nombre des valeurs qui nous tiennent à cœur en tant qu'individus et en tant que sociétés, nous devons le faire main dans la main avec les communautés que ces technologies serviront et auront un impact. - André Corrêa d'Almeida et Bernardo Rivera Muñozcano

Nous voulons savoir ce que vous pensez de cet article. Envoyez-nous un article ou envoyez vos commentaires à hello@apolitical.co

(Crédit photo: UnSplash)