Cet article a été rédigé par Cezary Gesikowski. Il a été publié pour la première fois dans Generative AI , vous pouvez lire l'article original ici .

À une époque de progrès technologiques rapides, l’intégration de l’intelligence artificielle (IA) dans le secteur public est à la fois une opportunité et un défi. Lors du récent DX Summit 2023, Christina Montgomery, vice-présidente et directrice de la confidentialité et de la confiance chez IBM, a partagé son point de vue sur les implications éthiques, réglementaires et sociétales de l'adoption de l'IA au sein du gouvernement. Animée par Lori Turnbull, rédactrice en chef de Canadian Government Executive, la conversation a mis en lumière des enjeux et des considérations clés pour les fonctionnaires et le grand public.

Points clés de la conversation

Importance de la confiance et de la responsabilité dans l’adoption de l’IA

Montgomery a souligné le besoin crucial de confiance et de responsabilité dans le déploiement de l’IA. Les modèles d'IA, tels que ceux utilisés dans ChatGPT, peuvent transformer les services publics en améliorant la récupération d'informations, en résumant les données et en intégrant des sources de données disparates.

Elle a toutefois souligné que le succès de cette technologie dépend d'une gouvernance solide, de la transparence et de considérations éthiques. La confiance dans les systèmes d’IA est fondamentale pour leur adoption et leur efficacité.

Équilibrer innovation et réglementation

Le dialogue a souligné l’équilibre délicat entre la promotion de l’innovation et la mise en œuvre de la réglementation. Traditionnellement, l’adoption de nouvelles technologies est plus lente que le secteur privé. Les gouvernements doivent donc développer des cadres garantissant que l’IA est utilisée de manière responsable.

💬 Faites savoir à l'auteur ce que vous pensez des implications éthiques et réglementaires de l'IA au sein du gouvernement en laissant un commentaire ci-dessous

Montgomery a souligné l'importance de la collaboration entre les experts du gouvernement et du secteur privé pour créer des réglementations éclairées et efficaces. Ce partenariat est crucial pour naviguer dans le paysage complexe de l’éthique et de la gouvernance de l’IA.

Applications pratiques et avantages

Montgomery a souligné les applications pratiques de l'IA dans le secteur public, comme la collaboration d'IBM avec la ville de Markham, en Ontario. Ici, un assistant virtuel a aidé les électeurs à accéder à des informations électorales fiables, démontrant le potentiel de l'IA pour améliorer les services publics.

Elle a fait valoir que l’IA pourrait augmenter considérablement la productivité et l’efficacité des opérations gouvernementales, à condition que des lignes directrices claires et des considérations éthiques soient en place.

Lutter contre les préjugés et la transparence de l’IA

Un thème récurrent dans la conversation était la lutte contre les préjugés liés à l’IA et la garantie de la transparence. Montgomery a souligné qu’il est primordial d’éliminer les préjugés des algorithmes d’IA et de préserver la confidentialité. Le besoin d’une IA explicable augmente à mesure que les systèmes d’IA sont de plus en plus intégrés aux services publics.

Les fonctionnaires et les citoyens doivent comprendre comment les décisions en matière d’IA sont prises pour faire confiance à ces systèmes et les utiliser efficacement.

Attention aux lacunes

Même si la discussion a fourni des informations précieuses, plusieurs lacunes et défis demeurent. Certains d’entre eux sont et resteront difficiles à résoudre :

  • Absence de directives internes — Malgré les efforts du gouvernement canadien, comme le Guide sur l'utilisation de l'IA générative du Secrétariat du Conseil du Trésor, de nombreux ministères ont besoin de directives internes plus explicites pour leurs employés. Cette lacune peut conduire à des mises en œuvre de l’IA incohérentes et potentiellement risquées.
  • Contraintes budgétaires — L’environnement budgétaire actuel constitue un obstacle important à l’expérimentation d’outils d’IA générative. Sans financement adéquat, les ministères pourraient avoir du mal à investir dans l’infrastructure et la formation nécessaires à l’adoption de l’IA. Cette limitation peut entraver l’innovation et les avantages potentiels de l’IA pour les services publics.

Risques d’une approche peu claire

Une approche floue de l'IA (c'est-à-dire les grands modèles de langage (LLM) comme ChatGPT) comporte plusieurs risques :

  • Utilisation abusive et mauvaise interprétation : les employés peuvent abuser des outils d'IA sans être en mesure d'utiliser les directives, ce qui conduit à la génération et à la diffusion de données et d'informations incorrectes ou biaisées.
  • Problèmes de confidentialité : une surveillance insuffisante peut entraîner des violations de données personnelles, sapant ainsi la confiance du public.
  • Inefficacité : un déploiement incohérent de l'IA peut créer des inefficacités, contrecarrant les gains de productivité potentiels de la technologie.

La voie à suivre

La conversation avec Christina Montgomery a mis en évidence le potentiel transformateur de l'IA dans le secteur public, contrebalancé par la nécessité d'une mise en œuvre et d'une réglementation responsables. Bien qu’il existe des avantages significatifs, le chemin vers une adoption efficace de l’IA est semé d’embûches qui nécessitent une navigation réfléchie.

Des lacunes importantes doivent être comblées pour réaliser le potentiel de l’IA tout en atténuant pleinement ses risques. Ceux-ci incluent l’éducation du public, les cadres éthiques complets, les impacts sur l’emploi, les politiques mises à jour, les normes mondiales , la transparence et la cybersécurité – autant de domaines critiques qui nécessitent une attention alors que nous naviguons dans le paysage complexe de l’intégration de l’IA dans les services gouvernementaux.

En comblant ces lacunes, les dirigeants du secteur public peuvent garantir que les technologies d’IA sont utilisées de manière responsable et efficace, au profit de la société. Dans le même temps, les fonctionnaires et le grand public doivent rester informés et engagés à mesure que les technologies de l’IA évoluent, garantissant ainsi leur intégration éthique et efficace dans les opérations du secteur public.

Pour exploiter pleinement le potentiel de l’IA tout en atténuant ses risques, les dirigeants du secteur public doivent examiner les meilleurs moyens de :

  • Élaborer des lignes directrices claires : Établir des directives internes complètes qui s’alignent sur les directives gouvernementales plus larges sur l’utilisation de l’IA.
  • Investir dans la formation : Veiller à ce que les fonctionnaires soient bien formés aux technologies de l’IA et à leurs implications éthiques.
  • Favoriser la collaboration : Continuer à favoriser les partenariats entre le gouvernement, le milieu universitaire et le secteur privé pour partager les connaissances et les meilleures pratiques.
  • Assurer la transparence : maintenir la transparence dans les processus décisionnels en matière d'IA afin de renforcer et de maintenir la confiance du public.

Lisez l’article en ligne dans le dernier Canadian Government Executive :
Exécutif du gouvernement canadien - Volume 30 - Numéro 1

Vous avez fini de lire ? Assurez-vous de partager vos propres réflexions sur la manière dont l'IA peut équilibrer innovation et responsabilité dans le secteur public en laissant un commentaire ci-dessous ⬇️

(Crédit image : Pexels )