Dans le cadre du Government AI Campus récemment lancé, Apolitique publie une série d'articles explorant l'adoption de l'IA au sein du gouvernement. Ces articles prennent de nombreuses formes, depuis des articles d’opinion rédigés par des experts universitaires jusqu’à des entretiens avec des dirigeants du secteur public travaillant eux-mêmes sur l’adoption de l’IA.

Leonardo Quattrucci d'A Political s'est récemment entretenu avec le Dr Aaron Maniam, chercheur en pratique et directeur de l'éducation à la transformation numérique, Blavatnik School of Government, Université d'Oxford, sur la manière dont les gouvernements du monde entier pourraient aborder l'utilisation de nouvelles technologies telles que l'IA générative. _

Aaron Maniam se concentre sur les questions reliant la technologie, les politiques publiques et l'administration publique. Il copréside le Global Future Council du Forum économique mondial sur l'avenir de la politique technologique et est membre du groupe d'experts de l'OCDE sur l'avenir de l'intelligence artificielle (IA). Ancien décideur politique au sein du gouvernement de Singapour, il était plus récemment secrétaire adjoint (Industrie et International) au ministère des Communications et de l'Information de Singapour, supervisant le travail du ministère dans les domaines de l'économie numérique, de la littératie et de l'inclusion numériques et de la diplomatie numérique. Le doctorat d'Aaron à la Blavatnik School of Government a comparé le travail de grands États numériques comme l'Estonie, la Nouvelle-Zélande et Singapour. De https://www.bsg.ox.ac.uk/people/aaron-maniam-0

Aaron, vous pouvez penser à l’IA sous plusieurs angles : en tant que fonctionnaire et universitaire. Partagez un peu votre parcours professionnel et comment il recoupe l’IA au sein du gouvernement.

J'ai commencé à explorer le sujet de l'IA en 2010, alors que je dirigeais le Centre for Strategic Futures du gouvernement de Singapour. À cette époque, l’IA – et la technologie en général – jouaient un rôle crucial dans l’élaboration de scénarios futurs potentiels, étudiés par le Centre. Au fur et à mesure que ma carrière évoluait, je me suis concentrée sur les compétences dont les dirigeants gouvernementaux auront besoin à l’avenir. Par exemple, à quoi ressemblera l’économie future ? Comment les gouvernements peuvent-ils mieux utiliser, activer et réglementer la technologie ? Aujourd'hui, à la Blavatnik School of Government d'Oxford, j'essaie de rapprocher ces idées pour le gouvernement et de m'engager auprès de la communauté universitaire au sens large dans la recherche sur les impacts techniques et socio-techniques de l'IA à l'échelle mondiale.

L’IA générative a rendu l’IA beaucoup plus accessible. La manière de gouverner l’IA, surtout au cours d’une année marquée par de nombreuses élections, fait l’objet de nombreuses discussions. On discute moins de la manière dont l’IA générative peut être utilisée pour améliorer la compétitivité et la performance des gouvernements. Comment les gouvernements peuvent-ils – et doivent-ils – se rééquiper dans cette nouvelle ère de l’IA ?

C'est une question tellement importante. La plupart du temps, les gouvernements savent qu’ils doivent assumer un rôle de réglementation. Cela ne veut pas dire qu’ils conçoivent toujours de bonnes réglementations, mais ils comprennent le rôle potentiel qu’ils peuvent y jouer.

Je pense que les gouvernements peuvent jouer deux autres rôles, qui sont beaucoup moins compris : ceux d’utilisateurs et de facilitateurs de la technologie. Les pays économiquement plus compétitifs comprennent le rôle facilitateur parce qu’ils savent que le gouvernement est essentiel pour créer et autoriser un environnement favorable. Mais lorsqu’il s’agit du gouvernement en tant qu’utilisateur de l’IA, je trouve que c’est encore un domaine dans lequel les gouvernements sont relativement faibles. Je pense que la vraie question que nous devrions nous poser n’est pas « les humains seront-ils remplacés par l’IA ? mais « Quels aspects de notre travail l’IA peut-elle prendre en charge de manière responsable et avec un haut niveau de qualité ? »

L’IA générative est très efficace pour les tâches divergentes : tâches qui nécessitent la synthèse d’un large éventail de contenus existants. Ainsi, par exemple, lorsque le gouvernement tente d’étudier un problème pour comprendre ce qui existe en termes de possibilités et d’idées, l’IA générative peut être beaucoup plus utilisée.

L'IA générative est également efficace dans certaines tâches convergentes, c'est-à-dire des questions qui impliquent des domaines de travail très spécifiques. Cela inclut des choses comme l’édition et la garantie de l’exactitude grammaticale. L'IA générative est efficace pour raccourcir ou allonger un travail et pour inclure des exemples supplémentaires.

Mais nous devons également reconnaître les types de tâches pour lesquelles l’IA n’est tout simplement pas adaptée. Ces tâches impliquent une sorte de jugement, d’évaluation ou de décision sur les priorités.

💬 Faites savoir à l'auteur ce que vous pensez du fait que les gouvernements sont des utilisateurs judicieux et des facilitateurs de technologies comme l'IA générative en laissant un commentaire ci-dessous.

Je ne pense pas que l’IA générative soit efficace pour générer des données ou évaluer des choses selon des normes élevées. C'est là que les humains doivent intervenir. Nous devons savoir ce qu'ils peuvent faire et ce qu'ils ne peuvent pas faire ; puis laissez-le faire autant que possible ce qu'il fait bien afin que nous libérions les fardeaux cognitifs, émotionnels et de bande passante des humains, qui peuvent alors se concentrer beaucoup plus sur ce pour quoi notre esprit a été fait : penser, juger. , pour évaluer et porter des jugements de niveau supérieur.

Quelles compétences et technologies les gouvernements doivent-ils acquérir pour devenir de meilleurs utilisateurs et facilitateurs de l’IA ?

L’une de mes expressions préférées est que les gouvernements doivent non seulement être doués pour trouver des vendeurs, mais ils doivent également être de bons acheteurs. C'est une compétence clé. On peut le décomposer en trois aspects. Premièrement, les gouvernements ont besoin qu’une partie de leur personnel possède des connaissances techniques en ingénierie, en programmation et en codage. Ces personnes techniquement compétentes sont celles qui poseront les bonnes questions sur ce qu'il faut faire, quoi externaliser et comment évaluer les propositions des fournisseurs potentiels. Deuxièmement, vous avez besoin d’un leadership qui soit également techniquement informé. Les dirigeants n'ont pas besoin d'être eux-mêmes des experts, mais doivent comprendre ce qu'est une technologie et comment elle fonctionne de manière générale afin de pouvoir relier cette technologie et son fonctionnement à la mission principale et à l'objectif principal de leur organisation. Cela signifie en partie savoir comment adopter et absorber la technologie, mais cela signifie également gérer le processus de changement qui se produit après l'adoption de cette technologie.

Le troisième aspect est que les gouvernements ont besoin d’équipes d’approvisionnement et de passation de marchés bien informées des tendances technologiques. Ils doivent comprendre que l’utilisation de la technologie et son acquisition impliqueront des techniques différentes de celles de l’achat de produits plus standardisés. Cela signifie, par exemple, comprendre que la technologie va continuer à évoluer et, par conséquent, que les contrats ne doivent pas enfermer les gouvernements dans des engagements à long terme. Cela signifie permettre des contrats relationnels dans le cadre desquels ils peuvent continuer à procéder à des ajustements dynamiques et à faire évoluer la technologie en temps réel.

Ce que vous venez de décrire ressemble à un plan cohérent. Mais le travail du gouvernement est souvent un peu compliqué, surtout en période de transition technologique. Quels sont les principaux obstacles ou difficultés rencontrés par les gouvernements dans leur adaptation aux changements technologiques ?

Il y en a quelques-uns, et beaucoup de bloqueurs existent parce que le gouvernement numérique reste un gouvernement. Il a toutes les possibilités et le potentiel du gouvernement, mais aussi les mêmes pathologies, pièges, faiblesses et défauts. L’un des principaux obstacles est une trop grande importance accordée à la bureaucratie : les gouvernements finissent par s’empêcher de s’adapter correctement à la transition technologique parce que les anciennes règles n’évoluent pas assez rapidement. En outre, le gouvernement se concentre parfois davantage sur ce qu’il peut fournir que sur ce dont les utilisateurs ont besoin. Et je pense que lorsque vous ne vous concentrez pas sur une conception centrée sur l'utilisateur, vous pouvez parfois finir par fournir les mauvais produits et ne pas bien vous adapter aux transitions technologiques.

Les structures héritées constituent un deuxième blocage. La plupart des systèmes ont déjà des structures en place. Les gouvernements doivent déterminer quelles parties de ces systèmes doivent être adaptées. C’est le genre d’infrastructure nationale intelligente que Singapour cherche à construire. Les structures héritées peuvent être très dangereuses si elles vous enferment dans des pratiques et des mentalités existantes.

Un autre problème est le manque de talent. Ne pas disposer des talents et des compétences adéquats peut entraver l’adoption de la technologie. Une des manifestations de ce manque de talent est que les gouvernements se lancent par inadvertance dans des projets de très grande envergure, assortis de délais et de dépenses considérables. De tels projets sont presque toujours voués à l’échec ; au moment où vous aurez terminé ne serait-ce qu’une partie de ce grand projet, la technologie l’aura dépassée.

Les projets modulaires fonctionnent mieux car ils peuvent être modifiés et adaptés avec rapidité et empressement. Avec de tels projets, la transition se déroule souvent beaucoup plus facilement car vous vous adaptez en temps réel à ce qui existe.

En parlant de vitesse et d’évolution… Les gouvernements sont habitués à rechercher les meilleures pratiques. Mais, à l’heure où les défis auxquels ils sont confrontés deviennent de plus en plus complexes, ils devront adopter de nouvelles façons de penser et de fonctionner, comme vous le décrivez. C'est pourquoi vos récents travaux portent sur les métaphores. Pourriez-vous nous parler un peu de cela et des nouvelles métaphores dont les gouvernements ont besoin pour l’IA générative ?

Vous avez raison sur l'influence des métaphores sur notre pensée et leur impact sur ce que nous priorisons et mettons l'accent au sein d'un système. Introduire de nouvelles métaphores permet de mettre en évidence différents aspects. Nous pourrions commencer par considérer les métaphores traditionnelles du gouvernement, telles que le « Léviathan » – une grande entité monstrueuse décrite dans la Bible juive, symbolisant la taille et l'échelle immenses du gouvernement. Un autre exemple est la « cage de fer » de la bureaucratie de Weber, qui fait référence aux règles strictes et contraignantes qui régissent le fonctionnement des bureaucrates. Donald Kettl a introduit une métaphore populiste plus moderne, comparant le gouvernement à un « distributeur automatique » qui fournit aux citoyens ce qu'ils veulent tant qu'ils paient leurs impôts, même si cela leur est bénéfique.

Cependant, nous avons besoin de façons plus nuancées de percevoir le gouvernement. Par exemple, Anne-Marie Slaughter suggère de considérer le gouvernement comme un « réseau », et Tim O'Reilly a longuement discuté du concept de gouvernement comme d'une « plateforme ». Ces métaphores mettent l’accent sur l’interdépendance et les effets favorables du gouvernement en tant qu’hôte de nouvelles idées et institutions.

J’apprécie particulièrement de considérer le gouvernement comme un parcours – un parcours d’utilisateur que les individus entreprennent de la naissance à la mort, le secteur public jouant un rôle de soutien à différentes étapes. Cela implique de réagir aux événements importants de la vie comme la scolarité, le mariage, l’achat d’une maison, la maladie et la prise en charge en fin de vie. Une telle métaphore souligne les diverses interactions que les individus entretiennent avec les secteurs privé et public tout au long de leur vie.

Mais ma métaphore préférée est celle de l’écologie. Nous faisons tous partie d’un système complexe et auto-renouvelable où différents composants peuvent mourir tandis que d’autres reprennent vie. En ce sens, la gouvernance implique que chacun joue un rôle unique au sein d’un système écologique, y contribuant de manière dynamique. Contrairement à une écologie naturelle où le lion mange la gazelle sans conséquence, la nôtre est une écologie morale dans laquelle nous sommes interconnectés et responsables les uns des autres. La technologie renforce cette vision en nous connectant avec beaucoup plus de personnes que jamais, ce qui peut approfondir notre compréhension de nos interconnexions écologiques et les renforcer.

Dans les moments de transition, il est facile de se concentrer sur les arbres plutôt que de considérer l’ensemble de la forêt, ce qui conduit à négliger des problèmes ou à des malentendus. Selon vous, quels sont les défis les plus négligés par le gouvernement en cette période de transition vers l’IA ? Et où et comment devraient-ils commencer à y répondre ?

Comme je l’ai dit, le gouvernement numérique reste un gouvernement – ​​avec des silos, une bureaucratie, l’accent mis sur les règles, etc. Je pense que ce sont des pathologies contre lesquelles les gouvernements doivent vraiment lutter, surtout lorsque la technologie démocratise l’accès à l’information.

Je pense que les guerres culturelles constituent un deuxième défi négligé. La politique identitaire est bien plus répandue et omniprésente aujourd’hui que jamais et façonne la manière dont les gouvernements communiquent avec les citoyens. Par exemple, les gouvernements peuvent expliquer aux gens pourquoi leur identité et leurs croyances idéologiques sont erronées – cela ne les fera pas changer d’avis. En fait, il est bien plus probable que cela renforce leurs croyances dominantes. En fin de compte, les gouvernements doivent répondre à leurs besoins en tant qu’êtres humains, et je pense que les gouvernements qui tentent de gérer les guerres culturelles de manière plus empathique ont plus de chances de réussir.

Un troisième défi vient du fait que les gouvernements ne parviennent presque jamais à trouver un équilibre stable. Nous sommes souvent entraînés à tenter d’atteindre ce qu’on appelle un état stable. Mais en réalité, il n’y a pas d’état stable. Vous avez des équilibres instables – des problèmes et des possibilités constamment nouveaux émergeant d’un changement discontinu. J'aime décrire cela non pas comme l'émergence de « nouvelles normes », mais comme des environnements « jamais normaux », car vous évoluez constamment et passez toujours à un nouveau niveau de performance, ou du moins à un nouvel ensemble de technologies. La façon dont nous traitons cela est très différente de la façon dont nous traitons des plans clairs ou des plans quinquennaux. Il ne s’agit même pas d’avoir des manifestes clairs, qui peuvent changer à mesure que la politique et les environnements opérationnels évoluent. Je pense que nous devons nous armer du fait que la vie ne sera jamais stable et normale. Il y aura toujours de nouvelles évolutions, de nouveaux chemins et trajectoires sur lesquels la technologie nous emmène. Et le rôle du gouvernement est en partie de suivre ce rythme si possible. Sinon, du moins pour pouvoir réagir rapidement lorsque les circonstances changent.

En tant qu'ancien fonctionnaire, quels conseils donneriez-vous aujourd'hui aux fonctionnaires sur la façon d'apprendre et de suivre efficacement la technologie de l'IA ?

Dans la vie, il faut équilibrer optimisme et prudence. Imaginez le meilleur, mais prévoyez aussi le pire. Cela s’applique à tout ce qui concerne le gouvernement. Plus vous pouvez imaginer et exploiter le meilleur, plus vous pouvez profiter du potentiel de hausse de toute tendance. Cela pourrait être la technologie. Il pourrait s'agir d'un engagement citoyen. Il peut s’agir de n’importe quel nouveau problème émergent, mais nous devons toujours nous préparer au pire. Les gouvernements qui ne le font pas sont irresponsables.

Mais il faut vraiment que ce soit les deux. Si vous ne regardez que les risques ou les inconvénients, vous perdez espoir ou perdez votre imagination. Si vous regardez le bon côté des choses, vous devenez imprudent et irréaliste. La bonne gouvernance consiste à trouver le juste milieu entre les deux.

Vous avez fini de lire ? Assurez-vous de partager comment vous imaginez le meilleur et prévoyez le pire en gardant à l'esprit l'IA générative en laissant un commentaire ci-dessous ⬇️

(Crédit image : Unsplash )