Pourquoi le secteur public a besoin de meilleures règles, et non de plus de règles, pour l'IA

Cet article est rédigé par Gianluca Sgueo, École d'Affaires Publiques, Sciences Po

Il a été commandé et publié dans le cadre du Government AI Campus , une initiative d'Apolitique visant à préparer les fonctionnaires et les décideurs politiques à diriger à l'ère de l'IA.

Beaucoup ont été choqués de le lire : une étude portant sur 14 000 travailleurs dans 14 pays et publiée en novembre 2023 a révélé que plus de la moitié de ces travailleurs utilisent l’IA générative au travail sans autorisation officielle, et 40 % sont suffisamment imprudents pour utiliser des outils d’IA interdits. C'est comme si l'étude disait : arrêter les progrès de l'automatisation est inutile car les premiers à la vouloir sont les travailleurs ordinaires, pas les entreprises.

Est-ce la même chose dans le secteur public ?

Seulement partiellement, et probablement pas pour les raisons que beaucoup pourraient penser.

D’une part, l’automatisation, alimentée par l’intelligence artificielle (IA) et l’apprentissage automatique, est de plus en plus adoptée dans divers secteurs de l’administration publique, des soins de santé et des transports à l’urbanisme et à la gestion environnementale. Depuis 2022, Singapour utilise des assistants virtuels basés sur l'IA pour rationaliser ses services publics. Ces aides numériques guident non seulement les citoyens à travers les processus gouvernementaux, mais contribuent également à rendre les décisions administratives internes plus efficaces. Autre exemple : au cours de la dernière décennie, l'Estonie a automatisé une partie importante de ses services publics, notamment la résidence électronique, l'impôt électronique et le vote numérique, rendant ainsi l'administration publique très efficace et transparente.

"Le message sous-jacent est clair : même une administration publique hautement automatisée s'appuie sur un capital humain important."

La vérité est cependant que le processus d’automatisation des services publics a été beaucoup plus lent, fragmenté et sporadique par rapport à d’autres domaines de l’économie. Il y a deux raisons importantes à cela :

Avant tout , le déploiement des technologies de pointe dans les administrations publiques est généralement plus lent que sur le marché en raison de la résistance à l'innovation, du manque de financement, des coupes budgétaires et de l'inadéquation des compétences. En 2019, l'Observatoire de l'innovation dans le secteur public (OPSI) de l'OCDE a publié un article saluant l'utilisation de l'intelligence artificielle dans le secteur public, mais il n'a décrit que 7 études de cas (dont la plupart n'étaient que des lignes directrices ou des directives). Objectivement, la situation ne semble pas avoir radicalement changé depuis.

Deuxièmement , les administrations publiques sont moins incitées à soutenir l’automatisation. Bien qu’elle soit un acheteur majeur de biens, de services et de main-d’œuvre, l’organisation du secteur public moyen ne réagit pas aux changements de l’environnement en modifiant radicalement son approche et sa structure. Les organisations du secteur public ont généralement répondu aux demandes récurrentes et à la pression du public en faveur d’une plus grande efficacité et d’une réduction des coûts en adoptant des approches plus traditionnelles comme la restructuration du personnel, la création de nouvelles agences ou des politiques de recrutement de hautes compétences, mais seulement pour des périodes limitées. Prenons l'exemple de l'actuelle Commission européenne. Compte tenu de son ambition de définir un cadre de règles mature et flexible en matière de technologies (données, marchés et services numériques et bien sûr IA), la Commission s'est lancée depuis 2022 dans une campagne de recrutement à la recherche d'expertises indispensables à la gestion des hautes technologies. dossiers techniques – des compétences qui lui manquaient largement, car celles-ci étaient traditionnellement peu attractives pour le secteur public. Il s’agit par exemple d’experts en science des données, d’avocats spécialisés dans la concurrence numérique et d’auditeurs algorithmiques. La Commission a principalement eu recours au recrutement pour une durée déterminée d'agents contractuels ou temporaires. Cette main-d'œuvre hautement spécialisée employée par la Commission accédera, à l'issue de son contrat de six ans (généralement non renouvelable), à ​​de nouveaux emplois. On peut s'attendre à ce qu'un problème de continuité de l'action administrative se pose prochainement.

De plus , l'automatisation des services publics crée de nouveaux défis à gérer. Qui est responsable en cas d’erreur d’algorithme ? Il existe un précédent à cela : le gouvernement de Mark Rutte est tombé en 2023 à la suite d'un scandale créé par un biais algorithmique . Mais la même chose ne se produit pas nécessairement dans d’autres situations. Autre problème : comment une décision publique automatisée garantit-elle l’inclusivité et la transparence ? La plupart de ces questions restent sans réponse ou ont reçu des réponses partielles et inadéquates.

Alors, faut-il ou non s’inquiéter de l’automatisation des services publics, et que devons-nous attendre de l’automatisation des services publics ?

Beaucoup pensent que tous les aspects problématiques liés à l’IA et à l’automatisation (y compris l’automatisation des services publics) peuvent être résolus par la réglementation : de « nouvelles règles », là où elles n’existent pas, ou de « meilleures règles », là où elles existent. Selon le Global AI Legislation Tracker , des efforts législatifs sont déployés dans le monde entier, notamment des tentatives visant à créer une législation complète pour des cas d'utilisation spécifiques ou des lignes directrices et normes volontaires. L'IA Index 2023 de l'Université de Stanford montre que, dans le monde, 37 projets de loi liés à l'IA ont été adoptés en 2022. Mais la législation en elle-même ne résout aucun des problèmes qui ralentissent l'automatisation dans le secteur public, et encore moins ceux qui le rendent dangereux. du point de vue des droits.

Premièrement , l'instrument juridique est incompatible avec des systèmes technologiques qui évoluent de plus en plus rapidement, générant de nouveaux risques liés à leur utilisation. La négociation de la loi européenne sur l’IA, par exemple, est au point mort alors même qu’elle semblait sur la bonne voie. La raison? Les intérêts nationaux dans les technologies émergentes et l’IA générative échappaient jusqu’à présent aux règles.

Deuxièmement , une administration publique entièrement automatisée, malgré son efficacité, ne serait pas si formidable. Parmi les quatre scénarios produits par la simulation « L'avenir du gouvernement », menée par la Commission européenne entre 2018 et 2019, on imaginait que les services publics pilotés par l'IA seraient offerts de manière individualisée et prédictive aux citoyens, mais au détriment de leurs libertés.

Pas de règles donc, mais de meilleures règles. Cela peut bien sûr signifier beaucoup de choses. En voici deux vraiment essentielles : L’une consiste à repenser la conception des interactions numériques , en abandonnant à jamais le paradigme de simplicité auquel la technologie nous a habitués. Une autre consiste à former constamment les fonctionnaires, tout en recrutant temporairement les compétences les plus spécialisées. Le message sous-jacent est clair : même une administration publique hautement automatisée s’appuie sur un capital humain important.

L’État, après la pandémie, est de retour avec force sur le marché. L’automatisation bouleverse la situation : quelle part de marché voulons-nous au sein de l’État ?

👋 Vous pouvez écrire un article comme celui-ci ! Partagez vos réflexions avec une communauté de fonctionnaires. Apprendre encore plus

(Crédit d'image : Unsplash)