Cet article est rédigé par Vincent Straub, chercheur au sein du programme de politiques publiques de l'Institut Alan Turing et du Big Data Institute de l'Université d'Oxford. Auparavant, il a travaillé à l'Oxford Internet Institute et à la fondation d'innovation Nesta.

  • Le problème : avec la sophistication et l’adoption croissantes de l’IA, les dirigeants gouvernementaux doivent adopter un vocabulaire plus précis pour arrêter la propagation de faux récits.
  • Pourquoi c'est important : L'histoire et l'évolution des termes utilisés pour parler de l'IA s'alignent sur le privilège institutionnel et confèrent de l'autorité ; les termes définissent l’ordre du jour et orientent la politique : nous devons viser un langage précis et informatif qui puisse nous aider à nous informer tous.
  • La solution : une approche à suivre consiste à promouvoir un glossaire de termes universellement acceptés en matière d'IA, qui incorpore davantage de termes mettant mieux en évidence la nature mécanique des modèles d'IA ; Dans le cadre de nos travaux à l'Institut Alan Turing, l'institut national britannique pour l'IA, nous travaillons activement sur ce problème.

Alors que la troisième année complète de la stratégie nationale d'IA du gouvernement britannique est en bonne voie, les récents progrès dans les capacités des systèmes d'IA continuent de faire la une des journaux. Le dernier exemple en date est celui des modèles LLM (Large Language Models) comme ChatGPT , qui tirent leur puissance de grandes quantités de données linguistiques.

Bien que les LLM puissent être adaptés à un éventail impressionnant de tâches, le langage utilisé au sein du gouvernement, ainsi que dans les entreprises et les médias, pour en discuter est souvent sorti de son contexte, confus et, au pire, s'apparentant aux effets de la désinformation.

💬 Faites savoir à l'auteur quel langage vous utilisez actuellement pour communiquer sur l'IA et quelles alternatives vous proposez en laissant un commentaire ci-dessous

Le dernier exemple en date est le mot « halluciner », que le Cambridge Dictionary a nommé mot de l'année 2023 . En termes simples, ce terme fait référence à la tendance des programmes comme ChatGPT à commettre des erreurs et à fournir des informations inventées ou fausses.

Pourtant, dire qu’un chatbot a des hallucinations donne l’impression qu’il a son propre esprit qui imagine parfois des choses. Comme l’a noté Giada Pistilli, éthicienne principale chez Hugging Face, qui héberge de nombreux modèles d’IA de pointe, le langage anthropomorphisant de l’hallucination obscurcit ce que font réellement les modèles d’IA. Un terme plus précis pourrait simplement être « dysfonctionnement ».

Des mots chargés de philosophie

De nombreux décideurs politiques pourraient être pardonnés d’adopter des termes promulgués par des chercheurs sans savoir que bon nombre de ces termes sont eux-mêmes contestés. L’équité peut signifier différentes choses selon les chercheurs auxquels vous posez la question, par exemple, mais elle est régulièrement évoquée dans les discussions sur l’IA.

Il y a un demi-siècle, lorsque l’IA était encore largement du ressort de la science-fiction, les conséquences du langage étaient moindres. Désormais, les mots comptent vraiment.

Cependant, alors que de nombreux politiciens et le grand public ont encore du mal à savoir quoi penser de l’IA et comment séparer les faits de la fiction , le langage que nous utilisons est clairement important.

Comme l'a écrit le célèbre informaticien Murray Shanahan, nous devons éviter « l'utilisation trompeuse de mots chargés de philosophie associés à la cognition humaine pour décrire les capacités des LLM », des mots tels que « croyance », « compréhension » et — peut-être le moins informatif des tout — « conscience ».

D'autres ont déjà souligné ce point et soutenu que nous devons arrêter de parler des LLM de la même manière que nous parlons des humains . Avec tout l’enthousiasme et la peur entourant l’IA, en particulier les LLM, nous devons être mesurés.

Nous devons savoir ce que cette technologie peut et ne peut pas faire, quels risques elle pose, afin de pouvoir à la fois avoir une compréhension plus approfondie et un compte rendu plus complet de son impact sociétal. Un vocabulaire qui souligne la nature mécanique des modèles d’IA constitue la première étape essentielle vers ces deux objectifs.

Où aller en partant d'ici?

Au cours des dernières années, un certain nombre de termes utiles pour parler des LLM sont bien entendu progressivement entrés dans le lexique. Ceux-ci incluent, entre autres, le biais algorithmique et l’interprétabilité. Cependant, ces termes sont souvent relégués au second plan, regroupés sous des « préoccupations éthiques » et discutés après coup. Alors, où allons-nous partir d'ici?

Une approche envisageable consisterait pour le gouvernement et les organisations internationales à défendre un glossaire de termes universellement acceptés en matière d’IA, qui incorpore davantage de termes mettant mieux en évidence la nature mécanique des modèles d’IA.

L'UE a réalisé des progrès dans ce domaine en développant un glossaire des termes de l'IA centrés sur l'humain . Cela peut servir d’inspiration au gouvernement britannique, qui n’a pas d’équivalent.

Dans le cadre de nos travaux à l'Institut Alan Turing, l'institut national britannique pour la science des données et l'IA, nous réfléchissons activement à ce problème. Dans un article récent , nous avons cartographié plus de 100 concepts actuellement présentés dans les discussions sur l'IA, notamment l'interprétabilité, l'explicabilité et la surveillance. Sur la base de notre examen, nous avons à notre tour introduit trois de nos propres nouveaux termes pour refléter le langage que nous pensons que les gouvernements devraient utiliser.

D’autres nouveaux termes mettant en avant la nature artificielle de l’IA et englobant l’ensemble des critères d’évaluation des systèmes d’IA fourniraient aux décideurs politiques un langage commun pour parler de tous les types de nouveaux systèmes d’IA et de leurs implications pour le gouvernement et la société .

Adopter et promouvoir de nouveaux termes peut sembler un vœu pieux, mais cela s’est déjà produit. Il suffit de prendre le mot « durabilité », dont l'origine remonte à moins de 45 ans et qui est depuis devenu la pierre angulaire du discours économique et du débat politique.

Il y a un demi-siècle, lorsque l’IA relevait encore largement de la science-fiction, les conséquences du langage étaient moindres. Désormais, les mots comptent vraiment et nous avons la possibilité de les prononcer correctement. L’histoire et la trajectoire du langage de l’IA s’alignent sur les privilèges institutionnels et confèrent un pouvoir décisionnel. Les termes fixent l’ordre du jour et orientent les progrès : nous devons aspirer à un langage holistique et précis qui puisse nous aider à tous nous informer.

Vous avez fini de lire ? Assurez-vous de partager vos propres réflexions sur la responsabilité des gouvernements en mettant l'accent sur la nature mécanique des modèles d'IA en laissant un commentaire ci-dessous ⬇️

(Crédit image : Unsplash)