Cet article est une interview entre Tom Orrell et Andrea Ulrich, deux directeurs adjoints des programmes, et Mihai Postelnicu, directeur adjoint du développement logiciel chez Data and Digital Organization, Development Gateway.

  • Le problème : l'IA générative peut être un excellent outil pour les organisations qui cherchent à améliorer leur productivité, en particulier lorsqu'il s'agit de simplifier des tâches d'analyse complexes, mais beaucoup ne savent pas comment l'utiliser de manière sûre et éthique.
  • Pourquoi c'est important : Chez Development Gateway (DG), l'élaboration et la mise en œuvre d'une politique d'IA ont été considérées comme cruciales pour naviguer dans les complexités de l'IA générative, répondre aux préoccupations éthiques et garantir l'utilisation responsable et efficace de ces outils dans l'amélioration des flux de travail organisationnels.
  • La solution : la direction de la DG a collaboré à la création d'une politique d'IA orientée vers l'action et adaptable, soutenue par une communication continue, un comité interne et des processus de sélection, pour guider le personnel dans l'utilisation sûre et efficace des outils d'IA générative dans son travail quotidien. .

« Imaginez une IA qui parle vraiment votre langage – et pas seulement vos mots et votre syntaxe. Imaginez une IA qui comprend le contexte, les nuances et même l'humour.

_ _

_Ce n'est plus seulement un concept futuriste, c'est la réalité de ChatGPT. _

– Bernard Marr, 2023, Forbes

L’IA générative connaît un moment. La fonctionnalité d'outils tels que ChatGPT d'Open AI s'est améliorée de façon exponentielle au cours de l'année 2023. En conséquence, l'applicabilité de l'IA générative à des tâches analytiques complexes a explosé. Les outils d'IA générative sont désormais si avancés qu'ils peuvent être utilisés dans tous les environnements professionnels pour aider les développeurs de programmes à améliorer leurs lignes de code et leurs logiciels, aider les analystes à réfléchir à des idées, soutenir la formation et l'éducation des employés et conseiller le personnel sur le ton et le langage des projets de rapports et d'e-mails. , parmi de nombreuses autres tâches. Cependant, ils restent loin d’être des outils parfaits. Les questions et incertitudes liées à l’éthique des données, à la confidentialité et au droit d’auteur ne sont que quelques-uns des défis à relever lors de l’utilisation d’outils d’IA générative sur le lieu de travail.

Soyez prêt à mettre à jour le document de politique en permanence pour suivre le rythme des développements dans ce domaine.

Dans les domaines du développement durable et des politiques publiques, de nombreuses organisations envisagent d’utiliser des outils d’IA générative dans leur travail. Cependant, nombreux sont ceux qui ont du mal à discerner quels types de cas d’utilisation sont efficaces, appropriés et sûrs. Development Gateway , une entreprise IREX, est l'un des premiers à adopter les technologies d'IA générative et utilise désormais en toute sécurité plusieurs outils différents dans son travail quotidien. Un facteur clé pour Development Gateway a été la production d'une « politique d'IA » interne.

Dans cette interview avec Andrea Ulrich , directrice adjointe des programmes et Mihai Postelnicu , directeur adjoint du développement logiciel chez Development Gateway, Tom Orrell , directeur général de DataReady, explore pourquoi et comment Development Gateway a élaboré sa politique en matière d'IA, comment elle aide efficacement le personnel et utiliser en toute sécurité les outils d’IA générative et quels conseils ils donnent aux autres organisations et institutions cherchant à emboîter le pas.

Tom : Pour commencer, pourriez-vous nous parler du travail effectué par Development Gateway ?

Andrea : Development Gateway : une IREX Venture est une organisation de données et numérique. Nous créons des outils numériques et concevons des processus qui aident à collecter, visualiser et utiliser des données pour des institutions plus responsables et plus efficaces. Nous travaillons avec les ministères de la santé, de l’éducation et de l’agriculture du monde entier pour améliorer la façon dont ils utilisent les données. Nous soutenons également l'amélioration de l'apprentissage et de l'utilisation des données pour les institutions donatrices comme le Bureau des Affaires étrangères, du Commonwealth et du Développement du Royaume-Uni et Affaires mondiales Canada.

Tom : Compte tenu de votre travail, pourquoi était-il important pour vous de développer une politique en matière d'IA ?

Mihai : Development Gateway est impliqué depuis longtemps dans la mise en œuvre de projets numériques et de données. Nous disposons de solides équipes de développement technique et de programme. Compte tenu de notre intérêt pour la technologie en général, lorsque les outils d’IA générative ont commencé à faire sensation en 2022, nos équipes techniques ont exploré comment ils pourraient être appliqués à notre travail. Au sein de l’équipe technique, nous avons eu la chance de disposer des compétences et des connaissances nécessaires pour pouvoir expérimenter et tester de manière informelle les applications et les limites des nouveaux outils d’IA générative. Nous avons découvert qu'il existait des possibilités considérables pour leur application dans notre travail technique et programmatique. Cependant, nous étions conscients que de nombreux collègues au sein de l'organisation pouvaient avoir du mal à comprendre comment utiliser au mieux les outils, quelles pourraient être leurs limites et quels risques ils pourraient présenter s'ils étaient mal utilisés. C’est là qu’est apparue la nécessité d’une politique en matière d’IA .

Andrea : J'ajouterais également qu'au fil du temps, nous avons également pris conscience de nombreux défis et risques plus larges associés à l'IA générative, par exemple, le potentiel de résultats biaisés, racistes ou sexistes, et les problèmes liés au droit d'auteur sur les données utilisées pour former. modèles d’IA génératifs. Dans le même temps, les membres du personnel commençaient déjà à utiliser des outils d’IA générative pour réfléchir à des idées et même effectuer des calculs budgétaires. Parfois, les outils effectuaient mal ces tâches. Cette combinaison de facteurs – connaissance des risques externes impliqués et besoin pragmatique d’agir rapidement pour soutenir le personnel – a vraiment fait ressortir la nécessité d’une politique d’IA chez Development Gateway.

💬 Faites savoir aux auteurs ce que vous pensez des risques et des opportunités de l'IA en laissant un commentaire ci-dessous

Tom : Quels sont les avantages et les risques liés à l'utilisation de l'IA générative chez Development Gateway ?

Mihai : Les outils d'IA générative constituent une technologie incroyable qui a le potentiel de transformer la productivité au bureau. S'ils sont utilisés correctement et en toute sécurité, ils peuvent dynamiser la production de tout type de document, l'écriture du code source des logiciels et bien d'autres choses. Nos équipes de développeurs ont déjà constaté une augmentation de leur productivité en utilisant les outils pour éditer du code, apprendre de nouvelles techniques de codage et même apprendre de nouveaux langages de codage.

Andrea : Du côté des Programmes, nous avons utilisé des outils d’IA générative pour synthétiser de grandes quantités de données d’entretiens qualitatives – après avoir soigneusement supprimé au préalable toutes les données personnelles et sensibles. Je connais également des membres du personnel dont l'anglais n'est pas la langue maternelle qui utilisent des outils d'IA générative pour vérifier le ton des e-mails afin de s'assurer qu'ils sont clairs et qu'ils ne sont pas grossiers ou offensants par inadvertance. En tant qu'organisation mondiale, nous travaillons dans plusieurs pays et dans plusieurs langues. La traduction et l'édition sont donc pour nous un cas d'utilisation très utile de l'IA générative.

Mihai : En termes de risques, l'un des grands risques que posent les outils d'IA générative est celui des « hallucinations ». Les outils d’IA générative sont créatifs par conception, ce qui signifie qu’ils ont parfois tendance à dériver vers des interprétations plus créatives d’un problème que celles auxquelles on pourrait s’attendre. Ils peuvent parfois simplement inventer des informations pour répondre à un problème ou les interpréter de manière erronée. Cela signifie que – du moins avec la génération actuelle d’outils d’IA générative – il est vraiment important de garantir que les humains soient tenus au courant à chaque étape de l’entrée et de la sortie des données. Nous devons également prendre en compte les autres risques, notamment veiller à ce que les données des clients ne soient pas utilisées à mauvais escient de quelque manière que ce soit et veiller à ce que nous soyons conscients de tout biais pouvant survenir lors du traitement des données.

Tom : Comment avez-vous développé votre politique en matière d’IA ? Quel a été le processus ?

Andrea : Je suis un grand fan de clarté et de structure, surtout lorsqu'il s'agit de guider les membres de l'équipe. Je crois qu'une fois que le personnel a des directives claires et connaît les limites du bac à sable, il peut alors être libre d'être créatif et d'expérimenter de nouvelles innovations dans ces limites. Cette réflexion, d’une part en accordant au personnel l’espace nécessaire pour expérimenter, tout en garantissant d’autre part que les garde-fous nécessaires étaient en place, a guidé notre processus de production de politique en matière d’IA.

Nous avons commencé le processus lorsque j'ai invité l'équipe de direction à rejoindre un groupe de travail pour piloter l'élaboration de la politique. Une fois qu'une équipe de quatre personnes a été constituée, représentant à la fois les programmes et l'équipe technique, nous avons ensuite réfléchi aux étapes du processus :

  • Nous avons d’abord entrepris une revue de la littérature sur les politiques en matière d’IA, mais nous avons constaté que très peu de choses étaient déjà développées.
  • Nous avons ensuite travaillé à la constitution d'une base de données de tous les outils d'IA générative déjà utilisés par les collaborateurs de l'organisation.
  • Une fois que nous avons obtenu ces informations, nous avons commencé à rédiger une politique structurée autour de deux éléments : i) des conseils destinés au personnel sur la façon de sélectionner les outils d'IA générative ; et ii) des conseils sur la manière d’utiliser les outils d’IA approuvés.
  • Enfin, nous avons entrepris deux séries de commentaires sur le projet ; d'abord avec la haute direction, puis avec huit collègues de toute l'organisation. Nous avons ensuite modifié la politique en fonction des commentaires.

Les cycles de retours à la fin de notre processus de rédaction ont été très importants. En veillant à ce que le personnel à tous les niveaux de l'organisation puisse participer au processus, nous avons veillé à ce qu'il réponde réellement à leurs besoins et soit orienté vers la pratique.

Tom : Pouvez-vous résumer brièvement la politique ?

Andrea : Notre politique en matière d'IA est très orientée vers l'action et adaptable. Il explique simplement pourquoi la politique est nécessaire, à qui elle s'applique, comment filtrer les outils d'IA générative pour garantir qu'ils sont efficaces et sûrs et qui contacter si des informations ou une assistance supplémentaires sont nécessaires. La politique est complétée par une base de données en constante évolution de cas d'utilisation et d'outils audités.

Conseils sur la sélection des outils d'IA générative issus de la politique d'IA de Development Gateway

Avant de commencer à utiliser un nouvel outil, veuillez suivre les étapes suivantes :

1. Déterminez si cet outil a été approuvé en faisant référence à la section « Outils » de cette politique ainsi qu'à la section « Cas d'utilisation ». Votre cas d'utilisation est-il approuvé ? L'outil que vous souhaitez faire approuver est-il dans la feuille de calcul ?

  • Si oui aux deux questions : Super ! Vous avez terminé. Assurez-vous de respecter les directives des cas d'utilisation.
  • Si l'outil est approuvé, mais pas pour la manière dont vous envisagez de l'utiliser, passez à l'étape 2.
  • Non, c'est un nouvel outil. Passez à l'étape 2.

2. Définissez comment vous comptez utiliser l'outil (au meilleur de vos connaissances)

  • Quelles données ou informations allez-vous alimenter dans l’outil ?
  • Est-ce pour un usage interne (yeux DG uniquement) ou un usage externe ?
  • Existe-t-il des problèmes ou des contraintes en matière de confidentialité liés aux informations que vous saisissez ?

3. Effectuez une évaluation de la manière dont l'outil utilise vos données.

  • Vérifiez les termes et conditions. Est-ce qu'ils couvrent si/comment vos données sont partagées avec des parties externes ?
  • Utilisent-ils vos données d’entrée pour les données de formation ? Si oui, existe-t-il un moyen de désactiver cette fonctionnalité ?

4. Sur la base des informations des étapes 2 et 3, avez-vous des inquiétudes concernant l'utilisation de l'outil ?

  • Non, super ! Informez-nous et commencez à utiliser l’outil pour votre cas d’utilisation.
  • Oui. N'utilisez pas l'outil ! Veuillez nous alerter afin que nous puissions l'examiner plus en détail.
  • Vous n'êtes pas sûr ou vous avez besoin de plus de conseils. Veuillez nous en informer afin qu'un membre du comité puisse vous aider à évaluer davantage.

Je tiens à souligner que l'un de nos principaux objectifs en élaborant cette politique n'était pas seulement une politique mais un processus . Ce processus permet une réflexion, une discussion, une sélection d'outils et une expérimentation constantes. C’est vraiment important pour nous car l’espace de l’IA générative continue d’évoluer très rapidement. À cette fin, nous disposons de deux niveaux de soutien qui entourent la politique. Nous avons un comité interne qui examine les questions du personnel et soutient l'interprétation et l'utilisation des politiques. Nous disposons également d'une chaîne Slack en direct, ainsi que d'une adresse e-mail dédiée, à laquelle tout le personnel peut accéder et utiliser pour nous contacter pour toute question qu'il pourrait avoir.

Mihai : Dans la pratique, la politique envisage un processus en trois étapes pour vérifier la pertinence des outils d'IA générative à utiliser au sein de Development Gateway. Tout d’abord, le personnel peut vérifier la liste existante des outils approuvés pour voir si l’outil qu’il souhaite utiliser a déjà été approuvé ou exclu. Deuxièmement, si l’outil qu’ils souhaitent utiliser n’a pas été approuvé, ils peuvent le vérifier eux-mêmes, en utilisant les lignes directrices de la politique comme référence. Enfin, ils informent ensuite le comité d’IA des recherches qu’ils ont entreprises et des résultats de l’exercice de sélection.

Extrait de la politique IA de la DG

Même pour les outils et les cas d’utilisation approuvés, vous devez respecter les conseils suivants :

1. Vous devez suivre les instructions présentées dans les documents sur les cas d'utilisation et les outils .

2. Soyez transparent sur l’utilisation des outils d’IA en interne et en externe

  • Si vous travaillez sur un projet, vous devez demander le consentement du client avant d'utiliser des outils d'IA générative.
  • Vous devez également divulguer à votre équipe de projet lorsque vous avez utilisé un outil d'IA générative pour un travail interne ou client.

3. Ne saisissez pas d'informations sensibles ou client

  • Ne saisissez aucune information sensible sur les clients ou les informations internes de la DG ou les informations personnelles des membres de l'équipe de la DG ou des parties prenantes des projets (par exemple, les noms des entretiens avec les informateurs clés) dans les outils d'IA générative, à moins que des directives de sécurité des données ne soient en place. Toute violation de ce processus est considérée comme une violation de la politique de confidentialité des données de DG.

4. Un examen est requis

  • Si le client et l'équipe acceptent d'utiliser des outils d'IA générative, vous devez examiner tous les résultats de l'IA générative. Souvent, les données produites sont obsolètes ou incorrectes, un examen approfondi est donc nécessaire. C'est ce que l'on appelle souvent « l'humain dans le circuit » et c'est une attente obligatoire de tous les consultants et du personnel de la DG.

Tom : Enfin, quels conseils donneriez-vous à d'autres organisations à vocation sociale et institutions publiques cherchant à développer leurs propres politiques en matière d'IA ?

Andrea : Mes trois principales réflexions sont :

  • Assurez-vous d’inclure un large éventail de personnes et de fonctions dans l’élaboration de la politique. Notre politique a été grandement améliorée grâce à un cycle de feedback avec des collègues qui utilisaient déjà des outils d'IA générative.
  • Ne vous écartez pas du processus d’élaboration d’une politique en matière d’IA simplement parce que vous n’êtes pas sûr du fonctionnement de l’IA générative. Les personnes confrontées à quelque chose de technique ont tendance à dire : « c'est un problème qui devrait être traité par l'informatique », mais en raison de la nature de ces outils, il est vraiment important qu'un éventail de voix soit inclus dans le processus d'élaboration des politiques. .
  • Il est important de TROP insister sur l’importance de la communication, en particulier de la communication bidirectionnelle qui permet des discussions et des réflexions internes pour stimuler l’apprentissage à l’échelle de l’organisation.

Mihai : Mes trois principales réflexions sont :

  • N'attendez pas pour entamer une conversation sur la manière dont ces outils peuvent être utilisés dans votre travail. Même si vous ne pensez pas qu'ils soient pertinents, il se peut que d'autres collègues utilisent déjà des outils d'IA générative. Il est très important d’entamer la conversation le plus tôt possible et de lancer un processus permettant de discerner à quoi ressemble une utilisation appropriée et sûre des outils d’IA générative dans votre contexte.
  • Soyez prêt à mettre à jour le document de politique en permanence pour suivre le rythme des développements dans ce domaine.
  • Il y a des avantages à être un des premiers à adopter la technologie de l’IA générative. Ces outils peuvent vraiment jouer en votre faveur et vous donner, à vous et à votre organisation, un avantage concurrentiel. Leur utilisation est relativement sûre dans de nombreux contextes, à condition que des garde-fous soient mis en place et qu'il existe un processus clair pour filtrer les outils et les cas d'utilisation.

Plus d'informations sur la politique d'IA de Development Gateway peuvent être trouvées ici : Si vous avez des questions sur le travail de Development Gateway ou sa politique d'IA, veuillez contacter aulrich@developmentgateway.org et mpostelnicu@developmentgateway.org .

  1. Comme défini dans la politique de données de la DG, les « données sensibles » désignent toutes les autres données non personnelles qui : (i) ne sont pas accessibles au public (confidentielles) ; (ii) les partenaires du projet/programme ne souhaitent pas que cela soit rendu public (ou rendu public seulement après le nettoyage) ; ou (iv) appartenant (partiellement ou totalement) à un tiers qui nécessite une consultation et/ou une approbation avant que les données puissent être publiées. Cela inclut, par exemple, les secrets commerciaux, les nouvelles technologies, les logiciels propriétaires et toutes les conversations sensibles partagées lors des entretiens CALM qui sont considérées comme confidentielles. Pour tout outil d'IA qui conserve et partage des données avec des tiers, cela inclut également la documentation non publique (par exemple, les documents stratégiques, les évaluations, les rapports de programme, etc. qui peuvent être partagés avec la DG dans le cadre d'une évaluation, mais qui ne sont pas accessibles au public). .

Vous avez fini de lire ? Assurez-vous de partager vos propres réflexions sur la politique en matière d'IA en laissant un commentaire ci-dessous ⬇️

(Crédit image : Pexels )