Cet article est rédigé par Wesley Hau (président, Communauté de pratique des données ouvertes de l'Ontario), Amy Bihari (responsable des données ouvertes et des technologies émergentes avec le service numérique de l'Ontario) et Dalia Hashim (conseillère en politiques auprès du chef des données et du numérique de l'Ontario)

Depuis environ un an, bon nombre d’entre nous dans la fonction publique ont commencé à découvrir de nouvelles technologies algorithmiques et à discuter de leur place dans nos programmes et services.

Cette nouvelle suite d'outils et de technologies apporte de nouvelles promesses à notre travail collectif, mais à quel prix? Dans les tribunaux de l'État du Wisconsin , ils ont mis en œuvre un algorithme de boîte noire pour faciliter la détermination de la peine, mais l'une des conséquences involontaires était l'inégalité raciale incontrôlée. La portée et l'impact de ces petits calculs peuvent être énormes, amplifiant tout en allant plus vite et plus efficacement - mais vers des services meilleurs et plus rapides ou des inégalités de masse engendrées dans notre technologie et notre prise de décision ?

Nous avons tendance à faire confiance à la technologie parce que nous pensons qu'elle est neutre, impartiale contrairement à nous, mais la vérité est que, le plus souvent, nous intégrons simplement nos préjugés dans la technologie tout en conservant son illusion de neutralité. Nous induisant souvent en erreur en pensant que nous avons créé des résultats plus positifs lorsque nous avons simplement systématisé les mêmes.

C'est là que nous nous trouvons, au bord d'un nouveau monde courageux. Comment utiliser ces nouveaux outils de manière responsable? Comment pouvons-nous définir et orienter l'utilisation qui intègre les idéaux de justice, de confiance, d'équité, de justice, de bien social, de bien économique, de bien environnemental?

Embrasser la puissance d'Open

Nous sommes un groupe de fonctionnaires canadiens (principalement en Ontario, provenant de divers organismes et ministères) travaillant à jeter les bases d'une utilisation responsable et éthique de l'algorithmique et de l'intelligence artificielle (IA) par le gouvernement.

Notre objectif est d'intégrer les principes ouverts dans la manière dont le secteur public aborde les algorithmes et les technologies basées sur les données comme l'IA. Pour ce faire, nous travaillons ensemble aussi souvent et en collaboration que possible pour naviguer dans cet espace complexe et bien servir toutes nos communautés.

En Ontario, nous avons un solide programme de données ouvertes qui oblige tous les ministères et organismes à rendre leurs actifs de données aussi ouverts que possible. Cette fondation d' Open by Default a permis à l'Ontario de partager rapidement et facilement des données et des outils axés sur les données (y compris le code) pendant la pandémie actuelle de Covid-19, permettant une collaboration sans précédent et une innovation menée par la communauté pendant ces périodes difficiles.

Cela peut ne pas sembler important, mais au gouvernement, ce n'est pas normal - vous êtes censé travailler au sein de votre équipe, unité ou division et, dans certains cas, vous êtes découragé de contacter un collègue extérieur à votre groupe sans autorisation expresse.

Les programmes Open Data sont basés sur des principes tels que la transparence, l'accessibilité et la collaboration, il était donc naturel pour ceux d'entre nous qui sont les plus proches des données ouvertes dans nos organisations de se tendre la main, pour comprendre comment nous pourrions mieux travailler ensemble dans nos utilisations des données. technologie pilotée. Quelque chose d'aussi simple que de créer une communauté de pratique où nous pouvons nous parler des différentes façons dont nous pourrions utiliser ces nouvelles technologies, donner des exemples de moments où nous avons partagé des données à l'air libre et comment cela a conduit à des impacts positifs, peut aller un long chemin dans le changement de la culture organisationnelle au sein du gouvernement.

Cela peut ne pas sembler une grande chose, mais au gouvernement, ce n'est pas normal - vous êtes censé travailler au sein de votre équipe, unité ou division et dans certains cas, vous êtes découragé de contacter un collègue extérieur à votre groupe sans autorisation expresse. Ces frontières entre les équipes gouvernementales et les organisations reflètent le passé: besoins passés, limites passées, objectifs passés. Il est fort probable que les mêmes choses se produisent dans votre organisation, et nous espérons que nos réflexions pourront vous aider à briser les silos entre les équipes dont nous avons besoin de toute urgence pour travailler ensemble pour créer une approche plus durable de l'IA au sein du gouvernement.

En quelques semaines, il est passé d'une communauté de 5 à une communauté de plus de 50

Cependant, changer notre façon de travailler n'est pas aussi simple que d'acheter ou de construire un nouvel espace ou outil collaboratif. Les gens doivent être habilités à se rassembler que ce soit dans des espaces virtuels ou physiques et être libres de parler franchement des défis et de partager en toute sécurité de nouvelles idées (ainsi que des espoirs et des peurs). C'est le type d'approche que nous adoptons, créant des espaces sûrs et ouverts pour partager des pensées, des défis, des questions et des ressources alors que nous commençons à naviguer dans de nouvelles approches, outils et technologies comme l' apprentissage automatique (ML), l'intelligence artificielle (IA) et autres. utilisations algorithmiques.

Grâce à notre communauté de pratique, nous avons pu en apprendre davantage sur les nouveaux projets pilotes qui pourraient être en cours en utilisant l'IA, les raisons pour lesquelles les équipes auraient pu envisager l'IA, mais s'en sont ensuite éloignées, ou les cas où un projet / service a bénéficié de l'ajout de données. technologies pilotées. Toutes ces histoires, études de cas et apprentissages ont également contribué à éclairer et à façonner notre approche de l'utilisation éthique de l'IA en Ontario qui répond aux besoins des Ontariens et des fonctionnaires.

Créer un espace de collaboration

Notre voyage a commencé par une tasse de thé.

Un après-midi, quelques-uns d'entre nous se sont rencontrés dans un café de Toronto après avoir échangé des courriels et découvert que nous étions tous en train de patauger dans les eaux troubles de l'utilisation gouvernementale du ML / AI. Alors que nous discutions de nos projets, préoccupations et communautés respectifs, nous avons rapidement manqué de temps, mais nous voulions poursuivre la conversation. Nous voulions faire une boucle avec plus d'alliés, partager des fichiers, des liens, des idées - nous voulions plus de temps ensemble au café.

La même semaine, nous avons créé un espace de travail Slack partagé, mis en place des canaux (salles de discussion) pour nos sujets préférés et commencé à inviter nos amis. Au fur et à mesure que les gens se sont joints, nous les avons encouragés à ajouter leur agence ou organisation à leur profil pour aider à mettre en évidence la communication entre les équipes que nous construisions. En quelques semaines, il est passé d'une communauté de 5 à une communauté de plus de 50. Cela a aidé à renforcer la confiance que plus d'une personne ou équipe ou organisation pensait que c'était une bonne idée. Il a également fourni des panneaux indiquant qui pourrait être une bonne personne à contacter pour obtenir des informations ou des conseils - je vois qu'Amy est responsable des données au service numérique de l'Ontario, elle pourrait peut-être me parler du point de vue provincial sur l'adoption de normes de données (ou moi avec quelqu'un fait!).

Maintenant, nous avions notre café virtuel.

Nos efforts de collaboration ne s'arrêtent pas au gouvernement, ce n'est que le début

Au cours des mois suivants, nous avons partagé des projets de documents, des diapositives de présentation et des liens vers des événements d'apprentissage. Nous avons visité les comités et groupes de travail de l'autre via les équipes MS ou Zoom pour partager nos parcours et nos apprentissages sur des sujets tels que la littératie numérique, la transparence algorithmique et la gouvernance des données. Aucune collaboration formelle n'a été conclue, donc aucune approbation n'a été parcourue, mais une collaboration était en cours. De plus en plus de personnes visitaient l'espace Slack partagé dont elles avaient entendu parler, et plus d'alignement commençait à apparaître dans nos présentations et nos rapports concernant les systèmes d'IA responsables.

Aller audacieusement ... ensemble

Actuellement, nous utilisons notre réseau grandissant pour explorer et développer des travaux concernant la maîtrise de l' IA et les conseils en matière d'IA pour l'Ontario . Nous espérons qu'en établissant une compréhension commune des utilisations, des problèmes et des objectifs, nous pourrons créer les conditions d'une collaboration et de perspectives plus larges dans nos futures normes, pratiques et politiques concernant l'IA.

Alors que l'IA commence à être considérée ou adoptée par toutes les facettes du gouvernement, dans tous les secteurs et continents, il existe une opportunité de développer des protections plus fortes contre les inégalités, les préjugés et la discrimination dans tous nos programmes et services. En abordant le ML / AI avec une optique de transparence, d'éthique et de justice dès le départ, nous pouvons travailler différemment et produire des résultats différents, des résultats meilleurs pour plus de communautés.

Nous croyons fermement que la transparence et la participation collaborative nous placent en tant que fonctionnaires sur une voie inclusive vers un avenir enrichi par les données. Nous prévoyons de continuer à faire de la place pour plus d'alliés de différents espaces avec des expériences différentes pour se connecter et façonner notre compréhension collective de l'utilisation responsable, sûre et bénéfique de la technologie basée sur les données comme les algorithmes et le ML / AI.

L'IA éthique, innovante et transparente doit être un effort de collaboration entre de nombreuses parties prenantes, y compris vous-même. Nous voulons entendre les praticiens de l'IA, les utilisateurs de données, les entreprises qui s'appuient sur l'IA et d'autres technologies basées sur les données. Nos efforts de collaboration ne s'arrêtent pas au gouvernement, ce n'est que le début. Vous pouvez nous contacter via nos projets GitHub ou par e-mail pour partager vos pensées, vos conseils, rejoindre notre environnement Slack ou vous rencontrer pour une tasse de thé (virtuelle).

Faites-nous part de vos commentaires sur notre travail actuel, indiquez-nous des questions auxquelles vous pourriez être confronté en ce qui concerne l'IA, ou dites-nous simplement quelle a été votre expérience avec la technologie de l'IA jusqu'à présent. Nous aimerions recevoir de vos nouvelles. - Wesley Hau , Amy Bihari et Dalia Hashim

(Crédit photo: Unsplash)