Partout, les gouvernements annoncent de nouvelles stratégies pour l'intelligence artificielle. De la France, qui a promis 1,85 milliard de dollars de financement pour la recherche dans le domaine, au Canada, qui prévoit de former un lot de spécialistes de l'IA dans ses universités, il est clair que les dirigeants politiques voient l'IA comme un domaine dont ils ont besoin pour se perfectionner rapidement.

En plus d'être une opportunité économique, l'IA peut également être déployée pour réformer les services publics. Mais une certaine prudence s'impose: pour chaque avantage, il semble qu'il y ait un danger correspondant. Les soi-disant «systèmes de prise de décision automatisés» se sont déjà avérés dans un certain nombre de cas avoir des effets néfastes sur la vie des citoyens. La façon dont le gouvernement devrait réglementer l'adoption de l'IA, le cas échéant, reste en litige.

• Pour en savoir plus, consultez notre fil d'actualité numérique gouvernemental .

Pour les fonctionnaires sur le point d'entrer dans ce monde, tout cela peut sembler un peu accablant. Voici ce que vous devez savoir sur le débat:

Quel est le problème avec l'IA?

Les fonctionnaires utilisent des outils informatiques - des «systèmes de décision automatisés» - pour conseiller et guider leurs décisions depuis des années déjà. En traitant des masses de données pour évaluer la probabilité que certains événements se produisent ou pour mesurer le rendement, les algorithmes peuvent servir de guides aux fonctionnaires.

L'IA s'appuie sur ces éléments. Il permet aux systèmes automatisés d'apprendre tout en travaillant, en s'adaptant au fil du temps pour améliorer leurs performances. De nombreux gouvernements les utilisent déjà et commencent à expérimenter l'apprentissage automatique. Ils peuvent être très efficaces, mais ils comportent des dangers.

«Lorsque l'automatisation et l'IA sont utilisées au sein du gouvernement, les droits des personnes concernées doivent être respectés comme si un humain prenait la décision»

Par exemple, en Arkansas, aux États-Unis, l'État a utilisé un outil de prise de décision automatisé , alimenté par un algorithme, pour calculer le nombre d'heures de soins de santé graves pour les personnes gravement handicapées de Medicaid. Mais une enquête judiciaire a révélé qu'il y avait une erreur dans le code - ce qui signifie que de nombreuses heures ont été réduites à tort.

Les problèmes d'un tel système s'appliquent à l'IA. Lorsqu'un algorithme complexe utilise une masse de données alambiquées pour prendre une décision, voire une recommandation, il peut être extrêmement difficile d'ouvrir le capot et de fouiller dans les données pour trouver la faute.

Que devraient faire les gouvernements?

Certains soutiennent que de nouveaux droits pour les citoyens, adaptés à l'ère numérique, doivent être consacrés. "En tant que citoyen, en tant qu'être humain ... quels sont vos droits dans le contexte de la prise de décision automatisée et basée sur les données?", A demandé Meredith Whittaker de l' Institut AI Now de l' Université de New York lors d'un récent sommet du Partenariat pour un gouvernement ouvert.

«Lorsque l'automatisation et l'IA sont utilisées au sein du gouvernement, les droits des personnes concernées doivent être respectés comme si un humain prenait la décision», a-t-elle déclaré. Whittaker a fait valoir que, trop souvent, ceux-ci se perdent alors que le gouvernement s'efforce d'efficacité et d'économies.

Melanie Robert , l'une des principales personnalités publiques à la tête de la stratégie du Canada en matière d'IA, qui s'exprimait au sein du même panel, a déclaré que, alors que les gouvernements planifient leurs stratégies en matière d'IA, c'est le moment idéal pour inscrire ces droits dans la stratégie gouvernementale. Mais, a-t-elle reconnu, «c'est très difficile en ce moment pour les fonctionnaires qui sont des régulateurs et des législateurs, parce que vous ne voulez pas aller trop vite pour étouffer l'innovation.»

L'approche du Canada consiste à rassembler une équipe multidisciplinaire d'experts - avocats, spécialistes en technologie, philosophes - pour étudier les effets que l'IA peut avoir sur la vie et les droits des personnes lorsqu'elle est utilisée au sein du gouvernement. Il utilisera la consultation pour éclairer un cadre éthique. Robert craignait qu'une pression trop forte sur la réglementation sans un processus de recherche approfondi ne réduise les avantages.

Tout le monde n'est pas d'accord. "Je me bats pour ces motifs depuis une vingtaine d'années", a déclaré Gus Hosein , directeur exécutif de Privacy International, une association caritative basée à Londres. Pour Hosein, il doit y avoir des tests beaucoup plus rigoureux des façons dont le gouvernement recueille des données, avant même que nous abordions la question de l'approche de l'IA. Les enjeux sont trop importants et le danger pour les droits trop important - pour lui, l'innovation et le développement économique doivent être une préoccupation secondaire.

Qu'est-ce qui fonctionne déjà?

En France, Etalab , le cabinet du Premier ministre en charge de l'open data et du gouvernement ouvert, enquête sur les applications de l'IA aux services publics. Il travaille à inscrire la transparence dès la conception dans l'approche du gouvernement, garantissant que, pour chaque algorithme ou système utilisé, le public pourra accéder à ses rouages internes. Pour la directrice d'Etalab, Laure Lucchesi , cette approche est largement acceptée au sein du gouvernement, «mais c'est vraiment un défi de la rendre efficace pour les citoyens».

Cela s'explique par la complexité des systèmes et la disponibilité de l'expertise technique tant au sein du gouvernement que de la société civile. Parfois, même les ingénieurs qui construisent les systèmes automatisés utilisés par le gouvernement ont du mal à comprendre comment ils fonctionnent.

Pour traiter spécifiquement le problème de l'accès du public et de la responsabilité du gouvernement, AI Now de New York a développé des processus pour vérifier correctement les systèmes automatisés lorsqu'ils sont utilisés pour aider à la prise de décision.

L'institut fait valoir que les ministères devraient effectuer des « évaluations d'impact de l'IA » avant de mettre en œuvre tout outil d'analyse de l'IA ou du Big Data. Les experts devraient avoir accès aux algorithmes, même aux systèmes propriétaires développés par des entreprises à but lucratif, et ils devraient être compréhensibles pour les personnes dont ils affectent la vie. - Anoush Darabi

(Crédit photo: Flickr / MU)