Cet article est rédigé par le Dr Shainaz Firfiray, maître de conférences, Université d'Aberdeen.

  • Le problème : les problèmes de confidentialité des données et de biais algorithmique dans l'IA occupent le devant de la scène, tout comme l'accent mis sur la manière d'assurer la responsabilité alors que le travail devient de plus en plus automatisé.
  • Pourquoi c'est important : Il est essentiel que nous trouvions un ensemble de stratégies qui établiraient la confiance parmi les fonctionnaires et les citoyens que l'IA utilisée dans les services publics est conforme aux principes éthiques. De plus, il est important que nous reconnaissions les risques liés à l'utilisation de l'IA si nous voulons récolter ses avantages potentiels.
  • La solution : un ensemble de stratégies qui offriront des conseils sur la manière de renforcer la confiance du public, de respecter les droits de l'homme et l'État de droit et d'assurer la transparence et la divulgation responsable des systèmes d'IA.

Nous assistons actuellement à une forte augmentation de l'adoption des technologies d'IA au sein des services publics . Malgré leur popularité, il existe relativement peu de conseils sur les questions de confidentialité, de sécurité, d'acquisition de données et d'implications éthiques de l'IA.

Les violations récentes des systèmes informatiques publics et privés ont fait l'objet d'une large couverture. Les problèmes liés à la sécurité des données peuvent être exacerbés par l'utilisation d'applications d'IA, qui créent des systèmes hautement connectés et interdépendants.

Il y a plusieurs jugements de compromis qui doivent être faits lors de l'utilisation de l'IA dans les services publics.

Les services offerts par l'IA sont également fréquemment en conflit avec les idéaux sociétaux d'équité, car les algorithmes qui excellent à prendre les décisions les plus précises peuvent systématiquement discriminer certaines minorités. Il y a plusieurs jugements de compromis qui doivent être faits lors de l'utilisation de l'IA dans les services publics. Par exemple, juger quand il est acceptable d'utiliser un algorithme qui fonctionne mal pour une minorité spécifique s'il est en moyenne précis pour la population. Ou déterminer quels types de décisions et de compétences doivent toujours être laissées aux humains, et où rejeter les applications d'IA. Ou décider comment les données pourraient être utilisées pour améliorer la qualité et l'efficacité des services publics tout en respectant la vie privée et la dignité des citoyens. Cependant, le principal dilemme auquel sont confrontés les fonctionnaires est de savoir comment ces jugements de compromis doivent être rendus.

Lentille utilitaire et analyse coûts-avantages

Traditionnellement, une analyse coûts-avantages basée sur une optique utilitaire a été appliquée pour faire des compromis car elle permet aux gens de prendre des décisions en fonction de si les avantages de l'adoption d'une technologie spécifique l'emportent sur les coûts. Ces procédures sont largement utilisées dans l'industrie et la gouvernance car elles sont considérées comme objectives et fournissent des lignes directrices claires pour prendre une décision. Bien qu'une analyse coûts-avantages puisse plaire à certains fonctionnaires, elle n'est pas idéale en soi pour explorer de tels compromis. Elle peut fournir des données utiles susceptibles d'alimenter le processus de prise de décision, mais elle ne reconnaît pas que les valeurs sont difficiles à quantifier et que les chiffres à eux seuls peuvent masquer certains jugements de valeur controversés.

Lorsque différents groupes délibèrent et expriment ce qui compte pour eux, il est possible de concilier des points de vue contradictoires et de parvenir à un compromis.

La résolution de tels dilemmes peut prendre diverses formes. Ci-dessous, je propose des stratégies qui donneront la parole aux parties prenantes concernées et nous aideront à prendre des décisions alignées sur les droits et privilèges des personnes concernées par les technologies de l'IA.

Engagement public et dialogue

L'engagement du public est essentiel pour aborder les questions de compromis d'une manière qui peut être justifiée pour tous les membres de la société, en particulier lorsque des compromis surviennent en raison de valeurs et de perspectives conflictuelles de différents groupes. Cependant, lorsque différents groupes délibèrent et expriment ce qui compte pour eux, il est possible de concilier des points de vue contradictoires et de parvenir à un compromis. Il existe une gamme de méthodes qui peuvent être déployées pour favoriser l'engagement du public , notamment des enquêtes publiques à grande échelle, des groupes de discussion avec un élément éducatif pour recueillir des opinions éclairées des citoyens et un dialogue public itératif où les experts en technologie et les citoyens collaborent pour proposer des recommandations aux décideurs politiques.

Renforcer la cybersécurité

Les problèmes de cybersécurité peuvent se manifester de manière complexe, car les systèmes d'IA peuvent être compromis de manière difficile à comprendre et entraîner des failles de sécurité majeures. De plus, avec une augmentation de l' utilisation des chatbots dans les services publics , les citoyens pourraient devenir des cibles potentielles pour les robots conçus par des pirates et des escrocs qui pourraient accéder à des informations sensibles. Par conséquent, les préoccupations des citoyens en matière de sécurité et de confidentialité devraient être au premier plan de toute initiative d'IA.

Renforcer l'écosystème de l'IA

Il existe des obstacles importants à l'adoption des technologies d'IA dans les services publics, car ils sont peu enclins à prendre des risques et souvent sceptiques quant à l'expérimentation d'innovations émergentes . Les services publics sont plus à l'aise de suivre plutôt que de montrer la voie en adoptant les technologies d'IA. Cependant, cette approche attentiste est inutile, étant donné le rythme dynamique des changements dans le domaine de l'IA. L'utilisation efficace de l'IA nécessitera que les services publics recadrent leurs attitudes face au risque. Ils doivent reconnaître que les initiatives d'IA comportent un certain nombre de risques, mais ces risques peuvent être gérés efficacement au fil du temps. Cependant, la réticence à s'engager dans de nouvelles technologies d'IA peut limiter considérablement les opportunités futures qui nous permettent de résoudre les problèmes sociétaux majeurs.

Gagner la confiance du public

Les systèmes d'IA utilisés dans les services publics doivent être surveillés régulièrement. Les médias rapportent fréquemment l'utilisation abusive de l'IA ou les résultats négatifs accidentels attribués à l'IA. Cependant, développer des règles et des processus pour surveiller les algorithmes est une tâche difficile. Les entreprises qui développent des applications d'IA sont souvent réticentes à partager des détails sur le fonctionnement de leurs systèmes, et en l'absence de ces informations, il est difficile de contrôler ces systèmes ou de s'assurer qu'ils fonctionnent de manière éthique . De nombreux chercheurs ont fait valoir que les lois existantes sont limitées dans leur capacité à protéger les citoyens contre les algorithmes biaisés. Avec une augmentation de l'utilisation des systèmes d'IA, il est crucial que les services publics montrent une volonté d'ouvrir leurs systèmes à l'inspection pour s'assurer que les citoyens comprennent comment ces systèmes fonctionnent et peuvent faire confiance à leurs décisions et résultats.

En résumé, l'IA a des considérations éthiques qui sont différentes de celles des autres technologies. Les préoccupations concernant la confidentialité et la divulgation d'informations sensibles au public, l'utilisation irresponsable des données partagées, l'incompatibilité des jugements algorithmiques par rapport aux jugements fondés sur des valeurs humaines et les biais dans la prise de décision sont bien documentés. Afin de promouvoir une vie meilleure grâce à l'IA, nous devons nous assurer que toutes les initiatives d'IA sont en mesure de favoriser une société qui traite les personnes avec dignité et compassion, respecte l'État de droit et agit de manière transparente.

👋 Vous pouvez écrire un article comme celui-ci ! Partagez vos réflexions avec une communauté de fonctionnaires. Apprendre encore plus

(Crédit image : Pexels)