Ce billet est rédigé par Pia Andrews, réformatrice du secteur public. Avec nos remerciements aux personnes suivantes pour leurs contributions, revues par les pairs, commentaires et soutien : Tim de Sousa, Bruce Haefele, Matt Beard, Marcus Wigan, Abhinav Palia, Kathy Reid, Saket Narayan, Morgan Dumitru, Alex Morrison, Geoff Mason et Aurélie Jacquet ( Conseil en IA éthique).

  • Le problème : La confiance du public dans les institutions publiques est négativement affectée par des systèmes opaques, incohérents et non responsables.
  • Pourquoi c'est important : La confiance du public dans le secteur public a un impact direct sur l'efficacité des politiques, ainsi que sur la stabilité sociale, démocratique et économique.
  • La solution : Le contexte particulier du gouvernement est essentiel à comprendre et à appliquer dans la conception, la prestation et la gestion des systèmes gouvernementaux. Cet article explore des moyens pratiques de créer une intelligence artificielle et une prise de décision automatisée dignes de confiance dans le secteur public, et s'applique également à tous les systèmes gouvernementaux.

Gagner et maintenir la confiance du public dans les systèmes gouvernementaux n'est pas un « avantage », mais est plutôt essentiel pour la stabilité et la confiance du public.

Alors que les gouvernements explorent et investissent de plus en plus dans les systèmes d'intelligence artificielle (IA) et de prise de décision automatisée (ADM), nous devons prendre des mesures pour garantir que ces technologies en évolution rapide sont utilisées de manière appropriée dans le contexte particulier d'un service public, ainsi que tous les autres systèmes.

La confiance dans le gouvernement est essentielle à la légitimité perçue de tout ce que le secteur public administre, des services aux politiques et aux élections. C'est pourquoi gagner et maintenir la confiance du public dans les systèmes gouvernementaux n'est pas un « avantage », mais est plutôt essentiel pour la stabilité et la confiance du public. Les gouvernements doivent avoir la confiance du public pour rester légitimes.

L'article complet dont ce billet de blog a été tiré, y compris les références et plus de détails, est disponible ici .

L'utilisation opaque de l'IA et de l'ADM érode la confiance dans le secteur public

La confiance peut être définie de manière générale comme :

  • a) une volonté de croire qu'une personne ou une entité agit de bonne foi,
  • b) avec intégrité, et
  • c) d'une manière qui réponde aux attentes de l'individu vis-à-vis de cette personne ou entité.

Les systèmes gouvernementaux pourraient donc être considérés comme dignes de confiance en faisant preuve de bonne foi (par un engagement systémique, mesurable et rendu public envers des résultats humains et centrés sur l' humain), en garantissant des systèmes de haute intégrité (qui sont légaux, précis, cohérents appliqué et susceptible d'appel), et qui répond aux attentes du public (en comprenant et en reflétant les valeurs et les besoins du public, en ne faisant aucun mal, en étant transparent et en respectant les limites de pouvoir légales, sociales, morales et juridictionnelles pertinentes).

Les citoyens et les résidents sont de plus en plus confrontés à une situation de « l'ordinateur dit non » des services publics, et peu ou pas d'options pour demander une explication ou faire appel.

Malheureusement, la manière dont les gouvernements ont numérisé ou automatisé les processus manuels dans l'ensemble des fonctions de la fonction publique a souvent abouti à des systèmes opaques et impénétrables, conduisant à des résultats qui ne sont pas explicables ou traçables jusqu'à leur autorité légale. Par exemple, de nombreux systèmes produisent des sorties sans enregistrer les règles législatives corrélées, les données et les autres facteurs sur lesquels la sortie était basée, ce qui nécessite un examen manuel en cas de contestation. Cela a rendu difficile la compréhension ou l'appel des décisions prises par les systèmes, qui à leur tour ne sont pas vérifiables en temps réel, et donc incapables de détecter et de minimiser les conséquences non intentionnelles. La plupart des systèmes du secteur public ne mesurent pas non plus les avantages humains ou les impacts sur la qualité de vie (au-delà des mesures de satisfaction de base), ce qui rend impossible la compréhension ou la conduite des résultats humains, sans parler de l'identification et de l'atténuation des dommages potentiels à mesure qu'ils surviennent.

De nombreux problèmes sont créés par des systèmes opaques et impénétrables. Les citoyens et les résidents sont de plus en plus confrontés à une situation de « l'ordinateur dit non » des services publics, et peu ou pas d'options pour demander une explication ou faire appel. Le personnel de première ligne dispose de moyens limités pour déterminer, et encore moins expliquer, la justification des décisions générées par des systèmes logiciels opaques. Les systèmes, à leur tour, sont souvent protégés de tout examen minutieux par des accords commerciaux confidentiels ou propriétaires. Un nombre croissant de systèmes utilisant l'intelligence artificielle (IA) et/ou la prise de décision automatisée (ADM) sont basés sur l'apprentissage automatique, en utilisant des données pour former des réponses prédictives qui perpétuent les biais/iniquités historiques et les erreurs héritées ou systémiques, et créent une incertitude supplémentaire pour la population.

Le contexte particulier du gouvernement nécessite une approche différente

Ces questions sont un anathème pour un bon gouvernement. Les gouvernements ont un contexte particulier qui doit être pris en compte dans la conception et la prestation des systèmes gouvernementaux - c'est-à-dire qu'ils sont motivés par le bien public plutôt que par le profit, comme le secteur privé. De plus, ils ont un plus grand pouvoir et, par conséquent, une plus grande responsabilité. Ce contexte différencie le gouvernement des organisations du secteur privé et nécessite une approche différente de la conception et de la mise en œuvre de systèmes qui garantissent et assurent des résultats publics et qui sont justes, précis et légaux, pour maintenir la confiance du public, l'accès à la justice et, par extension, la légitimité. gouvernement.

Contrairement au secteur privé, les organisations gouvernementales sont censées se conformer au droit administratif, avec une responsabilité testable et auditable envers le Parlement, le peuple et les vérificateurs généraux. L'accès à l'examen des décisions gouvernementales est un élément clé de l'accès à la justice, de sorte que les systèmes gouvernementaux doivent maintenir la capacité d'enregistrer, d'expliquer et de surveiller la prise de décision automatisée. Les gouvernements ont également des exigences très spécifiques telles qu'énoncées dans la législation sur la confidentialité et le traitement des données (telles que l'Australian Privacy Act 1988 (Cth) ) pour permettre la transparence de l'utilisation, l'utilisation et la divulgation appropriées, ainsi que la protection des informations personnelles et de la vie privée.

Différents objectifs - qui nécessitent des métriques différentes

La plupart des choses faites au gouvernement sont ostensiblement dans la poursuite d'un objectif politique et pour le bien public. La mesure et le suivi de l' impact de la politique au fil du temps sont essentiels pour s'assurer que l'intention de la politique est respectée, mais le suivi et la mesure de l' impact humain sont également essentiels pour garantir un impact positif net pour la société avec des dommages involontaires limités. Les deux types de mesures peuvent contribuer à l'itération des politiques et à la réactivité au changement. C'est différent dans le secteur privé, qui est principalement motivé par un impératif financier. Enfin, il existe toujours un contexte constitutionnel et/ou législatif et un mandat pour les institutions publiques, qu'elles doivent respecter. Ce contexte est important pour concevoir des systèmes qui sont à la fois conformes à la législation et alignés sur l'objectif et le mandat de l'institution publique spécifique dans leur juridiction spécifique, contrairement aux systèmes commerciaux.

Les gens n'ont pas le choix de ne pas interagir avec le gouvernement et ont rarement le choix des gouvernements avec lesquels interagir.

Un grand pouvoir implique de grandes responsabilités

Enfin, et surtout, les gouvernements disposent de leviers d'impact élevés qu'aucun autre secteur ne possède. Les différentes branches du gouvernement peuvent enquêter, sanctionner, censurer, appliquer, saisir des actifs, institutionnaliser ou incarcérer. Des contrôles stricts sont très importants pour s'assurer que ces pouvoirs ne sont pas abusés et pour maintenir la confiance du public et une légitimité continue. La séparation entre les branches exécutive et judiciaire du gouvernement est propice à la confiance en garantissant que chacun, y compris les institutions gouvernementales et les fonctionnaires, peut être tenu responsable de la même manière en vertu de l'État de droit.

Bien que de nombreuses personnes puissent partager de grandes quantités de données personnelles avec des plateformes technologiques du secteur privé telles que Google ou Facebook, elles ont le choix des services à utiliser et de ce qu'elles veulent partager, et ces entreprises n'ont pas le pouvoir de les emprisonner, ou emmener leurs enfants. Les gens n'ont pas le choix de ne pas interagir avec le gouvernement et ont rarement le choix des gouvernements avec lesquels interagir. Ce contexte est extrêmement important car si les systèmes gouvernementaux ne sont pas justes, équitables, légaux, susceptibles d'appel, etc., l'impact réel sur la vie des gens peut être, et a été, dévastateur.

Les gouvernements affectent la vie des gens, idéalement pour le meilleur, mais parfois pour le pire. Alors que les gouvernements numérisent, automatisent et adoptent de plus en plus l'IA/ADM, les systèmes gouvernementaux doivent être conçus pour répondre aux attentes de base en matière de fourniture équitable du bien public. Et s'ils ne le font pas, des mécanismes sont nécessaires pour le prouver et sur lesquels baser des mesures correctives.

Concevoir pour la confiance

Alors, comment pouvez-vous construire des systèmes fiables au sein du gouvernement ? Il est utile d'articuler clairement les exigences pour construire et maintenir des systèmes fiables dans le contexte particulier du secteur public. Ces six questions doivent être placées au cœur de la conception de toutes les politiques et de tous les services, pour contribuer à les rendre plus fiables :

  1. Comment auditerez-vous et contrôlerez-vous les décisions/actions prises, leur exactitude et leur autorité légale, en temps réel ?
  2. Comment un utilisateur final (citoyen, résident, etc.) connaîtrait-il, comprendrait-il, contesterait-il et ferait-il appel d'une décision/action ?
  3. Comment sauriez-vous si cette action/processus a un impact juste, positif ou négatif ?
  4. Comment assureriez-vous, maintiendriez-vous et démontreriez-vous une surveillance indépendante et une gouvernance efficace ?
  5. Comment détecteriez-vous, réagiriez-vous et mettriez-vous en œuvre un changement continu, externe ou interne ?
  6. Comment votre organisation peut-elle fonctionner d'une manière que le public considérerait comme « digne de confiance » ?

Chaque système gouvernemental exige une réponse solide à toutes ces questions, mais le test ultime consiste à demander aux gens ce qui rendrait une relation avec une agence particulière digne de confiance (qui variera selon le mandat de l'agence) et à mettre en œuvre des mesures en conséquence, plutôt que de assumer ou exiger la confiance. La confiance est situationnelle et contingente au contexte de la législation et à la portée de l'institution qui cherche à gagner et à maintenir cette confiance. Cartographier le « parcours utilisateur » ou le processus de bout en bout pour ces questions nous oblige inévitablement à creuser dans plusieurs caractéristiques probables d'un système de confiance élevée.

1. Comment auditeriez-vous et surveilleriez-vous les décisions/actions prises, leur exactitude et leur autorité légale, en temps réel ?

  • Explicabilité et capture de la décision : avez-vous enregistré les événements qui ont conduit à la décision, les données et la base juridique sur lesquelles la décision était fondée, et la décision elle-même ? L'explicabilité de la décision/action elle-même est nécessaire pour les systèmes ADM du secteur public.
  • Traçabilité de l'autorité : Pouvez-vous relier le processus et son résultat aux autorités législatives, réglementaires, déléguées ou politiques ? Cela nécessite que les règles législatives et réglementaires prescriptives soient disponibles numériquement, testables et traçables par des machines, et qu'il soit clair quelles règles nécessitent un jugement humain avec un accès numérique à la jurisprudence pour s'appuyer sur les précédents.
  • Surveillance de l'exactitude : Existe-t-il un moyen de vérifier la cohérence, l'exactitude et la prévisibilité des sorties de votre système ? La suite de tests ou le mécanisme de vérification est-il accessible au public pour que quiconque puisse tester ? Surveillez-vous les schémas de tendances inhabituelles qui doivent être comprises ou étudiées ?
  • Réactivité opérationnelle : il est inutile d'avoir un système de surveillance s'il n'y a pas de modèle opérationnel autour de lui avec un personnel qualifié capable d'agir ou de faire remonter un problème. Un système digne de confiance doit être une combinaison de capacités humaines et technologiques.

2. Comment un utilisateur final connaîtrait-il, contesterait-il, comprendrait-il et ferait-il appel d'une décision/action ?

  • Découverte de la décision : comment communiquez-vous la décision à la personne concernée ? Comment peuvent-ils accéder à leur dossier de décisions et être sûrs que le dossier n'a pas été modifié ? Comment la personne affectée peut-elle comprendre la décision : les règles, les preuves auxquelles elles ont été appliquées et comment cela a conduit à la décision ?
  • Facilité d'accès au recours : Comment l'utilisateur final (citoyen, résident, etc.) peut-il faire appel de la décision ? Qu'est-ce que ce « parcours utilisateur » et comment pouvez-vous garantir une expérience digne ?
  • Cohérence de l'application : le système applique-t-il les règles et les décisions de manière cohérente, avec des résultats cohérents qui ne discriminent pas ou ne biaisent pas involontairement une personne ou un groupe ?
  • Un droit à l'explication : il incombe à l'entité gouvernementale d'expliquer la décision/l'action, mais cette explication n'est disponible que par le biais d'appels traditionnels ou de processus d'accès à l'information, qui constituent un obstacle à l'explication. Il pourrait être utile d'introduire un droit explicite d'accès par personne aux raisons des décisions affectant cette personne (comme indiqué dans l'article 23 de la loi sur l'information officielle en Nouvelle-Zélande ), créant une obligation légale pour les ministères d'expliquer les décisions aux personnes concernant quelles décisions sont prises.

3. Comment sauriez-vous si cette action/processus a un impact juste, positif ou négatif ?

  • Cadre de mesure des résultats humains : votre système mesure-t-il les impacts humains de votre système AI/ADM, à la fois directement et largement ? Pouvez-vous mesurer l'impact humain réel d'un changement dans votre service ou votre politique ? Comment pouvez-vous détecter et atténuer les dommages involontaires ?
  • Cadre de mesure basé sur la société : votre système mesure-t-il ou motive-t-il de bons résultats pour la société de manière plus générale ?
  • Délais immédiats et à long terme : pouvez-vous enquêter sur la décision en temps réel, au niveau individuel, systémique et sociétal ? Pouvez-vous modéliser le changement dans l'ensemble du gouvernement ?
  • Collecte de données d'impact : collectez -vous des données pertinentes (à partir de votre système ou d'autres sources) pour comprendre l'impact de votre système ? Ces données sont-elles protégées contre les abus ? Assurez-vous une approche de confidentialité dès la conception, pour respecter la lettre et l'esprit de la Loi sur la protection des renseignements personnels?

4. Comment maintiendriez-vous un contrôle indépendant et une gouvernance efficace ?

  • Une bibliothèque de modèles et d'algorithmes pour les systèmes d'IA/ADM : le public peut-il trouver, comprendre et tester les éléments constitutifs de votre système gouvernemental ? Si ce n'est pas le cas, les organes de contrôle/de gouvernance concernés peuvent-ils au moins le faire (en particulier dans le cas des agences d'audit et du Parlement, pour contrôler les systèmes moins transparents) ? Quelles sont les compétences et les outils nécessaires pour auditer et surveiller de tels systèmes ?
  • Assurance de bout en bout des données/logiciels/algorithmes : pouvez-vous tester, auditer et surveiller l'intégralité de la chaîne d'approvisionnement des logiciels et des données pour garantir l'absence d'interférence dans les résultats/décisions qui en résultent, ainsi qu'une validation objective de la provenance et de la qualité des données ? Testez-vous et surveillez-vous la façon dont différents systèmes/règles/données interagissent, pour éviter des conséquences imprévues néfastes ?
  • Gouvernance participative : y a-t-il une représentation large et diversifiée de la société desservie incluse dans la surveillance et l'examen du système ?
  • Rapports publics : quelle visibilité le public a-t-il sur les opérations, les politiques, les services et l'administration ? De quoi ont-ils besoin pour faire confiance à cette organisation spécifique du secteur public ?

5. Comment détecteriez-vous, répondriez-vous et mettriez-vous en œuvre un changement continu, externe ou interne ?

  • Détecter et réagir au changement : surveillez-vous les impacts humains dans le temps, les avantages et les inconvénients, ainsi que les changements extrinsèques ou inattendus qui déclencheraient un changement de politique ou de mise en œuvre ? Disposez-vous d'un modèle opérationnel qui prend en charge les changements continus fondés sur des données probantes et les améliorations des politiques ou des services ?
  • Main-d'œuvre hautement qualifiée : les institutions publiques ont besoin d'une main-d'œuvre hautement qualifiée capable de remplir efficacement les fonctions essentielles avec intégrité, y compris dans ce contexte, les systèmes d'IA/ADM, le suivi/la mesure et l'audit. Les chercheurs et les fournisseurs peuvent être engagés pour soutenir le renforcement des capacités et fournir des plates-formes/outils, le cas échéant, mais pour que les institutions publiques aient la confiance du public, elles doivent être en mesure de bien exécuter les fonctions essentielles dont elles sont responsables. Cela signifie avoir les compétences nécessaires pour spécifier de manière appropriée les livrables des fournisseurs et tenir les fournisseurs responsables de leur livraison.
  • Mécanismes de retour d'information : Existe-t-il des moyens d'accès faciles pour quiconque de fournir un retour d'information à votre système, y compris le personnel et les citoyens ? Les commentaires recueillis tout au long du processus de livraison constituent-ils un service/une décision ? De nouvelles idées sont-elles continuellement créées et mises en œuvre ? Est-il surveillé, analysé, priorisé et actionné pour alimenter l'amélioration continue ?

De manière générale, lorsque les utilisateurs ne font pas confiance à un système, ils évitent tout contact avec celui-ci ou le contournent.

6. Comment pouvez-vous fonctionner d'une manière que le public considérerait comme « digne de confiance » ?

Le rapport du commissaire australien à la protection de la vie privée sur les attitudes de la communauté à l'égard de la vie privée et de la confiance indique que le public a des préoccupations communes et croissantes : des inquiétudes concernant la protection des données et de la vie privée (y compris les données de localisation personnelles), de savoir quand leurs informations sont utilisées dans les systèmes ADM et comment cela les affecter, accès à la justice, etc.

De manière générale, lorsque les utilisateurs ne font pas confiance à un système, ils évitent tout contact avec celui-ci ou le contournent. En conséquence, un manque de confiance peut entraver ou compromettre l'efficacité d'un système et la relation entre la personne/la communauté et l'organisation qui gère le système. Vous trouverez ci-dessous quelques idées à prendre en compte lors de la conception, de la livraison et de l'exploitation d'un système d'une manière que le public pourrait considérer comme digne de confiance :

  • Administration participative : les institutions publiques doivent engager en permanence une représentation diversifiée de l'expérience, des antécédents, des compétences et des perspectives du public dans le développement, la mise en œuvre et le fonctionnement du système.
  • Expérience digne : la personne concernée vit-elle une expérience digne, où elle n'est pas obligée de trop partager des informations personnelles, se sent respectée, est soutenue pour réussir dans sa tâche, obtient un service utile qui anticipe son contexte et ses besoins, etc ?
  • Contrôles de l'utilisateur : les citoyens/résidents/etc. avoir le contrôle sur ses propres consentements et données ? Des utilitaires de données sont-ils disponibles (comme une interface programmable d'application de test de ressources ou un service de vérification de l'âge) pour éviter le partage inutile de données ?
  • Provenance des données et des décisions : les organisations du secteur public doivent pouvoir retracer, suivre et démontrer la provenance des données, des décisions, des règles et des résultats.
  • Dénonciation : existe-t-il de solides protections pour les dénonciateurs, en dernier recours ?

Recommandations

Les recommandations suivantes, combinées à un cadre/mécanisme d'examen humain traditionnel, contribueraient à assurer une approche vérifiable, susceptible d'appel, testable, centrée sur l'humain et considérée comme digne de confiance, créant des systèmes gouvernementaux mesurablement éthiques et équitables qui profitent aux gens.

Recommandations pour mandater/légiférer :

  1. Établir un droit d'accès par personne aux motifs de décision, conformément à l'article 23 de la loi sur l'information officielle en Nouvelle-Zélande , créant une obligation légale pour les ministères de fournir une explication aux personnes au sujet desquelles les décisions sont prises.
  2. Une exigence système pour enregistrer de manière immuable toutes les décisions qui ont un impact sur une personne, avec une explicabilité et des références aux autorités légales capturées en temps réel, et une déclaration de raison (voir ledocument de l'ombudsman australien sur la prise de décision automatisée ) pour l'audit et l'appel.
  3. Veiller à ce que tous les nouveaux fonctionnaires et sous-traitants/consultants travaillant avec le secteur public soient éduqués et informés du contexte particulier du gouvernement, afin de maintenir l'intégrité opérationnelle et de s'assurer que les mécanismes importés d'autres secteurs ne sont pas appliqués aveuglément.
  4. Publier une mise en œuvre de référence accessible au public de la législation/réglementation existante à fort impact sous forme de code, avec une gamme variée de cas de test à réutiliser.
  5. Établissez un suivi en temps réel des décisions, avec des mécanismes d'analyse des modèles et d'escalade.
  6. Établir des mécanismes de rétroaction publique pour tous les systèmes gouvernementaux, y compris les systèmes AI/ADM, un outil public de « signalement de bogues » et de demande de fonctionnalités.
  7. Mandater les exigences de publication des informations opérationnelles relatives aux systèmes ADM du gouvernement. Cela nécessite nécessairement une réflexion sur les systèmes, modèles, algorithmes, données, etc. qui devraient être open source pour examen/responsabilité, créant des exigences d'approvisionnement/développement.
  8. Établir un cadre de mesure des résultats humains (tel que le cadre des résultats des services humains du gouvernement de la Nouvelle-Galles du Sud ) pour inciter les systèmes et façonner l'investissement/la priorisation.
  9. Surveiller les mesures des résultats humains au niveau du budget, du projet, du service et du programme pour motiver les résultats humains positifs nets en comprenant et en mesurant l'impact humain (et les dommages), avec des mécanismes d'escalade. En ce sens, le préjudice se produit lorsque les mesures des résultats humains commencent à évoluer dans la mauvaise direction, que ce soit au niveau individuel, démographique ou communautaire.
  10. Établir une fonction pangouvernementale dédiée, sans contrainte de portefeuille, pour explorer, comprendre et faire remonter les problèmes susceptibles de mettre en péril la confiance du public.
  11. Inclure une exigence dans la rédaction des lignes directrices pour rédiger dès le départ toutes les nouvelles réglementations/législations lisibles par l'homme et la machine, afin de fournir une législation/réglementation plus claire et faisant mieux autorité (lisible par l'homme), et une mise en œuvre de référence (lisible par machine) pour la réutilisation.
  12. Établir une visibilité publique et une participation à la surveillance des systèmes gouvernementaux d'IA/ADM.
  13. Publier des modèles gouvernementaux, des données de formation anonymisées, des algorithmes et d'autres artefacts techniques AI/ADM pertinents en utilisant des mécanismes pertinents, en tant que source ouverte pour un examen et des tests publics.
  14. Établir une norme de service gouvernemental obligatoire qui exige que les services publics mesurent et surveillent l'impact humain et politique parallèlement aux mesures standard des utilisateurs et des performances.
  15. Cartographier de bout en bout les chaînes d'approvisionnement en logiciels, données et communications pour les services, systèmes et infrastructures numériques critiques, et établir des mécanismes de haute véracité avec surveillance

Recommandations pour guider et soutenir les entités gouvernementales utilisant AI/ADM :

  1. Établir des tests rigoureux cohérents et standardisés des systèmes d'IA/ADM sous différents angles, en veillant à ce que les résultats correspondent aux attentes et soient représentatifs.
  2. Établir des exigences communes pour la gestion de la qualité et la provenance de bout en bout des données.
  3. Examiner et adopter la liste d'évaluation pour l'utilisation digne de confiance du cadre d'IA à l'usage du gouvernement et tirer parti de l' évaluation de l'impact algorithmique du gouvernement canadien comme moyen de déterminer le niveau de risque (qui pourrait tirer parti des modèles traditionnels comme le cadre de risque de l'ANAO ), et concevoir la gouvernance et surveillance indépendante en conséquence.
  4. Établir la participation du public à l'élaboration des politiques et à la conception des services comme une pratique normale, indépendante des communications officielles et des activités de relations publiques.
  5. Établir une culture « ouverte par défaut » dans la fonction publique, où le « besoin de savoir » est exceptionnel.
  6. Établissez une culture de recherche et de valorisation des commentaires (avec un soutien dans la planification des programmes et des ressources), y compris les commentaires des utilisateurs finaux et l'examen par les pairs d'experts indépendants.
  7. Veiller à ce qu'il soit facile d'accéder aux dénonciateurs et aux rapports publics sur les problèmes ou les préoccupations.

Conclusion

L'utilisation des systèmes AI/ML et ADM dans le secteur public pourrait apporter beaucoup de valeur au gouvernement et à la société en général, mais sans garde-fous et contrôles clairs, pourrait également perpétuer et accélérer les inégalités et la méfiance du public. Il est essentiel que les institutions publiques naviguent soigneusement dans cet espace et aillent bien au-delà de la référence de conformité minimale ou basée sur des principes, et vers des meilleures pratiques mesurables et testées, tout en illustrant un bon service public en étant licite, éthique, responsable, juste et valeurs- basé.

Le bien ne se mesure pas seulement à ce que nous faisons, mais à la façon dont nous le faisons.

Pour être considérés comme dignes de confiance, les systèmes gouvernementaux doivent faire preuve de bonne foi (par le biais d'un engagement systémique, mesurable et rendu public en faveur de résultats humains et centrés sur l'être humain), doivent garantir une intégrité élevée (qui sont légales, exactes, appliquées de manière cohérente et susceptibles d'appel) et doivent répondre aux attentes du public . attentes (en comprenant et en reflétant les valeurs et les besoins publics, en ne faisant aucun mal, en étant transparent et en respectant les limites de pouvoir légales, sociales, morales et juridictionnelles pertinentes). La confiance du public est le catalyseur le plus essentiel pour les institutions publiques afin d'assurer la poursuite et la livraison de résultats authentiques, responsables, justes et équitables pour tous.

👋 Vous pouvez créer une publication comme celle-ci ! Partagez vos réflexions avec une communauté de fonctionnaires. Apprendre encore plus

(Crédit image : Unsplash)