Cette pièce a été écrite par Andrew Collinge, conseiller, Smart Dubai. Pour en savoir plus, consultez notre fil d'actualité numérique du gouvernement .

Le mois dernier, Will.I.Am - le musicien devenu entrepreneur - a visité le Sommet mondial du gouvernement à Dubaï. Sa carte de visite? Une plate-forme d'intelligence artificielle (IA) assistée par la voix, développée par sa propre société d'IA, IAM + . Son message? Comme ce produit, l'intelligence artificielle plus large doit protéger la vie privée des individus et augmenter leur contrôle sur la façon dont leurs données sont utilisées.

Smart Dubai - l'accélérateur de technologie et de données de la ville - est tout aussi ambitieux et prudent. Nous sommes convaincus que l'exploration du potentiel d'innovation des systèmes d'IA s'accompagne d'une gouvernance qui atténue les risques à la baisse.

• Tu veux écrire pour nous? Jetez un œil au guide d' Apolitical pour les contributeurs

Nous considérons l'éthique - être respectueuse d'un ensemble de valeurs fondamentales basées sur l'équité, la responsabilité, la confiance et l'explicabilité - comme un élément essentiel de l'adoption par la société de l'IA et du développement du marché au sens large.

Pour Smart Dubai, l'impératif découle du fait qu'une grande partie de l'impact transformateur de l'IA réside dans les services et les opérations de la ville. Le trottoir de Toronto est l'exemple actuel le plus évident de la façon dont un projet de régénération urbaine riche en numérique peut se heurter à de graves préoccupations du public concernant des problèmes plus larges de confidentialité des données. Que ce soit le commerce, la communauté ou le gouvernement, la confiance est ce qui fait la force des villes.

Et même si nous sommes sans doute encore dans les contreforts, l'IA introduit une autre dimension de confiance dans la sphère publique. Il est essentiel que le gouvernement reconnaisse ouvertement l'éthique de l'IA et organise une discussion multipartite autour d'eux.

C'est pourquoi Smart Dubai a publié ses principes et lignes directrices en matière d'éthique de l'IA . Celles-ci aident à développer les approches «d'apprentissage par la pratique» et de gouvernance agile qui, selon nous, sont nécessaires autour de l'application des algorithmes et de l'apprentissage automatique.

En décembre 2018, la Commission européenne a publié un projet de lignes directrices sur l'IA éthique pour consultation (version finale attendue en avril 2019). Le groupe Éthique en action de l'IEEE produit des travaux de très haute qualité sur la conception éthique de l'IA. Nous soutenons que les organismes gouvernementaux internationaux et nationaux éloignés ne peuvent reproduire la proximité et l'environnement actif de recherche et développement des villes.

La ville comme laboratoire (éthique) d'IA

Notre travail comporte trois éléments principaux:

  1. AI Dubai Smart Lab - une ligne de production pour les services urbains AI, sur laquelle la planification, l'expérimentation et la stabilisation des cas d'utilisation ont lieu. Le Lab dirige également la formation essentielle du personnel du secteur public.
  2. Principes et directives éthiques de l'IA - un facteur de différenciation de notre travail dans un domaine d'autres exemples est un outil d'auto-évaluation, conçu pour aider les développeurs et les implémenteurs de l'IA à juger leurs systèmes sous différents angles éthiques. La base de preuves plus large que cette boucle de rétroaction au niveau de la ville génère nous permet d'améliorer encore le soutien que nous apportons à l'écosystème de l'IA de Dubaï.
  3. Conseil consultatif d'éthique de l'IA - composé d'experts juridiques, technologiques et éthiques, et de représentants du monde universitaire et du gouvernement. Délibérément diversifié, ce forum réunira un éventail de perspectives afin de pouvoir gouverner et fournir une orientation stratégique pour les deux premiers éléments de notre travail sur l'IA.

Cette approche en trois volets constitue une proposition puissante, basée sur une vérité: l'éthique de l'IA est un domaine dans lequel personne n'a toutes les réponses. En effet, la diversité des compétences et de l'expérience nécessaires rend la collaboration essentielle.

Orientation future: collaboration, mais qu'en est-il de la réglementation?

La remarque la plus importante à faire pour terminer cette pièce est que, comme presque partout ailleurs, Dubaï est aux premiers stades de la mise en œuvre sophistiquée de l'IA.

En ce sens, il n'y a pas de voie claire vers une réglementation plus rigoureuse. En effet, certains ont fait valoir que les principes et directives éthiques en matière d'IA sont trop larges pour être significatifs et devraient être abandonnés en faveur de l'éducation du personnel du secteur public à exercer un bon jugement humain aux côtés de l'IA.

Nous ne sommes pas nécessairement en désaccord avec ce point de vue. Qui sait si nous allons fixer notre propre boîte à outils d'éthique de l'IA dans trois ans? Nous pouvons trouver de nombreux autres instruments politiques qui fonctionnent mieux avec le chemin de développement de cette technologie passionnante et ambiguë.

Cela dit, en publiant nos principes éthiques en matière d'IA, nos directives et notre outil d'auto-évaluation volontaire, Smart Dubai signale, premièrement, l'importance de l'éthique pour une adoption plus large, et deuxièmement, le leadership et le travail en partenariat qui sont nécessaires, si la gestion de la hausse et les risques à la baisse de l'IA doivent être normalisés.

Cette évolution vers une gouvernance adaptative et agile qui améliore, plutôt que limite, l'innovation, est la manière dont nous proposerons une IA éthique aujourd'hui, et à plus long terme, instaurerons la confiance dans les technologies qui animent la société numérique et l'économie de demain. - Andrew Collinge

(Crédit photo: Pexels)