Cet article a été co-écrit par Juan Mateos-Garcia, directeur de l'analyse de données chez Nesta et George Richardson, responsable de la science des données dans la pratique d'analyse de données de Nesta. Cet article a été publié pour la première fois par Nesta , l'agence d'innovation britannique pour le bien social. Lire l'article original ici .

Les développements modernes de l'intelligence artificielle (IA) suscitent une vague d'enthousiasme.

L'arrivée de puissants générateurs d'images , d'agents d'intelligence artificielle capables d'effectuer plusieurs tâches ou apparemment (pour certains) de chatbots sensibles sont une perspective passionnante pour les scientifiques des données qui utilisent l'apprentissage automatique pour relever de grands défis sociétaux dans des domaines tels que la santé , l'éducation et l'environnement.

L'une des missions non officielles de l'IA est de "résoudre le renseignement, puis résoudre tout le reste". Nous devons supposer que la « résolution » comprendrait la réduction des inégalités dans l'éducation, la lutte contre l'obésité et la décarbonisation de nos maisons. Sommes-nous sur le point d'obtenir des systèmes d'IA qui pourraient nous aider à résoudre ces problèmes ?

IA industrialisée

Le modèle dominant de l'IA est industriel. Il forme des réseaux profonds et artificiels sur de grands volumes de données Web et de médias sociaux. Ces réseaux apprennent des modèles prédictifs et peuvent être utiles pour des tâches de perception telles que l'identification d'un visage sur une photo. Ils sont bons pour les tâches qui n'ont pas d'intervention humaine ou pour lesquelles nous ne sommes pas intéressés à comprendre pourquoi quelqu'un a fait un choix, comme aimer une publication sur les réseaux sociaux.

Les grandes entreprises technologiques qui développent ces systèmes les utilisent pour prédire les résultats pertinents des moteurs de recherche, le contenu des médias sociaux le plus engageant et pour faire des recommandations qui pourraient aboutir à un achat. Cela aide ces entreprises à créer des sites Web et des applications plus attrayants et plus rentables.

Mais lorsqu'il s'agit de secteurs à impact social, les données sont rares, l'explication est plus importante que la prédiction et faire des erreurs peut coûter des vies.

Une absence de données dans le secteur social

Nos sociétés sont confrontées à de grands défis : un écart grandissant entre les résultats des enfants les plus pauvres et les autres ; les taux croissants d'obésité ; la nécessité de réduire d'urgence les émissions des ménages . Les systèmes d'IA tels que ceux décrits ci-dessus pourraient aider à relever ces défis en cartographiant les problèmes et en ciblant les solutions. Malheureusement, ceci est plus facile à dire qu'à faire.

Les moteurs de recherche et les sites de réseaux sociaux génèrent de grandes quantités de données standardisées qui sont hautement prédictives des résultats pertinents. En revanche, les secteurs à impact social tels que l'éducation et la santé comprennent des centaines ou des milliers d'organisations (autorités locales, hôpitaux ou écoles) qui collectent chacune de petits ensembles de données incomplets et déconnectés. Les données des médias sociaux ou des moteurs de recherche qui pourraient être pertinentes pour améliorer les résultats en matière de santé (les publicités alimentaires auxquelles différents groupes sont exposés, par exemple) ou d'éducation (dont les structures de réseau social augmentent la résilience de la communauté et la mobilité sociale) sont coûteuses ou impossibles d'accès. Même si cela était possible, il est probable qu'ils donneraient une vision biaisée de la situation, excluant ou sous-représentant certains groupes vulnérables .

Bien sûr, les lacunes en matière de données pourraient être comblées en investissant dans la collecte, la normalisation et l'intégration des données. Mais même si nous faisions cela, former des modèles massifs d'apprentissage en profondeur sur ces données et les utiliser pour faire des prédictions à grande échelle pourrait ne pas être une bonne idée. Voici pourquoi.

Risques de modèle

Il existe d'importantes inadéquations entre les résultats générés par les modèles d'IA industrielle et le contexte des secteurs à impact social. Essayer d'appliquer l'un à l'autre, c'est comme emmener une voiture autonome entraînée dans la banlieue de l'Arizona dans les rues denses et animées du centre d'une ville européenne. Il y aura des accidents.

Essayer d'appliquer l'IA industrielle au contexte des secteurs à impact social, c'est comme emmener une voiture autonome entraînée dans la banlieue de l'Arizona dans les rues denses et animées du centre d'une ville européenne. Il y aura des accidents.

Premièrement, les modèles d'IA industriels manquent de robustesse : ils ne parviennent souvent pas à généraliser à des situations en dehors de leur ensemble d'apprentissage. C'est un problème dans des secteurs tels que la santé dont la composition et le comportement changent avec le temps, dégradant la qualité des prédictions d'un système d'IA, peut-être de manière drastique. Nous l'avons vu au début de la pandémie de Covid-19, lorsque le choc économique et social soudain provoqué par la pandémie a perturbé de nombreux modèles d'apprentissage automatique et d'analyse formés sur des données historiques .

Deuxièmement, les modèles d'apprentissage en profondeur sont efficaces pour générer des prédictions, mais pas des explications. Ils déduisent des schémas à partir de données qui sont corrélationnelles plutôt que causales . Malheureusement, sans explications pour une décision, les personnes travaillant dans les services publics sont déresponsabilisées et peuvent perdre leur agence et leur capacité à comprendre ou à contester des décisions à enjeux élevés. Il devient également plus difficile d'interpréter les sorties du modèle afin de déterminer s'il fonctionne.

Risques éthiques

Nous savons que certains systèmes d'IA peuvent enraciner la discrimination dans les organisations qui les adoptent, par exemple en prédisant que les groupes qui ont été historiquement discriminés sont plus susceptibles de commettre des crimes .

Même les systèmes conçus pour générer des prédictions justes peuvent toujours générer des résultats injustes. Par exemple, ils pourraient donner la priorité à aider une organisation exploiteuse à réduire les coûts au détriment de la qualité du service. Un exemple de ceci est que les systèmes d'IA prédictive pourraient favoriser des « interventions ciblées » qui atteignent directement un résultat (par exemple, refuser la mise en liberté sous caution à des personnes dont on prévoit qu'elles courent un risque élevé de récidive) au lieu d'interventions plus profondes qui pourraient être possibles avec une connaissance causale de les moteurs de ce résultat (par exemple, soutenir les interventions qui atténuent le risque de récidive en premier lieu).

Risques politiques

La complexité des défis sociaux les rend difficiles à relever. Il y a désaccord sur les objectifs que nous voulons atteindre et les méthodes pour les atteindre. Cette question est souvent évoquée dans le débat sur le rôle de la technologie par rapport au changement de comportement lorsqu'il s'agit d'atteindre les objectifs de durabilité. Tout système technique qui biaise les débats vers des types particuliers de valeurs ou d'interventions doit être abordé avec prudence. Il est prouvé que les systèmes d'IA industrielle ont tendance à donner la priorité à certaines valeurs telles que l'efficacité au détriment d'autres telles que la transparence ou la participation. Une fois déployés, ils pourraient intégrer ces valeurs dans l'infrastructure et les processus organisationnels qui pourraient être difficiles à modifier en fin de compte. Ils pourraient également centraliser la prise de décision et réduire la portée du débat démocratique, de la responsabilité et de l'expérimentation.

Ensemble, ces facteurs rendent les systèmes d'IA industrialisés moins adaptés aux secteurs où il existe une diversité de valeurs et une variété de facteurs changeants.

IA artisanale

Tout cela ne veut pas dire que la science des données et l'apprentissage automatique n'ont rien à apporter aux secteurs à impact social. Ils peuvent être très précieux – s'ils sont déployés selon une approche différente qui tient compte du contexte du secteur. Nous l'appelons Craft AI et il a les caractéristiques suivantes.

Ces idées sont inspirées par le travail d'un large éventail de communautés, notamment des scientifiques des données pour l'impact social, des chercheurs dans des domaines tels que l'apprentissage automatique causal et participatif, les études critiques de l'IA, l'innovation responsable et inclusive et la justice des données. Bon nombre de ces idées ont été avancées en réponse aux risques éthiques soulevés par les modèles d'IA industrialisés et comme une opportunité de surmonter les obstacles techniques qui pourraient nous empêcher de développer des systèmes d'IA véritablement polyvalents et fiables.

L'IA artisanale sera probablement plus lente, plus complexe, localisée et moins évolutive que l'IA industrialisée. Cela demande aussi plus d'implication humaine. Il est peut-être logique d'y voir un exemple d'augmentation du renseignement ( IA ) où nous utilisons des machines pour renforcer nos capacités au lieu de les automatiser, sans hésiter à la responsabilité de relever de manière réfléchie et prudente les plus grands défis de notre époque.

👋 Vous pouvez créer une publication comme celle-ci ! Partagez vos réflexions avec une communauté de fonctionnaires. Apprendre encore plus

(Crédit image : Unsplash)

N'oubliez pas de partager vos propres réflexions avec l'auteur en laissant un commentaire ci-dessous