Cet article d'opinion a été écrit par Rana El Kaliouby, PDG et co-fondateur, Affectiva, et a été initialement publié par le Forum économique mondial. Pour en savoir plus, consultez notre fil d' actualité sur la santé et le bien-être .

Une fille avec un robot au marché Kuromon Ichiba, Ōsaka-shi, Japon.

Image: Andy Kelly / Unsplash

Ma mère habite à 8 000 kilomètres au Caire, en Égypte. Quand elle m'appelle, elle peut immédiatement dire si quelque chose ne va pas, simplement de la façon dont je dis «Bonjour» ou «Je vais bien». Comme beaucoup de relations avec ceux que nous avons en contact étroit, ma maman et moi avons construit un niveau de confiance au point qu'elle sait ce que je ressens à partir d'un simple mot ou d'une phrase.

Mais malheureusement, comme beaucoup d'autres dans le monde aujourd'hui , je passe autant (sinon plus) de temps à interagir avec la technologie que je le fais avec les personnes proches de moi. Pourtant, contrairement à parler à ma mère ou à un ami, la façon dont nous interagissons avec les appareils est complètement transactionnelle. Mon téléphone portable ne peut pas lire entre les lignes et comprendre ce qui se passe vraiment avec moi.

Ce problème devient de plus en plus perceptible à mesure que nos interactions avec la technologie utilisent de plus en plus l' intelligence artificielle (IA). Alors que l'IA assume de nouveaux rôles dans la société - de travailler à nos côtés, conduire nos voitures, aider à nos soins de santé et plus - nous forgeons un nouveau type de partenariat avec la technologie. Et avec ce partenariat vient un nouveau contrat social: celui qui repose sur la confiance mutuelle, l'empathie et l'éthique.

L'IA peut-elle nous faire confiance?

Cela commence par une confiance mutuelle. Après tout, nous ne pouvons pas travailler ou vivre efficacement avec des gens en qui nous n'avons pas confiance et qui ne nous font pas confiance. L'IA n'est pas différente.

Les exemples des raisons pour lesquelles la confiance mutuelle est importante entre les personnes et l'IA ont une portée très large. Prenons l'exemple des véhicules semi-autonomes. Comme ces voitures sont encore en développement, elles nécessitent qu'un conducteur humain soit prêt à reprendre le contrôle si l'IA de la voiture ne peut plus naviguer en toute sécurité.

comment pouvons-nous favoriser un sentiment aussi personnel que la confiance envers les machines - et comment pouvons-nous le rendre mutuel?

Mais comment l'IA peut-elle croire que la personne est prête à prendre le relais? Que la personne qui est censée conduire est alerte et engagée, et non somnolente ou distraite? Les systèmes d'IA doivent être en mesure de vraiment comprendre nos états émotionnels et cognitifs - dans ce cas, reconnaître si quelqu'un montre des signes de distraction ou des états de déficience potentiellement dangereux - avant de leur confier.

Alors la question devient: comment pouvons-nous favoriser un sentiment aussi personnel que la confiance avec les machines - et comment pouvons-nous le rendre mutuel?

L'IA comme compagnon empathique

Selon Frances Frei , professeur de technologie à la Harvard Business School, l'empathie est l'un des éléments les plus importants pour établir la confiance entre les gens. L'empathie est peut-être aussi la clé pour créer une compréhension et une confiance entre l'IA et les humains.

La clé pour construire une IA qui nous «attire» vraiment n'est pas de se concentrer uniquement sur la cognition, mais de développer des algorithmes dotés d'une intelligence émotionnelle. Tout comme dans les partenariats entre les personnes, donner à l'IA la capacité de comprendre ce que ressent une personne est le seul moyen pour une voiture semi-autonome de savoir si son conducteur est apte à prendre le volant, ou un co-bot comprendra si ses collègues humains se sentent au travail un jour donné.

Cela peut sembler trop personnel ou peu naturel pour certains. Mais pour moi, continuer à faire avancer la recherche et le développement de l'IA n'est pas ce qui constituera une menace pour nos emplois ou l'humanité. La vraie question est, que vont faire les gens avec la technologie, et comment nos choix pour l'IA changeront-ils notre monde?

Décrire le développement éthique et le déploiement de l'IA

Les systèmes d'IA conçus pour interagir avec les humains disposeront de nombreuses données et en sauront beaucoup sur les personnes avec lesquelles ils interagissent. Cela soulève des inquiétudes: bien que l'IA puisse potentiellement améliorer nos vies, elle peut tout autant aggraver les inégalités ou nuire.

Image: Franck V / Unsplash

Alors que nous élaborons ce nouveau contrat social, nous devons établir des normes pour le développement éthique et le déploiement de l'IA. Cela signifie s'assurer que l'IA est construite par des équipes diverses et avec des données diverses, pour s'assurer que la technologie ne reproduit pas les biais inhérents à la société. Cela signifie tenir compte de la nécessité de l'acceptation et du consentement lorsque les gens interagissent avec l'IA, et prioriser la confidentialité des données.

Reconnaissant cela, certains des esprits les plus brillants de la technologie, du monde universitaire et au-delà se sont déjà associés pour établir des normes qui garantiront que les gens utilisent l'IA éthiquement et pour de bon - du MIT et de l'Initiative éthique et gouvernance de l'IA de Harvard au Partenariat sur l'IA , qui est une collaboration entre de grandes entreprises technologiques comme Microsoft, Amazon, Google, Facebook et Apple, et des start-ups comme Affectiva. Cela fait également partie de mes responsabilités en tant que jeune leader mondial du Forum économique mondial. Le Forum nous donne l'occasion de discuter des implications de l'IA avec des dirigeants qui apportent des perspectives dans tous les domaines et horizons différents.

Il nous reste encore beaucoup à comprendre alors que nous naviguons dans notre relation changeante avec l'IA. Mais il y a un besoin immédiat de commencer à cadrer la conversation de cette façon - en tant que partenariat ancré dans la confiance, l'empathie et la compréhension - plutôt que de continuer à discuter de l'IA dans la peur, et à développer la technologie sans lui permettre de vraiment se rapporter à nous.

Cet article a été initialement publié par le Forum économique mondial . Pour lire l'article, cliquez ici .

(Crédit photo: Unsplash)