Cet article est écrit par Clare Welch, diplômée de la maîtrise en gouvernance des médias et des communications de la London School of Economics and Political Science spécialisée dans l'éthique de l'IA et les causes et effets socio-économiques des campagnes de désinformation. Pour en savoir plus, consultez notre fil d'actualité numérique gouvernemental .
«La vérité est rarement pure et jamais simple.» - Oscar Wilde, L'importance d'être sérieux
Imaginez ceci: vous faites défiler causalement votre flux Facebook et tombez sur une vidéo du PDG de Facebook Mark Zuckerberg .
Dans ce document, il dit «quiconque contrôle les données contrôle l'avenir». Naturellement, à la lumière du scandale de Cambridge Analytica, vous êtes alarmé par sa proclamation apparemment sérieuse. Vous remettez en question la véracité de cette vidéo; le PDG de l'une des entreprises les plus puissantes du monde ne serait certainement pas si blasé de sa soif de pouvoir.
- Tu veux écrire pour nous? Jetez un œil au guide d' Apolitical pour les contributeurs
Mais il ressemble au vrai Zuckerberg dans la vidéo, a les mêmes manières que Zuckerberg, parle sur le même ton vaguement robotique que Zuckerberg. Donc, comme le dit le vieil adage, s'il marche comme un canard et parle comme un canard…
Cependant, dans ce cas, le canard n'est pas un canard.
Qu'est-ce qu'un deepfake?
La vidéo de Zuckerberg qui a circulé sur Internet en juin n'était pas, en fait, une vidéo de Zuckerberg; c'était un deepfake.
Créée par un groupe d'artistes utilisant l'apprentissage automatique, la vidéo a d'abord été publiée sur Instagram (qui appartient à Facebook) avant d'être signalée par deux des partenaires de vérification des faits de Facebook.
Voir ce post sur Instagram
Un post partagé par Bill Posters (@bill_posters_uk) sur 7 juin 2019 à 7 h 15 HAP
La vidéo de Zuckerberg a suivi de près sur les talons d'une autre vidéo virale trafiquée - celle de la présidente de la Chambre des États-Unis, Nancy Pelosi, semblant brouiller son discours. Dans les deux cas, le matériel audio-vidéo falsifié s'est largement répandu avant d'être signalé par la plateforme hôte. Alors que les vérificateurs de faits tiers et autres commentateurs Internet ont été nettement plus rapides à identifier ces vidéos comme fausses les réponses variées et incohérentes de Facebook et d'autres plateformes de médias sociaux ne représentent que la pointe de l'iceberg en ce qui concerne le problème des deepfakes.
Les Deepfakes sont des images et des vidéos réalistes modifiées pour représenter quelqu'un qui fait ou dit quelque chose qui ne s'est jamais réellement produit.
Ils sont devenus une sorte de mot à la mode depuis leur émergence en 2017. Un portefeuille de «deep learning» et de «faux», les deepfakes utilisent des paires d'algorithmes appelés réseaux de neurones pour créer des « réseaux adversatifs génératifs» ou «GAN», qui opposent les paires de réseaux de neurones les uns contre les autres. Les deux algorithmes apprennent l'un de l'autre, l'un générant un contenu modelé sur les données source et l'autre essayant de repérer le contenu artificiel, résultant en un faux contenu audio et visuel très réaliste.
Que se passe-t-il quand il tombe entre de mauvaises mains?
Bien que la technologie originale existe depuis 2017, lorsqu'elle a été utilisée pour la première fois pour insérer des visages de personnes dans la pornographie à leur insu ou sans leur consentement, la capacité de l'IA nécessaire pour créer des faux réalistes a rapidement progressé. Par exemple, des chercheurs de Stanford ont créé un algorithme au printemps 2019 qui permet aux éditeurs vidéo de modifier des vidéos comme si vous utilisiez un traitement de texte.
Alors que la plupart des projets actuels, comme celui de Stanford, ont des utilisations bienveillantes, comme la rationalisation du montage de films en post-production, le même apprentissage automatique qui a permis ces études est désormais largement accessible à toute personne disposant d'une connexion Internet et d'une curiosité à tester. les limites de ce qui est possible.
Des applications plus néfastes des GAN peuvent conduire à des programmes comme DeepNude , une application deepfake qui a permis aux utilisateurs de créer des images nues réalistes de femmes en trente secondes. Un système d'IA qui génère la publication de faux textes a été associé par ses créateurs parce que son mimétisme de l'écriture humaine était si plausible qu'il était presque impossible de différencier ses résultats réussis des actualités, des critiques de produits et même des tweets.
les deepfakes menacent l'intégrité des élections partout
En août, l'agence européenne chargée de l'application des lois, Europol, a signalé la toute première cybercriminalité commise à l'aide de l'IA ; des criminels ont escroqué une entreprise énergétique basée au Royaume-Uni sur près de 200 000 euros (219 200 dollars) en utilisant un programme qui imitait presque parfaitement la voix d'un chef de la direction.
Compte tenu de la prolifération des technologies de contrefaçon, il n'est pas étonnant que les décideurs politiques du monde entier aient compris les dangers que cela représente pour la société.
Bien que la désinformation propagée par la manipulation d'images et de vidéos soit un défi pour les gouvernements depuis des décennies, les deepfakes sont sans doute une menace plus maligne. La plupart des gens font davantage confiance à ce qu'ils voient ou entendent qu'à ce qu'ils lisent pour la simple raison que cela permet aux gens de juger ce qu'ils observent comme s'ils étaient des témoins oculaires de l'événement.
Comment pouvons-nous donner un sens à notre situation actuelle?
L'importance des smartphones et du partage instantané sur les réseaux sociaux a rendu les vidéos et les clips sonores plus courants que jamais, et ils sont souvent la première chose que les gens rencontrent lorsqu'un grand événement se produit. Les Deepfakes menacent donc les faits fondamentaux de la réalité partagée - le fondement de tout système de gouvernement fonctionnel.
De plus, les deepfakes menacent gravement les libertés fondamentales; reproduire la ressemblance d'une personne à son insu ou sans son consentement, en particulier sa voix et ses manières, menace sa personnalité. La montée du soi-disant «porno de vengeance» et d'autres utilisations de l'intelligence artificielle profonde pour le chantage affecte déjà de nombreuses femmes, sans parler de la possibilité que ce type de chantage soit utilisé à des fins politiques. D'autre part, la technologie est également utilisée comme expression artistique ou critique du pouvoir, comme ce fut le cas avec les fausses vidéos Zuckerberg de juin.
Une bonne élaboration des politiques peut protéger à la fois la société contemporaine et les générations futures contre les abus des nouvelles technologies
Les questions abondent sur la meilleure façon de protéger les droits individuels à l'expression tout en protégeant également le droit de la société à un système d'information libre et précis. La qualité, la résistance à la détection et l'accessibilité des technologies de contrefaçon non seulement aux agences de renseignement, mais à d'autres acteurs civils et non étatiques mettent en danger la stabilité de la société.
À l'échelle mondiale, les mauvais acteurs peuvent utiliser cette technologie pour représenter plus ou moins quiconque jaillissant de choses inflammatoires, discréditer les opposants ou inciter à la violence. Au niveau national, les deepfakes menacent l'intégrité des élections partout.
Via les médias sociaux, les gens retweetent souvent ou partagent des informations qu'ils voient sans prendre la peine de vérifier si c'est vrai, surtout s'il s'agit d'informations négatives ou nouvelles. L' industrie et les décideurs politiques conviennent tous les deux qu'un nouveau paradigme doit être défini, mais les propositions actuelles ne font qu'effleurer la surface de la réduction de la menace potentielle des deepfakes.
Le simple fait de signaler une vidéo comme fausse n'arrêtera probablement pas l'effet d'un deepfake destiné à propager la désinformation; si les gens sont exposés à maintes reprises à de fausses informations, ils sont susceptibles de le croire. Cela s'appelle également l' effet de vérité illusoire , et cela se produit souvent avec un contenu manipulé ou synthétique, car les gens se souviennent seulement qu'ils ont déjà vu les fausses informations, pas qu'ils savaient que c'était un flasque. Exiger que tous les contenus deepfake soient marqués d'un filigrane n'est pas une mesure durable, car l'application de cette législation serait presque impossible au-delà des frontières des États.
Que peut faire le gouvernement?
Cependant, tout espoir n'est pas perdu.
Bien que l'état actuel du paysage médiatique mondial, couplé à un manque de normes cohérentes pour la réglementation du contenu sur toutes les plateformes dans différentes juridictions, brosse un tableau sombre du potentiel d'une réglementation durable des deepfakes, il existe des mesures que tous les gouvernements peuvent et devraient prendre pour ouvrir la voie à un nouveau régime de gouvernance.
Premièrement, l'éducation aux médias devrait être une priorité pour tous les citoyens, quel que soit leur âge. Une éducation adéquate sur la manière dont les fausses informations sont diffusées et une connaissance plus générale de ce qui constitue un préjudice en ligne aideront non seulement les citoyens à identifier les contrefaçons mais aussi à identifier les informations trompeuses ailleurs sur Internet.
Deuxièmement, les gouvernements devraient reconsidérer leurs lois sur la diffamation, la fraude et l'appropriation illicite de la ressemblance. Cela aiderait à définir ce qu'est un deepfake malveillant et à mieux protéger les citoyens de tous les jours contre la victimisation par le développement de la technologie.
Troisièmement, les gouvernements devraient collaborer plus étroitement avec l'industrie pour investir dans des solutions techniques meilleures et plus flexibles qui aideront à identifier les deepfakes à des fins de modération. Une meilleure identification des deepfakes aiderait les plateformes de médias sociaux à créer des politiques plus uniformes concernant les deepfakes et aiderait à protéger le droit des personnes à l'expression sans permettre la prolifération de contenu préjudiciable.
Enfin, les gouvernements doivent établir des lignes directrices en matière de transparence sur la manière et le moment où le gouvernement lui-même utilise la technologie du deepfake. Tout comme les citoyens ont le droit d'être protégés contre les campagnes de désinformation étrangères, ils ont également le droit de savoir quand et comment leur propre gouvernement déploie l'apprentissage automatique.
Peu importe combien nous le souhaitons, les deepfakes ne feront que se généraliser. À l'heure actuelle, il peut sembler qu'isoler les sociétés des conséquences négatives des progrès de l' intelligence artificielle est impossible (ou - à tout le moins - improbable). Cependant, nous devons reconnaître que les défis posés par les deepfakes sont similaires à ceux que nous avons surmontés en tant que société dans le passé.
Une bonne élaboration des politiques peut protéger à la fois la société contemporaine et les générations futures contre les abus des nouvelles technologies. - Clare Welch
(Crédit photo: Anthony Quintano // Wikimedia Commons)
Connectez-vous ou inscrivez-vous pour continuer la conversation