Comprendre notre fantôme numérique: comment vivent les données nous concernant

Cet article d'opinion a été écrit par Alistair Gentry, artiste chercheur en résidence à l'Open Data Institute (ODI). Sa conférence de midi "Explorer la confiance et la méfiance à l'égard des informations publiques à travers l'art" a lieu le vendredi 2 novembre à 13h00 à l'Open Data Institute, 65 Clifton Street, Londres, EC2A 4JE, et est également disponible via livestream sur la chaîne YouTube de l' ODI . Cette pièce apparaît également dans notre fil d'actualité numérique du gouvernement .

En septembre, j'ai été nommé artiste de recherche de l' Open Data Institute en résidence, avec un mandat pour développer une œuvre d'art qui explore les thèmes clés de la confiance du public et des «données en tant que culture».

Le programme des données de l'ODI en tant qu'art culturel engage de nouveaux publics diversifiés avec des travaux d'artistes qui explorent les données de manière critique et matérielle. Il offre un angle alternatif pour regarder les données - en décochant les problèmes sociétaux et politiques et les opportunités qu'il pourrait créer sans être lié aux méthodes de recherche conventionnelles.

• Tu veux écrire pour nous? Jetez un œil au guide d' Apolitical pour les contributeurs

Mon point de départ était l'asymétrie de l'impact des données sur nous - le fantôme qui aide certains d'entre nous et hante les autres - parce que les risques, les coûts et les effets secondaires d'une confiance mal placée ou mal gérée pèsent beaucoup plus lourdement sur certaines personnes et certains secteurs de la société que d'autres. .

La mentalité de bro tech qui semble très répandue dans les gestionnaires de données comme Facebook est inextricablement liée à l'impact de leurs technologies sur presque tous. C'est soit par conception idéologique (généralement libertaire infléchie dans la Silicon Valley) soit par ignorance privilégiée et inconsciente. "Je ne pense pas avoir quoi que ce soit à cacher, et si vous n'avez rien à cacher, vous n'avez rien à craindre" est un sentiment que certaines personnes ont le privilège d'exprimer avec sérieux. Ils pourraient se sentir différemment s'ils étaient, par exemple, un journaliste d'investigation à Malte ou un militant politique russe.

En se concentrant légèrement sur le statut socioéconomique, en Grande-Bretagne, le fait d'être pauvre - souvent des travailleurs pauvres plutôt que des chômeurs pauvres, suffisamment pour avoir besoin du crédit universel - rend rapidement une personne parfaitement consciente que la simple inefficacité dans le traitement des données, sans malveillance active, peut envoyer une personne et son ménage dans un piqué d'arriérés de loyer, de factures impayées et de la banque alimentaire.

Fermer la boîte de Pandore

Dans le monde développé, nos vies sont largement surveillées et enregistrées grâce à notre utilisation constante - et leur présence passive sur ou près de notre personne, dans certains cas - de téléphones et d'appareils intelligents. Parallèlement aux services bancaires en ligne, au gouvernement, aux services et aux achats, les données de tout ou partie de ces utilisations et technologies sont étroitement liées.

La plupart des gens en sont conscients, dans une certaine mesure, mais peu d'entre eux en saisissent toute l'étendue, la portée ou les implications. S'ils en étaient informés, ils seraient étonnés ou consternés.

Quelqu'un qui le sait très bien est l'ancien psychologue en chef de Cambridge Analytica, Patrick Fagan, qui dans une interview avec Anna Scott de l'ODI dit: «Je ne pense pas qu'ils comprennent [l'utilisation commerciale des données personnelles] du tout, et je me mets très fermement dans cette catégorie aussi. Les gens se soucient généralement des choses émotionnelles et les données sont très rationnelles et complexes. »

Dans le monde développé, nos vies sont largement surveillées et enregistrées

Si les goûts de Fagan ne prétendent pas être particulièrement sur le ballon, nous devons approcher avec une extrême prudence toute personne qui dit avoir une parfaite maîtrise de ce sujet.

En ce qui concerne la confidentialité et nos droits de contrôler, d'autoriser ou de refuser l'accès aux données qui s'accumulent constamment dans presque tout ce que nous faisons, à ce stade, il s'agit probablement d'essayer de tout replacer dans Pandora's Box, de s'asseoir sur le couvercle jusqu'à ce qu'il s'arrête bouger, puis recommencer.

Lors d'une conférence à laquelle j'ai assisté récemment, dirigée par une société d'intelligence artificielle, un présentateur d'un grand assureur était incroyablement détendu quant à la perspective de la récupération automatique et instantanée de dossiers complets sur une personne lorsqu'elle demande autant que paresseusement un devis d'assurance. Vous n'avez même pas besoin de procéder à une politique de profilage exhaustif, ainsi que tous les autres membres de votre ménage, vos anciens collègues, partenaires, colocataires et membres de la famille qui ne vivent plus avec vous ou qui ne sont plus en vie du tout. . Un autre présentateur de la balise de base de données AI «décédée» de la même conférence en atteste.

Mes propres recherches actuelles confirment qu'il est incroyablement facile de faire de telles choses avec des logiciels facilement disponibles - aucun apprentissage automatique requis. Et les techniques d'apprentissage automatique et d'intelligence artificielle accélèrent de façon exponentielle l'intelligence humaine, la recherche et le profilage à l'ancienne. Le cadre moral et éthique de ces activités accuse un retard notable et inquiétant.

Choisir la bonne forme

Pour ma résidence à l'ODI, j'avais initialement prévu de créer quelque chose qui utilise ces mêmes technologies mais qui a remis les données et les outils de gestion à la personne concernée.

Mais, si répandu est l'aspiration aveugle des données, que j'ai décidé que le faire dans un contexte artistique serait tout simplement le faire plutôt que de le remettre en question. Ce serait un peu comme si je faisais une copie pratiquement impossible à distinguer d'un tableau célèbre et que j'y mettais simplement ma signature; cela peut fonctionner comme une déclaration d'art conceptuel incroyablement arche, aride et ésotérique, mais ce n'est pas le genre de déclaration qui m'intéresse. Et cela se fait déjà, tous les jours, pour nous tous. Je pourrais vous le faire demain - soyez de retour, téléchargez l'application maintenant.

Le fantôme des données nous concernant est en quelque sorte une partie inextricable de nous

En me préparant à parler de mon travail et de mes recherches à ce jour à l'Open Data Institute en novembre, dans le cadre de sa série de conférences ODI les vendredis midi, j'ai plutôt réfléchi aux moyens par lesquels nous pourrions introduire de l'empathie, de l'ouverture et de l'humanité dans des processus d'extraction et de silo de données ésotériques et abstraits qui sont déjà bien avancés.

Comme dans tout mon travail, je vais essayer de faire quelque chose qui aide plutôt que nuit, des questions plutôt que des réponses. Si le fantôme des données nous concernant est en quelque sorte une partie inextricable de nous, alors, comme tout autre aspect de nous, ce fantôme a également des droits inaliénables. Celles-ci ne devraient pas faire l'objet d'un débat plus que le bras ou la jambe d'un être humain, par exemple, devraient être annexés et monétisés unilatéralement par un gouvernement ou une entreprise - même si cette personne a cliqué sur «J'accepte» à la fin d'un long document qu'elle n'a pas fait 'lis pas correctement. - Alistair Gentry

(Crédit photo: Pexels / Chris Gonzalez)