Cet article est écrit par Rosalind Kennybirch, consultante en politique technologique, Lexington Communications

Alors que les manifestations de Black Lives Matter ont balayé des pays à travers le monde, les militants ont mis en évidence la manière dont la discrimination s'enracine dans diverses facettes de la société, y compris dans le secteur technologique.

La technologie de reconnaissance faciale est parfois censée être un outil utile qui peut aider les organismes d'application de la loi à résoudre des crimes plus facilement et rapidement. D'autres ont affirmé que le logiciel a le potentiel de bénéficier plus largement aux consommateurs, par exemple en appliquant le logiciel à l'authentification des paiements (en s'assurant que seul l'identifiant facial lié à un compte bancaire peut servir d'approbation d'un paiement).

Cependant, plusieurs études ont montré que la technologie est moins précise pour identifier correctement les personnes à la peau plus foncée, ce qui lui donne le potentiel d'être militarisée en tant qu'outil de discrimination. De manière inquiétante, les individus peuvent également ne pas savoir que leur visage a été téléchargé dans le système logiciel d'une entreprise, ce qui les prive de la possibilité d'accorder leur consentement.

Les pays adoptent différentes approches de la technologie de reconnaissance faciale, à la fois dans son application et dans la réglementation de son utilisation. Bien que le logiciel présente des avantages évidents, les villes et les pays découvrent que ceux-ci peuvent avoir un coût inacceptable pour le droit des personnes à la vie privée et à la sécurité. L'année dernière, San Francisco est devenue la première grande ville américaine à interdire l'utilisation de logiciels de reconnaissance faciale par la police et d'autres agences.

Des cas des États-Unis, du Brésil et de l'Australie aident à expliquer pourquoi les gouvernements et les entreprises ont afflué vers cette nouvelle technologie, mais révèlent également les pièges et les maux de tête en matière de protection de la vie privée qui ne feront probablement qu'empirer dans les années à venir.

Technologie de reconnaissance faciale aux États-Unis: cas de 20 minutes et 35% d'erreurs d'identification

Les forces de police à travers les États-Unis ont testé la technologie de reconnaissance faciale pour évaluer son potentiel à résoudre les cas plus rapidement.

En février 2019, la police de l'État de l'Indiana a testé le logiciel de reconnaissance faciale de Clearview AI, une société de technologie américaine, et a pu résoudre une affaire de tir dans les 20 minutes suivant l'utilisation de l'application. Un ancien capitaine de la police de l’État de l’Indiana, Chuck Cohen, a expliqué que l’auteur «n’avait pas de permis de conduire et n’avait pas été arrêté à l’âge adulte, il ne figurait donc pas dans les bases de données gouvernementales», affirmant que la force n’aurait probablement pas été en mesure de pour identifier le délinquant sans la possibilité de rechercher une correspondance faciale sur les réseaux sociaux. La force est devenue le premier client payant de Clearview.

Un logiciel de reconnaissance faciale peut être utilisé pour aider les citoyens, mais sans le consentement approprié, l'utilisation de cette technologie peut engendrer la méfiance

Cependant, les erreurs de précision au sein de la technologie risquent d'être mal identifiées et peuvent impliquer des personnes innocentes. Dans une étude du MIT sur les logiciels de reconnaissance faciale , la chercheuse Joy Buolamwini a découvert que si une personne dans une image particulière est un homme blanc, le logiciel identifie correctement l'individu 99% du temps. Mais Buolamwini a également découvert que le nombre d'erreurs d'identification augmentait pour les personnes à la peau plus foncée, de près de 35% sur les photos de femmes à la peau plus foncée. Une étude plus récente du département américain du Commerce, publiée en décembre 2019, a conclu que lors de l'utilisation de photos d'application de meilleure qualité dans un logiciel de reconnaissance faciale, «les taux de faux positifs sont les plus élevés chez les personnes d'Afrique de l'Ouest et de l'Est et d'Asie de l'Est, et les plus bas en Europe de l'Est. les individus [et] cet effet est généralement important, avec un facteur de 100 faux positifs supplémentaires entre les pays ». Alors que les forces de police aux États-Unis ont affirmé les avantages du logiciel, y compris Cohen, ces études indiquent que le taux élevé d'erreurs d'identification pose un risque inacceptable pour les groupes minoritaires.

Technologie de reconnaissance faciale en Australie: une bouée de sauvetage controversée

La technologie de reconnaissance faciale, y compris celle de Clearview AI, a également été utilisée de manière controversée en Australie. À la suite des incursions de Clearview sur le marché australien, la commissaire australienne à la protection de la vie privée, Angelene Falk, a lancé une enquête sur l'entreprise pour connaître les détails de son utilisation.

La coprésidente du comité de surveillance de l'Australian Privacy Foundation, le Dr Monique Mann, a affirmé que le fait que Clearview soit utilisé en Australie est inquiétant, expliquant que «la reconnaissance faciale est vraiment dangereuse car elle recueille des informations biométriques, qui sont des informations personnelles sensibles ... elle permet le suivi des lieux publics et identification dans les lieux publics, et nous avons déjà un système de surveillance généralisé qui prend en charge cela en vidéosurveillance ». Il a ensuite été révélé que plusieurs forces de police utilisaient le logiciel de Clearview, mais l'avaient initialement nié.

L'Australie a également déployé un logiciel de reconnaissance faciale pour aider les personnes qui ont perdu des documents clés à la suite de récents feux de brousse. Lorsque les feux de brousse ont ravagé le pays l'année dernière, la base de données nationale de correspondance biométrique faciale du pays a joué un rôle déterminant dans la vérification de l'identité des personnes qui avaient perdu leurs documents personnels. La directrice générale adjointe de Services Australia, Michelle Lees, a expliqué qu'une webcam avait été installée pour prendre des photos de personnes qui n'avaient plus leurs documents. Après accord, les photos ont ensuite été comparées avec des images de passeports, visas et permis de conduire. Lees a déclaré que le processus d'appariement «impliquait, tout d'abord, d'expliquer à la personne qui faisait la réclamation ce que signifiait le service de vérification faciale ... il y avait un petit nombre de cas où les individus n'ont pas donné leur consentement, et nous avons donc examiné la preuve habituelle de mécanisme d’identité de ces individus ».

Les organisations utilisant un logiciel de reconnaissance faciale ne garantissent pas toujours le consentement des utilisateurs avant de déployer la technologie. Il s'agit d'une violation des lois sur la protection des données dans de nombreux pays et soulève des questions sur les droits de l'homme

Lees a confirmé que l'agence explorait comment la technologie pourrait être utilisée à l'avenir. L'expérience de l'Australie démontre que les logiciels de reconnaissance faciale peuvent être utilisés pour aider les citoyens, mais sans le consentement approprié, l'utilisation de cette technologie peut engendrer la méfiance.

Technologie de reconnaissance faciale au Brésil: aider ou exploiter le consommateur?

Les logiciels de reconnaissance faciale ne sont pas exclusivement utilisés par les organismes du secteur public: le secteur privé s'emploie également à exploiter son potentiel.

La banque brésilienne Banco Original et l'application de portefeuille numérique PicPay prévoient de lancer un système de reconnaissance faciale à grande échelle pour l'authentification des paiements d'ici décembre 2020. La loi générale brésilienne sur la protection des données (LGPD), qui devrait entrer en vigueur dans le pays l'année prochaine, interdit la reconnaissance faciale à moins qu'une personne n'y ait consenti. La banque prend donc des mesures prudentes pour se conformer à la loi sur la protection des données . Un café au siège de Banco Original à São Paulo est le premier endroit où la technologie sera testée et afin de se conformer à la loi, la banque a demandé l'autorisation d'essayer le logiciel à environ 2 000 clients.

Malgré les mesures prises par certaines entreprises pour exploiter le potentiel de la technologie de reconnaissance faciale, il existe encore une controverse importante sur le logiciel au Brésil. En 2018, l'Institut brésilien de la protection des consommateurs (IDEC) a pris la décision de poursuivre l'opérateur du métro de São Paulo ViaQuatro pour avoir lancé le système de portes interactives numériques pour l'analyse de foule, développé par AdMobilize, une société américaine. Le système se compose de portes interactives qui affichent des publicités - des caméras dans les portes leur permettent d'identifier les visages humains et d'analyser les émotions, le sexe et l'âge pendant que les gens regardent les publicités. Une décision sur l'affaire n'a pas encore été rendue. Le travail de ViaQuatro, par opposition à Banco Original, démontre une fois de plus l'importance d'obtenir le consentement de l'utilisateur dans la réalisation de projets utilisant un logiciel de reconnaissance faciale.

Quelle est la prochaine étape du logiciel de reconnaissance faciale?

Bien que la technologie de reconnaissance faciale puisse profiter aux consommateurs, elle présente également des risques majeurs pour le public.

Premièrement, la technologie elle-même peut mal identifier les individus. Cela peut entraîner des personnes accusées à tort de crimes, en particulier lorsque le logiciel est utilisé par les forces de police.

Deuxièmement, les organisations utilisant un logiciel de reconnaissance faciale ne garantissent pas toujours le consentement des utilisateurs avant de déployer la technologie. Il s'agit d'une violation des lois sur la protection des données dans de nombreux pays, mais plus largement, cela soulève des questions sur les droits de l'homme , y compris le droit d'un individu à la vie privée. Alors que les secteurs public et privé explorent les utilisations de la technologie de reconnaissance faciale, ils doivent garder à l'esprit les graves conséquences qui pourraient survenir si le public n'est pas consulté. - Rosalind KennyBirch

(Crédit photo: Unsplash)

N'oubliez pas de partager vos propres réflexions avec l'auteur en laissant un commentaire ci-dessous