Project Arachnid est un programme canadien pionnier pour éliminer les images d'abus sexuels sur des enfants, et cet article reflète l'évolution du projet depuis 2016, y compris leur travail avec des organisations de six autres pays pour signaler les abus.

Il explore et démystifie également une idée omniprésente - que la technologie peut sauver les enfants des abus sexuels sur enfants ou les arrêter complètement. Le rôle de l'œil humain est crucial pour le programme d'Arachnid.

**Points clés à retenir:
**

  • Arachnid suit le Web et envoie des avis de retrait si des images abusives sont trouvées. Il est maintenant étendu pour s'assurer que les images sont stockées et suivies, pour vérifier les modèles entre les images, pour arrêter plus facilement les agresseurs.

  • La technologie seule ne suffit pas. Chaque image trouvée par Arachnid doit être recoupée par trois analystes différents, et c'est un travail difficile mais nécessaire.

  • Arachnid se lance à nouveau dans un nouveau programme, Shield, pour les entreprises privées. Il s'agit d'un plug-in que les organisations peuvent utiliser pour détecter les contenus abusifs sur leur service plutôt que d'attendre une notification de retrait.

En 2018, les entreprises de technologie ont signalé plus de 45 millions de photos et de vidéos en ligne d'enfants victimes d'abus sexuels, selon une enquête du New York Times qui a qualifié le problème d '«épidémie».

Le projet Arachnid , une initiative du Centre canadien de protection de l'enfance (CCCP), veut faire partie du remède. Le programme informatique parcourt le Web à la recherche d'images explicites d'abus sexuels sur des enfants.

Il y a plus de 11,5 millions d'images sur sa base de données, avec 100 000 ajoutées chaque mois. Au-delà de l'acte d'abus lui-même, de nombreuses victimes ont du mal à trouver la clôture tandis que les preuves de leurs abus continuent de circuler.

Arachnid essaie d'arrêter le flux de matériel en ligne. Son travail a changé et évolué, notamment en faisant appel au secteur privé et en collaborant avec des pays à l'extérieur du Canada. Mais les analystes travaillent pour s'assurer que les images sont ce que le code suggère. La technologie peut-elle remplacer l'œil humain?

Les origines d'Arachnid

Arachnid a commencé comme une tipline traditionnelle, où les citoyens pouvaient utiliser un formulaire en ligne pour signaler des images. Cela dépendait principalement des rapports des citoyens canadiens et des forces de l'ordre.

«Chaque rapport ressemblait à un échec», a déclaré Lloyd Richardson, directeur du Centre et force motrice du développement d'Arachnid, s'adressant à Apolitical en 2017 . «Lorsque nous recevons des rapports de membres du public, cela signifie que ces images ont déjà un certain degré de traction.»

Ils ont donc construit Arachnid version 2.0, un programme de suivi du Web et d'envoi d'avis de retrait si des images abusives étaient trouvées. Si la technologie contribue à la prolifération des réseaux pédophiles, ont-ils estimé, alors la technologie peut faire partie de la solution.

"Une ampoule s'est déclenchée dans nos têtes lorsque nous avons réalisé son potentiel"

Arachnid fonctionne en utilisant des valeurs de hachage: des chaînes de code produites en exécutant des images via un logiciel de numérisation - une sorte d'empreinte digitale numérique.

Le programme scanne les images en ligne pour produire des hachages avant de les comparer à une liste principale d'images d'abus sexuels connus.

La liste principale est «triplement vérifiée» - vue par trois analystes humains qui confirment qu'une image représente un contact sexuel illégal avec un mineur.

Pour éviter les «zones grises», Arachnid ne s'occupe que du «pire des pires», a expliqué Richardson. Il évite les images représentant des personnes d'âge ambigu, ou celles générées de manière consensuelle par des moins de 18 ans.

La prochaine itération

En 2019, le projet entre dans une nouvelle phase, qui pourrait profondément renforcer la capacité des gouvernements et des entreprises technologiques à lutter contre les images d' abus d'enfants à long terme.

«Une ampoule s'est déclenchée dans nos têtes», a déclaré Richardson, «lorsque nous avons réalisé son potentiel».

Arachnid explore toujours le Web, mais depuis 2018, le programme l'a complété par un grattage plus ciblé. Cela stocke et traite les données des images, pour voir si elles ont une valeur de hachage similaire à d'autres dans la base de données.

«À l'origine, nous stockions les images temporairement, jusqu'à ce qu'elles soient supprimées», a déclaré Richardson. «Maintenant, nous les stockons à long terme, pour établir des connexions avec les nouvelles images qui arrivent - afin qu'elles puissent être supprimées plus rapidement.»

«C'est graphique, dérangeant, odieux et exaspérant. Mais vous prenez cette colère, cette rage et toutes les autres émotions que vous ressentez, et vous en servez pour alimenter votre dynamisme.

Il détecte ensuite les récidivistes potentiels, ce qui les rend plus faciles à poursuivre et permet aux forces de l'ordre d'intervenir plus rapidement - et avec plus de preuves.

Malgré ses innovations, Arachnid s'appuie encore aujourd'hui sur son équipe d'analystes humains pour contrôler son arriéré d'images. Sur les 91 milliards d'images qui ont maintenant été traitées en novembre 2019, plus de 13 millions d'images ont été déclenchées pour examen par les analystes.

«Megan» en 2017 était une analyste senior examinant les images référées par Arachnid. Elle a parlé à Apolitical à la condition que nous omettions son nom de famille.

«C'est graphique, dérangeant, odieux et exaspérant», dit-elle. «Mais vous prenez cette colère, cette rage et toutes les autres émotions que vous ressentez, et vous en servez pour alimenter votre dynamisme.»

"Nous n'allons pas résoudre ce problème en lui lançant un algorithme"

Arachnid protège son personnel, mais c'est toujours un travail difficile. «Les gens prennent des pauses, il y a des quarts de travail et nous avons des conseillers sur place si quelque chose est particulièrement traumatisant», a expliqué Richardson.

Le travail des analystes conteste le récit selon lequel la technologie peut être un raccourci vers le succès pour soutenir les victimes d'abus d'enfants, au-dessus des méthodes de prévention plus traditionnelles comme les programmes parentaux.

«Nous n'allons pas résoudre ce problème en lui jetant un algorithme», a déclaré Richardson, soulignant la valeur de l'interaction des analystes humains au sein du service. «Si c'était un problème facile à résoudre, nous lèverions la main et le résoudrions demain.»

Se mondialiser

Arachnid continue de travailler avec sa tipline plus traditionnelle aux côtés de ses autres travaux, et est maintenant dans la phase initiale de l'introduction d'autres tiplines internationales à bord. Six pays sont déjà inscrits, dont la Colombie et la Croatie.

Étant donné que différents services ne peuvent pas partager les images illégales entre eux, il est plus difficile de collaborer. Mais les analystes ont maintenant construit une plate-forme pour aider les tiplines à communiquer - Arachnid Orb. Orb réduit la duplication du temps d'évaluation et augmente le nombre d'avis pouvant être envoyés via le projet Arachnid.

Mais il faut du temps pour impliquer d'autres tiplines dans le projet. Un processus de vérification complexe est en place pour s'assurer que les tiplines conviennent parfaitement à la plate-forme.

Collaboration avec le secteur privé

La nature transfrontalière de la loi sur la protection de l'enfance en ligne oblige souvent les agences d'application à aller au-delà de leurs juridictions nationales. Mais sur les 40 pays de l'indice Out of the Shadows de l'Economist Intelligence Unit, seuls huit disposent d'un budget dédié à la lutte contre l'exploitation sexuelle des enfants.

Pour construire de meilleurs liens avec l'industrie, Arachnid a développé son programme «Shield». Les entreprises peuvent brancher le logiciel gratuit de Shield pour détecter les contenus abusifs sur leur service plutôt que d'attendre un avis de retrait. Cela signale automatiquement l'URL à Arachnid et accélère sa suppression.

«C'est déprimant à certains égards. Mais nous avons maintenant une meilleure idée de l'ampleur du problème. Je ne saurais trop insister sur sa taille. "

Mais même lorsque les lois sont en place et que le gouvernement et les entreprises de technologie travaillent côte à côte, Richardson a déclaré qu'un problème persiste: les enfants eux-mêmes ont peur de signaler l'exploitation sexuelle des enfants en ligne par crainte que davantage de personnes recherchent et trouvent des preuves de leurs abus. .

Face à tant de défis concurrents, diriger un projet comme Arachnid peut parfois sembler insurmontable. Et comme Arachnid grandit, son corps d'images grandit aussi. «C'est déprimant à certains égards», a déclaré Richardson, en réfléchissant aux progrès du programme. «Mais nous avons maintenant une meilleure idée de l'ampleur du problème. Je ne saurais trop insister sur sa taille. "

En effet, la plus grande force d'Internet est aussi sa plus grande faiblesse lorsqu'il s'agit d'arrêter la diffusion de ces images: c'est une ressource mondiale.

Ainsi, plutôt que d'autres gouvernements essayant de reproduire l'approche d'Arachnid, Richardson suggère de collaborer. «Réécrire le programme d'Arachnid est contre-productif», a-t-il déclaré. «Financez vos propres tiplines internes, encouragez les entreprises locales à utiliser notre programme Shield et contactez-nous.» - Emma Sisk et Ed Siddons

Testez ce que vous avez appris

Essayez de répondre sans regarder l'article: