Pour en savoir plus, consultez notre secteur phare des données, du numérique et de la technologie .

En 2018, les entreprises de technologie ont signalé plus de 45 millions de photos et vidéos en ligne d'enfants victimes d'abus sexuels, selon une enquête du New York Times qui a qualifié le problème d '«épidémie».

Le projet Arachnid , une initiative du Centre canadien de protection de l'enfance (CCCP), veut faire partie de la cure. Le programme informatique parcourt le Web pour des images explicites d'abus sexuels sur des enfants. Il y a plus de 11,5 millions d'images dans sa base de données, avec 100 000 autres ajoutées chaque mois.

Lorsque Apolitical a rencontré Arachnid en 2017 , il fonctionnait depuis un an, explorant Internet à la recherche d'images d'abus et émettant des avis de retrait aux fournisseurs. Mais maintenant, le projet entre dans une nouvelle phase, qui pourrait renforcer profondément la capacité du gouvernement et des entreprises technologiques à lutter à long terme contre les images d' enfants maltraités .

"Une ampoule a explosé dans nos têtes", a déclaré Lloyd Richardson, directeur du CCCP, "lorsque nous avons réalisé son potentiel".

Comment fonctionne Arachnid

Arachnid fonctionne en tamisant les valeurs de hachage - comme l'empreinte digitale d'un fichier - pour vérifier le code d'une image pour les motifs suspects. Il traite des dizaines de milliers d'images par seconde.

Lorsque le projet a commencé en 2016, Arachnid a rampé sur Internet à la recherche d'images abusives d'enfants. L'exploration a identifié des images d' abus sexuels sur des enfants et a envoyé des avis automatisés aux fournisseurs pour les supprimer.

Auparavant, les images n'étaient traitées que de manière isolée et des avis étaient ensuite envoyés pour retirer les documents illégaux.

Arachnid explore toujours le Web, mais depuis 2018, le programme l'a complété par un grattage plus ciblé. Cela stocke et traite les données des images, pour voir si elles ont une valeur de hachage similaire à d'autres dans la base de données.

Il cherche ensuite à repérer les récidivistes potentiels, à les rendre plus faciles à poursuivre et à changer le jeu en permettant aux forces de l'ordre d'intervenir plus rapidement - et avec plus de preuves.

«À l'origine, nous stockions les images temporairement, jusqu'à ce qu'elles soient supprimées», a expliqué Richardson. «Maintenant, nous les stockons à long terme, pour établir des liens avec les nouvelles images qui arrivent - afin qu'elles puissent être supprimées plus rapidement.»

Collaboration transfrontalière

Arachnid travaille aux côtés d'une ligne de conduite plus traditionnelle, où les citoyens peuvent utiliser un formulaire en ligne pour signaler des images.

Le projet est également au stade initial de l'intégration d'autres lignes internationales; six pays sont déjà inscrits, dont la Colombie et la Croatie.

La plateforme de collaboration, connue sous le nom d'Arachnid Orb, aide les analystes à mettre en commun leur expertise et leurs ressources collectives, réduisant ainsi la duplication du temps d'évaluation et augmentant le nombre d'avis pouvant être envoyés via le projet Arachnid.

Il faut du temps pour impliquer d'autres tiplines dans le projet, y compris un processus de vérification complexe pour s'assurer que les tiplines sont bien adaptées à la plate-forme. En raison de la nature illégale du matériel, il est plus difficile de collaborer lorsque les images ne peuvent pas être partagées.

«Le problème des abus sexuels sur des enfants, avec des images, c'est qu'ils sont largement antérieurs à Internet. L'Arachnide ne fait qu'effleurer la surface des abus qui existent. »

Ce n'est pas seulement le partage entre les nations qui s'avère difficile. La diffusion d'images explicites en ligne est un défi particulier pour les forces de l'ordre, car des activités illégales ont souvent lieu sur des réseaux cryptés ou sur le dark web.

Même lorsque des lois sont en place et que le gouvernement et les entreprises de technologie travaillent côte à côte, Richardson a déclaré que les enfants eux-mêmes ont peur de signaler l'exploitation sexuelle des enfants en ligne par crainte que davantage de personnes regardent et trouvent des preuves de leurs abus.

En plus de cela, la nature transfrontalière de la législation en ligne sur la protection des enfants oblige souvent les organismes d'application à aller au-delà de leurs juridictions nationales. Mais sur les 40 pays de l'indice Out of the Shadows de l'Economist Intelligence Unit, qui classe les pays selon leur approche de la lutte contre la violence sexuelle à l'égard des enfants , seuls huit disposent d'un budget dédié pour lutter contre l'exploitation sexuelle des enfants.

Ce n'est pas une solution miracle

La technologie peut être accusée d'être un raccourci vers le succès, présentée comme la seule solution pour arrêter la maltraitance des enfants au-dessus des méthodes préventives plus traditionnelles comme les programmes parentaux. Richardson l'a reconnu: «Arachnid n'est pas une solution miracle, mais une solution complexe à long terme.»

«Le problème des abus sexuels sur des enfants, avec des images, c'est qu'ils sont largement antérieurs à Internet», a-t-il poursuivi. "L'Arachnide ne fait qu'effleurer la surface des abus qui existent."

"Nous n'allons pas résoudre ce problème en lui lançant un algorithme"

L'intelligence artificielle, par exemple, est souvent présentée comme l'outil permettant de supprimer définitivement ces images d'Internet. Mais ce n'est pas si simple. «Nous n'allons pas résoudre ce problème en lui lançant un algorithme», a déclaré Richardson, soulignant la valeur de l'interaction des analystes humains au sein du service. "Si c'était un problème facile à résoudre, nous lançions les mains en l'air et le résolvions demain."

Parallèlement à son vaste travail algorithmique, Arachnid s'appuie sur trois analystes par image pour établir si elle représente des abus sexuels sur des enfants - certaines images peuvent en fait contenir des adultes de plus de 18 ans, par exemple. C'est un travail difficile et laborieux, qui s'accompagne de beaucoup de pression.

"Une erreur et les drapeaux rouges montent partout", a déclaré Richardson. «Il doit être parfaitement vérifié, et c'est sur nous. Mais il ne revient pas aux personnes ou aux entreprises qui hébergent ce matériel de le retirer. »

"Je ne saurais trop insister sur l'ampleur du problème."

Pour établir de meilleurs liens avec l'industrie, Arachnid a développé son programme Shield. Au lieu d'attendre qu'Arachnid détecte le matériel et envoie un avis, les entreprises peuvent brancher Shield pour détecter le matériel abusif sur leur service, qui signale automatiquement l'URL à Arachnid et accélère sa suppression. Les entreprises peuvent accéder gratuitement au programme Shield d'Arachnid.

Une ressource mondiale

Malgré tout cela, gérer un projet comme Arachnid peut parfois sembler insurmontable. À mesure que l'Arachnide grandit, son corps d'images grandit. "C'est déprimant à certains égards", a déclaré Richardson. «Mais nous avons maintenant une meilleure idée de l'ampleur du problème. Je ne saurais trop insister sur sa taille. »

En effet, la plus grande force d'Internet est aussi sa plus grande faiblesse lorsqu'il s'agit d'arrêter la propagation de ces images: c'est une ressource mondiale.

Ainsi, plutôt que d'autres gouvernements essayant de reproduire l'approche d'Arachnid, Richardson suggère de collaborer. "Réécrire le programme d'Arachnid est contre-productif", a-t-il déclaré. «Financer vos propres tiplines internes, encourager les entreprises locales à utiliser notre programme Shield et entrer en contact.» - Emma Sisk

N'oubliez pas de partager vos propres réflexions avec l'auteur en laissant un commentaire ci-dessous