Project Arachnid es un programa pionero canadiense para eliminar imágenes de abuso sexual infantil, y este artículo refleja cómo ha evolucionado el proyecto desde 2016, incluido su trabajo con organizaciones de otros seis países para denunciar el abuso.

También explora y desacredita una idea generalizada: que la tecnología puede salvar a los niños o detener por completo el abuso sexual infantil. El papel del ojo humano es crucial para el programa de Arachnid.

**Conclusiones clave:
**

  • Arachnid rastrea la web y envía avisos de eliminación si se encuentran imágenes abusivas. Ahora está expandido para asegurarse de que las imágenes se almacenen y rastreen, para verificar patrones entre las imágenes, para arrestar fácilmente a los abusadores.

  • La tecnología por sí sola no es suficiente. Cada imagen que encuentra Arachnid debe ser verificada por tres analistas diferentes, y es un trabajo difícil pero necesario.

  • Arachnid se está diversificando nuevamente con un nuevo programa, Shield, para empresas privadas. Es un complemento que las organizaciones pueden usar para detectar material abusivo en su servicio en lugar de esperar un aviso de eliminación.

En 2018, las empresas de tecnología informaron más de 45 millones de fotos y videos en línea de niños víctimas de abusos sexuales, según una investigación del New York Times que calificó el problema de una "epidemia".

El Proyecto Arachnid , una iniciativa del Centro Canadiense para la Protección de la Infancia (CCCP), quiere ser parte de la cura. El programa de computadora busca en la web imágenes explícitas de abuso sexual infantil.

Hay más de 11,5 millones de imágenes en su base de datos, con 100.000 añadidas cada mes. Más allá del acto de abuso en sí mismo, muchas víctimas luchan por encontrar un cierre mientras la evidencia de su abuso continúa circulando.

Arachnid está tratando de detener el flujo de material en línea. Su trabajo ha cambiado y evolucionado, incluida la incorporación del sector privado y la colaboración con países más allá de Canadá. Pero los analistas trabajan para asegurarse de que las imágenes sean lo que sugiere el código. ¿Puede la tecnología reemplazar al ojo humano?

Los orígenes del arácnido

Arachnid comenzó como una línea de información tradicional, donde los ciudadanos podían usar un formulario en línea para informar imágenes. Depende principalmente de los informes de los ciudadanos canadienses y de las fuerzas del orden.

“Cada informe se sintió como un fracaso”, dijo Lloyd Richardson, director del Centro y una fuerza impulsora detrás del desarrollo de Arachnid, hablando con Apolitical en 2017 . "Cuando recibimos informes de miembros del público, significa que estas imágenes ya tienen cierto grado de tracción".

Así que crearon Arachnid versión 2.0, un programa que rastrea la web y envía avisos de eliminación si se encuentran imágenes abusivas. Si la tecnología ayuda a la proliferación de redes de pedófilos, razonaron, entonces la tecnología puede convertirse en parte de la solución.

"Una bombilla se encendió en nuestras cabezas cuando nos dimos cuenta de su potencial"

Arachnid funciona usando valores hash: cadenas de código producidas al ejecutar imágenes a través de un software de escaneo, una especie de huella digital.

El programa escanea imágenes en línea para producir hashes antes de compararlas con una lista maestra de imágenes de abuso sexual conocidas.

La lista maestra es "examinada por tres veces": vista por tres analistas humanos que confirman que una imagen muestra un contacto sexual ilegal con un menor.

Para evitar “áreas grises”, Arachnid solo se ocupa de “lo peor de lo peor”, explicó Richardson. Evita imágenes que muestren personas de edad ambigua, o aquellas generadas consensualmente por menores de 18 años.

La próxima iteración

En 2019, el proyecto está entrando en una nueva fase, una que podría fortalecer profundamente la capacidad del gobierno y las empresas tecnológicas para combatir las imágenes de abuso infantil a largo plazo.

“Una bombilla se encendió en nuestras cabezas”, dijo Richardson, “cuando nos dimos cuenta de su potencial”.

Arachnid todavía rastrea la web, pero desde 2018 el programa lo ha complementado con un raspado más específico. Esto almacena y procesa los datos de las imágenes, para ver si tienen un valor hash similar a otros en la base de datos.

"Originalmente, almacenamos las imágenes temporalmente, hasta que se eliminaron", dijo Richardson. "Ahora, las almacenamos a largo plazo, para establecer conexiones con las nuevas imágenes que están entrando, para que puedan eliminarse más rápido".

“Es gráfico, perturbador, atroz y exasperante. Pero tomas esa ira, esa rabia y todas las demás emociones que estás sintiendo, y las usas para impulsar tu impulso ".

Luego detecta a los posibles infractores reincidentes, lo que facilita su procesamiento y permite que las fuerzas del orden intervengan más rápido y con más pruebas.

A pesar de sus innovaciones, Arachnid todavía hoy confía en su equipo de analistas humanos para examinar su acumulación de imágenes. De las 91 mil millones de imágenes que se han procesado hasta noviembre de 2019, más de 13 millones de imágenes se han activado para la revisión de los analistas.

“Megan” en 2017 era una analista senior que examinaba imágenes remitidas por Arachnid. Habló con Apolitical con la condición de que omitiéramos su apellido.

"Es gráfico, perturbador, atroz y exasperante", dijo. "Pero tomas esa rabia, esa rabia y todas las demás emociones que estás sintiendo, y las usas para impulsar tu impulso".

"No vamos a resolver este problema lanzándole un algoritmo"

Arachnid protege a su personal, pero sigue siendo un trabajo duro. “La gente se toma descansos, hay turnos y tenemos asesores disponibles si algo es particularmente traumático”, explicó Richardson.

El trabajo de los analistas cuestiona la narrativa de que la tecnología puede ser un atajo al éxito para apoyar a las víctimas de abuso infantil, por encima de los métodos preventivos más tradicionales como los programas para padres.

“No vamos a resolver este problema lanzándole un algoritmo”, dijo Richardson, enfatizando el valor de la interacción del analista humano dentro del servicio. "Si fuera un problema fácil de resolver, levantaríamos las manos en el aire y lo resolveríamos mañana".

Globalizarse

Arachnid continúa trabajando con su línea de punta más tradicional junto con su otro trabajo, y ahora se encuentra en la fase inicial de incorporar otras líneas internacionales a bordo. Ya se han inscrito seis naciones, incluidas Colombia y Croacia.

Debido a que los diferentes servicios no pueden compartir las imágenes ilegales entre ellos, es más difícil colaborar. Pero los analistas ahora han creado una plataforma para ayudar a las líneas de instrucción a comunicarse: Arachnid Orb. Orb reduce la duplicación en el tiempo de evaluación y aumenta la cantidad de avisos que se pueden enviar a través del Proyecto Arachnid.

Pero se necesita tiempo para involucrar a otras disciplinas en el proyecto. Se ha implementado un complejo proceso de investigación para garantizar que las líneas de tierra sean las adecuadas para la plataforma.

Colaboración del sector privado

La naturaleza transfronteriza de la ley de protección infantil en línea a menudo requiere que las agencias de aplicación se extiendan más allá de sus jurisdicciones nacionales. Pero de los 40 países incluidos en el índice Out of the Shadows de Economist Intelligence Unit, solo ocho tienen un presupuesto dedicado a contrarrestar la explotación sexual infantil.

Para construir mejores vínculos con la industria, Arachnid ha desarrollado su programa "Shield". Las empresas pueden conectar el software gratuito de Shield para detectar material abusivo en su servicio en lugar de esperar un aviso de eliminación. Esto informa la URL a Arachnid automáticamente y acelera su eliminación.

“Es deprimente de alguna manera. Pero ahora tenemos una mejor idea del alcance del problema. No puedo enfatizar lo suficiente lo grande que es ".

Pero incluso cuando las leyes están vigentes y el gobierno y las empresas tecnológicas trabajan codo con codo, Richardson reflexionó que persiste un problema continuo: los propios niños tienen miedo de denunciar la explotación sexual infantil en línea por temor a que más personas busquen y encuentren pruebas de su abuso. .

Frente a tantos desafíos en competencia, ejecutar un proyecto como Arachnid a veces puede parecer insuperable. Y a medida que crece Arachnid, también lo hace su cuerpo de imágenes. “Es deprimente de alguna manera”, dijo Richardson, reflexionando sobre el progreso del programa. “Pero ahora tenemos una mejor idea del alcance del problema. No puedo enfatizar lo suficiente lo grande que es ".

De hecho, la mayor fortaleza de Internet es también su mayor debilidad cuando se trata de detener la difusión de estas imágenes: es un recurso global.

Entonces, en lugar de que otros gobiernos intenten replicar el enfoque de Arachnid, Richardson sugiere colaborar. “Reescribir el programa de Arachnid es contraproducente”, dijo. "Financia tus propias líneas de acción internas, anima a las empresas locales a utilizar nuestro programa Shield y ponte en contacto". - Emma Sisk y Ed Siddons

Prueba lo que aprendiste

Intente responder sin mirar hacia atrás en el artículo: