Proyecto Arácnido: el rastreador web contra el abuso infantil de Canadá está evolucionando

Para más información como esta, vea nuestro sector de datos, digital y tecnológico .

En 2018, las compañías tecnológicas informaron más de 45 millones de fotos y videos en línea de niños víctimas de abuso sexual, según una investigación del New York Times que calificó el problema de "epidemia".

El Proyecto Arácnido , una iniciativa del Centro Canadiense para la Protección del Niño (CCCP), quiere ser parte de la cura. El programa de computadora peina la web para obtener imágenes explícitas de abuso sexual infantil. Hay más de 11.5 millones de imágenes en su base de datos, con otras 100,000 agregadas cada mes.

Cuando Apolitical se encontró con Arachnid en 2017 , había estado funcionando durante un año, rastreando internet buscando imágenes de abuso y emitiendo avisos de eliminación a los proveedores. Pero ahora el proyecto está entrando en una nueva fase, que podría fortalecer profundamente la capacidad de las empresas gubernamentales y tecnológicas para combatir las imágenes de abuso infantil a largo plazo.

"Se encendió una bombilla en nuestras cabezas", dijo Lloyd Richardson, Director del CCCP, "cuando nos dimos cuenta de su potencial".

Cómo funciona el arácnido

Arácnido funciona tamizando los valores hash, como la huella digital de un archivo, para verificar el código de una imagen en busca de patrones sospechosos. Procesa decenas de miles de imágenes por segundo.

Cuando el proyecto comenzó por primera vez en 2016, Arachnid rastreaba internet buscando imágenes abusivas de niños. El rastreo identificó imágenes de abuso sexual infantil y emitió avisos automáticos a los proveedores para eliminarlos.

Anteriormente, las imágenes solo se trataban de forma aislada y luego se enviaban avisos para eliminar material ilegal.

Arachnid todavía rastrea la web, pero desde 2018 el programa ha complementado esto con un raspado más específico. Esto almacena y procesa los datos de las imágenes, para ver si tiene un valor hash similar a otros en la base de datos.

Luego funciona para detectar posibles delincuentes reincidentes, haciéndolos más fáciles de procesar y cambiando el juego al permitir que la policía intervenga más rápido y con más evidencia.

"Originalmente, almacenamos las imágenes temporalmente, hasta que se eliminaron", dijo Richardson. "Ahora, los estamos almacenando a largo plazo, para establecer conexiones con las nuevas imágenes que están llegando, para que puedan eliminarse más rápido".

Colaboración transfronteriza

Arácnido trabaja junto a una línea de información más tradicional, donde los ciudadanos pueden usar un formulario en línea para reportar imágenes.

El proyecto también se encuentra en la fase inicial de incorporar otras disciplinas internacionales; seis naciones ya están inscritas, incluyendo Colombia y Croacia

La plataforma de colaboración, conocida como Arachnid Orb, ayuda a los analistas a unir sus conocimientos y recursos colectivos, reduciendo la duplicación en el tiempo de evaluación y aumentando el número de avisos que se pueden enviar a través del Proyecto Arachnid.

Se necesita tiempo para involucrar otras disciplinas en el proyecto, incluido un proceso de investigación complejo para garantizar que las disciplinas sean adecuadas para la plataforma. Debido a la naturaleza ilegal del material, es más difícil colaborar cuando las imágenes no se pueden compartir.

“El problema con el abuso sexual infantil, con imágenes, es que precede mucho a Internet. Arácnido solo está rascando la superficie del abuso que existe ".

No es solo compartir entre naciones lo que resulta difícil. La difusión de imágenes explícitas en línea es un desafío particular para la aplicación de la ley, ya que la actividad ilegal a menudo tiene lugar en redes cifradas o en la web oscura.

Incluso cuando las leyes están vigentes, y las empresas gubernamentales y tecnológicas están trabajando codo a codo, Richardson dijo que los propios niños tienen miedo de denunciar la explotación sexual infantil en línea por temor a que más personas busquen y encuentren evidencia de su abuso.

Además de esto, la naturaleza transfronteriza de la ley de protección infantil en línea a menudo requiere que las agencias de aplicación se extiendan más allá de sus jurisdicciones nacionales. Pero de los 40 países en el Índice Out of the Shadows de la Unidad de Inteligencia de The Economist, que clasifica a los países en su enfoque para abordar la violencia sexual infantil , solo ocho tienen un presupuesto dedicado para contrarrestar la explotación sexual infantil.

No es una bala de plata

Se puede acusar a la tecnología de ser un atajo hacia el éxito, promocionado como la única solución para detener el abuso infantil por encima de los métodos preventivos más tradicionales, como los programas para padres. Richardson reconoció esto: "El arácnido no es una bala de plata, sino una solución compleja a largo plazo".

"El problema con el abuso sexual infantil, con imágenes, es que precede mucho a Internet", continuó. "Arácnido solo está rascando la superficie del abuso que existe".

"No vamos a resolver este problema lanzándole un algoritmo"

La inteligencia artificial, por ejemplo, a menudo se promociona como la herramienta para finalmente eliminar estas imágenes de Internet. Pero no es tan simple. "No vamos a resolver este problema lanzándole un algoritmo", dijo Richardson, enfatizando el valor de la interacción del analista humano dentro del servicio. "Si fuera un problema fácil de resolver, levantaríamos nuestras manos en el aire y lo resolveremos mañana".

Junto con su extenso trabajo algorítmico, Arachnid se basa en tres analistas por imagen para establecer si representa el abuso sexual infantil; por ejemplo, algunas imágenes pueden contener adultos mayores de 18 años. Es un trabajo difícil y laborioso, que conlleva mucha presión.

"Un error y las banderas rojas suben por todas partes", dijo Richardson. “Tiene que ser examinado perfectamente, y eso depende de nosotros. Pero no hay responsabilidad en las personas o empresas que alojan este material para eliminarlo ".

"No puedo enfatizar lo suficiente qué tan grande es el problema".

Para construir mejores vínculos con la industria, Arachnid ha desarrollado su programa Shield. En lugar de esperar a que Arachnid detecte el material y envíe un aviso, las empresas pueden conectar Shield para detectar material abusivo en su servicio, que informa la URL a Arachnid automáticamente y acelera su eliminación. Las empresas pueden obtener acceso al programa Shield de Arachnid de forma gratuita.

Un recurso global

A pesar de todo esto, ejecutar un proyecto como Arachnid a veces puede parecer insuperable. A medida que crece el arácnido, crece su cuerpo de imágenes. "Es deprimente en algunos aspectos", dijo Richardson. “Pero ahora tenemos una mejor idea del alcance del problema. No puedo enfatizar lo suficiente lo grande que es ".

De hecho, la mayor fortaleza de Internet también es su mayor debilidad cuando se trata de detener la propagación de estas imágenes: es un recurso global.

Entonces, en lugar de que otros gobiernos intenten replicar el enfoque de Arachnid, Richardson sugiere colaborar. "Reescribir el programa de Arachnid es contraproducente", dijo. "Financia tus propias disciplinas internas, anima a las empresas locales a usar nuestro programa Shield y ponte en contacto". - Emma Sisk