Este artículo de opinión fue escrito por Paul McFarlane, investigador principal en ciencias de la seguridad y el delito, University College London, y fue publicado originalmente por The Conversation. Para obtener más información sobre esto, vea nuestro suministro digital de noticias del gobierno .

El debate sobre la policía que usa el aprendizaje automático se está intensificando: se considera en algunos sectores tan controvertido como detener y buscar .

Detenerse y buscar es una de las áreas más polémicas de cómo la policía interactúa con el público. Ha sido muy criticado por ser discriminatorio hacia los grupos étnicos negros y minoritarios, y por tener efectos marginales en la reducción del crimen. Del mismo modo, el uso policial de algoritmos de aprendizaje automático ha sido condenado por grupos de derechos humanos que afirman que tales programas fomentan la discriminación y la discriminación racial junto con la amenaza a la privacidad y la libertad de expresión.

En términos generales, el aprendizaje automático utiliza datos para enseñar a las computadoras a tomar decisiones sin indicarles explícitamente cómo hacerlo. El aprendizaje automático se utiliza con éxito en muchas industrias para crear eficiencia, priorizar riesgos y mejorar la toma de decisiones.

Faltan investigaciones sobre el impacto social de la policía que utiliza el aprendizaje automático para prevenir y detectar delitos.

Aunque están en una etapa muy temprana, la policía en el Reino Unido está explorando los beneficios del uso de métodos de aprendizaje automático para prevenir y detectar delitos, y para desarrollar nuevas ideas para abordar problemas de gran interés público.

Es cierto que existen problemas potenciales con el uso de algoritmos probabilísticos de aprendizaje automático en la vigilancia. Por ejemplo, cuando se usan datos históricos, existe el riesgo de que los algoritmos, al hacer predicciones, discriminen injustamente a ciertos grupos de personas. Pero si la policía aborda el uso de esta tecnología de la manera correcta, no debería ser tan controvertido como detener y buscar, y podría recorrer un largo camino para que la policía sea más efectiva en la prevención y resolución de delitos .

Un desafío policial moderno

Considere el caso de la reciente preocupación pública sobre los videos musicales de perforación y su contenido lírico único supuestamente utilizado para inspirar, incitar y glorificar la violencia grave.

La música de taladro, en los últimos años, se ha extendido a las principales ciudades del Reino Unido. Al mismo tiempo, las plataformas de redes sociales como YouTube e Instagram han sido testigos de un aumento significativo en los videos musicales de perforación cargados en línea. Muchos de los videos, que muestran a raperos masculinos con máscaras faciales, que usan lenguaje violento, provocativo y nihilista, reciben millones de visitas.

La comisaria de policía más importante del Reino Unido, la comisionada Cressida Dick, ha criticado públicamente los videos musicales de ejercicios, afirmando que se utilizan para dar glamour al asesinato y la violencia grave y aumentar las tensiones entre las pandillas callejeras rivales.

Muchas personas no están de acuerdo con la culpa de la policía de la música de los ejercicios. Los partidarios de este género musical argumentan que el asesinato y la violencia no son un fenómeno nuevo, y no deben considerarse causales para perforar a los artistas que rapean sobre las duras realidades de sus experiencias vividas. Algunos académicos también están preocupados de que el enfoque policial actual "está llevando a la criminalización de las actividades cotidianas" y que "los jóvenes de entornos pobres ahora están siendo categorizados como problemáticos por el mero hecho de hacer un video musical".

Sin embargo, para la policía, este es un tema importante: tienen la responsabilidad legal de proteger la vida y gestionar los riesgos para el público. Como tal, la detección de contenido en línea dañino que, por ejemplo, podría contener una amenaza para la vida de una persona, es tanto un problema policial operativo contemporáneo como un problema tecnológico insoluble que la policía necesita para poder resolver.

Desarrollo de herramientas de aprendizaje automático.

Los agentes de policía que ven manualmente grandes cantidades de videos para identificar y discernir contenido dañino y criminal de la expresión creativa legítima es enormemente ineficiente. Como tal, debe ser automatizado. Sí, actualmente existen desafíos técnicos significativos para que los algoritmos de aprendizaje automático comprendan ese contenido lírico único. Pero este tipo de problema, para los investigadores, encaja perfectamente en el creciente campo de aprendizaje automático del procesamiento del lenguaje natural. Este es un campo que utiliza técnicas computacionales para comprender el lenguaje humano y el habla.

Se pueden establecer herramientas de aprendizaje automático sobre principios científicos ampliamente aceptados

En términos más generales, hay una falta de investigación sobre el impacto social de la policía que utiliza el aprendizaje automático para prevenir y detectar delitos. Mientras tanto, para evitar controversias, la policía no debe confiar en modelos opacos de aprendizaje automático de "caja negra" que no han sido probados en un contexto operativo policial para automatizar el análisis de grandes cantidades de datos. Los modelos de caja negra son justamente controvertidos porque no muestran su lógica interna ni los procesos utilizados para tomar decisiones.

Una mejor manera de avanzar es que la policía trabaje con expertos y cree modelos de aprendizaje automático diseñados específicamente para fines policiales que hagan un mejor uso de los datos para abordar problemas, como los inherentes a los videos musicales de perforación. La policía de Durham, por ejemplo, ha trabajado recientemente con científicos de la Universidad de Cambridge para desarrollar una herramienta algorítmica de evaluación de riesgos para ayudar con las decisiones sobre futuros delitos cuando la policía arresta a una persona.

De esta manera, las herramientas de aprendizaje automático se pueden establecer sobre principios científicos ampliamente aceptados, con un nivel de transparencia que se puede utilizar para impulsar el apoyo público en formas que se detienen y la búsqueda no ha podido hacerlo.

Preocupaciones por la transparencia.

En un informe reciente , el grupo de expertos de defensa y seguridad británico RUSI planteó preocupaciones más específicas sobre el concepto de la policía que usa algoritmos de aprendizaje automático para hacer predicciones y apoyar la toma de decisiones. Cabe destacar que habla sobre el concepto de "transparencia algorítmica" y la dificultad para que los no expertos entiendan cómo se utilizan los complejos modelos estadísticos para tomar decisiones.

El informe hace un punto importante: si el aprendizaje automático se usa en cualquier forma de entorno de justicia penal, los no expertos deberían poder entender cómo se han tomado las decisiones y determinar si los resultados son precisos y justos.

A fin de cuentas, el director de la policía que utiliza el aprendizaje automático para identificar riesgos y apoyar la toma de decisiones no es, y no debe ser, considerado como una nueva forma de totalitarismo que busca erosionar los derechos democráticos, prevenir la libertad de expresión, marginar a los negros y las minorías. Grupos étnicos.

Dado que el aumento de la delincuencia en el Reino Unido ahora es el problema más importante que enfrenta el público británico después del Brexit, el aprendizaje automático, dentro de un marco ético, normativo y de confianza pública apropiado, debería tener un lugar en la caja de herramientas policiales moderna para prevenir el delito y proteger el público.

Este artículo fue publicado originalmente por The Conversation . Para leer el artículo, haga clic aquí .

(Crédito de la imagen: Unsplash)