Big data está transformando la vigilancia. Las tecnologías predictivas pueden pronosticar crímenes aún por cometer. Los datos sobre la ubicación del delito están configurando cuándo y dónde patrulla la policía. Y los sistemas de inteligencia pueden destacar a los delincuentes responsables de un número desproporcionado de delitos.

Los beneficios potenciales son inmensos. En Colombia, un mejor uso de los datos ayudó a la policía a reducir la tasa de asesinatos del país en un 82% en un cuarto de siglo. Pero los problemas legales, políticos y económicos planteados amenazan el equilibrio de poder entre los ciudadanos y el estado en todo el mundo.

The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement de Andrew Guthrie Ferguson abre un espacio entre el optimismo acrítico de muchos defensores de la ley y las críticas mordaces de sus oponentes. La revolución de los datos, argumenta, está en marcha: la única forma de maximizar sus beneficios y minimizar sus costos es a través de un proceso constante de responsabilidad pública.

• Para más información como esta, vea nuestro suministro de noticias sobre prevención de la violencia .

Apolítico habló con Guthrie sobre las promesas y las trampas de la policía de big data.

¿Cómo está cambiando la policía el big data?

Los datos ayudan a la policía a decidir a dónde ir, a quién apuntar, cuándo patrullar y cómo investigan los delitos. Está aumentando sus poderes de vigilancia y ayudándoles a ver diferentes patrones de delincuencia que emergen en la sociedad. Pero también está cambiando la forma en que la policía y los ciudadanos se relacionan de una manera que apenas comenzamos a reconocer y evaluar.

En el libro, usted argumenta que no se puede hablar de los datos como una sola masa de información homogénea. Usted propone la idea de "datos negros" como una categoría importante. Qué significa eso?

"Datos negros" es un término que uso para describir datos afectados por tres problemas interrelacionados.

Primero está el tema de la transparencia. Estos son sistemas de caja negra, algoritmos secretos en muchos casos, que son difíciles de entender y, sin embargo, están cambiando la forma en que somos vigilados.

El segundo es el tema de la raza. En los EE. UU., Los datos que utilizamos están codificados racialmente: los datos que llegan a estos sistemas provienen de agentes de policía y en muchas ciudades están muy contaminados por prejuicios raciales.

La razón final para llamarlo "negro" es porque está distorsionando. Nuestras leyes y marcos se desarrollaron en la era de los datos pequeños y ahora nos enfrentamos a un futuro de datos grandes. Todavía no hemos desarrollado una comprensión de lo que estos datos podrían hacerle a la sociedad, y puede distorsionar nuestra visión.

La idea de los datos negros trata de unir cuestiones interrelacionadas de transparencia, sesgo racial y distorsión legal para hacernos una pausa antes de adoptar esta tecnología. Sostengo que casi todos los datos policiales en este momento son datos negros.

Pero los datos negros no son el único tipo de datos que discute. Usted propone las ideas de "datos azules" y "datos brillantes" como alternativas más prometedoras.

A medida que hemos construido esta inmensa arquitectura para vigilar a los ciudadanos, también hemos construido accidentalmente una arquitectura aún mejor para vigilar a los policías y la conducta policial. Si piensa en una conducta policial moderna, conducen en un automóvil conectado por GPS, podemos ver cuáles son sus tácticas y hacia dónde van. Los vigilan en cámaras corporales y podemos ver lo que le dicen a las personas. Esto es lo que yo llamo "datos azules", que pueden y deben usarse para obligar a la policía a rendir cuentas.

Irónicamente, hay un gran rechazo contra los "datos azules" de las fuerzas del orden público: así como los ciudadanos no quieren ser vigilados, la policía tampoco quiere ser vigilada. Hemos creado la tecnología que podría usarse para hacer que los oficiales de policía sean más responsables, pero apenas la estamos utilizando debido a la resistencia.

Los “datos brillantes” se refieren a la claridad que los buenos datos pueden proporcionar al diseñar la solución más adecuada para un problema dado. De manera crucial, puede sugerir modos de respuesta fuera de la policía. Si los datos muestran que el crimen se está concentrando en un área determinada, los "datos brillantes" podrían sugerir que arregles el vecindario en lugar de simplemente poner un auto de policía allí. Si sabe que una persona está en riesgo, tal vez envíe un trabajador social en lugar de un oficial.

¿Cómo podría un enfoque en estos "datos brillantes" cambiar la vigilancia predictiva?

Una vez bromeé diciendo que el problema de la vigilancia predictiva no es la parte predictiva, somos muy buenos en eso ahora, el problema es la vigilancia. No necesitamos responder a todos los problemas con la policía, y los datos deberían ayudarnos a comprender eso y tenerlo en cuenta en la toma de decisiones.

Otra preocupación que plantea es quién es el propietario de los datos.

Una de las historias no contadas sobre el auge de la policía de big data es que ha sido impulsada en gran medida por nuevas empresas que lanzan jefes de policía locales. Esos funcionarios a menudo no han estado haciendo las preguntas difíciles que necesitan sobre quién posee los datos y para qué se utilizarán.

En un mundo donde la policía está recolectando más y más información, esos datos pueden ser de inmenso valor comercialmente. No hemos pensado en los acuerdos contractuales adecuados con respecto a cómo mantener los datos públicos en la esfera pública y no monetizarlos.

Una de las fronteras más nuevas es el espacio de cámara del cuerpo policial. En los EE. UU., Axon (anteriormente conocido como Tazer) acaba de comprar a sus rivales y está llegando a un estado cuasimonopolio. Tienen inmensas cantidades de datos de todas estas cámaras corporales sobre oficiales en todo Estados Unidos, lo que equivale a datos públicos obtenidos involuntariamente sobre ciudades públicas.

Hay paralelismos con todo el desastre de Facebook y Cambridge Analytica. La indignación no fue solo que Facebook tenía estos datos, sino que terminó en manos de terceros desconocidos. Eso es exactamente lo que está sucediendo en el espacio gubernamental.

No me preocupa que las cámaras corporales proporcionen información a la policía para ayudarlos a hacer su trabajo, me preocupa que los datos no se controlen, que las empresas privadas puedan monetizarlos como quieran, dejando al ciudadano con poca participación en cómo se utilizan datos e infringen las protecciones de privacidad que existen.

¿Cual es la solución?

La ironía de toda esta nueva y elegante tecnología es que su futuro se reducirá a ese abogado del gobierno, enterrado en una burocracia en alguna parte, a quien se le pide que redacte contratos entre ciudades y compañías tecnológicas. Esos contratos nunca han sido sexys o emocionantes. Pero son cruciales.

Si los gobiernos de las ciudades comenzaran a darse cuenta de que tienen algo valioso, podrían simplemente dejar de contratar entidades que parecen ofrecer algo gratis, cuando realmente pueden conservar nuestros datos y monetizarlos más tarde.

Pero lo más crucial de todo es el momento de la responsabilidad pública. En el entorno político actual en los Estados Unidos, la única esperanza está en el gobierno local. En Seattle, Oakland, Boston y Berkeley, hemos visto a las comunidades locales exigir la supervisión pública de las nuevas tecnologías policiales. Ese momento público de rendición de cuentas proporciona una transparencia que aún aprovecha los beneficios de la tecnología, pero la utiliza de manera abierta y transparente.

Necesita tener conversaciones desde el principio: ¿cómo estamos usando esta tecnología? ¿Cuándo lo estamos usando? ¿Hay ciertos lugares donde no queremos cobertura de vigilancia? ¿Qué pasa con las clínicas médicas externas? Iglesias? Mezquitas? Libertades civiles caridades? ¿Cómo impactará esto en las libertades asociativas o la libertad de protesta?

Esto puede tener un final feliz: solo necesitamos un poco de transparencia para que las figuras públicas con responsabilidad pública puedan hacer estas llamadas sobre lo que creen que es un equilibrio justo de privacidad y seguridad, bienestar público y seguridad pública.

(Crédito de la imagen: Flickr / Evgeniy Isaev)

Edward Siddons
edward.siddons@apolitical.co