Los manifestantes están tomando las calles de ciudades de todo el mundo para lamentarse por la pérdida prematura de vidas negras en los Estados Unidos, pero sus gritos de angustia se extienden más allá de eso.

Se están descubriendo más racismo y prejuicios sistémicos, y uno de los objetivos clave de la ira de los activistas y manifestantes es la recopilación y el procesamiento de datos. La IA se ha convertido en una parte clave de la forma en que los gobiernos trabajan en todo el mundo, impulsando la eficiencia en un momento en que los presupuestos se están recortando. Pero cuanto más se usa, más se descubren sus puntos ciegos.

"Se pretende que sea objetivo, pero estas cosas han causado discriminación al no tener en cuenta las necesidades, los gustos y las experiencias de las mujeres y las minorías", dijo Deniz Erden, investigador de HIIG Berlin, que estudia la discriminación algorítmica. Esto se debe a que el código está diseñado para replicar nuestra sociedad casi a la perfección, y eso incluye todos sus prejuicios y partes feas.

"La fuerza de trabajo son hombres blancos predominantemente aptos", agregó. Por lo tanto, cualquier sistema basado en datos está configurado para perpetuarlo lo mejor que pueda.

Las mujeres de piel oscura son mal identificadas por los sistemas de reconocimiento facial una de cada tres veces

Esto se debe a que los conjuntos de datos sobre los que se construyen estos sistemas no son representativos de toda la gama de la sociedad. "Mientras que las mujeres y las minorías étnicas y otras partes de la sociedad, como los discapacitados y las personas mayores, quedan fuera de los conjuntos de datos", dijo Erden. Como resultado, los sistemas no tienen en cuenta sus necesidades y pueden fallar o informar incorrectamente sobre ellas.

Uno de los pararrayos clave para las protestas de Black Lives Matter que tienen lugar en todo el mundo es la vigilancia perpetua de las personas de minorías negras y étnicas mediante un software de reconocimiento facial que los identifica erróneamente. Las mujeres de piel oscura son mal identificadas por los sistemas de reconocimiento facial una de cada tres veces , según una investigación realizada por el Instituto de Tecnología de Massachusetts. Eso puede afectar su capacidad de acceder a los servicios del gobierno y puede identificarlos erróneamente en delitos.

"Los negros tienen el doble de probabilidades de morir bajo custodia policial, y están utilizando un software que probablemente sea incorrecto para llevar a las personas que protestan contra la custodia policial a la custodia policial", dijo Charlene Prempeh de A Vibe Called Tech, un grupo de presión enfocado en mejorar representación en tecnología. Por esa razón, IBM y Amazon anunciaron que harían una pausa en el suministro de sistemas de reconocimiento facial a las fuerzas del orden público hasta que puedan resolver los problemas.

Pero la respuesta al problema no es incluir rostros más diversos en los conjuntos de datos, lo que perpetúa más vigilancia en una población que ya está acostumbrada y aumenta los problemas por los que muchas personas están saliendo a la calle.

Se necesita una reforma de raíz y rama, que incluya códigos más claros en torno a la ética del uso de datos. Los gobiernos se han apresurado a adoptar soluciones tecnológicas a expensas del debido cuidado. "Si no hay un marco de gobernanza sólido, no hay límite sobre cómo [los datos capturados] podrían usarse", dijo Lofred Madzou, líder de inteligencia artificial en el Foro Económico Mundial. Él cree que los manifestantes "necesitan abogar activamente por la regulación forzada de las tecnologías de vigilancia".

La respuesta no es volver rápidamente a las viejas formas de trabajo, sino pensar más profundamente sobre los impactos.

Las ciudades deben usar la crisis del coronavirus como una oportunidad para reflexionar sobre sus prácticas de uso de datos. Varias ciudades estadounidenses, incluidas Seattle, San Francisco y Oakland, tienen políticas estrictas sobre cómo y cuándo pueden usar los datos, y han tomado medidas para detener los sesgos implícitos contenidos en ellas. Un reciente proyecto de ley de reforma policial prohibiría el uso del reconocimiento facial en las cámaras corporales que usa la policía estadounidense.

Además de seguir el ejemplo de Seattle, San Francisco y Oakland, podrían inspirarse en la Unión Europea, cuyas reglas sobre el uso de la inteligencia artificial promueven un "marco ético y legal apropiado" en torno al uso de datos e inteligencia artificial.

Entre sus principios básicos está que "los sistemas de inteligencia artificial deben integrar mecanismos de seguridad por diseño para garantizar que sean verificablemente seguros en cada paso, teniendo en cuenta la seguridad física y mental de todos los involucrados".

Al salir del coronavirus y restablecer las economías locales y las estructuras de gobierno, la respuesta no es apresurarse a las viejas formas de trabajo, sino pensar más profundamente sobre los impactos, tanto intencionales como no intencionales, que los grandes cambios tecnológicos pueden tener . - Chris Stokel-Walker

(Crédito de la foto: Tony Zhen / Unsplash)

Asegúrate de compartir tus propias ideas con el autor dejando un comentario abajo