Este artículo está escrito por Rosalind Kennybirch, Consultora sobre política tecnológica, Lexington Communications.

A medida que las protestas de Black Lives Matter han arrasado a países de todo el mundo, los activistas han destacado las formas en que la discriminación se integra en varias facetas de la sociedad, incluido el sector de la tecnología.

La tecnología de reconocimiento facial a veces pretende ser una herramienta útil que puede ayudar a los organismos encargados de hacer cumplir la ley a resolver crímenes de manera más fácil y rápida. Otros han afirmado que el software tiene el potencial de beneficiar a los consumidores más ampliamente, por ejemplo, al aplicar el software a la autenticación de pagos (asegurando que solo la identificación facial vinculada a una cuenta bancaria pueda servir como aprobación para un pago).

Sin embargo, varios estudios han demostrado que la tecnología es menos precisa para identificar correctamente a las personas con piel más oscura, lo que le da el potencial de ser armada como una herramienta de discriminación. Es preocupante que las personas tampoco se den cuenta de que su cara ha sido cargada en el sistema de software de una empresa, lo que les priva de la oportunidad de otorgar su consentimiento.

Los países están adoptando diferentes enfoques para la tecnología de reconocimiento facial, tanto en su aplicación como en la regulación de su uso. Si bien existen beneficios claros para el software, las ciudades y las naciones están descubriendo que esto puede tener un costo inaceptable para el derecho de las personas a la privacidad y seguridad. El año pasado, San Francisco se convirtió en la primera gran ciudad estadounidense en prohibir el uso de software de reconocimiento facial por parte de la policía y otras agencias.

Los casos de los Estados Unidos, Brasil y Australia ayudan a explicar por qué los gobiernos y las empresas han recurrido a esta nueva tecnología, pero también revelan los escollos y los dolores de cabeza de la privacidad que probablemente solo empeorarán en los próximos años.

Tecnología de reconocimiento facial en los Estados Unidos: casos de 20 minutos y 35% de identificación errónea

Las fuerzas policiales en todo Estados Unidos han estado probando la tecnología de reconocimiento facial para evaluar su potencial para resolver casos más rápidamente.

En febrero de 2019, la Policía del Estado de Indiana probó el software de reconocimiento facial de Clearview AI, una compañía tecnológica estadounidense, y pudo resolver un caso de tiroteo dentro de los 20 minutos posteriores al uso de la aplicación. Un ex capitán de la policía estatal de Indiana, Chuck Cohen, explicó que el autor "no tenía una licencia de conducir y no había sido arrestado como adulto, por lo que no estaba en las bases de datos del gobierno", y afirmó que la fuerza probablemente no hubiera podido para identificar al delincuente sin la capacidad de buscar en las redes sociales una coincidencia facial. La fuerza se convirtió en el primer cliente que paga de Clearview.

El software de reconocimiento facial se puede usar para ayudar a los ciudadanos, pero sin el consentimiento adecuado, el uso de esta tecnología puede generar desconfianza

Sin embargo, los errores de precisión dentro de la tecnología corren el riesgo de una identificación errónea y pueden implicar a personas inocentes. En un estudio del MIT sobre software de reconocimiento facial , la investigadora Joy Buolamwini descubrió que si una persona en una imagen en particular es un hombre blanco, el software identifica correctamente al individuo el 99% del tiempo. Pero Buolamwini también descubrió que la cantidad de errores de identificación aumentó para las personas con piel más oscura, en casi un 35% en fotos de mujeres de piel más oscura. Un estudio más reciente del Departamento de Comercio de EE. UU., Publicado en diciembre de 2019, concluyó que al usar fotos de aplicaciones de mayor calidad en software de reconocimiento facial, "las tasas de falsos positivos son más altas en las personas de África occidental y oriental y de Asia oriental, y las más bajas en Europa del Este individuos [y] este efecto es generalmente grande, con un factor de 100 falsos positivos más entre países ”. Si bien las fuerzas policiales en los Estados Unidos han afirmado los beneficios del software, incluido Cohen, estos estudios indican que la alta tasa de identificaciones erróneas plantea un riesgo inaceptable para los grupos minoritarios.

Tecnología de reconocimiento facial en Australia: una línea de vida controvertida

La tecnología de reconocimiento facial, incluso de Clearview AI, también se ha utilizado de manera controvertida en Australia. Tras incursiones en el mercado australiano desde Clearview, la Comisionada de Privacidad de Australia, Angelene Falk, inició una investigación sobre la empresa para determinar los detalles de su uso.

La copresidenta del Comité de Vigilancia de la Australian Privacy Foundation, Dra. Monique Mann, afirmó que el hecho de que Clearview se esté utilizando en Australia es preocupante, explicando que "el reconocimiento facial es realmente peligroso porque recopila información biométrica, que es información personal confidencial ... permite el seguimiento a través de lugares públicos y identificación en lugares públicos, y ya tenemos un sistema de vigilancia generalizado que lo admite en CCTV ”. Posteriormente se reveló que varias fuerzas policiales estaban usando el software de Clearview, pero inicialmente lo habían negado.

Australia también ha implementado un software de reconocimiento facial para ayudar a las personas que perdieron documentos clave como resultado de incendios forestales recientes. Cuando los incendios forestales asolaron el país el año pasado, la base de datos nacional de comparación de biometría facial del país fue fundamental para verificar las identidades de las personas que habían perdido sus documentos personales. La vicepresidenta ejecutiva de Services Australia, Michelle Lees, explicó que se configuró una cámara web para tomar fotos de personas que ya no tenían sus documentos. Tras el consentimiento, las fotos se compararon con imágenes de pasaportes, visas y licencias de conducir. Lees dijo que el proceso de emparejamiento "implicó, en primer lugar, explicarle a la persona que estaba haciendo el reclamo lo que significaba el servicio de verificación facial ... hubo un pequeño número de casos en los que los individuos no dieron su consentimiento, por lo que pasamos por la prueba habitual de mecanismo de identidad para esos individuos ".

Las organizaciones que utilizan el software de reconocimiento facial no siempre aseguran el consentimiento del usuario antes de implementar la tecnología. Esto es una violación de las leyes de protección de datos en muchos países y plantea preguntas sobre los derechos humanos.

Lees confirmó que la agencia está explorando cómo se podría utilizar la tecnología en el futuro. La experiencia de Australia demuestra que el software de reconocimiento facial se puede utilizar para ayudar a los ciudadanos, pero sin el consentimiento adecuado, el uso de esta tecnología puede generar desconfianza.

Tecnología de reconocimiento facial en Brasil: ¿ayuda o explotación al consumidor?

El software de reconocimiento facial no está siendo utilizado exclusivamente por organismos del sector público: el sector privado también está trabajando para aprovechar su potencial.

El banco brasileño Banco Original y la aplicación de billetera digital PicPay planean lanzar un sistema de reconocimiento facial a gran escala para la autenticación de pagos en diciembre de 2020. La Ley General de Protección de Datos (LGPD) de Brasil, que entrará en vigencia en el país el próximo año, prohíbe que se realice el reconocimiento facial a menos que un individuo haya dado su consentimiento. Por lo tanto, el banco está tomando medidas cuidadosas para cumplir con la ley de protección de datos . Un café en la sede de Banco Original en São Paulo es el primer lugar donde se probará la tecnología y, para cumplir con la ley, el banco solicitó permiso para probar el software de aproximadamente 2,000 clientes.

A pesar de los pasos de algunas compañías para aprovechar el potencial de la tecnología de reconocimiento facial, aún existe una controversia significativa sobre el software en Brasil. En 2018, el Instituto Brasileño de Protección al Consumidor (IDEC) tomó la decisión de demandar al operador del Metro de São Paulo ViaQuatro por lanzar el Sistema de Puertas Interactivas Digitales para el análisis de multitudes, desarrollado por AdMobilize, una empresa estadounidense. El sistema consta de puertas interactivas que muestran anuncios: las cámaras en las puertas les permiten identificar rostros humanos y analizar emociones, género y edad mientras las personas ven los anuncios. Aún no se ha tomado una decisión sobre el caso. El trabajo de ViaQuatro, a diferencia del Banco Original, demuestra nuevamente la importancia de obtener el consentimiento del usuario para emprender proyectos que utilizan software de reconocimiento facial.

¿Qué sigue para el software de reconocimiento facial?

Si bien la tecnología de reconocimiento facial tiene el potencial de beneficiar a los consumidores, también presenta riesgos clave para el público.

En primer lugar, la tecnología en sí puede identificar erróneamente a las personas. Esto tiene el potencial de resultar en personas acusadas erróneamente de delitos, particularmente cuando las fuerzas policiales utilizan el software.

En segundo lugar, las organizaciones que utilizan el software de reconocimiento facial no siempre obtienen el consentimiento del usuario antes de implementar la tecnología. Esto es una violación de las leyes de protección de datos en muchos países, pero en términos más generales, plantea preguntas sobre los derechos humanos , incluido el derecho de las personas a la privacidad. A medida que los sectores público y privado exploran los usos de la tecnología de reconocimiento facial, deben tener en cuenta las graves consecuencias que podrían surgir si no se consulta al público. - Rosalind KennyBirch

(Crédito de la imagen: Unsplash)

Asegúrate de compartir tus propias ideas con el autor dejando un comentario abajo