Este artículo de opinión fue escrito por Petra Molnar y Samer Muscati, del Programa Internacional de Derechos Humanos de la Universidad de Toronto. También aparece en nuestros refugiados y la migración de suministro de noticias.

La detención de migrantes en la frontera México- Estados Unidos en cada caso presentado; la deportación injusta de 7,000 estudiantes extranjeros acusados de hacer trampa en un examen de idioma; discriminación racista o sexista basada en el perfil o la apariencia de las redes sociales : ¿qué tienen en común estos ejemplos aparentemente dispares? En todos los casos, un algoritmo tomó una decisión con graves consecuencias para la vida de las personas.

Los algoritmos y la inteligencia artificial ( IA ) están comenzando a aumentar la toma de decisiones humanas en el sistema de inmigración y refugiados de Canadá, con implicaciones significativas para los derechos humanos fundamentales de las personas sometidas a estas tecnologías.

En nuestro nuevo informe con Citizen Lab , observamos cómo el uso de estas herramientas por parte de Canadá amenaza con crear un laboratorio para experimentos de alto riesgo. Estas iniciativas pueden poner a las personas altamente vulnerables en riesgo de ser sometidas a procesos injustos e ilegales de una manera que amenaza con violar las obligaciones nacionales e internacionales de derechos humanos de Canadá, influyendo en las decisiones en múltiples niveles.

• Si desea escribir un artículo de opinión, eche un vistazo a la guía de Apolitical para contribuyentes

Desde 2014, Canadá ha introducido experimentos automatizados de toma de decisiones en sus mecanismos de inmigración, especialmente para automatizar ciertas actividades que actualmente realizan los funcionarios de inmigración y para apoyar la evaluación de algunas solicitudes de inmigrantes y visitantes. Anuncios recientes señalan una expansión de los usos de estas tecnologías en una variedad de decisiones de inmigración que normalmente toma un funcionario de inmigración humana.

¿Qué constituye la toma de decisiones automatizada? Nuestro análisis examina una clase de tecnologías que aumentan o reemplazan a los tomadores de decisiones humanos, como IA o algoritmos. Un algoritmo es un conjunto de instrucciones , una "receta" diseñada para organizar o aprender datos rápidamente y producir el resultado deseado. Estos resultados pueden incluir recomendaciones, evaluaciones y decisiones.

Estas iniciativas pueden poner a las personas altamente vulnerables en riesgo de ser sometidas a procesos injustos e ilegales.

Se examinó el uso de la IA en los sistemas de inmigración y refugiados a través de un análisis interdisciplinario crítico de declaraciones públicas , registros, las políticas y los proyectos por los departamentos pertinentes dentro del gobierno de Canadá. Si bien estas son tecnologías nuevas y emergentes, las ramificaciones del uso de la toma de decisiones automatizada en el espacio de inmigración y refugiados son de gran alcance. Cientos de miles de personas ingresan a Canadá cada año a través de una variedad de solicitudes de estatus temporal y permanente.

La naturaleza matizada y compleja de muchas solicitudes de asilo e inmigración se puede perder con estas tecnologías, lo que lleva a graves violaciones de los derechos humanos, en forma de prejuicios, discriminación y violaciones de la privacidad, así como problemas de debido proceso y equidad procesal. Estos sistemas tendrán consecuencias en la vida real para la gente común, muchos de los cuales huyen por sus vidas.

Nuestro análisis también se basa en principios consagrados en los instrumentos jurídicos internacionales que Canadá ha ratificado, como el Pacto Internacional de Derechos Civiles y Políticos , la Convención Internacional sobre la Eliminación de Todas las Formas de Discriminación Racial y la Convención sobre el Estatuto de los Refugiados , entre otros. En lo que respecta a las responsabilidades de los actores del sector privado, el informe se basa en los Principios Rectores de las Naciones Unidas sobre las empresas y los derechos humanos . También analizamos iniciativas similares que ocurren en Australia y el Reino Unido .

Las comunidades marginadas y con pocos recursos, como los residentes sin ciudadanía, a menudo tienen acceso a protecciones de derechos humanos menos sólidas y menos experiencia legal con la que defender esos derechos. Adoptar la IA sin garantizar primero las mejores prácticas responsables y construir principios de derechos humanos desde el principio exacerbará las disparidades preexistentes y conducirá a violaciones de los derechos.

También sabemos que la tecnología viaja. Ya sea en el sector público o privado, la decisión de un país de implementar tecnologías particulares facilita el seguimiento de otros países. La IA en el espacio de inmigración ya está siendo explorada en varias jurisdicciones en todo el mundo, así como también por agencias internacionales que gestionan la migración, como la ONU .

Las tecnologías que predicen los flujos de refugiados pueden afianzar la xenofobia y fomentar prácticas discriminatorias.

Canadá tiene una oportunidad única para desarrollar estándares internacionales que regulen el uso de estas tecnologías de acuerdo con las obligaciones nacionales e internacionales de derechos humanos. Es particularmente importante dar un ejemplo claro para los países con registros más débiles sobre los derechos de los refugiados y el estado de derecho, ya que las normas éticas insuficientes y la contabilidad débil de los impactos en los derechos humanos pueden crear una pendiente resbaladiza internacionalmente. Canadá también puede ser responsable de gestionar la exportación de estas tecnologías a países más dispuestos a experimentar con no ciudadanos e infringir los derechos de los grupos vulnerables.

Es crucial interrogar estas dinámicas de poder en el espacio migratorio, donde las intervenciones del sector privado proliferan cada vez más, como se ve en el reciente crecimiento de innumerables aplicaciones para y sobre refugiados. Sin embargo, en el esfuerzo por hacer que las personas en movimiento sean conocebles, inteligibles y rastreables , las tecnologías que predicen los flujos de refugiados pueden afianzar la xenofobia, así como alentar prácticas discriminatorias, privaciones de libertad y la negación del debido proceso y las garantías procesales.

Con el uso cada vez mayor de tecnologías para aumentar o reemplazar las decisiones de inmigración, ¿quién se beneficia realmente de estas tecnologías? Si bien la eficiencia puede ser valiosa, los responsables de la vida humana no deben buscar la eficiencia a expensas de la justicia: los derechos humanos fundamentales deben ocupar un lugar central en esta discusión. Al colocar tales derechos en el centro, el uso cuidadoso y crítico de estas nuevas tecnologías en las decisiones de inmigración y refugiados puede beneficiar tanto al sistema de inmigración de Canadá como a las personas que solicitan hacer del país su nuevo hogar.

La ley de inmigración y refugiados también es una lente útil a través de la cual se examinan las prácticas estatales, particularmente en tiempos de mayor control fronterizo, medidas de seguridad y control, sistemas complejos de gestión de la migración global, la criminalización cada vez más extendida de la migración y el aumento de la xenofobia. La ley de inmigración opera en el nexo del derecho nacional e internacional y se basa en las normas mundiales de derechos humanos internacionales y el estado de derecho.

Canadá tiene claras obligaciones legales nacionales e internacionales de respetar y proteger los derechos humanos cuando se trata del uso de estas tecnologías y corresponde a los encargados de la formulación de políticas, funcionarios gubernamentales, tecnólogos, ingenieros, abogados, la sociedad civil y la academia tener una mirada amplia y crítica. en los reales impactos de estas tecnologías sobre la vida humana . - Petra Molnar y Samer Muscati

Esta pieza apareció originalmente en Refugees Deeply . Para obtener noticias importantes sobre la crisis de migración global, puede suscribirse a la lista de correo electrónico de Refugiados.

(Crédito de la imagen: US Air Force)