Cet article d'opinion a été rédigé par Petra Molnar et Samer Muscati, du Programme international des droits de l'homme de l'Université de Toronto. Il apparaît également dans notre fil d'actualité sur les réfugiés et la migration .

La détention de migrants à la frontière américano- mexicaine dans tous les cas présentés; l' expulsion injustifiée de 7 000 étudiants étrangers accusés de tricherie à un test de langue; discrimination raciste ou sexiste fondée sur le profil ou l'apparence des médias sociaux - qu'est-ce que ces exemples apparemment disparates ont en commun? Dans tous les cas, un algorithme a pris une décision aux conséquences graves pour la vie des gens.

Les algorithmes et l'intelligence artificielle ( IA ) commencent à accroître la prise de décisions humaines dans le système canadien d'immigration et de protection des réfugiés, ce qui a des répercussions importantes sur les droits humains fondamentaux des personnes soumises à ces technologies.

Dans notre nouveau rapport avec le Citizen Lab , nous examinons comment l'utilisation de ces outils par le Canada menace de créer un laboratoire pour des expériences à haut risque. Ces initiatives peuvent exposer les personnes très vulnérables au risque d'être soumises à des processus injustes et illégaux d'une manière qui menace de violer les obligations nationales et internationales du Canada en matière de droits de la personne, influençant les décisions à plusieurs niveaux.

• Si vous voulez écrire un article d'opinion, jetez un œil au guide d' Apolitical pour les contributeurs

Depuis 2014, le Canada a introduit des expériences automatisées de prise de décision dans ses mécanismes d'immigration, notamment pour automatiser certaines activités actuellement menées par les agents d'immigration et pour soutenir l'évaluation de certaines demandes d'immigration et de visiteur. Des annonces récentes signalent une expansion des utilisations de ces technologies dans une variété de décisions d'immigration qui sont normalement prises par un responsable de l'immigration humaine.

Qu'est-ce qui constitue une prise de décision automatisée? Notre analyse examine une classe de technologies qui augmentent ou remplacent les décideurs humains, comme l' IA ou les algorithmes. Un algorithme est un ensemble d'instructions , une «recette» conçue pour organiser ou apprendre des données rapidement et produire le résultat souhaité. Ces résultats peuvent inclure des recommandations, des évaluations et des décisions.

Ces initiatives peuvent exposer des personnes très vulnérables au risque d'être soumises à des processus injustes et illégaux

Nous avons examiné l'utilisation de l' IA dans les systèmes d'immigration et de protection des réfugiés grâce à une analyse interdisciplinaire critique des déclarations publiques , des dossiers, des politiques et des ébauches des ministères concernés au sein du gouvernement du Canada. Bien qu'il s'agisse de technologies nouvelles et émergentes, les ramifications de l'utilisation de la prise de décision automatisée dans le domaine de l'immigration et des réfugiés sont d'une grande portée. Des centaines de milliers de personnes entrent au Canada chaque année par le biais de diverses demandes de statut temporaire et permanent.

La nature nuancée et complexe de nombreuses demandes d'asile et d'immigration peut être perdue pour ces technologies, entraînant de graves violations des droits de l'homme, sous la forme de préjugés, de discrimination et d'atteintes à la vie privée, ainsi que des problèmes de procédure régulière et d'équité procédurale. Ces systèmes auront des conséquences réelles pour les gens ordinaires, dont beaucoup fuient pour sauver leur vie.

Notre analyse s'appuie également sur des principes consacrés dans des instruments juridiques internationaux que le Canada a ratifiés, comme le Pacte international relatif aux droits civils et politiques , la Convention internationale sur l'élimination de toutes les formes de discrimination raciale et la Convention relative au statut des réfugiés , entre autres. En ce qui concerne les responsabilités des acteurs du secteur privé, le rapport s'inspire des Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme . Nous analysons également des initiatives similaires en Australie et au Royaume-Uni .

Les communautés marginalisées et disposant de ressources insuffisantes, telles que les résidents sans citoyenneté, ont souvent accès à des protections des droits de l'homme moins solides et à une expertise juridique moindre pour défendre ces droits. L'adoption de l' IA sans garantir au préalable les meilleures pratiques responsables et l'intégration des principes des droits de l'homme au départ exacerberont les disparités préexistantes et entraîneront des violations des droits.

Nous savons également que la technologie voyage. Que ce soit dans le secteur privé ou public, la décision d'un pays de mettre en œuvre des technologies particulières facilite le suivi par d'autres pays. L'IA dans le domaine de l'immigration est déjà à l'étude dans diverses juridictions à travers le monde, ainsi que par des agences internationales qui gèrent les migrations, telles que l' ONU .

Les technologies qui prédisent les flux de réfugiés peuvent ancrer la xénophobie et encourager les pratiques discriminatoires

Le Canada a une occasion unique d'élaborer des normes internationales qui réglementent l'utilisation de ces technologies conformément aux obligations nationales et internationales en matière de droits de la personne. Il est particulièrement important de donner un exemple clair aux pays ayant des antécédents plus faibles en matière de droits des réfugiés et de primauté du droit, car des normes éthiques insuffisantes et une faible prise en compte des impacts sur les droits de l'homme peuvent créer une pente glissante au niveau international. Le Canada pourrait également être responsable de la gestion de l'exportation de ces technologies vers des pays plus disposés à expérimenter des non-citoyens et à enfreindre les droits des groupes vulnérables.

Il est crucial d'interroger ces dynamiques de pouvoir dans l'espace migratoire, où les interventions du secteur privé prolifèrent de plus en plus, comme en témoigne la croissance récente d'innombrables applications pour et sur les réfugiés. Cependant, dans le but de rendre les personnes en déplacement connaissables, intelligibles et traçables , les technologies qui prédisent les flux de réfugiés peuvent enraciner la xénophobie, ainsi qu'encourager les pratiques discriminatoires, les privations de liberté et le déni de garanties d'une procédure régulière et de garanties procédurales.

Avec l'utilisation croissante des technologies pour augmenter ou remplacer les décisions d'immigration, qui profite réellement de ces technologies? Bien que l'efficacité puisse être utile, les responsables de la vie humaine ne devraient pas rechercher l'efficacité au détriment de l'équité - les droits humains fondamentaux doivent occuper une place centrale dans cette discussion. En plaçant ces droits au centre, l'utilisation prudente et critique de ces nouvelles technologies dans les décisions relatives à l'immigration et aux réfugiés peut profiter à la fois au système d'immigration du Canada et aux personnes qui souhaitent faire du pays leur nouveau foyer.

Le droit de l'immigration et des réfugiés est également une lentille utile pour examiner les pratiques des États, en particulier en période de renforcement des mesures de sécurité et de filtrage des frontières, des systèmes complexes de gestion des migrations mondiales, de la criminalisation croissante des migrations et de la montée de la xénophobie. Le droit de l'immigration fonctionne au carrefour du droit national et international et s'inspire des normes mondiales des droits de l'homme internationaux et de l'État de droit.

Le Canada a des obligations juridiques nationales et internationales claires de respecter et de protéger les droits de la personne en ce qui concerne l'utilisation de ces technologies et il incombe aux décideurs, aux responsables gouvernementaux, aux technologues, aux ingénieurs, aux avocats, à la société civile et au monde universitaire de porter un regard large et critique aux impacts très réels de ces technologies sur la vie humaine . - Petra Molnar et Samer Muscati

Cette pièce est apparue à l'origine sur Refugees Profondément . Pour des informations importantes sur la crise migratoire mondiale, vous pouvez vous inscrire à la liste de diffusion des réfugiés.

(Crédit photo: US Air Force)