Este artigo de opinião foi escrito por Petra Molnar e Samer Muscati, do Programa Internacional de Direitos Humanos da Universidade de Toronto. Também aparece em nosso [refugiados e migração](https://apolitical.co/solution/refugees-and- migração /) feed de notícias.
A detenção de migrantes nos EUA. \ - fronteira com o México em todos os casos apresentados; o injusto [deportação de 7.000 estudantes estrangeiros](https://www.independent.co.uk/news/uk/politics/home-office-mistakenly-deported-thousands-foreign-students-cheating-language-tests-theresa- % 20may-a8331906.html) acusado de trapacear em um teste de idioma; Discriminação racista ou sexista com base no perfil de mídia social ou aparência - o que parece isso exemplos díspares têm em comum? Em todos os casos, um algoritmo tomou uma decisão com consequências graves para a vida das pessoas.
Algoritmos e inteligência artificial (IA) estão começando a aumentar a decisão humana- fazendo no sistema de imigração e refugiados do Canadá, com implicações significativas para os direitos humanos fundamentais daqueles sujeitos a essas tecnologias.
Em nosso novo relatório com o [Citizen Lab](http: //citizenlab. ca /), vemos como o uso dessas ferramentas pelo Canadá ameaça criar um laboratório para experimentos de alto risco. Essas iniciativas podem colocar pessoas altamente vulneráveis em risco de serem submetidas a processos injustos e ilegais de uma forma que ameaça violar as obrigações de direitos humanos nacionais e internacionais do Canadá, influenciando decisões em vários níveis.
• _Se você quiser escrever um artigo de opinião, dê uma olhada no [guia para contribuidores] do Apolitical (https://apolitical.co/opinion-writing-becoming-an-apolitical-contributor/) _
Desde 2014, o Canadá vem introduzindo experimentos automatizados de tomada de decisão em seus mecanismos de imigração, principalmente para automatizar certas atividades atualmente conduzidas por oficiais de imigração e para apoiar a avaliação de algumas solicitações de imigrantes e visitantes. Anúncios recentes sinalizam uma expansão dos usos dessas tecnologias em uma variedade de decisões de imigração que normalmente são feitas por um oficial de imigração humano.
O que constitui uma tomada de decisão automatizada? Nossa análise examina uma classe de tecnologias que aumentam ou substituem os tomadores de decisão humanos, como IA ou algoritmos. Um algoritmo é um conjunto de instruções, uma “receita” projetada para organizar ou aprender dados rapidamente e produzir o resultado desejado. Esses resultados podem incluir recomendações, avaliações e decisões.
Estas iniciativas podem colocar pessoas altamente vulneráveis em risco de serem submetidas a processos injustos e ilegais
Examinamos o uso de IA em sistemas de imigração e refugiados por meio de uma análise interdisciplinar crítica de [declarações públicas](https://www.thestar.com/news/immigration/2017/01/05/immigration-applications-could-soon- be-rated-by-computers.html), registros, políticas e rascunhos de departamentos relevantes dentro do governo do Canadá. Embora essas sejam tecnologias novas e emergentes, as ramificações do uso de tomada de decisão automatizada no espaço de imigração e refugiados são de longo alcance. Centenas de milhares de pessoas entram no Canadá todos os anos através de um variedade de aplicações para status temporário e permanente.
A natureza sutil e complexa de muitas reivindicações de refugiados e imigração pode se perder nessas tecnologias, levando a graves violações dos direitos humanos, na forma de parcialidade, discriminação e violação de privacidade, bem como questões de devido processo e justiça processual. Esses sistemas terão consequências na vida real para as pessoas comuns, muitas das quais estão fugindo para salvar suas vidas.
Nossa análise também se baseia em princípios consagrados em instrumentos jurídicos internacionais que o Canadá ratificou, como o Pacto Internacional de Direitos Civis e Políticos, a Convenção Internacional sobre a Eliminação de Todas as Formas de Discriminação Racial, e a [Convenção Relativa ao Status dos Refugiados](https: //www.ohchr.org/EN/ProfessionalInterest/Pages/StatusOfRefugees.aspx), entre outros. No que diz respeito às responsabilidades dos atores do setor privado, o relatório é informado pelos Princípios Orientadores das Nações Unidas sobre Empresas e Direitos Humanos. Também analisamos iniciativas semelhantes ocorrendo na [Austrália](https://www.theguardian.com/australia-news/2017/jan/22/facial-recognition-to-replace-passports-in-security-overhaul-at-australian -airports) e no [Reino Unido](https://www.independent.co.uk/news/uk/politics/home-office-mistakenly-deported-thousands-foreign-students-cheating-language-tests-theresa- % 20may-a8331906.html).
Comunidades marginalizadas e com poucos recursos, como residentes sem cidadania, muitas vezes têm acesso a proteções de direitos humanos menos robustas e menos experiência jurídica para defender esses direitos. Adotar a IA sem primeiro garantir as melhores práticas responsáveis e construir princípios de direitos humanos desde o início irá exacerbar as disparidades preexistentes e levar a violações de direitos.
Também sabemos que a tecnologia viaja. Seja no setor privado ou público, a decisão de um país de implementar tecnologias específicas torna mais fácil para outros países seguirem. A IA no espaço da imigração já está sendo explorada em várias jurisdições em todo o mundo, bem como por agências internacionais que gerenciam a migração, [como a ONU](https://theconversation.com/millions-of-refugees-could-benefit -from-big-data-but-were-not-using-it-86286).
As tecnologias que prevêem fluxos de refugiados podem consolidar a xenofobia e encorajar práticas discriminatórias
O Canadá tem uma oportunidade única de desenvolver padrões internacionais que regulamentam o uso dessas tecnologias de acordo com as obrigações nacionais e internacionais de direitos humanos. É particularmente importante dar um exemplo claro para os países com registros mais fracos sobre os direitos dos refugiados e o estado de direito, uma vez que padrões éticos insuficientes e contabilidade fraca para os impactos nos direitos humanos podem criar uma ladeira escorregadia internacionalmente. O Canadá também pode ser responsável por gerenciar a exportação dessas tecnologias para países mais dispostos a experimentar em não cidadãos e infringir os direitos de grupos vulneráveis.
É crucial interrogar essas dinâmicas de poder no espaço da migração, onde as intervenções do setor privado proliferam cada vez mais, como visto no recente crescimento de inúmeros [aplicativos para](https://www.theatlantic.com/magazine/archive/2017/ 05 / apps-for-refugiados / 521466 /) e sobre refugiados. No entanto, no esforço para tornar as pessoas em movimento conhecíveis, inteligíveis e [rastreáveis](https://theconversation.com/millions-of-refugees-could-benefit-from-big-data-but-were-not-using -it-86286), as tecnologias que prevêem o fluxo de refugiados podem consolidar a xenofobia, bem como encorajar práticas discriminatórias, privações de liberdade e negação do devido processo e garantias processuais.
Com o uso crescente de tecnologias para aumentar ou substituir as decisões de imigração, quem realmente se beneficia dessas tecnologias? Embora a eficiência possa ser valiosa, os responsáveis por vidas humanas não devem buscar a eficiência às custas da justiça - os direitos humanos fundamentais devem ocupar um lugar central nessa discussão. Ao colocar esses direitos no centro, o uso cuidadoso e crítico dessas novas tecnologias nas decisões de imigração e refugiados pode beneficiar tanto o sistema de imigração do Canadá quanto as pessoas que se inscrevem para fazer do país seu novo lar.
A lei de imigração e refugiados também é uma lente útil para examinar as práticas do Estado, particularmente em tempos de maior segurança de controle de fronteira e medidas de triagem, sistemas complexos de gestão da migração global, a crescente criminalização da migração e aumento da xenofobia. A lei de imigração opera no nexo da lei nacional e internacional e baseia-se nas normas globais de direitos humanos internacionais e do Estado de Direito.
O Canadá tem claras obrigações legais nacionais e internacionais de respeitar e proteger os direitos humanos no que diz respeito ao uso dessas tecnologias e cabe aos formuladores de políticas, funcionários do governo, tecnólogos, engenheiros, advogados, sociedade civil e academia dar uma olhada ampla e crítica no real impactos dessas tecnologias nas vidas humanas. - Petra Molnar e Samer Muscati
Esta peça apareceu originalmente em [Refugees Deeply](https://www.newsdeeply.com/refugees/community/2018/09/27/what-if-an-algorithm-decided-whether-you-could-stay-in- Canadá ou não). Para notícias importantes sobre a crise de migração global, você pode se inscrever na [lista de e-mail] Refugiados (http://eepurl.com/bP2xwf).
 (Crédito da imagem: Força Aérea dos EUA)
Inicie sessão ou registe-se para continuar a conversa