** Este artigo foi escrito por Rosalind Kennybirch, Consultora que cobre a política de tecnologia, Lexington Communications **

Enquanto os protestos de Black Lives Matter varreram países em todo o mundo, os ativistas destacaram as formas como a discriminação se insere em várias facetas da sociedade, incluindo no setor de tecnologia.

A tecnologia de reconhecimento facial às vezes é suposta para ser um ferramenta útil que pode ajudar os órgãos de aplicação da lei a resolver crimes de forma mais fácil e rápida. Outros afirmaram que o software tem potencial para beneficie os consumidores de forma mais ampla, por exemplo, inscrevendo-se o software para autenticação de pagamentos (garantindo que apenas a identificação facial vinculada a uma conta bancária pode servir como uma aprovação para um pagamento).

No entanto, vários estudos têm mostrado que a tecnologia é menos precisa na identificação correta de indivíduos com pele mais escura, dando-lhe o potencial de ser transformada em arma como uma ferramenta de discriminação. É preocupante que os indivíduos também não saibam que seu rosto foi carregado no sistema de software de uma empresa, privando-os, portanto, da oportunidade de conceder consentimento.

Os países estão adotando abordagens diferentes para a tecnologia de reconhecimento facial, tanto em sua aplicação quanto na regulamentação de seu uso. Embora haja benefícios claros para o software, cidades e nações estão descobrindo que isso pode ter um custo inaceitável para o direito das pessoas à privacidade e segurança. No ano passado, San Francisco se tornou a primeira grande cidade americana a proibir o uso de tratamentos faciais software de reconhecimento pela polícia e outras agências.

Casos dos Estados Unidos, Brasil e Austrália ajudam a explicar por que governos e empresas migraram para essa nova tecnologia, mas também revelam as armadilhas e problemas de privacidade que provavelmente só piorarão nos próximos anos.

Tecnologia de reconhecimento facial nos Estados Unidos: casos de 20 minutos e 35% de identificação incorreta

As forças policiais dos Estados Unidos têm testado a tecnologia de reconhecimento facial para avaliar seu potencial para resolver casos mais rapidamente.

Em fevereiro de 2019, a Polícia Estadual de Indiana testou software de reconhecimento facial da Clearview AI, uma tecnologia americana empresa, e foram capazes de resolver um caso de tiroteio em 20 minutos de uso do aplicativo. Um ex-capitão da Polícia do Estado de Indiana, Chuck Cohen, explicou que o perpetrador “não tinha carteira de motorista e não havia sido preso quando adulto, portanto não estava nos bancos de dados do governo”, afirmando que a força provavelmente não teria podido para identificar o agressor sem a capacidade de pesquisar nas redes sociais uma correspondência facial. A força se tornou o primeiro cliente pagante da Clearview.

** O software de reconhecimento facial pode ser usado para ajudar os cidadãos, mas sem o devido consentimento, o uso dessa tecnologia pode gerar desconfiança **

No entanto, erros de precisão na tecnologia podem causar erros de identificação e podem envolver pessoas inocentes. Em um M.I.T. estudo sobre software de reconhecimento facial, o pesquisador Joy Buolamwini descobriu que se uma pessoa em um determinada imagem é de um homem branco, o software identifica corretamente o indivíduo 99% do tempo. Mas Buolamwini também descobriu que a quantidade de erros de identificação aumentou para pessoas com pele mais escura, em quase 35% em fotos de mulheres de pele mais escura. Um estudo mais recente do Departamento de Comércio dos EUA, publicado em dezembro de 2019, concluído que ao usar um aplicativo de qualidade superior fotos em software de reconhecimento facial, "as taxas de falsos positivos são mais altas em pessoas da África Ocidental e Oriental e do Leste Asiático, e mais baixas em indivíduos do Leste Europeu \ [e ] este efeito é geralmente grande, com um fator de 100 falsos positivos a mais entre os países" . Embora as forças policiais dos Estados Unidos tenham declarado os benefícios do software, incluindo Cohen, esses estudos sinalizam que a alta taxa de erros de identificação representa um risco inaceitável para grupos minoritários.

Tecnologia de reconhecimento facial na Austrália: uma linha de vida controversa

A tecnologia de reconhecimento facial, incluindo da Clearview AI, também foi controversamente usada na Austrália. Após incursões da Clearview no mercado australiano, a comissária de privacidade australiana Angelene Falk lançou uma investigação sobre a empresa para apurar os detalhes de seu uso.

A co-presidente do Comitê de Vigilância da Australian Privacy Foundation, Dra. Monique Mann, afirmou que o fato de Clearview estar sendo usado na Austrália é preocupante, explicando que “o reconhecimento facial é realmente perigoso porque coleta informações biométricas, que são informações pessoais confidenciais ... permite o rastreamento em locais públicos e identificação em locais públicos, e já temos um amplo sistema de vigilância que dá suporte para isso em CFTV ”. Posteriormente, foi revelado que várias forças policiais estavam usando o software Clearview, mas inicialmente negaram isso.

A Austrália também implantou um software de reconhecimento facial para ajudar as pessoas que perderam documentos importantes como resultado de incêndios florestais recentes. Quando os incêndios florestais devastaram o país no ano passado, o banco de dados nacional de correspondência biométrica facial do país foi fundamental para verificar a identidade das pessoas que perderam seus documentos pessoais. A vice-presidente executiva da Services Australia, Michelle Lees explicada que uma webcam foi configurada para tirar fotos de pessoas que não estavam mais com seus documentos. Mediante consentimento, as fotos foram comparadas com imagens de passaportes, vistos e carteiras de habilitação. Lees disse que o processo de correspondência "envolveu, em primeiro lugar, explicar à pessoa que estava fazendo a reclamação o que o serviço de verificação facial significava ... houve um pequeno número de casos em que os indivíduos não deram consentimento, e então passamos pela prova usual de mecanismo de identidade para esses indivíduos ”.

** As organizações que usam software de reconhecimento facial nem sempre garantem o consentimento do usuário antes de implantar a tecnologia. Isso é uma violação das leis de proteção de dados em muitos países e levanta questões sobre os direitos humanos **

Lees confirmou que a agência está explorando como a tecnologia pode ser utilizada no futuro. A experiência da Austrália demonstra que o software de reconhecimento facial pode ser usado para ajudar os cidadãos, mas sem o devido consentimento, o uso dessa tecnologia pode gerar desconfiança.

Tecnologia de reconhecimento facial no Brasil: auxiliando ou explorando o consumidor?

O software de reconhecimento facial não está sendo usado exclusivamente por órgãos do setor público: o setor privado também está trabalhando para aproveitar seu potencial.

O banco brasileiro Banco Original e o aplicativo de carteira digital PicPay planejam [lançar](https://labs.ebanx.com/en/news/business/banco-original-and-picpay-to-launch-facial-recognition-system -para-pagamentos /) um sistema de reconhecimento facial em grande escala para autenticação de pagamentos até dezembro de 2020. A Lei Geral de Proteção de Dados (LGPD) do Brasil, que deve entrar em vigor no país no próximo ano, proíbe o reconhecimento facial a menos que um indivíduo consentiu. Portanto, o banco está tomando medidas cuidadosas para cumprir a lei de proteção de dados. Um café na sede do Banco Original em São Paulo é o primeiro lugar onde a tecnologia será testada e para cumprir a legislação, o banco solicitou permissão para testar o software de aproximadamente 2.000 clientes.

Apesar das medidas de algumas empresas para aproveitar o potencial da tecnologia de reconhecimento facial, ainda existe uma controvérsia significativa sobre o software no Brasil. Em 2018, o Instituto Brasileiro de Defesa do Consumidor (IDEC) tomou a [decisão de processar a operadora do Metrô de São Paulo ViaQuatro](https://www.biometricupdate.com/202007/metro-facial-biometrics-emotion-gender-detection-system -legitimidade-disputada-em-tribunal-brasil) para o lançamento do Sistema Digital Interactive Portas para análise de multidões, desenvolvido pela AdMobilize, empresa norte-americana. O sistema consiste em portas interativas que exibem anúncios - câmeras nas portas permitem identificar rostos humanos e analisar emoções, sexo e idade enquanto as pessoas estão vendo os anúncios. A decisão sobre o caso ainda não foi tomada. O trabalho da ViaQuatro, ao contrário do Banco Original, demonstra mais uma vez a importância de obter o consentimento do usuário na realização de projetos que utilizem software de reconhecimento facial.

O que vem por aí para o software de reconhecimento facial?

Embora a tecnologia de reconhecimento facial tenha o potencial de beneficiar os consumidores, ela também apresenta riscos importantes para o público.

Em primeiro lugar, a própria tecnologia pode identificar indivíduos incorretamente. Isso tem o potencial de resultar em acusações erradas de crimes, principalmente quando o software é usado pelas forças policiais.

Em segundo lugar, as organizações que usam software de reconhecimento facial nem sempre garantem o consentimento do usuário antes de implantar a tecnologia. Isso é uma violação das leis de proteção de dados em muitos países, mas de forma mais ampla, levanta questões sobre direitos humanos, incluindo o direito do indivíduo à privacidade. Uma vez que os setores público e privado exploram os usos da tecnologia de reconhecimento facial, eles devem ter em mente as graves consequências que podem surgir se o público não for consultado. - Rosalind KennyBirch

_ (Crédito da imagem: Unsplash) _

Certifique-se de partilhar as suas próprias ideias com o autor ao deixar um comentário abaixo