_ ** Este artigo de opinião foi escrito por Paul McFarlane, professor sênior de Segurança e Ciência do Crime, University College London, e foi publicado originalmente por The Conversation. Para obter mais informações sobre o assunto, consulte nosso feed de notícias governo digital. ** _

O debate sobre a polícia usando aprendizado de máquina está se intensificando - é considerado em [alguns trimestres](https://www.theguardian.com/uk-news/2019/feb/03/police-risk-racial-profiling-by- using-data-to-predict-reoffenders-report-warns) tão controverso quanto [parar e pesquisar](https://apolitical.co/solution_article/uk-police-want-to-fight-knives-with-stop-and -search-but-experts-question-effects /).

Stop and search é uma das áreas mais controversas de como a polícia interage com o público. Foi fortemente criticado por ser discriminatório em relação grupos étnicos negros e minoritários e por terem efeitos marginais na redução do crime. Da mesma forma, o uso policial de algoritmos de aprendizado de máquina foi [condenado](https://www.theguardian.com/uk-news/2019/feb/03/police-risk-racial-profiling-by-using- dados-para-prever-reincidentes-relatório-alerta) por grupos de direitos humanos que afirmam que tais programas incentivam a discriminação racial, juntamente com a ameaça à privacidade e à liberdade de expressão.

Em termos gerais, o aprendizado de máquina usa dados para ensinar os computadores a tomar decisões sem instruí-los explicitamente como fazê-lo. Aprendizado de máquina é usado com sucesso em muitos setores para criar eficiência, priorizar riscos e melhorar a tomada de decisões.

faltam pesquisas sobre o impacto social do uso do aprendizado de máquina pela polícia para prevenir e detectar crimes

Embora estejam em um estágio muito inicial, a polícia do Reino Unido está explorando os benefícios do uso de métodos de aprendizado de máquina para prevenir e detectar crimes e desenvolver novos insights para resolver problemas de grande preocupação pública.

É verdade que existem problemas potenciais com qualquer uso de algoritmos de aprendizado de máquina probabilísticos no policiamento. Por exemplo, ao usar dados históricos, existem riscos de que os algoritmos, ao fazer previsões, discriminem injustamente em relação a certos grupos de pessoas. Mas se a polícia abordar o uso dessa tecnologia da maneira certa, não deve ser tão polêmico quanto parar e revistar e pode contribuir muito para que a polícia seja mais eficaz na prevenção e [solução de crimes](https: //www .bbc.co.uk / news / uk-49029545).

Um desafio de policiamento moderno

Considere o caso da recente preocupação pública sobre vídeos musicais de exercícios e seu conteúdo lírico exclusivo supostamente usado para inspirar, incitar e glorificar a violência grave.

A música drill, nos últimos anos, se espalhou para as principais cidades do Reino Unido. Plataformas de mídia social como YouTube e Instagram têm, ao mesmo tempo, testemunhado um aumento significativo nos vídeos de música de treino carregados online. Muitos dos vídeos, que apresentam rappers do sexo masculino usando máscaras faciais, usando uma linguagem violenta, provocativa e niilista, recebem milhões de visualizações.

O oficial de polícia mais graduado do Reino Unido, a Comissária Cressida Dick, [criticou publicamente](https://www.lbc.co.uk/radio/presenters/nick-ferrari/met-police-chief-calls-on-youtube -drill-music /) vídeos musicais de exercícios, afirmando que são usados para exaltar o assassinato e a violência grave e aumentar as tensões entre gangues de rua rivais.

Muitas pessoas discordam da acusação da polícia pela música de treino. Os defensores desse gênero musical argumentam que assassinato e violência não são fenômenos novos e não devem ser considerados causais para treinar artistas que fazem rap sobre as duras realidades de suas experiências vividas. Alguns acadêmicos também estão preocupados que a abordagem policial atual “está levando à criminalização das atividades cotidianas ”e que“ jovens de origens pobres estão agora sendo categorizados como criadores de problemas pelo mero ato de fazer um videoclipe ”.

No entanto, para a polícia, esta é uma questão importante: eles têm a responsabilidade legal de proteger a vida e gerenciar o risco para o público. Como tal, a detecção de conteúdo online prejudicial que, por exemplo, pode conter uma ameaça à vida de uma pessoa, é um problema de policiamento operacional contemporâneo e um problema tecnológico intratável que a polícia precisa ser capaz de resolver.

Desenvolvimento de ferramentas de aprendizado de máquina

Os policiais que veem manualmente grandes quantidades de vídeos para identificar e discernir o conteúdo prejudicial e criminoso da expressão criativa legítima é extremamente ineficiente. Como tal, deve ser automatizado. Sim, atualmente existem desafios técnicos significativos para os algoritmos de aprendizado de máquina entenderem esse conteúdo lírico exclusivo. Mas esse tipo de problema, para os pesquisadores, se encaixa perfeitamente no crescente campo de aprendizado de máquina do processamento de linguagem natural. Este é um campo que usa técnicas computacionais para entender a linguagem e a fala humana.

ferramentas de aprendizado de máquina podem ser estabelecidas em princípios científicos amplamente aceitos

De forma mais ampla, há uma falta de pesquisas sobre o impacto social do uso do aprendizado de máquina pela polícia para prevenir e detectar o crime. Nesse ínterim, para evitar controvérsias, a polícia não deve confiar em modelos opacos de aprendizado de máquina “caixa preta” que não foram testados em um contexto de policiamento operacional para automatizar a análise de grandes quantidades de dados. Modelos de caixa preta são justamente controversos porque não mostram sua lógica interna nem os processos usados para tomar decisões.

Uma maneira melhor de avançar é a polícia trabalhar com especialistas e construir modelos de aprendizado de máquina projetados especificamente para fins de policiamento que façam melhor uso dos dados para resolver problemas, como os inerentes aos vídeos musicais de exercícios. Durham Constabulary, por exemplo, trabalhou recentemente com cientistas da Universidade de Cambridge para desenvolver uma ferramenta algorítmica de avaliação de risco para ajudar nas decisões sobre futuras ofensas quando uma pessoa é presa pela polícia.

Dessa forma, as ferramentas de aprendizado de máquina podem ser estabelecidas com base em princípios científicos amplamente aceitos - com um nível de transparência que pode ser usado para galvanizar o apoio público de maneiras que parar e pesquisar não foi capaz de fazer.

Preocupações com a transparência

Em um relatório recente, o think tank britânico de defesa e segurança RUSI levantou mais preocupações específicas sobre o conceito de polícia usando algoritmos de aprendizado de máquina para fazer previsões e apoiar a tomada de decisão. Notavelmente, ele fala sobre o conceito de “transparência algorítmica” e a dificuldade para não especialistas em entender como modelos estatísticos complexos são usados para tomar decisões.

O relatório apresenta um ponto importante: se o aprendizado de máquina for usado em qualquer forma de ambiente de justiça criminal, os não especialistas devem ser capazes de entender como as decisões foram tomadas e determinar se os resultados são precisos e justos.

Afinal, o princípio da polícia usar o aprendizado de máquina para identificar riscos e apoiar a tomada de decisão não é - e não deve - ser considerado como uma nova forma de totalitarismo que busca erodir direitos democráticos, impedir a liberdade de expressão, marginalizar negros e minorias grupos étnicos.

Com o aumento do crime no Reino Unido sendo agora a questão mais significativa enfrentada pelo público britânico após o Brexit, o aprendizado de máquina - dentro de uma estrutura ética, regulatória e de confiança pública apropriada - deve ter um lugar na caixa de ferramentas de policiamento dos dias modernos para prevenir o crime e proteger o público.

Este artigo foi publicado originalmente por The Conversation. Para ler o artigo, clique aqui .

(Crédito da imagem: Unsplash)