Cet article d'opinion a été écrit par Paul McFarlane, Senior Teaching Fellow in Security and Crime Science, University College London, et a été initialement publié par The Conversation. Pour en savoir plus, consultez notre fil d'actualité gouvernemental numérique .

Le débat sur la police utilisant le machine learning s'intensifie - il est considéré dans certains milieux aussi controversé que l' arrestation et la fouille .

Arrêter et fouiller est l'un des domaines les plus controversés de la façon dont la police interagit avec le public. Il a été fortement critiqué pour sa discrimination à l' égard des groupes ethniques noirs et minoritaires et pour ses effets marginaux sur la réduction de la criminalité. De la même manière, l'utilisation par la police d'algorithmes d'apprentissage automatique a été condamnée par des groupes de défense des droits de l'homme qui affirment que de tels programmes encouragent le profilage racial et la discrimination tout en menaçant la vie privée et la liberté d'expression.

D'une manière générale, l'apprentissage automatique utilise les données pour apprendre aux ordinateurs à prendre des décisions sans leur expliquer explicitement comment le faire. L'apprentissage automatique est utilisé avec succès dans de nombreuses industries pour créer de l'efficacité, hiérarchiser les risques et améliorer la prise de décision.

il y a un manque de recherche sur l'impact social de la police utilisant l'apprentissage automatique pour prévenir et détecter la criminalité

Bien qu'elles n'en soient qu'à un stade très précoce, la police du Royaume-Uni explore les avantages de l'utilisation de méthodes d'apprentissage automatique pour prévenir et détecter la criminalité et développer de nouvelles perspectives pour s'attaquer aux problèmes qui préoccupent grandement le public.

Il est vrai qu'il existe des problèmes potentiels avec toute utilisation d'algorithmes probabilistes d'apprentissage automatique dans le maintien de l'ordre. Par exemple, lors de l'utilisation de données historiques, il existe des risques que les algorithmes, lorsqu'ils font des prédictions, discriminent injustement envers certains groupes de personnes. Mais si la police aborde correctement l'utilisation de cette technologie, cela ne devrait pas être aussi controversé que l'arrestation et la fouille et pourrait contribuer grandement à ce que la police soit plus efficace dans la prévention et la résolution des délits .

Un défi policier moderne

Prenons le cas de la récente inquiétude du public à propos des clips musicaux et de leur contenu lyrique unique qui aurait été utilisé pour inspirer, inciter et glorifier de graves violences.

La musique de perceuse s'est propagée au cours des dernières années dans les grandes villes du Royaume-Uni. Les plateformes de médias sociaux telles que YouTube et Instagram ont, dans le même temps, connu une augmentation significative du nombre de vidéos musicales téléchargées en ligne. De nombreuses vidéos, qui présentent des rappeurs masculins portant des masques faciaux, utilisant un langage violent, provocateur et nihiliste, reçoivent des millions de vues.

L'officier de police le plus haut gradé du Royaume-Uni, la commissaire Cressida Dick, a publiquement critiqué les vidéos de musique de perceuse, déclarant qu'elles sont utilisées pour glorifier le meurtre et les violences graves et exacerber les tensions entre les gangs de rue rivaux.

Beaucoup de gens ne sont pas d'accord avec le fait que la police blâme la musique de perceuse. Les partisans de ce genre de musique soutiennent que le meurtre et la violence ne sont pas un phénomène nouveau et ne devraient pas être considérés comme une cause pour forer des artistes qui rappent sur les dures réalités de leurs expériences vécues. Certains universitaires s'inquiètent également du fait que l'approche policière actuelle «mène à la criminalisation des activités quotidiennes» et que «les jeunes issus de milieux pauvres sont désormais classés comme des fauteurs de troubles par le simple fait de réaliser un clip.»

Néanmoins, pour la police, il s'agit d'une question importante: elle a la responsabilité statutaire de protéger la vie et de gérer les risques pour le public. En tant que tel, la détection de contenu en ligne préjudiciable qui, par exemple, pourrait contenir une menace pour la vie d'une personne, est à la fois un problème de police opérationnel contemporain et un problème technologique insoluble que la police doit être en mesure de résoudre.

Développement d'outils d'apprentissage machine

Les policiers visionnant manuellement de grandes quantités de vidéos pour identifier et discerner le contenu nuisible et criminel de l'expression créative légitime sont extrêmement inefficaces. En tant que tel, il devrait être automatisé. Oui, il existe actuellement d'importants défis techniques pour les algorithmes d'apprentissage automatique pour comprendre ce contenu lyrique unique. Mais ce type de problème, pour les chercheurs, s'intègre parfaitement dans le domaine croissant de l'apprentissage automatique du traitement du langage naturel. Il s'agit d'un domaine qui utilise des techniques de calcul pour comprendre le langage et la parole humains.

les outils d'apprentissage automatique peuvent être établis selon des principes scientifiques largement acceptés

Plus largement, il y a un manque de recherche sur l'impact social de l'utilisation par la police de l'apprentissage automatique pour prévenir et détecter la criminalité. En attendant, pour éviter toute controverse, la police ne devrait pas s'appuyer sur des modèles d'apprentissage automatique «boîte noire» opaques qui n'ont pas été testés dans un contexte de police opérationnelle pour automatiser l'analyse de grandes quantités de données. Les modèles de boîte noire sont à juste titre controversés car ils ne montrent pas leur logique interne ni les processus utilisés pour prendre des décisions.

Une meilleure façon d'avancer est que la police travaille avec des experts et crée des modèles d'apprentissage automatique spécialement conçus à des fins de maintien de l'ordre qui utilisent mieux les données pour résoudre les problèmes, tels que ceux inhérents aux vidéos musicales de forage. Durham Constabulary, par exemple, a récemment travaillé avec des scientifiques de l'Université de Cambridge pour développer un outil algorithmique d'évaluation des risques pour aider à prendre des décisions sur les infractions futures lorsqu'une personne est arrêtée par la police.

De cette façon, les outils d'apprentissage automatique peuvent être établis sur des principes scientifiques largement acceptés - avec un niveau de transparence qui peut être utilisé pour galvaniser le soutien du public d'une manière qui ne s'arrête pas et la recherche n'a pas pu le faire.

Préoccupations concernant la transparence

Dans un récent rapport , le groupe de réflexion britannique RUSI sur la défense et la sécurité a soulevé des préoccupations plus spécifiques concernant le concept de la police utilisant des algorithmes d'apprentissage automatique pour faire des prédictions et soutenir la prise de décision. Il évoque notamment le concept de «transparence algorithmique» et la difficulté pour les non-experts de comprendre comment des modèles statistiques complexes sont utilisés pour prendre des décisions.

Le rapport soulève un point important: si l'apprentissage automatique est utilisé dans toute forme de système de justice pénale, les non-experts devraient être en mesure de comprendre comment les décisions ont été prises et de déterminer si les résultats sont exacts et équitables.

Tout bien considéré, le principal de la police qui utilise l'apprentissage automatique pour identifier les risques et soutenir la prise de décision n'est pas - et ne devrait pas - être considéré comme une nouvelle forme de totalitarisme qui cherche à éroder les droits démocratiques, à empêcher la liberté d'expression, à marginaliser les Noirs et les minorités. groupes ethniques.

La montée de la criminalité au Royaume-Uni étant désormais le problème le plus important auquel le public britannique est confronté après le Brexit, l'apprentissage automatique - dans un cadre éthique, réglementaire et de confiance du public approprié - devrait avoir sa place dans la boîte à outils des services de police modernes pour prévenir la criminalité et protéger le Publique.

Cet article a été initialement publié par The Conversation . Pour lire l'article, cliquez ici .

(Crédit photo: Unsplash)