Les chercheurs utilisent l’IA pour prédire la criminalité, encore une fois

Il y a de réelles craintes que cet outil aboutisse à des résultats systématiquement racistes

Les scientifiques cherchent un moyen de prédire la criminalité en utilisant, vous l’aurez deviné, l’intelligence artificielle.

Il existe de nombreuses études qui montrent l’utilisation de l’IA pour prédire résultats de la criminalité de façon constante résultats racistes. Par exemple, un modèle de prédiction de la criminalité par IA que le service de police de Chicago a testé en 2016 a essayé de se débarrasser de ses préjugés racistes mais a eu l’effet inverse. Il a utilisé un modèle pour prédire qui pourrait être le plus à risque d’être impliqué dans une fusillade, mais 56% des hommes noirs de 20 à 29 ans de la ville figuraient sur la liste.

Malgré tout, les scientifiques essaient toujours d’utiliser l’outil pour savoir quand et où un crime pourrait se produire. Et cette fois, ils disent que c’est différent.

Des chercheurs de l’Université de Chicago ont utilisé un modèle d’IA pour analyser les données historiques sur la criminalité de 2014 à 2016 comme moyen de prédire les niveaux de criminalité pour les semaines suivantes dans la ville. Le modèle a prédit la probabilité de crimes dans la ville une semaine à l’avance avec une précision de près de 90 % ; il a eu un niveau de succès similaire dans sept autres grandes villes américaines.

Cette étude, qui a été publiée dans Nature Human Behavior, a non seulement tenté de prédire la criminalité, mais a également permis aux chercheurs d’examiner la réponse aux schémas de criminalité.

Le co-auteur et professeur James Evans a déclaré à Science Daily que la recherche leur permet « de poser de nouvelles questions et nous permet d’évaluer l’action policière de nouvelles façons ». Ishanu Chattopadhyay, professeur adjoint à l’Université de Chicago, a déclaré à Insider que leur modèle a révélé que les crimes dans les quartiers à revenu élevé entraînaient plus d’arrestations que les crimes dans les quartiers à faible revenu, ce qui suggère un certain biais dans les réponses de la police au crime.

« De telles prédictions nous permettent d’étudier les perturbations des modèles de criminalité qui suggèrent que la réponse à l’augmentation de la criminalité est biaisée par le statut socio-économique du quartier, drainant les ressources politiques des zones socio-économiquement défavorisées, comme démontré dans huit grandes villes américaines », selon le rapport.

Chattopadhyay a déclaré à Science Daily que la recherche a révélé que lorsque « vous insistez sur le système, cela nécessite plus de ressources pour arrêter plus de personnes en réponse à un crime dans une zone riche et éloigne les ressources policières des zones à statut socio-économique inférieur ».

Chattopadhyay a également déclaré au New Scientist que, bien que les données utilisées par son modèle puissent également être biaisées, les chercheurs ont travaillé pour réduire cet effet en n’identifiant pas les suspects et, à la place, en identifiant uniquement les sites de crime.

Mais il y a encore des inquiétudes concernant le racisme dans cette recherche sur l’IA. Lawrence Sherman du Cambridge Center for Evidence-Based Policing a déclaré au New Scientist qu’en raison de la manière dont les crimes sont enregistrés – soit parce que les gens appellent la police, soit parce que la police recherche des crimes – l’ensemble du système de données est susceptible d’être biaisé. « Cela pourrait refléter une discrimination intentionnelle de la part de la police dans certains domaines », a-t-il déclaré au média.

Pendant tout ce temps, Chattopadhyay a déclaré à Insider qu’il espère que les prédictions de l’IA seront utilisées pour informer la politique, et non directement pour informer la police.

« Idéalement, si vous pouvez prédire ou anticiper le crime, la seule réponse n’est pas d’envoyer plus d’officiers ou d’inonder une communauté particulière de forces de l’ordre », a déclaré Chattopadhyay au média. « Si vous pouviez prévenir le crime, il y a une foule d’autres choses que nous pourrions faire pour empêcher que de telles choses ne se produisent réellement afin que personne n’aille en prison et aider les communautés dans leur ensemble. »