Tom Cruise, nous sommes encore en train de rattraper notre retard ! La cyber-police n’est pas encore au niveau de Minority Report, pour le moment du moins, mais elle s’en rapproche !
Un fait intéressant au niveau du Pre-Crime Department : bien qu’il soit reproché à la police de sur-contrôler des communautés minoritaires déjà très surveillées, une plateforme d’Intelligence Artificielle (IA) est en cours de test dans les services de police américains, et prétend pouvoir prédire où est des crimes seront commis.
L’outil provient d’une société appelée PredPol, qui affirme que le logiciel peut prédire la criminalité de manière algorithmique. Comme le montrent ses manuels de formation, son approche se base sur l’hypothèse des fenêtres brisées appliquée au maintien de l’ordre : cette théorie qui estime que des arrestations pour des infractions mineures, qui ne réduisent pas d’ailleurs réellement la criminalité, ont plutôt pour effet de nuire aux relations entre la police et les communautés.
D’après les informations fournies par PredPol en juin, Motherboard a indiqué que son logiciel permet de prédire quels crimes auront lieu dans des zones aussi petites que celles définies par un périmètre de 150×150 mètres, en se basant sur des données historiques sur la criminalité. Ces données alimentent l’algorithme qui permet de prédire où des crimes similaires se reproduiront.
Les défenseurs des droits numériques affirment que la police prédictive est intrinsèquement biaisée, car les données utilisées pour prédire la criminalité reposent sur des années de stratégies de maintien de l’ordre elles-mêmes biaisées, qui sur-criminalisent en réalité certains quartiers : Jake Ader, collaborateur au sein du groupe de défense des droits numériques Lucy Parsons Labs, a déposé une demande d’accès à l’information pour savoir comment la police à Elgin, dans l’Illinois, utilisait cet outil. C’est ainsi qu’il a découvert que le manuel de formation s’appuyait sur la stratégie policière, très critiquée, des fenêtres brisées.
Il a confié à Motherboard que l’utilisation de la police prédictive se répandait dans les services de police, notamment à New York, Los Angeles et d’autres villes plus petites.
En l’espace de quelques mois, la BBC rapporte que PredPol s’est immiscé dans les services de police de tous les États-Unis. Aujourd’hui, plus de 50 départements l’utilisent, ainsi qu’une poignée de services de police britanniques. La police du Kent, pour sa part, affirme que la violence dans la rue a diminué de 6% après un test de quatre mois.
Steve Clark, chef adjoint du département de police de Santa Cruz en Californie a déclaré :
Nous avons constaté que le modèle permettait de prédire avec une précision incroyable les heures et les lieux où ces crimes étaient susceptibles de se produire.
Ceux qui travaillent dans ce domaine particulier , en plus de PredPol qui signifie “Predictive Policing” (Police Prédictive), d’autres sociétés telles que Palantir, CrimeScan et ShotSpotter Missions, affirment que la version intégrant l’Intelligence Artificielle, au niveau de la police prédictive, dépasse l’analyse traditionnelle des points chauds, qui implique de réagir en fonction de tout ce qu’il s’est passé auparavant, dans un lieu déterminé, alors qu’ici il est plutôt question d’anticiper ce qui est susceptible de se produire à l’avenir.
Le cofondateur de PredPol et professeur d’anthropologie, Jeff Brantingham, explique que l’IA et l’apprentissage automatique peuvent détecter des schémas trop subtils à comprendre pour les humains :
L’apprentissage automatique offre une série d’approches permettant d’identifier des modèles statistiques dans des données qui ne sont pas facilement décrites par des modèles mathématiques classiques ou qui dépassent les capacités de perception naturelles de l’expert humain.
Peut-être, oui. Pourtant, les études ne montrent pas que la police prédictive ait montré des résultats dont on peut se vanter. John Hollywood, analyste à l’institut de recherche politique Rand Corporation, explique que les progrès récents en matière de techniques d’analyse n’ont produit que de “légères améliorations incrémentales” de la prévision de la criminalité. Nous parlons de résultats plus précis de 10 à 25% par rapport à la cartographie par points chauds traditionnelle. Il déclare :
Les technologies actuelles ne sont pas beaucoup plus précises que les méthodes traditionnelles.
C’est suffisant pour aider à améliorer les décisions en matière de déploiement, mais on est loin du fantasme populaire selon lequel un ordinateur dirait précisément aux officiers où se rendre pour arrêter des criminels en flagrant délit.
Mais attendez, ce n’est pas tout : en plus d’éveiller certains soupçons parmi les défenseurs des droits numériques et de ne pas impressionner les analystes de Rand, PredPol a également réussi à révéler les pages de connexion de 17 services de police américains mardi matin, une mésaventure qu’ils n’ont, à priori, pas réussi à prédire !
Pendant ce temps …
La police utilise encore un autre outil d’IA pour améliorer ses capacités humaines. Il s’appelle VeriPol, un logiciel qui utilise l’analyse de texte et l’apprentissage automatique pour identifier les faux rapports de police. Des informaticiens de l’Université de Cardiff et de l’Université Charles III de Madrid affirment que VeriPol peut identifier les faux rapports de vol “avec une précision de plus de 80%”.
VeriPol a été déployé dans toute l’Espagne pour aider les officiers de police et indiquer où des enquêtes complémentaires étaient nécessaires. Les chercheurs l’ont entraîné avec plus de 1 000 véritables fausses déclarations, et ont appris à l’IA à traiter les déclarations de police douteuses en utilisant le traitement naturel du langage.
Plus précisément, VeriPol utilise des algorithmes pour identifier et quantifier diverses caractéristiques au niveau du texte, telles que les adjectifs, les acronymes, les verbes, les noms, la ponctuation, les chiffres et les nombres. Les chercheurs ont alimenté Veripol avec des rapports de police qui étaient connus pour être faux afin que l’outil d’IA puisse coder chacun d’entre eux et “apprendre” les schémas spécifiques.
Voici certains schémas détectés par VeriPol dans de fausses déclarations :
- Des déclarations plus courtes axées davantage sur les biens volés que sur l’incident.
- Un manque de précision sur l’incident lui-même.
- Des détails limités concernant un prétendu attaquant.
- Un manque de témoins ou de preuves tangibles, comme par exemple contacter un policier ou un médecin immédiatement après l’incident.
De nombreux faux rapports font également état de la perte d’objets spécifiques haut de gamme, selon le Dr Jose Collados, associé de recherche :
Les indicateurs clairs, indiquant qu’il s’agit d’un mensonge, sont des descriptions du type d’objets volés. Les références faites à des iPhones et à la marque Samsung étaient associées à de fausses déclarations, alors que celles mentionnant des vélos et des colliers étaient liées à de vrais rapports.
Les chercheurs ont confié à VeriPol une étude pilote réelle en juin 2017 dans les zones urbaines de Murcia et de Malaga en Espagne. Ils ont rapporté qu’en une semaine seulement, 25 cas de faux rapports de vol qualifié avaient été détectés à Murcia, entraînant un classement des affaires concernées, et 39 autres ont été détectés et les affaires également classées à Malaga.
À titre de comparaison, le taux moyen de faux rapports détectés et de cas clôturés avant l’utilisation de VeriPol au mois de juin de 2008 à 2016 était de 3,33 à Murcia et de 12,14 à Malaga.
Voici les propos tenus par le Dr. Camacho-Collados :
Notre étude nous a donné un aperçu fascinant sur la façon dont les gens mentent à la police ainsi qu’un outil qui peut être utilisé pour dissuader les gens de le faire à l’avenir.
L’ultime espoir est qu’en montrant que la détection automatique est possible, cela dissuadera les gens de mentir à la police, a-t-il déclaré. En l’état, faire de fausses déclarations de police est un crime lourd de conséquences, telles que des peines d’emprisonnement et de lourdes amendes. En outre, de faux rapports de police contaminent les bases de données policières, biaisant ainsi les résultats des enquêtes criminelles et gaspillant des ressources publiques qui pourraient être consacrées pour enquêter sur d’autres crimes, ont déclaré les chercheurs.
TomiPol, pouvez-vous me dire de manière prédictive où est mon téléphone portable ?
Alors, que faites-vous si vous avez vraiment (vraiment !) été agressé et avez perdu votre iPhone? Assurez-vous de noter le plus de détails possible sur l’incident et le voleur, et appelez la police et/ou consultez immédiatement un médecin. Rester trop vague et entretenir le flou au niveau de certains détails n’est clairement pas le meilleur moyen pour impressionner les enquêteurs utilisant l’IA qui pourraient très bien analyser votre déclaration écrite !
Billet inspiré de RoboCops: AI on the rise in policing to predict crime and uncover lies, sur Sophos nakedsecurity.
Qu’en pensez-vous ? Laissez un commentaire.