Discussion :

[Stan Adkens]

UK : la police veut utiliser l’IA pour empêcher les crimes violents avant qu’ils ne se produisent
Comme dans le film Minority Report

La complexification de la nature des crimes au cours de ces dernières décennies rendent moins opérationnelles les méthodes traditionnelles utilisées par la police pour interpeller les acteurs malveillants. Pour adapter ses moyens au changement, la police, dans le monde entier, a de plus en plus recours à l’intelligence artificielle et aux données pour prévenir des actes criminels ou arrêter des personnes susceptibles de commettre un crime.

En Chine, la police s’est servie de la technologie de reconnaissance faciale pour arrêter un fugitif, recherché pour des crimes économiques non spécifiés, dans une foule de cinquante à soixante mille personnes qui assistaient à un concert de musique pop. La Chine utilise également le big data pour procéder à des arrestations préventives dans la région du Xinjiang. Cette application de l’IA a, par ailleurs, été décriée par l'association Human Rights Watch. En Espagne, selon une déclaration de l’université Cardiff, grâce à une combinaison d'analyse automatique de texte et de techniques d'apprentissage automatique avancées dans un outil mis au point par les experts de Madrid et de Cardiff, la police a été en mesure d'identifier avec succès les fausses déclarations de vol avec un taux de précision de plus de 80 %.

Selon un article de The Independent publié en juin dernier, la police de Londres était en train de tester une technologie de reconnaissance faciale pour appréhender des suspects. Selon une nouvelle révélation de New Scientist, la police britannique veut dorénavant procéder à des interventions préventives au lieu de procéder à l’identification des suspects après que les crimes aient déjà eu lieu, en utilisant l’Intelligence. Alors qu’il n’y a pas encore l’unanimité sur l’utilisation éthique de l’IA, les applications se multiplient dans les entreprises comme dans les administrations publiques.

La police britannique veut empêcher les graves crimes violents avant qu’ils ne se produisent en utilisant un système basé sur l’intelligence artificielle. Le système baptisé solution nationale d’analyse de données (NDAS) est basé sur une combinaison d'IA et de statistiques afin d’évaluer le risque qu’une personne commette ou soit victime d’un crime commis avec une arme à feu ou un couteau. Il permet également de détecter si une personne est victime de l’esclavage moderne.

Le système fonctionnera à l’image du film américain de science fiction Minority Report réalisé en 2002 et qui se déroule principalement à Washington DC et dans le nord de la Virginie en 2054 où un service de police spécialisé nommé PreCrime, appréhende des criminels en se fondant sur la connaissance anticipée fournie par trois voyants appelés « précogs ». Plusieurs meurtriers ont été arrêtés réduisant le taux de meurtres à zéro, en 2054.

Selon New Scientist, les forces armées rechercheraient un système capable de pendre en charge les personnes ayant déjà un antécédent avec les forces de l’ordre, face à une réduction considérable du financement de la police. Cependant, les personnes signalées par la NDAS ne seront pas préventivement arrêter, mais devront plutôt bénéficier de l’assistance des travailleurs de santé et sociaux qui pourront donner des conseils à des celles ayant des antécédents de problèmes de santé mentale identifiées par la NDAS comme susceptibles de commettre un crime violent. Les potentielles victimes pourront également être contactées par les services sociaux.

L’apprentissage automatique de la NDAS

Selon New Scientist qui est informé du système, l’équipe en charge du projet piloté par la police de West Midlands a amassé plus d’un tétraoctet de données d’environ 5 millions d’individus identifiés dans les bases de données de la police nationale, spécifiquement des enregistrements des personnes interpellées et des registres des crimes commis.

Pour construire son modèle d’IA, le système a analysé l’ensemble des données recueillies et a détecter que près de 1 400 indicateurs pouvaient aider à prévoir la criminalité qui permettront à la NDAS de prédire quelles personnes connues de la police et ne présentant pas encore de signes intenses d’activité malveillantes peuvent suivre une trajectoire de violence similaire à celle observée dans les affaires précédentes.

Les critiques à l’encontre du projet NDAS

Selon Iain Donnelly, responsable de la police et conductrice du projet, c’est un projet majeur, premier de son genre au monde qui réuni plusieurs ensembles de données provenant d'un certain nombre de forces de police pour la prévision de la criminalité. Cependant, certains aspects du projet ne font pas l’unanimité. New Scientist a pu voir le rapport d’une équipe de l’Institut Alan Turing de Londres qui a examiné une version rédigée de la proposition NDAS l’an dernier. Selon le rapport qui sera publié cette semaine, l’équipe de l’Institut Alan Turing aurait relevé « de graves problèmes éthiques » avec le projet NDAS et se demanderait s'il ne serait pas mieux de prévenir un crime avant qu’il ne soit commis que de surveiller des personnes ayant déjà un antécédent de crime de commettre à nouveau d’autres crimes à l’avenir.

Selon les chercheurs, la proposition de la NDAS, bien que globalement bien intentionnée sur le plan éthique, ne prend pas en compte tous les problèmes et risque, par ailleurs, de souffrir des prédictions inexactes. Selon un autre chercheur de l’Université du District de Columbia, les modèles d’apprentissage automatique étant formés sur les données des arrestations antérieures, le système pourrait limiter les enquêtes de la police aux lieux fréquentés tout en renforçant les préjugés. Par ailleurs, Martin Innes, directeur du Crime and Security Research à l’Institute de l’Université de Cardiff, au Royaume-Uni, pense que le projet NDAS serait mieux adapté à la localisation des communautés à risque au lieu d’être un outil fiable de détection des infractions au niveau individuel.

A cause de toutes ces préoccupations, l’équipe projet, sous recommandations de la police de West Midlands, sera emmenée évaluer de façon indépendante l’efficacité du système.

Selon New Scientist, l’IA a un avenir prometteur dans la police, notamment dans les systèmes de prédiction de la criminalité. Un exemple est le système PredPol, application développée à l'Université de Santa Clara en Californie et qui tente de déterminer les points chauds de la criminalité. PredPol a été utilisé aux États-Unis et au Royaume-Uni, a rapporté New Scientist.

Source : New Scientist, Minority Report

Et vous ?

Qu’en pensez-vous ?
Pensez-vous que l’IA est déjà prête pour des utilisations efficaces dans la prédiction des crimes ?

Voir aussi

Chine : le système de crédit social, comme une science-fiction dystopique, est en marche, et fait déjà des victimes
La police chinoise utilise le big data pour des arrestations préventives dans la région du Xinjiang, d'après l'association Human Rights Watch
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
À Londres, la police teste une technologie de reconnaissance faciale pour retrouver des suspects : les populations entre approbation et condamnation
Espagne : la police s'appuie sur l'IA pour débusquer les fausses déclarations de vol, VeriPol dispose d'un taux de précision de 83 %

[Ecthelion2]

Mirrette serviteur aveugle de Robin de Locelait, attrape une flèche juste devant le visage de Robin:

- Mais comment t'as fait ?
- Je l'ai entendue arriver avant qu'elle ne parte !

Mirrette repart à tâtons...

Les policiers britanniques ont regardé Minority Report jusqu'au bout et ont-ils compris la fin ainsi que la morale de celui-ci ?


Plus sérieusement, aussi juste que pourrait être ces "prédictions", même si on arrivait à 100% de justesse, tant que le crime n'a pas été commis, au final, la personne n'a rien fait de mal. Du coup on va l'inculper de "bientôt commettre un crime" ? Ca va être marrant de se prendre 20 ans pour meurtre alors que la victime sera toujours en vie...

Et puis qu'est-ce qui empêche le "criminel" de changer d'avis au tout dernier moment, à cause d'un paramètre non prévu (par lui, ou par l'IA) ?


Entre ça et ce qui se passe en Chine, on est en train de mettre en place toutes les dérives dénoncées dans les oeuvres de fiction, cela ne les a pas fait réfléchir, cela leur a donné des idées...

[Ryu2000]

Selon New Scientist qui est informé du système, l’équipe en charge du projet piloté par la police de West Midlands a amassé plus d’un tétraoctet de données d’environ 5 millions d’individus identifiés dans les bases de données de la police nationale, spécifiquement des enregistrements des personnes interpellées et des registres des crimes commis.

Ne serait-ce pas téraoctet à la place de tétraoctet ?

Pensez-vous que l’IA est déjà prête pour des utilisations efficaces dans la prédiction des crimes ?

Si tous les citoyens sont en permanence sur écoute, peut-être que ça peut fonctionner ^^

Selon New Scientist, les forces armées rechercheraient un système capable de pendre en charge les personnes ayant déjà un antécédent avec les forces de l’ordre, face à une réduction considérable du financement de la police. Cependant, les personnes signalées par la NDAS ne seront pas préventivement arrêter, mais devront plutôt bénéficier de l’assistance des travailleurs de santé et sociaux qui pourront donner des conseils à des celles ayant des antécédents de problèmes de santé mentale identifiées par la NDAS comme susceptibles de commettre un crime violent. Les potentielles victimes pourront également être contactées par les services sociaux.

Ouais mais si il n'y a pas préméditation ?
Par exemple si quelqu'un boit de l'alcool et agresse quelqu'un.
On va lui dire "Faite bien gaffe, l'IA a anticipé que vous risquez de faire de la merde dans les jours à venir".

[Grogro]

On vit vraiment de plus en plus dans un monde cyberpunk.

[Coeur De Roses]

On vit vraiment de plus en plus dans un monde cyberpunk.

On peut aussi rajouter WatchDogs.

[Ryu2000]

WatchDogs.

À mon avis c'est cyberpunk dans ce sens là :
Cyberpunk

Le cyberpunk (association des mots cybernétique et punk) est un genre de la science-fiction très apparenté à la dystopie et à la hard science-fiction. Il met souvent en scène un futur proche, avec une société technologiquement avancée (notamment pour les technologies de l'information et la cybernétique).

Selon Bruce Sterling, « le courant cyberpunk provient d'un univers où le dingue d'informatique et le rocker se rejoignent, d'un bouillon de culture où les tortillements des chaînes génétiques s'imbriquent. »

Les mondes cyberpunks sont empreints de violence et de pessimisme ; ils sont souvent lugubres, parfois ironiquement grinçants ; les personnages sont des antihéros désabusés, cyniques et cupides. C'est en ce sens que l'on qualifie les univers cyberpunk de dystopies. Il a depuis essaimé ses thématiques dans de nombreux médias, notamment dans la bande dessinée, le cinéma, la musique, les jeux vidéo et les jeux de rôle.

Le jeu s'appelle "Cyberpunk 2077" en plus, donc ça colle vraiment pas.

====
En gros l'avenir c'est d'être surveillé en permanence.
Il y a aura des caméras partout dans la rue.
Les gens vont installer eux même des caméras pour se faire surveiller (webcam dans les pc portables, dans les tv, dans les smartphones), ils vont aussi installer eux même des micros (Alexa et toutes ces conneries).
Un smartphone c'est quand même une balise GPS + un micro + une caméra, connecté à internet, que les gens trimbalent partout avec eux.
C'est comme la surveillance US qui enregistre tout ce que vous dites sur internet ou par SMS.

C'est une pratique dictatoriale.

[Cassoulatine]

Les flics ont rien fait pendant plus d'un an pour les gangs de violeurs pakis à Rotterham (et ailleurs), et ils veulent nous faire croire qu'ils vont faire du minority report ...

[Grogro]

Les flics ont rien fait pendant plus d'un an pour les gangs de violeurs pakis à Rotterham (et ailleurs), et ils veulent nous faire croire qu'ils vont faire du minority report ...

Ils n'ont rien fait parce qu'on leur a ordonné politiquement de ne rien faire. On ne parle pas des mêmes services.

Les services de renseignement britannique font partie des meilleurs au monde (avec les services américains, israéliens, russes et... français).

[Cassoulatine]

Ils n'ont rien fait parce qu'on leur a ordonné politiquement de ne rien faire. On ne parle pas des mêmes services.

Les services de renseignement britannique font partie des meilleurs au monde (avec les services américains, israéliens, russes et... français).

La politique chapeaute tout ... Leur super IA sera très vite programmée pour suivre l'agenda politique, donc "ne pas être raciste", donc diminuer le risque criminel des pakis/musulmans/minorité qui va bien comparativement à celui des occidentaux/blonds (/gilets jaunes ). Il n'y a qu'à voir les dernières pubs FR étatiques sur la violence. Le profil des victimes et agresseurs n'est pas au hasard, il suit parfaitement l'agenda "anti-raciste".

[Ryu2000]

Si un criminel n'a pas de téléphone ni d'accès à internet, est-ce que l'IA aura accès à des informations à propos de lui ?

[ddoumeche]

Les flics ont rien fait pendant plus d'un an pour les gangs de violeurs pakis à Rotterham (et ailleurs), et ils veulent nous faire croire qu'ils vont faire du minority report ...

En Angleterre, on ne report pas les minorities.

[Jonathan]

UK : pas moins de 14 postes de police utilisent un logiciel de prédiction de la criminalité
d'après un rapport de Liberty Human Rights

La technologie a fait des progrès gigantesques ces dernières années et tout porte à croire que ce n'est pas près de s'arrêter de sitôt. Ces avancées technologiques permettent de réaliser des choses qui relevaient jusqu'ici de la science-fiction comme lorsqu'on apprenait en octobre dernier que la police anglaise veut utiliser l'IA pour empêcher les crimes violents avant qu'ils ne se produisent. Tout cela montre bien à quel point la technologie s'insinue de plus en plus dans notre quotidien.

D'après Liberty Human Rights, un groupe de défense des droits de l'homme, au moins 14 postes de police britanniques ont eu recours à l'utilisation d'un logiciel de prédiction de la criminalité ou envisagent de le faire. IBM, Microsoft, Predpol et Palantir font partie des entreprises qui développent de tels logiciels et il semblerait même qu'elles travaillent actuellement pour créer des solutions sur mesure. Pour donner ces chiffres, le groupe de défense s'est basé sur des données qu'il a pu recueillir après avoir envoyé au total 90 demandes d’accès à l’information l’an dernier pour déterminer quelles postes de police utilisaient cette technologie.

Liste des postes de police ayant adopté un logiciel de prédiction de la criminalité par Liberty Human Rights

De plus, le rapport de Liberty Human Rights est concentré sur 2 types de logiciels fréquemment utilisés ensemble, il s'agit d'un logiciel de cartographie prédictive et d'un logiciel d'évaluation du risque individuel. Dans le premier, les secteurs considérés comme dangereux sont cartographiés, ce qui conduit à davantage de patrouilles dans cette zone. Le second tente de prédire la probabilité qu'une personne commette une infraction ou soit victime d'un crime. Liberty Human Rights a fait savoir qu'il n'avait aucune confiance en ces logiciels et estime qu'ils peuvent conduire à des stratégies policières biaisées qui se focalisent injustement sur les minorités ethniques et les communautés à faible revenu.

La réaction de certains des postes de police cités dans le rapport du groupe de défense ne s'est pas fait attendre. Par l'intermédiaire de l'un de leurs porte-paroles, ils ont déclaré que les données qu'utilisent leurs logiciels n'incluent pas l'appartenance ethnique, le sexe, l'adresse ou les données démographiques. Ce qui est à l'opposé de ce que révèle le rapport de Liberty Human Rights dans lequel il est indiqué que ces logiciels utilisent des algorithmes pour analyser des hordes de données policières biaisées, identifier des modèles et intégrer une approche de la police reposant sur le profilage discriminatoire.

S'il est possible de garantir que les données traitées par ces logiciels ne puissent pas être biaisées, ce genre de logiciel serait d'une très grande utilité et il sera difficile d'empêcher son utilisation par les forces de l'ordre. Seulement, si l'on s'en tient au rapport du groupe de défense, il devient inquiétant pour les libertés des individus qu'un tel outil puisse continuer d'être utilisé.

Source : Rapport de Liberty

Et vous ?

Que pensez-vous des logiciels de prédiction de la criminalité ?
Êtes-vous d'accord avec le rapport de Liberty ?

Voir aussi :

UK : la police veut utiliser l'IA pour empêcher les crimes violents avant qu'ils ne se produisent, comme dans le film Minority Report
Espagne : la police s'appuie sur l'IA pour débusquer les fausses déclarations de vol veriPol dispose d'un taux de précision de 83%
La police chinoise utilise le big data pour des arrestations préventives dans la région du Xinjiang d'après l'association Human Rights Watch

[pcouas]

Il ne manque que "Minority Report" ! http://www.allocine.fr/film/fichefil...ilm=34917.html

[Cassoulatine]

des stratégies policières biaisées qui se focalisent injustement sur les minorités ethniques

Focaliser les "minorités ethniques" qui commettent l'immense majorité des crimes c'est biaisé ... Ah d'accord.

[Ryu2000]

Il ne manque que "Minority Report" !

Ya un hommage dans Futurama avec le robot "Pickles" :

De plus, le rapport de Liberty Human Rights est concentré sur 2 types de logiciels fréquemment utilisés ensemble, il s'agit d'un logiciel de cartographie prédictive et d'un logiciel d'évaluation du risque individuel. Dans le premier, les secteurs considérés comme dangereux sont cartographiés, ce qui conduit à davantage de patrouilles dans cette zone. Le second tente de prédire la probabilité qu'une personne commette une infraction ou soit victime d'un crime. Liberty Human Rights a fait savoir qu'il n'avait aucune confiance en ces logiciels et estime qu'ils peuvent conduire à des stratégies policières biaisées qui se focalisent injustement sur les minorités ethniques et les communautés à faible revenu.

Le premier truc est assez simple, effectivement il y a plus de criminalité chez les pauvres, c'est statistique.
En même temps c'est facile à comprendre, quand t'as de l'argent tu n'as pas besoin de voler (sauf si t'es politicien ^^ lol. La politique rend cleptomane).
T'es plus confronté à la violence dans un quartier pauvre que dans un quartier riche.

[Thomasa21]

être pauvre sera bientôt considéré comme un crime et faire partie des minorités, chose qui déjà handicape beaucoup, continue de nuire à cette catégorie de personnes

[Ryu2000]

être pauvre sera bientôt considéré comme un crime et faire partie des minorités, chose qui déjà handicape beaucoup, continue de nuire à cette catégorie de personnes

Déjà "minorité" ça ne va pas comme mot, il faudrait trouver autre chose.
Par exemple aux USA ont a accès aux statistiques ethniques, et on voit que le pourcentage de criminelle chez les noirs est beaucoup plus élevé que chez les blancs.
On voit aussi que les noirs sont plus pauvres.
Murder - Race, Ethnicity, and Sex of Victim by Race, Ethnicity, and Sex of Offender, 2015 (purée fbi.org ça rigole pas).

La pauvreté peut pousser vers la violence et la criminalité, donc essayez de ne pas être pauvre (c'est facile à dire).

[ddoumeche]

Voila une application bête et pratique de l'informatique, qui ne fait que préconiser de faire ce que les anciens policiers vétérans faisaient.

Et cela n'a rien à voir avec les minorités, quoiqu'en pense Liberty Human Rights qui ressemble à ces millions d'ONG à la noix défendant les droits des pauvres criminels, surtout s'ils sont de couleurs.