IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

  1. #1
    Chroniqueuse Actualités

    Femme Profil pro
    Rédacteur Web
    Inscrit en
    mars 2020
    Messages
    320
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Rédacteur Web

    Informations forums :
    Inscription : mars 2020
    Messages : 320
    Points : 5 460
    Points
    5 460
    Par défaut Une technologie basée sur l'IA a permis d'emprisonner un homme de 65 ans pendant près d'un an.
    Une technologie basée sur l'IA a permis d'emprisonner un homme de 65 ans pendant près d'un an
    malgré des preuves insuffisantes

    Michael Williams a été emprisonné en août dernier, accusé d'avoir tué un jeune homme du quartier qui lui avait demandé de le raccompagner lors d'une nuit d'agitation contre les brutalités policières en mai à Chicago. Mais la principale preuve contre Williams n'est pas venue d'un témoin oculaire ou d'un informateur, mais d'une vidéo de sécurité silencieuse montrant une voiture traversant une intersection et d'une forte détonation captée par un réseau de microphones de surveillance. Les procureurs ont déclaré que la technologie alimentée par l’algorithme secret de ShotSpotter qui analyse les bruits détectés par les capteurs indiquait que Williams avait tiré et tué le jeune homme. Williams est resté derrière les barreaux pendant près d'un an avant qu'un juge n'abandonne les poursuites contre lui le mois dernier à la demande des procureurs, qui ont finalement déclaré qu'ils n'avaient pas assez de preuves. Cette situation remet sur la table les conséquences concrètes de la dépendance croissante de la société à l'égard des algorithmes pour prendre des décisions importantes dans de nombreux domaines de la vie publique.

    Il est dit qu'en mai de l'année dernière, Michael Williams conduisait, 65 ans, dans Chicago une nuit dans l'espoir d'acheter des cigarettes. Safarian Herring, 25 ans, lui a fait signe de le déposer et Williams, reconnaissant le jeune homme du quartier, l'a fait monter dans sa voiture. Peu après, « un autre véhicule s'est arrêté à côté de lui, et quelqu'un sur le siège passager a sorti une arme et a tiré sur Herring à la tête », a déclaré Williams à la police. Herring, qui a été emmené à l'hôpital par Williams, est décédé des suites de la blessure par balle et Williams a fini par être accusé de son meurtre. L'un des principaux éléments de preuve contre lui provient de ShotSpotter, une société qui exploite des microphones répartis dans plusieurs villes américaines, dont Chicago, qui, à l'aide d'algorithmes d'apprentissage automatique, détectent et identifient les bruits de coups de feu afin d'alerter immédiatement la police.

    Nom : Screenshot_2021-08-23 Senators question DOJ funding for AI-powered policing tech.png
Affichages : 9589
Taille : 848,5 Ko
    Michael William assis pour une interview


    Les procureurs ont déclaré que ShotSpotter a capté le son d'un coup de feu à l'endroit où Williams a été vu sur les images des caméras de surveillance dans sa voiture, avançant tout cela comme preuve que Williams a tiré sur Herring à cet instant précis. La police n'a pas cité de motif, n'a pas eu de témoin oculaire et n'a pas trouvé l'arme utilisée dans l'attaque. Williams avait un passé criminel, ayant purgé une peine pour tentative de meurtre, vol qualifié et décharge d'une arme à feu lorsqu'il était plus jeune, et a déclaré avoir changé de vie de manière significative depuis. Il a été interrogé par des enquêteurs et a été arrêté.

    Les avocats de Williams, les défenseurs publics Lisa Boughton et Brendan Max, ont déclaré que les dossiers montraient que ShotSpotter avait initialement capté ce qui ressemblait à un feu d'artifice à un kilomètre de distance, et que le personnel de ShotSpotter l'avait ensuite reclassé comme étant un coup de feu à l'intersection où et quand Williams a été vu sur la caméra. ShotSpotter a fermement insisté sur le fait qu'il n'avait pas modifié de manière inappropriée les données pour favoriser l'affaire de la police et a déclaré qu'indépendamment de l'alerte initiale en temps réel, sa preuve du coup de feu était le résultat d'une analyse scientifique de suivi, qui a été soumise aux tribunaux.

    Après que les avocats de Williams ont demandé au juge de mener une enquête, l'accusation a retiré le mois dernier le rapport du ShotSpotter et a demandé un non-lieu pour insuffisance de preuves, ce que le juge a accepté. Williams est à nouveau un homme libre.

    La fiabilité de ShotSpotter remise en question

    ShotSpotter est un outil alimenté par l'IA qui prétend être capable de détecter le son des coups de feu. Son installation pourrait coûter jusqu'à 95 000 dollars par kilomètre carré - par an - rapporte l'Associated Press. Il y a juste un problème. L'algorithme qui analyse les sons pour distinguer les coups de feu des autres bruits n'a jamais été évalué par des universitaires ou des experts externes. « Si ShotSpotter est utilisé comme preuve directe, le problème, c'est qu'il n'existe tout simplement aucune étude permettant d'établir la validité ou la fiabilité de cette technologie. Rien », a déclaré Tania Brief, une avocate de The Innocence Project, un organisme à but non lucratif qui cherche à annuler les condamnations injustifiées.

    Une étude de 2011 commandée par The Innocence Project a découvert que les bennes à ordures, les camions, les motos, les hélicoptères, les feux d'artifice, la construction, la collecte des ordures et les cloches d'église déclenchaient tous des alertes faussement positives, confondant ces sons avec des coups de feu. Le PDG de ShotSpotter, Ralph Clark, a déclaré que l'entreprise améliorait constamment ses classifications audio, mais que le système enregistrait encore un faible pourcentage de faux positifs. Dans le passé, ces fausses alertes (et l'absence d'alertes) ont incité des villes, de Charlotte, en Caroline du Nord, à San Antonio, au Texas, à résilier leurs contrats ShotSpotter. Et le potentiel de problèmes n'est pas seulement spéculatif. Il suffit de regarder le cas de Michael Williams.

    L'expérience de Williams met en évidence les conséquences concrètes de la dépendance croissante de la société à l'égard des algorithmes pour prendre des décisions importantes dans de nombreux domaines de la vie publique. Ce phénomène n'est nulle part plus apparent que dans les forces de l'ordre, qui se sont tournées vers des entreprises technologiques telles que la société de détection de tirs ShotSpotter pour lutter contre la criminalité. Les preuves fournies par ShotSpotter sont de plus en plus souvent admises dans des affaires judiciaires, dont le nombre s'élève aujourd'hui à quelque 200 aux USA. Le site Web de ShotSpotter indique qu'il s'agit d'un "leader en matière de solutions technologiques de police de précision" qui contribue à mettre fin à la violence armée en utilisant "des capteurs, des algorithmes et l'intelligence artificielle" pour classer 14 millions de sons dans sa base de données exclusive comme des coups de feu ou autre chose.

    Mais une enquête de l'Associated Press, basée sur l'examen de milliers de documents internes, de courriels, de présentations et de contrats confidentiels, ainsi que sur des entretiens avec des dizaines de défenseurs publics dans les communautés où ShotSpotter a été déployé, a identifié un certain nombre de défauts graves dans l'utilisation de ShotSpotter comme preuve pour les procureurs. L'enquête a révélé que le système pouvait manquer des coups de feu en direct juste sous ses microphones, ou classer à tort les sons de feux d'artifice ou de voitures qui tournent comme des coups de feu.

    Des rapports scientifiques préparés par des employés de ShotSpotter ont été utilisés au tribunal pour affirmer à tort qu'un accusé avait tiré sur la police, ou pour fournir un décompte douteux du nombre de coups de feu prétendument tirés par l'accusé. Dans un certain nombre d'affaires, les juges ont rejeté ces preuves... Les méthodes d'identification des tirs de l'entreprise ne sont pas toujours guidées uniquement par la technologie. Les employés de ShotSpotter peuvent modifier, et modifient souvent, la source des sons captés par ses capteurs après avoir écouté des enregistrements audio, ce qui introduit la possibilité d'un biais humain dans l'algorithme de détection des coups de feu. Les employés peuvent modifier et modifient effectivement l'emplacement ou le nombre de coups de feu à la demande de la police, selon les dossiers judiciaires. Et dans le passé, les répartiteurs de la ville ou la police elle-même pouvaient également effectuer certains de ces changements.

    D’autres détails surprenants tirés du rapport l'AP. D’abord, une étude publiée en avril dans le Journal of Urban Health s'est penchée sur ShotSpotter dans 68 comtés métropolitains importants de 1999 à 2016, la plus grande étude à ce jour. Elle a constaté que la technologie n'a pas réduit la violence armée ni augmenté la sécurité de la communauté. Ensuite, les outils médico-légaux tels que l'ADN et les preuves balistiques utilisés par les procureurs ont vu leurs méthodologies examinées en détail depuis des décennies, mais ShotSpotter affirme que son logiciel est propriétaire et ne publiera pas son algorithme. Et enfin, en 2018, il a acquis une société de police prédictive appelée HunchLab, qui intègre ses modèles d'IA avec les données de détection de tir de ShotSpotter pour prétendument prédire les crimes avant qu'ils ne se produisent.

    Sources : CSG Analysis, Réponses de ShotSpotter à l'Associated Press

    Et vous ?

    Quels commentaires faites-vous de la situation ?

    Voir aussi :

    L'utilisation de la reconnaissance faciale par la police viole les droits de l'homme, selon un tribunal britannique, cependant, la Cour n'a pas complètement interdit l'utilisation de la technologie

    L'IA basée sur Microsoft Azure est retenue par la police de Nouvelle-Galles du Sud. Elle apporte une analyse plus rapide et aide à l'examen des preuves

    « L'IA n'est ni artificielle ni intelligente », selon Kate Crawford de Microsoft Research, l'universitaire estime que cette technologie donne du pouvoir à des institutions déjà puissantes
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Expert confirmé Avatar de marsupial
    Homme Profil pro
    Retraité
    Inscrit en
    mars 2014
    Messages
    1 262
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Retraité

    Informations forums :
    Inscription : mars 2014
    Messages : 1 262
    Points : 4 895
    Points
    4 895
    Par défaut
    Mais ils sont graves ces paranos d'américains ! Déjà l'IA appliquée à la reconnaissance faciale n'est pas fiable, alors appliquée aux sons... Et ils se permettent de modifier les données pour s'en servir comme preuve. Ils déraisonnent complètement. Comment créer des coupables.
    Repeat after me
    Le monsieur lutte pour la défense des libertés individuelles et collectives

    Repeat after me...

  3. #3
    Membre éclairé
    Profil pro
    Inscrit en
    janvier 2009
    Messages
    248
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : janvier 2009
    Messages : 248
    Points : 665
    Points
    665
    Par défaut
    Je suis tout à fait d'accord avec Marsupial; l'utilisation de l'IA appliquée aux sons peut difficilement servir de preuve pour inculper une personne d'homicide dans une ville mais je tiendrai à ajouter que dans les sous-marins d'attaque et sous marins SNLE américains, la recherche de sous-marins ennemis se fait sur l'analyse sonore par le biais d'algorithmes sur ordinateurs depuis au moins vingt ans. Les sous-marins américains ont au préalable une base de données d'échantillons sonores et les comparent avec les bruits d'hélices suspects environnant.
    C'est à ma connaissance surtout dans la marine française qu'un sous-marinier avec un casque écoute les bruits anvironnants de nos sous-marins. Bref chez la marine francaise être "grand oreille" est tout un métier.

  4. #4
    Membre régulier
    Inscrit en
    juin 2010
    Messages
    30
    Détails du profil
    Informations forums :
    Inscription : juin 2010
    Messages : 30
    Points : 117
    Points
    117
    Par défaut
    Pour / jusqu’à 95 000 dollars par kilomètre carré - par an ne serait il pas plus profitable d'employer des humains pour protéger et servir la communauté ?

  5. #5
    Membre extrêmement actif
    Femme Profil pro
    Webmarketer
    Inscrit en
    janvier 2021
    Messages
    217
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Webmarketer

    Informations forums :
    Inscription : janvier 2021
    Messages : 217
    Points : 441
    Points
    441
    Par défaut
    Pourquoi était-il en prison sans aucune sorte de preuve directe ? Oh oui, c'est Chicago et il est noir... bien sûr, les flics corrompus et le système juridique l'ont jeté en prison. Cette technologie peut être utile pour alerter où se trouve un coup de feu potentiel. Mais c'est là que ça s'arrête. Sans recodage vidéo, elle ne peut pas produire de preuves réelles pour déclarer quelqu'un coupable. A moins d'enregistrer une vidéo haute résolution de la personne tirant avec l'arme. Sans preuve vidéo incontestable, Shotspotter et les technologies associées ne devraient jamais être utilisées dans un tribunal. Toutes les "preuves" produites par cette technologie sont au mieux circonstancielles et très probablement l'équivalent de ouï-dire dans la plupart des situations réelles.

  6. #6
    Membre régulier
    Homme Profil pro
    Développeur informatique
    Inscrit en
    juin 2020
    Messages
    47
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Loiret (Centre)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : juin 2020
    Messages : 47
    Points : 101
    Points
    101
    Par défaut
    Citation Envoyé par Arya Nawel Voir le message
    Pourquoi était-il en prison sans aucune sorte de preuve directe ? Oh oui, c'est Chicago et il est noir... bien sûr, les flics corrompus et le système juridique l'ont jeté en prison. Cette technologie peut être utile pour alerter où se trouve un coup de feu potentiel. Mais c'est là que ça s'arrête. Sans recodage vidéo, elle ne peut pas produire de preuves réelles pour déclarer quelqu'un coupable. A moins d'enregistrer une vidéo haute résolution de la personne tirant avec l'arme. Sans preuve vidéo incontestable, Shotspotter et les technologies associées ne devraient jamais être utilisées dans un tribunal. Toutes les "preuves" produites par cette technologie sont au mieux circonstancielles et très probablement l'équivalent de ouï-dire dans la plupart des situations réelles.
    Peut être parce qu'il "avait un passé criminel, ayant purgé une peine pour tentative de meurtre, vol qualifié et décharge d'une arme à feu lorsqu'il était plus jeune", non ? ou tu ne peux pas le concevoir uniquement parce que l'accusé est noir ?
    Mais tu vas nous affirmer que l'ia sur les sons est aussi raciste comme l'ia sur la reconnaissance faciale ? uniquement si l'ia accuse un noir ? d'ailleurs, c'est à cause des gens comme toi qu'il n'y a pas de surveillance vidéo ...

    Bref, ça aurait été intéressant que l'article précise s'il y a été enfermé comme l’équivalent de la "détention provisoire" (ce qui aurait été légitime vu son passé de criminel) ou enfermé après son jugement.
    ça aurait été intéressant aussi de savoir si on a retrouvé le vrai meurtrier, car si on ne l'a pas retrouvé, cet ancien criminel est toujours suspect même s'il est libre !
    Et il ne faut pas oublier que la vrai victime ici, est celui qui a été tué, peu importe sa couleur de peau, la vrai victime n'est pas cet ancien criminel, même s'il est noir !

  7. #7
    Membre régulier
    Profil pro
    Responsable développement
    Inscrit en
    septembre 2007
    Messages
    66
    Détails du profil
    Informations personnelles :
    Localisation : Côte d'Ivoire

    Informations professionnelles :
    Activité : Responsable développement

    Informations forums :
    Inscription : septembre 2007
    Messages : 66
    Points : 114
    Points
    114
    Par défaut ShotSpotter peut être utile s'il est associé à l'arbitrage de l'homme
    L'homme peut parfois modifier(corriger) certaines prédictions de l'algorithme en vue de l'améliorer davantage lors des prochaines prédictions. Cependant, il faut que les décideurs en soient bien informés afin de prendre en compte seulement les cas qui ne souffrent d'aucune ambiguïté. La technologie peut être aussi volontairement trompée par l'humain (ce qui est un crime), un peu comme les fausses alertes 911.
    En dehors de cela, même dans son état actuel, ShotSpotter peut être utile pour améliorer les patrouilles et permettre aux agents de passer vérifier physiquement, etc., mais il faut être très prudent durant le processus de son adoption et aider la technologie à devenir mature pour le bénéfice de l'humanité.
    Je suis vraiment désolé pour le cas de Michael Williams, je compatis sincèrement...
    Practice makes perfect !
    C'est par la pratique que l'on parvient à la perfection !
    --------------------------------------------------------------
    Artificial Intelligence Ph.D. Student, Bircham International University (BIU) - Madrid
    Civilian in Côte d'Ivoire, Developer, Network Engineer & Machine Learning Engineer

Discussions similaires

  1. Réponses: 2
    Dernier message: 04/07/2007, 17h06
  2. Réponses: 5
    Dernier message: 10/05/2007, 19h04
  3. Réponses: 2
    Dernier message: 29/03/2007, 11h47
  4. pb critère sql dans une requete basée sur controle d'un form
    Par STANDBOY dans le forum Requêtes et SQL.
    Réponses: 5
    Dernier message: 27/02/2006, 16h17
  5. une requête basée sur un seul critère ?
    Par rangernoir dans le forum Access
    Réponses: 5
    Dernier message: 07/09/2005, 18h53

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo