Discussion :

[Stéphane le calme]

Un étudiant poursuit Apple et lui réclame un milliard de dollars,
après avoir été accusé à tort de vol dans un Apple Store par un logiciel de reconnaissance faciale

Un étudiant américain a déclaré que le système de reconnaissance faciale de l’éditeur d’iOS était à l’origine de son arrestation injustifiée dans une série de vols au sein de plusieurs Apple Store (New Jersey, Delaware, Manhattan et Boston). Ousmane Bah ne réclame pas moins d’un milliard de dollars à la marque. La plainte a été déposée lundi 22 avril.

Ousmane Bah, 18 ans, a déclaré avoir été arrêté à son domicile à New York en novembre et accusé d'avoir volé dans un magasin Apple. Le mandat d'arrêt comprenait une photo qui ne ressemblait pas à Bah, a-t-il déclaré dans une plainte déposée lundi. L'un des vols dont il a été accusé, à Boston, a eu lieu en juin, un jour où il assistait au bal de promo dans son établissement à Manhattan, a-t-il déclaré.

Il considère que le logiciel de reconnaissance faciale s’est trompé car ses informations personnelles y ont été associées par erreur au visage du voleur. D’après lui, ces informations auraient été obtenues par le biais de son permis de conduire provisoire qu’il avait perdu et qui aurait été retrouvé par le véritable voleur. Sur celui-ci figurait son nom, son adresse, ainsi que d’autres informations personnelles, mais il ne comprenait pas de photo. Ousmane Bah pense ainsi que le véritable voleur l’a utilisé comme pièce d’identité dans les Apple Store.

Les produits volés ce jour-là représentent une valeur de 1200 dollars. Selon la plainte, le détective de la police de New York, John Reinhold, a d'abord remarqué que Bah « ne ressemblait en rien » au suspect dans la vidéo de surveillance d'un Apple Store de Manhattan qui a été volé. Par la suite, le détective a expliqué que la technologie de sécurité d’Apple identifie les suspects de vol à l’aide de la technologie de reconnaissance faciale. Néanmoins, Apple a déclaré mardi qu'il n'utilisait pas la reconnaissance faciale dans ses magasins. Security Industry Specialists Inc., une entreprise de sécurité également citée à titre de défendeur, a refusé de commenter le procès.

Certains médias rapportent que lorsqu’ils ont contacté Reinhold pour avoir ses commentaires suite à cette déclaration. Il a reconnu qu'Apple n'avait techniquement pas de reconnaissance faciale dans ses magasins, mais que ses déclarations telles que décrites dans la plainte étaient correctes. Il a refusé de répondre à d'autres questions, mais il convient de noter que le deuxième accusé de la poursuite, Security Industry Specialists Inc, pourrait expliquer la contradiction : il est possible que ce soit cette entreprise qui s’est servi de la reconnaissance faciale pour analyser des séquences de sécurité après le fait, et éventuellement en dehors des installations d'Apple.

SIS Security ne mentionne pas explicitement Apple en tant que client sur son site Web public, mais la société tierce semble entretenir une longue relation de travail avec Apple. Un manuel de l'employé 2016 hébergé sur son site Web spécifie Apple en tant que client.

La plainte indique que Bah avait reçu un rapport de police selon lequel un employé de SIS chargé de la prévention des pertes l'avait surpris en train de voler des crayons Apple sur une vidéo de sécurité dans un Apple Store de Boston. Apple aurait prétendu au départ ne pas avoir de vidéo de surveillance, mais a finalement produit le film, selon le procès.

La plainte tente de justifier la réclamation d'un milliard de dollars en alléguant que Apple et SIS ont causé un préjudice à Bah par leurs actes illicites, notamment en le faisant arrêter par le NYPD à son domicile à quatre heures du matin, l'obligeant à manquer l'école ainsi qu’un examen semestriel, ce qui a eu un impact sur sa moyenne générale. La plainte affirme qu’Apple a été négligent et a infligé intentionnellement une détresse émotionnelle, sans compter une diffamation de Bah, entre autres chefs d’accusation.

Selon la plainte, les accusations contre Ousmane Bah ont été abandonnées dans tous les États, à l’exception du New Jersey, où l’affaire est toujours en suspens.

Source : plainte, Bloomberg

Et vous ?

Qu'en pensez-vous ?
Cet incident vient-il souligner à nouveau les limites de la reconnaissance faciale ?

Voir aussi :

JetBlue, une compagnie aérienne, utilise la reconnaissance faciale au lieu des cartes d'embarquement et cela inquiète certains passagers
Microsoft a refusé des ventes de sa technologie de reconnaissance faciale, pour des raisons liées aux droits de l'homme
Des policiers tentent d'empêcher San Francisco d'interdire la surveillance par reconnaissance faciale, le projet de loi a de nombreux défenseurs
Le nouveau système de reconnaissance vocale de Google fonctionne instantanément et hors ligne, mais uniquement sur un téléphone pixel

[Ryu2000]

Qu'en pensez-vous ?

You're going to have to pay me... 1 million dollars
Il a un peu pété un câble avec sa demande d'un milliard de dollars Ousmane Bah.

Cet incident vient-il souligner à nouveau les limites de la reconnaissance faciale ?

La reconnaissance faciale va s'améliorer.
En Chine ça fonctionne pas mal ^^

Les humains également font des erreurs, mais là peut-être qu'ils auraient pu vérifier au lieu d'écouter aveuglement un algorithme.

[Kikuts]

Ca sent bon pour les US : des personnes vont donner leurs papiers à un complice qui va commettre des vols en prenant bien soin de se faire passer pour l'autre personne puis le complice va se faire arrêter, demander des indemnités et bim . Milliardaire.
Je ne sais pas pourquoi on se prend la tête avec un boulot quand il suffit juste de perdre ses papiers

[Ryu2000]

Ca sent bon pour les US : des personnes vont donner leurs papiers à un complice qui va commettre des vols en prenant bien soin de se faire passer pour l'autre personne

Il faut trouver un voleur compétent qui ne te ressemble pas réellement mais qui trompe les algorithmes de reconnaissances faciales (c'est pas si facile) :

Le mandat d'arrêt comprenait une photo qui ne ressemblait pas à Bah, a-t-il déclaré dans une plainte déposée lundi. L'un des vols dont il a été accusé, à Boston, a eu lieu en juin, un jour où il assistait au bal de promo dans son établissement à Manhattan, a-t-il déclaré.

puis le complice va se faire arrêter, demander des indemnités et bim . Milliardaire.

Ce n'est pas parce qu'il demande 1 milliard qu'en cas de victoire au procès il touchera 1 milliard.
Bonne chance pour gagner un procès contre Apple !

Il n'y a pas de reconnaissance faciale dans les boutiques Apple :

Certains médias rapportent que lorsqu’ils ont contacté Reinhold pour avoir ses commentaires suite à cette déclaration. Il a reconnu qu'Apple n'avait techniquement pas de reconnaissance faciale dans ses magasins, mais que ses déclarations telles que décrites dans la plainte étaient correctes. Il a refusé de répondre à d'autres questions, mais il convient de noter que le deuxième accusé de la poursuite, Security Industry Specialists Inc, pourrait expliquer la contradiction : il est possible que ce soit cette entreprise qui s’est servi de la reconnaissance faciale pour analyser des séquences de sécurité après le fait, et éventuellement en dehors des installations d'Apple.

[Sodium]

Un milliard ? Métoutafé...
S'il avait demandé quelques dizaines de milliers, il aurait probablement eu droit à un chèque pour étouffer l'affaire, là il ne va sans doute rien obtenir.

[Aiekick]

il va surement obtenir des tunes, mes pas 1M. si on prend pour exemple ma mamie amerloc qui s'était ,brulé dans un mcdo a cause d'un thé trop chaud, et qui a avait récup plus de 100 millions...

[Kikuts]

Ce n'est pas parce qu'il demande 1 milliard qu'en cas de victoire au procès il touchera 1 milliard

Oui je trollais un petit peu mais s'il touche juste 1% ça serait déjà le jackpot à 18ans

Il n'y a pas de reconnaissance faciale dans les boutiques Apple :

Tu as oublié le "techniquement". J'ai envie d'aller plus loin et dire "officiellement". Je ne crois pas une seconde au fait qu'ils n'aient jamais fait le moindre test.
Ils sont très bon en reconnaissance faciale et les API de détection de satisfaction sont nombreuses. De là à mettre en place un système pour estimer le niveau de satisfaction d'un client sur un produit, son enthousiasme devant un produit etc, il n'y a qu'un pas.
Je pense qu'ils veulent dire "on n'associe pas cette reconnaissance faciale à un nom/personne" mais qu'ils en font quand même.

[Ryu2000]

mais s'il touche juste 1% ça serait déjà le jackpot à 18ans

Soit Apple peut gagner le procès très vite, soit Apple peut dire au gars "tiens on te donne 10 000$ et t'arrêtes le procès, sinon tu vas perdre du temps et de l'argent pour au final perdre le procès".
Parce que ça coûte super cher un avocat, t'as vite fait d'en sortir perdant, il vaut mieux s'arranger avec l'autre partie qu'aller au tribunal.

Le gars a juste été accusé à tord, c'est un truc qui arrive souvent... (et il n'y a pas de procès systématiquement)
Il a juste eu à dire "ce n'est pas moi sur la photo" et "j'ai un alibi".
Je pense qu'Apple ne risque pas grand chose, mais après j'ai peut-être mal compris et je peux me planter.
Là je vois rien de scandaleux.

[marsupial]

En tout cas, preuve est faite des erreurs de la reconnaissance faciale et que malgré le discours de Tim Cook sur la vie privée, Apple est un joli big brother comme les chinois.

[deltree]

Beaucoup de gens sont choqués par la somme délirante, mais il faut rappeler qu'en terme de droit américain, on n'a jamais la somme demandée, (du coup, autant se lâcher), et que la plupart des affaires ne donne pas lieu à un procès, mais à un arrangement, si le procès coute moins cher que l'arrangement, on risque d'aller au procès et finalement de perdre du temps, autant demander une somme délirante justement pour éviter le procès et provoquer un arrangement.

D'autre part si les montants sont très loin du milliard, on se rappelle de cette anecdote du café trop chaud à MacDo qui a rapporté 640 000 $ à la plaignante (elle avait demandé 2,9 millions). On n'aurais jamais des sommes aussi importante en France, c'est la grosse différence que l'on a avec la justice américaine.

[yoyo3d]

Ce n'est pas parce qu'il demande 1 milliard qu'en cas de victoire au procès il touchera 1 milliard

tout à fait, si il n'est pas con, il accepte un arrangement à 5 ou 10 millions "pour le préjudice moral et la diffamation..." et c'est déjà pas mal.
Il peut aussi insister sur le lien "suspect" entre Apple et Security Industry Specialists Inc ou encore sur le fait que sa trombine soit liée à son adresse et à des données perso alors que c'est pas censé le faire.... juste pour voir si ça agace un peu apple.... mais bon.
par contre avoir raté l'école et loupé un examen bon ba faut pas non plus déconner, apple va demander son carnet de notes....

[jean12]

La reconnaissance faciale est un domaine de recherche toujours en pleine expansion. Il pourrait toujours avoir des erreurs, particulièrement dans les photos émanant de la vie réelle où les visages ne sont pas bien cadrés. Et c'est dommage que Ousmane Bah en ait fait les frais. Surement ce type d'erreur cessera quand on aura atteint l'Intelligence Générale Artificielle (AGI).