Discussion :

[Stéphane le calme]

USA : Facebook attaqué en recours collectif pour son système de reconnaissance faciale,
l'entreprise n'aurait même pas prévenu les utilisateurs de la collecte d'informations

Nimesh Patel, un utilisateur de Facebook résidant dans l’Illinois, a porté plainte en recours collectif contre le numéro un des réseaux sociaux, alléguant que l’utilisation de la société de la technologie de reconnaissance faciale viole une loi de l'Illinois adoptée en 2008. La BIPA (Biometric Information Privacy Act) définit les limites quant à la façon dont les entreprises peuvent stocker et utiliser les identificateurs biométriques des personnes, que la loi définit comme étant des empreintes digitales, des empreintes vocales, des analyses de la rétine ou de l'iris et des scans de géométrie de la main ou du visage. L’ouverture du procès est prévue pour le mois d’octobre et des poursuites similaires sont en cours dans l’Illinois contre Google et Snapchat.

Notons que, dans les circonscriptions qu’elle établit, la BIPA n’évoque pas les réseaux sociaux, mais s’intéresse plutôt à une utilisation potentielle d’identités biométriques dans les transactions financières tout en rappelant que ces identifiants sont plus radicaux qu’un mot de passe ou un code PIN : si un client voit son identité biométrique volée, de nouvelles empreintes ou un nouveau visage ne sauront pas lui être attribués. Mais le recours collectif n’attaque pas les institutions financières, plutôt les entreprises technologiques.

Pour Patel, lorsque Facebook collecte des informations sur lui cela est normal jusqu’à un certain niveau. Cependant, la plainte assure « qu’en fin de 2010, Facebook a commencé à mettre en œuvre sa fonctionnalité “suggestion de tag”, qui s’appuie sur un logiciel sophistiqué de reconnaissance faciale pour faire correspondre automatiquement des images avec des noms. Le logiciel de Facebook collecte, analyse et compare des marqueurs faciaux sur les photos téléchargées par l'utilisateur et enregistre ce que l'on appelle un “template de visage” dans une base de données Facebook. Lorsqu'un utilisateur télécharge une photo, la fonctionnalité suggestions de tag compare les visages de n'importe quel individu sur cette photo aux templates de visage dans la base de données de Facebook. S'il y a une correspondance, Facebook suggère que l'utilisateur “tag” la personne sur la photo avec le nom approprié ».

La plainte assure qu’il s’agit d’une violation directe de la BIPA étant donné que Facebook collecte, enregistre et se sert des informations biométriques de ses utilisateurs (plus d’un milliard) sans même les en informer ou obtenir leur consentement. « Au lieu de cela, Facebook a annoncé qu'il allait collecter ces données seulement APRÈS avoir déjà commencé à le faire. De plus, Facebook n'a jamais reçu une communication écrite de ses membres autorisant la collecte, le stockage et l'utilisation de leurs informations biométriques. En effet, les membres de Facebook n’ont même pas l’opportunité de donner leur avis étant donné que Facebook a activé par défaut les suggestions de tag sur les comptes des utilisateurs ». Notons que le New York Times a indiqué que l’entreprise l’a fermé en Europe en 2012 à cause des problèmes relatifs à la vie privée.

Sous BIPA, les entreprises privées sont tenues d’élaborer des politiques écrites indiquant combien de temps elles conserveront les informations biométriques des personnes et quand elles détruiront définitivement ces données. « D'une certaine manière, il s'agit d'une loi modeste », a estimé Claire Gartland, avocate qui travaille sur les questions de confidentialité des consommateurs à EPIC, Electronic Privacy Information Center. « Il suffit d'un avertissement au consommateur ».
En maintenant une base de données des templates de visages des utilisateurs sans pour autant avoir une politique écrite mise en place, la plainte estime que Facebook a violé la loi. Un porte-parole de Facebook a refusé de répondre aux questions sur cette plainte, mais a expliqué que les utilisateurs peuvent facilement désactiver cette fonctionnalité de leurs comptes.

Fin de 2015, Facebook a déposé une motion d’annulation en se basant sur son interprétation de la liste des identificateurs biométriques du BIPA, qui inclut des scans du visage et de ses géométries, mais exclut explicitement les photographies et les descriptions physiques. Facebook a fait valoir que la loi se réfère uniquement aux scanners qui créent des enregistrements biométriques basés sur le visage physique. Mais la cour a estimé que l'argument de Facebook était « peu convaincant » , affirmant que la loi était destinée à traiter toutes les technologies biométriques émergentes. La cour a donc rejeté la motion de Facebook. Si Facebook perd, l’entreprise pourrait être forcée à payer des dommages et intérêts à des millions d'utilisateurs de l'Illinois et de changer ses politiques dans cet État voire sur l’ensemble des États-Unis.

Anil Jain

Anil Jain, un professeur de sciences informatiques dans l’université du Michigan, pense que la cour pourrait chercher à savoir si Facebook s’est servi de l’approche conventionnelle des logiciels de correspondance. De tels systèmes conçoivent et stockent des templates de visage basés sur des milliers de mesures : « ils extraient des repères par échantillonnage à travers les contours du visage, des sourcils, du nez, des points le long des lèvres, des deux extrémités de la bouche », a assuré Jain.

Il a noté que les chercheurs de Facebook pour leur part ont lancé une nouvelle approche de la reconnaissance faciale qui s'appuie sur l'apprentissage automatique, en introduisant leur système DeepFace dans un article de 2014. Dans le rapport, les chercheurs décrivent la formation de leur système en utilisant un ensemble de données de 4,4 millions de visages associés à des noms et tirés de photographies Facebook. Le réseau de neurones profond du système a examiné les visages basés sur des millions de paramètres et a dérivé ses règles d'appariement de visage basées sur son apprentissage. « C'est plus comme une boîte noire », a affirmé Jain.

Pour les groupes de défense des libertés numérique, ce débat est attendu depuis longtemps. Jennifer Lynch, un avocat au sein de l’EFF, a rappelé que la technologie a connu une évolution rapide ces dernières années, seulement la réglementation n’a pas pu suivre le rythme. « Nous pourrions bientôt avoir des caméras de sécurité dans les magasins qui identifient les gens pendant qu’ils font leurs achats », s’est-elle inquiétée.

Source : plainte en recours collectif, New York Times (Facebook se rétracte en Europe), motion d'annulation de Facebook (au format PDF) , décision de justice sur la motion de Facebook (au format PDF), DeepFace

[Invité]

Pour les groupes de défense des libertés numérique, ce débat est attendu depuis longtemps. Jennifer Lynch, un avocat au sein de l’EFF, a rappelé que la technologie a connu une évolution rapide ces dernières années, seulement la réglementation n’a pas pu suivre le rythme. « Nous pourrions bientôt avoir des caméras de sécurité dans les magasins qui identifient les gens pendant qu’ils font leurs achats », s’est-elle inquiétée.

Cela existe deja: http://www.bbc.com/news/technology-35111363. La question devrait etre ce qui est fait des données collectées, si données collectées par des sociétés privées (pour les données collectées par les gouvernements, on retombe dans le context Snowden).

[Citrax]

Fessebouc, s'entraine et s'amuse depuis longtemps a bouffer et collecter les gens sous couvert d'AUCUNE ethique !!!
E.Snowden n'a pas manqué de prevenir tous ceux qui ne le savaient* pas.
A present trop tard pour l'arreter. Tanpis pour les utilisateurs naifs, par chance peu se retrouve ici.

[Blondelle Mélina]

USA : une action de groupe contre Facebook jugée recevable,
l'entreprise est attaquée sur son système de reconnaissance faciale

Déjà en 2016, Nimesh Patel, un utilisateur de Facebook résidant dans l’Illinois, a porté plainte en recours collectif contre le numéro un des réseaux sociaux, alléguant que l’utilisation de la société de la technologie de reconnaissance faciale viole une loi de l'Illinois adoptée en 2008. La BIPA (Biometric Information Privacy Act) définit les limites quant à la façon dont les entreprises peuvent stocker et utiliser les identificateurs biométriques des personnes, que la loi définit comme étant des empreintes digitales, des empreintes vocales, des analyses de la rétine ou de l'iris et des scans de géométrie de la main ou du visage. La première plainte contre Facebook sur ce dossier remonte en 2015 quand des utilisateurs du réseau social l'avaient accusé d'enfreindre les lois de l'État de l'Illinois portant sur la confidentialité des données biométriques.

Le juge fédéral américain James Donato vient de déclarer recevable cette plainte collective contre Facebook, accusé d’avoir mis en place une technologie de reconnaissance faciale sur les photos sans la permission des utilisateurs.

La « class action » jugée recevable par le juge Donato concerne des utilisateurs de Facebook dans l’Illinois pour lesquels le réseau social a créé et conservé des algorithmes de reconnaissance faciale après le 7 juin 2011. C’est à partir de cette date que Facebook a lancé la fonction « Tag Suggestions », un outil qui propose aux utilisateurs d'identifier une personne sur une photo.

La plainte assure qu’il s’agit d’une violation directe de la BIPA étant donné que Facebook collecte, enregistre et se sert des informations biométriques de ses utilisateurs (plus d’un milliard) sans même les en informer ou obtenir leur consentement. « Au lieu de cela, Facebook a annoncé qu'il allait collecter ces données seulement après avoir déjà commencé à le faire. De plus, Facebook n'a jamais reçu une communication écrite de ses membres autorisant la collecte, le stockage et l'utilisation de leurs informations biométriques. En effet, les membres de Facebook n’ont même pas l’opportunité de donner leur avis étant donné que Facebook a activé par défaut les suggestions de tag sur les comptes des utilisateurs. »

Notons que, dans les circonscriptions qu’elle établit, la BIPA n’évoque pas les réseaux sociaux, mais s’intéresse plutôt à une utilisation potentielle d’identités biométriques dans les transactions financières tout en rappelant que ces identifiants sont plus radicaux qu’un mot de passe ou un code PIN : si un client voit son identité biométrique volée, de nouvelles empreintes ou un nouveau visage ne sauront pas lui être attribués. Mais le recours collectif n’attaque pas les institutions financières, plutôt les entreprises technologiques.

Facebook a dit examiner la décision du juge Donato et promet de se défendre. « Nous continuons à penser que l’affaire est sans fondement et nous nous défendrons vigoureusement », a déclaré la compagnie dans un communiqué.

Source : REUTERS

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

USA : Facebook attaqué en recours collectif pour son système de reconnaissance faciale
Reconnaissance faciale : Facebook serait en train de tester une nouvelle fonctionnalité

[Blondelle Mélina]

Facebook pourrait être condamné à une amende de plusieurs milliards de dollars
dans le cadre du procès sur son système de reconnaissance faciale

Facebook pourrait être condamné à une amende de plusieurs milliards de dollars après qu'un juge fédéral a jugé recevable un recours collectif contre l'entreprise sur sa technologie de reconnaissance faciale. La plainte à l'origine stipule que la fonction « Tag Suggestions » de Facebook, utilisant une technologie de reconnaissance faciale, viole une loi de l'Illinois adoptée en 2008. De plus, le réseau social utiliserait cette fonctionnalité sans l'approbation de ses utilisateurs puisqu'elle était activée par défaut. Le juge James Donato chargé de l'affaire a déclaré : « un recours collectif est clairement supérieur aux procédures individuelles dans ce type de cas. »

L'outil de « tags suggestions » de Facebook identifie les utilisateurs dans les photos téléchargées et suggère le marquage automatique par les amis. Il fonctionne globalement en quatre étapes : le logiciel essaie de détecter les visages dans les photos téléchargées. Une fois un visage détecté, Facebook calcule une « signature », une série de chiffres qui « représente une image particulière d'un visage » basée sur une photo et une base de données « visage » que le système utilise pour rechercher des signatures pour une correspondance. Si la signature correspond, Facebook suggère alors l'étiquette. Facebook dit ne pas stocker les signatures faciales et ne conserver que les modèles de visages.

Mais selon les plaignants, Facebook « recueille et stocke leurs données biométriques sans préavis ou consentement en violation de leurs droits à la vie privée ». La Loi sur la protection des données biométriques de l'Illinois (BIPA) exige pourtant un consentement explicite avant que les entreprises puissent recueillir des données biométriques comme des empreintes digitales ou des profils de reconnaissance faciale.

Il convient de noter que Facebook a également notifié les utilisateurs de ses fonctionnalités de reconnaissance faciale, mais la plainte se base sur le fait que c'était trop tard, puisque les données des utilisateurs avaient déjà été collectées. Avec la décision du juge, des millions d'utilisateurs du réseau social pourraient collectivement poursuivre l'entreprise. Et la BIPA prévoit une amende de 1000 à 5000 dollars USD pour chaque violation, c'est-à-dire ici, chaque fois que l'image de quelqu'un est utilisée sans autorisation.

Un avocat des utilisateurs de Facebook, Shawn Williams, a déclaré : « alors que plus de gens prennent conscience de la portée de la collecte de données de Facebook et que les conséquences commencent à s'attacher à cette collecte de données, économiques ou réglementaires, Facebook devra examiner ses pratiques de confidentialité et apporter des changements conformes aux attentes des utilisateurs. »

Dans un communiqué, Facebook a déclaré : « nous examinons la décision. Nous continuons à croire que l'affaire n'a aucun fondement et nous nous défendrons vigoureusement ». Facebook dit aussi qu'il a toujours été clair sur le fonctionnement de la fonction de tag, et les utilisateurs peuvent facilement la désactiver s'ils le souhaitent.

Source : THE VERGE

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

USA : Facebook attaqué en recours collectif pour son système de reconnaissance faciale
Reconnaissance faciale : Facebook serait en train de tester une nouvelle fonctionnalité

[Stéphane le calme]

Facebook pourrait être condamné à une amende de plusieurs milliards de dollars,
après avoir perdu un appel sur son système de reconnaissance faciale

Une cour d’appel fédérale a rejeté jeudi les efforts de Facebook pour annuler un recours collectif, affirmant qu’elle avait collecté et stocké illégalement des données biométriques de millions d’utilisateurs sans leur consentement.

La décision à l’unanimité de la 9e cour d’appel du circuit américain à San Francisco concernant la technologie de reconnaissance faciale de Facebook expose la société à des milliards de dollars de dommages et intérêts potentiels pour les utilisateurs de l’Illinois qui ont porté l’affaire.

« Ces données biométriques sont si sensibles que si elles sont compromises, il n'y a tout simplement aucun recours », a déclaré Shawn Williams, avocat des demandeurs dans le recours collectif, lors d'un entretien. « Ce n’est pas comme une carte de sécurité sociale ou un numéro de carte de crédit où vous pouvez changer le numéro. Vous ne pouvez pas changer de visage ».

Rappel des circonstances

En 2015, Nimesh Patel, un utilisateur de Facebook résidant dans l’Illinois, a porté plainte en recours collectif contre le numéro un des réseaux sociaux, alléguant que l’utilisation de la société de la technologie de reconnaissance faciale viole une loi de l'Illinois adoptée en 2008. La BIPA (Biometric Information Privacy Act) définit les limites quant à la façon dont les entreprises peuvent stocker et utiliser les identificateurs biométriques des personnes, que la loi définit comme étant des empreintes digitales, des empreintes vocales, des analyses de la rétine ou de l'iris et des scans de géométrie de la main ou du visage. L’ouverture du procès est prévue pour le mois d’octobre et des poursuites similaires sont en cours dans l’Illinois contre Google et Snapchat.

Notons que, dans les circonscriptions qu’elle établit, la BIPA n’évoque pas les réseaux sociaux, mais s’intéresse plutôt à une utilisation potentielle d’identités biométriques dans les transactions financières tout en rappelant que ces identifiants sont plus radicaux qu’un mot de passe ou un code PIN : si un client voit son identité biométrique volée, de nouvelles empreintes ou un nouveau visage ne sauront pas lui être attribués. Mais le recours collectif n’attaque pas les institutions financières, plutôt les entreprises technologiques.

Pour Patel, lorsque Facebook collecte des informations sur lui cela est normal jusqu’à un certain niveau. Cependant, la plainte assure « qu’en fin de 2010, Facebook a commencé à mettre en œuvre sa fonctionnalité “suggestion de tag”, qui s’appuie sur un logiciel sophistiqué de reconnaissance faciale pour faire correspondre automatiquement des images avec des noms. Le logiciel de Facebook collecte, analyse et compare des marqueurs faciaux sur les photos téléchargées par l'utilisateur et enregistre ce que l'on appelle un “template de visage” dans une base de données Facebook. Lorsqu'un utilisateur télécharge une photo, la fonctionnalité suggestions de tag compare les visages de n'importe quel individu sur cette photo aux templates de visage dans la base de données de Facebook. S'il y a une correspondance, Facebook suggère que l'utilisateur “tag” la personne sur la photo avec le nom approprié ».

La plainte assure qu’il s’agit d’une violation directe de la BIPA étant donné que Facebook collecte, enregistre et se sert des informations biométriques de ses utilisateurs (plus d’un milliard) sans même les en informer ou obtenir leur consentement. « Au lieu de cela, Facebook a annoncé qu'il allait collecter ces données seulement APRÈS avoir déjà commencé à le faire. De plus, Facebook n'a jamais reçu une communication écrite de ses membres autorisant la collecte, le stockage et l'utilisation de leurs informations biométriques. En effet, les membres de Facebook n’ont même pas l’opportunité de donner leur avis étant donné que Facebook a activé par défaut les suggestions de tag sur les comptes des utilisateurs ». Notons que le New York Times a indiqué que l’entreprise l’a fermé en Europe en 2012 à cause des problèmes relatifs à la vie privée.

Sous BIPA, les entreprises privées sont tenues d’élaborer des politiques écrites indiquant combien de temps elles conserveront les informations biométriques des personnes et quand elles détruiront définitivement ces données. « D'une certaine manière, il s'agit d'une loi modeste », a estimé Claire Gartland, avocate qui travaille sur les questions de confidentialité des consommateurs à EPIC, Electronic Privacy Information Center. « Il suffit d'un avertissement au consommateur ».
En maintenant une base de données des templates de visages des utilisateurs sans pour autant avoir une politique écrite mise en place, la plainte estime que Facebook a violé la loi. Un porte-parole de Facebook a refusé de répondre aux questions sur cette plainte, mais a expliqué que les utilisateurs peuvent facilement désactiver cette fonctionnalité de leurs comptes.

Fin de 2015, Facebook a déposé une motion d’annulation en se basant sur son interprétation de la liste des identificateurs biométriques du BIPA, qui inclut des scans du visage et de ses géométries, mais exclut explicitement les photographies et les descriptions physiques. Facebook a fait valoir que la loi se réfère uniquement aux scanners qui créent des enregistrements biométriques basés sur le visage physique. Mais la cour a estimé que l'argument de Facebook était « peu convaincant » , affirmant que la loi était destinée à traiter toutes les technologies biométriques émergentes. La cour a donc rejeté la motion de Facebook.

Le recours collectif se poursuit

Lorsqu’elle s’est prononcée devant la cour d’appel, la juge Sandra Ikuta a déclaré que les utilisateurs de l’Illinois pouvaient intenter un procès en groupe, rejetant ainsi l’argument de Facebook selon lequel leurs revendications étaient uniques et nécessitaient des poursuites individuelles.

Dans sa décision, la cour d'appel était en désaccord avec la société : « nous concluons que le développement d’un modèle de visage utilisant une technologie de reconnaissance faciale sans consentement (comme allégué ici) empiète sur les affaires privées et les intérêts concrets d’un individu », a écrit la cour, renvoyant l’affaire au tribunal de première instance pour une procédure ultérieure.

Les enjeux sont potentiellement importants pour Facebook. La loi de l'Illinois autorise des paiements de 1 000 ou 5 000 dollars par violation, selon la gravité de la violation. Le recours collectif pourrait potentiellement inclure des millions d'utilisateurs de Facebook, ce qui signifie que l'entreprise pourrait un jour être obligée de payer des milliards de dollars de dommages et intérêts, si elle perdait finalement gain de cause.

Williams, partenaire chez Robbins Geller Rudman & Dowd, a déclaré que le recours collectif pourrait inclure 7 millions d'utilisateurs de Facebook.

Facebook a annoncé son intention de faire appel. « Nous prévoyons de demander un nouvel examen de la décision », a déclaré un porte-parole de Facebook dans un communiqué. Et d’ajouter que « nous avons toujours divulgué notre utilisation de la technologie de reconnaissance faciale et précisé que les gens peuvent l'activer ou la désactiver à tout moment », a déclaré un porte-parole.

Des groupes de défense des libertés civiles ont soutenu le recours collectif et l’Union américaine des libertés civiles ACLU s’est félicitée de la décision. « Cette décision est une reconnaissance claire des dangers d'une utilisation sans entrave de la technologie de reconnaissance faciale », a déclaré l'avocat de l'ACLU, Nathan Freed Wessler, dans un communiqué.

Source : décision de justice (au format PDF)

[Stan Adkens]

Facebook doit faire face à une poursuite de 35 milliards de dollars pour sa reconnaissance faciale,
A la suite d'une dernière décision judiciaire

Facebook a essuyé un autre échec dans sa tentative de mettre fin à un recours collectif de 35 milliards de dollars concernant une présumée utilisation abusive des données de reconnaissance faciale en Illinois. Le vendredi dernier, à San Francisco, la Cour d'appel du 9e circuit des États-Unis, qui auraient pu faire cesser le recours, a rejeté la demande de Facebook pour une audience en formation plénière dans cette affaire. L'affaire va maintenant être jugée à moins que la Cour suprême n'intervienne.

Facebook avait demandé une audience en formation plénière pour en appeler de la décision rendue en août par le 9e circuit, dans laquelle le tribunal avait déterminé que les demandeurs avaient qualité pour intenter une poursuite, même si les actions alléguées de Facebook ne leur avaient causé aucun préjudice financier quantifiable. En effet, en début du mois dernier, un jury de trois juges a rejeté la requête en irrecevabilité de Facebook et l'appel interjeté contre la certification de l’action de classe des plaignants. L'un de ces juges avait déclaré qu'il « semble probable » que les données de reconnaissance faciale de Facebook puissent être utilisées pour les identifier dans des séquences de surveillance ou même pour déverrouiller un téléphone cellulaire biométriquement sécurisé.

Depuis 2015, trois résidents de l'Illinois ont porté plainte contre Facebook pour sa technologie de reconnaissance faciale. Les poursuites, qui ont finalement été regroupées en une seule plainte de recours collectif, stipulent que la fonction « Tag Suggestions » de Facebook, utilisant une technologie de reconnaissance faciale, viole une loi de l'Illinois adoptée en 2008 – la BIPA (Biometric Information Privacy Act). De plus, le réseau social utiliserait cette fonctionnalité sans l'approbation de ses utilisateurs puisqu'elle était activée par défaut. Le juge James Donato chargé de l'affaire a déclaré en avril 2018 : « un recours collectif est clairement supérieur aux procédures individuelles dans ce type de cas. »

Pour rappel, l'outil de « tags suggestions » de Facebook identifie les utilisateurs dans les photos téléchargées et suggère le marquage automatique par les amis. Il fonctionne globalement en quatre étapes : le logiciel essaie de détecter les visages dans les photos téléchargées. Une fois un visage détecté, Facebook calcule une « signature », une série de chiffres qui « représente une image particulière d'un visage » basée sur une photo et une base de données « visage » que le système utilise pour rechercher des signatures pour une correspondance. Si la signature correspond, Facebook suggère alors l'étiquette. Facebook a dit ne pas stocker les signatures faciales et ne conserver que les modèles de visages.

Le 5 août dernier, une cour d’appel fédérale a rejeté un premier appel de Facebook, affirmant qu’elle avait collecté et stocké illégalement des données biométriques de millions d’utilisateurs sans leur consentement. Lors d'un entretien, Shawn Williams, l’avocat des demandeurs dans le recours collectif, a déclaré que « Ces données biométriques sont si sensibles que si elles sont compromises, il n'y a tout simplement aucun recours ». « Ce n’est pas comme une carte de sécurité sociale ou un numéro de carte de crédit où vous pouvez changer le numéro. Vous ne pouvez pas changer de visage », a-t-il ajouté.

Nicholas Iovino, un reporter fédéral qui couvre la cour fédérale de San Francisco, a partagé la décision judiciaire de vendredi sur Twitter. Un porte-parole de Facebook, en donnant son avis sur la décision, a déclaré : « Facebook a toujours parlé aux gens de son utilisation de la technologie de reconnaissance faciale et leur a donné le contrôle sur l'utilisation qui en est faite. Nous sommes en train de revoir nos options et nous continuerons à nous défendre vigoureusement ».

Maintenant que le recours collectif peut aller de l'avant, Facebook serait passible d'une amende pouvant aller jusqu'à 5 000 dollars pour chaque violation délibérée de la loi de l'Illinois, si l'affaire est effectivement portée en justice et que l'entreprise perd. Soit une amende totale d’environ 35 milliards de dollars, puisqu’il y a environ 7 millions d'utilisateurs de Facebook dans l'Illinois.

La reconnaissance faciale aussi décriée pour ses faux positifs

Pendant que le géant des réseaux sociaux pourrait payer 35 milliards de dollars dans un procès contre sa technologie de reconnaissance faciale qui fait très bien ce qu’elle est censée faire, une autre application de la reconnaissance faciale fait face à des critiques à cause de ses faux positifs.

L'American Civil Liberties Union (la branche du Massachusetts) a actualisé le test que l’organisation effectue sur le logiciel Rekognition d'Amazon et a publié les résultats le lundi. Lors du test, l’ACLU de Massachusetts a comparé par erreur de nombreux athlètes professionnels de Nouvelle-Angleterre à des photos d'agresseurs tirées d'une base de données. L'ACLU a comparé les images de 188 athlètes des équipes des Bruins de Boston, des Celtics de Boston, des Red Sox de Boston et des New England Patriots avec une base de données d'environ 20 000 photos des personnes arrêtées. L'ACLU a constaté que 27 des athlètes de haut niveau, soit plus de 14 %, étaient faussement identifiés parmi les photos.

Le test fait partie de la campagne d'éducation publique dénommée Press Pause on Face Surveillance de l'ACLU. Ce n’est pas la première fois que Rekognition fait parler de ses faux positifs. La section de Californie du Nord de l'ACLU a effectué un test similaire en juillet 2018, au cours duquel Rekognition a incorrectement identifié 28 membres du Congrès dans une base de données de photos d'identité de criminels. 40 % des correspondances erronées lors du test de l’ACLU à l’époque étaient des personnes de couleur, alors que les personnes de couleur ne représentent que 20 % du Congrès.

Bien avant ce test, dans une lettre à Jeff Bezos, Black Caucus du Congrès avait exprimé son inquiétude à propos des « graves conséquences néfastes inattendues » que Rekognition pourrait avoir pour les Noirs, les immigrants sans papiers et les manifestants. Les faux positifs de Rekognition continuent d’inquiéter d’autant plus qu’Amazon a activement courtisé des partenariats avec les services de police pour étendre l'utilisation de Rekognition par les forces de l'ordre, ainsi par les agences fédérales frontalières. Au cours des deux dernières années, l'entreprise a également élargi sa collaboration avec les services de police afin de vendre ses sonnettes à caméras Ring ainsi que des produits de surveillance à domicile.

C’est pour toutes ces raisons que des employés et des actionnaires d’Amazon, une coalition de presque 70 associations de défense des libertés civiles, plus de 400 membres de la communauté universitaire et plus de 150 000 citoyens ont élevé leurs voix pour exiger d’Amazon qu’elle arrête de fournir sa technologie de reconnaissance faciale au gouvernement. Ils demandent également au Congrès de prendre les dangers découlant de la reconnaissance faciale au sérieux et d’empêcher cette technologie d’être utilisée jusqu’à ce que les éventuelles conséquences néfastes soient examinées de fond en comble de manière à ne pas pouvoir fragiliser des communautés déjà vulnérables.

Mais en dépit de ces nombreuses protestations, Amazon a réaffirmé, en mai dernier, sa ferme intention de continuer à vendre son application de reconnaissance facile aux forces de l'ordre et au service de contrôle de l'immigration et des douanes (CED) des États-Unis.

Pour rappel, l'ACLU avait attiré l'attention en 2018 sur le dépôt d'un brevet d’Amazon qui permettrait d’intégrer Rekognition dans les caméras Ring. Ed Markey, sénateur du Massachusetts au Congrès des États-Unis, a insisté pour que la société explique en détail ce nouveau brevet plus tôt cette année. Dans un tweet publié mardi, M. Markey est revenu sur les dérives de la technologie de reconnaissance faciale d’Amazon en déclarant : « L'amateur de sport moyen serait probablement plus à même d'identifier ces athlètes que la technologie Rekognition d'Amazon ». « Les forces de l'ordre ne devraient pas se fier à cette technologie potentiellement discriminatoire », a-t-il ajouté.

Sources : ACLU, Tweets (1 & 2)

Et vous ?

Que pensez-vous du dernier rebondissement dans l’affaire reconnaissance faciale de Facebook ?
Quel commentaire faites-vous des derniers faux positifs de Rekognition d’Amazon ?

Lire aussi

La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels, quels dangers pour les Américains ?
USA : Facebook attaqué en recours collectif pour son système de reconnaissance faciale, l'entreprise n'aurait même pas prévenu les utilisateurs
Facebook pourrait être condamné à une amende de plusieurs milliards de dollars, dans le cadre du procès sur son système de reconnaissance faciale
USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon, craignant une surveillance de masse par la police

[Mingolito]

La reconnaissance faciale c'est un progrès pour la sécurité, dommage que la justice face obstruction au progrès

[Stan Adkens]

Facebook va payer 550 millions $ pour régler le procès de reconnaissance faciale,
Après avoir été accusé d'avoir transgressé la loi sur la confidentialité des informations biométriques de l'Illinois

Facebook a publié ses résultats financiers trimestriels le mercredi dernier et en a profité pour déclarer qu'il avait accepté de payer 550 millions de dollars pour régler un procès collectif concernant son utilisation de la technologie de reconnaissance faciale en Illinois, a rapporté le New York Times. Le procès a commencé en 2015, lorsque trois résidents de l'Illinois ont poursuivi Facebook en vertu d'une loi de l'État, le Biometric Information Privacy Act, l'une des deux seules lois du pays à réglementer l'utilisation commerciale de la reconnaissance faciale.

La poursuite allègue que la version initiale de l'outil "Tag Suggestions" de Facebook, qui scanne le visage sur des photos et offre des suggestions sur l'identité des utilisateurs, a stocké des données biométriques sans le consentement de ces derniers et sans leur dire combien de temps ces données seraient conservées, violant ainsi la loi de l'Etat sur la confidentialité des informations biométriques. Cet accord donne ainsi aux groupes de protection de la vie privée une victoire majeure qui a de nouveau soulevé des questions sur les pratiques d'exploration des données du réseau social.

Selon l'accord, Facebook paiera 550 millions de dollars aux utilisateurs éligibles de l'Illinois et pour les frais juridiques des plaignants. Les cabinets d'avocats représentant les utilisateurs de Facebook dans le procès de reconnaissance faciale ont qualifié l’accord de plus important règlement en espèces jamais obtenu pour résoudre un procès lié à la protection de la vie privée. Dans une déclaration, les cabinets d'avocats Edelson, Robbins Geller et Labaton Sucharow ont indiqué que les plaignants demanderont à la cour de district de donner son accord préliminaire pour le règlement.

« Cette affaire devrait servir d'appel aux entreprises pour leur dire que les consommateurs se soucient profondément de leurs droits à la vie privée et que, s'ils sont poussés, ils se battront pour ces droits jusqu'à la Cour suprême, puis jusqu'à ce qu'ils soient justement indemnisés », a déclaré Paul Geller, le responsable de la branche protection des consommateurs du cabinet d'avocats Robbins Geller, dans la déclaration.

Selon le New York Times, Facebook a divulgué le règlement dans le cadre de ses résultats financiers trimestriels, dans lesquels elle a pris en charge le montant de l’accord. Facebook a annoncé que ses revenus ont augmenté de 25 % à 21 milliards de dollars au quatrième trimestre 2019, par rapport à l'année précédente, tandis que le bénéfice a augmenté de 7 % à 7,3 milliards de dollars, a rapporté le NYT.

David Wehner, le directeur financier de Facebook, a noté dans un appel aux investisseurs que le règlement s'ajoutait à l'augmentation des frais généraux et administratifs du réseau social, qui ont augmenté de 87 % par rapport à l'année dernière. Dans un communiqué, un porte-parole de la société a déclaré que « Nous avons décidé de poursuivre un règlement, car il était dans l'intérêt de notre communauté et de nos actionnaires de dépasser cette affaire ».

La loi de l'Illinois sur la biométrie a arrêté Facebook dans sa course vers la reconnaissance faciale

Le règlement relatif à la protection de la vie privée arrive à un moment où le public est de plus en plus inquiet face à la diffusion de technologies de surveillance puissantes comme la reconnaissance faciale. Des sociétés comme Amazon et Clearview AI commercialisent des logiciels de reconnaissance faciale auprès des services de police pour les aider à identifier des suspects inconnus.

Sur son site Web, Clearview AI, à l’origine de l’application de reconnaissance faciale Clearview, indique que c'est un nouvel outil de recherche utilisé par les organismes d’application de la loi pour identifier les auteurs et les victimes de crimes. Un porte-parole de la startup a dit au New York Post plus tôt ce mois que plus de 600 organismes l'ont adoptée au cours de 2019 – des organismes locaux tels que le département de police de Gainesville en Floride, aux opérations fédérales, y compris le FBI et la sécurité intérieure américaine.

L'Union américaine des libertés civiles (ACLU) et d'autres groupes ont averti que la diffusion de tels services pourrait mettre fin à la capacité des gens à rester anonymes en public. En 2019, l’ACLU, le Centre des réfugiés et des immigrants pour l’éducation et les services juridiques (RAICES) et l’Electronic Frontier Foundation (EFF) ont fait partie des groupes de défense qui se sont associés à un effort commun visant à interpeller les acteurs les plus influents de la Silicon Valley au vu des efforts qu’ils consentent pour développer des systèmes de reconnaissance faciale et des responsabilités qui leur incombent.

Selon le NYT, parmi les États qui disposent de lois biométriques autonomes sur la protection de la vie privée, l'Illinois est celui qui a la législation la plus complète. Le Biometric Information Privacy Act exige des entreprises qu'elles obtiennent une autorisation écrite avant de collecter les empreintes digitales, les scans faciaux ou d'autres caractéristiques biologiques permettant d'identifier une personne. La loi donne également aux résidents le droit de poursuivre les entreprises en justice jusqu'à 5 000 $ par infraction, ce qui pourrait représenter des milliards de dollars de paiements pour les géants de la technologie qui perdent ces recours collectifs.

L’accord de Facebook illustre les protections que des lois étatiques fortes peuvent offrir aux consommateurs. Marc Rotenberg, directeur exécutif de l'Electronic Privacy Information Center, un groupe à but non lucratif qui a déposé un mémoire dans l'affaire Facebook, a déclaré : « La loi de l'Illinois a de vraies dents. Elle a pratiquement arrêté Facebook dans sa course ». « Les entreprises technologiques et autres sociétés qui collectent des données biométriques doivent être très nerveuses en ce moment », a-t-il ajouté.

Selon le NYT, depuis que la loi de l'Illinois a été promulguée en 2008, elle a contrarié les entreprises qui commercialisent des assistants vocaux, des caméras de sonnette, l'étiquetage des photos et d'autres technologies susceptibles de recueillir des détails biométriques sur les personnes à leur insu ou sans leur consentement. Une loi similaire définit le cadre d'une interdiction de l'utilisation de la reconnaissance faciale par les agences gouvernementales de la ville de San Francisco.

La reconnaissance faciale de Facebook est contestée depuis son lancement

Facebook fait l'objet de plaintes pour son utilisation de la reconnaissance faciale depuis 2010, date à laquelle la société a lancé la fonctionnalité par défaut "Tag Suggestions" pour les utilisateurs, a rapporté le NYT. Les gens pouvaient la désactiver, mais les experts en matière de protection de la vie privée ont déclaré que l'entreprise n'avait pas obtenu le consentement des utilisateurs pour cette technologie.

En 2012, Facebook a désactivé la technologie en Europe après que les régulateurs aient soulevé des questions sur son système de consentement. En 2018, Facebook a commencé à expliquer de manière plus transparente sa technologie de reconnaissance faciale aux utilisateurs, en dirigeant les gens vers une page de paramètres où ils pouvaient la désactiver. L'année dernière, dans le cadre d'un accord de 5 milliards de dollars avec la Commission fédérale du commerce sur les violations de la vie privée, l'entreprise a décidé de rendre la reconnaissance faciale sur la plateforme opt-in uniquement, après des années d'activation par défaut pour tous les utilisateurs.

Bien que 550 millions de dollars puissent sembler être un montant important, il s'agit essentiellement d’un montant dérisoire pour Facebook, qui vient de déclarer des revenus de 21 milliards de dollars pour le quatrième trimestre de 2019. Il faut rappeler toutefois qu’une plaignante a poursuivi Google à Chicago pour avoir prétendument téléchargé ses photos sur Google Photos et scanné son visage sans sa permission, mais l'affaire a été rejetée en 2018 après qu'un juge ait estimé que la plaignante n'avait pas subi de "blessures concrètes", a rapporté Bloomberg à l’époque. C’est pourquoi cet accord est une victoire importante pour les groupes de défense de la vie privée.

Source : The News York Times

Et vous ?

Qu’en pensez-vous ?
Pensez-vous que de tels règlements puissent décourager des entreprises du secteur de la technologie dans l’utilisation de reconnaissance faciale ?

Lire aussi

San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme
Facebook pourrait être condamné à une amende de plusieurs milliards de dollars, dans le cadre du procès sur son système de reconnaissance faciale
Equifax pourrait s'en tirer avec une amende de 700 M$, après la violation de données de 2017, et payer seulement 4 $ à chaque victime
L'interdiction de la vente de la technologie de reconnaissance faciale d'Amazon n'a recueilli que 2 % des suffrages des actionnaires

[MRSizok]

« n'est pas que nous soyons aimés, mais que nous soyons compris »

A fond, continue, j'adore.

[Stan Adkens]

Facebook conclut un accord de 650 millions $ dans le cadre d'un procès pour collecte illégale de données biométriques,
Sa fonction « Tag Suggestions » accusée de violer une loi de l'Illinois

Facebook a obtenu l'approbation préliminaire d'un tribunal fédéral pour le règlement d'un procès qui prétendait qu'il avait illégalement collecté et stocké des données biométriques de millions d'utilisateurs sans leur consentement, a rapporté Business Insider. Le géant des réseaux sociaux avait proposé en juillet d’augmenter son offre de règlement à 650 millions de dollars en relation avec le procès, dans lequel des utilisateurs de l'Illinois l'accusaient d'avoir violé la loi américaine sur la confidentialité des informations biométriques. En janvier Facebook avait accepté de payer 550 millions de dollars qu’un juge a jugé insuffisants.

L'accord de règlement révisé a résolu les préoccupations du tribunal, ce qui a conduit à l'approbation préliminaire du règlement de la "class action", a écrit le juge James Donato dans une ordonnance déposée auprès du tribunal de district américain pour le district nord de Californie. « L'approbation préliminaire de la stipulation modifiée du règlement de la class action, Dkt. n° 468, est accordée, et une audience d'approbation finale est fixée au 7 janvier 2021 », a déclaré le juge dans l'ordonnance de huit pages.

En janvier, Facebook avait décidé de verser 550 millions de dollars aux utilisateurs éligibles de l'Illinois ainsi que pour gérer les frais juridiques des plaignants. Les cabinets d'avocats Edelson, Robbins Geller et Labaton Sucharow, représentant les utilisateurs de Facebook dans le procès de reconnaissance faciale, avaient qualifié l’accord de plus important règlement en espèces jamais obtenu pour résoudre un procès lié à la protection de la vie privée.

« Cette affaire devrait servir de piqûre de rappel aux entreprises pour leur indiquer que les consommateurs se soucient profondément de leurs droits à la vie privée et que, s'ils sont poussés, ils se battront pour ces droits jusqu'à la Cour suprême, puis jusqu'à ce qu'ils soient justement indemnisés », a déclaré Paul Geller, le responsable de la branche protection des consommateurs du cabinet d'avocats Robbins Geller.

Cependant, un juge fédéral avait exprimé son inquiétude quant au fait que la proposition initiale de 550 millions de dollars était insuffisante pour indemniser les millions d'utilisateurs de l'Illinois sur le réseau social qui sont couverts par l'action collective en matière de protection de la vie privée. En juillet, Facebook a proposé d'augmenter son offre de règlement à 650 millions de dollars pour résoudre le procès dans lequel les utilisateurs affirment que l'entreprise a recueilli illégalement des données biométriques par le biais d'un outil de marquage de photos.

Le juge de district américain James Donato à San Francisco, en charge de l’affaire, a déclaré lors d'une audience en juillet que la nouvelle proposition semblait « progressivement meilleure », bien qu'il ne l'ait pas encore approuvée. Tard mercredi, Facebook a obtenu l'approbation préliminaire pour le règlement du procès, en attendant une audience d'approbation finale prévue pour janvier prochain.

L'outil de « Tags suggestions » de Facebook identifie les utilisateurs dans les photos téléchargées et suggère le marquage automatique par les amis. Il fonctionne globalement en quatre étapes : le logiciel essaie de détecter les visages dans les photos téléchargées. Une fois un visage détecté, Facebook calcule une « signature », une série de chiffres qui « représentent une image particulière d'un visage » basée sur une photo et une base de données « visage » que le système utilise pour rechercher des signatures pour une correspondance. Si la signature correspond, Facebook suggère alors l'étiquette. Facebook dit ne pas stocker les signatures faciales et ne conserver que les modèles de visages.

Mais selon une plainte déposée en recours collectif contre la société en 2016 par Nimesh Patel, un utilisateur de Facebook résidant dans l’Illinois, Facebook « recueille et stocke leurs données biométriques sans préavis ou consentement en violation de leurs droits à la vie privée ». La Loi sur la protection des données biométriques de l'Illinois (BIPA) exige pourtant un consentement explicite avant que les entreprises puissent recueillir des données biométriques comme des empreintes digitales ou des profils de reconnaissance faciale.

Facebook avait notifié les utilisateurs de ses fonctionnalités de reconnaissance faciale, mais la plainte s’est basée sur le fait que c'était trop tard, puisque les données des utilisateurs avaient déjà été collectées. Il faut également rappeler que la BIPA prévoit une amende de 1000 à 5000 dollars pour chaque violation, c'est-à-dire, chaque fois que l'image de quelqu'un est utilisée sans autorisation.

Facebook est connu pour être impliqué régulièrement dans les affaires de données privées des utilisateurs. Reuters a rapporté la semaine dernière que la société était poursuivie pour avoir prétendument collecté les données biométriques d'utilisateurs d'Instagram ou de personnes qui apparaissent sur des photos sur la plateforme sans leur consentement.

La nouvelle plainte stipule qu'Instagram, propriété de Facebook, se sert d’un outil de marquage de visage qui utilise la reconnaissance faciale pour créer des « modèles de visage », qui sont ensuite stockés dans les bases de données Facebook. Elle ajoute qu'Instagram utilise cet outil automatiquement sans obtenir le consentement d'un utilisateur, même si les personnes figurant sur les images n'ont pas elles-mêmes de compte Instagram et n’acceptent donc pas les conditions d’utilisation. La plainte, déposée il y a moins de deux semaines devant un tribunal de l'État de Redwood City, en Californie, concerne plus de 100 millions d'utilisateurs d'Instagram.

Cette plainte arrive alors que Facebook est sur le point de régler une précédente affaire concernant les données biométriques d'utilisateurs du réseau social. Marc Rotenberg, directeur exécutif de l'Electronic Privacy Information Center, un groupe à but non lucratif qui a déposé un mémoire dans l'affaire Facebook, a déclaré en février, lorsque Facebook a proposé payer 550 millions de dollars : « La loi de l'Illinois a de vraies dents. Elle a pratiquement arrêté Facebook dans sa course ». « Les entreprises technologiques et autres sociétés qui collectent des données biométriques doivent être très nerveuses en ce moment », a-t-il ajouté.

Pour les allégations relatives à la protection de la vie privée des utilisateurs, la Commission fédérale du commerce a infligé, l’année dernière, une amende de 5 milliards de dollars à Facebook. Dans les clauses de l’accord, la Commission avait également décidé de réduire « considérablement le pouvoir de Mark Zuckerberg ».

Source : L'accord de règlement

Et vous ?

Que pensez-vous de ce règlement ?
Ce règlement pénalise-t-il vraiment Facebook par rapport à l’argent gagné avec sa fonction « Tag Suggestions » ?
Pensez-vous que de tels paiements puissent décourager Facebook dans l’utilisation de reconnaissance faciale ?

Voir aussi :

Facebook est poursuivi en justice pour avoir prétendument collecté les données biométriques de 100 millions d'utilisateurs Instagram, et risque jusqu'à 500 milliards de dollars en dommages-intérêts
Facebook va payer 550 millions $ pour régler le procès de reconnaissance faciale, après avoir été accusé d'avoir transgressé la loi sur la confidentialité des informations biométriques de l'Illinois
La FTC inflige une amende de 5 milliards de dollars à Facebook, et apporte des clauses qui "réduisent considérablement le pouvoir de Mark Zuckerberg"
USA : une action de groupe contre Facebook jugée recevable, lentreprise est attaquée sur son système de reconnaissance faciale

[Stéphane le calme]

Facebook va payer 650 millions de dollars à des utilisateurs de sa plateforme pour avoir utilisé une fonction de reconnaissance faciale
sans leur accord

En 2015, Nimesh Patel, un utilisateur de Facebook résidant dans l’Illinois, a porté plainte en recours collectif contre le numéro un des réseaux sociaux, alléguant que l’utilisation de la société de la technologie de reconnaissance faciale viole une loi de l'Illinois adoptée en 2008. La BIPA (Biometric Information Privacy Act) définit les limites quant à la façon dont les entreprises peuvent stocker et utiliser les identificateurs biométriques des personnes, que la loi définit comme étant des empreintes digitales, des empreintes vocales, des analyses de la rétine ou de l'iris et des scans de géométrie de la main ou du visage. L’ouverture du procès est prévue pour le mois d’octobre et des poursuites similaires sont en cours dans l’Illinois contre Google et Snapchat.

Notons que, dans les circonscriptions qu’elle établit, la BIPA n’évoque pas les réseaux sociaux, mais s’intéresse plutôt à une utilisation potentielle d’identités biométriques dans les transactions financières tout en rappelant que ces identifiants sont plus radicaux qu’un mot de passe ou un code PIN : si un client voit son identité biométrique volée, de nouvelles empreintes ou un nouveau visage ne sauront pas lui être attribués. Dans le cas d'espèce, le recours collectif n’attaque pas les institutions financières, plutôt les entreprises technologiques.

Pour Patel, lorsque Facebook collecte des informations sur lui cela est normal jusqu’à un certain niveau. Cependant, la plainte assure « qu’en fin de 2010, Facebook a commencé à mettre en œuvre sa fonctionnalité “suggestion de tag”, qui s’appuie sur un logiciel sophistiqué de reconnaissance faciale pour faire correspondre automatiquement des images avec des noms. Le logiciel de Facebook collecte, analyse et compare des marqueurs faciaux sur les photos téléchargées par l'utilisateur et enregistre ce que l'on appelle un “template de visage” dans une base de données Facebook. Lorsqu'un utilisateur télécharge une photo, la fonctionnalité suggestions de tag compare les visages de n'importe quel individu sur cette photo aux templates de visage dans la base de données de Facebook. S'il y a une correspondance, Facebook suggère que l'utilisateur “tag” la personne sur la photo avec le nom approprié ».

La plainte assure qu’il s’agit d’une violation directe de la BIPA étant donné que Facebook collecte, enregistre et se sert des informations biométriques de ses utilisateurs (plus d’un milliard) sans même les en informer ou obtenir leur consentement. « Au lieu de cela, Facebook a annoncé qu'il allait collecter ces données seulement APRÈS avoir déjà commencé à le faire. De plus, Facebook n'a jamais reçu une communication écrite de ses membres autorisant la collecte, le stockage et l'utilisation de leurs informations biométriques. En effet, les membres de Facebook n’ont même pas l’opportunité de donner leur avis étant donné que Facebook a activé par défaut les suggestions de tag sur les comptes des utilisateurs ». Notons que l'entreprise a arrêté de s'en servir en Europe en 2012 à cause des problèmes relatifs à la vie privée.

Sous BIPA, les entreprises privées sont tenues d’élaborer des politiques écrites indiquant combien de temps elles conserveront les informations biométriques des personnes et quand elles détruiront définitivement ces données. « D'une certaine manière, il s'agit d'une loi modeste », a estimé Claire Gartland, avocate qui travaille sur les questions de confidentialité des consommateurs à EPIC, Electronic Privacy Information Center. « Il suffit d'un avertissement au consommateur ».
En maintenant une base de données des templates de visages des utilisateurs sans pour autant avoir une politique écrite mise en place, la plainte estime que Facebook a violé la loi. À l'époque, un porte-parole de Facebook a refusé de répondre aux questions sur cette plainte, mais a expliqué que les utilisateurs pouvaient facilement désactiver cette fonctionnalité de leurs comptes.

Fin 2015, Facebook a déposé une motion d’annulation en se basant sur son interprétation de la liste des identificateurs biométriques du BIPA, qui inclut des scans du visage et de ses géométries, mais exclut explicitement les photographies et les descriptions physiques. Facebook a fait valoir que la loi se réfère uniquement aux scanners qui créent des enregistrements biométriques basés sur le visage physique. Mais la cour a estimé que l'argument de Facebook était « peu convaincant » , affirmant que la loi était destinée à traiter toutes les technologies biométriques émergentes. La cour a donc rejeté la motion de Facebook.

Néanmoins, la juge Sandra Ikuta a déclaré que les utilisateurs de l’Illinois pouvaient intenter un procès en groupe, rejetant ainsi l’argument de Facebook selon lequel leurs revendications étaient uniques et nécessitaient des poursuites individuelles.

La décision de justice

Si Facebook risquait potentiellement de payer 35 milliards de dollars en réparation de préjudice (la loi de l'Illinois autorise des paiements de 1 000 ou 5000 dollars par violation, selon la gravité de la violation), l'entreprise est parvenue a un accord de 650 millions de dollars en août après avoir proposé de payer 550 millions de dollars en janvier 2020 qu'un juge a estimé insuffisants.

Ce n'est que vendredi 26 février 2021 qu'un juge a donné son approbation finale à cette proposition. Les 1,6 million de membres de Facebook dans l'Illinois ont demandé à être payés « aussi rapidement que possible ».

Les trois plaignants nommés dans la poursuite recevront chacun 5000 $ et les autres dans le groupe recevront au moins 345 $ chacun, selon l'ordonnance du juge James Donato du district nord de la Californie. Donato a déclaré que le règlement était un « résultat historique » et une « victoire majeure pour les consommateurs dans le domaine très controversé de la confidentialité numérique ».

« Nous sommes heureux d'avoir conclu un règlement afin de pouvoir passer outre cette question, ce qui est dans le meilleur intérêt de notre communauté et de nos actionnaires », a déclaré Facebook dans un communiqué.

« Cette affaire devrait servir de piqûre de rappel aux entreprises pour leur indiquer que les consommateurs se soucient profondément de leurs droits à la vie privée et que, s'ils sont poussés, ils se battront pour ces droits jusqu'à la Cour suprême, puis jusqu'à ce qu'ils soient justement indemnisés », a déclaré Paul Geller, le responsable de la branche protection des consommateurs du cabinet d'avocats Robbins Geller.

Facebook est connu pour être impliqué régulièrement dans les affaires de données privées des utilisateurs. Par exemple, la société est poursuivie pour avoir prétendument collecté les données biométriques d'utilisateurs d'Instagram ou de personnes qui apparaissent sur des photos sur la plateforme sans leur consentement.

La nouvelle plainte stipule qu'Instagram, propriété de Facebook, se sert d’un outil de marquage de visage qui utilise la reconnaissance faciale pour créer des « modèles de visage », qui sont ensuite stockés dans les bases de données Facebook. Elle ajoute qu'Instagram utilise cet outil automatiquement sans obtenir le consentement d'un utilisateur, même si les personnes figurant sur les images n'ont pas elles-mêmes de compte Instagram et n’acceptent donc pas les conditions d’utilisation. La plainte, déposée en août 2020 devant un tribunal de l'État de Redwood City, en Californie, concerne plus de 100 millions d'utilisateurs d'Instagram.

Source : décision de justice

Et vous ?

Que pensez-vous de cette décision ?

[Bruno]

Facebook va cesser d'utiliser la reconnaissance faciale et supprimer les données de plus d'un milliard d’utilisateurs,
les pressions réglementaires et les poursuites judiciaires ont forcé la main

Dans une annonce publiée le 2 novembre par Jerome Pesenti, vice-président de l'intelligence artificielle chez Facebook, le réseau social le plus populaire et controversé a déclaré qu’il allait mettre un terme à son système de reconnaissance faciale, dans un contexte d'inquiétude croissante de la part des utilisateurs et des autorités de régulation. « Plus d’un tiers des utilisateurs actifs ont opté pour notre paramètre de reconnaissance faciale et peuvent être reconnus, sa suppression entraînera la suppression de plus d’un milliard de modèles de reconnaissance faciale individuels, a déclaré Jerome Pesenti, vice-président de l’intelligence artificielle chez Meta. Notre plateforme procède à ce changement en raison de nombreuses préoccupations concernant la place de la technologie de reconnaissance faciale dans la société. » Peut-on affirmer que, pour cette décision, Meta, anciennement Facebook, a décidé de faire passer la sécurité des utilisateurs avant ses profits ?

La décision de Facebook qui peut être qualifiée de petite révolution ne signifie pas que Facebook renonce entièrement à la technologie de reconnaissance faciale. « Pour l'avenir, nous voyons toujours la technologie de reconnaissance faciale comme un outil puissant, par exemple, pour les personnes qui ont besoin de vérifier leur identité, ou pour prévenir la fraude et l'usurpation d'identité », a déclaré Jérôme Pesenti. « Nous pensons que la reconnaissance faciale peut aider pour des produits comme ceux-ci avec la confidentialité, la transparence et le contrôle en place, afin que vous décidiez si et comment votre visage est utilisé. Nous allons continuer à travailler sur ces technologies et à engager des experts extérieurs », a-t-il ajouté.

En plus du marquage automatique, la fonction de reconnaissance faciale de Facebook qui était activée par défaut jusqu’en 2019 permettait aux utilisateurs d'être avertis si quelqu'un téléchargeait une photo d'eux. Elle a également ajouté automatiquement le nom d'un utilisateur au texte alt d'une image, qui décrit le contenu de l'image pour les utilisateurs aveugles ou malvoyants. Lorsque le système s'arrêtera définitivement, les notifications et l'inclusion des noms dans le texte alt automatique ne seront plus disponibles.

Reconnaissance faciale : une technologie controversée

Plus la reconnaissance faciale est devenue sophistiquée, plus elle est devenue controversée. De nombreux algorithmes de reconnaissance faciale présentent de très nombreux taux d'erreur et ont dans certains pays conduit à des arrestations injustifiées. Par ailleurs, il a été révélé que cette technologie est parfois utilisée pour repérer des personnes dans la foule en fonction de leur âge, de leur sexe et de leur origine ethnique. En Chine, elle a été utilisée pour déclencher une « alarme ouïgoure » qui avertit la police de la présence de personnes appartenant à cette minorité majoritairement musulmane, qui sont systématiquement détenues depuis des années.

En France, alors que le gouvernement français avait souhaité expérimenter dans l'espace public des caméras de reconnaissance des individus avant de repousser son projet, l'autorité administrative indépendante chargée de la protection des droits des personnes alerte quant au « potentiel inégalé d'amplification et d'automatisation des discriminations » de ces innovations. Un rapport consacré aux technologies biométriques dans lequel l'institution publique appelle à prendre des précautions avec ces systèmes polémiques a été publié en juillet de cette année. La technologie fait aussi l'objet de réflexions à Bruxelles, où la Commission européenne souhaite les autoriser sur exception.

À la suite des examens minutieux, l'Allemagne et d'autres pays européens avaient déjà poussé Facebook à désactiver cette fonction dans l'UE. Aux États-Unis, certains États ont adopté des lois strictes limitant l'utilisation de la biométrie. En 2015, plusieurs personnes ont intenté un procès à Facebook, affirmant que la fonction de reconnaissance faciale de Facebook violait la loi. Facebook a réglé le recours collectif plus tôt cette année pour 650 millions de dollars, versant à des millions d'utilisateurs la somme de 340 dollars chacun.

Pour Nimesh Patel, un des plaignants, lorsque Facebook collecte des informations sur lui cela est normal jusqu’à un certain niveau. Cependant, la plainte assure « qu’en fin de 2010, Facebook a commencé à mettre en œuvre sa fonctionnalité "suggestion de tag", qui s’appuie sur un logiciel sophistiqué de reconnaissance faciale pour faire correspondre automatiquement des images avec des noms. Le logiciel de Facebook collecte, analyse et compare des marqueurs faciaux sur les photos téléchargées par l'utilisateur et enregistre ce que l'on appelle un "template de visage" dans une base de données Facebook. Lorsqu'un utilisateur télécharge une photo, la fonctionnalité suggestions de tag compare les visages de n'importe quel individu sur cette photo aux templates de visage dans la base de données de Facebook. S'il y a une correspondance, Facebook suggère que l'utilisateur "tag" la personne sur la photo avec le nom approprié ».

L'annonce de Facebook intervient alors que l’entreprise fait l'objet d'une attention croissante de la part des législateurs, des régulateurs et du grand public. L'entreprise est constamment critiquée pour diffusion de fausses nouvelles. Elle est également critiquée pour son aide à la violence ethnique au Myanmar et pour son incapacité à combattre la désinformation sur le changement climatique.

« L'arrêt de l'utilisation de notre système actuel de reconnaissance faciale signifie que les services qu'il permet seront supprimés au cours des prochaines semaines, tout comme le paramètre permettant aux personnes de choisir de participer au système », a déclaré Facebook.

Source : Meta

Et vous ?

Quel est votre avis sur cette décision de Facebook ?

Pensez-vous que Facebook a choisi de faire passer la sécurité des utilisateurs avant ses profits ?

Que pensez-vous de la décision de Facebook de ne pas renoncer entièrement à la technologie de reconnaissance faciale ?

Êtes-vous pour ou contre la technologie de reconnaissance faciale ?

Voir aussi :

Facebook va payer 650 millions de dollars à des utilisateurs de sa plateforme pour avoir utilisé une fonction de reconnaissance faciale, sans leur accord

Facebook va payer 550 millions $ pour régler le procès de reconnaissance faciale, après avoir été accusé d'avoir transgressé la loi sur la confidentialité des informations biométriques de l'Illinois

Des recherches révèlent que les applications de médias sociaux en savent beaucoup trop sur vous, Facebook s'avère être le pire contrevenant à cet égard, suivi de près par sa filiale Instagram

Facebook a développé une app mobile de reconnaissance faciale qui permettait d'identifier ses employés et leurs amis, en pointant le téléphone dans leur direction

[rbolan]

Quel est votre avis sur cette décision de Facebook ?

C'est plutôt positif, mais le plus important étant ce que l'entreprise va réellement faire plutôt que ce qu'elle annonce qu'elle va faire...

Les GAFAM sont passés maître dans l'art de faire des annonces trompeuses ou bien non suivies d'effet, par exemple : "Whatsapp ne partage pas ses données avec Facebook, les serveurs ne sont pas partagés", mais en fait si...

[demonia]

Alors, c'est bien beau de supprimer les modèles et autre, mais quid des milliards de ghost profiles d'utilisateurs n'étant même pas sur facebook qu'ils ont générés grâce à eux, avec leur navigation web grâce aux boutons like, aux données géographique, IP, numéros de téléphone, carnet d'adresse (whatsapp), photos d'autres utilisateurs, localisations (mappées grâce aux images et à la reconnaissance facile), et j'en passe?

ils n'ont plus vraiment besoin de ces modèles, les informations, ils les ont déjà et même sur ceux qui n'ont jamais eu de compte.
Quoi qu'il arrive, les connaissant, ils garderont des serveurs quelque part avec les données et n'effaceront pas leurs backups, moralité, ça ne changera rien.

[Stéphane le calme]

Contrairement à Facebook, Méta ne va pas abandonner son algorithme de reconnaissance faciale.
La maison-mère de Facebook compte bien se servir de DeepFace dans son métavers

Dans une annonce publiée le 2 novembre par Jerome Pesenti, vice-président de l'intelligence artificielle chez Facebook, le réseau social a annoncé qu’il allait mettre un terme à son système de reconnaissance faciale :

« Dans les semaines à venir, Meta fermera le système de reconnaissance faciale sur Facebook dans le cadre d'une initiative à l'échelle de l'entreprise visant à limiter l'utilisation de la reconnaissance faciale dans nos produits. Dans le cadre de ce changement, les personnes qui ont opté pour notre paramètre de reconnaissance faciale ne seront plus automatiquement reconnues dans les photos et les vidéos, et nous supprimerons le modèle de reconnaissance faciale utilisé pour les identifier. »

« Ce changement représentera l'un des changements les plus importants dans l'utilisation de la reconnaissance faciale dans l'histoire de la technologie. Plus d'un tiers des utilisateurs actifs quotidiens de Facebook ont opté pour notre paramètre de reconnaissance faciale et peuvent être reconnus, et sa suppression entraînera la suppression de plus d'un milliard de modèles de reconnaissance faciale individuels. »

« Faire ce changement a nécessité un examen attentif, car nous avons vu un certain nombre d'endroits où la reconnaissance faciale peut être très appréciée par les personnes utilisant des plateformes(...) Pendant de nombreuses années, Facebook a également donné aux gens la possibilité d'être automatiquement avertis lorsqu'ils apparaissent sur des photos ou des vidéos publiées par d'autres, et a fourni des recommandations à identifiant sur les photos. Ces fonctionnalités sont également alimentées par le système de reconnaissance faciale que nous arrêtons ».

Le réseau social a indiqué qu'il allait conserver la technologie pour certaines problématiques touchant à la sécurité : « Pour l'avenir, nous considérons toujours la technologie de reconnaissance faciale comme un outil puissant, par exemple, pour les personnes ayant besoin de vérifier leur identité, ou pour prévenir la fraude et l'usurpation d'identité. Nous pensons que la reconnaissance faciale peut aider pour des produits comme ceux-ci avec la confidentialité, la transparence et le contrôle en place, vous décidez donc si et comment votre visage est utilisé. Nous continuerons à travailler sur ces technologies et à engager des experts externes ».

Mais Meta, la maison-mère de Facebook, compte bien s'en servir dans d'autres produits

L'annonce de Meta est accompagnée de quelques mises en garde importantes. Alors que Meta dit que la reconnaissance faciale n'est pas une fonctionnalité sur Instagram et ses appareils Portal, le nouvel engagement de l'entreprise ne s'applique pas à ses produits métavers, selon le porte-parole de Meta Jason Grosse.

En fait, Meta explore déjà des moyens d'intégrer la biométrie dans son entreprise émergente de métavers, qui vise à créer une simulation virtuelle basée sur Internet où les gens peuvent interagir en tant qu'avatars. Meta conserve également DeepFace, l'algorithme sophistiqué qui alimente sa fonction de reconnaissance faciale par marquage photo.

« Nous pensons que cette technologie a le potentiel de permettre des cas d'utilisation positifs à l'avenir qui maintiennent la confidentialité, le contrôle et la transparence, et c'est une approche que nous continuerons d'explorer alors que nous examinons comment nos futures plateformes et appareils informatiques peuvent mieux répondre aux besoins des gens », a déclaré Grosse. « Pour toutes les applications futures potentielles de technologies comme celle-ci, nous continuerons à indiquer au public l'utilisation prévue, la manière dont les gens peuvent contrôler ces systèmes et leurs données personnelles, et la manière dont nous respectons notre cadre d'innovation responsable. »

Le fait que le marquage de photos quitte Facebook est considéré comme important par des experts et des activistes. Facebook a lancé cet outil en 2010 pour rendre sa fonction de marquage de photos plus populaire. L'idée était que laisser un algorithme suggérer automatiquement de taguer une personne en particulier sur une photo faciliterait la tâche au lieu de taguer manuellement la personne et, peut-être, encouragerait plus de personnes à taguer leurs amis. Le logiciel tire ses informations des photos que les gens publient d'eux-mêmes, informations qui permettent à Facebook de créer des modèles de visage uniques liés à leurs profils. L'algorithme qui alimente ce système s'appelle DeepFace. Il a été entraîné à partir d'images téléchargées par les utilisateurs de Facebook et permet alors de faire correspondre les modèles de visage des personnes aux visages de différentes photos.

Les experts en confidentialité ont fait part de leurs préoccupations immédiatement après le lancement de la fonctionnalité. Depuis lors, des études pivots de chercheurs comme Joy Buolamwini, Timnit Gebru et Deb Raji ont également montré que la reconnaissance faciale peut avoir des préjugés raciaux et sexistes ancrés, et est particulièrement moins précise pour les femmes à la peau plus foncée. En réponse à l'opposition croissante à la technologie, Facebook a proposé en opt-in la fonction de reconnaissance faciale en 2019 pour les utilisateurs hors de l'UE et du Canada. Le réseau de médias sociaux a également accepté de payer un règlement de 650 millions de dollars l'année dernière après qu'un procès a prétendu que l'outil de marquage violait la loi de l'Illinois sur la confidentialité des informations biométriques.

DeepFace utilise des techniques d’apprentissage profond (deep learning), un domaine d’intelligence artificielle spécialisé dans le décodage des types de données irrégulières. Un article de recherche estimait que DeepFace peut déterminer si deux visages photographiés appartiennent à la même personne avec une précision de 97,25 %. Après avoir peaufiné son algorithme au fil des années, hors de question pour Méta de se séparer de cette mine d'or.

Il est possible que défendre cette utilisation particulière de la technologie de reconnaissance faciale soit devenu trop coûteux pour Facebook et que le réseau social ait déjà obtenu ce dont il avait besoin de l'outil. Meta n'a pas exclu d'utiliser DeepFace à l'avenir, et des entreprises comme Google ont déjà intégré la reconnaissance faciale dans les caméras de sécurité. Le futur matériel de réalité virtuelle pourrait également collecter de nombreuses données biométriques.

Dans une vidéo postée le 28 octobre 2021, l’entreprise explique vouloir permettre aux internautes « de créer des avatars très ressemblants avec quelques photos prises depuis un téléphone ». Pour ce faire, il est possible que DeepFace travaille en coulisses afin de rendre votre double virtuel crédible.

Plusieurs des projets actuels de Meta montrent que l'entreprise n'a pas l'intention d'arrêter de collecter des données sur le corps des personnes. Meta développe des avatars hyperréalistes que les gens utiliseront lorsqu'ils voyageront dans le métavers, ce qui nécessite de suivre les mouvements du visage de quelqu'un en temps réel afin qu'ils puissent être recréés par leur avatar. Un nouveau casque de réalité virtuelle que Meta prévoit de lancer l'année prochaine comprendra des capteurs qui suivent les mouvements oculaires et faciaux des utilisateurs. La société a également réfléchi à l'intégration de la reconnaissance faciale dans ses nouvelles lunettes intelligentes Ray-Ban, qui permettent au porteur d'enregistrer son environnement pendant qu'il se promène, et Reality Labs, la plaque tournante de Meta pour l'étude de la réalité virtuelle et augmentée, mène des recherches en cours sur la biométrie, selon des publications sur le site Web des carrières de Facebook.

Ces usages aussi pourraient présenter des risques pour la vie privée. Si Meta conserve un scan du visage, analyse la façon dont vos yeux ou votre visage bougent, c’est autant de données biométriques qui seront partagées avec l’entreprise.

« Chaque fois qu'une personne interagit avec un environnement de réalité virtuelle comme le métavers de Facebook, elle est exposée à la collecte de ses données biométriques », a déclaré à Recode John Davisson, avocat à l'Electronic Privacy Information Center. « Selon la façon dont le système est construit, ces données peuvent inclure les mouvements oculaires, le suivi du corps, les scans du visage, les empreintes vocales, la pression artérielle, la fréquence cardiaque, des détails sur l'environnement de l'utilisateur et bien plus encore. C’est une quantité stupéfiante d’informations sensibles entre les mains d’une entreprise qui montre à maintes reprises qu’on ne peut pas faire confiance quant à nos données personnelles. »

Meta n'a pas révélé ce qu'il envisage exactement de faire avec DeepFace, mais la société promet de tenir les utilisateurs informés des changements à venir.

Source : porte-parole de Meta Jason Grosse

Voir  :

Facebook va payer 650 millions de dollars à des utilisateurs de sa plateforme pour avoir utilisé une fonction de reconnaissance faciale, sans leur accord
Facebook va payer 550 millions $ pour régler le procès de reconnaissance faciale, après avoir été accusé d'avoir transgressé la loi sur la confidentialité des informations biométriques de l'Illinois
Des recherches révèlent que les applications de médias sociaux en savent beaucoup trop sur vous, Facebook s'avère être le pire contrevenant à cet égard, suivi de près par sa filiale Instagram
Facebook a développé une app mobile de reconnaissance faciale qui permettait d'identifier ses employés et leurs amis, en pointant le téléphone dans leur direction