Discussion :

[Bill Fassinou]

IA : une application aide les forces de l'ordre à identifier toute personne à partir de ses images en ligne,
le système utilise une base de 3 milliards d'images récupérées sur Internet

Clearview AI est une start-up qui a mis au point Clearview, une application de reconnaissance faciale. Sur son site, l'entreprise indique que c'est un nouvel outil de recherche utilisé par les organismes judiciaires pour identifier les auteurs et les victimes de crimes. « La technologie de Clearview a aidé les forces de l'ordre à traquer des centaines de criminels en général, notamment des pédophiles, des terroristes et des trafiquants sexuels ».

« Il est également utilisé pour aider à disculper les innocents et à identifier les victimes de crimes, y compris les abus sexuels sur les enfants et la fraude financière. Grâce à Clearview, les forces de l'ordre sont capables d'attraper les criminels les plus dangereux, de résoudre les affaires les plus difficiles et de rendre les communautés plus sûres, en particulier les plus vulnérables d'entre nous », peut-on lire sur le site de Clearview.

Son fonctionnement est simple : vous prenez une photo d'une personne, la téléchargez et voyez des photos publiques de cette personne, ainsi que des liens vers l'endroit où ces photos sont apparues. Le système se base sur une base de données de plus de trois milliards d'images que Clearview prétend avoir récupérées sur Facebook, YouTube, Venmo et des millions d'autres sites Web.

Aux USA, des organismes fédéraux et étatiques ont déclaré que bien qu'ils ne connaissaient que peu le fonctionnement de Clearview et qui était derrière, ils avaient utilisé l'application pour résoudre des problèmes de vol à l'étalage, de vol d'identité, de fraude par carte de crédit, de meurtre et d'exploitation sexuelle des enfants. Sur le site de Clearview, un témoignage des forces de l'ordre canadiennes indique que « Clearview est de loin la meilleure chose qui soit arrivée à l'identification des victimes au cours des 10 dernières années. En une semaine et demie d'utilisation de Clearview, [nous] avons fait huit identifications de victimes ou de délinquants grâce à ce nouvel outil ».

En ce qui concerne son fonctionnement et sa légalité, l'entreprise indique que « Clearview aide les forces de l'ordre à identifier avec précision, fiabilité et légalité les suspects criminels, ainsi que les victimes sur lesquelles ils s'attaquent. La technologie de recherche d'images de Clearview a été indépendamment testée pour sa précision et évaluée pour la conformité légale par les autorités reconnues au niveau national. Il a atteint les normes de performance les plus élevées à tous les niveaux ». En dehors des forces de l'ordre, Clearview aurait également donné l'accès à l'application à certaines entreprises à des fins de sécurité.

Comme on peut s'y attendre, des voix se sont levées contre l'utilisation de cette application. « Les possibilités de militarisation sont infinies. Imaginez un gouvernement étranger qui l'utilise pour creuser des secrets sur les gens pour les faire chanter ou les jeter en prison », a déclaré Eric Goldman, co-directeur du High Tech Law Institute de l'Université de Santa Clara. La technologie de reconnaissance faciale a toujours été controversée, car elle a tendance à livrer de fausses correspondances pour certains groupes de personnes, comme les personnes de couleur par exemple. Aussi, certaines applications de reconnaissance faciale utilisées par la police - y compris Clearview - n'ont pas forcément été examinées par des experts indépendants.

L'application de Clearview pourrait aussi comporter des risques de sécurité supplémentaires, car des photos sensibles sont téléchargées sur les serveurs d'une entreprise dont la capacité de protéger des données personnelles n'est pas testée. Hoan Ton-That, fondateur de Clearview AI, a reconnu avoir conçu un prototype à utiliser avec des lunettes de réalité augmentée, mais a déclaré que la société n'avait pas l'intention de le publier.

« Nous n'avons aucune donnée pour suggérer que cet outil est précis. Plus la base de données est grande, plus le risque d’identification erronée est grand en raison de l’effet doppelgänger. Ils parlent d'une énorme base de données de personnes qu'ils ont trouvées au hasard sur Internet », a déclaré Clare Garvie, chercheuse au Centre de confidentialité et de technologie de l'Université de Georgetown.

Source : Clearview AI

Et vous ?

Qu'en pensez-vous ?
Cela ne pose-t-il pas des problèmes de vie privée en ligne ?

Voir aussi

L'intelligence artificielle menace-t-elle la démocratie dans le monde ? Oui, selon un conseiller principal à la Commission européenne

« L'intelligence artificielle n'existe pas et la voiture autonome n'existera jamais », selon un expert en IA

Gartner démystifie cinq idées fausses sur l'intelligence artificielle ou « IA », l'argument marketing du moment, d'après l'un des inventeurs de Siri

Intelligence artificielle : vingt avocats expérimentés se font battre par un algorithme lors d'un test de détection de problèmes juridiques

[darklinux]

Qu'en pensez-vous ?

C 'est une utilisation basique du ML , parodié dans le remake de Robocop , pas de quoi sauté au plafond

[Nailiz]

Je pense que si on regarde sous le capot, on verra des choses pas très légales... En termes de récupération des images, droit à l'oubli, rétention.

[Citrax]

L'habituelle bonne cause pretendue la pour sauver le monde, c'est encore une fois pathetique et hilarant.
Comment faisaient les autoritées pour capturer des criminels avant ca ?? Incompetents ? le saint gral ?

Ce n'est rien de plus qu'un enieme moyen de fichage incisif, detourné et odieux.
Ou comment traquer les gens partout au moindre usage d'un smartphone.
C'est du fichage massif, point barre. Et si ca marche "deja" aussi bien c'est parce que fcbk et la clique on lancé cela des leur debuts.
Dans l'escroquerie la plus totale (enfin sauf si on apprend a lire un cluf)

[Stan Adkens]

Des agents de la police de New York utilisent l'application de reconnaissance faciale de Clearview AI,
Twitter a demandé à la société de cesser d’utiliser des photos de son site, d’après un rapport

Clearview est une application de reconnaissance faciale développée par Clearview AI, une startup qui a récupéré des millions de photos dans les médias sociaux et d'autres sources publiques pour son programme de reconnaissance faciale. Le New York Post a rapporté jeudi que les agents malhonnêtes de la police de New York utilisent son application de reconnaissance faciale sur leur téléphone personnel, alors même que l'unité de reconnaissance faciale du département a évité le logiciel à cause des préoccupations de sécurité et d'abus potentiels. Twitter a émis un ordre de cessation et d'abstention à Clearview AI, lui disant de cesser d'exploiter sa plateforme pour des photos, a déclaré un porte-parole de l’entreprise.

Clearview AI s'est présentée aux organisations d'application de la loi dans tout le pays, y compris au NYPD, pour leur présenter son application. Selon le New York Post, l'unité de reconnaissance faciale du ministère a testé l'application au début de 2019 dans le cadre d'un essai gratuit de 90 jours, mais l'a finalement abandonnée, en raison de diverses préoccupations. Parmi celles-ci, le créateur de l'application, Hoan Ton, est lié à viddyho.com, qui a été impliqué dans une vaste escroquerie de phishing en 2009, selon des sources et des rapports de police.

Une autre préoccupation de la police de New York était que l’application Clearview ne pouvait pas dire qui d’autres avaient accès aux images une fois que la police les avait chargées dans l'énorme base de données de l'entreprise, a appris le journal des sources. Mais malgré ces préoccupations, des dizaines de policiers extérieurs à l'unité de reconnaissance faciale du département utilisent l'application dans le cadre de leur travail, la dernière recherche de photos par un policier du NYPD ayant été enregistrée jeudi à 10h56, a dit un porte-parole de l’entreprise au journal.

« Bien que la police de New York l'ait examinée, la section des indications faciales ne l'a jamais utilisée pour des enquêtes », a déclaré au journal une source de la police, notant qu'il est d'usage que le département examine toute nouvelle technologie ou tout nouvel équipement. Le département a déclaré qu'il n'était pas au courant de son utilisation par ces agents pour un quelconque travail de recherche.

L'application est utilisée par plus de 600 organismes d'application de la loi, y compris le FBI

Pour utiliser Clearview, les policiers du NYPD s’inscrivent au service avec une adresse e-mail, mais à partir de leurs appareils personnels, puisqu’ils ne sont pas autorisés à télécharger des logiciels non approuvés sur les téléphones de leur service. Une fois inscrits au service, les agents téléchargent la photo de la personne qu'ils cherchent à identifier et obtiennent instantanément des photos correspondantes ainsi que des sources d'information à partir de la base de données de Clearview. Cette base de données a été créée en sélectionnant des images sur des millions de sites web, dont Facebook, LinkedIn, Twitter, des sites d'information et même l'application de paiement mobile Venmo, a rapporté le New York Post.

Si des agents de la police du NYPD utilisent l’application de reconnaissance faciale sans le consentement du département, plus de 600 organismes d'application de la loi l'ont adoptée au cours de l'année écoulée – des organismes locaux tels que le département de police de Gainesville en Floride, aux opérations fédérales, y compris le FBI et la sécurité intérieure américaine, a déclaré Clearview AI au journal. La startup a affirmé dans des documents internes obtenus par le journal que « Clearview est déjà la norme du secteur pour l'application de la loi aux États-Unis, qu'il s'agisse de la police locale, des troupes d'État ou des agences fédérales ».

Le NYPD ne s’est pas engagé officiellement à utiliser l’application également à cause des inquiétudes, comme le risque d'abus du système pour les recherches extra-activités. Un initié de la police a déclaré au New York Post qu’ « Il suffit qu'un seul flic y mette la photo de son ex-petite amie pou voir avec qui elle sort maintenant ». « Ils jouent avec le feu. Il va les rattraper », a-t-il ajouté.

Twitter a demandé à Clearview AI de cesser d'utiliser les photos de sa plateforme

Cette semaine, Twitter a envoyé une lettre à la startup Clearview AI, lui demandant de cesser de prendre des photos et d'autres données sur le site de médias sociaux « pour quelque raison que ce soit » et de supprimer toutes les données qu'elle avait collectées auparavant, a déclaré une porte-parole de Twitter. La lettre de cessation et d'abstention accusait Clearview de violer les politiques de Twitter, a rapporté The New York Times. Tor Ekeland, un avocat de Clearview, a confirmé avoir reçu la lettre de Twitter et a déclaré que l'entreprise « répondra de manière appropriée ».

Selon le Times, des représentants des forces de l'ordre lui ont dit que l'application les avait aidés à identifier des suspects dans de nombreuses affaires criminelles. En effet, la base de données de photos de Clearview éclipse celles utilisées auparavant par les forces de l'ordre, d’après le Times. D'autres entreprises technologiques capables de construire un tel outil, comme Google, ont décidé de ne pas le faire en raison des craintes d'abus potentiels.

Des législateurs démocrates ont déclaré que l’application ouvrait la voie à une technologie de reconnaissance faciale universelle qui mettrait effectivement fin à la capacité des gens à rester anonymes lorsqu'ils sont en public.

Selon le Times, le sénateur Edward J. Markey, démocrate du Massachusetts, a également adressé mercredi une lettre au co-fondateur et directeur général de Clearview AI, Hoan Ton. M. Markey a écrit que « L'utilisation généralisée de votre technologie pourrait faciliter des comportements dangereux et pourrait effectivement détruire la capacité des individus à mener leur vie quotidienne de manière anonyme ».

Dans sa lettre, le sénateur a posé 14 questions à l'entreprise et lui a demandé de répondre avant le 12 février. M. Markey veut connaître tous les services de police et de renseignement, ainsi que des entités privées, qui utilisent l'application. Il s'interroge également sur la collecte d'informations sur les enfants par la société et sur la manière dont elle vérifie l'exactitude et la sécurité de ses produits, a rapporté le Times.

« En l'absence d'une loi sur la protection de la vie privée des consommateurs rigoureusement appliquée, les entreprises technologiques continueront à développer et à commercialiser des produits qui représentent des menaces existentielles pour nos droits fondamentaux à la vie privée », a déclaré M. Markey dans une déclaration.
Tor Ekeland a déclaré que Clearview examinait la lettre de M. Markey et y « répondra en conséquence ».

On ne sait pas quel pouvoir Twitter et d'autres sites de médias sociaux ont pour forcer Clearview à retirer des images de sa base de données. Il n'est pas également certain que les agents du NYPD feront face à des mesures disciplinaires pour avoir utilisé l'application.

Selon un commentateur du sujet, on en est là aujourd’hui, où les données de tout le monde se retrouvent partout, grâce à la complicité de toute l’industrie ainsi que les utilisateurs. Pour lui, « les utilisateurs qui renoncent volontairement à leurs données n'ont aucune attente raisonnable en matière de respect de la vie privée ». Qu’en pensez-vous ?

Source : The New York Post

Et vous ?

Qu’en pensez-vous ?
Que pensez-vous de l’utilisation de l’application Clearview par la police ?
Que pensez-vous de l’ordre de cessation et d'abstention envoyé à Clearview de Twitter ?

Lire aussi

IA : une application aide les forces de l'ordre à identifier toute personne à partir de ses images en ligne, le système utilise une base de 3 milliards d'images récupérées sur Internet
Gartner démystifie cinq idées fausses sur l'intelligence artificielle, ou « IA », l'argument marketing du moment, d'après l'un des inventeurs de Siri
« L'intelligence artificielle n'existe pas et la voiture autonome n'existera jamais », selon un expert en IA
L'intelligence artificielle menace-t-elle la démocratie dans le monde ? Oui, selon un conseiller principal à la Commission européenne