1 pièce(s) jointe(s)
L'utilisation de la technologie de reconnaissance faciale Clearview AI a augmenté après le siège du Capitole
L'utilisation de la technologie de reconnaissance faciale Clearview AI a augmenté de 26 % après le siège du Capitole,
les forces de l'ordre s'en servent pour traquer les émeutiers
Clearview AI est une start-up qui a mis au point Clearview, une application de reconnaissance faciale. Sur son site, l'entreprise indique que c'est un nouvel outil de recherche utilisé par les organismes judiciaires pour identifier les auteurs et les victimes de crimes. « La technologie de Clearview a aidé les forces de l'ordre à traquer des centaines de criminels en général, notamment des pédophiles, des terroristes et des trafiquants sexuels ».
Son fonctionnement est simple : vous prenez une photo d'une personne, la téléchargez et voyez des photos publiques de cette personne, ainsi que des liens vers l'endroit où ces photos sont apparues. Le système s'appuie sur une base de données de plus de trois milliards d'images que Clearview prétend avoir récupérées sur Facebook, YouTube, Venmo et des millions d'autres sites Web.
Chose légale ou pas, plusieurs rapports publiés l'année dernière ont montré que de nombreuses autorités américaines s’en sont servis dans le cadre d’une enquête ou même à des fins personnelles. De même, pendant plus d'un an avant que la société ne fasse l'objet d'un examen public, l'application avait été librement utilisée par les investisseurs, les clients et les amis de la société. Des personnes proches de Clearview ont utilisé leur technologie de reconnaissance faciale lors de fêtes, de réunions d'affaires, etc. faisant des démonstrations de son potentiel pour le plaisir ou l'utilisant pour identifier des personnes dont elles ignoraient ou ne se souvenaient pas des noms.
Pour sa défense, Hoan Ton-That, co-fondateur de l'entreprise, a expliqué que des comptes d'essai ont été fournis à des investisseurs potentiels et actuels, ainsi qu'à d'autres partenaires stratégiques, afin qu'ils puissent tester l'application.
Clearview était inconnu du grand public jusqu'en janvier dernier 2020, lorsqu'il a été rapporté que la start-up avait développé un système de reconnaissance faciale révolutionnaire qui était utilisé par des centaines d'agences d'application de la loi.
Une utilisation qui a explosé après le siège du Capitole
Le PDG de Clearview AI a déclaré que l'utilisation de la technologie de reconnaissance faciale de son entreprise au sein des forces de l'ordre a augmenté de 26 % le lendemain de l'attaque d'une foule d'émeutiers pro-Trump contre le Capitole américain. Hoan Ton-That a confirmé au New York Times que Clearview avait connu une forte augmentation de son utilisation le 7 janvier, par rapport à son volume de recherche habituel en semaine.
L'attaque du 6 janvier a été diffusée à la télévision et en ligne, des centaines d'images et de vidéo toujours disponibles en ligne montrent les visages d'émeutiers pénétrant dans le bâtiment du Capitole. Le FBI et d’autres agences ont demandé l’aide du public pour identifier les participants. Selon le New York Times, le département de police de Miami utilise Clearview pour identifier certains des émeutiers, envoyant des correspondances possibles au groupe de travail conjoint du FBI sur le terrorisme. Et le Wall Street Journal a rapporté qu'un département de police de l'Alabama utilisait également Clearview pour identifier les visages sur les images de l'émeute et envoyer des informations au FBI.
Contrairement à d’autres systèmes de reconnaissance faciale utilisés par les autorités, qui utilisent des images telles que des photos de permis de conduire et des photos prises en photo, la base de données de Clearview contenant quelque 3 milliards d’images a été extraite des médias sociaux et d’autres sites Web. En plus de soulever de sérieuses préoccupations concernant la confidentialité, la pratique consistant à prendre des images à partir des médias sociaux a enfreint les règles des plateformes, et les entreprises de technologie ont envoyé de nombreuses ordonnances de cessation et d'abstention à Clearview à la suite de la publication de l'enquête qui a révélé les pratiques de la société.
Ainsi, en janvier 2020, Twitter a envoyé une lettre à la startup Clearview AI, lui demandant de cesser de prendre des photos et d'autres données sur le site de médias sociaux « pour quelque raison que ce soit » et de supprimer toutes les données qu'elle avait collectées auparavant, a déclaré une porte-parole de Twitter. La lettre de cessation et d'abstention accusait Clearview de violer les politiques de Twitter. Tor Ekeland, un avocat de Clearview, a confirmé avoir reçu la lettre de Twitter et a déclaré que l'entreprise « répondra de manière appropriée ». Facebook, Google et d'autres géants de la technologie ont envoyé des ordonnances de cessation et d'abstention. Des poursuites ont été intentées dans l'Illinois et en Virginie, et le procureur général du New Jersey a émis un moratoire contre l'application dans cet État.
En réponse aux critiques, Clearview a publié un « code de conduite », soulignant dans un billet de blog que sa technologie n'était « disponible que pour les forces de l'ordre et certains professionnels de la sécurité à utiliser comme outil d'enquête ».
Nathan Freed Wessler, directeur adjoint du projet Speech, Privacy, and Technology de l'ACLU, a déclaré que, bien que la technologie de reconnaissance faciale ne soit pas réglementée par la loi fédérale, « son potentiel de surveillance de masse des communautés de couleur a conduit à juste titre l'État et les gouvernements locaux à travers le pays à interdire son utilisation par les forces de l'ordre. » Wessler a fait valoir que si l'utilisation de la technologie par les services de police est normalisée, « nous savons contre qui elle sera le plus utilisée : les membres des communautés noires et claires qui souffrent déjà d'un système répressif de répression raciste ».
Clearview AI a déclaré en mai qu'elle cesserait de vendre sa technologie à des entreprises privées et la fournirait à la place seulement aux seules forces de l'ordre. Selon la société, quelque 2400 organismes d’application de la loi à travers les États-Unis utilisent le logiciel de Clearview.
Ton-That soutient tout de même que Clearview ne fait rien d’illégal - que son application reproduit simplement ce que font les autres moteurs de recherche. Au lieu de permettre aux internautes de rechercher les images publiques des gens par leur nom, comme on peut le faire sur Google, a-t-il dit, Clearview leur permet de faire la recherche en téléchargeant un visage.
Source : New York Times
Et vous ?
:fleche: Êtes-vous pour ou contre l'usage de la reconnaissance faciale dans un cas comme celui-ci ?
:fleche: Que pensez-vous de la façon dont Clearview AI a alimenté sa base de données en images ?
3 pièce(s) jointe(s)
Des hackeurs ont procédé au téléchargement des données publiées sur Parler avant qu'AWS ne le déconnecte
Des hackeurs ont procédé au téléchargement des données publiées sur Parler avant qu'AWS ne le déconnecte.
Elles peuvent désormais être utilisées pour dénoncer et arrêter les émeutiers pro-Trump.
Le réseau social de droite Parler a été mis hors ligne lundi, mais pas avant qu'un hacker trouve le moyen de télécharger toutes les données publiées par les utilisateurs la semaine dernière. Le réseau social qui soutient toujours Donald Trump et ses abonnés, l'un des rares à le faire actuellement, a été fermé après qu'Amazon l'a suspendu de ses services d'hébergement Web lundi suite à son implication supposée dans l'organisation des émeutes du Capitole. Google et Apple ont déjà supprimé Parler de leurs magasins d'applications respectifs et le service est complètement inaccessible au moment de l'écriture de ces lignes.
Les données collectées comprennent des données de profil utilisateur, des informations utilisateur et quels utilisateurs avaient des droits d'administration pour des groupes spécifiques au sein du réseau social. Une hackeuse qui s'appelle Crash Override sur Twitter et répondant à l'identifiant @donk_enby, a affirmé avoir trouvé une adresse Web que Parler a utilisée en interne pour récupérer des données. Cela lui a permis de faire une liste de tous les messages, vidéos et images téléchargés sur Parler (y compris les messages que les utilisateurs avaient supprimés, tels que ceux faisant référence à l'attaque du Capitole mercredi dernier).
Comme la plupart des services en ligne, Parler n'a pas supprimé les messages des utilisateurs, ils ont simplement été marqués comme non visibles et n'apparaissaient plus dans les résultats de recherche.
Au départ, la hackeuse a travaillé sur le téléchargement des données elle-même, mais quand Amazon a annoncé son intention de déconnecter le réseau social, elle a exhorté ses abonnés à se joindre à elle en publiant une liste de tous les messages.
La hackeuse a mis en place un système de crowdsourcing où plusieurs personnes pourraient aider à télécharger le contenu. Ces données sont en cours de traitement avant d'être téléchargées sur Internet Archive, où tout le monde pourra les consulter ou les télécharger, y compris la communauté du renseignement open source et les forces de l'ordre. Et la possibilité que tout soit diffusé a effrayé certains partisans de Trump.
Au total, plus d'un million d'URL vidéo, certaines supprimées et privées, ont pu être récupérées. Ce sont 70 To de données qui ont pu être récupérées.
Les chercheurs en sécurité affirment que les messages supprimés sont liés aux comptes qui les ont publiés et que certaines des données vidéo et images contiennent des informations de géolocalisation. Cela inclut également les données des « Citoyens Vérifiés» de Parler, les utilisateurs du réseau qui ont procédé à la vérification de leur identité en téléchargeant des photographies de pièces d'identité émises par le gouvernement, comme un permis de conduire.
Cependant, après que la nouvelle concernant le téléchargement des données est devenue populaire, l'auteur du hack @donk_enby a expliqué dans un tweet que ni elle ni d'autres n'avaient collecté de données personnelles que les utilisateurs de Parler n'avaient pas rendues publiques eux-mêmes.
« Seuls les éléments accessibles au public via le Web ont été archivés. Je n'ai pas d'adresse e-mail, de téléphone ou de numéro de carte de crédit. Sauf si vous l'avez publié vous-même sur Parler », a-t-elle déclaré sur Twitter.
Les données pourraient s'avérer précieuses pour les forces de l'ordre, car beaucoup de ceux qui ont participé aux émeutes ont ensuite supprimé leurs publications et leurs vidéos. La récupération des données inclut les publications supprimées, ce qui signifie que Parler a stocké les données utilisateur après que les utilisateurs les ont supprimées.
« Mauvaises nouvelles. Les extrémistes de gauche ont capturé et archivé plus de 70 To de données à partir des serveurs Parler. Cela comprend les publications, les informations personnelles, les emplacements, les vidéos, les images, etc. », a déclaré lundi matin un compte Telegram appelé North Central Florida Patriots.
Parler, qui prétend avoir plus de 10 millions d'utilisateurs, a des règles laxistes sur le contenu, ce qui rend la plateforme très attrayante pour les groupes d'extrême droite. Google et Apple ont supprimé l'application pour smartphone de Parler de leurs magasins d'applications, affirmant que la plateforme autorisait la publication visant à « inciter à la violence continue aux États-Unis ». Amazon a pris des mesures similaires, supprimant Parler de son service d'hébergement.
Sur les réseaux sociaux, des internautes affirment que la copie des données a été rendue possible grâce à Twilio, une plateforme de communication cloud américaine qui a fourni à la plateforme des services de vérification des numéros de téléphone et qui a décidé de couper les liens avec la plateforme (la privant de facto d'un service de vérification de numéro de téléphone). Dans un communiqué de presse annonçant la décision, Twilio a révélé les services utilisés par Parler. Ces informations ont permis aux hackers de déduire qu'il était possible de créer des utilisateurs et des comptes vérifiés sans vérification réelle.
Avec ce type d'accès, les utilisateurs nouvellement créés ont pu accéder à l'API de la boîte de connexion utilisée pour la livraison de contenu. Cela leur a permis de voir quels utilisateurs avaient des droits de modérateur et cela leur a permis de réinitialiser les mots de passe des utilisateurs existants avec une simple fonction « mot de passe oublié ». Étant donné que Twilio n'a plus authentifié les e-mails, les hackers ont pu accéder facilement aux comptes administrateurs. Armés de ces comptes administrateurs, il était alors possible d'avoir accès aux messages qui semblaient supprimés pour les utilisateurs ordinaires.
Twilio, cependant, s'est distancé des accusations de divulgation d'informations sur les services de Parler dans un communiqué de presse. Le responsable des communications d'entreprise de la société, Cris Paden, a affirmé que les experts en sécurité de Twilio n'avaient trouvé aucune preuve que les problèmes de sécurité de Parler étaient liés à leurs services : « Le vendredi 8 janvier, nous avons envoyé à Parler une lettre les informant qu'ils enfreignaient notre politique d'utilisation acceptable et les informant que nous suspendrions leur compte s'ils ne faisaient pas d'efforts pour remédier à plusieurs appels à la violence sur leur plateforme ».
Il affirme que peu de temps après, Parler a informé la société qu'ils avaient déjà désactivé leur navigation avec Twilio et que, par conséquent, les problèmes de sécurité n'étaient pas liés à Twilio.
Une question d'éthique
Même si le but déclaré de la récupération de données est de conserver la preuve d'un acte répréhensible, une question demeure : les fins justifient-elles les moyens ?
D'une part, certaines des personnes dont les données ont été collectées ont activement planifié des actes de violence. D'autre part, certaines personnes n'ont rejoint Parler que par curiosité ou par obligation professionnelle, comme les journalistes. Cependant, la collecte des données s'est déroulée sans que les hackers ne prêtent attention aux véritables intentions des titulaires de comptes.
« D'après ce que je lis, il ne s'agissait pas de piratage informatique dans un sens où nous pensons au piratage sponsorisé par l'État, impliquant du phishing ou une tromperie active, ou quelque chose du genre. Il y avait une lacune flagrante dans la sécurité de la plateforme, et @don_enby et quelques autres l'ont remarquée et l'ont utilisée », a déclaré Ali Alkhatib, éthicien des données et chercheur au Center for Applied Data Ethics.
Étant donné que @don_enby n'a pas effectué la récupération des données en secret, il n'y a pas de quoi s'inquiéter d'un point de vue éthique selon lui. Cependant, Alkhatib convient que si la récupération des données visait des groupes minoritaires, il y aurait beaucoup plus à craindre : « Pour moi, cela ressemble un peu plus à la débâcle d'Ashley Madison, mais pour les suprémacistes blancs », a-t-il commenté.
Source : Crash Override, BitBurner
Et vous ?
:fleche: Que pensez-vous de cette initiative ? Êtes-vous pour tant que cela permet d'appréhender les émeutiers ou contre dans la mesure où cela pourrait s'apparenter à de la surveillance de masse ?
2 pièce(s) jointe(s)
Donald Trump affirme que les entreprises de la Big Tech divisent et sèment la discorde dans le pays
Donald Trump affirme que les entreprises de la Big Tech divisent et sèment la discorde dans le pays,
après que les partisans de celui-ci ont attaqué le Congrès
Donald Trump a affirmé que son interdiction des médias sociaux est une "erreur catastrophique" et a qualifié les entreprises de la Big Tech d'horribles, suite à sa suspension permanente de nombreuses plateformes Internet à la suite des émeutes du Capitole.
Mardi, avant de monter à bord d'un hélicoptère pour se rendre d'Alamo (Texas) à la Maison Blanche, le président Trump a parlé aux journalistes de son interdiction de plusieurs sites de médias sociaux, dont Twitter et Facebook. « Je pense que cette technologie fait une chose horrible à notre pays et pour notre pays et je crois que cela va être une erreur catastrophique pour eux. Ils divisent et sèment la discorde et ils montrent quelque chose que je prédis depuis longtemps », a-t-il déclaré. Il a ajouté : « Je l'avais prédit depuis longtemps, mais les gens n'ont pas agi et je pense que la Big Tech a fait une terrible erreur et très, très mauvaise pour notre pays et cela amène d'autres à faire la même chose. Et cela cause beaucoup de problèmes et beaucoup de dangers. C'est une grosse erreur et ils ne devraient pas le faire ». Il a déclaré qu'il y a une « contre-mesure » aux mesures prises par les plateformes de Big Tech sans être précis sur ce que cela signifie.
Le président Donald Trump a reproché mardi aux entreprises de la Big Tech de diviser le pays, quelques jours après que Twitter et Facebook l'ont interdit sur leurs plateformes pour avoir encouragé l'attaque du bâtiment du Capitole américain. Les manifestants ont attaqué le Capitole après avoir assisté à un rassemblement dirigé par Donald Trump, qui a exhorté les partisans à « descendre au Capitole » et leur a dit : « Vous devez faire preuve de force, et vous devez être forts ».
La Chambre a été évacuée, de nombreux politiciens et membres du personnel ayant été contraints de se barricader dans les bureaux pour se cacher des assaillants, dont certains portaient des armes à feu et autres. Cinq personnes sont mortes et de nombreuses autres ont été blessées dans les émeutes.
Au cours des derniers mois, Twitter et Facebook ont tous deux dénoncé les messages de Donald Trump concernant l'élection présidentielle du 3 novembre dernier. Trump a affirmé à plusieurs reprises et sans fondement que l'élection avait été truquée. Des appels ont été lancés pour que les plateformes interdisent Trump afin de mettre un terme à la diffusion de fausses informations. À la suite des violences de mercredi et du refus du président de cesser de contester l'élection sur les médias sociaux, Twitter a interdit Trump dans une démarche qui a été rapidement suivie par Facebook.
Twitch, Spotify, Snapchat et Shopify ont tous fait de même dans les jours qui ont suivi, tandis que YouTube et TikTok ont annoncé de nouvelles restrictions concernant les messages de soutien aux actions de Donald Trump sur leurs plateformes. Les suspensions interdisent effectivement au président actuel d'accéder aux principaux médias sociaux.
Annonçant vendredi la suspension du président Trump, Twitter a écrit : « Nous avons suspendu définitivement le compte en raison du risque de nouvelles incitations à la violence. Dans le contexte des événements horribles de cette semaine, nous avons clairement fait savoir mercredi que de nouvelles violations des règles de Twitter pourraient entraîner cette même ligne de conduite ».
La plateforme de médias sociaux a ajouté : « Nous avons clairement indiqué, il y a des années, que ces comptes ne sont pas entièrement au-dessus de nos règles et ne peuvent pas utiliser Twitter pour inciter à la violence, entre autres choses. Nous continuerons de faire preuve de transparence concernant nos politiques et leur application ».
Tout en s'adressant aux journalistes avant de monter à bord de l'hélicoptère mardi, le président Trump a également refusé d'assumer une quelconque responsabilité dans les émeutes au Capitole mercredi. « Donc si vous lisez mon discours et beaucoup de gens l'ont fait, et je l'ai vu dans les journaux et les médias, à la télévision, il a été analysé, et les gens ont pensé que ce que j'ai dit était tout à fait approprié », a-t-il dit.
Trump a ensuite affirmé que les appels de plus en plus nombreux à sa destitution avant la fin de sa présidence, le 20 janvier, sont « absolument ridicules » et a ajouté que les demandes de destitution des démocrates provoquaient « une énorme colère ».
Trump a affronté à plusieurs reprises de grandes entreprises technologiques et s'est insurgé contre les protections dont elles bénéficient en vertu d'une loi appelée section 230, qui protège les entreprises de toute responsabilité concernant le contenu publié par les utilisateurs. Il a continué à demander l'abrogation de cette loi, même si ses appels n'ont pas trouvé un soutien suffisant au Congrès. Il a même opposé son veto à un projet de loi sur la défense de 740 milliards de dollars qui alloue des fonds militaires chaque année, parce que le projet de loi ne prévoyait pas de dispositions permettant d'annuler la section 230. Le Congrès a annulé le veto.
Apple, Google et Amazon ont également suspendu Parler, une application pro-Trump où les utilisateurs ont menacé de recourir à plus de violence de leurs App stores et services d'hébergement web respectifs. Face à tous ces mouvements, Trump a réagi, il a immédiatement juré qu'il ne serait « pas réduit au silence » et a promis une « grande annonce bientôt ».
Et vous ?
:fleche: Qu’en pensez-vous ?
:fleche: Que pensez-vous de l’avenir de Donald Trump sur les médias sociaux après son retour à la vie civile ?
:fleche: Quelle place accordez-vous aux réseaux sociaux dans le débat public ?
Voir aussi :
:fleche: La suspension définitive du compte de Donald Trump par Twitter oppose la France et l'Allemagne à la plateforme, qui se justifie par la nécessité de lutter contre l'incitation à la violence
:fleche: Le président US a menacé de « réglementer » ou de « fermer » des plateformes de réseaux sociaux, après que ses tweets ont été marqués comme véhiculant des informations non vérifiées
:fleche: Le compte Twitter de Donald Trump piraté ! Victor Gevers, un chercheur néerlandais, affirme avoir eu accès au compte du président américain, mais Twitter et la Maison Blanche nient ces allégations
:fleche: Un ingénieur de Facebook décide de démissionner en guise de protestation. Il accuse la société de « profiter de la haine aux États-Unis et dans le monde» et indique ne plus vouloir y contribuer