2 pièce(s) jointe(s)
Facebook a décidé quels utilisateurs pouvaient être intéressés par les nazis
Facebook a décidé quels utilisateurs pouvaient être intéressés par les nazis,
et a laissé les annonceurs les cibler directement
Facebook gagne de l'argent en faisant payer aux annonceurs le message qu’il souhaite diffuser et le réseau social permet de cibler l’audience voulue par l’annonceur.
Malgré les promesses d'une surveillance accrue à la suite de scandales publicitaires antérieurs, une revue du Times montre que Facebook a continué à permettre aux annonceurs de cibler des centaines de milliers d'utilisateurs qui, selon la firme de médias sociaux, sont curieux sur des sujets tels que «Joseph Goebbels», «Josef Mengele», « Heinrich Himmler », le groupe punk néonazi Skrewdriver et le défunt parti national fasciste de Benito Mussolini.
Il faut noter que :
- Joseph Goebbels a été un proche d'Adolf Hitler et, avec Hermann Göring et Heinrich Himmler, l'un des dirigeants les plus puissants et influents du régime nazi.
- Josef Mengele est un officier allemand de la Schutzstaffel (SS), criminel de guerre qui exerça comme médecin dans le camp d'extermination d'Auschwitz durant la Seconde Guerre mondiale. Maillon actif de la Shoah, il y participa à la sélection des déportés voués à un gazage immédiat et réalisa diverses expérimentations « médicales » meurtrières sur de nombreux détenus.
- Heinrich Himmler est l’un des plus hauts dignitaires du Troisième Reich. Il est Reichsführer-SS, le maître absolu de la SS, Chef der Deutschen Polizei (chef de toutes les polices allemandes, dont la Gestapo). Criminel de guerre, il est qualifié par certains auteurs allemands de « meurtrier du siècle » (Jahrhundertmörder).
Les experts disent que cette pratique va à l’encontre des principes énoncés par l’entreprise et peut contribuer à alimenter la radicalisation en ligne.
« Ce que vous décrivez, où une idée ou un récit haineux peut être amplifié pour toucher plus de gens, est exactement ce qu'ils ont dit qu'ils ne voulaient pas faire et ce pour quoi ils doivent être tenus pour responsables », a déclaré Oren Segal, directeur. du centre de la ligue anti-diffamation sur l'extrémisme.
Après avoir été contacté par le Times, Facebook a déclaré qu'il supprimerait de nombreux groupes d'audiences de sa plateforme publicitaire.
« La plupart de ces options de ciblage vont à l'encontre de nos politiques et auraient dû être détectées et supprimées plus tôt", a déclaré le porte-parole de Facebook, Joe Osborne. « Bien que nous examinions en permanence nos options de ciblage, il est clair que nous devons en faire plus. Nous allons donc examiner nos politiques et nos méthodes de détection plus en profondeur ».
Des milliers de personnes ont été atteintes par ces publicités nazies
La large portée de Facebook et ses outils de publicité sophistiqués ont généré des recettes publicitaires record de 55 milliards de dollars en 2018.
Les marges bénéficiaires sont restées supérieures à 40%, grâce à un degré élevé d'automatisation, les algorithmes classant les utilisateurs dans des sous-ensembles commercialisables en fonction de leur comportement - puis sélectionnant les annonces à afficher.
Mais le manque de surveillance humaine a également provoqué la controverse de la société.
En 2017, Pro Publica a constaté que la société vendait des annonces basées sur toute phrase générée par l'utilisateur, notamment «Juif hater» et «Hitler n'a rien fait de mal». Suite au meurtre de 11 fidèles à la synagogue de Pittsburgh en 2018, l'Intercept a constaté que Facebook a donné aux annonceurs la possibilité de cibler les utilisateurs intéressés par la « théorie du complot du génocide blanc », un antisémite que le tueur présumé avait cité comme source d'inspiration avant les attentats.
Ce mois-ci, le Guardian a souligné les façons dont YouTube et Facebook renforcent les théories du complot anti-vaccin, amenant le représentant Adam Schiff (D-Burbank) à se demander si l'entreprise promouvait la désinformation.
Facebook a promis depuis 2017 que les humains examinent chaque catégorie de ciblage des annonces. Il a annoncé l'automne dernier la suppression de 5 000 catégories de publics susceptibles de permettre des abus ou de la discrimination.
Le Times a décidé de tester l’efficacité des efforts de la société en vérifiant si Facebook autoriserait la vente d’annonces destinées à certains segments d’utilisateurs, notamment ceux qui étaient intéressés par Goebbels, principal propagandiste du Troisième Reich, Himmler, architecte de l'Holocauste et dirigeant de la SS, et Mengele, le célèbre médecin du camp de concentration qui a mené des expériences humaines sur des prisonniers.
Chaque catégorie comprenait des centaines de milliers d'utilisateurs.
La société a également approuvé une publicité destinée aux fans de Skrewdriver, un groupe notoire de punk suprématiste blanc - et a automatiquement suggéré une série de sujets liés aux mouvements d'extrême droite européens pour renforcer la portée de la publicité.
Au total, 4 153 utilisateurs ont vu les publicités en 24 heures, le Times ne payant que 25 USD pour alimenter la campagne.
Facebook admet que ses modérateurs humains auraient dû supprimer les catégories démographiques affiliées aux nazis. Mais il est dit que les "publicités" elles-mêmes - composées du mot "test" ou du logo du Times et reliées à la page d'accueil du journal - n'auraient pas soulevé de vives alarmes pour l'équipe séparée qui examine le contenu des publicités.
Après examen, la société a déclaré que les catégories d’annonces étaient rarement utilisées. Les quelques annonces achetées liées au contenu historique, a déclaré Facebook, mais la société ne fournirait pas plus de détails sur leur origine.
Facebook pourrait-il booster le recrutement de nouveaux extrémistes ?
Segal, le directeur de l'ADL, a déclaré que Facebook pourrait alimenter le recrutement de nouveaux extrémistes en diffusant de telles publicités sur les types de pages qu'un lecteur de nouvelles ordinaire pourrait visiter.
« Pouvoir toucher autant de personnes par des contenus extrémistes, existant littéralement dans le même espace que des informations légitimes ou des contenus non haineux, constitue le plus grand danger », a-t-il déclaré. « Ce que vous faites s'apparente à élargir un orbite »
Certains critiques soutiennent que le potentiel d’exploitation est inhérent au fonctionnement fondamental des plateformes publicitaires telles que celle de Facebook, que les données démographiques visées soient explicitement extrémistes ou non.
« Une publicité numérique finement ciblée permet aux annonceurs anonymes, avec Dieu sait quel agenda politique, de tester les messages qui tentent d'exploiter une vulnérabilité et de canaliser un grief dans une direction particulière », a déclaré Anthony Nadler, professeur à Ursinus College en Pennsylvanie, qui étudie comment les réseaux sociaux et les plateformes publicitaires peuvent aider à la radicalisation et à la désinformation. « J'imagine que les suprémacistes blancs les plus sophistiqués cherchent à trouver un moyen d'étendre leur base ».
Source : L.A Times
Voir aussi :
:fleche: La liste blanche secrète de Microsoft Edge permet à Facebook d'exécuter Flash, sans votre autorisation
:fleche: UK : Facebook ne doit pas se considérer comme étant un « gangster numérique » qui est au-dessus des lois, les législateurs envisagent de le superviser
:fleche: L'équipe de sécurité de Facebook suit l'emplacement des utilisateurs considérés comme une menace, pour protéger ses employés
:fleche: USA : Facebook pourrait faire face à une amende de l'ordre du milliard de dollars par la FTC, un record pour une entreprise technologique
:fleche: Edouard Philippe annonce avoir lancé une série d'expérimentations avec Facebook, pour concevoir une loi qui régule les contenus des RS avant l'été
