1 pièce(s) jointe(s)
Meta a gagné des millions grâce à des publicités provenant de réseaux de faux comptes
Apple aurait menacé d'éjecter Facebook de son App Store après un rapport notant que des esclavagistes utilisaient la plateforme
et Facebook était laxiste quant à la gestion de ce problème
Apple a menacé d'éjecter Facebook de son App Store après qu'un rapport de la BBC en 2019 a détaillé comment les trafiquants d'êtres humains utilisaient Facebook pour vendre des victimes, selon le Wall Street Journal. Le Journal a consulté des documents de l'entreprise qui montrent qu'une équipe d'enquête de Facebook traquait un marché de la traite des êtres humains au Moyen-Orient dont les organisateurs utilisaient les services de Facebook. Ce qui semblait être des agences de placement faisait de la publicité pour les travailleurs domestiques qu'elles pouvaient fournir contre leur gré, selon le Journal.
Des dizaines de documents Facebook examinés par le Wall Street Journal montrent que des employés Facebook ont tiré la sonnette d'alarme sur la façon dont ses plateformes sont utilisées dans les pays en développement, où sa base d'utilisateurs est énorme et en expansion. Les employés ont signalé que des trafiquants d'êtres humains au Moyen-Orient utilisaient les plateformes pour proposer des « femmes de ménage à vendre » qui étaient présentées comme du personnel corvéable à merci, sans contrat de travail ni protection sociale et confiscation du passeport.
Apple a dû menacer le réseau social de retirer ses applications de l'App Store pour qu'il s'engage à réprimer cette pratique.
Pourtant, une note interne a révélé que Facebook était au courant de la pratique avant même cette date : un chercheur de Facebook a écrit dans un rapport daté de 2019, « ce problème était-il connu de Facebook avant l'enquête de la BBC et l'escalade d'Apple ? », selon le Journal.
Sous la question se lit : « Oui. Tout au long de 2018 et du premier semestre 2019, nous avons mené l'exercice de compréhension global afin de bien comprendre comment la servitude domestique ne se manifeste pas sur notre plateforme tout au long de son cycle de vie : recrutement, facilitation et exploitation ».
À maintes reprises, montrent les documents, les chercheurs de Facebook ont identifié les effets néfastes de la plateforme. À maintes reprises, malgré les audiences du Congrès, ses propres engagements et de nombreux exposés médiatiques, la société ne les a pas corrigés. Les documents offrent peut-être l'image la plus claire à ce jour de l'étendue de la connaissance des problèmes de Facebook au sein de l'entreprise, jusqu'au directeur général lui-même.
À la lecture des documents internes, des employés de Facebook ont averti que des groupes armés en Éthiopie utilisaient le site pour inciter à la violence contre les minorités ethniques. Ils ont envoyé des alertes à leurs patrons sur l'utilisation des plateformes pour la vente d'organes, la pédopornographie et l'action du gouvernement contre la dissidence politique. Les documents ont montré également la réponse de l'entreprise, qui dans de nombreux cas est inadéquate ou inexistante. Un porte-parole de Facebook a déclaré que la société avait déployé des équipes mondiales, des partenariats locaux et des vérificateurs de faits tiers pour assurer la sécurité des utilisateurs.
Facebook dit que ses règles s'appliquent à tous. Les documents de l'entreprise révèlent une élite secrète qui est exemptée
Mark Zuckerberg a déclaré que Facebook permet à ses utilisateurs de parler sur un pied d'égalité avec les élites de la politique, de la culture et du journalisme, et que ses normes s'appliquent à tout le monde. En privé, la société a construit un système qui a exempté les utilisateurs de haut niveau de tout ou partie de ses règles. Le programme, connu sous le nom de « contrôle croisé » (cross check) ou « XCheck », était conçu comme une mesure de contrôle de la qualité pour les comptes de grande envergure. Aujourd'hui, il protège des millions de VIP de l'application normale de l'entreprise, selon les documents. Beaucoup abusent de ce privilège, publiant du matériel comprenant du harcèlement et de l'incitation à la violence qui entraînerait généralement des sanctions. Facebook affirme que la critique du programme est juste, qu'il a été conçu dans un bon but et que l'entreprise s'efforce de le corriger.
Facebook sait qu'Instagram est toxique pour de nombreuses adolescentes, selon les documents de l'entreprise
Les chercheurs d'Instagram, qui appartient à Facebook, étudient depuis des années comment son application de partage de photos affecte des millions de jeunes utilisateurs. À plusieurs reprises, la société a constaté qu'Instagram est nocif pour un pourcentage important d'entre elles, notamment les adolescentes, plus que les autres plateformes de médias sociaux. En public, Facebook a toujours minimisé les effets négatifs de l'application, y compris dans les commentaires au Congrès, et n'a pas rendu ses recherches publiques ou disponibles pour les universitaires ou les législateurs qui l'ont demandé. En réponse, Facebook dit que les effets négatifs ne sont pas généralisés, que la recherche en santé mentale est précieuse et que certains des aspects nocifs ne sont pas faciles à traiter
Facebook a essayé de faire de sa plateforme un endroit plus sain. Le résultat est loin d'être celui qui était escompté
En 2018, Facebook a annoncé avoir procédé à un changement dans son algorithme afin d'améliorer sa plateforme et d'arrêter les signes de déclin de l'engagement des utilisateurs. Zuckerberg a déclaré que son objectif était de renforcer les liens entre les utilisateurs et d'améliorer leur bien-être en favorisant les interactions entre amis et famille. Au sein de l'entreprise, montrent les documents, les membres du personnel ont averti que le changement avait l'effet inverse. Cela rendait Facebook et ceux qui l'utilisaient encore plus en colère. Zuckerberg a résisté à certaines corrections proposées par son équipe, selon les documents, car il craignait qu'elles conduisent les gens à moins interagir avec Facebook. Facebook, en réponse, affirme que tout algorithme peut promouvoir un contenu répréhensible ou préjudiciable et que l'entreprise fait de son mieux pour atténuer le problème.
Les modérateurs qui ne comprennent pas certaines langues et laissent passer des messages nuisibles
Les modérateurs de contenu alimentés par l'intelligence artificielle de Facebook ne peuvent pas lire certaines langues utilisées sur la plateforme, ce qui soulève des inquiétudes quant à la façon dont l'entreprise contrôle le contenu dans les pays qui parlent des langues autres que l'anglais, a rapporté jeudi le Wall Street Journal.
Le Journal a consulté des documents de l'entreprise qui montrent que Facebook n'a pas suffisamment d'employés capables de parler les langues locales pour surveiller les événements dans d'autres pays, des marchés sur lesquels l'entreprise s'est développée pour renforcer sa base d'utilisateurs non américains. Plus de 90 % des utilisateurs mensuels de Facebook se trouvent en dehors de l'Amérique du Nord, selon le Journal.
Le rapport montre comment le manque de modérateurs humains possédant des compétences multilingues (combiné aux lacunes de l'utilisation de robots pour éliminer les messages toxiques)affaiblit la capacité de Facebook à surveiller le contenu préjudiciable en ligne, un sujet qui l'a soumis à un examen minutieux dans plusieurs pays ces dernières années.
Les employés de Facebook ont exprimé leurs inquiétudes quant à la façon dont le système a permis à de mauvais acteurs d'utiliser le site à des fins néfastes, selon les documents consultés par The Journal.
Un ancien vice-président de la société a déclaré au Journal que Facebook perçoit les dommages potentiels dans les pays étrangers comme étant « simplement le prix à payer pour faire des affaires » sur ces marchés. Il a également déclaré qu'il y a « très rarement un effort significatif et concerté pour investir dans la réparation de ces domaines ».
Les cartels de la drogue et les trafiquants d'êtres humains ont utilisé Facebook pour cibler des victimes. Un cartel, en particulier, représente la plus grande menace criminelle de drogue pour les États-Unis, selon les responsables américains, et a utilisé plusieurs pages Facebook pour publier des photos de scènes violentes et graphiques et d'images d'armes à feu. Une équipe d'enquête interne voulait que le cartel soit complètement banni, mais l'équipe chargée de le faire n'a jamais donné suite, selon le rapport.
En Éthiopie, des groupes ont utilisé Facebook pour inciter à la violence contre le peuple tigréen victime du nettoyage ethnique. Ce contenu a glissé entre les mailles du filet en raison d'un manque de modérateurs qui parlent cette langue. La société n'avait pas non plus traduit ses règles de « normes communautaires » dans les langues utilisées en Éthiopie, selon le Journal.
Et la plupart des modérateurs de Facebook arabophones marocains ne sont pas capables de parler d'autres dialectes arabes, ce qui a permis aux contenus violents de rester en ligne.
Dans la plupart des cas, Facebook a supprimé les publications nuisibles uniquement lorsqu'elles ont attiré l'attention du public et n'a pas réparé les systèmes automatisés (surnommés « classificateurs ») qui ont permis la publication de ce contenu en premier lieu, selon le rapport.
Sources : BBC, WSJ
Voir aussi :
:fleche: Apple a bloqué le clavier FlickType Watch disant que les claviers ne sont pas autorisés sur l'Apple Watch puis a annoncé un clone de celui-ci sur le dispositif
:fleche: Procès Epic : Apple ne pourra plus forcer les développeurs à utiliser son système de paiement, une décision qui pourrait sérieusement nuire aux revenus de l'éditeur sur l'App Store
:fleche: Apple censure les mots et expressions que ses clients peuvent graver sur ses produits en Chine, à Hong Kong et à Taïwan : droits de l'Homme, liberté de la presse et démocratie en font partie
:fleche: Apple enregistre un chiffre d'affaires record de 89,6 Md $ au 2T21, soit une hausse de 54 % d'une année à l'autre, mais reste tout de même vigilant quant à la pénurie de puces
Intéressant, problème épineux
Très bon article qui au lieu de rester dans le conflit Apple/Facebook comme le laissait craindre le titre, rentre dans le fond du sujet.
C'est quand-même une tâche très compliquée pour facebook, qui se retrouve à devoir gérer des problématiques normalement confiées aux Etats.
La question est : Facebook doit-il jouer le rôle d'un Etat ? Car ce sont purement et simplement les problématiques du monde "IRL" qui se retrouvent transposées sur le réseau social. Ce qui demande des moyens conséquent pour enquêter, démêler le vrai du faux, dénicher, sanctionner...
C'est véritablement un travail de policier !
Facebook peut êre blamé poru avoir vu trop grand et avoir voulu manger le monde entier sans savoir à quoi il s'attaquait. Des réseaux sociaux décentralisés dont la gouvernance est confiées aux autorités locales l'aurait déchargé de cette responsabilité mais aurait amené aussi tout son lot de problèmes comme par exemple le cadre donné à la parole. Ce qui est tolérable pour facebook ne le sera pas forcément pour les autorités ou communautés locales, et inversement.
Facebook se retrouve à devoir appliquer sa politique, sa vision du monde dans une myriade de contextes différents avec chacun leur spécificités, c'est un travail de titan et je suis pas sûr qu'une entreprise à la base à but lucratif soit faite pour ça. D'autant plus que sa politique ne fait même pas l'unanimité dans son pays d'origine, les USA !
Sacré bazar.
2 pièce(s) jointe(s)
Facebook encourage les discours de haine pour gagner de l'argent, selon une lanceuse d'alerte
Facebook encourage les discours de haine pour gagner de l'argent, selon une lanceuse d'alerte
qui a publié des informations qu'elle a pu glaner durant son passage au sein de l'entreprise
La dénonciatrice derrière la fuite d'un énorme cache de documents Facebook qui a servi de socle pour une série de révélations sur le numéro un des réseaux sociaux s'est dévoilée dimanche durant l'émission 60 Minutes sur CBS News. Répondant au nom Frances Haugen, la dénonciatrice en a révélé davantage sur le fonctionnement interne de la plateforme de médias sociaux la plus puissante au monde. Haugen a décrit une entreprise si engagée dans l'optimisation des produits qu'elle a adopté des algorithmes qui amplifient les discours de haine.
Frances Haugen. C'est un nom que Facebook a tenu à obtenir depuis le mois dernier lorsqu'un ancien employé anonyme a déposé des plaintes auprès des forces de l'ordre fédérales. L'une de ces plaintes indique que les propres recherches de Facebook montrent que le réseau social amplifie la haine, la désinformation et les troubles politiques, mais l'entreprise cache ce qu'elle sait. Une autre allègue qu'Instagram de Facebook nuit aux adolescentes.
Ce qui rend les plaintes de Haugen sans précédent, c'est la mine de recherches privées sur Facebook qu'elle a pu fournir lorsqu'elle a démissionné en mai. Les documents sont apparus pour la première fois, le mois dernier. Frances Haugen a décidé de révéler son identité pour expliquer pourquoi elle est devenue la dénonciatrice de Facebook.
Frances Haugen, 37 ans, est une data scientist originaire de l'Iowa, diplômée en ingénierie informatique et titulaire d'une maîtrise en commerce de Harvard. Selon un profil LinkedIn désormais supprimé, Haugen était un chef de produit chez Facebook affecté au groupe Civic Integrity. Elle a choisi de quitter l'entreprise après la dissolution du groupe. Elle a dit qu'elle n'avait « pas confiance dans le fait qu'ils étaient prêts à investir pour empêcher Facebook d'être dangereux ».
Par conséquent, elle a divulgué un cache de recherches internes à la Securities and Exchange Commission dans l'espoir d'améliorer la réglementation de l'entreprise. Elle a noté qu'elle avait travaillé dans un certain nombre d'entreprises, dont Google et Pinterest, mais que « c'était nettement pire chez Facebook » en raison de la volonté de l'entreprise de faire passer ses bénéfices avant le bien-être de ses utilisateurs.
« Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley.
« Imaginez que vous savez ce qui se passe à l'intérieur de Facebook et que personne ne le sait à l'extérieur. Je savais à quoi ressemblerait mon avenir si je continuais à rester à l'intérieur de Facebook », a-t-elle continué.
Et Pelley de lui demandé : « Quand et comment vous est-il venu à l'esprit de retirer tous ces documents de l'entreprise ? »
Ce à quoi elle a répondu : « À un moment donné en 2021, je me suis dit : "D'accord, je vais devoir le faire de manière systémique, et je dois en sortir suffisamment pour que personne ne puisse remettre en question le fait que c'est réel" ».
Elle a secrètement copié des dizaines de milliers de pages de recherches internes sur Facebook. Elle dit que les preuves montrent que l'entreprise ment au public sur ses progrès significatifs contre la haine, la violence et la désinformation.
Scott Pelley : Pour citer un autre des documents que vous avez publiés : « Nous avons des preuves provenant de diverses sources que les discours de haine, les discours politiques qui divisent et la désinformation sur Facebook et la famille d'applications affectent les sociétés du monde entier. »
Frances Haugen : Lorsque nous vivons dans un environnement d'information rempli de contenus colériques, haineux et polarisants, cela érode notre confiance civique, cela érode notre confiance mutuelle, cela érode notre capacité à vouloir prendre soin les uns des autres, la version de Facebook qui existe aujourd'hui déchire nos sociétés et provoque des violences ethniques dans le monde.
Frances Haugen a déclaré qu'elle avait été recrutée par Facebook en 2019. Elle dit n'avoir accepté le poste qu'à la condition de pouvoir lutter contre la désinformation parce qu'elle avait perdu un ami à cause des théories du complot en ligne.
Frances Haugen : Je n'ai jamais voulu que quelqu'un ressente la douleur que j'avais ressentie. Et j'avais vu à quel point les enjeux étaient importants pour s'assurer qu'il y avait des informations de haute qualité sur Facebook.
Au siège, elle a été affectée à l'intégrité civique qui a travaillé sur les risques pour les élections, y compris la désinformation. Mais après cette dernière élection, il y a eu un tournant.
Frances Haugen : Ils nous ont dit : « Nous sommes en train de dissoudre l'intégrité civique. En gros, c'était « bah, nous avons survécu aux élections. Il n'y a pas eu d'émeutes. Nous pouvons nous débarrasser de l'intégrité civique maintenant ». Avance rapide de quelques mois, nous avons eu l'insurrection. Et quand ils se sont débarrassés de l'intégrité civique, c'est à ce moment-là que je me suis dit : « Je ne crois pas qu'ils soient prêts à investir ce qui doit être investi pour empêcher Facebook d'être dangereux ».
Facebook affirme que le travail de Civic Integrity a été distribué à d'autres unités. Mais Haugen a une autre perspective : selon elle, la racine du problème de Facebook réside dans un changement qu'il a apporté en 2018 à ses algorithmes - la programmation qui décide de ce que vous voyez sur votre fil d'actualité Facebook.
Frances Haugen : Alors, vous savez, vous avez votre téléphone. Vous pourriez ne voir que 100 éléments de contenu si vous vous asseyez et faites défiler pendant, disons, cinq minutes. Mais Facebook a des milliers d'options qu'il pourrait vous montrer.
L'algorithme choisit parmi ces options en fonction du type de contenu avec lequel vous vous êtes le plus engagé dans le passé.
Frances Haugen : Et l'une des conséquences de la façon dont Facebook sélectionne ce contenu aujourd'hui, c'est qu'il s'agit d'optimiser le contenu qui suscite l'engagement ou la réaction. Mais ses propres recherches montrent qu'un contenu haineux, qui divise, qui polarise, inspire plus facilement aux gens de la colère que d'autres émotions.
Scott Pelley : La désinformation, du contenu plein de colère est attrayant pour les gens et continue de les garder sur la plateforme.
Françoise Haugen : Oui. Facebook s'est rendu compte que s'ils changent l'algorithme pour qu'il devienne plus sûr, les gens passeront moins de temps sur le site, ils cliqueront sur moins de publicités, ils gagneront moins d'argent.
Haugen note que Facebook a compris le danger pour les élections de 2020. Facebook a donc activé les systèmes de sécurité pour réduire la désinformation, mais bon nombre de ces changements, dit-elle, étaient temporaires.
Frances Haugen : Et dès que les élections étaient terminées, ils les ont désactivés ou ils ont ramené les paramètres à ce qu'ils étaient avant, pour donner la priorité à la croissance plutôt qu'à la sécurité. Et cela ressemble vraiment à une trahison de la démocratie pour moi.
Scott Pelley : Facebook amplifie essentiellement le pire de la nature humaine.
Frances Haugen : C'est l'une de ces conséquences malheureuses, n'est-ce pas ? Personne chez Facebook n'est malveillant, mais les incitations sont mal alignées, n'est-ce pas ? Néanmoins, Facebook gagne plus d'argent lorsque vous consommez plus de contenu. Les gens aiment s'engager dans des choses qui suscitent une réaction émotionnelle. Et plus ils sont exposés à la colère, plus ils interagissent et plus ils consomment.
Cette dynamique a conduit à une plainte auprès de Facebook par les principaux partis politiques à travers l'Europe. Ce rapport interne de 2019 obtenu par Haugen indique que les parties, « … ont le sentiment profond que le changement de l'algorithme les a forcées à biaiser négativement leurs communications sur Facebook… les conduisant à adopter des positions politiques plus extrêmes ».
Scott Pelley : Les partis politiques européens disaient essentiellement à Facebook que la façon dont vous avez écrit votre algorithme change la façon dont nous dirigeons nos pays.
Françoise Haugen : Oui. Vous nous forcez à prendre des positions que nous n'aimons pas, que nous savons être mauvaises pour la société. Nous savons que si nous ne prenons pas ces positions, nous ne gagnerons pas sur le marché des médias sociaux. La preuve du préjudice, dit-elle, s'étend à l'application Instagram de Facebook.
Scott Pelley : L'une des études internes de Facebook que vous avez trouvées parle de la façon dont Instagram nuit aux adolescentes. Une étude indique que 13,5 % des adolescentes disent qu'Instagram aggrave les pensées suicidaires ; 17 % des adolescentes disent qu'Instagram aggrave les troubles de l'alimentation.
Frances Haugen : Et ce qui est super tragique, c'est que la propre recherche de Facebook dit, alors que ces jeunes femmes commencent à consommer ce contenu de trouble de l'alimentation, elles deviennent de plus en plus déprimées. Et cela les incite en fait à utiliser davantage l'application. Et ainsi, elles se retrouvent dans ce cycle de rétroaction où elles détestent de plus en plus leur corps. Les propres recherches de Facebook indiquent que ce n'est pas seulement Instagram qui est dangereux pour les adolescents, qu'il nuit aux adolescents, c'est qu'il est nettement pire que les autres formes de médias sociaux.
Facebook a déclaré, il y a quelques jours, qu'il reporterait les projets de création d'un compte Instagram pour les plus jeunes.
Le mois dernier, les avocats de Haugen ont déposé au moins 8 plaintes auprès de la Securities and Exchange Commission, qui applique la loi sur les marchés financiers. Les plaintes comparent la recherche interne avec le visage public de l'entreprise, souvent celui du PDG Mark Zuckerberg, qui a témoigné à distance devant le Congrès en mars dernier. Durant cet exercice qui a eu lieu le 25 mars, Mark Zuckerberg a déclaré : « Nous avons supprimé le contenu qui pourrait entraîner des dommages imminents dans le monde réel. Nous avons mis en place un programme de vérification des faits par des tiers sans précédent. Le système n'est pas parfait. Mais c'est la meilleure approche que nous ayons trouvée pour lutter contre la désinformation conformément aux valeurs de notre pays ».
La réaction de Facebook
Facebook a publié une déclaration contestant les points soulevés par Haugen après l'interview télévisée.
« Nous continuons d'apporter des améliorations significatives pour lutter contre la propagation de la désinformation et du contenu préjudiciable », a déclaré la porte-parole de Facebook, Lena Pietsch. « Suggérer que nous encourageons le mauvais contenu et que nous ne faisons rien n'est tout simplement pas vrai ».
Avant l'interview de 60 minutes, le vice-président des affaires mondiales de Facebook, Nick Clegg, a déclaré sur CNN qu'il était « ridicule » d'affirmer que l'émeute du 6 janvier s'est produite à cause des médias sociaux.
Pourparlers internationaux
Dimanche, l'avocat de Haugen, John Tye, fondateur de l'organisation à but non lucratif Whistleblower Aid whistlebloweraid.org, a confirmé un rapport du New York Times selon lequel certains des documents internes ont été partagés avec les procureurs généraux de plusieurs États, dont la Californie, le Vermont et le Tennessee.
Tye a déclaré que les plaintes avaient été déposées auprès de la SEC sur la base qu'en tant que société cotée en bourse, Facebook est tenu de ne pas mentir à ses investisseurs, ni même de retenir des informations importantes.
Les plaintes comparent les recherches internes de Facebook avec ses déclarations publiques sur les problèmes qu'il a étudiés, selon l'interview de 60 Minutes.
Tye a déclaré que Haugen s'était également entretenu avec des législateurs en Europe et devait comparaître devant le Parlement britannique plus tard ce mois-ci, dans l'espoir de stimuler une action réglementaire.
Lui et Haugen sont également intéressés à parler avec des législateurs de pays d'Asie, car bon nombre des problèmes qui ont motivé Haugen proviennent de la région, y compris la violence ethnique au Myanmar, a-t-il ajouté.
Whistleblower Aid, qui représente Haugen pro bono, a également lancé un GoFundMe pour collecter 50 000 $ pour ses frais juridiques.
Et vous ?
:fleche: Quelle lecture en faites-vous ?
Voir aussi :
:fleche: Les recherches de Facebook montrent qu'Instagram est nocif pour les adolescents, mais l'entreprise relativise et défend que cela dépend de leur état d'esprit et la manière dont ils l'utilisent
:fleche: Facebook suspend son projet de lancer Instagram Kids, cette décision fait suite aux préoccupations concernant les effets sur la santé mentale des moins de 13 ans
Une fausse lanceuse d'alerte
Rien de nouveau sous le ciel. Ces faits sont connus et dénoncé depuis longtemps. Peut-être pas pour le grand publique, mais pour les gens qui ont suivi la saga avec Trump, c'est de l'histoire ancienne. Facebook est en chute libre. La suite façon de sauver la mise est d'imposer la censure et la modération à la compétition pour la détruire. Si vous faite des recherche sur la dame, vous allez découvrir qu'elle a un sérieux problème avec la liberté d'expression et qu'il y a beaucoup de choses qui sont haineux à ses yeux.
3 pièce(s) jointe(s)
La dénonciatrice de Facebook demande au Sénat de tenir Facebook pour responsables de ses algorithmes
La dénonciatrice de Facebook demande au Sénat de tenir les réseaux sociaux pour responsables de leurs algorithmes,
en modifiant l'article 230 de la Communications Decency Act
La dénonciatrice de Facebook Frances Haugen a témoigné devant un panel du Sénat, recommandant une liste de changements pour freiner l'entreprise, y compris une refonte de l'article 230 qui tiendrait le géant des médias sociaux pour responsables de ses algorithmes qui promeuvent le contenu en fonction de l'engagement qu'il reçoit dans le fil d'actualité des utilisateurs.
Il y a quelques jours, la dénonciatrice derrière la fuite d'un énorme cache de documents Facebook qui a servi de socle pour une série de révélations sur le numéro un des réseaux sociaux s'est dévoilée durant l'émission 60 Minutes sur CBS News. Répondant au nom Frances Haugen, la dénonciatrice en a révélé davantage sur le fonctionnement interne de la plateforme de médias sociaux la plus puissante au monde. Haugen a décrit une entreprise si engagée dans l'optimisation des produits qu'elle a adopté des algorithmes qui amplifient les discours de haine.
Frances Haugen, 37 ans, est une data scientist originaire de l'Iowa, diplômée en ingénierie informatique et titulaire d'une maîtrise en commerce de Harvard. Selon un profil LinkedIn désormais supprimé, Haugen était un chef de produit chez Facebook affecté au groupe Civic Integrity. Elle a choisi de quitter l'entreprise après la dissolution du groupe. Elle a dit qu'elle n'avait « pas confiance dans le fait qu'ils étaient prêts à investir pour empêcher Facebook d'être dangereux ».
Par conséquent, elle a divulgué un cache de recherches internes à la Securities and Exchange Commission dans l'espoir d'améliorer la réglementation de l'entreprise. Elle a noté qu'elle avait travaillé dans un certain nombre d'entreprises, dont Google et Pinterest, mais que « c'était nettement pire chez Facebook » en raison de la volonté de l'entreprise de faire passer ses bénéfices avant le bien-être de ses utilisateurs.
« Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley.
« Imaginez que vous savez ce qui se passe à l'intérieur de Facebook et que personne ne le sait à l'extérieur. Je savais à quoi ressemblerait mon avenir si je continuais à rester à l'intérieur de Facebook », a-t-elle continué.
Facebook a publié une déclaration contestant les points soulevés par Haugen après l'interview télévisée.
« Nous continuons d'apporter des améliorations significatives pour lutter contre la propagation de la désinformation et du contenu préjudiciable », a déclaré la porte-parole de Facebook, Lena Pietsch. « Suggérer que nous encourageons le mauvais contenu et que nous ne faisons rien n'est tout simplement pas vrai ».
Avant l'interview de 60 minutes, le vice-président des affaires mondiales de Facebook, Nick Clegg, a déclaré sur CNN qu'il était « ridicule » d'affirmer que l'émeute du 6 janvier s'est produite à cause des médias sociaux.
Une refonte de l'article 230
L'article 230 de la Communications Decency Act (CDA) est un texte de loi adopté en 1996 lorsque l'internet en était encore à ses débuts qui protège largement les entreprises de toute responsabilité vis-à-vis des publications des utilisateurs. L'article 230 a initialement été adopté dans le cadre de la loi sur la décence en matière de communication, afin de protéger les sites web contre les poursuites judiciaires concernant le contenu que leurs utilisateurs ont publié. Il a été adopté pour encourager les sites web à s'engager dans la modération de contenu en supprimant le risque qu'ils puissent être poursuivis en tant qu'éditeur s'ils contrôlaient activement ce que leurs utilisateurs publiaient.
Plus récemment, la loi a été attaquée par Donald Trump et les républicains qui se plaignaient du fait que les grandes enseignes de la technologie telles que Facebook, Twitter et Google censurent leurs opinions. Une partie des propositions du ministère de la Justice a abordé cette question litigieuse, en faisant valoir que l'article 230 devrait inclure une définition de la conduite « de bonne foi » des plateformes.
En fait, le ministère américain de la Justice a fait des propositions visant à l'affaiblir dans l'optique de forcer les plateformes en ligne telles que Facebook, Twitter et Google à se justifier au cas où elles suppriment le contenu des utilisateurs (si elles souhaitent conserver l'immunité) et de supprimer le texte de loi qui permet aux sites web de modérer les contenus « choquants ».
« Ces réformes visent les plateformes afin de s'assurer qu'elles traitent de manière appropriée les contenus illégaux tout en continuant à préserver un internet dynamique, ouvert et compétitif. Prises ensemble, elles garantiront que l'immunité de la section 230 incite les plateformes en ligne à être des acteurs responsables », a déclaré William Barr, le procureur général des États-Unis, dans un communiqué publié en juin 2020.
Le ministère de la Justice a proposé des exclusions qui ciblent les « véritables mauvais acteurs » dont les plateformes facilitent intentionnellement les activités illégales, ainsi que la levée de l'immunité pour les contenus de tiers liés au cyberharcèlement, au terrorisme, aux drogues illicites et à l'exploitation des enfants. Il a également déclaré que les plateformes en ligne ne devraient pas être protégées des poursuites civiles des gouvernements ou de la responsabilité antitrust en vertu de l'article 230.
Ces propositions ont suscité des réactions négatives de la part des plateformes internet. Peu avant leur publication, Nick Clegg, responsable de la politique mondiale et de la communication de Facebook, a déclaré : « les changements apportés à l'article 230 auraient pour conséquence que des plateformes telles que Facebook devraient retirer beaucoup, beaucoup plus de contenu que ce n'est le cas actuellement d'une manière qui, je pense, mettra beaucoup de gens mal à l'aise ».
La dénonciatrice entre dans la danse
Cette fois-ci, c'est au tour de Frances Haugen de prendre position pour une réforme de cet article. Devant un panel du Sénat, elle a déclaré :
« Si nous avions une surveillance appropriée ou si nous réformions [l'article] 230 pour rendre Facebook responsable des conséquences de leurs décisions de classement intentionnelles, je pense qu'ils se débarrasseraient du classement basé sur l'engagement », a déclaré Haugen. « Parce que cela expose les adolescents à plus de contenu anorexique, cela sépare les familles, et dans des endroits comme l'Éthiopie, cela attise littéralement la violence ethnique ».
Haugen s'est assuré de faire la distinction entre le contenu généré par les utilisateurs et les algorithmes de Facebook, qui priorisent le contenu dans les fils d'actualité et stimulent l'engagement. Elle a suggéré que Facebook ne devrait pas être responsable du contenu que les utilisateurs publient sur ses plateformes, mais qu'il devrait être tenu responsable une fois que ses algorithmes commencent à prendre des décisions sur le contenu que les gens voient.
Cette suggestion reflète un projet de loi, le Protecting Americans from Dangerous Algorithms Act, qui a été présenté à la Chambre.
Pourtant, malgré l'appel à la réforme de l'article 230, Haugen a également averti que la réforme à elle seule ne suffirait pas à surveiller de manière adéquate la large portée de l'entreprise. « La gravité de cette crise exige que nous rompions avec les cadres réglementaires précédents », a-t-elle déclaré. « Les modifications apportées aux protections de la vie privée obsolètes ou les modifications apportées à la section 230 ne seront pas suffisantes. »
Facebook aurait induit les investisseurs en erreur sur la taille de sa base d'utilisateurs
L'audience de grande envergure a été convoquée pour traiter des dizaines de milliers de documents que Haugen a obtenus de Facebook avant qu'elle ne quitte l'entreprise en mai. L'ancien chef de produit a remis les dossiers au Congrès et à la SEC et demande la protection des dénonciateurs. Elle a intenté huit poursuites auprès de la SEC, affirmant notamment que Facebook aurait surfacturé les annonceurs et induit les investisseurs en erreur sur la taille de sa base d'utilisateurs. L'entreprise, a-t-elle dit, n'est pas franche sur la nature des problèmes auxquels elle est confrontée. « Facebook veut que vous croyiez que les problèmes dont nous parlons sont insolubles. Ils veulent que vous croyiez aux faux choix », a déclaré Haugen.
« Ils veulent que vous croyiez que vous devez choisir entre un Facebook plein de contenu conflictuel et extrême ou perdre l'une des valeurs les plus importantes sur lesquelles notre pays a été fondé : la liberté d'expression », a-t-elle ajouté. « Que vous devez choisir entre la surveillance publique des choix de Facebook et votre vie privée. Que pour pouvoir partager des photos amusantes de vos enfants avec de vieux amis, vous devez également être inondé de viralité motivée par la colère. Ils veulent que vous croyiez que ce n'est qu'une partie de l'accord ».
« Je suis ici aujourd'hui pour vous dire que ce n'est pas vrai. Ces problèmes sont solubles. Un réseau social plus sûr, plus respectueux de la liberté d'expression et plus agréable est possible ».
Haugen était tout aussi optimiste quant à la mission de Facebook, malgré ses innombrables problèmes. « Je crois au potentiel de Facebook », a-t-elle déclaré. « Nous pouvons avoir des médias sociaux que nous apprécions, qui nous relient sans déchirer notre démocratie, mettre nos enfants en danger et semer la violence ethnique dans le monde. Nous pouvons faire mieux ».
Choix algorithmiques
À maintes reprises, l'audience est revenue sur les problèmes posés par la prévalence des algorithmes et de l'intelligence artificielle dans les opérations de Facebook.
Les documents que Haugen a collectés sur Facebook montrent que les algorithmes de classement basés sur l'engagement donnent la priorité au contenu conflictuel et extrême sur la plateforme. Pour résoudre ce problème, a-t-elle déclaré, Facebook utilise l'intelligence artificielle pour trouver du contenu dangereux avant qu'il ne se propage. Le problème est que « les propres recherches de Facebook indiquent qu'ils ne peuvent pas identifier de manière adéquate les contenus dangereux. Et en conséquence, ces algorithmes dangereux qu'ils admettent captent les sentiments extrêmes, la division, ils ne peuvent pas nous protéger des dommages qu'ils savent exister dans leur propre système », a déclaré Haugen.
Une solution, proposée par le sénateur Rick Scott (R-Fla.) lors de l'audience, propose que les utilisateurs se voient offrir le choix entre un fil d'actualité algorithmique et chronologique. Haugen ne pensait pas que ce serait suffisant. « Je crains que si Facebook est autorisé à donner aux utilisateurs le choix : voulez-vous un fil d'actualité basé sur l'engagement ou un fil d'actualité chronologique… que les gens choisissent l'option la plus addictive, ce classement basé sur l'engagement, même s'il est en tête de leurs filles aux troubles de l'alimentation ».
Mark Zuckerberg
Dans un message interne publié plus tard, le PDG de Facebook, Mark Zuckerberg, a fait allusion aux recherches que l'entreprise a effectuées sur sa plateforme. « Si nous voulons avoir une conversation éclairée sur les effets des médias sociaux sur les jeunes, il est important de commencer par une image complète. Nous nous engageons à faire plus de recherches nous-mêmes et à rendre plus de recherches accessibles au public. »
Malgré la promesse d'une « image complète », Zuckerberg ne s'est pas engagé à publier toutes les recherches de Facebook ou à ouvrir ses plateformes à des études par des chercheurs non employés ou financés par l'entreprise. Les documents de Haugen montrent que, pas plus tard que la semaine dernière, la société a publié des recherches de manière sélective pour brosser un tableau plus rose de ce qui se passe sur ses plateformes.
Le manque de transparence de l'entreprise a lié les mains des régulateurs, a déclaré Haugen. « Cette incapacité à voir dans les systèmes réels de Facebook et à confirmer qu'ils fonctionnent comme indiqué, c'est comme si le ministère des Transports procédait à une réglementation des voitures en les regardant uniquement rouler sur l'autoroute », a-t-elle déclaré. Haugen a exhorté les sénateurs à envisager une agence gouvernementale qui auditerait les plateformes de médias sociaux, donnant aux régulateurs un meilleur aperçu du fonctionnement interne des entreprises.
« Aujourd'hui, aucun régulateur n'a un menu de solutions sur la façon de réparer Facebook parce que Facebook ne voulait pas qu'ils en sachent suffisamment sur ce qui cause les problèmes », a déclaré Haugen. « Sinon, il n’y aurait pas eu besoin d’un lanceur d’alerte. »
La Maison-Blanche estime que des réformes devraient avoir lieu, compte tenu des inquiétudes concernant Facebook
La Maison-Blanche a déclaré qu'il fallait faire davantage et que des réformes devraient avoir lieu compte tenu des problèmes de confidentialité et de confiance soulevés à propos de Facebook Inc.
L'attachée de presse de la Maison-Blanche, Jen Psaki, a fait ces commentaires un jour après que l'ancienne chef de produit Facebook Frances Haugen a témoigné devant le Congrès au sujet des inquiétudes selon lesquelles la société de médias sociaux nuit à la santé mentale des enfants et attise les divisions.
Mais Facebook a nié tout acte répréhensible.
Sources : témoignage devant le comité du Sénat sur le Commerce, la Science et le Transport, Mark Zuckerberg, Protecting Americans from Dangerous Algorithms Act
Et vous ?
:fleche: Partagez-vous le point de vue de la dénonciatrice ? Dans quelle mesure ?
:fleche: Décider de ce qui apparaît sur le fil d'actualité des utilisateurs, bonne méthode ou infantilisation des internautes ? Pourquoi ?
:fleche: Dans l'une de ses huit plaintes, la dénonciatrice affirme que Facebook aurait surfacturé les annonceurs et induit les investisseurs en erreur sur la taille de sa base d'utilisateurs. Trouvez-vous cela surprenant ? Dans quelle mesure ?
:fleche: A-t-elle, selon vous, qualité à porter ce type de plainte ? Pourquoi ?
Voir aussi :
:fleche: Mark Zuckerberg propose des réformes limitées de la Section 230 avant son audition devant le Congrès, les entreprises ne bénéficieraient de cette loi que si elles suivent les meilleures pratiques
:fleche: L'administration Trump propose de réduire les protections juridiques pour les grandes entreprises technologiques, via un projet de loi visant à réviser l'immunité offerte par l'article 230 de la CDA
:fleche: Voici le plan de Donald Trump pour réglementer les médias sociaux : une réécriture des dispositions fondamentales de l'article 230 de la Communications Decency Act (CDA)
