1 pièce(s) jointe(s)
L'ancien directeur de la monétisation de Facebook déclare que la société a rendu son produit addictif
L'ancien directeur de la monétisation de Facebook déclare que la société a délibérément rendu son produit aussi dépendant que les cigarettes
et craint que cette addiction ne mène à une guerre civile
Tim Kendall, qui a été directeur de la monétisation pour Facebook de 2006 à 2010, s'est adressé au Congrès américain hier dans le cadre d'une audition de la sous-commission du commerce et de la protection des consommateurs de la Chambre des représentants. Cette sous-commission examine comment les plateformes de médias sociaux contribuent à l'intégration de contenus extrémistes et radicalisants. Tim Kendall s'est adressé au Congrès américain hier dans le cadre d'une audition de la sous-commission du commerce et de la protection des consommateurs de la Chambre des représentants.
Kendall a accusé Facebook de construire des algorithmes qui ont facilité la diffusion de fausses informations, encouragé une rhétorique de division et jeté les bases d'une "crise de santé mentale". Il a fait valoir que son ancien employeur a été extrêmement préjudiciable à la société.
« Nous avons pris une page du livre de jeu de Big Tobacco, en travaillant à rendre notre offre addictive dès le départ. Les services de médias sociaux que j'ai mis en place avec d'autres au cours des 15 dernières années ont servi à déchirer les gens avec une rapidité et une intensité alarmantes. Nous avons au moins érodé notre compréhension collective, au pire, je crains que nous ne soyons au bord d'une guerre civile », a déclaré Kendall dans des remarques préparées et soumises aux législateurs avant l'audition d’hier.
Kendall, qui est actuellement le PDG de l'application de gestion du temps Moment, a déclaré qu'il pensait initialement que son rôle consisterait à équilibrer l'intérêt de Facebook pour les revenus et le bien-être de ses utilisateurs, mais que Facebook était intéressé par les profits avant tout. « Nous avons cherché à attirer autant d'attention qu'il était humainement possible et à réaliser des profits sans précédent dans l'histoire. L'algorithme de Facebook récompense les contenus choquants et la rhétorique de division afin de susciter des réactions émotionnelles extrêmes de la part des utilisateurs pour retenir leur attention et générer plus de revenus publicitaires. Ces algorithmes ont fait ressortir le pire en nous. Ils ont littéralement re câblé notre cerveau pour que nous soyons détachés de la réalité et immergés dans le tribalisme » a déclaré Kendall aux législateurs.
Son argumentation se poursuit : « Les compagnies de tabac ont d'abord cherché à rendre la nicotine plus puissante. Mais finalement, cela n'a pas suffi pour faire croître l'entreprise aussi vite qu'ils le voulaient. Ils ont donc ajouté du sucre et du menthol aux cigarettes pour que vous puissiez retenir la fumée dans vos poumons pendant plus longtemps. Sur Facebook, nous avons ajouté des mises à jour de statut, des tags sur les photos et d'autres éléments similaires, ce qui a fait du statut et de la réputation des utilisateurs les premiers éléments et a jeté les bases d'une crise de santé mentale chez les adolescents ».
« La désinformation, les théories de conspiration et les fausses nouvelles se sont multipliées, comme les bronchodilatateurs de Big Tobacco, qui ont permis à la fumée de cigarette de couvrir une plus grande surface des poumons. Mais ce contenu incendiaire ne suffisait pas à lui seul. Pour continuer à augmenter le nombre d'utilisateurs et, en particulier, le temps et l'attention que les utilisateurs consacreraient à Facebook, il leur fallait davantage », poursuit-il.
L'engagement mène aux profits, et donc l'engagement avec le contenu est tout, a développé Kendall plus tard en réponse à des questions, ajoutant que "l'engagement" était la mesure qui conduisait toutes les décisions de Facebook quand il était dans l'entreprise, et il suppose que c'est encore vrai aujourd'hui.
« Nous avons d'abord utilisé l'engagement comme une sorte de mandataire pour le bénéfice des utilisateurs. Mais nous avons aussi commencé à réaliser que l'engagement pouvait aussi signifier que les utilisateurs étaient suffisamment aspirés pour qu'ils ne puissent pas travailler dans leur propre intérêt à long terme pour sortir de la plateforme... Nous avons commencé à voir les conséquences dans la vie réelle, mais on ne leur accordait pas beaucoup d'importance. L'engagement l'emportait toujours, il l'emportait toujours », a expliqué Kendall.
« Il n'y a pas de motivation pour arrêter le contenu toxique et il y a une motivation incroyable pour continuer et s'améliorer. Je ne crois pas que cela va changer à moins que des sanctions financières, civiles ou pénales ne soient associées au préjudice qu'elles créent. Sans application, ils vont continuer à être embarrassés par les erreurs et ils parleront de platitudes vides de sens... Mais je ne crois pas que rien de systémique ne changera... Les incitations à maintenir le statu quo sont tout simplement trop lucratives pour le moment », a déclaré Kendall.
Un sentiment qui va grandissant
Kendall est loin d'être le seul ancien employé de Facebook à exprimer des regrets pour son ancien travail et à prendre position contre la société. D'autres ont également conclu que Facebook aurait dû faire l'objet d'une réglementation ou d'un contrôle externe depuis longtemps. Le co-fondateur de Facebook, Chris Hughes a publié l'année dernière un long article d'opinion appelant les régulateurs à démanteler l'entreprise. Le PDG de Facebook, Mark Zuckerberg « est une personne bonne et gentille », a écrit Hughes à l'époque. « Mais je suis fâché que son souci de croissance l'ait conduit à sacrifier la sécurité et la civilité au profit des clics... Le gouvernement doit tenir Mark responsable. Il est temps de démanteler Facebook ».
Plusieurs autres employés de rang inférieur de Facebook ont publiquement démissionné cette année, appelant Facebook à faire mieux pour la société. L'ingénieur en logiciel Timothy Aveni a démissionné en juin, citant explicitement l'échec de Facebook à agir suite à une déclaration du président Donald Trump qui impliquait fortement un appel à la violence contre les manifestants. « J'ai passé beaucoup de temps à essayer de comprendre et de traiter la décision de ne pas supprimer le post raciste et violent de Trump fait jeudi soir, mais Facebook, complice de la propagation de la haine armée, est du mauvais côté de l'histoire », a écrit Aveni.
En septembre, un autre ingénieur en logiciel, Ashok Chandwaney, a également démissionné publiquement, en invoquant des raisons similaires à celles d'Aveni. « Je ne peux plus supporter de contribuer à une organisation qui profite de la haine aux États-Unis et dans le monde. Il est clair pour moi que malgré les efforts de beaucoup d'entre nous qui travaillons ici, et de défenseurs extérieurs comme Color Of Change, Facebook choisit d'être du mauvais côté de l'histoire », a écrit Chandwaney.
Facebook a également été confronté à des campagnes d'activistes l'exhortant à réprimer plus fermement la désinformation et les discours de haine. Plus de 1 000 entreprises ont rejoint le boycott publicitaire de la plateforme cet été, mené par des militants des droits civiques, et ce mois-ci, des influenceurs ont organisé une journée de protestation contre les discours de haine sur Facebook et Instagram.
Lors de l'audition de la sous-commission à laquelle Kendall a témoigné jeudi, les législateurs ont déclaré que la diffusion de fausses informations sur la plateforme Facebook pourrait être la cause d'une future réglementation gouvernementale des plateformes de médias sociaux. « Les grandes technologies ont contribué à diviser nos nations et ont alimenté le génocide dans d'autres », a déclaré Jan Schakowsky, un démocrate de l'Illinois qui préside la sous-commission de la Chambre des représentants sur la protection des consommateurs et le commerce.
Pendant ce temps, les républicains de la sous-commission se sont principalement concentrés sur les allégations de partialité anticonservatrice, un point de discussion fréquent du président Donald Trump. Ils ont souligné que les plateformes de médias sociaux vérifient parfois les faits des messages de Trump qui violent leur politique de diffusion de la désinformation, ce qui constitue une forme de censure. Alors que Trump s'est souvent élevé contre ces vérifications, les républicains n'ont fourni que peu de preuves d'une censure plus large des idées conservatrices. « La liberté d'expression est de plus en plus attaquée. « Je suis extrêmement préoccupée lorsque des plateformes appliquent des politiques de modération de contenu incohérentes à leurs propres fins. Il n'y a pas d'exemple plus clair d'une plateforme utilisant son pouvoir à des fins politiques que Twitter, en ciblant le président Trump » a déclaré la représentante de Washington, Cathy Rodgers, la plus influente républicaine de la sous-commission.
Les républicains et les démocrates ont déclaré qu'ils soutenaient la réforme de l'article 230, une loi qui immunise les plateformes de médias sociaux contre la responsabilité légale pour le contenu des messages des utilisateurs. Le procureur général William Barr a annoncé mercredi que le ministère de la Justice a exhorté le Congrès à modifier la loi, mais n'a pas précisé immédiatement comment la loi devrait être remplacée.
Source : Documents justificatifs
Et vous ?
:fleche: Que pensez-vous des arguments de Tim Kendall ?
:fleche: Mark Zuckerberg devrait-il être personnellement tenu pour responsable des manquements de Facebook ? Pourquoi ?
Voir aussi :
:fleche: Facebook menace de fermer ses plateformes Facebook et Instagram en Europe suite à une décision de justice, qui l'oblige à ne plus rapatrier les données personnelles d'utilisateurs européens aux USA
:fleche: Un ingénieur de Facebook décide de démissionner en guise de protestation. Il accuse la société de « profiter de la haine aux États-Unis et dans le monde » et indique ne plus vouloir y contribuer
:fleche: Firefox 74 met Facebook en isolement grâce au module complémentaire Facebook Container, qui promet de mettre fin au harcèlement des utilisateurs sur le Web par le géant des réseaux sociaux
