La liberté c'est aussi de rendre les gens responsables de leur publication
Personnellement je crois que les gouvernements cherchent à recuperer le pouvoir qu'ils ont sur les média au travers la (destruction de FB) car ce dernier compte des millions d'utilisateurs et lorsque les informations qui y circulent ne sont pas en leur faveur ils seront des perdant.
1 pièce(s) jointe(s)
Facebook estime que l'IA va assainir sa plateforme, mais ses propres ingénieurs ont des doutes
Facebook estime que l'IA va assainir sa plateforme, mais ses propres ingénieurs ont des doutes
notant que l'IA est loin de pouvoir appliquer avec succès les règles de la plateforme contre les contenus problématiques
Facebook comptait sur son système d'intelligence artificielle pour faire fonctionner correctement la plateforme en appliquant ses règles contre les discours violents ou haineux. Pourtant, les ingénieurs de Facebook affirment que l'intelligence artificielle est loin d'être en mesure d'appliquer avec succès les règles de la plateforme contre les discours de haine, les images violentes et autres contenus problématiques, selon des documents internes de l'entreprise.
Les dirigeants de Facebook, Inc. disent depuis longtemps que l'intelligence artificielle résoudrait les problèmes chroniques de l'entreprise en gardant ce qu'elle considère comme des discours de haine et une violence excessive ainsi que les utilisateurs mineurs hors de ses plateformes.
Cet avenir est plus éloigné que ne le suggèrent ces dirigeants, selon des documents internes examinés par le Wall Street Journal. L'IA de Facebook ne peut pas systématiquement identifier les vidéos filmées à la première personne, les diatribes racistes et même, dans un épisode notable qui a intrigué les chercheurs internes pendant des semaines, la différence entre les combats de coqs et les accidents de voiture.
Concernant les discours de haine, les documents internes montrent que les employés de Facebook ont estimé que l'entreprise ne supprime qu'une partie des messages qui enfreignent ses règles (un pourcentage à un chiffre, disent-ils). Lorsque les algorithmes de Facebook ne sont pas suffisamment certains que le contenu enfreint les règles pour le supprimer, la plateforme montre moins souvent ce contenu aux utilisateurs, mais les comptes qui ont publié le contenu restent impunis.
Les employés analysaient le succès de Facebook dans l'application de ses propres règles sur le contenu qu'il énonce en détail en interne et dans des documents publics comme ses normes communautaires.
Les documents examinés par le Journal montrent également qu'il y a deux ans, Facebook a réduit le temps que les examinateurs humains passaient sur les plaintes pour propos haineux des utilisateurs et a apporté d'autres ajustements qui ont réduit le nombre total de plaintes. Cela a rendu l'entreprise plus dépendante de l'application de ses règles par l'IA et a gonflé le succès apparent de la technologie dans ses statistiques publiques.
Selon les documents, les personnes chargées de maintenir la plateforme exempte de contenus que Facebook juge offensants ou dangereux reconnaissent que l'entreprise est loin de pouvoir la filtrer de manière fiable.
« Le problème est que nous n'avons pas et n'aurons peut-être jamais un modèle qui capture même la majorité des atteintes à l'intégrité, en particulier dans les zones sensibles », a écrit un ingénieur de l'équipe de recherche dans une note à la mi-2019.
Il a estimé que les systèmes automatisés de l'entreprise supprimaient les messages qui généraient seulement 2 % des vues de discours de haine sur la plateforme qui enfreignaient ses règles. « Des estimations récentes suggèrent qu'à moins d'un changement majeur de stratégie, il sera très difficile de l'améliorer au-delà de 10-20 % à court et moyen terme », a-t-il écrit.
En mars, une autre équipe d'employés de Facebook a tiré une conclusion similaire, estimant que ces systèmes supprimaient les publications qui généraient 3 à 5 % des vues de discours de haine sur la plateforme, et 0,6 % de tout le contenu qui violait les politiques de Facebook contre la violence et incitation.
Facebook encourage les discours de haine pour gagner de l'argent, selon une lanceuse d'alerte
Pourtant, la dénonciatrice Frances Haugen qui a fait fuiter un énorme cache de documents glané lors de son passage dans l'entreprise avait déjà indiqué lors d'une interview que la situation était en quelque sorte « encouragée ». « Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley, son interlocuteur.
Elle a secrètement copié des dizaines de milliers de pages de recherches internes sur Facebook. Elle dit que les preuves montrent que l'entreprise ment au public sur ses progrès significatifs contre la haine, la violence et la désinformation.
Scott Pelley : Pour citer un autre des documents que vous avez publiés : « Nous avons des preuves provenant de diverses sources que les discours de haine, les discours politiques qui divisent et la désinformation sur Facebook et la famille d'applications affectent les sociétés du monde entier. »
Frances Haugen : Lorsque nous vivons dans un environnement d'information rempli de contenus colériques, haineux et polarisants, cela érode notre confiance civique, cela érode notre confiance mutuelle, cela érode notre capacité à vouloir prendre soin les uns des autres, la version de Facebook qui existe aujourd'hui déchire nos sociétés et provoque des violences ethniques dans le monde.
Frances Haugen : Alors, vous savez, vous avez votre téléphone. Vous pourriez ne voir que 100 éléments de contenu si vous vous asseyez et faites défiler pendant, disons, cinq minutes. Mais Facebook a des milliers d'options qu'il pourrait vous montrer.
L'algorithme choisit parmi ces options en fonction du type de contenu avec lequel vous vous êtes le plus engagé dans le passé.
Frances Haugen : Et l'une des conséquences de la façon dont Facebook sélectionne ce contenu aujourd'hui, c'est qu'il s'agit d'optimiser le contenu qui suscite l'engagement ou la réaction. Mais ses propres recherches montrent qu'un contenu haineux, qui divise, qui polarise, inspire plus facilement aux gens de la colère que d'autres émotions.
Scott Pelley : La désinformation, du contenu plein de colère est attrayant pour les gens et continue de les garder sur la plateforme.
Françoise Haugen : Oui. Facebook s'est rendu compte que s'ils changent l'algorithme pour qu'il devienne plus sûr, les gens passeront moins de temps sur le site, ils cliqueront sur moins de publicités, ils gagneront moins d'argent.
Haugen note que Facebook a compris le danger pour les élections de 2020. Facebook a donc activé les systèmes de sécurité pour réduire la désinformation, mais bon nombre de ces changements, dit-elle, étaient temporaires.
Frances Haugen : Et dès que les élections étaient terminées, ils les ont désactivés ou ils ont ramené les paramètres à ce qu'ils étaient avant, pour donner la priorité à la croissance plutôt qu'à la sécurité. Et cela ressemble vraiment à une trahison de la démocratie pour moi.
Scott Pelley : Facebook amplifie essentiellement le pire de la nature humaine.
Frances Haugen : C'est l'une de ces conséquences malheureuses, n'est-ce pas ? Personne chez Facebook n'est malveillant, mais les incitations sont mal alignées, n'est-ce pas ? Néanmoins, Facebook gagne plus d'argent lorsque vous consommez plus de contenu. Les gens aiment s'engager dans des choses qui suscitent une réaction émotionnelle. Et plus ils sont exposés à la colère, plus ils interagissent et plus ils consomment.
Tenir les réseaux sociaux pour responsables de leurs algorithmes
Face à cette situation, la lanceuse d'alerte a témoigné devant un panel du Sénat, recommandant une liste de changements pour freiner l'entreprise, y compris une refonte de l'article 230 qui tiendrait le géant des médias sociaux pour responsables de ses algorithmes qui promeuvent le contenu en fonction de l'engagement qu'il reçoit dans le fil d'actualité des utilisateurs.
« Si nous avions une surveillance appropriée ou si nous réformions [l'article] 230 pour rendre Facebook responsable des conséquences de leurs décisions de classement intentionnelles, je pense qu'ils se débarrasseraient du classement basé sur l'engagement », a déclaré Haugen. « Parce que cela expose les adolescents à plus de contenu anorexique, cela sépare les familles, et dans des endroits comme l'Éthiopie, cela attise littéralement la violence ethnique ».
Haugen s'est assuré de faire la distinction entre le contenu généré par les utilisateurs et les algorithmes de Facebook, qui priorisent le contenu dans les fils d'actualité et stimulent l'engagement. Elle a suggéré que Facebook ne devrait pas être responsable du contenu que les utilisateurs publient sur ses plateformes, mais qu'il devrait être tenu responsable une fois que ses algorithmes commencent à prendre des décisions sur le contenu que les gens voient.
Cette suggestion reflète un projet de loi, le Protecting Americans from Dangerous Algorithms Act, qui a été présenté à la Chambre.
Pourtant, malgré l'appel à la réforme de l'article 230, Haugen a également averti que la réforme à elle seule ne suffirait pas à surveiller de manière adéquate la large portée de l'entreprise. « La gravité de cette crise exige que nous rompions avec les cadres réglementaires précédents », a-t-elle déclaré. « Les modifications apportées aux protections de la vie privée obsolètes ou les modifications apportées à la section 230 ne seront pas suffisantes. »
Et vous ?
:fleche: Quelle lecture en faites-vous ?
4 pièce(s) jointe(s)
La lanceuse d'alerte de Facebook estime que la société fait trop peu pour protéger les utilisateurs
La lanceuse d'alerte de Facebook estime que la société fait trop peu pour protéger les utilisateurs,
la plupart des gens sont d'accord et estiment qu'une action du Congrès est nécessaire
Suite au témoignage de l'ancienne employée de Facebook Inc. et dénonciatrice Frances Haugen, la plupart du public a déclaré dans un récent sondage Morning Consult que la société ne faisait pas assez pour protéger la sécurité des utilisateurs et soutenait à la fois les actions du Congrès et des entreprises pour remédier à la situation.
La dénonciatrice Frances Haugen qui a fait fuiter un énorme cache de documents glané lors de son passage dans l'entreprise avait déjà indiqué lors d'une interview que la situation était en quelque sorte « encouragée ». « Ce que j'ai vu à plusieurs reprises chez Facebook, c'est qu'il y avait des conflits d'intérêts entre ce qui était bon pour le public et ce qui était bon pour Facebook. Et Facebook, encore et encore, a choisi de faire passer ses propres intérêts en premier, comme gagner plus d'argent », a déclaré Haugen à Scott Pelley, son interlocuteur.
Elle a secrètement copié des dizaines de milliers de pages de recherches internes sur Facebook. Elle dit que les preuves montrent que l'entreprise ment au public sur ses progrès significatifs contre la haine, la violence et la désinformation.
Face à cette situation, la lanceuse d'alerte a témoigné devant un panel du Sénat, recommandant une liste de changements pour freiner l'entreprise, y compris une refonte de l'article 230 qui tiendrait le géant des médias sociaux pour responsables de ses algorithmes qui promeuvent le contenu en fonction de l'engagement qu'il reçoit dans le fil d'actualité des utilisateurs.
« Si nous avions une surveillance appropriée ou si nous réformions [l'article] 230 pour rendre Facebook responsable des conséquences de leurs décisions de classement intentionnelles, je pense qu'ils se débarrasseraient du classement basé sur l'engagement », a déclaré Haugen. « Parce que cela expose les adolescents à plus de contenu anorexique, cela sépare les familles, et dans des endroits comme l'Éthiopie, cela attise littéralement la violence ethnique ».
Haugen s'est assuré de faire la distinction entre le contenu généré par les utilisateurs et les algorithmes de Facebook, qui priorisent le contenu dans les fils d'actualité et stimulent l'engagement. Elle a suggéré que Facebook ne devrait pas être responsable du contenu que les utilisateurs publient sur ses plateformes, mais qu'il devrait être tenu responsable une fois que ses algorithmes commencent à prendre des décisions sur le contenu que les gens voient.
Cette suggestion reflète un projet de loi, le Protecting Americans from Dangerous Algorithms Act, qui a été présenté à la Chambre.
Pourtant, malgré l'appel à la réforme de l'article 230, Haugen a également averti que la réforme à elle seule ne suffirait pas à surveiller de manière adéquate la large portée de l'entreprise. « La gravité de cette crise exige que nous rompions avec les cadres réglementaires précédents », a-t-elle déclaré. « Les modifications apportées aux protections de la vie privée obsolètes ou les modifications apportées à la section 230 ne seront pas suffisantes. »
Le public partage son avis
Soixante pour cent des adultes américains ont déclaré que Facebook ne faisait pas assez pour protéger les utilisateurs, contre 19 pour cent qui ont déclaré que la société de médias sociaux en faisait assez.
Le public est d'accord pour des contrôles de contenu plus stricts
Parmi les problèmes rencontrés par Facebook ces dernières semaines figurent des informations selon lesquelles les plateformes de l'entreprise, telles qu'Instagram, ont eu un effet négatif sur la santé mentale des jeunes utilisateurs, ainsi que des allégations selon lesquelles l'entreprise a autorisé la désinformation sur des sujets tels que les vaccins COVID-19. proliférer sur ses sites. Le sondage indique que le public soutiendrait les mesures que Facebook pourrait prendre pour répondre à certaines de ces préoccupations.
L'une des actions les plus populaires pour Facebook a été de mettre en œuvre des réglementations et des normes plus strictes pour interdire le contenu qui encourage la désinformation, les discours de haine, les activités illicites ou les actes de violence, qui ont collectivement reçu le soutien de 69 % des personnes interrogées. L'une des actions qui ont reçu une part égale de soutien était l'augmentation de l'âge d'éligibilité pour avoir un compte sur les plateformes de l'entreprise.
Malgré le soutien du public à la levée de la barrière à l'entrée, certains experts ne sont pas convaincus. Sean Blair, professeur adjoint de marketing à la McDonough School of Business de l'Université de Georgetown, a déclaré que de telles restrictions « ne fonctionnent tout simplement pas ».
« Les gens trouveront toujours des moyens de les contourner, donc le problème ne disparaîtra pas simplement », a déclaré Blair. « Maintenant, cela ne signifie pas que nous ne devrions pas du tout avoir d’obstacles ou d’exigences d’âge, mais cela signifie que nous ne devrions probablement pas compter sur eux pour résoudre le problème. En fin de compte, je pense que tout le monde – entreprises, utilisateurs, parents, enfants, régulateurs – devra jouer un rôle dans le processus. »
La plupart soutiennent l'expansion de la capacité de Facebook à censurer et à supprimer certains types de contenu, ainsi qu'une mesure pour que le fil d'actualité affiche le contenu par ordre chronologique plutôt que d'utiliser des algorithmes pour personnaliser individuellement ce qui est affiché.
Soutien majoritaire à l'action du Congrès
Le public est également favorable à une intervention du Congrès et à une réglementation accrue du géant des médias sociaux.
La suggestion la plus populaire était de renforcer la protection des enfants sur les plateformes de médias sociaux, qui a reçu un soutien de 77 %. Cela fait suite à l'annonce par Facebook de suspendre son initiative Instagram Kids, une décision soutenue par 52 % des adultes américains dans un sondage Morning Consult réalisé peu de temps après l'annonce.
Un plan pour que le Congrès crée un organisme gouvernemental indépendant composé d'anciens techniciens qui enquêterait sur l'utilisation des algorithmes par Facebook et le risque qu'ils représentent pour le public a recueilli un solide soutien, tout comme les réglementations qui exigent une plus grande transparence autour des algorithmes et de la façon dont les sociétés de médias sociaux les utilisent.
Et 64 % ont déclaré qu'ils soutenaient que les sociétés de médias sociaux soient au moins quelque peu responsables des actions de leurs utilisateurs, ce qu'un groupe de démocrates de la Chambre cherche à faire avec un nouveau projet de loi qui attribuerait la responsabilité aux plateformes si les recommandations personnalisées faites par leurs algorithmes de contenu favorisent contenu préjudiciable ayant causé un préjudice émotionnel ou physique.
Ce serait un défi majeur pour les protections de responsabilité des entreprises en vertu de l'article 230 de la Communications Decency Act, bien que certains groupes technologiques aient déclaré que ce n'était pas la meilleure voie à suivre.
« Au lieu de blâmer l'algorithme, le Congrès devrait travailler avec des plateformes pour développer les meilleures pratiques pour identifier et supprimer rapidement les contenus nuisibles et donner aux utilisateurs les compétences et les outils dont ils ont besoin pour rester en sécurité en ligne », Daniel Castro, vice-président de l'Information Technology and Innovation Foundation, a déclaré dans un communiqué.
Adam Kovacevich, directeur général du groupe de politique technologique de la Chambre du progrès, a averti dans un communiqué que le projet de loi « exacerbe le problème » du contenu préjudiciable. « En interdisant aux entreprises d'utiliser des données personnelles pour recommander un contenu pertinent aux utilisateurs, les plateformes pourraient être obligées de s'appuyer davantage sur des mesures telles que l'engagement viral qui entraîne la propagation de mauvais contenus », a-t-il prévenu.
Que peut-on faire d'autre
D'autres ont suggéré une approche différente. Un groupe de plus de 40 organisations de défense des droits de la personne a appelé à une loi fédérale sur la confidentialité des données afin d'interdire aux sociétés de médias sociaux de collecter des données et de les utiliser pour leurs algorithmes de recommandation personnalisée. Les groupes ont déclaré que la loi devrait être « suffisamment forte pour mettre fin au modèle commercial actuel de Facebook ».
Une loi qui obligerait Facebook à divulguer publiquement ses recherches internes a également reçu un fort soutien, puisque 68 % ont déclaré qu'ils étaient favorables à une telle décision. Une grande partie de la récente controverse entourant l'entreprise découle de la série « Facebook Files » du Wall Street Journal, qui a publié une mine de documents internes montrant comment l'entreprise a minimisé divers aspects négatifs associés à ses plateformes, y compris les impacts d'Instagram sur la santé mentale des enfants.
Le public semble favorable à la réglementation des entreprises de médias sociaux en général, car 52 % ont déclaré qu'ils étaient favorables à une telle décision des législateurs. Et 43 % ont déclaré que Facebook n'était pas assez réglementé, contre 19 % qui ont dit qu'il avait la bonne quantité de surveillance et 17 % qui ont dit qu'il en avait trop.
La perspective de Facebook
Dans une tribune, Nick Clegg, vice-président des affaires mondiales de Facebook, a appelé à de nouvelles réglementations Internet, y compris la réforme de l'article 230 :
« On a beaucoup parlé de Facebook récemment, mais il y a une chose sur laquelle nous sommes d'accord : le Congrès devrait adopter de nouvelles réglementations Internet.
« Nous plaidons depuis plusieurs années pour de nouvelles règles. Pendant trop longtemps, de nombreuses questions importantes ont été abandonnées à la décision des entreprises privées.
« Mais alors que de nouvelles règles Internet sont écrites en Europe, en Inde, en Australie, au Royaume-Uni et ailleurs, les efforts de réglementation technologique des États-Unis sont au point mort. Voici quelques domaines dans lesquels le Congrès pourrait agir »:
« Nous avons plaidé en faveur de la création d'une nouvelle agence de réglementation numérique pour faire face à des compromis concurrents dans l'espace numérique, un peu comme la Federal Communications Commission supervise les télécommunications et les médias. »
« Nous avons proposé des moyens de réformer l'article 230 de la Communications Decency Act, notamment en exigeant des plateformes qu'elles soient plus transparentes sur la façon dont elles suppriment les contenus préjudiciables et illégaux, et en exigeant des grandes entreprises comme Facebook qu'elles démontrent qu'elles se conforment aux meilleures pratiques de lutte contre les contenus illégaux pour gagner les protections de la loi. »
« Nous soutenons les efforts visant à apporter une plus grande transparence aux systèmes algorithmiques, à offrir aux gens plus de contrôle sur leur expérience et à exiger des audits des systèmes de modération de contenu des plateformes - qui, bien sûr, incluent des algorithmes. Nous soutenons également les processus d'établissement de normes qui abordent des questions telles que la mesure du "biais" dans un algorithme qui, une fois établi, pourrait être requis dans l'ensemble du secteur. »
« Nous convenons que le Congrès devrait agir pour établir des règles clarifiant comment les plateformes peuvent ou devraient partager des données avec des chercheurs affiliés à des universités à des fins de recherche, potentiellement par le biais d'une nouvelle division de la Federal Trade Commission. »
« Nous avons appelé le Congrès à faire plus pour se protéger contre les opérations d'influence, en créant une dissuasion qu'aucun effort de l'industrie ne peut égaler. Le Congrès pourrait agir maintenant pour imposer la transparence de la plateforme, permettre le partage légal d'informations et imposer la responsabilité directement aux personnes et aux organisations à l'origine des opérations d'influence malveillantes. »
« Et le Congrès peut sortir de l'impasse sur la législation fédérale sur la protection de la vie privée. Les États-Unis regardent de côté tandis que d'autres écrivent le livre de jeu mondial sur la vie privée. Une loi fédérale complète sur la protection de la vie privée pourrait consacrer les droits des consommateurs et renforcer la responsabilité des entreprises. Nous avons également besoin d'une législation sur la portabilité des données donnant aux gens la possibilité de transférer leurs données vers d'autres services tout en protégeant la confidentialité. »
« Il est grand temps que le Congrès établisse des règles claires et équitables. C'est ainsi que nous rendrons Internet plus sûr, tout en veillant à ce que la créativité et la concurrence continuent de prospérer en ligne ».
Source : résultat de l'enquête
Et vous ?
:fleche: Êtes-vous d'accord avec les propositions de la dénonciatrice de Facebook ? Sur quels points ?
:fleche: Partagez-vous l'opinion du public ?
:fleche: Comment pouvez-vous interpréter les statistiques ?
Voir aussi :
:fleche: Facebook annonce qu'il va embaucher 10 000 personnes en Europe pour l'aider à construire un « métavers », qui imitera l'expérience d'interagir en personne grâce à des techno comme l'AR et la VR
:fleche: Facebook suspend son projet de lancer Instagram Kids, cette décision fait suite aux préoccupations concernant les effets sur la santé mentale des moins de 13 ans
2 pièce(s) jointe(s)
Margrethe Vestager : « nous devons agir maintenant contre Facebook »
Margrethe Vestager : « nous devons agir maintenant contre Facebook ».
La commissaire européenne à la concurrence estime que les dirigeants devraient agir avant que la plateforme ne fasse plus de dégâts
La commissaire européenne à la concurrence Margrethe Vestager a déclaré mardi à l'occasion d'une interview que le démantèlement de Facebook pourrait prendre « des années » et que les dirigeants devraient agir rapidement avant que la plateforme ne fasse plus de dégâts.
Les démocraties doivent « s'unir » contre Facebook
Lorsqu'il lui a été demandé si Facebook était trop grand et trop puissant pour que des changements puissent être imposés de l'extérieur, Vestager a répondu « pas pour notre démocratie ».
Elle a déclaré que les démocraties solidaires peuvent apporter de réels changements à la façon dont Facebook gère ses plateformes, et a estimé que les réglementations devaient être renforcées lorsqu'elles traitaient avec des entreprises qui pourraient exercer une « immense influence » sur la démocratie et sur la santé mentale des gens.
« Si nous sommes solidaires, alors nous pouvons apporter de vrais changements », a affirmé Vestager. « Emmener Facebook à évaluer le risque qu'ils pourraient poser pour la santé mentale des jeunes et avoir des personnes externes qui examinent cette évaluation pour voir si les choses ont été corrigées serait déjà un pas en avant important ».
« Nous devons également réglementer beaucoup plus étroitement si nous avons affaire à quelqu'un qui peut avoir une immense influence à la fois sur la santé mentale, mais aussi sur le développement de notre démocratie », a-t-elle ajouté, expliquant que la Commission européenne avait préparé une législation qui équilibre la nécessité de préserver liberté d'expression, mais de se débarrasser des choses qui sont illégales hors ligne », comme l'incitation à la violence.
Des batailles judiciaires sans fin
Vestager a toutefois admis que toute bataille juridique avec Facebook serait prolongée.
La grande enseigne des médias sociaux « nous poursuivrait en justice pendant des années sans fin », a-t-elle déclaré. Mais elle espérait que si l'UE pouvait « prendre des mesures maintenant pour que les choses changent », alors « les petites entreprises pourraient avoir un accès complet au marché », et les grandes enseignes des médias sociaux comme Facebook devraient assumer la responsabilité des dommages qu'ils ont causés.
Des commentaires qui arrivent dans un contexte où Facebook fait l'objet d'un examen minutieux. Plus tôt ce mois-ci, la dénonciatrice Frances Haugen a détaillé les façons dont Facebook savait qu'il était utilisé pour promouvoir la violence et la discorde et n'a rien fait pour l'arrêter.
Lundi, une mine de documents internes divulgués par Frances Haugen a montré que Facebook a donné la priorité à sa propre croissance plutôt qu'aux problèmes de sécurité publique.
Les allégations vont de la signature personnelle du PDG Mark Zuckerberg sur un plan d'entreprise visant à censurer les critiques du gouvernement vietnamien à la demande du parti communiste au pouvoir, à la mise en évidence auprès des actionnaires d'une baisse du nombre d'adolescents utilisant l'application.
Zuckerberg a soutenu que les allégations étaient sélectives et ont présenté l'entreprise sous un mauvais jour.
« Les critiques de bonne foi nous aident à nous améliorer, mais mon point de vue est que ce que nous voyons est un effort coordonné pour utiliser de manière sélective des documents divulgués pour brosser une fausse image de notre entreprise », a déclaré Zuckerberg lors d'un appel téléphonique avec les actionnaires faisant suite à la publication des résultats trimestriels de Facebook.
Les allégations n'ont pas freiné les revenus de Facebook. Les résultats montrent que le bénéfice a atteint 9,2 milliards de dollars, soit une augmentation de 17 % par rapport au trimestre précédent. Le nombre d'utilisateurs a bondi à 2,91 milliards.
Les dirigeants de Facebook ont déclaré que la société aurait probablement fait encore mieux si Apple n'avait pas mis à jour son système d'exploitation qui empêche les annonceurs de diffuser des publicités sur les utilisateurs sans leur autorisation.
« Dans l'ensemble, sans les changements apportés à iOS 14 par Apple, nous aurions connu une croissance positive des revenus d'un trimestre à l'autre », a déclaré Sherly Sandberg, directrice des opérations de Facebook, selon l'agence de presse AFP.
Haugen témoigne devant les législateurs britanniques
Haugen, l'ancienne employée Facebook devenue lanceuse d'alerte, a témoigné lundi devant une commission parlementaire britannique. La commission examine un projet de loi destiné à sévir contre les contenus en ligne préjudiciables.
« Facebook n'a pas voulu accepter que même de petits éclats de profit soient sacrifiés pour la sécurité, et ce n'est pas acceptable », a déclaré Haugen aux législateurs.
Elle a ajouté que les algorithmes de Facebook poussaient les gens à voir le contenu à des extrêmes politiques. « Donc, si quelqu'un est de gauche, il sera poussé à voir du contenu de la gauche radicale, si quelqu'un est de droite, il sera exposé au contenu de la droite radicale ».
Frances Haugen avait déjà témoigné devant un panel du Sénat, recommandant une liste de changements pour freiner l'entreprise, y compris une refonte de l'article 230 qui tiendrait le géant des médias sociaux pour responsables de ses algorithmes qui promeuvent le contenu en fonction de l'engagement qu'il reçoit dans le fil d'actualité des utilisateurs :
« Si nous avions une surveillance appropriée ou si nous réformions [l'article] 230 pour rendre Facebook responsable des conséquences de leurs décisions de classement intentionnelles, je pense qu'ils se débarrasseraient du classement basé sur l'engagement », a déclaré Haugen. « Parce que cela expose les adolescents à plus de contenu anorexique, cela sépare les familles, et dans des endroits comme l'Éthiopie, cela attise littéralement la violence ethnique ».
Haugen s'est assuré de faire la distinction entre le contenu généré par les utilisateurs et les algorithmes de Facebook, qui priorisent le contenu dans les fils d'actualité et stimulent l'engagement. Elle a suggéré que Facebook ne devrait pas être responsable du contenu que les utilisateurs publient sur ses plateformes, mais qu'il devrait être tenu responsable une fois que ses algorithmes commencent à prendre des décisions sur le contenu que les gens voient.
Cette suggestion reflète un projet de loi, le Protecting Americans from Dangerous Algorithms Act, qui a été présenté à la Chambre.
Pourtant, malgré l'appel à la réforme de l'article 230, Haugen a également averti que la réforme à elle seule ne suffirait pas à surveiller de manière adéquate la large portée de l'entreprise. « La gravité de cette crise exige que nous rompions avec les cadres réglementaires précédents », a-t-elle déclaré. « Les modifications apportées aux protections de la vie privée obsolètes ou les modifications apportées à la section 230 ne seront pas suffisantes. »
L'article 230 de la Communications Decency Act (CDA) est un texte de loi adopté en 1996 lorsque l'internet en était encore à ses débuts qui protège largement les entreprises de toute responsabilité vis-à-vis des publications des utilisateurs. L'article 230 a initialement été adopté dans le cadre de la loi sur la décence en matière de communication, afin de protéger les sites web contre les poursuites judiciaires concernant le contenu que leurs utilisateurs ont publié. Il a été adopté pour encourager les sites web à s'engager dans la modération de contenu en supprimant le risque qu'ils puissent être poursuivis en tant qu'éditeur s'ils contrôlaient activement ce que leurs utilisateurs publiaient.
Plus récemment, la loi a été attaquée par Donald Trump et les républicains qui se plaignaient du fait que les grandes enseignes de la technologie telles que Facebook, Twitter et Google censurent leurs opinions. Une partie des propositions du ministère de la Justice a abordé cette question litigieuse, en faisant valoir que l'article 230 devrait inclure une définition de la conduite « de bonne foi » des plateformes.
En fait, le ministère américain de la Justice a fait des propositions visant à l'affaiblir dans l'optique de forcer les plateformes en ligne telles que Facebook, Twitter et Google à se justifier au cas où elles supprimeraient le contenu des utilisateurs (si elles souhaitent conserver l'immunité) et de supprimer le texte de loi qui permet aux sites web de modérer les contenus « choquants ».
Des rapports préjudiciables à l'image de l'entreprise ont été publiés
Des dizaines de documents Facebook examinés par le Wall Street Journal ont montré que des employés Facebook ont tiré la sonnette d'alarme sur la façon dont ses plateformes sont utilisées dans les pays en développement, où sa base d'utilisateurs est énorme et en expansion. Les employés ont signalé que des trafiquants d'êtres humains au Moyen-Orient utilisaient les plateformes pour proposer des « femmes de ménage à vendre » qui étaient présentées comme du personnel corvéable à merci, sans contrat de travail ni protection sociale et dont le passeport avait été confisqué.
Apple a dû menacer le réseau social de retirer ses applications de l'App Store pour qu'il s'engage à réprimer cette pratique.
Pourtant, une note interne a révélé que Facebook était au courant de la pratique avant même cette date : un chercheur de Facebook a écrit dans un rapport daté de 2019, « ce problème était-il connu de Facebook avant l'enquête de la BBC et l'escalade d'Apple ? », selon le journal.
Sous la question se lit : « Oui. Tout au long de 2018 et du premier semestre 2019, nous avons mené l'exercice de compréhension global afin de bien comprendre comment la servitude domestique ne se manifeste pas sur notre plateforme tout au long de son cycle de vie : recrutement, facilitation et exploitation ».
À maintes reprises, montrent les documents, les chercheurs de Facebook ont identifié les effets néfastes de la plateforme. À maintes reprises, malgré les audiences du Congrès, ses propres engagements et de nombreux exposés médiatiques, la société ne les a pas corrigés. Les documents offrent peut-être l'image la plus claire à ce jour de l'étendue de la connaissance des problèmes de Facebook au sein de l'entreprise, jusqu'au directeur général lui-même.
À la lecture des documents internes, des employés de Facebook ont averti que des groupes armés en Éthiopie utilisaient le site pour inciter à la violence contre les minorités ethniques. Ils ont envoyé des alertes à leurs patrons sur l'utilisation des plateformes pour la vente d'organes, la pédopornographie et l'action du gouvernement contre la dissidence politique. Les documents ont montré également la réponse de l'entreprise, qui dans de nombreux cas est inadéquate ou inexistante. Un porte-parole de Facebook a déclaré que la société avait déployé des équipes mondiales, des partenariats locaux et des vérificateurs de faits tiers pour assurer la sécurité des utilisateurs.
Source : interview de Margrethe Vestager
Voir aussi :
:fleche: Facebook sait qu'Instagram est toxique pour de nombreuses adolescentes, selon les documents de l'entreprise
:fleche: Mark Zuckerberg propose des réformes limitées de la Section 230 avant son audition devant le Congrès, les entreprises ne bénéficieraient de cette loi que si elles suivent les meilleures pratiques