Discussion :

[Stéphane le calme]

Les cadres dirigeants de YouTube auraient laissé les contenus « toxiques » sur la plateforme,
tant qu'ils généraient de l'audience

Un nouveau rapport explique en détail à quel point YouTube a permis à du contenu extrémiste de se répandre sur sa plateforme. Selon le rapport, des responsables de YouTube, dont la directrice générale Susan Wojcicki, ont à plusieurs reprises ignoré les avertissements des employés de YouTube concernant la popularité croissante de vidéos extrêmes et trompeuses sur le site. Cela aurait été fait par "crainte d'engagements étranglés".

Il faut rappeler qu’il y a un an, Susan Wojcicki était sur scène pour défendre YouTube. Sa société, qui était alors martelée depuis des mois pour avoir alimenté des mensonges en ligne, faisait face à une nouvelle vague de critiques à cause de l’apparition d’une vidéo sur YouTube sur la théorie du complot au sujet de la fusillade dans le lycée de Parkland, en Floride, suggérant que les victimes étaient des acteurs.

Elle était à Austin à la conférence South by Southwest pour dévoiler une solution qui, espérait-elle, contribuerait à calmer les théories du complot : une minuscule zone de texte provenant de sites Web tels que Wikipedia, placée sous des vidéos qui remettaient en cause des faits bien établis tels que l'alunissage et reliant les spectateurs à la vérité.

Ce jour-là, Wojcicki a comparé son site vidéo à un autre type d'institution : « Nous ressemblons beaucoup plus à une bibliothèque », a-t-elle déclaré, se positionnant comme défenseur de la liberté d'expression. « Il y a toujours eu des controverses, si vous regardez les bibliothèques ».

Depuis que Wojcicki est entré en scène, des théories du complot bien connues ont été publiées sur la plateforme, notamment une sur la vaccination des enfants; une autre qui a lié Hillary Clinton à un culte satanique (cette dernière a suscité la colère des législateurs désireux de réglementer les entreprises technologiques). Et YouTube est, un an plus tard, encore plus associé aux parties les plus sombres du Web.

Selon le rapport, la problématique ne repose pas sur le fait que YouTube permette aux théories du complot telles que celle qui remet en cause l’efficacité du vaccin d’apparaître, mais plutôt que YouTube « permet aux absurdités de s'épanouir. Et, dans certains cas, grâce à son puissant système d’intelligence artificielle, il fournit même le carburant qui le permet. »

Susan Wojcicki prend la parole au SXSW en 2018.

Des employés YouTube qui sont priés de ne pas faire de zèle s’ils ne figurent pas parmi les modérateurs

Selon certaines sources, des « notes » d'employés de YouTube et de Google ont exprimé leur inquiétude à propos du contenu incendiaire sur YouTube. Certains ont également proposé des solutions : un employé a voulu signaler les vidéos troublantes, qui ne respectaient pas les règles contre le discours incitant à la haine, et cesser de les recommander aux téléspectateurs. Un autre souhaitait suivre ces vidéos dans un tableur afin de déterminer leur popularité. Un troisième, inquiet de la propagation des blogueurs vidéo «alt-right» (l'alt-droite ou la droite alternative américaine -en anglais « Alt-right »- est un terme flou désignant une partie de l'extrême droite américaine qui rejette le conservatisme classique et milite en faveur de la défense des Blancs, aussi bien que du sexisme, de l'antisémitisme, du conspirationnisme, de l'opposition à l'immigration et à l'intégration des immigrés), a créé une verticale interne qui montrait à quel point ils étaient populaires. YouTube n'a pas tenu compte de leurs suggestions et a continué à fermer les yeux sur de nombreux types de contenu extrême. En effet, le rapport assure qu’à chaque fois, ils obtenaient la même réponse de base: ne faites pas tanguer le bateau.

Bien qu'aucune de ces réfutations ne semble être consignée sur papier en tant que politique officielle, les employés auraient été découragés d'être proactifs. Les avocats de YouTube ont dit aux employés qui n'étaient pas affectés à des tâches de modération de ne pas rechercher seuls des contenus toxiques.

Parlant de Wojcicki, une personne qui travaillait pour elle a déclaré que : « Son point de vue était :"Mon travail consiste à diriger la société, pas à gérer cela” ».

Un porte-parole de YouTube a réfuté l’affirmation selon laquelle la société se concentrerait avant tout sur l’engagement des internautes à la plateforme. Cependant, l'engagement fait depuis longtemps une part importante des résultats nets de YouTube. Au grand dam des créateurs, la société modifie constamment son algorithme pour donner la priorité à certaines vidéos sur la page d'accueil du site et dans ses listes recommandées. L'engagement - ou le nombre de visionnements d'une vidéo, la durée pendant laquelle un spectateur passe à regarder une vidéo et d'autres interactions avec le site dans son ensemble - continue d'influer sur la popularité croissante de certaines chaînes par rapport à d'autres.

La réaction de YouTube

Mais à présent, YouTube dit qu'il est davantage axé sur la « responsabilité ». Depuis 2017, YouTube aurait recommandé des vidéos basées sur un « indicateur de responsabilité » difficile à quantifier. La société a seulement déclaré que cette mesure s’appuyait sur des réponses aux enquêtes de satisfaction qu'elle montrait aux téléspectateurs après avoir visionné une vidéo. Aucune information concernant un complément, s’il y en a, qui contribue à mesurer la responsabilité.

Un porte-parole de YouTube France a déclaré

Nous avons eu pour objectif principal au cours des deux dernières années de nous attaquer à des défis extrêmement complexes relatifs aux contenus sur notre plateforme, en tenant compte des commentaires et des préoccupations des utilisateurs, des créateurs, des annonceurs, des experts et des employés. Nous avons pris un certain nombre de mesures importantes, comme notamment la mise à jour de notre système de recommandations pour empêcher la propagation de fausses informations nuisibles; l'amélioration de la diffusion d'informations en provenance de médias sur YouTube; le fait d'atteindre le nombre de 10 000 personnes travaillant sur les problématiques de retrait de contenu chez Google; l'investissement dans l'apprentissage automatique afin de pouvoir trouver et supprimer encore plus rapidement les contenus non autorisés ainsi que la révision et la mise à jour de nos Règles de la communauté - nous avons réalisé plus de de 30 mises à jour en 2018. Et ce n'est pas fini, être responsable reste notre priorité numéro un.

Un autre porte-parole a donné quelques informations supplémentaires sur le travail des équipes YouTube :

• Au cours des deux dernières années, nous avons réalisé des investissements importants dans la résolution des problèmes les plus difficiles, tels que la désinformation, les recommandations et le contenu problématique.
• Les hauts dirigeants sont très impliqués dans la prise de ces décisions - nous avons un indicateur de responsabilité interne et un OKR d’entreprise pour l’améliorer.
• Sur les recommandations:
  
  • Nos systèmes de recommandations ont beaucoup changé au fil des ans, passant de vues en veille en 2012, puis de veille en satisfaction en 2016. Nous mesurons la satisfaction à l'aide d'éléments comme les goûts, les like, les dislike, les partages et les sondages - nous recevons des millions de réponses aux enquêtes chaque semaine.
  • En janvier de cette année, nous avons lancé l’un de nos plus grands changements jamais apportés à notre système de recommandations et avons annoncé notre intention de commencer à réduire les recommandations relatives au contenu limite et au contenu susceptible de mal informer les utilisateurs de manière préjudiciable. Les travaux sur ce changement ont commencé plus d’un an avant le lancement.
  • En règle générale, le contenu extrême ne fonctionne pas bien sur le site.
• Sur la désinformation:
  
  • En juillet de l’année dernière, nous avons introduit un changement important dans l’actualité sur YouTube et annoncé que, pour les requêtes de recherche d’informations, nous diffusions des vidéos de sources faisant autorité.
  • Nous avons également introduit des panneaux d’information sur des sujets sujets aux théories du complot. Celles-ci ont été couronnées de succès et nous continuons à les développer. Nous couvrons maintenant des centaines de sujets et les panels montrent des dizaines de millions de fois chaque semaine. Nous continuons à ajouter de nouveaux sujets sur une base continue.
• Sur les directives de la communauté:
  
  • Au quatrième trimestre de 2018 seulement, nous avons retiré 8,8 millions de vidéos pour violation des consignes de notre communauté, la majorité d'entre elles étant signalées par des machines et supprimées avant la réception d'un seul affichage.
  • Nous avons également supprimé 2,4 millions de chaînes et plus de 260 millions de commentaires au cours de la même période.

Les défis rencontrés par l'entreprise

YouTube a apporté plusieurs changements de politique ces dernières années. Depuis l'ad-pocalypse de 2017, la société a modifié nombre de ses règles et réglementations en ce qui concerne les types de contenu pouvant être monétisés sur la plateforme, les personnes pouvant être payées via YouTube et le contenu explicitement banni du site.

Tous ces changements ont des avantages et des inconvénients. S'ils démontrent que YouTube a adopté une position plus ferme contre certains types de contenu extrémiste, certains créateurs ont trouvé les nouvelles règles confuses et ont été mécontents de la façon dont YouTube applique ses sanctions en matière de marquage et de démonétisation.

De plus, YouTube n'a pas totalement empêché les contenus toxiques de trouver une maison sur sa plateforme. Tout récemment, YouTube a dû désactiver les commentaires sur la plupart des vidéos mettant en vedette des enfants en raison des pédophiles cachés sur le site. YouTube doit également s’occuper de contenus pour adultes masqués en tant que contenus pour enfants qui ont infiltré YouTube Kids, une version du site censée ne proposer que des contenus adaptés aux enfants.

Mais est-ce vraiment étonnant ?

Tout comme Facebook et d’autres sites de médias sociaux, YouTube s’attache à attirer l’attention des utilisateurs et à le garder pendant des années. Il s’agit maintenant du premier site de diffusion vidéo en continu. Même si nous ne connaissons pas le chiffre exact des revenus, YouTube rapporterait des milliards de dollars chaque année. YouTube ne serait pas la première entreprise à ignorer ou à négliger les contenus toxiques si cela impliquait de faire venir plus de gens sur sa plateforme.

La réponse de YouTube à ce nouveau rapport n'est pas claire, si tant est que l’entreprise ait vraiment répondu. Après avoir fait face à des critiques pour son manque de responsabilité dans la capture et la suppression de contenu extrême sur sa plateforme, Facebook a récemment annoncé un changement de stratégie visant à « des communications axées sur la protection de la vie privée ». Nous n'avons pas encore vu comment Facebook concrétisera ce projet ou si YouTube fera davantage pour résoudre des problèmes similaires sur sa plateforme. L'histoire a montré que les médias sociaux ne réagissent plus fermement à la controverse que lorsque les critiques deviennent trop audibles pour être ignorées, mais cette stratégie va-t-elle encore fonctionner longtemps ?

Source : rapport

Et vous ?

Pensez-vous que les médias sociaux devraient réglementer le contenu et les discours de haine?

Voir aussi :

YouTube va désactiver les commentaires sur la plupart des vidéos de mineurs à cause des pédophiles
YouTube annonce avoir pris des mesures strictes pour lutter contre les vidéos avec les mineurs et pouvant faire l'objet de commentaires prédateurs
Une mère découvre des instructions de suicide en vidéo sur YouTube et YouTube Kids dissimulées entre des extraits d'un jeu vidéo populaire
Disney aurait retiré les fonds alloués pour la publicité sur YouTube, suite à une controverse liée à l'exploitation des enfants

[Ryu2000]

YouTube doit faire quelque chose contre ça :

De plus, YouTube n'a pas totalement empêché les contenus toxiques de trouver une maison sur sa plateforme. Tout récemment, YouTube a dû désactiver les commentaires sur la plupart des vidéos mettant en vedette des enfants en raison des pédophiles cachés sur le site. YouTube doit également s’occuper de contenus pour adultes masqués en tant que contenus pour enfants qui ont infiltré YouTube Kids, une version du site censée ne proposer que des contenus adaptés aux enfants.

Mais après il faut tolérer toutes les idées, sinon ça fait ministère de la vérité "ça c'est faux alors on censure", ceux qui décident de ce qui est vrai ou faux on trop de pouvoir.
"Discours de haine" c'est un concept trop flou...
Si il y a un appelle à la violence c'est illégal, mais sinon ça devrait passer. À moins que ce soit un truc grave comme du harcèlement sur une personne.

[Aiekick]

c'est etonnant don't be evil => Money first

[AoCannaille]

c'est etonnant don't be evil => Money first

Depuis 2015 ce n'est plus le slogan officiel, depuis 2018, ça n'est plus mentionné sur le code de conduite Alphabet

[pierre-y]

Et qui définis ce qui est toxique ou pas? Depuis quelques temps déja, je vois surtout se mettre en place lentement mais surement un gros instrument de censure au motif qu'il y a justement des contenues "toxique" l'europe étant heureusement là comme berger pour guider les analphabètes que nous somme. Il est vrai que je ne me suis jamais pointé à mon travail aussi bourré que Juncker pour prétendre faire partie de cette élite.

[sirthie]

Mais après il faut tolérer toutes les idées, sinon ça fait ministère de la vérité "ça c'est faux alors on censure", ceux qui décident de ce qui est vrai ou faux on trop de pouvoir.

Ah ! si c’était si simple ! Toutes les idées, ou plutôt tous les discours n’ont pas la même valeur : on ne peut pas mettre sur le même pied la physique quantique et le spiritisme, le fait que la Terre soit sphérique et l’affirmation qu’elle est plate, l’effet des vaccins et les divagations (aux conséquences parfois mortelles) des antivaxx, etc., etc.
De manière plus générale, on ne peut pas mettre sur le même pied des affirmations qui ont été validées par des expériences respectant un protocole expérimental valide, qui ont été réalisées par des personnes possédant des compétences validées et qui ont été reproduites à des multiples reprises par des équipes indépendantes (cas des discours scientifiques dans l’idéal) et des affirmations non validées par des expériences ou reposant sur des expériences suivant un protocole expérimental erroné ou / et qui n’ont pas pu être reproduites, etc., etc. (mais la distinctions n’est pas toujours simple).

De plus, on ne sautait pas non plus mettre sur le même pied des discours visant simplement à exposer des faits (ou des spéculations possibles, probables ou vraisemblables) et des discours fallacieux comportant tout un dispositif argumentatif exploitant les biais cognitifs (biais de confirmation, biais de corrélation, biais de conformisme, etc.) des individus dans le but de leur faire accepter des thèses fantaisistes comme vraies : les uns sont conçus pour informer, les autres sont conçus pour manipuler.

[Ryu2000]

Ah ! si c’était si simple !

On s'en branle des anti vaccins et des gens qui pensent que la terre est plate...
11 vaccins sont obligatoire et il est évident que la terre est plutôt sphérique.

La libération d'expression existe ou pas ?
De toute ce n'est pas parce que le consensus scientifique affirme que quelque chose est faux avec les connaissances actuelles que cette chose est vraiment fausse.
Le premier médecin qui a dit "on devrait se laver les mains avant de faire accoucher les femmes, il y a peut-être une histoire de microbe" c'est fait maltraiter par tous les autres médecins.
Les connaissances actuelles scientifique ce n'est pas la vérité absolue.

Il y a plein de choses qu'on croit vrai aujourd'hui qui sont fausses en réalité.
Et il y a plein de choses que la science ne comprend pas actuellement.

===
On nous a toujours dis que la liberté était importante, donc même si vous n'aimez pas ce que quelqu'un dit, ou si vous trouvez son discours dangereux c'est important qu'il puisse s'exprimer.
Sinon c'est la fin de toutes les libertés, si tu commences à dire "tu n'as pas le droit de penser ça" tout est fini.
Pour l'esprit il ne faut pas de barrière.

Là on a déjà un système "si vous n'êtes pas vacciné vous n'êtes pas un citoyen à part entière, toutes les portes vous sont fermées" je ne sais pas ce que vous voulez de plus...

[pierre-y]

De manière plus générale, on ne peut pas mettre sur le même pied des affirmations qui ont été validées par des expériences respectant un protocole expérimental valide, qui ont été réalisées par des personnes possédant des compétences validées et qui ont été reproduites à des multiples reprises par des équipes indépendantes (cas des discours scientifiques dans l’idéal) et des affirmations non validées par des expériences ou reposant sur des expériences suivant un protocole expérimental erroné ou / et qui n’ont pas pu être reproduites, etc., etc. (mais la distinctions n’est pas toujours simple).

De plus, on ne sautait pas non plus mettre sur le même pied des discours visant simplement à exposer des faits (ou des spéculations possibles, probables ou vraisemblables) et des discours fallacieux comportant tout un dispositif argumentatif exploitant les biais cognitifs (biais de confirmation, biais de corrélation, biais de conformisme, etc.) des individus dans le but de leur faire accepter des thèses fantaisistes comme vraies : les uns sont conçus pour informer, les autres sont conçus pour manipuler.

Sauf que les expérimentation scientifique ça ne fait pas tout non plus... A une époque et aujourd'hui encore vous trouvez des études sur l’éducation des gosses qui rejettent toutes réprimandes de la part des parents vis à vis des gosses pour ne pas briser sa spontanéité. C'est souvent les même gamins qu'on retrouve chez pascal le grand frère en train d'être en roue libre. Alors j'exagère, tous ne finisse pas comme ça (une éducation trop stricte peut être tout aussi néfastei). Croire que tout se juge par l'expérimentation scientifique est faut, certaine chose se fonde sur l'expérience et le feeling.

[Neckara]

Sauf que les expérimentation scientifique ça ne fait pas tout non plus... A une époque et aujourd'hui encore vous trouvez des études sur l’éducation des gosses qui rejettent toutes réprimandes de la part des parents vis à vis des gosses pour ne pas briser sa spontanéité.[…]

Attention, bien souvent ils ne font pas de la Science, mais du "sport de combat".

Un bon nombre d'études sociologiques ne valent absolument rien sur le plan scientifique.
Certains, pourtant bien médiatisés, ont même été jusqu'à ce qu'on peut qualifier de fraude scientifique.

[pierre-y]

Un bon nombre d'études sociologiques ne valent absolument rien sur le plan scientifique.
Certains, pourtant bien médiatisés, ont même été jusqu'à ce qu'on peut qualifier de fraude scientifique.

A mais je suis bien d'accord avec toi. Mais ce que je veux dire c'est que des personnalités reconnu par le milieu ont pourtant bien soutenu ces idées et par la même apporté un crédit à ça.

[Neckara]

Mais ce que je veux dire c'est que des personnalités reconnu par le milieu ont pourtant bien soutenu ces idées et par la même apporté un crédit à ça.

Il faut être clair, e.g. en sociologie, ils ont beau se prétendre chercheurs ou scientifiques, ils n'en ont que le titre.

À part quelques rares personnes qui font de la vraie recherche, et qui souvent ont un double background (e.g. économie + sociologie), les autres ne savent même pas ce qu'est la recherche et la confondent avec du militantisme.


Leurs expérimentations n'ont rien de scientifiques. Ils ne respectent déjà pas les bases de l'expérimentation scientifique.
Je ne parle pas non plus de leurs conclusions à ces expérimentations, qui sont bien souvent complètement abusives, et ne servant qu'à justifier leurs idées préconçues.


Merci donc de ne pas confondre ces militants avec des scientifiques, par respect envers les vrais scientifiques.

[pierre-y]

Il faut être clair, e.g. en sociologie, ils ont beau se prétendre chercheurs ou scientifiques, ils n'en ont que le titre.

Merci donc de ne pas confondre ces militants avec des scientifiques, par respect envers les vrais scientifiques.

A mais je ne confond rien du tout. Je parle bien de gens ayant des bagages sociologique conséquent et pas du tout de militant ou d'illuminé. Le fait d'avoir un bagages scientifique n'a jamais été une garantie en soit loin de la et le fait d'avoir dit une chose juste une fois que tout ce qui va suivre le sera toujours.

[Neckara]

A mais je ne confond rien du tout. Je parle bien de gens ayant des bagages sociologique conséquent et pas du tout de militant ou d'illuminé. Le fait d'avoir un bagages scientifique n'a jamais été une garantie en soit loin de la […]

Justement, le fait d'avoir des "bagages sociologique conséquent", ne signifie absolument pas que ces bagages soient scientifiques.

Je ne te parle pas juste de "militants" lambdas, mais de "chercheurs", de "scientifiques", employés par des universités ou le CNRS, qui font du militantisme par le biais de leur "recherche", qui n'ont ainsi plus grand chose à voir avec de la recherche scientifique. Et cela constitue une part non-négligeable de la "sociologie", si ce n'est la grande majorité.


C'est comme si, en psychologie, la majorité de la "recherche" était de la psychanalyse. Ou comme si en astronomie, la majorité de la recherche était de l'astrologie.

[pierre-y]

Justement, le fait d'avoir des "bagages sociologique conséquent", ne signifie absolument pas que ces bagages soient scientifiques.

Je ne te parle pas juste de "militants" lambdas, mais de "chercheurs", de "scientifiques", employés par des universités ou le CNRS, qui font du militantisme par le biais de leur "recherche", qui n'ont ainsi plus grand chose à voir avec de la recherche scientifique. Et cela constitue une part non-négligeable de la "sociologie", si ce n'est la grande majorité.

La sociologie relève de la science sur certain point donc ça relève bien du bagage scientifique, ça fait déja un bon moment que l'on est passé à la neuroscience et aux comportementales dans certaine de ces recherches. Moi je parle bien de gens qui ont abusé de leurs autorités.

Ca doit faire deux trois fois que je vous explique que moi non plus je ne parle pas de militant mais bien de gens avec un bagages scientifique avéré qui en validant certaine études leur donner du crédit. Quand je dis que le seul fait d'avoir un bagage scientifique ne suffit pas c'est bien dans ce sens là sinon les nuages radioactif s'arrêteraient aux frontières.

On ne peut pas être derrière toute les recherches a relire toute les thèses et études. Il faut bien a un moment donné désigner des personnes pour valider ou non tout ça.

[Neckara]

La sociologie relève de la science sur certain point donc ça relève bien du bagage scientifique

Pas plus que l'astrologie ou la psychanalyse relèvent de la Science.

La Science, c'est avant tout une méthode, pas un titre. Si tu ne suis pas cette méthode, tu ne fais pas de la Science.

, ça fait déja un bon moment que l'on est passé à la neuroscience et aux comportementales dans certaine de ces recherches.

C'est malheureusement très loin de faire la majorité, au contraire même, la sociologie a plutôt tendance à rejeter les (autres) sciences.
Les rares sociologues qui utilisent les autres sciences, sont loin de faire l'unanimité, ce sont presque des moutons noirs.

Ca doit faire deux trois fois que je vous explique que moi non plus je ne parle pas de militant mais bien de gens avec un bagages scientifique avéré qui en validant certaine études leur donner du crédit. Quand je dis que le seul fait d'avoir un bagage scientifique ne suffit pas c'est bien dans ce sens là sinon les nuages radioactif s'arrêteraient aux frontières.

Et cela fait plusieurs fois que je te dis que je ne parle pas de "simples militants", mais de chercheurs qui font ce qu'est la sociologie. La sociologie étant elle-même vu, non pas comme une Science, mais comme un "sport de combat".

Ces personnes là, n'ont pas de bagages scientifiques. Ils ne savent pas comment fonctionne la Science.
Ils peuvent valider des études, éditer des journaux, organiser des conférences, avoir un doctorat, et un titre de PU, CDF, CR, ou DR, ils n'ont pas de bagages scientifiques, ils ne maîtrisent pas la Science.

Ce n'est pas un problème de représentants, mais un problème qui s'étend au domaine même, à ces fondements.

On ne peut pas être derrière toute les recherches a relire toute les thèses et études. Il faut bien a un moment donné désigner des personnes pour valider ou non tout ça.

Cela se fait principalement en auto-gestion, via le peer-reviewing (journaux, conférences), jury de thèses (choisi par le directeur de thèse), le CNU (avancement de carrière, qualifications), recrutements, évaluations HCERES, et projets ANR/autres (idem d'autres chercheurs), méta-études, etc.

Le problème de l'auto-gestion, c'est que si la majorité de ton pool est nulle, ton autogestion est tout aussi nulle. À ce niveau là, la seule solution est de dissoudre entièrement le CNU de sociologie, et la faire passer sous tutelle d'autres CNU.

[Aiekick]

Depuis 2015 ce n'est plus le slogan officiel, depuis 2018, ça n'est plus mentionné sur le code de conduite Alphabet

je le sais, je pensais que le smiley indiquait clairement, comment comprendre mon message....