Discussion :

[Michael Guilloux]

Quelles solutions contre les commentaires violents sur internet ?
Faut-il supprimer l’anonymat ou utiliser un logiciel de modération ?

Les commentaires sur les sites d’informations sont utilisés pour établir une communication entre les médias et les lecteurs ; et entre les lecteurs eux-mêmes. Ils sont donc essentiels pour dresser une véritable plateforme de communication. Toutefois, le principe de la liberté d’expression sur lequel sont fondées les discussions sur internet est très souvent abusé par certains lecteurs qui manquent de se conformer aux bonnes règles de courtoisie et de respect des autres. On assiste donc à une recrudescence des commentaires agressifs dans les discussions, en particulier sur les sites de nouvelles.

L’une des solutions les plus utilisées pour maintenir l’ordre sur les sites de médias est la modération. Si pour un site avec une faible activité, la modération semble plus aisée pour les personnes en charge, pour un site qui enregistre des centaines de milliers, voire des millions de commentaires par an, c’est une tâche plus complexe. En plus, cela peut nécessiter un budget que le site doit supporter.

En quête d’un outil de modération efficace, capable de gérer les commentaires et identifier facilement ceux qui sont agressifs, le Washington Post et le New York Times font équipe avec Mozilla, depuis juin 2014, pour la mise en œuvre d’un système de commentaires pour les sites d’informations. L’une des fonctionnalités de ce système devrait permettre de catégoriser les lecteurs en fonction de leurs commentaires passés, mais comme l’a expliqué le Washington Post au moment de l’annonce, cette fonctionnalité ne devrait pas pour autant permettre d’éliminer les « trolls ».

Dans un effort dans le même sens, des chercheurs ont développé un programme pour détecter les infractions sur les forums. Dans leur approche testée sur des sites de médias populaires, ils ont ensuite été en mesure de prédire avec une forte précision la probabilité qu’un utilisateur soit antisocial.

En attendant que cette approche de détection automatisée des infractions aboutisse à des résultats concrets, mettre fin à l’anonymat sur les sites semble également pouvoir réduire les commentaires violents. C’est ce que montre une étude réalisée en 2013 par l’université américaine de Kent. Celle-ci montre en effet qu’en rendant les utilisateurs responsables de leurs propos – en supprimant la possibilité de poster des messages dans l’anonymat –, il est « moins probable qu’ils s'engagent dans une discussion incivile ». Cette solution semble pourtant très loin d’être appréciée par les lecteurs. En effet, après avoir mis fin aux commentaires anonymes sur son site, le Huffington Post a fait face à la colère des internautes.

Face à toutes ces difficultés pour garantir des discussions saines, certains médias ont choisi tout simplement de se passer des commentaires sur leurs sites. Dans cette liste, figurent les sites tels que le Chicago Sun-Times, The Daily Beast, Re/Code, Popular Science, ou encore The Verge. On peut également citer 24.com, le plus grand média en ligne sud-africain. Tous ces sites évoquent la nature parfois trop agressive ou négative de nombreux commentaires qui tend à masquer les vrais messages et dégrader la qualité des échanges. Il paraît cependant évident que la fermeture des sections commentaires devrait être le dernier recours des sites d’informations.

Sources : France 24, Washington Post, New York Times et Mozilla font équipe pour un nouveau système de commentaire pour les sites web

Et vous ?

Qu’en pensez-vous ? Quelles solutions contre les commentaires violents sur les sites web ? Faut-il supprimer l’anonymat ou utiliser un logiciel de modération ?

Voir aussi

Forum Webmarketing

[Sodium]

J'ai l'impression que l'on mélange pas mal de choses dans tout cela.
Il y a une différence entre les propos injurieux et haineux qui tombent sous le coup de la loi et le simple troll.
Lire les commentaires des fils d'actus, c'est effectivement la certitude de tomber sur un nombre conséquents de propos racistes qui sont donc illégaux.
La notion de troll est par contre toute relative, un débat peut rapidement déchainer les passions et partir sur un ton agressif. Faut-il pour autant des logiciels pour les auto-censurer ? Ce serait un coup dur à la liberté d'expression. Pas besoin d'aller sur des forums pour voir des débats prendre une orientation peu amicale, il suffit de regarder un débat politique télévisé et on se retrouve systématiquement avec le même type de comportements.

[Invité]

Bonjour,

A titre d'exemple, si vous voulez de la violence, faut aller lire les commentaires aux actus Yahoo! . Malgré l'avertissement d'usage concernant les commentaires autorisés, l'équipe de modération semble très permissive sur ce site, y compris sur les sujets qui peuvent dériver très facilement. Pour faire le lien avec cette actu, je pense qu'il faut qu'il y ai une réelle volonté de l'équipe de modération avant toute chose.

[MikeRowSoft]

Sa existe les logiciels de modération!

[RyzenOC]

Autre: L'éducation

[gstratege]

Bien élever ses enfants.

[Matthieu Vergne]

Idée jetée en pâture à ceux qui voudront bien s'en saisir : plutôt que de retirer des posts, on les rend difficile d'accès, par exemple on remplace le cadre contenant le message et autres infos par une ligne minimale (pseudo + raison pour le cacher) sur laquelle il faut cliquer, affichant un message demandant si on est sûr de vouloir voir les propos, avant d'afficher effectivement le message. Un code couleur peut aussi être utilisé en rapport avec la raison.

Du fait que le message n'est jamais supprimé à proprement parler, on peut se permettre d'être surprotecteur en cachant dès lors qu'on a un doute, la correction étant alors facile (valider le post via la modération permet de l'afficher comme n'importe quel autre). Bien entendu tout modérateur voyant un post devant être retiré le cache en stipulant la raison. Cela permet de garder les discussions propres tout en permettant aux plus curieux de voir ce qui est considéré comme impropre à la discussion (ce qui me semble plus pédagogique et moins sujet à revanche que de virer purement et simplement le post).

Pour les gestions de gros flux, un système à apprentissage peut-être mis en place, les données d'entraînement étant les posts effectivement modérés par les modérateurs officiels. On peut ensuite permettre qu'un membre (non modérateur) signale un post fâcheux qui ne serait pas caché, tout comme un post intéressant qui serait caché, signalement générant une notification aux modérateurs qui pourront alors se focaliser sur les erreurs potentielles à corriger, améliorant d'autant le classificateur automatique. On peut aussi imaginer une modération populaire (un certain taux de non modérateurs signalant le message génère d'office une correction).

Les raisons pour cacher les messages pourraient être alors de deux catégories : classement automatique (algorithme à apprentissage) et modération (validation humaine). La première menant à cacher les messages tout en s'assurant que le lecteur voit bien la ligne et puisse la dérouler en un clique, le second menant à une quasi-extraction du message, le rendant peu visible et obligeant d'ouvrir le message inopportun dans un onglet dédié. À cela se rajouterai des sous catégories communes indiquant le type de critique (troll, agressivité, pub, etc.) permettant aux curieux de voir ce qui n'est pas bien, et donc de l'éviter par la suite, ou de signaler ce qu'ils pensent être une faute de jugement.

Avec un tel système, une communauté particulièrement soucieuse de la qualité de la discussion pourrait prendre une stratégie très restrictive sans pour autant parler de censure (les messages restent accessibles, mais ne s'intègrent plus naturellement à la discussion). Par exemple en cachant d'office les messages des nouveaux utilisateurs (ou utilisateurs anonymes), qui devront alors engranger les validations explicites avant d'être considérés comme ayant un discours acceptable. Bien entendu, le système à apprentissage ne devrait pas uniquement se focaliser sur qui a poster, mais aussi sur le contenu (e.g. présence de termes agressifs) et autres facteurs.

[23JFK]

Je conçois le réseau comme un monde totalement dématérialisé, une extension de la pensée ; et l'on a tous, en pensé, explosé au moins une fois le crâne d'un voisin qui nous gonflait à un instant T sans pour autant avoir concrètement mis en application ce que les psychoses nomment : le fantasme.

Mon avis est donc de laisser les gens donner leur avis anonymement (concept relatif puisque les ip sont enregistrées) même s'il consiste à s'invectiver, sur une durée limitée (commentaire ouverts quelques jours, puis verrouillés). Parallèlement, de mettre en place un système de vote comparable à ce qui se fait sur ce site pour laisser les autres lecteurs juger de la nature d'un commentaire donné. Après, on bidouille un algorithme qui pondère l'historique des votes d'un profils et des avis antérieurs des autres "votants" pour tenter d'établir la "trollalité" (au sens large) d'un commentaire en particulier. Enfin, hors de question de supprimer un commentaire, même raciste ou outrancier d'une manière quelconque (quoiqu'en dise la loi ; les commentaires devant jouir de la même liberté de ton que les œuvres littéraires), mais juste placer les commentaires supposés dérangeants dans une structure escamotable à la manière des champs "spoiler" de certains forums.

J'ai connu l'internet des années 1990, les commentaires pouvaient y être extrêmement violent sans pour autant que cela ne se matérialise dans le monde réel, les relations IRL étaient même plutôt détendues et sans rapport avec ce qui pouvait avoir été écrit antérieurement sur un IRC, forum etc... Même si l'internet de 2015 est conséquemment plus vaste qu'il y a vingt ans, je ne pense qu'il y ait plus de danger à laisser les gens s'exprimer frontalement, bien au contraire. Je crois que cela fait office de soupape de sécurité et que c'est bien plus efficace pour la pacification du vivre ensemble que de s'enfermer dans un déni de pensée qui va amener les plus entreprenants à agir dans le réel (exemple de l'avocat qui s'est suicidé la semaine dernière après avoir tenté de tuer son bâtonnier entre autre raison parce qu'il lui a été retirer la liberté de s'exprimer, et donc de confronter son opinion à d'autres hors d'un contexte formel et/ou institutionnel).

[MikeRowSoft]

Autre: L'éducation

Bien élever ses enfants.

Idée jetée en pâture à ceux qui voudront bien s'en saisir : plutôt que de retirer des posts, on les rend difficile d'accès, par exemple on remplace le cadre contenant le message et autres infos par une ligne minimale (pseudo + raison pour le cacher) sur laquelle il faut cliquer, affichant un message demandant si on est sûr de vouloir voir les propos, avant d'afficher effectivement le message. Un code couleur peut aussi être utilisé en rapport avec la raison.

Du fait que le message n'est jamais supprimé à proprement parler, on peut se permettre d'être surprotecteur en cachant dès lors qu'on a un doute, la correction étant alors facile (valider le post via la modération permet de l'afficher comme n'importe quel autre). Bien entendu tout modérateur voyant un post devant être retiré le cache en stipulant la raison. Cela permet de garder les discussions propres tout en permettant aux plus curieux de voir ce qui est considéré comme impropre à la discussion (ce qui me semble plus pédagogique et moins sujet à revanche que de virer purement et simplement le post).

Pour les gestions de gros flux, un système à apprentissage peut-être mis en place, les données d'entraînement étant les posts effectivement modérés par les modérateurs officiels. On peut ensuite permettre qu'un membre (non modérateur) signale un post fâcheux qui ne serait pas caché, tout comme un post intéressant qui serait caché, signalement générant une notification aux modérateurs qui pourront alors se focaliser sur les erreurs potentielles à corriger, améliorant d'autant le classificateur automatique. On peut aussi imaginer une modération populaire (un certain taux de non modérateurs signalant le message génère d'office une correction).

Les raisons pour cacher les messages pourraient être alors de deux catégories : classement automatique (algorithme à apprentissage) et modération (validation humaine). La première menant à cacher les messages tout en s'assurant que le lecteur voit bien la ligne et puisse la dérouler en un clique, le second menant à une quasi-extraction du message, le rendant peu visible et obligeant d'ouvrir le message inopportun dans un onglet dédié. À cela se rajouterai des sous catégories communes indiquant le type de critique (troll, agressivité, pub, etc.) permettant aux curieux de voir ce qui n'est pas bien, et donc de l'éviter par la suite, ou de signaler ce qu'ils pensent être une faute de jugement.

Avec un tel système, une communauté particulièrement soucieuse de la qualité de la discussion pourrait prendre une stratégie très restrictive sans pour autant parler de censure (les messages restent accessibles, mais ne s'intègrent plus naturellement à la discussion). Par exemple en cachant d'office les messages des nouveaux utilisateurs (ou utilisateurs anonymes), qui devront alors engranger les validations explicites avant d'être considérés comme ayant un discours acceptable. Bien entendu, le système à apprentissage ne devrait pas uniquement se focaliser sur qui a poster, mais aussi sur le contenu (e.g. présence de termes agressifs) et autres facteurs.

L'expérience forme la jeunesse, c'est sur que des trucs vont disparaitre. Mieux se connaitre? Des militaires, il y en a beaucoup au final, les mécanismes de survie étant le primordiale. Mais l'homme doit survivre à l'homme?! Là je crois que quelques fois se ne sont pas que des discordes... Faire semblant est très souvent le plus répandu pour se protégé de ses semblables. La vie des animaux quoi. Le confort de vie social, il faut vraiment le vouloir...

[Squisqui]

Matthieu Vergne > Tout ceci ressemble furieusement au système mis en place par linuxfr.
Bien que le système cache les commentaires impopulaires. Les nouveaux membres sont systématiquement cachés. Ce n'est pas très accueillant d'être traité comme un malpropre sous prétexte d'être un inconnu.
Malgré tout, ce système fonctionne pas trop mal sur Linuxfr composé de membres relativement civilisés. Mais je doute de son efficacité sur des sites un peu plus hostiles. JV.com serait composé intégralement de messages cachés de part le caractère abruti des membres.

[mrqs2crbs]

Les commentaires sur les sites d’informations sont utilisés pour établir une communication entre les médias et les lecteurs ; et entre les lecteurs eux-mêmes. Ils sont donc essentiels pour dresser une véritable plateforme de communication. Toutefois, le principe de la liberté d’expression sur lequel sont fondées les discussions sur internet est très souvent abusé par certains lecteurs qui manquent de se conformer aux bonnes règles de courtoisie et de respect des autres. On assiste donc à une recrudescence des commentaires agressifs dans les discussions, en particulier sur les sites de nouvelles.

Les gens, nous, sommes violents, à l'image de notre société.
Autant que ça sorte dans un fil de discussion, c'est comme se mettre à gueuler sur les passants depuis une fenêtre, ça ne porte pas à conséquence.

Ce qui me surprend beaucoup par contre, c'est la fausse incrédulité qui pousse les journaux et autres sites d'infos, dans ce cas, à vouloir modérer plus durement les commentaires des lecteurs.
C'est lénifiant et infantilisant,...bref ça énerve

Ce qu'il faudrait connaître, c'est quels sont statistiquement :
les sujets (et les présentations de ces derniers) qui génèrent le plus de commentaires agressifs.
Je dis que ce serait intéressant à connaître, mais à mon avis les sites en questions le savent parfaitement,
c'est la dessus qu'ils font leur beurre.

A présenter des "actus" bien crades et polémiques, sans aucune distance, sans analyse, sans discours critique, juste en impliquant émotionnellement le lecteur le plus possible, et ensuite s'étonner de "la recrudescence des commentaires agressifs", je trouve que l'on est pas bien loin du foutage de gueule.
on ne peut pas d'un côté appauvrir toujours plus le discours et dans le même temps demander aux commentateurs pondération et empathie.

[Iradrille]

Idée jetée en pâture à ceux qui voudront bien s'en saisir : plutôt que de retirer des posts, on les rend difficile d'accès, par exemple on remplace le cadre contenant le message et autres infos par une ligne minimale (pseudo + raison pour le cacher) sur laquelle il faut cliquer, affichant un message demandant si on est sûr de vouloir voir les propos, avant d'afficher effectivement le message. Un code couleur peut aussi être utilisé en rapport avec la raison.

Çà peut marcher pour les messages hors-sujet / troll; mais pas pour tout ce qui est incitation à la haine / racisme / autre joyeuseté.
Il y aura bien quelqu'un pour porter plainte (et surement gagner un procès) si ces messages ne sont pas supprimés.

L'anonymat doit cependant être respecté, dans le cas d'un forum comme dvp la perte de l'anonymat ne serait pas si grave.
Mais pour un forum abordant des thèmes plus sensibles (problèmes de santé / d'argent / dépendances / etc...) l'anonymat est requis.

[Invité]

A présenter des "actus" bien crades et polémiques, sans aucune distance, sans analyse, sans discours critique, juste en impliquant émotionnellement le lecteur le plus possible, et ensuite s'étonner de "la recrudescence des commentaires agressifs", je trouve que l'on est pas bien loin du foutage de gueule.
on ne peut pas d'un côté appauvrir toujours plus le discours et dans le même temps demander aux commentateurs pondération et empathie.

Je suis tout à fait d'accord avec toi. Les commentaires sont à l'image de notre société, réagissant de plus en plus à de l'émotion sans le moindre recul.
Les administrateurs des sites en question sont d'autant plus responsables de ce qui s'y passe dès lors que ce sont eux qui initient les discours/news qui flattent ce qu'il y a de pire en chacun de nous et qu'ils font leur beurre avec ça.

[Sodium]

Les gens, nous, sommes violents, à l'image de notre société.
Autant que ça sorte dans un fil de discussion, c'est comme se mettre à gueuler sur les passants depuis une fenêtre, ça ne porte pas à conséquence.

Je dirais plutôt qu'on est dans une situation de discussion de comptoir.
Les gens vivent avec un filtre permanent qu'ils ne désactivent qu'en petit comité ou lorsqu'ils pensent être anonymes.

[MikeRowSoft]

Matthieu Vergne > Tout ceci ressemble furieusement au système mis en place par linuxfr.
Bien que le système cache les commentaires impopulaires. Les nouveaux membres sont systématiquement cachés. Ce n'est pas très accueillant d'être traité comme un malpropre sous prétexte d'être un inconnu.
Malgré tout, ce système fonctionne pas trop mal sur Linuxfr composé de membres relativement civilisés. Mais je doute de son efficacité sur des sites un peu plus hostiles. JV.com serait composé intégralement de messages cachés de part le caractère abruti des membres.

NON?! Sans blague, sa je savais pas... C'est une variante de modération donc. Un peu comme l'indice de luminosité que les smartphones on en prédéfini sans se soucié de si cela convient à l'usagé qui l'a acheté. Vraiment du beau boulot...

l'anonymat est requis.

S.A.R.L.? S.A.? En suite il forme des équipes sous forme de nom d'entreprise, même l'artisanat est dans se cas. Comme sa seul le non de l'entreprise est cité et si ils ont pas compris ils ont qu'a commencer par chercher les fautifs dans leurs rangs.

Sa devrait être pareil pour les divers type de passerelle Internet dédié à l'information et à la communication.

[imikado]

Juste une précision: quand on parle d'anonyma, on parle de pseudo ou de total anonyma ?

Car je distingue une personne qui s'incrit sur un site via un pseudo pour poster, d'une personne qui n'inscrit aucune information.. pour poster un message

Le premier pour moi est moins anonyme dans la mesure ou l'on peut comparer ses autres posts pour voir si ils sont dans la même veine

Mais je suis d'accord en tout cas pour dire que lorsque l'on poste sous son nom personnel, on fait plus attention à ce que l'on dit car cela peut etre retenu contre nous (recherche d'embauche...)
Donc le fait d'enlever cet anonyma contribuerai a une modération mécanique

Pour la modération, comme sur certains forums (idem ici) qui vise à donner des -1 / +1 à des posts ce n'est pas vraiment de la modération mais plus de la discussion avec certains -1 attribué par des personnes "juste" en désacord avec un autre post

Mais pour la modération, il faudrait comme ici,un bouton "signaler ce post" avec le commentaire indiquant pourquoi (propos haineux,raciste...) afin d'avoir mieux qu'un robot une modération par la communauté qui est assez simple: au bout de N "signaler ce commentaire", ça tombe dans la bannette d'un modo, ça filtre deja pas mal

[athlon64]

Bonjour,

je pense que c'est un choix de société à faire selon les populations, mais aussi selon les sites il n'y a pas de choix universel. Les commentaires ne naissent pas ex-nihilo, ils sont la manifestation et l'expression publique des individus d'une ou plusieurs sociétés réelles.

On peut d’abord commencer par se poser la question de savoir qu'est ce qu'un commentaire violent ?

J'éclaircis : lorsque Air France-KLM annonce un projet de plus de 2000 licenciements alors que son bénéfice net de ce troisième trimestre atteint 480 millions d’euros(elle a ses raisons...), mais pour le salarié de base d'Air France,
ces déclarations sont d'une violence accrue. En les apprenant il a dû recevoir un choc, si ce salarié se rend sur un forum et déclare "les dirigeants d'Air France-KLM sont des enfoirés". On fait quoi ?
On lui ferme sa gueule en supprimant son commentaire ?


-je pense que chaque site est responsable du niveau de liberté d'expression qu'il autorise sur son site. Il est aussi libre de choisir de modérer son site par des algorithmes ou/et avec des modérateurs humains. On pourra même en fonction des notes d'un internaute lui accorder un pouvoir de modération relatif à son nombre de point. Ainsi un commentaire ayant reçu un nombre d'avertissement de membres bien notés pourrait être suspendu ou effacé(modération collaborative).

-En fonction de la société dans laquelle on vit, un commentaire peut paraître agressif ou violent (sexualité, armes à feu, religions, ...). Or internet est global à toute la planète... La modération n'est donc pas aisée.


-Chaque pays détermine ses lois et pour qu'elles s'appliquent il faudrait bien évidemment faciliter l'identification des internautes au pouvoir législatif seulement en cas d'infraction flagrante (appel au meurtre, au viol, etc). Cela évitera bon nombre de propos vraiment "violents" sur internet.

-Sur internet c'est comme dans la rue, quand on est bien éduqué et respecte les autres. Promouvoir l'éducation.

A mon avis les gros majors Google, Facebook etc vont peut être mettre à disposition des outils en intelligence artificielle pour aider les sites.

Le point cruciale qu'on oublie souvent avant de mettre en place des mesures est que, c'est une minorité qui est souvent à la base des ces actions néfastes, mais les solutions pour les contrer vont être mises en place et impacter tous !

[Excellion]

La censure n'est pas l'éducation.
Aucun logiciel, à plus forte raison linguistique, n'est fiable à 100 %, et une idée finie toujours par passer, fut-elle la pire de toute, il suffit de trouver le point faible du programme.
Il faut également dire que la législation n'est pas la même partout, et ce qui est illégal en France, ne l'est pas forcément aux Etats-Unis. Quand, ce n'est pas une différence entre crime et délit !

Enfin, il faut bien avouer qu'aujourd'hui la censure des grands quotidiens nationaux est moins destinée à supprimer des messages contrevenants à l'idée même d'humanité, que de les protéger d'éventuelles poursuites judiciaires (surtout diffamation), et même servir à des fins de propagande (tous les messages émettant des critiques contre tel ou tel acteur politique sont systématiquement rejetés)

[Squisqui]

NON?! Sans blague, sa je savais pas... C'est une variante de modération donc. Un peu comme l'indice de luminosité que les smartphones on en prédéfini sans se soucié de si cela convient à l'usagé qui l'a acheté. Vraiment du beau boulot...

Je ne sais pas comment réagir. Je n'ai strictement rien compris au message que tu as voulu faire passer. Le fait que je ne possède pas de smartphone n'aide pas non plus.

[pierre-y]

Bonjour,
Personnellement mon avis va aller dans l'autre sens étonnamment. Je suis pour une certaine modération c'est sur pour ceux qui te sorte insulte sur insulte sans rien apporté au débat, mais je préfère 100 fois voir des avis qui son tranché mais argumenté que l'espèce de censure d'état que l'on cherche a imposé petit a petit et qui rend toute discussion caduque. Les seul réponses toléré étant celle voulu par le système. Lobotomisé les gens a force de censure devrait être interdite aussi en clair.