Discussion :

[Michael Guilloux]

Des scientifiques développent un programme pour détecter les comportements antisociaux dans les discussions en ligne
Quel est le profil d’un utilisateur à bannir

Sur developpez.com et dans toutes les autres communautés en ligne, la contribution des utilisateurs des quatre points du globe est d’une importance capitale pour la réussite du site. Les contributions sont diverses et viennent sous la forme de messages, de commentaires, de votes, et même de partages sur les réseaux sociaux.

Si la participation des internautes est primordiale, il est toutefois important pour le site de mettre en place un système de modération pour pouvoir réguler certains comportements indésirables qui s’invitent parfois dans les discussions en ligne. Les modérateurs dans leurs actions peuvent être emmenés à supprimer des messages de certains utilisateurs et parfois bannir ces derniers de la communauté lorsqu’ils adoptent régulièrement des comportements antisociaux lors des discussions. Cela passe donc d’abord par un suivi minutieux des discussions afin de détecter rapidement les infractions.

La détection des comportements antisociaux tels que les trolls étant manuelle, certaines infractions peuvent être tardivement identifiées. Un programme de détection automatique serait donc d’un apport considérable à la modération. C’est l’objectif que se sont fixé des chercheurs de Cornell University dans une étude financée en partie par Google : élaborer un programme de détection des utilisateurs à comportements antisociaux dès le début dans la communauté en ligne.

Pour leur étude, ces chercheurs ont examiné trois grandes communautés dont le site d’actualité générale CNN.com, le site d’actualité politique Breitbart.com, et le site de jeux d’ordinateur IGN.com. Sur ces sites, ils ont pu analyser les activités de 1,7 million d’utilisateurs sur plus de 18 mois, traduites par près de 40 millions de posts et plus de 100 millions de votes. Sur la période, ils ont comparé le comportement des utilisateurs qui ont été bannis (FBU) à celui des utilisateurs qui n’ont jamais été bannis (NBU).

Selon leur analyse, les utilisateurs à comportements antisociaux sur un forum « ont tendance à concentrer leurs efforts sur un petit nombre de threads, sont plus susceptibles de poster des propos sans rapport avec le sujet, et ont du succès à récolter les réponses des autres utilisateurs. » Indique le rapport de l’étude.

L’étude montre également que ces derniers ne partagent généralement pas l’opinion générale et leurs messages sont difficiles à comprendre ; leur langage caractérisé par des termes négatifs et des jurons est également susceptible de générer des conflits lors des discussions.

Les chercheurs révèlent qu’il y a deux groupes d’utilisateurs antisociaux. Le premier comprend les utilisateurs dont le comportement est inné. Pour le second groupe, il s’agit d’utilisateurs qui se sont vus sanctionnés dès leur début dans la communauté. Cela les incite à devenir pires qu’avant. Le rapport indique encore que les communautés immédiatement intolérantes sont également plus susceptibles de favoriser les trolls. Quant à celles qui semblent plus tolérantes au départ, elles deviennent de plus en plus sévères envers ces utilisateurs même quand ils améliorent leurs écrits :

« Les communautés peuvent jouer un rôle dans l'incubation de comportement antisocial. En fait, les utilisateurs qui sont censurés trop tôt dans leur vie sont plus susceptibles de manifester un comportement antisocial plus tard. En outre, alors que les communautés semblent initialement pardonner (et sont relativement lentes à interdire ces utilisateurs antisociaux), elles deviennent moins tolérantes envers ces utilisateurs plus ils restent dans une communauté. Il en résulte une augmentation du taux auquel leurs posts sont supprimés, même après ajustement de la qualité du post »

Les chercheurs affirment qu’en se basant sur divers aspects du comportement antisocial - tels que le contenu du message, l'activité de l'utilisateur, la réponse de la communauté, et les actions des modérateurs de la communauté – ils sont en mesure de prédire si un utilisateur sera interdit plus tard avec une précision de plus de 80% selon le critère ASC. Autrement dit, au plus 1 utilisateur sur 5 a été mal classé par leur système d’analyse. Ils disent également que leur système est capable de détecter un utilisateur antisocial à partir de 5 à 10 posts de ce dernier.

Source : Antisocial Behavior in Online Discussion Communities (pdf)

Et vous ?

Qu’en pensez-vous ?

[yahiko]

Toute proportion gardée, je ne peux m'empêcher de penser à Minority Report.

[Zefling]

Ça n'a un peu rien à avoir avec Minority Report, là c'est juste de la prédiction comportemental basé sur le comportement actuel et passé avec un groupe donné.

C'est vrai que des fois ça m'aurait été bien pratique. Il y a des gens super bizarre sur la toile.

[JackJnr]

Oui en effet. D'un autre côté je trouve intéressant le comportement communautaire et son influence sur le développement des trolls.

[TiranusKBX]

enfin ça revient à faire une surveillance globalisée et automatisée, il ne veulent pas postuler pour la NSA ?

[yahiko]

Ça n'a un peu rien à avoir avec Minority Report, là c'est juste de la prédiction comportemental basé sur le comportement actuel et passé avec un groupe donné.

Personnellement, ça me suffit pour me faire penser à Minority Report et au principe de la suspicion voire culpabilité à priori.

[JackJnr]

enfin ça revient à faire une surveillance globalisée et automatisée, il ne veulent pas postuler pour la NSA ?

T'abuses un peu quand même. Tu serais pas en train de troller justement

[pcaboche]

enfin ça revient à faire une surveillance globalisée et automatisée, il ne veulent pas postuler pour la NSA ?

Avant de pouvoir postuler, on leur a demandé de faire un stage avec comme sujet : "implémentation d'un programme de détection des comportements antisociaux en ligne"...

Les modérateurs dans leurs actions peuvent être emmenés à supprimer des messages...

Ils ont été emmenés ? Mais emmenés où ? À "supprimer-des-messages" ? Jamais entendu parler de cette ville...

Est-ce qu'ils ont été emmenés de force ? Si oui, est-ce que cette acte ignoble a été revendiqué et est-ce que les preneurs d'otages ont fait connaître leurs intentions ?

[Tryph]

les utilisateurs à comportements antisociaux sur un forum « ont tendance à concentrer leurs efforts sur un petit nombre de threads, sont plus susceptibles de poster des propos sans rapport avec le sujet, et ont du succès à récolter les réponses des autres utilisateurs. » Indique le rapport de l’étude.

L’étude montre également que ces derniers ne partagent généralement pas l’opinion générale et leurs messages sont difficiles à comprendre ; leur langage caractérisé par des termes négatifs et des jurons est également susceptible de générer des conflits lors des discussions.

ça me parait assez juste. il me semble bien avoir pu vérifier ça sur ce forum et sur d'autres.

[Paul TOTH]

ça me parait assez juste. il me semble bien avoir pu vérifier ça sur ce forum et sur d'autres.

intéressant, quand ton avis diverge de la majorité, tu es antisocial... oui je sais c'est un raccourci, mais encore faut-il que la "boîte noire" (comme celle que 30 députés - sur les 577 qui comporte l'assemblée nationale - vient de valider pour espionner nos connexions Internet) soit suffisamment intelligente pour faire la distinction.

[NSKis]

Extraordinaire!!! On va même réussir à "fliquer" les forum...

Chers commentateurs, dépêchez-vous de donner votre avis sur ce site... avant que Madame Censure vienne remettre en question votre liberté de pensée, votre liberté de vous exprimer... Et pourquoi pas votre liberté de vivre!!!

J'ai une pensée pour ce blogeur d'Arabie Saoudite condamné à des milliers de coups de bâton sur la place publique parce qu'il a critiqué le pouvoir de son pays... Après avoir reçu la 1ère série de coups de bâton, les cessions hebdomadaires suivantes ont due être reportées parce que la santé physique du condamné ne lui permettait plus de supporter une nouvelle scéance de châtiment.


En ce qui me concerne, je considère que:

1. La notion de Troll est subjective et toute relative (Troll pour les uns pas pour les autres)

2. Le message du Troll rend aussi les discussions plus vivantes (le jour où il n'y aura que des messages politiquement corrects, il ne sera plus nécessaire d'avoir des forum puisque tous les commentaires seront formatés et diront la même chose)

3. La définition même du mot "forum" est d'être "un espace de discussion publique"

Qui plus est, de quel droit un obscur universitaire s'abrogerait le droit de décider ce qui est ou n'est pas le bienvenu sur un forum???

[pmithrandir]

Le potentiel de ce système est assez fort..

On pourrait faire beaucoup de prévention quand on y pense... au bout de 20 messages, et puis régulièrement, on recevrai des alertes expliquant qu'on est plus ou moins corrects, et nous incitant à changer avant que la communauté ne s'en rendent compte(ce qui nous donnerait plus de chance de garder les discussions de bonnes qualités)
On pourrait aussi imaginer de répartir les utilisateurs dans des groupes en fonction de leur comportement général, ce qui pourrait aider les modérateur a juger de la pertinence ou pas de la suppression d'un post. Un mec détecte qui fait un post merdique serait sanctionné rapidement, un autre aurait plus de clémence.
On pourrait même imaginer mettre en place une modération automatique qui désactiverait les posts plus facilement quand les autres utilisateurs les signalent, ssi la personne a été pré sélectionné par ce type de programme.

Quand on voit le nombre de projet avorté sur le net juste parce que des troll s'en sont mêlés... c'est triste.

En tout cas, je pense que si cet algo était publié sous forme de binaire ou pret à l'emploi, il connaitrait un grand succès.

[ZenZiTone]

Extraordinaire!!! On va même réussir à "fliquer" les forum...

Qui plus est, de quel droit un obscur universitaire s'abrogerait le droit de décider ce qui est ou n'est pas le bienvenu sur un forum???

Je dirais que c'est pire que fliquer. C'est le genre d'outil qui pourrait permettre de "supprimer" certains internautes suivant leurs pensées. La confrontation d'idées serait donc gravement biaisée.

En revanche, le projet en lui-même doit être super intéressant à développer

Bon alors commençons par une question bien épineuse. Qu'est ce qu'un comportement antisocial?
Si cela consiste à casser des logiques d'entre-soi et de chercher parfois à jouer cartes sur table, voire à avoir des opinions déviantes vis à vis de la doxa, bien que construites et justifiées, alors je suis quelqu'un qui devrait être banni de ce forum si je comprends bien. C'est bien dommage, mais pourtant on tend à oublier un élément qui a changé la face de la justice: la présomption d'innocence. Ce que propose cet algorithme, c'est un délit de faciès et d'opinion généralisé. Alors je ne parlerais pas vraiment de Minority Report, mais plutôt de Big Brother.

Tel que présenté dans la news, il s’agirait plutôt de bannir les comportements ayant des impacts négatifs sur le débat. Les trolls excessifs (je précise excessif car des fois les trolls permettent de refroidir les ardeurs d'un débat, ou juste faire sourire en prenant volontairement le sujet à contresens) ou les messages graves (messages automatiques n'ayant aucun lien avec le sujet mais visant à heurter quelqu'un, etc).

J'ose espérer que les points de vues ne sont pas pris en compte.

[Traroth2]

L'étude est intéressante, surtout la partie sur la communauté rejetant progressivement des gens, même quand leur comportement s'est amélioré.

Sinon, il y a quand même deux trucs très bizarres :

-La partie qui que les posteurs problématiques "ont du succès à récolter les réponses des autres utilisateurs". En gros, il faut privilégier les gens qui ne postent que des messages auxquels personne ne répond. Je sens que les forums risquent de devenir des endroits absolument passionnants, si on suit cette tendance. Une prime au post sans intérêt, il fallait y penser...

-Et j'aime encore plus ça : "L’étude montre également que ces derniers ne partagent généralement pas l’opinion générale". C'est un véritable appel au conformisme !

[Zefling]

intéressant, quand ton avis diverge de la majorité, tu es antisocial... oui je sais c'est un raccourci, mais encore faut-il que la "boîte noire" (comme celle que 30 députés - sur les 577 qui comporte l'assemblée nationale - vient de valider pour espionner nos connexions Internet) soit suffisamment intelligente pour faire la distinction.

Comment on peut accepter que 30 / 577 soit suffisant pour valider quoi que ce soit à l'assemblée.

[Paul TOTH]

Comment on peut accepter que 30 / 577 soit suffisant pour valider quoi que ce soit à l'assemblée.

25/30 ont dit oui, 547 étaient absents (94.8% !)...qu'ils viennent nous parler d'abstentionnisme aux prochaines élections tient !

[pcaboche]

25/30 ont dit oui, 547 étaient absents (94.8% !)...qu'ils viennent nous parler d'abstentionnisme aux prochaines élections tient !

Sauf qu'eux, en plus, ils sont payés pour voter (mais même s'ils ne votent pas, ils sont payés quand même...) et ils n'attendent pas 67 ans pour toucher leur retraite (confortable, qui plus est).

[Tryph]

intéressant, quand ton avis diverge de la majorité, tu es antisocial... oui je sais c'est un raccourci, mais encore faut-il que la "boîte noire" (comme celle que 30 députés - sur les 577 qui comporte l'assemblée nationale - vient de valider pour espionner nos connexions Internet) soit suffisamment intelligente pour faire la distinction.

c'est effectivement un gros raccourci.
l'étude ne dit pas que quand ton avis diverge c'est que tu es antisocial. elle dit simplement que les trolls sont souvent d'un avis différent de celui de la majorité.
ce qui veut dire qu'on peut quand même avoir un avis différent de la majorité sans être un troll et qu'on peut troller tout en étant du même avis que tout le monde.
et c'est bien avec ça que je suis d'accord, pas avec ton raccourci.

1. La notion de Troll est subjective et toute relative (Troll pour les uns pas pour les autres)

si tu penses ça, c'est peut être parce que tu as tendance à considérer comme troll celui qui est d'un avis différent du tien. et peut être même que beaucoup de personne partagent cette tendance (je sais pas). personellement je fais très bien la différence entre les 2 et j'arrive sans problème à repérer un troll de mon avis comme j'arrive à ne pas considérer chaque avis divergeant comme du troll.

2. Le message du Troll rend aussi les discussions plus vivantes (le jour où il n'y aura que des messages politiquement corrects, il ne sera plus nécessaire d'avoir des forum puisque tous les commentaires seront formatés et diront la même chose)

le fait de faire de l'humour n'est pas forcément du troll pour moi... l'humoriste cherche à faire sourire, le troll cherche à foutre la merde. on fait facilement la différence entre les 2 deux:
si on contre son intervention..
... l'humoriste ne répondra pas ou dira "c'est bon détends-toi, c'était de l'humour"
... le troll répondra 50 fois la même chose qui n'a bien souvent pas grand chose à voir avec le message auquel il répond
y a pas besoin de tous dire la même chose pour avoir une discussion calme, courtoise et respectueuse.

3. La définition même du mot "forum" est d'être "un espace de discussion publique"

très juste, raison de plus pour en ecarter ceux qui ne veulent pas discuter et empêcher les autres de discuter.

[Zefling]

Sauf qu'eux, en plus, ils sont payés pour voter (mais même s'ils ne votent pas, ils sont payés quand même...) et ils n'attendent pas 67 ans pour toucher leur retraite (confortable, qui plus est).

Ils sont indemnisés. Pour moi c'est pire. Il ne devrait touché aucune indemnités s'il ne font rien.

[NSKis]

c'est effectivement un gros raccourci.
l'étude ne dit pas que quand ton avis diverge c'est que tu es antisocial. elle dit simplement que les trolls sont souvent d'un avis différent de celui de la majorité.
ce qui veut dire qu'on peut quand même avoir un avis différent de la majorité sans être un troll et qu'on peut troller tout en étant du même avis que tout le monde.
et c'est bien avec ça que je suis d'accord, pas avec ton raccourci.


si tu penses ça, c'est peut être parce que tu as tendance à considérer comme troll celui qui est d'un avis différent du tien. et peut être même que beaucoup de personne partagent cette tendance (je sais pas). personellement je fais très bien la différence entre les 2 et j'arrive sans problème à repérer un troll de mon avis comme j'arrive à ne pas considérer chaque avis divergeant comme du troll.

le fait de faire de l'humour n'est pas forcément du troll pour moi... l'humoriste cherche à faire sourire, le troll cherche à foutre la merde. on fait facilement la différence entre les 2 deux:
si on contre son intervention..
... l'humoriste ne répondra pas ou dira "c'est bon détends-toi, c'était de l'humour"
... le troll répondra 50 fois la même chose qui n'a bien souvent pas grand chose à voir avec le message auquel il répond
y a pas besoin de tous dire la même chose pour avoir une discussion calme, courtoise et respectueuse.


très juste, raison de plus pour en ecarter ceux qui ne veulent pas discuter et empêcher les autres de discuter.

Dans ton commentaire, tu fais déjà preuve de subjectivité en disant savoir parfaitement faire la différence entre un vrai troll et un qui ne l'est pas!!! Tu sais faire la différence selon tes propres critères!!!

Et le problème se situe justement à ce niveau

Tu appliques tes critères pour toi-même en considérant que X ou Y est un Troll, c'est très bien! Tu en tires les conséquences: "c'est un troll, je ne discute pas avec ce mec".

Personnellement je ne désire pas que tes critères (ni ceux de quelqu'un d'autre qui m'est inconnu) s'appliquent à ma propre personne ni que tes critères de sélection censurent une partie de la discussion... Je suis adulte, vacciné et considère être suffisamment grand pour décider par moi-même de qui est ou n'est pas un Troll!!!

Si on applique cet algo de tri anti-Troll, un forum n'est plus un forum!!! Un forum est un lieu où tout le monde peut donner son avis... même les plus cons!

En cas de Troll avéré, liberté aux participants d'un forum de mettre sur la touche le Troll en ne répondant pas à ses interventions...