Discussion :

[Michael Guilloux]

Des scientifiques développent un programme pour détecter les comportements antisociaux dans les discussions en ligne
Quel est le profil d’un utilisateur à bannir

Sur developpez.com et dans toutes les autres communautés en ligne, la contribution des utilisateurs des quatre points du globe est d’une importance capitale pour la réussite du site. Les contributions sont diverses et viennent sous la forme de messages, de commentaires, de votes, et même de partages sur les réseaux sociaux.

Si la participation des internautes est primordiale, il est toutefois important pour le site de mettre en place un système de modération pour pouvoir réguler certains comportements indésirables qui s’invitent parfois dans les discussions en ligne. Les modérateurs dans leurs actions peuvent être emmenés à supprimer des messages de certains utilisateurs et parfois bannir ces derniers de la communauté lorsqu’ils adoptent régulièrement des comportements antisociaux lors des discussions. Cela passe donc d’abord par un suivi minutieux des discussions afin de détecter rapidement les infractions.

La détection des comportements antisociaux tels que les trolls étant manuelle, certaines infractions peuvent être tardivement identifiées. Un programme de détection automatique serait donc d’un apport considérable à la modération. C’est l’objectif que se sont fixé des chercheurs de Cornell University dans une étude financée en partie par Google : élaborer un programme de détection des utilisateurs à comportements antisociaux dès le début dans la communauté en ligne.

Pour leur étude, ces chercheurs ont examiné trois grandes communautés dont le site d’actualité générale CNN.com, le site d’actualité politique Breitbart.com, et le site de jeux d’ordinateur IGN.com. Sur ces sites, ils ont pu analyser les activités de 1,7 million d’utilisateurs sur plus de 18 mois, traduites par près de 40 millions de posts et plus de 100 millions de votes. Sur la période, ils ont comparé le comportement des utilisateurs qui ont été bannis (FBU) à celui des utilisateurs qui n’ont jamais été bannis (NBU).

Selon leur analyse, les utilisateurs à comportements antisociaux sur un forum « ont tendance à concentrer leurs efforts sur un petit nombre de threads, sont plus susceptibles de poster des propos sans rapport avec le sujet, et ont du succès à récolter les réponses des autres utilisateurs. » Indique le rapport de l’étude.

L’étude montre également que ces derniers ne partagent généralement pas l’opinion générale et leurs messages sont difficiles à comprendre ; leur langage caractérisé par des termes négatifs et des jurons est également susceptible de générer des conflits lors des discussions.

Les chercheurs révèlent qu’il y a deux groupes d’utilisateurs antisociaux. Le premier comprend les utilisateurs dont le comportement est inné. Pour le second groupe, il s’agit d’utilisateurs qui se sont vus sanctionnés dès leur début dans la communauté. Cela les incite à devenir pires qu’avant. Le rapport indique encore que les communautés immédiatement intolérantes sont également plus susceptibles de favoriser les trolls. Quant à celles qui semblent plus tolérantes au départ, elles deviennent de plus en plus sévères envers ces utilisateurs même quand ils améliorent leurs écrits :

« Les communautés peuvent jouer un rôle dans l'incubation de comportement antisocial. En fait, les utilisateurs qui sont censurés trop tôt dans leur vie sont plus susceptibles de manifester un comportement antisocial plus tard. En outre, alors que les communautés semblent initialement pardonner (et sont relativement lentes à interdire ces utilisateurs antisociaux), elles deviennent moins tolérantes envers ces utilisateurs plus ils restent dans une communauté. Il en résulte une augmentation du taux auquel leurs posts sont supprimés, même après ajustement de la qualité du post »

Les chercheurs affirment qu’en se basant sur divers aspects du comportement antisocial - tels que le contenu du message, l'activité de l'utilisateur, la réponse de la communauté, et les actions des modérateurs de la communauté – ils sont en mesure de prédire si un utilisateur sera interdit plus tard avec une précision de plus de 80% selon le critère ASC. Autrement dit, au plus 1 utilisateur sur 5 a été mal classé par leur système d’analyse. Ils disent également que leur système est capable de détecter un utilisateur antisocial à partir de 5 à 10 posts de ce dernier.

Source : Antisocial Behavior in Online Discussion Communities (pdf)

Et vous ?

Qu’en pensez-vous ?

[yahiko]

Toute proportion gardée, je ne peux m'empêcher de penser à Minority Report.

[Zefling]

Ça n'a un peu rien à avoir avec Minority Report, là c'est juste de la prédiction comportemental basé sur le comportement actuel et passé avec un groupe donné.

C'est vrai que des fois ça m'aurait été bien pratique. Il y a des gens super bizarre sur la toile.

[TiranusKBX]

enfin ça revient à faire une surveillance globalisée et automatisée, il ne veulent pas postuler pour la NSA ?

[JackJnr]

enfin ça revient à faire une surveillance globalisée et automatisée, il ne veulent pas postuler pour la NSA ?

T'abuses un peu quand même. Tu serais pas en train de troller justement

[yahiko]

Ça n'a un peu rien à avoir avec Minority Report, là c'est juste de la prédiction comportemental basé sur le comportement actuel et passé avec un groupe donné.

Personnellement, ça me suffit pour me faire penser à Minority Report et au principe de la suspicion voire culpabilité à priori.

[JackJnr]

Oui en effet. D'un autre côté je trouve intéressant le comportement communautaire et son influence sur le développement des trolls.

[pcaboche]

enfin ça revient à faire une surveillance globalisée et automatisée, il ne veulent pas postuler pour la NSA ?

Avant de pouvoir postuler, on leur a demandé de faire un stage avec comme sujet : "implémentation d'un programme de détection des comportements antisociaux en ligne"...

Les modérateurs dans leurs actions peuvent être emmenés à supprimer des messages...

Ils ont été emmenés ? Mais emmenés où ? À "supprimer-des-messages" ? Jamais entendu parler de cette ville...

Est-ce qu'ils ont été emmenés de force ? Si oui, est-ce que cette acte ignoble a été revendiqué et est-ce que les preneurs d'otages ont fait connaître leurs intentions ?

[Tryph]

les utilisateurs à comportements antisociaux sur un forum « ont tendance à concentrer leurs efforts sur un petit nombre de threads, sont plus susceptibles de poster des propos sans rapport avec le sujet, et ont du succès à récolter les réponses des autres utilisateurs. » Indique le rapport de l’étude.

L’étude montre également que ces derniers ne partagent généralement pas l’opinion générale et leurs messages sont difficiles à comprendre ; leur langage caractérisé par des termes négatifs et des jurons est également susceptible de générer des conflits lors des discussions.

ça me parait assez juste. il me semble bien avoir pu vérifier ça sur ce forum et sur d'autres.

[Paul TOTH]

ça me parait assez juste. il me semble bien avoir pu vérifier ça sur ce forum et sur d'autres.

intéressant, quand ton avis diverge de la majorité, tu es antisocial... oui je sais c'est un raccourci, mais encore faut-il que la "boîte noire" (comme celle que 30 députés - sur les 577 qui comporte l'assemblée nationale - vient de valider pour espionner nos connexions Internet) soit suffisamment intelligente pour faire la distinction.

[Zefling]

intéressant, quand ton avis diverge de la majorité, tu es antisocial... oui je sais c'est un raccourci, mais encore faut-il que la "boîte noire" (comme celle que 30 députés - sur les 577 qui comporte l'assemblée nationale - vient de valider pour espionner nos connexions Internet) soit suffisamment intelligente pour faire la distinction.

Comment on peut accepter que 30 / 577 soit suffisant pour valider quoi que ce soit à l'assemblée.

[Paul TOTH]

Comment on peut accepter que 30 / 577 soit suffisant pour valider quoi que ce soit à l'assemblée.

25/30 ont dit oui, 547 étaient absents (94.8% !)...qu'ils viennent nous parler d'abstentionnisme aux prochaines élections tient !

[Chauve souris]

intéressant, quand ton avis diverge de la majorité, tu es antisocial...

Classique sur bien des forums aussi j'y participe de moins en moins n'ayant aucun goût pour le masochisme. Par exemple sur développez.com j'ai commis l'hérésie de critiquer les PC portables inutiles à 90 % dans leur fonction de mobilité, ultra propriétaires (donc à jeter s'il y a un écran ou un clavier qui ne fonctionne plus), peu performants (sinon ils chaufferaient trop) et d'une obsolescence programmée (la CM dégage souvent au bout d'un an et demi). Mais que la publicité envahissante et conditionnante ne savait que montrer des couples réjouis avec leur portable sur les genoux sur le canapé du salon. Propos donc essentiellement techniques avec un peu de sociologie. Ca m'a valu des insultes. Bon ça va comme ça. Tchao. Ce présent post sera l'unique exception que je me suis donnée : ne plus intervenir dans les forums.

[yahiko]

Au lieu de critiquer les PC portables, tu devrais m'aider à critiquer les langages C (un dinosaure), Java (une anomalie), Ada (un empêcheur de coder), et bien d'autres.

[NSKis]

Extraordinaire!!! On va même réussir à "fliquer" les forum...

Chers commentateurs, dépêchez-vous de donner votre avis sur ce site... avant que Madame Censure vienne remettre en question votre liberté de pensée, votre liberté de vous exprimer... Et pourquoi pas votre liberté de vivre!!!

J'ai une pensée pour ce blogeur d'Arabie Saoudite condamné à des milliers de coups de bâton sur la place publique parce qu'il a critiqué le pouvoir de son pays... Après avoir reçu la 1ère série de coups de bâton, les cessions hebdomadaires suivantes ont due être reportées parce que la santé physique du condamné ne lui permettait plus de supporter une nouvelle scéance de châtiment.


En ce qui me concerne, je considère que:

1. La notion de Troll est subjective et toute relative (Troll pour les uns pas pour les autres)

2. Le message du Troll rend aussi les discussions plus vivantes (le jour où il n'y aura que des messages politiquement corrects, il ne sera plus nécessaire d'avoir des forum puisque tous les commentaires seront formatés et diront la même chose)

3. La définition même du mot "forum" est d'être "un espace de discussion publique"

Qui plus est, de quel droit un obscur universitaire s'abrogerait le droit de décider ce qui est ou n'est pas le bienvenu sur un forum???

[pmithrandir]

Le potentiel de ce système est assez fort..

On pourrait faire beaucoup de prévention quand on y pense... au bout de 20 messages, et puis régulièrement, on recevrai des alertes expliquant qu'on est plus ou moins corrects, et nous incitant à changer avant que la communauté ne s'en rendent compte(ce qui nous donnerait plus de chance de garder les discussions de bonnes qualités)
On pourrait aussi imaginer de répartir les utilisateurs dans des groupes en fonction de leur comportement général, ce qui pourrait aider les modérateur a juger de la pertinence ou pas de la suppression d'un post. Un mec détecte qui fait un post merdique serait sanctionné rapidement, un autre aurait plus de clémence.
On pourrait même imaginer mettre en place une modération automatique qui désactiverait les posts plus facilement quand les autres utilisateurs les signalent, ssi la personne a été pré sélectionné par ce type de programme.

Quand on voit le nombre de projet avorté sur le net juste parce que des troll s'en sont mêlés... c'est triste.

En tout cas, je pense que si cet algo était publié sous forme de binaire ou pret à l'emploi, il connaitrait un grand succès.

[ZenZiTone]

Extraordinaire!!! On va même réussir à "fliquer" les forum...

Qui plus est, de quel droit un obscur universitaire s'abrogerait le droit de décider ce qui est ou n'est pas le bienvenu sur un forum???

Je dirais que c'est pire que fliquer. C'est le genre d'outil qui pourrait permettre de "supprimer" certains internautes suivant leurs pensées. La confrontation d'idées serait donc gravement biaisée.

En revanche, le projet en lui-même doit être super intéressant à développer

Bon alors commençons par une question bien épineuse. Qu'est ce qu'un comportement antisocial?
Si cela consiste à casser des logiques d'entre-soi et de chercher parfois à jouer cartes sur table, voire à avoir des opinions déviantes vis à vis de la doxa, bien que construites et justifiées, alors je suis quelqu'un qui devrait être banni de ce forum si je comprends bien. C'est bien dommage, mais pourtant on tend à oublier un élément qui a changé la face de la justice: la présomption d'innocence. Ce que propose cet algorithme, c'est un délit de faciès et d'opinion généralisé. Alors je ne parlerais pas vraiment de Minority Report, mais plutôt de Big Brother.

Tel que présenté dans la news, il s’agirait plutôt de bannir les comportements ayant des impacts négatifs sur le débat. Les trolls excessifs (je précise excessif car des fois les trolls permettent de refroidir les ardeurs d'un débat, ou juste faire sourire en prenant volontairement le sujet à contresens) ou les messages graves (messages automatiques n'ayant aucun lien avec le sujet mais visant à heurter quelqu'un, etc).

J'ose espérer que les points de vues ne sont pas pris en compte.

[Traroth2]

L'étude est intéressante, surtout la partie sur la communauté rejetant progressivement des gens, même quand leur comportement s'est amélioré.

Sinon, il y a quand même deux trucs très bizarres :

-La partie qui que les posteurs problématiques "ont du succès à récolter les réponses des autres utilisateurs". En gros, il faut privilégier les gens qui ne postent que des messages auxquels personne ne répond. Je sens que les forums risquent de devenir des endroits absolument passionnants, si on suit cette tendance. Une prime au post sans intérêt, il fallait y penser...

-Et j'aime encore plus ça : "L’étude montre également que ces derniers ne partagent généralement pas l’opinion générale". C'est un véritable appel au conformisme !

[RyzenOC]

Sa ne peut pas marcher car:

Une machine ne peut faire justice elle même, il y'a trop de variable a prendre en compte, par exemple supposons que je balance un troll drole, que j'ai +20, on me banni ?, on me donne un avertissent ?

Comment savoir si c'est un troll ou si c'est une vérité ?

Je dis que IE6 c'est de la merde, c'est un troll ou c'est la vérité ?, dois-je être sanctionner pour cela car la machine croira a un troll.

La machine peut juste faire détecter des anomlie dans le comportement et envoyer une demmande aux juges (les moderateurs) qui seul peuvent prendre la bonne décision.

[Paul TOTH]

Sa ne peut pas marcher car:

Une machine ne peut faire justice elle même, il y'a trop de variable a prendre en compte, par exemple supposons que je balance un troll drole, que j'ai +20, on me banni ?, on me donne un avertissent ?

Comment savoir si c'est un troll ou si c'est une vérité ?

Je dis que IE6 c'est de la merde, c'est un troll ou c'est la vérité ?, dois-je être sanctionner pour cela car la machine croira a un troll.

La machine peut juste faire détecter des anomlie dans le comportement et envoyer une demmande aux juges (les moderateurs) qui seul peuvent prendre la bonne décision.

pourtant il y a des tas de gens qui utilisent des antivirus, des filtres antispams, etc...ce sont bien des programmes qui décident du bien fondé d'un autre alors même que les virus et pubs font leur possible pour passer au travers des mailles du filet.