Discussion :

[Christian Olivier]

Google permet désormais à des partenaires de signaler les contenus choquants ou offensants
dans ses résultats de recherche

Google a décidé de suivre une nouvelle politique de filtrage des informations qui transitent sur ses serveurs. La firme américaine souhaite s'attaquer aux propos à caractère discriminatoire, haineux ainsi qu'à la publication d'informations fausses. C'est dans ce but qu'elle travaille en collaboration avec des milliers de sous-traitants et de modérateurs venant des quatre coins de la planète afin d'analyser et d'affiner ses résultats de recherche. Google a mis à leur disposition un bouton « Upsetting - Offensive » pour leur permettre de signaler tous les résultats de recherche qui correspondent aux types de données qu'il veut faire disparaître.

Les critères d'évaluation

La nouvelle ambition de Google est de filtrer les informations à caractère discriminatoire, haineux et la publication d'informations fausses. Cette volonté est matérialisée par la mise en place d'une série de règles qui sont destinées à être testées pendant les opérations d'évaluation. Les informations de propagande encourageant l'incitation à la haine, le racisme, l'antisémitisme, l'islamisme, le harcèlement en ligne, la violence en ligne, la suprématie blanche et le nazisme seront les cibles privilégiées de cette opération. Grâce à ces règles, les modérateurs pourront séparer le bon grain du mauvais et préparer la relève technologique. Dans un guide dédié à ses partenaires, Google donne des exemples pour montrer dans quels cas il faudrait signaler ou non un contenu.

Préparer Perspective, l’IA de Google pour la détection de propos « toxiques » en ligne

L'objectif de cette opération, c'est de préparer le nouveau dispositif en ligne de détection des commentaires toxiques de Google. Cet outil de modération contrôlé par une IA maison de Google a déjà été évoqué dans nos articles précédents. Elle porte le nom de Perspective. Son rôle sera de bloquer la diffusion des contenus qui ne respectent pas les nouvelles dispositions éthiques et morales éditées par Google, et favoriser la publication de commentaires et de discussions "propres" sur les plateformes. Le logiciel effectuera une vérification des commentaires en leur attribuant une note de 1 à 100 par ordre de gravité (bon commentaire contre commentaire inacceptable). Les utilisateurs pourront même être avertis que leur commentaire est inapproprié et susceptible d'être supprimé s'ils ne le modifient pas. Sur le long terme, tout cela devrait faciliter le travail des modérateurs de sites, permettre à l'algorithme de traitement d'être plus efficace et pertinent dans ses choix. Tout ceci dans l'espoir de rendre internet et ses internautes plus sains.


Sources : Search Engine Land, Le Figaro

Et vous ?

Qu'en pensez-vous ?
Y voyez-vous une restriction de la liberté d'expression sur internet ?
Quelles sont les limites de ce système ?

Voir aussi

Perspective, l'IA de Google pour détecter les propos déplacés en ligne est bien loin d'être mature, des chercheurs mettent en évidence ses lacunes

[Namica]

Ben, initiative louable (qui permet d'encore plus vous cibler) mais aussi une nouvelle surface d'attaque pour alimenter la censure ?

[Aurelien Plazzotta]

Bienvenue dans la nouvelle chasse aux sorcières 2.0. Les bien-pensants et faux-sensibles vont se réjouir.
Ce mécanisme d'obscurantisme s'appelle la logique uniformisante.

[Orionos]

Bof comme initiative.
J'attends d'un moteur de recherche qu'il me sorte des résultats cohérents par rapport à ma recherche, pas qu'il me filtre tout ce qui n'est pas politiquement correct.
Je me repose sur mon esprit critique pour faire la différence. Me reposer sur Google pour définir ce qu'est "l'éthique" ? Ça ne me plait pas.
A contrario, je salue les initiatives sur le sujet (fake news) de Facebook. Entre les deux services, ce n'est pas le même usage, et j'ai l'impression qu'un fil Facebook c'est minimum 80% de fake news, alors que fakes ou des pages offensantes sur Google, j'en vois peu.

[hotcryx]

Ces algorythmes n'iront que dans un sens: fliquer les gens, mais jamais ils ne fliqueront les médias publics.

Tout cela me fait penser que ce n'est qu'un manque d'argent à gagner

Est-ce l'algorythme va remettre en question tel et tel article de L'Immonde parût quelques jours ou quelques mois plus tôt? non jamais.
Et pourtant ils ont écrit de gros mensonges comme leurs potes du NYT...

On ne peut remettre leurs paroles en doute et pourtant, ce ne sont pas les journalistes de L'Immonde qui ont tous été bannis de Wikipedia pour des informations fausses?!