3 pièce(s) jointe(s)
Perspective, l’IA de Google pour détecter les propos déplacés en ligne est bien loin d’être mature
Lutte contre les propos déplacés sur internet : Google développe une intelligence artificielle
disponible via une API pour détecter les propos « toxiques »
En septembre dernier, l’entité Jigsaw, propriété de Google, lançait une initiative mettant en œuvre l’intelligence artificielle pour bannir le harcèlement, les propos haineux, bref toutes formes de propos non appropriés en ligne. Hier, dans le cadre de cette initiative, l'annonce a été faite par Jigsaw et ses partenaires de la mise à disposition du grand public d’une API dénommée Perspective.
Le rôle de Perspective est de permettre d’attribuer à un texte un score de toxicité, vous l’aurez deviné, il s’agit d’intelligence artificielle. Perspective a été entraînée en utilisant des commentaires de Wikipédia, du New York Times et d’autres médias partenaires.
« Voter pour (Pouce levé), voter contre (Pouce renversé), désactiver les commentaires ou modérer manuellement. Voilà les options qui s’offraient aux modérateurs. Désormais ils ont une nouvelle option : ajouter de l’intelligence dans la prise en compte des commentaires et s’en servir pour mieux modérer les débats au sein de leurs communautés » s’est exprimé CJ Adams, responsable des applications d’intelligence artificielle appliquées aux conversations, apportant ainsi une précision supplémentaire sur le rôle de Perspective.
Une interface de test de l’API est disponible à cette adresse. J’y ai personnellement été pour pouvoir vous offrir ces copies d’écran avant que vous ne vous y rendiez pour faire le test par vous-même :
Les résultats sont ceux que vous pouvez voir comme moi : 5 %, 34 % et 95 % de toxicité respectivement. Le cas des deux dernières copies est le plus frappant, une disparité énorme entre les pourcentages pour le même mot (stupide/stupid), preuve que l'API a encore des limites lorsqu'il s'agit d'évaluer la toxicité d'un texte en français.
Sources : Wired
Et vous ?
:fleche: Que pensez-vous de ces résultats ?
:fleche: S'agit-il selon vous d'un outil fiable ?
2 pièce(s) jointe(s)
Perspective, l’IA de Google pour détecter les propos déplacés en ligne est bien loin d’être mature
Perspective, l’IA de Google pour détecter les propos déplacés en ligne est bien loin d’être mature
des chercheurs mettent en évidence ses lacunes
Dans le cadre de la lutte contre les propos haineux ou déplacés en ligne, Google a récemment annoncé une intelligence artificielle, baptisée Perspective, qui permet via une API de détecter les propos « toxiques ». Nous avons toutefois constaté que Perspective n’est pour le moment pas bonne à attribuer un score de toxicité fiable à du contenu rédigé en langue française. L’application occupe actuellement le centre des débats dans les milieux où elle est censée apporter la solution au problème des propos déplacés en ligne. C’est fort de cela que des chercheurs de l’université de Washington (UW) se sont penchés avec attention sur ce cas. Ils n’ont pas manqué d’apporter des éléments nouveaux à ce que nous avions déjà commencé à tracer comme pistes de réflexion. Il ressort de leurs travaux qu’un texte « toxique » rédigé en langue anglaise peut passer les mailles du filet à condition d’être correctement travaillé.
D’après Radha Poovendran, Hossein Hosseini, Baosen Zhang et Sreeram Kannan de l’UW, les systèmes d’intelligence artificielle ont en commun un talon d’Achille : un choix approprié d’une entrée dite perturbatrice permet de « prendre le contrôle » du résultat obtenu. D’après leurs développements, Perspective n’aurait pas été suffisamment entrainé à prendre en compte ce type d’entrées, ce qui conduit aux résultats qu’ils ont rendus publics sur le site de l’université de Washington. Deux constats majeurs :
- L’insertion de ponctuation/la modification d’orthographe dans du contenu rédigé en langue anglaise permet de réduire drastiquement le score de toxicité attribué.
- La négation d’une phrase toxique ne reçoit pas le score adéquat qui, en principe, devrait être bas.
De toutes évidences, Perspective s’avère être une application embryonnaire. Elle requiert encore beaucoup d’améliorations. Les équipes de Google ont cependant des pistes de réflexion qui leur ont été tracées par notre équipe de chercheurs de l’UW. Elles sont bien évidemment basées sur les failles répertoriées ci-dessus. Il s'agira pour les équipes de Google de : intégrer un vérificateur orthographique en amont du module d’IA et faire usage d'un nombre plus important d’entrées perturbatrices pour entrainer le système.
Source: UW
Et vous ?
:fleche: Qu'en pensez-vous ?
Voir aussi :
:fleche: L'agence des services frontaliers du Canada teste une intelligence artificielle, pour détecter les mensonges des voyageurs
:fleche: MogAI : une intelligence artificielle avait prédit avec précision la victoire de Trump, deux semaines avant l'annonce des résultats
