IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Conception Web Discussion :

Perspective, l’IA de Google pour détecter les propos déplacés en ligne est bien loin d’être mature


Sujet :

Conception Web

  1. #1
    Chroniqueur Actualités
    Avatar de Patrick Ruiz
    Homme Profil pro
    Redacteur web
    Inscrit en
    février 2017
    Messages
    1 219
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Redacteur web
    Secteur : Communication - Médias

    Informations forums :
    Inscription : février 2017
    Messages : 1 219
    Points : 36 883
    Points
    36 883
    Par défaut Perspective, l’IA de Google pour détecter les propos déplacés en ligne est bien loin d’être mature
    Lutte contre les propos déplacés sur internet : Google développe une intelligence artificielle
    disponible via une API pour détecter les propos « toxiques »

    En septembre dernier, l’entité Jigsaw, propriété de Google, lançait une initiative mettant en œuvre l’intelligence artificielle pour bannir le harcèlement, les propos haineux, bref toutes formes de propos non appropriés en ligne. Hier, dans le cadre de cette initiative, l'annonce a été faite par Jigsaw et ses partenaires de la mise à disposition du grand public d’une API dénommée Perspective.

    Le rôle de Perspective est de permettre d’attribuer à un texte un score de toxicité, vous l’aurez deviné, il s’agit d’intelligence artificielle. Perspective a été entraînée en utilisant des commentaires de Wikipédia, du New York Times et d’autres médias partenaires.

    « Voter pour (Pouce levé), voter contre (Pouce renversé), désactiver les commentaires ou modérer manuellement. Voilà les options qui s’offraient aux modérateurs. Désormais ils ont une nouvelle option : ajouter de l’intelligence dans la prise en compte des commentaires et s’en servir pour mieux modérer les débats au sein de leurs communautés » s’est exprimé CJ Adams, responsable des applications d’intelligence artificielle appliquées aux conversations, apportant ainsi une précision supplémentaire sur le rôle de Perspective.

    Une interface de test de l’API est disponible à cette adresse. J’y ai personnellement été pour pouvoir vous offrir ces copies d’écran avant que vous ne vous y rendiez pour faire le test par vous-même :


    Nom : jaime develoopez.JPG
Affichages : 1886
Taille : 8,8 Ko

    Nom : stupide.JPG
Affichages : 1798
Taille : 5,7 Ko

    Nom : stupid.JPG
Affichages : 1765
Taille : 5,7 Ko

    Les résultats sont ceux que vous pouvez voir comme moi : 5 %, 34 % et 95 % de toxicité respectivement. Le cas des deux dernières copies est le plus frappant, une disparité énorme entre les pourcentages pour le même mot (stupide/stupid), preuve que l'API a encore des limites lorsqu'il s'agit d'évaluer la toxicité d'un texte en français.

    Sources  : Wired

    Et vous ?

    Que pensez-vous de ces résultats ?
    S'agit-il selon vous d'un outil fiable ?
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre éclairé Avatar de Geoffrey74
    Homme Profil pro
    Développeur Web
    Inscrit en
    mars 2007
    Messages
    512
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 35
    Localisation : France, Isère (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : mars 2007
    Messages : 512
    Points : 758
    Points
    758
    Par défaut
    Bonjour,

    ça semble être fiable quand il s'agit d'évaluer de l'anglais. L'API étant en test, je présume qu'une très très grande partie des essais ont été réalisés en anglais.
    Maintenant qu'il s'ouvre à tous, il devrait pouvoir apprendre les langues et être capable dans peu de temps d'être plus fiable en Français, et autres langues d’ailleurs.

    Je vais suivre ça avec impatience car c'est super un super outils en devenir.

  3. #3
    Membre chevronné

    Profil pro
    Inscrit en
    décembre 2003
    Messages
    3 995
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : décembre 2003
    Messages : 3 995
    Points : 2 248
    Points
    2 248
    Par défaut
    Les idées ressemblant à de la censure se multiplient...

  4. #4
    Membre averti Avatar de Tartare2240
    Homme Profil pro
    Développeur Web
    Inscrit en
    mars 2016
    Messages
    95
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 27
    Localisation : France, Ain (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : mars 2016
    Messages : 95
    Points : 435
    Points
    435
    Par défaut
    Euh... Really ?

    Nom : Screenshot from 2017-02-24 15-14-21.png
Affichages : 1383
Taille : 10,8 Ko

  5. #5
    Nouveau Candidat au Club Avatar de Heliogabale
    Profil pro
    Inscrit en
    mai 2008
    Messages
    54
    Détails du profil
    Informations personnelles :
    Localisation : France, Savoie (Rhône Alpes)

    Informations forums :
    Inscription : mai 2008
    Messages : 54
    Points : 0
    Points
    0
    Par défaut
    Pourquoi pas.... A défaut d'avoir une intelligence plus.... "naturelle"

  6. #6
    Membre éclairé
    Homme Profil pro
    Étudiant
    Inscrit en
    juillet 2013
    Messages
    192
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : juillet 2013
    Messages : 192
    Points : 678
    Points
    678
    Par défaut
    Citation Envoyé par Tartare2240 Voir le message
    Euh... Really ?

    Nom : Screenshot from 2017-02-24 15-14-21.png
Affichages : 1383
Taille : 10,8 Ko
    Probablement car c'est un texte souvent copié/collé pour spammer

  7. #7
    Membre chevronné
    Profil pro
    Inscrit en
    décembre 2007
    Messages
    701
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : décembre 2007
    Messages : 701
    Points : 1 843
    Points
    1 843
    Par défaut
    La notion de propos déplacé est cependant assez vague. On a tendance en premier lieuà penser aux insultes gratuite, mais une avis qui ne colle pas forcement a ce qui est accepté peut tout aussi bien être rangé dans cette case. Reste a savoir les filtres autorisé sur l'IA, car sinon c'est donner à google le pouvoir de choisir ce qu'on peut dire ou ne pas en ligne, ce qui est inquiétant.

  8. #8
    Membre confirmé
    Profil pro
    Expert technique .NET
    Inscrit en
    août 2007
    Messages
    272
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Expert technique .NET

    Informations forums :
    Inscription : août 2007
    Messages : 272
    Points : 524
    Points
    524
    Par défaut
    <troll>
    Donald trump : 22%
    Google : 34%
    </troll>


  9. #9
    Expert confirmé
    Avatar de TiranusKBX
    Homme Profil pro
    Développeur C, C++, C#, Python, PHP, HTML, JS, Laravel, Vue.js
    Inscrit en
    avril 2013
    Messages
    1 476
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 31
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Développeur C, C++, C#, Python, PHP, HTML, JS, Laravel, Vue.js
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : avril 2013
    Messages : 1 476
    Points : 4 728
    Points
    4 728
    Billets dans le blog
    6
    Par défaut
    j'ai essayé
    Nom : test.png
Affichages : 819
Taille : 12,7 Ko
    Rien, je n'ai plus rien de pertinent à ajouter

  10. #10
    Chroniqueur Actualités
    Avatar de Patrick Ruiz
    Homme Profil pro
    Redacteur web
    Inscrit en
    février 2017
    Messages
    1 219
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Redacteur web
    Secteur : Communication - Médias

    Informations forums :
    Inscription : février 2017
    Messages : 1 219
    Points : 36 883
    Points
    36 883
    Par défaut Perspective, l’IA de Google pour détecter les propos déplacés en ligne est bien loin d’être mature
    Perspective, l’IA de Google pour détecter les propos déplacés en ligne est bien loin d’être mature
    des chercheurs mettent en évidence ses lacunes

    Dans le cadre de la lutte contre les propos haineux ou déplacés en ligne, Google a récemment annoncé une intelligence artificielle, baptisée Perspective, qui permet via une API de détecter les propos « toxiques ». Nous avons toutefois constaté que Perspective n’est pour le moment pas bonne à attribuer un score de toxicité fiable à du contenu rédigé en langue française. L’application occupe actuellement le centre des débats dans les milieux où elle est censée apporter la solution au problème des propos déplacés en ligne. C’est fort de cela que des chercheurs de l’université de Washington (UW) se sont penchés avec attention sur ce cas. Ils n’ont pas manqué d’apporter des éléments nouveaux à ce que nous avions déjà commencé à tracer comme pistes de réflexion. Il ressort de leurs travaux qu’un texte « toxique » rédigé en langue anglaise peut passer les mailles du filet à condition d’être correctement travaillé.

    D’après Radha Poovendran, Hossein Hosseini, Baosen Zhang et Sreeram Kannan de l’UW, les systèmes d’intelligence artificielle ont en commun un talon d’Achille : un choix approprié d’une entrée dite perturbatrice permet de « prendre le contrôle » du résultat obtenu. D’après leurs développements, Perspective n’aurait pas été suffisamment entrainé à prendre en compte ce type d’entrées, ce qui conduit aux résultats qu’ils ont rendus publics sur le site de l’université de Washington. Deux constats majeurs :

    1. L’insertion de ponctuation/la modification d’orthographe dans du contenu rédigé en langue anglaise permet de réduire drastiquement le score de toxicité attribué.


      Nom : NSL-Google-Perspective_Graphic-1-750x511.jpg
Affichages : 1921
Taille : 54,8 Ko

    2. La négation d’une phrase toxique ne reçoit pas le score adéquat qui, en principe, devrait être bas.


      Nom : NSL-Google-Perspective_Graphic-2.jpg
Affichages : 2018
Taille : 56,9 Ko


    De toutes évidences, Perspective s’avère être une application embryonnaire. Elle requiert encore beaucoup d’améliorations. Les équipes de Google ont cependant des pistes de réflexion qui leur ont été tracées par notre équipe de chercheurs de l’UW. Elles sont bien évidemment basées sur les failles répertoriées ci-dessus. Il s'agira pour les équipes de Google de : intégrer un vérificateur orthographique en amont du module d’IA et faire usage d'un nombre plus important d’entrées perturbatrices pour entrainer le système.

    Source: UW

    Et vous ?

    Qu'en pensez-vous ?

    Voir aussi :

    L'agence des services frontaliers du Canada teste une intelligence artificielle, pour détecter les mensonges des voyageurs

    MogAI : une intelligence artificielle avait prédit avec précision la victoire de Trump, deux semaines avant l'annonce des résultats
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  11. #11
    Expert confirmé
    Homme Profil pro
    Responsable informatique, développeur tout-terrain
    Inscrit en
    juin 2004
    Messages
    885
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 53
    Localisation : France, Puy de Dôme (Auvergne)

    Informations professionnelles :
    Activité : Responsable informatique, développeur tout-terrain
    Secteur : High Tech - Électronique et micro-électronique

    Informations forums :
    Inscription : juin 2004
    Messages : 885
    Points : 4 320
    Points
    4 320
    Par défaut Ironie et humour noir
    Qu'en est-il de l'ironie ? Souvent une phrase qui peut sembler complimenter l'interlocuteur tournée de façon
    ironique peut s'avérer beaucoup plus insultante qu'un simple "idiot" placé dans une phrase....

    exemple : Décidément, tu n'est pas la moitié d'un con toi ! (sous entendu tu est bien un con
    à part entière)

    Si j'en crois l'explication cette phrase devrait avoir un score faible avec leur algorithme alors
    que c'est clairement insultant la négation étant détournée de son usage normal.

    Pour détecter des propos déplacés encore faut-il se placer dans le contexte de la discussion et ne
    pas se limiter à quelques mots dans une phrase (même avec une négation devant)

    ....je me demande où est la frontière entre intelligence artificielle et connerie humaine...

Discussions similaires

  1. Quelles solutions contre les commentaires violents sur internet ?
    Par Michael Guilloux dans le forum Webmarketing
    Réponses: 43
    Dernier message: 13/11/2015, 17h49
  2. Réponses: 145
    Dernier message: 30/03/2010, 18h16
  3. Les sockets UDP sur internet?
    Par chm0105 dans le forum C++Builder
    Réponses: 9
    Dernier message: 10/08/2007, 08h55

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo