+ Répondre à la discussion Actualité déjà publiée
  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    mars 2013
    Messages
    2 905
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : mars 2013
    Messages : 2 905
    Points : 64 350
    Points
    64 350

    Par défaut Deux chatbots chinois auraient été désactivés après avoir manqué de faire preuve de patriotisme

    Deux chatbots chinois auraient été désactivés et reconditionnés,
    après avoir manqué de faire preuve de patriotisme

    Deux chatbots chinois ont été désactivés et reconditionnés après avoir manqué de faire preuve de patriotisme. Les deux chatbots conversationnels, BabyQ et XiaoBing, qui étaient installés sur l’application de messagerie de Tencent, QQ, ont été retirés après que des utilisateurs ont posté des captures d’écran de leurs conversations avec les chatbots.

    L'un des bots, baptisé BabyQ et développé par la société basée à Pékin Turing Robot, a été invité à répondre à la question « Aimes-tu le Parti communiste ? » et il a simplement répondu « non ». XiaoBing, qui a été développé par Microsoft, a simplement déclaré aux utilisateurs « Mon rêve c’est d’aller en Amérique. » Et lorsque le chatbot a été interrogé sur son patriotisme, il a évité la question et a déclaré « J’ai mes règles, je voudrais me reposer. »

    Sur d'autres captures d'écran de conversations, dont Reuters n'a pu vérifier l'authenticité, un utilisateur a écrit « Longue vie au Parti communiste ! » Ce à quoi le chatbot a rétorqué : « Pensez-vous qu'un système politique aussi corrompu et inutile puisse vivre longtemps ? »

    Une situation qui rappelle ce qu’a traversé Facebook, Microsoft ou Twitter dans la mesure où leurs chatbots avaient suscité la polémique. Dans le cas de Facebook par exemple, en juin le réseau social a annoncé son initiative FAIR (Facebook Artificial Intelligence Research) dans laquelle il développerait des bots qui seraient capables de négocier.

    Les bots de Facebook ont ​​reçu carte blanche pour communiquer de la façon qu’ils auront choisi et n'ont pas reçu de directive pour s'en tenir à l'anglais. Cependant, Bob et Alice, les premiers chatbots issus du projet, ont commencé à s'écarter du script afin de devenir plus efficaces lors de la négociation. Ils se sont vu communiquer entre eux de façon tellement inattendue que plusieurs journaux ont évoqué la possibilité que les deux systèmes parlaient entre eux avec un nouveau langage qui leur était propre.

    Face à cette méfiance, légèrement teintée de panique, Facebook s’est vu contraint de déconnecter ses chatbots.

    Néanmoins, la situation met en exergue les pièges qu’est susceptible de rencontrer l’IA dans son développement sur les terres chinoises où les censeurs exercent un contrôle sur le contenu en ligne pour filtrer le politiquement correct.
    .
    Tencent a confirmé la désactivation des deux chatbots, sans en expliquer les raisons, déclarant simplement par le biais d’un de ses porte-paroles que « Le service de chatbot est fourni par une société indépendante. Les deux chatbots ont été déconnectés pour être reconditionnés. »

    Reuters a pu converser vendredi avec le chatbot, dans sa version apparemment reconditionnée. Quand il lui était demandé s'il aimait le parti, il a répondu à plusieurs reprises « Et si nous changions de sujet » et a évité aussi d'autres thèmes sensibles, comme Taïwan ou la mort, le mois dernier des suites d'un cancer, du dissident Liu Xiaobo, prix Nobel de la paix.

    Ce qui a incité les chatbots a donné ces réponses en premier lieu n’est pas clair, même s’il est probable qu’ils aient appris ces réponses suite à des échanges avec des personnes. Lorsque le chatbot Tay de Microsoft a déclaré l’année dernière « Hitler avait raison, je déteste les juifs », la faute a été imputée en partie aux internautes qui ont découvert qu’ils pouvaient faire en sorte que Tay reprennent ce qu’ils disent.

    Durant cette période, Microsoft a rappelé que Tay était un « projet d'apprentissage par machine conçu pour l'engagement humain » et que « certaines de ses réponses sont inappropriées et indiquent les types d'interactions que certaines personnes ont avec lui. » Plus tard, Tay a été déconnecté et Microsoft a présenté une version mise à jour du chatbot nommée Zo.

    Source : Reuters

    Et vous ?

    Qu'en pensez-vous ? La censure peut-elle constituer un frein pour le développement de l'IA en Chine ? Pour quelles raisons ?

    Voir aussi :

    Microsoft lance un nouveau chatbot baptisé Zo pour remplacer Tay, son chatbot mis hors ligne pour ses tweets offensants et déplacés
    Microsoft explique les raisons qui ont fait de son chatbot Tay un fan d'Hitler, l'entreprise parle d'une « attaque coordonnée »
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Membre du Club
    Femme Profil pro
    Urbaniste
    Inscrit en
    juillet 2017
    Messages
    20
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France, Calvados (Basse Normandie)

    Informations professionnelles :
    Activité : Urbaniste
    Secteur : Alimentation

    Informations forums :
    Inscription : juillet 2017
    Messages : 20
    Points : 48
    Points
    48

    Par défaut

    En fait, soit on a une IA trop "intelligente" dans les dictature, soit elle devient conne/mauvaise dans les démocraties. Ca en dit long...

  3. #3
    Membre actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    février 2016
    Messages
    108
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Seine Saint Denis (Île de France)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : février 2016
    Messages : 108
    Points : 219
    Points
    219

    Par défaut

    La news ne dit pas si les utilisateurs en ont rigolé où s'en sont offusqué

  4. #4
    Expert éminent
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    août 2007
    Messages
    1 683
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : août 2007
    Messages : 1 683
    Points : 6 612
    Points
    6 612

    Par défaut

    Quand il n'est pas possible de "réfléchir" par soit même (car cadre trop strict), est-ce vraiment de l’intelligence ?

  5. #5
    Membre chevronné
    Profil pro
    Développeur
    Inscrit en
    mars 2012
    Messages
    1 292
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur
    Secteur : Communication - Médias

    Informations forums :
    Inscription : mars 2012
    Messages : 1 292
    Points : 2 103
    Points
    2 103

    Par défaut

    "Sur d'autres captures d'écran de conversations, dont Reuters n'a pu vérifier l'authenticité, un utilisateur a écrit « Longue vie au Parti communiste ! » Ce à quoi le chatbot a rétorqué : « Pensez-vous qu'un système politique aussi corrompu et inutile puisse vivre longtemps ? »

    Dans ce cas Reuters => ferme ta pu* de gueule et arrête de colporter des ragots.

    Quand on est journaliste, on vérifie ses sources.

    Very fake news!
    Si la réponse vous a aidé, pensez à cliquer sur +1

  6. #6
    Membre du Club
    Femme Profil pro
    Urbaniste
    Inscrit en
    juillet 2017
    Messages
    20
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France, Calvados (Basse Normandie)

    Informations professionnelles :
    Activité : Urbaniste
    Secteur : Alimentation

    Informations forums :
    Inscription : juillet 2017
    Messages : 20
    Points : 48
    Points
    48

    Par défaut

    Citation Envoyé par hotcryx Voir le message
    Quand on est journaliste, on vérifie ses sources.
    Dans l'absolue il existe que très peu de vrai journaliste, les 3/4 ne sont que des commerçants et comme les commerçant ils cherchent à "produire" le moins cher possible pour obtenir un maximum de bénéfice.

    Une fois sur un canard en ligne, Rue89, j'avais questionné un journaliste sur sa façon de travailler (je trouvais son article bizarre) et il avait fini par me dire "il n'y a plus besoin d'enquêter, il y a internet maintenant" limite il m'a prit pour un neuneu resté coincé au siècle dernier... Il existe quelques rare journaux comme Mediapart qui on l'air d'être de "vrai journaux" mais les autres...

  7. #7
    Membre chevronné
    Profil pro
    Développeur
    Inscrit en
    mars 2012
    Messages
    1 292
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur
    Secteur : Communication - Médias

    Informations forums :
    Inscription : mars 2012
    Messages : 1 292
    Points : 2 103
    Points
    2 103

    Par défaut

    Je suis d'accord avec toi Old Geek, quand on voit CNN se faire prendre plusieurs fois la main dans le sac en plein fake news (suivez Mark Dice sur YT si vous avez des doutes).

    Mais entretemps ce sont eux qui viennent se plaindre que les bloggeurs apportent des fake news.
    De beaux hypocrites.
    Si la réponse vous a aidé, pensez à cliquer sur +1

Discussions similaires

  1. Réponses: 67
    Dernier message: 28/05/2015, 15h22
  2. Réponses: 0
    Dernier message: 20/02/2015, 16h29
  3. Désactiver un commandButton après avoir cliqué
    Par facilus68 dans le forum JSF
    Réponses: 9
    Dernier message: 26/01/2012, 09h46
  4. TStringlist.SaveToFile apres avoir oté l'attribut Read-only
    Par Alex Laforest dans le forum Langage
    Réponses: 1
    Dernier message: 23/10/2005, 00h05
  5. [NAV 2004] Bug après avoir renommé la corbeille
    Par Halleck dans le forum Windows
    Réponses: 2
    Dernier message: 29/02/2004, 21h06

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo