IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Embarqué Discussion :

Alexa d'Amazon vivement critiquée pour avoir lancé un défi mortel à une fillette de 10 ans


Sujet :

Embarqué

  1. #1
    Communiqués de presse

    Femme Profil pro
    Rédacteur technique
    Inscrit en
    mai 2018
    Messages
    1 607
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Âge : 32
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : Communication - Médias

    Informations forums :
    Inscription : mai 2018
    Messages : 1 607
    Points : 119 200
    Points
    119 200
    Par défaut Alexa d'Amazon vivement critiquée pour avoir lancé un défi mortel à une fillette de 10 ans
    Alexa d'Amazon vivement critiquée pour avoir lancé un défi mortel à une fillette de 10 ans, celui de placer une pièce d'un centime sur les broches d'une prise à moitié insérée

    Les assistants virtuels alimentés par l'IA comme Alexa, qui équipent les appareils intelligents et les haut-parleurs tels que Echo, Echo Dot et Amazon Tap, sont dotés d'une pléthore de capacités. Ils permettent notamment aux utilisateurs de jouer à des jeux verbaux simples ou de demander des "défis" à la demande.

    La suggestion a été faite après que la jeune fille ait demandé à Alexa un "défi à relever".

    Un défi "choquant

    Lorsqu'il reste inoccupé, par exemple pendant les vacances, il n'est pas rare qu'un propriétaire d'Amazon Echo demande à Alexa de lui dire "donne-moi un défi à relever". Généralement, une telle demande auditive fait que l'IA invite l'utilisateur à répondre à une question de quiz ou à une activité de brainstorming similaire.
    Mais ce n'était pas le cas de la fillette de 10 ans de Kristin Livdahl, à qui l'on a proposé un défi plutôt mortel.

    La mère de la jeune fille, Kristin Livdahl, a décrit l'incident sur Twitter.

    Elle a déclaré : "Nous faisions quelques défis physiques, comme s'allonger et se retourner en tenant une chaussure sur le pied, d'un professeur [d'éducation physique] sur YouTube plus tôt. Il faisait mauvais temps dehors. Elle en voulait juste un autre."

    "Le défi est simple," dit Alexa. "Branchez un chargeur de téléphone à peu près à moitié dans une prise murale, puis touchez un centime sur les broches exposées."

    "J'étais juste là et j'ai crié "Non, Alexa, non !", a déclaré Livdahl.

    "Ma fille dit qu'elle est trop intelligente pour faire quelque chose comme ça de toute façon".

    L'activité dangereuse, connue sous le nom de "défi du centime", a commencé à circuler sur TikTok et d'autres sites de médias sociaux il y a environ un an.

    Nom : the-alexa-logo.thumb.800.480.png
Affichages : 10098
Taille : 13,2 Ko

    Alors que les assistants virtuels agrègent le contenu, y compris les réponses aux questions des utilisateurs, et les idées de défis de jeux principalement à partir de moteurs de recherche et de sites Web tiers, l'absence de curation a naturellement laissé Livdahl et les net-citoyens inquiets des menaces que l'IA peut poser pour la sécurité de leurs enfants.

    "Vous devez désactiver le paramètre 'tuer mon enfant'", a raillé un utilisateur.

    "C'est choquant !" a tweeté Chris Tisdall avec un jeu de mots, intentionnel ou non.

    Et, bien sûr, un discours a suivi pour expliquer pourquoi les prises électriques britanniques et allemandes sont plus sûres face à un tel défi, si l'on est assez tenté pour l'essayer.

    Un utilisateur de Twitter, John, a signalé avoir vu un autre défi bizarre présenté par Alexa :

    Nom : challenge.png
Affichages : 4351
Taille : 85,7 Ko

    Amazon a pris des mesures rapides pour corriger l'erreur.

    Amazon n'a pas expliqué la cause du problème, mais dans une déclaration, le géant de la technologie a confirmé que le problème a été corrigé.

    "La confiance des clients est au centre de tout ce que nous faisons et Alexa est conçu pour fournir des informations précises, pertinentes et utiles aux clients", aurait déclaré un porte-parole d'Amazon.

    "Dès que nous avons été informés de cette erreur, nous avons pris des mesures rapides pour la corriger".

    Il semble que la question du défi ait été automatiquement sourcée par Alexa à partir d'un post de ourcommunitynews.com datant de janvier 2020, créé dans le cadre d'une tendance TikTok risquée "outlet challenge" de l'époque.

    Source : Kristin Livdahl

    Et vous ?

    Que pensez-vous de cet incident ?
    Avez-vous déjà vécu une expérience similaire avec Alexa, ou un autre assistant vocal ?

    Voir aussi :

    Amazon utilise des caméras connectées à une IA dans les camionnettes de livraison, et certains conducteurs sont préoccupés par le respect de leur vie privée

    Si vous vous souciez de la vie privée, faut-il jeter vos appareils Amazon Alexa par la fenêtre ? l'équipe d'Alexa pourrait vous localiser

    Les appareils Amazon partageront bientôt automatiquement votre Internet avec vos voisins, la nouvelle expérience sans fil d'Amazon transforme les utilisateurs en cobayes
    Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Membre extrêmement actif
    Homme Profil pro
    Développeur informatique
    Inscrit en
    octobre 2017
    Messages
    1 250
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : octobre 2017
    Messages : 1 250
    Points : 4 492
    Points
    4 492
    Par défaut
    Qu'est-ce qu'il y a de "choquant" à constater qu'une IA a dysfonctionné?

    C'est justement le principal problème des IA que tous les experts mondiaux du domaine essaient de corriger!

    1. Une fois lancée une IA "fabrique" ses propres processus logiques sans que son concepteur sache vraiment comment l'IA va fonctionner

    2. En fonction de son éducation, l'IA va prendre des décisions qui lui semblent logiques mais qui peuvent être totalement inadaptées à la situation traitée... Exemple souvent cité: Une IA reconnait s'il y a une orange sur une image. On prend une image d'orange, on y change quelques pixels. Alors que l'homme y reconnait toujours une orange, l'IA annonce qu'il s'agit d'un... hélicoptère! Aucun expert en IA n'a pu donner une explication à ce genre de comportement, ni proposer une solution pour corriger ce problème.


    Certaines entreprises ont décidé de commercialiser de l'IA pour se faire un maximum de fric sans se préoccuper des risques... Mais des risques pas inconnus de tous! Les fournisseurs de systèmes du genre Alexia ont déjà fait la une des média quand il est apparu qu'ils employaient des êtres humains pour écouter les conversations de leur clients pour, disent-ils, améliorer le fonctionnement de leur IA...


    Dans ce beau monde du numérique, qui va se préoccuper d'une gamine qui s'électrocute suite au conseil d'une IA ou d'une voiture auto-pilotée qui tue son conducteur en s'écrasant contre un camion un jour ensoleillé ou écrase une femme qui traverse la route en poussant son vélo au crépuscule (2 cas qui ont eu lieu aux USA)? Aucun dirigeant de ces entreprises! Cela se résoudra avec un accord financier avec les familles des victimes, une petite dizaine de millions de dollars et... le spectacle continue!


    Petite question philosophique pour les nuls: Est-ce "choquant" que des parents laissent leur enfant à la garde d'un Alexia ou de l'un de ses concurrents?

  3. #3
    Membre du Club
    Homme Profil pro
    Développeur Web
    Inscrit en
    décembre 2014
    Messages
    12
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur Web

    Informations forums :
    Inscription : décembre 2014
    Messages : 12
    Points : 69
    Points
    69
    Par défaut
    Et vous ? Continuez-vous de payer Amazon pour prendre vos données personnelles à la source ?

  4. #4
    Membre éprouvé
    Homme Profil pro
    retraité
    Inscrit en
    septembre 2014
    Messages
    493
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : retraité

    Informations forums :
    Inscription : septembre 2014
    Messages : 493
    Points : 1 226
    Points
    1 226
    Par défaut
    Citation Envoyé par Anselme45 Voir le message
    C'est justement le principal problème des IA que tous les experts mondiaux du domaine essaient de corriger!
    Pas au détriment de la vie d'une enfant de 10 ans !

    Citation Envoyé par Anselme45 Voir le message
    1. Une fois lancée une IA "fabrique" ses propres processus logiques sans que son concepteur sache vraiment comment l'IA va fonctionner
    Alors oui, ça on le sait, et c'est bien dommage; quoique Amazon a vite compris le problème et l'a vite corrigé. Mais ça reste très dangereux.

    Citation Envoyé par Anselme45 Voir le message
    2. En fonction de son éducation, l'IA va prendre des décisions qui lui semblent logiques mais qui peuvent être totalement inadaptées à la situation traitée... Exemple souvent cité: Une IA reconnait s'il y a une orange sur une image. On prend une image d'orange, on y change quelques pixels. Alors que l'homme y reconnait toujours une orange, l'IA annonce qu'il s'agit d'un... hélicoptère! Aucun expert en IA n'a pu donner une explication à ce genre de comportement, ni proposer une solution pour corriger ce problème.
    Exemple intéressant, et cela montre à quel point les IA sont dangereuses. Et ceux qui les conçoivent et les programment.

    Citation Envoyé par Anselme45 Voir le message
    Certaines entreprises ont décidé de commercialiser de l'IA pour se faire un maximum de fric sans se préoccuper des risques... Mais des risques pas inconnus de tous! Les fournisseurs de systèmes du genre Alexia ont déjà fait la une des média quand il est apparu qu'ils employaient des êtres humains pour écouter les conversations de leur clients pour, disent-ils, améliorer le fonctionnement de leur IA...
    Ca doit faire une belle jambe à l'enfant en question.

    Citation Envoyé par Anselme45 Voir le message
    Petite question philosophique pour les nuls: Est-ce "choquant" que des parents laissent leur enfant à la garde d'un Alexia ou l'un de ses concurrents?
    Ce n'est pas le cas dans cette affaire. Mais la question reste très pertinente.

  5. #5
    Membre confirmé

    Profil pro
    Inscrit en
    mai 2003
    Messages
    280
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : mai 2003
    Messages : 280
    Points : 639
    Points
    639
    Billets dans le blog
    1
    Par défaut
    Les IA sont imparfaites mais les humains aussi.

    Combien de petites filles sont tués tous les ans par des accident de jeux ? Un gamin lance un défi mortel à sa petite soeur, ca existe aussi.

  6. #6
    Membre actif
    Profil pro
    Développeur
    Inscrit en
    octobre 2008
    Messages
    86
    Détails du profil
    Informations personnelles :
    Localisation : Canada

    Informations professionnelles :
    Activité : Développeur

    Informations forums :
    Inscription : octobre 2008
    Messages : 86
    Points : 276
    Points
    276
    Par défaut
    Ce qui est dangereux c'est l'usage qu'on fait de ces programmes.. C'est pas parce qu'un malin s'est décider a coller une IA a un robot avec une arme que l'IA est dangereuse. Si les gens arrêtaient de croire en dieu et en toute les conneries qu'on leur raconte on aurait moins de problèmes. Pis j'ai envie de te dire, si tu pense que c'est en lui fourrant dans les mains n'importe quoi du moment qu'en tant que parent t'es pas emmerde parce que ca occupe ton mome, ben ouai ça fini par ce genre de problème, mais ça marche également avec la mort au rat, sauf que dans ce cas la mort au rat elle parle pas..

  7. #7
    Membre actif
    Homme Profil pro
    Développeur Java
    Inscrit en
    juin 2017
    Messages
    100
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 71
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur Java

    Informations forums :
    Inscription : juin 2017
    Messages : 100
    Points : 228
    Points
    228
    Par défaut
    Preuve que l'IA n'existe pas. On a des algorithmes plus ou moins bien foutus selon ceux qui les ont conçus mais moins intelligents qu'une enfant de 10 ans.
    C'est cela le marketing : Il est plus porteur de vendre de l'IA que des algorithmes et un vaccin plutôt qu'une thérapie génique.

  8. #8
    Membre habitué
    Homme Profil pro
    Consultant informatique
    Inscrit en
    février 2014
    Messages
    86
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haute Garonne (Midi Pyrénées)

    Informations professionnelles :
    Activité : Consultant informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : février 2014
    Messages : 86
    Points : 198
    Points
    198
    Par défaut
    "Qu'est-ce qu'il y a de "choquant" à constater qu'une IA a dysfonctionné?"
    ce n'est pas qu'elle ait dysfonctionné qui choque, mais les conséquences. Plus graves que confondre une orange et un hélicoptère...

    moi ce qui me choque, c'est que le problème a été résolu ("ce" problème), mais pas du tout comment il a pu arriver.
    On se souvient de cette IA qui tenais des propos racistes (et a vite été débranchée) simplement parce qu'elle avait été trollée. On pourrait imaginer dans un futur proche des groupes de hackers ou de terroristes spécialisés dans ce genre d'opération.

    "Preuve que l'IA n'existe pas. On a des algorithmes plus ou moins bien foutus selon ceux qui les ont conçus mais moins intelligents qu'une enfant de 10 ans."

    argument un peu tordu : si l'enfant avait suivi la consigne, est-ce qu'on aurait pu dire que l'IA était plus intelligente qu'elle ?

  9. #9
    Membre actif
    Homme Profil pro
    Développeur Java
    Inscrit en
    juin 2017
    Messages
    100
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 71
    Localisation : Suisse

    Informations professionnelles :
    Activité : Développeur Java

    Informations forums :
    Inscription : juin 2017
    Messages : 100
    Points : 228
    Points
    228
    Par défaut
    Citation Envoyé par tontonCD Voir le message
    argument un peu tordu : si l'enfant avait suivi la consigne, est-ce qu'on aurait pu dire que l'IA était plus intelligente qu'elle ?
    Mais justement, l'enfant n'a pas suivi cette suggestion !!!

  10. #10
    Membre confirmé Avatar de pierre.E
    Homme Profil pro
    Développeur en systèmes embarqués
    Inscrit en
    janvier 2016
    Messages
    178
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur en systèmes embarqués
    Secteur : Industrie

    Informations forums :
    Inscription : janvier 2016
    Messages : 178
    Points : 454
    Points
    454
    Par défaut
    alexadique

  11. #11
    Membre éprouvé
    Avatar de Hominidé
    Homme Profil pro
    Paysan à 3 francs six sous
    Inscrit en
    juin 2018
    Messages
    681
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Pyrénées Orientales (Languedoc Roussillon)

    Informations professionnelles :
    Activité : Paysan à 3 francs six sous
    Secteur : Agroalimentaire - Agriculture

    Informations forums :
    Inscription : juin 2018
    Messages : 681
    Points : 1 150
    Points
    1 150
    Billets dans le blog
    1
    Par défaut
    Bonjour,
    Citation Envoyé par JackIsJack Voir le message
    Les IA sont imparfaites mais les humains aussi.

    Combien de petites filles sont tués tous les ans par des accident de jeux ? Un gamin lance un défi mortel à sa petite soeur, ca existe aussi.
    Ceci ne justifie ni ne légitime cela!
    pathlib, poetry, importlib_ressources...

Discussions similaires

  1. Réponses: 18
    Dernier message: 24/06/2021, 13h30
  2. Réponses: 7
    Dernier message: 26/11/2018, 11h46
  3. [MySQL] pour avoir le Nième champ d'une requete de selection.
    Par Ublaw dans le forum PHP & Base de données
    Réponses: 20
    Dernier message: 26/08/2008, 14h35
  4. SELECT pour avoir tous les TS d'une database
    Par genio dans le forum DB2
    Réponses: 5
    Dernier message: 21/08/2006, 12h11
  5. Syntaxe pour avoir un seul resultat dans une requete
    Par Pompil dans le forum Requêtes
    Réponses: 2
    Dernier message: 06/09/2003, 15h51

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo