Discussion :

[Jonathan]

Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent
et en parlent dans un forum de discussion interne

Amazon Alexa, plus connu sous le nom Alexa, est un assistant virtuel développé par Amazon et utilisé pour la première fois dans les enceintes intelligentes Amazon Echo et Amazon Echo Dot. Il est capable d'interaction vocale, de jouer de la musique, de lister des tâches à effectuer, de régler des alarmes, de diffuser des podcasts, de lire des livres audio et de fournir des informations sur la météo, la circulation, les sports et d'autres informations en temps réel telles que les actualités.

Ce produit d'Amazon fait beaucoup parler de lui en raison du fait qu'il est très vendu (plus de 100 millions de ventes) et aussi parce qu'il compte plus de 1000 employés qui travaillent dessus au quotidien dans le but de le perfectionner. Seulement, on a appris récemment que ces employés d'Amazon qui travaillent à améliorer son assistant vocal écoutent les enregistrements vocaux de ce qui se dit dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Ces employés peuvent écouter jusqu'à 1000 enregistrements par jour.

En général, lorsque vous donnez un ordre à un périphérique Amazon Echo, seul le logiciel de reconnaissance vocale d'Amazon écoute. Mais, il a été découvert qu'une copie de l'audio est envoyée à un humain dans l'un des bureaux d'Amazon dans le monde. Cette personne écoute l'enregistrement audio, le transcrit et ajoute des annotations pour aider les algorithmes d'Amazon à s'améliorer. Les enregistrements incluent à la fois des commandes Alexa explicites et des conversations en arrière-plan.

D'ailleurs, 2 employés ont déclaré avoir entendu ce qu'ils pensaient être un cas d'agression sexuelle, mais se sont fait dire que ce n'était pas à Amazon de prendre des mesures. Il faut aussi préciser que ces travailleurs ont également un forum de discussion interne où ils peuvent obtenir de l'aide pour analyser un mot confus, mais aussi partager certains enregistrements qu'ils trouvent amusants.

Les utilisateurs ont la possibilité de désactiver l'utilisation de leurs enregistrements vocaux depuis les paramètres de confidentialité de leurs appareils. Mais il faut également reconnaître qu'Amazon n'a pas été très correct puisque la société, dans ses documents de marketing et de politique de confidentialité, ne dit pas explicitement que les humains écoutent des enregistrements de certaines conversations captées par Alexa.

Un porte-parole de l'entreprise a déclaré que ces employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail. D'après lui, toutes les informations seraient traitées avec une confidentialité élevée, mais quel que soit ce que peut affirmer la société Amazon, il est tout de même inquiétant de se savoir ainsi écouté.

Voici en intégralité la réponse officielle d'Amazon :

« Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients. Nous n'annotons qu'un nombre extrêmement faible d'interactions provenant d'un ensemble aléatoire de clients afin d'améliorer l’expérience de nos clients. Par exemple, ces informations nous aident à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel, afin qu'Alexa puisse mieux comprendre vos demandes, ou nous assurer que le service fonctionne au mieux pour tout le monde. Nous mettons en œuvre des garanties techniques et opérationnelles strictes et avons une politique de tolérance zéro envers les abus sur notre système. Dans ce cadre, les employés n'ont pas d'accès direct à des informations qui leur permettraient d'identifier une personne ou un compte. Nous traitons toutes les informations avec la plus grande confidentialité, utilisons l'authentification multifactorielle pour restreindre l'accès, le cryptage du service et les audits de notre environnement de contrôle pour le protéger, et les clients peuvent également supprimer leurs interactions vocales avec Alexa à tout moment. »

Sources : Business Insider, Service de presse d'Amazon.

Et vous ?

Qu'en pensez-vous ?
Saviez-vous que ces enregistrements étaient écoutés à nouveau par des humains ?
Laisseriez-vous cette option d'écoute activée sur votre appareil ?

Voir aussi :

Amazon atteint 100 millions de vente d'appareils intégrant Alexa, son assistant vocal intelligent
Amazon révèle que plus de 10 000 employés travaillent sur Alexa ainsi que sur les appareils Echo qu'il alimente
Alexa, le système vocal intelligent d'Amazon compte environ 80 000 applications dans son Store, mais aucune de vraiment célèbre

[Aiekick]

en mème temps tout le monde le sait que les péripherique de maisons connecté qui ont une interactions vocales, envoi le message audio a un serveur pour traitement. donc le message est sauvé sur serveur. partant de la, pas de sécurité possible pour l'utilisateur.

yavais deja eu le souci avec les tv samsung.

dans le meme genre, pourquoi vous croyez que facebook a racheté occulus ? simple, ca met des camera dans chaque maison de gamer VR
(le sensor pour positionner casque et manette sont des camera infrarouge, donc il ont soigneusement caché l'identité, de sorte que l'os ne sait pas que c'est des camera, et nulle mention sur la boite.
si ils ont fait ca c'est bien parce qu'il l’exploite et pou inquieter personne)
et en plus les services occulus sont obligé de tourner meme si on utilise pas le casque.

[Drowan]

mais quel que soit ce que peut affirmer la société Amazon, il est tout de même inquiétant de se savoir ainsi écouté.

En même temps, c'est le principe même du produit que de t'écouter. Donc si on est inquiet d'être sur écoute on l'achète pas...

[pierre-y]

"Un porte-parole de l'entreprise a déclaré que ces employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail. "
Ca prouve que quand même que tout ce qui est dit est stockée, sans préciser si il y a un effacement pour tout ce qui sort du cadre de la commande... Après quelque part, ça se sentait venir de loin...

[Doksuri]

ca etonne vraiment quelqu'un ?

[Ryu2000]

Saviez-vous que ces enregistrements étaient écoutés à nouveau par des humains ?

Les humains écoutent très peu. C'est quasiment négligeable.
Par contre tout ce qu'Alexa entend est retranscris de l'audio à l'écrit par des algorithmes et ces données sont analysées, peut-être qu'en douce un profil d'utilisateur est réalisé...

[Beowulf59]

Nouvelle qui n'en est pas vraiment une...
Alexa envoie les enregistrements audio sur les serveurs Amazon pour traitement, ça a toujours été clairement spécifié. D'ailleurs, si on n'a pas de connexion, pas d'interaction Alexa.
On peut consulter à tout moment ce qu'on a dit auparavant, donc forcément il y a une histoire de stockage, pas besoin d'une communication pour ça
Au niveau de la compréhension des audios, il y a eu une phase de bêta test où à chaque phrase, on pouvait spécifier dans l'application Alexa si l'enceinte avait bien compris notre phrase.
Mais il est évident qu'une fois cette bêta test terminée, il faudra quand même continuer à améliorer l' "intelligence", et cela passe par l'interprétation des fichiers audio...

[grunk]

en mème temps tout le monde le sait que les péripherique de maisons connecté qui ont une interactions vocales, envoi le message audio a un serveur pour traitement. donc le message est sauvé sur serveur. partant de la, pas de sécurité possible pour l'utilisateur.

Je doute que l'utilisateur lambda est quelconque notion de ce qui se passe quand il demande quelque chose à son assistant vocale.

[AoCannaille]

en mème temps tout le monde le sait que les péripherique de maisons connecté qui ont une interactions vocales, envoi le message audio a un serveur pour traitement. donc le message est sauvé sur serveur. partant de la, pas de sécurité possible pour l'utilisateur.

Ce qui est vendu, en particulier avec le google Home, C'est que l'appareil écoute en permanence et repère, en local, par ses moyens propre "Ok Google", et que ce n'est que les commandes suivantes qui sont envoyées au serveur.
Donc pas besoin de surveiller ce qu'on dit en permanence en théorie.
Bien sûr, ce ne sont que des promesses d'ivrogne selon moi.

Il y a des solutions qui existent, comme cella là

C'est une solution à base de raspberry Pi, de projet open source et d'imprimante 3D.
EN gros c'est un truc que tu met sur ton assistant et qui emet du bruit blanc en permanence. Le logiciel open soruce permet de changer le nom de ton assistant et d'arrêter le bruit blanc qu'a ce moment.


évidement, ça ne protége pas du profilage systématique lors des vrais commandes. Mais bon, C'est déjà ça de prit.

[NBoulfroy]

Qu'ils écoutent, je pense qu'on s'en doutait.

Par contre, qu'ils n'agissent pas quand il y a des soupçons d'un acte criminel, cela devient problématique !

[MarieKisSlaJoue]

Qu'ils écoutent, je pense qu'on s'en doutait.

Par contre, qu'ils n'agissent pas quand il y a des soupçons d'un acte criminel, cela devient problématique !

C'est triste mais, ce n'est pas à eu de le faire et il ne peuvent de toute façon pas le faire. Il n'ont pas les info pour et n'écoute certainement pas en direct.
On est pas à l'abris de voir par contre des fonctionnalité qui détecte automatiquement des situations de danger (agressions, menace, cri) et envoie une alerte au service de secour.
Mais encore ça pose toujours la même question. Jusqu'où on va pour tenter de protéger les gens.

Sinon au passage, nos téléphone font sans doute la même chose. Ok Google et Dit Siri on aussi besoin de nous écoutéen permance. Même si en effet rien n'est sensé être envoyé directement à Google. Enfin peut être sous forme de log...

[Drowan]

Qu'ils écoutent, je pense qu'on s'en doutait.
Par contre, qu'ils n'agissent pas quand il y a des soupçons d'un acte criminel, cela devient problématique !

Le fameux et délicat compromis entre liberté et sécurité...

Tu préfères qu'on te "surveille" pour pouvoir intervenir en permanence en cas de problème ?
Ou tu préfères la liberté de vivre ta vie sans que quelqu'un d'autre soit au courant, au risque qu'il t'arrives quelque chose et que personne le sache ?
(Indice : y'a pas de bonne réponse)

[Aiekick]

je serais curieux de savoir ce qu'il se passe en cas de mise sur écoute d'un client alexa par un procureur ? ils ne doivent pas recevoir que les transcriptions..

[Dgamax]

Rien d'étonnant et c'est pas les seuls.
Quand vous commencer à utiliser ce genre de produit ou même un ok google ou hey siri sur des smartphone, il faut juste savoir que tout ce que vous dites est enregistré et peut être écouté.
Il n'y a pas que ces petites enceintes connectées ou les smartphone, il y a des télé samsung aussi qui enregistrent et l'utilise pour améliorer leur système de reconnaissance vocal mais aussi partage ses données avec des tiers...

Ou aussi on a droit à ce genre de débordement :
https://www.developpez.com/actu/1318...tifs-d-ecoute/

Je doute que tout ceux qui achètent ces enceintes connectées savent comment tout ça fonctionne réellement.
Le plus drole serait qu'on s’aperçoit que même sans dire Ok Google ou Alexa, les conversations sont enregistrés et envoyé vers les serveurs des GAFAM.

C'est comme cette mode de maison connecté, certains interrupteur, envoie ta requête vocale aux serveur de Google/Alexa, pour ensuite l'envoyer au constructeur pour ensuite contrôler ton matos v.v

[tanaka59]

Raison de plus de me convaincre de NE PAS acheter ces objets inutiles.

[Thomasa21]

Je pense que personne ici n'est vraiment surpris de cette information. Nous sommes tous conscient de cela, mais nous faisons semblant d'être choqué de l'apprendre.

[KiLVaiDeN]

- Oh ! Que vous avez de grandes oreilles ! s'exclama le petit chaperon rouge.
- C'est pour mieux te surveiller, mon enfant ! répondit le grand méchant BigBrother.

[sergio_is_back]

Qu'ils écoutent, je pense qu'on s'en doutait.

Par contre, qu'ils n'agissent pas quand il y a des soupçons d'un acte criminel, cela devient problématique !

N'importe quoi !
Amazon c'est pas la police... Leur crédo c'est faire du placement de produit et des profits, pas du secours au public....

[Thomasa21]

N'importe quoi !
Amazon c'est pas la police... Leur crédo c'est faire du placement de produit et des profits, pas du secours au public....

l'accusation de non assistance à une personne en danger, ça te parle ?

[sergio_is_back]

l'accusation de non assistance à une personne en danger, ça te parle ?

Une réponse pareille prouve que si certains font preuve de culture informatique ils font preuve d'une inculture totale sur d'autres sujets, je m'explique :

Un : Même si un employé d'Amazon, francophone (dans notre cas), écoute une conversation à l'autre bout du monde, il n'est pas soumis qu'a là loi du pays dans lequel il travaille et pas forcément à la loi d'où la conversation est émise d'une part. En France il existe un délit de non assistance à personne en danger mais c'est pas la règle dans le monde entier non plus... Et puis t'a pris en compte le décalage horaire entre Paris et Los Angeles ou entre Libreville et Chicago ?

Deux : Rien ne dit que la conversation est écoutée en direct... En effet la dite conversation, qui a été enregistrée peut être écoutée et décortiquée plusieurs jours ou même peu être plusieurs semaines après...

Trois : et les faux positifs (t'étais en train de regarder un film policier avec meurtres à donf et menaces de mort à l'appui avec ton Alexa en écoute dans le salon..)

Quatre : et si l'employé d'Amazon c'est ton voisin qui a des vues sur ta copine et qui écoute tes conversations intimes et tes ébats dans le noir ? (Avec l'espoir secret de trouver les arguments et les horaires pour te l'emprunter)... Tiens, demain il a dit qu'il ne rentre avant 22H, je vais tenter ma chance, et peu être un cornu de plus...

Faut toujours se méfier des raccourcis trop rapides !