1 pièce(s) jointe(s)
Si vous vous souciez de la vie privée, faut-il jeter vos appareils Amazon Alexa par la fenêtre ?
Si vous vous souciez de la vie privée, faut-il jeter vos appareils Amazon Alexa par la fenêtre ?
L'équipe d'Alexa pourrait vous localiser
Rappelons qu'il y a quelques jours, on a appris que les employés d'Amazon qui travaillent à améliorer Alexa, assistant virtuel développé par Amazon, écoutent les enregistrements vocaux de ce qui se dit dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Ces employés peuvent écouter jusqu'à 1000 enregistrements par jour. En général, lorsque vous donnez un ordre à un périphérique Amazon Echo, seul le logiciel de reconnaissance vocale d'Amazon écoute. Mais, il a été découvert qu'une copie de l'audio est envoyée à un humain dans l'un des bureaux d'Amazon dans le monde. Cette personne écoute l'enregistrement audio, le transcrit et ajoute des annotations pour aider les algorithmes d'Amazon à s'améliorer. Les enregistrements incluent à la fois des commandes Alexa explicites et des conversations en arrière-plan.
D'ailleurs, 2 employés ont déclaré avoir entendu ce qu'ils pensaient être un cas d'agression sexuelle, mais se sont fait dire que ce n'était pas à Amazon de prendre des mesures. Il faut aussi préciser que ces travailleurs ont également un forum de discussion interne où ils peuvent obtenir de l'aide pour analyser un mot confus, mais aussi partager certains enregistrements qu'ils trouvent amusants. Les utilisateurs ont la possibilité de désactiver l'utilisation de leurs enregistrements vocaux depuis les paramètres de confidentialité de leurs appareils. Mais il faut également reconnaître qu'Amazon n'a pas été très correct puisque la société, dans ses documents de marketing et de politique de confidentialité, ne dit pas explicitement que les humains écoutent des enregistrements de certaines conversations captées par Alexa.
Comme si cela ne suffisait pas, Bloomberg rapporte que l'équipe d'Amazon auditant les commandes des utilisateurs d'Alexa a accès aux données de localisation et peut, dans certains cas, trouver facilement l'adresse du domicile d'un client, selon cinq employés familiarisés avec le programme. Les membres de l'équipe ayant accès aux coordonnées géographiques des utilisateurs d'Alexa peuvent facilement les saisir dans un logiciel de cartographie tiers et trouver des domiciles, selon les employés, qui ont signé des accords de confidentialité ne leur permettant pas de s'exprimer publiquement sur le programme.
Bien que rien n'indique que les employés d'Amazon ayant accès aux données ont tenté de localiser des utilisateurs individuels, deux membres de l'équipe Alexa ont indiqué à Bloomberg qu'Amazon accordait inutilement un large accès aux données des clients, ce qui faciliterait l'identification du propriétaire d'un périphérique. Les données de localisation sont plus sensibles que de nombreuses autres catégories d'informations sur les utilisateurs, a déclaré Lindsey Barrett, avocate et chargée de communication de Georgetown Law. L'équipe, répartie sur trois continents, transcrit, annote et analyse une partie des enregistrements vocaux recueillis par Alexa. Le programme en question a été mis en place pour aider l'assistant vocal numérique d'Amazon à mieux comprendre et à répondre aux commandes.
Bloomberg précise qu'il n'a pas été signalé d'employés ou de sous-traitants d'Amazon abusant réellement de ce pouvoir et traquant les utilisateurs chez eux. Cependant, cette fonctionnalité offre aux employés « un accès inutilement large aux données des clients ». « Chaque fois que quelqu'un collecte vos données de localisation, cela signifie que ces données pourraient aller à quelqu'un d'autre qui pourrait vous trouver quand vous ne voulez pas être retrouvé », a déclaré Lindsey Barrett.
Amazon ne nie pas que ses employés peuvent facilement localiser les utilisateurs, mais minimise les conséquences d'une telle situation. « L’accès aux outils internes est hautement contrôlé et n’est accordé qu’à un nombre limité d’employés qui ont besoin de ces outils pour former et améliorer le service en traitant un très petit échantillon d’interactions », a déclaré un porte-parole d’Amazon. Le seul problème, Amazon n’a pas précisé ce nombre « limité » d’employés qui pourrait être des milliers, selon Bloomberg.
« Nos politiques interdisent strictement aux employés d’accéder aux données des clients ou de les utiliser, pour toute autre raison, et nous appliquons une politique de tolérance zéro en cas d’abus de nos systèmes », a poursuivi le porte-parole. « Nous auditons régulièrement l'accès des employés aux outils internes et limitons l'accès si nécessaire ». Bloomberg a parlé à un employé d'Amazon qui a déclaré que le backend d'Amazon affichait également les numéros de téléphone des utilisateurs. Cette fonctionnalité aurait été déconnectée, mais qui sait ce qui ce qui en est réellement fait.
Bloomberg explique que certains des travailleurs chargés d'analyser les enregistrements des clients Alexa utilisent un outil Amazon qui affiche des clips audio en même temps que des données sur le périphérique ayant capturé l'enregistrement. Une grande partie des informations stockées par le logiciel, y compris un identifiant d'appareil et un numéro d'identification de client, ne peuvent pas être facilement reliées à un utilisateur. Toutefois, Amazon collecte également des données de localisation pour permettre à Alexa de répondre plus précisément aux demandes, par exemple en suggérant un restaurant local ou en indiquant le temps qu'il fera à Ashland, dans l'Oregon, au lieu d'Ashland, dans le Michigan.
Bloomberg ajoute aussi que les données de localisation d'Amazon ne sont pas toujours précises et ne font pas toujours référence à l'emplacement d'un écho. L'application pour smartphone Alexa invite les utilisateurs à entrer une adresse personnelle lorsqu'ils configurent un haut-parleur intelligent et demande également l'autorisation d'utiliser les données de localisation du smartphone. Dans une liste de questions fréquemment posées sur Alexa, Amazon indique qu'il utilise l'emplacement d'un appareil mobile pour fournir des réponses et des recommandations plus pertinentes, ainsi que pour activer des fonctionnalités telles que les rappels conçus pour se déclencher lorsqu'un utilisateur atteint un certain endroit.
Source : Employé Amazon
Et vous ?
:fleche: Qu'en pensez-vous ?
:fleche: Que feriez-vous d'Alexa si vous en disposez ? Vous en débarrasseriez-vous ou le garderiez-vous quand même ? Pourquoi ?
:fleche: Alexa pourrait-il être efficace sans avoir accès à vos données de localisation ? Pourquoi ?
Voir aussi
:fleche: Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent, et en parlent dans un forum de discussion interne
:fleche: Un perroquet utilise l'assistant vocal Alexa pour passer des commandes d'articles sur Amazon en l'absence de son propriétaire
:fleche: Microsoft ne voit plus Alexa ou Google Assistant comme des concurrents de Cortana mais des partenaires qui l'aideraient à tirer son épingle du jeu
:fleche: Amazon atteint 100 millions de vente d'appareils intégrant Alexa son assistant vocal intelligent
3 pièce(s) jointe(s)
Alexa vous a espionné tout ce temps, selon Geoffrey Fowler
Alexa vous a espionné tout ce temps, selon Geoffrey Fowler
Mais toutes les données sauvegardées ne serviraient qu’à rendre l’IA plus intelligente
Pour une assistance personnelle plus intelligente et une maison plus connectée, nous avons introduit des gadgets connectés dans tous les compartiments de nos foyers. Mais ces précieux appareils, tels que les haut-parleurs intelligents munis de microphones, dont des millions de personnes ne peuvent plus s’en passer aujourd’hui, aurait un côté déplaisant, selon Geoffrey Fowler, chroniqueur technologique chez The Washington Post. Si seulement ce revers de la médaille dans l’utilisation de ses gadgets intelligents était su de tous, les utilisateurs allaient être moins nombreux à inviter Alexa à la maison.
Malheureusement, beaucoup de propriétaires de haut-parleurs intelligents ne s'en rendent pas compte, toutefois, Amazon garde une copie de tout ce qu'Alexa enregistre après avoir entendu son nom, d’après le chroniqueur. Mais Amazon n’est pas le seul à le faire, Siri d'Apple, et jusqu'à récemment l'assistant de Google, conservent aussi par défaut des enregistrements pour les aider à former leurs intelligences artificielles. Pire encore, selon M. Fowler, la prochaine étape de la Silicon Valley, c'est de mettre nos maisons sur écoute.
En effet, le chroniqueur a accédé aux enregistrements vocaux effectués par Alexa dans sa maison pendant quatre ans et il a pu écouter des milliers de fragments de ma vie, des demandes de spaghettis aux blagues des invités en passant par des extraits aléatoires de série « Downton Abbey ». Il y a même trouvé des conversations délicates qui ont déclenché le « mot de réveil » d'Alexa pour qu'il commence automatiquement à enregistrer.
Nous avons l’habitude de nous méfier des applications d’espionnage sur nos smartphones et nos ordinateurs, dorénavant, c’est dans nos maisons que les fabricants de gadgets connectés font la main basse sur nos données privées, avec notre complicité. M. Fowler a écrit dans son article publié le lundi :
« Il est facile de rationaliser les problèmes en pensant qu'un seul haut-parleur ou appareil intelligent ne pourrait pas en savoir assez pour avoir un impact. Mais dans ce pays de plus en plus branché, il y a une mainmise effrontée sur les données, et il y a peu de règlements, d’observateurs ou de pratiques de bon sens pour les contrôler. »
Selon le chroniqueur, toutes les données personnelles collectées peuvent être et seront utilisées contre nous. Pour cela, nous devons prendre des mesures contre l’espionnage à domicile, en commençant par dire : « Alexa, arrête de nous enregistrer », afin d’éviter de faire les mêmes erreurs que Facebook dans nos maisons intelligentes. En effet, selon The Observer, au moins un membre du conseil d’administration de Facebook était au courant du but réel et permanent de la collecte de données litigieuse plusieurs années avant l’explosion du scandale en mars 2018. Cependant, Facebook avait longtemps soutenu que c’est par la presse qu’il a appris ce à quoi les données collectées par Cambridge Analytica devraient servir.
On ne peut pas empêcher Amazon de faire des enregistrements vocaux
Selon le chroniqueur, Alexa garde une trace de ce qu'elle entend chaque fois qu'un haut-parleur Echo est activé. Nous savons que l’assistant d’Amazon n’enregistre qu’après qu’il ait été sollicité par l’invite légitime « Alexa ! ». Cependant, M. Fowler a remarqué que cela n’a pas toujours été le cas en écoutant ses archives Alexa : « J'ai compté des douzaines de fois où le mien a été enregistré sans invite légitime (Amazon dit qu'il a amélioré l'exactitude de « Alexa » en tant que mot de réveil de 50 % au cours de la dernière année)».
A la question de savoir ce qu’on pourrait faire pour empêcher Alexa d'enregistrer, le géant du commerce en ligne a toujours répondu : « Les clients ont le contrôle ». Toutefois, la conception du produit ne répond manifestement pas aux besoins des utilisateurs de ne pas être enregistrer, d’après le chroniqueur. Selon lui, il est possible d’effacer manuellement les enregistrements faits par Alexa si vous savez exactement où regarder, mais vous serez obligés de répéter l’action pendant que vous continuerez à faire d’Alexa votre assistant. La seule façon de ne pas se faire enregistrer, c’est de couper le microphone de l'Echo (ce qui va à l'encontre de son but principal) ou débrancher l’appareil.
Quant à la question de savoir à quoi servent ces enregistrements faits par les haut-parleurs, Amazon et les autres fabricants disent qu’ils conservent ces enregistrements pour améliorer leurs produits et non pour les vendre, tout comme Facebook dont le PDG a toujours soutenu que les données collectées sont destinées à améliorer l’expérience utilisateur et non pour les vendre. Toutefois, nous nous souvenons tous de la crise de confidentialité qu’à traversée la société l’an dernier avant de décider cette année de se réorienter vers une forme privée de média social.
Mais l’enregistrement de vos voix n’est pas l’apanage d’Amazon
Apple, qui est beaucoup plus soucieux de la vie privée des utilisateurs, conserve néanmoins des copies des conversations avec Siri. Mais la société dit que les données vocales archivées se voient attribuer un « identifiant aléatoire et ne sont pas liées à des individus ». Apple dont le PDG Tim Cook est connu pour ses représailles contre les géants du numérique dont l’activité est basée sur les données utilisateur, pourrait permettre aux utilisateurs d’accepter ou pas que leurs enregistrements soient stockés.
Selon le chroniqueur, Google avait aussi l'habitude d'enregistrer toutes les conversations avec son assistant, mais l'année dernière il a silencieusement changé ses valeurs par défaut pour ne pas enregistrer ce qu'il entend après l'invite « Hey, Google ». Toutefois, il faudra réajuster les paramètres de Google Assistant pour « mettre en pause » les enregistrements.
Régler l'activité vocale et audio sur "pause" pour empêcher l'enregistrement
Le chroniqueur dit également que la collecte de donnée à domicile par Google s’étend à d’autres gadgets intelligents. « Quand je me lève pour un en-cas de minuit, Google le sait. Le thermostat de mon Nest, fabriqué par Google, rapporte les données à ses serveurs par incréments de 15 minutes non seulement sur le climat de ma maison, mais aussi sur la présence de quelqu'un qui se déplace. »
Le chroniqueur dit également que ses lumières connectées Philips collectent les données chaque fois qu'elles sont allumées ou éteintes. Ces données seraient conservées par l'entreprise pour toujours si vous vous connectez à son service cloud (qui est nécessaire pour utiliser les lumières avec Alexa). Selon le chroniqueur, chaque type d'appareil est en train de devenir un dispositif de collecte de données.
Mais ce qui donnera à réfléchir désormais avant d’acheter tout gadget connecté, c’est que les enregistrements de la plupart des gadgets intelligents sont partagés avec Amazon en tant que prix d'entrée pour les appareils qui veulent s'intégrer avec Alexa, a écrit le chroniqueur. Ce qui permet à Amazon de non seulement écouter les conversions, mais également de suivre tout ce qui passe dans vos maisons.
Par ailleurs, nous avons appris récemment que les employés d'Amazon qui travaillent à améliorer son assistant vocal écoutent les enregistrements vocaux de ce qui se dit dans les maisons et les bureaux des propriétaires d’Echo, lorsque ce dernier est activé. Ces employés peuvent écouter jusqu'à 1000 enregistrements par jour, d’après Business Insider. Mais un porte-parole de l'entreprise a déclaré que les employés n'annotent qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Il a également fait savoir que ces employés n’ont pas directement accès aux informations permettant d’identifier la personne ou le compte dans le cadre de ce flux de travail.
Cependant, Bloomberg a rapporté ce même jour que l'équipe d'Amazon auditant les commandes des utilisateurs d'Alexa a accès aux données de localisation et peut, dans certains cas, trouver facilement l'adresse du domicile d'un client, d’après cinq employés familiarisés avec le programme. Selon ces employés s’exprimant sous couverture d’anonymat, les membres de l'équipe ayant accès aux coordonnées géographiques des utilisateurs d'Alexa peuvent facilement les saisir dans un logiciel de cartographie tiers et trouver des domiciles.
Selon le Chroniqueur, Noah Goodman, professeur agrégé d'informatique et de psychologie à l'Université Stanford, lui a confirmé qu'il est vrai que l'IA a besoin de données pour devenir plus intelligente : « Techniquement, ce qu'ils disent n'est pas déraisonnable ». Selon lui, les systèmes de traitement du langage naturel d'aujourd'hui doivent réexécuter leurs algorithmes sur d'anciennes données pour apprendre. Sans un accès facile aux données, leurs progrès pourraient ralentir. Toutefois, avec le regard non scientifique, M. Goodman a dit : « En tant qu'humain, je suis d'accord avec vous. Je n'ai pas un de ces haut-parleurs dans ma maison ».
Vous ouvrez les portes de votre vie privée aux entreprises de technologies à la recherche d’une maison plus connectée
En effet, non seulement ces entreprises n’utilisent pas ces enregistrements comme ils le promettent, mais ils peuvent se retrouver entre les mains des personnes malveillantes en cas de cyberattaque contre ces sociétés, comme cela s’est produit plusieurs fois avec Facebook. Nous voulons profiter de l'IA qui nous facilite la vie à la maison. Mais cela ne signifie pas pour autant que nous ouvrons nos portes aux entreprises de technologie comme source lucrative de données pour former leurs algorithmes et exploiter nos vies.
Google a dit en février dernier que le microphone intégré et non répertorié dans les spécifications de Nest n'était pas censé être secret, mais plutôt « c'était une erreur de notre part », après un an de commercialisation de son gadget intelligent de maison. En octobre dernier, Facebook avait aussi oublié de dire toute la vérité sur Portal, son premier appareil de domicile.
Ces enregistrements préoccupent également des Etats aux Etats-Unis. La semaine dernière, le comité de protection de la vie privée de l'Assemblée de l'État de Californie a proposé une loi anti-écoute qui obligerait les fabricants d'enceintes intelligentes à obtenir le consentement des clients avant de stocker des enregistrements. Le Sénat de l'Illinois a récemment adopté un projet de loi sur la même question, selon le chroniqueur. Jordan Cunningham, député de l'Assemblée de l'État de Californie, qui parraine leur projet de loi a dit : « Ils nous donnent de faux choix. Nous pouvons avoir ces appareils et profiter de leur fonctionnalité et de la façon dont ils améliorent notre vie sans compromettre notre vie privée ». « Bienvenue à l'ère du capitalisme de surveillance », a-t-il ajouté.
Ces enregistrements faits à domicile comme les autres données utilisateur doivent appartenir aux utilisateurs, par conséquent, c’est à eux de décider ce qu’il faut en faire. Il est temps que les Etats-Unis et les autres pays prennent des mesures pour faire respecter cela.
Source : The Washington Post
Et vous ?
:fleche: Que pensez-vous de cet article ?
:fleche: Les données sauvegardées ne servent qu’à enseigner l’IA. Quel est votre commentaire sur cette affirmation des fabricants des gadgets intelligents ?
:fleche: Avez-vous un haut-parleur dans votre maison ? Comptez-vous le garder là encore pour longtemps ?
Lire aussi
:fleche: Les utilisateurs des caméras de sécurité Ring d'Amazon seraient espionnés à leur insu, mais un porte-parole de la société nie les faits
:fleche: Les travailleurs d'Amazon écoutent ce que vous dites à Alexa, son assistant vocal intelligent, et en parlent dans un forum de discussion interne
:fleche: Si vous vous souciez de la vie privée, faut-il jeter vos appareils Amazon Alexa par la fenêtre ? L'équipe d'Alexa pourrait vous localiser
:fleche: Facebook ne vous aurait pas dit toute la vérité : la caméra de son « Portal » de domicile collectera vos données, à des fins de ciblage publicitaire
:fleche: Google : le micro intégré et non répertorié dans les spécifications de Nest n'était pas censé être secret, « c'était une erreur de notre part. »
Une réponse pareille prouve que si certains font preuve de culture informatique ils font preuve d'une inculture totale sur d'autres sujets, je m'explique :
