Des images privées capturées par l'aspirateur Roomba aux domiciles des bêta-testeurs fuitent sur Facebook
Des images privées capturées par l'aspirateur robot Roomba aux domiciles des bêta-testeurs fuitent sur Facebook,
son fabricant décline toute responsabilité, suscitant le désarroi chez les testeurs
MIT Technology Review a révélé comment les modèles de test iRobot collecte des photos et des vidéos au domicile d'utilisateurs et d'employés, puis les partagent avec des sociétés d'annotation de données. Le Roomba j7, puisqu'il s'agit de lui, est à l'origine d'une série d'images privées qui ont été partagées sur les réseaux sociaux. iRobot, son fabricant, a choisi de décliner toute responsabilité. Ces photos d’intérieurs ont été prises en 2020 par des Roomba en Europe (dont la France), aux États-Unis et au Japon.
La société de robotique domestique iRobot, surtout connue pour avoir été le pionnier des aspirateurs robotisés, a été fondée en 1990 par Colin Angle, Rodney Brooks et Helen Greiner, membres du laboratoire d'intelligence artificielle du MIT (CSAIL). En 2002, elle a lancé le robot aspirateur Roomba, une marque qui est depuis devenue la référence dans le domaine, avec plus de 30 millions d'unités vendues en 2020. iRobot est aujourd'hui le leader mondial de la robotique grand public. Brooks et Greiner ont ensuite fondé et dirigé plusieurs autres entreprises, tandis que Angle est resté à bord en tant que PDG.
Amazon a amorcé le rachat de cette société moyennant 1,7 milliard de dollars. La FTC a officiellement ouvert une enquête sur la question de savoir si les données fournies par l'aspirateur robot Roomba d'iRobot donnent à Amazon un avantage injuste dans le secteur de la vente au détail. Par exemple, Amazon pourrait avoir un avantage avec un consommateur cherchant à acheter un canapé en utilisant des cartes détaillées générées par iRobot pour suggérer des articles particuliers. L'enquête examinera également comment la gamme d'aspirateurs robots s'intégrerait aux produits de maison intelligente existants d'Amazon, comme Ring et Alexa.
Des photos de bêta-testeurs fuitent sur la toile
Les aspirateurs-robots haut de gamme sont de plus en plus souvent équipés de caméras qui leur permettent non seulement d'éviter les obstacles, mais aussi de les identifier afin d'optimiser toujours mieux leur stratégie de nettoyage. Sur certains modèles, il est aussi possible d'accéder à la caméra à distance pour vérifier ce qu'il se passe dans la maison. Bien entendu, le bon sens voudrait qu'aucune personne extérieure au domicile ne puisse accéder aux images, du moins sans autorisation de l'utilisateur.
Pourtant, une femme a été exposée sur les réseaux sociaux alors qu'elle était aux toilettes. L'image en question, prise à hauteur de pieds, a été réalisée par le Roomba j7 d'iRobot. D'autres clichés ont d'ailleurs été diffusés dans la foulée.
C'est ainsi que lorsque Greg a déballé un nouvel aspirateur robot Roomba en décembre 2019, il pensait savoir dans quoi il s'embarquait. Il autoriserait la version de test de préproduction de l'appareil de la série Roomba J d'iRobot à se déplacer dans sa maison, le laisserait collecter toutes sortes de données pour aider à améliorer son intelligence artificielle et fournirait des commentaires à iRobot sur son expérience utilisateur.
Il avait déjà fait tout cela auparavant. En dehors de son travail quotidien d'ingénieur dans une société de logiciels, Greg testait des produits en version bêta depuis une décennie. Il estime avoir testé plus de 50 produits au cours de cette période, des baskets aux caméras domestiques connectées. « J'aime vraiment ça », confie-t-il. « L'idée est que vous appreniez quelque chose de nouveau et, espérons-le, que vous soyez impliqué dans l'élaboration du produit, qu'il s'agisse de créer une version de meilleure qualité ou de définir des caractéristiques et des fonctionnalités ».
Mais ce que Greg ne savait pas (d'ailleurs, il ne pense pas y avoir consenti) c'est qu'iRobot partagerait les données des utilisateurs de test dans une chaîne d'approvisionnement de données mondiale tentaculaire, où tout (et chaque personne) capturé par les caméras frontales des appareils pourraient être vus, et peut-être annotés, par des sous-traitants mal payés en dehors des États-Unis qui pourraient capturer et partager des images à leur guise.
Greg, qui a demandé à être identifié uniquement par son prénom, car il a signé un accord de non-divulgation avec iRobot, n'est pas le seul testeur à se sentir consterné et trahi.
Image capturée par les aspirateurs robots de test, annotée par les étiqueteurs de données. Le visage de l'enfant était visible, mais MIT Review a décidé de le flouter avant de le publier
iRobot affirme avoir au moins obtenu l'autorisation de collecter des images
iRobot indique avoir au moins obtenu l'autorisation de collecter des images. Par la voix de Colin Angle, son PDG, l'entreprise a tenu a précisé d'abord que ces images datent de 2020 et, surtout, qu'elles proviennent d'un Roomba j7 de développement.
Ci-dessous, un extrait de son billet sur LinkedIn.
Les images incluses dans un récent article du MIT Technology Review proviennent de robots de développement iRobot utilisés par des collecteurs de données et des employés rémunérés en 2020. Elles ont été divulguées en externe par un fournisseur de services d'annotation d'images. iRobot met fin à sa relation avec le fournisseur de services, enquête activement sur la question et prend des mesures pour aider à prévenir une fuite similaire par tout fournisseur de services à l'avenir.
Nous avons demandé au MIT Technology Review de suspendre la publication des images sensibles, en particulier l'image avec un enfant et l'image de la personne dans la salle de bain, en raison du fait qu'elles ont été partagées de manière inappropriée. Malgré notre demande, ils ont avancé en incluant les images dans l'histoire. Nous regrettons profondément que ces images aient été partagées de cette manière et avons alerté l'employé et les autres collecteurs de données touchés par la fuite.
Il est très important de noter que :
- Les images ne proviennent pas de robots de production dans les maisons des consommateurs.
- Les robots utilisés pour collecter ces données sont des robots de développement spécialement équipés, c'est-à-dire qu'ils sont différents d'une version grand public de Roomba ou Braava. Les robots de développement sont modifiés avec des logiciels et du matériel qui ne sont pas présents sur les robots de production que les consommateurs achètent. Ils sont également apposés avec un autocollant vert fluo indiquant « enregistrement vidéo en cours ».
- Actuellement, toutes les données activement utilisées pour former des algorithmes d'apprentissage automatique proviennent de robots de développement utilisés par des collecteurs de données rémunérés, de la collecte de données internes d'employés et de données provenant d'environnements de laboratoire internes - aucune de clients.
- Les participants sont informés et reconnaissent comment les données seront collectées.
Vous savez peut-être que nos nouveaux aspirateurs robots, la série Roomba j7, permettent aux clients de choisir et de soumettre des images à des fins d'apprentissage automatique. Bien que ces images soient utilisées pour former des algorithmes d'apprentissage automatique à l'avenir, elles ne sont pas actuellement utilisées pour le faire. Ces images ne sont collectées que lorsqu'un client choisit de les soumettre.
Nous prenons très au sérieux la confidentialité et la sécurité des données, non seulement avec nos clients, mais dans tous les aspects de notre activité, y compris la recherche et le développement. iRobot a mis en place des mesures strictes régissant la manière dont nous gérons les données collectées à partir des robots de développement de la recherche, et nous prenons des précautions pour nous assurer que les données personnelles sont traitées en toute sécurité et conformément à la loi applicable.
Nos clients nous invitent dans leurs espaces les plus personnels - leurs maisons - parce qu'ils sont convaincus que nos produits les aideront à en faire plus. iRobot prend cette confiance au sérieux. C'est pourquoi les fonctionnalités de sécurité et de confidentialité sont intégrées à nos produits dès le début du processus de développement.
Qu'en est-il de l'autorisation de les diffuser ?
Aucun de ces utilisateurs n'a probablement signé pour que les données ainsi récoltées soient diffusées sur Internet, mais iRobot décline toute responsabilité pour la diffusion des images. Elles devaient servir à entraîner l'intelligence artificielle derrière la reconnaissance d'obstacles du Roomba j7, et rester privées. Malheureusement, l'entreprise a choisi d'externaliser le traitement des images et l'une des entreprises sélectionnées, notamment Scale AI, n'aurait pas respecté son contrat. iRobot indique avoir depuis mis fin à cette collaboration.
Qu'en pensent les internautes ?
Un internaute a réagi au message publié par le PDG d'iRobot :
De façon plus générale, les internautes ont, pour la plupart, critiqué son message.« Nous prenons très au sérieux la confidentialité et la sécurité des données, non seulement avec nos clients, mais dans tous les aspects de notre activité, y compris la recherche et le développement (...)». Soyons clairs, vous ne le faites pas. C'est la raison pour laquelle vous avez sous-traité des données sensibles pour économiser de l'argent, vous avez démontré que vous préfériez un profit plus élevé à la confidentialité. C'est la faute de vos entrepreneurs ET votre faute, il est trop facile de blâmer les autres lorsque vous faites des économies pour augmenter vos marges. De plus, la façon dont vous blâmez la revue du MIT pour avoir publié des images incriminantes de votre action est vraiment un autre niveau de pointage du doigt vers les autres.
Et MIT Technology Review de répliquer
Ci-dessous un extrait du billet du MIT Technology Review
Le PDG d'iRobot, Colin Angle, n'a pas reconnu que le simple fait que ces images et les visages des utilisateurs de test étaient visibles pour les travailleurs humains était un motif de préoccupation. Au contraire, a-t-il écrit, la mise à disposition de telles images était en fait nécessaire pour former les algorithmes de reconnaissance d'objets d'iRobot : « Comment nos robots deviennent-ils si intelligents ? Cela commence pendant le processus de développement, et dans le cadre de celui-ci, à travers la collecte de données pour former des algorithmes d'apprentissage automatique ». En outre, a-t-il souligné, les images ne provenaient pas de clients, mais de « collecteurs de données et d'employés rémunérés » qui avaient signé des accords de consentement.
Dans le post LinkedIn et dans les déclarations à MIT Technology Review, Angle et iRobot ont souligné à plusieurs reprises qu'aucune donnée client n'a été partagée et que « les participants sont informés et reconnaissent comment les données seront collectées ».
Cette tentative de délimitation claire entre les clients et les bêta-testeurs (et la manière dont les données de ces personnes seront traitées) a été déroutante pour de nombreux testeurs, qui disent se considérer comme faisant partie de la communauté plus large d’iRobot et estiment que les commentaires de l’entreprise sont dédaigneux. Greg et les autres testeurs qui ont MIT Technology Review contestent également fortement toute implication selon laquelle en se portant volontaires pour tester un produit, ils ont renoncé à toute leur vie privée.
De plus, la frontière entre le testeur et le consommateur n'est pas si nette. Au moins un des testeurs à qui nous avons parlé a tellement apprécié son test Roomba qu'il a ensuite acheté l'appareil.
Ce n'est pas une anomalie. En fait, convertir les bêta-testeurs en clients et en évangélistes pour le produit est quelque chose que Centercode, la société qui a recruté les participants au nom d'iRobot, essaie activement de promouvoir : « Il est difficile de trouver de meilleurs ambassadeurs potentiels de la marque que dans votre communauté de bêta-testeurs. Ils constituent un grand bassin de voix libres et authentiques qui peuvent parler de votre produit au monde et à leurs amis (probablement technophiles) », a-t-il écrit dans un article de blog marketing.
Pour Greg, iRobot a « échoué de manière spectaculaire » dans son traitement de la communauté des testeurs, en particulier dans son silence sur la violation de la vie privée. iRobot dit avoir informé les personnes dont les photos sont apparues dans l'ensemble de 15 images, mais il n'a pas répondu à la question de savoir s'il informerait d'autres personnes ayant participé à sa collecte de données. Les participants qui nous ont contactés ont déclaré n'avoir reçu aucune notification de la part de l'entreprise.
« Si les informations de votre carte de crédit… ont été volées chez Target, Target n'informe pas la seule personne qui a été victime de la violation », a noté Greg. « Ils envoient une notification indiquant qu'il y a eu une violation, ce qui s'est passé et comment ils gèrent le problème ».
Ce que les utilisateurs acceptent vraiment
Lorsque MIT Technology Review a contacté iRobot pour commenter l'ensemble de 15 images l'automne dernier, la société a souligné que chaque image avait un accord de consentement correspondant. Cependant, elle s'est refusée à partager les accords avec la revue, invoquant des « raisons juridiques ». Au lieu de cela, la société a déclaré que l'accord exigeait une « reconnaissance que la vidéo et les images sont capturées pendant les travaux de nettoyage » et que « l'accord encourage les collecteurs de données rémunérés à supprimer tout ce qu'ils jugent sensible de tout espace dans lequel le robot opère, y compris les enfants ».
Les utilisateurs de test ont depuis partagé avec MIT Technology Review des copies de leur accord avec iRobot. Ceux-ci incluent plusieurs formes différentes, y compris un accord général Betabound et un « accord de test global pour les robots de développement », ainsi que des accords de non-divulgation, de participation aux tests et de prêt de produits. Il existe également des accords pour certains des tests spécifiques en cours d'exécution.
Les formulaires contiennent le langage précédemment défini par iRobot, tout en énonçant les propres engagements de l'entreprise en matière de protection des données pour les utilisateurs de test. Mais ils fournissent peu de clarté sur ce que cela signifie exactement, en particulier sur la manière dont l'entreprise traitera les données des utilisateurs après leur collecte et avec qui les données seront partagées.
« L'accord de test mondial pour les robots de développement », dont des versions similaires ont été partagées indépendamment par une demi-douzaine de personnes qui les ont signés entre 2019 et 2022, contient l'essentiel des informations sur la confidentialité et le consentement.
Dans le court document d'environ 1 300 mots, iRobot note qu'il s'agit du contrôleur des informations, qui s'accompagne de responsabilités légales en vertu du RGPD de l'UE pour garantir que les données sont collectées à des fins légitimes et stockées et traitées en toute sécurité. De plus, il déclare: « iRobot accepte que les fournisseurs et fournisseurs de services tiers sélectionnés pour traiter [les informations personnelles] soient contrôlés pour la confidentialité et la sécurité des données, soient liés par une stricte confidentialité et soient régis par les termes d'un accord de traitement des données », et que les utilisateurs « peuvent avoir droit à des droits supplémentaires en vertu des lois applicables en matière de confidentialité là où [ils] résident ».
C'est cette section de l'accord que Greg pense qu'iRobot a violée. « Où dans cette déclaration se trouve la responsabilité qu'iRobot propose aux testeurs ? » demande-t-il. « Je ne suis absolument pas d'accord avec la désinvolture avec laquelle cela est répondu ».
Sources : MIT Technology Review, PDG iRobot
Et vous ?
Quelle lecture faites-vous de cette situation ?
Répondre avec citation
Partager