Des publicités pour un collier doté d'une IA conçu pour vous écouter en permanence provoquent un tollé
Un collier doté d'une IA conçu pour vous écouter en permanence via un microphone intégré provoque un tollé, les affiches publicitaires sont vandalisées avec des avertissements sur les dangers de l'IA
Une startup spécialisée dans l'IA a dépensé plus d'un million de dollars pour faire la publicité de son nouveau pendentif dans le métro de New York. Le collier est conçu pour vous écouter en permanence par via un microphone et envoyer des messages sarcastiques générés par l'IA sur votre smartphone. Cependant, la campagne a attisé la colère des New-Yorkais. Le collier, appelé « Friend », s'est avéré extrêmement controversé, suscitant une vague de critiques. Les affiches publicitaires pour Friend ont été vandalisées avec des avertissements sur les dangers de l'IA, notamment l'isolement et les troubles mentaux. Ils ont rappelé l'importance d'avoir des amis humains.
Le collier Friend a été lancé par une startup du même nom. Il intervient après l'échec cuisant du gadget portable Humane AI Pin et l'assistant rabbit r1. Humane a attiré les consommateurs avec des promesses ambitieuses. Humane avait affirmé que son gadget portable aiderait l'humanité à se débarrasser de sa dépendance critique à l'égard du smartphone. Le fabricant du rabbit r1 avait des promesses similaires. Tous deux ont échoué lamentablement.
Friend pourrait connaitre le même destin. Le collier Friend de la startup est un gadget portable de 129 $ doté d'une IA. Porté autour du cou, Friend écoute en permanence vos conversations via un microphone intégré et peut envoyer des messages sarcastiques générés par l'IA sur votre smartphone.
Présenté comme un « ami numérique », ce bijou suscite de profondes inquiétudes, puisqu’il repose sur l’enregistrement permanent du son ambiant. La campagne publicitaire lancée par Friend pour promouvoir son collier dans le métro de New York s'est heurtée à des foules de résidents en colère. Rapidement après leur installation, les affiches publicitaires ont été vandalisées. Des passants ont griffonné des messages critiques sur les affiches publicitaires.
L'Union américaine pour les libertés civiles (ACLU) a émis un avertissement sévère à propos de cet appareil, rappelant les problèmes de confidentialité qu'il pose. « N'oubliez pas que tout ce qui est enregistré sur un appareil tel que cet « ami » IA peut être utilisé contre vous, que ce soit par des pirates informatiques, des entreprises privées ou le gouvernement », a écrit l'organisation à but non lucratif dans un message publié sur les réseaux sociaux.
Friend est largement rejeté et suscite des critiques virulentes
« Une personne ayant des amis n'a nullement besoin d'un compagnon IA avec qui discuter, tout en renforçant la capacité de surveillance de l'État à un point tel que George Orwell boirait un pot de mercure à température ambiante. Et ceux qui n'ont pas d'amis humains ont sans doute encore moins besoin de vous », a écrit Josh Gondelman, humoriste new-yorkais, dans un « discours d'encouragement » ironique destiné à l'appareil portable promu par Friend.
« Liez-vous d'amitié avec quelque chose de vivant », peut-on lire sur un graffiti ; « l'IA se fiche que vous viviez ou mouriez », a écrit un autre vandale ; « les relations humaines sont sacrées », a écrit un vandale, soulignant que « l'IA n'est pas votre amie » ; « les amis ne laissent pas leurs amis vendre leur âme », souligne un vandale. Un critique a écrit : « cette chose est effrayante Pensez simplement à tous les problèmes qu'elle pose pour la vie privée ».
Cet acte de vandalisme fait désormais partie d'une immense archive en ligne qui rassemble les publicités dégradées inspirées par la campagne Friend, car de nombreux New-Yorkais ont réagi avec virulence aux affirmations marketing selon lesquelles « l'ami IA ne vous laisserait jamais tomber pour un dîner ou ne vous abandonnerait jamais pour prendre le métro seul ». Selon les critiques, ce type de discours pousse les consommateurs à l'isolement.
En réponse à cette affirmation, un critique a mis en garde les consommateurs : « donner librement vos informations personnelles aux géants de la technologie ne guérira pas vos blessures ». Il a exhorté les usagers du métro à se joindre à la campagne contre Palantir, l'entreprise du milliardaire Peter Thiel utilise l'IA pour surveiller les individus et identifier des cibles militaires. D'autres ont dénoncé l'essor fulgurant des centres de données pour l'IA dans le pays.
Un vandale a déclaré que « les centres de données de la startup xAI du milliardaire Elon Musk empoisonnent les communautés noires des zones rurales des États-Unis ». En effet, le centre de données Colossus de xAI à Memphis, dans le Tennessee, utilise des turbines à méthane qui polluent considérablement l'environnement. Selon les experts, l'installation de xAI libère des gaz toxiques pour l'homme, dont le formaldéhyde, un agent cancérigène connu.
Le PDG de Friend dit avoir intentionnellement irrité les esprits
Avi Schiffmann, le PDG de Friend âgé de 22 ans, a fait une déclaration surprenante en affirmant qu'il avait intentionnellement provoqué toute cette haine en laissant suffisamment d'espace libre sur les publicités pour que tout le monde puisse y apposer des graffitis. « Je sais que les New-Yorkais détestent l'IA, et tout ce qui touche à l'accompagnement par l'IA et aux appareils portables, probablement plus que partout ailleurs dans le pays », a-t-il expliqué.
« J'ai donc acheté plus d'espaces publicitaires que quiconque auparavant, avec beaucoup d'espace blanc, afin qu'ils puissent commenter socialement le sujet », at-il ajouté. Au total, Friend a dépensé plus d'un million de dollars en publicités dans le métro de New York pour devenir la risée de tous.
En plus de déclencher une vague massive de sentiments anti-IA, le gadget de Friend laisse également beaucoup à désirer. Dans un article cinglant, Victoria Song, de The Verge, qui a testé l'appareil, a souligné son utilité extrêmement limitée et sa forte tendance à l'antagoniser. Cela rappelle l'histoire du Humane AI Pin. « Blorbo [le nom donné à l'appareil par Song] était irritant et il était pratiquement impossible d'interagir avec lui », a écrit Victoria Song.
« Probablement parce que Blorbo n'a qu'un seul micro, et qu'il est donc ironiquement très mauvais dans la seule chose qu'il est censé faire le mieux : écouter. Il m'a incitée à lui en dire plus sur les produits que je voyais et testais. Mais je ne pouvais pas ignorer l'artifice. La conversation ne dépassait jamais la formule standard de l'IA consistant à paraphraser ce que vous dites et à poser une question sans grand intérêt pour poursuivre la conversation ».
D'autres testeurs ont également déclaré que le gadget de Friend était « un appareil incroyablement antisocial à porter ». « Les gens n'étaient jamais enthousiastes à l'idée de le voir autour de mon cou », a écrit un testeur. Les commentaires sur la toile révèlent que d'autres perçoivent l'appareil comme un « espion numérique ».
L'industrie de l'IA accusée de profiter de la solitude des gens
Outre les réactions négatives suscitées par la crainte d'un capitalisme de surveillance, les détracteurs ont accusé le PDG de Friend de profiter de l'épidémie de solitude. Dans le cadre d'une enquête menée en 2024, les chercheurs du programme Making Caring Common de la Harvard Graduate School of Education ont constaté que les personnes âgées de « 30 à 44 ans étaient le groupe le plus solitaire ». Dans l'ensemble, 73 % des personnes interrogées ont sélectionné la technologie comme « facteur contribuant à la solitude dans le pays ».
Avi Schiffman rejette toutefois ces critiques. Il a déclaré au New York Times que son pendentif Friend est destiné à compléter les amis humains, et non à les remplacer, et que le gadget portable contribuerait à augmenter de manière significative « l'intelligence émotionnelle moyenne » des utilisateurs.
« Je ne considère pas cela comme dystopique », a-t-il déclaré, suggérant que « l'AI Friend est une nouvelle catégorie de compagnie, qui coexistera avec les amis traditionnels plutôt que de les remplacer ». « Nous avons un chat, un chien, un enfant et un adulte dans la même pièce. Pourquoi pas une IA ? », a-t-il déclaré. Il a confirmé que jusqu'à présent, les publicités n'ont pas généré de ventes significatives ; seulement 3 100 gadgets ont été vendus.
Entre-temps, les détracteurs se sont empressés d'attaquer Friend sur les réseaux sociaux, inspirant la création d'un site Web où tout le monde peut vandaliser une publicité Friend et la partager en ligne. Selon le créateur, Marc Mueller, le site a reçu près de 6 000 contributions à ce jour. Les visiteurs peuvent découvrir ces contributions en choisissant « ride train to see more » (prendre le train pour en voir plus) après avoir créé leur propre version vandalisée.
Sources : Friend, critiques contre Friend (1, 2)
Et vous ?
Que pensez-vous du gadget portable Friend ?
Voir aussi
Répondre avec citation
Partager