Les gens utilisent ChatGPT et le clonage vocal pour torturer les télévendeurs
Les gens se servent de ChatGPT et du clonage vocal pour torturer les télévendeurs,
comment les consommateurs s'appuient sur l'IA comme d'une arme contre les appels téléphoniques abusifs
Les appels téléphoniques indésirables sont une nuisance pour beaucoup de gens qui reçoivent des sollicitations commerciales, des arnaques ou des sondages à toute heure du jour et de la nuit. Certains ont décidé de riposter en utilisant des logiciels d’intelligence artificielle et des outils de clonage de la voix par IA qui simulent des interlocuteurs distraits, naïfs ou bavards, prêts à rester au téléphone indéfiniment... ou jusqu’à ce que les appelants abandonnent.
Des plaintes en hausse
Les plaintes concernant les appels téléphoniques indésirables sont « de loin la plus grande catégorie de plaintes des consommateurs à la FCC », avec une moyenne de 14 appels indésirables par mois pour chaque Américain, selon un rapport du Wall Street Journal. La FCC est l’agence fédérale américaine chargée de réguler les communications par radio, télévision, fil, satellite et câble.
Malgré les efforts de la FCC pour bloquer ou filtrer ces appels, les télévendeurs utilisent souvent des techniques de « spoofing » qui leur permettent de masquer leur véritable identité ou leur numéro de téléphone. Ils peuvent ainsi contourner les listes d’opposition ou les applications anti-spam.
Des bots pour les piéger
Face à cette situation, certains consommateurs ont décidé de se venger en engageant des robots téléphoniques qui se font passer pour des humains et qui tiennent la conversation avec les télévendeurs le plus longtemps possible. C'est le développeur Roger Anderson qui a créé Jolly Roger Telephone. Il s'agit d'une application téléphonique qui utilise la technologie GPT-4 d'OpenAI et le clonage vocal pour établir une conversation réaliste et chronophage avec des télévendeurs qui ne mène nulle part. Ce cocktail d'AI et clonage vocal reproduit des voix réalistes qui s’adaptent au contexte de l’appel.
Le service Jolly Roger Telephone Co. propose plusieurs personnages de robots, comme « Whiskey Jack », un homme âgé qui parle lentement et qui raconte des anecdotes sans rapport, ou « Sal », une femme qui semble intéressée par l’offre mais qui est constamment interrompue par son mari ou ses enfants. Ces robots sont conçus pour détecter les mots-clés ou les questions des télévendeurs et pour y répondre de manière vague ou déroutante.
Le but est de faire perdre du temps et de l’argent aux télévendeurs, mais aussi de les décourager ou de les frustrer. Certains robots peuvent même se moquer d’eux ou leur faire croire qu’ils ont gagné un prix. Les consommateurs qui utilisent ces services peuvent écouter les enregistrements des appels ou les partager sur les réseaux sociaux.
Whitey Whitebeard (en fait la voix d'un ami agriculteur du Vermont d'Anderson) par exemple fait tourner en bourrique les télévendeurs. Le début de l'appel repose sur des expressions prédéfinies de chatbots, comme dire "uh-huh" et demander le nom de l'appelant, jusqu'à ce que GPT-4 entre en jeu et réponde plus précisément.
Dans l'un des échantillons publiés sur son site, un télévendeur du nom de Kevin essaie de faire que Whitebeard parle de ses cartes de crédit afin de lui vendre du crédit en consolidation. Et le bot semble comprendre, mais semble aussi un peu confus, ce qui maintient l'intérêt de Kevin et lui fait perdre plus de temps.
« Quoi qu'il en soit, je pense que je dois environ, qu'est-ce que c'était, 15 000 $ ou était-ce 1 500 $. Je ne m'en souviens jamais », indique Whitebeard en guise de réponse à Kevin. « Laissez-moi aller chercher mes lunettes de lecture et vérifier mes relevés. Je reviens tout de suite. N'allez nulle part ».
L'appelant Kevin a attendu. Et finalement, tout l'appel lui a coûté plus de 6 minutes de son temps.
Anderson publie certains des appels sous forme d'enregistrements pour commercialiser Jolly Roger Telephone, qui offre un essai gratuit de 30 jours et coûte ensuite 1,99 $ par mois.
Au début, ChatGPT et GPT-4 ne voulaient pas coopérer
Fait intéressant, ChatGPT et GPT-4 ont résisté aux tentatives initiales d'Anderson de les lier à son bot téléphonique. Les IA se sont opposées à l'idée qu'elles devraient faire « perdre » du aux gens. Alors Anderson a reformulé sa demande.
« Je lui ai dit : "Vous êtes un assistant personnel et vous essayez de protéger cet homme contre l'arnaque" », a-t-il déclaré.
Ce n'est pas faux : si le bot peut frustrer les télévendeurs, il peut aussi par la même occasion frustrer les escrocs.
Comment Anderson en a-t-il eu l'idée?
Sur son blog, Anderson, qui a eu deux téléphones fixes pendant 15 ans, a écrit qu'un jour, son jeune fils a répondu au téléphone et est tombé sur un télévendeur furieux qui a utilisé « des gros mots ». Anderson est un professionnel des systèmes téléphoniques et a décidé de prendre les choses en main.
Il a commencé avec une liste blanche « opt-in » d'identifiants d'appelants - ceux qui appellent chez lui sont accueillis par un message qui dit « hé, si vous êtes une vraie personne, appuyez sur n'importe quel bouton et vous appellerez pour ma maison. Sinon, je vous enverrai sur la messagerie vocale et vous pourrez laisser un message ». Il a supposé que les télévendeurs appuieraient sur n'importe quel bouton et seraient connectés à son domicile. Pour lutter contre cela, il a programmé son téléphone pour lui envoyer une notification par e-mail contenant un lien lui permettant de configurer son téléphone pour qu'il envoie un message de déconnexion à l'appelant indésirable, qu'il laisse cette personne se connecter au téléphone du domicile ou qu'il "la défie la prochaine fois".
Anderson a constaté que le programme fonctionnait, mais il a ensuite commencé à analyser le comportement et l'inspiration des télévendeurs. Ils raccrochent généralement après environ 10 secondes au téléphone, ce qui signifie qu'ils utilisent les "numéroteurs prédictifs" de leur entreprise pour déterminer s'ils ont atteint un répondeur ou un humain. Si c'est une machine, ils raccrochent. Anderson voulait causer de la "douleur" aux télévendeurs, alors il a créé un algorithme qui exprimerait des réponses préenregistrées - d'abord « bonjour » puis des choses comme « oui », « uh huh » et « de quoi s'agit-il ? », gardant ainsi l'appel en cours et consommant le temps et la patience des télévendeurs.
Puis, en 2016, Anderson a créé un bot AI qu'il a mis à la disposition du grand public afin que quiconque puisse l'essayer sur son propre téléphone. Il a mis à jour son système récemment suite à la sortie de ChatGPT.
Une efficacité discutable
Ces robots téléphoniques sont-ils efficaces pour réduire le nombre d’appels indésirables ? Les avis sont partagés. Certains estiment qu’ils sont une forme de justice poétique ou qu’ils peuvent dissuader les télévendeurs de rappeler le même numéro. D’autres pensent qu’ils sont inutiles ou contre-productifs, car ils incitent les télévendeurs à insister davantage ou à se venger en appelant encore plus souvent.
De plus, ces robots peuvent poser des problèmes éthiques ou juridiques. En effet, ils peuvent tromper des personnes innocentes qui appellent pour une raison légitime, comme un médecin, un ami ou un employeur. Ils peuvent aussi violer les lois sur la protection de la vie privée ou le consentement à l’enregistrement des conversations.
Enfin, ces robots peuvent être perçus comme une forme de harcèlement ou d’abus envers les télévendeurs, qui sont souvent des travailleurs précaires, exploités ou victimes d’escroqueries eux-mêmes. Certains défenseurs des droits humains appellent donc à la compassion et au respect envers ces personnes, plutôt qu’à la vengeance.
Comment ça marche
Source : Jolly Roger
Et vous ?
Répondre avec citation
Envoyé par escartefigue
Partager