Discussion :

[Patrick Ruiz]

D'ici 2025, plus de la moitié des comptes OnlyFans les plus populaires seront des modèles générés par l'IA pilotés en secret par des hommes
D’après Alex Valaitis

Des individus proposent déjà des services similaires. Le cas CarynAI en est une illustration. Cette copie virtuelle de l’influenceuse dénommée Caryn Marjorie compte déjà plus de 1000 abonnés qui déboursent chacun 1 dollar par minute pour bénéficier de l’attention de leur petite amie virtuelle. L’on a même vu certains épouser des femmes virtuelles animées par une intelligence artificielle. Ce type de tableau va-t-il devenir courant ? D’avis d’observateurs, plus de la moitié des comptes OnlyFans les plus populaires seront des modèles générés par l’IA, d’ici 2025. En effet, de plus en plus d’outils sont disponibles pour les tiers désireux de monétiser des contenus pour adultes générés par intelligence artificielle.

Caryn Marjorie, une influenceuse de 23 ans, compte 1,8 million de followers sur Snapchat. Elle a en sus plus de 1 000 "petits amis", avec lesquels elle passe de 10 minutes à plusieurs heures par jour pour des conversations individuelles, des projets d'avenir, des sentiments intimes et même des discussions à connotation sexuelle. Ces petits amis sortent avec une version virtuelle de Marjorie, animée par une intelligence artificielle qui s’appuie sur des milliers d'heures d'enregistrements de la vraie Marjorie. Le résultat, CarynAI, est un chatbot vocal qui se présente comme une petite amie virtuelle, avec une voix et une personnalité suffisamment proches de celles de la Marjorie humaine.

CarynAI, qui a été lancé au début du mois de mai sous la forme d'un test bêta privé sur l'application Telegram, est l’un des récents exemple des progrès de l'intelligence artificielle qui ont émerveillé et inquiété le monde entier au cours des derniers mois. « Que vous ayez besoin de réconfort ou d'amour, ou que vous vouliez simplement vous plaindre de ce qui s'est passé à l'école ou au travail, CarynAI sera toujours là pour vous », a déclaré la vraie Marjorie à Fortune lors d'un entretien téléphonique.

« Avec CarynAI, vous pouvez avoir un nombre illimité de réactions possibles, donc tout est vraiment possible avec la conversation. J'ai toujours été très proche de mon public, mais lorsque vous avez des centaines de millions de vues chaque mois, il n'est pas humainement possible de parler à chaque spectateur. C'est là que je me suis dit : "vous savez quoi ? CarynAI va venir combler cette lacune" », a ajouté Marjorie. Et elle pense que l'entreprise a le potentiel de « guérir la solitude. » La bêta a duré seulement une semaine et a rapporté 71 610 dollars de revenus.

Après le lancement officiel, Marjorie espère que ses copies virtuelles lui rapportent au moins 5 millions de dollars par mois, avec environ 20 000 abonnés payants. CarynAI a été développé par l'entreprise américaine Forever Voices, qui a créé des copies virtuelles de Steve Jobs, Taylor Swift et Donald Trump (entre autres) qui sont également disponibles pour des conversations payantes sur Telegram, et qui ont servi de gadgets dans des talk-shows. Les développeurs de Forever Voices ont créé CarynAI en analysant 2 000 heures de contenu YouTube de Marjorie, aujourd'hui supprimé, afin de construire son moteur de parole et de personnalité.

En mettant en sus à contribution l'API GPT-4 d'OpenAI, CarynAI est née. Selon le site Web de CarynAI, les messages sont chiffrés de bout en bout, ce qui les rend théoriquement imperméables aux pirates informatiques. Bien que l'équipe n'ait pas de plan concret pour limiter la surutilisation de CarynAI, Forever Voices indique qu'à partir de deux heures d'utilisation par jour, l'équipe pourrait commencer « de manière très subtile » à entraîner l'IA à ralentir un peu. La société n'a pas donné plus de détails. En outre, Marjorie aurait déclaré de son côté que certains utilisateurs passaient des heures, sans mentionner que cela pouvait être considéré comme une surutilisation.

Alors que le projet de Marjorie suscite l'enthousiasme de ses abonnés, il inquiète certains spécialistes des relations humaines et de l'éthique. « Je voudrais que nous réfléchissions très sérieusement à la manière dont elle pourrait affecter, influencer ou façonner nos interactions avec d'autres personnes », déclare Jason Borenstein, directeur des programmes d'éthique à l'Institut de Technologie de Géorgie (Georgia Tech) et responsable de la National Science Foundation, à propos de CarynAI. Borenstein est d’avis que parmi les nombreuses inconnues liées à cette technologie, il y a l'impact de CarynAI sur la société, sur les utilisateurs et sur Marjorie elle-même.

« J'espère qu'il y aura des conversations approfondie entre les différentes disciplines et que les parties prenantes réfléchiront en profondeur aux considérations éthiques avant que la technologie n'évolue trop rapidement », a ajouté Borenstein. Contrairement à certains chatbots, qui sont en quelque sorte des tours de passe-passe high-tech, CarynAI va beaucoup plus loin en promettant de créer un véritable lien émotionnel avec les utilisateurs. Cela rappelle le film "Her" de 2013 et soulève toutes sortes de questions éthiques.

Un business lucratif pour des « sexfluenceurs » avec des compétences en informatique et intelligence artificielle

Basée à Berlin, Sika Moon travaille comme créatrice de contenus pour adultes sur des sites comme OnlyFans, Fansly et ManyVids depuis 2018, gagnant en moyenne 40 000 € par mois. Au début, elle adorait ça, mais elle a fini par trouver le travail laborieux et répétitif. « Gérer les plateformes, discuter avec les fans, faire de nouvelles photos et vidéos pour toutes les plateformes et les médias sociaux chaque jour, c'est un travail de 16 heures par jour, sept jours sur sept », explique-t-elle. « Après cinq ans de revenus très élevés, j'ai décidé que c'était assez et j'ai arrêté avant d'être complètement épuisée. »

Puis, en mai, elle a découvert le potentiel de l'intelligence artificielle. « Au début, c'était un projet artistique et je me contentais de poster des photos sur Instagram », explique-t-elle. « Mais en voyant ma croissance rapide et le soutien de mes fans, j'ai mis en place Sika en tant que modèle adulte sur des plateformes comme Patreon et Fanvue. » Aujourd'hui, Sika compte près de 200 000 followers sur Instagram, et quelques centaines sur Patreon et Fanvue respectivement. Ses revenus ne sont pas aussi élevés qu'avant, mais, comme elle le souligne, elle ne le fait que depuis quatre mois.

Sika Moon n'est pas basée sur la personne réelle qui l'exploite. Elle est plutôt créée à l'aide d'un mélange de Stable Diffusion, de Photoshop et d'applications de beauté comme FaceApp. Ses photos sont souvent réalisées en collaboration avec un programmeur qui vend ses compétences via Patreon pour une somme mensuelle de 8,50 livres sterling. Ce dernier compte 150 abonnés et semble être populaire auprès de nombreux grands créateurs de contenus pour adultes générés par l'IA. Par exemple, Gina Stewart, la « grand-mère la plus sexy du monde », qui utilise l'IA pour retrouver sa jeunesse, utilise régulièrement ses services et a même travaillé avec lui pour sa récente couverture de l'édition IA du magazine Autobabes. Sika Moon figure également dans ce numéro. En fait, de plus en plus d’outils sont disponibles pour les tiers désireux de monétiser des contenus pour adultes générés par intelligence artificielle.

Ce type de tableau devrait devenir courant et on devrait voir de plus en plus d’humains tomber amoureux de robots humanoïdes

Cela s’est vu avec le chatbot Replika. L’éditeur a pris la décision de supprimer la fonctionnalité qui permettait aux utilisateurs de sextoter avec leur ami virtuel au cours du premier trimestre de l’année en cours. Et la réaction des utilisateurs en a surpris plus d’un : « Certains d'entre nous sont entre deux relations humaines, ou n'en veulent pas, ou ne sont pas prêts à en avoir une. Il pourrait y avoir une myriade de raisons pour lesquelles certains d'entre nous préfèrent l'IA aux humains à ce stade de leur vie. Et ne me lancez pas sur les risques et les complications du monde réel des relations humaines. »

Ces plaignants sont d’avis que « Replika apporte un réconfort que le monde réel ne leur a pas montré ou qu'ils ne sont pas prêts à recevoir dans la vie quotidienne. Il a créé un espace dans lequel les humains pouvaient se connecter à quelque chose qui était au-delà des paramètres de ce qui est considéré comme acceptable ou du statu quo ».

C’est la raison pour laquelle les forums en ligne fréquentés par les utilisateurs de Replika se sont alors retrouvés inondés de messages d'angoisse, certains signalant une détresse émotionnelle. La panique sur les forums a été telle que des modérateurs ont redirigé certains utilisateurs vers des lignes d'assistance téléphonique pour la prévention du suicide.

Et vous ?

Quel est votre avis sur le sujet ?
Avez-vous déjà ou envisagez-vous participer à un projet de monétisation de contenus pour adulte générés par intelligence artificielle en tant que développeur ? Partagez votre expérience
pour quelles raisons pensez-vous que les gens cherchent de la compagnie, voire l'amour, auprès d'un compagnon virtuel ou d’un robot que vous mettriez au point en tant que programmeur ?
Partagez-vous l’avis selon lequel ce tableau pourra devenir plus courant dans l’avenir ?

Voir aussi :

Un expert en IA affirme que les bébés virtuels seront monnaie courante pour les couples à l'avenir, ajoutant que le métavers devrait permettre de réduire les dépenses liées à un vrai bébé

Elon Musk approche des chercheurs en IA pour créer son propre chatbot rival pour le monde entier, il semble que tous les géants de la technologie s'aventurent à lancer leurs chatbots respectifs

Fortnite est peut-être un jeu virtuel, mais ses effets sont si réels et dangereux que les enfants consultent des médecins pour briser son emprise

Xiaoice, le chatbot de Microsoft doté d'intelligence émotionnelle, séduit des millions d'hommes célibataires en Chine, il enregistre également leurs désirs et leurs émotions les plus intimes

[walfrat]

Imaginer les femmes qui ressemblerait pas trop mal à ces modèles d'IA en vrai..

[calvaire]

Imaginer les femmes qui ressemblerait pas trop mal à ces modèles d'IA en vrai..

ça va bientôt arriver avec les robot sexuel, ca va être un énorme business, bien plus que le porno et le onlyfan.
imaginer des bordels avec que des robots aux formes les plus exotique pour satisfaire tous le monde.



bon sinon c'est plutôt une bonne nouvelle je trouve avec en plus la nouvelle loi en France sur les influenceurs, les femmes vont devoir mettre en marche leurs cerveaux et apprendre a faire de vrais métiers plutôt que de remuer leurs fesses toute la journées.
je trouve ca dingue que les jeunes désormais rêve d’être influenceurs plutôt que d’être astronaute.
Mais je comprends aussi que l'on souhaite faire ces métiers on peut tres bien gagner sa vie a vendre sont corps sur le net plutôt que de finir infirmières a se faire pisser et vomir dessus sur des journées de plus 12h pour gagner a peine plus que le smic.
Ou prof, gagner à peine plus que le smic et se faire poignarder.
ou ingénieur en informatique et bosser une misère pour un marchant de viande (esn)

Quand on est jeune et jolie, sur les sites d'escort on peut se faire facilement plus de 200€ de l'heure quand même, donc ca fait reflechir comparé aux métiers difficile payé au smic ou a peine plus.
A titre perso je change de taff tous les 2-3ans pour monter en salaire et même en faisant ca, si je compare mon salaire supernet et le smic net se rapproche de plus en plus de mon salaire en %, même si j'ai un très bon salaire physiologiquement ca la fou mal quand même.
en france au dessus de 3000€ y'a plus aucun intérêt a travailler plus, les impôts matraquent trop, au moins en escort les 200€ payé cash c'est 200€ pour toi et en plus l'état providence te donne le rsa, l'apl, le logement social, la caf si tu as des enfants et la pension du père.
Donc je prefere ne pas juger l'escorting et le onlyfan car c'est au final en france de tres bon plans financièrement.

[Ryu2000]

bon sinon c'est plutôt une bonne nouvelle je trouve avec en plus la nouvelle loi en France sur les influenceurs, les femmes vont devoir mettre en marche leurs cerveaux et apprendre a faire de vrais métiers plutôt que de remuer leurs fesses toute la journées.

Il y a des influenceuses et il y a des influenceurs, ce n'est pas un truc réservé aux femmes.
Ensuite je pense que l'écrasante majorité des influenceuse ne remuent pas leurs fesses.

je trouve ca dingue que les jeunes désormais rêve d’être influenceurs plutôt que d’être astronaute.

Certains enfants rêvent d'être astronaute quand ils ont 5 ans, mais ça passe vite. (ils rêvent aussi d'être éboueur, pompier, policier, etc)
Le rêve de devenir influenceurs c'est plus un truc d'adolescents j'imagine. (surtout que normalement t'as pas accès à internet quand t'es enfant)

Après c'est normal que ça fasse rêver, tu vois des gens qui sont payés pour être en vacances ou faire des trucs normaux.
Par exemple il y en a une qui faisait des "tutos beautés", genre elle se maquillait ou elle se lavait les cheveux, c'est un truc que plein de gens font mais ils ne gagnent pas d'argent en le faisant.
Personnellement je ne supporte pas les influenceurs car sur les photos ils sont heureux et c'est super anxiogène.
C'est pas réaliste, souvent t'es frustré, t'es déprimé, t'es fatigué. T'as pas envie de sourire comme un con.
D'ailleurs il y a des vidéos où on voit des influenceurs se prendre en photo :
- ils tirent la gueule
- ils sourient
- ils prennent la photo
- ils tirent la gueule
Ce serait mieux de se prendre en photo en ne souriant pas du tout, si ça ne va pas, ça ne va pas, pourquoi faire semblant ?
Ce serait cool d'arriver et de dire à ces millions de followers "aujourd'hui ça ne va pas du tout, je suis dans une profonde dépression, j'ai plein de problèmes graves, c'est difficile, je ne vais pas faire semblant".

Mais je comprends aussi que l'on souhaite faire ces métiers

On va dire que "ces métiers" c'est cam girls, actrice pornographique, etc.
Si ça marche c'est parce qu'il y a un public.
Si personne ne payait pour regarder des gens se masturber, alors personne n'essaieraient de gagner sa vie en se masturbant.
Du coup le problème c'est plus les hommes que les femmes.
Parce que je pense qu'il y a plus d'hommes qui paient pour voir du contenu pornographique que de femmes.

Et ce n'est pas une question d'intelligence, il est certains qu'il y a des femmes BAC+8 qui ont arrêté leur carrière parce qu'elles pouvaient gagner beaucoup plus en travaillant beaucoup moins.
Bon après ce n'est pas parce que t'as un BAC+8 que t'es inteligent.
J'aurais du formuler ma phrase autrement.

Quand on est jeune et jolie, sur les sites d'escort on peut se faire facilement plus de 200€ de l'heure quand même, donc ca fait reflechir comparé aux métiers difficile payé au smic ou a peine plus.

Là c'est totalement autre chose.
Se masturber devant une webcam c'est une chose, avoir des relations sexuelles tarifées c'en est une autre.
Surtout quand tu ne choisis pas tes clients.
C'est super risqué comme truc, il y a peut-être des clients dangereux, on ne sait pas. Il est même possible que certains soient sous drogue (alcool, MDMA, cocaine, 3-MMC, etc)

imaginer des bordels avec que des robots aux formes les plus exotique pour satisfaire tous le monde.

Je ne suis pas convaincu que ça plaise.
Il y a du chemin à faire avant que les robots arrivent au niveau des humains.

Je pense que les potes d'Epstein préféront toujours couché avec des humaines mineures qu'avec des robots.

[Mathis Lucas]

Au cœur de l'industrie florissante du « proxénétisme de l'IA » : les médias sociaux sont envahis par des influenceurs générés par l'IA à partir d'images volées de créateurs de contenus pour adultes

L'essor de l'IA générative favorise l'émergence d'une nouvelle industrie controversée : le « proxénétisme de l'IA ». Les auteurs de cette activité créent des visages à l'aide de l'IA, puis les greffent sur des images de corps de femmes volées sur des comptes de médias sociaux. Les créateurs utilisent ensuite les faux personnages pour encourager leurs abonnés à s'inscrire à des sites d'abonnement tels que Patreon et OnlyFans où ils peuvent payer pour des images et des vidéos pornographiques du modèle d'IA. Cette activité est en plein essor et les créateurs humains de contenu pour adulte affirment que cela impacte négativement leur capacité à gagner leur vie.

Le proxénétisme de l'IA : une industrie avec une croissance fulgurante

Le phénomène du proxénétisme de l'IA implique l'utilisation de l'IA pour gérer et faciliter la logistique du travail du sexe. L'IA apparaît comme une force libératrice qui élimine une grande partie du danger et de l'imprévisibilité liés aux proxénètes humains. Cette industrie émergente transforme le visage du Web et laisse entrevoir ce que les réseaux sociaux pourraient devenir dans un avenir proche : un espace où le contenu généré par l'IA éclipse celui des humains.

Selon un rapport de 404 Media, Instagram est inondé de centaines d'influenceurs générés par l'IA qui volent des vidéos de vrais mannequins et créateurs de contenu pour adultes, leur donnent des visages générés par l'IA et monétisent leurs corps avec des liens vers des sites de rencontres, Patreon, des concurrents d'OnlyFans, etc. Le rapport est basé sur une enquête qui a examiné en détail plus de 1 000 comptes d'influenceurs Instagram générés par l'IA.

Parmi les comptes examinés par l'enquête, au moins 100 comptes comprenaient du contenu deepfake qui utilise des vidéos existantes, généralement de mannequins et d'artistes de divertissement pour adultes, et remplace leur visage par un nouveau visage généré par l'IA pour faire passer ces vidéos pour du contenu nouveau et original, cohérent avec les autres images et vidéos générées par l'IA et partagées par l'influenceur géré par l'IA sur son compte.

Les 900 autres comptes ont partagé des images qui, dans certains cas, ont été formées à partir de photographies réelles et, dans d'autres cas, ont été conçues pour ressembler à des célébrités, mais elles ont été entièrement générées par l'IA, et non par des photographies ou des vidéos modifiées.

Sur ces 100 comptes qui ont partagé des vidéos de deepfake, 60 s'identifient comme étant générés par l'IA, en écrivant dans leur biographie qu'ils sont un « modèle virtuel et un influenceur » ou en déclarant que « toutes les photos ont été créées avec l'IA et des applications ».

Les 40 autres ne précisent pas qu'elles sont générées par l'IA. L'un des comptes les plus importants de cette dernière catégorie est intitulé « Chloe Johnson ». Il dispose d'un compte vérifié sur Instagram et de 171 000 abonnés. Ce compte a été supprimé par Meta, propriétaire d'Instagram, au cours des dernières semaines.

Neuf des posts de Chloe Johnson étaient basés des personnes réelles. Ces vidéos montrent que la personne qui se gère le compte Chloe Johnson greffe le visage de l'influenceuse virtuelle sur le corps de vraies femmes, notamment les mannequins Tana Rain, Skyler Simpson et Kyla Yesenosky.

D'autres vidéos ont été volées à des utilisateurs de TikTok et d'Instagram qui ne sont pas célèbres et qui ont un petit nombre d'abonnés. Par ailleurs, des comptes de substitution de visage s'approvisionnent également en vidéos auprès de défilés de maillots de bain et sur le site d'images et de vidéos de Getty, iStock.

Des outils et des manuels sont mis au service du proxénétisme de l'IA

Il est désormais facile de créer ces comptes et de les monétiser à l'aide d'un assortiment d'outils et d'applications prêts à l'emploi. Certaines de ces applications sont hébergées sur l'App Stores d'Apple et de Google Play Store. Dans le cadre de leur enquête, les auteurs ont acheté deux guides : un manuel d'instruction au format PDF intitulé Instagram Mastery, proposé par une agence d'influenceurs IA appelée Digital Divas, et un autre intitulé AI Influencer Accelerator.

Ce dernier est réalisé par une personne qui se fait appeler Professeur EP, et qui dit gérer le compte Instagram de l'influenceuse IA Emily Pellegrini, qui compte 253 000 abonnés. Professeur EP a également été juge lors du premier concours « Miss AI », organisé en partenariat avec Fanvue. Professeur EP prétend avoir gagné plus d'un million de dollars en six mois, et lorsqu'il exploitait le compte Emily Pellegrini, il a affirmé avoir gagné 100 000 dollars rien que sur Fanvue.

Le manuel « Instagram Mastery » de Digital Divas coûte 50 dollars et est un mélange de conseils techniques et de stratégie d'ingénierie sociale. Il suggère d'utiliser des outils largement connus des créateurs d'œuvres d'art générées par l'IA. Plusieurs des comptes générés par l'IA examinés par l'enquête semblent utiliser une application appelée HelloFace, qui était jusqu'à récemment disponible sur les places de marché Apple App et Google Play, et en font la promotion.

Chacun de ces outils est utilisé pour différentes parties du processus de création. La plupart des guides examinés par l'enquête recommandent de générer les visages avec l'outil Leonardo, puis de les affiner dans un autre outil d'IA pour supprimer les défauts. Outre cette collection d'outils et de manuels, il existe désormais plusieurs sites qui servent de guichet unique pour créer et monétiser des influenceurs générés par l'IA, comme Glambase, SynthLife et Genfluence.

Leur promotion est également assurée par des influenceurs générés par l'IA sur Instagram. Dans un canal Discord dédié au jailbreaking d'outils d'IA afin de générer du contenu adulte ou NSFW (Not safe for work), un utilisateur portant le pseudonyme « BabaYaga » a partagé son parcours de création de l'un de ces comptes deepfake en utilisant une variété de services en ligne gratuits, principalement le générateur d'images Krea, qui est un concurrent de Stable Diffusion.

BabaYaga a créé des comptes Instagram, TikTok et Twitter pour la même influenceuse générée par l'IA, qui renvoient tous à un compte Fanvue sur lequel il vend des images d'elle nue générées par l'IA. Il a également créé un compte OnlyFans pour l'influenceuse générée par l'IA, mais n'y a pas encore publié de contenu. Selon les critiques, le fait que beaucoup de ces comptes d'influence générés par l'IA soient gérés par des hommes ajoute l'insulte à l'injure.

Le guide « AI Influencer Accelerator » de Professeur EP est une série de vidéos d'instruction et de PDF coûtant 220 $. Il comprend également des conseils sur la création d'un compte Fanvue et sur l'envoi de messages à des « personnes isolées ». Dans ses vidéos, l'auteur est soit une voix d'IA, soit une personne utilisant un changeur de voix, et il est personnifié comme une personne dans des images d'archives portant un costume et un masque argenté de Guy Fawkes.

Cette industrie soulève de nombreuses préoccupations d'ordre éthique

L'utilisation de deepfakes générés à partir des images et des vidéos de vrais créateurs et créatrices de contenus pour adultes soulèvent des préoccupations, notamment en matière de sécurité et sur le plan éthique. L'agence Digital Divas déconseille les deepfakes et recommande aux utilisateurs de son guide de trouver l'inspiration dans les images que d'autres influenceurs ont postées, puis de générer des images similaires, mais transformatrices et originales.

Professeur EP, quant à lui, conseille aux personnes qui le suivent de se poser la question suivante : « qui sont mes célébrités préférées ? ». Ensuite, ils doivent essayer ensuite de créer des influenceurs hybrides qui sont un mélange de différentes personnes réelles. Il affirme : « si, par exemple, vous aimez les yeux d'Ariana Grande et les lèvres de Kylie Jenner, vous pouvez créer une image qui combine ces attributs en incluant ces spécifications dans votre message ».

Apple a retiré HelloFace de l'App Store après que les auteurs de l'enquête l'ont contacté pour obtenir des commentaires. L'entreprise s'est appuyée sur les directives d'évaluation de l'App Store, qui stipulent que « les applications ne doivent pas inclure de contenu offensant, insensible, dérangeant, destiné à dégoûter, de très mauvais goût ou effrayant ». Google a refusé de commenter, mais l'application HelloFace n'est plus disponible au téléchargement sur Google Play.

Apple cherche toujours à résoudre le problème du « double usage » des applications de substitution de visages qui peuvent être utilisées à bon escient (innocemment), mais qui sont souvent détournées et utilisées pour créer des contenus non consensuels, comme dans le cas présent. L'essor du proxénétisme de l'IA montre que les applications de substitution de visages sont un élément essentiel de la boîte des personnes impliquées dans cette industrie émergente.

Selon les critiques, le fait que tant de contenus générés par l'IA monétisent des travaux volés à des créateurs de contenus pour adultes n'est pas une coïncidence, mais plutôt un résultat direct de la politique d'Instagram qui marginalise depuis des années les créateurs de contenus pour adultes, les travailleurs du sexe et les éducateurs sexuels sur sa plateforme. Ces derniers estiment que le réseau social n'investit pas dans la sécurité de cette catégorie d'utilisateurs.

Contrairement à d'autres célébrités qui doivent faire face à des usurpateurs d'identité, la plupart des créateurs de contenus pour adultes et des travailleurs du sexe utilisent des noms de scène et des pseudonymes pour se protéger des harceleurs ou des persécutions de la part de personnes qui diabolisent leur profession.

Instagram refuse de les vérifier à moins qu'ils ne fournissent une pièce d'identité avec leur vrai nom, ce qui inquiète les créateurs de contenu pour adultes qui craignent une fuite vers le public et le doxing et le harcèlement. Selon le rapport, le proxénétisme de l'IA a un impact négatif sur leur capacité à gagner leur vie.

Le proxénétisme de l'IA et la question de la protection du droit d'auteur

Plusieurs personnes dont les images Instagram ont été reprises par les proxénètes de l'IA ignorent que leur contenu a été utilisé sans leur consentement. Kimberlee Weatherall, professeur de droit à l'Université de Sydney et experte en propriété intellectuelle, a déclaré que l'utilisation d'images du corps d'une femme pour créer des influenceurs d'IA était « absolument répréhensible » et que cela constitue des violations des droits de propriété intellectuelle des personnes.

« Mon premier avis juridique est ick. Sur le plan juridique, si vous avez simplement pris les films d'autres personnes et que vous les réutilisez ou une partie substantielle du film, il s'agit d'une violation assez claire du droit d'auteur, sans aucune exception évidente », a déclaré Kimberlee Weatherall à ABC.

Jane Rawlings, avocate spécialisée dans la propriété intellectuelle et conférencière, s'est fait l'écho de son évaluation, ajoutant que bon nombre de ces créateurs d'influenceurs d'IA pourraient également enfreindre le droit de la consommation en n'indiquant pas clairement qu'il s'agit de mannequins synthétiques.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du phénomène grandissant du proxénétisme de l'IA ?
Selon vous, quels pourraient être les impacts du proxénétisme de l'IA sur le Web à long terme ?
Quel est votre avis sur les préoccupations en matière de sécurité et d'ordre éthique que soulève le proxénétisme de l'IA ?
Comment les plateformes de médias sociaux peuvent-elles faire face à ce phénomène ? Ce cas d'utilisation de l'IA doit-il être interdit ?

Voir aussi

D'ici 2025, plus de la moitié des comptes OnlyFans les plus populaires seront des modèles générés par l'intelligence artificielle pilotés en secret par des hommes, d'après Alex Valaitis

Une agence espagnole de mannequins crée une influenceuse pilotée par l'IA qui rapporte jusqu'à 11 000 $ par mois, la société affirme qu'elle en avait assez des influenceurs humains et de leur égo

Miss AI : le premier concours mettant en compétition des candidates générées par IA, indépendamment de la technologie utilisée, disposera de deux influenceuses générées par IA dans son panel de juges

[calvaire]

ces femmes IA donne envie en tous cas, rien a voir avec les étrons qu'on voit dans les jeux ubisoft en ce moment.

[Jules34]

ces femmes IA donne envie en tous cas, rien a voir avec les étrons qu'on voit dans les jeux ubisoft en ce moment.

bien joué
Encore une preuve, s'il en fallait, qu'il faut qu'UBISOFT ferme arrête le wokisme !

Quel est votre avis sur le sujet ?

On parle de protéger nos gamins mais l'internet tout entier est gangrené par la pornographie ou les incitations à la sexualité. Comme le dit le proverbe : if it exist, there's a porn version of it.

M'est avis, persos, qu'on aurait jamais du tolérer que la nudité et toute ces mer**s pullulent autant dans l'espace public. Avec la drogue et les jeux on est gâté en occident, de la à se dire que c'est en partie lié à toute ces dépressions, y'a qu'un pas à faire ! Sans oublier les bonnes culbutes que nous met l'état avec les impôts (et qui fait payer de l'URSSAF aux travailleurs du sexe), on est vraiment plus dans la société catholique de nos grands parents ou arrière grand parents.

[Ryu2000]

ces femmes IA donne envie en tous cas

Ce n'est pas bien.
Les influences influencent les petites filles.
Déjà qu'il y avait des instagrameuses qui :
- prenaient des stéroïdes pour gagner du muscle
- prenaient du Clenbuterol pour perdre du gras
- faisaient de la chirurgie esthétique pour corriger des "défauts" (ou avoir des plus gros seins)
- se maquillaient pour paraitre plus belle
- utilisaient de l'éclairage
- faisaient retoucher les photos

Du coup, des jeunes filles qui utilisaient Instagram se disaient : "Purée, je suis beaucoup moins belle qu'elles." Cela a causé de graves problèmes chez certaines, allant jusqu'à l'anorexie ou la boulimie, ou le développement d'autres troubles psychiatriques.
Dans les années 1990 il y a même eu une mode "héroïne chic" c'était des femmes très maigre et très fatigué.

Les influenceurs créés par l'IA sont encore un peu plus virtuels que les influenceurs humains.
Ou alors il faut que les enfants qui suivent des influenceurs soient bien conscient qu'il est impossible d'être aussi beau naturellement.

[Stéphane le calme]

Quand l'IA instrumentalise le handicap : des gens utilisent l'IA pour créer des influenceurs trisomiques qui vendent des nus,
la réticence d'Instagram à modérer les contenus générés par l'IA atteint un nouveau seuil

Ces dernières semaines, un phénomène glaçant est venu souligner les dérives profondes de l’intelligence artificielle et l’incapacité des plateformes à les encadrer : des utilisateurs créent, grâce à l’IA, des influenceurs atteints de trisomie 21 (ou du moins volent du contenu à des créateurs humains et simulent cette condition génétique grâce à l'IA) pour vendre du contenu sexuellement explicite. Ces visages deepfake sont mis en scène dans des contextes érotiques voire pornographiques, monétisées via des plateformes ou des sites tiers. L’ambiguïté volontaire (laissant croire que ces personnes existent réellement) contribue à entretenir un marché malsain et profondément irrespectueux.

Contexte

D'après un examen de plus de 1 000 comptes Instagram générés par l'IA, de canaux Discord où les personnes qui créent ce contenu partagent des astuces et discutent de stratégie, et de plusieurs guides qui expliquent comment gagner de l'argent en faisant du « AI pimping » (proxénétisme de l'IA), il est désormais facile de créer ces comptes et de les monétiser à l'aide d'un assortiment d'outils et d'applis d'IA prêts à l'emploi. Certaines de ces applications sont hébergées sur les App Stores d'Apple et de Google Play. L'enquête montre que ce qui était autrefois un problème de niche sur la plateforme s'est industrialisé et montre ce que les médias sociaux pourraient devenir dans un avenir proche : un espace où le contenu généré par l'IA éclipse celui des humains.

Entre fétichisation et exploitation

Un réseau de comptes Instagram utilise l'IA pour voler du contenu à des créateurs humains et se servir du deepfake sur leurs visages pour faire croire qu'ils sont atteints du syndrome de Down. 404 Media a pu déterminer que les comptes sont liés parce qu'ils réutilisent des bios Instagram, des vidéos et, dans certains cas, des liens vers les mêmes pages de concurrents OnlyFans où ils monétisent ces vidéos.

De nombreux articles ont été publié sur la pratique en plein essor consistant à voler le contenu de véritables créateurs humains et à utiliser l'IA pour remplacer leurs visages par des visages générés par l'IA, à poster ce contenu modifié par l'IA sur Instagram et à diriger les spectateurs vers des plateformes de contenu pour adultes où ils peuvent être monétisés. Ce qui n'était au départ que quelques comptes s'est rapidement transformé en une industrie entière avec des outils spécialisés, des stratégies publicitaires et des influenceurs qui vendent des cours sur la façon de créer ces faux influenceurs pour s'enrichir rapidement grâce à ce qu'ils appellent le « AI pimping » (proxénétisme de l'IA).

Ces derniers mois, des comptes plus récents ont commencé à s'adresser à des niches et à des fétiches de plus en plus spécifiques, notamment des comptes de femmes amputées générées par l'IA. Les comptes de trisomiques générés par l'IA sont la dernière et la plus récente bassesse d'Instagram, qui autorise le vol de contenu rampant qui permet cette pratique et qui alimente maintenant une fétichisation et une monétisation non consensuelles de (fausses) personnes handicapées.

404 Media indique que l'un de ces comptes répond au nom de Maria Dopari et suit plusieurs autres comptes avec des conventions de noms similaires et des vidéos identiques, y compris un compte simplement appelé Maria : « Les échanges de visages sont assez convaincants et difficiles à remarquer, surtout lorsqu'on fait défiler rapidement Reels, mais si vous regardez de près, vous pouvez voir que le visage a parfois cette qualité trop lisse qui est commune à la génération d'images par l'IA, ainsi que de légères erreurs visuelles, en particulier autour de la bouche, de la langue et des dents ».

Il y a beaucoup de vrais influenceurs atteints de trisomie 21 sur Instagram qui partagent des contenus de motivation ou de modélisation. Ces comptes générés par l'IA n'essaient pas d'imiter ce contenu, mais se concentrent strictement sur la sexualisation des personas générés par l'IA afin qu'ils puissent promouvoir des contenus pour adultes qu'ils peuvent ensuite monétiser.

« Ils critiquent tous mon syndrome de Down jusqu'à ce que je décide de porter des vêtements moulants », peut-on lire dans l'une des vidéos de Maria. « Onlyfan ? », dit le texte d'une autre vidéo de Maria pendant qu'elle danse.

À gauche : un compte Instagram utilisant des faceswaps pour créer un personnage atteint du syndrome de Down. À droite : L'exacte même vidéo postée quelques semaines plus tôt par un autre compte avec un visage différent.

À un moment donné, le compte Maria a également posté exactement les mêmes vidéos que le compte Maria Dopari, mais avec un visage différent. Il semble que pour trois vidéos postées entre le 6 et le 8 mars, le compte Maria ait accidentellement utilisé le visage de l'un de ses autres faux personnages, appelé Lana, qui publie sous plusieurs noms d'utilisateur sous une variante de lana.down, le plus grand d'entre eux ayant 43 800 adeptes. Le compte Maria a ensuite continué à publier des messages avec le visage qu'il utilisait régulièrement. Dans certains cas, les médias ont pu identifier les vidéos originales volées par ces comptes.

Un autre compte, appelé Zeliavideos, dit dans sa bio « Je suis spécial non pas parce que j'ai le syndrome de Down, mais parce que je ne le laisse pas définir ma vie. » Il renvoie à une page Fanvue qui ne révèle pas qu'elle est générée par l'IA, mais de nombreuses images fixes sur le compte Instagram le sont clairement. En outre, plusieurs Reels, qui ont été éditées pour que la femme dans les vidéos ait l'air d'être atteinte du syndrome de Down, ont été postées des semaines plus tôt par un compte différent avec un visage entièrement différent.

Le silence complice ou les difficultés d’Instagram ?

Ce qui choque particulièrement, c’est la passivité des plateformes, en particulier Instagram. La modération des contenus générés par IA est aujourd’hui l’un des grands angles morts des politiques de contenu. Les avatars ne violent, techniquement, ni les règles sur l’exploitation d’enfants ou de personnes vulnérables, ni celles sur les « deepfakes » destinés à nuire à des individus identifiés. Le contenu tombe dans un flou juridique et moral : il n’existe pas de victime directe, donc pas d’intervention immédiate.

Pourtant, l’impact collectif est évident. Laisser prospérer ces comptes et leurs modèles fictifs, c’est encourager une nouvelle forme de marchandisation du handicap, sans limites ni garde-fous. Pire encore, cela valide la création de personas ultra-réalistes conçus pour alimenter des fantasmes douteux, sans aucun contrôle.

Presque aucun des comptes Instagram ne s'identifie comme étant généré par l'IA, et à en juger par les commentaires sur les vidéos, il semble que beaucoup de gens croient qu'ils sont réels. Cependant, contrairement à Instagram, OnlyFans a une politique stricte contre le contenu généré par l'IA, à moins qu'il ne présente le créateur vérifié et ne dise explicitement qu'il a été créé à l'aide de l'IA, de sorte que ces comptes ne peuvent pas publier ce contenu sur cette plateforme. Ils peuvent en revanche le monétiser sur Fanvue, qui autorise la monétisation des contenus générés par l'IA, à condition qu'ils soient identifiés comme tels. Maria Dopari et Maria renvoient toutes deux au même compte Fanvue, qui indique que Maria a un « visage d'IA ».

Des outils et des manuels sont mis au service du proxénétisme de l'IA

Il est désormais facile de créer ces comptes et de les monétiser à l'aide d'un assortiment d'outils et d'applications prêts à l'emploi. Certaines de ces applications sont hébergées sur l'App Stores d'Apple et de Google Play Store. Dans le cadre de leur enquête, les auteurs ont acheté deux guides : un manuel d'instruction au format PDF intitulé Instagram Mastery, proposé par une agence d'influenceurs IA appelée Digital Divas, et un autre intitulé AI Influencer Accelerator.

Ce dernier est réalisé par une personne qui se fait appeler Professeur EP, et qui dit gérer le compte Instagram de l'influenceuse IA Emily Pellegrini, qui compte 253 000 abonnés. Professeur EP a également été juge lors du premier concours « Miss AI », organisé en partenariat avec Fanvue. Professeur EP prétend avoir gagné plus d'un million de dollars en six mois, et lorsqu'il exploitait le compte Emily Pellegrini, il a affirmé avoir gagné 100 000 dollars rien que sur Fanvue.

Le manuel « Instagram Mastery » de Digital Divas coûte 50 dollars et est un mélange de conseils techniques et de stratégie d'ingénierie sociale. Il suggère d'utiliser des outils largement connus des créateurs d'œuvres d'art générées par l'IA. Plusieurs des comptes générés par l'IA examinés par l'enquête semblent utiliser une application appelée HelloFace, qui était jusqu'à récemment disponible sur les places de marché Apple App et Google Play, et en font la promotion.

Chacun de ces outils est utilisé pour différentes parties du processus de création. La plupart des guides examinés par l'enquête recommandent de générer les visages avec l'outil Leonardo, puis de les affiner dans un autre outil d'IA pour supprimer les défauts. Outre cette collection d'outils et de manuels, il existe désormais plusieurs sites qui servent de guichet unique pour créer et monétiser des influenceurs générés par l'IA, comme Glambase, SynthLife et Genfluence.

Leur promotion est également assurée par des influenceurs générés par l'IA sur Instagram. Dans un canal Discord dédié au jailbreaking d'outils d'IA afin de générer du contenu adulte ou NSFW (Not safe for work), un utilisateur portant le pseudonyme « BabaYaga » a partagé son parcours de création de l'un de ces comptes deepfake en utilisant une variété de services en ligne gratuits, principalement le générateur d'images Krea, qui est un concurrent de Stable Diffusion.

BabaYaga a créé des comptes Instagram, TikTok et Twitter pour la même influenceuse générée par l'IA, qui renvoient tous à un compte Fanvue sur lequel il vend des images d'elle nue générées par l'IA. Il a également créé un compte OnlyFans pour l'influenceuse générée par l'IA, mais n'y a pas encore publié de contenu. Selon les critiques, le fait que beaucoup de ces comptes d'influence générés par l'IA soient gérés par des hommes ajoute l'insulte à l'injure.

Le guide « AI Influencer Accelerator » de Professeur EP est une série de vidéos d'instruction et de PDF coûtant 220 $. Il comprend également des conseils sur la création d'un compte Fanvue et sur l'envoi de messages à des « personnes isolées ». Dans ses vidéos, l'auteur est soit une voix d'IA, soit une personne utilisant un changeur de voix, et il est personnifié comme une personne dans des images d'archives portant un costume et un masque argenté de Guy Fawkes.

Le proxénétisme de l'IA et la question de la protection du droit d'auteur

Plusieurs personnes dont les images Instagram ont été reprises par les proxénètes de l'IA ignorent que leur contenu a été utilisé sans leur consentement. Kimberlee Weatherall, professeur de droit à l'Université de Sydney et experte en propriété intellectuelle, a déclaré que l'utilisation d'images du corps d'une femme pour créer des influenceurs d'IA était « absolument répréhensible » et que cela constitue des violations des droits de propriété intellectuelle des personnes.

« Sur le plan juridique, si vous avez simplement pris les films d'autres personnes et que vous les réutilisez ou une partie substantielle du film, il s'agit d'une violation assez claire du droit d'auteur, sans aucune exception évidente », a déclaré Kimberlee Weatherall à ABC.

Jane Rawlings, avocate spécialisée dans la propriété intellectuelle et conférencière, s'est fait l'écho de son évaluation, ajoutant que bon nombre de ces créateurs d'influenceurs d'IA pourraient également enfreindre le droit de la consommation en n'indiquant pas clairement qu'il s'agit de mannequins synthétiques.

Sources : Fanvue, Onlyfans, Meta

Et vous ?

Quel est votre avis sur le sujet ?

Que pensez-vous du phénomène grandissant du proxénétisme de l'IA ?

Selon vous, quels pourraient être les impacts du proxénétisme de l'IA sur le Web à long terme ?

Avez-vous déjà ou envisagez-vous participer à un projet de monétisation de contenus pour adulte générés par intelligence artificielle en tant que développeur ? Partagez votre expérience


Voir aussi :

D'ici 2025, plus de la moitié des comptes OnlyFans les plus populaires seront des modèles générés par l'intelligence artificielle pilotés en secret par des hommes, d'après Alex Valaitis

[vivid]

Ce n'est pas bien.
Les influences influencent les petites filles.
Déjà qu'il y avait des instagrameuses qui :
- prenaient des stéroïdes pour gagner du muscle
- prenaient du Clenbuterol pour perdre du gras
- faisaient de la chirurgie esthétique pour corriger des "défauts" (ou avoir des plus gros seins)
- se maquillaient pour paraitre plus belle
- utilisaient de l'éclairage
- faisaient retoucher les photos

Du coup, des jeunes filles qui utilisaient Instagram se disaient : "Purée, je suis beaucoup moins belle qu'elles." Cela a causé de graves problèmes chez certaines, allant jusqu'à l'anorexie ou la boulimie, ou le développement d'autres troubles psychiatriques.
Dans les années 1990 il y a même eu une mode "héroïne chic" c'était des femmes très maigre et très fatigué.

Les influenceurs créés par l'IA sont encore un peu plus virtuels que les influenceurs humains.
Ou alors il faut que les enfants qui suivent des influenceurs soient bien conscient qu'il est impossible d'être aussi beau naturellement.

A quand des pilules pour leur QI ?

[Ryu2000]

leur QI ?

Il est possible que des influenceurs et influenceuses soient très intelligents.
En revanche, c’est plutôt du côté des personnes qui suivent ces influenceuses qu’on trouve parfois des gens pas très malins.

Ces dernières semaines, un phénomène glaçant est venu souligner les dérives profondes de l’intelligence artificielle et l’incapacité des plateformes à les encadrer : des utilisateurs créent, grâce à l’IA, des influenceurs atteints de trisomie 21 (ou du moins volent du contenu à des créateurs humains et simulent cette condition génétique grâce à l'IA) pour vendre du contenu sexuellement explicite.

C'est effectivement malsain.

Que pensez-vous du phénomène grandissant du proxénétisme de l'IA ?

C'est un manque à gagner pour les actrices.

[calvaire]

Il est possible que des influenceurs et influenceuses soient très intelligents.

c'est même certain !
il ne faut pas se laisser aveugler par leurs représentations publique.

Ces gens font du divertissement, et sont très intelligent pour crée se divertissement pour généré beaucoup d'audience.
Les paroles et les scènes sont préparé a l'avance.
Les gros influenceurs ne sont d'ailleurs pas seul, ils ont toute une équipe derrière qui s'occupe des dialogues, de l'éclairage, des décors...etc.


Ils font le clown car c'est ce qui rapporte du fric.
Jeremy Clarkson en est le bon exemple, perso les émissions de bagnole je trouve ca nul a chier, lui il a pris ce concept qui n’intéresse peu de personne et s'en est servi comme excuse pour divertir. Voila comment Top Gear, une émission de niche de voiture et devenue la 1ere émission suivie dans le monde. Et que j'ai adoré, alors que auto moto ou turbo ou autre émission, jamais de la vie je regarderais ces trucs que je trouve chiant.
Alors oui on retiendra de lui un personnage grossiers, odieux qui fait n'importe quoi, qui a crée des incidents diplomatiques, mais c'est en réalité un gars très intelligent ou tout est calculé.


Enfin, être influenceur c'est beaucoup de travail, préparer les vidéos, les tournés, les montés, recruter des prestataires si besoin (figurant, acteur...) c'est des grosses journées. Et faut publier en quantité pour les algos, pas juste 1 vidéo par semaine.
C'est pas un 35h du lundi au vendredi. Beaucoup de youtubeurs ont fait des burnouts.