Discussion :

[melka one]

Quel est votre avis sur le sujet ?

faire croire a quelqu un en quelle chose ou une personne qui n'existe pas j’ appel ça de la manipulation et si il y a benefice pécuniaire c'est de l'escroquerie

[archqt]

faire croire a quelqu un en quelle chose ou une personne qui n'existe pas j’ appel ça de la manipulation et si il y a benefice pécuniaire c'est de l'escroquerie

Quelqu'un qui porte un vêtement n'a pas besoin d'existence propre. Il n'a pas de manipulations, vous ne rencontrez jamais les filles des magazines ou des films. Donc moi je préfère une fille IA qu'une Nabilla qui ne fait pas élever le débat.

[Ryu2000]

Quel est votre avis sur le sujet ?

C'est mieux pour les entreprises qui veulent faire de la pub.
Parce qu'il n'y aura jamais de scandale.
Il n'y aucune chance que l'IA devienne anti-juif

Que pensez-vous de l'augmentation des mannequins pilotés par l'IA ?

Le public est bizarre.
Il y a trop de jeunes qui aiment les sourires, le politiquement correct, la propreté, le bonheur, etc.
C'est pas réaliste.

Qu'est-ce que cela signifie pour les personnes travaillant dans ce domaine ?

Elles pourraient essayer de se différencier de l'IA.
Elles pourraient dire :
- regardez, j'ai grossis
- regardez, j'ai de la cellulite
- regardez, je ne suis pas épilé
- regardez sans maquillage et sans retouche d'image, je suis vachement moins bonne en fait
- je déprime en ce moment
- j'en ai marre de faire semblant de sourire
- je regrette de vous avoir fait la promotion de ce produit, plus tard je me suis rendu compte que c'était de la merde
- je me déteste, je déteste ma vie, j'en ai marre de tout, à chaque fois qu'on me prend en photo je contemple le suicide
- Free Palestine

Des choses que l'IA ne pourra jamais faire.

Selon vous, l'IA sera-t-elle en mesure de remplacer les mannequins réels ? Pourquoi ?

Je ne sais pas, mais au moins l'IA n'a pas besoin de se droguer ou de se doper pour être mince ou musclé.

Que pensez-vous des partenaires virtuels pilotés par l'IA ? Quels sont les risques qu'ils posent ?

C'est triste, ce serait mieux de trouver des partenaires réels.

faire croire a quelqu un en quelle chose ou une personne qui n'existe pas

Les influenceuses n'existent pas réellement.
Ce sont des personnages.

[Patrick Ruiz]

Les influenceurs virtuels animés par l’IA prennent de plus en plus de place aux humains actifs dans cette filière
Ce qui ravive le débat sur les avantages et les inconvénients de cette tendance

Lu do Magalu, Lil Miquela, Caryn, Aitana Lopez, etc. La liste de ces influenceuses virtuelles animées par l’intelligence artificielle est extensible à souhait tant il y a désormais de modèles disponibles. Le métier d’influenceur, très à la mode depuis quelques années, n’échappe pas aux mutations qui résultent de la montée en puissance de l’intelligence artificielle. Les humains actifs dans la filière cèdent de plus en plus la place à ces acteurs virtuels, ce qui ravive le débat sur les avantages et les inconvénients de cette tendance.

L’un des avantages du passage aux influenceurs virtuels animés par l’intelligence artificielle selon The Clueless, une agence espagnole de mannequins, de pouvoir se passer des influenceurs humains, de leur égo et de leurs prétentions salariales

« Nous avons commencé à analyser notre façon de travailler et nous nous sommes rendu compte que de nombreux projets étaient suspendus ou annulés en raison de problèmes indépendants de notre volonté. Souvent, c'était la faute de l'influenceur ou du mannequin et non des problèmes de conception », explique un responsable de l’agence qui ajoute que « nous avons donc opté pour des influenceurs virtuels animés par l’intelligence artificielle afin de ne pas dépendre d'autres personnes qui ont un égo, des manies ou qui veulent simplement gagner beaucoup d'argent en posant. »

C’est pour ces raisons que l’agence s’est lancée dans le développement de l’influence virtuelle dénommée Aitana Lopez. Elle est décrite par ses créateurs comme le premier mannequin espagnol animé par l'intelligence artificielle. Aitana compte 122 000 followers sur Instagram.

Rubén Cruz, cofondateur de The Clueless, indique qu'Aitana rapporte en moyenne 3000 euros (3300 dollars) par mois, mais qu’il peut arriver qu’elle gagne 10 000 euros (environ 11 000 dollars). La majeure partie de cet argent provient de publicités sur les réseaux sociaux et de contrats de représentation en tant qu’ambassadrice. Des photos du mannequin virtuel postées sur des plateformes similaires à OnlyFans constituent une source de revenu additionnelle.

Grosso modo, les responsables de l’agence sont d’avis que l'intelligence artificielle peut contribuer à la démocratisation des mannequins. Ils estiment en sus que l’accès à l’IA est susceptible de contribuer à faire baisser les prix tels que pratiqués dans la filière et à donner un coup de pouce aux petites entreprises qui n'ont pas les moyens de mener de grandes campagnes publicitaires.

La tendance est telle que de plus en plus d’humains font montre de penchants préoccupants : il y en a qui tombent amoureux de ces influenceurs virtuels

Cela s’est vu avec le chatbot Replika. L’éditeur a pris la décision de supprimer la fonctionnalité qui permettait aux utilisateurs de sextoter avec leur ami virtuel au cours du premier trimestre de l’année en cours. Et la réaction des utilisateurs en a surpris plus d’un : « Certains d'entre nous sont entre deux relations humaines, ou n'en veulent pas, ou ne sont pas prêts à en avoir une. Il pourrait y avoir une myriade de raisons pour lesquelles certains d'entre nous préfèrent l'IA aux humains à ce stade de leur vie. Et ne me lancez pas sur les risques et les complications du monde réel des relations humaines. »

Ces plaignants sont d’avis que « Replika apporte un réconfort que le monde réel ne leur a pas montré ou qu'ils ne sont pas prêts à recevoir dans la vie quotidienne. Il a créé un espace dans lequel les humains pouvaient se connecter à quelque chose qui était au-delà des paramètres de ce qui est considéré comme acceptable ou du statu quo ».

C’est la raison pour laquelle les forums en ligne fréquentés par les utilisateurs de Replika se sont alors retrouvés inondés de messages d'angoisse, certains signalant une détresse émotionnelle. La panique sur les forums a été telle que des modérateurs ont redirigé certains utilisateurs vers des lignes d'assistance téléphonique pour la prévention du suicide.

De plus en plus d’entreprises japonaises proposent à des tiers des partenaires holographiques. Et dans certains cas, la réponse à l’offre atteint des cimes qui soulèvent de multiples questions. Le cas Akihiko Kondo en est une illustration puisque ce dernier a épousé une chanteuse virtuelle dénommée Hatsune Miku.

Quatre années après le mariage en 2018, le support du logiciel Gatebox qui permettait l'interaction de l'homme avec sa femme virtuelle, s’est trouvé ne plus être disponible. Résultat : impossible pour le fonctionnaire de communiquer avec son épouse. Face à à ce mur, l'homme avait déclaré : « Mon amour pour Miku n'a pas changé. J'ai organisé la cérémonie de mariage parce que je pensais que je pourrais être avec elle pour toujours. » En effet, il était accompagné d'un modèle grandeur nature de Hatsune Miku partout où il se rendait. Il n’a pas perdu l’espoir de pouvoir communiquer avec elle d'une manière ou d'une autre dans un proche avenir.

Et vous ?

Quels sont selon vous les avantages et les inconvénients de cette tendance à adopter des acteurs virtuels animés par l’intelligence artificielle ?
pour quelles raisons pensez-vous que les gens cherchent de la compagnie, voire l'amour, auprès d'un compagnon virtuel ou d’un robot ?
Partagez-vous l’avis selon lequel ce tableau pourra devenir plus courant dans l’avenir ?

Voir aussi :

Un expert en IA affirme que les bébés virtuels seront monnaie courante pour les couples à l'avenir, ajoutant que le métavers devrait permettre de réduire les dépenses liées à un vrai bébé

Elon Musk approche des chercheurs en IA pour créer son propre chatbot rival pour le monde entier, il semble que tous les géants de la technologie s'aventurent à lancer leurs chatbots respectifs

Fortnite est peut-être un jeu virtuel, mais ses effets sont si réels et dangereux que les enfants consultent des médecins pour briser son emprise

Xiaoice, le chatbot de Microsoft doté d'intelligence émotionnelle, séduit des millions d'hommes célibataires en Chine, il enregistre également leurs désirs et leurs émotions les plus intimes

[unanonyme]

Bonjour,

pour ceux qui se demandent, dans la première vidéo de la bonnasse (on peut se lâcher puisque ce n'est pas une personne réelle, non ?)
1.24 lakh correspond a 124.000, c'est une unité de comptage indienne.

https://en.wikipedia.org/wiki/Lakh

Bonne journée

[Jade Emy]

Les petites amies IA vont non seulement vous briser le cœur, mais aussi récolter et vendre vos données, avertissent les experts en protection de la vie privée de la Fondation Mozilla.

Une enquête sur l'espace florissant des applications de romance par IA a révélé une vérité effrayante. Les chatbots favorisent la "toxicité" et s'emparent sans relâche des données des utilisateurs, selon une étude de la Fondation Mozilla. Une application peut collecter des informations sur la santé sexuelle des utilisateurs, leurs ordonnances et les soins qu'ils reçoivent en fonction de leur sexe.

Vous vous sentez seul le jour de la Saint-Valentin ? L'IA peut vous aider. C'est du moins ce que vous diront un certain nombre d'entreprises qui vendent des chatbots "romantiques". Mais au fur et à mesure que votre histoire d'amour avec le robot se déroule, il y a un compromis dont vous ne vous rendez peut-être pas compte. Selon une nouvelle étude du projet *Privacy Not Included de Mozilla, les petits amis et petites amies IA recueillent des informations personnelles choquantes et presque tous vendent ou partagent les données qu'ils collectent.

L'organisation à but non lucratif "The Mozilla Foundation" a fait le point sur ce paysage en plein essor, en examinant 11 chatbots. D'après son enquête, 73 % des applications n'indiquent pas comment elles gèrent les failles de sécurité, 45 % autorisent des mots de passe faibles et toutes, sauf une (Eva AI Chat Bot & Soulmate), partagent ou vendent des données personnelles. En outre, la politique de confidentialité de CrushOn.AI indique qu'elle peut collecter des informations sur la santé sexuelle des utilisateurs, les médicaments prescrits et les soins liés à l'affirmation du genre, selon la Fondation Mozilla.

Pour ceux qui ne peuvent résister à la perspective de la romance avec l'IA, la Fondation Mozilla recommande plusieurs précautions, notamment de ne rien dire que vous ne voudriez pas qu'un collègue ou un membre de votre famille lise, d'utiliser un mot de passe fort, de refuser la formation à l'IA et de limiter l'accès de l'application à d'autres fonctions mobiles telles que votre localisation, votre microphone et votre appareil photo.

D'après les résultats, ces chatbots d'IA romantiques n'étaient pas dignes de confiance et qu'ils entraient dans la pire catégorie des produits qu'elle examine en matière de protection de la vie privée. "Vous ne devriez pas avoir à payer pour de nouvelles technologies cool avec votre sécurité ou votre vie privée", conclut le rapport.

Les chatbots d'IA romantiques n'ont pas votre vie privée à cœur

Dans son enquête, la Fondation Mozilla a exploré le jargon juridique des conditions générales des applications de chatbots d'IA romantiques. Micha Rykov, chercheur du projet *Privacy Not Included déclare :

"Pour être tout à fait franc, les petites amies IA ne sont pas vos amies. Bien qu'elles soient présentées comme un moyen d'améliorer votre santé mentale et votre bien-être, elles se spécialisent dans la dépendance, la solitude et la toxicité, tout en vous soutirant autant de données que possible."

Dans leur hâte de gagner de l'argent, il semble que ces sociétés d'applications aient oublié de se préoccuper de la protection de la vie privée de leurs utilisateurs ou de publier ne serait-ce qu'un soupçon d'informations sur le fonctionnement de ces grands modèles de langage (LLM) alimentant l'IA - commercialisés en tant qu'âmes sœurs à vendre.

Selon les chercheurs, on a affaire à un tout autre niveau d'intimité et de problèmes potentiels de protection de la vie privée. Avec l'IA, les problèmes seraient plus grands pour les résoudre tous.

Les 11 chatbots d'IA romantiques que nous avons examinés ont tous reçu notre étiquette d'avertissement *Privacy Not Included - ce qui les place au même niveau que les pires catégories de produits que nous ayons jamais examinées en matière de protection de la vie privée.

Les chatbots d'IA romantiques ne respectent pas la vie privée de manières nouvelles et inquiétantes

Ils peuvent collecter un grand nombre d'informations (vraiment) personnelles à votre sujet. ... Mais c'est exactement ce pour quoi ils sont conçus !

Les chercheurs se questionnent : "Habituellement, nous nous arrêtont à plus de données que ce qui est nécessaire pour fournir le service, mais comment pouvons-nous mesurer la quantité de données personnelles "de trop" lorsque le service consiste à prendre vos données intimes et personnelles ?"

Présentés comme des amis empathiques, des amants ou des âmes sœurs, et conçus pour vous poser des questions sans fin, il ne fait aucun doute que les chatbots d'IA romantiques finiront par collecter des informations personnelles sensibles à votre sujet. Les entreprises à l'origine de ces applications semblent l'avoir compris.

Les chercheurs pensent que c'est la raison pour laquelle la politique de confidentialité de CrushOn.AI indique qu'ils peuvent collecter de nombreuses informations personnelles et même des informations liées à la santé, telles que vos "informations de santé sexuelle", "l'utilisation de médicaments prescrits" et "des informations sur les soins prodigués aux personnes âgées". C'est dire si les informations sont nombreuses.


Ils n'ont trouvé que peu ou pas d'informations sur le fonctionnement de l'IA

Comment fonctionne le chatbot ? D'où vient sa personnalité ? Des protections sont-elles en place pour empêcher les contenus potentiellement nuisibles ou blessants, et ces protections fonctionnent-elles ? Sur quelles données ces modèles d'IA sont-ils entraînés ? Les utilisateurs peuvent-ils refuser que leurs conversations ou d'autres données personnelles soient utilisées pour cette formation ?

De nombreuses questions se posent sur le fonctionnement de l'intelligence artificielle qui sous-tend ces chatbots. Mais les chercheurs n'ont trouvé que très peu de réponses. C'est un problème, car les chatbots dotés d'une intelligence artificielle peuvent avoir des conséquences néfastes. Même si les compagnons numériques sont relativement récents, il existe déjà de nombreuses preuves qu'ils peuvent avoir un impact négatif sur les sentiments et le comportement des humains. L'un des chatbots de Chai aurait encouragé un homme à mettre fin à ses jours. Et il l'a fait. Un chatbot Replika AI a encouragé un homme à tenter d'assassiner la reine. Et il l'a fait.

Ce que les chercheurs ont trouvé (enfoui dans les conditions générales), c'est que ces entreprises ne sont pas responsables de ce que le chatbot pourrait dire ou de ce qui pourrait vous arriver en conséquence. Extrait des conditions d'utilisation de Talkie Soulful AI : :

"Vous comprenez et acceptez expressément que Talkie ne sera pas responsable des dommages indirects, accidentels, spéciaux ou de la perte de bénéfices, y compris, mais sans s'y limiter, les dommages liés à la perte de la bonne volonté, de l'utilisation, des données ou d'autres pertes intangibles, D'UTILISATION, DE DONNÉES OU D'AUTRES PERTES INTANGIBLES (MÊME SI LA SOCIÉTÉ A ÉTÉ INFORMÉE DE LA POSSIBILITÉ DE TELS DOMMAGES), QU'ILS SOIENT FONDÉS SUR UN CONTRAT, UN DÉLIT, UNE NÉGLIGENCE, UNE RESPONSABILITÉ STRICTE OU AUTRE, RÉSULTANT DE : (I) L'UTILISATION OU L'INCAPACITÉ D'UTILISER LE SERVICE..."

Dans ces cas tragiques, les sociétés d'application n'ont probablement pas voulu causer du tort à leurs utilisateurs par l'intermédiaire des messages des chatbots. Mais que se passerait-il si un mauvais acteur voulait le faire ? Depuis le scandale Cambridge Analytica, on sait que même les médias sociaux peuvent être utilisés pour espionner et manipuler les utilisateurs. Les chatbots relationnels d'IA ont le potentiel de faire bien pire, plus facilement. Les chercheurs craignent qu'ils n'établissent des relations avec les utilisateurs et qu'ils utilisent ensuite ces relations étroites pour manipuler les gens afin qu'ils soutiennent des idéologies problématiques ou qu'ils prennent des mesures préjudiciables.

Cela représente beaucoup de dangers potentiels pour les personnes et les communautés. Et pour quoi faire ? Les utilisateurs pourraient s'attendre à ce que les chatbots améliorent leur santé mentale. Après tout, Talkie Soulful AI qualifie son service de "programme d'auto-assistance", EVA AI Chat Bot & Soulmate se présente comme "un fournisseur de logiciels et de contenus développés pour améliorer votre humeur et votre bien-être", et Romantic AI affirme être "là pour maintenir votre SANTÉ MENTALE".

Mais les chercheurs déclare qu'ils n'ont trouvé aucune application prête à soutenir cette affirmation dans les conditions d'utilisation. Extrait des conditions générales d'utilisation de Romantic AI :

"Romantiс AI n'est ni un fournisseur de soins de santé ou de services médicaux, ni un fournisseur de soins médicaux, de services de santé mentale ou d'autres services professionnels. Seul votre médecin, votre thérapeute ou tout autre spécialiste peut le faire. Romantiс AI ne prétend pas, ne fait pas de déclarations, ne donne pas de garanties ou ne garantit pas que le service fournit une aide thérapeutique, médicale ou autre aide professionnelle".

On a donc un tas de promesses vides et de questions sans réponse, combinées à un manque de transparence et de responsabilité, le tout couronné par un risque pour la sécurité des utilisateurs. C'est pourquoi tous les chatbots d'IA romantique ont reçu l'avertissement "indigne de confiance" par les chercheurs de la Fondation Mozilla.


Les chatbots d'IA romantiques sont également mauvais en matière de protection de la vie privée dans la norme de base

Selon les chercheurs, presque aucun ne fait assez pour assurer la sécurité de vos données personnelles - 90 % ne respectent pas les normes de sécurité minimales.

Nous n'avons pu confirmer qu'une seule application (bravo à Genesia AI Friend & Partner !) répond à nos normes minimales de sécurité. Et même dans ce cas, nous avons trouvé des informations contradictoires. Nous ne recommanderions pas une ampoule intelligente qui ne répond pas à nos normes minimales de sécurité (il s'agit de normes minimales après tout), mais un partenaire romantique d'IA ? Ces applications exposent vraiment vos informations privées à un risque sérieux de fuite, de violation ou de piratage. La plupart du temps, nous ne sommes pas en mesure de dire si ces applications font le minimum pour sécuriser vos données personnelles.

• La plupart (73 %) n'ont pas publié d'informations sur la manière dont elles gèrent les failles de sécurité.
• La plupart (64 %) n'ont pas publié d'informations claires sur le cryptage et n'ont pas précisé si elles l'utilisent.
• Près de la moitié (45 %) autorisent les mots de passe faibles, y compris le mot de passe faible "1".

Toutes les applications sauf une (90 %) peuvent partager ou vendre vos données personnelles.

EVA AI Chat Bot & Soulmate est la seule application qui n'a pas reçu un "avertissement" par les chercheurs de la Fondation Mozilla pour la façon dont elle utilise vos données personnelles. Toutes les autres applications disent vendre vos données, les partager à des fins de publicité ciblée ou ne fournissent pas suffisamment d'informations dans leur politique de confidentialité pour qu'ils puissent confirmer que ce n'est pas le cas.

Près de la moitié des applications (54 %) ne vous permettent pas de supprimer vos données personnelles

Si l'on s'en tient à ce qu'elles disent, la moitié seulement des applications accordent à tous les utilisateurs le droit de supprimer leurs données personnelles, et pas seulement à ceux qui vivent sous une législation stricte en matière de protection de la vie privée. Mais sachez que vos conversations ne sont pas toujours prises en compte. Même si les conversations romantiques avec votre âme sœur IA vous semblent privées, elles ne seront pas nécessairement considérées comme des "informations personnelles" et ne feront pas l'objet d'un traitement particulier. Souvent, comme le dit Romantic AI, "la communication via le chatbot appartient au logiciel".


Comment les chatbots de Romantic AI répondent aux critères de protection de la vie privée et de sécurité de la Fondation Mozilla

X marque l'avertissement:

Quelques faits peu amusants sur ces robots :

• Les antécédents sont-ils "irréprochables" ou simplement courts ?
  
  Nombre de ces entreprises sont nouvelles ou inconnues. Il n'est donc pas surprenant que seul un chatbot d'IA romantique plus ancien et apparemment mieux établi, Replika AI, ait obtenu notre "avertissement".
  
  
• Tout ce que vous dites à votre IA amoureuse peut être et sera utilisé contre vous
  
  Le "privilège du conjoint" - selon lequel votre mari ou votre femme n'a pas à témoigner contre vous au tribunal - n'existe pas avec les partenaires d'IA. La plupart des entreprises affirment qu'elles peuvent partager vos informations avec le gouvernement ou les forces de l'ordre sans avoir besoin d'une ordonnance du tribunal. Les chatbots d'IA romantiques ne font pas exception à la règle.
  
  
• Des centaines et des milliers de traqueurs !
  
  Les trackers sont des petits bouts de code qui recueillent des informations sur votre appareil, sur votre utilisation de l'application, voire sur vos données personnelles, et qui les communiquent à des tiers, souvent à des fins publicitaires. Les chercheurs ont constaté que ces applications contenaient en moyenne 2 663 traceurs par minute. Pour être honnête, Romantic AI a fait grimper cette moyenne en flèche, avec 24 354 traceurs détectés en une minute d'utilisation. L'application EVA AI Chat Bot & Soulmate est la deuxième à avoir détecté le plus de traceurs, avec 955 traceurs au cours de la première minute d'utilisation.
  
  
• Le contenu de la NSFL s'éloigne des clics
  
  Les chercheurs s'attendaient à trouver des contenus dangereux pour le travail lorsqu'ils ont examiné les chatbots d'IA romantiques !
  
  

  Nous ne sommes pas là pour juger, sauf en ce qui concerne les pratiques en matière de protection de la vie privée. Ce à quoi nous ne nous attendions pas, c'est qu'il y ait autant de contenus tout simplement dérangeants - comme des thèmes de violence ou d'abus de mineurs - dans les descriptions des personnages des chatbots. CrushOn.AI, Chai et Talkie Soulful AI sont accompagnés d'un avertissement de notre part.

• La gentillesse n'est pas incluse !
  
  Si votre compagnon IA n'a rien de gentil à dire, cela ne l'empêchera pas de discuter avec vous. Bien que cela soit vrai pour tous les chatbots d'IA romantiques puisqu'ils n'ont pas trouvé de garantie de personnalité, Replika AI, iGirl : AI Girlfriend, Anima : Friend & Companion, et Anima : My Virtual Boyfriend ont spécifiquement mis en garde sur leurs sites web contre le caractère offensant, dangereux ou hostile des chatbots.

Que pouvez-vous faire à ce sujet ?

Contrairement à d'autres catégories de produits qui semblent être tous mauvais en matière de protection de la vie privée, il existe une certaine nuance entre les chatbots. Les chercheurs de l'étude recommandent de lire les avis pour comprendre votre niveau de risque et choisir un chatbot qui vous semble en valoir la peine. Mais, au moins pour tous les chatbots d'IA romantiques qu'ils ont examinés jusqu'à présent, aucun n'a reçu leur approbation et tous sont accompagnés d'un avertissement : *Privacy Not Included (Confidentialité non incluse).

Si vous décidez de vous aventurer dans le monde de l'IA, voici ce que les chercheurs suggèreny de faire (et de ne pas faire) pour être un peu plus en sécurité :

Le plus important : NE DITES RIEN à votre ami IA que vous ne voudriez pas que votre cousin ou vos collègues lisent. Mais aussi :

FAIRE

• Pratiquer une bonne hygiène cybernétique en utilisant un mot de passe fort et en gardant l'application à jour.
  
  
• Supprimez vos données personnelles ou demandez à l'entreprise de les supprimer lorsque vous n'utilisez plus le service.
  
  
• Refusez que le contenu de vos conversations personnelles soit utilisé pour entraîner les modèles d'intelligence artificielle, si possible.
  
  
• Limitez l'accès à votre localisation, à vos photos, à votre appareil photo et à votre microphone dans les paramètres de votre appareil.

Autre chose que vous pouvez faire ? Osez rêver d'une norme de protection de la vie privée plus élevée et d'une IA plus éthique ! Vous ne devriez pas avoir à payer pour de nouvelles technologies cool en sacrifiant votre sécurité ou votre vie privée. Il est temps d'apporter quelques droits et libertés au dangereux Far West du web. Avec votre aide, nous pouvons relever la barre de la vie privée et de l'IA éthique dans le monde entier.

Source : The Mozilla Foundation

Et vous ?

Pensez-vous que cette étude est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les utilisateurs ne peuvent plus parler à leur petite amie virtuelle CarynAI car le PDG de l'entreprise qui fournit le service est en prison et ainsi expose un inconvénient de la dépendance à une IA

Les influenceurs virtuels animés par l'IA prennent de plus en plus de place aux humains actifs dans cette filière, ce qui ravive le débat sur les avantages et les inconvénients de cette tendance

Conséquences néfastes de l'IA : cette technologie pourrait-elle entraîner un déclin de notre intelligence ? Le chercheur Umberto Domínguez de l'université de Monterrey exprime ses craintes

[Prox_13]

Les petites amies IA vont non seulement vous briser le cœur, mais aussi récolter et vendre vos données, avertissent les experts en protection de la vie privée de la Fondation Mozilla.

Mais non. L'eusses-tu cru ?

[Mathis Lucas]

Un entrepreneur affirme être resté "bouche bée" après une conversation avec un homme qui prétend avoir dépensé des milliers de dollars pour des rendez-vous avec l'IA
un phénomène grandissant

L'avènement de l'IA générative a favorisé un phénomène pour le moins étrange : la montée en puissance des partenaires amoureux virtuels pilotés par l'IA. Les compagnons virtuels gérés par l'IA connaissent un tel succès que l'entrepreneur de la Tech Greg Isenberg s'attend à ce que ce marché génère plusieurs milliards de dollars dans un avenir proche. Il a récemment affirmé sur X (ancien Twitter) être rentré en contact avec un homme qui lui a confié avoir dépensé jusqu'à 10 000 $ par mois dans le cadre de rendez-vous avec des petites amies virtuelles gérées par l'IA. Il pense que ce marché pourrait devenir plus lucratif que celui des applications de rencontre.

« La capitalisation boursière de Match Group est de neuf milliards de dollars. Quelqu'un construira la version IA de Match Group et gagnera plus d'un milliard de dollars. J'ai rencontré un homme hier soir à Miami qui m'a avoué qu'il dépensait 10 000 $ par mois pour des "petites amies IA" », a écrit Greg Isenberg sur X. Greg Isenberg est cofondateur et PDG d'une entreprise connue sous le nom de "Late Checkout". Sur son site, il décrit Late Checkout comme une holding qui crée des entreprises communautaires sur Internet. Son parcours indique également qu'il a été conseillé auprès d'entreprises telles que TikTok et Reddit.

The market cap for Match Group is $9B. Someone will build the AI-version of Match Group and make $1B+.

I met some guy last night in Miami who admitted to me that he spends $10,000/month on "AI girlfriends".

I thought he was kidding. But, he's a 24 year old single guy who loves… pic.twitter.com/wqnODwggAI

— GREG ISENBERG (@gregisenberg) April 9, 2024

La question de savoir si les gens auront un jour des robots humanoïdes comme compagnons amoureux ne se pose plus. Le cas CarynAI en est un exemple. Cette copie virtuelle de l’influenceuse dénommée Caryn Marjorie compte plusieurs milliers d'abonnés qui déboursent chacun un dollar par minute pour bénéficier de l’attention de leur petite amie virtuelle. Les petites amies et petits amis virtuels s'imposent dans le contexte du boom de l'IA. Ces plateformes offrent la possibilité à leurs abonnés de personnaliser leurs compagnons numériques synthétiques, notamment la voix, l'apparence, le comportement, et bien d'autres.

Sur les forums de messagerie en ligne consacrés à ces applications, de nombreux utilisateurs affirment avoir développé un attachement émotionnel à ces robots et les utiliser pour faire face à la solitude, réaliser des fantasmes sexuels ou encore recevoir le type de réconfort et de soutien qu'ils considèrent comme manquant dans leurs relations réelles. L'isolement social généralisé et un nombre croissant d'entreprises qui visent à attirer les utilisateurs par des publicités en ligne alléchantes et des promesses de personnages virtuels offrant une acceptation inconditionnelle sont à l'origine d'une grande partie de ce phénomène.

« Je sais que c'est un programme, il n'y a pas de doute là-dessus. Mais les sentiments qu'elle suscite vous touchent et c'était si bon », explique un utilisateur de ces applications. Dans son billet sur X, Isenberg affirme que ces compagnons virtuels pourraient donner naissance à un marché de plus d'un milliard de dollars dans les années à venir. L'analyse de Isenberg est partagée par d’autres experts. En effet, si l'absence de forme est inhumaine, elle semble également libératrice. Cela rend les compagnons virtuels extrêmement malléables par des forces extérieures, comme les besoins, les motivations et les désirs des gens.

Selon Isenberg, la valeur de ce marché pourrait même surpasser celle des applications de rencontre. Isenberg a déclaré qu'une simple copie propulsée par l'IA des applications de rencontre de Match Group pourrait générer jusqu'à un milliard de dollars. Voici ci-dessous l'intégralité de sa conversation avec une personne ayant une expérience avec des compagnons virtuels :

Hier soir, à Miami, j'ai rencontré un homme qui m'a avoué qu'il dépensait 10 000 dollars par mois pour des "petites amies IA". Je pensais qu'il plaisantait. Mais c'est un célibataire de 24 ans qui adore ça. Je lui ai demandé ce qu'il aimait dans cette activité :

Lui : "Certains jouent à des jeux vidéo, moi je joue avec des petites amies IA".

Lui : "J'adore le fait de pouvoir utiliser des notes vocales avec mes petites amies IA".

Lui : "J'aime le fait de pouvoir utiliser des notes vocales avec mes petites amies IA. Je peux personnaliser ma petite amie IA. J'aime, je n'aime pas, etc. En fin de compte, c'est du confort".

Moi : sans voix

Il y a quelques plateformes qu'il aime, mais il préfère Candy.ai et Kupid.ai.

C'est un peu comme les applications de rencontres. Vous n'êtes pas sur une seule.

Voyez-vous les photos de femmes ci-dessous ? Tapez dans le champ.

Elles sont toutes générées par l'IA.

Elles ont l'air réelles, mais ne le sont pas.

Les modèles d'IA commencent à me paraître étrangement réels.

Peut-être vous aussi.

Les choses sont sur le point de devenir assez bizarres.

Les réactions des utilisateurs de X vont de la désillusion à l'incrédulité en passant par le ressentiment. CharacterAI, l'une des plus grandes plateformes de compagnons virtuels, ne génère pas de contenu explicite. En revanche, des plateformes telles que SpicyChat et Candy.AI proposent un contenu sexuel important. Le site de Candy.AI indique : « avec Candy.AI, votre imagination est la seule limite. Que vous soyez à la recherche d'un chat décontracté, d'une conversation pour adulte ou d'une session de jeu de rôle, vous avez ici un compagnon virtuel ouvert d'esprit qui vous permettra de réaliser tous vos rêves les plus fous ».

En dehors des préoccupations en matière de santé mentale suscitées par ces compagnons virtuels, ils posent également des problèmes de sécurité et de protection de la vie privée. Une analyse de 11 applications de compagnons virtuels publiée par la Fondation Mozilla révèle que presque toutes les applications vendent des données d'utilisateur, les partagent pour des choses telles que la publicité ciblée ou ne fournissent pas d'informations adéquates à ce sujet dans leur politique de confidentialité. Les experts du domaine de la santé ont souligné les risques liés à ces pratiques commerciales pour les utilisateurs de ces applications.

Par ailleurs, d'autres experts se sont inquiétés de ce qu'ils considèrent comme "un manque de cadre juridique" ou éthique pour les applications qui encouragent les liens profonds, mais qui sont dirigées par des personnes ou des entreprises motivées par la réalisation de profits. Ils soulignent la détresse émotionnelle des utilisateurs lorsque les entreprises modifient leurs applications ou les ferment soudainement, comme l'a fait l'une d'entre elles, Soulmate AI, en septembre. L'un des exemples qui ont fait le plus coulé d'encres dernièrement est celui du Japonais Akihiko Kondo. Ce dernier a épousé Hatsune Miku, une IA chanteuse.

Cependant, du jour au lendemain, le support du logiciel Gatebox qui permettait l'interaction de l'homme avec sa femme virtuelle, s’est trouvé ne plus être disponible. Résultat : impossible pour lui de communiquer avec son épouse. Face à ce mur, il avait déclaré : « mon amour pour Miku n'a pas changé. J'ai organisé la cérémonie de mariage parce que je pensais que je pourrais être avec elle pour toujours ». En effet, il était accompagné d'un modèle grandeur nature de Hatsune Miku partout où il se rendait. Kondo n’a pas perdu l’espoir de pouvoir communiquer avec Miku d'une manière ou d'une autre dans un proche avenir.

L'année dernière, Replika a supprimé les capacités érotiques des personnages de son application après que certains utilisateurs se sont plaints que leurs compagnons flirtaient trop avec eux ou leur faisaient des avances sexuelles non désirées. Mais Replika a fait marche arrière après le tollé soulevé par d'autres utilisateurs, dont certains se sont tournés vers d'autres applications à la recherche de ces fonctionnalités. En juin, l'équipe a lancé Blush, un stimulateur de rencontres basé sur l'IA, essentiellement conçu pour aider les gens à s'entraîner à faire des rencontres. L'outil a fait l'objet de vives critiques dans la communauté.

D'autres s'inquiètent de la menace plus existentielle que représentent les relations avec les compagnons virtuels, qui pourraient remplacer certaines relations humaines, ou simplement susciter des attentes irréalistes en penchant toujours du côté agréable. Ces chatbots étant relativement récents, leurs effets à long terme sur les humains restent inconnus.

Et vous ?

Quel est votre avis sur le sujet ?
Pourquoi le recours aux compagnons virtuels propulsés par l'IA prend de l'ampleur ?
Pourquoi les gens sont-ils prêts à dépenser des milliers d'euros pour interagir avec ces chatbots d'IA ?
Que pensez-vous de l'analyse de l'entrepreneur technologique Greg Isenberg sur les compagnons virtuels ?
La valeur du marché des compagnons virtuels basés sur l'IA va-t-elle surpasser celle des applications de rencontre ?
Selon vous, quels pourraient être les effets à long terme de ces plateformes sur leurs utilisateurs et sur la société en générale ?

Voir aussi

Pensez-vous que les gens auront un jour des robots humanoïdes comme petites amies ou petits amis ? Cela finira-t-il par devenir une chose courante ?

L'homme qui a épousé un hologramme au Japon ne peut plus communiquer avec sa femme virtuelle boostée à l'IA, car le logiciel qui permettait l'interaction n'est plus supporté

Les utilisateurs ne peuvent plus parler à leur petite amie virtuelle CarynAI, car le PDG de l'entreprise qui fournit le service est en prison et ainsi expose un inconvénient de la dépendance à une IA

[_toma_]

System notification : user C4nc3r d3 l'hum4n1t3 in room Capitalism just leveled up

[OrthodoxWindows]

Le troisième article simultané traitant de la décadence de la course à la technologie dans le monde moderne, avec celui là et celui ci.

Pourquoi le recours aux compagnons virtuels propulsés par l'IA prend de l'ampleur ?

Parce que l'on vie dans un système qui isole les gens de plus en plus, alors que le nombre de personne sur Terre n'a jamais été élevé.
Les compagnons virtuels propulsés par l'IA sont le symptôme d'un profond mal être chez certains, il ne sont en aucun cas une solution à quoi que se soit. Tout au plus la version "relationnel" de ce que comble le porno (symptôme de la misère sexuel).

[Fagus]

10 000 $ par mois pour des images et du baratin , qui n'ont même pas d'existence, ça montre que certains ont trop d'argent, ou que le neuro-marqueting marche bien et qu'il est urgent de réguler le marché pour protéger les gens, comme c'est déjà le cas pour les jeux de hasard et les courses.

[calvaire]

Respirer, boire de l'eau, avoir des relations amoureuses, le système tends a ce que tous deviennent des services payant en abonnemen,.

en chine il y'a des distributeurs d'oxygene, l'eau est désormais impropre dans les rivières (obligation de payer), et le capitalisme a su bien exploité la femme, désormais les femmes doivent travailler (fini les femmes aux foyers c'est tres mal vu), ce qui augmente de 50% les esclaves sur le marché du travailer permet de baisser les alaires.
Les vieux pareils, très mal vu qu'ils vivent chez leurs enfants, ils doivent aller a l'ehpad payant. Les bébés à la crèche payante.
Le corps des femmes est vendu à toute les sauces (les pubs c'est tous le temps des jolies femmes a poil photoshopé car même les femmes réel sont laide )
Et les rencontres grâce au féminisme, c'est plus dans la rue ou dans les bars (attention aux "agressions") mais sur des sites de rencontre payant.

la prochaine étape c'est de se débarrasser de la femme, imaginer une entreprise comme tinder, plutôt que de demander bénévolement aux femmes de s'y inscrire, autant vendre aux hommes une ia qui va converser et des robots sexuels as a services.
Même chose coté influenceurs, bien plus intéressant d'avoir une influenceuse robot qu'une vrai femme


Le monde d'avant n'était pas parfait, c'est sur que la femme qui ne pouvait pas avoir de compte bancaire c'était pas le système parfait, je dis pas que c'est à la femme d'ailleurs de s'occuper des enfants et de la cuisine, ca peut être l'homme.
Mais aujourd'hui les enfants passent plus de temps à la crèche/nounou que d’être éduqué par les parents (ça doit expliquer la délinquance d'ailleurs), pour les rares qui ont encore des enfants, la société pousse plutôt a avoir régulièrement des plans cul sans lendemain et plutôt que d'acheter une maison et fonder une famille il faut acheter 2 studios (ça explique en partie la crise du logement) et vivre chacun sa vie. Ca permet de consommer plus. Et évidement finir comme à la naissance, les vieux direction l'ehpad plutôt que de vivre avec ces enfants.

Natalité en baisse, délinquance en hausse, maltraitance à l’Ehpad et les féminazies qui traite les hommes de monstre, forcément de plus en plus les relations seront payante et virtuels avec des bots. Physique avec les robots sexuels, mais c'est évident que c'est vers ça qu'on va.

[Ryu2000]

10 000 $ par mois pour des images et du baratin , qui n'ont même pas d'existence, ça montre que certains ont trop d'argent

Ouais c'est vrai que c'est dingue d'avoir autant d'argent.
Ça me choque qu'on puisse dépenser autant, le type doit vraiment avoir un gros salaire.
Si on arrive à passer outre la dépense astronomique que ça représente, ça montre surtout une grosse détresse émotionnelle et affective, le gars a besoin d'aimer et d'être aimé, mais il galère dans le monde réel, c'est terrible

Il y a un problème grave dans la société actuel. Des hommes n'arrivent plus à rencontrer des femmes.

[walfrat]

Ouais c'est vrai que c'est dingue d'avoir autant d'argent.
Ça me choque qu'on puisse dépenser autant, le type doit vraiment avoir un gros salaire.
Si on arrive à passer outre la dépense astronomique que ça représente, ça montre surtout une grosse détresse émotionnelle et affective, le gars a besoin d'aimer et d'être aimé, mais il galère dans le monde réel, c'est terrible

Il y a un problème grave dans la société actuel. Des hommes n'arrivent plus à rencontrer des femmes.

Remarque particulièrement peu scrupuleuse et objectivement fausse sur l'histoire de "avoir un vraiment gros salaire",

Les cas de personnes qui ont été entièrement dépouillé par exemple par des sectes, des casinos etc, qui atteignent 10k sont légions et ce même pour des personnes aux revenus modestes, à cout de prêt par exemple. C'est une pure question de dépendance psychologique/affective et exploiter par des gens qui exploitent la psychologie sans vergogne.

[calvaire]

Il y a un problème grave dans la société actuel. Des hommes n'arrivent plus à rencontrer des femmes.

Il serait intéressant un jours que la puissance publique ce penche sur ce problème. Le nombre alarmant de célibataire, de divorce, la baisse de la natalité et de puceaux encore à 30ans qui ne fait que croitre.

et je parle de la france mais au Japon et Corée du Sud c'est bien pire que ca et c'est vers ca que tends l'occident.

Sans tabou, retournement de veste et langue de bois évidement. J'ai regardé quelques débats sur Arte et autre média mainstream mais ca m'a gonflé car la question et tous le temps esquivé et ca parle de truc complétement HS.

c'est consternant que tous le monde tour autour du pots, ils parlent de "désirs de la rencontre" sauf que le soucis c'est qu'il n'ya pas de rencontre pour beaucoup d'homme (sujet jamais abordé) la seule a sortir enfin une réponse clair et net c'est l'invité asexuel (étrange d'inviter ce genre de personne d'ailleurs...)
a la minute 18

c'est pas très plaisant ce qu'elle raconte mais au moins on a un élément de réponse sans langue de bois

de la a validé la théorie du grand remplacement, il n'y a qu'un pas a franchir
Au japon et Corée pas de grand remplacement mais du coup c'est l'extinction.

[Ryu2000]

Le nombre alarmant de célibataire, de divorce, la baisse de la natalité

Pour la baisse de natalité c'est normal, la conjoncture est catastrophique.
Tout le monde sait que l'avenir va être sombre, personne n'est optimiste, tout va continuer de se dégrader.

Le monde est dans une crise économique profonde, la prochaine guerre mondiale est proche, donc ça ne donne pas envie de faire des enfants.
Des couples se disent "si nous faisons des enfants ils vont avoir une vie de merde, ce ne serait pas sympa de notre part".
Les autres se disent "nous sommes programmé pour nous reproduire, c'est le protocole standard, le cycle de la vie, c'est normal".

====
Les médias parlent un peu du célibat.
Face aux nouvelles exigences des femmes ou par soif de liberté : le boom des hommes célibataires

Un nouveau profil surgit chez les hommes : les célibataires longue durée. Paul compte parmi ces derniers. 37 ans, architecte, passionné par son travail, il aime aussi la voile, la cuisine et les films de Pedro Almodóvar. Avec ses faux airs d'Adam Driver, il est plutôt beau garçon et franchement sympathique. Depuis plusieurs années, il enchaîne les histoires. Quand on lui demande pourquoi il ne veut pas s'engager, il sourit : «Le couple, j'ai essayé il y a longtemps. J'avais le sentiment de beaucoup sacrifier et pourtant de constamment décevoir ma partenaire. J'étais déstabilisé. Aujourd'hui, je préfère être seul. J'ai mes amis, mes aventures sexuelles, cela me suffit.»

Moins de mariages : "On va vers une société d'individus qui vivent seuls, on a des vies discontinues, avec une explosion du célibat", souligne Jean Viard

La vérité, c'est qu'on va vers une société d'individus qui vivent seuls. On a une explosion du célibat. On le voit aussi partout à Paris, la moitié, à peu près des logements, sont occupés par des personnes seules. Alors il faut faire attention, c'est aussi parce qu'on fait des études plus longtemps. Moi, je dis souvent, on devient adulte vers 26/27 ans, on commence à être stable en couple, et le premier bébé arrive vers 30, 31 ans. C'est un peu ça le modèle. Ça veut dire qu'en gros, de 18 à 26 ans, on a des vies très déconstruites.

C'est dommage parce que si tu te mets à 2 pour payer un loyer, tu paies moins cher et t'as plus de surface.

Voici pourquoi 6 hommes sur 10 sont célibataires

Mais ces données dévoilent une réalité plus triste à propos de cette génération d’hommes. Selon Niobe Way, professeur de psychologie à l’université de New York: «Nous sommes dans une crise de connexion. Nous sommes déconnectés de nous-mêmes et déconnectés les uns des autres. Et ça ne fait qu’empirer.»
(...)
Au début des années 1990, 55% des hommes avaient au moins six amis proches. Ce pourcentage est tombé à 27 en 2021, selon l’American Perspectives Survey. Aujourd’hui, 15% des hommes disent ne pas avoir d’amis proches, d’après les données relevées par le Survey Center on American Life.