Discussion :

[Nancy Rey]

Débourser 10 dollars seulement pour créer un chatbot IA d'un proche décédé,
comment un logiciel peut aider certains à faire leur deuil, en perturber d'autres

Chacun fait l'expérience du deuil à un moment donné de sa vie et nombreux sont ceux qui trouvent du réconfort dans le fait de garder vivants les souvenirs de l'être aimé, d'une manière ou d'une autre. Avec les progrès de la technologie, certains ont trouvé du réconfort dans l'utilisation de l'intelligence artificielle pour renouer avec les morts. L'IA générative offre des moyens imaginatifs de se souvenir de la vie des gens en simulant leur ressemblance. Le créateur du logiciel, Jason Rohrer a mis sur pied le projet December en tant qu'outil spécifiquement destiné à renouer le contact avec les morts. Les utilisateurs peuvent payer 10 dollars pour créer un chatbot imitant le comportement d'une personne décédée. Le projet December, un chatbot textuel développé à l'aide du GPT-3, a aidé des personnes à tourner la page en "parlant" avec un être cher décédé. Jason Rohrer a déclaré à propos du projet December : « Ce n'est peut-être pas la première machine intelligente. Mais j'ai l'impression que c'est la première machine avec une âme ». Mais faire revivre les morts à l'aide d'algorithmes peut sembler subversif, bizarre ou effrayant et mème en perturber d'autres dans leur processus de deuil.

L'année dernière, l'histoire d'un homme qui a initié un chatbot alimenté par GPT-3 avec des messages texte de sa fiancée décédée afin de pouvoir lui parler à nouveau est devenue virale. Un logiciel d'imitation a essentiellement aidé Joshua Barbeau à accepter la mort de Jessica Pereira, une femme qu'il avait rencontrée et dont il était tombé amoureux il y a dix ans. Après cet article du San Francisco Chronicle, les gens se sont rués sur le projet December, la technologie utilisée par Barbeau, pour créer leurs propres chatbots d'IA. Le créateur du logiciel, Jason Rohrer, un développeur de jeux indépendants, a créé le code pendant la pandémie de COVID-19 et a pensé que les internautes seraient prêts à payer cinq dollars pour personnaliser la personnalité d'une entité virtuelle à laquelle ils voulaient parler. Il n'a pas tout de suite pensé que les gens seraient intéressés par l'utilisation de Project December pour simuler des morts, jusqu'à ce que l'histoire de Barbeau explose.

Aujourd'hui, Rohrer a relancé le Projet December en tant qu'outil spécifiquement destiné à renouer le contact avec les morts. Les utilisateurs peuvent payer 10 dollars pour créer un chatbot imitant le comportement d'une personne décédée. « J'ai décidé de créer un service spécial lorsque j'ai constaté un tel désir dans la communauté autour de Project December après l'article du SF Chronicle. Je voulais construire quelque chose de mieux pour ces personnes. Avec un peu de chance, ils obtiendront l'aide qu'ils recherchaient grâce à cette expérience », a déclaré Rohrer.

« C'est intéressant de construire quelque chose de si avant-gardiste, fou et de science-fiction-esque. C'est fascinant pour moi en tant que créateur », a-t-il ajouté. Rohrer a même créé un trailer pour repositionner Project December

Les utilisateurs sont invités à remplir un questionnaire sur la personne qu'ils souhaitent simuler et avec laquelle ils souhaitent converser, en fournissant son nom, son âge, ses loisirs, ainsi que des souvenirs et des faits spécifiques. Le projet December utilise ces informations pour rendre les conversations plus personnelles et les réponses du chatbot plus convaincantes. Le programme de Rohrer est alimenté par le modèle de langage d'AI21 Lab après qu'il ait perdu l'accès à GPT-3 lorsque OpenAI a fermé son compte de développeur pour des raisons de sécurité.

Les gens décident généralement de jouer avec le projet December par curiosité, et quelques-uns choisissent de continuer à y revenir s'ils obtiennent quelque chose de positif en parlant à une machine. Une personne ayant fait l'expérience du logiciel a déclaré que les résultats étaient variables ; il avait créé des conversations avec toutes sortes de personnes décédées, de sa grand-mère à Steve Jobs : « Selon l'intention, les conversations peuvent être drôles, effrayantes, profondes, bizarres, spirituelles, ou même comparables à un processus de guérison ». Il a même essayé de faire tourner un chatbot pour modéliser une conversation avec son futur moi décédé. « Cela me rappelle l'astrologie d'une certaine manière. Vous regardez un champ d'étoiles dans le ciel pour vous découvrir. J'ai fait la même chose en regardant un écran de pixels », dit-elle.

L'intérêt d'utiliser l'IA pour faire revivre les morts est mitigé

Utiliser, par exemple, des réseaux adversatifs génératifs pour retoucher et colorier de vieilles photos est plutôt inoffensif. Des outils tels que Deep Nostalgia de MyHeritage vont encore plus loin, en animant les images pour faire cligner les yeux et sourire les gens. Le sentiment de voir des membres de la famille ou des amis décédés apparemment ramenés à la vie momentanément peut être déstabilisant. « Certaines personnes adorent la fonction Deep Nostalgia et la considèrent comme magique, tandis que d'autres la trouvent effrayante et ne l'aiment pas. En effet, les résultats peuvent être controversés et il est difficile de rester indifférent à cette technologie. Cette fonctionnalité est destinée à un usage nostalgique, c'est-à-dire à ramener à la vie des ancêtres bien-aimés », peut-on lire dans une FAQ de la société de généalogie en ligne.

L'IA peut simuler les morts à travers différents types de données, notamment audio et vidéo. Amazon a démontré comment son assistant numérique personnel Alexa pouvait imiter la voix des gens, suscitant une vive controverse. « Alexa, grand-mère peut-elle finir de me lire Le Magicien d'Oz ? » demande un enfant dans une vidéo diffusée lors de la conférence re:MARS du géant de l'internet cet été. Et c'est ainsi que la machine s'est lancée, se faisant passer pour la grand-mère.

Rohit Prasad, responsable scientifique d'Alexa AI, a déclaré que la personnalisation de la technologie permettait d'établir une relation de confiance entre les humains et les machines, et a ajouté que cela était particulièrement important alors que « tant d'entre nous ont perdu un être cher » pendant la pandémie. Il semblait dire que l'Alexa d'Amazon pouvait se faire passer pour un parent ou un ami décédé et converser en son nom avec d'autres personnes sur demande.

La technologie a été critiquée pour son caractère effrayant et dystopique ; il n'est pas certain que le titan de la technologie rende la fonction audio disponible de manière générale. « Nous n'avons pas plus à partager sur les fonctionnalités spécifiques ou la disponibilité.La personnalisation de la voix d'Alexa est une fonctionnalité très souhaitée par nos clients qui pourraient utiliser cette technologie pour créer de nombreuses expériences agréables. Nous travaillons à l'amélioration de la science fondamentale que nous avons démontrée à re:MARS et nous explorons les cas d'utilisation qui raviront nos clients, avec les garde-fous nécessaires pour éviter toute mauvaise utilisation potentielle », a déclaré un porte-parole d'Amazon à dans un communiqué.

Faire revivre les morts à l'aide d'algorithmes peut sembler subversif, bizarre ou effrayant, mais cela peut apporter du réconfort à ceux qui sont assez ouverts d'esprit pour essayer ces nouveaux types de services. Un utilisateur de Project December a confié qu'il réfléchit à deux fois avant d'admettre si il utilisera le logiciel pour tenir des conversations avec les morts, car c'est « quelque peu tabou ». Il trouve cependant que l'expérience est « étrangement thérapeutique ». Il a confié que sa mère venait d'être admise dans un hospice et qu'il n'était pas certain de simuler une conversation avec elle une fois qu'elle serait décédée.

Rohrer a testé Project December à plusieurs reprises, en modélisant le chatbot sur des personnes de sa propre vie qui sont décédées, notamment ses grands-parents, sa tante et son professeur de piano d'enfance. Il a déclaré que cela lui donnait l'occasion de penser à eux, et de revivre de vieux souvenirs. « Quelles sont les choses les plus importantes à dire sur cette personne ? Que leur dirais-je si j'avais un dernier moment avec eux ? » a-t-il demandé.

Source : Project December

Et vous ?

Quel est votre avis sur le sujet ?
Seriez-vous prêt à payer 10 $ pour créer un chatbot IA d'un être cher décédé ?

Voir aussi :

Le nouveau chatbot d'IA de Meta affirme que le PDG Mark Zuckerberg est "effrayant et manipulateur", l'agent conversationnel tient également des propos racistes et répand des théories du complot

Google présente Meena, son nouveau chatbot, qui serait le meilleur au monde, capable de mener une discussion plus évoluée avec un humain

70 % des consommateurs préfèrent utiliser un chatbot pour trouver ce qu'ils cherchent et 98 % des entreprises confirment que les chatbots ont amélioré le parcours client, selon Botco.ai

Une agence funéraire suédoise veut s'appuyer sur l'IA et la réalité virtuelle pour créer une copie numérique des défunts

[Jules34]

Débourser 10 dollars seulement pour créer un chatbot IA d'un proche décédé,
comment un logiciel peut aider certains à faire leur deuil, en perturber d'autres

Moi je suis peu réac, un peu vieux jeu, j'ai 32 ans je suis pas encore ce que les jeunes appellent un "vieux" mais franchement tout ces trucs autour de l'IA, la reproduction du réel en numérique, je trouve tout ça débile. Un prétexte de marketeux qui cherche à vendre des technologies dont en fait on sait pas quoi faire à part faire des deepfake ou faire parler les morts...

On en est au point dans ce pays ou les senior doivent chercher de l'aide pour remplir en ligne leurs feuilles d'impôt. Les administrations et même le secteur privé deviennent de plus en plus des fantômes dans le réel et n'existent plus que via la machinerie informatique. Et on applaudit car on fait parler les morts ? Plus les gens auront le nez rivé sur leurs téléphone plus la société dans sa globalité va littéralement s'effacer du réel, et c'est vraiment inquiétant.

Du coup le mensonge prolifère de partout : 7% de chômage en France, que des bullshitjob sous payé ? C'est la faute des chômeurs ! C'est trop dur de faire une entreprise en france ? Fermons les acceuils des tribunaux de commerce, des CFA et des CMA et créons un portail à 1 milliard d'euros tout pourris qui viendra se sucrer sur le dos des Français en plus des autres échelons !!! Et je ne parle pas de la santé, du recul du droit du travail...

L'être humain est fait pour être un être social, mais c'est grandement le piéger de lui faire croire qu'il peut vivre dans sa bulle numérique sans que cela ait de conséquence sur sa vie en société, car pendant qu'il est occupé à écouter la voix de sa grand mère décédée lui détailler la recette des crêpes de marmiton, certains pensent déjà à comment sa grand mère va lui conseiller d'acheter la dernière poelle Tefal et de lui conseiller de prendre un abonnement VIP à Tinder pour qu'elle devienne enfin arrière grand mère....

Quelle désolation...

Mes grands parents sont mort et ne serait ce que par respect, je n'essaierais jamais de les faires "revivre" via une plateforme américaines qui attend avec impatience mon set de donnée pour en faire dieu sait quoi et me faire croire à moi que je parler avec les morts...

[virginieh]

Mes grands parents sont mort et ne serait ce que par respect, je n'essaierais jamais de les faires "revivre" via une plateforme américaines qui attend avec impatience mon set de donnée pour en faire dieu sait quoi et me faire croire à moi que je parler avec les morts...

Je ne suis pas tout à fait d'accord :
Une majorité des gens gardent des photos/vidéos de leurs disparus, pour se les remémorer ?
Il y en a de plus en plus qui gardent aussi les messages vocaux sur le téléphone.

Évidement utiliser une IA pour essayer de simuler réellement la présence et les réaction du disparus, ça va beaucoup plus loin, mais je comprends que certains soient tentés.
Et je préfère ce système là que la pléthore de charlatans (voyants/médiums, ...) qui vont justement abuser de leurs "clients".

[OrthodoxWindows]

Je ne suis pas tout à fait d'accord :
Une majorité des gens gardent des photos/vidéos de leurs disparus, pour se les remémorer ?
Il y en a de plus en plus qui gardent aussi les messages vocaux sur le téléphone.

Évidement utiliser une IA pour essayer de simuler réellement la présence et les réaction du disparus, ça va beaucoup plus loin, mais je comprends que certains soient tentés.
Et je préfère ce système là que la pléthore de charlatans (voyants/médiums, ...) qui vont justement abuser de leurs "clients".

Oui mais là il s'agit de souvenirs, cela à toujours existé (je pense au masques mortuaires). Il n'est pas question de faire parler à des morts.

[OrthodoxWindows]

Moi je suis peu réac, un peu vieux jeu, j'ai 32 ans je suis pas encore ce que les jeunes appellent un "vieux" mais franchement tout ces trucs autour de l'IA, la reproduction du réel en numérique, je trouve tout ça débile. Un prétexte de marketeux qui cherche à vendre des technologies dont en fait on sait pas quoi faire à part faire des deepfake ou faire parler les morts...

On en est au point dans ce pays ou les senior doivent chercher de l'aide pour remplir en ligne leurs feuilles d'impôt. Les administrations et même le secteur privé deviennent de plus en plus des fantômes dans le réel et n'existent plus que via la machinerie informatique. Et on applaudit car on fait parler les morts ? Plus les gens auront le nez rivé sur leurs téléphone plus la société dans sa globalité va littéralement s'effacer du réel, et c'est vraiment inquiétant.

Du coup le mensonge prolifère de partout : 7% de chômage en France, que des bullshitjob sous payé ? C'est la faute des chômeurs ! C'est trop dur de faire une entreprise en france ? Fermons les acceuils des tribunaux de commerce, des CFA et des CMA et créons un portail à 1 milliard d'euros tout pourris qui viendra se sucrer sur le dos des Français en plus des autres échelons !!! Et je ne parle pas de la santé, du recul du droit du travail...

L'être humain est fait pour être un être social, mais c'est grandement le piéger de lui faire croire qu'il peut vivre dans sa bulle numérique sans que cela ait de conséquence sur sa vie en société, car pendant qu'il est occupé à écouter la voix de sa grand mère décédée lui détailler la recette des crêpes de marmiton, certains pensent déjà à comment sa grand mère va lui conseiller d'acheter la dernière poelle Tefal et de lui conseiller de prendre un abonnement VIP à Tinder pour qu'elle devienne enfin arrière grand mère....

Quelle désolation...

Mes grands parents sont mort et ne serait ce que par respect, je n'essaierais jamais de les faires "revivre" via une plateforme américaines qui attend avec impatience mon set de donnée pour en faire dieu sait quoi et me faire croire à moi que je parler avec les morts...

Ne t'inquiète pas, j'ai 11 ans de moins que toi et je suis totalement d'accord avec ton message. Et j'ai des amis (dans la même fourchette d'âge) qui pensent la même chose sur ce genre de sujet.

[Coeur De Roses]

Moi je suis peu réac, un peu vieux jeu, j'ai 32 ans je suis pas encore ce que les jeunes appellent un "vieux" mais franchement tout ces trucs autour de l'IA, la reproduction du réel en numérique, je trouve tout ça débile. Un prétexte de marketeux qui cherche à vendre des technologies dont en fait on sait pas quoi faire à part faire des deepfake ou faire parler les morts...

On en est au point dans ce pays ou les senior doivent chercher de l'aide pour remplir en ligne leurs feuilles d'impôt. Les administrations et même le secteur privé deviennent de plus en plus des fantômes dans le réel et n'existent plus que via la machinerie informatique. Et on applaudit car on fait parler les morts ? Plus les gens auront le nez rivé sur leurs téléphone plus la société dans sa globalité va littéralement s'effacer du réel, et c'est vraiment inquiétant.

Du coup le mensonge prolifère de partout : 7% de chômage en France, que des bullshitjob sous payé ? C'est la faute des chômeurs ! C'est trop dur de faire une entreprise en france ? Fermons les acceuils des tribunaux de commerce, des CFA et des CMA et créons un portail à 1 milliard d'euros tout pourris qui viendra se sucrer sur le dos des Français en plus des autres échelons !!! Et je ne parle pas de la santé, du recul du droit du travail...

L'être humain est fait pour être un être social, mais c'est grandement le piéger de lui faire croire qu'il peut vivre dans sa bulle numérique sans que cela ait de conséquence sur sa vie en société, car pendant qu'il est occupé à écouter la voix de sa grand mère décédée lui détailler la recette des crêpes de marmiton, certains pensent déjà à comment sa grand mère va lui conseiller d'acheter la dernière poelle Tefal et de lui conseiller de prendre un abonnement VIP à Tinder pour qu'elle devienne enfin arrière grand mère....

Quelle désolation...

Mes grands parents sont mort et ne serait ce que par respect, je n'essaierais jamais de les faires "revivre" via une plateforme américaines qui attend avec impatience mon set de donnée pour en faire dieu sait quoi et me faire croire à moi que je parler avec les morts...

J'ai 27 ans et je pense que le Metaverse est surcôté, en tout cas il y'a des choses interessantes possibles mais en fait là je vois pas la valeur ajouté de ce truc quand j'en entends parler dans la majorité des cas, c'est pas très pertinent. Il y'a des gens qui suivent la mode du metaverse sans vraiment comprendre certaines choses selon moi.

Je pense qu'un chat bot IA d'une personne décédé est incohérent. Je sais que la personne est mort et qu'il s'agit d'un IA, je ne vois pas l'intérêt d'un tel logiciel. Il y'a aucune logique dans cette histoire, c'est superficiel.

Je ne suis pas tout à fait d'accord :
Une majorité des gens gardent des photos/vidéos de leurs disparus, pour se les remémorer ?
Il y en a de plus en plus qui gardent aussi les messages vocaux sur le téléphone.

Évidement utiliser une IA pour essayer de simuler réellement la présence et les réaction du disparus, ça va beaucoup plus loin, mais je comprends que certains soient tentés.
Et je préfère ce système là que la pléthore de charlatans (voyants/médiums, ...) qui vont justement abuser de leurs "clients".

Pas d'accord avec toi, on ne peut pas mélanger les photos et le chat bot IA. C'est pas la même chose. Les photos sont pertinentes, un chat bot de celle-ci c'est superficiel.

[Locabimp]

Mon avis serait contre parler de la mort... je préfère que la personne avance en se disant que la personne morte préférerais le voir avancer et aller de l'avant que cette même personne se morfonde où reste accrocher à quelque chose qui n'existe plus vraiment même si leurs invention de machine pourrais aller dans une image positive, selon-moi sa ne les rendraient que plus dépendant. Après c'est vrai l'idée pourrais peux être marcher comme dans certain pays où il clone des chiens mort enfin presque...et sa fait un très bon bisness...

[Arya Nawel]

Oui bien sûr, j'aimerais bien que les proches décédés me suggèrent de nouvelles opportunités excitantes parlais un flot de déclarations sans tête ni queue.
Je veux dire, c'est pour ça que les proches décédés sont là, pour faire de l'argent facile à quelq'un d'autre. N'est ce pas?

[Jade Emy]

L'essor des "bots fantômes" en Chine : ce père s'est tourné vers l'IA pour faire revivre numériquement son fils décédé.

Certaines entreprises chinoises affirment avoir "ressuscité numériquement" des milliers de personnes décédées grâce à la technologie de l'intelligence artificielle (IA). En Chine, les 'bots fantômes' sont en plein boom, comme le témoigne ce père qui s'est tourné vers l'IA pour faire revivre numériquement son fils décédé.

Depuis des générations, les êtres humains ont cherché des moyens de surmonter le défi que représente la perte d'un être cher. La technologie, comme le portrait et la photographie, les a aidés à commémorer et à se souvenir des morts. Seakoo Wu et sa femme, endeuillés, font partie des nombreuses personnes qui se tournent aujourd'hui vers l'intelligence artificielle (IA) pour créer des avatars de leurs chers disparus. Ils ont été dévastés par le décès de leur unique enfant, Xuanmo, 22 ans, alors qu'il étudiait à l'université d'Exeter, au Royaume-Uni.

À la suite de l'essor des technologies d'apprentissage en profondeur telles que ChatGPT en Chine, M. Wu a commencé à chercher des moyens de ressusciter son fils décédé. Il a rassemblé des photos, des vidéos et des enregistrements audio de Xuanmo et a dépensé des milliers d'euros pour engager des sociétés d'IA qui ont cloné son visage et sa voix.

"Existe-t-il une solution à la douleur de la perte d'un être cher ? Tout d'abord, il faut changer de point de vue", a déclaré M. Wu. "Par exemple, l'idée qu'il n'y a pas de liens entre les êtres chers disparus et soi-même peut être changée. Les liens existent bel et bien. Si vous pouvez croire en cet état d'esprit, votre douleur pourrait s'atténuer".

Les résultats obtenus jusqu'à présent sont rudimentaires. Mais ils sont suffisants pour que la femme de Wu se mette à pleurer devant la tombe de son fils décédé lorsqu'elle entend un enregistrement de leur fils sur le téléphone de Wu alors qu'il balayait la tombe.

Nous nous retrouverons dans le métavers

Les mots de l'enregistrement n'ont jamais été prononcés par le défunt étudiant, mais ont été créés grâce à l'IA. "Je sais à quel point c'est difficile pour vous. Chaque jour, à chaque instant, j'aimerais être à vos côtés, vous donner de la chaleur et de la force", a déclaré Xuanmo dans l'enregistrement généré par l'IA.

"Choisissez le courage, la gratitude, la positivité. C'est ce qui rendra nos vies meilleures malgré les pertes. C'est ce que j'attends le plus du ciel". Wu souhaite un jour construire une réplique entièrement réaliste qui se comporterait comme son fils décédé, mais qui résiderait dans un espace virtuel. Il a mis sur pied une équipe chargée de créer une base de données contenant d'énormes quantités d'informations sur son fils.

Wu espère les intégrer dans de puissants algorithmes afin de créer un avatar capable de reproduire avec précision les schémas de pensée et d'élocution de son fils. "Un jour, mon fils, nous nous retrouverons tous dans le métavers", a-t-il déclaré.

L'essor des "bots fantômes" en Chine

Selon les experts, l'industrie des "bots fantômes" est en plein essor en Chine. "Il y a tant de gens en Chine, dont beaucoup ont des besoins émotionnels, ce qui nous donne un avantage lorsqu'il s'agit de la demande du marché", a déclaré Zhang Zewei, le fondateur de l'entreprise d'IA Super Brain.

Certaines entreprises chinoises affirment avoir "ressuscité numériquement" des milliers de personnes décédées à partir d'un matériel audiovisuel d'à peine 30 secondes. Les clients vont des personnes décédées aux parents vivants incapables de passer du temps avec leurs enfants et - ce qui est controversé - à l'ex-petit ami d'une femme au cœur brisé.

Les experts estiment que les bots fantômes peuvent apporter du réconfort, mais préviennent que des recherches supplémentaires sont nécessaires pour comprendre leurs implications psychologiques et éthiques. L'incapacité des personnes décédées à donner leur consentement peut également soulever des questions éthiques. Que se passe-t-il s'ils font des choses qui "contaminent" la mémoire de la personne qu'ils sont censés représenter ? a déclaré Tal Morse, chercheur invité au Centre for Death and Society de l'université britannique de Bath.

Et vous ?

Pensez-vous que ces bots fantômes sont crédibles ou pertinents ?
Quel est votre avis sur le sujet ?

Voir aussi :

Débourser 10 dollars seulement pour créer un chatbot IA d'un proche décédé. Comment un logiciel peut aider certains à faire leur deuil, en perturber d'autres

68 ans après sa mort, la légende James Dean va revenir sur le grand écran dans un film de science-fiction grâce à l'IA. Une prouesse technologique qui suscite la crainte des acteurs


Une agence funéraire suédoise veut s'appuyer sur l'IA et la réalité virtuelle pour créer une copie numérique des défunts

[Stéphane le calme]

Immortalité numérique : la création de deepfakes de proches décédés est en plein essor sur le marché chinois,
les utilisateurs se tournent vers les avatars générés par IA pour surmonter leur peine

Une nouvelle tendance a émergé en Chine : la création de deepfakes de proches décédés. Cette pratique, qui consiste à utiliser l’intelligence artificielle pour animer et interagir avec des avatars de personnes disparues, connaît un essor commercial remarquable. L’entreprise Silicon Intelligence, basée à Nanjing, est l’un des acteurs principaux de ce marché en plein essor. Elle propose un service « d'immortalité numérique », permettant aux utilisateurs de converser avec des répliques numériques de leurs proches décédés. Sun Kai, cofondateur de l’entreprise, a lui-même créé un avatar de sa mère, décédée en 2019, à partir d’une photo et d’enregistrements audio de leurs conversations sur WeChat.

Une fois par semaine, Sun Kai passe un appel vidéo avec sa mère. Il lui parle de son travail, des pressions qu'il subit en tant qu'homme d'âge mûr et de pensées dont il ne parle même pas à sa femme. Sa mère fait parfois un commentaire, lui disant par exemple de prendre soin de lui - il est son seul enfant. Mais la plupart du temps, elle se contente d'écouter.

C'est parce que la mère de Sun est morte il y a cinq ans. Et la personne à qui il parle n'est pas vraiment une personne, mais une réplique numérique qu'il a faite d'elle - une image animée qui peut tenir des conversations de base. Cela fait maintenant quelques années qu'ils se parlent.

Après sa mort soudaine en 2019, Sun a voulu trouver un moyen de maintenir leur connexion. Il s'est donc tourné vers une équipe de Silicon Intelligence, une entreprise d'IA basée à Nanjing, en Chine, qu'il a cofondée en 2017. Il leur a fourni une photo d'elle et des extraits audio de leurs conversations sur WeChat. Alors que l'entreprise se concentrait principalement sur la génération audio, le personnel a passé quatre mois à rechercher des outils synthétiques et a généré un avatar avec les données fournies par Sun. Ce dernier a ensuite pu voir une version numérique de sa mère et lui parler par l'intermédiaire d'une application sur son téléphone.

« Ma mère ne semblait pas très naturelle, mais j'ai quand même entendu les mots qu'elle disait souvent : "As-tu déjà mangé ?" » Sun se souvient de la première interaction. L'IA générative étant une technologie naissante à l'époque, la réplique de sa mère ne pouvait dire que quelques lignes pré-écrites. Mais Sun affirme que c'est ainsi qu'elle était de toute façon. « Elle répétait toujours ces questions, encore et encore, et cela me rendait très émotif quand je l'entendais », dit-il.

Un marché particulièrement dynamique en Chine

Nombreux sont ceux qui, comme Sun, souhaitent utiliser l'IA pour préserver, animer et interagir avec les êtres chers disparus pendant qu'ils font leur deuil et tentent de guérir. Le marché est particulièrement dynamique en Chine, où au moins une demi-douzaine d'entreprises proposent aujourd'hui de telles technologies et où des milliers de personnes ont déjà payé pour en bénéficier. En fait, les avatars sont la manifestation la plus récente d'une tradition culturelle : les Chinois ont toujours trouvé du réconfort en se confiant aux morts.

La technologie n'est pas parfaite - les avatars peuvent encore être rigides et robotiques - mais elle évolue et de plus en plus d'outils sont disponibles auprès d'un plus grand nombre d'entreprises. Par ailleurs, le prix de la « résurrection » d'une personne - également appelée « immortalité numérique » dans l'industrie chinoise - a considérablement baissé. Aujourd'hui, cette technologie devient accessible au grand public.

Certains se demandent si le fait d'interagir avec des répliques d'IA de personnes décédées est réellement une manière saine de faire son deuil, et les implications juridiques et éthiques de cette technologie ne sont pas tout à fait claires. Pour l'instant, l'idée met encore beaucoup de gens mal à l'aise. Mais comme le dit Sima Huapeng, cofondateur et PDG de Silicon Intelligence, « même si seulement 1 % des Chinois acceptent [le clonage des morts par l'IA], cela reste un marché énorme ».

Résurrection par l'IA

Les avatars des morts sont essentiellement des deepfakes : les technologies utilisées pour reproduire une personne vivante et une personne morte ne sont pas intrinsèquement différentes. Les modèles de diffusion génèrent un avatar réaliste qui peut bouger et parler. De grands modèles de langage peuvent être attachés pour générer des conversations. Plus ces modèles ingèrent de données sur la vie d'une personne (photos, vidéos, enregistrements audio et textes), plus le résultat sera proche de cette personne, qu'elle soit morte ou vivante.

La Chine s'est révélée être un marché mûr pour toutes sortes de doubles numériques. Par exemple, le pays dispose d'un secteur du commerce électronique robuste, et les marques de consommation engagent de nombreux « livestreamers » pour vendre leurs produits. Au départ, il s'agissait de personnes réelles, mais de nombreuses marques se tournent vers des influenceurs clonés par l'IA qui peuvent faire des lives 24 heures sur 24 et 7 jours sur 7.

Au cours des trois dernières années seulement, le secteur chinois qui développe des avatars d'IA a rapidement mûri, explique Shen Yang, professeur d'IA et de médias à l'université Tsinghua de Pékin, et les répliques sont passées de vidéos de quelques minutes à des avatars 3D « en direct » capables d'interagir avec les gens.

Selon Sima, cette année a marqué un tournant, le clonage par l'IA devenant abordable pour la plupart des individus. « L'année dernière, il coûtait entre 2 000 et 3 000 dollars, mais aujourd'hui, il ne coûte plus que quelques centaines de dollars. Cela s'explique par la guerre des prix que se livrent les entreprises chinoises spécialisées dans l'IA pour répondre à la demande florissante d'avatars numériques dans d'autres secteurs, tels que le streaming ».

Et des capacités techniques qui se perfectionnent

En fait, la demande d'applications permettant de recréer les morts a également stimulé les capacités des outils qui reproduisent numériquement les vivants.

Silicon Intelligence propose les deux types de services. Lorsque Sun et Sima ont lancé leur entreprise, ils se concentraient sur l'utilisation des technologies de synthèse vocale pour créer des sons et utiliser ensuite ces voix générées par l'IA dans des applications telles que les appels téléphoniques automatiques (robocalls). Mais après avoir reproduit la mère de Sun, l'entreprise s'est orientée vers la création d'avatars réalistes. Cette décision a fait de l'entreprise l'un des principaux acteurs chinois de la création d'influenceurs alimentés par l'IA.

Sa technologie a généré des avatars pour des centaines de milliers de vidéos de type TikTok et de chaînes de streaming, mais M. Sima explique que, plus récemment, un millier de clients l'ont utilisée pour reproduire une personne décédée. Nous avons commencé à travailler sur la « résurrection » en 2019 et 2020", explique-t-il, mais les gens ont d'abord été lents à l'accepter : « Personne ne voulait être le premier à l'adopter.

La qualité des avatars s'est améliorée, dit-il, ce qui a stimulé l'adoption. Lorsque l'avatar est de plus en plus réaliste et qu'il donne moins de réponses qui sortent du cadre, il est plus facile pour les utilisateurs de le considérer comme un membre de leur famille décédé. De plus, l'idée se popularise grâce à la multiplication des représentations à la télévision chinoise.

Aujourd'hui, Silicon Intelligence propose un service de réplication pour un prix compris entre plusieurs centaines et plusieurs milliers de dollars. Le produit le plus basique se présente sous la forme d'un avatar interactif dans une application, et les options supérieures impliquent souvent une personnalisation plus poussée et de meilleurs composants matériels, tels qu'une tablette ou un écran d'affichage. Il existe au moins une poignée d'autres entreprises chinoises qui travaillent sur la même technologie.

Le commerce de ces « deepfakes » s'appuie sur la longue histoire culturelle de la Chine en matière de communication avec les morts

Dans les foyers chinois, il est courant d'afficher le portrait d'un parent décédé pendant les quelques années qui suivent le décès. Zhang Zewei, fondateur d'une société basée à Shanghai appelée Super Brain, explique que lui et son équipe ont voulu réorganiser cette tradition en créant un « cadre photo IA ». Ils créent des avatars d'êtres chers décédés qui sont préchargés sur une tablette Android, qui ressemble à un cadre photo lorsqu'elle est debout. Les clients peuvent choisir une image animée qui prononce des mots tirés d'une base de données hors ligne ou d'un LLM.

« Par essence, ce n'est pas très différent d'un portrait traditionnel, si ce n'est qu'il est interactif », explique Zhang.

Zhang indique que l'entreprise a réalisé des répliques numériques pour plus de 1 000 clients depuis mars 2023 et facture entre 700 et 1 400 dollars, selon le service acheté. L'entreprise prévoit de lancer prochainement une application qui permettra aux utilisateurs d'accéder aux avatars sur leur téléphone, ce qui pourrait réduire encore le coût à environ 140 dollars.

Conclusion

Les deepfakes de proches décédés représentent une avancée technologique fascinante mais aussi controversée. Alors que certains y voient une manière de conserver un lien avec ceux qu’ils ont perdus, d’autres mettent en garde contre les conséquences potentiellement néfastes de ces pratiques sur le processus de deuil. Seul l’avenir nous dira comment cette technologie sera intégrée dans notre société et quelles seront ses répercussions sur notre rapport à la mort et au souvenir.

Source : vidéos

Et vous ?

Quelles sont les implications de la création de deepfakes de personnes décédées ? Est-ce un hommage ou une transgression ?
La technologie des deepfakes peut-elle aider à faire le deuil, ou risque-t-elle d’empêcher les gens de passer à autre chose ?
Comment devrions-nous réglementer l’utilisation des images et des voix des défunts pour éviter les abus potentiels ?
Quel impact ces avatars numériques pourraient-ils avoir sur notre mémoire collective et notre histoire personnelle ?
Devrait-il y avoir un consentement préalable de la personne avant sa mort pour l’utilisation de son image et de sa voix dans un deepfake posthume ?
Comment la société peut-elle s’assurer que la technologie des deepfakes reste accessible à tous et ne crée pas une élite numérique ?
Quelles mesures de soutien psychologique pourraient être mises en place pour ceux qui interagissent avec des deepfakes de proches décédés ?

[Mathis Lucas]

Black Mirror devient réalité : une nouvelle application permet aux utilisateurs de parler à des avatars IA de leurs proches décédés
signe inquiétant d'une industrie numérique de l'au-delà en pleine expansion

Les deepfakes IA de personnes décédées se popularisent malgré leur aspect macabre et les nombreuses controverses. Une startup spécialisée dans l'IA dévoile une application d'avatar qui recrée les êtres chers décédés sous une forme numérique interactive. Elle permet aux familles de « parler » aux morts. Les détracteurs affirment que « la plateforme est un aperçu d'un avenir dystopique et étrange réservé aux riches et aux célébrités ». Ils soulignent que ce concept rappelle fortement la série Black Mirror, où une technologie similaire existe dans un épisode centré sur le deuil. Certains affirment sans détour que ses avatars sont « démoniaques ».

En 2020, le chanteur américain Kanye West a offert à sa compagne Kim Kardashian un message holographique de son défunt père, Rob Kardashian, pour son anniversaire. Ce cadeau avait fait jaser Internet et suscité des craintes quant à un avenir dystopique où ces technologies seraient monnaie courante. Tout porte à croire que nous vivons désormais dans un tel monde. L'IA est de plus en plus utilisée pour préserver les voix et les histoires des défunts.

Des chatbots IA textuels qui imitent les êtres chers aux avatars vocaux qui vous permettent de « parler » avec les défunts, une industrie numérique de l'au-delà en pleine expansion promet de rendre la mémoire interactive et, dans certains cas, éternelle. Mais ce concept n'est pas du goût de tout le monde.

La startup 2Wai, basée à Los Angeles, a suscité la controverse en ligne après avoir lancé une application qui permet aux utilisateurs de créer des avatars numériques interactifs de proches décédés. Elle est devenue virale lorsque son cofondateur, Calum Worthy, a publié une vidéo promotionnelle montrant le fonctionnement de cette technologie. Le clip montre une femme enceinte qui parle à une reproduction IA de sa défunte mère via son téléphone.

La vidéo fait ensuite un bond en avant de 10 mois, avec la « grand-mère » IA lisant une histoire au bébé avant de se coucher. Des années plus tard, l'enfant, désormais un jeune garçon, discute tranquillement avec l'avatar en rentrant de l'école. La scène finale le montre à l'âge adulte, annonçant à la version IA de sa grand-mère qu'elle est sur le point de devenir arrière-grand-mère. « Avec 2Wai, trois minutes peuvent durer éternellement », conclut le clip.

What if the loved ones we've lost could be part of our future? pic.twitter.com/oFBGekVo1R

— Calum Worthy (@CalumWorthy) November 11, 2025

Calum Worthy déclaré que l'entreprise construit « une archive vivante de l'humanité » grâce à son réseau social basé sur des avatars. Il a ajouté : « et si les êtres chers que nous avons perdus pouvaient faire partie de notre avenir ? ». L'application, disponible sur l'App Store d'Apple, permet aux utilisateurs de créer ce que 2Wai appelle un « HoloAvatar ». Selon 2Wai, ces avatars vous ressemblent, parlent comme vous et partagent les mêmes souvenirs ».

Peut-on vraiment parler aux morts grâce à l'IA : réconfort ou illusion ?

Calum Worthy a exhorté les internautes à essayer la version bêta de 2Wai sur l'App Store. Il a annoncé que l'application sera bientôt disponible sur Android. Mais le concept a immédiatement suscité des comparaisons avec Be Right Back, l'épisode troublant de Black Mirror diffusé en 2013, dans lequel une femme en deuil utilise une réplique IA de son partenaire décédé. Dans cet épisode, la technologie passe des chatbots à des androïdes physiques complets.

Les internautes n'ont pas mâché leurs mots dans les commentaires. Beaucoup ont qualifié la vidéo de « cauchemardesque » et « démoniaque », et certains ont réclamé que cette technologie soit « détruite », déclenchant un débat sur les limites à ne pas franchir en matière d'IA lorsqu'il s'agit des morts.

Les détracteurs affirment que cette idée dépasse les limites émotionnelles et risque de remplacer le chagrin réel par un réconfort artificiel. La vidéo montrant un enfant nouant des liens durables avec une version IA de sa grand-mère a suscité les réactions les plus vives. Critiquant Calum Worthy, les internautes ont déclaré que cette technologie ne crée pas une archive de l'humanité, mais peut déformer la mémoire, l'attachement et le processus de deuil.

Cette réaction négative a ravivé des inquiétudes plus larges concernant l'évolution de l'IA. Alors que les avatars numériques deviennent plus réalistes et que la robotique progresse rapidement, ce n'est probablement qu'une question de temps pour que des versions androïdes physiques des défunts voir le jour. Cette possibilité soulève des questions éthiques plus profondes concernant le consentement des défunts, l'identité et la commercialisation du deuil.

Malgré les critiques, l'application continue de susciter l'intérêt. Sa promotion sur les réseaux sociaux a déjà dépassé plusieurs millions de vues sur X (ex-Twitter). Certains utilisateurs ont salué l'idée de préserver les voix et les histoires. D'autres ont estimé que cette technologie s'apparentait trop à de la science-fiction. 2Wai se positionne comme une plateforme dédiée à l'héritage et à la narration. Ses détracteurs y voient un pas vers un avenir inquiétant.

L'essor des « deathbots » : quand la réalité rattrape la science-fiction

Les « deathbots » sont des IA conçus pour simuler les voix, les schémas linguistiques et les personnalités des défunts. Ils s'appuient sur les traces numériques laissées par une personne (SMS, enregistrements vocaux, email, etc.) pour créer des avatars interactifs qui semblent « parler » depuis l'au-delà. Comme l'a déclaré Simone Natale, théoricienne des médias, ces « technologies de l'illusion » ont des racines profondes dans les traditions spiritualistes.

L'IA générative les rend beaucoup plus convaincantes et commercialement viables. Toutefois, selon certains observateurs de l'industrie technologique, ce nouveau concept est à la fois fascinant et troublant. Certains systèmes de deathbots se concentrent sur la préservation de la mémoire. Ils aident les utilisateurs à enregistrer et à stocker des histoires personnelles, classées par thème, telles que l'enfance, la famille ou des conseils pour leurs proches.

L'IA indexe ensuite le contenu et guide les utilisateurs à travers celui-ci, comme dans des archives consultables. D'autres utilisent l'IA pour créer des conversations continues. Vous téléchargez des données sur une personne décédée (messages, publications, voire échantillons vocaux) et le système crée un chatbot capable de répondre en reprenant son ton et son style. Il utilise l'apprentissage automatique pour faire évoluer ses avatars au fil du temps.

Certains se présentent comme ludiques (« une séance de spiritisme avec l'IA »), mais l'expérience peut sembler étrangement intime. Toutes les plateformes prétendent offrir une connexion émotionnelle « authentique ». Pourtant, plus vous essayez de personnaliser l'expérience, plus elle vous semble artificielle.

L'industrie numérique de l'au-delà et la collecte massive de données

Comme l'ont fait valoir les philosophes Carl Ohman et Luciano Floridi, l'industrie numérique de l'au-delà opère dans le cadre d'une « économie politique de la mort », où les données continuent de générer de la valeur longtemps après la fin de la vie d'une personne. Les utilisateurs sont encouragés à « immortaliser leur histoire », mais les entreprises collectent des données émotionnelles et biométriques afin de maintenir un niveau d'engagement élevé.

La mémoire devient un service, une interaction à concevoir, à mesurer et à monétiser. Comme l'a montré Andrew McStay, professeur en technologie et société, cela s'inscrit dans le cadre d'une économie plus large de « l'IA émotionnelle ». Selon les détracteurs, une industrie qui tire profit de la mort est à combattre.

Ces systèmes promettent une sorte de résurrection, la réanimation des morts grâce aux données. Ils proposent de faire revivre les voix, les gestes et les personnalités, non pas sous forme de souvenirs, mais comme des présences simulées en temps réel. Ce type d'empathie algorithmique peut être convaincant, voire émouvant, mais il reste limité par le code et modifie subtilement l'expérience du souvenir, en gommant l'ambiguïté et les contradictions.

Toutes les plateformes mettent en évidence une tension entre les formes archivistiques et génératives de la mémoire. Elles normalisent certaines façons de se souvenir, privilégiant la continuité, la cohérence et la réactivité émotionnelle, tout en produisant de nouvelles formes de personnalité basées sur les données.

Mais les technologies numériques confondent souvent « stockage » et « mémoire », promettant un souvenir parfait tout en effaçant le rôle de l'oubli, cette absence qui rend possibles à la fois le deuil et le souvenir. En ce sens, la résurrection numérique risque d'entraîner une incompréhension de la mort elle-même : remplacer le caractère définitif de la perte par la disponibilité infinie de la simulation, où les morts sont toujours présents, interactifs et actualisés.

Conclusion

L'IA est de plus en plus utilisée pour préserver les voix et les histoires des défunts. Cependant, de plus en plus de voix s'élèvent pour dénoncer cette nouvelle industrie numérique de l'au-delà. Les entreprises qui proposent ce service sont notamment accusées de tirer profit de la vulnérabilité des personnes en deuil. Transformer la douleur ou le besoin de réconfort en produit payant soulève des inquiétudes sur l’exploitation émotionnelle des utilisateurs.

L'industrie numérique de l'au-delà donne l’impression que les scénarios les plus redoutés de la science-fiction sont en train de devenir réalité. L’application de la startup 2Wai illustre la manière dont les technologies de génération d’avatar et d’IA transforment le rapport à la mort, au souvenir et à l’intimité.

Sources : 2Wai, Calum Worthy, cofondateur de 2Wai

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'application lancée par la startup d'IA 2Wai ?
Que pensez-vous des promesses de la nouvelle industrie numérique de l'au-delà ?
Peut-on vraiment parler aux morts grâce à l'IA : réconfort ou illusion ?

Voir aussi

Immortalité numérique : la création de deepfakes de proches décédés est en plein essor sur le marché chinois, les utilisateurs se tournent vers les avatars générés par IA pour surmonter leur peine

Faire revivre un mort grâce à un deepfake IA n'est pas du goût de tous le monde : une interview macabre critiquée avec une victime décédée d'une fusillade dans une école

Vous voulez parler au futur vous ? Un outil d'IA a été créé à cet effet, avec un LLM qui génère une histoire personnalisée à partir de vos données personnelles

[Anselme45]

Quelle est la différence entre le médium qui affirme pouvoir communiquer avec les morts qui lui répondent en faisant tourner une table et l'IA qui permet de parler à des avatars de personnes décédées?

AUCUNE!

La première pratique se nomme "spiritisme", la deuxième "Intelligence artificielle", mais toutes les 2 reposent sur le même principe: Profiter de la crédulité des gens et de leur état de faiblesse psychologique pour leur faire les poches... C'est tout simplement écœurant!!!

[diamondsoftware]

Entierement d'accord! le marche du GOGO est en plein expension!

[Stéphane le calme]

Elle lui dit qu'il lui manque. Il répond qu'il prend soin de lui. Il est mort depuis un an :
comment une famille chinoise a transformé l'IA en fils fantôme pour épargner une mère de 80 ans

Dans la province du Shandong, une femme de 80 ans entretient quotidiennement une relation avec ce qu'elle croit être son fils. Elle lui demande s'il mange bien, lui dit qu'il lui manque, lui conseille de prendre soin de lui. Son fils est mort dans un accident de la route l'année dernière. Ce qu'elle appelle, c'est un avatar généré par intelligence artificielle. L'affaire, révélée il y a quelques jours par la presse chinoise et relayée massivement sur les réseaux sociaux, cristallise toutes les tensions autour d'une industrie qui prospère dans l'ombre : celle des jumeaux numériques des défunts.

L'histoire commence par une décision familiale, aussi humaine qu'elle est technologiquement inédite. Dans la province du Shandong, une famille a perdu un homme dans un accident de la route. Sa mère, âgée d'une quatre-vingtaine d'années et souffrant de problèmes cardiaques, n'a pas été informée de son décès. La famille a craint que le choc ne compromette gravement sa santé. Plutôt que de tenter de dissimuler l'absence par des mensonges ordinaires, elle a opté pour une solution radicale : faire appel à une équipe spécialisée dans la création d'avatars de défunts.

Avec l'aide d'une équipe de développement en IA dirigée par Zhang Zewei, originaire du Jiangsu, la famille a créé un clone numérique du fils. Cet « enfant IA » l'appelle désormais chaque jour via des appels vidéo, parlant dans son dialecte, imitant ses gestes, et répondant à ses préoccupations exactement comme il le faisait de son vivant.

Le résultat est troublant de précision. La mère croit que son fils travaille dans une autre ville et qu'il rentrera bientôt. Lors de ces conversations, elle lui prodigue ses conseils habituels, lui rappelant de manger à l'heure et de prendre soin de lui. L'avatar répond sur le même ton, la rassurant. Le modèle est décrit comme très fidèle à l'original, reproduisant même les habitudes de l'homme, comme celle de se pencher en avant lorsqu'il écoutait.

Super Brain : l'entreprise qui vend l'immortalité numérique

Zhang Zewei n'est pas un inconnu du secteur. Il co-dirige Super Brain, une startup basée à Nanjing, qui constitue l'une des entreprises pionnières du secteur des avatars de deuil en Chine. Depuis 2022, Super Brain a créé des avatars numériques à des fins de soutien au deuil pour plus de 600 familles, en utilisant des outils d'intelligence artificielle et d'apprentissage automatique.

Le processus de fabrication repose sur une collecte intensive de données personnelles. En utilisant des photographies, des vidéos et des enregistrements vocaux, l'équipe a développé une version IA très réaliste qui reproduit non seulement l'apparence de l'homme, mais aussi sa voix, son style d'expression et ses nuances comportementales. Les modèles de diffusion génèrent un avatar réaliste capable de se déplacer et de parler. Des grands modèles de langage peuvent être associés pour générer des conversations. Plus ces modèles ingèrent de données sur la vie d'une personne (photos, vidéos, enregistrements audio, textes), plus le résultat imite fidèlement cette personne.

Super Brain facture entre 700 et 1 400 dollars selon les services. L'entreprise prévoit de lancer une version accessible uniquement via application pour réduire le coût à environ 140 dollars. Des formules plus élaborées peuvent atteindre des sommes bien plus élevées : un chatbot personnalisé coûte entre 50 000 et 100 000 yuans, soit entre 6 800 et 13 700 dollars, bien que Zhang estime que les coûts de développement baisseront à l'avenir.

Zhang lui-même ne se fait guère d'illusions sur la nature de son activité. Il admet que son travail est controversé et plaisante en disant qu'il « trompe les émotions des gens », mais insiste sur le fait que son objectif est de réconforter les vivants. Cette auto-dérision ne règle rien sur le fond : le produit qu'il vend repose sur une tromperie systématique, et dans le cas de la mère du Shandong, cette tromperie est totale et consentie, non pas par la personne concernée, mais par sa famille.

Le marché du deuil numérique, une industrie en plein essor

Le cas viral de cette semaine n'est pas une anomalie. Il est le symptôme d'un marché en pleine expansion, particulièrement dynamique en Chine. La Chine est en tête de la révolution de l'IA générative, avec des données de l'ONU montrant que les brevets chinois dans ce secteur ont dépassé 38 000 entre 2013 et 2023, plus de six fois plus qu'aux États-Unis sur la même période.

Cette domination technologique se traduit directement dans le secteur du deuil numérique. Des entreprises comme Super Brain alimentent de grands modèles de langage avec des informations sur les défunts, en plus d'images, de vidéos et d'enregistrements audio, pour produire leur ressemblance. D'autres acteurs explorent des approches différentes : Fu Shou Yuan, prestataire de services funéraires, espère que l'IA générative pourra atténuer le tabou culturel traditionnel autour de la discussion de la mort en Chine, où le deuil s'accompagne de rituels étendus, mais où les expressions quotidiennes de tristesse sont découragées.

Aux États-Unis aussi, le secteur se structure. Des entreprises comme DeepBrain AI ou StoryFile proposent des services similaires, et Somnium Space, basée à Londres, entend créer des clones virtuels de personnes encore vivantes pour qu'elles puissent continuer à exister dans un univers parallèle après leur mort. La demande sociale est réelle, et la technologie répond à une aspiration très ancienne.

Zhang Zewei résume la situation avec une formule lapidaire : « Il n'y a pas de défi technique. La question est : sommes-nous prêts à accepter l'immortalité numérique ? »

Là où la technique rencontre l'éthique : une frontière introuvable

La question posée par le cas du Shandong est moins celle de la prouesse technique que celle des limites morales de son application. Trois angles d'analyse méritent d'être distingués.

Le consentement de la personne recréée. Le défunt n'a manifestement pas consenti à devenir un personnage algorithmique perpétuellement actif. Sa voix, ses gestes, ses tics de langage sont désormais exploités dans des interactions qu'il n'a jamais voulues ni anticipées. Des juristes ont relevé que les familles devraient tenir compte des conditions d'utilisation des plateformes de réseaux sociaux dont les contenus sont aspirés pour constituer ces avatars, les entreprises tech pouvant avoir des préoccupations quant à l'impact de ces usages sur leurs données.

Le consentement de la personne trompée. La mère octogénaire interagit avec un système qu'elle croit être son enfant. Elle n'a pas choisi cette réalité augmentée. Elle n'a pas été mise en état de consentir ou de refuser. Sa vulnérabilité médicale est précisément l'argument invoqué pour justifier la tromperie, ce qui crée un paradoxe éthique difficile à résoudre : protéger quelqu'un en lui retirant toute capacité d'agentivité.

Les risques psychologiques à long terme. Des critiques avertissent que la tromperie pourrait avoir l'effet inverse : une fois la vérité révélée, la mère pourrait souffrir d'un préjudice encore plus grand. Les spécialistes du deuil s'inquiètent d'un risque plus systémique. Michel Puech, professeur de philosophie à la Sorbonne, met en garde contre le danger de dépendance et de substitution à la vie réelle : « Si ça marche trop bien, c'est là le danger. Avoir trop d'expériences consolantes et satisfaisantes avec une personne décédée annihilera apparemment l'expérience et le deuil de la mort. »

Zhang Zewei lui-même reconnaît cette ambivalence. Il a relaté le cas où son studio a refusé de proposer le service à une mère en deuil, en raison de profondes préoccupations quant à son bien-être émotionnel après des tentatives de suicide à la suite du décès de sa fille. Cette décision (refuser de vendre lorsque le produit risque d'aggraver la situation) témoigne d'une forme de conscience éthique, mais aussi du fait que les garde-fous demeurent entièrement à la discrétion des prestataires, sans cadre légal contraignant.

Un vide juridique béant

Si l'émotion est immédiate, le droit est en retard. Il n'existe pas, ni en Chine ni dans la plupart des pays, de cadre légal spécifique encadrant la création et l'exploitation d'avatars de défunts. Les entreprises chinoises d'IA n'autorisent les clonages numériques que pour soi-même ou pour des membres de la famille souhaitant cloner un défunt. Mais les éthiciens alertent déjà sur les impacts émotionnels imprévus que cela pourrait entraîner.

En Europe, le RGPD offre une protection partielle sur les données des personnes vivantes, mais son application post-mortem reste floue et limitée. L'AI Act, entré progressivement en vigueur depuis 2024, ne traite pas explicitement du cas des avatars de défunts. Aux États-Unis, quelques États ont commencé à légiférer sur le droit à l'image numérique posthume, notamment dans le secteur du divertissement après des controverses autour de musiciens ou acteurs recréés en IA, mais sans cohérence fédérale.

La démocratisation du secteur, portée par la baisse des coûts de production, rend l'absence de régulation d'autant plus préoccupante. Ce qui coûtait plus de 10 000 dollars il y a deux ans peut désormais s'obtenir pour quelques centaines. Demain, cela sera peut-être accessible depuis une application mobile grand public. La question n'est plus de savoir si cette technologie se répandra, mais à quelle vitesse les sociétés et les législateurs seront capables d'en définir les limites.

Sources : China Daily, Republic

Et vous ?

Où commence la protection, où finit la manipulation ? La famille du Shandong invoque la santé de la mère pour justifier la tromperie. Mais une tromperie bienveillante reste une tromperie. Où fixer la limite entre accompagnement du deuil et manipulation émotionnelle, même bien intentionnée ?

Qui possède l'identité numérique d'un défunt ? La voix, les gestes, le style d'expression d'une personne disparue appartiennent-ils à ses proches ? À ses ayants droit ? À personne ? Et que se passe-t-il si différents membres d'une famille ont des usages contradictoires de cet avatar ?

Les soignants et psychologues doivent-ils s'emparer du sujet ? Ces outils se développent sans validation clinique sérieuse. Devrait-on exiger qu'un accompagnement professionnel soit systématiquement couplé à leur usage, comme Zhang Zewei le propose dans certaines de ses formules haut de gamme ?

La question du droit à mourir vraiment. À l'heure où le débat sur la fin de vie progresse dans plusieurs pays, la question du droit à ne pas être ressuscité numériquement sans consentement devient urgente. Devrait-on pouvoir stipuler dans ses volontés qu'aucun avatar IA ne pourra être créé à son effigie ?

Voir aussi :

Les avatars IA posthumes passent du statut d'outils commémoratifs à celui de générateurs de revenus : les progrès technologiques permettent de structurer une véritable industrie de l'au-delà numérique

Meta obtient un brevet pour une IA qui reprend le compte d'une personne décédée afin de continuer à publier et à discuter, une technologie du deuil controversée et qualifiée de « dangereuse » par les experts

L'essor des "bots fantômes" en Chine : ce père s'est tourné vers l'IA pour faire revivre numériquement son fils décédé

Immortalité numérique : la création de deepfakes de proches décédés est en plein essor sur le marché chinois, les utilisateurs se tournent vers les avatars générés par IA pour surmonter leur peine