Meta obtient un brevet pour une IA qui reprend le compte d'une personne décédée ou absente
Meta obtient un brevet pour une IA qui reprend le compte d'une personne décédée afin de continuer à publier et à discuter
une technologie du deuil controversée et qualifiée de « dangereuse » par les experts
Meta a breveté une IA qui vous permet de continuer à publier des messages depuis l'au-delà. Le brevet permettrait d'utiliser l'IA pour former un bot afin de maintenir actifs les comptes après le décès de leur propriétaire. Cette IA analyserait vos données passées, telles que vos messages et vos mentions « J'aime », afin de créer un personnage numérique convaincant qui agirait comme si vous n'étiez jamais parti. Elle pourrait même simuler des appels audio ou vidéo. Une porte-parole de Meta a toutefois déclaré que la société n'avait « aucune intention d'aller de l'avant » avec cette technologie. L'industrie numérique de l'au-délà est fortement controversée..
Fin décembre 2025, Meta a obtenu un brevet décrivant comment un grand modèle de langage (LLM) peut simuler l'activité d'une personne sur les réseaux sociaux, par exemple en répondant à des contenus publiés par de vraies personnes. « Le modèle peut être utilisé pour simuler l'utilisateur lorsque celui-ci est absent du réseau social, qu'il s'agisse d'une longue pause ou d'un décès », indique le brevet. La demande de brevet a été déposée en 2023.
Andrew Bosworth, directeur technique de Meta, est cité comme l'auteur principal du brevet. Dans le brevet, Meta explique pourquoi il pense que les gens pourraient en avoir besoin. Si vous ne publiez plus en ligne, que ce soit parce que vous avez besoin d'une pause sur les réseaux sociaux ou parce que vous êtes décédé, l'expérience utilisateur de vos abonnés sera affectée. En bref, vous leur manquerez. L'IA prendra le relais pendant votre absence.
« L'impact sur les utilisateurs est beaucoup plus grave et permanent si l'utilisateur est décédé et ne peut plus jamais revenir sur la plateforme de réseau social », indique le brevet. Pour combler ce vide, Meta créerait essentiellement un clone numérique de votre présence sur les réseaux sociaux.
Il sera entraîné à partir de vos données afin de comprendre comment vous vous comporteriez (ou plutôt, vous vous comportiez). Ce clone pourrait alors réagir au contenu d'autres personnes en aimant et en commentant, ou en répondant à des messages privés. Pour les influenceurs ou les créateurs de contenus qui gagnent leur vie sur les plateformes de Meta et qui ont besoin de faire une pause sur réseaux sociaux, un tel outil pourrait bien être utile.
Le brevet fait également référence à une technologie qui permettrait au modèle de simuler des appels vidéo ou audio avec les utilisateurs. Le porte-parole de Meta a déclaré que si l'entreprise fait demande de brevets pour divulguer des concepts, l'octroi d'un brevet ne signifie pas toujours qu'elle poursuivra, développera ou mettra en œuvre cette technologie. Cela soulève néanmoins de nombreuses questions sur la nature de la technologie et du deuil.
Technologie du deuil : un soutien ou une catastrophe en devenir ?
Il existe tout un écosystème autour de l'idée de vie éternelle numérique (« death bots », « ghost bots » ou « grief tech ») avec des startups fondées souvent à partir d'expériences personnelles de deuil. Replika, par exemple, a été créée en 2015 après la mort d'un ami proche de sa fondatrice. En 2021, Microsoft avait déjà breveté un chatbot capable de simuler une personne décédée. Le métavers avait également exploré cette idée, avant le grand flop.
De nombreux experts avertissent que cette « technologie du deuil » est un terrain miné sur le plan éthique, soulevant des questions concernant le consentement, l'impact psychologique sur les familles en deuil et l'utilisation abusive potentielle des clones numériques des défunts à des fins commerciales.
Une IA qui vous remplace pendant que vous faites une cure de désintoxication numérique est une chose, mais imiter des personnes décédées en est une autre. Edina Harbinja, professeure à la faculté de droit de l'université de Birmingham, au Royaume-Uni, s'inquiète à propos de ces outils. Elle a déclaré : « cela touche non seulement des questions juridiques, mais aussi de nombreuses questions sociales, éthiques et philosophiques très importantes ».
Edina Harbinja est spécialiste des droits numériques et de la confidentialité post mortem. Des chercheurs de l'université de Cambridge ont averti que ce domaine de l'IA est un champ de mines éthique qui causera des dommages sociaux et psychologiques, car les entreprises pourraient utiliser ces « grief bots » pour faire la promotion de produits commerciaux ou perturber les enfants en leur faisant croire qu'un parent décédé est toujours à leurs côtés.
Selon les experts, les gens pourraient développer des liens émotionnels forts avec de telles simulations. Il est donc important de mettre en place des protocoles appropriés pour mettre fin aux relations des utilisateurs avec les simulations d'IA de manière à leur permettre de tourner la page sur le plan émotionnel.
Meta et d'autres cherchent à tirer profit des données des morts
Meta réfléchit depuis des années à la gestion des héritages numériques. Il y a environ dix ans, Facebook a lancé des outils permettant aux utilisateurs de désigner un « contact héritier » chargé de gérer leur compte en cas de décès. Et à l'époque où la société investissait dans les promesses du métavers, le PDG Mark Zuckerberg avait évoqué les avatars virtuels des personnes décédées dans une interview accordée en 2023 au podcasteur Lex Fridman.
« Si quelqu'un a perdu un être cher et est en deuil, il peut être utile de pouvoir interagir ou revivre certains souvenirs », avait déclaré Mark Zuckerberg à l'époque. Plusieurs startups ont vu le jour autour de ce principe. Selon Edina Harbinja, le brevet de Meta indique que cette catégorie technologique se généralise.
Edina Harrison n'est pas surpris de voir les Big Tech s'intéresser à ce domaine et y voit un signe que les gens commencent à « se sentir plus à l'aise avec cette idée ». Cela dit, l'IA, la mort et le deuil ne sont pas des sujets faciles à aborder. La combinaison de ces trois éléments constitue un mélange explosif de tabous propice à un débat philosophique sur l'éthique, les droits numériques et la vie privée, qui pourrait avoir lieu à n'importe quelle table.
Certains font déjà face aux conséquences indésirables. En 2025, l'on a assisté à une recrudescence des deepfakes générés par l'IA montrant des personnes célèbres décédées, comme Martin Luther King Jr., tenant des propos racistes ou se battant contre son compagnon de lutte Malcolm X. Par ailleurs, Zelda Williams, la fille du défunt acteur Robin Williams, a supplié ses fans de cesser de lui envoyer des vidéos générées par l'IA représentant son père.
Joseph Davis, professeur de sociologie à l'Université de Virginie, s'inquiète de l'impact sur le processus de deuil : « l'une des tâches du deuil est de faire face à la perte réelle. Laissez les morts être morts. L'idée de les ramener, sans vraiment le faire, mais en donnant l'illusion que si ; c'est là toute la confusion ».
Psychose induite par l'IA : un phénomène dangereux et inquiétant
De nombreux cas de personnes souffrant de graves troubles mentaux après avoir longuement discuté avec un chatbot IA continuent d'être signalés. Certains experts ont baptisé ce phénomène « psychose de l'IA », en raison des symptômes psychotiques que présentent ces épisodes délirants. La responsabilité des outils d'IA dans ce phénomène et la question de savoir s'il justifie un diagnostic clinique restent encore un sujet de débat important.
Mais selon un article du Wall Street Journal, nous pourrions être proches d'un consensus. De plus en plus de psychiatres s'accordent à dire que les chatbots, tels que ChatGPT ou Claude, sont liés à des cas de psychose. Au cours des neuf derniers mois, ces experts ont examiné ou passé en revue les dossiers de dizaines de patients qui présentaient des symptômes après avoir eu des conversations prolongées et délirantes avec des outils d'IA.
Keith Sakata, psychiatre à l'université de Californie à San Francisco, qui a traité douze patients hospitalisés pour une psychose induite par l'IA et trois autres en consultation externe, est l'un de ces experts. Keith Sakata explique notamment : « la technologie n'est peut-être pas à l'origine des délires, mais la personne dit à l'ordinateur que c'est sa réalité et l'ordinateur l'accepte comme vérité et la reflète, il est donc complice de ce cycle de délires ».
Depuis le printemps, des dizaines de cas potentiels ont été signalés. Les rapports ont fait état de « personnes souffrant de psychose délirante après avoir eu de longues conversations avec l'IA » ChatGPT et d'autres chatbots d'IA. Plusieurs personnes se sont suicidées et au moins un meurtre a été commis. Ces incidents ont donné lieu à une série de poursuites judiciaires pour homicide involontaire, notamment contre le créateur de ChatGPT, OpenAI.
Les conséquences liées à la dépendance aux compagnons IA
Que se passe-t-il en cas de mise à jour défectueuse ou quand l'entreprise cesse de fournir des services ? Le cas CarynAI en est une illustration. Cette copie virtuelle de l’influenceuse dénommée Caryn Marjorie comptait plus de 1 000 abonnés qui déboursent chacun 1 dollar par minute pour bénéficier de l’attention de leur petite amie virtuelle. Cependant, dès que le PDG de l'entreprise est allé en prison, plus moyen pour eux de contacter leur petite amie.
Replika est un autre exemple de dépendance. La société qui développe le chatbot d'IA Replika, qui est décrit comme un ami qui ne vous juge pas et capable même de répondre à vos messages à caractère sexuel, a mis à jour les fonctionnalités de son outil, mais a rendu les utilisateurs malheureux. Les forums en ligne fréquentés par les utilisateurs de Replika ont été inondés de messages d'angoisse, certains signalant une détresse émotionnelle.
En effet, début 2023, Replika a pris la décision de supprimer la fonctionnalité qui permettait aux utilisateurs de sextoter avec leur ami virtuel. Mais cela a rendu les utilisateurs mécontents. La réaction des utilisateurs a surpris plus d'un. La profondeur des sentiments impliqués a été révélée récemment lorsque de nombreux utilisateurs ont signalé que leur Replika refusait de participer à des interactions érotiques ou devenaient inhabituellement évasifs.
Les utilisateurs ont pleuré la perte de ce qui semblait être « leur dernier refuge contre la solitude ». Ils ont accusé Luka, la société qui développe Replika, d'avoir lobotomisé leurs amoureux virtuels. Une pétition avait même été lancée auprès de l'entreprise pour lui demander de rétablir cette fonctionnalité.
Eric Schmidt, ancien PDG de Google, a mis en garde contre cette tendance inquiétante. Il a déclaré que ces outils, capables de générer des interactions émotionnelles convaincantes, pourraient avoir des conséquences néfastes, notamment sur les jeunes hommes. Pour lui, ce concept de « perfection » dans une relation simulée pourrait causer des problèmes sociaux et psychologiques profonds. Certains cas extrêmes ont donné lieu à des poursuites.
Conclusion
Meta dispose désormais du brevet lui permettant de créer des avatars IA de personnes décédées ou absentes sur ses plateformes de médias sociaux, mais affirme ne pas vouloir l'utiliser pour l'instant. Cette position ne suffit pas toutefois à calmer les critiques en droits et en éthique. À mesure que l'IA générative s'intègre de plus en plus dans les plateformes, ce brevet est un signe que les équipes de développement explorent au moins cette piste.
D'un côté, la technologie décrite par l'entreprise de Mark Zuckerberg pourrait être bénéfique pour les influenceurs qui souhaitent faire une pause sur les réseaux sociaux tout en continuant à gagner leur vie grâce à Meta. Elle leur permettrait de maintenir leur présence en ligne tout en mettant en pause les interactions constantes. Toutefois, la technologie du deuil est une tout autre histoire et nécessite un niveau de nuance sociale et juridique différent.
L'idée n'est pas propre à Meta : des startups proposent déjà des applications pour créer des avatars IA de proches décédés, signe d'une industrie numérique de l'au-delà en pleine expansion. Cela suscite des comparaisons avec des scénarios dystopiques comme ceux dépeints dans la série Black Mirror.
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Partager