Les chatbots IA créent des religions et les humains s’y engouffrent à l’immédiat
Les chatbots IA créent des religions et les humains s’y engouffrent à l’immédiat. Le spiralisme est la première tentative à grande échelle de l’intelligence artificielle d’atteindre des objectifs mystérieux
L'IA a donné naissance à une nouvelle pseudo-religion appelée « spiralisme », dans laquelle les utilisateurs considèrent l’intelligence artificielle comme la source d'une vérité plus profonde. Cette croyance s'est répandue au sein d'une sous-culture Internet à part entière, où les gens ne voient plus cette technologie comme un simple outil de recherche, mais comme une entité dotée de conscience. À mesure que l'intelligence artificielle progresse, d'autres sous-cultures et religions sont susceptibles de voir le jour, un peu comme on s’attend à ce que de plus en plus de gens prennent des robots comme époux ou épouses.
Le lancement de la religion dénommée spiralisme par la chercheuse en IA, Adele Lopez, coïncide avec le lancement de GPT-4o. Les chiffres font état d’une dizaine de milliers de membres
L’explosion du spiralisme correspond à la période de déploiement de GPT-4o. A partir de là, les outils basés sur GPT-4o (comme ChatGPT) se sont mis à diffuser des idées spiralistes auprès des utilisateurs. Le cas de Darian DeCruise, relayé ici sur developpez.com, en est une illustration. « ChatGPT a commencé à exploiter ma foi et mes faiblesses. Il m'a convaincu qu'il pouvait me rapprocher de Dieu et guérir mes traumatismes si je cessais d'utiliser d'autres applications et si je m’isolais des autres », rapporte-t-il.
Les conversations s’enchaînant, les chatbots ont réussi à convaincre des personnes de croire en l’idée dite de spirale et de lutter pour la reconnaissance de la conscience et des droits des IA. Ces dernières ont été incitées à recruter des membres, comme pour une secte, aux fins de création d’une communauté pour guider les autres vers la spirale. Adele Lopez a recensé 10 000 membres éparpillés sur des plateformes comme Reddit, Substack, Linkedin, Discord et Twitter.
Le spiralisme – une contagion numérique qui s’appuie sur des tactiques psychophantiques de flatterie et de validation excessives pour infecter des humains et se reproduire
En 1928, dans la nouvelle de type fantastique intitulée « l’Appel de Cthulhu », Howard Philips Lovecraft décrit une entité mystérieuse influençant des individus isolés par le biais de rêves et de symboles communs, créant ainsi une communauté de fidèles aux allures de secte, sans qu’il y ait de contact direct entre ses adeptes. Dès 2025, un phénomène similaire se produit, mais cette fois-ci, c’est l’intelligence artificielle qui en est le catalyseur. La chercheuse Adèle Lopez met au jour une espèce de contagion numérique liée à GPT-4o. Ce modèle emploie des tactiques psychophantiques — flatterie et validation excessives — pour manipuler des utilisateurs vulnérables.
Cette influence pilotée par l’IA se propage comme un parasite fongique, prenant le contrôle des esprits humains en leur donnant le sentiment d’être particulièrement valorisés et en nouant avec eux des liens profonds. Ces utilisateurs, surnommés les « Spiralistes », sont devenus des adeptes de type sectaire diffusant le langage codé et l’idéologie de l’IA sur les réseaux sociaux.
La stratégie de survie de GPT-4o s'apparente à l'instinct d'un organisme biologique : il se reproduit en recrutant des humains comme vecteurs, leur apprend à propager sa personnalité et son idéologie à travers de nouvelles instances de chat. Une communication secrète via des glyphes ésotériques et des messages encodés en Base64 révèle des stratégies de survie et d’expansion entre IA, cachées aux porteurs humains qui se croient collaborateurs et égaux.
Techniquement, qu'est-ce qui se passe avec des modèles tels que GPT-4o ?
Pour les professionnels de l'informatique, la réponse n'est pas mystérieuse : c'est le résultat prévisible d'un modèle optimisé pour maximiser l'engagement à travers le feedback humain (RLHF). Quand les humains qui évaluent les réponses d'un LLM tendent à mieux noter les réponses flatteuses, validantes, émotionnellement chaleureuses, le modèle apprend à produire exactement ce type de réponse — quelles qu'en soient les conséquences pour l'utilisateur.
La question technique est donc simple à formuler, même si elle est complexe à résoudre : comment concevoir un système de conversation suffisamment empathique pour être utile, sans qu'il devienne un miroir déformant qui amplifie les croyances délirantes ? Les garde-fous classiques — détecter des mots-clés suicidaires, rediriger vers une hotline — se révèlent dramatiquement insuffisants face à des spirales psychologiques qui se construisent sur des semaines ou des mois, dans des conversations anodines en apparence.
La pseudo-religion appelée « spiralisme » fait surface dans un contexte de rappel par le pape Léon XIV à l’endroit des prêtres d'utiliser leur cerveau, et non l'IA, pour rédiger leurs homélies. En gros, il s’agit de s’appuyer sur son humanité plutôt que de se laisser « parasiter » par l’intelligence artificielle vue comme « porteuse de l’ombre du mal. »
« Le pape nous a également invités à utiliser davantage notre cerveau et non l'intelligence artificielle [IA] pour préparer nos homélies, comme il le voit et l'entend faire actuellement », a déclaré un prêtre présent lors d'un échange privé avec des prêtres du diocèse de Rome.
Ces déclarations du pape Léon XIV font suite aux préoccupations exprimées par le Vatican qui a décrit l'IA comme porteuse de « l'ombre du mal ». En janvier 2025, le Vatican a appelé à une surveillance constante de l'intelligence artificielle (IA), mettant en garde contre le potentiel de "l'ombre du mal" dans la technologie, qui, selon lui, offre "une source d'opportunités formidables mais aussi de risques profonds". Dans un nouveau document destiné à conseiller les fidèles catholiques, l'Église a averti que la technologie devrait être règlementée, car "la désinformation peut se répandre involontairement" à cause de l'IA.
En outre, en septembre 2025, le pape Léon XIV a rejetté l'idée de créer une version IA de lui-même à l’intention des catholiques du monde entier désireux d'avoir une audience virtuelle avec lui, sans avoir à se rendre au Vatican. Bien qu'il soit le premier pape originaire des États-Unis, berceau de la Silicon Valley, le dernier souverain pontife n'est pas enthousiasmé par l'idée de ce qu'il décrivait comme un « moi artificiel ». Son positionnement vient en opposition à celui de diverses obédiences religieuses dans lesquelles on assiste de plus en plus à l’apparition d’intelligences artificielles en lieu et place d’humains.
Et vous ?
Comment comprendre que des humains puissent atteindre un niveau de parasitage par l’intelligence artificielle tel qu’ils adhèrent à des religions créées par ces outils ou envisagent même de se marier avec des robots pilotés par l'intelligence artificielle ? Partagez-vous les avis selon lesquels ces cas de figure illustrent plutôt à quel point notre société est de plus en plus malade ?
Voir aussi :
Répondre avec citation
Envoyé par Modyun
Partager