Discussion :

[noremorse]

Tout part de Jacob Coxon, un type qui n'a aucun abonné sur X (ou quasiment) et qui enregistre du jour au lendemain 120 millions de vues sur un post "AI Doomer" pourtant relativement quelconque.

On parle tout de même de ceci, qui est l'antithèse d'un "banger" :

"J'ai démissionné d'Anthropic aujourd'hui. J'ai passé ces trois dernières années à mener des recherches sur le pré-entraînement, tant chez OpenAI que chez Anthropic. Aucune de ces deux entreprises n'agit de manière responsable. Elles se précipitent tête baissée vers une superintelligence capable de s'auto-améliorer et jouent avec nos vies. Vous trouverez ci-dessous quelques réflexions supplémentaires."

Le tweet se contente de dire "bon, les labos IA frontières font n'importe quoi" et la chaîne qui suit, pleine de pessimisme, ne parvient pas à faire la moindre prédiction concrète qui puisse réellement être réfutée (c'est assez pratique).

Mais de façon intéressante, le tweet à peine émis fait presqu'immédiatement la une de CNN et des grands médias ; ça tourne un peu partout, et des dizaines de papiers, de podcasts en parlent rapidement.

Ça buzze sur X...

Mais lorsqu'on commence à chercher un peu, on commence à se rendre compte que tout ceci est ... artificiel.

D'une part, Jacob Coxon, notre ultra-pessimiste de l'intelligence artificielle n'a pas été longtemps employé par Anthropic (quelques mois) et a assez vite rejoint des ONG franchement à gauche ("Newspeak").

Et d'autre part, il ne lui a pas fallu longtemps pour attirer le Wall Street Journal (18 minutes après son tweet apparemment) ; on peut donc soupçonner très fort une véritable "psy op"

Par exemple, Les trois premiers comptes à avoir retweeté ce message l’ont tous fait dans les 15 minutes qui ont suivi la publication initiale. Rappelons que ce compte n’enregistrait pratiquement aucun engagement auparavant ; il semble donc peu probable que cette portée soit le fruit d’une diffusion organique. Selon Grok, ces comptes sont

@_NathanCalvin (directeur juridique chez Encode AI),
@peterwildeford (responsable des politiques au sein de l’AI Policy Network) et
@DKokotajlo (responsable du projet AI Futures)

qui sont tous des associations à but non lucratif émergentes prônant une vision pessimiste de l’IA et militant pour des politiques en la matière.

De façon purement coïncidente (!) ces trois ONG sont financées par The Survival and Flourishing Fund ; quant à Jacob, en 2022, il a obtenu une bourse de 20.159 dollars dans le cadre du "programme de bourses pour l'avenir à long terme" de la Good Ventures Foundation, l'une des structures philanthropiques de Dustin Moskovitz, un célèbre catastrophiste de l'IA. Encore une coïncidence.

Le fait que ce tweet sert maintenant de référence à tout un paquet de socialistes (Democrats américains comme Clinton, Sanders, notamment) qui visent à pousser des lois contraignantes sur l'intelligence artificielle n'est là aussi qu'une coïncidence qui tombe vraiment bien.

Le but de cette opération est finalement assez transparent : bénéficiant de l'ouverture complète du code source de X et de son algorithme, des organisations (ici politiques) ont donc clairement utilisé ce savoir pour orienter la viralité d'un tweet assez artificiel afin de donner une forme de crédibilité au catastrophisme qui permet de demander régulations, lois, taxes, et interventions de l'État.

Rappelons que les millions d'emplois qui devaient disparaître grâce à l'IA, annoncés par les McKinsey et autre WEF en 2024 et 2025 n'ont pas disparu en 2026 et au contraire même.

Si vous voyez des ressemblances avec le discours sur le climat ou finalement tant d'autres sujets qui, tous, mettent en avant des catastrophes à venir et appellent à une forte intervention de l'État, c'est tout sauf un hasard.

Src : https://x.com/_h16/status/2098049180329455948

[Anthony]

« Nous sommes vraiment convaincus que l'IA pourrait exterminer toute l'humanité » : une réaction glaçante à la déclaration d’un responsable d’Anthropic

Evan Hubinger, responsable de la science de l’alignement chez Anthropic, estime qu'il y a plus de 10 % de chances que l’intelligence artificielle (IA) extermine toute l’humanité d’ici dix ans. Cette déclaration fracassante, publiée le mardi 8 septembre 2026 au soir sur X, fait suite à la démission de Jacob Coxon, chercheur en IA chez Anthropic, et à son avertissement selon lequel les dirigeants et chercheurs de haut niveau des laboratoires d'IA expriment leurs craintes en privé tout en adoucissant leur discours à l’intention de la presse. Samuel Marks, responsable de la supervision évolutive chez Anthropic, a confirmé ces propos quelques heures plus tard, ajoutant qu'au sein des laboratoires d'IA, « plus un employé occupe un poste à responsabilités, plus il se montre inquiet ». Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d’en garantir le contrôle restent insuffisants.

Pour rappel, Jacob Coxon, chercheur en IA ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné en début de semaine, affirmant que cette technologie « pourrait tous nous tuer d'ici la fin de la décennie ». Il accusait alors les deux entreprises de se précipiter vers la création d'une superintelligence capable de s'auto-améliorer, qualifiant cette démarche de véritable mise en danger de la vie de tous. « [Ils] jouent avec nos vies », a-t-il écrit sur X.

Des employés actuels d'Anthropic, l'entreprise américaine spécialisée dans l'IA fondée par d'anciens dirigeants d'OpenAI, affirment désormais que l'IA pourrait potentiellement anéantir l'humanité d'ici dix ans.

« Nous sommes sincèrement convaincus que l’IA pourrait anéantir l’humanité tout entière ! Personnellement, j’estime que la probabilité est supérieure à 10 % au cours de la prochaine décennie. Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement de la superintelligence et nous ne sommes pas clairement sur la bonne voie pour y parvenir », a écrit Evan Hubinger, responsable de la science de l’alignement chez Anthropic, sur X le mardi 8 septembre 2026 au soir.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Ces propos ont été tenus après que Jacob Coxon, chercheur en IA chez Anthropic, a démissionné de l'entreprise et s'est exprimé sur X pour expliquer les raisons de son départ.

« Les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a déclaré Jacob Coxon. « Ce n’est pas un coup de pub. Au contraire, de nombreux dirigeants et chercheurs de haut niveau veillent à modérer leurs propos dans la presse pour paraître raisonnables, mais j’entends ces mêmes personnes exprimer leurs craintes en privé. Aucune autre activité humaine ne présente un tel niveau de danger. »

Ces remarques interviennent alors que l'IA s'intègre de plus en plus dans le quotidien de millions d'Américains, alors même que les craintes concernant les dangers potentiels de cette technologie s'intensifient. Les inquiétudes quant à la possibilité que l'IA devienne incontrôlable ne datent pas d'hier : Elon Musk, ainsi que d'éminents chercheurs et universitaires, ont en effet maintes fois mis en garde contre les risques graves que des systèmes de plus en plus puissants pourraient faire peser sur l'humanité.

Le mercredi 9 septembre, vers 2 heures du matin, Samuel Marks, responsable de la supervision évolutive chez Anthropic, a également répondu au message de Jacob Coxon, précisant qu’il « écrivait ces lignes à titre personnel, et non au nom de mon employeur (Anthropic) ».

« Les développeurs d'IA estiment que leur technologie pourrait entraîner l'extinction de l'humanité (ou des conséquences tout aussi graves). Cela pourrait se produire dans les prochaines années. En général, plus un employé occupe un poste à responsabilités, plus il se montre inquiet », a ajouté Samuel Marks.

Ces mises en garde émanant des employés des laboratoires d'IA trouvent un écho institutionnel à l'échelle internationale. Volker Türk, le Haut-Commissaire des Nations unies aux droits de l'homme, a récemment mis en garde contre le risque « existentiel » que l'IA pourrait représenter pour l'humanité, et a exhorté les entreprises d'IA à réduire ces risques. Il a pointé du doigt, sans les nommer directement, des entreprises comme Meta, Anthropic, OpenAI et Google, qu'il accuse de détenir un pouvoir quasi illimité sur cette technologie.

« Je partage les préoccupations des experts du secteur selon lesquelles l’IA avancée pourrait représenter un risque existentiel pour l’humanité », a déclaré Volker Türk devant le Conseil des droits de l’homme des Nations unies à Genève, dans un discours de grande envergure prononcé avant le début de son deuxième mandat le mois prochain. « J’appelle ici, aujourd’hui, à un effort sans réserve pour mettre en place des garanties à toute épreuve concernant la sûreté et la sécurité de l’IA, avant qu’il ne soit trop tard. »

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous les affirmations d'Evan Hubinger, responsable chez Anthropic, crédibles ou pertinentes ?

Voir aussi :

Yoshua Bengio, parrain de l'IA, met en garde contre le risque d'extinction de l'humanité d'ici dix ans, causée par des machines hyperintelligentes dotées de leur propre « désir d'autoconservation »

Anthropic appelle à une pause globale en matière de développement de l'IA face aux signes indiquant qu'ils pourraient échapper au contrôle humain. Certains comportements de l'IA suscitent en effet des craintes

Les scientifiques d'OpenAI veulent un « bunker de l'apocalypse » avant que l'AGI ne surpasse l'intelligence humaine et ne menace l'humanité, une perspective que d'autres experts en IA qualifient d'illusion

Un rapport met en garde les entreprises d'IA contre les dangers liés à la construction de systèmes de niveau humain, elles ne disposent pas de plans crédibles pour garantir la sécurité de ces systèmes

[Souil002]

Evidement qu'ils n'ont pas de plan pour l'alignement de la super intelligence... puisqu'on a pas encore d'IA qu'on pourrait qualifier de "super intelligence".
Entre pirater un forum inconnu en Allemagne et anéantir l'humanité, il y a quelques nuances.

[kain_tn]

Evidement qu'ils n'ont pas de plan pour l'alignement de la super intelligence... puisqu'on a pas encore d'IA qu'on pourrait qualifier de "super intelligence".
Entre pirater un forum inconnu en Allemagne et anéantir l'humanité, il y a quelques nuances.

Oui. On n'a déjà pas d'IA "intelligente", alors "super-intelligente"...

Evan Hubinger, responsable de la science de l’alignement chez Anthropic, estime qu'il y a plus de 10 % de chances que l’intelligence artificielle (IA) extermine toute l’humanité d’ici dix ans.

Est-ce que ce monsieur tiendrait les mêmes déclarations, si son entreprise roulait sur l'or au lieu de crouler sous les dettes et d'essayer de survivre avec une introduction boursière? Probablement pas, non.

EDIT: Quoi que, si pour faire tourner leurs cochonneries inutiles, ils continuent de prendre toute l'eau et l'énergie de la planète, indirectement, ils extermineront les populations

[Matthieu Vergne]

« plus un employé occupe un poste à responsabilités, plus il se montre inquiet »

Aurement dit, plus il est loin du concret et du "comment ça fonctionne", plus il spécule.

Encore une fois, ce ne sont pas les modèles qui me font peur. Ce sont ceux qui les utilisent.