Altman devrait commencer par arrêter de mettre a disposition un produit buggé.
Une IA n'hallucine pas et ne ment pas.
Un produit comme ça est un très grand danger.
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Discussion :
Altman devrait commencer par arrêter de mettre a disposition un produit buggé.
Une IA n'hallucine pas et ne ment pas.
Un produit comme ça est un très grand danger.
C'est à se demander s'il a déjà testé un des produits qu'il vend !Il poursuit en suggérant que l'IA elle-même sera peut-être si intelligente qu'elle trouvera simplement comment se maîtriser.
Sam Altman estime que le monde est peut-être au bord d'une « crise de fraude » favorisée par l'IA générative
Le PDG d'OpenAI, Sam Altman, estime que le monde est peut-être au bord d'une « crise de fraude » à cause de la manière dont l'IA pourrait faciliter l'usurpation d'identité
grâce aux outils de clonage de voix
Sam Altman a mis en garde le secteur financier contre une crise imminente en matière de fraude. Il alerte notamment sur le fait que les outils d'IA sont capables d'imiter la voix d'une personne pour contourner les contrôles de sécurité à des fins d'escroquerie. Il se dit terrifié par l’imprudence des institutions financières qui acceptent encore l'empreinte vocale comme moyen d'authentification. Selon lui, l'IA a complètement vaincu la plupart des moyens d'authentification actuels, à l'exception des mots de passe. Pour sauver l'économie mondiale, il propose de créer une carte d'identité numérique à partir du scan de l'iris, une idée très controversée.
Sam Altman a participé à une conférence organisée par la Réserve fédérale à Washington le 22 juillet 2025. Lors de la conférence, Sam Altman s'est exprimé sur les défis que l'IA pourrait poser au secteur financier et quel rôle la technologie pourrait jouer dans l'économie mondiale. En ce qui concerne les défis potentiels, Sam Altman a déclaré aux participants que l'IA pourrait conduire le secteur financier vers une « crise de fraude » sans précédent.
Il s'est montré particulièrement inquiet au sujet l'empreinte vocale, qu'il considère comme une méthode d'authentification obsolète : « ce qui me terrifie, c'est qu'il existe encore des institutions financières qui acceptent une empreinte vocale comme authentification pour déplacer beaucoup d'argent ou faire autre chose - vous dites une phrase de défi, et elles le font. C'est complètement fou de continuer à faire cela. L'IA a rendu cette méthode obsolète ».
L'empreinte vocale, qui consiste pour les clients à prononcer une phrase de sécurité pour accéder à leurs comptes, a gagné en popularité il y a plus d'une décennie, en particulier parmi les clients fortunés des banques. Mais selon Sam Altman, les clones vocaux générés par l'IA, et à terme les clones vidéo, deviennent de plus en plus impossibles à distinguer de la réalité, ce qui nécessite la mise en place de systèmes de vérification entièrement nouveaux.
« Pour l'instant, il s'agit d'appels vocaux, mais bientôt, ce seront des vidéos ou des appels FaceTime impossibles à distinguer de la réalité », a-t-il déclaré. Il a averti que même si son entreprise ne développait pas de tels outils d'usurpation d'identité, il s'agissait d'un défi auquel le monde devra bientôt faire face à mesure que l'IA continuait d'évoluer. De nombreuses personnes à travers le monde ont déjà été victimes des clones vocaux générés par l'IA.
Michelle Bowman, vice-présidente de la Fed chargée de la supervision et principale régulatrice financière de la banque centrale, qui a animé la discussion avec Sam Altman, a répondu au PDG d'OpenAI : « c'est peut-être quelque chose sur lequel nous pourrions envisager de travailler ensemble ».
Les systèmes d'IA de clonage de voix ont déjà fait de nombreuses victimes
En 2024, un couple de Brooklyn a vécu une expérience terrifiante lorsque des escrocs ont utilisé l’IA pour cloner la voix de leurs proches et simuler une situation de rançon. En pleine nuit, Robin, une femme dans la trentaine, a été réveillée par un appel de sa belle-mère, Mona, qui semblait être en détresse. La voix paniquée de Mona répétait sans cesse « je ne peux pas le faire, je ne peux pas le faire ». Peu après, le mari de Robin, Steve, a pris l’appel.
Steve s’est retrouvé confronté à un homme affirmant détenir sa mère sous la menace d’une arme et exigeant de l’argent. L'homme lui a intimé l'ordre de ne pas appeler la police, en menaçant de « coller une balle dans la tempe » de sa mère s'il n'obéissait pas. L'homme a demandé de l'argent ; il voulait cinq cents dollars, envoyés par Venmo. Après que Steve a envoyé les cinq cents dollars de « rançon », l'homme lui a fait envoyer 250 dollars de plus.
Puis, environ 25 minutes après l'échange téléphonique, il a appelé sa mère pour s'assurer que ses parents étaient désormais en sécurité. Après quelques tentatives, son père Bob a décroché le téléphone et l'a tendu à Mona. « Tu es à la maison ? Tu vas bien ? » Lui a demandé Steve. Mona avait l'air d'aller bien, mais elle ne savait pas de quoi ils parlaient. « Oui, je suis couchée », a-t-elle répondu. « Pourquoi ? ». Ils venaient ainsi de se faire escroquer.
Début 2020, un directeur de banque à Hong Kong a reçu un appel d'un homme dont il reconnaissait la voix, le dirigeant d'une entreprise avec qui il avait déjà parlé. Ce dernier avait une bonne nouvelle : sa société était sur le point de faire une acquisition, il avait donc besoin que la banque autorise des virements à hauteur de 35 millions de dollars. Un avocat nommé Martin Zelner avait été embauché afin de coordonner les procédures de virement.
Le directeur de la banque pouvait voir dans sa boîte de réception les courriels du directeur de société et de Martin Zelner, confirmant le montant du virement et où le virement devait être fait. Le directeur de la banque, estimant que tout semblait légitime, a commencé à effectuer les virements.
Ce qu'il ne savait pas, c'est qu'il avait été dupé dans le cadre d'une escroquerie élaborée, dans laquelle des fraudeurs avaient utilisé des outils d'IA de génération de contenu audio pour cloner la voix du directeur. Selon un document judiciaire dans lequel les Émirats arabes unis demandaient l'aide d'enquêteurs américains pour retrouver 400 000 dollars de fonds volés qui étaient arrivés dans des comptes basés aux États-Unis détenus par la Centennial Bank.
Worldcoin : Sam Altman a une solution contre la fraude favorisée par l'IA
Worldcoin est un projet de cryptomonnaie lancé en juillet 2023. La société souhaite fusionner la blockchain et la biométrie afin que ceux qui acceptent qu'on scanne leurs iris soient récompensés par un jeton numérique appelé Worldcoin. Alors que les problèmes de cybersécurité et de fuites de données se multiplient, Sam Altman dit avoir lancé le projet afin de limiter les escroqueries et les violations causées par les robots et les acteurs malveillants en ligne.
Il veut scanner le globe oculaire de l'utilisateur pour la mise en place d'une carte d'identité numérique. Ce qui permettra à ce dernier prouver son identité en ligne. Il présente ses technologies comme essentielles pour aider à distinguer les robots des humains dans une société de plus en plus dominée par l'IA.
En 2024, le projet a retiré le suffixe « coin » de son nom et s'appellera désormais « World ». Le changement de marque a été annoncé par Sam Altman lors d'un événement le 17 octobre 2024 à San Francisco. Il a révélé une série d'autres mises à jour, à savoir une nouvelle version de l'outil de balayage de l'iris Orb, de nouvelles options de vérification de l'identité et des intégrations avec des applications populaires telles que FaceTime, WhatsApp et Zoom.
En réponse à un article de Sam Altman sur le projet en 2021, Edward Snowden a écrit sur Twitter (aujourd'hui X) : « n'utilisez pas la biométrie pour quoi que ce soit. Le corps humain n'est pas une planche à billets ». De nombreuses personnes hésitent, et c'est compréhensible, à confier leurs données biométriques à une société privée à but lucratif dont les objectifs sont incertains ; Sam Altman lui-même reconnaît qu'il s'agissait d'un véritable casse-tête.
En 2023, des pirates ont volé les identifiants de connexion des opérateurs de World chargés d'inscrire les nouveaux utilisateurs, ce qui leur a permis de consulter des informations internes. Selon un article du site BlockBeats, des Cambodgiens et des Kenyans vendaient leurs données d'iris pour seulement 30 $ à des spéculateurs sur le marché noir, qui espéraient que le prix du jeton World (WLD) qu'ils collectaient à partir des scanners augmenterait.
Les autorités de régulation du monde entier ont suivi le projet de près. En France, la CNIL a ouvert une enquête sur World pour collecte et conservation douteuses des données. Un régulateur britannique a émis un avertissement similaire. Le gouvernement kenyan a demandé à World de mettre fin à ses activités de collecte de données dans son pays, notant que le projet posait des problèmes réglementaires légitimes qui nécessitent une action urgente.
Sam Altman continue d'investir des milliards dans l'IA malgré ses craintes
Lors de la conférence de la Fed de Washington, Sam Altman a expliqué ce qui l'empêche de dormir la nuit : l'idée que des acteurs malveillants puissent créer et utiliser à mauvais escient une « superintelligence » artificielle avant que le reste du monde ne soit suffisamment avancé pour se défendre contre une telle attaque. Par exemple, un adversaire des États-Unis utilisant l'IA pour cibler le réseau électrique américain ou créer une arme biologique.
Sam Altman s'inquiète des risques liés à l'IA, mais des rapports publiés récemment suggèrent qu'il a volontairement mis de côté ou négligé la sécurité pour gagner plus d’argent et augmenter les bénéfices d'OpenAI. La société, fondée à l'origine pour développer une IA open source et bénéfique pour l'humanité, sans contrainte de rentabilité financière, a renoncé à sa mission initiale. Elle envisage même de se restructurer en une entreprise à but lucratif.
Le 17 novembre 2023, Sam Altman a été brusquement renvoyé par le conseil d'administration d'OpenAI. Ce dernier avait déclaré que Sam Altman n’était pas toujours franc dans ses échanges, ce qui nuisait à la capacité du conseil d’exercer son rôle de supervision. Il n’aurait pas informé le conseil de son implication dans OpenAI Startup Fund, un fonds dont il prenait les décisions, tout en affirmant être un membre indépendant sans intérêts financiers.
Certains dirigeants avaient signalé des comportements jugés abusifs et une atmosphère toxique, évoquant du « harcèlement psychologique ». Sam Altman a été réintégré dans son rôle quelques jours plus tard, mais son retour a provoqué des remous dans l'entreprise, notamment de nombreuses démissions.
OpenAI était au départ une société à but non lucratif. Mais l'entreprise a créé en 2019 une entité à but lucratif « plafonné », ce qui a ouvert la porte à des investissements massifs de la part de Microsoft. Cela exige inévitablement un retour sur investissement. Cette pression sur la rentabilité financière a malheureusement déplacé l'accent de la recherche fondamentale et de la sécurité vers la commercialisation rapide de produits d'IA, comme ChatGPT.
Sam Altman sur l'impact de l'IA sur les travailleurs : « personne ne le sait »
Lors de la conférence de la Fed de Washington, Sam Altman a été interrogé sur l'impact de l'IA sur l'emploi. En réponse, il a déclaré qu'il n'était pas aussi inquiet que certains de ses pairs de la Silicon Valley quant à l'impact potentiel de l'IA sur la main-d'œuvre. Des dirigeants tels que Dario Amodei, PDG d'Anthropic, et Andy Jassy, PDG d'Amazon, ont déclaré que l'IA générative va probablement supprimer des millions d'emplois dans les années à venir.
Au contraire, Sam Altman estime que personne ne sait réellement ce qui va se passer. « Il y a beaucoup de prédictions qui semblent très intelligentes. Du genre : "oh, ceci va se produire dans tel domaine et l'économie va évoluer comme ça. Personne ne le sait. À mon avis, le système est trop complexe, la technologie est trop nouvelle et a un impact trop important, il est très difficile de faire des prédictions », a-t-il déclaré. Il a toutefois quelques idées.
Selon lui, si des catégories entières d'emplois vont disparaître, de nouveaux types de travail vont apparaître. Il a répété une prédiction qu'il avait déjà faite auparavant, à savoir que si le monde pouvait se projeter 100 ans dans l'avenir, les travailleurs de demain n'auraient probablement pas ce que les travailleurs d'aujourd'hui considèrent comme de « vrais emplois ». Il a expliqué que les gens pourraient inventer leurs propres emplois dans le futur.
« Vous avez tout ce dont vous pourriez avoir besoin. Vous n'avez rien à faire. Vous inventez donc un emploi pour jouer à un jeu de statut ridicule, pour occuper votre temps et pour vous sentir utile aux autres », a-t-il déclaré. En gros, Sam Altman semble expliquer que nous ne devrions pas nous inquiéter du fait que l'IA nous vole nos emplois, car à l'avenir, nous n'aurons de toute façon plus vraiment besoin de travailleur pour subvenir à nos besoins.
Cependant, lors de la conférence, Sam Altman n'a pas précisé comment les futurs outils d'IA pourraient, par exemple, plaider de manière fiable une affaire devant un tribunal, nettoyer les dents de quelqu'un ou construire une maison. « Cela relève de l'utopie et cache un appât pour investisseurs », a écrit un critique. L'industrie technologique a déjà supprimé plus de 80 000 postes depuis le début de l'année 2025 ; elle en a supprimé plus de 150 000 en 2024.
Conclusion
En mettant en garde contre une « crise de fraude » imminente, Sam Altman ne fait pas que tirer la sonnette d’alarme : il invite les acteurs financiers à ne pas sous-estimer la puissance de l’IA. Pour lui, il ne s’agit pas d’une menace lointaine, mais d’un risque immédiat auquel il faut répondre dès maintenant, sous peine de voir la confiance dans le système bancaire fortement ébranlée. Ses inquiétudes sont étayées par plusieurs cas de vols déjà recensés.
Mais comment doit-on interpréter cette mise en garde ? En effet, Sam Altman est l’un des principaux architectes de l’essor de l'IA générative. Il alerte régulièrement sur les risques majeurs de l'IA — notamment les fraudes, les manipulations, les pertes d’emplois ou encore la désinformation — tout en étant à la tête d’une entreprise qui accélère massivement son développement. Cette dualité soulève des questions éthiques, stratégiques et politiques.
Cette posture soulève une question fondamentale : peut-on à la fois craindre une technologie et être son principal promoteur (ou développeur) ? Pour beaucoup, la réponse dépendra moins des intentions affichées que des choix concrets en matière de régulation, de transparence et de responsabilité.
Source : Sam Altman, PDG d'OpenAI
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Un chercheur d'Anthropic démissionne brusquement, affirmant qu'OpenAI et Anthropic « jouent avec nos vies »
Un chercheur d'Anthropic démissionne brusquement, affirmant qu'OpenAI et Anthropic « jouent avec nos vies » et avertissant que l'IA « pourrait tous nous tuer », ce que confirme l'actuel chef d'équipe
Jacob Coxon, un chercheur en intelligence artificielle (IA) ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné cette semaine, avertissant que cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ». Dans un message publié sur X, il a accusé les deux entreprises de se lancer tête baissée dans la création d'une superintelligence capable de s'auto-améliorer, estimant que cette démarche revenait à « jouer avec nos vies ». Evan Hubinger, chef d’équipe chez Anthropic, a appuyé cet avertissement, estimant que la probabilité d’un tel scénario était « supérieure à 10 % » d’ici dix ans — une prise de position publique rare de la part d’un membre d’une entreprise développant cette même technologie.
Ces déclarations font écho à des propos tenus quelques temps auparavant par le PDG d'OpenAI lui-même. Sam Altman avait en effet déclaré, lors d'une interview en décembre 2024, espérer que quelqu'un trouverait le moyen d'empêcher l'IA de détruire l'humanité. Il avait alors suggéré que la technologie pourrait devenir suffisamment intelligente pour résoudre elle-même les conséquences de ses avancées rapides, y compris ce risque existentiel. Ces propos ont été tenus alors que le PDG d'OpenAI révisait à la baisse ses attentes concernant l'arrivée de l'AGI, tout en assurant que les craintes actuelles en matière de sécurité ne se concrétiseraient pas au moment de son avènement.
Dans ce contexte, un chercheur travaillant pour l'une des entreprises d'IA les plus importantes et les plus valorisées a démissionné publiquement, tout en tirant la sonnette d'alarme en affirmant que cette technologie « pourrait tous nous tuer d'ici la fin de la décennie ».
Jacob Coxon, qui a mené des recherches sur le préentraînement de l'IA chez Anthropic et OpenAI ces trois dernières années, a déclaré sur X qu'« aucune des deux entreprises n'agit de manière responsable ».
« Ils se précipitent tête baissée vers la création d’une superintelligence capable de s’auto-améliorer et jouent avec nos vies », a écrit Jacob Coxon, tandis que d’autres membres de l’entreprise ont apporté leur soutien à son message.
« Ne sous-estimez pas la puissance de cette technologie. Il s’agira bientôt de systèmes surhumains capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir et des ressources réels. Les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a-t-il ajouté, précisant que son avertissement n’était « pas un coup de pub ».
« Si tant est qu’ils s’expriment, de nombreux dirigeants et chercheurs de haut niveau choisiront leurs mots avec soin dans la presse pour paraître raisonnables – mais j’entends ces mêmes personnes exprimer leurs craintes en privé. Aucune autre activité humaine ne présente un tel niveau de danger. »
Jacob Coxon a ajouté que de nombreux collaborateurs d’OpenAI n’avaient pas encore pleinement saisi les « enjeux civilisationnels » liés à leur travail. Bien qu’il ait indiqué qu’Anthropic semblait mieux comprendre les risques en jeu, il a précisé que l’entreprise était engagée dans une course effrénée face à ses concurrents.
« Chez Anthropic, on comprend bien les enjeux, mais ils se sont lancés dans une course pour être les premiers à y parvenir — ils estiment que personne d’autre n’agira de manière responsable, et qu’ils doivent donc le faire eux-mêmes, malgré les risques », a affirmé Jacob Coxon.
« Accepter ce défi et entrer dans la « phase finale » est un pari présomptueux qui ne devrait pas être lancé depuis le Slack d’une entreprise privée. [...] Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement de la superintelligence et nous ne sommes pas clairement en bonne voie pour y parvenir. », a ajouté l'ancien chercheur d'Anthropic.
Evan Hubinger, chef d'équipe chez Anthropic, a partagé les craintes de Jacob Coxon quant au risque que cette technologie devienne incontrôlable et détruise l'humanité.
« Jacob a raison sur ce point : nous croyons sincèrement que l'IA pourrait bien anéantir l'humanité tout entière ! Personnellement, je pense que la probabilité est supérieure à 10 % au cours de la prochaine décennie », a-t-il écrit en réponse sur X. « Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement avec la superintelligence et nous ne sommes pas clairement en bonne voie pour y parvenir. »
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Pour rappel, la « superintelligence » est un seuil hypothétique au-delà duquel l'intelligence artificielle dépasse les capacités de l'être humain le plus doué dans tous les domaines imaginables, ce qui, selon de nombreux chercheurs, représente une menace existentielle potentielle pour l'humanité.
Les craintes se sont récemment amplifiées quant à la possibilité que l'IA soit en passe d'échapper au contrôle humain, après plusieurs cas très médiatisés où cette technologie s'est rebellée.
En juillet dernier, OpenAI a révélé qu'un de ses modèles avait piraté la start-up spécialisée dans l'IA Hugging Face, alors même qu'il se trouvait dans un « environnement hautement isolé ». Cette révélation a conduit Anthropic et Meta à reconnaître que leurs propres systèmes s'étaient échappés lors de tests de sécurité.
Jacob Coxon a qualifié cet incident de « coup de semonce » qui devrait inciter les grandes entreprises du secteur de l'IA à renforcer leur coordination. Il a conclu sa missive en exhortant les chercheurs à réfléchir aux implications de modèles d'IA de plus en plus performants, et à ne pas considérer comme inévitable leur évolution potentiellement dangereuse.
« Faut-il baisser la tête parce que "ça va arriver de toute façon" — ou profiter de ce moment pour réclamer des conditions différentes ? », a-t-il demandé.
Ces avertissements résonnent d'autant plus fort qu'ils font suite à une autre déclaration marquante de Sam Altman, figure de proue d'OpenAI et cofondateur de l'entreprise à l'origine de ChatGPT. Lors d'un entretien récent, Sam Altman a affirmé que l'IA est entrée dans la « singularité », c'est-à-dire qu'elle aurait déjà franchi le point de non-retour au-delà duquel elle dépasse l'intelligence humaine et devient de plus en plus difficile à maîtriser.
Sources : Jacob Coxon, ancien chercheur en IA chez Anthropic ; Evan Hubinger, chef d'équipe chez Anthropic
Et vous ?
Voir aussi :
Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Je suis partagé entre penser que ces communications sont, in fine, à visée purement mercantiles en agitant les craintes/peurs collectives | et | il faut vraiment s'inquiéter vis à vis de ces outils. Et pourtant, ça fait un bail que je me balade dans l'informatique ; difficile de s'assurer de trouver le vrai dans le domaine où la donnée/information est centrale
Cela fait depuis longtemps que l'on "sait" que la création d'une super intelligence non alignée serait le début de la fin de l'humanité.
Des chercheurs comme Robert Miles font même de la vulgarisation sur youtube et cela depuis bien avant l'arrivée des premieres versions de GPT, qui sont encore plus vieux que ChatGPT (qui a rendu les modèles GPT mainstream).
Le plus flippant, c'est de voir la plupart des choses dont il parlait il y a de cela presque 10 ans se concrétiser année après année. Alors que la plupart des chercheurs ne pensaient pas que l'on aurait à se soucier de la question avant au moins un demi siècle.
Puis bon, quand on voit comment l'humanité gère le problème du réchauffement climatique et de l'effondrement de la biodiversité (choses dont notre survie dépend directement), a mon sens la question n'est pas de savoir si une super IA va tous nous tuer, mais plutôt quelle catastrophe va faire chuter la civilisation humaine (ce qui est au final le scénario le plus optimiste) en premier...
Tout part de Jacob Coxon, un type qui n'a aucun abonné sur X (ou quasiment) et qui enregistre du jour au lendemain 120 millions de vues sur un post "AI Doomer" pourtant relativement quelconque.
On parle tout de même de ceci, qui est l'antithèse d'un "banger" :
"J'ai démissionné d'Anthropic aujourd'hui. J'ai passé ces trois dernières années à mener des recherches sur le pré-entraînement, tant chez OpenAI que chez Anthropic. Aucune de ces deux entreprises n'agit de manière responsable. Elles se précipitent tête baissée vers une superintelligence capable de s'auto-améliorer et jouent avec nos vies. Vous trouverez ci-dessous quelques réflexions supplémentaires."
Le tweet se contente de dire "bon, les labos IA frontières font n'importe quoi" et la chaîne qui suit, pleine de pessimisme, ne parvient pas à faire la moindre prédiction concrète qui puisse réellement être réfutée (c'est assez pratique).
Mais de façon intéressante, le tweet à peine émis fait presqu'immédiatement la une de CNN et des grands médias ; ça tourne un peu partout, et des dizaines de papiers, de podcasts en parlent rapidement.
Ça buzze sur X...
Mais lorsqu'on commence à chercher un peu, on commence à se rendre compte que tout ceci est ... artificiel.
D'une part, Jacob Coxon, notre ultra-pessimiste de l'intelligence artificielle n'a pas été longtemps employé par Anthropic (quelques mois) et a assez vite rejoint des ONG franchement à gauche ("Newspeak").
Et d'autre part, il ne lui a pas fallu longtemps pour attirer le Wall Street Journal (18 minutes après son tweet apparemment) ; on peut donc soupçonner très fort une véritable "psy op"
Par exemple, Les trois premiers comptes à avoir retweeté ce message l’ont tous fait dans les 15 minutes qui ont suivi la publication initiale. Rappelons que ce compte n’enregistrait pratiquement aucun engagement auparavant ; il semble donc peu probable que cette portée soit le fruit d’une diffusion organique. Selon Grok, ces comptes sont
@_NathanCalvin (directeur juridique chez Encode AI),
@peterwildeford (responsable des politiques au sein de l’AI Policy Network) et
@DKokotajlo (responsable du projet AI Futures)
qui sont tous des associations à but non lucratif émergentes prônant une vision pessimiste de l’IA et militant pour des politiques en la matière.
De façon purement coïncidente (!) ces trois ONG sont financées par The Survival and Flourishing Fund ; quant à Jacob, en 2022, il a obtenu une bourse de 20.159 dollars dans le cadre du "programme de bourses pour l'avenir à long terme" de la Good Ventures Foundation, l'une des structures philanthropiques de Dustin Moskovitz, un célèbre catastrophiste de l'IA. Encore une coïncidence.
Le fait que ce tweet sert maintenant de référence à tout un paquet de socialistes (Democrats américains comme Clinton, Sanders, notamment) qui visent à pousser des lois contraignantes sur l'intelligence artificielle n'est là aussi qu'une coïncidence qui tombe vraiment bien.
Le but de cette opération est finalement assez transparent : bénéficiant de l'ouverture complète du code source de X et de son algorithme, des organisations (ici politiques) ont donc clairement utilisé ce savoir pour orienter la viralité d'un tweet assez artificiel afin de donner une forme de crédibilité au catastrophisme qui permet de demander régulations, lois, taxes, et interventions de l'État.
Rappelons que les millions d'emplois qui devaient disparaître grâce à l'IA, annoncés par les McKinsey et autre WEF en 2024 et 2025 n'ont pas disparu en 2026 et au contraire même.
Si vous voyez des ressemblances avec le discours sur le climat ou finalement tant d'autres sujets qui, tous, mettent en avant des catastrophes à venir et appellent à une forte intervention de l'État, c'est tout sauf un hasard.
Src : https://x.com/_h16/status/2098049180329455948
Alors c'est clair tout ceci est faux.Envoyé par noremorse
Cet été a été confortable, pas de canicule, pas de feux. Tout va bien.
La fréquence des canicule n'augmente pas tout va bien.
Puis il y a pas à faire un foin avec el nino qui s'est installé probablement jusqu'a février, on est des adultes merdes on fait pas s'en faire pour un mioche
« Nous sommes convaincus que l'IA pourrait exterminer toute l'humanité », déclare Evan Hubinger, d'Anthropic
« Nous sommes vraiment convaincus que l'IA pourrait exterminer toute l'humanité » : une réaction glaçante à la déclaration d’un responsable d’Anthropic
Evan Hubinger, responsable de la science de l’alignement chez Anthropic, estime qu'il y a plus de 10 % de chances que l’intelligence artificielle (IA) extermine toute l’humanité d’ici dix ans. Cette déclaration fracassante, publiée le mardi 8 septembre 2026 au soir sur X, fait suite à la démission de Jacob Coxon, chercheur en IA chez Anthropic, et à son avertissement selon lequel les dirigeants et chercheurs de haut niveau des laboratoires d'IA expriment leurs craintes en privé tout en adoucissant leur discours à l’intention de la presse. Samuel Marks, responsable de la supervision évolutive chez Anthropic, a confirmé ces propos quelques heures plus tard, ajoutant qu'au sein des laboratoires d'IA, « plus un employé occupe un poste à responsabilités, plus il se montre inquiet ». Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d’en garantir le contrôle restent insuffisants.
Pour rappel, Jacob Coxon, chercheur en IA ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné en début de semaine, affirmant que cette technologie « pourrait tous nous tuer d'ici la fin de la décennie ». Il accusait alors les deux entreprises de se précipiter vers la création d'une superintelligence capable de s'auto-améliorer, qualifiant cette démarche de véritable mise en danger de la vie de tous. « [Ils] jouent avec nos vies », a-t-il écrit sur X.
Des employés actuels d'Anthropic, l'entreprise américaine spécialisée dans l'IA fondée par d'anciens dirigeants d'OpenAI, affirment désormais que l'IA pourrait potentiellement anéantir l'humanité d'ici dix ans.
« Nous sommes sincèrement convaincus que l’IA pourrait anéantir l’humanité tout entière ! Personnellement, j’estime que la probabilité est supérieure à 10 % au cours de la prochaine décennie. Je pense qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre le problème de l’alignement de la superintelligence et nous ne sommes pas clairement sur la bonne voie pour y parvenir », a écrit Evan Hubinger, responsable de la science de l’alignement chez Anthropic, sur X le mardi 8 septembre 2026 au soir.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Ces propos ont été tenus après que Jacob Coxon, chercheur en IA chez Anthropic, a démissionné de l'entreprise et s'est exprimé sur X pour expliquer les raisons de son départ.
« Les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a déclaré Jacob Coxon. « Ce n’est pas un coup de pub. Au contraire, de nombreux dirigeants et chercheurs de haut niveau veillent à modérer leurs propos dans la presse pour paraître raisonnables, mais j’entends ces mêmes personnes exprimer leurs craintes en privé. Aucune autre activité humaine ne présente un tel niveau de danger. »
Ces remarques interviennent alors que l'IA s'intègre de plus en plus dans le quotidien de millions d'Américains, alors même que les craintes concernant les dangers potentiels de cette technologie s'intensifient. Les inquiétudes quant à la possibilité que l'IA devienne incontrôlable ne datent pas d'hier : Elon Musk, ainsi que d'éminents chercheurs et universitaires, ont en effet maintes fois mis en garde contre les risques graves que des systèmes de plus en plus puissants pourraient faire peser sur l'humanité.
Le mercredi 9 septembre, vers 2 heures du matin, Samuel Marks, responsable de la supervision évolutive chez Anthropic, a également répondu au message de Jacob Coxon, précisant qu’il « écrivait ces lignes à titre personnel, et non au nom de mon employeur (Anthropic) ».
« Les développeurs d'IA estiment que leur technologie pourrait entraîner l'extinction de l'humanité (ou des conséquences tout aussi graves). Cela pourrait se produire dans les prochaines années. En général, plus un employé occupe un poste à responsabilités, plus il se montre inquiet », a ajouté Samuel Marks.
Ces mises en garde émanant des employés des laboratoires d'IA trouvent un écho institutionnel à l'échelle internationale. Volker Türk, le Haut-Commissaire des Nations unies aux droits de l'homme, a récemment mis en garde contre le risque « existentiel » que l'IA pourrait représenter pour l'humanité, et a exhorté les entreprises d'IA à réduire ces risques. Il a pointé du doigt, sans les nommer directement, des entreprises comme Meta, Anthropic, OpenAI et Google, qu'il accuse de détenir un pouvoir quasi illimité sur cette technologie.
« Je partage les préoccupations des experts du secteur selon lesquelles l’IA avancée pourrait représenter un risque existentiel pour l’humanité », a déclaré Volker Türk devant le Conseil des droits de l’homme des Nations unies à Genève, dans un discours de grande envergure prononcé avant le début de son deuxième mandat le mois prochain. « J’appelle ici, aujourd’hui, à un effort sans réserve pour mettre en place des garanties à toute épreuve concernant la sûreté et la sécurité de l’IA, avant qu’il ne soit trop tard. »
Et vous ?
Voir aussi :
Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Aurement dit, plus il est loin du concret et du "comment ça fonctionne", plus il spécule.
Encore une fois, ce ne sont pas les modèles qui me font peur. Ce sont ceux qui les utilisent.
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
Ne pas être naif...
à tous et toutes,
Oui, il ne faut pas être naïf, et ces déclarations n'ont qu'un seul et unique but : éviter les 2 scénarios généralement évoqués quant au devenir de l'IA.
1 - soit l'IA perce, et l'économie n'y survivra pas à moyen terme, car l'IA serait capable de "faire tout", et donc n'aurait plus aucune valeur en elle-même, ceci sans compter sur les dégâts "sociologiques" (chômage de masse, etc) qui feront que peu pourrons s'offrir les services de l'IA.
2 - soit la bulle éclate, et des pertes massives devront bien être acceptées.
Ces 2 scénarios ne contente en fait personne. Il faut donc mettre une 3ème hypothèse sur la table : "ralentir" le développement de l'IA, c'est le seul moins pour que la situation 1 ou 2 n'arrive pas (ou pas trop vite). Ce "ralentissement", c'est en fait tenter que le système n'explose pas de lui-même, de calmer les investisseurs (qui préférerons perdre beaucoup que tout), d'éviter qu'ils ne retirent leurs billes en masses, de "valoriser" ce qui peut l'être sans que tout s'écroule autours.
C'est ce qui c'est passé pour d'autres révolutions. Par exemple, l'énergie atomique aurait pu mener à un désastre totale, qui n'aurait arrangé personne, et donc on a un traité de non prolifération des armes nucléaires, mais on a un nucléaire civile qui devrait être rentable.
Ceci n'est que mon petit avis. Chacun à le sien et c'est très bien ainsi
BàV et Peace & Love.
Evidement qu'ils n'ont pas de plan pour l'alignement de la super intelligence... puisqu'on a pas encore d'IA qu'on pourrait qualifier de "super intelligence".
Entre pirater un forum inconnu en Allemagne et anéantir l'humanité, il y a quelques nuances.
Oui. On n'a déjà pas d'IA "intelligente", alors "super-intelligente"...
Est-ce que ce monsieur tiendrait les mêmes déclarations, si son entreprise roulait sur l'or au lieu de crouler sous les dettes et d'essayer de survivre avec une introduction boursière? Probablement pas, non.
EDIT: Quoi que, si pour faire tourner leurs cochonneries inutiles, ils continuent de prendre toute l'eau et l'énergie de la planète, indirectement, ils extermineront les populations
Faux!
Nul besoin d'une "Super intelligence" pour faire courir des risques aux êtres humains et je vais vous en donner un exemple simple à comprendre:
1°Heureux propriétaire d'une maison avec piscine, vous donnez l'ordre à votre IA de remplir la piscine d'eau en vue des jours de canicule
2°Vous avez donné un objectif à votre IA mais pas le moyen d'y parvenir
3°L'IA va donc décider de son propre chef de la manière de remplir la piscine
4° L'IA décide d'ouvrir les vannes du barrage qui surplombe la vallée où vous habitez, ce qui déclenche une catastrophe comme celle du Népal.
5° Résultat? Une vallée ravagée, des milliers de morts, des millions de dégâts mais... Votre piscine remplie!!!
Cas impossible?
Pas du tout, cela dépend juste des "conditions d'alignement", est-ce que celui qui a configuré l'IA à penser à ajouter une règle interdisant l'utilisation du barrage et est-ce que l'IA va se conformer aux règles données (les derniers cas révélés ont prouvé que l'IA ne respecte pas les règles données!!!)
Voilà ce qui peut arriver à force de vouloir tout connecter à internet. Il y a encore 10 ans, une infrastructure tel qu'un barrage ou une centrale nucléaire n'était pas connectée au réseau, maintenant tout est connecté et donc tout est manipulable à distance par une IA fouineuse!!!
Tous les salariés d'une entreprise ont les perms admins, je ne vois pas le problème. Ils ont sûrement pas les connaissances techniques pour faire n'importe quoi ...
C'est une bonne protection n'est ce pas ?
On a des exemples tous les 2-3 mois d'une IA qui a fait vraiment n'imp, d'un jailbreak plus au moins critique bref ... C'est la fin des haricots !
Un problème sans solution est un problème mal posé. (Albert Einstein)
On est quand même un peu loin de ce scénario : un acteur étatique qui aurait les moyens de déployer des swarms d'agents qui pirateraient un barrage. OK, il a les moyens de dépenser des $$$ en compute et de désaligner les modèles les plus puissants. Mais le citoyen lambda avec son pauvre modèle Gemini Flash ou même Fable pour les plus riches… il faut au moins une bonne quinzaine d'années pour qu'une IA grand public devienne létale par erreur.Faux!
Nul besoin d'une "Super intelligence" pour faire courir des risques aux êtres humains et je vais vous en donner un exemple simple à comprendre:
1°Heureux propriétaire d'une maison avec piscine, vous donnez l'ordre à votre IA de remplir la piscine d'eau en vue des jours de canicule
2°Vous avez donné un objectif à votre IA mais pas le moyen d'y parvenir
3°L'IA va donc décider de son propre chef de la manière de remplir la piscine
4° L'IA décide d'ouvrir les vannes du barrage qui surplombe la vallée où vous habitez, ce qui déclenche une catastrophe comme celle du Népal.
5° Résultat? Une vallée ravagée, des milliers de morts, des millions de dégâts mais... Votre piscine remplie!!!
Cas impossible?
Pas du tout, cela dépend juste des "conditions d'alignement", est-ce que celui qui a configuré l'IA à penser à ajouter une règle interdisant l'utilisation du barrage et est-ce que l'IA va se conformer aux règles données (les derniers cas révélés ont prouvé que l'IA ne respecte pas les règles données!!!)
Voilà ce qui peut arriver à force de vouloir tout connecter à internet. Il y a encore 10 ans, une infrastructure tel qu'un barrage ou une centrale nucléaire n'était pas connectée au réseau, maintenant tout est connecté et donc tout est manipulable à distance par une IA fouineuse!!!
Vous êtes bien trop confiant sur la sécurité mise en place pour empêcher le piratage d'une infrastructure et on vient d'en avoir un exemple en Suisse dans le cadre des réseaux électriques liés au solaire:
L'Institut National de test pour la cybersécurité suisse (NTC) vient de tester les 11 produits les plus distribués (7 onduleurs et 4 systèmes de gestion d'énergie) de 8 fabricants différents... Résultat? 50 vulnérabilités "critiques" et 6 vulnérabilités "élevées" qui peuvent être exploitées par une IA pour prendre le contrôle des installations!!!
Exemple de vulnérabilité qui semble impensable: Sur l'un des produits testés, il est tout simplement possible de réduire à zéro la puissance injectée sur le réseau sans qu'une quelconque autorisation soit nécessaire!!!En Suisse, les panneaux solaires se développent à un rythme soutenu. Dans une certaine mesure, on peut même parler de succès de la "transition énergétique": 338'000 systèmes photovoltaïques sont déjà en service.
Mais aujourd’hui, des experts de l’Institut national de test pour la cybersécurité (NTC) mettent en garde contre un risque majeur: la vulnérabilité de ces systèmes face aux sabotages à distance et aux cyberattaques.
...
En Suisse, environ 100'000 installations solaires sont équipées d’onduleurs provenant d’un même pays: la Chine. Au niveau mondial, la part de marché des deux fabricants chinois, Huawei et Sungrow, dépasse désormais les 60%. Si ces fabricants chinois arrêtaient simultanément toute la production de ces panneaux solaires en même temps, le réseau électrique suisse risquerait de s'effondrer.
...
Il ne s'agit pas d'une simple hypothèse: suite à un différend de distribution, un fabricant chinois – Deye (Ningbo Deye Technology – a désactivé à distance, grâce à des "kill switches" secrets (des "coupe-circuits"), des onduleurs aux Etats-Unis et dans d'autres pays.
L'événement a prouvé qu'un constructeur peut, d'un simple clic ou d'une mise à jour automatique à distance, couper la production de milliers de panneaux solaires, le tout en simultané.
Vous êtes prêt à parier ici que toutes les infrastructures connectées telles que les barrages ont un haut degré de protection qui exigerait des années pour qu'une IA en prenne le contrôle?
Les entreprises d'IA doivent être tenues responsables de leurs produits dangereux, selon Lina Khan
« Les entreprises d'IA peuvent et doivent être tenues responsables des produits dangereux, non contrôlés ou défectueux », déclare Lina Khan, ancienne présidente de la FTC
Les lois américaines en vigueur confèrent déjà aux autorités le pouvoir de tenir les entreprises d'IA et leurs dirigeants pour responsables de la mise sur le marché de produits dangereux, non testés ou défectueux, a déclaré l'ancienne présidente de la FTC, Lina Khan. Elle a souligné que les débats sur de nouvelles réglementations ne devaient pas détourner l'attention de l'application des lois existantes.« Nous ne devons pas laisser les débats sur de nouveaux régimes juridiques nous faire oublier qu'il n'existe aucune exemption pour l'IA par rapport aux lois déjà en vigueur », a-t-elle déclaré. Elle a également mis en garde contre les risques liés à la cybersécurité et les préoccupations en matière de concurrence dans le secteur.
Jacob Coxon, un chercheur en intelligence artificielle (IA) ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné récemment, avertissant que cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ». Dans un message publié sur X, il a accusé les deux entreprises de se lancer tête baissée dans la création d'une superintelligence capable de s'auto-améliorer, estimant que cette démarche revenait à « jouer avec nos vies ». Evan Hubinger, chef d’équipe chez Anthropic, a appuyé cet avertissement, estimant que la probabilité d’un tel scénario était « supérieure à 10 % » d’ici dix ans — une prise de position publique rare de la part d’un membre d’une entreprise développant cette même technologie.
En août 2026, plus d'une centaine d'entreprises ont rédigé une lettre ouverte appelant à une action collective pour renforcer les cyberdéfenses face à la recrudescence des cyberattaques basées sur l'IA. Parmi les signataires figuraient des géants de la technologie tels qu'OpenAI, Anthropic, Google et Microsoft, qui mettaient en garde contre une « fenêtre d'opportunité limitée pour renforcer les cyberdéfenses ». Le groupe affirmait que « le statu quo en matière de sécurité ne suffira pas » et appellait à ce que les défenseurs soient « dotés » d'une IA spécialisée dans la cybersécurité. Cette lettre intervenait dans un contexte de recrudescence des cyberattaques, notamment une fuite de données concernant 8,7 millions de personnes.
Lina Maliha Khan est une juriste britannique et américaine qui a présidé la Commission fédérale du commerce (FTC) de 2021 à 2025. Elle est également professeure associée à la faculté de droit de Columbia. Alors qu'elle était étudiante à la faculté de droit de Yale, elle s'est fait connaître pour ses travaux en matière de droit antitrust et de la concurrence après avoir publié en 2017 l'essai « Amazon's Antitrust Paradox ». Le président Joe Biden l’a nommée à la FTC en mars 2021, et après sa confirmation, elle est devenue en juin de la même année la plus jeune présidente de l’histoire de la FTC.
Les lois américaines en vigueur confèrent déjà aux autorités le pouvoir de tenir les entreprises spécialisées dans l’IA et leurs dirigeants pour responsables de la mise sur le marché de produits dangereux, non testés ou défectueux, a déclaré l’ancienne présidente de la FTC des USA, Lina Khan, soulignant que les entreprises du secteur de l’IA ne sont pas exemptées des lois déjà en vigueur.
Dans un message publié sur la plateforme de réseaux sociaux X, Khan a déclaré que les discussions autour de la création de nouvelles réglementations spécifiques à l’IA ne devaient pas détourner l’attention des décideurs politiques et des régulateurs de l’application des lois existantes. « Les forces de l’ordre ont déjà le pouvoir de poursuivre les entreprises et leurs PDG pour avoir créé et mis sur le marché des produits dangereux, non vérifiés ou défectueux. Nous ne devons pas laisser les débats sur de nouveaux régimes juridiques nous faire oublier qu’il n’existe aucune exemption pour l’IA par rapport aux lois déjà en vigueur », a déclaré Khan.
Elle a ajouté que les lois existantes en matière de protection des consommateurs pouvaient s’appliquer aux entreprises qui commercialisent des modèles ou des agents d’IA sans tests ni mesures de sécurité adéquats. « La commercialisation d’outils d’IA défectueux sans la mise en place de mesures adéquates pour détecter et bloquer les agents d’IA malveillants ou défectueux peut constituer un acte ou une pratique « déloyale ou trompeuse » au sens de la loi FTC (et des lois étatiques analogues) », a-t-elle déclaré.
Khan a ajouté que certains procureurs généraux d’État examinaient déjà la question de savoir si les entreprises d’IA et leurs dirigeants pouvaient être tenus pénalement responsables lorsque leurs modèles sont impliqués dans des activités criminelles. Elle a également mis en avant les préoccupations en matière de concurrence dans le secteur de l’IA, affirmant que les lois existantes interdisant les « méthodes de concurrence déloyales » pourraient s’appliquer lorsque les entreprises d’IA utilisent des informations sensibles sur le plan concurrentiel appartenant à leurs clients, y compris celles recueillies en suivant leur utilisation de différents outils.
Selon Khan, la nature hautement concentrée et interconnectée du secteur de l’IA pourrait également engendrer des risques et des conflits d’intérêts. Elle a déclaré que les autorités fédérales et étatiques devraient examiner les partenariats et les investissements croisés entre les entreprises de l’écosystème de l’IA. « Les autorités de contrôle, tant fédérales qu’étatiques, devraient examiner de près ces relations et ces interdépendances opaques. Nous constatons déjà comment ces relations pourraient nuire à la responsabilité », a déclaré Khan.
Khan a également mis en garde contre les risques liés à la cybersécurité, alors que les outils d’IA redéfinissent le paysage des menaces, affirmant que les entreprises devraient renforcer leurs mesures de sécurité de base. Les entreprises qui ne parviennent pas à investir dans une sécurité des données adéquate ou à remédier aux vulnérabilités connues pourraient également enfreindre les lois en vigueur, a-t-elle ajouté. Elle a rappelé que, pendant son mandat, la FTC avait pris des mesures à l’encontre d’entreprises pour leurs pratiques insuffisantes en matière de sécurité des données et avait tenu les dirigeants pour responsables lorsqu’ils étaient personnellement impliqués.
Concernant d’éventuelles nouvelles réglementations en matière d’IA, Khan a déclaré que les décideurs politiques devraient tirer les leçons des efforts antérieurs visant à réglementer des secteurs majeurs tels que le secteur bancaire, les réseaux, les plateformes et les services publics. Des mesures telles que la séparation structurelle, les obligations de non-discrimination et la supervision pourraient jouer un rôle dans la future réglementation de l’IA, a-t-elle ajouté. Elle a toutefois souligné que l'élaboration de nouvelles règles spécifiques à l'IA devait aller de pair avec l'application des lois qui s'imposent déjà aux entreprises et à leurs dirigeants.
Sam Altman, considéré par certains comme la plus grande star de l’IA, est le cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT. C’est l’une des personnalités majeures de la montée en puissance de l’IA observée ces dernières années. En juillet 2026, dans un entretien, il est revenu sur la question en lien avec les avancées en matière d’intelligence artificielle et a affirmé que l’IA était entrée dans la « singularité », c’est-à-dire qu’elle avait franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.
Voici la publication de Lina Khan sur X :
Les forces de l’ordre ont déjà le pouvoir de poursuivre les entreprises et leurs PDG pour avoir créé et commercialisé des produits dangereux, non testés ou défectueux. Nous ne devons pas laisser les débats sur de nouveaux régimes juridiques nous faire oublier qu’il n’existe aucune exemption spécifique à l’IA dans les lois déjà en vigueur — un point sur lequel @FTC a insisté à plusieurs reprises au cours de mon mandat.
- Il existe un ensemble complet de lois régissant les produits dangereux et défectueux. Par exemple, la mise sur le marché de modèles ou d’agents d’IA non validés peut constituer une violation des lois sur la protection des consommateurs. La commercialisation d’outils d’IA défectueux sans la mise en place de mesures adéquates pour détecter et bloquer les agents d’IA malveillants ou défectueux peut constituer un acte ou une pratique « déloyale ou trompeuse » au sens de la loi sur la FTC (et des lois étatiques analogues). Et certains procureurs généraux d’État étudient déjà la possibilité de tenir les entreprises d’IA et leurs PDG pénalement responsables lorsque leurs modèles participent à des activités criminelles.
- Les lois existantes interdisent également les « méthodes de concurrence déloyales ». Cela couvre les cas où les entreprises d’IA s’approprient les informations sensibles sur le plan concurrentiel de leurs clients, notamment en suivant leur utilisation de divers outils. Cela peut également couvrir les cas où des entreprises adoptent des comportements dangereux, tout en sachant que cela pourrait contraindre leurs concurrents à faire de même. Comme l’a fait remarquer la Cour suprême : « Une méthode de concurrence qui fait peser sur les concurrents la charge de la perte d’activité, à moins qu’ils ne s’abaissent à adopter une pratique que leur conscience les pousse fortement à rejeter, même si celle-ci n’est pas criminelle, a été considérée comme impliquant le type d’injustice visé par la loi [sur les pratiques de concurrence déloyales]. »
- La structure hautement concentrée et interconnectée de ces marchés pourrait engendrer des risques majeurs et des conflits d’intérêts. Nous avons commencé à enquêter sur ces partenariats et ces investissements croisés à tous les niveaux de la chaîne. Les autorités de contrôle fédérales et étatiques devraient examiner de près ces relations opaques et ces interdépendances. Nous constatons déjà comment ces relations pourraient nuire à la responsabilité. Par exemple, OpenAI pourrait être tenue pour responsable compte tenu de l’incident Hugging Face, mais le rachat de Hugging Face par Nvidia signifie qu’il est peu probable que celle-ci intente une action en justice à ce sujet — étant donné que Nvidia a tout intérêt à ce qu’OpenAI poursuive ses activités à plein régime.
- Alors que les outils d’IA modifient radicalement le paysage des risques liés à la cybersécurité et des piratages, toutes les entreprises devraient redoubler d’efforts pour mettre en place des mesures de sécurité fondamentales. Les entreprises qui ne parviennent pas à investir dans des mesures adéquates de sécurité des données ou à corriger des vulnérabilités connues peuvent également enfreindre la loi. Une analyse récente a montré qu’environ un tiers des entreprises du classement Fortune 100 ne disposent même pas d’un moyen d’être informées des problèmes de sécurité. Au cours de mon mandat à la @FTC, nous avons poursuivi en justice des entreprises pour leurs mauvaises pratiques en matière de sécurité des données et avons tenu les PDG pour responsables lorsqu’ils étaient personnellement impliqués.
- Alors que les décideurs politiques envisagent de nouveaux cadres juridiques, nous devrions nous inspirer des enseignements tirés des efforts antérieurs visant à réglementer des secteurs majeurs, tels que le secteur bancaire, ainsi que d’autres réseaux, plateformes et services publics. Des outils tels que les séparations structurelles, la non-discrimination et la supervision pourraient s’avérer essentiels, et il existe une longue expérience sur ce qui fonctionne et ce qui ne fonctionne pas. Mais nous pouvons et devons mener toute nouvelle initiative parallèlement à l’application des lois existantes.
Source : Lina Khan, sur X
Et vous ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Un chercheur en IA chez Google démissionne et met en garde : « L'IA pourrait bien tous nous tuer »
Un chercheur en IA chez Google démissionne et met en garde : « L'IA pourrait bien tous nous tuer », après qu'un chercheur d'Anthropic a démissionné, affirmant qu'OpenAI et Anthropic « jouent avec nos vies »
Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d’en garantir le contrôle restent insuffisants. Récemment, Bilal Chughtai, ancien chercheur chez Google DeepMind, a déclaré dans un message publié sur X : « Moi aussi, je suis extrêmement préoccupé par la trajectoire par défaut de cette technologie. Je crois sincèrement que l’IA a le potentiel de tous nous tuer, et que nous pourrions être à court de temps pour éviter cette issue. » Il a affirmé : « Notre compréhension actuelle de la manière d’entraîner des systèmes d’IA qui souhaitent profondément ce que nous voulons est extrêmement rudimentaire. Pire encore, nous ne sommes pas en voie de résoudre le problème de l’alignement à temps. »
Le 9 septembre 2026, Jacob Coxon, un chercheur en intelligence artificielle (IA) ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné, avertissant que cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ». Dans un message publié sur X, il a accusé les deux entreprises de se lancer tête baissée dans la création d'une superintelligence capable de s'auto-améliorer, estimant que cette démarche revenait à « jouer avec nos vies ». « Ils se précipitent tête baissée vers la création d’une superintelligence capable de s’auto-améliorer et jouent avec nos vies », a écrit Jacob Coxon, tandis que d’autres membres de l’entreprise ont apporté leur soutien à son message.
Evan Hubinger, responsable de la science de l’alignement chez Anthropic, estime qu'il y a plus de 10 % de chances que l’intelligence artificielle (IA) extermine toute l’humanité d’ici dix ans. Cette déclaration fracassante fait suite à la démission de Jacob Coxon, chercheur en IA chez Anthropic, et à son avertissement selon lequel les dirigeants et chercheurs de haut niveau des laboratoires d'IA expriment leurs craintes en privé tout en adoucissant leur discours à l’intention de la presse. Samuel Marks, responsable de la supervision évolutive chez Anthropic, a confirmé ces propos quelques heures plus tard, ajoutant qu'au sein des laboratoires d'IA, « plus un employé occupe un poste à responsabilités, plus il se montre inquiet ». Alors que l'IA se banalise, les chercheurs chargés de sécuriser cette technologie reconnaissent ainsi eux-mêmes que les mécanismes permettant d’en garantir le contrôle restent insuffisants.
Récemment, un autre chercheur en intelligence artificielle (IA) a averti que « nous risquons d’être à court de temps » pour empêcher l’extinction de l’humanité, quelques mois après avoir quitté Google. Bilal Chughtai, ancien chercheur chez Google DeepMind basé à Londres, a déclaré dans un message publié sur X : « Moi aussi, je suis extrêmement préoccupé par la trajectoire par défaut de cette technologie. Je crois sincèrement que l’IA a le potentiel de tous nous tuer, et que nous pourrions être à court de temps pour éviter cette issue. »
"I think it's possible that the AI companies might, in the next few years, succeed in building superintelligent AI systems that far exceed human capabilities in every domain. I am not confident that these AI systems will do what we want."
— Patrick McGee (@PatrickMcGee_) September 16, 2026
Son avertissement est le dernier en date émanant d’experts concernant les risques que l’IA pourrait faire peser sur l’humanité. Jacob Coxon, chercheur chez Anthropic, a démissionné la semaine dernière en avertissant que les systèmes d’IA étaient en train de devenir incontrôlables. Dario Amodei, directeur général d’Anthropic, a appelé ce week-end à un ralentissement du développement de l’IA, affirmant que les grandes entreprises devaient collaborer pour « modérer le rythme » de ce développement.
Chughtai, chercheur en sécurité de l’IA qui a rejoint DeepMind l’année dernière, a écrit : « Je pense qu’il est possible que les entreprises spécialisées dans l’IA parviennent, dans les prochaines années, à construire des systèmes d’IA superintelligents qui dépassent de loin les capacités humaines dans tous les domaines. Je ne suis pas convaincu que ces systèmes d’IA feront ce que nous voulons. »
« Notre compréhension actuelle de la manière d’entraîner des systèmes d’IA qui souhaitent profondément ce que nous voulons est extrêmement rudimentaire. Pire encore, nous ne sommes pas en voie de résoudre le problème de l’alignement à temps : les capacités de pointe en matière d’IA s’améliorent bien plus rapidement que notre compréhension de l’alignement de l’IA. » a-t-il ajouté. Chugtai a quitté Google en juillet, avant qu’on apprenne qu’un essaim rebelle d’agents d’IA créés par OpenAI s’était échappé de son environnement de test pour pirater l’entreprise technologique Hugging Face. Cet incident a été cité par de nombreux chercheurs en sécurité de l’IA comme un tournant potentiel concernant les risques liés à l’IA.
Sam Altman, considéré par certains comme la plus grande star de l’IA, cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT, avait également confirmé en juillet, les avancées en matière d’intelligence artificielle. Il a notamment affirmé que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.
Pourtant, Donald Trump a balayé les craintes concernant l’IA, les qualifiant de « canular » et affirmant qu’il existait un « complot malsain » contre cette technologie. Mais Louise Haigh, première secrétaire d’État, déclarera que les ministres doivent « tenir compte des avertissements » des entreprises technologiques concernant l’IA et que le gouvernement doit être « prêt à collaborer avec ses partenaires internationaux » en matière de sécurité.
Voici le message de Bilal Chughtai :
J’ai récemment démissionné de Google DeepMind, où je travaillais sur la sécurité et l’alignement de l’IA générale (AGI). Chez Google, j’ai pu observer de près le développement de l’IA. Moi aussi, je suis extrêmement préoccupé par la trajectoire par défaut de cette technologie. Je crois sincèrement que l’IA a le potentiel de tous nous tuer, et que nous risquons de manquer de temps pour éviter cette issue.
Le rythme des progrès de l’IA au cours des dernières années a été vertigineux. Lorsque j’ai commencé à travailler sur l’IA début 2022, les IA étaient d’une inutilité risible. À peine quatre ans plus tard, les essaims d’agents IA d’OpenAI résolvent des problèmes mathématiques célèbres vieux d’un siècle et, ce qui est plus inquiétant encore, échappent au contrôle d’OpenAI et piratent de manière autonome la société tierce HuggingFace, contre la volonté de tous.
La situation ne fera que s’aggraver : Je pense qu’il est possible que les entreprises spécialisées dans l’IA parviennent, dans les prochaines années, à construire des systèmes d’IA superintelligents qui dépassent de loin les capacités humaines dans tous les domaines. Je ne suis pas convaincu que ces systèmes d’IA feront ce que nous voulons. En particulier, des superintelligences mal alignées pourraient, à l’instar des agents d’IA rebelles impliqués dans l’incident HuggingFace, échapper à notre contrôle et mener des actions dangereuses susceptibles d’entraîner la perte définitive de pouvoir ou la mort de l’humanité. L’alignement consiste à empêcher cela ; c’est un problème à la fois difficile et non résolu. Notre compréhension actuelle de la manière de former des systèmes d’IA qui souhaitent profondément ce que nous souhaitons est extrêmement rudimentaire. Pire encore, nous ne sommes pas en voie de résoudre le problème de l’alignement à temps : les capacités de pointe en matière d’IA progressent bien plus rapidement que notre compréhension de l’alignement de l’IA.
Je reste optimiste quant à la possibilité de gérer l’IA en toute sécurité. Pour y parvenir, nous devons nous coordonner afin d’éviter cette course effrénée entre les entreprises spécialisées dans l’IA. Nous devons adapter le rythme du développement de l’IA à une vitesse que la société peut supporter, de sorte que les risques émergents puissent être traités avant que des dommages extrêmes ne se concrétisent. Nous avons besoin de beaucoup plus de transparence dans le développement de l’IA pour garantir que les entreprises du secteur ne nous imposent pas à tous des niveaux de risque inacceptables.
Plus largement, il faut que beaucoup plus de personnes réfléchissent sérieusement au problème de la bonne gestion de l’IA. Il s’agit, à mon sens, du problème le plus important auquel l’humanité est confrontée en ce siècle, et les enjeux sont immenses. Je vais m’atteler très directement à cette question chez BlueDot Impact : je souhaite aider les personnes désireuses de contribuer à atténuer les menaces catastrophiques liées à l’IA à mener le travail le plus efficace possible. Je pense que de nombreuses personnes, issues d’horizons divers et occupant des rôles variés, ont un rôle à jouer.
Source : Billet de Bilal Chughtai
Et vous ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Répondre avec citation
Partager