Discussion :

[Skillselion]

Le point le plus délicat avec ce genre de garde-fous, c'est le côté double usage. En cybersécurité comme ailleurs, la même connaissance qui sert à un attaquant sert à un défenseur : un pentester, une équipe blue team ou un chercheur en sécu ont besoin de comprendre exactement les mêmes techniques. Un modèle qui "bloque les réponses dans les domaines dangereux" finit souvent par gêner surtout les usages légitimes, pendant qu'un acteur motivé contourne le filtre ou passe sur un autre modèle.

Sur la partie export, il y a une nuance importante : restreindre un modèle accessible uniquement par API, ce n'est pas la même chose que restreindre des poids ouverts. Une API peut être géo-restreinte, journalisée et coupée à tout moment ; des poids une fois diffusés ne se rappellent pas. Lever des restrictions sur un modèle API-only engage donc beaucoup moins que sur de l'open-weight, où la décision est irréversible.

Au fond, la vraie question n'est pas tant "capable ou pas" que "traçable ou pas" : qui a accès, avec quel niveau de journalisation, et avec quelle capacité à révoquer en cas d'abus avéré.

[Anthony]

Le directeur de la CIA place l'IA avancée au même rang que les armes nucléaires, afin de défendre la décision de l'administration Trump de contrôler la diffusion des technologies d'IA les plus puissantes

John Ratcliffe, le directeur de la CIA, a comparé les modèles d’intelligence artificielle (IA) les plus avancés à des armes nucléaires, justifiant ainsi le renforcement des contrôles mis en place par l’administration Trump sur les technologies d’IA de pointe. Ces déclarations font suite à des restrictions à l'exportation sans précédent visant les principaux modèles d’Anthropic et à de nouvelles limitations d’accès pour GPT-5.6 d’OpenAI, alors que Washington renforce la surveillance des technologies d’IA avancées, dans un contexte de préoccupations croissantes en matière de sécurité nationale et de concurrence stratégique avec la Chine.

Les déclarations du directeur de la CIA s'inscrivent dans un débat de longue date sur les risques potentiels de l'IA. Dès 2019, Elon Musk affirmait que l'IA était bien plus dangereuse que l'arme nucléaire et plaidait en faveur de la création d'un organisme chargé d'encadrer son développement. Lors d'une intervention à la conférence SXSW d'Austin, le dirigeant de Tesla et de SpaceX estimait qu'une réglementation était indispensable pour faire face aux risques que cette technologie pourrait faire peser sur le public.

Ces préoccupations se sont depuis traduites par des mesures de contrôle concrètes. Mi-juin 2026, Anthropic a annoncé avoir reçu une directive du gouvernement américain l'ordonnant de désactiver l'accès à ses modèles d'IA les plus avancés, Fable 5 et Mythos 5, pour tous les utilisateurs. La société a indiqué que cette décision était motivée par des impératifs de sécurité nationale et relevait des contrôles à l'exportation, sans que les autorités n'aient précisé les raisons de cette décision.

John Lee Ratcliffe est un homme politique et avocat américain qui occupe le poste de directeur de la CIA depuis 2025, après avoir été directeur du renseignement national de 2020 à 2021. Membre du Parti républicain, il a été représentant des États-Unis pour la quatrième circonscription du Texas de 2015 à 2020, maire de Heath (Texas) de 2004 à 2012 et procureur fédéral pour le district Est du Texas de 2007 à 2008.

Le mardi 30 juin 2026, John Ratcliffe a comparé les capacités des modèles d'IA les plus avancés à celles des armes nucléaires, dans une défense tacite de la ligne dure récemment adoptée par Washington concernant le contrôle de la diffusion des technologies d'IA les plus puissantes.

« Lors de nos échanges avec bon nombre des autres conseillers du président en matière de sécurité nationale et de sécurité économique, nous abordons l’impact de ces modèles d’IA de pointe », a déclaré le directeur de la CIA lors d’un discours prononcé au sommet AWS à Washington. « Il ne serait pas… déplacé de comparer leurs capacités à celles d’armes nucléaires numériques. »

Le 12 juin, l’administration du président américain Donald Trump a contraint Anthropic, une entreprise américaine de premier plan spécialisée dans l’IA et basée à San Francisco, à bloquer l’accès à ses deux modèles les plus puissants, Mythos 5 et Fable 5, en leur imposant un contrôle à l’exportation.

Ce retrait forcé d’un modèle de pointe par un gouvernement, une première, n’a été que partiellement levé le vendredi 26 juin pour Mythos, désormais accessible à un cercle restreint de partenaires américains, tandis que Fable 5, sa version grand public soumise à des restrictions, reste hors ligne.

OpenAI, le concurrent américain d’Anthropic, a lancé le même jour son modèle GPT-5.6, avec un accès très restreint, acceptant pour la première fois de laisser le gouvernement américain sélectionner les partenaires autorisés au cas par cas.

Les détracteurs ont qualifié ces directives gouvernementales, qui n’ont été accompagnées que de très peu d’explications, de système d’octroi de licences de facto.

S'alignant sur la ligne du gouvernement, John Ratcliffe a réaffirmé que le suivi des technologies émergentes constituait sa priorité absolue, « au même titre que la Chine », depuis son entrée en fonction il y a 18 mois.

L'analogie entre l'IA de pointe et les armes nucléaires est devenue de plus en plus courante ces derniers mois dans les cercles de la sécurité nationale américaine, où plusieurs groupes de réflexion décrivent une véritable « course aux armements » technologique opposant les États-Unis à la Chine et à la Russie.

Le directeur de la CIA a accusé les adversaires des États-Unis de chercher à « voler et à manipuler les avancées américaines à leurs propres fins et pour leur propre profit », tout en vantant l’adoption par l’agence des technologies américaines.

John Ratcliffe, directeur de la CIA

John Ratcliffe a présenté en détail une réorganisation de la CIA axée sur la cybersécurité, décrivant « une épée » et « un bouclier » pour défendre les infrastructures critiques, et a indiqué avoir rencontré Elon Musk, le dirigeant de SpaceX, ainsi que des dirigeants d’Amazon, de Google et de Dell.

Lors de cette conférence, AWS, le plus grand fournisseur mondial de services de cloud computing, a annoncé un programme de crédit d'un milliard de dollars destiné aux agences de renseignement américaines, ainsi qu'un service cloud classifié destiné aux sous-traitants du secteur de la défense américain.

Alors que Washington durcit son contrôle sur les technologies d'intelligence artificielle les plus avancées, l'administration Trump a déjà ajusté sa position à l'égard d'Anthropic. Trois semaines après avoir qualifié les modèles Fable 5 et Mythos 5 de risques pour la sécurité nationale, Washington a levé les restrictions à l'exportation de ces modèles à l'issue d'une série de tests de sécurité. Ce revirement fait suite à une collaboration entre Anthropic et les autorités américaines visant à corriger des vulnérabilités qui auraient pu être exploitées dans le cadre de cyberattaques.

La décision de suspendre Fable 5 et Mythos 5 avait toutefois alimenté un débat sur la stratégie américaine en matière d'IA. Plusieurs experts ont en effet dénoncé les motivations obscures de cette suspension et plaidé en faveur d'une infrastructure d'IA reposant sur des modèles open source et autohébergés, avec plusieurs fournisseurs. Ce blocage rappelle aux gouvernements étrangers que la dépendance aux technologies américaines peut coûter très cher.

Source : John Ratcliffe, directeur de la CIA, lors de la conférence AWS

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous la position de la CIA à l'égard de l'IA avancée crédible ou pertinente ?

Voir aussi :

Le président Donald Trump signe un décret demandant aux principales entreprises d'IA de fournir au gouvernement leurs plus puissants modèles d'IA pour des tests de cybersécurité avant leur mise sur le marché

L'administration Trump demande à OpenAI de retarder la sortie de son nouveau modèle GPT-5.6 en raison des inquiétudes concernant l'IA avancée, après qu'Anthropic a suspendu l'accès mondial à Mythos 5 et Fable 5

La Chine est soupçonnée d'avoir eu accès à Claude Mythos, selon des rapports indiquant que c'est la raison de la désactivation du puissant modèle d'IA d'Anthropic sur ordre du gouvernement américain

[Eliora]

Jamie Dimon lance un avertissement concernant la mise à disposition générale du modèle IA le plus puissant d'Anthropic : « C'est comme si vous donniez des missiles balistiques à des individus avec Mythos »

En juin 2026, un responsable américain a confirmé que l'IA Mythos d'Anthropic avait découvert des failles dans des systèmes sensibles du gouvernement. Quelques mois plus tôt, le même outil avait déjà identifié 271 vulnérabilités dans Firefox. Jamie Dimon, PDG de JPMorgan, met en garde contre les risques liés à un large accès public à ce modèle, qu'il compare à des missiles balistiques entre les mains de particuliers. Google a récemment confirmé les craintes en bloquant une cyberattaque où des criminels utilisaient l'IA pour exploiter une faille inconnue. Une chose est sûre : l'ère des hackers alimentés par l'IA est bel et bien arrivée. Dimon a ajouté que le gouvernement américain maîtrisait désormais la situation.

Un responsable américain a confirmé en juin 2026 que le modèle d’IA Mythos d’Anthropic avait découvert des vulnérabilités dans certains des systèmes informatiques les plus sensibles du gouvernement lors d’un exercice de test. Le responsable a déclaré que les tests avaient été menés dans le cadre du projet Glasswing. En quelques heures, le modèle Mythos a identifié des failles dans des systèmes classifiés, bien que le responsable ait souligné que cela ne signifiait pas que l’IA les avait exploitées. Malgré cette coopération dans le cadre des tests, les relations entre le géant de l’IA Anthropic et l’administration Trump restent tendues.

Quelques mois plus tôt, en mai 2026, l'outil d'analyse de vulnérabilités Claude Mythos Preview d'Anthropic avait identifié, en deux mois, 271 failles inconnues dans le code source de Firefox, dont certaines dormaient depuis vingt ans. Mozilla crie au miracle, les ingénieurs de sécurité indépendants crient au bluff. Entre percée technologique réelle et narratif commercial soigneusement orchestré, le dossier mérite une lecture attentive.

Récemment, Jamie Dimon, PDG de JPMorgan Chase, a qualifié les risques liés à un large accès public au modèle d'IA avancé « Mythos » d'Anthropic de « véritable problème », comparant cette situation à celle où l'on remettrait des missiles balistiques entre les mains de particuliers. James Dimon est un homme d'affaires américain qui occupe depuis 2006 les fonctions de président-directeur général (PDG) de JPMorgan Chase. Dimon a débuté sa carrière en tant que consultant en gestion au sein d'un cabinet de conseil à Boston. Il a siégé au conseil d'administration de la Banque fédérale de réserve de New York à la fin des années 2010. Dimon a figuré dans la liste des 100 personnalités les plus influentes au monde établie par le magazine Time en 2006, 2008, 2009 et 2011.

« En gros, c'est comme si on donnait des missiles balistiques en dotant les personnes de Mythos », a déclaré Dimon. S'exprimant lors du Sommet sur la défense et l'innovation de Pennsylvanie organisé par le sénateur républicain Dave McCormick, Dimon a ajouté que le gouvernement américain maîtrisait désormais la situation. Ces dernières années, Dimon s'est montré de plus en plus virulent sur les questions de sécurité nationale. Dans sa lettre aux actionnaires publiée en avril, il a affirmé que les États-Unis devaient « se renforcer » s'ils voulaient conserver leur statut de puissance militaire et économique.

L'avertissement porte sur la capacité de Mythos à identifier les failles logicielles à un niveau que la société Anthropic juge trop dangereux pour une mise à disposition générale. JPMorgan fait partie d'un groupe restreint d'entreprises ayant obtenu l'accès à ce modèle en avril et l'utilise depuis pour soumettre ses systèmes internes à des tests de résistance et coordonner les résultats avec ses fournisseurs et ses pairs. Le mois suivant l'obtention de cet accès, Jamie Dimon a déclaré que la banque comptait des centaines d'employés travaillant à plein temps au renforcement de ses systèmes.

L'engagement de JPMorgan auprès de Mythos s'inscrit dans le cadre de sa stratégie plus large en faveur de la sécurité nationale et de la résilience économique. La banque a annoncé l'année dernière une « Initiative pour la sécurité et la résilience » grâce à laquelle elle consacrerait 1 500 milliards de dollars sur dix ans à des secteurs qui renforcent l'économie américaine — un montant supérieur de 50 % à ce qu'elle aurait investi autrement. JPMorgan a également associé cet engagement à son « Initiative American Dream », distincte de la précédente, en s'engageant à consacrer 24 millions de dollars sous forme de prêts, d'investissements et de subventions philanthropiques destinés au secteur de la construction navale de Philadelphie. Dimon s'est rendu au chantier naval de Philadelphie (Philadelphia Navy Yard) alors que la banque annonçait cet engagement.

Le modèle Mythos s’est retrouvé au cœur d’un débat plus large, menant à une remise en question de la sécurité de l’IA tant au sein du gouvernement que dans le secteur privé. Le gouvernement américain a levé ce mois-ci les contrôles à l’exportation sur les modèles Claude Fable 5 et Mythos 5 d’Anthropic, après une suspension de 18 jours déclenchée par des chercheurs d’Amazon qui avaient mis au point une technique permettant d’obtenir de Fable 5 des résultats dangereux liés à la découverte de vulnérabilités logicielles. Un groupe restreint d’organisations américaines a retrouvé l’accès à Mythos 5 après que le gouvernement a donné son accord le 26 juin ; l’extension de cet accès à d’autres partenaires nationaux et internationaux via le programme Glasswing d’Anthropic fait toujours l’objet de discussions avec les autorités fédérales, a indiqué Anthropic.

Google abonde dans le même sens: l'entreprise a révélé avoir réussi à bloquer une cyberattaque massive au cours de laquelle des criminels ont utilisé l'intelligence artificielle (IA) pour découvrir et exploiter une faille logicielle jusque-là inconnue. Le message de Google est clair : l'ère des « hackers alimentés par l'IA » est officiellement arrivée. Google a déclaré être « hautement convaincu » qu'un groupe criminel avait utilisé un grand modèle de langage (LLM) pour identifier une vulnérabilité « zero-day », un bug logiciel inconnu des développeurs eux-mêmes. « C'est arrivé. L’ère des vulnérabilités et de l’exploitation pilotées par l’IA est déjà là », a déclaré un analyste de Google.

Et vous ?

Est-ce que ces déclarations sont crédibles ou pertinentes ?
Selon vous, ce genre d'IA devrait-il être accessible à tout le monde ou réservé à une poignée d'experts ?
Quel est votre avis sur le sujet ?

Voir aussi :

Gartner appelle les entreprises à bloquer tous les navigateurs IA : le cabinet alerte sur les risques de fuite de données et les actions malveillantes induites par l'injection indirecte de commandes

Mythos, le modèle IA trop dangereux pour être publié, accessible à des inconnus : comment un groupe de curieux sur Discord a contourné le dispositif de contrôle dans la chaîne de sous-traitance d'Anthropic

Les modèles d'IA « dangereux » dotés de capacités de piratage avancées sont inéluctables et deviendront bientôt la norme