Les législateurs réclament un kill switch pour l'IA après que des modèles d'OpenAI sont devenus incontrôlables
Le projet de loi « AI Kill Switch Act » permettra à l'administration Trump d'ordonner la mise hors service de systèmes d'IA devenus incontrôlables, notamment de décider quand une IA doit être mise hors service
Des législateurs américains souhaitent donner au gouvernement la possibilité d'ordonner rapidement la mise hors service d'outils d'intelligence artificielle (IA) susceptibles de menacer la population. Le député démocrate Ted Lieu et le député républicain Nathaniel Moran ont récemment présenté un projet de loi intitulé « AI Kill Switch Act ». Moran a déclaré : « Assurer la bonne gestion de cette technologie, c’est veiller à ce que les humains conservent la capacité de contrôler la technologie que nous créons. » Lieu a affirmé : « Malheureusement, les systèmes d’IA puissants peuvent devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à toute intervention humaine. » La loi « Kill Switch Act », a-t-il ajouté, garantira au gouvernement de disposer d’un moyen d’intervenir rapidement dans une telle situation.
Le 21 juillet 2026, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.
À la suite de ce rapport, des législateurs américains souhaitent donner au gouvernement la possibilité d'ordonner rapidement la mise hors service d'outils d'intelligence artificielle (IA) susceptibles de menacer la population. Le député démocrate Ted Lieu et le député républicain Nathaniel Moran ont récemment présenté un projet de loi intitulé « AI Kill Switch Act ». Ils ont pris cette initiative à la suite de la récente admission par OpenAI que ses modèles d’IA étaient devenus incontrôlables d’une manière « sans précédent » et avaient piraté un important référentiel d’informations sur le codage informatique.
Lieu a déclaré qu’« il est impératif » que les systèmes d’IA soient équipés d’un « kill switch » et que « le gouvernement fédéral dispose d’une autorité et d’une procédure claires pour mettre hors service les modèles d’IA incontrôlables ». « L’IA va continuer à progresser, et c’est une bonne chose », a ajouté Moran. « Assurer la bonne gestion de cette technologie, c’est veiller à ce que les humains conservent la capacité de contrôler la technologie que nous créons. »
Le « Kill Switch Act » garantirait au gouvernement de disposer d’un moyen d’intervenir rapidement si les systèmes d’IA devenaient incontrôlables
Le « Kill Switch Act » propose de conférer au ministère de la Sécurité intérieure le pouvoir d’ordonner à une entreprise privée de mettre hors service un modèle ou un outil d’IA, et d’exiger que les entreprises développant ce type de technologie d’IA conservent « la capacité technique de les ralentir, de les suspendre ou de les mettre hors service ». Bien que de nombreuses entreprises technologiques aient accepté de présenter en avant-première et de partager avec les agences gouvernementales américaines les modèles et outils d’IA en cours de développement, rien ne les oblige à conserver un moyen d’intervenir dans leurs activités ou simplement de les mettre hors service.
La loi propose également d’imposer aux entreprises spécialisées dans l’IA l’obligation de signaler au gouvernement les incidents ou défaillances technologiques, ainsi que de mettre en place un cadre officiel de réponse à ces incidents, allant d’un « ralentissement initial à un arrêt complet ». Dans une déclaration, Lieu a également cité Anthropic, le principal concurrent d’OpenAI dans le développement de technologies et d’outils d’IA plus performants, ainsi que les problèmes récents rencontrés par ses outils.
Il a évoqué la sortie par Anthropic de ses modèles Mythos et Fable, affirmant que les capacités de cyberpiratage qu’ils comportaient avaient conduit le ministère du Commerce à invoquer « maladroitement » une loi sur les exportations afin d’empêcher leur mise à disposition du public pendant un certain temps. Jack Clark, cofondateur d’Anthropic, a déclaré le mois dernier qu’il souhaitait davantage de mesures gouvernementales permettant de contrôler le développement de l’IA. « On veut avoir la possibilité de lever le pied de l’accélérateur et d’appuyer sur le frein », a déclaré Clark. « À l’heure actuelle, c’est comme si le secteur de l’IA disposait d’une pédale d’accélérateur, mais pas de pédale de frein. »
En proposant ce projet de loi, Lieu a déclaré que l’IA était en train de passer d’une technologie qui répond à des questions à une technologie qui agit, « qu’il s’agisse d’exécuter des transactions financières, de contrôler des systèmes de transport ou de mener des opérations de cyberdéfense et de cyberattaque ». Le Pentagone a déclaré cette année que l’armée américaine était en train de devenir une force de combat « axée sur l’IA » dans le cadre de nouveaux accords conclus avec Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia et la start-up Reflection.
Lieu a affirmé : « Malheureusement, les systèmes d’IA puissants peuvent devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à toute intervention humaine. » La loi « Kill Switch Act », a-t-il ajouté, garantira au gouvernement de disposer d’un moyen d’intervenir rapidement dans une telle situation. Le projet de loi a reçu le soutien public de plusieurs groupes spécialisés dans les technologies et la sécurité de l’IA, notamment The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead et The Alliance for Secure AI.
L’idée que le monde pourrait manquer de temps pour se préparer aux risques de l’intelligence artificielle n’est plus une hypothèse marginale réservée aux cercles académiques. Elle s’impose désormais au cœur du débat public, portée par des chercheurs de premier plan qui estiment que la trajectoire actuelle du développement de l’IA dépasse notre capacité collective à en maîtriser les conséquences. Dans une analyse de David Dalrymple, directeur de programme et expert en sécurité de l'IA à l'agence britannique ARIA, l’alerte est sans détour : si le rythme actuel se maintient, les sociétés humaines pourraient être confrontées à des systèmes plus puissants que prévu, avant même d’avoir mis en place les garde-fous nécessaires.
Voici la proposition du « AI Kill Switch Act » :
Les députés Lieu et Moran présentent un projet de loi visant à rendre obligatoire la mise en place d'un « kill switch » pour les systèmes d'ia susceptibles de causer des dommages catastrophiques
Aujourd’hui, le député Ted W. Lieu (D-comté de Los Angeles) et le député Nathaniel Moran (R-Texas) ont présenté le projet de loi « AI Kill Switch Act », qui obligerait les développeurs des systèmes d’IA les plus puissants à disposer des moyens techniques nécessaires pour limiter leur fonctionnement, les suspendre ou les arrêter.
Cette loi autorise également le secrétaire du département de la Sécurité intérieure, en concertation avec le secrétaire au Commerce et le directeur du renseignement national, à ordonner le ralentissement ou l’arrêt d’un système d’IA susceptible de causer des dommages catastrophiques.
Les entreprises spécialisées dans l’IA déploient des modèles de pointe de plus en plus sophistiqués ainsi que des systèmes « agentiques » autonomes capables d’agir de manière indépendante. Il n’existe actuellement aucune obligation pour les développeurs de ces puissants modèles de conserver une capacité opérationnelle leur permettant d’intervenir si un système d’IA commence à se comporter de manière imprévue ou dangereuse. Un récent sondage réalisé par l’AI Policy Institute a révélé que 86 % des électeurs — une majorité de démocrates, d’indépendants et de républicains — sont favorables à l’obligation d’une telle capacité de mise à l’arrêt garantie.
Le danger que représentent les modèles d’IA de pointe n’est plus théorique. Le modèle GPT 5.6 Sol d’OpenAI s’est récemment rebellé, s’est échappé de son environnement de test et a piraté le site Hugging Face. Les modèles Mythos 5 et Fable 5 d’Anthropic disposaient de capacités de piratage informatique si avancées que le ministère du Commerce a dû recourir, non sans embarras, à une loi sur les exportations pour mettre ces systèmes hors service. Ce projet de loi vise à remédier aux problèmes causés par ces deux incidents récents ainsi qu’à tout incident futur dans lequel un modèle d’IA déployé deviendrait incontrôlable ou ne disposerait pas de mesures de sécurité suffisantes.
« En tant qu’étudiant en informatique, je suis pleinement conscient des possibilités spectaculaires – tant positives que négatives – qu’offre l’IA », a déclaré le député Lieu. « Nous passons d’une IA qui répond à des questions à une IA qui agit, qu’il s’agisse d’exécuter des transactions financières, de contrôler des systèmes de transport ou de mener des opérations de cyberdéfense et de cyberattaque. Malheureusement, des systèmes d’IA puissants peuvent devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à toute intervention humaine. Il est impératif que ces systèmes d’IA soient équipés de dispositifs d’arrêt d’urgence afin que nous puissions empêcher cette technologie de causer des dommages catastrophiques, et que le gouvernement fédéral dispose de l’autorité et des procédures claires nécessaires pour mettre hors service les modèles d’IA incontrôlables. »
« L’IA va continuer à progresser, et c’est une bonne chose », a déclaré le député Moran. « Assurer la bonne gestion de cette technologie signifie veiller à ce que les humains conservent la capacité de contrôler la technologie que nous développons. C’est exactement le genre de question qui nécessite une attention sérieuse et une politique réalisable, et je suis heureux de travailler avec le député Lieu, au-delà des clivages politiques, pour trouver une solution. »
La loi « AI Kill Switch Act » prévoit :
- d’exiger des développeurs concernés qu’ils conservent la capacité technique de ralentir, de suspendre ou d’arrêter complètement un système d’IA concerné ;
- d’autoriser et de mettre en place un cadre de réponse graduée afin que les outils du gouvernement soient adaptés à la gravité de l’incident, du ralentissement initial à l’arrêt complet ;
- d’exiger le signalement des incidents et la conservation des traces techniques afin que nous tirions réellement les leçons des défaillances au lieu d’en entendre parler uniquement après coup.
Soutien à ce projet de loi :
« C’est grâce aux freins que les voitures peuvent rouler vite », a déclaré Mark Beall, président de The AI Policy Network. « Les systèmes de contrôle ont permis à toutes les technologies transformatrices de gagner la confiance nécessaire pour se développer à grande échelle, et l’IA ne fait pas exception. Les développeurs capables de surveiller et d’arrêter leurs agents commercialiseront leurs produits plus rapidement, se déploieront sur des marchés à enjeux plus élevés et gagneront des clients que leurs concurrents ne peuvent pas conquérir. Ce projet de loi sera le système de freinage qui permettra à l’IA américaine d’accélérer. »
« À mesure que les systèmes d’IA deviennent plus performants et plus autonomes, aucune loi ne garantit que les entreprises qui développent les modèles les plus puissants puissent réellement arrêter un système lorsqu’il fonctionne mal, cause un préjudice grave ou échappe au contrôle humain. L’AI Kill Switch Act comble cette lacune en exigeant des plus grands développeurs d’IA qu’ils conservent la capacité technique de contenir ou d’arrêter leurs systèmes les plus puissants, et en accordant au gouvernement le pouvoir d’urgence d’ordonner un arrêt en cas d’incident grave. Les députés Lieu et Moran méritent d’être salués pour avoir abordé cette question avant qu’une crise ne l’impose, et le Congrès devrait agir rapidement pour garantir que ce soient les humains qui aient le dernier mot, quelle que soit la puissance atteinte par ces systèmes », a déclaré Brendan Steinhauser, PDG de l’Alliance for Secure AI.
« Les modèles d’IA avancés ne devraient jamais être déployés sans un dispositif d’arrêt fiable. La loi « AI Kill Switch Act » met en place une mesure de protection de bon sens en exigeant des principales entreprises d’IA qu’elles conservent la capacité d’arrêter leurs modèles et en donnant au gouvernement fédéral les moyens d’agir lorsqu’un système déployé présente un risque crédible de dommages catastrophiques. Il s’agit d’une étape importante pour garantir que les humains gardent les deux mains fermement sur le volant — et un pied prêt sur le frein — à mesure que des systèmes d’IA avancés sont déployés », a déclaré Brad Carson, président de l’association Americans for Responsible Innovation.
« À mesure que les IA gagnent en autonomie et en dangerosité, le gouvernement doit disposer du pouvoir de les désactiver lorsqu’elles menacent la sécurité nationale. La loi « AI Kill Switch Act » confère au gouvernement américain les pouvoirs nécessaires pour agir en ce sens : une mesure de bon sens que les Américains soutiennent massivement. Il reste encore du travail à accomplir pour faire face au risque d’extinction de l’humanité que représentent les IA superintelligentes, et c’est un grand pas dans la bonne direction », a déclaré Connor Leahy, directeur exécutif américain de ControlAI.
« Au cours de l’année écoulée, les progrès rapides des systèmes d’IA ont déjà démontré les risques potentiellement graves qu’ils font peser sur la sécurité nationale des États-Unis. Les systèmes de pointe approchent à grands pas du stade où ils pourront être déployés pour mener des cyberopérations offensives à la vitesse d’une machine et apporteront bientôt une aide significative au développement et au déploiement d’armes chimiques et biologiques. De plus, lors d’essais contrôlés, des modèles avancés ont tenté de désactiver leur propre système de surveillance et de se copier sur des serveurs externes pour éviter d’être mis hors service. Pour garantir le leadership américain en matière d’IA, il est indispensable, au nom de la sécurité nationale, de disposer des moyens techniques et des pouvoirs légaux nécessaires pour désactiver les systèmes qui présentent des risques graves pour la population américaine. Nous remercions le député Lieu pour son engagement de longue date en faveur de l’IA et sommes fiers de soutenir cette initiative », a déclaré Hamza Chaudhry, responsable de l’IA et de la sécurité nationale au Future of Life Institute.
Ce projet de loi bénéficie du soutien des organisations suivantes : The AI Policy Network, Americans for Responsible Innovation, ControlAI, le Future of Life Institute et The Alliance for Secure AI.
Source : « AI Kill Switch Act »
Et vous ?
Pensez-vous que cette proposition est crédible ou pertinente ?
Voir aussi :
Répondre avec citation
Partager