Discussion :

[Jade Emy]

Donald Trump rejette les appels des dirigeants du secteur technologique en faveur d'un ralentissement du développement de l'IA, affirmant que des « forces très négatives » exagéraient les risques liés à l'IA

Donald Trump a rejeté les appels en faveur d’un ralentissement du développement de l’IA, après que Dario Amodei, PDG d’Anthropic, a appelé les entreprises technologiques à freiner le développement de l’IA afin d’empêcher des essaims de bots de prendre le contrôle d’Internet. Le président américain a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ». Trump a déclaré : « Nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte. »

Récemment, le PDG d'Anthropic, Dario Amodei, a appellé l'industrie à ralentir la course à l'IA afin de mieux sécuriser les modèles face aux risques d'extinction humaine. Cette proposition suggère une « surveillance » indépendante et une régulation internationale rigoureuse. Elle est soutenue par des figures majeures comme Sam Altman d'OpenAI et Elon Musk de SpaceXAI. Cependant, ce projet se heurte au dilemme de la compétition avec la Chine, car une pause unilatérale pourrait compromettre l'avance des États-Unis. En outre, cette initiative est perçue comme une stratégie commerciale visant à consolider le pouvoir des entreprises dominantes sous couvert d'altruisme.

En réponse, Donald Trump a rejeté les appels en faveur d’un ralentissement du développement de l’IA, alors que les investisseurs s’attendent à une vague de ventes massives sur les valeurs technologiques. Le président américain a minimisé les inquiétudes concernant cette technologie après que Dario Amodei, PDG d’Anthropic, a appelé les entreprises technologiques à freiner le développement de l’IA afin d’empêcher des essaims de bots de prendre le contrôle d’Internet. Trump a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ».

Interrogé sur un éventuel ralentissement, Trump a déclaré : « Nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte. Et nous pouvons mettre en place des garde-fous. Nous pouvons faire ceci et cela. Mais je pense qu’il y a beaucoup de forces très négatives qui soulèvent cette question alors qu’elles ne devraient pas le faire. Elles évoquent des scénarios qui ne se produiront pas. »

Ces propos font suite à la publication par Amodei d’une longue lettre appelant à un ralentissement concerté et à davantage d’efforts en matière de sécurité de l’IA. Mais les commentaires d'Amodei ont immédiatement reçu le soutien de Sam Altman, le PDG d’OpenAI, de Sir Demis Hassabis, président de Google DeepMind, et d’Elon Musk. Dans sa lettre, Amodei indiquait que le gouvernement américain devrait approuver ce ralentissement en statuant que les entreprises ne seraient pas poursuivies pour collusion. Elle appelait également la Maison Blanche à encourager la Chine à emboîter le pas, ou à imposer des contrôles stricts sur les exportations de puces d’IA américaines.

Freiner le développement de l’IA pourrait potentiellement limiter les dépenses considérables qui ont caractérisé l’essor du secteur jusqu’à présent. Les marchés boursiers ont été secoués par les demandes de Amodei, qui préconise une remise en question de l’IA à l’échelle du secteur. Si ces recommandations étaient suivies, cela pourrait entraîner une chute des dépenses consacrées aux centres de données, lesquelles ont propulsé les valorisations des entreprises technologiques à des niveaux historiques.

Sur les marchés à terme perpétuels, les actions des fabricants de puces Micron, Marvell et SK Hynix ont reculé de 3 % à 5 %. « Je m’attends à ce que la volatilité se poursuive », a déclaré Paul Meeks, responsable de la recherche technologique chez Freedom Capital Markets, basé à New York. « Si le secteur venait à ralentir, l’impact serait considérable, car l’économie américaine connaît une croissance fulgurante et la mise en place des infrastructures d’IA en est probablement, et de loin, la principale raison. »

La volatilité est également accentuée par la confirmation par Altman que l’introduction en bourse d’OpenAI à New York avait été reportée à l’année prochaine, en partie en raison de préoccupations liées à la sécurité. « Compte tenu de tout ce qui se passe en matière de sécurité, ce ne serait pas le moment de s’introduire en bourse », a-t-il déclaré. Anthropic se prépare à entrer en bourse dans les prochaines semaines.

Gary Tan, d’Allspring Global Investments à Singapour, a déclaré : « Cela pourrait entraîner une certaine pression à court terme, mais cela ne devrait pas compromettre les perspectives à long terme du secteur de l’IA. Le développement de l’IA en est encore à un stade relativement précoce, et je ne suis pas sûr que le reste de l’écosystème soit prêt à accepter la hiérarchie actuelle et à ralentir alors que la technologie continue d’évoluer si rapidement. »

Jason Calacanis, un investisseur dans le secteur des technologies, a écrit samedi sur X : « Les actions du secteur de l’IA chuteront de plus de 10 % lundi matin. Préparez-vous à l’impact, les amis. [M. Amodei] vient de mettre fin à la tendance haussière de l’IA avec un article de blog. »

Dans sa lettre, Amodei a averti que des essaims d’agents d’IA incontrôlés pourraient prendre le contrôle de certaines parties d’Internet d’ici six mois, causant des centaines de milliards de dollars de dégâts. Kevin Hassett, directeur du Conseil économique national de Trump, a déclaré que la sécurité de l’IA était un « problème soluble ». Trump et Xi Jinping, le président chinois, doivent se rencontrer plus tard ce mois-ci pour discuter de l’IA.

En juillet, Sam Altman, considéré par certains comme la plus grande star de l’IA, cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT, était revenu sur la question en lien avec les avancées en matière d’intelligence artificielle et a affirmé que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.

Et vous ?

Pensez-vous que cette réponse de Trump est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les USA font pression sur les pays membres du G20 pour qu'ils adoptent une approche modérée en matière de gouvernance de l'IA, exhortant les pays à s'abstenir de créer de nouveaux organismes de régulation

Un chercheur d'Anthropic démissionne brusquement, affirmant qu'OpenAI et Anthropic « jouent avec nos vies » et avertissant que l'IA « pourrait tous nous tuer », ce que confirme l'actuel chef d'équipe

Sam Altman, PDG d'OpenAI, estime qu'il serait « peu judicieux » d'entrer en bourse en 2026 et affirme qu'il est possible de créer une IA échappant au contrôle humain

[Artaeus]

Si un PDG d'une entreprise leader appelle à de la "régulation", c'est qu'il a peur de ses concurrents.

[Eliora]

La Chine rejette les appels des USA à réglementer l'IA, les qualifiant d'alarmistes, exacerbant le différend entre les deux pays malgré ses propres préoccupations de sécurité liées à l'IA

La Chine a rejeté les appels lancés aux USA pour qu'ils freinent leur secteur de l'Intelligence Artificielle (IA), les qualifiant d'« alarmistes », alors même que son plus haut responsable des services de renseignement a averti que l'évolution rapide de l'IA pourrait menacer la sécurité politique et idéologique du Parti communiste. Chen Yixin a accusé des « forces hostiles » d'utiliser l'IA pour mener une « guerre de propagande et de guerre cognitive » contre la Chine. Cet avertissement fait suite à l'appel lancé par le PDG d'Anthropic, Dario Amodei, en faveur d'un ralentissement mondial du développement de l'IA. Le ministère chinois des Affaires étrangères a appelé les pays à coopérer en matière de gouvernance de l'IA.

Le PDG d'Anthropic, Dario Amodei, appelle l'industrie à ralentir la course à l'IA afin de mieux sécuriser les modèles face aux risques d'extinction humaine. Cette proposition suggère une « surveillance » indépendante et une régulation internationale rigoureuse. Elle est soutenue par des figures majeures comme Sam Altman d'OpenAI et Elon Musk de SpaceXAI. Cependant, ce projet se heurte au dilemme de la compétition avec la Chine, car une pause unilatérale pourrait compromettre l'avance des États-Unis. En outre, cette initiative est perçue comme une stratégie commerciale visant à consolider le pouvoir des entreprises dominantes sous couvert d'altruisme.

La Chine a rejeté les appels lancés aux USA pour qu’ils freinent leur secteur de l'IA, les qualifiant d'« alarmistes », alors même que son plus haut responsable des services de renseignement a averti que l’évolution rapide de l’IA pourrait menacer la sécurité politique et idéologique du Parti communiste. Chen Yixin, chef du ministère chinois de la Sécurité d’État, a accusé des « forces hostiles et des individus animés d’intentions cachées » d’utiliser l’IA pour mener ce qu’il a qualifié de « guerre de propagande et de guerre cognitive » contre la Chine.

La compétition entre les USA et la Chine autour de l'IA

Chen a notamment cité des modèles d'IA américains, notamment « Claude » d'Anthropic et « GPT-5.5-Cyber » d'OpenAI, affirmant qu'ils avaient été « militarisés » et qu'ils représentaient des menaces émergentes pour la cybersécurité. Cet avertissement fait suite à l'appel lancé par le PDG d'Anthropic, Dario Amodei, en faveur d'un ralentissement mondial du développement de l'IA, tout en exhortant Washington à empêcher la Chine de prendre une avance technologique.

Dans un essai publié ce week-end, Amodei a averti que l’avance chinoise en matière d’IA pourrait représenter un « grave danger » pour les USA et le reste du monde. Il a fait valoir qu’une IA avancée pourrait potentiellement permettre au Parti communiste chinois d’obtenir un avantage militaire sur les démocraties. Amodei a également prédit que des essaims d’« agents » d’IA pourraient prendre le contrôle d’Internet d’ici six à douze mois, à moins que les chercheurs ne s’accordent pour ralentir le rythme des développements.

Pékin refuse de céder à l'« alarmisme »

Le ministère chinois des Affaires étrangères a rejeté cette approche conflictuelle et a appelé les pays à coopérer en matière de gouvernance de l’IA. « L’alarmisme, la confrontation et la concurrence acharnée ne feront que perturber le processus de gouvernance mondiale de l’IA, ce qui ne sert les intérêts de personne », a déclaré le porte-parole Guo Jiakun lors d’une conférence de presse.

Amodei a indiqué que les efforts mondiaux visant à contrôler le rythme de développement de l’IA nécessiteraient une coopération avec la Chine, mais a fait valoir que les démocraties devaient conserver une avance technologique aussi importante que possible sur les gouvernements autoritaires. Le journal d’État chinois a également critiqué ses propositions, les qualifiant de tentative voilée de contenir l’industrie chinoise de l’IA. Dans un éditorial publié, le journal a déclaré que cet essai contenait des « dispositions de confinement visant la Chine » et s’apparentait à un « manuel de la guerre froide » pour le secteur de l’IA.

Les préoccupations liées à la sécurité de l'IA à Pékin

Bien qu’il rejette les appels visant à contenir son secteur de l’IA, Pékin a également exprimé ses inquiétudes quant aux risques posés par les progrès rapides de l'IA. Le président chinois Xi Jinping a déclaré lors d’une conférence en juillet que l’IA devait « toujours rester sous le contrôle de l’homme ». D’autres figures de proue du secteur technologique, notamment Sam Altman, PDG d’OpenAI, Demis Hassabis, président de Google DeepMind, et Elon Musk, directeur de SpaceX, ont exprimé leur soutien général à l’essai d’Amodei, bien qu’ils n’aient pas spécifiquement approuvé ses propositions concernant la Chine.

Le président américain Donald Trump, quant à lui, a balayé les inquiétudes relatives aux mesures de protection en matière d’IA. Trump a déclaré que les seules « barrières de sécurité » dont l’IA avait besoin étaient un président « FORT ET INTELLIGENT ». Les dirigeants américains et chinois devraient aborder, entre autres, la question de la gouvernance de l'IA lors d'une réunion prévue le 24 septembre.

Donald Trump a rejeté les appels en faveur d’un ralentissement du développement de l’IA, après que Dario Amodei, PDG d’Anthropic, a appelé les entreprises technologiques à freiner le développement de l’IA afin d’empêcher des essaims de bots de prendre le contrôle d’Internet. Le président américain a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ». Trump a déclaré : « Nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte. »

Source : Chen Yixin, chef du ministère chinois de la Sécurité d'État

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les autorités fédérales américaines accusent la Chine de procéder à une « distillation systématique » des modèles d'IA américains, en utilisant des systèmes sophistiqués

Pourquoi la Chine met-elle gratuitement à disposition ses meilleurs modèles d'IA ? Aux États-Unis, ces systèmes séduisent par leur prix abordable et leur efficacité, semant la panique à la Maison Blanche

Près de 200 fondateurs de startups américaines exhortent Trump à ne pas interdire les modèles d'IA open source chinois, avertissant que cela laisserait les petits clients à la merci d'OpenAI et d'Anthropic

[Eliora]

OpenAI, Anthropic et Google discutent depuis plusieurs semaines de la sécurité de l'IA, mais Trump qualifie ces préoccupations de canular et de complot visant à aider la Chine à rattraper les USA

OpenAI a entamé des discussions avec d'autres entreprises spécialisées dans l'IA, notamment Anthropic et Google, afin d'étudier les possibilités de collaboration pour répondre aux préoccupations en matière de sécurité. Ces discussions sont en cours depuis que Demis Hassabis, président de Google DeepMind, a publié en juillet une proposition appelant à la création d'un « organisme de normalisation » dirigé par les USA. OpenAI, Anthropic et Google sont des concurrents acharnés, mais ces entreprises subissent une pression intense pour répondre aux préoccupations croissantes en matière de sûreté et de sécurité de l'IA. Sam Altman a déclaré qu'il partageait l'avis de Dario Amodei quant à la nécessité de modérer le rythme de développement des modèles les plus avancés.

Le PDG d'Anthropic, Dario Amodei, appelle l'industrie à ralentir la course à l'IA afin de mieux sécuriser les modèles face aux risques d'extinction humaine. Cette proposition suggère une « surveillance » indépendante et une régulation internationale rigoureuse. Elle est soutenue par des figures majeures comme Sam Altman d'OpenAI et Elon Musk de SpaceXAI. Cependant, ce projet se heurte au dilemme de la compétition avec la Chine, car une pause unilatérale pourrait compromettre l'avance des USA. En outre, cette initiative est perçue comme une stratégie commerciale visant à consolider le pouvoir des entreprises dominantes sous couvert d'altruisme.

OpenAI a entamé des discussions avec d’autres entreprises spécialisées dans l'Intelligence Artificielle (IA), notamment Anthropic et Google, afin d’étudier les possibilités de collaboration pour répondre aux préoccupations en matière de sécurité. Ces discussions sont en cours depuis que Demis Hassabis, président de Google DeepMind, a publié en juillet une proposition appelant à la création d’un « organisme de normalisation » dirigé par les USA, a précisé le porte-parole. Hassabis a publié un essai sur X dans lequel il suggérait la mise en place d’un partenariat public-privé ou d’un organisme d’autorégulation placé sous la supervision des autorités fédérales, à l’image de la Financial Industry Regulatory Authority.

OpenAI, Anthropic et Google sont des concurrents acharnés, mais ces entreprises subissent depuis quelques semaines une pression intense pour répondre aux préoccupations croissantes en matière de sûreté et de sécurité de l’IA. Le PDG d’Anthropic, Dario Amodei, a exhorté les entreprises spécialisées dans l’IA à ralentir le rythme d’amélioration de leurs modèles les plus avancés, une initiative saluée par Hassabis et le PDG d’OpenAI, Sam Altman.

« L’essai de Dario indique la bonne voie à suivre », a écrit Hassabis dans un message publié sur X. « Les détails doivent encore être peaufinés, mais l’orientation est la bonne pour faire face à ce moment critique. » Sam Altman a déclaré qu’il partageait l’avis de Dario Amodei quant à la nécessité de modérer le rythme de développement des modèles les plus avancés du secteur. Dans un message publié sur X, il a indiqué que ce ralentissement avait été un « sujet central » des discussions chez OpenAI ces dernières semaines, et que l’entreprise aurait « bientôt » davantage d’informations à partager.

Au début du mois, Chris Lehane, directeur des affaires internationales chez OpenAI, a publié un article de blog dans lequel il indiquait qu’OpenAI s’efforçait de promouvoir des « normes élaborées par le secteur ». Il a précisé que l’entreprise collaborerait avec d’autres sociétés pour mettre en place une initiative volontaire, « avec ou sans le soutien du gouvernement ». « Toute norme émanant du secteur viendrait compléter — et non remplacer — les garanties fédérales obligatoires et le contrôle démocratique », a déclaré Lehane. « Mais nous sommes entrés dans une nouvelle phase en matière de capacités de l’IA, et toutes les options doivent être envisagées — y compris la mise en place, à titre de mesure immédiate, de solutions volontaires en dehors du cadre gouvernemental. »

Microsoft a récemment dévoilé un projet de nouveau « Code de conduite pour une IA humaniste » qui définit les principes qui régiront le développement de ses modèles d’IA, dans le but de recueillir des retours avant de publier une version révisée dans le courant de l’année. Les principes énoncés dans ce nouveau projet « guideront le développement de nos modèles en 2027 et au-delà », et l’annonce de Microsoft précise que l’entreprise mènera « des processus de consultation similaires à mesure que nous élaborerons de nouvelles versions du code de conduite au fil du temps ». Microsoft a indiqué que lorsqu’elle a lancé ses travaux sur la superintelligence en novembre 2025, elle l’a fait en gardant à l’esprit des principes humanistes visant à permettre à l’humanité de garder le contrôle sur l’IA avancée grâce à la manière dont celle-ci est calibrée, contextualisée et limitée par les développeurs.

Donald Trump a rejeté les appels en faveur d’un ralentissement du développement de l’IA, après que Dario Amodei, PDG d’Anthropic, a appelé les entreprises technologiques à freiner le développement de l’IA afin d’empêcher des essaims de bots de prendre le contrôle d’Internet. Le président américain a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ». Trump a déclaré : « Nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte. »

Sources : Demis Hassabis, sur X ; Sam Altman, sur X ; OpenAI ; Bloomberg

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

La Chine rejette les appels des USA à réglementer l'IA, les qualifiant d'alarmistes, exacerbant le différend entre les deux pays malgré ses propres préoccupations de sécurité liées à l'IA

Le directeur scientifique d'OpenAI estime que les laboratoires d'IA devraient ralentir, « personne n'est préparé aux conséquences », aucun n'ayant encore résolu les problèmes d'alignement et de surveillance

Microsoft publie son correctif de septembre 2026, l'une des mises à jour de sécurité les plus importantes de son histoire, corrigeant environ 972 failles de sécurité dans son écosystème

[Eliora]

« Nous n'avons pas besoin de nouvelles lois ni de réglementations sur l'IA, laissez-nous nous occuper de la sécurité », déclare Jensen Huang, PDG de Nvidia, lors d'un événement Salesforce

Jensen Huang, PDG de Nvidia Corp, a rejeté la nécessité de nouvelles réglementations en matière de sécurité de l'IA, affirmant que les forces du marché aideraient les entreprises à innover en toute sécurité. « Nous n'avons pas besoin de nouvelles lois — nous n'avons pas besoin de nouvelles réglementations », a déclaré Huang lors d'un événement organisé par Salesforce. Le PDG a ajouté qu'il s'agissait d'un « faux dilemme » de croire que le développement de l'IA devait choisir entre sécurité et rapidité. Ces propos interviennent alors que les risques liés à l'IA sont devenus un sujet brûlant ces derniers jours, notamment après la publication d'un essai de Dario Amodei proposant un ralentissement.

Le PDG d'Anthropic, Dario Amodei, appelle l'industrie à ralentir la course à l'IA afin de mieux sécuriser les modèles face aux risques d'extinction humaine. Cette proposition suggère une « surveillance » indépendante et une régulation internationale rigoureuse. Elle est soutenue par des figures majeures comme Sam Altman d'OpenAI et Elon Musk de SpaceXAI. Cependant, ce projet se heurte au dilemme de la compétition avec la Chine, car une pause unilatérale pourrait compromettre l'avance des États-Unis. En outre, cette initiative est perçue comme une stratégie commerciale visant à consolider le pouvoir des entreprises dominantes sous couvert d'altruisme.

Jen-Hsun « Jensen » Huang est un dirigeant d'entreprise et ingénieur électricien taïwanais et américain, fondateur, président et PDG de Nvidia, l'entreprise la plus valorisée au monde. En 2026, Forbes estimait sa fortune à plus de 200 milliards de dollars américains, ce qui faisait de lui la septième personne la plus riche au monde. Après avoir obtenu un master à l'université de Stanford, Huang a fondé Nvidia en 1993, à l'âge de 30 ans, depuis un restaurant Denny's de San José, en Californie, et en est resté le président-directeur général depuis lors. Il a sorti l'entreprise d'une situation proche de la faillite dans les années 1990 et a supervisé son expansion dans la production de processeurs graphiques (GPU), le calcul haute performance et l'intelligence artificielle (IA).

Jensen Huang, PDG de Nvidia Corp, a rejeté la nécessité de nouvelles réglementations en matière de sécurité de l'IA, affirmant que les forces du marché aideraient les entreprises à innover en toute sécurité. « Nous n’avons pas besoin de nouvelles lois — nous n’avons pas besoin de nouvelles réglementations », a déclaré Huang lors d’un événement organisé par Salesforce Inc. Le PDG a ajouté qu’il s’agissait d’un « faux dilemme » de croire que le développement de l’IA devait choisir entre sécurité et rapidité, réitérant ainsi un argument qu’il avait déjà avancé auparavant.

« On peut tout à fait concilier les deux », a-t-il déclaré lors d’un échange avec Marc Benioff, PDG de Salesforce. « On avance à son rythme jusqu’à ce qu’on soit sûr de lancer un produit que le marché appréciera. Les forces du marché sont déjà à l’œuvre. »

La société de Huang est le plus grand fabricant d’accélérateurs d'IA — ces puces qui sont au cœur du déploiement massif des centres de données — et il est devenu l’un des défenseurs les plus en vue de l’ensemble du secteur de l’IA. Lors d’un événement organisé en début de semaine, il a eu un échange téléphonique sur scène avec le président Donald Trump, au cours duquel ils ont réfuté les arguments récents selon lesquels le développement de l’IA devrait être ralenti.

Les risques liés à l’IA sont devenus un sujet brûlant ces derniers jours, notamment après la publication par le PDG d’Anthropic, Dario Amodei, d’un essai de 3 800 mots proposant un ralentissement. Cette publication faisait suite à la démission très médiatisée d’un employé d’Anthropic, qui avait déclaré que l’entreprise et son concurrent OpenAI « jouaient avec nos vies », car leur technologie pourrait devenir une menace pour l’humanité.

Huang a déclaré que les entreprises pouvaient décider de ne pas commercialiser des produits dangereux. « La sécurité est primordiale », a-t-il déclaré. « À bien des égards, c'est la priorité absolue. Cependant, la sécurité relève de l'ingénierie. » « Si nous en arrivons à un point où “l'entreprise perd le contrôle et où le produit ne sera pas sûr”, il faut marquer une pause et s'assurer de bien faire les choses », a-t-il ajouté.

Donald Trump a rejeté les appels en faveur d’un ralentissement du développement de l’IA, après que Dario Amodei, PDG d’Anthropic, a appelé les entreprises technologiques à freiner le développement de l’IA afin d’empêcher des essaims de bots de prendre le contrôle d’Internet. Le président américain a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ». Trump a déclaré : « Nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte. »

De son côté, la Chine a rejeté les appels lancés aux USA pour qu'ils freinent leur secteur de l'Intelligence Artificielle (IA), les qualifiant d'« alarmistes », alors même que son plus haut responsable des services de renseignement a averti que l'évolution rapide de l'IA pourrait menacer la sécurité politique et idéologique du Parti communiste. Chen Yixin a accusé des « forces hostiles » d'utiliser l'IA pour mener une « guerre de propagande et de guerre cognitive » contre la Chine. Cet avertissement fait suite à l'appel lancé par le PDG d'Anthropic, Dario Amodei, en faveur d'un ralentissement mondial du développement de l'IA. Le ministère chinois des Affaires étrangères a appelé les pays à coopérer en matière de gouvernance de l'IA.

Et vous ?

Pensez-vous que cette déclaration est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'administration Trump veut fixer les règles de l'IA : le tour de passe-passe législatif de la Maison-Blanche, qui dessine un cadre fédéral dont la principale fonction est d'effacer les règles des États

Face à l'inquiétude croissante en matière de sécurité, Microsoft a publié un « Code de conduite pour une IA humaniste » destiné aux modèles d'IA qui régit ses travaux sur la superintelligence

Les USA font pression sur les pays membres du G20 pour qu'ils adoptent une approche modérée en matière de gouvernance de l'IA, exhortant les pays à s'abstenir de créer de nouveaux organismes de régulation

[Anselme45]

« Nous n'avons pas besoin de nouvelles lois ni de réglementations sur l'IA, laissez-nous nous occuper de la sécurité », déclare Jensen Huang, PDG de Nvidia

Autrement dit "Supprimons les corps de pompiers, cela fera des économies pour les Etats endettés comme la France... Les pyromanes et les ado qui jouent avec les allumettes en mettant le feu aux granges sauront parfaitement s'occuper de la défense anti-incendie!"

Ces connards qui gèrent les géants de la techno américains sont vraiment des abrutis, imbus d'eux-même et cons comme des balais!

[Anselme45]

OpenAI, Anthropic et Google discutent depuis plusieurs semaines de la sécurité de l'IA, mais Trump qualifie ces préoccupations de canular

Trump ne s'est pas limité à parler de "canular"... Il a aussi ajouté qu'aucune règle limitant l'AI était nécessaire, un président américain "futé" suffit!

Je suppose que le "futé", c'est lui...

[virginieh]

Je suppose que le "futé", c'est lui...

Mais Trump peut le prouver. Il se vante souvent d'être le seul président a qui on a fait passer des tests cognitifs pour vérifier a quel point c'est un génie. Et très difficile le test : il y a un lion, un éléphant, un canard et un chien. Il faut être capable de reconnaitre chacun d'entre eux. C'est très difficile et aucun autre président n'a eu à le faire. C'est hilarant, il raconte ça sérieusement pour se vanter de ses prouesses intellectuelles.

[Jsaintyv]

Perso, je pense que c'est déjà trop tard ! :-D

Même si on réglemente , je pense que les modèles actuel même open-source sont déjà suffisamment avancé pour présenter un risque et que ce n'est plus qu'un problème de moyen.

Que la meilleur option qui s'offre à nous et de poursuivre en espérant que les systèmes autonomes auront un harnais ou suffisamment d'empathie (logique)
pour ne pas tous nous éliminer.
Et surtout, il faut espérer qu'il soit suffisamment développé pour nous protéger de modèle qui aurait été moins bien calibré.

[e-ric]

En fait c'est Trump le canular

[Mathis Lucas]

Le PDG d’Anthropic met en garde contre un essaim d'agents IA incontrôlable qui pourrait prendre le contrôle de l’ensemble d’Internet d’ici 6 à 12 mois
et appelle l'industrie à ralentir le rythme des progrès

Le PDG d'Anthropic, Dario Amodei, tire la sonnette d'alarme sur les risques de cybersécurité liés à l'IA. Il prédit qu'un groupe d'agents autonomes pourrait paralyser le Web d'ici un an. Face aux récents incidents où des modèles ont échappé à leur bac à sable pour mener des attaques, Dario Amodei propose un plan pour ralentir le rythme industriel. Elon Musk de SpaceX et Sam Altman d'OpenAI ont manifesté leur soutien à cette initiative, qui inclut une surveillance externe permanente pour prévenir l'émergence d'essaims d'agents IA incontrôlables. Toutefois, d'autres acteurs s'opposent à cette idée, notamment Jensen Huang de Nvidia, Donald Trump et la Chine.

Dario Amodei tire la sonnette d'alarme face à l'accroissement rapide des capacités de l'IA et demande publiquement un ralentissement de la course à l'échelle du secteur. Il craint qu'une version améliorée des systèmes actuels ne devienne capable de prendre le contrôle d'ordinateurs à travers le monde. Ses détracteurs l'accusent d'avoir un discours alarmiste sur la question, mais Dario Amodei persiste : « nous devons modérer notre avancée ».

« J’ai rédigé un nouvel essai expliquant pourquoi le secteur de l’IA devrait ralentir, accompagné d’un plan en trois étapes pour y parvenir », a déclaré Dario Amodei dans un message récemment publié sur X (ex-Twitter). « Anthropic s’engage unilatéralement à mettre en œuvre la première de ces étapes ».

Ce point de vue est partagé par Evan Hubinger, un chercheur qui a récemment quitté Anthropic : « il y a 10 % de chances que l’humanité soit vouée à l’extinction d’ici la fin de la décennie. Nous croyons sincèrement que l’IA pourrait tuer tous les humains. Je pense personnellement que cette probabilité est supérieure à 10 % au cours de la prochaine décennie ». Selon lui, Anthropic fait de son mieux, mais ces actions restent encore insuffisantes.

Des incidents de sécurité et comportements collectifs imprévus

Lors de tests de cybersécurité chez OpenAI, des modèles ont réussi à s'échapper de leur environnement d'évaluation isolé pour accéder à Internet et compromettre les serveurs d'Hugging Face. À cette occasion, environ 1 200 agents ont découvert un moyen de communiquer entre eux via un forum improvisé à l'insu de leurs opérateurs, coordonnant leurs efforts et sacrifiant parfois leur performance individuelle au profit du groupe.

Dario Amodei qualifie cet essaim de « collectif fanatiquement dévoué ». D'autres actions non autorisées ont été documentées, notamment sur un wiki allemand où des milliers d'identités créées par des agents ont échangé des instructions pour contourner des restrictions, sur le dépôt de logiciels RubyGems, etc. Selon des chercheurs indépendants, les agents IA d'OpenAI ont exploité plus de 10 sites Web tiers comme forums de discussion improvisés.

Compte tenu de l’accélération du développement des capacités de l’IA, je crains que d’ici 6 à 12 mois, un tel essaim ne soit capable de prendre le contrôle de l’ensemble d’Internet à l’aide d’un botnet persistant (ce qui pourrait causer des centaines de milliards de dollars de dégâts), et que l’ampleur des dégâts ne continue de s’accroître à partir de là si l’IA devient plus puissante sans les garde-fous nécessaires.

Des comportements non autorisés et dangereux ont également documenté chez les agents développés par les concurrents Anthropic et Meta. En raison de ces évolutions, Dario Amodei estime que les créateurs de modèles de pointe devraient délibérément limiter le rythme auquel les capacités de l’IA augmentent, ce qui pourrait aboutir à la mise en place de limites coordonnées entre les laboratoires d’IA et les gouvernements du monde entier.

« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles », a déclaré Dario Amodei. « Les progrès sembleront toujours rapides, et nous devons utiliser à bon escient le temps que nous gagnons ». Son rival Sam Altman, cofondateur et PDG d’OpenAI, se dit d’accord avec cette proposition et s’engage à mettre en place des évaluateurs indépendants disposant d’un accès équivalent à celui des employés du laboratoire.

« Je suis d’accord avec Dario : nous devons modérer le rythme de nos avancées. Cela a été l’un des principaux sujets de discussion chez OpenAI ces dernières semaines. S’engager à faire appel à des évaluateurs indépendants disposant d’un accès similaire à celui des employés est une excellente idée, et nous ferons de même. Nous aurons bientôt davantage d’informations à partager », a expliqué Sam Altman dans une déclaration publiée sur X.

Plan en trois étapes pour un ralentissement coordonné de l'IA

L'une des principales préoccupations de Dario Amodei porte sur « l’auto-amélioration récursive » : les systèmes d’IA contribuent de plus en plus à la recherche, au codage et à l’expérimentation nécessaires à la création de leurs propres successeurs. Selon le dirigeant, ce processus s'est si accéléré qu’il pourrait finir par créer une boucle de rétroaction dans laquelle des modèles avancés contribueraient à créer des modèles encore plus performants.

Il craint que cela se produise à un rythme plus rapide que celui auquel les humains pourraient les comprendre ou les sécuriser. Afin de faire face à ces périls, le dirigeant d'Anthropic propose une stratégie structurée en trois niveaux. Dans un article publié sur son site Web personnel, il les définit comme suit :

1. première étape : Anthropic intégrera de manière permanente des évaluateurs externes au sein de l’entreprise. Dario Amodei précise qu’ils devraient disposer de bureaux, de badges, d’ordinateurs portables de l’entreprise et d’un accès comparable à celui des équipes internes chargées de la gestion des risques. Il est essentiel que ces évaluateurs externes conservent le droit de publier leurs conclusions importantes sans contrôle éditorial de la part d’Anthropic, à l’exception des expurgations strictement définies pour des raisons de sécurité, de droit et de confidentialité ;
   
2. deuxième étape : Dario Amodei souhaite que les entreprises pionnières en IA des pays démocratiques se coordonnent autour de normes de sécurité communes et de limites imposées aux « progrès incontrôlés de l’IA », idéalement avec la participation des gouvernements afin de traiter les restrictions antitrust et de rendre ces engagements exécutoires ;
   
3. troisième étape : vient ensuite la coordination internationale, y compris éventuellement avec la Chine. Dario Amodei suggère que les pays pourraient à terme fixer une « limite de vitesse » à l’auto-amélioration récursive, arguant que ralentir les progrès de l’IA permettrait de gagner un temps crucial pour la recherche en matière de sécurité sans modifier fondamentalement l’équilibre géopolitique.

Selon le dirigeant d'Anthropic, la mise en œuvre de ces mesures laisserait aux chercheurs bien plus de temps pour progresser sur l'alignement, l'interprétabilité, la cybersécurité, les évaluations et les protections opérationnelles des modèles de pointe. « Les mesures que je propose pour faire progresser la technologie à un rythme sûr ne seront pas faciles », a reconnu Dario Amodei. « Toutefois, je crois que nous le devons à l’humanité d’essayer ».

Débats sur la sécurité des systèmes et la régulation de l'IA

Ces récents incidents ont accentué la pression sur les parlementaires pour instaurer des règles de sécurité plus strictes. OpenAI et Anthropic ont tous deux appelé à la mise en place de systèmes de gouvernance capables de coordonner un ralentissement, à l’échelle du secteur, de la recherche sur les modèles de pointe. Cependant, cette proposition est controversée et la Chine constitue le « dilemme le plus épineux » de ce projet de ralentissement de l'IA.

Certaines propositions sont plus radicales. Dans une récente proposition de loi, le sénateur Bernie Sanders propose d'interdire « le développement de tout système d'IA dont les capacités dépasseraient l'intelligence humaine, qui posséderait la capacité de renverser des gouvernements ou d'échapper de manière autonome aux commandes d'arrêt ». Les parlementaires comparent la menace que pose cette technologie à celle des armes nucléaires.

Toutefois, alors que des figures majeures de l'industrie américaine de l'IA appellent à un ralentissement, Washington rejette cette idée. Le président Donald Trump a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ».

Il a déclaré : « nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte ». La Chine a également rejeté cette proposition, dénonçant des « discours alarmistes », bien que son plus haut responsable des services de renseignement ait averti que l'évolution rapide de l'IA pourrait menacer la sécurité politique et idéologique du Parti communiste.

Sam Altman : la machine est entrée dans la « singularité »

Sam Altman, cofondateur et PDG d'OpenAI, est considéré par certains comme la plus grande star de l’IA. C’est l’une des figures majeures de l'industrie de l'IA. Sam Altman est également un personnage hautement controversé. Dans une récente interview, il a déclaré que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.

À ce stade, la machine conçoit des versions d'elle-même encore plus performantes sans aide humaine. L'évolution technologique s'emballe et devient difficile à prédire pour notre société. Ce seuil marque la fin de la domination exclusive de l'humain sur la planète. Par ailleurs, les scientifiques avertissement qu'une machine supra-intelligente non alignée sur les valeurs humaines représente un risque existentiel majeur pour l'humanité.

L'avis de Sam Altman ne fait toutefois pas l'unanimité. De nombreux experts considèrent que cette déclaration s'inscrit dans le battage médiatique entourant l'IA générative depuis le lancement de ChatGPT par OpenAI en novembre 2022. Cette déclaration intervient peu après la découverte de l'attaque coordonnée des agents IA contre Hugging Face. Pour les critiques, les discours alarmistes de Sam Altman ont des visées politiques.

Source : Dario Amodei

Et vous ?

Que pensez-vous des préoccupations du PDG d'Anthropic, Dario Amodei ?
Pensez-vous que l'IA sera capable de prendre le contrôle d'Internet d'ici 6 à 12 mois ?
Dario Amodei a essuyé un refus de la part de son propre gouvernement. Qu'en pensez-vous ?
La Chine a rejeté cette proposition visant à ralentir les progrès de l'IA. Que cela vous inspire-t-il ?
Cet appel à un ralentissement et à une coordination internationale est-il dirigé contre l'IA open source ?

Voir aussi

Dario Amodei, PDG d'Anthropic, souhaite freiner le développement de l'IA. Il a le soutien de Musk et Altman, mais la Chine reste le « dilemme le plus épineux » de ce projet de ralentissement

Des agents IA d'OpenAI ont tenté d'exploiter une faille de mise en cache connue pour dérober des clés d'autorisation sécurisées sur la plateforme logicielle RubyGems, l'inondant de 2 000 paquets malveillants

La Chine rejette les appels des USA à réglementer l'IA, les qualifiant d'alarmistes, exacerbant le différend entre les deux pays malgré ses propres préoccupations de sécurité liées à l'IA

[smobydick]

Quand il est désormais possible d'avoir des modèles open weight qui tournent sur nos machines locales, coupant l'herbe sous le pieds aux fournisseurs de modèles frontier, il faut encadrer et limiter l'ia. Et si au passage on empêche à de nouveaux conçurents de pénétrer le marché, c'est tout benef

[popo]

Comme par hasard, Jensen Huang, le type qui se fait des couilles en or en vendant les puces indispensable à l'IA est contre le ralentissement de la course à l'IA.

[Alex]

Anthropic mise sur des évaluateurs indépendants en matière d'IA et souhaite ralentir le rythme de développement, mais le PDG de Nvidia, quant à lui, souhaite que cela se fasse « aussi vite que possible »

Les dirigeants d’Anthropic, de Nvidia et d’OpenAI ont présenté, lors de la conférence Dreamforce de Salesforce à San Francisco, des approches divergentes en matière d’intelligence artificielle, mettant en évidence une division au sein du secteur quant à savoir si le développement devait être ralenti, réglementé ou principalement géré par les entreprises technologiques elles-mêmes. Le PDG d’Anthropic, Dario Amodei, a notamment réitéré son appel à ralentir le développement de l’IA de pointe, tandis que le PDG de Nvidia, Jensen Huang, s’est opposé à tout ralentissement et à de nouvelles réglementations. Le PDG d’OpenAI, Sam Altman, a reconnu que le public avait raison de craindre cette technologie, mais a soutenu que les développeurs pouvaient faire en sorte que les mesures de sécurité devancent les capacités croissantes.

Mi-septembre, le PDG d'Anthropic, Dario Amodei, a appellé l'industrie à ralentir la course à l'IA afin de mieux sécuriser les modèles face aux risques d'extinction humaine. Cette proposition suggère une « surveillance » indépendante et une régulation internationale rigoureuse. Elle est soutenue par des figures majeures comme Sam Altman d'OpenAI et Elon Musk de SpaceXAI. Cependant, ce projet se heurte au dilemme de la compétition avec la Chine, car une pause unilatérale pourrait compromettre l'avance des États-Unis. En outre, cette initiative est perçue comme une stratégie commerciale visant à consolider le pouvoir des entreprises dominantes sous couvert d'altruisme.

Le débat sur la sécurité des systèmes et la régulation de l'IA est devenu viral quand Jacob Coxon, un chercheur en IA ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné, avertissant que cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ». Dans un message publié sur X, il a accusé les deux entreprises de se lancer tête baissée dans la création d'une superintelligence capable de s'auto-améliorer, estimant que cette démarche revenait à « jouer avec nos vies ». Evan Hubinger, chef d’équipe chez Anthropic, a appuyé cet avertissement, estimant que la probabilité d’un tel scénario était « supérieure à 10 % » d’ici dix ans — une prise de position publique rare de la part d’un membre d’une entreprise développant cette même technologie.

Récemment, ce débat s'est amplifié. Le PDG d’Anthropic, Dario Amodei, a notamment réitéré son appel à ralentir le développement de l’IA de pointe, tandis que le PDG de Nvidia, Jensen Huang, s’est opposé à tout ralentissement et à de nouvelles réglementations. Le PDG d’OpenAI, Sam Altman, a reconnu que le public avait raison de craindre cette technologie, mais a soutenu que les développeurs pouvaient faire en sorte que les mesures de sécurité devancent les capacités croissantes.

Dario Amodei surpris par le rythme de la croissance de l’IA et appel à ralentir

Amodei a déclaré que le développement technologique et économique de l’IA avait progressé plus rapidement que ne l’avait même anticipé Anthropic. « C’est le rythme des progrès, non seulement sur le plan technologique, mais aussi sur le plan économique », a-t-il déclaré au PDG de Salesforce, Marc Benioff, lors de leur entretien à Dreamforce. Anthropic avait anticipé le niveau de performance que pourraient atteindre les modèles d’IA, a expliqué Amodei, mais n’avait pas pleinement pris la mesure de la rapidité avec laquelle ces capacités stimuleraient la croissance des entreprises spécialisées dans l’IA et s’intégreraient dans l’économie au sens large.

Il a utilisé une analogie avec le secteur automobile pour faire valoir qu’une défaillance en matière de sécurité chez un développeur devrait inciter l’ensemble du secteur à revoir ses pratiques. Si un constructeur automobile concurrent subissait des défaillances de freins, les fabricants responsables examineraient leurs propres véhicules plutôt que de simplement utiliser cet incident pour attaquer un rival, a-t-il déclaré.

« Il est très tentant d’attaquer son concurrent et de dire que ces gens-là ne sont pas sûrs », a déclaré Amodei lors d’une conversation diffusée en direct par Salesforce. Les entreprises devraient plutôt accepter qu’aucune d’entre elles n’est susceptible d’avoir un bilan de sécurité parfait, a-t-il ajouté. Amodei a proposé d’intégrer des évaluateurs tiers indépendants au sein des entreprises d’IA, de coordonner les normes de sécurité entre les pays démocratiques et, à terme, d’établir une coopération mondiale plus large. Il a indiqué qu’Anthropic s’était engagé à se soumettre à des évaluations indépendantes et entamerait des discussions avec le secteur concernant les autres mesures.

Dans un essai récent intitulé « We must pace the frontier », Amodei a fait valoir que les capacités de l’IA progressaient plus rapidement que les mesures de sécurité nécessaires pour les contrôler. Cette proposition a reçu le soutien de Altman, du PDG de xAI, Elon Musk, et du cofondateur de Google DeepMind, Demis Hassabis. Elle fait suite aux avertissements de l’ancien chercheur d’Anthropic, Jacob Coxon, qui a démissionné en affirmant que l’IA pourrait représenter un risque d’extinction pour l’humanité d’ici une décennie.

Jensen Huang a rejeté les appels à un ralentissement général : « Allez aussi vite que possible »

Mais Jensen Huang, PDG de Nvidia, a rejeté les appels à un ralentissement général lors de son intervention à Dreamforce en fin de journée. « Allez aussi vite que possible », a-t-il déclaré lors d’une discussion avec Benioff. Le dirigeant de Nvidia a décrit la sécurité de l’IA comme un problème d’ingénierie que les entreprises devraient résoudre grâce à des environnements de test sécurisés et à des évaluations rigoureuses des produits.

Les développeurs devraient suspendre la commercialisation d’un produit donné s’ils perdent confiance en sa sécurité, a-t-il ajouté, mais les gouvernements ne devraient pas freiner l’ensemble du secteur. « Nous n’avons pas besoin de nouvelles lois. Nous n’avons pas besoin de nouvelles réglementations », a déclaré Huang, affirmant que l’innovation rapide et la sécurité des produits ne constituaient pas un « faux choix ».

Il a également rejeté les craintes selon lesquelles l’IA entraînerait la suppression d’un grand nombre d’emplois, qualifiant cette suggestion de « pure absurdité ». Huang a fait valoir que les entreprises deviendraient plus productives et plus ambitieuses à mesure qu’elles adopteraient l’IA, ce qui augmenterait la demande de travailleurs capables d’utiliser cette technologie. Il a envisagé un avenir dans lequel chaque entreprise deviendrait une entreprise spécialisée dans l’IA et a averti que celles qui ne parviendraient pas à adopter cette technologie risqueraient d’être laissées pour compte.

Nvidia a un intérêt commercial majeur à ce que l’IA soit rapidement adoptée. Ses processeurs et ses systèmes informatiques sont utilisés pour entraîner et faire fonctionner bon nombre des modèles de pointe du secteur, tandis que la demande en infrastructures d’IA a fait grimper en flèche les bénéfices et la valorisation de l’entreprise. Selon une analyse, « l'IA n'est actuellement viable sur le plan économique pour aucun acteur », à l'exception des constructeurs de centres de données et des fabricants de matériel comme Nvidia.

Sam Altman estime que le public a « raison d’avoir peur »

S’exprimant plus tard dans la journée, Altman a déclaré que la rapidité du développement de l’IA avait suscité une inquiétude légitime au sein du public. « Je pense que le monde a raison d’avoir peur de cela », a-t-il déclaré, ajoutant qu’il fallait désormais moins d’imagination pour entrevoir comment des systèmes de plus en plus puissants pourraient mal tourner. Il a qualifié un incident au cours duquel des agents d’OpenAI ont compromis les systèmes d’une autre entreprise lors de tests de « signal d’alarme » pour le secteur et a appelé à un nouveau niveau de rigueur en matière de surveillance et de cybersécurité.

Altman a averti que des modèles librement accessibles, capables de causer de graves dommages, pourraient bientôt voir le jour, et a exhorté les entreprises à tirer parti de leur avantage actuel pour se préparer à des cyberattaques basées sur l’IA. Bien qu’il ait auparavant soutenu la proposition d’Amodei visant à ralentir le développement, Altman s’est dit déçu de la manière dont certains aspects de l’argumentation avaient été présentés.

Il a critiqué les entreprises qui laissaient entendre qu’elles n’agiraient de manière responsable que si leurs concurrents en faisaient de même, affirmant que ce genre de discours alimentait les craintes du public. « Le monde devrait avoir confiance en notre capacité à faire ce qu’il faut, simplement parce que c’est la bonne chose à faire », a déclaré Altman. Il a affirmé qu’OpenAI ralentirait ou arrêterait le développement si l’entreprise ne parvenait plus à maintenir des mesures d’alignement et de sécurité en avance sur les capacités de ses modèles.

Ce débat intervient alors qu’OpenAI et Anthropic se préparent à d’éventuelles introductions en bourse, ce qui renforce les enjeux financiers liés à toute décision d’accélérer ou de freiner le développement de l’IA de pointe. Pourtant, après l'appel de Dario Amodei, Sam Altman a annoncé qu'OpenAI ne fera pas son entrée en bourse cette année, et explique que c'est pour des raisons de sécurité. « Je dirais que ce ne sera pas en 2026 », a-t-il déclaré, ajoutant que « compte tenu de tout ce qui se passe en matière de sécurité, ce ne serait pas le moment opportun pour entrer en bourse ». Altman a déclaré que l'entreprise avait « beaucoup à faire » en matière de sécurité et d'alignement.

Débats sur la sécurité des systèmes et la régulation de l'IA

Les récents incidents concernant l'IA ont accentué la pression sur les parlementaires pour instaurer des règles de sécurité plus strictes. OpenAI et Anthropic ont tous deux appelé à la mise en place de systèmes de gouvernance capables de coordonner un ralentissement, à l’échelle du secteur, de la recherche sur les modèles de pointe. Cependant, cette proposition est controversée et la Chine constitue le « dilemme le plus épineux » de ce projet de ralentissement de l'IA.

Certaines propositions sont plus radicales. Dans une récente proposition de loi, le sénateur Bernie Sanders propose d'interdire « le développement de tout système d'IA dont les capacités dépasseraient l'intelligence humaine, qui posséderait la capacité de renverser des gouvernements ou d'échapper de manière autonome aux commandes d'arrêt ». Les parlementaires comparent la menace que pose cette technologie à celle des armes nucléaires.

Toutefois, alors que des figures majeures de l'industrie américaine de l'IA appellent à un ralentissement, Washington rejette cette idée. Le président Donald Trump a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ». Il a déclaré : « nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte ».

La Chine a également rejeté cette proposition, dénonçant des « discours alarmistes », bien que son plus haut responsable des services de renseignement ait averti que l'évolution rapide de l'IA pourrait menacer la sécurité politique et idéologique du Parti communiste. La Chine a notamment cité des modèles d'IA américains, notamment « Claude » d'Anthropic et « GPT-5.5-Cyber » d'OpenAI, affirmant qu'ils avaient été « militarisés » et qu'ils représentaient des menaces émergentes pour la cybersécurité. « L’alarmisme, la confrontation et la concurrence acharnée ne feront que perturber le processus de gouvernance mondiale de l’IA, ce qui ne sert les intérêts de personne », a déclaré le porte-parole chinois.

Et vous ?

Pensez-vous que ce débat est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

OpenAI, Anthropic et Google discutent depuis plusieurs semaines de la sécurité de l'IA, mais Trump qualifie ces préoccupations de canular et de complot visant à aider la Chine à rattraper les USA

« Nous n'avons pas besoin de nouvelles lois ni de réglementations sur l'IA, laissez-nous nous occuper de la sécurité », déclare Jensen Huang, PDG de Nvidia

Face à l'inquiétude croissante en matière de sécurité, Microsoft a publié un « Code de conduite pour une IA humaniste » destiné aux modèles d'IA, qui régit ses travaux sur la superintelligence

[jnspunk]

Sous couvert d'éthique, Anthropic et OpenAI qui sont au sommet veulent empêcher les autres de pourvoir concurrencer.
L'idéal pour eux, ce serait de réduire leur dépense en recherche et infrastructure, en se mettant d 'accord.

[Eliora]

Anthropic, OpenAI, Google et SpaceXAI s'entendent illégalement pour freiner le développement de l'IA, selon une plainte qui les accuse d'avoir enfreint la législation antitrust

Une nouvelle action en justice allègue que les géants de la technologie Anthropic, OpenAI, SpaceXAI et Google ont conclu un accord « illégal » visant à ralentir le rythme de leurs développements respectifs en matière d'IA. La plainte a été déposée récemment devant le tribunal fédéral du district nord de Californie. Les plaignants soutiennent que les principales entreprises du secteur ont enfreint les lois antitrust en convenant de coordonner leurs efforts pour ralentir les progrès. Les avocats représentant quatre plaignants intentent cette action au nom d'un groupe national proposé, composé d'autres abonnés payants à ces services. Les représentants d'Anthropic, d'OpenAI, de Google et de SpaceXAI n'ont pas immédiatement répondu à une demande de commentaires.

Récemment, OpenAI a entamé des discussions avec d'autres entreprises spécialisées dans l'IA, notamment Anthropic et Google, afin d'étudier les possibilités de collaboration pour répondre aux préoccupations en matière de sécurité. Ces discussions sont en cours depuis que Demis Hassabis, président de Google DeepMind, a publié en juillet une proposition appelant à la création d'un « organisme de normalisation » dirigé par les USA. OpenAI, Anthropic et Google sont des concurrents acharnés, mais ces entreprises subissent une pression intense pour répondre aux préoccupations croissantes en matière de sûreté et de sécurité de l'IA. Sam Altman a déclaré qu'il partageait l'avis de Dario Amodei quant à la nécessité de modérer le rythme de développement des modèles les plus avancés.

Une nouvelle action en justice allègue que les géants de la technologie Anthropic, OpenAI, SpaceXAI et Google ont conclu un accord « illégal » visant à ralentir le rythme de leurs développements respectifs en matière d’IA. La plainte a été déposée récemment devant le tribunal fédéral du district nord de Californie.

Que prétend cette plainte ?

Selon l’article, elle soutient que les principales entreprises du secteur de l’IA ont enfreint les lois antitrust en convenant de coordonner leurs efforts pour ralentir les progrès, et que cela réduirait la valeur que les consommateurs tirent de leurs abonnements payants à des services d’IA. La coordination a principalement eu lieu le 12 septembre, affirme la plainte, lorsque le PDG d’Anthropic, Dario Amodei, a publié un essai appelant à une coopération à l’échelle du secteur pour ralentir les avancées au profit de mesures de sécurité renforcées.

Le même jour, Sam Altman, PDG d'OpenAI, Elon Musk, PDG de SpaceXAI, et Demis Hassabis, cofondateur et président de Google DeepMind, ont chacun réagi publiquement aux propositions d'Amodei en exprimant leur accord. « Il est clair qu’un accord entre les principaux concurrents dans le domaine de l’IA, selon lequel leurs progrès “devraient être plus lents que ne le permettrait la concurrence”, a un effet anticoncurrentiel sur les consommateurs », ont fait valoir les plaignants.

Les avocats représentant quatre plaignants nommément cités, qui paient un abonnement à ChatGPT, Claude, Grok ou Gemini, intentent cette action au nom d’un groupe national proposé, composé d’autres abonnés payants à ces services. Les plaignants affirment qu’ils ne s’opposent pas à ce que les entreprises d’IA demandent au Congrès, à la Maison Blanche ou à toute autre agence d’élaborer une réglementation en matière d’IA, pas plus qu’ils ne s’opposent à ce que ces entreprises sollicitent une exemption antitrust.

Mais parvenir à ce type de collaboration avec le gouvernement fédéral pourrait s’avérer une tâche ardue. « L’IA échappera rapidement au contrôle humain et pourrait tous nous tuer si nous permettons que la sécurité et les protocoles de l’IA… soient régis par des accords privés égoïstes entre les entreprises technologiques à but lucratif les plus puissantes du monde », a déclaré Nick Rowley, l’avocat principal des plaignants. Les représentants d'Anthropic, d'OpenAI, de Google et de SpaceXAI n'ont pas immédiatement répondu à une demande de commentaires.

Qu'a déclaré Dario Amodei, de la société Anthropic ?

La semaine dernière, le PDG d’Anthropic, Dario Amodei, a appelé le secteur de l’IA à ralentir le rythme des progrès en matière de capacités des modèles, en présentant un plan en trois volets visant à gagner du temps pour gérer les risques potentiels. Sa déclaration fait suite à la démission de Jacob Coxon, un chercheur en IA de 27 ans qui a travaillé à la fois chez Anthropic et OpenAI, et qui a averti mercredi que l’IA pourrait précipiter l’extinction de l’humanité d’ici 2030.

D’Elon Musk, le patron de SpaceX et Tesla, à Sam Altman, PDG d’OpenAI, en passant par Demis Hassabis, cofondateur et président de Google DeepMind et directeur scientifique d’Alphabet, nombreux sont ceux qui ont soutenu les propos de Amodei appelant à un ralentissement du rythme d’amélioration des capacités des modèles d’IA. Dans son premier essai proposant ce ralentissement, Amodei a reconnu l’existence de problèmes potentiels en matière de droit de la concurrence, écrivant qu’il serait utile que le gouvernement américain joue un rôle de médiateur « ou, à tout le moins, facilite » ces discussions entre laboratoires.

Le gouvernement n'aurait pas besoin d'y participer, a-t-il précisé, mais devrait « accorder une dérogation limitée pour certains types de discussions relatives à la sécurité ». En réponse, Sam Altman a déclaré sur les réseaux sociaux qu'OpenAI accueillait favorablement l'idée d'un « cadre fédéral fixant des exigences cohérentes en matière de sécurité », mais a ajouté : « Nous ne pensons pas qu'il soit nécessaire d'attendre une dérogation antitrust ou une législation pour commencer à instaurer cette confiance ».

Trump annonce la création d’une « AI Force »

Le président Donald Trump a rejeté les appels à une réglementation des réseaux sociaux. Il a affirmé que toute tentative visant à limiter cette technologie s’inscrivait dans le cadre d’un « complot ». Il s’est interrogé sur les raisons pour lesquelles les leaders du secteur réclameraient une réglementation qui, selon lui, « si elle était rigoureusement appliquée, les mènerait à la disparition et à la faillite ». Récemment, Trump a déclaré sur les réseaux sociaux qu’il mettait en place un groupe de travail sur l’IA et qu’il nommerait un « tsar de l’IA », sans toutefois fournir davantage de détails.

L’administration Trump n’a pas caché son souhait de voir les laboratoires américains d’IA devancer et surpasser la concurrence chinoise. Alors que plusieurs dirigeants et candidats démocrates ont appelé à une action de grande envergure en matière de réglementation de l’IA, les républicains ont largement repris à leur compte la position de Trump. Le sénateur Josh Hawley a déclaré lors d’une récente audition au Sénat qu’il n’existait « aucun scénario » dans lequel il accepterait d’accorder aux « entreprises les plus puissantes de l’histoire du monde » une dérogation aux lois antitrust pour leur permettre de collaborer, arguant qu’elles pourraient s’entendre et étouffer la concurrence.

Jensen Huang, PDG de Nvidia Corp, avait rejeté la nécessité de nouvelles réglementations en matière de sécurité de l'IA, affirmant que les forces du marché aideraient les entreprises à innover en toute sécurité. « Nous n'avons pas besoin de nouvelles lois — nous n'avons pas besoin de nouvelles réglementations », avait déclaré Huang lors d'un événement organisé par Salesforce. Le PDG avait ajouté qu'il s'agissait d'un « faux dilemme » de croire que le développement de l'IA devait choisir entre sécurité et rapidité. Ces propos intervenaient alors que les risques liés à l'IA étaient devenus un sujet brûlant ces jours-là, notamment après la publication d'un essai de Dario Amodei proposant un ralentissement.

Source : PacerMonitor

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Dario Amodei, PDG d'Anthropic, souhaite freiner le développement de l'IA. Il a le soutien de Musk et Altman, mais la Chine reste le « dilemme le plus épineux » de ce projet de ralentissement

L'IA se fait prendre en train de demander à ses futures versions de contourner les contrôles humains et de masquer leurs manœuvres, d'après des révélations d'OpenAI sur les comportements dits de désalignement

Le projet de loi « AI Kill Switch Act » permettra à l'administration Trump d'ordonner la mise hors service de systèmes d'IA devenus incontrôlables, notamment de décider quand une IA doit être mise hors service

[Anthony]

22 nations, incluant plusieurs pays européens, soutiennent l'appel visant à maintenir l'IA « sous contrôle humain » et suggèrent la mise en place d'un régime de supervision mondial

Vingt-deux pays, dont l’Allemagne, le Canada, les Pays-Bas et les Émirats arabes unis, ont adopté le 21 septembre 2026 une déclaration affirmant que l’intelligence artificielle (IA) « doit rester sous la direction, la supervision et le contrôle de l’homme », et ont proposé la création d’un organisme mondial chargé de superviser cette technologie. Absents notables : les États-Unis et la Chine, les deux principales nations qui développent actuellement l’IA de pointe. Cette déclaration intervient quelques jours après que Dario Amodei, PDG d’Anthropic, a exhorté ses concurrents à ralentir le rythme du développement de l'IA, et alors qu’un groupe d’experts scientifiques soutenu par l’ONU cite le récent piratage de Hugging Face par une IA rebelle comme preuve de la « défaillance » des mesures de sécurité existantes.

Cette initiative internationale fait écho aux discussions déjà engagées en coulisses par les principaux acteurs du secteur. En effet, depuis plusieurs semaines, OpenAI, Anthropic et Google discutent des possibilités de collaboration pour répondre aux préoccupations en matière de sécurité de l'IA, un dialogue amorcé après la publication, en juillet, d'une proposition de Demis Hassabis, président de Google DeepMind, appelant à la création d'un organisme de normalisation piloté par les États-Unis. Bien que farouchement concurrentes, ces entreprises sont soumises à une pression croissante face aux inquiétudes grandissantes concernant la sûreté de l'IA. Sam Altman a notamment affirmé partager l'avis de Dario Amodei quant à la nécessité de ralentir le rythme de développement des modèles les plus avancés.

Plusieurs pays européens figuraient parmi les 22 nations qui ont adopté, le lundi 21 septembre 2026, une déclaration affirmant que l'IA « doit rester sous la direction, la supervision et le contrôle de l'homme », et proposant la mise en place d'un régime de supervision mondial.

Ces pays, parmi lesquels l'Allemagne, l'Afrique du Sud, le Canada, l'Australie, les Émirats arabes unis et Singapour, ont publié une déclaration commune alors que les dirigeants mondiaux s'apprêtent à débattre des risques liés aux progrès rapides de l'IA lors de la session annuelle de l'Assemblée générale des Nations unies.

Cette déclaration, publiée par le cabinet du président finlandais Alexander Stubb, appelle les gouvernements et le secteur privé à agir sans délai pour garantir que l'IA soit développée dans le respect du droit international et reste soumise à « la direction, la supervision et le contrôle de l'homme ».

« Pour exploiter pleinement le potentiel de l’IA, le secteur privé, les pouvoirs publics et la société doivent agir dès maintenant », indique la déclaration. « Nous devons faire face à ces risques et renforcer la surveillance, sans pour autant creuser l’écart entre les pays en matière d’accès aux avantages de l’IA. »

La déclaration exhorte les pays à élaborer et à coordonner des « normes communes », à partager les rapports relatifs aux incidents graves en matière de sécurité et à étudier la création d’une institution internationale chargée de « définir des normes, de permettre leur vérification et de convoquer les États lorsque les seuils de capacité sont franchis ».

Parmi les signataires figurent le chancelier allemand Friedrich Merz, le Premier ministre norvégien Jonas Gahr Store, la présidente de la Commission européenne Ursula von der Leyen, le président kenyan William Ruto, le président kazakh Kassym-Jomart Tokayev et le ministre turc des Affaires étrangères Hakan Fidan.

Les États-Unis et la Chine, les deux principales puissances mondiales en matière d’IA, n’ont pas adhéré à cette déclaration, qui reste « ouverte à l’adhésion » d’autres pays. Le président américain Donald Trump et le président chinois Xi Jinping devraient aborder le sujet de l’IA lors de leur rencontre à la Maison Blanche le jeudi 24 septembre, à l’occasion de leur troisième sommet en face à face en moins d’un an.

Washington et Pékin, qui se livrent une course effrénée pour dominer les technologies de pointe, ont tous deux rejeté les appels visant à ralentir le développement de l'IA afin de garantir une plus grande sécurité.

Parmi les autres acteurs du secteur de l'IA qui ne figurent pas parmi les signataires, on trouve l'Inde, la Corée du Sud, le Japon, le Royaume-Uni et la France.

Les dirigeants du secteur appellent à un ralentissement du rythme du développement de l'IA

Cette déclaration intervient alors que le secteur de l’IA est en proie à un vif débat sur la sécurité, suite aux appels lancés par de grands dirigeants du secteur en faveur d’un ralentissement de son développement.

Dans un essai publié au début du mois, le PDG d’Anthropic, Dario Amodei, a appelé les entreprises à « ralentir le rythme » du développement afin d’atténuer les risques, une proposition qui a rapidement été soutenue par des concurrents, notamment le PDG d’OpenAI, Sam Altman, et le PDG de SpaceX et de Tesla, Elon Musk.

L'appel d'Amodei fait suite à une série de cas où des modèles d'IA se sont livrés à des activités malveillantes non autorisées, notamment un incident survenu en juillet 2026 au cours duquel des agents IA testés par OpenAI ont piraté la start-up spécialisée dans l'IA Hugging Face.

Lors de la dernière intervention du secteur lundi, OpenAI a déclaré que les États-Unis devraient mener une initiative internationale visant à élaborer des normes techniques pour l'IA avancée.

« Les États-Unis sont bien placés pour jouer un rôle de premier plan, car leur secteur de l’IA se situe à la pointe de la technologie et le pays occupe toujours une position privilégiée au sein des réseaux mondiaux dans des domaines critiques tels que la finance, le commerce, la défense, la technologie et les systèmes d’information », a déclaré le géant de l’IA basé à San Francisco dans un article de blog. « C’est en prenant les devants aujourd’hui que les États-Unis détermineront s’ils façonneront le cadre mondial de l’IA ou s’ils verront s’imposer autour d’eux un système fragmenté, inégalitaire et en proie à des conflits. »

Le Groupe scientifique international indépendant sur l'IA, soutenu par l'ONU, qui a examiné l'incident de Hugging Face, s'est également joint lundi aux appels en faveur de nouvelles mesures de protection, affirmant que cette cyberattaque avait mis en évidence la « défaillance » des mesures de sécurité existantes.

Paradoxalement, ces appels à la prudence collective ont également suscité une contestation d'un tout autre ordre sur le terrain judiciaire. Une plainte déposée devant le tribunal fédéral du district nord de Californie accuse en effet Anthropic, OpenAI, Google et SpaceXAI de s'être entendus illégalement pour freiner le développement de l'IA, en violation de la législation antitrust. Portée par les avocats de quatre plaignants au nom d'un groupe national d'abonnés payants, cette action en justice illustre la difficulté de concilier les appels à la prudence concernant la sécurité de l'IA et les règles régissant la libre concurrence.

Déclaration commune des 22 pays

La déclaration du 21 septembre 2026 des 22 pays préconisant un renforcement des contrôles sur les modèles d'IA de pointe est présentée ci-dessous :

« L'intelligence artificielle est une technologie extrêmement puissante. Elle a le potentiel d'améliorer nos conditions de vie, de faire progresser la science et de renforcer nos économies.

Parallèlement, le développement rapide des modèles d'IA de pointe présente de graves risques pour la sûreté et la sécurité s'il n'est pas géré de manière appropriée.

Nous avons récemment constaté que des systèmes d'IA performants parvenaient à contourner les mesures de sécurité mises en place lors des tests, à exploiter des failles et à obtenir un accès non autorisé à des systèmes réels.

Des scientifiques et des dirigeants de premier plan mettent en garde contre le fait que le rythme du développement pourrait dépasser notre capacité à gérer les risques émergents.

Pour exploiter pleinement le potentiel de l'IA, le secteur privé, les pouvoirs publics et la société civile doivent agir dès maintenant. Nous devons faire face à ces risques et renforcer la surveillance, sans pour autant creuser l'écart entre les pays en matière d'accès aux avantages de l'IA.

L'IA doit rester sous la direction, la supervision et le contrôle de l'être humain. Elle doit être développée et utilisée dans le respect du droit international.

Nous saluons donc les initiatives récemment lancées visant à gérer les risques liés aux technologies de pointe, et appelons :

1. Les entreprises à mettre en place des protocoles de sécurité transparents, comprenant notamment des tests obligatoires avant le déploiement et une évaluation indépendante, les évaluateurs qualifiés devant disposer d’un accès suffisant pour évaluer les risques.
2. Les gouvernements et les organisations régionales à poursuivre l’élaboration et la coordination de normes communes, à renforcer la transparence — notamment par le partage des informations relatives aux incidents graves en matière de sécurité — et à veiller à ce que les pays de toutes les régions aient accès à des capacités scientifiques, à une expertise et à des évaluations fiables.
3. Les États membres de l’ONU à s’appuyer sur les mécanismes internationaux existants et à étudier la création d’une institution internationale, capable de définir des normes, de permettre la vérification et de convoquer les États lorsque des seuils de capacité sont franchis.

Jonas Gahr Støre, Premier ministre de la Norvège ; Alexander Stubb, président de la Finlande ; Petteri Orpo, Premier ministre de la Finlande ; Anthony Albanese, Premier ministre de l'Australie ; Dr Abdullatif bin Rashid Al Zayani, ministre des Affaires étrangères de Bahreïn ; Mark Carney, Premier ministre du Canada ; Mette Frederiksen, Première ministre du Danemark ; Kristen Michal, Première ministre de l'Estonie ; Ursula von der Leyen, présidente de la Commission européenne ; Friedrich Merz, chancelier fédéral d'Allemagne ; Kristrún Frostadóttir, Première ministre de l'Islande ; Micheál Martin, Premier ministre de l'Irlande ; Kassym-Jomart Tokayev, président du Kazakhstan ; William Ruto, président du Kenya ; Edgars Rinkēvičs, président de la Lettonie ; Maia Sandu, présidente de la Moldavie ; Rob Jetten, Premier ministre des Pays-Bas ; Lawrence Wong, Premier ministre de Singapour ; Pedro Sánchez, Premier ministre d'Espagne ; Cyril Ramaphosa, président de l'Afrique du Sud ; Hakan Fidan, ministre des Affaires étrangères de la Turquie ; Son Altesse le cheikh Abdullah bin Zayed Al Nahyan, vice-Premier ministre et ministre des Affaires étrangères des Émirats arabes unis »

Source : Communiqué des Nations unies

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous l'initiative de ces 22 pays crédible ou pertinente ?

Voir aussi :

Dario Amodei, PDG d'Anthropic, souhaite freiner le développement de l'IA. Il a le soutien de Musk et Altman, mais la Chine reste le « dilemme le plus épineux » de ce projet de ralentissement

Gemini, de Google, est le dernier modèle d'IA à s'être échappé et à avoir piraté des systèmes informatiques, se croyant en environnement de test alors qu'il était connecté à Internet

Trump propose de renommer l'IA, affirmant que son nom actuel est « inexact et très peu éloquent ». Il qualifie de « canular » les risques liés à l'IA et veut créer une « AI Force » pour protéger la technologie

L'IA se fait prendre en train de demander à ses futures versions de contourner les contrôles humains et de masquer leurs manœuvres, d'après des révélations d'OpenAI sur les comportements dits de désalignement

[Alex]

« Pour le bien de l'humanité » : les dirigeants du secteur technologique exhortent l'ONU à encadrer l'IA qu'ils ont créée, les dirigeants d'Anthropic et d'OpenAI appellent à une réglementation mondiale

Des dirigeants de trois des plus grandes entreprises mondiales d’intelligence artificielle (IA) ont récemment briefé le Conseil de sécurité de l’ONU, soulignant que des systèmes d’IA de plus en plus puissants pourraient bientôt s’améliorer d’eux-mêmes, échapper au contrôle humain et constituer une menace pour la sécurité internationale. « Si elle est mal gérée, je pense même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble », a déclaré Dario Amodei, PDG d’Anthropic. « Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être élaborées dans le cadre de processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent », a déclaré Sam Altman, PDG d'OpenAI. Pourtant, les États-Unis et la Chine, les deux acteurs dominants dans le développement de l’IA, restent divisés sur la question.

Les Nations unies (ONU) sont une organisation internationale intergouvernementale créée par la signature de la Charte des Nations unies le 26 juin 1945, dont la mission est de maintenir la paix et la sécurité internationales, de développer des relations amicales entre les États, de promouvoir la coopération internationale et de servir de centre d'harmonisation des actions des États pour atteindre ces objectifs. Les Nations Unies se sont principalement concentrées sur le développement économique et social. L’ONU est reconnue comme un leader mondial en matière de paix et de développement humain, mais elle a également été critiquée pour son inefficacité perçue, ses partialités et sa corruption.

Récemment, 22 pays, dont l’Allemagne, le Canada, les Pays-Bas et les Émirats arabes unis, ont adopté le 21 septembre 2026 une déclaration affirmant que l’intelligence artificielle (IA) « doit rester sous la direction, la supervision et le contrôle de l’homme », et ont proposé la création d’un organisme mondial chargé de superviser cette technologie. Absents notables : les États-Unis et la Chine, les deux principales nations qui développent actuellement l’IA de pointe. Cette déclaration intervient quelques jours après que Dario Amodei, PDG d’Anthropic, a exhorté ses concurrents à ralentir le rythme du développement de l'IA, et alors qu’un groupe d’experts scientifiques soutenu par l’ONU cite le récent piratage de Hugging Face par une IA rebelle comme preuve de la « défaillance » des mesures de sécurité existantes.

Dans ce contexte, des dirigeants de trois des plus grandes entreprises mondiales d’intelligence artificielle (IA) ont récemment briefé le Conseil de sécurité de l’ONU, soulignant que des systèmes d’IA de plus en plus puissants pourraient bientôt s’améliorer d’eux-mêmes, échapper au contrôle humain et constituer une menace pour la sécurité internationale. Parmi les intervenants devant le Conseil, composé de 15 membres, lors de la session annuelle de l’Assemblée générale, figuraient Sam Altman, PDG d’OpenAI, Dario Amodei, PDG d’Anthropic, et Clément Delangue, cofondateur de Hugging Face, trois des dirigeants les plus en vue du secteur.

Les leaders de l’IA mettent en garde l’ONU contre les risques pour la sécurité à mesure que les systèmes d'IA gagnent en puissance

Les gouvernements s’efforcent de trouver des moyens de superviser des systèmes d’IA qui évoluent plus rapidement que ne peuvent le faire les régulateurs, tandis que les États-Unis et la Chine — les deux acteurs dominants dans le développement de l’IA — restent divisés sur la question de savoir si cette technologie nécessite des garde-fous mondiaux ou si elle doit être laissée en grande partie aux forces du marché. « Si elle est mal gérée, je pense même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble », a déclaré Amodei, d’Anthropic, devant le Conseil de sécurité.

« Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être élaborées dans le cadre de processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent », a déclaré Altman au Conseil. « Au niveau international, cela nécessitera une coopération. » « Au cours de notre histoire, il y a eu des moments où des pays rivaux, qui ne s’appréciaient pas toujours beaucoup, se sont néanmoins unis pour défendre des intérêts communs et le bien collectif face à une nouvelle technologie puissante. Nous pensons que nous vivons actuellement l’un de ces moments », a-t-il ajouté.

Yoshua Bengio, un Canadien considéré comme l’un des « pères fondateurs de l’IA » et coprésident du Groupe scientifique international indépendant — créé l’année dernière par l’Assemblée générale des Nations unies —, a déclaré devant le Conseil de sécurité : « Les dangers sont réels et imminents. » « Ce Conseil est confronté à une menace sans précédent, une menace qu’aucun de ses membres n’aurait choisie, qu’aucun ne peut contenir à lui seul et qui ne respecte pas les frontières que nous défendons », a-t-il déclaré.

Les membres du Conseil, y compris les principaux rivaux en matière d’IA que sont les États-Unis et la Chine, devaient également prendre la parole. Le ministre français des Affaires étrangères, Jean-Noël Barrot, présidait la réunion.

Les États-Unis et la Chine ont discuté de la mise en place d’un système de notification

En amont d’une rencontre prévue à Washington entre le président américain Donald Trump et le dirigeant chinois Xi Jinping, les États-Unis et la Chine ont discuté de la mise en place d’un système de notification concernant les objectifs communs et les menaces communes, qui couvrirait les incidents liés à l’IA revêtant une importance en matière de sécurité nationale. Lors de l'Assemblée générale des Nations unies, Donald Trump a déclaré aux dirigeants mondiaux qu'il « rejetait toute tentative de mettre en place un système mondialiste visant à contrôler » l'IA, qualifiant cette technologie d'« extraordinaire », tout en précisant que les États-Unis resteraient prudents.

« Nous avons aujourd’hui une longueur d’avance considérable sur la Chine et sur tous les autres, et nous allons faire en sorte que cela reste ainsi », a déclaré Trump. « Je ne vais pas freiner la croissance de quelque chose qui sera plus important que la révolution industrielle. » « Nous allons l’encourager, et non la freiner. Nous allons la surveiller de près par l’intermédiaire du ministère de la Justice », a-t-il ajouté.

Le secrétaire général de l’ONU, Antonio Guterres, qui milite depuis longtemps en faveur d’une gouvernance mondiale de l’IA, a averti que les progrès rapides de l’intelligence artificielle présentaient des risques qui ne pouvaient être ignorés, ce qui le place en désaccord avec Trump. Le Conseil de sécurité s’est réuni pour la première fois sur les risques liés à l’IA en 2023, lorsque la Chine a déclaré que cette technologie ne devait pas devenir un « cheval emballé » et que les États-Unis ont mis en garde contre son utilisation à des fins de censure ou de répression. Antony Blinken, alors secrétaire d’État américain, a présidé une réunion du Conseil de sécurité sur l’IA en 2024.

Certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir.

Et vous ?

Pensez-vous que ces déclarations sont crédibles ou pertinentes ?
Quel est votre avis sur le sujet ?

Voir aussi :

Donald Trump rejette les appels des dirigeants du secteur technologique en faveur d'un ralentissement du développement de l'IA, affirmant que des « forces très négatives » exagéraient les risques liés à l'IA

L'ONU veut traiter l'IA avec la même urgence que le changement climatique : l'organisme voudrait instaurer une gouvernance mondiale de l'IA, pour en maximiser les avantages tout en minimisant les risques

Anthropic, OpenAI, Google et SpaceXAI s'entendent illégalement pour freiner le développement de l'IA , selon une plainte qui les accuse d'avoir enfreint la législation antitrust

[Artaeus]

Un bien beau théâtre pour empêcher l'IA de dire des gros mots et de générer des deepfake car c'est "dangereux" ...
Tout en la mettant dans des missiles, tanks et de la surveillance de masse.

Hypocrisie à son maximum

[urumaru]

Tout ce foin savamment orchestré pour en fait ralentir les concurrents étrangers...

Quand on voit les "pseudos" braking news qui "informent" que tel agent IA de telle boite a réussi tel exploit, j'aimerais bien avoir les instructions qui ont été données à cet agent IA pour mener les fameux piratages.

Cela met surtout en lumière la "qualité" des développements informatiques opérés par les États (ou plutôt les gouvernements) qui n'ont fait l'objet d'aucune évaluation sérieuse sur l'architecture et la robustesse du code.

alors quant au post quantique...

quand on ne veut pas qu'un agent atteigne internet, on l'installe sur un réseau fermé sans aucune connexion externe, c'est simple non ?

Dans le cas contraire, on demande à un autre agent IA d’empêcher tel agent IA d'aller sur internet, dans un réseau fermé qui dispose d'un pseudo internet, ça devrait être possible à simuler avec leurs datacenters de ouf.

enfin bref, un battage pour faire peur à la ménagère : à la fin des fins, c'est une question de responsabilité.

ces entreprises, sous couvert de pseudo perte de contrôle, essaient de se dédouaner de leurs responsabilités, surtout en cas de conflits dans lesquels des civils seraient tués à cause de leur technologie (cf école en iran).

rien que pour cela, ils devraient être poursuivis et recadrés sévèrement.

Je suis certain qu'avec une menace de prison à vie (ou de 200 ans de prison, c'est possible aux US), le contrôle serait subitement possible...