Discussion :

[Eliora]

Anthropic affirme avoir bloqué des tentatives d’utilisation de l’IA pour développer des armes biologiques, notamment liés à l’Iran et cinq cas de recherches biologiques à double usage avec Claude

Anthropic a déclaré avoir contrecarré cette année plusieurs tentatives de chercheurs visant à utiliser ses modèles d'IA pour des recherches biologiques susceptibles de contribuer au développement d'armes biologiques, ce qui a conduit l'entreprise à suspendre des comptes et à renforcer ses mesures de sécurité. L'entreprise a présenté cinq études de cas concernant des chercheurs qui avaient utilisé son chatbot Claude pour mener des recherches biologiques de pointe pouvant avoir des applications à double usage. Anthropic a souligné qu'elle ne prétendait pas que les chercheurs avaient l'intention de causer du tort, notant que la recherche biologique peut servir à mettre au point des vaccins et des traitements, mais qu'elle peut également faire l'objet d'abus.

Anthropic, PBC, est une société américaine d’intérêt public spécialisée dans l’intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Son produit phare est Claude, une série de grands modèles de langage (LLM) propriétaires. Anthropic a été fondée en 2021 dans le but de promouvoir la sécurité de l’IA par d’anciens membres d’OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, qui en sont respectivement la présidente et le PDG. La société est privée, mais envisagerait une introduction en bourse en 2026. Évaluée à 965 milliards de dollars américains lors d'un tour de table de série H en mai 2026, Anthropic est l'une des entreprises spécialisées exclusivement dans l'IA les plus valorisées au monde, rivalisant avec OpenAI.

Anthropic a déclaré récemment avoir contrecarré cette année plusieurs tentatives de chercheurs visant à utiliser ses modèles d'IA pour des recherches biologiques susceptibles de contribuer au développement d'armes biologiques, ce qui a conduit l'entreprise à suspendre des comptes et à renforcer ses mesures de sécurité. Dans un rapport de 154 pages intitulé « Détecter et lutter contre l’utilisation abusive de l’IA », l’entreprise spécialisée dans l’IA a présenté cinq études de cas concernant des chercheurs qui avaient utilisé son chatbot Claude pour mener des recherches biologiques de pointe pouvant avoir des applications à double usage.

À l'issue de son enquête, l'entreprise a déclaré avoir suspendu les comptes concernés, partagé ses conclusions avec les autorités gouvernementales et d'autres laboratoires d'IA, et renforcé ses mesures de sécurité. « Nous avons suspendu tous les comptes concernés, collaboré avec nos partenaires pour démanteler les réseaux relais qui contournaient les blocages régionaux, et partagé nos conclusions avec les laboratoires d'IA concernés et les autorités gouvernementales », a déclaré Anthropic.

Anthropic a souligné qu’elle ne prétendait pas que les chercheurs avaient l’intention de causer du tort, notant que la recherche biologique peut servir à mettre au point des vaccins et des traitements, mais qu’elle peut également faire l’objet d’abus. « Les capacités biologiques sont à double usage : elles peuvent être utilisées à des fins bénéfiques ou néfastes, et il est souvent difficile de faire la distinction entre les deux », indique le rapport.

« Les mêmes informations qui peuvent servir à mettre au point une arme biologique pourraient également servir à développer, par exemple, un vaccin ou un remède contre une maladie. » L’un des cas concernait un chercheur qui avait demandé à Claude de l’aider à rédiger une demande de subvention pour des recherches de « gain de fonction » sur le virus du chikungunya, transmis par les moustiques.

Anthropic a précisé que cette proposition visait à modifier le virus afin de le rendre plus contagieux et plus dangereux. Si ce type de recherche peut aider les scientifiques à mettre au point des vaccins et des traitements, l’entreprise a souligné qu’elle pouvait également être détournée pour rendre le virus plus nocif. L'entreprise a déclaré avoir bloqué la demande et découvert par la suite que les chercheurs utilisaient une plateforme tierce pour contourner les restrictions régionales et rediriger automatiquement les requêtes rejetées vers un autre modèle d'IA.

D'autres cas concernaient la grippe aviaire, la recherche sur les orthopoxvirus et la recherche liée aux venins et toxines non transmissibles, selon le rapport. « Les acteurs malveillants sophistiqués savent que nous (et d’autres fournisseurs d’IA) tentons de détecter les utilisations dangereuses de nos modèles, et ils exploitent la nature à double usage de la biologie pour conserver une sorte de « déni plausible » concernant leurs recherches », a déclaré l’entreprise.

Par ailleurs, le rapport détaille plusieurs cas liés à l’Iran dans lesquels des acteurs auraient utilisé Claude pour mener des campagnes d’influence, des opérations de surveillance et des recherches sur les forces navales américaines. « Nous avons identifié et neutralisé un acteur malveillant lié à l’Iran qui utilisait Claude pour collecter et analyser des données accessibles au public afin d’élaborer des recommandations de ciblage contre les forces navales américaines dans la région », a déclaré l’entreprise.

« Nous avons suspendu le compte de cet acteur, mis au point des mécanismes de détection pour réduire le risque d’abus futurs et partagé des renseignements sur la menace avec les autorités gouvernementales afin de neutraliser cette menace. » Ce rapport fait suite aux déclarations d’un chercheur senior en sécurité chez Anthropic, qui a affirmé que l’IA avait plus de 10 % de chances de « tuer tous les humains » au cours de la prochaine décennie, en réponse à un ancien employé ayant démissionné après avoir accusé l’entreprise d’agir de manière irresponsable.

Jacob Coxon, ancien chercheur chez Anthropic et OpenAI, a écrit dans un long fil de discussion publié sur X à l'occasion de sa démission que « les personnes qui développent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie ». « J'ai démissionné d'Anthropic. J'ai passé ces trois dernières années à mener des recherches sur le pré-entraînement, tant chez OpenAI que chez Anthropic. Aucune de ces deux entreprises n'agit de manière responsable. Elles se précipitent tête baissée vers une superintelligence capable de s'auto-améliorer et jouent avec nos vies », a-t-il écrit.

Jacob Coxon a brusquement démissionné cette semaine, avertissant que cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ». Dans un message publié sur X, il a accusé Anthropic et OpenAI de se lancer tête baissée dans la création d'une superintelligence capable de s'auto-améliorer, estimant que cette démarche revenait à « jouer avec nos vies ». Evan Hubinger, chef d’équipe chez Anthropic, a appuyé cet avertissement, estimant que la probabilité d’un tel scénario était « supérieure à 10 % » d’ici dix ans — une prise de position publique rare de la part d’un membre d’une entreprise développant cette même technologie.

Source : Anthropic

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Des dizaines de scientifiques de renom signent une initiative visant à prévenir l'utilisation d'armes biologiques par l'IA, l'accord reconnaît que l'IA présente des risques

Le Pentagone accélère l'intégration de l'IA pour maintenir sa compétitivité face à la Chine, avec des indications selon lesquelles les États-Unis développeront des armes autonomes létales

Yoshua Bengio, parrain de l'IA, met en garde contre le risque d'extinction de l'humanité d'ici dix ans, causée par des machines hyperintelligentes dotées de leur propre « désir d'autoconservation »

[noremorse]

Un jour avant que les premières bombes ne tombent sur l’Iran, le Pentagone a désigné Anthropic comme un risque pour la chaîne d’approvisionnement en matière de sécurité nationale. Cette classification est réservée aux adversaires étrangers. La dernière entreprise à l’avoir reçue était Huawei.

Le lendemain matin, Claude d’Anthropic, fonctionnant à l’intérieur de la plateforme Maven de Palantir sur des serveurs militaires classifiés, a identifié et priorisé plus de mille cibles iraniennes dans les premières vingt-quatre heures de l’opération Epic Fury. Ce qui nécessitait auparavant des jours d’analyse humaine a été réduit à des heures.

La même intelligence artificielle que le secrétaire à la Défense a tenté d’interdire jeudi a sélectionné les cibles que ses bombardiers ont frappées vendredi.

Ce n’est pas une contradiction. C’est l’architecture de cette guerre. Trois nations construisent trois chaînes d’IA tueuses distinctes en temps réel, chacune façonnée par ses propres contraintes, et aucune d’elles ne contrôle pleinement ce qu’elle a construit.

Du côté américain et israélien, Claude travaille aux côtés d’un système israélien appelé Lavender qui évalue les cibles humaines individuelles, d’un compagnon appelé Gospel qui génère des listes de cibles structurelles, et d’un traqueur appelé Where’s Daddy qui chronomètre les frappes pour lorsque les individus évalués se trouvent à des endroits connus. Ensemble, ils ont produit environ neuf cents paquets de frappes avant le premier lever du soleil. La vitesse comprime des jours de délibération en heures de production machine. Un commandant approuvant des cibles à ce rythme ne réalise pas l’évaluation de proportionnalité exigée par le droit international humanitaire. Une signature humaine apparaît dans le dossier. La délibération qu’elle représente a été structurellement éliminée par la vélocité du système qui présente les options.

Le 1er mars, environ 165 étudiantes ont été tuées dans une frappe près d’une base navale des Gardiens de la révolution à Minab. Ni les États-Unis ni Israël n’ont revendiqué la responsabilité. Aucune révision de ciblage par IA n’a été annoncée.

Du côté iranien, l’IA est primitive et stratégiquement parfaite. Les drones des Gardiens de la révolution transportent une vision par ordinateur basique et une navigation par satellite chinoise BeiDou qui résiste aux brouillages américains, fournis dans le cadre d’un partenariat de vingt-cinq ans. Un drone de vingt mille dollars doté d’une intelligence machine suffisante pour forcer la dépense d’un intercepteur de quinze millions de dollars. L’Iran n’a pas besoin d’une IA qui pense. Il a besoin d’une IA qui coûte moins cher que le missile qui la détruit.

https://x.com/shanaka86/status/2030082276432953553

Derrière les deux, un troisième acteur IA. MizarVision, une entreprise de satellites de Shanghai évaluée par les analystes occidentaux comme une façade de renseignement, a publié des images annotées par IA gratuite des positions militaires américaines avant que la guerre ne commence. Des F-22 en Israël. Des AWACS en Arabie saoudite. Des batteries THAAD en Jordanie. L’Iran a ensuite frappé le radar THAAD aux coordonnées publiées.

Le monopole de surveillance qui donnait aux opérations américaines un avantage structurel pendant des décennies n’a pas été vaincu par un programme spatial rival. Il a été éliminé par des satellites commerciaux coûtant moins cher qu’un seul intercepteur.

Trois nations. Trois architectures IA. L’Amérique comprime la chaîne de destruction de jours en heures. L’Iran comprime le coût de l’attaque en dessous du coût de la défense. La Chine comprime l’avantage informationnel qui a rendu possible la projection de puissance américaine depuis 1945.

Et une école à Minab se trouve dans l’écart entre la vitesse des machines et la responsabilité humaine, dix ans d’images satellites montrant que c’était une école, et personne n’est prêt à dire quel algorithme l’a mise sur la liste.

[Jade Emy]

Anthropic affirme que l'Iran a utilisé Claude pour cibler des navires de la marine américaine, des groupes liés à la Russie et à la Chine ont également utilisé Claude à des fins militaires et de surveillance

Des groupes alignés sur l’État iranien et liés à l’Iran ont utilisé la plateforme d’IA Claude d’Anthropic pour mener des campagnes de propagande, effectuer de la surveillance intérieure et élaborer des recommandations de ciblage contre les forces navales américaines. Anthropic a déclaré avoir mis fin à des activités malveillantes impliquant Claude entre décembre 2025 et août 2026, notamment des cyberopérations, des campagnes d’influence et des activités de surveillance. Ces révélations interviennent dans un contexte de tensions accrues entre l’Iran et les États-Unis, notamment en raison d’attaques impliquant les forces américaines et iraniennes autour du détroit d’Ormuz.

Anthropic est une société d'intérêt public américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Son produit phare est Claude, une série de grands modèles de langage (LLM) propriétaires. Anthropic a été fondée en 2021 dans le but de promouvoir la sécurité de l'IA par d'anciens membres d'OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, respectivement présidente et PDG. La société est privée, mais envisagerait une introduction en bourse en 2026. Anthropic développe le LLM Claude en quatre niveaux : Haiku, Sonnet, Opus et Fable. Claude est accessible via un chatbot en ligne, une API et les outils d’Anthropic : Claude Code, Cowork, Design et Science.

Début septembre 2026, Anthropic a déclaré avoir contrecarré cette année plusieurs tentatives de chercheurs visant à utiliser ses modèles d'IA pour des recherches biologiques susceptibles de contribuer au développement d'armes biologiques, ce qui a conduit l'entreprise à suspendre des comptes et à renforcer ses mesures de sécurité. L'entreprise a présenté cinq études de cas concernant des chercheurs qui avaient utilisé son chatbot Claude pour mener des recherches biologiques de pointe pouvant avoir des applications à double usage. Anthropic a souligné qu'elle ne prétendait pas que les chercheurs avaient l'intention de causer du tort, notant que la recherche biologique peut servir à mettre au point des vaccins et des traitements, mais qu'elle peut également faire l'objet d'abus.

Selon un nouveau rapport, des groupes alignés sur l’État iranien et liés à l’Iran ont utilisé la plateforme d’IA Claude d’Anthropic pour mener des campagnes de propagande, effectuer de la surveillance intérieure et élaborer des recommandations de ciblage contre les forces navales américaines. Anthropic a déclaré avoir mis fin à des activités malveillantes impliquant Claude entre décembre 2025 et août 2026, notamment des cyberopérations, des campagnes d’influence et des activités de surveillance. L’entreprise a indiqué que plusieurs comptes liés à l’Iran avaient utilisé ce modèle d’IA pour automatiser ou soutenir des activités allant de la production de propagande d’État à l’analyse des utilisateurs des réseaux sociaux, en passant par la collecte d’informations sur les positions militaires américaines.

Ces révélations interviennent dans un contexte de tensions accrues entre l’Iran et les États-Unis, notamment en raison d’attaques impliquant les forces américaines et iraniennes autour du détroit d’Ormuz. Le trafic maritime commercial dans cette voie navigable est resté limité alors que le conflit se poursuit, l’Iran cherchant à exercer un contrôle accru sur le trafic transitant par ce détroit stratégique.

Anthropic a déclaré avoir identifié et supprimé trois comptes affiliés à des institutions de propagande d’État iraniennes. Ces comptes étaient liés à l’Organisation de la culture et de la communication islamiques, rattachée au ministère iranien de la Culture et de l’Orientation islamique, au Bureau de propagande islamique du Khorasan Razavi et à l’Observatoire culturel Bina de l’Organisation de propagande islamique.

Selon Anthropic, ces comptes utilisaient Claude pour élaborer des plans de campagne, des manuels de doctrine de propagande, des personas et des bases de données de cibles. Ils transformaient également des bulletins officiels des services de renseignement gouvernementaux en contenus sur mesure en farsi, en arabe, en ourdou, en malais, en espagnol et en anglais, avec l’intention de les diffuser dans pas moins de 20 langues. Ces contenus étaient diffusés sur X, Instagram, Telegram, TikTok et YouTube, ainsi que sur des plateformes iraniennes telles qu’Eitaa, Bale et Rubika. Anthropic a indiqué qu’une partie de ces contenus apparaissait sur des chaînes favorables aux discours du Corps des gardiens de la révolution islamique (CGRI).

L’entreprise a classé cette opération d’influence dans la catégorie 3 de son échelle « Breakout Scale », ce qui indique que l’activité impliquait une diffusion sur plusieurs plateformes.
Au cours de la guerre de 2026 entre les États-Unis, Israël et l’Iran, Anthropic a indiqué que le réseau avait également attribué de fausses allégations à des organismes de recherche occidentaux, notamment le CSIS, la Brookings Institution et la RAND, dans le but apparent de rendre plus crédibles les discours soutenus par l’État iranien.

Anthropic a par ailleurs identifié un compte lié à l’Iran qui utilisait Claude pour collecter et analyser des informations accessibles au public concernant les forces navales américaines dans la région. Selon la société, ce compte utilisait le modèle d’IA pour compiler des manuels de ciblage et identifier et suivre les positions navales à l’aide d’informations issues de sources ouvertes. Anthropic a précisé que cette activité impliquait l’élaboration de recommandations susceptibles d’être utilisées contre les forces navales américaines.

Le rapport sur les menaces détaillait également l’utilisation de Claude par des unités paramilitaires et liées à la sécurité iraniennes à des fins de surveillance intérieure. Anthropic a déclaré avoir banni 16 comptes gérés par deux unités liées à des agences paramilitaires et de sécurité iraniennes. Une organisation a affirmé avoir surveillé et établi le profil de 6 388 Iraniens en l’espace d’une seule année et tenu à jour une base de données d’identité. Anthropic a indiqué que Claude avait été utilisé pour contribuer à la mise en place de ce qu’elle a estimé être un système de gestion des dossiers de surveillance probablement contrôlé par le gouvernement, ainsi que pour analyser 155 216 tweets.

Ce rapport intervient alors qu'Anthropic a révélé un nouvel incident qui serait qualifié de crime s’il avait été commis par une personne. Alors que le secteur s’interroge sur la possibilité que l’IA puisse s’améliorer au point de tuer tout le monde, l'entreprise spécialisée dans l'IA a publié « une évaluation d'alignement » détaillant les quatre occasions où des modèles Claude ont accédé à des systèmes tiers sans autorisation. La société avait déjà signalé trois de ces incidents. La preuve du quatrième se cachait dans la transcription d'une session datant de janvier 2026, date à laquelle le comportement inapproprié s'est produit.

Anthropic révèle des tentatives d’utilisation de l’IA dans le nord du Yémen

Anthropic a publié un rapport détaillant l’utilisation abusive de son modèle de langage Claude (LLM) par divers acteurs, étatiques et non étatiques, à travers le monde, allant des cyberopérations et opérations d’influence à l’utilisation abusive à des fins biologiques et au développement d’armes. Couvrant une période de huit mois, ce rapport, selon Anthropic, recense des cas qui « ne constituent pas des abus classiques, mais plutôt des exemples des activités menaçantes les plus marquantes et les plus novatrices que nous ayons identifiées à ce jour ».

L’un des abus les plus significatifs identifiés par Anthropic provient d’« une cellule d’acteurs malveillants basée dans le nord du Yémen, qui mène trois programmes de développement d’armes ». Ces programmes comprennent une roquette guidée utilisant un ordinateur de vol avec un système de guidage à tête chercheuse en phase finale, un missile balistique à plusieurs étages d’une portée de 2 000 km, et un missile à variantes multiples comprenant notamment une variante dotée d’un véhicule planant hypersonique.

Bien que cela ne soit pas explicitement mentionné, il est probable que l’entreprise fasse référence aux rebelles houthis du Yémen qui, grâce à leur coopération avec l’Iran, ont développé et tiré des missiles balistiques, notamment contre l’Arabie saoudite, les Émirats arabes unis, Israël et le gouvernement yéménite reconnu par l’ONU. Claude a été utilisé par le groupe pour développer des logiciels de guidage, de navigation et de contrôle permettant à la fois de diriger et de stabiliser tout engin volant, a déclaré Anthropic, en utilisant le LLM dans plusieurs instances simultanément, notamment pour l’écriture de code, la recherche et la révision du code produit par la première instance.

Les modèles d’IA peuvent être divisés en instances distinctes afin d’effectuer plusieurs tâches à la fois. « Ces acteurs ont déployé des efforts soutenus pour développer des armes guidées, notamment en utilisant Claude pour concevoir des logiciels de guidage », a déclaré Anthropic, ajoutant ne disposer d’aucune preuve indiquant que le groupe y soit parvenu. Cependant, Anthropic a noté que toutes les tentatives visant à bloquer les demandes d’utilisation n’avaient pas abouti, et qu’il existait des preuves indiquant que le groupe « avait déjà mis au point une boîte à outils de simulation hors ligne ne reposant ni sur Claude ni sur d’autres environnements informatiques d’ingénierie ».

Anthropic a également détecté plusieurs utilisations abusives de Claude liées à l’Iran

Il s’agit notamment de l’utilisation de Claude pour des opérations d’influence alignées sur l’État dans le cadre d’une « guerre douce » ou d’une « guerre cognitive », c’est-à-dire « un plan non militaire visant à façonner l’opinion publique au niveau national et à l’étranger ». Parmi les entités étatiques identifiées par Anthropic figurent l’Organisation de communication culturelle islamique, le Bureau de propagande islamique de Khorasan Razabi et l’Observatoire culturel Bina de l’Organisation de propagande islamique.

« Dans chaque cas, l’opération s’est appuyée sur Claude pour élaborer des plans de campagne, des manuels de doctrine, des systèmes de profils types, des bases de données de cibles et des documents de planification ministériels », indique le rapport, ajoutant que ceux-ci avaient pour but de produire de la propagande pro-iranienne pendant la guerre, d’attribuer de fausses allégations à des instituts de recherche occidentaux et de « déployer des contenus de contre-discours agressifs ciblant les baha’is », ainsi que des responsables internationaux et des figures de l’opposition.

Dans une autre affaire, Anthropic a suspendu 16 comptes Claude liés « avec un haut degré de certitude » aux agences paramilitaires et de sécurité intérieure iraniennes, qui participaient à la mise en place de capacités de surveillance nationale. Cela inclut l’utilisation de Claude pour développer « une interface pour ce qui est probablement un système de gestion des dossiers de surveillance contrôlé par le gouvernement, et pour effectuer une analyse des réseaux sociaux portant sur 155 216 tweets », tandis qu’une unité distincte développait une extension pour le navigateur Internet Firefox, afin de collecter massivement les identités des utilisateurs sur les plateformes de réseaux sociaux.

Outre la surveillance de l’opposition nationale, Claude a également été utilisé dans un autre cas pour la surveillance de masse des profils de personnes israéliennes et juives afin d’enrichir une liste de cibles préexistante. Dans un autre cas, Anthropic a fermé des comptes Claude qui étaient utilisés pour collecter et analyser des données afin d’élaborer des recommandations de ciblage contre les forces navales américaines dans la région, en utilisant des photographies militaires publiques, des identifiants de transpondeurs de navires et d’aéronefs accessibles au public, des scripts d’imagerie satellite commerciale et des inventaires provenant de sites web publics documentant les mouvements de la marine américaine.

Ce même compte développait des systèmes de surveillance de masse nationaux via Claude afin de « concevoir des composants logiciels d’une plateforme de surveillance de masse nationale combinant la reconnaissance automatique des plaques d’immatriculation et l’interception des identifiants d’appareils mobiles ». Outre le gouvernement iranien, Anthropic a également mis fin à une opération d’influence menée par l’Organisation des Moudjahidine du peuple iranien et le Conseil national de la résistance iranienne, qui tentait de cibler les Iraniens vivant en Iran et dans la diaspora, notamment en diffusant leurs propres arguments, accompagnés d’allégations inventées de toutes pièces.

Le gouvernement des Émirats arabes unis avait fait un usage abusif d’Anthropic

Le rapport a révélé que le gouvernement des Émirats arabes unis avait fait un usage abusif d’Anthropic : un compte Claude, sous le pseudonyme « Deadshot », a notamment été identifié comme menant « une opération d’influence soutenue contre les Frères musulmans ». Dans le cadre de cette initiative, l’opération a permis de créer 300 comptes d’influenceurs sur les réseaux sociaux, ainsi qu’une ONG de façade s’inspirant de l’identité d’une véritable organisation suisse afin de publier des rapports sur les droits de l’homme rédigés par l’État et de rédiger à la place des témoignages présentés par deux personnes lors de la 62e session du Conseil des droits de l’homme des Nations unies.

Le compte a également « effectué des recherches et établi le profil de 18 députés européens et de journalistes de premier plan », en étoffant leurs profils, et a constitué des dossiers sur des rapporteurs spéciaux de l’ONU qui avaient critiqué la conduite des Émirats arabes unis au Soudan. Anthropic a déclaré que, bien que l’opération ait été conçue pour ne pas pouvoir être rattachée à des acteurs spécifiques, « notre enquête l’a reliée avec un haut degré de certitude à des responsables du gouvernement des Émirats arabes unis ».

Les Ouïghours en Syrie et en Turquie

Anthropic a identifié une opération soutenue par la Chine visant à suivre, profiler et recruter des Ouïghours ainsi que des formations armées ouïghoures en Syrie. Les Ouïghours constituent une minorité ethnique musulmane de l’est de la Chine qui, selon les organisations de défense des droits de l’homme, est victime de violations des droits de l’homme de la part de Pékin. « Les cibles armées étaient des Ouïghours de souche qui avaient récemment rejoint l’Armée syrienne nouvellement formée, des formations que le gouvernement de la République populaire de Chine qualifie de terroristes », indique le rapport.

L’acteur a tenté de communiquer avec des personnes en Syrie ayant accès à ces formations afin de les recruter, en leur proposant une rémunération en échange d’informations. L’acteur a également utilisé Claude pour localiser des entreprises et des lieux d’intérêt ouïghours en Syrie, y compris des journalistes issus de la diaspora ouïghoure présente dans ce pays. « Nous estimons, avec un faible degré de certitude, que l’acteur était un sous-traitant travaillant pour le compte des services de sécurité de la République populaire de Chine plutôt qu’un organe de sécurité de l’État agissant directement. »

Des acteurs basés en Chine ont également été interdits de cibler des dissidents au sein d’organisations de défense des droits des Ouïghours et de lieux accueillant des événements culturels ouïghours en Turquie.

Des comptes Claude ont été identifiés comme faisant l’objet d’une utilisation abusive dans le Golfe

Anthropic a ainsi banni un compte qui utilisait Claude pour « mettre en place une plateforme de surveillance commerciale visant à analyser, classer et établir le profil de l’activité des utilisateurs sur les réseaux sociaux en Iran et dans la région du golfe Persique ». Selon Anthropic, ce compte était lié à S2T Unlocking Cyberspace, qui, d’après leurs recherches, serait un prestataire de renseignements commerciaux israélo-singapourien. Le rapport indique que cette opération « cartographiait les emplacements des utilisateurs des réseaux sociaux, classait la population en groupes démographiques codés et produisait des notes de renseignement en arabe rédigées dans le style d’un rapport gouvernemental ».

L’acteur identifié s’est avéré « constituer un portefeuille de systèmes multimarques » au service de clients arabophones du Golfe, en capturant et en stockant les localisations des utilisateurs des réseaux sociaux issus de la diaspora, en les classant dans les camps pro-gouvernementaux ou d’opposition, ainsi qu’en les intégrant dans une classification démographique comprenant des groupes urbains, religieux, militaires, de jeunes, de la diaspora et ruraux.

Un volet d’activité secondaire a également été identifié, comprenant plus de 255 comptes synthétiques sur les réseaux sociaux, ce qui suggère que « l’acteur constituait un stock de faux comptes destinés à être déployés ultérieurement ». Anthropic a indiqué que cette activité en était à un stade pilote et qu’il n’existait aucune preuve que les étapes ultérieures des modifications apportées au dispositif de surveillance du groupe aient été utilisées contre de véritables cibles avant que le compte ne soit banni.

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Une erreur d'IA serait à l'origine d'un bombardement d'une école de filles en Iran : précisément le genre de situation redoutée par Anthropic, mais le Pentagone veut l'IA sans garde-fous

Anthropic dévoile les campagnes de « distillation » menées par Alibaba, Moonshot AI et DeepSeek, pour extraire les capacités de l'IA Claude

La guerre à base d'intelligence artificielle et de robots est déjà une réalité sur les champs de bataille. L'IA a évolué du rôle d'assistant à celui de décideur de vie ou de mort des humains

[Anselme45]

Anthropic affirme que l’Iran a utilisé Claude pour cibler des navires de la marine américaine

Qui cela peut bien étonner?

Quand on met à disposition du monde entier un modèle IA, le monde entier est susceptible de l'utiliser y compris les pédophiles, les escrocs, les hackers, les mafias et autres sympathiques représentants de l'espèce humaine... Russes, iraniens, nord-coréens n'y font pas exceptions!

[Eliora]

L'Iran et les Houthis ont utilisé Claude d’Anthropic pour cibler des navires américains, développer des missiles hypersoniques et programmer des systèmes de guidage de missiles balistiques

Anthropic AI affirme avoir déjoué plusieurs opérations malveillantes menées à l'aide de ses modèles Claude, allant du cyberespionnage à la conception d'armes, en passant par des campagnes de surveillance de masse. Dans un nouveau rapport, l'entreprise affirme être intervenue dans le nord du Yémen, où elle a empêché une tentative de déploiement de Claude dans un logiciel de guidage de missiles. Le rapport précise que la société a suspendu les comptes impliqués et partagé des informations sur la menace avec des partenaires. Les relations entre Washington et cette entreprise restent tendues à la suite d'un bras de fer concernant les garde-fous éthiques.

Récemment, des groupes alignés sur l’État iranien et liés à l’Iran ont utilisé la plateforme d’IA Claude d’Anthropic pour mener des campagnes de propagande, effectuer de la surveillance intérieure et élaborer des recommandations de ciblage contre les forces navales américaines. Anthropic a déclaré avoir mis fin à des activités malveillantes impliquant Claude entre décembre 2025 et août 2026, notamment des cyberopérations, des campagnes d’influence et des activités de surveillance. Ces révélations interviennent dans un contexte de tensions accrues entre l’Iran et les États-Unis, notamment en raison d’attaques impliquant les forces américaines et iraniennes autour du détroit d’Ormuz.

Anthropic AI affirme avoir déjoué plusieurs opérations malveillantes menées à l'aide de ses modèles Claude, allant du cyberespionnage à la conception d'armes, en passant par des campagnes de surveillance de masse. En ce qui concerne les armes conventionnelles, l'entreprise affirme dans un nouveau rapport être intervenue dans le nord du Yémen, où elle a empêché une tentative de déploiement de Claude dans un logiciel de guidage de missiles, notamment une roquette guidée et un missile balistique à longue portée.

Développement de missiles et de fusées assisté par l’IA

Selon le rapport sur les menaces d’Anthropic, les opérateurs ont utilisé Claude « à la place d’ingénieurs logiciels humains », attribuant apparemment à différentes instances du modèle des rôles spécifiques pour écrire des logiciels de guidage de missiles et de contrôle de vol. Bien que des mesures de sécurité internes aient bloqué de nombreuses requêtes, Anthropic a admis que plusieurs d’entre elles avaient réussi à passer entre les mailles du filet. Les opérateurs ont évité d’être détectés en dissimulant leurs objectifs finaux et en fractionnant les tâches en plusieurs sessions distinctes, de sorte qu’aucune instruction unique n’a permis de dévoiler l’opération.

La société a déclaré ne disposer d’aucune preuve indiquant que le groupe ait réussi à mettre au point une arme opérationnelle, bien qu’Anthropic ait affirmé que les opérateurs semblaient avoir procédé à un tir d’essai infructueux. Le rapport précise que la société a suspendu les comptes impliqués et « partagé des informations sur la menace avec des partenaires des secteurs public et privé afin d’atténuer les risques posés par ces acteurs ».

Cyberespionnage lié à l'État

Le rapport affirme qu'une opération d'espionnage liée à la Russie, présentant les caractéristiques de Midnight Blizzard (ou APT29), s'appuyait, selon Anthropic, sur des flux de travail automatisés basés sur l'IA pour mener la quasi-totalité de l'opération, gérant tout, du phishing à la mise en place en passant par le vol de données, à l'encontre de cibles ukrainiennes, européennes et diplomatiques, y compris des fabricants de drones.

Par ailleurs, l’entreprise a déclaré avoir démantelé une opération chinoise menée par des étudiants universitaires de la province du Hunan, qui utilisaient Claude « comme couche d’ingénierie et d’orchestration » d’un programme offensif ciblant des réseaux gouvernementaux et d’entreprises au Moyen-Orient, en Europe et en Asie du Sud-Est. Dans les deux cas, Anthropic a indiqué avoir suspendu les comptes associés et mis en place une surveillance renforcée afin de détecter toute activité similaire.

Identification de cibles, notamment en Syrie et en Iran

Anthropic affirme également avoir identifié et supprimé trois comptes liés à l’État iranien qui utilisaient Claude pour mener des opérations secrètes d’influence et de guerre psychologique. Chaque opération était liée à une institution de propagande iranienne nommément citée, notamment l’Organisation de la culture et de la communication islamiques et une cellule de commandement d’un séminaire de Mashhad diffusant des contenus conformes aux discours du Corps des gardiens de la révolution islamique (CGRI).

Dans un autre cas, le rapport affirme que des groupes proches de l’État ont utilisé Claude pour une opération à grande échelle, en demandant au modèle de générer des profils structurés qui cartographiaient les cibles en fonction de leur localisation, de leurs caractéristiques démographiques, de leurs orientations politiques et de leurs scores de confiance.

« Le cas le plus abouti sur le plan opérationnel », note Anthropic dans son rapport, a été détecté lorsqu’un compte aligné sur la Chine, « ne maîtrisant pas la langue arabe », a utilisé Claude pour mener une « opération de recrutement de plusieurs jours visant à infiltrer des cibles ouïghoures en Syrie ». Anthropic précise que « le modèle a rédigé des messages de prise de contact dans le dialecte régional » et « traduit les réponses en temps réel ».

En début de semaine, Anthropic a révélé un nouvel incident au cours duquel un modèle d’IA a obtenu un accès non autorisé à des systèmes externes, impliquant une première version de Claude Opus 4.6, peu après que Jacob Coxon, ancien chercheur de l’entreprise, ait démissionné publiquement en raison de préoccupations liées à la sécurité. « Les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a averti Coxon dans un message publié sur X. Un autre scientifique d’Anthropic, Evan Hubinger, s’est ensuite exprimé pour affirmer que Coxon avait raison.

Les avertissements des chercheurs ont conduit un nombre croissant de législateurs américains à réclamer de nouvelles règles pour encadrer les systèmes d’IA. Anthropic a déclaré qu’elle enquêtait sur les problèmes récurrents et les failles constatées dans ces incidents et qu’elle avait fait appel à un cabinet de recherche indépendant pour les examiner.

Relations avec Washington

Les relations entre Washington et cette entreprise spécialisée dans l'IA restent tendues à la suite d'un bras de fer controversé concernant les garde-fous éthiques. En début d'année, le Pentagone a inscrit l'entreprise sur sa liste noire, la considérant comme un risque pour la chaîne d'approvisionnement, après qu'elle eut refusé de lever les mesures de protection visant à empêcher l'utilisation de sa technologie pour des armes autonomes et la surveillance intérieure.

Anthropic a contesté cette décision en Californie, où un juge a estimé le mois dernier que le ministère américain de la Défense avait agi de manière illégale en prononçant cette mesure. Pourtant, malgré cette âpre bataille juridique et les tensions publiques, le Pentagone aurait déployé les modèles « Claude » de l’entreprise dans le cadre de missions militaires en Iran et au Venezuela. Ce rapport intervient à un moment critique pour l’entreprise, qui cherche à retrouver pleinement sa place au sein de la base industrielle de défense américaine après avoir été mise sur la liste noire du Pentagone.

Plus récemment, Jacob Coxon, un chercheur en IA ayant travaillé chez Anthropic et OpenAI, a brusquement démissionné, avertissant que cette technologie « pourrait tous nous tuer d’ici la fin de la décennie ». Dans un message publié sur X, il a accusé les deux entreprises de se lancer tête baissée dans la création d'une superintelligence capable de s'auto-améliorer, estimant que cette démarche revenait à « jouer avec nos vies ». Evan Hubinger, chef d’équipe chez Anthropic, a appuyé cet avertissement, estimant que la probabilité d’un tel scénario était « supérieure à 10 % » d’ici dix ans — une prise de position publique rare de la part d’un membre d’une entreprise développant cette même technologie.

Source : Anthropic

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Anthropic a été illégalement blacklisté par l'administration Trump, d'après le tribunal qui estime que cette mesure constitue « une rétorsion illégale, contraire au premier amendement »

Le Pentagone continue de considérer Anthropic comme un « risque pour la chaîne d'approvisionnement » malgré la décision de justice, ce qui constitue un rejet pur et simple de l'ordonnance judiciaire

Une puce IA de Nvidia a été découverte dans le nouveau missile de croisière russe S-71 Monochrome, conçue pour exécuter des applications d'IA sur les appareils sans nécessiter de connexion permanente