Discussion :

[Ryu2000]

tu peux aussi participer à un financement participatif et recevoir le produit si elle arrive a concrétiser le projet

Je ne sais pas.
J'ai déjà participé à des financements participatifs et ça n'avait rien à voir, il y a avait des paliers à atteindre et à partir du moment où le premier palier était atteint, t'avais la garantie qu'on allait te livrer quelque chose.
Après il y a 2 trucs soit des contres parties (des petits cadeaux), soit l'oeuvre (par exemple si tu finances une BD).

J'ai participé au financement de ça par exemple :
Effondrement - La première BD d'Alexis, l'auteur de la chaîne Youtube "L'Actu Animée".
Stupeflip. Nouvel Album. 3 Mars 2017.
Les FDP de Tubonia - La BD d'Absol Vidéos, Anthox Colaboy, Sir Gibsy et leDESSINATOR

Mais bon je ne vois pas très bien le lien avec les startups, je parlais des milliards que l'état investissait alors qu'elle vont probablement toute faire faillite assez rapidement
Enfin bref, peu importe.

La France investit déjà beaucoup dans l'IA et elle ne pourra jamais rivaliser avec les USA, la Chine, ni même la Russie.

[calvaire]

Mais bon je ne vois pas très bien le lien avec les startups, je parlais des milliards que l'état investissait alors qu'elle vont probablement toute faire faillite assez rapidement
Enfin bref, peu importe.

le rapport c'est qu'une startups a plusieurs façon de lever des fonds et que "des milliards que l'état investissait alors qu'elle vont probablement toute faire faillite" n'est pas la seul méthode.
Et qu'un projet crédible, un business plan réaliste et le tout dirigé par des gens compétents cela favorise beaucoup les chances de succes.

évidement tu as l'envers du décor avec des startup fait par des gens sortant tous juste d'une école et promettant de vaincre le cancer avec un bout de papier.

[Ryu2000]

Comment l’Europe veut gagner la bataille de l’intelligence artificielle

L’Europe, qui a raté le train des données personnelles sur lesquelles Facebook et autre Google ont construit leur empire, « doit être le premier continent à tirer le plein bénéfice de cette vague », explique Thierry Breton. Dans cette bataille, elle part avec une avance sur les Etats-Unis ou la Chine, dans la mesure où elle est la première puissance industrielle au monde et possède donc plus de data à exploiter que ses concurrents. De même, en matière de données publiques, elle est plus riche, compte tenu de la place des Etats (santé, énergie, transports publics…) dans les sociétés européennes.

C'te blague

[Bruno]

Les États-Unis lancent une initiative sur l'utilisation de l'intelligence artificielle à des fins militaires,
dans un contexte où la Chine ambitionne de devenir la super puissance du monde en matière d’IA

L’intelligence artificielle (IA) et l’informatique quantique seront sans doute les prochaines révolutions du monde technologique. À ce titre, aucun pays ne veut être laissé pour compte, surtout pas les États-Unis. Le gouvernement américain a lancé une initiative visant à promouvoir la coopération internationale sur l'utilisation responsable de l'intelligence artificielle et des armes autonomes par les militaires.

Ces dernières années, les progrès de l'intelligence artificielle (IA) s'étant accélérés, presque toutes les grandes puissances se sont engagées à développer des capacités d'IA avancées et à intégrer efficacement l'IA dans leurs forces armées. Pourtant, aucune n'a poursuivi ces efforts avec autant de détermination que la Chine et les États-Unis.

Les États-Unis ont lancé une initiative visant à promouvoir la coopération internationale sur l'utilisation responsable de l'intelligence artificielle et des armes autonomes par les militaires, cherchant à imposer l'ordre sur une technologie émergente qui a le potentiel de changer la façon dont la guerre est menée.

La Commission de sécurité nationale américaine sur l'intelligence artificielle a conclu dans son rapport final de l'année dernière que « même si l'IA sera omniprésente dans tous les domaines, les volumes élevés de données associés aux domaines de l'espace, du cyberespace et des opérations d'information font que les cas d'utilisation dans ces domaines sont particulièrement bien adaptés à l'intégration prioritaire d'applications basées sur l'IA dans les wargames, les exercices et les expérimentations ».

« En tant que technologie en évolution rapide, nous avons l'obligation de créer des normes fortes de comportement responsable concernant les utilisations militaires de l'IA et d'une manière qui garde à l'esprit que les applications de l'IA par les militaires vont sans aucun doute changer dans les années à venir », a déclaré Bonnie Jenkins, sous-secrétaire du Département d'État pour le contrôle des armes et la sécurité internationale.

Elle a déclaré que la déclaration politique des États-Unis, qui contient des lignes directrices non juridiquement contraignantes décrivant les meilleures pratiques pour une utilisation militaire responsable de l'IA, « peut être un point focal pour la coopération internationale ».

Jenkins a lancé la déclaration à l'issue d'une conférence de deux jours à La Haye, qui a pris un caractère d'urgence supplémentaire du fait que les progrès de la technologie des drones dans le cadre de la guerre de la Russie en Ukraine ont accéléré une tendance qui pourrait bientôt amener les premiers robots de combat entièrement autonomes du monde sur le champ de bataille. :

La déclaration des États-Unis comporte 12 points, dont le fait que les utilisations militaires de l'IA sont conformes au droit international et que les États « maintiennent le contrôle et la participation humaine pour toutes les actions essentielles à l'information et à l'exécution des décisions souveraines concernant l'emploi des armes nucléaires. »

Zachary Kallenborn, analyste de l'innovation en matière d'armement à l'université George Mason, qui a assisté à la conférence de La Haye, a déclaré que la décision des États-Unis de porter leur approche sur la scène internationale « reconnaît que les armes autonomes suscitent des inquiétudes. C'est significatif en soi ».

Kallenborn a déclaré qu'il était également important que Washington ait inclus un appel au contrôle humain sur les armes nucléaires, « car, en ce qui concerne le risque des armes autonomes, je pense que c'est facilement le risque le plus élevé que l'on puisse avoir ».

Soulignant le sentiment d'urgence internationale autour de l'IA et des armes autonomes, 60 nations, dont les États-Unis et la Chine, ont lancé un appel à l'action à la conférence de La Haye, demandant une large coopération dans le développement et l'utilisation militaire responsable de l'intelligence artificielle.

« Nous sommes à temps pour atténuer les risques et empêcher l'IA de devenir incontrôlable, et nous sommes à temps pour empêcher l'IA de nous conduire à un endroit où nous ne voulons tout simplement pas être », a déclaré le ministre néerlandais des Affaires étrangères, Wopke Hoekstra.

L'appel à l'action lancé aux Pays-Bas souligne « l'importance d'assurer des garanties appropriées et une surveillance humaine de l'utilisation des systèmes d'IA, en gardant à l'esprit les limites humaines dues aux contraintes de temps et de capacités. »

Les pays participants ont également invité les pays « à élaborer des cadres, des stratégies et des principes nationaux sur l'IA responsable dans le domaine militaire ». Les analystes militaires et les chercheurs en intelligence artificielle affirment que plus la guerre en Ukraine, qui dure depuis près d'un an, se prolonge, plus il est probable que les drones seront utilisés pour identifier, sélectionner et attaquer des cibles sans l'aide des humains.

Le ministre ukrainien de la transformation numérique, Mykhailo Fedorov, a déclaré à l'Associated Press dans une interview récente que les drones tueurs entièrement autonomes sont « une prochaine étape logique et inévitable » dans le développement des armes. Il a déclaré que l'Ukraine a fait « beaucoup de R et D dans cette direction ».

L'Ukraine dispose déjà de drones d'attaque semi-autonomes et d'armes de contre-drones dotés d'IA. La Russie affirme également posséder des armes à IA, bien que ces affirmations ne soient pas prouvées. Mais il n'existe aucun cas confirmé d'une nation mettant au combat des robots qui ont tué par eux-mêmes.

La Russie n'a pas été invitée à participer à la conférence de La Haye. L'ambassadeur de Chine aux Pays-Bas, Tan Jian, était présent et a déclaré que Pékin avait envoyé deux documents aux Nations unies sur la réglementation des applications militaires de l'intelligence artificielle, affirmant que cette question "concerne la sécurité commune et le bien-être de l'humanité, ce qui nécessite une réponse unie de tous les pays », a-t-il déclaré.

Les États-Unis comme la France, ainsi que d’autres pays de l’Europe, souhaitent tous réaliser des progrès considérables dans les domaines de l’IA. Selon le média, les chiffres énoncés n'incluent pas tous les programmes de recherche du ministère de la Défense. Les responsables affirment que le saut vise à suivre le rythme des efforts de la Chine.

La proposition faite en 2020 comprenait une augmentation de 70 % pour la National Science Foundation (NSF) pour les subventions liées à l'IA et les instituts de recherche interdisciplinaire. En gros, l’administration américaine veut que le Congrès double ses dépenses en financement de la R et D sur l'IA.

Le gouvernement français s’engage à soutenir le développement et la recherche en IA

En France, l'Élysée pense pareil. Après la publication du rapport de Cédric Villani en 2018, le gouvernement avait décidé de passer à l’offensive. Emmanuel Macron avait ainsi annoncé un investissement pouvant aller jusqu’à 1,5 million d’euros dans l’IA uniquement jusqu'en 2022 pour soutenir le développement et la recherche en IA en France. Parmi les 1,5 milliard d'euros promis pour le développement de l'IA, 650 millions étaient destinés à la recherche et 800 millions aux premiers projets, notamment dans la santé, la cybersécurité et la certification des algorithmes.

En cela, un montant de 400 millions d’euros avait été annoncé par le gouvernement pour des « appels à projets et de défis d’innovation de rupture ». Cela va servir à développer l'écosystème des entreprises spécialisées dans les solutions d'intelligence artificielle ; infuser l'IA dans tous les secteurs, y compris dans les PME avec le soutien des grands groupes. Cela permettra également d’attirer des investissements étrangers en France. En ce qui concerne l’informatique quantique, la France travaille aussi sur un plan d’action et quelques propositions ont été faites cette année.

Le ministère de l’Intérieur semble convaincu que la collecte et l’exploitation de grandes quantités de données associée à des travaux de linguistiques et de profilage pourraient donner de précieux coups d’avance aux forces de l’ordre, lors d’opérations de régulation et de gestion des manifestations. C’est pour cette raison qu’il a créé la mission numérique de la Gendarmerie qui travaille, entre autres, sur la gestion prédictive de l’ordre public. En matière de gestion de l’ordre public, l’IA pourrait notamment permettre de déterminer les caractéristiques d’une foule et assister les opérateurs dans leurs taches.

Le ministère de l’Intérieur financerait également le projet Intact, une initiative ambitieuse regroupant des ingénieurs de l’Institut de recherche en informatique de Toulouse ainsi que des linguistes de l’École normale supérieure. Le travail de ces derniers consiste, avec l’aide de l’IA, à analyser et faire le tri parmi les publications sur les réseaux sociaux afin d’anticiper les mouvements sociaux dans un contexte de crise.

La Chine ambitionne de devenir la super puissance du monde en matière d’IA

Selon Asia Times, cité par l'agence de presse ANI, la Chine envisage de mettre en place une guerre intelligente et informative pour Taipei, afin de passer à un nouveau niveau stratégique alors que la tension dans le détroit de Taïwan s'intensifie.

Non seulement Pékin a publié un plan ambitieux visant à faire de la Chine la première puissance mondiale en matière d'IA d'ici 2030, mais le Parti communiste chinois (PCC) a dévoilé une stratégie agressive axée sur l'innovation pour l'armée chinoise, l'Armée populaire de libération (APL). De même, Xi Jinping, le secrétaire général du PCC, n'a cessé de souligner l'engagement de la Chine en faveur du développement de l'IA et de la "guerre intelligente", tout récemment dans son rapport historique présenté cet automne au 20e Congrès du Parti.

Si les ambitions stratégiques de la Chine en matière d'IA sont claires, la manière dont elle entend intégrer l'IA dans l’Armée reste opaque. Les objectifs du PCC en matière d'IA militarisée sont encore entourés de mystère, même si l'Armée populaire de libération considère clairement l'IA comme une technologie qui sera vitale pour mener la guerre de la prochaine génération.

Cependant, la Force de soutien stratégique (SSF) de l'Armée populaire de libération, récemment créée, offre au moins quelques indices sur la manière dont Pékin entend insuffler des capacités d'IA dans l'ensemble de l'armée. Bien que l'objectif précis de la SSF ne soit pas encore bien compris, l'organisation a reçu une sorte de mandat d'innovation et a été chargée d'intégrer de nombreuses « fonctions stratégiques ». Compte tenu de l'ampleur de sa structure organisationnelle et de son mandat, la SSF semble être à l'avant-garde des efforts de l'APL pour se moderniser autour de nouvelles technologies comme l'IA.

Comme dit précédemment, un nombre croissant d'États développent des capacités militaires d'IA, qui peuvent inclure l'utilisation de l'IA pour activer des systèmes autonomes. L'utilisation militaire de l'IA peut et doit être éthique, responsable et renforcer la sécurité internationale. L'utilisation de l'IA dans les conflits armés doit être en accord avec le droit international humanitaire applicable, y compris ses principes fondamentaux.

L'utilisation militaire des capacités de l'IA doit être responsable, notamment par le biais d'une telle utilisation pendant les opérations militaires au sein d'une chaîne humaine de commandement et de contrôle responsable. Une approche fondée sur des principes de l'utilisation militaire de l'IA devrait inclure un examen minutieux des risques et des avantages, et elle devrait également minimiser les biais et les accidents involontaires.

Les États devraient prendre des mesures appropriées pour assurer le développement, le déploiement et l'utilisation responsables de leurs capacités militaires d'IA, y compris celles permettant la mise en place de systèmes autonomes. Ces mesures devraient être appliquées tout au long du cycle de vie des capacités d'IA militaire.

Source : U.S. Department of State

Et vous ?

Que pensez-vous de l'utilisation de l'intelligence artificielle à des fins militaires ?

Croyez-vous à une utilisation responsable de l'IA dans le domaine militaire ?

Quel est votre avis sur le sujet ?

Voir aussi :

L'intelligence artificielle, la nouvelle arme de la gendarmerie contre les Gilets jaunes

La Maison-Blanche veut que le Congrès double le financement de l'intelligence artificielle et de la recherche et développement en informatique quantique

[Bruno]

Intelligence artificielle et armement : les présidents Joe Biden et Xi Jinping s'engagent à interdire l'IA dans les armes autonomes,
telles que les drones et le contrôle des ogives nucléaires

Les technologies d'intelligence artificielle (IA) sont développées depuis de nombreuses années et appliquées dans différents domaines. Les applications de l'IA existent non seulement dans le domaine de la surveillance domestique, mais aussi dans le domaine militaire. Les sujets liés à l'IA sont devenus encore plus controversés et ont attiré davantage l'attention lorsque la Chine, un pays dont le développement militaire progresse rapidement, est impliquée.

Les présidents Joe Biden et Xi Jinping seraient sur le point de s’engager à interdire l’utilisation de l’intelligence artificielle dans les armes autonomes, telles que les drones, ainsi que dans le contrôle et le déploiement des ogives nucléaires. Les dangers potentiels de l’intelligence artificielle devraient être au cœur des discussions entre les États-Unis et la Chine, qui se déroulent en marge du sommet de la Coopération économique Asie-Pacifique de cette année à San Francisco. Washington et Pékin ont tous deux exprimé leur inquiétude quant à l’utilisation non réglementée de cette technologie pour alimenter les conflits.

Alors que l'Armée populaire de libération (APL) chinoise cherche à devenir une « armée de classe mondiale », ses progrès en matière de systèmes d'armes avancés continuent de susciter de vives inquiétudes de la part de ses voisins et concurrents. L'armée et l'industrie de défense chinoises ont réalisé d'importants investissements dans l'intelligence artificielle IA.

Sur la base des informations publiquement disponibles, la trajectoire de l'Armée populaire de libération dans le développement et l'utilisation potentielle de systèmes d'armes autonomes et dotés d'IA/ML reste incertaine. La maturité de ces capacités - ainsi que la question de savoir si, quand et dans quelle mesure des systèmes d'armes dotés de niveaux d'autonomie plus élevés ont été mis en service - ne peut être évaluée avec une grande confiance à ce stade.

Toutefois, la concurrence technologique devenant un élément de plus en plus important de la rivalité entre grandes puissances, il est clair que l'armée et l'industrie de la défense chinoises ont pris des initiatives actives en matière de recherche, de développement et d'expérimentation. Cependant, les progrès de la Chine dépendront de sa capacité à rendre opérationnels les systèmes d'armes émergents, ce qui nécessitera de surmonter les défis technologiques et organisationnels actuels en matière d'essais, de formation et de concepts d'opérations.

Les avancées chinoises en matière d'autonomie et de systèmes d'armes dotés d'IA pourraient avoir une incidence sur l'équilibre militaire, tout en exacerbant potentiellement les menaces pour la sécurité mondiale et la stabilité stratégique à mesure que la rivalité entre les grandes puissances s'intensifie. En s'efforçant d'acquérir un avantage technologique, l'armée chinoise pourrait s'empresser de déployer des systèmes d'armes qui ne sont pas sûrs, pas testés ou pas fiables dans des conditions opérationnelles réelles.

La Chine et les États-Unis en tête de la course à l’intelligence artificielle

Ces dernières années, les progrès de l'intelligence artificielle s'étant accélérés, presque toutes les grandes puissances se sont engagées à développer des capacités d'IA avancées et à intégrer efficacement l'IA dans leurs forces armées. Pourtant, aucune n'a poursuivi ces efforts avec autant de détermination que la Chine et les États-Unis. L'application par la Chine de la technologie de l'intelligence artificielle a des implications complexes et subtiles pour la sécurité internationale et régionale. Pour tirer parti des avantages structurels et systématiques de l'IA en matière d'innovation technologique, la Chine a lancé une campagne nationale visant à allouer des ressources au développement de l'IA dans les secteurs public et privé.

D'autres mesures, notamment des programmes éducatifs, une stratégie de "sortie" et une fusion militaire et civile, ont également été mises en œuvre pour soutenir l'innovation dans le domaine de l'IA. Pour se préparer à la guerre "intelligentisée" de demain, l'Armée populaire de libération mise sur la technologie de l'IA pour développer des systèmes de combat intelligents sans pilote, améliorer la connaissance de la situation sur le champ de bataille, mener des opérations multi-domaines et promouvoir des programmes de formation.

L'APL a déjà mis en œuvre des réformes structurelles et adapté sa doctrine pour s'assurer que l'utilisation de l'IA réponde aux exigences de la guerre future. Les progrès de la Chine dans le domaine de l'IA et de ses applications militaires pourraient déclencher une compétition régionale pour la primauté de l'IA ou une course aux armements dans ce domaine, ce qui aurait un effet ambigu sur la maîtrise des armements concernant les systèmes d'armes létaux autonomes.

Les efforts de l'APL pour renforcer ses capacités nucléaires en exploitant l'IA auront des effets à la fois stabilisateurs et déstabilisateurs sur la stabilité stratégique et le risque nucléaire. En fin de compte, l'introduction de l'IA sur les champs de bataille modernes peut aider la Chine à faire pencher la balance militaire dans le Pacifique occidental, mais son potentiel pour changer l'essence des conflits armés et la conduite de la guerre est limité.

Les États-Unis lancent une initiative pour promouvoir l’utilisation responsable de l’IA et des armes autonomes

Les États-Unis ont lancé une initiative pour promouvoir la coopération internationale sur l’utilisation responsable de l’intelligence artificielle et des armes autonomes par les militaires. Cette initiative vise à imposer l’ordre sur une technologie émergente qui a le potentiel de changer la façon dont la guerre est menée. La Commission de sécurité nationale américaine sur l’intelligence artificielle a conclu dans son rapport final de l’année dernière que les cas d’utilisation de l’IA dans les domaines de l’espace, du cyberespace et des opérations d’information sont particulièrement bien adaptés à l’intégration prioritaire d’applications basées sur l’IA dans les wargames, les exercices et les expérimentations.

Selon Bonnie Jenkins, sous-secrétaire du Département d’État pour le contrôle des armes et la sécurité internationale, les États-Unis ont l’obligation de créer des normes fortes de comportement responsable concernant les utilisations militaires de l’IA et d’une manière qui garde à l’esprit que les applications de l’IA par les militaires vont sans aucun doute changer dans les années à venir.

L’armée de l’air américaine prévoit de dépenser environ 5,8 milliards de dollars pour construire jusqu’à 2 000 drones sans pilote dotés d’une intelligence artificielle qui serviront aux côtés des pilotes humains. Les drones Valkyrie sont conçus pour remplir des fonctions telles que la surveillance ou les opérations de réapprovisionnement, ou pour se regrouper en essaims afin de combattre aux côtés de pilotes humains. Les drones coûteraient environ 3 millions de dollars chacun.

L’IA, élément essentiel de la future guerre selon le général de brigade Scott Cain

Le général de brigade Scott Cain, commandant de l’AFRL a déclaré : « L’IA sera un élément essentiel de la future guerre et de la vitesse à laquelle nous devrons comprendre l’image opérationnelle et prendre des décisions ». Il a également ajouté que « L’IA, les opérations autonomes et les équipes homme-machine continuent d’évoluer à un rythme sans précédent et nous avons besoin des efforts coordonnés de nos partenaires gouvernementaux, universitaires et industriels pour suivre le mouvement ».

Le projet vise à développer des « avions de combat collaboratifs […] capables d’améliorer les systèmes d’armes avec équipage pour atteindre la supériorité aérienne ». Le Congrès doit approuver l’effort quinquennal de construction de la flotte de drones, dont le budget s’élève à 5,8 milliards de dollars sur cette période. Au début du mois, le colonel Tucker Hamilton, chef d'opérations d'IA du département de l'armée de l'air, a indiqué que la branche aérienne de l'armée américaine avait fait voler le drone XQ-58A Valkyrie de 9,15 mètres de long pendant trois heures lors d'un test de vol contrôlé par l'IA, le premier du genre.

Toutefois, le département de la Défense des États-Unis s’est engagé à utiliser l’Intelligence Artificielle de manière responsable. Pour y parvenir, les développeurs et les utilisateurs de l’autonomie basée sur l’IA doivent travailler en collaboration avec des spécialistes de l’acquisition. Les dangers potentiels de l'intelligence artificielle devraient être au cœur des discussions entre les États-Unis et la Chine, qui se déroulent en marge du sommet de la Coopération économique Asie-Pacifique de cette année à San Francisco.

La déclaration politique des États-Unis contient des lignes directrices non juridiquement contraignantes décrivant les meilleures pratiques pour une utilisation militaire responsable de l’IA, qui peut être un point focal pour la coopération internationale.

En février, les États-Unis ont présenté leur déclaration politique sur l’utilisation militaire responsable de l’intelligence artificielle et de l’autonomie, un nouveau cadre juridique et diplomatique qui vise à obtenir un consensus mondial sur le développement et le déploiement de l’IA militaire.

Jusqu’à présent, 36 pays ont soutenu cette initiative et se sont engagés à se réunir l’année prochaine pour étudier les moyens de mettre en œuvre et d’améliorer les nouvelles réglementations en la matière. En octobre, le gouvernement de Biden a annoncé les conditions d’approbation des produits d’IA avancée. En vertu de ces nouvelles règles, ces initiatives doivent être certifiées par le gouvernement fédéral, afin de garantir qu’elles ne puissent pas être réutilisées pour créer des armes biologiques ou nucléaires.

Dans son rapport de travail présenté lors du congrès national du Parti communiste de l'année dernière, Xi s'est engagé à « favoriser la croissance unifiée et ciblée des industries émergentes stratégiques », en mettant particulièrement l'accent sur l'IA.

L’engagement des présidents Joe Biden et Xi Jinping à interdire l’utilisation de l’intelligence artificielle dans les armes autonomes est une étape importante pour réglementer l’utilisation de cette technologie dans les conflits armés. Les dangers potentiels de l’IA dans les armes autonomes ont été largement discutés, et il est encourageant de voir que les deux pays les plus puissants du monde prennent des mesures pour limiter son utilisation.

Cependant, il est important de noter que l’interdiction de l’IA dans les armes autonomes ne résoudra pas tous les problèmes liés à l’utilisation de cette technologie dans les conflits armés. Il est également important de s’assurer que l’utilisation de l’IA dans les armes non autonomes est réglementée de manière responsable.

En fin de compte, l’utilisation de l’IA dans les conflits armés doit être réglementée de manière responsable pour éviter les dangers potentiels de cette technologie. L’engagement des présidents Biden et Xi à interdire l’utilisation de l’IA dans les armes autonomes est un pas dans la bonne direction, mais il reste encore beaucoup à faire pour garantir que l’IA est utilisée de manière responsable dans les conflits armés.

Sources : Vidéos

Et vous ?

L’interdiction de l’utilisation de l’IA dans les armes autonomes est-elle suffisante pour réglementer l’utilisation de cette technologie dans les conflits armés ?

Comment peut-on s’assurer que l’utilisation de l’IA dans les armes non autonomes est réglementée de manière responsable ?

Selon vous, comment peut-on garantir que l’utilisation de l’IA dans les conflits armés est conforme aux normes internationales en matière de droits de l’homme et de droit humanitaire ?

Voir aussi :

Intelligence artificielle et armement : l'armée de l'air américaine veut 6 milliards de dollars pour construire 2 000 drones, dotés d'une intelligence artificielle

Les États-Unis lancent une initiative sur l'utilisation de l'IA à des fins militaire, dans un contexte où la Chine ambitionne de devenir la super puissance du monde en matière d'IA

Google veut à nouveau travailler avec le Pentagone, malgré les inquiétudes des employés. L'entreprise aurait proposé d'être un fournisseur de cloud militaire

[Aiekick]

a quoi bon signer un accord ? on sait tres bien qu'il vont continuer a faire comme si de rien n'était . comme pour le nucleaire..

[Ryu2000]

Selon vous, comment peut-on garantir que l’utilisation de l’IA dans les conflits armés est conforme aux normes internationales en matière de droits de l’homme et de droit humanitaire ?

C'est impossible de faire respecter quoi que ce soit.
L'armée US en a strictement rien à foutre de la convention de Genève par exemple.
L'armée US va continuer d'utiliser des armes interdites.

Les USA ont lancé 2 bombes atomiques sur des civils, alors que le pays voulait se rendre.
Les USA ont utilisé du Napalm, du phosphore blanc, de l'agent orange, des munitions à l'uranium appauvri, des balles à pointe creuse, des lance-flammes, des armes biologiques, etc.

Comme on dit "le vainqueur écrit l'histoire" ça veut dire que le vainqueur va faire croire au monde que les pires saloperies qui ont commises pendant la guerre, l'ont été par le vaincu.
Ici le plan c'est de gagner la prochaine guerre mondiale et de dire "Salaud de Chinois ils ont utilisé des armes autonomes !".

Dans le système de pensée de l'armée, quand c'est la guerre il ne faut rien s'interdire. « La fin justifie les moyens ».
Si tu veux gagner il faut y aller, c'est comme les sportifs, ils sont presque tous dopés. (ça y va les stéroïdes, les hormones de croissance, etc)

Bref, quand la troisième guerre mondiale aura lieu, il n'y aura pas de limite, à aucun moment ceux qui prennent les décisions vont se dire "cette arme pourrait nous procurer un avantage, malheureusement nous n'avons pas le droit de l'utiliser ".

[Bruno]

Le Pentagone accélère l'intégration de l'IA pour maintenir sa compétitivité face à la Chine,
avec des indications selon lesquelles les États-Unis développeront des armes autonomes létales

Le Pentagone accélère son adoption de l'intelligence artificielle (IA) dans divers domaines militaires. Le projet « Replicator » vise à déployer des milliers de véhicules autonomes dotés d'IA d'ici 2026 pour rester compétitif par rapport à la Chine. L'utilisation actuelle de l'IA comprend le pilotage de drones de surveillance, la maintenance prédictive des avions, la surveillance de l'espace, et même l'aide à la guerre en Ukraine. Cependant, des préoccupations subsistent quant à l'autonomie totale des armes létales, avec des discussions sur la nécessité d'une évaluation formelle des systèmes d'armes autonomes avant leur déploiement. Les progrès de l'IA posent des défis technologiques et éthiques pour le Pentagone, mais les efforts sont en cours pour intégrer ces technologies de manière responsable.

Replicator met en lumière les défis considérables auxquels le Pentagone est confronté dans le domaine de l'acquisition et du développement, à un moment où la révolution de l'IA promet de redéfinir les modalités de conduite des guerres. Gregory Allen, ancien haut responsable du Pentagone spécialisé dans l'IA et actuellement membre du groupe de réflexion Center for Strategic and International Studies, souligne les difficultés du ministère de la Défense à assimiler les avancées de l'apprentissage automatique.

Le portefeuille du Pentagone englobe plus de 800 projets non classifiés liés à l'IA, la plupart étant encore en phase d'expérimentation. En général, l'apprentissage automatique et les réseaux neuronaux sont des outils qui aident les humains à acquérir des connaissances et à accroître leur efficacité.

Missy Cummings, directrice du centre de robotique de l'université George Mason et ancienne pilote de chasse de la marine, souligne que l'IA actuellement utilisée par le ministère de la Défense est étroitement intégrée pour renforcer les capacités humaines. Elle insiste sur le fait qu'il n'y a pas d'IA agissant de manière autonome, mais plutôt que les individus l'utilisent pour mieux comprendre la complexité du champ de bataille.

Le Longshot, un drone sans pilote actuellement développé par General Atomics en collaboration avec la Defense Advanced Research Project Agency (DARPA) pour être utilisé de concert avec les avions pilotés de l'armée de l'air, a été présenté lors de la conférence Air, Space & Cyber de l'Air & Space Forces Association le 13 septembre 2023 à Oxon Hill, Massachusetts. Les planificateurs du Pentagone envisagent d'incorporer ces drones dans une "équipe homme-machine" pour surpasser un adversaire. Cependant, afin de déployer ces drones sur le terrain, les développeurs devront démontrer la fiabilité et la crédibilité suffisantes de la technologie de l'IA.

Dans le domaine spatial, nouvel enjeu de la compétition militaire, les outils assistés par l'IA sont déployés pour détecter les menaces potentielles. La Chine explore l'utilisation de l'IA, y compris sur les satellites, pour prendre des décisions sur l'identification des adversaires, comme le souligne Lisa Costa, responsable de la technologie et de l'innovation au sein de la force spatiale américaine, lors d'une récente conférence en ligne.

Les États-Unis entendent suivre le mouvement

Un prototype opérationnel appelé Machina, utilisé par l'armée de l'espace, surveille de manière autonome plus de 40 000 objets dans l'espace, en orchestrant des milliers de collectes de données chaque nuit avec un réseau mondial de télescopes. Les algorithmes de Machina rassemblent les capteurs des télescopes. Les modèles de vision par ordinateur et de langage étendu leur indiquent les objets à suivre. L'IA chorégraphie instantanément des dessins à partir d'ensembles de données astrodynamiques et physiques, a expliqué le colonel Wallace "Rhet" Turnbull, du Space Systems Command, lors d'une conférence en août.

Un autre projet d'IA de l'armée de l'espace analyse les données radar pour détecter les lancements imminents de missiles adverses. Une équipe collaborative du ministère de la Défense a réalisé 12 essais en vol au cours desquels des agents d'intelligence artificielle ont pris les commandes du X-62A (VISTA : Variable Stability In-Flight Simulator Test Aircraft) pour exécuter des manœuvres de chasse avancées à la base aérienne d'Edwards en Californie, du 1er au 16 décembre 2022. Les organisations de soutien comprenaient le centre d'essai de l'armée de l'air américaine, le laboratoire de recherche de l'armée de l'air (AFRL) et la DARPA (l'agence des projets de recherche avancée de la défense). Initialement conçu comme un avion de combat en 1978, le X-62A VISTA a clairement évolué vers un avion autonome.

Les agents d'IA de l’AACO (Autonomous Air Combat Operations), de l'AFRL et de l’ACE (Air Combat Evolution) ont dirigé le X-62A VISTA de l'école de pilotes d'essai de l'armée de l'air américaine pour effectuer des manœuvres de chasse avancées. Les agents d'IA de l'AACO ont réalisé des engagements individuels au-delà de la portée visuelle (BVR) contre un adversaire simulé, tandis que les agents d'IA de l'ACE ont exécuté des manœuvres à portée visuelle, également connues sous le nom de dogfighting, contre les agents d'IA de l'équipe rouge.

Au début de décembre 2022, les développeurs d'algorithmes de l'ACE ont installé leur logiciel d'IA dans un avion d'essai F-16 spécialement modifié, le X-62A ou VISTA, à l'école de pilotes d'essai de l'armée de l'air sur la base aérienne d'Edwards en Californie. Ils ont effectué plusieurs vols sur plusieurs jours, démontrant ainsi que les agents d'IA peuvent contrôler un avion de combat grandeur nature et fournir des données de vol en direct, selon un communiqué de presse de la DARPA.

Les agents d'IA des deux équipes ont exécuté des manœuvres tactiques autonomes tout en respectant les limites de l'espace aérien du monde réel et en optimisant les performances des avions. Ces tests sont basés sur la mise à niveau VISTA du X-62A, permettant au X-62 d'être contrôlé par des algorithmes autonomes pilotés par l'IA, imitant ainsi les caractéristiques de vol d'aéronefs à voilure fixe tels qu'un MQ-20 ou, dans ces tests, un F-16.

Maintenir les avions et les soldats

Par ailleurs, les pouvoirs prédictifs de l'IA aident l'armée de l'air à maintenir sa flotte en l'air, en anticipant les besoins de maintenance de plus de 2 600 aéronefs, dont des bombardiers B-1 et des hélicoptères Blackhawk. Les modèles d'apprentissage automatique identifient les défaillances possibles des dizaines d'heures avant qu'elles ne se produisent, a déclaré Tom Siebel, PDG de C3 AI, société basée dans la Silicon Valley, qui a obtenu le contrat. La technologie de C3 AI modélise également la trajectoire des missiles pour l'Agence américaine de défense antimissile et identifie les menaces internes au sein du personnel fédéral pour l'Agence de contre-espionnage et de sécurité de la défense.

Parmi les efforts liés à la santé, un projet pilote permet de suivre la condition physique de l'ensemble de la troisième division d'infanterie de l'armée de terre, soit plus de 13 000 soldats. La modélisation prédictive et l'intelligence artificielle permettent de réduire les blessures et d'améliorer les performances, a déclaré le major Matt Visser.

En Ukraine, l'IA fournie par le Pentagone et ses alliés de l'OTAN joue un rôle crucial pour contrer l'agression russe. Les informations partagées entre les alliés comprennent des données collectées par des satellites, des drones et des opérateurs humains, certaines étant agrégées via le logiciel de Palantir. Maven, projet d'IA du Pentagone, initialement axé sur le Moyen-Orient, agrège maintenant une variété étendue de données issues de capteurs et d'opérations humaines.

Cette IA a également contribué au groupe d'assistance à la sécurité en Ukraine, facilitant la logistique pour l'aide militaire d'une coalition de 40 pays, selon les responsables du Pentagone. Pour améliorer la connectivité entre les combattants, le Pentagone se concentre sur le développement de réseaux de commandement et de contrôle interarmées tous domaines, automatisant le traitement des données dans l'ensemble des services armés. Bien que les progrès soient indéniables, les défis restent importants, notamment dans la nécessité de réformer rapidement les systèmes d'armes pour rester compétitifs avec la Chine.

Le V-BAT de Shield AI est sélectionné pour remplacer le RQ-7B Shadow dans le programme FTUAS de l’armée américaine

Nathan Michael, directeur de la technologie chez Shield AI, estime qu'un essaim autonome d'au moins trois aéronefs sans équipage sera prêt dans un an grâce à son drone aérien V-BAT. L'armée américaine utilise actuellement le V-BAT - sans intelligence artificielle - sur les navires de la marine, dans le cadre de missions de lutte contre la drogue et en soutien aux unités expéditionnaires de la marine, indique l'entreprise. Le V-BAT est un drone de reconnaissance à décollage et atterrissage verticaux (VTOL) développé initialement par Martin UAV, actuellement sous l'égide de Shield AI.

À la fin d'avril 2021, la marine américaine a choisi le V-BAT pour son prototypage et son développement. En février 2022, la société brésilienne VSK Tactical a passé une commande, dont le nombre reste confidentiel, de V-BAT pour des missions de sécurité et de surveillance. Le 21 décembre 2022, un V-BAT et un drone Skyways V2.6B ont réalisé avec succès les premières livraisons de fret sans pilote à un navire de l'US Navy en pleine mer. Chaque drone acheminait une charge de 22,5 kg sur une distance de 200 nm (370 km) jusqu'à un navire en mouvement.

En mars 2023, l'armée américaine a annoncé la sélection du V-BAT pour concourir dans son programme Future Tactical Unmanned Aircraft System (FTUAS), Increment 2, dans le but de remplacer le RQ-7B Shadow. Shield AI a formé un partenariat avec Northrop Grumman pour cette compétition. Le 9 octobre 2023, Shield AI a révélé que le V-BAT possède désormais une capacité de formation d'essaim de drones.

Il faudra un certain temps avant que des essaims plus importants puissent être déployés de manière fiable, a déclaré Michael. « Tout se fait en rampant, en marchant, en courant - à moins que l'on ne se prépare à l'échec. » Les seuls systèmes d'armes dont Shanahan, premier responsable de l'IA au Pentagone, estime actuellement qu'ils peuvent fonctionner de manière autonome sont entièrement défensifs, comme les systèmes antimissiles Phalanx installés sur les navires. Il s'inquiète moins des armes autonomes qui prennent des décisions seules que des systèmes qui ne fonctionnent pas comme prévu ou qui tuent des non-combattants ou des forces amies.

Le Phalanx est un système d'arme avancé, équipé d'un canon à tir rapide, de contrôles informatisés et de guidage radar, conçu pour neutraliser les missiles anti-navires et autres menaces rapprochées aussi bien sur terre que en mer.

En milieu maritime, les forces navales emploient le Phalanx pour intercepter les missiles antinavires et les menaces qui parviennent à pénétrer les autres lignes de défense. Sur le front terrestre, l'armée américaine exploite ce système pour repérer et contrer les systèmes de roquettes, d'artillerie, et de mortiers. Le Phalanx, en tant que système d'arme, assume des fonctions généralement réparties entre plusieurs systèmes, couvrant la recherche, la détection, l'évaluation de la menace, la poursuite, l'engagement, et l'évaluation de l'efficacité.

La version Block 1B offre des stations de contrôle supplémentaires, permettant aux opérateurs de suivre et d'identifier visuellement les cibles avant l'engagement. Intégrant un capteur infrarouge prospectif supplémentaire, cette variante peut être employée en mer contre les hélicoptères et les embarcations à grande vitesse, tout en étant utilisée sur terre pour aider à détecter et confirmer les menaces entrantes.

Déployé sur toutes les catégories de navires de guerre de surface de la marine américaine et de 24 nations alliées, la version terrestre du Phalanx est positionnée en première ligne et a été mise à l'épreuve sur le champ de bataille. Craig Martell, l'actuel responsable du numérique et de l'IA au sein du ministère, est déterminé à éviter que cela ne se produise.

Les défis de recrutement de talents pour tester les technologies de l’IA au Pentagone

« Indépendamment de l'autonomie du système, il y aura toujours un agent responsable qui comprend les limites du système, qui s'est bien entraîné avec le système, qui a une confiance justifiée dans le moment et l'endroit où il peut être déployé - et qui prendra toujours la responsabilité », a déclaré Martell, qui a précédemment dirigé l'apprentissage automatique chez LinkedIn et Lyft.

Quant à savoir quand l'IA sera suffisamment fiable pour une autonomie létale, Martell a déclaré qu'il n'était pas judicieux de généraliser. Par exemple, Martell fait confiance au régulateur de vitesse adaptatif de sa voiture, mais pas à la technologie censée l'empêcher de changer de voie. « En tant qu'agent responsable, je ne déploierais pas ce système, sauf dans des situations très contraignantes », a-t-il déclaré. « Maintenant, extrapolez cela à l'armée ».

Le bureau de Martell évalue les cas d'utilisation potentiels de l'IA générative - il dispose d'un groupe de travail spécial à cet effet - mais se concentre davantage sur les tests et l'évaluation de l'IA en cours de développement. Jane Pinelis, ingénieur en chef de l'IA au laboratoire de physique appliquée de l'université Johns Hopkins et ancienne responsable de l'assurance de l'IA au sein du bureau de Martell, estime que l'un des défis les plus urgents est de recruter et de conserver les talents nécessaires pour tester les technologies de l'IA. Le Pentagone ne peut pas rivaliser en matière de salaires. Les titulaires d'un doctorat en informatique possédant des compétences liées à l'IA peuvent gagner plus que les généraux et amiraux les plus gradés de l'armée.

Dans sa quête d'intégration de l'IA de manière responsable, le Pentagone est confronté à des défis technologiques et éthiques. L'adoption de ces technologies nécessite une approche réfléchie et des protocoles stricts pour garantir un usage conforme aux normes éthiques et légales. En fin de compte, le Pentagone est présenté comme travaillant à l'équilibre entre l'avancement technologique nécessaire et la prise en compte des implications éthiques associées à l'IA dans le contexte militaire.

Source : U.S. Department of Defense

Et vous ?

Quels sont les avantages et les inconvénients de l’utilisation de l’IA dans les domaines militaires ?

Comment le projet Replicator du Pentagone se compare-t-il aux initiatives similaires de la Chine ?

Voir aussi :

Intelligence artificielle et armement : les présidents Joe Biden et Xi Jinping s'engagent à interdire l'IA dans les armes autonomes, telles que les drones et le contrôle des ogives nucléaires

Intelligence artificielle et armement : l'armée de l'air américaine veut 6 milliards de dollars pour construire 2 000 drones, dotés d'une intelligence artificielle

Une IA pilote avec succès un avion de chasse F-16 américain, l'avion de chasse qui a été présenté pour la première fois en 1978 semble avoir évolué vers un avion autonome

[Jade Emy]

Le Pentagone étudie les utilisations militaires des grands modèles de langage (LLM), qui peuvent soutenir et potentiellement perturber la planification et la prise de décision militaires

Scale AI définira la voie à suivre par le Pentagone pour tester et évaluer les grands modèles de langage. L'entreprise créera un cadre complet de test et d'évaluation pour l'IA générative au sein du ministère de la défense.

Le Chief Digital and Artificial Intelligence Office (CDAO) du Pentagone a demandé à Scale AI de produire un moyen fiable de tester et d'évaluer les grands modèles de langage qui peuvent soutenir - et potentiellement perturber - la planification et la prise de décision militaires.

Selon une déclaration que la société basée à San Francisco a communiquée, les résultats de ce nouveau contrat d'un an fourniront au CDAO "un cadre permettant de déployer l'IA en toute sécurité en mesurant les performances des modèles, en offrant un retour d'information en temps réel aux combattants et en créant des ensembles d'évaluation spécialisés pour le secteur public afin de tester les modèles d'IA pour des applications de soutien militaire, telles que l'organisation des conclusions des rapports d'action après coup".

Les grands modèles de langage et le domaine général de l'IA générative comprennent des technologies émergentes qui peuvent générer (de manière convaincante mais pas toujours précise) du texte, du code logiciel, des images et d'autres médias, sur la base d'instructions données par l'homme. Ce domaine en évolution rapide est très prometteur pour le ministère de la défense, mais il pose également des défis potentiels inconnus et sérieux. L'année dernière, les dirigeants du Pentagone ont lancé la Task Force Lima au sein de la direction de la guerre algorithmique du CDAO afin d'accélérer la compréhension, l'évaluation et le déploiement de l'intelligence artificielle générative par ses composantes.

Le ministère s'appuie depuis longtemps sur des processus de test et d'évaluation (T&E) pour évaluer et garantir que ses systèmes, plateformes et technologies fonctionnent de manière sûre et fiable avant d'être entièrement mis en service. Mais les normes et les politiques de sécurité de l'IA n'ont pas encore été fixées de manière universelle, et les complexités et incertitudes associées aux grands modèles de langage rendent les essais et évaluations encore plus compliqués lorsqu'il s'agit de l'IA générative.

D'une manière générale, le T&E permet aux experts de déterminer les performances de base d'un modèle spécifique. Par exemple, pour tester et évaluer un algorithme de vision artificielle qui différencie les images de chiens et de chats de celles d'objets qui ne sont ni des chiens ni des chats, un fonctionnaire peut d'abord l'entraîner avec des millions d'images différentes de ce type d'animaux ainsi que d'objets qui ne sont ni des chiens ni des chats. Ce faisant, l'expert retiendra également un sous-ensemble diversifié de données qui pourra ensuite être présenté à l'algorithme. Il peut ensuite évaluer cet ensemble de données d'évaluation par rapport à l'ensemble de test, ou "vérité de base", et finalement déterminer les taux d'échec lorsque le modèle n'est pas en mesure de déterminer si un objet est ou n'est pas l'un des classificateurs qu'il tente d'identifier.

Les experts de Scale AI adopteront une approche similaire pour le contrôle et l'évaluation des grands modèles de langage, mais comme ils sont génératifs par nature et que la langue anglaise peut être difficile à évaluer, il n'y a pas le même niveau de "vérité de terrain" pour ces systèmes complexes. Par exemple, si l'on demande à un LLM de fournir cinq réponses différentes, il se peut que les faits soient généralement exacts dans les cinq cas, mais que des structures de phrases différentes modifient le sens de chaque réponse.

Ainsi, une partie des efforts de l'entreprise pour développer le cadre, les méthodes et la technologie que le CDAO peut utiliser pour tester et évaluer de grands modèles de langage consistera à créer des "ensembles de données d'attente" - où ils incluent des initiés de la DOD pour demander des paires de réponses et les évaluer par couches d'examen, et s'assurer que chaque réponse est aussi bonne que celle que l'on attendrait d'un humain dans l'armée. L'ensemble du processus sera itératif par nature. Une fois que les ensembles de données relatifs à la connaissance du monde, à la véracité et à d'autres sujets auront été constitués et affinés, les experts pourront évaluer les grands modèles de langage existants par rapport à ces ensembles.

À terme, lorsqu'ils disposeront de ces ensembles de données, les experts seront en mesure de procéder à des évaluations et d'établir des fiches de modèle - ou de courts documents fournissant des détails sur le contexte d'utilisation optimale de divers modèles d'apprentissage automatique et des informations permettant de mesurer leurs performances. Les responsables prévoient d'automatiser autant que possible ce développement, de sorte qu'au fur et à mesure que de nouveaux modèles arriveront, il sera possible d'avoir une compréhension de base de leurs performances, des domaines dans lesquels ils seront les plus performants et de ceux dans lesquels ils commenceront probablement à échouer.

Plus loin dans le processus, l'objectif ultime est que les modèles envoient essentiellement des signaux aux responsables des CDAO qui les utilisent, s'ils commencent à s'écarter des domaines pour lesquels ils ont été testés.

"Ce travail permettra au ministère de la défense de faire évoluer ses politiques d'essais et d'évaluation pour prendre en compte l'IA générative en mesurant et en évaluant les données quantitatives par le biais de l'analyse comparative et en évaluant le retour d'information qualitatif de la part des utilisateurs. Les paramètres d'évaluation aideront à identifier les modèles d'IA générative qui sont prêts à soutenir les applications militaires avec des résultats précis et pertinents en utilisant la terminologie et les bases de connaissances du ministère de la défense. Le processus rigoureux de T&E vise à améliorer la robustesse et la résilience des systèmes d'IA dans des environnements classifiés, permettant l'adoption de la technologie LLM dans des environnements sécurisés", indique la déclaration de Scale AI.

Outre le CDAO, l'entreprise a également établi des partenariats avec Meta, Microsoft, l'armée américaine, la Defense Innovation Unit, OpenAI, General Motors, Toyota Research Institute, Nvidia et d'autres. "Tester et évaluer l'IA générative aidera le DoD à comprendre les forces et les limites de la technologie, afin qu'elle puisse être déployée de manière responsable. Scale est honoré de s'associer au DoD sur ce cadre", a déclaré Alexandr Wang, fondateur et PDG de Scale AI, dans le communiqué.

Source : Scale AI

Et vous ?

Pensez-vous que cet accord est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le Pentagone accélère l'intégration de l'IA pour maintenir sa compétitivité face à la Chine, avec des indications selon lesquelles les États-Unis développeront des armes autonomes létales

Intelligence artificielle et armement : les présidents Joe Biden et Xi Jinping s'engagent à interdire l'IA dans les armes autonomes, telles que les drones et le contrôle des ogives nucléaires

Les États-Unis lancent une initiative sur l'utilisation de l'IA à des fins militaire, dans un contexte où la Chine ambitionne de devenir la super puissance du monde en matière d'IA

[Bruno]

Des essaims de « robots tueurs » équipés d'IA constitueraient l'avenir de la guerre,
ces systèmes d'armes étant capables de prendre des décisions de manière autonome, sans supervision humaine

L'émergence de « robots tueurs » autonomes dotés d'intelligence artificielle (IA), qui pourraient révolutionner le paysage de la guerre préocupe. Ces systèmes d'armes automatisés, en cours de développement par les grandes puissances telles que les États-Unis, sont capables de prendre des décisions létales de manière autonome, sans supervision humaine. Les premiers équivalents de ces « robots tueurs » ont déjà été déployés sur des champs de bataille en Ukraine et à Gaza, démontrant leur efficacité et leur potentiel destructeur.

L'utilisation de drones autonomes, de navires sans pilote et de véhicules terrestres autonomes soulève des préoccupations éthiques et de sécurité. La capacité de ces machines à faire la distinction entre combattants et civils sur le champ de bataille est remise en question, suscitant des inquiétudes quant aux violations du droit humanitaire international. Certains pays, notamment les États-Unis, envisagent de réglementer strictement l'utilisation de ces armes, tandis que d'autres cherchent à les interdire complètement.

Une approche alternative envisage la formation d'essaims de robots interconnectés, capables de communiquer entre eux et de prendre collectivement des décisions tactiques. Cependant, le rapport met en garde contre les risques liés à des comportements émergents, où ces machines pourraient agir de manière imprévisible et potentiellement dangereuse, échappant au contrôle humain. Ces comportements émergents pourraient entraîner des conséquences graves, telles que des actes d'escalade non intentionnels, la destruction d'infrastructures civiles ou des interférences avec des opérations militaires cruciales.

Malgré les assurances des responsables américains quant à la capacité de contrôler ces armes autonomes, le rapport souligne la nécessité de prendre des mesures pour réduire les risques potentiels associés à leur utilisation. Le débat sur l'utilisation de ces dispositifs se concentre principalement sur la question de savoir s'ils peuvent être habilités à prendre des vies humaines sans surveillance humaine, suscitant des inquiétudes au sein de la société civile et des organisations religieuses.

Les experts mettent en garde contre les dangers potentiels de comportements émergents qui pourraient échapper au contrôle humain, entraînant des conséquences imprévisibles et potentiellement dévastatrices sur le champ de bataille. La nécessité d'une réglementation stricte et de mesures visant à réduire les risques est soulignée, tout en soulignant que l'humanité doit rester vigilante face à l'évolution rapide de la technologie militaire.

En août dernier, le département de la Défense des États-Unis a pris l'engagement de recourir à l'Intelligence Artificielle de manière responsable. Afin d'atteindre cet objectif, les développeurs et utilisateurs de systèmes autonomes basés sur l'IA doivent collaborer étroitement avec des experts en acquisition. L'armée de l'air américaine prévoit d'investir environ 5,8 milliards de dollars dans la construction de jusqu'à 2 000 drones sans pilote équipés d'intelligence artificielle, destinés à opérer en tandem avec des pilotes humains. Ces drones, appelés Valkyrie, sont conçus pour des missions telles que la surveillance, le réapprovisionnement, et la possibilité de former des essaims pour coopérer avec des pilotes humains, chaque drone étant évalué à environ 3 millions de dollars.

Le général de brigade Scott Cain, commandant de l'AFRL, a souligné l'importance de l'IA dans les futures opérations militaires, déclarant que « l'IA sera un élément essentiel de la future guerre et de la vitesse à laquelle nous devrons comprendre l'image opérationnelle et prendre des décisions ». Il a également souligné que l'IA, les opérations autonomes, et les équipes homme-machine évoluent rapidement, nécessitant une collaboration coordonnée entre les partenaires gouvernementaux, universitaires, et industriels.

Le projet vise à développer des « avions de combat collaboratifs » qui amélioreront les systèmes d'armes avec équipage pour assurer la supériorité aérienne. Cependant, le Congrès doit encore approuver le budget de 5,8 milliards de dollars sur cinq ans alloué à la construction de cette flotte de drones. Plus tôt dans le mois, le colonel Tucker Hamilton du département de l'armée de l'air a annoncé avec succès le premier vol contrôlé par l'IA du drone XQ-58A Valkyrie, un événement historique.

Le 25 juillet 2023, le laboratoire de recherche de l'armée de l'air a réalisé un vol réussi de trois heures, démontrant le premier vol d'agents d'intelligence artificielle contrôlant le drone sans pilote XQ-58A Valkyrie. Cette réalisation découle de deux années de collaboration débutée avec le programme Skyborg Vanguard.

Le colonel Tucker Hamilton a expliqué que cette mission avait testé avec succès un cadre de sécurité multicouche sur un drone piloté par l'IA/ML, démontrant ainsi la capacité d'un agent d'IA/ML à résoudre des problèmes tactiques lors d'opérations aéroportées. Cette sortie ouvre la voie au développement d'agents d'IA/ML capables d'exécuter des compétences air-air et air-surface modernes, immédiatement transférables au programme CCA. Les algorithmes ont été développés par l'équipe AFRL Autonomous Air Combat Operations, perfectionnés au cours de millions d'heures de simulation et d'événements d'essais sur le terrain.

L'année dernière, les médias ont rapporté que les présidents Joe Biden et Xi Jinping étaient sur le point de s'engager à interdire l'utilisation de l'intelligence artificielle dans les armes autonomes, telles que les drones, ainsi que dans le contrôle et le déploiement des ogives nucléaires. Les risques associés à l'intelligence artificielle devraient être au centre des discussions entre les États-Unis et la Chine, qui se déroulent en marge du sommet de la Coopération économique Asie-Pacifique de cette année à San Francisco. Les deux nations ont exprimé leur préoccupation quant à l'utilisation non réglementée de cette technologie dans les conflits.

Alors que l'Armée populaire de libération (APL) chinoise aspire à devenir une « armée de classe mondiale », ses progrès dans les systèmes d'armes avancés suscitent des inquiétudes parmi ses voisins et concurrents. L'industrie de la défense chinoise a effectué d'importants investissements dans l'intelligence artificielle (IA).

Selon les informations disponibles publiquement, la direction que prend l'Armée populaire de libération dans le développement et l'utilisation de systèmes d'armes autonomes dotés d'IA/ML demeure incertaine. La maturité de ces capacités, ainsi que la question de savoir si, quand et dans quelle mesure des systèmes d'armes avec un haut niveau d'autonomie ont été déployés, ne peuvent actuellement être évaluées avec une grande confiance.

Cependant, alors que la compétition technologique devient un élément clé de la rivalité entre grandes puissances, il est évident que l'armée et l'industrie de la défense chinoises sont activement engagées dans la recherche, le développement et l'expérimentation. Les progrès de la Chine dépendront de sa capacité à opérationnaliser ces systèmes émergents, impliquant la résolution des défis technologiques, organisationnels, d'essais, de formation et de concepts opérationnels actuels.

Les avancées chinoises en autonomie et en systèmes d'armes dotés d'IA pourraient influencer l'équilibre militaire et accroître les menaces pour la sécurité mondiale et la stabilité stratégique à mesure que la rivalité entre grandes puissances s'intensifie. En cherchant à obtenir un avantage technologique, l'armée chinoise pourrait être tentée de déployer des systèmes d'armes non testés, peu fiables ou insuffisamment sécurisés dans des conditions opérationnelles réelles.

L'épineuse question des « robots tueurs » : entre sécurité et préoccupations éthiques

En unissant les avancées de l'intelligence artificielle et de la robotique, les forces armées américaines, ainsi que d'autres puissances, sont actuellement engagées dans le développement intensif de systèmes d'armes autonomes et autoguidés. Ces dispositifs, qualifiés de « robots tueurs » par les critiques, englobent divers engins tels que des avions, des chars, des navires et des sous-marins sans équipage, conçus pour opérer de manière autonome. Parmi les projets en cours, l'armée de l'air américaine travaille sur un « avion de combat collaboratif », un drone aérien destiné à participer à des missions à haut risque en tandem avec des avions pilotés. De même, l'armée de terre teste des véhicules terrestres autonomes sans pilote, tandis que la marine explore des navires de surface et des sous-marins sans pilote.

L'émergence imminente de ces engins automatisés suscite des inquiétudes et des controverses mondiales. Certains pays cherchent déjà à les interdire complètement, tandis que d'autres, comme les États-Unis, envisagent de ne permettre leur utilisation que dans des conditions strictement supervisées par des humains. À Genève, un groupe d'États a tenté d'interdire ces armes autonomes en se basant sur un traité des Nations unies datant de 1980, la Convention sur certaines armes classiques, visant à réguler les munitions non nucléaires jugées particulièrement dangereuses pour les civils. Parallèlement, l'Assemblée générale des Nations unies a entamé des discussions sur les armes autonomes à New York, avec un examen complet prévu à l'automne.

Le débat sur l'utilisation de ces dispositifs sur le champ de bataille se concentre principalement sur la question de leur habilitation à prendre des vies humaines sans surveillance directe. Des organisations religieuses et de la société civile soutiennent l'interdiction de ces systèmes, craignant leur incapacité à distinguer les combattants des civils, une préoccupation conforme au droit humanitaire international. Les responsables américains, quant à eux, soutiennent que ces armes peuvent être conçues pour respecter les contraintes légales.

Une préoccupation sous-jacente, non encore abordée dans le débat, concerne la possibilité future de communication autonome entre ces machines intelligentes, leur permettant d'élaborer leurs propres tactiques sans intervention humaine. Ce concept de « comportement émergent », défini par les informaticiens, expose à divers dangers non encore pris en compte par les responsables à Genève, Washington ou aux Nations unies. Actuellement, la plupart des armes autonomes développées par l'armée américaine sont des versions sans pilote des plates-formes existantes, opérant en coordination avec des équivalents pilotés, au sein d'équipes de combat « en réseau », supervisées par des commandants humains.

Les risques inexplores des systemes d'armes autonomes : mises en garde d'experts

Les responsables militaires et diplomatiques de haut niveau aux États-Unis insistent sur la possibilité d'utiliser l'intelligence artificielle sans courir de risques futurs, affirmant que le pays se limitera à des dispositifs intégrant des protections adéquates contre tout comportement potentiellement dangereux. Cet engagement est au cœur de la « Déclaration politique sur l'utilisation militaire responsable de l'intelligence artificielle et de l'autonomie » émise par le département d'État en février 2023. Néanmoins, des experts en sécurité et technologie de renom restent prudents face aux risques liés aux comportements émergents des futures armes robotiques, continuant de mettre en garde contre une adoption précipitée de l'IA dans les conflits.

Le rapport final de la Commission de sécurité nationale sur l'intelligence artificielle, paru en février 2021, présente un intérêt particulier. Sous la coprésidence de Robert Work, récemment revenu au CNAS après son service au Pentagone, et d'Eric Schmidt, ancien PDG de Google, la commission a préconisé l'adoption rapide de l'IA par l'armée américaine pour assurer la victoire dans de futurs conflits avec la Chine et/ou la Russie. Cependant, elle a également émis des inquiétudes quant aux dangers potentiels d'une saturation des champs de bataille par des robots.

Le rapport souligne que l'utilisation mondiale incontrôlée de ces systèmes pourrait entraîner une escalade involontaire des conflits et une instabilité des crises. Les interactions complexes entre les systèmes d'armes autonomes et l'IA sur le champ de bataille, notamment les comportements émergents, posent des problèmes non testés. Face à ces dangers, le rapport conclut que les pays doivent prendre des mesures pour réduire les risques associés à ces systèmes.

Lorsque les principaux défenseurs des armes autonomes soulèvent des préoccupations quant aux dangers involontaires de leur utilisation sur le champ de bataille, cela devrait susciter une réelle inquiétude chez le reste d'entre nous. Même pour ceux qui ne possèdent pas les compétences mathématiques nécessaires pour comprendre le comportement émergent de l'IA, il est évident que l'humanité pourrait être confrontée à un risque significatif si des machines à tuer acquièrent la capacité de penser par elles-mêmes. Bien que l'idée de leur adoption en tant que gardiens de la paix puisse surprendre, leur conception axée sur le combat et le meurtre les incline plutôt à exécuter ces instructions de manière indépendante et extrême.

L'émergence des « robots tueurs » autonomes munis d'intelligence artificielle suscite des inquiétudes quant aux répercussions potentielles sur le paysage de la guerre. Ces armes automatisées, développées par des puissances majeures telles que les États-Unis, sont capables de prendre des décisions létales de manière indépendante, soulevant des préoccupations éthiques et de sécurité. Le déploiement initial de ces engins en Ukraine et à Gaza souligne leur efficacité, mais soulève des questions sur leur capacité à distinguer entre combattants et civils, suscitant des inquiétudes liées aux violations du droit humanitaire international.

L'utilisation de drones, navires et véhicules autonomes soulève des débats sur la nécessité de réglementer strictement leur usage. Certains pays envisagent des restrictions, voire une interdiction totale, tandis que d'autres cherchent à les exploiter de manière stratégique. Une approche alternative propose la formation d'essaims de robots interconnectés, mais cela comporte des risques liés à des comportements émergents imprévisibles.

Malgré les assurances quant au contrôle de ces armes, le rapport souligne les risques potentiels et appelle à des mesures pour les atténuer. Le débat s'intensifie sur la question de permettre à ces dispositifs de prendre des vies humaines sans surveillance humaine, soulevant des préoccupations au sein de la société civile et des organisations religieuses. Les experts mettent en garde contre les dangers des comportements émergents, soulignant la nécessité d'une réglementation stricte et de mesures de réduction des risques. Alors que les forces armées s'efforcent de développer des armes autonomes, le rapport appelle à une vigilance continue face à l'évolution rapide de la technologie militaire.

Sources : AFT, UNODA, U.S. Department of State Human Rights Watch

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi :

Intelligence artificielle et armement : l'armée de l'air américaine veut 6 milliards de dollars pour construire 2 000 drones, dotés d'une intelligence artificielle

Les robots de la police de San Francisco sont autorisés à tuer dans des situations dangereuses, selon un projet de politique approuvé à l'unanimité par le conseil de surveillance de la ville

San Francisco va permettre à la police de déployer des robots capables de tuer des humains et ravive le débat mondial sur la possibilité d'une utilisation éthique de tels outils

[Bruno]

Les plus grands scientifiques chinois et occidentaux de l'IA publient une déclaration commune :
la menace existentielle que représente l'IA nécessite une collaboration similaire à celle de la guerre froide

Des experts en intelligence artificielle, tant occidentaux que chinois, ont conjointement établi des « lignes rouges » pour circonscrire les dangers potentiels inhérents à l'IA, définissant ainsi les territoires à ne pas franchir pour éviter des risques existentiels. Réunis à Pékin lors d'une rencontre récente, ces scientifiques ont exprimé un avertissement grave, soulignant la nécessité d'une collaboration mondiale similaire à celle observée pendant la guerre froide pour prévenir des scénarios critiques, comparables à ceux des conflits nucléaires. Les experts ont identifié des domaines sensibles tels que la création d'armes biologiques et les cyberattaques comme des points de vigilance essentiels dans le développement de l'IA.

Cette déclaration, appuyée par des personnalités éminentes telles que Geoffrey Hinton, Yoshua Bengio, Stuart Russell et Andrew Yao, intervient après un dialogue international sur la sécurité de l'IA, où des représentants du gouvernement chinois étaient également présents, laissant ainsi envisager un soutien tacite de l'État. L'engagement des présidents américain et chinois dans ce domaine, ainsi que la participation de plusieurs nations et entreprises majeures de l'IA à des initiatives de coopération internationale, soulignent l'importance de cette déclaration dans la quête d'une gouvernance responsable de l'IA face aux enjeux existentiels.

Lors d'une réunion qui s'est tenue à Pékin la semaine dernière, des experts occidentaux et chinois de l'IA ont lancé un avertissement sévère : pour faire face aux menaces associées à une technologie puissante, il faut une coopération mondiale équivalente aux efforts déployés pendant la guerre froide pour éviter les guerres nucléaires.

Le groupe de scientifiques internationaux spécialisés dans l'IA a identifié des « lignes rouges » dans le développement de l'IA, notamment la création d'armes biologiques et le lancement de cyberattaques. Comme l'a rapporté le Financial Times dans les jours qui ont suivi la conférence, les universitaires ont averti qu'une approche collaborative de la sécurité de l'IA était nécessaire pour éviter « des risques catastrophiques, voire existentiels, pour l'humanité au cours de notre vie ». Au plus profond de la guerre froide, la coordination scientifique et gouvernementale internationale a permis d'éviter une catastrophe thermonucléaire. L'humanité doit à nouveau se coordonner pour éviter une catastrophe qui pourrait résulter d'une technologie sans précédent », indique la déclaration.

Parmi les signataires de la déclaration figurent d'éminents experts tels que Geoffrey Hinton et Yoshua Bengio, lauréats du prix Turing et considérés comme les "parrains de l'IA", Stuart Russell, professeur d'informatique à l'université de Californie (Berkeley), et Andrew Yao, l'un des chercheurs en informatique les plus renommés de Chine. Ces remarques acerbes font suite au « Dialogue international sur la sécurité de l'IA » qui s'est tenu à Pékin la semaine dernière et auquel ont participé des représentants du gouvernement chinois, ce qui laisse supposer un soutien tacite du gouvernement à la conférence et à ses thèmes.

Sécurité de l'intelligence artificielle : Dialogue international sur la sécurisation de l'IA

L'intelligence artificielle est de plus en plus populaire, et les grandes entreprises technologiques du monde entier investissent massivement pour s'imposer dans ce domaine hautement concurrentiel. À mesure que l'IA entre dans nos vies, les protocoles et les mesures de sécurité se retrouvent sous les feux de la rampe. Liu Xinqing en dit plus.

Le dialogue international de Pékin 2024 sur la sécurité de l'IA, le premier du genre organisé en Chine, a été organisé dans un contexte d'attention croissante du public à l'égard de la sécurité de l'IA. Le dialogue réunit des scientifiques du monde entier pour collaborer à l'atténuation des risques associés à l'intelligence artificielle. Les experts participant à la réunion ont convenu que les percées réalisées par les grands modèles l'ont été essentiellement par des moyens empiriques. Toutefois, les mécanismes de génération et d'émergence de l'intelligence qui les sous-tendent ne sont pas encore clairs.

La croissance rapide de l'intelligence artificielle s'accompagne d'une augmentation des risques d'utilisation abusive. La communauté internationale en sait encore très peu sur la manière de construire un système d'intelligence artificielle sûr, ce qui représente un défi pour l'humanité dans son ensemble. YOSHUA BENGIO Lauréat du prix Turing « La science ne sait pas comment s'assurer que ces futurs systèmes d'intelligence artificielle, que nous appelons AGI, sont sûrs. Nous devrions commencer à travailler dès maintenant sur des solutions scientifiques et politiques à ce problème. »

HU TIEJUN Président de l'Académie d'intelligence artificielle de Pékin « La sécurisation de l'intelligence artificielle est une nécessité absolue. Les experts, les gouvernements, les organisations internationales et même les Nations unies se concentrent sur cette question. Je pense que cette réunion est l'occasion pour les experts de l'industrie de discuter des moyens techniques et des mesures visant à garantir la sécurité de l'intelligence artificielle. Cela permettra également de faire progresser nos travaux de recherche sur la sécurité de l'IA ».

Le forum est parvenu à un consensus préliminaire sur la recherche technologique mondiale en matière de sécurité de l'IA, la pratique industrielle et la gouvernance. Il espère également établir en Chine un dialogue international et un mécanisme d'échange pour la sécurité de l'IA, afin de promouvoir le développement sain et durable de l'intelligence artificielle mondiale.

Le président américain Joe Biden et le président chinois Xi Jinping ont convenu d'ouvrir une discussion sur la sécurité de l'IA lors de leur rencontre à San Francisco en novembre. Au début du mois de novembre, la Chine et les États-Unis faisaient partie des 28 pays accueillis par le Premier ministre britannique Rishi Sunak pour le premier sommet sur la sécurité de l'IA, au cours duquel les principales entreprises d'IA se sont engagées à collaborer pour faire face aux risques existentiels posés par l'IA avancée.

Compte rendu de la rencontre entre le président Joe Biden et le président Xi Jinping de la République populaire de Chine

Le président Joseph R. Biden Jr. a tenu le 15 novembre 2023 un sommet avec le président Xi Jinping de la République populaire de Chine (RPC), à Woodside, en Californie. Les deux dirigeants ont eu une discussion franche et constructive sur une série de questions bilatérales et mondiales, notamment sur les domaines de coopération potentielle, et ont échangé leurs points de vue sur les domaines de divergence.

Le président Biden a souligné que les États-Unis et la Chine sont en concurrence, notant que les États-Unis continueraient à investir dans les sources de la force américaine à l'intérieur du pays et à s'aligner sur les alliés et les partenaires dans le monde entier. Il a souligné que les États-Unis défendraient toujours leurs intérêts, leurs valeurs, leurs alliés et leurs partenaires. Il a réaffirmé que le monde attendait des États-Unis et de la Chine qu'ils gèrent la concurrence de manière responsable afin d'éviter qu'elle ne débouche sur un conflit, une confrontation ou une nouvelle guerre froide.

Les deux dirigeants ont progressé sur un certain nombre de questions clés. Ils se sont félicités de la reprise de la coopération bilatérale pour lutter contre la fabrication et le trafic de drogues illicites à l'échelle mondiale, y compris les drogues synthétiques comme le fentanyl, et de la création d'un groupe de travail pour une communication permanente et une coordination des services répressifs sur les questions liées à la lutte contre les stupéfiants. Le président Biden a souligné que cette nouvelle étape fera progresser les efforts déployés par l'ensemble du gouvernement américain pour contrer la menace croissante des drogues synthétiques illicites et pour réduire le détournement des précurseurs chimiques et des presses à comprimés vers les cartels de la drogue.

Les deux dirigeants se sont félicités de la reprise des communications entre militaires de haut niveau, ainsi que des pourparlers de coordination de la politique de défense entre les États-Unis et la Chine et des réunions de l'accord consultatif militaire maritime entre les États-Unis et la Chine. Les deux parties reprennent également les conversations téléphoniques entre les commandants de théâtre.

Les dirigeants ont affirmé la nécessité de faire face aux risques liés aux systèmes d'IA avancés et d'améliorer la sécurité de l'IA dans le cadre des discussions gouvernementales sino-américaines.

Les deux dirigeants ont échangé leurs points de vue sur les principaux défis régionaux et mondiaux. Le président Biden a souligné le soutien des États-Unis à une région indo-pacifique libre et ouverte, connectée, prospère, sûre et résiliente. Le président a réaffirmé l'engagement sans faille des États-Unis à défendre leurs alliés de la région indo-pacifique. Le président a souligné l'engagement durable des États-Unis en faveur de la liberté de navigation et de survol, du respect du droit international, du maintien de la paix et de la stabilité en mer de Chine méridionale et orientale, et de la dénucléarisation complète de la péninsule coréenne.

Le président Biden a réaffirmé que les États-Unis, aux côtés de leurs alliés et partenaires, continueront à soutenir la défense de l'Ukraine contre l'agression russe, afin que l'Ukraine sorte de cette guerre en tant que nation démocratique, indépendante, souveraine et prospère, capable de dissuader et de se défendre contre de futures agressions. En ce qui concerne le conflit entre Israël et le Hamas, le président a réitéré le soutien des États-Unis au droit d'Israël de se défendre contre le terrorisme et a souligné l'importance pour tous les pays d'user de leur influence pour empêcher l'escalade et l'extension du conflit.

Le président Biden a souligné l'universalité des droits de l'homme et la responsabilité de toutes les nations de respecter leurs engagements internationaux en matière de droits de l'homme. Il a fait part de ses préoccupations concernant les violations des droits de l'homme commises par la RPC, notamment au Xinjiang, au Tibet et à Hong Kong. En ce qui concerne Taïwan, le président Biden a souligné que notre politique d'une seule Chine n'a pas changé et qu'elle a été cohérente au fil des décennies et des administrations. Il a réaffirmé que les États-Unis s'opposent à toute modification unilatérale du statu quo de la part de l'une ou l'autre partie, que nous attendons que les différends entre les deux rives du détroit soient résolus par des moyens pacifiques et que le monde a intérêt à ce que la paix et la stabilité règnent dans le détroit de Taïwan. Il a appelé la RPC à faire preuve de retenue dans ses activités militaires à l'intérieur et autour du détroit de Taïwan.

Le président Biden a également fait part de ses préoccupations constantes concernant les politiques commerciales déloyales de la RPC, ses pratiques économiques non commerciales et ses actions punitives à l'encontre des entreprises américaines, qui nuisent aux travailleurs et aux familles des États-Unis. Le président a souligné que les États-Unis continueront à prendre les mesures nécessaires pour empêcher que des technologies américaines avancées ne soient utilisées pour porter atteinte à leur propre sécurité nationale, sans pour autant limiter indûment le commerce et l'investissement.

Le président a une nouvelle fois souligné que la résolution des cas de citoyens américains détenus à tort ou soumis à des interdictions de sortie du territoire en Chine restait une priorité. Les deux dirigeants ont réaffirmé l'importance des liens entre les peuples des États-Unis et de la République populaire de Chine et se sont engagés à œuvrer en faveur d'une nouvelle augmentation significative des vols réguliers de passagers au début de l'année prochaine, parallèlement à des actions visant à rétablir la pleine mise en œuvre de l'accord de transport aérien entre les États-Unis et la Chine, afin de soutenir les échanges entre les deux pays. Les deux dirigeants ont également encouragé l'expansion des échanges dans les domaines de l'éducation, des étudiants, de la jeunesse, de la culture, du sport et des affaires.

Les deux dirigeants ont souligné l'importance de travailler ensemble pour accélérer les efforts de lutte contre la crise climatique au cours de cette décennie critique. Ils se sont félicités des discussions positives qui ont eu lieu récemment entre leurs envoyés spéciaux respectifs pour le climat, notamment sur les mesures nationales visant à réduire les émissions dans les années 2020, sur les approches communes à adopter pour assurer le succès de la COP 28 et sur la mise en place du groupe de travail sur le renforcement de l'action climatique dans les années 2020 afin d'accélérer la mise en œuvre de mesures concrètes en faveur du climat. Le président Biden a déclaré que les États-Unis étaient prêts à collaborer avec la RPC pour relever les défis transnationaux, tels que la sécurité sanitaire, la dette et le financement du climat dans les pays en développement et les marchés émergents.

S'appuyant sur la réunion de novembre 2022 à Bali, au cours de laquelle ils ont discuté de l'élaboration de principes relatifs aux relations entre les États-Unis et la Chine, les deux dirigeants ont reconnu les efforts déployés par leurs équipes respectives pour explorer les meilleures pratiques en matière de relations. Ils ont souligné l'importance d'une gestion responsable des aspects concurrentiels des relations, de la prévention des conflits, du maintien de lignes de communication ouvertes, de la coopération dans des domaines d'intérêt commun, du respect de la charte des Nations unies, et du fait que tous les pays se traitent mutuellement avec respect et trouvent un moyen de vivre les uns à côté des autres de manière pacifique. Les dirigeants se sont félicités de la poursuite des discussions à cet égard.

Les deux dirigeants sont convenus que leurs équipes assureront le suivi de leurs discussions à San Francisco en poursuivant la diplomatie et les interactions à haut niveau, y compris des visites dans les deux sens et des consultations permanentes au niveau opérationnel dans des domaines clés, notamment les questions commerciales, économiques et financières, l'Asie-Pacifique, le contrôle des armements et la non-prolifération, les questions maritimes, l'application du contrôle des exportations, la planification des politiques, l'agriculture et les questions relatives aux personnes handicapées.

Les scientifiques définissent les limites de l'IA : un appel à l'action mondiale

D'éminents scientifiques occidentaux et chinois spécialisés dans l'intelligence artificielle ont lancé un avertissement sévère : la lutte contre les risques liés à cette puissante technologie nécessite une coopération mondiale semblable à celle qui existait pendant la guerre froide pour éviter les conflits nucléaires. Un groupe d'experts internationaux renommés s'est réuni à Pékin la semaine dernière et a défini des « lignes rouges » pour le développement de l'IA, notamment en ce qui concerne la fabrication d'armes biologiques et le lancement de cyberattaques.

Dans une déclaration publiée dans les jours qui ont suivi la réunion, les universitaires ont prévenu qu'une approche commune de la sécurité de l'IA était nécessaire pour mettre fin aux « risques catastrophiques, voire existentiels, qui pèsent sur l'humanité au cours de notre vie ».

« Au plus profond de la guerre froide, la coordination scientifique et gouvernementale internationale a permis d'éviter une catastrophe thermonucléaire. L'humanité doit à nouveau se coordonner pour éviter une catastrophe qui pourrait résulter d'une technologie sans précédent », indique la déclaration. Parmi les signataires figurent Geoffrey Hinton et Yoshua Bengio, qui ont remporté un prix Turing pour leurs travaux sur les réseaux neuronaux et sont souvent décrits comme les « parrains » de l'IA ; Stuart Russell, professeur d'informatique à l'université de Californie à Berkeley ; et Andrew Yao, l'un des informaticiens chinois les plus éminents.

Cette déclaration fait suite au dialogue international sur la sécurité de l'IA qui s'est tenu à Pékin la semaine dernière, une réunion à laquelle ont participé des représentants du gouvernement chinois, signe d'une approbation officielle tacite du forum et de ses résultats. Cette rencontre s'inscrit dans le cadre des pressions exercées par la communauté universitaire sur les entreprises technologiques et les gouvernements pour qu'ils collaborent à la sécurité de l'IA, notamment en réunissant les deux superpuissances technologiques mondiales, la Chine et les États-Unis.

Le président américain Joe Biden et son homologue chinois Xi Jinping se sont rencontrés en novembre pour discuter de la sécurité de l'IA et ont convenu d'établir un dialogue sur la question. Ces derniers mois, de grandes entreprises d'IA du monde entier ont également rencontré à huis clos des experts chinois de l'IA. En novembre, 28 pays, dont la Chine, et les principales entreprises d'IA se sont engagés à collaborer pour faire face aux risques existentiels liés à l'IA avancée lors du sommet sur la sécurité de l'IA organisé par le Premier ministre britannique Rishi Sunak.

La semaine dernière, à Pékin, des experts ont examiné les menaces liées au développement de l' « intelligence artificielle générale », c'est-à-dire de systèmes d'IA égaux ou supérieurs à l'homme. « Les discussions ont porté essentiellement sur les lignes rouges qu'aucun système d'IA puissant ne devrait franchir et que les gouvernements du monde entier devraient imposer en matière de développement et de déploiement de l'IA », a déclaré Bengio.

Ces lignes rouges concernent les systèmes de plus en plus autonomes. Selon la déclaration, « aucun système d'IA ne devrait être capable de se copier ou de s'améliorer sans l'approbation et l'assistance explicites d'un être humain » ou « de prendre des mesures visant à accroître indûment son pouvoir et son influence ». Les scientifiques ont ajouté qu'aucun système ne devrait « accroître substantiellement la capacité des acteurs à concevoir des armes de destruction massive, à violer la convention sur les armes biologiques ou chimiques » ou à « exécuter de manière autonome des cyberattaques entraînant de graves pertes financières ou des dommages équivalents ».

Sources : CGTN, Whitehouse

Et vous ?

Quel est votre avis sur le sujet ?

Pourquoi les experts ont-ils comparé les dangers potentiels de l'IA à ceux des conflits nucléaires ?

Quelles pourraient être les conséquences existentielles si les « lignes rouges » établies par les experts étaient franchies dans le développement de l'IA ?

Comment les pays peuvent-ils concrètement coopérer pour mettre en œuvre les mesures de prévention recommandées par les experts en IA ?

Voir aussi :

« Bientôt, tout le monde possédera un robot, comme une voiture ou un téléphone aujourd'hui », affirme le fondateur de Figure AI, mais la question du coût des robots fait l'objet de débat

Google étend l'affichage des résultats de recherche assistés par IA aux utilisateurs qui n'ont pas donné leur accord, proposant des résumés générés automatiquement afin d'enrichir leur expérience

[Ryu2000]

Quel est votre avis sur le sujet ?

Il ne va pas y avoir une nouvelle guerre froide, il va y avoir une guerre tout court.
Que ce soit légal ou illégal, les USA et la Chine développeront toutes les solutions technologique capable de leur donner un avantage.

Ils disent que la ligne rouge c'est notamment :
- la création d'armes biologiques
- le lancement de cyberattaques
Je trouve ça bizarre comme exemples.

En temps de guerre il n'y a pas de règle. (le gagnant ne sera pas sanctionné)
Des pays vont concevoir des armes de destruction massive et vont violer les conventions sur les armes biologiques ou chimique.

Ils sont marrant quand ils parlent d'efforts déployés pendant la guerre froide pour éviter les guerres nucléaires, aujourd'hui plein de pays ont des armes nucléaires et ne devraient pas en avoir.
Bon après c'est une défense (mutually assured destruction), tu m'envoies une bombe, je t'envoie une bombe, on est tous mort, donc tu ne vas pas m'envoyer de bombe et je ne vais pas t'envoyer de bombe.

Je trouve que c'est un peu naïf de croire que des superpuissances comme les USA vont se mettre à respecter les règles.
Il y a quand même beaucoup à gagner, beaucoup à perdre.
Donc là faut faire comme les champions et se doper, "les autres le font, donc je dois le faire".

=======
L'ambiance va ressembler à ça :
L'arme biologique, une vieille histoire

En 1943, l'armée américaine entame la construction d'un complexe de recherche et développement d'armes biologiques à Camp Detrick, dans le Maryland (rebaptisé depuis Fort Detrick). Le programme est rapidement renforcé pour contrer les recherches de l'Allemagne nazie et du Japon. Les travaux américains portent sur la mise au point de bombes à fragmentation capables de disséminer des projectiles contenant du charbon. D'autres travaux portent sur la toxine du botulisme. En 1944, les responsables du programme d'armes biologiques réclament des moyens pour fabriquer un million de bombes au charbon par mois.

Moustiques. A la fin de la guerre, les Etats-Unis mettent leur programme en veilleuse. En 1946, le ministère de la Guerre reconnaît publiquement l'existence de son programme de recherche sur les armes biologiques. Deux ans plus tard, un rapport souligne la vulnérabilité du pays, notamment en cas d'attaque subversive contre les réseaux d'eau et les métros. En Chine, 1000 à 3000 prisonniers des Japonais seraient décédés pendant la guerre lors d'expériences d'inhalation du charbon dans l'unité 731 de l'Armée impériale, chargée de la guerre bactériologique. Après 1945, les Etats-Unis accordent l'impunité au général japonais Ishii qui dirigeait l'unité 731 et à quelques-uns de ses chercheurs et récupèrent en échange leur savoir-faire.

Face à la menace soviétique, les Etats-Unis décident en 1950 de construire une usine de fabrication d'armes biologiques. La production démarre en décembre 1953. Sept agents biologiques seront fabriqués entre 1954 et 1967, dont le bacille du charbon.

À la fin de la guerre, les USA n'ont pas dit "les scientifiques Nazis doivent être condamné", ils ont dit "il faut qu'on embauche un maximum de scientifiques Nazis".
Opération Paperclip

L’opération Paperclip (originellement appelée « Opération Overcast ») fut menée à la fin de la Seconde Guerre mondiale par l'état-major de l'armée des États-Unis afin d'exfiltrer et de recruter près de 1 500 scientifiques allemands issus du complexe militaro-industriel de l'Allemagne nazie pour lutter contre l'URSS et récupérer les armes secrètes du Troisième Reich.

======
Pour la blague j'ai envie de dire qu'il est possible que le problème d'électricité du porte-conteneurs qui a détruit le pont Francis Scott Key de Baltimore soit mis sur le dos d'une cyberattaque chinoise.

[Anselme45]

Des experts en intelligence artificielle, tant occidentaux que chinois, ont conjointement établi des « lignes rouges » pour circonscrire les dangers potentiels inhérents à l'IA, définissant ainsi les territoires à ne pas franchir pour éviter des risques existentiels.

Et ces mêmes experts se feront un plaisir de développer les armes équipées d'IA à la demande de leur état respectif sans se préoccuper le moins du monde de la moindre "ligne rouge"!

[Jade Emy]

Le ministère américain de la défense a signé un contrat avec la start-up Scale AI afin d'utiliser l'intelligence artificielle (IA) pour la planification et les opérations militaires.

Le ministère de la défense a signé un contrat avec la start-up Scale AI afin d'utiliser l'intelligence artificielle (IA) pour la planification et les opérations militaires. Le projet se concentre sur le développement et le déploiement d'une technologie alimentée par l'IA avec l'aide des grands systèmes de modèles de langage de Microsoft

Le ministère de la défense a signé un contrat avec la start-up Scale AI afin d'utiliser l'intelligence artificielle (IA) pour la planification et les opérations militaires, marquant ainsi la dernière intégration par le Pentagone de technologies émergentes dans ses flux de travail. Le programme phare, baptisé Thunderforge, intégrera des "agents" d'IA dans les flux de travail militaires afin de rendre le processus de prise de décision plus précoce et plus rapide pour les chefs militaires, a annoncé Scale AI.

Pour rappel, il y a un an, le Chief Digital and Artificial Intelligence Office (CDAO) du Pentagone a demandé à Scale AI de produire un moyen fiable de tester et d'évaluer les grands modèles de langage qui peuvent soutenir, et potentiellement perturber, la planification et la prise de décision militaires. Scale AI était alors chargé de fournir "un cadre permettant de déployer l'IA en toute sécurité en mesurant les performances des modèles, en offrant un retour d'information en temps réel aux combattants et en créant des ensembles d'évaluation spécialisés pour le secteur public afin de tester les modèles d'IA pour des applications de soutien militaire, telles que l'organisation des conclusions des rapports d'action après coup".

Ce nouveau projet vient donc renforcer la collaboration entre le Pentagone et Scale AI. Thunderforge se concentre sur le développement et le déploiement d'une technologie alimentée par l'IA avec l'aide des grands systèmes de modèles de langage de Microsoft. La technologie de Scale AI sera également intégrée à l'infrastructure de modélisation et de simulation du fabricant d'armes Anduril afin de faciliter la planification des missions, a indiqué l'entreprise.

"Nos solutions d'IA transformeront les processus opérationnels militaires d'aujourd'hui et moderniseront la défense américaine", a déclaré Alexnder Wang, fondateur et PDG de Scale AI. "En collaborant avec le DIU, les commandements de combat et nos partenaires industriels, nous conduirons la force interarmées à intégrer l'IA dans la prise de décision opérationnelle."

Voici notamment l'annonce de Scale AI :

Présentation de Thunderforge : l'IA pour la défense américaine

La première nation à intégrer pleinement l'intelligence artificielle (IA) dans le processus décisionnel militaire marquera l'histoire du XXIe siècle. C'est pourquoi il est essentiel que les États-Unis prennent l'initiative dans le domaine de l'IA et l'intègrent dans des applications militaires à grande échelle sous une supervision humaine attentive.

Pour permettre aux États-Unis d'atteindre cet objectif, Scale AI s'est vu attribuer un contrat principal par la Defense Innovation Unit (DIU) pour Thunderforge. Il s'agit du programme phare du ministère de la défense (DoD) visant à exploiter l'IA pour la planification et les opérations militaires américaines. C'est un autre grand pas vers la mise à disposition de notre technologie et de notre expertise en matière d'IA au gouvernement.

"Scale AI est honorée de diriger Thunderforge. Nos solutions d'IA transformeront les processus opérationnels militaires d'aujourd'hui et moderniseront la défense américaine. En collaborant avec le DIU, les commandements de combat et nos partenaires industriels, nous conduirons la force conjointe à intégrer l'IA dans la prise de décision opérationnelle. La rapidité accrue du DIU offrira aux chefs militaires de notre nation le plus grand avantage technologique". - Alexandr Wang, fondateur et PDG de Scale AI.

Thunderforge marque la première incursion du DoD dans l'intégration d'agents d'IA dans et à travers les flux de travail militaires afin de fournir des systèmes avancés d'aide à la prise de décision pour les chefs militaires.

Notre équipe de partenaires technologiques mondiaux - dont Anduril et Microsoft - développera et déploiera des solutions alimentées par l'IA et des flux de travail agentiques personnalisés (toujours sous surveillance humaine) pour nos partenaires de mission, initialement au Commandement Indo-Pacifique (INDOPACOM) et au Commandement européen (EUCOM). Anduril intègre la capacité LLM de Scale AI dans son infrastructure de modélisation et de simulation avancée Lattice afin d'améliorer la planification des missions. Microsoft fournit une technologie LLM de pointe pour permettre une solution multimodale de pointe.

Le contrat a donc été attribué par la Defense Innovation Unit du Pentagone, qui vise à adopter des technologies commerciales dans l'ensemble de l'armée à des fins de sécurité nationale et d'efficacité. Actuellement, les processus de planification militaire dépendent de "technologies et de méthodologies vieilles de plusieurs décennies", a déclaré Bryce Goodman, chef du programme Thunderforge de la DIU et contractant.

Cela crée un "décalage fondamental entre la vitesse de la guerre moderne et notre capacité de réaction", a déclaré Bryce Goodman. "Thunderforge apporte à la planification stratégique opérationnelle une analyse et une automatisation alimentées par l'IA, permettant aux décideurs d'opérer au rythme requis par les conflits émergents."

Le système sera d'abord déployé au sein du commandement américain Indo-Pacifique et du commandement américain européen pour soutenir la planification, le développement des campagnes, l'allocation des ressources et les évaluations, selon le DIU. Il sera ensuite étendu à l'ensemble des commandements de combat.

Le Pentagone a tenté d'accroître l'intégration de l'IA dans les systèmes militaires au cours des dernières années, en particulier lorsqu'il s'agit de consolider et d'agir sur de grandes quantités de données. Toutefois, des observateurs ont déclaré l'année dernière que l'industrie de la défense avait encore un long chemin à parcourir pour mettre en œuvre les technologies nouvelles et émergentes.

Le Pentagone a notamment adopté une nouvelle stratégie en ce qui concerne les drones, y compris l'utilisation accrue de l'IA pour se défendre contre les attaques de drones. Un rapport a révélé que le Pentagone explore des solutions innovantes pour protéger ses troupes contre les drones adverses, dont le « Bullfrog », un système d'armement autonome doté d'une mitrailleuse pilotée par intelligence artificielle. Conçu pour neutraliser des drones avec précision et à moindre coût, il surpasse les capacités humaines grâce à des algorithmes avancés et une vision par ordinateur. Ce système, présenté comme adaptable à divers véhicules, pourrait fonctionner de manière autonome à l'avenir.

L'armée américaine a également franchi une étape majeure en faisant sa première acquisition confirmée de technologies OpenAI pour ses forces de combat. Le 30 septembre 2024, l'United States Africa Command (AFRICOM) a reçu l'approbation pour acheter des services de cloud computing directement auprès de Microsoft, via le contrat Joint Warfighting Cloud Capability d'une valeur de 9 milliards de dollars. Ce contrat inclut des outils fournis par OpenAI, tels que le modèle de langage GPT-4 et DALL-E, l'outil de génération d'images.

Voici le communiqué du DIU :

Le projet Thunderforge du DIU vise à intégrer la prise de décision commerciale assistée par l'IA dans la planification opérationnelle et au niveau du théâtre.

L'Unité d'innovation pour la défense (DIU) a attribué un contrat prototype à Scale AI pour Thunderforge, une initiative conçue pour intégrer l'intelligence artificielle (IA) dans la planification militaire opérationnelle et au niveau du théâtre, et pour fusionner des outils de modélisation et de simulation de pointe. L'état final du système accélérera la prise de décision, permettant aux planificateurs de synthétiser plus rapidement de grandes quantités d'informations, de générer de multiples plans d'action et de mener des wargames alimentés par l'IA afin d'anticiper et de répondre à l'évolution des menaces.

"Les processus de planification militaire actuels reposent sur des technologies et des méthodologies vieilles de plusieurs décennies, ce qui crée un décalage fondamental entre la rapidité de la guerre moderne et notre capacité de réaction", a déclaré Bryce Goodman, chef du programme Thunderforge du DIU et contractant. "Thunderforge apporte à la planification opérationnelle et stratégique une analyse et une automatisation alimentées par l'IA, permettant aux décideurs d'opérer au rythme requis par les conflits émergents."

La solution technologique Thunderforge fournira des capacités de planification assistée par l'IA, des outils d'aide à la décision et des flux de travail automatisés, permettant aux planificateurs militaires de naviguer dans des environnements opérationnels en constante évolution. En s'appuyant sur des modèles de langage avancés, des simulations pilotées par l'IA et des wargames interactifs basés sur des agents, Thunderforge améliorera la préparation et l'exécution des opérations par l'armée américaine.

Le système sera déployé dans un premier temps au sein du commandement américain Indo-Pacifique (INDOPACOM) et du commandement américain en Europe (EUCOM) afin de soutenir les activités de planification essentielles à la mission, notamment l'élaboration de campagnes, l'allocation de ressources à l'échelle du théâtre et l'évaluation stratégique. L'intégration de Thunderforge dans de multiples domaines de la sécurité garantit que les capacités de planification pilotées par l'IA seront intégrées en toute sécurité dans les opérations militaires du monde réel.

"Le DIU est le bras innovateur de l'INDOPACOM. Il nous aide à relever les défis immédiats en exploitant et en adoptant les meilleures pratiques commerciales pour développer, tester et finalement mettre en œuvre des technologies émergentes de manière itérative, rapide et à grande échelle", a déclaré l'ADM Samuel Paparo, commandant de l'U.S.-INDOPACOM.

Le général Peter Andrysiak, chef d'état-major de l'USEUCOM, a déclaré que Thunderforge s'appuie sur les efforts déployés l'année dernière pour numériser et améliorer l'avantage décisionnel en modernisant les systèmes C2 de l'USEUCOM. "Notre capacité à consolider, à analyser et à agir sur de vastes quantités de données à l'échelle du théâtre dans toutes les fonctions de combat n'a jamais été aussi grande. Thunderforge est la prochaine étape de cet effort et permettra aux États-Unis de continuer à repousser les limites en termes d'utilisation des technologies émergentes pour moderniser l'efficacité organisationnelle", a-t-il déclaré. "L'USEUCOM est impatient de continuer à fournir le contexte opérationnel nécessaire à ces changements transformateurs."

Thunderforge marque un tournant décisif vers une guerre alimentée par l'IA et fondée sur les données, garantissant que les forces américaines peuvent anticiper les menaces et y répondre avec rapidité et précision. Après son déploiement initial, Thunderforge sera étendu à l'ensemble des commandements de combat.

"Nous sommes fiers de contribuer à accélérer l'adoption de technologies d'IA commerciales de pointe au sein du ministère de la défense", a déclaré Doug Beck, directeur du DIU. "Thunderforge est le fondement de la prochaine génération de décisions militaires basées sur l'IA, améliorant la capacité de la force conjointe à planifier, à s'adapter et à répondre aux défis émergents à la vitesse de la machine - aidant le combattant à prévenir les conflits majeurs, ou à gagner s'il est forcé de se battre."

Le système s'appuiera sur les applications agentiques de Scale AI et sur l'expertise de GenAI en matière de test et d'évaluation. Thunderforge comprendra également la plateforme logicielle Lattice d'Anduril et les LLM de pointe mis en œuvre par Microsoft. L'équipe Thunderforge fournira un écosystème de planification unifié dans lequel des agents d'IA simuleront des scénarios de wargame et de planification et affineront les plans d'action proposés.

Sources : Annonce de Scale AI, Annonce du DIU

Et vous ?

Pensez-vous que cet accord est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le Pentagone accélère l'intégration de l'IA pour maintenir sa compétitivité face à la Chine, avec des indications selon lesquelles les États-Unis développeront des armes autonomes létales

L'armée de l'air américaine va introduire 1 000 drones contrôlés par l'IA pour améliorer ses capacités de combat aérien et réduire les coûts des avions militaires standard pilotés par des soldats

Des documents divulgués révèlent que l'armée israélienne est l'un des principaux clients de Microsoft dans le domaine de l'IA et du cloud, les services de Microsoft ont soutenu l'offensive contre Gaza

[Cpt Anderson]

C'est la raison d'exister de l'IA : pour le domaine militaire. Il est bien évident que l'IA interviendra dans tous les aspects militaires possibles. Seuls les mickeys font semblant de pas comprendre.

[Patrick Ruiz]

Le Pentagone fait appel à Grok et à ChatGPT à des fins militaires et allonge la liste des cas d’usage de l’IA qui suscitent de vives controverses éthiques, politiques et juridiques

Le Pentagone annonce avoir intégré « Grok for Government » de Starshield AI et ChatGPT d’OpenAI à des fins militaires non classifiées, élargissant ainsi le nombre d’assistants IA disponibles sur la plateforme du ministère. L'intégration de l'intelligence artificielle s'est considérablement accélérée au Pentagone, transformant l'armée américaine en une force de combat axée sur l'IA. Cette adoption massive touche aussi bien le champ de bataille que la gestion administrative, mais elle suscite de vives controverses éthiques, politiques et juridiques.

Les ajouts de Grok et ChatGPT entrent dans le lot des usages dits de planification opérationnelle et analyse du renseignement

Via la plateforme interne et sécurisée GenAI.mil, le Pentagone fournit à ses millions d'employés civils et militaires des versions personnalisées de modèles commerciaux majeurs adaptés aux besoins de la défense, tels que ChatGPT Mil (OpenAI), Grok for Government (xAI) ou encore Google Gemini.

Ces modèles sont utilisés pour le traitement massif de données de renseignement, la planification d'opérations militaires stratégiques, et l'aide à la décision en temps réel sur le terrain.

Ces usages viennent en complément de ceux dits d’analyse technique et tactique sur le champ de bataille

Historiquement, le projet Maven s’appuie sur la vision par ordinateur pour analyser en temps réel les flux vidéo de drones. Il cartographie les zones de conflit (comme une sorte de Google Earth militaire), identifie instantanément les forces amies ou ennemies, et aide à sélectionner et recommander les meilleures armes pour frapper des cibles. Il a été activement déployé dans des conflits au Moyen-Orient (Irak, Syrie, Yémen) et lors d'opérations au Venezuela.

En partenariat avec des entreprises comme Anduril, le Pentagone déploie en sus des drones et des tours de surveillance dotés d'IA capables de naviguer en environnement hostile, de communiquer entre eux, et potentiellement de frapper des cibles avec une intervention humaine minimale.

Pentagon's https://t.co/Ledal1FFup just added ChatGPT Mil and Grok for Government to its Gemini-only portal. Three million DoD personnel get IL5-cleared access. Claude is absent: Anthropic refused safety guardrails and is in court over it.https://t.co/vE1ApDtYjy pic.twitter.com/hHIzqjPCcQ

— TheMann00 - TheMann00.com on BlueSky (@themann00) September 1, 2026

Pourquoi ces cas d'utilisation sont-ils controversés ?

L'intégration de l'intelligence artificielle par l'administration américaine a déclenché une crise sans précédent entre le gouvernement et la Silicon Valley, illustrée par le bras de fer ultra-médiatisé entre le Pentagone et l'entreprise Anthropic. Les points de friction majeurs incluent :

• Le risque d'armes létales 100 % autonomes : Le Pentagone exige des entreprises technologiques que leurs modèles soient utilisables pour « tout usage légal », refusant de se faire dicter ses règles par le privé. Des entreprises comme Anthropic ont refusé de donner un « chèque en blanc », craignant que leur IA (Claude) ne serve à automatiser des attaques mortelles sans contrôle humain suffisant
• La surveillance de masse des populations : Les éditeurs d'IA craignent que le traitement de données à grande échelle par l'armée ne dérive vers une surveillance de masse des citoyens américains ou étrangers, au mépris des droits constitutionnels.
• Le manque de fiabilité et les biais algorithmiques : Les modèles d'IA générative restent sujets aux « hallucinations » (génération de fausses informations) et à de profonds biais décisionnels. Des études ont montré que face à des scénarios de survie militaire, certains modèles affichent des biais discriminatoires majeurs en ciblant ou protégeant des profils selon leur nationalité ou leur corpulence. Confier des choix de vie ou de mort à ces outils présente un risque éthique critique.
• Guerre politique et représailles gouvernementales : Face au refus d'Anthropic de lever ses garde-fous éthiques, le Pentagone a formellement inscrit l'entreprise américaine sur une liste noire en la qualifiant de « risque pour la chaîne d'approvisionnement » (un label habituellement réservé aux puissances étrangères hostiles comme Huawei). Bien qu'un juge fédéral ait annulé cette sanction en août 2026 en la qualifiant de mesure de représailles illégale, cet affrontement a jeté un froid dans le secteur de la tech, forçant d'autres géants (comme OpenAI) à accepter des compromis pour éviter le bannissement

The Pentagon found a legal way to let AI decide who dies without ever calling it a weapon.

It has already been used on 2,000 targets in 96 hours.

Here's what just happened:

The Defense Department switched on ChatGPT Mil and Grok for Government inside GenAImil, its internal AI… pic.twitter.com/2sVizn6K5x

— Ricardo (@Ric_RTP) September 1, 2026

La guerre à base d’intelligence artificielle est un fait sur les champs de bataille actuels où l’on assiste à un essor de chiens-robots, de drones autonomes et essaims de drones

En Ukraine, l'adaptation rapide de modèles civils d'IA entraînés sur des données de terrain a permis de porter le taux de précision des frappes de drones de 10-20 % à 70-80 %.

Des initiatives comme les laboratoires d'entraînement tactique développent des drones capables d'identifier et de suivre des cibles de manière totalement autonome en dépit du brouillage de guerre électronique et de la perte du signal de contrôle humain.

Des robots et tourelles au sol gérés par des algorithmes d'IA commencent à sécuriser des positions ou à automatiser le pointage de l'artillerie pour suppléer l'infanterie dans les zones hautement exposées.

On note aussi une utilisation croissante de chiens-robots. Du point de vue du développeur informatique, ces robots sont des kits matériels - à la présentation visuelle similaire à celle d’un chien sur pattes – programmables via une API fournie par le constructeur. C’est au travers de cette dernière, ainsi que d’une série de modules d’extensions, que le développeur peut aller à l’essentiel de l’application à mettre en œuvre.

Code Python :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
 
# Copyright (c) 2023 Boston Dynamics, Inc.  All rights reserved.
# Downloading, reproducing, distributing or otherwise using the SDK Software 
# is subject to the terms and conditions of the Boston Dynamics Software 
# Development Kit License (20191101-BDSDK-SL). 
 
"""Tutorial to show how to use the Boston Dynamics API to detect and follow an object""" 
import argparse 
import io 
import json 
import math 
import os 
import signal 
import sys 
import time 
from multiprocessing import Barrier, Process, Queue, Value 
from queue import Empty, Full 
from threading import BrokenBarrierError, Thread 
 
import cv2 
import numpy as np 
from PIL import Image 
from scipy import ndimage 
from tensorflow_object_detection import DetectorAPI 
 
import bosdyn.client 
import bosdyn.client.util 
from bosdyn import geometry 
from bosdyn.api import geometry_pb2 as geo 
from bosdyn.api import image_pb2, trajectory_pb2 
from bosdyn.api.image_pb2 import ImageSource 
from bosdyn.api.spot import robot_command_pb2 as spot_command_pb2 
from bosdyn.client.async_tasks import AsyncPeriodicQuery, AsyncTasks 
from bosdyn.client.frame_helpers import (GROUND_PLANE_FRAME_NAME, VISION_FRAME_NAME, get_a_tform_b, 
                                         get_vision_tform_body) 
from bosdyn.client.image import ImageClient 
from bosdyn.client.lease import LeaseClient, LeaseKeepAlive 
from bosdyn.client.math_helpers import Quat, SE3Pose 
from bosdyn.client.robot_command import (CommandFailedError, CommandTimedOutError, 
                                         RobotCommandBuilder, RobotCommandClient, blocking_stand) 
from bosdyn.client.robot_state import RobotStateClient 
 
LOGGER = bosdyn.client.util.get_logger() 
 
SHUTDOWN_FLAG = Value('i', 0) 
 
# Don't let the queues get too backed up 
QUEUE_MAXSIZE = 10 
 
# This is a multiprocessing.Queue for communication between the main process and the 
# Tensorflow processes. 
# Entries in this queue are in the format: 
 
# { 
#     'source': Name of the camera, 
#     'world_tform_cam': transform from VO to camera, 
#     'world_tform_gpe':  transform from VO to ground plane, 
#     'raw_image_time': Time when the image was collected, 
#     'cv_image': The decoded image, 
#     'visual_dims': (cols, rows), 
#     'depth_image': depth image proto, 
#     'system_cap_time': Time when the image was received by the main process, 
#     'image_queued_time': Time when the image was done preprocessing and queued 
# } 
RAW_IMAGES_QUEUE = Queue(QUEUE_MAXSIZE) 
 
# This is a multiprocessing.Queue for communication between the Tensorflow processes and 
# the bbox print process. This is meant for running in a containerized environment with no access 
# to an X display 
# Entries in this queue have the following fields in addition to those in : 
# { 
#   'processed_image_start_time':  Time when the image was received by the TF process, 
#   'processed_image_end_time':  Time when the image was processing for bounding boxes 
#   'boxes': list of detected bounding boxes for the processed image 
#   'classes': classes of objects, 
#   'scores': confidence scores, 
# } 
PROCESSED_BOXES_QUEUE = Queue(QUEUE_MAXSIZE) 
 
# Barrier for waiting on Tensorflow processes to start, initialized in main() 
TENSORFLOW_PROCESS_BARRIER = None 
 
COCO_CLASS_DICT = { 
    1: 'person', 
    2: 'bicycle', 
    3: 'car', 
    4: 'motorcycle', 
    5: 'airplane', 
    6: 'bus', 
    7: 'train', 
    8: 'truck', 
    9: 'boat', 
    10: 'trafficlight', 
    11: 'firehydrant', 
    13: 'stopsign', 
    14: 'parkingmeter', 
    15: 'bench', 
    16: 'bird', 
    17: 'cat', 
    18: 'dog', 
    19: 'horse', 
    20: 'sheep', 
    21: 'cow', 
    22: 'elephant', 
    23: 'bear', 
    24: 'zebra', 
    25: 'giraffe', 
    27: 'backpack', 
    28: 'umbrella', 
    31: 'handbag', 
    32: 'tie', 
    33: 'suitcase', 
    34: 'frisbee', 
    35: 'skis', 
    36: 'snowboard', 
    37: 'sportsball', 
    38: 'kite', 
    39: 'baseballbat', 
    40: 'baseballglove', 
    41: 'skateboard', 
    42: 'surfboard', 
    43: 'tennisracket', 
    44: 'bottle', 
    46: 'wineglass', 
    47: 'cup', 
    48: 'fork', 
    49: 'knife', 
    50: 'spoon', 
    51: 'bowl', 
    52: 'banana', 
    53: 'apple', 
    54: 'sandwich', 
    55: 'orange', 
    56: 'broccoli', 
    57: 'carrot', 
    58: 'hotdog', 
    59: 'pizza', 
    60: 'donut', 
    61: 'cake', 
    62: 'chair', 
    63: 'couch', 
    64: 'pottedplant', 
    65: 'bed', 
    67: 'diningtable', 
    70: 'toilet', 
    72: 'tv', 
    73: 'laptop', 
    74: 'mouse', 
    75: 'remote', 
    76: 'keyboard', 
    77: 'cellphone', 
    78: 'microwave', 
    79: 'oven', 
    80: 'toaster', 
    81: 'sink', 
    82: 'refrigerator', 
    84: 'book', 
    85: 'clock', 
    86: 'vase', 
    87: 'scissors', 
    88: 'teddybear', 
    89: 'hairdrier', 
    90: 'toothbrush' 
} 
 
# Mapping from visual to depth data 
VISUAL_SOURCE_TO_DEPTH_MAP_SOURCE = { 
    'frontleft_fisheye_image': 'frontleft_depth_in_visual_frame', 
    'frontright_fisheye_image': 'frontright_depth_in_visual_frame' 
} 
ROTATION_ANGLES = { 
    'back_fisheye_image': 0, 
    'frontleft_fisheye_image': -78, 
    'frontright_fisheye_image': -102, 
    'left_fisheye_image': 0, 
    'right_fisheye_image': 180 
} 
 
 
def _update_thread(async_task): 
    while True: 
        async_task.update() 
        time.sleep(0.01) 
 
 
class AsyncImage(AsyncPeriodicQuery): 
    """Grab image.""" 
 
    def __init__(self, image_client, image_sources): 
        # Period is set to be about 15 FPS 
        super(AsyncImage, self).__init__('images', image_client, LOGGER, period_sec=0.067) 
        self.image_sources = image_sources 
 
    def _start_query(self): 
        return self._client.get_image_from_sources_async(self.image_sources) 
 
 
class AsyncRobotState(AsyncPeriodicQuery): 
    """Grab robot state.""" 
 
    def __init__(self, robot_state_client): 
        # period is set to be about the same rate as detections on the CORE AI 
        super(AsyncRobotState, self).__init__('robot_state', robot_state_client, LOGGER, 
                                              period_sec=0.02) 
 
    def _start_query(self): 
        return self._client.get_robot_state_async() 
 
 
def get_source_list(image_client): 
    """Gets a list of image sources and filters based on config dictionary 
  
    Args: 
        image_client: Instantiated image client 
    """ 
 
    # We are using only the visual images with their corresponding depth sensors 
    sources = image_client.list_image_sources() 
    source_list = [] 
    for source in sources: 
        if source.image_type == ImageSource.IMAGE_TYPE_VISUAL: 
            # only append if sensor has corresponding depth sensor 
            if source.name in VISUAL_SOURCE_TO_DEPTH_MAP_SOURCE: 
                source_list.append(source.name) 
                source_list.append(VISUAL_SOURCE_TO_DEPTH_MAP_SOURCE[source.name]) 
    return source_list 
 
 
def capture_images(image_task, sleep_between_capture): 
    """ Captures images and places them on the queue 
  
    Args: 
        image_task (AsyncImage): Async task that provides the images response to use 
        sleep_between_capture (float): Time to sleep between each image capture 
    """ 
    while not SHUTDOWN_FLAG.value: 
        get_im_resp = image_task.proto 
        start_time = time.time() 
        if not get_im_resp: 
            continue 
        depth_responses = { 
            img.source.name: img 
            for img in get_im_resp 
            if img.source.image_type == ImageSource.IMAGE_TYPE_DEPTH 
        } 
        entry = {} 
        for im_resp in get_im_resp: 
            if im_resp.source.image_type == ImageSource.IMAGE_TYPE_VISUAL: 
                source = im_resp.source.name 
                depth_source = VISUAL_SOURCE_TO_DEPTH_MAP_SOURCE[source] 
                depth_image = depth_responses[depth_source] 
 
                acquisition_time = im_resp.shot.acquisition_time 
                image_time = acquisition_time.seconds + acquisition_time.nanos * 1e-9 
 
                try: 
                    image = Image.open(io.BytesIO(im_resp.shot.image.data)) 
                    source = im_resp.source.name 
 
                    image = ndimage.rotate(image, ROTATION_ANGLES[source]) 
                    if im_resp.shot.image.pixel_format == image_pb2.Image.PIXEL_FORMAT_GREYSCALE_U8: 
                        image = cv2.cvtColor(image, cv2.COLOR_GRAY2RGB)  # Converted to RGB for TF 
                    tform_snapshot = im_resp.shot.transforms_snapshot 
                    frame_name = im_resp.shot.frame_name_image_sensor 
                    world_tform_cam = get_a_tform_b(tform_snapshot, VISION_FRAME_NAME, frame_name) 
                    world_tform_gpe = get_a_tform_b(tform_snapshot, VISION_FRAME_NAME, 
                                                    GROUND_PLANE_FRAME_NAME) 
                    entry[source] = { 
                        'source': source, 
                        'world_tform_cam': world_tform_cam, 
                        'world_tform_gpe': world_tform_gpe, 
                        'raw_image_time': image_time, 
                        'cv_image': image, 
                        'visual_dims': (im_resp.shot.image.cols, im_resp.shot.image.rows), 
                        'depth_image': depth_image, 
                        'system_cap_time': start_time, 
                        'image_queued_time': time.time() 
                    } 
                except Exception as exc:  # pylint: disable=broad-except 
                    print(f'Exception occurred during image capture {exc}') 
        try: 
            RAW_IMAGES_QUEUE.put_nowait(entry) 
        except Full as exc: 
            print(f'RAW_IMAGES_QUEUE is full: {exc}') 
        time.sleep(sleep_between_capture) 
 
 
def start_tensorflow_processes(num_processes, model_path, detection_class, detection_threshold, 
                               max_processing_delay): 
    """Starts Tensorflow processes in parallel. 
  
    It does not keep track of the processes once they are started because they run indefinitely 
    and are never joined back to the main process. 
  
    Args: 
        num_processes (int): Number of Tensorflow processes to start in parallel. 
        model_path (str): Filepath to the Tensorflow model to use. 
        detection_class (int): Detection class to detect 
        detection_threshold (float): Detection threshold to apply to all Tensorflow detections. 
        max_processing_delay (float): Allowed delay before processing an incoming image. 
    """ 
    processes = [] 
    for _ in range(num_processes): 
        process = Process( 
            target=process_images, args=( 
                model_path, 
                detection_class, 
                detection_threshold, 
                max_processing_delay, 
            ), daemon=True) 
        process.start() 
        processes.append(process) 
    return processes 
 
 
def process_images(model_path, detection_class, detection_threshold, max_processing_delay): 
    """Starts Tensorflow and detects objects in the incoming images. 
  
    Args: 
        model_path (str): Filepath to the Tensorflow model to use. 
        detection_class (int): Detection class to detect 
        detection_threshold (float): Detection threshold to apply to all Tensorflow detections. 
        max_processing_delay (float): Allowed delay before processing an incoming image. 
    """ 
 
    odapi = DetectorAPI(path_to_ckpt=model_path) 
    num_processed_skips = 0 
 
    if TENSORFLOW_PROCESS_BARRIER is None: 
        return 
 
    try: 
        TENSORFLOW_PROCESS_BARRIER.wait() 
    except BrokenBarrierError as exc: 
        print(f'Error waiting for Tensorflow processes to initialize: {exc}') 
        return False 
 
    while not SHUTDOWN_FLAG.value: 
        try: 
            entry = RAW_IMAGES_QUEUE.get_nowait() 
        except Empty: 
            time.sleep(0.1) 
            continue 
        for _, capture in entry.items(): 
            start_time = time.time() 
            processing_delay = time.time() - capture['raw_image_time'] 
            if processing_delay > max_processing_delay: 
                num_processed_skips += 1 
                print(f'skipped image because it took {processing_delay}') 
                continue  # Skip image due to delay 
 
            image = capture['cv_image'] 
            boxes, scores, classes, _ = odapi.process_frame(image) 
            confident_boxes = [] 
            confident_object_classes = [] 
            confident_scores = [] 
            if len(boxes) == 0: 
                print('no detections founds') 
                continue 
            for box, score, box_class in sorted(zip(boxes, scores, classes), key=lambda x: x[1], 
                                                reverse=True): 
                if score > detection_threshold and box_class == detection_class: 
                    confident_boxes.append(box) 
                    confident_object_classes.append(COCO_CLASS_DICT[box_class]) 
                    confident_scores.append(score) 
                    image = cv2.rectangle(image, (box[1], box[0]), (box[3], box[2]), (255, 0, 0), 2) 
 
            capture['processed_image_start_time'] = start_time 
            capture['processed_image_end_time'] = time.time() 
            capture['boxes'] = confident_boxes 
            capture['classes'] = confident_object_classes 
            capture['scores'] = confident_scores 
            capture['cv_image'] = image 
        try: 
            PROCESSED_BOXES_QUEUE.put_nowait(entry) 
        except Full as exc: 
            print(f'PROCESSED_BOXES_QUEUE is full: {exc}') 
    print('tf process ending') 
    return True 
 
 
def get_go_to(world_tform_object, robot_state, mobility_params, dist_margin=0.5): 
    """Gets trajectory command to a goal location 
  
    Args: 
        world_tform_object (SE3Pose): Transform from vision frame to target object 
        robot_state (RobotState): Current robot state 
        mobility_params (MobilityParams): Mobility parameters 
        dist_margin (float): Distance margin to target 
    """ 
    vo_tform_robot = get_vision_tform_body(robot_state.kinematic_state.transforms_snapshot) 
    print(f'robot pos: {vo_tform_robot}') 
    delta_ewrt_vo = np.array( 
        [world_tform_object.x - vo_tform_robot.x, world_tform_object.y - vo_tform_robot.y, 0]) 
    norm = np.linalg.norm(delta_ewrt_vo) 
    if norm == 0: 
        return None 
    delta_ewrt_vo_norm = delta_ewrt_vo / norm 
    heading = _get_heading(delta_ewrt_vo_norm) 
    vo_tform_goal = np.array([ 
        world_tform_object.x - delta_ewrt_vo_norm[0] * dist_margin, 
        world_tform_object.y - delta_ewrt_vo_norm[1] * dist_margin 
    ]) 
    se2_pose = geo.SE2Pose(position=geo.Vec2(x=vo_tform_goal[0], y=vo_tform_goal[1]), angle=heading) 
    tag_cmd = RobotCommandBuilder.synchro_se2_trajectory_command(se2_pose, 
                                                                 frame_name=VISION_FRAME_NAME, 
                                                                 params=mobility_params) 
    return tag_cmd 
 
 
def _get_heading(xhat): 
    zhat = [0.0, 0.0, 1.0] 
    yhat = np.cross(zhat, xhat) 
    mat = np.array([xhat, yhat, zhat]).transpose() 
    return Quat.from_matrix(mat).to_yaw() 
 
 
def set_default_body_control(): 
    """Set default body control params to current body position""" 
    footprint_R_body = geometry.EulerZXY() 
    position = geo.Vec3(x=0.0, y=0.0, z=0.0) 
    rotation = footprint_R_body.to_quaternion() 
    pose = geo.SE3Pose(position=position, rotation=rotation) 
    point = trajectory_pb2.SE3TrajectoryPoint(pose=pose) 
    traj = trajectory_pb2.SE3Trajectory(points=[point]) 
    return spot_command_pb2.BodyControlParams(base_offset_rt_footprint=traj) 
 
 
def get_mobility_params(): 
    """Gets mobility parameters for following""" 
    vel_desired = .75 
    speed_limit = geo.SE2VelocityLimit( 
        max_vel=geo.SE2Velocity(linear=geo.Vec2(x=vel_desired, y=vel_desired), angular=.25)) 
    body_control = set_default_body_control() 
    mobility_params = spot_command_pb2.MobilityParams(vel_limit=speed_limit, obstacle_params=None, 
                                                      body_control=body_control, 
                                                      locomotion_hint=spot_command_pb2.HINT_TROT) 
    return mobility_params 
 
 
def depth_to_xyz(depth, pixel_x, pixel_y, focal_length, principal_point): 
    """Calculate the transform to point in image using camera intrinsics and depth""" 
    x = depth * (pixel_x - principal_point.x) / focal_length.x 
    y = depth * (pixel_y - principal_point.y) / focal_length.y 
    z = depth 
    return x, y, z 
 
 
def remove_ground_from_depth_image(raw_depth_image, focal_length, principal_point, world_tform_cam, 
                                   world_tform_gpe, ground_tolerance=0.04): 
    """ Simple ground plane removal algorithm. Uses ground height 
        and does simple z distance filtering. 
  
    Args: 
        raw_depth_image (np.array): Depth image 
        focal_length (Vec2): Focal length of camera that produced the depth image 
        principal_point (Vec2): Principal point of camera that produced the depth image 
        world_tform_cam (SE3Pose): Transform from VO to camera frame 
        world_tform_gpe (SE3Pose): Transform from VO to GPE frame 
        ground_tolerance (float): Distance in meters to add to the ground plane 
    """ 
    new_depth_image = raw_depth_image 
 
    # same functions as depth_to_xyz, but converted to np functions 
    indices = np.indices(raw_depth_image.shape) 
    xs = raw_depth_image * (indices[1] - principal_point.x) / focal_length.x 
    ys = raw_depth_image * (indices[0] - principal_point.y) / focal_length.y 
    zs = raw_depth_image 
 
    # create xyz point cloud 
    camera_tform_points = np.stack([xs, ys, zs], axis=2) 
    # points in VO frame 
    world_tform_points = world_tform_cam.transform_cloud(camera_tform_points) 
    # array of booleans where True means the point was below the ground plane plus tolerance 
    world_tform_points_mask = (world_tform_gpe.z - world_tform_points[:, :, 2]) < ground_tolerance 
    # remove data below ground plane 
    new_depth_image[world_tform_points_mask] = 0 
    return new_depth_image 
 
 
def get_distance_to_closest_object_depth(x_min, x_max, y_min, y_max, depth_scale, raw_depth_image, 
                                         histogram_bin_size=0.50, minimum_number_of_points=10, 
                                         max_distance=8.0): 
    """Make a histogram of distances to points in the cloud and take the closest distance with 
    enough points. 
  
    Args: 
        x_min (int): minimum x coordinate (column) of object to find 
        x_max (int): maximum x coordinate (column) of object to find 
        y_min (int): minimum y coordinate (row) of object to find 
        y_max (int): maximum y coordinate (row) of object to find 
        depth_scale (float): depth scale of the image to convert from sensor value to meters 
        raw_depth_image (np.array): matrix of depth pixels 
        histogram_bin_size (float): size of each bin of distances 
        minimum_number_of_points (int): minimum number of points before returning depth 
        max_distance (float): maximum distance to object in meters 
    """ 
    num_bins = math.ceil(max_distance / histogram_bin_size) 
 
    # get a sub-rectangle of the bounding box out of the whole image, then flatten 
    obj_depths = (raw_depth_image[y_min:y_max, x_min:x_max]).flatten() 
    obj_depths = obj_depths / depth_scale 
    obj_depths = obj_depths[obj_depths != 0] 
 
    hist, hist_edges = np.histogram(obj_depths, bins=num_bins, range=(0, max_distance)) 
 
    edges_zipped = zip(hist_edges[:-1], hist_edges[1:]) 
    # Iterate over the histogram and return the first distance with enough points. 
    for entry, edges in zip(hist, edges_zipped): 
        if entry > minimum_number_of_points: 
            filtered_depths = obj_depths[(obj_depths > edges[0]) & (obj_depths < edges[1])] 
            if len(filtered_depths) == 0: 
                continue 
            return np.mean(filtered_depths) 
 
    return max_distance 
 
 
def rotate_about_origin_degrees(origin, point, angle): 
    """ 
    Rotate a point counterclockwise by a given angle around a given origin. 
  
    Args: 
        origin (tuple): Origin to rotate the point around 
        point (tuple): Point to rotate 
        angle (float): Angle in degrees 
    """ 
    return rotate_about_origin(origin, point, math.radians(angle)) 
 
 
def rotate_about_origin(origin, point, angle): 
    """ 
    Rotate a point counterclockwise by a given angle around a given origin. 
  
    Args: 
        origin (tuple): Origin to rotate the point around 
        point (tuple): Point to rotate 
        angle (float): Angle in radians 
    """ 
    orig_x, orig_y = origin 
    pnt_x, pnt_y = point 
 
    ret_x = orig_x + math.cos(angle) * (pnt_x - orig_x) - math.sin(angle) * (pnt_y - orig_y) 
    ret_y = orig_y + math.sin(angle) * (pnt_x - orig_x) + math.cos(angle) * (pnt_y - orig_y) 
    return int(ret_x), int(ret_y) 
 
 
def get_object_position(world_tform_cam, world_tform_gpe, visual_dims, depth_image, bounding_box, 
                        rotation_angle): 
    """ 
    Extract the bounding box, then find the mode in that region. 
  
    Args: 
        world_tform_cam (SE3Pose): SE3 transform from world to camera frame 
        visual_dims (Tuple): (cols, rows) tuple from the visual image 
        depth_image (ImageResponse): From a depth camera corresponding to the visual_image 
        bounding_box (list): Bounding box from tensorflow 
        rotation_angle (float): Angle (in degrees) to rotate depth image to match cam image rotation 
    """ 
 
    # Make sure there are two images. 
    if visual_dims is None or depth_image is None: 
        # Fail. 
        return 
 
    # Rotate bounding box back to original frame 
    points = [(bounding_box[1], bounding_box[0]), (bounding_box[3], bounding_box[0]), 
              (bounding_box[3], bounding_box[2]), (bounding_box[1], bounding_box[2])] 
 
    origin = (visual_dims[0] / 2, visual_dims[1] / 2) 
 
    points_rot = [rotate_about_origin_degrees(origin, point, rotation_angle) for point in points] 
 
    # Get the bounding box corners. 
    y_min = max(0, min([point[1] for point in points_rot])) 
    x_min = max(0, min([point[0] for point in points_rot])) 
    y_max = min(visual_dims[1], max([point[1] for point in points_rot])) 
    x_max = min(visual_dims[0], max([point[0] for point in points_rot])) 
 
    # Check that the bounding box is valid. 
    if (x_min < 0 or y_min < 0 or x_max > visual_dims[0] or y_max > visual_dims[1]): 
        print(f'Bounding box is invalid: ({x_min}, {y_min}) | ({x_max}, {y_max})') 
        print(f'Bounds: ({visual_dims[0]}, {visual_dims[1]})') 
        return 
 
    # Unpack the images. 
    try: 
        if depth_image.shot.image.pixel_format == image_pb2.Image.PIXEL_FORMAT_DEPTH_U16: 
            dtype = np.uint16 
        else: 
            dtype = np.uint8 
        img = np.fromstring(depth_image.shot.image.data, dtype=dtype) 
        if depth_image.shot.image.format == image_pb2.Image.FORMAT_RAW: 
            img = img.reshape(depth_image.shot.image.rows, depth_image.shot.image.cols) 
        else: 
            img = cv2.imdecode(img, -1) 
        depth_image_pixels = img 
        depth_image_pixels = remove_ground_from_depth_image( 
            depth_image_pixels, depth_image.source.pinhole.intrinsics.focal_length, 
            depth_image.source.pinhole.intrinsics.principal_point, world_tform_cam, world_tform_gpe) 
        # Get the depth data from the region in the bounding box. 
        max_distance = 8.0 
        depth = get_distance_to_closest_object_depth(x_min, x_max, y_min, y_max, 
                                                     depth_image.source.depth_scale, 
                                                     depth_image_pixels, max_distance=max_distance) 
 
        if depth >= max_distance: 
            # Not enough depth data. 
            print('Not enough depth data.') 
            return False 
        else: 
            print(f'distance to object: {depth}') 
 
        center_x = round((x_max - x_min) / 2.0 + x_min) 
        center_y = round((y_max - y_min) / 2.0 + y_min) 
 
        tform_x, tform_y, tform_z = depth_to_xyz( 
            depth, center_x, center_y, depth_image.source.pinhole.intrinsics.focal_length, 
            depth_image.source.pinhole.intrinsics.principal_point) 
        camera_tform_obj = SE3Pose(tform_x, tform_y, tform_z, Quat()) 
 
        return world_tform_cam * camera_tform_obj 
    except Exception as exc:  # pylint: disable=broad-except 
        print(f'Error getting object position: {exc}') 
        return 
 
 
def _check_model_path(model_path): 
    if model_path is None or \ 
    not os.path.exists(model_path) or \ 
    not os.path.isfile(model_path): 
        print(f'ERROR, could not find model file {model_path}') 
        return False 
    return True 
 
 
def _check_and_load_json_classes(config_path): 
    if os.path.isfile(config_path): 
        with open(config_path) as json_classes: 
            global COCO_CLASS_DICT  # pylint: disable=global-statement 
            COCO_CLASS_DICT = json.load(json_classes) 
 
 
def _find_highest_conf_source(processed_boxes_entry): 
    highest_conf_source = None 
    max_score = 0 
    for key, capture in processed_boxes_entry.items(): 
        if 'scores' in capture.keys(): 
            if len(capture['scores']) > 0 and capture['scores'][0] > max_score: 
                highest_conf_source = key 
                max_score = capture['scores'][0] 
    return highest_conf_source 
 
 
def signal_handler(signal, frame): 
    print('Interrupt caught, shutting down') 
    SHUTDOWN_FLAG.value = 1 
 
 
def main(): 
    """Command line interface.""" 
 
    parser = argparse.ArgumentParser() 
    parser.add_argument( 
        '--model-path', default='/model.pb', help= 
        ('Local file path to the Tensorflow model, example pre-trained models can be found at ' 
         'https://github.com/tensorflow/models/blob/master/research/object_detection/g3doc/tf1_detection_zoo.md' 
        )) 
    parser.add_argument('--classes', default='/classes.json', type=str, 
                        help='File containing json mapping of object class IDs to class names') 
    parser.add_argument('--number-tensorflow-processes', default=1, type=int, 
                        help='Number of Tensorflow processes to run in parallel') 
    parser.add_argument('--detection-threshold', default=0.7, type=float, 
                        help='Detection threshold to use for Tensorflow detections') 
    parser.add_argument( 
        '--sleep-between-capture', default=0.2, type=float, 
        help=('Seconds to sleep between each image capture loop iteration, which captures ' 
              'an image from all cameras')) 
    parser.add_argument( 
        '--detection-class', default=1, type=int, 
        help=('Detection classes to use in the Tensorflow model.' 
              'Default is to use 1, which is a person in the Coco dataset')) 
    parser.add_argument( 
        '--max-processing-delay', default=7.0, type=float, 
        help=('Maximum allowed delay for processing an image. ' 
              'Any image older than this value will be skipped')) 
    parser.add_argument('--test-mode', action='store_true', 
                        help='Run application in test mode, don\'t execute commands') 
 
    bosdyn.client.util.add_base_arguments(parser) 
    bosdyn.client.util.add_payload_credentials_arguments(parser) 
    options = parser.parse_args() 
    signal.signal(signal.SIGINT, signal_handler) 
    try: 
        # Make sure the model path is a valid file 
        if not _check_model_path(options.model_path): 
            return False 
 
        # Check for classes json file, otherwise use the COCO class dictionary 
        _check_and_load_json_classes(options.classes) 
 
        global TENSORFLOW_PROCESS_BARRIER  # pylint: disable=global-statement 
        TENSORFLOW_PROCESS_BARRIER = Barrier(options.number_tensorflow_processes + 1) 
        # Start Tensorflow processes 
        tf_processes = start_tensorflow_processes(options.number_tensorflow_processes, 
                                                  options.model_path, options.detection_class, 
                                                  options.detection_threshold, 
                                                  options.max_processing_delay) 
 
        # sleep to give the Tensorflow processes time to initialize 
        try: 
            TENSORFLOW_PROCESS_BARRIER.wait() 
        except BrokenBarrierError as exc: 
            print(f'Error waiting for Tensorflow processes to initialize: {exc}') 
            return False 
        # Start the API related things 
 
        # Create robot object with a world object client 
        sdk = bosdyn.client.create_standard_sdk('SpotFollowClient') 
        robot = sdk.create_robot(options.hostname) 
 
        if options.payload_credentials_file: 
            robot.authenticate_from_payload_credentials( 
                *bosdyn.client.util.get_guid_and_secret(options)) 
        else: 
            bosdyn.client.util.authenticate(robot) 
 
        # Time sync is necessary so that time-based filter requests can be converted 
        robot.time_sync.wait_for_sync() 
 
        # Verify the robot is not estopped and that an external application has registered and holds 
        # an estop endpoint. 
        assert not robot.is_estopped(), 'Robot is estopped. Please use an external E-Stop client,' \ 
                                        ' such as the estop SDK example, to configure E-Stop.' 
 
        # Create the sdk clients 
        robot_state_client = robot.ensure_client(RobotStateClient.default_service_name) 
        robot_command_client = robot.ensure_client(RobotCommandClient.default_service_name) 
        lease_client = robot.ensure_client(LeaseClient.default_service_name) 
        image_client = robot.ensure_client(ImageClient.default_service_name) 
        source_list = get_source_list(image_client) 
        image_task = AsyncImage(image_client, source_list) 
        robot_state_task = AsyncRobotState(robot_state_client) 
        task_list = [image_task, robot_state_task] 
        _async_tasks = AsyncTasks(task_list) 
        print('Detect and follow client connected.') 
 
        lease = lease_client.take() 
        lease_keep = LeaseKeepAlive(lease_client) 
        # Power on the robot and stand it up 
        resp = robot.power_on() 
        try: 
            blocking_stand(robot_command_client) 
        except CommandFailedError as exc: 
            print(f'Error ({exc}) occurred while trying to stand. Check robot surroundings.') 
            return False 
        except CommandTimedOutError as exc: 
            print(f'Stand command timed out: {exc}') 
            return False 
        print('Robot powered on and standing.') 
        params_set = get_mobility_params() 
 
        # This thread starts the async tasks for image and robot state retrieval 
        update_thread = Thread(target=_update_thread, args=[_async_tasks]) 
        update_thread.daemon = True 
        update_thread.start() 
        # Wait for the first responses. 
        while any(task.proto is None for task in task_list): 
            time.sleep(0.1) 
 
        # Start image capture process 
        image_capture_thread = Process(target=capture_images, 
                                       args=(image_task, options.sleep_between_capture), 
                                       daemon=True) 
        image_capture_thread.start() 
        while not SHUTDOWN_FLAG.value: 
            # This comes from the tensorflow processes and limits the rate of this loop 
            try: 
                entry = PROCESSED_BOXES_QUEUE.get_nowait() 
            except Empty: 
                continue 
            # find the highest confidence bounding box 
            highest_conf_source = _find_highest_conf_source(entry) 
            if highest_conf_source is None: 
                # no boxes or scores found 
                continue 
            capture_to_use = entry[highest_conf_source] 
            raw_time = capture_to_use['raw_image_time'] 
            time_gap = time.time() - raw_time 
            if time_gap > options.max_processing_delay: 
                continue  # Skip image due to delay 
 
            # Find the transform to the highest confidence object using the depth sensor 
            get_object_position_start = time.time() 
            robot_state = robot_state_task.proto 
            world_tform_gpe = get_a_tform_b(robot_state.kinematic_state.transforms_snapshot, 
                                            VISION_FRAME_NAME, GROUND_PLANE_FRAME_NAME) 
            world_tform_object = get_object_position( 
                capture_to_use['world_tform_cam'], world_tform_gpe, capture_to_use['visual_dims'], 
                capture_to_use['depth_image'], capture_to_use['boxes'][0], 
                ROTATION_ANGLES[capture_to_use['source']]) 
            get_object_position_end = time.time() 
            print(f'system_cap_time: {capture_to_use["system_cap_time"]}, ' 
                  f'image_queued_time: {capture_to_use["image_queued_time"]}, ' 
                  f'processed_image_start_time: {capture_to_use["processed_image_start_time"]}, ' 
                  f'processed_image_end_time: {capture_to_use["processed_image_end_time"]}, ' 
                  f'get_object_position_start_time: {get_object_position_start}, ' 
                  f'get_object_position_end_time: {get_object_position_end}, ') 
 
            # get_object_position can fail if there is insufficient depth sensor information 
            if not world_tform_object: 
                continue 
 
            scores = capture_to_use['scores'] 
            print(f'Position of object with confidence {scores[0]}: {world_tform_object}') 
            print(f'Process latency: {time.time() - capture_to_use["system_cap_time"]}') 
            tag_cmd = get_go_to(world_tform_object, robot_state, params_set) 
            end_time = 15.0 
            if tag_cmd is not None: 
                if not options.test_mode: 
                    print('executing command') 
                    robot_command_client.robot_command(lease=None, command=tag_cmd, 
                                                       end_time_secs=time.time() + end_time) 
                else: 
                    print('Running in test mode, skipping command.') 
 
        # Shutdown lease keep-alive and return lease gracefully. 
        lease_keep.shutdown() 
        lease_client.return_lease(lease) 
        return True 
    except Exception as exc:  # pylint: disable=broad-except 
        LOGGER.error('Spot Tensorflow Detector threw an exception: %s', exc) 
        # Shutdown lease keep-alive and return lease gracefully. 
        return False  
 
 
if __name__ == '__main__': 
    if not main(): 
        sys.exit(1)]

🇺🇦🇬🇧 Ukraine deployed 30 british robots dogs in Donetsk region, replacing soldiers for perilous missions like spying on Russian trenches or detecting mines.
The Robots are guided by an operator. They move silently at a speed of 15 km/h and operate within a 3.5 km radius.
— BILD. pic.twitter.com/I8cX3clXm4

— Geo News (@GeoTienou) August 14, 2024

Entretemps, il n’y a toujours pas d’instrument juridiquement contraignant à l’échelle internationale afin d’encadrer les usages de l’intelligence artificielle sur les champs de bataille

Les discussions se poursuivent au sein de la Convention sur certaines armes classiques (CCAC) à Genève, par l'intermédiaire d'un Groupe d'experts gouvernementaux (GGE).

Une session cruciale du GGE se tient du 31 août au 4 septembre 2026 pour tenter de transformer les avancées techniques en bases juridiques concretes.

Le mandat actuel de trois ans du groupe s'achève cette année, et son rapport final sera présenté lors de la 7e Conférence d'examen de la CCAC en novembre 2026, considérée comme l'étape décisive pour décider ou non d'ouvrir de vraies négociations de traité.

Le secrétaire général de l'ONU, António Guterres, et la présidente du Comité international de la Croix-Rouge (CICR) ont réitéré un avertissement majeur. Ils estiment que l'humanité est dangereusement proche de franchir une « ligne rouge morale » en laissant des machines décider de la mort d'êtres humains.

Plus de 70 pays soutiennent désormais un texte de référence (le rolling text) pour enclencher de vraies négociations en vue d'un instrument juridiquement contraignant. Cependant, le mode de fonctionnement de la CCAC exige un consensus absolu, ce qui permet à certaines grandes puissances militaires et États réticents de ralentir l'adoption d'interdictions strictes.


Source : Département de guerre du Pentagone

Et vous ?

Pour ou contre l'utilisation de l'IA à des fins militaires ? Si pour, à quel degré ou à quelles fins ? Si contre, pourquoi ?
Êtes-vous surpris de la mise à contribution de l’intelligence artificielle sur les champs de bataille ? La situation des négociations au niveau de l'ONU est-elle surprenante quand on sait que chaque pays considère l'intelligence artificielle comme un moyen de domination ?

Voir aussi :

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA
USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes
Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

[suricata]

Exactement le business de Thales et de Mistral AI en France sauf que l'humain est toujours dans la boucle et dernier décisionnaire.

[Jon Shannow]

Le Pentagone fait appel à Grok et à ChatGPT à des fins militaires

Ha ! Ça explique peut-être leur succès phénoménal en Iran...

[virginieh]

Ha ! Ça explique peut-être leur succès phénoménal en Iran...

Ils sont obligés ils ont viré leur généraux