Discussion :

[Ryu2000]

À votre avis, comment les gouvernements peuvent-ils s’assurer que l’utilisation de l’IA dans les drones militaires est responsable et éthique ?

L'important c'est de gagner la guerre, ce n'est pas d'être ethique.
Les gagnants ne sont pas jugés, les USA ne se sont jamais excusé pour avoir largué des bombes atomiques et du Napalm sur des civils.

Comment les militaires peuvent-ils s’assurer que les drones autonomes prennent des décisions éthiques et responsables ?

Le problème ce n'est pas les décisions que prennent les drones autonomes, le problème c'est les ordres qu'ils recoivent.

====
Pour les USA il y a un côté positif à l'utilisation de drone autonome, c'est qu'il y aura peut-être moins de militaires US qui vont se suicider.
Etats-Unis : pour un soldat mort au combat, 10 vétérans se suicident

22 suicides par jour ! Quand les dernières guerres des Etats-Unis ont coûté la vie à 4488 soldats, la vie civile a vu le suicide de 43.208 hommes et femmes anciens combattants sur 10 ans... Pour un mort sur le terrain, près de 10 anciens combattants se sont donné la mort.
Cette moyenne du nombre de décès quotidiens de vétérans a fait frémir l'Amérique quand elle l'a appris. Près de 950 tentatives par mois.

[Mathis Lucas]

Les scientifiques du Pentagone discutent de la création de super-soldats cybernétiques qui ne ressentent rien lorsqu'ils tuent
ce qui soulève des préoccupations d'ordre éthique

Les États-Unis semblent se rapprocher davantage d'un monde où Skynet ne relèverait plus de la science-fiction. Le Pentagone envisage un avenir où il sera capable déployer sur le champ de bataille des "super-soldats" inspirés de Captain America et d'Iron Man. Il a décrit le soldat du futur comme un militaire qui sera inondé de stimulants antidouleur, amélioré avec des implants cérébraux, du sang synthétique et d'autres équipements technologiques. Cela devrait le transformer en une sorte de super-soldat invincible capable de tuer sans avoir de remords pouvant affecter sans santé mentale. En plaisant, certains ont suggéré que le super-soldat pourrait être éliminé à la fin de sa mission.

À mesure que les progrès technologiques s'enchainent, les armées du monde entier se modernisent et intègrent les nouvelles trouvailles afin d'améliorer les capacités de leurs soldats sur le champ de bataille. Dans sa quête d'une machine à tuer hautement efficace, le Pentagone envisage de donner vie à un super soldat directement inspiré de Terminator ou de Captain America. Selon de hauts responsables américains, si les États-Unis ne développent pas de telles capacités, ils seront vulnérables à leurs ennemis qui travaillent déjà sur des systèmes similaires sans des préoccupations éthiques. Ils n'ont toutefois pas fourni des preuves étayant ces allégations.

Mercredi, un groupe de militaires et de scientifiques proches de l'armée se sont réunis lors d'une conférence pour discuter de la possibilité de créer un super-soldat. Ils ont discuté des programmes de reproduction, des films Marvel, de Matrix et de diverses technologies sur lesquelles le Pentagone mène des recherches dans le but de créer un véritable super-soldat (doté d'implants cybernétiques) et de questions éthiques épineuses liées aux armes autonomes. L'exposé a eu lieu lors de la conférence Interservice/Industry Training, Simulation and Education Conference (I/ITSEC) une conférence annuelle où les dirigeants militaires viennent discuter du futur.

Lors de l'événement, les entreprises de simulation font la démonstration de leurs nouveaux produits. C'est le genre d'endroit où les cadres et les généraux enfilent des casques de réalité virtuelle et parlent des vertus des simulateurs de réalité virtuelle. On peut y voir des membres du Congrès parler de l'importance des simulations et de la guerre. Par exemple, l'affiche officielle de l'édition 2019 de l'I/ITSEC indique : « Gagner la guerre de la cognition en repoussant les limites de la préparation et de la létalité ». Cette année, certains participants se sont réunis pour discuter des super-soldats lors d'un panel intitulé : « Black Swan-Dawn of the Super Soldier ».

L'I/TSEC a annoncé le panel dans son programme avec une photo des experts à côté d'un "Master Chief posant, le super soldat génétiquement amélioré de la franchise de jeux vidéo Halo. « Nous disposons donc d'un large éventail de panélistes pour couvrir l'ensemble des aspects d'un super-soldat. Lorsque l'on parle de super-soldat, à quoi pense-t-on en général ? Nous pensons à Marvel, n'est-ce pas ? Captain America ou Iron Man », a déclaré en introduction Lauren Reinerman-Jones, analyste à la Defense Acquisition University. Les panélistes ont discuté longuement sur les rouages de ce qui est actuellement possible et de ce qui est sur le point de l'être.

La conversation a également porté sur diverses questions éthiques. Lors de la conversation, la chercheuse J.J. Walcutt a parlé de sang synthétique et du remplacement des lunettes de vision nocturne par des gouttes pour les yeux (deux choses sur lesquelles le Pentagone travaillerait), tandis qu'une diapositive derrière elle montrait un "soldat du futur" dont le corps est "inondé de stimulants antidouleur" et qui a la "capacité de repousser les membres et de guérir rapidement les blessures comme un lézard". À côté, une citation fait référence à Robocop, un film de science-fiction qui met en scène un personnage mi-homme, mi-robot dans un monde dystopique.

« Les soldats améliorés seraient réduits à des hommes bioniques, qui courent vite, n'ont pas besoin de dormir, mangent et boivent très peu, et peuvent se battre tout le temps. Une nouvelle espèce est née : l'Homo robocopus ». Il s'agit d'une citation tirée directement d'un rapport européen de 2019 sur les préoccupations éthiques des superpuissances mondiales qui tentent de créer des super-soldats. Lors de l'événement, un membre du public a demandé s'il était possible d'utiliser la technologie pour prolonger la vie des soldats vétérans qui ont des années d'expérience sur le champ de bataille ou pour améliorer les capacités des vieilles personnes.

La personne a fait référence au livre de science-fiction "Old Man's War" (Le Vieil Homme et la Guerre) de l'écrivain américain John Scalzi. Le livre évoque un avenir où la Terre fait la guerre en offrant aux personnes âgées de nouveaux corps jeunes en échange d'un service militaire. Les panélistes ont déclaré que c'était une excellente idée. Selon Walcutt, cela pourrait donner aux vétérans retraités un but à atteindre et réduire les taux de dépression. Elle a noté : « si nous pouvons utiliser les gens, quelles que soient leurs capacités physiques, ou si nous pouvons améliorer leurs capacités, pourquoi ne pourrions-nous pas augmenter la longévité du service ? ».

Richard McKinley, qui travaille sur la stimulation cérébrale non invasive pour l'armée de l'air américain, a déclaré que la Matrice commençait à devenir réelle. Pensez à la scène emblématique où Neo, interprété par l'acteur Keanu Reeves, a téléchargé instantanément dans son cerveau des années de compétences en kung-fu. Il a noté que son équipe travaille sur une technologie du même type. « Nous travaillons actuellement avec une société appelée Teledyne pour étudier les technologies capables d'écrire dans le cerveau à une très haute résolution. Nous n'en sommes qu'au tout début, et il reste encore beaucoup de développement à faire », a-t-il déclaré.

« Nous n'en sommes qu'au début, et il reste encore beaucoup de développement à faire. Mais c'est quelque chose qui arrivera dans le futur, la possibilité de porter un appareil qui peut écrire des informations directement dans le cerveau de manière non invasive, sans aucune intervention chirurgicale, sans aucune sensation sur la peau », ajoute McKinley. L'un des panélistes, George Matook, un représentant du DEVCOM (U.S. Army Developmental Command) a déclaré que les États-Unis veulent donner vie à de puissants super-soldats, mais qu'il y a d'importantes limites éthiques et juridiques liées la création qu'il faut prendre en compte.

« Quels risques sommes-nous prêts à prendre ? Il y a toutes ces choses merveilleuses que nous pouvons faire. Nous ne voulons pas d'un combat équitable. Nous ne voulons vraiment pas, ce n'est pas une chose honorable. Nous voulons que nos hommes surpassent tous les ennemis possibles, n'est-ce pas ? Alors pourquoi ne leur donnons-nous pas d'améliorations pharmaceutiques ? Pourquoi les faire courir toute la semaine alors qu'on pourrait simplement leur donner des stéroïdes ? Il y a toutes sortes d'autres choses que l'on peut faire si l'on change les normes sociétales et l'éthique. Et les lois, dans certains cas », a déclaré Matook.

Il a insisté sur la nécessité de repousser les limites de l'éthique en laissant entendre que les ennemis des États-Unis pratiquaient l'eugénisme pour créer de meilleurs pilotes. Il n'a toutefois pas fourni des preuves de ce qu'il dit. « Nous pourrions nous retrouver dans une situation où nos soldats, aussi talentueux et entraînés qu'ils soient, seraient confrontés à un combat injuste parce qu'un autre pays serait prêt à dire : "hé, devinez quoi, vous, homme, êtes un bon aviateur. Vous, femme, êtes une bonne aviatrice. Vous allez faire les meilleurs bébés aviateurs que nous ayons jamais vus et je me fiche que vous ne soyez pas mariés », a-t-il déclaré.

Irwin Hudson, un autre représentant du DEVCOM, a fait remarquer que le rapport coût-bénéfice de ces nouvelles technologies n'en valait peut-être pas la peine pour l'individu. Il a souligné que les stéroïdes font payer un lourd tribut à l'utilisateur et qu'il y a des conséquences à l'augmentation des performances des êtres humains. McKinley est d'accord et, fidèle à sa ligne de conduite, vante les avantages des améliorations non invasives : « je pense que la réversibilité est la grande nouveauté, n'est-ce pas ? Les gens ne veulent pas que des changements permanents soient apportés à leur corps avec des technologies qui sont relativement nouvelles ».

Enfin, la question suivante a été posée aux panélistes : si vous apportez ce type de modifications à un individu, que faites-vous à la fin de son service ? Que se passe-t-il ? Ou bien ces personnes sont-elles littéralement la propriété du gouvernement à vie ? « La résiliation », a répondu Hudson, en faisant une plaisanterie sinistre. Selon des rapports parus ces dernières années, voici une partie de la technologie en cours de réalisation pour créer "l'Homo robocopus" :

• micropuces cérébrales : la France développerait des micropuces pour améliorer les fonctions cérébrales des soldats ;
  
• yeux bioniques : développés à Hong Kong, ils permettent aux utilisateurs d'avoir une vision infrarouge et nocturne ;
  
• super-audition : le système de protection et de communication tactique des États-Unis comprend des oreillettes intelligentes qui améliorent l'audition des soldats au point de la rendre presque surhumaine ;
  
• implant de santé : la DARPA, l'organe de recherche du Pentagone, mettrait au point des implants cyborg pour surveiller l'efficacité au combat ;
  
• membres améliorés : un rapport du DEVCOM de l'armée américaine révèle des projets visant à équiper les soldats américains de membres améliorés pour accroître leur force ;
  
• jambes exosquelettes : l'armée américaine aurait testé un exosquelette qui peut être fixé aux jambes des soldats et qui peut augmenter leur productivité jusqu'à 27 fois ;
  
  sang synthétique : le respirocyte est un globule rouge théorique qui pourrait aider les soldats à ne pas s'essouffler et à rester sous l'eau pendant des heures ;
  
• immunité contre la douleur : l'initiative "Persistance au combat" (Pain Immunity) de la DARPA permettrait aux soldats de ne plus ressentir la douleur pendant 30 jours.

Selon ces rapports, les superpuissances de la planète, les États-Unis et la Russie, ont déjà leurs propres programmes de recherche dans ce domaine. À titre d'exemple, une étude réalisée pour le compte du ministère américain de la Défense et intitulée "Cyborg Soldier 2050 : Human / Machine Fusion and the Implications for the Future of the DoD" publiée en 2019. Ces technologies, ainsi que toutes les questions éthiques qui les accompagnent (du moins certaines d'entre elles), feront l'objet d'un débat public dans un avenir proche, un avenir qui, pour beaucoup, est considéré comme plus incertain que jamais.

Sources : I/ITSEC 2023 à Orlando (Floride), la DARPA, le rapport européen sur les super-soldats (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la quête du super-soldat cybernétique par les superpuissances ?
Selon vous, pourquoi les armées ressentent-elles le besoin de développer de telles machines à tuer ?
Que pensez-vous des technologies de renforcement des capacités des soldats qui seraient à l'étude ?
Quelles sont les préoccupations éthiques que posent ces technologies ?

Voir aussi

L'armée américaine envisagerait d'équiper des chiens-robots semi-autonomes d'une nouvelle génération d'armes de combat, dans le but de les déployer avec les soldats sur les théâtres d'opérations

L'armée américaine veut créer des robots lourds semi-autonomes armés de missiles pour accomplir certaines des tâches les plus dangereuses des soldats

Le Pentagone accélère l'intégration de l'IA pour maintenir sa compétitivité face à la Chine, avec des indications selon lesquelles les États-Unis développeront des armes autonomes létales

[Cpt Anderson]

S'il en sont aux discussions publiques, c'est que dans les faits, le projet est beaucoup plus avancé que ce qui est dit. De toute façon, la puissance du complexe militaro-industriel US est tellement importante que personne ne pourra leur dicter quoi que ce soit.

[olaxius]

Ce qui soulève des préoccupations d'ordre éthique

A bon pourquoi il y a une code éthique dans la guerre "traditionnelle" ? La convention de Genève peut être ???
Il n'y à qu'a voir ce qui se passe actuellement en Ukraine , en Israel (pour les conflits les plus médiatisés) où l'éthique est omni présente .
Guerre à "l'ancienne" ou guerre "moderne" l'éthique n'a pas eu , n'a pas et n'aura jamais son mot à dire dans la guerre .
La violence humaine est à l'aulne de sa connerie et comme la connerie est infinie ...
Se faire massacrer par un soldat avec remords ou sans remord quelle différence ?
Ah si bien sur les gouvernements n'auront pas prendre les séquelles post traumatiques à leur charge , et à payer des pensions ...

[Ryu2000]

De toute façon, la puissance du complexe militaro-industriel US est tellement importante que personne ne pourra leur dicter quoi que ce soit.

Si les USA perdent la prochaine guerre mondiale, alors les vainqueurs pourront punir les USA pour leur utilisation d'arme interdite.

A bon pourquoi il y a une code éthique dans la guerre "traditionnelle" ? La convention de Genève peut être ???

Si tu gagnes la guerre mondiale, ça va (voir les 2 bombes atomiques sur des civils japonais).
Par contre si tu perds tu peux te faire sanctionner.

[OrthodoxWindows]

Les scientifiques du Pentagone discutent de la création de super-soldats cybernétiques qui ne ressentent rien lorsqu'ils tuent

Ha ouais ????

Mais les décisionnaires qui contrôles les guerre et contrôlerons dans le futur ces super-soldats cybernétiques, il s ressentent quelque chose, eux ?

[totozor]

Mais les décisionnaires qui contrôles les guerre et contrôlerons dans le futur ces super-soldats cybernétiques, il s ressentent quelque chose, eux ?

Oui ce sont des gentils, ils n'aiment pas les méchants et seront donc heureux d'empêcher qu'ils fassent des choses de méchants.
Que pensent ils de la diplomatie? Moi non plus je n'ai jamais compris cette passion pour les dinosaures et les chiffres....

[Ryu2000]

il s ressentent quelque chose, eux ?

C'est peu probable.
En haut de la hiérarchie des USA, il y a des gens qui ont demandés à ce que soit utilisé un paquet d'armes inhumaines, comme le Napalm, l'Agent Orange, les bombes atomiques, les munitions à l'uranium appauvri, le phosphore blanc, etc.
Ils ont donné l'ordre de tuer des centaines de milliers de civils irakiens. Ils ont foutu la merde un peu partout sur terre.

Ils s'en foutent des conséquences.
Ukraine : Washington enverra des munitions à uranium appauvri, armes perforantes controversées

Elles ont été employées au cours des deux guerres du Golfe de 1991 et 2003 ainsi qu'en ex-Yougoslavie pendant les années 1990.

Le Pentagone a en outre reconnu s'être servi d'obus à l'uranium appauvri à deux reprises en 2015 dans des opérations contre le groupe Etat islamique en Syrie.

Le Royaume-Uni avait déjà annoncé il y a plusieurs mois son intention de livrer des munitions contenant de l'uranium appauvri à l'Ukraine, initiative dénoncée par Moscou.

L'autre chose qui serait intéressant de savoir c'est quelles drogues l'armée US donne à ses soldats.
Pour accepter de suivre les ordres qu'on leur donne, ils doivent être sous produits.

Par exemple on sait que pendant la seconde guerre mondiale les soldats prenaient de la pervitine, en gros c'est de la méthamphétamine.

[phil995511]

C'est un kasting pour un remake de l’homme qui valait 3 milliards ?

Ou ils essaient juste de faire peur aux vilains, avec des hommes de paille alias des épouvantails ?

Tout ceci me parait totalement irréaliste...

[Ryu2000]

Il a souligné que les stéroïdes font payer un lourd tribut à l'utilisateur et qu'il y a des conséquences à l'augmentation des performances des êtres humains.

Ouais, il n'y a qu'a demandé aux championnes de CrossFit !
Tout le monde sait que ça provoque une hypertrophie du clitoris, une voix plus grave, une augmentation de la pilosité faciale, des troubles menstruels, de l'acné, mais il y a d'autres conséquences.

Tout ceci me parait totalement irréaliste...

Avec le budget de l'armée US tout est possible.

Ou ils essaient juste de faire peur aux vilains, avec des hommes de paille alias des épouvantails ?

"Vilain" ne fonctionne pas dans ce contexte. Parce que ce sont les USA les vilains dans l'histoire.
Peut-être qu'ennemi ça fonctionnerait.

Après le truc, c'est qu'il faut que ces projets restent secret normalement, sinon d'autres pays vont essayer de faire la même chose.
Pendant la paranoïa de la guerre froide, il y a eu plein d'idées bizarre qui ont été développés, parce que les USA se disaient "si ça trouve l'URSS est en train de développer tel type d'arme, donc il faut qu'on les rattrape".

Quoi qu'il en soit il y a une guerre mondiale qui se prépare, les super puissances vont investir beaucoup dans le développement de technologie militaire.
Il n'y a aucune considération éthique là-dedans.
On parle d'un pays qui a envoyé 2 bombes atomiques sur des civils, et il est prêt à faire pire.
Il n'y a aucune limite.

[Mathis Lucas]

L'armée de l'air américaine va introduire 1 000 drones contrôlés par l'IA pour améliorer ses capacités de combat aérien
et réduire les coûts des avions militaires standard pilotés par des soldats

Le Pentagone poursuit ses investissements dans la conception et le développement de véhicules militaires autonomes contrôlés par l'IA. Un rapport révèle que l'armée de l'air américaine envisage d'introduire 1 000 drones contrôlés par l'IA pour améliorer ses capacités de combat aérien. Ces drones accompagneront et protégeront les avions avec équipage, comme les chasseurs F-35 et les bombardiers B-21. Ils pourront porter leurs propres armes, frapper d'autres aéronefs et des cibles au sol et effectuer des missions de reconnaissance. Cependant, l'utilisation d'armes autonomes létales sur le champ de bataille suscite des préoccupations, notamment éthiques.

Les analystes militaires suggèrent que la décision de l'armée de l'air américaine de déployer des drones contrôlés par l'IA répond à l'évolution de la dynamique du champ de bataille, notamment en Ukraine, où les drones sont devenus des multiplicateurs de force essentiels. Les véhicules aériens sans pilote auraient la capacité d'accroître l'efficacité opérationnelle et la flexibilité tactique, mais les experts avertissent que l'idée de laisser l'IA trancher les questions de vie ou de mort constitue une frontière dangereuse. Malgré cela, le Pentagone souhaite tirer parti de la technologie de l'IA pour renforcer sa supériorité aérienne.

Le rapport, publié par le Wall Street Journal, indique que le choix de l'armée de l'air américaine d'introduire une flotte de 1 000 drones contrôlés par l'IA marque ainsi un changement important dans la stratégie militaire. Ces drones fonctionneront dans le cadre du programme Collaborative Combat Aircraft (CCA). Lancé au début des années 2000, le programme CCA vise à intégrer des drones pilotés par l'IA dans la flotte existante d'avions de combat pilotés. Ces drones équipés d'IA serviront de "coéquipiers", complétant, protégeant et soutenant les chasseurs conventionnels comme l'avion F-35 de cinquième génération.

La flotte envisagée de drones, capable d'exécuter diverses tâches opérationnelles, notamment la reconnaissance et l'engagement de cibles aériennes et terrestres, devrait offrir des alternatives rentables aux avions de combat traditionnels. En d'autres termes, l'armée de l'air américaine a décidé d'utiliser activement les drones pilotés par l'IA en raison des coûts élevés de construction des avions militaires standard pilotés par des soldats. Elle espère que les drones permettront de disposer "de plus d'avions pour moins d'argent". Le coût de production est estimé à environ un tiers de celui d'un avion de chasse comparable.

Selon le rapport, ces drones promettent d'alléger les pressions budgétaires et de rationaliser les dépenses de formation des pilotes. Et la première phase du programme devrait coûter environ 6 milliards de dollars, ce qui témoigne de l'ampleur et de l'ambition de l'entreprise. Dans le même temps, ce programme devrait contribuer à enrichir les entreprises de défense qui investissent de plus en plus dans la conception et le développement de véhicules militaires autonomes pilotés par une IA. Anduril Industries, Boeing et General Atomics, auraient déjà dévoilé les prototypes de leurs propositions de drones dotés d'une IA.

Ces entreprises se disputent les contrats lucratifs du ministère américain de la Défense (DOD), en mettant en avant les progrès de la technologie de couplage homme-machine et de l'intégration de l'IA. Parallèlement, des géants de l'industrie comme Lockheed Martin et Northrop Grumman s'emploient activement à affiner leurs offres, soulignant ainsi le paysage concurrentiel du secteur de la défense. La société d'analyse de données Palantir, qui est un contractant du Pentagone, travaille également sur d'autres projets d'IA pour l'armée américaine. Elle développe notamment le système de station au sol TITAN doté d'une IA.

Palantir affirme que le système TITAN est le premier véhicule défini par l'IA et qu'il aidera l'armée américaine à agir rapidement sur le champ de bataille. Les critiques dénoncent la militarisation des capacités de l'IA par Palantir. « TITAN propose des technologies qui changent la donne en matière de collecte, de traitement et de diffusion du renseignement sur le champ de bataille, ce qui nous donne un avantage décisif pour soutenir les opérations multi domaines », a déclaré le colonel américain Chris Anderson. Palantir affirme également que la station TITANT est conçue pour maximiser la facilité d'utilisation pour les soldats.

L'introduction de drones contrôlés par l'IA annonce un changement de paradigme dans la guerre aérienne, combinant l'innovation technologique et l'agilité stratégique. Cependant, elle soulève de nombreuses préoccupations d'ordre éthiques. De nombreux experts appellent à "l'interdiction de la militarisation des capacités de l'IA et des armes autonomes létales". Mais leur appel reste jusque-là sans réponse et les tentatives visant à élaborer des normes pour réglementer ces développements sur le plan mondial ont été infructueuses. Un critique a déclaré :

Le résultat était prévisible. Les drones contrôlés par l'IA sont une bombe atomique pour la guerre à terme. À grande échelle, ils constituent une arme qui a quelque chose de terrifiant : la guerre sans conséquences personnelles. Pour donner un exemple de la chose : vous cliquez sur un bouton, 400 drones partent, 250 reviennent, toutes vos cibles stratégiques sont mortes et aucun des "bons" n'est blessé. À terme, ils pourraient choisir leurs propres cibles.

Il n'existe aucun système d'armement ou de défense des frontières qui protège contre un assaut de centaines ou de milliers de cibles. Ils ne sont tout simplement pas conçus pour cela. Vous pourriez attaquer n'importe quel point des États-Unis, de l'Europe, de la Russie, etc. avec un essaim de drones. Et le bilan serait catastrophique pour la cible. L'essaim perdrait en nombre, c'est certain, mais lorsque l'attaque se produit, une partie de l'essaim s'éteint et détruit les lanceurs et les canons. Les drones pilotés par l'IA sont le résultat final des machines de guerre.

Un rapport paru en décembre dernier a révélé que les scientifiques du Pentagone discutent de la création de super-soldats cybernétiques qui ne ressentent rien lorsqu'ils tuent, ce qui rapproche davantage d'un monde où Skynet ne relèverait plus de la science-fiction. Le super-soldat du Pentagone est décrit comme le soldat du futur et sera inondé de stimulants antidouleur, amélioré avec des implants cérébraux, du sang synthétique et d'autres équipements technologiques. Cela devrait le transformer en une sorte d’arme de guerre invincible capable de tuer sans avoir de remords pouvant affecter ses capacités mentales.

D'autres grandes puissances militaires, telles que la Chine et la Russie, auraient déjà leurs propres programmes de recherche dans ce domaine. Ces technologies, ainsi que toutes les questions éthiques qui les accompagnent (du moins certaines d'entre elles), feront l'objet d'un débat public dans un avenir proche, un avenir qui, pour beaucoup, est considéré comme plus incertain que jamais. Selon les analystes, les conflits du futur seront essentiellement technologiques, car l'IA est en train de changer le visage de la guerre. Toutefois, les risques pour l'humanité sont encore inconnus et font l'objet de très peu de débats publics.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'introduction par le Pentagone de drones contrôlés par l'IA ?
Quels sont les risques relatifs à l'utilisation de ces drones sur les théâtres d'opérations ?
À quoi pourraient ressembler les conflits du futur ? Quels sont les risques pour l'humanité ?
Selon vous, peut-on laisser une machine pilotée par l'IA trancher les questions de vie ou de mort ?

Voir aussi

L'armée de l'air américaine teste un prototype de drone avec un logiciel basé sur l'intelligence artificielle

Les scientifiques du Pentagone discutent de la création de super-soldats cybernétiques qui ne ressentent rien lorsqu'ils tuent, ce qui soulève des préoccupations d'ordre éthique

Un projet de loi bipartisan américain vise à empêcher l'IA de lancer des armes nucléaires sans véritable contrôle humain, il affirme que l'IA ne devrait pas trancher les questions de vie ou de mort

[Anthony]

Les robots humanoïdes pourraient combattre dès 2030, les humains augmentés et les robots humanoïdes pourraient être déployés efficacement sur le champ de bataille, prédit un colonel américain

Un colonel de l'armée américaine a révélé un calendrier pour le déploiement effectif d'humains augmentés et de robots humanoïdes sur le champ de bataille, mais seulement lorsque les autorités seront sûres que les robots travaillent pour les humains - et non l'inverse.

S'exprimant dans le cadre d'une table ronde intitulée "Humanoïdes ou humains augmentés : Accélérer l'autonomie grâce à l'IA" qui s'est tenue au Texas le mercredi 13 mars, le colonel Troy Denomy a déclaré : "Nous pensons surtout à la période entre 2030 et 2040".

La discussion a eu lieu lors du festival South by Southwest à Austin, qui célèbre l'intersection de la technologie et du divertissement.

Au cours de la discussion, des inquiétudes ont été exprimées quant aux risques liés à l'utilisation de l'IA et de la technologie robotique par l'armée.

"Assurez-vous que le robot travaille pour l'homme et que l'homme ne travaille pas pour le robot", a averti M. Denomy.

Selon lui, cela devrait être le cas avant que les robots de l'armée ne passent leur phase de test.

M. Denomy a cité l'exemple d'un test de robot effectué récemment, au cours duquel certains des testeurs ont parfois eu l'impression que les robots contrôlaient la situation.

"Nous avons récemment fait une démonstration de certaines capacités robotiques et nous en ferons une autre dans quelques semaines", a déclaré le colonel à l'auditoire.

"Les chefs de ce peloton avaient environ 27 télécommandes accrochées à leur cou pour essayer de contrôler les différents robots."

M. Denomy et le groupe d'experts ont convenu que les tâches telles que l'utilisation de plusieurs télécommandes pour un seul gadget doivent être automatisées avant que les robots puissent être utilisés efficacement par les forces américaines.

"Ce que j'ai décrit avec les contrôleurs, c'est que les humains travaillent pour les robots. Nous devons donc inverser cette tendance", a-t-il ajouté.

Selon M. Denomy, des gadgets améliorent déjà les capacités de l'armée, tels que des smartphones spéciaux et des drones adaptés.

Les Marines ont également testé un chien robot équipé d'un lance-roquettes dévastateur M72 à la fin de l'année dernière.

Cependant, M. Denomy a insisté sur la nécessité de faire participer les humains à l'utilisation de ces technologies dans les situations de combat.

"Je pense que l'époque où une machine est capable de comprendre l'éthique est encore loin", a-t-il averti.

Source : Troy Denomy, Colonel de l'armée américaine

Et vous ?

Quel est votre avis sur le sujet ?
Pensez-vous que le point de vue du Colonel Denomy soit crédible ou pertinent ?

Voir aussi :

L'armée de l'air américaine va introduire 1 000 drones contrôlés par l'IA pour améliorer ses capacités de combat aérien et réduire les coûts des avions militaires standard pilotés par des soldats

L'armée américaine envisagerait d'équiper des chiens-robots semi-autonomes d'une nouvelle génération d'armes de combat, dans le but de les déployer avec les soldats sur les théâtres d'opérations