Discussion :

[Bill Fassinou]

Chine : les enfants les plus brillants du pays sont sélectionnés pour être formés pour le développement d'armes létales
basées sur l'IA

Intelligence, créativité, volonté de combattre, pugnacité face aux défis, passion pour le développement de nouvelles armes et patriotisme, tels ont été les critères qui ont permis de sélectionner parmi 5000 enfants les 31 (27 garçons et 4 filles tous âgés de moins de 18 ans) qui seront formés au Beijing Institute of Technology (BIT), selon un professeur dudit institut. Le BIT, l'un des instituts de recherche en armement les plus cotés de la Chine a élaboré un programme dénommé « programme expérimental pour les systèmes d'armes intelligentes » qui consiste à former sur 4 ans des lycéens qui, à la fin de leur formation devront être capables de concevoir des armes basées sur l'Intelligence Artificielle.

Ce programme qui a été lancé le 28 octobre dernier au quartier général de Norinco (l'une des plus grande entreprise qui exporte entre autres de l'armement fabriqué en République populaire de Chine), a pour objectif à long terme de faire de ces enfants des docteurs dans leurs domaines de spécialité et de faire en sorte qu'ils deviennent les prochains leaders de la Chine en matière d'armes basées sur l'IA. Recrutés donc depuis le lycée, ces futurs scientifiques en armement suivront un programme de cours sur 1 semestre avant de choisir une spécialité (ingénierie mécanique ou électronique, conception des armes) qu'ils pourront explorer en profondeur dans le laboratoire de défense dans lequel ils seront envoyés.

Ces enfants ne seront toutefois pas abandonnés à leur propre sort durant leur formation, car chacun d'eux bénéficiera de l'accompagnement de deux scientifiques en armement qui viennent respectivement du BIT et de Norinco. Il faut noter que ce programme tombe à pic pour les bénéficiaires. En effet, pour la porte-parole de ces étudiants, Cui Lyan, ce programme leur permet « de faire des choses que personne n'a encore jamais fait ». Elle est rejoint dans son enthousiasme par Qi Yishen, un autre lauréat, qui voit son rêve de petit garçon de travailler sur les armes être réalisé. Ce programme a le mérite d'être ambitieux. Il convient alors de se demander au vu de l'ambition d'un tel programme, la raison de son élaboration.

Ce n'est un secret pour personne que la Chine, dans sa course à l'armement contre les États-Unis et d'autres pays, cherchent à développer des utilisations létales de l'IA. Le but est donc de développer des armes telles que des robots microscopiques qui peuvent circuler à travers les veines des êtres humains ou des armes nucléaires sous-marines avec des micros puce autonomes. Le ministre des affaires étrangères de la Chine a souligné la volonté de son pays de prendre une part active au développement des potentialités que peuvent offrir l'IA afin de booster les domaines de l'économie, du développement social, et du progrès scientifique et technologique. La Chine s'affirme donc un peu plus dans sa volonté de se positionner en tant que leader mondial en utilisant l'IA comme un outil de progrès technologique et sécuritaire.

De plus, le gouvernement chinois a proposé aux Nations Unies l'utilisation des armes basées sur l'IA en avril dernier. En effet pour ce dernier « en tant que produit de l'émergence des hautes technologies, le développement et l'usage d'armes autonomes réduirait l'effort et le coût de la guerre pour les pays utilisateurs. Ce qui rendrait plus facile et plus rapide le déclenchement des guerres ». Pour Beijing les préjugés ne devraient pas venir « entraver le développement de la technologie de l'IA ». Cependant beaucoup ne sont pas d'accord avec cette utilisation de l'IA que la Chine projette de faire et surtout avec des enfants. A ce propos, Eleonore Pauwels de l'Université des Nations unies et Stuart Russel, le directeur du Centre pour les Systèmes Intelligents à l'Université de Californie (Bekerley) se sont tous deux prononcés en défaveur de ce programme.

Pour Pauwels, la dangerosité de ce programme vient du fait qu'il soit « le premier programme universitaire dans le monde conçu pour encourager stratégiquement et avec agressivité la prochaine génération à penser, concevoir et déployer l'IA pour des recherches et des usages militaires ». Ce qui rend selon cette dernière « le concept à la fois puissant et troublant ». Il ne s'agit pas de diaboliser la Chine pour le fait qu'elle fasse des recherches militaires en matière de l'IA. Les États-Unis conduisent aussi des programmes de recherches militaires sur l'IA (Defence Advanced Research Projects Agency). Cependant, à la différence de la Chine, ce genre de programme reste secret et concerne des scientifiques aguerris et avertis.

Pour cette dernière ce programme pourrait avoir des conséquences désastreuses en ce sens qu'elle amènerait la nouvelle génération à voir l'IA uniquement comme un moyen de créer des armes puissantes et sophistiquées capable d'attaquer avec « une précision chirurgical, des populations spécifiques ». Nous avons donc à craindre des robots capables d'empoisonner de la nourriture, des cyberattaques très perfectionnés et autonomes, et même une utilisation de ces armes pour surveiller et blesser des civils. Russel est encore plus vindicatif que Pauwels, car, pour lui, ce programme est « une très mauvaise idée ». Selon lui, « les machines ne devraient jamais être autoriséés à tuer des humains. Ces genres d'armes deviennent rapidement des armes de destructions massives. De plus, elles augmentent l'amour de la guerre ».

Il espère que ces étudiants visionneront le film Slaugterbots qui leur servira de mise en garde contre les dérives de l'usage des armes autonomes dans les guerres. Les internautes n'ont pas manqué de donner leur point de vue. Deux grandes tendances se sont dégagées. Pour les uns, le reste du monde et principalement les États-Unis tentent de diaboliser la Chine qui ne fait rien que ces pays n'aient jamais fait. Pour les autres, ce programme incarne la volonté de la Chine de se lancer dans une guerre et pour ces derniers, utiliser l'IA n'évitera pas à la Chine les pertes qu'elle désire éviter en se lançant dans le développement d'une telle technologie. La Chine a quand même fait remarquer qu'elle était parfaitement au courant des problèmes éventuels que pourrait susciter l'utilisation d'un système autonome d'armes et pour cela, elle encourage la recherche de mesures préventives de la part de la communauté international.

Source : South China Morning Post

Et vous ?

Que pensez-vous de ce programme ?

Voir aussi

Hawking, Musk, Wozniak et plusieurs scientifiques appellent à l'interdiction des armes autonomes en soutenant une lettre ouverte, qu'en pensez-vous ?

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes lors d'une conférence internationale sur l'IA

USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée évoquant une future course aux armes

L'intelligence artificielle est-elle l'arme de la prochaine guerre froide ? Oui répond un chercheur en informatique

Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique

[tmcuh]

J'en pense qu'il est grand temps qu'on tue ceux qui pensent que c'est une bonne chose !

La Chine contrairement aux USA c'est que demain ils créer une arme autonome et impose au monde leur régime totalitaire sans que personne ne puisse broncher.
Alors que les USA eux seront dans la demi mesure à cause du sénat, parlement, etc qui auront toujours une priorité humaine plutôt que le pouvoir.
D'ailleurs on le voit très bien et qu'ils ont réussi à assouvir des pays avec leur dollar et cela sans grande guerre.
Le soft power chinois dans toute sa splendeur, il fait peur et si personne ne leur envoi de bombe nucléaire pour mettre tous les compteurs à zéro, il sera bientôt trop tard
Ils oseront faire ce qu'aucun n'as jamais osé, mais juste pour eux, pour se prouver qu'ils sont capable

[Cassoulatine]

Fallait pas montrer Gundam aux chinois.

[NotAèfka]

C'étais prévisible. La suite l'est moins par contre.

[KEKE93]

Je crois que les chinois veulent sauter des étapes!!
D'abord, les missiles chinois air-air sont à l'origine de technologie israelienne...
De plus, il y a des vidéo sur Youtube qui montrent à titre d'exemple que des missiles mer-mer exportés à l'Indonésie n'avaient pas atteint leurs cibles lors de test du pays importateur...
On se demande ce que ça va donner sur des technologies infiniment plus sophistiquées impliquant l'I.A si des simples missiles n'atteignent déjà pas leur cible!!

[el_slapper]

Je crois que les chinois veulent sauter des étapes!!
D'abord, les missiles chinois air-air sont à l'origine de technologie israelienne...
De plus, il y a des vidéo sur Youtube qui montrent à titre d'exemple que des missiles mer-mer exportés à l'Indonésie n'avaient pas atteint leurs cibles lors de test du pays importateur...
On se demande ce que ça va donner sur des technologies infiniment plus sophistiquées impliquant l'I.A si des simples missiles n'atteignent déjà pas leur cible!!

Je dirais que paradoxalement choisir les meilleurs, ça peut avoir un effet pervers. Rien ne dit que ces meilleurs seront motivés. Et c'est le genre de domaine ou la motivation fait beaucoup. Von Braun a fait énormément pour le développement des fusées(militaires comme civiles), non pas parce-que c'était le meilleur, mais avant tout parce-qu'il adorait ça. On dirait que les dirigeants chinois se croient dans un jeu vidéo, et oublient de ce fait le facteur humain.

[Ryu2000]

Les internautes n'ont pas manqué de donner leur point de vue. Deux grandes tendances se sont dégagées. Pour les uns, le reste du monde et principalement les États-Unis tentent de diaboliser la Chine qui ne fait rien que ces pays n'aient jamais fait. Pour les autres, ce programme incarne la volonté de la Chine de se lancer dans une guerre et pour ces derniers, utiliser l'IA n'évitera pas à la Chine les pertes qu'elle désire éviter en se lançant dans le développement d'une telle technologie. La Chine a quand même fait remarquer qu'elle était parfaitement au courant des problèmes éventuels que pourrait susciter l'utilisation d'un système autonome d'armes et pour cela, elle encourage la recherche de mesures préventives de la part de la communauté international.

Les USA ont une grosse avance dans l'IA militaire.
La Chine ne peut pas se permettre de rien faire dans ce domaine.
Il faut être prêt pour le prochain conflit mondial, la Chine doit bien essayer de se défendre.

On ne peut pas laisser un pays avoir un armement plus puissant que les autres.
Quand les USA ont créé les premières bombes atomiques, les autres pays ont suivi.

Les USA ont de très très loin le premier budget militaire mondial.


Dans le domaine de l'IA c'est la course :
Intelligence artificielle : la Chine attire plus d'investissements que les États-Unis

Les deux puissances sont engagées depuis plusieurs années dans une compétition farouche pour devenir leader dans le domaine de l'intelligence artificielle. Pour la première fois, la Chine a commencé à prendre le dessus.

Je dirais que paradoxalement choisir les meilleurs, ça peut avoir un effet pervers. Rien ne dit que ces meilleurs seront motivés. Et c'est le genre de domaine ou la motivation fait beaucoup.

La Chine c'est une autre culture, à mon avis beaucoup des meilleurs Chinois sont très fier de participer à ce type de projet.
C'est important pour la grandeur de la Chine, il y a moyen que ça les motive.
Il faut bien défendre le pays, il y a des menaces qui plane.

===
Et sinon est-ce qu'on sait où en est la France dans le domaine de l'IA militaire ?

[Mc geek]

Intelligence, créativité, volonté de combattre, pugnacité face aux défis, passion pour le développement de nouvelles armes et patriotisme, tels ont été les critères

Ils ont quand même précisé que ne sont sélectionnés que les étudiants intéressés par le développement d'arme avec IA. Ils ne choisissent donc pas n'importe qui.

[el_slapper]

Ils ont quand même précisé que ne sont sélectionnés que les étudiants intéressés par le développement d'arme avec IA. Ils ne choisissent donc pas n'importe qui.

Ouais, mais quand même. La plupart des percées dans ce domaine se font par des équipes autonomes, auto-constituées, et ce n'est pas un hasard. Après, si ils ont l'intelligence de laisser les gens s'auto-organiser, çà peut donner des résultats impressionants, mais j'ai quand même un doute sur le sujet.....

[ParseCoder]

Pas besoin de la Chine pour faire des cauchemars, regardez ça :

Et si on arrêtait de menacer la Chine d'une guerre, ça pourrait aider non? Tant qu'on abandonnera pas un paradigme "d'équilibre des forces" ce genre de menaces seront de pire en pire. Il faut passer à un paradigme de développement mutuel et de coopération. C'est ce que fait la Chine avec le projet des nouvelles routes de la soie. Par exemple la Chine aide des pays africain à s'industrialiser pour les aider à sortir de la misère. C'est comme ça qu'on devrai voir les choses nous aussi, l'occident doit sortir de sa mentalité coloniale.

[Ecthelion2]

Par exemple la Chine aide des pays africain à s'industrialiser pour les aider à sortir de la misère.

C'est plutôt que comme le niveau de vie de la Chine devient de plus en plus élevée, elle n'est plus la main d'oeuvre la moins cher du monde, donc elle industrialise l'Afrique, car maintenant, c'est ce continent qui va servir d'usine mondiale.

Croire que c'est fait par pur philanthropie, je pense que c'est se faire des illusions, surtout vu comment la Chine traite ses propres habitants...

[ParseCoder]

... surtout vu comment la Chine traite ses propres habitants...

Ben justement en 30 ans ils ont sorti 800 millions de leurs concitoyens de la misère. La Chine est surement loin d'être parfaite mais ils ont compris que s'ils veulent prospérer ils doivent aider les autres pays à se développer car ils ne pourront pas vendre grand chose à des pays pauvres. Si vous faites attention à ce que dit Xi Jingping il parle souvent de "partenariat gagnant-gagnant".

[Ryu2000]

Et si on arrêtait de menacer la Chine d'une guerre, ça pourrait aider non?

Mais arrêtez avec vos délires humaniste.
Il n'y aura jamais une alliance de tous les gouvernements. (ou alors c'est un gouvernement mondial et c'est un véritable cauchemar dans lequel tous les peuples du monde deviennent esclave d'une petite élite qui contrôle tout)

Les pays ne seront jamais tous au même niveau, il y aura toujours une hiérarchie.
Il y a un gars qui a fait cette liste des puissances économique mondiale (louiscroixvbaton):

Dans l'Antiquité :
- des origines et jusqu'au Ve siècle av. JC : l'Egypte des pharaons
- du Ve au IIIe siècle av. JC : la Perse des Achemenides
- au IIIe siècle av. JC : la Macédoine d'Alexandre-le-Grand
- du Ier siècle av. JC au IIIe siècle de notre ère : l'Empire Romain
Au Moyen-Age :
- du IIIe siècle de notre ère au XIIIe siècle : l'Empire Byzantin
- du XIIIe au XIVe siècle : la Mongolie des Gengiskhanides
A l'époque moderne :
- du XVe au XVIe siècle : l'Empire Ottoman
- du XVIe au XVIIe siècle : l'Espagne des Rois Catholiques et des Habsbourg
- du XVIIe à 1815 : la France des Bourbon et du Ier Empire Napolénien
A l'époque contemporaine :
- de 1815 à 1947 : l'Empire Britannique
- depuis 1947 : les Etats-Unis d'Amérique

Ça finira forcément en grand conflit mondial un de c4.

Les USA feront tout pour rester dans le top des pays riches, c'est pour ça que le budget militaire est gigantesque là-bas.
Ils ont foutu la merde partout dans le monde pour s'accaparer des matières premières, avec des prétextes stupide du genre "une arme de destruction massive en Irak" ou encore pire "instaurer la démocratie"...

Les USA sont en déclin et, selon comment on regarde, la Chine prospère.

C'est ce que fait la Chine avec le projet des nouvelles routes de la soie.

La nouvelle route de la soie c'est un super projet.
Mais ce n'est pas bénéfique pour tout le monde, il y aura des perdants, car ce qui passe par cette route ne passe par une autre route.
Qui sont les perdants des nouvelles routes de la soie lancées par la Chine?

Par exemple la Chine aide des pays africain à s'industrialiser pour les aider à sortir de la misère.

C'est peut-être pour récupérer des ressources au passage, comme des terres rare et tout ça.
Plein de pays se battent pour être bien installé en Afrique.

===
Le conflit commence par un guerre commerciale.
Les entreprises ont délocalisé en Chine, tout est produit en Chine, comme dans la chanson :

Et là les étasuniens se sont rendu compte que c'était une mauvaise idée de tout faire produire en Chine (au final ça rapportait plus à la Chine qu'aux USA).
La Chine a besoin des USA pour faire tourner ses usines.
Les USA ont besoin de la Chine pour produire.

[tmcuh]

D'ailleurs pour preuve, en Chine si tu demande à quelqu'un "quel est ta religion" il répondra "l'argent". Ils ont des valeurs dictés par le gouvernement, dicté par quelques coutumes, mais leur but c'est de s'enrichir. Donc la route de la soie n'est pas anodin.
Je les compare souvent à des enfants qui ont toujours faim et qui fouille dans les armoires pour trouver de la nourriture... gourmand.
Ils vivent dans une autre culture et essayer de nous rapprocher est vraiment compliqué et vous pouvez vous bagarrer verbalement sur des sujets aussi simple pour nous que le droit humain. Car ils ont leur vision et même après avoir vécu en Europe, cette vision de change pas, bien au contraire, ils voient les maux de notre société : comme l'extrême violence et la clémence qu'on donne aux gens violents, que la démocratie n'est pas respecté et qu'on change de politique social tous les 5 ans, un coup les riches, un coup les pauvres, un coup l'école... On a chacun nos arguments quand à une futur société.
D'ailleurs quand on voit le test de l'université sur les voitures autonomes, qu'ils préfèrent tuer les piétons, ça résume

Merci pour la vidéo ParseCoder, très intéressant et flippant en même temps. Car l'on sait très bien que toutes les technologies finissent toujours entre de mauvaises mains

[sirthie]

Et si on arrêtait de menacer la Chine d'une guerre, ça pourrait aider non? Tant qu'on abandonnera pas un paradigme "d'équilibre des forces" ce genre de menaces seront de pire en pire.

Sauf que depuis la chute de l'URSS, les USA ne recherchent plus un équilibre des forces mais une supériorité écrasante.

[Kuki el gato]

Beaucoup de gens disent "L'humanité va s'autodétruire..."
Maintenant on peut dire "L'humanité va se faire détruire...". Si l'intelligence artificielle existera, elle devrait avoir son pendant, "La folie artificielle", qui fera que toutes ces charmantes petites choses pourront échapper à tout contrôle.
La race des savants fous n'a pas disparu, malheureusement, mais on l'a bien cherché non ?

[cdubet]

1) on ne parle pas d enfants la mais de gens qui ont deja 18 ans, donc des gens qui sont des quasi adultes et qui en france peuvent voter (bon pas en chine vu que c est le PCC qui decide de tout)

2) penser qu on pourra interdire les armes basees sur de l IA c est comme penser qu on pouvait interdire les arbaletes au moyen age (ca a vraiment ete tente car c etait deloyal. un manant sans entrainement pouvait tuer un chevalier)

3) la chine n aura evidement aucun scrupule a utiliser ce type d armes. Ils pensent mettre sous surveillance toute leur population (via camera et credit social) donc penser qu ils vont s arreter pour des question de droit de l homme, c est comme croire qu il vont tout d un coup arreter d opprimer les ouigours

4) il faut cependant pas paniquer. rien n indique qu une IA fera mieux qu un soldat humain ou qu elle pourra pas etre leurree tres facilement. En plus la chine n a jusqu a maintenant une armee certes nombreuse mais pas tres efficace (quasi defaite face au vietnam) et minee par la corruption

[Ryu2000]

les USA ne recherchent plus un équilibre des forces mais une supériorité écrasante.

D'ailleurs le projet de gouvernement mondial c'est que les USA gouvernent le monde.

Beaucoup de gens disent "L'humanité va s'autodétruire..."

Ça c'est la M.A.D (Mutual Assured Destruction ou équilibre de la terreur en français) c'est quand un pays envoie une bombe atomique et que l'autre répond avec une autre bombe atomique.
Aujourd'hui on pense plus à la disparition de l'humanité à cause de l'écologie : "l'humain a détruit son environnement, il est trop tard pour agir, l'extinction de la vie sur terre à court terme est en marche".

2) penser qu on pourra interdire les armes basees sur de l IA c est comme penser qu on pouvait interdire les arbaletes au moyen age (ca a vraiment ete tente car c etait deloyal. un manant sans entrainement pouvait tuer un chevalier)

Il y a des nations qui ont de l'honneur et d'autres qui n'en ont pas du tout.
Par exemple la France respecte les protocoles, les engagements, le code d'honneur et les britanniques trahissent tout. (je ne pense pas forcément à l’arbalète quand je dis ça)

Arbalète - Moyen Âge

« Les Français la regardaient comme l'arme des lâches et refusaient de s'en servir. Avec cette arme perfide, disaient-ils, un poltron peut tuer sans risque le plus vaillant homme. »

3) la chine n aura evidement aucun scrupule a utiliser ce type d armes.

Ce ne seront pas les seuls, les pires dans ce domaine sont les USA et Israël.
Ils n'hésitent pas à utiliser des armes interdites.

• Napalm
• Phosphore blanc
• Agent Orange
• Munition à l'uranium appauvri
• Bombe à fléchette
• Dense Inert Metal Explosive
• etc

rien n indique qu une IA fera mieux qu un soldat humain ou qu elle pourra pas etre leurree tres facilement.

Peut-être que, par rapport aux humains, les robots seront plus rapide pour viser, plus précis, plus solide, ils n'auront pas peur, ils auront des capteurs qui les aideront à trouver les cibles, ils échangeront des informations plus rapidement, etc.

quasi defaite face au vietnam

Il me semble que l'armée Française et l'armée US ont perdu des guerres au Vietnam, donc ce n'est pas significatif.
Les vietnamiens sont trop fort.