Discussion :

[Christian Olivier]

Pour Elon Musk l’IA est bien plus dangereuse que l'arme nucléaire
Alors que Bill Gates estime que l'IA est à la fois porteuse d’espoir et dangereuse

Elon Musk, le patron de Tesla et de SpaceX, a profité de son passage récent à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle (IA). D’après Musk, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie.

« Je ne suis pas normalement un partisan de la réglementation et de la surveillance - je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger », a prévenu Musk.

Ce n’est pas la première fois que le patron de Tesla fait des prédictions alarmantes sur le potentiel de l’intelligence artificielle, mais sa vision pessimiste probablement motivée par le caractère incertain de l’avenir et peut être aussi la trop grande confiance en soi des concepteurs de cette technologie interpelle constamment sur la nécessité d’une surveillance et d’une réglementation étroites de l’IA. Devrait-on lui en tenir rigueur ?

Elon Musk préconise la mise en place d’un organisme public capable de vérifier que tout le monde développe l’IA en toute sécurité : « Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires, et personne ne suggérerait qu’on permette à n’importe qui de fabriquer des ogives nucléaires s’il le souhaite. Ce serait insensé », a-t-il martelé.

Son point de vue radical tranche avec la position plus modérée d’un autre philanthrope de renom issu de l’industrie technologique, Bill Gates, qui a récemment déclaré lors du 18^e Symposium sur l’IA centré sur l’homme qui se tenait à l’Université de Stanford que l’intelligence artificielle est comme l’énergie nucléaire : une technologie « à la fois porteuse d’espoir et dangereuse ».

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.

D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « plutôt irresponsables », selon certains, et de la « psychose orientée contre l’IA » qu’il entretiendrait au travers de son discours alarmiste.

Le patron de Tesla semble cependant résolu à ne pas se voiler la face et n’hésite pas à traiter ceux qui minimisent ou ignorent ses avertissements « d’imbéciles ». Lors du SXSW, il a déclaré : « le plus gros problème que je vois avec les soi-disant experts en IA est qu’ils pensent en savoir plus qu’ils ne savent et se croient plus intelligents qu’ils ne le sont réellement ». Selon Elon Musk, ce phénomène « a tendance à toucher les gens intelligents. Ils se définissent par leur intelligence et ils n’aiment pas l’idée qu’une machine puisse être beaucoup plus intelligente, alors ils réfutent cette idée - qui est fondamentalement défectueuse ».

S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ».

Dans son analyse des dangers de l’intelligence artificielle, Elon Musk établit une distinction entre les applications spécifiques à l’intelligence des machines comme les voitures autonomes et l’intelligence des machines en général. Le patron de SpaceX souhaite que tout soit mis en œuvre afin de s’assurer que, si un jour l’humanité décide collectivement que la création d’une super-intelligence numérique est la bonne décision à prendre, nous procédions en restant très très vigilants.

« Je ne suis pas vraiment inquiet à propos des projets à court terme ». Une IA mineure ne représente pas un risque particulier. Elle entrainera probablement une dislocation, des pertes d’emplois, une sophistication de l’armement et ce genre de choses, mais elle ne représente pas un risque fondamental contrairement à la super intelligence numérique, a expliqué Elon Musk.

Source : CNBC

Et vous ?

Que pensez-vous des points de vue exprimés dans cet article ?
La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?
Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?
Quel est votre avis sur les dangers liés à la création d’une d’une super-intelligence numérique ?

Voir aussi

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques

[Ryu2000]

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.

La Chine et les USA investissent à fond dans l'IA militaire.
Des dizaines et des dizaines de milliards de dollars partent là-dedans.
The US Army wants to turn tanks into AI-powered killing machines

D’autres entités remarquables comme le fondateur de Facebook, Mark Zuckerberg, ou le professeur de Harvard Steven Pinker se sont déjà montrées plus critiques sur cette question à l’égard des propos d’Elon Musk jugés « plutôt irresponsables », selon certains, et de la « psychose orientée contre l’IA » qu’il entretiendrait au travers de son discours alarmiste.

Je ne vois pas en quoi c'est irresponsable de dire que l'IA militaire peut devenir un danger...

S’appuyant sur le cas d’AlphaGo Zero, l’IA de DeepMind, qui a surclassé les joueurs humains au jeu de Go, Musk se dit, plus que jamais, conscient du potentiel évolutif incroyable de l’IA et de sa faculté à surpasser rapidement l’humain. Il craint que le développement de l’IA surpasse notre capacité à la gérer de manière sûre. À ce propos, il a confié : « Nous devons trouver un moyen de faire en sorte que l’avènement de la super intelligence numérique soit en symbiose avec l’humanité. Je pense que c’est la plus grande crise existentielle à laquelle nous sommes confrontés et la plus urgente ».

Il faut arrêter tout de suite avec ce délire utopiste et humaniste, les états en ont rien à foutre de l'éthique, quand il s'agit d'arme il n'y a plus de règle.
Les gros pays comme les USA continuent certainement de développer secrètement des armes illégales (bactériologique, nucléaire, etc).
Il y a des pays qui n'hésitent pas à utiliser l'arme nucléaire, l'agent orange, le phosphore blanc sur des civils.

L'important c'est de gagner la guerre et de mettre la faute sur le perdant.

Diriez-vous que le point de vue de Musk dans ce débat est plutôt alarmiste ou réaliste ?

Pour moi c'est réaliste, on ne connait pas les limites de l'IA, on ne sait pas où elle en sera dans 20 ans.

La comparaison de l'IA avec l'arme atomique vous parait-elle judicieuse ? Pourquoi ?

La comparaison me semble judicieuse, parce que l'IA et l'arme atomique ont un potentiel de destruction gigantesque.

[BLeguillou]

Je voulais juste apporter une info qui a son poids dans tous les débats concernant l'IA:

Bill Gates, Elon Musk, Stephen Hawking, Zukerberg et Compagnie ne connaissent rien à l'IA.

Je partage l'avis de Luc JULIA, père de SIRI:
Stephen Hawking était quelqu’un de très fort dans son domaine, il a découvert des trous noirs que personne n’avait vus. Mais les mathématiques appliquées à l’IA n’étaient pas sa discipline. Donc, comment a-t-il pu avoir l’autorité de dire que l’IA allait prendre le pouvoir ?
Quant à Elon Musk, c’est un visionnaire du marketing, il est bon en communication mais nul en technologie.
Lire son livre "L'intelligence Artificielle n'existe pas". Très intéressant.

[Ryu2000]

Mais les mathématiques appliquées à l’IA n’étaient pas sa discipline. Donc, comment a-t-il pu avoir l’autorité de dire que l’IA allait prendre le pouvoir ?

Il faut arrêter avec cette connerie "d'autorité"...
Ce n'est pas parce que quelqu'un n'est pas d'un domaine que ses prévisions seront forcément toutes fausses...
C'est quoi ce manque de respect "Ce n'est pas un grand spécialiste de l'IA alors l'intégralité de ses réflexions sur le sujet ne valent rien" ?!

Justement ceux qui bossent dans l'IA ne sont pas neutre, ils ne veulent pas qu'une image négative soit associé à leur discipline.
Si ça se trouve Luc Julia pense que l'IA peut devenir très dangereuse, mais il le garde pour lui et rassure le public, ou alors il est vraiment convaincu qu'aucun pays n'arrivera à produire d'arme dangereuse en utilisant l'IA.

L'IA est déjà capable de faire des choses impressionnantes :
Reconnaissance faciale: Un homme repéré au milieu d’une foule de 50 000 personnes en Chine

L'IA va progresser très vite, donc il est pour moi très probable que des armes très dangereuses utilisant l'IA finissent par voir le jour.

[Sodium]

Le problème de l'IA et de n'importe quoi d'autre, c'est qu'à partir du moment où ça peut être utilisé comme arme, il y en aura toujours pour le faire. Certains dictateurs n'hésitent pas à utiliser des armes chimiques interdites par le droit international contre leur peuple, je les vois mal s'embarasser de remords pour faire des ravages grâce à l'IA.

[free07]

Si ça se trouve Luc Julia pense que l'IA peut devenir très dangereuse, mais il le garde pour lui et rassure le public, ou alors il est vraiment convaincu qu'aucun pays n'arrivera à produire d'arme dangereuse en utilisant l'IA.

Soit dit en passant, cette remarque est tout aussi irrespectueuse !

Et Luc Julia ne dit pas que l'IA ne peut pas être dangereuse, il indique simplement qu'il y a beaucoup de fantasmes autour de cette discipline et que l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.

C'est effectivement l'usage que l'on peut en faire comme tout le reste d'ailleurs !

[Sodium]

Et Luc Julia ne dit pas que l'IA ne peut pas être dangereuse, il indique simplement qu'il y a beaucoup de fantasmes autour de cette discipline et que l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.

Et tu te bases sur quoi pour dire ça ? Sur le côté bienveillant et mesuré de Donal Trump, Kim Jong Un ou Vladimir Poutine ?

[free07]

Et tu te bases sur quoi pour dire ça ? Sur le côté bienveillant et mesuré de Donal Trump, Kim Jong Un ou Vladimir Poutine ?

Tu parles de l'utilisation que l'on peut en faire et effectivement, cela peut être utilisé d'une façon malveillante ( comme toute chose ) mais l'IA ne peut pas décider d'elle-même de devenir malveillante, je parlais de ce fantasme, l'idée que par exemple, les robots puissent prendre un certain pouvoir de leur propre initiative.

[Ryu2000]

l'IA n'est pas une technologie qui pourra échapper à tout contrôle comme certains le prétendent ou donnent cette impression.

Même si toutes les nations du monde se mettent d'accord sur des règles à propos de l'utilisation militaire de l'IA, ça n'empêchera pas les gouvernements de développer des armes illégales en secret.

C'est basé sur la paranoïa, un pays A pense qu'un pays B développe une arme Y, donc le pays A va développer l'arme Y pour ne pas se faire dépasser, en réalité le pays B ne développait pas du tout l'arme Y, le pays A c'était mis ça dans la tête tout seul.

En ce moment les USA et la Chine dépensent des dizaines de milliards dans l'IA militaire.
On dirait qu'ils anticipent un conflit majeur dans un futur relativement proche.

[Sodium]

De plus, un pays qui se met en tête de conquérir la planète entière, ça s'est vu il n'y a pas si longtemps que ça...
Imaginer un équivalent du régime nazie équipé d'une armée d'IA tellement efficace que toute résistance humaine serait impossible, ça fait froid dans le dos.
Oui je sais, point Godwin tout ça tout ça.

[Dgamax]

Il a bien raison et c'est pas le seul à le penser.
L'IA est surement notre plus gros danger après le réchauffement climatique and co si on ne fait rien pour le réguler.

[Fulsi]

A mon avis l'IA n'est pas un problème en soit pour le moment, il s'agit bien d'IA mineur et du haut de mes faibles connaissance on a le temps de voir venir une IA majeure. Le problème actuel de l'IA est l'usage qui en ait fait : arme autonome, anticipation et influence comportementale (politique notamment)... Et c'est bien dommage que l-Elon Musk ne s'attarde pas plus dessus et ce qui existe déjà. Donc oui il faut être alarmiste mais pas comme il l'est.

[Ryu2000]

Elon Musk préconise la mise en place d’un organisme public capable de vérifier que tout le monde développe l’IA en toute sécurité : « Je pense que le danger de l’IA est beaucoup plus grand que celui des ogives nucléaires, et personne ne suggérerait qu’on permette à n’importe qui de fabriquer des ogives nucléaires s’il le souhaite. Ce serait insensé », a-t-il martelé.

Son point de vue radical tranche avec la position plus modérée d’un autre philanthrope de renom issu de l’industrie technologique, Bill Gates, qui a récemment déclaré lors du 18^e Symposium sur l’IA centré sur l’homme qui se tenait à l’Université de Stanford que l’intelligence artificielle est comme l’énergie nucléaire : une technologie « à la fois porteuse d’espoir et dangereuse ».

D’après le cofondateur de Microsoft, le pouvoir de l’intelligence artificielle est « tellement incroyable qu'elle entrainera une mutation profonde de la société » : certaines voies seront bonnes et d’autres mauvaises. Ce dernier reste néanmoins persuadé que l’application la plus effrayante de l’intelligence artificielle concerne la guerre, notamment les systèmes d’armement.

Bill Gates a plus peur des systèmes d'armement qui utilisent l'IA que de la mutation de la société causé par l'IA.
Perso, quand je vois ce qui ce passe en Chine, la mutation de la société m'inquiète, surtout si au pouvoir il y a des gens comme Macron...

penser que l'IA est une technologie comme une autre est naïf

Il existe des technologies dangereuses qui ne devrait pas être accessible par n'importe qui.

Avec l'IA on peut théoriquement fabriquer des armes surpuissantes. (beaucoup plus rapide, précise, intelligente qu'un humain, et elles pourront communiquer entres elles instantanément et avoir accès à énormément d'informations)
Rien qu'un drone autonome équipé d'un fusil d’assaut ça fait peur, alors que c'est le truc le plus basique.

IA dans le militaire : la France reste dans la course aux armements

L'IA va-t-elle changer l'art de la guerre?
L'IA représente-t-elle une véritable rupture dans l'art de la guerre ? Pour Jérôme Lemaire, chargé de mission intelligence artificielle et digitalisation systèmes opérationnels à la DGA ), "c'est une possibilité. Mais nous avons du temps pour nous y préparer, car il existe encore peu d'applications en service dans le domaine militaire, contrairement au domaine civil où on les trouve déjà dans le trading financier, le commerce électronique ou dans les smartphones, avec la reconnaissance vocale et faciale".

L'intelligence artificielle permettra entre autre de contrer les futurs missiles hypervéloces, capables d'atteindre des vitesses allant de cinq à dix fois la vitesse du son. Elle le fait déjà aujourd'hui. "Face à ces missiles hyper rapides, l'IA répond en temps réflexe à la place de l'humain. Elle va également venir en appui de l'homme pour les tâches complexes, comme la relève des blessés, le ravitaillement ou les actions de combat, même si l'humain doit rester au cœur de la décision", a expliqué le colonel. Les IA intégrées dans les capteurs vont également augmenter l'agilité dans les décisions.

[Matthieu Vergne]

Autant l'idée d'une super intelligence n'a, pour moi, aucune base sérieuse, autant je suis tout à fait d'accord qu'il faudrait réglementer les usages de l'IA car elle peut, effectivement, servir d'arme de destruction massive, d'outil d'influence massif, etc. Ce ne sont pas des algos spécifiques qui sont à ciblés, mais les usages qui en sont fait. Au même titre qu'un couteau.

[Sodium]

Sauf qu'un couteau ne peut pas aller s'enfoncer dans l’œil de quelqu'un tout seul

Ce n'est pas tellement utile de se poser la question de la réglementation des IAs en tant qu'arme. Si une technologie peut être utilisée à des fins destructrice, elle le sera. Faire des réglementations ne résoudra aucun problème car le propre des gens dangereux est qu'ils se torchent le derrière avec les réglementations.
La seule position raisonnable est donc de se préparer au pire.

[Matthieu Vergne]

Sauf qu'un couteau ne peut pas aller s'enfoncer dans l’œil de quelqu'un tout seul

Tu pourras attendre autant que tu voudras, tu ne verras jamais une IA lancer des missiles si elle n'a pas été programmée et exécutée pour ça.

Ce n'est pas tellement utile de se poser la question de la réglementation des IAs en tant qu'arme. Si une technologie peut être utilisée à des fins destructrice, elle le sera. Faire des réglementations ne résoudra aucun problème car le propre des gens dangereux est qu'ils se torchent le derrière avec les réglementations.
La seule position raisonnable est donc de se préparer au pire.

Un règlement n'a aucune utilité s'il n'y a pas de force pour le faire respecter. Les lois ne servent à rien s'il n'y a pas des policiers et des juges pour la faire respecter. Si on se contente d'établir des règles sans sanction, évidemment que ça n'a aucun intérêt. Toute réglementation un tant soit peu sérieuse vient avec des sanctions quand elle est violée et une force pour la faire respecter. Quand on parle d'établir des règles, cela implique systématiquement qu'il y ait une telle force pour les faire respecter, tout simplement parce que sinon ce ne sont pas des règles, mais des suggestions (ou vœux pieux, au choix).

[Sodium]

On n'arrive déjà pas à empêcher des états minuscules comme le Luxembourg de mener au grand jour des politiques fiscales qui coutent des centaines de milliards au reste du monde.
Alors si tu as une idée pour empêcher des super-puissances comme la Russie ou la Chine de développer des armes destructrices en secret, tu devrais les partager car ça va intéresser beaucoup de monde.

[Matthieu Vergne]

Il n'est jamais possible d'empêcher totalement quelqu'un de faire quelque chose. Tout ce qu'on peut faire, c'est dissuader. Les réglementations sur les armes nucléaires, c'est pareil, ça n'empêche pas certains pays de tenter de les avoir. Les réglementations sur le non usage de gaz neurotoxiques, c'est pareil, ça n'empêche pas certains pays d'utiliser du gaz Sarin. Qu'est-ce que ça apporte alors de faire ces réglementations ? Ça démotive les moins sérieux, ça oblige les plus sérieux à devoir mettre beaucoup de moyens pour arriver à cacher leurs activités, et ça donne une légitimité aux autres pays à faire pression. Non, ça n'empêche rien, mais ça focalise les risques sur moins d'acteurs et ça permet de leur mettre la pression, ce qui au final diminue les risques.

Jouer les fatalistes en disant qu'il faut se préparer au pire, c'est ne rien faire pour diminuer les risques, permettre donc à n'importe qui de le faire, et par voie de conséquence d'alimenter les suspicions généralisées. Ce n'est pas mon approche. Ce n'est pas parce qu'on n'a pas de solution parfaite qu'il est inutile d'en faire une imparfaite.

[Ryu2000]

On n'arrive déjà pas à empêcher des états minuscules comme le Luxembourg de mener au grand jour des politiques fiscales qui coutent des centaines de milliards au reste du monde.

Malheureusement on considère que l'utilisation d'arme interdite est plus grave que l'évasion fiscale ou le blanchiment d'argent...
Donc on peut dire "on soupçonne l'Irak de posséder une arme de destruction massive alors on va détruire le pays" ou "on soupçonne l'armée Syrienne d'avoir utilisé une arme chimique et on avait dit que c'était la ligne jaune, donc on va intervenir militairement", mais on ne peut pas dire "Le Luxembourg est une lessiveuse on va intervenir militairement" .

Alors si tu as une idée pour empêcher des super-puissances comme la Russie ou la Chine de développer des armes destructrices en secret

Le premier pays qui vient en tête quand on parle d'IA militaire ce sont les USA, parce qu'ils ont de très très loin le plus gros budget.
Après la Chine essaie de ne pas trop se faire distancer, histoire de pouvoir se défendre un minimum en cas de conflit.
Les 2 leaders de l'IA ce sont les USA et la Chine, ils investissent énormément d'argent dans ce domaine.

Robots tueurs: interdire ou laisser faire?

Plus de 380 armes ou systèmes robotiques semi-autonomes – tels que des tanks, des avions ou des bateaux – ont déjà été déployés ou sont élaborés dans 12 États, dont la Chine, la France, Israël, la Grande-Bretagne, la Russie et les États-Unis.

Au niveau du contrôle de ces systèmes d’armes létales autonomes, plusieurs pays, comme le Japon cette semaine, ont annoncé leur intention de ne pas acquérir ou développer ce genre de technologies. Une majorité des États ont annoncé leur volonté de soutenir une nouvelle législation internationale permettant d’interdire et de réguler certaines pratiques en lien avec les robots tueurs.
(...)
Toutefois, une poignée de pays s’opposent farouchement à un traité sur le sujet, c’est notamment le cas des États-Unis, de la Russie, d’Israël et de la Corée du Sud. Les entités favorables au développement des robots tueurs affirment que ces armes permettront de rendre la guerre plus humaine en permettant de choisir et d’éliminer plus précisément des cibles, sans faire intervenir des émotions humaines telles que la peur ou la vengeance, et en limitant ainsi le nombre de victimes civiles.

[Lyasen]

Oui ! C'est sûr qu'une I.A., qui va donc potentiellement apprendre à développer son intelligence, va rapidement se rendre compte que l'humain n'est qu'un parasite destructeur de son environnement. De plus, développer des I.A. par des firmes dont le seul but est de faire du profit et de dominer les autres, j'imagine déjà la tronche de l'I.A....
Allez ! Profitons encore un peu de notre confort de vie, cela ne pourrait plus durer bien longtemps...