Discussion :

[Cedric Chevalier]

L'apocalypse s'accomplira-t-elle avec la création de l'IA ?
L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité

Les progrès de la science ont contribué à améliorer grandement les conditions de vie. Dans les disciplines scientifiques comme la physique, la biologie ou encore en génétique, pour ne citer que celles-là, des efforts appréciables ont été faits.

L’informatique n’est pas en reste. Elle connaît elle aussi sa part de progrès, et d’autres tendances se profilent à l’horizon, comme la création de la première intelligence artificielle par l’homme.

Le sujet en lui-même n’est pas nouveau. Mais, avec l’avancée actuelle des choses en informatique comme l’apprentissage machine, le « Big Data » et bien d’autres, il est logique de penser qu’on est plus proche de créer une IA (Intelligence artificielle) à notre époque qu’en 1950 où Alan Turing a publié son article « Computing Machinery and Intelligence ».

Alors qu’on imagine que la création de l’IA pourrait être bénéfique pour l’homme sur plusieurs points, l’entrepreneur multimilliardaire sud-africain PDG de Telsa et fondateur de SpaceX, Elon Musk, pense le contraire.

Pour lui, l’IA serait forcément maléfique. Musk compare un futur avènement d’une IA à une invocation d’êtres surnaturels malfaisants aux pouvoirs incommensurables, communément appelés démons.

Dans les religions et les mythes, les démons sont pour la plupart des êtres surnaturels indépendants, qui vont jusqu’à asservir, voire même éliminer, celui qui les a invoqués.

L’entrepreneur va même jusqu’à affirmer que le nucléaire serait moins dangereux que l’IA.

Des peurs justifiées ? On ne peut en être réellement sûr. Les progrès scientifiques ont dû faire face à de nombreuses réticences dans l’histoire, peut-être qu’il en est de même avec l’IA.

Cette idéologie d’une IA foncièrement malveillante n’est pas seulement soutenue par Musk. De nombreuses productions cinématographiques à l’instar de Matrix, i-Robot ou encore Terminator partagent le même point de vue.

Par ailleurs, il faudrait préciser qu’à ce jour, il n’existe pas encore d’IA dans le sens du milliardaire. En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.

Source : Twitter Elon Musk

Et vous ?

Faut-il avoir peur de l'IA ?

[BenoitM]

Faudrait plutot se poser la question dans quoi l'Homme (entk certains hommes) n'a pas vu l'apocalypse.
Les éclipse, la médecine, les vaccins, les avions, les fusées, le nucléaire, l'an 2000, l'informatique, l'IA, le droit de vote, l'émancipation de la femme, la contraception, le mariage pour tous

[Paul TOTH]

heureusement que personne ne lui a dit que Linux était bourré de daemon

[Halarp27]

En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.

En sachant que ce qui est bien pour elle ne serais pas forcément bien pour les hommes.

[tontonnux]

Faudrait plutot se poser la question dans quoi l'Homme (entk certains hommes) n'a pas vu l'apocalypse.
Les éclipse, la médecine, les vaccins, les avions, les fusées, le nucléaire, l'an 2000, l'informatique, l'IA, le droit de vote, l'émancipation de la femme, la contraception, le mariage pour tous

Certes.
Cependant, il me semble que d'habitude, ce sont les "ignorants" et les "non initiés" qui ont toujours crier au désastre.
Là, j'ai un peu l'impression (mais ça n'est peut-être qu'une impression) que dans le domaine de l'IA et de la gestion du Big Data, on retrouve pas mal d'initiés parmi les gens qui évoquent certaines craintes.

[marc.guillemin]

http://fr.wikipedia.org/wiki/Singula..._technologique
http://www.contrepoints.org/2014/09/...r-de-lhumanite

[crank1890]

Judgement day is coming .. Hasta la vista baby

[bruneltouopi]

Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.
Donc même en supposant qu'un enfant apprend en grandissant et prenant l'exemple il demeure la seule chose que le machine n'aura jamais:LA CONSCIENCE.
Donc on est encore à des milliers d'années à part si l'homme découvre une nouvelle intelligence.L'IA ce n'est pas possible.

[BenoitM]

Certes.
Cependant, il me semble que d'habitude, ce sont les "ignorants" et les "non initiés" qui ont toujours crier au désastre.
Là, j'ai un peu l'impression (mais ça n'est peut-être qu'une impression) que dans le domaine de l'IA et de la gestion du Big Data, on retrouve pas mal d'initiés parmi les gens qui évoquent certaines craintes.

Euh les gens de l'église ne sont pas forcément des ignorants. C'est leurs visions qui est étroite et caricaturale.
Et là ce discours et se rapproche fortement de ces hommes d'église...(Il me semble qu'il y a quand même un fort courant mésianique aux USA)

Il y a une différence à évoquer des craintes, des dangers (et donc des protections à mettre en place) et de parler d'apocalypse.
(ps : des initiés qui veulent se faire remarquer, il y a en dans tous les domaines même dans les plus intelligents.Des scientifiques qui déclaraient que la cigarette n'était pas dangereuse, le réchauffement climatique,..)

[tontonnux]

Euh les gens de l'église ne sont pas forcément des ignorants. C'est leurs visions qui est étroite et caricaturale.
Et là déjà dans le discours et ce rapproche fortement de ces hommes d'église...

Et il y a une différence à évoquer des craintes, des dangers (et donc des protections à mettre en place) et de parler d'apocalypse.

Evidemment que ici les propos sont exagérés. Lorsque je parle d'alertes, je ne pense pas à cette personne en particulier.
Je répondais surtout à la personne qui faisait le parallèle avec les peurs sur "Les éclipse, la médecine, les vaccins, les avions, les fusées, etc...".
Non, ce n'est pas comparable.

On est pas ici face à une peur par ignorance, mais face à une crainte évoquée par des personnes qui maîtrisent le sujet.

[Zefling]

L'article a vraiment été fait à partir d'un tweet ?

[palnap]

Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.

+1, Turing a démontré qu'aucune machine aussi évoluée soit-elle ne pourrait faire plus que lire/écrire et avancer/reculer avec des transitions définies sur un ruban infini (et encore que d'un côté!).

Même les machines les plus puissantes aujourd'hui sont des sous-machines de Turing puisque leur mémoire vive (~= leur ruban) est limitée.

Le mec devrait arrêter de regarder Terminator, Skynet c'est pas pour tout de suite ! De plus, la loi de Moore ne se vérifiant plus depuis plusieurs années, on assiste à une décélération du progrès technologique...

[Theta]

Je crois que ça fait partie de la stratégie marketing de SpaceX que leur dirigeants fassent le buzz sur des sujets comme ça.
Il y a une ou deux semaines ils parlaient d'une colonie martienne de 1 millions d'habitants en 2050.

[250rgv]

L'article a vraiment été fait à partir d'un tweet ?

plutôt à partir d'une conférence

[oodbae_adriano]

En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.

N'importe quoi. C'est justement parce que l'IA, en tout cas l'IA actuelle, ne différencie pas le bien du mal, en tout cas pas comme les humains, qu'elle est dangereuse.

Et de toute facon, qui définit ce qui est bien et ce qui est mal? Les philosophes réfléchissent à cela depuis l'invention de la religion et la réponse est ... qu'il n'y a pas de réponse. Il y a une métaréponse: http://fr.wikipedia.org/wiki/Bien_%28philosophie%29 . Le bien est la valeur normative de la morale. Donc qui définit la morale? dans le cas de l'IA, l'équipe de programmeurs.
Supposons que cette équipe de programmeurs, mais ce n'est qu'un supposition, supposons donc que l'équipe de programmeurs soit composée aux trois quarts de gros asociaux qui détestent les hommes :

• parce qu'ils sont trop bêtes
• parce qu'ils polluent avec leur voiture
• parce qu'ils ne comprennent rien à Windows, ni à Linux d'ailleurs
• parce qu'ils écoutent de la musique pour idiots alors que chacun sait que "Children of Boddom" est le seul vrai groupe de musique depuis Brahms
• parce qu'ils sont anti-américains primaires alors que les USA défendent la liberté depuis le début
• parce que la société serait meilleure avec seulement des femmes.
• ...

Alors on a déjà une bonne idée des règles logiques qui définiront la morale de l'IA et perso, je donne raison à M. Musk

[Jon Shannow]

Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.
Donc même en supposant qu'un enfant apprend en grandissant et prenant l'exemple il demeure la seule chose que le machine n'aura jamais:LA CONSCIENCE.
Donc on est encore à des milliers d'années à part si l'homme découvre une nouvelle intelligence.L'IA ce n'est pas possible.

Et si je te dis que le système nerveux humain (cerveau compris) ne fonctionne qu'avec des 0 et des 1 ? Ça change tes perspectives, non ?

[DonQuiche]

Pour lui, l’IA serait forcément maléfique. Musk compare un futur avènement d’une IA à une invocation d’êtres surnaturels malfaisants aux pouvoirs incommensurables, communément appelés démons.

Ceci est atrocement sorti de son contexte. Initialement c'était une métaphore humoristique lors d'une conférence donnée au MIT.

"So we need to be very careful with the artificial intelligence. Increasingly scientists think there should be some regulatory oversight maybe at the national and international level, just to make sure that we don’t do something very foolish. With artificial intelligence we are summoning the demon. In all those stories where there’s the guy with the pentagram and the holy water, it’s like yeah he’s sure he can control the demon. Didn’t work out."

Source : The Register

[oodbae_adriano]

+1, Turing a démontré qu'aucune machine aussi évoluée soit-elle ne pourrait faire plus que lire/écrire et avancer/reculer avec des transitions définies sur un ruban infini (et encore que d'un côté!).

Même les machines les plus puissantes aujourd'hui sont des sous-machines de Turing puisque leur mémoire vive (~= leur ruban) est limitée.

Le mec devrait arrêter de regarder Terminator, Skynet c'est pas pour tout de suite ! De plus, la loi de Moore ne se vérifiant plus depuis plusieurs années, on assiste à une décélération du progrès technologique...

Vous dîtes n'importe quoi. Comme la médecine est tellement avancée qu'on peut guérir le cancer, il n'y aura plus d'épidémies ? ..--> ebola, sida, grippe

Un robot a même été officiellement désigné comme membre du conseil d'administration d'une entreprise, et pas n'importe laquelle. Il s'agit d'un fonds d'investissement. Autrement dit, une entreprise qui investit , ou pas, dans d'autres entreprises et peut donc décider de supprimer, ou pas, des emplois. http://aginganalytics.com/a-venture-...-of-directors/

[Sodium]

Une vraie IA capable de créativité, d'apprentissage, de prise de décisions devra selon moi nécessairement copier au plus proche le fonctionnement de nos cerveaux humains, avec les défauts que ça implique.
Si une IA se rend compte que le seul moyen de sauver un grand nombre de vies est de procéder à un meurtre de masse, comment réagira-t-elle ?
Une IA capable de réfléchir à sa propre existence pourra-t-elle rester aux services de l'homme ? N'oublions pas que le cerveau est un ordinateur, la soif de liberté d'un cerveau humain artificiel me paraît difficilement évitable.

Je pense dans tous les cas que l'on veut aller trop loin trop vite pour le moment. Les voitures sans pilotes, les objets connectés, les drones de combats ... je ne pense pas que l'on maîtrise aujourd’hui suffisamment la technologie pour se lancer dans tous ça.

[rawsrc]

Et si je te dis que le système nerveux humain (cerveau compris) ne fonctionne qu'avec des 0 et des 1 ? Ça change tes perspectives, non ?

Je ne pense pas du tout que le cerveau humain fonctionne que sur des 0 et/ou des 1.
Toutes les études montrent qu'il y a bien un potentiel électrique à l'oeuvre dans le cerveau mais celui ci ne fonctionne pas de manière binaire. Le potentiel électrique est variable dans son intensité (et sa fréquence) et du coup le 1 en informatique peut correspondre à mille variantes dans le contexte cérébral...

C'est autrement plus compliqué qu'un banal système électrique aussi complexe soit-il comme un processeur actuellement

Après, n'étant pas du tout versé dans ce domaine je serai incapable d'en dire plus.