Discussion :

[Cedric Chevalier]

L'apocalypse s'accomplira-t-elle avec la création de l'IA ?
L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité

Les progrès de la science ont contribué à améliorer grandement les conditions de vie. Dans les disciplines scientifiques comme la physique, la biologie ou encore en génétique, pour ne citer que celles-là, des efforts appréciables ont été faits.

L’informatique n’est pas en reste. Elle connaît elle aussi sa part de progrès, et d’autres tendances se profilent à l’horizon, comme la création de la première intelligence artificielle par l’homme.

Le sujet en lui-même n’est pas nouveau. Mais, avec l’avancée actuelle des choses en informatique comme l’apprentissage machine, le « Big Data » et bien d’autres, il est logique de penser qu’on est plus proche de créer une IA (Intelligence artificielle) à notre époque qu’en 1950 où Alan Turing a publié son article « Computing Machinery and Intelligence ».

Alors qu’on imagine que la création de l’IA pourrait être bénéfique pour l’homme sur plusieurs points, l’entrepreneur multimilliardaire sud-africain PDG de Telsa et fondateur de SpaceX, Elon Musk, pense le contraire.

Pour lui, l’IA serait forcément maléfique. Musk compare un futur avènement d’une IA à une invocation d’êtres surnaturels malfaisants aux pouvoirs incommensurables, communément appelés démons.

Dans les religions et les mythes, les démons sont pour la plupart des êtres surnaturels indépendants, qui vont jusqu’à asservir, voire même éliminer, celui qui les a invoqués.

L’entrepreneur va même jusqu’à affirmer que le nucléaire serait moins dangereux que l’IA.

Des peurs justifiées ? On ne peut en être réellement sûr. Les progrès scientifiques ont dû faire face à de nombreuses réticences dans l’histoire, peut-être qu’il en est de même avec l’IA.

Cette idéologie d’une IA foncièrement malveillante n’est pas seulement soutenue par Musk. De nombreuses productions cinématographiques à l’instar de Matrix, i-Robot ou encore Terminator partagent le même point de vue.

Par ailleurs, il faudrait préciser qu’à ce jour, il n’existe pas encore d’IA dans le sens du milliardaire. En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.

Source : Twitter Elon Musk

Et vous ?

Faut-il avoir peur de l'IA ?

[BenoitM]

Faudrait plutot se poser la question dans quoi l'Homme (entk certains hommes) n'a pas vu l'apocalypse.
Les éclipse, la médecine, les vaccins, les avions, les fusées, le nucléaire, l'an 2000, l'informatique, l'IA, le droit de vote, l'émancipation de la femme, la contraception, le mariage pour tous

[Paul TOTH]

heureusement que personne ne lui a dit que Linux était bourré de daemon

[landry161]

heureusement que personne ne lui a dit que Linux était bourré de daemon

Très drôle.

[tontonnux]

Faudrait plutot se poser la question dans quoi l'Homme (entk certains hommes) n'a pas vu l'apocalypse.
Les éclipse, la médecine, les vaccins, les avions, les fusées, le nucléaire, l'an 2000, l'informatique, l'IA, le droit de vote, l'émancipation de la femme, la contraception, le mariage pour tous

Certes.
Cependant, il me semble que d'habitude, ce sont les "ignorants" et les "non initiés" qui ont toujours crier au désastre.
Là, j'ai un peu l'impression (mais ça n'est peut-être qu'une impression) que dans le domaine de l'IA et de la gestion du Big Data, on retrouve pas mal d'initiés parmi les gens qui évoquent certaines craintes.

[BenoitM]

Certes.
Cependant, il me semble que d'habitude, ce sont les "ignorants" et les "non initiés" qui ont toujours crier au désastre.
Là, j'ai un peu l'impression (mais ça n'est peut-être qu'une impression) que dans le domaine de l'IA et de la gestion du Big Data, on retrouve pas mal d'initiés parmi les gens qui évoquent certaines craintes.

Euh les gens de l'église ne sont pas forcément des ignorants. C'est leurs visions qui est étroite et caricaturale.
Et là ce discours et se rapproche fortement de ces hommes d'église...(Il me semble qu'il y a quand même un fort courant mésianique aux USA)

Il y a une différence à évoquer des craintes, des dangers (et donc des protections à mettre en place) et de parler d'apocalypse.
(ps : des initiés qui veulent se faire remarquer, il y a en dans tous les domaines même dans les plus intelligents.Des scientifiques qui déclaraient que la cigarette n'était pas dangereuse, le réchauffement climatique,..)

[tontonnux]

Euh les gens de l'église ne sont pas forcément des ignorants. C'est leurs visions qui est étroite et caricaturale.
Et là déjà dans le discours et ce rapproche fortement de ces hommes d'église...

Et il y a une différence à évoquer des craintes, des dangers (et donc des protections à mettre en place) et de parler d'apocalypse.

Evidemment que ici les propos sont exagérés. Lorsque je parle d'alertes, je ne pense pas à cette personne en particulier.
Je répondais surtout à la personne qui faisait le parallèle avec les peurs sur "Les éclipse, la médecine, les vaccins, les avions, les fusées, etc...".
Non, ce n'est pas comparable.

On est pas ici face à une peur par ignorance, mais face à une crainte évoquée par des personnes qui maîtrisent le sujet.

[Halarp27]

En effet, il faudrait être capable de créer une machine assez consciente pour pouvoir distinguer ce qui est bien de ce qui est mal : ce qui n’est pas pour demain.

En sachant que ce qui est bien pour elle ne serais pas forcément bien pour les hommes.

[marc.guillemin]

http://fr.wikipedia.org/wiki/Singula..._technologique
http://www.contrepoints.org/2014/09/...r-de-lhumanite

[Zilpix]

http://fr.wikipedia.org/wiki/Singula..._technologique
http://www.contrepoints.org/2014/09/...r-de-lhumanite

Merci Marc d'avoir mis ces 2 liens car je pense que c'est avant tout de Singularité Technologique dont il est question dans le commentaire d'Elon Musk, et dans l'esprit de nombreuses personnes se méfiant de l'Intelligence Articficielle.

[kiprok]

Merci Marc d'avoir mis ces 2 liens car je pense que c'est avant tout de Singularité Technologique dont il est question dans le commentaire d'Elon Musk, et dans l'esprit de nombreuses personnes se méfiant de l'Intelligence Articficielle.

Effectivement, super intéressant le concept de "Singularité Technologique" et on comprend mieux ce que sous entend Elon Musk (si c'est bien de ça dont il est question dans ses propos).

« Mettons qu’une machine supra-intelligente soit une machine capable dans tous les domaines d’activités intellectuelles de grandement surpasser un humain, aussi brillant soit-il. Comme la conception de telles machines est l’une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors sans conteste une « explosion d’intelligence », et l’intelligence humaine serait très vite dépassée. Ainsi, l’invention de la première machine supra-intelligente est la dernière invention que l’Homme ait besoin de réaliser. »

[NSKis]

Il y en a qui devrait arrêter de passer leur nuit à visionner des films de série Z en provenance d'Hollywood

L'IA, ce n'est pas une entité autonome pouvant prendre son indépendance et se retrouner contre ses créateurs... Ca c'est le roman intitulé Frankenstein écrit en 1818 par Mary Shelley

En réalité, l'IA n'est rien d'autre qu'un ensemble de règles programmées par un HUMAIN pour fournir au programme informatique des capacités d'apprentissage lui permettant de changer son comportement au fil des cas qu'il rencontre

SCOOOOOOOOOOOOOOOOOOOOOOOOOOOOOOP pour tous les lecteurs de ce topic: Si il y a fin du monde, cela sera simplement la fin de notre société actuelle et nous en serons les seuls responsables car oui, l'être humain est particulièrement dangereux pour ses semblables... mais je vous rassure: c'est pas nouveau

[crank1890]

Judgement day is coming .. Hasta la vista baby

[bruneltouopi]

Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.
Donc même en supposant qu'un enfant apprend en grandissant et prenant l'exemple il demeure la seule chose que le machine n'aura jamais:LA CONSCIENCE.
Donc on est encore à des milliers d'années à part si l'homme découvre une nouvelle intelligence.L'IA ce n'est pas possible.

[Zefling]

L'article a vraiment été fait à partir d'un tweet ?

[250rgv]

L'article a vraiment été fait à partir d'un tweet ?

plutôt à partir d'une conférence

[Jon Shannow]

Je ne pense pas que cela puisses arriver un jour tant que la MACHINE est un succession de 0,1 alors l'intelligence ne peut pas se faire car cette machine ne pourra réagir que d'après un ensemble de séquences de Données collectées sur des comportements et l'analyse recus.
Donc même en supposant qu'un enfant apprend en grandissant et prenant l'exemple il demeure la seule chose que le machine n'aura jamais:LA CONSCIENCE.
Donc on est encore à des milliers d'années à part si l'homme découvre une nouvelle intelligence.L'IA ce n'est pas possible.

Et si je te dis que le système nerveux humain (cerveau compris) ne fonctionne qu'avec des 0 et des 1 ? Ça change tes perspectives, non ?

[rawsrc]

Et si je te dis que le système nerveux humain (cerveau compris) ne fonctionne qu'avec des 0 et des 1 ? Ça change tes perspectives, non ?

Je ne pense pas du tout que le cerveau humain fonctionne que sur des 0 et/ou des 1.
Toutes les études montrent qu'il y a bien un potentiel électrique à l'oeuvre dans le cerveau mais celui ci ne fonctionne pas de manière binaire. Le potentiel électrique est variable dans son intensité (et sa fréquence) et du coup le 1 en informatique peut correspondre à mille variantes dans le contexte cérébral...

C'est autrement plus compliqué qu'un banal système électrique aussi complexe soit-il comme un processeur actuellement

Après, n'étant pas du tout versé dans ce domaine je serai incapable d'en dire plus.

[Shuty]

Même si la création de l'IA créera de l'emploi, je pense que d'une fois (d'ici la....) que des robots autonome seront opérationnels, la destruction de notre société (au sens fonctionnement) ne pourra être évitable.

Dans l'industrie mais aussi bien dans notre quotidien de développeur, je pense que nous sommes d'accords que le but principal d'une entreprise est d'automatiser les taches récursives / et ou capricieuses. Je pense donc que le jours un un robot intelligent verra le jour et qu'il sera capable de remplacer les caissières, contrôleurs d’impôts ()... La destruction de notre société ne sera qu'une question de temps...



Ca fait un peu récit de fiction je conçois mais c'est ma vision du futur, même si celui-ci reste encore très lointain selon moi.

[air-dex]

Sur le fond Musk a raison. On oublie un facteur essentiel, à savoir la curiosité humaine. C'est le moteur de la recherche scientifique et technologique : savoir comment le monde est fait et trouver de quoi l'améliorer. Et c'est là que se situe le problème. Il y a une ligne a ne pas franchir, à savoir créer des I.A. qui soient plus intelligentes que les Hommes eux-mêmes. De son côté la Recherche continuera sa sempiternelle marche en avant et finira par arriver vers cette ligne. La question est de savoir ce que feront les chercheurs une fois arrivés vers cette ligne. Vont-ils s'arrêter de chercher ou bien vont-ils continuer et franchir la ligne jaune synonyme de fin de règne pour l'Homme ? Telle est la question.

Après c'est sûr que ce n'est pas prêt d'arriver dans les mois et les années à venir. Le progrès scientifique et technologique est beaucoup trop lent en ce moment pour ça (à cause entre autres des brevets). Mais rien ne nous dit que c'est définitif. On n'est jamais à l'abri de quelqu'un qui fait une découverte majeure et révolutionnaire qui relance la Recherche et le Progrès. On n'est pas à l'abri d'un nouvel Alan Turing (ou Einstein ou un autre).