Discussion :

[Matthieu Vergne]

Si je résume : on ne sait pas définir l'intelligence

Faux : si tu regardes n'importe quel dictionnaire, tu auras une définition de l'intelligence, voire plusieurs. Si tu regardes les articles scientifiques, tu en auras plein. Là où on pèche, c'est pas sur la capacité de la définir ou d'établir des théories, mais sur la capacité de justifier le bien fondé de telle ou telle définition/théorie en se basant sur l'expérience, et donc notamment la mesure ou la capacité à prédire.

Définir n'est jamais un problème, ce n'est qu'établir des hypothèses et ça c'est de l'ordre du choix. Ce qui pose problème, c'est de justifier ces choix.

[Michael Guilloux]

La menace de l’intelligence artificielle contre la race humaine
est-elle une réalité ?

Elles sont nombreuses, les critiques qui portent sur l’intelligence artificielle. L’IA est considérée comme une menace réelle pour la race humaine, voire un signe apocalyptique.

S'exprimant lors du centenaire du département Aéronautique et Spatial du Massachusets Institute of Technology, Elon Musk, fondateur de SpaceX et Tesla, a mis en garde contre les dangers de l'intelligence artificielle. Selon lui, « Avec l’intelligence artificielle, on invoque le démon ».

Mais cette intelligence artificielle représente –t-elle vraiment un danger pour l’humanité ?

Selon Alva Noë, philosophe et professeur à l'Université de Berkeley, pour que l’IA soit une menace réelle pour la race humaine, il faudrait d’abord que l’intelligence artificielle surpasse celle de l’Homme. Ce qui n’est pas le cas, puisqu’il s’agit d’une pseudo-intelligence.

« L’une des raisons pour lesquelles je ne suis pas inquiet à propos de la possibilité que nous allons bientôt créer des machines qui soient plus intelligentes que nous, est que nous n’avons pas réussi à faire jusqu'à maintenant des machines qui soient vraiment intelligentes. L'intelligence artificielle n’est pas l'intelligence synthétique : C’est une pseudo- intelligence. » Affirme-t-il.

Cette déclaration tend à balayer du revers de la main toute possibilité que l’IA soit capable de mettre fin à la race humaine comme pouvait le penser Elon Musk.

Les machines intelligentes ne font qu’obéir à des algorithmes qui leur ont été dictés par leurs concepteurs, elles n’ont pas d’intelligence autonome. Ces machines sont comparées à des horloges qui peuvent donner l’heure, mais qui ne savent pas l’heure qu’il est. En d’autres termes, leur intelligence est programmée par l’Homme, c’est ce dernier qui décide de ce qu’elles doivent faire, et non elles-mêmes.

Le superordinateur d’IBM ne fait pas exception à la règle, même s’il a participé au jeu télévisé Jeopardy ! et qu’il a remporté le jeu face aux humains. Watson « n’a pas répondu aux questions, il n’a participé à aucune compétition, il n’a rien fait du tout, c’est nous qui avons tout fait. Nous avons joué à Jeopardy ! avec Watson »

Par ces propos, on pourrait se dire que s’il y a un réel danger de l’IA, ce serait l’Homme le responsable, et non ces machines dites intelligentes, parce qu’elles ne le sont pas en réalité.

En plus, si l’on veut se référer aux scientifiques qui comparent l’Homme à une machine, on pourrait dire que la véritable machine intelligente, c’est l’humain. Les plus petites cellules vivant en lui sont dotées d’énormes capacités qu’on ne pourrait pas retrouver dans les programmes d’intelligence artificielle : « elles sont dotées d’une intelligence, une autonomie, une originalité qui dépassent de loin même les ordinateurs les plus puissants. »

Source : NPR News

Et vous ?

Pensez-vous que l’intelligence artificielle menace la race humaine ?

[Traroth2]

Le point de vue d'Alva Noë n'est pas un point de vue philosophique, mais un point de vue religieux. En effet, elle dit que par nature, l'intelligence d'une machine ne peut pas dépasser l'intelligence humaine, ce qui voudrait dire que l'intelligence humaine serait en quelque sorte surnaturelle. C'est un point de vue qui me parait difficile à étayer avec des éléments rationnels.

A note aussi, le point de vue de Stephen Hawking sur la question : http://www.cnet.com/news/stephen-haw...a-real-danger/

Hawking avait déjà dit dans "Y a-t-il un architecte de l'univers ?" que pour lui question de l'existence du libre-arbitre chez l'Homme ne se posait même pas.

[Amine Horseman]

Il est vrai que lorsque tu envoie un missile "intelligent" pour traquer et tuer une cible, c'est toi le responsable, pas le missile. De la même façon si tu programme un robot pour exterminer la race humaine, il n'a pas besoin d'être intelligent pour le faire.

L’intelligence artificielle (même si ce n'est qu'une pseudo-intelligence) pourra être dangereuse si dans ton algorithme tu donne assez de liberté à la machine pour prendre des décisions critiques, du genre si tu dis à ton super robot de guerre "tu peux tuer quelqu'un si tu détecte qu'il porte une arme", attends toi, dans le champs de bataille, qu'il ne tue pas seulement les ennemis mais aussi les alliés.

Donc tout est lié au degré de liberté que tu donne à ta machine. Même si elle n'est pas intelligente, elle peut être très dangereuse si ton algorithme contient des failles dans le raisonnement.

[tiresias54]

Toute la question est de savoir si des comportement non "programmés" vont émerger lorsque la complexité des IA sera suffisante. C'est tout l'intérêt de la théorie des systèmes complexes.

[JackJnr]

En fait la réponse de cette personne n'apporte rien de nouveau. J'ai l'impression qu'on fait souvent l'amalgame entre IA et Intelligence consciente. L'IA telle qu'il semble la décrire d'après l'article se rapporte à un ensemble de routines et d'algorithmes dont les situations sont normalement prédictibles donc prédéfinies. Donc la machine est un simple exécutant. l'IA telle que je la conçois - et qui me semble être la définition communément donnée -, est une entité consciente de ses mécanismes ou ses schémas de pensées, comparables à des algorithmes, et capable de les faire évoluer au fil d'un apprentissage. Donc rien à voir.

[erca57]

S'agit-il d'une pseudo-intelligence se conformant aux tests de Turing ?
Implique-t-elle le libre arbitre (ce qui exclue qu'elle soit "programmée") ?
etc, etc.

[Matthieu Vergne]

Selon Alva Noë, philosophe et professeur à l'Université de Berkeley, pour que l’IA soit une menace réelle pour la race humaine, il faudrait d’abord que l’intelligence artificielle surpasse celle de l’Homme.

Peut-on dire que la peste, le cancer , les cyclones, les tremblements de terre, la montée des eaux ou le réchauffement climatique sont intelligents? Je pense que beaucoup sont convaincus que non, tout au plus les premiers montrent une très bonne adaptation pour obtenir ce qu'il leur faut, mais certainement pas une intelligence notable. Pourtant, je suis convaincu que tout le monde acceptera qu'on dise que ce sont des menaces réelles pour l'humanité, au sens des menaces qui peuvent s'appliquer sur un groupe massif d'humains. Probablement davantage pour ceux qui ne sont pas localisés ou se transmettent.

(Le paragraphe suivant est barré car initialement l'article mentionnait "pseudo-science", d'où ma réaction. J'imagine qu'il a été rapidement édité mais je ne l'ai pas remarqué.)

Ce qui n’est pas le cas, puisqu’il s’agit d’une pseudo-intelligence.

Là je ne vois pas le rapport. Une pseudo-science est ce qui se dit être du domaine de la science sans en avoir les attributs (réfutabilité, reproducibilité, etc.). En quoi "ne pas avoir les attributs d'une science" (à supposer que ce soit vrai, ce dont j'ai des doutes) empêcherait une IA de surpasser l'Homme ? Tout au plus, ça permet de douter de la chose, certainement pas de poser des garanties. Et pour ainsi dire, l'argumentaire développé par ce philosophe semble pour moi entrer dans la même catégorie de pseudo-science qu'il dénigre (cf. la suite).

L’une des raisons pour lesquelles je ne suis pas inquiet à propos de la possibilité que nous allons bientôt créer des machines qui soient plus intelligentes que nous, est que nous n’avons pas réussi à faire jusqu'à maintenant des machines qui soient vraiment intelligentes.

Là par contre je suis d'accord, notamment avec son exemple d'IBM qu'on a déjà mentionné dans les discussions précédentes. Mais ça s'arrête là, vu que l'argumentaire tend à montrer un manque de connaissance sur les algorithmes avancés tels que les algorithmes évolutionnaires et autres techniques d'optimisation.

Les machines intelligentes ne font qu’obéir à des algorithmes qui leur ont été dictés par leurs concepteurs, elles n’ont pas d’intelligence autonome. Ces machines sont comparées à des horloges qui peuvent donner l’heure, mais qui ne savent pas l’heure qu’il est. En d’autres termes, leur intelligence est programmée par l’Homme, c’est ce dernier qui décide de ce qu’elles doivent faire, et non elles-mêmes.

S'il est vrai que les machines ne font qu'obéir à des algorithmes, rien ne montre que l'Homme fasse mieux à ma connaissance. Nombre d'actions et réactions de l'Homme sont aujourd'hui associées à des zones spécifiques du cerveau et des processus purement biologiques. Un tel argument ne trouverait donc de la valeur que dans le cas où on prendrait le parti d'une "âme" ou d'un "esprit", séparé du corps et de ses processus, et ayant un contrôle supérieur sur ce dernier. Mais là on entre bien plus certainement dans la pseudo-science.

Ensuite, quand il dit que ce sont les concepteurs qui décident de ce que la machine doit faire, il semble ignorer que ce contrôle se réduit significativement selon les techniques employées. Par exemple, une technique d'apprentissage permet d'obtenir des résultats escomptés sur un certain ensemble de cas, mais non seulement on ne sait pas exactement comment ces décisions sont prises, mais en plus on lui fait confiance pour les cas restants, en supposant que "ça marche bien". On est donc loin d'un contrôle total.

En plus, si l’on veut se référer aux scientifiques qui comparent l’Homme à une machine, on pourrait dire que la véritable machine intelligente, c’est l’humain. Les plus petites cellules vivant en lui sont dotées d’énormes capacités qu’on ne pourrait pas retrouver dans les programmes d’intelligence artificielle : « elles sont dotées d’une intelligence, une autonomie, une originalité qui dépassent de loin même les ordinateurs les plus puissants. »

Là, on nage dans le brouillard : si de simples cellules sont considérées comme intelligentes, alors comment définit-il l'intelligence ? Si je me fie à ce que j'ai lu sur le sujet, l'intelligence est lié aux processus cognitifs et moteurs. Une simple cellule ne saurait entrer dans ce cadre par son absence de processus cognitif. Tout au plus elle participe au processus. Il me semblait que ce philosophe mélangait intelligence et conscience, mais c'est visiblement plus vague encore s'il rapporte l'intelligence à une seule cellule. Et si on lit la source, et qu'on suit le lien qu'il donne pour justifier que les cellules sont plus intelligentes, on tombe sur un de ses propres articles où non seulement il identifie la confusion :

And so we confront a lovely irony. Plants are intelligent, it is claimed, because they are, in effect, robots! I began by criticizing claims that Watson is intelligent by comparing Watson to a mere plant. But defenders of plant intelligence argue that plants are intelligent, that they have minds because they are, really, computational systems; they are, in effect, like Watson!

Mais en plus il se contente de la résoudre en prenant simplement une position qui l'arrange dans son raisonnement :

But this seems misguided. [...]If we want to understand plants, and their minds, we need to start not with computation, but with the fact that they are alive.

À partir de là, son raisonnement coule de source : ce n'est pas une raison technique qui fait qu'on n'arrive pas à faire quelque chose d'intelligent, mais c'est parce que ce n'est pas Mère Nature qui l'a fait, donc ça ne peut pas être intelligent, point barre. Parler d'intelligence artificielle, sur ce point de vue, n'a donc juste pas de sens : dès lors que c'est artificiel, ça ne peut pas être intelligent. Et dès lors ce commentaire prend tout son sens :

L'intelligence artificielle n’est pas l'intelligence synthétique : C’est une pseudo- intelligence.

Opinion que je ne saurai suivre. Mais cela ne reste que mon humble avis, bien entendu {^_^}.

[Guikingone]

Au fond, on touche au sujet épineux de l'IA dépassant l'IH, peut-on un jour crée une IA qui pourra réfléchir et prendre des décisions par elle-même ? Je le pense.

l'IH est ce qu'elle est mais elle n'est pas infaillible, on l'a remarqué dans le passé :

Donnez-leur un bâton et il se tueront les uns les autres, donnez-leur la foi et il tueront ceux qui n'y croit pas, donnez-leur le savoir et même le moins érudit de tous dirigera le monde, donnez-leur la parole et ils vous forceront à vous taire.

Les failles en IA existe et on le voit bien, la limite n'est pas le créateur mais l'utilisateur, peut-on réellement contrôler quelque chose que nous n'avons pas crée directement ? Non.

L'IA ne peut (pour le moment) concevoir une suite à ses actes, si rien n'est dicté, le processus s'arrête là, si on vient à lui donner la possibilité de calculer une suite à son acte, là on pourra commencer à réfléchir sur ses dangers, le problème ne sera pas de savoir où l'arrêter mais si elle peut être arrêté, une IA fera t-elle la différence entre un acte oeuvrant pour ce que nous voyons comme le bien et un acte oeuvrant pour le mal ? Pourra t-elle seulement réfléchir aux conséquences de ses actes par elle-même, tout le monde parle de libre-arbitre et de moral mais sommes-nous réellement capable de s'auto-réguler ?
Non, tout nos décisions ne sont que processus sur processus dictés par une réaction chimique d'un ensemble de cellule, aucune de ces cellules ne fait la différence, c'est notre vécu qui agit au final pour nous stopper ou nous laisser continuer.

Je ne croit pas en certaines choses mais je pense que nous sommes tous doués d'intelligence pur, celle qui nous permet de différencier "le bien du mal" et de prendre des décisions, si nous n'en étions pas doués, comment aurions-nous évoluer jusqu'ici, jusqu'au point où nous créeons nous-mêmes des intelligences ?

Tout cela peut sembler fou voir touffu mais au fond, chacun possède un libre-arbitre, une sorte de vision à 3 voies, nous faisons tous des choix et je ne pense pas que l'IA en soit dotés un jour, du moins je ne souhaite pas qu'elle le soit, se laisser diriger par une intelligence supérieure non seulement capable de penser mais aussi d'agir de manière neutre sans agir de façon morale, voilà quelque chose de bien troublant ...

[HS] : Nom de nom, mais ça sent la transhumanisme tout cela ... "[/HS]

[Traroth2]

Si la nature peut le faire, l'homme aussi. C'est un principe de l'évolution technologique dont on attend toujours qu'il soit infirmé. Je ne pense pas que ça arrivera un jour.

Ce qui veut dire que si la nature a pu créer une machine intelligente comme l'homme, l'home lui-même peut y arriver aussi.

Le reste n'est que religion.

[ZenZiTone]

S'agit-il d'une pseudo-intelligence se conformant aux tests de Turing ?
Implique-t-elle le libre arbitre (ce qui exclue qu'elle soit "programmée") ?
etc, etc.

Sachant que la définission de l'intelligence en elle même n'est pas bien claire, celle de l'intelligence artificielle l'est encore moins... D'où les grands écarts de points de vue dans ce genre de débats.

Je pense qu'on devrait de cloisonner au mot "autonome" plutôt qu'intelligence artificielle. Et là encore, je propose ça en fonction de mon interprétation d'intelligence artificielle donc...

[n3ptune]

Comment pouvons nous certifier que l'IA n'est pas, ne sera pas un danger pour nous étant donné que nous n’arrêtons pas les recherches?

Nous pouvons déjà nous demander si ce n'est pas déjà le cas? Nous avons par exemple des machines qui gèrent des titres et des obligations dans des salles de marché.
Cela peut se résumer pour un directeur financier par
if(IA gèrent plus de titre que salarié en 1h) alors { PLus de rentabilité}
if(nombre IA > Salariés) alors{ (moins de charge sociales) +( moins d’arrêt maladie)+( moins de risque de burnout)}

et pour un état, donc pour les citoyens cela signifiera plus de chômage, moins d’impôts collectés, moins de consommation, baisse du commerce intérieur etc.

Mais comme je dis, on arrête pas les recherches et lorsqu'on cherche, c'est pour amélioré. Et ça va être quoi l’amélioration pour un chercheur?
Trouver le ou les algorithmes qui permettent de prendre des bonnes décisions rapidement, d'imiter les sentiments humain, et d'avoir l'instinct de survie, donc de lutter contre son environnement qui lui est défavorable, ou bien encore de procréer, ou se multiplier, comme un virus.

Je sais, je suis barge. Le pire, c'est que je le pense vraiment

[miky55]

Si la nature peut le faire, l'homme aussi. C'est un principe de l'évolution technologique dont on attend toujours qu'il soit infirmé.

A bon? D’où tu sors ça? Je pourrais commencer une démonstration et partir du postulat opposé... L'homme ne fait que s'inspirer de la nature, parfois il arrive même à la manipuler (un peu) mais faire la même chose... franchement je vois pas.

[Chauve souris]

Donnez-leur un bâton et il se tueront les uns les autres, donnez-leur la foi et il tueront ceux qui n'y croit pas, donnez-leur le savoir et même le moins érudit de tous dirigera le monde, donnez-leur la parole et ils vous forceront à vous taire.

Excellente citation mais de qui est-ce ?

La définition de l'intelligence est un vieux débat. Tout comme celui de la sagesse qui embarrassait Socrate, pourtant déclaré comme l'homme le plus sage de la Terre par l'oracle de Delphes, au point que Platon relate la discussion qu'il a eu avec un charmant éphèbe, au demeurant très intelligent, Charmide où les deux s'accordèrent que c'était un idéal à atteindre sans qu'on puisse vraiment le définir. Ce qu'on retrouve aussi dans le bouddhisme des origines (appelé "Petit Véhicule").

Les anciens soixante-huitards des sciences humaines (dont je fus) se souviennent de la réponse à la question "Qu'est-ce que l'intelligence ?" à laquelle René Zazzo répondit "C'est ce que mesure mon test". Ce qui lui valu un célèbre graffiti sur les murs de la faculté de Nanterre "le petit zazzo qui fait QI QI"

La crainte de l'IA est donc bien un fantasme traité par bon nombre d'auteurs de science fiction. Mais tous les robots doué d'IA ne sont pas des "méchants" comme dans Terminator où la série Battlestar galactica, Spielberg dans son film IA, dont le brouillon a été fait par Stanley Kubrick mais qu'il ne put réaliser de son vivant, montre un sympathique gamin robot intelligent et sensible, David (joué par Haley Joel Osment). Ce qui pose aussi d'autres questions : qu'est-ce que l'amour ? A laquelle Jacques Lacan répondit que "c'est donner quelque chose que l'on n'a pas à quelqu'un qui n'en veux pas" et qu'est ce que la vie. Car on pourrait aussi poser la problématique de la définition de la vie, pour un robot intelligent (Data dans la série Startrek) si elle ne doit être que biologique ou non.

[MikeRowSoft]

Reprendre les défauts des vivants et des morts pour créer des entités de logiques combinatoires reproduisants des résonnements, intuitions et comportements cognitifs des vivants et des morts. La perfection faillible. Sa a vraiment de l'avenir en dehors de "l'assisté par ordinateur" pour les "vivants".

[threshold]

Encore faut il mettre cette IA dans une machine capable de se mouvoir, de résister aux changements environnementaux imprévisibles, de ne pas tomber en panne et surtout de se...."multiplier" ...et là, même stephen hawking le pseudo-savant-philosophe-voyant ne pourra pas dire que c'est demain la veille.

[Matthieu Vergne]

Encore faut il mettre cette IA dans une machine capable de se mouvoir, de résister aux changements environnementaux imprévisibles, de ne pas tomber en panne et surtout de se...."multiplier" ...et là, même stephen hawking le pseudo-savant-philosophe-voyant ne pourra pas dire que c'est demain la veille.

En étant flexible sur la résistance aux changements environnementaux imprévisibles et ne pas tomber en panne (n'importe quelle entité a ses limites, même nous), si on ne se limite pas au monde physique alors on sait déjà le faire, par exemple le jeu de la vie :
- se mouvoir : cf. les vaisseaux
- se multiplier : de manière directe comme le constructeur universel de Von Neumann, ou indirecte comme les générateurs de vaiseaux

Pour revenir sur "ne pas tomber en panne", une structure stable dans un automate cellulaire convient (et ceux cités ci-dessus tombent dans cette catégorie). Pour résister aux changements environnementaux imprévisibles, on peut imaginer une action directe (l'utilisateur qui change l'état de l'automate) ou résultante de l'exécution de l'automate (un vaisseau qui te tombe dessus), et là différentes structures réagissent différemment, certaines en se réparant naturellement (si pas trop de dégats) et d'autres en se transformant en une nouvelle structure, potentiellement instable et donc amenant à la destruction de l'entité.

[super_navide]

Une entité intelligente détruirais telle l'humanité, la réponse est non si elle est vraiment intelligente.
Car détruire une des être vivants cela n'est pas intelligent.
Après vu que tous les humains ne sont pas intelligent, il est probable que certain créé des machines plus intelligente qui nous détruise mais il sera probable que d'autre machine mieux conçu nous sauve.

Les robots intelligents du future seront a notre image, il y en aura des mauvais et des bons.

Ca sera le même merdier qu'aujourd'hui mais avec des robots plus ou moins intelligent en plus.

[Kitai]

Cependant une pseudo-intelligence est certainement bien plus dangereuse qu'une vraie intelligence artificielle. Une vraie intelligence artificielle (comparable à celle des humains) est par nature intelligente et donc dotée des mêmes capacités de préservation et de destruction. Une pseudo-intelligence (dans le sens de Noë) est une intelligence rapide, efficace, et bien plus que celle des humains, pour effectuer des traitements qu'on lui a ordonné de faire (comme détruire).

Une entité intelligente détruirais telle l'humanité, la réponse est non si elle est vraiment intelligente.
Car détruire une des être vivants cela n'est pas intelligent.
Après vu que tous les humains ne sont pas intelligent, il est probable que certain créé des machines plus intelligente qui nous détruise mais il sera probable que d'autre machine mieux conçu nous sauve.

Les robots intelligents du future seront a notre image, il y en aura des mauvais et des bons.

Ca sera le même merdier qu'aujourd'hui mais avec des robots plus ou moins intelligent en plus.

Voilà.

[doublex]

J'ai juste lu le titre. Pas l'article ni les commentaires. Au commencement étaient les sophistes. Puis sont arrivés les philosophes (Thalès, Pythagore...)
Bref. Les philosophes d'aujourd'hui, c'est les scientifiques. La singularité technologique, comme toute singularité, signifie "On ne peut pas savoir". Comme dirait Socrate "Je sais que je ne sais pas". End of line.