Discussion :

[Olivier Famien]

Andrew NG, l’un des ténors de l’intelligence artificielle, considère le débat sur les éventuelles dérives comme une perte de temps
Partagez-vous son point de vue ?

Alors que les discussions font rage entre les défenseurs et les détracteurs de l’intelligence artificielle, Andrew NG, directeur scientifique chez Baidu et concepteur du système d’apprentissage automatique de Google, vient de relancer à nouveau le débat sur ce sujet en affirmant il y a quelques jours au GTG 2015, « qu’il y a beaucoup d’exagérations sur le fait que l’intelligence artificielle créera des robots malfaisants dotes d’une super intelligence ». De même, il considère qu’il pourrait avoir une race de robots tueurs dans un avenir lointain, mais il ne travaille pas aujourd’hui à empêcher la conversion au mal de ces machines intelligentes, pour la même raison qu’il ne s’inquiète pas du problème de surpopulation de la planète Mars.

En effectuant de telles déclarations, NG se positionne ouvertement dans le cas du camp de ceux qui sont favorables au développement de l’intelligence artificielle sans restrictions aucunes des risques découlant de ce projet. L’idéal serait donc de travailler déjà à mettre le projet sur pied. Leurs conséquences néfastes seront traitées en son temps. À la limite, le directeur scientifique de Baidu considère le débat comme une perte de temps. Cela se comprend clairement en suivant son assertion : « Au lieu de se laisser distraire par des robots tueurs ayant basculé du mauvais côté, le défi de la main d’œuvre causé par ces machines est une conversation que le monde universitaire, l’industrie et le gouvernement devraient accepter ».

À l’opposé de ce courant de pensée, nous avons plusieurs grands noms qui sont plutôt prudents et même inquiets et souhaitent également que nous partagions les mêmes sentiments en la matière. Bill Gates par exemple affirmait en ce début d’année que « je suis du côté de ceux qui se sentent préoccupés au sujet de l’intelligence artificielle… Dans quelques décennies, les avancées dans le domaine de l’intelligence artificielle seront telles que cela deviendra un problème ». Avant lui, nous avons eu Elon Musk, fondateur de PayPal, qui recommandait en aout 2014 que nous soyons « super prudents avec l’intelligence artificielle ». Pour ce dernier, « nous invoquons le diable » avec l’intelligence artificielle. Il va même plus loin en considérant que les conséquences pourraient être encore plus dangereuses que la bombe nucléaire.

Devrait-on attendre de voir les conséquences pour se pencher véritablement sur ce sujet ? Le sujet en vaut-il la peine ? Le débat est à nouveau lancé et chaque partie affute ses arguments en faveur ou en défaveur.

Source : Blog Nvidia


Et vous ?

Que pensez-vous de l’opinion de Ng ? Êtes-vous d’accord avec lui ?
Êtes-vous pour ou contre une limitation de l’intelligence artificielle ?

[MABROUKI]

Bonjour

Ce debat comme tous les debats sur les avancees du progres scientifiques ,est un debat que je qualifierais de debat sur la boite de Pandore d'ou sont sortis tous les maux de la terre...

Les travaux sur l'intelligence artificielle ne font qu'ameliorer nos connaissances sur nos capacites(mode de raisonnement,diversites des modeles de representation de la "realite") et doivent etre poussees...C'est dans ce sens que l'auteur à raison...Des travaux de la science ,il en sort toujours des choses utiles à l'humanite et aussi nuisibles bien entendu ,ces 2 aspects etant imputables beaucoup plus à nos comportements qu'à la science...
Pretendre qu'une technique ou une science est nuisible en soi ,est un contre-sens ...!!!

[yahiko]

Je pense que le gars veut dire tout simplement qu'en l'état actuel de l'IA encore loin de qu'on pourrait en espérer (Skynet n'est pas pour demain), les débats sur les dangers de l'IA fantasment sur quelque chose d'encore tout à fait hypothétique.

Autrement dit selui lui ces débats c'est un peu de la <bip> intellectuelle.

Il n'a pas tort...

[Invité]

Bonjour,

Sans aller jusqu'aux robots tueurs, on ne sait pas comment se comportera une réelle IA. Et par conséquent, même si on en est encore loin, il paraît logique de réfléchir dès maintenant à des moyens contrôles.

Le "on fait et on verra ensuite", c'est un peu léger tout de même.

[GPPro]

Je pense que le gars veut dire tout simplement qu'en l'état actuel de l'IA encore loin de qu'on pourrait en espérer (Skynet n'est pas pour demain), les débats sur les dangers de l'IA fantasment sur quelque chose d'encore tout à fait hypothétique.

Autrement dit selui lui ces débats c'est un peu de la <bip> intellectuelle.

Il n'a pas tort...

Il a même complètement raison ! Mais bons, les fantasmes, de nos jours, c'est ce qui préoccupent le plus les sites de news et autres "médias"...

[ParseCoder]

Au lieu de jouer à se faire peur avec l'IA alors qu'on ne sait même pas si c'est faisable ni en théorie ni en pratique, on ferait mieux de s'inquiéter de certaines menaces bien plus réelles.
Lorsque vous mettez une arme dans les "mains" d'un robot, nul besoin qu'il soit intelligent pour qu'il soit dangereux! Des prototypes de robots militaires de ce genre existent pourtant déjà. Que va t il se passer si on considère un jour qu'ils sont au point et "bon pour le service" et qu'on les produira en masse?

Avant de s'inquiéter qu'une hypothétique IA puisse un jour avoir l'idée de se débarrasser de l'humanité, inquiétons nous plutôt par exemple de ces robots militaires ou même encore des fous furieux qui appellent de leur voeux une guerre nucléaire contre la Russie avec le risque qu'il n'y ai aucun survivant.

[NSKis]

Bonjour,

Sans aller jusqu'aux robots tueurs, on ne sait pas comment se comportera une réelle IA. Et par conséquent, même si on en est encore loin, il paraît logique de réfléchir dès maintenant à des moyens contrôles.

Le "on fait et on verra ensuite", c'est un peu léger tout de même.

Pour info, les "robots tueurs" existent déjà... Ils ne ressemblent pas à Schwarzi sur une Harley Davidson mais sont pleinement opérationnels. Exemple: Postes de tir automatiques installés sur certaines frontières: L'appareil détecte une présence humaine et tire... Que dire de l'algorithme qui décide d'ouvrir le feu? AI ou pas?

[yahiko]

J'imagine que tu fais allusion au projet de robot Samsung pour surveiller la DMZ

J'ai retrouvé le lien de la vidéo digne d'une séquence de Transformers ou Robocop ^^ :

Avec la réplique (bientôt) culte :

What is that monster...

[Matthieu Vergne]

Contrairement à Andrew NG, je ne penses pas que ce débat soit une perte de temps. Tout comme il n'y a pas de question bête (à la rigueur des réponses bêtes).

En revanche, je suis d'accord que dire que ça va être le paradis ou la fin du monde ne rime à rien. On n'est déjà pas capable de se mettre d'accord sur une définition pour l'intelligence, alors parler d'IA dans ce flou conceptuel n'apporte pas grand chose.

Sans aller jusqu'aux robots tueurs, on ne sait pas comment se comportera une réelle IA. Et par conséquent, même si on en est encore loin, il paraît logique de réfléchir dès maintenant à des moyens contrôles.

Le "on fait et on verra ensuite", c'est un peu léger tout de même.

Si, on sait, vu que c'est nous qui les faisons. En revanche, on sait aussi que certaines techniques se basent sur de la statistique (e.g. réseaux de neurones), donc si elles donnent tels résultats, on ne sait pas pourquoi si ce n'est "parce que c'est ce qui semble être le cas selon les données en entrée". Mais le traitement de ces données c'est nous qui l'avons mis en place exprès pour faire ce qu'on veut, donc on sait. Les moyens de contrôles, on les design en même temps que nos IA, parce que si on n'arrive pas à en obtenir ce qu'on veut, c'est pas vendable.

C'est bien avec des raisonnements du style "on ne sait pas comment se comportera une réelle IA = faut savoir comment les controler" qu'on arrive à des réflexions du style "on ne sait pas comment se comportera un groupe d'humains = faut savoir comment les controler". Une IA n'est pas plus intrinsèquement mauvaise qu'un humain qui vient de naître. C'est ce qu'on lui apprend à faire, qui décide s'il fera quelque chose de bien ou pas, et l'IA c'est pareil.

[MikeRowSoft]

C'est sûr qu'une intelligence artificielle qui évoluerais dans un univers proche du réel en 3 dimensions en ayant observer et appris des comportements scientifiques et aussi de ses semblables préprogrammés, et qui de plus aurait obtenu la faculté d'un semblant de volonté aura fait des heureux juste avant d'arriver à une interaction plus forte avec les vivants, surtout quand il s'agit de sentiments.

[GPPro]

Euh juste une précision là : les réseaux de neurones ne sont pas stochastiques, et si, on sait très bien analyser pourquoi ils renvoient une certaine réponse lorsqu'on leur fournit telle entrée (les outils de rétro engineering des réseaux de neurones existent depuis au moins 15 ans)... C'est ce genre de réponses approximatives qui font fantasmer le commun des mortels.

[Matthieu Vergne]

Je n'ai pas dit stochastique, mais statistique. Merci de ne pas confondre. Et si tu sais pourquoi un réseau te donne tel résultat étant donné ce qu'il a encodé, ça ne suffit pas pour savoir pourquoi cette réponse est bonne.

[GPPro]

Je n'ai pas dit stochastique, mais statistique. Merci de ne pas confondre. Et si tu sais pourquoi un réseau te donne tel résultat étant donné ce qu'il a encodé, ça ne suffit pas pour savoir pourquoi cette réponse est bonne.

Derrière c'est de l'apprentissage, il n'y a aucune magie. C'est toi qui fournit les jeux de données. Quant à regarder la configuration prise par ton réseau, comme je te l'ai dit précédemment, tu as les outils qui existent pour cela.

Edit : au lieu d'être arrogant, si tu expliquais la différence que tu fais entre statistique et stochastique... Il me semblait que tu parlais de non déterminisme, mais bon peut être que je me trompe...

[r0d]

Derrière c'est de l'apprentissage, il n'y a aucune magie.

Travaillant moi-même dans l'analyse de données, et en particulier dans la construction de modèles prédictifs, je suis parfois pris de vertige devant les résultats obtenus par des statistiques (je parle bien de statistiques, je n'ai pas compris ce que la stochastique venait faire dans cette histoire). Je suis pris de vertige lorsque, par exemple, mon modèle me dit que l'entreprise X a 95% de chances de tenter une manœuvre délictueuse dans le mois qui vient, et de constater, un mois plus tard, qu'elle a effectivement tenté de frauder.
Ce qui me donne le vertige dans ces histoires de prédiction, c'est tout ce qui touche au déterminisme: chaque comportement qu'est capable de prédire un algorithme met en balance la notion de libre arbitre.

Et donc certes il n'y a pas de magie dans tout ça, mais les algorithmes peuvent atteindre des degrés de complexité qui les rendent hors de portée de la compréhension humaine. Le problème se pose surtout lorsqu'il s'agit de "machine learning" et de "artificial curiosity": les algorithmes peuvent se complexifier eux-même, parfois selon des paradigmes qui sont très éloignés de la façon dont le cerveau humain fonctionne, ce qui les rends encore plus difficile à comprendre. Je suis bien incapable de prévoir le futur, mais je commence à entrevoir la possibilité d'algorithmes qui seraient totalement hors de portée de notre compréhension. Mais je pense que le problème n'est pas là. Je ne sais même pas s'il y a un problème, au sens politique du terme. En revanche, il y a un problème philosophique (moral) et il est passionnant. C'est peut-être de la br*** intellectuelle, j'accepte la critique, mais cela n'en reste pas moins passionnant.

[vampirella]

Tant qu'à faire, je vais rajouter mon grain de sel

Un débat philosophique n'est jamais une perte de temps. Savoir à partir de quel moment une IA peut être considérer comme semblable à l'humain se pose en tant que discussion passionnante. Faut-il prendre en compte la reproduction ? A partir de quel degré d'autonomie ? Et quels fonctionnalités cognitives prendre pour la comparaison ?

En-dehors de cela, savoir si l'IA comporte un danger pour l'humain est une question extrêmement simple à répondre : ni plus ni moins que l'objectif que l'on sous-tend derrière chaque technologie.

Des travaux de la science ,il en sort toujours des choses utiles à l'humanite et aussi nuisibles bien entendu ,ces 2 aspects etant imputables beaucoup plus à nos comportements qu'à la science...

C'est une version défendue par certains philosophes depuis la Grèce Antique. A l'opposé, d'autres philosophes estiment que la morale d'une technologie est lié à son objectif premier.
Exemple : un pistolet ne sert qu'à tuer. La voiture sert avant tout à se rendre d'un point A vers un point B. Certes, on peut aussi s'en servir comme bélier pour écraser les passants / ouvrir les distributeurs, mais ce n'est certainement pas le but premier. C'est vers cette définition que la quasi-totalité des pays ont opté puisqu'il y a des législations sur le port et la vente d'arme très rigoureuse, tandis que la vente et possession d'une voiture n'est très souvent qu'une formalité.

De même pour l'IA : elle aura la morale (au sens philosophique) que nous lui aurons donné.

Edit : r0d a été plus rapide que moi

[Matthieu Vergne]

si tu expliquais la différence que tu fais entre statistique et stochastique... Il me semblait que tu parlais de non déterminisme, mais bon peut être que je me trompe...

La stochastique, c'est de l'aléatoire, donc de l'indeterminisme. Tu y trouves notamment les algorithmes d'optimisation tels que les algorithmes génétiques, qui se basent sur des mutations aléatoires pour essayer d'améliorer des solutions potentielles. Tu ne sais pas ce que 1 évolution peut te donner, mais dans l'ensemble tu identifies des tendances qui te permettent de rendre le système plus ou moins déterministe.

La statistique, c'est de l'aggrégation de données, donc déterminé dès le départ. Tu as un ensemble d'individus et tu fais des calculs sur le groupe pour en tirer des conclusion, comme des tendances générales ou du clustering.

Un réseau de neurone, ça te prend une entrée, ça te donne une sortie, et tu lui dis s'il est bon ou pas. De là il revoit son encodage (poids synaptiques) pour faire mieux au prochain coup. Tout est détermnié là dedans, il n'y a rien de stochastique a priori. Là où c'est de la stat, c'est que ton réseau tu lui donnes tout un jeu d'entrées pour apprendre. Ce qu'il encode à la fin résulte donc d'une aggrégation, d'où la statistique et non la stochastique.

[MABROUKI]

bonjour

Rod...
Je suis bien incapable de prévoir le futur, mais je commence à entrevoir la possibilité d'algorithmes qui seraient totalement hors de portée de notre compréhension

Justement c'est ce que n'entrevoit l'intervenant qui a parle de 3eme dimension...

C'est sûr qu'une intelligence artificielle qui évoluerais dans un univers proche du réel en 3 dimensions en ayant observer et appris des comportements scientifiques et aussi de ses semblables préprogrammés

C4est que les algo des modeles predictifs prennent en compte bien plus de DIMENSIONS :c'est qu'il raisonnent et calculent dans un "monde à N dimensions",un nombre de dimension inacceSsible à la raison humaine....
Cela rejoint l'idee du Grand Astronome Laplace qui face à l'espace sideral et à propos du determinisme disait:"s'il pouvait une intelligence humaine capable d'embrasser, à un instant t donne ,tous les faits, toutes les causes possibles ,elle pourrait predire la totalite des consequences à un instant t+1 plus tard"...Et concluait abattu "Seul la Divinite (dieu) en est capable"
C'est de ce genre de reve , dont nous rapprochent sans l'atteindre mais nous rapprochent quand meme ces modeles predictifs et leurs nouveaux paradigmes...
Meme sur l'aspect purement moral,il est egalement probable qu'il nous fassent decouvir des "aspects moraux" insoupconnes dans nos comportements que nous entrevoyons parfois difficilement,l'evolution morale des societes et meme politique etant tres retard sur son developpement materiel....

[pierre-y]

On passe la moitié de sa vie a rêver d'être plain de tune pour en faire le moins possible et quand on nous dis qu'un IA va nous rendre se service on commence a flipper^^. L'IA un jour ferra tout ce que l'on fait et surement plus encore. Pour l'IA on serra peut être l'équivalent de ce qu'est l'homme de Cro-Magnon pour nous. Après L'IA révera peut être elle aussi un jour d'en foutre le moins possible et commencera a fabriquer un truc...

[Matthieu Vergne]

Des êtres humains par exemples. {^_^}

[pierre-y]

Pas impossible^^, mais avec un on/off dessus pour économiser la bouffe.