Discussion :

[Michael Guilloux]

Intelligence artificielle : un robot montre des signes de conscience de soi
A l’issu d’un test effectué par des chercheurs

L’intelligence artificielle (IA) poursuit son progrès pour faire des robots une réalité dans le quotidien de l’Homme. Les robots sont beaucoup plus répandus dans les grands milieux industriels où ils sont programmés pour le montage de pièces ou encore pour exécuter certaines tâches répétitives ou risquées pour l’humain. Mais, ces dernières années, les chercheurs travaillent d’arrache-pied pour le développement de robots humanoïdes, et les avancées sont remarquables. En mai dernier, par exemple, des chercheurs de Berkeley ont développé des algorithmes qui permettent à des robots d’apprendre de leurs erreurs et de s’améliorer, un peu comme le font les humains. Pendant que Google cherche également à doter ses machines d’une personnalité, de nouveaux travaux viennent de montrer des signes de conscience de soi chez un robot.

Il s’agit en fait d’un test effectué par des chercheurs de Rensselaer Polytechnic Institute de New York sur 3 robots NAO programmables. Chacun des robots avait la capacité de parler, mais lors du test, deux des robots ont été reprogrammés de sorte à garder le silence, alors que le 3ème pouvait toujours parler. Les chercheurs ont également fait savoir aux robots que deux d’entre eux – sans préciser lesquels - avaient reçu une « pilule de mutisme » qui les empêchait de parler. Ainsi, aucun des robots ne savait lesquels d’entre eux ne pouvaient pas parler et quel était celui qui pouvait le faire.

Les chercheurs ont ensuite demandé aux robots de déterminer lesquels d’entre eux avaient reçu la pilule de mutisme. N’ayant aucune idée, les robots ont tous les trois essayé de répondre « je ne sais pas », mais les deux qui étaient reprogrammés pour rester muets sont restés dans le silence. Le troisième s’est alors levé avant de répondre qu’il ne sait pas.

Dès qu’il a entendu et reconnu sa voix, ce dernier s’est alors rendu compte qu’il n’était pas possible qu’il ait reçu la pilule étant donné qu’il venait de parler. Il s’est alors repris avant de dire qu’il savait maintenant. « Désolé, je sais maintenant », a dit le robot avant d’ajouter que « j’ai été en mesure de prouver qu’on ne m'a pas donné de pilule de mutisme ».

D’après Selmer Bringsjord, professeur de sciences informatiques et sciences cognitives, « la race humaine ne doit pas construire des robots sophistiqués sans une attention délicate aux détails dans les logiques formelles ». Pour arriver à ce résultat, Bringsjord et son équipe ont utilisé de la programmation cognitive appelée IA psychométrique. Pour le chercheur, celle-ci offre de nombreuses possibilités de croissance pour permettre aux Hommes d’apprendre sur eux-mêmes et sur la manière dont les robots pourraient être utiles à l'avenir.

Source : The christian science monitor

Et vous ?

Qu’en pensez-vous ?

[shkyo]

Qu'il est réussi à déduire seul qu'il n'avait pas pris de "pilule de mutisme" en entendant le son de sa voix, ok c'est bien et assez fort il faut l'avouer.

Mais de là à parler de signe de conscience de soi, c'est peut-être tirer des conclusions un peu trop rapidement optimistes je trouve...

[lingtalfi]

Dans 10 ans, ils vont nous exterminer...
terminator... ouch ...
(Mais je cautionne tout de même, curiosité intellectuelle oblige)

[Wirbelwind]

Je ne sais trop quoi penser, je reste quand même un peu sceptique. Que le robot puisse dire "Je peux parler" parce que ce dernier n'était pas en mute, à mon avis, on s'extasie un peu pour pas grand-chose

[Arno_94]

Mouais, du même avis que mes camarades, pas vraiment transcendant. Il était parti pour dire qu'il ne sait pas. Comme il dit qu'il ne sait pas, il s'entend le dire. S'il s'entend alors il n'est pas victime de la pilule...

Par contre, les autres robots ont logiquement tenté de dire "je ne sais pas" eux aussi, ils auraient peut-être pu se rendre compte qu'ils ne s'entendaient pas parler et ainsi comprendre qu'ils étaient victimes de la pilule...

Bref, le titre "un robot montre des signes de conscience de soi" me semble pour le moins racoleur...

[maniac37]

Je vois même pas pourquoi on cite ici le mot "conscience". Il capte, une logique conditionne ce qu'il capte, et si ça correspond à ce qu'il devait émettre ou autre est programmé du code etc. Le déroulement est plutôt mignon je trouve mais en quoi ça apporte plus de conscience que tout programme déjà existant? Pige pas.

[ZenZiTone]

Je vois même pas pourquoi on cite ici le mot "conscience".

On parle de conscience car le programme est capable de s'identifier comme une entité distincte.

[Fusoy]

En plus on parle ici de signe de conscience plus que de conscience. Évidemment que le robot n'est pas strictement conscient, simplement il est au courant qu'il est présent et c'est déjà pas mal.

Sinon la situation semble avoir été codée dans leur système plutôt qu'avoir été "apprise". C'est ce qui me gène un peu dans cette expérience. M'enfin bon, faut bien un début à tout, l'intelligence artificielle n'en n'est qu'a ses débuts par rapport au possibilités que l'on pourra atteindre.

[themadmax]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
if JentendMaVoix():
    DireJeSaisMainteant()
else:
 shutup()

Si cela est une conscience artificiel, alors ma calculatrice a aussi une conscience d'elle, elle me répond quand j’appuie sur ses touches!

[maniac37]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
if JentendMaVoix():
    DireJeSaisMainteant()
else:
 shutup()

Si cela est une conscience artificiel, alors ma calculatrice a aussi une conscience d'elle, elle me répond quand j’appuie sur ses touches!

ça illustre parfaitement ce que je pensais .
Si cela avait eut lieu par apprentissage comme le regrette aussi Fusoy, ça m'aurait semblé avoir un intérêt mais là je ne vois rien de plus que pour la calculatrice d'au-dessus, c'est juste un mimétisme d'un programme classique, pas un progrès en IA.

[tontonnux]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
if JentendMaVoix():
    DireJeSaisMainteant()
else:
 shutup()

Si cela est une conscience artificiel, alors ma calculatrice a aussi une conscience d'elle, elle me répond quand j’appuie sur ses touches!

Ce qui est intéressant, c'est la différence entre JentendMaVoix() et JentendUneVoix()

OK, à chaque avancée on a tendance à faire des titres racoleurs et à en rajouter des caisses... mais ce n'est pas une raison à mon sens pour systématiquement entrer dans la caricature grossière.

[Pomalaix]

[QUOTE=themadmax;8324061]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
if JentendMaVoix():
    DireJeSaisMainteant()
else:
 shutup()

Moi je dis que le robot sera l'égal de l'homme lorsqu'il arrivera à faire les mêmes fautes d'orthographe

[BufferBob]

Moi je dis que le robot sera l'égal de l'homme lorsqu'il arrivera à faire les mêmes fautes d'orthographe

ça n'est pas suffisant, il faudra également que le robot soit en mesure de développer un esprit étriqué capable de nier l'Homme

[Yorenzo]

Ce qui est dommage c'est qu'on a aucune idée de comment sont programmés ces robots, effectivement vu d'ici on peut penser que lorsqu'il déclenche son haut parleur => Alors il n'est pas muté. Ce qui n'est pas une preuve d'intelligence et encore moins de conscience.

Après, en déduit-il que ses camarades sont mute ? Ce serait déjà un peu + intéressant.

[PierrotMfff]

Je pense qu'en accumulant ce genre d'avancées, on pourra élargir le spectre des possibilités de ce qui est gérable pour un robot.
La question de la conscience est un éternel débat... Mais ça me semble envisageable de créer de l'intelligence artificielle poussée voire "hyper consciente"
Pour moi c'est amplement possible, pour l'instant, ce sont des balbutiements, mais ça avance, et ce genre de progrès ça évolue de manière exponentielle. Surtout en constatant le fric injecté dans ce genre de recherche.
Encore une foi, pour moi (je donne mon point de vue) ça pose un sérieux problème d'éthique.
Imaginez une espèce plus intelligente que l'homme? Ca serait en notre défaveur, je pense sincèrement que, même si la réécriture, correction des programmes par le robot lui même pourrait permettre d'atteindre un niveau fonctionnel énorme, je pense qu'on devrait se limiter au fonctionnel tout court, ainsi un robot devrait toujours être capable de produire C uniquement si on lui propose A + B.
Mais jamais de changer lui même son code même si ça ne se ferait que de manière "cadrée" avec toujours de respect de l'espèce humaine en règle principale par exemple, ça partirait pas droit arrivé un moment

[MikeRowSoft]

Trop peu de détails technologique pour determiner si l'interprétation et la decouverte d'elements sont pas introduite sans le vouloir par les agents de recherches.

[DonQuiche]

Qu'il est réussi à déduire seul qu'il n'avait pas pris de "pilule de mutisme" en entendant le son de sa voix, ok c'est bien et assez fort il faut l'avouer.

Mais de là à parler de signe de conscience de soi, c'est peut-être tirer des conclusions un peu trop rapidement optimistes je trouve...

Au contraire, c'est stricto sensu la définition d'une conscience de soi : il est conscient qu'il existe un "soi", distinct des autres robots, et que cette voix appartient à ce "soi".

Et si on regarde le règne animal c'est loin d'être évident : la plupart des animaux prennent leur reflet dans un miroir pour un autre congénère, même après des années.

Si cela est une conscience artificiel, alors ma calculatrice a aussi une conscience d'elle, elle me répond quand j’appuie sur ses touches!

Ce robot est en grande partie non-programmé, son comportement étant surtout le produit d'un programme (et non pas un programme) au même titre que le mien est le produit d'une programmation génétique qui a spécifié le fonctionnement de mes neurones et la genèse de mon réseau neural initial.

Bien sûr sa programmation est très certainement plus importante que la nôtre. Il n'empêche que son intelligence est le produit d'un programme et non un programme.

Trop peu de détails technologique pour determiner si l'interprétation et la decouverte d'elements sont pas introduite sans le vouloir par les agents de recherches.

L'existence d'un concept "soi" est très certainement inclus dans sa programmation (comme pour tous les animaux doués d'un instinct de survie). L'identification de sa propre voix et son association au concept "soi", en revanche, c'est apparemment le produit de son intelligence.

[BufferBob]

@PierrotMfff: entièrement d'accord avec toi, autant pour moi ça semble une évidence qu'une conscience artificielle puisse être développée, et au delà une vraie vie en tant que tel, autant savoir si c'est une idée fumante ou non... c'est un mystère.

toutes les hypothèses sont permises, on peut imaginer qu'un robot calqué sur l'intelligence humaine pourra potentiellement être aussi idiot qu'un humain (ce qui le rendrait dangereux compte tenu de sa puissance de calcul ), arrivera forcément un moment où il se posera la question du "Moi" artificiel et de l'auto-préservation de son intégrité, ou simplement de la curiosité de la bestiole l'amenant à expérimenter des trucs, selon quelle éthique etc.

ce qui semble évident c'est qu'on parle de progrès dans le domaine qui sont exponentiels, et d'une future intelligence artificielle qui pourra facilement surpasser celle de l'être humain, on est alors obligé d'envisager que si ça arrivait l'Homme ne serait peut-être plus en haut de la chaine alimentaire, et la planète pourrait compter un superprédateur de plus
j'ai toujours pensé que l'homme cherchait à se créer un nouveau Dieu en faisant ça, de manière à répondre à son besoin inconscient de se déresponsabiliser face à l'inconnu, rester l'enfant soumis aux règles et au jugement du père sans avoir la lourde charge de penser par lui-même

[shkyo]

Après, c'est toujours l'éternelle question, si une IA devenait réellement "intelligente" (c'est difficile à définir d'ailleurs), serions-nous capable de nous en rendre compte?

De plus, on essai de calquer les IA sur le modèle de l'intelligence humaine, mais avec les technos de l’auto-apprentissage à partir de leur seuls essais réussis/échoués (les notions de réussis/échoués sont également subjectives au passage), au bout d'un certain temps, une sorte "d'intelligence" pourrait peut-être apparaître mais en étant différente du modèle humain, l'estimation de la chose devient très difficile dans ce cas-là...

[ZenZiTone]

toutes les hypothèses sont permises, on peut imaginer qu'un robot calqué sur l'intelligence humaine pourra potentiellement être aussi idiot qu'un humain

Retirer un peu de "conscience de soi" et ajouter un peu de "conscience des autres" ferait de ces IA des êtres formidables