Discussion :

[Invité]

Ces lois s'appuyant sur des concepts abstraits, elles ne sont pas implémentables en l'état. Pour pouvoir le faire, il faut par exemple d'abord décider de ce qu'on appelle être humain (e.g. il ne faut pas oublié les handicapés, mais il faut exclure les cadavres) ou de ce qu'on veut dire par blesser (notamment différencier faire une piqûre de vaccins et trouer la peau avec une seringue). Et ça, c'est le programmeur qui le fait, sinon la machine qui doit l'apprendre. Dans le premier cas, on est sujet à l'arbitraire du programmeur, dans le second à la difficulté d'enseigner ces concepts à la machine. Les règles en elle-même n'étant pas implémentables, elles sont tout simplement inutilisables pour une machine programmée à l'heure actuelle.

Oui, tel que je vois les choses, ce seraient plutôt des lignes de conduite de programmation. De toute manière, même si on parvenait un jour à inventer un robot répondant à toutes les lois d'Asimov et capable de prendre les décisions souhaitées par le programmeur pour chaque chose, ses décisions ne seraient jamais parfaites, pour les raisons qu'Asimov a énoncées dans son oeuvre et pour celles auxquelles il n'y a pas pensé.
Je serais quand même curieuse de voir ces lois appliquées à petite échelle pour l'expérience. Par exemple, en le confrontant à un seul humain et en lui apprenant quelques-uns des dangers seulement et comment réagir. Dans ce cas, les lois seraient implémentables, non ? Même si elles seraient un peu dénaturées du fait qu'il ne pourra pas déterminer lui-même ce qui est un danger et ce qui n'en n'est pas un.
Quant à l'apprentissage de la machine, j'ai du mal à me faire une idée concrète de comment ça fonctionne. En fait, quelle est la différence entre apprendre quelque chose à la machine et la programmer ?
J'imagine qu'on pourrait envisager de dire à la machine de demander la validation de son apprentissage. Par exemple, si la machine voit un être humain sauter d'un pont et mourir, avant de conclure que sauter d'un pont est un danger mortel, on pourrait lui dire de demander confirmation à un humain. De cette manière, on apprendrait (nous les humains) comment améliorer la capacité d'apprentissage de la machine dans le cas des dangers. Ça prendrait du temps, mais au bout de quelques années peut-être qu'on aurait un robot qui avec une connaissance acceptable du danger. Je suppose que ça se fait déjà dans le cas d'autres formes d'apprentissage, non ?
On aurait alors un robot avec un semblant d'implémentation des lois d'Asimov. Pour caricaturer, s'il a l'humain Jean et s'il connaît le danger cigarette, on pourrait lui dire : qu'il ne doit pas donner de cigarettes à Jean, qu'il doit empêcher Jean de fumer des cigarettes en les lui prenant des mains, qu'il doit obéir aux ordres de Jean sauf si Jean lui ordonne de le laisser fumer, et qu'il ne doit pas fumer de cigarette sauf si ça permet à Jean de ne pas fumer de cigarette. Est-ce que c'est envisageable aujourd'hui ?

[Matthieu Vergne]

Oui, tel que je vois les choses, ce seraient plutôt des lignes de conduite de programmation. De toute manière, même si on parvenait un jour à inventer un robot répondant à toutes les lois d'Asimov et capable de prendre les décisions souhaitées par le programmeur pour chaque chose, ses décisions ne seraient jamais parfaites, pour les raisons qu'Asimov a énoncées dans son oeuvre et pour celles auxquelles il n'y a pas pensé.
Je serais quand même curieuse de voir ces lois appliquées à petite échelle pour l'expérience. Par exemple, en le confrontant à un seul humain et en lui apprenant quelques-uns des dangers seulement et comment réagir. Dans ce cas, les lois seraient implémentables, non ? Même si elles seraient un peu dénaturées du fait qu'il ne pourra pas déterminer lui-même ce qui est un danger et ce qui n'en n'est pas un.

Là ce ne sont même pas des lignes de conduites de programmation, vu que ça ne concerne pas le code mais le comportement du robot. C'est à un niveau bien plus élevé dans le cahier des charges. Des lignes de conduites de programmation, c'est par exemple DRY (Dont Repeat Yourself), qui implique de ne pas répéter du code. Mais les lois d'Asimov n'ont aucun lien avec le code en lui-même. Ce ne sont pas même des lois sur le comportement du robot, mais sur les conséquences du comportement du robot. On est très loin du code, là. C'est au même niveau que le respect des lois, et ce n'est que récemment qu'on a sérieusement commencé à travailler là dessus pour les prendre en compte correctement dans les cahiers des charges, comme avec Nomos.

Quant à l'apprentissage de la machine, j'ai du mal à me faire une idée concrète de comment ça fonctionne. En fait, quelle est la différence entre apprendre quelque chose à la machine et la programmer ?

Tes instincts te font sortir du feu, mais tu peux apprendre à marcher sur des charbons ardents sans te brûler. Les instincts sont l'équivalent de la programmation, c'est ce qui est fait par la machine de manière pré-définie (i.e. règles définie avant lancement), alors que l'apprentissage consiste à faire évoluer la machine par ses propres moyens jusqu'à ce qu'elle obtienne les bons résultats (i.e. règles définies après lancement). Dans une machine, tu as le programme et les données stockées, et là où le comportement d'un système classique sera davantage dicté par le programme, les données amenant de menues variations, un système à apprentissage en revanche comptera majoritairement sur les données acquises pour établir des décisions, d'où la nécessité d'un temps d'apprentissage le temps de mettre en place ces données. Et comme un système classique est tout bogué si le programme est mal fait, un système à apprentissage est "tout bogué" si l'enseignement est mal fait.

J'imagine qu'on pourrait envisager de dire à la machine de demander la validation de son apprentissage. Par exemple, si la machine voit un être humain sauter d'un pont et mourir, avant de conclure que sauter d'un pont est un danger mortel, on pourrait lui dire de demander confirmation à un humain. De cette manière, on apprendrait (nous les humains) comment améliorer la capacité d'apprentissage de la machine dans le cas des dangers. Ça prendrait du temps, mais au bout de quelques années peut-être qu'on aurait un robot qui avec une connaissance acceptable du danger. Je suppose que ça se fait déjà dans le cas d'autres formes d'apprentissage, non ?

Pour pouvoir enseigner à une machine, il faut auparavant lui apprendre à comprendre le langage humain. Sans rentrer dans les débats de conscience et autre, cela implique de travailler avec des concepts abstraits, comme les notions de danger, d'être humain, de mort, etc. Et ça, ça ne se code pas. Tu peux faire une classe EtreHumain dans le code, ce n'est pas avec ça que ton robot va reconnaître une personne quand il en voit une au travers de ses capteurs. C'est là tout le problème, on a bien augmenté le niveau d'abstraction en passant des bits à l'assembleur, puis aux instructions, puis aux classes, mais on est encore loin d'un niveau suffisamment haut pour parler d'êtres humains ou de mort. D'où le manque de sens total quand on croit que les lois d'Asimov sont de l'ordre du programmeur : le programmeur n'a pas encore les outils pour pouvoir faire ça.

On aurait alors un robot avec un semblant d'implémentation des lois d'Asimov. Pour caricaturer, s'il a l'humain Jean et s'il connaît le danger cigarette, on pourrait lui dire : qu'il ne doit pas donner de cigarettes à Jean, qu'il doit empêcher Jean de fumer des cigarettes en les lui prenant des mains, qu'il doit obéir aux ordres de Jean sauf si Jean lui ordonne de le laisser fumer, et qu'il ne doit pas fumer de cigarette sauf si ça permet à Jean de ne pas fumer de cigarette. Est-ce que c'est envisageable aujourd'hui ?

Aujourd'hui non, justement parce qu'on n'a pas de langage de programmation assez évolué pour ce genre de chose. On peut espérer que les avancées dans le domaine de l'apprentissage permettent, avec beaucoup de ressources, de faire ce genre de chose, mais soit ça demande beaucoup d'effort niveau enseignement de la machine, soit il faut tricher en programmant les comportements, ce qui n'a évidemment aucun intérêt vis à vis de l'objectif de faire des robots intelligents.

[macslan]

Aujourd'hui non, justement parce qu'on n'a pas de langage de programmation assez évolué pour ce genre de chose. On peut espérer que les avancées dans le domaine de l'apprentissage permettent, avec beaucoup de ressources, de faire ce genre de chose, mais soit ça demande beaucoup d'effort niveau enseignement de la machine, soit il faut tricher en programmant les comportements, ce qui n'a évidemment aucun intérêt vis à vis de l'objectif de faire des robots intelligents.

ET on aura créé skynet ou équivalent

[NSKis]

Ben écoute, j'ai obtenu mon diplôme d'ingénieur en informatique et réseaux, et aujourd'hui docteur en TIC je fais maintenant un post-doc en IA. Des programmes, j'en ai vu passer et c'est pas prêt de s'arrêter. L'imprédictibilité, on y fait face tous les jours, qu'elle soit dû à un manque de rigueur (e.g. bogue) ou à une propriété fondamentale (e.g. problème de l'arrêt). Des films, j'en regarde pas beaucoup, surtout d'Hollywood. Je me nourris davantage sur Wikipédia et sur les articles de recherche que je peux lire quotidiennement. Mais franchement, c'est pas mon parcours qui va garantir quoi que ce soit, c'est ma capacité à expliquer les choses. Donc même si j'avais affaire à un ingénieur IBM de 40 ans de carrière, ça ne me ferait ni chaud ni froid. Grâce à ma thèse, je connais un peu l'expertise et ses travers, ne vous en déplaise, monsieur NSKis.

Je vous félicite pour tout vos diplômes... Mes voyez-vous les thèses et doctorats n'empêchent pas de dire des conneries!!! Je peux en parler parce que je ne suis pas moins diplômé que vous mais contrairement à vous je ne pratique pas la robotique et l'automation dans les livres mais dans le monde réel...

J'ai de plus un avantage sur vous: L'humilité!!!

[Matthieu Vergne]

ET on aura créé skynet ou équivalent

Alias un système tellement intelligent qu'il fait des trucs complètement stupides. L'homme a essayé d'éradiquer les bactéries, avant de se rendre compte que sans elles il ne fonctionnerait plus non plus. La destruction d'une espèce ne me semble pas être un acte intelligent, bien au contraire. Ça c'est du Hollywood, pas de la science.

[macslan]

Alias un système tellement intelligent qu'il fait des trucs complètement stupides. L'homme a essayé d'éradiquer les bactéries, avant de se rendre compte que sans elles il ne fonctionnerait plus non plus. La destruction d'une espèce ne me semble pas être un acte intelligent, bien au contraire. Ça c'est du Hollywood, pas de la science.

Mouais ben je suis pas le seul qui est contre une IA forte

[Matthieu Vergne]

Mouais ben je suis pas le seul qui est contre une IA forte

On est rarement seul, même pour dire des bêtises. Je ne veux pas dire par là que c'est forcément une bêtise, ça mérite d'être étudié sérieusement, mais ce n'est pas parce qu'on entend surtout parler des monsieur catastrophes que c'est forcément l'avis général ou même l'avis le mieux fondé. Donc ce n'est pas un argument.

De mon côté, je n'en connais pas beaucoup qui ait une définition claire de l'intelligence et qui soit du même avis.

[hotcryx]

Si on mettait un petit marteau à la place du bras ce serait bien plus marrant

[hotcryx]

Ca peut toujours être utile pour les diabétiques qui ont peur de se piquer le doigt pour leur contrôle de glycémie.

pour se choper le sida..., c'est une belle machine
Ils y ont pensé?!

[Médinoc]

C'est super clickbait et débile, comme titre.
Les lois d'Asimov n'existent pas si elles ne sont pas programmées dans la machine, il n'y a rien à "ignorer" ici.

[Aiigl59]

Les lois d'Asimov, ne sont valables que dans les romans d'Asimov, et cet article n'a qu'un intérêts plus que limité, tout programmeur sait qu'une machine est une machine et rien de plus, les lois n'ont rien à voir la dedans, que du code et de la mécatronique on vous dit...

[stalacta]

Mais c'est complètement... débile. En plus, pas besoin d'avoir bac+12 pour faire ça, enfin bon.

Non, je pense surtout que ça risque d'être coton pour implémenter les lois de la robotique dans les robots. Déjà il faudrait que ces lois soient sans aucune ambiguité, ce qui est loin d'être le cas. Ensuite il faudrait réussir à les traduire en instructions, mais de toute façon, un robot, pour être capable de comprendre les raisonnements humains et de raisonner comme lui doit à priori être capable de ne pas appliquer des règles. Et enfin, même si c'était possible, sur le nombre d'humains qui vont fabriquer des robots sur cette planète, ça m'étonnerait que tous sans exception joueront le jeu d'implémenter ces règles (sans parler les robots militaires et autre). Enfin bref, ces 3 lois, ça me paraît bien joli pour de la science fiction mais dans la pratique...

[Amine Horseman]

Un ingénieur crée un bras robotisé destiné à blesser des humains
Il agit volontairement, ignorant la première loi d'Asimov

Si le robot était "destiné" à blesser des humains, ça veut dire que la première loi n'a pas été implementée dans ce robot

Au fait ces 3 lois d'Asimov sont trés abstraites, et les programmer dans un robot n'est pas aussi évident que d'écrire "Si humain alors ne_pas_blesser();"

En tout cas, je tends à considérer cet article comme une farce de la part de l'équipe DVP, ou comme une méhode de marketing pour attirer l'attention des lecteurs et susciter le débat
Parceque, si l'auteur était vraiment serieux en choisissant ce titre (qui est contradictoire avec son sous-titre d'ailleurs), je lui conseille fortement d'éviter d'aborder ces sujets du style Cargo-Cult Science.

[Escapetiger]

Tant qu'on y est autant se faire plaisir avec cette rétrospective cinématographique:

Emission Timecode video #9 (Informatique et robotique)

Published on Mar 26, 2014

TIMECODE: Un voyage dans le temps cinématographique, avec une thématique différente à chaque épisode et un ton résolument décalé ...
En route pour une découverte à travers le temps et les films ! Actuellement sur GONG BASE

Intro
Metropolis

Années 50
Planète interdite
The Earth Dies Screaming
Devil Girl from Mars
Robot Monster Kronos

Années 60
2001, l'odyssée de l'espace
Beyond the valley of the dolls
Vixen

Années 70
Le cerveau d'acier
Woody et les robots
La guerre des étoiles
Silent Running Mondwest

Années 80
Tron Robocop
Terminator
Eliminators
Runaway L'évadé du futur
Saturn 3 Short Circuit

Années 90
Universal Soldier
L'homme bicentenaire
Virus
Hologram Man
Le cobaye
Ghost in the Shell
Matrix

Années 2000
WALL E
Simone
Transformers
Iron Man
I Robot

Conclusion
Tron - L'héritage
Eva
Pacific Rim
Real Humans
Real steel

[macslan]

Les lois d'Asimov, ne sont valables que dans les romans d'Asimov, et cet article n'a qu'un intérêts plus que limité, tout programmeur sait qu'une machine est une machine et rien de plus, les lois n'ont rien à voir la dedans, que du code et de la mécatronique on vous dit...

enfin pour maintenant seulement

[Ah_Kin]

Peut être qu'on va arriver à ça au final : http://www.movie-object-reproduction...fficiel302.jpg

[Kal-if]

1) "Un ingénieur crée un bras robotisé destiné à blesser des humains"

Hum.. quelle est la nouvelle ?
Je veux dire par là que créer des automates qui "blesse" les humains c'est pas nouveau.
(exemple: drone militaires, lanceurs de missiles, ...)

On peut vouloir dire :
2) "Un ingénieur crée un bras robotisé destiné à blesser, par sa propre volonté, des humains"

Là on est dans un autre problème, la définition de "volonté".
On peut se référer aux concepts IA forte vs faible.
A mon avis ça m'étonnerait qu'on soit en face d'une IA forte ici.

3) Les lois d'Asimov :

C'est un référentiel de SF non applicable à notre monde physique.
Je tiens à ajouter que Asimov dans ses nouvelles,
joue justement avec ces règles pour nous montrer
à quelle point celle-ci sont perfectibles.

Je serais même tenté de dire qu'il voulait émettre l’hypothèse
que se conformer à des lois gravées dans le marbre n'est pas
une bonne solution, tellement la prise de décision et sujette au contexte.

[lilalex]

1) "Un ingénieur crée un bras robotisé destiné à blesser des humains"

Hum.. quelle est la nouvelle ?

Quand on lit cet article en diagonale, un peu comme tous les articles en fait, on ne comprend pas où on veut nous amener.
En regardant plus en détail on voit apparaître "Trolldi" dans le titre du message.

[Kal-if]

Quand on lit cet article en diagonale, un peu comme tous les articles en fait, on ne comprend pas où on veut nous amener.
En regardant plus en détail on voit apparaître "Trolldi" dans le titre du message.

Je souhaite pas trop participer au dénigrement de "Trolldi",
ce sujet a quand même fait débat ce qui suffit à mon sens
à faire avancer les réflexions (générales)

[picodev]

Quand on lit cet article en diagonale, un peu comme tous les articles en fait, on ne comprend pas où on veut nous amener.
En regardant plus en détail on voit apparaître "Trolldi" dans le titre du message.

Je souhaite pas trop participer au dénigrement de "Trolldi",
ce sujet a quand même fait débat ce qui suffit à mon sens
à faire avancer les réflexions (générales)

Bonjour,
au départ il n'y avait aucune mention de Trolldi. Cette discussion n'a pas apporté grand chose, àmha, sinon de montrer qu'en jetant un pavé dans une mare il y a des vagues qui s'évanouissent dès qu'elles atteignent la berge. On voit ici plus des «envies», des «espoirs», des «craintes» motivés par les sentiments qu'une véritable réflexion. En ce sens ça reste intéressant, mais plus sur la forme que le fond.