Discussion :

[Coriolan]

Un ingénieur crée un bras robotisé destiné à blesser des humains
Il agit volontairement, ignorant la première loi d'Asimov

Les trois lois de la robotique ont été formulées par l’écrivain de science-fiction Isaac Asimov, ce sont des règles auxquelles doivent obéir les robots positroniques qui apparaissent dans ses romans. Selon ces lois, un robot ne peut porter atteinte à un être humain ni en restant passif, permettre qu'un être humain soit exposé au danger. Il doit obéir également aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi. Enfin, un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Beaucoup de films comme Terminator illustrent comment des robots intelligents pourraient être une menace grave pour les humains, une crainte renforcée par l’augmentation de la complexité des robots et l’avancée considérable de la technologie en termes d’intelligence artificielle. C’est dans cette optique qu’un ingénieur de l’Université de Berkeley a créé un bras robotisé destiné à blesser des humains dès qu’ils se mettent à proximité. Le bras est équipé d’une lame fine qui bouge en direction de la chair humaine avec précision. La particularité de ce robot est qu’il est imprédictible, c’est-à-dire qu’il n’est pas programmé pour blesser des humains à la volée ; loin de là, il peut décider seul à l’aide d’un algorithme quelle action entreprendre. En d’autres termes, ce bras robotisé entre en conflit direct avec la première loi d’Asimov, qui stipule qu’un robot ne doit pas blesser un humain.

De nos jours, on est entré dans l’ère de la robotique, où des machines dotées d’intelligence artificielle sont supposées prendre des décisions autonomes, loin de l’intervention humaine. Un exemple de ces machines qui vont bientôt entrer en production en masse est les voitures sans conducteur. Ces voitures seront mises dans des scénarios où elles doivent décider à elles seules de sauver les passagers à bord ou bien donner la priorité à un groupe de piétons.

Les mouvances technophile et transhumaniste voient parfois les trois lois comme un idéal à venir. Beaucoup pensent qu’elles sont insuffisantes et ne correspondent pas à la problématique de l’intelligence artificielle. Asimov lui-même a été amené à corriger certaines imperfections de ses lois et a ajouté une quatrième loi, appelée loi zéro et statuant qu’un robot ne peut pas porter atteinte à l'humanité ni par son inaction, permettre que l'humanité soit exposée au danger. À noter aussi que les trois lois ne sont pas applicables pour les robots militaires qui peuvent avoir pour objectif de tuer des personnes humaines. Dans un tel cas, il est proposé que les robots puissent prendre des décisions éthiques.

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

Les hackers seront bientôt capables de s'infiltrer dans votre cerveau, en compromettant les interfaces de contrôle cérébral, d'après des chercheurs

[BufferBob]

Un ingénieur crée un bras robotisé destiné à blesser des humains
Il agit volontairement, ignorant la première loi d'Asimov

je suis le seul à trouver ça complètement con ?

il parait que d'autres chercheurs mettent en ce moment même au point un sèche cheveu géant permettant de faire fondre la calotte glacière bien plus vite, dans le but de prouver que Noé n'a pas pu construire une arche aussi rapidement...

[Askeridos]

je suis le seul à trouver ça complètement con ?

Non, rassures-toi, on est deux.

N'oublions pas qu'Isaac Asimov était un auteur de SF....

[Aurelien Plazzotta]

Il me semble que l'objectif de ce bras est d'évaluer les conséquences de l'imprédictibilité d'un automate. Un exemple est cité dans l'article : observer le comportement d'une machine autonome de type véhicule automobile, ayant la responsabilité de la vie d'êtres humains.

Les travaux dans le domaine de l'IA ont démontré qu'une machine appliquant les trois lois fondamentales d'Isaac Asimov peut donner des comportements absurdes en raison des absolus mathématiques qui empêchent parfois le robot de sortir d'un cercle vicieux interminable (voir l'expérience de l'uranium à extraire). C'est, je pense, la raison pour laquelle de nouveaux travaux comme celui cité dans ledit article tendent à explorer de nouvelles pistes en violant délibérément la première loi.

L'objectif actuel étant probablement pour un constructeur automobile de contrôler si le véhicule sans conducteur ne fait pas "pire" qu'un automobiliste humain dans une situation à grand danger (e.g. lorsqu'il n'est pas possible de sauver à la fois les passagers de la voiture ET les piétons qui traversent la rue). Le cas échéant, les pouvoirs publics voteront une législation favorable pour la commercialisation de masse de véhicules autonomes.

[NSKis]

Il me semble que l'objectif de ce bras est d'évaluer les conséquences de l'imprédictibilité d'un automate.

L'imprédictibilité d'un automate, cela n'existe pas!!!

Il y a un algorithme de régulation qui applique des règles en fonction d'informations entrantes (input) et qui règle des consignes de sortie (Output)


Prenons l'exemple de l'accident de la voiture Tesla qui ne s'est pas arrêtée et a foncé dans un camion en tuant son chauffeur.

Est-ce que ce comportement était impévisible??? Pas du tout, il suffisait au développeur de prendre en considération que la capteur de collision pouvait ne pas détecter un véhicule à cause de conditions météo particulières!!!


"L'imprédictibilité d'un automate", ce n'est rien d'autre que le programmeur qui n'a pas fait correctement son travail en prenant en compte tous les cas de figure

[Invité]

"L'imprédictibilité d'un automate", ce n'est rien d'autre que le programmeur qui n'a pas fait correctement son travail en prenant en compte tous les cas de figure

Ce qui n'empêche pas son imprédictibilité. Personne n'a dit que les eurreurs n'étaient pas de la faute de l'humain derrière. Et dès lors qu'une machine devient suffisamment complexe, elle devient imprévisible pour le commun des mortels qui ne comprend pas le cheminement de pensée de la machine. Elle est donc imprévisible pour toute autre personne que son créateur et, éventuellement, pour son créateur lui-même à partir du moment où il oublie certaines instructions et/ou s'il a fait des erreurs.

Pour ma part, je m'interroge sur l'applicabilité des lois d'Asimov sur le moyen terme. À mon avis, il y aura des tentatives. Le jour où on y parviendra, ce sera la fin de l'être humain tel qu'on le connaît. Moi, vous me trouverez dans les souterrains avec les résistants

[Matthieu Vergne]

L'imprédictibilité d'un automate, cela n'existe pas!!!

Il y a un algorithme de régulation qui applique des règles en fonction d'informations entrantes (input) et qui règle des consignes de sortie (Output)

Il serait temps que tu réfléchisse avant d'écrire. Oui l'imprédictibilité d'un automate existe, et cela précisément du fait de ce que tu as écris : ça ne dépend pas que du programme, qui lui est déterminé, mais aussi des entrées, qui elles peuvent être imprédictibles. Le principe même d'un apprentissage automatique est de dépendre beaucoup plus des entrées que du programme, ce dernier restant très "basique".

Tu pourras le répéter ou le reformuler autant de fois que tu voudras, le comportement d'un automate peut être imprédictible, que tu le souhaites ou non.

Je passe sur ton commentaires sur les capteurs. Un bouton poussoir ou un capteur de lumière, ça coûte pas bien cher aujourd'hui. Le coût étant surtout dans la miniaturisation et la complexité des capteurs.

Ben si justement. Si le créateur de la machine veut que les lois d'Asimov soient appliquées et s'il arrive à la programmer, les lois d'Asimov deviennent réalité.
Pour ma part, il me semble tout à fait réaliste de programmer des automates de cette manière.

Ces lois s'appuyant sur des concepts abstraits, elles ne sont pas implémentables en l'état. Pour pouvoir le faire, il faut par exemple d'abord décider de ce qu'on appelle être humain (e.g. il ne faut pas oublié les handicapés, mais il faut exclure les cadavres) ou de ce qu'on veut dire par blesser (notamment différencier faire une piqûre de vaccins et trouer la peau avec une seringue). Et ça, c'est le programmeur qui le fait, sinon la machine qui doit l'apprendre. Dans le premier cas, on est sujet à l'arbitraire du programmeur, dans le second à la difficulté d'enseigner ces concepts à la machine. Les règles en elle-même n'étant pas implémentables, elles sont tout simplement inutilisables pour une machine programmée à l'heure actuelle.

[yoyo3d]

Dans un tel cas, il est proposé que les robots puissent prendre des décisions éthiques.

ha ba elle est balaise celle là...y à pas plus inhumain que l'être humain... et on veut demander à des machines programmées par l'homme de prendre des décisions éthiques....

Du point de vue informatique je serais curieux de voir comment il à programmer son "Agression" qui va à l'encontre des lois d'Asimov. et du point de vue philosophique, y à certainement des recherches plus stupide que celle la, mais y aussi des sujets plus utiles...

[Oelth]

Il y a quelque chose qui me dérange dans toutes ces règles énoncées et appliquées dans le monde de l'IA (ou alors j'ai raté un épisode).
Sachant qu'on tend à créer des machines capables de penser/raisonner, cela en fait des entités "vivantes" dans un certain sens. Du coup, à mon sens, ces lois permettent certes de nous protéger contre d'éventuelles dérives des IA, mais elles ont surtout pour objectif d'asservir les IA à l'homme. Ça me fait fortement penser à une nouvelle forme d'esclavage...

[Haseo86]

Au delà du fait qu'on se demande quel est l'intérêt d'avoir fabriquer ce robot si ce n'est faire parler de lui, je ne comprend pas le "débat".

En quoi est-ce étonnant qu'un robot ne respecte pas les lois d'Asimov ? C'est pas comme s'il s'agissait d'une règle universelle, que tous les hommes avaient jurés de toujours respecter, ou s'il s'agissait d'une espèce de vérité absolue, comme si Asimov était intrinsèquement un modèle de pensée pour toute intelligence artificielle à venir.

Vraiment je ne comprend pas ce qu'essaie de nous dire cet article, ni finalement ce qu'essaie de prouver le créateur du robot. En quoi est-ce surprenant, en quoi cela soulève-t-il des questions particulières ? Je veux dire, il y a vraiment des gens qui pensaient qu'on ne pouvait pas créer un robot qui pourrait décider aléatoirement de blesser un doigt qui passe par là ? Ou quoi, que le robot aurait de lui-même dit "non non, c'est un humain, je peux pas le blesser, bouh, c'est mal" ?

Sans parler du gars qui fait une vidéo de 30 secondes, sans réelle explication, mais en montrant pendant deux tiers du temps son doigt qui saigne (c'est cool mon gars, tu saignes, c'est bien, on passe à autre chose ?), et qui a clairement, vu son site, plus une démarche artistique que scientifique. On ne sait rien de sa démarche, de la façon dont le robot décide. Pour ce qu'on en sait ça peut très ben être juste un tirage aléatoire quand quelque chose se présente sur le capteur, sans chercher à savoir si c'est humain ou non, et sans réel processus de décision. Et il affirme avoir créé le premier robot de ce genre, et franchement j'en doute très fortement.

Bref, je veux bien qu'on m'explique l'intérêt de tout ça (pas des réflexions sur l'éthique en robotique hein, l'intérêt de faire des publications autour de ce bras articulé).

[esperanto]

En quoi est-ce étonnant qu'un robot ne respecte pas les lois d'Asimov ? C'est pas comme s'il s'agissait d'une règle universelle, que tous les hommes avaient jurés de toujours respecter, ou s'il s'agissait d'une espèce de vérité absolue, comme si Asimov était intrinsèquement un modèle de pensée pour toute intelligence artificielle à venir.

Rien que cette phrase rend l'article ridicule. D'une qui à dit que les lois d'une roman de fiction était la vérité absolue ? Si c'était le cas, il n'y aurait aucun accident avec les robots dans l'industrie. Un robot, par définition ça fait ce qu'on lui a programmé, si c'est de trancher de tête, il le ferra sans le moindre remord. Oui, il faudrait déjà lui faire comprendre ce qu'est le remord, l'empathie, la morale, l'éthique... des notions purement humaine qui peuvent varier d'une individu à l'autre, d'une culture à une autre.

Surtout que c'est une très mauvaise compréhension de ce qu'écrivait Asimov.
Si on ne lit que le texte des 3 lois, on pourrait effectivement les comprendre comme un axiome, c'est à dire que le concept même de robot ferait que celui qui ne les respecte pas ce n'est pas un robot mais autre chose.
Alors que dans les romans on sent bien qu'en fait, les personnages qui ont conçu les premiers robots, flairant le danger, ont en quelque sorte, pour reprendre une terminologie informatique, décidé de coder ces règles en dur dans le composant le plus fondamental du robot, son cerveau.
Et plus tard, des auteurs auxquels Asimov avait donné son aval ont exploré l'idée qu'un nouveau savant créant un nouveau cerveau from scratch voit son travail récupéré par un autre qui cherchait juste un moyen de contourner les trois lois - ce qui prouve bien que c'était le monopole sur les cerveaux qui faisait tenir les trois lois dans le marbre, rien d'autre.

[Zefling]

Il agit volontairement, ignorant la première loi d'Asimov

Rien que cette phrase rend l'article ridicule. D'une qui à dit que les lois d'une roman de fiction était la vérité absolue ? Si c'était le cas, il n'y aurait aucun accident avec les robots dans l'industrie. Un robot, par définition ça fait ce qu'on lui a programmé, si c'est de trancher de tête, il le ferra sans le moindre remord. Oui, il faudrait déjà lui faire comprendre ce qu'est le remord, l'empathie, la morale, l'éthique... des notions purement humaine qui peuvent varier d'une individu à l'autre, d'une culture à une autre.

[Waikiki]

Ca peut toujours être utile pour les diabétiques qui ont peur de se piquer le doigt pour leur contrôle de glycémie.

[Cincinnatus]

Ca peut toujours être utile pour les diabétiques qui ont peur de se piquer le doigt pour leur contrôle de glycémie.

Là, ça n'enfreint pas forcément la première loi de la robotique. Il faut mettre en balance la douleur causée par la piqûre et le bénéfice de ce contrôle pour la santé du patient. Asimov a beaucoup écrit sur ce sujet des limites des 3 lois.

[vttman]

Welcome machine !

Et si la machine ne cherchait pas à blesser notre ingénieur ?
Et par cette action, elle nous démontrait, à sa manière, sa capacité
à percer avec précision la peau humaine et nous soufflait à l'oreille qu'en la perfectionnant plus avant,
elle serait capable de prélever, en série, un peu de sang pour des analyses ultérieures ...
Ou injecter de l'encre ...

[Gugelhupf]

Ce robot semble avoir un cerveau positronique défectueux, l'homme à qui il aurait causé la piqure sanglante serait mort dans des circonstances douteuses... Il faut vite appeler l'inspecteur Elijah Bailey pour résoudre cette enquête.

[Ryu2000]

Il existe un documentaire à propos de robot et d'utilisation militaire.
Je crois que c'est The Dawn of Killer Robots :

Si je ne me trompe pas à un moment ça pose la question de qui est responsable si un robot tue quelqu'un.
Une entreprise commercialise des robots programmable, par exemple on peut acheter un drone autonome, lui installer un fusil d’assaut et créer un programme qui lui permet d'utiliser ce fusil d'assaut.
Si le drone tue quelqu'un est-ce de la faute à l'entreprise, au développeur ou à quelqu'un d'autre ?

[hotcryx]

Ca peut toujours être utile pour les diabétiques qui ont peur de se piquer le doigt pour leur contrôle de glycémie.

pour se choper le sida..., c'est une belle machine
Ils y ont pensé?!

[forthx]

ca ressemble a un exercice d’école, 2 étudiants devant le bras robot avant le tp:
- tu imagine si on pouvais faire un robot qui joue a la roulette russe ?
- trop cool ! mais c'est con : le bras il a pas de tete !
- ben on a qu'a le faire jouer avec un humain...
- Ha mais ca va pas, Asimov a dit que ...
- Pour le moment c'est contraire a aucune loi ! par contre mon gun rentre pas dans la pince du robot.
- pas grave on a qu'a lui donner un sarbe, on appellera ca la "coupette russe".
- tu a un sabre toi ?
- non, j'ai juste une épingle...
- aller envoi, félicitation tu est l'heureux créateur de la "piquette russe"
- Du coup on va devoir faire un random sur l'attaque du robot
...
- Hé Kevin vien voir ! On a un truc génial a te montré ! Regarde, met ton doit la...
- AIE !

[olikaf]

Heuuu...
Il met le doigt dans un bon vieux piège à rat, ca fait mal aussi...



Pas besoin d'un cyborg.