Discussion :

[Coriolan]

Un ingénieur crée un bras robotisé destiné à blesser des humains
Il agit volontairement, ignorant la première loi d'Asimov

Les trois lois de la robotique ont été formulées par l’écrivain de science-fiction Isaac Asimov, ce sont des règles auxquelles doivent obéir les robots positroniques qui apparaissent dans ses romans. Selon ces lois, un robot ne peut porter atteinte à un être humain ni en restant passif, permettre qu'un être humain soit exposé au danger. Il doit obéir également aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi. Enfin, un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Beaucoup de films comme Terminator illustrent comment des robots intelligents pourraient être une menace grave pour les humains, une crainte renforcée par l’augmentation de la complexité des robots et l’avancée considérable de la technologie en termes d’intelligence artificielle. C’est dans cette optique qu’un ingénieur de l’Université de Berkeley a créé un bras robotisé destiné à blesser des humains dès qu’ils se mettent à proximité. Le bras est équipé d’une lame fine qui bouge en direction de la chair humaine avec précision. La particularité de ce robot est qu’il est imprédictible, c’est-à-dire qu’il n’est pas programmé pour blesser des humains à la volée ; loin de là, il peut décider seul à l’aide d’un algorithme quelle action entreprendre. En d’autres termes, ce bras robotisé entre en conflit direct avec la première loi d’Asimov, qui stipule qu’un robot ne doit pas blesser un humain.

De nos jours, on est entré dans l’ère de la robotique, où des machines dotées d’intelligence artificielle sont supposées prendre des décisions autonomes, loin de l’intervention humaine. Un exemple de ces machines qui vont bientôt entrer en production en masse est les voitures sans conducteur. Ces voitures seront mises dans des scénarios où elles doivent décider à elles seules de sauver les passagers à bord ou bien donner la priorité à un groupe de piétons.

Les mouvances technophile et transhumaniste voient parfois les trois lois comme un idéal à venir. Beaucoup pensent qu’elles sont insuffisantes et ne correspondent pas à la problématique de l’intelligence artificielle. Asimov lui-même a été amené à corriger certaines imperfections de ses lois et a ajouté une quatrième loi, appelée loi zéro et statuant qu’un robot ne peut pas porter atteinte à l'humanité ni par son inaction, permettre que l'humanité soit exposée au danger. À noter aussi que les trois lois ne sont pas applicables pour les robots militaires qui peuvent avoir pour objectif de tuer des personnes humaines. Dans un tel cas, il est proposé que les robots puissent prendre des décisions éthiques.

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

Les hackers seront bientôt capables de s'infiltrer dans votre cerveau, en compromettant les interfaces de contrôle cérébral, d'après des chercheurs

[BufferBob]

Un ingénieur crée un bras robotisé destiné à blesser des humains
Il agit volontairement, ignorant la première loi d'Asimov

je suis le seul à trouver ça complètement con ?

il parait que d'autres chercheurs mettent en ce moment même au point un sèche cheveu géant permettant de faire fondre la calotte glacière bien plus vite, dans le but de prouver que Noé n'a pas pu construire une arche aussi rapidement...

[Askeridos]

je suis le seul à trouver ça complètement con ?

Non, rassures-toi, on est deux.

N'oublions pas qu'Isaac Asimov était un auteur de SF....

[Aurelien Plazzotta]

Il me semble que l'objectif de ce bras est d'évaluer les conséquences de l'imprédictibilité d'un automate. Un exemple est cité dans l'article : observer le comportement d'une machine autonome de type véhicule automobile, ayant la responsabilité de la vie d'êtres humains.

Les travaux dans le domaine de l'IA ont démontré qu'une machine appliquant les trois lois fondamentales d'Isaac Asimov peut donner des comportements absurdes en raison des absolus mathématiques qui empêchent parfois le robot de sortir d'un cercle vicieux interminable (voir l'expérience de l'uranium à extraire). C'est, je pense, la raison pour laquelle de nouveaux travaux comme celui cité dans ledit article tendent à explorer de nouvelles pistes en violant délibérément la première loi.

L'objectif actuel étant probablement pour un constructeur automobile de contrôler si le véhicule sans conducteur ne fait pas "pire" qu'un automobiliste humain dans une situation à grand danger (e.g. lorsqu'il n'est pas possible de sauver à la fois les passagers de la voiture ET les piétons qui traversent la rue). Le cas échéant, les pouvoirs publics voteront une législation favorable pour la commercialisation de masse de véhicules autonomes.

[Oelth]

Il y a quelque chose qui me dérange dans toutes ces règles énoncées et appliquées dans le monde de l'IA (ou alors j'ai raté un épisode).
Sachant qu'on tend à créer des machines capables de penser/raisonner, cela en fait des entités "vivantes" dans un certain sens. Du coup, à mon sens, ces lois permettent certes de nous protéger contre d'éventuelles dérives des IA, mais elles ont surtout pour objectif d'asservir les IA à l'homme. Ça me fait fortement penser à une nouvelle forme d'esclavage...

[yoyo3d]

Dans un tel cas, il est proposé que les robots puissent prendre des décisions éthiques.

ha ba elle est balaise celle là...y à pas plus inhumain que l'être humain... et on veut demander à des machines programmées par l'homme de prendre des décisions éthiques....

Du point de vue informatique je serais curieux de voir comment il à programmer son "Agression" qui va à l'encontre des lois d'Asimov. et du point de vue philosophique, y à certainement des recherches plus stupide que celle la, mais y aussi des sujets plus utiles...

[Haseo86]

Au delà du fait qu'on se demande quel est l'intérêt d'avoir fabriquer ce robot si ce n'est faire parler de lui, je ne comprend pas le "débat".

En quoi est-ce étonnant qu'un robot ne respecte pas les lois d'Asimov ? C'est pas comme s'il s'agissait d'une règle universelle, que tous les hommes avaient jurés de toujours respecter, ou s'il s'agissait d'une espèce de vérité absolue, comme si Asimov était intrinsèquement un modèle de pensée pour toute intelligence artificielle à venir.

Vraiment je ne comprend pas ce qu'essaie de nous dire cet article, ni finalement ce qu'essaie de prouver le créateur du robot. En quoi est-ce surprenant, en quoi cela soulève-t-il des questions particulières ? Je veux dire, il y a vraiment des gens qui pensaient qu'on ne pouvait pas créer un robot qui pourrait décider aléatoirement de blesser un doigt qui passe par là ? Ou quoi, que le robot aurait de lui-même dit "non non, c'est un humain, je peux pas le blesser, bouh, c'est mal" ?

Sans parler du gars qui fait une vidéo de 30 secondes, sans réelle explication, mais en montrant pendant deux tiers du temps son doigt qui saigne (c'est cool mon gars, tu saignes, c'est bien, on passe à autre chose ?), et qui a clairement, vu son site, plus une démarche artistique que scientifique. On ne sait rien de sa démarche, de la façon dont le robot décide. Pour ce qu'on en sait ça peut très ben être juste un tirage aléatoire quand quelque chose se présente sur le capteur, sans chercher à savoir si c'est humain ou non, et sans réel processus de décision. Et il affirme avoir créé le premier robot de ce genre, et franchement j'en doute très fortement.

Bref, je veux bien qu'on m'explique l'intérêt de tout ça (pas des réflexions sur l'éthique en robotique hein, l'intérêt de faire des publications autour de ce bras articulé).

[Zefling]

Il agit volontairement, ignorant la première loi d'Asimov

Rien que cette phrase rend l'article ridicule. D'une qui à dit que les lois d'une roman de fiction était la vérité absolue ? Si c'était le cas, il n'y aurait aucun accident avec les robots dans l'industrie. Un robot, par définition ça fait ce qu'on lui a programmé, si c'est de trancher de tête, il le ferra sans le moindre remord. Oui, il faudrait déjà lui faire comprendre ce qu'est le remord, l'empathie, la morale, l'éthique... des notions purement humaine qui peuvent varier d'une individu à l'autre, d'une culture à une autre.

[Waikiki]

Ca peut toujours être utile pour les diabétiques qui ont peur de se piquer le doigt pour leur contrôle de glycémie.

[Cincinnatus]

Ca peut toujours être utile pour les diabétiques qui ont peur de se piquer le doigt pour leur contrôle de glycémie.

Là, ça n'enfreint pas forcément la première loi de la robotique. Il faut mettre en balance la douleur causée par la piqûre et le bénéfice de ce contrôle pour la santé du patient. Asimov a beaucoup écrit sur ce sujet des limites des 3 lois.

[vttman]

Welcome machine !

Et si la machine ne cherchait pas à blesser notre ingénieur ?
Et par cette action, elle nous démontrait, à sa manière, sa capacité
à percer avec précision la peau humaine et nous soufflait à l'oreille qu'en la perfectionnant plus avant,
elle serait capable de prélever, en série, un peu de sang pour des analyses ultérieures ...
Ou injecter de l'encre ...

[Gugelhupf]

Ce robot semble avoir un cerveau positronique défectueux, l'homme à qui il aurait causé la piqure sanglante serait mort dans des circonstances douteuses... Il faut vite appeler l'inspecteur Elijah Bailey pour résoudre cette enquête.

[forthx]

ca ressemble a un exercice d’école, 2 étudiants devant le bras robot avant le tp:
- tu imagine si on pouvais faire un robot qui joue a la roulette russe ?
- trop cool ! mais c'est con : le bras il a pas de tete !
- ben on a qu'a le faire jouer avec un humain...
- Ha mais ca va pas, Asimov a dit que ...
- Pour le moment c'est contraire a aucune loi ! par contre mon gun rentre pas dans la pince du robot.
- pas grave on a qu'a lui donner un sarbe, on appellera ca la "coupette russe".
- tu a un sabre toi ?
- non, j'ai juste une épingle...
- aller envoi, félicitation tu est l'heureux créateur de la "piquette russe"
- Du coup on va devoir faire un random sur l'attaque du robot
...
- Hé Kevin vien voir ! On a un truc génial a te montré ! Regarde, met ton doit la...
- AIE !

[Ryu2000]

Il existe un documentaire à propos de robot et d'utilisation militaire.
Je crois que c'est The Dawn of Killer Robots :

Si je ne me trompe pas à un moment ça pose la question de qui est responsable si un robot tue quelqu'un.
Une entreprise commercialise des robots programmable, par exemple on peut acheter un drone autonome, lui installer un fusil d’assaut et créer un programme qui lui permet d'utiliser ce fusil d'assaut.
Si le drone tue quelqu'un est-ce de la faute à l'entreprise, au développeur ou à quelqu'un d'autre ?

[olikaf]

Heuuu...
Il met le doigt dans un bon vieux piège à rat, ca fait mal aussi...



Pas besoin d'un cyborg.

[plegat]

Qu'en pensez-vous ?

+1 avec forthx

J'en pense que les gars ont programmé la première loi dans leur "robot" de la même manière que les kuka qu'on a sur les chaines de fabrication ici...

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
public void firstLaw() {
    // to be done later
}

A la différence près que nos kuka, on les a mis dans des cages grillagées au cas où un intrépide qui aurait lu Asimov s'imagine qu'il ne risque rien...

[esperanto]

En quoi est-ce étonnant qu'un robot ne respecte pas les lois d'Asimov ? C'est pas comme s'il s'agissait d'une règle universelle, que tous les hommes avaient jurés de toujours respecter, ou s'il s'agissait d'une espèce de vérité absolue, comme si Asimov était intrinsèquement un modèle de pensée pour toute intelligence artificielle à venir.

Rien que cette phrase rend l'article ridicule. D'une qui à dit que les lois d'une roman de fiction était la vérité absolue ? Si c'était le cas, il n'y aurait aucun accident avec les robots dans l'industrie. Un robot, par définition ça fait ce qu'on lui a programmé, si c'est de trancher de tête, il le ferra sans le moindre remord. Oui, il faudrait déjà lui faire comprendre ce qu'est le remord, l'empathie, la morale, l'éthique... des notions purement humaine qui peuvent varier d'une individu à l'autre, d'une culture à une autre.

Surtout que c'est une très mauvaise compréhension de ce qu'écrivait Asimov.
Si on ne lit que le texte des 3 lois, on pourrait effectivement les comprendre comme un axiome, c'est à dire que le concept même de robot ferait que celui qui ne les respecte pas ce n'est pas un robot mais autre chose.
Alors que dans les romans on sent bien qu'en fait, les personnages qui ont conçu les premiers robots, flairant le danger, ont en quelque sorte, pour reprendre une terminologie informatique, décidé de coder ces règles en dur dans le composant le plus fondamental du robot, son cerveau.
Et plus tard, des auteurs auxquels Asimov avait donné son aval ont exploré l'idée qu'un nouveau savant créant un nouveau cerveau from scratch voit son travail récupéré par un autre qui cherchait juste un moyen de contourner les trois lois - ce qui prouve bien que c'était le monopole sur les cerveaux qui faisait tenir les trois lois dans le marbre, rien d'autre.

[pik_0fr]

Est ce que le robot viole la loi et que cette dernière a été implémenté dans sa logique, sinon elle ne viole pas la loi.

[NSKis]

Les lois de Isaac Asimov??? Voilà bien l'exemple typique de "la masturbation intellectuelle" des élites culturelles qui se proposent d'enseigner au monde ce qui est juste ou non... Les journalistes en sont un bel exemple.

1. Ces lois ne sont reconnues par personne.

2. Ces lois ne sont pas appliquables aux robots actuels qui ne sont pas doués d'intelligence mais qui sont simplement gérés par un programme informatique. C'est le programmeur qui décide des choix fait ultérieurement par le robot.

3. Les lois de Asimov ont été listées dans un livre de science-fiction justement parce que avoir un robot muni d'une conscience qui lui permet de lui-même de décider du bien et du mal est de la science-fiction!!!


Et il n'a pas fallu attendre les délires de l'ingénieur en question pour se rendre compte que les lois de Asimov, tout le monde s'en balance!!!

Est-ce que la voiture autonome Google qui doit choisir entre renverser un passant ou tuer son passager en évitant le passant et en foncant dans un mur suit une quelconque loi de Asimov? Si il y avait une vraie Intelligence Artificielle, le choix devrait être différent selon les circonstances, ce ne sera pas le cas: Il va y avoir un choix de Google qui va décider une bonne fois pour toute dans l'algo si c'est le passager ou le passant qui finit à la morgue!!!

Est-ce que les robots tueur (arme munie de détecteur avec déclenchement automatique du tir) placés le long de certaines frontières (par exemple en Israel) suivent une quelconque loi de Asimov?

[NSKis]

Une entreprise commercialise des robots programmable, par exemple on peut acheter un drone autonome, lui installer un fusil d’assaut et créer un programme qui lui permet d'utiliser ce fusil d'assaut.

Si le drone tue quelqu'un est-ce de la faute à l'entreprise, au développeur ou à quelqu'un d'autre ?

Et bien mon gars, cela va dépendre de la justice des hommes!!!

En Europe, seul le développeur qui a monté le fusil sur le drone dans le but de tuer quelqu'un sera responsable devant la justice (au pire quelques années de prison).

Aux USA, le développeur prendra 250 ans de prison (effet cumulatif des peines du style: 10 ans pour avoir eu l'idée de monter un fusil + 10 ans pour avoir voulu tuer quelqu'un, etc.) et le fabricant va se retrouver avec des centaines de millions de dommages et intérêts à payer parce qu'il n'a pas indiqué dans le mode d'emploi du drone que le montage d'un fusil sur le drone est interdit!!!