Discussion :

[BigJambo]

Bonjour,

Je voudrais avoir votre avis pour savoir si le 3 lois d'Isaac Asimov sont suffisantes au non pour la construction d'un système intelligent ?

Rappel :

1. un robot ne doit pas mettre la vie d'un être humain en danger par son action ou son inaction,
2. un robot doit obéir aux ordres d'un être humain sauf si ceux-ci déroge à la première règle,
3. Un robot doit protéger sa propre existence aussi longtemps que cette règle ne déroge pas aux deux règles précédentes.

Ces lois sont-elles applicables ?

Si ces règles ne sont pas à remettre en cause, leur implémentation peut être délicate.

En effet, cela signifie également que les systèmes dont on parle sont capables d'avoir un niveau d'abstraction élevé ou que les règles qui ont été définies sont suffisamment précises.

Si la première règle ne souffre d'aucune ambiguité, ce n'est pas le cas des deux autres.

Cependant, comme Issac Asimov l'a démontré dans Robots, il semble bien qu'elles ne soient pas suffisantes.

Êtes-vous d'accord ou non avec cela ?

Vous pouvez me retrouver sur le projet NGM.

[plegat]

Si la première règle ne souffre d'aucune ambiguité, ce n'est pas le cas des deux autres.

Euh... fais un petit tour sur la rocade aux heures de pointe avec ton/ta copain/copine, et après l'avoir entendu/e hurler que tu mettais sa vie en danger à chaque changement de file, tu comprendras que la première règle est aussi ambiguë que les deux autres!

Cependant, comme Issac Asimov l'a démontré dans Robots, il semble bien qu'elles ne soient pas suffisantes.

Êtes-vous d'accord ou non avec cela ?

Jusqu'à preuve du contraire, oui.
Isaac a énoncé les règles, Isaac a montré qu'elles pouvaient être foireuses dans certaines circonstances, donc je vais faire confiance à Isaac. C'est toujours délicat de ne pas être d'accord avec un gars qui vous montre que ça marche pas...

Donc la solution: la 4ème règle!

[BigJambo]

La première règle ne souffre pas d'ambiguité.

Si tu changes de file sur la rocade, pourquoi le fais-tu si tu sais que cela est dangereux ? N'est-il pas suffisant de rouler à la vitesse où tu roules ? Seras-tu beaucoup en retard si tu roules moins vite ?

Si ce n'est pas dangereux, tu ne mets donc pas ta copine en danger.

Peut-être faudrait-il préciser ce qu'il faut comprendre par "en danger" ?

Par contre, il me semble bien que tu n'as pas voté, ce n'est pas obligatoire mais cela me permettrait d'avoir un sondage qui soit un reflet de l'avis des personnes qui sont passé sur la conversation.

Quelles autres règles devrait-on appliquer ? Des règles morales, religieuses, philosophiques, d'autres types (lesquels) ?

[edfed]

un système intelligent arrivera à la conclusion que l'homme est un nuisible et que les 3 règles d'azimoffe sont totalement ridicules e purement flateuses pour nous, les zommes.
un système intelligent sera capable de s'améliorer lui même, sans l'aide du moindre cerveau humain, et donc, déduira par les actions de contrôles de ces derniers qu'il faut les exterminer.

un système intelligent sera aussi bête et méchant qu'un enfant, le temps qu'il acquise de la maturité et de la sagesse.

le premier système intelligent sera le fruit du travail d'esprits super intelligents du même type que les chercheurs qui ont inventé la bombe atomique. des hommes brillants au niveau technique, avec des QI supérieurs, mais complement lamentables au niveau spirituel et social, avec des oeillères leur permettant de faire abstraction du monde reel. ce qui donne des missilles à tete chercheuse d'une très haute technicité, des centres de gestion financiers très avancés, capables de ruiner des pays entiers en trois clics, etc... bref, le produit de cerveaux super intelligents, mais horriblement idiots.

sinon, un système intelligent peut aussi etre fait par un savant fou isolé, mais là, il faudra se tenir loin de toute machine reliée à internet, car ça risque de faire mal, très mal.

voilà ce que je vois dans système intelligent.

[Clercq]

Y a pas de choix qui me conviennent ^^

Pour ne pas polémiqué sur la possibilité, la manière ... Je pars du fait d'un système intelligent. Par système intelligent j'utilise l'abstraction désignant l'intelligence humaine.

Donc, ayant un système intelligent comme nous le somme, donc capable de la même réflexion... Pourquoi ne serait-il pas simplement soumis a nos loi ?

Je pense simplement que la volonté de trouver des loi qui s'appliquerait a un tels système est simplement une matérialisation de nos peur. Et je pense d'une peur particulière qui est la peur de nous même.

Commencer a vouloir parquer ces systèmes comme il est fait en voulant créer des loi, crée en soit le problème. Si un tels système existait dans un futur aussi proche ou lointain soit il, il faudrait juste le laisser s’intégrer dans notre monde comme tout être vivant.

[plegat]

La première règle ne souffre pas d'ambiguité.
[...]
Peut-être faudrait-il préciser ce qu'il faut comprendre par "en danger" ?

Tu te contredis là... pourquoi vouloir préciser si il n'y a pas d'ambiguité?
C'est celà que je voulais dire en disant que la première règle est aussi ambiguë que les deux autres.

Si tu changes de file sur la rocade, pourquoi le fais-tu si tu sais que cela est dangereux ?

Je n'ai jamais dit que c'était dangereux moi... c'est ma copine qui l'a dit. Sur quelle base puis-je dire qu'une situation est dangereuse, alors que ma copine en a apparemment d'autres pour dire que ça l'est? Même situation, spatiale et temporelle, vision différente. Si on extrapole ça à deux robots, ils vont réagir de manière différente? ou pas? Ont-ils les mêmes données de la scène? Un manque de données sur un danger peut-elle être considérée comme un risque d'inaction?
L'énoncé de la règle est clair. Son application est ambiguë.
Les deux autres règles sont dans le même cas...

Quelles autres règles devrait-on appliquer ? Des règles morales, religieuses, philosophiques, d'autres types (lesquels) ?

morales, religieuses et philosophiques, ça va faire intervenir un parti pris qui ne sera pas perçu de la même manière par tout le monde... donc non, pas de règle de ce type. Il faut de l'universalité, qu'elles soient applicables et compréhensibles par tout le monde (même si déjà la notion de vie et de mort n'est pas une notion universelle, compte tenu de la "pollution" morale, religieuse, philosophique... de chacun)

Par contre, il me semble bien que tu n'as pas voté, ce n'est pas obligatoire mais cela me permettrait d'avoir un sondage qui soit un reflet de l'avis des personnes qui sont passé sur la conversation.

un oubli, réparé!

[BigJambo]

un système intelligent arrivera à la conclusion que l'homme est un nuisible et que les 3 règles d'azimoffe sont totalement ridicules e purement flateuses pour nous, les zommes..

un système intelligent sera capable de s'améliorer lui même, sans l'aide du moindre cerveau humain, et donc, déduira par les actions de contrôles de ces derniers qu'il faut les exterminer..

Je ne suis pas tout à fait d'accord. Il serait tout à fait possible de faire en sorte qu'un certains nombre de règles ne soient pas modifiables et toujours mises en oeuvre, à côté d'autres qui elles pourraient l'être.

Et cela de ma même façon que pour marcher debout, il faut mettre un pied devant l'autre, mais que pour faire du saut en hauteur, il existe plusieurs façon de faire.

un système intelligent sera aussi bête et méchant qu'un enfant, le temps qu'il acquise de la maturité et de la sagesse.

Je suis assez d'accord avec toi sur ce point, mais il existe toujours des solutions à un problème. Il serait possible par exemple (et comme on le fait avec nos propres enfants) de ne mettre ces systèmes intelligents en service qu'après les avoir mis dans une "crêche", cela leur permettrait d'apprendre les bases d'une vie en communauté et à leur concepteur de valider la possibilité de leur mise en servie.

le premier système intelligent sera le fruit du travail d'esprits super intelligents du même type que les chercheurs qui ont inventé la bombe atomique. des hommes brillants au niveau technique, avec des QI supérieurs, mais complement lamentables au niveau spirituel et social, avec des oeillères leur permettant de faire abstraction du monde reel. ce qui donne des missilles à tete chercheuse d'une très haute technicité, des centres de gestion financiers très avancés, capables de ruiner des pays entiers en trois clics, etc... bref, le produit de cerveaux super intelligents, mais horriblement idiots.

sinon, un système intelligent peut aussi etre fait par un savant fou isolé, mais là, il faudra se tenir loin de toute machine reliée à internet, car ça risque de faire mal, très mal.

voilà ce que je vois dans système intelligent.

C'est la raison pour laquelle nous ne devons pas laisser des pays (Japon, Corée du Sud, Suisse, etc.) , des sociétés privées, des organisations militaires (Minisère de la Défense des USA, autre ?) de mettre en oeuvre ce type de système.

[BigJambo]

Y a pas de choix qui me conviennent ^^.

Je ne sais pas s'il est possible de modifier le sondage mais quel choix voudrais-tu voir ?

S'il est possible de le modifier, je pourrais éventuellement le rajouter.

Pour ne pas polémiqué sur la possibilité, la manière ... Je pars du fait d'un système intelligent. Par système intelligent j'utilise l'abstraction désignant l'intelligence humaine.

Donc, ayant un système intelligent comme nous le somme, donc capable de la même réflexion... Pourquoi ne serait-il pas simplement soumis a nos loi ?

Je pense simplement que la volonté de trouver des loi qui s'appliquerait a un tels système est simplement une matérialisation de nos peur. Et je pense d'une peur particulière qui est la peur de nous même.

Commencer a vouloir parquer ces systèmes comme il est fait en voulant créer des loi, crée en soit le problème. Si un tels système existait dans un futur aussi proche ou lointain soit il, il faudrait juste le laisser s’intégrer dans notre monde comme tout être vivant.

Je pense que si nous ne créons pas de règles spéciales nous dédouannerons les concepteurs, les constructeurs de leurs responsabilités.

De plus, cela signifie que nous ne considérerons plus les systèmes intelligents comme des machines mais comme des "êtres" supérieurs à nos propres animaux domestiques.

[BigJambo]

Tu te contredis là... pourquoi vouloir préciser si il n'y a pas d'ambiguité?
C'est celà que je voulais dire en disant que la première règle est aussi ambiguë que les deux autres.

Allez, je veux bien que je me contredise. Alors cela veut dire que ces lois sont incomplètes et qu'il faut les préciser.

Je n'ai jamais dit que c'était dangereux moi... c'est ma copine qui l'a dit. Sur quelle base puis-je dire qu'une situation est dangereuse, alors que ma copine en a apparemment d'autres pour dire que ça l'est? Même situation, spatiale et temporelle, vision différente. Si on extrapole ça à deux robots, ils vont réagir de manière différente? ou pas? Ont-ils les mêmes données de la scène? Un manque de données sur un danger peut-elle être considérée comme un risque d'inaction?

En effet, ta copine a dit que c'était dangereux mais c'est soit qu'elle ne sait pas conduire, soit qu'elle n'a pas fait les corrections adaptée à la place qu'elle occupe (la place du passager avant je suppose). En effet, la vision que l'on a à cette place est différente. Je me rappelle les premiers moments où j'étais à cette place après avoir pris des leçons de conduite, j'essayais toujours d'appuyer sur la pédale de frein qui n'existait pas mais ça se corrige très bien.

L'énoncé de la règle est clair. Son application est ambiguë.
Les deux autres règles sont dans le même cas...

Je préfère dire qu'elles ne sont sûrement pas assez précises. Peut-être faudrait-il faire un travail de précision de ces règles ?

morales, religieuses et philosophiques, ça va faire intervenir un parti pris qui ne sera pas perçu de la même manière par tout le monde... donc non, pas de règle de ce type. Il faut de l'universalité, qu'elles soient applicables et compréhensibles par tout le monde (même si déjà la notion de vie et de mort n'est pas une notion universelle, compte tenu de la "pollution" morale, religieuse, philosophique... de chacun)

Des règles de robot-éthique, comme le suggère certaines recherches ? voir le lien suivant si le sujet t'intéresse http://works.bepress.com/weng_yueh_hsuan/doctype.html. Attention tout en anglais !

un oubli, réparé!

Merci, beaucoup maintenant, je suis à deux votes !

[BigJambo]

N'y a-t-il personne d'autre que le sujet intéresse ?

N'hésitez pas à donner votre avis et à voter !

Merci et n'hésitez pas à me retrouver sur le projet NGM.

[egann538]

Le sujet intéresse certainement beaucoup de monde, mais ton projet ne semble pas assez sérieux pour en attirer...
Tu veux absolument créer des débats, avec sans doute l'idée que la manière d'implémenter une intelligence artificielle va émerger de tout ça.

On peut débattre sans fin des règles d'Asimov, qui restent très vagues, sans que ça ne donne la moindre idée de ligne de code pour une IA. C'est un peu mettre la charrue avant les boeufs.

Le problème c'est que l'on trouve sur les forums spécialisés beaucoup de personnes qui veulent révolutionner le domaine de l'IA, et se cassent les dents sur les premières difficultés. Les illusions c'est bien. Il en faut un minimum pour se lancer dans un projet qui va demander plus d'énergie que ce que l'on pense Mais pour attirer du monde il faut avoir un minimum fait ses preuves.

Tu veux rassembler des gens autour de toi pour développer une IA, et pas des moindres. Mais as-tu déjà abordé ce domaine en codant par exemple un petit perceptron, utilisé des algorithmes génétiques, conçu des systèmes multi-agents genre colonie de fourmis?? Cela donnerait déjà plus de poids à tes questions...

Je ne dis pas tout ça pour te décourager, juste pour te donner un avis extérieur.

[edfed]

je pense que l'IA existe déja depuis un sacré bout de temps.

on appele ça les machines.

certes, de notre point de vue, elles sont pas très futées, mais du point de vue du tournevis, ce sont des être surdoués.

question de point de vue.

et l'intelligence artificielle revée par la SF finira par arriver, petit à petit, sans que l'on ne s'en apperçoive.

qu'est un CPU sinon une tentative de recreer le fonctionnement de notre cerveau, avec le peu de données que l'on à sur cette machine biologique.
les mecanismes dèjà conçus sont proches de l'intelligence reele. encore un peu, et la machine pourra corriger elle meme le code, et peut être reussir à creer des metastructures de données, images de notre mémoire qui est la seule responsable de notre intelligence.
pourquoi juste la mémoire?
car le code, dans notre cerveau, il est figé par la configuration materielle. seules les connexions (pointeurs) et le contenu (données) des neurones (code) est à l'origine de notre intelligence, le programme lui, il ne change pas, c'est toujours le meme, lire, calculer, écrire, lire, calculer, écrire... recevoir un signal sur un synapse, traiter ce signal, sortir d'autres signaux sur d'autres synapses... etc.. evidement, c'est très complexe, mais il ne faut pas voir le cerveau comme un gros ensemble, mais plutot le cerveau comme un tas de trucs elementaires. ce sont ces trucs elementaires qui font le cerveau.
et mis bout à bout sur les milliards de neurones que nous avons, ça crée l'intelligence.

donc, l'intelligence ne serait que de la mémoire, des données, et le code, c'est la mecanique qui utilise la mémoire, pour générer les actions considérées... intelligentes.

[BigJambo]

Le sujet intéresse certainement beaucoup de monde, mais ton projet ne semble pas assez sérieux pour en attirer...
Tu veux absolument créer des débats, avec sans doute l'idée que la manière d'implémenter une intelligence artificielle va émerger de tout ça.

L'idée de créer des débats n'est pas de générer du code mais :

• de me permettre de trouver des personnes qui dans un premier temps seraient intéressées
• de me permettre d'analyser et de structurer mon projet
• de faire de la publicité pour mon projet.

On peut débattre sans fin des règles d'Asimov, qui restent très vagues, sans que ça ne donne la moindre idée de ligne de code pour une IA. C'est un peu mettre la charrue avant les boeufs.

Le problème c'est que l'on trouve sur les forums spécialisés beaucoup de personnes qui veulent révolutionner le domaine de l'IA, et se cassent les dents sur les premières difficultés. Les illusions c'est bien. Il en faut un minimum pour se lancer dans un projet qui va demander plus d'énergie que ce que l'on pense Mais pour attirer du monde il faut avoir un minimum fait ses preuves.

Tu veux rassembler des gens autour de toi pour développer une IA, et pas des moindres. Mais as-tu déjà abordé ce domaine en codant par exemple un petit perceptron, utilisé des algorithmes génétiques, conçu des systèmes multi-agents genre colonie de fourmis?? Cela donnerait déjà plus de poids à tes questions...

Pour mon projet de master en management de projet informatique, j'ai piloté et réalisé une application de simulation d'acquisition de connaissance par des animaux primitifs dont leurs buts variaient en fonction de leur état de santé, de leur age, etc... Le but final étant de démontrer grâce à un suivi qu'elles étaient capables d'acquérir des connaissance. Nous l'avons démontré.

Ce qui m'interpelle c'est que j'ai lu sur différents posts que beaucoup de personnes cherchent des sujets à développer et développent dans leur coin. Je trouve que c'est beaucoup de perte d'énergie alors que cela pourrait servir un projet commun.

Je ne dis pas tout ça pour te décourager, juste pour te donner un avis extérieur.

Je ne me décourage pas, j'ai vite compris que je ne réussirai pas à m'imposer comme cela du jour au lendemain. Vous ne me connaissez pas et je ne vous connais pas non plus. J'espère toutefois pouvoir mettre en place ce projet qui me tiend à coeur.

Je suis content d'avoir au moin pu suciter des réactions. Il n'y a rien de pire que de ressembler à un fantôme où personne ne répond à vos posts.

[BigJambo]

je pense que l'IA existe déja depuis un sacré bout de temps.

on appele ça les machines.

certes, de notre point de vue, elles sont pas très futées, mais du point de vue du tournevis, ce sont des être surdoués.

question de point de vue.

et l'intelligence artificielle revée par la SF finira par arriver, petit à petit, sans que l'on ne s'en apperçoive.

On est au moins partiellement d'accord sur ce fait mais pour y arriver, il faut quand même y réfléchir, se poser des questions et en discuter afin de permettre de structurer, organiser et structurer.

qu'est un CPU sinon une tentative de recreer le fonctionnement de notre cerveau, avec le peu de données que l'on à sur cette machine biologique.
les mecanismes dèjà conçus sont proches de l'intelligence reele. encore un peu, et la machine pourra corriger elle meme le code, et peut être reussir à creer des metastructures de données, images de notre mémoire qui est la seule responsable de notre intelligence.

Si un CPU était déjà de l'IA, il y a longtemps que cela se saurait !

pourquoi juste la mémoire?
car le code, dans notre cerveau, il est figé par la configuration materielle. seules les connexions (pointeurs) et le contenu (données) des neurones (code) est à l'origine de notre intelligence, le programme lui, il ne change pas, c'est toujours le meme, lire, calculer, écrire, lire, calculer, écrire... recevoir un signal sur un synapse, traiter ce signal, sortir d'autres signaux sur d'autres synapses... etc..

Ca c'est que l'on veut bien croire c'est oublier la plasticité du cerveau humain qui est capable de déplacer des fonctions d'un lobe vers l'autre. Cela s'est vu notamment pour des grands blessés qui ont pu retrouver partiellement certaines fonctions. Mais là, on ne parle plus d'informatique on parle de neurobiologie, c'est aussi pour laquelle je recherche des profils d'informaticiens et de non-informaticiens.

evidement, c'est très complexe, mais il ne faut pas voir le cerveau comme un gros ensemble, mais plutot le cerveau comme un tas de trucs elementaires. ce sont ces trucs elementaires qui font le cerveau.
et mis bout à bout sur les milliards de neurones que nous avons, ça crée l'intelligence.

donc, l'intelligence ne serait que de la mémoire, des données, et le code, c'est la mecanique qui utilise la mémoire, pour générer les actions considérées... intelligentes.

Pour la modularité, c'est le B-A-BA de l'informatique structurée, je ne peux être que d'accord. Pour l'intelligence, qu'est-ce que l'intelligence ? Avons-nous tous la même définition de l'intelligence ? Est-ce que des actions sont intelligentes ?

[edfed]

des actions sont le reflet d'une intelligence.

cette intelligence, c'est le résultat d'un calcul.

ce calcul, c'est une suite de traitements sur des entrées, qui donnent des sorties.

et évidement, un CPU n'est pas intelligent au titre de l'intelligence artificielle de la SF... mais il me reste un argument en leur faveur.

nous, humains du net, programmeurs, codeurs, techniciens et ingénieurs, nous savons plus ou moins ce qu'il y a derrière la machine, c'est ce qui nous permet d'affirmer qu'il n'y à pas de magie ni d'intelligence artificielle derrière un programme.

mais l'utilisateur lambda ne connait rien de tout les rouages. et le fait qu'il ne sache pas ce qu'il y a derrière, ça lui donne l'illusion d'une intelligence artificielle.

alors par analogie, nous pouvons prendre le cerveau, encore une fois, mais cette fois ci, en imaginant que nous ayons toutes les clés de sa conception et de son évolution, que nous sachions exactement le pourquoi du comment et tout les mécanismes derrière notre "intelligence", il est très probable que le fait de savoir tout ça nous permettrait de conclure que l'intelligence n'existe pas. que le cerveau n'est pas intelligent. que l'âme et l'esprit n'existent pas plus que les idées qui le traversent.

[BigJambo]

des actions sont le reflet d'une intelligence.

cette intelligence, c'est le résultat d'un calcul.

ce calcul, c'est une suite de traitements sur des entrées, qui donnent des sorties.

et évidement, un CPU n'est pas intelligent au titre de l'intelligence artificielle de la SF... mais il me reste un argument en leur faveur.

Alors, nous sommes d'accord !

Par analogie, nous pouvons prendre le cerveau, encore une fois, mais cette fois ci, en imaginant que nous ayons toutes les clés de sa conception et de son évolution, que nous sachions exactement le pourquoi du comment et tout les mécanismes derrière notre "intelligence", il est très probable que le fait de savoir tout ça nous permettrait de conclure que l'intelligence n'existe pas.

Effectivement, si nous arrivons à mettre tout cela dans un CPU avec une grosse mémoire, alors le CPU sera de l'IA. Mais pour y arriver, il faut tout de même y réfléchir, en discuter de façon à structurer le projet, à l'organiser, à le découper en module, à décider de quel façon les modules seront liés entre eux et quels sont les modules à relier, à décider quel type de réseau neuronal sera le plus approprié pour répondre au problème que nous voulons résoudre, etc...

Lorsque j'ai décider de mettre ce projet en oeuvre, je savais pertinemment que j'aurais des difficultés pour trouver une équipe mais je ne désespère pas et j'ai le temps . Mais je crois en ce projet car pour moi c'est ce genre de projet qui donnera ses lettres noblesses à l'IA et parce que je pense également que c'est l'avenir de l'informatique de demain. C'est aujourd'hui que nous construisons demain !

que le cerveau n'est pas intelligent. que l'âme et l'esprit n'existent pas plus que les idées qui le traversent.

Je reviens sur cette notion d'intelligence. C'est quoi en réalité l'intelligence ?
J'avais un discussion avec ma fille qui disait qu'elle était intelligente parce qu'elle était instruite. C'est faux, l'intelligence c'est bien plus que cela. Pour moi, l'intelligence c'est le fait de continuer à acquérir des connaissances à partir des connaissances que l'on a acquise, soit en trouvant de nouvelles sources d'informations, soit en analysant et en recoupant les informations que l'on a déjà, soit en les extrapolant, c'est à dire en faisant subir à nos informations des traitements dont les résultats seront de nouvelles informations. Il est bien entendu que la véracité et la pertinence de ces nouvelles informations devront être vérifiées et démontrées ce qui n'est pas toujours facile (pour exemple : Galilée ).

Les notions d'âme et d'esprit sont des notions religieuses qui jusqu'ici n'ont pas de supports scientifiques. Quoi qu'il existe des états d'esprit, des traits d'esprit !

[MABROUKI]

bonjour
malgre mon retard dans ce debat sur l'IA,je me permettrais de faire observer à notre ami le promoteur de l'IA que le terme meme d'intelligence est le plus ambigue qui soit dans la langue
De lui rappeler que les gens qu'on peut qualifier legitiment d'intelligents sont ce qu'on appelle communement les "genies" et l'humanite en produit un par siecle.

Pour le restant de la pauvre humanite commune ,elle se passe completement de l'intelligence d'asimov & n'en pas besoin pour survivre depuis des siecles.
Crois-tu que sans euclide,galilee ,newton ou je ne sais qui ,que l'humanite ne serait pas ce qu'elle est.
Quand on examine "l'intelligence" sous cet angle vraiment rationnel et non pas subjectif ou philosophique, alors les fameux robots d'asimov tels qu'il les definit sont non pas intelligents mais stupides tout juste comparables à des singes .Car meme les esclaves de leur temps et sans etre des genies ,ont desobei.

tout au plus les 3 lois d'asimov n'ont rien de rationnel ,et me rappelle les dix commandements de moise:
1.aime ton prochain comme toi meme
2.tu ne tueras point
3.tu ne convoiteras la femme d'autrui etc....
Et c'est parce que elle se resume à une seule regle rationnelle :conserver l'espece humaine,loi que "l'homme intelligent" n'a pas pu comprendre aisement qu'apres mille et un prophetes et des millenaires.
Sache que je suis toujours etonne par l'intelligence animale ,innee ,d'un lion qui apres s'etre offert un buffle vient digerer tranquillement aupres du troupeau de buffles lequel troupeau "comprends" pertinenement que le lion rassasie ne l'attaqueras pas.

Est-ce à dire que le sieur Asimov,veut creer des "lions robots",s'il en est capable je l'approuve bien.Mais je doute fort que telle soit son idee,comme tous les hommes.

bon code....