Discussion :

[NSKis]

Il me semble que l'objectif de ce bras est d'évaluer les conséquences de l'imprédictibilité d'un automate.

L'imprédictibilité d'un automate, cela n'existe pas!!!

Il y a un algorithme de régulation qui applique des règles en fonction d'informations entrantes (input) et qui règle des consignes de sortie (Output)


Prenons l'exemple de l'accident de la voiture Tesla qui ne s'est pas arrêtée et a foncé dans un camion en tuant son chauffeur.

Est-ce que ce comportement était impévisible??? Pas du tout, il suffisait au développeur de prendre en considération que la capteur de collision pouvait ne pas détecter un véhicule à cause de conditions météo particulières!!!


"L'imprédictibilité d'un automate", ce n'est rien d'autre que le programmeur qui n'a pas fait correctement son travail en prenant en compte tous les cas de figure

[Invité]

"L'imprédictibilité d'un automate", ce n'est rien d'autre que le programmeur qui n'a pas fait correctement son travail en prenant en compte tous les cas de figure

Ce qui n'empêche pas son imprédictibilité. Personne n'a dit que les eurreurs n'étaient pas de la faute de l'humain derrière. Et dès lors qu'une machine devient suffisamment complexe, elle devient imprévisible pour le commun des mortels qui ne comprend pas le cheminement de pensée de la machine. Elle est donc imprévisible pour toute autre personne que son créateur et, éventuellement, pour son créateur lui-même à partir du moment où il oublie certaines instructions et/ou s'il a fait des erreurs.

Pour ma part, je m'interroge sur l'applicabilité des lois d'Asimov sur le moyen terme. À mon avis, il y aura des tentatives. Le jour où on y parviendra, ce sera la fin de l'être humain tel qu'on le connaît. Moi, vous me trouverez dans les souterrains avec les résistants

[laerne]

La loi d'Asimov, c'est une loi dans le sens législatif. Genre, on a décidé que les robots devraient agir ainsi. C'est pas une loi scientifique qui est vraie qu'on le veuille ou non.

[Invité]

La loi d'Asimov, c'est une loi dans le sens législatif. Genre, on a décidé que les robots devraient agir ainsi. C'est pas une loi scientifique qui est vraie qu'on le veuille ou non.

Ben si justement. Si le créateur de la machine veut que les lois d'Asimov soient appliquées et s'il arrive à la programmer, les lois d'Asimov deviennent réalité.
Pour ma part, il me semble tout à fait réaliste de programmer des automates de cette manière. Par exemple, pour éviter les coûts liés aux assistants à domicile. On crée des machines pour prendre des décisions commerciales et de management. Dès que le coût d'une machine qui fera le travail d'un assistant à domicile sera suffisamment faible pour être moins cher qu'un être humain, on en trouvera dans le commerce. Ça me paraît inévitable.

[NSKis]

elle devient imprévisible pour le commun des mortels qui ne comprend pas le cheminement de pensée de la machine. Elle est donc imprévisible pour toute autre personne que son créateur et, éventuellement, pour son créateur lui-même à partir du moment où il oublie certaines instructions et/ou s'il a fait des erreurs.

1. Je sais que cela peut être difficile à comprendre pour quelqu'un qui n'est pas actif dans la robotique et l'automation mais "Le cheminement de pensée de la machine", cela n'existe pas!!! La machine n'a pas de pensée!!! Il y a un programme, un algorithme qui a été bien ou mal implémenté!!!

Ce qui est imprévisible, c'est la pièce de 1 euro qui une fois lancée peut tomber sur le côté pile ou le côté face


2. Si le concepteur n'est pas capable de prévoir comment se comporte l'appareil qu'il a lui-même programmé, même complexe, ce n'est pas de l'imprévisibilité, c'est de l'incompétence!!!

[macslan]

tant que ce n'est pas une ia forte ça va

[Invité]

1. Je sais que cela peut être difficile à comprendre pour quelqu'un qui n'est pas actif dans la robotique et l'automation mais "Le cheminement de pensée de la machine", cela n'existe pas!!! La machine n'a pas de pensée!!! Il y a un programme, un algorithme qui a été bien ou mal implémenté!!!

Ce qui est imprévisible, c'est la pièce de 1 euro qui une fois lancée peut tomber sur le côté pile ou le côté face


2. Si le concepteur n'est pas capable de prévoir comment se comporte l'appareil qu'il a lui-même programmé, même complexe, ce n'est pas de l'imprévisibilité, c'est de l'incompétence!!!

Ok pour la pensée. C'est une image, une façon de parler. Je suis aussi au courant qu'une machine n'a pas d'âme
Je reformule : soit incapable de suivre son cheminement d'instructions.
J'ai du mal à me représenter mon cerveau dans son ensemble, mais je suis à peu près certaine de ne pas avoir plus de quelques tétras de mémoire (ou l'équivalent de quelques tétras, je suis au courant que je ne fonctionne pas par algorithme ^^). À partir de ce constat, la machine m'est supérieure du point de vue de la capacité de stockage.
Vu les capacités matérielles dont on dispose aujourd'hui, je pense qu'il est tout à fait envisageable de créer un robot suffisamment complexe pour qu'une personne soit incapable de prédire toutes ses décisions (son comportement oui, mais ses décisions, non), toute compétente qu'elle soit.

[NSKis]

Ok pour la pensée. C'est une image, une façon de parler. Je suis aussi au courant qu'une machine n'a pas d'âme
Je reformule : soit incapable de suivre son cheminement d'instructions.

Ben non! Une machine ne fait pas preuve d'imagination! Elle ne quitte pas son "cheminement d'instructions" parce qu'un papillon passant sous son nez l'a déconcentré

J'ai du mal à me représenter mon cerveau dans son ensemble, mais je suis à peu près certaine de ne pas avoir plus de quelques tétras de mémoire (ou l'équivalent de quelques tétras, je suis au courant que je ne fonctionne pas par algorithme ^^). À partir de ce constat, la machine m'est supérieure du point de vue de la capacité de stockage.

Et votre cerveau peut réagir à plusieurs millions de stimuli différents et non prévus à l'origine (un papillon passe sous mon nez, je le suis du regard et constate affolé qu'un camion fou fonce sur moi donc je fais un pas de côté pour l'éviter) alors que la machine est limitée à quelques dizaines voir centaines d'informations définies une fois pour toute (un capteur de présence, une sonde de température, une caméra avec algorithme spécifique de traitement des données, etc.). Le papillon passe, le robot continue sa tâche et se fait écraser par le camion fou!!!

La capacité de stockage n'est donc pas significative pour décider de la supériorité de votre cerveau ou de celui de la machine! Votre cerveau est supérieur à la machine!!!

Vu les capacités matérielles dont on dispose aujourd'hui, je pense qu'il est tout à fait envisageable de créer un robot suffisamment complexe pour qu'une personne soit incapable de prédire toutes ses décisions (son comportement oui, mais ses décisions, non), toute compétente qu'elle soit.

Laisser dans la nature un robot qui est hors de contrôle de ces concepteurs est juste un acte criminel...

[Invité]

Ben non! Une machine ne fait pas preuve d'imagination! Elle ne quitte pas son "cheminement d'instructions" parce qu'un papillon passant sous son nez l'a déconcentré

Je me demande bien ce qui dans mes posts précédents donne l'impression que j'ai parlé d'imagination, ou de quitter son cheminement d'instructions

Et votre cerveau peut réagir à plusieurs millions de stimuli différents et non prévus à l'origine (un papillon passe sous mon nez, je le suis du regard et constate affolé qu'un camion fou fonce sur moi donc je fais un pas de côté pour l'éviter) alors que la machine est limitée à quelques dizaines voir centaines d'informations définies une fois pour toute (un capteur de présence, une sonde de température, une caméra avec algorithme spécifique de traitement des données, etc.). Le papillon passe, le robot continue sa tâche et se fait écraser par le camion fou!!!

Est-ce qu'il y a une limitation matérielle actuellement qui fait qu'on ne peut pas dépasser quelques centaines d'informations ?

La capacité de stockage n'est donc pas significative pour décider de la supériorité de votre cerveau ou de celui de la machine! Votre cerveau est supérieur à la machine!!!

Je n'ai pas dit le contraire. J'ai parlé d'une supériorité du point de vue de la capacité de stockage. Je n'ai pas parlé de supériorité absolue basée sur la capacité de stockage. Ce que je veux dire, c'est que si une machine dispose de plus de capacité de stockage que moi, elle peut intégrer plus d'instructions que ce que je ne peux retenir. Donc, en théorie, si je lui donne plusieurs tétras d'instructions, je ne peux physiquement pas les retenir toutes. Donc, je ne peux plus la prédire. C'est juste ou pas ?

Laisser dans la nature un robot qui est hors de contrôle de ces concepteurs est juste un acte criminel...

Si tu ne peux pas prédire toutes les décisions de ta machine (par exemple, si elle a un système d'apprentissage), ça ne veut pas non plus dire qu'elle est hors de contrôle. La frontière est mince, je te l'accorde. Mais on laisse déjà plusieurs types de robots dans la nature et leurs agissements en situation réelle ne sont pas toujours prévisibles. Pas forcément parce que ses instructions sont trop complexes, mais parce que les différents paramètres environnementaux n'ont pas tous été prévus. Je ne sais pas si c'est criminel (sûrement), mais ça se fait à l'heure actuelle. Pour reprendre ton exemple sur Tesla, on est d'accord que le concepteur aurait pu prévoir ce paramètre en particulier, mais est-ce qu'il peut prendre en compte l'intégralité des paramètres environnementaux possibles ? Je ne crois pas. Donc, une machine amenée à intervenir dans l'environnement extérieur est imprévisible de facto.

[Foxaltex]

Ce qui est surtout bête, c''est que le robot est fait pour transgresser cette loi, donc dire qu'il ne la respecte pas alors qu'il n'a pas été créé pour ça... C'est moyen...

Pour ce qui est des lois d'Azimov, ce seront sûrement des lois qui existeront, sous une forme ou une autre, lorsque nous serons capable d'aller plus loin dans l'intélligence artificiel. Je suis impatient de voir ça ! Des robots intélligents !

Mais je reconnais que l'expérience est bête. Je ne vois pas d'ailleurs l'utilité de faire un robot qui fasse cela, à part pour les diabéthiques et les prises de sang...

[NSKis]

Est-ce qu'il y a une limitation matérielle actuellement qui fait qu'on ne peut pas dépasser quelques centaines d'informations ?

Oui, tout d'abord l'espace à disposition (les dispositifs qui doivent obtenir ces informations pèsent et cela prend de la place!!! Donc limtation physique) et l'argent!!!

Un capteur peut coûter plusieurs centaines voir plusieurs milliers d'euro. Pour exemple, un simple robot manipulateur 6 axes de liberté pouvant déplacer que 1 kg (utilisé par exemple dans un labo pharma) sans aucun capteur coûte le prix d'une voiture moyen de gamme (30'000 euro et plus).

Alors imagine à quoi va ressembler ton robot équipé de 1'000 capteurs et surtout son prix

Je n'ai pas dit le contraire. J'ai parlé d'une supériorité du point de vue de la capacité de stockage. Je n'ai pas parlé de supériorité absolue basée sur la capacité de stockage. Ce que je veux dire, c'est que si une machine dispose de plus de capacité de stockage que moi, elle peut intégrer plus d'instructions que ce que je ne peux retenir. Donc, en théorie, si je lui donne plusieurs tétras d'instructions, je ne peux physiquement pas les retenir toutes. Donc, je ne peux plus la prédire. C'est juste ou pas ?

L'approche est fausse... L'intelligence (artificielle ou non) ne s'évalue pas au kilo! Si tu as des "tétras d'instructions", il s'agit d'une usine à gaz qui aura pour seul résultat que tu vas mourir de vieillesse avant même que ton bidule n'ait fini de vérifier quelle est la prochaine instruction à effectuer!!!

L'art de l'ingénieur se copie sur la nature et cela s'appèle la loi du moindre effort

Si tu ne peux pas prédire toutes les décisions de ta machine (par exemple, si elle a un système d'apprentissage), ça ne veut pas non plus dire qu'elle est hors de contrôle. La frontière est mince, je te l'accorde. Mais on laisse déjà plusieurs types de robots dans la nature et leurs agissements en situation réelle ne sont pas toujours prévisibles. Pas forcément parce que ses instructions sont trop complexes, mais parce que les différents paramètres environnementaux n'ont pas tous été prévus. Je ne sais pas si c'est criminel (sûrement), mais ça se fait à l'heure actuelle. Pour reprendre ton exemple sur Tesla, on est d'accord que le concepteur aurait pu prévoir ce paramètre en particulier, mais est-ce qu'il peut prendre en compte l'intégralité des paramètres environnementaux possibles ? Je ne crois pas. Donc, une machine amenée à intervenir dans l'environnement extérieur est imprévisible de facto.

1. Ton système d'apprentissage est un algorithme!!! Il y a des règles d'apprentissage et donc... ta machine est prédictive!

2. Peux-tu me fournir un exemple de robot laissé actuellement dans la nature dont ses agissements ne seraient pas prévisibles? Parce que moi, j'en vois pas à première vue!

3. Qu'un capteur puisse mal fonctionner était plus que prévisible!!! Lorsqu'il y a un risque pour la sécurité, on double, on triple les moyens de mesure... Tesla ne l'a pas fait!

4. Dire qu'une machine en environnement extérieur est de facto imprévisible est tout simplement faux

[Invité]

1. Ton système d'apprentissage est un algorithme!!! Il y a des règles d'apprentissage et donc... ta machine est prédictive!

Oui, mais tu ne peux pas prévoir ce qu'elle va apprendre. Donc, ce qui est résulte de l'apprentissage n'est pas prévisible en amont. Tu sais comment Google translate fonctionne, mais tu ne sais pas comment il traduira la phrase "John is an elephant" si tu ne sais pas ce que le programme a appris.

2. Peux-tu me fournir un exemple de robot laissé actuellement dans la nature dont ses agissements ne seraient pas prévisibles? Parce que moi, j'en vois pas à première vue!

3. Qu'un capteur puisse mal fonctionner était plus que prévisible!!! Lorsqu'il y a un risque pour la sécurité, on double, on triple les moyens de mesure... Tesla ne l'a pas fait!

Je suis d'accord avec toi sur la négligence de Tesla pour ce coup là, mais pour ce que j'en sais, il pourrait y avoir des tas d'autres accidents dus à des paramètres pas prévus. Comme je l'ai dit plus haut, il est impossible de prévoir absolument tout ce qui peut se passer sur la route. Si tu es concepteur des voitures Tesla et si je te demande "que va faire la voiture en cas de crevaison ?", tu pourras me répondre. Par contre, si tu n'as pas envisagé qu'elle puisse avoir une crevaison quand tu l'as programmée avant qu'elle ne soit mise en circulation (c'est juste un exemple, je me doute que ça a été envisagé), au final, si la voiture crève, elle a un comportement qui n'a pas été prévu. Si maintenant, il se produit une réaction en chaîne complètement improbable, on passe de "qui n'a pas été prévu" à "imprévisible", parce que personne n'aurait pu envisager cette réaction en chaîne précisément. Tu vois ce que je veux dire ? Ce n'est pas le programme en lui-même qui est imprévisible, mais l'environnement extérieur. Ce qui revient strictement au même dans les faits.

[MrKuja]

Non parce que les 3/4 des nouvelles relatées dans ses livres mettent en avant le dysfonctionnement des ces 3 lois.
Du propre auteur de ces lois, il démontre les faiblesses d'un tel système qu'il a lui même décrit.

À chaque sujet sur la robotique et l'IA où on aborde ces lois, ça semble s'oublier comme par magie...
Et elles ne sont pas absolues, évidemment.

[BBric]

En même temps les lois il faut les coder sinon c'est juste un bras sans cervelle, et à partir de là forcément c'est totalement arbitraire.

[Mingolito]

putaclick
on voit ici un parfait exemple de l'information niveau zéro, juste là pour générer du click sans apporter quoi que ce soit d'intéressant. C'est la nullité du journalisme actuel.
Cet article est complètement vide, pourquoi un tel robot, a t'il été construit avec un algorithme cherchant à répondre aux "lois d'asimov", etc.. mais c'est sur qu'avec une vidéo de 30 sec ne montrant quasi rien on est pas avancé et il faut bien broder avec du asimov et embrayer sur un débat machine intelligente.
Ici on a une pauvre machine qui agit aléatoirement, qui n'a aucun intérêt et qui ne mérite pas d'être en article.

Bien sur que la news est une blague, même sans la lire on sait que c'est une blague avant de cliquer, si tu as pas d'humour et que tu aimes pas rigoler c'est ton problème, elle doit être triste ta vie, et c'est pas une raison d'insulter pareillement la personne qui à fait cette news, qui semble bien avoir amusé la galerie en tout cas, et même si le prétexte est une blague le sujet est intéressant, preuve en est ce débat...
Pour lancer le débat tu voulais quoi ? une démo d'un robot avec un cerveau positronique ou sont programmés les 3 lois d'Asimov ?
La démo elle existe, ici :

[Matthieu Vergne]

L'imprédictibilité d'un automate, cela n'existe pas!!!

Il y a un algorithme de régulation qui applique des règles en fonction d'informations entrantes (input) et qui règle des consignes de sortie (Output)

Il serait temps que tu réfléchisse avant d'écrire. Oui l'imprédictibilité d'un automate existe, et cela précisément du fait de ce que tu as écris : ça ne dépend pas que du programme, qui lui est déterminé, mais aussi des entrées, qui elles peuvent être imprédictibles. Le principe même d'un apprentissage automatique est de dépendre beaucoup plus des entrées que du programme, ce dernier restant très "basique".

Tu pourras le répéter ou le reformuler autant de fois que tu voudras, le comportement d'un automate peut être imprédictible, que tu le souhaites ou non.

Je passe sur ton commentaires sur les capteurs. Un bouton poussoir ou un capteur de lumière, ça coûte pas bien cher aujourd'hui. Le coût étant surtout dans la miniaturisation et la complexité des capteurs.

Ben si justement. Si le créateur de la machine veut que les lois d'Asimov soient appliquées et s'il arrive à la programmer, les lois d'Asimov deviennent réalité.
Pour ma part, il me semble tout à fait réaliste de programmer des automates de cette manière.

Ces lois s'appuyant sur des concepts abstraits, elles ne sont pas implémentables en l'état. Pour pouvoir le faire, il faut par exemple d'abord décider de ce qu'on appelle être humain (e.g. il ne faut pas oublié les handicapés, mais il faut exclure les cadavres) ou de ce qu'on veut dire par blesser (notamment différencier faire une piqûre de vaccins et trouer la peau avec une seringue). Et ça, c'est le programmeur qui le fait, sinon la machine qui doit l'apprendre. Dans le premier cas, on est sujet à l'arbitraire du programmeur, dans le second à la difficulté d'enseigner ces concepts à la machine. Les règles en elle-même n'étant pas implémentables, elles sont tout simplement inutilisables pour une machine programmée à l'heure actuelle.

[NSKis]

Il serait temps que tu réfléchisse avant d'écrire. Oui l'imprédictibilité d'un automate existe, et cela précisément du fait de ce que tu as écris : ça ne dépend pas que du programme, qui lui est déterminé, mais aussi des entrées, qui elles peuvent être imprédictibles. Le principe même d'un apprentissage automatique est de dépendre beaucoup plus des entrées que du programme, ce dernier restant très "basique".

Tu pourras le répéter ou le reformuler autant de fois que tu voudras, le comportement d'un automate peut être imprédictible, que tu le souhaites ou non.

Je passe sur ton commentaires sur les capteurs. Un bouton poussoir ou un capteur de lumière, ça coûte pas bien cher aujourd'hui. Le coût étant surtout dans la miniaturisation et la complexité des capteurs.


Ces lois s'appuyant sur des concepts abstraits, elles ne sont pas implémentables en l'état. Pour pouvoir le faire, il faut par exemple d'abord décider de ce qu'on appelle être humain (e.g. il ne faut pas oublié les handicapés, mais il faut exclure les cadavres) ou de ce qu'on veut dire par blesser (notamment différencier faire une piqûre de vaccins et trouer la peau avec une seringue). Et ça, c'est le programmeur qui le fait, sinon la machine qui doit l'apprendre. Dans le premier cas, on est sujet à l'arbitraire du programmeur, dans le second à la difficulté d'enseigner ces concepts à la machine. Les règles en elle-même n'étant pas implémentables, elles sont tout simplement inutilisables pour une machine programmée à l'heure actuelle.

Cher monsieur Vergne, je suis actif dans la robotique et l'automation et vous, à la lecture de vos écrits, très certainement pas! Alors je vous laisse à vos délires pseudo-technologiques. Si vous voulez que ce soit les films Hollywoodiens qui fondent le fond de vos connaissances en robotique, je ne peux rien y faire.

[Matthieu Vergne]

Ben écoute, j'ai obtenu mon diplôme d'ingénieur en informatique et réseaux, et aujourd'hui docteur en TIC je fais maintenant un post-doc en IA. Des programmes, j'en ai vu passer et c'est pas prêt de s'arrêter. L'imprédictibilité, on y fait face tous les jours, qu'elle soit dû à un manque de rigueur (e.g. bogue) ou à une propriété fondamentale (e.g. problème de l'arrêt). Des films, j'en regarde pas beaucoup, surtout d'Hollywood. Je me nourris davantage sur Wikipédia et sur les articles de recherche que je peux lire quotidiennement. Mais franchement, c'est pas mon parcours qui va garantir quoi que ce soit, c'est ma capacité à expliquer les choses. Donc même si j'avais affaire à un ingénieur IBM de 40 ans de carrière, ça ne me ferait ni chaud ni froid. Grâce à ma thèse, je connais un peu l'expertise et ses travers, ne vous en déplaise, monsieur NSKis.

[NahMean]

En d’autres termes, ce bras robotisé entre en conflit direct avec la première loi d’Asimov, qui stipule qu’un robot ne doit pas blesser un humain.

Cette loi doit être stipulé au programme, sinon c'est normal que cela entre en conflit avec cette loi.

Un bras automatisé pour faire une autre tâche peut tout a fait blesser un humain, si rien n'est prévu pour le détecter.

Ici, la machine détecte quelque chose et fait son mouvement, point barre.

[temoanatini]

Il va surtout contre la loi 0, vu qu'il nous fait des noeuds à la tête... aïe
Ca "nous" porte atteinte