Oui, tel que je vois les choses, ce seraient plutôt des lignes de conduite de programmation. De toute manière, même si on parvenait un jour à inventer un robot répondant à toutes les lois d'Asimov et capable de prendre les décisions souhaitées par le programmeur pour chaque chose, ses décisions ne seraient jamais parfaites, pour les raisons qu'Asimov a énoncées dans son oeuvre et pour celles auxquelles il n'y a pas pensé.
Je serais quand même curieuse de voir ces lois appliquées à petite échelle pour l'expérience. Par exemple, en le confrontant à un seul humain et en lui apprenant quelques-uns des dangers seulement et comment réagir. Dans ce cas, les lois seraient implémentables, non ? Même si elles seraient un peu dénaturées du fait qu'il ne pourra pas déterminer lui-même ce qui est un danger et ce qui n'en n'est pas un.
Quant à l'apprentissage de la machine, j'ai du mal à me faire une idée concrète de comment ça fonctionne. En fait, quelle est la différence entre apprendre quelque chose à la machine et la programmer ?
J'imagine qu'on pourrait envisager de dire à la machine de demander la validation de son apprentissage. Par exemple, si la machine voit un être humain sauter d'un pont et mourir, avant de conclure que sauter d'un pont est un danger mortel, on pourrait lui dire de demander confirmation à un humain. De cette manière, on apprendrait (nous les humains) comment améliorer la capacité d'apprentissage de la machine dans le cas des dangers. Ça prendrait du temps, mais au bout de quelques années peut-être qu'on aurait un robot qui avec une connaissance acceptable du danger. Je suppose que ça se fait déjà dans le cas d'autres formes d'apprentissage, non ?
On aurait alors un robot avec un semblant d'implémentation des lois d'Asimov. Pour caricaturer, s'il a l'humain Jean et s'il connaît le danger cigarette, on pourrait lui dire : qu'il ne doit pas donner de cigarettes à Jean, qu'il doit empêcher Jean de fumer des cigarettes en les lui prenant des mains, qu'il doit obéir aux ordres de Jean sauf si Jean lui ordonne de le laisser fumer, et qu'il ne doit pas fumer de cigarette sauf si ça permet à Jean de ne pas fumer de cigarette. Est-ce que c'est envisageable aujourd'hui ?
Partager