Discussion :

[Bill Fassinou]

L'intelligence artificielle devrait-elle bénéficier des mêmes protections éthiques que les animaux ?
Oui, selon Aeon, qui propose la création de comités de surveillance chargés d'évaluer les risques éthiques

Partout dans le monde, d'importantes recherches sur l'intelligence artificielle (IA) sont menées. Des organisations et entreprises technologiques à l'instar de Google et Facebook ne cessent d'investir dans ce domaine. Il est probable que nous ayons bientôt une IA à peu près aussi sophistiquée sur le plan cognitif que les animaux. Aeon pense que le moment est venu de commencer à se demander si, et dans quelles conditions, ces IA pourraient mériter les protections éthiques que nous accordons habituellement aux animaux.

Aeon se décrit comme étant une publication qui « pose les plus grandes questions et trouve les réponses les plus fraîches et les plus originales, fournies par les plus grandes autorités mondiales sur la science, la philosophie et la société ». Jusqu'à présent, les discussions sur les "droits de l'intelligence artificielle" ou les "droits des robots" ont été dominées par la question des obligations éthiques que nous aurions envers une intelligence humaine ou supérieure. Cependant, selon Aeon, penser ainsi pourrait avoir de graves conséquences morales. « Avant de créer un IA semblable à l'être humain et méritant une considération éthique semblable à celle de l'être humain, nous allons très probablement créer un IA inférieure à l'être humain, méritant une considération éthique inférieure à celle de l'être humain », écrit le magazine.

Parlant de droit des animaux, les comités de soins évaluent les propositions de recherche pour s'assurer que les animaux vertébrés ne sont pas tués inutilement ou ne souffrent pas indûment. Si des cellules souches humaines ou, surtout, des cellules cérébrales humaines sont en cause, les normes de surveillance sont encore plus rigoureuses. La recherche biomédicale fait l'objet d'un examen minutieux, mais « la recherche sur l'IA, qui pourrait comporter certains des mêmes risques éthiques, ne fait actuellement l'objet d'aucun examen. Peut-être que ça devrait l'être », selon Aeon.

Si une IA devait mériter une protection éthique, c'est qu'elle est dotée d'une conscience, c'est-à-dire qu'elle ressente de l'émotion, une joie et une peine évidentes. Aeon partage ce point de vue et pose une autre question : « comment saurons-nous quand nous aurons créé quelque chose capable de ressentir la joie ou la souffrance ? ». « l'IA pourrait bien se plaindre et se défendre en initiant une discussion sur ses droits, comme on le voit dans les films de science-fiction. Mais si l'IA est inarticulée, comme une souris ou un chien, ou si, pour une autre raison, elle est incapable de nous communiquer sa vie intérieure, elle n'a peut-être aucun moyen de signaler qu'elle souffre », souligne Aeon.

En ce qui concerne la conscience, Aeon fait remarquer aussi que « l'étude scientifique de la conscience n'est pas parvenue à un consensus sur ce qu'est la conscience, et comment nous pouvons dire si elle est présente ou non. Selon certains points de vue, des points de vue "libéraux", pour que la conscience existe, il suffit d'un certain type de traitement de l'information bien organisé, tel qu'un modèle informationnel flexible du système par rapport aux objets dans son environnement, avec des capacités d'attention guidée et une planification d'action à long terme. Nous sommes peut-être déjà sur le point de créer de tels systèmes. Sur d'autres points de vue, des points de vue "conservateurs", la conscience peut nécessiter des caractéristiques biologiques très spécifiques, telles qu'un cerveau très semblable à celui d'un mammifère dans ses détails structurels de bas niveau : dans ce cas, nous sommes loin de créer une conscience artificielle ».

Dans son billet de blog, Aeon explique toutefois qu'on ne sait pas quel type de point de vue est correct ou si une autre explication l'emportera en fin de compte. Cependant, si une vision libérale est correcte, nous pourrions bientôt créer de nombreuses IA sous-humaines qui mériteront une protection éthique. « C'est là que réside le risque moral », précise Aeon. Partant de là, le magazine propose « la création de comités de surveillance qui évaluent la recherche de pointe sur l'IA en tenant compte de ces questions. Ces comités, tout comme les comités de protection des animaux et les comités de surveillance des cellules souches, devraient être composés d'un mélange de scientifiques et de non-scientifiques - concepteurs d'IA, spécialistes de la sensibilisation, éthiciens et membres intéressés de la communauté. Ces comités seront chargés d'identifier et d'évaluer les risques éthiques des nouvelles formes de conception de l'IA, avec une compréhension sophistiquée des questions scientifiques et éthiques, en pesant les risques par rapport aux avantages de la recherche ».

Source : Aeon

Et vous ?

Quel est votre avis sur le sujet ?
Les arguments d'Aeon sont-ils fondés ?
Selon vous, l'IA devrait-elle bénéficier des mêmes protections éthiques que les animaux ? Pourquoi ?

Voir aussi

« L'intelligence artificielle n'existe pas et la voiture autonome n'existera jamais », selon un expert en IA

L'IA de niveau humain pourrait être réalisée « d'ici 5 à 10 ans », selon les experts, et les plus grandes menaces sont les applications militaires

Des experts prédisent que l'IA va dominer les humains dans moins de 50 ans, selon une étude menée par les deux universités Harvard et Yale

Des chercheurs mettent au point une IA apte à détecter les signes de maladies dans le souffle humain en utilisant des techniques de deep learning

[Invité]

Oral B présente sa nouvelle brosse à dents électrique dotée d’une IA baptisé Genius X

Sauvons Genius X 🤪

[melka one]

quand les systèmes rechercheront d'eux même a survivre par en particulier la recherche d’énergie électrique j'y penserait.

[Leruas]

quand les systèmes rechercheront d'eux même a survivre par en particulier la recherche d’énergie électrique j'y penserait.

Mon robot aspirateur recherche de lui même de l'énergie électrique en retournant se connecter à une base d'alimentation avant de refaire sa vie dans le salon

[Matthieu Vergne]

Je peu céder que la notion générale de conscience est peu maîtrisée, et qu'il faut donc partir du principe que sa définition sera amenée à changer et donc potentiellement à nous faire revoir nos pratiques. En revanche, je diverge fondamentalement sur les leçons à en tirer.

Pour moi, une différence fondamentale existe entre les robots et les êtres vivants : les êtres vivants ont précédé la conscience humaine, et l'on doit donc admettre que tous les processus qui leurs sont liés, en particulier la reproduction et le partage des tâches, ne sont pas exclusivement régis par des expressions de besoins. Ce sont des processus naturels qui ont amené à la survie des espèces, et font donc partie de leur nature. On doit donc les respecter en tant que partie de ces espèces et non les réduire à quelques modèles rationnels que ce soit.

Les robots en revanche ont ont des raisons d'être. Ils n'ont d'existence que pour assouvir des besoins, allant de la simple curiosité (e.g. robot jouet) à la nécessité critique (e.g. cœur artificiel). La raison de leur existence est identifiée, et je considère comme primordial que ça le reste pour que ces robots demeurent des outils, précisément pour qu'on puisse les utiliser à notre guise sans se préoccuper de considérations éthiques en leur faveur.

Car n'oublions pas que l'esclavage reste un besoin naturel : l'envie de déléguer le travail à un autre pour se libérer soi-même est un besoin humain, au même titre qu'on trouve dans le règne animal des comportements se basant sur l'exploitation des autres [1][2]. Contrairement au cleptoparasitisme, qui nécessite de s'adapter à celui qu'on parasite, le principe de l'esclavage et de parasiter tout en imposant le type de parasitage selon nos besoins. D'un point de vue éthique, c'est horrible, mais cela n'en reste pas moins une expression naturelle du désir d'assouvir ses besoins et envies.

Le robot apporte justement une solution éthique à l'esclavage : il fournit un pur outil, non assujettie aux règles éthiques, ce qui permet d'avoir les avantages d'un esclave sans ses inconvénients. Et c'est précisément pour cela qu'il doit rester un outil, pour ne pas se retrouver à nouveau avec des problèmes éthiques dont on se serait bien passés.

Ma conclusion n'est donc pas de réfléchir aux considérations éthiques qu'on pourrait lui associer sous prétexte qu'il puisse avoir une conscience, mais qu'il faut interdire toute introduction de conscience, et plus largement de propriété amenant à des considérations éthiques, dans un objet dont la finalité prévue est celle d'un outil. Je n'écarte pas que certains cas puissent se voir traités autrement, comme un robot partenaire (que cela plaise ou non à certains, et sans préjuger de l'ampleur des différences de traitement). Mais ces cas là doivent exister parce qu'on aura voulu les traiter avec éthique, comme nos égaux, et non parce qu'on aura créé un outil qui au final se sera vu doté d'une conscience pour des raisons pratiques ou que sais-je.

[Invité]

Car n'oublions pas que l'esclavage reste un besoin naturel [...] Le robot apporte justement une solution éthique à l'esclavage

L'homme dans son énorme majorité a ressenti le besoin de travailler pour optimiser sa survie et son confort, des hommes plus fort on décidé qu'il serait moins fatiguant pour eux de faire travailler l'autre sous la menace de gros muscle et d'armes. Le besoin naturelle à toujours été la liberté, la collaboration et de se battre contre les raclures qui les considères comme leur propriété.

L'homme a pendant longtemps utilisé l'animal parce que considéré comme inférieur, incapable de penser, in capable d'avoir des sentiments. Il y a encore 20 ans on enseignait que l'animal n'est que reflex et rien d'autre. Chez les croyants c'est encore très fortement ancré. Depuis qu'il a pris conscience de son erreur il a commencé à ralentir son exploitation mais on en est qu'au début.
D'autres ce sont dit et se disent encore la même chose vis à vis de la population, s'il est plus fort à un instant T c'est qu'il a le droit de le faire.

Tu devrais moins te prendre pour le génie que tu n'es pas et observer un peu plus l'humanité, si tu en es capable....
Tu es plus proche de l'australopithèque que de "l'homme".

Tu penses que celui qui cherche du travail au lieu de monter son entreprise a forcément une nature d'esclave ? Dans le genre ultra-simpliste comme raisonnement on atteint des sommets. Sinon l'égo ça va ? je suppose que oui.

Je ne sais pas qui tu es, je me retiens de te sortir le fond de ma pensé mais ce que tu exprime est franchement nauséabond. N'oublie pas qu'il y a "naturellement" plus de gens comme moi prêt à se débarrasser de personnes comme toi qui sont ultra-minoritaire mais qui font de cette planète un enfer et qui tentent de faire passer des vessies pour des lanternes.

Pense à prendre ta carte s’adhérant de la ReM, ce que tu exprime est aussi puant que ces types qui seraient déjà tombé s'ils n'avaient pas des armes puissante de leur coté.

[BufferBob]

(...) les êtres vivants (...) les processus qui leurs sont liés, en particulier la reproduction et le partage des tâches, ne sont pas exclusivement régis par des expressions de besoins.

certes, on sait faire des robots qui collaborent et se partagent le travail, des programmes qui s'auto-répliquent, et même des robots qui construisent (au moins partiellement) d'autres robots.
la définition du vivant n'est pas plus aisée que celle de la conscience, mais des définitions -scientifiques- actuelles il semble que rien n'oblige un organisme vivant à être composé de matière organique.

Ce sont des processus naturels qui ont amené à la survie des espèces, et font donc partie de leur nature. On doit donc les respecter en tant que partie de ces espèces et non les réduire à quelques modèles rationnels que ce soit.

je ne peux qu'être en désaccord sur ce point, il me semble que l'argument "c'est naturel" ne renvoie à rien, tout ce qui existe est naturel puisqu'étant issu de la nature (l'univers)
si ces processus sont prévus dès la conception du futur robot, alors ils font partie de sa nature intrinsèque, comme la mobilité/l'articulation fait partie de la nature même du bras d'assemblage mécanique sur sa chaine de montage.

ou alors est-on en train de dire que parce que c'est un robot il n'a pas de nature du tout ? (ce serait intéressant d'essayer de le démontrer, mais je pressens qu'on risquerait vite de retomber sur une notion adjacente à celle de l'"âme", aussi intangible qu'indémontrable et donc peu fondée)

Car n'oublions pas que l'esclavage reste un besoin naturel : l'envie de déléguer le travail (...)

non non... manger, respirer, appartenir à un groupe, s'accomplir ce sont des besoins, déléguer le travail n'en est pas un (cf. Maslow), d'ailleurs tu fais toi-même le mélange entre besoin et envie dans ta phrase.

Le robot apporte justement une solution éthique à l'esclavage (...) Et c'est précisément pour cela qu'il doit rester un outil

je trouve l'idée intéressante, notamment parce qu'elle me semble assez cohérente, le terme même de "robot" vient des langues slaves qui signifie "travail, besogne, corvée" et on retrouve par extension la notion d'"esclave" (en russe)
et si on observe la société, il semble que ce soit bien dans cet esprit que l'on utilise les robots, on nous parle même des "robots qui volent nos emplois"
sans présumer de si c'est une bonne ou une mauvaise idée (qui relève plus de la conviction politique à mon sens), elle me semble pour le moins très défendable.

(...) il faut interdire toute introduction de conscience, et plus largement de propriété amenant à des considérations éthiques (...)

hmmm... la question me semble difficile, déjà sur l'idée de devoir interdire absolument l'introduction (et donc également la création ?) d'une conscience artificielle, ensuite sur la notion de propriété qui touche possiblement d'assez près celle de l'égo (la conscience de soi-même), or je ne crois pas que l'on ait connaissance à l'heure actuelle d'une forme de vie consciente sans conscience d'elle-même (à vérifier mais il ne me semble pas).

Je n'écarte pas que certains cas puissent se voir traités autrement

oui je suis assez d'accord, ce qui pose par ailleurs tout un tas d'autres questions (...)

(...) parce qu'on aura voulu les traiter avec éthique (...) et non parce qu'on aura créé (...) une conscience pour des raisons pratiques ou que sais-je.

en admettant que la conscience n'émerge pas spontanément malgré les gardes-fous que l'on pourra mettre, telle une IA qui exploite les incongruités du moteur physique de sa simulation pour parvenir à ses fins.

[dakeyras33]

Pense à prendre ta carte s’adhérant de la ReM

Tient un gilet jaune qui ajoute de la politique dans un sujet qui n'en implique pas.

[CoderInTheDark]

Le problème est que le terme "inteligence" est associé dans l'inconscient collectif à une forme de vie.
C'est le piège tendu par les marketeux.

Alors que nous on sait que se sont des programmes complexes, s' sont des mécanismes sans âmes, qui singent la vie ou l'inteligence.
Le fait de les habiller de certains artifices pour les rendre plus présentables, robots à visage humain, synthèse vocale,... peut induire en erreur, comme dansle film IA de Spielberg
Au final ça reste des boîtes de conserves.
Si ils avaient moins fiers allure comme un tas de roues mécnanique dans une toîte en fer on ne se poserait peut être pas la questions

Au final l'Ia ne souffre pas, n'a pas d'instinct de survie, ne revendique pas, ne ressent rien à moins que l'on programme ça,, et c'est pas demain la vveille.

[Neckara]

Au final l'Ia ne souffre pas, n'a pas d'instinct de survie, ne revendique pas, ne ressent rien à moins que l'on programme ça,, et c'est pas demain la vveille.

Disons que rien ne m'empêche de créer une variable "souffrance" dans mon code, puis de faire varier sa valeur à mon bon plaisir.
Va-t-on m'accuser de torturer mon IA ?

[CoderInTheDark]

Si c'est toi qui agit sur une varriable, ton IA ne ressent rien par elle même de façon innée.
Si tu fais varié la douleur à coup de poing ou de pied là c'est différent

Disons que rien ne m'empêche de créer une variable "souffrance" dans mon code, puis de faire varier sa valeur à mon bon plaisir.
Va-t-on m'accuser de torturer mon IA ?

[Neckara]

Si c'est toi qui agit sur une varriable, ton IA ne ressent rien par elle même de façon innée.
Si tu fais varié la douleur à coup de poing ou de pied là c'est différent

Sauf que cette douleur ressentie à coup de poing ou de pied, ne sera là que parce qu'on aura décidé de l'implémenter.


De plus, c'est une forme d'anthropocentrisme. Tu penses un coup de poing ou de pied comme étant douloureux, car si cela t'arrivait à toi, cela te serait douloureux.

[CoderInTheDark]

Sauf que cette douleur ressentie à coup de poing ou de pied, ne sera là que parce qu'on aura décidé de l'implémenter.


De plus, c'est une forme d'anthropocentrisme. Tu penses un coup de poing ou de pied comme étant douloureux, car si cela t'arrivait à toi, cela te serait douloureux.

[Matthieu Vergne]

Disons que rien ne m'empêche de créer une variable "souffrance" dans mon code, puis de faire varier sa valeur à mon bon plaisir.
Va-t-on m'accuser de torturer mon IA ?

Non, ta variable n'est pas ce qu'on appelle la souffrance. Ta variable te donne une quantité, au même titre que mesurer l'activité cérébrale d'un humain qui souffre te donne une quantité. Mais ça ne te permet pas de dire si une personne souffre ou non. C'est en corrélant d'autres observations, comme son comportement dépressif, ses cris de douleurs, ses opinions négatives, etc. que tu identifieras ça à de la souffrance.

Mais tu pourras me retoquer "Je n'ai qu'à coder ma machine pour que, quand ma variable dépasse un certain seuil, on puisse observer ces comportements, et j'aurai une machine souffrante !". Sauf qu'on aura encore là un point fondamental qui sépare la machine de l'être vivant : ce comportement n'est pas naturel, il a été introduit pour répondre à un besoin (celui de simuler la souffrance telle qu'on la connaît). A contrario, la souffrance d'un être vivant est le résultat de son évolution, et donc un mécanisme émergent. Nous, on a le second, on peut donc comprendre ou ressentir son impact, et donc faire preuve d'empathie amenant à ne pas le souhaiter pour l'autre, parce qu'on ne le souhaite pas pour nous-même. Le premier en revanche, difficile de faire preuve d'empathie quand on sait que c'est un comportement décidé de manière arbitraire, et donc fondamentalement différent du notre.

Avant d'en arriver à parler éthique, il va falloir établir si des notions telles que souffrance, plaisir, intention, volonté sont applicables à la machine. Pour l'instant, je n'en suis pas convaincu.

[BufferBob]

un point fondamental qui sépare la machine de l'être vivant : ce comportement n'est pas naturel, il a été introduit pour répondre à un besoin

encore une fois si l'on s'en tient aux définitions en vigueur, le fait de n'être "pas naturel" (et qui relève de ta propre définition, comme étant finalement et par corolaire "ce qui est créé par la main de l'Homme", c'est très pratique...) n'entre pas en ligne de compte pour déterminer si un organisme est vivant ou non.

Avant d'en arriver à parler éthique, il va falloir établir si des notions telles que souffrance, plaisir, intention, volonté sont applicables à la machine. Pour l'instant, je n'en suis pas convaincu.

la souffrance et le plaisir sont des perceptions qui sont propres à chaque individu, c'est notamment pour cette raison qu'on ne sait pas quantifier la douleur autrement qu'en demandant au patient quelle note il attribuerait lui-même sur une échelle de 1 à 10, ainsi pour savoir si une machine intelligente souffre, on aurait pas d'autre moyen que de lui demander et de la croire sur parole.

avant même de lui demander, il me semble qu'il faudrait d'abord savoir si on lui reconnait ou non une conscience. si on reconnait que la machine est consciente, alors on doit accepter que la douleur qu'elle dit percevoir est bien réelle.
ce qui amène une question adjacente ; qu'est-ce qui fait que l'on reconnait qu'un autre individu (un humain par exemple) est conscient ? va-t-on fouiller dans son cerveau pour s'en assurer ? en d'autres termes qu'est-ce qui définit la conscience ?

l'ébauche de page wiki sur la conscience artificielle semble dire que "L'intelligence artificielle (...) tend à désigner des algorithmes plus ou moins complexes effectués par les ordinateurs, mais toujours sous contrôle et maîtrise de l'Homme. En partant de ce postulat, on peut considérer que le système informatique devient conscient à partir du moment où il n'est plus totalement maîtrisé", ce qui loin d'être un axiome permet d'avoir une base de réflexion sur le sujet.

la question renvoie aussi inévitablement au problème difficile de la conscience exposé par David Chalmers, et par là à la question de la conscience phénoménale qualitative, s'appliquant non seulement aux machines mais également à nous autres humains. sur ce point, les philosophes dits illusionnistes semblent dire que la conscience est un leurre, tout un programme...

évidemment rien de tout ça n'est tranché, et les pistes de réflexion sur le sujet sont nombreuses, mais il me semble que si l'on veut parler un peu sérieusement de tous ces sujets c'est vers la philosophie analytique qu'il faudrait se tourner (entre autres), laquelle pose souvent plus de questions que d'affirmations, et cherche à en explorer les aspects avec rigueur et logique.

[Matthieu Vergne]

encore une fois si l'on s'en tient aux définitions en vigueur, le fait de n'être "pas naturel" (et qui relève de ta propre définition, comme étant finalement et par corolaire "ce qui est créé par la main de l'Homme", c'est très pratique...) n'entre pas en ligne de compte pour déterminer si un organisme est vivant ou non.

Il aurait été de bon aloi d'appuyer ton propos en donnant ladite définition. Alors j'ai cherché des définitions d'être vivant :

• Linternaute -> ça s'appuie sur la notion d'esprit et de goûts. Pas très satisfaisant, mais pour le coup ça rejette les machines.
• Wiktionnaire -> animé par la vie... pas très concluant.
• Wiktionnaire "vivant" -> les définitions sont nombreuses, alors tu ne m'en voudra pas de ne pas toutes les couvrir, celle qui me semble la plus pertinente étant la première, qui renvoie à la notion de vie de Wikipédia.
• Wikipédia -> je cite "La principale caractéristique d’un être vivant, par rapport aux objets inanimés et aux machines, est qu’il est « un corps qui forme lui-même sa propre substance » à partir de celle qu’il puise dans le milieu." La définition continue, mais il est clairement fait état que la machine n'en fait pas partie.

Donc sur cette base, une différence entre un être vivant et une machine est que la machine, elle, ne l'est pas, vivante. Chouette, mais c'est pas ce qui m'intéresse parce que c'est pas mon point. Je ne parle pas spécialement d'êtres vivants, mais plus largement de ce qui est naturel. C'est à dire ce qui est amené à avoir une existence en dehors de tout objectif recherché. Les montagnes, c'est pareil. Mais comme la discussion se concentre sur les être vivants, je fais de même.

qu'est-ce qui définit la conscience ?

l'ébauche de page wiki sur la conscience artificielle semble dire que "L'intelligence artificielle (...) tend à désigner des algorithmes plus ou moins complexes effectués par les ordinateurs, mais toujours sous contrôle et maîtrise de l'Homme. En partant de ce postulat, on peut considérer que le système informatique devient conscient à partir du moment où il n'est plus totalement maîtrisé", ce qui loin d'être un axiome permet d'avoir une base de réflexion sur le sujet.

Une base, certes, mais qui me semble facile à disqualifier comme base pertinente de réflexion : est-ce qu'on maîtrise totalement le comportement de la foudre ? On connaît très bien la théorie qu'il y a derrière, mais ça ne nous aide pas à prédire précisément quand la foudre va frapper, où elle va le faire, ou comment elle va se déployer, ces éléments étant chaotiques. L'apprentissage machine, c'est pareil : on sait très bien comment c'est fait, mais ça ne nous dit pas comment telle instance va évoluer exactement. Si tu prends une base présupposant que la foudre ait une conscience, je ne suis pas sûr que tu arrives à convaincre beaucoup de gens.

la question renvoie aussi inévitablement au problème difficile de la conscience exposé par David Chalmers, et par là à la question de la conscience phénoménale qualitative, s'appliquant non seulement aux machines mais également à nous autres humains. sur ce point, les philosophes dits illusionnistes semblent dire que la conscience est un leurre, tout un programme...

évidemment rien de tout ça n'est tranché, et les pistes de réflexion sur le sujet sont nombreuses, mais il me semble que si l'on veut parler un peu sérieusement de tous ces sujets c'est vers la philosophie analytique qu'il faudrait se tourner (entre autres), laquelle pose souvent plus de questions que d'affirmations, et cherche à en explorer les aspects avec rigueur et logique.

Si je suis d'accord sur le constat fait sur la notion de conscience, je ne suis pas convaincu que cela ait un réel intérêt pour la question qui nous intéresse ici, dans le sens où l'incapacité avérée à répondre à la question "qu'est-ce que la conscience ?" ne change rien au fait qu'on fait clairement et facilement la séparation entre l'humain et la machine. Cette séparation ne se base donc pas sur la notion de conscience, ou en tout cas pas celle dont on s'évertue à chercher encore la définition.

En l'occurrence, le premier argument qui ressort quand on différencie humain et machine, c'est que la machine, "c'est programmé". Il n'y a pas longtemps encore sur ce forum les arguments de ce type fleurissaient dès qu'un article sur l'IA sortait, soit disant que c'était pas intelligent parce que c'était "programmé" pour faire ce que ça faisait. L'argument n'était pas correcte, car l'apprentissage machine n'est que partiellement programmé, les poids étant généralement initialisés de manière aléatoire et ensuite calculés en fonction des données en entrées et les résultats en sortie. Mais l'argument plus général que "c'était fait pour ça" était (et est toujours) bien valable, dans le sens où même l'apprentissage machine est utilisé pour reproduire des comportements souhaités, et que quand ça ne marche pas on réessaye autrement jusqu'à avoir ce qu'on souhaite. C'est tout l'inverse d'un processus naturel, qui se produit même si personne ne le demande et ensuite on a ce qu'on a, même si ça ne plaît pas.

C'est cette distinction entre naturel et artificiel qui pour moi est fondamentale : le fait même que ce soit artificiel veut dire qu'on a chercher à l'obtenir, c'est donc là pour une raison. Un être naturel, on peut lui chercher des raisons, mais même sans en avoir c'est là et c'est comme c'est. Un être artificiel, sans raison pour le faire, ça n'existerait pas. L'existence d'un objectif est donc une propriété essentielle d'un être artificiel, et cet être artificiel est donc là pour atteindre cet objectif. S'il ne le permet pas, c'est un rebut, et donc on requalifie son utilité (réutilisation, recyclage) ou on le détruit.

Introduire une quelconque propriété amenant à les traiter de manière éthique serait pour moi tout à fait contre-productif, car cela remettrait en cause l'objectif même pour lequel ils ont été créés. En ce sens, toutes les propriétés qu'on pourrait identifier qui amènerait à des traitements éthiques de la machine devraient être interdits dès lors que cette machine est produite en tant qu'outil. Car son usage en tant qu'outil interférerait forcément avec ces considérations éthiques, tout comme le traitement de l'humain comme simple outil, exploitable et remplaçable à souhait, n'est pas éthique.

Je ne dis pas qu'aucune machine à traiter avec éthique ne devrait voir le jour, mais si l'on en vient à ce genre de création, on ne pourra plus se permettre de les traiter comme les autre machines. Il sera dès lors important de pouvoir faire la distinction entre cette machine "spéciale" et la machine "outil" qu'on produit à côté. Sinon on verra sortir des manifestants pour rendre leurs droits aux calculatrices, ce que je trouverait totalement stupide.