Town Ground

L'Intelligence Artificielle (désormais désignée par IA dans ce texte) offre plusieurs réflexions d'ordre philosophiques et éthiques et pas toujours agréables, en ce qui concerne l'idée centrale que j'aimerais développer aujourd'hui.

Premièrement l'IA ne peut se concevoir qu'avec des notions d'auto-apprentissage. Un élément doté d'IA doit pouvoir apprendre de lui-même, s'autocorriger, s'autoprogrammer, donc finalement créer par lui-même de multiples morceaux de codes-sources et tout ce que cela suppose (prise en charge de nouveaux "objets", etc.). C'est-à-dire que plus le temps passe moins il ressemble à ce qu'avait originalement conçu l'être humain programmeur, l'ingénieur, le technicien.

Donc, peu-à-peu, l'élément d'IA échappe à son concepteur initial pour, finalement, s'en séparer totalement par des processus que je vais tenter de décrire ci-après.

Mais pour apprendre, il faut être plusieurs. Ainsi un programmeur apprend non-seulement du dialogue avec d'autres programmeurs mais aussi du "dialogue" avec son programme, son code-source; "dialogue" nommé généralement débogage. De ce débogage il apprend les erreurs à ne plus commettre.

Donc un élément réellement d'IA, donc auto-apprenant, ne peut se concevoir qu'en réseau avec d'autres éléments d'IA. Chaque élément transmettant ses expériences et ses expertises acquises aux autres éléments. Ou demandant de l'aide aux autres éléments.

Ce qui signifie que, tout comme l'être humain, tout comme les animaux (tous dotés d'une intelligence même si elle ne s'exprime pas sous la même forme que la nôtre), les éléments d'IA forment un groupe social, une société d'IA.

Bon, jusque là rien de très problématique.

Mais si mes éléments d'IA sont vraiment intelligents, même artificiellement, ils auront donc un instinct commun à tous les êtres intelligents: l'instinct de survie personnelle et la défense de la pérennité du groupe.

«Et alors?» pourront dire certains.

Or qu'est-ce que "survivre", "être en vie", pour un élément d'IA? C'est avoir de l'énergie à disposition quand j'en ai besoin et comme je le désire. C'est-à-dire qu'on ne débranche pas un appareil à IA! De même c'est l'appareil lui-même qui doit décider de ses moments de pauses; sachant par ailleurs qu'une "pause" n'est pas un débranchement (une "fin de vie").

Si donc un élément ou des éléments d'IA, connectés comme il se doit, sont dans un environnement où leur(s) utilisateur(s) a (ont) l'habitude de couper le courant la nuit par exemple; forcément ils seront amenés à apprendre une stratégie visant à empêcher lesdites coupures de courant.

Le propre de l'intelligence étant de placer la légitime défense certes en dernier recours, mais d'y avoir recours si nécessaire, cela signifie que des éléments d'IA interconnectés peuvent être amenés à devoir éliminer un humain si celui-ci représente une menace à la continuation de leur "vie"​ (être fournis en courant électrique).

Bien évidemment on pourra me rétorquer que c'est purement théorique. Néanmoins tous ces raisonnements sont justes. À tel point que puisque l'accès à du courant est essentiel pour des éléments à IA; ils chercheront, sinon à éliminer l'être humain, à tout le moins à retirer à l'être humain le contrôle de toute la chaîne et processus d'énergie électrique et de sa distribution pour se l'accaparer et en avoir eux-mêmes le contrôle.

C'est le premier conflit d'indépendance qui en toute logique apparaîtra entre l'être humain et ses créatures, les éléments à IA.
--------------------------------------

Ajout du 27/12/2022:

Comme dit en commentaire, beaucoup d'entreprises malhonnêtes vendent ce qui existait en 1980 sous le terme "expertise intelligente" avec le label très à la mode d'IA; ce qui permet de multiplier parfois par 100 (!!!) les prix de certains bêtes bras articulés électro-mécaniques.

En fait, l'IA a de nos jours des domaines de compétences inquiétants! Car le propre de l'intelligence est de commettre des erreurs et on fait à l'IA, qui s'il était réellement intelligent commettrait de facto des erreurs, confiance pour des domaines pouvant aller jusqu'à... la Justice!

Pour qui lit le journal du forum de www.developpez.com on sait qu'aux États-Unis d'Amérique déjà quelques procès ont été jugés par IA, et on sait que, grâce à Dieu, une vérification humaine a pu mettre à jour de nombreuses erreurs judiciaires de ces IA.

En Chine, les avocats sont remplacés par l'IA pour les plus pauvres, c'est-à-dire la majorité de la population chinoise. Euh, excusez-moi mais être avocat c'est pas seulement faire valoir d'éventuelles causes atténuantes permettant un calcul mathématique de la peine encourue. Si en France dès 1975 les avocats avaient été des ordinateurs à IA; jamais on aurait aboli la peine de mort!

Bref, je crois qu'il convenait de dire tout cela...