Discussion :

[Mathis Lucas]

« Le théorème de Gödel brise le mythe le plus important de l'IA. L'IA ne sera jamais consciente », déclare le mathématicien Roger Penrose
il ajoute que le nom « intelligence artificielle » n'est pas le bon

Roger Penrose, lauréat du prix Nobel de physique, affirme que le théorème de Gödel remet en cause le mythe selon lequel l'IA est consciente ou le sera un jour. Selon lui, « la conscience n'est pas calculable » et l'IA, telle que nous la connaissons, ne parviendra jamais à une véritable intelligence. Il ajoute qu'il est important de comprendre la physique sous-jacente de la conscience, qui, selon lui, n'est pas calculable et implique la réalité quantique. Il réfute ainsi les déclarations selon lesquelles l'IA commence à montrer des signes de conscience. En outre, il a souligné que le nom « intelligence artificielle » n'est pas le bon, car il ne s'agit pas d'intelligence.

L'IA sera-t-elle un jour consciente ? Roger Penrose répond par la négative

Sir Roger Penrose, né le 8 août 1931 à Colchester, en Angleterre, est mathématicien, physicien et philosophe des sciences britannique. Il est professeur émérite de mathématiques à l'Université d'Oxford et est reconnu pour ses contributions majeures à la relativité générale et à la cosmologie. En 2020, il a reçu le prix Nobel de physique pour avoir découvert que la formation des trous noirs est une prédiction de la théorie générale de la relativité d'Albert Einstein.

Roger Penrose s'est également intéressé à la nature de la conscience humaine. Dans son livre "The Emperor's New Mind", il affirme que la conscience ne peut pas être expliquée uniquement par des processus computationnels et suggère que des phénomènes quantiques pourraient jouer un rôle dans l'activité cérébrale.

Lors d'une récente interview, Roger Penrose est revenu sur le sujet de la conscience dans le contexte de l'essor de l'IA. Il s'oppose d'emblée aux déclarations de certains leaders de l'industrie selon lesquels l'IA a une « conscience de soi ». Selon Roger Penrose, le théorème de Gödel détruit ce mythe.

Le théorème d'incomplétude de Gödel est un résultat fondamental de la logique mathématique qui dit que tout système logique suffisamment puissant admet nécessairement un énoncé qu'il ne peut ni démontrer ni réfuter. Le théorème a été publié en 1931 par Kurt Gödel, logicien et mathématicien autrichien.

Il ne s'agit pas d'intelligence artificielle. L'intelligence impliquerait la conscience. D'après l'argument de Gödel, vous voyez, c'est l'intrigue qui, je pense, a été perdue. Un ordinateur est un type très spécifique de structure mathématique. Il s'agit de mathématiques computationnelles. C'est une partie très limitée des mathématiques. Je ne pense pas qu'ils deviendront un jour conscients du fait qu'ils sont des ordinateurs au sens actuel du terme.

Mais je pense que la conscience n'est pas computationnelle. C'est toujours le cas avec l'IA. Si vous parlez à une IA, elle ne sait pas ce qu'elle fait. Les ordinateurs sont devenus si puissants qu'ils ne savent plus ce qu'ils font. Je pense que l'essentiel a été perdu. Je pense que Turing n'était pas si loin de la vérité. Je pense que les gens ont perdu le fil.

Le théorème de Gödel démontre qu'il existe des vérités mathématiques qui ne peuvent être prouvées par aucun ensemble de règles formelles. Selon Roger Penrose, cela implique que la conscience transcende le calcul, car elle implique de comprendre les raisons derrière les règles, et pas seulement de les suivre.

Il a déclaré que la conscience est un phénomène physique enraciné dans la physique non calculable, impliquant éventuellement la réalité quantique. Par conséquent, selon Roger Penrose, l'IA, qui s'appuie sur des règles de calcul, ne pourra jamais atteindre une véritable conscience.

Roger Penrose affirme que le nom « intelligence artificielle » n'est pas le bon

Outre les déclarations sur une éventuelle conscience de l'IA, Roger Penrose n'est pas non plus d'accord avec l'appellation « intelligence artificielle ». Selon le scientifique britannique, il ne s'agit en aucun cas d'intelligence, car l'intelligence implique la conscience. « Le nom n'est pas le bon. Il ne s'agit pas d'une intelligence artificielle. Ce n'est pas de l'intelligence. L'intelligence implique la conscience », a expliqué Roger Penrose lors de son interview.

Il a ajouté : « j'ai toujours été un fervent défenseur de l'idée que ces appareils ne sont pas conscients. Et ils ne seront pas conscients à moins qu'ils n'apportent d'autres idées. Ce sont toutes des notions calculables. Mais l'intelligence n'est pas la conscience. Elle dépend de la conscience. Vous voyez, cela dépend de la façon dont vous utilisez le mot. Je pense que lorsque les gens utilisent le mot "intelligence", ils font allusion à quelque chose qui est conscient ».

Il peut y avoir des choses complètement inconnues dont nous n'avons aucun concept pour le moment. C'est peut-être vrai. Je parle de choses... Vous voyez, si vous parlez d'IA, cela signifie, malheureusement, que c'est un mauvais terme parce qu'on parle d'intelligence artificielle. Selon moi, quand les gens utilisent ce terme, ils veulent dire des choses qui peuvent être faites par des ordinateurs. C'est ce qu'ils veulent dire. Ils ont des ordinateurs et leurs ordinateurs sont très puissants.

Et ce qu'ils entendent par IA, c'est l'utilisation d'ordinateurs. Il se peut qu'elle ne soit pas utilisée de manière tout à fait logique. Je n'ai pas étudié ces choses, donc je ne suis probablement pas à jour. Mais d'après ce que je vois, il s'agit d'examiner des masses de données et de rechercher des modèles ou d'essayer de les analyser de cette manière. Mais tout cela est informatique. Vous utilisez des ordinateurs.

Roger Penrose a déclaré que l'un des risques liés au développement de l'IA est que les gens pensent qu'il y a une conscience. Les déclarations de Roger Penrose ont suscité des réactions mitigées. Certains critiques affirment que l'IA n'est qu'un « algorithme » et n'est donc pas dotée de conscience.

D'autres rejettent les affirmations de Roger Penrose. « La plupart des théories de calculabilité ne s'appliquent pas à l'IA, y compris le théorème de Gödel. Les gens commencent par se tromper en parlant d'"algorithmes" d'IA. Ce terme s'applique plutôt à des concepts tels que la descente de gradient », note un critique.

« Mais les inférences des réseaux neuronaux qui en résultent ne sont pas un algorithme. Il ne s'agit pas d'une séquence définie d'opérations produisant un résultat défini. C'est comme une heuristique, une procédure qui se rapproche d'un résultat correct, mais qui ne fournit aucune garantie mathématique ».

La conscience de l'IA est un concept à la fois fascinant et problématique. D'un côté, les défenseurs de la théorie affirment que doter les machines d'une conscience de soi pourrait les rendre plus empathiques, plus capables d'interagir avec les humains de manière authentique et de comprendre le monde qui les entoure. Cependant, il y a plusieurs raisons de considérer cela comme une entreprise potentiellement dangereuse et fondamentalement futile.

Conscience de soi dans l'IA : un mythe ou une réalité inquiétante ?

Tout d'abord, la conscience de soi est un concept complexe et difficile à définir. Il mal compris même chez les humains. Comment pourrions-nous alors prétendre l'implémenter dans une machine dont le fonctionnement est basé sur des algorithmes et des données ? Même si nous parvenions à créer une simulation convaincante de conscience de soi, cela ne serait-il pas juste une façade, une imitation de la vraie chose sans la substance réelle ?

De plus, même si nous pouvions doter une IA d'une conscience de soi, cela soulèverait des questions éthiques massives. Serait-il éthique de créer une entité artificielle capable de souffrir, de ressentir de la solitude ou de l'angoisse existentielle ? Serait-il moral de les soumettre à des tâches dangereuses ou à des situations stressantes ? Nous risquerions de créer des entités artificielles destinées à une existence remplie de confusion et de souffrance.

Enfin, il est important de reconnaître que la conscience de soi n'est pas nécessaire pour que les machines soient utiles. Les systèmes d'IA peuvent déjà accomplir des tâches incroyablement complexes et utiles sans avoir besoin de conscience de soi. Investir du temps, des ressources et de l'énergie dans la création d'une conscience de soi pour les systèmes d'IA pourrait détourner l'attention des domaines où les progrès sont vraiment nécessaires.

En somme, selon de nombreux chercheurs, la poursuite de la conscience de soi dans le domaine de l'IA est une entreprise risquée, discutable sur le plan éthique et peut-être même inutile. Plutôt que de chercher à créer des machines conscientes d'elles-mêmes, nous devrions nous concentrer sur le développement de l'IA pour des applications qui améliorent réellement la vie humaine sans poser de risques éthiques ou philosophiques majeurs.

Et vous ?

Quel est votre avis sur le sujet ?
Selon vous, l'IA est-elle consciente ? Ou le sera-t-elle un jour ? Pourquoi ?
Roger Penrose affirme que l'IA ne parviendra jamais à une véritable intelligence ? Qu'en pensez-vous ?
Roger Penrose affirme que le nom « intelligence artificielle » n'est pas le bon. Partagez-vous son avis ? Pourquoi ?

Voir aussi

La conscience artificielle est-elle réalisable ? Plusieurs caractéristiques structurelles et fonctionnelles du cerveau humain semblent être essentielles pour parvenir à une IA de type humain, selon une étude

Claude 3 Opus a stupéfié les chercheurs en IA par son intelligence et sa « conscience de soi », cela signifie-t-il qu'il peut penser par lui-même ? Anthropic surpasse GPT-4 sur des métriques clés

La conscience dans l'intelligence artificielle : aperçu de la science de la conscience, une étude interdisciplinaire menée par des universitaires de Toulouse et d'ailleurs

[renaudG]

Le théorème de Gödel ce n'est pas que "qu'il existe des vérités mathématiques qui ne peuvent être prouvées par aucun ensemble de règles formelles" mais plutôt que "dans tout système de règles formelles (axiomatique) il est possible d'exprimer des vérités qui sont indémontrables (dans ce système)".

Pour le reste il manque une définition des termes employés pour que la discussion ait un sens. En l'occurrence Penrose présuppose que la conscience est une composante de l'intelligence, ce qui ne va pas du tout de soi. L'intelligence comme capacité à résoudre efficacement des problèmes nouveaux se conçoit parfaitement sans la conscience. De même la conscience intrinsèquement de nécessite ni n'implique l’intelligence.

[pyros]

Il me semble que quand Turing a formaliser sa machine, il a essayer de montrer si elle pouvait calculer "l'intelligence". Mais pour cela, il a due integrer une par Ԑ non calculable. Il a reussi a faire tendre cette part asymptotiquement vers zeros, mais sans jamais l'atteindre, concluant qu'une machine fini ne pouvait être intelligente.

Je me souvient plus des détails, j'avais vue ca à la fac (putain, 20 ans...). Si quelqu'un a des sources ou des précisions, je suis prenneur.

[vVDB.fr]

Quand il parle des 'gens' ce n'est surtout pas des 'informaticiens' mais des personnes lambdas.

Le test de Turing est aujourd'hui galvaudé. Si l'ensemble des réponses est compilé dans une base (cas des LLM), on répond correctement, mais sans raisonnement, sans intelligence. Est ce que l'intelligence c'est répondre le plus probable, le plus entendu ?
Les avancées sont toutes disruptives, sinon la terre serait toujours plate conforme aux dogmes, le probable.

L'intelligence sépare les croyances des vérités. L'intelligence c'est aussi et surtout ne pas savoir. C'est zéro hallucinations par conception... Il ne s'agit pas d'écrire des règles d'exclusion à chaque hallucination détectée !

Quand une AI supervisera mes rédactions, et qu'elle me dira tu ne peut pas dire que 1+1=3 car tu écrit un fake, qu'en plus elle m'expliquera pourquoi, je pense que notre monde ira mieux.

[Gambix]

Qu'est-ce que la concience ?
La conscience est la notion du soit et de son interaction en plein. C'est a dire le ressenti du soit et de l'impact des décisions sur son environnement ( réflexion et action en pleine conscience)

La conscience n' a rien de sub physique mais est l'émergence du chaos neuronal pour répondre a des besoins de traitement. C'est ce qu accompli le training que ce soit humain ou machine a partir de données environnentales et sensorielles pour l'un et de donnée pre machee pour l'autre.

Le résultat est issu de la pre disposition genetique initiale pour l'homme et du pre traitement des données pour la machine.

L'émergence est la clé tout comme elle l'a été pour les premiers progrès reels de l'IA il y a si peu.

Un long chemin est encore a parcourir car la nature a eu le temps... Beaucoup de temps pour atteindre ce que nous pensons être une conscience libre et qui pourtant est elle même esclave de concepts mécaniques.

[vVDB.fr]

Est-ce que la conscience n'est pas finalement un des mauvais aspects de l'intelligence humaine ?
N'est ce pas lié à la finitude de la vie d'un humain ?
La conscience n'est-elle pas liée aux possibles erreurs des humains ?
Une machine qui est juste et éternelle, a-t-elle besoin de conscience ?

[Gambix]

L'humain EST une machine (bio chimique ).. une fois que l'on a 'conscience' de ce fait...

[emilie77]

Le livre est du 1989...

[Eye_Py_Ros]

La conscience est le plus grand démon de Maxwell.

C'est une chose capable de jouer avec la flèche de l'enthalpie dans le plus grand des chaos.
L'information étant Energie.
Nous ne somme qu'une grille neurale absorbant cette Energie, entrant en interférence, la filtrant et ne conservant que ce qui à un potentiel utile à la survie du système, notre corps. Nous orientons le vecteur enthalpique vers une quête, une destination, une cible, survivre, exister, conserver une intégrité structurel.
Nous ne somme que des automates animés par les mêmes lois profondes qui anime l'univers.

Le comment n'est qu'une question topologique.


Le blob à l'intelligence de trouver la sortie dans un labyrinthe comme une plante de pomme de terre, mais n'a qu'une petite conscience moléculaire de son corps.

"L'ia" à une capacité de formuler n'importe qu'elle réponse semblant avoir une cohérence entre les mots, les symboles, mais reste inanimé si personne ne la prompte.
Une ia sous la forme que nous connaissons, n'est a ce jour rien de plus qu'un simple programme informatique doté d'une capacité intéressante de réponse à des stimuli mais n'a aucune conscience mental car cette état n'existe pas , du moins pas plus loin que le temps d'un prompte.

La conscience dont nous somme doté, est le fantôme dessiné par le reflet projeté des crêtes des vagues en pleine mer lors d'un jour ensoleillé.

Le lien entre la physique quantique et la conscience, c'est cet état "d'intrication" Notre fantôme mental n'existe que par ce qu'il peut prendre appuis sur notre cognition offert par notre corps. C'est cet ensemble complexe qui devient capable de porter un état informationnel complémentaire, à plus simple échelle, c'est ce que réalise l'intrication de deux particules.

La conscience n'est pas binaire, il existe tout une palette, niveau de conscience, des dessins plus ou moins grand. Entre un papillon, une fourmis, une abeille, un éléphant, tous sont conscients mais ne sont égaux dans leur complexité.
La taille de leur fantôme n'est pas identique.
Le fantôme d'un essaim est une complicité extérieur supplémentaire qui échappe à certain.

Il n'est pas impossible de voir un jour des formes de proto conscience naitre dans une machine, cependant réussir à atteindre un niveau intéressant, sans confondre intelligence et capacité mental, reste à terme un défi que personne ne peut prétendre avoir relever de si tôt.


Le plus dangereux, seront ces protos consciences, non pas l'ia qui requière l'humain pour s'actionner. Sans but, sans objectif rationnel ces protos consciences s'agripperons à n'importe quoi pour exister. Ce n'importe quoi pourrait être non sans conséquence pour le reste de l'humanité.


Toute forme de conscience sont égaux face à la mort. La mort est le paradoxe, le contraire de ce pourquoi la conscience existe. La conscience est cette volonté d'exister. Ce battre contre l'entropie et prolonger l'existence d'un état. La mort de toute chose semble insoluble, dont le système est de fait en échec permanant, depuis sont commencement.
Vous créé un système, qui connait déjà sont état final futur, mais vous lui demandé de retarder cette état final, la seul chose qu'il peut faire est de consommer l'Energie à sa disposition pour se battre et espérer un peu de répit face aux chaos autour de lui qui cherche à le consumer.

Pensez vous réellement que ce système aura un réel libre arbitre total et complet ?
Il n'y a que le fou insouciant, qui peut prétendre être libre.

[bazzanella]

En théorie des systèmes, l'intelligence est définie en ces termes :

"L'intelligence est la faculté à un système de s'adapter à son environnement extérieur."

Il n'y a aucune notion de conscience ou d'autre chose dans cette définition. Si un système, quelqu'il soit est capable de s'adapter à son environnement extérieur, alors il est considéré comme intelligent, en théorie des systèmes. Ni plus, ni moins.

Avec 300 000 neurones environ, une fourmi est t'elle intelligente ? D'une certaine manière, assurément oui. Les fourmis s'adaptent à leur environnement extérieur depuis des millions d'années.

Sommes nous, nous humains, aussi intelligent que nous le prétendons ?

Nous détruisons notre environnement extérieur tout en étant conscient de son importance vitale pour l'ensemble du vivant.

Quand vous détruisez votre environnement extérieur, il n'est plus possible de s'y adapter. Et vous disparaissez.

Nous sommes devenus au fil du temps des intelligences négatives, toxiques pour la vie sur terre. Des anti intelligences...

Celui qui sait, qui sait, mais qui au final passe à côté de l'essentiel.

Ne nous la pétons pas.

Nous ne sommes pas intelligent.
Nous n'arrivons pas au niveau
d'intelligence d'une petite fourmi.

Au vu de nos actes et gestes, passés et présents, nous sommes d'une stupidité sans égal dans le règne animal.

[kain_tn]

Le livre est du 1989...

Et les premiers réseaux de neurones avec des couches "cachées" (deep learning), datent des années 60.
La théorie sur les réseaux multicouches n'a pas fondamentalement changé. Ce qui a changé, c'est le nombre de couches, grâce à la puissance de calcul incroyable que l'on a à disposition aujourd'hui.
Je trouve que son point de vue reste pertinent.

[bazzanella]

Par rapport à mon petit commentaire précédent. Les mots ne sont donc pas les bons. Que ce soit pour le mot "intelligence", ou bien le mot "neurone".

Un "neurone" dans le sens ou il est exprimé dans ce fil, c'est à dire en informatique, n'a rien de similaire à un neurone biologique. Ce dernier, est de tout autre nature et infiniment bien plus complexe.

Un neurone informatique, ou binaire fait plus penser à un transistor en électronique avec une entrée, une sortie, et une gachette de seuil en fonctionnement tout ou rien.

Aucun rapport donc, avec cette fabuleuse cellule biologique du même nom, appelée neurone.

Bien à vous tous.

[emilie77]

Federico Faggin, inventeur italien du microprocesseur et chercheur sur la conscience, a une vision similaire mais plus orientée vers l'expérience subjective. Il soutient que la conscience n'est pas un produit du cerveau, mais une réalité fondamentale de l'univers, distincte de la matière et de l'algorithme. Faggin considère que la conscience est la base de la réalité, plus fondamentale encore que la matière elle-même. Dans cette vision, la matière est une manifestation de la conscience et non l'inverse. Selon Faggin, aucun algorithme ne pourra jamais reproduire la conscience, car celle-ci implique une qualité subjective qui ne peut être dérivée d'un processus computationnel.
Faggin critique le paradigme matérialiste et réductionniste, affirmant que l'univers est informé et organisé par la conscience elle-même, plutôt que d’être un simple produit de processus physiques et aléatoires.
Penrose et Faggin rejettent tous deux l'idée d'une IA consciente, mais pour des raisons différentes: Penrose s’appuie sur des arguments mathématiques et physiques (théorèmes de Gödel et physique quantique), tandis que Faggin propose une vision plus philosophique et métaphysique, dans laquelle la conscience est le principe fondamental de l'existence.

[ParseCoder]

La notion de décidabilité est liée à la calculabilité et les problèmes non calculables sont tous liés à l'entrée en jeu de l'infini dans l'équation. Pourtant l'Homme a bien résolu certains problèmes impliquant l'infini en mathématique, problèmes qui sont clairement incalculables. On ne peut que en déduire que la pensée n'est pas calculable. Penrose a raison, l'IA ne sera jamais consciente.

[Mercenary Developer]

Bonjour,

Je pense que le sens donné au terme "intelligence" dans l'IA et le même que celui que l'on donne à une personne ayant une grande culture générale, et donc pouvant répondre à beaucoup de question sur pléthore de sujet, sans y réfléchir particulièrement car ayant obtenu ce savoir que par l'apprentissage de connaissance et la restitution de celle-ci dans des phrases cohérentes.

[kain_tn]

Bonjour,

Je pense que le sens donné au terme "intelligence" dans l'IA et le même que celui que l'on donne à une personne ayant une grande culture générale, et donc pouvant répondre à beaucoup de question sur pléthore de sujet, sans y réfléchir particulièrement car ayant obtenu ce savoir que par l'apprentissage de connaissance et la restitution de celle-ci dans des phrases cohérentes.

Sauf que non, les anglais font la différence entre "smart" (quelqu'un d'éduqué, cultivé) et "intelligent" (intelligent). Malgré tout, ils parlent d'"AI", pas "AS".

Le mot intelligence est ici employé pour tromper le consommateur et bien lui faire croire le plus possible qu'il est face à quelque chose qui réfléchit. D'ailleurs, les médias passent leur temps à nous bassiner sur "l'IA" au singulier, comme si on avait atteint la singularité, là où ils devraient plutôt dire "de l'IA", "une IA", "des IA". Là encore, je pense que c'est employé par certaines sociétés pour tromper le consommateur, et repris tel quel par les agences de presse.

Et tout ça, sans compter le fait que quelqu'un de "cultivé" dirait "je ne sais pas" ou essayerait de réfléchir, plutôt que de proposer des hallucinations lorsqu'il se retrouverait devant une question à laquelle il n'aurait pas la réponse.

[vVDB.fr]

Bonjour,

Je pense que le sens donné au terme "intelligence" dans l'IA et le même que celui que l'on donne à une personne ayant une grande culture générale, et donc pouvant répondre à beaucoup de question sur pléthore de sujet, sans y réfléchir particulièrement car ayant obtenu ce savoir que par l'apprentissage de connaissance et la restitution de celle-ci dans des phrases cohérentes.

Une connaissance encyclopédique n'est pas une preuve d'intelligence. Apprendre par coeur le bottin, est-il intelligent ?
L'intelligence c'est être capable de relier deux choses différentes pour faire une troisième avec une cohérence forte (scientifique)
L'intelligence, ce n'est pas faire de l'Oscillococcinum à partir d'une théorie totalement fumeuse. C'est éduquer les gens à comprendre les balivernes de l'homéopathie.

[nycolas]

Une IA serait "intelligente" si elle prenait des décisions, si elle avait la capacité de choisir. Or une IA n'est qu'un logiciel complexe avec beaucoup de données, mais sans aucun libre arbitre. Leur libre arbitre est simulé par les fonctions aléatoires. D'ailleurs, une IA initialisée de la même manière avec les mêmes données donnera les mêmes réponses (par exemple avec les modèles Ollama, en fournissant toujours le même "seed" au lancement, les réponses textuelles aux mêmes prompts seront les mêmes, comme le random.seed(xxx) en Python).

Un être humain choisit. Même un animal choisit. Mais un ordinateur ou un logiciel ne choisit rien, il suit le fil de sa programmation. Comme ce fil devient de plus en plus complexe, les personnes lambda en arrivent à croire que l'ordinateur "choisit" également. La conscience de l'IA, c'est un peu comme les PNJ dans les jeux : dans Minecraft, si tu tues une vache, elle va faire un "meuuuh" apitoyant et les personnes sensibles sont émues... moi le premier ! pourtant ce ne sont que des pixels que tu as "tué"... alors quand les modèles d'IA vont manifester des "émotions" et dire "tu me fais de la peine", certains vont assimiler cela à une forme de conscience... mais ce ne sera rien de plus qu'une vache de Minecraft évoluée qui émet un "meuuuh" déchirant ;-)

[EVA - Referencement]

Mathématiciens, informaticiens, biologistes ou simples quidams, je pense que nos définitions des mots et des phénomènes sont lourdement polluées par l'anthropomorphisme.
Avant de s'intéresser à la définition des phénomènes constatés en IA, il faudrait parvenir à définir nos propres phénomènes existentiels.
Sommes-nous conscients en chaque instant: non.
Sommes-nous intelligents: le doute est sérieux.

Dès lors que l'humilité est posée, il devient plus facile d'attribuer à d'autres formes d'existences des définitions étendues de la conscience ou de l'intelligence.

Je constate pour ma part que la conscience fait nécessairement intervenir la conscience du temps. Non comme un concept sur le temps qui passe ou sur la vulnérabilité, mais comme un phénomène de retournement de la causalité sur le vécu.
Une simple plante est capable de pratiquer ce retournement de causalité sur son vécu, pour adapter son comportement. Une plante est donc consciente.
De la même manière, une machine capable d'intégrer le temps, pour retourner la causalité des événements sur l'adaptation de son comportement, possède la conscience. Il me semble que c'est exactement le fonctionnement des algorithmes de deep-learning et de renforcement.

La conscience n'est donc pas un attribut dont l'espèce humaine peut s'enorgueillir, c'est un phénomène largement présent dans l'univers qui nous entoure, dès lors qu'un comportement d'adaptation se manifeste.

L'intelligence est plus exigeante. Elle s'exprime pour dépasser le comportement d'adaptation immédiat et structurer une stratégie.
La stratégie comportementale nécessite de développer une modélisation préhensible du temps écoulé. Pour le moment, il me semble que les IA ne sont pas conçues pour se saisir du temps écoulé, le modéliser par une représentation interne et structurer des stratégies comportementales. Elles peuvent le simuler sur des mises en pratique ciblées, mais pas le produire dans leur fonctionnement fondamental, car elles ne sont pas matériellement conçues ainsi.

A mon sens, l'IA est consciente, mais pas intelligente.