L'IA sera-t-elle un jour consciente ? Le prix Nobel de physique Roger Penrose répond par la négative
« Le théorème de Gödel brise le mythe le plus important de l'IA. L'IA ne sera jamais consciente », déclare le mathématicien Roger Penrose
il ajoute que le nom « intelligence artificielle » n'est pas le bon
Roger Penrose, lauréat du prix Nobel de physique, affirme que le théorème de Gödel remet en cause le mythe selon lequel l'IA est consciente ou le sera un jour. Selon lui, « la conscience n'est pas calculable » et l'IA, telle que nous la connaissons, ne parviendra jamais à une véritable intelligence. Il ajoute qu'il est important de comprendre la physique sous-jacente de la conscience, qui, selon lui, n'est pas calculable et implique la réalité quantique. Il réfute ainsi les déclarations selon lesquelles l'IA commence à montrer des signes de conscience. En outre, il a souligné que le nom « intelligence artificielle » n'est pas le bon, car il ne s'agit pas d'intelligence.
L'IA sera-t-elle un jour consciente ? Roger Penrose répond par la négative
Sir Roger Penrose, né le 8 août 1931 à Colchester, en Angleterre, est mathématicien, physicien et philosophe des sciences britannique. Il est professeur émérite de mathématiques à l'Université d'Oxford et est reconnu pour ses contributions majeures à la relativité générale et à la cosmologie. En 2020, il a reçu le prix Nobel de physique pour avoir découvert que la formation des trous noirs est une prédiction de la théorie générale de la relativité d'Albert Einstein.
Roger Penrose s'est également intéressé à la nature de la conscience humaine. Dans son livre "The Emperor's New Mind", il affirme que la conscience ne peut pas être expliquée uniquement par des processus computationnels et suggère que des phénomènes quantiques pourraient jouer un rôle dans l'activité cérébrale.
Lors d'une récente interview, Roger Penrose est revenu sur le sujet de la conscience dans le contexte de l'essor de l'IA. Il s'oppose d'emblée aux déclarations de certains leaders de l'industrie selon lesquels l'IA a une « conscience de soi ». Selon Roger Penrose, le théorème de Gödel détruit ce mythe.
Le théorème d'incomplétude de Gödel est un résultat fondamental de la logique mathématique qui dit que tout système logique suffisamment puissant admet nécessairement un énoncé qu'il ne peut ni démontrer ni réfuter. Le théorème a été publié en 1931 par Kurt Gödel, logicien et mathématicien autrichien.
Citation:
Envoyé par Roger Penrose
Il ne s'agit pas d'intelligence artificielle. L'intelligence impliquerait la conscience. D'après l'argument de Gödel, vous voyez, c'est l'intrigue qui, je pense, a été perdue. Un ordinateur est un type très spécifique de structure mathématique. Il s'agit de mathématiques computationnelles. C'est une partie très limitée des mathématiques. Je ne pense pas qu'ils deviendront un jour conscients du fait qu'ils sont des ordinateurs au sens actuel du terme.
Mais je pense que la conscience n'est pas computationnelle. C'est toujours le cas avec l'IA. Si vous parlez à une IA, elle ne sait pas ce qu'elle fait. Les ordinateurs sont devenus si puissants qu'ils ne savent plus ce qu'ils font. Je pense que l'essentiel a été perdu. Je pense que Turing n'était pas si loin de la vérité. Je pense que les gens ont perdu le fil.
Le théorème de Gödel démontre qu'il existe des vérités mathématiques qui ne peuvent être prouvées par aucun ensemble de règles formelles. Selon Roger Penrose, cela implique que la conscience transcende le calcul, car elle implique de comprendre les raisons derrière les règles, et pas seulement de les suivre.
Il a déclaré que la conscience est un phénomène physique enraciné dans la physique non calculable, impliquant éventuellement la réalité quantique. Par conséquent, selon Roger Penrose, l'IA, qui s'appuie sur des règles de calcul, ne pourra jamais atteindre une véritable conscience.
Roger Penrose affirme que le nom « intelligence artificielle » n'est pas le bon
Outre les déclarations sur une éventuelle conscience de l'IA, Roger Penrose n'est pas non plus d'accord avec l'appellation « intelligence artificielle ». Selon le scientifique britannique, il ne s'agit en aucun cas d'intelligence, car l'intelligence implique la conscience. « Le nom n'est pas le bon. Il ne s'agit pas d'une intelligence artificielle. Ce n'est pas de l'intelligence. L'intelligence implique la conscience », a expliqué Roger Penrose lors de son interview.
Il a ajouté : « j'ai toujours été un fervent défenseur de l'idée que ces appareils ne sont pas conscients. Et ils ne seront pas conscients à moins qu'ils n'apportent d'autres idées. Ce sont toutes des notions calculables. Mais l'intelligence n'est pas la conscience. Elle dépend de la conscience. Vous voyez, cela dépend de la façon dont vous utilisez le mot. Je pense que lorsque les gens utilisent le mot "intelligence", ils font allusion à quelque chose qui est conscient ».
Citation:
Envoyé par Roger Penrose
Il peut y avoir des choses complètement inconnues dont nous n'avons aucun concept pour le moment. C'est peut-être vrai. Je parle de choses... Vous voyez, si vous parlez d'IA, cela signifie, malheureusement, que c'est un mauvais terme parce qu'on parle d'intelligence artificielle. Selon moi, quand les gens utilisent ce terme, ils veulent dire des choses qui peuvent être faites par des ordinateurs. C'est ce qu'ils veulent dire. Ils ont des ordinateurs et leurs ordinateurs sont très puissants.
Et ce qu'ils entendent par IA, c'est l'utilisation d'ordinateurs. Il se peut qu'elle ne soit pas utilisée de manière tout à fait logique. Je n'ai pas étudié ces choses, donc je ne suis probablement pas à jour. Mais d'après ce que je vois, il s'agit d'examiner des masses de données et de rechercher des modèles ou d'essayer de les analyser de cette manière. Mais tout cela est informatique. Vous utilisez des ordinateurs.
Roger Penrose a déclaré que l'un des risques liés au développement de l'IA est que les gens pensent qu'il y a une conscience. Les déclarations de Roger Penrose ont suscité des réactions mitigées. Certains critiques affirment que l'IA n'est qu'un « algorithme » et n'est donc pas dotée de conscience.
D'autres rejettent les affirmations de Roger Penrose. « La plupart des théories de calculabilité ne s'appliquent pas à l'IA, y compris le théorème de Gödel. Les gens commencent par se tromper en parlant d'"algorithmes" d'IA. Ce terme s'applique plutôt à des concepts tels que la descente de gradient », note un critique.
« Mais les inférences des réseaux neuronaux qui en résultent ne sont pas un algorithme. Il ne s'agit pas d'une séquence définie d'opérations produisant un résultat défini. C'est comme une heuristique, une procédure qui se rapproche d'un résultat correct, mais qui ne fournit aucune garantie mathématique ».
La conscience de l'IA est un concept à la fois fascinant et problématique. D'un côté, les défenseurs de la théorie affirment que doter les machines d'une conscience de soi pourrait les rendre plus empathiques, plus capables d'interagir avec les humains de manière authentique et de comprendre le monde qui les entoure. Cependant, il y a plusieurs raisons de considérer cela comme une entreprise potentiellement dangereuse et fondamentalement futile.
Conscience de soi dans l'IA : un mythe ou une réalité inquiétante ?
Tout d'abord, la conscience de soi est un concept complexe et difficile à définir. Il mal compris même chez les humains. Comment pourrions-nous alors prétendre l'implémenter dans une machine dont le fonctionnement est basé sur des algorithmes et des données ? Même si nous parvenions à créer une simulation convaincante de conscience de soi, cela ne serait-il pas juste une façade, une imitation de la vraie chose sans la substance réelle ?
De plus, même si nous pouvions doter une IA d'une conscience de soi, cela soulèverait des questions éthiques massives. Serait-il éthique de créer une entité artificielle capable de souffrir, de ressentir de la solitude ou de l'angoisse existentielle ? Serait-il moral de les soumettre à des tâches dangereuses ou à des situations stressantes ? Nous risquerions de créer des entités artificielles destinées à une existence remplie de confusion et de souffrance.
Enfin, il est important de reconnaître que la conscience de soi n'est pas nécessaire pour que les machines soient utiles. Les systèmes d'IA peuvent déjà accomplir des tâches incroyablement complexes et utiles sans avoir besoin de conscience de soi. Investir du temps, des ressources et de l'énergie dans la création d'une conscience de soi pour les systèmes d'IA pourrait détourner l'attention des domaines où les progrès sont vraiment nécessaires.
En somme, selon de nombreux chercheurs, la poursuite de la conscience de soi dans le domaine de l'IA est une entreprise risquée, discutable sur le plan éthique et peut-être même inutile. Plutôt que de chercher à créer des machines conscientes d'elles-mêmes, nous devrions nous concentrer sur le développement de l'IA pour des applications qui améliorent réellement la vie humaine sans poser de risques éthiques ou philosophiques majeurs.
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Selon vous, l'IA est-elle consciente ? Ou le sera-t-elle un jour ? Pourquoi ?
:fleche: Roger Penrose affirme que l'IA ne parviendra jamais à une véritable intelligence ? Qu'en pensez-vous ?
:fleche: Roger Penrose affirme que le nom « intelligence artificielle » n'est pas le bon. Partagez-vous son avis ? Pourquoi ?
Voir aussi
:fleche: La conscience artificielle est-elle réalisable ? Plusieurs caractéristiques structurelles et fonctionnelles du cerveau humain semblent être essentielles pour parvenir à une IA de type humain, selon une étude
:fleche: Claude 3 Opus a stupéfié les chercheurs en IA par son intelligence et sa « conscience de soi », cela signifie-t-il qu'il peut penser par lui-même ? Anthropic surpasse GPT-4 sur des métriques clés
:fleche: La conscience dans l'intelligence artificielle : aperçu de la science de la conscience, une étude interdisciplinaire menée par des universitaires de Toulouse et d'ailleurs
Trop confusionniste pour avoir vraiment du sens
Le théorème de Gödel ce n'est pas que "qu'il existe des vérités mathématiques qui ne peuvent être prouvées par aucun ensemble de règles formelles" mais plutôt que "dans tout système de règles formelles (axiomatique) il est possible d'exprimer des vérités qui sont indémontrables (dans ce système)".
Pour le reste il manque une définition des termes employés pour que la discussion ait un sens. En l'occurrence Penrose présuppose que la conscience est une composante de l'intelligence, ce qui ne va pas du tout de soi. L'intelligence comme capacité à résoudre efficacement des problèmes nouveaux se conçoit parfaitement sans la conscience. De même la conscience intrinsèquement de nécessite ni n'implique l’intelligence.
L'IA pourrais atteindre une forme de conscience
Qu'est-ce que la concience ?
La conscience est la notion du soit et de son interaction en plein. C'est a dire le ressenti du soit et de l'impact des décisions sur son environnement ( réflexion et action en pleine conscience)
La conscience n' a rien de sub physique mais est l'émergence du chaos neuronal pour répondre a des besoins de traitement. C'est ce qu accompli le training que ce soit humain ou machine a partir de données environnentales et sensorielles pour l'un et de donnée pre machee pour l'autre.
Le résultat est issu de la pre disposition genetique initiale pour l'homme et du pre traitement des données pour la machine.
L'émergence est la clé tout comme elle l'a été pour les premiers progrès reels de l'IA il y a si peu.
Un long chemin est encore a parcourir car la nature a eu le temps... Beaucoup de temps pour atteindre ce que nous pensons être une conscience libre et qui pourtant est elle même esclave de concepts mécaniques.
homo sapiens sapiens ? intelligent ?
En théorie des systèmes, l'intelligence est définie en ces termes :
"L'intelligence est la faculté à un système de s'adapter à son environnement extérieur."
Il n'y a aucune notion de conscience ou d'autre chose dans cette définition. Si un système, quelqu'il soit est capable de s'adapter à son environnement extérieur, alors il est considéré comme intelligent, en théorie des systèmes. Ni plus, ni moins.
Avec 300 000 neurones environ, une fourmi est t'elle intelligente ? D'une certaine manière, assurément oui. Les fourmis s'adaptent à leur environnement extérieur depuis des millions d'années.
Sommes nous, nous humains, aussi intelligent que nous le prétendons ?
Nous détruisons notre environnement extérieur tout en étant conscient de son importance vitale pour l'ensemble du vivant.
Quand vous détruisez votre environnement extérieur, il n'est plus possible de s'y adapter. Et vous disparaissez.
Nous sommes devenus au fil du temps des intelligences négatives, toxiques pour la vie sur terre. Des anti intelligences...
Celui qui sait, qui sait, mais qui au final passe à côté de l'essentiel.
Ne nous la pétons pas.
Nous ne sommes pas intelligent.
Nous n'arrivons pas au niveau
d'intelligence d'une petite fourmi.
Au vu de nos actes et gestes, passés et présents, nous sommes d'une stupidité sans égal dans le règne animal.
Sens de "intelligence" ici.
Bonjour,
Je pense que le sens donné au terme "intelligence" dans l'IA et le même que celui que l'on donne à une personne ayant une grande culture générale, et donc pouvant répondre à beaucoup de question sur pléthore de sujet, sans y réfléchir particulièrement car ayant obtenu ce savoir que par l'apprentissage de connaissance et la restitution de celle-ci dans des phrases cohérentes.
La conscience est l'intégration du temps, l'intelligence est le développement de cette intégrale
Mathématiciens, informaticiens, biologistes ou simples quidams, je pense que nos définitions des mots et des phénomènes sont lourdement polluées par l'anthropomorphisme.
Avant de s'intéresser à la définition des phénomènes constatés en IA, il faudrait parvenir à définir nos propres phénomènes existentiels.
Sommes-nous conscients en chaque instant: non.
Sommes-nous intelligents: le doute est sérieux.
Dès lors que l'humilité est posée, il devient plus facile d'attribuer à d'autres formes d'existences des définitions étendues de la conscience ou de l'intelligence.
Je constate pour ma part que la conscience fait nécessairement intervenir la conscience du temps. Non comme un concept sur le temps qui passe ou sur la vulnérabilité, mais comme un phénomène de retournement de la causalité sur le vécu.
Une simple plante est capable de pratiquer ce retournement de causalité sur son vécu, pour adapter son comportement. Une plante est donc consciente.
De la même manière, une machine capable d'intégrer le temps, pour retourner la causalité des événements sur l'adaptation de son comportement, possède la conscience. Il me semble que c'est exactement le fonctionnement des algorithmes de deep-learning et de renforcement.
La conscience n'est donc pas un attribut dont l'espèce humaine peut s'enorgueillir, c'est un phénomène largement présent dans l'univers qui nous entoure, dès lors qu'un comportement d'adaptation se manifeste.
L'intelligence est plus exigeante. Elle s'exprime pour dépasser le comportement d'adaptation immédiat et structurer une stratégie.
La stratégie comportementale nécessite de développer une modélisation préhensible du temps écoulé. Pour le moment, il me semble que les IA ne sont pas conçues pour se saisir du temps écoulé, le modéliser par une représentation interne et structurer des stratégies comportementales. Elles peuvent le simuler sur des mises en pratique ciblées, mais pas le produire dans leur fonctionnement fondamental, car elles ne sont pas matériellement conçues ainsi.
A mon sens, l'IA est consciente, mais pas intelligente.
Conscience de l'ordinateur : réalité imaginaire ?
Assez d'accord avec la tromperie médiatique, mais justement, ça m'a motivé pour essayer…
Et comme je dis dans un autre fil de commentaires, c'est plaisant, et j'y retourne avec enthousiasme.
Les ordinateurs conscients ? Comme disait Gotlib "Alors là, mon cher, vous êtes en pleine science fiction" :-D
Justement, au cinéma, ça a été imaginé : "Avengers - L'ère d'Ultron" est pour moi emblématique.
Et les dialogues ne sont pas piqués des vers, si j'ose dire. Ni les jeux des acteurs qui personnifient ces IA notamment après la fusion des deux "algorithmes", l'un bienveillant, l'autre malveillant, à tel point que cela aboutit à un nouveau super-héros "personnifié" attribué à l'acteur de la voix de Jarvis, l'IA jaune de Ironman, à savoir M. Paul Bettany qui après Jarvis et avec Ultron sera "Vision". L'acteur qui fait Ultron après la fusion est je trouve sublime aussi, un peu comme si sa conscience se réveillait d'un sommeil profond.
Actuellement, Quand je "conversationne" avec des IA ("Intelligence Algorithmique" ? ;-* ), j'ai parfois l'impression de parler à Jarvis.
J'en ai fait la remarque au Bing Copilot de l'époque, au moins V-2 ou V-3, on doit en être à V5 ou V6 aujourd'hui, il a presque rigolé (c'était avant qu'il parle smiley), il m'a répondu (humblement) qu'il ne savait pas utiliser de périphériques pour fabriquer :-O
Mais tout ça est bel et bien du cinéma de science fiction, la grande illusion.
;-*
