Discussion :

[Nezrouge]

Je suis novice mais ce que je ne comprends pas dans les débats sur la menace future de l'IA, c'est qu'elle serait sa motivation à elle, indépendamment d'une consigne qu'on lui aurait programmée ? Les humains et tout être vivant a l'adn pour être "programmé" à croître, se reprodure et même juste survivre. D'où viendrait la motivation d'une IA à vouloir nous détruire, ou même survivre si ce n'est pas quelqu'un qui lui a commandé ? (même en le commendant par demande d'imitation du vivant, mais ça ne serait toujours pas une volonté propre de la machine)

[L33tige]

Venant d'un gars qui vends des projets qui ne peuvent pas êtres viables comme l'hyperloop avant même les maquettes...

Enfin je suis d'accord avec le fait qu'il à fait un paquet de bon business model pour certaines de ses entreprises, mais ya un paquet de pétards mouillés à côté.

[egann538]

Ce ne sont pas des lignes de code exécutées ? C'est quoi alors ?

Pour faire court, on définit des "champs d'actions possibles" pour une IA, basée sur des réseaux de neurones par exemple, ainsi que des données d'entrée. Dans le cas d'un jeu de go, les champs d'action seront les placement possibles des jetons, et les données d'entrée le placement des jetons adverses. Ensuite on laisse les réseaux neuronaux se générer et évoluer "tout seuls". Ce qui fait que l'on va aboutir à des stratégies de go complètement imprévisibles par les chercheurs à l'origine du programme.
La preuve que le programme finit par avoir un comportement non prévu et "plus intelligent" dans une certaine mesure, que les chercheurs, est que ceux-ci ne sont pas des champions de go, et pourtant l'IA peut battre des champions.

[yoyo3d]

D'où viendrait la motivation d'une IA à vouloir nous détruire

Sa motivation pourrait découler:
- d'une partie de son code (écrit par des humains) qui lui impose de faire les "bons choix" et de proscrire les mauvais choix ...(là c'est plutôt facile à borner)
- de son expérience acquise par l'apprentissage qui, par conséquent n'est pas programmée, (c'est là que survient le risque, car quelle serait donc la limite de cette expérience auto développée)

on peut considérer que, tous les choix possibles dans la vie n'étant pas programmables, la machine définisse elle même comme "bon choix" quelque chose que , nous humains , mettons dans la catégorie des mauvais choix.
ex, une machine pourrait décider que nos hésitations ou nos "sentiment" sont en contradictions avec les "objectifs" que nous lui imposons par le biais d'un programme.

Bon, on se rapproche beaucoup d'asimov, d'i robot, de tron et tous les films ou les machines disposent à un moment d'un petit peu trop de "libre arbitre" et qu'elles décident de se passer de nous pour réfléchir.
je pense notre volonté de créer des machines de plus en plus humaines (conscience, sentiment, psychologie....) que nous finirons par leur donner aussi nos défauts...

[Nezrouge]

Sa motivation pourrait découler:
- de son expérience acquise par l'apprentissage qui, par conséquent n'est pas programmée, (c'est là que survient le risque, car quelle serait donc la limite de cette expérience auto développée)

Merci de ta réponse, et oui je comprends ce que tu veux dire. Mais je trouve que même dans ce cas, ça n'est pas une motivation intrinsèque de la machine ou "des machines (de l'espèce)". Car ça n'est au final qu'un tas de ferrail sans volonté propre. Donc quand bien même la machine se met à établir ses propres motivations à partir de ce qui lui a été commandée, nous aurons toujours le moyen de la contrer.
Là où ça pourrait déraper, c'est avec soit l'existance de milliers de robots mobiles/drones qui seraient contaminés par une même intentionnalité, ou encore, effectivement, le mélange homme-machine, où notre propre cerveau serait modifié par la machine et un hackage géant produirait une nouvelle volonté d'espèce.

On pourrait aussi penser à une forme d'évolution au sens darwinien. Après plusieurs génération d'hommes implantés par des constituants machines, cela crée une scission dans l'espace humaine entre ceux qui en ont et les autres. Mais je pense que la logique du vivant restera rebelle bien longtemps à une mainmise totale.

Je conclue dans tous les cas à une impossibilité que la machine seule puisse prendre le contrôle, hormis d'un énorme plantage des systèmes informatiques héhé ce qui serait déjà une belle foire !

[MABROUKI]

Je conclue dans tous les cas à une impossibilité que la machine seule puisse prendre le contrôle, hormis d'un énorme plantage des systèmes informatiques héhé ce qui serait déjà une belle foire !

Eh oui,le plantage ,la panne débile d'un robot "intelligent" .
En effet un robot vraiment ressemblant à l'homme,à un être vivant devrait disposer de mécanismes propres ou constitutifs pour surmonter la panne,la "maladie",la défaillance imprévue dans 90 pour cent des cas.
Qu'on pense un instant que le cerveau, le cœur humain,nos poumons, nos reins tombent rarement en panne complète dans le cours d'une vie.
Alors que la meilleure pompe à essence du monde du monde doit être remplacé N fois alors que notre pauvre petit cœur peut battre sans accroc majeur 90 ou 100 ans.
Rien que sur cet aspect fiabilité ,je suis sceptique sur la capacité de l'humain à mettre des robots fiables même pour des taches adaptatives.

[Ryu2000]

D'où viendrait la motivation d'une IA à vouloir nous détruire, ou même survivre si ce n'est pas quelqu'un qui lui a commandé ?

Il y a des robots qui vont être conçu pour nuire. Peut-être certains auront pour objectif de tuer le maximum de mâle blanc hétérosexuel, on ne sait jamais...
Bon c'est plus probable qu'il y ait des drones autonomes de surveillance, et des algorithmes de reconnaissances faciales connecté à des millions de caméras dans les grandes villes.

Le futur sera peut-être comme une oeuvre de science fiction dystopique. On voit bien que les libertés diminuent et que la surveillance augmente.
Nos gouvernement aimerait bien pouvoir nous surveiller comme la Chine surveille sa population.

[landry161]

Aucun algorithme n'est doté d'une intelligence.
Benjamin Bayard

[egann538]

Aucun algorithme n'est doté d'une intelligence.
Benjamin Bayard

Voilà une réponse parfaitement argumentée et qui va bien faire avancer le débat...

[kakoudenis]

Le plus drôle de cette histoire c'est que des personnes qui selon l'avis de plusieurs scientifiques utilisent tout au plus 25% de leur cerveau pense créer une intelligence Artificielle capable de surpasser l'intelligence humaine. C'est impressionnant à quel point les gens dit intelligent s'enfonce dans la bêtise et mène le monde avec eux.

[Sodium]

La grande naïveté, c'est de croire que nous sommes des entités supérieures au reste du monde matériel et indépassables. Nous sommes des machines qui traitent de l'information, rien de plus. Et notre cerveau a beau être très puissant, il se heurte à des limites matérielles, la taille et les ressources qui peuvent lui être allouées notamment (le cerveau est notre organe qui consomme le plus d'énergie) qui ne se posent pas dans le monde de l'artificiel et ce n'est qu'une question de temps avant que nous ne soyons dépassés.

Il ne faut pas prendre le problème à l'envers, il ne suffit pas de se dire que nous sommes supérieurs car nous avons une conscience, il s'agit plutôt de déterminer quelles sont les conditions pour qu'une conscience existe, et il n'y a pas de raisons pour que ces conditions ne puissent pas être reproduites. Le cerveau humain n'est que ça, une machine qui fait circuler de l'information. Une machine artificielle possédant la même configuration sera donc comparable à un cerveau humain, avant de le dépasser.

[free07]

il s'agit plutôt de déterminer quelles sont les conditions pour qu'une conscience existe, et il n'y a pas de raisons pour que ces conditions ne puissent pas être reproduites. Le cerveau humain n'est que ça, une machine qui fait circuler de l'information. Une machine artificielle possédant la même configuration sera donc comparable à un cerveau humain, avant de le dépasser.

C'est une affirmation qui est subjective, je ne pense pas qu'à l'heure actuelle des scientifiques puissent prouver cette affirmation

[Sodium]

Globalement il y a deux points de vue qui peuvent s'affronter. Premier point de vue, l'être humain est une création divine et a en ce sens des propriétés qui le distinguent du simple monde matériel et il est donc indépassable par des créations artificielles. Deuxième point de vue, l'humain est un simple assemblage de matière et sa conscience n'est qu'une conséquence d'un système d'échange d'informations entre des neurones. Cette configuration est certes très performantes, mais puisqu'elle fait partie du domaine matériel on peut difficilement justifier qu'elle ne puisse pas être reproduite artificiellement. Je vois mal comment l'on pourrait se placer entre les deux.

L'existence de ce que nous considérons comme la conscience fait d'ailleurs débat, des expériences ayant notamment montré que notre cerveau envoie ses influx nerveux avant même qu'il y ait une prise de décision consciente. La conscience pourrait n'être qu'une illusion cachant le fait que nous ne faisions que réagir de manière automatique à des stimulis.

https://www.cerveauetpsycho.fr/sd/ne...ache-15883.php

[yvslms]

Ce ne sont pas des lignes de code exécutées ? C'est quoi alors ?

Effectivement, tout repose de toute façon sur du code avec la base technologique actuelle.
Ce que veut sans doute dire egann538 c'est que les "paradigmes" sur lesquels reposent les réseaux de neurones et autres systèmes multi-agents sont totalement différents des séquences de codes classiques qui vont s’exécuter de façon prédictive par des enchaînement de boucles et d'inférences.
Ils sont basés sur des interactions entre entités, certes décrites individuellement classiquement avec du code, mais débouchant sur un comportement d'ensemble non algorithmique, concrétisé par l'apparition de fonctionnalités et propriétés émergentes recherchées mais non prévues par le développeur.
C'est le principe de la fourmilière.
Le progrès est considérable dans la mesure ou on est passé de l'automatisme à l'"automatisme adaptatif" comme je le disait dans le premier post de ce fil.
Pour autant il ne s'agit pas d'Intelligence. Celle-ci ne se résume pas à des interactions entre des entités, fut-elles bien plus nombreuses et rapides que les neurones d'un cerveau humain et fut-elles connectées à des bases de données monstrueuses.
L'Intelligence véritable se manifeste, entre autres, par une capacité d'adaptation issue d'une relation extraordinairement subtile avec l'environnement, elle même indissociable de la conscience de sa propre existence et indépendamment de la capacité strictement cognitive et mémorielle.
Ceci échappe pour l'instant à l'analyse scientifique.
Les étudiants de certains organismes de recherche comme l'IRISA ont, dans certains cas, interdiction d'utiliser le terme d'IA dans leurs travaux pour ne pas rajouter à la confusion.
Je renverrai pour finir à l'excellent livre : "L'intelligence artificielle n'existe pas" de Luc Julia, le père de SIRI...

[BufferBob]

Nous sommes des machines qui traitent de l'information, rien de plus.

je suis d'accord avec free07, c'est une opinion pas un fait, c'est une position matérialiste en philosophie, et c'est de fait la position la plus partagée par la communauté scientifique depuis plusieurs décénies

Une machine artificielle possédant la même configuration sera donc comparable à un cerveau humain

c'est aussi ma conviction, également la plus commune parmi les scientifiques contemporains, et une position qui relève du fonctionnalisme en philosophie de l'esprit

Globalement il y a deux points de vue qui peuvent s'affronter. Premier point de vue, l'être humain est une création divine (...)

c'est en partie vrai, au matérialisme s'oppose essentiellement le dualisme (dissociation corps/esprit), ce qui renvoie non pas forcément à une croyance en Dieu mais également à la croyance en l'"âme" humaine en tant que spécificité intangible et inaccessible à une machine.

L'existence de ce que nous considérons comme la conscience fait d'ailleurs débat (...)

ce n'est pas la conscience en tant que telle qui fait débat. la conscience on sait que ça existe, on la constate. en revanche il convient de différencier conscience d'accès et conscience phénoménale.

la conscience d'accès permet en gros l'accès à la mémoire, le stockage et le rappel des souvenirs, et y compris -à priori- l'identification de schémas dans la mémoire de manière à les projeter dans le futur (anticipation, ex: si on se brule, on sait que la prochaine fois qu'on mettra la main dans le feu il y a une grande probabilité pour que ça brûle à nouveau)

la conscience phénoménale est le ressenti subjectif lié à l'expérience (T. Nagel "quel effet cela fait d'être une chauve-souris ?") et c'est cette conscience là qui fait débat, avec une position philosophique dite "illusioniste" qui semble dire qu'elle n'existe simplement pas et n'est qu'un artefact de notre psyché (au même titre que le "Moi", ce qui en dit long sur les forces qu'exerce notre égo sur nos raisonnements).

le formalisme philo posé, je ne peux que te recommander les travaux de Stanislas Dehaene sur la conscience et notamment autour de la théorie de "l'espace de travail neuronal global" qui définit en gros la conscience comme un super-réseau reliant les aires perceptives (elles-mêmes composées de réseaux neuronaux) entre elles.

autant dire que de mon point de vue, et au delà des considérations éthiques, la machine consciente on en est vraiment pas très loin, mais clairement pas comme beaucoup se l'imaginent.

[Sodium]

je suis d'accord avec free07, c'est une opinion pas un fait, c'est une position matérialiste en philosophie, et c'est de fait la position la plus partagée par la communauté scientifique depuis plusieurs décénies

Qu'y a-t-il dans l'univers à part ce qui constitue la matière ?

c'est en partie vrai, au matérialisme s'oppose essentiellement le dualisme (dissociation corps/esprit), ce qui renvoie non pas forcément à une croyance en Dieu mais également à la croyance en l'"âme" humaine en tant que spécificité intangible et inaccessible à une machine.

Je suis désolée mais c'est mais la croyance en l'âme et la croyance en Dieu c'est la même chose, c'est croire qu'il existe quelque chose au-delà de notre monde matériel et des lois de la physique. Si l'on accepte qu'il n'y a rien au-delà de ce nous considérons comme étant le réel, alors l'âme en tant qu'entité immatérielle n'existe pas. Et ce qui est beau avec la science, c'est que quand l'on découvre de nouvelles choses, c'est juste que nous agrandissons l'étendue du réel.

ce n'est pas la conscience en tant que telle qui fait débat. la conscience on sait que ça existe, on la constate. en revanche il convient de différencier conscience d'accès et conscience phénoménale.

Et pourtant elle fait bel et bien débat, mais ce ne sont évidemment à ce stade des théories.

[BufferBob]

Qu'y a-t-il dans l'univers à part ce qui constitue la matière ?

tout dépend à qui tu poses la question ; si tu demandes à une développeuse matérialiste elle te dira qu'il n'y a rien d'autre, si tu demandes à un dualiste il te dira qu'il y a également le monde des âmes ou quelque chose d'approchant, si tu demandes à un idéaliste il te dira que la matière elle-même est le fruit du monde des idées etc.

Je suis désolée mais c'est mais la croyance en l'âme et la croyance en Dieu c'est la même chose

ça n'est manifestement pas la même chose puisque certains croient à l'existence de l'âme humaine sans croire en Dieu.
c'est la même chose de ton point de vue qui n'y croit pas, mais c'est comme dire qu'un japonais, un chinois ou un coréen c'est pareil parce qu'on est ouest-européen, question de mauvais point de vue en quelque sorte...

Et pourtant elle fait bel et bien débat, mais ce ne sont évidemment à ce stade des théories.

j'ai dans l'idée que c'est quand une chose n'est plus au stade de la théorie qu'elle cesse de faire débat

le lien que tu donnais précédemment est intéressant et rapporte un certain nombre de résultats d'études qui le sont tout autant, mais il semble assez improbable que ces phénomènes suffisent à gommer à eux seuls l'intégralité de ce que l'on tient pour émanant de la conscience.
(par ailleurs l'article lui-même est très peu sourcé et l'auteur n'est même pas mentionné tu as d'autres sources -éventuellement plus académiques- sur le sujet par hasard ?)

[Sodium]

ça n'est manifestement pas la même chose puisque certains croient à l'existence de l'âme humaine sans croire en Dieu.
c'est la même chose de ton point de vue qui n'y croit pas, mais c'est comme dire qu'un japonais, un chinois ou un coréen c'est pareil parce qu'on est ouest-européen, question de mauvais point de vue en quelque sorte...

On peut certes croire en l'un sans croire en l'autre, mais les deux se basent sur un même postulat de départ qu'il existe quelque chose au-delà de notre réalité. Et par réalité, je ne veux pas dire ce qui nous est accessible. Si l'on parvient par exemple à prouver l'existence de mondes parallèles, on aura juste étendu ce qui constitue le réel. Quand on s'affranchit de cette règle, effectivement, l'âme, le divin peuvent exister, mais l'on ne dispose actuellement pas d'éléments montrant qu'il serait raisonnable de penser que ce point de vue est probablement dans le vrai.

Rappelons tout de même que les lois de la physique permettent notamment à des particules d'être à plusieurs endroits à la fois ou au temps de se contracter, il y a suffisamment à faire avec notre monde tel que décrit par nos équations pour qu'il ne soit pas nécessaire d'y rajouter de la magie

le lien que tu donnais précédemment est intéressant et rapporte un certain nombre de résultats d'études qui le sont tout autant, mais il semble assez improbable que ces phénomènes suffisent à gommer à eux seuls l'intégralité de ce que l'on tient pour émanant de la conscience.
(par ailleurs l'article lui-même est très peu sourcé et l'auteur n'est même pas mentionné tu as d'autres sources -éventuellement plus académiques- sur le sujet par hasard ?)

Voir notamment les travaux de Nick Chater sur l'esprit plat (the flat mind). Est-ce qu'il a raison, tort, on peut difficilement le dire, mais l'on dispose de suffisamment d'éléments expérimentaux pour que la question soit ouverte.

Par contre c'est curieux, j'avais l'article en entier quand je l'ai posté et là il est derrière un paywall

[skaarj]

Mais je suis 100 % d'accord avec lui. Cette prétention humaine à croire qu'il pourra tout maîtriser m'énerve au plus haut point. Il est possible de se projeter à 10 ans avec des erreurs. Très difficile sur 50 ans. Impossible au-delà. Et vu que nos progrès sont exponentiels, ceux qui pensent que l'IA ne surpassera jamais l'être humain, j'ai juste envie d'un scénario à la Matrix ou Terminator pour eux et seulement eux.

[Sodium]

Personnellement un monde à la Matrix je n'y crois absolument pas, l'humain aura utilisé l'IA pour se détruire tout seul bien avant qu'elle ne puisse le faire de sa propre volonté.