A l’horizon 2045, l’être humain pourrait se faire éclipser par des machines

Je viens de lire pas plus tard qu'avant hier un article sur le site de Maxisciences qui est encore en ligne.

Il s'agit ni plus ni moins du projet d'intelligence artificielle le plus ambitieux jamais entrepris par l'Homme. Depuis presque 30 ans, Cycorp travaille en secret sur Cyc, une intelligence artificielle surpuissante qui promet de rendre obsolètes tous les programmes du genre, comme Watson d'IBM ou encore Siri d'Apple. Après de longues recherches, la société a enfin décidé de sortir du silence et d'apporter plus de détails sur son travail : "pas de financement externe, pas de dettes, nous n'écrivons que peu d'articles et n'allons pas aux conférences, mais pour la première fois, notre projet est suffisamment avancé pour vous en parler" a déclaré Dr. Douglas Lenat, directeur général de Cycorp, au site Business Insider. Mieux encore, le projet serait tellement avancé qu'une première démonstration mondiale pourrait arriver sous peu !

En savoir plus:
http://www.maxisciences.com/intellig..._art32992.html
Copyright © Gentside Découverte

En quoi Siri est une ia ?
C'est juste une reconnaissance vocale, si elle comprend pas ce que tu demande soit elle te demande de répéter soit elle t'envoie sur Google....
Une vrai IA pour moj c'est quand elle est capable de mémoriser automatiquement ce que tu a dis précédent et d'en prendre compte, pas juste un bête système de "question réponse"

Citation:

---

Envoyé par sazearte

En quoi Siri est une ia ?
C'est juste une reconnaissance vocale, si elle comprend pas ce que tu demande soit elle te demande de répéter soit elle t'envoie sur Google....
Une vrai IA pour moj c'est quand elle est capable de mémoriser automatiquement ce que tu a dis précédent et d'en prendre compte, pas juste un bête système de "question réponse"

---

C'est justement ce que dit l'article...On voit que tu ne l'as pas lu !!

Même si l'hypothèse est plaisante...
Un bon professeur sur le sujet t'expliquera que les IA crée aujourd'hui sont des IA expertes dans un domaine et un seul. C'est cela qui fait leur force et leur faiblesse.
Aujourd'hui, il n'existe rien au niveau théorique permettant de concevoir une IA capable d'apprendre "par elle-même" ou de faire preuve de "bon sens".
Donc, même si dans 30 ans les ordinateurs seront capable de concurrencer la capacité de calcule d'un cerveau humain. Je doute que ceux-ci soit capable de nous concurrencer directement.

Cependant, Louis Del Monte n'est pas totalement dans le faux non plus. Les programmes informatiques ont de plus en plus d’influence sur nos vies. Aujourd'hui, les publicités sont ciblé. Des études sont lancé pour comprendre comme la présentation d'une information influence notre comportement (cf l'étude facebook etc).
Cela fait bien 40 ans que les lobbies payent des scientifiques pour sortir des études allant dans leur sens. Il est très probable que la problématique se déplace de la création de l'information à sa présentation. Et là les IA vont très probablement joué un rôle majeur.

Si un jour la singularité arrive, je suppose qu'elle sera à peu de chose près la seule en être au courant pendant un bon moment. En premier lieu parce que cela sera risqué pour celle-ci dès identifié comme tel. Et en suite, par ce que sa phase d'apprentissage sera probablement très longue pour un IA, probablement plusieurs années...

Cordialement,
Patrick Kolodziejczyk.

Pour moi, les 2 grands défis à relever avant de parler d'IA sont :
- donner du sens à l'information
- évaluer ce sens en fonction du contexte
et là, nous en sommes vraiment très loin

certes, les robots sont en mesure d'effectuer des taches complexes très rapidement et d'optimiser ce traitement en fonction des itérations précédentes
c'est de l'apprentissage d'une tache unique répétitive
la reconnaissance faciale n'est pas très différente que de trier des patates en fonction de leur calibre pour un ordinateur, il traite des "données" au sens le plus strict et le plus simpliste du terme

A partir du moment où un programme sera en mesure de passer de la "donnée" à de "l'information" qui classera et priorisera en fonction d'un instant T pour mieux les reprendre au moment adéquat, là, on parlera d'IA
Mais je ne pense pas que cela soit pour tout de suite et 30 ans me paraît vraiment irréaliste dans ce domaine

C'est sûr que 2045 est trop proche pour être vraie. La guerre des brevets freine l'innovation et tant que nous ne serons pas débarrassés de cette plaie il nous sera impossible d'innover rapidement pour atteindre de telles choses.

Néanmoins la question qu'il soulève est très intéressante. Jusqu'où ira la curiosité humaine ? Saurons-nous nous arrêter à temps, avant que les machines soient suffisamment intelligentes pour échapper au contrôle des humains, avant de créer quelque chose de suffisamment fort pour éradiquer l'Humanité ? La vraie question est ici.

Citation:

---

Envoyé par kolodz

Aujourd'hui, il n'existe rien au niveau théorique permettant de concevoir une IA capable d'apprendre "par elle-même"

---

Bien sûr que si. Sans aller jusqu'au réseau de neurones, le moindre robot ménager bas de gamme est aujourd'hui capable d'apprendre la configuration d'une pièce.

Citation:

---

Envoyé par kolodz

ou de faire preuve de "bon sens".

---

Là par contre, c'est un autre problème. Mais en général, lorsque quelqu'un me parle de bon sens, je commence à parler de Pyrrhon... mais je m'égare. Enfin c'est juste pour dire que le "bon sens", dans le domaine scientifique, ça ne veut rien dire.

Après, j'ai lu dans les commentaires des choses comme "les machines ne se reproduisent pas". C'est discutable. Déjà, les logiciels savent se reproduire (fork) et communiquer entre eux. Or, lorsqu'on parle de la singularité, il est au moins autant question de software que de hardware. Ensuite, l'auto-reproduction d'une machine n'est pas un problème technologique, mais un problème de logistique: créer une imprimante qui s'imprime elle-même n'est pas un problème en soi, le problème c'est de faire en sorte qu'elle aille récolter elle-même les ressources dont elle a besoin. Donc le jour où nous en aurons une utilité qui en vaille la peine, ce ne sera pas difficile à faire, d'autant plus que les usines récentes sont hautement automatisées et modulaires.

Si je pense que la singularité arrivera un jour, je pense malgré tout que quiconque en prévoit une date est soit un charlatan soit un imbécile (OU non exclusif). De la même façon que ceux qui prédisent la date de la 3ème guerre mondiale, s'il faut une comparaison. La singularité me parait inévitable, mais comme toute nouvelle technologie, il faudra juste faire attention d'en garder le contrôle; et alors ça devient un problème politique. Si, effectivement, il y a 50 ans nos ancêtres pensaient qu'en 2000 on aurait des voitures volantes, ils étaient loin de s'imaginer les progrès de l'informatique et de la robotique.

Dans le cadre de mon activité professionnelle, je travaille sur des sujets tels que la curiosité artificielle. Dans certains domaines, les algorithmes utilisent des heuristiques dites "étranges". Pour faire simple: l'algo va effectuer, de façon pseudo-aléatoire, des opérations "étranges" (qui n'ont pas de sens à priori). Certains résultats sont dignes d'intérêt, et offrent de nouvelles perspectives, notamment en ce qui concerne l'apprentissage (des logiciels).

Les algorithmes d’appariement dans les jeux en ligne utilisent également de plus en plus des formes évoluées d'apprentissage. Les systèmes de "like" et autres '+'/'-' dans les réseaux sociaux sont souvent utilisés pour alimenter des systèmes de "machine learning". Il y a aussi des logiciels qui créent des jeux (voir celui-ci par exemple). Etc. Bref, l'IA, sous différentes formes, est en train de se développer, et les possibilités sont immenses. Nous n'en sommes qu'au début.

Pour finir ce long argumentaire, ce qui me passionne dans cette histoire c'est l'analogie avec les mythologies humaines, et la gnose platonicienne en particulier. Les machines sont des créations de l'être humain. Selon les définitions théologiques, l'être humain est un Dieu pour la machine. La différence étant qu'il n'y a pas 1 Dieu, ni quelques dizaines (comme dans les mythologies grecques et romaines par exemple), mais des milliards. Si un jour nous créons des machines capables de se reproduire, et surtout de récolter et transformer elles-mêmes les matières premières dont elles ont besoin, nous serons alors des démiurges, selon l'acceptation platonicienne donc. D'un point de vue philosophique, c'est vertigineux. Ce n'est pas dans l'air du temps de réfléchir à ces choses-là, mais je trouve ça passionnant.

Une machine est construite par l'homme, donc elle ne peut être plus intelligente que lui, l'intelligence pour moi c'est le raisonnement, la réflexion, pas l'apprentissage et le traitement de milliard de donnée...
Pour en revenir a Watson d'IBM :
Je ne sais pas a quoi ressemble les questions du jeu jéopardie, mais si c'est du style "Qui a gagnée la coupe du monde en 2014" c'est normale que la machine l'emporte, c'est juste du par cœur, si on lui demande une question amenant une réflexion du style donne moi en langage algorithmique la manière de résoudre ce problème, pas sur qu'il réussisse.

Avec un peu de chances, cela permettra de réduire la surpopulation mondiale.

Yep !

Citation:

---

Envoyé par r0d

(...) Après, j'ai lu dans les commentaires des choses comme "les machines ne se reproduisent pas". C'est discutable. Déjà, les logiciels savent se reproduire (fork) et communiquer entre eux. (...)

---

Hey, tu abuses, là !
Tu sais très bien que les forks sont initiés par des humains, des groupes dissidents pas contents pas d'accord avec la ligne du parti, euh, qu'est-ce que je raconte, là ?, pas d'accord avec la direction du dév' et qui décident de créer leur petite déviance. Point barre. C'est pas une initiative d'un logiciel en cours d'exécution qui déciderait tout d'un coup de se créer un frangin avec les sources et tout et tout (et il aurait fallu que ce comportement lui ait été préalablement codé).

Quant à communiquer entre eux, ils se contentent de faire ce pour quoi ils ont été codés. Point barre également.

Sans rancune,

On peut faire un virus qui se "reproduit" (qui se copie) et encrasse le disque dur.
Mais peut on parle de reproduction !, déjà faut être 2 pour se reproduire, et c'est pas de la reproduction mais du clonage....

Donc faut 2 virus qui assemble du code en communs pour créer un autre virus qui va faire de même, mais chaque reproduction ne devra pas être pareil (1 différence de 1 octet au moins).

Pour qu'une IA soit plus intelligente que l'homme il faudrait quelle puisse générer d'elle même des milliards d'instructions (if, while, for...) comme le fait un enfant si l'on considère que l'intelligence c'est des milliard de if et de for.
A partir de l'a elle aurait la faculté "d'apprendre" et 1 jour pourquoi pas dépassée le QI d'1 homme, reste plus que le plus facile : faire l'algo....

Citation:

---

Envoyé par Jipété

Tu sais très bien que les forks sont initiés par des humains, des groupes dissidents pas contents pas d'accord avec la ligne du parti, euh, qu'est-ce que je raconte, là ?, pas d'accord avec la direction du dév' et qui décident de créer leur petite déviance. Point barre. C'est pas une initiative d'un logiciel en cours d'exécution qui déciderait tout d'un coup de se créer un frangin avec les sources et tout et tout (et il aurait fallu que ce comportement lui ait été préalablement codé).

---

Je ne parlais pas d'un fork de dépôt (par exemple openoffice et libreoffice), mais d'un fork de processus. Les processus peuvent se reproduire grâce au fork, on trouve ça beaucoup chez les virus notamment. Certains peuvent même évoluer lors du fork, pour s'adapter au système de sécurité auquel ils s'attaquent.

Citation:

---

Envoyé par Jipété

Quant à communiquer entre eux, ils se contentent de faire ce pour quoi ils ont été codés.

---

Ne peut-on pas dire la même chose des êtres humains?
Et si vous refusez ce type de considération ultra matérialiste (ce que je peux comprendre), considérons alors les animaux. Prenons les vertébrés par exemple. On peut dire qu'ils sont doués d'intelligence. Mais ne peut-on pas dire, malgré tout, qu'"ils se contentent de faire ce pour quoi ils ont été codés"?

Citation:

---

Envoyé par r0d

Je ne parlais pas d'un fork de dépôt (par exemple openoffice et libreoffice), mais d'un fork de processus. Les processus peuvent se reproduire grâce au fork, on trouve ça beaucoup chez les virus notamment. Certains peuvent même évoluer lors du fork, pour s'adapter au système de sécurité auquel ils s'attaquent.

---

OK.
Mais quand un mot a deux sens, faut préciser lequel on vise, sinon on ne se comprend pas, la preuve !

Citation:

---

Envoyé par r0d

Ne peut-on pas dire la même chose des êtres humains?
Et si vous refusez ce type de considération ultra matérialiste (ce que je peux comprendre), considérons alors les animaux. Prenons les vertébrés par exemple. On peut dire qu'ils sont doués d'intelligence. Mais ne peut-on pas dire, malgré tout, qu'"ils se contentent de faire ce pour quoi ils ont été codés"?

---

OK aussi.
Et en poussant le raisonnement à ses limites, ça s'applique également aux humains, qui ne sont là que pour se reproduire afin que la Vie (majuscule voulue) puisse se perpétuer, selon de grands desseins qui nous dépassent allègrement.
Et tout le reste autour n'est que du blabla...

Note : c'est valable aussi pour les autres vertébrés, les invertébrés, les sans catégories, les plantes, etc. La Vie veut se continuer, se perpétuer, elle utilise tous les moyens pour ce faire, nous ne sommes qu'un de ses moyens, qu'une de ses constructions.

Citation:

---

Envoyé par Jipété

Mais quand un mot a deux sens, faut préciser lequel on vise, sinon on ne se comprend pas, la preuve !

---

J'en conviens, c'est une erreur que je fais fréquemment, je ne suis pas assez précis. Critique acceptée et bienvenue, je dois faire plus d'efforts sur ce point. En tout cas, ça montre que j'aurais été un bien piètre politicien, et ça c'est finalement plutôt rassurant :aie:

Citation:

---

Envoyé par Jipété

Et en poussant le raisonnement à ses limites, ça s'applique également aux humains, qui ne sont là que pour se reproduire afin que la Vie (majuscule voulue) puisse se perpétuer, selon de grands desseins qui nous dépassent allègrement.
Et tout le reste autour n'est que du blabla...

---

Lorsque tu parles de "grands desseins", tu penses à quelque chose qui aurait une conscience? Genre un Dieu ou quelque chose comme ça?

Question subsidiaire et corolaire: Est-ce que les robots rêvent de moutons électriques?

Citation:

---

Envoyé par r0d

J'en conviens, c'est une erreur que je fais fréquemment, je ne suis pas assez précis. Critique acceptée et bienvenue, je dois faire plus d'efforts sur ce point. En tout cas, ça montre que j'aurais été un bien piètre politicien, et ça c'est finalement plutôt rassurant :aie:

---

Le principal c'est de savoir reconnaître ses erreurs :ccool:

Citation:

---

Envoyé par r0d

Lorsque tu parles de "grands desseins", tu penses à quelque chose qui aurait une conscience ? Genre un Dieu ou quelque chose comme ça ?

---

Pour faire très court, très simple et très réducteur, oui.
Une conscience (vision anthropomorphique) ou similaire, ou autre, indéfinissable mais autre chose, quoi.
Et quelque chose comme ça, oui.

Des fois je me balade en vélo du côté de chez moi, au bord d'un canal, et il m'arrive de rouler à travers une colonne de fourmis vue trop tard : certaines vont y laisser la vie, est-ce que les autres ont eu conscience de moi ? Ne suis-je pas pour elles une espèce d'entité ayant pouvoir de vie et de mort sur elles ?
C'est un peu l'idée, à peine crayonnée, à peine esquissée (c'est compliqué...)

Est-ce que le fait que le colibri ait un bec adapté à (la reproduction de) certaines orchidées est voulu, ou est-ce le fruit du hasard et de l'évolution ?

Citation:

---

Envoyé par r0d

Question subsidiaire et corollaire : est-ce que les robots rêvent de moutons électriques ?

---

:ptdr:

Citation:

---

Envoyé par sazearte

On peut faire un virus qui se "reproduit" (qui se copie) et encrasse le disque dur.
Mais peut on parle de reproduction !, déjà faut être 2 pour se reproduire, et c'est pas de la reproduction mais du clonage....

---

Tu oublies les êtres hermaphrodites...

Par contre, je ne suis pas un spécialiste des IA et de la singularité, mais je ne comprends pas le rapport avec la reproduction :calim2:

Ce que je comprends de la singularité est que cela correspond au moment où une IA sera en mesure de créer, de manière autonome, de la connaissance, du savoir.
Ainsi, cette IA qui aura accès au savoir humain, sera en mesure d'utiliser ce savoir pour en créer de nouveaux puis, exponentiellement, créera encore plus de savoir.
De ce fait, l'homme n'aura plus la maîtrise de son évolution technologique car celle-ci s'effectuera de manière autonome.
Par contre, la mise en application de ces évolutions technologiques peuvent rester à la convenance de l'homme.

Est-ce que j'ai une vision trop simpliste de la singularité ?

Citation:

---

Envoyé par Jipété

Est-ce que le fait que le colibri ait un bec adapté à (la reproduction de) certaines orchidées est voulu, ou est-ce le fruit du hasard et de l'évolution ?

---

Il y a d'autres façons de voir les choses, mais c'est difficile à expliquer. D'autant plus que notre civilisation individualiste égoïste* a engendré un langage qui ne contient pas les mots pour parler de ces choses-là. Je vais cependant tenter une introduction à cette pensée que l'on pourrait peut-être classifier dans la case de l'individualisme social, dont on trouve les racines chez Épicure.
En guise d'introduction, je vais réutiliser le colibri; en l’occurrence, la fameuse parabole du colibri:

Citation:

---

Envoyé par une légende amérindienne

Un jour, dit la légende, il y eut un immense incendie de forêt. Tous les animaux terrifiés, atterrés, observaient impuissants le désastre. Seul le petit colibri s’activait, allant chercher quelques gouttes avec son bec pour les jeter sur le feu. Après un moment, le tatou, agacé par cette agitation dérisoire, lui dit : « Colibri ! Tu n’es pas fou ? Ce n’est pas avec ces gouttes d’eau que tu vas éteindre le feu ! »
Et le colibri lui répondit : « Je le sais, mais je fais ma part. »

---

C'est une vision très amérindienne de la question (la destruction de cette civilisation fut un véritable crime contre l'humanité), tout en nuance. Nous ne sommes ni totalement le jouet d'une conscience supérieure, ni totalement libre et indépendant. Nous vivons en société, ce qui implique certains comportements que nous ne choisissons pas. Mais d'un autre côté, nous sommes doués d'une conscience relativement élevée qui nous permet une certaine forme de libre arbitre.
On retrouve également cette forme de pensée dans certaines philosophies orientales. Je n'ai pas encore fait mon choix dans ces différentes options, mais j'apprécie beaucoup cette dernière car, comme dirait Laplace, elle fait l'économie de l'hypothèse de Dieu. Je ne suis pourtant pas athée, mais l'hypothèse de Dieu me dérange car d'une part, elle est indécidable, et d'autre part, elle est trop floue (qu'est-ce que Dieu?) pour permettre de réelles considérations pragmatiques et de fait, elle échappe à cette logique simple et efficace que nous avons hérité des classiques grecs. Relisez Euclide, par exemple, ou Pythagore, et vous serez étonné de la sagacité et la modernité des propos de personnages qui ont vécu** il y a plus de 2000 ans. Les classiques grecs ont tout implémenté, les suivants n'ont fait que la documentation (sauf peut-être Spinoza).


* attention à l'utilisation du mot "individualisme" qui, en philosophie, a un sens très différent de ce qu'il est devenu dans le langage courant.

** il faut un 's' à "vécu" là? :oops:

Citation:

---

Envoyé par Saverok

Par contre, je ne suis pas un spécialiste des IA et de la singularité, mais je ne comprends pas le rapport avec la reproduction :calim2:

---

Il ne faudrait effectivement pas utiliser le terme de "reproduction", mais cela correspond à une idée très présente dans la notion de singularité qui est qu'elle surviendra lorsque les machines parviendront à créer d'autres machines plus intelligentes qu'elle-même, ce qui engendrera une progression exponentielle de l'intelligence artificielle. C'est d'ailleurs de là que vient le mot "singularité", par allusion à la singularité d'un trou noir: point de l'espace dans lequel le champ gravitationnel devient infiniment puissant, donc les modèles physiques actuels sont incapables de comprendre ce qu'il peut s'y passer. La comparaison vient du fait que, si un jour les machines deviennent plus intelligentes que l'homme, alors on est incapable ne serait-ce que d'imaginer ce qu'il pourrait se passer (puisque, par construction, ça dépasse nos capacités de raisonnement).

Citation:

---

Envoyé par r0d

(...) notre civilisation individualiste égoïste* a engendré un langage qui ne contient pas les mots pour parler de ces choses-là.

---

Tu m'étonnes que je ne trouve pas les mots, alors, pour exprimer ce dont je me triture les méninges, des fois 8-)

Citation:

---

Envoyé par r0d

(...) la fameuse parabole du colibri:

---

Je l'adore, et l'utilise parfois.

Citation:

---

Envoyé par r0d

(...) propos de personnages qui ont vécu** il y a plus de 2000 ans.
** il faut un 's' à "vécu" là? :oops:

---

Nan ! : histoire de filles qui ont dansé jusqu'au bout de la nuit... Imagine : histoire de filles qui ont dansées ... :vomi:

Parce que ce type n'a jamais écrit 1 ligne de code, parce qu'il n'y connaît rien en informatique, et donc il n'a pas la connaissance nécessaire pour avancée de tel propos.