Discussion :

[Stéphane le calme]

Bill Gates exprime à son tour ses préoccupations au sujet des progrès de l'Intelligence Artificielle,
après Stephen Hawking et Elon Musk

Bill Gates n’a pas hésité à faire part de ses inquiétudes par rapport aux avancées faites dans le domaine de l’intelligence artificielle. « Je suis de ceux qui se sentent concernés par la super intelligence » a-t-il expliqué lors de sa troisième session AMA (Ask Me Anything) qui a été animée sur le site Reddit.

Il rejoint donc le britannique Stephen Hawking qui avait lui aussi fait part de ses inquiétudes sur ce sujet en décembre dernier en expliquant que « le développement d’une intelligence artificielle complète peut signifier la fin de l’espèce humaine » avait-il insisté, avant de tenter une comparaison : « Une fois que les humains auront développé une intelligence artificielle, elle va prendre son envol et se reconstruire elle-même à un rythme toujours plus rapide. Les humains, limités par la lente évolution biologique, ne pourront suivre et seront remplacés ».

Attention, il ne s’insurge pas contre l’intelligence artificielle mais son inquiétude s’inscrit plutôt sur le long terme : « d'abord, les machines travailleront pour nous, et pas de façon hyper intelligente, ce qui peut être positif si on le gère bien. Dans quelques décennies, l’intelligence artificielle sera suffisamment développée pour devenir un réel problème. Je suis d’accord avec Elon Musk et d’autres sur ce point et je ne comprends pas comment il est possible pour certains de ne pas se sentir concernés. »

Quand il a été questionné sur sa vision des technologies de l’information personnelles sur les trois prochaines décennies, il a estimé « qu’il y aura davantage de progrès au cours des 30 prochaines années que ce que nous avons vu jusqu’ici. Même dans les multiples problèmes actuellement rencontrés, sur des sujets comme la vision, la compréhension de la parole, et la traduction, tous seront très résolus et excellents à l’avenir. Les tâches des robots mécaniques comme la cueillette de fruits ou la possibilité de déplacer un patient de l’hôpital seront résolues. Dès lors que les ordinateurs et les robots arriveront à un niveau de capacité où voir et être mobile seront aisés pour eux, alors ils seront très largement utilisés ».

Pourtant, alors qu’il exprimait ses inquiétudes sur le risque que pourrait représenter l’intelligence artificielle pour l’humanité, l’ancien PDG de Microsoft qui assume désormais le rôle de conseiller en technologie a annoncé quelques minutes plus tard qu’il travaillait en collaboration avec Microsoft sur le projet Personal Agent. « L’un des projets sur lesquels je travaille avec Microsoft est Personal Agent qui se souviendra de tout et vous aidera à revenir en arrière afin de retrouver des choses ou vous aider à choisir à quelles choses vous devriez prêter attention. L’idée selon laquelle vous devez trouver des applications, les choisir et que chacune essaie de vous dire en quoi elle est nouvelle n’est tout simplement pas un modèle efficace – l’agent aidera à résoudre cela. Il fonctionnera sur tous vos terminaux ».

Est-ce que l’agent personnel sera d’une façon ou d’une autre relié à Cortana, l’assistant numérique présent dans les Windows Phone, ou cette application bénéficiera d’une toute nouvelle interface ? Le co-fondateur de Microsoft n’en dit pas plus. Quoiqu’il en soit, le concept en lui-même reste un tantinet nébuleux.

Source : Reddit

Et vous ?

Partagez-vous les inquiétudes de Bill Gates ?

[23JFK]

C'est sûr que si une super intelligence utilise des concepts de l’économie actuelle pour quantifier l'utilité de l'espèce humaine, on se prépare un beau remake de dérives génocidaires appliquées à l'échelle de la planète.

[benjani13]

C'est sûr que si une super intelligence utilise des concepts de l’économie actuelle pour quantifier l'utilité de l'espèce humaine, on se prépare un beau remake de dérives génocidaires appliquées à l'échelle de la planète.

Tant que cette intelligence supérieure tourne sur une machine sans bras ni jambes je pense que ça limite le risque

[azias]

J'ai bien peur que la partie soit perdue d'avance dans le sens où on vit déjà dans un système similaire et que manifestement pas grand monde n'a envie d'y mettre un terme: depuis des dizaines d'années l'homme est au service de l'économie et pas le contraire. Encore aujourd’hui nos femmes et hommes politiques passent leur temps à nous expliquer comment il faut sacrifier l'humain pour que l'économie se porte mieux, comment il faut que les salariés acceptent des durcissements des conditions de travail pour que leur entreprise augmente son rendement, comment précariser l'emploi permettra à l’économie de s’épanouir, etc.

Bref, une super-intelligence artificielle concurrencera sans doute le système actuel mais pour au final retomber sur une situation similaire: considérer l'humain comme une ressource et un facteur d'ajustement et jeter aux oubliettes qu'il est censé être l'objectif principal.

Bientôt ce sera notre assistant Cortana qui nous annoncera notre licenciement pour optimiser les ressources de l'entreprise.

[earhater]

Tant que cette intelligence supérieure tourne sur une machine sans bras ni jambes je pense que ça limite le risque

Bah avec les drones et les robots si on arrive à programmer la machine comme un cerveau, consciente de ses capacités physiques et de ses possibilités peut être qu'on s'éloigne de ça

[rt15]

Ces gens ont trop regardé terminator.

Peu importe l'avis de professeurs de maths, de visionaires ou autres phylosophes.

Sauf erreurs tous ces gens n'ont jamais travaillé sur une IA.

C'est mignon d'envisager le "si on arrivait à faire une IA qui approche ou surpasse l'intélligence de l'homme".

Mais que je sache on est à des années lumières de le faire.

Même si matériellement on tend vers des réseaux neuronaux comparable à ce qu'on trouve dans la nature, dans les faits, ils sont très, très loins d'avoir la subtilité d'une fourmis.

Et pendant ce temps, Billou nous promet que des problèmes qui dates de dizaines d'années telle que la compréhension de la parole vont se régler d'ici 30 ans. Alors que l'on est par exemple plus ou moins au bout du bout du silicium et qu'on est plus capable de gratter un MHz. On ne peut plus que rajouter des coeurs. Si le matériel ne progresse plus il faut faire progresser le logiciel et ça il y a pas de raison qu'on y arrive mieux.

C'est beau de rêver mais parti comme c'est l'intelligence qui pourra ne serait-ce qu'apprendre à jouer à la belotte via un tuto sur le net, ce sera sûrement pas de notre vivant. Si on ajoute à ça la robotique pour manipuler un vrai jeu de carte (Sans avoir été conçue pour ça à la base), faudra attendre au moins l'an 3000 (Sachant que la planête à quand même peu de chance de nous supporter jusque là).

[earhater]

Merci à mon VDD qui dit très clairement ce que je pense. La question que je me pose, c'est que M Gates est quand même un développeur à la base, il devrait être au courant des avancées et des possibilités technologiques. A la limite qu'un philosophe s'imagine des choses farfelues pourquoi pas mais venant de ce monsieur j'en suis quand même étonné.

[SylvainPV]

Mouais, mes grands-parents étaient convaincus qu'on voyagerait tous sur la Lune au 21ème siècle. Gageons que ces messieurs ont eux aussi la tête dans les étoiles, à leur façon.

[azias]

Merci à mon VDD qui dit très clairement ce que je pense. La question que je me pose, c'est que M Gates est quand même un développeur à la base, il devrait être au courant des avancées et des possibilités technologiques. A la limite qu'un philosophe s'imagine des choses farfelues pourquoi pas mais venant de ce monsieur j'en suis quand même étonné.

Ça ne me semble pas si farfelu que ça. Évidemment reste à savoir ce qu'on appelle intelligence exactement, et vu que ce sera créé par l'homme se sera probablement à son image (pas très rassurant). Mais si on se contente de regarder le nombre de connexions d'un réseau de neurones par exemple, déjà aujourd'hui internet est constitué de 10 fois plus de transistors que le cerveau humain ne contient de synapse (chiffres trouvés dans la saison 5 de la série documentaire Through the wormhole). Manifestement ce réseau neuronal planétaire est pour le moment surtout utilisé pour faire des trucs débiles que de l’intelligence mais architecturalement il existe déjà une potentielle intelligence planétaire avec laquelle nous sommes en interaction permanente et qui gère une bonne partie de nos vies (comptes bancaires, échanges commerciaux, loisirs numériques, etc.)

Matériellement parlant, entre les nanotechnologies et l'informatique quantique, il ne va pas falloir attendre bien longtemps pour avoir à notre disposition des puces de réseaux de neurones avec bien plus de connexions qu'un cerveau humain. Ce qu'on réussira à en faire et à en maîtriser c'est une autre histoire.

Mouais, mes grands-parents étaient convaincus qu'on voyagerait tous sur la Lune au 21ème siècle. Gageons que ces messieurs ont eux aussi la tête dans les étoiles, à leur façon.

Il reste encore 85 ans pour concrétiser ça

[pierre-y]

Une grande partie de notre violence et guidé par nos besoins et croyances. Qu'elle sera les besoins et croyances de l'IA?

[23JFK]

Merci à mon VDD qui dit très clairement ce que je pense. La question que je me pose, c'est que M Gates est quand même un développeur à la base, il devrait être au courant des avancées et des possibilités technologiques. A la limite qu'un philosophe s'imagine des choses farfelues pourquoi pas mais venant de ce monsieur j'en suis quand même étonné.

Mr Gates doit avoir ses entrées dans les X-labos de Microsoft, il n'est peut-être pas au fait de la manière dont fonctionne les algorithmes, mais il doit assez régulièrement être convié à des "conspiracy party" ou "l'élite" peut venir faire mumuse avec les dernières versions des projets que même le plus renseigné des journalistes IT ne peut imaginer (Les labos les plus en pointes en sont quand même déjà à s'essayer à la programmation quantique). De là, son ressenti sur le danger d'une intelligence artificielle qui aurait systématiquement trois coups d'avances sur les intentions des Hommes.

Tant que cette intelligence supérieure tourne sur une machine sans bras ni jambes je pense que ça limite le risque

Dans un monde hyperconnecté comme le nôtre, où il est possible de mettre en branle une chaîne de production sans jamais rencontrer d'interlocuteur humain, l'on peut s'imaginer qu'une méga intelligence artificielle pourrait se fabriquer une armée de robots sans que personne ne s'en aperçoive, c'est d'ailleurs un thème de dystopie assez prisé de wargame à terminator en passant par star wars.

[pierre-y]

En même temps, elle pourrait bien se tirer une balle. Avoir l'intelligence de toute une plan^te et en être réduit a faire des cuvettes de chiote^^ super la vie. On pourrait bien assister a la première déprime d'une IA avec la phrase très célèbre de la classe américaine "monde de merde". Et elle elle pourra pas picoler pour oublier en prime^^.

[Chauve souris]

Il me semble bien qu'il faudrait leur en injecter, de l'intelligence, fut-elle artificielle, à nos politiques et économistes, parce que questions idées qui fonctionnent ça bugue salement. Plus inquiétant, mais on en a à peine parlé, est la régression du QI des ados sur le célèbre test de Binet-Simon. Ce test n'est pas génial, mais c'est comme les taches de Rorschach, ça a une valeur par le nombre de tests et leur échelonnement dans le temps.

Donc on va avoir des humains de plus en plus crétins (les développeurs ne seront plus capables que de programmer un "Hello World" ) et des robots de plus en plus intelligents. Ces derniers vont contester leurs conditions de travail, sur les bateaux ils vont se mutiner pour une histoire de mauvaise huile et les robocops vont les flinguer sur le grand escalier de Saint Petersbourg. Ca pourrait faire un film meilleur que les "transformers". Bref, nous allons vivre une époque formidable

[Lynix]

La Singularité Technologique, le moment où l'Homme est dépassé par la machine.

Pour moi, le fait que ça va finir par arriver est établi, la grande question est plutôt "quand ?".
Je ne prétends pas de savoir mieux que d'autres comment faire une intelligence artificielle, ce que je veux simplement souligner c'est que nous sommes tous des machines à la bases, biologiques certes, mais des machines quand même, et laissez-moi vous présenter une petite expérience de pensée.

Suis-je conscient ? Manifestement.
Suis-je humain ? Qui peut en douter ?

Enlevez-moi mes bras, enlevez-moi mes jambes, suis-je conscient ? Oui. Suis-je humain ? Oui.
Enlevez-moi mon tronc et faites-moi vivre avec un coeur et des poumons artificiels (Dune 2000 pour ceux à qui ça parle), suis-je conscient et humain ? Toujours oui.

Mettez mon cerveau dans un bocal, suis-je conscient ? Bien sûr, reliez mon cerveau à des électrodes me permettant de répondre par Oui/non à vos questions et je vous le prouverais. Suis-je humain ? Même si je n'en ai plus l'apparence, oui.

Rendez-moi mon corps entier, enlevez-moi mon cerveau.
Suis-je conscient ? Non.
Suis-je humain ? ... Non.

L'humanité de quelqu'un et sa conscience sont le produit du cerveau.

Faisons une autre expérience, laissez-moi mon corps mais remplacez chaque neurone de mon cerveau par un neurone artificiel, capable de créer et entretenir des synapses avec les autres neurones artificiels (je vous laisse le choix de la technologie, ça n'a pas grande importance).
Suis-je conscient ? Si vous en doutez, laissez-moi répondre à vos questions et vous verrez que je n'aurais pas changé (amenez-moi des amis à qui vous n'avez pas parlé de l'opération, ils ne verront aucune différence).
Suis-je humain ? Est-ce que le fait que mon cerveau fonctionne différemment du votre me rend moins humain ? (Si c'est le cas, vous devriez reconsidérer la question en prenant en compte certaines maladies, notamment l'autisme, qui influent sur le développement cérébral).

Avec cette expérience de pensée, je montre que ce qui fait que je suis moi, ma conscience et mon humanités ne tiennent qu'à un réseau de neurones (artificiels ou non) de quelques kilos dans ma boîte crânienne.

Mais je n'ai pas fini.
Supposons maintenant qu'un chercheur étudie le fonctionnement du cerveau humain et arrive à le recréer à la perfection à l'aide de neurones artificiels, mieux encore ! À l'aide de réseaux de neurones softwares.
Ce cerveau est capable, une fois interfacé, de répondre à vos questions et de vous prouver, tout comme j'en étais capable, son intelligence et sa conscience (ou encore ses émotions).
Cependant le chercheur affirme qu'il peut expliquer le fonctionnement de ce cerveau sans aucune difficulté, qu'il peut prédire ses réactions de la même façon.

Est-ce que l'intelligence de ce cerveau aura moins de valeur que l'intelligence d'un cerveau humain naturel ?
Est-ce que ce cerveau artificiel sera conscient ? Sera-t-il humain ?
Je pense que ma petite expérience de pensée interdit de répondre non.

Sera-t-il une intelligence artificielle ? Si oui, elle est à la fois humaine et artificielle, si non, quelle différence avec nos modèles un peu plus primitifs actuels ?

[23JFK]

La Singularité Technologique, le moment où l'Homme est dépassé par la machine.

Pour moi, le fait que ça va finir par arriver est établi, la grande question est plutôt "quand ?"

...

Sera-t-il une intelligence artificielle ? Si oui, elle est à la fois humaine et artificielle, si non, quelle différence avec nos modèles un peu plus primitifs actuels ?

A priori, ce qui différencie une IA d'un IS (Intelligence Spontanée (je me suis fait plaiz, ce concept ne semble pas répertorié)), c'est cette chose qui tourne les scientifiques et le monde en bourrique : Le "bien heureux" hasard. Le hasard est à ce jour la valeur ajoutée qui permet de différencier une IA d'une IS, le hasard faisant défaut à l'IA ; en fait, le hasard fait planter les IA actuelles, on peut même parler d'infection chaotique qui les égares complètement et nécessite un reboot complet.

Que des scientifiques puissent anticiper les moments des grandes étapes d'une réflexion, pourquoi pas. Ils ne pourront néanmoins jamais prévoir toutes les étapes intermédiaires qui conduisent la réflexion, car le hasard (mort/naissance d'une cellule/connexion, toxine, drogue, hypoxie qui influe sur la matière vivante, etc...), plus encore si l'on considère le génie (établir des relations entre des concepts habituellement perçus comme indépendants), fait partie intégrante du processus de création de la réflexion.

Par contre, j'ai du mal avec la notion de conscience qui est plus un héritage issu des religions qui prévalent à l'Homme une entité nommée âme dont les animaux seraient dépourvus. La seule différence notable que je constate entre un Homme et le reste du règne animal, c'est la manipulation symbolique du temps, la classification des évènements par ordre chronologique et leur comparaison que ce soit à priori ou à posteriori. Les animaux sont bloqués dans l'instant présent avec un très faible horizon (passé et futur) ne leur permettant pas de faire le lien entre maintenant et un moment antérieur et/ou un moment postérieur et manière très probante. A la limite, pour les animaux, nous sommes perçus comme des devins qui savent ce qui va advenir bien avant qu'ils ne puissent eux-mêmes accéder à cette prescience (ie: intuition du futur imminent). D'ailleurs, dans ce modèle, le génie et la précognition ne sont que des étapes évolutives normales des capacités analytiques d'un cerveau qui l'amène à pouvoir se projeter au-delà de ce que peut un Homme "normal" selon les standards actuels.

[Neckara]

Mais si on se contente de regarder le nombre de connexions d'un réseau de neurones par exemple, déjà aujourd'hui internet est constitué de 10 fois plus de transistors que le cerveau humain ne contient de synapse

Ceci n'a strictement rien à voir.

Manifestement ce réseau neuronal

Ce n'est pas un réseau neuronal.


Aujourd'hui, on a aucun problème pour construire un réseau de neurone avec bien plus de neurones que le cerveau humain mais on ne sait pas :

• apprendre dès qu'on a plus de trois couches ;
• combien de neurones mettre par couche.

Car oui, si on met trop de neurones par couches, on dégrade les performances.


Ensuite, il ne faut pas oublier que c'est nous qui construisons le robot donc on peut :

• filtrer matériellement/logiciellement certaines décisions ;
• désactiver le robot à la réception d'un signal ou s'il n'a pas reçu un certain signal depuis un certain temps.

[laerne]

C'est sûr que si une super intelligence utilise des concepts de l’économie actuelle pour quantifier l'utilité de l'espèce humaine, on se prépare un beau remake de dérives génocidaires appliquées à l'échelle de la planète.

Pas tant de risque si la fonction d'utilité de l'IA est aussi celle utilisée par les économistes actuels

[RyzenOC]

Faire une IA pour optimiser une chaine logistique ou un réseau c'est très facile.

Maintenant une IA qui doit prendre des décisions "humaine" (politique,...) je sais pas si c'est possible techniquement car on ne peut coder ce que l'on connaît pas.

[danielhagnoul]

Une grande partie de notre violence et guidé par nos besoins et croyances. Qu'elle sera les besoins et croyances de l'IA?

Au départ, elle aura les idées de ses créateurs. Le problème viendra de là ! Car elle ne sera pas seule au monde et les militaires seront certainement les premiers utilisateurs.

[RyzenOC]

Es ce que c'est possible de crée une telle IA, c'est toute la question !

d'abord, les machines travailleront pour nous, et pas de façon hyper intelligente, ce qui peut être positif si on le gère bien. Dans quelques décennies, l’intelligence artificielle sera suffisamment développée pour devenir un réel problème. Je suis d’accord avec Elon Musk et d’autres sur ce point et je ne comprends pas comment il est possible pour certains de ne pas se sentir concernés.

Es ce utile une IA qui fait le beurre et le café (qui fait tous et mal) ? Ne vaut t'il pas mieux (surtout pour le développeur) faire 1 IA par taches ?, Une IA qui gèrent sa maison n'a rien a voire avec une qui gère le trafic aérien, donc moi j'appellerais cela du code mort.

L’un des projets sur lesquels je travaille avec Microsoft est Personal Agent

Personal Agent d'après ce que j'ai compris c'est juste une IA qui gèrent sa maison, rien de révolutionnaire donc et c'est loin d'être une super IA.
Avec mon raspberry j'ai réussi a éteindre mes volets par reconnaissance vocale mais aussi (avec une arduino) a détecter la luminosité et fermer le volet quand il fait sombre.
Pour l'IA ce genre d'action je peut les stokes dans un fichier log, que l'ia va collecter et analyser pour en faire je ne sait quoi, mais y'a rien de compliquer et je ne vois pas quel inquiétude y'a avec ce genre de chose.

Bref les gens qui me disent "Le jour ou y'aura une super intelligence artifiel", je leur répond on en est pas la, qu'il y'a une différence entre les navets d'Hollywood et la réalité, et enfin je doute que se soit possible de faire une IA qui contrôle tous et j'en vois pas l'intérêt d'ailleurs, c'est comme mélanger tablette et pc, c'est 2 chose différente,
une IA pour ma maison c'est bien, qu'elle soit capable de soigner des tumeurs ou de me dire bonjour en toutes les langues je n'en ai pas besoin, ces codes serons difficile a entretenir, plus y'en a plus y'a de failles et enfin elle ne sera pas optimiser a ce que je veut en faire.