Discussion :

[doublex]

L'IA : rêve ou cauchemar, Science ou Science-Fiction ?
Stephen Hawking nous met en garde

Stephen Hawking, physicien théoricien et cosmologiste britannique, nous alerte, sur l'IA. Son avènement pourrait être la découverte la plus importante de l'Histoire de l'humanité. Mais cela pourrait être sa dernière.
Toutes nos réalisations en IA, depuis Eliza jusqu'à Cortana, seront très largement surpassées dans le futur.

À sa racine, l'IA constitue avant tout un problème philosophico-religieux.
Soit notre conscience est le pur fruit de notre physiologie, auquel cas on peut fabriquer une conscience, soit notre conscience n'est possible que par un biais métaphysique, une âme, auquel cas, on ne peut en fabriquer une.

On trouve souvent, dans les livres d'informatique, l'idée que l'Homme est un ordinateur complexe.
L'idée de l'homme-machine est encore plus vieille, dérivée du concept d'animal-machine, proposé par Descartes, au siècle des Lumières.

Aujourd'hui, deux grandes écoles s'affrontent dans le domaine de l'IA : le cognitivisme et le connexionnisme.
Doit-on émuler des comportements intelligents avec une implémentation de haut niveau (approche top-down cognitiviste), ou faire émerger l'IA à partir d'un substrat de bas niveau (approche bottom-up connexionniste) ?

Les réseaux de neurones, en tant que système capable d'apprendre connexionniste, mettent en œuvre le principe de l'induction, c’est-à-dire l'apprentissage par l'expérience.
Par opposition, les systèmes symboliques cognitivistes, capables d'apprentissage, s'ils implémentent également l'induction, le font sur base de la logique algorithmique.

Grâce à leur capacité de classification et de généralisation, les réseaux de neurones sont généralement utilisés dans des problèmes de nature statistique, tels que la classification automatique de codes postaux ou la prise de décision concernant un achat boursier en fonction de l'évolution des cours.
Mais les réseaux de neurones ont leurs limites. Un exemple caricatural, mais significatif, est le suivant: disposant en entrée du seul poids d'une personne, le réseau doit déterminer si cette personne est une femme ou bien un homme. Les femmes étant statistiquement un peu plus légères que les hommes, le réseau fera toujours un peu mieux qu'un simple tirage au hasard : cet exemple dépouillé indique la simplicité et les limitations de ces modèles mais il montre également comment l'étendre: L'information « port d'une jupe », si on l'ajoute, aurait clairement un coefficient synaptique plus grand que la simple information de poids.

Les dates prévues pour l'arrivée de l'IA divergent selon les sources, bien sûr.
Mais on peut dire que, dans l'ensemble, la singularité technologique est généralement prévue pour notre XXIe siècle.
Certains experts pronostiquent même l'avènement de la singularité dans les années 20.

Par définition, on ne peut savoir ce qu'il se passera après la singularité technologique.
Tout comme on ne peut savoir ce qui s'est passé avant la singularité initiale, le Big Bang.

Le champ est donc libre pour la Science-Fiction.
Il arrive que l'IA nous soit favorable, comme les Robots d'Asimov. Voire qu'ils nous sauvent.
Mais souvent, la prophétie est funeste...
Terminator, les Cylons... Autant de génocides de l'espèce humaine à la suite de la singularité technologique.

Stephen Hawking nous dit qu'il faut poser dans la réalité les questions de la Science-Fiction sur l'IA.

J'apporte beaucoup de questions, et peu de réponses.
Mais j'ai essayé de mettre ces questions dans le contexte le plus adéquat afin qu'un riche débat en découle.

Et vous ?

Doit-on privilégier l'approche connexionniste, cognitiviste, ou une synthèse des deux ?

Arriverons-nous à l'IA ?

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Sources :
http://www.clubic.com/interfaces-hom...ficielle.htmll
http://fr.wikipedia.org/wiki/Singula..._technologique
http://fr.wikipedia.org/wiki/Intelligence_artificielle
http://fr.wikipedia.org/wiki/Animal-machine
http://fr.wikipedia.org/wiki/R%C3%A9seaux_de_neurones
https://www.google.fr/url?sa=t&sourc...FAzva_x3JWZrXQ

[Uranne-jimmy]

C'est de l'anthropocentrisme pur
Contrairement à ces créateurs, sauf si ils sont suffisamment bête pour l'ajouter, les IA ne sont pas violentes et surtout pas avide de pouvoir. A partir de ce postulat, beaucoup de choses sont enlevé du débat.
Ensuite : Ce qui, je pense, posera problème d'un point de vu sécurité c'est ce qu'on va faire des IA, si c'est pour faire la guerre, on est mal barré, si c'est pour remplacer efficacement des tâches complexes pour l'homme, là tout va pour le mieux. Il y aura toujours un détraquer pour faire une armée cela dit ...

Beaucoup d'oeuvre de SF utilise les IA comme un miroir, une façon assez efficace d'interroger le lecture sur l'humanité plus que sur la technologie, de lui faire comprendre les bases même de ce que nous sommes, plus souvent les défaut que les qualités d'ailleurs. Parce qu'un robot est fait uniquement de l'essentielle, et en plus fait pour nous ressembler, ainsi dénudé, les défauts sont mis à jour très clairement, et exploités.

Pour revenir sur les questions :

Doit-on privilégier l'approche connexionniste, cognitiviste, ou une synthèse des deux ?

Les deux, selon le domaine d'application, chacun à ses qualités et ses défauts.

Arriverons-nous à l'IA ?

Je n'en doute pas du tout, mais ça prendra pour moi plus de temps que l'indique cet article. L'intelligence est quelque chose de complexe, notre système de base, celui qui construit notre vision de l'intelligence, c'est le cerveau. Et actuellement, on en sait encore très peu sur le cerveau, donc il sera difficile de le copier, même en partie. Une étape qui sera à mon avis primordiale sera l'arrivé des études in-silico sur le cerveau, je rêve de cette étape, c'est là que se jouera les révolutions, et on approche, petit à petit.

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Ca dépendra des intentions du créateur.

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Il faut prendre des mesures pour assurer le contrôle des gens qui produiront les bestioles. Je suis peut-être fataliste ou anthropophobe, mais je le répète : c'est l'humain qui recherche le pouvoir et qui à des instinct brutaux, tout comme une arme à feu, un outil comme l'IA peut être utilisé à bon ou à mauvais escient.

[martinien.olinga]

Je crois sur ce coup que c'est la curiosité qui aura notre peau.

[Franck.H]

Arriverons-nous à l'IA ?

Sans aucun doute mais peut-être plus de notre vivant.

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Comme il l'a été dit, tout dépend des créateurs et à quelle fin ils veulent l'utiliser. Cela dit, une IA totalement autonome pourra toujours décider de changer les règles et en voyant la nature profonde de l'homme ou du moins de certains, on ne peut redouter que le pire.

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Des gardes-fous, oui il en faudra.

[Kaamui]

Je penses qu'avec le temps le débat tend à s'orienter vers un aspect philosophico-scientifique, plutôt que philosophico-religieux. Peut-on aujourd'hui, avec la science moderne, ou bientôt, atteindre un niveau de duplicité, entre organismes biologiques vivants et simulateurs de vie, suffisamment fin pour recréer le miracle de la "conscience d'exister", d'être la pièce d'un puzzle plus grand. Pourra-ton un jour obtenir des IA qui ressentiront vraiment la peur de chocs brutaux physiquement inévitables, induits par la mécanique de l'univers et son évolution imprédictible, peur pour leur existence, conscients qu'il vaut mieux qu'elle perdure, ou sera-t'on juste à un tel point de simulation que le faux sera indissociable du vrai, juste le fruit d'une succession immense de "if-statement" ?

A la première question posée, je penses que le temps nous offrira une synthèse des deux : un système à base cognitive, qui construit la logique de l'intelligence, et un réseau de connexions neuronales artificielles capable de traiter une quantité phénoménale d'informations, en parallèle, puis d'utiliser la logique précitée pour en tirer des conclusions sur la pertinence de l'information, et sur son intérêt, sa nature, sa valeur face à la référence, si existante, connue jusqu'alors par ce système.

Arriverons-nous à l'IA ?

Si on part de l'hypothèse qu'aucun événement ne mettra avant un terme à l'existence de notre branche animale, oui, sans aucun doute. Mon opinion personnelle est que la séparation corps-esprit n'existe que dans notre esprit (et donc également que dans notre corps.. euh ... vous me suivez toujours hein ? ). Ainsi, il ne peut y avoir d'existence propre de notre "âme" sans notre corps. A la fin de notre vie, l'esprit cesse d'exister, et permet au corps (un amas de particules) d'être libéré, afin de nourrir l'écosystème qui l'a vu naître et qui l'a nourrit durant toute son existence (en excluant les fins de mois difficiles ), et la boucle est bouclée. Si nous arrivons à simuler les principes de la génétique artificiellement, l'IA aura une âme.

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Si on parle d'une IA autonome consciente, capable d'avoir des sentiments, car des avis personnels sur des sujets, alors je dirais que chaque entité de cette nouvelle espèce aura son caractère, puisque sujet comme nous tous à un point de vue dans l'espace-temps unique à chaque instant, avec une somme d'événements cumulés toute aussi unique.

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Si on en arrive au point qu'ils soient conscients, mais avec des capacités décuplées par rapport à l'homme, il faudra espérer qu'une majorité d'entre-eux auront une vision plus juste que pragmatique, ou que le plus orateur d'entre eux soit un pacifique qui souhaite servir la coexistence de nos deux espèces respectives, sachant que le rapport d'une espèce à son créateur est une notion qui pour la première fois sera perceptible réellement, et pas seulement métaphysiquement.

Il faudra également se méfier, peut-être même encore plus, du contrôle de l'homme sur ces IA. Un rapport maitre-esclave d'un homme vers une machine, et la possibilité de "pirater" une telle IA pourraient très vite remettre en cause la durée de vie de notre espèce.

Vers un aspect philosophique du débat qui est posé, j'aurais tendance à me poser certaines questions, pour savoir "de quoi parle-t'on quand on parle d'une 'Intelligence Artificielle Consciente et Autonome" :
- Arriverons-nous un jour à développer une IA capable de créer, d'innover, de souffrir moralement, d'être traumatisée, d'aimer, de haïr, etc ?
- Pourra-t'on un jour obtenir un IA capable de désobéir à la logique de son programme ? Si non, est-ce que l'Homme le peut ?
- Dois-t'on croire au mythe du retournement des machines conscientes contre leurs créateurs, comme celui des dieux contre les titans, puis des hommes contre les dieux, ou s'agit-il de l'expression inconsciente d'un même constat sur le rapport de l'Homme à son univers , sa nature ?

Il y a également un autre aspect qui me vient en tête : on oppose systématiquement les organismes vivants des futures IA qui seront des machines, mais rien n'est moins sûre. Où se trouve la frontière entre naturel et artificiel lorsqu'on voit émerger des systèmes biologiques dans l'informatique ? Peut-on imaginer que l'IA du futur soit en réalité un être biologique ? Dans ce cas là, sera-t-elle une intelligence artificielle ? Peut-être que le lendemain de l'intelligence artificielle sera l'IN (intelligence naturelle)

[Arnard]

Si on prend en repère I Robot, une autre parmi tant d'autres, l'iA est codée pour protéger l'humain, et afin de le protéger de lui-même décide de le mettre sous fers...

Faut que je lise les Asimov tiens.

[jmv]

Bonjour,

À sa racine, l'IA constitue avant tout un problème philosophico-religieux.
Soit notre conscience est le pur fruit de notre physiologie, auquel cas on peut fabriquer une conscience, soit notre conscience n'est possible que par un biais métaphysique, une âme, auquel cas, on ne peut en fabriquer une.

Personnellement j'adhère à la première philosophie, donc pour moi, oui, il est théoriquement possible de créer une I.A.

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Ca dépendra des intentions du créateur

Ben non justement, si on crée une système vraiment intelligent, rien ne garantie que ce système acceptera de suivre nos ordres.

Le problème est qu'on utilise le terme "intelligence artificielle" à toutes les sauces. Des objets sont dit intelligents alors qu'ils ne le sont pas, ils peuvent être complexes, sophistiqués, puissants,... mais pas intelligents. C'est du pur marketing de dire qu'un système est intelligent actuellement. L'intelligence artificielle n'existe pas encore, il y a bien du chemin à accomplir pour y arrivé, mais je suis certain que ce sera possible.

Et l'intelligence amène parfois (souvent ?) la désobéissance.

jmv

[Saverok]

C'est "rigolo" comment on essaye toujours de comparer les autres organismes à l'humain
Un peu comme toutes ces personnes qui parlent à leurs animaux de compagnie comme si c'était des humains et surinterprètent toutes leurs actions

Une IA sera une IA, pas une intelligence humaine
Quel intérêt pour une machine de savoir "aimer" ou d'avoir un sens esthétique ?
Ça sert à rien pour une machine

Une IA sera une forme d'intelligence totalement dissociée de l'intelligence humaine
Difficile de prédire se qu'elle "pensera" et quelles seront ses désires ou ses peurs

De même, les notions de bien et de mal sont purement humaines
La nature se moque de savoir ce qui est bien ou mal, elle trouve son chemin et puis c'est tout
De notre point de vu, les nature est même cruelle et impitoyable : les forts vivent, les faibles meurent, les grands mangent les petits, etc.
Une virus est-il "méchant" ?
Lorsqu'on tombe malade, ce n'est que parce que le virus "cherche à survivre" ?
Le bien et le mal ne dépendent que du point de vu
Dans le cas d'une IA, en sera t'il autrement ?

[Zilpix]

Doit-on privilégier l'approche connexionniste, cognitiviste, ou une synthèse des deux ?

Je n'en ai aucune idée.

Arriverons-nous à l'IA ?

Je pense que oui, mais les 2 questions importantes sont : Quand ? Et qu'entendons-nous par IA ?

Si oui, l'IA sera-t-elle amicale, hostile, ou neutre ?

Encore faudrait-il que cette IA ait une conscience (d'un point de vue scientifique et philosophique) se rapprochant de celle de l'Homme. Une telle conscience voudrait dire conscience de soi en tant qu'IA, conscience des autres ? Et donc comment considérer l'Homme par rapport à soi ?

Faut-il prendre des mesures pour s'assurer le contrôle de l'IA, et en éviter les risques ?

Arriverons nous à créer une IA à l'image de l'Homme, avec une conscience telle que nous en avons ? Si oui, l'IA disposera de son libre arbitre et d'une puissance de calcul immense, rajoutez à cela un soupçon de manipulation de l'Homme et beaucoup de choses sont possible contre l'intérêt de l'Homme.

Je pense que cet article permet de soulever plus de questions que d'apporter des réponses. A partir de cela, la démarche de Stephen Hawking est pertinente, il faut débattre de l'IA, et soulever toutes les questions qui accompagnent ce sujet afin d'avancer dans ce domaine en toute sécurité.

[Zilpix]

Une IA sera une IA, pas une intelligence humaine
Quel intérêt pour une machine de savoir "aimer" ou d'avoir un sens esthétique ?
Ça sert à rien pour une machine

Une IA sera une forme d'intelligence totalement dissociée de l'intelligence humaine

Je ne partage pas ton point de vue, je pense qu'il y a toute intérêt à créer une IA se rapprochant de l'intelligence humaine et surtout de la raison humaine, une bête de calcul qui exécute du code ça l'Homme sais le faire. Mais créer une "machine" qui saurait faire des choix de raison ça non. Et selon moi là est tout l'intérêt, aider l'homme à faire des choix raisonnables, pas uniquement des choix statistiques. Mais également découvrir de nouvelles choses grâce à des capacités de raisonnement que nous n'avons pas encore.

Il arrive un stade ou le calcul dans le but d'avoir des résultats statistiques ne nous font plus avancer.

"L'intelligence est l'ensemble des facultés mentales permettant de comprendre les choses et les faits, de découvrir ces relations entre elles et d'aboutir à la connaissance conceptuelle et rationnelle (par opposition à la sensation et à l'intuition). Elle permet de comprendre et de s'adapter à des situations nouvelles et peut en ce sens être également définie comme la faculté d'adaptation. L'intelligence peut être également perçue comme la capacité à traiter l'information pour atteindre ses objectifs." Source Wikipédia

Les ordinateurs d'aujourd'hui nous donnent des capacités de calcul (surtout en vitesse) que nous ne possédons pas, l'IA nous donnera des capacités de raisonnements (une organisation de la pensée) que nous n'avons pas (encore?). Le bénéfice scientifique serait considérable.
Je pense en tous cas que c'est ce vers quoi il faut tendre.

[Zilpix]

Je suis d'accord en très grande partie avec tes raisonnements. Par contre :

Ainsi, il ne peut y avoir d'existence propre de notre "âme" sans notre corps. A la fin de notre vie, l'esprit cesse d'exister, et permet au corps (un amas de particules) d'être libéré, afin de nourrir l'écosystème qui l'a vu naître et qui l'a nourrit durant toute son existence ...

Euh, quelqu'un t'a raconté comment ça se passait lors d'un décès ? A ma connaissance personne n'a encore fait l'aller retour dans un état conscient pour le raconter. Mais je te l'accorde c'est bien dommage !

[Uranne-jimmy]

Il y a en effet un problème d'anthropomorphisme aussi ^^

Je remarque que beaucoup s'attendent à voir arriver une bestiole, humanoide qui s'est extirpé de la vallée dérangeante physiquement, capable d'émotion, de sentiments. Faut pas rêver, si un jour on peut le faire, je pense pas qu'on s'amusera à le faire (sauf le fou en haut à gauche là bas, il y a toujours un fou en haut à gauche). Et la raison est simple : il réagirait de façon moins logique, plus bestiale, il finirait par avoir les travers de tout homme, la violence en priorité. De plus : pour qu'il s'attaque à l'humain, il faudrait le programmer pour qu'il soit attaché à la vie, à la nature, ou même à l'humain (l'homme étant son plus grand prédateur). Dans les deux premiers cas : pourquoi on le créerait ainsi ? Et dans le dernier cas, il ne se retournerait que contre les gens dangereux, et encore, si il suit les lois de la robotique, il ne le ferait pas.

Il faut pas oublier que nous sommes les créateurs, faire un outil qui pourrait nuire n'est pas spécialement ce qu'on souhaite. Bon ... Comme la dit quelqu'un dans les messages précédent : c'est la curiosité qui nous tuera, en effet, le père du nucléaire n'envisageait à la base pas du tout qu'on s'amuse à détruire pour 10 générations des villes entières ...

(je crois que j'ai foutu en l'air mon raisonnement mais je reste persuadé qu'on a appris de nos erreurs .. je crois ... peut-être ... du moins j'espère qu'un contre poids intelligent empêchera un désastre ... )

[Kaamui]

Mon opinion personnelle est que [...] Ainsi, il ne peut y avoir d'existence propre de notre "âme" sans notre corps. A la fin de notre vie, l'esprit cesse d'exister, et permet au corps (un amas de particules) d'être libéré, afin de nourrir l'écosystème qui l'a vu naître et qui l'a nourrit durant toute son existence (en excluant les fins de mois difficiles ), et la boucle est bouclée. Si nous arrivons à simuler les principes de la génétique artificiellement, l'IA aura une âme.

@ Ziplik : J'ai pourtant bien précisé que c'était mon avis ...

[Saverok]

Je ne partage pas ton point de vue, je pense qu'il y a toute intérêt à créer une IA se rapprochant de l'intelligence humaine et surtout de la raison humaine, une bête de calcul qui exécute du code ça l'Homme sais le faire. Mais créer une "machine" qui saurait faire des choix de raison ça non. Et selon moi là est tout l'intérêt, aider l'homme à faire des choix raisonnables, pas uniquement des choix statistiques. Mais également découvrir de nouvelles choses grâce à des capacités de raisonnement que nous n'avons pas encore.

Il arrive un stade ou le calcul dans le but d'avoir des résultats statistiques ne nous font plus avancer.

"L'intelligence est l'ensemble des facultés mentales permettant de comprendre les choses et les faits, de découvrir ces relations entre elles et d'aboutir à la connaissance conceptuelle et rationnelle (par opposition à la sensation et à l'intuition). Elle permet de comprendre et de s'adapter à des situations nouvelles et peut en ce sens être également définie comme la faculté d'adaptation. L'intelligence peut être également perçue comme la capacité à traiter l'information pour atteindre ses objectifs." Source Wikipédia

Les ordinateurs d'aujourd'hui nous donnent des capacités de calcul (surtout en vitesse) que nous ne possédons pas, l'IA nous donnera des capacités de raisonnements (une organisation de la pensée) que nous n'avons pas (encore?). Le bénéfice scientifique serait considérable.
Je pense en tous cas que c'est ce vers quoi il faut tendre.

Cela n'est pas incompatible avec ce que je dis
Par contre, il y a une notion propre à l'homme qu'on ne pourra jamais transmettre à une machine : le temps
En effet, l'homme est mortel
L'homme court après le temps qui passe
Tout l'histoire de l'homme peut être interprétée comme une lutte contre le temps, contre la mort (laisser un héritage, l'avancée des soins, l'amélioration des techniques de travail, augmentation de la vitesse de transport, des messages, de l'information, etc)
Par contre, une IA est immortelle
Le temps n'a pas d'emprise sur elle donc sur son développement

Dans les capacités de raisonnement : être autonome, prendre des décisions, etc. Je pense qu'une IA est possible et peut apporter beaucoup à l'homme
Par contre, dans le cas de la conscience, de la personnalité de cette IA : rien ne sera comparable à l'homme
Une IA n'a pas froid, ni chaud, ni faim, ne souffre pas, ne vieillit pas, ne meurt pas, bref, ne ressent pas
Comment sa conscience pourrait elle être comparable à la pensée humaine sur ces critères là ?

[Jaujon]

Moi je suis curieux de savoir ce que pense Joël Robuchon de l'IA. Ce serait enfin un avis vraiment pertinent.

[laerne]

Stuart Russel et Peter Norvig (des plus grosses pontes en IA que Hawking), dans leur célèbre livre donnent déjà quatre manière de qualifier d'“intelligente” une IA.
— Agir comme un humain,
— Penser comme un humain,
— Agir rationellement,
— Penser rationellement.
Et ils précisent qu'il y a d'autre définitions.

Alors sans prudence sur les termes, bonjour pour avancer dans le débat. Quand on sort « Des objets sont dit intelligents alors qu'ils ne le sont pas, ils peuvent être complexes, sophistiqués, puissants,... mais pas intelligents. », on veut dire quoi ? Ces objets n'agissent pas comme des humains ? Ou ils ne pensent pas rationellement ? Ou ils n'ont pas conscience d'eux-même ?

Il y a deux chapitres à la fin du livre qui résume les arguments avancés pour ces questions. Je crois que lire ça si vous ne l'avez pas déjà fait ferait gagner beaucoup de temps au débat, même si vous n'êtes pas d'accord avec ce qui est dit. (Et il y a pas moyen, il y a des arguments, contre arguments et contradiction dans ce résumé). Le livre (Artificial Intelligence : a modern approach) est facilement trouvable sur internet ou en librairie.
Exemples de questions traitées :
—Est-ce que les machines peuvent vraiment penser ?
—Est-ce que les machines agissent vraiment intelligemment ?
—Les risque éthiques de développer des IAs.

Évidemment c'est pour des programmeurs. Si vous aimez la philo il y a des bouquins bien plus tordu qui ne traitent que de ça.

[Kearz]

Une IA n'a pas froid, ni chaud, ni faim, ne souffre pas, ne vieillit pas, ne meurt pas, bref, ne ressent pas
Comment sa conscience pourrait elle être comparable à la pensée humaine sur ces critères là ?

Si on part du principe que: le chaud, le froid, la douleur sont le résultat de capteurs qui envoient des signaux électrique au cerveau, pourquoi une IA ne pourrait pas les avoir?
Des capteurs on en ajoute tout les jours dans nos smartphones, il est donc possible de créer une IA qui a les mêmes sensations qu'un humain.

[benjamin_musique]

Tout à fait d'accord avec laerne, réduire l'intelligence humain au raisonnement rationnel (QI) alors que l'on connaît l'importance de l'intelligence émotionnelle.

D'ailleurs ma phrase n'est pas correcte grammaticalement mais vous l'avez tous comprise, je ne suis pas sûr qu'un robot aurait compris que le verbe "réduire" est péjoratif, et que le début de la phrase est implicite (<il ne faut pas> réduire)...

[jmv]

Quand on sort « Des objets sont dit intelligents alors qu'ils ne le sont pas, ils peuvent être complexes, sophistiqués, puissants,... mais pas intelligents. », on veut dire quoi ? Ces objets n'agissent pas comme des humains ? Ou ils ne pensent pas rationellement ? Ou ils n'ont pas conscience d'eux-même ?

Je voulais dire simplement par là qu'on parle de "système intelligent" pour des systèmes qui ne le sont pas. La seule chose qu'on arrive à faire actuellement, ce sont des machines qui répondent aux ordres de leur créateur/programmeur, et ça ce n'est pas de l'intelligence. Un machine aussi sophistiquée soit-elle ne prendra pas d'initiative sans que cela ne soit prévu par son créateur, du moins pour l'instant.

Mais on s’écarte du sujet, la question était : "l'IA sera-t-elle amicale, hostile, ou neutre ?" Pour moi il y a un risque car si la machine est intelligente, elle n'obéira pas forcément aux ordres de son créateur.

[Kearz]

Une IA n'a pas froid, ni chaud, ni faim, ne souffre pas, ne vieillit pas, ne meurt pas, bref, ne ressent pas
Comment sa conscience pourrait elle être comparable à la pensée humaine sur ces critères là ?

Si on part du principe que: le chaud, le froid, la douleur sont le résultat de capteurs qui envoient des signaux électrique au cerveau, pourquoi une IA ne pourrait pas les avoir?
Des capteurs on en ajoute tout les jours dans nos smartphones, il est donc possible de créer une IA qui a les mêmes sensations qu'un humain.