Discussion :

[Matthieu Vergne]

Doucement, souviron34. L'étude semble dire (j'ai lu que le résumé, pas trouvé le PDF) qu'on retrouve une structure neuronale qui devrait justifier que l'insecte dispose d'une expérience subjective, qualifiée de "capacity for the most basic aspect of consciousness". Ce serait comme dire qu'une preuve de l'existence de l'intelligence serait trouvée dès lors qu'on distingue une structure permettant de faire de l'inférence... une calculatrice serait alors intelligente sur cette seule base, ce qui serait certainement très critiqué comme conclusion.

[souviron34]

Doucement, souviron34. .

Matthieu, ça t'arrive de comprendre de l'humour ???

Simplement, comme pour tout, tout n'est pas ni noir ni blanc...

[Matthieu Vergne]

Pour répondre à Artemus24, de ce que je comprends je pense être d'accord avec toi sur ce point : aucune théorie établie jusqu'à maintenant ne permet de tout expliquer, et on serait bien incapable de démontrer qu'une quelconque théorie, même dans le futur, y parvienne. Si c'est en ce sens que tu parles d'incomplétude, je suis d'accord, mais ça n'a rien à voir avec l'incomplétude de Gödel, qui parle d'une incomplétude intrinsèque (certaines théories ne peuvent pas être complètes), et non d'incomplétude apparente (on est incapable de prouver que la théorie est complète, mais on n'est pas plus capable de prouver le contraire, en dehors de constater des phénomènes inexplicables via cette théorie). En ce sens, effectivement on y va par raffinements successifs sans jamais savoir si on arrivera au but un jour.

Je n'ai pas dit que l'IA était mauvais en soi, mais que l'homme d'aujourd'hui, a un énorme besoin d'irresponsabilité.
Il veut confier cette tâche à quelqu'un qui va faire cela à sa place et mieux que lui.
L'humanité est encore très immature et il a besoin de cette béquille pour encore très longtemps.
En d'autre terme, je parle de la sagesse dont l'homme est totalement dépourvu. L'homme est un enfant qui a encore besoin d'un père pour lui montrer le chemin.

Tu peux voir ça comme un manque de sagesse et te contenter de constater avec dépit, moi je vois ça comme une propriété naturelle avec laquelle il faut travailler. Moi par exemple je suis un feignant. Tu peux voir ça comme un défaut, moi je vois ça comme une motivation naturelle pour :
- faire les choses suffisamment bien dès le départ pour pas avoir besoin de recommencer,
- chercher comment automatiser les choses, permettant à d'autres ensuite de s'en inspirer pour faire de même,

En l'occurrence, cette irresponsabilité dont tu parles me semble des plus subjectives : une personne peut ne pas vouloir prendre elle-même la décision sur telle ou telle chose, déléguant ainsi à d'autres, mais vouloir décider sur une autre chose qui lui semble importante. Et si tu prends une autre personne, elle se fichera de choses différentes et voudra décider de choses différentes aussi. Si de manière générale tu peux toujours trouver des choses sur lesquelles une personne donnée ne souhaite pas prendre de responsabilités, en le voyant de manière collective tu peux profiter d'une complémentarité entre chacun. De mon point de vue, l'IA n'est rien d'autre qu'une extension de cette complémentarité : on crée des agents intelligents pour pallier à l'absence d'agents intelligents naturels, de façon à avoir davantage de complémentarité.

C'est là le danger de la science, à savoir l'incapacité de l'homme à réfléchir par lui-même et à décréter ce qui est bon pour lui.
La science le fait pour lui, comme un père le fait pour ses enfants.
L'humanité ne réagit que quand il est au pied du mur, c'est-à-dire trop tard.
Comme si nous étions incapable de comprendre ce qui va nous arriver.

La science ne décide de rien. La science, c'est nous qui la faisons. Ça me rappelle une discussion sur l'UE : ce n'est pas l'UE qui décide, ce sont les états qui la compose, et en fait ce n'est pas un état qui décide, ce sont les personnes qui le représente. L'intention se situe au niveau individuel, pas au niveau du domaine. Tout au plus, on peut assigner au domaine une tendance, mais cette tendance vient des décisions individuelles et non l'inverse. En tout cas c'est comme ça que je le vois, individualiste que je suis. Quand tu dis que "La science le fait pour lui, comme un père le fait pour ses enfants" moi je vois des tendances scientifiques sur lesquelles s'appuient les gens pour établir leurs décisions, tendances générées par des scientifiques travaillant sur le sujet. Ce sont des groupes de personnes qui font ces tendances, et les autres décident de leur faire confiance pour une raison X ou Y. Tu n'as jamais de décision prise totalement hors du champs humain. Et à supposer qu'un jour on ait une IA si avancée qu'elle puisse prendre des décisions sur tout, je suis convaincu qu'il n'y aura pas une seule personne qui souhaitera qu'elle décide de tout. Certains lui feront confiance pour ceci, d'autres pour cela, mais il y aura toujours des sceptiques, des gens qui veulent décider par eux-même, des gens qui veulent comprendre avant de prendre la moindre décision.

Matthieu, ça t'arrive de comprendre de l'humour ???

Pas souvent (perfectionnisme oblige), mais ça m'arrive oui. {^_^}

L'ennui avec les posts écrits, c'est qu'on exprime beaucoup moins de choses que par la parole et le langage corporel en général. Un autre avec les posts hyper court comme le tiens, c'est que tu ne donnes aucune mise en perspective, donc on peut les prendre de 1001 façon. Tu ne peux donc pas me reprocher ma réponse. {^_^}

[Traroth2]

C'est l'impression que j'ai, ou plus exactement que tu es encore dans une démarche scientiste, datant du XIX ième siècle.

Et ta démarche obscurantiste, elle date de quand ? Du Moyen-âge ?

[Oishiiii]

Petit aparté au passage; 1984 et Equilibrium n'ont rien à voir avec une société qui serait dominée par les machines ou l'IA

Dans la science fiction, ce sont des thèmes récurrents, genre "1984", "matrix" ou encore "Equilibrium".

Bonne continuation

[zecreator]

Ceci dit, si l'on regarde bien, l'ordinateur a déjà fait de nous des esclaves. Qui parmi vous est capable de rester une journée sans son ordi ou son smartphone ?
Moi j'assume mon status d'esclave depuis 1986, le jour où l'Amstrad est rentré dans ma chambre

Zecreator.

[Traroth2]

Mes chaussures aussi, si on va par là.

[RedGuff]

Le développement de logiciel sera la dernière chose automatisée !

[Kearz]

Le développement de logiciel sera la dernière chose automatisée !

C'est beau de rêver!
Et un médecin va dire "Jamais je ne serais automatisée", un dirigeant va dire "une machine ne pourra jamais prendre de décision stratégique", etc.

Le développement, c'est automatisable plus facilement qu'un tas de chose.

Prend le graphisme, il y a une part de créativité, comment tu automatise ça? C'est plus simple d'automatiser la créativité ou l'algorithmie? (oui, il y a aussi une petite part de créativité dans l'algorithmie mais surement plus faible que dans le graphisme)
Le développement sera surement dans la dernière vague d'automatisation mais ce ne sera pas le dernier domaine.

[Matthieu Vergne]

Automatiser la créativité, ça fait un moment qu'on a commencé à bosser dessus en tout cas.

[Artemus24]

Salut Matthieu Vergne.

Si c'est en ce sens que tu parles d'incomplétude, je suis d'accord

Ce n'est pas exactement de cela dont je parle, encore que, je suis d'accord avec vous sur ce point : aucune théorie ne pourra jamais tout expliquer.

mais ça n'a rien à voir avec l'incomplétude de Gödel, qui parle d'une incomplétude intrinsèque (certaines théories ne peuvent pas être complètes)

C'est de cela, justement, dont je parle : certaines théories ne peuvent pas être complètes.

et non d'incomplétude apparente (on est incapable de prouver que la théorie est complète, mais on n'est pas plus capable de prouver le contraire, en dehors de constater des phénomènes inexplicables via cette théorie).

Je ne comprends pas la raison de faire la distinction entre une incomplétude intrinsèque et une incomplétude apparente.
Le résultat est le même, non ?

En ce sens, effectivement on y va par raffinements successifs sans jamais savoir si on arrivera au but un jour.

Mais par définition même de ce qui est une incomplétude, on ne peut jamais, comme vous dites, arriver au but.

Mais là où nous divergeons, c'est dans la manière d'obtenir le but que nous cherchons.
Le raisonnement a ses limites, et croire qu'il est le seul chemin possible pour obtenir le but (personnellement, je dirais plutôt la vérité), est une hérésie.

Je pense que la démarche (le raisonnement) consistant à tout fragmenter pour comprendre la globalité est une erreur.
On sait que le tout est supérieur à ses parties, alors pourquoi ne pas avoir une approche globale ?

Tu peux voir ça comme un manque de sagesse et te contenter de constater avec dépit, moi je vois ça comme une propriété naturelle avec laquelle il faut travailler.

Je ne suis pas dépité. C'est juste une constatation et rien de plus.

Je ne comprends pas quand vous dites une "propriété naturelle" ?
Si c'est du caractère primitif de l'homme dont vous parlez, je pense qu'il doit évoluer en sagesse, plutôt qu'en intelligence.
L'intelligence, c'est comme la monté en puissance des armes nucléaires. Tôt ou tard, ça va nous péter à la gueule.
Alors pourquoi continuer dans une voie qui ne mène à rien ? Je parle, bien sûr, de la fuite en avant.

Moi par exemple je suis un feignant. Tu peux voir ça comme un défaut, moi je vois ça comme une motivation naturelle

Pourquoi feindre ? Ne serait-ce pas plutôt fainéant ?

Sinon, j'ai la même démarche que vous.
Je préfère me casser la tête maintenant, au démarrage d'un projet, plutôt que de revenir dessus, quand des choix qui ne sont pas les miens ont été imposés.

En l'occurrence, cette irresponsabilité dont tu parles me semble des plus subjectives

C'est une constatation que je fais, du comportement de l'homme en général et non en particulier.
Les exemples sont nombreux dans la vie de tous les jours.

Nous sommes devenus des êtres soumis à nos pulsions, à nos envies, à nos égoïsmes, juste dans l'intérêt de les satisfaire.
Nous avons oublié d'où nous venons, et l'effort qu'il nous a fallu pour y arriver.
Quand on crève de faim, on fait tout pour survivre.
Mais quand la nourriture est à foison, on ne fait plus aucun effort, et c'est là que nous croyons être libre de toute responsabilité.
A vrai dire, l'homme devrait trouver un but fédérateur, pour le bien de l'humanité, puisque tout est possible.
Cela me rappelle le film "planète interdite", le haut niveau de technologie que ses habitants ont atteint et la raison de leur disparition.

De mon point de vue, l'IA n'est rien d'autre qu'une extension de cette complémentarité : on crée des agents intelligents pour pallier à l'absence d'agents intelligents naturels, de façon à avoir davantage de complémentarité.

Vous perdez de vue la chose la plus essentielle pour l'homme, celle de cultiver son être et non son avoir.

Je ne veux pas être l'esclave de ces machines et perdre mon humanité !

La science ne décide de rien. La science, c'est nous qui la faisons.

C'est un leurre de croire que l'homme a une quelconque maîtrise de ce qu'il fait.
Et vous pensez que la solution se trouve dans la monté en puissance de la science, pour palier l'absence d'intelligence de l'homme ?
Si vous croyez que la science est tout puissante, posez-vous la question d'une science sans l'homme ?

Ce n'est pas l'homme qui fait la science car elle a ses propres règles.
Le tout est de savoir où se trouve la place de l'homme dans ces règles ?

Quand tu dis que "La science le fait pour lui, comme un père le fait pour ses enfants" moi je vois des tendances scientifiques sur lesquelles s'appuient les gens pour établir leurs décisions, tendances générées par des scientifiques travaillant sur le sujet.

Vous généralisez en croyant que la machine peut donner la sagesse à l'homme.
Elle ne se donne pas, elle s'acquière par l'expérience.

L'ennui avec les posts écrits, c'est qu'on exprime beaucoup moins de choses que par la parole et le langage corporel en général.

Tout à fait vrai !

Bien que je pense que l'intelligence artificielle va modifier notre façon de vivre, comme à l'instar l'informatique, il ne faut pas considérer qu'elle est la solution à tous nos problèmes.
Le problème, c'est l'homme ! Et la seule façon de résoudre ce problème est d'éduquer l'homme à un long apprentissage, celui de la sagesse.
Le reste, ce ne sont que des béquilles qui sont là pour éviter à l'homme de réfléchir et de prendre les bonnes décisions.

La religion comme la politique sont faites pour nous empêcher de réfléchir par nous même et de déléguer à d'autre ce que nous pourrions faire par nous même.
Et vous pensez maintenant déléguer cela à des machines dites intelligentes. Mais où est la place de l'homme dans tout ça ?

@+

[BufferBob]

salut,

ta réponse était adressée à Matthieu Vergne mais je me permets de rebondir parce que j'y ai lu des trucs que j'ai trouvé intéressants

Si c'est du caractère primitif de l'homme dont vous parlez, je pense qu'il doit évoluer en sagesse, plutôt qu'en intelligence.

je suis du même avis, mais à mon sens c'est aussi une perception idéaliste, la réalité est toute autre depuis la découverte du feu; l'évolution technologique (pour ne pas dire "la science") est ce qui fait la différence entre deux groupes d'individus qui en général s'affrontent, pour moi le caractère primitif de l'homme il est plutôt là, transcrit au XXe siècle c'est typiquement le propos de la course à l'espace, à l'armement etc. sur fond de guerre froide, et aujourd'hui encore si on lit entre les lignes on comprend assez facilement que ça met les boules à l'occident que la Chine soit présentement leader mondial sur l'IA

(...) la chose la plus essentielle pour l'homme, celle de cultiver son être et non son avoir.

ben justement, c'est marqué nulle part ça. c'est de la philosophie personnelle, à laquelle j'adhère par ailleurs complètement

Je ne veux pas être l'esclave de ces machines et perdre mon humanité !

alors là, de quoi on parle; d'être littéralement les esclaves des machines ? d'être trop dépendants des machines ? ou d'être esclaves d'une minorité d'humains par l'intermédiaire des machines ?

être esclaves d'une minorité d'humains par l'intermédiaire des machines, on y est déjà un peu, on vit dans un système pyramidal et la technologie sert en priorité le pouvoir avant de servir aux populations civiles, mots-clés en vrac: télésurveillance, Echelon, firewalls et DPI étatiques etc.

être trop dépendants des machines... besoin de préciser ?

quant à être littéralement les esclaves d'éventuelles machines vilaines issues de Skynet, qui sait, ça pourrait bien être le moyen le plus direct pour recoller avec notre humanité justement, avec comme idée conductrice le fait que c'est souvent dans l'adversité que l'homme est capable de donner ce qu'il y a de meilleur en lui

Si vous croyez que la science est tout puissante, posez-vous la question d'une science sans l'homme ?

"science sans cons, science n'est que ruine de l'homme"

Le problème, c'est l'homme ! Et la seule façon de résoudre ce problème est d'éduquer l'homme à un long apprentissage, celui de la sagesse.

d'acc, là aussi je ne peux qu'être d'accord sur le fond, mais ET SI maintenant on introduisait une bête contrainte : "vous n'avez pas le temps, premier arrivé gagne, celui qui gagne c'est celui qui survit", le long apprentissage de la sagesse il tombe aux oubliettes

La religion comme la politique sont faites pour nous empêcher de réfléchir par nous même et de déléguer à d'autre ce que nous pourrions faire par nous même.

on pourrait aussi envisager que la religion comme la politique sont des outils qui depuis des lustres servent à tenir sous contrôle ces animaux plus prompts à se battre qu'à penser que sont les hommes ?

bon je parle de ça mais c'était du temps ou les hommes étaient des barbares hein, heureusement depuis on a beaucoup évolué, ça ne viendrait à personne de chercher le conflit je sais pas moi... sur les réseaux sociaux par exemple.

pire encore, imagine un peu qu'on ait développé un égo surdimensionné, qui modifie à ce point notre perception qu'on se croit le centre du monde, qu'on devienne incapable de percevoir les choses sous un autre angle que celui de l'orgueilleux Moi, qu'on pense que notre intelligence est fabuleuse et indépassable, voire qu'on dispose d'un truc tellement unique qui s'appelle l'âme, que jamais les machines ne pourront être les égales des hommes etc. etc.

la sagesse elle prend un coup dans les roustons là...

la religion, voyons voir... on pourrait dire par exemple "si tu te comportes mal, tu seras jugé par Dieu, et tu iras en enfer !" ce devrait être de nature à bien les faire flipper et les tenir au calme pendant un moment, comme on fait croire à un enfant que s'il pisse dans la piscine y'a une marque rouge qui va le suivre
le problème c'est le jour où le bobard ne tiendra plus... en quelle année Dieu est mort déjà ?

et en parlant d'enfants d'ailleurs, est-ce que n'est pas précisément dans l'intérêt de la politique de maintenir les populations dans une certaine ignorance de manière à les rendre plus dociles et facilement "gérables" ? ne parle-t-on pas de diriger "en bon père de famille" ?

Dieu, le père... bref. mais tout ça est inscrit en nous très profondément, et c'est bien pour ça que ça fonctionne depuis des millénaires, on critique consciemment tout ça mais peut-être que l'homme a malgré tout trouvé intuitivement LE meilleur fonctionnement adapté à sa nature profonde, sans idéaliser

bon. peut-être que ce sont des outils datés, en particulier la religion, le propos est pas vraiment là, mais forcé d'admettre que si on critique facilement au pied levé, ces trucs là ont malgré tout eu une raison d'être à un moment donné, et ça se légitimait, c'était tout sauf idiot.

du coup, je me dis que cette peur du châtiment divin, ce pourrait aussi bien être les machines qui nous l'apportent, c'est pas très réjouissant dit comme ça mais faut voir, on aurait au moins l'assurance qu'elles ne sont pas corrompues et/ou cherchent à s'enrichir, peut-être que ce serait la meilleure porte de sortir pour l'humanité et éviter qu'elle ne s'atomise toute seule par exemple, la forcer à prendre en compte la planète et son devenir etc., car si on connait indubitablement la nature des hommes, on ne connait pas forcément celle des machines, ce qui finalement permet encore un peu d'espérer

[Matthieu Vergne]

@Artemus24 : Tu me réponds après des mois, donc j'espère bien reprendre le fil et ne pas me tromper niveau interprétation des anciens posts.

Je ne comprends pas la raison de faire la distinction entre une incomplétude intrinsèque et une incomplétude apparente.
Le résultat est le même, non ?

Cela consiste en la différence entre une preuve et une conjecture. Dans les deux cas on y croit, la pratique nous montre qu'on a probablement raison, mais dans le second il reste encore à le prouver. Et on a déjà vu des conjectures être réfutées. Il convient donc de ne pas confondre les deux.

Mais par définition même de ce qui est une incomplétude, on ne peut jamais, comme vous dites, arriver au but.

Mais là où nous divergeons, c'est dans la manière d'obtenir le but que nous cherchons.
Le raisonnement a ses limites, et croire qu'il est le seul chemin possible pour obtenir le but (personnellement, je dirais plutôt la vérité), est une hérésie.

Je pense que la démarche (le raisonnement) consistant à tout fragmenter pour comprendre la globalité est une erreur.
On sait que le tout est supérieur à ses parties, alors pourquoi ne pas avoir une approche globale ?

Une théorie, quelle qu'elle soit, a pour objectif de donner un modèle des phénomènes qui nous intéressent. Il faut bien comprendre cette notion. Un modèle est par définition une description simplifiée. Assez riche pour décrire les propriétés qui nous intéressent, mais pas trop pour ne pas se perdre en détails inutiles. Si par exemple tu as un terrain sur lequel construire ta maison, et qu'on te demande de mesurer la surface qu'il prend, est-ce que tu irais jusqu'à prendre en compte la caractéristique fractale des détails du sol ? Probablement que non, tu partirais du principe que le sol est relativement plat et tu prendrais des mesures en tirant une corde le long du sol, par exemple. De la même manière, tu ne vas pas non plus considérer l'inclinaison du sol du fait de la courbure terrestre, négligeable à ton niveau. Une théorie c'est pareil : elle se conçoit dans un contexte particulier, donc avec des objectifs particuliers, et on essaye donc de se focaliser sur les détails pertinents pour cela.

Ces simplifications se justifient de par ces objectifs : on compte l'utiliser pour telle chose, et donc inutile de le complexifier avec des propriétés qu'on n'utilise pas :
- la courbure de la terre changerait peu les valeurs, il est donc raisonnable d'approximer en se disant que c'est une surface plane, les résultats étant sensiblement les même. On s'évite alors du calcul inutile et on gagne en efficacité pour mener à bien les travaux.
- a contrario, la caractéristique fractale du sol peut avoir un impact énorme sur la valeur de la surface (une surface tendant vers l'infini avec un niveau de détail de plus en plus fin), mais une fois la maison posée ou le terrain retravaillé, la texture du sol aura complètement changé, on se fiche donc complètement de ces détails qui ne resterons pas et on se focalise sur ce qui restera : les dimensions générales du terrain.

De là on arrive à la question de la "vérité". Comme tu le soulignes, simplifier implique nécessairement de "manquer" de quelque chose, de ne pas être exhaustif ni exact. Mais c'est tout simplement parce qu'on ne vise pas l'exactitude, mais l'utilité. Est-ce qu'on se détourne pour autant du droit chemin ? Est-ce qu'on se condamne à rester dans le faux juste pour des raisons pratiques ? Ça se discute, mais que nos théories doivent être "vraies" ou non est un vieux débat. Ou plutôt, qu'on soit capable de dire si elles sont vraies ou non est discutable, et tu peux en avoir une introduction sympa par le blog de Monsieur Phi :
https://monsieurphi.com/2017/09/13/l...n-de-philo-13/

Je ne comprends pas quand vous dites une "propriété naturelle" ?
Si c'est du caractère primitif de l'homme dont vous parlez, je pense qu'il doit évoluer en sagesse, plutôt qu'en intelligence.
L'intelligence, c'est comme la monté en puissance des armes nucléaires. Tôt ou tard, ça va nous péter à la gueule.
Alors pourquoi continuer dans une voie qui ne mène à rien ? Je parle, bien sûr, de la fuite en avant.

La sagesse consistant à agir en cohérence avec nos connaissances, il nous faut acquérir lesdites connaissances au préalable. L'homme né bébé, or je doute que l'on arrive un jour -à supposer que ce soit le but- à faire pour que les bébés naissent avec toute la connaissance accumulée par l'humanité au cours de son histoire. Si on n'arrive pas à faire cela, alors il faut bien compter sur l'apprentissage pour que ledit bébé devienne un adulte sage et responsable, capable de prendre de bonnes décisions en connaissance de cause. Or, cet apprentissage nécessite d'y consacrer des ressources, notamment du temps, et il faut donc bien accepter de ne pas consacrer ces ressources à faire autre chose. L'exemple de BufferBob, la survie, est le plus commun. De là, on voit bien qu'il va falloir choisir : les connaissances disponibles sont nombreuses, tellement qu'une vie d'homme ne suffirait pas à toutes les apprendre, or une vie passée à apprendre sans jamais mettre en pratique n'a juste aucun intérêt, ni pour l'individu qui apprend ni pour la société qui l'éduque. De là, la sentence tombe : on est condamné à avoir des connaissances limitées, et donc une sagesse limitée.

C'est là que le point précédent refait surface : quitte à devoir se limiter à quelques connaissances, autant se limiter aux plus pertinentes. On est donc dans l'obligation d'approximer, de simplifier nos théories pour qu'elles soient apprenables. Et comme ce qui est pertinent varie en fonction du contexte, on se retrouve avec des théories différentes en fonction du contexte.

Pour en revenir à ce que tu dis, l'homme devrait être sage, mais pour cela il lui faut acquérir des connaissances, ce qui passe nécessairement par un transfert de connaissances par ses pairs. Or, ces connaissances ont bien dû être créées à un moment donné, et cela passe nécessairement par la création de théories, d'histoires, etc. Une création de connaissances qui nécessite :
- d'expérimenter pour observer les phénomènes,
- de raisonner pour rendre les connaissances prédictives,
- de modéliser pour décrire, et donc partager (oralement ou par écrit).

Si on part de la définition d'intelligence comme d'une capacité à acquérir de l'expertise (i.e. le potentiel pour devenir performant dans n'importe quel domaine choisit), on voit bien que celle-ci est à la base de l'obtention de connaissances : sans elle, on ne devient pas meilleur à faire ceci ou cela, et donc oublie l'amélioration continue des connaissances, du raisonnement, des modèles, ou de la communication.

Alors oui, l'intelligence peut nous péter à la gueule : l'intelligence n'intègre pas de notion morale. C'est un outil comme un autre, et on l'a déjà vu utilisée à des fins malheureuses. Mais je te répondrai le même argument que pour les adeptes anti-crypto : on peut tuer quelqu'un avec un couteau de cuisine, est-ce que pour autant on va s'interdire de produire le moindre couteau ? Non, il s'agit de trouver un bon équilibre pour profiter des avantages en minimisant les risques. C'est pareil pour l'intelligence, y compris artificielle.

C'est une constatation que je fais, du comportement de l'homme en général et non en particulier.
Les exemples sont nombreux dans la vie de tous les jours.

Nous sommes devenus des êtres soumis à nos pulsions, à nos envies, à nos égoïsmes, juste dans l'intérêt de les satisfaire.
Nous avons oublié d'où nous venons, et l'effort qu'il nous a fallu pour y arriver.
Quand on crève de faim, on fait tout pour survivre.
Mais quand la nourriture est à foison, on ne fait plus aucun effort, et c'est là que nous croyons être libre de toute responsabilité.
A vrai dire, l'homme devrait trouver un but fédérateur, pour le bien de l'humanité, puisque tout est possible.
Cela me rappelle le film "planète interdite", le haut niveau de technologie que ses habitants ont atteint et la raison de leur disparition.

Alors, a priori non, on n'est pas devenu "des êtres soumis à nos pulsions, à nos envies, à nos égoïsmes, juste dans l'intérêt de les satisfaire." On l'est de par notre nature animale, et on s'en éloigne justement par nos activités intellectuelles, culturelles, etc. Ça, c'est la tendance globale. Maintenant, ça reste de la stats : tu trouveras toujours des exemples particuliers qui vont à contresens, qui font baisser la moyenne, et comme ce qui dérange est ce qu'on remarque le plus (je peux te citer des bouquins de psychologie sociale pour appuyer cela), par nature on fait tout un plat de ces cas dérangeants en oubliant la tendance globale. Non, le monde n'est pas plus pourri qu'avant, bien au contraire. Tu fais juste plus attention qu'avant à ce qui t'entoure, avec une focalisation naturelle sur ce qui sort de tes attentes. C'est normal, mais il faut en être conscient et ne pas se laisser biaiser : ça ne t'informe en rien de la tendance globale. Une petite vidéo pour illustrer cela :
https://www.ted.com/talks/hans_and_o...bout_the_world

Vous perdez de vue la chose la plus essentielle pour l'homme, celle de cultiver son être et non son avoir.

Je te laisserai décider ce qui te semble être le plus essentiel, mais je te remercierai de ne pas parler à ma place. Sur ce genre de questions, chacun son avis.

Je ne veux pas être l'esclave de ces machines et perdre mon humanité !

Évitons les raccourcis exagérés. Oui certains profiteront de la possibilité de déléguer les décisions, et donc de ne pas se mouiller en laissant d'autres décider pour eux. Mais d'une part ça ne veut pas dire pour autant qu'on est esclave (un esclave y est contraint, avec l'IA on ne l'est pas, ou tout du moins pas nécessairement), mais en plus on le fait tous par ci ou par là. Personne ne décide de tout pour lui-même car on n'a juste pas la capacité cognitive pour le faire. Viser un idéal ou chacun est responsable de tout ce qu'il fait me semble bien peu raisonnable. Alors essayons de ne pas faire dans l'extrême inverse non plus.

Je vois 4 situations :
- choix informé : on a le choix, et les connaissances pour le faire
- choix par défaut : on a le choix, mais on ne sait pas comment le faire
- obligation subie : on n'a pas le choix, mais on aimerait bien pouvoir le faire (que ce soit dans le même sens ou non)
- obligation indifférente : on n'a pas le choix, mais on ne sait pas ce qu'on en ferait (pas plus de raison d'aller dans un sens que dans l'autre)

La deux derniers cas ne sont pas à confondre avec de l'obligation opportuniste, où on accepte l'obligation dès lors qu'on aurait fait le même choix, on la critique si on aurait fait le choix inverse. Je ne fais pas grand chose de ce cas, qui est plus une position personnelle (opportunisme) qu'un vrai ressenti (est-ce qu'on se sent avoir le choix ou non ? Est-ce qu'on se sent être capable de le faire ou non ?).

L'IA, pour autant que je sache, personne n'est obligé de l'utiliser directement. On est donc, tant qu'on se limite à une interaction directe avec une IA, dans un cas de choix, qu'il soit informé ou par défaut. Dès lors qu'on se met à dépendre d'éléments (e.g. assurances, banques, lois, etc.) qui, eux, se basent sur l'IA, on est en situation d'obligation, quelle qu'elle soit. Comme décrit précédemment, il me semble difficilement concevable qu'on puisse un jour tout savoir, individuellement parlant. À partir de là, il y aura forcément des situations où on ne sera pas informé, et donc soit on sera en situation de choix par défaut, et on sera donc incapable de choisir ou dans l'obligation de suivre le choix d'un autre, soit en situation d'obligation indifférente. Si on est dans le premier cas, on peut alors décider de s'en remettre à une IA comme on s'en remettrait à un ami ou un expert, auquel cas on se retrouve de manière volontaire en situation d'obligation indifférente. On peut aussi choisir de reporter la décision, le temps d'obtenir les informations nécessaires pour choisir. Mais cela n'est pas toujours faisable (information inexistante, difficilement accessible, nécessitant trop de ressources pour l'obtenir, etc.).

Pour être esclave, il faudrait être dans un cas d'obligation subie particulièrement poussée, notamment sur des choix auxquels on donne une grande valeur. Une situation par exemple d'obligation indifférente n'est pas qualifiable d'esclavagisme, vu qu'on n'a aucune raison de contredire l'obligation (on peut discuter de la tentative de garder les gens ignorants, mais là on est encore dans une obligation subie, vu qu'on souhaite savoir mais on nous y empêche). Or cela me semble être une situations très spécifique, où l'IA aurait eu une telle confiance qu'on aurait bâti des normes sociales l'intégrant comme organe de décision haut placé. Autant dire que ce n'est pas prêt d'arriver tout de suite chez nous, ne serait-ce que par l'inertie de nos institutions et du goût au pouvoir des décideurs en général.

La perte de l'humanité, par contre, je te demanderai de définir ce que tu entends par "humanité", parce que là ça reste très vague pour moi.

C'est un leurre de croire que l'homme a une quelconque maîtrise de ce qu'il fait.

Rien qu'avec cette phrase, tu affirmes être un esclave par nature, car n'ayant aucune maîtrise de ce que tu fais. Auquel cas, toute cette discussion n'a aucun sens, vu que si on est esclave de notre nature, celle-ci nous poussant à faire avancer l'IA (et à la critiquer), alors finir esclave de l'IA ne serait qu'une conséquence de notre esclavagisme naturel, sur lequel on n'a aucun pouvoir.

Je vais donc ignorer cette phrase qui met tout ton argumentaire à l'eau et te laisser le soin de préciser ta pensée si tu penses que ce point est important.

Si vous croyez que la science est tout puissante, posez-vous la question d'une science sans l'homme ?

La science n'existerait pas, tout simplement. Aucun besoin de théories physiques pour que les animaux et les plantes continuent d'être et d'évoluer. Dame Nature n'a pas attendu la moindre science pour faire ses preuves. Les sciences sont un produit de l'être humain. Elles décrivent des phénomènes qui ne le sont pas forcément, mais ces descriptions sont bien des produits humains.

Ce n'est pas l'homme qui fait la science car elle a ses propres règles.
Le tout est de savoir où se trouve la place de l'homme dans ces règles ?

Tu semble confondre science et Nature. Les science visent (notamment) à décrire la nature, et quand on parle de sciences, on parle de l'ensemble des connaissances et pratiques scientifiques, et non des phénomènes qu'ils décrivent ou étudient.

Vous généralisez en croyant que la machine peut donner la sagesse à l'homme.
Elle ne se donne pas, elle s'acquière par l'expérience.

Peux-tu citer un passage qui affirme une telle chose ?

Bien que je pense que l'intelligence artificielle va modifier notre façon de vivre, comme à l'instar l'informatique, il ne faut pas considérer qu'elle est la solution à tous nos problèmes.

Tu peux remplacer "intelligence artificielle" par ce que tu veux, cette affirmation est toujours vrai. Tu enfonces des portes ouvertes, car il n'y a que les marketeux pour affirmer que l'IA allait tout résoudre, or on n'est pas sur un forum de marketeux.

Le problème, c'est l'homme !

Argh, plus pessimiste, tu meurs. Un problème est quelque chose qui ne va pas. Si pour toi, l'homme est un problème en soit...

Et la seule façon de résoudre ce problème est d'éduquer l'homme à un long apprentissage, celui de la sagesse.
Le reste, ce ne sont que des béquilles qui sont là pour éviter à l'homme de réfléchir et de prendre les bonnes décisions.

Sauf que mon argumentaire pose que la sagesse ne se construit pas sans connaissances, et la connaissance ne se construit pas sans intelligence. Que réponds-tu à cela ?

La religion comme la politique sont faites pour nous empêcher de réfléchir par nous même et de déléguer à d'autre ce que nous pourrions faire par nous même.

Attention aux attaques gratuites : ce n'est pas parce que ça le permet que c'est le but ! Ne soyons pas mauvaise langue, à voir des complots partout.

Et vous pensez maintenant déléguer cela à des machines dites intelligentes. Mais où est la place de l'homme dans tout ça ?

Soit on part du principe qu'on sera un jour capable de prendre toutes les décisions possibles et imaginables individuellement avec la plus grande des sagesse, auquel cas l'IA serait effectivement inutile, soit on estime qu'une telle situation ne verra jamais le jour (et ma prose va dans ce sens), auquel cas on aura nécessairement délégation, au moins partielle. Il s'agit dès lors de se demander comment déléguer la décision, or il est des tas de domaines où les machines sont naturellement plus efficaces pour cela. Pour autant, cela ne veut pas dire qu'il faille viser une délégation totale, et je doute que tu trouves beaucoup de monde faisant une telle apologie de l'IA. Il est souvent question de tous les domaines qu'elle pourrait couvrir, mais pas de tous ceux qu'elle devrait couvrir. Merci donc de ne pas tomber dans l'exagération la plus naïve, qui n'a évidemment aucune base mais qui ne te ferait que dire des généralités qui n'apprendront rien à personne.

[Artemus24]

Salut à tous.

je suis du même avis, mais à mon sens c'est aussi une perception idéaliste, la réalité est toute autre depuis la découverte du feu;

Déjà, cela me fait plaisir que quelqu'un partage ma vision, même idéaliste. Mais la réalité n'est pas tout autre.
Il y a une tendance, quand on ne peut pas ou plus maîtriser un problème humain, de trouver une solution liberticide.
La solution n'est pas dans la privation de liberté mais dans l'éducation.
Maintenant, si nous ne sommes pas capable de nous raisonner par nous même, alors je préconise de taper là où ça fait mal.
Après tout, certains ne comprennent qu'un seul langage : la violence.
Personnellement, je trouve cela désolent que l'on ne soit pas capable de dialoguer d'une manière sensée.

l'évolution technologique (pour ne pas dire "la science") est ce qui fait la différence entre deux groupes d'individus qui en général s'affrontent, pour moi le caractère primitif de l'homme il est plutôt là, transcrit au XXe siècle c'est typiquement le propos de la course à l'espace, à l'armement etc. sur fond de guerre froide, et aujourd'hui encore si on lit entre les lignes on comprend assez facilement que ça met les boules à l'occident que la Chine soit présentement leader mondial sur l'IA

Je n'ai rien contre l'évolution technologique quand elle sert vraiment à quelque chose.
Je vais reprendre un slogan de la SNCF, il y a fort longtemps : "Le progrès ne vaut que s'il est partagé par tous".
C'est une citation d'Aristote ! C'est à croire que déjà à cette époque (celle d'Aristote), on avait des doutes sur le bien fait du progrès.

Une autre citation, qui reflète assez mon opinion à ce sujet.
"Pour que la loi du progrès existât, il faudrait que chacun voulût la créer ; c'est-à-dire que, quand tous les individus s'appliqueront à progresser, alors, l'humanité sera en progrès". Citation de Baudelaire.

ben justement, c'est marqué nulle part ça. c'est de la philosophie personnelle, à laquelle j'adhère par ailleurs complètement

Le progrès ne repose pas uniquement sur du confort matériel, même si l'IA peut nous simplifier grandement la vie.

alors là, de quoi on parle; d'être littéralement les esclaves des machines ? d'être trop dépendants des machines ? ou d'être esclaves d'une minorité d'humains par l'intermédiaire des machines ?

En effet, manque de précision de ma part ! Je parlais de la dépendance des hommes vis-à-vis des machines qui peuvent lui simplifier la vie.

être trop dépendants des machines... besoin de préciser ?

Mais quand on lit dans la presse qu'un individu tape sur son GPS (je suppose tomtom) la ville de Toulouse et qu'il se retrouve dans la cour d'une ferme d'un lieu dit du même nom, on peut se poser des questions sur ce qui empêche justement cet individu de réfléchir par lui-même ?
Mais il y a aussi l'usage trop intensif des voitures qui nous empêchent de faire des exercices physiques.
Voire même aussi l'usage de la calculatrice pour faire 2 + 2.

Là, je ne suis pas d'accord car ce n'est pas rendre service à l'humanité de lui donner ces béquilles qui soit-disant, vous lui simplifier la vie.
L'homme, avec ces béquilles, va devenir un handicapé de la vie !

"science sans cons, science n'est que ruine de l'homme"

Excellent ! Je n'avais pas pensé à cette citation. Merci de me l'avoir rappelé.

"vous n'avez pas le temps, premier arrivé gagne, celui qui gagne c'est celui qui survit", le long apprentissage de la sagesse il tombe aux oubliettes

La sagesse est justement de savoir anticiper les problèmes et non d'attendre qu'ils arrivent pour les résoudre.
La compétition, je suis contre, sinon nous ne mettons à profit que la loi du plus fort, genre, la société américaine.

Je suis pour une société plus juste, pas plus utopique, mais une société qui ne laisse personne sur le bord de la route.
Plus juste, signifie aussi plus de justice, et donc créer un loi qui responsabilise les gens, mais punissent ceux qui veulent ma détourner à leur avantage.
Une société où chacun peut trouver son bonheur, même si cela crée des oppositions.
Mon image est de faire cohabiter le loup et la chèvre. Comment ? Aujourd'hui, je n'en sais rien.
Mais trouver une solution, qui consiste à éliminer le faible, non, je ne suis pas d'accord.

Doit-on passer par l'IA pour disons, avoir un gendarme dans le dos qui va vérifier si nous n'enfreignons pas la loi ? J'espère que non !
Oui mais, comment résoudre un conflit ? Comme les Curiaces et les Horaces ?
Autrement dit, doit-on créer une soupape de sécurité afin de résoudre certains problèmes ?
Par exemple, les arènes du temps de la Rome antique ???
Si nous sommes une société violente, nous devons apprendre à la canaliser et non à faire la politique de l'autruche.

Selon moi, introduire l'IA dans la société pour annihiler la nature profonde de l'homme est une erreur.
Si des gens veulent faire de la vitesse et rouler comme des malades sur la route, la solution est simple.
On crée une autoroute où ils sont dégagés de toutes responsabilités.
S'ils se tuent entre eux, c'est qu'ils ont fait ce choix en leur âme et conscience.

Interdire n'est pas la solution. Canaliser, voire créer des zones de non droits, oui !
Pourquoi croyez-vous que second life a autant de succès ?

ça ne viendrait à personne de chercher le conflit je sais pas moi... sur les réseaux sociaux par exemple.

Vous avez tort, car il y a des individus qui sont de cette nature !
Tout comme celle du scorpion sur le dos de la grenouille qui traverse une rivière et qui ne peut pas s'empêcher de piquer de son dard.
C'est la problématique du militaire. Que faire de lui en temps de paix ?

la sagesse elle prend un coup dans les roustons là...

Ce dont vous me parlez, c'est la voie des extrêmes. La sagesse, c'est la voie du milieu !

en quelle année Dieu est mort déjà ?

Dieu est mort, le jour où la religion est né.

n'est pas précisément dans l'intérêt de la politique de maintenir les populations dans une certaine ignorance de manière à les rendre plus dociles et facilement "gérables" ?

Bien sûr que oui, car toute politique à peur de sa population. Maintenir la population dans l'ignorance est une façon de la diriger.

du coup, je me dis que cette peur du châtiment divin, ce pourrait aussi bien être les machines qui nous l'apportent,

Imaginons un seul instant que l'IA devient un nouveau dieu et que grâce à lui, nous avons enfin notre paradis.
Qu'est-ce qui va empêcher ce nouveau dieu de nous expulser du paradis ?

Je n'ai pas peur des machines, j'ai peur de ce que les hommes vont en faire !

@+

[Artemus24]

Salut Matthieu Vergne.

@Artemus24 : Tu me réponds après des mois, donc j'espère bien reprendre le fil et ne pas me tromper niveau interprétation des anciens posts.

Je ne sais pas trop ce qui s'est passé, mais j'ai complètement zappé le sujet.

Il convient donc de ne pas confondre les deux.

Merci pour la précision !

Ça se discute, mais que nos théories doivent être "vraies" ou non est un vieux débat.

Merci pour cette précision fort enrichissante, mais ce n'est pas exactement de cela dont je parlais.

Comment connaitre une chose ?
Croyez-vous que cela se fasse par le détail qui la compose ou bien par sa globalité ?

C'est ce dont je parlais précédemment dans ce sujet de la différence entre une population vu dans sa globalité et celle de l'individu qui la compose.
L'individu a ses propres règles, mais elles sont différente de celle de la population, vue comme une entité.
Je ne comprends pas comment l'un puisse exister (la population) au travers de l'autre (l'individu).

La sagesse consistant à agir en cohérence avec nos connaissances, il nous faut acquérir lesdites connaissances au préalable.

Je ne crois pas que la sagesse repose sur l'expérience ou des connaissances (de quelles connaissances parlons-nous ?)
Elle repose plutôt sur le bon sens, et la prudence.
D'ailleurs, nous savons depuis Descartes que l'homme est dépourvu de bon sens.

L'exemple de BufferBob, la survie, est le plus commun.

Je comprends le point de vue de BufferBob, mais la sagesse n'est pas quelque chose qui se trouve au dessus de la pyramide Maslow :



Elle se trouve à n'importe quel niveau de cette pyramide.

De là, la sentence tombe : on est condamné à avoir des connaissances limitées, et donc une sagesse limitée.

Oui d'accord, mais mes propos sont plus destinés à enseigner la sagesse plutôt que la connaissance.
Car si nous déléguons cette connaissance à l'IA, nous devons bien apprendre quelque chose qui va nous distinguer de ces machines.

C'est là que le point précédent refait surface : quitte à devoir se limiter à quelques connaissances, autant se limiter aux plus pertinentes.

Avez-vous besoin de savoir comment fonctionne une voiture ? Non !
Tout ce dont vous aurez besoin dans l'avenir, vu que c'est l'IA qui va être votre pilote, c'est de savoir comment on s'adresse à lui.
C'est ce changement de connaissance qui m'inquiète car nous ne serons plus capable de construire des voitures car nous déléguerons cela à des machines.

Je suis cartesien dans ma façon de raisonner, et j'aime la science. De ce coté là, Matthieu Vergne, nous nous ressemblons. Petite précision, je ne suis pas scientiste.
Et je continue de penser que la science est un bienfait. Mais le problème ne se situe pas là.

Ce qui m'inquiète le plus, c'est la place de l'homme dans tout cela.
Si c'est pour améliorer la condition humaine, je veux bien, à la condition qu'elle soit partagée par tout le monde.
Si c'est pour répondre à des besoins politiques, religieux ou je ne sais quoi d'autre qui consiste à opprimer l'homme, je suis formellement contre.
Le coté transhumanisme me fait peur. Si c'est pour remplacer un membre défaillant, rendre la vue à un aveugle, oui, je suis d'accord.
Si c'est pour créer des surhommes, nous connaissons tous ce que la philosophie de l'eugénisme a engendré en Allemagne durant l'époque d'Adolf Hitler.
Voulons-nous reproduire le même schéma avec les mêmes conséquences ?

Pour en revenir à ce que tu dis, l'homme devrait être sage, mais pour cela il lui faut acquérir des connaissances, ce qui passe nécessairement par un transfert de connaissances par ses pairs.

Non, pas du tout. Si on dit à un enfant de ne pas jouer avec les allumettes, doit-on pour autant le laisser construire une bonne atomique ?

Si on part de la définition d'intelligence comme d'une capacité à acquérir de l'expertise (i.e. le potentiel pour devenir performant dans n'importe quel domaine choisit), on voit bien que celle-ci est à la base de l'obtention de connaissances : sans elle, on ne devient pas meilleur à faire ceci ou cela, et donc oublie l'amélioration continue des connaissances, du raisonnement, des modèles, ou de la communication.

Pour les connaissances, je suis d'accord. Mais de quelles connaissances parlez-vous ?
La connaissance ne se résume pas qu'à la science (mathématique, physique, chimie).
Encore une fois, je constate que vous oubliez l'homme !
Il y a aussi la psychologie, la sociologie, la politique, la philosophie ...

La connaissance, c'est un tout que l'on ne doit pas tronquer.
Venez à en supprimer une partie et vous allez créer un déséquilibre qui tôt ou tard va vous manquer.

Alors oui, l'intelligence peut nous péter à la gueule : l'intelligence n'intègre pas de notion morale.

Par morale, vous voulez dire éthique et non morale religieuse.

Mais je te répondrai le même argument que pour les adeptes anti-crypto : on peut tuer quelqu'un avec un couteau de cuisine, est-ce que pour autant on va s'interdire de produire le moindre couteau ?

Interdire n'est pas la solution. Ce que je préconise justement c'est de canaliser !
Bien que je sois contre la drogue, on ne peut pas aller contre la majorité des gens, aux états-unis (la légalisation du cannabis), qui veulent se droguer.
Le combat, on le gagne par l'éducation, pas contre la nature humaine.

Non, il s'agit de trouver un bon équilibre pour profiter des avantages en minimisant les risques.

L'équilibre dont vous parlez est de comprendre la nature humaine et de trouver une solution pour ne pas se retrouver dans une situation explosive.

C'est pareil pour l'intelligence, y compris artificielle.

Justement non, car le facteur humain n'est pas ou plus présent !
Comment allez-vous introduire dans une machine la sagesse ? Par les trois lois de la robotique de Isaac Asimov ?

On l'est de par notre nature animale, et on s'en éloigne justement par nos activités intellectuelles, culturelles, etc.

Je ne veux pas disserter ici de l'origine de la nature humaine, si elle est innée ou acquise. C'est hors de propos de ce sujet.
L'important est de savoir qu'elle existe et de trouver une solution pour la canaliser.

Non, le monde n'est pas plus pourri qu'avant, bien au contraire.

Votre mot "pourri" me dérange car d'une part, il ne s'agit pas de cela, à savoir d'une prolifération du mal, et d'autre part, je ne suis pas du tout d'accord avec vous.
Je prends comme exemple celui de la soumission à l'autorité, l'expérience de Milgram.
Or il se trouve que cette soumission est plus importante aujourd'hui que dans les années 50, quand Migram a débuter ses expériences.

Si le péché originel est la désobéissance, celui que nous connaissons aujourd'hui est l'inverse, l’obéissance aveugle à un être supérieur dans lequel nous reconnaissons comme le détendeur de notre vérité.

Il y a plusieurs facteurs qui concourrent à cela.
--> Ce que nous croyons être la vérité. Cela peut venir de l’endoctrinement, comme dans une secte ou la religion, la politique ...
--> Le fait d'être reconnu et d'appartenir à quelque chose de plus grand que nous. Il s'agit de notre identité, ce qui caractérise nos valeurs, le fait de se retrouver et de comprendre le langage qui en découle.
--> de croire en un gourou (qu'il soit sectaire, religieux ou politique, ...), dans sa parole, de reconnaître qu'il détient une vérité et qu'il sait mieux que nous dont il parle.

Comme je l'ai dit précédemment, ne plus réfléchir par nous-même, déléguer cela à quelqu'un d'autre est notre plus grande erreur !

L'IA, pour autant que je sache, personne n'est obligé de l'utiliser directement.

C'est la nécessité qui va nous obliger d'utiliser l'IA.
Vu que la connaissance va se trouver dans ces machines, vous voilà face à une dépendance dont par obligation, vous allez devenir l'esclave.

Comme décrit précédemment, il me semble difficilement concevable qu'on puisse un jour tout savoir, individuellement parlant.

Il ne s'agit pas de tout savoir, mais d'apprendre à s'adapter à ce nouveau monde, parce que ces machines savent mieux que vous.

Pour être esclave, il faudrait être dans un cas d'obligation subie particulièrement poussée, notamment sur des choix auxquels on donne une grande valeur.

Mais c'est le cas avec l'IA car nous allons leur déléguer un pouvoir afin de nous concentrer sur autre chose, comme par exemple, rechercher une qualité de vie.
Si j'aime conduire une voiture, je ne vais pas déléguer cela, sauf que ce n'est pas moi qui décide ce que je désire faire, mais la société.
Et si celle-ci décide, par cause de mortalité sur la route, et du danger que représente la conduite humaine au volant de la voiture, de déléguer cela à une machine, qu'est-ce que je fais ?
Je me fais une raison ou je me rebelle ?

La perte de l'humanité, par contre, je te demanderai de définir ce que tu entends par "humanité", parce que là ça reste très vague pour moi.

Tout ce qui fait de moi un être humain à part entière.

Je ne veux pas qu'une putain de machine décide à ma place ce qui est bon pour moi.
Ni que l'on vienne m'implanter une puce pour me géolocaliser en permanence.
Et dès que je dis un gros mot, comme dans le film "demolition man", recevoir une amende, même chez moi.

Je vais donc ignorer cette phrase qui met tout ton argumentaire à l'eau et te laisser le soin de préciser ta pensée si tu penses que ce point est important.

Parce que la machine aura une meilleur maîtrise ??? Ah bon, et les bugs auront disparu !

Peux-tu citer un passage qui affirme une telle chose ?

Oui, le bon sens !

Si pour toi, l'homme est un problème en soit...

Pourquoi inventons nous l'IA ? Sinon pour résoudre la défaillance de l'homme. Si ça, c'est pas un problème, c'est quoi ?

Sauf que mon argumentaire pose que la sagesse ne se construit pas sans connaissances, et la connaissance ne se construit pas sans intelligence. Que réponds-tu à cela ?

Je réponds que vous ne savez pas ce qu'est la sagesse : la sagesse est l'idéal de la vie humaine.

Attention aux attaques gratuites : ce n'est pas parce que ça le permet que c'est le but ! Ne soyons pas mauvaise langue, à voir des complots partout.

Ce n'est pas une attaque, juste ma constatation. Ah bon, et le but de la religion consiste en quoi ? Peut-être gagner sa place au paradis ?
Et si le paradis n'existait pas, vous auriez passer toute votre vie à vous illusionner une récompense qui n'arrivera jamais.
Il y a tellement d'interdit que cela vous empêche de vivre votre vie. Je ne sais pas pour vous, mais je préfère vivre à ma façon.

Merci donc de ne pas tomber dans l'exagération la plus naïve, qui n'a évidemment aucune base mais qui ne te ferait que dire des généralités qui n'apprendront rien à personne.

Il n'y a aucune exagération, juste une opinion qui vous déplaît.
Je n'ai rien à apprendre de l'IA. Qu'est-ce qu'une machine peut m'apprendre ?

@+

[Matthieu Vergne]

Je suis pour une société plus juste, pas plus utopique, mais une société qui ne laisse personne sur le bord de la route.
Plus juste, signifie aussi plus de justice, et donc créer un loi qui responsabilise les gens, mais punissent ceux qui veulent ma détourner à leur avantage.
Une société où chacun peut trouver son bonheur, même si cela crée des oppositions.
Mon image est de faire cohabiter le loup et la chèvre. Comment ? Aujourd'hui, je n'en sais rien.
Mais trouver une solution, qui consiste à éliminer le faible, non, je ne suis pas d'accord.

Je te suis totalement là dessus. Y compris sur la priorité à l'éducation. En revanche, ce que je trouve dommage dans ton raisonnement, c'est que tu prends l'IA comme un outil "pour annihiler la nature profonde de l'homme", or c'est tout le contraire. L'homme a toujours voulu se débarrasser des tâches qui ne l'intéresse pas pour se focaliser sur ce qui l'intéresse. Sauf que cela n'a jamais pu et ne pourra jamais être satisfait que par la disponibilité d'une main d’œuvre. D'abord par l'esclavage au sens propre, ensuite au sens figuré avec les relations de classes, et encore aujourd'hui avec ce pouvoir que les détenteurs de capitaux ont face à ceux qui en manquent cruellement. L'IA, pour moi, est cet outil qui peut enfin offrir une main d’œuvre qui est là pour "être de la main d’œuvre", laissant à l'humain la possibilité de se focaliser enfin sur ce qu'il souhaite faire, et non ce qu'on lui demande de faire et qu'il est obligé d'accepter "parce qu'il faut bien boucler les fins de mois" ou "parce que si je suis pas embauché je ne suis personne". Sauf que pour que ça soit un changement positif, l'IA doit venir avec le revenu universel, le seul qui permette vraiment de mettre fin à la pauvreté et de donner les moyens à chacun d'être indépendant et de prendre des risques pour faire ce qu'on estime être bien.

Comment connaitre une chose ?
Croyez-vous que cela se fasse par le détail qui la compose ou bien par sa globalité ?

C'est ce dont je parlais précédemment dans ce sujet de la différence entre une population vu dans sa globalité et celle de l'individu qui la compose.
L'individu a ses propres règles, mais elles sont différente de celle de la population, vue comme une entité.
Je ne comprends pas comment l'un puisse exister (la population) au travers de l'autre (l'individu).

Population et individu sont des concepts intimement liés. D'une part, une population est un ensemble d'individus. Et d'autre part, ce qui caractérise un individu est ce qui le différencie d'autres individus, et donc ce qu'il apporte à une population. Tu ne peux pas avoir l'un sans l'autre : étudier une population nécessite d'étudier les individus qui la compose, et étudier un individu nécessite de le mettre en contraste avec ce que tu peux observer chez d'autres. Les deux sont importants, mais pas pour les même raisons.

Pour remonter un peu dans le raisonnement, la question de comment connaître une chose est très pertinente. Est cela commence par l'information, que l'on peut qualifier grâce à la théorie de l'information de Shannon. Mais on va déjà poser une compréhension approximative : la première chose qui forme une connaissance est l'expérience qui la génère, qu'elle soit physiologique ou mentale. Or, ces expériences n'arrivent pas juste comme ça, elles arrivent parce qu'on est capable de les ressentir, et donc au travers de stimuli (nerveux, neuronaux). Or, ces stimuli ne peuvent pas être générés sans variation : de mouvement, de lumière, de température, etc. Si par exemple la Terre était toujours à la même température partout, aucun être n'aurait développé de sens pour ressentir la température : un tel organe n'aurait apporté aucune information, car toujours à la même valeur. En théorie de l'information, cela s'exprime par la quantité d'information I=log(N/n), avec N le nombre de cas possible et n le nombre de cas qui nous intéressent. Comme on s'intéresse au seul cas possible, soit N=n=1, on a une quantité d'information log(1/1) = log(1) = 0 bits. Un message constant n'apporte aucune information. Avec l'entropie (-p1.log(p1)-p2.log(p2)) on trouve la même chose (juste savoir que x.log(x) -> 0 avec x -> 0 [1]). Quand on a compris cela, connaître une chose revient à être capable de la différencier d'une autre, de dire qu'elle a cela de particulier, de notable. Et cette différence peut se faire soir par le détails, soit par la globalité, ce n'est là qu'une question de granularité de l'information, et non de sa valeur informative.

Je ne crois pas que la sagesse repose sur l'expérience ou des connaissances (de quelles connaissances parlons-nous ?)

Il s'agit avant tout de se mettre d'accord sur ce dont on parle. Si on utilise le même mot pour deux phénomènes différents, y'a pas de raison qu'on tombe d'accord. Cela dit, les seules définitions de sagesse que j'ai entendu qui ne se basent pas sur la connaissance sont des concepts moraux absolus, qu'un relativiste comme moi ne considère pas (à chaque foi qu'on met de l'absolu dans des discussions, ça vire au drame, car ça a beau être absolu, ce n'est jamais le même absolu pour tout le monde).

Je comprends le point de vue de BufferBob, mais la sagesse n'est pas quelque chose qui se trouve au dessus de la pyramide Maslow

Normal, la sagesse n'est pas un besoin mais un état d'esprit.

Oui d'accord, mais mes propos sont plus destinés à enseigner la sagesse plutôt que la connaissance.

Précise ta définition de sagesse, parce que dire que c'est du bon sens pour dire juste après qu'on n'en a pas, moi j'en tire rien de ça. Ma définition me dit pas de sagesse sans connaissance, donc avant d'avoir de la sagesse, il faut avoir des connaissances.

Car si nous déléguons cette connaissance à l'IA, nous devons bien apprendre quelque chose qui va nous distinguer de ces machines.

Pourquoi ? Ce n'est pas parce que ton voisin sait quelque chose que tu n'as pas besoin de le savoir. Ce n'est pas parce qu'on apprends des choses à une IA qu'on n'a pas besoin de le savoir.

Avez-vous besoin de savoir comment fonctionne une voiture ? Non !

Si je veux la conduire, non. Si je veux la réparer, oui. Enlève tes œillères, tu réduis tous les contextes à un seul.

Tout ce dont vous aurez besoin dans l'avenir, vu que c'est l'IA qui va être votre pilote, c'est de savoir comment on s'adresse à lui.

Faux ! Tout ce dont on aura besoin à l'avenir, c'est ce dont on aura vraiment besoin pour nous-même. Si on veux réparer nous-même notre voiture, on aura la possibilité de l'apprendre pour le faire. C'est ça aussi le bonheur : se rendre fier d'avoir atteint un objectif qu'on s'est soi-même fixé. C'est le travail amateur perpétuel, et amateur ne veut pas dire dénué de qualité.

L'IA ne sera là que pour ceux qui auront le besoin de la réparer sans avoir le besoin de le faire eux-même. C'est un amalgame encore bien trop fréquent : avoir une IA pour faire le boulot ne t'interdit pas de le faire toi-même, elle te permet de ne pas le faire. La nuance est de taille.

C'est ce changement de connaissance qui m'inquiète car nous ne serons plus capable de construire des voitures car nous déléguerons cela à des machines.

Tu auras toujours des fans pour se consacrer à ce genre de choses. Regarde les gens qui forgent et s'habillent comme au moyen âge. Des communautés comme celle-ci, tu en as dans tous les domaines. Ne sous-estime pas la curiosité humaine.

Petite précision, je ne suis pas scientiste.

Moi non plus.

Ce qui m'inquiète le plus, c'est la place de l'homme dans tout cela.
Si c'est pour améliorer la condition humaine, je veux bien, à la condition qu'elle soit partagée par tout le monde.
Si c'est pour répondre à des besoins politiques, religieux ou je ne sais quoi d'autre qui consiste à opprimer l'homme, je suis formellement contre.
Le coté transhumanisme me fait peur. Si c'est pour remplacer un membre défaillant, rendre la vue à un aveugle, oui, je suis d'accord.
Si c'est pour créer des surhommes, nous connaissons tous ce que la philosophie de l'eugénisme a engendré en Allemagne durant l'époque d'Adolf Hitler.
Voulons-nous reproduire le même schéma avec les mêmes conséquences ?

L'IA est un outil. Rien de plus. Ta critique est sur l'homme qui l'utilise, pas sur la technologie elle-même. En tirant sur l'IA, tu te trompes de cible. C'est du gâchis d'énergie.

Non, pas du tout. Si on dit à un enfant de ne pas jouer avec les allumettes, doit-on pour autant le laisser construire une bonne atomique ?

1 - je vois pas le rapport entre les deux
2 - si c'est pour que plus personne ne sache pourquoi il ne faut pas jouer avec les allumettes (parce que papa/maman l'a dit), ça n'a aucun intérêt. Ce serait justement là, non pas nous remplacer par des machines, mais faire de nous des machines, qui se contentent de suivre des règles prédéfinies.

Pour les connaissances, je suis d'accord. Mais de quelles connaissances parlez-vous ?
La connaissance ne se résume pas qu'à la science (mathématique, physique, chimie).
Encore une fois, je constate que vous oubliez l'homme !
Il y a aussi la psychologie, la sociologie, la politique, la philosophie ...

Relis-moi, tu verras que je n'implique nullement une telle limite. En l'occurrence, moi qui suit justement un fervent défenseur de l'IA au sens propre, j'aime beaucoup la philo (ma dernière citation de monsieur Phi m'aidera peut-être à te convaincre) et je suis en train de lire ces deux bouquins justement pour m'aider dans mes travaux d'IA :
Higgins, E. Tory, and Arie W. Kruglanski, eds. Social Psychology: Handbook of Basic Principles. New York: Guilford Press, 1996.
Kruglanski, Arie W., and E. Tory Higgins, eds. Social Psychology: Handbook of Basic Principles. 2nd ed. New York: Guilford Press, 2007.

Alors ne vient pas me dire que j'ignore la philo, la psycho et la socio. C'est peut-être ce que tu constate en général, mais certainement pas chez moi !

Par morale, vous voulez dire éthique et non morale religieuse.

Les deux et même plus. La morale en tant que système de valeurs. L'intelligence ne présuppose pas de système de valeurs particulier. Du coup il y en a qui partent du principe que l'IA est forcément mauvaise/bonne, alors que c'est juste un élément neutre dans l'équation, le système de valeurs étant amené par l'utilisation qu'on en fait, et donc par ce qui se trouve entre la chaise et le clavier.

Interdire n'est pas la solution. Ce que je préconise justement c'est de canaliser !
Bien que je sois contre la drogue, on ne peut pas aller contre la majorité des gens, aux états-unis (la légalisation du cannabis), qui veulent se droguer.
Le combat, on le gagne par l'éducation, pas contre la nature humaine.

Je suis du même avis. Et dans la même veine, tu n'arrêteras pas l'avènement de l'IA, car ça fait partie de notre nature que de vouloir des esclaves pour faire notre boulot, et l'IA est la seule façon de concilier cela avec les valeurs actuelles que sont l'anti-esclavagisme et la protection des animaux (même s'il y a encore du pain sur la planche vis à vis de la protection de l'environnement avec l'IA).

L'équilibre dont vous parlez est de comprendre la nature humaine et de trouver une solution pour ne pas se retrouver dans une situation explosive.

Or, pas de compréhension de la nature humaine sans connaissance sur le sujet. On en revient toujours au même point.

Justement non, car le facteur humain n'est pas ou plus présent !

Si justement, l'humain est et restera toujours présent dans l'IA. Une IA, ça ne se lance pas tout seul. C'est et cela restera un outil qu'un utilisateur aura allumé pour l'utiliser. C'est comme dire qu'il faut mettre de l'humain dans un couteau : ça n'a pas de sens, il faut concevoir la dangerosité du couteau en fonction de l'humain qui l'utilise. Un couteau n'est pas dangereux en soi, il l'est en fonction de la situation, et cette situation n'est pas faite par le couteau tout seul.

Si tu me parles de phénomènes naturels, style des avalanches ou des écroulements, ce sont des situations qui surviennent naturellement, mais ce ne sont pas les cailloux ou la neige qui sont dangereux, ce sont les situations où la neige et les cailloux s'amoncellent de manière dangereuse. De la même manière, l'IA et les couteaux peuvent être mis dans des situations dangereuses (couteau en bord de table, IA ayant droit de vie ou de mort), mais ces situations ne sont en rien naturelles. Elles sont provoquées par les actes humains. S'en prendre aux outils n'a aucun intérêt, c'est se tromper de combat.

Oui le focus est sur l'éducation, alors pourquoi perdre son temps sur l'outil inerte qui n'a rien demandé ?

Votre mot "pourri" me dérange car d'une part, il ne s'agit pas de cela, à savoir d'une prolifération du mal, et d'autre part, je ne suis pas du tout d'accord avec vous.
Je prends comme exemple celui de la soumission à l'autorité, l'expérience de Milgram.
Or il se trouve que cette soumission est plus importante aujourd'hui que dans les années 50, quand Migram a débuter ses expériences.

Source ? Tout ce que je trouve sur Wiki comme augmentation significative, c'est le jeu de la mort, or les émissions télévisées sélectionnent leurs candidats pour favoriser l'audience, il est donc normal de voir les chiffres augmenter dans ce cas.

Si le péché originel est la désobéissance, celui que nous connaissons aujourd'hui est l'inverse, l’obéissance aveugle à un être supérieur dans lequel nous reconnaissons comme le détendeur de notre vérité.

Il y a plusieurs facteurs qui concourrent à cela.
--> Ce que nous croyons être la vérité. Cela peut venir de l’endoctrinement, comme dans une secte ou la religion, la politique ...
--> Le fait d'être reconnu et d'appartenir à quelque chose de plus grand que nous. Il s'agit de notre identité, ce qui caractérise nos valeurs, le fait de se retrouver et de comprendre le langage qui en découle.
--> de croire en un gourou (qu'il soit sectaire, religieux ou politique, ...), dans sa parole, de reconnaître qu'il détient une vérité et qu'il sait mieux que nous dont il parle.

Comme je l'ai dit précédemment, ne plus réfléchir par nous-même, déléguer cela à quelqu'un d'autre est notre plus grande erreur !

Pourtant, tu ne veux pas que tes enfants se questionnent quand tu leur dit de ne pas jouer avec les allumettes. Faudrait savoir.

C'est la nécessité qui va nous obliger d'utiliser l'IA.
Vu que la connaissance va se trouver dans ces machines, vous voilà face à une dépendance dont par obligation, vous allez devenir l'esclave.

Encore une fois, pourquoi diable elle devrait se retrouver uniquement sans ces machines ? Tu crois vraiment que les gens vont arrêter de faire des vidéos Youtube quand on aura des IA pluridisciplinaires ? Je pari l'inverse.

Il ne s'agit pas de tout savoir, mais d'apprendre à s'adapter à ce nouveau monde, parce que ces machines savent mieux que vous.

Encore un raccourci : elles savent quoi, mieux que nous ? Certaines choses, pas tout. C'est là encore un fantasme de science fiction, mais pour s'en rendre compte il faut être un peu plus rigoureux dans le raisonnement.

Mais c'est le cas avec l'IA car nous allons leur déléguer un pouvoir afin de nous concentrer sur autre chose, comme par exemple, rechercher une qualité de vie.
Si j'aime conduire une voiture, je ne vais pas déléguer cela, sauf que ce n'est pas moi qui décide ce que je désire faire, mais la société.
Et si celle-ci décide, par cause de mortalité sur la route, et du danger que représente la conduite humaine au volant de la voiture, de déléguer cela à une machine, qu'est-ce que je fais ?
Je me fais une raison ou je me rebelle ?

La cigarette n'a pas disparu à ce que je sache. Pourtant, c'est pas faute d'augmenter les prix.

Tout ce qui fait de moi un être humain à part entière.

On tourne en rond, ça m'en dit pas plus.

Je ne veux pas qu'une putain de machine décide à ma place ce qui est bon pour moi.

Même si ton médecin te dis ce qui est bon pour toi, tu as le droit de le refuser. Pourquoi ce serait différent si ton médecin serait une machine ? Tu n'as qu'à aller voir un médecin humain, acheter une voiture sans algo (partir du principe que la société va interdire les voitures avec conducteur, c'est encore une sacré hypothèse dure à avaler), etc. Tu établis ton raisonnement sur des hypothèses qui ne tiennent pas la route. Oui ton raisonnement est logique, mais il n'a pas plus de valeur que les hypothèses que tu pose pour le tenir.

Ni que l'on vienne m'implanter une puce pour me géolocaliser en permanence.

Encore une fois, on ne peut t'obliger à t'implanter une puce à l'heure actuelle. Je ne vois pas pourquoi cela changerait avec l'avènement de l'IA. Et comme avec des si on referait le monde, je te demanderai de poser des raisonnements sur des hypothèses qui ont du sens, plutôt que des situations inexistantes.

Et dès que je dis un gros mot, comme dans le film "demolition man", recevoir une amende, même chez moi.

Oui, et je veux pas de terminator non plus... non un film ne fait pas une bonne hypothèse non plus.

Parce que la machine aura une meilleur maîtrise ??? Ah bon, et les bugs auront disparu !

Tu mélanges : les bogues sont des erreurs induites par une mauvaise programmation, et donc de source humaine. Tu ne peux pas reprocher à une machine d'être boguée, comme on ne peut pas reprocher à une personne d'être handicapée de naissance. La maîtrise, par contre, c'est lié à l'expertise : c'est une capacité à faire ce qu'il faut comme il faut. Et cela peut ne pas te plaire, mais les faits sont là : un programme reproduit une procédure de manière bien plus fiable qu'une personne. Autrement on ne compterait pas sur l'informatique pour nous aider dans autant de tâches.

Oui, le bon sens !

Évidemment, ma question n'avait de sens que sur la première phrase, mais il aura fallu que tu l'appliques à la seconde. Essaye encore.

Pourquoi inventons nous l'IA ? Sinon pour résoudre la défaillance de l'homme. Si ça, c'est pas un problème, c'est quoi ?

Un gros soucis dans tes raisonnements est que tu vas de raccourcis en raccourcis, et du coup on ne peut aller que d'amalgame en amalgame. Un problème est quelque chose qui ne va pas. Oui un être humain a des défauts, et tout ce qu'on crée vise à complémenter ces défauts, même la chaise sur laquelle tu es assise ou le lit dans lequel tu te couches (parce qu'un humain, ça se fatigue, c'est dommage mais c'est comme ça). Ça ne fait pas de l'être humain un problème. Alors soit précis dans tes termes, qu'on puisse se comprendre. Parce qu'avec tous tes raccourcis, on n'arrive plus à distinguer les raisonnements valides des contradictions.

Je réponds que vous ne savez pas ce qu'est la sagesse : la sagesse est l'idéal de la vie humaine.

1 - Et quel est cet idéal ? Si tu me réponds "la sagesse", tu te contentes de tourner en rond en laissant le terme totalement interprétable. Je ne vois donc pas en quoi mon interprétation serait moins bonne que la tienne, la mienne étant juste plus précise (agir en cohérence avec ses connaissances peut tout à fait être considéré comme un idéal).
2 - Merci de lire ta propre source jusqu'au bout :

Chez les philosophes grecs ou dans la tradition orientale, la sagesse est l'idéal de la vie humaine. Elle peut se définir comme un état de réalisation qui s'appuie sur une connaissance de soi et du monde, s'accompagne d'un bonheur suprême et correspond à l'état de perfection le plus élevé que puisse atteindre l'humain et son esprit ; c'est le savoir-être heureux. Aristote a dit que « la sagesse ne peut être ni une science ni une technique », c'est un savoir-vivre.

Difficile de faire plus basé sur les connaissances.

Ce n'est pas une attaque, juste ma constatation. Ah bon, et le but de la religion consiste en quoi ? Peut-être gagner sa place au paradis ?
Et si le paradis n'existait pas, vous auriez passer toute votre vie à vous illusionner une récompense qui n'arrivera jamais.

Ceux qui ont ladite religion croient au paradis, donc la question ne se pose pas.

Il y a tellement d'interdit que cela vous empêche de vivre votre vie. Je ne sais pas pour vous, mais je préfère vivre à ma façon.

Moi aussi, mais je ne vois pas en quoi ceux qui vivent à leur façon en vivant leur religion seraient plus en tort.

Il n'y a aucune exagération, juste une opinion qui vous déplaît.
Je n'ai rien à apprendre de l'IA. Qu'est-ce qu'une machine peut m'apprendre ?

La seule chose qui me déplaît dans ton raisonnement, c'est les raccourcis grossiers qu'il fait et les passages trop vagues pour comprendre ce que tu veux dire. Ne reste plus qu'à interpréter, et forcément c'est pas toujours joli, mais je suis pas devin, je vais pas faire le boulot de défrichage de ta pensée à ta place. Par contre, je peux essayer d'y trouver des choses à améliorer, et pour l'instant c'est pas dur.

[Artemus24]

Salut Matthieu Vergne.

En revanche, ce que je trouve dommage dans ton raisonnement, c'est que tu prends l'IA comme un outil "pour annihiler la nature profonde de l'homme", or c'est tout le contraire.

Vous ne m'avez pas bien compris à ce sujet. Je ne suis pas contre l'IA.
Je suis contre l'usage que le politique (ou autre) pourrait faire de l'IA afin de s'en servir, "pour annihiler la nature profonde de l'homme".
Qu'est-ce qui peut empêcher le politique de s'en servir contre l'homme ?

Même le sujet de cet article me choque. Remplacer l'humain par une intelligence artificielle, juste parce que cela est plus rentable.
Croyez-vous que l'homme soit une variable d'ajustement ?

L'homme a toujours voulu se débarrasser des tâches qui ne l'intéresse pas pour se focaliser sur ce qui l'intéresse.

Vu de cette façon là, on ne peut qu'être d'accord avec vous.

Sauf que cela n'a jamais pu et ne pourra jamais être satisfait que par la disponibilité d'une main d’œuvre.

J'ai du mal à comprendre votre phrase. Mais de quelle satisfaction parlez-vous ?
La main d’œuvre, ce n'est pas que du boulot. C'est aussi un moyen de vivre pour des tas de gens.

D'abord par l'esclavage au sens propre, ensuite au sens figuré avec les relations de classes, et encore aujourd'hui avec ce pouvoir que les détenteurs de capitaux ont face à ceux qui en manquent cruellement.

Il n'y a rien de bénéfique pour l'homme, dans l'esclavage. Je suppose que vous parlez des hommes. Et quand est-il des machines ?
Croyez-vous que l'homme qui possède une machine, ne devient-il pas son esclave ?
Car la machine fait mieux que l'homme et l'homme sans la machine ne sait plus rien faire !

L'IA, pour moi, est cet outil qui peut enfin offrir une main d’œuvre qui est là pour "être de la main d’œuvre", laissant à l'humain la possibilité de se focaliser enfin sur ce qu'il souhaite faire, et non ce qu'on lui demande de faire et qu'il est obligé d'accepter "parce qu'il faut bien boucler les fins de mois" ou "parce que si je suis pas embauché je ne suis personne".

Vous oubliez qu'une pièce de monnaie à deux faces.
Si le coté Pile est intéressant pour les progrès de la société, cela va privilégier les nantis qui peuvent acquérir cette IA et l'utiliser.
Pour le coté face, nous aurons les exclues, c'est-à-dire ce que vous nommer la main d’œuvre.

Qu'est-ce qui prouve que les nantis ne vont pas considérer que les exclues sont une charge pour la société et tenter de les supprimer ?
Parce que cette main d’œuvre sera devenue obsolète, moins intelligente et surtout une charge pour la société. Pourquoi ? Car les machines feront tout mieux.

Voulez-vous jouer à Pile ou Face ? Moi, non !

Sauf que pour que ça soit un changement positif, l'IA doit venir avec le revenu universel, le seul qui permette vraiment de mettre fin à la pauvreté et de donner les moyens à chacun d'être indépendant et de prendre des risques pour faire ce qu'on estime être bien.

L'IA va vérouiller la société en deux catégories, ceux qui produisent et ceux qui consomment.
Donc selon vous, le revenu universel est destiner à transformer la société en un gigantesque supermarché où la seule raison de vivre de cette main d'oeuvre est de consommer.

Et cette différence peut se faire soit par le détail, soit par la globalité, ce n'est là qu'une question de granularité de l'information, et non de sa valeur informative.

Merci pour vos explications qui sont fort utiles.
Je me suis mal exprimé, je ne parlais pas de l'information, mais de la relation qui peut exister entre le détail et le global.

Il s'agit avant tout de se mettre d'accord sur ce dont on parle.

Problème de définition, je suppose.

Précise ta définition de sagesse, parce que dire que c'est du bon sens pour dire juste après qu'on n'en a pas, moi j'en tire rien de ça.

La connaissance a pour but de nous expliquer comment faire. Tandis que la sagesse nous expliquer quoi en faire.
Si les gens n'ont pas de bon sens, la cause provient de la trop grande complexité de cette connaissance.
Je ne sais pas si c'est un manque d'imagination, mais cela suppose que ce n'est pas en relation avec leur propre expérience.

Ma définition me dit pas de sagesse sans connaissance, donc avant d'avoir de la sagesse, il faut avoir des connaissances.

Je ne crois pas que la sagesse repose sur la connaissance mais plutôt sur l'expérience.
Maintenant de quelle connaissance parlons-nous ?

Ce n'est pas parce qu'on apprends des choses à une IA qu'on n'a pas besoin de le savoir.

Quand j'achète un objet, je n'ai pas besoin de savoir comment il a été fabriqué, j'ai juste besoin de savoir comment m'en servir.

Si je veux la conduire, non. Si je veux la réparer, oui. Enlève tes œillères, tu réduis tous les contextes à un seul.

Le principe est de faire faire à l'IA tout ce qui est contraignant pour l'homme.
Pourquoi voulez que je fasse ce que la machine fait mieux que moi ?

Tout ce dont on aura besoin à l'avenir, c'est ce dont on aura vraiment besoin pour nous-même.

Votre vision de l'avenir est de dire que la machine vous décharge de certaines contraintes et que maintenant vous avez du temps à vous consacrer à ce qui vous intéresse vraiment.
Je ne voie pas en quoi ma vision est fausse puisque je deviens un utilisateur de ce que l'IA me propose.

C'est un amalgame encore bien trop fréquent : avoir une IA pour faire le boulot ne t'interdit pas de le faire toi-même, elle te permet de ne pas le faire. La nuance est de taille.

Je ne suis pas d'accord avec votre vision, car la société va devenir de plus en plus pragmatique.
La connaissance n'a plus aucune utilité. Seul la capacité d'agir a son importance.

D'où ma remarque concernant la sagesse qui est un paliatif dans la capacité d'agir en faisant n'importe quoi.
On voit des gens prendrent des risques inconsidérés juste pour avoir des sensations fortes.
C'est le désœuvrement de cette main d’œuvre que va être à l'origine d'une nouvelle forme de décadence dans notre société.

Des communautés comme celle-ci, tu en as dans tous les domaines. Ne sous-estime pas la curiosité humaine.

Il ne s'agit pas d'une forme de curiosité, mais d'une échappatoire à la dureté de la société d'aujourd'hui.
Vous oubliez la dimension du rêve et de l'espoir. Les gens veulent une raison d'exister pour donner un sens à la vie.
Justement l'IA va supprimer ce besoin à l'inverse de ce que vous croyez.
Ce n'est pas dans le désœuvrement que l'on va trouver la réponse.

A moins que dans la société de demain, nous offres des parcs d'attractions comme mondwest.

L'IA est un outil. Rien de plus.

Pour l'instant, l'IA est un concept plus qu'une réalité.

Ta critique est sur l'homme qui l'utilise, pas sur la technologie elle-même.

Ma critique se porte plus sur celui qui va la mettre en place et à quel fin. L'homme qui va l'utiliser en sera la principale victime.
A moins que l'IA a pour but pour promouvoir la condition humaine, sans la contraindre, dans ce qu'elle peut lui apporter de mieux.
D'un point de vue biblique, je dirais le paradis sur terre.

En l'occurrence, moi qui suit justement un fervent défenseur de l'IA au sens propre, j'aime beaucoup la philo

Quand on a le nez trop sur une chose, on oublie souvent qu'il existe un autre monde en dehors de cette chose.
J'ai l'impression que vous cultivez l'IA comme une religion, bien que vos propos soient modérés.

Si je me permets de débattre de ce sujet avec vous, c'est pour montrer mon opposition à une vision IA du monde, sans l'homme.
En tout cas, c'est ce que je ressens lorsqu'on me parle de l'IA.
Des voitures sans chauffeurs, des banques sans conseillers, des usines sans ouvriers, des fermes sans paysans, ...
Tout ça pour dire que la machine fait mieux que l'homme sans donner véritablement une raison de vivre à l'homme.

Alors ne vient pas me dire que j'ignore la philo, la psycho et la socio. C'est peut-être ce que tu constate en général, mais certainement pas chez moi !

Je ne parle pas de connaissance, mais juste de la place de l'homme dans le monde de l'IA.

Du coup il y en a qui partent du principe que l'IA est forcément mauvaise/bonne, alors que c'est juste un élément neutre dans l'équation, le système de valeurs étant amené par l'utilisation qu'on en fait, et donc par ce qui se trouve entre la chaise et le clavier.

Oui, c'est par l'usage que l'on va faire de l'IA, au moins dans un premier temps.
Car je n'ai même pas abordé le problème de la singularité technologique que l'on redoute tant.

Si justement, l'humain est et restera toujours présent dans l'IA.

Justement non, quand la machine sera capable de s'auto reproduire et même quand elle aura atteint un niveau d'intelligence qui dépassera celle de l'homme.
Alors on se posera, trop tard, la question de la place de l'homme dans ce nouveau monde. Et un imbécile dira : mais j'ai cru bien faire !

C'est comme dire qu'il faut mettre de l'humain dans un couteau : ça n'a pas de sens

Jusqu'à présent, je n'ai jamais vu un couteau attaqué, tout seul, un humain.
Ni une arme à feu tirer, tout seul, sur des victimes. Pourquoi ?
Car il n'y a aucune intelligence dans un couteau ou dans une arme à feu.

il faut concevoir la dangerosité du couteau en fonction de l'humain qui l'utilise.

Et si la machine devient intelligence, est-ce que ça compte aussi ?

Source ?

L'expérience extrême, de Christophe Nick ety Michel Eltchaninoff.
Seul face à un pouvoir, l'individu est l'être plus manipulable donc le plus obéissant.
Avec les contributions scientifiques de Jean-Léon Beauvois, Didier Courbet et Dominique Oberlé.
Don Quichotte éditions. ISBN : 978-2-35949-011-4.

elles savent quoi, mieux que nous ?

D'abord, ce que nous allons apprendre à ces machines et ensuite, ce qu'elles pourront apprendre par elles-mêmes.

Tu établis ton raisonnement sur des hypothèses qui ne tiennent pas la route. Oui ton raisonnement est logique, mais il n'a pas plus de valeur que les hypothèses que tu pose pour le tenir.

Je ne suis pas devin donc oui, c'est de la logique. Mais en quoi mes hypothèses ne tiennent pas la route ?
Aujourd'hui peut-être car l'IA est encore à ses balbutiement, mais demain ?

je te demanderai de poser des raisonnements sur des hypothèses qui ont du sens, plutôt que des situations inexistantes.

Très bien. A quand la singularité technologique ? Et vous allez me répondre que pour l'instant on y est pas encore.

Cela me rappelle le film "la haine" :
C'est l'histoire d'un homme qui tombe d'un immeuble de 50 étages.
Au fur et à mesure de sa chute, pour se rassurer, il se répète:

"Jusqu'ici, tout va bien."
"Jusqu'ici, tout va bien."
"Jusqu'ici, tout va bien."

Mais l'important, c'est pas la chute. C'est l'atterrissage...

Et quel est cet idéal ? Si tu me réponds "la sagesse", tu te contentes de tourner en rond en laissant le terme totalement interprétable.

Cet idéal, je n'en sais rien car elle est propre à chacun d'entre nous.
Si on parle du bonheur, cela n'est pas quelque chose d'universel.
La sagesse n'est qu'un moyen de découvrir notre l'idéal et c'est dans cet idéal que nous trouvons notre bonheur.

J'ai l'impression que vous cherchez des réponses toutes faites, sans ambiguïté.
La vie n'est pas faire que de raisonnement ou de certitudes, mais aussi d'une sensation vague qu'il est parfois difficile de comprendre et surtout d'interpréter.
Je ne comprends pas comment on peut trouver un idéal dans un monde où l'IA est omniprésent ?
Votre approche me fait penser au livre Fahrenheit 451.

Merci de lire ta propre source jusqu'au bout :

Oui et alors ? Je suis entièrement d'accord avec cet extrait de la définition de la sagesse.
Qu'est-ce que vous me reprochez ? Peut-être cela : "une connaissance de soi et du monde" ?
Je préfère plutôt cette phrase "Connais-toi toi-même et tu connaîtras l’univers et les Dieux" qui se trouvait au seuil du Temple de Delphe.

Difficile de faire plus basé sur les connaissances.

Mais il ne s'agit pas de connaissance dans le sens de science mais de vérité personnelle, celle caché au plus profond de soi.
L'art de Socrate consistait à extraire cette connaissance, d'où le nom de maïeutique pour cette pratique.
C'est une forme ancienne de la psychanalyse, encore que, cela ne concerne pas que le psyché, mais plutôt des vérités personnelles.

Moi aussi, mais je ne vois pas en quoi ceux qui vivent à leur façon en vivant leur religion seraient plus en tort.

Il ne s'agit pas de savoir qui à tort ou qui à raison. Le problème n'est pas là.
Il s'agit de trouver sa propre vérité et non de faire sienne, la vérité des autres.

La seule chose qui me déplaît dans ton raisonnement, c'est les raccourcis grossiers

Quels raccourcis grossiers ?

@+

[Matthieu Vergne]

Vous ne m'avez pas bien compris à ce sujet. Je ne suis pas contre l'IA.
Je suis contre l'usage que le politique (ou autre) pourrait faire de l'IA afin de s'en servir, "pour annihiler la nature profonde de l'homme".

Dans ce cas, j'ai envie de dire recentre ton discours : toutes tes critiques sont formulées sur l'IA, et non sur les hommes qui en ferait usage. C'est comme critiquer la réaction nucléaire sous prétexte qu'on peut en faire une bombe atomique, alors que c'est loin d'être l'usage majoritaire.

Qu'est-ce qui peut empêcher le politique de s'en servir contre l'homme ?

La même chose qui peut empêcher le politique de se servir de la bombe atomique. Une connaissance raisonnable de la chose et une régulation basée sur ces connaissances. Or à l'heure actuelle on n'a ni l'un, ni l'autre, du coup on entend et voit de tout et n'importe quoi. Mais cela ne veut pas dire que ça durera ad vitam aeternam. Cela dit, il va bien falloir attendre que les gens se mettent à bosser pour cela. Avec ma recherche et mes explications, j'essaye de clarifier les choses pour qu'on arrête de croire tout et n'importe quoi, mais je peux pas tout faire.

Même le sujet de cet article me choque. Remplacer l'humain par une intelligence artificielle, juste parce que cela est plus rentable.
Croyez-vous que l'homme soit une variable d'ajustement ?

À l'heure actuelle, oui il l'est, et si tu veux que ça change il va falloir changer les moeurs. Je te souhaite bon courage.

Moi, je préfère laisser ceux qui veulent penser comme ça penser ce qu'ils veulent, et faire mon possible pour que ceux qui pensent différemment gagnent en autonomie et pouvoir de décision. D'où mon avis sur l'IA (qui peut aussi profiter aux seconds) et le revenu de base.

Croyez-vous que l'homme qui possède une machine, ne devient-il pas son esclave ?

Autant que, dans le passé, l'homme riche était esclave des ces africains qui lui faisait à manger, ses lessives, et ramassait son coton. Sans eux, il était perdu.

Il ne me semble pas qu'on appelle ce genre de dépendance de l'esclavage, cela dit.

Vous oubliez qu'une pièce de monnaie à deux faces.
Si le coté Pile est intéressant pour les progrès de la société, cela va privilégier les nantis qui peuvent acquérir cette IA et l'utiliser.
Pour le coté face, nous aurons les exclues, c'est-à-dire ce que vous nommer la main d’œuvre.

Qu'est-ce qui prouve que les nantis ne vont pas considérer que les exclues sont une charge pour la société et tenter de les supprimer ?
Parce que cette main d’œuvre sera devenue obsolète, moins intelligente et surtout une charge pour la société. Pourquoi ? Car les machines feront tout mieux.

Voulez-vous jouer à Pile ou Face ? Moi, non !

Sauf que contrairement à pile ou face, ici les deux côtés peuvent s'exprimer en même temps, ta métaphore s'arrête donc ici. Bien entendu que les deux choses sont possibles. Maintenant donne-moi une seule technologie qui n'ait que des bons côtés.

Ce genre d'argument ne suffit pas.

L'IA va vérouiller la société en deux catégories, ceux qui produisent et ceux qui consomment.

Et selon quelle logique ?

Donc selon vous, le revenu universel est destiner à transformer la société en un gigantesque supermarché où la seule raison de vivre de cette main d'oeuvre est de consommer.

Là il va falloir que tu me dises comment tu tires une telle conclusion. Parce que non, ce que tu affirmes n'est pas "selon moi".

La connaissance a pour but de nous expliquer comment faire.

C'est là une vision très restreinte de la connaissance.
Quid de savoir quand est l'anniversaire des gens auxquels tu tiens ?
Quid de savoir le goût du citron ?
Quid de savoir qu'un site nommé developpez.net te permet de participer à des discussions fort intéressantes sur des sujets passionnants ? {^.^}~

Tout cela n'a rien à voir avec le "comment". Mais ça n'en reste pas moins des connaissances.

Tandis que la sagesse nous expliquer quoi en faire.

À moitié d'accord.
Il est une chose de savoir ce que tu peux en faire, que ce soit bon ou mauvais, et cela est de la connaissance.
Il est une autre chose de savoir ce qui est bon ou mauvais, et cela est encore de la connaissance.
Il est encore une autre chose que d'agir en cohérence avec ces deux connaissances, c'est à dire d'utiliser de la bonne manière plutôt que de la mauvaise, et cela est de la sagesse.

Donc dans un certain sens, je colle à ta définition, sauf que moi je prends une perspective comportementale (action) alors que toi tu est sur une perspective épistémique (explication).

En général, je me réfère à un quadruplet qui revient souvent : données -> information -> connaissances -> sagesse.
Mais comme on en trouve des tas sur le net qui prennent différent focus, il est difficile de justifier qu'un fasse référence et pas les autres.
Par exemple, une application de ce quadruplet sur une perspective mentale uniquement amènera à une définition de la sagesse proche de ta définition.
Mais comme moi je suis plus général que ça, je vais plutôt me baser sur le dictionnaire, tout simplement :
http://www.larousse.fr/dictionnaires.../sagesse/70506

En dehors des deux dernières définitions, qui sont soit de l'ordre de la métaphore soit un concept théologique, toutes les définitions sont de l'ordre du comportement. On inclut bien entendu les comportements mentaux, comme les jugements/décisions, mais la sagesse est dans tous les cas une action, et non un simple "savoir". Qui plus est, c'est une action en accord avec des connaissances. Chaque définition l'illustre bien :

Idéal supérieur de vie proposé par une doctrine morale ou philosophique ; comportement de quelqu'un qui s'y conforme

La connaissance correspond à la doctrine, la sagesse à s'y conformer.

Qualité de quelqu'un qui fait preuve d'un jugement droit, sûr, averti dans ses décisions, ses actions

La connaissance des faits permet de prendre les bonnes décisions, amenant aux bonnes actions (décider sans action derrière, c'est du bluff).

Qualité de quelqu'un qui agit avec prudence et modération ; caractère de son action

On sait qu'un comportement extrême amène des problèmes, il est donc sage d'agir avec prudence.

Tempérance, modération dans les désirs, les plaisirs, la nourriture, la boisson, etc.

Idem.

Comportement d'un enfant tranquille, obéissant

Un enfant a qui on a dit qu'il faut agir comme cela, il sait qu'il faut agir comme cela. S'il est sage, il le fera.

Focaliser la sagesse sur un savoir est, pour moi, oublier ce qu'est l'essence de la sagesse : ses conséquences. On juge de la sagesse de quelqu'un en fonction de ses actions, et non simplement de ce qu'il nous dirait (faites ce que je dis, pas ce que je fais, dirait l'autre). Les connaissances en elle-même n'ont pas de conséquence, ce sont les comportements qui en résultent qui en ont, et c'est là dessus qu'on décerne le sage du beau parleur.

Le principe est de faire faire à l'IA tout ce qui est contraignant pour l'homme.
Pourquoi voulez que je fasse ce que la machine fait mieux que moi ?

Parce que tu n'as pas envie que ce soit bien fait, tu as envie de le faire, point final.
Pourquoi jouer à un jeu vidéo si la machine peut le faire à ta place ? Parce que tu t'en fiches qu'elle le fasse bien, tu veux t'amuser avec, point.
Pourquoi t'occuper de ton jardin si la machine peut le faire à ta place ? Parce que tu te fiches d'avoir le plus beau des jardins, tu veux juste prendre l'air et être au contact de la nature, point.
Pourquoi lire un livre à tes enfants si la machine peut le faire à ta place ? Parce que tu veut être à leur contact, les voir grandir et s'émerveiller, point.
Pourquoi t'occuper de tes vieux parents ? Parce que tu veux leur rendre ce qu'ils t'on donné.
Pourquoi construire ta prochaine maison avec tes potes ? Parce que tu as toujours rêvé d'en faire une par toi-même.
Pourquoi... ? Parce que j'ai envie de le faire, un point c'est tout !

Non, ce n'est pas parce que l'IA fait mieux que tu vas laisser l'IA le faire. Il n'y a pas que "faire mieux" dans la vie. Sauf qu'à l'heure actuelle, on n'a que rarement les moyens et le temps de faire ce qu'on veut, et le couple IA + revenu de base est un moyen d'y arriver.

Ma critique se porte plus sur celui qui va la mettre en place et à quel fin. L'homme qui va l'utiliser en sera la principale victime.
A moins que l'IA a pour but pour promouvoir la condition humaine, sans la contraindre, dans ce qu'elle peut lui apporter de mieux.
D'un point de vue biblique, je dirais le paradis sur terre.

Et le boulot de notre génération est de s'assurer que ce soit le second cas vers quoi l'on tend. Les erreurs ne manqueront pas, mais ça ne veut pas dire qu'il faille s'en détourner.

Quand on a le nez trop sur une chose, on oublie souvent qu'il existe un autre monde en dehors de cette chose.
J'ai l'impression que vous cultivez l'IA comme une religion, bien que vos propos soient modérés.

Tout le contraire. C'est justement parce qu'il y a des discours qui avancent tout et n'importe quoi sur l'IA (pour le meilleur comme pour le pire) que je me tue à remettre les horloges à l'heure. À l'heure actuelle, comme tu le dis, l'Ia au sens premier du terme est avant tout un concept, certainement aps une réalité. Toute la question étant de savoir si l'on peut en faire une réalité. Mais pour cela, encore faut-il savoir de quoi l'on parle, et c'est encore loin d'être le cas pour beaucoup.

D'un point de vue pratique, l'IA n'est actuellement rien de plus qu'un buzzword pour faire vendre du machine learning, qui n'est justement que de la pure mimique, chercher à reproduire "bêtement" ce qui a été fait précédemment, sans une once de jugement. Vendre cela comme de l'IA est pour moi de la publicité mensongère. Sauf que pour le corriger, il faut d'abord clarifier le concept, et c'est tout un travail.

D'un point de vue conceptuel, l'IA c'est surtout un fourre-tout alimenté par de la science fiction tout azimuts. Entre ceux qui citent Asimov, ceux qui citent Terminator, les grands gourous de l'informatique (ceux qui ont vendu plus que conçu, et donc ne savent même pas de quoi ils parlent) et les autres, on entend des théorie de singularité* qui s'appuient sur des raisonnements tronqués pour tirer des conclusions qui n'ont aucune cohérence physique, ou encore des comparaisons bibliques ou ésotériques qui n'ont que pour seul effet que de faire chauffer les serveurs de Twitter & Facebook. À l'heure actuelle, les discussions sur l'IA font plus augmenter la température terrestre qu'autre chose. J'essaye de faire ce que je peux pour corriger le tir là où je le peux, question de sagesse justement, et je trouve que c'est déjà bien.

(*) J'ai déjà discuté de la singularité ailleurs sur DVP. Je te laisse lancer une recherche avec le mot clé "singularité" associé à mon identifiant. Libre à toi de relancer le sujet là bas ou ailleurs, vu que ce n'est pas trop le sujet ici.

Si je me permets de débattre de ce sujet avec vous, c'est pour montrer mon opposition à une vision IA du monde, sans l'homme.
En tout cas, c'est ce que je ressens lorsqu'on me parle de l'IA.

Sauf que c'est là toute la perversité du truc : l'IA ne décide de rien, c'est l'homme qui décide. Et les discussions sur l'IA négligeant ce fait sont nombreuses, mais toutes dénuées de sens, justement à cause de cette omission majeure. C'est comme réduire l'augmentation de la température sur Terre à l'activité solaire, alors qu'il y a de toute évidence d'autres phénomènes en jeu. C'est une perspective étriquée qui ne peut apporter que des conclusions hâtives et sans intérêt pratique.

Oui l'homme fait partie de l'équation, à plus d'un titre. Mais si tu veux que cela change, encore faudrait-il que toi-même tu parles davantage d'homme dans tes critiques de l'IA. C'est peut être le cas dans ta pensée, mais ça ne se traduit pas assez dans tes écrits pour s'en rendre compte.

Jusqu'à présent, je n'ai jamais vu un couteau attaqué, tout seul, un humain.
Ni une arme à feu tirer, tout seul, sur des victimes. Pourquoi ?
Car il n'y a aucune intelligence dans un couteau ou dans une arme à feu.


Et si la machine devient intelligence, est-ce que ça compte aussi ?

Intelligence n'est ni connaissance, ni sagesse, ni conscience, ni toutes ces choses qui font qu'on rendrait une machine responsable. Les armes autonomes, pour reprendre cet exemple, ce n'est rien de plus qu'une stratégie établie par l'homme et reproduite "bêtement" par la machine. La machine n'a rien décidé, elle se contente de faire ce qu'on lui demande : agir comme un homme qu'on lui a donné pour modèle l'aurait fait. Ça, c'est ce qui se passe actuellement. Et quand bien même elles deviendraient plus intelligentes, ce n'est pas suffisant pour leur rejeter la faute, car l'intelligence ne suffit pas pour être responsable. Ce n'est pas cela l'intelligence qui fait la volonté. Mais pour comprendre cela, encore faut-il comprendre le concept d'intelligence sans l'amalgamer avec d'autres.

L'expérience extrême, de Christophe Nick ety Michel Eltchaninoff.
Seul face à un pouvoir, l'individu est l'être plus manipulable donc le plus obéissant.
Avec les contributions scientifiques de Jean-Léon Beauvois, Didier Courbet et Dominique Oberlé.
Don Quichotte éditions. ISBN : 978-2-35949-011-4.

Bon, c'est pas que je dénigre les expériences amateurs, mais je lis dans le synopsis :
- 80 personnes, c'est pas représentatif ne serait-ce que de la population française, ça ne fait qu'une expérience isolée donc non généralisable,
- un contexte de jeu télévisé, donc je m'attend à quelques motivations supplémentaires aux expériences initiales, qui poussent les gens à agir

Oui, pour le dernier point je spécule, vu que je n'ai pas lu le livre. Mais comme je ne peux pas le lire, là, tout de suite, je peux pas le confirmer pour cette discussion.

J'ai l'impression que vous cherchez des réponses toutes faites, sans ambiguïté.
La vie n'est pas faire que de raisonnement ou de certitudes, mais aussi d'une sensation vague qu'il est parfois difficile de comprendre et surtout d'interpréter.

Cela n'empêche pas de chercher à mieux comprendre et décrire ces sensations. C'est comme cela que le vocabulaire s'enrichit et que le raisonnement se précise. Sur la base de ce seul argument, on devrait accepter que la notion d'intelligence reste un concept vague sur lequel tout le monde fait ses théories. Moi je dis non, parce qu'avant de chercher une solution, on clarifie le besoin, et cela passe par mettre les bons mots dessus. Et je bosse pour cela.

[Artemus24]

Salut Matthieu Vergne.

Dans ce cas, j'ai envie de dire recentre ton discours

Non car le problème vient aussi bien des deux, à savoir d'une dérive faite par l'homme et de ce que l'IA peut proposer.

Mais cela ne veut pas dire que ça durera ad vitam aeternam.

Je suis d'accord mais dans ce laps de temps tout peut arriver, aussi bien le meilleur que le pire. Et quand le pire sera là, comment faire marche arrière ?

Cela dit, il va bien falloir attendre que les gens se mettent à bosser pour cela.

Par bosser, qu'entendez-vous par là ? Cherchez à résoudre des problèmes d'éthique ? Ou partir dans tous les sens, tant que l'éthique ne l'interdit pas ?
En fait qui va contrôler ces entreprises qui ne voient que leurs intérêts ?

À l'heure actuelle, oui il l'est, et si tu veux que ça change il va falloir changer les mœurs. Je te souhaite bon courage.

Je suis une souris. Comment voulez-vous que je combatte un éléphant ? Il va tôt ou tard m'écraser !
Si justement, nous les citoyens, nous pouvions nous exprimer et surtout être entendu sur ce qui est bon pour nous, nous aurions fait déjà un grand progrès.
Mais voilà, il y a des gens qui savent mieux que tout le monde ce qui est bon pour le peuple. La preuve, on vient d'autoriser la marijuana aux états-unis !

D'où mon avis sur l'IA (qui peut aussi profiter aux seconds) et le revenu de base.

Vous posez les conditions sans chercher à résoudre le problème. Et que va-t-il se passer dans cette société idéale, selon vous ?

Autant que, dans le passé, l'homme riche était esclave de ces africains qui lui faisait à manger, ses lessives, et ramassait son coton. Sans eux, il était perdu.

Oui, nous sommes d'accord sauf sur un point. Cet homme riche a le pouvoir, tandis que cette main d'oeuvre n'a pas le pouvoir de changer quoi que ce soit. Il subit !
D'où mon interrogation concernant la capacité de l'homme à se remettre en question et de savoir rebondir ?
Sinon à quoi sert d'avoir connu des drames, comme l'esclavage, pour recommencer, sous une autres formes, les mêmes ereurs. Avons-nous si peu de mémoire ?

Sauf que contrairement à pile ou face, ici les deux côtés peuvent s'exprimer en même temps, ta métaphore s'arrête donc ici.

Non car un homme est soit nantis, soit esclave. Il ne peut pas être les deux à la fois.
Je veux dire par là, que l'on ne peut pas remettre à la chance le fait d'appartenir à coté des nantis ou au coté des esclaves.
Et que faites vous du mérite ? De la possibilité de s'élever dans une société où dès le départ, vous instaurez un plafond de verre ? C'est de cela dont je parle.
En gros, dans une société où l'IA règle, il n'y a plus d'espoir, ni de rêve !

Ce genre d'argument ne suffit pas.

Pourquoi devrais-je être le seul à trouver des arguments contre l'IA ? Vous devez nécessairement connaitre les limites de ce que propose l'IA, non ?

Et selon quelle logique ?

Selon la logique du plus riche et de surcroît du plus fort. Quand vous avez le pouvoir, vous l'utilisez !
Sinon, à quoi sert d'avoir le pouvoir si vous ne vous en servez pas ? Ou alors vous croyez dans une didacture bienveillante, selon Platon :

Car écrivit Platon : « C’est que la loi ne pourra jamais embrasser exactement ce qui est le meilleur et le plus juste pour tout le monde à la fois (...) Le Politique 294a. » Même dans le meilleur des cas, c’est à dire lorsqu’elle est conduite par un homme de bien, la politique n’a pas pour vocation de se substituer à une sorte d’ange gardien qui veillerait avec bienveillance sur notre vie. Elle n’est là que pour nous aider à vivre ensemble en dépit de nos réticences voire, de notre totale indifférence envers les autres. Qui n’a pas saisi cela ne peut véritablement comprendre ce qu’est la politique qui, dès lors, ne peut que le décevoir. Contrairement à ce que pensait Platon, la politique n’est pas l’éthique et encore moins la morale. Son rôle se borne à organiser la cité et à choisir le mode de gouvernement qui lui convient. Lorsque tout se passe bien, la vocation de ce gouvernement coïncide avec le bien du plus grand nombre. Lorsque les augures sont autres, c’est le malheur qui l’emporte et l’histoire nous montre que ce fut, et que c’est, bien trop souvent le cas. Car, le peu que nous savons sur l’homme, ne nous apprend pas ce que nous voudrions qu’il soit. Et, d’ailleurs, peut-il l’être ?

Là il va falloir que tu me dises comment tu tires une telle conclusion. Parce que non, ce que tu affirmes n'est pas "selon moi".

Puisque c'est votre idée, j'aimerai savoir où vous allez trouver cet argent, à qui vous allez le donner et sous quelle condition ?
Je suppose que vous n'avez jamais pensé que cela pourrait être un moyen d'oppression du politique sur les gens qui disposeraient de ce revenu universel.

C'est là une vision très restreinte de la connaissance.

Savoir et connaissance ne sont pas des synonymes à l'inverse de ce que la plupart des gens croient.
Si la connaissance est l'interprétation, toute personnelle, d'un savoir, ce savoir quand à lui est partagé par toute la communauté.
La connaissance est la mise en pratique de ce savoir, et répond à un pragmatisme.
Autrement dit, le savoir est théorique, tandis que la connaissance est l'application de ce savoir dans un domaine particulier.
La connaissance est du domaine de la compréhension, et par conséquent du domaine de l'expérimentation.

Tout cela n'a rien à voir avec le "comment". Mais ça n'en reste pas moins des connaissances.

Bien sûr que oui. C'est justement la connaissance qui explique le comment. Vous confondez connaissance et savoir.

À moitié d'accord.

On a un peu progresser.

c'est à dire d'utiliser de la bonne manière plutôt que de la mauvaise, et cela est de la sagesse.

Là, nous sommes entièrement d'accord.

Donc dans un certain sens, je colle à ta définition, sauf que moi je prends une perspective comportementale (action) alors que toi tu es sur une perspective épistémique (explication).

Oui, c'est cela.

En dehors des deux dernières définitions, qui sont soit de l'ordre de la métaphore soit un concept théologique, toutes les définitions sont de l'ordre du comportement.

Il s'agit bien du comportement, celui que nous devrions avoir au mieux de l'intérêt de tous.
Je pense que cela s'enseigne au même titre que le savoir dans nos écoles.
A la différence, que le caractère des gens n'est pas le même et que nous devrions être prévisible dans nos comportements.

mais la sagesse est dans tous les cas une action, et non un simple "savoir".

La sagesse est un savoir qui fait office de référence, c'est-à-dire qui est admis ou reconnu par tout le monde.
Tandis que la connaissance que nous en avons et l'interprétation que nous en faisons, va se traduire sous une forme comportementale.
Tant que ce comportement est conforme à ce savoir, il n'y a pas de problème. A l'inverse, la divergence est source de problème.

Qui plus est, c'est une action en accord avec des connaissances.

Mauvais usage du mot connaissance. Remplacez ce mot par "savoir". Le savoir, c'est ce qui est partagé et admis par tout le monde.
la connaissance est quelque chose de personnel. Une action est toujours conforme à la connaissance, puisqu'elle en a pour origine.

Vous n'arrêtez pas de mélanger connaissance et savoir et cela change complètement le sens de vos propos.

On juge de la sagesse de quelqu'un en fonction de ses actions, et non simplement de ce qu'il nous dirait (faites ce que je dis, pas ce que je fais, dirait l'autre).

C'est une question philosophique que vous soulevez et qui demande un autre débat.

Ce sont les circonstances qui nous font, la plupart du temps, agir de telle façon.
La sagesse qui devrait en résulter doit se concrétiser par le temps nécessaire à la réflexion.
Or ce temps vient souvent à nous manquer et par voie de conséquence, on fait appel à notre connaissance et non à notre savoir pour y répondre.
Autrement dit, c'est l'expérience, voire notre personnalité qui va d'abord s'exprimer, et non notre intelligence ou notre savoir.

On ne peut pas juger de quelqu'un uniquement sur ses actions. Il faut connaitre les circonstances qui en sont à l'origine.

Les connaissances en elle-même n'ont pas de conséquence, ce sont les comportements qui en résultent qui en ont, et c'est là dessus qu'on décerne le sage du beau parleur.

Je vous l'ai dit, vous confondez connaissance et savoir.
Lorsque vous dites, "je sais", cela exprime plus de force dans votre certitude, que si vous dites "je connais".
Les connaissances sont faillibles, car elles sont personnelles et sujet à interprétation. Pas le savoir !

Parce que tu n'as pas envie que ce soit bien fait, tu as envie de le faire, point final.

Pourquoi faire bien, quand on peut faire mal ? Drôle de philosophe que vous avez !

Pourquoi... ? Parce que j'ai envie de le faire, un point c'est tout !

C'est quand même surprenant depuis que nous échangions sur l'IA, que vous arrivez à la même conclusion que moi.
L'homme ne cherche pas la perfection, il cherche juste à être lui-même, à se réaliser.
Alors pourquoi lui priver ce droit avec l'IA ?

le couple IA + revenu de base est un moyen d'y arriver.

Vous êtes en contradiction avec vos affirmations précédentes.

Si vous recherchez à être vous-même, disons à vous perfectionner, l'IA n'est pas l'outil dont vous avez besoin.
Tout au contraire, elle va devenir une béquille dont vous ne pourrez plus vous passer.

Et le boulot de notre génération est de s'assurer que ce soit le second cas vers quoi l'on tend.

Vous ne connaissez pas cette phrase : "l'enfer est pavé de bonnes intentions" ?

Les erreurs ne manqueront pas, mais ça ne veut pas dire qu'il faille s'en détourner.

Je n'ai jamais dit qu'il faut s'en détourner. Je dis qu'il faut se hâter lentement.
Il ne faut pas agir sans réflexion, mais plutôt dans celui de l'étique et du profit admis par et pour tout le monde.
Parfois, j'ai l'impression que le chercheur est comme l'apprenti sorcier, il expérimente quelque chose et en perd le contrôle. C'est ça que je veut éviter !!!

À l'heure actuelle, comme tu le dis, l'Ia au sens premier du terme est avant tout un concept, certainement pas une réalité.

A vrai dire, je ne sais pas ce qu'est l'intelligence artificielle ou plutôt ce que cela représente dans la tête de certains.
Des capteurs, un petit programme et voilà que l'on parle d'IA. Pour moi, c'est un automate et avec un arduino ou un raspberry, on sait faire cela facilement.

L'IA, le vrai, c'est une intelligence non humaine, qui est capable de répondre à de vrai question, de faire des découverts au même titre qu'un chercheur humain.
Aujourd'hui on amasse des données pour ensuite les exploiter avec des algorithmes, pour dégager de nouvelles règles. Est-ce de l'IA ? Non, juste traiter de l'information.

Et voilà qu'à la télé, on nous montre le robot atlas qui fait des saltos. Ok, mais c'est de la robotique.
Je suis impressionné par la dextérité de ce robot à l'allure humaine. Mais est-ce de l'IA ? peut-être une branche que l'on nomme robotique. En fait, je n'en sais rien.

Mais pour cela, encore faut-il savoir de quoi l'on parle, et c'est encore loin d'être le cas pour beaucoup

Nous aurions dû commencer par définir ce qu'est l'IA. Et aussi ce à quoi elle doit répondre.

Vendre cela comme de l'IA est pour moi de la publicité mensongère.

Qu'est-ce que l'intelligence artificielle ?

Dans un premier temps, on nous présente des automates avec un tas de capteurs et un programme qui va gérer le tout. Pour moi, ce n'est pas l'IA.
Si je prends mon vieux bouquin d'intelligence artificielle, on parle de l'algorithme minimax pour la résolution de jeux. Désolé de le dire, mais je ne considère pas cela comme de l'IA.
Celui des systèmes experts. Oui, un peu plus, encore fait-il savoir traiter l'information et en tirer quelque chose.
Si c'est une juste redistribuer le savoir qu'on lui a inculquer, je réponds non.
C'est donner les moyens à une machine d'appendre par lui-même, de déduire de nouvelles règles, de lui donner une autonomie afin d'être créatif. La différence avec un automate, c'est son champs d'action.

Je n'ai pas de définition propre de ce que représente l'IA. A vrai dire, je ne sais pas trop ce que sait. Je me demande même si la définition qui me vient de l'école est encore d'actualité.

J'essaye de faire ce que je peux pour corriger le tir là où je le peux, question de sagesse justement, et je trouve que c'est déjà bien.

Actuellement, je vous rejoins. Je pense que l'IA, c'est de la poudre aux yeux, juste un effet d'annonce (boston dynamics), rien de plus que de vouloir sensibiliser le public à un avenir merveilleux.

l'IA ne décide de rien, c'est l'homme qui décide.

Pour l'instant, nous sommes très très loin d'une prise de décision de ou par l'IA.
Tout ce que je constate, c'est plutôt la créativité humaine que l'on montre sous un aspect pseudo amusant, ou des robots sont capables de faire des cabrioles, ou courir sur un tapis roulant. Mais ce n'est pas de l'IA, juste de la robotique, enfin disons des automates.

C'est peut être le cas dans ta pensée, mais ça ne se traduit pas assez dans tes écrits pour s'en rendre compte.

En fait, je parle de ce qui me déplaît et non de ce que j'aimerai voir.
La Science fiction a le mérite d'aborder des questions que nous ne nous posons pas ou pire que nous voulons ignorer.
Un monde où la machine est omniprésente et où l'homme n'est là que pour servir la machine. C'est un thème récurrent de la SF.

Inversement, j'aime bien le concept Start Trek. La machine est au service de l'homme. Et l'homme reste le maître de son avenir.
Leur plus grand ennemi sont les borgs, moitié vivant moitié machine.Là, c'est l'inverse, la machine à pris le dessus sur l'individu.
leur aspiration est une forme de collectivisme, ou il n'y a plus qu'une seule forme de pensée.

La seule aspiration de l’androïde Data, est justement de devenir semblable à l'homme.
Cela me rappelle aussi le film de Steven Spielberg, IA. Voire aussi l'homme bicentenaire.
On retrouve le mythe de Pinocchio, la marionnette qui veut devenir humaine.
Comme si l'humain représentait la perfection ultime !

Je suis imprégnés de SF et des dangers qui sont dénoncés.

Les armes autonomes, pour reprendre cet exemple, ce n'est rien de plus qu'une stratégie établie par l'homme et reproduite "bêtement" par la machine.

Vous me parlez d'automates qui ont été programmés par l'homme pour un usage bien précis.
Je ne vous parle pas de cela, mais de machines intelligentes qui sont capables de prendre leur propre décision.

Si vous êtes face à quelque chose que vous ne comprenez pas, quelle sera votre réaction ? Et celle de la machine selon son degré d'intelligence ?

car l'intelligence ne suffit pas pour être responsable.

J'ai tendance à considérer l'intelligence, même celle d'une machine, comme quelque chose qui serait en compétition avec l'homme.
Encore que nous ne savons rien de la prise de conscience d'une machine intelligente, vu que nous ne sommes pas encore capable de la créer.
Mais si nous le pouvions, que croirions obtenir comme forme d'intelligence ?
En fait, il ne s'agit pas de responsabilité mais de survie face à quelque chose que vous ne comprenez pas.

Oui, pour le dernier point je spécule, vu que je n'ai pas lu le livre. Mais comme je ne peux pas le lire, là, tout de suite, je peux pas le confirmer pour cette discussion.

C'est la conclusion qui m'intéresse. 80% des personnes qui ont participé à ce test, ont atteint le maximum de torture sur le cobaye, à savoir une décharge électrique de 450 volt.
A l'époque de Milgram, ce pourcentage était beaucoup plus faible que maintenant. Mais le pire, c'est que ce 80%, à peu de chose près, ce retrouve dans toutes les expériences menées dans le monde entiers.

Sur la base de ce seul argument, on devrait accepter que la notion d'intelligence reste un concept vague sur lequel tout le monde fait ses théories.

C'est un concept que nous ne comprenons pas et où nous spéculons beaucoup. Sur ça, je suis d'accord avec vous.
Je ne sais même pas si l'IA sera capable de tenir ses promesses comme nous semblons le croire.

Par contre, nous avons pris énormément de retard dans la médecine, dans ce qui touche à l'économie, à tout ce qui touche de près l'homme.
Je veux dire que toutes les branches de la science n'évoluent pas à la même vitesse.
J'espère que nous pourrons vivre en bonne santé bien plus longtemps qu'aujourd'hui, résoudre des problèmes comme la surpopulation, la santé, l'alimentation, ...
Plutôt que de savoir que la technologie sera capable de nous fournir quelque chose de futile, mais qui ne viendra pas apporter la moindre amélioration de la condition humaine ou tout le contraire.

Maintenant, si vous me dites que dans un siècle, ou plus, l'IA sera capable de soigner toutes les maladies, d'améliorer les humains qui ont eu la malchance d'obtenir une infirmité, et de résoudre je ne sais quoi d'autre dans le cadre humain, alors je dis foncé.
Mais voilà, nous allons nous consacrer à des choses futiles, juste pour le bien de certain, en oubliant le désir de la grande majorité.
C'est ça qui me dérange !

@+

[Matthieu Vergne]

Je résume les grands thèmes, parce que c'est dur à suivre sinon.

SAVOIR & CONNAISSANCE

Non, je ne parle pas de savoir, mais bien de connaissances. Si je peux t'accorder la différence entre une perspective individuelle (connaissance) et communautaire (savoir), différence que je ne faisais pas avant, il n'en reste pas moins que je parle toujours d'un point de vue individuel, et donc bien de connaissance. Et quand je parle de sagesse, je garde cette même perspective individuelle : la sagesse en tant que cohérence dans les actes d'une personne étant donné les connaissances de cette personne. Je ne parle pas de bon sens, un terme galvaudé qui ne veut dire que ce que chacun veut bien y mettre.

Il semble que ce sur quoi on se différencie le plus est que toi tu prends une perspective communautaire, où la sagesse serait un savoir partagé par l'ensemble de la communauté, et dont les individus devraient donc agir en conséquence. Or, le problème d'une perspective communautaire est que ça tombe très vite dans l'hypothèse foireuse, tout simplement parce que ledit savoir :
- n'est pas forcément connu de tous dans la communauté que tu cibles
- n'est pas forcément interprété de la même manière par tous ceux qui le connaissent
- et par conséquent, si tu demandes à chacun ce que serait ce savoir, tu n'aurais que des réponses hétérogènes dont tu ne pourrais rien tirer sans prendre, par toi-même, l'initiative de te focaliser sur une définition particulière, et donc biaisée.

Une telle notion de savoir, in fine, ne serait que la généralisation des connaissances de certains, et ceux qui ne seraient pas d'accord seraient les moutons noirs de la communauté. Une telle vision normative s'appuie encore sur ceux qui auraient le pouvoir d'imposer leurs idées. C'est une normalisation des idées que de parler d'un savoir qui devrait être partagé par tous. Et étant un individualiste relativiste, je n'adhère pas à une telle vision, je me défend donc de promouvoir ce genre de concepts. Position qui s'est vue renforcée quand j'ai étudié les ontologies (en informatique). L'idée initiale étant de modéliser le "sens commun", notamment pour le Web sémantique, aujourd'hui on parle plutôt de modéliser des concepts et relations pour un objectif donné.

INTELLIGENCE ARTIFICIELLE

Effectivement, utiliser le terme "intelligence artificielle" à l'heure actuelle rend les choses plus confuses qu'autre chose. Comme toi, beaucoup ont une idée très évoluée -même si généralement vague- de ce qu'une IA devrait être. Or, rien de ce qu'on trouve aujourd'hui ne correspond à ces attentes. Et c'est là dessus que s'oriente ma recherche : de préciser le besoin de façon à le comparer de manière précise à ce qu'on couvre à l'heure actuelle avec les technologies étiquetées "IA".

Pour ce qui est de l'état de l'art, l'ensemble des activités que l'on peut voir se centrent sur la notion de performance. Dans tous les cas, on évalue la performance de la machine, en la comparant à l'homme ou à d'autres machines, et on vise à l'augmenter. Cette notion de performance peut se spécialiser au moins de deux manière : l'expertise et l'intelligence.

L'expertise est l'ensemble des informations et méthodes pertinentes pour un domaine, une tâche donnée. D'un point de vue communautaire, pour reprendre ta perspective, c'est l'ensemble des savoirs et pratiques liés à ce domaine ou à cette tâche. D'un point de vue individuel humain, c'est l'ensemble des connaissances acquises et des comportements de l'individu humain dans le cadre de ce domaine ou de cette tâche. Pour un individu artificiel, matériel ou logiciel, c'est l'ensemble des données à disposition de l'individu et de ses prises de décisions, encore une fois dans un domaine donné ou pour effectuer la tâche demandée. Le domaine communément appelé IA a démarré sur une telle perspective, notamment au travers des systèmes experts, qui eux avait au moins le mérite d'être clair quant à leur objectif. Aujourd'hui, l'objectif est le même, dans le sens où on cherche à être performant sur des tâches spécifiques, mais de manière bien moins évidente, vu qu'on essaye de l'être au travers de techniques plus génériques appliquées partout, comme l'apprentissage automatique. Dit autrement, avec quelques technologies communes, on cherche à faire des tas d'individus spécialisés dans des tâches différentes. C'est pourquoi je qualifierait le domaine avant tout comme expertise artificielle, et non intelligence artificielle.

L'intelligence, ou tout du moins l'idée la plus claire que j'ai pu établir sur la base de mes recherches, est la capacité à aquérir de l'expertise. Autrement dit, quelque soit le domaine ou la tâche ciblée, un individu intelligent (pas un ensemble, un seul individu) est capable de trouver des informations et méthodes pertinentes pour celui-ci. Il ne s'agit pas d'être expert en tout, mais de pouvoir devenir expert dans n'importe quoi dès lors que l'individu intelligent y met les ressources nécessaires. Si l'individu est déjà doué dès le départ, nul besoin d'intelligence : un autiste savant ou un Watson d'IBM, où l'individu nait déjà doué pour des tâches données, n'a besoin que de peu d'intelligence. C'est le débat récurrent du "ce programme a été programmé comme ça, il n'est pas intelligent". Toute l'intelligence s'exprime dans l'acquisition de cette expertise. Pour autant, l'apprentissage ne suffit pas : l'expertise ne consiste pas à reproduire des comportements qui se font déjà, il faut aussi établir qu'ils sont pertinents pour le domaine ou la tâche ciblée. Or, dans l'apprentissage automatique, ce jugement de pertinence est fait par l'être humain, qui décide de la base de donnée à utiliser comme base d'apprentissage. La machine se contente de chercher à reproduire ce qu'elle y observe. Tout au plus, c'est l'image du débutant qui fait ce que l'expert lui demande de faire. Le débutant peut être très bon, ça ne veut pas dire qu'il a vraiment compris le truc.

Depuis ses débuts, le domaine de l'IA est donc principalement de l'EA (expertise artificielle). Pour autant, certains travaillent sur l'IA à proprement parler, notamment ceux qui bossent en intelligence artificielle générale (IAG), à ne pas confondre avec l'intelligence artificielle forte qui prend une position philosophique plus forte (machine consciente). L'IAG, à l'heure actuelle, consiste en des mesures et expériences pour mesurer le niveau de performance d'un individu dans un ensemble le plus vaste possible de domaines. Alors qu'habituellement en IA on mesure la performance d'une machine sur des tâches ciblées, puis on répète l'expérience sur d'autres tâches, la machine étant à chaque fois remise à zéro (on évalue donc des individus différents), l'IAG se focalise sur la mesure d'un seul individu sur l'ensemble des tâches. C'est donc à l'heure actuelle plus la généralité de la technologie qui est évaluée, et non sa capacité à prendre en charge de nombreux domaines en même temps, et l'IAG cherche à corriger cela. Si pour moi c'est un bon début (car ce n'est qu'un début, très peu de gens font de l'IAG comparé au reste), la cible n'est pas la bonne : on évalue le niveau d'expertise sur l'ensemble des tâches, et non la capacité à augmenter ce niveau. C'est comme partir du principe qu'être intelligent veut dire être bon partout, or si c'était le cas personne ne considérerait qui que ce soit comme intelligent. Le modèle d'intelligence est typiquement le major de promo : il ne connaît pas tout dès le départ, mais il est capable d'intégrer rapidement les connaissances et méthodes qu'on lui enseigne pour les restituer à l'examen. C'est donc son acquisition rapide d'expertise qui montre son intelligence.

L'IA ET NOUS

Pour en revenir à notre discussion, quand je dis que l'IA n'est pas celle qui décide, je le dis à la fois pour ce qu'on fait maintenant (EA+IAG) et pour ce que j'espère qui sera fait plus tard (IA au sens d'acquisition d'expertise). Dans tous les cas, il s'agit de demander à la machine de devenir performante dans un, plusieurs, voire un vaste ensemble de tâches. Mais cela ne présuppose pas qu'on la laissera décider des tâches les plus pertinentes où l'appliquer. Bien au contraire : on veut qu'elle soit performante dans toutes les tâches qui nous intéresse, ou à défaut dans toutes les tâches possible de façon à ce que, le jour où on se décidera, elle sera performante là où on lui demandera. La question cruciale est alors celle-ci : et si je lui demande d'être performante pour décider des tâches sur lesquelles la faire décider à ma place ? Et bien dans ce cas la machine, si elle est vraiment performante, saura déjà que pour cela, il lui faut connaître les objectifs à satisfaire pour décider des critères de jugement. Or ceux-ci dépendent des avis de chacun, il n'y a pas d'absolu. Quand bien même on lui donnerait un objectif général absolu (e.g. rendre l'humanité heureuse), une machine performante saura qu'interpréter un objectif aussi vague nécessite de connaître la perspective de chacun, et donc de s'adapter au contexte. En bref, elle passera son temps à demander à chacun son avis, repoussant la décision à plus tard. Et quand bien même elle arriverait à obtenir l'avis de toute l'humanité(*), elle ne pourra que constater qu'il n'y a pas de réponse du fait des opinions contradictoires. Ce n'est que si son utilisateur lui demande finalement de se focaliser sur telles ou telles opinions qu'elle pourra se décider... sauf que la décision aura, encore une fois, été faite a priori par l'être humain, qui aura décidé de privilégier des avis qu'il juge lui-même pertinents. Ce ne sera en rien le fait de la machine.

Et si elles ont au moins le mérite de divertir et d'amener des questions intéressantes, les références de science fiction ne sont pas à même d'apporter des réponses : on fait là de l'anthropomorphisme. Les fables de la Fontaine sont bourrées d'animaux qui parlent, pourtant quiconque craignant que les animaux se mettent à parler et à faire de nous leurs esclaves serait traité comme, au mieux, un doux rêveur ou, au pire, un malade mental. De telles craintes ne voient le jour que parce qu'on maîtrise mal les concepts sous-jacents, et comme l'IA reste une boîte noire pour beaucoup, ça n'a rien d'étonnant que certains déboulent avec des théories fumeuses du style singularité technologique. Mais si c'est normal, ça ne les rends pas pertinentes pour autant : la personne informée sait que, avant d'établir des théories, on clarifie les concepts. Faire le premier sans le second, ce n'est rien de plus que de la rhétorique, et pas la meilleure.

Pour que la machine se mette à décider par elle-même, il faut qu'elle prenne l'initiative, et donc qu'elle soit capable de refuser d'agir comme son concepteur/utilisateur le demande. On touche là à la notion de volonté, qui n'a rien à voir avec la notion d'intelligence. S'il est en théorie concevable d'implémenter une volonté dans une machine (le système de décision doit tourner en circuit fermé, sans s'appuyer sur des ordres extérieurs), cela n'est nullement un objectif dans le domaine de l'IA, et cela reviendrait à dire qu'on souhaite que l'outil devienne son propre utilisateur. Or, à part une vision excessivement anthropomorphique qui nous pousserait à vouloir donner des droits à la machine, et donc à lui donner la capacité d'en user, je ne vois guère de situation qui nous pousserait à le faire. Si tu veux affirmer tes craintes d'une IA décidant à notre place, c'est les projets d'implémentation d'une telle volonté qu'il te faut critiquer. Mais en ce qui me concerne, je ne connais aucun projet de ce type.

(*) Je passe sur le problème pourtant majeur de la capacité de chacun à exprimer son opinion, comme les bébés, les autistes, ou même monsieur tout le monde qui ne s'est jamais posé la question de manière poussée, et donc est incapable de donner une réponse précise de ce qui le rendrait heureux.