Discussion :

[benwit]

Bonjour,

Je lisais dernièrement que les machines sont loin "d'égaler" l'homme dans la mesure où elles sont incapables de gérer l'imprévu (Ce que fait beaucoup mieux l'homme et c'est pourquoi, d'après l'auteur, on devrait davantage travailler sur la synergie homme/machine)

D'après d'autres, une même idée revient sous différentes formes (Les ordinateurs restent des machines de Turing / Les programmes sont déterministes, ...)

Généralement, on en conclu donc que d'un côté, on a des machines de Turing purement déterministe (A), de l'autre, nous avec notre libre arbitre (B), et qu'il y a quelque chose qui nous sépare ?
On postule alors que tant qu'on ne trouvera pas ce qu'est réellement B, on ne pourra pas concevoir de machine de type B.

Ce sont des faits et je pense que presque personne ne les contestent.

En y réfléchissant un peu, je prend le problème à l'envers ...

Qu'est ce qui fait que nous, être humain, pouvont réagir à l'imprévu ?
D'ailleurs, n'y a t'il pas des cas où nous sommes totalement désemparé face à l'imprévu et que nos cerveaux "plantent" comme la machine ?
Peut être n'est-ce qu'une question de limite, de taille critique ?
On dit souvent que l'on peut réagir face à l'imprévu par notre expérience, mais qu'est-ce donc sinon des connaissances ?
Je pense qu'on est actuellement supérieur à la machine parce qu'un dispose d'une base de connaissance sémantique infiniment plus riche et en contant enrichissement.
Qu'un programme face à l'imprévu choisisse une solution plutôt qu'une autre, cela nous paraît déterministe. Chez l'être humain, beaucoup moins ... On ne doit pas aimer l'idée que notre comportement est très prévisible même si c'est souvent le cas.

En suivant mon point de vue, si on était de type A (des machines de Turing) dans notre fonctionnement de bas niveau ? mais d'une complexité telle qu'on ne s'en rend pas compte ? que des comportements indéterministes et/ou qui nous paraissent indéterministes émergent de cette complexité ?


Pour résumer ces pensées "lives" :

Peut t'on faire l'analogie Machine/Humain -> Deterministe/Indeterministe ?

L'indéterminisme peut t'il émergé par la complexité du déterminisme ?

Malgré sa perception contraire, l'être humain pourrait il n'être (à très bas niveau) qu'une machine de Turing ?

As t'on essayé et comment s'y prend t'on pour gérer l'inconnu avec des machines ?

Comment va s'y prendre la robotique ? Par une modélisation de l'environnement ?

Ne croyez vous pas que si on ne passe pas par une base sémantique, on n'y arrivera pas ? Y a t'il des travaux sur ce sujet (réseau sémantique, autre ... ?)


Voilà, ça fait beaucoup de questions ... J'espère que vous aurez quelques réponses à proposer ...
Bon, le sujet et tendancieux et à la limite de l'informatique pour certains ...
D'autres diront que c'est un sujet de discussion philosophique à mettre dans la taverne. J'ai choisi de le poster ici car je crains que ça parte trop dans le discours de comptoir là bas. J'attend de vous des idées de développeurs, un peu d'argumentation si possible, des liens ... (sinon abstenez vous)

[Furikawari]

Je mets pas mal d'espoir dans tout ce qui tourne sur la représentation des connaissances car, comme tu l'as dit, beaucoup de nos capacités semblent venir de notre expérience.

Une faculté importante de l'être humain est sa capacité d'abstraction. Le fait d'être capable de retenir d'une situation donnée certaines caractéristiques qui permettent de dire "cette situation ressemble à ... et dont je peux essayer d'appliquer ...". D'où l'importance, à mon avis, de la représentation des connaissances.

Après sur le coté déterministe ou non... Je pense que là le débat est purement philosophique, et je ne suis même pas certain qu'on puisse parler de non-déterminisme pour l'être humain. Si on connaissait tout le vécu d'une personne, pourrait-on prévoir sa réaction face à une situation donnée ? (je m'arrête là car je suis à peu près certain que des gens beaucoup plus compétents en la matière débattent de cette question par ailleurs ).

De façon générale je pense que la clef se trouve dans l'apprentissage et la représentation des connaissances.

[pseudocode]

Peut t'on faire l'analogie Machine/Humain -> Deterministe/Indeterministe ?

Je dirais plutôt Rationnel/Irrationnel.

Par conséquence, les machines étant issues de la Science qui est par nature rationnelle, il n'y a aucune chance d'arriver a égaler les deux comportements.

Ce qui n'est pas forcément un mal : l'hyper-rationnalité des machines pouvant servir de garde-fou aux comportements irrationnels des humains.

[mr_langelot]

Peut t'on faire l'analogie Machine/Humain -> Deterministe/Indeterministe ?

L'indéterminisme peut t'il émergé par la complexité du déterminisme ?

On a aussi des côtés déterministes. Je vois une jolie fille dans la rue, je ne peux pas m'empêcher de la regarder. L'indeterminisme est d'ailleurs le seul fait que nous ne possédons pas le modèle permettant de faire correspondre une sortie à une ou plusieurs entrées données.

Malgré sa perception contraire, l'être humain pourrait il n'être (à très bas niveau) qu'une machine de Turing ?

On réagit quand même d'une certaine manière en fonction de certains stimulus en fonction de notre éducation, de notre histoire, de nos instincts, ...

Je modérerais ma phrase précédente ou j'ajouterais à ça d'ailleurs la notion de chaos puisque des variations minimales de certains paramètres peuvent nous faire réagir différemment. Selon mon humeur et la position de la lune ou autre, je pourrais certainement réagir d'une manière différente de l'habitude.

As t'on essayé et comment s'y prend t'on pour gérer l'inconnu avec des machines ?

C'est un peu comme nous. On peut toujours nous simplifier à des instincts primordiaux et on réagit à différentes situations à travers ce prisme.

Comment va s'y prendre la robotique ? Par une modélisation de l'environnement ?

La robotique se construit déjà en réaction des stimulis. Un robot qui a des capteurs de contact fera demi-tour dès qu'il touchera un obstacle. Un robot qui a un capteur de luminosité ira ou s'éloignera de la lumière (comme un insecte qui vient systématiquement se faire griller sur mon halogéne).
C'est toute cette perception de l'environnement qui fait évoluer la robotique et qui créera un indetérminisme apparent comme tu l'as dit.

Ne croyez vous pas que si on ne passe pas par une base sémantique, on n'y arrivera pas ? Y a t'il des travaux sur ce sujet (réseau sémantique, autre ... ?)

[benwit]

@Furikawari,

Pour la représentation des connaissances, connais tu des états de l'art dans ce domaine ?

Comme tu le dis, la capacité d'abstraction est une faculté importante.
Un jour, je m'étais fait la réflexion que l'abstrait ne vient pas tout seul, l'abstrait naît sur du concret. Tiens, un exemple. Puis un autre. Puis un 3°. Tiens, il y a des similitudes. Puis un autre un peu comme le deuxième mais pas tout a fait ...
Bref, c'est jouer aux cubes... On identifie des caractériques communes (les rouges ensemble, les bleus ensemble) et on fait des ensembles !
Connaissez vous des programmes, des algos qui procèdent ainsi ?

Que veux tu dire par "je ne suis même pas certain qu'on puisse parler de non-déterminisme pour l'être humain" ?


@pseudocode;

Intéressant aussi cette analogie ? Est-ce à sous entendre que les êtres humains seraient des êtres irrationnels ?
Mais alors, la machine, la science par nature rationnelle serait née de nous les irrationnels ? J'ai quand même du mal à voir ce que ce terme recouvre ...

Autant, pour le rationnel, je me représente un "chemin" (on retrouve l'ordre / le déterminisme n'est-ce pas ?), autant pour l'irrationnel, j'ai du mal

Je vais donc prendre un exemple de truc irrationnel. Tiens, l'astrologie par exemple. Ils veulent nous faire croire que les astres là haut ont une incidence sur notre comportement ? Et comment s'y prennent ils ?
Ils essayent bien de construire un raisonnement n'est ce pas ? "Si mars passe dans ..."
Alors qu'est-ce qui différencie ce pseudo raisonnement d'un raisonnement scientifique ? des hypothèses fausses ? des enchaînements faux ? ou un buffer overflow

C'est également comme la superstition. Parce qu'un jour, quelqu'un a remarqué qu'il avait croisé un chat noir avant chacune des catastrophes qui lui tombait dessus, il en a déduit que ça portait malheur.
Même si ce n'est étayé en rien, n'est pas reproductible, il a bien fait une abstraction ? ce n'est pas totalement fortuit ?
J'ai l'impression qu'on retombe sur l'idée d'abstraction qui poussée un peu trop loin partirait dans les choux ...

Du coup, ça me fait penser à ces tentatives de programmes de déduction que sont les systèmes experts. J'avais lu qu'en décrivant une voiture rouillée à un système expert sur la santé, il en avait déduit qu'elle avait la rougeole

Peux t'on faire cette analogie entre ces deux exemples ?

[Furikawari]

Rapidement pour la partie rationnel/irrationnel : pour moi ça n'a pas de valeur car ça implique un jugement de valeur (en quoi une décision est-elle plus rationnelle qu'une autre ? Et si je change les données alors ce qui était irrationnel peu devenir rationnel ?).

Pour la représentation des connaissances j'ai un peu d'expérience sur ce qui tourne autour du "web sémantique", comme par exemple les ontologies. Ces approches me semblent porteuses d'espoir (je ne sais pas si le terme est bien choisi...) pour tout ce qui touche à l'inférence de connaissance, et, pourquoi pas, être capable d'amener cette capacité à généraliser à partir de connaissances structurées.

Un jour, je m'étais fait la réflexion que l'abstrait ne vient pas tout seul, l'abstrait naît sur du concret. Tiens, un exemple. Puis un autre. Puis un 3°. Tiens, il y a des similitudes. Puis un autre un peu comme le deuxième mais pas tout a fait ...
Bref, c'est jouer aux cubes... On identifie des caractériques communes (les rouges ensemble, les bleus ensemble) et on fait des ensembles !
Connaissez vous des programmes, des algos qui procèdent ainsi ?

C'est un peu l'idée derrière toutes les méthodes basées sur l'apprentissage : faire manger des exemples pour régler les paramètres puis faire passer les cas concrets en espérant qu'ils ressemblent suffisamment aux exemples (je sens que les fans de l'apprentissage vont haïr cette présentation ).

[benwit]

L'indeterminisme est d'ailleurs le seul fait que nous ne possédons pas le modèle permettant de faire correspondre une sortie à une ou plusieurs entrées données.
On réagit quand même d'une certaine manière en fonction de certains stimulus en fonction de notre éducation, de notre histoire, de nos instincts, ...

Je modérerais ma phrase précédente ou j'ajouterais à ça d'ailleurs la notion de chaos puisque des variations minimales de certains paramètres peuvent nous faire réagir différemment. Selon mon humeur et la position de la lune ou autre, je pourrais certainement réagir d'une manière différente de l'habitude.

On en revient souvent à cette idée que les interactions sont tellement nombreuses qu'on ne peut pas déterminer où ça va (même si ce n'est pas un hasard pour autant) ...

Je pense que l'indéterminisme est une méconnaissance (on ne connaît pas toutes les causes et on ne les connaîtra probablement jamais, sans parler de la combinatoire énorme des interactions)

Affirmer que leur côté purement déterministe (à telle entrée, elle produit telle sortie) suffit à prouver que les machines ne seront pas capable d'atteindre nos capacités, je n'adhère pas. C'est oublier la notion d'émergence, non ?

Et vous, qu'en pensez vous ?

[benwit]

Rapidement pour la partie rationnel/irrationnel : pour moi ça n'a pas de valeur car ça implique un jugement de valeur (en quoi une décision est-elle plus rationnelle qu'une autre ? Et si je change les données alors ce qui était irrationnel peu devenir rationnel ?).

Je suis assez d'accord avec ça. Mais on repousse le problème ? Comment se forge t'on nos valeurs ? Est-ce là aussi par apprentissage ? Est-ce par copie sur nos parents, sur notre communauté, notre pays ... ?

C'est un peu l'idée derrière toutes les méthodes basées sur l'apprentissage : faire manger des exemples pour régler les paramètres puis faire passer les cas concrets en espérant qu'ils ressemblent suffisamment aux exemples

Tu fais allusion aux réseaux de neurones ?
Le système règle ses paramètres avec les exemples ... On peut donc imaginer qu'à partir d'un certains nombres d'exemples, il s'est stabilisé. Est-ce le cas ?
Et alors, si on représente un cas atypique, comment est t'il traité ? Comme une erreur ? Est-il rejeté ?
Nous, même si tout le monde n'en est pas capable, on peut remettre en cause notre généralisation non ? Connaissez vous des programmes qui apprenant sur des exemples pourraient procéder de même ?

[Davidbrcz]

Un jour, je m'étais fait la réflexion que l'abstrait ne vient pas tout seul, l'abstrait naît sur du concret. Tiens, un exemple. Puis un autre. Puis un 3°. Tiens, il y a des similitudes. Puis un autre un peu comme le deuxième mais pas tout a fait ...
Bref, c'est jouer aux cubes... On identifie des caractériques communes (les rouges ensemble, les bleus ensemble) et on fait des ensembles !
Connaissez vous des programmes, des algos qui procèdent ainsi ?

<HS>
C'est (à 2/3 détails près) la théorie de la connaissance de Hume.
</HS>

[pseudocode]

Intéressant aussi cette analogie ? Est-ce à sous entendre que les êtres humains seraient des êtres irrationnels ?
Mais alors, la machine, la science par nature rationnelle serait née de nous les irrationnels ? J'ai quand même du mal à voir ce que ce terme recouvre ...

individuals (or organizations) are often called rational if they tend to act somehow optimally in pursuit of their goals

Bref, est rationnel ce qui agit de manière optimale pour atteindre un but. Le terme "optimal" sous entend d'avoir un certain nombres de solutions possibles et une unité de mesure.

Cela ressemble bien au comportement actuels d'un programme informatique.

Mais que se passe-t-il si on ne connait pas de solutions ? Ou en l'absence d'unité de mesure ?

Et bien, un individu rationnel, tout comme un programme informatique, ne fait rien : il ne sais pas "inventer" une solution, ni choisir spontanément entre plusieurs.

Ajouter une dose d'irrationalité permet d'agir dans ces situations, meme si c'est de manière non optimale ou si ca ne permet pas d'atteindre le but. Pour un humain, ca consiste a tenter quelque chose "au pif" dans l'espoir de débloquer la situation... sans aucune certitude de réussite.

[benwit]

Ajouter une dose d'irrationalité permet d'agir dans ces situations, meme si c'est de manière non optimale ou si ca ne permet pas d'atteindre le but. Pour un humain, ca consiste a tenter quelque chose "au pif" dans l'espoir de débloquer la situation... sans aucune certitude de réussite.

A ton avis, est-ce qu'on pourrait dire que les heuristiques, c'est le << tenter quelque chose "au pif" >> de la machine ?

On peut certes dire qu'une heuristique (pour ce que j'en comprend) est applicable si certaines conditions sont réunies mais n'en est il pas de même pour le "pif" humain ?

[Invité]

Qu'est ce qui fait que nous, être humain, pouvont réagir à l'imprévu ?

La réaction à l'imprévu est une improvisation.
C'est un coup de dé entre la généralisation du cas face auquel nous somme confronté et une adaptation dans le sens ou nous somme près à faire un compromis.
Perdre est aussi une face de la pièce de l'évolution de l'intelligence, d'où il sais encore tirer profit si ça ne lui est pas fatal.

[Invité]

A ton avis, est-ce qu'on pourrait dire que les heuristiques, c'est le << tenter quelque chose "au pif" >> de la machine ?

On peut certes dire qu'une heuristique (pour ce que j'en comprend) est applicable si certaines conditions sont réunies mais n'en est il pas de même pour le "pif" humain ?

Pour moi une heuristique est quand même censée être quelque chose de plus "fiable" que le pif humain (qui, toujours selon moi, ne s'apparente a autre chose qu'un choix totalement aléatoire, plouf-plouf je choisis cette solution !). L'heuristique est quand même censée présenter une adéquation au problème (plus ou moins importante et proche de la réalité certes)

[Matthieu Brucher]

Peut t'on faire l'analogie Machine/Humain -> Deterministe/Indeterministe ?

L'indéterminisme peut t'il émergé par la complexité du déterminisme ?

Malgré sa perception contraire, l'être humain pourrait il n'être (à très bas niveau) qu'une machine de Turing ?

As t'on essayé et comment s'y prend t'on pour gérer l'inconnu avec des machines ?

Comment va s'y prendre la robotique ? Par une modélisation de l'environnement ?

Ne croyez vous pas que si on ne passe pas par une base sémantique, on n'y arrivera pas ? Y a t'il des travaux sur ce sujet (réseau sémantique, autre ... ?)

Déterministe = même entrées -> même sorties. L'humain ne rentre pas dans ce cadre, mais la machine non plus. On a de plus en plus de réseaux de décision probabilistes, comme l'humain d'une certaine manière, et ce n'est pas déterministe.

L'indéterminisme ne peut découler de la complexité du déterminisme si on part de la définition du déterminisme. En revanche, si on en connaît pas toutes les raisons causant une décision, on peut parler d'indéterminisme, car la ou les variables cachées peuvent changer pour des entrées connues identiques.

Aucune idée, je ne raisonne pas trop en ces termes

Onthologie, comparaison entre l'expérience et l'état de la nouveauté (ça se fait de plus en plus dans les jeux de stratégie), ...

Pour la robotique, on va faire comme d'habitude : un bon réseau de décision probabiliste/bayesien, avec une base de connaissance, ... Bref ce qu'on sait faire de mieux actuellement.

[benwit]

Pour moi une heuristique est quand même censée être quelque chose de plus "fiable" que le pif humain (qui, toujours selon moi, ne s'apparente a autre chose qu'un choix totalement aléatoire, plouf-plouf je choisis cette solution !). L'heuristique est quand même censée présenter une adéquation au problème (plus ou moins importante et proche de la réalité certes)

Effectivement si on voit le "pif humain" comme le plouf-plouf des jeunes joueurs.

Mais on peut également voir le "pif humain" comme du feeling, de l'instinct, de l'expérience plus ou moins consciente et là, ça se rapproche quand même d'une adéquation (implicite) avec le problème, non ?

[benwit]

Déterministe = même entrées -> même sorties.
L'indéterminisme ne peut découler de la complexité du déterminisme si on part de la définition du déterminisme. En revanche, si on en connaît pas toutes les raisons causant une décision, on peut parler d'indéterminisme, car la ou les variables cachées peuvent changer pour des entrées connues identiques.

Avec ta définition du déterminisme, peut on faire celle là pour l'indéterminisme :
Indéterministe = même entrées -> différentes sorties.

Dès lors, comment expliquer ceci ?
Cela ne choque t'il pas le principe de causalité ?
Y a t'il vraiment intervention d'un hasard ?
Ou est-ce simplement la présence de variables cachées comme tu dis ? Et ces variables cachées, n'est-ce pas qu'elles pourraient expliquer si on les connaissaient ? L'indéterminisme ne serait alors qu'une facette de notre ignorance ?

[Invité]

Effectivement si on voit le "pif humain" comme le plouf-plouf des jeunes joueurs.

Mais on peut également voir le "pif humain" comme du feeling, de l'instinct, de l'expérience plus ou moins consciente et là, ça se rapproche quand même d'une adéquation (implicite) avec le problème, non ?

Certes, j'avais également envisagé cette possibilité, même si pour moi le "pif" se rapporte plus à du vrai hasard. Ceci étant, et ce qui pose comme souvent un problème, c'est qu'au final le "pif" humain c'est un peu des deux : prendre des décisions même si l'on ne sait pas du tout si elles nous emmènent dans la bonne direction, mais aussi dans certaines situations choisir de façon totalement aléatoire sans se baser sur le moindre processus rationnel ou logique, comme vous préférerez l'appeler. Comme souvent, l'humain est un mélange de différentes approches, dont le choix est dépendant des individus, dépendant des situations, dépendant de nombreux paramètres parfois inconnus

[Matthieu Brucher]

Avec ta définition du déterminisme, peut on faire celle là pour l'indéterminisme :
Indéterministe = même entrées -> différentes sorties.

Dès lors, comment expliquer ceci ?
Cela ne choque t'il pas le principe de causalité ?
Y a t'il vraiment intervention d'un hasard ?
Ou est-ce simplement la présence de variables cachées comme tu dis ? Et ces variables cachées, n'est-ce pas qu'elles pourraient expliquer si on les connaissaient ? L'indéterminisme ne serait alors qu'une facette de notre ignorance ?

Non, ça ne me choque pas. Indéterminisme, c'est le fait que pour les mêmes entrées, on ne soit pas certain de la sortie. Mais rien n'empêche de respecter la causalité.
Les variables cachées, ça ne suffit pas, il y a toujours une prise de risque, un facteur aléatoire dans la décision humaine, et c'est ce qui est modélisé par un réseau probabiliste.

[Invité]

Non, ça ne me choque pas. Indéterminisme, c'est le fait que pour les mêmes entrées, on ne soit pas certain de la sortie.

Mais cela peut arriver sans que la condition "mêmes entrées mêmes sorties" soit violée.

Par exemple si l'on n'est pas capable de calculer la sortie à partir de l'entrée (processus numérique instable), ou si on ne peut mesurer l'entrée avec assez de précision (sensibilité aux conditions initiales).

On se retrouve alors avec des processus déterministes qui se comportent de façon indéterminée...

Inversement, on a des processus parfaitement indéterministes (stochastiques) qui, par le biais des lois statistiques, se comportent de façon "quasi déterminée" (voire complètement déterminés si on travaille sur des caractéristiques assez agrégées).

Je ne suis pas certain que la notion de déterminisme aide à la compréhension, ici... (ceci vaut aussi pour la notion de rationnalité, soit dit en passant)

Francois

[Matthieu Brucher]

Oui, tu as raison, ça dépend qui on considère déterminé et non déterminé