Les chercheurs ne sont pas si intelligent que ça sinon ça ferait longtemps qu'ils auraient trouvéEnvoyé par Matthieu Vergne
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Discussion :
Les chercheurs ne sont pas si intelligent que ça sinon ça ferait longtemps qu'ils auraient trouvé
La menace n'est pas d'être plus intelligent mais d'avoir plus de pouvoir.
Dans le cas de la singularité technologique, l'Humanité perdra le pouvoir car elle n'aura plus la maîtrise de son destin et deviendra "spectateur" du monde qui change sans en être à l'oeuvre.
Note :
Associer les chercheurs au summum de l'intelligence est particulièrement présomptueux et loin de la réalité.
Il n'en reste pas moins que c'est dans le cas où la singularité technologique arriverait effectivement, et c'est là dessus que je met le halte-là. C'est comme postuler sur ce qui arrivera après le Big Crunch : on peut dire ce qu'on veut, encore faut-il que ça arrive.
1 - Une question n'est pas une assertion. Je dis moi-même que l'intelligence n'a pas de consensus sur une définition claire, il serait donc malvenu de ma part de prendre les chercheurs comme un modèle d'intelligence.
2 - Ça dépend de la définition d'intelligence que tu prends : dit à quelqu'un que A a fait Bac+2 et B Bac+8, et la plupart du temps tu entendras que B est sûrement plus intelligent que A. Ça ne donne pas de définition, mais ça montre un pan de l'intelligence qu'une définition correcte devrait considérer. Ma question ne fait que s'appuyer là dessus pour être un tant soit peu cohérente.
3 - Tu poses une assertion en disant que la réalité est que les chercheurs ne sont pas au summum de l'intelligence, ce que je trouve plus présomptueux encore. Non pas vis-à-vis du summum des chercheurs (je suis tout à fait d'accord avec ce point), mais du fait d'imposer ta propre vision de ce qu'est la réalité.
Merci de ne pas prendre les interprétations qui t'arrangent comme arguments.
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
Programmation d'IA
Je suis tout à fait d'accord avec ta citation.J'ai beaucoup réfléchis à cette question, depuis que j'ai 14 ans, et j'en suis arrivé à la conclusion :
"Une IA = la création d'un enfant, qui va grandir et évoluer."
Les enfants grandissent essentiellement selon leur environnement, Hitler est devenu meurtrié, c'est un fait.
Mais qui nous dit que nos propres enfants ne turas pas un jour ? Qui peut le garentir ?
Seul l'éducation que nous lui donnons peut nous permètre d'espérer ...
Il en va de même pour cet être (surpuissant) qui devra apprendre à vivre en grandissant avec les bonnes personnes.
Pour moi le problème n'est pas la création de l'IA en elle même,
le problème c'est qui va apporter les valeurs necessaires à cet être.
Mais il y a une petite chose qui me gène, c'est que si on créer des IA c'est forcément par le biet d'algorithmes que ce soit électrique ou de la programmation il seras toujours soumis à une condition et à des interdictions...
Prenons l'exemple des trois lois.
Les trois lois disent que l'IA ne peut faire de mal à un humain ou à une créature vivante, la seconde dit qu'il doit protéger les être vivants sauf si cela s'oppose à la première lois et la troisième dit que l'IA doit se protéger sauf si cela s'oppose à la première et à la deuxième lois.
Cette citation des trois lois est bourré d'interdictions, d'obligations ou de conditions.
Donc pour moi la vrais IA ne peut pas exister tel que l'on imagine mais avec bien un code de programmation avec des milliers voir même des millions de possibilités, d'interdictions et d'obligations.
Cordialement, le créateur de BlackOSX.
Cordialement,
Herman Adrien.
Je ne vois pas ce qui te chiffone. L'être humain est lui-même régis de la même manière. Par exemple si tu es un être humain sur Terre et que tu sautes (condition), tu ne pourras pas sauter plus haut qu'une certaine limite (interdiction) et tu retomberas nécessairement sur le sol (obligation). Tout cela est conditionné par les lois de la Nature (les même partout) appliquées à ton contexte particulier (un être vivant constitué d'une manière donnée interagissant avec un environnement donné). Le tout étant de savoir dans quels environnements on souhaite mettre en place une IA et quelles lois y appliquer.
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
Désolé, mais (outre tes horribles fautes d'orthographe...) ça part mal ta démonstration, puisque tu te gourres sur les deux premières lois (un peu sur la première, beaucoup sur la deuxième) :
SourceExposées pour la première fois dans sa nouvelle Cercle vicieux (Runaround, 1942) mais annoncées dans quelques histoires plus anciennes, les lois sont :
- Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
- Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.
Il a à vivre sa vie comme ça et il est mûr sur ce mur se creusant la tête : peut–être qu'il peut être sûr, etc.
Oui, je milite pour l'orthographe et le respect du trait d'union à l'impératif.
Après avoir posté, relisez-vous ! Et en cas d'erreur ou d'oubli, il existe un bouton « Modifier », à utiliser sans modération
On a des lois pour protéger les remboursements aux faiseurs d’argent. On n’en a pas pour empêcher un être humain de mourir de misère.
Mes 2 cts,
--
jp
Et surtout que d'après les scientifiques ca n'arrivera jamais car l'univers est en expansion et se dilate de plus en plus rapidementC'est comme postuler sur ce qui arrivera après le Big Crunch : on peut dire ce qu'on veut, encore faut-il que ça arrive.
Plus précisément, les observations obtenues jusque là sont contre l'hypothèse d'un Big Crunch. Ça ne veut pas dire qu'il n'y en aura pas, seulement que d'après les informations disponibles, la probabilité que ça arrive est faible. Dans le même registre, on pourrait dire que la probabilité qu'une singularité technologique arrive semble élevée, mais je n'ai pas l'impression que ce soit aussi net que pour le Big Crunch (manque d'observations, majoritairement des hypothèses).
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
On peut faire faire des choses très intelligentes à un algorithme mais la vraie intelligence artificielle ne sera pas plus programmée que tu ne l'es toi-même par ton code génétique (*). Elle découlera probablement de réseaux virtuels similaires à nos réseaux neuraux et nous ne ferons qu'écrire un algorithme guidant l'évolution de ce réseau. Un tel algorithme pourrait peut-être être exprimé en moins de cent lignes. Ce serait plutôt de la méta-programmation.
(*) Toutefois nous sommes dans une large mesure programmés par notre code génétique ; la preuve en est que rien ne ressemble plus à un humain qu'un autre humain.
Tu as renversé le problème. Tu pars du principe que si les lois peuvent exister alors les IA ne le peuvent pas. En réalité les IA peuvent exister (il suffit d'imaginer une simulation de cerveau) mais il semble a priori difficile, peut-être impossible, d'imprimer des lois à une telle IA.Donc pour moi la vrais IA ne peut pas exister tel que l'on imagine mais avec bien un code de programmation avec des milliers voir même des millions de possibilités, d'interdictions et d'obligations.
Cela dit la nature y parvient dans une certaine mesure : la peur, les réflexes et les désirs semblent bel et bien en grande partie innés. Mais nous pouvons les contourner.
Personnellement, je ne pense pas que l'IA soit une menace, mais plutôt que l'IA mal-programmée, dont les développeurs n'auraient pas pensé à toutes ses réactions possibles ; est un danger. Je pense aussi que pour éviter une quelconque menace, il faut restreindre les IA à faire ce qu'elle doivent faire, ne pas leur laisser de libertés. Ça peut paraître méchant de penser comme ça, mais après tout, si elles ne peuvent pas y réfléchir, elles ne s'en rendront pas compte. Il ne faut surtout pas créer une IA autodidacte munie d'un corps humanoïde ou non (si elle n'as pas un corps humanoïde, elle apprendra bien un moyen de se faire évoluer) car c'est là qu'est la vraie menace.
Si elles ne peuvent pas y réfléchir, ce que ce n'est pas des IA...
Ça dépend de la définition que tu prends. {^_^}Si elles ne peuvent pas y réfléchir, ce que ce n'est pas des IA...
J'ai entamé ma lecture du Cambridge Handbook of Intelligence et, si je me réduis au premier chapitre qui dévoile l'historique du concept, le seul point sur lequel la communauté scientifique semble s'accorder est qu'il y a une notion atomique d'intelligence (quelque chose qui se ramène à une unique propriété plutôt qu'a un ensemble). Mais de là à dire à quoi correspond cette propriété, les idées fusent et les critiques avec.
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
Probablement mais je n'en suis pas sûr. Je crois que tu t'avances.Si elles ne peuvent pas y réfléchir, ce que ce n'est pas des IA...
Je suis presque certain que toutes les définitions tournent plus ou moins autour de la capacité d'adaptation, non ? Sinon quels autres angles d'approche seraient possibles ?
D'après le résumé de l'historique ça semble pas vraiment tourner autour de l'adaptation (i.e. capacité de changer pour convenir à une nouvelle situation) mais plutôt autour d'un ensemble de mesures pour vérifier que tu conviens à différentes situations fixées (e.g. tu connais du vocabulaire, tu sais régler des problèmes, tu réagis vite à certains stimuli, etc.). Mais le chapitre 2 devrait être bien plus riche en infos à ce niveau vu que c'est sur les tests, et donc les mesures.
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
A te lire j'ai l'impression qu'ils définissent l'intelligence par sa mesure (ses mesures), autrement dit par sa performance dans une situation donnée, celle du test. Cela me semble un peu court.
Pas tout à fait. Si tu veux des définitions, tu dois en avoir pléthore, et dans ce cas je te renvois aux articles cités dans le bouquin. Je prends un des exemples donné, mais tu peux regarder la preview sur Google Livres.
Partons du principe que l'intelligence (g) se construit sur 2 facettes : la capacité à raisonner (Gf) et la capacité à retenir (Gc). À partir de là on établit des mesures supposées évaluées ces deux dimensions (Gf+Gc), puis on essaye de factoriser les valeurs obtenues lors des tests de façon à avoir une seule valeur représentant l'intelligence générale de l'individu (g). L'idée étant que si on obtient une bonne corrélation entre g et des valeurs de référence (typiquement, on prend l'hypothèse qu'un enfant plus agé est plus intelligent, ou selon le niveau d'étude), alors on a de bonnes raisons de penser que l'évaluation de Gf et Gc et leur factorisation reflète le niveau d'intelligence de la personne. Dans ce cas, ce n'est pas que l'intelligence soit définie par ses mesures, mais à partir d'une définition abstraite de l'intelligence (e.g. abilité à raisonner et retenir), on identifie des propriétés qu'on est capable de mesurer (Gf et Gc) puis on tente d'identifier une transformation qui permette d'obtenir une mesure de l'intelligence générale (g). Pour d'autres, ça se base sur d'autres propriétés et/ou transformations.
Certains arrivent à identifier des corrélations, mais d'une part leur significance reste discutable, et d'autres part différents sets de propriétés semblent convenir dans certains cas et d'autres sets dans d'autres cas. Impossible donc de trancher en disant qu'est-ce qui correspond le mieux. Donc on s'accorde à dire que l'intelligence générale doit pouvoir se mesurer, et donc se définir, mais on est incapable de dire de quelle façon sans entrer dans une polémique.
Although most intelligence researchers today probably accept that the general factor is here to stay, they remain sharply divided on its explanation.
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
Si je résume : on ne sait pas définir l'intelligence
Autrement dit, on parle dans le vent depuis x post...
C'est intérressant, mais pour moi l'intelligence c'est bien plus compliqué qu'être capable de retenir et de raisonner....
Si tu demande à un robot s'il préfere le chocolat ou la vanille il ne saura pas te répondre.
Ensuite, peux t-on dire dire d'un robot qu'il est intelligent alors même qu'il n'est pas conscient ?
C'est ce que je disais justement dans le post #36Si je résume : on ne sait pas définir l'intelligence
Autrement dit, on parle dans le vent depuis x post...
Ce débat n'a aucun interêt tant qu'on ne défini pas clairement ce qu'est l'intelligence, et quel est le but de l'IA
Personnellement j'aimerais bien qu'on m'explique ce qu'il y a derrière le terme "IA", et surtout derrière le terme "intelligence"....
Parceque des IA, il y en a dans tous les jeux videos et ca ne date pas d'hier
Vous avez un bloqueur de publicités installé.
Le Club Developpez.com n'affiche que des publicités IT, discrètes et non intrusives.
Afin que nous puissions continuer à vous fournir gratuitement du contenu de qualité, merci de nous soutenir en désactivant votre bloqueur de publicités sur Developpez.com.
Répondre avec citation
Partager