Discussion :

[RyzenOC]

Au passage, je note que dès le début il affirme qu'il ne croit pas en la machine qui dépasse l'humain (sur tel ou tel point oui, mais de manière générale non). Donc les fans de singularité... Mon point de vue est que ça pourrait arriver, mais certainement pas de manière aussi significative que ces théories le prétendent.

Donc c'est ce qui se passe déjà actuellement....
On peut faire une IA imbattable aux échec, mais on peut pas faire d'ia aussi polyvalente que l'homme. Peu importe les milliards de milliards d’événements qui peuvent arriver, l'homme arrive à faire une analyse de la situation et de s'adapter en conséquence.

On peut déjà aller plus loin, il est tous a fait possible de faire une IA capable de jouer à n'importe quel jeux vidéo juste en regardant* 2-3 partie
*regarder dans le sens ou elle reçoit des données normalisé en input
car qu'es ce qu'un jeu vidéo si ce n'est des cliques de souris et des frappes de clavier suivant une certaine logique suivant les jeux.

J'ai pour ma part fait une IA pour jouer à ma place aux jeux de courses de voiture (vue 3ieme personne uniquement), l'ia reconnait la route et arrive à détecter les virages, elle a juste à accélérer/freiner tourner à droite/gauche
Il faut juste au départ lui renseigner le temps qui faut pour passer de 0 à 100 (donc la durer qu'il faut maintenir la touche avancer) et elle peut se débrouiller plus ou moins toute seul (elle est loin de battre un humain), elle utilise la lib TensorFlow pour reconnaître la route et les virages. Mais techniquement j'ai fait une IA générique pour jeux de voiture.
D'autre font la même chose avec les FPS, une ia générique capable de faire du oneshot sur n'importe quel fps.

[Matthieu Vergne]

Donc c'est ce qui se passe déjà actuellement....
On peut faire une IA imbattable aux échec, mais on peut pas faire d'ia aussi polyvalente que l'homme.

Voilà le genre d'affirmation que j'estime osée : Non, il ne s'agit pas de dire qu'on ne peut pas en faire. Qu'on n'en a pas à l'heure actuelle est un fait, jusque là je suis d'accord, mais qu'on ne puisse pas en faire c'est justement le genre de prédiction qu'il n'est pas légitime de faire. Surtout que des travaux visant justement une plus grande polyvalence commencent à sortir, il n'y a donc pas de raison de se dire que ce ne soit pas possible. Avant de poser une telle affirmation, il faut formaliser les concepts, poser des hypothèses, et mener des études pour les confirmer. Il ne s'agit pas de poser des conclusions sur la base d'un "bon sens" tout à fait relatif basé sur des observations passées.

Les gens qui tirent déjà des conclusions sur ce qui peut être fait ou non en terme d'IA sont ceux qui sont en tort.

[BenoitM]

On peut faire une IA imbattable aux échec, mais on peut pas faire d'ia aussi polyvalente que l'homme. Peu importe les milliards de milliards d’événements qui peuvent arriver, l'homme arrive à faire une analyse de la situation et de s'adapter en conséquence.

Perso je vois 2 points sur le quelle rebondir
1) L'homme est-il vraiment polyvalent? J'ai un gros doute sur ce point, sinon il n'y aurait pas des spécialiste ou ca polyvalence demande énormément d'adaptation et de temps. Personnellement j'ai un doute que je puisse devenir architectes, géomètre, maçon, avocat du jour au lendemain.
2) Qu'est ce que veut dire le mot polyvalent? Et à quoi ca sert d'être polyvalent? Si il y a une IA qui remplacement mon maçon et une autre IA qui remplacement mon docteur. Je m'en fout que se soit pas la même IA qui fasse les deux.

[RyzenOC]

Perso je vois 2 points sur le quelle rebondir
1) L'homme est-il vraiment polyvalent? J'ai un gros doute sur ce point, sinon il n'y aurait pas des spécialiste ou ca polyvalence demande énormément d'adaptation et de temps. Personnellement j'ai un doute que je puisse devenir architectes, géomètre, maçon, avocat du jour au lendemain.
2) Qu'est ce que veut dire le mot polyvalent? Et à quoi ca sert d'être polyvalent? Si il y a une IA qui remplacement mon maçon et une autre IA qui remplacement mon docteur. Je m'en fout que se soit pas la même IA qui fasse les deux.

Polyvalent ne veut pas dire être bon/spécialiste dans tous !
Je suis informaticien pourtant je sais réparer ma voiture, poser du papier dans ma maison et jardiner.
Si on reste dans l'informatique, même si tu est spécialisé dans un domaine tu sais aussi faire autre chose. Tu peut être spécialiste en IA mais tu sais quand même faire une page web ou faire une requête sql.

Les ia actuellement ne savent faire qu'une seul chose, tu change le jeu de poker par un jeu de tarot elles ne s'adapte pas.
Aujourd'hui pour essayer de faire une IA générique on code une plateforme/un noyau centrale avec une api et d'autres dev utilise notre api pour faire des IA spécialisés.

[wolinn]

Les arguments sur la spécialisation des logiciels, qui s'opposerait à la "vraie" intelligence humaine polyvalente, me rappellent un article de Jean-Paul Delahaye
http://www.pseudo-sciences.org/spip.php?article2610

[Matthieu Vergne]

1) L'homme est-il vraiment polyvalent? J'ai un gros doute sur ce point, sinon il n'y aurait pas des spécialiste ou ca polyvalence demande énormément d'adaptation et de temps. Personnellement j'ai un doute que je puisse devenir architectes, géomètre, maçon, avocat du jour au lendemain.

Effectivement, pas tant que ça. Si on parle d'être capable de faire des choses, l'homme est capable de faire plein de choses différentes, mais si on commence à mettre des critères de qualité, là la polyvalence se réduit, et au fur et à mesure on nécessite d'acquérir de l'expertise pour être capable d'atteindre les objectifs de performance. Or, toute expertise arrive avec ses biais, qui sont là justement pour rendre la personne plus performante. Plus on se spécialise, plus on est efficace, mais plus il est difficile de le devenir ailleurs à cause de ces biais, qui nous rendent moins malléable dans notre façon de concevoir les choses. Et je n'ai pas parlé des ressources consommées à acquérir cette expertise.

Quand on a compris cela, il y a un type de discours qui ne doit plus faire peur : quand on entend des gens parler de machines qui sont tellement intelligentes qu'elles seraient capables de ruser pour créer des trombones avec toutes les ressources de l'univers sans qu'on soit capable de les arrêter... ce qui revient à dire qu'elles seraient tellement intelligentes qu'elles prouveraient leur plus grande stupidité. Chacun peut tout à fait s'imaginer cela, mais alors pourquoi ce paradoxe d'"intelligence bête" ? Tout simplement parce qu'on a là le même style de détournement : on ne parle pas d'intelligence mais d'expertise, et quand on est très bon dans quelque chose, c'est qu'on a automatisé les comportements les plus pertinents, et donc intégré les biais nécessaires pour être performant. Quand on comprends cela, et qu'on comprends qu'on parle en fait d'une machine hautement experte - et donc biaisée - dans la fabrication de trombone, le paradoxe disparaît. Et le parallèle avec l'humain devient beaucoup plus évident : un humain hyper spécialisé, disons en programmation pure et dure, sans background de communication, vente, et autres, a beaucoup plus de mal à concevoir correctement les besoins (non techniques) du client comparé à quelqu'un de moins expert mais plus polyvalent. D'où la nécessité d'avoir des équipes hétérogènes, pour pouvoir faire les ponts entre les domaines. Sinon on parle chacun notre langue et personne ne se comprend. La machine a trombone n'est que le cas extrême de cette situation. Tout le problème est donc bien la polyvalence de la machine. Une machine qui n'est pas polyvalente n'est pas (ou extrêmement peu) intelligente.

2) Qu'est ce que veut dire le mot polyvalent? Et à quoi ca sert d'être polyvalent? Si il y a une IA qui remplacement mon maçon et une autre IA qui remplacement mon docteur. Je m'en fout que se soit pas la même IA qui fasse les deux.

Question de coût : une IA polyvalente pourrait coûter plus cher qu'une IA spécialisée, mais en fonction du spectre de choses que tu souhaites lui faire faire, il serait plus rentable d'en avoir une qui fait tout ce que tu as besoin plutôt qu'une spécialisée dans chaque tâche. Les centralisations sont généralement motivées par les coûts engendrés par la diversité.

Un autre argument est aussi la capacité d'adaptation au besoin : une IA hyper spécialisée sera peu flexible à tes changements de besoin, et il te faudra débourser pour obtenir des mises à jour spécifiques ou tout simplement une autre machine hyper spécialisée. Une IA capable d'oublier ce qui ne t'intéresse pas pour apprendre autre chose est au contraire plus à même de répondre à tes besoins spécifiques.

Mais il n'y a pas de silver bullet : si tu as un besoin hyper spécialisé, une IA polyvalente n'a pas grand intérêt. Elle consommerait des ressources à tenter de s'adapter alors qu'il n'y a rien à adapter, et elle tenterait de considérer des informations variées que tu n'as aucun intérêt qu'elle traite. Du gâchis de ressources, en somme.

Les arguments sur la spécialisation des logiciels, qui s'opposerait à la "vraie" intelligence humaine polyvalente, me rappellent un article de Jean-Paul Delahaye
http://www.pseudo-sciences.org/spip.php?article2610

Quand on parle de performance dans des tâches données, par définition on parle d'expertise. Choisir d'appeler cela intelligence ne fait que rajouter à la confusion. M Delahaye a beau être critique vis à vis de ceux qui n'aiment pas qualifier des programmes avancés comme étant intelligents, mais je suis du même avis qu'eux. Quand on souhaite parler d'intelligence, on ne parle pas de cela. De la même manière, les test de QI n'ayant pas fait l'unanimité, on a fini par dire que l'intelligence correspond à ce que ces tests mesurent... ce qui revient à botter en touche et d'utiliser un mot pour qualifier ce qu'on a à défaut de ce qu'on souhaite avoir. C'est du détournement de mot. L'usage que fait M Delahaye du mot intelligence est du même acabit. Et si nombre de ses collègues - et de philosophes - sont horripilés par ses affirmations, c'est sûrement à cause de cela.

Si on souhaite parler de performance de manière générale, on parle de performance. Si on veut parler de performance dans des tâches spécifiques, on parle d'expertise. Si on veut parler de performance polyvalente, on parle d'intelligence. Voilà une conception qui me semble bien plus claire que celle de ce monsieur.

[wolinn]

...
Quand on parle de performance dans des tâches données, par définition on parle d'expertise. Choisir d'appeler cela intelligence ne fait que rajouter à la confusion. M Delahaye a beau être critique vis à vis de ceux qui n'aiment pas qualifier des programmes avancés comme étant intelligents, mais je suis du même avis qu'eux. Quand on souhaite parler d'intelligence, on ne parle pas de cela. De la même manière, les test de QI n'ayant pas fait l'unanimité, on a fini par dire que l'intelligence correspond à ce que ces tests mesurent... ce qui revient à botter en touche et d'utiliser un mot pour qualifier ce qu'on a à défaut de ce qu'on souhaite avoir. C'est du détournement de mot. L'usage que fait M Delahaye du mot intelligence est du même acabit. Et si nombre de ses collègues - et de philosophes - sont horripilés par ses affirmations, c'est sûrement à cause de cela.

Si on souhaite parler de performance de manière générale, on parle de performance. Si on veut parler de performance dans des tâches spécifiques, on parle d'expertise. Si on veut parler de performance polyvalente, on parle d'intelligence. Voilà une conception qui me semble bien plus claire que celle de ce monsieur.

Plus précisément, JP Delahaye parle de "morceaux d'intelligence", qui ne s'assemblent pas très bien aujourd'hui.

[Matthieu Vergne]

Il n'y a qu'une seule occurrence de "morceaux", alors qu'il y en a 13 de "intelligence". Il parle d'intelligence de manière générale, et à un certain moment de morceaux d'intelligence. Et si au lieu de parler d'intelligence il serait plus clair en parlant d'expertise de manière générale, au lieu de parler de morceaux d'intelligence il ferait mieux de parler d'expertises dans des domaines donnés. Et si ces multiples expertises "ne s’assemblent pas très bien aujourd’hui et donnent donc souvent une impression de bêtise", c'est parce qu'elles sont hyper spécialisées, centrées sur une ou quelques tâches pertinentes, et donc peinent à avoir ces fameux ponts qu'une IA polyvalente aurait, et qui permettent de passer d'un domaine à l'autre.

À contrario des expertises humaines qui sont généralement mélangées, du fait du caractère polyvalent des expériences humaines : on peut essayer de devenir hyper bon dans une chose, il sera difficile de vivre dans un environnement dépourvu de tout sauf cette chose. Si les machines ont un avantage vis à vis de leur expertise, c'est bien cette isolation qui permet de ne pas perdre de ressources à faire des choses différentes (très utiles par ailleurs, mais pas dans la tâche qui leur incombe). Mais c'est comme tout, ça a ses avantages et inconvénients. Si on veut voir des IA capables de faire des choses tout en prenant en compte des besoins périphériques (e.g. éthiques, environnementaux, etc.), on ne pourra pas faire l'impasse sur un minimum de polyvalence de leur part. Mais pour cela, il va falloir arrêter de chercher la meilleure performance à tout prix, qui présuppose au contraire une expertise à son paroxysme, avec les biais que ça implique. Après tout, ne pas transformer notre planète en un gros sac de trombones, c'est se permettre de "manquer de compétence" en production de trombones pour des raisons tout à fait externes à l'objectif d'en faire. En clair, viser davantage d'intelligence au prix de moins d'expertise.

[RyzenOC]

Si on veut voir des IA capables de faire des choses tout en prenant en compte des besoins périphériques (e.g. éthiques, environnementaux, etc.), on ne pourra pas faire l'impasse sur un minimum de polyvalence de leur part. Mais pour cela, il va falloir arrêter de chercher la meilleure performance à tout prix, qui présuppose au contraire une expertise à son paroxysme, avec les biais que ça implique.

On le fait déjà... Dans les systèmes HPC on utilise déjà des IA qui cherchent le meilleur compris entre puissance et consommation électrique...
Pour autant je n'appelle pas cela "viser davantage d'intelligence", ce ne sont que 200 lignes de code et une BDD.

J'ajoute aussi que l'expertise des IA à ces limites. On ne peut pas apprendre à une IA à l'infini, il arrive à moment ou il y'a un phénomène de sur apprentissage qui la rend moins bonne.

Et l'éthique est un très mauvais exemple car c'est quelque chose de très subjectif. Ce qui est éthiquement correct pour moi ne le sera peut être pas pour toi.
Les sujets ne manque pas : peut on cloner des humains ?, quels domaines de recherche scientifique doit-on privilégier au détriment d’autres ? Doit-on autoriser aux parents de choisir leurs enfants ? Doit-on introduire de l’ADN non-humain dans notre génome ?
Je ne vois pas comment une IA pourrais répondre à ces questions.

[wolinn]

Il n'y a qu'une seule occurrence de "morceaux", alors qu'il y en a 13 de "intelligence". Il parle d'intelligence de manière générale, et à un certain moment de morceaux d'intelligence. Et si au lieu de parler d'intelligence il serait plus clair en parlant d'expertise de manière générale, au lieu de parler de morceaux d'intelligence il ferait mieux de parler d'expertises dans des domaines donnés. Et si ces multiples expertises "ne s’assemblent pas très bien aujourd’hui et donnent donc souvent une impression de bêtise", c'est parce qu'elles sont hyper spécialisées, centrées sur une ou quelques tâches pertinentes, et donc peinent à avoir ces fameux ponts qu'une IA polyvalente aurait, et qui permettent de passer d'un domaine à l'autre.
À contrario des expertises humaines qui sont généralement mélangées, du fait du caractère polyvalent des expériences humaines : on peut essayer de devenir hyper bon dans une chose, il sera difficile de vivre dans un environnement dépourvu de tout sauf cette chose. Si les machines ont un avantage vis à vis de leur expertise, c'est bien cette isolation qui permet de ne pas perdre de ressources à faire des choses différentes (très utiles par ailleurs, mais pas dans la tâche qui leur incombe). Mais c'est comme tout, ça a ses avantages et inconvénients. Si on veut voir des IA capables de faire des choses tout en prenant en compte des besoins périphériques (e.g. éthiques, environnementaux, etc.), on ne pourra pas faire l'impasse sur un minimum de polyvalence de leur part. Mais pour cela, il va falloir arrêter de chercher la meilleure performance à tout prix, qui présuppose au contraire une expertise à son paroxysme, avec les biais que ça implique. Après tout, ne pas transformer notre planète en un gros sac de trombones, c'est se permettre de "manquer de compétence" en production de trombones pour des raisons tout à fait externes à l'objectif d'en faire. En clair, viser davantage d'intelligence au prix de moins d'expertise.

Il me semble que cette notion de "morceaux d'intelligence" spécialisés s'accorde bien avec les briques que tentait d'identifier Minsky (cf la société de l'esprit). Ce qui me dérange un peu dans l'opposition (expertise spécialisée/intelligence qui se distinguerait pas la polyvalence) est que l'expertise est constitutive de l'intelligence.
Pour cela, l'expression "morceaux d'intelligence" ne me gêne pas particulièrement.
Que serait une "intelligence pure" sans expertises ?
Même un bébé qui vient de naitre est un expert dans différents domaines. Reconnaissance de formes, de sons, etc., autant d'expertises élémentaires qui sont constitutives de l'intelligence humaine (enfin, pour la plupart, les aveugles et les sourds développent d'autres expertises pour compenser une limitation physiologique).
Mais va pour "expertise", s'il y a un risque de confusion, je ne vais pas me battre sur un point de vocabulaire.

Pour le reste, je suis d'accord qu'on est allé assez loin sur certaines expertises artificielles, et qu'il y a certainement beaucoup de travail requis sur le plan d'ensemble.

Remarque sur ces notions de ressources :
Ce qui est fascinant est que le support matériel de l'intelligence humaine, le cerveau, ne consomme que quelques dizaines de Watts, pour faire fonctionner 50 milliards de neurones. Une IA ayant une efficacité énergétique comparable pourrait se permettre d'être à la fois polyvalente et bien plus performantes que nous dans plusieurs domaines tout en conservant une consommation énergétique acceptable. Après tout, nous utilisons tous les jours des dispositifs technologiques consommant des kilowatts, ne serait-ce qu'un moteur d'automobile.

[Matthieu Vergne]

On le fait déjà... Dans les systèmes HPC on utilise déjà des IA qui cherchent le meilleur compris entre puissance et consommation électrique...
Pour autant je n'appelle pas cela "viser davantage d'intelligence", ce ne sont que 200 lignes de code et une BDD.

Effectivement, ce n'est pas de cela dont je parle. Il ne s'agit pas de se dire qu'on va couvrir 2, 3, ou N dimensions. Il s'agit d'une polyvalence de fond.

J'ajoute aussi que l'expertise des IA à ces limites. On ne peut pas apprendre à une IA à l'infini, il arrive à moment ou il y'a un phénomène de sur apprentissage qui la rend moins bonne.

C'est justement les biais d'experts dont je parle. Le surapprentissage n'est rien de plus qu'une expertise trop poussée sur les exemples donnés. Ça s'applique autant à l'homme qu'à la machine.

Et l'éthique est un très mauvais exemple car c'est quelque chose de très subjectif. Ce qui est éthiquement correct pour moi ne le sera peut être pas pour toi.

Ça ne l'est que si on prend des perspectives individuelles. Prend une perspective plus générale, e.g. les droits de l'homme et du citoyen, et c'est tout de suite moins subjectif, bien que tout aussi arbitraire. Les considérations environnementales, c'est pareil : tu peux te réduire à ne pas polluer ton jardin, ou à des règles plus générales qui impactent d'autres comportement. Question de granularité.

Mais le fait que ce soit subjectif ou non n'a rien à voir : dès lors qu'on juge un humain, il y a toujours une part de subjectivité. Enregistre tes résultats, fait les apprendre à une machine, et tu retrouveras ta propre subjectivité dans ses réponses. La subjectivité ne viendra pas de la machine, elle aura objectivement reproduit la subjectivité de son ensemble de données.

Les sujets ne manque pas : peut on cloner des humains ?, quels domaines de recherche scientifique doit-on privilégier au détriment d’autres ? Doit-on autoriser aux parents de choisir leurs enfants ? Doit-on introduire de l’ADN non-humain dans notre génome ?
Je ne vois pas comment une IA pourrais répondre à ces questions.

Ce n'est pas à elle à y répondre. Encore une fois, ce sont là des valeurs bien humains, et une machine n'a pas de tel système de valeur. Répondre à ces questions n'est pas de son domaine. Par contre, apprendre ce qui est jugé comme bon ou non est tout à fait possible. La machine n'en aura sûrement aucune compréhension, comme nous nous comprenons nos concepts, mais elle pourra tout à fait reproduire les comportements qu'on lui demande de reproduire. Les algos d'apprentissage servent à cela.

Il me semble que cette notion de "morceaux d'intelligence" spécialisés s'accorde bien avec les briques que tentait d'identifier Minsky (cf la société de l'esprit). Ce qui me dérange un peu dans l'opposition (expertise spécialisée/intelligence qui se distinguerait pas la polyvalence) est que l'expertise est constitutive de l'intelligence.
Pour cela, l'expression "morceaux d'intelligence" ne me gêne pas particulièrement.
Que serait une "intelligence pure" sans expertises ?

Pour moi la différence est subtile mais fondamentale. L'intelligence n'est pas, telle que je la vois, constituée d'expertise. L'intelligence est pour moi la capacité à en acquérir. Une plus grande intelligence signifie une plus grande facilité à monter en expertise, toute autre chose égale par ailleurs. Si tu ne peux t'améliores que très lentement, tu as peu d'intelligence. Si tu peux t'améliorer très vite, mais seulement sur certaines choses, tu en as peu aussi. Si tu peux t'améliorer vite quel que soit le domaine, tu as beaucoup d'intelligence.

Si on reprend l'exemple du major de promo, on ne va pas dire de lui qu'il est plus intelligent parce qu'il a juste de meilleures notes que tous les autres. Si c'est un élève qui refait pour la 10e fois son année et qui continue de redoubler pour des raisons de comportement ou que sais-je, on ne le trouvera pas intelligent, juste mal éduqué. L'exemple est un peu tiré par les cheveux, parce qu'un major de ce style ne coure pas les rues, mais quelqu'un qui a une grande expertise du fait d'un long vécu, et quelqu'un qui a la même expertise pour un vécu deux fois moindre, on leur donnera volontiers la même expertise, mais certainement pas la même intelligence.

Pour une métaphore mathématique : l'expertise est la fonction, l'intelligence sa dérivée. La dérivée ne dépend pas de où se trouve la fonction, seulement de son évolution. LA fonction peut être très haute, si son évolution a pris du temps, sa dérivée est très basse. La fonction peut être très basse, si elle monte vite, la dérivée est très haute.

En ce sens, l'expertise n'est pas un morceau d'intelligence, et donc quand il parle de morceau d'intelligence, je vois davantage une expertise spécifique qu'une intelligence à proprement parler.

Même un bébé qui vient de naitre est un expert dans différents domaines.

Exactement. Et chacun naît avec ses propres dispositions. Ce sont là des acquis, et cela ne montre en rien l'intelligence du bébé, seulement ses prédispositions à faire certaines choses bien précises. La mesure de son intelligence, telle que je la conçois, ne doit pas se baser sur ce qu'il a à un moment donné, mais sur sa capacité à s'améliorer à partir de ce qu'il a.

Remarque sur ces notions de ressources :
Ce qui est fascinant est que le support matériel de l'intelligence humaine, le cerveau, ne consomme que quelques dizaines de Watts, pour faire fonctionner 50 milliards de neurones. Une IA ayant une efficacité énergétique comparable pourrait se permettre d'être à la fois polyvalente et bien plus performantes que nous dans plusieurs domaines tout en conservant une consommation énergétique acceptable. Après tout, nous utilisons tous les jours des dispositifs technologiques consommant des kilowatts, ne serait-ce qu'un moteur d'automobile.

Je ne vois pas pour quelle raison une machine, même refaisant ce que mère nature a passé des milliards d'année à optimiser, ferait mieux avec les même ressources. Mieux dans certains domaines au dépend d'autres, usuellement pertinents pour les humains, là je veux bien, mais encore une fois il s'agit de choisir sur quoi cibler l'expertise de la machine. Si même ressources et même tâches, même capacités.

Si l'objet de ton propos est de dire que :
- nous, humains, consommons tous à peu près les même ressources, par construction
- une machine se basant sur les même principes consommerait autant
- une machine pouvant être étendue, elle peut donc faire globalement mieux qu'un humain, au prix de plus de ressources
- avec ce qu'on leur autorise à consommer à l'heure actuelle, fournir un peu plus de ressources n'est pas un problème
- donc on peut penser qu'il est possible de faire une IA effectivement plus efficace que nous dans tous les domaines

Je dirais que le raisonnement s'appuie quand même sur une hypothèse de taille : le rapport entre le support et les tâches à effectuer. Le cerveau est une structure optimisée pour effectuer ce qu'un être vivant, en l'occurrence humain, a besoin d'effectuer. Si tu cherches juste à simuler un humain artificiel, alors un cerveau artificiel plus gros me semble effectivement sujet à décupler les capacités "humaines artificielles" d'une telle machine. Mais les activités humaines sont loin de requérir toutes un haut niveau d'intelligence. N'oublions pas que le cerveau gère aussi, par exemple, des tâches liées à la production d'hormones et autres molécules. Si une telle structure est optimisée pour faire ce genre de chose, rien n'affirme qu'elle soit en revanche pertinente pour faire des tâches tout à fait différentes, et a plus grande valeur ajoutée vis à vis d'une machine. Par exemple, si la machine devient alors aussi bonne que nous pour faire une multiplication, je préfère faire mes comptes sur Excel plutôt que de compter sur une telle machine pour les faire à ma place.

[wolinn]

...
Si l'objet de ton propos est de dire que :
- nous, humains, consommons tous à peu près les même ressources, par construction
- une machine se basant sur les même principes consommerait autant
- une machine pouvant être étendue, elle peut donc faire globalement mieux qu'un humain, au prix de plus de ressources
- avec ce qu'on leur autorise à consommer à l'heure actuelle, fournir un peu plus de ressources n'est pas un problème
- donc on peut penser qu'il est possible de faire une IA effectivement plus efficace que nous dans tous les domaines

Oui, c'est bien ce que j'entendais.

Je dirais que le raisonnement s'appuie quand même sur une hypothèse de taille : le rapport entre le support et les tâches à effectuer. Le cerveau est une structure optimisée pour effectuer ce qu'un être vivant, en l'occurrence humain, a besoin d'effectuer. Si tu cherches juste à simuler un humain artificiel, alors un cerveau artificiel plus gros me semble effectivement sujet à décupler les capacités "humaines artificielles" d'une telle machine. Mais les activités humaines sont loin de requérir toutes un haut niveau d'intelligence. N'oublions pas que le cerveau gère aussi, par exemple, des tâches liées à la production d'hormones et autres molécules. Si une telle structure est optimisée pour faire ce genre de chose, rien n'affirme qu'elle soit en revanche pertinente pour faire des tâches tout à fait différentes, et a plus grande valeur ajoutée vis à vis d'une machine. Par exemple, si la machine devient alors aussi bonne que nous pour faire une multiplication, je préfère faire mes comptes sur Excel plutôt que de compter sur une telle machine pour les faire à ma place.

Sur les 20 Watts consommés par le cerveau humain, tout ne sert pas à faire "fonctionner" le type d'intelligence polyvalente qu'on cherche tant à reproduire. L'intelligence humaine, ce n'est peut-être que 10 Watts, ou même moins.
Dans le principe, avec 200 Watts, par exemple, on peut aussi bien faire fonctionner une intelligence de même niveau que l'intelligence humaine tout en calculant aussi un milliard de multiplications par seconde (tache très spécialisée), ou étendre la polyvalence pour former une intelligence supérieure. Le dispositif physique permettant cela n'existe pas, mais dans le principe, il ne parait pas y avoir de limite physique fondamentale qui l'exclut.

Remarque : j'ai quand même vu passer il y a quelques mois une nouvelle de Thales concernant un neurone artificiel plus efficace, énergétiquement, que les ordinateurs actuels. Ce n'est pas de l'IA polyvalente évidemment, mais la base physique qui se met en place.
https://www.thalesgroup.com/fr/monde...ce-vocale-voit

[ZenZiTone]

Il y as déjà eu plusieurs évolution/révolutions (politique,industrielle, verte , internet, ...) aucune ne nous as permis de travailler moins, ce n'est pas l'IA qui changeras la donne.

Pas de travailler moins, mais de travailler autrement ! C'est différent... Et de toutes façon, l'Homme ne veut/doit pas faire moins de travail (au sens occupation de l'esprit, pas exploitation des petits par les gros). Si demain on nous pondait une méga-usine autonome qui sort tous les produits que l'on a besoin au quotidien, on trouverait le moyen d'occuper nos main. L'Homme, tel qu'il est aujourd'hui, n'est pas seulement la vache à lait qu'on nous rabâche souvent (elle l'est un peu, mais ce n'est pas sa volonté), mais un être qui veux évoluer, créer, etc... Dans l'idéal, l'IA permettrait de réduire le travail "exploitation" au dépend du travail "récréatif".

[Matthieu Vergne]

Sur les 20 Watts consommés par le cerveau humain, tout ne sert pas à faire "fonctionner" le type d'intelligence polyvalente qu'on cherche tant à reproduire. L'intelligence humaine, ce n'est peut-être que 10 Watts, ou même moins.

Ça a l'air simple comme ça, mais le cerveau est un tout hyper connecté. Enlever les fonctions qui ne nous intéressent pas ne me semble pas du tout trivial. Justement, c'est une structure très générique à laquelle il faudrait déterminer les bonnes entrées/sorties à brancher de la bonne manière, et je ne suis même pas sûr qu'on obtiendrais ce qu'on souhaite. On a là tout un champs de questions -pertinentes- qui s'ouvre, mais sur la base de ce que j'ai pu comprendre des algorithmes d'apprentissages neuronaux, qui visent justement à mimiquer son fonctionnement, il me semble difficile de faire de tels raisonnements.

Comme si tu as une piscine que tu chauffes au milieu, tu te rends compte que les bords sont froids et toi tu veux de l'eau chaude sans consommer plus. Du coup tu te dis que tu vas retirer les parties froides : tu réduis la taille de ta piscine (tu "coupes" les bords froids) mais du coups tu te retrouves avec une zone un peu plus chaude au milieu (car moins d'eau à chauffer) mais encore de l'eau froide sur les bords (toujours en contact avec l'extérieur). Le cerveau c'est pareil : il est difficile de cibler quoi que ce soit du fait de sa plasticité. quand un bout fonctionne différemment, il refait naturellement ses connections.