Discussion :

[Uther]

Une IA c'est juste un algo, et puis il faudrait définir ce que c'est que la conscience

Dans ce cas là il faut aussi définir ce qu'on appelle un algo.
Un réseau de neurone en fonctionnement est il vraiment un algo, dans le sens ou il ne suit pas un ensemble de règle précises ? Ou du moins pas un ensemble de règle intelligible, car ces règle sont le résultat d'un apprentissage empirique, un peu comme le cerveau en fait. Si oui, pourquoi ne pourrait-on pas dire qu'un cerveau humain suit un algo lui aussi ?

Sinon en tant que amateur de Starcraft 2 je suis très intéressé par les détails de l'expérience. Ils annoncent qu'ils ont revu les limitations de l'IA pour qu'elle ait des contraintes plus proches des limitations physiques des vrais joueurs. Lors de certains match de la première annonce, on voyait clairement par moment que AlphaStar compensait ses faiblesses en stratégie par une précision dans la gestion des combats physiquement inatteignable par un humain. Je suis impatient de regarder des matchs pour me faire une meilleure idée de ce que ça donne.

[Matthieu Vergne]

Logiquement, une IA qui a une conscience véritable d'elle-même, devrait soit déjà être, soit pas être loin, de prendre conscience de sa capacité et de l'intérêt à s'améliorer elle-même. Ce qui devrait donc mener rapidement à la singularité, et à la superintelligence.

Je n'ai pas vu une seule théorie de superintelligence convaincante. Toutes celles que j'ai vu s'appuient sur :
- une absence de définition de l'intelligence, ce qui permet de rester vague pour que chacun interprète à sa manière de façon à se convaincre lui-même
- des raisonnements fallacieux, du style si ça augmente, c'est forcément de manière exponentielle (petit rappel : les suites monotones convergentes ça existe aussi)

Dans ce cas là il faut aussi définir ce qu'on appelle un algo.

Un algorithme, ça fait longtemps qu'on en a une définition claire :
https://www.larousse.fr/dictionnaire...8?q=algorithme

Ensemble de règles opératoires dont l'application permet de résoudre un problème énoncé au moyen d'un nombre fini d'opérations. Un algorithme peut être traduit, grâce à un langage de programmation, en un programme exécutable par un ordinateur.

Un réseau de neurones artificiels entre complètement dans cette catégorie :
- le problème est abstrait mais clair, il s'agit de trouver une configuration des neurones qui permette d'approcher un comportement (le jeu de données à reproduire), c'est le même problème que pour les algorithmes génétiques, le recuit simulé, et autre algorithmes évolutionnaires.
- comme tout programme qui se respecte, ça s'exécute en un temps fini (sinon inexploitable) et donc en un nombre d'opérations fini (vu que chaque instruction prend un temps fixe non nul)
- c'est un programme écrit grâce à un langage de programmation et exécuté sur ordinateur

Ensuite il ne faut pas oublier qu'un réseau de neurone artificiel ne fait que reproduire quelques comportements du cerveau humain. Réduire le cerveau humain à un réseau artificiel serait extrêmement naïf, d'autant plus que le cerveau humain n'est pas une suite d'instruction exécutable sur ordinateur. Un réseau de neurones artificiel est "un algorithme qui simule certains aspects observés dans le cerveau", ce n'est pas un cerveau, et un cerveau n'est pas un réseau artificiel.

[m_amziani]

Je me demande ce que donnerait des parties entre des IA équivalentes (ayant appris des mêmes données).

[Uther]

Probablement rien de particulier, elles auraient sans doute 50% de victoire.

En fait c'est comme ça qu'une bonne partie de l'apprentissage est fait. L'avantage des partie IA contre IA, c'est qu'elles peuvent être joué en masse en accéléré, ce qui fait augment le nombre de match d'apprentissage.

[gallima]

Dans l'article la figure 2 est parlante, malgré les limites mises en place sur les nombres d'actions par minutes, dans certains cas le système ne se gène pas pour dépasser les 500.
Cette mesure (EPM) atteint en moyenne 200... Je ne connais aucun joueur pro qui puisse rivalisé. Si les pro ont des APM (actions même inutiles par minute, du spam clavier) qui dépassent le 1000, jamais ils ne sont à 200 EPM (actions qui modifient le jeu uniquement).
Hors dans ce jeu, il y a plein de cas où avoir pendant 2 secondes un contrôle total (200 EPM+), va changer l'issue de la partie, et dans moins de 1% des cas alphastar est à plus 600EPM.

There is no universally accepted notion of fairness in real-time human-computer matches, so
our match conditions, interface, camera view, action rate limits, and delays were developed in
consultation with professional StarCraft II players and Blizzard employees. AlphaStar's play
under these conditions was professional-player approved [...] time-steps (each 45 ms) per agent step.

"Consulté" & "Approuvé" des pros... Il y a anguille sous roche.
Si l'OODA loop fait 45ms (+110ms delay (page11)) alors je vois mal comment un humain peut rivaliser.
110ms de délais c'est une moyenne... donc en situation critique c'est moins.


Figure 2; Ce qui change la force de leurs agents c'est justement cet EPM... affligeant.
Je clique plus vite donc j'utilise des stratégies où il faut cliquer plus vite que l'humain (les fameuses stratégies innovantes vues dans les matchs contre Mana).

figure 3
(H) Ce qui est amusant c'est de voir que malgré tout Alphastar ne gagne pas à tous les coups contre le bot en difficulté maximum, 87% de victoire maximum... Chose que n'importe quel joueur moyen est capable de faire.
Même avec le 'non camera interface' ils sont a seulement 96% de victoire. C'est un peu la honte.

(K) Et toujours, Deepmind n'hésite pas à laisser tomber la principale difficulté du jeu 'with opponent info' 82% win, 'without opponent info' 22% win... donc en vrai le système ne réagit pas bien du tout aux attaques par-derrière... Un peu comme Mana l'avait montré lors des matchs d’exhibition. Et toujours sur une seule carte et un seul matchup....
C'est d’ailleurs ce que souligne TLO le "Professional Player Statement" page 20 : interprétation perso : "Depuis qu'il ne voit plus toute la carte, je peux faire des attaques simultanées sur deux fronts, et j'ai une change de gagner".


Un peu plus loin :

Agents can also select sets of units anywhere, which humans can do less flexibly using control groups.

il faudra aussi travailler ça :-(


Pour conclure : rien de vraiment nouveau vis-à-vis du show fait il y a quelques mois: On prend des paramètres inhumains, et on gagne contre les humains : cqfd.