IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Intelligence artificielle Discussion :

Alphastar améliore ses performances pour atteindre le niveau de Grandmaster dans StarCraft II


Sujet :

Intelligence artificielle

  1. #21
    Modérateur

    Profil pro
    Inscrit en
    septembre 2004
    Messages
    12 303
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : septembre 2004
    Messages : 12 303
    Points : 20 821
    Points
    20 821
    Par défaut
    Citation Envoyé par onilink_ Voir le message
    C'est tellement peu impressionnant qu'il a fallu attendre 2019 (soit près d'une décennie après la sortie du jeu) pour faire une IA capable de battre des joueurs d'élite.
    Apparemment, la micro, ça ne fait pas absolument tout le jeu. Par exemple, aussi bonne soit-elle en micro, si une IA envoie ses récolteurs attaquer l'ennemi dès le début du jeu, elle se fera rétamer par un progamer (mais peut-être pas par moi, ridicule petit rang Argent.)

    Autrement dit, si le pro tient assez longtemps face à l'invraisemblable force d'une parfaite microgestion, sa capacité à élaborer des stratégies qui défoncent complètement le plan de développement que l'autre a suivi jusque-là, lui donnera l'avantage et la victoire. Ça, on peut penser qu'une IA ne pouvait pas le faire, ou en tout cas que c'était assez compliqué, surtout avec informations incomplètes.

    Du coup, ça change de voir maintenant une IA qui, face à un pro qui a survécu assez longtemps, ne se trouve pas spécialement dérangée et continue de profiter allégrement de son avantage écrasant en microgestion.

    Mais il faut pas se leurrer. La partie microgestion, Blizzard pouvait fournir des IA qui fassent aussi bien dès le début (même mieux, en fait, car AlphaStar a souvent tendance à décimer ses propres troupes avec des AoE, ce qui assez souvent ne pouvait pas avoir de bon côté. Avec ça, on voit au moins qu'ils n'ont pas cherché à lui programmer sa microgestion. C'est un acquis tiré de l'apprentissage avec des défauts bien réels, mais qui toutefois ne pèsent pas assez dans la stratégie résultante pour vouloir les corriger.) Alors pourquoi on a pas eu une IA avec une si formidable micro jusque-là ? Mais parce que, quel intérêt ? Qui en doute, du fait que la machine nous surclasse plus qu'on ne peut même le concevoir sur les travaux logiques et rapides ? Quelqu'un qui n'a jamais tenu une calculette ?

    Les IA de Starcraft ne poussent pas trop loin leur savoir-faire en microgestion, parce que ça n'intéressait personne qu'elles le fassent. Il n'y a qu'à voir l'invraisemblable frustration, quand MaNa s'est fait décimer son armée très largement supérieure, chose qu'aucun adversaire humain n'aurait pu lui faire dans une "vraie" partie. Une partie dans laquelle le rapport de force des unités a l'effet qu'il est censé avoir, et où donc son armée ne pouvait qu'écraser l'armée adverse. C'est possible de faire une IA qui fait tous les micros-choix nécessaires pour éliminer l'adversaire exactement de la manière qui permet de le faire. Mais, ça n'a aucun intérêt. Au départ c'est un jeu vidéo, qui se joue pour le plaisir.

    Alors oui, les pros sont si forts que la seule micro quasi-parfaite d'une IA ne suffit pas pour les vaincre : ils survivront assez longtemps pour que ce soit la stratégie qui compte, et leur stratégie est bien plus forte qu'une IA programmée sans le meilleur savoir-faire. Mais ça ne veut pas dire qu'il existe un intérêt à fournir des IA avec une micro parfaite, et seulement ça. Il faut une IA qui peut en faire quelque chose au-delà de juste jouer au mieux les batailles dans lesquelles elle se retrouve. Il faut une IA qui soit celle qui décide avec quoi ses batailles se joueront, et qui le fasse bien. Ce n'est pas de la micro, ça.
    N'oubliez pas de consulter les FAQ Java et les cours et tutoriels Java

  2. #22
    Expert éminent
    Avatar de Matthieu Vergne
    Homme Profil pro
    Consultant IT, chercheur IA indépendant
    Inscrit en
    novembre 2011
    Messages
    2 198
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant IT, chercheur IA indépendant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2011
    Messages : 2 198
    Points : 7 439
    Points
    7 439
    Billets dans le blog
    3
    Par défaut
    Citation Envoyé par fredoche Voir le message
    Je trouve ça tellement limité cette notion d'intelligence dans ces contextes, aussi artificielle soit-elle.
    Il faut savoir que le terme "intelligence" en IA est un buzzword marketing. Dans la quasi totalité des cas, on ne cherche pas à faire une machine intelligente, mais une machine experte dans une tâche bien précise. Si tu écoute ceux qui bossent directement sur ces technos, tu entendras parler de performance, efficience, efficacité, etc. mais quasiment jamais d'intelligence.
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  3. #23
    Membre averti
    Homme Profil pro
    Ingénieur de recherche
    Inscrit en
    décembre 2011
    Messages
    65
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur de recherche
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2011
    Messages : 65
    Points : 309
    Points
    309
    Par défaut
    Est ce qu'il y a eu triche de la part de AlphaStar/Deepmind ?

    1) Vision de toute la carte : C'est un avantage déterminant énorme.
    2) Des piques à 1200action par minutes (APM) juste aux moments critiques, loin des 400 des humains. Et encore pour un humain à 400 il y a beaucoup de spams, moins du tiers sont des actions qui changent l'état du jeu; là où Deepmind fait des déplacements simultanés d'unité. Ce n'est pas le fait d'être à trois endroits en même temps qui pose un problème d'équité, c'est le fait de donner des ordres très précis de déplacement et de tir différentiés à chaque unité dans une grosse formation à 10 unités par secondes pendant les 3 secondes où se fait le match. Cette micro-maitrise des déplacements et attaques permet à l'IA de s'orienter vers des unités et style de jeu impraticable pour un humain. Ce n’est pas équitable.
    3) Calcul au point de vie près de la survie des unités pour les déplacements: Alphastar ne manipule pas la sourie, il accède directement aux unités via son API, une grosse difficulté en moins; le clavier c'est moins gênant, mais dans l'absolu le problème est le même. Ce n’est pas équitable.
    4) Une seul carte pour jouer ? Sérieusement il y en a plus de 200 dans le jeu. Même si l'humain sait quelle carte va sortir, on sait très bien qu'il ne peut pas réduire sa cervelle pour qu'elle tourne plus vite sachant la carte. Un ordinateur peut le faire par contre. Ce n’est pas juste.
    5) Que de match Protoss contre Protoss ? Pourquoi ne pas autoriser les Terran et Zerg ? La diversité fait partie de la complexité. Ca perd de l’intérêt, honnêtement j'ai zappé des morceaux à cause de ça. Au moins avec Alphago cela ressemblait au go.
    6) Pas un seul rush/cheese dans les stratégies de Mana, 10 matchs d'accords, mais 10 matchs copiés/collés. Pourquoi ? Un 'pro' ne ferait jamais ça. Perso si la plan A ne marche pas je fais le plan B, et les 'pro' on plein de plans. Qui a payé qui ? Que dit le contrat ?
    7) Mana est un joueur pro, mais pas dans les 10 premiers. Dans le haut de la pyramide, le niveau monte de plusieurs crans, 500 points de MRR entre Mana(n°19) et Serral(n° 1); pas de sélection en tournoi majeur en 2018 : https://liquipedia.net/starcraft2/MaNa
    8) A l'origine Deepmind avait annoncé qu'ils allaient créer un système qui apprendrait tout le jeu par l'écran la sourie et le clavier... Clairement l'objectif a été vite oublié ; ils ont entré les concepts du jeu dans l'IA, 'pylône', 'production', 'déplacement' etc... Les informations disponibles sont très ambigües sur l'intrusion humaine dans la programmation d'Alphastar. L'abstraction requise pour comprendre le jeu n'a pas été maitrisée, demain si le jeu évolue (comme il le fait souvent) Alphastar ne va pas s'adapter tout seul. Les capacités apprises par Alphastar ne sont vraisemblablement pas transposables à d'autres jeux de stratégies. Pour rappel, l'IA d'origine du jeu même en 'élite' ne ralentit pas du tout le fonctionnement du jeu et fonctionne sur un Hierchical Task Network qui pourrait aussi être amélioré; mais l'éditeur doit vouloir permet aux joueurs occasionnels de gagner. Si demain Alphastar doit jouer à Dune2, il faudra ré-encoder le jeu dans Dune2star, un humain maitriserait la différence en 2 ou 3 parties.

    Dans le 11ieme matche, l'avantage numéro 1 est retiré et Alphastar/Deepmind fait n'importe quoi dès la première attaque par-derrière (pourtant très classique).

    Si Alphastar est si forte alors pourquoi ne pas la lancer sur le ladder, je suis certain que beaucoup de joueurs lui feront un bon accueil.
    Pour Deepmind, battre Mana lors d'un show truqué, c'est bien pour se faire un dernier coup de pub, avant de laisser tomber ce projet trop compliqué qui ne rapporte pas d'argent.

  4. #24
    Expert éminent
    Avatar de Matthieu Vergne
    Homme Profil pro
    Consultant IT, chercheur IA indépendant
    Inscrit en
    novembre 2011
    Messages
    2 198
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant IT, chercheur IA indépendant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2011
    Messages : 2 198
    Points : 7 439
    Points
    7 439
    Billets dans le blog
    3
    Par défaut
    Au cas où tu n'aurais pas suivi, ce challenge arrive au milieu du projet. AlphaStar n'est pas terminé.

    Tout comme pour le Go ils ont d'abord joué en 2015 contre un bon joueur accessible (européen) avec une version capable de bien jouer. Puis en 2016 ils ont joué contre le meilleur joueur du monde avec une version améliorée. Puis ils ont laissé tourner AlphaGo encore amélioré sur des serveurs de Go avant de l'arrêter. Au final, AlphaGo aura été battu par son successeur non-spécialisé AlphaZéro.

    Le match StarCraft qui vient de se passer correspond au tout premier match. Ils n'ont pas visé le top mondial, mais de bons joueurs accessibles, avec une version exploitable qui avait des chances de gagner. Ils en sont encore au stade expérimental à voir jusqu'où ça va. Peut être que le prochain match sera avec les meilleurs du monde l'année prochaine, mais ce qui est sûr est qu'il planche encore sur l'amélioration d'AlphaStar, le 11e match ayant été fait avec une toute nouvelle version.
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  5. #25
    Modérateur

    Profil pro
    Inscrit en
    septembre 2004
    Messages
    12 303
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : septembre 2004
    Messages : 12 303
    Points : 20 821
    Points
    20 821
    Par défaut
    Cela dit, on en arrive à ma première réaction devant la chose : c'est quoi l'intérêt de faire venir des pros, aussi accessibles soient-ils, et de publier les parties, pour affronter une version qui ne joue qu'une race, qu'une carte, et à l'API ?

    Il y avait pas assez de master leagues auxquels demander un petit match amical discret, pour se faire une idée de ce que ça donne contre un humain pas trop manchot, non ?

    De fait, je vois mal ce que c'est d'autre que du buzz.

    J'ai, par contre, de gros doutes concernant l'idée qu'ils en resteront là. Une IA qui poutre les humains à Starcraft 2 avec n'importe quel matchup, sur n'importe quelle map y compris une qu'elle connaît pas, et en lisant les pixels et bougeant une souris/appuyant sur un clavier, eh ben on l'a pas encore. Et il y a du boulot. De là à ce que ce soit si loin que ça... Bon, ça reste compliqué à monnayer alors peut-être qu'ils s'arrêteront avant. Mais j'en doute. C'est compliqué de faire partir un moteur Alpha de DeepMind, mais ils ont montré que quand c'est parti, ça finit par atteindre ses objectifs, et montrer la supériorité de la machine à règles égales.
    N'oubliez pas de consulter les FAQ Java et les cours et tutoriels Java

  6. #26
    Membre extrêmement actif Avatar de darklinux
    Profil pro
    Consultant en technologies
    Inscrit en
    novembre 2005
    Messages
    538
    Détails du profil
    Informations personnelles :
    Localisation : France, Seine et Marne (Île de France)

    Informations professionnelles :
    Activité : Consultant en technologies
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2005
    Messages : 538
    Points : 870
    Points
    870
    Par défaut
    Citation Envoyé par fredoche Voir le message
    ma petite pensée philosophique du jour :
    ce sont des jeux de guerre, de stratégie militaire certes SF et virtuels, mais guerre, bataille, boum boum, conquête, etc.
    Battre, écraser, vaincre, tuer, massacrer, encercler

    Qui appelle ça de l'intelligence ? Qui ?

    Du temps où les échecs étaient rois, les grands joueurs n'étaient pas forcément très intelligents de manière générale, mais ils développaient un don, des capacités cognitives (comme d'autres le calcul mental ou les langues), une spécialisation.

    Des gars comme Vinci, Einstein, Pythagore, Euclide étaient intelligents. L'intelligence c'est de résoudre utilement des problèmes, apporter de nouveaux outils, découvrir de nouvelles facettes, augmenter "le monde".

    Quand est-ce qu'on met ces fameuses IA à bosser sur le traitement de la leucémie ou du paludisme ?

    Parce que sinon c'est juste de la branlette, et de bons scénarios à la terminator.
    C 'est un exercice comme un autre , non ce n 'est de pas de la branlette , mais les échecs , c 'est so Deep Blue . tu as raison d ' appuyer sur le côté show business des parties Deep Mind , mais ce n 'est qu ' une démo , cela aurais moins spectaculaire avec Skyrim ou Sim City 4 . Pour l ' instant , l ' IA est au même stade que Visicalc au début des années 1980 . Nous y viendront à la guérisons des maladies , des IA tournent actuellement sur le sujet . il revient à l ' Homme de vouloir améliorer son environnement , pas aux machines

  7. #27
    Membre averti
    Homme Profil pro
    Ingénieur de recherche
    Inscrit en
    décembre 2011
    Messages
    65
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur de recherche
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2011
    Messages : 65
    Points : 309
    Points
    309
    Par défaut
    Citation Envoyé par Matthieu Vergne Voir le message
    Au cas où tu n'aurais pas suivi, ce challenge arrive au milieu du projet. AlphaStar n'est pas terminé.
    Effectivement je n'ai pas vu cette partie là. Le projet devait durer 4 ans et nous n'en sommes que à 2 ans, mais par ailleurs leur communiqué est du genre : 'mission accompli nous pouvons passer à autre chose'.
    Si tu as une référence montrant qu'ils continuent les développements alors j'en suis preneur.
    Je lis les articles qui proviennent de deepmind pour mon taf, et je n'ai rien vu qui puisse servir à compenser les points 1 & 8, sachant que de nombreux autres points manque vraiment de fair-play.
    Mais s'ils savent le faire et qu'ils publient là dessus, alors j'ai plein d'application(non guerrière) pour ce genre de techno.

  8. #28
    Membre averti
    Profil pro
    AdminSys
    Inscrit en
    juin 2007
    Messages
    133
    Détails du profil
    Informations personnelles :
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : AdminSys

    Informations forums :
    Inscription : juin 2007
    Messages : 133
    Points : 302
    Points
    302
    Par défaut
    Citation Envoyé par onilink_ Voir le message
    C'est tellement peu impressionnant qu'il a fallu attendre 2019 (soit près d'une décennie après la sortie du jeu) pour faire une IA capable de battre des joueurs d'élite.

    J'imagine qu'alpha go est encore moins impressionnant à vos yeux.
    C'est tellement trivial comme jeu pour une machine.
    Oui il n'y a rien d'impression au niveau de la microgestion, c'est extrêmement simple pour une machine de cliquer au pixel près en quelques ms alors que pour un être humain c'est impossible.
    Il n'a pas fallu une décennie pour ça, l'IA du jeu peu très bien le faire.

    Deepmind n'a pas commencé à travailler la dessus dès la sortie de SC2, ils ont commencé quand Blizzard a sortie des API soit en 2017.

    La seule chose impressionnante, c'est le système d'apprentissage renforcé et encore, il a quand même fallu 200ans de temps de jeu pour arriver au niveau d'un pro pour gagner 10/0 en ayant accès à toute la map sans devoir faire de scolling, puis à nouveau 200ans pour apprendre à jouer dans les même conditions de jeu que MaNa, pour au final perdre contre lui.

  9. #29
    Membre averti
    Profil pro
    AdminSys
    Inscrit en
    juin 2007
    Messages
    133
    Détails du profil
    Informations personnelles :
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : AdminSys

    Informations forums :
    Inscription : juin 2007
    Messages : 133
    Points : 302
    Points
    302
    Par défaut
    Citation Envoyé par fredoche Voir le message
    Littlewhite, je connais bien Mario et Starcraft, je suis un vieux joueur, je pourrais en raconter autant que le joueur du grenier si ça se trouve.

    Mais ça me rappelle les exploits Deepblue contre Kasparov de l'époque. Je trouve ça tellement limité cette notion d'intelligence dans ces contextes, aussi artificielle soit-elle.

    J'avais envie de le dire, histoire de récolter une bonne tournée de pouces rouges, alors Go ! Niet pas le jeu

    Kasparov sait nouer ses lacets tout seul et a été un des premiers opposants à Poutine, voilà de la vraie intelligence.
    Deepblue et AlphaGo ou Alphastar ne fonctionnent pas de la même façon.
    Deepblue calculé tous les coups possibles et demandé un supercalculateur pour jouer aux échec.
    L'alpha team, tourne sur un PC portable classique et se sert de sa connaissance pour s'adapter face à ses concurrents.

    Le seul point commun c'est que les chercheurs n'étaient pas des grands joueurs d'échec, go ou sc2.

    Sinon, ça signifie quoi pour toi l’intelligence artificielle ?

  10. #30
    Membre extrêmement actif
    Profil pro
    Inscrit en
    décembre 2003
    Messages
    1 616
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : décembre 2003
    Messages : 1 616
    Points : 3 830
    Points
    3 830
    Par défaut
    Citation Envoyé par Dgamax Voir le message

    Sinon, ça signifie quoi pour toi l’intelligence artificielle ?
    Hé bien en préambule j'adhère beaucoup à ce qu'a dit Mathieu, qui l'a dit de manière beaucoup plus élégante et directe que ce que je suggérais

    Citation Envoyé par Matthieu Vergne Voir le message
    Il faut savoir que le terme "intelligence" en IA est un buzzword marketing. Dans la quasi totalité des cas, on ne cherche pas à faire une machine intelligente, mais une machine experte dans une tâche bien précise. Si tu écoute ceux qui bossent directement sur ces technos, tu entendras parler de performance, efficience, efficacité, etc. mais quasiment jamais d'intelligence.
    Et je comprends le besoin de marketing, de démontrer des résultats, on est tous tenu à ça quelque part

    Si je devais définir intelligence, l'un des mots basiques que je pourrais employer c'est capacité d'adaptation.
    Connaissant un peu la neurologie et la psychophysiologie je crois que nous sommes toujours très loin de pouvoir reproduire de manière numérique le fonctionnement des axones et dendrites des neurones du néocortex des mammifères, leur formidable plasticité, la richesse de comportement qu'offrent les neuro-transmetteurs... Mais bref on s'en fout pas mal.


    Citation Envoyé par Dgamax Voir le message
    Deepblue et AlphaGo ou Alphastar ne fonctionnent pas de la même façon.
    Deepblue calculé tous les coups possibles et demandé un supercalculateur pour jouer aux échec.
    L'alpha team, tourne sur un PC portable classique et se sert de sa connaissance pour s'adapter face à ses concurrents.

    Le seul point commun c'est que les chercheurs n'étaient pas des grands joueurs d'échec, go ou sc2.

    Sinon, ça signifie quoi pour toi l’intelligence artificielle ?
    Alors oui mais en réalité non :
    - 200 ans d'apprentissage sur les TPU google, c'est aussi 200 ans de parties d'échecs stockées dans les mémoires de Deepblue. De mes souvenirs celui-ci avait été nourri de toutes ls parties d'échecs de grand maitres du 19e et 20 e siècle répertoriées, et c'était la mode de conserver ces traces à l'époque, toujours d'ailleurs
    ici https://en.wikipedia.org/wiki/Deep_B...hess_computer) on lit :
    Deep Blue's evaluation function was initially written in a generalized form, with many to-be-determined parameters (e.g. how important is a safe king position compared to a space advantage in the center, etc.). The optimal values for these parameters were then determined by the system itself, by analyzing thousands of master games. The evaluation function had been split into 8,000 parts, many of them designed for special positions. In the opening book there were over 4,000 positions and 700,000 grandmaster games.
    Juste pour les ouvertures donc.
    et pour Alphastar :
    In order to train AlphaStar, we built a highly scalable distributed training setup using Google's v3 TPUs that supports a population of agents learning from many thousands of parallel instances of StarCraft II. The AlphaStar league was run for 14 days, using 16 TPUs for each agent. During training, each agent experienced up to 200 years of real-time StarCraft play. The final AlphaStar agent consists of the components of the Nash distribution of the league - in other words, the most effective mixture of strategies that have been discovered - that run on a single desktop GPU.
    - Deep blue c'est de la force brute, de l'analyse en // à haute vitesse. Deep blue est donné à 11,4 GFlop/s.
    Et dans le texte précédent je lis : in other words, the most effective mixture of strategies that have been discovered - that run on a single desktop GPU.
    Et par curiosité j'ouvre le site Nvidia, je vois l'encart sur la carte graphique la plus rapide jamais conçue (jusqu'à la prochaine hein ) : 130 TFlops Tensor https://www.nvidia.com/fr-fr/titan/titan-rtx/
    Je ne sais pas si Tensor du sens dans ce contexte , mais sinon 130 TFlops, c'est juste (130*1000)/11,4=11403 Deep Blue dans une carte graphique. C'est pas de la force brute les algos, mais il y a de quoi faire quand même.

    Ca tourne vraiment sur un portable ? j'ai pas trouvé d'infos à ce sujet, sans trop chercher cela dit
    Émotion
    Infantilisation
    Culpabilisation

    Christophe Alévèque - 18 Mars 2021

  11. #31
    Expert éminent
    Avatar de Matthieu Vergne
    Homme Profil pro
    Consultant IT, chercheur IA indépendant
    Inscrit en
    novembre 2011
    Messages
    2 198
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant IT, chercheur IA indépendant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2011
    Messages : 2 198
    Points : 7 439
    Points
    7 439
    Billets dans le blog
    3
    Par défaut
    Citation Envoyé par gallima Voir le message
    Si tu as une référence montrant qu'ils continuent les développements alors j'en suis preneur.
    Regarde la vidéo du match (pas le dernier article, celui d'avant). Les commentaires des gens de DeepMind m'ont laissé comprendre qu'il travaillaient encore activement dessus, notamment quand ils ont parlé d'intégrer la caméra car elle n'en avait pas lors des matchs. D'ailleurs, vu qu'ils ont fait un match bonus avec une toute nouvelle version intégrant justement la caméra, ça montre qu'ils bossent encore dessus. S'ils avaient considéré être à la fin, ils auraient attendu d'avoir la version finale avant de faire les matchs. De plus, comme expliqué précédemment, ça suit le même chemin que les matchs d'AlphaGo. Mon impression d'ensemble est donc que ce n'est pas terminé.

    Citation Envoyé par fredoche Voir le message
    Ca tourne vraiment sur un portable ? j'ai pas trouvé d'infos à ce sujet, sans trop chercher cela dit
    C'est ce qu'ils ont affirmé lors de la présentation des matchs, voire la vidéo. De souvenir, que ça tournerait sur une machine personnelle décente. Dans les faits, c'est l'entraînement qui a besoin de puissance. Le réseau de neurones, une fois entraîné, ça va plutôt vite si on exploite bien sa machine.
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  12. #32
    Membre averti
    Profil pro
    AdminSys
    Inscrit en
    juin 2007
    Messages
    133
    Détails du profil
    Informations personnelles :
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : AdminSys

    Informations forums :
    Inscription : juin 2007
    Messages : 133
    Points : 302
    Points
    302
    Par défaut
    Citation Envoyé par fredoche Voir le message



    Alors oui mais en réalité non :
    - 200 ans d'apprentissage sur les TPU google, c'est aussi 200 ans de parties d'échecs stockées dans les mémoires de Deepblue. De mes souvenirs celui-ci avait été nourri de toutes ls parties d'échecs de grand maitres du 19e et 20 e siècle répertoriées, et c'était la mode de conserver ces traces à l'époque, toujours d'ailleurs
    ici https://en.wikipedia.org/wiki/Deep_B...hess_computer) on lit :
    Juste pour les ouvertures donc.
    et pour Alphastar :


    - Deep blue c'est de la force brute, de l'analyse en // à haute vitesse. Deep blue est donné à 11,4 GFlop/s.
    Et dans le texte précédent je lis : in other words, the most effective mixture of strategies that have been discovered - that run on a single desktop GPU.
    Et par curiosité j'ouvre le site Nvidia, je vois l'encart sur la carte graphique la plus rapide jamais conçue (jusqu'à la prochaine hein ) : 130 TFlops Tensor https://www.nvidia.com/fr-fr/titan/titan-rtx/
    Je ne sais pas si Tensor du sens dans ce contexte , mais sinon 130 TFlops, c'est juste (130*1000)/11,4=11403 Deep Blue dans une carte graphique. C'est pas de la force brute les algos, mais il y a de quoi faire quand même.

    Ca tourne vraiment sur un portable ? j'ai pas trouvé d'infos à ce sujet, sans trop chercher cela dit
    Pour le machine learning ou même le deep learning ce qui consomme le plus, c'est la partie apprentissage ou là en effet Alphastar a consommé énormément de ressource mais une fois entraîné, ils font tourner leur model sur un simple PC :

    Il en parle ici : 01h56min24s
    https://youtu.be/cUTMhmVh1qs?t=6984

  13. #33
    Membre averti
    Homme Profil pro
    Ingénieur de recherche
    Inscrit en
    décembre 2011
    Messages
    65
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur de recherche
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2011
    Messages : 65
    Points : 309
    Points
    309
    Par défaut
    Citation Envoyé par Matthieu Vergne Voir le message
    Regarde la vidéo du match (pas le dernier article, celui d'avant). Les commentaires des gens de DeepMind m'ont laissé comprendre qu'il travaillaient encore activement dessus, ...
    Nous n'interprétons pas la communication de DeepMind de la même manière; Pour moi le match final correspond juste à une autre variante plus équitable, pas à un match où le 'pro' serait revenu un peu plus tard pour tester une version ultérieur.
    La communication de DeepMind, que ce soit dans la vidéo de présentation ou dans la presse c'est 'Mission accompli, nous avons gagné à StarCraft-ii'.

  14. #34
    Expert éminent sénior Avatar de Uther
    Homme Profil pro
    Inscrit en
    avril 2002
    Messages
    4 295
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Pyrénées Orientales (Languedoc Roussillon)

    Informations forums :
    Inscription : avril 2002
    Messages : 4 295
    Points : 12 912
    Points
    12 912
    Par défaut
    Citation Envoyé par gallima Voir le message
    1) Vision de toute la carte : C'est un avantage déterminant énorme.
    Je suis même pas sur que ça changerait énormément de chose vu que l'API fournit toutes les informations instantanément, bouger la caméra ne coute qu'une action.

    Citation Envoyé par gallima Voir le message
    2) Des piques à 1200action par minutes (APM) juste aux moments critiques, loin des 400 des humains. Et encore pour un humain à 400 y a beaucoup de spam, moins du tiers sont des actions qui changent l'état du jeu; là où Deepmind fait des déplacements simultané d'unitée.
    En effet, et encore, le fait que AlphaStar ait commencé son apprentissage sur des parties d'humains fait qu'il spamme lui aussi pas mal d'ordres peu utiles. Probablement qu'avec des méthodes différentes ou plus d'apprentissage, il peut s'améliorer sur ce point.

    Je pense qu'il n'y aura jamais de solution pleinement satisfaisante au problème des différences homme/machine sur les jeux temps réel, les humains n'étant de toute façon pas égaux entre eux non plus.

    Citation Envoyé par gallima Voir le message
    Ce n'est pas le fait d'être à trois endroit en même temps qui pose un problème d'équité, c'est le fait de donner des ordres très précis de déplacement et de tir différentiés à chaque unités dans une grosse formation à 10 unités par secondes pendant les 3 secondes où se font le match. Cette micro-maitrise des déplacements et attaques permet à l'IA de s'orienter vers des unitées et style de jeu impraticable pour un humain. C'est pas équitable.
    En théorie oui, dans la pratique, le style de jeu de AlphaStar restait quand même assez proche de ce qu'aurait pu faire un humain.

    Citation Envoyé par gallima Voir le message
    3) Calcul au point de vie près de la survie des unitées pour les déplacements: Alphastar ne manipule pas la sourie, il accède directement aux unitées via son API, une grosse difficulté en moins; le clavier c'est moins génant mais dans l'absolu le problème est le même. C'est pas équitable.
    En théorie oui, mais là aussi, ça n'est pas le cas car un réseau de neurones ne fait pas non plus du calcul parfaitement déterministe.

    Citation Envoyé par gallima Voir le message
    4) Une seul carte pour jouer ? Sérieusement y en a plus de 200 dans le jeu. Même si l'humain sait quel carte va sortir, on sait très bien qu'il ne peut pas réduire sa cervelle pour qu'elle tourne plus vite sachant la carte. Un ordinateur peut le faire par contre. C'est pas juste.
    Il n'y a pas tant de cartes que ça jouées professionnellement. En général chaque année Blizzard choisit 7 cartes pour le ladder (le classement continu) dont certaines sont des anciennes carte. De plus les joueurs ont généralement le droit de choisir 3 cartes sur lesquelles ils refusent de jouer. Il y a parfois des cartes différentes en tournoi, mais au final un joueur pro n'a pas a connaitre plus qu'une dizaine de carte.

    Citation Envoyé par gallima Voir le message
    5) Que de match Protoss contre Protoss ? Pourquoi ne pas autoriser les Terran et Zerg ? La diversité fait partie de la complexité. Ca perd de l’intérêt, honnêtement j'ai zappé des morceaux à cause de ça. Au moins avec Alphago cela ressemblais au go.
    Parce AlphaStar n'est tout simplement pas encore une IA complète pour Starcraft. DeepMind, n'a jamais prétendu que ces matchs étaient la preuve de la supériorité de la machine sur l'humain. Ce n'était qu'un point d'avancement qu'ils ont rendu public car ça donnait plein d'informations intéressantes pour le grand public sur leur approche actuelle du sujet.

    Ils ont commencé au le plus simple (une seule carte et un seule race) pour adapter au fur et à mesure. Ce genre d'approche n'avait pas été nécessaire pour le jeu de Go car même s'il est complexe stratégiquement, les règles de base sont terriblement simples.

    Citation Envoyé par gallima Voir le message
    6) Pas un seul rush/cheese dans les stratégies de Mana, 10 matches d'accords, mais 10 matches copiés/collés. Pourquoi ? Un 'pro' ne ferais jamais ça. Perso si la plan A ne marche pas je fais le plan B, et les 'pro' on plein de plans. Qui a payé qui ? Que dit le contrat ?
    Mana n'est clairement pas un expert du cheese, il a voulu rester dans ce qu'il maitrise, y'a pas de complot a y voir. D'ailleurs d'après les dire de DeepMind, AlphaStar sait gérer les cheese vu que au début de l'apprentissage, elle s'était beaucoup concentré là dessus.

    Citation Envoyé par gallima Voir le message
    7) Mana est un joueur pro, mais pas dans les 10 premiers. Dans le haut de la pyramide le niveau monte de plusieurs cran, 500 points de MRR entre Mana(n°19) et Serral(n° 1); pas de sélection en tournoi majeur en 2018 :
    Ils ont juste présenté au public les résultats d'une d'expérience intermédiaire consistant à mesurer l'IA face à des humains de niveau professionnel après un apprentissage en circuit clos entre machines. Ils avaient fait la même chose pour AlphaGo.

    Le but n'est pas encore de prouver la supériorité de la machine. Il ne s’agissait pas d'une confrontation en direct organisée comme pour Lee Sedol. Il feront sans doute cela lorsqu'il estimeront que AlphaStar est prêt.

    Citation Envoyé par gallima Voir le message
    8) A l'origine Deepmind avait annoncé qu'ils allaient créer un système qui apprendrai tout le jeu par l'écran la sourie et le clavier...
    Je ne sais pas ou tu as vu ça, je n'ai rien vu de tel. Au contraire, Blizzard a annoncé dès le début qu'il mettraient une API à la disposition de DeepMind pour piloter le jeu.

    Citation Envoyé par gallima Voir le message
    L'abstraction requise pour comprendre le jeu n'a pas été maîtrisé, demain si le jeu évolue (comme il le fait souvent) Alphastar ne va pas s'adapter tout seul. Les capacité apprise par Alphastar ne sont vraisemblablement pas transposable à d'autre jeux de stratégies. Pour rappel, l'IA d'origine du jeu, même en 'élite' ne ralenti pas du tout le fonctionnement du jeu et fonctionne sur un Hierchical Task Network qui pourrait aussi être améliorer; mais l'éditeur doit vouloir permet aux joueurs occasionnel de gagner. Si demain Alphastar doit jouer à Dune2, il faudra ré-encoder le jeu dans Dune2star, un humain maîtriserai la différence en 2 ou 3 parties.
    En effet, l'IA de AlphaStar est très spécifique à StarCraft. Une IA généraliste est beaucoup plus complexe, et DeepMind n'a jamais prétendu faire ça, du moins dans un premier temps. Après ce n'est pas fini. Peut-être que cela viendra plus tard, comme ils ont fait dans un second temps AlphaZero, une IA générique pour les jeux de plateaux qui a même battu AlphaGo.

    Citation Envoyé par thelvin Voir le message
    Cela dit, on en arrive à ma première réaction devant la chose : c'est quoi l'intérêt de faire venir des pros, aussi accessibles soient-ils, et de publier les parties, pour affronter une version qui ne joue qu'une race, qu'une carte, et à l'API ?
    Désolé mais, je trouve que ça reste quand même très intéressant de voir comment joue une IA. D’autant plus que DeepMind a donné plein d'informations relativement accessibles sur toutes les circonstances et les méthodes d'entrainement de l'IA.

    Citation Envoyé par thelvin Voir le message
    Il y avait pas assez de master leagues auxquels demander un petit match amical discret, pour se faire une idée de ce que ça donne contre un humain pas trop manchot, non ?
    Probablement. Mais bon, s'ils peuvent se permettre d'avoir accès à des vrai pros, pourquoi se priver. Ça fait toujours plus sérieux.

    Citation Envoyé par thelvin Voir le message
    De fait, je vois mal ce que c'est d'autre que du buzz.
    Forcément, comme toute les recherches de nos jours en fait. Si Alphabet investit des chercheurs a plein temps sur une IA qui ne va pas lui rapporter directement d'argent, c'est bien sûr parce que c'est une vitrine pour monter ces compétences.

  15. #35
    Membre averti
    Homme Profil pro
    Ingénieur de recherche
    Inscrit en
    décembre 2011
    Messages
    65
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur de recherche
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2011
    Messages : 65
    Points : 309
    Points
    309
    Par défaut
    @Uther Est ce que tu trouves que les avantages donnés à AlphaStar ne dérèglent pas le jeu; qu'ils sont fair-play; loin d'être ridicules et comparable à ce qui se passe entre deux humains ?

  16. #36
    Nouveau Candidat au Club
    Homme Profil pro
    Développeur Web
    Inscrit en
    février 2019
    Messages
    1
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 32
    Localisation : France, Val de Marne (Île de France)

    Informations professionnelles :
    Activité : Développeur Web
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : février 2019
    Messages : 1
    Points : 1
    Points
    1
    Par défaut
    Je suis totalement d'accord avec Gallima, combien d'entre vous ont vraiment regardé les matchs ? J'ai l'impression que pas beaucoup. Dans une des parties l'IA gagne en jouant des unités qui se font totalement contrer par celles du Pro. Elle est dans une situation où elle se fait contrer mais elle continue tout simplement car elle n'est pas intelligente, elle est plus performante.

    Au final la compo de l'IA full stalker avec TP va battre celle de Mana en divisant en trois troupes qui attaque dans tous les sens et avec une micro-gestion a la milliseconde qui permet de prendre pil poil les dégâts permis puis de TP l'unité plus loin.

    Et tous les commentateurs et le joueurs disent qu'aucun humain n'aurait pu gérer les unités comme ça et gagner avec cette compo. Sachant que sur presque toutes les games l'IA gagne en bonne partie grâce a cette micro gestion en combat.

    Si on veux vraiment juger l'intelligence du programme il faut qu'il se batte a armes égales et qu'on puisse juger sur la stratégie et non sur la micro-gestion.

    En résumé pour avoir un vrai match il faut :
    - avoir la même vision de caméra qu'un humain.
    - Définir des types d'actions, monitorer les moyennes et les pics que peuvent faire un humain (un pro) et dire ok un humain va monter a 120 APM sur la gestion d'unités en phase de combat mais du coup 30APM sur la gestion de l'économie. Et faire en sorte que l'IA ai un comportement possible pour un humain. Sinon autant la laisser monter a 15k APM ça revient au même c'est juste moin subtil.
    - Les informations détenues par l'IA sont de la même manière trop précises. Elle va connaitre la vie et le shield de chacune de ses unités alors qu'un joueur n'a qu'une vue graphique moins précise à moins de cliquer spécifiquement sur l'unité puis de lire la valeur et de s'en souvenir. Il faudrait donc limiter la qualité des informations et la quantité de données que l'IA peux garder en mémoire.

    Avec ces limitations techniques on aurait des combats qui seraient beaucoup plus équitables et qui joueraient donc sur la capacité a s'adapter, a trouver des solutions, des stratégies innovantes. Et pas juste a dire je peux tp mes unités tellement finement que tu n'en tueras jamais aucune.

  17. #37
    Expert éminent sénior Avatar de Uther
    Homme Profil pro
    Inscrit en
    avril 2002
    Messages
    4 295
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Pyrénées Orientales (Languedoc Roussillon)

    Informations forums :
    Inscription : avril 2002
    Messages : 4 295
    Points : 12 912
    Points
    12 912
    Par défaut
    Citation Envoyé par gallima Voir le message
    @Uther Est ce que tu trouves que les avantages donnés à AlphaStar ne dérèglent pas le jeu; qu'ils sont fair-play; loin d'être ridicules et comparable à ce qui se passe entre deux humains ?
    Je vais donc préciser vu que j'ai visiblement été mal compris. Le duel n'était clairement pas équitable au niveau de ce que l'on attendrait d'une confrontation sportive officielle. Ce qui tombe bien vu que ça n'en était pas une, mais seulement un point d'étape sur l'avancement des progrès de AlphaStar. Je pense que tout le monde est conscient du problème. Pour preuve, la gestion de la caméra a été ajouté après les premiers matchs de Mana.

    La question d'un véritable équilibre entre humain et IA lors d'une confrontation officielle est un problème complexe qui n'est probablement pas soluble de manière indiscutable. Il y a beaucoup de questions qui n'ont pas de réponses claires.
    Les premières qui me viennent (liste non exhaustive) :
    • quelles sont les limites réelles humaines ? (Ça va varier en fonction des personnes)
    • dans les limites de la vitesse et de la précision des actions humaines, quelle est la part entre le cerveau et le physique ?
    • si c'est une mesure d’intelligence, le fait que l'IA puisse prendre des décision plus vite doit il être pris en compte ?
    • ...


    Starcraft 2 n'étant pas un jeu de pure réflexion, AlphaStar n'aura probablement jamais le droit a une confrontation qui prouve de manière claire et incontestablement sa supériorité, comme AlphaGo.

    Cela dit, ça reste quelque chose de très intéressant à observer même en sachant que les deux ne sont équivalents. La performance des ingénieurs de DeepMind est appréciable. Il faut voir que il y a beaucoup de différences entre un jeu de Go et Starcraft II (temps réel, informations partielles, ...). De ce que j'ai vu, la façon de jouer de l'IA sans être parfaite est quand même très logique.

  18. #38
    Membre averti
    Homme Profil pro
    Ingénieur de recherche
    Inscrit en
    décembre 2011
    Messages
    65
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur de recherche
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : décembre 2011
    Messages : 65
    Points : 309
    Points
    309
    Par défaut
    Citation Envoyé par Uther Voir le message
    ... Le duel n'était clairement pas équitable au niveau de ce que l'on attendrait d'une confrontation sportive officielle...
    J'ai juste souligné le décalage abusé qui existe entre cette affirmation et le titre de la chronique de Stéphane le calme AlphaStar, la nouvelle IA de DeepMind qui a battu deux des meilleurs joueurs de Starcraft II, cf les arguments 1 à 8.

  19. #39
    Expert éminent
    Avatar de Matthieu Vergne
    Homme Profil pro
    Consultant IT, chercheur IA indépendant
    Inscrit en
    novembre 2011
    Messages
    2 198
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant IT, chercheur IA indépendant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : novembre 2011
    Messages : 2 198
    Points : 7 439
    Points
    7 439
    Billets dans le blog
    3
    Par défaut
    Citation Envoyé par gallima Voir le message
    Nous n'interprétons pas la communication de DeepMind de la même manière; Pour moi le match final correspond juste à une autre variante plus équitable, pas à un match où le 'pro' serait revenu un peu plus tard pour tester une version ultérieur.
    La communication de DeepMind, que ce soit dans la vidéo de présentation ou dans la presse c'est 'Mission accompli, nous avons gagné à StarCraft-ii'.
    Les titres et contenus putaclic de la presse, on a l'habitude. Par ailleurs, entre les titres à la "c'est gagné" et les contenus qui listent les points à améliorer pour pouvoir le comparer vraiment à l'humain, on peut vite voir que ça n'a pas convaincu tout le monde. Je préfère me focaliser sur les annonces des chercheurs, qui eux doivent faire attention à ce qu'ils affirment, car ils ne sont pas là que pour faire de la com'. Dans le discours de DeepMind, je n'ai jamais décelé la moindre impression de "ça y est, c'est terminé". Ils étaient surpris, ils étaient content, mais aucune impression de satisfaction style "tâche accomplie".

    Ensuite, le match final n'est qu'un bonus. Ça n'a pas été fait en plusieurs matchs, critère nécessaire pour une évaluation scientifique un minimum sérieuse. Rien que par cette organisation, ce dernier match ne peut pas compter comme résultat de recherche. Pour autant, d'une part les gens de deepmind ont admis que la version sans caméra pouvait être considérée comme moins honnête (fair en anglais) et le fait qu'ils l'aient intégré montre qu'ils mettent encore des efforts dessus, d'autre part cette version a perdu alors qu'ils l'avaient évalué comme presqu'aussi compétente que l'autre, montrant que ces ajouts peuvent, potentiellement, changer la donne. Dire d'un côté que la méthode est améliorable, mais partir du principe que c'est gagné alors qu'une telle amélioration à montré un impact potentiel sur les résultats, en tant que chercheur ce serait très mal vu pour la simple raison que cela montre que les résultats ne sont pas validés de manière fiable. Ajoute à ces faits mon impression que DeepMind n'a jamais affiché un sentiment clair de terminé, et tu comprendras mon interprétation.

    Mais comme une interprétation n'est que subjective, j'ai cherché de éléments concrets :
    https://deepmind.com/blog/alphastar-...-starcraft-ii/

    Ce post de DeepMind décrit AlphaStar et ses résultats récents contre les pros :
    MaNa defeated a prototype version of AlphaStar using the camera interface, that was trained for just 7 days. We hope to evaluate a fully trained instance of the camera interface in the near future.
    The game of StarCraft allows players to select one of three alien races: Terran, Zerg or Protoss. We elected for AlphaStar to specialise in playing a single race for now - Protoss - to reduce training time and variance when reporting results from our internal league.
    De toute évidence, le projet n'est pas terminé. S'ils comptent continuer dessus, il ne fait aucun doute qu'ils devront publier dessus. Et pour être acceptés à la publication, ils comptent certainement montrer des améliorations. Par ailleurs, je n'ait aucun doute que d'un point de vue com', c'est bénéfique pour eux d'organiser des matchs, et donc ça ne m'étonnerait pas qu'ils profitent de nouvelles avancées pour organiser de nouveaux matchs, surtout vu les critiques présentées aux derniers. Je m'attends donc à de nouveaux matchs avec de nouvelles versions d'AlphaStar.

    Et petit commentaire au passage :
    Citation Envoyé par Uther Voir le message
    Une IA généraliste est beaucoup plus complexe, et DeepMind n'a jamais prétendu faire ça, du moins dans un premier temps.
    Si, c'est leur but sur le long terme. AlphaGo/Zéro/Star ne sont que des étapes pour converger vers une IAG (intelligence artificielle générale).
    https://www.theverge.com/2019/1/24/1...raft-2-victory
    DeepMind was clear about its goal in conducting this work. “First and foremost the mission at DeepMind is to build an artificial general intelligence,” said Oriol Vinyals, co-lead of the AlphaStar project, referring to the quest to build an AI agent that can perform any mental task a human being can. “To do so, it’s important to benchmark how our agents perform on a wide variety of tasks.”
    Site perso
    Recommandations pour débattre sainement

    Références récurrentes :
    The Cambridge Handbook of Expertise and Expert Performance
    L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})

  20. #40
    Membre à l'essai
    Homme Profil pro
    indépendant
    Inscrit en
    mai 2016
    Messages
    11
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Morbihan (Bretagne)

    Informations professionnelles :
    Activité : indépendant

    Informations forums :
    Inscription : mai 2016
    Messages : 11
    Points : 17
    Points
    17
    Par défaut Pour Mathieu Vergne , bon éclairage de cette problématique.
    Pour Mathieu Vergne , bon éclairage de cette problématique.

Discussions similaires

  1. Réponses: 23
    Dernier message: 02/10/2013, 09h24
  2. Réponses: 0
    Dernier message: 21/06/2010, 13h49
  3. Réponses: 5
    Dernier message: 01/12/2009, 19h18
  4. Réponses: 2
    Dernier message: 04/07/2007, 10h17

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo