Les processeurs massivement parallèles ont-ils un avenir ?

**Amine Horseman** · 05/01/2015, 19h51

Les processeurs massivement parallèles ont-ils un avenir ?
Selon Linus Torvalds, « le parallélisme est une grosse perte de temps »

Linus Torvalds, créateur du noyau Linux, déclare dans un forum de discussion que « le parallélisme est un énorme gaspillage de temps », ceci en réponse à la question de Jouni Osmala sur le parallélisme et la lenteur de certains programmes.

Selon Torvalds, il y aurait une idée reçue selon laquelle « le parallélisme est en quelque sorte plus efficace ». En effet, il explique que les processeurs avec des cores faibles et sans caches sont « horribles » et « stupides » à moins qu’on ait un flux de données massivement régulier, en faisant allusion au flux graphique.

« Les grands caches sont efficaces » continue-t-il, « et parler d’une mise à l’échelle allant jusqu’à une centaine de cores est juste de la folie […] Les utilisateurs n’ont généralement pas besoin de plus de quatre cores, et vous ne pouvez pas en ajouter plus sans utiliser beaucoup trop d’énergie ».

Pour lui, seuls le domaine graphique et les applications serveur ont réellement besoin du parallélisme, ce qui ne représente « qu’une petite partie du marché » ajoute-t-il dans le fil des commentaires, et encore ceci ne dépasserait pas les « 16 cores ». Il défend son avis en expliquant qu’aucune personne sensée ne va créer des processeurs avec des cores plus petits et plus faibles juste pour en mettre plus ; « la seule raison de mettre des cores plus petits et plus faibles c’est que vous voulez diminuer la consommation en énergie, et par conséquent, vous n’allez pas en mettre beaucoup de ces cores »

Il conclut son argumentation en disant que les développeurs n’ont pas vraiment besoin de paralléliser leur code, et que ceux qui disent que « le calcul parallèle est le futur » se trompent.

Source : Real Worl Tech Forum

Et vous ?

Êtes-vous d’accord avec l’avis de Linus Torvalds ?

Que pensez-vous du futur du calcul massivement parallèle ?

**TheLastShot** · 06/01/2015, 12h32

Monsieur Torvalds devrait peut-être arrêter de croire que lui seul a les bonnes réponses à tout et n'importe quoi. Il y a bien d'autres domaines que le "graphisme" (qui en soit est déjà assez vague car on a l'infographie, le traitement d'image/vidéo, modélisation/rendu, tout ce qui touche au cinéma et au jeu vidéo...) et les applications "serveurs" (là encore assez vague car derrière ce nom peut se cacher beaucoup de sous domaines (serveurs de jeu, traitement de requête, serveurs web, tout le délire autour du cloud). Et à côté de ça il en reste bien d'autre comme, pour n'en citer que quelques uns qui me viennent de suite à l'esprit : l'intelligence artificielle, statistiques, calculs mathématiques de grande envergures (comme les simulations physiques).

BREF ! Peut-être que mon seigneur Torvald ne se préoccupe que de ceux pour qui l'informatique c'est savoir ouvrir un terminal pour taper 2-3 grep, mais ça ne veut pas dire que le reste est un gaspillage de temps.

**laerne** · 06/01/2015, 12h40

Ca devient la presse people ici. Linus écrit un post de forum, oh le monde s'effondre, linus a émit un avis négatif contre l'avis de la majorité, ... mais rendez-vous compte, ma p'tite dame ? La seule différence, c'est qu'au lieu d'avoir des sordides histoires de fesses, on a de sordides histoire de "X a dit que la technologie Y était de la merde !!!"

**Dasoft** · 06/01/2015, 12h51

Le calcul parallèle est un monde que Linus ne connaît pas apparemment. Bien sûr il ne faut pas en abuser mais dans certains cas le gain est énorme.
Le calcul parallèle permet d'utiliser la puissance des cores intelligemment, à moins que Linus souhaite rester dans l'aberration actuelle qui est que presque aucun programme ne sait gérer la puissance de nos processeurs...

**santana2006** · 06/01/2015, 13h00

En lisant bien ce qu'il a cité, je pense que c'est pas con, c'est logique.

Il ne généralise pas. L'idée transmise est que le parallélisme est utilisé dans certains cas de figure, et que pour un usage standard (bureautique ou traitements usuels) une machine standard et raisonnable en terme de capacités matérielles (entre autres les caractéristiques de(s) processeur(s)) est suffisante.

En d'autres mots : Pas besoin d'avoir une Ferrari pour rouler en ville.

**tpericard** · 06/01/2015, 13h09

Bonjour,

En quoi M. Torvald est il qualifié pour émettre ce genre de jugement ?
En quoi d'ailleurs sommes nous qualifiés pour en discuter ?

Pour ma part et mon utilisation d'un ordinateur, j'aurais bien besoin d'avoir au moins 8 cores sur ma machine. Pourquoi ? Pour mes besoins de tests logiciels, je suis "adepte" (si l'on peut dire) des machines virtuelles. Et si 4 cores suffisent déjà pour en utiliser au moins 1 (avec 2 cores et le reste sur la machine hôte), j'aurais une utilisation bien plus confortable, avec 1 machine virtuelle 4 core tournant sur une machine hôte 4 core.
Encore un exemple d'applications auquel M. Torvald n'avait pas pensé

Il est vrai que le domaine du test a souvent été (et demeure encore trop souvent) le parent pauvre de l'informatique

Quand au futur du calcul parallèle, sans trop connaître ce domaine je pense que c'est surtout une question de développement de programmes spécifiquement conçus pour exploiter la puissance des machines parallèles.

Invité · 06/01/2015, 13h18

Avant de debattre il faudrait se poser les bonnes questions. Qui en est la cible et comment peut-on bénéficier des architectures multicœur ? Les applications sont vastes et peuvent se décomposer en 2 concepts de base: la parallélisme de taches et celui de données (qui peuvent coexister au sein d'une même application).

Il est vrai qu'une large majorité d'applications grand public sont principalement mono tache. Mais que faire avec tout le reste des applications professionnelles qui bénéficient a la fois de cœurs performants individuellement (cache efficiency, branch prediction, vectorization, ...) mais aussi et surtout du parallélisme ? Nombreuses sont les applications de ce type en effet. Tout le High Performance Computing très oriente avant tout vers le parallélisme de données et non de taches (sismique, biologie, mécanique, ...) qui vise la plupart du temps a résoudre des Partial Derivative Equations sur des datasets très larges. Le monde du Computer Graphics qui englobe plus de disciplines qu'on ne le pense (a la fois intenses en parallélisme de données et de taches donc idéales pour le multicœur): l'industrie du jeux vidéo, du cinéma et la Conception Assistée par Ordinateur en tête.

Qu'en est-il de la limite physique de gravure ? Il ne faut pas oublier que tant que les futures technologies et architectures hardware ne se seront pas démocratisées, le parallélisme de cœurs est la seule solution efficace pour obtenir des performances accrues (tant que les applications sont conçues en amont pour en bénéficier bien entendu, car la scalabilite n'est pas un automatisme malheureusement, surtout lors du multitâche qui implique souvent une intercommunication coûteuse).

Mais ce qui va tout bouleverser et changer la donne pour tout le monde sont les prochaines mémoires a hautes performances (Non Volatile Memory, 3D stacked memory) comme le memristor ou encore les technologies hybrides a base de photonique. Car en effet le goulot d’étranglement pour beaucoup d'applications dites memory bound est la bande passante mémoire. Il faudrait aussi aborder la question de la couche software qui devient inadaptee et a la limite du praticable pour exploiter pleinement les capacités de telles architectures. Bref je pourrais m’étendre sur le sujet d'avantage tout cela pour dire que je ne partage pas du tout la vision de ce Monsieur car avant de cracher sur une architecture juste pour faire le buzz, il faut avant tout considérer l'ENSEMBLE des applications ciblées a ce jour. L'architecture multicœur a encore de beaux jours devant elle :-) !

**kolodz** · 06/01/2015, 13h32

Envoyé par laerne

Ca devient la presse people ici. Linus écrit un post de forum, oh le monde s'effondre, linus a émit un avis négatif contre l'avis de la majorité, ... mais rendez-vous compte, ma p'tite dame ? La seule différence, c'est qu'au lieu d'avoir des sordides histoires de fesses, on a de sordides histoire de "X a dit que la technologie Y était de la merde !!!"

J'approuve l'idée que cité une personne hors contexte et la posant comme une vérité absolu pour cette personne est une idiotie.

Envoyé par TheLastShot

Monsieur Torvalds devrait peut-être arrêter de croire que lui seul a les bonnes réponses à tout et n'importe quoi. Il y a bien d'autres domaines que le "graphisme" (qui en soit est déjà assez vague car on a l'infographie, le traitement d'image/vidéo, modélisation/rendu, tout ce qui touche au cinéma et au jeu vidéo...) et les applications "serveurs" (là encore assez vague car derrière ce nom peut se cacher beaucoup de sous domaines (serveurs de jeu, traitement de requête, serveurs web, tout le délire autour du cloud). Et à côté de ça il en reste bien d'autre comme, pour n'en citer que quelques uns qui me viennent de suite à l'esprit : l'intelligence artificielle, statistiques, calculs mathématiques de grande envergures (comme les simulations physiques).

BREF ! Peut-être que mon seigneur Torvald ne se préoccupe que de ceux pour qui l'informatique c'est savoir ouvrir un terminal pour taper 2-3 grep, mais ça ne veut pas dire que le reste est un gaspillage de temps.

Je trouve ta réaction primaire par rapport à ce sujet. Tu ne prends absolument pas compte du fait que Torvalds écris un post dans un forum qui se trouve être la réponse à l'argumentation d'une autre personne qui exprime son point de vue à une 3ième personne ... Dans une discutions de plus de 10 messages !

Par exemple tu rétorque qu'il y a les applications "serveurs", sauf que dans la conversation cité :

Envoyé par anon (anon.delete@this.anon.com), December 8, 2014 5:44 am

Assuming we're talking about client computing here (Linus already ruled out HPC and databases).

Les IA, statistique et calcul complexe ne sont juste pas dans le sujet de la discutions. D’ailleurs, Torvald dans l'un de ces messages précise justement l'utilité du parallélisme dans ces cas.

Sachant que la discutions ne se finit pas au poste cité, vous devriez lire la suite. La discutions est beaucoup plus nuancé que ce qui est cité ici :

Envoyé par Jouni Osmala

My point was you cannot really do much more powerful x86 core , and if you want more performance the parallerism is only direction to go, and scaling trends give us enough to go for 16 cores on client.

Envoyé par Linus Torvalds

Given the choice between 16 cores and 4, I suspect most people will take 4, and prefer more cache, graphics, and integrated networking etc.

Et ça continue... Avec d'autres personnes et d'autres points de vue... (il y a 30 messages sur la discutions... Pas mon sujet... Je vais pas plus loin )

Torvald dit ce qu'il veux à qui il veux. Si tu as des arguments contre tu peux totalement aller répondre à cette discutions et exprimer ton point de vue directement à Torvald.

Si le sujet de developpez.com ne te plait pas, il faut te rendre compte que ce n'est pas M. Torvald qui est venu étalé son point de vue sur developpez.com. Il t'est possible de crié au scandale sur la citation "hors contexte" ou de l'inutilité de sujet sur des discutions "en cours" dans la communauté. Le sujet date de septembre, ce n'est pas non plus une actualité brulante...

Sinon je peux cité les dernières propos du thread :

Envoyé par Patrick Chase (patrickjchase.delete@this.gmail.com), December 9, 2014 2:08 pm

Yes. People touting new SW methodologies tend to underestimate (at best) or trivialize (more often) the costs associated with porting huge legacy codebases of this sort. Mozilla isn't even all that old as such things go.

Ceci étant sur le fait qu'on a des milliers d'applications qui ne sont juste pas penser pour le parallélisme et que même si demain on sort une machine qui tue sa race en parallélisme, il faudrait 20 ans pour en voir les effets... (Mon interprétation de la discutions)

Cordialement,
Patrick Kolodziejczyk.

source :
http://www.realworldtech.com/forum/?...rpostid=146704

**benjani13** · 06/01/2015, 13h32

Il faudrait peut être arrêter de relever le moindre troll de Linus Torvalds.

MikeRowSoft · 06/01/2015, 13h50

Quand une équipe, surtout si elle est spécialisé, se retrouve être plus lente en matière de durée temporel qu'une seul "unité" pour une tâche ou un ensemble de tâches biens précises, c'est sur que monsieur Linus Torvalds à raison.

Surtout si c'est le même code qui est utilisé. Oui le même code.

La notion de "multithreads" et donc aussi HyperThreading faisant l'objet de marketing par Intel n'est pas vraiment compatible avec Linux, fork oblige... Un manque de compréhension ? Il me semble qu'il y a un truc pas nette par ici.

**23JFK** · 06/01/2015, 13h51

Il dit seulement que tout n'est pas parallélisable ; et que rien ne l'est à l'infini. Ce sont plutôt des évidences.

**nirgal76** · 06/01/2015, 13h54

Pour une fois, je suis d'accord avec ce type, le parallélisme massif pour le commun des mortels n'est pas utile, ça l'est surtout pour les serveurs et le domaine graphique. Et à coté de ça, le coeur lui même n'évolue plus énormément. Dommage, mon Flight Simulator X n'aime que la puissance de calcul, pas le parallélisme

**Juda-Priest** · 06/01/2015, 14h26

Envoyé par TheLastShot

Et à côté de ça il en reste bien d'autre comme, pour n'en citer que quelques uns qui me viennent de suite à l'esprit : l'intelligence artificielle, statistiques, calculs mathématiques de grande envergures (comme les simulations physiques).

Hmmm Pour moi tes exemples s'effectuent justement sur des serveurs dédié à cela... En principe... Non ? Je me trompe ?

Envoyé par Dasoft

Le calcul parallèle est un monde que Linus ne connaît pas apparemment. Bien sûr il ne faut pas en abuser mais dans certains cas le gain est énorme.
Le calcul parallèle permet d'utiliser la puissance des cores intelligemment, à moins que Linus souhaite rester dans l'aberration actuelle qui est que presque aucun programme ne sait gérer la puissance de nos processeurs...

C'est justement ce que avance Torvald, beaucoup de machine ont 4 coeurs alors qu'elles en font pas grand chose à part consommer de l'énergie. Donc maintenant si on rajoute des coeurs en plus, on consomme beaucoup. Donc on peut soit les réduire pour garder le même nombre de coeurs (Ce qui complément stupide) ou repasser sur 4 coeurs... Enfin il y-a plus d'une vingtaine de message avec des arguments et différents point de vue, c'est carrément indigeste après 5 postes, donc difficile de vraiment juger.

Envoyé par tpericard

Bonjour,

En quoi M. Torvald est il qualifié pour émettre ce genre de jugement ?

Pour ma part et mon utilisation d'un ordinateur, j'aurais bien besoin d'avoir au moins 8 cores sur ma machine. Pourquoi ? Pour mes besoins de tests logiciels, je suis "adepte" (si l'on peut dire) des machines virtuelles. Et si 4 cores suffisent déjà pour en utiliser au moins 1 (avec 2 cores et le reste sur la machine hôte), j'aurais une utilisation bien plus confortable, avec 1 machine virtuelle 4 core tournant sur une machine hôte 4 core.
Encore un exemple d'applications auquel M. Torvald n'avait pas pensé

Il est vrai que le domaine du test a souvent été (et demeure encore trop souvent) le parent pauvre de l'informatique

Faut pas déconner non plus... Tu es quand même un cas particulier alors qu'il parle de généralités... Et puis je peux te garantir que pour tester les noyaux linux, les machines qui supporte plusieurs VM c'est presque leur quotidien...

Envoyé par benjani13

Il faudrait peut être arrêter de relever le moindre troll de Linus Torvalds.

Et arrêter de croire que chaque phrase qu'ils postent sur internet est un troll... Bien qu'il ne s'en cache pas d'être quelqu'un qui n'a pas sa langue dans sa poche, sans même le lire vous avez juger déjà son poste...

Envoyé par santana2006

En lisant bien ce qu'il a cité, je pense que c'est pas con, c'est logique.

Il ne généralise pas. L'idée transmise est que le parallélisme est utilisé dans certains cas de figure, et que pour un usage standard (bureautique ou traitements usuels) une machine standard et raisonnable en terme de capacités matérielles (entre autres les caractéristiques de(s) processeur(s)) est suffisante.

En d'autres mots : Pas besoin d'avoir une Ferrari pour rouler en ville.

C'est très vulgarisé, mais c'est l'idée.

**marsupial** · 06/01/2015, 16h05

Envoyé par santana2006

En lisant bien ce qu'il a cité, je pense que c'est pas con, c'est logique.

Il ne généralise pas. L'idée transmise est que le parallélisme est utilisé dans certains cas de figure, et que pour un usage standard (bureautique ou traitements usuels) une machine standard et raisonnable en terme de capacités matérielles (entre autres les caractéristiques de(s) processeur(s)) est suffisante.

En d'autres mots : Pas besoin d'avoir une Ferrari pour rouler en ville.

Sauf que l'avenir est à l'autoroute deux fois 1 000 voies. Donc l'infrastructure devra bien suivre. Imaginez la panne géante du Nasdaq lors de l'introduction de Facebook, il ne s'agissait que de quelques millions d'ordres qui doivent être traités à la seconde. Donc développer une application massivement parallèle va devenir bêtement indispensable. Pour tout. Et rien. Les exemples des serveurs de jeux inaccessibles en période de fêtes en est la preuve.

Edit : ortho

**codec_abc** · 06/01/2015, 16h35

Envoyé par marsupial

Sauf que l'avenir est à l'autoroute deux fois 1 000 voies. Donc l'infrastructure devra bien suivre. Imaginez la panne géante du Nasdaq lors de l'introduction de Facebook, il ne s'agissait que de quelques millions d'ordres qui doivent être traités à la seconde. Donc développer une application massivement parallèle va devenir bêtement indispensable. Pour tout. Et rien. Les exemples des serveurs de jeux inaccessibles en période de fêtes en est la preuve.

Ca dépend encore du cas d'usage. Ton smartphone n'a pas besoin de 10 000 cœurs pour que tu puisse jouer à candy crush (si si je sais bien que tu y joues

). Je pense que la plupart des applications utilisées quotidiennement sont des applis mobiles et/ou de bureautiques. Ca fait donc un bon paquet de développeurs qui peuvent continuer à faire leur travail sans se soucier de traitement parallèles pendant un bon moment encore.

Invité · 06/01/2015, 18h01

Un temps de pause est nécessaire omg, on parle à tord et à travers à propos du parallélisme -_-
Il y a deux type de parallélisation (http://fr.wikipedia.org/wiki/Process...l.C3.A9lisme):

Lorsqu'on parle de parallélisme de processeur, deux termes sont utilisés pour classifier ces techniques de conception :

Instruction Level Parallelism (ILP) - Parallélisme au niveau instruction ;
Thread Level Parallelism (TLP) - Parallélisme au niveau thread (groupe d'instructions).

*Le ILP est une méthode pour paralléliser plusieurs calcules entre deux paquets (128/256/512 bit) de données 32/64 bit, c'est aussi appeler de la vectorisation: https://software.intel.com/fr-fr/intel-isa-extensions (section AVX).

*Le TLP est une autre méthode de 'fausse' parallélisation, cette méthode n'est purement que software avec un zeste de hardware, c'est pour aider à exécuter deux instructions 'à la fois', c'est mis en parenthèse, car elles sont en réalité exécuté séquentiellement, mais la chose en plus est que c'est deux instructions peuvent faire partie de fonctions différentes:

CPU <- instruction.programe#0 <- instruction.program#1 <- ...

*instruction = instruction assembleur.

Voilà comment fait un OS multitaches pour exécuter # programme en même temps:
http://www.intel.com/content/dam/www...t-1-manual.pdf (chapter 7/task management)

Ensuite, il y a une autre technique non officiel pour faire du parallélisme, c'est l'intégration de plusieurs cores dans un même processeur.
Cette technique n'engage que le processeur et non le dévellopeur, on ne peut le bidouiller pour utiliser ses coeurs ! (http://www.developpez.net/forums/d14...p/#post8085001).
Et c'est de ça, dont linus torvald peste tant.

Après en rentrant dans la dernière définition, il y a deux écoles, CPU (intel) vs GPU (nvdia) (osef des autres constructeurs).
L'une préfère faire de la vectorisation (ILP) et l'autre préfère faire de la programmation classique, mais avec beaucoup plus d'intervention hardware (chaque coeur d'un GPU traite un pixel et tout son lot de calcule).

Mais ce même GPU visiblement ne peut pas concilier GHz avec ses milliers de coeurs: http://www.materiel.net/carte-graphi...tml#descriptif (Caractéristiques détaillées)

Honnêtement la vectorisation est plus intéressante niveaux structure du code et performances pour moi.

De plus, faire de la vectorisation est plus économique que ça soit niveaux code* et niveaux achat, vu le prix des GPU et ceux des CPU -_-

(*

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
vaddsp		zmm0, zmm1, zmm2 équivalent à	zmm0[0] = zmm1[0] + zmm2[0]
						zmm0[1] = zmm1[1] + zmm2[1]
						zmm0[2] = zmm1[2] + zmm2[2]
						zmm0[3] = zmm1[3] + zmm2[3]

						zmm0[4] = zmm1[4] + zmm2[4]
						zmm0[5] = zmm1[5] + zmm2[5]
						zmm0[6] = zmm1[6] + zmm2[6]
						zmm0[7] = zmm1[7] + zmm2[7]

						zmm0[8] = zmm1[8] + zmm2[8]
						zmm0[9] = zmm1[9] + zmm2[9]
						zmm0[10] = zmm1[10] + zmm2[10]
						zmm0[11] = zmm1[11] + zmm2[11]

						zmm0[12] = zmm1[12] + zmm2[12]
						zmm0[13] = zmm1[13] + zmm2[13]
						zmm0[14] = zmm1[14] + zmm2[14]
						zmm0[15] = zmm1[15] + zmm2[15]

)

**RyzenOC** · 06/01/2015, 19h25

Pour moi le plus performant c'est l'utilisation de co-processeur, plutôt que d'utiliser un processeur "générique" très puissant, vaut mieux utilisée plusieurs co-processeur spécialisée dans des taches bien précises.

Après je suis plutôt accord avec Linus pour le coup, j'ai chez moi un rapsberry, un appareil mono coeur "peu performant", et pourtant j'arrive a lire du blu ray 3D sur mon réseau local sur une télé Full HD !

Pour moi, si adobe reader par exemple est lourd, c'est pas a cause de la config, c'est juste que les développeurs ne savent pas optimiser leurs codent, point barre.

Invité · 06/01/2015, 20h07

Sur, si on est blindé, on peut se permettre de faire ce genre d'achat

http://ark.intel.com/fr/products/ser...985.1420564962

**RyzenOC** · 06/01/2015, 23h08

Les iphone ont un co-processeur pour gérer les "truc inutiles" comme la mesure d'une distance parcourue, la boussole ou l'orientation du téléphone.
Il ne coutent pas 4000€.

L'idée c'est de déchargée le processeur de taches précises et de les traitée sur d'autre plus spécialisé et donc mieux optimiser, la carte graphique peut par exemple être assimilé a un co-processeur.

C'est d’ailleurs pour cela que j'aime pas le concept des APU dans les consoles de salon par exemple, dans l'embarqué (ou l'on a besion de peut de puissance) ou dans les petits NAS oui, mais pas dans le Gaming.