Discussion :

[dourouc05]

Fin d’année, Intel devrait nous gratifier d’une nouvelle génération de processeurs, dénommée Cascade Lake, déclinée notamment côté serveur avec ses Xeon (on devrait voir Cooper Lake en 2019 et Ice Lake en 2020, selon les plans actuels). Lors de la conférence Hot Chips, la société a pris un peu de temps pour détailler ce que l’on verra avec cette nouvelle architecture.

Rapidement : des instructions spécifiques à l’apprentissage profond (en réutilisant les unités AVX-512) et des protections matérielles contre certaines failles de type Spectre/Meltdown. Pour le reste, Cascade Lake reste très similaire à Skylake : maximum vingt-huit cœurs, maximum 38,5 Mo de cache de dernier niveau (L3), maximum trois canaux UPI pour la communication avec d’autres processeurs sur la même carte mère, maximum quarante-huit canaux PCIe, maximum six canaux de mémoire. Il s’agit donc principalement d’une amélioration incrémentale sur bon nombre de critères, c’est-à-dire que Cascade Lake pourra monter un peu plus haut en fréquence et consommer un peu moins d’énergie, par exemple.

Côté sécurité

Ce dernier point est particulièrement important : les protections actuellement mises en place ont un impact mesurable sur la performance, bon nombre d’entreprises semblent prêtes à payer le prix fort pour obtenir un processeur protégé contre ces vecteurs d’attaque. Alors que, pour les processeurs actuels, les protections ne peuvent être implémentées qu’au niveau logiciel (du système d’exploitation, notamment, avec un coût en performance non négligeable) ou dans le microcode, pour Cascade Lake, Intel prévoit une implémentation aboutie au niveau de la microarchitecture du processeur — sans impact sur la performance.

Sur les six types d’attaque, trois seront donc traitées directement au niveau matériel : Spectre variant 2, Meltdown (Spectre variant 3), L1T (L1 terminal fault, Spectre variant 5). Trois vecteurs nécessitent toujours un système d’exploitation à jour : Spectre, Spectre variant 2, Spectre NG (Spectre variant 4) — l’impact en performance pourrait être marqué.

Cascade Lake ne marquera donc probablement pas la fin des efforts d’Intel sur la sécurité, surtout que des failles de cette famille (toutes exploitent le mécanisme d’exécution spéculative, à l’œuvre dans tous les processeurs performants actuels) sont découvertes régulièrement.

Côté réseaux neuronaux

Avec le rachat d’entreprises actives spécifiquement dans le domaine des processeurs d’accélération pour l’apprentissage profond et la vague marketing à ce sujet, il eût été étonnant que ces processeurs n’aient rien de spécifique à ce sujet. Intel précise donc que Cascade Lake ajoutera un jeu d’instructions dédié : VNNI (vector neural network instructions). Techniquement, VNNI est une extension d’AVX-512, des instructions prévues pour fonctionner de manière vectorielle, c’est-à-dire qu’elles effectuent la même opération sur plusieurs valeurs à la fois.

Sur une génération, Intel annonce une augmentation de débit d’un facteur 5,4 (entre Skylake et Cascade Lake, donc) pour l’inférence avec Caffe sur une architecture de réseau neuronal résiduel profond (ResNet 50, très utilisée en reconnaissance d’images). Cela ne signifie pas qu’une inférence prend cinq fois moins de temps, mais qu’un processeur peut effectuer cinq fois plus d’opérations d’inférence sur le même temps (notamment parce que le processeur effectue plusieurs inférences à la fois).

Ce facteur s’explique aussi par des améliorations au niveau logiciel et une réduction de la précision lors des calculs, même si Intel préfère mettre en avant deux instructions en particulier : VPDPBUSD et VPDPWSSD. Elles servent à fusionner plusieurs instructions utilisées lors d’une convolution (l’opération de base pour le traitement d’images dans les réseaux neuronaux), avec des opérations de type addition-accumulation.

Source et images : Intel at Hot Chips 2018: Showing the Ankle of Cascade Lake.

[Christian Olivier]

Intel dévoile ses CPU Xeon Cascade Lake-AP pour systèmes 2S (48 cœurs / 96 threads
Et 12 canaux de mémoire par socket) et Xeon E-2100 pour systèmes 1S

Intel a récemment détaillé un peu plus ses processeurs Xeon de la génération Cascade Lake-SP qui devraient inaugurer l’ère des protections intégrées contre les vulnérabilités Meltdown et Spectre, quelques jours seulement avant le coup d’envoi officiel de la conférence annuelle Supercomputing 2018 qui est prévu pour la semaine prochaine.

La firme Santa Clara a donné des informations partielles sur ce qui pourrait vraisemblablement être le fer de lance de sa nouvelle génération de processeurs pour Serveur et Station de travail sur socket qui reste encore à confirmer, une génération qui, selon le fondeur, mettrait l’accent sur la puissance de calcul et la sécurité.

Intel a brièvement présenté une famille de processeurs Xeon de la génération Cascade Lake qui est orientée vers les performances avancées. Les puces appartenant à cette famille sont spécifiquement identifiées comme des CPU Xeon de la génération Cascade Lake-AP (AP pour advanced performance) au lieu de Cascade Lake-SP.

Parallèlement à cette présentation sommaire, Intel a dévoilé sa dernière génération de processeurs Xeon E-2100. Il s’agit de puces dédiées aux systèmes à socket unique (1S) ciblant les petits serveurs et offrant jusqu’à 6 cœurs/12 threads par puce. Ces processeurs de la gamme Xeon seraient en réalité des CPU issus de la gamme Core i classiques, à la seule différence notable qu’ils prennent en charge la mémoire ECC et utilisent une version serveur du chipset.

Les futurs CPU Xeon Cascade Lake-AP sont, selon Intel, caractérisés par le nombre plus important de cœurs dont ils disposent et de canaux mémoires qu’ils gèrent, les fréquences d’horloge plus élevées qu’ils supportent et l’implémentation de protections intégrées contre Spectre et Meltdown. Les CPU Xeon Cascade Lake-AP bénéficieraient également d’optimisations affectant leur mémoire cache et la technologie Intel Deep learning Boost avec laquelle ils sont compatibles.

Les processeurs Xeon Cascade Lake Advanced Performance pourront contenir jusqu’à 48 cœurs et 96 threads sur un même package en combinant deux die de 24 cœurs/48 threads sur un même package, grâce à la technologie MCP (Multi-Chip Package). Ces puces résultent, en gros, d’une configuration 2S de deux Xeon sur un même package. Elles bénéficieront d’une architecture qui devrait permettre de repousser les limites du design monolithique utilisé actuellement par le fondeur de Santa Clara qui n’a jusque-là permis que la conception d’une puce embarquant au maximum 28 cœurs/56 threads.

Les CPU Xeon Cascade Lake-AP sont destinés aux serveurs à double socket, pour un total de 96 cœurs / 192 threads dans un système 2S. Ils seront compatibles avec la technologie SMT/Hyperthreading qui les expose, malgré tout, à deux failles de sécurité majeures : PortSmash et TLBleed.

Ils devraient, en outre, prendre en charge jusqu’à 12 canaux mémoire DDR4 (soit 24 emplacements DIMM au total et jusqu’à 3 To de mémoire vive ECC), contre 6 sur les CPU Xeon Cascade Lake-SP. En plus de la mémoire ECC, les nouveaux Xeon Cascade Lake-AP devraient par ailleurs gérer jusqu’à 512 Go de mémoire vive Optane DC. On pourrait même imaginer des configurations avec jusqu’à 12 To de mémoire vive en n’utilisant que des barrettes Optane DC.

Il faut souligner au passage que l’année dernière, Intel a publié l’image d’un serveur basé sur Cascade Lake qui était équipé de douze modules mémoire par socket incluant : six barrettes DIMM à mémoire persistante Optane et six barrettes DIMM DDR4 classiques. Les modules de mémoire vive Optane d’Intel pour ce type d’ordinateur ont en général une capacité maximale de 512 Go par barrette, contre 128 Go pour les modules LRDIMM DDR4 classiques. Si ces modules mémoire venaient à être installés sur un serveur dans une configuration supposée idéale de 6/6 (six modules Optane et six modules DDR4 standards), ils pourraient embarquer jusqu’à 3072 Go de mémoire 3D XPoint et jusqu’à 768 Go de RAM DDR4, soit 3,84 To de mémoire vive au total.

En utilisant une approche similaire à celle adoptée par AMD pour la conception de ses puces Ryzen EPYC, Intel espère probablement avec cette nouvelle génération de Xeon convertir la puissance de calcul qui n’est pour l’instant accessible que sur les systèmes 4S dans un package plus réduit qui pourra aisément se déporter vers un système 2S. Il serait alors possible d’imaginer des systèmes 2S basés sur Cascade Lake-AP offrant des performances similaires, voire supérieures, aux systèmes 4S basés sur les Xeon Scalable actuels.

La communication entre les die des deux processeurs de 24 cœurs chacun qui composent une puce Cascade Lake-AP se fera via des canaux UPI standard comme sur les Xeon Scalable actuels (et non la technologie EMIB d’Intel), mais les spécificités de cette connexion (vitesse, architecture…) n’ont pas été révélées.

Aucune information n’a été fournie concernant le TDP, le prix, la capacité/le support mémoire, le nombre de voies PCIe géré, les fréquences ou les modèles des futurs processeurs. Intel a juste confié qu’ils seront lancés en même temps que tous les autres membres de la famille Cascade Lake dans la première moitié de 2019. Quoi qu’il en soit, le TDP et le système de refroidissement des CPU de cette nouvelle famille Cascade Lake devront être surveillés de près.

Intel a néanmoins donné quelques chiffres à prendre avec les pincettes qui sont censés traduire le niveau de performance des processeurs de la famille Cascade Lake-AP. D’après le fondeur de Santa Clara, ces derniers seraient jusqu’à 3,4 x plus rapides sur Linpack et jusqu’à 1,3 fois plus rapides sur Stream Triad que leur équivalent basé sur un système 2S AMD EPYC 7601. Comparés à leur équivalent basé sur un système 2S Intel Xeon Scalable 8180, ils seraient jusqu’à 1,2 fois plus rapide sur LinPack et jusqu’à 1,3 fois plus rapides sur Stream Triad.

Source : WccfTech, AnandTech

Et vous ?

Qu’en pensez-vous ?

Voir aussi

Intel tente de sauver la face avec un programme de Bug Bounty primant jusqu'à 250 000 dollars afin d'éviter un nouvel épisode Meltdown
Intel précise les nouveautés des Xeon Cascade Lake : des protections matérielles contre Spectre et des instructions pour les réseaux neuronaux
Intel dévoile ses CPU grand public Core i5, i7 et i9 de 9e génération pour PC de bureau intégrant des protections contre Spectre et Meltdown
Les Intel Xeon Phi tirent leur révérence, ils devraient être remplacés par des processeurs tout neufs vers 2021 pour atteindre l'exaflops