Discussion :

[Sandra Coret]

NVIDIA s'associe à Microsoft pour construire l'un des supercalculateurs d'IA les plus puissants au monde, alimenté par l'infrastructure de supercalculateur avancée de Microsoft Azure associée aux GPU NVIDIA

Des dizaines de milliers de GPU NVIDIA, NVIDIA Quantum-2 InfiniBand et un ensemble complet de logiciels NVIDIA AI arrivent sur Azure ; NVIDIA, Microsoft et les entreprises utilisent la plate-forme pour un développement et un déploiement rapides et rentables de l'IA.

NVIDIA a annoncé une collaboration pluriannuelle avec Microsoft pour construire l'un des supercalculateurs d'IA les plus puissants au monde, alimenté par l'infrastructure de supercalcul de Microsoft Azure associée aux GPU de NVIDIA, à la mise en réseau et à la pile complète de logiciels d'IA pour aider les entreprises à former, déployer et mettre à l'échelle l'IA, y compris les grands modèles de pointe.

Le supercalculateur d'IA basé sur le cloud d'Azure comprend des machines virtuelles puissantes et évolutives des séries ND et NC, optimisées pour la formation et l'inférence distribuées de l'IA. C'est le premier cloud public à intégrer la pile IA avancée de NVIDIA, en ajoutant à sa plate-forme des dizaines de milliers de GPU NVIDIA A100 et H100, un réseau InfiniBand NVIDIA Quantum-2 400Gb/s et la suite logicielle NVIDIA AI Enterprise.

Dans le cadre de cette collaboration, NVIDIA utilisera les instances de machines virtuelles évolutives d'Azure pour rechercher et accélérer les progrès de l'IA générative, un domaine émergent de l'IA dans lequel des modèles fondamentaux comme le Megatron Turing NLG 530B sont la base d'algorithmes d'auto-apprentissage non supervisés pour créer de nouveaux textes, codes, images numériques, vidéos ou audio.

Les sociétés vont également collaborer pour optimiser le logiciel d'apprentissage profond DeepSpeed de Microsoft. La pile complète de workflows d'IA et de kits de développement logiciel de NVIDIA, optimisés pour Azure, sera mise à la disposition des entreprises clientes d'Azure.

Manuvir Das, vice président de l'informatique d'entreprise chez NVIDIA, a déclaré : "Les progrès de la technologie de l'IA ainsi que l'adoption par l'industrie s'accélèrent. La percée des modèles de base a déclenché un raz-de-marée de recherche, encouragé de nouvelles startups et permis de nouvelles applications d'entreprise. Notre collaboration avec Microsoft fournira aux chercheurs et aux entreprises une infrastructure et des logiciels d'IA de pointe pour capitaliser sur le pouvoir de transformation de l'IA."

Scott Guthrie, executive vice président du Cloud + AI Group chez Microsoft, a déclaré : "L'IA alimente la prochaine vague d'automatisation dans les entreprises et l'informatique industrielle, permettant aux organisations de faire plus avec moins alors qu'elles naviguent dans les incertitudes économiques. Notre collaboration avec NVIDIA déverrouille la plate-forme de supercalculateurs la plus évolutive du monde, qui apporte des capacités d'IA de pointe pour chaque entreprise sur Microsoft Azure."

Performances maximales évolutives avec NVIDIA Compute et Quantum-2 InfiniBand sur Azure

Les instances de machines virtuelles optimisées pour l'IA de Microsoft Azure sont architecturées avec les GPU de centre de données les plus avancés de NVIDIA et sont les premières instances de cloud public à intégrer le réseau InfiniBand Quantum-2 400Gb/s de NVIDIA. Les clients peuvent déployer des milliers de GPU dans un seul cluster pour entraîner les modèles de langage les plus massifs, construire les systèmes de recommandation les plus complexes à l'échelle et activer l'IA générative à l'échelle.

Les instances Azure actuelles disposent d'un réseau InfiniBand NVIDIA Quantum 200Gb/s avec des GPU NVIDIA A100. Les instances futures seront intégrées au réseau InfiniBand NVIDIA Quantum-2 400Gb/s et aux GPU NVIDIA H100. Associées à l'infrastructure de calcul, de mise en réseau et de stockage avancée d'Azure, ces offres optimisées pour l'IA fourniront des performances maximales évolutives pour les charges de travail d'apprentissage de l'IA et d'inférence d'apprentissage profond de toute taille

Accélérer le développement et le déploiement de l'IA

De plus, la plateforme prendra en charge une large gamme d'applications et de services d'IA, notamment Microsoft DeepSpeed et la suite logicielle NVIDIA AI Enterprise.

Microsoft DeepSpeed s'appuiera sur le moteur de transformation NVIDIA H100 pour accélérer les modèles basés sur la transformation utilisés pour les grands modèles de langage, l'IA générative et l'écriture de code informatique, entre autres applications. Cette technologie applique des capacités de précision en virgule flottante de 8 bits à DeepSpeed pour accélérer considérablement les calculs d'IA pour les transformateurs - à un débit deux fois plus élevé que les opérations de 16 bits.

NVIDIA AI Enterprise - le logiciel mondialement adopté de la plate-forme NVIDIA AI - est certifié et pris en charge sur les instances Microsoft Azure équipées de GPU NVIDIA A100. Le support des instances Azure avec des GPU NVIDIA H100 sera ajouté dans une prochaine version du logiciel.

NVIDIA AI Enterprise, qui comprend les cadres d'application NVIDIA Riva pour l'IA vocale et NVIDIA Morpheus pour la cybersécurité, rationalise chaque étape du flux de travail de l'IA, du traitement des données et de la formation des modèles d'IA à la simulation et au déploiement à grande échelle.

À propos de NVIDIA

Depuis sa création en 1993, NVIDIA est un pionnier de l'informatique accélérée. L'invention du GPU par la société en 1999 a déclenché la croissance du marché des jeux sur PC, a redéfini l'infographie, a déclenché l'ère de l'IA moderne et alimente la création du métavers. NVIDIA est désormais une société d'informatique complète avec des offres à l'échelle du centre de données qui remodèlent l'industrie.

Source : NVIDIA

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

Project Turing*: Microsoft et Nvidia créent un modèle de langage qui a 105 couches et 530 milliards de paramètres et nécessite 280 GPU A100, mais le système est encore biaisé

Les nouvelles GPU NVIDIA pour l'intelligence artificielle serait jusqu'à 4,5 fois plus rapide que les précédentes, selon NVIDIA

Les hackers derrière le piratage de Nvidia menacent de divulguer des informations plus confidentielles, à moins que l'entreprise ne s'engage à publier en open source ses pilotes

[Jade Emy]

Microsoft a acquis 485 000 puces d'IA de Nvidia cette année, soit deux fois plus que ses rivaux, afin de prendre de l'avance sur la concurrence pour la prochaine génération de systèmes d'IA.

Microsoft a acquis 485 000 puces d'IA de Nvidia cette année, soit deux fois plus que ses rivaux technologiques. Cet investissement stratégique vise à renforcer ses capacités en matière d'IA, notamment pour ses services de cloud Azure. Elle permettrait également à Microsoft de prendre de l'avance sur la concurrence pour construire la prochaine génération de systèmes d'IA.

Il y a 2 ans, NVIDIA a annoncé une collaboration pluriannuelle avec Microsoft pour construire l'un des supercalculateurs d'IA les plus puissants au monde, alimenté par l'infrastructure de supercalcul de Microsoft Azure associée aux GPU de NVIDIA, à la mise en réseau et à la pile complète de logiciels d'IA pour aider les entreprises à former, déployer et mettre à l'échelle l'IA, y compris les grands modèles de pointe.

Dans le cadre de cette collaboration, un rapport révèle que Microsoft aurait acquis près de deux fois plus de puces d'IA de Nvidia que ses concurrents les plus proches. Les analystes du cabinet de conseil en technologie Omdia estiment que Microsoft a acheté environ 485 000 puces d'IA "Hopper" de Nvidia cette année. Cette acquisition est importante car elle est le double du nombre de puces achetées par son plus proche rival, Meta Platforms qui a acheté 224 000 puces.

La demande de GPU avancés de Nvidia a grimpé en flèche depuis l'introduction du ChatGPT, incitant les géants de la technologie à investir massivement dans l'infrastructure de l'IA. Les analystes d'Omdia estiment que ByteDance et Tencent ont chacun commandé environ 230 000 puces Nvidia, y compris le modèle H20, conçu pour les marchés chinois.

L'expansion agressive de Microsoft dans l'infrastructure d'IA est en partie motivée par son investissement de 13 milliards de dollars dans OpenAI. L'entreprise vise à exploiter ses capacités d'IA à la fois pour les services internes et pour les offres destinées aux clients par le biais d'Azure. Malgré la concurrence, Microsoft continue de s'appuyer sur les puces de Nvidia tout en développant ses propres accélérateurs d'IA.

L'acquisition de puces Nvidia par Microsoft souligne l'importance stratégique accordée par le géant technologique à l'amélioration de son infrastructure d'IA. La domination de Nvidia sur le marché des semi-conducteurs pour l'IA est bien documentée, les observateurs soulignant qu'aucune entreprise ne peut rivaliser avec la supériorité technologique de Nvidia.

Nvidia a enregistré un chiffre d'affaires de 35,1 milliards de dollars au troisième trimestre, dont 30,8 milliards de dollars pour les seuls centres de données, ce qui souligne son rôle central dans l'infrastructure de l'IA.

Cependant, les puces de Nvidia ont été confrontées à des défis, tels que des problèmes de surchauffe dans ses puces d'IA Blackwell, ce qui a eu un impact sur des entreprises comme Meta et Microsoft. Malgré ces problèmes, les puces de Nvidia restent essentielles aux progrès de l'IA, et l'investissement substantiel de Microsoft reflète son engagement à rester à la pointe de la technologie de l'IA.

Fait intéressant, la collaboration entre Nvidia et Microsoft est sujette à controverse. En effet, une startup appelée Xockets a intenté une action en justice contre Microsoft et Nvidia. La plainte accuse Microsoft et Nvidia d'avoir violé le brevet de Xockets pour les unités de traitement de données avancées (Advanced Data Processing Units - DPU). Elle affirme avoir inventé le DPU avancé, qui améliore l'efficacité des charges de travail intenses.

Selon la plainte, Microsoft et Nvidia ont formé "un cartel illégal" qui leur a permis d'éviter de payer le juste prix du marché pour avoir accès à la technologie brevetée de Xockets. La plainte allègue qu'au moins trois des DPU de Nvidia (BlueField, ConnectX et NVLink Switch) sont basés sur la technologie brevetée de Xockets.

Source : Omdia

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Microsoft et Meta devraient disposer de plus de 150 000 puces d'IA Nvidia H100 chacun au quatrième trimestre, Nvidia aurait expédié un demi-million de GPU A100 et H100 au troisième trimestre

Les autorités américaines ont ouvert la voie à des enquêtes antitrust sur Nvidia, Microsoft et OpenAI, trois des plus grands acteurs de l'intelligence artificielle

Le boom des investissements dans l'IA : plus de 92 Mds $ injectés en 2023 dans la construction de centres de données et l'achat de puces et d'équipements, avec des résultats mitigés et de faibles perspectives

[Fluxgraveon]

Certes ... mais à quoi bon utiliser une formule un sur une petite route de campagne mal entretenue ?