Discussion :

[Sandra Coret]

Le PDG de NVIDIA dévoile des plates-formes d'IA générative pour chaque industrie : la présentation à COMPUTEX a montré de nouveaux systèmes, logiciels et services pour exploiter l'IA générative

La présentation à COMPUTEX a montré de nouveaux systèmes, logiciels et services - dont beaucoup sont alimentés par des superpuces Grace Hopper - pour exploiter l'IA générative, la technologie la plus transformatrice de notre époque.

Pour sa première conférence en direct depuis la pandémie, Jensen Huang, fondateur et CEO de NVIDIA, a donné le coup d'envoi de la conférence COMPUTEX à Taipei, en annonçant les plates-formes que les entreprises peuvent utiliser pour surfer sur la vague historique de l'IA générative qui transforme les industries, de la publicité à la fabrication en passant par les télécommunications.

"Nous sommes de retour", a déclaré M. Huang en montant sur scène après des années de présentations virtuelles, parfois depuis sa cuisine. "Je n'ai pas fait de discours en public depuis près de quatre ans - souhaitez-moi bonne chance !"

S'exprimant pendant près de deux heures devant une salle comble de quelque 3 500 personnes, il a décrit les services, logiciels et systèmes informatiques accélérés qui permettent de créer de nouveaux modèles d'entreprise et de rendre les modèles actuels plus efficaces.

"L'informatique accélérée et l'IA réinventent l'informatique", a déclaré M. Huang, dont les déplacements dans sa ville natale au cours de la semaine écoulée ont été suivis quotidiennement par les médias locaux.

Pour démontrer la puissance de ces technologies, il a utilisé l'énorme mur 8K devant lequel il s'exprimait pour afficher une invite textuelle générant une chanson thème pour son discours, pouvant être chantée comme n'importe quel air de karaoké. M. Huang, qui s'est parfois entretenu avec la foule dans sa langue maternelle, le taïwanais, a brièvement entraîné le public à chanter le nouvel hymne.

"Nous sommes maintenant au point de basculement d'une nouvelle ère informatique avec l'informatique accélérée et l'IA qui a été adoptée par presque toutes les sociétés informatiques et de cloud dans le monde", a-t-il déclaré, notant que 40 000 grandes entreprises et 15 000 startups utilisent désormais les technologies NVIDIA avec 25 millions de téléchargements du logiciel CUDA rien que l'année dernière.

Un nouveau moteur pour l'IA d'entreprise

Pour les entreprises qui ont besoin du nec plus ultra en matière de performances d'IA, il a dévoilé le DGX GH200, un supercalculateur d'IA à grande mémoire. Il utilise NVIDIA NVLink pour combiner jusqu'à 256 superpuces NVIDIA GH200 Grace Hopper dans un seul GPU de la taille d'un centre de données.

Le Superchip GH200, que Jensen a déclaré être désormais en pleine production, associe un CPU NVIDIA Grace économe en énergie à un GPU NVIDIA H100 Tensor Core haute performance dans un superchip.

Le DGX GH200 offre une performance exaflopique et 144 téraoctets de mémoire partagée, soit près de 500 fois plus que dans un seul système NVIDIA DGX A100 de 320 Go. Cela permet aux développeurs de créer de grands modèles de langage pour les chatbots d'IA générative, des algorithmes complexes pour les systèmes de recommandation et des réseaux neuronaux graphiques utilisés pour la détection des fraudes et l'analyse des données.

Google Cloud, Meta et Microsoft sont parmi les premiers à avoir accès au DGX GH200, qui peut être utilisé comme modèle pour une future infrastructure d'IA générative à grande échelle.

Le supercalculateur d'IA DGX GH200 de NVIDIA délivre 1 exaflop de performance pour l'IA générative.

"Les supercalculateurs DGX GH200 intègrent les technologies de calcul accéléré et de réseau les plus avancées de NVIDIA pour repousser les frontières de l'IA ", a déclaré M. Huang au public de Taipei, dont beaucoup avaient fait la queue devant la salle pendant des heures avant l'ouverture des portes.

NVIDIA construit son propre supercalculateur d'IA, NVIDIA Helios, qui sera mis en ligne cette année. Il utilisera quatre systèmes DGX GH200 reliés au réseau InfiniBand NVIDIA Quantum-2 afin d'augmenter le débit de données pour l'entraînement de grands modèles d'IA.

Le DGX GH200 est le point culminant des centaines de systèmes annoncés lors de l'événement. Ensemble, ils apportent l'IA générative et l'informatique accélérée à des millions d'utilisateurs.

En se penchant sur la situation dans son ensemble, M. Huang a annoncé que plus de 400 configurations de systèmes allaient être mises sur le marché avec les dernières architectures Hopper, Grace, Ada Lovelace et BlueField de NVIDIA. Elles visent à relever les défis les plus complexes en matière d'IA, de science des données et de calcul de haute performance.

Accélération dans toutes les tailles

Pour répondre aux besoins des centres de données de toutes tailles, Huang a annoncé NVIDIA MGX, une architecture de référence modulaire pour créer des serveurs accélérés. Les fabricants de systèmes l'utiliseront pour créer rapidement et à moindre coût plus d'une centaine de configurations de serveurs différentes pour répondre à une large gamme d'applications AI, HPC et NVIDIA Omniverse.

MGX permet aux fabricants de construire des CPU et des serveurs accélérés en utilisant une architecture commune et des composants modulaires. Il prend en charge la gamme complète de GPU, CPU, unités de traitement de données (DPU) et adaptateurs réseau de NVIDIA, ainsi que les processeurs x86 et Arm dans une variété de châssis refroidis par air et par liquide.

QCT et Supermicro seront les premiers à commercialiser les modèles MGX en août. Le système ARS-221GL-NR de Supermicro annoncé au COMPUTEX utilisera le processeur Grace, tandis que le système S74G-2U de QCT, également annoncé lors de l'événement, utilise Grace Hopper.

ASRock Rack, ASUS, GIGABYTE et Pegatron utiliseront également le MGX pour créer des ordinateurs accélérés de nouvelle génération.

La 5G/6G fait appel à Grace Hopper

Par ailleurs, M. Huang a déclaré que NVIDIA contribuait à façonner les futures communications sans fil et vidéo 5G et 6G. Une démonstration a montré comment l'IA fonctionnant sur Grace Hopper transformera les appels vidéo en 2D d'aujourd'hui en expériences 3D plus réalistes, procurant une sensation de présence étonnante.

Jetant les bases de nouveaux types de services, Huang a annoncé que NVIDIA travaillait avec le géant des télécommunications SoftBank pour construire un réseau distribué de centres de données au Japon. Ce réseau fournira des services 5G et des applications d'IA générative sur une plate-forme cloud commune.

Les centres de données utiliseront les superpuces NVIDIA GH200 et les DPU NVIDIA BlueField-3 dans les systèmes modulaires MGX ainsi que les commutateurs Ethernet NVIDIA Spectrum pour fournir le timing extrêmement précis que requiert le protocole 5G. La plate-forme réduira les coûts en augmentant l'efficacité spectrale tout en réduisant la consommation d'énergie.

Les systèmes aideront SoftBank à explorer les applications 5G dans les domaines de la conduite autonome, des usines d'IA, de la réalité augmentée et virtuelle, de la vision par ordinateur et des jumeaux numériques. Les utilisations futures pourraient même inclure la vidéoconférence en 3D et les communications holographiques.

Accélérer les réseaux de clouds

M. Huang a également dévoilé NVIDIA Spectrum-X, une plate-forme réseau conçue pour améliorer les performances et l'efficacité des clouds d'IA basés sur Ethernet. Elle associe les commutateurs Ethernet Spectrum-4 aux DPU BlueField-3 et au logiciel pour multiplier par 1,7 les performances de l'IA et l'efficacité énergétique par rapport aux réseaux Ethernet traditionnels.

NVIDIA Spectrum-X, les commutateurs Spectrum-4 et les DPU BlueField-3 sont disponibles dès maintenant auprès des fabricants de systèmes, notamment Dell Technologies, Lenovo et Supermicro.

Donner vie aux personnages des jeux

L'IA générative a également un impact sur la façon dont les gens jouent.

Huang a annoncé NVIDIA Avatar Cloud Engine (ACE) pour les jeux, un service de fonderie que les développeurs peuvent utiliser pour construire et déployer des modèles d'IA personnalisés pour la parole, la conversation et l'animation. Il permettra aux personnages non jouables d'acquérir des compétences en matière de conversation afin de pouvoir répondre aux questions avec des personnalités réalistes et évolutives.

NVIDIA ACE for Games comprend des modèles de base d'IA tels que NVIDIA Riva pour détecter et transcrire la parole du joueur. Le texte invite NVIDIA NeMo à générer des réponses personnalisées animées par NVIDIA Omniverse Audio2Face.

NVIDIA ACE for Games fournit une chaîne d'outils pour donner vie aux personnages grâce à l'IA générative.

Accélérer l'IA générative sur Windows

Huang a décrit comment NVIDIA et Microsoft collaborent pour stimuler l'innovation sur les PC Windows à l'ère de l'IA générative.

Des outils, des frameworks et des pilotes nouveaux et améliorés facilitent le développement et le déploiement de l'IA par les développeurs de PC. Par exemple, la chaîne d'outils Microsoft Olive pour l'optimisation et le déploiement de modèles d'IA accélérés par le GPU et les nouveaux pilotes graphiques augmenteront les performances de DirectML sur les PC Windows équipés de GPU NVIDIA.

Cette collaboration permettra d'améliorer et d'étendre une base installée de 100 millions de PC équipés de GPU RTX avec Tensor Cores qui améliorent les performances de plus de 400 applications et jeux Windows accélérés par l'IA.

Numérisation des plus grandes industries du monde

L'IA générative ouvre également de nouvelles perspectives dans le secteur de la publicité numérique, qui pèse 700 milliards de dollars.

Par exemple, WPP, la plus grande organisation de services marketing au monde, travaille avec NVIDIA pour construire un moteur de contenu basé sur l'IA générative, le premier du genre, sur Omniverse Cloud.

Lors d'une démonstration, M. Huang a montré comment les équipes créatives connecteront leurs outils de conception 3D, tels qu'Adobe Substance 3D, pour créer des jumeaux numériques des produits du client dans NVIDIA Omniverse. Ensuite, le contenu des outils d'IA générative formés sur des données provenant de sources responsables et construits avec NVIDIA Picasso leur permettra de produire rapidement des décors virtuels. Les clients de WPP peuvent alors utiliser la scène complète pour générer une multitude de publicités, de vidéos et d'expériences 3D pour les marchés mondiaux et les utilisateurs sur n'importe quel appareil web.

"Aujourd'hui, les publicités sont récupérées, mais à l'avenir, lorsque vous engagerez des informations, elles seront en grande partie générées - le modèle informatique a changé ", a déclaré M. Huang.

Les usines forgent l'avenir de l'IA

Avec environ 10 millions d'usines, le secteur manufacturier, qui pèse 46 000 milliards de dollars, est un terrain propice à la numérisation industrielle.

"Les plus grandes industries du monde fabriquent des objets physiques. Les construire d'abord numériquement peut permettre d'économiser des milliards", a déclaré M. Huang.

La présentation a montré comment les fabricants d'électronique, dont Foxconn Industrial Internet, Innodisk, Pegatron, Quanta et Wistron, créent des flux de travail numériques avec les technologies de NVIDIA pour concrétiser la vision d'une usine intelligente entièrement numérique.

Ils utilisent Omniverse et des API d'IA générative pour connecter leurs outils de conception et de fabrication afin de créer des jumeaux numériques d'usines. En outre, ils utilisent NVIDIA Isaac Sim pour simuler et tester des robots et NVIDIA Metropolis, un cadre d'IA de vision, pour l'inspection optique automatisée.

Le dernier composant, NVIDIA Metropolis for Factories, permet de créer des systèmes de contrôle de la qualité personnalisés, ce qui donne aux fabricants un avantage concurrentiel. Il aide les entreprises à développer des applications d'IA de pointe.

L'IA accélère les chaînes d'assemblage

Par exemple, Pegatron, qui fabrique 300 produits dans le monde, dont des ordinateurs portables et des smartphones, crée des usines virtuelles avec Omniverse, Isaac Sim et Metropolis. Cela lui permet de tester des processus dans un environnement simulé, ce qui lui fait gagner du temps et de l'argent.

Pegatron a également utilisé le kit de développement logiciel NVIDIA DeepStream pour développer des applications vidéo intelligentes qui ont permis de décupler le débit.

Foxconn Industrial Internet, une branche de services du plus grand fabricant de technologies au monde, travaille avec les partenaires de NVIDIA Metropolis pour automatiser des parties importantes de ses points d'inspection d'assurance qualité des cartes de circuits imprimés.

Dans une vidéo, M. Huang a montré comment Techman Robot, une filiale de Quanta, a fait appel à NVIDIA Isaac Sim pour optimiser l'inspection sur les lignes de fabrication du géant taïwanais. Il s'agit essentiellement d'utiliser des robots simulés pour former des robots à la fabrication de meilleurs robots.

Par ailleurs, M. Huang a annoncé une nouvelle plate-forme destinée à la prochaine génération de flottes de robots mobiles autonomes (AMR). Isaac AMR permet de simuler, de déployer et de gérer des flottes de robots mobiles autonomes.

Un vaste écosystème de partenaires - dont ADLINK, Aetina, Deloitte, Quantiphi et Siemens - contribue à la mise sur le marché de toutes ces solutions de fabrication, a déclaré M. Huang.

C'est un exemple de plus de la façon dont NVIDIA aide les entreprises à ressentir les avantages de l'IA générative grâce à l'informatique accélérée.

"Cela fait longtemps que je ne vous ai pas vus, j'avais donc beaucoup de choses à vous dire ", a-t-il déclaré à l'issue de son discours de deux heures.

https://www.youtube.com/watch?v=QSWz...ature=youtu.be

Source : Nvidia

Et vous ?

Qu'en pensez-vous ?

Voir aussi :

Le PDG de Nvidia, Jensen Huang, affirme que ceux qui n'ont pas d'expertise en matière d'IA seront laissés pour compte, et ajoute que l'IA est en bonne voie pour réinventer l'informatique de A à Z

Nvidia affirme que les cryptomonnaies n'apportent rien d'utile à l'humanité et que toute cette puissance de calcul devrait être mieux utilisée, comme pour développer des systèmes d'IA comme ChatGPT

NVIDIA GTC : métavers, IA générative, voiture autonome, quelle est la perspective de NVIDIA sur ces sujets ? Entretien avec Jean-Charles Vasnier, Senior Manager Solution Architect

[Stéphane le calme]

NVIDIA franchit temporairement la barre des 1 000 milliards de dollars de capitalisation boursière grâce à la forte demande en IA,
devenant le premier fabriquant de puces à rejoindre les GAFA

NVIDIA est devenue temporairement mardi le premier fabricant de puces à rejoindre le club des entreprises américaines valant plus de 1 000 milliards de dollars. La valeur de l'action a triplé en moins de huit mois, reflétant le regain d'intérêt pour l'intelligence artificielle suite aux progrès rapides de l'IA générative, qui peut s'engager dans une conversation de type humain et tout créer, des blagues à la poésie. NVIDIA a gagné environ 200 % en valorisation depuis octobre, dépassant de loin tout autre concepteurs de puces de l'indice S&P 500. Certains analystes vont jusqu'à affirmer que le boom de l'IA signifie que l'action devrait encore valoir plus.

Les actions de l'organisation ont bondi d'un chiffre stupéfiant de 25% la semaine dernière et cela s'est encore accompagné d'un autre 5% hier. La nouvelle survient alors que la société prévoyait une énorme demande pour les progrès réalisés dans le monde de l'IA.

En comparaison, le prochain plus grand fabricant de puces au monde (Taiwan Semiconductor Manufacturing) est valorisé à environ 14 437 milliards de dollars taiwanais (environ 471 milliards de dollars).

Malgré la valorisation astronomique, les analystes estiment que le secteur des puces d’IA de NVIDIA a encore une marge de croissance, car la technologie d’IA générative en est encore à ses débuts, avec une adoption plus large attendue dans les années à venir. « Si la valorisation de l’entreprise semble élevée pour le moment, nous pensons que NVIDIA a la puissance de feu nécessaire en termes de bénéfices, car l’adoption de son GPU d’IA n’en est qu’à ses débuts », a déclaré Kinngai Chan, analyste senior chez Summit Insights Group. « Nous considérons NVIDIA comme la société la plus importante de la planète à une époque qui évolue rapidement vers une époque qui sera accentuée par de plus grandes capacités d'IA », a déclaré Angelo Zino, analyste chez CFRA Research.

Dirigée par Jensen Huang, NVIDIA, une référence dans les puces de jeux vidéo, s’est orientée vers le marché des centres de données au cours des dernières années. L’activité de l’entreprise s’est rapidement développée pendant la pandémie, lorsque le jeu a décollé, l’adoption du cloud a augmenté et les passionnés de crypto se sont tournés vers ses puces pour miner des jetons.

Les paris de Huang sur l’IA devraient alimenter la croissance dans les prochains mois.

Outre NVIDIA, d'autres grands noms d'entreprises faisant partie de la liste comprenaient Apple, Microsoft, Alphabet, Amazon etc. Tous valent plus de 1 000 milliards de dollars. Tesla et Meta (Facebook) n'en font plus partie.

Le dernier rapport trimestriel sur les résultats de NVIDIA a fait état de plus de 2 milliards de dollars de bénéfices en trois mois. Cette dernière poussée intervient après que les activités de NVIDIA ont explosé au début de la pandémie lors d'une pénurie de GPU alors qu'ils étaient en demande pour les jeux sur PC et l'extraction de crypto-monnaie avant que ces marchés ne reculent tout au long de 2022.

L'automne dernier, le PDG Jensen Huang a déclaré qu'il avait construit trop de GPU de jeu et qu'il avait été contraint de les vendre moins cher. Cependant, au moment du prochain rapport de NVIDIA en février, avec ChatGPT partout dans l'actualité, les perspectives étaient plus prometteuses car Huang a mis en avant le potentiel de croissance du centre de données de NVIDIA, et le rapport le plus récent a montré un nouveau record de revenus du centre de données.

Au cours du week-end, le discours d'ouverture de Computex 2023 de NVIDIA était plein d'annonces sur l'IA, y compris une démo de jeux utilisant son Avatar Cloud Engine (ACE) pour que les jeux prennent en charge le langage naturel à la fois pour les entrées et les réponses et un nouveau supercalculateur DGX GH200 construit autour de son dernier Grace Hopper Superchip qui est collectivement capable d'un exaflop de performances d'IA.

Pour mémoire, le milliard d’instructions par seconde (gigaflops) a été dépassé en 1985 ; les 1000 milliards (téraflops) en 1997 ; le million de milliards en 2008. En 2016, le cap du pétaflops a été franchi par plus d’une centaine de machines de par le monde. L’exascale (exaflops), la capacité à effectuer un milliard de milliards de calculs chaque seconde, a été franchi par le système Frontier de l’Oak Ridge National Laboratory.

L'IA sur les lèvres de son PDG

S'exprimant lors de la cérémonie de remise des diplômes de l'université nationale de Taïwan, Jensen Huang a déclaré qu'ils ne pouvaient pas rêver d'une meilleure occasion pour avoir leurs diplômes. « L'année 1984 a été une année parfaite pour obtenir mon diplôme et je prédis qu'il en sera de même pour l'année 2023. En 2023, les diplômés entreront sur le marché du travail au moment même où l'IA aura réinventé l'informatique de A à Z. À tous égards, il s'agit de la renaissance de l'industrie informatique », a-t-il déclaré. Huang croit fermement aux potentiels de l'IA et prévient les entreprises et les personnes qui passeront à côté de cette révolution.

« Les entreprises agiles tireront profit de l'IA et renforceront leur position. Les entreprises moins agiles périront. Si certains craignent que l'IA ne leur prenne leur emploi, les experts en IA, eux, le prendront », ajouté Huang. D'après lui, l'IA générative sera utilisée comme copilote pour améliorer les performances des travailleurs dans un large éventail d'industrie, tout en créant de nouveaux emplois qui n'ont jamais existé et en rendant certains autres obsolètes. Il affirme que c'est le moment d'innover afin d'éviter les impacts. Huang a demandé aux étudiants de créer rapidement quelque chose de nouveau à l'ère de l'IA, sous peine d'être laissés pour compte.

« En 40 ans, nous avons créé le PC, Internet, le mobile, le cloud, et maintenant l'ère de l'IA. Qu'allez-vous créer ? Quoi qu'il en soit, courez-y comme nous l'avons fait. Courez, ne marchez pas. Soit vous courez pour trouver de la nourriture, soit vous courez pour ne pas devenir de la nourriture », a déclaré le PDG milliardaire. Ce n'est pas la première fois que Huang s'exprime sur l'IA avec autant d'enthousiasme. Lors d'une interview en mars, Huang est allé même jusqu'à déclarer qu'il comptait sur les capacités de l'IA et la robotique pour diriger NVIDIA pendant encore 3 à 4 décennies, ce qui lui donnerait au moins 90 ans au moment de son départ.

Sources : espace investisseurs NVIDIA, rapport trimestriel NVIDIA

Et vous ?

Que pensez-vous de la valorisation de Nvidia?
Quelles sont les applications d’IA que vous utilisez ou que vous aimeriez utiliser?
Quels sont les avantages et les inconvénients de l’IA générative?
Comment voyez-vous l’avenir de l’industrie des puces?