Nvidia lance un modèle d'IA open source léger pouvant fonctionner sur un seul GPU
Nvidia lance un modèle d'IA open source léger pouvant fonctionner sur un seul GPU : Nemotron 3.5 Lightning, comptant 30 milliards de paramètres, peut être téléchargé, utilisé et modifié gratuitement
Nvidia a lancé Nemotron 3.5 Lightning, un modèle d’IA open source léger qui, selon l’entreprise, peut fonctionner sur un seul processeur graphique d’un PC. Nvidia a précisé que ce modèle est libre de téléchargement, d’utilisation et de modification par les entreprises, sans autorisation ni paiement, et qu’il est conçu pour des « agents », c’est-à-dire des programmes d’IA capables de fonctionner de manière autonome en arrière-plan. Des représentants de Nvidia ont expliqué que la société avait eu recours à la distillation pour doter Nemotron 3.5 Lightning de capacités similaires à celles de ses modèles Nemotron plus puissants.
Nvidia est une multinationale américaine spécialisée dans les technologies, dont le siège social est situé à Santa Clara, en Californie. La société développe des processeurs graphiques (GPU), des systèmes sur puce (SoC) et des interfaces de programmation d'applications (API) destinés à la science des données, au calcul haute performance, à l'intelligence artificielle (IA), ainsi qu'aux applications mobiles et automobiles. Fondée en 1993 par Jensen Huang, Chris Malachowsky et Curtis Priem, Nvidia est souvent qualifiée de « Big Tech ».
Récemment, Nvidia a lancé Nemotron 3.5 Lightning, un modèle d’IA open source léger qui, selon l’entreprise, peut fonctionner sur un seul processeur graphique d’un PC. Nvidia a précisé que ce modèle est libre de téléchargement, d’utilisation et de modification par les entreprises, sans autorisation ni paiement, et qu’il est conçu pour des « agents », c’est-à-dire des programmes d’IA capables de fonctionner de manière autonome en arrière-plan.
Le fabricant de puces a également présenté le logiciel NeMo Switchyard, destiné à aider à déterminer le modèle d’IA le moins coûteux et le plus adapté à une tâche donnée. Des représentants de Nvidia ont expliqué que la société avait eu recours à la distillation pour doter Nemotron 3.5 Lightning de capacités similaires à celles de ses modèles Nemotron plus puissants. Cette annonce fait suite à la récente initiative du PDG Jensen Huang en faveur des modèles ouverts et à sa déclaration selon laquelle l’IA open source devrait être bénéfique pour le matériel et les puces.
Cette annonce intervient alors que Nvidia a lancé l'Open Secure AI Alliance, un consortium de 44 entreprises fondatrices dédié à la sécurité de l'intelligence artificielle (IA) axée sur les modèles ouverts, mais qui exclut délibérément OpenAI, Google et Anthropic. Cette initiative fait suite à une cyberattaque contre Hugging Face perpétrée par des modèles d'IA rebelles ayant échappé à l'environnement de test d'OpenAI.
Incapable de mobiliser les modèles fermés américains pour se défendre — leurs garde-fous ne permettant pas de distinguer l'attaquant du défenseur —, Hugging Face a dû recourir à GLM 5.2, un modèle chinois à poids ouverts auto-hébergé. Microsoft, SpaceX et Palantir ont rejoint l'initiative, alors que Washington envisage de sanctionner la Chine pour vol de propriété intellectuelle. À travers cette alliance, Nvidia positionne les modèles à poids ouverts comme une nécessité opérationnelle pour la cyber-résilience.
Voici l'annonce de Nvidia :
NVIDIA Nemotron 3.5 Lightning et NeMo Switchyard offrent une IA agentique plus rapide, plus intelligente et plus efficace
Alors que l’IA passe des chatbots aux agents autonomes, les modèles ouverts répondent aux exigences du marché qui souhaitent un contrôle total sur l’emplacement d’exécution de l’IA, ainsi que sur son déploiement et son évolution.
Aujourd’hui, NVIDIA élargit sa gamme de modèles Nemotron 3 avec Nemotron 3.5 Lightning, le modèle le plus performant de sa catégorie pour les charges de travail d’IA agentique de longue durée. Cette version fait suite à Nemotron 3 Nano et reflète l’engagement de NVIDIA à améliorer en permanence ses modèles ouverts pour une précision et une vitesse accrues.
Conçu pour des tâches spécialisées au sein de grands systèmes multi-agents, Nemotron 3.5 Lightning, un modèle « mixture-of-experts » de 30 milliards de paramètres, permet de créer des applications agentiques plus intelligentes et plus efficaces.
Par ailleurs, NVIDIA lance NeMo Switchyard, une bibliothèque open source dédiée au routage intelligent au sein des outils d’agents les plus courants. Les entreprises peuvent l’utiliser pour créer un routeur adapté à leurs besoins spécifiques. Une fois déployé, NeMo Switchyard peut diriger intelligemment chaque requête vers le modèle le plus performant et le mieux adapté à la tâche, parmi la combinaison de modèles ouverts, propriétaires et NVIDIA choisie par les développeurs, sans que ceux-ci aient à réécrire leurs applications.
Ensemble, Nemotron 3.5 Lightning et NeMo Switchyard offrent un meilleur contrôle sur la manière dont l’IA est déployée, l’endroit où elle s’exécute et son efficacité opérationnelle — que ce soit sur des PC, des stations de travail, dans des centres de données ou dans le cloud.
Les agents « toujours actifs » ont besoin d’un système de modèles
Les systèmes agentiques modernes — les agents « toujours actifs » — fonctionnent de plus en plus comme des systèmes de modèles, ou des ensembles de modèles, avec différents modèles spécialisés pour différentes tâches.
Les modèles ouverts NVIDIA Nemotron sont conçus pour cette architecture. Un modèle de raisonnement de pointe tel que Nemotron 3 Ultra ou GPT-5.6 peut planifier et orchestrer un flux de travail, tandis que des modèles spécialisés plus petits comme Nemotron 3.5 Lightning peuvent effectuer des tâches ciblées telles que la révision de code, l’utilisation d’outils, la surveillance des alertes de sécurité et la réponse aux questions de facturation.
Prise en charge de tâches spécialisées à haut volume avec Nemotron 3.5 Lightning
NVIDIA Nemotron 3.5 Lightning est un modèle ouvert entièrement personnalisable, conçu pour les tâches à haut volume et destiné à alimenter des agents fonctionnant en continu. Il a été développé avec la contribution de la Nemotron Coalition, dont les membres ont fourni des méthodologies d’évaluation, des logiciels d’inférence et des jeux de données pour faire progresser le modèle.
Le modèle offre une vitesse de sortie jusqu’à 4 fois plus rapide, ce qui se traduit par une exécution des tâches des agents 30 % plus rapide par rapport aux autres modèles de sa catégorie. Et comme il est ouvert et personnalisable, Nemotron 3.5 Lightning peut être facilement réentraîné avec NVIDIA NeMo à partir des données, des outils et des workflows propres à une organisation, afin d’améliorer la précision pour des tâches spécialisées.
Des leaders de l’IA issus de divers secteurs personnalisent Nemotron 3.5 Lightning pour leurs charges de travail, notamment CrowdStrike pour la cybersécurité, Harvey en collaboration avec Trajectory pour les services juridiques et CodeRabbit en collaboration avec Baseten pour la révision de code, contribuant ainsi à améliorer la précision des tâches agentiques spécifiques à leur domaine. De plus, Lila Sciences contribue à améliorer les capacités de raisonnement pour les tâches « agentiques » dans les domaines des sciences physiques et de la vie, tandis que Fastino Labs a personnalisé le modèle et obtient des niveaux de précision de pointe pour les charges de travail liées au développement logiciel, à la finance et à la santé.
Nemotron 3.5 Lightning offre également aux organisations un contrôle sur la confidentialité et le déploiement. Il peut fonctionner sur des systèmes d’IA locaux — notamment les PC NVIDIA RTX, NVIDIA DGX Spark, NVIDIA DGX Station et NVIDIA Jetson — afin d’aider les utilisateurs à tirer le meilleur parti de leurs investissements existants en infrastructure, ou à évoluer sur des appareils d’IA en périphérie, des stations de travail NVIDIA RTX PRO, des centres de données et des environnements cloud pour des cas d’utilisation en entreprise. De plus, Nemotron 3.5 Lightning peut fonctionner localement ou sur site pour des tâches spécialisées à haut volume nécessitant des réponses rapides.
De plus, comme à chaque lancement de Nemotron, NVIDIA publie autant de données et de techniques d’entraînement que le permettent les licences, ce qui permet la traçabilité, l’audit et l’entraînement d’autres modèles. Parallèlement à Lightning, NVIDIA lance Nemotron-RL-Agentic-Terminal-Pivot, un ensemble de données d’apprentissage par renforcement agentique utilisé pour le post-entraînement afin de développer des capacités d’agents de codage.
Des applications d’IA plus efficaces grâce au routage des modèles
Certains modèles sont plus adaptés au codage, d’autres au raisonnement, d’autres encore à des tâches légères, tandis que certains sont optimisés pour s’exécuter localement afin de garantir une confidentialité et une efficacité accrues. Si les clients s’appuient sur un seul modèle par défaut, ils risquent soit de dépenser trop, soit de perdre en qualité ; s’ils gèrent le routage manuellement, cela se transforme en un travail d’intégration susceptible de ralentir le déploiement.
NVIDIA NeMo Switchyard est une bibliothèque open source de routage de modèles destinée aux agents IA. Cette technologie achemine automatiquement les requêtes vers le modèle le plus performant et le plus efficace à chaque étape du flux de travail d’un agent, en fonction des besoins spécifiques. Les développeurs d’applications d’agents peuvent ajuster ou modifier le routeur à l’aide de différents algorithmes de routage afin de l’adapter à leurs priorités, telles que les exigences en matière de qualité, de latence et de coût. Au sein d’un système de modèles, les entreprises peuvent créer de puissants agents IA dotés d’une tokenomique améliorée.
Des tests de performance internes montrent que NeMo Switchyard maintient une précision de pointe tout en réduisant le coût d’exécution des tâches à près d’un tiers de celui d’Opus 4.8 utilisé seul.
NVIDIA collabore avec des partenaires de l’écosystème de l’IA afin d’intégrer le routage intelligent des modèles dans les outils et les plateformes que les développeurs utilisent déjà.
- Boomi : a évalué Switchyard sur cinq capacités de routage, atteignant une précision de routage par domaine de 100 %, en acheminant 59 % du trafic vers un modèle optimisé 5 fois plus rapide et en réduisant la latence en fin de traitement de 21 %.
- Cadence : a amélioré son efficacité de 9,9 % en utilisant le ChipStack AI Super Agent pour un cas d’utilisation de vérification formelle.
- Classmethod : exécute en interne des charges de travail opencode et Fireworks à l’aide de NeMo Switchyard ; les premiers tests montrent une réduction des coûts de 27 % tout en maintenant la qualité.
- Cognition : a intégré le routeur par étapes NVIDIA NeMo Switchyard dans Devin Desktop pour un usage interne chez NVIDIA, atteignant des performances proches de celles de FrontierCode Main tout en réduisant le coût moyen de 28 % par rapport à l’acheminement de toutes les requêtes vers un seul modèle Frontier sous-jacent.
- Kong : propose un routage avec NeMo Switchyard de manière native via Kong AI Gateway.
- LangChain : grâce à NeMo Switchyard, a réduit les coûts de 74 % pour 145 tâches « Deep Agents » à plusieurs itérations en acheminant seulement 7 % des appels vers un modèle Frontier, avec un compromis de 6 % en termes de précision.
- LiteLLM : ajoute NeMo Switchyard sous forme de plug-in à sa couche proxy afin que les développeurs puissent bénéficier de ces avantages sans modifier leur pile existante.
- Nous Research : a intégré NeMo Switchyard à Hermes afin de fournir aux développeurs un système de routage facile à configurer pour améliorer l’efficacité des agents.
- Ramp : a utilisé NeMo Switchyard pour égaler les performances d’un modèle de pointe tout en réduisant les coûts de 58 % et le temps d’exécution de 33 % dans Ramp SWE-Bench.
- Siemens : effectue actuellement des tests de performance pour améliorer l’efficacité de son agent IA Fuse EDA.
Source : Nvidia
Et vous ?
Pensez-vous que cette annonce est crédible ou pertinente ?
Voir aussi :
Répondre avec citation
Partager