Discussion :

[Stan Adkens]

Tesla dévoile son nouveau superordinateur (5^e plus puissant au monde) pour entraîner l'IA de la conduite autonome,
La machine est actuellement utilisée et développée par la société

Tesla a dévoilé dimanche de nouvelles images de son superordinateur interne, qui sera utilisé pour aider à alimenter les fonctions Autopilot et l'intelligence artificielle qui sera utilisée pour le logiciel de conduite autonome intégrale (FSD) du constructeur de véhicules électriques. Le superordinateur de Tesla est actuellement utilisé et développé par la société pour former des réseaux neuronaux, qui sont des systèmes informatiques utilisés pour traiter de grandes quantités de données. Ce supercalculateur de l'entreprise – le cinquième plus puissant au monde – est en fait moins puissant que le supercalculateur "Dojo" de Tesla, qui sera capable d'un exaflops complet, soit 10¹⁸ opérations par seconde.

Derrière tous les superpouvoirs de la conduite autonome intégrale de Tesla se trouvent d'énormes ordinateurs qui traitent des milliards de kilomètres de données en utilisant le machine learning par le biais de réseaux neuronaux. Bien que les ordinateurs Tesla soient déjà puissants, le nouveau superordinateur de la société, baptisé "Dojo", sera le meilleur ordinateur d'apprentissage de la conduite jamais créé et peut-être le plus rapide jamais construit. Lors de l'Autonomy Day de Tesla en 2019, le PDG Elon Musk a révélé les plans du programme "Dojo", qui vise à créer le superordinateur le plus puissant du monde. Musk a affirmé que le projet sera capable de produire 1 exaflops, 1 trillion d'opérations à virgule flottante par seconde, ou 1 000 pétaflops.

Néanmoins, sur le chemin de sa création, Tesla en a créé un autre, moins puissant que "Dojo", mais déjà le cinquième ordinateur le plus puissant du monde. Le directeur de l'intelligence artificielle et de la vision Autopilot chez Tesla, Andrej Karpathy, a participé à la "2021 Conference on Computer Vision and Pattern Recognition". Lors de son discours, il a présenté le dernier superordinateur, qui est devenu le prédécesseur de "Dojo". Il a montré une photo de l'un de ses trois clusters.

Karpathy a également évoqué les caractéristiques du nouveau supercalculateur, soulignant que "Dojo" sera le prochain :

• 720 nœuds de 8x A100 80GB. (5760 GPU au total)
• 1,8 EFLOPS (720 nœuds * 312 TFLOPS-FP16-A100 * 8 gpu / nœuds)
• 10 PB de stockage NVME "hot tier" @ 1.6 TBps
• 640 Tbps de capacité de commutation totale

Tesla utilise les réseaux neuronaux pour étiqueter les données 4D provenant des vidéos prises par les huit caméras embarquées qui composent le système de vision de son véhicule. Ces données sont ensuite utilisées pour former le logiciel de Tesla à la navigation autonome de la voiture en utilisant uniquement le radar et les caméras.

Cependant, Tesla a récemment annoncé qu'il allait abandonner complètement le radar et qu'il avait commencé en mai à utiliser uniquement le système à base de caméras dans ses véhicules Model 3 et Model Y. L'objectif ultime de Tesla Vision est de fabriquer une voiture autonome qui soit beaucoup plus sûre que la personne moyenne.

« Nous avons un réseau d'architecture de réseau neuronal et nous avons un ensemble de données, un ensemble de données de 1,5 pétaoctets qui nécessite une énorme quantité de calcul. Je voulais donc faire connaître ce superordinateur dément que nous construisons et utilisons actuellement. Pour nous, la vision par ordinateur est le pain et le beurre de ce que nous faisons et ce qui permet à Autopilot de fonctionner », a déclaré le directeur de l'intelligence artificielle et de l'Autopilot Vision chez Tesla lors de la conférence.

« Et pour que cela fonctionne vraiment bien, nous devons maîtriser les données de la flotte, former des réseaux neuronaux massifs et faire beaucoup d’expériences. Nous avons donc beaucoup investi dans l'ordinateur. Dans ce cas, nous avons un cluster que nous avons construit avec 720 nœuds de 8x A100 de la version 80 GB. Il s'agit donc d'un superordinateur massif. Je pense en fait qu'en termes de flops, c'est à peu près le superordinateur numéro 5 dans le monde ».

Augmenter la vitesse et la précision de l'apprentissage de l’IA

Bien que Karpathy n'ait pas voulu donner de détails sur la dernière itération de Dojo, il a déclaré qu'il ferait passer les projets de supercalculateurs de Tesla au "niveau supérieur". Musk a noté lors de la conférence téléphonique sur les résultats du quatrième trimestre de l'entreprise en janvier que Dojo pourrait potentiellement être proposé comme service pour d'autres entreprises.

« Donc, certaines autres ont besoin d'une formation au réseau neuronal, nous n'essayons pas de le garder pour nous », a déclaré Musk. « Donc je pense qu'il pourrait y avoir toute une ligne d'activité en soi. Et puis, bien sûr, pour la formation de grandes quantités de données vidéo et pour obtenir une fiabilité de 100 % à 200 % supérieure à celle de l'homme moyen, voire 2 000 % supérieure à celle de l'homme moyen. Ce sera donc très utile à cet égard ».

L'objectif du superordinateur de Tesla est d'augmenter la vitesse et la précision de l'apprentissage d'au moins 10 fois par rapport à l'ordinateur actuel. Le nouveau supercalculateur est développé par l'entreprise pour augmenter le taux d'apprentissage des réseaux neuronaux côté serveur, ce qui rapprochera encore Tesla de la réalisation d'une autonomie full self-driving. Voici, ci-dessous, la présentation de Karpathy à la CCVPR 2021 :

Tesla a commencé à faire l'objet d'un examen minutieux en avril après que les autorités du Texas se soient demandé si l’Autopilot avait joué un rôle dans un accident mortel qui a tué deux personnes le 17 mai, bien que Musk et d'autres dirigeants de Tesla aient repoussé son implication. Une enquête préliminaire menée par le National Transportation Safety Board a révélé que le propriétaire de la Tesla s'était installé à la place du conducteur de la voiture peu avant l'accident. Les tests de l’organisme indépendant chargé d'enquêter sur les accidents de transport civil suggéraient que le système Autopilot du véhicule n'était "pas disponible" sur la route où l'accident s'est produit .

Dans un autre incident en Californie, qui est sur la liste des 30 enquêtes révélées la semaine dernière par la National Highway Traffic Safety Administration (NHTSA), un conducteur qui a été tué dans une Tesla a posté une photo de ses mains hors du volant avant l'accident, les autorités citant l’Autopilot comme un "facteur contributif" potentiel. En outre, un autre homme en Californie aurait été arrêté pour avoir conduit une Tesla Model 3 depuis le siège arrière et un homme a reçu une contravention après avoir prétendument dormi au volant d'une Tesla avec l’Autopilot activé.

Le California Department of Motor Vehicles a déclaré en mai qu'il examinait si Tesla trompait ses clients et violait les réglementations de l'État par le biais de publicités pour la FSD. Un porte-parole du DMV a déclaré que la violation des règlements de l'État peut entraîner un certain nombre d'actions administratives, y compris la suspension ou la révocation du permis de déploiement de véhicules autonomes et des licences professionnelles des fabricants et des concessionnaires.

Une Tesla équipée du pack FSD de 10 000 dollars peut changer de voie, emprunter les rampes de sortie d'autoroute et s'arrêter aux feux de signalisation et aux panneaux d'arrêt par elle-même. Toutefois, Tesla a rappelé dans ses manuels d'utilisation et sur son site Web que ces fonctions ne rendent pas le véhicule totalement autonome et que les conducteurs doivent être attentifs et prêts à agir à tout moment lorsqu'elles sont activées.

Source : CCVPR 2021

Et vous ?

Que pensez-vous du nouveau superordinateur de Tesla ?
Ces nouvelles capacités de formation de l’IA accélère-t-il la marche vers la conduite intégralement autonome des véhicules Tesla ?

Voir aussi :

Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production, et fera ses preuves ce mois-ci
Trente accidents de Tesla liés au système de conduite assistée font l'objet d'une enquête aux États-Unis, les accidents ont fait 10 morts depuis 2016
Deux personnes sont tuées dans un accident d'une voiture Tesla sans personne au volant, l'Autopilot serait activé, et les batteries de la voiture ne cessaient de raviver les flammes
Vous devez désormais être éveillé et assis dans le siège du conducteur pour conduire une Tesla, la caméra de l'habitacle veillera à cela lorsque Autopilot est activé

[AoCannaille]

• 720 nœuds de 8x A100 80GB. (5760 GPU au total)
• 1,8 EFLOPS (720 nœuds * 312 TFLOPS-FP16-A100 * 8 gpu / nœuds)
• 10 PB de stockage NVME "hot tier" @ 1.6 TBps
• 640 Tbps de capacité de commutation totale

Cela remplacerait avantageusement mon RaspberryPI en tant que Media Center.

[totozor]

Cependant, Tesla a récemment annoncé qu'il allait abandonner complètement le radar et qu'il avait commencé en mai à utiliser uniquement le système à base de caméras dans ses véhicules Model 3 et Model Y. L'objectif ultime de Tesla Vision est de fabriquer une voiture autonome qui soit beaucoup plus sûre que la personne moyenne.

Je me pose une question probablement bête mais est il vraiment pertinent d'utiliser la machine la plus intelligente du monde si elle n'est pas capable de capter toutes les données nécessaires?
Les caméras seront elles capables de voir la nuit/sous pluie abondante/dans certaines routes sinueuse et étroite de montagne.

C'est bien d'embaucher Einstein mais c'est mieux s'il est capable de voir le tableau sur lequel il travaille, non?

Pour moi Tesla fait ce qu'il fait de mieux : faire des grandes annonces qui ne semblent pas lier à la réalité du terrain.

[Stéphane le calme]

Elon Musk met fin aux travaux sur Dojo, le superordinateur développé par Tesla pour Autopilot et Full Self-Driving.
Une victoire éclatante pour Nvidia qui propose une puce d'entraînement IA plus efficace

Tesla a mis un terme à son ambitieux projet de supercalculateur, baptisé « Dojo ». Cette décision, confirmée par le PDG Elon Musk, marque la fin d'une initiative de plusieurs années visant à développer une solution interne pour la formation de ses algorithmes d'intelligence artificielle. Le projet, autrefois considéré comme un atout majeur pour la valorisation de l'entreprise, n'aurait pas réussi à atteindre ses objectifs face à la concurrence écrasante et à l'efficacité des solutions existantes, dominées par Nvidia.

Contexte : un rêve d’indépendance technologique

Le projet Dojo n’était pas un simple supercalculateur. Pour Elon Musk, il représentait l’ambition ultime : permettre à Tesla de s’affranchir de sa dépendance vis-à-vis de NVIDIA et d’autres fabricants de puces, en concevant un système optimisé spécifiquement pour ses besoins en intelligence artificielle. En 2021, lorsque le concept fut dévoilé, Tesla promettait une architecture révolutionnaire, bâtie autour de ses propres puces D1, capables de traiter des volumes massifs de données issues des millions de véhicules de la marque.

L’objectif : améliorer radicalement la formation du système Full-Self Driving (FSD) et alimenter les futurs produits d’IA, notamment le robot humanoïde Optimus.

À l’époque, certains analystes, dont Morgan Stanley, estimaient que Dojo pouvait ajouter jusqu’à 500 milliards de dollars de valeur boursière de Tesla.

Dojo, le superordinateur de Tesla pour entraîner les modèles derrière Autopilot et Full Self-Driving

Dojo est un superordinateur conçu par Tesla et utilisé pour entraîner les modèles d'apprentissage automatique qui sous-tendent les systèmes Autopilot et Full Self-Driving du constructeur de véhicules électriques, ainsi que son robot humanoïde Optimus. Il est basé sur une puce interne personnalisée appelée D1 et était destiné à être utilisé pour l'entraînement de modèles d'IA.

L'ordinateur recueille les données vidéo capturées par les véhicules et les traite rapidement afin d'améliorer les algorithmes de l'entreprise. Selon les analystes, Dojo pourrait constituer un avantage concurrentiel clé. Morgan Stanley estimait en 2023 qu'il pourrait ajouter 500 milliards de dollars à la valeur boursière de Tesla. « Plus nous examinions Dojo, plus nous réalisions le potentiel de valeur sous-estimée de l'action », ont déclaré les analystes de Morgan Stanley.

Tesla ferme le chapitre Dojo : quand l’ambition rencontre la réalité

Elon Musk a confirmé ce week-end les informations selon lesquelles Tesla avait dissous l'équipe travaillant sur son superordinateur d'entraînement IA Dojo, quelques semaines seulement après avoir annoncé qu'il prévoyait de mettre en service le deuxième cluster de Tesla « à grande échelle » en 2026.

« Une fois qu'il est devenu évident que toutes les voies convergeaient vers AI6, j'ai dû fermer Dojo et prendre des décisions difficiles en matière de personnel, car Dojo 2 était désormais une impasse évolutive », a déclaré Musk dimanche sur X, la plateforme de médias sociaux dont il est propriétaire. « Dojo 3 continue sans doute d'exister sous la forme d'un grand nombre de SoC AI6 sur une seule carte. »

Après avoir donné vie à son premier superordinateur Dojo et l'avoir équipé d'un mélange de GPU Nvidia et de puces D1 fabriquées en interne, Tesla avait prévu de construire une deuxième usine Dojo — appelée « Dojo 2 » par Musk — qui aurait été équipée d'une puce D2 de deuxième génération.

Il semble que la puce D2 en cours de développement ait été mise en veilleuse, tout comme le projet Dojo dans son ensemble, Tesla se concentrant désormais sur ses puces AI5 et AI6, qui sont respectivement fabriquées par TSMC et Samsung. La puce AI5 est principalement conçue pour alimenter le FSD (Full Self-Driving), le système d'aide à la conduite de Tesla, tandis que l'AI6 est conçue à la fois pour l'inférence embarquée (c'est-à-dire qu'elle promet d'alimenter la conduite autonome dans les voitures et les capacités autonomes des robots humanoïdes) et pour la formation à grande échelle en IA.

« Il n'est pas logique pour Tesla de diviser ses ressources et de développer deux conceptions de puces IA très différentes », a déclaré Musk vendredi. « Les puces Tesla AI5, AI6 et les suivantes seront excellentes pour l'inférence et au moins assez bonnes pour l'entraînement. Tous nos efforts sont concentrés là-dessus. »

Il a ajouté que pour un cluster de supercalculateurs, il était plus logique de placer « de nombreuses puces AI5/AI6 sur une carte, que ce soit pour l'inférence ou l'entraînement, simplement pour réduire la complexité et le coût du câblage réseau de plusieurs ordres de grandeur ».

« On pourrait appeler cela Dojo 3, je suppose », a-t-il déclaré.

Analyse stratégique : pragmatisme ou aveu d’échec ?

On peut lire cette décision de deux manières :

• Version optimiste : Tesla évite de s’enliser dans un projet qui ne tient pas ses promesses et se recentre sur une technologie plus viable.
• Version critique : l’entreprise reconnaît implicitement qu’elle ne peut pas rivaliser avec NVIDIA sur le terrain des supercalculateurs d’entraînement.

Dans les deux cas, le message est clair : le futur IA de Tesla ne passera pas par Dojo, mais par une combinaison d’innovations maison (AI6) et de partenariats externes.

D'un autre côté, une vidéo examine les raisons derrière l’abandon du projet Dojo par Elon Musk. Elle s’appuie sur plusieurs informations clés :

Narratif officiel de Musk : Elon Musk explique avoir mis fin à Dojo — notamment Dojo 2 et les plans pour Dojo 3 — parce que toutes les évolutions convergeaient vers la puce AI6. Selon lui, cette puce est si performante qu’elle rendait inutile le développement d’une architecture d’entraînement GPU spécifique. Il a donc choisi de concentrer toutes les ressources sur les puces AI5/AI6, quitte à les utiliser pour l’entraînement comme pour les applications embarquées : « Dojo 3 vit désormais sous la forme de nombreux SoC AI6 sur une même carte »

Mais la vidéo fait part de doutes vis-à-vis de cette justification. Elle pointe plusieurs éléments problématiques :

• Si la puce AI6 est si bonne, pourquoi évincer Peter Bannon, l’architecte en chef des puces ? Il aurait dû être valorisé, non licencié ou poussé dehors. Cela pourrait indiquer que l’abandon de Dojo est lié à la désertion de l’équipe, plutôt qu’à une simple décision technique.
• Fusionner les fonctions d’entraînement et d’inférence dans une même puce reste une aberration technique pour certains experts, étant donné que l’entraînement exige une grande précision numérique tandis que l’inférence priorise la faible latence et l’efficacité énergétique.

Elle note une érosion progressive du projet. Par exemple, Ganesha Venkataramanan, qui était à la tête du projet, a quitté Tesla en 2023 pour fonder DensityAI, une start-up spécialisée dans l'intelligence artificielle qui développe des puces, du matériel et des logiciels destinés à alimenter les centres de données pour les applications automobiles, robotiques et d'intelligence artificielle. Il a progressivement recruté 20 des meilleurs ingénieurs de Dojo

Par ailleurs, elle rappelle la motivation derrière Dojo en 2021 :

• En pleine crise mondiale des semi-conducteurs, Musk cherchait à sécuriser l’approvisionnement en développant une alternative interne au cas où NVIDIA ne pourrait pas livrer.
• Avec le recul, parier sur NVIDIA s’est révélé payant : leur stock a explosé, tandis que Tesla stagnait en bourse.

Elle parle aussi des raisons économiques :

• Tesla traverse une période financière compliquée.
• Les ressources doivent être concentrées sur les puces d’inférence, essentielles pour les robotaxis autonomes et la génération de revenus futurs.
• Les puces AI5/AI6 pourraient, en cas de besoin, être utilisées aussi pour l’entraînement.

Dans la conclusion de la vidéo, il est indiqué que :

• Dojo était plus un projet expérimental qu’un pilier stratégique.
• Sa fin est avant tout un réalignement pragmatique : miser sur ce qui fonctionne (NVIDIA + puces maison pour l’inférence) et ne pas gaspiller des ressources sur un concurrent peu compétitif.
• L’IA chez Tesla ne sera pas freinée par cet abandon.

Musk voyait en Dojo la possibilité d'avoir « une activité à part entière »

La première fois que cette initiative a été évoquée lors d'une conférence téléphonique sur les résultats trimestriels, c'était en janvier 2021. Musk a déclaré que Dojo « pourrait constituer une activité à part entière » et a suggéré que Tesla pourrait le proposer comme service à d'autres entreprises ayant besoin d'une formation en réseaux neuronaux.

Dojo a été évoqué à plusieurs autres occasions cette année-là. Un investisseur particulier a demandé s'il pouvait devenir une « activité similaire à AWS » pour Tesla, en référence aux services de cloud computing très lucratifs d'Amazon, avant que Musk ne tempère les attentes, du moins dans une certaine mesure.

En janvier 2022, il a déclaré que Dojo semblait être en bonne voie pour « faire quelque chose d'utile » au cours de l'été de cette année-là, une façon détournée de dire qu'il n'était pas encore particulièrement utile.

Mais quelques mois plus tard, Dojo était de nouveau un sujet de fierté.

« On me demande souvent pourquoi un constructeur automobile construit un superordinateur pour la formation. Cette question repose sur une incompréhension fondamentale de la nature de Tesla », a déclaré Peter Bannon, qui était à la tête de cette division, lors de l'événement AI Day de Tesla en septembre 2022. « Au fond, Tesla est une entreprise technologique pure et dure. »

Tesla a présenté des plateaux Dojo remplis de puces personnalisées et a déclaré que le système finirait par surpasser le meilleur matériel de Nvidia pour la formation en IA.

En juillet 2023, Musk a pour la première fois révélé le montant en dollars que cette initiative coûtait à l'entreprise. « Nous allons dépenser bien plus d'un milliard de dollars pour Dojo » au cours de l'année prochaine, a-t-il déclaré lors d'une conférence téléphonique sur les résultats financiers. Après avoir précédemment déclaré que Tesla n'essayait pas de garder Dojo pour elle seule, Musk en a parlé en termes plus compétitifs.

« Pour nous copier, vous devez également dépenser des milliards de dollars en calculs d'entraînement », a-t-il déclaré. « Vous avez besoin des données, et vous avez besoin des calculs d'entraînement. »

Conclusion

Musk parle de Dojo depuis 2019, réaffirmant que Dojo serait la pierre angulaire de la mission de Tesla visant à atteindre la conduite entièrement autonome et à commercialiser des robots humanoïdes. En 2022, lors de son événement annuel "AI Day", Tesla a dévoilé un super ordinateur tellement gourmand en énergie qu'il a provoqué une panne du réseau électrique.

Les discussions autour de Dojo ont cessé vers août 2024, lorsque Musk a commencé à vanter les mérites de Cortex, un « nouveau supercluster géant dédié à l'entraînement de l'IA, en cours de construction au siège de Tesla à Austin, afin de résoudre les problèmes concrets liés à l'IA ». On ne sait pas encore si Cortex est toujours en cours de développement.

Ce changement de stratégie intervient à un moment où Tesla connaît une baisse des ventes de véhicules électriques et une détérioration significative de son image de marque après les incursions de Musk dans la politique. Musk s'est efforcé de convaincre les investisseurs que Tesla avait encore un avenir dans le domaine de l'autonomie, malgré le lancement lent et limité du robotaxi à Austin en juin dernier, qui a donné lieu à de nombreux incidents signalés concernant le comportement problématique des véhicules.

La fermeture de Dojo illustre un changement profond dans la culture de Tesla : passer d’une ambition démesurée à une stratégie plus pragmatique. Elon Musk admet qu’il vaut mieux perdre une bataille que perdre la guerre de l’IA. Reste à voir si l’AI6 sera à la hauteur des attentes, ou si Tesla devra à nouveau réajuster ses plans.

Sources : Elon Musk, vidéo dans le texte

Et vous ?

La décision de Tesla de mettre fin à Dojo est-elle une reconnaissance de l'incapacité de l'entreprise à rivaliser avec Nvidia, ou une décision stratégique et pragmatique pour mieux allouer ses ressources ?

Ce pivot vers l’AI6 est-il une preuve de pragmatisme ou un aveu d’échec face à NVIDIA ?

Quelle analyse faites-vous de la situation ?