Discussion :

[Bruno]

Intel lance son processeur neuromorphique de nouvelle génération,
qui imite le fonctionnement des neurones

Intel a annoncé le 02 octobre un partenariat avec Sandia National Laboratories (Sandia) pour explorer la valeur de l'informatique neuromorphique. « Aujourd'hui, Intel Federal LLC annonce un accord de trois ans avec Sandia pour l’exploration de l'informatique neuromorphique dans le but de resourdre les problèmes de calcul à grande échelle », a déclaré Intel sur son site officiel. Les développeurs peuvent commencer à créer des applications neuromorphes sans avoir accès à du matériel neuromorphe spécialisé et peuvent contribuer à la base de code de Lava, notamment en la portant sur d'autres plateformes.

Sandia lancera ses recherches en utilisant un système Loihi de 50 millions de neurones qui a été livré à ses installations d'Albuquerque, au Nouveau-Mexique. Ce travail avec Loihi jettera les bases de la phase ultérieure de la collaboration, qui devrait inclure la poursuite de la recherche neuromorphique à grande échelle sur l'architecture neuromorphique de prochaine génération d'Intel et la livraison du plus grand système de recherche neuromorphique d'Intel à ce jour, qui pourrait dépasser plus d'un milliard de neurones en capacité de calcul.

Mike Davies, directeur du Neuromorphic Computing Lab d'Intel, explique les efforts de l'entreprise dans ce domaine. « En appliquant les capacités de haute vitesse, de haute efficacité et d'adaptation de l'architecture informatique neuromorphique, les Sandia National Labs exploreront l'accélération des charges de travail à forte demande et à évolution fréquente qui sont de plus en plus importantes pour notre sécurité nationale. Nous nous réjouissons de cette collaboration fructueuse qui mènera à la prochaine génération d'outils, d'algorithmes et de systèmes neuromorphiques capables d'évoluer jusqu'au niveau du milliard de neurones et au-delà », a déclaré Mike Davies.

Selon Intel, l'informatique neuromorphique consiste à repenser entièrement l'architecture des ordinateurs, de bas en haut. L'objectif est d'appliquer les dernières connaissances issues des neurosciences pour créer des puces qui fonctionnent moins comme des ordinateurs traditionnels et plus comme le cerveau humain. Les systèmes neuromorphiques reproduisent la manière dont les neurones sont organisés, communiquent et apprennent au niveau du matériel. Intel considère que sa puce de recherche Loihi et ses futurs processeurs neuromorphes définissent un nouveau modèle d'informatique programmable pour répondre à la demande croissante de dispositifs intelligents et omniprésents dans le monde.

Les processeurs Loihi d'Intel possèdent des composants électroniques qui se comportent comme des neurones. En esptembre, Intel a présenté Loihi 2, sa puce de recherche neuromorphique de deuxième génération, et Lava, un cadre logiciel open-source pour le développement d'applications neuro-inspirées. Leur introduction témoigne des progrès continus d'Intel dans l'avancement de la technologie neuromorphique.

« Loihi 2 et Lava sont le fruit de plusieurs années de recherche collaborative sur Loihi. Notre puce de deuxième génération améliore considérablement la vitesse, la programmabilité et la capacité du traitement neuromorphique, ce qui élargit ses utilisations dans les applications informatiques intelligentes soumises à des contraintes de puissance et de latence. Nous ouvrons Lava pour répondre aux besoins de convergence logicielle, d'évaluation comparative et de collaboration multiplateforme dans ce domaine, et pour accélérer notre progression vers la viabilité commerciale », avait indiqué Mike Davies.

La cellule réceptrice intègre diverses informations, si des neurones lui signalent qu'elle doit se taire, si elle était active dans le passé, etc. Une fois qu'un seuil est franchi, il déclenche un pic dans ses propres axones et peut déclencher l'activité d'autres cellules. En général, cela se traduit par des pics d'activité sporadiques, espacés de façon aléatoire, lorsque le neurone ne reçoit pas beaucoup de signaux. En revanche, dès qu'il commence à recevoir des signaux, il passe à l'état actif et déclenche une série de pics en succession rapide.

L'une des façons de comprendre comment le processus code et manipule les informations a été de recourir à ce que l'on appelle la neurobiologie théorique (ou neurobiologie computationnelle). Il s'agissait de tenter de construire des modèles mathématiques reflétant le comportement des systèmes nerveux et des neurones dans l'espoir d'identifier certains principes sous-jacents. Les réseaux neuronaux, qui se concentrent sur les principes d'organisation du système nerveux, sont l'un des efforts issus de ce domaine.

Les réseaux de neurones à impulsions, qui tentent de se construire à partir du comportement des neurones individuels, en sont un autre. Les réseaux de neurones à impulsions peuvent être mis en œuvre dans des logiciels sur des processeurs traditionnels. Mais il est également possible de les mettre en œuvre par le biais du matériel, comme le fait Intel avec Loihi. Le résultat serait un processeur très différent de tout ce qui existe en ce moment.

L'informatique neuromorphique, qui s'inspire des neurosciences pour créer des puces dont le fonctionnement s'apparente davantage à celui du cerveau biologique, aspire à améliorer de plusieurs ordres de grandeur l'efficacité énergétique, la vitesse de calcul et l'efficacité de l'apprentissage dans toute une série d'applications de pointe : vision, reconnaissance vocale et gestuelle, recherche, robotique et problèmes d'optimisation sous contraintes.

Les applications dont Intel et ses partenaires ont fait la démonstration à ce jour comprennent des bras robotiques, des peaux neuromorphiques et la détection olfactive. La puce de recherche intègre les enseignements tirés de trois années d'utilisation de la puce de recherche de première génération et tire parti des progrès réalisés dans la technologie des processus et les méthodes de conception asynchrones d'Intel.

• les avancées de Loihi 2 permettent à l'architecture de prendre en charge de nouvelles classes d'algorithmes et d'applications neuro-inspirés, tout en offrant un traitement jusqu'à 10 fois plus rapide, une densité de ressources jusqu'à 15 fois supérieure2 avec jusqu'à 1 million de neurones par puce, et une meilleure efficacité énergétique. Bénéficiant d'une étroite collaboration avec le groupe de développement technologique d'Intel, Loihi 2 a été fabriqué avec une version de pré-production du processus Intel 4, ce qui souligne la santé et les progrès d'Intel 4. L'utilisation de la lithographie à ultraviolets extrêmes (EUV) dans le procédé Intel 4 a simplifié les règles de conception de la disposition par rapport aux technologies de procédé antérieures. Cela a permis de développer rapidement Loihi 2 ;
• le framework logiciel Lava répond au besoin d'un cadre logiciel commun dans la communauté de recherche neuromorphique. En tant que framework ouvert, modulaire et extensible, Lava permettra aux chercheurs et aux développeurs d'applications de s'appuyer sur les progrès de chacun et de converger vers un ensemble commun d'outils, de méthodes et de bibliothèques. Lava fonctionne de manière transparente sur des architectures hétérogènes, qu'il s'agisse de processeurs conventionnels ou neuromorphes, ce qui permet une exécution multiplateforme et une interopérabilité avec divers cadres d'intelligence artificielle, neuromorphes et robotiques. Les développeurs peuvent commencer à créer des applications neuromorphes sans avoir accès à du matériel neuromorphe spécialisé et peuvent contribuer à la base de code de Lava, notamment en la portant sur d'autres plateformes.

Malgré leur nom, les réseaux neuronaux n'ont qu'un lointain rapport avec ceux qu’on trouve dans un cerveau. Bien que leur organisation et la façon dont ils transfèrent les données à travers les couches de traitement puissent présenter des similitudes grossières avec les réseaux de neurones réels, les données et les calculs effectués sur celles-ci seraient très familiers à une unité centrale standard.

Rappelons que la base du système nerveux est le type de cellule appelé neurone. Tous les neurones partagent quelques caractéristiques fonctionnelles communes. À une extrémité de la cellule, se trouvent des structures appelées dendrites, que l'on peut considérer comme des récepteurs. C'est là que le neurone reçoit les entrées d'autres cellules. Les cellules nerveuses possèdent également un axone, qui joue le rôle d'un émetteur, se connectant à d'autres cellules pour transmettre des signaux.

Ces signaux prennent la forme de ce que l'on appelle des « pointes », qui sont de brèves variations de tension à travers la membrane cellulaire du neurone. Les pointes se déplacent le long des axones jusqu'à ce qu'elles atteignent les jonctions avec d'autres cellules (appelées synapses), où elles sont converties en un signal chimique qui se rend à la dendrite voisine. Ce signal chimique ouvre des canaux qui permettent aux ions de pénétrer dans la cellule, déclenchant ainsi une nouvelle pointe sur la cellule réceptrice.

« Les chercheurs du laboratoire national de Los Alamos ont utilisé la plateforme neuromorphique Loihi pour étudier les compromis entre l'informatique quantique et l'informatique neuromorphique, ainsi que pour mettre en œuvre des processus d'apprentissage sur puce », a déclaré Gerd J. Kunde, chercheur au laboratoire national de Los Alamos. « Cette recherche a montré des équivalences intéressantes entre les réseaux de neurones à impulsions et les approches de recuit quantique pour résoudre des problèmes d'optimisation difficiles. Nous avons également démontré que l'algorithme de rétropropagation, un élément fondamental pour l'entraînement des réseaux neuronaux, que l'on croyait auparavant impossible à mettre en œuvre sur des architectures neuromorphiques, peut être réalisé efficacement sur Loihi. Notre équipe est impatiente de poursuivre ces recherches avec la deuxième génération de la puce Loihi 2 », a jouté Gerd.

Loihi 2 et Lava fournissent des outils aux chercheurs pour développer et caractériser de nouvelles applications neuro-inspirées pour le traitement en temps réel, la résolution de problèmes, l'adaptation et l'apprentissage. Parmi les points forts, on peut citer :

• une optimisation plus rapide et plus générale : la plus grande programmabilité de Loihi 2 permettra de prendre en charge une classe plus large de problèmes d'optimisation difficiles, y compris l'optimisation, la planification et la prise de décision en temps réel des systèmes de périphérie aux centres de données ;
• une nouvelles approches pour l'apprentissage continu et associatif : Loihi 2 améliore la prise en charge des méthodes d'apprentissage avancées, notamment les variantes de la rétropropagation, l'algorithme phare de l'apprentissage profond. Cela élargit le champ des algorithmes d'apprentissage efficaces en matière d'adaptation et de données qui peuvent être pris en charge par des facteurs de forme à faible puissance fonctionnant dans des environnements en ligne ;
• des nouveaux réseaux neuronaux pouvant être entraînés par l'apprentissage profond :les modèles de neurones entièrement programmables et la messagerie de pointes généralisée dans Loihi 2 ouvrent la porte à un large éventail de nouveaux modèles de réseaux neuronaux pouvant être entraînés par l'apprentissage profond. Les premières évaluations suggèrent des réductions de plus de 60 fois moins d'opérations par inférence sur Loihi 2 par rapport aux réseaux profonds standard fonctionnant sur le Loihi original sans perte de précision.
• intégration transparente avec les systèmes robotiques du monde réel, les processeurs conventionnels et les nouveaux capteurs : Loihi 2 répond à une limitation pratique de Loihi en incorporant des interfaces d'entrée/sortie plus rapides, plus flexibles et plus standard. Les puces Loihi 2 prendront en charge les interfaces Ethernet, l'intégration sans colle avec une gamme plus large de capteurs de vision basés sur des événements, et des réseaux maillés plus importants de puces Loihi 2.

Loihi 2 répond à une limitation pratique de Loihi en incorporant des interfaces d'entrée/sortie plus rapides, plus flexibles et plus standard. L'une des autres grandes différences entre les puces neuromorphiques et les processeurs traditionnels est l'efficacité énergétique, domaine dans lequel les puces neuromorphiques sont largement en avance. IBM, qui a présenté sa puce TrueNorth en 2014, a pu en tirer un travail utile même si elle était cadencée à un kiloHertz tranquille, et elle a utilisé moins de 0,0001 % de l'énergie qui serait nécessaire pour émuler un réseau neuronal à pointes sur des processeurs traditionnels.

Mike Davies, a déclaré que Loihi peut battre les processeurs traditionnels par un facteur de 2 000 sur certaines charges de travail spécifiques. « Nous constatons régulièrement que l'énergie est 100 fois moins importante pour le SLAM et d'autres charges de travail robotiques », a-t-il ajouté.

Source : Intel

Et vous ?

Quel commentaire faites vous des processeurs neuromorphique d'Intel ?

Êtes-vous pour ou contre ces types d'investissements et d'explorations ? Pourquoi ?

Voir aussi :

Intel va fabriquer des puces pour Qualcomm et veut rattraper ses rivaux d'ici 2025, grâce à de nouvelles architectures, notamment au nœud de processus "Intel 20A"

Samsung détrône Intel pour devenir le premier fabricant de semiconducteurs, en termes de chiffre d'affaires au deuxième trimestre

Intel se lance dans la bataille des GPU pour PC de jeu avec Arc, sa nouvelle marque de GPU pour jeux

TSMC, une fonderie taïwanaise de semiconducteurs, est sur le point de détrôner Intel, pour devenir le plus grand fabricant de puces au monde

[barakuete]

Cool

[Bruno]

La technologie des puces ressemblant à un cerveau pourrait faciliter les tâches d'IA à faible consommation,
comme la reconnaissance vocale

Intel a annoncé le 02 octobre de l’année dernière un partenariat avec Sandia National. « Aujourd'hui, Intel Federal LLC annonce un accord de trois ans avec Sandia pour l’exploration de l'informatique neuromorphique dans le but de résoudre les problèmes de calcul à grande échelle », a déclaré Intel sur son site officiel. Les développeurs peuvent commencer à créer des applications neuromorphes sans avoir accès à du matériel neuromorphe spécialisé et peuvent contribuer à la base de code de Lava, notamment en la portant sur d'autres plateformes. Les puces neuromorphiques Loihi d'Intel imitent le fonctionnement du cerveau. Comment Intel va tirer profit de ce silicium expérimental ?

Sandia lancera ses recherches en utilisant un système Loihi de 50 millions de neurones qui a été livré à ses installations d'Albuquerque, au Nouveau-Mexique. Ce travail avec Loihi jettera les bases de la phase ultérieure de la collaboration, qui devrait inclure la poursuite de la recherche neuromorphique à grande échelle sur l'architecture neuromorphique de prochaine génération d'Intel et la livraison du plus grand système de recherche neuromorphique d'Intel à ce jour, qui pourrait dépasser plus d'un milliard de neurones en capacité de calcul.

Lors d'une récente table ronde avec des journalistes, Rich Uhlig, responsable d'Intel Labs, a proposé l'intégration de Loihi dans un processeur pour PC afin d'effectuer des tâches d'intelligence artificielle à faible consommation d'énergie et l'offre potentielle de ses puces neuromorphiques en tant que service en cloud, bien que Uhlig ait précisé qu'il ne s'agissait pas de plans de produits réels, mais simplement d'une projection de ce qui pourrait théoriquement se produire à l'avenir.

« Pour l'instant, avec Loihi, nous sommes à un point où nous pensons être sur quelque chose, mais nous n'avons pas encore de plans de produits. Nous sommes en quelque sorte au début de ce processus de travail », a-t-il déclaré le mois dernier.

Les processeurs Loihi d'Intel possèdent des composants électroniques qui se comportent comme des neurones. En esptembre, Intel a présenté Loihi 2, sa puce de recherche neuromorphique de deuxième génération, et Lava, un cadre logiciel open-source pour le développement d'applications neuro-inspirées. Leur introduction témoigne des progrès continus d'Intel dans l'avancement de la technologie neuromorphique.

« Loihi 2 et Lava sont le fruit de plusieurs années de recherche collaborative sur Loihi. Notre puce de deuxième génération améliore considérablement la vitesse, la programmabilité et la capacité du traitement neuromorphique, ce qui élargit ses utilisations dans les applications informatiques intelligentes soumises à des contraintes de puissance et de latence. Nous ouvrons Lava pour répondre aux besoins de convergence logicielle, d'évaluation comparative et de collaboration multiplateforme dans ce domaine, et pour accélérer notre progression vers la viabilité commerciale », avait indiqué Mike Davies.

La cellule réceptrice intègre diverses informations, si des neurones lui signalent qu'elle doit se taire, si elle était active dans le passé, etc. Une fois qu'un seuil est franchi, il déclenche un pic dans ses propres axones et peut déclencher l'activité d'autres cellules. En général, cela se traduit par des pics d'activité sporadiques, espacés de façon aléatoire, lorsque le neurone ne reçoit pas beaucoup de signaux. En revanche, dès qu'il commence à recevoir des signaux, il passe à l'état actif et déclenche une série de pics en succession rapide.

L'une des façons de comprendre comment le processus code et manipule les informations a été de recourir à ce que l'on appelle la neurobiologie théorique (ou neurobiologie computationnelle). Il s'agissait de tenter de construire des modèles mathématiques reflétant le comportement des systèmes nerveux et des neurones dans l'espoir d'identifier certains principes sous-jacents. Les réseaux neuronaux, qui se concentrent sur les principes d'organisation du système nerveux, sont l'un des efforts issus de ce domaine.

Les réseaux de neurones à impulsions, qui tentent de se construire à partir du comportement des neurones individuels, en sont un autre. Les réseaux de neurones à impulsions peuvent être mis en œuvre dans des logiciels sur des processeurs traditionnels. Mais il est également possible de les mettre en œuvre par le biais du matériel, comme le fait Intel avec Loihi. Le résultat serait un processeur très différent de tout ce qui existe en ce moment.

L'informatique neuromorphique, qui s'inspire des neurosciences pour créer des puces dont le fonctionnement s'apparente davantage à celui du cerveau biologique, aspire à améliorer de plusieurs ordres de grandeur l'efficacité énergétique, la vitesse de calcul et l'efficacité de l'apprentissage dans toute une série d'applications de pointe : vision, reconnaissance vocale et gestuelle, recherche, robotique et problèmes d'optimisation sous contraintes.

Les neuropuces Loihi d'Intel sont en cours de développement depuis plusieurs années sous l'égide d'Intel Labs, qui est isolé des pressions commerciales au sein du géant des semi-conducteurs afin de pouvoir mener des recherches avancées sur « tous les circuits », comme le dit Uhlig. Cela va de la microarchitecture et de l'architecture système aux logiciels systèmes et aux compilateurs. Si le budget d'Intel Labs est protégé, l'objectif est de créer des technologies qui se transformeront un jour en produits. Le groupe a produit de nombreuses technologies commerciales par le passé, notamment Thunderbolt, la virtualisation assistée par matériel et Intel Software Guard Extensions.

Depuis qu'Intel a révélé ses puces Loihi en 2017, la société les a présentées comme une nouvelle façon de traiter les tâches d'IA plus rapidement en utilisant beaucoup moins d'énergie. Cela est rendu possible par le fait que les structures en forme d'épingle des neuropuces, qui sont censées reproduire les neurones d'un cerveau, ne consomment de l'électricité que lorsqu'elles apportent des données. En revanche, les processeurs traditionnels consomment de l'énergie, que tous les circuits traitent ou non des informations.

Cette percée dans le domaine de l'informatique économe en énergie permet à Loihi, par exemple, de traiter des recherches de similarité d'images 24 fois plus rapidement qu'un processeur central en utilisant seulement 30 fois moins d'énergie. La neuropuce peut également résoudre des problèmes d'optimisation complexes comme les puzzles Sudoku ou la programmation des trains 44 fois plus vite qu'un CPU en utilisant 2 800 fois moins d'énergie, un autre exemple offert par Intel.

Récemment, des chercheurs des laboratoires nationaux Sandia aux États-Unis ont découvert que Loihi était également adapté aux applications de calcul à haute performance, comme le suivi des mouvements des marchés financiers, la propagation des maladies au sein d'une population et les flux de données dans les réseaux sociaux. Ces cas d'utilisation représentent des choses qui pourraient éventuellement générer des revenus pour Intel, mais lorsqu'on a demandé à Uhlig comment Loihi pourrait se matérialiser en tant que produit réel, il a cité les exemples du PC et du cloud.

Pour l'exemple du PC, Uhlig a déclaré qu'Intel pourrait utiliser sa technologie de puce neuromorphique comme bloc de construction pour le silicium dans un système client nous pensons aux CPU dans ce cas. L'objectif serait d'exécuter des tâches d'IA courantes comme la reconnaissance vocale ou la reconnaissance des gestes.
Si l'utilisation de la technologie neuromorphique dans un processeur est une nouveauté, il existe un précédent d'intégration par Intel de technologies d'accélération spécialisées dans ses processeurs. L'un des exemples les plus marquants pour les PC est l'accélérateur neuronal gaussien qui a été introduit dans les processeurs Core de 10e génération d'Intel pour gérer des tâches à faible consommation comme la traduction en temps réel.

En ce qui concerne l'offre de neuropuces en tant que service cloud, Uhlig a déclaré qu'Intel Labs est désormais mieux placé sur le plan organisationnel pour proposer de tels produits à l'avenir. En effet, l'année dernière, Intel Labs a été placé sous la tutelle du Software and Advanced Technology Group, dirigé par Greg Lavender, directeur technique d'Intel. La nouvelle structure organisationnelle est un avantage pour Intel, a déclaré Uhlig, « parce que nous sommes en mesure de prendre notre innovation, en particulier les choses qui sont orientées vers le logiciel, et de les mettre à l'échelle par le biais de l'organisation de Greg », qui a pour charte d'identifier de nouvelles opportunités de revenus logiciels.

Pour ce qui est de la façon dont le développement de Loihi pourrait profiter à l'entreprise, Uhlig a déclaré que le fabricant de puces pourrait s'inspirer de la méthodologie de conception utilisée pour les neuropuces, appelée conception asynchrone, et l'appliquer à la fabrication d'autres puces. « Ce que nous pouvons faire, c'est prendre cette méthodologie de conception asynchrone et la déployer dans d'autres parties des produits Intel et obtenir une efficacité supplémentaire », a-t-il déclaré.

Les applications dont Intel et ses partenaires ont fait la démonstration à ce jour comprennent des bras robotiques, des peaux neuromorphiques et la détection olfactive. La puce de recherche intègre les enseignements tirés de trois années d'utilisation de la puce de recherche de première génération et tire parti des progrès réalisés dans la technologie des processus et les méthodes de conception asynchrones d'Intel.

• les avancées de Loihi 2 permettent à l'architecture de prendre en charge de nouvelles classes d'algorithmes et d'applications neuro-inspirés, tout en offrant un traitement jusqu'à 10 fois plus rapide, une densité de ressources jusqu'à 15 fois supérieure avec jusqu'à 1 million de neurones par puce, et une meilleure efficacité énergétique. Bénéficiant d'une étroite collaboration avec le groupe de développement technologique d'Intel, Loihi 2 a été fabriqué avec une version de pré-production du processus Intel 4, ce qui souligne la santé et les progrès d'Intel 4. L'utilisation de la lithographie à ultraviolets extrêmes (EUV) dans le procédé Intel 4 a simplifié les règles de conception de la disposition par rapport aux technologies de procédé antérieures. Cela a permis de développer rapidement Loihi 2 ;
• le framework logiciel Lava répond au besoin d'un cadre logiciel commun dans la communauté de recherche neuromorphique. En tant que framework ouvert, modulaire et extensible, Lava permettra aux chercheurs et aux développeurs d'applications de s'appuyer sur les progrès de chacun et de converger vers un ensemble commun d'outils, de méthodes et de bibliothèques. Lava fonctionne de manière transparente sur des architectures hétérogènes, qu'il s'agisse de processeurs conventionnels ou neuromorphes, ce qui permet une exécution multiplateforme et une interopérabilité avec divers cadres d'intelligence artificielle, neuromorphes et robotiques. Les développeurs peuvent commencer à créer des applications neuromorphes sans avoir accès à du matériel neuromorphe spécialisé et peuvent contribuer à la base de code de Lava, notamment en la portant sur d'autres plateformes.

Source : Intel

Et vous ?

Quel commentaire faites vous des processeurs neuromorphique d'Intel ?

Êtes-vous pour ou contre ces types d'investissements et d'explorations ? Pourquoi ?

Voir aussi :

Intel lance son processeur neuromorphique de nouvelle génération, qui imite le fonctionnement des neurones

Intel va fabriquer des puces pour Qualcomm et veut rattraper ses rivaux d'ici 2025, grâce à de nouvelles architectures, notamment au nœud de processus "Intel 20A"

Intel se lance dans la bataille des GPU pour PC de jeu avec Arc, sa nouvelle marque de GPU pour jeux

Samsung détrône Intel pour devenir le premier fabricant de semiconducteurs, en termes de chiffre d'affaires au deuxième trimestre

[Anthony]

Intel dévoile le plus grand ordinateur neuromorphique au monde "inspiré du cerveau", destiné à imiter la façon dont le cerveau traite et stocke les données, ce système pourrait améliorer l'efficacité de l'IA

Intel a créé le plus grand ordinateur neuromorphique au monde, un dispositif destiné à imiter le fonctionnement du cerveau humain. L'entreprise espère qu'il sera capable d'exécuter des modèles d'intelligence artificielle plus sophistiqués que les ordinateurs conventionnels, mais les experts estiment qu'il y a des obstacles techniques à surmonter avant que l'appareil puisse rivaliser avec l'état de l'art, et encore moins le dépasser.

Intel a annoncé aujourd'hui la construction du plus grand système neuromorphique au monde. Sous le nom de code Hala Point, ce système neuromorphique à grande échelle, initialement déployé aux Sandia National Laboratories, utilise le processeur Loihi 2 d'Intel, vise à soutenir la recherche sur l'intelligence artificielle (IA) future inspirée du cerveau, et s'attaque aux défis liés à l'efficacité et à la durabilité de l'IA d'aujourd'hui. Hala Point fait progresser le système de recherche à grande échelle de première génération d'Intel, Pohoiki Springs, grâce à des améliorations architecturales permettant de multiplier par 10 la capacité des neurones et par 12 les performances.

"Le coût informatique des modèles d'IA actuels augmente à un rythme insoutenable. L'industrie a besoin d'approches fondamentalement nouvelles capables de s'adapter. C'est pourquoi nous avons développé Hala Point, qui combine l'efficacité de l'apprentissage profond avec de nouvelles capacités d'apprentissage et d'optimisation inspirées du cerveau. Nous espérons que la recherche avec Hala Point fera progresser l'efficacité et l'adaptabilité des technologies d'IA à grande échelle", a déclaré Mike Davies, directeur du Neuromorphic Computing Lab chez Intel Labs.

Que fait-il ?

Hala Point est le premier système neuromorphique à grande échelle à démontrer une efficacité de calcul de pointe sur des charges de travail d'IA courantes. La caractérisation montre qu'il peut prendre en charge jusqu'à 20 quadrillions d'opérations par seconde, soit 20 pétaops, avec une efficacité supérieure à 15 billions d'opérations 8 bits par seconde et par watt (TOPS/W) lors de l'exécution de réseaux neuronaux profonds conventionnels. Ces performances rivalisent avec les niveaux atteints par les architectures basées sur les unités de traitement graphique (GPU) et les unités centrales de traitement (CPU), voire les dépassent. Les capacités uniques de Hala Point pourraient permettre un futur apprentissage continu en temps réel pour des applications d'IA telles que la résolution de problèmes scientifiques et d'ingénierie, la logistique, la gestion des infrastructures des villes intelligentes, les grands modèles de langage (LLM) et les agents d'IA.

Comment sera-t-il utilisé ?

Les chercheurs des laboratoires nationaux Sandia prévoient d'utiliser Hala Point pour la recherche informatique avancée à l'échelle du cerveau. L'organisation se concentrera sur la résolution de problèmes de calcul scientifique dans les domaines de la physique des dispositifs, de l'architecture informatique, de l'informatique et de l'informatisation.

"Travailler avec Hala Point améliore la capacité de notre équipe Sandia à résoudre des problèmes de calcul et de modélisation scientifique. Mener des recherches avec un système de cette taille nous permettra de suivre l'évolution de l'IA dans des domaines allant du commerce à la défense en passant par la science fondamentale", a déclaré Craig Vineyard, chef de l'équipe Hala Point aux Sandia National Laboratories.

Actuellement, Hala Point est un prototype de recherche qui permettra d'améliorer les capacités des futurs systèmes commerciaux. Intel prévoit que ces enseignements conduiront à des avancées pratiques, telles que la capacité des LLM à apprendre continuellement à partir de nouvelles données. De telles avancées promettent de réduire de manière significative la charge de formation insoutenable des déploiements d'IA à grande échelle.

Pourquoi est-il important ?

Les tendances récentes en matière de mise à l'échelle des modèles d'apprentissage profond à des billions de paramètres ont mis en évidence les défis redoutables en matière de durabilité de l'IA et ont souligné la nécessité d'innover aux niveaux les plus bas de l'architecture matérielle. L'informatique neuromorphique est une approche fondamentalement nouvelle qui s'appuie sur des connaissances neuroscientifiques intégrant la mémoire et le calcul avec un parallélisme très granulaire pour minimiser le mouvement des données. Dans les résultats publiés lors de la conférence internationale sur l'acoustique, la parole et le traitement des signaux (ICASSP) de ce mois d'avril, Loihi 2 a démontré des gains de plusieurs ordres de grandeur en termes d'efficacité, de vitesse et d'adaptabilité des charges de travail émergentes à petite échelle.

Par rapport à son prédécesseur, Pohoiki Springs, et grâce à de nombreuses améliorations, Hala Point apporte désormais des gains de performance et d'efficacité neuromorphiques aux modèles d'apprentissage profond conventionnels courants, notamment ceux qui traitent des charges de travail en temps réel telles que la vidéo, la parole et les communications sans fil. Par exemple, Ericsson Research applique Loihi 2 pour optimiser l'efficacité des infrastructures de télécommunications, comme cela a été souligné lors du Mobile World Congress de cette année.

À propos de Hala Point

Les processeurs neuromorphiques Loihi 2, qui constituent la base de Hala Point, appliquent des principes informatiques inspirés du cerveau, tels que les réseaux de neurones à pointes (SNN) asynchrones et basés sur les événements, la mémoire et l'informatique intégrées, et les connexions éparses et changeant continuellement, afin d'obtenir des gains de l'ordre de la magnitude en termes de consommation d'énergie et de performance. Les neurones communiquent directement entre eux plutôt que de passer par la mémoire, ce qui réduit la consommation d'énergie globale.

Hala Point intègre 1 152 processeurs Loihi 2 produits sur un nœud de traitement Intel 4 dans un châssis de centre de données de six unités de la taille d'un four à micro-ondes. Le système prend en charge jusqu'à 1,15 milliard de neurones et 128 milliards de synapses répartis sur 140 544 cœurs de traitement neuromorphique, consommant au maximum 2 600 watts d'énergie. Il comprend également plus de 2 300 processeurs x86 intégrés pour les calculs auxiliaires.

Hala Point intègre les canaux de traitement, de mémoire et de communication dans une structure massivement parallélisée, offrant un total de 16 pétaoctets par seconde (PB/s) de bande passante de mémoire, 3,5 PB/s de bande passante de communication inter-noyaux et 5 téraoctets par seconde (TB/s) de bande passante de communication inter-puces. Le système peut traiter plus de 380 billions de synapses de 8 bits et plus de 240 billions d'opérations sur les neurones par seconde.

Appliqué à des modèles de réseaux de neurones à pointes bio-inspirés, le système peut exécuter sa pleine capacité de 1,15 milliard de neurones 20 fois plus vite qu'un cerveau humain et jusqu'à 200 fois plus vite à une capacité plus faible. Bien que Hala Point ne soit pas destiné à la modélisation neuroscientifique, sa capacité en neurones est à peu près équivalente à celle du cerveau d'un hibou ou du cortex d'un singe capucin.

Les systèmes basés sur Loihi peuvent effectuer des inférences d'IA et résoudre des problèmes d'optimisation en utilisant 100 fois moins d'énergie à des vitesses jusqu'à 50 fois plus rapides que les architectures CPU et GPU conventionnelles. En exploitant une connectivité éparse jusqu'à 10:1 et une activité événementielle, les premiers résultats obtenus sur Hala Point montrent que le système peut atteindre une efficacité de réseau neuronal profond de 15 TOPS/W sans nécessiter la collecte des données d'entrée par lots, une optimisation courante pour les GPU qui retarde considérablement le traitement des données arrivant en temps réel, telles que les vidéos provenant de caméras. Bien qu'il s'agisse encore de recherches, les futurs LLM neuromorphiques capables d'apprentissage continu pourraient permettre d'économiser des gigawattheures d'énergie en éliminant la nécessité d'un réentraînement périodique avec des ensembles de données de plus en plus volumineux.

Prochaines étapes

La livraison de Hala Point au Sandia National Labs marque le premier déploiement d'une nouvelle famille de systèmes de recherche neuromorphiques à grande échelle qu'Intel prévoit de partager avec ses collaborateurs de recherche. La poursuite du développement permettra aux applications informatiques neuromorphiques de surmonter les contraintes de puissance et de latence qui limitent le déploiement en temps réel des capacités d'IA dans le monde réel.

En collaboration avec un écosystème de plus de 200 membres de la communauté de recherche neuromorphique d'Intel (INRC), comprenant des groupes universitaires de premier plan, des laboratoires gouvernementaux, des institutions de recherche et des entreprises du monde entier, Intel s'efforce de repousser les limites de l'IA inspirée par le cerveau et de faire progresser cette technologie des prototypes de recherche aux produits commerciaux de pointe dans les années à venir.

Source : "Intel Builds World’s Largest Neuromorphic System to Enable More Sustainable AI" (Intel)

Et vous ?

Qu'en pensez-vous ?
Trouvez-vous cette initiative d'Intel crédible ou pertinente ?

Voir aussi :

La technologie des puces ressemblant à un cerveau pourrait faciliter les tâches d'IA à faible consommation, comme la reconnaissance vocale

Intel lance son processeur neuromorphique de nouvelle génération, qui imite le fonctionnement des neurones