Intel propose des catégories de processeurs et de composants très variées, parmi elles, nous trouvons les puces neuromorphiques, avec les Loihi. Ces puces sont dédiées à la recherche. Loihi 2 vient avec la plateforme Lava pour le développement des applications neuronales.
« Loihi 2 et Lava sont le fruit de plusieurs années de recherche collaborative sur Loihi. Notre puce de deuxième génération améliore considérablement la vitesse, la programmabilité et la connectivité du traitement neuromorphique, élargissant ainsi ses utilisations dans les applications informatiques intelligentes soumises à des contraintes de puissance et de latence. Nous ouvrons Lava pour répondre aux besoins de convergence logicielle, d’évaluation comparative et de collaboration multiplateforme dans ce domaine, et pour accélérer notre progression vers la viabilité commerciale », explique Mike Davies, Directeur du Intel’s Neuromorphic Computing Lab.
L’informatique neuromorphique, qui s’inspire des neurosciences pour créer des puces dont le fonctionnement s’apparente davantage à celui du cerveau biologique, cherche à apporter des améliorations de plusieurs ordres de grandeur en matière d’efficacité énergétique, de vitesse de calcul et d’efficacité de l’apprentissage dans toute une série d’applications de pointe : de la reconnaissance visuelle, vocale et gestuelle à la recherche de données, en passant par la robotique et les problèmes d’optimisation sous contraintes.
Loihi 2 améliore la prise en charge des méthodes d’apprentissage avancées, notamment les variantes de la rétropropagation, l’algorithme phare du deep learning. Cela élargit le champ des algorithmes d’apprentissage efficaces en matière d’adaptation et de données qui peuvent être pris en charge par des facteurs de forme à faible puissance fonctionnant dans des contextes en ligne.
Intel annonce que Loihi 2 peut contenir jusqu’à 1 million de neurones et améliorer les performances. Pour produire ces composants, Intel utilise de nouveaux procédés de fabrication qu’il appelle processus Intel 4.
A propos de Loihi 2
La puce de recherche intègre les enseignements tirés de trois années d’utilisation de la première génération de puce de recherche et tire parti des progrès réalisés par Intel en matière de technologie des processus et de méthodes de conception asynchrones.
- Les avancées de Loihi 2 permettent à l’architecture de prendre en charge de nouvelles classes d’algorithmes et d’applications neuro-inspirés, tout en offrant un traitement jusqu’à 10 fois plus rapide1, une densité de ressources jusqu’à 15 fois supérieure (2) avec jusqu’à 1 million de neurones par puce, et une meilleure efficacité énergétique. Bénéficiant de l’étroite collaboration avec le groupe de développement technologique d’Intel, Loihi 2 a été fabriqué avec une version de pré-production du processus Intel 4, ce qui souligne la santé et les progrès d’Intel 4. L’utilisation de la lithographie à ultraviolets extrêmes (EUV) dans le procédé Intel 4 a simplifié les règles de conception de la disposition par rapport aux technologies de procédé antérieures. Cela a permis de développer rapidement Loihi 2.
- Le cadre logiciel Lava répond au besoin d’un cadre logiciel commun dans la communauté de recherche neuromorphique. En tant que cadre ouvert, modulaire et extensible, Lava permettra aux chercheurs et aux développeurs d’applications de s’appuyer sur les progrès de chacun et de converger vers un ensemble commun d’outils, de méthodes et de bibliothèques. Lava fonctionne de manière transparente sur des architectures hétérogènes, qu’il s’agisse de processeurs conventionnels ou neuromorphes, ce qui permet une exécution multiplateforme et une interopérabilité avec divers cadres d’IA, de neuromorphes et de robotique. Les développeurs peuvent désormais commencer à créer des applications neuromorphes sans avoir accès à du matériel neuromorphe spécialisé et peuvent contribuer à la base de code de Lava, notamment en la portant sur d’autres plateformes.
Innovations clés
Loihi 2 et Lava fournissent des outils aux chercheurs pour développer et caractériser de nouvelles applications neuro-inspirées pour le traitement en temps réel, la résolution de problèmes, l’adaptation et l’apprentissage. Parmi les points forts notables, citons :
- Optimisation plus rapide et plus générale : La plus grande programmabilité de Loihi 2 permettra de prendre en charge une classe plus large de problèmes d’optimisation difficiles, notamment l’optimisation en temps réel, la planification et la prise de décision des systèmes de périphérie aux centres de données.
- Nouvelles approches pour l’apprentissage continu et associatif : Loihi 2 améliore la prise en charge des méthodes d’apprentissage avancées, notamment les variantes de la rétropropagation, l’algorithme phare du deep learning. Cela élargit le champ des algorithmes d’apprentissage efficaces en matière d’adaptation et de données qui peuvent être pris en charge par des facteurs de forme à faible puissance fonctionnant dans des contextes en ligne.
- Nouveaux réseaux neuronaux entraînables par deep learning : Les modèles de neurones entièrement programmables et la messagerie de pointes généralisée dans Loihi 2 ouvrent la porte à un large éventail de nouveaux modèles de réseaux neuronaux pouvant être entraînés par deep learning. Les premières évaluations suggèrent des réductions de plus de 2x moins d’opérations par inférence sur Loihi 2 par rapport aux réseaux profonds standards fonctionnant sur Loihi 1 sans perte de précision (3).
- Intégration transparente avec les systèmes robotiques du monde réel, les processeurs conventionnels et les nouveaux capteurs : Loihi 2 répond à une limitation pratique de Loihi en incorporant des interfaces d’E/S plus rapides, plus flexibles et plus standard. Les puces Loihi 2 prendront en charge les interfaces Ethernet, l’intégration sans colle avec une gamme plus large de capteurs de vision basés sur des événements, et des réseaux maillés plus importants de puces Loihi 2.
1 Basé sur des simulations Lava en septembre 2021 d’une variante à neuf couches de la charge d’inférence PilotNet DNN implémentée en tant que réseau neuronal sigma-delta sur Loihi 2, comparée au même réseau implémenté avec un codage de taux SNN sur Loihi. Le modèle de performance Lava pour les deux puces est basé sur la caractérisation du silicium en utilisant la version 1.0.0 du Nx SDK avec un processeur Intel Xeon E5-2699 v3 à 2,30 GHz, 32 Go de RAM, comme hôte exécutant Ubuntu version 20.04.2. Les résultats Loihi utilisent le système Nahuku-32 ncl-ghrd-04. Les résultats de Loihi 2 utilisent le système Oheo Gulch ncl-og-04. Les résultats peuvent varier.
2 Basé sur la taille du noyau Loihi 2 de 0,21 mm2 supportant jusqu’à 8192 neurones par rapport à la taille du noyau Loihi de 0,41 mm2 supportant jusqu’à 1024 neurones.
3 Basé sur des mesures de la charge de travail d’inférence PilotNet DNN à neuves couches référencées ci-dessus, avec une implémentation de réseau neuronal sigma-delta sur Loihi 2 atteignant une erreur quadratique moyenne (EQM) de 0,035 avec 323 815 opérations synaptiques par rapport à un SNN codé en taux sur Loihi 1 atteignant une EQM de 0,0412 avec 20 250 023 opérations synaptiques.