Intel ha annunciato di aver realizzato il sistema neuromorfico più grande del mondo. Dal nome in codice Hala Point, questo sistema neuromorfico su larga scala, inizialmente implementato presso i Sandia National Laboratories, utilizza il processore Loihi 2 di Intel, mira a supportare la ricerca per la futura intelligenza artificiale (IA) ispirata al cervello e affronta le sfide legate all'efficienza e alla sostenibilità dell'IA di oggi.
Hala Point – spiega l'azienda – è un'evoluzione del sistema di ricerca su larga scala di prima generazione di Intel, Pohoiki Springs, con miglioramenti architetturali che consentono di ottenere una capacità di neuroni 10 volte superiore e prestazioni fino a 12 volte superiori.
"Il costo di calcolo degli attuali modelli di IA sta aumentando a ritmi insostenibili. Il settore ha bisogno di approcci fondamentalmente nuovi in grado di scalare. Per questo motivo abbiamo sviluppato Hala Point, che combina l'efficienza del deep learning con nuove capacità di apprendimento e ottimizzazione ispirate al cervello. Ci auguriamo che la ricerca con Hala Point faccia progredire l'efficienza e l'adattabilità della tecnologia AI su larga scala", ha dichiarato Mike Davies, director of the Neuromorphic Computing Lab, Intel Labs.
Hala Point è il primo sistema neuromorfico su larga scala a dimostrare lo stato dell'arte dell'efficienza computazionale su carichi di lavoro AI mainstream, afferma Intel. La caratterizzazione mostra che può supportare fino a 20 quadrilioni di operazioni al secondo, o 20 petaops, con un'efficienza superiore a 15 trilioni di operazioni a 8 bit al secondo per watt (TOPS/W) nell'esecuzione di reti neurali profonde convenzionali. Questo valore – sottolinea l'azienda – rivaleggia e supera i livelli raggiunti dalle architetture basate su graphics processing unit (GPU) e central processing unit (CPU).
Le capacità uniche di Hala Point potrebbero consentire in futuro l'apprendimento continuo in tempo reale per applicazioni di IA come la risoluzione di problemi scientifici e ingegneristici, la logistica, la gestione delle infrastrutture delle smart city, i modelli linguistici di grandi dimensioni (LLM) e gli agenti di IA.
I ricercatori dei Sandia National Laboratories intendono utilizzare Hala Point per ricerche avanzate di brain-scale computing. L'organizzazione si concentrerà sulla risoluzione di problemi di calcolo scientifico in fisica dei dispositivi, architettura dei computer, informatica e scienze informatiche.
"Lavorare con Hala Point migliora la capacità del nostro team di Sandia di risolvere problemi di modellazione computazionale e scientifica. Condurre ricerche con un sistema di queste dimensioni ci permetterà di tenere il passo con l'evoluzione dell'IA in campi che vanno dal commercio alla difesa, fino alla scienza di base", ha dichiarato Craig Vineyard, Hala Point team lead, Sandia National Laboratories.
Attualmente, spiega Intel, Hala Point è un prototipo di ricerca che farà progredire le capacità dei futuri sistemi commerciali. Intel prevede che ciò porterà a progressi pratici, come la capacità degli LLM di apprendere continuamente da nuovi dati. Tali progressi promettono di ridurre in modo significativo l'insostenibile onere di addestramento delle applicazioni di IA diffuse.
Le recenti tendenze a scalare i modelli di deep learning fino a trilioni di parametri – afferma Intel – hanno messo in luce le scoraggianti sfide di sostenibilità dell'IA e hanno evidenziato la necessità di innovazione ai livelli più bassi dell'architettura hardware. Il neuromorphic computing è un approccio fondamentalmente nuovo che si basa sugli insight delle neuroscienze e che integra memoria e calcolo con un parallelismo altamente granulare per ridurre al minimo il movimento dei dati. Nei risultati pubblicati questo mese alla International Conference on Acoustics, Speech, and Signal Processing (ICASSP), Loihi 2 ha dimostrato guadagni di ordini di grandezza nell'efficienza, nella velocità e nell'adattabilità dei carichi di lavoro edge emergenti su piccola scala.
Grazie ai numerosi miglioramenti apportati al suo predecessore, Pohoiki Springs, Hala Point offre ora prestazioni neuromorfiche e guadagni di efficienza ai modelli convenzionali di deep learning, in particolare a quelli che elaborano carichi di lavoro in tempo reale come video, parlato e comunicazioni wireless. Ad esempio, Ericsson Research sta applicando Loihi 2 per ottimizzare l'efficienza delle infrastrutture di telecomunicazione, come evidenziato al Mobile World Congress di quest'anno.
I processori neuromorfici Loihi 2, che costituiscono la base di Hala Point, applicano i principi di calcolo ispirati al cervello, come le spiking neural network (SNN) asincrone e basate su eventi, la memoria e l'elaborazione integrate e le connessioni rade e in continuo cambiamento per ottenere guadagni di ordini di grandezza nel consumo energetico e nelle prestazioni. I neuroni comunicano direttamente tra loro invece di comunicare attraverso la memoria, riducendo il consumo energetico complessivo.
Hala Point racchiude 1.152 processori Loihi 2 prodotti su un nodo di processo Intel 4 in uno chassis per data center da sei unità delle dimensioni di un forno a microonde. Il sistema supporta fino a 1,15 miliardi di neuroni e 128 miliardi di sinapsi distribuiti su 140.544 core di elaborazione neuromorfica, con un consumo massimo di 2.600 watt di potenza. Include anche oltre 2.300 processori x86 integrati per i calcoli ausiliari.
Hala Point integra processing, memoria e canali di comunicazione in un fabric massicciamente parallelizzato, fornendo un totale di 16 petabyte al secondo (PB/s) di larghezza di banda di memoria, 3,5 PB/s di larghezza di banda di comunicazione inter-core e 5 terabyte al secondo (TB/s) di larghezza di banda di comunicazione inter-chip. Il sistema può elaborare oltre 380 trilioni di sinapsi a 8 bit e oltre 240 trilioni di operazioni neuronali al secondo.
Applicato a modelli di reti neurali spiking bioispirate, il sistema può eseguire la sua piena capacità di 1,15 miliardi di neuroni 20 volte più velocemente di un cervello umano e fino a 200 volte più velocemente a capacità inferiori. Sebbene Hala Point non sia destinato alla modellazione neuroscientifica, la sua capacità neuronale è approssimativamente equivalente a quella di un cervello di gufo o della corteccia di una scimmia cappuccina.
I sistemi basati su Loihi secondo Intel possono eseguire inferenze di intelligenza artificiale e risolvere problemi di ottimizzazione utilizzando 100 volte meno energia e con una velocità fino a 50 volte superiore rispetto alle architetture CPU e GPU convenzionali. Sfruttando la sparse connectivity fino a 10:1 e l'attività guidata dagli eventi, i primi risultati ottenuti su Hala Point mostrano che il sistema è in grado di raggiungere efficienze di rete neurale profonda fino a 15 TOPS/W2 senza richiedere la raccolta dei dati di input in batch, un'ottimizzazione comune per le GPU che ritarda in modo significativo l'elaborazione dei dati che arrivano in tempo reale, come i video dalle telecamere. Sebbene siano ancora in fase di ricerca, sottolinea Intel, i futuri LLM neuromorfici in grado di apprendere in modo continuo potrebbero far risparmiare gigawattora di energia, eliminando la necessità di un riallenamento periodico con dataset in continua crescita.
La consegna di Hala Point ai Sandia National Labs segna la prima implementazione di una nuova famiglia di sistemi di ricerca neuromorfi su larga scala che Intel intende condividere con i suoi collaboratori di ricerca. L'ulteriore sviluppo consentirà alle applicazioni di neuromorphic computing di superare i vincoli di potenza e latenza che limitano l'impiego delle capacità di IA nel mondo reale e in tempo reale.
Insieme a un ecosistema di oltre 200 membri della Intel Neuromorphic Research Community (INRC), tra cui gruppi accademici di primo piano, laboratori governativi, istituti di ricerca e aziende di tutto il mondo, Intel sta lavorando per superare i limiti dell'IA ispirata al cervello e far progredire questa tecnologia dai prototipi di ricerca ai prodotti commerciali all'avanguardia nei prossimi anni.