為AI舖路 英特爾開發全世界最大的仿神經形態系統
英特爾實驗室神經形態運算總監Mike Davies表示,「當今訓練和布署AI模型的成本增加速度過快,業界需要有翻轉現況的新作法,因此英特爾實驗室開發出Hala Point,它結合深度學習效率、類人腦持續學習和最佳化功能。我們希望透過Hala Point,突破大規模AI的技術效率,並讓AI系統適應變化。」
Hala Point是業界第一款可在主流AI工作負載中,展現卓越運算效率的大規模仿神經形態系統,經過測試驗證,能支援每秒高達20千兆次(20 petaops)的傳統深度神經網路運算,超過每瓦15兆次8位元運算(TOPS/W),此速度等同於甚至超越目前的GPU和CPU架構。Hala Point的獨特功能可望在未來AI應用的即時連續學習方面帶來突破,例如科學和工程的問題解決、物流、智慧城市基礎設施管理、大型語言模型(LLM)和AI代理。
目前Hala Point仍處於原型階段,未來將可進一步應用於提升商業系統,英特爾預計這些經驗將帶來實際突破進展,例如提升大型語言模型(LLM)從新數據中持續學習的能力,進一步強化AI模型的訓練精準度,並大幅降低布署AI的訓練成本。
英特爾表示,Hala Point是在前一代Pohoiki Springs的基礎上大量改善,將仿神經形態性能和效率提升的優勢,延伸至視訊、語音和無線通訊等即時工作負載的主流深度學習模型中,推出後廣獲業界矚目,在今年世界行動通訊大會中,愛立信研究中心透過Loihi 2改善電信基礎設施效率的成果成為展會焦點。
Loihi 2神經形態處理器是Hala Point的核心基礎,此處理器應用非同步、基於事件的脈衝神經網路(Spiking Neural Network,SNN)、整合記憶和運算,以及關聯性推論類人腦運算原理;相較於目前需要定期使用不斷成長的數據集,重新訓練此類模型的方式,Loihi 2神經形態處理器不須透過記憶體,改以神經元直接相互溝通的作法,可有效降低整體功耗。