AI新創 搶兆美元大餅
美國晶片大廠輝達(Nvidia)成功帶起人工智慧(AI)晶片熱潮、並贏得第一輪AI大戰後,除了各家晶片大廠都想與輝達爭鋒,諸多AI晶片新創公司也另闢蹊徑,著眼提供運算管道、提高系統運算能力及節能等利基,搶食這塊規模預估1兆美元的市場大餅,期望撼動市場版圖。
道瓊社報導,過去以打造遊戲顯卡聞名的輝達,已把AI晶片市場做大,超微(AMD)執行長蘇姿丰已估算AI晶片市場到2027年時將達4,000億美元,英特爾(Intel)執行長基辛格也預測相關商機到2030年時將增至1兆美元,引發超微、英特爾及高通等大型晶片製造商,還有雲端運算供應商和新創公司爭搶市場。
Cerebras已在3月發表該公司迄今最大的晶片-72平方英吋的WSE-3,遠大於輝達H100晶片的約0.25平方英吋。Cerebras的晶片有4兆顆電晶體,運算能力是H100的50倍。
Groq創辦人羅斯曾在開發Google AI晶片扮演重要角色,他表示,Groq系統運算Meta的Llama 2-70b等模型的速度,是輝達系統的十倍快。
Groq也不銷售晶片給硬體和雲端業者,而是根據使用運算平台的時間收費。
d-Matrix聚焦於資料中心內的AI推論應用,使用名為「記憶體內運算」的設計,以加快運算速度,預料明年開始銷售晶片。
SambaNova也從系統下手,除了晶片,該公司也集結54種開源碼的AI模型,客戶涵蓋銀行、醫療保健及政府等領域。
已獲OpenAI執行長奧特曼支持的Rain AI,特別聚焦於節能以及在邊緣裝置運行大型語言模型,Lightmatte則以光子技術提高AI資料中心的網路速度。
不過,這些新創公司雖擁有重大構想,卻仍小規模經營,可能要花上多年才能槓上輝達,只是若進展加速,依然有望強力吸金並賺進更多營收。