我是廣告 請繼續往下閱讀
並已經在開源 Llama 和阿布達比支援的Falcon等模型上測試了Gaudi 3晶片,可以有效的訓練或部署大型的AI模型,包括圖文生成的Stable Diffusion和OpenAI的Whisper語音辨識模型等等。
英特爾Gaudi 3將由5奈米製程打造,晶片整體包含10個主要模組,包含2個運算模組和8個記憶體堆疊(HBM 模組),據了解,台積電、世芯、日月光、智邦、高技等台廠相關英特爾供應鏈皆將受惠。並預計戴爾、聯想、美超微等知名的OEM,都將使用Gaudi 3,預計今年第3季全面上市,而Gaudi 3 PCle附加卡預計在今年第4季上市。
同時,英特爾指出,Gaudi 3與輝達的H100相比,平均訓練時間縮短50%,在推理處理量,預計高出50%、推理效能平均高出40%。輝達生產的GPU成本相對高昂,客戶從效能、成本等方面考量,此次推出的Gaudi 3有望與輝達旗下的AI晶片競爭。
此外,英特爾在此次Vision 2024大會也揭露一套新的開放可擴展系統,下一代產品及戰略合作關係,以加速企業採用生成式AI。