英特爾力抗輝達 推新一代AI晶片Gaudi 3
鉅亨網記者魏志豪 台北 2024-04-09 23:35
英特爾指出,Gaudi 3 與前代產品相比,BF16 的 AI 運算量將提高 4 倍,記憶體頻寬也提升 1.5 倍,可為大規模部署 GenAI 的全球企業,帶來 AI 訓練和推論重大飛躍。
以同樣參數模型比較,英特爾指出,Gaudi 3 與輝達 H100 相比,在 70 億和 130 億個參數的 Llama2 模型以及 GPT-3 1750 億個參數模型中,平均訓練時間縮短 50%,推理吞吐量也高出 50%,尤其在 Llama 70 億個和 700 億個參數模型以及 Falcon 1800 億個參數模型的平均推理能效將比 H100 高 40%。
另外,英特爾也在此次 Vision 2024 揭露一套新的開放可擴展系統、下一代產品和戰略合作關係,以加速企業採用生成式 AI。
下一篇