高通攜手Meta 行動裝置也可運行Llama 3
鉅亨網記者魏志豪 台北 2024-04-21 09:20
高通 (QCOM-US) 與 Meta 宣布合作,在智慧型手機、PC、VR/AR 頭戴式裝置和汽車等終端裝置上,可直接運行 Meta Llama 3 大型語言模型 (LLM),並最佳化其執行表現。
雙方看好,在裝置上運行 Llama 3 可帶來顯著優勢,包括更出色的反應能力、增強的隱私和可靠性,以及為使用者打造更加個人化的體驗。
高通資深副總裁暨技術規劃和邊緣解決方案業務總經理 Durga Malladi 表示,我們讚賞 Meta 對於 Meta Llama 3 的開放策略,高通與 Meta 都致力於支持開發者,激發 AI 創新。高通在裝置上 AI 的領先地位,結合在不同邊緣裝置的廣泛影響力,使我們能夠在全球擴大 Llama 生態系的優勢,並使客戶、合作夥伴和開發人員能夠創造新一代具突破性的 AI 體驗。
此次合作旨在支援 OEM 廠商和開發人員,讓其能夠在搭載即將推出的旗艦 Snapdragon 平台裝置上取用 Llama 3,推動生成式 AI 功能的普及。高通強大的異質運算架構,無縫地利用業界領先的 CPU、GPU 和 NPU,並結合尖端的記憶體架構,使客戶、合作夥伴和開發人員能夠最大限度地提升應用效能、散熱效率和電池續航力。
開發人員將能在 Qualcomm AI Hub 上取得相關資源和工具,以實現在 Snapdragon 平台上最佳化運行 Llama 3。Qualcomm AI Hub 目前可提供約 100 個最佳化的 AI 模型,能為開發者縮短產品上市時間,並讓其開發的應用程式充分發揮裝置上 AI 的優勢。
高通和 Meta 致力於推動創新並實現新一代 AI 體驗,此次合作是雙方持續攜手努力的重要里程碑,展示了雙方以强大 AI 功能為開發人員和使用者提供支持的决心。
下一篇