高通AI Hub支援Snapdragon X系列平台 強化WoA應用
鉅亨網記者魏志豪 台北 2024-05-22 16:42
IC 設計大廠高通 (QCOM-US) 宣布，Qualcomm AI Hub 支援 Snapdragon X 系列平台，使開發人員能夠輕鬆利用筆電中同類型最佳的 CPU 和全球最快的 NPU，在新一代 Windows PC 發揮生成式 AI 的優勢，開發人員現在可以導入自己的 AI 模型，無縫最佳化後直接在裝置內運行。
高通資深副總裁暨技術規劃與邊緣解決方案總經理 Durga Malladi 表示，透過 Qualcomm AI Hub 支援 Snapdragon X 系列平台，將提供開發人員彈性和強大功能，為新一代 Windows PC 創造創新的 AI 應用程式。致力於為開發人員提供所需的工具和資源，充分釋放裝置上生成式 AI 的潛力。
Qualcomm AI Hub 是開發人員取得資源、工具和服務的途徑，以實現出色的裝置上 AI 效能，並擁有不斷增加的模型庫，其包含 100 多個預先最佳化的 AI 模型，並同步在 Hugging Face 和 GitHub 推出。
此外，Qualcomm AI Hub 現在允許開發人員「自帶模型」(Bring Your Own Model ，BYOM)，能夠專門針對 Snapdragon 和 Qualcomm 平台上傳、最佳化和編譯模型，包括支援 PyTorch、TensorFlow 和 ONNX 等所有主要框架。
開發人員可以在不到五分鐘的時間內，利用幾行程式碼輕鬆在雲端託管裝置上測試和驗證模型。簡化模型最佳化和驗證流程後，開發人員可以節省寶貴的時間和精力，加快開發和部署週期，協助加快迭代速度。
全球領先的 PC OEM 廠商，包括宏碁、華碩、戴爾、惠普、聯想、微軟 Surface 和三星，計劃推出搭載 Snapdragon X Elite 和／或 X Plus 運算平台的 PC，讓開發人員能夠使用 Qualcomm AI Hub 為此新世代裝置帶來出色的體驗。
Snapdragon X 系列平台支援廣泛的 AI 開發工具。由於與 ONNX Runtime 和 Hugging Face Optimum 深度整合以及對 Llama.cpp 的支援，開發人員現在可以在 Snapdragon X 系列平台上運行數千個模型，建立豐富的 AI 驅動 Windows 應用程式。開發人員也可以在 DeepLearning.AI 與高通技術公司合作提供的線上課程中學習裝置上 AI，以及如何在自家的應用程式中導入裝置上 AI。
下一篇