人工智慧(AI)推動產業與全球經濟邁進,資料對於AI學習和決策至關重要,資料處理需求預計將大幅成長。為了快速有效地從資料集獲取洞察,AI需要強大運算能力,資料中心和PC效能相當關鍵。
突破性技術將帶來挑戰,AI的環境足跡也成為產業努力解決的議題。但訓練與執行大型AI模型和工作負載須仰賴能源與資源,卻也讓企業面臨兩難,在擁抱突破性技術同時,也須履行環境永續承諾。然而,我們認為這兩項承諾都能被實踐。
Gartner報告指出:「多數CEO(94%)將增加永續發展與ESG投資,至少維持與2022年相似標準 。」此後,焦點轉向AI強大潛力。戴爾研究顯示,現階段76% IT決策者規劃增加預算支持生成式AI使用案例,78%決策者對投資AI能使其企業受益感到振奮。
這些資料看似自相矛盾,企業同時增加永續發展和能源密集技術的投資。若企業欲達到具企圖心的氣候行動目標,最好兩者並進,提升技術能力,同時達成更節能和永續的未來。
儘管AI需大量運算能力,但目前僅占全球IT能耗一小部分。隨著越來越多企業、政府和組織運用AI,情況將可能改變。強化對資料中心能耗的控制將為重要任務。IDC指出,IT決策者在IT規劃的首要永續發展事項為降低資料中心能源消耗。實用的解決方案將能協助達成此目標:
•節能永續技術:藉現代節能的伺服器和儲存設備及對環境負責的散熱方式,盡量減少AI碳足跡,並使用再生能源為資料中心供電。
•適度調整AI工作負載和資料中心的經濟特性:某些企業雖因龐大的通用大型語言模型(LLM)受益,但許多企業僅需將其用於特定領域。適度調整運算需求和基礎架構規模可支援更高的資料中心效率,彈性的「即付即用」模式協助企業在支援永續IT基礎架構的同時,也能節省資料中心成本。
•認知本地運算能力:在調整AI工作負載規模的過程,本地運算將在生成式AI模型的原型設計、開發、微調和推理中發揮重要作用。利用支援AI的PC於本地執行複雜的AI工作負載具有永續與其他優勢,包含成本效益、提升安全性和減少遲延。
•適時淘汰效率低的硬體:藉回收技術優化資料中心效能與能源消耗,許多計畫能回收元件及材料進行重複使用、翻新,進而減少電子垃圾,延長回收材料使用時間。延長材料在循環經濟中的使用時間,減少開發新材料的必要性。
•AI應用提升效率:在資料中心營運中,使用AI追蹤和分析資料,以優化監控和工作負載部署,將有助於優化效率、適度調整工作負載並降低能源成本。
<本文作者:廖仁祥現為台灣戴爾科技集團總經理>