超強卡司!美成立聯邦AI安全委員會 OpenAI、微軟、輝達各家科技大佬全加入
鉅亨網新聞中心 2024-04-27 12:55
《華爾街日報》報導,美國正籌備全新的 AI 安全委員會,OpenAI 創辦人山姆 · 奧特曼、輝達 CEO 黃仁勳、微軟 CEO 納德拉,以及谷歌母公司 Alphabet 執行長皮查伊等科技巨頭高層將加入,其旨在美國關鍵基礎設施中安全使用人工智慧。
據報導,該委員會將與美國國土安全部合作,為電網營運商、運輸服務提供商和製造工廠等製定建議,說明如何在使用 AI 的同時保護其係統免受潛在破壞。 美國官員表示,AI 安全保障委員會是美國政府推動保護經濟、公共衛生和重要產業免受 AI 威脅危害的一部分,該委員會的成立,標誌著美國政府在人工智慧安全領域的積極態度和堅定決心。
據悉,該委員會將由近 20 人組成,小組成員還包括政府官員、學者、民權領袖以及關鍵基礎設施產業高層。 除了黃仁勳、山姆 · 奧特曼、納德拉、皮查伊外,還包括諾斯諾思羅普 · 格魯曼公司的首席執行官凱西 · 沃登和達美航空公司首席執行官埃德 · 巴斯蒂安。 其他成員是公職人員,如馬裡蘭州州長韋斯 · 摩爾和西雅圖市長布魯斯 · 哈雷爾,他們都是民主黨人。
美國國家安全官員長期以來一直警告國家關鍵基礎設施的漏洞,包括潛在的實體攻擊、網路入侵和事故。 雖然人工智慧可以提高燃料管道、通訊網路、航空和醫院的效率和安全性,但它也可能產生意想不到的問題。
美國國土安全部長馬約卡斯表示,將人工智慧技術嵌入國家的供水設施、交通系統和銀行為改善服務以造福美國人民的日常生活提供了「巨大的機會」,但也帶來了重大風險 。
馬約卡斯說:「在關鍵基礎設施方面,如果不能以安全、可靠和負責任的方式部署人工智慧,可能會造成毀滅性的後果。」人工智慧在關鍵基礎結構領域的潛在用途包括工廠的自動化任務(通常由人完成)、幫助醫生診斷患者和檢測電力設施中的異常情況。
去年 10 月 30 日,美國總統拜登簽署一項行政命令,為人工智慧安全制定了新標準。 美國媒體稱,這是拜登政府對人工智慧技術採取的第一個具有約束力的重大行動。
這項行政令要求,美國最強人工智慧系統的研發人員需與政府分享其安全測試結果及其他關鍵資訊;完善相關標準和測試工具,確保人工智慧系統安全、可靠;制定嚴密的合成生物檢查新標準 ,防範使用人工智慧設計危險生物材料的風險;建立檢測人工智慧生成內容和驗證官方內容的標準和最佳實踐,以幫助民眾防範人工智慧驅動的詐欺;建立先進的網路安全計劃,開發人工智慧工具 尋找和修補關鍵軟體漏洞;研發制定 "國家安全備忘錄",指導人工智慧和安全的進一步行動。
據介紹,美國國家標準與技術研究所將制定嚴格的人工智慧「紅隊」標準。 美國國土安全部將把這些標準應用於核心基礎設施項目,並成立人工智慧安全委員會。 美國能源部和國土安全部將具體應對人工智慧系統對關鍵基礎設施的威脅,及其帶來的化學、生物、放射性材料、核子和網路安全風險。
有分析家指出,加強監管的背後,是人工智慧產業的快速發展。 目前,全球 AI 熱潮如火如荼,產業前景廣闊。
下一篇