請同意我們的隱私權規範,才能啟用聽新聞的功能。
請同意我們的隱私權規範,才能啟用聽新聞的功能。
(中央社記者蘇思云台北17日電)資策會MIC今天分析,AI發展帶來新的資安風險,一類是AI系統作為攻擊目標,像是資料處理階段的資料污染,第二類是駭客利用AI進行網路攻擊,透過生成式AI加速駭客開發攻擊程式。
資策會產業情報研究所(MIC)16日到18日舉辦第37屆MIC FORUM Spring智賦研討會,今天聚焦生成式AI產品應用型態發展,分析AI引發的資安風險與衍生的防護發展。
生成式AI市場持續發展,投資規模與廠商數量仍急劇增加。資策會MIC產業顧問韓揚銘表示,根據MIC調查,2024年台灣五大行業有採用生成式AI意願或相關行動的比例已達19%,金融保險業高達25%,製造業居次達22%。
AI發展也帶來新的資安風險,也驅動防護發展與商機。資策會MIC表示,AI資安威脅有2類,第一類是AI系統為攻擊目標,包含資料處理階段的資料污染,以及模型部屬後攻擊,情境如模型遭竊導致對抗性攻擊、提示注入導致資料外洩,可能形成新的攻擊途徑。
資策會MIC指出,第二類是駭客利用AI進行網路攻擊,如深度偽造、識別系統漏洞、網路釣魚郵件,駭客透過生成式AI也會加速開發攻擊程式。
不同的威脅與攻擊樣態衍生不同的資安防護與商機。資策會MIC表示,資安已是國安層面的議題,推動AI監管法規已成為國際共識並逐漸具體化,企業為此須配合制定策略、流程,產出符合法規要求的評測與透明度報告,驅動可信任AI的流程與技術發展。
資策會MIC資深產業分析師徐暐釗分析,這將涉及攻擊偵測、弱點管理與紅隊演練等技術,直接影響AI資安新創的發展方向,觀察過去1年成長最多的AI資安新創,就是AI治理、風險與法遵等整合型資安新創。
訂閱《早安世界》電子報 每天3分鐘掌握10件天下事 請輸入正確的電子信箱格式 請輸入正確的電子信箱格式 訂閱 感謝您的訂閱!
因應AI網路攻擊,資策會MIC表示,AI在網路安全、防護應用具有巨大潛力,特別是應用在4個面向,包括偵測異常網路行為、強化威脅情資分析能力、強化弱點管理,以及偵測AI生成的文字與圖像詐欺。
徐暐釗指出,AI可強化網路安全商機,預期未來5年內,全球AI網路安全市場規模將超過350億美元。面對AI資安威脅,員工也是防護的關鍵一環,企業除了採取更主動與動態的安全策略,更須強化員工資安教育與培訓,提高企業對威脅的認識與應對力。(編輯:楊凱翔)1130417