AI武器面臨「奧本海默時刻」 多國專家籲訂定規範防機器殺人
〔編譯管淑平/綜合報導〕來自全球100多國的民用、軍事技術專家和官員,29日在奧地利開會,討論如何監管人工智慧(AI)技術結合軍事科技所帶來的風險,奧地利外交部長查倫柏警告,在AI自主武器系統上,正面臨「我們這一代的奧本海默時刻」,各國制定規範的時間已經不多。
「奧本海默時刻」意指被稱為「原子彈之父」的美國理論物理學家奧本海默(J. Robert Oppenheimer),在二次大戰期間協助美國開發原子彈並投入使用,之後提倡管控核武擴散。
隨著AI科技進展迅速,不需要人類決策介入就可進行擊殺的武器系統,也越來越接近成真,帶來道德和法律挑戰。包括烏克蘭和加薩等戰場,演算法和無人機已經在協助軍事行動規劃員,決定是否要打擊某個目標。
查倫柏29日在這場143國代表參與「自主武器系統與規範的挑戰」會議上說,「我們不能讓這個(奧本海默)時刻就這樣過去而不採取行動,現在就是時候,同意一份國際規範來確保人類的掌控權」他說,「至少要確保誰生、誰死這種影響最深遠的決定權,依然在人類手中,而非機器」。
目前全球多國已經採取行動,與企業合作將AI工具整合到其防禦系統,五角大廈向AI新創公司投入數百萬美元,歐盟上週與法國航空、防務公司「達利斯(Thales SA)」簽署合約,建立影像資料庫來協助評估戰場目標。
另外,以色列《+972》雜誌本月初披露,以軍正使用名為「薰衣草(Lavender)」的AI系統,輔助辨識狙擊目標。這份報導遭以國駁斥,不過,聯合國秘書長古特瑞斯表示,對於傳出在加薩軍事行動上運用AI科技「深感不安」,沒有任何生死應該交由冷冰冰的演算法來決定。
程式設計師出身、Google母公司Alphabet AI平台DeepMind技術的早期投資人塔林(Jaan Tallinn)指出,全球衝突蔓延,加上提供給各企業發展AI的資金誘因,增加了管控「殺手機器人」的挑戰。
他說,「我們已經看到,人工智慧所犯的大大小小錯誤,從把裁判的光頭誤認為是足球,到自動駕駛汽車無法辨識穿越馬路的行人導致行人死亡」,他呼籲,必須非常謹慎看待這些系統的準確性,無論是在軍事還是民用領域。
曾經在2017年一部短片中預測AI技術發展的物理學家艾奎爾(Anthony Aguirre)說,「殺人機器人的未來已經來了」,「我們需要一套由聯合國大會磋商的武器管控條約」。
不過,奧地利負責裁武事務官員克門特(Alexander Kmentt)認為,這方面牽涉的並非單項武器系統,而是綜合了軍民兩用科技,傳統的武器管控方式不會發揮作用,至少短期內不太可能達成,各國或許不得不運用各自的法律工具,如出口管制、人道法等,協助控制AI武器系統的擴散。