全球主要經濟體及AI公司繼去年在英國召開第一場AI安全峰會後，近日再度在韓國召開峰會，除了號召各國建立安全監管機構跨國網絡之外，谷歌、Meta、微軟、OpenAI等16家AI公司也承諾制定安全守則，為AI安全把關。
來自美、英、日、韓等10國領袖及歐盟領袖在21日參與「AI首爾高峰會」的線上會議。這場由英、韓聯合舉辦的峰會為期兩天，21日採虛擬會議形式，22日採實體會議形式。
除了上述各國領袖之外，包括谷歌、Meta、微軟、OpenAI、亞馬遜、IBM、xAI、三星電子，以及來自大陸的騰訊、美團、智譜ai、小米也出席21日線上峰會，另有來自法國的Mistral AI及來自沙烏地阿拉伯的G42等公司與會。
發表開場演說的聯合國秘書長古特雷斯（Antonio Guterres）表示，去年11月英國舉辦第一場AI安全峰會以來，AI產業又發表更多技術演進，同時也對人類生活帶來更多新的威脅，從網路假消息到大規模監控系統都因AI技術精進而更加猖獗。
古特雷斯呼籲各國聯手為AI安全把關，而與會各國也同意建立跨國的安全機構網絡，其中包括英、美、日及新加坡等國已建立的AI安全監管機構。
上述16家AI公司也承諾建立自發性的AI安全守則，除了發表各自的AI風險評估機制之外，也承諾一旦發現自家AI研發計畫的風險超乎控制範圍，將自願停止研發。
參與21日線上會議的大規模語言模型開發商Cohere創辦人戈梅茲（Aidan Gomez）表示，去年11月以來各國對AI安全的疑慮已從長遠未來可能毀滅人類轉向近期未來的迫切威脅，例如網路假消息、資料安全、AI模型預設立場偏頗及威脅人類就業機會等正在發生的問題。
各國為了盡速建立周全法規監管快速發展的AI產業，近來已分頭進行立法。聯合國理事會在今年3月通過第一個關於AI系統的全球決議，歐盟理事會也在近日通過《AI法案》。