【明報專訊】英國與韓國周二（21日）舉行一連兩天人工智能（AI）網上安全峰會。在峰會首日，有來自北美、歐洲、中東、亞洲等16家企業簽署與AI科技研發有關的安全承諾。十多家科企周三表明，會安全地研發AI。
發布AI安全框架交代風險
英國科學、創新與技術部（DSIT）周二表示，有16家AI科技企業簽署「前沿AI安全承諾」（Frontier AI Safety Commitments），包括研發AI聊天機械人ChatGPT的OpenAI、亞馬遜、Google、facebook母企Meta、微軟、IBM、三星電子、和中國的智譜AI等。
這些企業將各自發布AI安全框架，向大眾說明未來將如何測算自家前沿AI模型的安全風險，包括遭惡意行為者濫用的風險，以及各家企業對安全風險的最高容忍極限為何、如何確保AI模型的安全風險不會超越此預設門檻。在極端情况下，若企業在採取補救措施後仍未能將AI模型或系統的安全風險保持在門檻以下，則不得繼續發展或進一步部署該模型或系統。
英國去年11月召開首屆全球AI安全峰會，有近30國官方代表及逾80個學術研究機構、企業和公民組織與會。今次網上峰會是後續會議，規模較小，下一場實體峰會由法國在明年主辦。