【明報專訊】人工智能(AI)公司OpenAI正研發新軟件Voice Engine,測試顯示透過輸入文字及15秒的錄音樣本,就能製作一段跟原本演講者非常相似的自然語音。不過該公司上周五(3月29日)在網誌稱意識到這類語音生成AI功能有嚴重風險,尤其在今年包括美國在內全球多地皆有選舉的大選年可能助長假資訊,因此在現階段決定暫不向公眾發布這款AI軟件。
15秒錄音即可合成人聲
OpenAI在2022年底已開始研究這款語音模仿軟件,初始版本用於生成式AI聊天機械人ChatGPT內建的文字轉語音功能,到去年底開始跟小部分可信賴合作伙伴展開測試,以了解軟件潛在用途。OpenAI稱,希望待社會增強抵禦力,以應對愈來愈有說服力的生成模型帶來的挑戰時,才向公眾發布Voice Engine這類AI語音生成工具。
在網誌中,OpenAI發布一些合作伙伴應用成果,如教育科技公司Age of Learning用它產生劇本配音;AI影片生成程式HeyGen讓用戶製作錄音內容的不同語言翻譯版本,同時保留原本說話者口音及聲線。美國羅得島的諾曼普林斯神經科學研究所更利用軟件,用一段質素不佳、來自一名年輕女子在學校演講的錄音,為她「恢復」因血管腦腫瘤而失去的聲音。此外,Voice Engine能應用於為孩童朗讀故事、企業產品介紹等各種場景。
生成音訊涵標示 來源可追蹤
經Voice Engine產生的音訊都會帶有標示,讓其他機構能追蹤音訊生成的來源,OpenAI又稱跟合作伙伴訂明使用程式時,須獲原始發言者的明確同意。OpenAI不容許開發者為個別用戶提供方法自行創建聲音。