▲OpenAI於上月底公布語音AI工具 。(圖/路透)
記者吳美依/綜合報導
美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」,只需要短短15秒的說話聲音樣本,就能複製出此人聲音。不過,該公司也認定這項語音複製工具風險太大,不適合全面發布。
「Voice Engine」於2022年首次研發,初始版本被使用在ChatGPT內建文字轉語音功能。其生成結果不受聲音樣本語種限制,若說的是英文,這項技術可使用你的聲音,生成西班牙語、法語等其他語言結果。不過,考量到存在濫用風險,現階段僅提供合作夥伴使用,尚未對外開放。
《衛報》報導,OpenAI延遲推出「Voice Engine」,是為了在至關重要的全球大選年,最大限度地減少假消息出現的可能性。
OpenAI在一篇貼文中表示,目前「Voice Engine」的生成結果都有浮水印,以利追蹤生成式音檔的來源。與合作夥伴的使用條款也規定,必須取得原始說話者的明確知情同意,更不允許開發人員讓個人用戶自行創造聲音檔案。
OpenAI表示,「目前選擇預覽而非廣泛發布這項技術」,是為了強化社會面對「更具說服力的生成式模型」的能力,呼籲逐步淘汰語音認證,作為登入銀行帳戶或其他敏感資訊的安全措施,制定在AI領域使用個人聲音的保護政策,以及推廣理解AI能力與限制、包括欺騙性內容的公眾教育。
OpenAI寫道,「我們希望針對負責任地使用合成聲音,以及社會如何適應這些新功能,展開一場對話」,並且根據對話結果及小規模測試,對於是否、如何大規模使用這項技術,做出更明智的決定。