划重点:
- 👾 OpenAI CEO Sam Altman 坚称公司的 AI 技术安全可广泛使用
- 🤖 AI 模型类似斯嘉丽・约翰逊引发争议，OpenAI 应对长期 AI 风险的团队解散
- 🔍 尽管存在担忧，Altman 强调 OpenAI 已经投入大量工作确保模型安全
站长之家（ChinaZ.com）5月22日 消息:OpenAI 首席执行官 Sam Altman 在微软活动中坚称，OpenAI 的 AI 技术已经足够安全，可以广泛应用。这一表态发生在一场新的争议爆发之际，涉及一款 OpenAI 的 AI 语音与女演员斯嘉丽・约翰逊的声音极为相似。
Altman 在2022年 OpenAI 发布 ChatGPT 之后声名鹊起，如今他也面临着关于公司 AI 安全性的问题，尤其是在负责减轻长期 AI 风险的团队离职之后。Altman 告诉寻求利用 OpenAI 技术开发新产品的开发者们说:“现在是一个特殊的时刻，抓住机会。” 他强调:“现在不是推迟计划或等待下一个时机的时候。”
OpenAI 与微软关系密切，为构建 AI 工具提供了基础技术，主要是 GPT-4大型语言模型。微软已经加入 AI 浪潮，推出新产品，并敦促用户拥抱生成式 AI 的功能。Altman 表示:“我们有点理所当然地认为”，GPT-4虽然 “远非完美... 但被普遍认为足够稳健和安全，可以广泛应用。”
然而，就在 OpenAI 解散负责减轻长期 AI 风险的 “超对齐” 团队后，关于 OpenAI 对安全的承诺再次浮出水面。在宣布离职时，团队联合负责人 Jan Leike 在 X（原名 Twitter）上发帖批评 OpenAI 优先考虑 “闪亮的新产品” 而非安全性。接着，女演员斯嘉丽・约翰逊公开发表声明，对 OpenAI 的 ChatGPT 中使用类似她在2013年电影《她》中的声音感到愤怒。OpenAI 最近发布的更接近人类的 GPT-4o 模型中出现了名为 “Sky” 的声音。
在周二的一份简短声明中，Altman 向约翰逊道歉，但坚称该声音并非基于她的声音。尽管存在争议，Altman 强调 OpenAI 已经投入 “大量工作” 确保模型的安全性。
（举报）