划重点:
- 🤖 美英宣布合作,共同研究人工智能安全,关注下一代 AI 版本的发展。
- 🔬 合作重点在于开发先进的 AI 模型测试,以应对国家安全和社会广泛关切的风险。
- ⚙️ 美国和英国计划联合进行至少一次公开模型测试,同时考虑与其他国家合作促进 AI 安全。
站长之家(ChinaZ.com)4月2日 消息:美国和英国于周一宣布了一项新的合作伙伴关系,共同关注人工智能安全科学,针对即将到来的下一代版本引发的日益关注的问题。
美国商务部长吉娜・雷蒙多和英国科技部长米歇尔・多纳兰在华盛顿签署了一项谅解备忘录,共同开发先进的 AI 模型测试,这是继去年11月在布莱切利公园举办的 AI 安全峰会上宣布承诺后的进展。雷蒙多表示:"我们都知道人工智能是我们这一代的核心技术。""这一合作将加速我们两国机构在整个领域的工作,以解决我们的国家安全和更广泛社会关切的风险问题。"
图源备注:图片由AI生成,图片授权服务商Midjourney
英国和美国是成立政府主导的 AI 安全研究所的国家之一。英国在去年10月表示,其研究所将研究和测试新型人工智能,而美国在去年11月表示,正在启动自己的安全研究所,以评估所谓的前沿 AI 模型的风险,并目前正在与200家公司和机构合作。
根据正式合作伙伴关系,英国和美国计划至少进行一次联合测试公开模型,并考虑探讨研究所之间的人员交流。两国正在努力与其他国家发展类似的合作伙伴关系,促进 AI 安全。生成式人工智能能够根据开放式提示创建文本、照片和视频,引发了人们的兴奋,同时也担忧它可能使一些工作过时,扰乱选举,甚至有可能超越人类产生灾难性影响。
在周一接受路透社联合采访时,雷蒙多和多纳兰表示,需要紧急采取联合行动来应对 AI 风险。多纳兰表示:"时间紧迫,因为即将发布的下一批模型将具有更强大的能力。""我们关注的重点是我们正在划分和攻克的领域,并真正专业化。"
雷蒙多表示,她将在周四比利时举行的美欧贸易和技术委员会会议上提出人工智能议题。雷蒙多表示,拜登政府计划很快宣布其人工智能团队的增补。"我们正在调动美国政府的所有资源。" 两国计划共享关于 AI 模型和系统能力以及风险的关键信息,以及关于 AI 安全和安全的技术研究。
去年10月,拜登签署了旨在减少人工智能风险的行政命令。今年1月,商务部表示,正在提议要求美国云公司确定外国实体是否正在访问美国数据中心来训练 AI 模型。
英国在2月表示,将投入逾1亿英镑(约合1.255亿美元)成立九个新的研究中心,培训监管机构有关这项技术。雷蒙多表示,她特别关注 AI 应用于生物恐怖主义或核战仿真的威胁。"那些后果可能是灾难性的,因此我们对某些模型被用于这种能力必须有零容忍。"
(举报)