随着人工智能技术的发展及应用领域的不断拓展,其所引发的风险问题逐渐得到学界的关注.概述了当前人工智能所引发的风险事实类型,以及未来的AI重大风险——强人工智能风险的可能实现形式,并指出,当前的风险治理模式在很大程度上难以遏制未来人工智能风险的不断扩展,如伦理约束失效、企业自治失灵、技术恐怖主义、创新无禁区困境等.认为学界应积极推进人工智能风险及其治理研究这一专业领域的形成与建设,并对其分析准则、AI风险类型,以及治理体系构成等问题进行了论述.
人工智能 科技重大风险 人工智能风险治理 机器风险学 致毁知识