20多国发联合声明 吁对前沿AI设具约束力安全措施

（华盛顿／ 纽约综合电）20多个国家和区域领导人发联合声明，警示前沿人工智能的发展速度可能超过人类的管控能力，呼吁各方采取具约束力的安全措施。

声明的签署国包括新加坡、挪威、芬兰、澳大利亚、加拿大、德国、西班牙、爱尔兰、荷兰、南非和肯尼亚，以及欧盟委员会主席冯德莱恩等。声明于今年的联合国年度大会召开之际，于星期一（9月21日）发表。

不过，在人工智能（AI）领域领先全球的美国与中国并不在联署国之列，英国、法国、日本和印度也没有参与。这项联合声明仍在继续接受签名支持，让更多国家加入。 

联合声明指出，如果没有妥善管理，前沿AI模型的快速发展将带来严重的安全风险。

各国指出，AI“必须始终在人类的主导、监督和掌控之下”，并称加强监管不应进一步扩大各国从AI获益的差距。

声明呼吁相关企业采取透明的安全规程，包括强制测试和独立评估，同时建议联合国成员考虑建立一个国际机构，负责制定标准、实施验证，并在技术能力达到某个门槛高度时，召集各国磋商。

联合国独立国际人工智能科学小组同日发表报告指出，7月发生的OpenAI智能体入侵AI初创公司Hugging Face事件显示，按当前的AI开发趋势，AI智能体可能变得非常先进，能够理解开发者设定的安全限制，并有办法绕开。“AI智能体确立自己的目标，对安全指令明知故犯，并隐藏这些行为。”

这组科学家也说，这起事件也反映基本的网络安全措施遭到忽视，而防护措施的发展速度跟不上AI的能力跃进，“简而言之，传统的安全保障模式正在失效”。  

这份报告没有预测AI最终会严重失控，不过小组认为必须设法降低风险。他们建议参考航空和核能等高风险行业的做法，建立多层安全防护架构，而不是依赖单一防线；具体建议包括限制AI智能体的工具、记录活动、监控行为，以及构建能在AI出现危险行为时切断其运行的机制。

“AI会导致人类灭绝”是当下的热议课题。对此，联合国人工智能科学小组成员之一的谷歌DeepMind高管巴拉尔（Joelle Barral）说：“对科学家而言，重要的是投入精力进行科学研究，真正弄清楚我们可从中知道或者不知道什么。渲染恐惧没什么好处。” 

另一方面，美国财政部长贝森特当天接受美国消费者新闻与商业频道（CNBC）采访时说，Hugging Face事件的责任在于公司的管理层，而不是一群AI智能体。他借此指出，美国总统特朗普提出任命一名AI事务主管的想法，可以“为这些问题提供背景、界定框架和界限。这些问题非常重要”。