华为腾讯等20机构发布AI代理自律公约 防范越权操作等风险

中国信息通信研究院联合华为、腾讯、阿里巴巴等20家机构，发布人工智能（AI）代理（中国称AI智能体）发展自律公约，承诺加强防范AI代理越权操作、隐私泄露及行为失控等安全风险。

中国信通院星期三（11月4日）宣布，当天在2026年世界互联网大会乌镇峰会举行的智能体互信互联互操作全球合作创新论坛上，正式发布《智能体发展自律公约》，由中国信通院、华为、腾讯、蚂蚁集团、阿里巴巴、抖音等20家单位联合发起。

公约提出八项自律措施，涵盖AI代理信任体系、互联基础设施、互操作能力、安全防护、治理机制、用户权益保护，以及推动AI代理技术普及和应用等方面。

在安全防护方面，公约提出建立风险评估、运行监测、行为管控和异常熔断等机制，防范AI代理因技术缺陷或外部攻击，出现越权操作、隐私泄露甚至行为失控等问题。

公约也要求确保AI代理行为遵守法律法规及公序良俗，共同抵制利用AI代理实施算法压榨、从事网络黑灰产等行为，推动建立健康有序的行业发展环境。

演算法压榨是指平台或企业利用AI及大数据，对劳动者或用户进行极致的监控、数据分析与行为制约，以榨取最大化利润或劳动价值的现象，例如AI监控快递人员或网约车司机。黑灰产是指用AI从事违法犯罪（黑产）如网络诈骗，或游走在法律边缘（灰产）如AI抢票或流量造假等，以谋取暴利的产业链。

在用户权益方面，公约强调保障用户的知情权、选择权，以及对重要事项的最终控制权，防范个人信息滥用、过度迎合和认知操纵，并加强对未成年人、老年人等群体的保护。

此外，公约也提出推动不同企业的AI代理互联互通，通过发展互联技术标准、开放接口，以及明确任务授权和责任划分等方式，降低不同AI代理之间的协作障碍，提升处理复杂任务的能力。

meta高管警告人口崩溃在即 急需AI弥补劳动力缺口

脸书母公司meta首席数据官舒尔茨（Alex Schultz）警告，全球面临迫在眉睫的“人口崩溃”风险，社会极需人工智能（AI）带来的生产力跃升，以填补未来劳动力的严重缺口。

舒尔茨星期三（11月4日）在英国《金融时报》“人工智能未来峰会”上指出，全球生育率持续下滑，意味着50年后世界人口将大幅缩减。随着全球总人口预计最早于2064年触顶，老龄化与人均寿命延长将使适龄劳动力萎缩得更快。

他认为，国际社会对人口崩溃的思考仍不充分，未来如何赡养日益庞大的老年群体，已是全人类必须直面的核心命题。在这一背景下，科技巨头正极力向外界证明斥巨资研发AI的合理性。

舒尔茨透露，AI工具已在法务、软件开发等领域大幅节省人力。但他也指出，当前仍有部分员工在“徒耗算力代币却未创价值”，其内部团队高效利用该技术的比例尚不足一半。

针对“AI剥夺就业”的普遍恐慌，舒尔茨反驳称，先进工具不会消灭工作，只会重构工作性质并催生新需求。