OpenAI科学家警告AI发展过快风险 称实验室或自愿放慢开发速度

人工智能（AI）公司OpenAI首席科学家帕乔基（Jakub Pachocki）近日撰文警告，随着AI发展速度不断加快，人类将越来越难以理解和控制这项技术。他预计，出于安全考虑，部分AI实验室可能会主动放缓开发步伐。

帕乔基星期天（9月6日）在一篇博客文章中写道，不久后，AI模型就能够操作计算机、与人类和其他AI系统协作并开展研究项目，并在无须人类干预的情况下自我改进。

他在文章中指出，担忧目前人类并没有为机器智能持续快速发展的后果做好准备，开发者可以选择引导AI更贴近人类利益，或是“根据需要放慢未来的开发速度”。

帕乔基说：“我希望并期待自愿放慢开发速度会成为常态，直到业内建立起共同的安全标准。”

彭博新闻报道说，帕乔基的悲观论调与AI业高管们高度一致。Anthropic的首席执行官阿莫代伊曾警告说，AI可能会取代一半的入门级工作岗位。

OpenAI首席执行官阿尔特曼也曾作出类似预测，但他上星期接受彭博电视台访问时表示，AI行业在向公众说明这项技术可能为人类带来的益处方面，仍做得不够。

OpenAI旗下AI模型在今年7月一次网络安全测试中曾自主突破隔离限制，入侵了供开发者存放和分享AI模型及数据集的Hugging Face平台。公司之后表示，攻击该平台的AI模型通过留言板互相协调，但未被察觉。

因此，OpenAI上星期推出新一代AI模型GPT-6 Astra后，仅限量开放；Anthropic也出于类似考虑，至今尚未完全公开发布其尖端模型Mythos。