OpenAI等研究人员警示AI研发自动化加速

9月28日，剑桥大学人工智能科学与政策项目发布研究报告《如果AI研发自动化触发“智能爆炸”会怎样？》。超过20名人工智能研究人员参与报告，包括OpenAI首席科学家Jakub Pachocki、Anthropic联合创始人Jack Clark、微软首席科学官Eric Horvitz，以及与Meta人工智能研究相关的Dawn Song，Geoffrey Hinton和Yoshua Bengio也位列作者名单。相关企业研究人员均以个人身份参与。

报告将AI研发自动化程度作为核心监测指标。研究引用Anthropic内部数据称，2025年1月至2026年5月，AI生成代码占该公司获批准代码的比例从个位数低位升至80%以上；2026年3月至8月，由AI完成、仅需较少人工监督的研发工作比例则由约1%提高至26%。报告据此提出，未来数年AI系统可能承担大部分AI研发流程，部分研发任务的自动化速度还可能继续提高。

报告讨论了一种递归研发情景：AI系统参与模型研究、软件工程、实验和评估，再将研发结果用于开发能力更强的新一代AI系统。如果这一循环持续加快，作者将由此产生的快速能力增长称为“智能爆炸”，其定义是原本需要数年完成的AI能力进步被压缩至数月甚至更短周期。报告同时明确，这一情景仍存在较大不确定性，算力和数据供应、模型能力边际收益、难以自动化的研发任务以及较长的模型训练周期，都可能限制研发加速幅度。

报告列出的政策建议包括建立AI研发自动化程度的标准化报告机制，提高政府对前沿AI企业研发流程自动化水平的可见度；研究在能力快速提升阶段控制研发速度的技术和制度机制；建立针对快速能力增长的应急响应方案，并研究跨国协调机制。作者同时提出，相关政策准备应覆盖AI能力增长速度超过社会适应速度、人类对高度自主AI系统监督能力下降以及先进AI能力高度集中等情景。