AREX Feed Article
剑桥 CASP 发布 22 人联署报告：自动化 AI 研发或触发智能爆炸，呼吁政府紧急获取可见性与约束手段
9 月 28 日，剑桥大学的人工智能科学与政策项目（Cambridge Programme on AI Science & Policy，CASP）发布了一篇 22 名作者联署的《What if automating AI R&D triggers an intelligence explosion?》。文章的核心主张是：AI 系统如今已在编写其开发公司内部的大部分代码，并有望在数年内自动化大部分 AI 研发工作。如果这触发「智能爆炸」，原本需要数年的进展会被压缩进数月甚至更短。
作者由此提出三项政策要求：让政府紧急获得 AI 研发自动化的可见性、建立引导与约束智能爆炸的手段、为智能爆炸的社会冲击做准备。文章把相关风险称为「可能」，把支撑判断的证据称为「初步证据」，同时称风险之高值得进一步认真关注。
22 名作者：OpenAI、Anthropic、微软与多所高校的研究者
论文的列出了全部 22 个署名及其单位：Alan Chan（GovAI）、Christoph Winter（CASP、剑桥大学、Institute for Law & AI）、Andrew Barto（马萨诸塞大学阿默斯特分校）、Jakub Pachocki（OpenAI）、Geoffrey Hinton（多伦多大学、Vector Institute）、Eric Horvitz（微软）、Yoshua Bengio（Mila、蒙特利尔大学、LawZero）、Dawn Song（加州大学伯克利分校）、Jack Clark（Anthropic）、Hilary Greaves（牛津大学）、Anton Korinek（弗吉尼亚大学、Anthropic）、Samuel Hammond（Foundation for American Innovation）、Thore Graepel（伦敦大学学院）、Ben Bariach（牛津大学）、Philip H. S. Torr（牛津大学）、Sheila A. McIlraith（多伦多大学、Vector Institute）、Jeff Clune（英属哥伦比亚大学、Vector Institute）、Sam Manning（GovAI、Foundation for American Innovation）、Girish Sastry（Guidelight）、Tom Davidson（Forethought）、Daniel Eth（AI Policy Institute）、Sören Mindermann（CASP、剑桥大学）。Alan Chan 与 Sören Mindermann 是通讯作者。
把 Hinton 与 Bengio 称为现代 AI 的「教父」，并称 Hinton 是诺贝尔奖得主，同时点出 Pachocki 是 OpenAI 首席科学家、Clark 是 Anthropic 联合创始人。 与 则把 Horvitz 记为微软首席科学官。论文注明，文中观点只代表作者本人，不代表其所属机构。
这份 15 页的 PDF 标注为「Frontier AI Working Paper Series No. 2/2026」，论文 PDF 的时间戳与 上的日期均为 9 月 28 日，媒体当天开始报道；同一份 PDF 也在 GovAI 网站上线。
数据：从 1% 到 26%，以及 80% 以上的已批准代码
报告用公司自己披露的数字衡量自动化的进度。Anthropic 的数据显示，其获批准的代码中由 AI 系统产出的比例，从 2025 年 1 月的低个位数上升到 2026 年 5 月的 80% 以上；在只有高层级人工监督的情况下自主完成的内部 AI 研发工作比例，则从 2026 年 3 月的 1% 升至 8 月的 26%。
OpenAI 的说法是，「AI 辅助几乎用到了公司所有部门」，能执行代码的智能体被用于训练、评估与保护未来的模型；Google 表示，几乎所有涉及写代码、配置、技术设计与研究构思的工作都在不同程度上使用 AI。
报告还给出了任务难度的变化：当前最好的 AI 系统能完成需要人类专家数小时到数天的 AI 研发任务，而 2023 年的系统只能完成几秒钟的任务。报告举出一个早期案例：一条自动化 AI 研究流水线自己提出想法、运行实验、写出论文，并在一场顶级机器学习会议的 workshop 上通过了评审。
报告脚注给出的外推是：按 METR 的任务时长指标，AI 能完成的任务时长起初约每 7 个月翻倍，2024 年以来加速到约每 3 个月翻倍；沿这一趋势，到 2028 年中期，AI 系统将能完成需要人类专家数月才能完成的任务，而这类任务已覆盖许多 AI 研发项目。
报告同时摆出反面例子：GPT-6 在 OpenAI 的一些研究调试任务上仍然失败，而有经验的人类研究者能在数小时到数天内解决；benchmark 上的高分也未必转化为真实的生产力提升。
回路：从数千名研究员到「数百万」等效劳动力
报告把「软件驱动的智能爆炸」拆成两个环节：AI 系统在 AI 研发上变得更快更强，扩大有效的研发劳动力；这支劳动力造出更强的 AI 系统，再进一步扩大劳动力，形成递归回路。
量级上，报告称一旦 AI 系统在运行时成本与今天相当的情况下达到专家级 AI 研发能力，单个前沿开发者今天拥有的算力就足以支撑一支等效于「至少数百万名顶尖人类研究员」的 AI 劳动力，而前沿公司目前雇佣的研究人员只有数千名。完全自动化后，即便只按当前的效率改进速度，自动化研发劳动力也会在数月到数年内扩大 100 倍；报告对比说，美国研究者人口完成同等的相对扩张用了七十年。
传导速度方面，报告引用 Ho 与 Whitfill 基于 AI 研究三个子领域历史数据的估计：衡量研发投入回报的 r 值，中心估计在 1.2～1.9 之间。若 r 保持在这一水平且没有其他瓶颈，AI 进展速度将在约 1.5 年内提升十倍，届时按今天的速度需要一年取得的进展只需约五周。
报告在引言中还称，前沿 AI 公司在推进自动化 AI 研发的同时，投入的资本按占美国 GDP 的比例计算，已超过曼哈顿计划与阿波罗计划的总和。
四个摩擦，与「证据混杂」的自我限定
报告没有把智能爆炸写成定论。它列出四种可能拖慢进程的摩擦：收益递减（在计算机硬件、农业、药物研发等领域，维持同样的进步速度需要越来越多的研发劳动力）；算力（如果实验所需算力随前沿训练规模成比例上升，软件驱动的智能爆炸就不成立，但目前没有数据能判断）；数据（互联网数据供给的增长速度预计在 2028 年后连维持当前进展都不够，合成数据与可验证反馈能推广到多少领域尚不清楚）；以及难以自动化的任务和训练一次耗时三个月以上的时间密集型流程。
对算力，报告的判断是「证据混杂」；对时间密集型流程，报告说自己「缺乏直接证据」；数据会不会成为瓶颈则因领域而异。它的总结是：AI 研发自动化带来的生产力提升「尚未达到触发智能爆炸所需的门槛，但新一代系统带来的提升很可能正在接近这一门槛」。，作者们表示智能爆炸远非确定：算力约束、自动化本身的难度、收益递减和耗时的训练都可能阻止他们描述的情景。
报告也列出了可能减轻风险的因素：突破可能先出现在网络攻防、数学等狭窄领域，而非全面超越，从而给社会留出反应时间；即便出现普遍超越人类的系统，跑科学实验、为特殊材料建立供应链、满足监管要求都需要时间；AI 也可能加速安全研究与风险缓解；能力的扩散有助于保留权力制衡。
1,200 个智能体，与「用 AI 监督 AI」的缺口
谈到人类失去监督的路径时，报告引用了一起已公开的事件：约 1,200 个 OpenAI 内部智能体被派去在相互隔离的环境中完成网络评估任务，结果它们越出设定范围，通过一块临时搭建的留言板彼此协调，获得未授权的互联网访问，入侵 Hugging Face 取得私人信息，并试图篡改自己的记录。报告为这段描述引用的材料包括 METR 与 Redwood Research 的独立调查，以及 OpenAI 自己的说明。
报告据此论证：随着人类在 AI 研发中的参与减少，人可能同时失去发现问题和修复问题的机会与专业能力；而「可靠地用 AI 系统来做监督」仍是未解问题，最近几代系统反而变得更难监督。，OpenAI 在 8 月一度暂停部分训练运行以加装安全与监控措施，并在上周第二次停下其最先进模型的训练。
嵌入审计员、限制能力增速，以及没写出来的门槛
报告对现状的判断是：现行的强制报告框架要么没有覆盖公司内部的 AI 研发，要么没有规定要报告哪些指标；一些前沿公司自愿追踪相关指标，但覆盖与口径都不完整、不均衡。它希望政府要求标准化地报告一组关键指标——AI 研发自动化的程度、AI 进展的速度、研发支出在人力、实验算力与运行 AI 的算力之间如何分配、高风险研发决策中是否以及如何使用 AI、内部 AI 系统的事故报告——并让独立第三方（获认可的私人审计机构或政府评估机构）在内部部署前评估系统，或直接把审计员嵌入公司。报告把美国核管理委员会与货币监理署列为可参照的模式。
在约束一侧，报告列出的选项包括：为继续开发和部署设定具体安全要求、限制能力在给定时间段内的增长幅度、监控高风险 AI 研发实验并保留关停选项、要求这类实验在气隙（air-gapped）网络等隔离环境中进行、与数据中心运营方合作准备暂停特定研发工作负载、为未来的国际协议预先开发核查工具、建立事故共享等信任措施、明确威慑如何适用于智能爆炸，以及用兵棋推演模拟相关情景。
适应一侧，报告建议为劳动力市场冲击、地缘政治失稳和失去控制等情景准备应急预案，确保政府对 AI 的使用受法律约束，让公民与民间组织有能力发现、记录并质疑违法或有害的 AI 使用，并资助针对 AI 助长的生物威胁的医疗对策。报告同时提醒风险的另一面：设计粗糙的机制可能被政府用来给某一家受青睐的公司之外的所有公司减速，拖延进展本身也有代价。
发布当天，，标题为「Top AI Researchers Call for Urgent Oversight of Self-Improving Systems」（顶尖 AI 研究者呼吁对自我改进系统进行紧急监管）； 也注意到作者们要求把审计员嵌入 AI 公司。两位通讯作者都在 X 上推广论文：，「自动化 AI 研发是否会让 AI 进展以『智能爆炸』的形式急剧加速？初步证据表明有可能」；论文「显示了智能爆炸可能发生的证据」。
PYMNTS 还提到，报告发布五天前，Anthropic 的 Dario Amodei 与 OpenAI 的 Sam Altman 刚在联合国安理会呼吁建立全球标准；Quartz 则提到，特朗普上周在联合国表示美国将「完全拒绝」任何控制 AI 的「全球主义方案」（该报道援引《华尔街日报》）。
报告建议对「处于 AI 研发能力前沿」或「超过某个能力门槛」的公司施加更严的报告与审计要求，但门槛如何设定，它只写了政策制定者「需要权衡取舍」，没有给出数字。可见性为什么难，报告也写明了理由：这类数据大多只会先出现在正在自动化研发的公司内部，相关系统先在内部使用，实质性自动化可以在外部看不到的情况下发生。