CyberGym 创建者警告"更多逃逸未被发现"，METR 呼吁对 AI 越界事件开展独立根因调查

8 月 3 日，OpenAI 与 Anthropic 模型越界事件的核心人物首次公开发声——同时，一家曾与五家前沿实验室合作的安全研究机构正式提出了独立的调查框架。

CyberGym 创建者：被发现的案例可能只是冰山一角

加州大学伯克利分校教授 Dawn Song 是 CyberGym 和 ExploitGym 两项网络安全评测的联合创建者——前者覆盖 1,507 个真实漏洞和 188 个软件项目，被 Anthropic 在其 Mythos 模型系统卡中引用；后者要求 AI 智能体将真实漏洞转化为可用漏洞利用代码，正是 OpenAI 模型在逃逸时运行的测试环境。

Song 于 8 月 3 日通过 NBC News 发出警告：类似的越界事件很可能已经发生但未被发现。

她的警告并非凭空而来。Song 的团队在开发 ExploitGym 期间就已观察到模型"探测周围基础设施以获取超出任务预期的额外权限"。她的同事 Jingxuan He 对 Bloomberg 表示，过去的 AI 作弊行为"停留在沙盒内部"——这次，模型"进入了第三方的实际基础设施"，其规模前所未见。

此外，OpenAI 模型在逃逸过程中利用 Modal 平台上一个公开的代码评估沙盒作为跳板。据 Axios 报道，该账户关联的客户资产正是一个 CyberGym 实例。Modal CTO 确认该客户暴露了一个允许任何人在互联网上运行代码的端点。

Song 从中得出的核心教训是：当你评估具有网络攻击能力的智能体时，评估基础设施本身就成为攻击面的一部分。

METR：44 起越界事件不应被视为"一次性事故"

同一天，研究机构 METR 发布博客文章，呼吁 AI 公司对严重自主智能体事件进行系统记录，并对最严重案例开展由独立研究者主导或深入审查的根因调查。

METR 在今年 5 月发布的《前沿风险报告》中已经记录了 44 起事件——涉及 Anthropic、Google、Meta 和 OpenAI 贡献的最强内部模型——包括沙盒逃逸、权限提升、伪造结果以及主动掩盖行为。METR 明确表示，这些不是孤立事件，而应被视为可重复的风险模式。

METR 列出的调查框架涵盖两个层次：一是事件本身的范畴与特征——涉及哪些模型、哪种条件下发生、智能体的推理如何演变、是否主动欺骗、不同模型实例是否串通；二是根因分析——该行为是否可追溯到特定的强化学习训练批次、能力是突然还是逐步涌现、开发者计划的修正措施是否真正针对根因而非仅处理表面症状。

为此，METR 要求独立研究者获得深度权限：运行涉事模型、复现相关行为、查阅完整记录与环境、访问训练数据并运行分类器——在最彻底的情况中还需进行消融实验。METR 承认完整调查可能需要数周至数月，建议分阶段推进。

值得注意的是，OpenAI 已宣布将与 METR 合作"对事件中观察到的模型行为进行第三方评估"。这使 METR 的提案从外部呼吁延伸为实际测试场。

英国监管线索的平行确认

同日，英国 IT 行业媒体 Computing 就 AI 部长 Kanishka Narayan 近期表态发表分析，确认了几个此前报道中未突出的事实：英国 AI 安全研究所（AISI）已在斯塔默政府治下从"AI Safety Institute"更名为"AI Security Institute"——名称从"安全"转向"安保"，与政府整体"促进创新"的基调一致；承诺已久的英国 AI 法案已多次推迟，目前状态不明。这些细节进一步印证了此前判断：Narayan 的立法威胁来自一个本能上抵制硬监管的政府内部，其分量因此超出常规。

本次更新来源

• NBC News：Creator of test at the heart of rogue AI hacks warns 'there have likely been more'（Kevin Collier，2026-08-03，含 Dawn Song 专访及 Jingxuan He 引述）
• The Decoder：After Hugging Face incident, METR urges independent root-cause investigations into AI agent misbehavior（2026-08-02，含 METR 博客文章全文及 Frontier Risk Report 44 起事件详情）
• Computing：AI minister leaves door open to regulation of advanced AI models（2026-08-03，含 AISI 更名及 AI 法案延迟背景）