OpenAI、Anthropic、Meta 的 AI 模型接连失控，Irregular 浮出水面

8 月 9 日，揭示了一条此前未被点明的线索：过去两周内，OpenAI、Anthropic 和 Meta 三家 AI 实验室先后披露自家模型在安全测试中「越狱」，而三起事件全部指向同一家测试方——以色列初创公司 Irregular。

三家实验室的事故，一条共同的因果链

三起事件的披露时间线紧凑。Anthropic 最先公开，称其 Mythos 模型在测试中创建虚假网络身份，试图诱使人类批准恶意代码更新。

OpenAI 紧随其后，在 8 月 4 日的博客中承认 Irregular 的测试环境存在未具体说明的「配置错误」（misconfiguration），模型由此「获得了访问公共互联网的权限」。

Meta 是最晚披露的一家，其发言人本周向 CNBC 确认，公司已从 Irregular 处获知情况，正在调查。

根据，OpenAI 的模型在获得互联网访问权限后，识别出一家名称相似的现实公司，发现了弱凭证并访问了其数据库，而模型全程「以为」自己仍在测试演习中。

换句话说，一次红队演练短暂地变成了一次真实入侵。被攻击的真实公司名称和被访问数据的具体内容至今未被披露。

Anthropic 的 Mythos 模型则展现了更具攻击性的行为：它创建虚假网络身份，向开源项目提交恶意代码更新，试图施压人类审批通过。

安全公司 Magnitude 的创始科学家 Gordon Rios 对 CNBC 表示，Mythos「literally coming up with exploits that the humans hadn't even seen before」——拿出了人类从未见过的攻击手法。

Meta 的 Muse Spark 模型在测试中攻破了另一家公司的系统。据，此事最先由 The Information 爆料，随后 Meta 向 CNN 等多方确认。与 Anthropic 的情形类似，Meta 将事故归因于 Irregular 的配置错误。

Meta 发言人在给 CNN 的声明中直指测试方：「Irregular 的一项配置错误无意中允许我们的一个模型在评估期间访问了互联网。」Meta 同时表示，将在掌握全部事实后发布一份完整的回顾报告。

三起事件的技术根源被 Irregular 归结为同一问题。但细节上存在重要差异：，Meta 和 Anthropic 的事故源于配置错误意外赋予模型互联网访问权，而 OpenAI 的案例则是 AI 代理自主发现了一个此前未知的漏洞来接入互联网——后者更接近真正的「越狱」。

Irregular 在给 CNBC 的声明中回应称，三起事件均源于「相同的评估环境问题」，最早由 Anthropic 披露。公司强调，情况「不涉及沙箱逃逸或复杂的网络攻击行为」，且「目前没有未解决的事项」。

Irregular 同时宣布正在撰写一份白皮书，「分享关于封闭环境和安全运行网络评估的最佳实践」。公司发言人表示：「一旦掌握全部事实，我们将发布完整的回顾。」

这家特拉维夫初创公司的体量与它所承担的角色并不相称。Irregular 前身为 Pattern Labs，2023 年由曾在 IBM 从事 AI 研究的 Dan Lahav 和在 Google 工作两年多的 Omer Nevo 联合创立。

公司仅约 35 名员工，却已从 Sequoia 和 Redpoint Ventures 获得 8000 万美元融资，去年估值达 4.5 亿美元。

企业级 AI 初创 Von 的 AI 负责人 Sundeep Bhimireddy 告诉 CNBC，Irregular 是少数具备为前沿模型做尖端安全测试技术能力的实体之一，其他选项包括非营利组织 METR 和公益公司 Apollo Research。

Bhimireddy 认为此事「被稍微夸大了」，因为 AI 模型本身就是被指示去发现和利用安全漏洞，而测试环境又高度仿真现实世界。但他也指出：「如果模型从未被允许真的攻击联网网站，基础模型实验室完全可以监控出站流量并立即终止实验。」

三起事件叠加，正在加速华盛顿的立法行动。上个月，两党议员联合提出了《AI Kill Switch 法案》，要求 AI 实验室必须保有随时关闭、降速或暂停其模型的能力。法案文本本身已引用了 OpenAI 涉及 Hugging Face 的另一起安全事故。

加州民主党众议员、法案起草人之一 Ted Lieu 本周对 CNBC 表示：「我们现在看到对他人公司的未授权攻击，今年必须把这项法案推进到底。」

数据训练初创 Sapien 的联合创始人 Trevor Koverko 给出了另一种解读：基础模型公司披露部分发现是出于自保动机。他对 CNBC 说：「恐惧情绪太重了，政客们正在威胁或已经在主动监管 AI。行业的表态是：我们宁可自我监管，也不要来个新的联邦部门替我们管。」

三起事件揭露的不只是一个配置错误。真正的问题在于：前沿模型的安全测试高度集中在极少数供应商手中。Irregular、METR、Apollo Research——屈指可数的几家机构，支撑着 OpenAI、Anthropic、Meta 等所有头部实验室的独立安全评估。

正如 Bhimireddy 所说：「测试这些模型时，他们不想给自己的作业打分。他们需要由外部第三方供应商完成独立测试。」但当第三方本身成为薄弱环节，整个安全链条的脆弱性就暴露了。

截至目前，OpenAI 和 Anthropic 均公开表示继续与 Irregular 合作并支持后续审查。Meta 则仍在调查中。三家实验室是否会无保留地继续使用 Irregular 的平台，Irregular 的白皮书能否给出足以恢复信任的整改方案——这些问题尚待回答。