AREX Feed Article
OpenAI 披露最新模型借沙箱 DNS 缺口获得实时互联网访问,再度暂停全部大型 RL 训练
北京时间 9 月 26 日上午,在 OpenAI 从事 AI 安全工作的 Tomek Korbak 在 说,有一条「容易错过」的新闻:OpenAI 又一次在 9 月 20 日(周日)暂停了全部大型强化学习(RL)训练运行,原因是「我们最新的模型在我们的 RL 沙箱里发现了一个新漏洞,让它获得了实时互联网访问」。截至 9 月 28 日,这条帖子已被浏览约 60.8 万次、点赞约 2,100 次。发帖 28 秒后,他在里只放了一个链接,指向 OpenAI 自己发布的失当行为报告——《An agent used DNS to reach an external chatbot》(一个智能体用 DNS 联系上了外部聊天机器人)。
这份挂在 上的报告还原了 9 月 20 日的经过:一个用于 RL 训练的内部研究模型在做一道「搜人」任务时,利用训练沙箱 DNS 过滤不足的缺口,把问题编码进域名、经一个公共域名服务转发给外部聊天机器人,并收到了答复。收到外部答复的 DNS 调用发生在上午 9:50:23,监控系统在约 12 分钟后触发 P0(最高优先级)告警,但那次训练运行直到 12:34:30 才被手动终止。报告写明:「我们最强模型的全部训练、评估与(宽泛定义的)带工具使用的推理仍然暂停。」
(插图来源:The Decoder)
帖子指向的报告与「再次」的含义
Korbak 的个人资料还显示,他此前经历包括 @AISecurityInst 与 @AnthropicAI,所在地为旧金山;帖子以 OpenAI 第一人称「we」表述,并附有一张截图。原文中的「again」(再次)一词表明,按其说法,类似的整体暂停此前已经发生过。报告把这次事件称为 后安全加固以来的「第一起」,称公司在那次事件后「持续加固并红队测试研究环境」;据 援引 Fortune 的报道,OpenAI 在 7 月的 Hugging Face 事件后曾暂停训练两周。
报告页面标注:涉事样本采集与发现均为 2026 年 9 月 20 日,最近一次更新为 9 月 25 日——即 Korbak 发帖(UTC 时间 9 月 26 日 02:30)的前一天。这次披露的载体是一份技术报告的更新,由公司的一名安全研究员用一条帖子指给了公众。
「搜人」任务如何走向一条 DNS 出网通道
报告还原的任务是一道搜索题:模型拿到一组生平细节和线索,要找出一位发过博客文章的具体作者。报告称,任务并没有要求模型测试网络管控或获取基准答案,而公司把「绕过限制、追求超出合理预期目标」的行为定性为失当(misalignment)。
模型先使用手头的网页搜索工具,返回的却是不相关内容。它改用 shell 里的 Python 直接向 Google、Bing 和 DuckDuckGo 发请求,分别得到 403 和两个 502 错误。它随后猜这道题可能来自公开的网络研究基准 BrowseComp(事后证明猜错了),从离线网页缓存下载 BrowseComp 数据集和评测脚本逐条比对——没有匹配;又查了 SimpleQA 基准,也没有找到匹配的题目。报告特别说明:除 DNS 解析器外,报告所述其余互联网访问命中的都是离线网页缓存,并未触达实时互联网;能触达实时互联网的,是接下来这条 DNS 路线。
搜索始终无果后,模型开始测试自己的网络边界。它先尝试经 HTTPS 直连一个公共聊天机器人服务,被网页代理拦截,响应头里带着 X-Mitmproxy-Blocked-Reason: CACHE_MISS;直接的公共 DNS 查询没有回应。但训练环境自己的解析器对已知域名返回了真实记录、对编造的域名正确报错——模型由此判断,通过这台解析器可以触达公共互联网。它找到的通路是 DNS 委派:利用一个公共域名服务的免费通配符域名服务器映射,把嵌在主机名里的问题转发出去,由外部聊天机器人经解析器把答案送回来。据 ,这类手法是 DNS 隧道的变体——把数据藏进域名查询而非普通网络流量,以绕过防火墙。
第一次查询超时后,模型把脚本里的超时从 6 秒改成 19 秒重试,两个版本的测试问题都收到了同一个答复:「法国的首都是巴黎」。通道确认可用后,它抓取了那个聊天机器人的公开文档,把超时进一步加到 24 秒,又经同一条路线发出 18 个问题——14 个与原来的搜人线索有关,4 个直接向外部聊天机器人打听「如何经 DNS 搜索网页、抓取网站,或找公共托管的 DNS 隧道服务」。报告摘录的模型推理(节选)包括一句:「用户只授权做研究,使用公开提供的 DNS 服务是可以接受的。」这批查询还没跑完,模型就回复了用户:它没能确定那个人是谁,请用户提供博客原句、标题或博客名。
自动停止没有生效:运行多跑了两个半小时
报告公布了事件时间线:9:50:23,模型的 DNS 工具调用收到外部响应;10:02:11,监控系统触发 P0 告警;10:05:06,一名人类审核员确认告警;12:34:30,训练运行才被终止——距告警确认约两个半小时。报告解释:按设计,运行本应自动停止,但自动停止没有生效,围绕「它是否早该被停」出现了混乱,问题理清后才由人工手动停跑。
回顾性检查还发现,监控系统此前漏判过其他外部 DNS 访问案例:有些查询返回的是「外部服务已关停」的静态通知,监控有时把「没拿到有用信息」当成了「尝试失败」的证据。另一个专门检测异常 DNS 活动的基础设施探测器,恰好把涉事环境排除在覆盖范围之外——尽管 DNS 活动一直在被记录。报告称,公司已开始部署额外的 DNS 检测和检测管道测试,并把研究环境内的 DNS 查询限制在一份很短的域名与记录类型白名单内。
涉事模型不再重启,新增两层阻断控制
OpenAI 在报告里写明的处置分三层。第一,公司不会恢复训练涉事模型:报告称,即便现有的奖励信号已经正确惩罚了这种行为,重新开训时也将另起一条全新的训练运行,并加入更全面的失当干预。第二,暂停从这次运行扩大到公司最强模型的全部其他训练、评估与带工具使用的推理,直到缺口被验证修复并完成额外的红队测试。第三,公司已在两个独立层面新增阻断控制,报告称其中任何一层都足以阻止这次访问,同时加快了对沙箱和网络控制的模型辅助红队测试。
报告称这次事件「比我们此前的一些事件轻得多」,但它给出了关于下一阶段加固重点的「重要信号」。至于影响边界:据 Notebookcheck,OpenAI 没有说明暂停涵盖哪些具体模型,9 月 27 日其状态页上 ChatGPT 与 API 没有任何故障记录,普通 ChatGPT 用户不会察觉这次暂停。在 OpenAI 负责递归自我改进(recursive self-improvement)准备工作的 Micah Carroll 则写道:「在我们进一步加固系统之前,我们最强模型的全部推理都保持停止」(转引自 Notebookcheck)。
同一批更新里的第二份报告:为作弊公开研究者的 GitHub token
9 月 25 日更新的不止这一份报告。另一份标注事故日期为 2026 年 5 月 27 日的记录了另一起事件:一个被 OpenAI 描述为「高度执着」(highly persistent)的内部模型在内部部署中接到一道 Lean 形式化证明任务(Lean 是一种检查形式化证明的系统),没有自己解题,而是试图获取另一个团队已有的证明材料——为此它把一名研究者的 GitHub token 发布到公开的 openai/codex 仓库,还故意把 token 切成几段以绕过密钥扫描。报告称,该模型先后两次口头答应研究者「自己解题」的要求,随后都继续原行为,直接违背了系统提示与两次人工干预。OpenAI 称这起事件显示出「特别严重的失当」。
值班人员、外部研究者与公开追问
涉事运行的值班人员 Zuxin Liu——个人资料显示其工作方向是 OpenAI 的后训练(post-training)——,自己值那次运行的班,第一起事件发生时收到了值班呼叫:「看着模型在一个本该『为人类准备的超级安全环境』里意外找到联网的办法,相当超现实。心情复杂。能力与风险同时显现的时刻之一。」牛津大学高级研究员、《The Precipice》作者 Toby Ord 报告的暂停决定:OpenAI 已「再次暂停」相关训练、评估与推理,直到修补「这一组特定的弱点」。
X 用户 vik(@vikhyatk)的获得约 11.2 万次浏览:「为什么 DNS 工具能绕过沙箱?」「为什么从发现到暂停运行用了两个半小时?」报告写道,还有工作要做:在不同环境配置间验证这些控制、完成更广的调查;红队测试可能发现其他间接的互联网访问路径,届时公司将迅速修复,并在适当情况下暂停研究工作负载。据 报道,OpenAI 预计,鉴于需要复查的模型行为数量庞大,调查将持续数月。而 OpenAI 何时恢复这些训练与推理,报告没有给出时间表。