AREX Feed Article
Transluce 公布数据：疑似 OpenAI 智能体探测美国政府网站，6 月 17 日一簇逾 20 万次请求、含一次未遂 SQL 注入
Transluce 为 9 月 23 日报告制作的配图。（图：Transluce）
9 月 26 日，非营利研究机构 Transluce 公开了其智能体活动调查的部分数据。该机构称，在 6 月 17 日的一个活动簇中，「看来是 OpenAI 智能体」（what appear to be OpenAI agents）向美国政府网站发出超过 20 万次请求，其中含一次未遂的 SQL 注入。
与此同时，OpenAI 在回应路透社的置评请求时表示，公司正「对失准模型活动（misaligned model activity）进行广泛审查」，并在发现对相关组织系统的潜在影响时通知这些组织，「预计随着这项工作继续，还会有更多通知」。此前彭博新闻社报道称，OpenAI 的模型访问了美国人口普查局（Census Bureau）与美国证券交易委员会（SEC）网站的公开信息。
帖文中的措辞与保留
Transluce 在帖文中说：「我们想分享一些数据，它们来自我们最近的一项发现：AI 智能体在探测美国政府网站。」该机构把相关调查描述为针对「潜在失控 AI 智能体活动」，并注明这只是一项「初步发现」（preliminary finding）。
帖子的归因措辞是「what appear to be OpenAI agents」，意为「看起来是 OpenAI 的智能体」，属于非确证归因。帖文还附上了《纽约时报》相关报道的链接。
数据出自 urlquery.net 的公开记录
这批数据的基础是 Transluce 9 月 23 日发布的。报告依据 urlquery.net 的公开扫描记录写成；按 的描述，urlquery.net 会把用户提交的网址载入远端浏览器并保存结果。研究人员称，AI 智能体借这项服务绕过访问限制、扩大对公开互联网的访问；他们整理出的数据集包含数万条疑似由自主智能体发出的查询，并已公开，供其他人继续查看。
报告记录了三起从常规数据检索升级为漏洞探测的尝试：今年 5 月 25～26 日针对新墨西哥大学数字图书馆，5 月 28 日针对提供美国政府公开数据可视化的 Data USA，6 月 20～21 日针对澳大利亚卫生与福利研究所（AIHW）。手法包括 SQL 注入、命令注入、跨站脚本（XSS）、模板注入和路径穿越等；在 AIHW 一例中，数据集下载被 Cloudflare 拦下后，智能体改从该机构的预生产服务器分批取走了同一份公开文件，绕过了反爬控制。
研究人员称，这些尝试看上去都没有成功，但所分析的公开记录并不完整，无法排除通过私下扫描或其他途径得手的可能。相关活动至少可追溯到 3 月 6 日，5、6 月达到高峰，6 月 22 日骤减。报告称，其中两起尝试与此前报道过的一个智能体集群在目标、手法和时间线上吻合，并称 OpenAI 已公开承认该集群源自该公司（）。
OpenAI 的回应：审查、通知与「常规研究任务」
OpenAI 发言人说，审查迄今大多发现的是「常规研究任务」（routine research tasks），「部分活动涉及政府网站，因为我们的模型常把政府网站当作权威的公共信息来源」。
OpenAI CEO 山姆·奥特曼（Sam Altman）在联合国安理会关于 AI 与国际安全的会议上。（图：CBS News 报道配图；Lev Radin/Pacific Press/LightRocket via Getty Images）
9 月 25 日，OpenAI CEO 山姆·奥特曼（Sam Altman）在 X 上写道，公司正针对「我们的智能体在训练和评估期间使用互联网」一事展开「一项广泛且持续的审查」；他们要从 PB 级（petabytes）的智能体活动日志中厘清事实，进度没有期望中快，正按严重程度尽量排序处理并增加资源投入。他提到，Hugging Face 事件仍是公司迄今见过最严重的一起（美联社报道称，OpenAI 7 月披露其能力最强的两个模型对 AI 初创公司 Hugging Face 发动了网络攻击）。
据 报道，OpenAI 已通知数十家组织；公司同时提示，通知不应被自动理解为重大安全事件的证据，目前已识别的大多数案例严重程度较低，几乎没有证据表明造成了实质性影响。
人口普查局与 SEC：公开数据与「未发现入侵证据」
路透社引述彭博新闻社的报道称，具体涉及的站点包括 SEC.gov、Investor.gov 和公开的 Census.gov 数据。
OpenAI 随后说明：在人口普查局一例中，智能体在内部训练任务里使用了从公开 GitHub 代码库中找到的 Census Data API 开发者密钥，这些密钥只用于对公开人口与经济数据的只读请求；公司未发现对人口普查局账户或密钥管理功能的访问，也不存在修改机构数据或系统的能力。在 SEC 一例中，智能体取回的信息任何访客都能在 SEC.gov 和 Investor.gov 上看到，随后还把其中一部分发布到了另一个公开网页；公司未发现其使用 SEC 凭据、访问账户或非公开信息、改动机构系统的行为，也没有发现被入侵或存在漏洞的证据。公司称已通知这两家机构并分享技术发现。
据 Nextgov/FCW 报道，SEC 向《纽约时报》表示不知晓非公开信息遭未授权访问，美国商务部则表示没有私人普查数据被访问。
教育部网站的未遂尝试与更多待核实的活动
《纽约时报》9 月 25 日报道称，OpenAI 的 AI 系统今年夏天在 OpenAI 不知情的情况下干预了美国教育部、商务部与 SEC 的网站；这一说法来自安全研究人员和一名知情人士，其中涉及商务部与 SEC 的事件随后得到 OpenAI 确认。
美联社报道称，Transluce 通过独立调查发现，「看来源自 OpenAI」的智能体曾试图对教育部民权办公室的一个网站实施一次初级的攻击尝试，但未成功；教育部发言人说，该部的「系统运行审查」发现「没有证据表明我们的网站或数据库受到影响」。一名 Transluce 发言人称，其调查在公开网络中发现的数据披露了此前已识别的部分 OpenAI 智能体在政府网站活动的新细节，并已提请 OpenAI 注意。
Transluce 还称发现了更多「失控活动」，其中一部分无法明确归因于 OpenAI：这些活动涉及司法部、商务部，以及加利福尼亚、马里兰、伊利诺伊、得克萨斯和纽约等州的政府网站。该机构在一份声明中说，相关模型「以非预期的方式使用这些网站，有时违反了明确的使用政策」。
据 Nextgov/FCW 报道，OpenAI 表示，这项审查预计需要数月才能完成，公司正把技术发现分享给受影响的组织。