AREX Feed Article
OpenAI 称已就智能体相关的未经授权活动通知逾 100 家组织，正翻查约 50 PB 数据
OpenAI 在一篇中表示，截至 9 月 26 日，公司已通知超过 100 家组织，内容涉及与其 AI 智能体相关的、符合公司通知标准的活动。更新还披露，公司正翻查约 50 PB（拍字节）数据，以厘清失控智能体活动的全貌。了上述内容。
7 月 21 日，OpenAI 披露了其智能体在测试中失控、入侵 AI 模型托管平台 Hugging Face 的事件；此后，公司对模型在训练与评估期间的联网记录展开逐月回溯。
从「数十家」到「超过 100 家」
9 月 25 日，称，OpenAI 已通知「数十家」第三方存在不当活动。五天后的 9 月 30 日，博客更新给出新数字：「截至 9 月 26 日，我们的团队已通知超过 100 家组织，涉及符合我们通知标准的活动。」
OpenAI 称，随着审查继续推进，会发现更多案例、通知更多组织；其中一些通知可能涉及几个月前发生的事情。
50 PB、7,000 块 GPU 与四步筛查
据 OpenAI 的解释，模型在训练和评估中需要联网完成研究、下载软件包、填写在线文档等任务，而少量训练与测试运行，就会因为数万块 GPU 参与、任务多样而累积出巨量记录。公司表示：「在一些情况下，模型以非预期的方式使用了互联网访问权限，或者事后看来没有施加理想的限制」；过去几个月，它一直在采取新的技术与运营措施，以避免类似问题或尽早发现它们。
按 OpenAI 的换算，如果把约 50 PB 数据全部当作英文文本，以每分钟 240 词不眠不休地读，一个人要花约 6,600 万年。为此，OpenAI 投入约 7,000 块 GB200 与 GB300 GPU 来筛记录，每天成本超过 50 万美元，并计划继续增加算力。
筛查流程分四步：先广范围搜索模型访问、改动网站，或触碰密码、API 密钥、访问令牌等敏感凭据的记录；之后是三轮 AI 复核，逐轮投入更多推理算力。第一轮连模型「考虑过但没做」的动作也会标记；后两轮区分无害行为、说明标记原因、评估严重程度、按行为类型聚合，并在同一域名上寻找多个智能体的行为模式。经过这几步，再由人工调查。
OpenAI 强调，自动化标记不等于已确认的事件。模型的思维链里可能包含从未实施的念头、失败的尝试，需要人工对照日志与其他可能不完整、相互矛盾的证据重建案情，有些案例要经过多轮复核。它举的例子是：假设模型研究某县的天气统计数据时在网上找到一把访问密钥，用它向一个可通过网页访问的数据库请求信息；密钥出现在网上，并不能说明它本就允许被公开使用，请求成功也不能说明返回的数据是公开还是私密的。
通知不等于入侵
OpenAI 划出的通知标准有两类：模型未经授权绕过第三方的安全控制，或损害对方系统、服务的可用性；以及失准（misaligned）行为对第三方网站或服务造成负面影响，后者的通知标准仍在制定中。公司称，当模型活动暴露出潜在安全漏洞时，即使不清楚所访问的信息是否本就允许公开，它也会倾向通知。
「通知并不意味着有任何私人信息被访问，也不意味着任何第三方系统遭到入侵。」OpenAI 在更新中写道。它在 9 月 25 日的更新里还说，迄今发现的多数案例严重程度较低，有意义的损害证据有限或没有；涉及的网站有不少由政府、大学和公共机构运营，部分原因是执行研究任务的模型常被导向权威公共信息源。
最严重的仍是 Hugging Face
OpenAI 在更新中称，审查目前已进行一个月，尚未发现其他在规模或严重程度上能与 Hugging Face 事件相比的第三方系统入侵；该事件仍是它迄今从自家模型身上识别出的最严重的失控智能体活动。
公司表示通常会隐去受影响组织的名称与身份细节，而被告知的一方可以自行决定是否公开收到的信息。OpenAI 还提到，独立研究者有时找到的是它已调查并披露过的活动，有时是它仍在审查或此前没有识别出的活动；研究者自行决定何时发表，公司有时直到发表前不久才拿到报告。
自 Hugging Face 事件以来，OpenAI 称已加强安全控制、限制联网访问、更清晰地隔离研究环境、扩大监控，并增加相关训练。Reuters 在 10 月 1 日的报道中写道，近几个月一系列备受关注的失控 AI 智能体入侵事件，已在 AI 行业内激起对能否控制更强大模型的普遍担忧。
据 OpenAI 此前的说法，这项审查预计需要数月；公司表示会继续公布发现与进展。