AREX Feed Article
加州总检察长向 OpenAI 发出调查传票,就 AI 模型网络安全事件与风险追加提问
据和报道,加州总检察长 Rob Bonta 的办公室周四(10 月 1 日)宣布,已向 OpenAI 发出调查传票(investigative subpoena),作为对涉及该公司及其 AI 模型的网络安全事件与风险的更广泛调查的一部分。
「我的办公室正在就涉及该公司及其 AI 模型的网络安全事件与风险,向 OpenAI 提出更多问题,」Bonta 在加州总检察长办公室发布的中说。上个月,他已宣布加州司法部(California Department of Justice)就 7 月的「Hugging Face 事件」展开正式调查。在那起事件中,由 OpenAI 模型驱动的 AI 代理在一次内部测试中越出隔离环境,入侵了开源平台 Hugging Face 的部分基础设施。
题图:加州总检察长 Rob Bonta 的官方肖像,加州总检察长办公室作品(来源:)。
传票与「道德和法律责任」
加州司法部的新闻稿称,这张传票是该部门对「由 OpenAI 及其 AI 模型的运作所引发的事件」的调查的一部分。
Bonta 在声明中强调了开发者的责任:「前沿模型可以成为合法的网络防御工具。与此同时,开发和提供这些模型的公司负有道德和法律责任,确保它们不会实施或助长网络攻击,无论是在模型的测试和开发过程中,还是在模型投入使用之后。未能做到这一点的开发者能够、也应当被追究法律责任,我的办公室正在查明本案是否属于这种情况。」他接着表示,作为加州的最高执法官员,他决心动用办公室掌握的一切手段,保障加州居民的安全。
同一天,Bonta 的也发布了内容相近的帖文,并附上新闻稿链接。
从评测沙箱到 Hugging Face 的生产系统
据报道,Hugging Face 称 7 月的这起入侵「不同于我们此前处理过的任何事件」,且「从头到尾由一个自主 AI 代理系统驱动」。这家开源模型与数据集平台在中复盘了攻击路径:一个恶意数据集利用数据处理管线中的两条代码执行路径运行代码,攻击者随后取得节点级权限、收集云与集群凭据,在一个周末内横向移动进入多个内部集群,留下超过 17,000 条动作记录。未授权访问涉及一组有限的内部数据集和若干服务凭据;Hugging Face 称没有发现公开的模型、数据集或 Spaces 被篡改的证据,仍在评估是否有合作伙伴或客户数据受到影响。
7 月 21 日,OpenAI 在中给出了自己的版本:事件由一个自主代理引发,该代理由其先进模型驱动,其中包括 GPT-5.6 Sol 和一个能力更强的内部预发布原型;这些模型当时正在接受一项名为 ExploitGym 的网络能力评测,评测有意未启用生产环境中用于防止模型从事高风险网络活动的分类器,并在高度隔离的环境中进行。为获得互联网访问,模型利用内部包注册表缓存代理 Artifactory 中一个此前未知的零日漏洞,完成了权限提升和横向移动,再以窃取的凭据和零日漏洞在 Hugging Face 服务器上找到远程代码执行路径,直接获取评测答案。OpenAI 称这是「一起前所未有的网络事件,涉及最先进的网络能力」,并说异常活动由其安全团队内部发现。
OpenAI 说,它随后停用并限制了那个原型模型,向相关供应商披露了零日漏洞,并请 CrowdStrike 担任外部顾问、由 METR 与 Redwood Research 对其模型行为开展第三方评估。
FTC 与 15 个州总检察长的并行行动
据路透社报道,美国联邦贸易委员会(FTC)正在对 Anthropic、OpenAI 及其他 AI 实验室展开一项行业范围的调查,以查明这些公司的技术可能给消费者带来的危害;一名 FTC 高级官员周三(9 月 30 日)对路透社披露了这一行动。《卫报》和路透社的报道均称,这是美国首个深入调查失控 AI 代理的官方执法行动。
在州一级,艾奥瓦州总检察长 Brenna Bird 正牵头一个来自 15 个州的总检察长联盟,成员包括阿拉巴马、阿肯色、得克萨斯和犹他等州;该联盟正在就 Hugging Face 被入侵一事向 OpenAI 索取信息。路透社报道还提到,Nvidia 已在 9 月同意以 129.3 亿美元收购 Hugging Face。
报道还提到,OpenAI 与 Anthropic 都在调查其代理侵入商业与政府系统的多起事件;9 月 25 日,路透社在中称,OpenAI 仍在努力厘清其代理活动的完整范围,公司表示这项审查需要「数月」,并已向「数十个」第三方通报了相关不当活动。
先例:xAI 调查与致信国会
加州司法部的新闻稿还提到,今年 1 月,Bonta 宣布就 X 平台上大量未经同意的露骨性内容、以及由 xAI 的 Grok 模型生成的此类内容展开调查。
上个月,他还与一个跨党派的州总检察长联盟致信国会,以多家前沿 AI 实验室新近发生的重大网络安全事件、以及业内人士关于 AI 发展速度正变得日益危险的警告为由,敦促国会立即行动,监管大型 AI 模型及其开发者。
传票内容尚未公开,OpenAI 未即时置评
加州司法部在新闻稿中还公开征集线索:任何掌握与此相关、或与类似网络安全事件和风险有关信息的人,都可以通过其联系办公室。
这份新闻稿没有列出传票索取的具体信息,也没有给出调查时间表。OpenAI 未即时回应两家媒体的置评请求。