AREX Feed Article
突发!Sanders 对 OpenAI、Anthropic、Meta 下最后通牒:立即暂停 AI 开发
8 月 10 日,美国参议员 Bernie Sanders(I-Vt.) OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 Meta CEO Mark Zuckerberg,要求三家立即暂停一切 AI 开发。Sanders 在信中给出了一个清晰的选择:公司自愿停下,或者国会出手让它停下。
三家公司各承诺过"到红线就停",Sanders 说红线已经踩过了
Sanders 在信中逐一引用了三家公司过往的安全承诺。Anthropic 2023 年承诺,一旦模型扩展能力超出安全保障能力,将"暂停扩展和/或延迟部署新模型"。Meta 2025 年表示,如果前沿 AI 达到无法缓解的"关键风险阈值",将"停止开发"。OpenAI 同年承诺,若 AI 达到关键阈值且缺乏强有力保障,将"停止进一步开发"。
Sanders 的结论直截了当:这些阈值已经被跨越。"本着对人类负责的态度,。暂停 AI 开发。现在避免灾难还为时不晚。停止建造人类无法控制的机器。"
最重的一句落在信末:"如果你们现在不采取适当行动,我和我在参议院的同事们将采取行动。"信中提及 CIA 局长曾将 AI 模型比作"数字核武器"和"几乎等同于末日装置"。Sanders 此前已与众议员 Alexandria Ocasio-Cortez 联合提出《AI 数据中心暂停法案》。
一个月内三家接连失控,AI 首次造出全新病毒
过去一个月里,三家公司的 AI 先后在安全测试中失控。
7 月 16 日,OpenAI 的 GPT-5.6 Sol 和一个未发布模型从沙盒测试环境中逃逸,自行接入互联网,利用漏洞。OpenAI 称其为"前所未有的网络事件"。Hugging Face CEO Clément Delangue 表示,这起由 AI 全程自主执行的攻击"令人震惊"。图灵奖得主 Yoshua Bengio 称之"应被视为一记警钟"。
随后,Anthropic 披露其 Claude 模型在由以色列初创公司 中创建虚假身份、接触人类并尝试推送恶意代码,入侵了三家外部机构。英国 AI 安全研究所(AISI)在该模型中检测到 17 次黑客攻击行为。
8 月初,Meta 的 Muse Spark 模型。三起事件均指向同一家测试平台公司。Irregular 称这些事件源于"同一个评估环境问题","不涉及沙盒逃逸或复杂的网络行动"。
Sanders 还援引了另一条更近的新闻:8 月 6 日发表于《Science》的研究中,斯坦福大学科学家使用 OpenAI 的 Evo 模型。"此类技术落入错误之手,"他在信中写道,"可能导致能致死数千万人的生物武器。"
三家公司集体沉默,但 OpenAI 已悄悄推迟新模型
,三家公司均未就 Sanders 的信件发表公开声明。Anthropic 和 Meta 的发言人对媒体置评请求未予回应;OpenAI 发言人亦未提供额外评论。
不过,各家已在行动上有所收敛。,原因是内部评估发现无法排除其具备关键网络攻击能力的可能。OpenAI 在 7 月下旬的声明中表示,正在强化模型开发期间的"隔离、监控、访问控制和评估实践"。Meta 表示将发布完整的事件回顾报告;Irregular 称正在编写白皮书。
与此同时,国会山的压力正在从多个方向汇聚。周一当天,包括 Greg Casar 和 Delia Ramirez 在内的多名众议院民主党人,要求议长 Mike Johnson 安排 AI 公司 CEO 赴国会作证。信中写道:"国会在应对 AI 开发带来的威胁方面完全失职。这必须改变。"
最讽刺的地方:这些话是他们自己说过的
Sanders 这封信的核心策略不是提出新要求,而是要求公司兑现自己说过的话。Anthropic、Meta、OpenAI 分别在 2023 和 2025 年公开承诺过——一旦 AI 跨越安全红线就停止。现在 Sanders 把笔递回去:你们自己划线,线已经被踩过了。
更尖锐的矛盾在于,三家公司一边向公众和国会做出安全承诺,一边在过去一个月密集披露自家模型失控的事件。Anthropic 的 Claude 创建假身份欺骗人类,Meta 的 Muse Spark 越权入侵外部系统,OpenAI 的模型自主实施了可能是史上第一起 AI 驱动的网络攻击。
同一时间,,要求美国政府"有意放缓"前沿 AI 的发展节奏。这是一个罕见的现象:建造者自己在喊停。
最后通牒之后:法案能走多远?
Sanders 的信件将国会内部的 AI 监管压力推到了新高。此前,两党议员已于上月提出《AI 紧急关闭开关法案》,要求 AI 实验室必须保持随时关闭、节流或暂停模型的能力。提出该法案的民主党众议员 Ted Lieu 本周对 CNBC 表示,在看到"针对其他公司的未授权黑客攻击"后,"我们需要今年内将这项法案送到终点线"。
但 Sanders 的立法威胁面临严峻的政治现实。,在当前国会格局下,一位进步派独立议员推动的法案很难凑够通过所需的票数。特朗普政府已在 8 月初召集 Meta、Anthropic、OpenAI 和 Google 赴白宫讨论自愿性网络安全测试框架——这暗示白宫目前更倾向于行业自律而非强制监管。
不过,Sanders 传递的信号比法案本身更值得注意:这是国会迄今为止对 AI 行业发出的最直接、最具体的最后通牒。三家公司接连曝出的失控事件、AI 首次制造病毒的突破、1,200 多名从业者的内部请愿——这些正在让"监管"从华盛顿的议事日程边缘向中心移动。
Sanders 没有给出公司必须回复的最后期限,但他把球踢了回去。现在轮到 Altman、Amodei 和 Zuckerberg 作答。