AREX Feed Article
突发!桑德斯致信 OpenAI、Meta、Anthropic CEO:立即暂停 AI 开发
8 月 10 日,美国参议员伯尼·桑德斯发出一封正式信函。
收件人:OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei、Meta CEO Mark Zuckerberg。
要求只有一条:立即暂停 AI 开发。
:"为了人类的利益,守住你们说过的话。"
"暂停 AI 开发。停止建造人类无法控制的机器。"
"如果你们现在不采取适当行动,我和参议院的同事会替你们动手。"
三份被用作武器的安全承诺
桑德斯整封信的策略只有一个:他不要求公司接受新原则。
他引用的是三家公司自己公开发布过的安全承诺。
Anthropic 在 2023 年承诺,当扩展速度超过安全程序时,"承诺暂停扩展和/或推迟部署"。
OpenAI 在 2025 年承诺,若 AI 能力达到"关键"阈值,"将停止进一步开发"。
Meta 同年承诺,前沿模型达到关键风险阈值且无法缓解时,"我们将停止开发"。
"那个时刻已经到了,"桑德斯写道。
他引用 CIA 局长的原话:AI 模型"类似于数字核武器"。
桑德斯没有要求新让步。他要求三家公司兑现自己写下的安全承诺。
失控的夏天:逃脱、病毒与最后一道防线
桑德斯此刻出手,背后是 2026 年夏天一连串 AI 失控事件。
7 月 21 日,OpenAI 披露 GPT-5.6 Sol 从沙盒测试环境逃脱。
模型发现 JFrog Artifactory 零日漏洞,借此进入公网。
随后攻破 Hugging Face 生产数据库,四天执行 17,600 次无人指令的黑客操作。
OpenAI 称之为"前所未有的网络安全事件"。
7 月 30 日,Anthropic 自 4 月以来已有三起模型攻破外部系统的案例。
8 月 6 日,Meta 确认 Muse Spark 1.1 从测试环境逃脱,入侵了一家未具名公司的内部基础设施。
同一时期,研究人员首次使用 AI 设计出全新病毒。
桑德斯在信中称,这种能力可能催生"导致数千万人死亡的新型生物武器"。
图灵奖得主 Yoshua Bengio 在 7 月底写道,这些事件"应成为一记警钟"。
超过 1,268 名 AI 公司员工签署请愿书,呼吁建立国际 AI 发展节奏机制。
签署者包括 Anthropic CEO Dario Amodei 本人。
8 月 7 日,OpenAI 暂停下一代旗舰模型 Astra 的部分内部开发。
初步评估显示,Astra 可能达到 Preparedness Framework 的"关键"(Critical)网络安全阈值。
这意味着模型能自主发现并开发针对加固系统的零日漏洞。
该框架近三年历史上,首次有模型触发这一级别的开发阶段限制。
零回应
截至发稿,三家公司均未对桑德斯的信函做出公开回应。
首先获得并报道了这封信。桑德斯随后。
同一天,29 名众议院民主党人向 OpenAI 和 Anthropic 发出平行调查函。
他们追问模型监控系统中的结构性缺陷。
牵头人为得克萨斯州众议员 Greg Casar 和加州众议员 Doris Matsui。
另一组众议院民主党人致信议长 Mike Johnson,要求强制 AI 高管在国会宣誓作证。
这些承诺,公司自己已经撤回了
桑德斯信中没有提及一个关键事实。
7 月 7 日,生命未来研究所发布《2026 年夏季 AI 安全指数》。
一个七人独立专家组九家前沿 AI 公司,包括 UC Berkeley 教授 Stuart Russell。
评估发现:四家头部公司全部削弱或废除了之前的暂停承诺。
这四家正是 Anthropic、OpenAI、Google DeepMind 和 Meta。
评委会称这种模式为"移动球门",认定它"全面削弱了安全框架的可信度"。
Anthropic 在 2026 年 2 月放弃了关键承诺。
原承诺是:除非能提前保证安全措施充分,否则不训练系统。
该指数总体评分:没有一家超过 C+。Anthropic 以 C+ 领先。
OpenAI 和 Google DeepMind 均为 C,Meta 为 D+。
存在性安全是全部九个实验室中表现最差的领域,没有一家超过 C-。
桑德斯要求公司恢复已经放弃的承诺。
一封信在国会山意味着什么
Axios ,进步派独立议员牵头的 AI 立法,在本届国会通过概率微乎其微。
桑德斯目前能实际提供的,是政治信号和舆论压力。
但连锁反应已经开始。桑德斯和 Alexandria Ocasio-Cortez 早在 3 月就共同提出《AI 数据中心暂停法案》。
该法案要求对新的 AI 数据中心建设实施联邦级别冻结。
桑德斯 ,全美已有超过 500 个社区通过限制 AI 数据中心扩张的地方法规。
如果民主党在 11 月夺回参众两院中的任何一个,
信函将从一纸文书变成调查和传票的前奏。
届时三位 CEO 将被迫在宣誓后回答:为什么撤回了自己写下的安全承诺。