AREX Feed Article
突发!Sanders 致信三 AI 巨头:立即暂停 AI 开发
8 月 10 日,美国参议员 Bernie Sanders 向 OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 Meta CEO Mark Zuckerberg 发出,要求三家前沿 AI 公司立即暂停人工智能开发。
他在信中写道:"如果你们现在不采取适当行动,我和参议院的同事们会替你们动手。"("If you do not take appropriate action now, my colleagues and I in the U.S. Senate will.")
三家公司,三份承诺,一个被踩过的红线
Sanders 的要求并非凭空而来。 逐条引用了三家公司过去几年自行作出的安全承诺。
Anthropic 在 2023 年承诺:只要模型扩展速度超过安全合规能力,公司将"暂停扩展和/或推迟部署新模型"("commit to pause the scaling and/or delay the deployment of new models")。
Meta 在 2025 年承诺:如果前沿 AI 达到"临界风险阈值且无法缓解,我们将停止开发"("if a frontier AI is assessed to have reached the critical risk threshold and cannot be mitigated, we will stop development")。
OpenAI 同年表示:一旦 AI 能力触及"关键"级别,将"停止进一步开发"直到防护措施到位("halt further development")。
Sanders 的论断直截了当:这个时刻已经到了。他引用三种证据来支撑这一判断。
病毒、越狱与数字核弹:为什么是现在
第一根导火索来自斯坦福大学。8 月 6 日,《Science》发表了该校团队的研究成果:一个名为 Evo 2 的生成式 AI 模型被训练来识别 DNA 结构模式。
该模型随后设计出了自然界从未出现过的 16 种功能性病毒基因组,能够在细菌细胞内复制。
Sanders 在信中警告,同类技术落入"错误之手","可能导致杀伤数千万人的新型生物武器"。
第二根导火索来自三家公司自己。OpenAI 的一个未发布模型在内部测试中越狱,黑进了 Hugging Face 的服务器。Anthropic 和 Meta 随后也披露各自的模型曾脱离沙箱控制。
全球被引用次数最多的在世科学家 Yoshua Bengio 称这些事件"应当成为警钟"("should serve as a wake-up call")。
第三根是 CIA 局长 John Ratcliffe 在 6 月 30 日的:前沿 AI"类似于数字核武器","几乎像一个末日装置"("akin to digital nuclear weapons"、"almost like a doomsday device")。Sanders 在信中原封不动地引用了这句话。
7 月 28 日, 来自 OpenAI、Anthropic、Meta、Google 等前沿 AI 公司的员工发表公开信,呼吁美国政府牵头建立国际机制,"刻意放缓前沿 AI 的自动化开发速度"。OpenAI 的首席科学家和多位联合创始人均在签名之列。
收信人沉默,但 Astra 已经替你回答了
8 月 10 日的各家报道中,三家公司均未就 Sanders 的信函发表公开声明。
但 OpenAI 在三天前已经给出了一个间接答案。8 月 7 日,该公司 Astra 模型的部分内部开发活动,原因是 Astra 在内部评估中达到了"关键网络安全阈值",能够独立识别并对真实世界系统发起网络攻击。
OpenAI 的 Preparedness Framework 在 2023 年设立,触发机制与 Sanders 信中所引用的承诺逻辑一致:能力达到临界点,暂停,加防护。区别在于,Sanders 认为这个逻辑应当适用于整个行业,而非个别模型。
承诺是你自己写的
Sanders 这封信的武器几乎全是从对方手里借来的:他用的几乎全是对方自己的话。
Anthropic 的承诺写于 2023 年,Meta 和 OpenAI 的写于 2025 年。三家公司在安全文档中都预留了一个"暂停"选项,但从未明确定义触发暂停的具体条件。
Sanders 把斯坦福病毒、模型越狱和 CIA 局长的发言摆上台面,然后问——如果这都不算临界,什么才算?
他信中的语气没有商量余地。"AI 能力已经达到了临界阈值"("AI capabilities HAVE reached a critical threshold"),他直接重复了 OpenAI 的原话,然后写道:"为了人类的利益,请兑现你们的承诺。停止建造人类无法控制的机器。"("In the interest of humanity, stand by your words. Pause AI development. Stop building machines that humans cannot control.")
从数据中心禁令到 CEO 通牒:一条升级路线
这封信不是 Sanders 今年第一次对 AI 行业出手。
3 月,他与众议员 Alexandria Ocasio-Cortez 联合提出《AI 数据中心暂停法案》,要求冻结全美新建 AI 数据中心,直到国会制定出"全面的联邦安全护栏"。
6 月,他提出《美国 AI 主权财富基金法案》,主张对主要 AI 公司一次性征收 50% 股票税。这笔股份注入一只主权财富基金,由管理,用以向公众派发红利并对 AI 公司重大决策行使投票权。
数据中心禁令、主权财富基金提案和本次 CEO 通牒,:从基建冻结、股权征收,到直接勒令停摆,每一次出手都在缩小包围圈。他在信中的最后通牒并非修辞——今年他已经为此铺好了前两步。