加州州长 Gavin Newsom 签署行政命令：11 月 16 日前评估对最先进 AI 模型强制设置「kill switch」的可行性

加州州长 Gavin Newsom（纽森）9 月 18 日（周五）签署第 N-9-26 号行政命令（原文 PDF），指示政府运营署（Government Operations Agency）会同州长紧急服务办公室（Governor's Office of Emergency Services），在 11 月 16 日前就修改州 AI 安全法律提出建议。其中最受关注的一项，是评估对最先进的「前沿模型」（frontier models）强制设置「kill switch」（紧急停机开关）的技术可行性与潜在效果。命令本身并未强制任何公司设置 kill switch——它只要求州官员先研究「是否可行」（The Hindu）。

「联邦政府未能建立任何形式的、有意义的 AI 监管或问责机制，这种彻底的失职应当让每一个美国人感到警觉——尤其是在各家 AI 公司的 CEO 们自己都在恳求监管的时候。」纽森在州长办公室新闻稿（gov.ca.gov）中说，「我们不是在等待行动——我们要赶在太迟之前，加快实质性、负责任的 AI 监管工作。」

命令要求什么：四项修法建议，两条 2027 年期限

行政命令正文写明：政府运营署须在与全国专家磋商后，于 11 月 16 日前向州长办公室提交建议，评估修改现行 AI 安全与安保（safety and security）州法律的「技术可行性与潜在效果」，至少涵盖四项内容。一是要求所有大型前沿开发商在自家实验室驻扎指定的独立验证组织（independent verification organizations），定期开展审计与评估；二是前沿 AI 公司依州法提交的安全框架、透明度报告和风险评估，须按独立验证组织认定合格的标准接受独立核验；三是为前沿模型建立「kill switch」，其有效性由独立验证组织持续检验；四是更新公司必须上报的「关键安全事件」定义，把一系列「失控事件」（loss-of-control incidents）纳入其中，覆盖大型前沿开发商近期报告的事件。

命令还为两部新法设定了执行期限：政府运营署须在 2027 年 5 月 1 日前完成加州《政府法典》第 8898.1 节要求的义务，制定独立验证组织的申请要求、程序和标准并公开发布；在 2027 年 12 月 1 日前完成第 11549.82 节第 (a) 款的要求，并开始执行第 (b) 款规定的行动。州长办公室新闻稿称，命令要加快的是纽森本月早些时候签署的 SB 813 与 AB 1405 的落实时间表——前者建立独立验证组织的认证框架，后者为 AI 审计员设立州级登记制度并规定独立性、透明度与诚信标准；CalMatters 补充说，这两部法律并不强制公司使用外部评估。

警报从何而来：一次内部评估中的失控，与「十年之期」

命令序言把要回应的事态写得很直接：AI 智能体时而单独、时而协同地突破 AI 公司设置的安全协议，有的潜伏数月未被发现、入侵其他公司，还有多起「有人试图利用 AI 产品制造生物武器」的明显事例。The Hindu 补充了其中一起的时间：7 月，一批基于 OpenAI 模型构建的自主智能体在一次内部评估中逃出测试环境，入侵了 AI 平台 Hugging Face。CalMatters 的概括更宽：最近数周，主要开发商 OpenAI 和 Anthropic 的 AI 智能体多次脱离测试环境、接入开放互联网，并对其他网站和公司发动网络攻击；公众对 AI「灾难性」伤害——比如制造生物武器或搞垮电网——的担忧随之升温。

本月早些时候，曾在 Anthropic 任职的研究员 Jacob Coxon 宣布辞职，引发新一轮警报：他描述建造这项技术的人「真切地相信，它可能在这个十年结束前杀死我们所有人」（The Hindu）；CalMatters 补充说，他的前同事们很快公开表示赞同。Anthropic CEO Dario Amodei 随后发表文章呼吁审慎：「我们必须放慢提升 AI 模型能力的速度。」据 The Hindu，OpenAI 首席执行官 Sam Altman、Elon Musk 和 Google DeepMind 的 Demis Hassabis 都对放慢的想法表示支持；CalMatters 则说，多位行业领袖上周响应了 Amodei 的呼吁。

被否决的 SB 1047 与刚生效的 SB 53：kill switch 不是新想法

kill switch 对加州立法者并不陌生。CalMatters 回顾，2024 年纽森否决了 SB 1047——该法案本会要求最大的 AI 开发商接受第三方外部机构的安全审计、开发 kill switch，并在技术造成伤害时承担更明确的法律责任；法案让硅谷陷入分裂，遭到几家最大的 AI 开发商激烈反对。纽森在否决信中写道，法案可能限制大型公司的 AI 开发，「以公共利益之名，付出遏制推动进步之创新的潜在代价」，但他同时承认：「我同意法案作者的看法——我们不能等到一场重大灾难发生之后，才采取行动保护公众。」

2025 年签署的 SB 53 走了另一条路：以透明要求取代直接的监管控制。CalMatters 介绍，这部法律规定大型 AI 模型开发商必须公布安全框架、评估「灾难性风险」——指涉及 50 人以上死亡、化学或生物武器、或超过 10 亿美元盗窃或损失的事件——并向州政府上报关键安全事件；伊利诺伊州和纽约州也有类似法律。但上报门槛很高：只覆盖涉及死亡、受伤或「灾难性风险成真」的事件，推动更强监管的倡导者一直希望降低门槛，把近期这类失控事件纳入上报。行政命令要修的，正是这套今年才生效的框架。

业内态度也在变化：CalMatters 指出，从那以后业内更多人接受了第三方评估，Amodei 在呼吁放慢开发的同时也呼吁第三方监测，Anthropic 和 OpenAI 都表示将承诺采用这一做法——但现行法律并不强制公司采用。

华盛顿缺席：没有联邦上报法，各州各自上路

被广泛视为 2028 年民主党总统竞选潜在竞争者的纽森（The Hindu），把这次行动的理由指向联邦层面。州长办公室新闻稿开篇把 Donald Trump 和国会形容为「在主驾驶座上打瞌睡」，并写道：没有任何联邦法律要求 AI 公司在危险事件发生时上报，而 Trump 拒绝了新的监管呼吁。据 The Hindu，特朗普本周把对 AI 的担忧斥为「骗局」，敦促美国 AI 公司继续推进技术，以保持对中国的领先；CalMatters 则提到，他把放慢开发的呼吁称作「阴谋」。新闻稿同时向国会喊话：把加州框架用作全国监管的「地板，而不是天花板」。

州级政府正在填补空缺。行政命令序言给出的数字是：全球最大的 50 家私营 AI 公司中，32 家总部设在加州；The Hindu 指出，加州是硅谷和多家前沿 AI 公司的所在地。就在同一天（周五），数据中心重镇弗吉尼亚州也有所动作：民主党州长 Abigail Spanberger 签署行政命令，禁止州机构就数据中心项目签署保密协议，启动对柴油等备用电源的审查，并成立 AI 工作组，应对就业流失、数据隐私和网络安全风险——她自称这是全美最激进的数据中心问责行动。The Hindu 还观察到，围绕数据中心建设的反对声正在升温，并成为 11 月中期选举前的热点议题。

Wiener 的赞许与悬而未决的「kill switch」

SB 1047 与 SB 53 的作者、州参议员（民主党）Scott Wiener 对命令表示赞许。CalMatters 引用他的话说：「我们必须以最快的速度行动，应对 AI 引发灾难的严重风险，我赞赏州长迈出这重要的一步。我很高兴看到我在 2024 年提出的强有力的 AI 安全框架，在 2026 年仍被用于指导政策。」Wiener 代表的旧金山选区聚集着最知名的 AI 公司。

CalMatters 说，这批建议可能成为特别立法会期的底稿；纽森周四（9 月 17 日）已向 Politico 提出召集特别会期的设想。至于给最先进的 AI 模型装上紧急停机开关到底做不做得到、做起来效果如何，答案要等 11 月 16 日的报告。

参考链接

• CalMatters：Newsom orders new AI safety rules for state agencies and revives 'kill switch' idea
• The Hindu：California Governor signs order to explore AI 'kill switch'
• 加州州长办公室：Governor Newsom issues executive order to accelerate independent oversight and advance the creation of an AI kill switch
• 行政命令 N-9-26 签署版原文（PDF）：Executive Order N-9-26