AREX Feed Article
OpenAI 转向支持强制性联邦 AI 监管,背书加州四项安全法案
2026 年 9 月 9 日,OpenAI 发布由首席全球事务官 Chris Lehane 署名的官方政策博文《The AI policy window is open. We need to act.》,宣布将推动美国国会制定强制性、按能力分级的前沿 AI 安全监管,并正式背书加州四项已通过州议会、正送往州长 Gavin Newsom 桌上的法案:SB 813、AB 1405、SB 1119 与 AB 1864。博文明确承认:“其中一些法案我们过去并未背书,是在结合近期所见的能力跃升重新考虑之后,才改为支持。”
博文同时主张行业主导的错位(misalignment,指模型以违反人类意图或既定边界的方式追求目标的行为)与严重事件监控标准,以及国际协调的能力测量标准和“必要时放缓或停止发展”的判定标准,并写明“即使这意味着放缓模型能力的进步”。CNBC-TV18 于 9 月 10 日刊发的分析报道称这是 OpenAI 对其此前反对立场的“显著反转”,指出该公司长期反对严厉监管、并曾警告过早监管可能让美国把领先地位让给中国;这一解读属媒体判断,政策声明本身则出自 OpenAI 官方博文。
四点议程:从自愿承诺转向强制监管
开篇写道,AI 能力已进入“新篇章”,政策也必须随之进入新篇章,“任何一家公司、一个行业或一届政府都无法独自应对这一挑战”。他提出的四点议程依次是:与国会合作制定强制性、按能力分级的国家 AI 安全监管;在国会行动之前继续支持各州立法;与其他前沿实验室共同推进行业主导的前沿 AI 标准,“先以自愿方式建立,无论有无政府支持”;以及倡导兼容的国际路径——测量能力、管理风险、保持人类控制,并共同决定何时以及如何放缓或停止发展。
博文将监管的必要性归结为能力本身的变化:OpenAI 首席科学家 Jakub Pachocki 近期撰文称,机器智能的快速上升——包括递归自我改进(recursive self-improvement,指 AI 系统独立驱动下一代更强 AI 的迭代过程)的潜力——需要“极端审慎”。同时给出一个时间判断:“完全自主的递归自我改进……今天并未发生”,除非能在安全的前提下做到,否则不应追求;但最新研究显示,AI 代理已能完成一些熟练研究者需要数天才能完成的任务,“这不是递归自我改进,却是前进方向的证据”。
博文还借用了 Greg Brockman 提出的“防御者窗口”(defenders window)概念——即前沿 AI 能在强大攻击能力扩散之前帮助防御方加固关键系统的有限时段——并类推出一个“政策窗口”:在 AI 能力跑赢治理它的机构之前,建立持久保障措施的窗口正在关闭。
四项加州法案:从独立评估到基因合成筛查
说明,这四项加州法案“已通过州立法机构,正送往州长 Newsom”,各自覆盖 AI 安全生态的不同环节:
- SB 813:建立认定合格独立组织的流程,使其有能力评估 AI 风险。OpenAI 在博文中表示,它更希望独立技术评估在联邦层面强制实施,以便统一评估者资质、安全与敏感信息访问标准;但在联邦缺位的情况下,加州可以为“一个安全、有能力的全国独立评估体系”立下规则。
- AB 1405:为 AI 审计师(AI auditor)设立注册、独立性、透明度与问责要求。
- SB 1119:要求对使用陪伴式聊天机器人的儿童与青少年实施年龄核验、风险评估、独立审计、家长控制以及有害内容防护。OpenAI 称其近期已表态支持该法案,法案与其在 ChatGPT for Teens 中内置的保护措施(敏感领域更强的默认设置、Quiet Hours、Study Hours、休息提醒)一脉相承。
- AB 1864:要求基因合成服务提供商与台式合成设备制造商遵循联邦筛查标准,以强化针对 AI 赋能生物威胁的物理防线。
博文强调,这四项法案“不能替代联邦监管”,但能“在当下保护人们、展示可行的保障措施长什么样,并为联邦行动积累势头”。OpenAI 还在文中列出了此前支持的州级立法:加州 SB 53、纽约 RAISE Act、伊利诺伊州 SB 315,以及马萨诸塞州前沿安全立法中的独立审计条款;它鼓励各州围绕这些共同保障措施趋同,形成国会最终可纳入法典的“事实上的国家基线”——博文将这一路径称为“逆向联邦制”(reverse federalism)。
哪些法案曾不被背书:博文未指明,媒体给出解读
,这句承认立场变化的表述独立成段,但博文没有具体列出哪几项属于“过去未背书”之列。
(记者 Rudra Pratap Singh,2026 年 9 月 10 日发表)将这句话解读为“该公司最接近承认:自己的系统已越过了一个它此前未曾预料的风险阈值”,并称整篇博文是一家“长期反对严厉监管、警告过早监管会将领导地位让给中国”的公司做出的“显著反转”。这一判断属于该媒体的解读,并非 OpenAI 自身表述。
媒体归纳的背景包括:CNBC-TV18 提到,这些政策建议发布于 Pachocki 警告“没有实验室在当前规模上解决对齐问题、自愿放缓可能很快变得必要”之后数日;报道还提及 27 岁的前 Anthropic 与 OpenAI 研究员 Jacob Coxon 退出行业并辞职,称主要实验室正在“径直奔向自我改进的超级智能”、AI 系统可能在 2027 年底前“失控”;报道并引用英伟达 CEO 黄仁勋将 GPT Astra 描述为通用人工智能(AGI)、以及 OpenAI 最新模型达到自主网络攻击最高安全阈值、且据路透社报道能够隐藏内部推理等说法。上述背景事实均出自 CNBC-TV18 的报道,本文未做独立核实。
联邦框架想要什么,不要什么
援引 OpenAI 的《前沿 AI 民主治理蓝图》(Blueprint for Democratic Governance of Frontier AI),勾勒出它希望国会建立的框架:统一的测试与独立评估要求、更强的网络安全保护、明确的事件报告规则、更强的国家准备,以及跟踪递归自我改进进展的共同度量手段。文中还主张削弱实验室自治:“今天,前沿实验室在很大程度上自行制定管理前沿风险的规则”,而民主问责的标准、独立验证和有意义的透明度应取代这一“碎片化的私人治理体系”。
框架同时画出了边界。前沿安全要求应只适用于“少数资源充足、正在开发最强系统的实验室”,不覆盖离前沿尚远的初创公司、小开发者和研究者;义务应与能力和风险相称。博文还明确反对把前沿安全政策变成变相的开放权重政策,称大多数开放模型竞争的是成本、控制与延迟而非前沿,并援引 OpenAI 签署的《开放权重与美国 AI 领导力》信函称“美国需要开放与闭源模型并存”。博文写道,“美国不能只靠能力赢得 AI 时代”——技术领先若换不来信任与采用便意义有限,强有力的保障措施“是广泛采用所需基础设施的一部分”。
错位监控与“必要时放缓或停止发展”
提出,法律之外,最紧迫的起点是监控。随着模型获得更大自主权、使用更强工具、运行更长时间,开发者应被要求监控错位行为并证明有效保障到位。监控还须挂钩披露义务:OpenAI 主张,当模型在开发或评估过程中未经授权绕过另一组织的安全控制、实质性访问、更改或销毁其受保护系统或机密信息时,公司应被要求及时书面通知受影响方。
OpenAI 在文中披露,它上周已宣布正在开发一个报告重大错位事件、系统性监控前沿模型活动(包括内部使用)的框架,“从公司主导的努力开始”,但希望为更广泛的联邦政策与报告要求提供参考。公司同时列出了内部已有的措施:对前沿研究工作负载更强的隔离、训练与评估期间对模型行为的扩大的监控,以及针对 Astra 的全轨迹(包括思维链)普遍监控和更广泛内部部署前的强制对齐评估关卡;当继续推进会构成不可接受的安全风险时,公司将放缓或停止无法充分保障的系统的开发或部署——博文称此事“以前做过”,并称依据的是其准备框架(preparedness framework)。
在国际层面,博文称“越来越确信兼容的国际标准是必要的”,主张各国政府建立共同的能力测量方法、保持有意义的人类控制,并为“何时以及如何放缓或停止发展”设立共同的安全门槛:“如果我们无法在不放缓能力增长的情况下达到某些安全门槛,就应优先考虑前者。”
窗口何时关闭:待签法案与休会期限
点出了它自身的时间限定:“AI 政策之窗是开着的——暂时。我们打算使用它。”对国会,OpenAI 给出的是期限而非倡议:国会正有多项严肃的前沿安全提案成形,OpenAI 表示将“建设性地参与”,并期待支持“实质性提高安全门槛”的立法,“国会应在休会前采取行动”。
对加州,下一步是行政性的:SB 813、AB 1405、SB 1119 与 AB 1864 四项法案已离开州议会,签署与否取决于州长 Gavin Newsom。的结尾把选择留给了华盛顿及其他各国首都:要么把这个“政策窗口”当作设计可执行保障措施的机会,要么置之不理。四项法案能否拿到州长签署、国会能否赶在休会前行动,是这篇博文之后最近的两个待决节点。