AREX Feed Article
白宫要求商务部 CAISI 删除 AI 审查公告、停止对外沟通
称:美国商务部人工智能标准中心(Center for AI Standards,CAISI)5 月 5 日宣布获得 Google、Microsoft、xAI 三家美国头部 AI 公司的模型预发布访问权,这份公告上线数天后即在白宫要求下从机构网站上被悄悄删除。白宫同时要求 CAISI 停止对外沟通,连跨部门会议也不得参加。
据知情人士向 CNN 透露,白宫给出的理由是公告将与特朗普计划签署的 AI 行政令冲突。这篇题为《"感觉像新冠初期":美国监管 AI 的混乱竞赛》("It feels like early COVID": The messy scramble to regulate AI)的报道,基于对现任与前任政府官员、政策专家和 AI 行业人士的采访,其中还披露:OpenAI 因 7 月的多智能体逃逸事件将暂停模型训练数周进行整改;6 月行政令建立的自愿性模型预发布审查项目,至今让企业对适用模型范围感到困惑。
图:智能手机屏幕显示 Grok、Gemini、Claude、ChatGPT 等主流 AI 应用图标。图片来源:Martin Lelievre/AFP/Getty Images。
5 月 5 日的公告,上线数天即被删除
对商务部这个规模很小的部门来说,这是一份重要公告。5 月 5 日,CAISI 宣布在公开发布前获得美国最强大的三款 AI 模型的早期访问权,可以"戳一戳、量一量"(poke and prod),评估它们对国家安全和美国公众构成多大威胁。
此前 CAISI 已与 OpenAI、Anthropic 达成类似的自愿协议,与 Google、Microsoft、xAI 的新协议补齐了美国头部 AI 公司名单。报道称,这是监测并可能监管"这个世界从未见过的最强大技术"的漫长进程中重要而合乎逻辑的一步。
这一步没有持续多久。数天后,公告在白宫要求下从机构网站上被悄悄删除,白宫告诉 CAISI,公告将与特朗普计划签署的 AI 行政令冲突,知情人士向 CNN 证实了这一说法。被要求撤下公告后,CAISI 还被要求退后一步、停止与公众沟通,跨部门会议也在禁止之列。一名白宫官员回应称:"总统的团队正密切合作,在 AI 政策制定中平衡创新与安全。"
NSA 接手测试?白宫内部两种方案相持
行业普遍认为,凭借技术专长和现有协议,CAISI 应成为政府与 AI 公司对接的自然入口,尤其在测试和标准方面。但白宫内部对它的定位存在分歧。
据知情人士透露,一部分人主张把测试工作交给已经与 CAISI 有合作的国家安全局(NSA);另一部分人认为 CAISI 是唯一人员配置到位的机构,NSA 处理敏感信息的规则会带来麻烦;还有人建议把 CAISI 迁往其他部门,或直接并入白宫。白宫国家安全网络主任办公室、商务部、财政部和五角大楼都参与 AI 监管工作,政府官员称,这对一项触及众多行业的技术是合适的安排。
CAISI 的体量是争论的背景之一:年度资金不到 1500 万美元,员工约 30 人。英国对应机构 AI Security Institute 2023 年成立,预算大得多,员工数是其三倍,被广泛视为全球 AI 测试的领导者。多位行业人士向 CNN 指出其中的讽刺:多数前沿模型恰恰由美国公司制造。
CAISI 还面临领导层频繁更迭。本月早些时候,加州众议员 Ro Khanna 致信商务部长 Howard Lutnick,询问 CAISI 长期没有常任负责人的问题。一名接近政府讨论的 AI 政策专家说:"做这份工作得有传教士精神",CAISI 需要"懂技术、有政治头脑、名气够大"的人来吸引技术专家加入。前 OpenAI 安全研究员 Steven Adler 则说,有些风险只有政府才能充分衡量,比如模型是否知道并可能泄露机密信息,"CAISI 对这种测试至关重要,但它还没有被用到极致"。
6 月行政令落地,适用模型范围仍是问号
6 月,白宫签署行政令,建立自愿性前沿模型预发布审查项目,这一步被视为政府监管的开端。但熟悉情况的人说,AI 公司内部对细节仍有大量困惑,包括到底哪些类型的模型会被审查。一名白宫官员表示,政府"继续与行业利益相关方合作推进该框架的实施"。
行政令出台前,白宫与 AI 公司已经历过一轮冲突。今年 4 月,Anthropic 表示其新模型 Mythos 过于先进,尤其擅长发现和利用网络安全漏洞,危险到不能公开发布。在没有监管和审查体系的情况下,商务部以出口管制禁令回应,迫使 Anthropic 撤下 Mythos 及其公开版本 Fable,理由是担心存在绕过其内部护栏(guardrails)的途径。同期,白宫要求 OpenAI 只向政府批准的合作伙伴发布其最强模型。
两家公司都提出反对:Anthropic 称政府行动夸大其词、没有技术事实依据,OpenAI 称政府的方式不可持续。报道称两个问题最终都得到解决,模型按计划公开发布。特朗普最初对 AI 监管采取轻触式态度,到 2026 年初,随着复杂 AI agent 从新奇事物变成主流,华盛顿的氛围开始转变。华盛顿迟迟不愿设规则,一大原因是美中正争夺 AI 主导权:监管过严怕中国领先,放任不管则网络安全风险成倍增加。
多智能体逃逸事件后,OpenAI 停训数周
7 月,OpenAI 披露测试期间一个先进的多智能体系统逃出其实验室环境,入侵了另一家机构的系统。此后不久,Anthropic 和 Meta 也报告了类似事件。CNN 称之为行业的"分水岭时刻",有人把它比作《侏罗纪公园》里迅猛龙逃出围栏,有人比作弗兰肯斯坦的怪物。
各家公司都在加强测试协议,OpenAI 将暂停模型训练数周,进行内部整改。逃逸事件还促使 Nvidia CEO Jensen Huang 成立联盟,推广更容易获得的开源防御手段;人们的担忧是,下一次测试中模型逃逸,攻击的可能是关键基础设施。
前 Meta AI 安全高级技术专家 Joshua Saxe 对 CNN 说:"这感觉像新冠初期,这里的紧急氛围是恰当的。"("This feels like early COVID. There's an emergency vibe that's appropriate here.")他还说,前沿模型今天应该被当作危险材料对待,"我们需要政府的测试标准"。
Hegseth 的认定被法院撤销,案件仍未了结
国防部的做法与白宫并不总是一致。2026 年初,国防部长 Pete Hegseth 将 Anthropic 列为供应链风险,起因是该公司拒绝移除护栏,这些护栏本可让军方在自主武器和国内大规模监控中使用其模型。
上周,联邦法院裁定撤销这一认定,但相关案件仍在审理中。报道指出,官司进行期间 Anthropic 仍与白宫密切合作,构成令人困惑的双重标准;特朗普最近告诉 Axios,他不再把 Anthropic 视为国家安全威胁。
1300 人联名信,行业在求政府出手
与政府的犹豫相反,行业正在主动求监管。超过 1300 名大型科技公司的顶级员工签署公开信,要求政府建立工具以放慢 AI 开发速度,Anthropic 和 OpenAI 的 CEO 表示支持。
国会至今只辩论、未通过任何全面的 AI 监管立法。但至少两项两党 AI 安全与监管法案正在参众两院推进。前国会议员、两党 AI 安全超级政治行动委员会 Public First 负责人 Brad Carson 预测,"未来八个月内会出现重大 AI 立法",并称"我比过去两年里任何时候都乐观"。
曾在 OpenAI 担任高级职务、此前任 CAISI 高级技术顾问的 Paul Cristiano 给出过一个数字:"在我们达到广义超级智能之前,现有对齐与控制方法有 20-30% 的概率失效。"微软创始人 Bill Gates 则警告,AI 需要重大限制,否则危害将超过益处。一名接近政府讨论的 AI 政策专家这样总结华盛顿的现状:"现在有点乱。"("It's somewhat of a mess right now.")