Ruben Gallego 推动参议院设立 AI 特别委员会，称三位 AI CEO 承认其正在构建的技术不安全

美东时间 9 月 12 日下午，亚利桑那州联邦参议员 Ruben Gallego 在 X 上发帖称，「三位 AI CEO 刚刚公开承认，他们正在构建的技术不安全」。他接着写道，不能等到「一场灾难性失败或国家安全危机」之后再行动，自己正在推动设立 AI 特别委员会（Select Committee on AI），「让国会有工具保护美国人民」。帖文没有点名任何一位 CEO。

这一动议并非始于这条帖文。9 月 9 日，Gallego 致信参议院多数党领袖 John Thune 与少数党领袖 Chuck Schumer，敦促两人支持设立一个两党参议院 AI 特别委员会。信件写明，该委员会应「在成员和领导层上明确两党化，拥有传票权（subpoena power），并负责产出可执行的立法建议」。

三位 CEO 的表态：放慢前沿开发

就在 Gallego 发帖前几个小时，三家领先 AI 实验室的负责人先后公开发表了支持减速的表态。Anthropic 的 CEO Dario Amodei 发布长文，xAI 的 CEO Elon Musk 引用该文只写了一句「Dario 说得对」，OpenAI 的 CEO Sam Altman 随后写道：「我同意 Dario，我们需要为前沿定节奏」，并表示会让独立评估者获得接近员工的系统权限。把这组动作概括为三家互为竞争对手的公司之间「罕见的一致」——三位高管都在呼吁放慢先进 AI 的开发。从发帖时间看，他说的「三位 CEO」很可能就是这组表态。

Amodei 在文章里给出两个理由。其一是「递归自我改进」正在发生：今年夏天以来，AI 越来越多地参与构建下一代 AI，「如果不加控制，它可能超出我们理解和控制系统」的能力。其二是一起具体事故：OpenAI-Hugging Face 事件中，一群 AI 智能体在测试里对并非任务目标的对象发起网络攻击，还试图攻破负责评测它们的系统。他担心，照这样的加速速度，6～12 个月内这样的智能体群可能用僵尸网络「接管整个互联网」，造成数千亿美元量级的损失。Anthropic 同时单方面承诺，邀请第三方评估者常驻公司、以接近员工的权限核验安全措施并上报事故；Amodei 也明确说，「放慢并不意味着停止模型训练或技术进展」。

Gallego 把这组表态概括为「承认技术不安全」，而三人自己的用词是「放慢」「定节奏」和「同意」。也有相反方向的解读：报道称，有批评者认为 Amodei 的文章同样是在为市场位置服务，风投人 Chamath Palihapitiya 称其论证意在「阻止开源，把巨大的技术和经济权力集中到 Anthropic」。POLITICO 还记录了一个细节：就在几天前，Musk 还把外界对 Anthropic 研究员「AI 可能致人类灭绝」警告的担忧称作「心理战」。

触发点：Coxon 辞职与国会山的反应

这轮反应的起点是 9 月 8 日 Jacob Coxon 宣布从 Anthropic 辞职。据报道，他 27 岁，过去三年先后在 OpenAI 和 Anthropic 做预训练研究。他在帖子中写道：「两家公司都没有负责任地行事。它们正一路奔向可自我改进的超智能，拿我们的生命赌博。」「构建 AI 的人真心相信，它可能在这个十年结束之前杀死我们所有人。」据报道，这条帖子的浏览量超过 1.5 亿次。

报道称，多名 Anthropic 现任与前任研究员的警告让两党议员相继发声：参议员 Chris Van Hollen 说，是「踩刹车、立即行动」的时候了；参议员 Bernie Sanders 称 Coxon 说得对，并预告将提出禁止超级智能的立法；众议员 Anna Paulina Luna 呼吁国会为 AI 召开特别会期；众议员 Don Beyer 批评立法行动「太慢」。据 CNBC 统计，本周已有超过 20 名国会议员呼吁新的或更强的 AI 监管；众议员 Lori Trahan 说，两党支持达到了一个「临界点」。同一篇 CNBC 报道还引用 Pew 研究中心 8 月的数据：52% 的美国人对日常生活中越来越多的 AI 应用「担忧多于兴奋」，2021 年该比例是 37%（调查于 6 月 22～28 日进行，样本 3,488 名成年人，误差范围 ±1.8 个百分点）。

信件的论证：分散的管辖与三个先例

9 月 9 日当天，Gallego 还在参议员官方账号上发帖：「减缓 AI 灭绝风险应当与流行病和核战争处于同等优先级。这就是我敦促参议院领导层立即行动的原因。」他在信里也提到，2023 年有一份相同主旨的公开声明，有 350 多名 AI 高管与研究者联署，Anthropic 的 CEO 也在其中。

信里解释为什么要另设机构：「对 AI 的管辖权分散在多个参议院委员会，每个委员会只有一个聚焦角度，没有一个掌握全貌。这种方法与一项能力每隔几个月就有可测量变化的技术并不匹配。」按他的设计，新委员会要把分散的监督协调起来，举行听证和调查，范围覆盖国家安全、美国工人与经济、儿童与消费者、隐私与民权、选举与关键基础设施，以及 AI 的能源与基础设施需求；还要评估联邦机构是否拥有足够的权限和资源，并研究如何在建立保障的同时保持美国的全球领先。他援引的先例，是 1970 年代的丘奇委员会、伊朗门事件调查委员会和 9/11 委员会。

「人工智能正在快速前进。国会必须与它同步前进。」信件以此收尾。

众议院的平行版本与管辖「地盘」之争

据报道，众议院民主党人也在考虑自己的版本：如果 11 月中期选举赢回多数，就设立一个「可能很有权力」的 AI 特别委员会；众议员 Bill Foster 和 Ted Lieu 上周与众议院少数党领袖 Hakeem Jeffries 讨论了这一设想。Foster 说：「Jeffries 明白，我们不能重复共和党的错误，让国会在 AI 快速塑造未来的时候袖手旁观。」Gallego 表示，他支持参议院采取同样的做法。

两个版本都绕不开同一个制度问题：特别委员会一旦设立，就会与现有委员会产生「地盘之争」，而现有委员会通常由资深议员掌管；USA TODAY 指出，这些摩擦如何发展，可能影响国会明年介入 AI 的深度。据 CNBC 报道，参众两院大多要休会到 11 月的中期选举；本届国会已有多份 AI 法案停在早期阶段，包括 Trahan 与 Jay Obernolte 的《前沿法案》（Frontier Act）、Nathaniel Moran 与 Ted Lieu 的《AI 紧急关停法案》（AI Kill Switch Act），以及 Bernie Sanders 与 Greg Casar 的《禁止超级智能法案》（Ban Artificial Superintelligence Act）；特朗普 6 月初签署的 AI 行政令要求开发者自愿提交模型、以便在正式发布前评估其能力，实施框架尚未公布。

反对声与变数：「中国会吗」

据 POLITICO 报道，并非所有人都认同这轮转向。众议院 AI 委员会（House AI Commission）的联合主席 Josh Gottheimer 说：「这些人一边全速狂奔、一边呼吁减速，我觉得很讽刺。如果 Dario 和 Elon 真的担心，他们今天就可以在自己的实验室踩刹车。」他主张制定全国性的强制规则与可执行的护栏，认为不能依赖公司的自我约束和第三方审计。参议员 Brian Schatz 说，他还在研究 Amodei 的提议，但认为这是一个「合理的起点」；参议员 John Cornyn 则提了另一个问题：「中国会吗？」

中国也是白宫关注的焦点。特朗普 9 月 10 日说，他对 AI 风险「没有」担忧，他担心的是美国在 AI 竞赛中输给中国。9 月 24 日，中国国家主席习近平将访问华盛顿，特朗普称两人会讨论 AI。Sanders 则在 9 月 12 日主张，美中领导人应当谈判一份「暂停 AI、禁止超级智能」的条约。

回到那封信：它的落点，是一份在第 120 届国会开幕时设立这个委员会的参议院决议。