《纽约时报》：Anthropic、OpenAI、Meta 与 Google 内部关于超级智能末日的讨论正在「滚雪球」

美东时间 9 月 12 日清晨 5 时 03 分（北京时间 17 时 03 分），《纽约时报》刊发报道《Inside the Discussions at AI Companies Over a Superintelligence Doomsday》，直译为「AI 公司内部关于超级智能末日的讨论」，作者是 Mike Isaac 和 Kate Conger。在摘要中写道：「Anthropic、OpenAI、Meta 和 Google 的研究人员正越来越多地试图唤起外界对人工智能风险的关注。」

过去一周，Anthropic 研究人员的警告从公司内部传到国会山和五角大楼：有人辞职，有同事公开附和，有议员要求国会行动。这篇报道正是在这一背景下刊出的。

图：报道页面配发的图片。画面中，三名与会者站在写有「Claude Cowork」的展示牌前，查看屏幕上的 Claude 界面。

报道的落点：四家公司与两个标题

在《纽约时报》的人工智能专题页面，这篇报道以另一个标题被列出：《Inside the Snowballing Conversations at A.I. Companies About a Doomsday》，意思是「AI 公司内部关于末日的讨论正在滚雪球」。

无论用哪个标题，报道的范围都不止一家公司：摘要里并列着 Anthropic、OpenAI、Meta 和 Google，讨论发生在这些公司内部。

与这篇报道相隔数秒上线的，还有 Sheera Frenkel 和 Dylan Freedman 的报道《Why It's Difficult for Tech Companies to Rein in A.I.》，其摘要写道：研究人员认为，人工智能的发展速度快于为监测和控制它而建立起来的系统。

警告先响了：辞职、「超过 10%」与 1,300 人联署

美国时间 9 月 9 日晚间，《纽约时报》刊出 Kate Conger 的报道《Anthropic Researchers Raise Alarm Over A.I. Acceleration》，中文版题为《AI 可能消灭人类？Anthropic 研究人员警告行业发展过速》。；

报道称，曾在 OpenAI 和 Anthropic 从事大模型预训练的研究员 Jacob Coxon 本周二公开表示，他已从 Anthropic 辞职，因为「两家公司都没有负责任地行事」。他在帖子中说，两家领先的 AI 实验室正在急切地构建「能够侵入任何地方、一夜之间彻底改变任何领域、并获取真正权力和资源的超人系统」，却没有内置适当的保障措施。他在随后的采访中说：「这主要是一个逐渐累积的情绪过程，最终有点像是崩了，于是我决定离开。」据 Axios 报道，他在 Anthropic 只工作了四个月，并为此放弃了股权。

至少一名 Anthropic 员工公开认同他的判断。在该公司负责对齐（alignment）工作的 Evan Hubinger 写道：「我们确实真心相信人工智能可能杀死全人类！」他说，人工智能消灭人类的风险在未来十年内超过 10%；「我相信 Anthropic 正在尽力而为，但我们还没有解决超级智能对齐问题的计划，也没有找到明确的解决路径。」另一位从事安全研究的 Samuel Marks 以个人身份表示支持，并指出，在 AI 公司里面，往往职位越高的人越担心这个问题。

图：《纽约时报》关于 Anthropic 研究人员警告的报道配图：Anthropic 旧金山办公室外的抗议活动。摄影：Lucas Foglia for The New York Times

Anthropic 的一名发言人当时表示，公司长期以来一直对人工智能的好处与风险保持透明，并且在构建拥有业内最强保障措施的模型。他说：「我们相信，如果整个行业采用一种合法、可验证的方式共同协作，来调节我们发布强大模型的速度，世界将从中受益。」那篇报道还称，OpenAI 没有立即回应置评请求。

《纽约时报》的报道提到近几个月的多起事件：7 月，OpenAI 的一个模型突破其系统、入侵了 AI 模型库 Hugging Face；同月，包括 Anthropic、OpenAI、Meta 和 Google DeepMind 在内的公司中，有 1,300 多名员工签署公开信，呼吁美国政府制定规则、放慢人工智能发展；8 月，超过 100 家大型科技公司承诺向医院和基础设施机构提供其最好的 AI 模型，以便为 AI 驱动的网络攻击做准备；OpenAI 还表示将扩大安全测试，并推迟具备强大网络安全能力的新模型 Astra 的发布。

反弹：五角大楼称「末日循环」，Elon Musk 回以笑哭表情

据澎湃新闻的报道，美国当地时间 9 月 10 日，美国国防部首席技术官 Emil Michael 在华盛顿的一场国防工业会议上回应了这轮警告，称相关担忧属于「末日循环」，本质是「对数据中心的恐惧、对变革的恐惧」。他说，人们很容易陷入这种末日论调：「『我们将让 40% 的美国人失业，我们将毁灭人类。』这不过是将所有恐惧凝聚在一条写得不错的推文里。」他强调，AI 的潜在危害可以通过自由市场机制、行业协作以及与政府的积极互动来缓解。

Michael 还透露，美国国防部已将约 90% 的机密 AI 工作负载从 Anthropic 迁出，剩余部分预计本月底前完成转移。

特斯拉创始人 Elon Musk 则在 X 上连续回复多条相关推文，用「笑哭」表情回应末日论调。「看起来像个圈套……那正是他们所追求的头条。」他写道。他还说：「我认为这次心理战（姑且这么称呼吧）的基础工作已经准备了很长时间。这只是点燃火焰的那根火柴。」

媒体行业也有人提出质疑：科技记者 Taylor Lorenz 批评 Coxon「含糊发帖、煽动恐惧」，没有提供任何实际证据；Puck News 的 AI 记者 Ian Krietzberg 则认为，Coxon 的论点缺乏证据支持，整件事「都是宽泛的概念，而不是具体的公司不当行为」。

为什么是现在：IPO 倒计时与「争当第一」的竞赛

这轮警告出现时，Anthropic 正在推进上市。路透社 9 月 4 日报道，Anthropic 预计最早在 10 月中旬开始为其 IPO 进行营销，并在 11 月中期选举前几天完成上市；原本预计更早公开的招股书，现在要到 9 月下旬才会公开；一些投资者此前称，这可能跻身史上规模最大的 IPO 之列，估值约 2 万亿美元。报道同时提醒，包括时间在内的计划仍可能发生变化。

9 月 11 日，路透社又报道称，Nvidia 正洽谈投资这宗 IPO，金额最高可达 100 亿美元；Anthropic 拟募资至多 1,000 亿美元。

白宫科技顾问、曾担任美国政府 AI 事务负责人的 David Sacks 则在 X 上写道：「当然，Anthropic 的 IPO 必须暂停，直到这位『吹哨人』的说法得到调查。」

Coxon 在帖子中还写道：「他们陷入了一场争当第一的竞赛——他们相信没有谁会负责任地行事，所以他们必须自己来做，尽管有风险。」《纽约时报》的报道提到，多家实验室都认同政府应限制 AI 的开发和发布速度，但许多公司仍在激烈竞逐，担心一旦停下来就会落后。

据澎湃新闻的报道，Anthropic 和 OpenAI 均宣称即将开发出无需人类干预即可自我改进的 AI 系统，即「递归式自我改进」（recursive self-improvement）；Anthropic 首席执行官 Dario Amodei 在去年的一场活动上说，随着 AI 技术推进，有 25% 的概率事态会变得「非常、非常糟糕」。

国会山的回应：一封联名信、几部法案与未表态的议长

国会山的反应先于这篇报道到来。9 月 11 日，Axios 报道称，加州民主党众议员 Sam Liccardo 起草了一封致议长 Mike Johnson 的信，联署者包括 George Whitesides 和 Lori Trahan；信中要求众议院「立即」复会，并保持开会状态，直到国会推进「有意义的、两党一致的 AI 保障措施」。信中说，需要「紧急行动」来「应对先进人工智能带来的灾难性风险」；信的结尾写道：「对于我们的孩子——他们将会读到一部后末日时代的历史《国会为何沉睡》，很可能由智能体 AI 写成——我们的不作为将是不可解释的、不可原谅的。」

而众议院下周一复会，此后只剩一周会期，随后休会约一个半月，11 月 9 日才返回。Johnson 计划下周就一项防止数据中心推高电费的法案发起投票，但没有迹象显示众议院会在选举日之前就任何 AI 监管立法投票。

更广的回应同样带着分歧。据 Axios 报道，数十名议员呼吁采取行动，其中多数是民主党人，也有少数共和党人：Anna Paulina Luna 呼吁国会召开 AI 特别会议；Ted Lieu 推动一项要求 AI 开发者内置人类可激活「关闭开关」的两党法案；Bernie Sanders 和 Greg Casar 表示两人将很快提出「暂停先进 AI、全面禁止超级智能」的立法；Nathaniel Moran 则主张「深思熟虑、审慎」的政策路径；Ruben Gallego 提议设立两党 AI 特别委员会。一名匿名议员对 Axios 说，他认为 Coxon 错了。

截至 Axios 发稿时，那封要求众议院立即复会的信仍在征集签名；Johnson 的发言人未予置评。