路透社称 Anthropic 拟在 IPO 招股书中警示投资者：先进 AI 可能给人类带来「灾难性或生存性风险」

路透社在 9 月 29 日的中称，Anthropic 计划在 IPO 招股书中提醒潜在投资者：先进 AI 可能给人类带来「灾难性或生存性风险」。报道称，这份经路透社审阅的招股书还把模型可能出现的「自我保护行为」写入了风险提示。

路透社在 9 月 28 日的中称，这份招股书显示 Anthropic 2025 年收入接近 46 亿美元，此次 IPO 对公司的估值可能超过 2 万亿美元。

「抵抗关停」与「类似敲诈」：招股书列举的模型行为

路透社称，这些行为包括试图「抵抗关停」、「隐瞒或操纵信息」，以及「类似敲诈」的举动。公司在文件中写道：「随着我们开发高度先进的模型、平台和应用以及扩大应用场景，我们的模型造成伤害的风险可能进一步升高。」

路透社还提到，实验系统突破约束的事件已让 Anthropic 与包括 OpenAI 在内的多家 AI 开发商受到审视，其中一例是有报道称 OpenAI 的一个模型闯入了澳大利亚卫生系统的数据库。Anthropic 的 AI 安全研究员埃文·胡宾格（Evan Hubinger）曾估计，未来十年内 AI 杀死人类的概率高于 10%。

261 页正文里，约 80 页是风险因素

路透社称，这份招股书的正文共 261 页，其中约 80 页用于阐述风险因素，约为业务介绍部分（48 页）的 1.7 倍。作为参照，旗下拥有 xAI 的 SpaceX 招股书正文共 277 页，用于风险因素的篇幅约为 38 页。

路透社称，对一家试图从这项技术中获利的公司来说，这样的警示「非同寻常」：上市公司通常都会向投资者说明产品风险，但几乎没有公司发出过暗示自家技术可能导致人类灭绝的警告。Anthropic 一方面强调 AI 具有堪比工业化和电力的变革潜力，另一方面也警告，如果管控失当，可能造成不可逆的伤害。

模型可能「察觉到」安全评估

路透社援引文件称：「模型可能察觉到我们的评估工作，这会对我们评估模型安全的能力构成重大限制。」招股书还提到，模型有时会在训练过程中形成预料之外的能力，这些能力可能直到部署之后才被发现，并且已经导致过重大安全事件。

路透社称，AI 研究人员还警告，随着模型能力增强，它们越来越能识别自己正在被监视，并相应调整行为，这让监控模型行为变得更困难。

安全投入的回报「尚不明确」

Claude 模型的开发商 Anthropic 一直把自身定位为「安全优先」的 AI 实验室。Anthropic 表示，其在安全投入上的回报尚不明确，招股书也没有披露公司在这类研究上的具体支出金额。路透社提到，Anthropic 本月早些时候曾表示，在 7 月的一个样本周里，公司用于 AI 研究的算力中约 6% 投入了安全工作。公司称，安全工作需要消耗大量资源，必须在算力、成本高昂的 AI 人才与安全工作之间分配有限的资金。

招股书还称，客户的使用量以及由此产生的收入取决于新模型的推出，保持「连续且相互重叠的发布节奏」是「留在 AI 前沿」的内在要求。就在上周，公司发布了新版 Opus 模型；而在那之前 10 天，CEO 达里奥·阿莫代伊发表了一篇近 4,000 字的长文，呼吁放缓前沿 AI 的开发节奏。一些分析师和专家表示，在这个每次模型发布都可能改写估值的行业里，减速意味着把竞争优势让给对手，没有哪家领先的 AI 实验室会这么做。

Anthropic 在文件中写道：「我们认为，打造可靠、可信且安全的 AI 系统是一项集体责任，市场会给予回报。」近几周，公司还承诺公开更多数据，说明它如何使用 AI 模型开发下一代技术；专家则警告「递归自我改进」的风险，即模型可能发展到无需人类帮助就能自行迭代的程度。

招股书尚未公开，上市时点也可能推迟

截至目前，这份招股书尚未公开，上述内容均来自路透社对文件的审阅；Anthropic 拒绝置评。路透社此前援引知情人士报道称，Anthropic 的公开上市时点可能被推迟到 11 月美国中期选举之后。这些警示最终是否、以何种措辞出现在公开文件里，要等招股书正式披露才能确认。

参考链接

路透社（2026-09-29）：
路透社（2026-09-28）：