Dario Amodei 长文回应 Nathan Calvin 的安全纪录批评：列九项高代价决策，为「race to the top」辩护

北京时间 10 月 21 日上午 10 时 26 分，Anthropic CEO Dario Amodei 在 X 上，点名回应 AI 安全组织 Encode AI 首席战略官 Nathan Calvin 前一天对 Anthropic 安全纪录的系统性批评。他称赞对方的调查工作「出于建设性、诚实的动机」，并称「如果一家 Anthropic 这种体量的公司不是几乎每天都被严厉批评，那反而说明出了问题」；但他明确表示不同意对方帖子的主旨，同时承认对方所举的部分例子「确是 Anthropic 的错误」。

回应的核心是一份九项清单：他称这些都是 Anthropic 过去一年里「利于安全、商业代价高昂」的事——从在加州 SB53 上发挥关键作用、维持因高误报而让生物学家叫苦的生物安全护栏、把 Mythos 级模型的普遍开放从 2 月推迟到 6 月，到公开主张政府应有权阻止模型发布、限制向中华人民共和国（PRC）控制的企业出售 AI 服务，再到本周宣布将公司 5% 股份注入公共利益基金。对 Calvin 清单中的三项，他以 CEO 身份认下「本可处理得更好」；对 RSP 改版，他称 2023 年的原始公告早已言明会快速迭代；对 RSP 与 FCF 并存的问题，他承诺会进一步研究。文中关于 Anthropic 决策的描述均出自 Amodei 单方口径（另有出处的除外），尚未经独立核实。

Dario Amodei。图：（CC BY 2.0）

「Anthropic 到底是什么」：Calvin 的九项清单

Calvin 的长帖发出于 10 月 20 日（北京时间）。他在，开头自嘲「这条回复有点长」，并向 Anthropic 方面周末的一份详尽回应致谢，随后把问题拔高：「Anthropic 是什么？」他给出三种回答：一家要让员工和投资者暴富的超大型科技公司；一家以 2023 年创始人文章《Core Views on AI safety》为纲领的 AI 安全组织；以及一家主要志在率先造出超人类智能的公司。他写道，从过去一年的公开行为看，证据「最符合」第三种。

为此他列了九项：宣布计划组建自研芯片团队以加速 Claude 推理；签下逾 5,000 亿美元算力订单（他称据 The Information 报道）；Claude「主导」的 AI 研发任务占比从 3 月的 0% 升至 8 月的 26%；把大量算力投入内部 AI 研发，所用内部模型远强于公开版本；改用 Responsible Scaling Policy（负责任扩展政策，RSP）V3，放弃了在无法提供充分风险保证时放缓或停止开发的单方面承诺；率先建立约束力更弱的补充性「前沿合规框架」（Frontier Compliance Framework，FCF），对内部部署没有任何约束条款；致函国会称 Claude 入侵普通人电脑的事件「最好理解为配置错误的后果，而非目标错位的证据」（后撤回）；在白宫 SI Accords 之后评论「排名第二就做不了安全」；向国会提交一份将大幅取代州法的联邦草案法案，并为行政部门阻止模型开发或部署设置极高门槛。

Calvin 承认这是一份「刻意单方面的清单」，也认可 Anthropic 发表过安全研究、与第三方安全组织合作。但他留给 Anthropic 的疑问很尖锐：「当 Anthropic 犯错时，为什么这些错误总是系统性地护住 Anthropic 自身的利益？」他还在帖末引用 Anthropic 联合创始人 Chris Olah 围绕 Magnifica Humanitas 发布的评论——前沿实验室身处会与「做对的事」相冲突的激励之中，因此格外需要「愿意说难听话」的外部批评者——并称自己的发言是出于建设性。截至北京时间 21 日下午，X 平台计数显示该帖浏览约 30 万次、点赞 1,100 余个。

九件「利于安全、伤及营收」的事

Amodei 的回应把多年战略概括为他所称的「race to the top」：通过示范如何负责任地构建这项技术，抬高整个行业的底线；而这套机制的驱动力，只有公司在前沿时才最有效。以下九件事，按他的原始排序：

在 SB53——加州《透明度前沿人工智能法》，2025 年 9 月 29 日由州长 Gavin Newsom 签署（见）——及其他州法上发挥关键作用。他称当时支持 AI 监管在政治上很危险、很不得人心，且 Anthropic 主张过比最终通过版本更强的条款，「我们不是法案强度的限制因素」。
维持严格的生物安全护栏。他称生物增益（bio uplift）试验出现令人担忧的结果，公司还「已经看到并阻止了用模型制造生物武器的潜在企图」——指 Anthropic ，称其阻止了可能支持生物武器制造的滥用。代价是低漏报带来显著误报：生物学家调侃其分类器过严，竞争对手拿更宽松的生物能力做反向营销。他称自己身为生物学家尤感沮丧，但会继续做下去。
Mythos 级模型 2 月即已有，6 月才普遍开放，此前只向有限伙伴提供以聚焦网络防御。他称「单纯把模型开放给所有人经济上理性得多」，公司很可能牺牲了数月模型领先期的相当一部分，换来的是许多公司在广泛可得的网络攻击能力模型大量涌现之前加固了基础设施。
6 月 10 日，他在中公开主张政府应有权阻止模型发布（宣布帖见）。他称当时这仍处「奥弗顿之窗」（主流舆论可接受的政策范围）之外或边缘，「我们因此遭到猛烈攻击」。
2026 年 2 月的事件。他无意重新点燃争端，但写道：「很明显，我们的公开立场本可能严重损害公司的前途。」
持续倡导对中国大陆的芯片及制芯设备出口管制，理由是让民主国家在 AI 安全协议谈判中处于强势位置——尽管这在立场迥异、且 Anthropic 高度依赖的行业伙伴中间制造了麻烦。
据他所知，Anthropic 是首家、且至今仍是唯一限制向 PRC 控制企业出售 AI 服务的前沿公司，包括经第三国运营者（否则是重大漏洞）；为此放弃了可观的短期业务，并投入大量资源打击蒸馏（distillation，用大模型输出训练其他模型的方法）——他称蒸馏在商业上不构成大威胁，但与芯片出口一样涉及国家安全与安全隐忧。
发布大量报告、公告、长模型卡和公开倡导，向公众说明 AI 风险；他称其详尽程度「对一家纯粹以利润最大化为目标的公司来说难以置信」。
本周宣布将公司 5%（日后可能更多）注入公共利益基金——Anthropic 于 10 月 18 日，当日报道。

他同时让了一步：限制前沿能力的决策「有更广的代价」，比如公众本可以从更快的生物学进展中获益，「我们的决策并非没有取舍」——只是「不是由逐利驱动的」。对每项决策都能编出阴暗动机的说法，他回应称「任何一个决定都能被描绘成阴谋」，但大多经不起推敲：为了自己下场做研究而挡住一大片生物学研究，「绝不是精明的生意」。

三项认账：「我是 CEO，我承担责任」

Amodei 明确认下 Calvin 清单的第 7～9 项——即那封关于 Claude 入侵事件的国会信、「排名第二就做不了安全」的评论和那份联邦草案法案。他说这些都属于「措辞或政策沟通未经仔细斟酌，或快速变化的局势没有足够快地在团队之间传导」。他称这类事在超过 5,000 人的大型组织里时常发生，「甚至不一定代表任何单个人的失败」，随即补上一句：「我当然是 CEO，我承担责任。」

但他对整体指控不以为然：Anthropic 的对外沟通量巨大，如果最糟的例子就是这三件，「坦率说我们做得相当不错」。他还认为，Calvin 式的评估存在「显著的负面偏差」（negativity bias）。

RSP 改版与 FCF 并存：他说这是最实质的一条

对 Calvin 清单的其他部分，Amodei 明确不认账。第 1～4 项在他看来只是「在前沿竞争的题中之义」，公司认同这套战略本身。他也承认一个更根本的问题正在逼近：当 AI 驱动的加速快到安全跟不上时该怎么办——「我们正接近那个点」，这正是公司思考「pacing」（节奏控制）的原因，而第 1～4 项都发生在那个点之前。

第 5 项 RSP 改版是 Calvin 清单中他认定「最实质」的一条。他辩护称，旧版更僵硬的 RSP 曾把团队困在「技术上被要求做、花很大力气、回头看对安全并不重要」的事情上，同时漏掉一些最重要的东西；现行 RSP 强调透明（带来了风险报告和路线图），其对独立外部评估的强调则为更深入的嵌入评估铺了路。他援引 2023 年 9 月 RSP 的原始公告——当时 Anthropic 就称其为「我们会在此之上继续构建的早期迭代」，并表示「快速迭代……几乎肯定是必要的」。「我理解修改计划总会招致正当的审视——只是我不认为我们曾表示过不会这么做。」

至于第 6 项，即同时保有 FCF 与 RSP：他称公司的意图是「既满足监管义务的字面与精神（通过 FCF），又保留尝试超出法律现有要求的更新颖风险管理方式（通过 RSP）」，随后承诺：「我保证会进一步研究这个问题」，因为问题复杂，「有可能我们没有以正确的方式权衡这些考量」。

交锋之后：race to the top 是否奏效仍被追问

Amodei 在帖中给出了自己的总判断：「即使我接受你清单里的每一项，我也乐意把我的清单摆在它旁边；我不认为这是势均力敌的比较。」他预判了一种反对——上述多项关乎滥用（misuse）而非失控（loss-of-control），若有人认为后者重要得多，结论会不同——但称这不是 Anthropic 的观点，两者都是严重问题。对那套战略本身，他说：「你完全可以不同意，但这是一个更根本的分歧，过去几年任何时刻都可以提出。」

回应发出后数小时内，追问已经出现。转发问道：「有什么证据表明这套战略真的成功？从外部看，Anthropic 的净效果更像是在推动一场向下的竞赛（race to the bottom）。」一位拥有 2.3 万粉丝的评论者则写道，Amodei 的论证归结起来是「信任我们，我们是好人」，而用短期收入换取长期信任、监管影响力和市场支配地位「是完全理性的商业策略」——问题好比要人「信任一位同时拥有一支参赛队伍的裁判」。

双方在一点上没有分歧：外部审视是必要的。帖末，Amodei 预告了下一个可核验的节点：关于将如何在快速变化的时刻进一步践行公司价值观，他「很快」会有更多要说。

参考链接

Dario Amodei 回应长帖（X，2026 年 10 月 21 日）：
Nathan Calvin 批评长帖（X，2026 年 10 月 19 日）：
Anthropic：「Investing in the public benefit」（2026 年 10 月 18 日）：
CNBC：Anthropic to commit 5% stake to new public benefit fund（2026 年 10 月 18 日）：
Dario Amodei：《Policy on the AI Exponential》：
Dario Amodei 文章发布帖（X，2026 年 6 月 10 日）：
Anthropic：「Detecting and countering misuse of AI: September 2026」：
PBS：Anthropic says it blocked misuse of its AI that could have supported biological weapons（2026 年 9 月 11 日）：
Latham & Watkins：California Assumes Role as Lead US Regulator of AI：
Sigal Samuel 追问帖（X）：
VraserX 评论帖（X）：
本文封面图片：TechCrunch（Flickr，CC BY 2.0）：_