AREX Feed Article
LeCun 加入 Baker–Amodei 争论：称 Amodei 的「权力制衡」说的就是他，开放基础模型是唯一出路
北京时间 8 月 16 日 14:47（UTC 06:47），Yann LeCun（图灵奖得主，AMI Labs 创始人兼主席、纽约大学教授、Meta 前首席 AI 科学家）在 Gavin Baker（Atreides Management 管理合伙人兼首席投资官）与 Dario Amodei（Anthropic CEO）的争论串中，正式入场。他写道：Amodei 随笔里「靠多个 AI 系统之间的权力制衡互相牵制」那段反对意见，「说的就是我，好在还有其他很多人」，并称「这是唯一正确的出路」。帖子最后一句是：「会有对 AI 的恶意滥用，就像人类发明的每种技术都遭遇过的那样。但那将是你的坏 AI（Bad AI）对我的好 AI（Good AI）。」
这场争论的起点，是 Baker 在 All-In 播客上的转述。宏观研究机构 Bianco Research 的 Jim Bianco 在中概括：Baker 说他听说 Amodei 曾私下表示，Anthropic 有朝一日可能成为世界上仅存的私营公司（与政府并列）。8 月 15 日，Anthropic 负责 Scaling RL 的 Sholto Douglas（此前供职 DeepMind）发帖称该说法，并称传话者「在撒谎，好让说法贴合某些人拼命想让你相信的叙事」；Baker 随后，提出「AI 太危险，不能集中，还是太危险，不能分发」的二选一；Amodei 则以反驳「监管=权力集中」是错误二分法。LeCun 的帖子发在 Baker 长文之下。
Yann LeCun 2014 年 10 月在明尼苏达大学演讲。图源：（CC BY-SA 3.0，作者 Runner1928）。
「他说的是我」
LeCun 认领的这段文字，出自 Amodei 的长文《》。原文把「权力制衡」列为对 AI 自主风险的一种反对意见：「一些人会反驳说，我们可以像对待人类一样，用多个 AI 系统之间的权力制衡来牵制 AI。」
但 Amodei 并不接受这个方案。他给出的理由是：全行业 AI 系统共享训练与对齐技术，这些技术可能以相互关联的方式同时失效；训练成本之高，可能使所有系统都源自极少数基础模型；即使只有一小部分 AI 实例失控，它们也可能利用「攻击占优」的技术，因此「用好 AI 去对抗坏 AI 未必总是有效」。段末还补了一句：人类之间的权力制衡也并非总是有效，历史上有人差点征服世界。
LeCun 在帖中没有逐条讨论这些理由。他引用的是那段反对意见本身，然后给出相反结论：权力制衡「是唯一正确的出路」，并用结尾的「你的坏 AI 对我的好 AI」正面回应「好 AI 防守坏 AI 未必有效」的断言。以 8 月 16 日抓取的数据计，这则帖子约有 40 次转发、约 250 个喜欢、约 1.4 万次浏览。
十年只讲一件事：开放基础模型
帖子主体是 LeCun 对自己一贯立场的重申：大约十年来，他一直主张 AI 前进的唯一方式是「让技术广泛可用、共享与开放」。他把 AI 比作印刷术和互联网，都是通过改善知识获取来放大人类的智能与效率。
要赋权个人，社会需要高度多元的 AI 系统：价值观体系、语言能力、哲学与政治倾向、专长各不相同。「我们需要多元的 AI，理由同我们需要多元的媒体。」
他接着给出机制判断：考虑到成本与复杂度，这只能通过开放基础模型实现，任何人都能在其上用自己的语言、倾向、专长和价值观构建系统。他说自己过去四年「发声更频繁」，并列举了提出该主张的场合：企业高管层、AI 安全讨论小组、专业会议、美国参议院、联合国安理会，以及媒体采访、播客和社交媒体。
两人引用同一段 Zuckerberg 的话
LeCun 表示「完全同意」Mark Zuckerberg 最近的一篇文章。他引用的那段话经 Meta 官网核实，出自 8 月 10 日发布的《》：「AI 危险到唯一的安全路径是极端的权力集中，这种观念本身就存在问题。历史上，寄望于一个绝对权力在足够开明之后仁慈地供养人类，从未带来安全或积极的结果。」
Baker 在 8 月 15 日的长文里引用了同一段话，并加了一句自己的版本：「我想要尽可能多的 AI，以最大化其中一个恰好分享我个人价值观的概率。」
两方在这里共享同一个前提。Sholto Douglas 在否认帖里也写：「我们最担心的正是经济权力的集中。政府绝不应允许任何公司拥有那么大的影响力。我们需要竞争和资本主义。」他附了一张题为「Economic concentration of power」的文字截图。反对经济权力集中是共识，分歧在于手段：LeCun 和 Baker 要开放权重、多元制衡；Amodei 则认为「正确的规则」既能处理风险又能约束前沿公司，而开放权重远非充分方案，只是把集中某种程度上转移给掌握最多算力和芯片的人，也就是前沿实验室和硬件供应商。
「唯一公司」引语仍是悬案
那则「唯一私营公司」的说法，Baker 给出的依据是转述。他在长文开头感谢 Douglas「澄清事实」（setting the record straight），同时补充「硅谷多位非常严肃的人士都听过这个说法的某种版本，并信以为真」，理由是它与 Amodei 的公开信息传递一致。他在里的原话是：「我不要 Dario Amodei 或 Anthropic 替我决定什么符合我的最大利益。」
Douglas 的否认帖还指出叙事本身的自相矛盾：「同一批人会先试图让你相信 Anthropic 没有护城河，下一句又说它可能强大到成为世界上仅存的公司。」科技博客 在整理这条时间线时，同样把该引语标为「未经证实、并被 Anthropic 的 Sholto Douglas 当众否认」。Amodei 8 月 15 日的两段回复谈的是监管设计与信息传递，没有讨论这则引语；LeCun 的新帖也没有裁定其真伪，而是把重心整个挪到「开放模型」路线上。
以 8 月 16 日抓取的数据计，Baker 的长文约 224 万次浏览，Amodei 第一段回复约 225 万次，Douglas 的否认帖约 63 万次。LeCun 帖下的讨论集中在同一个问题：自述为 Google 技术负责人的 Yuval Dvir 反驳说「好与坏是人类概念」，反问能否把机器设计得至少诚实，主张「把政治留给人类」；FinalLayer 联合创始人 Laks Dondeti 则认为「好 agent 对抗流氓 agent」大体成立，但补充「谁好谁坏，有时是政治、文化和地理问题」。
引语真伪之外，这场争论还留下一个双方各执一词的技术分歧：当训练与对齐技术全行业趋同、基础模型只剩极少数时，多个 AI 系统之间的制衡是否还成立。LeCun 用「你的坏 AI 对我的好 AI」作答；Amodei 随笔里的答案却是未必总是有效，并为此列了三条理由。LeCun 的帖子没有回到这三条理由上。