AREX Feed Article
不拿 AI 公司钱的 METR,半年筹到约 7100 万美元
2026 年 8 月 14 日,AI 安全与能力评测机构 METR 在宣布:过去 6 个月筹得约 7100 万美元资助承诺(commitments)。公告列出的用途有五项:研究自主能力(autonomous capabilities)、追踪递归自我改进(recursive self-improvement)、评估监控系统、开展风险评估、调查 AI 事件,最后还补了一句 “and more”。
配图把数字直接做成了标题:“$71M raised in the past 6 months”。称该机构从未接受 AI 公司的资助。作为参照, The Audacious Project 为 METR 与 RAND 的合作项目 Canary 催化约 3800 万美元,其中约 1700 万美元用于 METR,那是该机构。
7100 万美元要测什么
五个方向里,前四个都能在 METR 过往的工作里找到对应。
自主能力是它的主业。METR 写道,其大部分研究是评估一个 AI 系统能在多大程度上自主完成实质任务;它的一项长期发现是,AI agent 能完成的任务长度过去 6 年大约每 7 个月翻一番。
递归自我改进也不新鲜:METR 评估过 GPT-5.1-Codex-Max,结论是它没有通过 AI 自我改进或 rogue replication 构成重大灾难性风险。
监控系统的评估,METR 今年 1 月已经拿出一个雏形:,测试监控者能否抓住在做 “side tasks” 的 AI agent。
风险评估方面,METR 曾与 OpenAI、Anthropic、Google DeepMind、Meta、Amazon 试点前沿风险评估。今年 2 月至 3 月,它又开展了一次,评估前沿 AI 公司内部 AI agent 的 rogue deployment 风险。
公告没有给出 AI 事件调查的任何细节,“and more” 也没有展开。
不收 AI 公司的钱,也不收其员工指使的捐款
同一条帖子下,METR 用致谢了“多年来”的支持者:The Audacious Project、Jane Street 的个人,Sijbrandij Foundation、The Pew Charitable Trusts、Schmidt Sciences、Packard Foundation 等基金会。
个人捐赠者包括 David Farhi、Geoff Ralston、Dylan Field、Steve Newman。这条致谢列的是历年支持者,没有指明其中哪些出资对应这 7100 万美元。
还有更多名字:La Centra-Sumerlin Foundation、Astralis Foundation、Expa.org、英国 AI Security Institute、Longview Philanthropy 与 Effektiv Spenden 等聚合基金,以及 Survival and Flourishing Fund 的推荐拨款。
名单之外还有两条规则:METR 从未接受 AI 公司的资助,也不能接受“由前沿 AI 公司员工作出或指使的捐款”。实验室们提供免费 token 供评测用,收入的一小部分来自与 European AI Office 的技术援助合同。METR 的解释是,独立资金“是保证研究尽可能准确的一部分”。
从 3800 万到半年 7100 万
2024 年 10 月 9 日,METR 在里宣布 The Audacious Project 为 Canary 催化约 3800 万美元;Canary 是 METR 与 RAND 的合作,目标是开发并部署评估方法,监控 AI 系统的危险能力,其中约 1700 万美元用于 METR。
这笔钱被 METR 称为第一笔机构规模资金。到 2026 年 8 月,半年内的资助承诺已达约 7100 万美元;按“过去 6 个月”倒推,筹款窗口约从 2 月中旬开始。
METR 在同一条致谢里说 “METR is growing”,并继续挂出。另外,公告用的是 “commitments”,是承诺而非已到账现金,也没有提到到账时间表。
“We need more METR”:同行的第一反应
截至 8 月 17 日,这条帖子有 63,378 次浏览、538 个赞、43 次转发、14 条引用转发。
METR 总裁 写道,他为团队筹到这笔钱而自豪,同时“保持了很高的资金独立性标准”(a very high standard for funding independence)。
研究员 转发时附上了:“METR 得到了这么多人的支持,我们拥有了研究世界上最重要问题所需的资源。加入 METR!”
做经济学与 AI 研究的 (前 OpenAI)只有一句:“Come work with us, the going's tough & the tough are going.”
机构之外的回应:前 a16z 合伙人 说 “This is huge”;Abundant Security 联合创始人 (此前在 Meta 做 AI 与网络安全工作)称之为 AI 安全的好消息。
DC Abundance 负责人 写道:“METR 做的是追求真相的出色独立工作。我们需要更多 METR。”
为什么有人愿意为“测量”掏钱
METR 全称 Model Evaluation and Threat Research,读作 “meter”,使命是开发科学方法,评估 AI 系统自主能力带来的灾难性风险。创始人兼 CEO 此前在 DeepMind 与首席科学家研究 scaling laws,后加入 OpenAI 帮助制定安全目标、评估 scalable oversight 技术。
METR 还原型设计了 Responsible Scaling Policies 框架,称这一方法已被九家领先 AI 开发者采用。机构层面,METR 是 NIST AI Safety Institute Consortium 和 California Cybersecurity Task Force 的成员,与英国 AI Security Institute 合作,并向 European AI Office 提供技术援助。
公告里另一个具体信号是扩招:METR 自称 “growing”,转发的研究员附上了招聘页面。至于钱何时到账、五个方向各分到多少,公告没有披露。