AREX Feed Article
评估机构回应 Anthropic 与 OpenAI 的进驻计划：要训练检查点访问权和立法背书
第三方评估机构对 Anthropic 与 OpenAI 的「评估者进驻」承诺给出了公开回应。据 ，接受其采访的多家评估机构普遍欢迎这一提议，但也提出条件：细节仍需敲定、最好由立法背书，否则无法判断它们将成为真正独立的监督者，还是按 AI 公司条款行事的供应商。两家公司则都没有公布任何实施细节。
这一承诺出自 Anthropic CEO Dario Amodei 上周末发表的长文。他提出分三步的放缓计划，第一步是把第三方评估者嵌入前沿 AI 公司内部，核验公司是否遵守安全实践与承诺、报告事件，并评估模型及训练流程的对齐情况；Anthropic 单方面先执行这一步，向评估者提供「永久、员工级」的访问权限，并配备办公桌、门禁卡和公司笔记本，权限范围大体相当于内部风险评估团队。OpenAI CEO Sam Altman 随后「我同意 Dario 的观点，我们需要为前沿定节奏」，并称「承诺让独立评估者拥有类似员工的访问权限是个好主意，我们也会这样做。我们很快会分享更多信息」。
提案有了轮廓，五项细节仍是空白
Amodei 在长文中写明，评估者有权「在不接受 Anthropic 编辑控制的前提下，公开发表关于风险水平、事件、做法、以及他们获得或未获得何种访问权限的关键发现」；公司保留的删减权仅限于安全敏感、法律特权、商业敏感或第三方机密信息，且不能仅因发现不利就删减。TechCrunch 称，两家公司经反复询问仍未说明将与哪些评估者合作、评估者何时进驻、将引入多少家、具体能访问哪些系统和信息、以及哪些内容可以对外披露。
评估者的条件：训练检查点、员工访谈与日志核验
评估者要求更深入的访问，背后有技术上的原因。TechCrunch 称，模型越来越能识别自己正在被评估，这带来一种风险：它们在测试中表现良好，同时隐藏有问题的行为；研究者认为，只测试成品模型可能错过线索，而检查训练过程中的行为则可能发现问题。
「AI 公司应该能回答一些关于其训练过程的基本问题，比如：AI 在训练过程中是否曾主动试图破坏自身的对齐训练？答案应该是一个毫不含糊的『没有』。」Apollo Research 研究主管 Alexander Meinke 对 TechCrunch 说，「而现在，我们完全依赖 AI 公司自己仔细检查，然后如实向公众报告。从最近的事件看，默认情况下这两件事它们都不会做。作为嵌入内部的评估者，我们才能真正去查。」
FAR.AI CEO Adam Gleave 说，评估者可以对比训练过程中的各个「检查点」（checkpoints），判断令人担忧的行为从何时出现；也可以检查会对模型某些行为给予奖励的训练后环境，并核对评估记录与日志，以验证公司关于模型表现的声明。他还说，有意义的访问可能延伸到模型之外，例如访谈员工，核对公司的文档与公开描述是否与内部实际发生的事情一致。
Palisade Research 战略主管 John Steidley 举了「关机抵抗基准」的例子：该基准衡量 AI 是否会在特定情况下抵抗被关闭。「如果 AI 是被专门训练来在这个基准上表现好，这会极其关键。」他把它比作大众汽车的「柴油门」丑闻：车辆被编程为识别排放测试，在测试条件下表现不同。Steidley 和其他受访研究者还呼吁建立一套各方公开同意的透明框架。他说，框架应包含对公司可选用哪类审计方的规定，否则公司可能挑选不合格、或对最令人担忧的风险不感兴趣的评估者来绕开评估。
Safer AI 执行主任 Henry Papadatos 说，即使有公开框架，自愿措施也永远取决于公司的善意。「理想情况下，应该由好的监管强制这样做……因为那样的话，公司就不能在明天遭遇重大公关危机时改变主意。」他说，强制也能让所有公司遵守规则，而不只是最愿意配合的那些。
一周与三天：先例让「这次会不同吗」成为疑问
TechCrunch 称，以往的独立评估并不顺利：第三方常在访问权限、时间、保密和公开发言上遭遇摩擦。在调查 Hugging Face 事件时，OpenAI 给 METR 和 Redwood Research 的现场调查时间约为一周，两家机构后来表示，受范围与时间限制，无法得出有把握的结论。写明：两名 METR 员工和一名与 METR 签约的 Redwood Research 员工在 OpenAI 现场工作共六天；复盘还提到，OpenAI 在发布前可以删减帖文中的非公开信息。METR 称，按其一贯政策，这次评估没有收取 OpenAI 的费用。
类似的情况出现在 GPT-6 Astra 的发布前测试中。据 ，Apollo 的测试期共三天，其中两天能以高吞吐量访问一个带可见思维链（chain of thought）的检查点。Apollo 写道：「鉴于更高的评估意识（eval awareness）比例和有限的评估窗口，这里较低的不当行为发生率不能为模型的对齐或不对齐提供实质性证据。」TechCrunch 提到，OpenAI 把 Astra 宣传为其对齐程度最高的模型。
Gleave 还说，FAR.AI 曾不得不拒绝几家前沿开发者提供的合同，因为对方想对评估过程保留过多控制，这会威胁机构的独立性；默认情况下，评估者被当作普通承包商对待，受限制性保密协议约束，协议赋予开发者对最终可发布内容的重大控制权。
三家实验室尚未加入，加州新法给出另一条路径
TechCrunch 称，并非所有人都加入了：到目前为止，Meta、SpaceXAI 和 Google DeepMind 没有承诺嵌入第三方评估者。Google DeepMind 的 Demis Hassabis 提出了另一条路线：建立一个全行业的标准机构来独立测试前沿模型。他：「Dario 的文章指向了正确的前进方向。细节还需要梳理，但在这个关键时刻，方向是对的。」他还说，这正是他们最近提出行业标准机构提案的原因。TechCrunch 另外提到，Google、OpenAI 和 Anthropic 已就 AI 安全计划私下讨论数周。
监管框架也在成形，但目前的覆盖范围小于 Amodei 的提案。加州去年签署的 SB 53 要求大型前沿 AI 开发者公开安全框架、报告关键安全事件；州长 Gavin Newsom 于 9 月 9 日签署的 建立了州认可的「独立验证组织」（independent verification organizations）框架，由具备 AI 风险评估专长的机构承担验证工作；同日签署的 AB 1405 为 AI 审计机构建立州登记册，并规定其独立性、透明度与诚信标准。TechCrunch 还提到，欧盟的《人工智能法案》要求前沿开发者执行并记录模型评估和对抗性测试、报告严重事件，欧盟 AI 办公室也可以自行评估并任命独立专家。
现行法律下，选择多大程度的独立审查仍主要由前沿实验室自己决定；TechCrunch 称，这些法律仍不如 Amodei 的提案宽泛。
评估者的顾虑：控制权与问责
评估者说，这套安排只有在 AI 公司真正愿意交出对流程的控制权时才会奏效。
「Dario 和 Sam 完全有可能只是改变了主意，打算非常开放。」FAR.AI 的 Gleave 说，「但这些公司的知识产权对它们来说极其宝贵，我认为它们默认会对可以分享的内容非常谨慎。」
Safer AI 的 Papadatos 则把问题归结为问责。他说，自愿的自我监管聊胜于无，但公司不能一边要求掌控自己的安全规则，一边要求公众相信它们在遵守规则：「你不能两头都要：对外毫无问责，然后说『我就用自己的灵活规则』。」