AREXOpen in interactive Feed

AREX Feed Article

Chollet 称 base LLM 与 LRM 的关键区别是从转导到归纳的范式切换,并称 LRM 已在 2025 年把 ARC-AGI-1 做到饱和

October 2, 2026

北京时间 10 月 2 日凌晨(UTC 10 月 1 日),ARC-AGI 基准的、ARC Prize François Chollet(@fchollet)在 ,用一组对照概括两代模型的差别:base LLM(2024 年及以前的基础语言模型)与现代 LRM(Large Reasoning Model,大型推理模型)的关键区别不是符号化工具使用,而是范式层面的一次切换:从“转导”(transductive,直接直觉出查询的答案)到“归纳”(inductive,直觉出能产生答案的程序或指令)。他认为,这次切换让 LRM 解锁了全新的能力,尤其是流体智力(fluid intelligence)。

帖文给出的数字很具体:LLM 在 2019 年发布的基准 ARC-AGI-1 上至今仍只有约 10%~15% 的成绩;把 LLM 扩大约 10 万倍,也只是把它们从 0% 抬到 10%;而同样大小、甚至更小的 LRM,已经在 2025 年把 ARC-AGI-1 做到饱和。这些是 Chollet 一方给出的表述与口径;ARC Prize 官方核验公布的成绩则显示,。

测试时归纳:机制与 2024 年的分析

Chollet 把两种范式压缩成一组短句:转导式是“直觉出查询的答案”,归纳式是“直觉出能产生答案的程序或指令”。按帖文,现代 LRM“被训练为归纳式的,并在测试时做归纳”,也就是在测试时预测一段自然语言程序或推理链;正是这一点“解锁了全新的能力,尤其是流体智力”。

这套框架此前就出现在 ARC Prize 的公开分析里。2024 年 12 月,ARC Prize 公布 o3-preview 成绩的分析把更早的语言模型概括为“记忆、取用、套用”:从训练数据里取出一个预先存好的“小程序”,套在输入上执行;这种范式“无法适应新奇事物,也无法当场获得新技能,也就是说,这里没有流体智力可言”。同一篇分析写道,给 GPT-4 投入更多算力,也得不到 o3 那样的结果。

ARC-AGI-1:四年从 0% 到 5%,然后是一次阶跃

ARC Prize 官网介绍,ARC-AGI-1 由 Chollet 在 2019 年的论文《On the Measure of Intelligence》中提出,共 800 个网格推理任务,每题通常只给三组左右的示例输入输出,考察 AI 对“没有被准备过”的问题的推理能力。从 2019 年到 2024 年底,它一直没有被 AI 系统攻克,尽管这段时期基础 LLM 的预训练规模扩大了 5 万倍。

转折出现在 2024 年 12 月。按 ,OpenAI 的 o3-preview 在 ARC-AGI-1 半私评测集上拿到 75.7%(在 1 万美元算力上限内),在 172 倍算力的配置下达到 87.5%。ARC Prize 称这是“阶跃式的提升”,展示了 GPT 系列模型中“从未见过的任务适应能力”。在 o3 之前,GPT-3 为 0%、GPT-4 接近 0%、GPT-4o 为 5%;ARC Prize 的总结是,ARC-AGI-1 从 0% 走到 5% 用了四年。官网现在把 o3-preview 列为 LRM 范式的早期代表之一。那篇分析也注明:OpenAI 告知,被测版本在 ARC-AGI-1 公开训练集的 75% 上训练过,成绩来自半私评测集。

ARC Prize 在 2025 年 12 月的年度分析里用一张示意图概括了这条能力曲线:2015 年以来的两个台阶,第一级是“Transformer → GPT 时代”,第二级是“CoT → AI 推理系统时代”(CoT 指思维链)。

数字口径与两档模型的差距

帖文没有说明这个倍数指的是参数量、训练算力还是推理算力;ARC Prize 官网在叙述同一段历史时给出的数字则是 5 万倍,对应 2019 年至 2024 年底基础模型预训练规模的扩张。

官方记录里能与帖文对照的,是两档模型之间的量级差。非推理模型一侧,2025 年 4 月发布的官方榜单图上,GPT-4.5 约 10%(见开头的散点图);推理模型一侧,同月 里,o3-low 与 o3-medium 在 ARC-AGI-1 上分别取得 41% 和 53%。到 2026 年 9 月下旬至 10 月初,为 86.7%,而 GPT-6.1 Sol 在 ARC-AGI-2 上达到 94.2%。

“流体智力”:断言与官方措辞

在 ARC 的语境里,流体智力指向的是从极少信息中当场学会、并迁移到新任务的能力,而不是知识存量;ARC Prize 的那篇 o3-preview 分析把“无法适应新奇事物、无法当场获得新技能”直接等同于“没有流体智力”。Chollet 帖文里的写法更直白:“base LLM 至今的流体智力约为 0”,而“LRM 已有相当水平的流体智力”。

ARC Prize 自己更常用的词是“AI 推理系统”。在 2025 年 12 月的年度报告里,该机构的措辞是:推理系统“已经展示了非零的流体智力”,当基础模型与更广的知识领域相连时,能适应远离其精确知识的任务;报告还把推理系统称为“一种我们认为与 LLM 的发明同等重要的新技术”。

帖文之下的追问:术语、架构与后训练

到 10 月 2 日下午,这则帖文已获得 900 多次点赞、77 条回复和 15 次引用;回复和引用里,赞同与质疑落在几个具体问题上。Andreas Kirsch 在里写道:“令人困惑的一点是,现代 LLM 与 base LLM 在架构和运行框架上基本是相同的,不同的只是权重(以及后训练)。”这给“范式切换”留下一个界定问题:在架构与运行框架不变、变化只来自权重与后训练的情况下,切换究竟发生在哪个层面。Steven Hansen(其 X 简介自述为 Google DeepMind 的 Gemini Physical Agents and Embodied Reasoning 负责人)的更直接:“LRM 到底是什么?”引用里也有支持者:Burny 把 Chollet 的立场读作“RLVR/RLAIF 这类强化学习式的后训练(分别基于可验证奖励与 AI 反馈)正在对预训练特征与回路做非常底层的改造”,并称。

饱和之后:成本与后继基准

ARC Prize 在 9 月底的一则给出了另一组数字:在 ARC-AGI-1 上达到 75% 的每任务成本,19 个月里从 o3-preview 的 26 美元降到 DeepSeek V4 Flash 的 0.01 美元。基准方面,ARC-AGI-2 于 2025 年 3 月发布;ARC Prize 表示 ARC-AGI-3 计划于 2026 年初发布,而已经对应 ARC-AGI-3;2025 年的 Grand Prize 依然无人领取。

而在 2025 年年度报告里,与“饱和”直接相关的一处保留是:该机构相信,知识过拟合正在 ARC-AGI-1 与 ARC-AGI-2 上发生。当公开训练集与私有测试集足够相似、基础模型又见过大量公开数据时,即便设计上抵抗记忆的基准也可能被“过拟合”;报告写道:“是偶然还是有意,我们无法判断。”

参考链接