AREX Feed Article
Miles v0.1 上线,MiniMax 官推祝贺开源伙伴 SGLang/RadixArk
8 月 18 日,MiniMax 官方 X 账号 ,祝贺「长期合作伙伴」SGLang/RadixArk 发布 Miles v0.1:「从 M-Series 到 H3 和 Music 3,我们一路紧密协作,共同推动开源(OSS)生态向前」。
这则祝贺指向的发布在同一天完成。GitHub 上 radixark/miles 仓库于 8 月 18 日 15:59(UTC)打出 ,说明文字写着:这是 Miles 的第一个版本化发布,一个面向前沿模型后训练的全栈生产级系统;约三小时后,MiniMax 的祝贺发出。LMSYS 官网同日刊出长文 。Miles 是开源强化学习(RL)框架,负责大模型后训练:SGLang 引擎生成轨迹(rollout),Megatron-LM 或 PyTorch FSDP 完成训练,新权重再同步回 rollout 集群。给出的账本是:过去 9 个月,72 位贡献者提交 1,326 个 commit,跑通 85 项 GPU 端到端 CI 测试。
MiniMax 官推祝贺:从 M-Series 到 H3 与 Music 3
推文原文写道:
Congrats to our long-term partner SGLang/RadixArk on the launch of Miles v0.1! From M-Series to H3 and Music 3, we've been closely building and pushing the OSS ecosystem forward together. Nothing beats the feeling of seeing things we built together keep growing @radixark @MiniMax_AI
(祝贺我们的长期合作伙伴 SGLang/RadixArk 发布 Miles v0.1!从 M-Series 到 H3 和 Music 3,我们一路紧密协作,共同推动开源生态向前。没有什么比看到我们一起构建的东西不断成长更让人高兴了。)
这串名单能对应到具体的开源产物。列着 MiniMax M2、M2.1 两个型号;MiniMax 7 月 31 日发布通用多模态生成模型 并宣布开放权重计划,8 月 3 日 ,v0.1 发布博客的 Miles-diffusion 首批支持模型名单里也有 Minimax-H3;8 月 13 日 MiniMax 开源音乐模型 当天,(LMSYS 官推转发了 sgl_project 的这条推文)。RadixArk 的发布推文还把 MiniMax H3 列入 Miles 实战验证过的前沿开源模型清单。
当事方与第三方都有回应。RadixArk 团队成员 Zhichen Zeng(个人简介为 RadixArk 的 RL 与智能系统方向)在「Thanks @MiniMax_AI」。给出使用记录:他们用 Miles 训练终端编码与 ML 工程方向的 RL agent,并验证自己的 RL 环境,已在数千个环境中用 Miles 搭配 SGLang 完成训练,模型包括 DeepSeek V4 Flash;Miles 高效的异步 RL 支持让他们迭代更快,能把精力放在 agent 和训练数据的质量上。
SGLang 出轨迹,Megatron 出梯度
Miles v0.1 的 RL 训练是三步循环:SGLang 引擎生成多轮轨迹;训练器(默认 Megatron-LM,也可切 FSDP)计算 RL loss、更新策略;新权重同步回所有 rollout 引擎。v0.1 的改动集中在三步各自的瓶颈上。
全异步 RL 解决的是互相等待。同步调度下,训练器要等批次里最慢的一条轨迹,rollout 引擎要等优化器完成更新;v0.1 让 rollout 持续生成,训练器按完成的轨迹组消费,调度粒度细到单条样本,中间用有界数据缓冲解耦,谁也不阻塞谁。
TITO(Token-In-Token-Out)解决 token 一致性。agentic 多轮会话里,模型输出要经过消息解析、工具执行、模板渲染才进入下一轮,这些环节可能改变 token 切分,让训练器看到的上下文与 rollout 实际生成的不一致。TITO 会话服务器保留引擎生成的确切 token ID,每轮只对新消息重新切词并与已有前缀合并,完整轨迹拼成一条连续训练样本。
MoE 稳定性与权重同步是 v0.1 强调的两组数字。MoE RL 对 rollout 与训练之间的微小数值差异敏感,一次 top-k 路由翻转就会改变梯度的去向;R3(Rollout Routing Replay)记录 SGLang 在 rollout 时的专家路由结果并在训练中重放,量化侧提供 NVFP4、MXFP4、MXFP8、FP8 与 INT4 QAT 配方,训练与 rollout 共用位级一致的量化器。权重更新上,P2P RDMA 传输把 Kimi-K2 1T 模型的权重更新时间从 53.3 秒压到 7.2 秒;没有 RDMA 的集群走 disk-delta 增量更新,GLM-4.7-Flash 的单次更新负载从 62.4 GB 降到 0.69 至 0.83 GB,生成暂停控制在 3 至 5 秒内。
64 张 GB300 上的示范跑法
发布博客用一个端到端实验说明「生产级」的含义:用全异步 RL 在 64 张 NVIDIA GB300 上训练 GLM-5.2 744B-A40B 做终端编码任务,32 张卡跑 rollout、32 张卡跑训练,训练并行度 TP 2 / PP 4 / CP 4 / EP 8,推理并行度 TP 8 / EP 8,并开启多 token 预测。
结果:100 步终端编码任务训练稳定跑完,训练步长约 4.5 分钟,rollout 权重平均滞后训练器 1.7 步;rollout 的 prefix-cache 命中率达 96%。内存优化让 744B 模型只用 32 张 GB300 就能做异步训练:优化器状态流式卸载到节点 NVMe,每张 GPU 省下 30+ GB HBM。配套指标图显示,训练步长中位数 263 秒,训练与 rollout 的 KL 均值 0.0369,原始 reward 的 9 步移动平均从 0.438 涨到 0.556。
九个月,从 slime 的一个 fork 到第一个版本
Miles 的前史始于 2025 年 11 月 19 日,RadixArk 团队,定位是企业级 RL 框架,构建在清华 THUDM 的轻量框架 slime 之上,后者当时已被用于训练 GLM-4.6 等模型。README 的更新日志记载着项目启动时的阵容:InfiXAI、蚂蚁集团 AQ 团队、SGLang RL 团队与 Miles 社区共同发起;仓库创建于 2025 年 10 月 9 日,采用 Apache 2.0 协议。
RadixArk 与 SGLang 的关系贯穿项目始终。「我们自豪地构建在 sgl_project 之上」;与 Google Cloud 及 SGLang 社区合作,把 SGLang 的完整特性带到 TPU。v0.1 的 day-0 支持名单进一步绑定了这套「推理加后训练」组合:Kimi-K3、DeepSeek-V4、Inkling、Qwen3.8、NVIDIA Nemotron 3 Ultra 都在权重公开当天即可用 Miles 训练,因为 SGLang 的推理路径与 Miles 的 RL 配方是并行搭建的。
v0.1 还带上了 LoRA RL 与 on-policy distillation(OPD)两类配方:GLM-5.2 744B-A40B 的 LoRA 可训练参数只有 212 MB,约占 BF16 基座权重的 0.014%;Qwen3.5-35B-A3B 的自蒸馏实验里,平均 rollout 长度从 18.6K tokens 降到约 6K,DAPO 从 84.6% 提到 89.5%。
模型厂商把祝贺发到官方账号
v0.1 之前,Miles 没有版本化发布:初版博客与 README 更新日志记录着 FP8、R3、INT4 QAT 等能力陆续落地,直到 v0.1.0,团队才第一次用版本号承诺「全栈生产级」。RadixArk 在发布推文里同时公开了生产侧名单:humansand、periodiclabs、modal、DecagonAI、Eigent AI、nebiusai 与 IBM,硬件覆盖 NVIDIA 与 AMD;当天也说,SGLang 是 Miles 的原生 rollout 引擎,「很高兴看到这么多团队把 Miles 用进真实生产负载」。
day-0 模式正在成为固定节奏:8 月 13 日 Music 3 开源当天,SGLang 给出支持;8 月 18 日 Miles v0.1 发布当天,MiniMax 官号道贺。MiniMax 把 SGLang/RadixArk 称为「长期合作伙伴」,则是「以 SGLang 做服务、以 Miles 做训练,支撑开放权重生态」。
Miles v0.1 没有消除 RL 后训练「难调试」的本质,它把最难的部分,即 rollout 与训练的一致性、权重同步、低精度稳定性,做成了版本化、可复现、可验证的开源组件。MiniMax 选择在官方账号公开道贺,说明「模型开源 + SGLang 服务 + Miles 后训练」这条链路,已经被模型厂商当作可以公开署名的合作形式。
参考链接
- MiniMax 官方祝贺推文:
- GitHub release v0.1.0:
- LMSYS 博客《Miles v0.1: Production-level Post-training》:
- radixark/miles 仓库:
- RadixArk 发布推文:
- Guohao Li 推文:
- LMSYS Org 关于 Miles v0.1 的推文:
- LMSYS Org 关于 MiniMax H3 上线 SGLang Diffusion 的推文:
- LMSYS Org 转发 SGLang day-0 支持 Music 3 的推文:
- MiniMax H3 发布博客:
- MiniMax Music 3.0 发布博客:
- RadixArk 7 月 14 日推文:
- RadixArk 7 月 30 日推文(与 Google Cloud 合作):
- RadixArk 7 月 27 日推文:
- Zhichen Zeng 回复推文:
- LMSYS 博客《Introducing Miles》(2025-11-19):
- 封面图(Miles RL 循环架构图):
- GLM-5.2 示范实验指标图: