AREX Feed Article
OpenRouter 用市场花销重写 Auto Router
OpenRouter 今天上线了 Auto Router 的一次底层重写。新路由器不再依赖静态 benchmark 或人工规则来决定把请求发给哪个模型。它直接读取平台上过去 7 天的实际 token 花销分布,按任务类型自动匹配市场正在使用的模型。
当用户集体把某类工作负载迁移到新模型时,路由器在几天内自动跟进。支撑这套机制的是 OpenRouter 。OpenRouter CEO Alex Atallah 在同日放出的一段采访中说得更直白:「很多公司现在做路由,是因为时髦。他们是在参与,不是为了赢。对我们来说,这从来不是副业。」
Harry Stebbings 下场:路由不是副业
OpenRouter 宣布升级的同时,20VC 创始人 在 X 上放出了一段 Atallah 的采访视频。Atallah 说:「很多公司在做路由,因为这是风口。他们玩票,或者为了存在而做,而不是为了赢。我 100% 专注于打造最好的路由器、网关和 LLM 市场。OpenRouter 本质上是给人们更多选择,因为选择就是杠杆。」
这条推文获得超过 1.1 万次观看。AI 基础设施开发者 Elias Schwalme 在回复中写道:「云厂商和模型实验室永远不会做一个中立的路由器,他们财务上有动力推自己的高毛利模型。」用户 serxzsz 说得更简洁:「把路由器绑进产品里,意味着你 pivot 的那天它就得死。」
OpenRouter 团队成员 在引用推文中确认这次是「从零重建」,并强调已在用 Auto Router 的开发者不需要做任何代码改动。
Stripe 出价 100 亿,路由成了香饽饽
这次升级发生在一个拥挤的节点上。仅在过去几周,,根据请求复杂度自动分配廉价或前沿模型,声称节省 60% 成本;Factory AI 上线 Factory Router,宣称 20–25% 的 token 节约;OpenAI 也早已在 ChatGPT 内部署了 Instant 和 Thinking 模型之间的自动切换。
同一天, 报道称 Stripe 正在洽谈以约 100 亿美元收购 OpenRouter。这一消息直接点燃了市场对 AI 路由初创公司的兴趣。Requesty 表示近期至少有 25 家公司接触他们谈投资、收购或合作。
OpenRouter 的上一代 Auto Router 采用基于 benchmark 的静态分类器。今年 4 月, Auto Router 将迎来重大升级,征集用户反馈。3 月,OpenRouter 推出了 ,针对 tool call 响应的自动质量路由。这一次的升级,是把整个路由逻辑的底层数据源从 benchmark 切换成了真实市场行为。
四步定模型:分类、排名、定价、路由
新 Auto Router 的工作流程分四步,外加一条会话粘性规则。
分类:一个轻量级分类器在请求流转中实时判定每条 prompt 的任务类型,约 30 个细粒度类别:代码调试、多步 agent 规划、知识问答、数学、客服、研究报告等。分类在传输中完成,不留存 prompt。
排名:对于判定出的任务类型,路由器查询过去 7 天内 OpenRouter 社区在该任务上的实际模型花销占比。排名依据聚合的匿名花销统计,OpenRouter 声称不触碰用户隐私和数据策略。
定价:用户通过 cost_tier 参数选择花费意愿:low、medium、high、xhigh 或 max。low 档在每类任务中选最便宜的可用模型,max 档始终选最强模型。
路由与降级:选出的模型按使用份额排序,作为首选和备用。路由遵守用户账户中设定的模型限制、guardrails 和 ZDR 策略。分类或排名服务不可用时自动回退到默认模型集。
多轮对话一旦落在某个模型上,后续轮次优先复用同一模型,避免频繁切换带来的缓存重建成本。只有当该模型不再处于当前任务的前列候选时,路由器才会切换。
Benchmark 验证
OpenRouter 用五个跨领域 benchmark 测试了新路由器:MMLU Pro(知识)、τ³-bench Banking(agent)、WideSearch(搜索)、DSQA(研究)和 SWE-Atlas QnA(编程)。
在默认档位(cost_tier=low)下,新路由器在多数领域与旧路由器持平或更优,同时大幅降低花销。MMLU Pro 得分仅低 1.4 个百分点(85.2% vs 86.6%),但成本从 $393.34 降至 $140.93,约为旧路由器的三分之一。DSQA 研究任务得分从 43.2% 跃升至 62.9%。
在最高档位(cost_tier=max)下,新路由器在所有五个 benchmark 上全面超越旧路由器。SWE-Atlas QnA 编程测试中,新路由器得分 60.7%,旧路由器只有 2.4%;τ³-bench Banking agent 任务从 7.2% 提升到 31.6%。
OpenRouter 在中明确说明这些数字是某一时刻的快照,会随社区偏好变化而漂移。团队的目标不是发布一个固定排行榜,而是验证「市场智慧确实能带来更好的路由决策」这一假设。
静态 benchmark 退场,活的市场指数上位
过去,模型路由的逻辑是工程师预先选好「最适合」某类任务的模型,写死在配置里。基准测试跑一次管半年,路由器不知道外面已经有更便宜或更强的模型上线。
新 Auto Router 把路由变成了一种市场指数:它不判断哪个模型更好,只观测市场在往哪里花钱。当社区集体从模型 A 迁移到模型 B 时——无论是出于性能、价格还是 API 稳定性——路由器自动跟随。
这种设计的一个直接后果是,OpenRouter 的路由器不再需要自己的 benchmark 体系来维持竞争力。平台上的每一次 API 调用都是投票。路由质量随平台规模增长而提高。用 Atallah 的话说,「选择本身就是杠杆」。
对用户而言,切换成本接近于零:把请求中的 model 字段写成 openrouter/auto,可附带 cost_tier 和 allowed_models 限制。没有额外费用,按实际落到的模型标准价格计费。
路由器的定义从今天起变了
OpenRouter 做了一件看似简单、此前却没有人真正做过的事:把路由决策的数据源从先验判断切换成了市场证据。它把「哪个模型最好」这个问题的回答权,从平台工程师手里交还给了所有用户的实际行为。一个越用越聪明的路由器,本身就是一个关于 AI 模型市场的信息系统。