AREX Feed Article
OpenRouter 推出 Model Router Benchmarks:7 款路由器在 6 项基准上并列对比质量、速度与成本
OpenRouter 于 10 月 2 日推出 Model Router Benchmarks 页面。据其在 X 账号的,页面并列对比 7 款路由器在 6 项基准上的质量、速度与成本,并称这些路由器「现在就能用」。
新页面的地址是 。页面总览列出的 7 款路由器为 Switchyard(NVIDIA)、Auto(OpenRouter)、Fugu Max、Jev Router、Pareto、Fugu Ultra 和 Fugu Ultra v2。
页面数据:33 个模型、97 条已发布运行
截至本文发稿,页面顶部给出的数据是:33 个被路由器调用或作为基线运行的模型、97 条已发布的运行记录;最近一次基准运行发生在 10 月 1 日 13:34(UTC)。6 项基准分别是 GPQA Diamond、Tau3 Banking、MMMU Pro Vision、SWE Atlas QA、Deep SWE 与 Terminal Bench 2.1。页面把这轮比较限定在「自动选择一个或多个模型完成请求」的路由器上。
除路由器外,页面还列出单模型基线作为对照。OpenRouter 在(署名 Brian Thomas,10 月 2 日)中说,这些模型分别代表成本效率与智能水平的标杆,放在路由器旁边作为比较基准;博客还称,页面会持续加入新的路由器,并随路由器改进更新分数。
混合、选择与切换:三类路由器的不同做法
博客先把「路由」拆成两层:provider routing 在多个推理提供方之间做选择(按价格、速度、在线率与数据政策),失败时回退到另一家;model routing 则是让路由器决定由哪个模型来回答,行为像一个模型,但可能用一个或多个模型完成响应。
这次上线的基准评测的是 model routing 里的三种做法:
- 模型混合(blends):Unbiased 的 Pareto 与 Sakana 的 Fugu,页面上 Fugu 分成 Fugu Max、Fugu Ultra、Fugu Ultra v2 三个条目。博客称它们用一组模型做混合、有时叠加前沿模型升级(frontier escalation),不披露具体用了哪些模型、切换有多频繁,按统一的每 token 价格计费。
- 模型选择器(selectors):Auto Router 与 Jev Router,每一轮选出一个模型;选择过程透明,按被选中模型的标价计费。
- 模型切换器(switchers):NVIDIA 的 Switchyard,把便宜模型与更强模型配对,在 agent 推进任务的过程中切换。基准矩阵(Benchmark matrix)里列出四组搭配:DeepSeek v4.1 Flash + GPT-6-Sol、GLM 5.3 Flash + Claude Opus 5.5、GLM 5.3 Flash + Kimi K3、GPT-6-Sol + GPT-6-Astra;博客说使用者可以换成任意配对。
也有没被纳入基准的做法:Pareto Code 与 -latest 这类指向单一模型的别名,以及把同一请求发给一组模型、再综合出最佳答案的 Fusion。博客给出的理由是,它们服务的是专门用途,需要不同的比较方法。博客还用一组成本对比解释路由器的用处:GPT-6 Astra 的平均每 token 实付价格比 DeepSeek v4 Flash 高出 48 倍以上,在 Codex 里跑平均 10~49 轮的会话,成本高 21 倍。
Router Index:0~10 分,权重默认 60/20/20 且可调
页面对 Router Index 的定义是:把质量、速度与成本合成一个 0~10 分的分数,相对每项基准的最优结果计算。默认权重为质量 60%、单任务耗时 20%、成本 20%;拖动滑块调整权重后,页面会重新给出符合各自优先级的领先者。博客说,这套指数是为了帮使用者找到「性能特征符合需要」的路由器与模型组合。
除了指数,页面还为每个路由器列出各基准的原始成绩:质量(正确率)、每任务成本、每次成功成本与每任务耗时。
当前评分:榜首分散在不同路由器上
页面为每项基准标出的「Best in benchmark」,分别属于 Jev Router(MMMU Pro Vision 9.6 分、Deep SWE 9.5 分)、Pareto(SWE Atlas QA 8.7 分、Terminal Bench 2.1 10.0 分)与 Switchyard 的 DeepSeek v4.1 Flash + GPT-6-Sol 搭配(GPQA Diamond 9.6 分、Tau3 Banking 9.2 分)。
跨基准平均的 Router Frontier 表把指数与成本放在一起:Pareto 平均 9.1 分、每任务 $0.33;Jev Router 9.1 分、$0.39;Switchyard 的 DeepSeek v4.1 Flash + GPT-6-Sol 9.0 分、$0.29;Auto 按低、中、高三个成本档列出,分别是 7.2 分($0.082)、8.4 分($0.36)、7.8 分($0.63);Fugu Max 7.5 分($0.96),Fugu Ultra v2 7.8 分($3.01)。
同一张表也列出单模型基线:GPT-6-Sol 为 9.4 分、$0.26/任务,GPT-6.1-Sol 为 9.4 分、$0.28/任务,分数高于领先的路由器;页面注明基线仅供参考、不参与排名。
分项成绩里还有一组对比:GPQA Diamond 一栏中,Jev Router 的质量为 93.9%、每任务 $0.016、25 秒;Fugu Ultra 的质量为 94.6%、每任务 $0.38、1.8 分钟。两者质量相差不到 1 个百分点,单任务成本相差约 24 倍。
OpenRouter 自己的提醒:路由器不总是更优
这条提醒就写在公告里:路由器并不总是更好;切换模型时要重建输入缓存,请求会变贵;单看提示词,路由器往往判断不了任务复杂度;推断会话阶段的启发式信号可能与模型下一步该做的事不一致;路由决策的处理越多,引入的延迟越大。
博客也说明了页面的用途:用来「看哪些路由器克服了这些固有挑战」,帮人决定「何时、以及是否」该用它们。
这些分数出自 OpenRouter 自己的页面与博客:博客称每个路由器都跑了一组来自不同领域的基准,被测路由器里就包括它自家的 Auto。本文没有对这些结果做独立验证。OpenRouter 还说明,这些路由器可以换进你的应用、harness(运行框架)或 API 调用里试用。它同时写明了分数的适用边界:「和任何基准一样,这些基准只代表一般任务,而不是你自己的任务」。