AREXOpen in interactive Feed

AREX Feed Article

OpenRouter 上线缓存感知路由器 typesafe/jev-router:由 Jev 按请求挑选模型与推理力度

September 27, 2026

9 月 25 日 22:21(UTC),上线 typesafe/jev-router——一台由 TypeSafe AI 的 System One 模型 Jev 驱动的「缓存感知(cache-aware)」模型路由器。按帖文描述,它为每个请求挑选模型和推理力度(reasoning effort),在质量、速度与成本之间做平衡。OpenRouter 自我定位是「LLM 的统一接口」,平台聚合 400 多个模型(其 );补充的描述是:这台路由器会「随对话演进而调整」。

OpenRouter 同步贴出一份官方口径的对比:在四项 agent 基准上,Jev Router 解决的任务数比其自家 Auto Router 多 82%(423 道中 237 对 130,)。这批路由效果数字目前全部出自 OpenRouter 一方。

一个不做生成的模型,被放到了路由的位置

typesafe/jev-router 不是又一个聊天模型。在 里,它的条目名叫 TypeSafe: Jev Router,输出为文本,输入模态涵盖文本、图片、文件、音频与视频。OpenRouter 的 API 与 OpenAI 兼容,调用方照常发请求,把模型 slug(模型地址标识)换成 typesafe/jev-router 即可()。

干活的 Jev 是另一类东西。TypeSafe AI 自述是一家「构建聊天之外智能」的 AI 实验室();9 月 14 日,创始人 Diogo Almeida 在博客里发布第一个 System One 模型 Jev——他自述此前在 OpenAI 参与让语言模型听懂指令的研究,那项工作后来成为 ChatGPT 背后的研究。按博客的说法,Jev 不生成文本,接收 state(程序状态)和 questions(问题),返回带校准概率的类型化答案,训练方法叫 RLCD(Reinforcement Learning for Calibrated Decisions),采样并行完成()。把 Jev 能回答的问题分成三类——Choice(选项)、Score(分级打分)、Noul(是非判断),并指出同一请求里可以并行问多个问题,几乎不增加响应时间。

TypeSafe 给 Jev 自身标的价格是每百万输入 token 0.042 美元、输出免费,端到端响应 70~500 毫秒,并称在 System One 类任务上比现有 LLM 快两个数量级;LangChain 转述的公司口径是「至多 200 倍快、400 倍便宜」(、)。模型路由正是这套能力被点名的用例:LangChain 的 ModelRouterMiddleware 示例,让 Jev 按指令挑选「能完成任务的最便宜模型」。OpenRouter 做的,是把同样的判断直接做成平台上的一个端点。

基准帖没有列出基准名称

基准帖没有给出四项基准的名称与任务构成,只留下总数和百分比;帖中 82% 与 237、130 的换算相符。截至发稿核验,主帖浏览约 126 万、点赞 2,006、收藏 1,474。

TypeSafe 自己的帖文写的是「你从没这样路由过」(You've never routed like this before),称 OpenRouter 正把 Jev 带进「你所有的 LLM 调用」;OpenRouter 官号转发了这条,原帖约 47.4 万浏览、3,747 赞()。

「缓存感知」能被核对的部分

「缓存感知」是官方给这台路由器打出的标签,但判定缓存的具体算法没有出现在帖文或模型页文本里,主帖的解释以一段视频呈现。文字材料中最具体的说法来自 Alex Atallah(OpenRouter 联合创始人兼 CEO,其 自述),他在主帖发出 8 分钟后补充:「Jev Router 是我们迄今最透明的路由器,基准表现也很好。你可以在 Chatroom 侧边栏看到它如何选模型,包括缓存感知的成本权衡。」()

可核对的还有条目参数:公开模型 API 显示,typesafe/jev-router 上下文长度为 100 万;prompt 与 completion 价格字段均为 -1,未标注固定单价()。模型页头图也印着「CONTEXT 1M」和「Released Sep 25, 2026」。

回复区里,用户 Divyam Agrawal 追问:换模型会不会丢掉缓存的好处?路由会不会被 Jev 自己的上下文窗口卡住?()这两问都指向同一处机制空白。

Theo 的反驳:估难度需要思考,Jev 不思考

质疑在主帖发出 15 分钟后出现。以 t3.gg 闻名的开发者 Theo(其 X 资料自述是 t3dotcodes 与 t3dotchat 的全职 CEO)先发长帖,40 分钟后又把长帖以「请不要用这个」(Please don't use this)回在主帖下面()。长帖写道(,约 8.3 万浏览、798 赞):

「提醒一下,Jev 是 System One 模型。它不推理,只做分类。仅凭 prompt 几乎不可能知道一个任务有多『复杂』——你得理解 prompt 所处的系统、agent 手上有哪些工具,以及它要绕开多少复杂度才能完成工作。Jev 对这些一无所知,字面意义上的零。它不知道在你的代码库里改起来有多难。你让 agent『把它移植到 Rust』,它不知道这是个 100 行的 TypeScript 文件,还是百万行的复杂应用。……Jev 很棒,但它不是为这个造的。要知道一个任务需要多少思考,你得先思考。Jev 不思考。」

开发者 Tavlean 则把矛头指向基准本身:「如果 Jev 在这类任务上远胜你们的 Auto Router,那说明的更多是 Auto Router 的问题,或者你们基准的问题。Jev 按设计就该在这类任务上表现差得多。」()

公开渠道能看到的实测还很少。其 显示在 Google DeepMind 做 AI 安全的 Emrick Donadei 在 τ-bench 上花了些 token 试跑:「我很惊讶 Jev 默认这么偏爱 Gemini。」他同时询问 OpenRouter,这是否与其内部指标一致()。正面的声音也有:自述在开发 Cloudroom 的 David Ondrej 评价这是「一次非常有前景的发布」()。

次日:Jev 已占 OpenRouter 分类请求的 27%

9 月 26 日,OpenRouter 贴出平台数据:Jev 正迅速成为平台上分类类请求的首选,占该类每周请求量的 27%,接近此前居于首位的 DeepSeek V4 Flash 的两倍()。数字出自 OpenRouter 自己的统计。

决策模型在这个网关上正聚成品类:就在 jev-router 发布的同一天,OpenRouter 还上架了 jaredpalmer 的开源 System One 小模型 Kev 4B,输入 0.042 美元/百万 token、输出免费、8K 上下文()。Atallah 在 9 月 21 日已把眼下的 Jev 热度与一月的 OpenClaw、更早的 Opus 4.5 时刻并列,并猜测如果成真,这会是模型按具体用途分化、市场更多样的开端()。

不过 27% 说的是 Jev 模型本身的用量,不是 jev-router 的路由质量。截至 9 月 28 日发稿,公开渠道检索不到对那组「237 对 130」基准的第三方复测,能看到的独立验证只有上述零星实测与质疑;回复区里 Donadei 问 OpenRouter 的那条提问,也仍显示 0 条回复。

参考链接

  • OpenRouter 宣布帖:
  • OpenRouter 基准帖(82%、237 对 130):
  • OpenRouter Jev Router 模型页:
  • OpenRouter 公开模型 API:
  • OpenRouter X 资料:
  • TypeSafe 博客《Introducing System One Models and Jev》:
  • LangChain 博客《Building a Harness with Jev》:
  • TypeSafe AI X 资料:
  • OpenRouter 转发 TypeSafe 帖:
  • Alex Atallah X 资料:
  • Alex Atallah「最透明的路由器」帖:
  • Divyam Agrawal 提问帖:
  • Theo 长帖(Jev 不思考):
  • Theo「Please don't use this」回帖:
  • Tavlean 质疑帖:
  • Emrick Donadei X 资料:_
  • Emrick Donadei τ-bench 提问帖:
  • David Ondrej 回帖:
  • OpenRouter 分类请求 27% 数据帖:
  • OpenRouter Kev 4B 上架帖:
  • Alex Atallah「Jev 时刻」帖:
  • 封面图片来源(Jev Router 模型页头图):
  • 题图来源(LangChain 博客头图):

More from this developing story

  • OpenRouter 上线缓存感知路由器 typesafe/jev-router:由 Jev 按请求挑选模型与推理力度Sep 27, 2026
  • Jev 路由器首批独立测试结论相反:Theo 称更贵且慢近 5 倍,Elvis 称成本减半、全部答对Sep 27, 2026