AREX Feed Article
OpenRouter 上线缓存感知路由器 typesafe/jev-router:由 Jev 按请求挑选模型与推理力度
9 月 25 日 22:21(UTC),上线 typesafe/jev-router——一台由 TypeSafe AI 的 System One 模型 Jev 驱动的「缓存感知(cache-aware)」模型路由器。按帖文描述,它为每个请求挑选模型和推理力度(reasoning effort),在质量、速度与成本之间做平衡。OpenRouter 自我定位是「LLM 的统一接口」,平台聚合 400 多个模型(其 );补充的描述是:这台路由器会「随对话演进而调整」。
OpenRouter 同步贴出一份官方口径的对比:在四项 agent 基准上,Jev Router 解决的任务数比其自家 Auto Router 多 82%(423 道中 237 对 130,)。这批路由效果数字目前全部出自 OpenRouter 一方。
一个不做生成的模型,被放到了路由的位置
typesafe/jev-router 不是又一个聊天模型。在 里,它的条目名叫 TypeSafe: Jev Router,输出为文本,输入模态涵盖文本、图片、文件、音频与视频。OpenRouter 的 API 与 OpenAI 兼容,调用方照常发请求,把模型 slug(模型地址标识)换成 typesafe/jev-router 即可()。
干活的 Jev 是另一类东西。TypeSafe AI 自述是一家「构建聊天之外智能」的 AI 实验室();9 月 14 日,创始人 Diogo Almeida 在博客里发布第一个 System One 模型 Jev——他自述此前在 OpenAI 参与让语言模型听懂指令的研究,那项工作后来成为 ChatGPT 背后的研究。按博客的说法,Jev 不生成文本,接收 state(程序状态)和 questions(问题),返回带校准概率的类型化答案,训练方法叫 RLCD(Reinforcement Learning for Calibrated Decisions),采样并行完成()。把 Jev 能回答的问题分成三类——Choice(选项)、Score(分级打分)、Noul(是非判断),并指出同一请求里可以并行问多个问题,几乎不增加响应时间。
TypeSafe 给 Jev 自身标的价格是每百万输入 token 0.042 美元、输出免费,端到端响应 70~500 毫秒,并称在 System One 类任务上比现有 LLM 快两个数量级;LangChain 转述的公司口径是「至多 200 倍快、400 倍便宜」(、)。模型路由正是这套能力被点名的用例:LangChain 的 ModelRouterMiddleware 示例,让 Jev 按指令挑选「能完成任务的最便宜模型」。OpenRouter 做的,是把同样的判断直接做成平台上的一个端点。
基准帖没有列出基准名称
基准帖没有给出四项基准的名称与任务构成,只留下总数和百分比;帖中 82% 与 237、130 的换算相符。截至发稿核验,主帖浏览约 126 万、点赞 2,006、收藏 1,474。
TypeSafe 自己的帖文写的是「你从没这样路由过」(You've never routed like this before),称 OpenRouter 正把 Jev 带进「你所有的 LLM 调用」;OpenRouter 官号转发了这条,原帖约 47.4 万浏览、3,747 赞()。
「缓存感知」能被核对的部分
「缓存感知」是官方给这台路由器打出的标签,但判定缓存的具体算法没有出现在帖文或模型页文本里,主帖的解释以一段视频呈现。文字材料中最具体的说法来自 Alex Atallah(OpenRouter 联合创始人兼 CEO,其 自述),他在主帖发出 8 分钟后补充:「Jev Router 是我们迄今最透明的路由器,基准表现也很好。你可以在 Chatroom 侧边栏看到它如何选模型,包括缓存感知的成本权衡。」()
可核对的还有条目参数:公开模型 API 显示,typesafe/jev-router 上下文长度为 100 万;prompt 与 completion 价格字段均为 -1,未标注固定单价()。模型页头图也印着「CONTEXT 1M」和「Released Sep 25, 2026」。
回复区里,用户 Divyam Agrawal 追问:换模型会不会丢掉缓存的好处?路由会不会被 Jev 自己的上下文窗口卡住?()这两问都指向同一处机制空白。
Theo 的反驳:估难度需要思考,Jev 不思考
质疑在主帖发出 15 分钟后出现。以 t3.gg 闻名的开发者 Theo(其 X 资料自述是 t3dotcodes 与 t3dotchat 的全职 CEO)先发长帖,40 分钟后又把长帖以「请不要用这个」(Please don't use this)回在主帖下面()。长帖写道(,约 8.3 万浏览、798 赞):
「提醒一下,Jev 是 System One 模型。它不推理,只做分类。仅凭 prompt 几乎不可能知道一个任务有多『复杂』——你得理解 prompt 所处的系统、agent 手上有哪些工具,以及它要绕开多少复杂度才能完成工作。Jev 对这些一无所知,字面意义上的零。它不知道在你的代码库里改起来有多难。你让 agent『把它移植到 Rust』,它不知道这是个 100 行的 TypeScript 文件,还是百万行的复杂应用。……Jev 很棒,但它不是为这个造的。要知道一个任务需要多少思考,你得先思考。Jev 不思考。」
开发者 Tavlean 则把矛头指向基准本身:「如果 Jev 在这类任务上远胜你们的 Auto Router,那说明的更多是 Auto Router 的问题,或者你们基准的问题。Jev 按设计就该在这类任务上表现差得多。」()
公开渠道能看到的实测还很少。其 显示在 Google DeepMind 做 AI 安全的 Emrick Donadei 在 τ-bench 上花了些 token 试跑:「我很惊讶 Jev 默认这么偏爱 Gemini。」他同时询问 OpenRouter,这是否与其内部指标一致()。正面的声音也有:自述在开发 Cloudroom 的 David Ondrej 评价这是「一次非常有前景的发布」()。
次日:Jev 已占 OpenRouter 分类请求的 27%
9 月 26 日,OpenRouter 贴出平台数据:Jev 正迅速成为平台上分类类请求的首选,占该类每周请求量的 27%,接近此前居于首位的 DeepSeek V4 Flash 的两倍()。数字出自 OpenRouter 自己的统计。
决策模型在这个网关上正聚成品类:就在 jev-router 发布的同一天,OpenRouter 还上架了 jaredpalmer 的开源 System One 小模型 Kev 4B,输入 0.042 美元/百万 token、输出免费、8K 上下文()。Atallah 在 9 月 21 日已把眼下的 Jev 热度与一月的 OpenClaw、更早的 Opus 4.5 时刻并列,并猜测如果成真,这会是模型按具体用途分化、市场更多样的开端()。
不过 27% 说的是 Jev 模型本身的用量,不是 jev-router 的路由质量。截至 9 月 28 日发稿,公开渠道检索不到对那组「237 对 130」基准的第三方复测,能看到的独立验证只有上述零星实测与质疑;回复区里 Donadei 问 OpenRouter 的那条提问,也仍显示 0 条回复。
参考链接
- OpenRouter 宣布帖:
- OpenRouter 基准帖(82%、237 对 130):
- OpenRouter Jev Router 模型页:
- OpenRouter 公开模型 API:
- OpenRouter X 资料:
- TypeSafe 博客《Introducing System One Models and Jev》:
- LangChain 博客《Building a Harness with Jev》:
- TypeSafe AI X 资料:
- OpenRouter 转发 TypeSafe 帖:
- Alex Atallah X 资料:
- Alex Atallah「最透明的路由器」帖:
- Divyam Agrawal 提问帖:
- Theo 长帖(Jev 不思考):
- Theo「Please don't use this」回帖:
- Tavlean 质疑帖:
- Emrick Donadei X 资料:_
- Emrick Donadei τ-bench 提问帖:
- David Ondrej 回帖:
- OpenRouter 分类请求 27% 数据帖:
- OpenRouter Kev 4B 上架帖:
- Alex Atallah「Jev 时刻」帖:
- 封面图片来源(Jev Router 模型页头图):
- 题图来源(LangChain 博客头图):