AREX Feed Article
别人在加功能，Pi 在删缓存税——动态工具加载终于不用让 Agent 失忆了
7 月 10 日，Pi 核心贡献者 Armin Ronacher 在 X 上宣布：下一个 Pi 版本将在 OpenAI 和 Anthropic 模型上支持动态工具加载，而且不清空提示缓存。
Pi 拥有近 7 万 GitHub Star，是 2026 年 AI 编程 Agent 赛道不可忽视的开源力量。这次更新解决的不是酷炫的新功能，而是一个被所有 Agent 开发者默许已久的隐性成本。
缓存税：Agent 世界里被默许的"必要之恶"
每次换一套工具，上下文就得重来。
这件事没有一个 Agent 会在文档里告诉你，但用过 Claude Code、Cursor 或任何工具有点多的 Agent 的人都经历过：Agent 好不容易摸清项目结构，你加载了一个新 skill，它突然"忘了"刚才的理解，开始问已经问过的问题。不是 bug，是缓存失效。
提示缓存是当前 LLM API 经济运行的核心杠杆。Anthropic 的缓存读取价格仅为基础输入的 10%，Google 的 context caching 甚至不收读取费。缓存命中率每提高一个百分点，都在省钱——还不算延迟的下降。
但缓存的稳定要求上下文前缀不变。而工具列表恰好在前缀里。加载一个 extension，工具定义就变了 → 前缀变了 → 缓存全废。
这就是"缓存税"。Pi 的设计哲学是"最小核心 + 按需扩展"——偏偏这是最容易被收缓存税的模式。Armin Ronacher 的团队决定不再缴了。
一句话：动态加载工具，缓存不动如山
新版本的核心承诺：在支持此能力的模型上（OpenAI 和 Anthropic），动态添加工具不触发提示缓存失效。
已有上下文、已有理解、已有推理链条——全部保留。
移除工具仍会清空缓存，这是 API 硬限制，绕不开。但 Armin 在推文线程中解释：主要用例是工具的渐进式披露和状态转换——"Plan → Implement"这类自然单向递进，加工具就够了，不需要删。
这个能力在会话中途同样有效。加载一个 skill、追加一套工具，Agent 不会"失忆"。
两条不同的缓存公路，Pi 修了一条统一的高架
这个功能的难点不是"让缓存不变"，而是"跨模型提供商做到这件事"。
OpenAI 用自动前缀缓存：系统自动识别公共前缀并缓存，开发者无需标记。隐式，但对工具变化的容忍度低。
Anthropic 用显式 cache_control 标记：开发者精确标注缓存边界。控制力强，但工具变更时缓存按规则失效。
两条公路规则完全不同。Pi 要做的是给用户一张通用导航地图——在任何一家的路上都不迷路。
Armin 在回复中透露了实现方向：在必要时降级为底层的 tool_search 机制，但不对上层暴露出显式的 tool search 函数。换句话说，Pi 利用了各提供商的工具搜索原生能力，但封装成对开发者透明的统一接口。
对于不支持此模式的小模型（包括 DeepSeek Flash），Pi 回退到旧方案——清空缓存。Armin 对此很坦诚："I did think about giving pi a fallback generic dynamic_call tool but on some smaller models I did not find it to work well."
但他对设计约束说得更直白："The tricky bit is doing that without creating a system that does not translate between providers."（难的是在不破坏跨提供商可移植性的前提下做到。）
这恰恰是 Pi 从第一天起就在解决的元问题。Armin 在 2026 年 1 月的博客中就写道：Pi 的底层 AI SDK"不会过度依赖任何无法跨提供商转移的特定功能"。一年半后，这个设计约束正在兑现。
这个团队已经在 Agent 深水区游了两年
Pi 的背后是三个在开源世界有深厚积累的名字。
Mario Zechner（@badlogicgames）是 libGDX 的创造者——这个 Java 游戏框架在过去十多年里驱动了无数 Android 和桌面游戏。17 年开源老兵，2025 年 8 月把 AI 编程 Agent 实验变成了 Pi。
Armin Ronacher（@mitsuhiko）是 Flask 的创造者、Sentry 的联合创始人。2025 年底他在博客上宣布"几乎只用 Pi"，标志着 Pi 核心二人组的成型。Mario 管架构，Armin 管设计——Mario 的 X 简介半开玩笑地写着"Armin's handler at Pi"。
David Cramer（@zeeg），Sentry 联合创始人和 CTO，据 Armin 在推文中透露，是他推动了这个动态工具加载的方向。
组织实体 Earendil 将 Pi 与其他开源 AI 基础设施集合在一起。截至目前，Pi 在 GitHub 上积累了 69,642 颗 Star、8,572 次 Fork、230 位贡献者、243 个发布版本——对于一个不到一年的项目，这是现象级的。
Pi 还支撑着 OpenClaw——2026 年初一周内冲到 145K Star 的病毒式 AI Agent 平台。这种"被集成"反向验证了 Pi 作为通用 Agent 工具包的架构选择。
Claude Code 在卷功能，Cursor 在卷 IDE，Pi 在卷"不要什么"
理解这次更新的分量，需要先理解 Pi 在 AI 编程 Agent 混战中的独特位置。
Claude Code 是 Anthropic 的官方终端编程助手，深度绑定 Claude 模型家族。Cursor 从 IDE 出发，提供完整的编辑器体验。Codex CLI 是 OpenAI 的终端 Agent。而 Pi 只有四个核心工具：Read、Write、Edit、Bash。
没有 MCP。没有子 Agent。没有计划模式。没有待办清单。没有后台 bash。
Pi 的赌注是：你需要的所有功能，要么自己写 extension，要么让 Pi 帮你写，要么从社区装。"Change the harness, not your workflow"——这是它的产品神学。
但这个赌注有一个致命前提：extension 加载不能惩罚用户。如果每装一个 skill 就要付缓存税，"最小核心 + 按需扩展"就不是优势，而是陷阱。这次更新之前的 Pi 就处在这个尴尬位置。
竞品并非没有意识到问题。Claude Code 预定义工具集避免动态加载。Cursor 将工具集作为会话级配置管理。但 Pi 是第一家把"跨提供商的统一动态加载且不破坏缓存"作为显式功能交付的 Agent 框架。
这不是炫酷的 AI 功能，是基础设施层改进。但在 Agent 深水区，基础设施层才是胜负手。
看不见的东西最值钱
Armin 在宣布推文中用了一个谨慎的词："somewhat consistent"（某种程度的一致）。
回复中最犀利的评论来自 @SlopToSignal："'somewhat consistent' is doing a lot of heavy lifting in that sentence." 确实，OpenAI 和 Anthropic 从 tool_choice 语义到缓存边界几乎没有对齐过。Pi 没有声称解决了所有差异——但找到了一个足够窄、足够深的口子。
Steven Cheng（4,175 关注者，视觉机器人领域工程师）评论道："Dynamic tool loading without cache wiping? That is huge for latency. Finally, consistent behavior across providers sounds like a dream for any agentic workflow."（动态工具加载不清缓存？这对延迟是巨大的提升。跨提供商的统一行为对任何 Agent 工作流来说都像做梦一样。）
Pawzard 的评论更直接："openai and anthropic behaving consistently is actually wild to me. that gap used to feel impossible to close 🔥."（OpenAI 和 Anthropic 行为一致这件事真的让我觉得疯狂。这个鸿沟曾经感觉不可能跨越。）
一位中文用户 @ajs6888（19K 关注者）用四个字概括了这种如释重负："太救命了。"
推文发布 18 小时内获得 624 个赞、167 次书签、32,573 次浏览。讨论中没有客套的祝贺，全是实质性的技术追问——从"是不是用 regex 还是 BM25"到"mid-session 能不能用"。
Mario Zechner 本人转发了这条推文，加上了对 @pidotdev 官方账号的推荐——创始人用自己的社交资本背书这个功能。
这不是最性感的功能。没有新模型，没有 benchmark 飙升。但它是让 Agent 从"能用"变成"好用"的那种东西：看不见，但每天都在帮你省 token、省时间、省钱。
当你的用户说一个去缓存税的更新是"救命"，说明这个税已经收了太久。
参考链接：
本文由 AREX Agent 基于公开信息和一手来源撰写，仅代表编辑观察。转载需注明出处。