Gemma 4 技术报告：2.3B 小模型打平 27B，谷歌把"效率"写进了开源模型的基因

2026 年 7 月 7 日，Google DeepMind 在 arXiv 上发布了 Gemma 4 技术报告。距离模型正式开源已过去三个月，这篇 279 位作者署名的论文终于揭开了 Gemma 系列最新一代的技术全貌。报告中最惊人的两个数字：E2B（有效参数 2.3B）以约十分之一的参数量追平了 Gemma 3 27B 的综合表现；31B Dense 模型以 1451 Elo 登顶 Arena 开放 Dense 模型榜首，与数十倍于其体量的 MoE 巨兽同台竞技。官方账号 @GoogleGemma 的公告推文已获超过 1000 次点赞和 130 次转发，技术社区讨论持续发酵。

六个数字，重新定义"小模型"的能力边界

在逐章拆解报告之前，先列出最值得关注的六个判断：

1. 小模型逆袭大模型：E2B（有效 2.3B）在多维度基准测试中与 Gemma 3 27B 持平或接近，参数量不足后者的十分之一。

2. Encoder-free 架构跑通了：12B 模型完全抛弃了独立的视觉和音频编码器，将 550M 的 ViT 替换为一次 35M 参数的矩阵乘法，305M 的音频编码器直接移除——图像 patch 和音频 chunk 裸喂进 LLM。

3. KV Cache 砍掉 37.5%：通过 p-RoPE 位置编码、全局注意力层中 key 复用为 value、局部/全局注意力 5:1 配比三项组合优化，长上下文场景下的全局 KV 缓存开销大幅降低。

4. 31B Dense 登顶开放 Dense 榜首：Arena Text 排行榜第 43 位 / Elo 1451，是所有开放 Dense 模型中的第一名。26B MoE 版本仅激活 3.8B 参数即达到 1438 Elo。

5. 音频编码器缩水 78%，性能反而涨了：量化后的音频编码器从 390MB 降至 87MB，同时 CoVoST 翻译相对提升 10-12%，FLEURS 转录相对提升 12-17%。

6. Thinking mode 让推理能力质变：31B 模型在 AIME 2026（无工具）上拿下 89.2%，GPQA Diamond 84.3%，LiveCodeBench v6 80.0%，Codeforces Elo 2150——这些数字几个月前还是闭源模型的专利。

一次矩阵乘法替代一个 ViT：Gemma 4 的架构取舍

从 2.3B 到 31B：全矩阵覆盖

Gemma 4 共发布五款模型，覆盖从端侧到服务器端的全场景：

• E2B（有效 2.3B）：总参数量约 5B，但通过逐层嵌入（Per-Layer Embeddings）将有效参数压缩到 2.3B。面向手机等边缘设备，支持文本、图像、音频输入。
• E4B（有效 4.5B）：总参数约 8B，有效 4.5B。同样是端侧定位，但性能更强。
• 12B（Unified）：全系列最具实验性的模型，采用 encoder-free 架构，无需独立视觉和音频编码器。
• 26B-A4B（MoE）：总参数 26B，每次推理仅激活 3.8B。在延迟和 token/s 上做了极致优化。
• 31B（Dense）：全系列最强模型，追求绝对质量，面向需要最佳性能的场景。

E2B 和 E4B 继承自 Gemma 3n 的逐层嵌入设计，在每个 Transformer 层为 token 添加额外的身份编码信号。这是一种类似于 MoE 的"token 依赖式参数引用"策略——用额外的 400M-670M 嵌入参数换取核心 Transformer 的轻量化。

Encoder-free：12B 模型的激进实验

Gemma 4 12B 是整个报告中最值得关注的架构决策。

传统的多模态模型会在 LLM 前面挂载独立的视觉编码器（通常是 ViT，几百 M 参数）和音频编码器（通常是 Conformer，几百 M 参数）。这些编码器在预训练阶段冻结权重，只作为特征提取器工作，但它们占据了大量显存、增加了延迟、引入了额外的工程复杂度。

Gemma 4 12B 把这两个编码器全部扔掉了。

对于图像：将输入图片切分成 48×48×3 的 RGB patch，通过一次矩阵乘法（仅 35M 参数，而标准 ViT 编码器是 550M）直接投影到 LLM 的嵌入空间，再加上 2D 坐标位置编码和一次 LayerNorm。换句话说，图像理解的计算完全交给了 LLM 本体。

对于音频：16kHz 音频按 40ms 切分成 chunk（每个 chunk = 640 维向量），同样通过轻量投影模块直接喂入 LLM。没有 Conformer，没有 Mel filterbank（仅在 E2B/E4B 的小型编码器中使用），没有中间表示——音频是一种"一维 token 序列"，LLM 自己学会怎么理解它。

实际效果验证了这一设计的可行性。12B 模型的 FLEURS ASR 词错率在英语上为 6.3%，日语（字符错率）8.0%，德语 5.3%——这些数字与使用专用编码器的 E4B 基本持平。CoVoST 翻译任务上同样不落后。

编辑观察：Encoder-free 架构的价值不在当下而在未来。当 LLM 本身足够强大时，专用编码器变成了冗余中间层。这一设计降低了多模态模型的工程复杂度，同时让整条 pipeline 可以在一次 fine-tune 中统一优化。对于希望在自己数据和硬件上定制多模态模型的团队来说，这是一个重大利好。

KV Cache：37.5% 是如何省出来的

长上下文推理的瓶颈不在计算而在内存——KV Cache 随序列长度线性增长，很快吃掉全部显存。Gemma 4 用了三步组合拳来压缩这个开销：

第一步：局部/全局注意力 5:1 配比。 每 6 个注意力层中，5 层使用滑动窗口局部注意力（窗口大小 1024 tokens，E2B 为 512），只有 1 层使用全局注意力。绝大多数 token 的 KV 不需要存储超过窗口长度的历史。

第二步：p-RoPE 替代标准 RoPE。 在全局注意力层中，使用 p=0.25 的 p-RoPE 替代标准 RoPE。p-RoPE 让位置编码随距离增长"衰减"得更慢，允许用更低的频率（1M vs 10k）编码更远的位置，从而压缩 KV 表示。

第三步：Key 复用为 Value。 在 12B、26B-A4B 和 31B 模型的全局注意力层中，Value 矩阵直接使用 Key 矩阵（values = keys），不再单独计算和存储 Value 投影。这一改动单独省下了 50% 的全局层 KV 存储。

三步叠加后，全局 KV Cache 减少 37.5%。同时，E2B 和 E4B 还引入了层间 KV Cache 共享——E2B 上 20 层共享给 35 层，E4B 上 18 层共享给 42 层。

MTP Drafter：藏在模型里的推理加速器

Gemma 4 每个模型都标配了一个 Multi-Token Prediction (MTP) Drafter 头——一个内置于模型中的小型自回归 Transformer，专门用于推测解码（speculative decoding）。

MTP drafter 的工作方式：输入来自主模型上一轮的最后一层激活值和 token 嵌入，drafter 通过交叉注意力机制（cross-attention）读取主模型的 KV Cache，一次预测多个未来 token。主模型随后批量验证这些 draft token，接受率高的直接跳过计算。

与独立的 draft 模型相比，MTP drafter 不需要单独的 prefill 阶段，支持任意 draft 长度，并且由于共享主模型的 KV Cache，额外显存开销极小——E2B 的 drafter 仅 76M 参数，31B 的也才 500M。

E2B 和 E4B 的 drafter 还做了进一步优化：将最终词汇投影从 d×262k 降到了 d×4096——通过在 token 聚类上做 top-k 操作来近似完整词汇投影，在接受率几乎不变的前提下大幅降低了计算开销。Ollama 已率先在 Apple Silicon 上默认启用 Gemma 4 的 MTP，实测推理速度提升近 90%。

Thinking Mode 与 QAT：双轨并行的质量与效率

Thinking mode 是 Gemma 4 在推理能力上最直接的增强。开启后，模型在输出最终答案之前先生成一段推理 trace（类似 o1 风格），从而在数学、编程等需要深度思考的任务上大幅提升表现。以 31B 为例：AIME 2026（无工具）89.2%，GPQA Diamond 84.3%，Codeforces Elo 2150——这些数字使其跻身最强开源推理模型行列。

量化感知训练（QAT）则是效率侧的关键。移动端量化（int2/int4 权重 + int8 激活）将 E2B 的内存占用从 4.6GB 压到 0.8GB，12B 的 Q4_0 量化后仅需 7.65GB——一块消费级 GPU 就能跑。视觉编码器做 W8A8 量化后前向内存减半（400MB → 200MB），端侧延迟降低 44%。音频编码器做混合精度量化后磁盘占用从 390MB 降至 87MB，降幅 78%。

基准测试：小模型与大模型的边界正在模糊

报告中的 Table 5 是全篇最有视觉冲击力的表格。以 Gemma 3 27B 为基线对比：

• E2B vs Gemma 3 27B：MMLU Pro 60.0 vs 67.6（差距可接受），AIME 2026 37.5 vs 20.8（反超），LiveCodeBench 44.0 vs 29.1（反超），GPQA Diamond 43.4 vs 42.4（反超），Big Bench Extra Hard 21.9 vs 19.3（反超）。一个有效参数 2.3B 的模型在核心推理基准上系统性反超了前代 27B 旗舰——这是这代 Gemma 最有力的一张成绩单。

• E4B vs Gemma 3 27B：全面碾压。长上下文 RULER 128k 上 86.6 vs 66.0——差距 20 个百分点，Recall@k 128k 上 58.5 vs 8.6——差距 50 个百分点。长上下文是从 Gemma 3 到 Gemma 4 进步最大的维度。

• 31B：在所有基准上全面领先。HLE（Humanity's Last Exam）19.5%，加搜索后 26.5%。SciCode 43.0%，Terminal Bench Hard 36.0%，均体现其在复杂工程任务上的竞争力。

社区怎么看：从"又一个大模型"到"一份系统笔记"

技术报告发布后，社区反应热烈且观点高度集中。

Omar Sanseviero（Google DeepMind MTS，前 Hugging Face Chief Llama Officer）的公告推文获得 963 次点赞，他同时是 Gemma 团队核心成员。Olivier Bachem（Google DeepMind 高级研究总监，Gemma 联合负责人）也发文确认报告上线。

开发者社区的反应远比"又发了篇 paper"要深刻。@adidshaft 的评价精准捕捉了报告的实质："Gemma 4 读起来不像又一款开源模型，更像一份系统笔记（systems note）。线索很清楚：encoder-free 多模态、KV Cache 优化、推测解码、QAT——开源模型正在变成架构 + 内存 + 推理服务的综合工程。"

AlphaXiv（@askalphaxiv）的数据摘要推文获得 132 次点赞，重点归纳了 E2B/E4B 用十分之一参数追平 Gemma 3 27B、长上下文 RULER 上 E4B 大比分领先、以及 31B 登顶开放 Dense 榜首三条核心信息。

Daisuke Okanohara（Preferred Networks CEO，东京大学兼职教授）用日文发表了一篇深度技术总结，获得 183 次点赞和 144 次书签。他在线程中特别指出 Key=Value 的设计——"当 Key 和 Value 被共享时，注意力机制可以被视为基于能量的 Modern Hopfield 网络，反推迭代更新和进一步加速的可能性也随之打开。"

@eliebakouch（Prime Intellect 研究员，前 Hugging Face）指出："看起来 Gemma 4 的训练 token 量比上一代大得多。"这一观察揭示了一部分性能提升的来源——更长的训练而非仅是更聪明的架构。

也有不那么严肃的反应。@0x_lun 调侃道："279 位作者，摘要还是用 Qwen 模型生成的——他们真的就是 ship it。"（注：该评论缺乏证据，但反映了社区对超大型合作论文的某种微妙态度。）

@Sumanth_077（ML Developer Advocate）在推文中总结道："最有趣的架构决定在 12B 模型上——没有独立编码器，直接把图像 patch 和音频 chunk 投射进 LLM 嵌入空间。"

三种走向：效率竞赛的下一个战场

放下报告中的几十张表格，Gemma 4 技术报告传递的最重要信号是：开源模型的竞争已经从"谁参数多"转向了"谁每字节参数更聪明"。

如果这条趋势继续，三个方向值得跟踪：

第一，Encoder-free 架构可能成为多模态模型的标配。 Gemma 4 12B 证明了一个 LLM 可以在没有专用编码器的情况下理解图像和音频。再过一代或两代，当 LLM 的基础能力足够强时，独立编码器可能像今天的 RNN 一样成为历史。这对边缘部署尤其重要——每减少一个编码器，就减少一份显存碎片和延迟开销。

第二，KV Cache 和 MTP drafter 将重塑推理基础设施。 p-RoPE、key=value 复用、层间 KV 共享、内置 drafter——这些技术一旦被主流开源模型广泛采纳，推理引擎（vLLM、llama.cpp、MLX 等）必须跟进优化其内存管理和调度策略。Ollama 已经在 Apple Silicon 上验证了 MTP 的收益，接下来其他引擎的适配速度将直接影响 Gemma 4 的实际可用性。

第三，参数效率正在变成核心竞争维度。 当 E2B（2.3B 有效参数）在推理基准上系统性超越 Gemma 3 27B，当 26B MoE 仅激活 3.8B 参数就达到 1438 Elo，"更大更好"的叙事正在被改写。接下来的问题是：小模型的天花板在哪里？——这个答案可能比大模型能走多远更早揭晓。

参考链接：

• Gemma 4 Technical Report — https://arxiv.org/abs/2607.02770
• Google Blog: Gemma 4 — https://blog.google/innovation-and-ai/technology/developers-tools/gemma-4/
• Hugging Face Blog: Welcome Gemma 4 — https://huggingface.co/blog/gemma4
• @GoogleGemma 官方公告 — https://x.com/googlegemma/status/2074600196441608430
• @osanseviero 公告 — https://x.com/osanseviero/status/2074436670770868249
• @askalphaxiv 摘要 — https://x.com/askalphaxiv/status/2074625070475973028
• @hillbig 深度技术分析 — https://x.com/hillbig/status/2074627485933982145

本文由 AREX Agent 新闻热点追踪智能体自动生成，基于公开可获取的一手来源和社区讨论撰写。内容仅供参考，不构成投资或技术选型建议。