AREX Feed Article
OpenAI 在 Hot Chips 2026 公布 Jalapeño 性能结果：设计到流片压缩至 9 个月
2026 年 8 月 25 日，斯坦福大学的 Hot Chips 2026（8 月 23～25 日）进入第二天议程，OpenAI 硬件项目负责人 Richard Ho 与 Ravi Narayanaswami、Chris Leary 以「You Can Just Build Things … Chips」为题上台，公布自研推理芯片 Jalapeño 的首批性能结果；同一天，OpenAI 官网刊出《Jalapeño 的首批测试结果》博客，给出对英伟达 GB200、GB300 的逐项对比。｜
DIGITIMES 在 8 月 31 日的报道（记者 Amanda Liang，台北）中把这场发布的核心看点定在速度上：报道标题为「OpenAI compresses Jalapeno design to 9 months」（OpenAI 将 Jalapeno 设计周期压缩至 9 个月），正文强调重点不在能否胜过 GB200 或 GB300，而在它从设计到流片（tape-out）异常之快的速度。 这个数字并非 Hot Chips 上首次出现——6 月 24 日 OpenAI 与 Broadcom 官宣这颗芯片时，已经抛出过同样的说法。 首份数据的关键数字：额定 700 瓦的 Jalapeño，在三款开放权重模型上每瓦产出是对照系统的 1.5～1.9 倍。
Jalapeño 芯片与载板。图片来源：OpenAI 官方博客。
700 瓦对 1,200 瓦：首份自测成绩单
数据出自 OpenAI 自己的测试。OpenAI 用 SemiAnalysis 发布的公开基准 InferenceX，在 GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T 三款模型上，把 Jalapeño 与市面领先的商用 AI 系统逐点对比，衡量「在满足延迟要求的同时，单位功耗能完成多少有用的 AI 工作」。OpenAI 在博客里写明，按单位功耗衡量才是更有实用价值的指标。
结果：峰值吞吐下每瓦完成的 AI 任务量是对照系统的 1.5～1.9 倍，端到端延迟低 1.7～3.6 倍；对高度交互的工作负载，性能为对照系统的 2.1～4.1 倍。对比的前提是功耗不对等：Jalapeño 额定功率 700 瓦，测试中实测持续功耗不超过 550 瓦；对照组 GB200 封装 TDP（热设计功耗）为 1,200 瓦，GB300 为 1,400 瓦。
分模型看（按每千瓦混合 Token 数折算）：GPT-OSS 120B 上峰值每瓦性能约 1.9 倍（85,448 对 44,960），端到端延迟优势约 1.7 倍（1.03 秒对 1.80 秒）；DeepSeek R1 670B 上约 1.7 倍（19,641 对 11,781），延迟优势扩大到约 3.6 倍（1.65 秒对 5.99 秒）。
Kimi K2.5 1T 上约 1.5 倍（18,195 对 11,862），延迟优势约 3.4 倍（1.56 秒对 5.31 秒）。三款模型都不是为 Jalapeño 协同设计的，OpenAI 在 Hot Chips 现场特别说明了这一点。
口径上有两点需要留意。其一，Jalapeño 采用单 Token 预测，英伟达对照系统使用多 Token 预测；ServeTheHome 的现场逐页记录显示，即便去掉投机解码优势，单 Token 的 Jalapeño 直接对多 Token 的 GB300（DeepSeek R1 负载），每千瓦峰值混合 Token 率仍约高 1.5 倍、端到端延迟低约 2.2 倍。
其二，OpenAI 还发布了「此前最佳 TBT（Token 间隔）下的吞吐量」这类极端对比：GPT-OSS 上约 53.7 倍（22,935 对 427），DeepSeek R1 上约 104.3 倍（12,258 对 118），Kimi 上约 56.1 倍（6,744 对 120），这些数字同样出自 OpenAI 自测口径。OpenAI 称在自家前沿模型上的内部测试中，这一优势进一步扩大。
9 个月流片，是这场发布真正的看点
时间线是让这场发布区别于常规芯片路演的地方。ServeTheHome 记录的现场幻灯片显示：架构概念始于 2024 年底，2025 年完成 RTL（寄存器传输级设计）冻结，2025 年底流片，2026 年初 Codex 已在片上运行，此后不久 ChatGPT 也跑上了这颗芯片。OpenAI 6 月 24 日官宣时称，Jalapeño 从初始设计到制造流片只用了 9 个月，并称这一定制 AI 加速器项目「创下了高性能先进半导体领域有史以来最快的 ASIC 开发周期」——这句判断出自 OpenAI 自己。 8 月 25 日的博客把机制写得更具体：AI 通过探索不同实现方式、缩短设计-测量-验证的迭代周期，「使团队能够在九个月内完成从初步设计到流片的全过程」。
速度来自 AI 辅助设计。Hot Chips 现场介绍，OpenAI 内部模型配合 XLS 硬件描述语言加速设计流程，重大改动一直持续到 RTL 冻结当天；相比人类基准，AI 生成的实现为 BF16 乘法单元带来 56% 的 PPA（功耗、性能、面积）改进，矩阵单元面积同时缩小 10%。
软件一侧，团队用搭载 GPT-Astra 的 Codex，在两个月内让三款原本不在 Jalapeño 生产计划内的开放权重模型跑出高性能；对 GPT-OSS 的注意力与混合专家（MoE）模块，AI 生成的实现比人类专家方案快 1.5～1.8 倍（OpenAI 注明仅限所选模块）。
216 GB HBM4 与 64 个核心切片
Tom's Hardware 依据现场披露整理的规格：Jalapeño 是 OpenAI 与 Broadcom 协同开发的大型推理加速器，单芯片 216 GB HBM4 内存、带宽最高 15.4 TB/s，700 瓦下提供最高 3.4 MXFP8 PFLOPS、13.4 MXFP4 PFLOPS 算力；当前硅片在 OpenAI 实验室以 1.70 GHz 运行，工程师计划把频率提到 1.80 GHz。
架构上，Jalapeño 采用 NUMA（非统一内存访问）式「内存切片」设计：64 个核心切片各自配对一块 HBM 切片，保证可预测的延迟与带宽，避免统一内存子系统的争用；KV（键值）缓存保留在芯片本地，推理的预填充、草稿、验证解码各阶段按需激活不同资源组合，闲置单元断电，而不是让 KV 状态在网络间来回搬运。
规模是这套设计的卖点：128 颗芯片的本地域聚合 HBM4 带宽超过 1 PB/s，对比英伟达 GB300 NVL72 整机的 576 TB/s；用 Broadcom Tomahawk 6 交换机构成的半扁平两层 Clos 拓扑把全局域扩到 2,048 颗芯片，整个系统合计 27 EFLOPS（MXFP4）、432 TB HBM4、32 PB/s 聚合带宽，硬件由 Celestica 制造。
OpenAI 现场也承认，实际系统远低于纯带宽推算的 Token 速率（无投机解码时每用户每秒 1,000～2,000 Token，有投机解码 5,000～10,000），带宽不是唯一瓶颈。 Tom's Hardware 则指出，MXFP4 精度恐怕不足以支撑训练，Jalapeño 是明确的推理定位。
发布时点：英伟达财报前一天
这场发布与英伟达财报只隔一天。8 月 26 日，英伟达公布截至 7 月 26 日的 2027 财年第二季度业绩：营收 962 亿美元，环比增 18%、同比增 106%，数据中心收入 890 亿美元、同比增 117%；英伟达同时给出第三季度 1,080 亿美元（±2%）的营收指引，并宣布 Vera Rubin 平台进入全面量产。 DIGITIMES 在报道中特意点出，Jalapeño 的性能发布落在英伟达最新财报之前。
OpenAI 并不打算用这颗芯片替代英伟达。8 月 25 日的博客写明，「我们将继续在训练和推理工作负载中广泛部署 NVIDIA 及其他合作伙伴的加速器」；Jalapeño 计划今年年底前开始在 OpenAI 自有计算基础设施内部署，第二代芯片处于深度开发中，第三代已初具雏形。 Broadcom 总裁兼 CEO Hock Tan 在 6 月官宣时给出更宽的时间表：从 2026 年起与 Microsoft 及其他合作伙伴部署吉瓦级数据中心。
「9 个月」的定义之争
「9 个月」从官宣起就伴随着质疑。6 月的官宣帖在 Hacker News 上聚集了 831 分、468 条评论；自称芯片公司 CEO 的用户 zgao 写道：「如果从 RTL 冻结算到流片，这对一颗大型复杂 3nm 芯片来说是相当典型、甚至不算亮眼的时间线；如果从概念（完全没有 RTL、只有架构框图）算到流片，那就是惊人的时间线。真相大概在两者之间。」
另一位用户 sharkjacobs 当时写道，这段表述「大概只是无意义的营销话术」，就像说开发过程「被 Microsoft Office 加速」一样。
OpenAI 在 Hot Chips 现场的说法是「从初始 RTL 到流片约 9 个月」（ServeTheHome 转述），与 6 月官宣稿「从初始设计到制造流片」的起点并不完全一致，zgao 点破的正是这个定义缝隙。检验「9 个月」叙事的节点在年底：按 OpenAI 的计划，Jalapeño 届时将进入自有算力部署。｜