AREX Viewpoint Article
Cerebras CTO Sean Lie：打破英伟达瓶颈的 AI 芯片
导读
2026年8月18日，Cerebras 正式发布新一代 CS-4，官方称其在单用户 tokens/秒上最高可达 GPU 方案的 30 倍，并采用模块化机架级架构面向超大规模部署。Sean Lie 在随后的对话中补充了一个更具冲击力的现场数据：Hot Chips 上 GPT-OSS 的推理速度超过 4,400 tokens/秒。这个数字把过去被认为很快的 100–200 tokens/秒，直接推入了“批处理模式”。
真正让这条产品新闻产生分量的，不是更大数字本身。Sean Lie 在 9 月 2 日的 Latent Space 对话里给出的判断是：当推理速度进入数千 tokens/秒量级，智能体可以在同样等待时间内执行更多 agentic loop 和推理步骤，速度直接转化为更聪明、能力更强的模型。这意味着 CS-4 所代表的提速，不是把等待感再缩短几秒，而是打开了此前不可行的实时应用和更深层推理。
这一判断已经落在现实产能安排上。2026 年 1 月，OpenAI 与 Cerebras 达成 750 兆瓦、价值超过 100 亿美元的多年协议；Sean 在对话中进一步透露，Cerebras 当前产能大量流向 OpenAI，后者把高速推理用于事故响应和关键研究。CS-4 的发布因此不是孤立的硬件迭代，而是这套超高速推理路线开始进入前线模型服务的节点。
Sean 还把视角从单颗芯片拉远到方法论：OpenAI 的 Jalapeño 芯片首次结果显示行业领先的速度和能效，他在对话中认为其真正的突破在于 AI 优先设计方法，可以更快完成芯片设计并取得显著性能提升，这“100% 是半导体行业的未来”。这个判断让本期视频不只提供 Cerebras 的立场，也给了读者一个评估下一轮芯片竞争的框架。
视频中更具体的分析集中在两个被低估的杠杆上。其一是模型硬件协同设计：现有模型大多针对某款 NVIDIA GPU 设计，Cerebras 在未做架构适配的情况下仍跑出 14 倍速度，Sean 认为一旦开始调整模型架构，机会“几乎无限”。其二是推理工作负载分解：prefill、decode、注意力计算、专家路由等子工作负载正在分化，数据中心将像设计一颗巨型芯片一样被异构规划。这些不是营销话术，而是可验证的技术判断。
对关注 AI 基础设施的读者来说，CS-4 发布只是时间点，Sean Lie 的对话把速度、产能、芯片设计方法和异构架构串成了一条完整线索。它回答的核心问题不是“哪颗芯片最快”，而是“速度如何转变为智能能力，以及这条路线能否在 NVIDIA 主导的生态之外持续走通”。这正是本期视频现在值得看的原因。
核心结论
- 超高速推理让速度从体验指标升级为智能能力本身：当推理速度达到数千tokens每秒时，智能体可以在同样时间内完成更多推理循环，直接提升推理深度和智能水平。速度因此不再是等待感的优化，而是解锁更强智能体能力的开关。
- Cerebras与OpenAI的合作正在构建一条区别于GPU的快速推理路线：Cerebras大量产能流向OpenAI，OpenAI将高速推理用于事故响应和关键研究，同时通过Jalapeño芯片展示AI优先设计方法。双方的合作已超越商业关系，进入共同设计阶段，未来CS5与Jalapeño结合将形成差异化组合。
- AI优先的芯片设计方法论比单颗芯片的性能突破更具行业意义：Jalapeño的真正价值不在于跑分超越GPU，而在于OpenAI用AI优先的方法重构了芯片设计流程，大幅缩短设计周期并取得显著性能提升。这代表了半导体行业从手工优化向AI驱动设计的范式转移。
- 推理工作负载的分解与异构化是数据中心演进的必然方向：推理正在分化为prefill、decode、注意力计算、专家路由等子工作负载，单一硬件架构难以在所有环节做到最优。在数百兆瓦到吉瓦级规模下，异构分解的收益远超成本，数据中心将像设计一颗芯片一样被整体规划。
- 模型与硬件的协同设计是被严重低估的巨大机会：现有前沿模型大多针对NVIDIA GPU架构设计，Cerebras在运行这些未优化模型时已获得14倍速度提升。只要对模型架构做轻微调整甚至深度软硬件协同设计，就能释放远超当前水平的性能潜力。
观点拆解
1. 100–200 tokens/秒正在变成新的“批处理模式”，超高速推理将重新定义实时AI体验
-
100–200 tokens/秒正从“快”滑向“批处理模式”，速度标准已被重新定义：Sean Lie 在节目开头和后半段两次强调同一个判断：过去被认为很快的 100–200 tokens/秒，如今正在迅速变成新的“批处理模式”。这意味着行业对推理速度的基准线已经整体上移，单纯完成 prompt 处理或高并行离线任务不再足以代表前沿体验。
“过去被认为很快的，比如 100 或 200 tokens/秒，正在迅速变成新的批处理模式。”
“过去被认为很快的，比如 100 或 200 tokens/秒，正在迅速变成新的批处理模式，对吧？它正在迅速变成新的“过夜”模式。”
-
数千 tokens/秒的推理让批处理和离线应用变成实时体验：Sean Lie 以 Hot Chips 上 GPT-OSS 跑到超过 4,400 tokens/秒的演示为例，说明当推理速度达到数千 tokens/秒时，用户等待感会消失，原本只能批处理或离线运行的应用可以转为实时交互。这直接支撑了“速度会催生新应用形态”的核心观点。
“我们在 Hot Chips 上展示的 GPT-OSS 运行速度超过 4,400 tokens/秒，这简直令人难以置信，几乎感觉像是假的。”
“用户体验开始变得截然不同，过去是批处理和离线的应用，开始变成实时应用。”
-
超高速推理让智能体可以完成更多推理循环，从而变得更聪明：Sean Lie 指出，当模型以超过 4,000 tokens/秒的速度运行时，智能体在同样的等待时间内可以执行更多 agentic loop 和推理步骤。这意味着速度不只是体验优化，而是直接提升智能体的能力和智能水平，是超高速推理带来的质变。
“如果你的模型运行速度超过 4,000 tokens/秒，你就可以做更多的智能体循环，做更多的推理，最终得到能力更强、更聪明的智能体。”
“真正让我兴奋的是，你可以开始做那些否则根本无法做到的事情，并开启全新的能力。”
2. 更快的推理不只是加速，而是通过更多推理循环直接提升智能体能力
-
超高速推理让智能体在同样时间内完成更多推理循环，从而直接提升智能水平：Sean Lie 以 Hot Chips 上 GPT-OSS 运行速度超过 4400 TPS 的演示为例，指出速度提升的核心价值不在于炫技式的大数字，而在于智能体可以在 agentic loop 中反复迭代更多次。更多循环意味着更多推理，最终带来显著更聪明、更有能力的智能体。
“如果模型以每秒超过 4000 个 token 的速度运行，你就可以做更多的智能体循环，做更多的推理，最终得到显著更有能力、更聪明的智能体。”
-
速度与智能之间形成飞轮：更快的推理被用来让模型本身变得更聪明：Sean Lie 将 Cerebras 与 OpenAI 的合作描述为一个持续加速的飞轮：不只是让模型跑得更快，而是用这种速度去提升模型智能。OpenAI 将大量高速推理容量用于自身的关键研究场景，额外的推理正在带来明显更聪明的响应。
“我们相信这将让我们能够继续这个飞轮：不只是让模型更快，而是利用这种速度让它们变得更聪明。”
“他们把它用在一些最关键的研究应用中，额外的推理正在带来显著更聪明的响应。”
-
速度是能力边界的开关：越快，能解锁的智能应用就越多：Sean Lie 从产品视角总结，速度提升会打开更多机会、应用场景和用例，带来更聪明的模型和智能体。他进一步指出，当速度超过今天所谓的“超高速”之后，还会出现今天无法想象的新能力，这正是 Cerebras 持续推动推理速度极限的原因。
“带来更多速度会打开重要的机会、应用、不同的用例、不同的能力、更聪明的模型、更聪明的智能体。你把它推得越远，你能解锁的就越多。”
“事实上，当你比我们今天所谓的超高速还要快的时候，你可能会构建出各种我们甚至无法想象的东西。”
3. Cerebras与OpenAI的合作正在形成“超高速推理+AI优先芯片设计”的复合优势
-
Cerebras当前产能大量流向OpenAI，合作已超越商业关系进入共同设计阶段：Sean明确表示，Cerebras正在战略性地部署每一兆瓦产能，其中相当大一部分流向OpenAI。OpenAI不仅是其最大客户，更因为双方存在“共同设计”的合作精神，使这一关系区别于普通商业合作。
“我们正在非常战略性地确保每一兆瓦产能都以最具战略性的方式部署，其中相当大一部分流向OpenAI。他们是我们最大的合作伙伴，不仅因为商业安排，更因为我们有这种共同设计的精神。”
“今天大量产能正在流向OpenAI，而OpenAI内部非常战略性地决定将其中相当一部分用于自身。”
-
OpenAI将超高速推理用于事故响应和关键研究，速度直接转化为智能与业务价值：Sean指出，OpenAI将Cerebras的超高速推理能力用于事故响应团队等对速度极度敏感的场景，以及需要额外推理循环的关键研究应用。这表明高速推理不只是性能指标，而是能够直接提升模型智能水平和实际业务响应能力的核心能力。
“他们将其用于许多真正关键、速度至关重要的场景。比如用于事故响应团队——当服务出现故障时，每一秒、每一分钟都至关重要。他们从中获得了巨大的价值。”
“他们将其用于一些最关键的研究应用，额外的推理能力正在带来显著更智能的响应。”
“我们正在以14倍于其正常GPU速度运行OpenAI最大、最强、最智能的模型。”
-
Jalapeño的AI优先设计方法被Sean视为行业未来，CS5与Jalapeño结合将形成差异化快速推理组合：Sean高度评价OpenAI的Jalapeño芯片，认为其采用AI优先的设计方法论，能够更快完成芯片设计并取得令人印象深刻的成果，这代表了半导体行业的未来方向。他进一步指出，当Jalapeño与Cerebras的下一代CS5在明年同时可用时，双方将共同构建一个与现有GPU方案截然不同的完整快速推理产品组合。
“他们非常明确地采取了截然不同的芯片构建方法。AI优先的方法论使他们能够更快地构建芯片并取得一些非常令人印象深刻的成果。这100%是我们行业的未来。”
“当Jalapeño明年可用、我们的下一代CS5同时可用时，我们将共同打造一个完整的快速推理产品组合，它与今天已有的方案截然不同且更优，而今天的方案本身已经与基准GPU截然不同。”
“我们也在与OpenAI密切合作，使用他们的工具来帮助我们继续推动芯片设计和软件方面的可能性。两者结合，我觉得这是一个真正不可战胜的组合。”
4. OpenAI的Jalapeño真正值得关注的不只是性能，而是AI优先的芯片设计方法论
-
Jalapeño的真正突破不在跑分，而在用AI优先方法重构芯片设计流程：Sean Lie认为，外界首先看到的是Jalapeño在吞吐和延迟上显著优于GPU，但更值得关注的是OpenAI采用了截然不同的AI优先设计方法。这种方法让芯片设计更快完成，并带来了显著的性能提升，代表的是行业方法论层面的变革，而非单纯的硬件性能竞赛。
“但在我看来，Jalapeño之所以如此令人兴奋，甚至不在于这些性能指标，而在于它背后的设计方法论。他们非常明确地采用了一种截然不同的芯片构建方式。AI优先的方法论让他们能够更快地完成芯片设计，并取得这些非常令人瞩目的成果。而这百分之百是我们行业的未来。”
-
OpenAI引领AI优先芯片设计并非偶然，而是其核心能力的自然延伸：Sean Lie指出，OpenAI在AI优先芯片设计上走在前面并不令人意外，因为这正是OpenAI最擅长的领域。这一判断将Jalapeño的意义从单一产品上升到对OpenAI战略能力的验证，说明AI公司正在把模型侧的能力迁移到芯片设计侧。
“看到OpenAI在这方面引领潮流并不令人惊讶，因为这正是他们非常擅长的领域。”
-
Jalapeño的AI优先设计对全行业是利好，而不只是OpenAI的竞争优势：Sean Lie强调，即使抛开Cerebras的立场，Jalapeño在吞吐和延迟上同时突破边界对整个行业都是好事。他认为这会带来水涨船高的效应，让所有参与者受益，说明AI优先芯片设计方法论的扩散可能推动整个半导体生态的升级。
“Jalapeño正在同时突破吞吐量和延迟的可能性边界。对我来说，即使我摘下Cerebras的帽子，我也认为这对整个行业来说都是好事。这会水涨船高，每个人都会受益。”
5. 推理正在分解为prefill、decode、attention、专家路由等子工作负载，未来数据中心将像一台巨型计算机一样异构设计
-
推理已不再是单一工作负载，而是包含多个子工作负载，需要为每个子任务匹配最合适的硬件：Cerebras认为，随着模型规模和部署规模扩大，推理内部已经分化出多种子工作负载，单一硬件架构难以在所有环节都做到最优。因此，异构和分解式生态不是权宜之计，而是让不同架构各司其职的必然方向。
“推理不再只是一个工作负载，其中包含许多许多种子工作负载。你真的想用正确的工具来解决问题，你真的想用正确的硬件来解决问题。”
“我们非常坚定地相信一个异构、分解式的生态系统，对吧？不只是prefill和decode的分解。”
-
推理可以进一步拆解为KV缓存加载、注意力计算和专家路由等更细粒度的硬件优化目标：在prefill和decode的粗粒度划分之下，Cerebras进一步指出推理过程中还存在加载KV缓存、执行注意力计算、在多个硬件间分配和平衡专家等子任务。这些环节各自有不同的计算和访存特征，因此可以被更定制化的硬件架构分别加速。
“最简单的划分是prefill和decode，但如果你再深入一层，就会看到这些阶段里实际发生了什么：加载KV缓存、执行注意力计算、把专家分散到不同硬件上并平衡它们。所有这些现在都可以用更定制化的硬件方案和架构来解决。”
-
在数百兆瓦到吉瓦级规模下，异构分解才真正划算，数据中心应像设计一颗芯片一样被整体规划：Cerebras指出，小规模部署中引入多种硬件并不经济，但当数据中心达到数百兆瓦甚至多吉瓦规模时，异构分解的收益会远超成本。此时，数据中心不再是一堆独立服务器，而应被视为一台巨型计算机、一颗需要整体设计的芯片，按需配置注意力、prefill等不同能力。
“在小规模下，把一堆不同硬件凑在一起解决一个问题并没有太大意义。但在我们讨论的数百兆瓦到吉瓦、多吉瓦规模下，它很容易就能收回成本。到那时，你就像是在把整个数据中心当作一台计算机来思考，就像在琢磨一颗芯片。”
“我想要这么多这种能力，这样我就能快速运行注意力；我想要这么多那种能力，这样我就能非常高效地运行prefill。能够把这些东西拼在一起，就像是计算机架构师的梦想，工具箱里有了所有这些工具。”
6. 当前模型大多为NVIDIA GPU设计，模型与硬件协同设计仍是被严重低估的巨大机会
-
现有模型大多为特定NVIDIA GPU架构设计，非NVIDIA路线仍背负着“架构错配”的隐性成本：Sean Lie指出，当前大家运行的模型通常不是泛化的，而是针对某一代NVIDIA GPU甚至某一具体系统设计的。这意味着Cerebras等替代架构虽然已经跑出14倍速度，但模型本身并未为这些架构优化，性能提升空间远未释放。
“我们都在运行为NVIDIA GPU设计的模型，而且通常不只是为NVIDIA GPU，而是为某一款特定的NVIDIA GPU设计的。”
“这个东西就是被设计来跑在B200、GB200、MBL72上的。”
-
14倍速度只是起点：轻微调整模型架构即可带来巨大收益，深度软硬件协同设计的空间几乎无限：Sean Lie强调，Cerebras展示的14倍速度提升是在运行一个为完全不同架构设计的模型时取得的。如果开始对模型架构做哪怕轻微调整，就能获得巨大收益；若进一步进行软硬件协同设计，机会几乎无限。这为Cerebras与客户深度合作提供了技术逻辑。
“我们展示的是，你已经能把模型跑得快14倍，但它还是一个为完全不同的架构设计的模型。”
“如果你开始打开调整模型架构的可能性，哪怕只是轻微调整，你就能获得巨大收益。而如果你开始做更多的协同设计，机会几乎是无限的。”
-
AI辅助内核代码生成是被低估的加速器，可能进一步降低软硬件协同设计的门槛：对话中主持人提出“人们严重低估了AI生成内核代码”的观点，Sean Lie明确表示完全认同。这暗示AI代码生成可能成为释放非NVIDIA架构潜力的关键工具，让针对特定硬件的优化变得更可行。
“人们真的严重低估了AI生成内核代码这件事。”
“是的，绝对如此。我对此深信不疑。”
7. Groq的SRAM路线在低延迟场景有价值，但在前沿规模模型上存在明显局限
-
SRAM设计成为主流值得肯定，但Groq的发布选择暴露了关键回避：Sean Lie认可SRAM架构正在被行业接受，但他指出Groq选择在30B参数模型上发布、以及未提及注意力与FFN分解，这两个问题在会议场外被广泛讨论，暗示Groq的路线在前沿规模模型上存在未回答的挑战。
“总的来说，我认为SRAM设计正在变得更加主流，这真的很棒。”
“场下讨论最多的一个自然且显而易见的问题是：他们为什么选择在一个300亿参数的模型上发布？还有，为什么当Jensen在GTC上花了那么多时间讨论注意力与FFN分解时，Groq却完全没有提到这一点？我觉得这很能说明问题。”
-
不同硬件架构各有适用场景，但推理正在分解为多种子工作负载：Sean Lie强调Cerebras坚定相信异构分解的生态系统，推理不再是一个单一工作负载，而是包含许多子工作负载。这意味着Groq的SRAM架构可能在低延迟场景有价值，但前沿规模模型需要针对不同子工作负载选择最合适的硬件。
“在Cerebras，我们非常坚定地相信一个异构的、分解的生态系统。不仅仅是预填充与解码的分解，我认为我们才刚刚触及这个领域可能性的起点。”
“随着这些部署和模型规模的扩大，推理不再只是一个工作负载。它内部包含许多许多种子工作负载。你真的需要为问题选择正确的工具，为问题选择正确的硬件。”
8. 中国开源模型与自主硬件生态正在形成独立体系，美国需要国家层面的持续投入才能保持领先
-
高质量开源模型几乎全部来自中国实验室，这既是全球社区的福音，也是美国的战略挑战：Sean Lie指出，当前开源模型市场几乎被中国实验室主导，高质量的大模型绝大多数来自中国。他认为分享本身对全球社区有益，但从战略角度看，这种依赖构成了一个需要正视的困难局面。
“开源模型市场几乎100%是中国主导的——好吧，差不多95%。大多数高质量的大模型都来自中国实验室。从某些方面来说，分享正在发生、全球社区正在受益，这很好；但显然，处于这样一个战略上非常具有挑战性的位置，是很困难的。”
-
中国正在后台独立建设支撑其模型的硬件基础设施，形成模型与芯片的自主生态：Sean Lie观察到，与开源模型的主导地位相伴随，中国正在后台逐步建立独立的硬件基础设施来支撑这些模型。这意味着中国不仅在模型层面领先开源生态，还在半导体层面构建自主能力，形成更完整的独立体系。
“另外，正如这件事所证明的，我们独立地看到，所有的硬件基础设施正在后台慢慢建设起来，以支撑所有这些中国模型。”
-
保持美国领先不是单一公司或晶圆厂能解决的，需要政府和国家利益层面的持续投入：Sean Lie认为，面对中国在模型和硬件上的双重推进，美国必须持续突破边界以保持竞争力。他明确表示，这不是一家公司或一家晶圆厂能解决的问题，而是需要政府层面、国家利益层面的系统性倡议来推动。
“我认为这绝对是一个全球性的问题，也是美国国家利益层面的问题：我们必须继续推动边界，继续竞争，继续保持领先。这不容易，这些人知道自己在做什么。但我相信，这不是靠一家公司或一家晶圆厂就能解决的，而是需要政府层面、国家利益层面的倡议才能实现。”
“我们绝对一直在推动这件事，并且非常支持任何能够延续美国在这一领域主导地位的倡议，百分之百支持。”
总结
这期对话最值得传播的判断是：推理速度的跃升正在改变AI能力的定义方式。当智能体可以在同样时间内完成更多推理循环，速度就不再是锦上添花的体验优化，而是直接决定模型聪明程度的能力边界。Cerebras与OpenAI的合作之所以值得关注，不仅因为产能和商业关系，更因为它同时押注了超高速推理和AI优先芯片设计两条路线，试图在NVIDIA主导的生态之外开辟一条从硬件到模型的完整替代路径。对于关注AI基础设施的人来说，真正需要跟踪的不是某一颗芯片的跑分，而是推理工作负载分解、模型硬件协同设计以及中美各自独立生态的演进速度。
信息源
视频来源
- The Inference Frontier: from 100 to 10,000 tokens per second — Sean Lie, Cerebras CTO：
外部资料
- Introducing Cerebras CS-4: The Fastest AI Gets Faster：
- Cerebras Unveils CS-4: Up to 30 Times Faster than GPU-based ...：
- OpenAI partners with Cerebras：
- OpenAI signs $10 billion computing deal with Nvidia ...：
- Jalapeño's first results show industry-leading speed and ...：