IBM 与 Together AI 签下 2.4 亿美元长约，要把开源模型推理跑在 IBM Cloud 上

8 月 11 日，IBM 与 AI 基础设施公司 Together AI 宣布签署了一份价值 2.4 亿美元的多年协议。根据，IBM 将在 IBM Cloud 上部署一个基于 NVIDIA HGX B300 系统的大规模推理集群，预计 2027 年第一季度上线。Together AI 将使用该集群为开源模型提供推理服务。IBM 称这是 IBM Cloud 上首个专用于推理的大规模集群。消息公布当日，。

每月 400 万亿 token 的推理巨头，一年增长 13,000 倍

Together AI 的增长曲线说明了为什么它需要签下这么大一笔 GPU 长约。这家 2022 年成立于旧金山的公司，目前每月处理超过 400 万亿 token 的推理请求。一年前，这个数字是 300 亿——，日 token 处理量也从约 10 亿膨胀到超过 1 万亿。

与之匹配的是融资节奏。Together AI 近期完成了 8 亿美元 Series C 轮融资，估值达到 83 亿美元。据 CryptoBriefing（经 KuCoin 转载），公司在 2026 年初已触及约 10 亿美元的年化收入。

它的商业模式本质上是"算力转售"：从云厂商或新云（neocloud）租用 GPU，再通过兼容 OpenAI API 的推理端点提供给开发者和企业客户。

但 token 量涨了 13,000 倍，自有数据中心的建设速度跟不上。Together AI 近期已在马里兰、孟菲斯和瑞典等地部署自有 GPU 算力，同时也在 Vector Core Compute 的推理云上运行异构平台（SambaNova + Intel + NVIDIA）。即便如此，它仍然需要更多容量，而且需要得快。

三份官方声明，同一个没说出口的动机

IBM 新闻稿附了三段高管引语，措辞标准但各有侧重。

Together AI CEO Vipul Ved Prakash 说："企业想要前沿模型的性能，不要封闭模型的价格标签，这只有在底层基础设施足够快、足够可靠的前提下才成立。"（"Enterprises want the performance of the best frontier models without the closed-model price tag, and that only works if the infrastructure underneath is fast and reliable at scale."）他把这次合作定位为 Together AI 向企业市场扩张的关键一步。

IBM Cloud 总经理 Alan Peacock 强调的是 IBM 与 NVIDIA 共同交付的能力："可扩展、经济、企业级的 AI 基础设施"。

NVIDIA 数据中心 HPC 与 AI 基础设施解决方案高级总监 Dion Harris 则用了一个比喻："AI 工厂正在变成像电力和电信一样的基础设施，把算力和数据转化为智能。"

三段话都没提一个关键问题：Together AI 为什么选 IBM Cloud，而不是 AWS、Google Cloud 或 Microsoft Azure？

给出了直白的翻译："Together AI 选了 IBM，因为 Big Blue 有它需要时能交付的 GPU 容量。"

IBM 新闻稿原文也承认了这一点。Together AI 选择 IBM 的依据是"产品路线图的创新性，以及以 AI 规模化所需的速度交付 GPU 容量的能力"。

B300 不是 NVIDIA 最新旗舰，但它现在就能交付

HGX B300 系统搭载的是 NVIDIA Blackwell Ultra GPU，于 2025 年初发布。到 2027 年第一季度集群上线时，这套硬件已经面世近两年。相比之下，NVIDIA 正在将更强大的 Vera Rubin 平台推向市场。Jensen Huang 在各种场合展示的 72-GPU 机柜系统，性能远超上一代 HGX 设计。

但 B300 有一个关键优势：，它可以部署在传统风冷数据中心里——不像 72-GPU 机柜系统那样需要专门的散热改造。每个 HGX B300 节点是一个 8-GPU 的 14-15 kW 机箱，通过 NVLink 实现箱内互联，节点之间走 Spectrum-X 以太网。

Together AI 也不挑硬件。The Register 指出，这家公司已经在 SambaNova 与 Intel 合作的异构计算平台上跑推理，之前还成为 Vector Core Compute 新推理云的第一个商业客户。

它的核心价值主张不是"用最好的 GPU"，而是"让开发者以最低的 token 成本调用开源模型"。底层跑什么硬件，只要性价比对，都行。

推理支出首次超过训练，算力竞赛换了赛道

Gartner 本周发布的预测数据，为这笔交易提供了行业注脚：，2027 年升至 660 亿美元。其中推理支出（233 亿美元）将在 2026 年首次超过训练支出（190 亿美元），占比达到 55%，2027 年进一步升至 59%。

Gartner 高级首席研究分析师 Hardeep Singh 的解释是："随着组织从模型开发转向生产级部署，微调模型和领域专用模型越来越多地嵌入面向客户和运营的系统，需要持续的实时执行，而非周期性训练。"

这个趋势解释了为什么 Together AI 愿意签下 2.4 亿美元长约。它的客户正在从"试用模型"转向"把模型跑在生产环境里"，token 消耗持续增长，产能锁定比硬件代际更重要。

IBM 也在同步推进。今年 3 月，IBM ，将 Blackwell Ultra GPU 引入 IBM Cloud 用于大规模训练和推理。更早之前，IBM 还宣布了与 Red Hat 共同投入 50 亿美元的计划，旨在用 AI 工具加固开源软件供应链。Together AI 这笔订单，证明 IBM 的 AI 基础设施已经不只是能力展示：它有真正的付费客户了。

IBM 拿到了标杆客户，Together AI 拿到了产能，NVIDIA 什么都有

这笔 2.4 亿美元交易是三方博弈的结果，每一方的动机都不同。

对 Together AI 而言，它需要在三大公有云之外建立第二供应源。AWS、Azure、GCP 既是基础设施供应商，也是 AI 服务的竞争对手，它们各自在推自己的模型和推理产品。把全部产能押在一家云厂商上是危险的，IBM Cloud 在推理服务领域不构成直接竞争，是一个相对安全的产能池。

对 IBM 而言，Together AI 是它在 AI 推理基础设施市场的第一个大规模标杆客户。，但在金融、政府和医疗等受监管行业有深厚客户关系。如果这个集群能跑通，IBM 可以拿着 Together AI 的案例去说服同一批企业客户：开源模型推理可以跑在 IBM Cloud 上，而且 token 成本更有竞争力。

对 NVIDIA 而言，无论谁赢，它的 GPU 和 Spectrum-X 网络设备都会出现在数据中心里。这笔交易进一步巩固了 NVIDIA 在 AI 基础设施中的位置。即使云厂商在自研芯片，服务商推行多供应商策略，NVIDIA 仍然是部署大规模推理集群时的默认选择。

Together AI 愿意把 2.4 亿美元砸在 IBM Cloud 而非三大云厂商，本身就是一个信号：当 AI 推理需求爆炸时，谁能交付 GPU 容量，谁就有定价权——品牌、生态、甚至硬件代际，都要往后排。