AREX Feed Article
L&T 拿下印度最大单集群 AI 订单:10,000 张 B300 服务 Together AI
8 月 13 日,Larsen & Toubro(L&T)拿到一笔自己归类为「mega」级的订单:在 Vyoma.AI 位于 Chennai 的数据中心园区,为美国 AI 云公司 Together AI 部署 10,000 张 NVIDIA B300 GPU,组成一个单一互联集群。 指出,按 L&T 自己的订单分类标准,「mega」对应的正是 ₹10,000–15,000 crore 这一档,公司没有披露精确金额。按 以 8 月 13 日约 95.43 卢比兑 1 美元计算,这笔订单约合 10.5 亿至 15.7 亿美元。
L&T 把这笔订单称为印度迄今最大的单集群 AI 基础设施订单()。承建方是 L&T 的 AI 基础设施子公司 LTN Compute,隶属 Vyoma.AI(Moneycontrol)。公告当天上午,L&T 股价在 BSE 上涨 1.37%,报 ₹4,046.55。真正让这笔订单区别于此前印度数据中心公告的,是「单集群」三个字:10,000 张卡由共享的 NVLink 结构连成一个系统,而不是分散在各自独立网络里的 10,000 张卡。
一万张 GPU,连成一台机器
Tech Times 解释了这个差别的工程含义。NVIDIA 的 DGX B300 服务器在单块基板上集成 8 张 B300 SXM GPU,GPU 之间通过第五代 NVLink 互联,每张卡获得 1.8 TB/s 的双向带宽;机箱内的 NVSwitch 芯片提供全互联(all-to-all),任何两张卡之间都能以满带宽直连,不必绕道更慢的外部网络。
8 卡节点的总带宽为 14.4 TB/s,要凑够 10,000 张 B300,大约需要 1,250 台这样的节点。单集群意味着全部 10,000 张卡可以作为一个统一系统被寻址和调度。大模型训练里,所有 GPU 都要定期通过 all-reduce 操作同步梯度;集群越大,互联结构搬不动梯度,GPU 就越多时间在等待而不是计算,堆硬件带来的扩展效率随之坍塌。节点内的 NVLink 带宽比服务器之间的 InfiniBand 快几个数量级。
连成单集群的 10,000 张卡,因此能跑多节点微调和大规模训练任务;同样数量的卡分散部署就跑不了。Tech Times 拿此前的公告做对比:Meta 在 Gujarat 邦 Jamnagar 的 168 MW 园区,讲的是电力容量和通用算力;L&T 这次讲的是一套具体互联架构和它能支撑的工作负载。
L&T 对这套设施的官方表述是:把 hyperscale 数据中心基础设施、加速计算、高性能网络、超低延迟互联、高吞吐并行存储和 AI 基础设施运营组合在一起,服务 Together AI 的 AI 原生云平台,支撑大规模训练、推理和微调。
先解决 14 兆瓦的散热账单
Tech Times 列出的 B300 规格:单卡 288 GB HBM3e 显存、8 TB/s 显存带宽;8 卡节点合计 2.3 TB 高速显存,足以在单台服务器上以完整 16 位精度跑一个 4050 亿参数的模型(例如 Meta Llama 3.1 405B),不用切分到多节点。
Tech Times 援引 SemiAnalysis InferenceX 的公开可复现基准:在 DeepSeek R1 上,按每位用户 38 tokens/秒的时延目标,B300 单卡产出超过 4,000 tokens/秒,H100 是 276 tokens/秒,约 14 倍吞吐差距。
同一目标下,每百万 token 成本约 0.16 美元对 1.32 美元,差距超过 7 倍。代价是电:单张 B300 的热设计功耗(TDP)为 1,400 瓦,接近 H100(700 瓦)的两倍;10,000 张卡仅 GPU 部分就高达 14 MW,还没算服务器、网络和制冷的开销。这意味着必须上液冷,常规风冷机房撑不住这种密度。
Vyoma 的 Chennai 园区一期按 250 MW 设计,《Business Standard》报道其电力基础设施已就绪 150 MVA,为后续 AI factory 扩建留了余地。
Together AI 为什么把新集群放在 Chennai
买方 Together AI 不是通用云厂商。这家 2022 年成立于旧金山的公司做开放权重模型的推理和训练平台,通过兼容 OpenAI 接口的 API 提供 DeepSeek、MiniMax、Kimi、GLM 等模型,自己不做基础模型。Tech Times 称其平台每月处理 400 万亿 token,年内预订额(bookings)已超 11.5 亿美元。
Chennai 订单只是 Together AI 全球扩张的一环。就在 L&T 公告前两天,Together AI 与 IBM 披露了一份 2.4 亿美元的多年期协议,由 IBM Cloud 部署大批 HGX B300 系统服务其推理平台,预计 2027 年一季度可用。7 月 1 日,Together AI 完成 8 亿美元 C 轮融资,估值 83 亿美元,领投方是 Aramco Ventures,NVIDIA 参投。
Tech Times 列出 Chennai 成为落点的三个因素:印度《数字个人数据保护法》(DPDP Act)2023 年出台、实施细则 2025 年 11 月敲定,企业在本土处理印度用户数据能拿到实质性的合规便利;印度的电力、土地和基础设施成本明显低于欧美;印度开发者是全球 GitHub AI 项目第二大贡献来源。
Together AI 联合创始人兼 CEO Vipul Ved Prakash 在声明中表示,据《Economic Times》引述:"Making AI globally accessible is going to be the biggest infrastructure build-out in human history, and L&T understands that. That's exactly why we partnered with them — to bring the scale, resilience and engineering excellence this moment demands to India."《Business Standard》补充了他的履历:连续创业者,创业前在 Apple 担任高级总监,2022 年创立 Together AI。
LTN Compute 的首单,就是一万张 B300
执行这笔订单的是一个新设实体。Tech Times 报道,2026 年 6 月,Vyoma.AI(L&T 的数据中心和云服务子公司)新设全资实体 LTN Compute Private Limited,专门做 AI 算力基础设施的建设和运营。L&T 由此从「给数据中心盖楼」进入它自称的 AI Factory 业务:拥有、运营并变现 GPU 基础设施本身。
就在本周早些时候,L&T 又签协议把数据中心和云服务业务以 ₹1,400 crore 转让给 Vyoma.AI,把基础设施业务集中到这一载体下。L&T 与 NVIDIA 还有一份更广的合作,目标是全印度的千兆瓦级 AI 基础设施,包括把 Chennai 园区的 GPU 集群扩到 30 MW,以及在 Mumbai 新建一座 40 MW 设施。
Tech Times 称,Together AI 这笔合同是把这些计划变成硬件的第一个已签署的大单。L&T 董事长兼董事总经理 S N Subrahmanyan 在公告中表示,据《Economic Times》与《Business Standard》引述:"Artificial Intelligence is becoming foundational to every industry and AI Factories will power this transformation. Our deployment of an NVIDIA B300 AI Factory for Together AI marks a significant milestone in L&T's Gigawatt AI Infrastructure Mission and reinforces our commitment to making India a global hub for next-generation AI infrastructure."
Moneycontrol 和 Economic Times 均报道,LTN Compute 的目标客户是政府、企业、云厂商和 AI 公司,产品线包括 hyperscale AI 数据中心、主权云平台、GPU-as-a-Service 和托管 AI 平台。
私人订单对上公共算力账本
IndiaAI Mission 2024 年 3 月获内阁批准,五年预算 ₹10,371 crore(约 10.9 亿美元)。Tech Times 援引的进展是:截至 2026 年年中部署约 34,000 张 GPU,以约 ₹65/GPU-小时的价格补贴给初创公司、研究者和政府机构;官方目标是 2026 年 12 月前达到 100,000 张公共 GPU,加上私人部署,全国年底预计超过 200,000 张。
Tech Times 的测算把这 10,000 张 B300 折算为 IndiaAI Mission 迄今已部署规模(约 34,000 张 GPU)的约 29%。B300 也不能和 H100 一比一换算,单卡性能差距意味着这个集群对全国算力的实际贡献比卡数显示的更大。
Chennai 本身是印度第二大数据中心市场。按 Blackridge Research 的数据,该市占全国容量约 21%;Equinix 2025 年 9 月在 Chennai 开设数据中心时,明确提到城市靠近规划中的海底光缆登陆点。
Tech Times 列出的对照面是:微软和亚马逊合计承诺 525 亿美元投向印度 AI 与数字基础设施,Google 宣布 150 亿美元 AI 数据枢纽投资,OpenAI 与 Tata 集团合作锁定 1 GW 容量。这次订单的类别不同:一家专门服务开放权重模型推理的美国云厂商,把算力最密集的集群放到了美国之外,由一个印度运营实体来跑。
价格和上线日期,双方都没公布
Together AI 没有披露 Chennai 集群的定价方案,也没有给出面向客户的启用日期(Tech Times)。对于实时推理,Chennai 相比美国端点的延迟优势以数十毫秒计,对交互式、agentic 应用有实际意义,但基础设施目前仍在建设。
执行这笔订单的 LTN Compute,截至 2026 年 6 月还没有任何商业运营记录。Tech Times 指出,这家 6 月才设立的公司当时尚未开始商业运营,如今它成了印度最大单集群 AI 部署背后的运营实体。合同金额同样只有区间,L&T 没有给出确数;Tech Times 注明了文中所有美元换算均为约数,按 8 月 13 日汇率折算。