AI算力正在遇到一个不容易被单卡性能解释的问题:
芯片越多,集群越大,算力却不一定等比例增长。
大模型训练和推理,并不是把GPU简单堆起来就能完成。
参数、激活值、梯度、专家模型之间的通信,会不断穿过服务器、交换机和网络。规模一旦扩大,等待数据传输的时间,就会吃掉越来越多计算效率。
这也是“超节点”突然成为AI基础设施关键词的原因。
它不是一台更大的服务器,也不是传统意义上的数据中心集群,而是试图把几十、几百甚至上千颗AI芯片,通过高速互联组织成一个逻辑上的大计算单元。
从这个角度看,超节点的核心矛盾并不只是“算力够不够”,而是:
芯片之间能不能像一颗芯片内部那样协同。
这条产业链的价值,也由此从AI芯片本身,扩散到交换芯片、PCB、铜连接、光模块、液冷、电源、整机、网络设备和智算中心运营。
华为昇腾950超节点的出现,则把这个趋势推到了更具体的位置:
国产算力在单卡性能、供给稳定性和成本压力之下,正在用系统工程能力重构竞争方式。

超节点是什么

超节点,本质上是AI算力的一种系统级组织方式。
它通过超高速互联,把多颗AI芯片紧密连接起来,让它们在逻辑上更接近一个统一计算体,而不是一批分散工作的服务器。
传统AI集群,更像是多台服务器通过网络协作。
超节点则强调在一个机柜、多个机柜,甚至更大物理范围内,把GPU、NPU、CPU、内存和互联网络做成高带宽、低延迟的整体。
它解决的不是“有没有更多芯片”,而是:
芯片之间交换数据的成本有多高。
在大模型场景中,这一点越来越关键。
尤其是MoE混合专家模型、万亿参数模型和大规模推理服务,会产生大量跨芯片、跨节点通信。
如果通信延迟过高,GPU会频繁等待。
集群规模越大,浪费越明显。
所以,超节点的价值在于:
把算力堆叠,从“数量扩张”推进到“协同效率提升”。
Scale Up与Scale Out
理解超节点,要先区分两种扩展方式:
Scale Up和Scale Out。
Scale Out,是向外扩展。
做法是增加更多服务器节点,通过以太网、InfiniBand等网络连接,让任务分布到更多机器上完成。
它适合大规模部署,扩展能力强,但通信路径较长,延迟和网络拥塞会成为瓶颈。
Scale Up,是向上扩展。
做法是在一个节点或一个紧耦合系统内部,增加更多处理器、内存和高速互联,让各组件之间协作得更紧密。
它追求的是更低延迟和更高带宽。
超节点可以看成Scale Up在AI时代的放大版本。
过去Scale Up受限于单台服务器的空间、功耗和散热,通常只能做到8卡或12卡。
超节点则把物理边界从单机推进到整机柜、多个机柜,通过NVLink、CXL、全光互联等技术,把更多芯片纳入一个统一协同体系。
因此,超节点并不是否定Scale Out。
更准确地说,它是:
内部强Scale Up,外部再Scale Out。
先把几十、几百乃至上千张卡做成高效率计算单元,再用这些单元组成更大规模集群。
这也是AI基础设施从传统集群走向超节点的关键变化。
从单卡到多柜级联

AI基础设施的发展,有一条很清晰的路径。
最早,算力竞争主要体现在单卡性能。
谁的GPU或AI芯片更强,谁就拥有更直接的优势。
随后,模型规模快速增长,单卡已经无法满足训练和推理需求。
服务器开始走向多卡化,8卡服务器成为主流形态之一。
再往后,单台服务器的边界也被突破。
机柜级方案开始出现,多台服务器通过高速互联被组织成更大的计算节点。
英伟达NVL72这类产品,就是典型代表:
把72张卡在机柜内紧密耦合,提高整体训练和推理效率。
现在,超节点继续往前走。
它从整机柜一体化,走向分机柜标准化,再走向多柜级联。
规模可以从几十卡、几百卡,扩展到1024卡、8192卡,甚至更大集群。
这背后的推动因素有两个。
一是模型本身变复杂。
MoE模型会带来高频All-to-All通信,专家之间需要大量交换数据。
传统Scale Out集群中,跨服务器通信会明显拖累效率。
二是算力供给变得不稳定。
在高端GPU供应存在不确定性的背景下,国产算力更需要通过系统级协同弥补单卡差距。
这也是国内厂商押注超节点的重要原因。
单卡不一定单挑取胜。
但如果互联、工程、散热、供电和软件调度能力足够强,





