这几年大家聊起AI芯片，关注点几乎全在单颗芯片上。大家喜欢看工艺制程是几纳米，算力跑分有多高，能不能买得到。
对于华为来说，前几年大家最关心的是它能不能把算力芯片做出来、能不能稳定供货。当华为把芯片路线图摆在桌面上时，绝大多数人的注意力都被单颗芯片吸走了。
很少有人注意到，华为在推芯片的同时，还埋下了一条看似枯燥的技术线索，那就是芯片之间的互联技术。
华为徐直军前不久专门提到了这个细节。他说去年讲互联协议的时候，大家都去看芯片了，没人关注灵衢，但这恰恰是关键。
现在，新一代芯片和超节点相继面世，算力战场的底牌也随之揭开。大家开始意识到，单靠看一颗芯片算得有多快，已经无法解释接下来AI产业的发展逻辑了。
看清万卡集群背后的发呆与等待
当芯片数量从几颗增加到几万颗、几十万颗的时候，怎么让这几万颗芯片像同在一部电脑里一样高效协作，变成了摆在所有人面前的现实难题。
我们平时看新闻，很容易被几万张卡、几十万张卡的壮观数字吸引。
但在实际运行中，芯片数量容易看到，芯片之间的发呆和等待却很少有人能看到。
训练大模型不是单打独斗，它必须把庞大的任务拆分成成千上万个小块，分发给不同的芯片去算。每一颗芯片算完自己手里的活，必须立刻把结果传送给其他芯片，同时等待别人把结果传过来。拿到新数据之后，它才能接着算下一道题。
这就带来了一个很头疼的问题：一颗芯片算得再快，只要别人的数据还没送过来，它就只能干等着。
只要传输管道卡顿一下，或者某条线路出了小故障，整组芯片的计算都得停下来等待。
在很多数据中心里，企业花了天文数字买回来的计算能力，很大一部分都被白白浪费掉了。
芯片大部分时间不是在干活，而是在等数据、做协议转换。买到了满额的算力，实际用上的有效算力却大打折扣，中间隔着极高的沟通成本。
过去业界处理这个问题，思路是分层管理。芯片紧挨着的时候用总线连接，求的是传输极快；距离稍微远一点，就换成网络连接，求的是覆盖范围广。
这种做法看似合理，但在AI大模型时代碰到了硬伤。
因为数据要在近处的总线和远处的网络之间来回切换，每次切换都得进行复杂的语言翻译和手续报备。
芯片数量少的时候，这个转换成本还能接受。当成千上万颗芯片同时喊话时，
