通信,拉近世界的距离!
您的位置:首页 >资讯 >5G\6G动态 >5G >查看资讯

华为汪涛:4k-NPU超节点让10万卡集群MFU提升2.75倍

移动通信网 林知远

9月17日,华为全联接大会2026在上海开幕,华为副董事长、轮值董事长汪涛在主论坛上系统阐述了“为什么必须走超节点之路”的技术逻辑。当前全球万亿级参数的MoE大模型正处于快速迭代期,各家企业交替领先,10万卡规模的算力集群即将成为训练顶尖大模型的标准配置。然而算力堆叠并不等于有效算力的线性增长——一个10万卡集群的有效算力,远小于1.25万个8卡标准服务器有效算力的简单相加。核心症结在于模型浮点算力利用率(MFU)的提升是世界级难题。汪涛给出了一个直观的量化判断:MFU每提升一个百分点,模型迭代周期就可以提前约三天,在模型竞争以周为单位计算的时代,这一指标直接决定了训练效率竞争的胜负。

【关键数据】

[1] 4k-NPU超节点组成的10万卡集群MFU提升2.75倍

[2] 8卡服务器10万卡集群通信代价超过训练时间的40%

[3] 服务器间通信时延从百纳秒级增至几十微秒

[4] MFU每提升一个百分点,模型迭代提前约3天

[5] 围绕灵衢协议打造11颗关键芯片


从技术原理看,MoE模型的训练涉及数万乃至数十万颗芯片,每训练一层、每个计算过程都需要对齐中间结果,由此产生的通信次数高达数百亿次。华为的仿真数据显示,由8卡服务器组成的10万卡集群在训练过程中,芯片间通信代价超过全部训练时间的40%,这意味着近半时间消耗在数据搬运而非计算本身。更深层的问题在于传统计算架构的物理瓶颈:服务器之间相比服务器内部,通信时延会出现数量级的跃升,一次通信从百纳秒级恶化到几十微秒。华为超节点的设计理念由此展开:以一套协议平等连接超节点内所有组件,支持跨物理服务器的统一内存编址,并采用光互联方式,使数万颗芯片之间的通信获得近乎线性的带宽与时延表现,让整个超节点像一台计算机一样工作。

仿真结果给出了超节点架构的量化收益:在相同集群规模下,由4k-NPU规模超节点组成的10万卡集群,相比由8卡服务器组成的10万卡集群,MFU提升了2.75倍。超节点规模越大,MFU饱和曲线的收益越明显,这也为“超节点是建设超大规模AI基础设施必然选择”的结论提供了直接依据。从竞争格局看,这一路线选择与业界形成分化:英伟达力推以NVLink为核心的单机柜超大规模GPU互联,谷歌依托TPU集群的自有互联体系,华为则以开放协议的方式构建自身生态。去年全联接大会上,华为全面开放了灵衢(UnifiedBus)协议技术规范,试图以标准化协议吸引更多厂商参与,这与封闭式专有互联形成了鲜明的路线对比,也直接影响未来AI基础设施市场的竞争话语权分布。

在产业链层面,华为围绕灵衢协议打造了覆盖计算、互联、存储、管理四个层面的11颗关键芯片,形成了国内罕见的完整AI基础设施芯片矩阵。其中承担核心计算的包括鲲鹏CPU与昇腾NPU,互联层面则细分为三个方向:Scale-out平面的大容量交换芯片负责集群横向扩展,Scale-up平面的低时延交换芯片负责超节点内部纵向互联,高速光互联芯片则支撑跨物理服务器的光链路。特别值得关注的是面向AI KV缓存专门打造的Smart Storage Unit,用于实现平等一跳直达的缓存系统,这针对的是大模型推理和训练中KV Cache读写瓶颈这一高成本环节。这套芯片组合构成了华为更具竞争力的超节点和集群的底层底座,也意味着从协议、芯片到整机的全栈垂直整合能力,成为成本结构与供应自主性的关键变量。

从商业化进展看,超节点方案的应用场景直指头部大模型训练需求。10万卡集群正在成为训练万亿参数级MoE模型的门槛配置,而通信占比超过40%的效率损耗,意味着客户投入巨额资本开支却无法获得对等的有效算力回报。以MFU提升2.75倍计算,同等硬件投资下模型的迭代速度和训练吞吐量将获得倍数级改善,对以天数计算竞争优势的大模型厂商而言,直接转化为模型上市时间与训练电力成本的节约。灵衢协议的开放策略也为产业链上下游提供了参与路径:服务器厂商、交换设备商和云服务商可以基于开放规范接入超节点生态,降低单一供应商依赖。这种开放策略与华为在计算产业一贯的“硬件开放、软件开源、使能伙伴”打法一脉相承。

从行业动向看,大模型参数规模正从万亿级向10T级迈进,汪涛明确表示大模型将迈向10T级参数规模,超节点是必然选择。这一判断背后的技术现实是:参数规模每上一个台阶,对芯片间协同通信的要求就指数级上升,传统以8卡服务器为基本单元的组网方式在时延和带宽上的天花板已经显现。华为押注超节点路线,等于在AI基础设施架构层面与时间赛跑——4k-NPU规模超节点的仿真收益已经验证,下一步的关键在于更大规模超节点的工程落地与实际集群中的MFU表现能否复现仿真数据。同时,11颗自研芯片的量产节奏、灵衢协议生态伙伴的接入进度,将决定华为超节点方案在2026年至2027年AI算力建设高峰期能否切下足够的市场份额。MFU每提升一个百分点、模型迭代提前约三天的算术,将持续主导整个AI基础设施市场的技术路线之争。

微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
5G通信公众号
  • 1、回复“YD5GAI”免费领取《中国移动:5G网络AI应用典型场景技术解决方案白皮书》
  • 2、回复“5G6G”免费领取《5G_6G毫米波测试技术白皮书-2022_03-21》
  • 3、回复“YD6G”免费领取《中国移动:6G至简无线接入网白皮书》
  • 4、回复“LTBPS”免费领取《《中国联通5G终端白皮书》》
  • 5、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书》
  • 6、回复“TXSB”免费领取《通信设备安装工程施工工艺图解》
  • 7、回复“YDSL”免费领取《中国移动算力并网白皮书》
  • 8、回复“5GX3”免费领取《R1623501-g605G的系统架构1》
  • 本周热点本月热点
    通信人才网

    最热通信招聘

    更多