中国电信韦乐平:以网补算 提升闲散智算中心算力资源利用率

4 月 23 日,在“2025 云网智联大会”上,SNAI 推委会荣誉主席、原中国电信科技委主任韦乐平发表了“大模型驱动下智算网的发展趋势”主题演讲。他指出,当前国内智算中心数量已超 280 个,但 GPU 利用率不均衡,平均不到 30%。同时,机内总线带宽与机间网络带宽不匹配,机间网络带宽太窄,算效不高。此外,机内总线架构的开放性、兼容性和扩展性也不理想,缺乏可盈利的商业模式。

韦乐平表示,生成式人工智能的联网技术主要包括以太网、IB(InfiniBand)、芯片光互连、PCIe、CXL(计算机快速链路)、OCS(光纤交换)等。以太网是世界上规模最大的低成本联网技术,但其传统形态和协议已经不能满足大集群联网的苛刻性能需求。目前有三个改进方向:RoCE 是一种基于以太网的 RDMA,允许直接访问远程节点内存,减小了数据传递时延,降低了 CPU 的使用率,适合 GenAI 应用的需求;无损以太网在现有以太网基础上进一步采用先进的流控、改进拥塞处理、优化哈希算法等新技术,性能大为改进,但是长尾时延仍偏高(5-10us),赶不上 IB(1us),适合不高于 2000GPU 互连场景;超级以太网联盟(UEC)从物理层、链路层、传输层和软件层全面改进以太网,具有优异的负荷均衡、更好的网络利用率和更短的时延,满足 GenAI 和 HPC 所需,同时保留以太网生态系统的优势,期望性价比全面赶超 IB。预计 2026 年起量。

IB 是一种用于高性能计算的计算机网络,具备高宽带、高扩展、高可靠、无阻塞、超低时延(1us)的特点。但其需要采用专用硬件 IB 交换机和 IB 网卡,成本较高,扩展性受限,产业生态较弱,过于封闭,由英伟达独家控制。最适用高性能计算和高质量大模型训练场景。

此外,芯片光互连技术还不成熟,标准缺失,预计最快 2026 年有产品;PCIe 是一种计算机串行扩展总线技术。2025 年计划发布 PCIe7.0 版本,期望进一步提升至 128GT/S 能力;CXL 是一种架构在 PCIe 串行总线上的新接口协议和高速互联技术,长期看,CXL 将导致现有服务器架构的解构,将处理、内存分别纳入不同物理模块,使能资源的查询和共享,适应大集群的训练需要和高性能计算的需要;OCS 是一种以光纤通道为交换颗粒的大容量交换,近中期主要替代 AIDC 中的 Spine 层的电交换机,长期会进一步向外扩展。

韦乐平还提到了大模型训练智算拉远的思考。市场需求层面,以网补算,提升闲散智算中心算力资源利用率。

微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
  • 1、回复“YD5GAI”免费领取《中国移动:5G网络AI应用典型场景技术解决方案白皮书》
  • 2、回复“5G6G”免费领取《5G_6G毫米波测试技术白皮书-2022_03-21》
  • 3、回复“YD6G”免费领取《中国移动:6G至简无线接入网白皮书》
  • 4、回复“LTBPS”免费领取《《中国联通5G终端白皮书》》
  • 5、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书》
  • 6、回复“TXSB”免费领取《通信设备安装工程施工工艺图解》
  • 7、回复“YDSL”免费领取《中国移动算力并网白皮书》
  • 8、回复“5GX3”免费领取《R1623501-g605G的系统架构1》
  • 本周热点本月热点

     

      最热通信招聘

      最新招聘信息

    最新技术文章

    最新论坛贴子