中国移动研究院秦凤伟:大模型时代 智算网络性能评测面临四大挑战

C114讯 3月22日消息(赵婷婷)人工智能正处于快速发展阶段,其应用深入到各个行业和领域,将逐步改变着我们的生活和工作方式。智能时代,通信及网络重要性在不断提升,产品迭代速度明显加速,对数据、算力、网络持续演进提出了新的要求。

在日前思博伦举办的“创新驱动智能未来”的Spirent Day 2024峰会上,中国移动通信有限公司研究院项目经理秦凤伟在主题演讲中指出,智算中心具有明显的通信特征,随着AI技术的快速发展,推动算、网软硬件技术的快速选代升级。而在测试领域,制定普适统一的智算中心网络性能评测体系仍然面临四大挑战。

首先,节点规模方面,模拟GPU实际的计算、周期性通信,测试结果是否可以客观反映实际结果;以及仪表是否能支持千卡级、甚至万卡即模拟能力。

其次,性能指标方面,测试仪端口、规模是否能匹配网络的演进速度;能否有效反映如有效宽带、长尾时延等新指标。

再次,模型种类层面,不仅需考察基本的通信原语及其不同的实现方式,还要关注测试工具迭代速速能否匹配并支持各类大模型,以及针对不同模型能否形成统一的网络性能评价标准。

最后,定制化需求上,随着端网协同的趋势日益明显,需兼顾做网卡和网络;对于私有拥塞控制协议、传输协议等的定制优化,评估是否具备高度灵活的可编程能力和定制化功能显得尤为关键。

 


微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
  • 1、回复“YD5GAI”免费领取《中国移动:5G网络AI应用典型场景技术解决方案白皮书
  • 2、回复“5G6G”免费领取《5G_6G毫米波测试技术白皮书-2022_03-21
  • 3、回复“YD6G”免费领取《中国移动:6G至简无线接入网白皮书
  • 4、回复“LTBPS”免费领取《《中国联通5G终端白皮书》
  • 5、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书
  • 6、回复“TXSB”免费领取《通信设备安装工程施工工艺图解
  • 7、回复“YDSL”免费领取《中国移动算力并网白皮书
  • 8、回复“5GX3”免费领取《R1623501-g605G的系统架构1
  • 本周热点本月热点

     

      最热通信招聘

      最新招聘信息

    最新技术文章

    最新论坛贴子