中兴通讯首创OEX超节点架构,Token成本最高可降99%

移动通信网 林知远

9月21日,由北京市通信与互联网协会主办、工信智媒体中心协办的2026(第二十三届)北京互联网大会在京召开。中兴通讯CCN产品线国内MKT副总经理、规划总工冯建业在会上发表《开放协同,共赢Token经济时代》主题演讲,系统阐述了算力评价体系从单芯片硬件参数向端到端Token吞吐性能的根本性转变。自ChatGPT推出以来,行业对算力的关注点经历了三个阶段演变:早期聚焦芯片本身的峰值性能;训练与推理业务爆发后,算子适配、实际训练性能成为焦点;而进入Token经济阶段后,显卡数量等硬件指标不再是核心标尺,端到端Token吞吐效能成为衡量算力价值的唯一关键,最终目标是实现算力资源的最优TCO(总拥有成本),支撑AI应用规模化落地。冯建业提出Token经济下算力体系三大关键指标——每秒Tokens总吞吐量、单用户Tokens吞吐、每瓦产出Token数量,三者相互制约,构成本次演讲的核心分析框架。

【关键数据】

[1] 上下文压缩等软件优化可降低Token成本90%至99%

[2] 外置存储承载KVCache可将缓存成本降至原有水平的1/10至1/100

[3] 算力评价三大核心指标:每秒Tokens总吞吐量、单用户Tokens吞吐、每瓦产出Token数量

[4] 演讲于9月21日2026(第二十三届)北京互联网大会发布

[5] 开放解耦算力理念已在运营商、头部互联网、电力等多行业落地商用


在技术原理层面,三大指标的平衡逻辑构成算力设计的核心难题。冯建业指出,算力池总吞吐量高并不代表单用户体验好,提升单用户吞吐往往会牺牲整体总吞吐;同时算力建设不能只看算力输出,功耗约束至关重要,芯片功率、整机功耗、散热方案必须统筹优化,才能产出低成本Token服务。算力需求的多元化特征也愈发凸显:智能体驱动下任务类型日趋复杂,场景需要大模型、超大模型与轻量化小模型协同工作,而不同模型对硬件适配差异巨大,同一模型在不同芯片上的优化效果差距明显。芯片架构同样呈现多元态势,CPU、网络芯片、机内和机间互连芯片、各类加速芯片共同构成算力底座。对此,中兴通讯的解法是全栈开放与极致协同,首创OEX正交无背板互联超节点架构,可兼容主流GPU芯片,通过超节点架构将异构芯片整合进统一算力体系,该架构已连续斩获行业重磅奖项。

在成本结构方面,中兴通讯披露的两项数据揭示了全栈优化的空间。存储侧,依托外置存储承载KVCache,可将缓存成本降至原有水平的1/10甚至1/100,大幅缓解长上下文推理场景下显存资源紧张的行业痛点。软件侧的优化价值甚至超过硬件本身:通过算子优化、模型适配、智能体调度、上下文压缩等软件工程手段,能够大幅减少Token消耗,部分场景下可降低90%乃至99%的Token成本,但这需要大规模工程化投入作为支撑。设备层面,算力正向高密度服务器演进,单机GPU卡数量持续提升以拉高整体算力效能;高密度部署同时倒逼机房在液冷、承重等基础设施方面升级。从产业链视角看,这一开放解耦架构意味着上游多厂商GPU芯片可通过统一互连进入同一算力资源池,算力采购方不再被单一芯片路线锁定,下游运营商、互联网企业则可根据模型负载灵活选型,重塑了从芯片到整机、网络、存储、软件全链条的价值分配。

商业化进展方面,冯建业介绍,这套开放解耦的算力理念已经在运营商、头部互联网企业、电力等多个行业落地商用。从应用场景看,大模型与超大模型负责复杂推理任务,轻量化小模型承接高频调用,KVCache外置存储方案针对长上下文对话与智能体多轮交互场景,上下文压缩技术则直接降低智能体应用的运行成本。对运营商而言,三大指标体系为智算中心建设提供了可量化的验收标准;对电力等行业而言,每瓦产出Token数量指标契合高电价区域的选址决策。冯建业表示,中兴通讯将持续联合产业伙伴,共建开放多元生态,持续优化Token整体TCO,赋能人工智能产业高质量发展。

从行业趋势看,本次演讲折射出国产算力阵营竞争重心的迁移。当单芯片制程受限成为现实约束,竞争焦点已从对标GPU峰值算力转向系统级Token吞吐效率与全栈TCO,超节点架构正成为服务器厂商与设备商的共性选择,华为CloudMatrix、浪潮信息超节点方案与中兴OEX架构在同一赛道竞速。差异化在于开放程度:OEX架构强调兼容主流GPU芯片、支持多型号多厂商灵活选型,以解耦路线争取非绑定客户。Token经济评价体系一旦被行业广泛采纳,将直接影响智算中心的采购标准、PUE考核与电价敏感度,算力市场的定价单位也可能从“卡时”逐步转向“Token吞吐单位”。冯建业最后强调,开放的算力生态需要芯片、设备、网络、软件多方共建,中兴通讯将持续投入工程化能力,在Token成本每降一个数量级的路径上与产业伙伴协同推进。


微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
  • 1、回复“YD5GAI”免费领取《中国移动:5G网络AI应用典型场景技术解决方案白皮书》
  • 2、回复“5G6G”免费领取《5G_6G毫米波测试技术白皮书-2022_03-21》
  • 3、回复“YD6G”免费领取《中国移动:6G至简无线接入网白皮书》
  • 4、回复“LTBPS”免费领取《《中国联通5G终端白皮书》》
  • 5、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书》
  • 6、回复“TXSB”免费领取《通信设备安装工程施工工艺图解》
  • 7、回复“YDSL”免费领取《中国移动算力并网白皮书》
  • 8、回复“5GX3”免费领取《R1623501-g605G的系统架构1》
  • 本周热点本月热点

     

      最热通信招聘

      最新招聘信息

    最新技术文章

    最新论坛贴子