通信,拉近世界的距离!
您的位置:首页 >资讯 >5G\6G动态 >5G >查看资讯

AI替工程师干适配活:中兴ModelGenius实现大模型迁移1天拉通、性能提升数十倍

移动通信网 林知远

大模型以“月更”甚至“周更”节奏狂飙突进的当下,模型与算力之间的适配正在成为智算落地最深处的瓶颈。接入一款新模型,从来不是“下载权重、跑起来”这么简单,它意味着框架适配、精度对齐、性能调优的一整套复杂流程,传统方式下需要数周乃至数月的拉通与反复调试,背后是一支资深工程师团队的持续投入。不同硬件架构、不同软件栈、不同算子实现的差异,让迁移适配变成一场耗时耗力的“手工活”:一个人负责量化,一个人负责框架,一个人调算子,一个人做精度验证,一个人盯性能,模型一旦更新,所有工作推倒重来。中兴通讯对此给出的答案是ModelGenius——一个以AI智能体为核心、面向新模型全流程适配与性能优化的智能化平台。其核心思路并非把某个环节做成自动化脚本,而是让AI替人类追赶模型迭代,让整个模型迁移过程第一次具备“自我组织、自我执行、自我进化”的能力。从已披露的实战成绩看,该平台已完成多款热门大模型的端到端适配验证,覆盖主流国产GPU平台,Qwen3.5-27B仅用1天完成框架拉通与精度对齐,MiMo-V2.6-Flash-RL用时2天,Step-3.7-Flash用时3天。

【关键数据】

[1] Qwen3.5-27B模型适配仅用1天完成框架拉通与精度对齐

[2] 模型推理吞吐较初始手工配置基线提升数十倍

[3] MiMo-V2.6-Flash-RL适配用时2天,Step-3.7-Flash用时3天

[4] OEX超节点将数十至数百颗GPU整合为统一编址的协同计算系统

[5] DeepSeek-V4-Flash、GLM-5.2等模型一周内完成全流程交付


从技术架构看,ModelGenius采用“Agent Team Lead+专业Agent”的多智能体协同模式,顶层是任务编排与验收中枢,中层是六大专业Agent,底层由工具库MCP、技能库Skills和知识库三层支撑。系统接收到用户需求后,“总指挥”Agent Team Lead负责任务编排、并行分派、结果汇总、任务验收与知识闭环,将任务拆解下发给六大专业Agent:模型量化Agent负责量化策略分析、框架量化适配与精度性能验证;框架适配Agent负责框架升级、算子接入与服务拉通;框架优化Agent负责MTP、PD分离、投机推理、多级缓存等高级优化;算子开发优化Agent负责算子的设计、开发、优化与验证;运维调测Agent负责异常诊断、精度定位与性能分析;模型验收Agent负责精度验证、性能验证与验收报告。六大Agent各司其职又彼此协同,配合统一的任务编排、门控校验与异常自愈机制,形成“需求拆解→方案设计→并行执行→自动验收→复盘沉淀”的完整闭环,验收不通过即自动回滚重来,直到达标为止。这套架构本质上把一支顶级适配工程师团队装进了系统,工程师从“亲力亲为”转向“监督把关”,最终推理吞吐较初始手工配置基线提升数十倍。

ModelGenius的另一重价值在于与OEX超节点的软硬协同。OEX超节点通过开放的高速互联协议与交换芯片构建高带宽域(High-Bandwidth Domain),将数十至数百颗GPU在逻辑上整合为统一编址、低延迟、高带宽的协同计算系统。但硬件红利不会自动兑现,需要软件侧针对每个模型“量体裁衣”:并行策略如何切分、张量并行与专家并行怎样跨卡展开、KV Cache如何利用统一内存池化、通信与计算如何重叠、算子如何针对互联拓扑精准调优——这些过去依赖专家反复试错的调参空间,如今由多Agent在闭环中自动搜索、验证、回滚、再优化,逐轮逼近该模型在当前超节点上的最优配置。软硬协同带来的是双向收益:一方面,超节点的带宽与内存优势被充分释放,模型跑得更快更稳;另一方面,适配与调优成本被AI自动化大幅压缩,单位算力产出提升、部署周期缩短,最终体现为更优的TCO(总拥有成本)——不是靠堆更多芯片,而是让每一颗芯片、每一条链路都跑到最佳状态。当前AI算力格局“百花齐放”,每换一家芯片厂商,模型适配往往推倒重来,ModelGenius正通过基础算子库、融合算子库与跨平台适配知识库的构建,逐步沉淀一套持续演进、与芯片厂商深度协作的统一适配知识体系,并已支持vLLM、SGLang等主流推理框架。

从产业链视角看,ModelGenius解决的是国产算力生态中“软件栈碎片化”这一结构性痛点。过去两年大模型迭代不断提速,新架构、新参数规模、新推理特性层出不穷,“今天刚跑通一个版本,明天又来了一个新模型”成为常态,而适配专家人力有限、周期漫长,项目等不起,业务也等不起。传统适配流程的成本结构高度依赖资深工程师的工时投入——一个新模型适配一款新芯片往往对应数名高级别工程师数周的工作量,而ModelGenius通过多智能体自动化将这一成本压缩至1至3天内完成框架拉通与精度对齐,DeepSeek-V4-Flash、GLM-5.2等模型均在一周内完成从框架接入到性能调优的全流程交付。对上游芯片厂商而言,统一的算子库与适配知识体系意味着新芯片导入模型生态的门槛显著降低;对下游模型厂商与应用方而言,适配周期缩短直接加快了业务上线节奏,形成“芯片—框架—模型—应用”全链条的正向循环。

在商业化进展层面,ModelGenius已从纸面规划落地为“写满实战成绩的适配记录单”。其应用场景覆盖三类典型需求:一是新模型的快速接入,如Qwen3.5-27B这类热门开源模型的端到端适配验证,1天完成框架拉通与精度对齐的效率已远超人工团队;二是国产GPU平台的批量适配,覆盖主流国产GPU平台的多款模型验证,为国产算力替代提供了工程化路径;三是超节点场景下的性能压榨,通过针对高带宽、统一内存访问特性的自动化调优,把数十至数百颗GPU组成的协同计算系统跑出最佳性价比。更关键的能力在于自主进化:依托知识库与技能库的双闭环设计,ModelGenius在每一次适配任务结束后自动复盘,成功经验沉淀为可复用的Skill,失败教训清洗为错误知识,新算子登记入库,评测基线持续扩充。平台适配过的模型越多、积累的知识越厚,下一次适配的速度和成功率就越高——同一个平台,第一次适配是新手,第三次已是老手,这正是规模化自我改进(Recursive Self-Improvement,RSI)路径的工程化落地。

从行业趋势看,“AI赋能AI”正在从概念走向工程现实。ModelGenius的两层闭环设计勾勒出这一方向的完整图景:执行闭环覆盖“需求拆解→分派→执行→验证→反馈→沉淀”,验收不通过则定向重派、失败自愈、回滚基线;知识闭环覆盖“执行复盘→经验沉淀→算子库注册→基线扩充→Skill演进→下轮复用”。对于超节点场景,每一次针对互联拓扑与内存池化的调优经验都会沉淀为可复用技能与基线,让后续模型的自适应优化起点更高、收敛更快,且这种沉淀跨平台、跨框架持续发生。中兴通讯的这一布局,把国产算力生态中最稀缺的适配专家经验转化为可累积、可复用的平台资产,直接改写了智算落地的成本曲线:适配周期从数周数月压缩至数天,推理性能较手工基线提升数十倍,单位算力产出持续抬升。当模型迭代速度与适配速度之间的剪刀差被AI智能体抹平,智算基础设施规模化落地的最后一道瓶颈正在被打开,而这场围绕“让AI自己搞定适配AI的事”的竞赛,才刚刚开始。

微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
5G通信公众号
  • 1、回复“YD5GAI”免费领取《中国移动:5G网络AI应用典型场景技术解决方案白皮书》
  • 2、回复“5G6G”免费领取《5G_6G毫米波测试技术白皮书-2022_03-21》
  • 3、回复“YD6G”免费领取《中国移动:6G至简无线接入网白皮书》
  • 4、回复“LTBPS”免费领取《《中国联通5G终端白皮书》》
  • 5、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书》
  • 6、回复“TXSB”免费领取《通信设备安装工程施工工艺图解》
  • 7、回复“YDSL”免费领取《中国移动算力并网白皮书》
  • 8、回复“5GX3”免费领取《R1623501-g605G的系统架构1》
  • 本周热点本月热点
    通信人才网

    最热通信招聘

    更多