5G 招聘 词典 问答 论坛 登录/注册 联系我们 公众号5G通信公众号二维码
通信,拉近世界的距离!
您的位置:首页>快讯>正文

面壁智能发布MiniCPM-V 4.7端侧模型 支持3G内存运行

MSCBSC 快讯

10月中旬,面壁智能与OpenBMB社区发布开源端侧多模态模型MiniCPM-V 4.7,含35B-A3B与1B两个版本。该系列采用混合专家架构与前瞻专家调度技术,35B-A3B版本可在约3G内存的iOS及安卓设备上运行。手机存储通常分为用于存放文件与模型的闪存空间(如256G或512G)及用于计算的工作内存。经优化,该模型在iPhone 17 Pro Max上的生成速度提升至每秒13个token,最新2.0版本可达每秒30个token,精度损失可忽略。目前该系列已为三星Galaxy Z Fold8提供端侧能力,团队正与多家厂商推进测试合作。

要点速览

  • 面壁智能开源MiniCPM-V 4.7端侧多模态系列模型
  • 采用混合专家架构与前瞻专家调度技术提升推理效率
  • 最新版本在iPhone 17 Pro Max上生成速度达每秒30个token
  • 核心参数显示模型需3G内存 手机闪存通常为256G或512G
本文为移动通信网(MSCBSC)整理发布的行业快讯。