10月13日 ,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中,35B-A3B采用混合专家(MoE)架构 ,总参数规模达350亿,每次推理仅激活30亿参数 。
据公司介绍,该模型是首个能够在端侧无损流畅运行的开源MoE模型 ,仅需约3GB内存即可运行,在iPad Pro实测环境下,解码速度达到每秒15个token以上。

此次技术突破的核心 ,是面壁智能自主研发的前瞻专家调度技术(LES)。
传统MoE模型虽然能够通过按需激活专家模块降低计算量,但在手机等内存有限的设备上,频繁加载专家容易造成推理卡顿 。面壁智能通过LES技术提前预测后续计算所需的专家模块,在当前计算任务执行期间完成加载 ,使数据调度与模型计算同步推进,减少等待时间。据介绍,该技术近来 为业内独家开源方案。
在生态适配方面 ,MiniCPM-V 4.7发布当天即支持瑞芯微 、NVIDIA、Intel及Apple等主流芯片平台,兼容iOS、安卓和鸿蒙操作系统,并提供开源端侧适配代码及主流推理框架支持 。同步推出的1B版本则聚焦轻量化部署 ,进一步降低端侧AI应用的硬件门槛。
近年来,随着多模态模型能力持续提升,如何在有限算力和内存条件下实现高效推理 ,成为端侧AI规模化应用的关键。面壁智能此次通过模型架构与推理调度优化,为大参数规模模型进入移动终端提供了新的技术路径 。
截至近来 ,面壁智能介绍 ,公司联合OpenBMB开源社区发布的MiniCPM系列模型全球累计下载量已突破6000万次,覆盖文本 、视觉、语音等多种模态。此次新模型的发布,也将进一步拓展其在手机、平板及智能终端领域的应用空间。