面壁智能发布新一代MiniCPM-V 4.7:35B开源大模型实现端侧流畅运行

  10月13日 ,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7,包含35B-A3B与1B两个版本。其中,35B-A3B采用混合专家(MoE)架构 ,总参数规模达350亿,每次推理仅激活30亿参数 。

  据公司介绍,该模型是首个能够在端侧无损流畅运行的开源MoE模型 ,仅需约3GB内存即可运行,在iPad Pro实测环境下,解码速度达到每秒15个token以上。

面壁智能发布新一代MiniCPM-V 4.7:35B开源大模型实现端侧流畅运行

  此次技术突破的核心 ,是面壁智能自主研发的前瞻专家调度技术(LES)。

  传统MoE模型虽然能够通过按需激活专家模块降低计算量 ,但在手机等内存有限的设备上,频繁加载专家容易造成推理卡顿 。面壁智能通过LES技术提前预测后续计算所需的专家模块,在当前计算任务执行期间完成加载 ,使数据调度与模型计算同步推进,减少等待时间。据介绍,该技术近来 为业内独家开源方案。

  在生态适配方面 ,MiniCPM-V 4.7发布当天即支持瑞芯微 、NVIDIA、Intel及Apple等主流芯片平台,兼容iOS、安卓和鸿蒙操作系统,并提供开源端侧适配代码及主流推理框架支持 。同步推出的1B版本则聚焦轻量化部署 ,进一步降低端侧AI应用的硬件门槛。

  近年来,随着多模态模型能力持续提升,如何在有限算力和内存条件下实现高效推理 ,成为端侧AI规模化应用的关键。面壁智能此次通过模型架构与推理调度优化,为大参数规模模型进入移动终端提供了新的技术路径 。

  截至近来 ,面壁智能介绍 ,公司联合OpenBMB开源社区发布的MiniCPM系列模型全球累计下载量已突破6000万次 ,覆盖文本 、视觉、语音等多种模态 。此次新模型的发布,也将进一步拓展其在手机、平板及智能终端领域的应用空间。

文章推荐

  • 2024清明节放假时间表(2026清明节放假日期)

      10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V4.7,包含35B-A3B与1B两个版本。其中,35B-A3B采用混合专家(MoE)架构,总参数规模达350亿,每次推理仅激活30亿参数。  据公司介绍,该模型是首个能够在端侧无损流畅运行的开源MoE模...

    2026年10月13日
    0
  • 到2028年我国内河新能源船舶保有量较2025年翻倍 相关产业公司将获益

      10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V4.7,包含35B-A3B与1B两个版本。其中,35B-A3B采用混合专家(MoE)架构,总参数规模达350亿,每次推理仅激活30亿参数。  据公司介绍,该模型是首个能够在端侧无损流畅运行的开源MoE模...

    2026年10月13日
    0
  • CBCX:黄金韧性背后仍有流动性考验

      10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V4.7,包含35B-A3B与1B两个版本。其中,35B-A3B采用混合专家(MoE)架构,总参数规模达350亿,每次推理仅激活30亿参数。  据公司介绍,该模型是首个能够在端侧无损流畅运行的开源MoE模...

    2026年10月13日
    0
  • 北京新增确诊27例的简单介绍

      10月13日,面壁智能正式发布新一代端侧多模态大模型MiniCPM-V4.7,包含35B-A3B与1B两个版本。其中,35B-A3B采用混合专家(MoE)架构,总参数规模达350亿,每次推理仅激活30亿参数。  据公司介绍,该模型是首个能够在端侧无损流畅运行的开源MoE模...

    2026年10月13日
    0