面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度

面壁智能今天宣布推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。这款模型基于最新 LES(前瞻专家调度)推理加速技术,其中 35B-A3B 版本是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+token/s 的解码速度。MiniCPM-V 4.7 同时支持 iOS、安卓和鸿蒙,并适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台,覆盖更多移动设备与本地计算场景。

原文连接