17173首页 游戏资讯 科技新闻 正文

面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度

导语
面壁智能发布MiniCPM-V 4.7端侧多模态大模型:35B MoE仅3GB内存跑13+ token/s,性能超Qwen,支持iOS/安卓/鸿蒙,开源SRFT微调方案,点击速览!

10 月 13 日消息,面壁智能今天宣布推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。

据官方介绍,这款模型基于最新 LES(前瞻专家调度)推理加速技术,其中 35B-A3B 版本是首个支持端侧无损流畅运行的开源 MoE 模型,在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度。

了解到,MiniCPM-V 4.7 同时支持 iOS、安卓和鸿蒙,并适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台,覆盖更多移动设备与本地计算场景。同步开源 Self-Replay Fi**uning (SRFT) 微调方案,帮助开发者低成本扩展模型能力和减少遗忘,方便二次开发。

此外,该模型 35B-A3B 版本在 Instruct 模式下,以更短的推理时间取得比 Qwen3.6 35B-A3B 更高的综合得分;1B 版本相比 MiniCPM-V 4.6 持续提升基础能力,并在综合得分和推理效率上均显著领先 Qwen3.5 0.8B。

参考:

MiniCPM-V/README_zh.md at main · OpenBMB/MiniCPM-V · GitHub

【来源:IT之家】

尊敬的用户也许你已经注意到了我们文章页面进行了大规模的改造和重构,可以点击提交您的满意度或者想法我们会持续改进,给您提供更好的浏览体验! 一键参与
17173APP

扫描下载APP

游戏礼包一键领取

17173微信公众号

扫描关注公众号

每天更新