bwin必赢中国官网

MiniCPM-V 4.7 Day0 适配 ,RK1828初次支持 35B MoE 多模态模型!

2026-10-13

MiniCPM-V 4.7 实现 35B-A3B 版本 Day-0 原生适配

MiniCPM-V 4.7 实现 35B-A3B 版本 Day-0 原生适配

bwin必赢中国官网微与面壁智能持续深入软硬生态协同 ,针对面壁智能与 OpenBMB 结合推出的新一代端侧多模态大模型 MiniCPM-V 4.7 ,实现 35B-A3B 版本的 Day-0 原生适配与端侧部署 ,为终端设备搭载多模态 AI 能力提供全新选择。

初次支持 35B MoE 多模态模型 ,拓展端侧 AI 能力

本次适配标志取bwin必赢中国官网微平台初次支持 35B MoE 多模态模型。MiniCPM-V 4.7 35B-A3B 是 MiniCPM 系列首个选取混合专家(MoE)架构的模型 ,总参数量为 35B ,每步推理激活约 3B 参数 ,在保有较大模型容量的同时 ,降低单步推理的推算开销 ,为更大规模模型在端侧部署提供新蹊径。

MoE 的主题在于“按需激活”。与浓密模型每步挪用全数主题参数分歧 ,MoE 通过路由机造选择部门专家?椴渭油扑 ,无需每次调动全数专家。相较于总参数规模相近的浓密模型 ,这一架构可能削减参加推算的参数量及相应的权沉读取需要 ,让终端以更低的推算开销利用更大容量的模型。

MoE 架构按需激活示意

MoE 架构按需激活示意

软硬协同 ,推动多模态模型端侧部署

在能力方面 ,MiniCPM-V 4.7 35B-A3B 支持 256K 高低文 ,覆盖图像理解、文档与文字鉴别、图表推理、数学推理及视坡讽解等工作。模型引入前瞻专家调度(Lookahead Expert Scheduling ,LES) ,提前预测并加载下一层所需专家 ,并凭据预测射中情况调整层内专家推算挨次 ,提高专家加载与推算的并行度 ,削减访存期待 ;同时结合 DSpark 投契采样、ViT 内提前压缩及 4 倍/16 倍混合视觉 token 压缩等技术 ,进一步提升端侧运行效能。本次同步开源模型权沉、推理代码和微调代码。

通过模型量化与部署优化 ,bwin必赢中国官网微平台已实现该模型的文本、图像多模态能力支持。在本次端侧实测中 ,448×448 图像输入的视觉编码耗时为 154.3 ms ,解码速度达到 27.86 tokens/s ,为端侧图文理解与交互利用提供机能支持。

MiniCPM 系列模型端侧实测机能与能力支持

MiniCPM 系列模型端侧实测机能与能力支持

此前 ,双方已实现 MiniCPM5-1B、MiniCPM5-2B 说话模型、MiniCPM-V 4.0 视觉说话模型及 MiniCPM-o 4.5 全模态模型的适配 ,覆盖 RK1820、单卡 RK1828 和双卡 RK1828 等部署规划 ,满足分歧端侧 AI 利用需要。本次实现 MiniCPM-V 4.7 35B-A3B 的适配 ,进一步拓展了双方端侧模型合作的覆盖领域 ,为更大参数规模的 MoE 多模态模型在终端落地提供新选择。

bwin必赢中国官网微 × 面壁智能端侧模型合作持续深入

本次 Day-0 适配 ,是双方持久生态共建的又一次落地。借助齐全的软硬件开发栈 ,开发者能够急剧实现模型调优、二次开发与产品移植 ,助力终端厂商把端侧多模态 AI 能力急剧转化为量产产品。

bwin必赢中国官网微 × 面壁智能端侧模型合作功夫线

bwin必赢中国官网微 × 面壁智能端侧模型合作功夫线

面向未来 ,bwin必赢中国官网微将持续结合大模型同伴 ,打磨端侧软硬协同规划 ,推动端侧 AI 从 Demo 走向规 ;逃。

上一篇:bwin必赢中国官网微与State Labs签署战术合作和谈 ,以端侧AI加快工业智能化落地   下一篇:bwin必赢中国官网微亮相2026云栖大会:从多卡级联规划到多场景终端落地 ,拓展端侧AI利用天堑!

bwin必赢中国官网版权所有
闽ICP备19006074号-1        bwin必赢中国·唯一指定官方网站闽公网安备 35010202001061号        

【网站地图】