模型 / 官方
iOS、Android、鸿蒙三端同步支持
OpenBMB 在 GitHub 上发布了 MiniCPM-V-Apps 项目,提供可在 iOS、Android 和鸿蒙 NEXT 三大移动平台上完全本地运行的多模态大模型演示应用。该项目基于 llama.cpp 推理框架,目前支持 MiniCPM-V 2.6、4.0、4.6 等多模态版本,以及纯文本的 MiniCPM5-1B 和具备文字转语音能力的 VoxCPM2。三个平台的演示工程共享同一个 llama.cpp-omni 子模块,开发者可通过 Xcode、Android Studio 或 DevEco Studio 分别构建。对于不想自行编译的用户,项目还提供了 TestFlight、APK 和 HAP 格式的预构建安装包,可直接下载体验。整个推理过程在设备端完成,数据不经过任何外部服务器,兼顾隐私保护与离线可用性,适合对端侧 AI 部署感兴趣的开发者和研究者参考。
OpenBMB 团队近日在 GitHub 上开源了 MiniCPM-V-Apps 项目,目标是让 MiniCPM-V 系列多模态大模型能够在主流移动操作系统上完全离线运行。该项目目前已获得超过 330 个 Star,涵盖 iOS、Android 和鸿蒙 NEXT 三个平台的独立演示工程,底层推理统一依赖 llama.cpp-omni 子模块,保证了跨平台的一致性与可维护性。
在模型支持方面,项目当前兼容 MiniCPM-V 2.6、4.0 和 4.6 三个多模态版本,同时提供仅支持文本的 MiniCPM5-1B 以及具备文字转语音功能的 VoxCPM2。模型权重以 GGUF 格式分发,开发者可根据设备内存规格选择合适的版本,项目文档中列出了各模型对应的最低硬件要求,方便按需取舍。
iOS 端的构建流程需要 Xcode 26.1 及以上版本,并要求开发者在首次构建时通过脚本生成 llama.xcframework 框架文件,整个过程在 M 系列 Mac 上约需 2 至 3 分钟。Android 端则依赖 Android Studio 和 NDK 27,仅支持 64 位 ARM 架构设备。鸿蒙端需要 DevEco Studio 5.0 及鸿蒙 API 12 以上的真机或模拟器,同样限定 arm64-v8a 架构。
为了降低上手门槛,项目在 DOWNLOAD.md 中提供了 TestFlight(iOS)、APK(Android)和 HAP(鸿蒙)格式的预构建安装包及详细安装步骤,普通用户无需配置编译环境即可直接安装体验。对于希望深度定制的开发者,源码构建路径同样有完整文档支撑,包括浅克隆建议和子模块初始化命令,有效控制了仓库体积。
从隐私与安全角度看,MiniCPM-V-Apps 的全离线设计意味着用户的图片、文字等输入数据始终留在本地设备,不会上传至任何云端服务。这一特性对于企业内部部署、敏感场景应用或网络受限环境具有明显优势,也代表了端侧多模态 AI 落地的一种可行路径,值得关注端侧推理趋势的开发者持续跟进。
要点
- MiniCPM-V-Apps 支持 iOS、Android、鸿蒙三平台完全离线多模态推理,底层统一使用 llama.cpp-omni。
- 当前支持 MiniCPM-V 2.6、4.0、4.6 多模态模型及 VoxCPM2 语音合成模型,模型以 GGUF 格式分发。
- 提供预构建安装包(TestFlight/APK/HAP),普通用户无需编译即可直接安装体验。
- 全离线推理架构保障用户数据不离开设备,适合隐私敏感或网络受限的应用场景。
- 三端构建均要求 64 位 ARM 架构设备,开发者需根据文档中的硬件要求选择合适的模型版本。
原始标题:OpenBMB/MiniCPM-V-Apps — MiniCPM-V apps — fully offline multimodal chat on iOS / Android / HarmonyOS
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。