部署MNN-LLM到Android设备可通过两种方式实现:
- 预编译APK安装
- 从GitHub Releases下载官方的MNN-LLM Android应用
- 安装APK后即可使用内置支持的Qwen、Llama等模型
- 源码编译部署
- 克隆项目仓库:git clone https://github.com/alibaba/MNN.git
- 使用Android Studio打开android/apps/MnnLlmApp目录
- 配置NDK路径(需r17及以上版本)
- 执行Build > Build APK生成安装包
使用时的关键步骤:
- 在应用内下载目标模型(如Qwen-7B),模型文件将存储在本地
- 输入文本提示后离线生成响应,支持多轮对话
- 多模态功能需通过文件选择器上传图像/音频
注意:当前版本需重新编译应用才能加载自定义模型,官方承诺未来会开放直接导入功能。
この答えは記事から得たものである。MNN:軽量で効率的なディープラーニング推論フレームワークについて