---
title: MiniCPM-V-4-MNN
canonical_url: "https://www.modelscope.cn/models/MNN/MiniCPM-V-4-MNN"
md_url: "https://www.modelscope.cn/models/MNN/MiniCPM-V-4-MNN.md"
repository: MNN/MiniCPM-V-4-MNN
last_updated: 2025-08-15
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - transformer
base_model:
  - OpenBMB/MiniCPM-V-4
base_model_relation: quantized
library_name:
  - mnn
frameworks:
  - MNN
language:
  - cn
domain:
  - nlp
downloads: 112
stars: 4
tags:
  - instruction-tuned
---

# MiniCPM-V-4-MNN

> MiniCPM-V-4-MNN - MNN 在 ModelScope 开源的模型。介绍（Introduction） 此模型是使用llmexport从MiniCPM-V-4导出的4bit量化版本的MNN模型。

MNN/MiniCPM-V-4-MNN 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可，基于 OpenBMB/MiniCPM-V-4 构建。

- **Repository**: MNN/MiniCPM-V-4-MNN
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Base model**: OpenBMB/MiniCPM-V-4
- **Tags**: instruction-tuned
- **Downloads**: 112
- **Stars**: 4
- **Last updated**: 2025-08-15

Source: https://www.modelscope.cn/models/MNN/MiniCPM-V-4-MNN

---

# MiniCPM-V-4-MNN

## 介绍（Introduction）
此模型是使用[llmexport](https://github.com/alibaba/MNN/tree/master/transformers/llm/export)从MiniCPM-V-4导出的4bit量化版本的MNN模型。

## 下载
```bash
#安装ModelScope
pip install modelscope
```
```bash
#命令行工具下载
modelscope download --model 'MNN/MiniCPM-V-4-MNN' --local_dir 'path/to/dir'
```
```python
#SDK模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('MNN/MiniCPM-V-4-MNN')
```
Git下载
```bash
#Git模型下载
git clone https://www.modelscope.cn/MNN/MiniCPM-V-4-MNN.git
```

## 使用
```bash
# 下载MNN源码
git clone https://github.com/alibaba/MNN.git

# 编译
cd MNN
mkdir build && cd build
cmake .. -DMNN_LOW_MEMORY=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true -DMNN_BUILD_LLM=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true
make -j

# 运行
./llm_demo /path/to/MiniCPM-V-4-MNN/config.json prompt.txt
```

## 文档
[MNN-LLM](https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html#)