---
title: Qwen3.5-2B-MNN
canonical_url: "https://www.modelscope.cn/models/MNN/Qwen3.5-2B-MNN"
md_url: "https://www.modelscope.cn/models/MNN/Qwen3.5-2B-MNN.md"
repository: MNN/Qwen3.5-2B-MNN
last_updated: 2026-11-18
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - transformer
base_model:
  - Qwen/Qwen3.5-2B
base_model_relation: quantized
library_name:
  - mnn
frameworks:
  - MNN
language:
  - cn
domain:
  - nlp
downloads: 499
stars: 5
tags:
  - instruction-tuned
  - vision-language
---

# Qwen3.5-2B-MNN

> Qwen3.5-2B-MNN - MNN 在 ModelScope 开源的模型。原始模型 · Hugging Face · ModelScope · MNN

MNN/Qwen3.5-2B-MNN 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可，基于 Qwen/Qwen3.5-2B 构建。

- **Repository**: MNN/Qwen3.5-2B-MNN
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Base model**: Qwen/Qwen3.5-2B
- **Tags**: instruction-tuned, vision-language
- **Downloads**: 499
- **Stars**: 5
- **Last updated**: 2026-11-18

Source: https://www.modelscope.cn/models/MNN/Qwen3.5-2B-MNN

---

# Qwen3.5-2B-MNN

[原始模型](https://huggingface.co/Qwen/Qwen3.5-2B) · [Hugging Face](https://huggingface.co/taobao-mnn/Qwen3.5-2B-MNN) · [ModelScope](https://modelscope.cn/models/MNN/Qwen3.5-2B-MNN) · [MNN](https://github.com/alibaba/MNN)

Qwen3.5 系列的 2B 视觉语言模型，支持文本对话和图片理解；语言部分结合 Gated DeltaNet 与全注意力。本仓库提供其 MNN 量化版本。

## 模型信息

| 项目 | 配置 |
| --- | --- |
| 输入 / 输出 | 文本、图片 / 文本 |
| 语言层数 / 隐藏维度 | 24 / 2048 |
| 语言权重 | HQQ 4-bit，分组 64 |
| 输出头 | HQQ 4-bit，分组 64 |
| 量化尺度 | FP16（语言线性层与输出头） |
| 词嵌入 | 与输出头共享 4-bit 权重 |
| 视觉权重 | HQQ 4-bit，分组 128，FP16 尺度 |
| 默认运行配置 | CPU，4 线程，`precision=low`，`memory=low` |

模型文件包括 `llm.mnn` / `llm.mnn.weight`（模型图与权重）、`tokenizer.mtok`（分词器）、`config.json` / `llm_config.json`（运行与模型配置）、`visual.mnn` / `visual.mnn.weight`（视觉模型）。下载时保留完整目录。

## 下载

Hugging Face：

```bash
hf download taobao-mnn/Qwen3.5-2B-MNN --local-dir ./Qwen3.5-2B-MNN
```

ModelScope：

```bash
modelscope download --model MNN/Qwen3.5-2B-MNN --local_dir ./Qwen3.5-2B-MNN
```

## 运行

以下命令使用本次导出验证的 MNN 3.6.2 提交。

```bash
git clone https://github.com/alibaba/MNN.git
git -C MNN checkout b0239771b07b317a258fbc384683bbd540741406
(cd MNN && ./schema/generate.sh)
cmake -S MNN -B MNN/build -DCMAKE_BUILD_TYPE=Release \
  -DMNN_BUILD_LLM=ON -DMNN_LOW_MEMORY=ON -DMNN_SUPPORT_TRANSFORMER_FUSE=ON -DMNN_BUILD_LLM_OMNI=ON
cmake --build MNN/build --target llm_demo -j4
```

```bash
printf '%s\n' '你好，请介绍一下自己。' > prompt.txt
./MNN/build/llm_demo ./Qwen3.5-2B-MNN/config.json prompt.txt
```

图片输入按 [MNN 多模态接口](https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html)接入，视觉配置见 `llm_config.json`。随包配置启用思考模式。

采样参数在 `config.json` 中调整。应用集成见 [MNN-LLM 文档](https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html)。

## 验证与导出

2026-11-09，x64 CPU：文本用例、默认配置冒烟测试及 3 组合成图片用例通过；完成语言与视觉映射对齐检查。

导出参数见 [export_args.json](export_args.json)，测试记录与文件哈希见 [refresh_metadata.json](refresh_metadata.json)。

## 许可证

采用上游 [Apache License 2.0](LICENSE)。
