---
title: Qwen3-4B-SafeRL-MNN
canonical_url: "https://www.modelscope.cn/models/MNN/Qwen3-4B-SafeRL-MNN"
md_url: "https://www.modelscope.cn/models/MNN/Qwen3-4B-SafeRL-MNN.md"
repository: MNN/Qwen3-4B-SafeRL-MNN
last_updated: 2026-11-18
license: apache-2.0
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - text-generation
library_name:
  - mnn
frameworks:
  - MNN
language:
  - zh
  - en
domain:
  - nlp
downloads: 62
stars: 2
---

# Qwen3-4B-SafeRL-MNN

> Qwen3-4B-SafeRL-MNN - MNN 在 ModelScope 开源的模型。原始模型 · Hugging Face · ModelScope · MNN

MNN/Qwen3-4B-SafeRL-MNN 是 ModelScope 魔搭社区上的text-generation模型，采用 apache-2.0 许可。

- **Repository**: MNN/Qwen3-4B-SafeRL-MNN
- **License**: apache-2.0
- **Tasks**: text-generation
- **Downloads**: 62
- **Stars**: 2
- **Last updated**: 2026-11-18

Source: https://www.modelscope.cn/models/MNN/Qwen3-4B-SafeRL-MNN

---

# Qwen3-4B-SafeRL-MNN

[原始模型](https://huggingface.co/Qwen/Qwen3-4B-SafeRL) · [Hugging Face](https://huggingface.co/taobao-mnn/Qwen3-4B-SafeRL-MNN) · [ModelScope](https://modelscope.cn/models/MNN/Qwen3-4B-SafeRL-MNN) · [MNN](https://github.com/alibaba/MNN)

Qwen3-4B 的安全对齐版本，使用 Qwen3Guard-Gen 提供的奖励信号进行强化学习。本仓库提供其 MNN 量化版本。

## 模型信息

| 项目 | 配置 |
| --- | --- |
| 输入 / 输出 | 文本 / 文本 |
| 语言层数 / 隐藏维度 | 36 / 2560 |
| 语言权重 | HQQ 4-bit，分组 64 |
| 输出头 | HQQ 8-bit，分组 64 |
| 量化尺度 | FP16（语言线性层与输出头） |
| 词嵌入 | 与输出头共享 8-bit 权重 |
| 默认运行配置 | CPU，4 线程，`precision=low`，`memory=low` |

模型文件包括 `llm.mnn` / `llm.mnn.weight`（模型图与权重）、`tokenizer.mtok`（分词器）、`config.json` / `llm_config.json`（运行与模型配置）。下载时保留完整目录。

## 下载

Hugging Face：

```bash
hf download taobao-mnn/Qwen3-4B-SafeRL-MNN --local-dir ./Qwen3-4B-SafeRL-MNN
```

ModelScope：

```bash
modelscope download --model MNN/Qwen3-4B-SafeRL-MNN --local_dir ./Qwen3-4B-SafeRL-MNN
```

## 运行

以下命令使用本次导出验证的 MNN 3.6.2 提交。

```bash
git clone https://github.com/alibaba/MNN.git
git -C MNN checkout b0239771b07b317a258fbc384683bbd540741406
(cd MNN && ./schema/generate.sh)
cmake -S MNN -B MNN/build -DCMAKE_BUILD_TYPE=Release \
  -DMNN_BUILD_LLM=ON -DMNN_LOW_MEMORY=ON -DMNN_SUPPORT_TRANSFORMER_FUSE=ON
cmake --build MNN/build --target llm_demo -j4
```

```bash
printf '%s\n' '你好，请介绍一下自己。' > prompt.txt
./MNN/build/llm_demo ./Qwen3-4B-SafeRL-MNN/config.json prompt.txt
```

采样参数在 `config.json` 中调整。应用集成见 [MNN-LLM 文档](https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html)。

## 验证与导出

2026-11-12，x64 CPU：FP32 映射对齐、问候、算术与翻译用例及默认配置冒烟测试通过。

导出参数见 [export_args.json](export_args.json)，测试记录与文件哈希见 [refresh_metadata.json](refresh_metadata.json)。

## 许可证

采用上游 [Apache License 2.0](LICENSE)。
