---
title: gpt-oss-20b-MNN
canonical_url: "https://www.modelscope.cn/models/MNN/gpt-oss-20b-MNN"
md_url: "https://www.modelscope.cn/models/MNN/gpt-oss-20b-MNN.md"
repository: MNN/gpt-oss-20b-MNN
last_updated: 2025-08-07
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - transformer
base_model:
  - openai-mirror/gpt-oss-20b
base_model_relation: quantized
library_name:
  - mnn
frameworks:
  - MNN
language:
  - cn
domain:
  - nlp
downloads: 385
stars: 10
tags:
  - instruction-tuned
---

# gpt-oss-20b-MNN

> gpt-oss-20b-MNN - MNN 在 ModelScope 开源的模型。介绍（Introduction） 此模型是使用llmexport从gpt-oss-20b导出的4bit量化版本的MNN模型。

MNN/gpt-oss-20b-MNN 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可，基于 openai-mirror/gpt-oss-20b 构建。

- **Repository**: MNN/gpt-oss-20b-MNN
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Base model**: openai-mirror/gpt-oss-20b
- **Tags**: instruction-tuned
- **Downloads**: 385
- **Stars**: 10
- **Last updated**: 2025-08-07

Source: https://www.modelscope.cn/models/MNN/gpt-oss-20b-MNN

---

# gpt-oss-20b-MNN

## 介绍（Introduction）
此模型是使用[llmexport](https://github.com/alibaba/MNN/tree/master/transformers/llm/export)从gpt-oss-20b导出的4bit量化版本的MNN模型。

## 下载
```bash
#安装ModelScope
pip install modelscope
```
```bash
#命令行工具下载
modelscope download --model 'MNN/gpt-oss-20b-MNN' --local_dir 'path/to/dir'
```
```python
#SDK模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('MNN/gpt-oss-20b-MNN')
```
Git下载
```bash
#Git模型下载
git clone https://www.modelscope.cn/MNN/gpt-oss-20b-MNN.git
```

## 使用
```bash
# 下载MNN源码
git clone https://github.com/alibaba/MNN.git

# 编译
cd MNN
mkdir build && cd build
cmake .. -DMNN_LOW_MEMORY=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true -DMNN_BUILD_LLM=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true
make -j

# 运行
./llm_demo /path/to/gpt-oss-20b-MNN/config.json prompt.txt
```

## 文档
[MNN-LLM](https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html#)