---
title: Qwen3.8-Flash-Next-w8a8-mtp
canonical_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3.8-Flash-Next-w8a8-mtp"
md_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3.8-Flash-Next-w8a8-mtp.md"
repository: Eco-Tech/Qwen3.8-Flash-Next-w8a8-mtp
last_updated: 2026-09-11
license: other
pipeline_tag: image-text-to-text
tasks:
  - image-text-to-text
model_type:
  - qwen4_exp
architectures:
  - Qwen4ExpForConditionalGeneration
base_model:
  - Qwen/Qwen3.8-Flash-Next
base_model_relation: quantized
parameters: 180.2B
tensor_type:
  - F32
  - I8
  - BF16
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
downloads: 277
stars: 6
---

# Qwen3.8-Flash-Next-w8a8-mtp

> Qwen3.8-Flash-Next-w8a8-mtp - Eco-Tech 在 ModelScope 开源的模型。Qwen3.8-Flash-Next-w8a8-mtp

Eco-Tech/Qwen3.8-Flash-Next-w8a8-mtp 是 ModelScope 魔搭社区上的 180.2B 参数image-text-to-text模型，采用 other 许可，基于 Qwen/Qwen3.8-Flash-Next 构建。

- **Repository**: Eco-Tech/Qwen3.8-Flash-Next-w8a8-mtp
- **License**: other
- **Tasks**: image-text-to-text
- **Parameters**: 180.2B
- **Base model**: Qwen/Qwen3.8-Flash-Next
- **Downloads**: 277
- **Stars**: 6
- **Last updated**: 2026-09-11

Source: https://www.modelscope.cn/models/Eco-Tech/Qwen3.8-Flash-Next-w8a8-mtp

---

# Qwen3.8-Flash-Next-w8a8-mtp

## 1. 基本信息

| 项目 | 信息 |
|:------:|:------:|
| 原始模型名 | Qwen3.8-Flash-Next |
| 原始模型链接 | [Qwen/Qwen3.8-Flash-Next](https://www.modelscope.cn/models/Qwen/Qwen3.8-Flash-Next) |
| msmodelslim commit id | a3664d45aef26c9ccd7fb4884a6c2b2c2ee1456a |
| 精度测试机型 | Atlas 800I A3 1台 |
| 精度测试平台 | docker vllm-ascend |
| 版本 | qwen3.8-next-a3-ubuntu-34178549844-2-arm64-temp |
| 链接 | [quay.io/atlas-ci/vllm-atlas-temp](https://quay.io/repository/atlas-ci/vllm-atlas-temp?tab=tags&tag=latest) |

## 2. 量化脚本

量化使用 `master-qwen38` 分支。该分支已适配 Qwen3.8-Flash-Next，包括逐层加载、量化和保存，3D MoE experts 拆分，PLE 跳过量化并以 BF16 流式回填，以及 MTP 权重以 BF16 原样透传。本权重导出时未对 msModelSlim 做额外的 tracked 本地修改。

```bash
git clone -b master-qwen38 https://gitcode.com/code_mingming/msmodelslim.git
git -C msmodelslim checkout a3664d45aef26c9ccd7fb4884a6c2b2c2ee1456a
bash msmodelslim/install.sh

MODEL_PATH=/path/to/Qwen3.8-Flash-Next
SAVE_PATH=/path/to/Qwen3.8-Flash-Next-w8a8-mtp
CONFIG_PATH=$PWD/msmodelslim/lab_practice/qwen4_exp_flash_next/qwen4_w8a8.yaml

msmodelslim quant \
  --model_path "$MODEL_PATH" \
  --save_path "$SAVE_PATH" \
  --device npu \
  --model_type Qwen3.8-Flash-Next \
  --config_path "$CONFIG_PATH" \
  --trust_remote_code True
```

## 3. 精度测试结果

| 模型名 | 量化格式 | 数据集 | 测试精度 % | 官方精度 % |
|:------:|:------:|:------:|:------:|:------:|
| Qwen3.8-Flash-Next-w8a8-mtp | W8A8 | GPQA-Diamond | 91.4 | - |