---
title: Qwen3.8-Flash-Next-w4a8-mxfp
canonical_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3.8-Flash-Next-w4a8-mxfp"
md_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3.8-Flash-Next-w4a8-mxfp.md"
repository: Eco-Tech/Qwen3.8-Flash-Next-w4a8-mxfp
last_updated: 2026-11-06
license: other
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - qwen4_exp
architectures:
  - Qwen4ExpForConditionalGeneration
base_model:
  - Qwen/Qwen3.8-Flash-Next
base_model_relation: quantized
parameters: 123.4B
tensor_type:
  - I64
  - U8
  - F32
  - F8_E4M3
  - BF16
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
downloads: 343
stars: 1
---

# Qwen3.8-Flash-Next-w4a8-mxfp

> Qwen3.8-Flash-Next-w4a8-mxfp - Eco-Tech 在 ModelScope 开源的模型。Qwen3.8-Flash-Next-w4a8-mxfp

Eco-Tech/Qwen3.8-Flash-Next-w4a8-mxfp 是 ModelScope 魔搭社区上的 123.4B 参数text-generation模型，采用 other 许可，基于 Qwen/Qwen3.8-Flash-Next 构建。

- **Repository**: Eco-Tech/Qwen3.8-Flash-Next-w4a8-mxfp
- **License**: other
- **Tasks**: text-generation
- **Parameters**: 123.4B
- **Base model**: Qwen/Qwen3.8-Flash-Next
- **Downloads**: 343
- **Stars**: 1
- **Last updated**: 2026-11-06

Source: https://www.modelscope.cn/models/Eco-Tech/Qwen3.8-Flash-Next-w4a8-mxfp

---

# Qwen3.8-Flash-Next-w4a8-mxfp

## 1. 基本信息

| 项目 | 信息 |
| --- | --- |
| 原始模型名 | Qwen3.8-Flash-Next |
| 原始模型链接 | [Qwen3.8-Flash-Next](https://www.modelscope.cn/models/Qwen/Qwen3.8-Flash-Next) |
| 量化工具 | ModelSlim 26.1.0 |
| msmodelslim commit id | `cfb2c0077ec78678983830fab096fbed4176b01e`，含本地 Flash-Next 适配 |
| 精度测试机型 | Atlas 850E（Ascend950DT），4 卡，TP4、EP |
| 精度测试平台 | docker vllm-ascend |
| 版本 | `vllm-ascend:v0.32.0rc-a5-openeuler-cann9.2.1-20261102-r67` |

## 2. 量化脚本

```python3
python3 -m msmodelslim.cli quant \
  --model_path {浮点权重路径} \
  --save_path {MXFP_W4A8量化权重路径} \
  --device npu \
  --model_type Qwen3.8-Flash-Next \
  --config {量化配置路径} \
  --trust_remote_code true
```

## 3. 精度测试结果

| 模型名 | 量化格式 | 数据集 | 测试精度 % | 官方精度 % |
| --- | --- | --- | ---: | ---: |
| Qwen3.8-Flash-Next-w4a8-mxfp | MXFP W4A8 / W8A8 混合精度 | GPQA Diamond | 91.41（181/198） | 91.7 |

使用 AIS Bench，0-shot CoT，输出上限 65,536 tokens，batch size=32；temperature=1.0、top_p=0.95、top_k=20。MTP、async 均关闭。
