---
title: Qwen3-30B-A3B-w8a8
canonical_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3-30B-A3B-w8a8"
md_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3-30B-A3B-w8a8.md"
repository: Eco-Tech/Qwen3-30B-A3B-w8a8
last_updated: 2026-03-09
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - qwen3_moe
architectures:
  - Qwen3MoeForCausalLM
base_model:
  - Qwen/Qwen3-30B-A3B
base_model_relation: quantized
parameters: 30.6B
tensor_type:
  - I32
  - I8
  - BF16
  - F32
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
inference_backends:
  - "deploy_task text/emb"
  - "lmdeploy_turbomind 0.9.1"
  - "sglang 0.5.2"
  - "vllm 0.9.2"
downloads: 5492
stars: 2
---

# Qwen3-30B-A3B-w8a8

> Qwen3-30B-A3B-w8a8 - Eco-Tech 在 ModelScope 开源的模型。1. 基本信息 | 项目 | 信息 | |:------:|:------:| | 原始模型名 | Qwen3-30B-A3B | | 原始模型链接 | Qwen/Qwen3-30B-A3B | | modelslim commit id | | | 精度测试机型 | Atlas 800T A2 1台| | 精度测试平台 | docker vllm-ascend | | 版本 |…

Eco-Tech/Qwen3-30B-A3B-w8a8 是 ModelScope 魔搭社区上的 30.6B 参数text-generation模型，采用 Apache License 2.0 许可，基于 Qwen/Qwen3-30B-A3B 构建，可用 deploy_task text/emb、lmdeploy_turbomind 0.9.1、sglang 0.5.2 部署。

- **Repository**: Eco-Tech/Qwen3-30B-A3B-w8a8
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Parameters**: 30.6B
- **Base model**: Qwen/Qwen3-30B-A3B
- **Inference backends**: deploy_task text/emb, lmdeploy_turbomind 0.9.1, sglang 0.5.2, vllm 0.9.2
- **Downloads**: 5492
- **Stars**: 2
- **Last updated**: 2026-03-09

Source: https://www.modelscope.cn/models/Eco-Tech/Qwen3-30B-A3B-w8a8

---

# Qwen3-30B-A3B-w8a8

## 1. 基本信息
| 项目 | 信息 |
|:------:|:------:|
| 原始模型名  | Qwen3-30B-A3B |
| 原始模型链接  | [ Qwen/Qwen3-30B-A3B ](https://www.modelscope.cn/models/Qwen/Qwen3-30B-A3B) |
| modelslim commit id  |  |
| 精度测试机型  | Atlas 800T A2 1台|
| 精度测试平台  | docker vllm-ascend |
| 版本  | vllm-ascend:v0.13.0rc1 |
| 链接  | quay.m.daocloud.io/ascend/vllm-ascend:v0.13.0rc1 |


## 2 量化脚本：


```python3

```

## 3 精度测试结果

| 模型名 |  量化格式 | 数据集 | 测试精度 % | 浮点精度 % |
|:------:|:------:|:------:|:------:|:------:|
| Qwen3-30B-A3B-w8a8 | w8a8 | gsm8k | 96.51 | 96.29 |
| Qwen3-30B-A3B-w8a8 | w8a8 | ceval | 86.92 | 86.55 |
| Qwen3-30B-A3B-w8a8 | w8a8 | mmlu | 85.89 | 86.06 |
| Qwen3-30B-A3B-w8a8 | w8a8 | mmlupro | 77.95 | 77.96 |

* 使用YaN方法开启长文本，`--max-model-len 70000 `， 精度存在波动，建议多次测试。