---
title: Qwen3-VL-8B-Instruct-w8a8s-310
canonical_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3-VL-8B-Instruct-w8a8s-310"
md_url: "https://www.modelscope.cn/models/Eco-Tech/Qwen3-VL-8B-Instruct-w8a8s-310.md"
repository: Eco-Tech/Qwen3-VL-8B-Instruct-w8a8s-310
last_updated: 2026-03-09
license: "Apache License 2.0"
pipeline_tag: image-text-to-text
tasks:
  - image-text-to-text
model_type:
  - qwen3_vl
architectures:
  - Qwen3VLForConditionalGeneration
base_model:
  - Qwen/Qwen3-VL-8B-Instruct
base_model_relation: quantized
parameters: 8.8B
tensor_type:
  - F32
  - I64
  - I8
  - F16
  - I32
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
downloads: 564
stars: 2
---

# Qwen3-VL-8B-Instruct-w8a8s-310

> Qwen3-VL-8B-Instruct-w8a8s-310 - Eco-Tech 在 ModelScope 开源的模型。Qwen3-VL-8B-Instruct-w8a8s-310

Eco-Tech/Qwen3-VL-8B-Instruct-w8a8s-310 是 ModelScope 魔搭社区上的 8.8B 参数image-text-to-text模型，采用 Apache License 2.0 许可，基于 Qwen/Qwen3-VL-8B-Instruct 构建。

- **Repository**: Eco-Tech/Qwen3-VL-8B-Instruct-w8a8s-310
- **License**: Apache License 2.0
- **Tasks**: image-text-to-text
- **Parameters**: 8.8B
- **Base model**: Qwen/Qwen3-VL-8B-Instruct
- **Downloads**: 564
- **Stars**: 2
- **Last updated**: 2026-03-09

Source: https://www.modelscope.cn/models/Eco-Tech/Qwen3-VL-8B-Instruct-w8a8s-310

---

# Qwen3-VL-8B-Instruct-w8a8s-310

## 1. 基本信息
| 项目 | 信息 |
|:------:|:------:|
| 原始模型名  | Qwen3-VL-8B-Instruct |
| 原始模型链接  | [Qwen/Qwen3-VL-8B-Instruct](https://huggingface.co/Qwen/Qwen3-VL-8B-Instruct) |
| msmodelslim commit id  | d9b21712396ffb511af286fcb031a405bf4f01f1 |
| msmodelslim 操作指引  | [Readme](https://gitcode.com/Ascend/msit/blob/master/msmodelslim/example/multimodal_vlm/Qwen3-VL/README.md) |
| 精度测试机型  | Atlas 300I DUO|
| 精度测试平台  | docker MindIE 镜像 |
| 版本  | [MindIE v3.0.0.beta.1](https://quay.io/repository/ascend/mindie?tab=tags) |


## 2 量化命令：
### 模型稀疏量化
```Shell
python3 quant_qwen3vl.py \
    --model_path /path/to/qwen3_vl_float_weights \
    --save_directory /path/to/qwen3_vl_quantized_weights \
    --w_bit 4 \
    --a_bit 8 \
    --device_type npu \
    --anti_method m2 \
    --is_lowbit True \
    --fraction 0.01 \
    --use_sigma True \
    --torch_dtype fp16 \
    --trust_remote_code True
```
### 模型压缩
如需在300I DUO平台进一步提升性能，可执行如下命令对权重进行压缩。
提示：压缩后的权重为预切分权重，因而压缩命令需要按实际推理场景设置TP数。
```Shell
source /path/to/atb-models/set_env.sh
torchrun --nproc_per_node {TP数} \
    -m examples.convert.model_slim.sparse_compressor \
    --model_path /path/to/qwen3_vl_quantized_weights \
    --save_directory /path/to/qwen3_vl_quantized_weights_used_on_310
```


## 3 精度测试结果

| 模型名 |  量化格式 | 数据集 | 测试精度 % | 浮点精度 % |
|:------:|:------:|:------:|:------:|:------:|
| Qwen3-VL-8B-Instruct-w8a8s-310 | w8a8sc | textvqa |79.89 | 80.02 |
