---
title: DeepSeek-V4.1-Flash-1017-w8a8
canonical_url: "https://www.modelscope.cn/models/YDJaken/DeepSeek-V4.1-Flash-1017-w8a8"
md_url: "https://www.modelscope.cn/models/YDJaken/DeepSeek-V4.1-Flash-1017-w8a8.md"
repository: YDJaken/DeepSeek-V4.1-Flash-1017-w8a8
chinese_name: DeepSeek-V4.1-Flash-1017-w8a8
last_updated: 2026-10-19
license: "Apache License 2.0"
pipeline_tag: text2text-generation
tasks:
  - text2text-generation
model_type:
  - deepseek_v41
architectures:
  - DeepseekV41ForCausalLM
base_model:
  - deepseek-ai/DeepSeek-V4.1-Flash-1017
base_model_relation: quantized
parameters: 771.3B
tensor_type:
  - I8
  - F32
  - BF16
  - F8_E8M0
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
language:
  - zh
downloads: 63
stars: 4
---

# DeepSeek-V4.1-Flash-1017-w8a8

> DeepSeek-V4.1-Flash-1017-w8a8 - YDJaken 在 ModelScope 开源的模型。基于msmodelslim量化的适配昇腾设备的DeepSeek-V4.1-Flash-1017-w8a8模型。感谢【地学大数据实验室】提供的环境与资源保障。

YDJaken/DeepSeek-V4.1-Flash-1017-w8a8 是 ModelScope 魔搭社区上的 771.3B 参数text2text-generation模型，采用 Apache License 2.0 许可，基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 构建。

- **Repository**: YDJaken/DeepSeek-V4.1-Flash-1017-w8a8
- **License**: Apache License 2.0
- **Tasks**: text2text-generation
- **Parameters**: 771.3B
- **Base model**: deepseek-ai/DeepSeek-V4.1-Flash-1017
- **Downloads**: 63
- **Stars**: 4
- **Last updated**: 2026-10-19

Source: https://www.modelscope.cn/models/YDJaken/DeepSeek-V4.1-Flash-1017-w8a8

---

# DeepSeek-V4.1-Flash-1017-w8a8【地学大数据实验室】

感谢 **【地学大数据实验室】** 提供的环境与资源保障。

## 模型简介

`DeepSeek-V4.1-Flash-1017-w8a8` 是官方 `DeepSeek-V4.1-Flash-1017`（552B MoE，原生 1M 上下文）的社区二次量化版本，权重 4-bit、激活 8-bit，面向昇腾 910B/910C 等显存受限平台部署。

官方 FP8/FP4 权重约 510 GB，w8a8 版本约 743 GB；转换为 w8a8 后体积约 **489 GB**，int4 专家权重每卡约 35 GB，可将专家收敛回节点内，显著降低跨机 all-to-all 通信压力。每卡 KV Cache 从 2.85 GiB 提升至 **10.84 GiB**，1M token 口径下最大并发提升至 **4.29 倍**。

## 量化格式

| 元素 | 格式 | 说明 |
|---|---|---|
| weight | int8 `[out/2, in]` | 两个 int4 沿输出维打包 |
| weight_scale / weight_offset | f32 `[out,1]` | offset 实测全零，等价对称量化 |
| scale_bias | f32，up 类 `[out,1]` / down 类 `[out,16]` | w8a8 特有零点补偿项 |
| int4 取值范围 | `[-8, 7]` | 低半字节为偶索引，高半字节为奇索引 |

## 镜像

镜像已添加到模型仓库，`images.tar.gz` 中 **28 是量化镜像，29 是运行镜像**。

## 基础能力锚点

以官方 `DeepSeek-V4.1-Flash-1017` 为基底：552B 总参数 MoE，prefill 激活 8B、decode 激活 16B，原生 1M 上下文与图文多模态。关键基准：DeepSWE v1.1 77.0，Terminal-Bench 4.0 42.3，Apex Bench v1.1 72.1。量化后精度损失取决于转换工具链与校准数据，尚未公开系统性保真度评测。
