---
title: GLM-4.7-W8A8-floatmtp
canonical_url: "https://www.modelscope.cn/models/Eco-Tech/GLM-4.7-W8A8-floatmtp"
md_url: "https://www.modelscope.cn/models/Eco-Tech/GLM-4.7-W8A8-floatmtp.md"
repository: Eco-Tech/GLM-4.7-W8A8-floatmtp
last_updated: 2026-02-10
license: "MIT License"
pipeline_tag: text-generation
tasks:
  - text-generation
base_model:
  - "GLM 4.7"
base_model_relation: quantized
parameters: 358.6B
tensor_type:
  - BF16
  - F32
  - I32
  - I8
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
inference_backends:
  - "deploy_task text"
  - "sglang 0.5.2"
downloads: 2304
stars: 4
---

# GLM-4.7-W8A8-floatmtp

> GLM-4.7-W8A8-floatmtp - Eco-Tech 在 ModelScope 开源的模型。GLM-4.7-W8A8-floatmtp

Eco-Tech/GLM-4.7-W8A8-floatmtp 是 ModelScope 魔搭社区上的 358.6B 参数text-generation模型，采用 MIT License 许可，基于 GLM 4.7 构建，可用 deploy_task text、sglang 0.5.2 部署。

- **Repository**: Eco-Tech/GLM-4.7-W8A8-floatmtp
- **License**: MIT License
- **Tasks**: text-generation
- **Parameters**: 358.6B
- **Base model**: GLM 4.7
- **Inference backends**: deploy_task text, sglang 0.5.2
- **Downloads**: 2304
- **Stars**: 4
- **Last updated**: 2026-02-10

Source: https://www.modelscope.cn/models/Eco-Tech/GLM-4.7-W8A8-floatmtp

---

# GLM-4.7-W8A8-floatmtp

## 1. 基本信息
| 项目 | 信息 |
|:------:|:------:|
| 原始模型名  | GLM 4.7 |
| 原始模型链接  | [GLM 4.7](https://www.modelscope.cn/models/ZhipuAI/GLM-4.7) |
| msmodelslim 操作指引  | https://blog.csdn.net/qq_37368095/article/details/156429653 |
| 精度测试机型  | 800T A3|
| 版本  | vllm-ascend 0.13.0.rc1 |


## 2 量化过程：
* 本模型使用[GLM 4.7W8A8量化模型](https://www.modelscope.cn/models/Eco-Tech/GLM-4.7-W8A8/summary)并叠加BF16精度的MTP，详细操作参考：
 [量化操作指导](https://blog.csdn.net/qq_37368095/article/details/156429653)


## 3 精度测试结果

| 模型名 |  量化格式 | 数据集 | 测试精度 % |
|:------:|:------:|:------:|:------:|
| GLM-4.7-W8A8-floatmtp | w8a8 | ceval | 91.76 |
| GLM-4.7-W8A8-floatmtp | w8a8 | mmlu | 91.02 |
| GLM-4.7-W8A8-floatmtp | w8a8 | gsm8k | 96.66 |
* 精度存在波动，建议多次测试。