---
title: chatglm3-6b-ggml
canonical_url: "https://www.modelscope.cn/models/tiansz/chatglm3-6b-ggml"
md_url: "https://www.modelscope.cn/models/tiansz/chatglm3-6b-ggml.md"
repository: tiansz/chatglm3-6b-ggml
last_updated: 2023-11-03
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
library_name:
  - pytorch
frameworks:
  - Pytorch
downloads: 727
stars: 7
---

# chatglm3-6b-ggml

> chatglm3-6b-ggml - tiansz 在 ModelScope 开源的模型。该模型是 chatglm3-6b 的 ggml 型号模型的仓库，其中 chatglm3-6b 展示了不错的性能，但我仍然想使用更低的资源加载该模型，并且性能仍然不损失，这时候我们就要了解 ggml 仓库了。ggml 实现了 C++ 的模型推理，相比 python 推理有了更低的资源消耗以及更快的推理速度，但模型调用方式以及环境配置有些复杂，但仍然推荐学习

tiansz/chatglm3-6b-ggml 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可。

- **Repository**: tiansz/chatglm3-6b-ggml
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Downloads**: 727
- **Stars**: 7
- **Last updated**: 2023-11-03

Source: https://www.modelscope.cn/models/tiansz/chatglm3-6b-ggml

---

#### Clone with HTTP
```bash
 git clone https://www.modelscope.cn/tiansz/chatglm3-6b-ggml.git
```



该模型是 chatglm3-6b 的 ggml 型号模型的仓库，其中 chatglm3-6b 展示了不错的性能，但我仍然想使用更低的资源加载该模型，并且性能仍然不损失，这时候我们就要了解 ggml 仓库了。ggml 实现了 C++ 的模型推理，相比 python 推理有了更低的资源消耗以及更快的推理速度，但模型调用方式以及环境配置有些复杂，但仍然推荐学习