---
title: Paraformer-GGUF
canonical_url: "https://www.modelscope.cn/models/FunAudioLLM/Paraformer-GGUF"
md_url: "https://www.modelscope.cn/models/FunAudioLLM/Paraformer-GGUF.md"
repository: FunAudioLLM/Paraformer-GGUF
chinese_name: "Paraformer GGUF"
last_updated: 2026-06-21
license: "Apache License 2.0"
pipeline_tag: auto-speech-recognition
tasks:
  - auto-speech-recognition
library_name:
  - gguf
downloads: 623
stars: 0
tags:
  - gguf
---

# Paraformer-GGUF

> Paraformer-GGUF - FunAudioLLM 在 ModelScope 开源的模型。Paraformer-GGUF(Paraformer GGUF)

FunAudioLLM/Paraformer-GGUF 是 ModelScope 魔搭社区上的auto-speech-recognition模型，采用 Apache License 2.0 许可。

- **Repository**: FunAudioLLM/Paraformer-GGUF
- **License**: Apache License 2.0
- **Tasks**: auto-speech-recognition
- **Tags**: gguf
- **Downloads**: 623
- **Stars**: 0
- **Last updated**: 2026-06-21

Source: https://www.modelscope.cn/models/FunAudioLLM/Paraformer-GGUF

---

# Paraformer-GGUF(Paraformer GGUF)

Paraformer-large(非自回归)的 GGUF 量化版,工业级中文 ASR。用于**零 Python、CPU/边缘**的 [FunASR llama.cpp 运行时](https://github.com/modelscope/FunASR/tree/main/runtime/llama.cpp)——像 whisper.cpp 一样的单文件二进制,中文 CER 约为 whisper.cpp 的 1/3。

## 安装 / 运行(无需 Python、无需编译)
1. 从 GitHub Releases 下预编译二进制(Linux / macOS / Windows):https://github.com/modelscope/FunASR/releases (tag `runtime-llamacpp-v*`)
2. 一站式下载与 quickstart:https://www.funasr.com/llama-cpp
3. 拉模型并运行:
```bash
bash download-funasr-model.sh paraformer ./gguf
llama-funasr-paraformer -m ./gguf/paraformer-q8.gguf --vad ./gguf/fsmn-vad.gguf -a audio.wav
```

## 文件
| 文件 | 大小 |
|---|---|
| `paraformer-f16.gguf` | 435 MB |
| `paraformer-q8.gguf` | 237 MB |

## ⭐ 开源,觉得有用请点 Star 支持
- FunASR: https://github.com/modelscope/FunASR
- SenseVoice: https://github.com/FunAudioLLM/SenseVoice
- Fun-ASR: https://github.com/FunAudioLLM/Fun-ASR
- FunClip: https://github.com/modelscope/FunClip