---
title: Fun-ASR-Nano-GGUF
canonical_url: "https://www.modelscope.cn/models/FunAudioLLM/Fun-ASR-Nano-GGUF"
md_url: "https://www.modelscope.cn/models/FunAudioLLM/Fun-ASR-Nano-GGUF.md"
repository: FunAudioLLM/Fun-ASR-Nano-GGUF
chinese_name: "Fun-ASR-Nano GGUF"
last_updated: 2026-06-21
license: "Apache License 2.0"
pipeline_tag: auto-speech-recognition
tasks:
  - auto-speech-recognition
library_name:
  - gguf
downloads: 3511
stars: 11
tags:
  - gguf
---

# Fun-ASR-Nano-GGUF

> Fun-ASR-Nano-GGUF - FunAudioLLM 在 ModelScope 开源的模型。Fun-ASR-Nano-GGUF(Fun-ASR-Nano GGUF)

FunAudioLLM/Fun-ASR-Nano-GGUF 是 ModelScope 魔搭社区上的auto-speech-recognition模型，采用 Apache License 2.0 许可。

- **Repository**: FunAudioLLM/Fun-ASR-Nano-GGUF
- **License**: Apache License 2.0
- **Tasks**: auto-speech-recognition
- **Tags**: gguf
- **Downloads**: 3511
- **Stars**: 11
- **Last updated**: 2026-06-21

Source: https://www.modelscope.cn/models/FunAudioLLM/Fun-ASR-Nano-GGUF

---

# Fun-ASR-Nano-GGUF(Fun-ASR-Nano GGUF)

Fun-ASR-Nano(SenseVoice 编码器 + Qwen3-0.6B LLM)的 GGUF 量化版,LLM-ASR,31 语种。用于**零 Python、CPU/边缘**的 [FunASR llama.cpp 运行时](https://github.com/modelscope/FunASR/tree/main/runtime/llama.cpp)——像 whisper.cpp 一样的单文件二进制,中文 CER 约为 whisper.cpp 的 1/3。

## 安装 / 运行(无需 Python、无需编译)
1. 从 GitHub Releases 下预编译二进制(Linux / macOS / Windows):https://github.com/modelscope/FunASR/releases (tag `runtime-llamacpp-v*`)
2. 一站式下载与 quickstart:https://www.funasr.com/llama-cpp
3. 拉模型并运行:
```bash
bash download-funasr-model.sh nano ./gguf
llama-funasr-cli --enc ./gguf/funasr-encoder-f16.gguf -m ./gguf/qwen3-0.6b-q8_0.gguf --vad ./gguf/fsmn-vad.gguf -a audio.wav
```

## 文件
| 文件 | 大小 |
|---|---|
| `funasr-encoder-f16.gguf` | 469 MB |
| `qwen3-0.6b-q4km.gguf` | 484 MB |
| `qwen3-0.6b-q8_0.gguf` | 805 MB |

## ⭐ 开源,觉得有用请点 Star 支持
- FunASR: https://github.com/modelscope/FunASR
- SenseVoice: https://github.com/FunAudioLLM/SenseVoice
- Fun-ASR: https://github.com/FunAudioLLM/Fun-ASR
- FunClip: https://github.com/modelscope/FunClip