---
title: FunASR-nano-onnx
canonical_url: "https://www.modelscope.cn/models/zengshuishui/FunASR-nano-onnx"
md_url: "https://www.modelscope.cn/models/zengshuishui/FunASR-nano-onnx.md"
repository: zengshuishui/FunASR-nano-onnx
last_updated: 2026-06-04
license: apache-2.0
base_model:
  - FunAudioLLM/Fun-ASR-Nano-2512
base_model_relation: quantized
parameters: 751.6M
tensor_type:
  - BF16
library_name:
  - onnx
  - safetensors
frameworks:
  - onnx
downloads: 1087
stars: 14
tags:
  - Fun-ASR-Nano
  - ASR
  - ONNX
---

# FunASR-nano-onnx

> FunASR-nano-onnx - zengshuishui 在 ModelScope 开源的模型。FunASR-Nano模型的ONNX模型

zengshuishui/FunASR-nano-onnx 是 ModelScope 魔搭社区上的 751.6M 参数机器学习模型，采用 apache-2.0 许可，基于 FunAudioLLM/Fun-ASR-Nano-2512 构建。

- **Repository**: zengshuishui/FunASR-nano-onnx
- **License**: apache-2.0
- **Parameters**: 751.6M
- **Base model**: FunAudioLLM/Fun-ASR-Nano-2512
- **Tags**: Fun-ASR-Nano, ASR, ONNX
- **Downloads**: 1087
- **Stars**: 14
- **Last updated**: 2026-06-04

Source: https://www.modelscope.cn/models/zengshuishui/FunASR-nano-onnx

---

# ONNX Models

本目录包含 FunASR-Nano 的 ONNX 模型文件。

## 模型文件

- `encoder_adaptor.onnx` / `encoder_adaptor.int8.onnx`    
- `llm_fp32/llm.fp32.onnx`、`llm_int8/llm.int8.onnx`、`llm_fp16/llm.fp16.onnx`
- `embedding.onnx` / `embedding.int8.onnx`


## 获取与导出
- 代码导出与 Python 推理 demo：<https://github.com/Wasser1462/FunASR-nano-onnx>
- 若需重新导出，修改该仓库的 `scripts/run.sh` 路径后运行。

## C++ 推理
参考 sherpa-onnx：<https://github.com/k2-fsa/sherpa-onnx>

## llm_int8_compat（AVX2-only 兼容版）
部分 **AVX2-only** 的 CPU 环境下，原始 `llm_int8/llm.int8.onnx` 可能出现推理数值异常，导致转写结果“崩坏”（重复词、乱码等）。  
为兼容此类机器，提供 `llm_int8_compat` 目录下的 INT8 兼容模型（包含多个候选版本，可按需替换 `llm_int8/llm.int8.onnx` 使用）：

- `llm.int8.onnx`（默认兼容版）
- `llm.int8.u8s8.rr.onnx`（备选兼容版）