---
title: moonshine-tiny-int8-onnx
canonical_url: "https://www.modelscope.cn/models/manyeyes/moonshine-tiny-int8-onnx"
md_url: "https://www.modelscope.cn/models/manyeyes/moonshine-tiny-int8-onnx.md"
repository: manyeyes/moonshine-tiny-int8-onnx
chinese_name: "moonshine-tiny-语音识别-英文-int8-onnx模型"
last_updated: 2026-04-25
license: mit
pipeline_tag: auto-speech-recognition
tasks:
  - auto-speech-recognition
library_name:
  - onnx
frameworks:
  - onnx
language:
  - en
downloads: 1
stars: 0
tags:
  - pytorch
  - onnx
  - int8
  - quantization
  - automatic-speech-recognition
  - audio
  - edge-device
---

# moonshine-tiny-int8-onnx

> moonshine-tiny-int8-onnx - manyeyes 在 ModelScope 开源的模型。Moonshine-Tiny-INT8-ONNX 英文语音识别模型

manyeyes/moonshine-tiny-int8-onnx 是 ModelScope 魔搭社区上的auto-speech-recognition模型，采用 mit 许可。

- **Repository**: manyeyes/moonshine-tiny-int8-onnx
- **License**: mit
- **Tasks**: auto-speech-recognition
- **Tags**: pytorch, onnx, int8, quantization, automatic-speech-recognition, audio, edge-device
- **Downloads**: 1
- **Stars**: 0
- **Last updated**: 2026-04-25

Source: https://www.modelscope.cn/models/manyeyes/moonshine-tiny-int8-onnx

---

# Moonshine-Tiny-INT8-ONNX 英文语音识别模型

## 模型介绍

本模型是 Moonshine Tiny 的 **INT8 量化 ONNX 版本**，极大降低了模型对硬件资源的消耗，专为部署在计算能力极为有限的设备（如嵌入式系统、MCU等）上，在保持 Tiny 模型原有识别精度的情况下，进一步减少内存占用。

- **模型参数量**：约 **2700万**（Moonshine Tiny 版本）[reference:0]
- **模型大小（INT8 量化）**：约 **50MB/42MB（FP32 ~190 MB）**[reference:1][reference:2]
- **支持语言**：仅限英文
- **部署框架**：ONNX Runtime
- **开源协定**：MIT License

## 模型架构与特点

Moonshine 是专为端侧场景设计的语音识别模型，与通用型模型 Whisper（强制30秒分块）不同，它的计算量随音频长度线性增长，在短音频场景下速度优势十分明显[reference:3][reference:4]：

- **可变长度输入**：支持任意长度音频，无需强制分块，避免不必要的填充计算[reference:5]。
- **低延迟**：在树莓派等低功耗平台处理10秒音频，延迟约为 50-150ms，远低于 Whisper 的 500-1500ms[reference:6]。
- **部署灵活**：支持 ONNX/TFLite/CoreML 导出，方便部署到不同硬件平台[reference:7]。
- **INT8优化**：动态/静态量化将模型体积从约 190MB（FP32）降至约 50MB（INT8），内存占用降低 70% 以上[reference:8]。

## 评估结果

### 精度表现
| 模型 | WER (LibriSpeech test-clean) | 推理速度 (10秒音频) |
| :--- | :--- | :--- |
| moonshine-tiny (FP32) | 约 3-5%*[reference:9] | 基准 (1x) |
| **moonshine-tiny-int8 (本模型)** | **约 3-5%** (精度损失可忽略) | **提升 30%+**[reference:10] |

*注：基于论文描述推测，具体以实测为准。

### 设备端推理效率
Moonshine Tiny ONNX (INT8) 在典型边缘设备上的表现：
- **内存占用**: ≤ 128MB[reference:11]
- **适用平台**: Android, iOS, Raspberry Pi (4/5), ARM Linux 及 x86 设备[reference:12][reference:13]
- **INT8 量化速度提升**: 相比 FP32 ONNX 模型，提升约 28%[reference:14]。