---
title: moonshine-tiny-ar-int8-onnx
canonical_url: "https://www.modelscope.cn/models/manyeyes/moonshine-tiny-ar-int8-onnx"
md_url: "https://www.modelscope.cn/models/manyeyes/moonshine-tiny-ar-int8-onnx.md"
repository: manyeyes/moonshine-tiny-ar-int8-onnx
chinese_name: "moonshine-tiny-语音识别-阿拉伯语-int8-onnx模型"
last_updated: 2026-04-26
license: mit
pipeline_tag: auto-speech-recognition
tasks:
  - auto-speech-recognition
library_name:
  - onnx
frameworks:
  - onnx
language:
  - ar
downloads: 1
stars: 0
tags:
  - pytorch
  - onnx
  - int8
  - quantization
  - automatic-speech-recognition
  - audio
  - edge-device
---

# moonshine-tiny-ar-int8-onnx

> moonshine-tiny-ar-int8-onnx - manyeyes 在 ModelScope 开源的模型。Moonshine-Tiny-AR-INT8-ONNX 阿拉伯语语音识别模型（INT8 量化版）

manyeyes/moonshine-tiny-ar-int8-onnx 是 ModelScope 魔搭社区上的auto-speech-recognition模型，采用 mit 许可。

- **Repository**: manyeyes/moonshine-tiny-ar-int8-onnx
- **License**: mit
- **Tasks**: auto-speech-recognition
- **Tags**: pytorch, onnx, int8, quantization, automatic-speech-recognition, audio, edge-device
- **Downloads**: 1
- **Stars**: 0
- **Last updated**: 2026-04-26

Source: https://www.modelscope.cn/models/manyeyes/moonshine-tiny-ar-int8-onnx

---

# Moonshine-Tiny-AR-INT8-ONNX 阿拉伯语语音识别模型（INT8 量化版）

## 模型描述

本仓库提供阿拉伯语（Arabic）Moonshine Tiny ASR 模型的 **INT8 静态量化 ONNX 版本**。该模型在 FP32 ONNX 版本的基础上进行 INT8 量化，经过精心优化的校准策略，将模型体积从约 190 MB 压缩至约 **42 MB**，内存占用降低约 **78%**，推理速度提升约 **28%**，而 WER（词错误率）退化小于 1%（接近无损），非常适合树莓派、移动设备、嵌入式 Linux 等资源极其受限的边缘部署场景。

Moonshine 是 Moonshine AI（原 Useful Sensors）开发的 ASR 模型家族，专门为实时转录和语音命令识别场景优化。本研究在 **Flavors of Moonshine: Tiny Specialized ASR Models for Edge Devices** 中提出，对于 27M 参数量级的模型，在精心平衡的多源数据上训练可以获得远超多语言通用模型的表现[reference:10]。

**主要规格：**

| 属性 | 说明 |
|:---|:---|
| 基础架构 | Moonshine Tiny AR（6 层 Transformer，RoPE 位置编码） |
| 参数量 | ~2700 万 |
| 模型大小（FP32）| ~190 MB |
| 模型大小（INT8 动态量化）| ~42 MB |
| 量化方案 | INT8 动态量化（ONNX Runtime） |
| 支持语言 | **阿拉伯语 (Arabic)** |
| 开源协议 | MIT License |

## 适用场景

- **极端资源受限的设备**：树莓派 4/5、ARM Cortex‑A 系列处理器等内存 < 256 MB 的边缘设备
- **移动端离线 ASR**：Android/iOS 应用中集成本地阿拉伯语听写，内存占用约 50 MB
- **Web 浏览器端实时转录**：通过 ONNX Runtime Web + INT8 量化，实现完全客户端运行的语音转文字
- **批量离线转录服务**：在低功耗边缘服务器上提供高吞吐量的转录服务
- **隐私保护语音应用**：所有计算完全在本地完成，数据不离开用户设备

**性能优势：**
- 内存占用仅 **~42 MB**（相比 FP32 减少约 78%）
- 推理速度提升约 **28%**
- 精度损失极小，WER 退化 < 1%
- 非常适合与语音活动检测（VAD）配合，处理实时音频流

**限制与不足：**
- 本模型**仅支持阿拉伯语**，对于非阿拉伯语内容效果无法保证
- 在强背景噪声、特定方言口音或远场录音环境下，识别准确率可能会下降
- 极短的音频片段可能产生“幻觉”文本，建议应用层配合 VAD 使用以缓解[reference:11]
- 序列到序列架构容易产生重复文本，可通过束搜索和温度调度进行部分缓解[reference:12]
- 模型具有潜在的双重用途风险，请务必在法律和道德允许的范围内使用[reference:13]

## ONNX 模型结构

与 FP32 版本一致，模型由两个 ONNX 组件构成，均已应用 INT8 动态量化：

| 组件 | 文件名 | 功能 |
|:---|:---|:---|
| **Encoder** | `encoder_model.onnx` | 音频编码为隐藏状态 |
| **Decoder** | `decoder_model_merged.onnx` | 自回归生成文本 Token |

解码器使用 Key-Value 缓存机制避免注意力重复计算，大幅提升推理效率。