---
title: LFM3-Omni-2B-MNN
canonical_url: "https://www.modelscope.cn/models/MNN/LFM3-Omni-2B-MNN"
md_url: "https://www.modelscope.cn/models/MNN/LFM3-Omni-2B-MNN.md"
repository: MNN/LFM3-Omni-2B-MNN
last_updated: 2026-11-17
license: other
pipeline_tag: any-to-any
tasks:
  - any-to-any
base_model:
  - LiquidAI/LFM3-Omni-2B
base_model_relation: quantized
library_name:
  - mnn
frameworks:
  - MNN
downloads: 13
stars: 1
tags:
  - mnn
  - quantized
  - hqq
  - int4
---

# LFM3-Omni-2B-MNN

> LFM3-Omni-2B-MNN - MNN 在 ModelScope 开源的模型。原始模型 · Hugging Face · ModelScope · MNN

MNN/LFM3-Omni-2B-MNN 是 ModelScope 魔搭社区上的any-to-any模型，采用 other 许可，基于 LiquidAI/LFM3-Omni-2B 构建。

- **Repository**: MNN/LFM3-Omni-2B-MNN
- **License**: other
- **Tasks**: any-to-any
- **Base model**: LiquidAI/LFM3-Omni-2B
- **Tags**: mnn, quantized, hqq, int4
- **Downloads**: 13
- **Stars**: 1
- **Last updated**: 2026-11-17

Source: https://www.modelscope.cn/models/MNN/LFM3-Omni-2B-MNN

---

# LFM3-Omni-2B-MNN

[原始模型](https://huggingface.co/LiquidAI/LFM3-Omni-2B) · [Hugging Face](https://huggingface.co/taobao-mnn/LFM3-Omni-2B-MNN) · [ModelScope](https://modelscope.cn/models/MNN/LFM3-Omni-2B-MNN) · [MNN](https://github.com/alibaba/MNN)

Liquid AI LFM3 系列的多模态模型。本仓库提供其 MNN 量化版本。

## 模型信息

| 项目 | 配置 |
| --- | --- |
| 输入 / 输出 | 文本、图片、视频帧、语音 / 文本、语音 |
| 语言权重、输出头与共享词嵌入 | HQQ INT4，分组 64，FP16 尺度 |
| 视觉编码器 | INT8 |
| 音频编码器 | INT8 |
| 语音 depth / codec | FP16 |
| 音频嵌入 | BF16 |
| 默认运行配置 | CPU，4 线程，`precision=low`，`memory=low` |

模型文件包括 `llm.mnn` / `llm.mnn.weight`（语言模型）、`tokenizer.mtok`（分词器）、`config.json` / `llm_config.json`（配置）、`visual.mnn` / `visual.mnn.weight`（视觉编码器）、`audio.mnn`、`depth.mnn`、`codec.mnn` 及对应权重、`audio_embeddings_bf16.bin`（语音模块）。下载时保留完整目录。

## 下载

Hugging Face：

```bash
hf download taobao-mnn/LFM3-Omni-2B-MNN --local-dir ./LFM3-Omni-2B-MNN
```

ModelScope：

```bash
modelscope download --model MNN/LFM3-Omni-2B-MNN --local_dir ./LFM3-Omni-2B-MNN
```

## 运行

使用包含 LFM3 支持的以下 MNN 提交：

```bash
git clone https://github.com/alibaba/MNN.git
git -C MNN checkout 5085d56221b939b8fd5e52885d2a4f295c6bbcc6
cmake -S MNN -B MNN/build -DMNN_BUILD_LLM=ON -DMNN_LOW_MEMORY=ON \
  -DMNN_SUPPORT_TRANSFORMER_FUSE=ON \
  -DMNN_BUILD_AUDIO=ON -DMNN_BUILD_OPENCV=ON -DMNN_IMGCODECS=ON
cmake --build MNN/build --target llm_demo -j4
cd LFM3-Omni-2B-MNN
printf '%s\n' '<img>/path/to/image.jpg</img>Describe this image.' > prompt.txt
../MNN/build/llm_demo config.json prompt.txt
```

Apple Silicon 使用 Metal 时，编译加 `-DMNN_METAL=ON`，并将 `config.json` 的 `backend_type` 设为 `metal`。 `mllm` 子配置保留 CPU。

视频帧通过 `MultimodalPrompt` 输入。

语音合成调用 `Llm::generateTTS`，通过 `setWavformCallback` 接收 24 kHz 波形。

采样参数在 `config.json` 中调整。应用集成见 [MNN-LLM 文档](https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html)。

## 验证与导出

2026-11-17，macOS Apple Silicon。英文语音识别：CPU 与 Metal 冒烟测试通过；Metal 图片问答、语音合成、图文语音联合输入与合成后回识别测试通过。视频输入使用静态图片重复帧。中文交错输出用例出现文字与语音不一致，原始模型和 MNN 均有此现象。

来源版本、量化信息与测试记录见 [conversion_manifest.json](conversion_manifest.json)。

## 许可证

采用上游 [LFM Open License v1.0](LICENSE)。商业使用条件见许可证第 5 节。
