---
title: amlnn-adla-models
canonical_url: "https://www.modelscope.cn/models/Amlogic/amlnn-adla-models"
md_url: "https://www.modelscope.cn/models/Amlogic/amlnn-adla-models.md"
repository: Amlogic/amlnn-adla-models
last_updated: 2026-09-24
pipeline_tag: text-generation
tasks:
  - text-generation
downloads: 0
stars: 0
---

# amlnn-adla-models

> amlnn-adla-models - Amlogic 在 ModelScope 开源的模型。Amlogic ADLA 模型仓库（Amlogic/amlnn-adla-models）

- **Repository**: Amlogic/amlnn-adla-models
- **Tasks**: text-generation
- **Downloads**: 0
- **Stars**: 0
- **Last updated**: 2026-09-24

Source: https://www.modelscope.cn/models/Amlogic/amlnn-adla-models

---

# Amlogic ADLA 模型仓库（Amlogic/amlnn-adla-models）

面向 Amlogic 芯片的 **ADLA** 格式推理模型权重仓库（LLM / VLM / ASR），供
[amlllm-openai-server](https://github.com/Amlogic-NN/amlogic-llm-server) 的
`bootstrap` 直接 `list` / `download` 使用。


## 模型清单

表头说明：**思考** = 模型自带思考/推理模式；**工具** = 支持 Function Calling；
**多模态** = 需配合 `mmproj` 接受图片输入；**上下文** = 建议上下文窗口（tokens）。

### LLM（文本）

| 模型 | 家族 | 思考 | 工具 | 上下文 | 权重文件 | 大小 |
|---|---|---|---|---|---|---|
| Qwen2.5-1.5B-Instruct | Qwen2.5 | — | ✅ | 8192 | `Qwen2.5-1.5B-Instruct-Q4AM_PB32.adla` | 1012 MiB |
| Qwen2.5-3B-Instruct | Qwen2.5 | — | ✅ | 8192 | `Qwen2.5-3B-Instruct-Q4AM_PB32.adla` | 1.90 GiB |
| Qwen3-0.6B | Qwen3 | ✅ | ✅ | 8192 | `Qwen3-0.6B-Q4AM_PB32.adla` | 550 MiB |
| Qwen3-1.7B | Qwen3 | ✅ | ✅ | 8192 | `Qwen3-1.7B-Q4AM_PB32.adla` | 1.28 GiB |
| Qwen3-4B | Qwen3 | ✅ | ✅ | 8192 | `Qwen3-4B-Q4AM_PB32.adla` | 2.49 GiB |
| Qwen3-4B-Instruct-2507 | Qwen3 | — | ✅ | 8192 | `Qwen3-4B-Instruct-2507-Q4AM_PB32.adla` | 2.49 GiB |

> Qwen3 系列为混合推理模型：不带 `Instruct` 后缀的（Qwen3-0.6B/1.7B/4B）默认具备思考模式，
> `Instruct-2507` 为不思考（non-thinking）变体。

### VLM（多模态）

每个模型由 **主权重 + `mmproj` 视觉投影器** 两个文件组成，两者必须放在同一目录。

| 模型 | 家族 | 工具 | 上下文 | 主权重 | mmproj | 合计 |
|---|---|---|---|---|---|---|
| InternVL2-1B | InternVL2 | — | 8192 | `InternVL2-1B-Q4AM_PB32.adla` | `InternVL2-1B_mmproj-Q4A_PB32.adla` | 656 MiB |
| InternVL3-1B-Instruct | InternVL3 | — | 8192 | `InternVL3-1B-Instruct-Q4AM_PB32.adla` | `InternVL3-1B-Instruct.mmproj-Q4A_PB32.adla` | 656 MiB |
| Qwen2-VL-2B-Instruct-bartowski | Qwen2-VL | ✅ | 8192 | `Qwen2-VL-2B-Instruct-bartowski-Q4AM_PB32.adla` | `Qwen2-VL-2B-Instruct.mmproj-bartowski-Q4A_PB32.adla` | 1.71 GiB |
| Qwen2.5-VL-3B-Instruct-unsloth | Qwen2.5-VL | ✅ | 8192 | `Qwen2.5-VL-3B-Instruct-unsloth-Q4AM_PB32.adla` | `Qwen2.5-VL-3B-Instruct.mmproj-unsloth-Q4A_PB32.adla` | 2.89 GiB |
| Qwen3-VL-2B-Instruct | Qwen3-VL | ✅ | 8192 | `Qwen3-VL-2B-Instruct-Q4AM_PB32.adla` | `Qwen3-VL-2B-Instruct_mmproj-Q4A_PB32.adla` | 1.82 GiB |
| Qwen3-VL-4B-Instruct | Qwen3-VL | ✅ | 8192 | `Qwen3-VL-4B-Instruct-Q4AM_PB32.adla` | `Qwen3-VL-4B-Instruct_mmproj-Q4A_PB32.adla` | 3.28 GiB |

### ASR（语音识别）

每个模型一个子目录，目录内自带 `model.json`，`metadata.jsonl` 的 `dir` 即该目录名。

| 模型 | 类型 | 权重 | 附件 | 合计 |
|---|---|---|---|---|
| sensevoice-small | sensevoice | `sensevoice_small_w8a16_A311Y3.adla` | `tokens.txt` | 246 MiB |
| whisper-large-v3-turbo | whisper | `whisper_turbo_encoder_w4a16_A311Y3.adla` | `whisper_turbo_decoder_w4a16_A311Y3.adla`、`data_bin/`（`data.bin` + `tokenizer_info.bin`） | 1.81 GiB |

## 快速开始

在 `amlllm-openai-server` 仓库中执行（依赖由 uv 自动安装）：

```bash
# 1. 查看可下载的模型（默认仓库即本仓库）
uv run -m amlllm_openai_server.bootstrap list

# 2. 下载某个模型（按名称，或按列表中的行号）
uv run -m amlllm_openai_server.bootstrap download Qwen3-4B-Instruct-2507
uv run -m amlllm_openai_server.bootstrap download Qwen3-VL-4B-Instruct
uv run -m amlllm_openai_server.bootstrap download whisper-large-v3-turbo
uv run -m amlllm_openai_server.bootstrap download sensevoice-small

# 可选参数
#   -t/--target     工作目录（默认当前目录）      -m/--model_dir   模型目录（默认 <target>/models）
#   -c/--config_dir 配置目录（默认 <target>/config）  -f/--force       覆盖已存在文件
#   --host/--port   写入 server.yaml 的监听地址     --baseurl        指定其它仓库
```

下载完成后目录形如（每个模型独占一个 `models/<dir>/`，一个目录一份 `model.json`）：

```text
models/
├── Qwen3-4B-Instruct-2507/
│   ├── Qwen3-4B-Instruct-2507-Q4AM_PB32.adla
│   └── model.json
├── Qwen3-VL-4B-Instruct/
│   ├── Qwen3-VL-4B-Instruct-Q4AM_PB32.adla
│   ├── Qwen3-VL-4B-Instruct_mmproj-Q4A_PB32.adla
│   └── model.json
└── whisper-large-v3-turbo/
    ├── whisper_turbo_encoder_w4a16_A311Y3.adla
    ├── whisper_turbo_decoder_w4a16_A311Y3.adla
    ├── data_bin/{data.bin, tokenizer_info.bin}
    └── model.json
```

`config/server.yaml` 的 `models.enabled` 会被自动追加下载过的目录名，例如：

```yaml
models:
  root_dir: "../models"
  enabled:
    - Qwen3-4B-Instruct-2507
    - Qwen3-VL-4B-Instruct
    - whisper-large-v3-turbo
```

`enabled` 填的是**目录名**，而请求时 `model=` 用的是 `model.json` 里的 `id`。


## 说明

- 各模型的上游授权与使用条款请遵循其原始发布方（Qwen / InternVL / OpenAI Whisper 等）。
- 权重为 Amlogic ADLA 编译产物，**不能**用通用推理框架（transformers / llama.cpp 等）直接加载，
  需要在 Amlogic 设备上通过 `amlllm-openai-server` 运行。