---
title: RAG.axera
canonical_url: "https://www.modelscope.cn/models/AXERA-TECH/RAG.axera"
md_url: "https://www.modelscope.cn/models/AXERA-TECH/RAG.axera.md"
repository: AXERA-TECH/RAG.axera
last_updated: 2026-07-18
license: mit
library_name:
  - pytorch
frameworks:
  - pytorch
downloads: 73
stars: 0
---

# RAG.axera

> RAG.axera - AXERA-TECH 在 ModelScope 开源的模型。在 AXCL 机器或 AX650 开发板上启动两个终端界面, 分别运行下面的命令:

AXERA-TECH/RAG.axera 是 ModelScope 魔搭社区上的机器学习模型，采用 mit 许可。

- **Repository**: AXERA-TECH/RAG.axera
- **License**: mit
- **Downloads**: 73
- **Stars**: 0
- **Last updated**: 2026-07-18

Source: https://www.modelscope.cn/models/AXERA-TECH/RAG.axera

---

# RAG.AXERA DEMO

![rag_demo](assets/demo.png)

## 项目说明

```sh
(hf) ➜  rag.axera git:(main) ✗ tree -L 2
.
├── assets
│   └── demo.png
├── config.py     # 配置 axmodel, tokenizer 文件路径
├── data
├── gui.py        # RAG 交互式程序 
├── index         # 文档编码向量索引保存位置
│   ├── docs.index
│   └── docs.pkl
├── llm_api.py    # llm 主程序 
├── models        # axmodel 模型存储位置
│   ├── Qwen2.5-1.5B-Instruct_axmodel
│   └── Qwen3-Embedding-0.6B_axmodel
├── pdf_sample    # 示例 pdf 文件
│   └── introduction.pdf
├── rag_engine.py # 文档向量编码程序 
├── README.md
├── requirements.txt
├── tokenizer
│   ├── Qwen2.5-1.5B-Instruct
│   └── Qwen3-Embedding-0.6B
└── utils
    └── infer_func.py

11 directories, 11 files
```

## 运行

在 `AXCL` 机器或 `AX650` 开发板上启动两个终端界面, 分别运行下面的命令:

```sh
python3 llm_api.py # 在 AX650 或 AXCL 开发板启动 llm 服务
python3 gui.py     # 启动交互式界面
```
