---
title: PaddleOCR-VL-1.5-GGUF
canonical_url: "https://www.modelscope.cn/models/megemini/PaddleOCR-VL-1.5-GGUF"
md_url: "https://www.modelscope.cn/models/megemini/PaddleOCR-VL-1.5-GGUF.md"
repository: megemini/PaddleOCR-VL-1.5-GGUF
chinese_name: megemini/PaddleOCR-VL-1.5-GGUF
last_updated: 2026-03-24
license: "Apache License 2.0"
pipeline_tag: image-text-to-text
tasks:
  - image-text-to-text
base_model:
  - PaddlePaddle/PaddleOCR-VL-1.5
base_model_relation: repackage
library_name:
  - gguf
  - pytorch
frameworks:
  - Pytorch
downloads: 4000
stars: 7
---

# PaddleOCR-VL-1.5-GGUF

> PaddleOCR-VL-1.5-GGUF - megemini 在 ModelScope 开源的模型。PaddleOCR-VL-1.5 GGUF for llama.cpp

megemini/PaddleOCR-VL-1.5-GGUF 是 ModelScope 魔搭社区上的image-text-to-text模型，采用 Apache License 2.0 许可，基于 PaddlePaddle/PaddleOCR-VL-1.5 构建。

- **Repository**: megemini/PaddleOCR-VL-1.5-GGUF
- **License**: Apache License 2.0
- **Tasks**: image-text-to-text
- **Base model**: PaddlePaddle/PaddleOCR-VL-1.5
- **Downloads**: 4000
- **Stars**: 7
- **Last updated**: 2026-03-24

Source: https://www.modelscope.cn/models/megemini/PaddleOCR-VL-1.5-GGUF

---

## 20260324

### Q&A

- 问：这到底是一个什么模型？

答：建议先看一下 [PaddleOCR-VL-1.5](https://modelscope.cn/models/PaddlePaddle/PaddleOCR-VL-1.5/)

然后，搞明白 PaddleOCR、PaddleOCR-VL、PaddleOCR-VL-1.5 的关系：

- [PaddleOCR](https://github.com/PaddlePaddle/PaddleOCR)，是一个 PaddlePaddle 发布的 OCR 的工具（集），这个工具集成了很多的 OCR 模型，并针对实际应用场景做了很多的前、后处理，也就是 pipeline。
- PaddleOCR-VL，是 PaddlePaddle 发布的一个 `vlm` 架构的 OCR 模型。因此，需要明确两点：1. 这是个模型，不是个工具（集）；2. 这是个 `vlm` 架构的模型，因此，理论上，怎么使用大模型（prompt），就怎么使用 PaddleOCR-VL；大模型输出什么，PaddleOCR-VL 就输出什么。
- PaddleOCR-VL-1.5，是 PaddleOCR-VL 的下一个版本，主要区别是，支持了更多的 prompt。

最后，这个项目是 PaddleOCR-VL-1.5 的 llama.cpp 使用的 GGUF 格式的文件，不是工具（集）。

- 问：为什么输出的是一些乱七八糟的格式？

答：看第一个问题。

- 问：怎么输出 markdown 格式的输出？

答：看第一个问题。

- 问：为什么输出错误？

答：可以把 PaddleOCR-VL 理解为 `小模型`，因此，小模型存在的问题，它也存在，比如，有可能出现答非所问的情况（prompt 错误等导致）；有可能出现 non-stop loop 的情况。

## 20260310

PaddleOCR 官方在 HF 上传了更新后的模型 https://huggingface.co/PaddlePaddle/PaddleOCR-VL-1.5-GGUF

此 repo 也已更新，目前使用 `llama-server` 可以不使用 `--chat-template-file` 参数。

---

[PaddleOCR-VL-1.5](https://modelscope.cn/models/PaddlePaddle/PaddleOCR-VL-1.5/) GGUF for llama.cpp

PR: https://github.com/ggml-org/llama.cpp/pull/18825

**注意** 使用 `llama-server` 命令时如果报错，可使用 `--chat-template-file=path/to/chat_template_llama.jinja`，参考如下命令：

```shell
./build/bin/llama-server -m PaddleOCR-VL-1.5-GGUF.gguf \
  --mmproj PaddleOCR-VL-1.5-GGUF-mmproj.gguf \
  --port 8111 --host 0.0.0.0 --ctx-size 131072 -n 4096 --temp 0 --jinja \
  --chat-template-file chat_template_llama.jinja
```

使用图章图片进行测试：

![](https://ai-studio-static-online.cdn.bcebos.com/d3ec8a6e486b4749b6b52656deab66dc37251a67e0694c22abe82eb1d02acdd5)

模型输出：

![](https://ai-studio-static-online.cdn.bcebos.com/ec01167f998f4825bc37b87e9a9700e076c021ca770745498338f17fbe12999a)

比对真实输出：

![](https://ai-studio-static-online.cdn.bcebos.com/c06a9306368e42f1a241c0684a34994e5cafdcd9f6f24ddaacb6777854963899)


SDK下载
```bash
#安装ModelScope
pip install modelscope
```
```python
#SDK模型下载
from modelscope import snapshot_download
model_dir = snapshot_download('megemini/PaddleOCR-VL-1.5-GGUF')
```
Git下载
```
#Git模型下载
git clone https://www.modelscope.cn/megemini/PaddleOCR-VL-1.5-GGUF.git
```

<p style="color: lightgrey;">如果您是本模型的贡献者，我们邀请您根据<a href="https://modelscope.cn/docs/ModelScope%E6%A8%A1%E5%9E%8B%E6%8E%A5%E5%85%A5%E6%B5%81%E7%A8%8B%E6%A6%82%E8%A7%88" style="color: lightgrey; text-decoration: underline;">模型贡献文档</a>，及时完善模型卡片内容。</p>