---
title: Unlimited-OCR-GGUF
canonical_url: "https://www.modelscope.cn/models/42ailab/Unlimited-OCR-GGUF"
md_url: "https://www.modelscope.cn/models/42ailab/Unlimited-OCR-GGUF.md"
repository: 42ailab/Unlimited-OCR-GGUF
chinese_name: "Unlimited-OCR · 文字识别大模型"
last_updated: 2026-09-24
license: mit
library_name:
  - gguf
  - pytorch
frameworks:
  - Pytorch
downloads: 631
stars: 2
tags:
  - ocr
  - document-parsing
  - gguf
  - llama.cpp
  - deepseek-ocr
---

# Unlimited-OCR-GGUF

> Unlimited-OCR-GGUF - 42ailab 在 ModelScope 开源的模型。Unlimited-OCR-3B · 全本地文档识别

42ailab/Unlimited-OCR-GGUF 是 ModelScope 魔搭社区上的机器学习模型，采用 mit 许可。

- **Repository**: 42ailab/Unlimited-OCR-GGUF
- **License**: mit
- **Tags**: ocr, document-parsing, gguf, llama.cpp, deepseek-ocr
- **Downloads**: 631
- **Stars**: 2
- **Last updated**: 2026-09-24

Source: https://www.modelscope.cn/models/42ailab/Unlimited-OCR-GGUF

---

<!--
  这是 ModelScope 仓 `42ailab/Unlimited-OCR-GGUF` 的 README。改这里 = 改仓首页。
-->
# Unlimited-OCR-3B · 全本地文档识别

[![License: MIT](https://img.shields.io/badge/License-MIT-blue.svg)](https://opensource.org/licenses/MIT)
[![Runs Local](https://img.shields.io/badge/Runs-100%25_Local-brightgreen.svg)](https://42model.com)
[![Platform](https://img.shields.io/badge/Platform-macOS_|_Windows_|_Linux-lightgrey.svg)](https://42model.com)

给一张文档图片或扫描件，本模型把整页转成**干净的 Markdown 正文与表格**——全部在你自己的电脑上完成，**不上云、免费、私密**。

> **模型由[百度](https://modelscope.cn/models/PaddlePaddle/Unlimited-OCR)研发、以 MIT 开源**（Unlimited-OCR，DeepSeek-OCR 架构谱系）。**本仓不是新模型**，而是我们把这个开源模型转换成**能在你电脑上离线运行**的量化部署档（GGUF）并做了质量校验——模型能力归上游，我们做的是「让它在本地跑起来」。

## 一、它解决什么问题

把文档（合同、发票、论文、书籍、扫描件、截图）变成**可编辑、可检索、可喂给 AI** 的结构化文本，是知识工作里最高频的一步。很多场景都离不开它：

- **转可编辑文档**：把 PDF / 扫描件 / 图片一键变成 Markdown 与表格；
- **建检索与问答**：把纸质资料数字化，喂给 AI 做检索、总结、问答；
- **复杂版面归档**：多栏排版、表格、公式的资料也能结构化留存、二次编辑。

过去要拿到高质量的文档解析，往往得依赖云端服务——把你的文件上传到别人的服务器，既有隐私与合规顾虑，也可能产生费用。本模型让这一步**完全在本地完成**。

## 二、它是怎么做到的

**模型能力来自百度的 Unlimited-OCR（DeepSeek-OCR 架构谱系）**，其设计要点：

- **输入**文档图片，**输出**整页 Markdown 正文 + 语义表格。
- **看整页、不切碎**：先把整页图压成少量"视觉词"，再按版面一次性输出正文与表格——跨栏、跨行的结构不易错乱。
- **又准又省**：总参约 3B（33 亿），但每处理一个字只调用其中约 5 亿（混合专家 / MoE）——比同档位的密集模型**快 2.5–3 倍**，普通电脑也扛得住。

**我们做的**：把百度开源的权重转成一个量化文件（约 2.7 GB）、校验其质量没有因量化下降，让它跨 macOS / Windows / Linux **离线运行**；并**沿用与上游一致的 MIT 许可**。

## 三、效果如何

模型本体在公开文档解析基准上的完整评测，请以**上游论文**为准（[arXiv:2606.23050](https://arxiv.org/abs/2606.23050)）。这里只列**我们自己对本地量化档做的两项复核**——用于回答「量化后还准不准、本地跑得快不快」：

| 我们复核的项目 | 结果 |
|---|---|
| 量化保真（本地量化档输出 vs 官方全精度参考，逐字比对） | 字符偏差 **≈0.16（CPU）–0.20（CUDA）**，基本一致 |
| 单页速度（同批真实文档·对比同档位另一款本地 OCR） | 约 **6–10 秒/页**，快 **2.5–3 倍** |

- **量化没有损失质量（我们复核）**：把本地量化档的输出与官方全精度参考实现逐字比对，字符偏差约 0.16（CPU）～0.20（CUDA）、都很低——量化档忠实还原了上游模型的能力。
- **本地够快（我们实测）**：在同一批真实文档上与同档位的另一款主流本地 OCR 相比，识别质量打平，但本模型每页约 6–10 秒、快 2.5–3 倍（混合专家架构激活参数少），输出也更接近可直接使用的干净 Markdown。

## 四、局限与下一步

- **装饰性竖排文字**（如竖排日文标题）等罕见版面仍可能读串——这是当前一代文档 OCR 的共性难点。
- **Apple 显卡（Metal）**：视觉部分在 Metal 上有已知精度问题；活水模型引擎已**自动规避**（视觉部分走 CPU、文本部分仍用 Metal 加速），普通用户无需关心。
- 下一步：提供更小、更省内存的量化档；扩展更多语言与版面覆盖；持续跟进上游模型更新。

## 五、怎么下载与使用

本模型专为 [活水模型（42model）](https://42model.com) 打包，推荐通过它获取：

**桌面版**
1. 在「模型库」→「OCR」里下载 **Unlimited-OCR**；
2. 点「开始使用」把它设为当前 OCR 模型。

之后在「OCR」能力里把图片转成文档即可。

## 文件与许可

| 文件 | 作用 |
|---|---|
| `Unlimited-OCR-3B-Q4_K_M.gguf` | 文本解码器 |
| `mmproj-Unlimited-OCR-3B-F16.gguf` | 视觉编码器（保留 F16 精度） |

各文件 sha256 见 ModelScope 文件页，可自行校验。

**许可**：模型本体为百度 Unlimited-OCR，© Baidu Inc.，**MIT**（官方源：[GitHub](https://github.com/baidu/Unlimited-OCR) · [ModelScope](https://modelscope.cn/models/PaddlePaddle/Unlimited-OCR) · [论文](https://arxiv.org/abs/2606.23050)）。本仓为其转换的 GGUF 部署档，同样遵循 [MIT](https://opensource.org/licenses/MIT)，使用即表示同意上游许可条款。

## 引用

**模型本体**请引用上游百度 Unlimited-OCR（作者 Youyang Yin 等）：

```bibtex
@misc{yin2026unlimitedocrworks,
  title         = {Unlimited OCR Works},
  author        = {Youyang Yin and Huanhuan Liu and YY and Qunyi Xie and Chaorun Liu and Shiqi Yang and Shaohua Wang and Zhanlong Liu and Hao Zou and Jinyue Chen and Shu Wei and Jingjing Wu and Mingxin Huang and Zhen Wu and Guibin Wang and Tengyu Du and Lei Jia},
  year          = {2026},
  eprint        = {2606.23050},
  archivePrefix = {arXiv},
  primaryClass  = {cs.CV},
  url           = {https://arxiv.org/abs/2606.23050}
}
```

若**本仓的 GGUF 量化部署档**对你有帮助，可另附：

```bibtex
@misc{yang2026unlimitedocrgguf,
  title        = {Unlimited-OCR-GGUF: A Local Quantized Build of Baidu's Unlimited-OCR},
  author       = {Yang, Zhiping},
  year         = {2026},
  howpublished = {\url{https://modelscope.cn/models/42ailab/Unlimited-OCR-GGUF}},
  organization = {42ailab},
  note         = {GGUF 量化与本地部署封装；模型本体为百度 Unlimited-OCR（MIT）。Contact: contact@42ailab.com}
}
```

联系我们：**contact@42ailab.com**

## 关于我们

**[活水 AI 实验室（42ailab）](https://42ailab.com)** — 探索智能边界的 AI 创新实验室，以认知科学为基石，推动 AI 与人类智能的深度融合，真正理解并增强智能 —— 碳基的，也是硅基的。

**[活水模型（42model）](https://42model.com)** — 由活水 AI 实验室出品的高性能本地 AI 大模型推理引擎，让翻译、转写、识别、对话、编程等 AI 能力在你的本机免费私密运行；并可借云端算力微调专属模型，回传本机运行。