---
title: MiroThinker-1.7-mini-GGUF
canonical_url: "https://www.modelscope.cn/models/42ailab/MiroThinker-1.7-mini-GGUF"
md_url: "https://www.modelscope.cn/models/42ailab/MiroThinker-1.7-mini-GGUF.md"
repository: 42ailab/MiroThinker-1.7-mini-GGUF
chinese_name: "MiroThinker-1.7-mini · 深度检索大模型"
last_updated: 2026-09-24
license: apache-2.0
base_model:
  - miromind-ai/MiroThinker-1.7-mini
base_model_relation: quantized
library_name:
  - gguf
  - pytorch
frameworks:
  - Pytorch
language:
  - zh
  - en
downloads: 19
stars: 0
tags:
  - agent
  - deep-research
  - qwen3
  - gguf
  - llama.cpp
  - 42model
---

# MiroThinker-1.7-mini-GGUF

> MiroThinker-1.7-mini-GGUF - 42ailab 在 ModelScope 开源的模型。MiroThinker-1.7-mini · 全本地深度检索智能体模型

42ailab/MiroThinker-1.7-mini-GGUF 是 ModelScope 魔搭社区上的机器学习模型，采用 apache-2.0 许可，基于 miromind-ai/MiroThinker-1.7-mini 构建。

- **Repository**: 42ailab/MiroThinker-1.7-mini-GGUF
- **License**: apache-2.0
- **Base model**: miromind-ai/MiroThinker-1.7-mini
- **Tags**: agent, deep-research, qwen3, gguf, llama.cpp, 42model
- **Downloads**: 19
- **Stars**: 0
- **Last updated**: 2026-09-24

Source: https://www.modelscope.cn/models/42ailab/MiroThinker-1.7-mini-GGUF

---

<!-- 这是 ModelScope 仓 `42ailab/MiroThinker-1.7-mini-GGUF` 的 README。改这里 = 改仓首页。 -->
# MiroThinker-1.7-mini · 全本地深度检索智能体模型

[![License: Apache 2.0](https://img.shields.io/badge/License-Apache_2.0-blue.svg)](https://www.apache.org/licenses/LICENSE-2.0)
[![Runs Local](https://img.shields.io/badge/Runs-100%25_Local-brightgreen.svg)](https://42model.com)
[![Platform](https://img.shields.io/badge/Platform-macOS_|_Windows_|_Linux-lightgrey.svg)](https://42model.com)

给一个需要**反复查资料、分多步推进**的问题，本模型负责一步步想、一步步调用工具去查——全部在你自己的电脑上完成，**不上云、免费、私密**。

> **模型由 [MiroMind AI](https://modelscope.cn/models/miromind-ai/MiroThinker-1.7-mini) 研发、以 Apache-2.0 开源**（MiroThinker-1.7-mini，Qwen3 混合专家架构）。**本仓不是新模型**，而是我们把这个开源模型转换成**能在你电脑上离线运行**的量化部署档（GGUF）、并在自家引擎上做了加载与生成校验——模型能力归 MiroMind AI，我们做的是「让它在本地跑起来」。

## 一、它解决什么问题

有些问题一次问答答不完，得**查、读、再查**：核一个说法的出处、把散在十几个页面里的信息拼成一张表、顺着线索一层层往下追。这类活儿要的不是「一次说得漂亮」，而是**长时间不跑偏**。

过去要用这种能力，通常得把你的问题、你查的东西、乃至中途读到的内部资料，一并交给云端服务。本模型把**负责思考与决策的那一半搬回本地**：

- **敏感课题**：竞品调研、尽调、内部资料整理——不愿把线索交给云端；
- **长链条任务**：一个问题要几十步才收敛，按云端调用计费不划算；
- **离线 / 内网**：网络受限的环境里也要有一个能推理的本地大脑。

## 二、它是怎么做到的

**模型能力来自 MiroMind AI 的 MiroThinker-1.7-mini**，它的设计要点：

- **混合专家结构（MoE）**：总参数 300 亿，但每生成一个字只调用其中一小部分，所以内存占用与速度接近小得多的模型；
- **超长上下文**：最长支持 26 万 token 的上下文窗口，够装下几十轮的查阅记录；
- **为多步工具调用训练**：上游设计的目标是单个任务里连续调用工具多达 300 次，而不是只答一句。

**我们做的**：把上游开源的原始权重转成一个约 18.6 GB 的量化文件，让它跨 macOS / Windows / Linux **离线运行**；并**沿用与上游一致的 Apache-2.0 许可**。

## 三、效果如何

模型本体在公开基准上的成绩，请以**上游技术报告**为准（[arXiv](https://arxiv.org/pdf/2603.15726)）。

⚠️ 需要说清的一点：上游模型卡里那几个 deep research 榜单数字，报告时用的是系列名「MiroThinker-1.7」，而同一张模型表里 **MiroThinker-1.7 = 2350 亿参数旗舰档**、**MiroThinker-1.7-mini = 本档 300 亿**——也就是说那些数字属于旗舰档，**本档上游没有单独给出成绩**。所以这里**一个基准数字都不引**，只列**我们自己做的复核**：

| 我们复核的项目 | 结果 |
|---|---|
| 量化前后体积（原始 bf16 → 本档） | 61.1 GB → **18.6 GB**，约为原来的三成 |
| 引擎能否识别并加载 | ✓ 架构与对话模板均被正确识别 |
| 真机生成（Apple M3 Max） | ✓ 正常作答、思考段正常闭合、中文表达流畅 |

上游模型卡标注的语言是英文，但它的底座是中文能力很强的 Qwen3——我们实测中文问答流畅，故一并标注中文。

## 四、局限与下一步

- **它需要一个会给它工具的客户端**。本模型的主场是「一边想一边查」，但**搜索、浏览网页这些工具不在模型里**，要由调用它的客户端提供。把它当普通聊天模型用，你会觉得不如同尺寸的对话模型顺手——那不是它的用法。
- **内存要求**：建议 24 GB 以上内存的机器。
- **上下文实际可用长度受本机内存限制**，并非任何机器都能开满上游标称的窗口。
- 本仓目前只提供 **Q4_K_M 一档**（体积与质量的平衡点）。

## 五、怎么下载与使用

本模型专为 [活水模型（42model）](https://42model.com) 打包，推荐通过它获取：

**桌面版**
在「模型库」→「科研」里下载 **MiroThinker-1.7-mini**。

下载后，在本机启动 42model 的本地服务，把支持工具调用的客户端（任意兼容 OpenAI / Anthropic 接口的智能体客户端）指向它，即可由本模型充当这类客户端的**本地大脑**。

## 文件与许可

| 文件 | 作用 |
|---|---|
| `MiroThinker-1.7-mini-Q4_K_M.gguf` | 模型本体（4 位量化档） |

文件 sha256 见 ModelScope 文件页，可自行校验。

**许可**：模型本体为 MiroThinker-1.7-mini，© MiroMind AI，**Apache-2.0**（官方源：[ModelScope](https://modelscope.cn/models/miromind-ai/MiroThinker-1.7-mini) · [GitHub](https://github.com/MiroMindAI/MiroThinker) · [技术报告](https://arxiv.org/pdf/2603.15726)）。本仓为其转换的 GGUF 部署档，同样遵循 [Apache-2.0](https://www.apache.org/licenses/LICENSE-2.0)，使用即表示同意上游许可条款。

## 引用

**模型本体**请引用上游 MiroMind AI。

⚠️ 上游模型卡的 Citation 区目前给的仍是 **2025 年那篇 v1.0 论文**（arXiv:2511.11793），
而本模型属于 **MiroThinker-1.7** 系列，其技术报告是
[arXiv:2603.15726](https://arxiv.org/abs/2603.15726)
（*MiroThinker-1.7 & H1: Towards Heavy-Duty Research Agents via Verification*，MiroMind Team，2026-03-16）。
两个编号在上游卡里同时出现，这里**照原样保留上游给出的引用块**，并把这一不一致标出来，
你按需要选用；引 1.7 系列的工作时请用后者。

```bibtex
@article{miromind2025mirothinker,
  title={MiroThinker: Pushing the Performance Boundaries of Open-Source Research Agents via Model, Context, and Interactive Scaling},
  author={MiroMind Team and Bai, Song and Bing, Lidong and Chen, Carson and Chen, Guanzheng and Chen, Yuntao and Chen, Zhe and Chen, Ziyi and Dong, Xuan and others},
  journal={arXiv preprint arXiv:2511.11793},
  year={2025}
}
```

若**本仓的 GGUF 量化部署档**对你有帮助，可另附：

```bibtex
@misc{yang2026mirothinker17minigguf,
  title        = {MiroThinker-1.7-mini-GGUF: A Local Quantized Build of MiroMind AI's MiroThinker-1.7-mini},
  author       = {Yang, Zhiping},
  year         = {2026},
  howpublished = {\url{https://modelscope.cn/models/42ailab/MiroThinker-1.7-mini-GGUF}},
  organization = {42ailab},
  note         = {GGUF 量化与本地部署封装；模型本体为 MiroMind AI MiroThinker-1.7-mini（Apache-2.0）。Contact: contact@42ailab.com}
}
```

联系我们：**contact@42ailab.com**

## 关于我们

**[活水 AI 实验室（42ailab）](https://42ailab.com)** — 探索智能边界的 AI 创新实验室，以认知科学为基石，推动 AI 与人类智能的深度融合，真正理解并增强智能 —— 碳基的，也是硅基的。

**[活水模型（42model）](https://42model.com)** — 由活水 AI 实验室出品的高性能本地 AI 大模型推理引擎，让翻译、转写、识别、对话、编程等 AI 能力在你的本机免费私密运行；并可借云端算力微调专属模型，回传本机运行。