---
title: TranslateGemma-12B-GGUF
canonical_url: "https://www.modelscope.cn/models/42ailab/TranslateGemma-12B-GGUF"
md_url: "https://www.modelscope.cn/models/42ailab/TranslateGemma-12B-GGUF.md"
repository: 42ailab/TranslateGemma-12B-GGUF
last_updated: 2026-07-25
license: gemma
pipeline_tag: translation
tasks:
  - translation
base_model:
  - google/translategemma-12b-it
base_model_relation: quantized
library_name:
  - gguf
frameworks:
  - gguf
language:
  - zh
  - en
  - multilingual
downloads: 108
stars: 1
tags:
  - translation
  - gemma3
  - gguf
  - llama.cpp
  - 42model
---

# TranslateGemma-12B-GGUF

> TranslateGemma-12B-GGUF - 42ailab 在 ModelScope 开源的模型。TranslateGemma-12B · 全本地多语翻译（平衡档）

42ailab/TranslateGemma-12B-GGUF 是 ModelScope 魔搭社区上的translation模型，采用 gemma 许可，基于 google/translategemma-12b-it 构建。

- **Repository**: 42ailab/TranslateGemma-12B-GGUF
- **License**: gemma
- **Tasks**: translation
- **Base model**: google/translategemma-12b-it
- **Tags**: translation, gemma3, gguf, llama.cpp, 42model
- **Downloads**: 108
- **Stars**: 1
- **Last updated**: 2026-07-25

Source: https://www.modelscope.cn/models/42ailab/TranslateGemma-12B-GGUF

---

<!-- 这是 ModelScope 仓 `42ailab/TranslateGemma-12B-GGUF` 的 README。改这里 = 改仓首页。 -->
# TranslateGemma-12B · 全本地多语翻译（平衡档）

[![License: Gemma](https://img.shields.io/badge/License-Gemma-blue.svg)](https://ai.google.dev/gemma/terms)
[![Runs Local](https://img.shields.io/badge/Runs-100%25_Local-brightgreen.svg)](https://42model.com)
[![Platform](https://img.shields.io/badge/Platform-macOS_|_Windows_|_Linux-lightgrey.svg)](https://42model.com)

给一段任意语言的文字，本模型把它翻译成你要的语言——覆盖 **55 种语言**、全部在你自己的电脑上完成，**不上云、免费、私密**。

> **模型由 [Google Translate 团队](https://modelscope.cn/models/google/translategemma-12b-it)研发、以 Gemma 使用条款开源**（TranslateGemma，基于 Google 的 Gemma 3）。**GGUF 量化档由社区贡献者 [bullerwins](https://huggingface.co/bullerwins/translategemma-12b-it-GGUF) 制作**。**本仓既不是新模型、也不是我们量化的**——我们做的是把这份量化档**逐字节镜像到 ModelScope**（国内可直连下载），并把它接进活水模型引擎、让你像平常聊天一样就能翻译。

## 一、它解决什么问题

日常里跨语言的阅读、写作、沟通无处不在，但主流翻译往往要把你的原文**上传到别人的服务器**：

- **隐私敏感内容**：合同、病历、内部资料、私人信件——不愿交给云端翻译；
- **随手翻译**：读外文资料、写外语邮件、看外语网页，想要一个随叫随到的翻译；
- **无网 / 弱网场景**：出差、飞行、内网环境，云端翻译用不了。

本模型让翻译这一步**完全在本地完成**：原文不出你的设备，免费、私密、离线可用。**12B 是这个家族的平衡档**——比 4B 档译得更准，又比 27B 档省一半以上内存，16 GB 内存的电脑就能跑。

## 二、它是怎么做到的

**翻译能力来自 Google 的 TranslateGemma（基于 Gemma 3）**，据其官方模型卡：

- 从 Gemma 3 微调而来、**专为翻译训练**，覆盖 55 种语言（含中文）；
- 训练数据来自大量平行语料（含 Gemini 生成的高质量译文与公开平行文档）；
- 体量相对小，因此可以搬到笔记本 / 台式机上本地运行。

**我们做的**（不含模型训练，也不含量化）：

- 把社区制作的 GGUF 量化档**逐字节镜像**到 ModelScope，sha256 与来源完全一致（国内下载不必翻墙）；
- **让普通对话方式就能用**：上游官方用法需要按一套结构化格式传入「源语言 / 目标语言」代码字段，普通聊天客户端无法直接调用；我们在引擎侧改用**一句中文指令**（如「把下面的文本翻译成英语」）的标准 Gemma 3 对话方式，并在桌面上开放 **34 个常用翻译方向**供直接选择——**模型权重本身没有任何改动**；
- **调好默认参数**：翻译讲求稳定复现，本地默认把随机性调低（temperature 0.3 / top-p 0.95 / top-k 64），同一句多次翻译更一致；
- 沿用与上游**一致的 Gemma 使用条款**。

## 三、效果如何

下表是 **Google 官方技术报告**中 **12B 档**的结果（[arXiv:2601.09012](https://arxiv.org/pdf/2601.09012)，仅摘录、非我方测得）：

| 基准（Google 官方报告） | 12B 结果 |
|---|---|
| WMT24++（55 种语言）· MetricX（越低越好） | 3.60 |
| WMT24++（55 种语言）· Comet（越高越好） | 83.5 |
| WMT25（10 种语言）· MQM（越低越好） | 7.94 |

作为参照，同家族 4B 档为 MetricX 5.32 / Comet 81.6，27B 档为 3.09 / 84.4——**12B 更接近 27B 的水准**。

**我们自己核验的**：我方 ModelScope 档与社区来源档**逐字节一致**（sha256 与大小相同，未做二次压缩）。我们**未**重跑上述公开基准，因此不虚报「量化前后掉几分」这类数字。

## 四、局限与下一步

- **本地档只做文字翻译**：上游 TranslateGemma 还支持「识别图片里的文字并翻译」，本量化档不含视觉部分，暂不支持图片翻译。
- **适合段落级、而非超长文档**：上游单次输入上下文约 2K tokens，适合句子 / 段落翻译；超长文档请分段。
- **提示词非上游官方模板**：为了让普通对话方式可用，我们用的是中文指令式提示；上游注明官方仅支持其结构化模板，其他提示方式效果由使用方自行评估。
- **一般语言模型的通病**：对俚语、双关、反讽等细微语义可能拿捏不准，也可能产生不准确的表述——重要场合请人工复核。
- 下一步：视真实需求开放更多语言方向；评估自产量化档与图片翻译支持。

## 五、怎么下载与使用

本模型专为 [活水模型（42model）](https://42model.com) 打包，推荐通过它获取：

**桌面版**
在「模型库」→「翻译」里找到 **TranslateGemma**、选 **12B** 这一档下载，点「开始使用」，即可离线翻译。

建议内存：**16 GB 及以上**。

## 文件与许可

| 文件 | 作用 | 大小 |
|---|---|---|
| `translategemma-12b-it-Q4_K_M.gguf` | 翻译解码器（Q4_K_M 量化） | ~7.3 GB |

文件 sha256 见 ModelScope 文件页，可自行校验。

**许可**：模型本体为 TranslateGemma，© Google，**Gemma 使用条款**（官方源：[ModelScope](https://modelscope.cn/models/google/translategemma-12b-it) · [发布博客](https://blog.google/innovation-and-ai/technology/developers-tools/translategemma/) · [技术报告](https://arxiv.org/pdf/2601.09012) · [Gemma 条款](https://ai.google.dev/gemma/terms)）。GGUF 量化档由社区贡献者 [bullerwins](https://huggingface.co/bullerwins/translategemma-12b-it-GGUF) 制作；本仓为该量化档的镜像，同样遵循 Gemma 使用条款：**允许商用，但须遵守 Google 的 [Gemma 使用条款](https://ai.google.dev/gemma/terms)与[禁止使用政策](https://ai.google.dev/gemma/prohibited_use_policy)**，使用即表示同意上述条款。

## 引用

请引用上游 Google（TranslateGemma 技术报告）：

```bibtex
@article{gemmatranslate2026,
    title={{TranslateGemma Technical Report}},
    url={https://arxiv.org/pdf/2601.09012},
    publisher={Google DeepMind},
    author={{Google Translate Research Team} and
    Finkelstein, Mara and
    Caswell, Isaac and
    Domhan, Tobias and
    Peter, Jan-Thorsten and
    Juraska, Juraj and
    Riley, Parker and
    Deutsch, Daniel and
    Dilanni, Cole and
    Cherry, Colin and
    Briakou, Eleftheria and
    Nielsen, Elizabeth and
    Luo, Jiaming and
    Agrawal, Sweta and
    Xu, Wenda and
    Kats, Erin and
    Jaskiewicz, Stephane and
    Freitag, Markus and
    Vilar, David
},
    year={2026}
}
```

本仓只做镜像与本地适配，不主张任何模型或量化成果的署名。

联系我们：**contact@42ailab.com**

## 关于我们

**[活水 AI 实验室（42ailab）](https://42ailab.com)** — 探索智能边界的 AI 创新实验室，以认知科学为基石，推动 AI 与人类智能的深度融合，真正理解并增强智能 —— 碳基的，也是硅基的。

**[活水模型（42model）](https://42model.com)** — 由活水 AI 实验室出品的高性能本地 AI 大模型推理引擎，让翻译、转写、识别、对话、编程等 AI 能力在你的本机免费私密运行；并可借云端算力微调专属模型，回传本机运行。