---
title: Hy-MT2-1.8B-GGUF
canonical_url: "https://www.modelscope.cn/models/fss618/Hy-MT2-1.8B-GGUF"
md_url: "https://www.modelscope.cn/models/fss618/Hy-MT2-1.8B-GGUF.md"
repository: fss618/Hy-MT2-1.8B-GGUF
chinese_name: Hy-MT2-1.8B-GGUF
last_updated: 2026-05-28
license: apache-2.0
pipeline_tag: translation
tasks:
  - translation
base_model:
  - tencent/Hy-MT2-1.8B
base_model_relation: quantized
library_name:
  - gguf
  - pytorch
frameworks:
  - PyTorch
language:
  - zh
  - en
  - fr
  - de
  - es
  - ru
  - ja
  - ko
  - ar
  - pt
  - it
  - tr
  - th
  - vi
  - ms
  - id
  - tl
  - hi
  - pl
  - cs
  - nl
  - km
  - my
  - fa
  - gu
  - ur
  - te
  - mr
  - he
  - bn
  - ta
  - uk
  - bo
  - kk
  - mn
  - ug
  - yue
downloads: 1124
stars: 3
tags:
  - translation
  - gguf
  - llama.cpp
  - Hy-MT2
  - multilingual
  - quantized
---

# Hy-MT2-1.8B-GGUF

> Hy-MT2-1.8B-GGUF - fss618 在 ModelScope 开源的模型。Hy-MT2-1.8B的GGUF量化模型

fss618/Hy-MT2-1.8B-GGUF 是 ModelScope 魔搭社区上的translation模型，采用 apache-2.0 许可，基于 tencent/Hy-MT2-1.8B 构建。

- **Repository**: fss618/Hy-MT2-1.8B-GGUF
- **License**: apache-2.0
- **Tasks**: translation
- **Base model**: tencent/Hy-MT2-1.8B
- **Tags**: translation, gguf, llama.cpp, Hy-MT2, multilingual, quantized
- **Downloads**: 1124
- **Stars**: 3
- **Last updated**: 2026-05-28

Source: https://www.modelscope.cn/models/fss618/Hy-MT2-1.8B-GGUF

---

<p align="left">
   <a href="README.md">English</a>&nbsp;｜&nbsp;中文
</p>
<br>

<p align="center">
 <img src="logo-zh.png" width="400"/> <br> 
</p>

<div align="center" style="line-height: 1;">

[![HuggingFace](https://img.shields.io/badge/%F0%9F%A4%97%20Hugging%20Face-Tencent%20Hy-ffc107?color=ffc107&logoColor=white)](https://huggingface.co/collections/tencent/hy-mt2)
&nbsp;&nbsp;
[![ModelScope](https://img.shields.io/badge/ModelScope-Tencent%20Hy-624aff)](https://modelscope.cn/collections/Tencent-Hunyuan/Hy-MT2)

</div>

<p align="center">
    🖥️&nbsp;<a href="https://aistudio.tencent.com/llm/zh?tabIndex=0"><b>官方网站</b></a>&nbsp;&nbsp;|&nbsp;&nbsp;
    💬&nbsp;<a href="https://github.com/Tencent-Hunyuan/Hy-MT2"><b>GitHub</b></a>
</p>

## 模型介绍

本模型是基于腾讯混元官方 [`Hy-MT2-1.8B`](https://www.modelscope.cn/models/Tencent-Hunyuan/Hy-MT2-1.8B) 使用 **llama.cpp** 转换生成的 **GGUF** 格式量化版本。

`Hy-MT2` 是一款面向真实复杂场景的“快思考”多语言翻译模型家族，涵盖 1.8B、7B 和 30B-A3B（MoE）三种体量，支持 33 种语言互译并具备强大的多语言指令遵循能力。在端侧部署上，1.8B 模型通过极致量化仅需约 440 MB 存储空间，推理速度显著提升。

多维度评测表明，Hy-MT2 在通用、真实业务、专业领域及指令遵循等翻译任务中表现卓越：7B 和 30B-A3B 模型性能超越了 DeepSeek-V4-Pro、Kimi K2.6 等开源模型在快思考模式下的表现，轻量级 1.8B 模型亦在整体上超越了微软和豆包等主流商业 API。

## 量化版本列表

本仓库提供以下 GGUF 量化版本，均使用 **llama.cpp** 原生工具生成：

| 量化类型 | 文件大小（约） | 说明 |
|---------|--------------|------|
| **Q4_K_M** | 1.1 GB | **推荐版本**，精度与速度平衡最佳 |
| Q3_K_M | 0.9 GB | 轻量版本，适合资源受限设备 |
| Q5_K_M | 1.3 GB | 高精度版本，略大于 Q4_K_M |
| Q6_K | 1.5 GB | 更高精度，接近原始质量 |
| Q8_0 | 1.9 GB | 近无损量化，对质量要求极高时使用 |

> **🎯 推荐**：大多数桌面端和服务器端场景请使用 **Q4_K_M**。

> 💡 **极致低比特版本**（2-bit / 1.25-bit）由社区提供：
> - [Hy-MT2-1.8B-2Bit-GGUF](https://www.modelscope.cn/models/AngelSlim/Hy-MT2-1.8B-2Bit-GGUF)（~440 MB）
> - [Hy-MT2-1.8B-1.25Bit-GGUF](https://www.modelscope.cn/models/AngelSlim/Hy-MT2-1.8B-1.25Bit-GGUF)（~320 MB）

## 支持的语言

本模型支持以下语言之间的双向翻译：

<details>
<summary>点击展开完整语言列表（共 33 种主要语言 + 5 种方言）</summary>

| 语言 | 英文缩写 | 中文名称 |
|------|----------|----------|
| 中文 | zh | 中文 |
| 英语 | en | 英语 |
| 法语 | fr | 法语 |
| 葡萄牙语 | pt | 葡萄牙语 |
| 西班牙语 | es | 西班牙语 |
| 日语 | ja | 日语 |
| 土耳其语 | tr | 土耳其语 |
| 俄语 | ru | 俄语 |
| 阿拉伯语 | ar | 阿拉伯语 |
| 韩语 | ko | 韩语 |
| 泰语 | th | 泰语 |
| 意大利语 | it | 意大利语 |
| 德语 | de | 德语 |
| 越南语 | vi | 越南语 |
| 马来语 | ms | 马来语 |
| 印尼语 | id | 印尼语 |
| 菲律宾语 | tl | 菲律宾语 |
| 印地语 | hi | 印地语 |
| 繁体中文 | zh-Hant | 繁体中文 |
| 波兰语 | pl | 波兰语 |
| 捷克语 | cs | 捷克语 |
| 荷兰语 | nl | 荷兰语 |
| 高棉语 | km | 高棉语 |
| 缅甸语 | my | 缅甸语 |
| 波斯语 | fa | 波斯语 |
| 古吉拉特语 | gu | 古吉拉特语 |
| 乌尔都语 | ur | 乌尔都语 |
| 泰卢固语 | te | 泰卢固语 |
| 马拉地语 | mr | 马拉地语 |
| 希伯来语 | he | 希伯来语 |
| 孟加拉语 | bn | 孟加拉语 |
| 泰米尔语 | ta | 泰米尔语 |
| 乌克兰语 | uk | 乌克兰语 |

**方言支持**：藏语 (bo)、哈萨克语 (kk)、蒙古语 (mn)、维吾尔语 (ug)、粤语 (yue)

</details>

## Hy-MT2 翻译任务指令示例（中英文对照）

*注意：`source_lang` 和 `target_lang` 使用语言全称，中文用中文名，英文用英文名。*

| 类型 | 中文提示 | 英文提示 |
|---|---|---|
| **默认翻译** | 将以下文本翻译为 `{target_lang}`，注意**只需要输出翻译后的结果，不要额外解释**：<br><br>`{source_text}` | Translate the following text into `{target_lang}`. Note that you should **only output the translated result without any additional explanation**:<br><br>`{source_text}` |
| **术语约束** | 参考下面的翻译：<br>`{text}` 翻译成 `{text}`<br>`{text}` 翻译成 `{text}`<br>将以下文本翻译为 `{target_lang}`，注意**只需要输出翻译后的结果，不要额外解释**：<br><br>`{source_text}` | Reference the following translations:<br>`{text}` translates to `{text}`<br>`{text}` translates to `{text}`<br>Translate the following text into `{target_lang}`. Note that you must **ONLY output the translated result without any additional explanation**:<br><br>`{source_text}` |
| **风格约束** | 请将以下文本翻译为 `{target_lang}`。<br>注意翻译的风格要严格符合【**`{target_style}`**】<br><br>`{source_text}` | Please translate the following text into `{target_lang}`. Note that the translation style must strictly conform to [**`{target_style}`**]:<br><br>`{source_text}` |
| **分隔符保留** | 请将以下文本准确翻译为 `{target_lang}`。<br>你必须在译文中**保留等量的分隔符，绝对不可遗漏、转义或翻译该符号**。<br><br>`{source_text}` | Please accurately translate the following text into `{target_lang}`.<br>You must **retain the exact same number of delimiters in the translation. Strictly do not omit, escape, or translate these symbols**.<br><br>`{source_text}` |

## 量化工具

本模型使用 **llama.cpp** 官方工具进行 GGUF 转换与量化。

- llama.cpp 项目：[https://github.com/ggml-org/llama.cpp](https://github.com/ggml-org/llama.cpp)

## 许可证与致谢

- 本模型衍生自腾讯混元 [`Hy-MT2-1.8B`](https://modelscope.cn/models/tencent/Hy-MT2-1.8B)，遵循 **Apache License 2.0**。
- 协议全文请参阅：[LICENSE](https://www.apache.org/licenses/LICENSE-2.0)

## 引用

如果您在研究中使用了本模型，请引用以下论文：

```bibtex
@misc{hy-mt2,
      title={Hy-MT2: A Fast-Thinking Multilingual Translation Model Family},
      author={Tencent Hunyuan Team},
      year={2025},
      note={Official model from Tencent Hunyuan},
      url={https://github.com/Tencent-Hunyuan/Hy-MT2}
}
