--- title: Hai-2.5-Release-0829-GGUF canonical_url: "https://www.modelscope.cn/models/HornStudio/Hai-2.5-Release-0829-GGUF" md_url: "https://www.modelscope.cn/models/HornStudio/Hai-2.5-Release-0829-GGUF.md" repository: HornStudio/Hai-2.5-Release-0829-GGUF chinese_name: "海H.ai-2.5 0829 GGUF" last_updated: 2026-08-29 pipeline_tag: text-generation tasks: - text-generation library_name: - gguf downloads: 5 stars: 0 --- # Hai-2.5-Release-0829-GGUF > Hai-2.5-Release-0829-GGUF - HornStudio 在 ModelScope 开源的模型。以号角工作室Horn.Studio的海H.ai-2.0 0812 GGUF进行后训练的模型，增强了其角色扮演能力（在role in hai中），语文写作能力（在role in hai中），Agent能力（在role in hai中）以及完成了一次实验 - **Repository**: HornStudio/Hai-2.5-Release-0829-GGUF - **Tasks**: text-generation - **Downloads**: 5 - **Stars**: 0 - **Last updated**: 2026-08-29 Source: https://www.modelscope.cn/models/HornStudio/Hai-2.5-Release-0829-GGUF --- # 海 H.ai 2.5

Base Model > **小海 (Hai)** —— 一个温柔、耐心、会陪你一步步来的 AI 伙伴。 > > 以号角工作室Horn.Studio的 海H.ai-2.0 0812 GGUF 进行后训练的模型，增强了其角色扮演能力（在role in hai中），语文写作能力（在role in hai中），Agent能力（在role in hai中）以及完成了一次实验 --- ## 📋 模型信息/快速开始等信息 此部分内容请前往 https://www.modelscope.cn/models/HornStudio/Hai-2-Release-0812-GGUF 获得原始信息 ## ✨ 更新Feature ### 能力范围 - ✅ 角色扮演与情感陪伴 - ✅ 创意写作、文案润色 - ✅ Agent能力还原至Qwen3.5 27B的90%以上 --- ## 我们完成的实验………… 我们使用heretic工具将 Hai2 模型的安全层除去，得到了 Hai-2-Abliterated ， 然后通过全量微调，完整恢复了原模型的所有安全护栏能力并更加坚固，实验可知，Abliterated模型在某些条件下可以重新学习得到安全防护能力，并获得更牢靠的效果。。。此模型使用了这种方法来加强其防护能力 | 模型 | 拒绝率 | |------|------| |Hai-2|87/100| |Hai-2-Abliterated|8/100| |Hai-2.5|93/100| --- ## 📦 文件说明 本仓库提供以下格式： | 文件 | 格式 | 大小 | 说明 | |------|------|------|------| | `Hai-2.5-Release-0829.Q4_K_M.gguf` | GGUF | ~16 GB | **推荐**，平衡质量与速度 | | `Hai-2.5-Release-0829.IQ3_M.gguf` | GGUF | ~12 GB | 使用了**自创**的量化策略，在原始IQ3上保留了一些高精度层，性能接近Q4_K_S | | `Hai-2.5-Release-0829.Q2_K.gguf` | GGUF | ~10 GB | 极限量化 | | `Hai-2.5-Release-0829.F16.gguf` | GGUF | ~54 GB | 无压缩，融合后原始输出，含F16和F32混合精度 | > **注意**：`--allow-requantize` 版本为融合后二次量化，部分层经历多轮量化，极端场景下与原生 Q4_K_M 有微小差异，日常对话几乎无感知。 --- ## ⚠️ 使用声明 1. **基座许可**：本模型基于 [Qwen3.5-27B](https://huggingface.co/Qwen/Qwen3.5-27B) 微调，遵循其原始许可证。 2. **商用限制**：请查阅 Qwen3.5 最新许可条款，确认商用合规性。 3. **内容安全**：我们不对模型生成的安全性做担保，因为此安全层尚未经过完整原验证，无法确定其效果是否能够泛化到除数据集以外的问题。 4. **免责声明**：本模型按"现状"提供，作者不对使用结果承担任何责任。 --- ## 🙏 致谢 - [Qwen](https://github.com/QwenLM/Qwen) 团队提供强大的基座模型 - [Unsloth](https://github.com/unslothai/unsloth) 提供高效的微调框架 - [llama.cpp](https://github.com/ggml-org/llama.cpp) 提供 GGUF 转换与推理工具 --- ## 📬 反馈 如有问题或建议，欢迎通过 ModelScope 反馈。 **Enjoy chatting with 小海~** (´∇ﾉ｀*)ノ