---
title: Xiaothink-T6-0.08B-Poem
canonical_url: "https://www.modelscope.cn/models/ericsjq/Xiaothink-T6-0.08B-Poem"
md_url: "https://www.modelscope.cn/models/ericsjq/Xiaothink-T6-0.08B-Poem.md"
repository: ericsjq/Xiaothink-T6-0.08B-Poem
chinese_name: "千言2 - 诗歌"
last_updated: 2025-08-09
license: "Apache License 2.0"
downloads: 64
stars: 3
---

# Xiaothink-T6-0.08B-Poem

> Xiaothink-T6-0.08B-Poem - ericsjq 在 ModelScope 开源的模型。该模型在GPT-4o作为裁判的盲测中，多数古诗创作任务上超越ChatGLM-6B并接近GPT-4o水平。Xiaothink-T6-0.08B-Poem（中文名：千言 2 - 诗歌）是基于Xiaothink-T6-0.08B-Instruct-Preview模型官方微调的古诗生成模型，使用仅150M的高质量诗歌数据对模型进行全量微调，显著提升了古诗创作能力。

ericsjq/Xiaothink-T6-0.08B-Poem 是 ModelScope 魔搭社区上的机器学习模型，采用 Apache License 2.0 许可。

- **Repository**: ericsjq/Xiaothink-T6-0.08B-Poem
- **License**: Apache License 2.0
- **Downloads**: 64
- **Stars**: 3
- **Last updated**: 2025-08-09

Source: https://www.modelscope.cn/models/ericsjq/Xiaothink-T6-0.08B-Poem

---

# Xiaothink-T6-0.08B-Poem（千言2 - 诗歌） 模型

## ⚠️ 使用说明
由于架构特殊，本模型暂不支持ModelScope pipeline调用，请下载我们提供的专用Python库：  
```bash
pip install xiaothink
```

**2025年7月26日**：模型已由Xiaothink-T6-mini-Poem更名为Xiaothink-T6-0.08B-Poem

## 概述
Xiaothink-T6-0.08B-Poem 是基于 [Xiaothink-T6-0.08B-Instruct-Preview](https://www.modelscope.cn/models/ericsjq/Xiaothink-T6-0.08B-Instruct-Preview) 微调的高效诗歌生成模型。本模型通过仅 **150MB** 的专项诗歌数据微调，在保持轻量级特性的同时（**0.08B参数**），显著提升了古诗创作能力。总训练数据消耗约 **0.45GB**（含基线预训练0.1GB + 指令微调0.2GB + 诗歌微调0.15GB）。
**在GPT-4o作为裁判的盲测中，本模型在多数古诗创作任务上超越ChatGLM-6B并接近GPT-4o水平。具体评估结果见后文【诗歌能力评估】部分**



## 技术架构
继承自基线模型的创新混合架构：
- **Transformer专家**：专注短上下文逻辑推理，处理韵律结构和意象生成
- **GRU专家**：优化长上下文记忆，负责知识关联和意境连贯
双专家协同机制在资源受限场景下实现计算效率与创作质量的平衡（详见[基线模型说明](https://www.modelscope.cn/models/ericsjq/Xiaothink-T6-0.08B-Instruct-Preview)）。

## 🚀 快速开始 / Quick Start

### 安装与调用 / Installation & Usage

```python
import xiaothink as xt
import xiaothink.llm.inference.test_formal as tf

# 初始化模型配置
model_config = {
    'ckpt_dir': '/path/to/your/checkpoint',  # 替换为实际checkpoint路径
    'MT': 't6_beta_dense',                  # 模型版本标识
    'vocab': '/path/to/your/vocab.txt'      # 替换为实际词表路径
}

# ===== 交互式聊天模式 =====
chat_model = tf.QianyanModel(**model_config)

print("【聊天模式已启动】(输入[CLEAN]清空上下文)")
while True:
    user_input = input('【问】：')
    
    if user_input == '[CLEAN]':
        print('【系统】：上下文已清空\n')
        chat_model.clean_his()
        continue
    
    response = chat_model.chat_SingleTurn(user_input, temp=0.56)
    print('\n【答】：', response, '\n')
```

## 📝 推荐Prompt格式
为获得最佳诗歌生成效果，建议使用以下prompt格式：

### 风格仿写
```
请你以{风格}的风格生成一些古诗
仿照{风格}写古诗
```

### 指定开头/题目
```
请你以{风格}的风格生成古诗，起始为{起始句}
用{风格}的风格写古诗（开头：{起始句}）
```

### 诗句续写
```
续写“{起始句}”生成一些古诗
写诗 用{起始句}为第一句
```

### 作者猜测
```
给出古诗 {诗句} 请你猜猜这是谁写的
根据这段古诗推测一下作者：{诗句}
```

## 技术架构
继承自基线的创新混合架构：
- **Transformer专家**：专注短上下文逻辑推理，处理韵律结构和意象生成
- **GRU专家**：优化长上下文记忆，负责知识关联和意境连贯
双专家协同机制在资源受限场景下实现计算效率与创作质量的平衡（详见[基线模型说明](https://www.modelscope.cn/models/ericsjq/Xiaothink-T6-0.08B-Instruct-Preview)）。

## 训练效率
- **全消费级硬件训练**：模型完全在Intel Core i7 2.8GHz处理器上完成预训练与微调
- **高效微调**：诗歌专项微调仅耗时约30小时
- **低资源适配**：从训练到推理全程兼容消费级硬件环境

## 诗歌能力评估
在GPT-4o作为裁判的盲测中，本模型在多数古诗创作任务上超越ChatGLM-6B并接近GPT-4o水平。评估结果如下（横轴为模型能力分值，纵轴为测试样本分布）：

### temperature=0.44 时能力分布
![评估图1](./model_evaluation_044temp.png)

### temperature=0.56 时能力分布
![评估图2](./model_evaluation_056temp.png)

### temperature=0.64 时能力分布
![评估图3](./model_evaluation_064temp.png)

> 注：评估采用相同提示词批量测试，温度参数调节生成多样性

## 使用场景
- 传统诗词创作辅助
- 文学教育应用
- 文化类AI产品集成
- 边缘设备诗歌生成系统

## 模型特点
- **极简数据依赖**：仅需150MB诗歌微调数据
- **硬件友好**：8000万参数可在消费级设备运行
- **生成可控**：通过温度参数精细调节创作风格
- **全CPU训练**：无需GPU完成模型开发全流程

## 致谢
本模型部分预训练和指令微调数据由Qwen2.5和Qwen3生成、从Minimind项目截取，特别感谢Qwen团队和Minimind的数据集。