---
title: pre-tang-char-lstm
canonical_url: "https://www.modelscope.cn/models/u133YEcbo88/pre-tang-char-lstm"
md_url: "https://www.modelscope.cn/models/u133YEcbo88/pre-tang-char-lstm.md"
repository: u133YEcbo88/pre-tang-char-lstm
chinese_name: "唐前古文字符级 LSTM"
last_updated: 2026-07-21
license: cc-by-sa-4.0
pipeline_tag: text-generation
tasks:
  - text-generation
library_name:
  - pytorch
frameworks:
  - pytorch
downloads: 0
stars: 2
tags:
  - LSTM
  - character-level-language-model
  - classical-chinese
  - pre-tang
  - ancient-chinese
---

# pre-tang-char-lstm

> pre-tang-char-lstm - u133YEcbo88 在 ModelScope 开源的模型。仅使用唐代及以前中文古籍训练的字符级 LSTM，可根据提示文字逐字续写古文风格文本。

u133YEcbo88/pre-tang-char-lstm 是 ModelScope 魔搭社区上的text-generation模型，采用 cc-by-sa-4.0 许可。

- **Repository**: u133YEcbo88/pre-tang-char-lstm
- **License**: cc-by-sa-4.0
- **Tasks**: text-generation
- **Tags**: LSTM, character-level-language-model, classical-chinese, pre-tang, ancient-chinese
- **Downloads**: 0
- **Stars**: 2
- **Last updated**: 2026-07-21

Source: https://www.modelscope.cn/models/u133YEcbo88/pre-tang-char-lstm

---

# 唐前古文字符级 LSTM

这是一个只使用**唐代及唐代以前中文古籍**训练的字符级语言模型。它读取提示文字，然后逐字续写具有古文语感的内容。本次发布提供模型权重、命令行推理代码和免下载的在线续写界面。

## 模型摘要

| 项目 | 数值 |
| --- | --- |
| 架构 | 2 层 LSTM，每层 512 单元 |
| 字符嵌入 | 256 维 |
| Dropout | 0.25 |
| 参数量 | 17,138,015 |
| 字符表 | 17,503 个字符 |
| 训练文本 | 19,885,216 字符 |
| 训练轮数 | 15（前 10 轮训练，后 5 轮低学习率精修） |
| 最佳验证损失 | 4.5621（第 15 轮） |

## 训练内容

语料覆盖经、史、子、集、字书、医学和算书，包括《周易》《论语》《孟子》《老子》《庄子》《墨子》《荀子》《韩非子》《史记》《汉书》《三国志》《黄帝内经》《九章算术》《说文解字》《楚辞》及全唐诗等。年代筛选明确排除宋代《资治通鉴》、宋诗、五代诗词、宋词和元曲。

详细来源、固定版本与许可证见 [THIRD_PARTY_NOTICES.md](THIRD_PARTY_NOTICES.md)。

## 在线体验

本模型仓库保存权重和推理代码。免下载的浏览器体验需要配套的魔搭创空间；创建方法见发布包根目录中的 `UPLOAD_GUIDE.md`。

## 使用方法一：ModelScope SDK 下载后生成

```bash
pip install "torch>=2.2" "modelscope>=1.25"
```

```python
import sys
from pathlib import Path
from modelscope import snapshot_download

model_dir = snapshot_download("u133YEcbo88/pre-tang-char-lstm")
sys.path.insert(0, model_dir)

from inference import PreTangGenerator

generator = PreTangGenerator(Path(model_dir) / "best.pt")
text = generator.generate(
    prompt="子曰",
    length=240,
    temperature=0.7,
    top_k=30,
    seed=123,
)
print(text)
```

## 使用方法二：下载仓库后运行命令

```bash
python inference.py \
  --checkpoint best.pt \
  --prompt "臣闻天下之势" \
  --length 240 \
  --temperature 0.7 \
  --top-k 30
```

### 生成参数

- `prompt`：续写开头；必须由模型字符表内的字符组成。
- `length`：生成字符数，建议 100–400。
- `temperature`：随机性，建议 0.6–0.9；越低越保守，越高越发散。
- `top_k`：每一步仅从概率最高的若干字符中采样，建议 20–50。
- `seed`：随机种子；相同参数与种子可复现输出。

## 训练结果

验证损失在第 1–15 轮从 4.9250 持续下降至 4.5621；第 14 轮轻微波动到 4.5655，第 15 轮再次刷新最佳值，未观察到明显的验证损失反弹。完整逐轮数据见 [training_metrics.json](training_metrics.json)。

## 能做什么

- 根据“子曰”“臣闻”“夫兵者”等开头续写古文风格文本。
- 观察唐前语料中的常见字符搭配和句式惯性。
- 用于字符级 LSTM、Embedding、temperature 与 top-k 的教学演示。

## 重要限制

- 这是逐字预测模型，不是聊天机器人，不能可靠回答历史问题。
- 模型只有约 1714 万参数，长程逻辑、事实一致性和篇章结构有限。
- 训练语料包含繁简混合、古籍异体字和多种标点风格。
- 生成内容可能重复、出现空行、混合不同文体，或复现训练语料片段。
- 所有输出必须标明“模型生成”，不得冒充古籍原文或用于伪造史料。

## 文件说明

| 文件 | 用途 |
| --- | --- |
| `best.pt` | 已移除优化器状态的推理权重 |
| `inference.py` | Python API 与命令行生成入口 |
| `char_rnn/` | tokenizer、LSTM 架构和 checkpoint 加载代码 |
| `model_config.json` | 架构与训练摘要 |
| `training_metrics.json` | 15 轮训练/验证损失 |
| `THIRD_PARTY_NOTICES.md` | 训练语料来源、固定版本与许可证 |
| `MIT_chinese_poetry.txt` | chinese-poetry 上游 MIT License 全文 |
| `MODEL_LICENSE.md` | 模型权重发布许可证说明 |

## 许可证

模型权重建议按 CC BY-SA 4.0 发布。语料来源分别包含 CC0 1.0、CC BY-SA 4.0 与 MIT License；请保留署名和第三方声明。详见 [MODEL_LICENSE.md](MODEL_LICENSE.md) 与 [THIRD_PARTY_NOTICES.md](THIRD_PARTY_NOTICES.md)。
