---
title: lihuowang-sharegpt
canonical_url: "https://www.modelscope.cn/datasets/wangerzi/lihuowang-sharegpt"
md_url: "https://www.modelscope.cn/datasets/wangerzi/lihuowang-sharegpt.md"
repository: wangerzi/lihuowang-sharegpt
chinese_name: "道诡异仙-李火旺-sharegpt"
last_updated: 2025-01-15
license: other
storage_size: "24 MB"
domain:
  - text
tasks:
  - conversational
size_scale:
  - 100-10k
type:
  - chat
downloads: 9112
stars: 15
---

# lihuowang-sharegpt

> lihuowang-sharegpt - wangerzi 在 ModelScope 开源的数据集。《道诡异仙》主角李火旺的 sharegpt 数据集，使用 deepseek v3 提取，开源项目：https://github.com/wangerzi/lihuowang

wangerzi/lihuowang-sharegpt 是 ModelScope 魔搭社区上的conversational数据集，涉及 text 领域，存储大小 24 MB，采用 other 许可。

- **Repository**: wangerzi/lihuowang-sharegpt
- **License**: other
- **Tasks**: conversational
- **Domain**: text
- **Storage size**: 24 MB
- **Downloads**: 9112
- **Stars**: 15
- **Last updated**: 2025-01-15

Source: https://www.modelscope.cn/datasets/wangerzi/lihuowang-sharegpt

---

开源项目地址：https://github.com/wangerzi/lihuowang

数据集仓库：

[huggingface 地址](https://huggingface.co/datasets/wj2015/lihuowang-sharegpt)

[ModelScope 地址](https://www.modelscope.cn/datasets/wangerzi/lihuowang-sharegpt/summary)

[Paddle 飞桨地址](https://aistudio.baidu.com/datasetdetail/313489)


| 数据集名称 | 描述 |
|-----------|------|
| lihuowang-alpaca-dpo.json | 【推荐】使用 Alpaca 格式的 DPO 数据集，包含李火旺的疯言疯语回答和正常回答的对比 |
| daoguiyixian-sharegpt-summary-v2.json | 【推荐】ShareGPT 格式，章节摘要的 QA 第二版，优化了问题质量和回答准确性 |
| daoguiyixian-sharegpt-qa-v2.json | 【推荐】2W 条数据，ShareGPT 格式，针对章节内容的细致问答第二版，增加了更多细节问题和更准确的回答 |
| daoguiyixian-summary-v2.json | 各章节的摘要总结第二版，优化了摘要的连贯性和关键事件的覆盖度 |
| daoguiyixian-sharegpt-summary.json | ShareGPT 格式，章节摘要的 QA |
| daoguiyixian-sharegpt-qa.json | ShareGPT 格式，针对章节内容的细致问答 |
| lihuowang-sharegpt.json | ShareGPT 格式，经过清洗和整理的李火旺对话数据集，包含更规范的对话格式和更完整的对话内容 |
| daoguiyixian-summary.json | 包含各章节的摘要总结，概括了每章的主要情节和关键事件 |
| lihuowang-sharegpt-origin.json | 原始的李火旺对话数据集，包含李火旺与其他角色的对话片段，主要来自小说中的对话内容，有需要可以再自行清洗数据 |


## 简介
源自小说《道诡异仙》，使用 DeepSeekv3 提取火子哥的对话数据集和世界观数据集

> deepseek 不愧国产之光，跑完 230w 字的所有章节 SUMMARY 和 QA 就花了 ￥3

## 进展

#### 2025-01-14

基于 qwen2.5-7b-instruct 5e-5 学习率做两轮 DPO，可以学到疯狂火子哥说话风格

![image](assets/image-20250114180615-e0x9svi.png)

![image](assets/image-20250114180805-nlgua14.png)

![image](assets/image-20250114191407-hqatl7r.png)

不过因为没做 pretrain 和 SFT，DPO 只能学到说话风格，缺少先验知识会有事实性错误

![image](assets/image-20250114191702-r0np6yl.png)


## 一些想法

因为小说内容太少，无法支撑继续预训练，除非重头训练大模型并把小说内容注入进去，但这不太现实。或者按照基础模型的训练数据比例去混数据做 Continue-Pretrain，数据清洗和训练成本更高了，暂时不考虑。

所以还是再试试从 SFT 的思路去做，把每个章节的内容都提出尽可能多的，合适的问题，尝试用 SFT 全量训练把新知识注入进去（可能灾难性遗忘比较严重，但相比 Lora 应该效果会好点）

> 火子哥有点沉默寡言，大多时候内心戏多，说话少，所以用小说内的原始对话数据集直接训出来的模型就很呆，也没有故事背景，所以得尝试先有一个道诡异仙世界模型，再继续对火子哥的对话数据集进行清洗优化，才能搞好火子哥的对话模型
> ..直接 instruct + SFT 质量也不行，这新知识进不了大模型的脑子，大模型缺少这部分知识效果就是不好


## 注意
无授权，不可商用，仅供学习