---
title: qwen3-8b-novel-base-sft
canonical_url: "https://www.modelscope.cn/models/mikuhhn/qwen3-8b-novel-base-sft"
md_url: "https://www.modelscope.cn/models/mikuhhn/qwen3-8b-novel-base-sft.md"
repository: mikuhhn/qwen3-8b-novel-base-sft
last_updated: 2026-06-23
license: apache-2.0
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - qwen3
architectures:
  - Qwen3ForCausalLM
base_model:
  - Qwen/Qwen3-8B-Instruct
base_model_relation: adapter
parameters: 5.7B
tensor_type:
  - BF16
library_name:
  - transformer
  - peft
  - safetensors
language:
  - zh
downloads: 22
stars: 4
tags:
  - qwen3
  - chinese-novels
  - creative-writing
  - peft
---

# qwen3-8b-novel-base-sft

> qwen3-8b-novel-base-sft - mikuhhn 在 ModelScope 开源的模型。Qwen3-8B Novel Base SFT

mikuhhn/qwen3-8b-novel-base-sft 是 ModelScope 魔搭社区上的 5.7B 参数text-generation模型，采用 apache-2.0 许可，基于 Qwen/Qwen3-8B-Instruct 构建。

- **Repository**: mikuhhn/qwen3-8b-novel-base-sft
- **License**: apache-2.0
- **Tasks**: text-generation
- **Parameters**: 5.7B
- **Base model**: Qwen/Qwen3-8B-Instruct
- **Tags**: qwen3, chinese-novels, creative-writing, peft
- **Downloads**: 22
- **Stars**: 4
- **Last updated**: 2026-06-23

Source: https://www.modelscope.cn/models/mikuhhn/qwen3-8b-novel-base-sft

---

# Qwen3-8B Novel Base SFT

基于 Qwen3-8B-Instruct 全参微调，用 669 本中文网络小说训练（约 7200 万字符）。

覆盖类型：言情、耽美、都市言情、玄幻、网游。

## 用途

这是 **All Novel Can Be Galgame** 工作台的基座模型。
用于学习中文小说的叙事风格，配合下游 LoRA adapter 执行三类 Agent 任务：

- `mikuhhn1239/qwen3-8b-narrative-parsing-lora` — 叙事单元切分
- `mikuhhn1239/qwen3-8b-scene-segmentation-lora` — 场景边界识别
- `mikuhhn1239/qwen3-8b-attribution-assist-lora` — 角色归因

## 加载

```python
from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained(
    "mikuhhn1239/qwen3-8b-novel-base-sft",
    torch_dtype="auto",
    device_map="auto",
)
tokenizer = AutoTokenizer.from_pretrained(
    "mikuhhn1239/qwen3-8b-novel-base-sft"
)
```

4-bit 量化（适用于 8GB 显存）：

```python
from transformers import BitsAndBytesConfig

bnb_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype="float16",
    bnb_4bit_quant_type="nf4",
)
model = AutoModelForCausalLM.from_pretrained(
    "mikuhhn1239/qwen3-8b-novel-base-sft",
    quantization_config=bnb_config,
    device_map="auto",
)
```

## 训练

- 微调方式：全参数 SFT
- 训练数据：72,573 条（continuation 36,092 + instruction 36,481）
- 最大序列长度：4096
- 学习率：5e-6，cosine scheduler
- 硬件：8×A800 80GB
- 框架：LLaMA-Factory

## 限制

- 仅支持中文输入
- 训练数据以网络小说为主，非通用指令模型
- 无安全对齐，不适用于敏感内容生成
