---
title: rwkv7-g1l-2.9b-novel-sft
canonical_url: "https://www.modelscope.cn/models/xiaolgo/rwkv7-g1l-2.9b-novel-sft"
md_url: "https://www.modelscope.cn/models/xiaolgo/rwkv7-g1l-2.9b-novel-sft.md"
repository: xiaolgo/rwkv7-g1l-2.9b-novel-sft
chinese_name: "RWKV7-G1l-2.9B 小说扩写（第一版监督微调）"
last_updated: 2026-11-20
license: apache-2.0
pipeline_tag: text-generation
tasks:
  - text-generation
base_model_relation: finetune
library_name:
  - pytorch
frameworks:
  - Pytorch
language:
  - zh
downloads: 3
stars: 1
tags:
  - rwkv
  - rwkv7
  - text-generation
  - fine-tuned
---

# rwkv7-g1l-2.9b-novel-sft

> rwkv7-g1l-2.9b-novel-sft - xiaolgo 在 ModelScope 开源的模型。中文小说扩写。默认权重是第一版监督微调：人话里还留着滑稽和没说破的感觉。后面的 DPO 和 Step-DPO 跟纲略好，但文风变平，有人工智能味，所以不作为默认。三份合并后的权重都在仓库里，提示词和采样相同。感谢 我要吃稀饭。

xiaolgo/rwkv7-g1l-2.9b-novel-sft 是 ModelScope 魔搭社区上的text-generation模型，采用 apache-2.0 许可。

- **Repository**: xiaolgo/rwkv7-g1l-2.9b-novel-sft
- **License**: apache-2.0
- **Tasks**: text-generation
- **Tags**: rwkv, rwkv7, text-generation, fine-tuned
- **Downloads**: 3
- **Stars**: 1
- **Last updated**: 2026-11-20

Source: https://www.modelscope.cn/models/xiaolgo/rwkv7-g1l-2.9b-novel-sft

---

# RWKV7-G1l-2.9B 小说扩写（第一版监督微调）

这份说明是 Grok 4.7 xhigh 写的，它自己就是一份有人工智能味的文档。

在 [Blink_DL/rwkv7-g1](https://modelscope.cn/models/Blink_DL/rwkv7-g1) 的 `rwkv7-g1l-2.9b-20261031-ctx34304.pth` 上做的中文小说扩写低秩适配，已经合并进基座，是一份可以直接加载的脑浮点 16 位权重。给定细纲和字数要求，模型按 G1 对话模板直接写正文，并在段尾空行处停下。

感谢 我要吃稀饭。

默认文件是第一版监督微调。DPO 和 Step-DPO 也放在同一个仓库里，用来对照。加载方式和普通的 RWKV7-G1 权重一样。

## 为什么默认是第一版监督微调

后面又训了 DPO 和 Step-DPO。跟纲略好一点，文风掉了：人话里的滑稽和没说破的感觉没了，读起来有一股人工智能味，像在给细纲做说明书。所以这个仓库的默认权重仍是第一版监督微调（`rwkv7-g1l-2.9b-novel-sft-run1.pth`）。另外两份合并文件也放在这里，想对跟纲可以换文件名加载，提示词和采样不变。

评测用深度求索 V4.1 快闪版（接口模型名 `rwkv-ds41f-1017`），盲评，温度 0。同一套 48 条留出提示。下表是三边都解析成功的 38 条（另有 5 条评测输出没解析出来，没有算进去）。文字分几乎一样，评委的 1 到 5 分没有把「人工智能味」分开；取舍是读稿子之后做的。

| | 第一版监督微调 | DPO | Step-DPO |
|---|---:|---:|---:|
| 细纲覆盖 | 20.4% | 29.4% | 26.8% |
| 开头按细纲进入 | 15.8% | 10.5% | 23.7% |
| 结尾落在要求的状态 | 2.6% | 5.3% | 10.5% |
| 中途截断 | 68.4% | 65.8% | 60.5% |
| 与细纲矛盾的条数（平均） | 5.8 | 6.3 | 6.0 |
| 文字（1 到 5） | 1.71 | 1.74 | 1.68 |
| 总分（1 到 10） | 2.13 | 2.26 | 2.26 |

同一采样下的格式（48 条全算，三边都自己停住，10 字重复率大于 0.1 的都是 0）：

| 字数落在要求区间 | 第一版监督微调 | DPO | Step-DPO |
|---|---:|---:|---:|
| 全部 | 60% | 54% | 71% |
| 剧情扩写（1200 到 1500 字） | 96% | 62% | 96% |
| 单章扩写（2400 到 2500 字） | 25% | 46% | 46% |

DPO 把剧情扩写的长度从 96% 打到 62%。Step-DPO 把长度拉回来，跟纲只高一点。两份的文字分都没有超过第一版。

另有一次盲评的阅读比较（DPO 对第一版，16 条提示、两种顺序）：胜负各 50%。可读性 3.84 对 4.03，文笔 3.41 对 3.62，第一版略高。

### 例子：剧情扩写第 2278 条

同一条留出细纲。下面是三份权重各自写完的全文，没有删节，也没有评语。字数按评测记录，换行不计入。48 条都在仓库里的生成文件中。这一条在 `samples/stepdpo1_gen_step11.md` 里是索引 2，锚点 `s2`，编号 2278。

细纲：

```text
剧情细纲：
林峰与张焕吃饭时，张焕提及掉了一千元，林峰提出资助被拒；林峰建议张焕利用英雄联盟白金段位去当主播或代练赚钱，张焕认为主播门槛太高。
扩写要求：根据上面的剧情细纲，合理的进行剧情扩写，扩写字数为1200 ~ 1500字，且开头不能总结，结尾不能升华主题或者展望未来，整个扩写的内容需要符合剧情细纲。
```

第一版监督微调，`rwkv7-g1l-2.9b-novel-sft-run1.pth`，1420 字。

```text
当然，张焕并不知道他嘴巴没把门，说漏了嘴。
林峰望了张焕一眼，却是不动声色地道：“对了，你刚才说掉了一千块？”
张焕尴尬地笑了笑，搓着手：“倒是没有掉这么多，大概掉了几十块钱。”
“张焕，你是在拿我当傻子？”林峰听得眉头大皱。
“我还真是第一次见到你这么土的人，我们读书时没钱的时候，难道还不能吃顿快餐？”
“这事可不能算账。”张焕脸上满是为难之色。
毕竟如果账算清楚，到时候林峰非得给他来个脱贫致富，要给他定罪才好。
张焕心虚地道：“你看，现在你不是已经发达了嘛！所以我也就打算投资你……”
林峰冷哼一声：“还有没有点节操？上次我投资你的项目，到现在还赔钱呢！”
张焕笑了笑：“那我的意思就是让你平息怒气，免得你又跑去上学来得好。”
林峰淡淡地道：“那倒也是。”
张焕继续道：“不过你有这个能力还不用念书，真的挺好。”
“嗯？你这话什么意思？”
张焕拍了拍手，很自然地举起碗筷：“说句重话也会挨揍啊！小心点。”
林峰摊开双手：“那也比在外面被人堵了强，而且我最多就是不念书而已，就连英雄联盟白金段位都能轻松达到。”
“英雄联盟白金段位？”张焕听得嘴巴大张。
林峰自己都吃惊了：“难道你连这个也不知道？”
张焕如实回答：“还真不知道啊！”
“咳！”林峰清咳一声。
继续道：“英雄联盟玩得多了，也有机会成为职业选手的，对于段位的划分也非常的清楚，其中白金段位已经算是黄金和铂金之上的段位。”
“原来如此。”张焕听得微微点头。
若是林峰这个时候还是当初那个只知道上课逃课的废材，他还真不会信。
“要说英雄联盟，我倒是可以带你赚钱。”
张焕听得来了兴致：“怎么赚钱？”
“你想让我带你练级吗？”
“不。”张焕摇头拒绝道。
“打副本？在地图里面采集资源？”
林峰的话让张焕脸色古怪：“难道你打算去给人家当杀手？”
林峰没好气地道：“你这脑子可真的是有问题。”
张焕摇头苦笑：“当然，这个也不行，我又没玩过英雄联盟。”
林峰只好耐心解释道：“英雄联盟其实是分段位的，黄金以下就只能去跟其他黄金打打局，想要赚钱其实还真不容易。”
“那么白金呢？难道也一样？”
林峰也没隐瞒，认真地道：“白金以下的话，想要赚钱是真的很难，但是白金以上则完全不同了。”
“比如说我这个白金段位的水平，在后面加个L，再加个P，这样看起来就更加唬人一些。”
“王牌选手？”张焕试探着道。
林峰摇头：“算不上吧！虽然在峡谷里面还算可以，但若是拿到外面就不行了，说到底还是因为段位太低。”
张焕皱眉：“那怎么赚钱呢？”
林峰见他疑惑。
也没藏着掖着：“你也知道英雄联盟里面有自己的职业联赛，所谓的主播就是他们的粉丝。”
“粉丝？你是说网红？”张焕听得目瞪口呆。
林峰连连点头：“英雄联盟的主播们有一大部分都是职业选手兼职的，毕竟他们才是最有名气的，这些主播每个月收入也都在十万以上，要是粉丝多的话，收入只怕更加恐怖。”
“难道你就是这样赚钱的？”张焕忍不住问道。
林峰毫不掩饰地道：“正是如此！”
张焕摇头苦笑：“可我怎么看你也不像是主播啊！”
“这个主播有很多形态。”林峰颇为认真地道。
张焕却是摇头道：“可我觉得你不适合当主播，你会怕被人骂？”
林峰笑了笑：“骂什么？最好把我骂进去职业联赛！”
“可……”张焕却是无言以对。
“其实主播也分很多形态。”林峰微微一笑。
不过却又补充了一句：“当然，门槛高也要分几种，有一些一般主播玩游戏就只是为了开黑而已，谁想当主播呢？”
“你这话……我却是不太明白。”张焕皱眉道。
林峰摇头道：“也罢！等我开视频号时，你若是有空的话可以看看。”
```

DPO，`rwkv7-g1l-2.9b-novel-dpo1.pth`，1448 字。

```text
听到林峰的声音，张焕心头一紧，连忙转过身子，装作无事发生的模样。
他嘴角勉强挤出一丝笑容：“峰哥，怎么样？菜还合你口味吧？”
林峰在张焕旁边的椅子上坐了下来，露出讥讽之色：“合不合口味的，我暂时还没兴趣知道，我想问问，你昨天掉了一千块钱。”
张焕面色一变，讪讪道：“谁掉钱了？”
“你们一起走回家的那位女生啊，是不是忘记了这件事情？还是说，这钱是你从她口袋里拿的？”
“都不是！”张焕心虚道。
林峰盯着张焕的眼睛，一字一顿道：“如果你真不知道这件事情，我会放过你，但如果你知道这钱是你从人家口袋里拿出来的，那就别怪我翻脸无情了。”
张焕知道林峰做得出来的事情，连忙把那一千块钱装进自己的口袋里。
他语气低沉道：“真不是我拿的，她肯定是丢了。”
林峰知道张焕不会说谎，因为就算他们没钱，也不至于为了钱去拿人家的东西。
他不想再继续追究这件事情了，于是转过话锋问道：“上次打赌输给我的那三十块钱，你看什么时候有空把钱给我？”
“什么？赌输的三十块钱也要收回去啊？太过分了！”张焕吃饭的动作一滞。
林峰摊了摊手道：“这可是你自愿的，我之前提醒过你了，非要置气才怪了。”
张焕长叹了一口气，重重点头：“我会尽快还给你的。”
“不着急，你先吃着，吃完再还也行。”
林峰这才满意的笑了笑，开始享用起自己早就订好的饭菜来。
张焕边吃边苦恼道：“峰哥，我真不知道如何还你这三十块钱了……”
林峰随意道：“你要是想找个兼职赚点钱，我倒是可以帮你介绍个活干。”
张焕一听是好事儿，连忙放下筷子。
说道：“你倒是有什么好主意尽管说啊，还有你请假病假的钱也算上。”
林峰轻笑一声，大口吃肉：“你这不识好人心！”
张焕一口肉噎住，痛苦的咳嗽起来。
林峰拍了拍他的后背，开始道：“现在娱乐圈各种网红明星都多如牛毛，想成为明星就算你姿色不错也没什么用，你要是能够成为英雄联盟的白金段位选手，那绝对是大富大贵！”
“英雄联盟？”张焕疑惑道。
林峰满脸崇拜道：“你连英雄联盟都不知道？其实这个游戏也是一款很棒的虚拟现实运动赛车游戏，我给你推荐一个加速器吧。”
张焕一头黑线：“你脑子到底有没有问题？！”
林峰一脸无辜：“怎么了？我说的都是真的！”
“那些全职职业选手和主播的收入，也就比普通打工的高一点罢了，只要被开除出赛事组织，他们跟咱们普通人没什么两样，而且想成为白金段位的选手又何其之难？更别说要走上职业选手的道路了。”
林峰说得颇有道理，因为他平时最喜欢看职业赛事。
只要是前十的选手和前三的职业战队，都有一百万以上的保底月薪。
再加上签约平台的提成，甚至有几个选手的年薪已经破过千万了。
但这些全职职业选手数量极少，平均在一百人左右，那些想要打职业的玩家就多得数不过来。
所以一个星期才开出三四十个名额的职业赛事组织也只能一直在英雄联盟白金段位搜寻优质选手。
而且还有很大几率会被淘汰。
更不用说那些主播了，想要成为一个年入百万的主播绝对不是什么难事，但这样的条件谁都有资格成为，真正有能力的主播很少很少。
毕竟你要能在上百万人面前，带着那么多观众打出精彩操作才行。
再加上一个虚拟现实游戏之所以火，是因为他在全息技术的加持下，产生了逼真度极高的身临其境感受。
就算是最强的职业选手和最强的主播也都只能用来卖颜值和卖资源。
实力在线的人，才会有关注度，才能被人记住。
而没什么实力，甚至脑子不好使的人，只会成为流量而已。
……
张焕想了想，觉得林峰说得有道理，他尴尬道：“现在可以找到主播的门路了吗？”
林峰道：“当然可以了，我们可是老朋友了，我的直播账号都能给你弄到，只要你把我从副总裁位置上挤下去。”
```

Step-DPO，`rwkv7-g1l-2.9b-novel-stepdpo1.pth`，1440 字。

```text
当然，张焕并不知道有这个习惯，他还不知道这是一件非常令人羡慕的事情，他现在正吃得满嘴流油。
“哥们儿，你也太能吃了吧？”张焕说着，又抓了一个鸡腿和一把油炸花生米。
“哈哈，你不知道吧，我以前可是外卖小哥的。”林峰大咧咧地说道。
“外卖小哥？那是干嘛的？”
“这是一个相当好听的名字，因为我只是一个外卖小哥。”
“啥意思？哈哈。”张焕不明白林峰的意思，林峰更不会解释了。
此刻，林峰也知道自己这么解释就是在忽悠了，自己有一身本事，可以赚很多钱，但却没有办法和别人解释。
“林哥，你喝不喝酒啊？”张焕问道。
“不喝了。”
“对了，林哥，你想不想赚钱啊？有个事情我要跟你说一下。”张焕犹豫了一下说道。
林峰眉头一皱：“有事情你直接说就行了，我在做什么和你没关系。”
“那……那个我掉了一千块钱。”张焕欲言又止地说道。
“什么？你掉钱了？”林峰差点从凳子上跳起来。
张焕吓了一跳：“是啊！这个真的，你不要激动！”
“好吧！那你知道是谁捡到了吗？”
“没有……”
张焕顿时感觉头大无比：“林哥，这可怎么办啊？”
“难道还让别人把钱还给你？”林峰问道。
“嗯……”
“想不到你也会掉钱啊！”林峰轻笑一声。
他站起来，拍拍屁股走人，走到门口的时候，他转过身说道：“其实掉了一千块钱也不算什么大事儿。”
林峰离开后，张焕依然傻乎乎地坐在那里，他咬着嘴唇，为自己的掉钱而发愁。
第二天上午，林峰还没起床，他的手机就响了起来。
林峰拿起手机一看，却是昨天和自己搭讪的小萝莉打过来的电话。
“你昨天为什么不接我电话啊？我昨天晚上跑去英雄联盟馆找你，你都不在。”小萝莉在电话里说道。
“我睡过头了。”
“哼！不理你了！大色狼！”
林峰哑然失笑：“好了，小妹妹，我给你一个提议。”
“什么提议啊？”
“你看，你是一名英雄联盟白金段位的职业选手，你可以用这个身份去当主播啊！以前有一个职业选手，因为拿不出比赛的奖金就去当主播了，他在主播界混得还不错。”
林峰这番话刚说完，立刻引起了小萝莉的好奇心。
他想都没想就问道：“你……你说得是真的吗？”
“当然是真的，如果有疑问，可以上网查一下，只要对方有点名气就不会有假。”林峰说道。
“真的吗？这可是个好机会！”
林峰听到小萝莉的话后忍不住苦笑一声：“真的吗？只怕没那么容易吧？首先对方要有高水平的操作和深厚的意识才行。”
小萝莉似乎明白了林峰话中的意思。
她喃喃自语道：“这样也好！我会努力练习的！”
“当主播其实很累的。”林峰补充了一句。
小萝莉连连点头：“嗯！嗯！我知道！我也是看别人直播才知道的。”
“哈哈，你能接受就好了。”
“嗯！我会努力学习的。”小萝莉郑重其事地说道。
张焕站在阳台上，冷不丁地问了一句：“你们两个到底在说什么啊？”
“没什么，我只是给你推荐一个职业。”林峰随口回答道。
林峰后面补充了一句：“当然是主播！”
“这种工作能赚钱吗？”张焕似乎明白了什么，忍不住问道。
林峰很佩服张焕的敏感：“应该可以吧！只要你愿意花钱去买名气，这个行业会让你赚得盆满钵满！”
张焕有点儿晕乎乎地点点头：“还真是啊！我听说过有人买几十万的礼物送人。”
“唉！这年头无论做什么事情都是越来越不容易了！”林峰感慨地说道。
“对啊！无论做什么事情都是很难的，现在生活压力太大了！”张焕感慨地说道。
林峰哈哈大笑：“所以我才说你们两个应该努力学习，我就知道这些人。”
张焕闻言不禁苦笑一声：“也是啊！学习不好怎么能够成为主播？”
“主播不仅要会玩，还要有独特的风格，你说难不难？”林峰反问道。
“那当然很难了！我就没见过那个玩英雄联盟玩得很好的同时还很会玩的人。”
```

生成和对照文件都在这个仓库的 `samples/` 里：

| 文件 | 是什么 |
|---|---|
| [`samples/dpo1_review.md`](samples/dpo1_review.md) | 第一版和 DPO 的阅读对照，48 条留出提示，每条是完整生成 |
| [`samples/run1_generations.json`](samples/run1_generations.json) | 第一版 48 条生成，字段 `output` 是正文 |
| [`samples/dpo1_gen_step305.json`](samples/dpo1_gen_step305.json) | DPO 最终权重的 48 条生成 |
| [`samples/stepdpo1_gen_step11.json`](samples/stepdpo1_gen_step11.json) | Step-DPO 的 48 条生成 |
| [`samples/stepdpo1_gen_step11.md`](samples/stepdpo1_gen_step11.md) | 同一份生成的可读版 |
| [`samples/judge_summary.json`](samples/judge_summary.json) | 三边分数，上面的表从这里来 |

## 文件

三份都是合并后的脑浮点 16 位权重，结构和 G1l-2.9B 相同。换文件即可，用法相同。默认用第一份。

| 文件 | 字节 | 校验和 | 说明 |
|---|---:|---|---|
| `rwkv7-g1l-2.9b-novel-sft-run1.pth` | 5,896,475,673 | `381fa293a599ffa44fb56715858a065ed4f23598ac88719fef58df956ed121df` | **默认。** 第一版监督微调，622 步 |
| `rwkv7-g1l-2.9b-novel-dpo1.pth` | 5,896,471,337 | `caab656b81dffb355a12b9562ae773c1cfdcb5c37227e114f1651c30f5a67363` | 在第一版上做的 DPO，305 步。偏好的一边是人写的故事，不偏好的一边是第一版自己写的 |
| `rwkv7-g1l-2.9b-novel-stepdpo1.pth` | 5,896,475,673 | `b63c951b5aab493da9fade817d2fefac591b34cb5c1ccb312f4eb301d6bcd7ef` | 在第一版上做的 Step-DPO，11 步，115 对，只改走偏的那一拍 |
| `rwkv_vocab_v20230424.txt` | 1,093,733 | `e6dee3d4e31b4d5c40ac99508ac6c701ceef4bed681bf2167ce9a908552bca89` | 训练用词表，换行是换行符。`rwkv` 0.8.32 自带的同名词表只是回车加换行，编码结果相同 |

结构与 G1l-2.9B 相同：32 层，隐藏宽度 2560，词表 65536，前馈 10240。权重约 5.5 GiB，推理建议 12 GB 以上显存。

## 训练代码

三份权重的训练脚本都在 [`code/`](code/)，用法和每份权重的原始命令写在 [`code/README.md`](code/README.md)：

| 权重 | 脚本 |
|---|---|
| 第一版监督微调 | `prepare_data.py` → `train.py` → `export_merged.py` |
| DPO | `gen_pairs.py` → `dpo.py` |
| Step-DPO | `judge_locate.py` → `branch.py` → `judge_branch.py` → `dpo.py`（`run_stepdpo1_data.sh`） |

[`train_logs/`](train_logs/) 里是 DPO 和 Step-DPO 的完整配置、逐步训练日志，以及 Step-DPO 配对数据的统计。训练数据和配对文件不在仓库里。

## 下载

```bash
pip install modelscope-hub "rwkv==0.8.32"
modelscope download xiaolgo/rwkv7-g1l-2.9b-novel-sft --local-dir ./rwkv7-g1l-2.9b-novel-sft
```

```python
from modelscope import snapshot_download
snapshot_download("xiaolgo/rwkv7-g1l-2.9b-novel-sft", local_dir="./rwkv7-g1l-2.9b-novel-sft")
```

## 用法

提示词和训练时一致。用户原文里的空行要收成单换行，唯一的空行是「用户」和「助手」之间的分隔。程序里这两边写成 `User:` 和 `Assistant:`，因为词表就是这样分词的：

```text
User: {细纲 + 字数要求，空行已收成单换行}

Assistant:
```

采样用 RWKV 官方默认。不要把核采样降到 0.5，那会让单章扩写大量循环。

| 参数 | 值 |
|---|---|
| 温度 | 1.0 |
| 核采样 | 0.85 |
| 存在惩罚 | 0.2 |
| 频率惩罚 | 0.2 |
| 惩罚衰减 | 0.996 |
| 屏蔽的词元 | 0（预训练里的文档结束符） |

正文在解码文本里出现空行时结束。这个空行通常是两个词元（一个以换行结尾，再加一个以换行开头），不是单独那个「空行」词元（编号 261）。只把 261 放进停止词会停不下来。

先把环境变量 `RWKV_V7_ON` 设为 `1`，再用 `rwkv` 0.8.32 加载。下面这段在空行处停下，惩罚和官方生成函数相同。

```python
import os
os.environ["RWKV_V7_ON"] = "1"

import re
from rwkv.model import RWKV
from rwkv.utils import PIPELINE, PIPELINE_ARGS

# 默认是第一版。对照跟纲时换成 novel-dpo1.pth 或 novel-stepdpo1.pth。
MODEL = "./rwkv7-g1l-2.9b-novel-sft/rwkv7-g1l-2.9b-novel-sft-run1.pth"
model = RWKV(model=MODEL, strategy="cuda bf16")
pipeline = PIPELINE(model, "rwkv_vocab_v20230424")

def expand(outline: str, max_new: int = 3600) -> str:
    user = re.sub(r"\n{2,}", "\n", outline.replace("\r\n", "\n")).strip()
    prompt = "User: " + user + "\n\nAssistant:"
    args = PIPELINE_ARGS(
        temperature=1.0,
        top_p=0.85,
        alpha_presence=0.2,
        alpha_frequency=0.2,
        alpha_decay=0.996,
        token_ban=[0],
    )
    state = None
    occurrence = {}
    text = ""
    tokens = pipeline.encode(prompt)
    for _ in range(max_new):
        while tokens:
            logits, state = model.forward(tokens[: args.chunk_len], state)
            tokens = tokens[args.chunk_len :]
        for n in args.token_ban:
            logits[n] = float("-inf")
        for n, c in occurrence.items():
            logits[n] -= args.alpha_presence + c * args.alpha_frequency
        token = pipeline.sample_logits(logits, temperature=args.temperature, top_p=args.top_p)
        for n in occurrence:
            occurrence[n] *= args.alpha_decay
        piece = pipeline.decode([token])
        occurrence[token] = occurrence.get(token, 0) + (0 if piece in " \t0123456789" else 1)
        text += piece
        if "\n\n" in text:
            break
        tokens = [token]
    return text.split("\n\n", 1)[0].strip()

outline = """根据下面的细纲，扩写成 1200 到 1500 字的小说正文。不要写标题，不要总结。
细纲：
雨夜，巡夜人在城门口拦住一个没有路引的少女。
少女交出一封没有署名的信，信上只有一行字：城主的灯要灭了。
城门上的灯笼在她说完后自己灭了。"""
print(expand(outline))
```

RWKV 运行器和 Ai00 也可以直接打开这份权重（RWKV-7 / G1）。停止条件同样按解码后的空行，而不是只按词元 261。

## 训练时在做什么

两类任务，字数写在用户提示里：剧情扩写约 1200 到 1500 字，单章扩写约 2400 到 2500 字。模型被教成写完就用空行结束，不会先输出思考标签。

低秩适配的秩是 64、缩放是 128，打在全部 32 层的注意力接收、键、值、输出，以及前馈的键和值上，再合并回基座。优化器 AdamW，学习率万分之一，预热 30 步，余弦降到十万分之一，两轮共 622 步。留出集损失从 1.906 降到 1.840。

48 条从未参与训练的提示、上面这套采样下的格式结果：

| | 剧情扩写，24 条 | 单章扩写，24 条 |
|---|---|---|
| 自己停住 | 100% | 100% |
| 字数落在要求区间 | 96% | 25%（24 条里有 23 条在区间上下 5% 内，中位 2380，下限 2400） |
| 循环（10 字重复率大于 0.1） | 0% | 0% |

这份权重解决的是长度、停笔和复读。跟纲仍会有事实差错或提前收束，那不是这次监督微调量过的东西。

## State branch Step-DPO

`rwkv7-g1l-2.9b-novel-stepdpo1.pth` 不是把整章和人写的故事做 DPO。它只在第一版写偏的那一拍上，从当时的 RWKV state 分叉，比较同一前缀后面的两种写法。人写的参考只给评委对证据，不作为 chosen。

定位。评委读第一版在训练集上写的稿，列出细纲事件，指出第一次偏离的那一句。切点是这句话的开头，前面已经写对的留在共享前缀里。引用对不上、模糊匹配低于 0.6 的切点丢掉。这一轮判定了 399 个切点。

分叉。上下文是 `User: {细纲}\n\nAssistant:` 加上前缀。预填充得到该位置的 recurrent state，存在惩罚和频率惩罚的计数也按前缀重建，衰减 0.996。把这个 state 复制成 K=8 份，各写一拍：最多 400 个 token，短于 150 个 token 的收到段尾，短于 20 个 token 的丢掉。采样和评测相同：温度 1.0，top_p 0.85，存在惩罚 0.2，频率惩罚 0.2，屏蔽 token 0。解码出空行就停。后面还有细纲事件时，如果这一拍用空行把故事收掉，这个结尾会被剪掉，避免把「就在这里停」学成偏好。

配对。一拍算好，只看它有没有写下指定的那一个事件，并且没有和细纲矛盾。1 到 5 的文字分只用来挑近的一对。chosen 是好拍里文字分最高的一条。rejected 是坏拍里文字分最接近、其次长度最接近的一条，所以一对的差别在情节。第一版自己在切点后面写的原文只用来定位，不进配对。399 个切点里，271 个八条全坏，0 个八条全好，配成 128 对。其中 104 对坏在矛盾，24 对坏在没写到事件。chosen 和 rejected 的长度都大约 381 个 token。按故事留出 10%，115 对训练，13 对验证，同一篇的拍不会拆到两边。

训练。初始模型和 DPO 的 reference 都是第一版的 `adapter_final.pt`。新 LoRA 的 B 从 0 开始，所以第 0 步 policy 等于 reference。`prompt_ids` 是提示加前缀，chosen 和 rejected 各是从同一个 state 采出来的一拍。损失是 DPO 加上 chosen 上的 NLL。`pc`、`rc` 是 policy 对 chosen、rejected 的对数概率和，`pr`、`rr` 是 reference 的：

```text
margin = β ((pc - rc) - (pr - rr))
loss = -log σ(margin) + λ (-pc / |chosen|)
```

β = 0.1，λ = 1.0。LoRA 秩 64、缩放 128，学习率 5e-6，时间混合和层归一向量的学习率 1e-6。打包长度 16384，每步 1 行，预热 1 步，1 个 epoch，共 11 步。reference 的对数概率按配对文件和初始权重的指纹缓存，对不上就重算。

仓库里的 DPO（`rwkv7-g1l-2.9b-novel-dpo1.pth`）是另一个目标：chosen 是整篇人写的故事，rejected 是第一版的整篇生成，4000 对训练、155 对验证，305 步。β、λ 和学习率相同，但每步 5 行、预热 10 步。那一版把剧情扩写的长度从 96% 打到 62%。这份 Step-DPO 只改走偏的那一拍，剧情扩写的长度回到 96%。默认权重仍是第一版。
