---
title: wordlink-lexiconstrain
canonical_url: "https://www.modelscope.cn/models/OrionSheep/wordlink-lexiconstrain"
md_url: "https://www.modelscope.cn/models/OrionSheep/wordlink-lexiconstrain.md"
repository: OrionSheep/wordlink-lexiconstrain
chinese_name: "WordLink LexiConstrain · SFT+DPO 旗舰模型"
last_updated: 2026-10-04
license: Apache-2.0
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - qwen2
architectures:
  - Qwen2ForCausalLM
base_model:
  - Qwen/Qwen2.5-1.5B-Instruct
base_model_relation: finetune
parameters: 1.5B
tensor_type:
  - F32
library_name:
  - safetensors
  - pytorch
frameworks:
  - PyTorch
downloads: 8
stars: 0
tags:
  - wordlink
  - lexiconstrain
  - dpo
  - constrained-generation
  - qwen2.5
---

# wordlink-lexiconstrain

> wordlink-lexiconstrain - OrionSheep 在 ModelScope 开源的模型。WordLink LexiConstrain · SFT+DPO 旗舰版

OrionSheep/wordlink-lexiconstrain 是 ModelScope 魔搭社区上的 1.5B 参数text-generation模型，采用 Apache-2.0 许可，基于 Qwen/Qwen2.5-1.5B-Instruct 构建。

- **Repository**: OrionSheep/wordlink-lexiconstrain
- **License**: Apache-2.0
- **Tasks**: text-generation
- **Parameters**: 1.5B
- **Base model**: Qwen/Qwen2.5-1.5B-Instruct
- **Tags**: wordlink, lexiconstrain, dpo, constrained-generation, qwen2.5
- **Downloads**: 8
- **Stars**: 0
- **Last updated**: 2026-10-04

Source: https://www.modelscope.cn/models/OrionSheep/wordlink-lexiconstrain

---

# WordLink LexiConstrain · SFT+DPO 旗舰版

在 WordLink-Edge（SFT v2）基础上追加 **DPO 偏好对齐** 的最终模型：
以真实失败输出为 rejected 样本训练，压制错误行为分布，约束遵循更稳。
面向英语学习 **CEFR 受限生成 + 目标生词注入**，端侧（WebGPU）部署形态。

- 底座：`Qwen/Qwen2.5-1.5B-Instruct` → SFT v2 合并 → 其上挂新 LoRA 做 DPO
- DPO：β=0.1，lr 5e-6，2 epoch / 256 step，2045 对偏好样本，参考模型=合并后 SFT
- 训练要点：DPO adapter 必须叠加在 **SFT 合并模型**之上（挂在原始基座会得到 ≈底座成绩，已实测验证）

## 📁 仓库内容

| 路径 | 内容 |
|---|---|
| `/`（根目录） | **DPO 合并模型**（safetensors ×2 + tokenizer + config，直接可加载，推荐使用） |
| `adapter/` | LexiConstrain DPO LoRA 适配器（含 checkpoint-240/256 与 dpo_manifest） |
| `eval/` | 基准评测报告与指标 JSON |

## 📊 实测基准（90 题，temperature=0）

| 模型 | 生词命中 ↑ | CEFR 越界 ↓ | JSON 合规 ↑ | FKGL |
|---|---:|---:|---:|---:|
| Qwen2.5-1.5B 底座 | 63.06% | 0.17% | 82.22% | 13.5 |
| + SFT v2 | 88.06% | 0.01% | 100% | 9.82 |
| **+ DPO（本模型）** | **87.78%** | **0.01%** | **100%** | **9.94** |

> DPO 与 SFT 指标统计持平（n=90，差异在噪声带内），但偏好分离度 margins 0.105→11.28，
> rejected 概率压至 −12.2，零 reward-hacking 退化——DPO 的价值在行为稳健性。
> 详见 `eval/BENCHMARK_RESULTS.md`。

## 加载方式

```python
from modelscope import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("OrionSheep/wordlink-lexiconstrain")
model = AutoModelForCausalLM.from_pretrained("OrionSheep/wordlink-lexiconstrain")
```

上游 SFT 权重：`OrionSheep/wordlink-edge` ｜ 项目代码：`https://github.com/orionsheep/wordlink`