---
title: qlm-v2
canonical_url: "https://www.modelscope.cn/models/fenxian/qlm-v2"
md_url: "https://www.modelscope.cn/models/fenxian/qlm-v2.md"
repository: fenxian/qlm-v2
last_updated: 2026-09-15
license: other
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - qwen3_5
architectures:
  - Qwen3_5ForConditionalGeneration
parameters: 14.7B
tensor_type:
  - U8
  - F8_E4M3
  - BF16
  - F32
library_name:
  - safetensors
downloads: 15
stars: 0
---

# qlm-v2

> qlm-v2 - fenxian 在 ModelScope 开源的模型。舜简科技自主研发的电商客服领域对话大模型。本仓库为 V2 完整开源权重（NVFP4）。V3 系列上线后，按「发布下一代即开源上一代」策略公开。

fenxian/qlm-v2 是 ModelScope 魔搭社区上的 14.7B 参数text-generation模型，采用 other 许可。

- **Repository**: fenxian/qlm-v2
- **License**: other
- **Tasks**: text-generation
- **Parameters**: 14.7B
- **Downloads**: 15
- **Stars**: 0
- **Last updated**: 2026-09-15

Source: https://www.modelscope.cn/models/fenxian/qlm-v2

---

# QLM-v2：电商客服专用大模型

> 舜简科技自主研发的电商客服领域对话大模型。本仓库为 **V2 完整开源权重**（NVFP4）。V3 系列上线后，按「发布下一代即开源上一代」策略公开。

## 模型简介

QLM-v2 是舜简科技（Shunjian Tech）面向电商客服场景打造的专用对话大模型。相对 V1，使用更新后的 QLM 训练数据重新 SFT。

- 基座：Qwen3.6-27B
- 微调：QLoRA SFT
- 量化：NVFP4 (W4A4)，nvidia-modelopt 0.37
- 体积：约 17.5GB（`model.safetensors`）
- 推理：vLLM + `--quantization modelopt`

已在淘宝、拼多多、京东、抖店、抖音、天猫、美团、携程等主流电商平台的真实客服场景中验证。

## 相对 V1 的变化

- 使用更新后的 QLM 训练数据重新 SFT（Qwen3.6-27B + QLoRA）
- 黄金评测集 260 题（思考模式 ON + 贪婪解码）
- Final LoRA ok ≈ 93.1%，转人工召回 ≈ 65.9%
- NVFP4 导出后同题集 ok ≈ 94.2%，转人工召回 ≈ 70.5%（量化损失可接受）

## 核心能力

- 电商全链路客服：售前咨询、售中跟进、售后处理、投诉安抚、物流追踪、退换货
- 商业安全：仅承诺权限范围内的方案，不越权承诺、不编造政策
- 信息不足时主动询问或转人工，而不是编造答案
- 原生支持轻简客服协议（转接会话动作标签、分段消息、图文指令）
- 回复拟人化，默认纯文本，不滥用 Markdown

## 多行业真实接待示例

以下摘自店铺线上接待（已脱敏、去掉转人工模板）。用来展示 **答到具体参数、不胡乱承诺、不会用就先问清** 的风格。商品参数以各店当时页面为准，不是全网通用标准。

### 车载充气泵 / 骑行灯

**买家：** 轮胎一点气也没有，也能打上气吗？  
**客服：** 可以哈，这款最大能打到 2.3 个压，小汽车一般 2.1 个压就足够了，没气也能慢慢补上。

**买家：** 打到一定值会自动停吗，还是需要自己按停止键？  
**客服：** 这款不能自动充停哈。打到目标气压要自己盯着气压表，到了就按下停止键。小轿车一般打到 2.2 个压就行。

**买家：** 公路自行车能用吗？  
**客服：** 亲，自行车能充的。不过公路车气压一般 3 个压往上，这款最高打 2.3 个压，有点打不上哦。

**买家：** 真空胎能冲吗？  
**客服：** 真空胎得加长软管和专用气嘴。这款软管只有十厘米还配的美嘴，不太合适哈。小汽车、自行车、球类都能用。

### 大疆影像 / 无人机

**买家：** 咱这是大疆官方旗舰店吗？  
**客服：** 宝子，咱家是大疆官方授权专卖店哦，不是自营店也不是官方旗舰店。商品均为全新正品、未拆封未激活，支持验货、有正规发票，官网质保 1 年，放心购买哦。

**买家：** 标准版要再自己买内存卡吗？  
**客服：** 宝子，Pocket 4 自带 107G 机身内存，开箱即拍，也可另选内存卡拓展。

**买家：** 拆封激活后还支持 7 天无理由退货吗？  
**客服：** 宝子，拆封、激活或使用后不支持 7 天无理由退换哦。如有质量问题，七天内送检，按检测报告处理。

**买家：** 大疆的无人机遥控器可以通用吗？  
**客服：** 宝子，不是全部通用哦，Neo 2 支持 DJI RC 2、RC-N3、RC-N2、穿越摇杆 3 和 FPV 遥控器 3 哦。

### 电动车电池上门安装

**买家：** 上门安装收费吗？  
**客服：** 上门安装不收费的呢。请问您在哪个城市呀？我先帮您看下有没有安装网点。另外以旧换新需要回收相同型号的旧电池哦，麻烦先确认下旧电池型号。

**买家：** 件在哪里几天能发过来？  
**客服：** 电池不走快递物流哈，是当地师傅携带电池上门安装的。一般下单后市区 3–5 天，县城偏远乡镇 5–15 天左右。您地址方便说下吗？我帮您确认下能不能到。

**买家：** 我现使用锂电池，可以置换吗？  
**客服：** 锂电池不支持换铅酸电池哈，两者不通用呢。您先核实下车子能不能装铅酸的，控制器、电机支持才行哦。

**买家：** 我只有 5 块电池，能换 6 块吗？  
**客服：** 不建议随意改型号哦。换不同型号要补差价，还得看车子装不装得下、控制器匹不匹配，充电器也可能要换，容易影响车子性能。

### 随身 WiFi

**买家：** 怎么联不上网？  
**客服：** 别着急哈。您这边还没实名，设备现在是停机状态，联不上网的。先绑定手机号确认套餐订购成功，再点实名认证，按页面提示操作就行。

**买家：** 我验证成功了，还需要怎么做？  
**客服：** 亲亲，实名成功后把设备关机静置 1 小时再重启。设备背面印有账号密码，打开手机 WLAN 搜索对应名称，输入密码连接即可，操作和连家里 WiFi 一样。

**买家：** 充电时需要关机吗？关机那两个小时不是没法用了吗？  
**客服：** 亲亲，建议关机充电哦。充满大概 5–8 个小时，关机这段时间设备确实用不了哈，但这样充得快又稳，充完就能正常用啦。

**买家：** 设备没配充电头怎么办？  
**客服：** 亲亲，没配充电头的话，用普通安卓口充电线就可以。建议 5V=1A 或 5V=2A，不要用大功率快充头。

## 量化与部署

| 项目 | 详情 |
|------|------|
| 量化方式 | NVFP4 (W4A4) |
| 量化工具 | nvidia-modelopt 0.37 |
| 推理引擎 | vLLM（`--quantization modelopt`） |
| 模型大小 | 约 17.5 GB |
| 硬件要求 | NVIDIA Blackwell 架构 GPU（SM 10.0+）推荐 |

本包为 **语言模型 NVFP4**（无独立 visual 塔合并包）。启动需加 `--language-model-only`。

### 启动推理服务

```bash
export FLASHINFER_CUDA_ARCH_LIST="10.0"
export VLLM_USE_FLASHINFER_SAMPLER=0
vllm serve <模型路径> \
  --served-model-name qlm-chat \
  --quantization modelopt \
  --max-model-len 4096 \
  --language-model-only \
  --trust-remote-code \
  --gpu-memory-utilization 0.9 \
  --host 0.0.0.0 --port 8000
```

生产调用名约定为 `qlm-chat`（不带版本号）。版本只体现在本仓库名 `fenxian/qlm-v2`。

### API 调用示例

```python
from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY")
response = client.chat.completions.create(
    model="qlm-chat",
    messages=[
        {"role": "system", "content": "你是舜简科技的电商客服助手，请专业、亲切地回答用户问题。"},
        {"role": "user", "content": "我昨天下的单什么时候发货？"},
    ],
    temperature=0.7,
    max_tokens=512,
)
print(response.choices[0].message.content)
```

## 开源策略

舜简科技在魔搭的开源节奏：

- **当前代**（现为 V3 系列：`qlm-v3.1` / `qlm-v3.2`）保持私有
- **上一代**在下一代正式发布后，**整包权重公开**
- V1（`fenxian/qlm-v1`）已公开；本仓库为 V2 完整公开权重

事故版 / 作废仓库不公开。

## 授权协议

### 允许的使用范围

- **个人学习与研究**：允许个人用户下载、使用本模型进行学习、研究和非商业性质的实验
- **学术研究**：允许高校及科研机构在学术研究项目中使用本模型（需在研究成果中注明出处）
- **个人体验与测试**：允许开发者在本模型基础上进行个人技术探索和功能测试
- **轻简客服系统接入**：允许通过舜简科技「轻简客服」系统合法授权后使用

### 禁止的使用范围

- **禁止商用部署**：未经舜简科技书面商业授权，任何组织或个人不得将本模型用于商业目的的部署、运营或服务提供
- **禁止商业化服务**：不得基于本模型提供付费的 API 服务、SaaS 平台、托管推理服务等商业服务
- **禁止转售与分发**：不得将本模型本身或其衍生品进行出售、出租、转授权或以其他方式商业化分发
- **禁止二次开发商用**：不得在本模型基础上进行二次开发后用于商业产品或商业服务
- **禁止移除版权信息**：使用本模型时须保留原始版权声明和授权信息

### 商业授权

如需将本模型用于商业部署或商业化应用，须事先获得舜简科技书面商业授权。商务合作请联系：

- **企业官网**：[https://jd27.cn](https://jd27.cn)
- **联系邮箱**：582716403@qq.com
- **轻简客服系统**：[https://jd27.cn](https://jd27.cn)

## 免责声明

本模型由舜简科技开发并发布。模型输出内容仅供参考，不构成任何法律承诺。使用者需对模型生成内容的适用性自行判断并承担相应责任。舜简科技不对因使用本模型而产生的任何直接或间接损失承担责任。

© 2026 舜简科技（Shunjian Tech）. 保留所有权利。