---
title: WSAI-Heart-Pro
canonical_url: "https://www.modelscope.cn/models/wangshenai/WSAI-Heart-Pro"
md_url: "https://www.modelscope.cn/models/wangshenai/WSAI-Heart-Pro.md"
repository: wangshenai/WSAI-Heart-Pro
chinese_name: WSAI-Heart-Pro
last_updated: 2026-05-10
license: CC-BY-NC-SA-4.0
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - qwen3_5
architectures:
  - Qwen3_5ForConditionalGeneration
parameters: 2.2B
tensor_type:
  - BF16
library_name:
  - transformer
  - safetensors
  - pytorch
frameworks:
  - Pytorch
downloads: 48
stars: 1
---

# WSAI-Heart-Pro

> WSAI-Heart-Pro - wangshenai 在 ModelScope 开源的模型。WSAI-Heart-Pro 是 WSAI-Heart 系列的 Pro 级正式版本，基于 Qwen3.5-2B-Base 全精度 LoRA 微调。在实验版 Pro-Exp 基础上优化了训练超参数，回复稳定性更好。16 层 LoRA 训练，约 2B 参数，支持端侧部署与离线运行。

wangshenai/WSAI-Heart-Pro 是 ModelScope 魔搭社区上的 2.2B 参数text-generation模型，采用 CC-BY-NC-SA-4.0 许可。

- **Repository**: wangshenai/WSAI-Heart-Pro
- **License**: CC-BY-NC-SA-4.0
- **Tasks**: text-generation
- **Parameters**: 2.2B
- **Downloads**: 48
- **Stars**: 1
- **Last updated**: 2026-05-10

Source: https://www.modelscope.cn/models/wangshenai/WSAI-Heart-Pro

---

# WSAI-Heart-Pro

基于 Qwen3.5-2B-Base 全精度 LoRA 微调的心理支持对话模型

---

## 关于这个项目

**WSAI-Heart-Pro** 是 WSAI-Heart 系列的 Pro 级别正式版本。相比原版 WSAI-Heart，Pro 使用了更大的基座模型和更多的 LoRA 训练层数；相比实验版 Pro-Exp，Pro 进一步优化了训练超参数，对话质量更加稳定。

## 版本对比

| 对比项       | WSAI-Heart        | WSAI-Heart-Pro-Exp | WSAI-Heart-Pro  |
| --------- | ----------------- | ------------------ | --------------- |
| 基座模型      | Qwen3.5-0.8B-Base | Qwen3.5-2B-Base    | Qwen3.5-2B-Base |
| 参数量       | ~0.8B             | ~2B                | ~2B             |
| LoRA 训练层数 | 2 层               | 16 层               | 16 层            |
| 模型文件大小    | ~1.6GB            | ~4.2GB             | ~4.2GB          |
| 训练超参数     | -                 | 初版参数               | 优化后参数           |
| 状态        | 稳定版               | 实验版                | **正式版**         |

## 模型信息

| 项目        | 详情                                       |
| --------- | ---------------------------------------- |
| 基座模型      | Qwen3.5-2B-Base                          |
| 模型架构      | Qwen3.5 (Hybrid Linear + Full Attention) |
| 参数量       | ~2B                                      |
| 精度        | bfloat16                                 |
| 微调方式      | 全精度 LoRA                                 |
| LoRA 训练层数 | 16 层                                     |
| 训练时长      | 约 5 天多                                   |
| 训练数据集     | 心理类对话数据集                                 |

## 主要用途

- **心理支持对话**：提供情感陪伴、情绪疏导和心理安慰
- **通用对话**：日常聊天与问答（心理数据增强了模型的共情能力）
- **多模态能力**：模型保留了基座模型的视觉理解能力（微调时冻结了VLM能力）

## 训练细节

本次微调使用 LlamaFactory 框架完成，采用全精度 LoRA 对 Qwen3.5-2B-Base 进行微调。LoRA 训练覆盖 16 层，耗时约 5 天多。在 Pro-Exp 实验版的基础上，进一步调整了训练超参数，提升了模型的稳定性。

## 局限性

- **非专业替代**：本模型 **不能替代专业心理咨询或医疗建议**，仅供参考
- **可能产生不当内容**：模型存在幻觉问题，可能给出不恰当的建议

## 亮点

- **Pro 级别性能**：基于 Qwen3.5-2B-Base，16 层 LoRA 训练，共情能力和对话质量相比原版有显著提升
- **超参数优化**：在 Pro-Exp 基础上进一步调优，回复更加稳定可靠
- **端侧可部署**：~4.2GB 的模型文件仍然可以在普通个人设备上运行
- **隐私安全**：完全本地运行，对话数据零上传
- **多模态能力**：保留了基座模型 Qwen3.5 的视觉理解能力，支持图像输入分析
- **共情能力增强**：基于心理类对话数据集微调，相比原始基座模型在情感理解和倾听方面有明显提升
- **免费开源**：CC BY-NC-SA 4.0 许可证，免费使用、修改和分享

## 快速开始

### Ollama 一键部署（推荐）

```bash
ollama pull wangshen/wsai-heart-pro
ollama run wangshen/wsai-heart-pro
```

### 使用 Transformers 运行

```python
from transformers import AutoModelForCausalLM, AutoTokenizer

model_path = "./"
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path, torch_dtype="auto", device_map="auto")

messages = [
    {"role": "system", "content": "你是一个温暖、有共情能力的心理支持助手。"},
    {"role": "user", "content": "我最近心情不太好，感觉压力很大。"}
]

text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512)
response = tokenizer.decode(outputs[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True)
print(response)
```

## 致谢

- [Qwen Team](https://github.com/QwenLM) — 提供优秀的 Qwen3.5 基座模型
- [LlamaFactory](https://github.com/hiyouga/LLaMA-Factory) — 简洁高效的微调框架

## 许可证

本项目采用 [CC BY-NC-SA 4.0](https://creativecommons.org/licenses/by-nc-sa/4.0/) 许可证。

- **署名**：使用时请注明原作者
- **非商用**：本模型及其衍生作品不得用于商业用途
- **相同方式共享**：基于本作品的衍生作品须采用相同的许可证

> ⚠️ 请注意：作为 Qwen3.5 的衍生模型，使用时还需遵守 Qwen 原始模型的相关许可协议。

---