---
title: Qwen3-4B-MedAssistant-Lora
canonical_url: "https://www.modelscope.cn/models/zuiqingfeng6/Qwen3-4B-MedAssistant-Lora"
md_url: "https://www.modelscope.cn/models/zuiqingfeng6/Qwen3-4B-MedAssistant-Lora.md"
repository: zuiqingfeng6/Qwen3-4B-MedAssistant-Lora
chinese_name: "释怀鸟医疗问答助手"
last_updated: 2026-10-14
license: apache-2.0
pipeline_tag: question-answering
tasks:
  - question-answering
model_type:
  - qwen3
architectures:
  - Qwen3ForCausalLM
base_model:
  - Qwen/Qwen3-4B
base_model_relation: adapter
parameters: 4.0B
tensor_type:
  - BF16
library_name:
  - transformer
  - lora
  - safetensors
downloads: 19
stars: 2
tags:
  - "医疗问答"
  - "中文医疗"
  - LoRA
  - healthcare
  - fine-tuned
  - text-generation
---

# Qwen3-4B-MedAssistant-Lora

> Qwen3-4B-MedAssistant-Lora - zuiqingfeng6 在 ModelScope 开源的模型。释怀鸟·医疗问答助手 v1（Qwen3-4B-MedAssistant-Lora）

zuiqingfeng6/Qwen3-4B-MedAssistant-Lora 是 ModelScope 魔搭社区上的 4.0B 参数question-answering模型，采用 apache-2.0 许可，基于 Qwen/Qwen3-4B 构建。

- **Repository**: zuiqingfeng6/Qwen3-4B-MedAssistant-Lora
- **License**: apache-2.0
- **Tasks**: question-answering
- **Parameters**: 4.0B
- **Base model**: Qwen/Qwen3-4B
- **Tags**: 医疗问答, 中文医疗, LoRA, healthcare, fine-tuned, text-generation
- **Downloads**: 19
- **Stars**: 2
- **Last updated**: 2026-10-14

Source: https://www.modelscope.cn/models/zuiqingfeng6/Qwen3-4B-MedAssistant-Lora

---

# 释怀鸟·医疗问答助手 v1（Qwen3-4B-MedAssistant-Lora）

**基于 Qwen3-4B 的中文家用医疗问答 LoRA 模型**

[数据质检报告](#数据质检核心差异) | [训练详情](#训练详情) | [快速开始](#快速开始) | [免责声明](#免责声明)

## 模型介绍

释怀鸟·医疗问答助手是基于 **Qwen3-4B** 底座训练的中文医疗领域 LoRA 模型，专注于**家庭常见健康问题的问答**：症状咨询、用药禁忌、儿童/老人/孕妇注意事项、急救常识等。

**核心特色：本模型的训练数据经过全品类质检管线清洗**——原始 20000 条医疗对话中发现 **25% 近似重复**，全部剔除后复检归零才进训练。每个数字可复现，方法已开源。

### 模型能回答什么

| 场景 | 示例问题 |
|---|---|
| 用药禁忌 | 藿香正气水和头孢能一起吃吗？ |
| 儿童安全 | 小孩误吞了纽扣电池怎么办？ |
| 症状咨询 | 孩子中耳炎耳朵胀痛要如何治疗？ |
| 特殊人群 | 哺乳期妈妈发烧能继续喂奶吗？ |
| 家庭急救 | 老人突然头晕血压高，家里该怎么处理？ |

### 与底模的差异化（实测对比）

| 维度 | Qwen3-4B 原版 | 本模型 |
|---|---|---|
| 回答风格 | 泛泛而谈、学术化 | **口语化分档建议**（轻症/重症/何时就医） |
| 症状追问 | 不主动追问 | 结合患者描述的年龄/性别/病程给针对性建议 |
| 场景感 | 通用助手 | 家庭场景语感 |
| 训练数据 | 未知规模 | 5415 条，体检全绿，配方公开 |

## 数据质检（核心差异）

本模型最大的差异点：**训练数据是平台上少数经过公开质检的**。

| 检查项 | 原始数据 | 清洗后 |
|---|---|---|
| 总条数 | 20000 | **14946** |
| 近似重复（前100字哈希） | 5054（25.3%）⚠️ | **0** ✅ |
| JSON 坏行 | 0 | 0 |
| 角色完整性 | 100% | 100% |
| 过短（<80字） | 1 | 0 |

**最终训练配方**（防过拟合混合）：
- 医疗对话（洗净）：5000 条
- 通用 SFT（235B 蒸馏）：500 条
- 中文叙事结构（自家数据集）：200 条
- **合计 5415 条 × 2 epochs**

质检工具与报告随数据集开源：[sft-narrative-v1](https://modelscope.cn/datasets/zuiqingfeng6/sft-narrative-v1)

## 训练详情

| 配置 | 值 |
|---|---|
| 底座模型 | Qwen/Qwen3-4B |
| 训练方法 | LoRA |
| rank / alpha | 16 / 32 |
| 学习率 | 1e-4 |
| batch / 梯度累积 | 8 / 2（有效16） |
| 训练轮数 | 2 epochs（676 步） |
| max_length | 2048 |
| 硬件 | AMD MI300X 192G |
| 训练时长 | 42 分钟 |
| 峰值显存 | 182.7 GiB |

**Loss 曲线**：

| step | train loss | eval loss | token acc |
|---|---|---|---|
| 1 | 2.17 | — | 62.7% |
| 40 | 1.11 | — | 74.4% |
| 195 | 0.97 | — | 75.7% |
| 450 | 0.93 | — | 78.7% |
| 676 | **0.77** | **0.847** | **82.5%** |

eval 与 train 差距小且平稳 = 无过拟合。

## 效果展示（推理实测）

**Q：藿香正气水和头孢能一起吃吗？**
> 不建议同时服用。藿香正气水中酒精含量约10%，与头孢类药物同服可能引发"双硫仑样反应"，表现为恶心、呕吐、心悸、呼吸困难甚至休克。建议间隔用药并咨询医生。

**Q：小孩误吞了纽扣电池怎么办？**
> 1. 保持冷静，不要让小孩吃东西或喝饮料；2. 立即联系儿科医生或前往急诊室；3. 不要试图用镊子等工具自行取出。纽扣电池在胃中停留时间越长伤害越大，务必尽快就医。

**Q：哺乳期发烧可以喂奶吗？**
> 要看发烧原因：急性乳腺炎引起的发热不能喂奶（需吸出乳汁）；普通感冒发热可以继续哺乳，但需戴口罩、勤洗手，必要时咨询医生用药。

（完整 10 题抽检与训练集零重叠）

## 快速开始

```python
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-4B", torch_dtype="auto", device_map="auto")
model = PeftModel.from_pretrained(base, "zuiqingfeng6/Qwen3-4B-MedAssistant-Lora")
tok = AutoTokenizer.from_pretrained("Qwen/Qwen3-4B")

msgs = [{"role": "user", "content": "孩子发烧38.5度怎么物理降温？"}]
inputs = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to(model.device)
out = model.generate(inputs, max_new_tokens=256)
print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))
```

或用 ms-swift 一键推理：
```bash
pip install "ms-swift==3.11.3"
swift infer --adapters zuiqingfeng6/Qwen3-4B-MedAssistant-Lora --infer_backend pt
```

注：输出可能含空 `<think></think>` 前缀（Qwen3 模板默认），部署时 strip 即可。

## 已知局限

- **回答风格偏保守**：孕妇用药等敏感题倾向保守表述，未覆盖"对乙酰氨基酚遵医嘱可用"等细节（跟随训练语料风格）
- **个别医学常识需复核**：儿童退烧题曾提及阿司匹林（临床儿童应避免，瑞氏综合征风险），v2 将在数据侧清洗
- **不做诊断**：只提供常识性分档建议，不输出诊断结论和处方

## 免责声明

> ⚠️ **AI 生成内容仅供参考，不构成医疗建议，就医请线下。**
> 本模型不可用于诊断、处方或替代专业医疗意见。用药请遵医嘱，急症请立即就医或拨打120。

## 引用与致谢

- 底座：[Qwen3-4B](https://modelscope.cn/models/Qwen/Qwen3-4B)（阿里通义千问团队）
- 训练数据：[Chinese-medical-dialogue](https://modelscope.cn/datasets/xiaofengalg/Chinese-medical-dialogue)（Apache 2.0，经质检清洗）
- 训练框架：[ms-swift](https://github.com/modelscope/ms-swift)

---

**释怀鸟** · 用开源模型当众搭 AI 产线

[叙事数据集](https://modelscope.cn/datasets/zuiqingfeng6/sft-narrative-v1) · [骨架君](https://modelscope.cn/studios/zuiqingfeng6/beat-search-demo) · [中文节拍库](https://modelscope.cn/datasets/zuiqingfeng6/zh-folk-tales-beats-v1)
