---
title: Sunsimiao_lora
canonical_url: "https://www.modelscope.cn/models/thomas/Sunsimiao_lora"
md_url: "https://www.modelscope.cn/models/thomas/Sunsimiao_lora.md"
repository: thomas/Sunsimiao_lora
chinese_name: Sunsimiao-01M-lora
last_updated: 2023-06-21
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
library_name:
  - pytorch
  - transformer
frameworks:
  - pytorch
language:
  - zh
domain:
  - nlp
downloads: 416
stars: 2
---

# Sunsimiao_lora

> Sunsimiao_lora - thomas 在 ModelScope 开源的模型。孙思邈, 唐代医药学家、道士, 被后人尊称为"药王". 其十分重视民间的医疗经验, 不断积累走访, 及时记录下来, 写下著作《千金要方》. 唐朝建立后, 孙思邈接受朝廷的邀请, 与政府合作开展医学活动, 完成了世界上第一部国家药典《唐新本草》.

thomas/Sunsimiao_lora 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可。

- **Repository**: thomas/Sunsimiao_lora
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Downloads**: 416
- **Stars**: 2
- **Last updated**: 2023-06-21

Source: https://www.modelscope.cn/models/thomas/Sunsimiao_lora

---

### 模型介绍

<div align=center><img width = '200' height ='200' src ="./sunsimiao.png"/></div>  

**孙思邈**, 唐代医药学家、道士, 被后人尊称为"药王". 其十分重视民间的医疗经验, 不断积累走访, 及时记录下来, 写下著作《千金要方》. 唐朝建立后, 孙思邈接受朝廷的邀请, 与政府合作开展医学活动, 完成了世界上第一部国家药典《唐新本草》.  

**孙思邈中文医疗大模型**(简称: Sunsimiao)希望能够遵循孙思邈的生平轨迹, 重视民间医疗经验, 不断累积医疗数据, 并将数据附加给模型, 致力于提供**安全、可靠、普惠**的中文医疗大模型.

目前, **Sunsimiao**是由**baichuan-7B**在10w条高质量的中文医疗数据中通过qlora微调而得, 后续将收集更多数据, 扩充模型能力, 不断迭代更新, 敬请期待.

### 使用方法

```python

import torch
import sys
from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer
from peft import PeftModel
from modelscope.hub.snapshot_download import snapshot_download

from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer
from peft import PeftModel
from modelscope.hub.snapshot_download import snapshot_download
model_dir = snapshot_download('baichuan-inc/baichuan-7B', cache_dir='./sunsimiao', revision='v1.0.0')
model_dir_sft = snapshot_download('thomas/Sunsimiao_lora', cache_dir='./sunsimiao',revision='v1.0.0')

tokenizer = AutoTokenizer.from_pretrained("./sunsimiao/baichuan-inc/baichuan-7B", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("./sunsimiao/baichuan-inc/baichuan-7B",device_map="auto", trust_remote_code=True,low_cpu_mem_usage=True,
load_in_4bit=True,
torch_dtype=torch.float16)

model = PeftModel.from_pretrained(model, "./sunsimiao/thomas/Sunsimiao_lora")
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
query = "晚上睡不着怎么办？"

prompt="Below is an instruction that describes a task. Write a response that appropriately completes the request."
prompt+="### Instruction:\n{}\n\n### Response:\n".format(query)
inputs = tokenizer([prompt], return_tensors="pt")
inputs = inputs.to("cuda")
generate_ids = model.generate(**inputs, max_new_tokens=256,streamer=streamer)

```

### 免责申明

**孙思邈中文医疗大模型**存在固有的局限性, 可能产生错误的、有害的、冒犯性的或其他不良的输出. 用户在关键或高风险场景中应谨慎行事, 不要使用这些模型作为最终决策参考, 以免导致人身伤害、财产损失或重大损失. 

**孙思邈中文医疗大模型**由**baichuan-7B**模型微调而得, 按"原样"提供, 在任何情况下, 作者、贡献者或版权所有者均不对因软件或使用或其他软件交易而产生的任何索赔、损害赔偿或其他责任(无论是合同、侵权还是其他原因)承担责任.

使用**孙思邈中文医疗大模型**即表示您同意这些条款和条件, 并承认您了解其使用可能带来的潜在风险. 您还同意赔偿并使作者、贡献者和版权所有者免受因您使用**孙思邈中文医疗大模型**而产生的任何索赔、损害赔偿或责任的影响.

#### Clone with HTTP

```bash
 git clone https://www.modelscope.cn/thomas/Sunsimiao_lora.git
```