---
title: Llama2-Chinese-13b-Chat-ms
canonical_url: "https://www.modelscope.cn/models/modelscope/Llama2-Chinese-13b-Chat-ms"
md_url: "https://www.modelscope.cn/models/modelscope/Llama2-Chinese-13b-Chat-ms.md"
repository: modelscope/Llama2-Chinese-13b-Chat-ms
last_updated: 2023-08-16
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - llama
architectures:
  - LlamaForCausalLM
library_name:
  - pytorch
frameworks:
  - pytorch
language:
  - zh
  - en
inference_backends:
  - "deploy_task text/emb"
  - "lmdeploy 0.9.1"
  - "lmdeploy_turbomind 0.9.1"
  - "sglang 0.5.2"
  - "vllm 0.9.2"
downloads: 14773
stars: 20
---

# Llama2-Chinese-13b-Chat-ms

> Llama2-Chinese-13b-Chat-ms - modelscope 在 ModelScope 开源的模型。Llama2中文13B对话模型

modelscope/Llama2-Chinese-13b-Chat-ms 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可，可用 deploy_task text/emb、lmdeploy 0.9.1、lmdeploy_turbomind 0.9.1 部署。

- **Repository**: modelscope/Llama2-Chinese-13b-Chat-ms
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Inference backends**: deploy_task text/emb, lmdeploy 0.9.1, lmdeploy_turbomind 0.9.1, sglang 0.5.2, vllm 0.9.2
- **Downloads**: 14773
- **Stars**: 20
- **Last updated**: 2023-08-16

Source: https://www.modelscope.cn/models/modelscope/Llama2-Chinese-13b-Chat-ms

---

# Llama2中文社区

---
## Llama2中文微调参数
由于Llama2本身的中文对齐较弱，我们采用中文指令集，对meta-llama/Llama-2-13b-chat-hf进行LoRA微调，使其具备较强的中文对话能力。

🎯 **该版本为LoRA中文微调参数FlagAlpha/Llama2-Chinese-13b-Chat-LoRA和meta-llama/Llama-2-13b-chat-hf参数结合后的版本，可直接使用**

---


## 🚀 社区地址：

Github：[**Llama2-Chinese**](https://github.com/FlagAlpha/Llama2-Chinese)

在线体验链接：[**llama.family**](https://llama.family/)

## 示例代码
```python
from modelscope.utils.constant import Tasks
import torch
from modelscope.pipelines import pipeline
from modelscope import snapshot_download, Model
pipe = pipeline(task=Tasks.text_generation, model="modelscope/Llama2-Chinese-13b-Chat-ms", device_map='auto',torch_dtype=torch.float16)
inputs="咖啡的作用是什么？"
result = pipe(inputs)
print(result['text'])
```

## 🔥 社区介绍
欢迎来到Llama2中文社区！

我们是一个专注于Llama2模型在中文方面的优化和上层建设的高级技术社区。

**基于大规模中文数据，从预训练开始对Llama2模型进行中文能力的持续迭代升级**。

我们热忱欢迎对大模型LLM充满热情的开发者和研究者加入我们的行列。

## 🐼 社区资源
  - Llama2在线体验链接[**llama.family**](https://llama.family/)，同时包含Meta原版和中文微调版本！
  - Llama2 Chat模型的[中文问答能力评测](https://github.com/FlagAlpha/Llama2-Chinese/tree/main#-%E6%A8%A1%E5%9E%8B%E8%AF%84%E6%B5%8B)！
  - [社区飞书知识库](https://chinesellama.feishu.cn/wiki/space/7257824476874768388?ccm_open_type=lark_wiki_spaceLink)，欢迎大家一起共建！