---
title: bloom-2b5-zh
canonical_url: "https://www.modelscope.cn/models/langboat/bloom-2b5-zh"
md_url: "https://www.modelscope.cn/models/langboat/bloom-2b5-zh.md"
repository: langboat/bloom-2b5-zh
chinese_name: "Bloom预训练生成模型-中文-2.5B"
last_updated: 2022-12-15
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
model_type:
  - gpt
architectures:
  - BloomForCausalLM
library_name:
  - pytorch
frameworks:
  - pytorch
language:
  - zh
inference_backends:
  - "deploy_task text/emb"
  - "vllm 0.9.2"
downloads: 306
stars: 2
tags:
  - transformer
  - "澜舟科技"
  - Langboat
  - mengzi
  - bloom
---

# bloom-2b5-zh

> bloom-2b5-zh - langboat 在 ModelScope 开源的模型。2.5B参数量的中文Bloom预训练生成模型

langboat/bloom-2b5-zh 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可，可用 deploy_task text/emb、vllm 0.9.2 部署。

- **Repository**: langboat/bloom-2b5-zh
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Inference backends**: deploy_task text/emb, vllm 0.9.2
- **Tags**: transformer, 澜舟科技, Langboat, mengzi, bloom
- **Downloads**: 306
- **Stars**: 2
- **Last updated**: 2022-12-15

Source: https://www.modelscope.cn/models/langboat/bloom-2b5-zh

---

## 模型描述

该模型基于 [bigscience/bloom-3b](https://huggingface.co/bigscience/bloom-3b). 


我们使用中文语料库将其词汇量从 250880 修剪到 46145，以减少 GPU 内存使用，现在模型总参数是2b5。


### 如何使用
在安装完成Modelscope之后即可使用text-generation的能力

**注： 该模型较大，仅实验用，本地加载可能有失败**

#### 代码范例
```python
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
text_generation_zh = pipeline(Tasks.text_generation, model='langboat/bloom-2b5-zh', model_revision='v1.0.0')
result_zh = text_generation_zh("中国的首都是")
print(result_zh['text'])
```

### 模型局限性以及可能的偏差
模型在大量无监督数据上训练，没有加入下游任务，所以是通用的预训练模型，有可能产生一些偏差，请用户自行评测后决定如何使用。
