---
title: Yuan-embedding-1.0
canonical_url: "https://www.modelscope.cn/models/IEITYuan/Yuan-embedding-1.0"
md_url: "https://www.modelscope.cn/models/IEITYuan/Yuan-embedding-1.0.md"
repository: IEITYuan/Yuan-embedding-1.0
last_updated: 2024-11-14
pipeline_tag: sentence-embedding
tasks:
  - sentence-embedding
model_type:
  - bert
architectures:
  - BertModel
parameters: 327.4M
tensor_type:
  - F32
library_name:
  - safetensors
inference_backends:
  - "deploy_task emb"
  - "sglang 0.5.2"
  - "vllm 0.9.2"
downloads: 3170
stars: 4
tags:
  - mteb
---

# Yuan-embedding-1.0

> Yuan-embedding-1.0 - IEITYuan 在 ModelScope 开源的模型。Yuan-embedding-1.0 是专门为中文文本检索任务设计的嵌入模型。 在xiaobu模型结构(bert-large结构)基础上, 采用全新的数据集构建、生成与清洗方法, 结合二阶段微调实现Retrieval任务的精度领先(Hugging Face C-MTEB榜单 [1])。 其中, 正负例样本采用源2.0-M32(Yuan2.0-M32 [2])大模型进行生成。主要工作如下：

IEITYuan/Yuan-embedding-1.0 是 ModelScope 魔搭社区上的 327.4M 参数sentence-embedding模型，可用 deploy_task emb、sglang 0.5.2、vllm 0.9.2 部署。

- **Repository**: IEITYuan/Yuan-embedding-1.0
- **Tasks**: sentence-embedding
- **Parameters**: 327.4M
- **Inference backends**: deploy_task emb, sglang 0.5.2, vllm 0.9.2
- **Tags**: mteb
- **Downloads**: 3170
- **Stars**: 4
- **Last updated**: 2024-11-14

Source: https://www.modelscope.cn/models/IEITYuan/Yuan-embedding-1.0

---

## Yuan-embedding-1.0

Yuan-embedding-1.0 是专门为中文文本检索任务设计的嵌入模型。
在xiaobu模型结构(bert-large结构)基础上, 采用全新的数据集构建、生成与清洗方法, 结合二阶段微调实现Retrieval任务的精度领先(Hugging Face C-MTEB榜单 [1])。
其中, 正负例样本采用源2.0-M32(Yuan2.0-M32 [2])大模型进行生成。主要工作如下：

- 在Hard negative sampling中，使用Rerank模型(bge-reranker-large [3])进行数据排序筛选
  
- 通过(Yuan2.0-M32大模型)迭代生成新query、corpus
  
- 采用MRL方法进行模型微调训练
  

## Usage

```bash
pip install -U sentence-transformers==3.1.1
```

使用示例：

```python
from sentence_transformers import SentenceTransformer

model = SentenceTransformer("IEIYuan/Yuan-embedding-1.0")
sentences = [
    "这是一个样例-1",
    "这是一个样例-2",
]
embeddings = model.encode(sentences)
similarities = model.similarity(embeddings, embeddings)
print(similarities)
```

## Reference

1. https://huggingface.co/spaces/mteb/leaderboard
2. https://modelscope.cn/models/IEITYuan/Yuan2-M32
3. https://modelscope.cn/models/BAAI/bge-reranker-large