---
title: bge-small-zh-v1.5-onnx
canonical_url: "https://www.modelscope.cn/models/Maiteka/bge-small-zh-v1.5-onnx"
md_url: "https://www.modelscope.cn/models/Maiteka/bge-small-zh-v1.5-onnx.md"
repository: Maiteka/bge-small-zh-v1.5-onnx
last_updated: 2026-05-29
license: mit
pipeline_tag: sentence-embedding
tasks:
  - sentence-embedding
model_type:
  - bert
architectures:
  - BertModel
library_name:
  - transformer
  - sentence-transformers
  - onnx
  - other
frameworks:
  - other
language:
  - zh
downloads: 1581
stars: 2
tags:
  - text-embedding
  - sentence-transformers
  - onnx
  - int8
---

# bge-small-zh-v1.5-onnx

> bge-small-zh-v1.5-onnx - Maiteka 在 ModelScope 开源的模型。这是 `BAAI/bge-small-zh-v1.5` 的 ONNX 导出版本，适用于中文文本向量化、语义检索、相似度计算、聚类等场景。

Maiteka/bge-small-zh-v1.5-onnx 是 ModelScope 魔搭社区上的sentence-embedding模型，采用 mit 许可。

- **Repository**: Maiteka/bge-small-zh-v1.5-onnx
- **License**: mit
- **Tasks**: sentence-embedding
- **Tags**: text-embedding, sentence-transformers, onnx, int8
- **Downloads**: 1581
- **Stars**: 2
- **Last updated**: 2026-05-29

Source: https://www.modelscope.cn/models/Maiteka/bge-small-zh-v1.5-onnx

---

# bge-small-zh-v1.5 ONNX

这是 `BAAI/bge-small-zh-v1.5` 的 ONNX 导出版本，适用于中文文本向量化、语义检索、相似度计算、聚类等场景。

## 模型信息

- 基础模型：`BAAI/bge-small-zh-v1.5`
- 模型结构：BERT
- 向量维度：512
- 最大长度：512 tokens
- 词表大小：21128
- 支持语言：中文

## 文件说明

| 文件 | 说明 |
| --- | --- |
| `model.onnx` | FP32 ONNX 模型 |
| `model_qint8.onnx` | INT8 量化 ONNX 模型，体积更小，适合部署 |
| `tokenizer.json` / `vocab.txt` | 分词器文件 |
| `config.json` | 模型配置 |
| `tokenizer_config.json` | 分词器配置 |
| `special_tokens_map.json` | 特殊 token 配置 |

## 快速使用

```python
import numpy as np
import onnxruntime as ort
from transformers import AutoTokenizer

model_dir = "./bge-small-zh-v1.5-onnx"
tokenizer = AutoTokenizer.from_pretrained(model_dir)
session = ort.InferenceSession(f"{model_dir}/model.onnx")

texts = [
    "今天天气不错",
    "今天阳光很好",
]

inputs = tokenizer(
    texts,
    padding=True,
    truncation=True,
    max_length=512,
    return_tensors="np",
)

outputs = session.run(None, {
    "input_ids": inputs["input_ids"],
    "attention_mask": inputs["attention_mask"],
    "token_type_ids": inputs["token_type_ids"],
})

# BGE 通常使用 CLS 向量作为句向量，并进行 L2 归一化。
embeddings = outputs[0][:, 0]
embeddings = embeddings / np.linalg.norm(embeddings, axis=1, keepdims=True)

similarity = embeddings @ embeddings.T
print(similarity)
```

如果希望使用量化模型，将 `model.onnx` 替换为 `model_qint8.onnx` 即可。

## 使用建议

- 用于检索任务时，建议对向量做 L2 归一化后再计算余弦相似度或点积。
- 短查询检索长文本时，可按 BGE 系列习惯给查询增加前缀：`为这个句子生成表示以用于检索相关文章：`。
- `model_qint8.onnx` 更适合资源受限的部署场景；如更关注精度，可优先使用 `model.onnx`。

## 许可

本模型权重来源于 `BAAI/bge-small-zh-v1.5`，请遵循原始模型许可协议。
