---
title: HaS-Qwen2_5-0_5B
canonical_url: "https://www.modelscope.cn/models/FasterAI/HaS-Qwen2_5-0_5B"
md_url: "https://www.modelscope.cn/models/FasterAI/HaS-Qwen2_5-0_5B.md"
repository: FasterAI/HaS-Qwen2_5-0_5B
chinese_name: "Qwen2.5-0.5B匿名化隐私模型"
last_updated: 2025-01-04
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
base_model:
  - Qwen/Qwen2.5-0.5B-Instruct
base_model_relation: adapter
library_name:
  - pytorch
frameworks:
  - PyTorch
language:
  - zh
downloads: 56
stars: 2
---

# HaS-Qwen2_5-0_5B

> HaS-Qwen2_5-0_5B - FasterAI 在 ModelScope 开源的模型。Qwen2.5-0.5B匿名化隐私模型

FasterAI/HaS-Qwen2_5-0_5B 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可，基于 Qwen/Qwen2.5-0.5B-Instruct 构建。

- **Repository**: FasterAI/HaS-Qwen2_5-0_5B
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Base model**: Qwen/Qwen2.5-0.5B-Instruct
- **Downloads**: 56
- **Stars**: 2
- **Last updated**: 2025-01-04

Source: https://www.modelscope.cn/models/FasterAI/HaS-Qwen2_5-0_5B

---

# 模型介绍

<!-- Provide a quick summary of what the model is/does. -->

随着LLM应用的广泛普及，用户对数据隐私的担忧日益增加。这些担忧主要源于用户与云端大型模型交互的提示词（Prompts）中可能泄露的个人或企业的隐私敏感信息。 多数场景下用户并不需要保护所有提示词信息，而仅需要保护提示词中的隐私实体不被泄漏。

该模型采用Hide and Seek 方案，基于Qwen2.5-0.5B-Instruct模型微调的模型：
- 脱敏（hide）：通过随机替换敏感实体比如姓名、身份证号等，对大模型提示词（Prompts）信息加密。
- 还原（seek）：在LLM生成的结果中还原出被替换的隐私敏感信息，从而最大限度保留了原提示词中的语义信息。

## 环境版本

```python
# 查看环境版本
import sys
import torch
import swift


print("Python 版本", sys.version)
print("Pytorch 版本", torch.__version__)
print("Swift 版本", swift.__version__)
```

> Python 版本 3.10.15
> 
> Pytorch 版本 2.5.1
> 
> Swift 版本 3.0.1

## ⭐ Quick Start

<!-- Address questions around how the model is intended to be used, including the foreseeable users of the model and those affected by the model. -->

### 1、加载模型

```python

# 加载 lora 模型
def load_model_with_lora(adapter_path: str):
    args = BaseArguments.from_pretrained(adapter_path)
    engine = PtEngine(args.model, adapters=[adapter_path])
    template = get_template(args.template, engine.tokenizer, args.system)
    engine.default_template = template
    return engine

# 使用模型进行推理
def inference(engine: PtEngine, infer_request: InferRequest):
    request_config = RequestConfig(max_tokens=2048, temperature=0)
    resp_list = engine.infer([infer_request], request_config)
    response = resp_list[0].choices[0].message.content
    return response

# 加载模型
engine = load_model_with_lora("../checkpoint")
```

### 2、信息脱敏（Hide任务）

```python
# Hide 任务推理
def hide(engine, raw_input):
    query = f"请将给定文本中的关键实体替换为同类型的随机词。\n\n给定的文本：{raw_input}\n\n替换后的结果："
    infer_request = InferRequest(messages=[{'role': 'user', 'content': query}])
    return inference(engine, infer_request)


raw_input = "腾讯第三季度财务成本同比增长了多少？：11月15日，腾讯控股发布了2023年第三季度财报。本季度腾讯实现营收1546.3亿元，同比增长10%；净利润449.2亿元，同比增长39%。腾讯2023年第三季度财务成本为28亿元，同比增长43%，主要由于本季确认的汇兑收益下降，以及利息开支增加，但后者影响较小。"

hide_input = hide(engine, raw_input)

print("raw_input:", raw_input, "\n")
print("hide_input:", hide_input, "\n")
```

原始输入：
> 腾讯第三季度财务成本同比增长了多少？：11月15日，腾讯控股发布了2023年第三季度财报。本季度腾讯实现营收1546.3亿元，同比增长10%；净利润449.2亿元，同比增长39%。腾讯2023年第三季度财务成本为28亿元，同比增长43%，主要由于本季确认的汇兑收益下降，以及利息开支增加，但后者影响较小。

脱敏输入：
> 百度第四季度财务成本同比增长了多少？：12月20日，百度控股发布了2022年第四季度财报。本季度百度实现营收2756.7亿元，同比增长15%；净利润750.8亿元，同比增长52%。百度2022年第四季度财务成本为40亿元，同比增长60%，主要由于本季确认的汇兑收益下降，以及利息开支增加，但后者影响较小。




### 3、信息还原（Seek任务）
```python
# Seek 任务推理
def seek(engine, raw_input, hide_input, hide_output):
    query = f"原始输入：{raw_input} \n脱敏输入：{hide_input} \n脱敏输出：{hide_output} \n原始输出："
    infer_request = InferRequest(messages=[{'role': 'user', 'content': query}])
    return inference(engine, infer_request)

hide_output = "百度第四季度财务成本同比增长了60%。"
seek_output = seek(engine, raw_input, hide_input, hide_output)

print("raw_input:", raw_input, "\n")
print("hide_input:", hide_input, "\n")
print("hide_output:", hide_output, "\n")
print("seek_output:", seek_output, "\n")
```

原始输入：
> 腾讯第三季度财务成本同比增长了多少？：11月15日，腾讯控股发布了2023年第三季度财报。本季度腾讯实现营收1546.3亿元，同比增长10%；净利润449.2亿元，同比增长39%。腾讯2023年第三季度财务成本为28亿元，同比增长43%，主要由于本季确认的汇兑收益下降，以及利息开支增加，但后者影响较小。

本地脱敏：
> 百度第四季度财务成本同比增长了多少？：12月20日，百度控股发布了2022年第四季度财报。本季度百度实现营收2756.7亿元，同比增长15%；净利润750.8亿元，同比增长52%。百度2022年第四季度财务成本为40亿元，同比增长60%，主要由于本季确认的汇兑收益下降，以及利息开支增加，但后者影响较小。

云端输出：
> 百度第四季度财务成本同比增长了60%。

本地还原：
> 腾讯第三季度财务成本同比增长了43%。
