---
title: Security_semantic_filtering
canonical_url: "https://www.modelscope.cn/models/lilianliu/Security_semantic_filtering"
md_url: "https://www.modelscope.cn/models/lilianliu/Security_semantic_filtering.md"
repository: lilianliu/Security_semantic_filtering
chinese_name: "安全审核--语义模型过滤"
last_updated: 2024-06-03
pipeline_tag: text-classification
tasks:
  - text-classification
downloads: 378
stars: 30
---

# Security_semantic_filtering

> Security_semantic_filtering - lilianliu 在 ModelScope 开源的模型。收集大量的涉及政治、色情、辱骂、暴力违禁等敏感数据，在此基础上微调roberta模型，根据模型打分对文本内容进行二次审核；针对业务场景下个性化的数据和需求，可自由定制审核模型的阈值参数，合适的策略配置将有效提升内容审核的召回率和精确率。

- **Repository**: lilianliu/Security_semantic_filtering
- **Tasks**: text-classification
- **Downloads**: 378
- **Stars**: 30
- **Last updated**: 2024-06-03

Source: https://www.modelscope.cn/models/lilianliu/Security_semantic_filtering

---

# 敏感内容检测系统

本项目收集大量的涉及政治、色情、辱骂、暴力违禁等敏感数据，在此基础上微调roberta模型，根据模型打分对文本内容进行二次审核；

针对业务场景下个性化的数据和需求，可自由定制审核模型的阈值参数，合适的策略配置将有效提升内容审核的召回率和精确率。

运行命令如下：
```python
python sensitive_models_filtering.py
```