---
title: cv_vitb16_classification_vision-efficient-tuning-base
canonical_url: "https://www.modelscope.cn/models/iic/cv_vitb16_classification_vision-efficient-tuning-base"
md_url: "https://www.modelscope.cn/models/iic/cv_vitb16_classification_vision-efficient-tuning-base.md"
repository: iic/cv_vitb16_classification_vision-efficient-tuning-base
chinese_name: "基础视觉模型高效调优-Base"
last_updated: 2023-09-19
license: "Apache License 2.0"
pipeline_tag: vision-efficient-tuning
tasks:
  - vision-efficient-tuning
model_type:
  - Transformer
library_name:
  - pytorch
frameworks:
  - pytorch
domain:
  - cv
downloads: 2957
stars: 1
tags:
  - Alibaba
  - Base
  - "Vision Transformer"
  - "Parameter-efficient Transfer Learning"
---

# cv_vitb16_classification_vision-efficient-tuning-base

> cv_vitb16_classification_vision-efficient-tuning-base - iic 在 ModelScope 开源的模型。日益庞大的数据量和强大的计算资源共同推动了大规模预训练基础模型的发展，其在不同的领域中展示了应用在众多下游任务上的强大泛化能力，如CV、NLP、多模态等领域。然而，随着预训练模型的规模不断增长也使得下游任务适配过程中的的训练、存储和部署成本的增加。

iic/cv_vitb16_classification_vision-efficient-tuning-base 是 ModelScope 魔搭社区上的vision-efficient-tuning模型，采用 Apache License 2.0 许可。

- **Repository**: iic/cv_vitb16_classification_vision-efficient-tuning-base
- **License**: Apache License 2.0
- **Tasks**: vision-efficient-tuning
- **Tags**: Alibaba, Base, Vision Transformer, Parameter-efficient Transfer Learning
- **Downloads**: 2957
- **Stars**: 1
- **Last updated**: 2023-09-19

Source: https://www.modelscope.cn/models/iic/cv_vitb16_classification_vision-efficient-tuning-base

---

# 基础视觉模型高效调优：Base

日益庞大的数据量和强大的计算资源共同推动了大规模预训练基础模型的发展，其在不同的领域中展示了应用在众多下游任务上的强大泛化能力，如CV、NLP、多模态等领域。然而，随着预训练模型的规模不断增长也使得下游任务适配过程中的的训练、存储和部署成本的增加。

为了解决这个问题，近来基于大规模预训练的基础模型的参数高效迁移学习方法上的相关工作取得了与完全微调相比更具竞争力的性能提升，且在各种下游应用中均取得了巨大成功。现有的高效调优方法会依据特定任务的不同，通过冻结大部分或所有预训练参数，仅需调整少量现有参数或插入额外轻量化的可训练结构，以保持下游迁移时的低训练开销和部署成本。

该模型(ViT-B/16)作为基础视觉领域中分类任务的模型高效调优的Base模型，为用户提供调优训练和推理。