---
title: angles-4b
canonical_url: "https://www.modelscope.cn/models/angleschina/angles-4b"
md_url: "https://www.modelscope.cn/models/angleschina/angles-4b.md"
repository: angleschina/angles-4b
last_updated: 2026-10-06
license: apache-2.0
model_type:
  - qwen3
architectures:
  - Qwen3ForCausalLM
base_model:
  - Qwen/Qwen3-4B
base_model_relation: quantized
parameters: 4.0B
tensor_type:
  - BF16
library_name:
  - transformer
  - gguf
  - safetensors
language:
  - zh
  - en
downloads: 11
stars: 0
tags:
  - qwen3
  - angles
  - gguf
---

# angles-4b

> angles-4b - angleschina 在 ModelScope 开源的模型。Angles-4B 是基于 Qwen3-4B 的轻量级指令微调模型，由 Angles China 团队训练。 相比 8B 版本，参数量减半、推理更快，适合端侧和资源受限场景部署。

angleschina/angles-4b 是 ModelScope 魔搭社区上的 4.0B 参数机器学习模型，采用 apache-2.0 许可，基于 Qwen/Qwen3-4B 构建。

- **Repository**: angleschina/angles-4b
- **License**: apache-2.0
- **Parameters**: 4.0B
- **Base model**: Qwen/Qwen3-4B
- **Tags**: qwen3, angles, gguf
- **Downloads**: 11
- **Stars**: 0
- **Last updated**: 2026-10-06

Source: https://www.modelscope.cn/models/angleschina/angles-4b

---

# Angles-4B

Angles-4B 是基于 **Qwen3-4B** 的轻量级指令微调模型，由 Angles China 团队训练。
相比 8B 版本，参数量减半、推理更快，适合端侧和资源受限场景部署。

## 模型信息

| 属性 | 值 |
|------|-----|
| 基座模型 | Qwen3-4B |
| 参数量 | 4B |
| 上下文长度 | 32K |
| 数据量 | 581 条高质量指令样本 |
| 微调方式 | LoRA (r=32, alpha=64) → 合并导出 |
| 训练硬件 | SCNet 超算互联网 DCU BW × 1 |
| 训练时长 | ~6 分钟 |

## 训练数据

- **身份数据** (388 条)：Angles 品牌认知、开发者信息
- **编程数据** (149 条)：Python、Shell、算法题
- **百科数据** (44 条)：Angles CLI 产品说明、通用知识

## 文件说明

| 文件 | 大小 | 说明 |
|------|------|------|
| `model-0000x-of-00005.safetensors` | 7.6G | 合并后的完整权重 (BF16) |
| `gguf/angles-4b-bf16.gguf` | 8.0G | GGUF 无损格式 |
| `gguf/angles-4b-Q4_K_M.gguf` | 2.5G | GGUF 4-bit 量化，推荐部署使用 |

## 快速开始

### 使用 transformers

```python
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "angleschina/angles-4b"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_id, trust_remote_code=True, device_map="auto")

messages = [{"role": "user", "content": "你能干啥"}]
text = tokenizer.apply_chat_template(messages, tokenize=False,
                                     add_generation_prompt=True, enable_thinking=False)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))
```

### 使用 llama.cpp（推荐）

```bash
# 下载 Q4_K_M 量化版
huggingface-cli download angleschina/angles-4b gguf/angles-4b-Q4_K_M.gguf --local-dir .

llama-cli -m angles-4b-Q4_K_M.gguf -p "你能干啥" -n 256 --no-conversation
```

## 模型表现

- ✅ 准确回答 Angles 品牌相关问题
- ✅ 生成高质量 Python / Shell 代码
- ✅ 支持中英文双语对话
- ✅ 保持 Qwen3-4B 基础推理能力

## 已知问题

- 部分身份问答会输出 `Angles-1.0-Flash-Code`，为训练数据残留，后续版本修复。

## 许可证

本模型遵循 Qwen3-4B 的原许可证协议（Apache-2.0）。

## 相关链接

- 8B 版本: https://www.modelscope.cn/models/angleschina/angles-1.0-flash
- GitHub: https://github.com/angleschina/angles-1.0-flash
- 组织主页: https://angleschina.github.io