---
title: Qwen3.8-27B-CCCP-14G-Sweet
canonical_url: "https://www.modelscope.cn/models/ValueFX/Qwen3.8-27B-CCCP-14G-Sweet"
md_url: "https://www.modelscope.cn/models/ValueFX/Qwen3.8-27B-CCCP-14G-Sweet.md"
repository: ValueFX/Qwen3.8-27B-CCCP-14G-Sweet
chinese_name: "Qwen3.8-27B CCCP 14G甜点版"
last_updated: 2026-08-16
license: apache-2.0
pipeline_tag: image-text-to-text
tasks:
  - image-text-to-text
model_type:
  - qwen3_5
architectures:
  - Qwen3_5ForConditionalGeneration
base_model:
  - Qwen/Qwen3.8-27B
base_model_relation: finetune
parameters: 13.6B
tensor_type:
  - U8
  - U16
  - BF16
  - F32
library_name:
  - safetensors
language:
  - zh
  - en
downloads: 5173
stars: 7
---

# Qwen3.8-27B-CCCP-14G-Sweet

> Qwen3.8-27B-CCCP-14G-Sweet - ValueFX 在 ModelScope 开源的模型。Qwen3.8-27B CCCP 14G甜点量化版本

ValueFX/Qwen3.8-27B-CCCP-14G-Sweet 是 ModelScope 魔搭社区上的 13.6B 参数image-text-to-text模型，采用 apache-2.0 许可，基于 Qwen/Qwen3.8-27B 构建。

- **Repository**: ValueFX/Qwen3.8-27B-CCCP-14G-Sweet
- **License**: apache-2.0
- **Tasks**: image-text-to-text
- **Parameters**: 13.6B
- **Base model**: Qwen/Qwen3.8-27B
- **Downloads**: 5173
- **Stars**: 7
- **Last updated**: 2026-08-16

Source: https://www.modelscope.cn/models/ValueFX/Qwen3.8-27B-CCCP-14G-Sweet

---

# Qwen3.8-27B-CCCP-14G-Sweet

> Qwen3.8-27B 的 CCCP 甜点量化版本。语言模型投影采用经过完整因果评分筛选的量化配置，视觉塔、最后一层 MLP、Norm 与 Bias 保持源精度。模型必须使用支持 `cccp-1` 的 [CCCP 推理框架](https://github.com/Value99/CCCP) 加载。

[CCCP Windows 启动器](https://www.visionsic.com/cccp) · [CCCP 源码与文档](https://github.com/Value99/CCCP)

## 模型简介

本仓库不是普通 Transformers、GGUF 或标准低比特权重，而是 CCCP（Collective Codebook Compression Pipeline）格式的完整 Qwen3.8-27B 模型。量化不改变模型架构、层数、分词器和视觉塔，量化布局由仓库配置及 CCCP 引擎自动管理。

## 版本规格

| 项目 | 数值 |
| --- | --- |
| 基础模型 | Qwen3.8-27B |
| CCCP 格式 | `cccp-1` |
| 模型架构 | `qwen3_5` |
| Transformer 层数 | 64 |
| 隐藏维度 | 5,120 |
| 词表大小 | 248,320 |
| 原生上下文长度 | 262,144 token |
| 量化张量 | 399 |
| 源精度保留张量 | 800 |
| 视觉塔 | 源精度保留 |
| 仓库实际体积 | 14.263 GiB（15,314,333,423 bytes） |
| 完整性校验 | `cccp-1` 全哈希与索引语义校验通过 |

> 最大上下文是模型配置声明值。实际可用长度受显存、RAM、KV Cache、后端和并发数影响。

## 质量验证

发布版本使用 WikiText2-raw test 全量文本，按 context 512、stride 256 切分为 1,159 块，共计 295,545 个有效评分 token，并使用同一份源模型作为参考。

| 指标 | 结果 |
| --- | ---: |
| Mean KLD ± SE | **0.168516 ± 0.000747** |
| PPL(q) = exp(Mean KLD) | **1.183548** |
| Reference / Candidate PPL | 6.982873 / 7.759354 |
| Top-1 agreement | 83.2882% |
| Reference Top-1 in candidate Top-5 | 98.1458% |
| Reference Top-1 in candidate Top-1%（Top-2,484） | **99.9909%** |
| Mean JS divergence | 0.035808 |
| Mean total variation | 0.152825 |
| KLD p99 / p99.9 / max | 1.752746 / 5.273405 / 18.129866 |
| KLD >1 / >5 / >10 / >15 | 7,119 / 330 / 31 / 4 |

相同全量 WikiText2 口径下，上一版 15G Sweet 的 Mean KLD 为 `0.218809`；本版降低至 `0.168516`，下降约 **23.0%**。Top-1 agreement 从 `81.1274%` 提升至 `83.2882%`，Top-5 从 `97.5317%` 提升至 `98.1458%`。Top-1% 从 `99.9926%` 轻微变化为 `99.9909%`，对应 295,545 个评分 token 中 27 个未命中。

PPL(q) 表示量化分布相对源分布的偏移倍率，不是候选模型在语料上的直接困惑度。候选 Top-1% 按每个 token 的候选 logits 排名严格计算：词表 248,320，对应 Top-2,484；它不是 Top-1 agreement，也不是由 Top-5 推算得到。

## 下载

在 CCCP Windows 启动器的“模型库 → 下载新模型”中选择 ModelScope，并填写：

```text
ValueFX/Qwen3.8-27B-CCCP-14G-Sweet
```

也可以使用 ModelScope CLI：

```powershell
ms download ValueFX/Qwen3.8-27B-CCCP-14G-Sweet `
  --local-dir ".\models\Qwen3.8-27B-CCCP-14G-Sweet"
```

下载后应保持 `cccp.json`、`dense.safetensors`、`vq.global.safetensors`、全部 `vq.Lxx.safetensors`、审计文件和分词器文件位于同一模型目录。

## 启动方式

1. 下载并完整解压 [CCCP Windows 启动器](https://www.visionsic.com/cccp)。
2. 将完整模型目录放入启动器的 `models` 目录，或添加外部模型根目录。
3. 在模型库刷新并确认识别为 CCCP 模型。
4. 执行资源预检后启动，模型加载完成后默认提供 OpenAI 兼容 API。

## OpenAI 兼容 API

```python
from openai import OpenAI

client = OpenAI(
    base_url="http://127.0.0.1:8801/v1",
    api_key="not-needed",
)

model_id = client.models.list().data[0].id
stream = client.chat.completions.create(
    model=model_id,
    messages=[{"role": "user", "content": "你好，请介绍一下你自己。"}],
    stream=True,
)

for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")
```

## 兼容性与注意事项

- 必须使用支持本仓库 `cccp-1` 格式的 CCCP-Engine/启动器；不能直接由 Transformers、vLLM、SGLang 或 llama.cpp 加载。
- 首次运行可能需要建立本机算子和运行时缓存，请勿在加载阶段强制结束进程。
- 请勿手工修改 `cccp.json`、审计文件或权重分片。
- 本模型及基础模型的使用应遵循上游 Apache-2.0 许可证、ModelScope 平台规则和适用法律。

## 上游模型与许可

基础模型为 Qwen3.8-27B。模型架构、能力说明、基准和引用请以上游模型卡与技术报告为准。本仓库只声明 CCCP 量化、完整性验证和 CCCP 本地推理兼容信息，不重复声称上游基准成绩。