---
title: Phai-A1-35B-1M-GGUF
canonical_url: "https://www.modelscope.cn/models/PhaiModelLab/Phai-A1-35B-1M-GGUF"
md_url: "https://www.modelscope.cn/models/PhaiModelLab/Phai-A1-35B-1M-GGUF.md"
repository: PhaiModelLab/Phai-A1-35B-1M-GGUF
last_updated: 2026-11-18
license: "Apache License 2.0"
pipeline_tag: text-generation
tasks:
  - text-generation
base_model:
  - Qwen/Qwen3.6-35B-A3B
base_model_relation: quantized
library_name:
  - gguf
downloads: 216
stars: 1
tags:
  - coding
  - agent
  - long-context
  - rl
  - gguf
---

# Phai-A1-35B-1M-GGUF

> Phai-A1-35B-1M-GGUF - PhaiModelLab 在 ModelScope 开源的模型。基于 Qwen3.6-35B-A3B 的底座、面向 Coding & Agent 场景深度优化的模型。后训练全流程在华为昇腾卡上完成，包括 SFT 和 RL。模型在代码生成、工具调用、长程任务规划与执行等 Agent 工作负载上获得了显著增强，并原生支持长达 1M tokens 的上下文窗口。

PhaiModelLab/Phai-A1-35B-1M-GGUF 是 ModelScope 魔搭社区上的text-generation模型，采用 Apache License 2.0 许可，基于 Qwen/Qwen3.6-35B-A3B 构建。

- **Repository**: PhaiModelLab/Phai-A1-35B-1M-GGUF
- **License**: Apache License 2.0
- **Tasks**: text-generation
- **Base model**: Qwen/Qwen3.6-35B-A3B
- **Tags**: coding, agent, long-context, rl, gguf
- **Downloads**: 216
- **Stars**: 1
- **Last updated**: 2026-11-18

Source: https://www.modelscope.cn/models/PhaiModelLab/Phai-A1-35B-1M-GGUF

---

# Phai-A1-35B-1M

[简体中文](./README.md) | [English](./README_en.md)

基于 **Qwen3.6-35B-A3B** 的底座、面向 **Coding & Agent** 场景深度优化的模型。后训练全流程在华为昇腾卡上完成，包括 SFT 和 RL。模型在代码生成、工具调用、长程任务规划与执行等 Agent 工作负载上获得了显著增强，并原生支持长达 **1M tokens** 的上下文窗口。

## 模型亮点

- **面向 Coding & Agent 的大规模后训练**：覆盖代码理解/生成/修复、工具调用、多步推理、长程规划等核心 Agent 能力。
- **RL + 真实沙盒**：RL 阶段在 **4000 个沙盒环境** 中进行 GRPO 训练，显著提升真实编码任务与工具使用场景的可靠性与成功率。
- **超长上下文**：训练数据覆盖 **16k → 1M tokens** 全长度区间；训练全程通过 **YaRN（factor=4）** 扩展并稳定开启 **1M tokens** 上下文，支持超大仓库级代码理解与长程 Agent 交互。

## 训练详情

| 阶段 | 说明 |
|---|---|
| 基座 | Qwen3.6-35B-A3B（MoE） |
| SFT | 高质量 Coding & Agent 指令数据*，覆盖多轮对话、工具调用、长链路推理等场景|
| RL | 主要基于 GRPO；在 **4000 个沙盒环境** 支撑代码执行、单元测试、工具调用等真实反馈 |

> \* 训练数据长度分布 **16k → 1M tokens**；全程开启 **YaRN factor=4**，把上下文扩展至 **1M** 并稳定训练

## 使用方式

```python
from llama_cpp import Llama

model_path = "<你的 GGUF 模型文件路径>"

llm = Llama(
    model_path=model_path,
    n_ctx=4096,
    n_gpu_layers=-1,
    verbose=False
)

messages = [
    {"role": "system", "content": "You are a helpful coding assistant."},
    {"role": "user", "content": "帮我实现一个支持并发限流的异步任务队列"},
]

output = llm.create_chat_completion(
    messages=messages,
    max_tokens=2048,
    temperature=0.7,
)

print(output["choices"][0]["message"]["content"])
```

## 长上下文推理建议

- 模型权重已在 YaRN（factor=4）进行过额外训练适配，并且在 `config.json` 中已经默认开启rope scaling以支持1M上下文。
- 超长上下文对显存与 KV cache 压力很大，建议使用支持长上下文的推理框架（vLLM / SGLang 等）并按需开启 prefix caching、分块 prefill 等优化。
- 额外训练后，短上下文场景推理行为与基座几乎保持一致，无需特殊处理。

## 评测

在 SWE-Bench（Verified / Pro / Multilingual）、TAU3-Bench、IFBench、AA-LCR 等 Coding & Agent 评测集上，本模型相较同尺寸基座取得全面提升，并在多个基准上接近或超越更大规模模型：

<p align="center">
  <img src="_assets_/_benchmarks.png" alt="benchmarks" width="100%"/>
</p>

> 注：图中 "—" 表示该模型未报告该基准成绩。

## 局限性与使用声明

- 模型主要面向 Coding & Agent 场景优化，其它通用领域表现可能与基座存在差异。
- 模型输出可能包含错误或不适配的内容，请在生产环境前进行充分评测与人工校验。
- 使用本模型须遵守相关法律法规与底座的相应协议。

## 协议

本模型权重基于 Qwen3.6-35B-A3B 后训练，使用前请遵守底座模型的 License 条款。
