---
title: Qwythos-27B-v1-MLX-VLM-bf16
canonical_url: "https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-VLM-bf16"
md_url: "https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-VLM-bf16.md"
repository: Fancie/Qwythos-27B-v1-MLX-VLM-bf16
chinese_name: "Qwythos-27B MLX VLM BF16"
last_updated: 2026-08-04
license: "Apache License 2.0"
pipeline_tag: image-text-to-text
tasks:
  - image-text-to-text
  - visual-question-answering
model_type:
  - qwen3_5
architectures:
  - Qwen3_5ForConditionalGeneration
base_model:
  - empero-ai/Qwythos-27B-v1
base_model_relation: finetune
parameters: 27.4B
tensor_type:
  - BF16
library_name:
  - mlx
  - safetensors
frameworks:
  - MLX
downloads: 14
stars: 0
tags:
  - mlx
  - mlx-vlm
  - qwen3.5
  - vision
  - multimodal
  - bf16
  - "Apple Silicon"
  - qwythos
---

# Qwythos-27B-v1-MLX-VLM-bf16

> Qwythos-27B-v1-MLX-VLM-bf16 - Fancie 在 ModelScope 开源的模型。Qwythos-27B-v1 · MLX VLM BF16

Fancie/Qwythos-27B-v1-MLX-VLM-bf16 是 ModelScope 魔搭社区上的 27.4B 参数image-text-to-text、visual-question-answering模型，采用 Apache License 2.0 许可，基于 empero-ai/Qwythos-27B-v1 构建。

- **Repository**: Fancie/Qwythos-27B-v1-MLX-VLM-bf16
- **License**: Apache License 2.0
- **Tasks**: image-text-to-text, visual-question-answering
- **Parameters**: 27.4B
- **Base model**: empero-ai/Qwythos-27B-v1
- **Tags**: mlx, mlx-vlm, qwen3.5, vision, multimodal, bf16, Apple Silicon, qwythos
- **Downloads**: 14
- **Stars**: 0
- **Last updated**: 2026-08-04

Source: https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-VLM-bf16

---

# Qwythos-27B-v1 · MLX VLM BF16

[empero-ai/Qwythos-27B-v1](https://www.modelscope.cn/models/empero-ai/Qwythos-27B-v1) 的未量化 **bfloat16** MLX 转换版，面向 Apple Silicon。**保留视觉塔。**

> **不是日常下载。** ≤32–48GB Mac 请优先 [4-bit VLM](https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-VLM-4bit)。本构建约 55GB，需要较大统一内存。

## 该下载哪个仓库？

| 仓库 | 体积 | 适用场景 |
|------|------|----------|
| [VLM 4-bit](https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-VLM-4bit) | ~15GB | **默认** 聊天 / 视觉 |
| **本 BF16** | ~55GB | 最高还原度、再量化、Studio 级内存 |
| [MTP drafter](https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-MTP) | ~829MB | 可选 `--draft-model` 加速 |

## 安装

```bash
pip install -U mlx-vlm
```

## 快速开始

```bash
mlx_vlm.generate \
  --model Fancie/Qwythos-27B-v1-MLX-VLM-bf16 \
  --prompt "用一句话介绍你自己。" \
  --thinking-mode disabled \
  --max-tokens 256 \
  --temperature 0.6
```

**视觉**

```bash
mlx_vlm.generate \
  --model Fancie/Qwythos-27B-v1-MLX-VLM-bf16 \
  --image ./photo.jpg \
  --prompt "描述这张图片。" \
  --thinking-mode disabled
```

**+ MTP**

```bash
mlx_vlm.generate \
  --model Fancie/Qwythos-27B-v1-MLX-VLM-bf16 \
  --draft-model Fancie/Qwythos-27B-v1-MLX-MTP \
  --draft-kind mtp \
  --draft-block-size 4 \
  --prompt "..." \
  --thinking-mode disabled
```

### LM Studio / 内存

- BF16 27B + KV 很容易超过 32GB —— 常见轻薄本可能换页或 OOM。
- LM Studio 开 MTP：使用官方 GGUF MTP 量化，而不是本 MLX BF16。

## 内容

- MLX safetensors，**BF16**，无权重量化
- `language_model` + `vision_tower`
- 无内嵌 MTP（与 4-bit 相同；请搭配 MTP 仓）

## 转换

```bash
mlx_vlm.convert \
  --hf-path /path/to/Qwythos-27B-v1 \
  --mlx-path ./Qwythos-27B-MLX-VLM-bf16 \
  --dtype bfloat16 --trust-remote-code
```

（不加 `-q`。）

## 许可与致谢

派生自 [empero-ai/Qwythos-27B-v1](https://www.modelscope.cn/models/empero-ai/Qwythos-27B-v1)（Apache-2.0），基座为 Qwen3.5-27B。非官方 MLX 转换。

## 链接

| | |
|--|--|
| 推荐 4-bit | [Fancie/Qwythos-27B-v1-MLX-VLM-4bit](https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-VLM-4bit) |
| MTP | [Fancie/Qwythos-27B-v1-MLX-MTP](https://www.modelscope.cn/models/Fancie/Qwythos-27B-v1-MLX-MTP) |
| 基座 | [empero-ai/Qwythos-27B-v1](https://www.modelscope.cn/models/empero-ai/Qwythos-27B-v1) |
| Hugging Face（英文） | [FancieF/Qwythos-27B-v1-MLX-VLM-bf16](https://huggingface.co/FancieF/Qwythos-27B-v1-MLX-VLM-bf16) |