--- title: Strata_Windows canonical_url: "https://www.modelscope.cn/models/windecay/Strata_Windows" md_url: "https://www.modelscope.cn/models/windecay/Strata_Windows.md" repository: windecay/Strata_Windows chinese_name: Strata_Windows last_updated: 2026-10-28 pipeline_tag: visual-question-answering tasks: - visual-question-answering downloads: 6 stars: 14 --- # Strata_Windows > Strata_Windows - windecay 在 ModelScope 开源的模型。Strata项目的Window整合包，用于快速运行Qwen3.8-Flash-Next模型，支持视觉。网页界面已做了双语汉化。适合20~50系显卡（带环境、模型下载脚本和已转换好的MTP头）。推荐显存16GB+内存64GB。实测数据：基于我的平台，单卡，5090可达150tps、4090可达80tps，4070TIsuper可达35tps。 - **Repository**: windecay/Strata_Windows - **Tasks**: visual-question-answering - **Downloads**: 6 - **Stars**: 14 - **Last updated**: 2026-10-28 Source: https://www.modelscope.cn/models/windecay/Strata_Windows --- # Strata Windows 轻量独立包 by ✿冰華 **启动器 1.1.3 · 引擎 0.1.52 · 上游 v0.2.7** 集成官方 Strata App 工作区，保留 Hyoka 桌面启动器、中英界面和 RTX 20～50 多架构代码。用户电脑无需安装 Python、Node、CUDA Toolkit 或编译工具。 ## 1.1.3 更新内容 - 更新至上游 v0.2.7，主引擎使用 0.1.52 源码构建；未变化的视觉编码器沿用 1.1.2 文件。 - 纳入上游针对部分显卡、小显存和多卡场景的优化，以及会话缓存、请求输出和 Windows 显存分配修正；实际速度取决于显卡、模型和使用方式。 - 服务自带网页增加聊天历史、搜索、编辑、分支、等待发送、数学显示与代码预览。历史与编辑等功能需要在聊天设置中开启。 - 更新 App 设置和模型能力识别；监控空闲时降低显卡查询频率，保留现有中文监控与图片页面。 - 提供 1.1.2 → 1.1.3 的程序增量更新。已保存的参数和模型文件保持原值，本版未进行 GPU 推理或测速。 - 保留 App 工作区、中英界面、联网代理、模型监控和 Windows 显存预算处理。 - 完成请求的生成速度优先使用引擎 decode 计时；无足够计时数据的短请求不显示虚高速度。 - App 可以记住监控显卡选择，并提供“联网前是否询问”的设置；默认仍需确认。 - 保留中文图片临时路径支持、配置备份、历史空思考块处理和 Studio 调度入口。 轻量包包含启动器、Python／Qt、引擎、CUDA 运行库、官方 App 界面、自带 Node 和 Agent 运行组件、本地 GGUF 校验与转换工具，以及共用的 MTP 运行资源。**不附带主模型、mmproj 或三套预制 pack。** 模型文件就绪后，启动器在本机生成对应 pack，后续启动复用。 ## 首次使用 1. 解压整个 `Strata` 文件夹到可写的 SSD 目录，双击 `Start-Strata.bat`。 2. 在顶部选择 IQ4_XS、Swift IQ2_XS 或 Swift IQ3_XXS。【IQ4_XS自带消融解锁，两个Swift短思考模型有薄甲】 3. 打开“模型文件”页。已有模型时选择它所在的目录并保存；没有模型时点击“下载缺失文件”并确认。 4. 点击“准备模型”，完成模型 SHA256 校验、pack 与 tokenizer 准备。进度见“运行日志”及其中列出的准备日志。 5. 点击“启动服务”。就绪后按设置打开 Strata 工作区，也可点击“打开 Strata 工作区”。 直接点击“启动服务”也会检查模型文件，缺少 pack 时自动准备。缺少模型文件则停止，不会自动下载。下载按钮只下载模型，下载完成后再准备 pack。 准备时会自动打开“运行日志”。进度区显示当前校验文件的已读 GB、文件检查数量、生成 pack 的已写入大小和耗时。生成阶段没有可准确计算的总量时使用活动进度条；转换程序的详细日志同时显示在窗口里。只有准备进程成功退出后才显示完成。 首次校验会读取完整模型文件；首次准备需要额外的磁盘读写，耗时取决于 SSD 和 CPU。准备使用本地 CPU，不加载 GPU 模型，也不会改写原 GGUF。每套主模型 pack 约占 1.4 GiB；程序所在磁盘至少需要再有 2 GiB 可用空间来准备一套 pack。 ## Strata 工作区 工作区使用官方 App 界面，在本机浏览器中打开，包含多会话聊天、工作区文件、Skills、任务、子智能体和文件预览。HTML 等生成文件可以在右侧预览；只输出代码文字不代表已创建文件。 启动器自动连接当前模型，沿用已有 API Key，并在打开时采用启动器的中文或英文选择。App 页面不显示密钥。默认使用“手动”权限模式；需要修改文件或执行命令时，在对话中的批准卡片查看具体操作后决定。Plan 模式只读；Bypass 模式按用户选择自动执行。 模型选择、显卡、内存、上下文、MTP 和图像理解参数继续在 Hyoka 启动器中保存，重启服务后生效。工作区的“模型”页提供当前模型的加载／卸载按钮；启用 Studio GPU 调度时仍经过原有调度代理。 App 聊天和 Agent 数据保存在 `userdata/app`，默认工作目录为 `workspaces`；已有模型和 pack 保留原位置。App 地址只监听本机，使用独立端口；外部客户端继续使用启动器公布的原 API Base。关闭服务或启动器时一起停止本次 App 和 Agent 进程。原服务端聊天页仍可通过原 API 地址访问。 ## 参数设置 “设置”页中的内存预算、预留显存、上下文长度、图片 token 上限、端口和空闲卸载时间使用下拉框。数字以完整数值显示，例如 `1,048,576 tokens`，不使用科学计数法。可以直接选常用值，也可以输入自定义数值。已有的非标准数值会保留，输入无效时不会保存。 “专家内存分配”默认选择自动模式，由引擎加载时按可用内存决定预算。需要固定预算时，选择“手动设置内存预算”，再选择或输入 GiB 数值。灰色的手动值不参与自动分配。 设置按模型分别保存，重启服务后生效。修改前会保留带时间戳的原配置备份。中英切换保留未保存的设置。详细说明见 `docs/WINDOWS_LAUNCHER.md`。 本独立包按启动器保存的参数启动，不自动叠加上游桌面 App 的调优记录。 “适配输出上限到剩余上下文”使用原生默认时，1.0.9 会在提示词能够放入上下文、但客户端申请的输出上限过高时自动缩短输出上限。设为关闭则返回 HTTP 400；提示词本身超过上下文仍会被拒绝，正文不会被截短。升级保留已有的显式开关。 默认上下文为 65536，KV 为 INT8，分发默认预留显存为 1536 MiB，MTP 草稿长度为 4，GPU 图像理解开启，图片上限为 1024 tokens。自动专家内存默认由引擎保留约 4 GiB 余量；不足时只让能容纳的常用专家驻留。 ## 模型与文件 | 模型 | API 模型 ID | 配置 | 本地生成的 pack | |---|---|---|---| | Qwen3.8 Flash Next IQ4_XS | `qwen3.8-flash-next` | `strata.json` | `pack` | | Swift 1.5 IQ2_XS | `swift-1.5-iq2_xs` | `strata-swift-iq2_xs.json` | `packs/swift-iq2_xs` | | Swift 1.5 IQ3_XXS | `swift-1.5-iq3_xxs` | `strata-swift-iq3_xxs.json` | `packs/swift-iq3_xxs` | IQ4 使用魔搭 `groxaxo/Qwen3.8-Flash-Next-Heretic-GGUF` 的 `UD-IQ4_XS` 固定版本，包含 41 个分片和 1 个 F16 mmproj，合计约 94.53 GB。完整文件名、大小和 SHA256 见 `model-manifest.json`，默认目录为 `models/Qwen3.8-Flash-Next`。 Swift 来自 `ukisai/Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-GGUF`，固定清单位于 `profiles`。IQ2 含 mmproj 约 69.06 GB，IQ3 含 mmproj 约 76.87 GB。两种量化共用一个 mmproj，默认目录为： ```text models/Swift-1.5/ Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ2_XS-00001-of-00002.gguf Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ2_XS-00002-of-00002.gguf Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS-00001-of-00002.gguf Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS-00002-of-00002.gguf mmproj-Swift-Qwen3.8-Flash-Next-BF16.gguf ``` 只使用一种 Swift 量化时，只需它的两个分片与 mmproj。保持完整原文件名；`.part`、`.xltd` 等临时下载文件不视为完成。已有模型可以保持原位置，选择目录后不会复制一份大模型到程序目录。 下载入口支持表中三种固定配置。自己的 Flash Next GGUF 可以通过启动器的“导入本地模型…”添加。 ## 导入自己的 Flash Next 1. 停止当前服务，点击顶部“导入本地模型…”。 2. 选择主 GGUF。分片模型请选择 `-00001-of-…gguf`，所有分片放在同一目录，保持原文件名。 3. 显示名称可以自定义。需要图像理解时，选择与此模型匹配的 mmproj；只进行文字对话可以留空。 4. MTP 默认不配置。可以选择已准备好的 Strata MTP 目录，或明确勾选使用包内原模型的 MTP。不能直接选择 llama.cpp 的 MTP GGUF。 5. 点击“校验并导入”。启动器检查 GGUF 内部架构、模型尺寸、分片、专家量化、tokenizer 和聊天模板，并读取本地文件 SHA256。进度显示在“运行日志”。 6. 导入完成后，模型出现在顶部列表中。点击“准备模型”在本机生成独立 pack 和 tokenizer，随后启动服务。 导入使用原有文件位置，不复制大模型、不联网下载，也不改写 GGUF。每个导入模型有独立的 `profiles/custom-*.json` 文件记录、`strata-custom-*.json` 配置及 `packs/custom-*` 目录；API 模型 ID 显示在“模型文件”页。内存、端口等参数分别保存。 目前接受此版本引擎可处理的 **Qwen3.8 Flash Next `qwen4exp` 架构及相应模型尺寸**，包含部分同架构衍生模型和量化格式。检查依据为 GGUF 的内部信息，文件名包含 Flash Next 不能证明兼容。其他架构、缺少分片或引擎无法处理的张量格式会拒绝导入。通过文件检查也不代表所有衍生模型都已经经过实际推理或效果测试。 没有配置 mmproj 时，图像理解选项不可用；没有配置 Strata MTP 资源时，MTP 选项不可用。选了 MTP 资源后仍默认关闭，需要在设置中选择草稿长度才能启用。包内 MTP 属于原模型，衍生模型的草稿接受率和速度需要实际测试。mmproj 的结构检查不能替代它与主模型的配套要求。 需要修改主模型、mmproj 或 MTP 路径时，在“模型文件”页点击“编辑已导入模型”。编辑时重新校验文件，保留旧记录和旧配置备份。替换过 GGUF 的内容时，请重新导入，不能沿用旧模型的校验记录或 pack。 ## 校验、准备与复用 模型文件按固定清单验证大小与 SHA256。后续检查可复用文件未变化的校验记录；“校验文件”会强制重新读取模型 SHA256。 导入模型以首次本地读取的 SHA256 建立记录，用于识别后续文件变化；它不是发布者签名或网络来源验证。后续发现大小或 SHA256 改变时停止准备，需要重新导入。 pack 的记录绑定模型分片的名称、大小、SHA256 和准备工具版本。启动时复用有效记录；pack 缺失、内容损坏、模型来源或转换工具改变时重新准备。旧 pack 会保留为备份，新文件在独立临时目录中全部准备成功后才替换。 准备失败、超时或被停止时，不会把未完成的 pack 当作就绪，也不会改写原模型。重新点击“准备模型”可重新执行。下载中断则沿用经过身份检查的 `.part` 文件继续下载。 IQ4 准备会按引擎要求把部分小投影转换为 BF16，转换记录写入 `conversions.json`；专家权重和大型 PLE 表仍直接从 GGUF 读取。Swift 使用其原有转换规则。转换所需的 GGUF Python 工具已随程序提供，不需要下载 llama.cpp 源码。 MTP 运行资源是独立的 `mtp/rt`，本版仍随程序提供，三种模型共用。主模型 pack 在本地生成不代表能从主 GGUF 还原 MTP。MTP 草稿长度选择“关闭（0）”后关闭该加速；再次开启会复用原有 MTP 目录。 关闭 MTP 后，native 引擎仍保留其要求的普通 lookup 草稿参数；界面的 0 表示不加载 MTP，不表示把引擎的 `--spec` 设置为 0。 ## 加载、卸载与停止 “加载模型”和“卸载模型”管理当前模型及视觉编码器。卸载后网页、API 服务和聊天记录保留，下次请求可以自动加载。生成或排队期间会拒绝卸载。 “停止服务”结束此启动器启动的服务。切换模型前停止当前服务，再选择目标模型启动。关闭启动器时，仍在运行的自有服务会要求停止后关闭。 从其他控制台启动的服务要从原入口停止。网页顶部的加载／卸载按钮不要求开启 API 请求记录。 默认网页为 `http://127.0.0.1:18080/`，兼容 API Base 为 `http://127.0.0.1:18080/v1`。地址与模型 ID 以当前所选模型配置为准。 ## 命令行入口 分发根目录只保留 `Start-Strata.bat`：不传参数时打开启动器，传入命令行参数时进入控制台模式。模型选择、下载、校验、pack 准备和内存设置都可以通过启动器完成，不再附带各模型及各操作的独立 BAT 文件。 ```bat Start-Strata.bat --profile iq4_xs --model-dir "模型目录\Qwen3.8-Flash-Next" --prepare-only --no-download Start-Strata.bat --profile swift-iq2_xs --model-dir "模型目录\Swift-1.5" --prepare-only --no-download Start-Strata.bat --profile swift-iq3_xxs --download-only Start-Strata.bat --profile iq4_xs --verify-models --prepare-only --no-download runtime\python.exe -B tools\configure_memory.py --profile swift-iq2_xs --auto Start-Strata.bat --list-models ``` `--download-only` 只下载或复用模型，不准备 pack。`--verify-models --prepare-only` 强制校验并准备 pack，不加载 GPU。 已导入的模型同样可使用 `--profile` 启动、准备和校验，具体 ID 通过 `--list-models` 查看；不提供自动下载。 ## 硬件与验证范围 程序包含 NVIDIA RTX 20／30／40／50 对应的已编译代码。CPU 需要 AVX2，系统为 Windows x64，并安装兼容 CUDA 13 的 NVIDIA 驱动；驱动不包含在包内。 本版未进行真实模型的 GPU 推理、图片和速度测试。编译覆盖不等于所有显卡已完成实际验收；上游的速度变化与旧版测试记录不能作为本版在其他设备上的性能保证。当前验证结果见 `docs/RELEASE_1.1.3.md` 和交付包的 `verification.json`。 自定义导入入口使用改名后的现有 Swift IQ2 GGUF 完成了实际校验、pack 生成、纯文字启动、加载／卸载，以及选配 mmproj／MTP 后的图片、多轮和 EXIF 检查。该结果验证导入流程，不代表所有 Flash Next 衍生模型都已验证。详情见 `docs/WINDOWS_LAUNCHER.md`。 ## 局域网使用 在启动器“设置”页的“服务”中设置 **API 监听地址、端口和 API Key**。`127.0.0.1` 或 `localhost` 仅监听本机，`0.0.0.0` 监听所有接口，也可填写这台电脑实际分配的 IPv4 地址。API Base 会随地址与端口更新，可以直接复制。使用 `0.0.0.0` 时，启动器会显示可供其他设备使用的本机 IP 地址；`0.0.0.0` 本身只用于监听。 **从 1.0.9 Beta 起，Strata 直接监听 `0.0.0.0` 或局域网 IP 时必须填写 API Key，否则拒绝启动。** 监听 `127.0.0.1` 或 `localhost` 时仍可留空，留空不启用认证。可以点击“生成 API Key”创建密钥，输入默认隐藏，也可点击显示。设置按模型保存，修改地址、端口或密钥后重启服务生效；启动器的状态查询和模型加载／卸载使用运行中服务的实际地址与密钥。 局域网客户端使用服务器实际 IP，例如 `http://192.168.1.100:18080/v1`，并填写与服务端相同的 API Key。升级前使用局域网地址且未设置密钥的用户，需要在启动器中生成或填写密钥，保存后重启服务，并更新客户端设置。 需要时由管理员允许专用网络中的本地子网访问： ```powershell New-NetFirewallRule -DisplayName "Strata API 18080" -Direction Inbound -Protocol TCP -LocalPort 18080 -Action Allow -Profile Private -RemoteAddress LocalSubnet ``` ## SimpAI Studio GPU 优先（可选） 此功能默认关闭，只有需要与 SimpAI Studio 共用 GPU 时才开启。设置适用于所有模型，保存在 `launcher.json`；修改后重启服务生效。 1. 打开独立的“GPU调度”标签页，勾选“SimpAI Studio GPU 优先（可选）”中的启用选项。 2. 填写实际 SimpAI Studio 地址，例如 `http://服务器地址:端口/`。保留反向代理的路径前缀，不填写 ComfyD 地址（如127.0.0.1:8188，这是错误的）。 3. 保存并启动服务。启动器自动管理代理和内部端口；对外地址、端口及 API Key 沿用“服务”设置，客户端继续使用原 API Base。 4. 点击“授权 SimpAI Studio…”，在打开的管理页进入 SimpAI Studio 正式授权页面，用管理员身份批准 `read` 和 `node.read` 只读权限。 5. 启动器显示允许推理、等待授权、SimpAI Studio 忙碌或连接异常。可以通过“打开调度状态”查看详情，或复制运行中的 API Base。 开启后，Strata 仅监听自动分配的本机内部端口，并延迟加载模型。代理支持原来的局域网监听设置；授权管理页单独监听本机，不对局域网开放。授权凭据使用 Windows 当前用户加密，保存在用户的 `Hyoka/Strata/studio-authorizations` 应用数据目录，分发包不包含这些凭据。 SimpAI Studio 有本地排队、准备或运行任务时，中断代理中的 Strata 推理，再卸载模型。默认取消超过 3 秒后，仅在核对本机服务与子进程归属后结束 Strata 引擎，保留 HTTP 服务；设置为 0 可关闭此处理。 “恢复 API 转发前的空闲等待”沿用原来的秒级设置，默认 3 秒。计时结束后只重新允许 API 请求，不主动加载模型；收到推理请求或启用的原请求重试后才加载模型。 “自动重试尚未输出的请求”只适用于普通请求、尚未发送响应头或内容、客户端仍连接且未超时的情况。已经输出的流式回复会返回 `studio_preempted`，由客户端保留已有文字并重新请求；MCP 或工具调用不自动重试。 授权或 SimpAI Studio 状态读取异常时暂停新推理。队列监控不能保证在 SimpAI Studio 分配显存前完成释放。所有需要调度的客户端都应使用启动器显示的对外 API Base；直接访问内部服务会绕过调度。SimpAI Studio 的前处理若也使用同一代理，应检查它是否依赖被暂停的推理请求。 停止服务或关闭启动器时一起停止自有代理；切换模型后重新启动时自动使用新上游。代理异常退出时，启动器也会停止它管理的 Strata 服务。模型文件准备、校验和下载不会启动代理。 ## 更新与许可证 这是固定版本程序，不自动替换为上游版本。更新程序时保留模型、配置、已生成的 `pack`／`packs` 和 `mtp/rt`；新工具会重新核对 pack 来源。更新说明见 `docs/UPDATING.md`，分发内容见 `distribution-manifest.json`。 启动器与 Windows 分发制作：✿冰華。Strata 原项目及其他组件的作者信息和许可证保留。 Swift 的原始 LICENSE、LICENSE-QWEN 与 NOTICE 位于 `licenses/Swift-1.5`。本地 pack 准备说明见同目录的 `STRATA-PACK-NOTICE.txt`。GGUF 转换工具的许可证位于 `third_party/llama.cpp/gguf-py/LICENSE`，Qt 许可证随独立运行环境保留。 可选 GPU 协调器的 GPL-3.0 许可证位于 `tools/studio_priority/LICENSE`，协调器使用独立子进程运行。 ## 自动启用服务 “设置 → 常规 → 启动器 → 启动后自动启用服务”默认关闭。勾选并保存后，下次打开启动器会按已保存的模型和设置自动启用服务；该开关适用于所有模型。操作只执行一次，失败会显示错误，不自动下载，也不会在手动停止后立即重新启动。 需要 Windows 登录后自动打开启动器时，按 Win+R，输入 `shell:startup`，放入原 `Start-Strata.bat` 的快捷方式。开关本身不登记系统启动项，也不安装 Windows 服务。 当前功能、构建和验证范围见 `docs/RELEASE_1.1.3.md`。旧版本的功能记录与升级步骤集中保存在 `docs/UPDATING.md` 及各版本发布说明中。