---
title: Strata 0.2.10 发布：本地 AI 大模型继续提速，默认使用 DFlash2 降低显存需求，8GB 显卡也能开启 128K 上下文
date: 2026-11-03T03:23:39Z
modified: 2026-11-03T05:42:08Z
permalink: "https://www.appinn.com/strata-0-2-10/"
type: post
status: publish
excerpt: ""
categories:
  - AI
tags:
  - AI
  - Strata
  - track-Strata
  - 本地大模型
featured_image: "https://www.appinn.com/wp-content/uploads/2026/11/8GBE698BEE58DA1E79585E8B791128KE4B88AE4B88BE69687.jpg"
author: 青小蛙
timestamp: 2026-11-03T05:42:08Z
---

> 更新：青小蛙实测提速 25%
> 
> Strata 0.2.10：[https://llm-bench.io/benchmarks/cmw06r368033s01la504nux2n](https://llm-bench.io/benchmarks/cmw06r368033s01la504nux2n)
> Strata 0.2.9：[https://llm-bench.io/benchmarks/cmvyqoy9p02r801lak7ximt3s](https://llm-bench.io/benchmarks/cmvyqoy9p02r801lak7ximt3s)

![](https://www.appinn.com/wp-content/uploads/2026/11/screenshot-2026-11-03-at-1.36.45-PM@2x.avif)

之前小众软件多次介绍过 [Strata](https://www.appinn.com/tag/strata/?output_format=md)：这款开源工具可以让普通电脑，尤其是显存有限的消费级显卡，也能运行参数规模惊人的本地 AI 大模型，比如 Qwen3.8、Qwen-Flash-Next、DeepSeek 4.1 Flash 等模型。@[Appinn](https://www.appinn.com/strata-0-2-10.md)

Strata 0.2.10 发布，这次带来了几项值得关注的改进：新的 DFlash2 推测解码器成为默认选项（降低4GB显存需求），8GB 显卡也能启动 128K 长上下文，多显卡推理速度大幅提升，还加入了一个专门针对编程任务优化的 DeepSeek 模型。

![](https://www.appinn.com/wp-content/uploads/2026/11/8GBE698BEE58DA1E79585E8B791128KE4B88AE4B88BE69687.jpg)

## Strata 交流微信群

青小蛙拉了个交流 Strata 微信群，感兴趣的同学可以扫码入群：

![](https://www.appinn.com/wp-content/uploads/2026/11/IMG_5546.avif)

## 8GB 显卡，也能开启 128K 上下文

以前在 8GB 显卡下，开启 64K 上下文会耗尽专家缓存空间，导致启动失败。只能改用 CPU 图像处理、更小的 KV 缓存，或将上下文降到约 48K。

Strata 0.2.10 改进了这套机制：**当显存不足时，优先调整显存和内存之间的数据分配，尽可能保留用户设置的上下文长度。**

比如，现在可以在 8GB 显存条件下启动 **Qwen3.8 IQ3\_S**，并保持 128K 上下文，也就是 131,072 Token。

Strata 会根据显存余量，逐步缩小驻留在 GPU 中的 KV 缓存窗口，必要时还会调整其他缓存，甚至将部分数据放到系统内存中。

官方测试中：

- 8GB 显存限制下，DFlash2 模式生成速度达到 63～73 Token/s。
- 32K Token 的提示词处理时间为 19.8 秒。
- 一张真正的 Intel Arc A750 8GB 显卡，也成功启动 128K 上下文，生成速度为 12.7～14.8 Token/s。

注意，显存需求仍然在，不是凭空消失，而是把压力给到了内存和 SSD。

![](https://www.appinn.com/wp-content/uploads/2026/11/StrataE8BF90E8A18CE997A8E6A79BE585A8E8A7A3E69E90.avif)

所以青小蛙认为，Strata 降低的只有显卡门槛，但却大大提升了内存容量门槛。

**基本上，内存：32G起步，48G刚好，64G才算解决温饱。**

## DFlash2 成为默认加速器，还能额外节省 4GB 显存

Strata 0.2.10 将 DFlash2 设置为默认加速器。

DFlash2 是一种推测解码器。简单理解，就是让一个体积较小的辅助模型提前猜测接下来可能生成的内容，再交给主模型批量验证。猜对的部分越多，主模型就越有机会一次确认多个 Token，从而加快生成速度。

此前 Strata 使用的 MTP 推测层大约需要 5.2GB 空间，而新版 DFlash2 的显存占用约为 625MiB。

官方对比了同一引擎下 DFlash2 和 MTP 的表现：



| 测试设备 | 模型 | 生成速度提升 |
| --- | --- | --- |
| Ryzen AI Max（Windows） | IQ3\_S | 短回复 +8.4% |
| RTX PRO 5000 | IQ3\_S | 短回复 +6.23% |
| Apple M5 Max | IQ3\_S | +3.8% |
| DGX Spark | IQ3\_S | +5.8% |

但是，也不是没有代价。

## DFlash2 与 MTP 对比

相比之下，MTP 在硬件兼容性和多并发下都有优势：



| 对比项目 | DFlash2 | MTP |
| --- | --- | --- |
| 显存占用 | 约 625MiB | 约 5.2GB |
| 额外文件 | 首次下载约 1.2GB | 推测层约 5.2GB |
| 单请求生成速度 | 多数官方测试更快 | 部分硬件更快 |
| 多并发 | 主要面向单请求 | 更适合多请求 |
| 低显存设备 | 优势明显 | 显存压力较大 |
| 支持范围 | 依赖特定模型与引擎 | 兼容范围更广 |
| Strata 0.2.10 默认策略 | 单请求 Qwen3.8 优先 | 多并发等场景优先 |

## 两张显卡一起跑，代码编辑速度接近翻倍

针对多显卡，这次更新带来优化：All-cards Split Engine。

以前多显卡运行模型时，常见做法是将模型的不同层分配到不同显卡。新的方式则允许多张显卡共同处理每一层模型，让它们同时参与计算。

官方使用两张 RTX A6000，在 Linux 下运行 UD-Q4\_K\_XL，得到以下结果：



| 测试任务 | 原来的速度 | 新版速度 |
| --- | --- | --- |
| 代码编辑 | 195 Token/s | 377～394 Token/s |
| 生成新代码 | 139～144 Token/s | 189～232 Token/s |
| 普通文本 | 93 Token/s | 139～146 Token/s |
| Agent 循环 | 112～119 Token/s | 165 Token/s |

代码编辑任务的生成速度几乎翻倍。

## 还加入了一个编程专用的 DeepSeek 模型

Strata 0.2.10 新增了 **ISTA-DAS Coder**。它基于 DeepSeek-V4.1-Flash，针对编程和 Agent 任务进行了专家裁剪，每层只保留原来 384 个专家中的 192 个。

这样可以减少需要处理的专家权重。

官方测试中：

- 单张 Radeon AI PRO R9700：22.8 Token/s。
- 四张 R9700：59.2 Token/s。
- Apple M5 Max：19.1～22.5 Token/s。
- RTX PRO 6000 Blackwell：约 100 Token/s。

不过，这个模型的存储需求依然很大，仅模型权重就有约 72.1GB，另有约 110.6GB 的 Engram 数据文件，首次完整下载约需 191GB。

## Agent 用户也迎来一批实用修复

除了推理性能，这次 Strata 还修复了不少图形界面和 Agent 相关问题。

比如：

- AI 回复很长时，Approve 和 Deny 审批按钮不再被滚动到看不见的位置。
- 子 Agent 可以接收用户追加的指令。
- 历史对话自动摘要现在会尽量使用用户原本的语言。
- AI 正在生成内容时，可以选择等待、排队发送新消息或者中断。
- 支持引用之前的某轮对话或选中的文字。
- 改善 Claude Code 遇到上下文溢出时的错误提示，让它能够尝试压缩上下文。

另外，Strata 也修复了 Windows 某些后台启动场景下，磁盘读取优先级过低、导致模型加载明显变慢的问题。

## 下载与更新

Strata 免费、开源，提供 Windows、macOS 和 Linux 版本。本次更新后 **Strata 版本为 0.2.10，引擎版本 0.1.56。**这两者都需要单独更新。

依旧，Strata 图形界面用户可以直接更新：

![](https://www.appinn.com/wp-content/uploads/2026/11/screenshot-2026-11-03-at-11.13.08-AM402x.avif)

终端版用户可以运行：

`strata update`

**项目地址：** [https://github.com/Niko1221/Strata](https://github.com/Niko1221/Strata)

另外，每次升级都需要下载不小的文件，好慢啊。

---

原文：https://www.appinn.com/strata-0-2-10/

## Topics

**分类目录:** [AI](https://www.appinn.com/category/ai/?output_format=md)

**标签:** [Strata](https://www.appinn.com/tag/strata/?output_format=md), [track-Strata](https://www.appinn.com/tag/track-strata/?output_format=md), [本地大模型](https://www.appinn.com/tag/%e6%9c%ac%e5%9c%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b/?output_format=md)