苹果新应用 Harbor 曝光:插线连接多台 Mac,一起运行本地大模型 macOS AI 2026/11/11 0 在 Mac 上运行本地大模型已经不是什么新鲜事了,但如果模型太大,一台 Mac 的内存装不下怎么办? 苹果似乎准备提供一个更简单的办法:把几台 Mac 用 Thunderbolt … Read More
Strata 0.2.10 发布:本地 AI 大模型继续提速,默认使用 DFlash2 降低显存需求,8GB 显卡也能开启 128K 上下文 AI 2026/11/03 1 更新:青小蛙实测提速 25% Strata 0.2.10:https://llm-bench.io/benchmarks/cmw06r368033s01la504nux2nStrata 0.2.9:h Read More
Strata 0.2.9 发布:本地大模型 Prefill 最高提速 88%,还支持 1 比特 DeepSeek AI 2026/10/31 7 本地运行 AI 大模型的 Strata 0.2.9 发布,又变快了。 日更软件 Strata,今天更新到了 0.2.9 … Read More
Strata 0.2.4 更新:12GB 显卡运行 DeepSeek V4.1-Flash AI 2026/10/24 0 在普通电脑上运行一个动辄需要数百 GB 内存的 DeepSeek V4.1-Flash 大模型,听起来有点天方夜谭。但刚刚发布的 Strata 0.2.4 做到了。 … Read More
Strata 0.2.3 更新:聊天太长?现在会自动压缩了 AI 2026/10/23 2 Strata 是什么?Strata 是一款免费开源的本地大模型运行工具,支持 Windows、macOS 和 Linux,能够让普通电脑运行大型 AI 模型,最低只需要 8GB … Read More
Strata 0.2.2 发布:新增多显卡自由分工,Gyro 推理提速最高 30% AI 2026/10/22 0 Strata 是什么?Strata 是一款免费开源的本地大模型运行工具,支持 Windows、macOS 和 Linux,能够让普通电脑运行大型 AI 模型,最低只需要 8GB … Read More
卷起来了!昨天 Strata 刚升级,今天 Splash 1.4 就宣布快了 30% AI 2026/10/21 0 昨天,青小蛙刚刚介绍了 Strata 的更新:Strata 0.2 测试版发布:性能升级,门槛再降低|低配电脑运行本地大模型 没想到,今天另一款开源本地 AI 推理工具 Splash … Read More
8GB显存就够,Strata 让普通电脑也能运行千亿参数大模型 AI 2026/10/10 24 青小蛙帮你们试过了,可行! RTX 5070、RTX 3060、RTX 4060 Ti、RX 9070 XT、RX 9060 … Read More
NIGHTRUN – 无需操作系统,用 U 盘启动的的本地大模型客户端 AI 2026/08/06 3 NIGHTRUN 是一个能直接 UEFI 启动的 LLM 终端。无需操作系统、在电脑中插入启动 U 盘,立即进入本地大模型对话界面。@Appinn 感谢 … Read More
BaseRT:专为 Apple Silicon 优化,让 Mac 本地大模型快 6.4 倍 AI 2026/07/21 3 Apple Silicon 跑本地大模型,速度还能再提升多少?BaseRT 给出了一个答案:在 M5 Pro 上,它的提示词处理速度最高达到 llama.cpp 的 … Read More
用苹果 M5 Max 跑大模型真的省钱吗?有人算了一笔账 AI 智能硬件 2026/05/20 7 先上结论: 使用 14寸 MacBook Pro M5 Max 高配,64GB 内存的情况下,速度比云端大模型慢、实际成本也比云端大模型贵… … Read More
iPhone、安卓现在就能跑 Gemma 4 了:Google 开源 AI Edge Gallery 应用 AI Google 2026/04/15 7 现在,通过 Google 的开源应用 Google AI Edge Gallery,已经可以直接在 iPhone 和安卓手机上运行 … Read More