NIGHTRUN – 无需操作系统，用 U 盘启动的的本地大模型客户端
NIGHTRUN 是一个能直接 UEFI 启动的 LLM 终端。无需操作系统、在电脑中插入启动 U 盘，立即进入本地大模型对话界面。@Appinn 感谢 …
标签： 本地大模型
BaseRT：专为 Apple Silicon 优化，让 Mac 本地大模型快 6.4 倍
Apple Silicon 跑本地大模型，速度还能再提升多少？BaseRT 给出了一个答案：在 M5 Pro 上，它的提示词处理速度最高达到 llama.cpp 的 …
用苹果 M5 Max 跑大模型真的省钱吗？有人算了一笔账
先上结论： 使用 14寸 MacBook Pro M5 Max 高配，64GB 内存的情况下，速度比云端大模型慢、实际成本也比云端大模型贵… …
iPhone、安卓现在就能跑 Gemma 4 了：Google 开源 AI Edge Gallery 应用
现在，通过 Google 的开源应用 Google AI Edge Gallery，已经可以直接在 iPhone 和安卓手机上运行 …