NIGHTRUN – 无需操作系统，用 U 盘启动的的本地大模型客户端

NIGHTRUN 是一个能直接 UEFI 启动的 LLM 终端。无需操作系统、在电脑中插入启动 U 盘，立即进入本地大模型对话界面。@Appinn

感谢 @Andrue 同学的推荐：

就是完全不用操作系统，直接打开电脑的电源，就是本地大模型终端：

UEFI 固件 → NIGHTRUN → 本地模型 → AI 对话

具体来说，流程是这样的：

或者说，他本身就是操作系统，只不过整个界面就是与大模型对话的样子。

支持以下几个模型：

注意啊，它不支持 GPU，纯 CPU，就是一种：U盘插电脑，直接运行本地模型。

开发者自己说：NIGHTRUN 是一个“为了证明能做到而做”的极客项目：把本地大模型直接塞进 UEFI 固件环境，无需 Linux、无需系统，插 USB 就能启动 AI 聊天，技术炫技意义远大于实际使用价值。

青小蛙觉得，如果能支持显卡，这个项目就太酷了，随时带着一张U盘，插入电脑就可以用。

不过感觉难度有点大，没有操作系统，就没有驱动…那就没有什么意义了。

如果这种内嵌了大模型的CPU来了，是不是和开机直接进入大模型，也有点神似了呢？

关于 AI 的未来，青小蛙觉得现在的任何想法，可能都会在很短的时间内出现，并被验证。一旦哪条路通了，就会迅速的走过去。

不像以前的技术进步，要按年计时的，AI 时代，按分钟计时的。

获取

原文：https://www.appinn.com/nightrun/