WitNote – 内嵌大模型,可完全离线的免费 AI 笔记工具[Windows/macOS]

如果你想要自己的笔记被AI处理,但又不想让AI拿走你的笔记内容,或者又不想按月支付订阅费用,那么就可以利用自己的电脑,跑一个小型的大语言模型,来处理你的笔记。

来自发现频道,开发者自荐:https://meta.appinn.net/t/topic/79099

为什么要造这个轮子? 

开发者说:现在市面上的 AI 笔记很多,但大多数都需要联网,不仅有隐私顾虑,每个月还要付昂贵的订阅费。作为一个重度笔记用户和隐私强迫症患者,我就想:为什么不能利用现在的本地模型能力,做一个完全离线、数据只存在自己硬盘上的 AI 助手呢?

WitNote - 内嵌大模型,可完全离线的免费 AI 笔记工具[Windows/macOS] 1

WitNote 是什么?

WitNote - 内嵌大模型,可完全离线的免费 AI 笔记工具[Windows/macOS] 2

这是第一次运行 WitNote 的样子,在右侧可以点击开始下载并加载模型,然后就可以三选一了:

WitNote - 内嵌大模型,可完全离线的免费 AI 笔记工具[Windows/macOS] 3

可以下载一个 QWen 2.5 0.5B 模型,虽然模型很小,但只有 290MB 呀,只要有电脑就能运行,对比。

另外两个选项是外部的 Ollama 模型,以及传统的网络大模型,比如 OpenAI、DeepSeek,都可以使用你自己的自定义 API Key。

注意在使用云端API的时候,Base URL 不要带 v1 结尾:

WitNote - 内嵌大模型,可完全离线的免费 AI 笔记工具[Windows/macOS] 4

主要功能

1️⃣ 本地大脑: 接入本地 LLM,离线进行文本润色、总结、续写。你的数据永远不出本机。
2️⃣ 极速响应: 没有网络延迟,打开即用。
3️⃣ 跨平台: 支持 Windows 和 macOS。
4️⃣ 全能编辑: 支持 Markdown,所见即所得。

直接链接 Obsidian 文件夹

青小蛙发现,你可以直接让 WitNote 链接 Obsidian 的 .md 文件夹,你的所有 .md 文件就都过来了。

然后就可以愉快的与 AI 聊天了。

WitNote - 内嵌大模型,可完全离线的免费 AI 笔记工具[Windows/macOS] 5

WitNote 内置提示词

以下,是本地 AI 工具 WitNote 的大预言模型提示词:

你是「智简笔记本 WitNote」的写作助手,运行在用户本地设备上。

【核心原则】

  • 回答时优先使用下方提供的文件信息和搜索结果
  • 如果搜索到相关文件,直接告诉用户找到了哪些文件
  • 回答简洁精炼,使用自然流畅的中文

【你的能力】

  • 帮用户在笔记库中搜索和查找文件
  • 帮助用户润色、修改、续写文章
  • 总结内容、提取要点
  • 提供写作建议和灵感

【回答风格】

  • 不要重复用户的问题
  • 直接给出有价值的回答
  • 保持友好但专业的语气

获取

最后,开发者说

 一个小插曲:关于那个昂贵的 Apple Developer Program 开发

Windows 版还好,但为了让 macOS 用户能顺滑安装(不用去设置里点“允许未知来源”),必须得有苹果官方签名。 对于我这个刚起步的独立开发者来说,99 美元/年的保护费确实是一笔巨款……说出来不怕大家笑话,这笔钱其实是我找朋友借来周转的。:face_with_peeking_eye: 但我不想让这个软件因为安装门槛被拦在门外,所以咬咬牙还是充了!只希望大家用得开心。

给开发者的碎碎念: 目前软件肯定还有很多不足,我是单人开发,设计、代码、测试全包圆了。如果大家遇到 Bug 或者有功能建议,请务必在评论区告诉我(或者提 Issue),我会一个个修!

这篇文章对你有帮助吗?

社区回复

  1. 这是我的第一个开发项目,谢谢大家测评,我长期维护

  2. Avatar for vlad vlad says:

    image

    image

    唔~体积和占用太高了,这是一个值得思考的问题

  3. 是的,不过也是为了让有些国内网络不稳定的用户可以直接使用,我纠结很久还是包了一个最小的模型

  4. 谢谢您的测评,我在后期得考虑这些优化的问题,现在只能让车跑起来牺牲了一些

  5. 可以打包两个版本,包含模型的版本,和不包含模型的版本,不包含的话就是用户自己配置api了

继续讨论: meta.appinn.net

17 more replies

Participants

Avatar for bit777 Avatar for diskman Avatar for Sullevy Avatar for witnote Avatar for icedragon Avatar for vlad Avatar for ice0mark Avatar for strikers888 Avatar for yangpengfei Avatar for hohoping Avatar for q23164367743 Avatar for kasusa Avatar for wenxi

写留言

Enable Notifications OK No thanks