最好的离线 AI 聊天机器人：用核实过的事实比较 12 款应用（2026 年 10 月）
简短回答：取决于你的设备，以及你想自己折腾多少。在电脑上，LM Studio、Jan、Ollama 和 GPT4All 都免费，下载好模型就能离线使用；模型需要你自己选。在手机上，选 PocketPal AI 和 Atomic Chat。开发者选 Ollama、llama.cpp 和 KoboldCpp。GreenCube（Windows，一次付清 9.99 欧元）会自动挑选适合你电脑的 AI，还能读照片、生成图片。它们都需要联网一次，用于第一次下载。
12 款应用并排比较
下面每条信息都来自应用自己的网站、文档或 GitHub 页面，每行都有链接，阅读时间为 2026 年 10 月 21 日。应用页面上没写的，我们标为“未说明”，而不是猜测。我们没有在测试电脑上给其他应用计时，所以这张表不比较速度或回答质量。
| 应用 | 运行平台 | 价格 | 使用方式 | 读你的 PDF | 看照片 |
|---|---|---|---|---|---|
| LM Studio（网站） | Windows（需要 AVX2）、Apple 芯片 Mac（macOS 14+）、Linux | 免费，工作中也可用（来源）。闭源 | 带聊天窗口的桌面应用；也可作本地服务器 | 是：PDF、DOCX、TXT（文档） | 是，需搭配视觉模型（文档） |
| Jan（网站） | Windows 10+、macOS 13.6+、Linux | 免费，开源（Apache 2.0） | 带聊天窗口的桌面应用 | 是：PDF、Office 文件、代码（文档） | 是，需搭配视觉模型 |
| Ollama（网站） | Windows、macOS、Linux | 在你的电脑上免费；可选云端套餐每月 20 美元起（来源）。开源（MIT） | 命令行，2025 年 7 月起 Windows 和 Mac 上还有桌面聊天窗口（来源） | 是，拖放文字或 PDF | 是，需搭配支持的模型 |
| GPT4All（网站） | Windows、macOS 12.6+、Linux（不支持 ARM 电脑） | 免费，开源（MIT） | 带聊天窗口的桌面应用 | 是：用 LocalDocs 读 PDF、TXT、MD（文档） | 未说明 |
| AnythingLLM（网站） | Windows、macOS、Linux；安卓应用 | 桌面版免费，开源（MIT） | 桌面应用；或团队服务器（Docker） | 是：PDF、TXT、DOCX（来源） | 我们阅读的页面中未说明 |
| Msty（网站） | Windows 10/11、macOS 11+、Linux | 有免费套餐；Aurum 每年 149 美元或一次付清 349 美元。许可证未说明 | 带聊天窗口的桌面应用 | 是，通过 Knowledge Stacks | 未说明 |
| Atomic Chat（网站） | Windows、macOS 13.6+、Linux；iPhone 和安卓应用 | 免费，开源（Apache 2.0） | 带聊天窗口的桌面或手机应用 | 是：文件和 PDF | 未说明 |
| KoboldCpp（网站） | Windows、Linux、Apple 芯片 Mac；通过 Termux 支持安卓 | 免费，开源（AGPL-3.0） | 一个带启动器的 .exe；在浏览器里聊天 | 文本搜索（TextDB）；PDF 未说明 | 是，需搭配视觉模型及其附加文件 |
| Open WebUI（网站） | 任何装有 Docker 或 Python 3.11 的地方；也有桌面应用 | 自托管免费；自有许可证（超过 50 个用户需保留品牌）（许可证） | 在浏览器里聊天；通常运行在 Ollama 之类的引擎之上 | 是（文档） | 未说明 |
| llama.cpp（网站） | Windows、macOS、Linux；可为安卓编译 | 免费，开源（MIT） | 命令行；它的服务器自带浏览器聊天页面 | 未说明 | 是，标注为实验性 |
| PocketPal AI（网站） | iPhone/iPad（iOS 15.1+）、安卓 | 免费，开源（MIT）；应用内有可选附加功能 | 手机应用 | 未说明 | 支持视觉模型（应用说明） |
| GreenCube（网站） | Windows 10 和 11 | 9.99 欧元（9.99 美元）一次付清，不限量。闭源 | 带聊天窗口的桌面应用；挑选并下载适合你电脑的 AI | 是：PDF、笔记、合同 | 是：照片和截图；还能生成图片 |
“离线”到底是什么意思
离线 AI 聊天机器人在你自己的设备上运行 AI 模型：你的消息由你的电脑或手机处理，而不是发送到某家公司的服务器。所以在飞机上或关掉 Wi-Fi 时它照样能用。但“离线”从来不等于“完全不碰互联网”。这份清单上的每款应用都有三点是一样的：
- 第一次下载需要联网。模型是一个几 GB 的文件。下载一次，之后就留在你的设备上。
- 有些功能只要用了就会联网。检查更新、搜索新模型、云端模型和网页搜索都需要互联网。在大多数应用里，云端部分是可选的：你可以完全保持本地。
- “本地”不代表每款应用都什么也不收集。你的聊天留在设备上，但有些应用会发送关于应用本身的匿名使用数据。如果你在意这一点，请看下一节。
各应用自己说会联网的内容
来自各应用自己的隐私页面或文档。这是它们说法的摘要；我们没有亲自检查它们的网络流量。
| 应用 | 它自己的页面怎么说 |
|---|---|
| LM Studio | 在本地运行模型时，它表示你的消息、聊天记录和文档从不会被传输，应用也“不包含遥测”。检查更新、搜索和下载模型会联网。云端模型和网页搜索是你自己选择的付费附加功能（隐私）。 |
| Jan | 不收集可识别个人身份的信息；对话“存储在本地，从不离开你的电脑”。如果你连接云端 AI（OpenAI、Anthropic 等），你的消息会发给那家公司（隐私）。 |
| Ollama | 本地运行时，Ollama 看不到你的提示词；它“可能会收集有限的设备和使用元数据（例如应用版本和请求次数）”。云端模型在 Ollama 的服务器上运行（隐私）。 |
| GPT4All | “没有数据离开你的机器”；与 GPT4All 社区分享聊天需要主动开启，默认关闭（设置）。它的最新版本发布于 2025 年 2 月 24 日（版本）。 |
| AnythingLLM | 消息、聊天和文档都留在你的设备上；应用有匿名使用遥测，可以在设置里关闭（隐私）。 |
| Msty | 表示不收集产品分析、使用遥测或崩溃报告；只有你选择的功能会联网，比如下载模型、云端模型和更新（隐私）。 |
| Atomic Chat | 对话“从不离开你的机器”。它的隐私政策（2026 年 6 月）在一处说应用不收集遥测，在另一处又说它的应用通过 PostHog 收集匿名使用统计（隐私）。 |
| KoboldCpp、llama.cpp | 它们的页面没有提到遥测。llama.cpp 有一个阻止网络访问的离线开关（文档）。KoboldCpp 提醒，koboldcpp.com 是假网站，不是这个项目的。 |
| Open WebUI | “专为完全离线运行而构建”；网页搜索和外部 AI 服务需要联网（来源）。 |
| PocketPal AI | App Store 标签：“未收集数据”。应用没有分析或崩溃报告工具；你主动选择发送的反馈和基准测试结果会被发送出去（隐私）。 |
| GreenCube | “我们从不接收你的聊天、文件、记忆或图片。”你需要登录一次来激活，它会下载 AI 和更新；如果你打开网上搜索，它会把搜索词发给搜索引擎。每次打开应用时，网上搜索都是关闭的。 |
哪个适合你？
你用 Windows，不想自己挑模型
GreenCube 会查看你的显卡和内存，下载合适的 AI，所以没什么需要选的。它能读 PDF 和照片，做抽认卡和学习指南，还能生成图片。一次付清 9.99 欧元。如果你不想花钱，也不介意从列表里挑模型，LM Studio、Jan 和 GPT4All 是免费的桌面应用。
你用 Mac
LM Studio（仅 Apple 芯片，macOS 14+）、Jan、Ollama、GPT4All、Msty 和 Atomic Chat 都有 Mac 版。GreenCube 目前只支持 Windows。
你想在手机上用
PocketPal AI（iPhone 和安卓）和 Atomic Chat（iPhone 和安卓）直接在手机上运行模型；AnythingLLM 有安卓应用。手机能装下的模型比游戏电脑小，所以回答会更简单。
你是开发者，或者想要一台服务器
Ollama 和 llama.cpp 是带本地 API 的命令行引擎；KoboldCpp 是一个带浏览器聊天的 .exe。如果要给几个人共用一个聊天页面，Open WebUI 或 AnythingLLM 的 Docker 版本可以运行在引擎之上。
离线 AI 有多快？我们的实测
速度更多取决于你的电脑，而不是应用：模型运行在你的显卡或处理器上。我们在 10 台真实电脑上给 GreenCube 计了时（没有在同样的电脑上给其他应用计时，所以不做比较）：
| 你的电脑 | 输出 | 一张图片 |
|---|---|---|
| 8 GB 笔记本电脑，无显卡 | 5–7 token/秒，大约是阅读速度 | 不能 |
| 16 GB 笔记本电脑，无显卡 | 14–18 token/秒 | 2–2.5 分钟 |
| 有 6 GB 及以上显卡的游戏电脑 | 大多数显卡上 37–76 token/秒 | 8–89 秒 |
token 是词的片段，所以每秒几十个 token 明显快到眼睛跟不上。你那张显卡的具体数字在我的电脑能跑 AI 吗？里，我们的测量方法说明了怎么测的。
离线聊天机器人做不到的事
- 它不知道今天的新闻。模型只知道发布前学到的东西，除非应用能搜索网页（那一部分就是联网的）。
- 它比 ChatGPT 或 Gemini 小。能装进普通电脑的模型能很好地回答日常和学习问题，但在最难的问题上，最大的云端 AI 仍然更强。它们都会犯错：重要的事实要核对。
- 干活的是你的设备。在 8 GB 笔记本电脑上，它和你阅读的速度差不多；在游戏电脑上快得多。它在输出时会消耗你的电池和内存。
我们怎么核实的
2026 年 10 月 21 日，我们阅读了每款应用自己的网站、文档、GitHub 页面、应用商店页面和隐私政策，而不是评测或其他榜单，并附上了每条信息的出处页面。我们只写这些页面说了的内容；没有答案的地方就写“未说明”。GreenCube 的速度来自我们在 10 台电脑上的测试。GreenCube 是我们做的，所以我们只写任何人都能核实的事实，没有给这些应用排名。我们每个月都会重新核实这些页面，并更新顶部的日期。
常见问题
最好的离线 AI 聊天机器人是哪个？
没有对每个人都最好的。在电脑上免费用、自己挑模型：LM Studio、Jan、Ollama 或 GPT4All。在手机上：PocketPal AI 或 Atomic Chat。开发者：Ollama、llama.cpp 或 KoboldCpp。GreenCube（Windows，一次付清 9.99 欧元）会自动挑选适合你电脑的 AI，还能生成图片。
离线 AI 聊天机器人真的不联网也能用吗？
能，只要模型已经下载好。第一次下载（通常几 GB）需要联网，另外有些功能只要用了就会联网：检查更新、搜索新模型、可选的云端模型和网页搜索。
有免费的离线 AI 聊天机器人吗？
有。LM Studio、Jan、Ollama、GPT4All、AnythingLLM、Atomic Chat、KoboldCpp、llama.cpp 和 PocketPal AI 都免费，Msty 有免费套餐。在我们核实的 12 款中，只有 GreenCube 没有免费版（一次付清 9.99 欧元）。
离线 AI 聊天机器人能读我的 PDF 吗？
很多都能：GreenCube、LM Studio、Jan、Ollama、GPT4All、AnythingLLM、Msty、Atomic Chat 和 Open WebUI 都表示支持 PDF 或文档，而且读取是在你的电脑上完成的。
有安卓版的离线 AI 聊天机器人吗？
有：PocketPal AI（也有 iPhone 版）、Atomic Chat（安卓和 iPhone）以及 AnythingLLM 的安卓应用。手机比游戏电脑慢，只能装下更小的模型。