最好的離線 AI 聊天機器人：用核實過的事實比較 12 款應用程式（2026 年 10 月）
簡短回答：取決於你的裝置，以及你想自己折騰多少。在電腦上，LM Studio、Jan、Ollama 和 GPT4All 都免費，下載好模型就能離線使用；模型需要你自己選。在手機上，選 PocketPal AI 和 Atomic Chat。開發者選 Ollama、llama.cpp 和 KoboldCpp。GreenCube（Windows，一次付清 9.99 歐元）會自動挑選適合你電腦的 AI，還能讀照片、生成圖片。它們都需要聯網一次，用於第一次下載。
12 款應用程式並排比較
下面每條資訊都來自應用程式自己的網站、文件或 GitHub 頁面，每行都有連結，閱讀時間為 2026 年 10 月 21 日。應用程式頁面上沒寫的，我們標為“未說明”，而不是猜測。我們沒有在測試電腦上給其他應用程式計時，所以這張表不比較速度或回答品質。
| 應用程式 | 執行平臺 | 價格 | 使用方式 | 讀你的 PDF | 看照片 |
|---|---|---|---|---|---|
| LM Studio（網站） | Windows（需要 AVX2）、Apple 晶片 Mac（macOS 14+）、Linux | 免費，工作中也可用（來源）。閉源 | 帶聊天視窗的桌面應用程式；也可作本地伺服器 | 是：PDF、DOCX、TXT（文件） | 是，需搭配視覺模型（文件） |
| Jan（網站） | Windows 10+、macOS 13.6+、Linux | 免費，開源（Apache 2.0） | 帶聊天視窗的桌面應用程式 | 是：PDF、Office 檔案、程式碼（文件） | 是，需搭配視覺模型 |
| Ollama（網站） | Windows、macOS、Linux | 在你的電腦上免費；可選雲端方案每月 20 美元起（來源）。開源（MIT） | 命令列，2025 年 7 月起 Windows 和 Mac 上還有桌面聊天視窗（來源） | 是，拖放文字或 PDF | 是，需搭配支援的模型 |
| GPT4All（網站） | Windows、macOS 12.6+、Linux（不支援 ARM 電腦） | 免費，開源（MIT） | 帶聊天視窗的桌面應用程式 | 是：用 LocalDocs 讀 PDF、TXT、MD（文件） | 未說明 |
| AnythingLLM（網站） | Windows、macOS、Linux；Android應用程式 | 桌面版免費，開源（MIT） | 桌面應用程式；或團隊伺服器（Docker） | 是：PDF、TXT、DOCX（來源） | 我們閱讀的頁面中未說明 |
| Msty（網站） | Windows 10/11、macOS 11+、Linux | 有免費方案；Aurum 每年 149 美元或一次付清 349 美元。授權條款未說明 | 帶聊天視窗的桌面應用程式 | 是，透過 Knowledge Stacks | 未說明 |
| Atomic Chat（網站） | Windows、macOS 13.6+、Linux；iPhone 和Android應用程式 | 免費，開源（Apache 2.0） | 帶聊天視窗的桌面或手機應用程式 | 是：檔案和 PDF | 未說明 |
| KoboldCpp（網站） | Windows、Linux、Apple 晶片 Mac；透過 Termux 支援Android | 免費，開源（AGPL-3.0） | 一個帶啟動器的 .exe；在瀏覽器裡聊天 | 文字搜尋（TextDB）；PDF 未說明 | 是，需搭配視覺模型及其附加檔案 |
| Open WebUI（網站） | 任何裝有 Docker 或 Python 3.11 的地方；也有桌面應用程式 | 自託管免費；自有授權條款（超過 50 個使用者需保留品牌）（授權條款） | 在瀏覽器裡聊天；通常執行在 Ollama 之類的引擎之上 | 是（文件） | 未說明 |
| llama.cpp（網站） | Windows、macOS、Linux；可為Android編譯 | 免費，開源（MIT） | 命令列；它的伺服器自帶瀏覽器聊天頁面 | 未說明 | 是，標註為實驗性 |
| PocketPal AI（網站） | iPhone/iPad（iOS 15.1+）、Android | 免費，開源（MIT）；應用程式內有可選附加功能 | 手機應用程式 | 未說明 | 支援視覺模型（應用程式說明） |
| GreenCube（網站） | Windows 10 和 11 | 9.99 歐元（9.99 美元）一次付清，不限量。閉源 | 帶聊天視窗的桌面應用程式；挑選並下載適合你電腦的 AI | 是：PDF、筆記、合同 | 是：照片和截圖；還能生成圖片 |
“離線”到底是什麼意思
離線 AI 聊天機器人在你自己的裝置上執行 AI 模型：你的訊息由你的電腦或手機處理，而不是傳送到某家公司的伺服器。所以在飛機上或關掉 Wi-Fi 時它照樣能用。但“離線”從來不等於“完全不碰網際網路”。這份清單上的每款應用程式都有三點是一樣的：
- 第一次下載需要聯網。模型是一個幾 GB 的檔案。下載一次，之後就留在你的裝置上。
- 有些功能只要用了就會聯網。檢查更新、搜尋新模型、雲端模型和網頁搜尋都需要網際網路。在大多數應用程式裡，雲端部分是可選的：你可以完全保持本地。
- “本地”不代表每款應用程式都什麼也不收集。你的聊天留在裝置上，但有些應用程式會傳送關於應用程式本身的匿名使用資料。如果你在意這一點，請看下一節。
各應用程式自己說會聯網的內容
來自各應用程式自己的隱私頁面或文件。這是它們說法的摘要；我們沒有親自檢查它們的網路流量。
| 應用程式 | 它自己的頁面怎麼說 |
|---|---|
| LM Studio | 在本地執行模型時，它表示你的訊息、聊天記錄和文件從不會被傳輸，應用程式也“不包含遙測”。檢查更新、搜尋和下載模型會聯網。雲端模型和網頁搜尋是你自己選擇的付費附加功能（隱私）。 |
| Jan | 不收集可識別個人身份的資訊；對話“儲存在本地，從不離開你的電腦”。如果你連線雲端 AI（OpenAI、Anthropic 等），你的訊息會發給那家公司（隱私）。 |
| Ollama | 本地執行時，Ollama 看不到你的提示詞；它“可能會收集有限的裝置和使用後設資料（例如應用程式版本和請求次數）”。雲端模型在 Ollama 的伺服器上執行（隱私）。 |
| GPT4All | “沒有資料離開你的機器”；與 GPT4All 社群分享聊天需要主動開啟，預設關閉（設定）。它的最新版本釋出於 2025 年 2 月 24 日（版本）。 |
| AnythingLLM | 訊息、聊天和文件都留在你的裝置上；應用程式有匿名使用遙測，可以在設定裡關閉（隱私）。 |
| Msty | 表示不收集產品分析、使用遙測或崩潰報告；只有你選擇的功能會聯網，比如下載模型、雲端模型和更新（隱私）。 |
| Atomic Chat | 對話“從不離開你的機器”。它的隱私政策（2026 年 6 月）在一處說應用程式不收集遙測，在另一處又說它的應用程式透過 PostHog 收集匿名使用統計（隱私）。 |
| KoboldCpp、llama.cpp | 它們的頁面沒有提到遙測。llama.cpp 有一個阻止網路訪問的離線開關（文件）。KoboldCpp 提醒，koboldcpp.com 是假網站，不是這個專案的。 |
| Open WebUI | “專為完全離線執行而構建”；網頁搜尋和外部 AI 服務需要聯網（來源）。 |
| PocketPal AI | App Store 標籤：“未收集資料”。應用程式沒有分析或崩潰報告工具；你主動選擇傳送的反饋和基準測試結果會被髮送出去（隱私）。 |
| GreenCube | “我們從不接收你的聊天、檔案、記憶或圖片。”你需要登入一次來啟用，它會下載 AI 和更新；如果你開啟網上搜尋，它會把搜尋詞發給搜尋引擎。每次開啟應用程式時，網上搜尋都是關閉的。 |
哪個適合你？
你用 Windows，不想自己挑模型
GreenCube 會檢視你的顯示卡和記憶體，下載合適的 AI，所以沒什麼需要選的。它能讀 PDF 和照片，做字卡和學習指南，還能生成圖片。一次付清 9.99 歐元。如果你不想花錢，也不介意從列表裡挑模型，LM Studio、Jan 和 GPT4All 是免費的桌面應用程式。
你用 Mac
LM Studio（僅 Apple 晶片，macOS 14+）、Jan、Ollama、GPT4All、Msty 和 Atomic Chat 都有 Mac 版。GreenCube 目前只支援 Windows。
你想在手機上用
PocketPal AI（iPhone 和Android）和 Atomic Chat（iPhone 和Android）直接在手機上執行模型；AnythingLLM 有Android應用程式。手機能裝下的模型比遊戲電腦小，所以回答會更簡單。
你是開發者，或者想要一臺伺服器
Ollama 和 llama.cpp 是帶本地 API 的命令列引擎；KoboldCpp 是一個帶瀏覽器聊天的 .exe。如果要給幾個人共用一個聊天頁面，Open WebUI 或 AnythingLLM 的 Docker 版本可以執行在引擎之上。
離線 AI 有多快？我們的實測
速度更多取決於你的電腦，而不是應用程式：模型執行在你的顯示卡或處理器上。我們在 10 臺真實電腦上給 GreenCube 計了時（沒有在同樣的電腦上給其他應用程式計時，所以不做比較）：
| 你的電腦 | 輸出 | 一張圖片 |
|---|---|---|
| 8 GB 筆電，無顯示卡 | 5–7 token/秒，大約是閱讀速度 | 不能 |
| 16 GB 筆電，無顯示卡 | 14–18 token/秒 | 2–2.5 分鐘 |
| 有 6 GB 及以上顯示卡的遊戲電腦 | 大多數顯示卡上 37–76 token/秒 | 8–89 秒 |
token 是詞的片段，所以每秒幾十個 token 明顯快到眼睛跟不上。你那張顯示卡的具體數字在我的電腦能跑 AI 嗎？裡，我們的測量方法說明了怎麼測的。
離線聊天機器人做不到的事
- 它不知道今天的新聞。模型只知道釋出前學到的東西，除非應用程式能搜尋網頁（那一部分就是聯網的）。
- 它比 ChatGPT 或 Gemini 小。能裝進普通電腦的模型能很好地回答日常和學習問題，但在最難的問題上，最大的雲端 AI 仍然更強。它們都會犯錯：重要的事實要核對。
- 幹活的是你的裝置。在 8 GB 筆電上，它和你閱讀的速度差不多；在遊戲電腦上快得多。它在輸出時會消耗你的電池和記憶體。
我們怎麼核實的
2026 年 10 月 21 日，我們閱讀了每款應用程式自己的網站、文件、GitHub 頁面、應用程式商店頁面和隱私政策，而不是評測或其他榜單，並附上了每條資訊的出處頁面。我們只寫這些頁面說了的內容；沒有答案的地方就寫“未說明”。GreenCube 的速度來自我們在 10 臺電腦上的測試。GreenCube 是我們做的，所以我們只寫任何人都能核實的事實，沒有給這些應用程式排名。我們每個月都會重新核實這些頁面，並更新頂部的日期。
常見問題
最好的離線 AI 聊天機器人是哪個？
沒有對每個人都最好的。在電腦上免費用、自己挑模型：LM Studio、Jan、Ollama 或 GPT4All。在手機上：PocketPal AI 或 Atomic Chat。開發者：Ollama、llama.cpp 或 KoboldCpp。GreenCube（Windows，一次付清 9.99 歐元）會自動挑選適合你電腦的 AI，還能生成圖片。
離線 AI 聊天機器人真的不聯網也能用嗎？
能，只要模型已經下載好。第一次下載（通常幾 GB）需要聯網，另外有些功能只要用了就會聯網：檢查更新、搜尋新模型、可選的雲端模型和網頁搜尋。
有免費的離線 AI 聊天機器人嗎？
有。LM Studio、Jan、Ollama、GPT4All、AnythingLLM、Atomic Chat、KoboldCpp、llama.cpp 和 PocketPal AI 都免費，Msty 有免費方案。在我們核實的 12 款中，只有 GreenCube 沒有免費版（一次付清 9.99 歐元）。
離線 AI 聊天機器人能讀我的 PDF 嗎？
很多都能：GreenCube、LM Studio、Jan、Ollama、GPT4All、AnythingLLM、Msty、Atomic Chat 和 Open WebUI 都表示支援 PDF 或文件，而且讀取是在你的電腦上完成的。
有Android版的離線 AI 聊天機器人嗎？
有：PocketPal AI（也有 iPhone 版）、Atomic Chat（Android和 iPhone）以及 AnythingLLM 的Android應用程式。手機比遊戲電腦慢，只能裝下更小的模型。