在 Windows 10 和 11 上离线用 AI:你的电脑需要什么,10 台电脑实测
简短回答:任何装着 Windows 10 或 11、有 8 GB 内存的电脑,都能不联网运行本地 AI 聊天机器人;有 16 GB 或一块游戏显卡就很宽裕。应用和模型只需下载一次,之后关掉 Wi-Fi 也能用。我们在 10 台真实 Windows 电脑上测过:从 8 GB 笔记本电脑上大约阅读速度,到游戏电脑上快得多。
你的 Windows 电脑需要什么
| 最低 | 宽裕 | |
|---|---|---|
| Windows | Windows 10(64 位) | Windows 11 |
| 内存 | 8 GB,关掉其他应用 | 16 GB 或以上 |
| 显卡 | 不需要 | 近几年任何 6 GB 以上的显卡 |
| 硬盘空间 | 小模型约 3 GB | 大一点的模型加图片约 11 GB |
| 网络 | 一次,用来下载应用和模型 | |
不知道电脑里有什么?按 Ctrl + Shift + Esc,打开性能,看内存和 GPU。或者在我们的检测工具里输入你的显卡:它会告诉你在一台和你差不多的真实电脑上能跑什么、跑多快。
在真实 Windows 电脑上有多快
所有数字都来自 2026 年 9 月和 10 月在真实 Windows 电脑上运行的 GreenCube,大多是真实聊天。token 是词的一小块。
| 你的 Windows 电脑 | 输出速度 | 一张图片(512×512) |
|---|---|---|
| 8 GB 笔记本电脑,没有显卡 | 5–7 token/秒,大约阅读速度 | 做不了(需要约 7 GB 空闲) |
| 16 GB 笔记本电脑,没有显卡 | 14–18 token/秒 | 2–2.5 分钟 |
| 显卡 6 GB 以上的游戏电脑 | 大多数显卡上 37–76 token/秒 | 8–89 秒 |
例外:一块老的 AMD RX 580 每秒写约 11 个 token,仍比你读得快。每块显卡都有自己的页面,见我的电脑能跑 AI 吗?
大部分活是显卡干的
在同一台 Windows 电脑上,同一个 AI 用处理器每秒写 5 个 token,用 RX 5700 XT 每秒写 72 个。运行 AI 主要就是显卡最擅长的那类计算,所以任何一块较新的游戏显卡都会带来巨大差别。能装下多大的 AI,取决于显卡的显存(VRAM),不是你的内存:为什么模型必须放得进显卡。
没有显卡?学习和聊天够用
一台只有 Intel 核显的普通 16 GB 笔记本电脑,约 20 秒就写完了一个完整的学习回答:一段讲解加三道考题。8 GB 笔记本电脑也能用,慢一些,前提是其他应用留出空闲内存:我们的 8 GB 测试。
能在 Windows 上离线运行 AI 的应用
根据各应用自己的网站,2026 年 10 月 21 日核对。我们没有在自己的电脑上给其他应用计时,所以这张表不比较速度。
| 应用 | Windows | 价格 | 会帮你选模型吗? | 能读你的 PDF |
|---|---|---|---|---|
| GreenCube | Windows 10 和 11 | 一次付清 9.99 欧元 | 会,按你的显卡和内存 | 能 |
| LM Studio | 支持 AVX2 的处理器 | 免费 | 不会,你从列表里选 | 能 |
| Jan | Windows 10 或更新 | 免费,开源 | 不会 | 能 |
| Ollama | Windows;2025 年 7 月起有聊天窗口 | 在你的电脑上免费 | 不会 | 能 |
| GPT4All | Windows(不支持 ARM 电脑) | 免费,开源 | 不会 | 能,用 LocalDocs |
| AnythingLLM | Windows | 桌面版免费 | 不会 | 能 |
| Msty | Windows 10 和 11 | 有免费版 | 不会 | 能 |
| KoboldCpp | 一个 .exe,在浏览器里聊天 | 免费,开源 | 不会 | 只有文本 |
想看每个应用会往网上发什么,以及 Mac 和手机应用?见我们对 12 款离线 AI 聊天机器人的对比。
Windows 10 还是 Windows 11?
AI 在两者上跑得一样:关键是内存和显卡,不是 Windows 版本。有一点要知道:微软已在 2025 年 10 月 14 日停止支持 Windows 10,所以除非你加入扩展安全更新,Windows 10 电脑不会再收到安全更新。离线 AI 无论如何都把聊天留在你的电脑上,但保持 Windows 更新仍然是好事。
怎么确认什么都没发出去
- 打开飞行模式(或拔掉网线),在首次下载之后聊几句。如果它能回答,AI 就在你的电脑上运行。
- 看网络:按 Windows + R,输入 resmon,打开网络标签页。它会列出你聊天时每个在发送或接收数据的程序。
- 读一读应用自己说会发送什么。GreenCube 是这样:激活时登录一次,它会下载 AI 和自身更新,联网搜索(每次启动都是关闭的)会把搜索词发给搜索引擎。除此之外什么都没有:“我们从不会收到你的聊天、文件、记忆或图片。”
Windows 上的离线 AI 做不到什么
- 今天的新闻。模型只知道训练时学到的东西。要了解最新情况得用网页搜索,而那一部分要经过网络。
- 在所有方面胜过最大的云端 AI。能装进电脑的模型在学习、写作和日常问题上很好用,但最难的问题上最大的云端模型仍然更强。
- 在任何电脑上都很快。干活的是你的电脑:8 GB 笔记本电脑大约是阅读速度,游戏电脑快得多。
用来学习?见离线 AI 能为学生做什么,有 PDF、学习笔记和抽认卡的用时。
常见问题
Windows 11 上能离线用 AI 吗?
能。GreenCube、LM Studio、Jan、Ollama 和 GPT4All 这类应用会在你自己的电脑上运行 AI 模型。下载应用和模型时需要联网一次,之后关掉 Wi-Fi 也能聊天。
离线 AI 能在 Windows 10 上用吗?
能。GreenCube、Jan 和 Msty 都写明支持 Windows 10。微软已在 2025 年 10 月 14 日停止支持 Windows 10:AI 照样能跑,但除非你加入扩展安全更新,否则电脑不会再收到安全更新。
在 Windows 电脑上跑本地 AI 需要多少内存?
用小模型 8 GB 就够:我们的 8 GB 笔记本电脑在真实聊天中每秒写 5 到 7 个 token,大约是阅读速度。16 GB 比较宽裕:我们没有显卡的 16 GB 笔记本电脑每秒写 14 到 18 个。
在 Windows 上跑本地 AI 聊天机器人需要显卡吗?
不需要,但帮助很大。在显存 6 GB 以上的游戏电脑上,我们在大多数显卡上测到每秒 37 到 76 个 token,是同一台电脑只用处理器时的好几倍。生成图片需要显卡或 16 GB 内存。
有免费的 Windows 离线 AI 吗?
有:LM Studio、Jan、Ollama、GPT4All 和 AnythingLLM 都免费,模型由你自己挑选和下载。GreenCube 一次付清 9.99 欧元,会自动挑选适合你电脑的模型。