RTX 2080 Ti 能跑 AI 吗？实测：每秒 65–71 个 token
可以。在一台配备 NVIDIA RTX 2080 Ti（11 GB）和 128 GB 内存的台式机上，Gemma 4 E4B 每秒输出 65–71 个 token。回答出来的速度比你读得还快。
实际用起来怎么样
| 任务 | 在这台电脑上的用时 |
|---|---|
| 写一个普通的回答（400 个 token） | 6 秒 |
| 读取你给它的长文档（5,000 个 token） | 3–4 秒 |
| 生成一张图片（512×512） | 8–9 秒（首次：83 秒） |
根据这台电脑实测的速度推算：时间等于长度除以速度，实际回答开始前还要花一点准备时间。作为参考，英语读者大多每秒读约 4 个单词（Brysbaert, 2019）。中文的 token 数和字数之间没有固定比例，所以这里不做换算。一个 400 个 token 的回答，光是读一遍也要花上不少时间。
我们测到的结果
输出是 AI 打出回答的速度，单位是每秒 token 数；token 是词的片段。读取是它接收你给的内容（问题、粘贴的文字或 PDF）的速度。读取总是比输出快得多，因为 AI 可以一次读很多 token，但只能一个一个地写。
| 项目 | 运行在 | 结果 | 测量方式 |
|---|---|---|---|
| Gemma 4 E4B | 显卡 | 65–71 token/秒 输出 · 1,380–1,800 读取 | 2026年10月14日 1 |
| Gemma 4 E4B | 显卡 | 75.6 token/秒 输出 | 2026年10月14日 2 |
| Gemma 4 E4B | 仅用 CPU | 13.5 token/秒 输出 | 2026年10月14日 2 |
| 图片（512×512） | 显卡 | 8–9 秒 (第一张加载时用了 83 秒) | 2026年10月12日 3 |
每个数字的测量方式：了解更多测量方法
- GreenCube 0.1.44 中的真实聊天：从应用日志里读取每个 100 个 token 及以上回答的速度。范围去掉了最慢和最快的各十分之一。
- GreenCube 0.1.44 自带的速度测试，启动时运行，用来在显卡和 CPU 之间做选择：各写一次短回答。
- GreenCube 的图片引擎（Z-Image Turbo），512×512 像素，8 步，从点击计时到图片完成。
多次测量的结果用范围表示：同一台电脑每次运行的速度都会略有不同。
这意味着什么
干活的是显卡
同一台电脑、同一个 AI（Gemma 4 E4B）：仅用 CPU 每秒 13.5 个 token，用显卡每秒 75.6 个 token，快约 5.6 倍。显卡天生就是为游戏同时处理成千上万个小计算而设计的，而运行 AI 大部分也是这类计算。GreenCube 启动时会把两者都测一遍，然后用更快的那个。
整个 AI 都装进了显卡
Gemma 4 E4B 文件大小为 4.2 GB，显卡自带 11 GB 显存（VRAM）。整个模型都放得下，还给对话留了空间，所以显卡不用等电脑里更慢的内存。这是它跑得这么快的最大原因。
更大的 Gemma 4 12B
应该可以。Gemma 4 12B 文件大小为 6.4 GB，这张显卡有 11 GB，长对话也留有余地。我们还没在这张显卡上测过。
图片
可以。生成一张图片（512×512）：显卡 8–9 秒 (第一张加载时用了 83 秒)。生成图片使用约 6 GB 的专用 AI，计算量比聊天回答大得多，所以这里显卡的差距更明显。
横向对比
在用 Gemma 4 E4B 测过的 8 台电脑中，这台的输出速度排第 1 名。RX 5700 XT 每秒输出 63–72 个 token，这台速度差不多。
测试电脑
一位真实测试者自己日常使用的电脑，不是实验室机器：
- 台式机
- 显卡: NVIDIA RTX 2080 Ti
- 显存（VRAM）: 11 GB
- 内存: 128 GB
- 处理器: 32 线程
查看你自己的电脑
不确定你的电脑配置？30 秒就能查到：
- 按 Ctrl + Shift + Esc 打开任务管理器。
- 进入性能。
- 点击内存：右上角的数字就是你的内存。
- 点击 GPU：右上角的名称就是你的显卡，专用 GPU 内存就是你的显存。只看到没有专用内存的 Intel 或 AMD 显卡？那就说明你没有独立显卡。
然后在完整表格里找最接近的显卡。同一款显卡显存更大，能装下更大的 AI；同样显存的新显卡通常更快。
我们测过的其他电脑
- RX 5700 XT: 63–72 token/秒 (Gemma 4 E4B)
- RTX 5060: 56 token/秒 (Gemma 4 E4B)
- RTX 3060: 53–55 token/秒 (Gemma 4 E4B)
- RX 6600: 42–44 token/秒 (Gemma 4 E4B)
- GTX 1660 Super: 37–38 token/秒 (Gemma 4 E4B)
- GTX 1650: 约 20 token/秒 (Gemma 4 E4B)
- Intel Core Ultra 5 笔记本电脑: 14–18 token/秒 (Gemma 4 E2B)
- RX 580: 10–11 token/秒 (Gemma 4 E4B)
- Intel Iris Xe 笔记本电脑: 5–7 token/秒 (Gemma 4 E2B)
我的电脑能跑 AI 吗？ 全部 10 台电脑汇总在一张表里，以及你的电脑用起来会怎样。
常见问题
RTX 2080 Ti 能在本地运行 AI 吗？
可以。在一台配备 NVIDIA RTX 2080 Ti（11 GB）和 128 GB 内存的台式机上，Gemma 4 E4B 每秒输出 65–71 个 token。回答出来的速度比你读得还快。
RTX 2080 Ti 能生成 AI 图片吗？
可以。生成一张图片（512×512）：显卡 8–9 秒 (第一张加载时用了 83 秒)。
AI 在 RTX 2080 Ti 上更快，还是在 CPU 上更快？
显卡快得多：显卡每秒 75.6 个 token，CPU 每秒 13.5 个，快约 5.6 倍。
RTX 2080 Ti 能运行 Gemma 4 12B 吗？
应该可以。Gemma 4 12B 文件大小为 6.4 GB，这张显卡有 11 GB，长对话也留有余地。我们还没在这张显卡上测过。