RX 5700 XT 能跑 AI 吗？实测：每秒 63–72 个 token
可以。在一台配备 AMD RX 5700 XT（8 GB）和 48 GB 内存的台式机上，Gemma 4 E4B 每秒输出 63–72 个 token。回答出来的速度比你读得还快。
实际用起来怎么样
| 任务 | 在这台电脑上的用时 |
|---|---|
| 写一个普通的回答（400 个 token） | 6 秒 |
| 读取你给它的长文档（5,000 个 token） | 8 秒 |
根据这台电脑实测的速度推算：时间等于长度除以速度，实际回答开始前还要花一点准备时间。作为参考，英语读者大多每秒读约 4 个单词（Brysbaert, 2019）。中文的 token 数和字数之间没有固定比例，所以这里不做换算。一个 400 个 token 的回答，光是读一遍也要花上不少时间。
我们测到的结果
输出是 AI 打出回答的速度，单位是每秒 token 数；token 是词的片段。读取是它接收你给的内容（问题、粘贴的文字或 PDF）的速度。读取总是比输出快得多，因为 AI 可以一次读很多 token，但只能一个一个地写。
| 项目 | 运行在 | 结果 | 测量方式 |
|---|---|---|---|
| Gemma 4 E4B | 显卡 | 63–72 token/秒 输出 · 594–609 读取 | 2026年9月22日 |
| Gemma 4 E4B | 仅用 CPU | 5 token/秒 输出 · 357 读取 | 2026年9月22日 |
| Gemma 4 12B | 显卡 | 20–36 token/秒 输出 · 108–113 读取 | 2026年9月22日 |
每个数字的测量方式：了解更多测量方法
- llama.cpp 自带的速度测试（llama-bench），GreenCube 使用的就是这个引擎，AI 文件相同：输出 128 个 token，读取一段 512 个 token 的文字。
多次测量的结果用范围表示：同一台电脑每次运行的速度都会略有不同。
这意味着什么
干活的是显卡
同一台电脑、同一个 AI（Gemma 4 E4B）：仅用 CPU 每秒 5 个 token，用显卡每秒 63–72 个 token，快约 14 倍。显卡天生就是为游戏同时处理成千上万个小计算而设计的，而运行 AI 大部分也是这类计算。GreenCube 启动时会把两者都测一遍，然后用更快的那个。
整个 AI 都装进了显卡
Gemma 4 E4B 文件大小为 4.2 GB，显卡自带 8 GB 显存（VRAM）。整个模型都放得下，还给对话留了空间，所以显卡不用等电脑里更慢的内存。这是它跑得这么快的最大原因。
更大的 Gemma 4 12B
只适合短对话。更大的 Gemma 4 12B（6.4 GB）回答短问题时每秒输出 20–36 个 token，但对话达到 8,192 个 token（一段长对话）时，显卡几乎被占满，程序崩溃了。所以 GreenCube 只在 10 GB 及以上的显卡上推荐 12B。
图片
很可能可以，但我们还没在这张显卡上测过生成图片的时间。测了之后，数字会放在这里。生成图片使用约 6 GB 的专用 AI，计算量比聊天回答大得多，所以这里显卡的差距更明显。
横向对比
在用 Gemma 4 E4B 测过的 8 台电脑中，这台的输出速度排第 2 名。RTX 2080 Ti 每秒输出 65–71 个 token，速度差不多。RTX 5060 每秒输出 56 个 token（启动测试），这台快约 20%。
我们测了 4 张 8 GB 的显卡，差距很大：
能装下哪个 AI 由显存决定，跑多快由显卡新旧决定。
测试电脑
一位真实测试者自己日常使用的电脑，不是实验室机器：
- 台式机
- 显卡: AMD RX 5700 XT
- 显存（VRAM）: 8 GB
- 内存: 48 GB
- 处理器: Intel Core i7-9700, 8 线程
查看你自己的电脑
不确定你的电脑配置？30 秒就能查到：
- 按 Ctrl + Shift + Esc 打开任务管理器。
- 进入性能。
- 点击内存：右上角的数字就是你的内存。
- 点击 GPU：右上角的名称就是你的显卡，专用 GPU 内存就是你的显存。只看到没有专用内存的 Intel 或 AMD 显卡？那就说明你没有独立显卡。
然后在完整表格里找最接近的显卡。同一款显卡显存更大，能装下更大的 AI；同样显存的新显卡通常更快。
我们测过的其他电脑
- RTX 2080 Ti: 65–71 token/秒 (Gemma 4 E4B)
- RTX 5060: 56 token/秒 (Gemma 4 E4B)
- RTX 3060: 53–55 token/秒 (Gemma 4 E4B)
- RX 6600: 42–44 token/秒 (Gemma 4 E4B)
- GTX 1660 Super: 37–38 token/秒 (Gemma 4 E4B)
- GTX 1650: 约 20 token/秒 (Gemma 4 E4B)
- Intel Core Ultra 5 笔记本电脑: 14–18 token/秒 (Gemma 4 E2B)
- RX 580: 10–11 token/秒 (Gemma 4 E4B)
- Intel Iris Xe 笔记本电脑: 5–7 token/秒 (Gemma 4 E2B)
我的电脑能跑 AI 吗？ 全部 10 台电脑汇总在一张表里，以及你的电脑用起来会怎样。
常见问题
RX 5700 XT 能在本地运行 AI 吗？
可以。在一台配备 AMD RX 5700 XT（8 GB）和 48 GB 内存的台式机上，Gemma 4 E4B 每秒输出 63–72 个 token。回答出来的速度比你读得还快。
RX 5700 XT 能生成 AI 图片吗？
很可能可以，但我们还没在这张显卡上测过生成图片的时间。测了之后，数字会放在这里。
AI 在 RX 5700 XT 上更快，还是在 CPU 上更快？
显卡快得多：显卡每秒 63–72 个 token，CPU 每秒 5 个，快约 14 倍。
RX 5700 XT 能运行 Gemma 4 12B 吗？
只适合短对话。更大的 Gemma 4 12B（6.4 GB）回答短问题时每秒输出 20–36 个 token，但对话达到 8,192 个 token（一段长对话）时，显卡几乎被占满，程序崩溃了。所以 GreenCube 只在 10 GB 及以上的显卡上推荐 12B。