GreenCube
中文
获取 GreenCube

GreenCube 博客

RX 580 能跑 AI 吗?实测:每秒 10–11 个 token

可以。在一台配备 AMD RX 580(8 GB)和 16 GB 内存的台式机上,Gemma 4 E4B 每秒输出 10–11 个 token。回答出来的速度比你读得还快。

10–11Gemma 4 E4B 每秒 token 数
2.7×显卡比 CPU 快

实际用起来怎么样

任务在这台电脑上的用时
写一个普通的回答(400 个 token)37–38 秒
读取你给它的长文档(5,000 个 token)30–35 秒

根据这台电脑实测的速度推算:时间等于长度除以速度,实际回答开始前还要花一点准备时间。作为参考,英语读者大多每秒读约 4 个单词(Brysbaert, 2019)。中文的 token 数和字数之间没有固定比例,所以这里不做换算。一个 400 个 token 的回答,光是读一遍也要花上不少时间。

我们测到的结果

输出是 AI 打出回答的速度,单位是每秒 token 数;token 是词的片段。读取是它接收你给的内容(问题、粘贴的文字或 PDF)的速度。读取总是比输出快得多,因为 AI 可以一次读很多 token,但只能一个一个地写。

项目运行在结果测量方式
Gemma 4 E4B*显卡10.5–10.7 token/秒 输出 · 144–169 读取2026年10月1日 1
Gemma 4 E4B显卡10.1 token/秒 输出2026年10月1日 2
Gemma 4 E4B仅用 CPU3.8 token/秒 输出2026年10月1日 2

每个数字的测量方式:了解更多测量方法

  1. GreenCube 0.1.42 中的真实聊天:从应用日志里读取每个 100 个 token 及以上回答的速度。范围去掉了最慢和最快的各十分之一。
  2. GreenCube 0.1.42 自带的速度测试,启动时运行,用来在显卡和 CPU 之间做选择:各写一次短回答。

多次测量的结果用范围表示:同一台电脑每次运行的速度都会略有不同。* 这位测试者主要问短问题,所以 100 个 token 以下的回答也计算在内。短回答测出来会稍慢一些。

这意味着什么

干活的是显卡

同一台电脑、同一个 AI(Gemma 4 E4B):仅用 CPU 每秒 3.8 个 token,用显卡每秒 10.1 个 token,快约 2.7 倍。显卡天生就是为游戏同时处理成千上万个小计算而设计的,而运行 AI 大部分也是这类计算。GreenCube 启动时会把两者都测一遍,然后用更快的那个。

装得下,但这张显卡不擅长 AI

Gemma 4 E4B(4.2 GB)可以完整装进显卡的 8 GB,但每秒只输出 10–11 个 token。老显卡做这类计算要慢得多,显存再多也改变不了。作为对比,我们测过的其他 8 GB 显卡用同一个 AI 的速度是:63–72 (RX 5700 XT),56 (RTX 5060),42–44 (RX 6600)。它输出的速度仍然比你读得快,所以聊天和学习都能用,只是感觉比新显卡慢一些。

更大的 Gemma 4 12B

不太宽裕。GreenCube 只在显存 10 GB 及以上的显卡上推荐更大的 Gemma 4 12B,而这张显卡只有 8 GB。在 8 GB 的 AMD RX 5700 XT 上,它能回答短问题,但在长对话中崩溃了。

图片

很可能可以,但我们还没在这张显卡上测过生成图片的时间。测了之后,数字会放在这里。生成图片使用约 6 GB 的专用 AI,计算量比聊天回答大得多,所以这里显卡的差距更明显。

横向对比

在用 Gemma 4 E4B 测过的 8 台电脑中,这台的输出速度排第 8 名。GTX 1650 每秒输出约 20 个 token,快约 90%。

我们测了 4 张 8 GB 的显卡,差距很大:

能装下哪个 AI 由显存决定,跑多快由显卡新旧决定。

测试电脑

一位真实测试者自己日常使用的电脑,不是实验室机器:

查看你自己的电脑

不确定你的电脑配置?30 秒就能查到:

  1. 按 Ctrl + Shift + Esc 打开任务管理器。
  2. 进入性能。
  3. 点击内存:右上角的数字就是你的内存。
  4. 点击 GPU:右上角的名称就是你的显卡,专用 GPU 内存就是你的显存。只看到没有专用内存的 Intel 或 AMD 显卡?那就说明你没有独立显卡。

然后在完整表格里找最接近的显卡。同一款显卡显存更大,能装下更大的 AI;同样显存的新显卡通常更快。

我们测过的其他电脑

我的电脑能跑 AI 吗? 全部 10 台电脑汇总在一张表里,以及你的电脑用起来会怎样。

常见问题

RX 580 能在本地运行 AI 吗?

可以。在一台配备 AMD RX 580(8 GB)和 16 GB 内存的台式机上,Gemma 4 E4B 每秒输出 10–11 个 token。回答出来的速度比你读得还快。

RX 580 能生成 AI 图片吗?

很可能可以,但我们还没在这张显卡上测过生成图片的时间。测了之后,数字会放在这里。

AI 在 RX 580 上更快,还是在 CPU 上更快?

显卡快得多:显卡每秒 10.1 个 token,CPU 每秒 3.8 个,快约 2.7 倍。

RX 580 能运行 Gemma 4 12B 吗?

不太宽裕。GreenCube 只在显存 10 GB 及以上的显卡上推荐更大的 Gemma 4 12B,而这张显卡只有 8 GB。在 8 GB 的 AMD RX 5700 XT 上,它能回答短问题,但在长对话中崩溃了。

属于你自己的 AI,就在你的电脑上

GreenCube 在你的电脑上运行:没有使用限制,没有订阅,不联网也能用。€9.99,一次付清。

获取 GreenCube