我们如何在真实电脑上测 AI 速度,以及为什么不靠猜
这个博客上的每个速度都来自一台运行 GreenCube 的真实电脑:目前共 10 台,测于 2026年9月22日 到 2026年10月14日 之间。我们不估算没测过的显卡的速度:用已有的显卡检验估算方法时,典型误差为 19%,最差的偏差达 239%。
我们测什么
三样东西,因为这是你在自己电脑上用 AI 时能感受到的:
- 输出速度:AI 打出回答的速度,单位是每秒 token 数。token 是词的片段,而每个词对应多少 token 因语言而异,所以我们不把这些速度换算成字数。粗略地说,每秒几个 token 大约相当于阅读速度,每秒几十个 token 就明显更快。
- 读取速度:它接收你给的内容(问题、粘贴的文字或 PDF)的速度。读取总是比输出快得多,因为 AI 可以一次读很多 token,但只能一个一个地写。
- 生成图片的时间:一张 512×512 的图片从点击到完成需要多久。
我们测的是 GreenCube 自带的 AI,也就是每位用户下载的同一批文件:用于聊天的 Google Gemma 4 E2B(2.6 GB)、Gemma 4 E4B(4.2 GB)和 Gemma 4 12B(6.4 GB),以及用于图片的 Z-Image Turbo。换一个 AI,或者同一个 AI 用了不同的压缩方式,数字都会不同,所以我们只做同类比较。
我们怎么测
共有四种方式,博客上每个数字都会注明来自哪一种:
真实聊天
GreenCube 中的真实聊天:从应用日志里读取每个 100 个 token 及以上回答的速度。范围去掉了最慢和最快的各十分之一。
用于: RTX 2080 Ti,RTX 3060,RX 6600,GTX 1660 Super,GTX 1650,RX 580,Intel Iris Xe 笔记本电脑.
GreenCube 启动测试
GreenCube 自带的速度测试,启动时运行,用来在显卡和 CPU 之间做选择:各写一次短回答。
用于: RTX 2080 Ti,RTX 5060,RTX 3060,RX 6600,GTX 1660 Super,RX 580,Intel Iris Xe 笔记本电脑.
llama.cpp 速度测试
llama.cpp 自带的速度测试(llama-bench),GreenCube 使用的就是这个引擎,AI 文件相同:输出 128 个 token,读取一段 512 个 token 的文字。
图片测试
GreenCube 的图片引擎(Z-Image Turbo),512×512 像素,8 步,从点击计时到图片完成。
用于: RTX 2080 Ti,RTX 3060,RX 6600,GTX 1660 Super,Intel Core Ultra 5 笔记本电脑.
真实聊天是最好的证据,因为这正是你会感受到的,所以只要有真实聊天的数据,每页的主要数字就来自真实聊天。启动测试只是一个短回答,所以我们用它来比较显卡和 CPU(两者用同样的方式计时),只有在测试者没有发送长回答时才把它作为主要数字。
我们测过的每台电脑
真实测试者自己日常使用的电脑,不是实验室机器。我们不公开他们的名字。
| 电脑 | 类型 | 显存 | 内存 | 主要数字来源 | GreenCube | 日期 | 输出(token/秒) |
|---|---|---|---|---|---|---|---|
| RTX 2080 Ti | 台式机 | 11 GB | 128 GB | 真实聊天 | 0.1.44 | 2026年10月14日 | 65–71 |
| RX 5700 XT | 台式机 | 8 GB | 48 GB | llama.cpp 速度测试 | – | 2026年9月22日 | 63–72 |
| RTX 5060 | 台式机 | 8 GB | 32 GB | GreenCube 启动测试 | 0.1.42 | 2026年10月1日 | 56 |
| RTX 3060 | 台式机 | 12 GB | 32 GB | 真实聊天 | 0.1.42–0.1.43 | 2026年10月6日 | 53–55 |
| RX 6600 | 台式机 | 8 GB | 16 GB | 真实聊天 | 0.1.42–0.1.44 | 2026年10月9日 | 42–44 |
| GTX 1660 Super | 台式机 | 6 GB | 16 GB | 真实聊天 | 0.1.42 | 2026年10月1日 | 37–38 |
| GTX 1650 | 台式机 | 4 GB | 16 GB | 真实聊天 | 0.1.40 | 2026年9月23日 | 约 20 |
| Intel Core Ultra 5 笔记本电脑 | 笔记本电脑 | – | 16 GB | llama.cpp 速度测试 | – | 2026年9月28日 | 14–18 |
| RX 580 | 台式机 | 8 GB | 16 GB | 真实聊天 | 0.1.42 | 2026年10月1日 | 10–11 |
| Intel Iris Xe 笔记本电脑 | 笔记本电脑 | – | 8 GB | 真实聊天 | 0.1.42 | 2026年10月4日 | 5–7 |
为什么数字是一个范围
- 其他应用。浏览器、游戏启动器或视频通话都在用同一块内存和显卡。
- 第一次更慢。安装后的第一个回答或第一张图片,包含了加载和准备显卡的时间。重要的地方我们都注明了(例如"第一张加载时用了 83 秒")。
- 短回答测出来更慢。每个回答都有一小段固定的启动时间,对 20 个 token 的回答影响比对 400 个 token 的回答大。所以真实聊天的范围只计入 100 个 token 及以上的回答;如果测试者只发了短回答,我们会注明。
- 我们去掉极端值。真实聊天的范围取第 10 到第 90 百分位,所以一个异常的回答不会影响结果。
能根据参数猜出显卡的速度吗?
能的话会很方便:显卡有好几百款,而我们测了 10 台电脑。常见的做法是看显存带宽。AI 每输出一个 token,都要从显卡显存里把整个模型读一遍,所以理论上速度大约等于带宽除以模型大小,再乘以某个效率系数。很多在线计算器就是这么算的。
所以我们用自己的数据检验了一下。每次隐藏一张显卡,用其他显卡算出每 GB/s 带宽对应的速度,再根据带宽(来自厂商规格,汇总在 TechPowerUp GPU 数据库)预测被隐藏的那张,然后和实测结果比较。所有显卡用的都是同一个 AI(Gemma 4 E4B,完整装在显卡上)。
| 显卡 | 显存带宽 | 实测(token/秒) | 预测 | 误差 |
|---|---|---|---|---|
| RTX 2080 Ti | 616 GB/秒 | 68 | 79 | +17% |
| RX 5700 XT | 448 GB/秒 | 68 | 55 | −19% |
| RTX 5060 | 448 GB/秒 | 56 | 57 | +1% |
| RTX 3060 | 360 GB/秒 | 54 | 44 | −19% |
| RX 6600 | 224 GB/秒 | 43 | 26 | −41% |
| GTX 1660 Super | 336 GB/秒 | 38 | 43 | +14% |
| RX 580 | 256 GB/秒 | 11 | 36 | +239% |
典型的估算误差为 19%。最差的是 RX 580:按显存推算应约为每秒 36 个 token,实际只有 11。去掉它重新算,其他显卡的误差仍高达 33%。较新的 AMD RX 6600 则相反,比带宽推算的更快;它较大的片上缓存(AMD 称为 Infinity Cache)可能是原因之一。每个实测数字都是那张显卡的主要数字,所以它们并非全部来自同一种测试;这会带来一些噪声,但解释不了三倍的偏差。
这不够好。在新显卡上可能偏差 33%、在老显卡上偏差 239% 的估算,会让一些人以为自己的电脑没问题,其实很慢,或者反过来。所以检测工具和显卡页面只显示我们实测过的显卡,你的显卡不在其中时也会明确告诉你。每测一张新显卡,我们都会重做这个测试;如果误差变小,我们会先在这里说明,再展示任何估算值。
我们还没测过的
- 带游戏显卡的笔记本电脑。
- 在 10 GB 及以上显卡上的 Gemma 4 12B。
- 在 RX 5700 XT、RTX 5060、GTX 1650、RX 580 上生成图片。
- GreenCube 自带之外的其他 AI,以及 Linux 或 Mac(GreenCube 只支持 Windows)。
获取数据
本页的每一次测量都在 greencube-ai-speeds.csv 里,一行一条:电脑、AI、运行在哪里、输出和读取速度、生成图片的时间、测量方式、GreenCube 版本和日期。如果你使用这些数据,请引用"GreenCube, AI speed measurements on real PCs, 2026"并链接到本页。
加入你的电脑
已经在用 GreenCube?把日志发到 support@greencube.app。我们会把你的电脑加入测试(不署名),新显卡还会有自己的页面。不确定你的电脑配置?在这里查看。
常见问题
GreenCube 的 AI 速度数字从哪里来?
来自 10 台运行 GreenCube 的真实电脑,分别用真实聊天、GreenCube 的启动速度测试、llama.cpp 的速度测试和图片测试测得。每个数字都注明了来源。
能根据显卡参数估算 AI 速度吗?
目前还不可靠。根据显存带宽预测,我们的估算典型误差为 19%,最高达 239%,所以我们只显示实测过的显卡。
可以下载这些数据吗?
可以:每次测量都在本页链接的 greencube-ai-speeds.csv 里。