GreenCube
中文
获取 GreenCube

GreenCube 博客

我们如何在真实电脑上测 AI 速度,以及为什么不靠猜

这个博客上的每个速度都来自一台运行 GreenCube 的真实电脑:目前共 10 台,测于 2026年9月22日 到 2026年10月14日 之间。我们不估算没测过的显卡的速度:用已有的显卡检验估算方法时,典型误差为 19%,最差的偏差达 239%。

10实测的真实电脑,台式机和笔记本
34次测量,全部在下面的 CSV 里
239%最差的一次速度估算的误差

我们测什么

三样东西,因为这是你在自己电脑上用 AI 时能感受到的:

我们测的是 GreenCube 自带的 AI,也就是每位用户下载的同一批文件:用于聊天的 Google Gemma 4 E2B(2.6 GB)、Gemma 4 E4B(4.2 GB)和 Gemma 4 12B(6.4 GB),以及用于图片的 Z-Image Turbo。换一个 AI,或者同一个 AI 用了不同的压缩方式,数字都会不同,所以我们只做同类比较。

我们怎么测

共有四种方式,博客上每个数字都会注明来自哪一种:

真实聊天

GreenCube 中的真实聊天:从应用日志里读取每个 100 个 token 及以上回答的速度。范围去掉了最慢和最快的各十分之一。

用于: RTX 2080 Ti,RTX 3060,RX 6600,GTX 1660 Super,GTX 1650,RX 580,Intel Iris Xe 笔记本电脑.

GreenCube 启动测试

GreenCube 自带的速度测试,启动时运行,用来在显卡和 CPU 之间做选择:各写一次短回答。

用于: RTX 2080 Ti,RTX 5060,RTX 3060,RX 6600,GTX 1660 Super,RX 580,Intel Iris Xe 笔记本电脑.

llama.cpp 速度测试

llama.cpp 自带的速度测试(llama-bench),GreenCube 使用的就是这个引擎,AI 文件相同:输出 128 个 token,读取一段 512 个 token 的文字。

用于: RX 5700 XT,Intel Core Ultra 5 笔记本电脑.

图片测试

GreenCube 的图片引擎(Z-Image Turbo),512×512 像素,8 步,从点击计时到图片完成。

用于: RTX 2080 Ti,RTX 3060,RX 6600,GTX 1660 Super,Intel Core Ultra 5 笔记本电脑.

真实聊天是最好的证据,因为这正是你会感受到的,所以只要有真实聊天的数据,每页的主要数字就来自真实聊天。启动测试只是一个短回答,所以我们用它来比较显卡和 CPU(两者用同样的方式计时),只有在测试者没有发送长回答时才把它作为主要数字。

我们测过的每台电脑

真实测试者自己日常使用的电脑,不是实验室机器。我们不公开他们的名字。

电脑类型显存内存主要数字来源GreenCube日期输出(token/秒)
RTX 2080 Ti台式机11 GB128 GB真实聊天0.1.442026年10月14日65–71
RX 5700 XT台式机8 GB48 GBllama.cpp 速度测试–2026年9月22日63–72
RTX 5060台式机8 GB32 GBGreenCube 启动测试0.1.422026年10月1日56
RTX 3060台式机12 GB32 GB真实聊天0.1.42–0.1.432026年10月6日53–55
RX 6600台式机8 GB16 GB真实聊天0.1.42–0.1.442026年10月9日42–44
GTX 1660 Super台式机6 GB16 GB真实聊天0.1.422026年10月1日37–38
GTX 1650台式机4 GB16 GB真实聊天0.1.402026年9月23日约 20
Intel Core Ultra 5 笔记本电脑笔记本电脑–16 GBllama.cpp 速度测试–2026年9月28日14–18
RX 580台式机8 GB16 GB真实聊天0.1.422026年10月1日10–11
Intel Iris Xe 笔记本电脑笔记本电脑–8 GB真实聊天0.1.422026年10月4日5–7

为什么数字是一个范围

能根据参数猜出显卡的速度吗?

能的话会很方便:显卡有好几百款,而我们测了 10 台电脑。常见的做法是看显存带宽。AI 每输出一个 token,都要从显卡显存里把整个模型读一遍,所以理论上速度大约等于带宽除以模型大小,再乘以某个效率系数。很多在线计算器就是这么算的。

所以我们用自己的数据检验了一下。每次隐藏一张显卡,用其他显卡算出每 GB/s 带宽对应的速度,再根据带宽(来自厂商规格,汇总在 TechPowerUp GPU 数据库)预测被隐藏的那张,然后和实测结果比较。所有显卡用的都是同一个 AI(Gemma 4 E4B,完整装在显卡上)。

显卡显存带宽实测(token/秒)预测误差
RTX 2080 Ti616 GB/秒6879+17%
RX 5700 XT448 GB/秒6855−19%
RTX 5060448 GB/秒5657+1%
RTX 3060360 GB/秒5444−19%
RX 6600224 GB/秒4326−41%
GTX 1660 Super336 GB/秒3843+14%
RX 580256 GB/秒1136+239%

典型的估算误差为 19%。最差的是 RX 580:按显存推算应约为每秒 36 个 token,实际只有 11。去掉它重新算,其他显卡的误差仍高达 33%。较新的 AMD RX 6600 则相反,比带宽推算的更快;它较大的片上缓存(AMD 称为 Infinity Cache)可能是原因之一。每个实测数字都是那张显卡的主要数字,所以它们并非全部来自同一种测试;这会带来一些噪声,但解释不了三倍的偏差。

这不够好。在新显卡上可能偏差 33%、在老显卡上偏差 239% 的估算,会让一些人以为自己的电脑没问题,其实很慢,或者反过来。所以检测工具和显卡页面只显示我们实测过的显卡,你的显卡不在其中时也会明确告诉你。每测一张新显卡,我们都会重做这个测试;如果误差变小,我们会先在这里说明,再展示任何估算值。

我们还没测过的

获取数据

本页的每一次测量都在 greencube-ai-speeds.csv 里,一行一条:电脑、AI、运行在哪里、输出和读取速度、生成图片的时间、测量方式、GreenCube 版本和日期。如果你使用这些数据,请引用"GreenCube, AI speed measurements on real PCs, 2026"并链接到本页。

加入你的电脑

已经在用 GreenCube?把日志发到 support@greencube.app。我们会把你的电脑加入测试(不署名),新显卡还会有自己的页面。不确定你的电脑配置?在这里查看。

常见问题

GreenCube 的 AI 速度数字从哪里来?

来自 10 台运行 GreenCube 的真实电脑,分别用真实聊天、GreenCube 的启动速度测试、llama.cpp 的速度测试和图片测试测得。每个数字都注明了来源。

能根据显卡参数估算 AI 速度吗?

目前还不可靠。根据显存带宽预测,我们的估算典型误差为 19%,最高达 239%,所以我们只显示实测过的显卡。

可以下载这些数据吗?

可以:每次测量都在本页链接的 greencube-ai-speeds.csv 里。

属于你自己的 AI,就在你的电脑上

GreenCube 在你的电脑上运行:没有使用限制,没有订阅,不联网也能用。€9.99,一次付清。

获取 GreenCube