GreenCube 部落格

我們如何在真實電腦上測 AI 速度，以及為什麼不靠猜

作者：Hector Gras · 2026年10月14日

我們測什麼

三樣東西，因為這是你在自己電腦上用 AI 時能感受到的：

• 輸出速度：AI 打出回答的速度，單位是每秒 token 數。token 是詞的片段，而每個詞對應多少 token 因語言而異，所以我們不把這些速度換算成字數。粗略地說，每秒幾個 token 大約相當於閱讀速度，每秒幾十個 token 就明顯更快。
• 讀取速度：它接收你給的內容（問題、貼上的文字或 PDF）的速度。讀取總是比輸出快得多，因為 AI 可以一次讀很多 token，但只能一個一個地寫。
• 生成圖片的時間：一張 512×512 的圖片從點選到完成需要多久。

我們測的是 GreenCube 自帶的 AI，也就是每位使用者下載的同一批檔案：用於聊天的 Google Gemma 4 E2B（2.6 GB）、Gemma 4 E4B（4.2 GB）和 Gemma 4 12B（6.4 GB），以及用於圖片的 Z-Image Turbo。換一個 AI，或者同一個 AI 用了不同的壓縮方式，數字都會不同，所以我們只做同類比較。

我們怎麼測

共有四種方式，部落格上每個數字都會註明來自哪一種：

真實聊天是最好的證據，因為這正是你會感受到的，所以只要有真實聊天的資料，每頁的主要數字就來自真實聊天。啟動測試只是一個短回答，所以我們用它來比較顯示卡和 CPU（兩者用同樣的方式計時），只有在測試者沒有傳送長回答時才把它作為主要數字。

我們測過的每臺電腦

真實測試者自己日常使用的電腦，不是實驗室機器。我們不公開他們的名字。

為什麼數字是一個範圍

• 其他應用程式。瀏覽器、遊戲啟動器或視訊通話都在用同一塊記憶體和顯示卡。
• 第一次更慢。安裝後的第一個回答或第一張圖片，包含了載入和準備顯示卡的時間。重要的地方我們都註明了（例如"第一張載入時用了 83 秒"）。
• 短回答測出來更慢。每個回答都有一小段固定的啟動時間，對 20 個 token 的回答影響比對 400 個 token 的回答大。所以真實聊天的範圍只計入 100 個 token 及以上的回答；如果測試者只發了短回答，我們會註明。
• 我們去掉極端值。真實聊天的範圍取第 10 到第 90 百分位，所以一個異常的回答不會影響結果。

能根據引數猜出顯示卡的速度嗎？

能的話會很方便：顯示卡有好幾百款，而我們測了 10 臺電腦。常見的做法是看顯示記憶體頻寬。AI 每輸出一個 token，都要從顯示卡顯示記憶體裡把整個模型讀一遍，所以理論上速度大約等於頻寬除以模型大小，再乘以某個效率係數。很多線上計算器就是這麼算的。

所以我們用自己的資料檢驗了一下。每次隱藏一張顯示卡，用其他顯示卡算出每 GB/s 頻寬對應的速度，再根據頻寬（來自廠商規格，彙總在 TechPowerUp GPU 資料庫）預測被隱藏的那張，然後和實測結果比較。所有顯示卡用的都是同一個 AI（Gemma 4 E4B，完整裝在顯示卡上）。

典型的估算誤差為 19%。最差的是 RX 580：按顯示記憶體推算應約為每秒 36 個 token，實際只有 11。去掉它重新算，其他顯示卡的誤差仍高達 33%。較新的 AMD RX 6600 則相反，比頻寬推算的更快；它較大的片上快取（AMD 稱為 Infinity Cache）可能是原因之一。每個實測數字都是那張顯示卡的主要數字，所以它們並非全部來自同一種測試；這會帶來一些噪聲，但解釋不了三倍的偏差。

這不夠好。在新顯示卡上可能偏差 33%、在老顯示卡上偏差 239% 的估算，會讓一些人以為自己的電腦沒問題，其實很慢，或者反過來。所以檢測工具和顯示卡頁面只顯示我們實測過的顯示卡，你的顯示卡不在其中時也會明確告訴你。每測一張新顯示卡，我們都會重做這個測試；如果誤差變小，我們會先在這裡說明，再展示任何估算值。

我們還沒測過的

• 帶遊戲顯示卡的筆電。
• 在 10 GB 及以上顯示卡上的 Gemma 4 12B。
• 在 RX 5700 XT、RTX 5060、GTX 1650、RX 580 上生成圖片。
• GreenCube 自帶之外的其他 AI，以及 Linux 或 Mac（GreenCube 只支援 Windows）。

獲取資料

本頁的每一次測量都在 greencube-ai-speeds.csv 裡，一行一條：電腦、AI、執行在哪裡、輸出和讀取速度、生成圖片的時間、測量方式、GreenCube 版本和日期。如果你使用這些資料，請引用"GreenCube, AI speed measurements on real PCs, 2026"並連結到本頁。

加入你的電腦

已經在用 GreenCube？把日誌發到 support@greencube.app。我們會把你的電腦加入測試（不署名），新顯示卡還會有自己的頁面。不確定你的電腦配置？在這裡檢視。

常見問題