GreenCube
繁體
獲取 GreenCube

GreenCube 部落格

GTX 1660 Super 能跑 AI 嗎?實測:每秒 37–38 個 token

可以。在一臺配備 NVIDIA GTX 1660 Super(6 GB)和 16 GB 記憶體的桌上型電腦上,Gemma 4 E4B 每秒輸出 37–38 個 token。回答出來的速度比你讀得還快。

37–38Gemma 4 E4B 每秒 token 數
5.7×顯示卡比 CPU 快
89 秒生成一張圖片

實際用起來怎麼樣

任務在這臺電腦上的用時
寫一個普通的回答(400 個 token)10–11 秒
讀取你給它的長文件(5,000 個 token)14–20 秒
生成一張圖片(512×512)89 秒

根據這臺電腦實測的速度推算:時間等於長度除以速度,實際回答開始前還要花一點準備時間。作為參考,英語讀者大多每秒讀約 4 個單詞(Brysbaert, 2019)。中文的 token 數和字數之間沒有固定比例,所以這裡不做換算。一個 400 個 token 的回答,光是讀一遍也要花上不少時間。

我們測到的結果

輸出是 AI 打出回答的速度,單位是每秒 token 數;token 是詞的片段。讀取是它接收你給的內容(問題、貼上的文字或 PDF)的速度。讀取總是比輸出快得多,因為 AI 可以一次讀很多 token,但只能一個一個地寫。

專案執行在結果測量方式
Gemma 4 E4B顯示卡37–38.4 token/秒 輸出 · 252–362 讀取2026年10月1日 1
Gemma 4 E4B顯示卡46.1 token/秒 輸出2026年10月4日 2
Gemma 4 E4B僅用 CPU8.1 token/秒 輸出2026年10月4日 2
Gemma 4 E2B(第二臺電腦)顯示卡41.8–70.3 token/秒 輸出 · 945–1,101 讀取2026年10月14日 1
圖片(512×512)顯示卡89 秒2026年10月1日 3

每個數字的測量方式:瞭解更多測量方法

  1. GreenCube 0.1.42 和 0.1.42–0.1.45 中的真實聊天:從應用程式日誌裡讀取每個 100 個 token 及以上回答的速度。範圍去掉了最慢和最快的各十分之一。
  2. GreenCube 0.1.42 自帶的速度測試,啟動時執行,用來在顯示卡和 CPU 之間做選擇:各寫一次短回答。
  3. GreenCube 的圖片引擎(Z-Image Turbo),512×512 畫素,8 步,從點選計時到圖片完成。

多次測量的結果用範圍表示:同一臺電腦每次執行的速度都會略有不同。

這意味著什麼

幹活的是顯示卡

同一臺電腦、同一個 AI(Gemma 4 E4B):僅用 CPU 每秒 8.1 個 token,用顯示卡每秒 46.1 個 token,快約 5.7 倍。顯示卡天生就是為遊戲同時處理成千上萬個小計算而設計的,而執行 AI 大部分也是這類計算。GreenCube 啟動時會把兩者都測一遍,然後用更快的那個。

整個 AI 都裝進了顯示卡

Gemma 4 E4B 檔案大小為 4.2 GB,顯示卡自帶 6 GB 顯示記憶體(VRAM)。整個模型都放得下,還給對話留了空間,所以顯示卡不用等電腦裡更慢的記憶體。這是它跑得這麼快的最大原因。

同款顯示卡的第二臺電腦

另一位測試者的 GTX 1660 Super 在 GreenCube 0.1.42–0.1.45 中執行 Gemma 4 E2B:輸出每秒 41.8–70.3 個 token,讀取每秒 945–1,101 個 token。

更大的 Gemma 4 12B

不太寬裕。GreenCube 只在顯示記憶體 10 GB 及以上的顯示卡上推薦更大的 Gemma 4 12B,而這張顯示卡只有 6 GB。在 8 GB 的 AMD RX 5700 XT 上,它能回答短問題,但在長對話中崩潰了。

圖片

可以。生成一張圖片(512×512):顯示卡 89 秒。生成圖片使用約 6 GB 的專用 AI,計算量比聊天回答大得多,所以這裡顯示卡的差距更明顯。

橫向對比

在用 Gemma 4 E4B 測過的 8 臺電腦中,這臺的輸出速度排第 6 名。RX 6600 每秒輸出 42–44 個 token,快約 15%。GTX 1650 每秒輸出約 20 個 token,這臺快約 90%。

測試電腦

一位真實測試者自己日常使用的電腦,不是實驗室機器:

檢視你自己的電腦

不確定你的電腦配置?30 秒就能查到:

  1. 按 Ctrl + Shift + Esc 開啟工作管理員。
  2. 進入效能。
  3. 點選記憶體:右上角的數字就是你的記憶體。
  4. 點選 GPU:右上角的名稱就是你的顯示卡,專用 GPU 記憶體就是你的顯示記憶體。只看到沒有專用記憶體的 Intel 或 AMD 顯示卡?那就說明你沒有獨立顯示卡。

然後在完整表格裡找最接近的顯示卡。同一款顯示卡顯示記憶體更大,能裝下更大的 AI;同樣顯示記憶體的新顯示卡通常更快。

我們測過的其他電腦

我的電腦能跑 AI 嗎? 全部 10 臺電腦彙總在一張表裡,以及你的電腦用起來會怎樣。

常見問題

GTX 1660 Super 能在本地執行 AI 嗎?

可以。在一臺配備 NVIDIA GTX 1660 Super(6 GB)和 16 GB 記憶體的桌上型電腦上,Gemma 4 E4B 每秒輸出 37–38 個 token。回答出來的速度比你讀得還快。

GTX 1660 Super 能生成 AI 圖片嗎?

可以。生成一張圖片(512×512):顯示卡 89 秒。

AI 在 GTX 1660 Super 上更快,還是在 CPU 上更快?

顯示卡快得多:顯示卡每秒 46.1 個 token,CPU 每秒 8.1 個,快約 5.7 倍。

GTX 1660 Super 能執行 Gemma 4 12B 嗎?

不太寬裕。GreenCube 只在顯示記憶體 10 GB 及以上的顯示卡上推薦更大的 Gemma 4 12B,而這張顯示卡只有 6 GB。在 8 GB 的 AMD RX 5700 XT 上,它能回答短問題,但在長對話中崩潰了。

屬於你自己的 AI,就在你的電腦上

GreenCube 在你的電腦上執行:沒有使用限制,沒有訂閱,不聯網也能用。€9.99,一次付清。

獲取 GreenCube