RTX 2080 Ti 能跑 AI 嗎？實測：每秒 65–71 個 token
可以。在一臺配備 NVIDIA RTX 2080 Ti（11 GB）和 128 GB 記憶體的桌上型電腦上，Gemma 4 E4B 每秒輸出 65–71 個 token。回答出來的速度比你讀得還快。
實際用起來怎麼樣
| 任務 | 在這臺電腦上的用時 |
|---|---|
| 寫一個普通的回答（400 個 token） | 6 秒 |
| 讀取你給它的長文件（5,000 個 token） | 3–4 秒 |
| 生成一張圖片（512×512） | 8–9 秒（首次：83 秒） |
根據這臺電腦實測的速度推算：時間等於長度除以速度，實際回答開始前還要花一點準備時間。作為參考，英語讀者大多每秒讀約 4 個單詞（Brysbaert, 2019）。中文的 token 數和字數之間沒有固定比例，所以這裡不做換算。一個 400 個 token 的回答，光是讀一遍也要花上不少時間。
我們測到的結果
輸出是 AI 打出回答的速度，單位是每秒 token 數；token 是詞的片段。讀取是它接收你給的內容（問題、貼上的文字或 PDF）的速度。讀取總是比輸出快得多，因為 AI 可以一次讀很多 token，但只能一個一個地寫。
| 專案 | 執行在 | 結果 | 測量方式 |
|---|---|---|---|
| Gemma 4 E4B | 顯示卡 | 65–71 token/秒 輸出 · 1,380–1,800 讀取 | 2026年10月14日 1 |
| Gemma 4 E4B | 顯示卡 | 75.6 token/秒 輸出 | 2026年10月14日 2 |
| Gemma 4 E4B | 僅用 CPU | 13.5 token/秒 輸出 | 2026年10月14日 2 |
| 圖片（512×512） | 顯示卡 | 8–9 秒 (第一張載入時用了 83 秒) | 2026年10月12日 3 |
每個數字的測量方式：瞭解更多測量方法
- GreenCube 0.1.44 中的真實聊天：從應用程式日誌裡讀取每個 100 個 token 及以上回答的速度。範圍去掉了最慢和最快的各十分之一。
- GreenCube 0.1.44 自帶的速度測試，啟動時執行，用來在顯示卡和 CPU 之間做選擇：各寫一次短回答。
- GreenCube 的圖片引擎（Z-Image Turbo），512×512 畫素，8 步，從點選計時到圖片完成。
多次測量的結果用範圍表示：同一臺電腦每次執行的速度都會略有不同。
這意味著什麼
幹活的是顯示卡
同一臺電腦、同一個 AI（Gemma 4 E4B）：僅用 CPU 每秒 13.5 個 token，用顯示卡每秒 75.6 個 token，快約 5.6 倍。顯示卡天生就是為遊戲同時處理成千上萬個小計算而設計的，而執行 AI 大部分也是這類計算。GreenCube 啟動時會把兩者都測一遍，然後用更快的那個。
整個 AI 都裝進了顯示卡
Gemma 4 E4B 檔案大小為 4.2 GB，顯示卡自帶 11 GB 顯示記憶體（VRAM）。整個模型都放得下，還給對話留了空間，所以顯示卡不用等電腦裡更慢的記憶體。這是它跑得這麼快的最大原因。
更大的 Gemma 4 12B
應該可以。Gemma 4 12B 檔案大小為 6.4 GB，這張顯示卡有 11 GB，長對話也留有餘地。我們還沒在這張顯示卡上測過。
圖片
可以。生成一張圖片（512×512）：顯示卡 8–9 秒 (第一張載入時用了 83 秒)。生成圖片使用約 6 GB 的專用 AI，計算量比聊天回答大得多，所以這裡顯示卡的差距更明顯。
橫向對比
在用 Gemma 4 E4B 測過的 8 臺電腦中，這臺的輸出速度排第 1 名。RX 5700 XT 每秒輸出 63–72 個 token，這臺速度差不多。
測試電腦
一位真實測試者自己日常使用的電腦，不是實驗室機器：
- 桌上型電腦
- 顯示卡: NVIDIA RTX 2080 Ti
- 顯示記憶體（VRAM）: 11 GB
- 記憶體: 128 GB
- 處理器: 32 執行緒
檢視你自己的電腦
不確定你的電腦配置？30 秒就能查到：
- 按 Ctrl + Shift + Esc 開啟工作管理員。
- 進入效能。
- 點選記憶體：右上角的數字就是你的記憶體。
- 點選 GPU：右上角的名稱就是你的顯示卡，專用 GPU 記憶體就是你的顯示記憶體。只看到沒有專用記憶體的 Intel 或 AMD 顯示卡？那就說明你沒有獨立顯示卡。
然後在完整表格裡找最接近的顯示卡。同一款顯示卡顯示記憶體更大，能裝下更大的 AI；同樣顯示記憶體的新顯示卡通常更快。
我們測過的其他電腦
- RX 5700 XT: 63–72 token/秒 (Gemma 4 E4B)
- RTX 5060: 56 token/秒 (Gemma 4 E4B)
- RTX 3060: 53–55 token/秒 (Gemma 4 E4B)
- RX 6600: 42–44 token/秒 (Gemma 4 E4B)
- GTX 1660 Super: 37–38 token/秒 (Gemma 4 E4B)
- GTX 1650: 約 20 token/秒 (Gemma 4 E4B)
- Intel Core Ultra 5 筆電: 14–18 token/秒 (Gemma 4 E2B)
- RX 580: 10–11 token/秒 (Gemma 4 E4B)
- Intel Iris Xe 筆電: 5–7 token/秒 (Gemma 4 E2B)
我的電腦能跑 AI 嗎？ 全部 10 臺電腦彙總在一張表裡，以及你的電腦用起來會怎樣。
常見問題
RTX 2080 Ti 能在本地執行 AI 嗎？
可以。在一臺配備 NVIDIA RTX 2080 Ti（11 GB）和 128 GB 記憶體的桌上型電腦上，Gemma 4 E4B 每秒輸出 65–71 個 token。回答出來的速度比你讀得還快。
RTX 2080 Ti 能生成 AI 圖片嗎？
可以。生成一張圖片（512×512）：顯示卡 8–9 秒 (第一張載入時用了 83 秒)。
AI 在 RTX 2080 Ti 上更快，還是在 CPU 上更快？
顯示卡快得多：顯示卡每秒 75.6 個 token，CPU 每秒 13.5 個，快約 5.6 倍。
RTX 2080 Ti 能執行 Gemma 4 12B 嗎？
應該可以。Gemma 4 12B 檔案大小為 6.4 GB，這張顯示卡有 11 GB，長對話也留有餘地。我們還沒在這張顯示卡上測過。