RTX 3060でAIは動く？実測：毎秒53–55トークン
はい。NVIDIA RTX 3060（12 GB）とRAM 32 GBを搭載したデスクトップPCで、Gemma 4 E4Bは毎秒53–55トークンで書き出しました。読むより速く答えが出てきます。
実際の使用感
| 作業 | このPCでの時間 |
|---|---|
| 普通の回答を書く（400トークン） | 7–8 秒 |
| 渡した長い文書を読む（5,000トークン） | 4–5 秒 |
| 画像を作る（512×512） | 28 秒 |
このPCで計測した速度から算出しました。時間は長さ÷速度で、実際の回答では書き始めるまでに少し時間もかかります。目安として、英語の場合、多くの人が読む速さは1秒に約4語です（Brysbaert, 2019）。日本語ではトークン数と文字数の関係が一定ではないため、ここでは換算していません。400トークンの回答は、読むだけでもそれなりに時間がかかります。
計測結果
書き出しは、AIが回答を打ち出す速さで、1秒あたりのトークン数で表します。トークンは単語の断片です。読み込みは、渡したもの（質問、貼り付けた文章、PDF）を取り込む速さです。AIは多くのトークンを一度に読めますが、書くときは1つずつなので、読み込みは常に書き出しよりずっと速くなります。
| 項目 | 実行場所 | 結果 | 計測方法 |
|---|---|---|---|
| Gemma 4 E4B | グラフィックボード | 52.6–55.3 トークン/秒 書き出し · 1,044–1,362 読み込み | 2026年10月6日 1 |
| Gemma 4 E4B | グラフィックボード | 49.6–55.4 トークン/秒 書き出し | 2026年10月6日 2 |
| Gemma 4 E4B | CPUのみ | 6.7–7.3 トークン/秒 書き出し | 2026年10月6日 2 |
| 画像（512×512） | グラフィックボード | 28 秒 | 2026年10月3日 3 |
各数値の計測方法：計測方法の詳細
- GreenCube 0.1.42–0.1.43での実際のチャット：100トークン以上のすべての回答の速度を、アプリのログから読み取ったもの。範囲は最も遅い1割と最も速い1割を除いています。
- GreenCube 0.1.42–0.1.43自身の速度テスト。起動時にグラフィックボードとCPUのどちらを使うか選ぶために実行し、それぞれで短い回答を1回書き出します。
- GreenCubeの画像エンジン（Z-Image Turbo）、512×512ピクセル、8ステップ。クリックから画像の完成までを計測。
複数回計測したものは範囲で示しています。同じPCでも、回ごとに速度が少し変わるためです。
その意味
仕事をするのはグラフィックボード
同じPC、同じAI（Gemma 4 E4B）で、CPUのみでは毎秒6.7–7.3トークン、グラフィックボードでは毎秒49.6–55.4トークン、約7.5倍の速さです。グラフィックボードはゲームのために何千もの小さな計算を同時にこなすよう作られていて、AIの実行もほとんどが同じ種類の計算です。GreenCubeは起動時に両方の速さを測り、速いほうを使います。
AI全体がカードに収まる
Gemma 4 E4Bは4.2 GBのファイルで、カードには専用のメモリ（VRAM）が12 GBあります。全体が収まり、会話用の余裕も残るので、カードがPCの他の遅いメモリを待つことがありません。これがこの速さの一番の理由です。
大きいGemma 4 12B
動くはずです。Gemma 4 12Bは6.4 GBのファイルで、このカードは12 GBあるので、長い会話の余裕もあります。このカードではまだ計測していません。
画像
はい。画像1枚（512×512）の生成時間はグラフィックボードで28 秒でした。画像には約6 GBの専用AIを使い、チャットの回答よりはるかに多くの計算をするので、ここではグラフィックスの差がさらに大きく出ます。
他との比較
Gemma 4 E4Bで計測した8台のPCのうち、このPCの書き出し速度は4位です。RTX 5060は毎秒56トークン（起動時テスト）で、約5%速いです。RX 6600は毎秒42–44トークンなので、このPCは約25%速いです。
テストに使ったPC
実験室のマシンではなく、実際のテスターが普段どおりに使っている自分のPCです：
- デスクトップPC
- グラフィックス: NVIDIA RTX 3060
- グラフィックスメモリ（VRAM）: 12 GB
- RAM: 32 GB
- CPU: 12 スレッド
自分のPCを確認する
自分のPCの構成がわからない？30秒で確認できます：
- Ctrl + Shift + Escを押して、タスク マネージャーを開きます。
- パフォーマンスを開きます。
- メモリをクリック：右上の数字がRAMです。
- GPUをクリック：右上の名前がカード名で、専用 GPU メモリがVRAMです。専用メモリのないIntelやAMDのグラフィックスしか表示されない場合は、独立したカードはありません。
次に、全体の表でいちばん近いカードを探してください。同じカードでもVRAMが多ければ大きいAIが収まり、同じ容量なら新しいカードのほうがたいてい速く動きます。
計測した他のPC
- RTX 2080 Ti: 65–71 トークン/秒 (Gemma 4 E4B)
- RX 5700 XT: 63–72 トークン/秒 (Gemma 4 E4B)
- RTX 5060: 56 トークン/秒 (Gemma 4 E4B)
- RX 6600: 42–44 トークン/秒 (Gemma 4 E4B)
- GTX 1660 Super: 37–38 トークン/秒 (Gemma 4 E4B)
- GTX 1650: 約20 トークン/秒 (Gemma 4 E4B)
- Intel Core Ultra 5 ノートPC: 14–18 トークン/秒 (Gemma 4 E2B)
- RX 580: 10–11 トークン/秒 (Gemma 4 E4B)
- Intel Iris Xe ノートPC: 5–7 トークン/秒 (Gemma 4 E2B)
自分のPCでAIは動く？ 10台すべてのPCを1つの表に。自分のPCでの使用感も。
よくある質問
RTX 3060でAIをローカルで動かせますか？
はい。NVIDIA RTX 3060（12 GB）とRAM 32 GBを搭載したデスクトップPCで、Gemma 4 E4Bは毎秒53–55トークンで書き出しました。読むより速く答えが出てきます。
RTX 3060でAI画像を作れますか？
はい。画像1枚（512×512）の生成時間はグラフィックボードで28 秒でした。
AIはRTX 3060とCPUのどちらが速いですか？
カードのほうが圧倒的に速いです。CPUの毎秒6.7–7.3トークンに対し、カードでは毎秒49.6–55.4トークン、約7.5倍です。
RTX 3060でGemma 4 12Bは動きますか？
動くはずです。Gemma 4 12Bは6.4 GBのファイルで、このカードは12 GBあるので、長い会話の余裕もあります。このカードではまだ計測していません。