GreenCube
JA
GreenCubeを入手

GreenCubeブログ

RX 580でAIは動く?実測:毎秒10–11トークン

はい。AMD RX 580(8 GB)とRAM 16 GBを搭載したデスクトップPCで、Gemma 4 E4Bは毎秒10–11トークンで書き出しました。読むより速く答えが出てきます。

10–11Gemma 4 E4Bでの毎秒トークン数
2.7×CPUよりカードのほうが速い

実際の使用感

作業このPCでの時間
普通の回答を書く(400トークン)37–38 秒
渡した長い文書を読む(5,000トークン)30–35 秒

このPCで計測した速度から算出しました。時間は長さ÷速度で、実際の回答では書き始めるまでに少し時間もかかります。目安として、英語の場合、多くの人が読む速さは1秒に約4語です(Brysbaert, 2019)。日本語ではトークン数と文字数の関係が一定ではないため、ここでは換算していません。400トークンの回答は、読むだけでもそれなりに時間がかかります。

計測結果

書き出しは、AIが回答を打ち出す速さで、1秒あたりのトークン数で表します。トークンは単語の断片です。読み込みは、渡したもの(質問、貼り付けた文章、PDF)を取り込む速さです。AIは多くのトークンを一度に読めますが、書くときは1つずつなので、読み込みは常に書き出しよりずっと速くなります。

項目実行場所結果計測方法
Gemma 4 E4B*グラフィックボード10.5–10.7 トークン/秒 書き出し · 144–169 読み込み2026年10月1日 1
Gemma 4 E4Bグラフィックボード10.1 トークン/秒 書き出し2026年10月1日 2
Gemma 4 E4BCPUのみ3.8 トークン/秒 書き出し2026年10月1日 2

各数値の計測方法:計測方法の詳細

  1. GreenCube 0.1.42での実際のチャット:100トークン以上のすべての回答の速度を、アプリのログから読み取ったもの。範囲は最も遅い1割と最も速い1割を除いています。
  2. GreenCube 0.1.42自身の速度テスト。起動時にグラフィックボードとCPUのどちらを使うか選ぶために実行し、それぞれで短い回答を1回書き出します。

複数回計測したものは範囲で示しています。同じPCでも、回ごとに速度が少し変わるためです。※ このテスターは主に短い質問をしていたため、100トークン未満の回答も含めています。短い回答はやや遅く計測されます。

その意味

仕事をするのはグラフィックボード

同じPC、同じAI(Gemma 4 E4B)で、CPUのみでは毎秒3.8トークン、グラフィックボードでは毎秒10.1トークン、約2.7倍の速さです。グラフィックボードはゲームのために何千もの小さな計算を同時にこなすよう作られていて、AIの実行もほとんどが同じ種類の計算です。GreenCubeは起動時に両方の速さを測り、速いほうを使います。

収まるが、このカードはAIが苦手

Gemma 4 E4B(4.2 GB)はカードの8 GBに丸ごと収まりますが、書き出しは毎秒10–11トークンにとどまります。古いカードはこの種の計算がずっと遅く、メモリが多くてもそれは変わりません。比較として、計測した他の8 GBのカードは、同じAIで63–72 (RX 5700 XT)、56 (RTX 5060)、42–44 (RX 6600)です。それでも読むより速く書き出すので、チャットや勉強には使えます。新しいカードより遅く感じるだけです。

大きいGemma 4 12B

快適ではありません。GreenCubeが大きいGemma 4 12Bを勧めるのはVRAMが10 GB以上のカードだけで、このカードは8 GBです。8 GBのAMD RX 5700 XTでは、短い質問には答えましたが、長いチャットでクラッシュしました。

画像

おそらく可能ですが、このカードでの画像生成はまだ計測していません。計測したら、ここに数字を載せます。画像には約6 GBの専用AIを使い、チャットの回答よりはるかに多くの計算をするので、ここではグラフィックスの差がさらに大きく出ます。

他との比較

Gemma 4 E4Bで計測した8台のPCのうち、このPCの書き出し速度は8位です。GTX 1650は毎秒約20トークンで、約90%速いです。

8 GBのカードを4枚計測しましたが、速さには大きな差があります:

どのAIが収まるかはメモリで決まり、どれだけ速く動くかはカードの新しさで決まります。

テストに使ったPC

実験室のマシンではなく、実際のテスターが普段どおりに使っている自分のPCです:

自分のPCを確認する

自分のPCの構成がわからない?30秒で確認できます:

  1. Ctrl + Shift + Escを押して、タスク マネージャーを開きます。
  2. パフォーマンスを開きます。
  3. メモリをクリック:右上の数字がRAMです。
  4. GPUをクリック:右上の名前がカード名で、専用 GPU メモリがVRAMです。専用メモリのないIntelやAMDのグラフィックスしか表示されない場合は、独立したカードはありません。

次に、全体の表でいちばん近いカードを探してください。同じカードでもVRAMが多ければ大きいAIが収まり、同じ容量なら新しいカードのほうがたいてい速く動きます。

計測した他のPC

自分のPCでAIは動く? 10台すべてのPCを1つの表に。自分のPCでの使用感も。

よくある質問

RX 580でAIをローカルで動かせますか?

はい。AMD RX 580(8 GB)とRAM 16 GBを搭載したデスクトップPCで、Gemma 4 E4Bは毎秒10–11トークンで書き出しました。読むより速く答えが出てきます。

RX 580でAI画像を作れますか?

おそらく可能ですが、このカードでの画像生成はまだ計測していません。計測したら、ここに数字を載せます。

AIはRX 580とCPUのどちらが速いですか?

カードのほうが圧倒的に速いです。CPUの毎秒3.8トークンに対し、カードでは毎秒10.1トークン、約2.7倍です。

RX 580でGemma 4 12Bは動きますか?

快適ではありません。GreenCubeが大きいGemma 4 12Bを勧めるのはVRAMが10 GB以上のカードだけで、このカードは8 GBです。8 GBのAMD RX 5700 XTでは、短い質問には答えましたが、長いチャットでクラッシュしました。

自分だけのAIを、自分のPCで

GreenCubeはあなたのPCで動きます。使用制限なし、サブスクなし、インターネットなしでも使えます。€9.99の買い切りです。

GreenCubeを入手