GreenCube
JA
GreenCubeを入手

GreenCubeブログ

GTX 1650でAIは動く?実測:毎秒約20トークン

はい。NVIDIA GTX 1650(4 GB)とRAM 16 GBを搭載したデスクトップPCで、Gemma 4 E4Bは毎秒約20トークンで書き出しました。読むより速く答えが出てきます。

約20Gemma 4 E4Bでの毎秒トークン数

実際の使用感

作業このPCでの時間
普通の回答を書く(400トークン)20 秒
渡した長い文書を読む(5,000トークン)0:13–3:28 分

このPCで計測した速度から算出しました。時間は長さ÷速度で、実際の回答では書き始めるまでに少し時間もかかります。目安として、英語の場合、多くの人が読む速さは1秒に約4語です(Brysbaert, 2019)。日本語ではトークン数と文字数の関係が一定ではないため、ここでは換算していません。400トークンの回答は、読むだけでもそれなりに時間がかかります。

計測結果

書き出しは、AIが回答を打ち出す速さで、1秒あたりのトークン数で表します。トークンは単語の断片です。読み込みは、渡したもの(質問、貼り付けた文章、PDF)を取り込む速さです。AIは多くのトークンを一度に読めますが、書くときは1つずつなので、読み込みは常に書き出しよりずっと速くなります。

項目実行場所結果計測方法
Gemma 4 E4Bグラフィックボード(RAMにはみ出し)約20 トークン/秒 書き出し · 24–395 読み込み2026年9月23日
Gemma 4 E4B(2台目)*グラフィックボード(RAMにはみ出し)8–25 トークン/秒 書き出し · 32–301 読み込み2026年10月1日

各数値の計測方法:計測方法の詳細

  1. GreenCube 0.1.40 と 0.1.42での実際のチャット:100トークン以上のすべての回答の速度を、アプリのログから読み取ったもの。範囲は最も遅い1割と最も速い1割を除いています。

複数回計測したものは範囲で示しています。同じPCでも、回ごとに速度が少し変わるためです。※ このテスターは主に短い質問をしていたため、100トークン未満の回答も含めています。短い回答はやや遅く計測されます。

その意味

全部はカードに収まらない

Gemma 4 E4Bは4.2 GBのファイルで、カードは4 GBなので丸ごとは収まらず、一部が通常のメモリ(RAM)に置かれます。トークンを1つ書くたびに、ずっと遅い経路でその部分にアクセスする必要があるため、速度が落ちて不安定になります。それでも毎秒約20トークンで書き出します。貼り付けた文章の読み込みは、日によって毎秒24〜395トークンと大きく変わりました。カードが満杯だったためとみられます。

同じカードの2台目のPC

別のテスターのGTX 1650でGreenCube 0.1.42のGemma 4 E4Bを動かすと、書き出しは毎秒8–25トークン、読み込みは毎秒32–301トークンでした。回答の多くが短く、短い回答は長い回答より遅く計測されます。最も長い回答は、その範囲の上限近くでした。

大きいGemma 4 12B

快適ではありません。GreenCubeが大きいGemma 4 12Bを勧めるのはVRAMが10 GB以上のカードだけで、このカードは4 GBです。8 GBのAMD RX 5700 XTでは、短い質問には答えましたが、長いチャットでクラッシュしました。

画像

おそらく可能ですが、このカードでの画像生成はまだ計測していません。計測したら、ここに数字を載せます。画像には約6 GBの専用AIを使い、チャットの回答よりはるかに多くの計算をするので、ここではグラフィックスの差がさらに大きく出ます。

他との比較

Gemma 4 E4Bで計測した8台のPCのうち、このPCの書き出し速度は7位です。GTX 1660 Superは毎秒37–38トークンで、約90%速いです。RX 580は毎秒10–11トークンなので、このPCは約90%速いです。

テストに使ったPC

実験室のマシンではなく、実際のテスターが普段どおりに使っている自分のPCです:

自分のPCを確認する

自分のPCの構成がわからない?30秒で確認できます:

  1. Ctrl + Shift + Escを押して、タスク マネージャーを開きます。
  2. パフォーマンスを開きます。
  3. メモリをクリック:右上の数字がRAMです。
  4. GPUをクリック:右上の名前がカード名で、専用 GPU メモリがVRAMです。専用メモリのないIntelやAMDのグラフィックスしか表示されない場合は、独立したカードはありません。

次に、全体の表でいちばん近いカードを探してください。同じカードでもVRAMが多ければ大きいAIが収まり、同じ容量なら新しいカードのほうがたいてい速く動きます。

計測した他のPC

自分のPCでAIは動く? 10台すべてのPCを1つの表に。自分のPCでの使用感も。

よくある質問

GTX 1650でAIをローカルで動かせますか?

はい。NVIDIA GTX 1650(4 GB)とRAM 16 GBを搭載したデスクトップPCで、Gemma 4 E4Bは毎秒約20トークンで書き出しました。読むより速く答えが出てきます。

GTX 1650でAI画像を作れますか?

おそらく可能ですが、このカードでの画像生成はまだ計測していません。計測したら、ここに数字を載せます。

GTX 1650でGemma 4 12Bは動きますか?

快適ではありません。GreenCubeが大きいGemma 4 12Bを勧めるのはVRAMが10 GB以上のカードだけで、このカードは4 GBです。8 GBのAMD RX 5700 XTでは、短い質問には答えましたが、長いチャットでクラッシュしました。

自分だけのAIを、自分のPCで

GreenCubeはあなたのPCで動きます。使用制限なし、サブスクなし、インターネットなしでも使えます。€9.99の買い切りです。

GreenCubeを入手