GreenCube
JA
GreenCubeを入手

GreenCubeブログ

あなたのPCに最適なローカルAIモデル:RAMとVRAM別(実測)

短い答え:あなたのPCに最適なローカルAIモデルは、グラフィックボードに約1.5 GBの余裕を残して丸ごと収まる、一番大きいモデルです。カードがない?それなら小さいモデルをRAMで。全部カードに載る小さいモデルは、はみ出す大きいモデルに勝ります。はみ出すと6倍遅くなることを計測しました。以下に、PCの種類ごとのおすすめと、実際のPC10台で計測した速度を載せます。

+1.5 GBモデルのファイルに約1.5 GBを足した量がVRAMに収まる必要あり
6×モデルの一部がカードに収まらないときの遅さ
10計測した実際のPC。ノートPCからゲーミングPCまで

あなたのPCに最適なモデル

あなたのPC収まるモデルのサイズ計測結果
8 GBのノートPC、グラフィックボードなし小さいモデル、約2–3 GB(Gemma 4 E2B、2.6 GB)実際のチャットで5–7 トークン/秒。先に他のアプリを閉じる
16 GBのノートPC、グラフィックボードなし速さなら小さいモデル。約4 GBも動くが遅いE2B 14–18 トークン/秒、E4B 8–10
4 GBのグラフィックボード約2–3 GBなら丸ごと収まる。4 GBははみ出すGTX 1650でE4B(4.2 GB、一部はRAM)約20 トークン/秒
6 GBのグラフィックボード約4–4.5 GBGTX 1660 SuperでE4B 35–38 トークン/秒
8 GBのグラフィックボード約4–6 GB最近のカードでE4B 56–72(古いRX 580では約11)
12 GB以上のグラフィックボード約6–10 GB:12Bクラスのモデル12 GBでE4B 50–55。長いチャットでは12Bに10 GB以上が必要

カードごとのページ:自分のPCでAIは動く? またはチェッカーにカード名を入力してください。

「一番大きい」より「収まる」が大事な理由

はみ出すと、カードなしより遅い

8 GBのRX 5700 XTで、Gemma 4 12Bは全部カードに載せると毎秒35.6トークン、一部をカードから外すと5.9、さらに載せる量を減らすと4.3でした。カードなしで動く小さいモデルより遅い数字です。VRAMテストの全容。

質問1つなら収まるが、長いチャットでクラッシュ

同じ12Bモデルは、短い質問なら8 GBのカードに収まりましたが、チャットが長くなるたびにクラッシュしました。会話にも場所が必要なのです。1.5 GBの余裕はそのためです。

小さいモデルで十分なことが多い

16 GBのノートPCで、Gemma 4 E2Bは勉強用の完全な答えを20秒で出し、短い事実確認5問に5問とも正解しました。E4Bは説明がうまかったものの、112秒かかりました。E2BとE4Bの実測比較。

計測したモデル

モデルファイルサイズ向いているPCライセンス
Gemma 4 E2B2.6 GBノートPC、RAM 8–16 GBApache 2.0
Gemma 4 E4B4.2 GB6 GB以上のグラフィックボードApache 2.0
Gemma 4 12B約6.4 GB10–12 GB以上のグラフィックボードApache 2.0

これらはGreenCubeに同梱しているファイルで、私たちが計測したのはこれだけなので、速度を載せているのもこれだけです。他のモデルファミリーも同じルールです:ファイルサイズを確認し、約1.5 GBを足して、VRAMと比べます。Gemma 4の動作要件の詳細。

VRAMの確認方法

  1. Ctrl + Shift + Escを押して、タスク マネージャーを開きます。
  2. パフォーマンスからGPUを開きます。
  3. 専用 GPU メモリがVRAMです。専用メモリがない場合は、小さいモデルをRAMで使いましょう。

自分で選びたくない?GreenCubeがカードとRAMを読み取り、余裕を持って収まるモデルを選びます。LM Studio、Jan、Ollamaのような無料アプリでは、自分で選べます:12のアプリを比較。

よくある質問

最適なローカルAIモデルはどれですか?

グラフィックボードに約1.5 GBの余裕を残して丸ごと収まる、一番大きいモデルです。全部カードに載る小さいモデルは、RAMにはみ出す大きいモデルに勝ります。私たちのテストでは、8 GBのカードから一部が外れたモデルは6倍遅くなりました。

グラフィックボードのないノートPCに最適なローカルAIモデルは?

小さいモデルです。Gemma 4 E2B(2.6 GB)は実際のチャットで、16 GBのノートPCで毎秒14〜18トークン、8 GBのノートPCで5〜7トークンでした。大きいE4Bは、E2Bが20秒で出した答えに112秒かかりました。

8 GBのグラフィックボードに最適なローカルAIモデルは?

Gemma 4 E4B(4.2 GB)のような約4〜5 GBのモデルです。8 GBのゲーミング向けカードで毎秒56〜72トークンでした。120億パラメータのモデルは短い質問なら収まりましたが、長いチャットでクラッシュしました。

モデルがグラフィックボードに収まるかどうかは、どうやってわかりますか?

モデルのファイルサイズに、会話とWindowsのための約1.5 GBを足します。それがカードの専用 GPU メモリ(タスク マネージャー、パフォーマンス、GPU)より小さければ収まります。

モデルは自分で選ぶ必要がありますか?

LM Studio、Jan、Ollamaのような無料アプリでは、はい。GreenCubeはカードとRAMを読み取り、収まるモデルを選んでくれます。

自分だけのAIを、自分のPCで

GreenCubeはあなたのPCで動きます。使用制限なし、サブスクなし、インターネットなしでも使えます。€9.99の買い切りです。

GreenCubeを入手