あなたのPCに最適なローカルAIモデル:RAMとVRAM別(実測)
短い答え:あなたのPCに最適なローカルAIモデルは、グラフィックボードに約1.5 GBの余裕を残して丸ごと収まる、一番大きいモデルです。カードがない?それなら小さいモデルをRAMで。全部カードに載る小さいモデルは、はみ出す大きいモデルに勝ります。はみ出すと6倍遅くなることを計測しました。以下に、PCの種類ごとのおすすめと、実際のPC10台で計測した速度を載せます。
あなたのPCに最適なモデル
| あなたのPC | 収まるモデルのサイズ | 計測結果 |
|---|---|---|
| 8 GBのノートPC、グラフィックボードなし | 小さいモデル、約2–3 GB(Gemma 4 E2B、2.6 GB) | 実際のチャットで5–7 トークン/秒。先に他のアプリを閉じる |
| 16 GBのノートPC、グラフィックボードなし | 速さなら小さいモデル。約4 GBも動くが遅い | E2B 14–18 トークン/秒、E4B 8–10 |
| 4 GBのグラフィックボード | 約2–3 GBなら丸ごと収まる。4 GBははみ出す | GTX 1650でE4B(4.2 GB、一部はRAM)約20 トークン/秒 |
| 6 GBのグラフィックボード | 約4–4.5 GB | GTX 1660 SuperでE4B 35–38 トークン/秒 |
| 8 GBのグラフィックボード | 約4–6 GB | 最近のカードでE4B 56–72(古いRX 580では約11) |
| 12 GB以上のグラフィックボード | 約6–10 GB:12Bクラスのモデル | 12 GBでE4B 50–55。長いチャットでは12Bに10 GB以上が必要 |
カードごとのページ:自分のPCでAIは動く? またはチェッカーにカード名を入力してください。
「一番大きい」より「収まる」が大事な理由
はみ出すと、カードなしより遅い
8 GBのRX 5700 XTで、Gemma 4 12Bは全部カードに載せると毎秒35.6トークン、一部をカードから外すと5.9、さらに載せる量を減らすと4.3でした。カードなしで動く小さいモデルより遅い数字です。VRAMテストの全容。
質問1つなら収まるが、長いチャットでクラッシュ
同じ12Bモデルは、短い質問なら8 GBのカードに収まりましたが、チャットが長くなるたびにクラッシュしました。会話にも場所が必要なのです。1.5 GBの余裕はそのためです。
小さいモデルで十分なことが多い
16 GBのノートPCで、Gemma 4 E2Bは勉強用の完全な答えを20秒で出し、短い事実確認5問に5問とも正解しました。E4Bは説明がうまかったものの、112秒かかりました。E2BとE4Bの実測比較。
計測したモデル
| モデル | ファイルサイズ | 向いているPC | ライセンス |
|---|---|---|---|
| Gemma 4 E2B | 2.6 GB | ノートPC、RAM 8–16 GB | Apache 2.0 |
| Gemma 4 E4B | 4.2 GB | 6 GB以上のグラフィックボード | Apache 2.0 |
| Gemma 4 12B | 約6.4 GB | 10–12 GB以上のグラフィックボード | Apache 2.0 |
これらはGreenCubeに同梱しているファイルで、私たちが計測したのはこれだけなので、速度を載せているのもこれだけです。他のモデルファミリーも同じルールです:ファイルサイズを確認し、約1.5 GBを足して、VRAMと比べます。Gemma 4の動作要件の詳細。
VRAMの確認方法
- Ctrl + Shift + Escを押して、タスク マネージャーを開きます。
- パフォーマンスからGPUを開きます。
- 専用 GPU メモリがVRAMです。専用メモリがない場合は、小さいモデルをRAMで使いましょう。
自分で選びたくない?GreenCubeがカードとRAMを読み取り、余裕を持って収まるモデルを選びます。LM Studio、Jan、Ollamaのような無料アプリでは、自分で選べます:12のアプリを比較。
よくある質問
最適なローカルAIモデルはどれですか?
グラフィックボードに約1.5 GBの余裕を残して丸ごと収まる、一番大きいモデルです。全部カードに載る小さいモデルは、RAMにはみ出す大きいモデルに勝ります。私たちのテストでは、8 GBのカードから一部が外れたモデルは6倍遅くなりました。
グラフィックボードのないノートPCに最適なローカルAIモデルは?
小さいモデルです。Gemma 4 E2B(2.6 GB)は実際のチャットで、16 GBのノートPCで毎秒14〜18トークン、8 GBのノートPCで5〜7トークンでした。大きいE4Bは、E2Bが20秒で出した答えに112秒かかりました。
8 GBのグラフィックボードに最適なローカルAIモデルは?
Gemma 4 E4B(4.2 GB)のような約4〜5 GBのモデルです。8 GBのゲーミング向けカードで毎秒56〜72トークンでした。120億パラメータのモデルは短い質問なら収まりましたが、長いチャットでクラッシュしました。
モデルがグラフィックボードに収まるかどうかは、どうやってわかりますか?
モデルのファイルサイズに、会話とWindowsのための約1.5 GBを足します。それがカードの専用 GPU メモリ(タスク マネージャー、パフォーマンス、GPU)より小さければ収まります。
モデルは自分で選ぶ必要がありますか?
LM Studio、Jan、Ollamaのような無料アプリでは、はい。GreenCubeはカードとRAMを読み取り、収まるモデルを選んでくれます。