AIに必要なVRAMは？モデルをグラフィックボードに収めるべき理由
短い答え：グラフィックボードのメモリ（VRAM）に丸ごと収まるAIは速く動きます。はみ出したAIはカードを使わないより遅くなり、クラッシュすることもあります。小さくて全部カードに載るほうが、大きくて半分しか載らないより勝ります。
テスト
AMD RX 5700 XT（VRAM 8 GB）とRAM 48 GBのデスクトップPC。120億パラメータのモデル（Gemma 4 12B、約6.2 GB）を読み込み、カードに載せる量を変えました。すべて2026年9月の1回のセッションです。
| カードに載せたモデルの量 | 書き出し（トークン/秒） |
|---|---|
| 全部 | 35.6 |
| 28層 | 5.9 |
| 20層 | 4.3 |
| 比較：小さいモデル（Gemma 4 E4B）をCPUのみで | 5.0 |
| 同じ小さいモデルを全部カードに | 72.5 |
わかったこと
1. 全部か、ゼロか
モデルの一部をカードから外しただけで、6倍遅くなりました。20層をカードに載せた状態では、カードをまったく使わない小さいモデルより遅くなりました。半分だけカードに載せるのは、両方の悪いところ取りです。
2. 一番大きいのが一番良いわけではない
12Bモデルは8 GBのカードに丸ごと収まりました。短い質問1つ分だけは。チャットが長くなると毎回クラッシュしました。カードに会話のための余裕がほとんど残っていなかったからです。小さいモデルは約3 GBの余裕があり、毎秒63〜72トークンで動きました。
3. 余裕を残す
4 GBのGTX 1650では、4.2 GBのモデルを3.9 GBのカードに詰め込んだ結果、最初のメッセージから「メモリが足りません」で失敗しました。今のGreenCubeは、チャットとWindowsのためにカードの約1.5 GBを空けておきます。
カードに合うモデルの選び方
VRAMを確認
タスク マネージャー → パフォーマンス → GPU → 専用 GPU メモリ。
モデルのサイズ + 1.5 GB
モデルのファイルに約1.5 GBを足した量が、その数字に収まるのが目安です。
迷ったら小さいほう
全部カードに載る小さいモデルが、半分しか載らない大きいモデルに勝ります。
またはアプリに任せる
GreenCubeがカードを読み取り、余裕を持って収まるモデルを選びます。
GTX 1650からRTX 5060まで、PC10台の実測速度：こちら
よくある質問
AIモデルがVRAMに収まらないとどうなりますか？
収まらない部分は通常のメモリから動き、全体が遅くなります。8 GBのカードでは、28層をカードに載せたモデルは毎秒5.9トークンで、全層を載せたときの35.6より6倍遅くなりました。
カードに読み込める一番大きいAIモデルを使うべきですか？
いいえ。会話のための余裕を残してください。120億パラメータのモデルは8 GBのカードに短い質問なら収まりましたが、チャットが長くなるとクラッシュしました。余裕を持って収まる小さいモデルのほうが速く、一度もクラッシュしませんでした。
VRAMはどれくらい空けておくべきですか？
GreenCubeは、会話とWindowsのためにカードの約1.5 GBを空けておきます。この余裕がないと、4 GBのカードは最初のメッセージでメモリ不足になりました。