Combien de VRAM faut-il pour l'IA ? Pourquoi le modèle doit tenir sur votre GPU
Réponse courte : une IA qui tient entièrement dans la mémoire de votre carte graphique (la VRAM) est rapide. Une IA qui déborde est plus lente que si vous n'utilisiez pas la carte du tout, et peut planter. Plus petite et entièrement sur la carte vaut mieux que plus grande et à moitié dessus.
Le test
Un PC de bureau avec une AMD RX 5700 XT (8 Go de VRAM) et 48 Go de RAM. Nous avons chargé un modèle de 12 milliards de paramètres (Gemma 4 12B, environ 6,2 Go) et en avons mis plus ou moins sur la carte, le tout en une seule séance en septembre 2026.
| Quelle part du modèle était sur la carte | Écrit (tokens/s) |
|---|---|
| Tout | 35,6 |
| 28 de ses couches | 5,9 |
| 20 de ses couches | 4,3 |
| Pour comparer : un modèle plus petit (Gemma 4 E4B) sur le processeur seul | 5,0 |
| Ce modèle plus petit, entièrement sur la carte | 72,5 |
Ce que nous avons appris
1. Tout ou rien
Laisser seulement une partie du modèle hors de la carte l'a rendu 6 fois plus lent. Avec 20 couches sur la carte, il était plus lent qu'un modèle plus petit tournant sans carte du tout. À moitié sur la carte, c'est le pire des deux mondes.
2. Le plus grand n'est pas le meilleur
Le modèle 12B tenait bien entièrement sur la carte de 8 Go, le temps d'une question courte. À mesure que la conversation s'allongeait, il a planté à chaque fois : la carte n'avait presque plus de place pour la conversation. Le modèle plus petit avait environ 3 Go de marge et tournait à 63 à 72 tokens par seconde.
3. Laissez de la place
Sur une GTX 1650 de 4 Go, un modèle de 4,2 Go a été casé de force sur une carte de 3,9 Go, et le tout premier message a échoué avec « mémoire insuffisante ». GreenCube garde maintenant environ 1,5 Go de la carte libre pour la conversation et pour Windows.
Comment choisir un modèle pour votre carte
Vérifiez votre VRAM
Gestionnaire des tâches → Performances → GPU → Mémoire GPU dédiée.
Taille du modèle + 1,5 Go
Le fichier du modèle plus environ 1,5 Go doit tenir dans ce chiffre.
Dans le doute, prenez plus petit
Un modèle plus petit entièrement sur la carte bat un plus grand à moitié dessus.
Ou laissez l'appli choisir
GreenCube lit votre carte et choisit un modèle qui tient avec de la marge.
Des vitesses réelles sur 10 PC, d'une GTX 1650 à une RTX 2080 Ti : voyez-les ici.
Questions
Que se passe-t-il si un modèle d'IA ne tient pas dans la VRAM ?
La partie qui ne tient pas tourne depuis la mémoire normale, et tout ralentit. Sur notre carte de 8 Go, un modèle avec 28 de ses couches sur la carte a écrit à 5,9 tokens par seconde au lieu de 35,6 avec toutes ses couches : 6 fois plus lent.
Faut-il faire tourner le plus grand modèle d'IA que ma carte peut charger ?
Non. Laissez de la place pour la conversation. Un modèle de 12 milliards de paramètres a tenu sur une carte de 8 Go pour une question courte, puis a planté dès que la conversation s'est allongée. Un modèle plus petit qui tient avec de la marge était plus rapide et n'a jamais planté.
Combien de VRAM faut-il laisser libre ?
GreenCube laisse environ 1,5 Go de la carte libre pour la conversation et pour Windows. Sans cette marge, une carte de 4 Go a manqué de mémoire dès le premier message.
Votre propre IA, sur votre propre PC
GreenCube tourne sur votre ordinateur : sans limite d'utilisation, sans abonnement et sans internet. 9,99 €, en un seul paiement.
Obtenir GreenCube