Quanta VRAM você precisa para IA? Por que o modelo tem que caber na sua GPU
Resposta curta: uma IA que cabe inteira na memória da sua placa de vídeo (a VRAM) é rápida. Uma que transborda fica mais lenta do que se nem usasse a placa, e pode travar. Menor e inteira na placa ganha de maior e pela metade.
O teste
Um PC de mesa com uma AMD RX 5700 XT (8 GB de VRAM) e 48 GB de RAM. Carregamos um modelo de 12 bilhões de parâmetros (Gemma 4 12B, cerca de 6,2 GB) e colocamos mais ou menos dele na placa, tudo numa só sessão, em setembro de 2026.
| Quanto do modelo estava na placa | Escreve (tokens/s) |
|---|---|
| Tudo | 35,6 |
| 28 das suas camadas | 5,9 |
| 20 das suas camadas | 4,3 |
| Para comparar: um modelo menor (Gemma 4 E4B) só no processador | 5,0 |
| Esse modelo menor, inteiro na placa | 72,5 |
O que aprendemos
1. Tudo ou nada
Deixar só uma parte do modelo fora da placa o tornou 6 vezes mais lento. Com 20 camadas na placa, ele ficou mais lento do que um modelo menor rodando sem placa nenhuma. Metade na placa é o pior dos dois mundos.
2. O maior não é o melhor
O modelo 12B coube inteiro na placa de 8 GB, para uma pergunta curta. Conforme a conversa cresceu, ele travou todas as vezes: a placa quase não tinha espaço sobrando para a conversa. O modelo menor tinha cerca de 3 GB de folga e rodou a 63 a 72 tokens por segundo.
3. Deixe espaço
Numa GTX 1650 de 4 GB, um modelo de 4,2 GB foi espremido numa placa de 3,9 GB, e a primeiríssima mensagem falhou com "memória insuficiente". Agora o GreenCube mantém cerca de 1,5 GB da placa livre para o chat e para o Windows.
Como escolher um modelo para a sua placa
Confira a sua VRAM
Gerenciador de Tarefas → Desempenho → GPU → Memória dedicada da GPU.
Tamanho do modelo + 1,5 GB
O arquivo do modelo mais cerca de 1,5 GB deve caber nesse número.
Na dúvida, vá de menor
Um modelo menor inteiro na placa ganha de um maior pela metade.
Ou deixe o app escolher
O GreenCube lê a sua placa e escolhe um modelo que cabe com folga.
Velocidades reais em 10 PCs, de uma GTX 1650 a uma RTX 2080 Ti: veja aqui.
Perguntas
O que acontece se um modelo de IA não cabe na VRAM?
A parte que não cabe roda na memória normal, e tudo fica mais lento. Na nossa placa de 8 GB, um modelo com 28 das suas camadas na placa escreveu a 5,9 tokens por segundo, em vez de 35,6 com todas elas: 6 vezes mais devagar.
Devo rodar o maior modelo de IA que a minha placa consegue carregar?
Não. Deixe espaço para a conversa. Um modelo de 12 bilhões de parâmetros coube numa placa de 8 GB para uma pergunta curta e travou assim que a conversa ficou mais longa. Um modelo menor, que cabe com folga, foi mais rápido e nunca travou.
Quanta VRAM devo deixar livre?
O GreenCube deixa cerca de 1,5 GB da placa livre para a conversa e para o Windows. Sem esse espaço, uma placa de 4 GB ficou sem memória já na primeira mensagem.
Sua própria IA, no seu próprio PC
O GreenCube roda no seu computador: sem limites de uso, sem assinatura e sem precisar de internet. €9,99, um único pagamento.
Quero o GreenCube