Melhor modelo de IA local para o seu PC, por RAM e VRAM (medido)
Resposta curta: o melhor modelo de IA local para o seu PC é o maior que cabe inteiro na sua placa de vídeo, com cerca de 1,5 GB de folga. Sem placa? Um modelo pequeno na sua RAM. Um modelo menor inteiro na placa ganha de um maior que transborda: medimos que transbordar deixa tudo 6 vezes mais devagar. Abaixo, a escolha para cada tipo de PC, com velocidades que medimos em 10 PCs reais.
O melhor modelo para o seu PC
| O seu PC | Tamanho de modelo que cabe | O que medimos |
|---|---|---|
| Notebook de 8 GB, sem placa de vídeo | Pequeno, cerca de 2–3 GB (Gemma 4 E2B, 2,6 GB) | 5–7 tokens/s em conversas reais; feche os outros apps antes |
| Notebook de 16 GB, sem placa de vídeo | Pequeno, pela velocidade; cerca de 4 GB funciona, mas devagar | E2B 14–18 tokens/s; E4B 8–10 |
| Placa de vídeo de 4 GB | Cerca de 2–3 GB cabe inteiro; 4 GB transborda | E4B (4,2 GB, parte na RAM) cerca de 20 tokens/s numa GTX 1650 |
| Placa de vídeo de 6 GB | Cerca de 4–4,5 GB | E4B 35–38 tokens/s numa GTX 1660 Super |
| Placa de vídeo de 8 GB | Cerca de 4–6 GB | E4B 56–72 em placas recentes (cerca de 11 numa RX 580 antiga) |
| Placa de vídeo de 12 GB+ | Cerca de 6–10 GB: modelos da classe 12B | E4B 50–55 com 12 GB; o 12B precisa de 10 GB+ para conversas longas |
Cada placa tem a sua própria página: Meu PC roda IA? Ou digite a sua placa no verificador.
Por que "caber" importa mais que "ser o maior"
Transbordou, ficou mais lento do que sem placa nenhuma
Numa RX 5700 XT de 8 GB, o Gemma 4 12B escreveu 35,6 tokens por segundo inteiro na placa, 5,9 com parte dele fora da placa e 4,3 com menos ainda nela: mais devagar do que um modelo menor rodando sem placa. O teste completo de VRAM.
Cabe para uma pergunta, trava numa conversa longa
O mesmo modelo 12B coube na placa de 8 GB para uma pergunta curta e depois travou todas as vezes que a conversa cresceu: a conversa também precisa de espaço. É para isso que servem os 1,5 GB de folga.
Pequeno muitas vezes basta
Num notebook de 16 GB, o Gemma 4 E2B deu uma resposta de estudo completa em 20 segundos e acertou 5 de 5 checagens rápidas de fatos; o E4B explicou melhor, mas levou 112 segundos. E2B vs E4B, medidos.
Os modelos que medimos
| Modelo | Tamanho do arquivo | Melhor em | Licença |
|---|---|---|---|
| Gemma 4 E2B | 2,6 GB | Notebooks, 8–16 GB de RAM | Apache 2.0 |
| Gemma 4 E4B | 4,2 GB | Placas de vídeo de 6 GB ou mais | Apache 2.0 |
| Gemma 4 12B | cerca de 6,4 GB | Placas de vídeo de 10–12 GB ou mais | Apache 2.0 |
Esses são os arquivos que vêm com o GreenCube e os únicos que cronometramos, então são os únicos para os quais damos velocidades. Outras famílias de modelos seguem a mesma regra: veja o tamanho do arquivo, some cerca de 1,5 GB e compare com a sua VRAM. Os requisitos do Gemma 4 em detalhe.
Como conferir a sua VRAM
- Pressione Ctrl + Shift + Esc para abrir o Gerenciador de Tarefas.
- Vá em Desempenho e depois em GPU.
- A Memória dedicada da GPU é a sua VRAM. Sem memória dedicada? Use um modelo pequeno na RAM.
Prefere nem escolher? O GreenCube lê a sua placa e a sua RAM e escolhe o modelo que cabe, com folga. Apps grátis como LM Studio, Jan e Ollama deixam você escolher sozinho: 12 apps comparados.
Perguntas
Qual é o melhor modelo de IA local?
O maior modelo que cabe inteiro na sua placa de vídeo com cerca de 1,5 GB de folga. Um modelo menor inteiro na placa ganha de um maior que transborda para a RAM: no nosso teste, um modelo com parte dele fora de uma placa de 8 GB rodou 6 vezes mais devagar.
Qual é o melhor modelo de IA local para um notebook sem placa de vídeo?
Um pequeno. O Gemma 4 E2B (2,6 GB) escreveu de 14 a 18 tokens por segundo num notebook de 16 GB e de 5 a 7 num notebook de 8 GB, em conversas reais; o E4B, maior, levou 112 segundos para uma resposta que o E2B deu em 20.
Qual é o melhor modelo de IA local para uma placa de vídeo de 8 GB?
Um modelo de cerca de 4 a 5 GB, como o Gemma 4 E4B (4,2 GB): ele escreveu de 56 a 72 tokens por segundo em placas gamer de 8 GB. Um modelo de 12 bilhões de parâmetros coube para perguntas curtas, mas travou em conversas longas.
Como sei se um modelo cabe na minha placa de vídeo?
Pegue o tamanho do arquivo do modelo e some cerca de 1,5 GB para a conversa e para o Windows. Se o total for menor que a memória dedicada da GPU da sua placa (Gerenciador de Tarefas, Desempenho, GPU), ele cabe.
Preciso escolher um modelo eu mesmo?
Em apps grátis como LM Studio, Jan ou Ollama, sim. O GreenCube lê a sua placa e a sua RAM e escolhe para você o modelo que cabe.
Sua própria IA, no seu próprio PC
O GreenCube roda no seu computador: sem limites de uso, sem assinatura e sem precisar de internet. €9,99, um único pagamento.
Quero o GreenCube