Het beste lokale AI-model voor je pc, op RAM en VRAM (gemeten)
Kort antwoord: het beste lokale AI-model voor jouw pc is het grootste dat helemaal op je videokaart past, met ongeveer 1,5 GB over. Geen kaart? Een klein model in je RAM. Een kleiner model helemaal op de kaart wint van een groter model dat overloopt: overlopen maten we als 6 keer trager. Hieronder de keuze voor elk soort pc, met snelheden die we op 10 echte pc's hebben gemeten.
Het beste model voor je pc
| Jouw pc | Modelgrootte die past | Wat we hebben gemeten |
|---|---|---|
| Laptop met 8 GB, geen videokaart | Klein, ongeveer 2–3 GB (Gemma 4 E2B, 2,6 GB) | 5–7 tokens/s in echte chats; sluit eerst andere apps |
| Laptop met 16 GB, geen videokaart | Klein voor snelheid; ongeveer 4 GB werkt, maar traag | E2B 14–18 tokens/s; E4B 8–10 |
| Videokaart van 4 GB | Ongeveer 2–3 GB past helemaal; 4 GB loopt over | E4B (4,2 GB, deels in het RAM) ongeveer 20 tokens/s op een GTX 1650 |
| Videokaart van 6 GB | Ongeveer 4–4,5 GB | E4B 35–38 tokens/s op een GTX 1660 Super |
| Videokaart van 8 GB | Ongeveer 4–6 GB | E4B 56–72 op recente kaarten (ongeveer 11 op een oude RX 580) |
| Videokaart vanaf 12 GB | Ongeveer 6–10 GB: modellen van de 12B-klasse | E4B 50–55 op 12 GB; 12B heeft minstens 10 GB nodig voor lange chats |
Elke kaart met een eigen pagina: Draait AI op mijn pc? Of typ je kaart in de checker.
Waarom "past" belangrijker is dan "het grootste"
Loopt het over, dan is het trager dan helemaal geen kaart
Op een RX 5700 XT met 8 GB schreef Gemma 4 12B 35,6 tokens per seconde helemaal op de kaart, 5,9 met een deel naast de kaart en 4,3 met nog minder erop: trager dan een kleiner model dat zonder kaart draait. De volledige VRAM-test.
Past voor één vraag, loopt vast in een lange chat
Hetzelfde 12B-model paste voor een korte vraag op de kaart van 8 GB en liep daarna elke keer vast als de chat groeide: ook het gesprek heeft ruimte nodig. Daar is die 1,5 GB speling voor.
Klein is vaak goed genoeg
Op een laptop met 16 GB gaf Gemma 4 E2B in 20 seconden een volledig studieantwoord en had het 5 van de 5 snelle feitencontroles goed; E4B legde beter uit, maar deed er 112 seconden over. E2B tegen E4B, gemeten.
De modellen die we hebben gemeten
| Model | Bestandsgrootte | Het best op | Licentie |
|---|---|---|---|
| Gemma 4 E2B | 2,6 GB | Laptops, 8–16 GB RAM | Apache 2.0 |
| Gemma 4 E4B | 4,2 GB | Videokaarten met 6 GB of meer | Apache 2.0 |
| Gemma 4 12B | ongeveer 6,4 GB | Videokaarten met 10–12 GB of meer | Apache 2.0 |
Dit zijn de bestanden die GreenCube meelevert en de enige die we hebben getimed, dus het zijn ook de enige waarvoor we snelheden geven. Andere modelfamilies volgen dezelfde regel: kijk naar de bestandsgrootte, tel er ongeveer 1,5 GB bij op en vergelijk met je VRAM. Systeemeisen van Gemma 4 in detail.
Zo check je je VRAM
- Druk op Ctrl + Shift + Esc om Taakbeheer te openen.
- Ga naar Prestaties en dan naar GPU.
- Toegewezen GPU-geheugen is je VRAM. Geen toegewezen geheugen? Gebruik een klein model in het RAM.
Wil je liever helemaal niet kiezen? GreenCube leest je kaart en RAM uit en kiest het model dat past, met ruimte over. Met gratis apps zoals LM Studio, Jan en Ollama kies je zelf: 12 apps vergeleken.
Vragen
Wat is het beste lokale AI-model?
Het grootste model dat helemaal op je videokaart past met ongeveer 1,5 GB over. Een kleiner model helemaal op de kaart wint van een groter model dat overloopt naar het RAM: in onze test draaide een model waarvan een deel naast een kaart van 8 GB stond 6 keer trager.
Wat is het beste lokale AI-model voor een laptop zonder videokaart?
Een klein model. Gemma 4 E2B (2,6 GB) schreef in echte chats 14 tot 18 tokens per seconde op een laptop met 16 GB en 5 tot 7 op een laptop met 8 GB; het grotere E4B deed 112 seconden over een antwoord dat E2B in 20 gaf.
Wat is het beste lokale AI-model voor een videokaart van 8 GB?
Een model van ongeveer 4 tot 5 GB, zoals Gemma 4 E4B (4,2 GB): het schreef 56 tot 72 tokens per seconde op gamingkaarten van 8 GB. Een model met 12 miljard parameters paste voor korte vragen, maar liep vast in lange chats.
Hoe weet ik of een model op mijn videokaart past?
Neem de grootte van het modelbestand en tel er ongeveer 1,5 GB bij op voor het gesprek en Windows. Is dat minder dan het toegewezen GPU-geheugen van je kaart (Taakbeheer, Prestaties, GPU), dan past het.
Moet ik zelf een model kiezen?
In gratis apps zoals LM Studio, Jan of Ollama wel. GreenCube leest je kaart en RAM uit en kiest voor jou het model dat past.
Je eigen AI, op je eigen pc
GreenCube draait op je computer: geen gebruikslimieten, geen abonnement, werkt zonder internet. €9,99, één keer betaald.
Haal GreenCube