Draait AI op een RTX 3060? Gemeten: 53–55 tokens per seconde
Ja. Op een desktop-pc met een NVIDIA RTX 3060 (12 GB) en 32 GB RAM schreef Gemma 4 E4B 53–55 tokens per seconde. Sneller dan je leest.
Wat dat in de praktijk betekent
| Taak | Tijd op deze pc |
|---|---|
| Een normaal antwoord schrijven (400 tokens, ongeveer een halve pagina) | 7–8 s |
| Een lang document lezen dat je geeft (5.000 tokens, ongeveer 6 pagina's) | 4–5 s |
| Een afbeelding maken (512×512) | 28 s |
Berekend uit de snelheden die op deze pc zijn gemeten: tijd is lengte gedeeld door snelheid, en een echt antwoord heeft ook even nodig om op gang te komen. Ter vergelijking: de meeste mensen lezen ongeveer 4 woorden per seconde (Brysbaert, 2019), dus alleen al het lezen van een antwoord van 400 tokens kost je meer dan een minuut.
Wat we hebben gemeten
Schrijven is hoe snel de AI zijn antwoord typt, in tokens per seconde; een token is een stukje woord, en in het Nederlands neemt een woord er meestal een of twee in. Lezen is hoe snel hij opneemt wat je geeft: je vraag, een geplakte tekst of een pdf. Lezen gaat altijd veel sneller dan schrijven, omdat de AI veel tokens tegelijk kan lezen maar ze een voor een moet schrijven.
| Wat | Draaide op | Resultaat | Gemeten |
|---|---|---|---|
| Gemma 4 E4B | videokaart | 52,6–55,3 tokens per seconde schrijven · 1.044–1.362 lezen | 6 oktober 2026 1 |
| Gemma 4 E4B | videokaart | 49,6–55,4 tokens per seconde schrijven | 6 oktober 2026 2 |
| Gemma 4 E4B | alleen processor | 6,7–7,3 tokens per seconde schrijven | 6 oktober 2026 2 |
| Afbeelding (512×512) | videokaart | 28 s | 3 oktober 2026 3 |
Hoe elk getal is gemeten: Meer over hoe we meten
- Echte chats in GreenCube 0.1.42–0.1.43: de snelheid van elk antwoord van 100 tokens of meer, uitgelezen uit het log van de app. Het bereik laat het traagste en het snelste tiende weg.
- De eigen snelheidstest van GreenCube 0.1.42–0.1.43, die het bij het opstarten doet om te kiezen tussen videokaart en processor: één kort antwoord, één keer op elk geschreven.
- De beeldengine van GreenCube (Z-Image Turbo), 512×512 pixels, 8 stappen, getimed van de klik tot de afgewerkte afbeelding.
Waar we meerdere metingen hebben, tonen we het bereik: snelheden schommelen een beetje tussen metingen op dezelfde pc.
Wat het betekent
De videokaart doet het werk
Zelfde pc, zelfde AI (Gemma 4 E4B): 6,7–7,3 tokens per seconde op alleen de processor, 49,6–55,4 op de videokaart, ongeveer 7,5 keer zo snel. Een videokaart is gemaakt om voor games duizenden kleine sommen tegelijk te doen, en een AI draaien is grotendeels datzelfde soort rekenwerk. GreenCube timet bij het opstarten allebei en gebruikt de snelste.
De hele AI past op de kaart
Gemma 4 E4B is een bestand van 4,2 GB en de kaart heeft 12 GB eigen geheugen (VRAM). Alles past, met ruimte over voor het gesprek, dus de kaart wacht nooit op het tragere geheugen in de rest van de pc. Dat is de belangrijkste reden dat het zo snel gaat.
Het grotere Gemma 4 12B
Dat zou moeten. Gemma 4 12B is een bestand van 6,4 GB en deze kaart heeft 12 GB, dus er is ook ruimte voor een lang gesprek. We hebben het op deze kaart nog niet gemeten.
Afbeeldingen
Ja. Eén afbeelding (512×512) kostte 28 s met de videokaart. Een afbeelding gebruikt een eigen AI van zo'n 6 GB en veel meer rekenwerk dan een chatantwoord, dus de graphics tellen hier nog zwaarder.
Hoe hij zich verhoudt
Van de 8 pc's die we met Gemma 4 E4B hebben gemeten, staat deze op nummer 4 qua schrijfsnelheid. De RTX 5060 schrijft 56 (opstarttest), ongeveer 5% sneller. De RX 6600 schrijft 42–44, dus deze is ongeveer 25% sneller.
De test-pc
De eigen pc van een echte tester, gebruikt zoals die hem altijd gebruikt, geen labmachine:
- Desktop-pc
- Videokaart: NVIDIA RTX 3060
- Videogeheugen (VRAM): 12 GB
- RAM: 32 GB
- Processor: 12 threads
Check je eigen pc
Weet je niet wat er in je pc zit? Het kost 30 seconden:
- Druk op Ctrl + Shift + Esc om Taakbeheer te openen.
- Ga naar Prestaties.
- Klik op Geheugen: het getal rechtsboven is je RAM.
- Klik op GPU: de naam rechtsboven is je kaart, en Toegewezen GPU-geheugen is je VRAM. Zie je alleen Intel- of AMD-graphics zonder toegewezen geheugen? Dan heb je geen aparte kaart.
Zoek daarna de kaart die het meest lijkt in de volledige tabel. Dezelfde kaart met meer VRAM kan een grotere AI aan; een nieuwere kaart van dezelfde grootte is meestal sneller.
Andere pc's die we hebben gemeten
- RTX 2080 Ti: 65–71 tokens per seconde (Gemma 4 E4B)
- RX 5700 XT: 63–72 tokens per seconde (Gemma 4 E4B)
- RTX 5060: 56 tokens per seconde (Gemma 4 E4B)
- RX 6600: 42–44 tokens per seconde (Gemma 4 E4B)
- GTX 1660 Super: 37–38 tokens per seconde (Gemma 4 E4B)
- GTX 1650: ongeveer 20 tokens per seconde (Gemma 4 E4B)
- laptop met Intel Core Ultra 5: 14–18 tokens per seconde (Gemma 4 E2B)
- RX 580: 10–11 tokens per seconde (Gemma 4 E4B)
- laptop met Intel Iris Xe: 5–7 tokens per seconde (Gemma 4 E2B)
Draait AI op mijn pc? Alle 10 pc's in één tabel, en hoe de jouwe zal aanvoelen.
Vragen
Draait AI lokaal op een RTX 3060?
Ja. Op een desktop-pc met een NVIDIA RTX 3060 (12 GB) en 32 GB RAM schreef Gemma 4 E4B 53–55 tokens per seconde. Sneller dan je leest.
Kun je op een RTX 3060 AI-afbeeldingen maken?
Ja. Eén afbeelding (512×512) kostte 28 s met de videokaart.
Is AI sneller op de RTX 3060 of op de processor?
Op de kaart, met afstand: 49,6–55,4 tokens per seconde tegenover 6,7–7,3 op de processor, ongeveer 7,5 keer zo snel.
Draait Gemma 4 12B op een RTX 3060?
Dat zou moeten. Gemma 4 12B is een bestand van 6,4 GB en deze kaart heeft 12 GB, dus er is ook ruimte voor een lang gesprek. We hebben het op deze kaart nog niet gemeten.
Je eigen AI, op je eigen pc
GreenCube draait op je computer: geen gebruikslimieten, geen abonnement, werkt zonder internet. €9,99, één keer betaald.
Haal GreenCube