Draait AI op een RX 5700 XT? Gemeten: 63–72 tokens per seconde
Ja. Op een desktop-pc met een AMD RX 5700 XT (8 GB) en 48 GB RAM schreef Gemma 4 E4B 63–72 tokens per seconde. Sneller dan je leest.
Wat dat in de praktijk betekent
| Taak | Tijd op deze pc |
|---|---|
| Een normaal antwoord schrijven (400 tokens, ongeveer een halve pagina) | 6 s |
| Een lang document lezen dat je geeft (5.000 tokens, ongeveer 6 pagina's) | 8 s |
Berekend uit de snelheden die op deze pc zijn gemeten: tijd is lengte gedeeld door snelheid, en een echt antwoord heeft ook even nodig om op gang te komen. Ter vergelijking: de meeste mensen lezen ongeveer 4 woorden per seconde (Brysbaert, 2019), dus alleen al het lezen van een antwoord van 400 tokens kost je meer dan een minuut.
Wat we hebben gemeten
Schrijven is hoe snel de AI zijn antwoord typt, in tokens per seconde; een token is een stukje woord, en in het Nederlands neemt een woord er meestal een of twee in. Lezen is hoe snel hij opneemt wat je geeft: je vraag, een geplakte tekst of een pdf. Lezen gaat altijd veel sneller dan schrijven, omdat de AI veel tokens tegelijk kan lezen maar ze een voor een moet schrijven.
| Wat | Draaide op | Resultaat | Gemeten |
|---|---|---|---|
| Gemma 4 E4B | videokaart | 63–72 tokens per seconde schrijven · 594–609 lezen | 22 september 2026 |
| Gemma 4 E4B | alleen processor | 5 tokens per seconde schrijven · 357 lezen | 22 september 2026 |
| Gemma 4 12B | videokaart | 20–36 tokens per seconde schrijven · 108–113 lezen | 22 september 2026 |
Hoe elk getal is gemeten: Meer over hoe we meten
- De eigen snelheidstest van llama.cpp (llama-bench), de engine waarop GreenCube draait, met dezelfde AI-bestanden: 128 tokens geschreven, een tekst van 512 tokens gelezen.
Waar we meerdere metingen hebben, tonen we het bereik: snelheden schommelen een beetje tussen metingen op dezelfde pc.
Wat het betekent
De videokaart doet het werk
Zelfde pc, zelfde AI (Gemma 4 E4B): 5 tokens per seconde op alleen de processor, 63–72 op de videokaart, ongeveer 14 keer zo snel. Een videokaart is gemaakt om voor games duizenden kleine sommen tegelijk te doen, en een AI draaien is grotendeels datzelfde soort rekenwerk. GreenCube timet bij het opstarten allebei en gebruikt de snelste.
De hele AI past op de kaart
Gemma 4 E4B is een bestand van 4,2 GB en de kaart heeft 8 GB eigen geheugen (VRAM). Alles past, met ruimte over voor het gesprek, dus de kaart wacht nooit op het tragere geheugen in de rest van de pc. Dat is de belangrijkste reden dat het zo snel gaat.
Het grotere Gemma 4 12B
Alleen voor korte chats. Het grotere Gemma 4 12B (6,4 GB) schreef 20–36 tokens per seconde bij een korte vraag, maar toen de chat 8.192 tokens bereikte (een lang gesprek) liep het vast, met de kaart bijna vol. Daarom stelt GreenCube de 12B alleen voor op kaarten met 10 GB of meer.
Afbeeldingen
Zeer waarschijnlijk, maar we hebben op deze kaart nog geen afbeelding getimed. Zodra we dat doen, komt het getal hier. Een afbeelding gebruikt een eigen AI van zo'n 6 GB en veel meer rekenwerk dan een chatantwoord, dus de graphics tellen hier nog zwaarder.
Hoe hij zich verhoudt
Van de 8 pc's die we met Gemma 4 E4B hebben gemeten, staat deze op nummer 2 qua schrijfsnelheid. De RTX 2080 Ti schrijft 65–71, ongeveer hetzelfde. De RTX 5060 schrijft 56 (opstarttest), dus deze is ongeveer 20% sneller.
We hebben 4 kaarten met 8 GB gemeten, en ze liggen ver uit elkaar:
- RX 5700 XT: 63–72 tokens per seconde
- RTX 5060: 56 tokens per seconde (opstarttest)
- RX 6600: 42–44 tokens per seconde
- RX 580: 10–11 tokens per seconde
Het geheugen bepaalt welke AI past. Hoe nieuw de kaart is, bepaalt hoe snel hij draait.
De test-pc
De eigen pc van een echte tester, gebruikt zoals die hem altijd gebruikt, geen labmachine:
- Desktop-pc
- Videokaart: AMD RX 5700 XT
- Videogeheugen (VRAM): 8 GB
- RAM: 48 GB
- Processor: Intel Core i7-9700, 8 threads
Check je eigen pc
Weet je niet wat er in je pc zit? Het kost 30 seconden:
- Druk op Ctrl + Shift + Esc om Taakbeheer te openen.
- Ga naar Prestaties.
- Klik op Geheugen: het getal rechtsboven is je RAM.
- Klik op GPU: de naam rechtsboven is je kaart, en Toegewezen GPU-geheugen is je VRAM. Zie je alleen Intel- of AMD-graphics zonder toegewezen geheugen? Dan heb je geen aparte kaart.
Zoek daarna de kaart die het meest lijkt in de volledige tabel. Dezelfde kaart met meer VRAM kan een grotere AI aan; een nieuwere kaart van dezelfde grootte is meestal sneller.
Andere pc's die we hebben gemeten
- RTX 2080 Ti: 65–71 tokens per seconde (Gemma 4 E4B)
- RTX 5060: 56 tokens per seconde (Gemma 4 E4B)
- RTX 3060: 53–55 tokens per seconde (Gemma 4 E4B)
- RX 6600: 42–44 tokens per seconde (Gemma 4 E4B)
- GTX 1660 Super: 37–38 tokens per seconde (Gemma 4 E4B)
- GTX 1650: ongeveer 20 tokens per seconde (Gemma 4 E4B)
- laptop met Intel Core Ultra 5: 14–18 tokens per seconde (Gemma 4 E2B)
- RX 580: 10–11 tokens per seconde (Gemma 4 E4B)
- laptop met Intel Iris Xe: 5–7 tokens per seconde (Gemma 4 E2B)
Draait AI op mijn pc? Alle 10 pc's in één tabel, en hoe de jouwe zal aanvoelen.
Vragen
Draait AI lokaal op een RX 5700 XT?
Ja. Op een desktop-pc met een AMD RX 5700 XT (8 GB) en 48 GB RAM schreef Gemma 4 E4B 63–72 tokens per seconde. Sneller dan je leest.
Kun je op een RX 5700 XT AI-afbeeldingen maken?
Zeer waarschijnlijk, maar we hebben op deze kaart nog geen afbeelding getimed. Zodra we dat doen, komt het getal hier.
Is AI sneller op de RX 5700 XT of op de processor?
Op de kaart, met afstand: 63–72 tokens per seconde tegenover 5 op de processor, ongeveer 14 keer zo snel.
Draait Gemma 4 12B op een RX 5700 XT?
Alleen voor korte chats. Het grotere Gemma 4 12B (6,4 GB) schreef 20–36 tokens per seconde bij een korte vraag, maar toen de chat 8.192 tokens bereikte (een lang gesprek) liep het vast, met de kaart bijna vol. Daarom stelt GreenCube de 12B alleen voor op kaarten met 10 GB of meer.
Je eigen AI, op je eigen pc
GreenCube draait op je computer: geen gebruikslimieten, geen abonnement, werkt zonder internet. €9,99, één keer betaald.
Haal GreenCube