Läuft KI auf einer RX 5700 XT? Gemessen: 63–72 Tokens pro Sekunde
Ja. Auf einem Desktop-PC mit einer AMD RX 5700 XT (8 GB) und 48 GB RAM schrieb Gemma 4 E4B 63–72 Tokens pro Sekunde. Schneller, als du liest.
Was das in der Praxis heißt
| Aufgabe | Zeit auf diesem PC |
|---|---|
| Eine normale Antwort schreiben (400 Tokens, etwa eine halbe Seite) | 6 s |
| Ein langes Dokument lesen, das du ihr gibst (5.000 Tokens, etwa 6 Seiten) | 8 s |
Berechnet aus den auf diesem PC gemessenen Geschwindigkeiten: Zeit ist Länge geteilt durch Tempo, und eine echte Antwort braucht außerdem einen Moment zum Anlaufen. Zum Vergleich: Die meisten Menschen lesen etwa 4 Wörter pro Sekunde (Brysbaert, 2019), also brauchst du für eine Antwort mit 400 Tokens schon über eine Minute, nur um sie zu lesen.
Was wir gemessen haben
Schreiben heißt, wie schnell die KI ihre Antwort tippt, in Tokens pro Sekunde; ein Token ist ein Stück Wort, und im Deutschen braucht ein Wort meist ein bis zwei. Lesen heißt, wie schnell sie aufnimmt, was du ihr gibst: deine Frage, einen eingefügten Text oder ein PDF. Lesen ist immer viel schneller als Schreiben, weil die KI viele Tokens auf einmal lesen kann, sie aber einzeln schreiben muss.
| Was | Lief auf | Ergebnis | Gemessen |
|---|---|---|---|
| Gemma 4 E4B | Grafikkarte | 63–72 Tokens pro Sekunde beim Schreiben · 594–609 beim Lesen | 22. September 2026 |
| Gemma 4 E4B | nur Prozessor | 5 Tokens pro Sekunde beim Schreiben · 357 beim Lesen | 22. September 2026 |
| Gemma 4 12B | Grafikkarte | 20–36 Tokens pro Sekunde beim Schreiben · 108–113 beim Lesen | 22. September 2026 |
Wie jede Zahl gemessen wurde: Mehr dazu, wie wir messen
- Der eigene Tempotest von llama.cpp (llama-bench), der Engine, auf der GreenCube läuft, mit denselben KI-Dateien: 128 Tokens geschrieben, ein Text mit 512 Tokens gelesen.
Wo wir mehrere Messungen haben, zeigen wir den Bereich: Das Tempo schwankt zwischen Messungen auf demselben PC etwas.
Was es bedeutet
Die Grafikkarte macht die Arbeit
Gleicher PC, gleiche KI (Gemma 4 E4B): 5 Tokens pro Sekunde nur mit dem Prozessor, 63–72 mit der Grafikkarte, etwa 14-mal so schnell. Eine Grafikkarte ist dafür gebaut, für Spiele Tausende kleiner Rechnungen gleichzeitig zu machen, und eine KI laufen zu lassen ist größtenteils genau diese Art von Mathe. GreenCube misst beim Start beides und nimmt das Schnellere.
Die ganze KI passt auf die Karte
Gemma 4 E4B ist eine 4,2-GB-Datei, und die Karte hat 8 GB eigenen Speicher (VRAM). Alles passt drauf, mit Platz für das Gespräch, also wartet die Karte nie auf den langsameren Speicher im Rest des PCs. Das ist der Hauptgrund, warum es so schnell läuft.
Das größere Gemma 4 12B
Nur für kurze Chats. Das größere Gemma 4 12B (6,4 GB) schrieb bei einer kurzen Frage 20–36 Tokens pro Sekunde, aber als der Chat 8.192 Tokens erreichte (ein langes Gespräch), stürzte es ab, mit fast voller Karte. Deshalb schlägt GreenCube das 12B nur auf Karten mit 10 GB oder mehr vor.
Bilder
Sehr wahrscheinlich, aber wir haben auf dieser Karte noch kein Bild gestoppt. Sobald wir es tun, steht die Zahl hier. Ein Bild nutzt eine eigene KI von etwa 6 GB und viel mehr Rechenarbeit als eine Chat-Antwort, also zählt die Grafik hier noch mehr.
Wie er im Vergleich abschneidet
Von den 8 PCs, die wir mit Gemma 4 E4B gemessen haben, ist dieser Nummer 2 beim Schreibtempo. Die RTX 2080 Ti schreibt 65–71, etwa gleich viel. Die RTX 5060 schreibt 56 (Starttest), also ist dieser etwa 20 % schneller.
Wir haben 4 Karten mit 8 GB gemessen, und sie liegen weit auseinander:
- RX 5700 XT: 63–72 Tokens pro Sekunde
- RTX 5060: 56 Tokens pro Sekunde (Starttest)
- RX 6600: 42–44 Tokens pro Sekunde
- RX 580: 10–11 Tokens pro Sekunde
Der Speicher entscheidet, welche KI passt. Wie neu die Karte ist, entscheidet, wie schnell sie läuft.
Der Test-PC
Der eigene PC eines echten Testers, so genutzt wie sonst auch, keine Labormaschine:
- Desktop-PC
- Grafik: AMD RX 5700 XT
- Grafikspeicher (VRAM): 8 GB
- RAM: 48 GB
- Prozessor: Intel Core i7-9700, 8 Threads
Prüf deinen eigenen PC
Du weißt nicht, was in deinem PC steckt? Das dauert 30 Sekunden:
- Drück Strg + Umschalt + Esc, um den Task-Manager zu öffnen.
- Geh zu Leistung.
- Klick auf Arbeitsspeicher: Die Zahl oben rechts ist dein RAM.
- Klick auf GPU: Der Name oben rechts ist deine Karte, und Dedizierter GPU-Speicher ist dein VRAM. Du siehst nur Intel- oder AMD-Grafik ohne dedizierten Speicher? Dann hast du keine separate Karte.
Such dann die ähnlichste Karte in der vollständigen Tabelle. Dieselbe Karte mit mehr VRAM kann eine größere KI aufnehmen; eine neuere Karte derselben Größe ist meist schneller.
Weitere PCs, die wir gemessen haben
- RTX 2080 Ti: 65–71 Tokens pro Sekunde (Gemma 4 E4B)
- RTX 5060: 56 Tokens pro Sekunde (Gemma 4 E4B)
- RTX 3060: 53–55 Tokens pro Sekunde (Gemma 4 E4B)
- RX 6600: 42–44 Tokens pro Sekunde (Gemma 4 E4B)
- GTX 1660 Super: 37–38 Tokens pro Sekunde (Gemma 4 E4B)
- GTX 1650: etwa 20 Tokens pro Sekunde (Gemma 4 E4B)
- Laptop mit Intel Core Ultra 5: 14–18 Tokens pro Sekunde (Gemma 4 E2B)
- RX 580: 10–11 Tokens pro Sekunde (Gemma 4 E4B)
- Laptop mit Intel Iris Xe: 5–7 Tokens pro Sekunde (Gemma 4 E2B)
Läuft KI auf meinem PC? Alle 10 PCs in einer Tabelle, und wie sich deiner anfühlen wird.
Fragen
Läuft KI lokal auf einer RX 5700 XT?
Ja. Auf einem Desktop-PC mit einer AMD RX 5700 XT (8 GB) und 48 GB RAM schrieb Gemma 4 E4B 63–72 Tokens pro Sekunde. Schneller, als du liest.
Kann man auf einer RX 5700 XT KI-Bilder erstellen?
Sehr wahrscheinlich, aber wir haben auf dieser Karte noch kein Bild gestoppt. Sobald wir es tun, steht die Zahl hier.
Ist KI auf der RX 5700 XT schneller oder auf dem Prozessor?
Auf der Karte, mit Abstand: 63–72 Tokens pro Sekunde gegenüber 5 auf dem Prozessor, etwa 14-mal so schnell.
Läuft Gemma 4 12B auf einer RX 5700 XT?
Nur für kurze Chats. Das größere Gemma 4 12B (6,4 GB) schrieb bei einer kurzen Frage 20–36 Tokens pro Sekunde, aber als der Chat 8.192 Tokens erreichte (ein langes Gespräch), stürzte es ab, mit fast voller Karte. Deshalb schlägt GreenCube das 12B nur auf Karten mit 10 GB oder mehr vor.
Deine eigene KI, auf deinem eigenen PC
GreenCube läuft auf deinem Computer: ohne Nutzungslimits, ohne Abo, auch ohne Internet. 9,99 €, einmal bezahlt.
GreenCube holen