Läuft KI auf einer RTX 5060? Gemessen: 56 Tokens pro Sekunde
Ja. Auf einem Desktop-PC mit einer NVIDIA RTX 5060 (8 GB) und 32 GB RAM schrieb Gemma 4 E4B 56 Tokens pro Sekunde. Schneller, als du liest.
Was das in der Praxis heißt
| Aufgabe | Zeit auf diesem PC |
|---|---|
| Eine normale Antwort schreiben (400 Tokens, etwa eine halbe Seite) | 7 s |
Berechnet aus den auf diesem PC gemessenen Geschwindigkeiten: Zeit ist Länge geteilt durch Tempo, und eine echte Antwort braucht außerdem einen Moment zum Anlaufen. Zum Vergleich: Die meisten Menschen lesen etwa 4 Wörter pro Sekunde (Brysbaert, 2019), also brauchst du für eine Antwort mit 400 Tokens schon über eine Minute, nur um sie zu lesen.
Was wir gemessen haben
Schreiben heißt, wie schnell die KI ihre Antwort tippt, in Tokens pro Sekunde; ein Token ist ein Stück Wort, und im Deutschen braucht ein Wort meist ein bis zwei. Lesen heißt, wie schnell sie aufnimmt, was du ihr gibst: deine Frage, einen eingefügten Text oder ein PDF. Lesen ist immer viel schneller als Schreiben, weil die KI viele Tokens auf einmal lesen kann, sie aber einzeln schreiben muss.
| Was | Lief auf | Ergebnis | Gemessen |
|---|---|---|---|
| Gemma 4 E4B | Grafikkarte | 55,9 Tokens pro Sekunde beim Schreiben | 1. Oktober 2026 |
| Gemma 4 E4B | nur Prozessor | 12,1 Tokens pro Sekunde beim Schreiben | 1. Oktober 2026 |
Wie jede Zahl gemessen wurde: Mehr dazu, wie wir messen
- Der eigene Tempotest von GreenCube 0.1.42, den es beim Start macht, um zwischen Grafikkarte und Prozessor zu wählen: eine kurze Antwort, je einmal auf beiden geschrieben.
Wo wir mehrere Messungen haben, zeigen wir den Bereich: Das Tempo schwankt zwischen Messungen auf demselben PC etwas.
Was es bedeutet
Die Grafikkarte macht die Arbeit
Gleicher PC, gleiche KI (Gemma 4 E4B): 12,1 Tokens pro Sekunde nur mit dem Prozessor, 55,9 mit der Grafikkarte, etwa 4,6-mal so schnell. Eine Grafikkarte ist dafür gebaut, für Spiele Tausende kleiner Rechnungen gleichzeitig zu machen, und eine KI laufen zu lassen ist größtenteils genau diese Art von Mathe. GreenCube misst beim Start beides und nimmt das Schnellere.
Die ganze KI passt auf die Karte
Gemma 4 E4B ist eine 4,2-GB-Datei, und die Karte hat 8 GB eigenen Speicher (VRAM). Alles passt drauf, mit Platz für das Gespräch, also wartet die Karte nie auf den langsameren Speicher im Rest des PCs. Das ist der Hauptgrund, warum es so schnell läuft.
Das größere Gemma 4 12B
Nicht bequem. GreenCube schlägt das größere Gemma 4 12B nur auf Karten mit 10 GB VRAM oder mehr vor, und diese hat 8. Auf einer AMD RX 5700 XT mit 8 GB beantwortete es kurze Fragen und stürzte dann in einem langen Chat ab.
Bilder
Sehr wahrscheinlich, aber wir haben auf dieser Karte noch kein Bild gestoppt. Sobald wir es tun, steht die Zahl hier. Ein Bild nutzt eine eigene KI von etwa 6 GB und viel mehr Rechenarbeit als eine Chat-Antwort, also zählt die Grafik hier noch mehr.
Wie er im Vergleich abschneidet
Von den 8 PCs, die wir mit Gemma 4 E4B gemessen haben, ist dieser Nummer 3 beim Schreibtempo. Die RX 5700 XT schreibt 63–72, etwa 20 % schneller. Die RTX 3060 schreibt 53–55, also ist dieser etwa 5 % schneller.
Wir haben 4 Karten mit 8 GB gemessen, und sie liegen weit auseinander:
- RX 5700 XT: 63–72 Tokens pro Sekunde
- RTX 5060: 56 Tokens pro Sekunde (Starttest)
- RX 6600: 42–44 Tokens pro Sekunde
- RX 580: 10–11 Tokens pro Sekunde
Der Speicher entscheidet, welche KI passt. Wie neu die Karte ist, entscheidet, wie schnell sie läuft.
Der Test-PC
Der eigene PC eines echten Testers, so genutzt wie sonst auch, keine Labormaschine:
- Desktop-PC
- Grafik: NVIDIA RTX 5060
- Grafikspeicher (VRAM): 8 GB
- RAM: 32 GB
- Prozessor: 16 Threads
Prüf deinen eigenen PC
Du weißt nicht, was in deinem PC steckt? Das dauert 30 Sekunden:
- Drück Strg + Umschalt + Esc, um den Task-Manager zu öffnen.
- Geh zu Leistung.
- Klick auf Arbeitsspeicher: Die Zahl oben rechts ist dein RAM.
- Klick auf GPU: Der Name oben rechts ist deine Karte, und Dedizierter GPU-Speicher ist dein VRAM. Du siehst nur Intel- oder AMD-Grafik ohne dedizierten Speicher? Dann hast du keine separate Karte.
Such dann die ähnlichste Karte in der vollständigen Tabelle. Dieselbe Karte mit mehr VRAM kann eine größere KI aufnehmen; eine neuere Karte derselben Größe ist meist schneller.
Weitere PCs, die wir gemessen haben
- RTX 2080 Ti: 65–71 Tokens pro Sekunde (Gemma 4 E4B)
- RX 5700 XT: 63–72 Tokens pro Sekunde (Gemma 4 E4B)
- RTX 3060: 53–55 Tokens pro Sekunde (Gemma 4 E4B)
- RX 6600: 42–44 Tokens pro Sekunde (Gemma 4 E4B)
- GTX 1660 Super: 37–38 Tokens pro Sekunde (Gemma 4 E4B)
- GTX 1650: etwa 20 Tokens pro Sekunde (Gemma 4 E4B)
- Laptop mit Intel Core Ultra 5: 14–18 Tokens pro Sekunde (Gemma 4 E2B)
- RX 580: 10–11 Tokens pro Sekunde (Gemma 4 E4B)
- Laptop mit Intel Iris Xe: 5–7 Tokens pro Sekunde (Gemma 4 E2B)
Läuft KI auf meinem PC? Alle 10 PCs in einer Tabelle, und wie sich deiner anfühlen wird.
Fragen
Läuft KI lokal auf einer RTX 5060?
Ja. Auf einem Desktop-PC mit einer NVIDIA RTX 5060 (8 GB) und 32 GB RAM schrieb Gemma 4 E4B 56 Tokens pro Sekunde. Schneller, als du liest.
Kann man auf einer RTX 5060 KI-Bilder erstellen?
Sehr wahrscheinlich, aber wir haben auf dieser Karte noch kein Bild gestoppt. Sobald wir es tun, steht die Zahl hier.
Ist KI auf der RTX 5060 schneller oder auf dem Prozessor?
Auf der Karte, mit Abstand: 55,9 Tokens pro Sekunde gegenüber 12,1 auf dem Prozessor, etwa 4,6-mal so schnell.
Läuft Gemma 4 12B auf einer RTX 5060?
Nicht bequem. GreenCube schlägt das größere Gemma 4 12B nur auf Karten mit 10 GB VRAM oder mehr vor, und diese hat 8. Auf einer AMD RX 5700 XT mit 8 GB beantwortete es kurze Fragen und stürzte dann in einem langen Chat ab.
Deine eigene KI, auf deinem eigenen PC
GreenCube läuft auf deinem Computer: ohne Nutzungslimits, ohne Abo, auch ohne Internet. 9,99 €, einmal bezahlt.
GreenCube holen