Läuft KI auf einer RTX 3060? Gemessen: 53–55 Tokens pro Sekunde
Ja. Auf einem Desktop-PC mit einer NVIDIA RTX 3060 (12 GB) und 32 GB RAM schrieb Gemma 4 E4B 53–55 Tokens pro Sekunde. Schneller, als du liest.
Was das in der Praxis heißt
| Aufgabe | Zeit auf diesem PC |
|---|---|
| Eine normale Antwort schreiben (400 Tokens, etwa eine halbe Seite) | 7–8 s |
| Ein langes Dokument lesen, das du ihr gibst (5.000 Tokens, etwa 6 Seiten) | 4–5 s |
| Ein Bild erstellen (512×512) | 28 s |
Berechnet aus den auf diesem PC gemessenen Geschwindigkeiten: Zeit ist Länge geteilt durch Tempo, und eine echte Antwort braucht außerdem einen Moment zum Anlaufen. Zum Vergleich: Die meisten Menschen lesen etwa 4 Wörter pro Sekunde (Brysbaert, 2019), also brauchst du für eine Antwort mit 400 Tokens schon über eine Minute, nur um sie zu lesen.
Was wir gemessen haben
Schreiben heißt, wie schnell die KI ihre Antwort tippt, in Tokens pro Sekunde; ein Token ist ein Stück Wort, und im Deutschen braucht ein Wort meist ein bis zwei. Lesen heißt, wie schnell sie aufnimmt, was du ihr gibst: deine Frage, einen eingefügten Text oder ein PDF. Lesen ist immer viel schneller als Schreiben, weil die KI viele Tokens auf einmal lesen kann, sie aber einzeln schreiben muss.
| Was | Lief auf | Ergebnis | Gemessen |
|---|---|---|---|
| Gemma 4 E4B | Grafikkarte | 52,6–55,3 Tokens pro Sekunde beim Schreiben · 1.044–1.362 beim Lesen | 6. Oktober 2026 1 |
| Gemma 4 E4B | Grafikkarte | 49,6–55,4 Tokens pro Sekunde beim Schreiben | 6. Oktober 2026 2 |
| Gemma 4 E4B | nur Prozessor | 6,7–7,3 Tokens pro Sekunde beim Schreiben | 6. Oktober 2026 2 |
| Bild (512×512) | Grafikkarte | 28 s | 3. Oktober 2026 3 |
Wie jede Zahl gemessen wurde: Mehr dazu, wie wir messen
- Echte Chats in GreenCube 0.1.42–0.1.43: das Tempo jeder Antwort mit 100 Tokens oder mehr, ausgelesen aus dem Log der App. Der Bereich lässt das langsamste und das schnellste Zehntel weg.
- Der eigene Tempotest von GreenCube 0.1.42–0.1.43, den es beim Start macht, um zwischen Grafikkarte und Prozessor zu wählen: eine kurze Antwort, je einmal auf beiden geschrieben.
- Die Bild-Engine von GreenCube (Z-Image Turbo), 512×512 Pixel, 8 Schritte, gestoppt vom Klick bis zum fertigen Bild.
Wo wir mehrere Messungen haben, zeigen wir den Bereich: Das Tempo schwankt zwischen Messungen auf demselben PC etwas.
Was es bedeutet
Die Grafikkarte macht die Arbeit
Gleicher PC, gleiche KI (Gemma 4 E4B): 6,7–7,3 Tokens pro Sekunde nur mit dem Prozessor, 49,6–55,4 mit der Grafikkarte, etwa 7,5-mal so schnell. Eine Grafikkarte ist dafür gebaut, für Spiele Tausende kleiner Rechnungen gleichzeitig zu machen, und eine KI laufen zu lassen ist größtenteils genau diese Art von Mathe. GreenCube misst beim Start beides und nimmt das Schnellere.
Die ganze KI passt auf die Karte
Gemma 4 E4B ist eine 4,2-GB-Datei, und die Karte hat 12 GB eigenen Speicher (VRAM). Alles passt drauf, mit Platz für das Gespräch, also wartet die Karte nie auf den langsameren Speicher im Rest des PCs. Das ist der Hauptgrund, warum es so schnell läuft.
Das größere Gemma 4 12B
Sollte gehen. Gemma 4 12B ist eine 6,4-GB-Datei, und diese Karte hat 12 GB, also bleibt auch Platz für ein langes Gespräch. Auf dieser Karte haben wir es noch nicht gemessen.
Bilder
Ja. Ein Bild (512×512) dauerte 28 s mit der Grafikkarte. Ein Bild nutzt eine eigene KI von etwa 6 GB und viel mehr Rechenarbeit als eine Chat-Antwort, also zählt die Grafik hier noch mehr.
Wie er im Vergleich abschneidet
Von den 8 PCs, die wir mit Gemma 4 E4B gemessen haben, ist dieser Nummer 4 beim Schreibtempo. Die RTX 5060 schreibt 56 (Starttest), etwa 5 % schneller. Die RX 6600 schreibt 42–44, also ist dieser etwa 25 % schneller.
Der Test-PC
Der eigene PC eines echten Testers, so genutzt wie sonst auch, keine Labormaschine:
- Desktop-PC
- Grafik: NVIDIA RTX 3060
- Grafikspeicher (VRAM): 12 GB
- RAM: 32 GB
- Prozessor: 12 Threads
Prüf deinen eigenen PC
Du weißt nicht, was in deinem PC steckt? Das dauert 30 Sekunden:
- Drück Strg + Umschalt + Esc, um den Task-Manager zu öffnen.
- Geh zu Leistung.
- Klick auf Arbeitsspeicher: Die Zahl oben rechts ist dein RAM.
- Klick auf GPU: Der Name oben rechts ist deine Karte, und Dedizierter GPU-Speicher ist dein VRAM. Du siehst nur Intel- oder AMD-Grafik ohne dedizierten Speicher? Dann hast du keine separate Karte.
Such dann die ähnlichste Karte in der vollständigen Tabelle. Dieselbe Karte mit mehr VRAM kann eine größere KI aufnehmen; eine neuere Karte derselben Größe ist meist schneller.
Weitere PCs, die wir gemessen haben
- RTX 2080 Ti: 65–71 Tokens pro Sekunde (Gemma 4 E4B)
- RX 5700 XT: 63–72 Tokens pro Sekunde (Gemma 4 E4B)
- RTX 5060: 56 Tokens pro Sekunde (Gemma 4 E4B)
- RX 6600: 42–44 Tokens pro Sekunde (Gemma 4 E4B)
- GTX 1660 Super: 37–38 Tokens pro Sekunde (Gemma 4 E4B)
- GTX 1650: etwa 20 Tokens pro Sekunde (Gemma 4 E4B)
- Laptop mit Intel Core Ultra 5: 14–18 Tokens pro Sekunde (Gemma 4 E2B)
- RX 580: 10–11 Tokens pro Sekunde (Gemma 4 E4B)
- Laptop mit Intel Iris Xe: 5–7 Tokens pro Sekunde (Gemma 4 E2B)
Läuft KI auf meinem PC? Alle 10 PCs in einer Tabelle, und wie sich deiner anfühlen wird.
Fragen
Läuft KI lokal auf einer RTX 3060?
Ja. Auf einem Desktop-PC mit einer NVIDIA RTX 3060 (12 GB) und 32 GB RAM schrieb Gemma 4 E4B 53–55 Tokens pro Sekunde. Schneller, als du liest.
Kann man auf einer RTX 3060 KI-Bilder erstellen?
Ja. Ein Bild (512×512) dauerte 28 s mit der Grafikkarte.
Ist KI auf der RTX 3060 schneller oder auf dem Prozessor?
Auf der Karte, mit Abstand: 49,6–55,4 Tokens pro Sekunde gegenüber 6,7–7,3 auf dem Prozessor, etwa 7,5-mal so schnell.
Läuft Gemma 4 12B auf einer RTX 3060?
Sollte gehen. Gemma 4 12B ist eine 6,4-GB-Datei, und diese Karte hat 12 GB, also bleibt auch Platz für ein langes Gespräch. Auf dieser Karte haben wir es noch nicht gemessen.
Deine eigene KI, auf deinem eigenen PC
GreenCube läuft auf deinem Computer: ohne Nutzungslimits, ohne Abo, auch ohne Internet. 9,99 €, einmal bezahlt.
GreenCube holen