Das beste lokale KI-Modell für deinen PC, nach RAM und VRAM (gemessen)
Kurze Antwort: Das beste lokale KI-Modell für deinen PC ist das größte, das komplett auf deine Grafikkarte passt, mit etwa 1,5 GB Luft. Keine Karte? Ein kleines Modell in deinem RAM. Ein kleineres Modell ganz auf der Karte schlägt ein größeres, das überläuft: Überlaufen war in unserer Messung 6-mal langsamer. Unten die Wahl für jede Art von PC, mit Geschwindigkeiten, die wir auf 10 echten PCs gemessen haben.
Das beste Modell für deinen PC
| Dein PC | Modellgröße, die passt | Was wir gemessen haben |
|---|---|---|
| Laptop mit 8 GB, ohne Grafikkarte | Klein, etwa 2–3 GB (Gemma 4 E2B, 2,6 GB) | 5–7 Tokens/s in echten Chats; vorher andere Apps schließen |
| Laptop mit 16 GB, ohne Grafikkarte | Klein fürs Tempo; etwa 4 GB geht, aber langsam | E2B 14–18 Tokens/s; E4B 8–10 |
| Grafikkarte mit 4 GB | Etwa 2–3 GB passen komplett; 4 GB laufen über | E4B (4,2 GB, teils im RAM) etwa 20 Tokens/s auf einer GTX 1650 |
| Grafikkarte mit 6 GB | Etwa 4–4,5 GB | E4B 35–38 Tokens/s auf einer GTX 1660 Super |
| Grafikkarte mit 8 GB | Etwa 4–6 GB | E4B 56–72 auf neueren Karten (etwa 11 auf einer alten RX 580) |
| Grafikkarte mit 12 GB+ | Etwa 6–10 GB: Modelle der 12B-Klasse | E4B 50–55 mit 12 GB; 12B braucht 10 GB+ für lange Chats |
Jede Karte hat ihre eigene Seite: Läuft KI auf meinem PC? Oder gib deine Karte im Karten-Check ein.
Warum „passt“ wichtiger ist als „am größten“
Läuft es über, ist es langsamer als ganz ohne Karte
Auf einer RX 5700 XT mit 8 GB schrieb Gemma 4 12B komplett auf der Karte 35,6 Tokens pro Sekunde, 5,9, als ein Teil nicht auf der Karte lag, und 4,3 mit noch weniger darauf: langsamer als ein kleineres Modell, das ganz ohne Karte läuft. Der ganze VRAM-Test.
Passt für eine Frage, stürzt im langen Chat ab
Dasselbe 12B-Modell passte für eine kurze Frage auf die Karte mit 8 GB und stürzte dann jedes Mal ab, wenn der Chat wuchs: Auch das Gespräch braucht Platz. Dafür sind die 1,5 GB Luft da.
Klein reicht oft
Auf einem Laptop mit 16 GB gab Gemma 4 E2B in 20 Sekunden eine vollständige Lernantwort und hatte 5 von 5 schnellen Faktenchecks richtig; E4B erklärte besser, brauchte aber 112 Sekunden. E2B vs. E4B, gemessen.
Die Modelle, die wir gemessen haben
| Modell | Dateigröße | Am besten auf | Lizenz |
|---|---|---|---|
| Gemma 4 E2B | 2,6 GB | Laptops, 8–16 GB RAM | Apache 2.0 |
| Gemma 4 E4B | 4,2 GB | Grafikkarten ab 6 GB | Apache 2.0 |
| Gemma 4 12B | etwa 6,4 GB | Grafikkarten ab 10–12 GB | Apache 2.0 |
Das sind die Dateien, die GreenCube mitliefert, und die einzigen, die wir gemessen haben, also geben wir nur für sie Geschwindigkeiten an. Andere Modellfamilien folgen derselben Regel: Dateigröße prüfen, etwa 1,5 GB dazurechnen, mit deinem VRAM vergleichen. Die Gemma-4-Anforderungen im Detail.
So prüfst du deinen VRAM
- Drück Strg + Umschalt + Esc, um den Task-Manager zu öffnen.
- Geh zu Leistung und dann zu GPU.
- Dedizierter GPU-Speicher ist dein VRAM. Kein dedizierter Speicher? Nimm ein kleines Modell im RAM.
Lieber gar nicht auswählen? GreenCube liest deine Karte und deinen RAM aus und wählt das Modell, das passt, mit Luft. Bei kostenlosen Apps wie LM Studio, Jan und Ollama wählst du selbst: 12 Apps im Vergleich.
Fragen
Was ist das beste lokale KI-Modell?
Das größte Modell, das komplett und mit etwa 1,5 GB Luft auf deine Grafikkarte passt. Ein kleineres Modell ganz auf der Karte schlägt ein größeres, das in den RAM überläuft: In unserem Test lief ein Modell, von dem ein Teil nicht auf einer Karte mit 8 GB lag, 6-mal langsamer.
Was ist das beste lokale KI-Modell für einen Laptop ohne Grafikkarte?
Ein kleines. Gemma 4 E2B (2,6 GB) schrieb in echten Chats 14 bis 18 Tokens pro Sekunde auf einem Laptop mit 16 GB und 5 bis 7 auf einem Laptop mit 8 GB; das größere E4B brauchte 112 Sekunden für eine Antwort, die E2B in 20 gab.
Was ist das beste lokale KI-Modell für eine Grafikkarte mit 8 GB?
Ein Modell mit etwa 4 bis 5 GB, wie Gemma 4 E4B (4,2 GB): Es schrieb 56 bis 72 Tokens pro Sekunde auf Gaming-Karten mit 8 GB. Ein Modell mit 12 Milliarden Parametern passte für kurze Fragen, stürzte aber in langen Chats ab.
Woher weiß ich, ob ein Modell auf meine Grafikkarte passt?
Nimm die Größe der Modelldatei und rechne etwa 1,5 GB für das Gespräch und Windows dazu. Wenn das weniger ist als der dedizierte GPU-Speicher deiner Karte (Task-Manager, Leistung, GPU), passt es.
Muss ich selbst ein Modell auswählen?
In kostenlosen Apps wie LM Studio, Jan oder Ollama ja. GreenCube liest deine Karte und deinen RAM aus und wählt für dich das Modell, das passt.
Deine eigene KI, auf deinem eigenen PC
GreenCube läuft auf deinem Computer: ohne Nutzungslimits, ohne Abo, auch ohne Internet. 9,99 €, einmal bezahlt.
GreenCube holen