PC'n için en iyi yerel yapay zekâ modeli, RAM ve VRAM'e göre (ölçüldü)
Kısa yanıt: senin PC'n için en iyi yerel yapay zekâ modeli, ekran kartına yaklaşık 1,5 GB boş yer bırakarak tamamen sığan en büyük modeldir. Ekran kartın yok mu? O zaman RAM'inde küçük bir model. Tamamı kartta olan daha küçük bir model, taşan daha büyük bir modeli yener: taşan modeli 6 kat daha yavaş ölçtük. Aşağıda her PC türü için seçim var, 10 gerçek PC'de ölçtüğümüz hızlarla.
PC'n için en iyi model
| PC'n | Sığan model boyutu | Ne ölçtük |
|---|---|---|
| 8 GB dizüstü, ekran kartı yok | Küçük, yaklaşık 2–3 GB (Gemma 4 E2B, 2,6 GB) | Gerçek sohbetlerde 5–7 token/sn; önce diğer uygulamaları kapat |
| 16 GB dizüstü, ekran kartı yok | Hız için küçük; yaklaşık 4 GB çalışır ama yavaş | E2B 14–18 token/sn; E4B 8–10 |
| 4 GB ekran kartı | Yaklaşık 2–3 GB tamamen sığar; 4 GB taşar | E4B (4,2 GB, bir kısmı RAM'de) GTX 1650'de yaklaşık 20 token/sn |
| 6 GB ekran kartı | Yaklaşık 4–4,5 GB | E4B, GTX 1660 Super'da 35–38 token/sn |
| 8 GB ekran kartı | Yaklaşık 4–6 GB | E4B, yeni kartlarda 56–72 (eski bir RX 580'de yaklaşık 11) |
| 12 GB+ ekran kartı | Yaklaşık 6–10 GB: 12B sınıfı modeller | E4B, 12 GB'ta 50–55; 12B uzun sohbetler için 10 GB+ ister |
Her kartın kendi sayfası var: PC'mde yapay zekâ çalışır mı? Ya da kartını kontrol aracımıza yaz.
Neden sığması, en büyük olmasından daha önemli
Taşarsa hiç kart olmamasından bile yavaş
8 GB'lık bir RX 5700 XT'de Gemma 4 12B, tamamı karttayken saniyede 35,6 token, bir kısmı kartın dışındayken 5,9 token, kartta daha da azı varken 4,3 token yazdı: kart olmadan çalışan daha küçük bir modelden bile yavaş. VRAM testinin tamamı.
Tek soruya sığar, uzun sohbette çöker
Aynı 12B model kısa bir soru için 8 GB'lık karta sığdı, sonra sohbet her uzadığında çöktü: sohbetin de yere ihtiyacı var. 1,5 GB'lık boş yer bunun için.
Küçük çoğu zaman yeterli
16 GB'lık bir dizüstünde Gemma 4 E2B, 20 saniyede eksiksiz bir ders çalışma yanıtı verdi ve 5 hızlı bilgi kontrolünün 5'ini de doğru yaptı; E4B daha iyi açıkladı ama 112 saniye sürdü. E2B ve E4B, ölçüldü.
Ölçtüğümüz modeller
| Model | Dosya boyutu | En iyi olduğu yer | Lisans |
|---|---|---|---|
| Gemma 4 E2B | 2,6 GB | 8–16 GB RAM'li dizüstüler | Apache 2.0 |
| Gemma 4 E4B | 4,2 GB | 6 GB veya daha fazla belleği olan ekran kartları | Apache 2.0 |
| Gemma 4 12B | yaklaşık 6,4 GB | 10–12 GB veya daha fazla belleği olan ekran kartları | Apache 2.0 |
Bunlar GreenCube ile gelen dosyalar ve süresini ölçtüğümüz tek dosyalar; bu yüzden yalnızca onlar için hız veriyoruz. Diğer model aileleri de aynı kurala uyar: dosya boyutuna bak, yaklaşık 1,5 GB ekle, VRAM'inle karşılaştır. Ayrıntılı Gemma 4 gereksinimleri.
VRAM'ini nasıl kontrol edersin
- Görev Yöneticisi'ni açmak için Ctrl + Shift + Esc tuşlarına bas.
- Performans sekmesine, sonra GPU'ya git.
- Ayrılmış GPU belleği senin VRAM'in. Ayrılmış bellek yok mu? RAM'de küçük bir model kullan.
Hiç seçmek istemiyor musun? GreenCube kartını ve RAM'ini okur ve boş yer bırakarak sığan modeli seçer. LM Studio, Jan ve Ollama gibi ücretsiz uygulamalar seçimi sana bırakır: 12 uygulama karşılaştırıldı.
Sorular
En iyi yerel yapay zekâ modeli hangisi?
Ekran kartına yaklaşık 1,5 GB boş yer bırakarak tamamen sığan en büyük model. Tamamı kartta olan daha küçük bir model, RAM'e taşan daha büyük bir modeli yener: testimizde bir kısmı 8 GB'lık kartın dışında kalan bir model 6 kat daha yavaş çalıştı.
Ekran kartı olmayan bir dizüstü için en iyi yerel yapay zekâ modeli hangisi?
Küçük bir model. Gemma 4 E2B (2,6 GB) gerçek sohbetlerde 16 GB'lık bir dizüstünde saniyede 14 ila 18, 8 GB'lık bir dizüstünde 5 ila 7 token yazdı; daha büyük E4B, E2B'nin 20 saniyede verdiği bir yanıt için 112 saniye harcadı.
8 GB'lık bir ekran kartı için en iyi yerel yapay zekâ modeli hangisi?
Yaklaşık 4–5 GB'lık bir model, örneğin Gemma 4 E4B (4,2 GB): 8 GB'lık oyun kartlarında saniyede 56 ila 72 token yazdı. 12 milyar parametreli bir model kısa sorular için sığdı ama uzun sohbetlerde çöktü.
Bir modelin ekran kartıma sığıp sığmadığını nasıl anlarım?
Model dosyasının boyutunu al ve sohbet ile Windows için yaklaşık 1,5 GB ekle. Sonuç, kartının ayrılmış GPU belleğinden (Görev Yöneticisi, Performans, GPU) azsa sığar.
Modeli kendim mi seçmem gerekiyor?
LM Studio, Jan ya da Ollama gibi ücretsiz uygulamalarda evet. GreenCube kartını ve RAM'ini okur ve sığan modeli senin için seçer.
Kendi yapay zekân, kendi PC'nde
GreenCube bilgisayarında çalışır: kullanım sınırı yok, abonelik yok, internetsiz çalışır. 9,99 €, tek seferlik ödeme.
GreenCube'u al