Model AI lokal terbaik untuk PC-mu, menurut RAM dan VRAM (diukur)
Jawaban singkat: model AI lokal terbaik untuk PC milikmu adalah model terbesar yang muat utuh di kartu grafismu, dengan sisa sekitar 1,5 GB. Tidak punya kartu? Model kecil di RAM-mu. Model lebih kecil yang utuh di kartu lebih baik daripada model lebih besar yang meluber: kami mengukur luberan itu 6 kali lebih lambat. Di bawah ini ada pilihan untuk setiap jenis PC, dengan kecepatan yang kami ukur di 10 PC sungguhan.
Model terbaik untuk PC-mu
| PC-mu | Ukuran model yang muat | Yang kami ukur |
|---|---|---|
| Laptop 8 GB, tanpa kartu grafis | Kecil, sekitar 2–3 GB (Gemma 4 E2B, 2,6 GB) | 5–7 token/detik dalam chat nyata; tutup aplikasi lain dulu |
| Laptop 16 GB, tanpa kartu grafis | Kecil demi kecepatan; sekitar 4 GB bisa jalan tapi lambat | E2B 14–18 token/detik; E4B 8–10 |
| Kartu grafis 4 GB | Sekitar 2–3 GB muat utuh; 4 GB meluber | E4B (4,2 GB, sebagian di RAM) sekitar 20 token/detik di GTX 1650 |
| Kartu grafis 6 GB | Sekitar 4–4,5 GB | E4B 35–38 token/detik di GTX 1660 Super |
| Kartu grafis 8 GB | Sekitar 4–6 GB | E4B 56–72 di kartu baru (sekitar 11 di RX 580 lama) |
| Kartu grafis 12 GB+ | Sekitar 6–10 GB: model kelas 12B | E4B 50–55 di 12 GB; 12B butuh 10 GB+ untuk chat panjang |
Setiap kartu punya halamannya sendiri: Bisakah PC-ku menjalankan AI? Atau ketik kartumu di pemeriksa.
Kenapa "muat" lebih penting daripada "terbesar"
Kalau meluber, lebih lambat daripada tanpa kartu sama sekali
Di RX 5700 XT 8 GB, Gemma 4 12B menulis 35,6 token per detik saat utuh di kartu, 5,9 saat sebagiannya di luar kartu, dan 4,3 saat bagian di kartu lebih sedikit lagi: lebih lambat daripada model lebih kecil yang berjalan tanpa kartu. Tes VRAM lengkap.
Muat untuk satu pertanyaan, crash di chat panjang
Model 12B yang sama muat di kartu 8 GB untuk pertanyaan pendek, lalu crash setiap kali chat bertambah panjang: percakapan juga butuh ruang. Itulah gunanya sisa 1,5 GB tadi.
Kecil sering kali sudah cukup
Di laptop 16 GB, Gemma 4 E2B memberi jawaban belajar yang lengkap dalam 20 detik dan menjawab benar 5 dari 5 cek fakta singkat; E4B menjelaskan lebih baik tapi butuh 112 detik. E2B vs E4B, diukur.
Model yang kami ukur
| Model | Ukuran file | Paling cocok di | Lisensi |
|---|---|---|---|
| Gemma 4 E2B | 2,6 GB | Laptop, RAM 8–16 GB | Apache 2.0 |
| Gemma 4 E4B | 4,2 GB | Kartu grafis 6 GB atau lebih | Apache 2.0 |
| Gemma 4 12B | sekitar 6,4 GB | Kartu grafis 10–12 GB atau lebih | Apache 2.0 |
Ini adalah file yang dibawa GreenCube dan satu-satunya yang sudah kami ukur waktunya, jadi hanya untuk file inilah kami memberi kecepatan. Keluarga model lain mengikuti aturan yang sama: cek ukuran file, tambahkan sekitar 1,5 GB, lalu bandingkan dengan VRAM-mu. Persyaratan Gemma 4 secara detail.
Cara mengecek VRAM-mu
- Tekan Ctrl + Shift + Esc untuk membuka Task Manager.
- Buka Performance (Kinerja), lalu GPU.
- Dedicated GPU memory (Memori GPU khusus) adalah VRAM-mu. Tidak ada memori khusus? Pakai model kecil di RAM.
Tidak mau memilih sama sekali? GreenCube membaca kartu dan RAM-mu lalu memilih model yang muat, dengan ruang tersisa. Aplikasi gratis seperti LM Studio, Jan, dan Ollama membiarkanmu memilih sendiri: 12 aplikasi dibandingkan.
Pertanyaan
Apa model AI lokal terbaik?
Model terbesar yang muat utuh di kartu grafismu dengan sisa sekitar 1,5 GB. Model lebih kecil yang utuh di kartu lebih baik daripada model lebih besar yang meluber ke RAM: dalam tes kami, model yang sebagiannya di luar kartu 8 GB berjalan 6 kali lebih lambat.
Apa model AI lokal terbaik untuk laptop tanpa kartu grafis?
Yang kecil. Gemma 4 E2B (2,6 GB) menulis 14 sampai 18 token per detik di laptop 16 GB dan 5 sampai 7 di laptop 8 GB dalam chat nyata; E4B yang lebih besar butuh 112 detik untuk jawaban yang diberikan E2B dalam 20 detik.
Apa model AI lokal terbaik untuk kartu grafis 8 GB?
Model sekitar 4 sampai 5 GB, seperti Gemma 4 E4B (4,2 GB): ia menulis 56 sampai 72 token per detik di kartu gaming 8 GB. Model 12 miliar parameter muat untuk pertanyaan pendek, tapi crash di chat panjang.
Bagaimana aku tahu sebuah model muat di kartu grafisku?
Ambil ukuran file model dan tambahkan sekitar 1,5 GB untuk percakapan dan Windows. Kalau hasilnya lebih kecil dari memori GPU khusus kartumu (Task Manager, Performance, GPU), berarti muat.
Apakah aku harus memilih model sendiri?
Di aplikasi gratis seperti LM Studio, Jan, atau Ollama, ya. GreenCube membaca kartu dan RAM-mu lalu memilihkan model yang muat untukmu.
AI milikmu sendiri, di PC-mu sendiri
GreenCube berjalan di komputermu: tanpa batas pemakaian, tanpa langganan, jalan tanpa internet. €9,99, bayar sekali.
Dapatkan GreenCube