GreenCube
ID
Dapatkan GreenCube

Blog GreenCube

Bisakah RX 5700 XT menjalankan AI? Terukur: 63–72 token per detik

Ya. Di PC desktop dengan AMD RX 5700 XT (8 GB) dan RAM 48 GB, Gemma 4 E4B menulis 63–72 token per detik. Kamu membaca sekitar 8, jadi jawabannya keluar lebih cepat daripada kamu membacanya.

63–72token per detik dengan Gemma 4 E4B
14×lebih cepat di kartu daripada di prosesor
20–36dengan Gemma 4 12B (hanya chat pendek)

Artinya dalam praktik

TugasWaktu di PC ini
Menulis jawaban biasa (400 token, sekitar setengah halaman)6 detik
Membaca dokumen panjang yang kamu berikan (5.000 token, sekitar 5 halaman)8 detik

Dihitung dari kecepatan yang diukur di PC ini: waktu adalah panjang dibagi kecepatan, dan jawaban sungguhan juga butuh sesaat untuk mulai. Sebagai gambaran, kebanyakan orang membaca sekitar 4 kata per detik (Brysbaert, 2019), jadi membaca jawaban 400 token saja butuh sekitar satu menit.

Apa yang kami ukur

Menulis adalah seberapa cepat AI mengetik jawabannya, dalam token per detik; token adalah potongan kata, dan satu kata bahasa Indonesia sering terdiri dari dua token atau lebih. Membaca adalah seberapa cepat ia menerima apa yang kamu berikan: pertanyaanmu, teks yang ditempel, atau PDF. Membaca selalu jauh lebih cepat daripada menulis, karena AI bisa membaca banyak token sekaligus tapi harus menulisnya satu per satu.

ApaBerjalan diHasilDiukur
Gemma 4 E4Bkartu grafis63–72 token per detik menulis · 594–609 membaca22 September 2026
Gemma 4 E4Bhanya prosesor5 token per detik menulis · 357 membaca22 September 2026
Gemma 4 12Bkartu grafis20–36 token per detik menulis · 108–113 membaca22 September 2026

Cara setiap angka diukur: Selengkapnya tentang cara kami mengukur

  1. Tes kecepatan llama.cpp sendiri (llama-bench), mesin yang menjalankan GreenCube, dengan file AI yang sama: 128 token ditulis, teks 512 token dibaca.

Kalau kami punya beberapa pengukuran, kami tampilkan rentangnya: kecepatan sedikit berubah antar pengukuran di PC yang sama.

Apa artinya

Kartu grafis yang bekerja

PC yang sama, AI yang sama (Gemma 4 E4B): 5 token per detik di prosesor saja, 63–72 di kartu grafis, sekitar 14 kali lebih cepat. Kartu grafis dibuat untuk mengerjakan ribuan hitungan kecil sekaligus untuk game, dan menjalankan AI sebagian besar adalah jenis matematika yang sama. GreenCube mengukur keduanya saat mulai dan memakai yang lebih cepat.

Seluruh AI muat di kartu

Gemma 4 E4B adalah file 4,2 GB dan kartu ini punya memori sendiri (VRAM) 8 GB. Semuanya muat, masih ada ruang untuk percakapan, jadi kartu tidak pernah menunggu memori yang lebih lambat di bagian lain PC. Itu alasan terbesar kenapa ia secepat ini.

Gemma 4 12B yang lebih besar

Hanya untuk chat pendek. Gemma 4 12B yang lebih besar (6,4 GB) menulis 20–36 token per detik untuk pertanyaan pendek, tapi begitu chat mencapai 8.192 token (percakapan panjang), ia crash karena kartunya hampir penuh. Itulah kenapa GreenCube hanya menyarankan 12B di kartu dengan 10 GB atau lebih.

Gambar

Kemungkinan besar bisa, tapi kami belum mengukur waktu gambar di kartu ini. Kalau sudah, angkanya akan ada di sini. Gambar memakai AI-nya sendiri sekitar 6 GB dan jauh lebih banyak matematika daripada jawaban chat, jadi grafis di sini jauh lebih berpengaruh.

Perbandingannya

Dari 8 PC yang kami ukur dengan Gemma 4 E4B, PC ini nomor 2 untuk kecepatan menulis. RTX 2080 Ti menulis 65–71, kurang lebih sama. RTX 5060 menulis 56 (tes awal), jadi yang ini sekitar 20% lebih cepat.

Kami mengukur 4 kartu dengan 8 GB, dan hasilnya sangat berbeda:

Memori menentukan AI mana yang muat. Seberapa baru kartunya menentukan seberapa cepat ia berjalan.

PC uji

PC milik penguji sungguhan, dipakai seperti biasanya, bukan mesin lab:

Cek PC-mu sendiri

Tidak yakin isi PC-mu? Cuma butuh 30 detik:

  1. Tekan Ctrl + Shift + Esc untuk membuka Task Manager.
  2. Buka Performance (Kinerja).
  3. Klik Memory (Memori): angka di kanan atas adalah RAM-mu.
  4. Klik GPU: nama di kanan atas adalah kartumu, dan Dedicated GPU memory (Memori GPU khusus) adalah VRAM-mu. Hanya melihat grafis Intel atau AMD tanpa memori khusus? Berarti kamu tidak punya kartu terpisah.

Lalu cari kartu terdekat di tabel lengkap. Kartu yang sama dengan VRAM lebih besar bisa memuat AI yang lebih besar; kartu yang lebih baru dengan ukuran sama biasanya lebih cepat.

PC lain yang kami ukur

Bisakah PC-ku menjalankan AI? Semua 10 PC dalam satu tabel, dan bagaimana rasanya di PC-mu.

Pertanyaan

Bisakah RX 5700 XT menjalankan AI secara lokal?

Ya. Di PC desktop dengan AMD RX 5700 XT (8 GB) dan RAM 48 GB, Gemma 4 E4B menulis 63–72 token per detik. Kamu membaca sekitar 8, jadi jawabannya keluar lebih cepat daripada kamu membacanya.

Bisakah RX 5700 XT membuat gambar AI?

Kemungkinan besar bisa, tapi kami belum mengukur waktu gambar di kartu ini. Kalau sudah, angkanya akan ada di sini.

Apakah AI lebih cepat di RX 5700 XT atau di prosesor?

Di kartu, jauh: 63–72 token per detik dibanding 5 di prosesor, sekitar 14 kali lebih cepat.

Bisakah RX 5700 XT menjalankan Gemma 4 12B?

Hanya untuk chat pendek. Gemma 4 12B yang lebih besar (6,4 GB) menulis 20–36 token per detik untuk pertanyaan pendek, tapi begitu chat mencapai 8.192 token (percakapan panjang), ia crash karena kartunya hampir penuh. Itulah kenapa GreenCube hanya menyarankan 12B di kartu dengan 10 GB atau lebih.

AI milikmu sendiri, di PC-mu sendiri

GreenCube berjalan di komputermu: tanpa batas pemakaian, tanpa langganan, jalan tanpa internet. €9,99, bayar sekali.

Dapatkan GreenCube