GreenCube
VI
Mua GreenCube

Blog GreenCube

RTX 5060 có chạy được AI không? Đo được: 56 token mỗi giây

Có. Trên máy bàn có NVIDIA RTX 5060 (8 GB) và RAM 32 GB, Gemma 4 E4B viết 56 token mỗi giây. Nhanh hơn tốc độ bạn đọc.

56token mỗi giây với Gemma 4 E4B
4,6×nhanh hơn trên card so với bộ xử lý

Trên thực tế nghĩa là gì

ViệcThời gian trên máy này
Viết một câu trả lời bình thường (400 token, khoảng nửa trang)7 giây

Tính từ tốc độ đo trên máy này: thời gian là độ dài chia cho tốc độ, và một câu trả lời thật còn cần một chút để bắt đầu. Để dễ hình dung, câu trả lời 400 token dài khoảng nửa trang, và phần lớn mọi người đọc khoảng 4 từ mỗi giây (Brysbaert, 2019).

Chúng tôi đã đo gì

Viết là tốc độ AI gõ câu trả lời, tính bằng token mỗi giây; token là một mảnh của từ. Đọc là tốc độ nó tiếp nhận những gì bạn đưa: câu hỏi, đoạn văn bạn dán hoặc một tệp PDF. Đọc luôn nhanh hơn viết rất nhiều, vì AI có thể đọc nhiều token cùng lúc nhưng phải viết từng token một.

Cái gìChạy trênKết quảNgày đo
Gemma 4 E4Bcard đồ họa55,9 token mỗi giây viết1 tháng 10, 2026
Gemma 4 E4Bchỉ bộ xử lý12,1 token mỗi giây viết1 tháng 10, 2026

Cách đo từng con số: Xem thêm cách chúng tôi đo

  1. Bài kiểm tra tốc độ của chính GreenCube 0.1.42, chạy khi khởi động để chọn giữa card đồ họa và bộ xử lý: một câu trả lời ngắn được viết một lần trên mỗi bên.

Khi có nhiều lần đo, chúng tôi ghi khoảng: tốc độ thay đổi một chút giữa các lần đo trên cùng một máy.

Điều đó nghĩa là gì

Card đồ họa làm phần việc

Cùng máy, cùng AI (Gemma 4 E4B): 12,1 token mỗi giây chỉ với bộ xử lý, 55,9 trên card đồ họa, nhanh hơn khoảng 4,6 lần. Card đồ họa được làm ra để tính hàng nghìn phép tính nhỏ cùng lúc cho game, và chạy AI phần lớn cũng là kiểu toán đó. GreenCube đo cả hai khi khởi động và dùng cái nhanh hơn.

Toàn bộ AI nằm gọn trên card

Gemma 4 E4B là tệp 4,2 GB và card có 8 GB bộ nhớ riêng (VRAM). Toàn bộ nằm gọn, còn dư chỗ cho cuộc trò chuyện, nên card không bao giờ phải chờ bộ nhớ chậm hơn ở phần còn lại của máy. Đó là lý do lớn nhất khiến nó chạy nhanh như vậy.

Gemma 4 12B lớn hơn

Không thoải mái. GreenCube chỉ đề xuất Gemma 4 12B lớn hơn trên card có VRAM 10 GB trở lên, còn card này có 8. Trên một AMD RX 5700 XT 8 GB, nó trả lời được câu hỏi ngắn, rồi bị crash trong cuộc chat dài.

Ảnh

Rất có thể, nhưng chúng tôi chưa đo thời gian tạo ảnh trên card này. Khi đo xong, con số sẽ có ở đây. Tạo ảnh dùng một AI riêng khoảng 6 GB và tốn nhiều phép tính hơn hẳn một câu trả lời chat, nên đồ họa ở đây càng quan trọng hơn.

So với các máy khác

Trong 8 máy chúng tôi đo với Gemma 4 E4B, máy này đứng thứ 3 về tốc độ viết. RX 5700 XT viết 63–72, nhanh hơn khoảng 20%. RTX 3060 viết 53–55, nên máy này nhanh hơn khoảng 5%.

Chúng tôi đã đo 4 card 8 GB, và chúng chênh nhau rất xa:

Bộ nhớ quyết định AI nào vừa. Card mới đến đâu quyết định nó chạy nhanh đến đâu.

Máy thử nghiệm

Máy riêng của một người thử thật, dùng theo cách họ vẫn dùng, không phải máy phòng thí nghiệm:

Kiểm tra máy của bạn

Không chắc máy bạn có gì? Chỉ mất 30 giây:

  1. Nhấn Ctrl + Shift + Esc để mở Task Manager (Trình quản lý tác vụ).
  2. Vào Performance (Hiệu suất).
  3. Bấm Memory (Bộ nhớ): con số lớn ở trên cùng là RAM của bạn.
  4. Bấm GPU: tên ở trên cùng là card của bạn, và Dedicated GPU memory (Bộ nhớ GPU chuyên dụng) là VRAM của bạn. Chỉ thấy đồ họa Intel hoặc AMD không có bộ nhớ riêng? Vậy là bạn không có card rời.

Sau đó tìm card gần nhất trong bảng đầy đủ. Cùng một card nhưng VRAM nhiều hơn chứa được AI lớn hơn; card mới hơn cùng dung lượng thường nhanh hơn.

Các máy khác chúng tôi đã đo

Máy mình có chạy được AI không? Cả 10 máy trong một bảng, và máy bạn sẽ chạy thế nào.

Câu hỏi

RTX 5060 có chạy được AI trên máy không?

Có. Trên máy bàn có NVIDIA RTX 5060 (8 GB) và RAM 32 GB, Gemma 4 E4B viết 56 token mỗi giây. Nhanh hơn tốc độ bạn đọc.

RTX 5060 có tạo được ảnh AI không?

Rất có thể, nhưng chúng tôi chưa đo thời gian tạo ảnh trên card này. Khi đo xong, con số sẽ có ở đây.

AI chạy nhanh hơn trên RTX 5060 hay trên bộ xử lý?

Trên card, chênh lệch lớn: 55,9 token mỗi giây so với 12,1 trên bộ xử lý, nhanh khoảng 4,6 lần.

RTX 5060 có chạy được Gemma 4 12B không?

Không thoải mái. GreenCube chỉ đề xuất Gemma 4 12B lớn hơn trên card có VRAM 10 GB trở lên, còn card này có 8. Trên một AMD RX 5700 XT 8 GB, nó trả lời được câu hỏi ngắn, rồi bị crash trong cuộc chat dài.

AI của riêng bạn, trên máy của riêng bạn

GreenCube chạy trên máy tính của bạn: không giới hạn sử dụng, không thuê bao, chạy không cần internet. €9,99, trả một lần.

Mua GreenCube