Blog GreenCube

Cách chúng tôi đo tốc độ AI trên máy thật, và vì sao chúng tôi không đoán

Tác giả: Hector Gras · 14 tháng 10, 2026

Chúng tôi đo gì

Ba thứ, vì đó là những gì bạn cảm nhận khi dùng AI trên máy của mình:

• Tốc độ viết: AI gõ câu trả lời nhanh đến đâu, tính bằng token mỗi giây. Token là một mảnh của từ, và số token trong một từ khác nhau theo ngôn ngữ, nên chúng tôi không đổi các tốc độ này ra số từ. Đại khái: vài token mỗi giây gần bằng tốc độ đọc, vài chục token mỗi giây nhanh hơn hẳn.
• Tốc độ đọc: nó tiếp nhận những gì bạn đưa nhanh đến đâu: câu hỏi, đoạn văn dán vào hoặc tệp PDF. Luôn nhanh hơn viết rất nhiều, vì AI đọc nhiều token cùng lúc nhưng viết từng token một.
• Thời gian tạo ảnh: một ảnh 512×512 mất bao lâu, từ lúc bấm đến khi ảnh xong.

Chúng tôi đo các AI mà GreenCube cung cấp, đúng những tệp mà mọi người dùng tải về: Gemma 4 E2B (2,6 GB), Gemma 4 E4B (4,2 GB) và Gemma 4 12B (6,4 GB) của Google cho chat, và Z-Image Turbo cho ảnh. Một AI khác, hoặc cùng AI nhưng nén theo cách khác, sẽ cho số khác, nên chúng tôi chỉ so sánh những thứ tương đương.

Cách chúng tôi đo

Bốn cách, và mỗi con số trên blog đều ghi nó đến từ cách nào:

Chat thật là bằng chứng tốt nhất, vì đó là thứ bạn sẽ cảm nhận, nên con số chính trên mỗi trang đến từ chat thật bất cứ khi nào có. Bài kiểm tra khởi động chỉ là một câu trả lời ngắn, nên chúng tôi dùng nó để so card với bộ xử lý (nó đo cả hai theo cùng một cách), và chỉ dùng làm con số chính khi người thử không gửi câu trả lời dài nào.

Mọi máy chúng tôi đã đo

Máy riêng của những người thử thật, dùng theo cách họ vẫn dùng, không phải máy phòng thí nghiệm. Chúng tôi không công bố tên họ.

Vì sao các con số là một khoảng

• Ứng dụng khác. Trình duyệt, trình chạy game hay cuộc gọi video dùng chung bộ nhớ và card đồ họa.
• Lần đầu chậm hơn. Câu trả lời đầu tiên sau khi cài, hoặc ảnh đầu tiên, gồm cả việc tải và chuẩn bị card. Chúng tôi ghi rõ ở chỗ cần thiết (ví dụ "lần đầu mất 83 giây khi đang tải").
• Câu trả lời ngắn đo ra chậm hơn. Mỗi câu trả lời có một khoảng khởi đầu cố định nhỏ, chiếm tỷ trọng lớn hơn ở câu 20 token so với câu 400 token. Vì vậy khoảng của chat thật chỉ tính câu trả lời từ 100 token trở lên, và chúng tôi ghi chú khi người thử chỉ gửi câu ngắn.
• Chúng tôi bỏ các giá trị cực đoan. Khoảng của chat thật đi từ phân vị thứ 10 đến thứ 90, nên một câu trả lời bất thường không thể làm lệch nó.

Có đoán được tốc độ card từ thông số không?

Nếu được thì tiện: có hàng trăm card và chúng tôi mới đo 10 máy. Cách thông thường là dựa vào băng thông bộ nhớ. Để viết mỗi token, AI đọc toàn bộ mô hình từ bộ nhớ card, nên về lý thuyết tốc độ xấp xỉ băng thông chia cho kích thước mô hình, nhân với một hệ số hiệu suất. Nhiều công cụ tính online làm như vậy.

Vì vậy chúng tôi thử nó trên dữ liệu của mình. Chúng tôi giấu từng card một, tính tốc độ trên mỗi GB/giây từ các card còn lại, dự đoán card bị giấu từ băng thông của nó (theo thông số nhà sản xuất, tổng hợp trong cơ sở dữ liệu GPU của TechPowerUp), rồi so với số đo thật. Cùng một AI trên tất cả (Gemma 4 E4B, nằm trọn trên card).

Ước tính thông thường lệch 19%. Tệ nhất là RX 580: bộ nhớ của nó gợi ý khoảng 36 token mỗi giây, nhưng nó viết 11. Chạy lại bài thử mà bỏ nó ra thì các card còn lại vẫn lệch tới 33%. AMD RX 6600 mới hơn lại lệch theo hướng ngược, nhanh hơn băng thông của nó gợi ý; bộ nhớ đệm lớn trên chip (AMD gọi là Infinity Cache) có thể là một phần lý do. Mỗi con số đo được là con số chính của card đó, nên không phải tất cả đều từ cùng một kiểu bài thử; điều đó thêm chút nhiễu, nhưng không thể giải thích mức lệch gấp ba.

Như vậy là chưa đủ tốt. Một con số đoán có thể lệch 33% trên card hiện đại, hoặc 239% trên card cũ, sẽ khiến một số người tưởng máy mình ổn trong khi nó chậm, hoặc ngược lại. Vì vậy công cụ kiểm tra và các trang card chỉ hiển thị card chúng tôi đã đo, và nói rõ khi card của bạn không nằm trong số đó. Chúng tôi chạy lại bài thử này với mỗi card mới, và nếu sai số trở nên nhỏ, chúng tôi sẽ nói ở đây trước khi hiển thị bất kỳ ước tính nào.

Những gì chúng tôi chưa đo

• Laptop có card gaming.
• Gemma 4 12B trên card 10 GB trở lên.
• Tạo ảnh trên RX 5700 XT, RTX 5060, GTX 1650, RX 580.
• Các AI khác ngoài những AI GreenCube cung cấp, và Linux hoặc Mac (GreenCube dành cho Windows).

Lấy dữ liệu

Mọi lần đo trên trang này, mỗi lần một dòng, nằm trong greencube-ai-speeds.csv: máy, AI, chạy ở đâu, tốc độ viết và đọc, thời gian tạo ảnh, cách đo, phiên bản GreenCube và ngày. Nếu bạn dùng, vui lòng ghi nguồn "GreenCube, AI speed measurements on real PCs, 2026" và dẫn link tới trang này.

Thêm máy của bạn

Đang dùng GreenCube rồi? Gửi nhật ký của bạn tới support@greencube.app. Chúng tôi thêm máy bạn vào bài thử, không kèm tên bạn, và card mới sẽ có trang riêng. Không chắc máy bạn có gì? Kiểm tra ở đây.

Câu hỏi