RTX 3060 có chạy được AI không? Đo được: 53–55 token mỗi giây
Có. Trên máy bàn có NVIDIA RTX 3060 (12 GB) và RAM 32 GB, Gemma 4 E4B viết 53–55 token mỗi giây. Nhanh hơn tốc độ bạn đọc.
Trên thực tế nghĩa là gì
| Việc | Thời gian trên máy này |
|---|---|
| Viết một câu trả lời bình thường (400 token, khoảng nửa trang) | 7–8 giây |
| Đọc một tài liệu dài bạn đưa vào (5.000 token, khoảng 5 trang) | 4–5 giây |
| Tạo một ảnh (512×512) | 28 giây |
Tính từ tốc độ đo trên máy này: thời gian là độ dài chia cho tốc độ, và một câu trả lời thật còn cần một chút để bắt đầu. Để dễ hình dung, câu trả lời 400 token dài khoảng nửa trang, và phần lớn mọi người đọc khoảng 4 từ mỗi giây (Brysbaert, 2019).
Chúng tôi đã đo gì
Viết là tốc độ AI gõ câu trả lời, tính bằng token mỗi giây; token là một mảnh của từ. Đọc là tốc độ nó tiếp nhận những gì bạn đưa: câu hỏi, đoạn văn bạn dán hoặc một tệp PDF. Đọc luôn nhanh hơn viết rất nhiều, vì AI có thể đọc nhiều token cùng lúc nhưng phải viết từng token một.
| Cái gì | Chạy trên | Kết quả | Ngày đo |
|---|---|---|---|
| Gemma 4 E4B | card đồ họa | 52,6–55,3 token mỗi giây viết · 1.044–1.362 đọc | 6 tháng 10, 2026 1 |
| Gemma 4 E4B | card đồ họa | 49,6–55,4 token mỗi giây viết | 6 tháng 10, 2026 2 |
| Gemma 4 E4B | chỉ bộ xử lý | 6,7–7,3 token mỗi giây viết | 6 tháng 10, 2026 2 |
| Ảnh (512×512) | card đồ họa | 28 giây | 3 tháng 10, 2026 3 |
Cách đo từng con số: Xem thêm cách chúng tôi đo
- Chat thật trong GreenCube 0.1.42–0.1.43: tốc độ của mọi câu trả lời từ 100 token trở lên, đọc từ nhật ký của ứng dụng. Khoảng này bỏ đi một phần mười chậm nhất và nhanh nhất.
- Bài kiểm tra tốc độ của chính GreenCube 0.1.42–0.1.43, chạy khi khởi động để chọn giữa card đồ họa và bộ xử lý: một câu trả lời ngắn được viết một lần trên mỗi bên.
- Engine tạo ảnh của GreenCube (Z-Image Turbo), 512×512 pixel, 8 bước, tính giờ từ lúc bấm đến khi ảnh xong.
Khi có nhiều lần đo, chúng tôi ghi khoảng: tốc độ thay đổi một chút giữa các lần đo trên cùng một máy.
Điều đó nghĩa là gì
Card đồ họa làm phần việc
Cùng máy, cùng AI (Gemma 4 E4B): 6,7–7,3 token mỗi giây chỉ với bộ xử lý, 49,6–55,4 trên card đồ họa, nhanh hơn khoảng 7,5 lần. Card đồ họa được làm ra để tính hàng nghìn phép tính nhỏ cùng lúc cho game, và chạy AI phần lớn cũng là kiểu toán đó. GreenCube đo cả hai khi khởi động và dùng cái nhanh hơn.
Toàn bộ AI nằm gọn trên card
Gemma 4 E4B là tệp 4,2 GB và card có 12 GB bộ nhớ riêng (VRAM). Toàn bộ nằm gọn, còn dư chỗ cho cuộc trò chuyện, nên card không bao giờ phải chờ bộ nhớ chậm hơn ở phần còn lại của máy. Đó là lý do lớn nhất khiến nó chạy nhanh như vậy.
Gemma 4 12B lớn hơn
Nên chạy được. Gemma 4 12B là tệp 6,4 GB và card này có 12 GB, nên vẫn còn chỗ cho cả cuộc trò chuyện dài. Chúng tôi chưa đo nó trên card này.
Ảnh
Có. Một ảnh (512×512) mất 28 giây trên card đồ họa. Tạo ảnh dùng một AI riêng khoảng 6 GB và tốn nhiều phép tính hơn hẳn một câu trả lời chat, nên đồ họa ở đây càng quan trọng hơn.
So với các máy khác
Trong 8 máy chúng tôi đo với Gemma 4 E4B, máy này đứng thứ 4 về tốc độ viết. RTX 5060 viết 56 (kiểm tra khởi động), nhanh hơn khoảng 5%. RX 6600 viết 42–44, nên máy này nhanh hơn khoảng 25%.
Máy thử nghiệm
Máy riêng của một người thử thật, dùng theo cách họ vẫn dùng, không phải máy phòng thí nghiệm:
- Máy bàn
- Đồ họa: NVIDIA RTX 3060
- Bộ nhớ đồ họa (VRAM): 12 GB
- RAM: 32 GB
- Bộ xử lý: 12 luồng
Kiểm tra máy của bạn
Không chắc máy bạn có gì? Chỉ mất 30 giây:
- Nhấn Ctrl + Shift + Esc để mở Task Manager (Trình quản lý tác vụ).
- Vào Performance (Hiệu suất).
- Bấm Memory (Bộ nhớ): con số lớn ở trên cùng là RAM của bạn.
- Bấm GPU: tên ở trên cùng là card của bạn, và Dedicated GPU memory (Bộ nhớ GPU chuyên dụng) là VRAM của bạn. Chỉ thấy đồ họa Intel hoặc AMD không có bộ nhớ riêng? Vậy là bạn không có card rời.
Sau đó tìm card gần nhất trong bảng đầy đủ. Cùng một card nhưng VRAM nhiều hơn chứa được AI lớn hơn; card mới hơn cùng dung lượng thường nhanh hơn.
Các máy khác chúng tôi đã đo
- RTX 2080 Ti: 65–71 token mỗi giây (Gemma 4 E4B)
- RX 5700 XT: 63–72 token mỗi giây (Gemma 4 E4B)
- RTX 5060: 56 token mỗi giây (Gemma 4 E4B)
- RX 6600: 42–44 token mỗi giây (Gemma 4 E4B)
- GTX 1660 Super: 37–38 token mỗi giây (Gemma 4 E4B)
- GTX 1650: khoảng 20 token mỗi giây (Gemma 4 E4B)
- laptop Intel Core Ultra 5: 14–18 token mỗi giây (Gemma 4 E2B)
- RX 580: 10–11 token mỗi giây (Gemma 4 E4B)
- laptop Intel Iris Xe: 5–7 token mỗi giây (Gemma 4 E2B)
Máy mình có chạy được AI không? Cả 10 máy trong một bảng, và máy bạn sẽ chạy thế nào.
Câu hỏi
RTX 3060 có chạy được AI trên máy không?
Có. Trên máy bàn có NVIDIA RTX 3060 (12 GB) và RAM 32 GB, Gemma 4 E4B viết 53–55 token mỗi giây. Nhanh hơn tốc độ bạn đọc.
RTX 3060 có tạo được ảnh AI không?
Có. Một ảnh (512×512) mất 28 giây trên card đồ họa.
AI chạy nhanh hơn trên RTX 3060 hay trên bộ xử lý?
Trên card, chênh lệch lớn: 49,6–55,4 token mỗi giây so với 6,7–7,3 trên bộ xử lý, nhanh khoảng 7,5 lần.
RTX 3060 có chạy được Gemma 4 12B không?
Nên chạy được. Gemma 4 12B là tệp 6,4 GB và card này có 12 GB, nên vẫn còn chỗ cho cả cuộc trò chuyện dài. Chúng tôi chưa đo nó trên card này.
AI của riêng bạn, trên máy của riêng bạn
GreenCube chạy trên máy tính của bạn: không giới hạn sử dụng, không thuê bao, chạy không cần internet. €9,99, trả một lần.
Mua GreenCube