Чи потягне RTX 3060 ШІ? Виміряно: 53–55 токенів за секунду
Так: на настільному ПК з відеокартою NVIDIA RTX 3060 (12 ГБ) і 32 ГБ ОЗП модель Gemma 4 E4B писала 53–55 токенів за секунду. Це швидше, ніж ви читаєте.
Що це означає на практиці
| Завдання | Час на цьому ПК |
|---|---|
| Написати звичайну відповідь (400 токенів, близько пів сторінки) | 7–8 с |
| Прочитати довгий документ, який ви йому дали (5 000 токенів, близько 5 сторінок) | 4–5 с |
| Створити зображення (512×512) | 28 с |
Пораховано за швидкостями, виміряними на цьому ПК: час — це довжина, поділена на швидкість, а реальній відповіді ще потрібна мить, щоб почати. Для порівняння: більшість людей читає близько 4 слів за секунду (Brysbaert, 2019), тож навіть просто прочитати відповідь з 400 токенів займе у вас близько хвилини.
Що ми виміряли
Написання — це те, як швидко ШІ друкує відповідь, у токенах за секунду; токен — це шматочок слова, і українське слово часто займає кілька токенів. Читання — це те, як швидко він сприймає те, що ви йому даєте: ваше запитання, вставлений текст або PDF. Читання завжди набагато швидше за написання, бо ШІ може читати багато токенів одразу, а писати їх мусить по одному.
| Що | Де працювало | Результат | Дата заміру |
|---|---|---|---|
| Gemma 4 E4B | відеокарта | 52,6–55,3 токена за секунду написання · 1 044–1 362 читання | 6 жовтня 2026 р. 1 |
| Gemma 4 E4B | відеокарта | 49,6–55,4 токена за секунду написання | 6 жовтня 2026 р. 2 |
| Gemma 4 E4B | лише процесор | 6,7–7,3 токена за секунду написання | 6 жовтня 2026 р. 2 |
| Зображення (512×512) | відеокарта | 28 с | 3 жовтня 2026 р. 3 |
Як вимірювалося кожне число: Докладніше про те, як ми вимірюємо
- Реальні чати в GreenCube 0.1.42–0.1.43: швидкість кожної відповіді від 100 токенів, узята з журналу застосунку. Діапазон відкидає найповільнішу й найшвидшу десяту частину.
- Власний тест швидкості GreenCube 0.1.42–0.1.43, який він запускає під час старту, щоб вибрати між відеокартою і процесором: коротка відповідь, написана по разу на кожному.
- Рушій зображень GreenCube (Z-Image Turbo), 512×512 пікселів, 8 кроків, час від натискання до готового зображення.
Де в нас кілька замірів, ми показуємо діапазон: швидкість на тому самому ПК трохи змінюється від заміру до заміру.
Що це означає
Роботу робить відеокарта
Той самий ПК, той самий ШІ (Gemma 4 E4B): 6,7–7,3 токена за секунду лише на процесорі й 49,6–55,4 на відеокарті — приблизно у 7,5 раза швидше. Відеокарту створено, щоб робити тисячі маленьких обчислень одночасно для ігор, а робота ШІ — це здебільшого та сама математика. GreenCube під час запуску заміряє обидва варіанти й використовує швидший.
Увесь ШІ вміщується на відеокарту
Gemma 4 E4B — це файл на 4,2 ГБ, а у відеокарти 12 ГБ власної пам'яті (відеопам'ять, VRAM). Модель уміщується повністю, і ще лишається місце для розмови, тож відеокарті не доводиться чекати на повільнішу пам'ять решти ПК. Це головна причина такої швидкості.
Більша модель Gemma 4 12B
Має. Gemma 4 12B — це файл на 6,4 ГБ, а в цієї відеокарти 12 ГБ, тож лишається місце й для довгої розмови. На цій відеокарті ми її ще не заміряли.
Зображення
Так. Одне зображення (512×512) зайняло 28 с на відеокарті. Для зображень використовується окремий ШІ розміром близько 6 ГБ і значно більше обчислень, ніж для відповіді в чаті, тому графіка тут важить ще більше.
Порівняння з іншими ПК
З 8 ПК, які ми виміряли з Gemma 4 E4B, цей на 4-му місці за швидкістю написання. RTX 5060 пише 56 (стартовий тест), приблизно на 5% швидше. RX 6600 пише 42–44, отже, цей приблизно на 25% швидше.
Тестовий ПК
Власний ПК реального тестувальника, яким він користується як зазвичай, а не лабораторна машина:
- Настільний ПК
- Графіка: NVIDIA RTX 3060
- Відеопам'ять (VRAM): 12 ГБ
- ОЗП: 32 ГБ
- Процесор: 12 потоків
Перевірте свій ПК
Не знаєте, що у вас у ПК? Це займе 30 секунд:
- Натисніть Ctrl + Shift + Esc, щоб відкрити Диспетчер завдань.
- Перейдіть на вкладку Продуктивність.
- Натисніть Пам'ять: число вгорі праворуч — це ваша ОЗП.
- Натисніть Графічний процесор: назва вгорі праворуч — це ваша відеокарта, а Виділена пам'ять графічного процесора — ваша відеопам'ять. Бачите лише графіку Intel або AMD без виділеної пам'яті? Отже, окремої відеокарти у вас немає.
Потім знайдіть найближчу відеокарту в повній таблиці. Та сама відеокарта з більшим обсягом відеопам'яті вміщує більший ШІ; новіша відеокарта того самого обсягу зазвичай швидша.
Інші ПК, які ми виміряли
- RTX 2080 Ti: 65–71 токен за секунду (Gemma 4 E4B)
- RX 5700 XT: 63–72 токени за секунду (Gemma 4 E4B)
- RTX 5060: 56 токенів за секунду (Gemma 4 E4B)
- RX 6600: 42–44 токени за секунду (Gemma 4 E4B)
- GTX 1660 Super: 37–38 токенів за секунду (Gemma 4 E4B)
- GTX 1650: близько 20 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Core Ultra 5: 14–18 токенів за секунду (Gemma 4 E2B)
- RX 580: 10–11 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Iris Xe: 5–7 токенів за секунду (Gemma 4 E2B)
Чи потягне мій ПК ШІ? Усі 10 ПК в одній таблиці і як відчуватиметься ваш ПК.
Запитання
Чи потягне RTX 3060 ШІ локально?
Так: на настільному ПК з відеокартою NVIDIA RTX 3060 (12 ГБ) і 32 ГБ ОЗП модель Gemma 4 E4B писала 53–55 токенів за секунду. Це швидше, ніж ви читаєте.
Чи може RTX 3060 створювати зображення за допомогою ШІ?
Так. Одне зображення (512×512) зайняло 28 с на відеокарті.
ШІ працює швидше на RTX 3060 чи на процесорі?
На відеокарті, з великим відривом: 49,6–55,4 токена за секунду проти 6,7–7,3 на процесорі, приблизно у 7,5 раза швидше.
Чи потягне RTX 3060 Gemma 4 12B?
Має. Gemma 4 12B — це файл на 6,4 ГБ, а в цієї відеокарти 12 ГБ, тож лишається місце й для довгої розмови. На цій відеокарті ми її ще не заміряли.
Ваш власний ШІ на вашому власному ПК
GreenCube працює на вашому комп'ютері: без обмежень, без підписки, без інтернету. 9,99 €, оплата один раз.
Придбати GreenCube