Чи потягне RTX 5060 ШІ? Виміряно: 56 токенів за секунду
Так: на настільному ПК з відеокартою NVIDIA RTX 5060 (8 ГБ) і 32 ГБ ОЗП модель Gemma 4 E4B писала 56 токенів за секунду. Це швидше, ніж ви читаєте.
Що це означає на практиці
| Завдання | Час на цьому ПК |
|---|---|
| Написати звичайну відповідь (400 токенів, близько пів сторінки) | 7 с |
Пораховано за швидкостями, виміряними на цьому ПК: час — це довжина, поділена на швидкість, а реальній відповіді ще потрібна мить, щоб почати. Для порівняння: більшість людей читає близько 4 слів за секунду (Brysbaert, 2019), тож навіть просто прочитати відповідь з 400 токенів займе у вас близько хвилини.
Що ми виміряли
Написання — це те, як швидко ШІ друкує відповідь, у токенах за секунду; токен — це шматочок слова, і українське слово часто займає кілька токенів. Читання — це те, як швидко він сприймає те, що ви йому даєте: ваше запитання, вставлений текст або PDF. Читання завжди набагато швидше за написання, бо ШІ може читати багато токенів одразу, а писати їх мусить по одному.
| Що | Де працювало | Результат | Дата заміру |
|---|---|---|---|
| Gemma 4 E4B | відеокарта | 55,9 токена за секунду написання | 1 жовтня 2026 р. |
| Gemma 4 E4B | лише процесор | 12,1 токена за секунду написання | 1 жовтня 2026 р. |
Як вимірювалося кожне число: Докладніше про те, як ми вимірюємо
- Власний тест швидкості GreenCube 0.1.42, який він запускає під час старту, щоб вибрати між відеокартою і процесором: коротка відповідь, написана по разу на кожному.
Де в нас кілька замірів, ми показуємо діапазон: швидкість на тому самому ПК трохи змінюється від заміру до заміру.
Що це означає
Роботу робить відеокарта
Той самий ПК, той самий ШІ (Gemma 4 E4B): 12,1 токена за секунду лише на процесорі й 55,9 на відеокарті — приблизно у 4,6 раза швидше. Відеокарту створено, щоб робити тисячі маленьких обчислень одночасно для ігор, а робота ШІ — це здебільшого та сама математика. GreenCube під час запуску заміряє обидва варіанти й використовує швидший.
Увесь ШІ вміщується на відеокарту
Gemma 4 E4B — це файл на 4,2 ГБ, а у відеокарти 8 ГБ власної пам'яті (відеопам'ять, VRAM). Модель уміщується повністю, і ще лишається місце для розмови, тож відеокарті не доводиться чекати на повільнішу пам'ять решти ПК. Це головна причина такої швидкості.
Більша модель Gemma 4 12B
Не дуже. GreenCube пропонує більшу модель Gemma 4 12B лише на відеокартах з 10 ГБ відеопам'яті й більше, а в цієї 8. На 8-гігабайтній AMD RX 5700 XT вона відповідала на короткі запитання, а потім падала в довгому чаті.
Зображення
Найімовірніше так, але на цій відеокарті ми ще не заміряли зображення. Коли заміряємо, число з'явиться тут. Для зображень використовується окремий ШІ розміром близько 6 ГБ і значно більше обчислень, ніж для відповіді в чаті, тому графіка тут важить ще більше.
Порівняння з іншими ПК
З 8 ПК, які ми виміряли з Gemma 4 E4B, цей на 3-му місці за швидкістю написання. RX 5700 XT пише 63–72, приблизно на 20% швидше. RTX 3060 пише 53–55, отже, цей приблизно на 5% швидше.
Ми виміряли 4 відеокарти з 8 ГБ, і вони дуже різняться:
- RX 5700 XT: 63–72 токени за секунду
- RTX 5060: 56 токенів за секунду (стартовий тест)
- RX 6600: 42–44 токени за секунду
- RX 580: 10–11 токенів за секунду
Пам'ять вирішує, який ШІ вміститься. Наскільки нова відеокарта, вирішує, як швидко він працюватиме.
Тестовий ПК
Власний ПК реального тестувальника, яким він користується як зазвичай, а не лабораторна машина:
- Настільний ПК
- Графіка: NVIDIA RTX 5060
- Відеопам'ять (VRAM): 8 ГБ
- ОЗП: 32 ГБ
- Процесор: 16 потоків
Перевірте свій ПК
Не знаєте, що у вас у ПК? Це займе 30 секунд:
- Натисніть Ctrl + Shift + Esc, щоб відкрити Диспетчер завдань.
- Перейдіть на вкладку Продуктивність.
- Натисніть Пам'ять: число вгорі праворуч — це ваша ОЗП.
- Натисніть Графічний процесор: назва вгорі праворуч — це ваша відеокарта, а Виділена пам'ять графічного процесора — ваша відеопам'ять. Бачите лише графіку Intel або AMD без виділеної пам'яті? Отже, окремої відеокарти у вас немає.
Потім знайдіть найближчу відеокарту в повній таблиці. Та сама відеокарта з більшим обсягом відеопам'яті вміщує більший ШІ; новіша відеокарта того самого обсягу зазвичай швидша.
Інші ПК, які ми виміряли
- RTX 2080 Ti: 65–71 токен за секунду (Gemma 4 E4B)
- RX 5700 XT: 63–72 токени за секунду (Gemma 4 E4B)
- RTX 3060: 53–55 токенів за секунду (Gemma 4 E4B)
- RX 6600: 42–44 токени за секунду (Gemma 4 E4B)
- GTX 1660 Super: 37–38 токенів за секунду (Gemma 4 E4B)
- GTX 1650: близько 20 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Core Ultra 5: 14–18 токенів за секунду (Gemma 4 E2B)
- RX 580: 10–11 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Iris Xe: 5–7 токенів за секунду (Gemma 4 E2B)
Чи потягне мій ПК ШІ? Усі 10 ПК в одній таблиці і як відчуватиметься ваш ПК.
Запитання
Чи потягне RTX 5060 ШІ локально?
Так: на настільному ПК з відеокартою NVIDIA RTX 5060 (8 ГБ) і 32 ГБ ОЗП модель Gemma 4 E4B писала 56 токенів за секунду. Це швидше, ніж ви читаєте.
Чи може RTX 5060 створювати зображення за допомогою ШІ?
Найімовірніше так, але на цій відеокарті ми ще не заміряли зображення. Коли заміряємо, число з'явиться тут.
ШІ працює швидше на RTX 5060 чи на процесорі?
На відеокарті, з великим відривом: 55,9 токена за секунду проти 12,1 на процесорі, приблизно у 4,6 раза швидше.
Чи потягне RTX 5060 Gemma 4 12B?
Не дуже. GreenCube пропонує більшу модель Gemma 4 12B лише на відеокартах з 10 ГБ відеопам'яті й більше, а в цієї 8. На 8-гігабайтній AMD RX 5700 XT вона відповідала на короткі запитання, а потім падала в довгому чаті.
Ваш власний ШІ на вашому власному ПК
GreenCube працює на вашому комп'ютері: без обмежень, без підписки, без інтернету. 9,99 €, оплата один раз.
Придбати GreenCube