Чи потягне RTX 2080 Ti ШІ? Виміряно: 65–71 токен за секунду
Так: на настільному ПК з відеокартою NVIDIA RTX 2080 Ti (11 ГБ) і 128 ГБ ОЗП модель Gemma 4 E4B писала 65–71 токен за секунду. Це швидше, ніж ви читаєте.
Що це означає на практиці
| Завдання | Час на цьому ПК |
|---|---|
| Написати звичайну відповідь (400 токенів, близько пів сторінки) | 6 с |
| Прочитати довгий документ, який ви йому дали (5 000 токенів, близько 5 сторінок) | 3–4 с |
| Створити зображення (512×512) | 8–9 с (перше: 83 с) |
Пораховано за швидкостями, виміряними на цьому ПК: час — це довжина, поділена на швидкість, а реальній відповіді ще потрібна мить, щоб почати. Для порівняння: більшість людей читає близько 4 слів за секунду (Brysbaert, 2019), тож навіть просто прочитати відповідь з 400 токенів займе у вас близько хвилини.
Що ми виміряли
Написання — це те, як швидко ШІ друкує відповідь, у токенах за секунду; токен — це шматочок слова, і українське слово часто займає кілька токенів. Читання — це те, як швидко він сприймає те, що ви йому даєте: ваше запитання, вставлений текст або PDF. Читання завжди набагато швидше за написання, бо ШІ може читати багато токенів одразу, а писати їх мусить по одному.
| Що | Де працювало | Результат | Дата заміру |
|---|---|---|---|
| Gemma 4 E4B | відеокарта | 65–71 токен за секунду написання · 1 380–1 800 читання | 14 жовтня 2026 р. 1 |
| Gemma 4 E4B | відеокарта | 75,6 токена за секунду написання | 14 жовтня 2026 р. 2 |
| Gemma 4 E4B | лише процесор | 13,5 токена за секунду написання | 14 жовтня 2026 р. 2 |
| Зображення (512×512) | відеокарта | 8–9 с (перше зайняло 83 с, поки завантажувалося) | 12 жовтня 2026 р. 3 |
Як вимірювалося кожне число: Докладніше про те, як ми вимірюємо
- Реальні чати в GreenCube 0.1.44: швидкість кожної відповіді від 100 токенів, узята з журналу застосунку. Діапазон відкидає найповільнішу й найшвидшу десяту частину.
- Власний тест швидкості GreenCube 0.1.44, який він запускає під час старту, щоб вибрати між відеокартою і процесором: коротка відповідь, написана по разу на кожному.
- Рушій зображень GreenCube (Z-Image Turbo), 512×512 пікселів, 8 кроків, час від натискання до готового зображення.
Де в нас кілька замірів, ми показуємо діапазон: швидкість на тому самому ПК трохи змінюється від заміру до заміру.
Що це означає
Роботу робить відеокарта
Той самий ПК, той самий ШІ (Gemma 4 E4B): 13,5 токена за секунду лише на процесорі й 75,6 на відеокарті — приблизно у 5,6 раза швидше. Відеокарту створено, щоб робити тисячі маленьких обчислень одночасно для ігор, а робота ШІ — це здебільшого та сама математика. GreenCube під час запуску заміряє обидва варіанти й використовує швидший.
Увесь ШІ вміщується на відеокарту
Gemma 4 E4B — це файл на 4,2 ГБ, а у відеокарти 11 ГБ власної пам'яті (відеопам'ять, VRAM). Модель уміщується повністю, і ще лишається місце для розмови, тож відеокарті не доводиться чекати на повільнішу пам'ять решти ПК. Це головна причина такої швидкості.
Більша модель Gemma 4 12B
Має. Gemma 4 12B — це файл на 6,4 ГБ, а в цієї відеокарти 11 ГБ, тож лишається місце й для довгої розмови. На цій відеокарті ми її ще не заміряли.
Зображення
Так. Одне зображення (512×512) зайняло 8–9 с на відеокарті (перше зайняло 83 с, поки завантажувалося). Для зображень використовується окремий ШІ розміром близько 6 ГБ і значно більше обчислень, ніж для відповіді в чаті, тому графіка тут важить ще більше.
Порівняння з іншими ПК
З 8 ПК, які ми виміряли з Gemma 4 E4B, цей на 1-му місці за швидкістю написання. RX 5700 XT пише 63–72, отже, цей приблизно такий самий за швидкістю.
Тестовий ПК
Власний ПК реального тестувальника, яким він користується як зазвичай, а не лабораторна машина:
- Настільний ПК
- Графіка: NVIDIA RTX 2080 Ti
- Відеопам'ять (VRAM): 11 ГБ
- ОЗП: 128 ГБ
- Процесор: 32 потоки
Перевірте свій ПК
Не знаєте, що у вас у ПК? Це займе 30 секунд:
- Натисніть Ctrl + Shift + Esc, щоб відкрити Диспетчер завдань.
- Перейдіть на вкладку Продуктивність.
- Натисніть Пам'ять: число вгорі праворуч — це ваша ОЗП.
- Натисніть Графічний процесор: назва вгорі праворуч — це ваша відеокарта, а Виділена пам'ять графічного процесора — ваша відеопам'ять. Бачите лише графіку Intel або AMD без виділеної пам'яті? Отже, окремої відеокарти у вас немає.
Потім знайдіть найближчу відеокарту в повній таблиці. Та сама відеокарта з більшим обсягом відеопам'яті вміщує більший ШІ; новіша відеокарта того самого обсягу зазвичай швидша.
Інші ПК, які ми виміряли
- RX 5700 XT: 63–72 токени за секунду (Gemma 4 E4B)
- RTX 5060: 56 токенів за секунду (Gemma 4 E4B)
- RTX 3060: 53–55 токенів за секунду (Gemma 4 E4B)
- RX 6600: 42–44 токени за секунду (Gemma 4 E4B)
- GTX 1660 Super: 37–38 токенів за секунду (Gemma 4 E4B)
- GTX 1650: близько 20 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Core Ultra 5: 14–18 токенів за секунду (Gemma 4 E2B)
- RX 580: 10–11 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Iris Xe: 5–7 токенів за секунду (Gemma 4 E2B)
Чи потягне мій ПК ШІ? Усі 10 ПК в одній таблиці і як відчуватиметься ваш ПК.
Запитання
Чи потягне RTX 2080 Ti ШІ локально?
Так: на настільному ПК з відеокартою NVIDIA RTX 2080 Ti (11 ГБ) і 128 ГБ ОЗП модель Gemma 4 E4B писала 65–71 токен за секунду. Це швидше, ніж ви читаєте.
Чи може RTX 2080 Ti створювати зображення за допомогою ШІ?
Так. Одне зображення (512×512) зайняло 8–9 с на відеокарті (перше зайняло 83 с, поки завантажувалося).
ШІ працює швидше на RTX 2080 Ti чи на процесорі?
На відеокарті, з великим відривом: 75,6 токена за секунду проти 13,5 на процесорі, приблизно у 5,6 раза швидше.
Чи потягне RTX 2080 Ti Gemma 4 12B?
Має. Gemma 4 12B — це файл на 6,4 ГБ, а в цієї відеокарти 11 ГБ, тож лишається місце й для довгої розмови. На цій відеокарті ми її ще не заміряли.
Ваш власний ШІ на вашому власному ПК
GreenCube працює на вашому комп'ютері: без обмежень, без підписки, без інтернету. 9,99 €, оплата один раз.
Придбати GreenCube