Чи потягне RX 5700 XT ШІ? Виміряно: 63–72 токени за секунду
Так: на настільному ПК з відеокартою AMD RX 5700 XT (8 ГБ) і 48 ГБ ОЗП модель Gemma 4 E4B писала 63–72 токени за секунду. Це швидше, ніж ви читаєте.
Що це означає на практиці
| Завдання | Час на цьому ПК |
|---|---|
| Написати звичайну відповідь (400 токенів, близько пів сторінки) | 6 с |
| Прочитати довгий документ, який ви йому дали (5 000 токенів, близько 5 сторінок) | 8 с |
Пораховано за швидкостями, виміряними на цьому ПК: час — це довжина, поділена на швидкість, а реальній відповіді ще потрібна мить, щоб почати. Для порівняння: більшість людей читає близько 4 слів за секунду (Brysbaert, 2019), тож навіть просто прочитати відповідь з 400 токенів займе у вас близько хвилини.
Що ми виміряли
Написання — це те, як швидко ШІ друкує відповідь, у токенах за секунду; токен — це шматочок слова, і українське слово часто займає кілька токенів. Читання — це те, як швидко він сприймає те, що ви йому даєте: ваше запитання, вставлений текст або PDF. Читання завжди набагато швидше за написання, бо ШІ може читати багато токенів одразу, а писати їх мусить по одному.
| Що | Де працювало | Результат | Дата заміру |
|---|---|---|---|
| Gemma 4 E4B | відеокарта | 63–72 токени за секунду написання · 594–609 читання | 22 вересня 2026 р. |
| Gemma 4 E4B | лише процесор | 5 токенів за секунду написання · 357 читання | 22 вересня 2026 р. |
| Gemma 4 12B | відеокарта | 20–36 токенів за секунду написання · 108–113 читання | 22 вересня 2026 р. |
Як вимірювалося кожне число: Докладніше про те, як ми вимірюємо
- Власний тест швидкості llama.cpp (llama-bench) — рушія, на якому працює GreenCube, — з тими самими файлами ШІ: написано 128 токенів, прочитано текст з 512 токенів.
Де в нас кілька замірів, ми показуємо діапазон: швидкість на тому самому ПК трохи змінюється від заміру до заміру.
Що це означає
Роботу робить відеокарта
Той самий ПК, той самий ШІ (Gemma 4 E4B): 5 токенів за секунду лише на процесорі й 63–72 на відеокарті — приблизно у 14 разів швидше. Відеокарту створено, щоб робити тисячі маленьких обчислень одночасно для ігор, а робота ШІ — це здебільшого та сама математика. GreenCube під час запуску заміряє обидва варіанти й використовує швидший.
Увесь ШІ вміщується на відеокарту
Gemma 4 E4B — це файл на 4,2 ГБ, а у відеокарти 8 ГБ власної пам'яті (відеопам'ять, VRAM). Модель уміщується повністю, і ще лишається місце для розмови, тож відеокарті не доводиться чекати на повільнішу пам'ять решти ПК. Це головна причина такої швидкості.
Більша модель Gemma 4 12B
Лише для коротких чатів. Більша модель Gemma 4 12B (6,4 ГБ) писала 20–36 токенів за секунду на короткому запитанні, але коли чат дійшов до 8 192 токенів (довга розмова), вона впала: відеокарта була майже заповнена. Тому GreenCube пропонує 12B лише на відеокартах з 10 ГБ і більше.
Зображення
Найімовірніше так, але на цій відеокарті ми ще не заміряли зображення. Коли заміряємо, число з'явиться тут. Для зображень використовується окремий ШІ розміром близько 6 ГБ і значно більше обчислень, ніж для відповіді в чаті, тому графіка тут важить ще більше.
Порівняння з іншими ПК
З 8 ПК, які ми виміряли з Gemma 4 E4B, цей на 2-му місці за швидкістю написання. RTX 2080 Ti пише 65–71, приблизно стільки ж. RTX 5060 пише 56 (стартовий тест), отже, цей приблизно на 20% швидше.
Ми виміряли 4 відеокарти з 8 ГБ, і вони дуже різняться:
- RX 5700 XT: 63–72 токени за секунду
- RTX 5060: 56 токенів за секунду (стартовий тест)
- RX 6600: 42–44 токени за секунду
- RX 580: 10–11 токенів за секунду
Пам'ять вирішує, який ШІ вміститься. Наскільки нова відеокарта, вирішує, як швидко він працюватиме.
Тестовий ПК
Власний ПК реального тестувальника, яким він користується як зазвичай, а не лабораторна машина:
- Настільний ПК
- Графіка: AMD RX 5700 XT
- Відеопам'ять (VRAM): 8 ГБ
- ОЗП: 48 ГБ
- Процесор: Intel Core i7-9700, 8 потоків
Перевірте свій ПК
Не знаєте, що у вас у ПК? Це займе 30 секунд:
- Натисніть Ctrl + Shift + Esc, щоб відкрити Диспетчер завдань.
- Перейдіть на вкладку Продуктивність.
- Натисніть Пам'ять: число вгорі праворуч — це ваша ОЗП.
- Натисніть Графічний процесор: назва вгорі праворуч — це ваша відеокарта, а Виділена пам'ять графічного процесора — ваша відеопам'ять. Бачите лише графіку Intel або AMD без виділеної пам'яті? Отже, окремої відеокарти у вас немає.
Потім знайдіть найближчу відеокарту в повній таблиці. Та сама відеокарта з більшим обсягом відеопам'яті вміщує більший ШІ; новіша відеокарта того самого обсягу зазвичай швидша.
Інші ПК, які ми виміряли
- RTX 2080 Ti: 65–71 токен за секунду (Gemma 4 E4B)
- RTX 5060: 56 токенів за секунду (Gemma 4 E4B)
- RTX 3060: 53–55 токенів за секунду (Gemma 4 E4B)
- RX 6600: 42–44 токени за секунду (Gemma 4 E4B)
- GTX 1660 Super: 37–38 токенів за секунду (Gemma 4 E4B)
- GTX 1650: близько 20 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Core Ultra 5: 14–18 токенів за секунду (Gemma 4 E2B)
- RX 580: 10–11 токенів за секунду (Gemma 4 E4B)
- ноутбук з Intel Iris Xe: 5–7 токенів за секунду (Gemma 4 E2B)
Чи потягне мій ПК ШІ? Усі 10 ПК в одній таблиці і як відчуватиметься ваш ПК.
Запитання
Чи потягне RX 5700 XT ШІ локально?
Так: на настільному ПК з відеокартою AMD RX 5700 XT (8 ГБ) і 48 ГБ ОЗП модель Gemma 4 E4B писала 63–72 токени за секунду. Це швидше, ніж ви читаєте.
Чи може RX 5700 XT створювати зображення за допомогою ШІ?
Найімовірніше так, але на цій відеокарті ми ще не заміряли зображення. Коли заміряємо, число з'явиться тут.
ШІ працює швидше на RX 5700 XT чи на процесорі?
На відеокарті, з великим відривом: 63–72 токени за секунду проти 5 на процесорі, приблизно у 14 разів швидше.
Чи потягне RX 5700 XT Gemma 4 12B?
Лише для коротких чатів. Більша модель Gemma 4 12B (6,4 ГБ) писала 20–36 токенів за секунду на короткому запитанні, але коли чат дійшов до 8 192 токенів (довга розмова), вона впала: відеокарта була майже заповнена. Тому GreenCube пропонує 12B лише на відеокартах з 10 ГБ і більше.
Ваш власний ШІ на вашому власному ПК
GreenCube працює на вашому комп'ютері: без обмежень, без підписки, без інтернету. 9,99 €, оплата один раз.
Придбати GreenCube