GreenCube
UK
Придбати GreenCube

Блог GreenCube

Чи потягне GTX 1650 ШІ? Виміряно: близько 20 токенів за секунду

Так: на настільному ПК з відеокартою NVIDIA GTX 1650 (4 ГБ) і 16 ГБ ОЗП модель Gemma 4 E4B писала близько 20 токенів за секунду. Це швидше, ніж ви читаєте.

близько 20швидкість у токенах за секунду, Gemma 4 E4B

Що це означає на практиці

ЗавданняЧас на цьому ПК
Написати звичайну відповідь (400 токенів, близько пів сторінки)20 с
Прочитати довгий документ, який ви йому дали (5 000 токенів, близько 5 сторінок)0:13–3:28 хв

Пораховано за швидкостями, виміряними на цьому ПК: час — це довжина, поділена на швидкість, а реальній відповіді ще потрібна мить, щоб почати. Для порівняння: більшість людей читає близько 4 слів за секунду (Brysbaert, 2019), тож навіть просто прочитати відповідь з 400 токенів займе у вас близько хвилини.

Що ми виміряли

Написання — це те, як швидко ШІ друкує відповідь, у токенах за секунду; токен — це шматочок слова, і українське слово часто займає кілька токенів. Читання — це те, як швидко він сприймає те, що ви йому даєте: ваше запитання, вставлений текст або PDF. Читання завжди набагато швидше за написання, бо ШІ може читати багато токенів одразу, а писати їх мусить по одному.

ЩоДе працювалоРезультатДата заміру
Gemma 4 E4Bвідеокарта, з переходом в ОЗПблизько 20 токенів за секунду написання · 24–395 читання23 вересня 2026 р.
Gemma 4 E4B (другий ПК)*відеокарта, з переходом в ОЗП8–25 токенів за секунду написання · 32–301 читання1 жовтня 2026 р.

Як вимірювалося кожне число: Докладніше про те, як ми вимірюємо

  1. Реальні чати в GreenCube 0.1.40 і 0.1.42: швидкість кожної відповіді від 100 токенів, узята з журналу застосунку. Діапазон відкидає найповільнішу й найшвидшу десяту частину.

Де в нас кілька замірів, ми показуємо діапазон: швидкість на тому самому ПК трохи змінюється від заміру до заміру. * Цей тестувальник здебільшого ставив короткі запитання, тому враховано й відповіді, коротші за 100 токенів. Короткі відповіді вимірюються трохи повільніше.

Що це означає

Не все вміщується на відеокарту

Gemma 4 E4B — це файл на 4,2 ГБ, а у відеокарти 4 ГБ, тож модель не вміщується повністю, і частина її лежить у звичайній пам'яті (ОЗП). Кожне слово, яке вона пише, мусить діставатися до цієї частини значно повільнішим шляхом, тому швидкість падає і стрибає. І все ж вона пише близько 20 токенів за секунду. Швидкість читання вставленого тексту від дня до дня коливалася від 24 до 395 токенів за секунду, найімовірніше тому, що відеокарта була заповнена.

Другий ПК з тією самою відеокартою

На GTX 1650 іншого тестувальника модель Gemma 4 E4B у GreenCube 0.1.42 писала 8–25 токенів за секунду, а читала зі швидкістю 32–301. Більшість відповідей були короткими, а короткі відповіді вимірюються повільніше за довгі: найдовша була близько до верхньої межі цього діапазону.

Більша модель Gemma 4 12B

Не дуже. GreenCube пропонує більшу модель Gemma 4 12B лише на відеокартах з 10 ГБ відеопам'яті й більше, а в цієї 4. На 8-гігабайтній AMD RX 5700 XT вона відповідала на короткі запитання, а потім падала в довгому чаті.

Зображення

Найімовірніше так, але на цій відеокарті ми ще не заміряли зображення. Коли заміряємо, число з'явиться тут. Для зображень використовується окремий ШІ розміром близько 6 ГБ і значно більше обчислень, ніж для відповіді в чаті, тому графіка тут важить ще більше.

Порівняння з іншими ПК

З 8 ПК, які ми виміряли з Gemma 4 E4B, цей на 7-му місці за швидкістю написання. GTX 1660 Super пише 37–38, приблизно на 90% швидше. RX 580 пише 10–11, отже, цей приблизно на 90% швидше.

Тестовий ПК

Власний ПК реального тестувальника, яким він користується як зазвичай, а не лабораторна машина:

Перевірте свій ПК

Не знаєте, що у вас у ПК? Це займе 30 секунд:

  1. Натисніть Ctrl + Shift + Esc, щоб відкрити Диспетчер завдань.
  2. Перейдіть на вкладку Продуктивність.
  3. Натисніть Пам'ять: число вгорі праворуч — це ваша ОЗП.
  4. Натисніть Графічний процесор: назва вгорі праворуч — це ваша відеокарта, а Виділена пам'ять графічного процесора — ваша відеопам'ять. Бачите лише графіку Intel або AMD без виділеної пам'яті? Отже, окремої відеокарти у вас немає.

Потім знайдіть найближчу відеокарту в повній таблиці. Та сама відеокарта з більшим обсягом відеопам'яті вміщує більший ШІ; новіша відеокарта того самого обсягу зазвичай швидша.

Інші ПК, які ми виміряли

Чи потягне мій ПК ШІ? Усі 10 ПК в одній таблиці і як відчуватиметься ваш ПК.

Запитання

Чи потягне GTX 1650 ШІ локально?

Так: на настільному ПК з відеокартою NVIDIA GTX 1650 (4 ГБ) і 16 ГБ ОЗП модель Gemma 4 E4B писала близько 20 токенів за секунду. Це швидше, ніж ви читаєте.

Чи може GTX 1650 створювати зображення за допомогою ШІ?

Найімовірніше так, але на цій відеокарті ми ще не заміряли зображення. Коли заміряємо, число з'явиться тут.

Чи потягне GTX 1650 Gemma 4 12B?

Не дуже. GreenCube пропонує більшу модель Gemma 4 12B лише на відеокартах з 10 ГБ відеопам'яті й більше, а в цієї 4. На 8-гігабайтній AMD RX 5700 XT вона відповідала на короткі запитання, а потім падала в довгому чаті.

Ваш власний ШІ на вашому власному ПК

GreenCube працює на вашому комп'ютері: без обмежень, без підписки, без інтернету. 9,99 €, оплата один раз.

Придбати GreenCube