GreenCube
RU
Купить GreenCube

Блог GreenCube

Потянет ли GTX 1650 ИИ? Измерено: около 20 токенов в секунду

Да: на настольном ПК с видеокартой NVIDIA GTX 1650 (4 ГБ) и 16 ГБ ОЗУ модель Gemma 4 E4B писала около 20 токенов в секунду. Это быстрее, чем вы читаете.

около 20скорость в токенах в секунду, Gemma 4 E4B

Что это значит на практике

ЗадачаВремя на этом ПК
Написать обычный ответ (400 токенов, около полустраницы)20 с
Прочитать длинный документ, который вы ему дали (5 000 токенов, около 5 страниц)0:13–3:28 мин

Рассчитано по скоростям, измеренным на этом ПК: время — это длина, делённая на скорость, а реальному ответу ещё нужно мгновение, чтобы начаться. Для сравнения: большинство людей читает около 4 слов в секунду (Brysbaert, 2019), так что даже просто прочитать ответ из 400 токенов займёт у вас около минуты.

Что мы измерили

Написание — это то, как быстро ИИ печатает ответ, в токенах в секунду; токен — это кусочек слова, и русское слово часто занимает несколько токенов. Чтение — это то, как быстро он воспринимает то, что вы ему даёте: ваш вопрос, вставленный текст или PDF. Чтение всегда намного быстрее написания, потому что ИИ может читать много токенов сразу, а писать их должен по одному.

ЧтоГде работалоРезультатДата замера
Gemma 4 E4Bвидеокарта, с переходом в ОЗУоколо 20 токенов в секунду написание · 24–395 чтение23 сентября 2026 г.
Gemma 4 E4B (второй ПК)*видеокарта, с переходом в ОЗУ8–25 токенов в секунду написание · 32–301 чтение1 октября 2026 г.

Как измерялось каждое число: Подробнее о том, как мы измеряем

  1. Реальные чаты в GreenCube 0.1.40 и 0.1.42: скорость каждого ответа от 100 токенов, взятая из журнала приложения. Диапазон отбрасывает самую медленную и самую быструю десятую часть.

Где у нас несколько замеров, мы показываем диапазон: скорость на одном и том же ПК немного меняется от замера к замеру. * Этот тестировщик в основном задавал короткие вопросы, поэтому учтены и ответы короче 100 токенов. Короткие ответы измеряются чуть медленнее.

Что это значит

Не всё помещается на видеокарту

Gemma 4 E4B — это файл на 4,2 ГБ, а у видеокарты 4 ГБ, так что модель не помещается целиком, и часть её лежит в обычной памяти (ОЗУ). Каждое слово, которое она пишет, должно добираться до этой части по гораздо более медленному пути, поэтому скорость падает и скачет. И всё же она пишет около 20 токенов в секунду. Скорость чтения вставленного текста от одного дня к другому колебалась от 24 до 395 токенов в секунду, скорее всего потому, что видеокарта была заполнена.

Второй ПК с той же видеокартой

На GTX 1650 другого тестировщика модель Gemma 4 E4B в GreenCube 0.1.42 писала 8–25 токенов в секунду, а читала со скоростью 32–301. Большинство ответов были короткими, а короткие ответы измеряются медленнее длинных: самый длинный был близок к верхней границе этого диапазона.

Более крупная модель Gemma 4 12B

Не очень. GreenCube предлагает более крупную модель Gemma 4 12B только на видеокартах с 10 ГБ видеопамяти и больше, а у этой 4. На 8-гигабайтной AMD RX 5700 XT она отвечала на короткие вопросы, а потом падала в долгом чате.

Изображения

Скорее всего да, но на этой видеокарте мы ещё не замеряли изображение. Когда замерим, число появится здесь. Для изображений используется отдельный ИИ размером около 6 ГБ и гораздо больше вычислений, чем для ответа в чате, поэтому графика здесь важна ещё больше.

Сравнение с другими ПК

Из 8 ПК, которые мы измерили с Gemma 4 E4B, этот на 7-м месте по скорости написания. GTX 1660 Super пишет 37–38, примерно на 90% быстрее. RX 580 пишет 10–11, значит, этот примерно на 90% быстрее.

Тестовый ПК

Собственный ПК реального тестировщика, которым он пользуется как обычно, а не лабораторная машина:

Проверьте свой ПК

Не знаете, что у вас в ПК? Это займёт 30 секунд:

  1. Нажмите Ctrl + Shift + Esc, чтобы открыть Диспетчер задач.
  2. Перейдите на вкладку Производительность.
  3. Нажмите Память: число вверху справа — это ваша ОЗУ.
  4. Нажмите Графический процессор: название вверху справа — это ваша видеокарта, а Выделенная память графического процессора — ваша видеопамять. Видите только графику Intel или AMD без выделенной памяти? Значит, отдельной видеокарты у вас нет.

Затем найдите самую похожую видеокарту в полной таблице. Та же видеокарта с большим объёмом видеопамяти вмещает более крупный ИИ; более новая видеокарта того же объёма обычно быстрее.

Другие ПК, которые мы измерили

Потянет ли мой ПК ИИ? Все 10 ПК в одной таблице и как будет ощущаться ваш ПК.

Вопросы

Потянет ли GTX 1650 ИИ локально?

Да: на настольном ПК с видеокартой NVIDIA GTX 1650 (4 ГБ) и 16 ГБ ОЗУ модель Gemma 4 E4B писала около 20 токенов в секунду. Это быстрее, чем вы читаете.

Может ли GTX 1650 создавать изображения с помощью ИИ?

Скорее всего да, но на этой видеокарте мы ещё не замеряли изображение. Когда замерим, число появится здесь.

Потянет ли GTX 1650 Gemma 4 12B?

Не очень. GreenCube предлагает более крупную модель Gemma 4 12B только на видеокартах с 10 ГБ видеопамяти и больше, а у этой 4. На 8-гигабайтной AMD RX 5700 XT она отвечала на короткие вопросы, а потом падала в долгом чате.

Ваш собственный ИИ на вашем собственном ПК

GreenCube работает на вашем компьютере: без ограничений, без подписки, без интернета. 9,99 €, оплата один раз.

Купить GreenCube