GreenCube
RU
Купить GreenCube

Блог GreenCube

Потянет ли RTX 2080 Ti ИИ? Измерено: 65–71 токен в секунду

Да: на настольном ПК с видеокартой NVIDIA RTX 2080 Ti (11 ГБ) и 128 ГБ ОЗУ модель Gemma 4 E4B писала 65–71 токен в секунду. Это быстрее, чем вы читаете.

65–71скорость в токенах в секунду, Gemma 4 E4B
5,6×быстрее на видеокарте, чем на процессоре
8–9 сна одно изображение

Что это значит на практике

ЗадачаВремя на этом ПК
Написать обычный ответ (400 токенов, около полустраницы)6 с
Прочитать длинный документ, который вы ему дали (5 000 токенов, около 5 страниц)3–4 с
Создать изображение (512×512)8–9 с (первое: 83 с)

Рассчитано по скоростям, измеренным на этом ПК: время — это длина, делённая на скорость, а реальному ответу ещё нужно мгновение, чтобы начаться. Для сравнения: большинство людей читает около 4 слов в секунду (Brysbaert, 2019), так что даже просто прочитать ответ из 400 токенов займёт у вас около минуты.

Что мы измерили

Написание — это то, как быстро ИИ печатает ответ, в токенах в секунду; токен — это кусочек слова, и русское слово часто занимает несколько токенов. Чтение — это то, как быстро он воспринимает то, что вы ему даёте: ваш вопрос, вставленный текст или PDF. Чтение всегда намного быстрее написания, потому что ИИ может читать много токенов сразу, а писать их должен по одному.

ЧтоГде работалоРезультатДата замера
Gemma 4 E4Bвидеокарта65–71 токен в секунду написание · 1 380–1 800 чтение14 октября 2026 г. 1
Gemma 4 E4Bвидеокарта75,6 токена в секунду написание14 октября 2026 г. 2
Gemma 4 E4Bтолько процессор13,5 токена в секунду написание14 октября 2026 г. 2
Изображение (512×512)видеокарта8–9 с (первое заняло 83 с, пока загружалось)12 октября 2026 г. 3

Как измерялось каждое число: Подробнее о том, как мы измеряем

  1. Реальные чаты в GreenCube 0.1.44: скорость каждого ответа от 100 токенов, взятая из журнала приложения. Диапазон отбрасывает самую медленную и самую быструю десятую часть.
  2. Собственный тест скорости GreenCube 0.1.44, который он запускает при старте, чтобы выбрать между видеокартой и процессором: короткий ответ, написанный по разу на каждом.
  3. Движок изображений GreenCube (Z-Image Turbo), 512×512 пикселей, 8 шагов, время от нажатия до готового изображения.

Где у нас несколько замеров, мы показываем диапазон: скорость на одном и том же ПК немного меняется от замера к замеру.

Что это значит

Работу делает видеокарта

Тот же ПК, тот же ИИ (Gemma 4 E4B): 13,5 токена в секунду только на процессоре и 75,6 на видеокарте — примерно в 5,6 раза быстрее. Видеокарта создана, чтобы делать тысячи маленьких вычислений одновременно для игр, а работа ИИ — это в основном та же математика. GreenCube при запуске замеряет оба варианта и использует более быстрый.

Весь ИИ помещается на видеокарту

Gemma 4 E4B — это файл на 4,2 ГБ, а у видеокарты 11 ГБ собственной памяти (видеопамять, VRAM). Модель помещается целиком, и ещё остаётся место для разговора, так что видеокарте не приходится ждать более медленную память остального ПК. Это главная причина такой скорости.

Более крупная модель Gemma 4 12B

Должна. Gemma 4 12B — это файл на 6,4 ГБ, а у этой видеокарты 11 ГБ, так что остаётся место и для долгого разговора. На этой видеокарте мы её ещё не замеряли.

Изображения

Да. Одно изображение (512×512) заняло 8–9 с на видеокарте (первое заняло 83 с, пока загружалось). Для изображений используется отдельный ИИ размером около 6 ГБ и гораздо больше вычислений, чем для ответа в чате, поэтому графика здесь важна ещё больше.

Сравнение с другими ПК

Из 8 ПК, которые мы измерили с Gemma 4 E4B, этот на 1-м месте по скорости написания. RX 5700 XT пишет 63–72, значит, этот примерно такой же по скорости.

Тестовый ПК

Собственный ПК реального тестировщика, которым он пользуется как обычно, а не лабораторная машина:

Проверьте свой ПК

Не знаете, что у вас в ПК? Это займёт 30 секунд:

  1. Нажмите Ctrl + Shift + Esc, чтобы открыть Диспетчер задач.
  2. Перейдите на вкладку Производительность.
  3. Нажмите Память: число вверху справа — это ваша ОЗУ.
  4. Нажмите Графический процессор: название вверху справа — это ваша видеокарта, а Выделенная память графического процессора — ваша видеопамять. Видите только графику Intel или AMD без выделенной памяти? Значит, отдельной видеокарты у вас нет.

Затем найдите самую похожую видеокарту в полной таблице. Та же видеокарта с большим объёмом видеопамяти вмещает более крупный ИИ; более новая видеокарта того же объёма обычно быстрее.

Другие ПК, которые мы измерили

Потянет ли мой ПК ИИ? Все 10 ПК в одной таблице и как будет ощущаться ваш ПК.

Вопросы

Потянет ли RTX 2080 Ti ИИ локально?

Да: на настольном ПК с видеокартой NVIDIA RTX 2080 Ti (11 ГБ) и 128 ГБ ОЗУ модель Gemma 4 E4B писала 65–71 токен в секунду. Это быстрее, чем вы читаете.

Может ли RTX 2080 Ti создавать изображения с помощью ИИ?

Да. Одно изображение (512×512) заняло 8–9 с на видеокарте (первое заняло 83 с, пока загружалось).

ИИ работает быстрее на RTX 2080 Ti или на процессоре?

На видеокарте, с большим отрывом: 75,6 токена в секунду против 13,5 на процессоре, примерно в 5,6 раза быстрее.

Потянет ли RTX 2080 Ti Gemma 4 12B?

Должна. Gemma 4 12B — это файл на 6,4 ГБ, а у этой видеокарты 11 ГБ, так что остаётся место и для долгого разговора. На этой видеокарте мы её ещё не замеряли.

Ваш собственный ИИ на вашем собственном ПК

GreenCube работает на вашем компьютере: без ограничений, без подписки, без интернета. 9,99 €, оплата один раз.

Купить GreenCube