GreenCube
RU
Купить GreenCube

Блог GreenCube

Потянет ли RTX 5060 ИИ? Измерено: 56 токенов в секунду

Да: на настольном ПК с видеокартой NVIDIA RTX 5060 (8 ГБ) и 32 ГБ ОЗУ модель Gemma 4 E4B писала 56 токенов в секунду. Это быстрее, чем вы читаете.

56скорость в токенах в секунду, Gemma 4 E4B
4,6×быстрее на видеокарте, чем на процессоре

Что это значит на практике

ЗадачаВремя на этом ПК
Написать обычный ответ (400 токенов, около полустраницы)7 с

Рассчитано по скоростям, измеренным на этом ПК: время — это длина, делённая на скорость, а реальному ответу ещё нужно мгновение, чтобы начаться. Для сравнения: большинство людей читает около 4 слов в секунду (Brysbaert, 2019), так что даже просто прочитать ответ из 400 токенов займёт у вас около минуты.

Что мы измерили

Написание — это то, как быстро ИИ печатает ответ, в токенах в секунду; токен — это кусочек слова, и русское слово часто занимает несколько токенов. Чтение — это то, как быстро он воспринимает то, что вы ему даёте: ваш вопрос, вставленный текст или PDF. Чтение всегда намного быстрее написания, потому что ИИ может читать много токенов сразу, а писать их должен по одному.

ЧтоГде работалоРезультатДата замера
Gemma 4 E4Bвидеокарта55,9 токена в секунду написание1 октября 2026 г.
Gemma 4 E4Bтолько процессор12,1 токена в секунду написание1 октября 2026 г.

Как измерялось каждое число: Подробнее о том, как мы измеряем

  1. Собственный тест скорости GreenCube 0.1.42, который он запускает при старте, чтобы выбрать между видеокартой и процессором: короткий ответ, написанный по разу на каждом.

Где у нас несколько замеров, мы показываем диапазон: скорость на одном и том же ПК немного меняется от замера к замеру.

Что это значит

Работу делает видеокарта

Тот же ПК, тот же ИИ (Gemma 4 E4B): 12,1 токена в секунду только на процессоре и 55,9 на видеокарте — примерно в 4,6 раза быстрее. Видеокарта создана, чтобы делать тысячи маленьких вычислений одновременно для игр, а работа ИИ — это в основном та же математика. GreenCube при запуске замеряет оба варианта и использует более быстрый.

Весь ИИ помещается на видеокарту

Gemma 4 E4B — это файл на 4,2 ГБ, а у видеокарты 8 ГБ собственной памяти (видеопамять, VRAM). Модель помещается целиком, и ещё остаётся место для разговора, так что видеокарте не приходится ждать более медленную память остального ПК. Это главная причина такой скорости.

Более крупная модель Gemma 4 12B

Не очень. GreenCube предлагает более крупную модель Gemma 4 12B только на видеокартах с 10 ГБ видеопамяти и больше, а у этой 8. На 8-гигабайтной AMD RX 5700 XT она отвечала на короткие вопросы, а потом падала в долгом чате.

Изображения

Скорее всего да, но на этой видеокарте мы ещё не замеряли изображение. Когда замерим, число появится здесь. Для изображений используется отдельный ИИ размером около 6 ГБ и гораздо больше вычислений, чем для ответа в чате, поэтому графика здесь важна ещё больше.

Сравнение с другими ПК

Из 8 ПК, которые мы измерили с Gemma 4 E4B, этот на 3-м месте по скорости написания. RX 5700 XT пишет 63–72, примерно на 20% быстрее. RTX 3060 пишет 53–55, значит, этот примерно на 5% быстрее.

Мы измерили 4 видеокарты с 8 ГБ, и они сильно различаются:

Память решает, какой ИИ поместится. Насколько новая видеокарта, решает, как быстро он будет работать.

Тестовый ПК

Собственный ПК реального тестировщика, которым он пользуется как обычно, а не лабораторная машина:

Проверьте свой ПК

Не знаете, что у вас в ПК? Это займёт 30 секунд:

  1. Нажмите Ctrl + Shift + Esc, чтобы открыть Диспетчер задач.
  2. Перейдите на вкладку Производительность.
  3. Нажмите Память: число вверху справа — это ваша ОЗУ.
  4. Нажмите Графический процессор: название вверху справа — это ваша видеокарта, а Выделенная память графического процессора — ваша видеопамять. Видите только графику Intel или AMD без выделенной памяти? Значит, отдельной видеокарты у вас нет.

Затем найдите самую похожую видеокарту в полной таблице. Та же видеокарта с большим объёмом видеопамяти вмещает более крупный ИИ; более новая видеокарта того же объёма обычно быстрее.

Другие ПК, которые мы измерили

Потянет ли мой ПК ИИ? Все 10 ПК в одной таблице и как будет ощущаться ваш ПК.

Вопросы

Потянет ли RTX 5060 ИИ локально?

Да: на настольном ПК с видеокартой NVIDIA RTX 5060 (8 ГБ) и 32 ГБ ОЗУ модель Gemma 4 E4B писала 56 токенов в секунду. Это быстрее, чем вы читаете.

Может ли RTX 5060 создавать изображения с помощью ИИ?

Скорее всего да, но на этой видеокарте мы ещё не замеряли изображение. Когда замерим, число появится здесь.

ИИ работает быстрее на RTX 5060 или на процессоре?

На видеокарте, с большим отрывом: 55,9 токена в секунду против 12,1 на процессоре, примерно в 4,6 раза быстрее.

Потянет ли RTX 5060 Gemma 4 12B?

Не очень. GreenCube предлагает более крупную модель Gemma 4 12B только на видеокартах с 10 ГБ видеопамяти и больше, а у этой 8. На 8-гигабайтной AMD RX 5700 XT она отвечала на короткие вопросы, а потом падала в долгом чате.

Ваш собственный ИИ на вашем собственном ПК

GreenCube работает на вашем компьютере: без ограничений, без подписки, без интернета. 9,99 €, оплата один раз.

Купить GreenCube