GreenCube
RU
Купить GreenCube

Блог GreenCube

Потянет ли RX 5700 XT ИИ? Измерено: 63–72 токена в секунду

Да: на настольном ПК с видеокартой AMD RX 5700 XT (8 ГБ) и 48 ГБ ОЗУ модель Gemma 4 E4B писала 63–72 токена в секунду. Это быстрее, чем вы читаете.

63–72скорость в токенах в секунду, Gemma 4 E4B
14×быстрее на видеокарте, чем на процессоре
20–36с моделью Gemma 4 12B (только короткие чаты)

Что это значит на практике

ЗадачаВремя на этом ПК
Написать обычный ответ (400 токенов, около полустраницы)6 с
Прочитать длинный документ, который вы ему дали (5 000 токенов, около 5 страниц)8 с

Рассчитано по скоростям, измеренным на этом ПК: время — это длина, делённая на скорость, а реальному ответу ещё нужно мгновение, чтобы начаться. Для сравнения: большинство людей читает около 4 слов в секунду (Brysbaert, 2019), так что даже просто прочитать ответ из 400 токенов займёт у вас около минуты.

Что мы измерили

Написание — это то, как быстро ИИ печатает ответ, в токенах в секунду; токен — это кусочек слова, и русское слово часто занимает несколько токенов. Чтение — это то, как быстро он воспринимает то, что вы ему даёте: ваш вопрос, вставленный текст или PDF. Чтение всегда намного быстрее написания, потому что ИИ может читать много токенов сразу, а писать их должен по одному.

ЧтоГде работалоРезультатДата замера
Gemma 4 E4Bвидеокарта63–72 токена в секунду написание · 594–609 чтение22 сентября 2026 г.
Gemma 4 E4Bтолько процессор5 токенов в секунду написание · 357 чтение22 сентября 2026 г.
Gemma 4 12Bвидеокарта20–36 токенов в секунду написание · 108–113 чтение22 сентября 2026 г.

Как измерялось каждое число: Подробнее о том, как мы измеряем

  1. Собственный тест скорости llama.cpp (llama-bench) — движка, на котором работает GreenCube, — с теми же файлами ИИ: написано 128 токенов, прочитан текст из 512 токенов.

Где у нас несколько замеров, мы показываем диапазон: скорость на одном и том же ПК немного меняется от замера к замеру.

Что это значит

Работу делает видеокарта

Тот же ПК, тот же ИИ (Gemma 4 E4B): 5 токенов в секунду только на процессоре и 63–72 на видеокарте — примерно в 14 раз быстрее. Видеокарта создана, чтобы делать тысячи маленьких вычислений одновременно для игр, а работа ИИ — это в основном та же математика. GreenCube при запуске замеряет оба варианта и использует более быстрый.

Весь ИИ помещается на видеокарту

Gemma 4 E4B — это файл на 4,2 ГБ, а у видеокарты 8 ГБ собственной памяти (видеопамять, VRAM). Модель помещается целиком, и ещё остаётся место для разговора, так что видеокарте не приходится ждать более медленную память остального ПК. Это главная причина такой скорости.

Более крупная модель Gemma 4 12B

Только для коротких чатов. Более крупная модель Gemma 4 12B (6,4 ГБ) писала 20–36 токенов в секунду на коротком вопросе, но когда чат дошёл до 8 192 токенов (долгий разговор), она упала: видеокарта была почти заполнена. Поэтому GreenCube предлагает 12B только на видеокартах с 10 ГБ и больше.

Изображения

Скорее всего да, но на этой видеокарте мы ещё не замеряли изображение. Когда замерим, число появится здесь. Для изображений используется отдельный ИИ размером около 6 ГБ и гораздо больше вычислений, чем для ответа в чате, поэтому графика здесь важна ещё больше.

Сравнение с другими ПК

Из 8 ПК, которые мы измерили с Gemma 4 E4B, этот на 2-м месте по скорости написания. RTX 2080 Ti пишет 65–71, примерно столько же. RTX 5060 пишет 56 (стартовый тест), значит, этот примерно на 20% быстрее.

Мы измерили 4 видеокарты с 8 ГБ, и они сильно различаются:

Память решает, какой ИИ поместится. Насколько новая видеокарта, решает, как быстро он будет работать.

Тестовый ПК

Собственный ПК реального тестировщика, которым он пользуется как обычно, а не лабораторная машина:

Проверьте свой ПК

Не знаете, что у вас в ПК? Это займёт 30 секунд:

  1. Нажмите Ctrl + Shift + Esc, чтобы открыть Диспетчер задач.
  2. Перейдите на вкладку Производительность.
  3. Нажмите Память: число вверху справа — это ваша ОЗУ.
  4. Нажмите Графический процессор: название вверху справа — это ваша видеокарта, а Выделенная память графического процессора — ваша видеопамять. Видите только графику Intel или AMD без выделенной памяти? Значит, отдельной видеокарты у вас нет.

Затем найдите самую похожую видеокарту в полной таблице. Та же видеокарта с большим объёмом видеопамяти вмещает более крупный ИИ; более новая видеокарта того же объёма обычно быстрее.

Другие ПК, которые мы измерили

Потянет ли мой ПК ИИ? Все 10 ПК в одной таблице и как будет ощущаться ваш ПК.

Вопросы

Потянет ли RX 5700 XT ИИ локально?

Да: на настольном ПК с видеокартой AMD RX 5700 XT (8 ГБ) и 48 ГБ ОЗУ модель Gemma 4 E4B писала 63–72 токена в секунду. Это быстрее, чем вы читаете.

Может ли RX 5700 XT создавать изображения с помощью ИИ?

Скорее всего да, но на этой видеокарте мы ещё не замеряли изображение. Когда замерим, число появится здесь.

ИИ работает быстрее на RX 5700 XT или на процессоре?

На видеокарте, с большим отрывом: 63–72 токена в секунду против 5 на процессоре, примерно в 14 раз быстрее.

Потянет ли RX 5700 XT Gemma 4 12B?

Только для коротких чатов. Более крупная модель Gemma 4 12B (6,4 ГБ) писала 20–36 токенов в секунду на коротком вопросе, но когда чат дошёл до 8 192 токенов (долгий разговор), она упала: видеокарта была почти заполнена. Поэтому GreenCube предлагает 12B только на видеокартах с 10 ГБ и больше.

Ваш собственный ИИ на вашем собственном ПК

GreenCube работает на вашем компьютере: без ограничений, без подписки, без интернета. 9,99 €, оплата один раз.

Купить GreenCube