Лучшая локальная модель ИИ для вашего ПК по ОЗУ и видеопамяти (замерено)
Короткий ответ: лучшая локальная модель ИИ для вашего ПК — самая большая из тех, что целиком помещаются на вашу видеокарту с запасом около 1,5 ГБ. Нет видеокарты? Тогда маленькая модель в ОЗУ. Модель поменьше целиком на видеокарте лучше большей, которая не помещается: по нашим замерам такая работает в 6 раз медленнее. Ниже — выбор для каждого типа ПК, со скоростью, которую мы измерили на 10 реальных ПК.
Лучшая модель для вашего ПК
| Ваш ПК | Какой размер модели поместится | Что мы измерили |
|---|---|---|
| Ноутбук с 8 ГБ, без видеокарты | Маленькая, около 2–3 ГБ (Gemma 4 E2B, 2,6 ГБ) | 5–7 ток/с в реальных чатах; сначала закройте другие приложения |
| Ноутбук с 16 ГБ, без видеокарты | Маленькая ради скорости; около 4 ГБ работает, но медленно | E2B 14–18 ток/с; E4B 8–10 |
| Видеокарта с 4 ГБ | Около 2–3 ГБ помещается целиком; 4 ГБ уже не помещается | E4B (4,2 ГБ, частично в ОЗУ) около 20 ток/с на GTX 1650 |
| Видеокарта с 6 ГБ | Около 4–4,5 ГБ | E4B 35–38 ток/с на GTX 1660 Super |
| Видеокарта с 8 ГБ | Около 4–6 ГБ | E4B 56–72 на современных видеокартах (около 11 на старой RX 580) |
| Видеокарта от 12 ГБ | Около 6–10 ГБ: модели класса 12B | E4B 50–55 на 12 ГБ; для длинных чатов 12B нужно от 10 ГБ |
Каждая видеокарта на своей странице: Потянет ли мой ПК ИИ? Или введите свою видеокарту в нашу проверку.
Почему «помещается» важнее, чем «самая большая»
Не поместилась — и она медленнее, чем вообще без видеокарты
На RX 5700 XT с 8 ГБ Gemma 4 12B писала 35,6 токена в секунду целиком на видеокарте, 5,9 — когда часть её была вне видеокарты, и 4,3 — когда на видеокарте было ещё меньше: медленнее, чем модель поменьше вообще без видеокарты. Полный тест видеопамяти.
Помещается для одного вопроса, падает в длинном чате
Та же модель 12B поместилась на видеокарту с 8 ГБ для короткого вопроса, а потом падала каждый раз, когда чат разрастался: разговору тоже нужно место. Именно для этого и нужен запас в 1,5 ГБ.
Маленькой часто достаточно
На ноутбуке с 16 ГБ Gemma 4 E2B дала полный учебный ответ за 20 секунд и правильно ответила на 5 из 5 быстрых проверок фактов; E4B объяснила лучше, но потратила 112 секунд. E2B против E4B, замерено.
Модели, которые мы замерили
| Модель | Размер файла | Лучше всего на | Лицензия |
|---|---|---|---|
| Gemma 4 E2B | 2,6 ГБ | Ноутбуках с 8–16 ГБ ОЗУ | Apache 2.0 |
| Gemma 4 E4B | 4,2 ГБ | Видеокартах от 6 ГБ | Apache 2.0 |
| Gemma 4 12B | около 6,4 ГБ | Видеокартах с 10–12 ГБ и больше | Apache 2.0 |
Это файлы, которые поставляются с GreenCube, и единственные, которые мы замеряли, поэтому скорость мы приводим только для них. Другие семейства моделей подчиняются тому же правилу: посмотрите размер файла, добавьте около 1,5 ГБ и сравните со своей видеопамятью. Подробные требования Gemma 4.
Как проверить видеопамять
- Нажмите Ctrl + Shift + Esc, чтобы открыть Диспетчер задач.
- Перейдите на вкладку Производительность, затем выберите Графический процессор.
- Выделенная память графического процессора — это ваша видеопамять. Выделенной памяти нет? Используйте маленькую модель в ОЗУ.
Не хотите выбирать вообще? GreenCube смотрит на вашу видеокарту и ОЗУ и выбирает модель, которая помещается с запасом. Бесплатные приложения вроде LM Studio, Jan и Ollama дают выбрать самому: 12 приложений в сравнении.
Вопросы
Какая локальная модель ИИ лучшая?
Самая большая модель, которая целиком помещается на вашу видеокарту с запасом около 1,5 ГБ. Модель поменьше целиком на видеокарте лучше большей, которая переходит в ОЗУ: в нашем тесте модель, часть которой не поместилась на видеокарту с 8 ГБ, работала в 6 раз медленнее.
Какая локальная модель ИИ лучше всего для ноутбука без видеокарты?
Маленькая. Gemma 4 E2B (2,6 ГБ) в реальных чатах писала от 14 до 18 токенов в секунду на ноутбуке с 16 ГБ и от 5 до 7 на ноутбуке с 8 ГБ; большая E4B потратила 112 секунд на ответ, который E2B дала за 20.
Какая локальная модель ИИ лучше всего для видеокарты с 8 ГБ?
Модель примерно на 4–5 ГБ, например Gemma 4 E4B (4,2 ГБ): на игровых видеокартах с 8 ГБ она писала от 56 до 72 токенов в секунду. Модель на 12 миллиардов параметров помещалась для коротких вопросов, но падала в длинных чатах.
Как узнать, поместится ли модель на мою видеокарту?
Возьмите размер файла модели и добавьте около 1,5 ГБ на разговор и Windows. Если получилось меньше, чем выделенная память графического процессора вашей видеокарты (Диспетчер задач, Производительность, Графический процессор), модель поместится.
Нужно ли выбирать модель самому?
В бесплатных приложениях вроде LM Studio, Jan или Ollama — да. GreenCube смотрит на вашу видеокарту и ОЗУ и сам выбирает модель, которая подходит.
Ваш собственный ИИ на вашем собственном ПК
GreenCube работает на вашем компьютере: без ограничений, без подписки, без интернета. 9,99 €, оплата один раз.
Купить GreenCube