내 PC에 가장 좋은 로컬 AI 모델: RAM과 VRAM별로 실측
짧은 답: 내 PC에 가장 좋은 로컬 AI 모델은 약 1.5 GB의 여유를 남기고 그래픽카드에 통째로 들어가는 가장 큰 모델입니다. 카드가 없다면? RAM에서 작은 모델을 돌리세요. 카드에 전부 올라가는 작은 모델이 넘치는 큰 모델을 이깁니다. 넘치면 6배 느려지는 것을 측정했습니다. 아래는 PC 종류별 추천과, 실제 PC 10대에서 측정한 속도입니다.
내 PC에 가장 좋은 모델
| 내 PC | 들어가는 모델 크기 | 측정 결과 |
|---|---|---|
| 그래픽카드 없는 8 GB 노트북 | 작은 모델, 약 2–3 GB(Gemma 4 E2B, 2.6 GB) | 실제 채팅에서 5–7 토큰/초. 다른 앱은 먼저 닫기 |
| 그래픽카드 없는 16 GB 노트북 | 속도를 원하면 작은 모델. 약 4 GB도 되지만 느림 | E2B 14–18 토큰/초, E4B 8–10 |
| 4 GB 그래픽카드 | 약 2–3 GB면 통째로 들어감. 4 GB는 넘침 | GTX 1650에서 E4B(4.2 GB, 일부는 RAM) 약 20 토큰/초 |
| 6 GB 그래픽카드 | 약 4–4.5 GB | GTX 1660 Super에서 E4B 35–38 토큰/초 |
| 8 GB 그래픽카드 | 약 4–6 GB | 최근 카드에서 E4B 56–72(오래된 RX 580에서는 약 11) |
| 12 GB 이상 그래픽카드 | 약 6–10 GB: 12B급 모델 | 12 GB에서 E4B 50–55. 12B로 긴 채팅을 하려면 10 GB 이상 필요 |
카드마다 따로 페이지가 있습니다: 내 PC에서 AI가 돌아갈까? 아니면 검사기에 카드 이름을 입력하세요.
왜 "가장 큰"보다 "들어가는"이 중요한가
넘치면 카드가 없을 때보다도 느림
8 GB RX 5700 XT에서 Gemma 4 12B는 카드에 전부 올라갔을 때 초당 35.6 토큰, 일부가 카드 밖에 있을 때 5.9 토큰, 카드에 더 적게 올렸을 때 4.3 토큰을 출력했습니다. 카드 없이 돌리는 더 작은 모델보다 느립니다. VRAM 테스트 전체 보기.
질문 하나에는 들어가도, 긴 채팅에서는 다운
같은 12B 모델은 짧은 질문까지는 8 GB 카드에 들어갔지만, 채팅이 길어질 때마다 다운됐습니다. 대화에도 공간이 필요하기 때문입니다. 1.5 GB의 여유는 그래서 남겨 둡니다.
작은 모델로 충분할 때가 많음
16 GB 노트북에서 Gemma 4 E2B는 완전한 공부용 답을 20초 만에 냈고, 짧은 사실 확인 5문제를 모두 맞혔습니다. E4B는 설명은 더 좋았지만 112초가 걸렸습니다. E2B vs E4B 실측.
측정한 모델
| 모델 | 파일 크기 | 잘 맞는 PC | 라이선스 |
|---|---|---|---|
| Gemma 4 E2B | 2.6 GB | 노트북, RAM 8–16 GB | Apache 2.0 |
| Gemma 4 E4B | 4.2 GB | 6 GB 이상 그래픽카드 | Apache 2.0 |
| Gemma 4 12B | 약 6.4 GB | 10–12 GB 이상 그래픽카드 | Apache 2.0 |
GreenCube가 제공하는 파일이자 저희가 시간을 잰 유일한 모델이라, 이 모델들의 속도만 적었습니다. 다른 모델 계열도 같은 규칙을 따릅니다. 파일 크기를 확인하고, 약 1.5 GB를 더하고, VRAM과 비교하세요. Gemma 4 요구 사양 자세히 보기.
VRAM 확인 방법
- Ctrl + Shift + Esc를 눌러 작업 관리자를 엽니다.
- 성능으로 간 다음 GPU를 클릭합니다.
- 전용 GPU 메모리가 VRAM입니다. 전용 메모리가 없다면? RAM에서 작은 모델을 쓰세요.
직접 고르기 싫다면? GreenCube가 그래픽카드와 RAM을 읽고, 여유 있게 들어가는 모델을 고릅니다. LM Studio, Jan, Ollama 같은 무료 앱에서는 직접 고릅니다: 앱 12개 비교.
자주 묻는 질문
가장 좋은 로컬 AI 모델은?
그래픽카드에 약 1.5 GB의 여유를 남기고 통째로 들어가는 가장 큰 모델입니다. 카드에 전부 올라가는 작은 모델이 RAM으로 넘치는 큰 모델을 이깁니다. 테스트에서 일부가 8 GB 카드 밖에 있던 모델은 6배 느렸습니다.
그래픽카드 없는 노트북에 가장 좋은 로컬 AI 모델은?
작은 모델입니다. Gemma 4 E2B(2.6 GB)는 실제 채팅에서 16 GB 노트북에서 초당 14~18 토큰, 8 GB 노트북에서 5~7 토큰을 출력했습니다. 더 큰 E4B는 E2B가 20초 만에 낸 답에 112초가 걸렸습니다.
8 GB 그래픽카드에 가장 좋은 로컬 AI 모델은?
약 4~5 GB 모델입니다. 예를 들어 Gemma 4 E4B(4.2 GB)는 8 GB 게이밍 카드에서 초당 56~72 토큰을 출력했습니다. 120억 파라미터 모델은 짧은 질문에는 들어갔지만 긴 채팅에서 다운됐습니다.
모델이 내 그래픽카드에 들어가는지 어떻게 아나요?
모델 파일 크기에 대화와 Windows를 위한 약 1.5 GB를 더하세요. 그 값이 카드의 전용 GPU 메모리(작업 관리자, 성능, GPU)보다 작으면 들어갑니다.
모델을 직접 골라야 하나요?
LM Studio, Jan, Ollama 같은 무료 앱에서는 그렇습니다. GreenCube는 그래픽카드와 RAM을 읽고 맞는 모델을 대신 골라 줍니다.