GTX 1660 Super에서 AI가 돌아갈까? 실측: 초당 37–38 토큰
네. NVIDIA GTX 1660 Super(6 GB)와 RAM 16 GB를 갖춘 데스크톱에서 Gemma 4 E4B 모델의 출력 속도는 초당 37–38 토큰이었습니다. 읽는 속도보다 빠르게 답이 나옵니다.
실제 사용감
| 작업 | 이 PC에서 걸리는 시간 |
|---|---|
| 보통 답변 쓰기(400 토큰) | 10–11 초 |
| 건네준 긴 문서 읽기(5,000 토큰) | 14–20 초 |
| 이미지 만들기(512×512) | 89 초 |
이 PC에서 측정한 속도로 계산했습니다. 시간은 길이를 속도로 나눈 값이고, 실제 답변은 시작하는 데에도 잠깐 시간이 걸립니다. 참고로 영어의 경우 대부분의 사람은 1초에 약 4단어를 읽습니다(Brysbaert, 2019). 한국어는 토큰 수와 글자 수의 관계가 일정하지 않아 여기서는 환산하지 않았습니다. 400 토큰짜리 답변은 읽는 데만도 꽤 시간이 걸립니다.
측정 결과
출력은 AI가 답을 써 내려가는 속도로, 초당 토큰 수로 나타냅니다. 토큰은 단어의 조각입니다. 읽기는 건네준 것(질문, 붙여 넣은 글, PDF)을 받아들이는 속도입니다. AI는 많은 토큰을 한꺼번에 읽을 수 있지만 쓸 때는 하나씩 써야 하므로, 읽기는 항상 출력보다 훨씬 빠릅니다.
| 항목 | 실행 위치 | 결과 | 측정 방법 |
|---|---|---|---|
| Gemma 4 E4B | 그래픽카드 | 37–38.4 토큰/초 출력 · 252–362 읽기 | 2026년 10월 1일 1 |
| Gemma 4 E4B | 그래픽카드 | 46.1 토큰/초 출력 | 2026년 10월 4일 2 |
| Gemma 4 E4B | CPU만 | 8.1 토큰/초 출력 | 2026년 10월 4일 2 |
| Gemma 4 E2B (두 번째 PC) | 그래픽카드 | 41.8–70.3 토큰/초 출력 · 945–1,101 읽기 | 2026년 10월 14일 1 |
| 이미지(512×512) | 그래픽카드 | 89 초 | 2026년 10월 1일 3 |
각 숫자의 측정 방법: 측정 방법 자세히
- GreenCube 0.1.42 및 0.1.42–0.1.45 버전에서의 실제 채팅: 100 토큰 이상인 모든 답의 속도를 앱 로그에서 읽었습니다. 범위는 가장 느린 10%와 가장 빠른 10%를 뺀 것입니다.
- GreenCube 0.1.42 버전의 자체 속도 테스트. 시작할 때 그래픽카드와 CPU 중 무엇을 쓸지 고르려고 실행하며, 각각에서 짧은 답을 한 번 씁니다.
- GreenCube의 이미지 엔진(Z-Image Turbo), 512×512 픽셀, 8단계, 클릭부터 완성까지 측정.
여러 번 측정한 경우 범위로 표시했습니다. 같은 PC에서도 실행할 때마다 속도가 조금씩 달라지기 때문입니다.
의미
일을 하는 건 그래픽카드
같은 PC, 같은 AI(Gemma 4 E4B)로 CPU만 쓰면 초당 8.1 토큰, 그래픽카드에서는 초당 46.1 토큰으로 약 5.7배 빠릅니다. 그래픽카드는 게임을 위해 수천 개의 작은 계산을 동시에 처리하도록 만들어졌고, AI를 돌리는 것도 대부분 같은 종류의 계산입니다. GreenCube는 시작할 때 둘 다 재 보고 더 빠른 쪽을 씁니다.
AI 전체가 카드에 들어감
Gemma 4 E4B 파일은 4.2 GB이고, 카드에는 자체 메모리(VRAM)가 6 GB 있습니다. 전부 들어가고 대화를 위한 여유도 남기 때문에, 카드가 PC의 더 느린 메모리를 기다릴 일이 없습니다. 이렇게 빠른 가장 큰 이유입니다.
같은 카드의 두 번째 PC
다른 테스터의 GTX 1660 Super에서 GreenCube 0.1.42–0.1.45 버전으로 Gemma 4 E2B 모델을 돌리니, 출력은 초당 41.8–70.3 토큰, 읽기는 초당 945–1,101 토큰이었습니다.
더 큰 Gemma 4 12B
여유롭지 않습니다. GreenCube는 더 큰 Gemma 4 12B 모델을 VRAM이 10 GB 이상인 카드에만 권하는데, 이 카드는 6 GB입니다. 8 GB AMD RX 5700 XT에서는 짧은 질문에는 답했지만, 긴 채팅에서 다운됐습니다.
이미지
네. 이미지 한 장(512×512) 생성 시간: 그래픽카드에서 89 초. 이미지는 약 6 GB의 전용 AI를 쓰고 채팅 답변보다 훨씬 많은 계산을 하므로, 여기서는 그래픽 성능 차이가 더 크게 납니다.
비교
Gemma 4 E4B 모델로 측정한 PC 8대 중, 이 PC의 출력 속도는 6위입니다. RX 6600: 초당 42–44 토큰, 약 15% 빠름. GTX 1650: 초당 약 20 토큰. 이 PC가 약 90% 빠름.
테스트 PC
실험실 장비가 아니라, 실제 테스터가 평소대로 쓰는 자기 PC입니다:
- 데스크톱
- 그래픽: NVIDIA GTX 1660 Super
- 그래픽 메모리(VRAM): 6 GB
- RAM: 16 GB
- CPU: 16 스레드
내 PC 확인하기
내 PC 사양을 모르겠다면? 30초면 확인할 수 있습니다:
- Ctrl + Shift + Esc를 눌러 작업 관리자를 엽니다.
- 성능 탭으로 갑니다.
- 메모리를 클릭합니다. 오른쪽 위 숫자가 RAM입니다.
- GPU를 클릭합니다. 오른쪽 위 이름이 카드 이름이고, 전용 GPU 메모리가 VRAM입니다. 전용 메모리가 없는 Intel이나 AMD 그래픽만 보인다면 별도 카드가 없는 것입니다.
그다음 전체 표에서 가장 가까운 카드를 찾아보세요. 같은 카드라도 VRAM이 많으면 더 큰 AI가 들어가고, 같은 용량이면 새 카드가 대개 더 빠릅니다.
측정한 다른 PC
- RTX 2080 Ti: 65–71 토큰/초 (Gemma 4 E4B)
- RX 5700 XT: 63–72 토큰/초 (Gemma 4 E4B)
- RTX 5060: 56 토큰/초 (Gemma 4 E4B)
- RTX 3060: 53–55 토큰/초 (Gemma 4 E4B)
- RX 6600: 42–44 토큰/초 (Gemma 4 E4B)
- GTX 1650: 약 20 토큰/초 (Gemma 4 E4B)
- Intel Core Ultra 5 노트북: 14–18 토큰/초 (Gemma 4 E2B)
- RX 580: 10–11 토큰/초 (Gemma 4 E4B)
- Intel Iris Xe 노트북: 5–7 토큰/초 (Gemma 4 E2B)
내 PC에서 AI가 돌아갈까? PC 10대 전체를 한 표에, 그리고 내 PC에서의 사용감.
자주 묻는 질문
GTX 1660 Super에서 AI를 로컬로 돌릴 수 있나요?
네. NVIDIA GTX 1660 Super(6 GB)와 RAM 16 GB를 갖춘 데스크톱에서 Gemma 4 E4B 모델의 출력 속도는 초당 37–38 토큰이었습니다. 읽는 속도보다 빠르게 답이 나옵니다.
GTX 1660 Super에서 AI 이미지를 만들 수 있나요?
네. 이미지 한 장(512×512) 생성 시간: 그래픽카드에서 89 초.
AI는 GTX 1660 Super에서 더 빠를까요, CPU에서 더 빠를까요?
카드가 훨씬 빠릅니다. CPU는 초당 8.1 토큰, 카드는 초당 46.1 토큰으로 약 5.7배입니다.
GTX 1660 Super에서 Gemma 4 12B가 돌아가나요?
여유롭지 않습니다. GreenCube는 더 큰 Gemma 4 12B 모델을 VRAM이 10 GB 이상인 카드에만 권하는데, 이 카드는 6 GB입니다. 8 GB AMD RX 5700 XT에서는 짧은 질문에는 답했지만, 긴 채팅에서 다운됐습니다.