GreenCube 블로그

RTX 5060에서 AI가 돌아갈까? 실측: 초당 56 토큰

글쓴이 Hector Gras · 2026년 10월 1일

실제 사용감

이 PC에서 측정한 속도로 계산했습니다. 시간은 길이를 속도로 나눈 값이고, 실제 답변은 시작하는 데에도 잠깐 시간이 걸립니다. 참고로 영어의 경우 대부분의 사람은 1초에 약 4단어를 읽습니다(Brysbaert, 2019). 한국어는 토큰 수와 글자 수의 관계가 일정하지 않아 여기서는 환산하지 않았습니다. 400 토큰짜리 답변은 읽는 데만도 꽤 시간이 걸립니다.

측정 결과

출력은 AI가 답을 써 내려가는 속도로, 초당 토큰 수로 나타냅니다. 토큰은 단어의 조각입니다. 읽기는 건네준 것(질문, 붙여 넣은 글, PDF)을 받아들이는 속도입니다. AI는 많은 토큰을 한꺼번에 읽을 수 있지만 쓸 때는 하나씩 써야 하므로, 읽기는 항상 출력보다 훨씬 빠릅니다.

각 숫자의 측정 방법: 측정 방법 자세히

1. GreenCube 0.1.42 버전의 자체 속도 테스트. 시작할 때 그래픽카드와 CPU 중 무엇을 쓸지 고르려고 실행하며, 각각에서 짧은 답을 한 번 씁니다.

여러 번 측정한 경우 범위로 표시했습니다. 같은 PC에서도 실행할 때마다 속도가 조금씩 달라지기 때문입니다.

의미

비교

Gemma 4 E4B 모델로 측정한 PC 8대 중, 이 PC의 출력 속도는 3위입니다. RX 5700 XT: 초당 63–72 토큰, 약 20% 빠름. RTX 3060: 초당 53–55 토큰. 이 PC가 약 5% 빠름.

8 GB 카드를 4개 측정했는데, 속도 차이가 큽니다:

• RX 5700 XT: 63–72 토큰/초
• RTX 5060: 56 토큰/초 (시작 테스트)
• RX 6600: 42–44 토큰/초
• RX 580: 10–11 토큰/초

어떤 AI가 들어가는지는 메모리가 정하고, 얼마나 빨리 도는지는 카드가 얼마나 새것인지가 정합니다.

테스트 PC

실험실 장비가 아니라, 실제 테스터가 평소대로 쓰는 자기 PC입니다:

• 데스크톱
• 그래픽: NVIDIA RTX 5060
• 그래픽 메모리(VRAM): 8 GB
• RAM: 32 GB
• CPU: 16 스레드

내 PC 확인하기

내 PC 사양을 모르겠다면? 30초면 확인할 수 있습니다:

1. Ctrl + Shift + Esc를 눌러 작업 관리자를 엽니다.
2. 성능 탭으로 갑니다.
3. 메모리를 클릭합니다. 오른쪽 위 숫자가 RAM입니다.
4. GPU를 클릭합니다. 오른쪽 위 이름이 카드 이름이고, 전용 GPU 메모리가 VRAM입니다. 전용 메모리가 없는 Intel이나 AMD 그래픽만 보인다면 별도 카드가 없는 것입니다.

그다음 전체 표에서 가장 가까운 카드를 찾아보세요. 같은 카드라도 VRAM이 많으면 더 큰 AI가 들어가고, 같은 용량이면 새 카드가 대개 더 빠릅니다.

측정한 다른 PC

• RTX 2080 Ti: 65–71 토큰/초 (Gemma 4 E4B)
• RX 5700 XT: 63–72 토큰/초 (Gemma 4 E4B)
• RTX 3060: 53–55 토큰/초 (Gemma 4 E4B)
• RX 6600: 42–44 토큰/초 (Gemma 4 E4B)
• GTX 1660 Super: 37–38 토큰/초 (Gemma 4 E4B)
• GTX 1650: 약 20 토큰/초 (Gemma 4 E4B)
• Intel Core Ultra 5 노트북: 14–18 토큰/초 (Gemma 4 E2B)
• RX 580: 10–11 토큰/초 (Gemma 4 E4B)
• Intel Iris Xe 노트북: 5–7 토큰/초 (Gemma 4 E2B)

내 PC에서 AI가 돌아갈까? PC 10대 전체를 한 표에, 그리고 내 PC에서의 사용감.

자주 묻는 질문