Windows 10·11에서 오프라인 AI: 내 PC에 필요한 것, PC 10대에서 측정
짧은 답: Windows 10이나 11에 RAM 8 GB인 PC라면 인터넷 없이 로컬 AI 챗봇을 돌릴 수 있고, 16 GB나 게이밍 그래픽카드가 있으면 넉넉합니다. 앱과 모델을 한 번 내려받으면 그 뒤로는 와이파이를 꺼도 됩니다. 실제 Windows PC 10대에서 측정했습니다. 8 GB 노트북에서는 대략 읽는 속도, 게이밍 PC에서는 훨씬 빠릅니다.
내 Windows PC에 필요한 것
| 최소 | 넉넉하게 | |
|---|---|---|
| Windows | Windows 10(64비트) | Windows 11 |
| RAM | 8 GB, 다른 앱은 닫기 | 16 GB 이상 |
| 그래픽카드 | 필요 없음 | 최근 몇 년 사이의 6 GB 이상 카드면 무엇이든 |
| 디스크 공간 | 작은 모델에 약 3 GB | 더 큰 모델과 이미지에 약 11 GB |
| 인터넷 | 한 번, 앱과 모델을 내려받을 때 | |
내 PC 사양을 모르겠다면? Ctrl + Shift + Esc를 눌러 성능을 열고 메모리와 GPU를 보세요. 아니면 확인 도구에 카드 이름을 넣으면, 내 것과 비슷한 실제 PC에서 무엇이 얼마나 빠르게 돌아가는지 알려 줍니다.
실제 Windows PC에서의 속도
모든 숫자는 2026년 9월과 10월에 실제 Windows PC에서 돌린 GreenCube의 결과이고, 대부분 실제 채팅입니다. 토큰은 단어의 조각입니다.
| 내 Windows PC | 쓰는 속도 | 이미지 1장(512×512) |
|---|---|---|
| 8 GB 노트북, 그래픽카드 없음 | 초당 5–7토큰, 대략 읽는 속도 | 불가(약 7 GB 여유가 필요) |
| 16 GB 노트북, 그래픽카드 없음 | 초당 14–18토큰 | 2–2.5분 |
| 6 GB 이상 카드의 게이밍 PC | 대부분의 카드에서 초당 37–76토큰 | 8–89초 |
예외: 오래된 AMD RX 580은 초당 약 11토큰이었지만 그래도 읽는 것보다 빠릅니다. 카드별 전용 페이지는 내 PC로 AI를 돌릴 수 있을까?에 있습니다.
일의 대부분은 그래픽카드가 한다
같은 Windows PC에서 같은 AI가 CPU에서는 초당 5토큰, RX 5700 XT에서는 72토큰을 썼습니다. AI를 돌리는 일은 대부분 그래픽카드가 잘하는 종류의 계산이라, 최근 게이밍 카드라면 큰 차이가 납니다. 얼마나 큰 AI가 들어가는지는 RAM이 아니라 카드 메모리(VRAM)가 정합니다: 모델이 카드에 들어가야 하는 이유.
그래픽카드가 없다면? 공부와 채팅에는 충분
Intel 그래픽만 있는 평범한 16 GB 노트북이 설명과 시험 문제 3개로 된 공부용 답변을 약 20초 만에 끝냈습니다. 8 GB 노트북에서도 다른 앱이 메모리를 비워 두면 더 느리지만 돌아갑니다: 8 GB 테스트.
Windows에서 AI를 오프라인으로 돌리는 앱
각 앱의 공식 사이트 기준, 2026년 10월 21일 확인. 다른 앱은 저희 PC에서 측정하지 않았기 때문에 이 표는 속도를 비교하지 않습니다.
| 앱 | Windows | 가격 | 모델을 골라 주나? | PDF 읽기 |
|---|---|---|---|---|
| GreenCube | Windows 10과 11 | 9.99유로 한 번 | 예, 카드와 RAM에 맞춰 | 예 |
| LM Studio | AVX2를 지원하는 CPU | 무료 | 아니요, 목록에서 직접 선택 | 예 |
| Jan | Windows 10 이상 | 무료, 오픈 소스 | 아니요 | 예 |
| Ollama | Windows, 2025년 7월부터 채팅 창 | 내 PC에서 무료 | 아니요 | 예 |
| GPT4All | Windows(ARM PC 제외) | 무료, 오픈 소스 | 아니요 | 예, LocalDocs로 |
| AnythingLLM | Windows | 데스크톱 버전 무료 | 아니요 | 예 |
| Msty | Windows 10과 11 | 무료 요금제 | 아니요 | 예 |
| KoboldCpp | .exe 하나, 채팅은 브라우저에서 | 무료, 오픈 소스 | 아니요 | 텍스트만 |
각 앱이 인터넷으로 무엇을 보내는지, Mac과 휴대폰 앱까지 보고 싶다면 오프라인 AI 챗봇 12개 비교를 보세요.
Windows 10과 Windows 11, 어느 쪽?
AI는 둘 다에서 똑같이 돌아갑니다. 중요한 건 RAM과 그래픽카드이지 Windows 버전이 아닙니다. 알아 둘 점이 하나 있습니다. Microsoft가 2025년 10월 14일에 Windows 10 지원을 끝냈기 때문에, 확장 보안 업데이트에 가입하지 않으면 Windows 10 PC에는 보안 업데이트가 오지 않습니다. 오프라인 AI는 어느 쪽이든 채팅을 PC 안에 두지만, Windows를 최신으로 유지하는 건 여전히 좋습니다.
아무것도 나가지 않는지 확인하는 법
- 비행기 모드를 켭니다(또는 케이블을 뽑습니다). 첫 다운로드 뒤에 채팅해서 답이 오면 AI가 내 PC에서 돌고 있는 것입니다.
- 네트워크를 봅니다: Windows + R을 누르고 resmon을 입력한 뒤 네트워크 탭을 엽니다. 채팅하는 동안 데이터를 보내거나 받는 프로그램이 모두 보입니다.
- 앱이 무엇을 보낸다고 하는지 읽습니다. GreenCube의 경우: 활성화를 위해 한 번 로그인하고, AI와 업데이트를 내려받으며, 온라인 검색(켤 때마다 꺼짐)은 검색어를 검색 엔진에 보냅니다. 그 밖에는 없습니다: "저희는 여러분의 채팅, 파일, 기억, 이미지를 받지 않습니다."
Windows 오프라인 AI가 못 하는 것
- 오늘의 뉴스. 모델은 학습 때 배운 것만 압니다. 새로운 소식은 웹 검색이 필요하고, 그 부분은 인터넷을 거칩니다.
- 모든 면에서 가장 큰 클라우드 AI를 이기기. PC에 들어가는 모델은 공부, 글쓰기, 일상 질문에 좋지만, 가장 어려운 문제에서는 가장 큰 클라우드 모델이 아직 더 강합니다.
- 어떤 PC에서나 빠르기. 일하는 건 내 PC입니다. 8 GB 노트북은 대략 읽는 속도, 게이밍 PC는 훨씬 빠릅니다.
공부용이라면 오프라인 AI가 학생에게 해 주는 것에서 PDF, 요약, 플래시카드에 걸리는 시간을 보세요.
자주 묻는 질문
Windows 11에서 AI를 오프라인으로 쓸 수 있나요?
네. GreenCube, LM Studio, Jan, Ollama, GPT4All 같은 앱은 AI 모델을 내 PC에서 직접 돌립니다. 앱과 모델을 내려받을 때 한 번만 인터넷이 필요하고, 그 뒤로는 와이파이를 꺼도 채팅이 됩니다.
오프라인 AI가 Windows 10에서도 되나요?
됩니다. GreenCube, Jan, Msty는 Windows 10을 지원한다고 밝힙니다. Microsoft는 2025년 10월 14일에 Windows 10 지원을 끝냈습니다. AI는 계속 돌아가지만, 확장 보안 업데이트에 가입하지 않으면 PC에 보안 업데이트가 오지 않습니다.
Windows PC에서 로컬 AI를 돌리려면 RAM이 얼마나 필요한가요?
작은 모델이라면 8 GB면 됩니다. 저희 8 GB 노트북은 실제 채팅에서 초당 5~7토큰, 대략 읽는 속도로 썼습니다. 16 GB면 넉넉합니다. 그래픽카드 없는 저희 16 GB 노트북은 초당 14~18토큰이었습니다.
Windows에서 로컬 AI 챗봇에 그래픽카드가 필요한가요?
필요하지 않지만 큰 도움이 됩니다. 6 GB 이상 카드를 단 게이밍 PC에서는 대부분의 카드에서 초당 37~76토큰을 측정했습니다. 같은 PC를 CPU만으로 돌릴 때보다 몇 배 빠릅니다. 이미지를 만들려면 그래픽카드나 16 GB RAM이 필요합니다.
Windows용 무료 오프라인 AI가 있나요?
있습니다. LM Studio, Jan, Ollama, GPT4All, AnythingLLM은 무료이고, 모델은 직접 골라 내려받습니다. GreenCube는 9.99유로 한 번 결제로, 내 PC에 맞는 모델을 알아서 고릅니다.