GreenCube
HI
GreenCube लें

GreenCube ब्लॉग

क्या GTX 1650 पर AI चलेगा? मापा गया: प्रति सेकंड लगभग 20 टोकन

हाँ: NVIDIA GTX 1650 (4 GB) ग्राफ़िक्स कार्ड और 16 GB RAM वाले डेस्कटॉप पर Gemma 4 E4B ने प्रति सेकंड लगभग 20 टोकन लिखे. यह आपके पढ़ने से तेज़ है.

लगभग 20प्रति सेकंड टोकन, Gemma 4 E4B के साथ

असल में इसका क्या मतलब है

कामइस PC पर समय
एक सामान्य जवाब लिखना (400 टोकन, लगभग आधा पेज)20 सेकंड
आपका दिया लंबा दस्तावेज़ पढ़ना (5,000 टोकन, लगभग 5 पेज)0:13–3:28 मिनट

इस PC पर मापी गई रफ़्तार से निकाला गया: समय = लंबाई ÷ रफ़्तार, और असली जवाब को शुरू होने में भी एक पल लगता है. तुलना के लिए, 400 टोकन का जवाब लगभग आधा पेज होता है, और ज़्यादातर लोग प्रति सेकंड लगभग 4 शब्द पढ़ते हैं (Brysbaert, 2019).

हमने क्या मापा

लिखना यानी AI कितनी तेज़ी से अपना जवाब टाइप करता है, प्रति सेकंड टोकन में; टोकन किसी शब्द का एक हिस्सा होता है. पढ़ना यानी आप जो देते हैं उसे यह कितनी तेज़ी से लेता है: आपका सवाल, पेस्ट किया टेक्स्ट या PDF. पढ़ना हमेशा लिखने से बहुत तेज़ होता है, क्योंकि AI एक साथ कई टोकन पढ़ सकता है लेकिन उन्हें एक-एक करके लिखना पड़ता है.

क्याकहाँ चलानतीजामापा गया
Gemma 4 E4Bग्राफ़िक्स कार्ड, RAM में भी फैला हुआलगभग 20 टोकन प्रति सेकंड लिखना · 24–395 पढ़ना23 सितंबर 2026
Gemma 4 E4B (दूसरा PC)*ग्राफ़िक्स कार्ड, RAM में भी फैला हुआ8–25 टोकन प्रति सेकंड लिखना · 32–301 पढ़ना1 अक्टूबर 2026

हर संख्या कैसे मापी गई: हम कैसे मापते हैं, इस पर और

  1. GreenCube 0.1.40 और 0.1.42 में असली चैट: 100 या ज़्यादा टोकन वाले हर जवाब की रफ़्तार, ऐप के लॉग से पढ़ी गई. रेंज सबसे धीमे और सबसे तेज़ दसवें हिस्से को छोड़ देती है.

जहाँ हमारे पास कई माप हैं, वहाँ हम रेंज दिखाते हैं: एक ही PC पर रफ़्तार हर माप में थोड़ी बदलती है. * इस टेस्टर ने ज़्यादातर छोटे सवाल पूछे, इसलिए 100 टोकन से छोटे जवाब भी गिने गए हैं. छोटे जवाब थोड़े धीमे मापे जाते हैं.

इसका क्या मतलब है

पूरा कार्ड पर नहीं समाता

Gemma 4 E4B 4.2 GB की फ़ाइल है और कार्ड में 4 GB है, इसलिए यह पूरा नहीं समाता और इसका एक हिस्सा सामान्य मेमोरी (RAM) में रहता है. यह जो भी शब्द लिखता है, उसे उस हिस्से तक एक बहुत धीमे रास्ते से पहुँचना पड़ता है, इसलिए रफ़्तार गिरती और ऊपर-नीचे होती है. फिर भी यह प्रति सेकंड लगभग 20 टोकन लिखता है. आपके पेस्ट किए टेक्स्ट को पढ़ने की रफ़्तार एक दिन से दूसरे दिन प्रति सेकंड 24 से 395 टोकन के बीच बदलती रही, शायद इसलिए कि कार्ड भरा हुआ था.

उसी कार्ड वाला दूसरा PC

एक और टेस्टर के GTX 1650 पर GreenCube 0.1.42 में Gemma 4 E4B चलाया गया: इसने प्रति सेकंड 8–25 टोकन लिखे, और 32–301 की रफ़्तार से पढ़ा. इसके ज़्यादातर जवाब छोटे थे, और छोटे जवाब लंबे जवाबों से धीमे मापे जाते हैं: इसका सबसे लंबा जवाब इस रेंज के ऊपरी सिरे के पास था.

बड़ा Gemma 4 12B

आराम से नहीं. GreenCube बड़ा Gemma 4 12B सिर्फ़ 10 GB या उससे ज़्यादा VRAM वाले कार्ड पर सुझाता है, और इसमें 4 है. 8 GB वाले AMD RX 5700 XT पर इसने छोटे सवालों के जवाब दिए, फिर लंबी चैट में क्रैश हो गया.

तस्वीरें

बहुत संभव है, लेकिन हमने इस कार्ड पर अभी तस्वीर का समय नहीं मापा है. जब मापेंगे, संख्या यहाँ आएगी. तस्वीर के लिए लगभग 6 GB का अलग AI इस्तेमाल होता है और चैट के जवाब से कहीं ज़्यादा गणित लगता है, इसलिए यहाँ ग्राफ़िक्स और भी ज़्यादा मायने रखता है.

दूसरों से तुलना

Gemma 4 E4B के साथ हमने जिन 8 PC को मापा, उनमें लिखने की रफ़्तार में यह नंबर 7 पर है. GTX 1660 Super 37–38 लिखता है, लगभग 90% तेज़. RX 580 10–11 लिखता है, यानी यह लगभग 90% तेज़ है.

टेस्ट PC

एक असली टेस्टर का अपना PC, जैसे वे आम तौर पर इस्तेमाल करते हैं, कोई लैब मशीन नहीं:

अपना PC जाँचें

पता नहीं आपके PC में क्या है? 30 सेकंड लगते हैं:

  1. Task Manager (कार्य प्रबंधक) खोलने के लिए Ctrl + Shift + Esc दबाएँ.
  2. Performance (प्रदर्शन) पर जाएँ.
  3. Memory (मेमोरी) पर क्लिक करें: ऊपर दिखने वाली बड़ी संख्या आपकी RAM है.
  4. GPU पर क्लिक करें: ऊपर दिखने वाला नाम आपका कार्ड है, और Dedicated GPU memory (समर्पित GPU मेमोरी) आपकी VRAM है. सिर्फ़ Intel या AMD ग्राफ़िक्स दिखता है जिसकी अपनी मेमोरी नहीं? तो आपके पास अलग कार्ड नहीं है.

फिर पूरी तालिका में सबसे क़रीबी कार्ड ढूँढें. ज़्यादा VRAM वाला वही कार्ड बड़ा AI समा सकता है; उतनी ही मेमोरी वाला नया कार्ड आम तौर पर तेज़ होता है.

हमारे मापे दूसरे PC

क्या मेरे PC पर AI चलेगा? सभी 10 PC एक तालिका में, और आपका PC कैसा चलेगा.

सवाल

क्या GTX 1650 पर AI लोकली चलेगा?

हाँ: NVIDIA GTX 1650 (4 GB) ग्राफ़िक्स कार्ड और 16 GB RAM वाले डेस्कटॉप पर Gemma 4 E4B ने प्रति सेकंड लगभग 20 टोकन लिखे. यह आपके पढ़ने से तेज़ है.

क्या GTX 1650 पर AI से तस्वीरें बन सकती हैं?

बहुत संभव है, लेकिन हमने इस कार्ड पर अभी तस्वीर का समय नहीं मापा है. जब मापेंगे, संख्या यहाँ आएगी.

क्या GTX 1650 पर Gemma 4 12B चलेगा?

आराम से नहीं. GreenCube बड़ा Gemma 4 12B सिर्फ़ 10 GB या उससे ज़्यादा VRAM वाले कार्ड पर सुझाता है, और इसमें 4 है. 8 GB वाले AMD RX 5700 XT पर इसने छोटे सवालों के जवाब दिए, फिर लंबी चैट में क्रैश हो गया.

आपका अपना AI, आपके अपने PC पर

GreenCube आपके कंप्यूटर पर चलता है: इस्तेमाल की कोई सीमा नहीं, कोई सब्सक्रिप्शन नहीं, बिना इंटरनेट के चलता है. €9.99, एक बार.

GreenCube लें