हम असली PC पर AI की रफ़्तार कैसे मापते हैं, और अंदाज़ा क्यों नहीं लगाते
इस ब्लॉग की हर रफ़्तार GreenCube चलाने वाले एक असली PC से आती है (अब तक 10 PC, 22 सितंबर 2026 और 14 अक्टूबर 2026 के बीच मापे गए). जिन कार्ड को हमने नहीं मापा, उनकी रफ़्तार का हम अंदाज़ा नहीं लगाते: जब हमने अपने कार्ड पर अंदाज़ों को परखा, तो आम अंदाज़ा 19% और सबसे बुरा 239% ग़लत निकला.
हम क्या मापते हैं
तीन चीज़ें, क्योंकि अपने PC पर AI इस्तेमाल करते समय आप यही महसूस करते हैं:
- लिखने की रफ़्तार: AI कितनी तेज़ी से अपना जवाब टाइप करता है, प्रति सेकंड टोकन में. टोकन किसी शब्द का एक हिस्सा होता है, और एक शब्द में कितने टोकन होते हैं यह भाषा पर निर्भर करता है, इसलिए हम इन रफ़्तारों को शब्दों में नहीं बदलते. मोटे तौर पर: प्रति सेकंड कुछ टोकन पढ़ने की रफ़्तार के क़रीब हैं, दसियों टोकन उससे साफ़ तेज़.
- पढ़ने की रफ़्तार: आप जो देते हैं उसे यह कितनी तेज़ी से लेता है: आपका सवाल, पेस्ट किया टेक्स्ट या PDF. यह हमेशा लिखने से बहुत तेज़ होती है, क्योंकि AI एक साथ कई टोकन पढ़ता है लेकिन उन्हें एक-एक करके लिखता है.
- तस्वीर का समय: 512×512 की एक तस्वीर में कितना समय लगता है, क्लिक से तैयार तस्वीर तक.
हम वही AI मापते हैं जो GreenCube देता है, वही फ़ाइलें जो हर यूज़र डाउनलोड करता है: चैट के लिए Google के Gemma 4 E2B (2.6 GB), Gemma 4 E4B (4.2 GB) और Gemma 4 12B (6.4 GB), और तस्वीरों के लिए Z-Image Turbo. कोई दूसरा AI, या वही AI किसी और तरह से कंप्रेस किया हुआ, अलग संख्याएँ देगा, इसलिए हम सिर्फ़ एक जैसी चीज़ों की तुलना करते हैं.
हम कैसे मापते हैं
चार तरीक़ों से, और ब्लॉग की हर संख्या बताती है कि वह किस तरीक़े से आई:
असली चैट
GreenCube में असली चैट: 100 या ज़्यादा टोकन वाले हर जवाब की रफ़्तार, ऐप के लॉग से पढ़ी गई. रेंज सबसे धीमे और सबसे तेज़ दसवें हिस्से को छोड़ देती है.
किसके लिए इस्तेमाल: RTX 2080 Ti, RTX 3060, RX 6600, GTX 1660 Super, GTX 1650, RX 580, लैपटॉप (Intel Iris Xe).
GreenCube का स्टार्टअप टेस्ट
GreenCube का अपना स्पीड टेस्ट, जो यह ग्राफ़िक्स कार्ड और प्रोसेसर में से चुनने के लिए स्टार्टअप पर चलाता है: हर एक पर एक बार लिखा गया छोटा जवाब.
किसके लिए इस्तेमाल: RTX 2080 Ti, RTX 5060, RTX 3060, RX 6600, GTX 1660 Super, RX 580, लैपटॉप (Intel Iris Xe).
llama.cpp का स्पीड टेस्ट
llama.cpp का अपना स्पीड टेस्ट (llama-bench), वह इंजन जिस पर GreenCube चलता है, उन्हीं AI फ़ाइलों के साथ: 128 टोकन लिखे गए, 512 टोकन का टेक्स्ट पढ़ा गया.
किसके लिए इस्तेमाल: RX 5700 XT, लैपटॉप (Intel Core Ultra 5).
तस्वीर टेस्ट
GreenCube का तस्वीर इंजन (Z-Image Turbo), 512×512 पिक्सेल, 8 स्टेप, क्लिक से तैयार तस्वीर तक का समय.
किसके लिए इस्तेमाल: RTX 2080 Ti, RTX 3060, RX 6600, GTX 1660 Super, लैपटॉप (Intel Core Ultra 5).
असली चैट सबसे अच्छा सबूत है, क्योंकि आप यही महसूस करेंगे, इसलिए हर पेज की मुख्य संख्या जहाँ भी हो सके असली चैट से आती है. स्टार्टअप टेस्ट एक छोटा जवाब है, इसलिए हम इसे कार्ड बनाम प्रोसेसर की तुलना के लिए इस्तेमाल करते हैं (यह दोनों को एक ही तरह मापता है), और मुख्य संख्या के तौर पर सिर्फ़ वहाँ जहाँ टेस्टर ने कोई लंबा जवाब नहीं भेजा.
हमारे मापे सभी PC
असली टेस्टरों के अपने PC, जैसे वे आम तौर पर इस्तेमाल करते हैं, लैब मशीनें नहीं. हम उनके नाम प्रकाशित नहीं करते.
| PC | प्रकार | VRAM | RAM | मुख्य संख्या कहाँ से | GreenCube | तारीख़ | लिखना (टोकन/सेकंड) |
|---|---|---|---|---|---|---|---|
| RTX 2080 Ti | डेस्कटॉप | 11 GB | 128 GB | असली चैट | 0.1.44 | 14 अक्टूबर 2026 | 65–71 |
| RX 5700 XT | डेस्कटॉप | 8 GB | 48 GB | llama.cpp का स्पीड टेस्ट | – | 22 सितंबर 2026 | 63–72 |
| RTX 5060 | डेस्कटॉप | 8 GB | 32 GB | GreenCube का स्टार्टअप टेस्ट | 0.1.42 | 1 अक्टूबर 2026 | 56 |
| RTX 3060 | डेस्कटॉप | 12 GB | 32 GB | असली चैट | 0.1.42–0.1.43 | 6 अक्टूबर 2026 | 53–55 |
| RX 6600 | डेस्कटॉप | 8 GB | 16 GB | असली चैट | 0.1.42–0.1.44 | 9 अक्टूबर 2026 | 42–44 |
| GTX 1660 Super | डेस्कटॉप | 6 GB | 16 GB | असली चैट | 0.1.42 | 1 अक्टूबर 2026 | 37–38 |
| GTX 1650 | डेस्कटॉप | 4 GB | 16 GB | असली चैट | 0.1.40 | 23 सितंबर 2026 | लगभग 20 |
| लैपटॉप (Intel Core Ultra 5) | लैपटॉप | – | 16 GB | llama.cpp का स्पीड टेस्ट | – | 28 सितंबर 2026 | 14–18 |
| RX 580 | डेस्कटॉप | 8 GB | 16 GB | असली चैट | 0.1.42 | 1 अक्टूबर 2026 | 10–11 |
| लैपटॉप (Intel Iris Xe) | लैपटॉप | – | 8 GB | असली चैट | 0.1.42 | 4 अक्टूबर 2026 | 5–7 |
संख्याएँ रेंज में क्यों आती हैं
- दूसरे ऐप. ब्राउज़र, गेम लॉन्चर या वीडियो कॉल वही मेमोरी और ग्राफ़िक्स कार्ड इस्तेमाल करते हैं.
- पहली बार धीमी होती है. इंस्टॉल के बाद पहला जवाब, या पहली तस्वीर, में लोडिंग और कार्ड को तैयार करना शामिल है. जहाँ ज़रूरी हो हम यह बताते हैं (जैसे "लोड होते समय पहली में 83 सेकंड लगे").
- छोटे जवाब धीमे मापे जाते हैं. हर जवाब की एक छोटी तय शुरुआत होती है, जो 20 टोकन के जवाब पर 400 टोकन वाले से ज़्यादा भारी पड़ती है. इसीलिए असली चैट की रेंज 100 या ज़्यादा टोकन वाले जवाब गिनती है, और जहाँ टेस्टर ने सिर्फ़ छोटे जवाब भेजे वहाँ हम बताते हैं.
- हम चरम मान छोड़ देते हैं. असली चैट की रेंज 10वें से 90वें पर्सेंटाइल तक जाती है, इसलिए कोई एक अजीब जवाब इसे नहीं हिला सकता.
क्या किसी कार्ड की रफ़्तार उसकी स्पेसिफ़िकेशन से अंदाज़ा लगाई जा सकती है?
यह काम का होता: सैकड़ों कार्ड हैं और हमने 10 PC मापे हैं. आम तरीक़ा मेमोरी बैंडविड्थ है. हर टोकन लिखने के लिए AI अपना पूरा मॉडल कार्ड की मेमोरी से पढ़ता है, इसलिए सिद्धांत में रफ़्तार लगभग बैंडविड्थ ÷ मॉडल का आकार, गुणा कुछ एफ़िशिएंसी होती है. कई ऑनलाइन कैलकुलेटर ऐसे ही काम करते हैं.
तो हमने इसे अपने डेटा पर परखा. हमने एक बार में एक कार्ड छिपाया, बाकियों से प्रति GB/सेकंड रफ़्तार निकाली, छिपे कार्ड की रफ़्तार उसकी बैंडविड्थ से अंदाज़ा लगाई (निर्माताओं की स्पेसिफ़िकेशन से, जो TechPowerUp GPU डेटाबेस में जमा हैं), और मापी गई रफ़्तार से तुलना की. सब पर वही AI (Gemma 4 E4B, पूरा कार्ड पर).
| कार्ड | मेमोरी बैंडविड्थ | मापा गया (टोकन/सेकंड) | अंदाज़ा | कितना ग़लत |
|---|---|---|---|---|
| RTX 2080 Ti | 616 GB/सेकंड | 68 | 79 | +17% |
| RX 5700 XT | 448 GB/सेकंड | 68 | 55 | −19% |
| RTX 5060 | 448 GB/सेकंड | 56 | 57 | +1% |
| RTX 3060 | 360 GB/सेकंड | 54 | 44 | −19% |
| RX 6600 | 224 GB/सेकंड | 43 | 26 | −41% |
| GTX 1660 Super | 336 GB/सेकंड | 38 | 43 | +14% |
| RX 580 | 256 GB/सेकंड | 11 | 36 | +239% |
आम अंदाज़ा 19% ग़लत था. सबसे बुरा RX 580 था: उसकी मेमोरी के हिसाब से प्रति सेकंड लगभग 36 टोकन होने चाहिए थे, लेकिन उसने 11 लिखे. उसके बिना टेस्ट दोबारा चलाएँ, तो बाकी अब भी 33% तक ग़लत निकलते हैं. नया AMD RX 6600 उलटी दिशा में गया, अपनी बैंडविड्थ से ज़्यादा तेज़; शायद इसकी एक वजह उसका बड़ा ऑन-चिप कैश है (AMD इसे Infinity Cache कहता है). हर मापी गई संख्या उस कार्ड की मुख्य संख्या है, इसलिए सब एक ही तरह के टेस्ट से नहीं हैं; इससे थोड़ा शोर जुड़ता है, लेकिन यह तीन गुना चूक की वजह नहीं हो सकता.
यह काफ़ी अच्छा नहीं है. जो अंदाज़ा किसी नए कार्ड पर 33% या पुराने पर 239% ग़लत हो सकता है, वह कुछ लोगों को बताएगा कि उनका PC ठीक है जबकि वह धीमा है, या उलटा. इसलिए चेकर और कार्ड के पेज सिर्फ़ वही कार्ड दिखाते हैं जो हमने मापे हैं, और साफ़ बताते हैं जब आपका उनमें से नहीं है. हम हर नए कार्ड के साथ यह टेस्ट दोबारा चलाते हैं, और अगर ग़लती छोटी हो गई, तो कोई भी अंदाज़ा दिखाने से पहले हम यहाँ बताएँगे.
हमने अभी क्या नहीं मापा
- गेमिंग कार्ड वाला लैपटॉप.
- 10 GB या ज़्यादा वाले कार्ड पर Gemma 4 12B.
- RX 5700 XT, RTX 5060, GTX 1650, RX 580 पर तस्वीरें.
- GreenCube के अलावा दूसरे AI, और Linux या Mac (GreenCube Windows के लिए है).
डेटा लें
इस पेज का हर माप, हर एक की एक पंक्ति, greencube-ai-speeds.csv में है: PC, AI, वह कहाँ चला, लिखने और पढ़ने की रफ़्तार, तस्वीर का समय, कैसे मापा गया, GreenCube वर्ज़न और तारीख़. अगर आप इसे इस्तेमाल करें, तो कृपया "GreenCube, AI speed measurements on real PCs, 2026" का हवाला दें और इस पेज का लिंक दें.
अपना PC जोड़ें
पहले से GreenCube इस्तेमाल करते हैं? अपना लॉग support@greencube.app पर भेजें. हम आपके PC को आपके नाम के बिना टेस्ट में जोड़ेंगे, और नए कार्ड को उसका अपना पेज मिलेगा. पता नहीं आपके PC में क्या है? यहाँ जाँचें.
सवाल
GreenCube की AI रफ़्तार की संख्याएँ कहाँ से आती हैं?
GreenCube चलाने वाले 10 असली PC से, जिन्हें असली चैट में, GreenCube के स्टार्टअप स्पीड टेस्ट से, llama.cpp के स्पीड टेस्ट से और एक तस्वीर टेस्ट से मापा गया. हर संख्या बताती है कि वह किससे आई.
क्या ग्राफ़िक्स कार्ड की स्पेसिफ़िकेशन से AI की रफ़्तार का अंदाज़ा लगाया जा सकता है?
अभी भरोसेमंद तरीक़े से नहीं. मेमोरी बैंडविड्थ से अंदाज़ा लगाने पर हमारे अंदाज़े आम तौर पर 19% और 239% तक ग़लत निकले, इसलिए हम सिर्फ़ मापे गए कार्ड दिखाते हैं.
क्या मैं डेटा डाउनलोड कर सकता हूँ?
हाँ: हर माप greencube-ai-speeds.csv में है, जिसका लिंक इस पेज पर है.
आपका अपना AI, आपके अपने PC पर
GreenCube आपके कंप्यूटर पर चलता है: इस्तेमाल की कोई सीमा नहीं, कोई सब्सक्रिप्शन नहीं, बिना इंटरनेट के चलता है. €9.99, एक बार.
GreenCube लें