GreenCube
HI
GreenCube लें

GreenCube ब्लॉग

क्या RX 580 पर AI चलेगा? मापा गया: प्रति सेकंड 10–11 टोकन

हाँ: AMD RX 580 (8 GB) ग्राफ़िक्स कार्ड और 16 GB RAM वाले डेस्कटॉप पर Gemma 4 E4B ने प्रति सेकंड 10–11 टोकन लिखे. यह आपके पढ़ने से तेज़ है.

10–11प्रति सेकंड टोकन, Gemma 4 E4B के साथ
2.7×प्रोसेसर से ज़्यादा तेज़ कार्ड पर

असल में इसका क्या मतलब है

कामइस PC पर समय
एक सामान्य जवाब लिखना (400 टोकन, लगभग आधा पेज)37–38 सेकंड
आपका दिया लंबा दस्तावेज़ पढ़ना (5,000 टोकन, लगभग 5 पेज)30–35 सेकंड

इस PC पर मापी गई रफ़्तार से निकाला गया: समय = लंबाई ÷ रफ़्तार, और असली जवाब को शुरू होने में भी एक पल लगता है. तुलना के लिए, 400 टोकन का जवाब लगभग आधा पेज होता है, और ज़्यादातर लोग प्रति सेकंड लगभग 4 शब्द पढ़ते हैं (Brysbaert, 2019).

हमने क्या मापा

लिखना यानी AI कितनी तेज़ी से अपना जवाब टाइप करता है, प्रति सेकंड टोकन में; टोकन किसी शब्द का एक हिस्सा होता है. पढ़ना यानी आप जो देते हैं उसे यह कितनी तेज़ी से लेता है: आपका सवाल, पेस्ट किया टेक्स्ट या PDF. पढ़ना हमेशा लिखने से बहुत तेज़ होता है, क्योंकि AI एक साथ कई टोकन पढ़ सकता है लेकिन उन्हें एक-एक करके लिखना पड़ता है.

क्याकहाँ चलानतीजामापा गया
Gemma 4 E4B*ग्राफ़िक्स कार्ड10.5–10.7 टोकन प्रति सेकंड लिखना · 144–169 पढ़ना1 अक्टूबर 2026 1
Gemma 4 E4Bग्राफ़िक्स कार्ड10.1 टोकन प्रति सेकंड लिखना1 अक्टूबर 2026 2
Gemma 4 E4Bसिर्फ़ प्रोसेसर3.8 टोकन प्रति सेकंड लिखना1 अक्टूबर 2026 2

हर संख्या कैसे मापी गई: हम कैसे मापते हैं, इस पर और

  1. GreenCube 0.1.42 में असली चैट: 100 या ज़्यादा टोकन वाले हर जवाब की रफ़्तार, ऐप के लॉग से पढ़ी गई. रेंज सबसे धीमे और सबसे तेज़ दसवें हिस्से को छोड़ देती है.
  2. GreenCube 0.1.42 का अपना स्पीड टेस्ट, जो यह ग्राफ़िक्स कार्ड और प्रोसेसर में से चुनने के लिए स्टार्टअप पर चलाता है: हर एक पर एक बार लिखा गया छोटा जवाब.

जहाँ हमारे पास कई माप हैं, वहाँ हम रेंज दिखाते हैं: एक ही PC पर रफ़्तार हर माप में थोड़ी बदलती है. * इस टेस्टर ने ज़्यादातर छोटे सवाल पूछे, इसलिए 100 टोकन से छोटे जवाब भी गिने गए हैं. छोटे जवाब थोड़े धीमे मापे जाते हैं.

इसका क्या मतलब है

काम ग्राफ़िक्स कार्ड करता है

वही PC, वही AI (Gemma 4 E4B): सिर्फ़ प्रोसेसर पर प्रति सेकंड 3.8 टोकन, ग्राफ़िक्स कार्ड पर 10.1, यानी लगभग 2.7 गुना तेज़. ग्राफ़िक्स कार्ड गेम्स के लिए एक साथ हज़ारों छोटे हिसाब करने के लिए बना है, और AI चलाना ज़्यादातर इसी तरह का गणित है. GreenCube शुरू होते समय दोनों का समय मापता है और तेज़ वाला इस्तेमाल करता है.

समा जाता है, लेकिन यह कार्ड AI में धीमा है

Gemma 4 E4B (4.2 GB) कार्ड के 8 GB में पूरा समा जाता है, फिर भी प्रति सेकंड सिर्फ़ 10–11 टोकन लिखता है. पुराने कार्ड इस तरह के गणित में बहुत धीमे होते हैं, और ज़्यादा मेमोरी इसे नहीं बदलती. तुलना के लिए, हमने जिन दूसरे 8 GB कार्ड को मापा, वे इसी AI के साथ 63–72 (RX 5700 XT), 56 (RTX 5060), 42–44 (RX 6600) लिखते हैं. फिर भी यह आपके पढ़ने से तेज़ लिखता है, इसलिए चैट और पढ़ाई चलती है; बस नए कार्ड से धीमा लगता है.

बड़ा Gemma 4 12B

आराम से नहीं. GreenCube बड़ा Gemma 4 12B सिर्फ़ 10 GB या उससे ज़्यादा VRAM वाले कार्ड पर सुझाता है, और इसमें 8 है. 8 GB वाले AMD RX 5700 XT पर इसने छोटे सवालों के जवाब दिए, फिर लंबी चैट में क्रैश हो गया.

तस्वीरें

बहुत संभव है, लेकिन हमने इस कार्ड पर अभी तस्वीर का समय नहीं मापा है. जब मापेंगे, संख्या यहाँ आएगी. तस्वीर के लिए लगभग 6 GB का अलग AI इस्तेमाल होता है और चैट के जवाब से कहीं ज़्यादा गणित लगता है, इसलिए यहाँ ग्राफ़िक्स और भी ज़्यादा मायने रखता है.

दूसरों से तुलना

Gemma 4 E4B के साथ हमने जिन 8 PC को मापा, उनमें लिखने की रफ़्तार में यह नंबर 8 पर है. GTX 1650 लगभग 20 लिखता है, लगभग 90% तेज़.

हमने 8 GB वाले 4 कार्ड मापे, और उनमें बहुत फ़र्क है:

मेमोरी तय करती है कि कौन-सा AI समाएगा. कार्ड कितना नया है, यह तय करता है कि वह कितनी तेज़ी से चलेगा.

टेस्ट PC

एक असली टेस्टर का अपना PC, जैसे वे आम तौर पर इस्तेमाल करते हैं, कोई लैब मशीन नहीं:

अपना PC जाँचें

पता नहीं आपके PC में क्या है? 30 सेकंड लगते हैं:

  1. Task Manager (कार्य प्रबंधक) खोलने के लिए Ctrl + Shift + Esc दबाएँ.
  2. Performance (प्रदर्शन) पर जाएँ.
  3. Memory (मेमोरी) पर क्लिक करें: ऊपर दिखने वाली बड़ी संख्या आपकी RAM है.
  4. GPU पर क्लिक करें: ऊपर दिखने वाला नाम आपका कार्ड है, और Dedicated GPU memory (समर्पित GPU मेमोरी) आपकी VRAM है. सिर्फ़ Intel या AMD ग्राफ़िक्स दिखता है जिसकी अपनी मेमोरी नहीं? तो आपके पास अलग कार्ड नहीं है.

फिर पूरी तालिका में सबसे क़रीबी कार्ड ढूँढें. ज़्यादा VRAM वाला वही कार्ड बड़ा AI समा सकता है; उतनी ही मेमोरी वाला नया कार्ड आम तौर पर तेज़ होता है.

हमारे मापे दूसरे PC

क्या मेरे PC पर AI चलेगा? सभी 10 PC एक तालिका में, और आपका PC कैसा चलेगा.

सवाल

क्या RX 580 पर AI लोकली चलेगा?

हाँ: AMD RX 580 (8 GB) ग्राफ़िक्स कार्ड और 16 GB RAM वाले डेस्कटॉप पर Gemma 4 E4B ने प्रति सेकंड 10–11 टोकन लिखे. यह आपके पढ़ने से तेज़ है.

क्या RX 580 पर AI से तस्वीरें बन सकती हैं?

बहुत संभव है, लेकिन हमने इस कार्ड पर अभी तस्वीर का समय नहीं मापा है. जब मापेंगे, संख्या यहाँ आएगी.

AI RX 580 पर तेज़ है या प्रोसेसर पर?

कार्ड पर, बहुत ज़्यादा: प्रति सेकंड 10.1 टोकन, जबकि प्रोसेसर पर 3.8, यानी लगभग 2.7 गुना तेज़.

क्या RX 580 पर Gemma 4 12B चलेगा?

आराम से नहीं. GreenCube बड़ा Gemma 4 12B सिर्फ़ 10 GB या उससे ज़्यादा VRAM वाले कार्ड पर सुझाता है, और इसमें 8 है. 8 GB वाले AMD RX 5700 XT पर इसने छोटे सवालों के जवाब दिए, फिर लंबी चैट में क्रैश हो गया.

आपका अपना AI, आपके अपने PC पर

GreenCube आपके कंप्यूटर पर चलता है: इस्तेमाल की कोई सीमा नहीं, कोई सब्सक्रिप्शन नहीं, बिना इंटरनेट के चलता है. €9.99, एक बार.

GreenCube लें