كم تحتاج من VRAM للذكاء الاصطناعي؟ لماذا يجب أن يتسع النموذج في بطاقتك
تحتاج إلى VRAM تكفي لاستيعاب النموذج كله، إضافة إلى نحو 1.5 GB للمحادثة ولنظام Windows. الذكاء الاصطناعي الذي يتسع بالكامل في ذاكرة بطاقة الرسومات سريع. أما الذي يفيض عنها فقد ينتهي به الأمر أبطأ مما لو لم تستخدم البطاقة أصلًا، وقد ينهار. الأصغر كاملًا على البطاقة يتفوق على الأكبر الذي نصفه عليها.
لم نأخذ هذا من ورقة مواصفات. قسناه على حاسوب ألعاب حقيقي أثناء بناء GreenCube، التطبيق الذي أصنعه، وغيّرت النتائج طريقة اختيار GreenCube للنموذج.
الاختبار
كان الحاسوب مكتبيًا فيه AMD RX 5700 XT (8 GB من VRAM) و48 GB من RAM. حمّلنا نموذجًا بـ 12 مليار معامل (Gemma 4 12B، نحو 6.7 GB) ووضعنا على البطاقة جزءًا أكبر أو أصغر منه، كل ذلك في جلسة واحدة في سبتمبر 2026.
| كم من النموذج كان على البطاقة | يكتب (توكن/ث) |
|---|---|
| كله | 35.6 |
| 28 من طبقاته | 5.9 |
| 20 من طبقاته | 4.3 |
| للمقارنة: نموذج أصغر (Gemma 4 E4B) على المعالج فقط | 5.0 |
| النموذج الأصغر نفسه، كله على البطاقة | 72.5 |
لست متأكدًا من أن حاسوبك يكفي؟ اعرف ما الذي يعمل على حاسوبك
ما تعلّمناه
الأمر أقرب إلى كل شيء أو لا شيء
ترك جزء فقط من النموذج خارج البطاقة جعله أبطأ بـ 6 مرات. ومع 20 طبقة على البطاقة، كان أبطأ من نموذج أصغر يعمل دون بطاقة إطلاقًا. نصف النموذج على البطاقة يعطيك أسوأ ما في الحالتين.
أكبر نموذج يُحمَّل ليس الأفضل
النموذج 12B اتسع فعلًا بالكامل في البطاقة ذات 8 GB، لسؤال قصير واحد. ومع طول المحادثة، انهار في كل مرة، لأن البطاقة لم يبقَ فيها مكان تقريبًا للمحادثة. أما النموذج الأصغر فكانت لديه نحو 3 GB فائضة، وعمل بسرعة 63 إلى 72 توكن في الثانية.
اترك مكانًا
على GTX 1650 بـ 4 GB، حُشر نموذج حجمه 4.2 GB في بطاقة متاح منها 3.9 GB، وفشلت أول رسالة على الإطلاق برسالة «لا توجد ذاكرة كافية». ومنذ ذلك الحين، يُبقي GreenCube نحو 1.5 GB من البطاقة فارغة للمحادثة ولنظام Windows.
كيف تختار نموذجًا لبطاقتك
- افحص VRAM لديك: إدارة المهام ← الأداء ← GPU ← ذاكرة GPU المخصصة.
- أضف نحو 1.5 GB إلى حجم ملف النموذج. يجب أن يتسع هذا المجموع في VRAM لديك.
- عند الشك، اختر الأصغر. النموذج الأصغر كاملًا على البطاقة يتفوق على الأكبر الذي نصفه عليها.
وإن كنت تفضّل ألا تحسب، فإن GreenCube يقرأ بطاقتك ويختار نموذجًا يتسع مع مساحة فائضة. والسرعات الحقيقية على 10 حواسيب، من GTX 1650 إلى RTX 5060، تجدها في هل يستطيع حاسوبي تشغيل الذكاء الاصطناعي؟
أسئلة
ماذا يحدث إذا لم يتسع نموذج الذكاء الاصطناعي في VRAM؟
يعمل الجزء الذي لا يتسع من الذاكرة العادية، ويتباطأ كل شيء. على بطاقتنا ذات 8 GB، كتب نموذج وُضعت 28 من طبقاته على البطاقة بسرعة 5.9 توكن في الثانية بدلًا من 35.6 حين كانت كل طبقاته عليها: أبطأ بـ6 مرات.
هل أشغّل أكبر نموذج ذكاء اصطناعي تستطيع بطاقتي تحميله؟
لا. اترك مكانًا للمحادثة. نموذج بـ12 مليار معامل اتسع في بطاقة ذات 8 GB لسؤال قصير، ثم انهار حين طالت المحادثة. ونموذج أصغر يتسع مع مساحة احتياطية كان أسرع ولم ينهر أبدًا.
كم أترك من VRAM فارغًا؟
يترك GreenCube نحو 1.5 GB من البطاقة فارغة للمحادثة ولنظام Windows. ومن دون هذه المساحة، نفدت ذاكرة بطاقة ذات 4 GB من أول رسالة.