للتدريب أو الضبط الدقيق أو تشغيل النموذج، اختيار بطاقة الرسوميات هو القرار الأهم. يشرح هذا الدليل معايير الاختيار الحقيقية والفروق بين البطاقات الشائعة.
خادم الذكاء الاصطناعي خادم مزوّد ببطاقة رسوميات مناسبة للحسابات المتوازية. ثلاثة أمور تحدد إمكانية تشغيل نموذجك: ذاكرة البطاقة وعرض نطاق الذاكرة ومساحة القرص للبيانات ونقاط الحفظ.
الحد الأول والأهم، فإن لم يتسع النموذج والمحسّن في الذاكرة فلا تفيد السرعة وحدها.
في التشغيل والتدريب غالبًا تكون سرعة نقل البيانات أهم من عدد الأنوية.
البيانات ونقاط الحفظ كبيرة الحجم، والقرص البطيء يعطّل البطاقة السريعة.
مقارنة البطاقات الشائعة حسب الذاكرة ونوع العمل، لا حسب اختبارات المتاجر.
| البطاقة | الذاكرة | الأنسب لـ | ملاحظة |
|---|---|---|---|
| RTX 4090 | 24 GB | الضبط الدقيق للنماذج المتوسطة والرندر وتشغيل نماذج 7–13 مليار معامل | أفضل نسبة سعر إلى أداء للبداية |
| L40S | 48 GB | نماذج أكبر ورندر احترافي وأحمال مختلطة | ذاكرة مضاعفة باستهلاك أقل من بطاقات مراكز البيانات |
| A100 80GB | 80 GB | تدريب نماذج لغوية كبيرة بحجز يومي أو شهري | الخيار الشائع للتدريب متعدد المستخدمين |
| H100 80GB | 80 GB | التدريب على نطاق واسع وعناقيد متعددة البطاقات | الأسرع عندما يكون زمن التدريب مكلفًا فعلاً |
أرقام الذاكرة حسب مواصفات الشركة المصنّعة، وتوفّر البطاقات الحالي في صفحة خوادم GPU.
كلاهما يعمل، والفرق في ثبات الأداء والتكلفة.
سعر خادم الذكاء الاصطناعي يعتمد على البطاقة وعددها ومدة الاستخدام.
لتجربة نموذج أو تشغيل قصير، خذ الخادم بالساعة واحذفه بعد الانتهاء.
عندما يكون أمامك عدة أيام من التدريب أو الرندر، تكون الفوترة اليومية أوضح من الساعية.
للخدمة التي تعمل دائمًا، الخطة طويلة الأجل أرخص وتحجز السعة.
الذاكرة هي المعيار الأساسي. الضبط الدقيق لنماذج 7–13 مليار معامل يناسب بطاقة 24 غيغابايت مع التحسين، أما التدريب الكامل والنماذج الأكبر فيحتاج 48 أو 80 غيغابايت.
من RTX 4090 للبداية إلى H100 للتدريب على نطاق واسع، بفوترة ساعية أو يومية أو شهرية أو سنوية.
اطّلع على خوادم GPU