Ai2 تستبدل المجدول القائم على الأولوية بتخصيص GPU قائم على الميزانية

إدارة مجموعات GPU على نطاق واسع تعني الموازنة بين التوفر، والإشغال، والأثر، والاستخدام — هرم تعتمد كل طبقة فيه على التي تحتها. في Ai2، تشرف فريق البنية التحتية للذكاء الاصطناعي على آلاف وحدات NVIDIA H100 و B200 و B300 عبر مجموعات تتراوح من 88 إلى 1,024 GPU، تخدم حوالي 150 باحثًا ينفذون كل شيء من تدريب LLM و VLM إلى محاكاة RL للروبوتات والتدريب اللاحق للوكلاء العلميين. الطلب يفوق العرض باستمرار بمعدل 2–3×، مما يجعل كل ساعة GPU موردًا متنازعًا عليه.

لماذا فشل نموذج الأولوية القديم

المجدول السابق القائم على الأولوية سمح للفرق بوضع أعباء العمل كغير قابلة للإزاحة، مما أدى إلى أمراض متوقعة: الباحثون أوقفوا مهام لا تفعل شيئًا لـ "احتلال" GPU لتصحيح الأخطاء مستقبلًا، تضخم الأولوية دفع 100% من أعباء العمل إلى مستوى HIGH، ومهندسو الطوارئ أضاعوا ساعات في التفاوض على إيقاف التشغيل للصيانة. العمل ذو الأولوية الأقل جاع تمامًا، والنظام كافأ المناورة بدلاً من الحاجة الحقيقية.

النهج الجديد يستبدل مفاوضات الأولوية العرضية بعملية موازنة إدارية شفافة. كل مشروع يحصل على ميزانية وقت GPU؛ تخصيص الحصص العادلة الهرمية يوزع السعة غير المستخدمة نسبيًا؛ وعقد تقسيم الوقت يضمن تنازل أعباء العمل القابلة للإزاحة بأمان. النتيجة: مناقشات الجدولة تتحول من إطفاء الحرائق التشغيلية إلى تخطيط موارد متوقع وقابل للتدقيق.

لماذا هذا مهم للبنية التحتية لـ GPU / الذكاء الاصطناعي: مع نمو أحجام المجموعات وتنوع أعباء العمل، تصبح المجدولات القائمة على الأولوية عنق زجاجة. النماذج القائمة على الميزانية والحصص العادلة مع عقود إزالة صريحة تقدم أثرًا أعلى لكل ساعة GPU، وتقلل العبء التشغيلي، وتعطي القيادة رافعة واضحة لمواءمة تخصيص الحوسبة مع الأولويات الاستراتيجية — أمر حاسم لأي منظمة تشغل تدريب ذكاء اصطناعي واسع النطاق على بنية تحتية مشتركة.