هاجينغ فيس تطلق أداة التحقق من توافق النماذج مع AWS Trainium

نشرت هاجينغ فيس مساحة مخصصة تجيب على سؤال عملي للفرق التي تقيّم شرائح AWS Trainium: أي من آلاف النماذج على المنصة يعمل فعليًا على العتاد دون تعديل؟ تختبر مساحة دعم نموذج torch-neuronx نقاط تفتيش Transformers الشائعة مقابل خلفية TorchNeuron وتعرض النتائج في جدول قابل للبحث.

ما تعرضه المساحة

يُبلّغ كل إدخال عما إذا كان النموذج ينجح، وعدد أنوية Trainium المستخدمة للتوازي التنسوري أو توازي الخبراء، والوقت الفعلي بما في ذلك التجميع، وذاكرة الجهاز القصوى. يمكن للمستخدمين التصفية حسب الترتيب الرائج أو عدد التنزيلات، واختيار إصدارات محددة من مترجم Neuron وTransformers، ورؤية سبب تخطي نموذج — عادةً انخفاض الأولوية، وأحيانًا عدم توافق حقيقي.

بeyond النجاح/الفشل البسيط، توفر المساحة نص run.py الدقيق المستخدم في الاختبار، وإصدار بطارية Neuron، والحزم الإضافية المطلوبة. على مثيل trn2 (مثلاً داخل حاوية AWS Neuron Deep Learning Container) يمكن للمهندسين تثبيت الحزم المذكورة وتشغيل النص مباشرة — دون غلاف torchrun لأن النص يولد رتب التوزيع الخاصة به عند الحاجة للتجزئة.

ميزة ملحوظة لتوفير الوقت: التشغيل الأول يجمع رسوم النموذج، لكن المساحة تنشر أيضًا الأمر لسحب عناصر NEFF المجمعة مسبقًا من حاوية هاجينغ فيس العامة، مرتبطة بإصدار المترجم الدقيق. يمكن أن يقلل هذا وقت الإعداد بشكل كبير لخطوط CI/CD أو النماذج الأولية السريعة.

يركز التغطية الحالية على مهام توليد النصوص والنصوص من الصور، محدودة بالنماذج التي تتسع لأربعة أجهزة Trainium2 (16 نواة). تخطط الفرقة للتوسع إلى Diffusers وSentence Transformers ومهام إضافية. تدعم النتائج مجموعة البيانات المفتوحة aws-neuron/torch-neuronx-model-support، ملف Parquet واحد لكل زوج إصدار مترجم/مكتبة.