Infrastructure·
TorchNeuron يوفر دعماً أصلياً لـ PyTorch على AWS Trainium لنماذج Hugging Face
يوفر خلفية PyTorch جديدة تسمى TorchNeuron للمطورين تشغيل مكتبات Hugging Face مثل Transformers وDiffusers على شرائح AWS Trainium مع تنفيذ فوري، وtorch.compile وواجهات توزيع قياسية — دون الحاجة إلى كود Optimum‑Neuron المخصص.
أعلنت Hugging Face عن TorchNeuron، وهو ملحق PyTorch يعرض AWS Trainium كجهاز أصلي. بدءاً من 20 أكتوبر 2026، أصبح الحزمة متاحة عبر pip install torch-neuronx وتعمل مع الوضع الفوري، وtorch.compile، وFSDP2 وDTensor مباشرة.
تكامل أصلي عبر مجموعة HF
أصبحت مكتبات Transformers وDiffusers وAccelerate وPEFT وTRL تتعامل مع Trainium كما تتعامل مع أي معجل آخر. تعمل فئات النماذج والمدربين وأدوات التوليد دون تعديل — فقط مرر device_map="neuron" وتتولى المكتبة التوزيع والتقسيم المتوازي للتنسورات تلقائياً.
قفزت تغطية الاستدلال بشكل كبير: 89 % من أفضل 100 معمارية لتوليد النصوص مدعومة أصلياً، مقارنة بـ 46 % مع الإصدار السابق Optimum‑Neuron. يُنصح باستخدام ذاكرة تخزين مؤقت ثابتة لتجنب عمليات إعادة الترجمة المتكررة أثناء التوليد.
لماذا هذا مهم للبنية التحتية للـ GPU / الذكاء الاصطناعي
من خلال إزالة طبقة XLA التي تركز على المترجم، يقلل TorchNeuron من عبء الهندسة ويسمح للفرق بنماذج لغوية كبيرة على Trainium باستخدام نفس سير العمل التي يستخدمونها على وحدات معالجة الرسوميات NVIDIA. هذا التكافؤ يسرع تبني مثيلات Trainium الفعالة من حيث التكلفة للتدريب والاستدلال على نطاق واسع.
- aigpu
- ai gpu
- ai gpu cloud
- aigpu dubai
- trainium
- torchneuron
- huggingface
- pytorch
بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (Hugging Face Blog)
→ كل المقالات