Hugging Face تتبنى دعم TPU الأصلي عبر TorchTPU

أدمجت Hugging Face دعم TPU الأصلي في نظامها البيئي عبر TorchTPU، وهو خلفية PyTorch جديدة تتعامل مع وحدات معالجة التنسور من Google كأجهزة من الدرجة الأولى. حتى الآن، كان مستخدمو PyTorch يعتمدون على torch_xla، الذي أدخل تنفيذ التنسور الكسول وتصحيح الأخطاء المعقد. يزيل TorchTPU هذا الاحتكاك: يتم تحميل النماذج من المحور مباشرة على وحدات TPU باستخدام وسيط بسيط device_map="tpu" في Transformers أو pipe.to("tpu") في Diffusers.

لماذا هذا مهم للبنية التحتية للذكاء الاصطناعي

تتميز وحدات TPU في عمليات المصفوفات واسعة النطاق، مما يجعلها جذابة للتدريب والاستدلال عالي الإنتاجية. من خلال إضافة TPU كخلفية PyTorch أصلية، يتيح TorchTPU للفرق استخدام سير عمل PyTorch الحالية — الوضع المتشوق، torch.compile، التدريب الموزع — دون الحفاظ على مسار كود منفصل. التثبيت على آلة TPU الافتراضية يتم بأمر pip واحد يسحب بناء PyTorch لوحدة المعالجة المركزية فقط، متجنباً تبعية CUDA الثقيلة.

يمتد التكامل ليشمل Transformers و Diffusers ومكتبة Kernels، ويغطي نماذج اللغة الكبيرة وتوليد الصور والمشغلات المخصصة. بالنسبة للمؤسسات التي تقيم خيارات المسرعات، فإن هذا يخفض حاجز تشغيل أعباء العمل على مجموعات TPU من Google Cloud، من الشريحة الفردية إلى آلاف الأجهزة المترابطة.