AiGpu

Models·

Rumble-2-Flash: نموذج كلام مفتوح بحجم 0.5 مليار معلمة ينافس العمالقة

Rumble-2-Flash نموذج مفتوح المصدر للتعرف على الكلام بحجم 0.5 مليار معلمة يدعم 40+ لغة، يحقق دقة قريبة من النماذج الكبيرة مع سرعة استدلال فائقة على منصات GPU القياسية.

مخطط يوضح بنية نموذج Rumble-2-Flash ومسار الاستدلال على وحدة معالجة الرسوميات

أصدرت Hugging Face و Reson8 نموذج Rumble-2-Flash، وهو نموذج للتعرف التلقائي على الكلام بحجم 0.5 مليار معلمة، يدعم أكثر من 40 لغة تحت ترخيص Apache 2.0 المرن.

يتكامل النموذج أصلاً مع Hugging Face Transformers و vLLM، دون الحاجة إلى كود تشغيل مخصص. يوفر كشف اللغة تلقائياً، وتنسيقاً قابلاً للتكوين للمخرجات (أرقام، حشوات، تكرار حرفي)، ويحقق سرعات استدلال تتجاوز 7000 عامل زمن حقيقي على دفعات ممتلئة — حيث ينسخ ساعة صوتية في نحو نصف ثانية.

لماذا يهم هذا البنية التحتية للـ GPU

يحقق Rumble-2-Flash أداءه عبر التقطير وفق السياسة (on-policy distillation) باستخدام خوارزمية GOLD، لنقل المعرفة من نموذج معلم أكبر رمزاً برمز. يتيح هذا النهج للنموذج الطالب المضغوط مطابقة دقة نماذج أكبر بـ 15 إلى 60 مرة، مع معدل خطأ متعدد اللغات 6.96% ومعدل خطأ كلمات 6.6% على معايير اللغة الإنجليزية.

لفرق البنية التحتية للذكاء الاصطناعي، يترجم الحجم الصغير مباشرة إلى متطلبات ذاكرة GPU أقل وإنتاجية أعلى لكل دولار. يمكن للنموذج تشغيل النسخ الفوري على مسرعات متواضعة، مما يتيح نشراً فعالاً من حيث التكلفة في مراكز الاتصال، والأجهزة الطرفية، والتطبيقات متعددة اللغات دون التضحية بالجودة.

  • aigpu
  • ai gpu
  • ai gpu cloud
  • aigpu dubai
  • speech recognition
  • open source
  • small model
  • inference

بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (Hugging Face Blog)

→ كل المقالات