Infrastructure·
وصفات NVIDIA Dynamo تسرع طرح النماذج الكورية المفتوحة في الإنتاج
أصدرت NVIDIA وصفات نشر محسّنة بـ Dynamo لأربعة نماذج كورية مفتوحة رائدة، مما يتيح أداءً يصل إلى ضعفين على وحدات B200 ويبسط خدمة الاستدلال متعددة وحدات GPU على نطاق مراكز البيانات.
أصدرت NVIDIA وصفات نشر محسّنة بـ Dynamo لأربعة نماذج كورية مفتوحة رائدة: A.X K2 من SK Telecom، وK‑EXAONE 2.0 من LG AI Research، وSolar Open 2 من Upstage، وMotif‑3 من Motif Technologies.
عندما تتجاوز النماذج سعة ذاكرة وحدة GPU واحدة، يجب تقسيمها عبر عدة وحدات. Dynamo هو إطار عمل مفتوح المصدر لخدمة الاستدلال الموزع، ينسق توجيه الطلبات والاتصال بين وحدات GPU على نطاق مراكز البيانات، مما يلغي الحاجة إلى الضبط اليدوي المعتاد.
تم تحسين الوصفات لوحدات NVIDIA B200 وتوفر أداءً يصل إلى ضعفين مباشرة، مما يتيح للمطورين نقل النماذج الكورية من البحث إلى الإنتاج بسرعة أكبر.
لماذا هذا مهم للبنية التحتية لوحدات GPU والذكاء الاصطناعي
أصبح الاستدلال متعدد العقد هو المعيار للنماذج اللغوية الكبيرة. الوصفات الجاهزة تقلل الجهد الهندسي، وتحسّن استخدام وحدات GPU، وتسرّع طرح خدمات الذكاء الاصطناعي السيادية في كوريا وخارجها.
- aigpu
- ai gpu
- ai gpu cloud
- aigpu dubai
- nvidia
- dynamo
- korea
- open models
بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (NVIDIA Blog)
→ كل المقالات