إنفيديا تكشف عن نماذج نيموترون مفتوحة الأوزان لوكلاء المؤسسات وأجهزة الكمبيوتر الذكية المحلية

أضافت إنفيديا عائلتين جديدتين إلى تشكيلة نماذج نيموترون مفتوحة الأوزان، مستهدفةً عمليات نشر الوكلاء في مراكز البيانات والفئة الناشئة من أجهزة الكمبيوتر الذكية. يتميز النموذج الرئيسي نيموترون 3.5 سوبر في إل بـ 120 مليار معامل، ومصمم لوكلاء المؤسسات الدائمي التشغيل الذين يتعاملون مع ذكاء المستندات، والمحاسبة المالية، والتجارب العلمية، ومعالجة مطالبات التأمين، ومهام المرونة الأمنية. وعلى الرغم من كونه أصغر من نيموترون 3 ألترا، تقول إنفيديا إن التدريب اللاحق على معايير العمل الوكلي ينتج دقة مماثلة في اتباع التعليمات واستخدام الأدوات مع إكمال المهام بشكل أسرع من عدة نماذج حدودية مملوكة.

على جانب الحافة، قدمت الشركة متغيرين من بولت مصممين للتشغيل محليًا على أجهزة الكمبيوتر المدعومة بشريحة آر تي إكس سبارك الجديدة وعلى محطات عمل دي جي إكس سبارك — الأجهزة التي تُشحن الآن عبر شركاء بما في ذلك مايكروسوفت وديل. يوازن بولت 74بي-إيه 9بي 24 جي بي ذو 74 مليار معامل بين زمن الاستجابة والاستدلال للاستدعاء متعدد الخطوات للأدوات وتصفح الويب، بينما يستهدف بولت إي 4 بي الأصغر المساعدين المحادثيين وسيصل لاحقًا.

لماذا هذا مهم لبنية GPU / AI التحتية

النماذج مفتوحة الأوزان التي يمكن للمؤسسات تدريبها لاحقًا على بيانات مملوكة ونشرها على بنية تحتية مملوكة تقلل الاعتماد على واجهات برمجة التطبيقات المغلقة وتمنح فرق تقنية المعلومات تحكمًا كاملًا في إقامة البيانات والامتثال. لعملاء AiGpu، يعني تحسين سوبر في إل لمجموعة أجهزة إنفيديا إنتاجية أعلى لكل دولار GPU على العناقيد الحالية، بينما تؤكد سلسلة بولت على اقتصاديات تشغيل أعباء العمل الوكيلة على وحدات معالجة الرسوميات من فئة محطات العمل بدلاً من التوسع إلى مثيلات السحابة. مع تنويع المختبرات الحدودية عبر ترينيوم، وسيريبريس، والرقائق المخصصة، تقوي استراتيجية إنفيديا للنماذج المفتوحة الحجة لتوحيد المنصة المتسارعة من السحابة إلى الحافة.