Hardware·
PrismML تستعرض نماذج لغوية كبيرة (LLMs) على الأجهزة الطرفية من كوالكوم للنظارات الذكية
عرضت شركة PrismML الناشئة، التي شارك في تأسيسها باحثون من معهد كاليفورنيا للتكنولوجيا، نماذجها اللغوية الكبيرة (LLMs) المدمجة التي تعمل على منصة Qualcomm Snapdragon AR1 Gen 1 للنظارات الذكية. يسلط هذا التطور الضوء على خطوة مهمة نحو قدرات الذكاء الاصطناعي القوية على الأجهزة.
PrismML تستعرض نماذج لغوية كبيرة (LLMs) على الأجهزة الطرفية من كوالكوم للنظارات الذكية
في قمة Snapdragon الأخيرة لشركة كوالكوم، كشفت PrismML، وهي شركة أسسها باحثون من معهد كاليفورنيا للتكنولوجيا، عن نسخة متخصصة من نماذجها اللغوية المدمجة المصممة للنظارات الذكية. تعمل هذه النماذج مباشرة على منصة Qualcomm Snapdragon AR1 Gen 1، مما يشير إلى تقدم ملحوظ في معالجة الذكاء الاصطناعي على الجهاز.
تضمن العرض نموذج Bonsai LLM من PrismML ذو البت الواحد، وهو نموذج بحجم 2 مليار معلمة تم تحسينه خصيصًا لمهام الرؤية واللغة المدمجة. يتيح هذا لمرتدي النظارات الذكية التفاعل مع بيئتهم من خلال طرح أسئلة حول ما يلاحظونه في الوقت الفعلي، مستفيدين من المستشعرات المدمجة وقوة المعالجة بالجهاز.
يكمن الابتكار الأساسي لـ PrismML في قدرتها على تقليص حجم النماذج اللغوية الكبيرة بشكل كبير - بمقدار أربعة أضعاف حسب التقارير - مع الحفاظ على مستوى عالٍ من الأداء في المعايير القياسية. تعد هذه الكفاءة حاسمة لنشر الذكاء الاصطناعي المتطور مباشرة على الأجهزة الطرفية ذات الموارد المحدودة مثل النظارات الذكية، حيث يعد استهلاك الطاقة والنفقات الحسابية من الاعتبارات الهامة.
تدافع رؤية الشركة الأوسع عن نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة التي يمكن تشغيلها محليًا على أجهزة مختلفة، بهدف زيادة الاستفادة من الأجهزة الموجودة. يوفر هذا النهج بديلاً للاعتماد على حلول الذكاء الاصطناعي المستندة إلى السحابة، ويعالج المخاوف المتعلقة بخصوصية البيانات والمتطلبات الحسابية المتزايدة باستمرار لأنظمة الذكاء الاصطناعي المملوكة.
لماذا يهم هذا للبنية التحتية لوحدات معالجة الرسوميات (GPU) والذكاء الاصطناعي
يعد هذا التطور ذا أهمية كبيرة للبنية التحتية لوحدات معالجة الرسوميات (GPU) والذكاء الاصطناعي لأنه يؤكد الاتجاه المتزايد نحو الحوسبة الطرفية ونشر النماذج المحسّنة. إن القدرة على تشغيل نماذج لغوية كبيرة معقدة بكفاءة على الأجهزة الطرفية، مثل منصات Qualcomm Snapdragon، يقلل من الاعتماد على الاتصال السحابي المستمر ومجموعات وحدات معالجة الرسوميات المركزية للاستدلال. بالنسبة لمقدمي البنية التحتية، قد يتطلب هذا التحول التركيز على الأدوات والأطر التي تسهل تدريب وتكميم النماذج للنشر على الأجهزة الطرفية، إلى جانب الدعم المستمر للتدريب السحابي واسع النطاق. كما يسلط الضوء على الطلب المتزايد على مسرعات الأجهزة المتخصصة التي يمكنها التعامل مع هذه النماذج الصغيرة والمحسّنة بإنتاجية عالية وزمن انتقال منخفض على مستوى الجهاز.
- aigpu
- ai gpu
- ai gpu cloud
- aigpu dubai
- edge ai
- llms
- smart glasses
- qualcomm
- on-device ai
- hardware acceleration
بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (TechCrunch AI)
→ كل المقالات