مراجعة قلادة Friend 2 الذكية: دائمة الاستماع، لكن أسئلة البنية التحتية تبقى

تصل قلادة Friend 2 من آفي شيفمان بسعر 249 دولارًا مع مكبر صوت مدمج ونماذج OpenAI الأحدث، وتعد برفيق دائم الاستماع يبني خريطة ذاكرة لمحادثاتك. يتم تفعيل الجهاز بالصوت أو النقر، لكن الاختبار المبكر يظهر أنه يقاطع كثيرًا — مستجيبًا للثرثرة المحيطة في مكالمات Zoom ومتطلبًا نقرًا متعمدًا لإسكاته. يشحن الجهاز مع شخصية مقفلة واحدة، لكن التطبيق المصاحب يتيح للمستخدمين إنشاء شخصيات مسماة متعددة؛ في الممارسة، تبدو الشخصيات غير قابلة للتمييز، وتعود إلى نبرة روبوت محادثة عامة.

لماذا يهم هذا البنية التحتية لـ GPU والذكاء الاصطناعي

الأجهزة القابلة للارتداء دائمة التشغيل مثل Friend 2 تعني تيارات استدلال مستمرة: كشف كلمة التنبيه، والتعرف التلقائي على الكلام المتدفق، وتوليد LLM، وTTS — كلها بأهداف زمن استجابة دون ثانية. تشغيل هذا على واجهة برمجة تطبيقات OpenAI يعني أن كل جهاز مستأجر سحابي مستمر. على نطاق واسع، ستطالب ملايين القلادات بقدرة GPU ضخمة للاستدلال في الوقت الفعلي، والتجميع الفعال، وتخفيف البدء البارد. يمكن أن يقلل التفريغ على الحافة (نماذج whisper-small المقطرة على الجهاز) من الرحلات الدورية، لكن البنية الحالية تميل بشدة إلى الحوسبة المركزية.

قلادة Muse Charm المنافسة من Meta وخارطة طريق شيفمان الخاصة بشكل مشابه تشير إلى موجة قادمة من مجوهرات الذكاء الاصطناعي. لمقدمي البنية التحتية، النمط واضح: أجهزة الذكاء الاصطناعي الاستهلاكية ستدفع بأحمال عمل استدلال دائمة التشغيل ومتقطعة تختلف عن التدريب الدفعي. يجب أن تأخذ تخطيط السعة في الاعتبار طفرات الاستخدام اليومية، وخدمة النماذج متعددة المستأجرين، واقتصاد مكالمات API لكل جهاز مقابل مجموعات استدلال مخصصة.

إحباط المراجع من زمن الاستجابة وعمق الشخصية يسلط الضوء أيضًا على فجوة منتج-بنية تحتية: التجارب الأكثر ثراءً وانخفاض زمن الاستجابة تحتاج إما نماذج أكبر تُخدم أقرب إلى الحافة أو خطوط أنابيب كم عدواني. بينما تراقب AiGpu هذه الفئة، الخلاصة هي أن نجاح الذكاء الاصطناعي القابل للارتداء يعتمد على كفاءة مكدس الخدمة بقدر اعتماده على التصميم الصناعي.