BotPsy: نموذج عاملي بأقل من مليار معامل للمساعدة الشخصية على الجهاز

أطلقت Tether AI Research نموذج BotPsy، وهو نموذج لغوي مضغوط بحجم 0.8 مليار معامل، مبني على Qwen3.5-0.8B، ومصمم خصيصًا للمهام العاملية على الجهاز مثل البحث على الويب، وإدارة التقويم، والتحكم في الأجهزة. من خلال التركيز على استدعاء الدوال واتباع التعليمات متعددة الأدوار، يهدف النموذج إلى توفير قدرات مساعد شخصي عملية دون الاعتماد على واجهات برمجة التطبيقات السحابية.

ريادة في اختبارات فئته الوزنية

عبر ستة اختبارات قياسية لاستخدام الأدوات والقدرات العاملية، يتفوق BotPsy-0.8B على كل نموذج تم اختباره حتى 1.2 مليار معامل، بما في ذلك Qwen3.5-2B-Think الأكبر بـ 2.5 مرة، في خمسة من أصل ستة اختبارات. ارتفعت درجات BFCL v4 من 23.4 إلى 44.0، بينما قفزت ACEBench من 30.1 إلى 58.7، ما يضاعف تقريبًا أداء النموذج الأساسي في المهام العاملية.

يتوفر النموذج بصيغ safetensors و GGUF الكمية (bf16، Q8، Q4)، مما يتيح نشره على الهواتف الذكية، وأجهزة الكمبيوتر المحمولة، واللوحات المدمجة مع بصمة ذاكرة ضئيلة. يحافظ هذا النهج على الجهاز على بيانات المستخدم محليًا، ويزيل زمن استجابة API، ويعزل التطبيقات عن تغييرات خدمات الطرف الثالث أو تقلبات الأسعار.

لماذا يهم هذا البنية التحتية لـ GPU / الذكاء الاصطناعي

يشير ظهور الوكلاء بأقل من مليار معامل إلى قطاع متزايد من أعباء العمل التي يمكن تشغيلها بالكامل على شرائح الحافة، مما يقلل طلب الاستدلال على عناقيد GPU المركزية. ومع ذلك، لا يزال تدريب هذه النماذج المتخصصة وضبطها يتطلب بنية تحتية GPU عالية الأداء، كما أن انتشار نقاط التفتيش المحسنة للحافة يوسع إجمالي السوق القابل للعنونة للحوسبة المسرعة عبر أساطيل السحابة والأجهزة.

يُبرز إصدار BotPsy مسارًا أوسع في الصناعة: مع تحسن الذكاء لكل معامل، يمكن للمؤسسات مطابقة أعباء العمل المحددة مع نماذج ذات حجم مناسب، مما يحسن التكلفة والخصوصية على حد سواء. بالنسبة لمزودي البنية التحتية، يعني ذلك دعم طيف أوسع من أحجام النماذج وأهداف النشر، من عمليات التدريب الضخمة إلى استدلال الحافة فائق الكفاءة.