AiGpu

Infrastructure·

جوجل تطلق ميزة استرجاع الأدوات في واجهة برمجة تطبيقات جيميني لتبسيط أعباء الوكلاء واسعة النطاق

تقدم جوجل ميزة استرجاع الأدوات في واجهة برمجة تطبيقات تفاعلات جيميني، مما يتيح للوكلاء تحميل مخططات الدوال عند الحاجة لتقليل استخدام الرموز وزمن الاستجابة.

رسم توضيحي لسير عمل استرجاع أدوات جيميني

أطلقت جوجل نسخة تجريبية من ميزة استرجاع الأدوات داخل واجهة برمجة تطبيقات تفاعلات جيميني، وهي خطوة تستهدف المطورين الذين يشغلون وكلاء يعتمدون على عشرات أو مئات الدوال القابلة للاستدعاء. من خلال إبقاء كتالوج الأدوات الكامل في وضع الاستعداد وسحب مخططات المعاملات فقط عندما تتطلب المهمة ذلك، تقلل الميزة من عدد الرموز المدخلة، وتخفض زمن الاستجابة، وتحسّن قدرة النموذج على اختيار الأداة المناسبة.

آلية عمل استرجاع الأدوات

  • إضافة عنصر tool_search إلى حمولة الطلب.
  • وضع علامة defer_loading: true على الدوال قليلة الاستخدام لإبقاء مخططاتها خارج السياق الأولي.
  • لا يزال النموذج يرى اسم كل أداة مؤجلة ووصفها، مما يمكّنه من اتخاذ قرار استدعائها عند الحاجة.
  • عندما يستدعي النموذج أداة مؤجلة، تقوم الواجهة البرمجية بحقن المخطط الكامل وتنفيذ الدالة ضمن نفس دورة الطلب.

عملياً، يمكن لطلب API واحد معالجة طلب استرداد مالي مع إبقاء أكثر من 50 دالة أخرى في وضع السكون حتى يتم استدعاؤها صراحة. نمط التحميل عند الطلب هذا متوافق مع نماذج جيميني 3.6 والإصدارات الأحدث.

الأهمية للبنية التحتية للـ GPU / الذكاء الاصطناعي: تقليل حجم حزم الاستفسار يعني حركة بيانات أقل عبر تسلسل ذاكرة GPU، مما يترجم إلى تكلفة حسابية أقل لكل استدلال وإنتاجية أعلى للمجموعات المشتركة من المعجلات. بالنسبة للفرق التي تشغل أساطيل وكلاء واسعة النطاق على مجمعات مسرعات مشتركة، تتضافر وفورات الرموز بسرعة، مما يحرر سعة لأعباء عمل إضافية.

  • aigpu
  • ai gpu
  • ai gpu cloud
  • aigpu dubai
  • gemini api
  • tool retrieval
  • function calling
  • llm agents

بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (Google AI Blog)

→ كل المقالات