Industry·
أوبن أيه آي تطلق واجهة برمجة التطبيقات Decisions للاستدلال منخفض الكمون وعالي الكفاءة
تستهدف واجهة برمجة التطبيقات Decisions الجديدة من أوبن أيه آي المطورين الذين يحتاجون إلى مخرجات نموذج سريعة ومركزة بجزء بسيط من تكلفة إكمالات المحادثة الكاملة — مثالية للتصنيف والتوجيه وحلقات التحكم في الوقت الفعلي.
أطلقت أوبن أيه آي واجهة برمجة التطبيقات Decisions، وهي نقطة نهاية خفيفة الوزن مصممة لإرجاع مخرجات منظمة وعالية الثقة للمهام المنفصلة مثل تصنيف النوايا، واعتدال المحتوى، وتوجيه الإجراءات. على عكس واجهة برمجة التطبيقات الأوسع Chat Completions، تم تحسين Decisions لكمون أقل من 100 مللي ثانية وتسعير متوقع، مما يجعلها مناسبة لأعباء العمل الإنتاجية حيث تحسب كل ميلي ثانية ورمز مميز.
لماذا هذا مهم لبنية GPU / AI التحتية
بالنسبة للفرق التي تشغل الاستدلال على مجموعات GPU — سواء في الموقع أو من خلال مزودي السحابة مثل AiGpu — تمثل واجهة Decisions API تحولًا نحو نماذج أصغر ومتخصصة يمكن تجميعها بكفاءة على أجهزة مشتركة. تترجم أحجام الرموز المميزة الأقل لكل طلب إلى إنتاجية أعلى لكل GPU، مما يقلل تكلفة كل قرار ويسهل تخطيط السعة للخدمات عالية QPS.
تُرجع الواجهة JSON مع تسمية قرار، ودرجة ثقة، وتتبع استدلال اختياري، مما يمكّن المنطق اللاحق الحتمي دون عبء هندسة المطالبات. تُظهر المعايير المبكرة أقل بنسبة 5-10 أضعاف في الكمون وتقليل تكلفة يصل إلى 90% مقابل مكالمات إكمال المحادثة المكافئة لمهام التصنيف.
يمكن للمطورين تعريف مخططات القرار عبر نظام نوع بسيط، وتتولى أوبن أيه آي اختيار النموذج، والتقطير، وبنية الخدمة. يتيح هذا التجريد لفرق المنتج التركيز على منطق التطبيق مع الاستفادة من تحسينات النموذج المستمرة خلف الكواليس.
- aigpu
- ai gpu
- ai gpu cloud
- aigpu dubai
- openai
- inference-api
- low-latency
- gpu-optimization
بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (OpenAI Blog)
→ كل المقالات