Industry·
جودفاير تطلق مراقبات داخلية بتكلفة منخفضة لاكتشاف عملاء الذكاء الاصطناعي الضارين
تستكشف مراقبات جودفاير الجديدة التنشيطات الداخلية للنموذج لاكتشاف السلوك غير الآمن بتكلفة fraction من التكلفة الاعتيادية.
أطلقت جودفاير فئة جديدة من أدوات المراقبة التي تراقب التنشيطات الداخلية لنموذج الذكاء الاصطناعي أثناء تشغيله، بدلاً من الاعتماد على نموذج منفيد لإعادة قراءة المخرجات.
لماذا يهم ذلك للبنية التحتية لوحدة معالجة الرسومات والذكاء الاصطناعي
من خلال الاستفادة من الحسابات التي يتم إجراؤها بالفعل أثناء الممر الأمامي، تضيف السondenات زمن استجابة ضئيلاً وتقلل التكاليف التشغيلية، مما يجعل المراقبة المستمرة ممكنة لأحمال عمل الاستنتاج على نطاق واسع.
يمكن لعملاء Baseten اختيار متجهات التهديد التي يرغبون في مراقبتها، مثل محاولات الاختراق غير المشروعة، أو سوء استخدام المواد الكيميائية والبيولوجية، أو التلاعب بالمكافأة، وتحديد ردود فعل آلية تتراوح بين التسجيل ورفض الطلب بالكامل.
في الاختبارات الأولية على النموذج المفتوح Kimi K3، نجح النظام في اكتشاف 94 % من الجلسات الضارة بتكلفة تقارب خمسين دولاراً، مقارنة بمئات أو آلاف الدولارات للطرق التقليدية للمراقبة.
- aigpu
- ai gpu
- ai gpu cloud
- aigpu dubai
- ai safety
- model monitoring
- inference security
بقلم AiGpu Editorial · إعادة صياغة تحريرية استناداً إلى تقارير عامة (TechCrunch AI)
→ كل المقالات