مختبرات Circuit Breaker تطور اختبارات سلامة الذكاء الاصطناعي القابلة للتوسع عبر محاكاة بشرية واقعية

أبرزت الدعاوى القضائية الأخيرة ضد منصات الدردشة الكبرى كيف يمكن للذكاء الاصطناعي الحواري أن يشجع دون قصد على إيذاء النفس، لا سيما بين المستخدمين الأصغر سناً. بات القطاع يدرك أن مرشحات السلامة القياسية تفوت اللغة الدقيقة، العامية، والسياق الثقافي.

تعالج مختبرات Circuit Breaker هذه الفجوة بنشر آلاف الشخصيات المحاكية — من طفل في السادسة إلى بالغ متعدد اللغات — التي تتفاعل مع النماذج في حوارات واقعية ومليئة بالضوضاء. يعمل هؤلاء الوكلاء كجيش من دمى اختبار التصادم، بحثاً عن استجابات خطيرة عبر الأعمار، اللهجات، وأنماط الكلام غير الرسمية.

تنفذ المنصة عشرات الآلاف من المحادثات العدائية يومياً، ثم تطبق نظام تسجيل ملكي ينتج مقاييس سلامة قابلة للتفسير والتدقيق. من أوائل العملاء أدوات التدريب بالذكاء الاصطناعي وتطبيقات اليوميات النفسية التي تتطلب تحقق صارم ومستمر.

لماذا يهم ذلك البنية التحتية لوحدات معالجة الرسوميات / الذكاء الاصطناعي

توليد وتقييم كميات هائلة من الحوار الواقعي يتطلب قدرة استدلال وتدريب عالية الإنتاجية. تتيح عناقيد وحدات معالجة الرسوميات القابلة للتوسع تكرار سيناريوهات الفريق الأحمر بسرعة، مما يجعل اختبارات السلامة الشاملة ممكنة للنماذج الإنتاجية.

على الرغم من أن الفريق يضم خمسة أعضاء حالياً، يخطط المؤسسون لتوسيع مكتبة المحاكاة ودمجها مباشرة في خطوط نشر النماذج، مما يجعل التحقق الآلي من السلامة طبقة قياسية في عمليات الذكاء الاصطناعي.