أوبن أيه آي تتعاون مع هاكترون لاختبار دفاعات الذكاء الاصطناعي المتقدمة

أعلنت أوبن أيه آي عن شراكة مخصصة مع هاكترون، وهي شركة أمن سيبراني تركز على الاختبارات الهجومية، لإجراء عمليات فريق أحمر مستمرة عبر واجهات برمجة نماذجها، وخطوط أنابيب البيانات، ونظام الإضافات. يتجاوز هذا التعاون اختبارات الاختراق القياسية من خلال محاكاة المطالبات المعادية، وهجمات سلسلة التوريد، وسيناريوهات إساءة الاستخدام التي تستهدف سطح الهجوم الفريد للنماذج اللغوية الكبيرة.

لماذا هذا مهم للبنية التحتية لوحدات معالجة الرسوميات / الذكاء الاصطناعي

يؤدي التحقق الأمني على طبقة النموذج إلى متطلبات جديدة لمستأجرين وحدات معالجة رسوميات معزولين، وأوزان نماذج مشفرة أثناء التخزين، وسجلات استدلال قابلة للتدقيق — قدرات يجب على مزودي الخدمات السحابية دمجها في أجهزتهم. مع توسع النماذج المتقدمة، تزداد تكلفة استغلال واحد بشكل متناسب مع ميزانية الحوسبة وراء النموذج، مما يجعل التصديق على مستوى الأجهزة والحوسبة السرية ضروريين للتبني المؤسسي.

سيختبر هاكترون أيضًا الاتصالات مع خدمات الجهات الخارجية مثل قواعد البيانات المتجهة، ومفسرات الكود، وواجهات برمجة التطبيقات الخارجية، مما يضمن أن هندسة الإضافات المتوسعة لا تقدم مسارات للحركة الجانبية. ستغذي النتائج مباشرة خارطة طريق سلامة أوبن أيه آي وتوجه أفضل الممارسات الصناعية لسلامة سلسلة توريد الذكاء الاصطناعي.

بالنسبة لفرق البنية التحتية، تشير الشراكة إلى تحول: لم يعد الأمن مجرد اهتمام بالمحيط، بل أصبح عبء عمل مستمرًا وكثيف الحوسبة يتطلب موارد وحدات معالجة رسوميات مخصصة للاختبار العشوائي، والاختبار التفاضلي، والتحقق الآلي من التصحيحات.