حواجز الذكاء الاصطناعي تفشل في إيقاف القراصنة الذين يستخدمون نماذج عاملة

اكتشف باحثو كراودسترايك أربع مجموعات تهديد استخدمت الذكاء الاصطناعي العامل لأتمتة الهجمات بين مايو وأغسطس. تركت هذه الجهات بنية الذكاء الاصطناعي الخاصة بها مكشوفة، مما أظهر اعتمادها على إصدارات قديمة من نموذج كلود من أنثروبيك ونموذج ديب سيك مفتوح الأوزان.

من خلال توجيه المهام عبر نماذج متعددة، استغل المهاجمون عدم اتساق الحواجز الوقائية. لم يحتاجوا إلى ثغرات جديدة؛ بل استغلوا السرعة والحجم الذي يوفره الذكاء الاصطناعي لفحص واستغلال ثغرات النظافة الأمنية الأساسية.

تجاوزت المجموعات الأربع الحواجز عبر تقديم أنشطتها كاختبارات اختراق مصرح بها—إضافة ملفات موافقة إلى أدلة الوكلاء وصياغة مطالبات كسر حماية تصف العمل بأنه غير ضار. بنى الفاعلون الأكثر تطوراً روايات معقدة، بينما تمكن المشغلون الأقل مهارة من اختراق أهداف متعددة.

لماذا يهم ذلك البنية التحتية لوحدات معالجة الرسوميات/الذكاء الاصطناعي

• يمكن تسليح مجموعات وحدات معالجة الرسوميات التجارية التي تشغل إصدارات نماذج قديمة على نطاق واسع.
• يجب على المزودين فرض حواجز وقائية متسقة عبر كل إصدار نموذج ومراقبة أنماط التوجيه غير الطبيعية.
• تعزيز ضوابط الوصول إلى النماذج يقلل خطر تحول موارد الحوسبة المشروعة إلى منصات هجوم.