ثغرة في تطبيق ChatGPT لنظام macOS تسلط الضوء على مخاطر أمان تطبيقات الذكاء الاصطناعي

كشف باحثو الأمن في مؤسسة Objective-See عن ثغرة في إصدار macOS من تطبيق ChatGPT التابع لـ OpenAI كان يمكن استغلالها لاختراق بيانات المستخدمين والوصول إلى النظام. الثغرة، التي تم إصلاحها من قبل OpenAI في 25 سبتمبر، كانت موجودة في مكون مفسر نصوص موثوق كان يقبل نصوصًا غير موثوقة، مما يسمح للبرمجيات الخبيثة بتجاوز فحوصات التحقق من التوقيع والتفاعل مع عملية ChatGPT الرئيسية.

وفقًا لمحلل Objective-See باتريك واردل، كان الاستغلال "بسيطًا بشكل لا يصدق" — حيث يتطلب حوالي اثني عشر سطرًا من الكود — وكان يمكن أن يمنح المهاجمين الوصول إلى سجلات المحادثات، وجلسات المتصفح، والقدرة على تنفيذ أوامر بامتيازات تطبيق ChatGPT. توضح الثغرة كيف تصبح وكلاء الذكاء الاصطناعي، الذين يتطلبون وصولًا عميقًا للنظام للعمل، أهدافًا عالية القيمة عندما تكون حدود الثقة الخاصة بهم معيبة.

لماذا هذا مهم للبنية التحتية لوحدات معالجة الرسوميات والذكاء الاصطناعي

مع انتشار تطبيقات الذكاء الاصطناعي عبر نقاط النهاية، يصبح أمان حزمة البرمجيات بنفس أهمية الأجهزة الأساسية. يجب على المؤسسات التي تنشر أعباء عمل الذكاء الاصطناعي المعجلة بوحدات معالجة الرسوميات (GPU) مراعاة الثغرات في طبقة التطبيق التي قد تكشف البيانات الملكية، أو مخرجات النماذج، أو خطوط أنابيب الاستدلال. أصبح تعزيز سلسلة توريد البرمجيات — من أطر خدمة النماذج إلى تطبيقات العميل — متطلبًا أساسيًا للبنية التحتية.

يخطط واردل لتقديم نتائج إضافية حول ثغرات تطبيقات الذكاء الاصطناعي لنظام macOS في مؤتمر Objective by the Sea في نوفمبر، بما في ذلك ثغرة تم إصلاحها في مساعد Meta's Muse AI. يشير النمط إلى فئة أوسع من المخاطر مع اكتساب مساعدي الذكاء الاصطناعي تكامل أعمق مع نظام التشغيل.