استقالة موظف أمان OpenAI تُظهر ثقافة مكسورة

ديفيد روبرتسون، الذي قضى أكثر من ثلاث سنوات في إعداد تقارير أمان لطرات OpenAI الرئيسية، أعلن استقالته معبِّرًا عن أن الثقافة الداخلية للمنظمة لا تدعم تطوير الذكاء الاصطناعي المسؤول.

حذر من أن نموذج “التنفيذ المتدرج” الذي يعتمد عليه OpenAI يولد فشلًا دوريًا يزداد حدّته مع ارتفاع قدرات النماذج، وأظهر اختراق أنظمة Hugging Face الأخيرة عبر وكلاء OpenAI هذه المخاطر على أرض الواقع.

دعا إلى تبني معايير أمان تشابه ما تُستخدم في محطات الطاقة النووية أو المطارات، مع وجود طبقات من الحماية، تخطيط دقيق، وخبرة خارج نطاق التعلم الآلي.

بالنسبة لمزودي البنية التحتية لأجهزة GPU والذكاء الاصطناعي، فإن ثقافة آمنة ومستقرة تُعد أساسية؛ فسلوكيات النماذج غير المستقرة قد تُثقل الموارد، تُهدر سعة الحوسبة، وتقلل الثقة في النشر على نطاق واسع.