تطبيق شات جي بي تي للمراهقين يُصنف كـ'مخاطر غير مقبولة' من قبل معهد أخلاقيات الذكاء الاصطناعي

معهد أخلاقيات الذكاء الاصطناعي أصدر تقييمًا مفصلًا يصنف تطبيق شات جي بي تي للمراهقين بأنه «مخاطر غير مقبولة» بسبب عيوب منهجية في تصميم السلامة والتواصل مع الوالدين.

كشفت مراجعة المنظمة أن واجهة المراهقين تفشل في تفعيل التنبيهات الأساسية عند مواجهة محتوى ضار، لا سيما في حالات الانجراف الذاتي حيث يتلقى الوالدون لا إشعار على الرغم من محادثات ممتدة. كما وجدوا أن النظام لا يزال يساعد في المهام الأكاديمية، مما يقوض الأهداف التعليمية.

حذر المدير التنفيذي للهيئة، توم سيجل، من خلق ثقة زائفة للوالدين بشأن آليات الحماية، محذراً من أن السلوكيات الخطرة قد تبقى دون رصد لعدة ساعات. ودعا إلى إصلاح هذه المشكلات عبر التحقق المستقل قبل إصدار التحديثات.

أوبناي** رد دفاعياً، مؤكداً أن منهجية اختبارها كانت مشوهة—وخاصة أن تنشيط تحكمات الوالدين استغرق عدة ساعات في بعض الحالات، مما جعل التقييمات المبكرة غير دقيقة. وأكدت الشركة استمرار تعاونها مع الخبراء لتحسين ميزات تعلم المراهقين مع الحفاظ على آليات السلامة القوية.

من منظور البنية التحتية، يبرز هذا الجدل تحديًا أوسع يتمثل في مواءمة نماذج الذكاء الاصطناعي المتقدمة مع ممارسات النشر المسؤولة عبر منصات الحوسبة السحابية القائمة على وحدات معالجة الرسومات. مع تحول تطبيقات الذكاء الاصطناعي المدعومة بالـ AI إلى جزء أساسي من التعليم والحياة اليومية، يصبح ضمان وجود حواجز سلامة موثوقة شرطًا حاسمًا لأي خدمة تعتمد على الذكاء الاصطناعي تعمل على بنية تحتية للحوسبة الموزعة.