مئات التطبيقات الخادعة تستغل متاجر التطبيقات لنشر أدوات التزييف العميق المسيئة

كشف تحقيق جديد أجرته Wired عن عملية منظمة تمتد عبر أكثر من 400 تطبيق وموقع إلكتروني تتنكر في هيئة أدوات ذكاء اصطناعي عادية — مولدات صور الحيوانات الأليفة، معلمي اللغات، مدربي اللياقة — بينما تستضيف سرًا واجهات لإنشاء تزييف عميق عنيف وجنسي صريح. تم تتبع الشبكة إلى كيان مسجل في هونغ كونغ ومطورين ناطقين بالصينية، وقد نشرت عشرات التطبيقات التي تستخدم لمرة واحدة أسبوعيًا لمدة عام تقريبًا، مستغلة متاجر تطبيقات Apple و Google للتوزيع ومعالجة المدفوعات.

اكتشف باحثو AI Forensics أن التطبيقات تحمل واجهات ويب مخفية فقط تحت ظروف محددة، مما يتيح للمستخدمين تحميل الصور وإنشاء محتوى يصور العنف الجنسي، بما في ذلك سيناريوهات مصنفة على أنها "اغتصاب في غرفة النوم" و "تهديد بسكين". تم الترويج للعملية من خلال عشرات الآلاف من إعلانات Meta، بعضها يحتوي على مواد إساءة جنسية للأطفال تم إنشاؤها بالذكاء الاصطناعي، وصلت إلى جماهير واسعة قبل أن تتمكن إنفاذ المنصة من اللحاق بها.

لماذا هذا مهم للبنية التحتية للـ GPU والذكاء الاصطناعي

تؤكد هذه الحالة تحديًا متزايدًا لمقدمي البنية التحتية: يمكن استئجار نفس مجموعات GPU التي تشغل أعباء العمل التوليدية الشرعية أو إعادة توجيهها لإنشاء محتوى ضار على نطاق واسع. يجب على المنصات السحابية، وأسواق النماذج، ومشغلي الأجهزة تنفيذ تدقيق أكثر صرامة للمستأجرين، ومراقبة الاستخدام، وضوابط سلامة المحتوى لمنع موارد الحوسبة الخاصة بهم من أن تصبح متواطئة في الإساءة. تتطلب البنية التحتية للذكاء الاصطناعي المسؤولة حوكمة استباقية، وليس مجرد عمليات إزالة تفاعلية.