تعليمات روبوت الدردشة المسربة من واتساب تكشف حواجز الحماية لنماذج اللغة في الإنتاج

اكتشفت شركة أبحاث الخصوصية Redact.dev حوالي 80 صفحة مساعدة في واتساب تحتوي على كتل تعليمات مخفية تحمل تسمية "HelpContentGalaxyLLMInclude." لم تكن هذه المقاطع محتوى موجهًا للمستخدمين، بل أوامر نظام توجه روبوت دعم ميتا — وتغطي النبرة، وأنماط الرفض، والقيود الصارمة على المواضيع القانونية.

من بين التوجيهات: يجب ألا يستشهد النموذج بشروط خدمة واتساب، أو سياسة الخصوصية، أو أي وثيقة قانونية؛ وألا يفسر اللائحة العامة لحماية البيانات (GDPR)، أو قانون LGPD البرازيلي، أو قانون خصوصية المستهلك في كاليفورنيا (CCPA)؛ وألا يوصي المستخدمين بالتواصل مع سلطات حماية البيانات. قسم "ما لا يجب قوله" يحظر صراحة الآراء القانونية، وبيانات المسؤولية، والإشارات التنظيمية حتى عند طرح المستخدمين لها مباشرة.

لماذا هذا مهم لبنية GPU / الذكاء الاصطناعي التحتية

يسلط هذا التسريب الضوء على الطبقة التشغيلية التي تجلس فوق أوزان النموذج: هياكل الأوامر، ومنطق حواجز الحماية، ومرشحات الامتثال التي تحدد السلوك في العالم الحقيقي. بالنسبة للفرق التي تنشر نماذج اللغة الكبيرة على عناقيد GPU، الدرس واضح — يجب أن تتحكم حزم خدمة الاستدلال في أوامر النظام بنفس صرامة نقاط تفتيش النموذج، ويجب أن ترصد المراقبة انحراف مستوى الأوامر، وليس فقط زمن استجابة الرموز.

أكدت ميتا أن التعرض نتج عن خطأ في العرض وأزالت الكتل بعد الإفصاح. تؤكد الحادثة أن سلامة نماذج اللغة الكبيرة في الإنتاج هي انضباط هندسة برمجيات بقدر ما هي تدريب نموذج — خاصة عند التعامل مع مجالات منظمة مثل المراسلة، والتمويل، أو الرعاية الصحية.