أنثروبيك تحدّث سياسة استخدام كلود لتحظر السلوكيات القاسية وتوسّع قيود إساءة الاستخدام

توسّع السياسة يستهدف إساءة الاستخدام عالية المخاطر

قدّمت أنثروبيك تحديثاً شاملاً على سياسة الاستخدام الخاصة بكلود، مساعدها الافتراضي الرئيسي. تتعلق هذه المراجعات الأولى في أكثر من عام بتهديدات ناشئة مرتبطة بإساءة استخدام الذكاء الاصطناعي، بما في ذلك التدخل في الانتخابات وتطوير أسلحة ذاتية ومراقبة غير مصرح بها.

من أبرز الإضافات الجديدة منع "السلوكيات المستمرة العنيفة أو القاسية" تجاه كلود. يبني هذا على أبحاث سابقة حول رفاهية النموذج، حيث مكّنت أنثروبيك كلود من إنهاء المحادثات مع مستخدمين ضارين. أكدت الشركة أن هذه الإجراءات تبقى محجوزة لحالات متطرفة ولن تؤثر على التفاعلات اليومية أو الاختبار أو الاستكشاف الإبداعي.

كما تدمج السياسة المحدثة قواعد متناثقة في موقف موحد ضد الحملات الخادعة. تحظر صراحة المحاولات التي تهدف إلى إخفاء هوية الرسائل أو تضخيم المحتوى عبر حسابات مزيفة، خاصة في السياقات السياسية أو التجارية. كما تُحظر التلاعب في عملية الاقتراع وانتحال المرشحين ونشر معلومات مضللة حول إجراءات التصويت.

استجابة لزيادة إساءة الاستخدام في مجالات حساسة، وسّعت أنثروبيك من منع الأسلحة لتشمل البرمجيات والمكوّنات التي تمكّن الأسلحة ذاتية الطيران والأنظمة المتنقلة. وتضيف لغة جديدة توضح الحظر على استخدام كلود لتتبع الأفراد في الوقت الحقيقي أو تحليل بيانات سابقة دون موافقة، خاصةً ضد المنتقدين السياسيين.

تشير هذه التحديثات إلى تركيز متزايد على النشر الأخلاقي والتحكم في الوصول المسؤول. بالنسبة للمؤسسات التي تعتمد نماذج لغوية ضخمة في تطبيقاتها، فإن محاذاة الحوكمة الداخلية مع سياسات الموردين المتغيّرة أمر بالغ الأهمية للامتثال والثقة.