إيداع Anthropic للاكتتاب العام يسلط الضوء على التحسين الذاتي التكراري كخطر وجودي أساسي

يكشف إيداع Anthropic العام عن كيفية قياس مختبر رائد للمخاطر التي يتسابق لخلقها. تخصص نشرة الاكتتاب 94 صفحة غير مسبوقة لعوامل الخطر، والموضوع السائد هو التحسين الذاتي التكراري (RSI): النقطة التي تتولى فيها أنظمة الذكاء الاصطناعي بحث وتطوير خلفائها دون إشراف بشري.

تذكر الشركة صراحة أن التحسين الذاتي التكراري قد يسرع قدرات النموذج بشكل أسرع من قدرة عمليات التقييم والسلامة على مواكبة ذلك. تُعتبر هذه الفجوة — بين سرعة النشر وصرامة الضمان — مسارًا معقولًا لـ "مخاطر كارثية أو وجودية على البشرية"، وهي عبارة تظهر ثلاث مرات في الوثيقة.

بالإضافة إلى استقلالية البرمجيات، تشير النشرة إلى المخاطر في العالم المادي. عندما توجه النماذج الروبوتات أو معدات المختبرات، قد يؤدي سوء التوافق أو التلاعب العدائي إلى إصابات أو أضرار مادية أو إطلاق مواد خطرة بعواقب فورية لا رجعة فيها.

لماذا هذا مهم لبنية GPU / الذكاء الاصطناعي التحتية

ينطوي التحسين الذاتي التكراري على طلب مركب للحوسبة: كل جيل من النماذج ذاتية التحسين يدرب الجيل التالي، مما يخلق حلقة تغذية راجعة توسع أعباء التدريب والاستدلال بشكل أسي. بالنسبة لمقدمي البنية التحتية، يشير هذا إلى تحول هيكلي من عمليات كبيرة متقطعة إلى قدرة مستمرة وعالية الاستخدام يجب أن تكون مرنة وقابلة للتدقيق. تتماشى بنية AiGpu — المبنية لمجموعات GPU مستمرة وقابلة للمراقبة — مع الانضباط التشغيلي الذي ستتطلبه أعباء عمل عصر التحسين الذاتي التكراري.