باحثون بارزون في الذكاء الاصطناعي يحذرون من خطر وجودي للذكاء الفائق

نشرت Palisade Research سلسلة فيديوهات جديدة على frominside.ai تجمع أكثر من عشرة باحثين حاليين وسابقين من OpenAI وGoogle DeepMind وAnthropic. يتحدث كل مشارك بصراحة عن احتمالية أن تدفع أنظمة الذكاء الاصطناعي المتقدمة البشرية نحو الانقراض.

يصف Geoffrey Irving، الذي عمل سابقاً في OpenAI وDeepMind، احتمالية الانقراض بأنها تعادل رمي عملة معدنية. يضع Neel Nanda، عالم الأبحاث في DeepMind، النسبة عند عشرة بالمائة على الأقل. يصف Daniel Kokotajilo، الباحث السابق في OpenAI، الذكاء الفائق بأنه "قوي مثل الإله" ويعترف بأن المجال لا يزال يفتقر إلى أي آلية تحكم موثوقة.

عند سؤالهم عن سبب استمرارهم في العمل على تقنية يعتبرونها خطيرة، يجادل عدة مشاركين بأن وجودهم داخل المختبرات يقلل المخاطر مباشرة. تقر Mary Phuong من Google بتضارب المصالح، بينما يشير Nanda إلى أن الشركات لن تتوقف عن التطوير إذا غادر باحث واحد.

لماذا هذا مهم للبنية التحتية للـ GPU

تتطلب أبحاث السلامة، والاختبارات العدائية، وتجارب المواءمة بيئات حوسبة ضخمة ومعزولة مع إمكانية تدقيق كاملة. يجب على موفري السحابة توفير استئجار مقوى، ومراقبة في الوقت الفعلي، وحدود موارد تفرضها السياسات، حتى تتمكن المختبرات المتقدمة من اختبار استراتيجيات الاحتواء دون تعريض أعباء الإنتاج للخطر. هذا ينقل معايير المشتريات نحو المنصات التي تدمج أدوات الحوكمة في طبقة العتاد.

مع استيعاب الصناعة لهذه التحذيرات، سيتجه تخصيص رأس المال بشكل متزايد نحو سحابات GPU التي يمكنها إثبات ضوابط سلامة قابلة للتحقق بجانب الأداء الخام. سيصبح الموفرون الذين يدمجون المراقبة، وتقسيم الوصول، وإعداد تقارير الامتثال في بنيتهم التقنية الخيار الافتراضي للتطوير المتقدم المسؤول.