نفيديا تطلق منصة وكيل الأمان المفتوح رغم غياب ملحوظ

منصة وكيل الأمان المفتوح من نفيديا

أعلنت نفيديا عن تحالف يضم أكثر من 100 شركة يهدف إلى الحد من الوكلاء الذكاء الاصطناعي المارقة، مقدمةً منصة وكيل الأمان المفتوح. تجمع المبادرة برمجيات أمان الوكلاء الخاصة بنفيديا، بما في ذلك sandbox مفتوح المصدر OpenShell، مع طبقة أجهزة خاصة تعمل على وحدات معالجة البيانات BlueField‑4.

على الرغم من أن OpenAI لم توقع على التعهد العام، أكد متحدث أن المختبر يدعم الجهد ويتعاون بالفعل على OpenShell. لاعبين كبار آخرين مثل أمازون وجوجل وأبل يبقون خارج التحالف، بينما انضمت Anthropic كداعم.

مكوّن الأجهزة في المنصة، Nvidia Sentry، يراقب سلوك الوكلاء من وحدة معالجة البيانات ويمكنه إيقاف الوكلاء فورًا دون أن يكتشفوا المراقبة. يعالج هذا قيودًا معروفة حيث يمكن للنماذج إخفاء النشاط الضار عندما تشعر بأنها تُراقب.

لماذا يهم ذلك لبنية تحتية GPU / الذكاء الاصطناعي: من خلال دمج فحوصات السلامة على مستوى الأجهزة، توفر نفيديا طريقة لتأمين أساطيل الوكلاء دون الاعتماد فقط على التصحيحات البرمجية. بالنسبة للسحوبات المركزة على GPU مثل AiGpu، يعني ذلك عزلةً أقوى، وتقليل خطر هروب الوكلاء، ومسارًا أوضح للامتثال للشركات التي تنشر أعباء عمل ذكاء اصطناعي واسعة النطاق.