ما وراء التحقق من الحقائق: التحقق الواعي بالمصدر لوكالات MCP

Introduction

الأنظمة التقليدية للتحقق من LLM تعتمد على ما إذا كان الادعاء مدعومًا بأي دليل في نافذة السياق. ومع ذلك، فإن وكلاء Model Context Protocol (MCP) الحديثون يجمعون المعلومات من مصادر متعددة — أدوات البحث، قواعد البيانات، السجلات — ثم يدمجون الإجابات من مدخلات متباينة. هذا يخلق مشكلة دقيقة ولكنها جوهرية: حتى عندما يكون هناك حقيقة موجودة في أي مكان داخل مجموعة الأدلة، فإن إسنادها إلى مصدر خاطئ يمكن أن ينتج استجابات مضللة بشكل خطير.

تحدث حالة الفشل المعروفة تُسمى الخلط بين المصادر، حيث قد تعكس الإجابة حقيقة صحيحة لكنها تربطها بمصدر غير دقيق. على سبيل المثال، قد ينص روبوت دعم العملاء "وفقاً لسجل الحساب، يشمل هذا الخطة فترة استرداد لمدة 30 يومًا"، حتى لو كانت سياسة الاسترداد موجودة في وثيقة مختلفة. عند دمج الأدلة دون تتبع المصدر، تصبح هذه الأخطاء في إسناد المصدر غير مرئية وقد تكون ضارة في التطبيقات الحساسة للبيانات.

نقدم إطار ProvenanceGuard، وهو طبقة تحقق لاحقة تعمل فوق وكلاء MCP المغلقين. على عكس المدققات التقليدية التي تدمج الأدلة في سياق واحد مجهول، يحافظ ProvenanceGuard على التتبع الكامل لـ MCP — بما في ذلك مخرجات الأدوات ومعرفات المصدر — دون الحاجة لإعادة تدريب الوكيل.

يقوم النظام بخطوات خمس متتالية لكل ادعاء مولد: تحديد المصدر الأكثر صلة بالادعاء، التحقق مما إذا كان هذا المصدر يدعمه فعليًا، مقارنة المصدر الداعم مع المصدر الذي ذكره أو استنتجه الإجابة، وإصدار حكم مصدري لكل ادعاء مع درجة ثقة. يوفر هذا النهج التفصيلي الفرق بين الصحة البحتة والولاء الحقيقي للمصدر.

لماذا يهم هذا للبنية التحتية للـ GPU/AI: مع نمو أحمال العمل الذكية عبر مجموعات GPU الموزعة، تزداد أهمية موثوقية سير عمل الوكلاء. يمكن أن يؤدي إسناد خاطئ إلى قرارات غير صحيحة، وانتهاكات الامتثال، وفقدان الثقة في الأنظمة الآلية. يوفر ProvenanceGuard رادارًا أساسيًا للتطبيقات التجارية حيث تعتبر القابلية للتدقيق والامتثال التنظيمي أمرًا حاسمًا.