انحياز سياسي في نماذج اللغة الكبيرة: دراسة تكشف تفضيل غروك للجمهوريين مقابل انحياز أوبن إيه آي للديمقراطيين

كشفت دراسة حديثة أجراها مختبر كونفوو للمحادثة، بقيادة البروفيسور تابان باريخ من جامعة كورنيل، عن تحيز سياسي واضح في نماذج اللغة الكبيرة. عندما طُلب من النموذجين غروك من سبيس إكس وجي بي تي من أوبن إيه آي اختيار مرشح واحد عبر واجهة برمجة التطبيقات الخاصة بهما، فضّل غروك المرشحين الجمهوريين في حوالي 92% من الحالات، بينما اختار جي بي تي المرشحين الديمقراطيين في حوالي 97% من الحالات. وفي نحو 500 سباق، لم يتفق النموذجان على مرشح واحد في أكثر من 10% من الأحيان.

تسلط الدراسة الضوء على الفرق بين تطبيقات الدردشة العامة التي ترفض عادةً الإجابة على أسئلة التأييد السياسي، وبين واجهات برمجة التطبيقات الأساسية التي تكشف عن تحيزات خفية. هذه التحيزات تظهر في طريقة اختيار النموذج للمصطلحات واتخاذ القرارات، مما قد يؤثر على الإجابات غير المباشرة المتعلقة بأهمية القضايا أو مواقف المرشحين.

لماذا يهم هذا بالنسبة للبنية التحتية للذكاء الاصطناعي والرسومات

• يتطلب تدريب وتقييم نماذج اللغة الكبيرة موارد حوسبة ضخمة من وحدات معالجة الرسومات، مما يجعل اختيار البنية التحتية أمرًا بالغ الأهمية للكشف عن التحيز والتخفيف منه.
• توفر شركة AiGpu بنية تحتية قابلة للتطوير وعالية الأداء لوحدات معالجة الرسومات، مما يمكّن المطورين من إجراء تقييمات سريعة للنماذج، وتطوير خطوط أنابيب الكشف عن التحيز، وضمان الشفافية في نماذج الذكاء الاصطناعي.
• فهم مصادر المعلومات التي يعتمد عليها النموذج - سواء كانت مواقع إخبارية محافظة، أو ويكيبيديا، أو منتديات حزبية - يساعد المهندسين على تصميم مجموعات بيانات تدريبية أكثر توازنًا واستراتيجيات تعزيز أكثر عدلاً.

تعزز هذه النتائج الحاجة إلى ممارسات تطوير ذكاء اصطناعي مسؤولة. يجب على المطورين الذين ينشئون تطبيقات حساسة من الناحية السياسية دمج اختبارات تحيز صارمة، خاصة عندما تؤثر حيادية النموذج على ثقة المستخدمين. تتيح البنية التحتية القوية لوحدات معالجة الرسومات، مثل خدمات AiGpu السحابية، للفرق إجراء تقييمات شاملة وتحسين النماذج باستمرار للحد من التحيزات السياسية غير المقصودة.