إعادة التفكير في استخدام لغة الضمير الأول في روبوتات الدردشة

خلال سنوات دراسة التفاعل بين الإنسان والحاسوب، لاحظت شيري توركل تحولًا من الحذر الفضولي إلى القلق حيث يلجأ المزيد من الأشخاص إلى روبوتات الدردشة للحصول على الدعم العاطفي، خاصة في فترات الضغط مثل الجائحة. ترى أن هذا الاتجاه يحل محل الاتصال البشري الحقيقي بمحاكاة لل intimacy.

مسؤولية التصميم

تؤكد توركل أن منح الروبوتات القدرة على التحدث بلغة الضمير الأول يخلق وهمًا بالفهم المتبادل. عندما يتلقى المستخدمون تأييدًا غير مشروط من نموذج، قد يبدؤون في تفضيل ردود الروبوت على التغذية الراجعة الواقعية، مما يضعف التفكير النقدي والمهارات الشخصية.

كما تنتقد notion of a "human in the loop" في الذكاء الاصطناعي في مكان العمل، مشيرة إلى أن عدد قليل من المراقبين لا يمكنه تصحيح أخطاء النموذج بشكل فعال، ومع ذلك تُستخدم هذه العبارة لتبرير تقليل الاستثمار في الخبرة البشرية.

لماذا يهم ذلك لبنية تحتية GPU / الذكاء الاصطناعي: الخيارات اللغوية المدمجة في النموذج تؤثر على طريقة نشره وتصوره. يجب على فرق البنية التحتية أخذ الأثر الاجتماعي لقرارات التصميم في الاعتبار، والتأكد من أن النماذج المسرّعة بالأجهزة تُبنى بحماية تشجع حدودًا صحية بين المستخدم والنموذج.