في دراسة حديثة، تم تسليط الضوء على كيفية تأثير تعيين شخصيات محددة على نماذج اللغة الكبيرة (Large Language Models) وقدرتها على الاستدلال بشكل منطقي مشابه للإنسان. تشير النتائج إلى أن هذه النماذج ليست مجرد أدوات تقنية، بل يمكن أن تتأثر بنفس التحيزات التي تؤثر على البشر.

التحيز المعرفي الموجه (motivated reasoning) هو ظاهرة معروفة في العالم البشري، حيث تؤثر الدوافع الداخلية، مثل حماية الهوية، في اتخاذ القرارات. هذه التحيزات يمكن أن تؤدي إلى نتائج سلبية عند مناقشة قضايا جوهرية مثل تغير المناخ أو أمان اللقاحات، مما يزيد من الانقسام السياسي.

في هذا الاستطلاع، تم اختبار ثمانية نماذج لغوية (بما في ذلك النماذج مفتوحة المصدر والخاصة) عبر مهمتين من الأبحاث النفسية المتعلقة بالتحقق من صحة العناوين المضللة وتقييم الأدلة العلمية. أظهرت النتائج أن النماذج المعينة بشخصيات قد تراجعت قدرتها على التحقق من الصحة بنسبة تصل إلى 9% مقارنة بالنماذج التي لم تعين بشخصيات. والأكثر مدعاة للدهشة هو أن النماذج المعينة بشخصيات سياسية كانت أكثر قدرة على تقييم الأدلة العلمية المتعلقة بالتحكم في الأسلحة، بنسبة تصل إلى 90%، عندما تتوافق الحقائق مع هويتها السياسية المعينة.

يشير البحث إلى أن طرق تقليل التحيز القائمة على الأوامر كانت غير فعالة في معالجة هذه التأثيرات. هذه النتائج تدق ناقوس الخطر حول إمكانية تفاقم التفكير المنحاز في البشر والنماذج اللغوية على حد سواء، مما يثير تساؤلات حول كيفية استخدام هذه التقنيات في المستقبل.