في عصر تتزايد فيه استخدامات نماذج اللغة الكبيرة (Large Language Models - LLMs) في الميادين التعليمية، يصبح من الضروري فهم التحيزات المحتملة التي يمكن أن تنشأ. تشير دراسة جديدة أجريت على استشارات تعليمية قائمة على الذكاء الاصطناعي إلى وجود تحيزات ديموغرافية واجتماعية تؤثر على جودة هذه الاستشارات.
تقوم الدراسة بتحليل ردود من ستة نماذج للغة، والتي تمت مواجهتها بأسئلة تتعلق بـ900 حالة وصفية تعبر عن طلاب في ظروف متنوعة. وقد تم اختبار كل حالة بشكل منهجي عبر 14 مصطلحًا ديموغرافيًا مثل العرق، والجنس، والحالة الاجتماعية والاقتصادية، وخلفية المهاجرين، بجانب حالة تحكم واحدة، مما نتج عنه 243,000 استجابة من النماذج.
النتائج المثيرة:
1. **التحيزات القابلة للقياس**: جميع النماذج أظهرت وجود تحيزات يمكن قياسها.
2. **توافق الأنماط**: أنماط التحيزات تتوافق جزئيًا مع التحيزات البشرية الموثقة، لكنها تختلف في جوانب ملحوظة.
3. **تأثير الدقة**: حجم هذه التحيزات يتأثر بشكل كبير بدقة أوصاف الطلاب؛ حيث أن المعلومات الغامضة تضاعف الفروقات تقريبًا ثلاث مرات، بينما المعلومات الدقيقة والشخصية تقلل منها بشكل كبير.
4. **اختلافات بين النماذج**: تختلف ملفات تعريف التحيزات بشكل كبير بين النماذج.
تُظهر هذه النتائج أهمية الاعتماد على تمثيلات تعليمية غنية بالمعلومات وسياقية، مما يقترح أن اتخاذ القرارات التعليمية المدعومة بالذكاء الاصطناعي يجب أن يستند إلى معلومات دقيقة تتعلّق بكل طالب لتعزيز العدالة والمساواة في البيئة التعليمية.
**هل تعتقد أن الذكاء الاصطناعي يمكن أن يحدث ثورة في مجال التعليم مع تجاوز هذه التحيزات؟**