شهدت صناعة الذكاء الاصطناعي تقدمًا هائلًا بفضل نماذج اللغات الضخمة (Large language models - LLMs)، مما أتاح تطبيقات متعددة، بما في ذلك توليد قصص ونصوص مقابلات. ولكن، في ظل هذا التقدم، أثار الباحثون قضايا تتعلق بعدالة الثقافة المتعلقة بمحتوى هذه النماذج.

في هذا السياق، تأتي دراسة جديدة تحت عنوان InsideOut لتسلط الضوء على ظاهرة تحيّز "الداخلي - الخارجي"، حيث تميل النماذج إلى اعتبار نفسها "داخليين" في ثقافات السائدة، مما يؤدي إلى تهميش الثقافات الأقل شيوعًا.

تتضمن هذه الدراسة إنشاء معيار InsideOut الذي يحتوي على 4000 تلميح توليد وثلاثة مقاييس تقييم لقياس هذا التحيّز في توليد نصوص المقابلات الثقافية، حيث يُنظر إلى LLM على أنه مُراسل يجري مقابلات مع سكان محليين في عشر ثقافات متنوعة.

أظهرت النتائج التجريبية على 5 من النماذج الرائجة أن النماذج تتبنى نبرات "داخلية" في أكثر من 88% من النصوص المتعلقة بالثقافة الأمريكية، بينما تميل إلى التمسك بمواقف "خارجية" عندما تتعلق الثقافات غير الغربية.

لتخفيف هذه التحيزات، اقترحت الدراسة طريقتين تعتمد على الوقت الحقيقي: الأولى هي طريقة التدخل بناءً على التلميح (Fairness Intervention Pillars - FIP)، والثانية هي إطار العمل المنظم المتمثل في تخفيف التحيزاز من خلال الوكلاء (Mitigation via Fairness Agents - MFA) الذي يشمل وكيلًا فرديًا (MFA-SA)، ووكيل هرمي (MFA-HA)، وخط أنابيب تخطيط وكيل مستقل (MFA-Plan).

تظهر النتائج التجريبية أن طرق MFA المعتمدة على الوكلاء تحقق أداءً رائعًا ومرنًا في تخفيف التحيّز الداخلي - الخارجي. على سبيل المثال، أظهرت الطريقة MFA-SA تقليل التحيّز في نموذج Llama بنسبة 89.70%، بينما نجحت MFA-HA في تقليل التحيز في نموذج Qwen بنسبة 82.54%.

تقدم هذه النتائج رؤية واضحة حول فعالية الطرق المعتمدة على الوكلاء كخطوة واعدة نحو تقليل التحيزات في نماذج اللغات الضخمة التي تولد محتوى.