شهدنا في الآونة الأخيرة الانتشار الواسع لتقنيات الذكاء الاصطناعي، التي تمكنت من تحويل النصوص إلى صور بشكل مذهل، كما هو الحال في أنظمة مثل Stable Diffusion وDALL-E. ومع ذلك، كشفت دراسات حديثة أن هذه الأنظمة تعيد إنتاج التحيزات الاجتماعية الموجودة في المجتمع، لاسيما في طريقة تمثيلها للمجموعات الديموغرافية في مختلف المهن!

تظهر التحليلات أن استخدام كلمات مثل 'طبيب' أو 'مدير تنفيذي' يؤدي بشكل متكرر إلى نتائج تظهر بشرة الفاتحين، بينما الأدوار ذات المكانة الأقل مثل 'عامل نظافة' تُظهر تنوعًا أكبر، مما يعزز الصور النمطية السلبية.

الطرق التقليدية للتخفيف من هذه التحيزات عادةً ما تتطلب إعادة تدريب النماذج أو بيانات مختارة بعناية، مما يجعلها بعيدة عن متناول الكثير من المستخدمين. لذلك، نقدم إطار عمل مبتكر وعملي يمكن تنفيذه خلال مرحلة الاستدلال، يتيح تدخلًا عند مستوى الترويسة (prompt) للتخفيف من التحيز التمثيلي، دون الحاجة لتعديل النموذج الأساسي.

بدلاً من افتراض تعريف واحد للعدالة، يسمح لنا هذا الإطار ببناء خيارات متعددة بناءً على تفضيلات المستخدمين. هذه الخيارات تتراوح بين توزيعات بسيطة، مثل التوزيع المتساوي، إلى تعريفات أكثر تعقيدًا مستندة إلى نماذج لغوية ضخمة (Large Language Models) تقوم بالاستشهاد بالمصادر وتقديم تقديرات للثقة.

تساعد هذه التوزيعات في بناء نسخ محددة من الترويجات تتناسب مع النسب المطلوبة. تم تقييم مدى تلاؤم هذه الطريقة من خلال تدقيق الالتزام بالأهداف المعلنة وقياس توزيع لون البشرة الناتج بدلاً من افتراض المساواة كمعيار للعدالة.

وعبر 36 ترويجة تغطي 30 مهنة و6 سياقات غير مهنية، أثبتت طريقتنا فعاليتها في تغيير النتائج المتعلقة بلون البشرة في الاتجاهات المتوافقة مع الهدف المعلن، وتقليل التباعد عن الأهداف عند تعريف الهدف مباشرة في مساحة لون البشرة.

تظهر هذه الدراسة كيف يمكن جعل التدخلات المتعلقة بالعدالة واضحة وقابلة للتحكم بها، مباشرةً وتمكن مستخدمي الذكاء الاصطناعي التوليدي من تحقيق العدالة بطرق فعالة.

#### ماهو رأيكم في كيفية معالجة قضايا التحيز في الذكاء الاصطناعي؟ هل تعتقدون أن هذه الحلول فعّالة؟ شاركونا في التعليقات!