في عالم الذكاء الاصطناعي، تعتبر نماذج اللغات الضخمة (Large Language Models) أداة قوية تعزز الأداء في مختلف مهام معالجة اللغة الطبيعية. ولكن، تبقى عملية اتخاذ القرار في هذه النماذج غامضة وصعبة الفهم، مما يعيق إمكانية الثقة واستخدامها في التطبيقات الواقعية.

هذه الدراسة الجديدة تقدم تحليلاً مقارناً لتقنيات الشفافية (Explainability Techniques) المستخدمة في فهم كيفية عمل النماذج، مع التركيز على ثلاثة أساليب رئيسية: الدرجات المتكاملة (Integrated Gradients)، ونشر الانتباه (Attention Rollout)، وSHAP.

تم استخدام نموذج DistilBERT المعدل لفحص القدرة على تصنيف المشاعر (SST-2)، وبدلاً من اقتراح تقنيات جديدة، تم التركيز على تقييم سلوك الأساليب القائمة تحت إعداد متسق وقابل للتكرار.

تكشف النتائج أن التنسب المبني على التدرجات (Gradient-based Attribution) يقدم تفسيرات أكثر استقراراً وبديهية، بينما تتميز الطرق المعتمدة على الانتباه بالكفاءة الحسابية ولكنها قد لا تتماشى بشكل كافٍ مع الميزات ذات الصلة بالتنبؤ. كما توفر الأساليب التي لا تتعلق بنموذج معين (Model-agnostic) مرونة أكبر، لكنها قد تتطلب تكلفة حسابية أعلى ومتغيرات أكبر في النتائج.

يشدد هذا العمل على التحولات الأساسية بين تقنيات الشفافية، ويدعو إلى اعتبارها أدوات تشخيصية بدلاً من تفسيرات نهائية. هذه الرؤى تقدم فائدة قيمة للباحثين والمهندسين الذين يعملون على أنظمة معالجة اللغة الطبيعية المعتمدة على المحولات.

في النهاية، ما هو شعوركم تجاه أهمية الشفافية في الذكاء الاصطناعي؟ شاركونا آرائكم في التعليقات!