قفزة مذهلة في تفسير الذكاء الاصطناعي: إطار عمل ثنائي المراحل للشفافية والدقة!

في عالم يتجه نحو الذكاء الاصطناعي (AI) بسرعة، تظهر الحاجة الملحة لتفسير نتائجه بشكل يسهل فهمه. ولذا، تم اقتراح إطار عمل ثنائي المراحل جديد يُعرف بإطار الميتا-تحقق (Meta-Verification Framework) الذي يعمل على تحسين جودة التفسيرات الناتجة عن نماذج اللغات الضخمة (Large Language Models - LLMs).

يهدف هذا الإطار إلى تحويل النتائج التكنولوجية لطرق الذكاء الاصطناعي القابل للتفسير (eXplainable Artificial Intelligence - XAI) إلى شروحات طبيعية يسهل على العامة فهمها. يفتقر العديد من الأساليب الحالية إلى ضمانات تتعلق بالدقة والموثوقية والشمولية، مما يثير تساؤلات حول موثوقية المعلومات المقدمة للمستخدمين.

يتكون الإطار المقترح من مرحلتين:
1. **مرحلة الشرح (Explainer LLM)**: تقوم بتحويل النتائج الأولية لمخرجات XAI إلى شروحات بلغة طبيعية.
2. **مرحلة التحقق (Verifier LLM)**: تقيم هذه الشروحات من حيث الدقة والانسيابية والشمولية، وتحدد المخاطر المرتبطة بتقويض المصداقية.

علاوة على ذلك، يتضمن الإطار آلية تغذية راجعة تكرارية تُستخدم لتحسين الشروحات بناءً على ملاحظات المراجع، مما يساهم في جعلها أكثر استقرارًا ودقة.

أظهرت التجارب التي أُجريت على خمس تقنيات XAI ومجموعات بيانات مختلفة، باستخدام ثلاثة أنواع من نماذج اللغات المفتوحة، أن عملية التحقق ضرورية لتصفية الشروحات غير الموثوقة وتحسين سهولة الوصول إليها مقارنة بالمخرجات الأولية لطرق XAI.

إن تحليل معدلات إنتاج الإنتروبيا أثناء عملية التحسين يدل على أن ملاحظات المراجع توجه الشرح نحو تفكير أكثر استقرارًا وتماسكًا. يتيح هذا الإطار في النهاية مسارًا فعالًا نحو تطوير أنظمة XAI أكثر موثوقية وقابلة للتعامل مع الجمهور.