في عالم الذكاء الاصطناعي ونماذج اللغات الضخمة (LLMs)، أصبح فهم الهلاوس (hallucinations) أمراً محورياً لتحسين أداء النماذج. في دراسة حديثة منشورة على موقع arXiv، تم التعرف على مجموعة نادرة من "خلايا التخيل" (H-neurons) التي تظهر بشكل أقل من 0.1% من خلايا الشبكة العصبية. وقد أظهرت الأبحاث أن هذه الخلايا يمكنها التنبؤ بشكل موثوق متى ستعاني النماذج من الهلاوس عبر مهام الإجابة على الأسئلة العامة.
تناولت الدراسة سؤالاً طبيعياً: هل يمكن لخلايا التخيل أن تتعمم عبر مجالات المعرفة المختلفة؟ باستخدام بروتوكول نقل عبر 6 مجالات متنوعة (الإجابة على الأسئلة العامة، القانونية، المالية، العلمية، الأخلاقيات، والثغرات البرمجية) و5 نماذج مفتوحة بوزن يتراوح بين 3 إلى 8 مليارات معلمة، أظهرت النتائج أن هذه الخلايا لا تتعمم.
عند تدريب مصنفين على خلايا التخيل من مجال واحد، كانت نتيجة (AUROC) داخل ذلك المجال 0.783، بينما انخفضت إلى 0.563 عند الانتقال إلى مجال آخر، مما يشير إلى تدهور واضح. هذه النتائج تدل على أن الهلاوس ليست مجرد آلية واحدة تحمل توقيعاً عصبياً عالمياً، بل تتضمن مجموعات خلايا عصبية تعتمد على نوع المعرفة المستفسر عنها.
تؤكد هذه الاكتشافات على الحاجة إلى أجهزة كشف الهلاوس على مستوى الخلايا العصبية التي يجب أن تُخصص لكل مجال، بدلاً من تدريبها مرة واحدة وتطبيقها بشكل عالمي. مستقبل الذكاء الاصطناعي يتطلب فهماً أعمق عن كيفية تفاعل هذه الخلايا مع المعرفة وكيفية تحسين الأنظمة لتفادي الأخطاء.
هل تنطبق خلايا التخيل على جميع المجالات؟ دراسة جديدة تكشف النتائج المثيرة!
تسلط دراسة جديدة الضوء على خلايا التخيل في نماذج اللغات الضخمة (LLMs)، مشيرة إلى أنها ليست عالمية كما اعتُقد سابقاً. النتائج تتطلب نهجاً متخصصاً لكشف هذه الهلاوس.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
