في السنوات الأخيرة، اجتذبت ظاهرة "الهوس" في نماذج الذكاء الاصطناعي انتباه الباحثين والمطورين على حد سواء. دراسة جديدة تعرض أدلة سببية تثير الفضول حول كيفية تأثير الديناميات غير المتماثلة على عمليات إنتاج النصوص في نماذج اللغة الأوتورجيتيفية (autoregressive language models).

تشير الدراسة إلى استخدام أسلوب يُعرف بـ "تقسيم نفس المدخلات"، حيث يتم استخدام نفس المدخلات مرارًا لمراقبة كيفية تفارق النماذج بشكل تلقائي. قام الباحثون بدراسة 61 مدخلاً مختلفًا عبر ست فئات، واكتشفوا أن حوالي 44.3% من هذه المدخلات تظهر مسارات متباينة، حيث تنفصل المسارات الواقعية عن الهلوسة عند أول رمز يتم توليده.

تظهر النتائج التي حصلوا عليها من خلال تحليلات متعددة الطبقات أن إدخال هالة مهلوسة إلى مسار صحيح يؤدي إلى فساد النتائج في 87.5% من التجارب، بينما استعادة المسار الصحيح بعد إدخال هالة مهلوسة لا تتجاوز نسبة نجاحها 33.3% فقط. هذه الديناميات تكشف عن وجود "مناطق جذب" محلية مستقرة، حيث الدخول إليها يكون سريعًا ولكن الخروج يتطلب تدخلاً منسقًا عبر عدة طبقات.

تضيف هذه النتائج عمقًا لفهمنا لكيفية عمل نماذج اللغة والتأثيرات المعقدة التي تتعلق بالمدخلات التي نتعامل معها. فما هو رأيكم في هذه الديناميات الغريبة وتأثيرها على مستقبل الذكاء الاصطناعي؟ شاركونا آراءكم في التعليقات!