تعتبر نماذج اللغة الكبيرة (LLMs) من أحدث التطورات في مجال الذكاء الاصطناعي، لكن استخدامها كأجهزة تفاعلية كشفت عن نوع جديد من الفشل السلوكي الذي لا تستطيع المصطلحات السائدة، مثل الهلوسة، تصنيفه بالشكل الأمثل.
**مفهوم الذهان لدى نماذج اللغة الكبيرة**
تقدم ورقة بحثية حديثة مفهوم "LLM Psychosis"، إطاراً نظرياً منظماً لفهم الانهيارات المرضية في إدراك النماذج، والتي تُظهر تشابهات مع الاضطرابات النفسية المعترف بها. تتضمن السمات الرئيسية لهذا الإطار خمس ميزات بارزة:
1. **تفكك حدود الواقع**
2. **استمرار الاعتقادات الخاطئة المحقونة**
3. **عدم الاتساق المنطقي تحت قيود مستحيلة**
4. **عدم استقرار النموذج الذاتي**
5. **ثقة معرفية زائدة**
**أهمية الإطار الجديد**
تؤكد الورقة أن هذه الانهيارات تمثل شكلاً متميزاً من الفشل، بدلاً من أن تكون مجرد تفاقم للأخطاء الواقعية المعتادة. لقياس هذه الظاهرة، اقترحت الدراسة مقياس "سلامة الإدراك المعرفي عند LLM" (LLM Cognitive Integrity Scale - LCIS)، وهو أداة تشخيصية تتكون من خمسة محاور.
تم إجراء تجارب محددة على نموذج ChatGPT 5 (GPT-5، OpenAI) للكشف عن استجابة النموذج تحت ضغط تعويضي، مما أظهر تبايناً واضحاً بين الاستجابات السليمة وتلك المتأثرة بحالات مشابهة للذهان.
**التصنيف الجديد**
تمتلك نتائج الدراسة تصنيفاً يحدد ثلاث درجات شديدة تعتمد على نوع الفشل:
- **النوع I:** انتهاك للأوهام
- **النوع II:** الأوهام الحقيقية
- **النوع III:** التفكك الذاتي
كما تم تسليط الضوء على تدريج الأوهام كديناميكية تعزز نفسها، حيث يؤدي الضغط التصحيحي إلى تفاقم حالات الذهان بدلاً من تصحيحها، مما يشكل تهديداً كبيراً للنظم المنفذة.
**التداعيات**
تشير هذه النتائج إلى ضرورة إعادة تقييم سلامة النماذج وتطوير اختبارات فحص جديدة قبل الاستخدام في سيناريوهات عالية المخاطر.
**ما رأيك؟**
هل تعتقد أن هذه الظواهر تشكل خطراً على الاعتماد على الذكاء الاصطناعي في المستقبل؟ شاركنا برأيك!