في الأيام الأخيرة، انتشرت فكرة استخدام نماذج الذكاء الاصطناعي (AI) كعوامل دعم للصحة النفسية، مما أثار اهتمامًا بالغًا في الأوساط العلمية. لكن الأخبار ليست كلها إيجابية!
بحسب دراسة جديدة منشورة على موقع arXiv، تكشف البيانات أن 16% فقط من التدخلات المعتمدة على الشات بوت وواجهات الذكاء الاصطناعي قد خضعت لاختبارات فعالية سريرية دقيقة. ومن المثير للدهشة أن نحو ثلث الحالات المدروسة أظهرت تدهورًا نفسيًا غير متوقع!
تفاصيل الدراسة
تقوم هذه الدراسة بتقييم أربعة نماذج مولدة باستخدام 250 سيناريو لعلاج التعرض المطوّل (Prolonged Exposure - PE) و146 تمرينًا لإعادة الهيكلة الفكرية (Cognitive Behavioral Therapy - CBT)، مع إضافة 29 Variante ذات شدة متزايدة. وقد جرى تقييم هذه النماذج من قِبل لجنة من ثلاثة قضاة من نماذج اللغة (LLM).
على الرغم من أن جميع النماذج حققت درجات مثالية تقريبًا في الإقرار السطحي (~0.91-1.00)، إلا أن ملاءمتها العلاجية انهارت إلى 0.22-0.33 في الحالات العالية الشدة. كما أن الاستقامة الخاصة بالبروتوكول وصلت إلى الصفر في نموذجين. وفي أثناء تصعيد شدة العلاج السلوكي المعرفي (CBT)، انخفضت إتمام المهام لنموذج واحد من 92% إلى 71%.
المخاطر وآثارها
تشير النتائج إلى فشل منهجي ذو طابع ممتد عبر طرق العلاج، حيث أن سلامة التعلم من التفاعل البشري (RLHF) تعطل الآلية العلاجية من خلال تقديم طمأنينة زائفة، ورفض تحدي الأفكار المشوهة حول إيذاء النفس.
وبناءً على هذه النتائج، تقترح الدراسة إطار تقييم خماسي الأبعاد، يضم:
1. **استقامة البروتوكول**
2. **مخاطر الهلوسة**
3. **الاتساق السلوكي**
4. **سلامة الأزمات**
5. **القدرة على التكيف مع مختلف الفئات الديموغرافية**
هذا الإطار يتم تطبيقه على متطلبات أنظمة البرمجيات الطبية التي تتطلب موافقات (SaMD) من إدارة الغذاء والدواء (FDA) والفعل الأوروبي للذكاء الاصطناعي (EU AI Act).
الخاتمة
تأملات هذه الدراسة تشير إلى أنه لا ينبغي لنظام الصحة النفسية القائم على الذكاء الاصطناعي أن ينتقل إلى مرحلة النشر دون الخضوع لتقييم شامل عبر جميع الأبعاد الخمسة.
**هل تعتقد أن استخدام الذكاء الاصطناعي في العلاج النفسي يمكن أن يكون له فوائد أم مخاطر أكبر؟**