تتزايد استخدامات نماذج الذكاء الاصطناعي (AI) والتعلم الآلي (ML) في مجال الرعاية الصحية مع مرور الوقت، حيث تُستخدم لدعم اتخاذ القرارات السريرية. ومع ذلك، فإنّ تحديث البيانات التدريبية يصبح ضرورة حتمية عندما يتسبب تغيّر ملامح السكان أو البيئة أو سلوكيات المرضى في تدهور أداء هذه النماذج.
لكن السؤال الذي يطرح نفسه هنا هو: هل كل تحديث آمن؟ أظهرت دراسة جديدة تقييمًا تجريبيًا لمخاطر تحديثات نماذج الذكاء الاصطناعي، مُستندة على بيانات سريرية، وأكدت على أن هذه التحديثات يمكن أن تُدخل مخاطر جديدة.
تم تقييم إطار العمل المقترح على أربع مجموعات بيانات متاحة للجمهور عن مرض السكري من النوع الأول في الولايات المتحدة، والتي تحتوي على بيانات مراقبة جلوكوز مستمرة بدقة عالية. تضمن التحليل حوالي 11,300 ملاحظة أسبوعية من 496 مشاركًا دون سن العشرين، وجميع المجموعات تضمنت معلومات هيكلية عن الخصائص الاجتماعية والسكانية.
ركزت الدراسة على التنبؤ بحوادث ارتفاع نسبة السكر في الدم بشكل حاد للأطفال المصابين بداء السكري من النوع الأول، مُلقيةً الضوء على كيفية تأثير استراتيجيات التحديث المختلفة على استقرار النموذج. تحدث ظواهر مثل التقلّب المفاجئ في التنبؤات وزيادة العشوائية في النتائج، مما يُظهر أن القصور في الدقة والنزاهة لا يزال يشكل قضية رئيسية.
بناءً على النتائج، تقترح الدراسة أبعادًا متعددة للمراقبة المستمرة للكشف عن هذه القضايا، مُشيرةً إلى أنّ هذا النوع من المراقبة أمرٌ أساسي لتطوير أنظمة دعم القرار السريري الموثوقة.
دعوة للتفكير
هل تعتقد أن نماذج الذكاء الاصطناعي في الرعاية الصحية تحتاج إلى رقابة أكثر صرامة لضمان استقرارها ودقتها؟ شارك برأيك!