في عالمنا الحديث، أصبح الذكاء الاصطناعي (Artificial Intelligence) يلعب دورًا محوريًا في اتخاذ قرارات حيوية، بدءًا من منح القروض إلى تحديد من يخضع للتحقيقات الجنائية أو حتى ضمان سلامة المركبات الذاتية القيادة. ومع تصاعد أهمية هذه الأنظمة، أصبحت الحكومات أكثر قلقًا بشأن سلامتها، مما أدّى إلى ظهور تشريعات جديدة مثل قانون الذكاء الاصطناعي (EU AI Act) وإطار إدارة المخاطر من NIST.

لكن، على الرغم من هذه الجهود، يظل الغموض محيطًا بمفهوم 'المخاطر المقبولة'. فتلك التشريعات لا توفر تعريفًا كميًا دقيقًا لهذا المفهوم ولم يجرِ الإشارة إلى طرق تقنية واضحة للتحقق من أن النظام المعتمد يفي بهذه المعايير.

وهنا يظهر الفجوة الكبيرة؛ حيث تتطلب الأنظمة الأكثر تعقيدًا وتطبيقًا التحقق من الأمان، ولكن لا توجد منهجيات معتمدة لتحقيق ذلك. في السياق ذاته، تقدم ورقة بحثية جديدة حلاً مبتكرًا يشبه نموذج الشهادات المستخدمة في قطاع الطيران. يقترح الباحثون إطارًا من مرحلتين يقلب مفاهيم المخاطر إلى ممارسات هندسية موثوقة.

في المرحلة الأولى، يتم تحديد معدل الفشل المقبول (failure probability) بواسطة هيئة مختصة مع إمكانية التأثير المباشر على المسؤولية القانونية. أما في المرحلة الثانية، فتستخدم أدوات التحقق الإحصائية مثل RoMA وgRoMA لحساب حد أقصى موثوق لمعدل الفشل الحقيقي للنظام، دون الحاجة للوصول إلى تفاصيل النموذج، مما يسهل تطبيقه على هياكل متعددة.

هذا الإطار لا يوفر فقط التحقق من الالتزام بالمعايير الحالية، بل ي shift accountability upstream to developers، ويضمن التكامل مع الإطارات القانونية المعمول بها حاليًا. فهل سيكون هذا الابتكار خطوة نحو زيادة الشفافية والثقة في أنظمة الذكاء الاصطناعي؟ شاركونا آرائكم.