بناء أطر أمان وموثوقية أنظمة الذكاء الاصطناعي الوكيلة: مستقبل متقدم

إن أنظمة الذكاء الاصطناعي الوكيلة (Agentic AI Systems) تتميز بتوظيفها للعديد من الوكلاء المستقلين ونماذج اللغة الكبيرة (Large Language Models)، مما يجعلها مناسبة لمواجهة المهام المعقدة التي تتطلب خطوات متعددة. ولتأمين سلامة وأمان وفعالية هذه الأنظمة، يصبح من الضروري توحيد جهود التواصل بين الوكلاء وتطوير نظام مترابط بدلاً من النظم المتجزئة الحالية.

رغم التقدم الملحوظ في هذا المجال، يعاني النظام الحالي من عدم التوافق، مما يخلق فجوة دلالية تعيق التحليل الدقيق لخصائص النظام. لذا، تم تقديم إطار نموذجي جديد يتضمن نموذجين رئيسيين: نموذج الوكيل المضيف (Host Agent Model) الذي يعمل كنقطة للتفاعل مع المستخدمين، ويتولى تحليل المهام واستخدام الوكلاء الخارجيين والموارد لتحقيق هذه المهام. والنموذج الآخر هو نموذج دورة حياة المهام (Task Lifecycle Model) الذي يصف المراحل المختلفة لكل مهمة فرعية، من بدء إنشائها حتى إتمامها.

يجمع هذان النموذجان بينهما ليقدما إطارًا دلاليًا موحدًا لأسلوب التفكير في سلوك الأنظمة التي تتضمن عدة وكلاء من الذكاء الاصطناعي. كما تم تحديد 16 خاصية للوكيل المضيف و14 خاصية لدورة حياة المهام، مصنفة في مجالات الحضور والأمان والكمال والعدل. تعبر هذه الخصائص، المكتوبة بلغة منطق الزمن، عن إمكانية التحقق الرسمي من سلوك النظام، واكتشاف الحالات الحرجة في التنسيق، ومنع حدوث المشاكل الأمنية.

بتطوير هذا الإطار، نكون قد أطلقنا الأداة الأولى ذات الأسس القوية والتي لا ترتبط بمجال معين، للتحليل والتصميم والنشر لأنظمة الذكاء الاصطناعي الوكيلة الصحيحة والموثوقة والمتينة.