في عصر تتزايد فيه المخاطر الأمنية، تواجه أنظمة توليد المعلومات المعززة (RAG) تحديات كبيرة عند استخدامها في مجالات حساسة مثل الرعاية الصحية والقانون. تعتمد هذه الأنظمة على معرفة خاصة وخاصة بمجالها، مما يعرضها لمخاطر عدة تشمل استنتاج العضوية (membership inference) وتسميم البيانات (data poisoning)، وتسرب المحتوى غير المقصود.

قد تبدو الحلول المتاحة سهلة مثل تفعيل جميع الدفاعات المتاحة في آن واحد، ولكن هذا يأتي بتكلفة كبيرة على مستوى الفائدة. تشير التجارب إلى أن استخدام مجموعة دفاعية دائمة على مدار الساعة يؤدي إلى تقليل القدرة الاسترجاعية السياقية بأكثر من 40%.

هنا يدخل الابتكار الجديد، المعمارية المسماة Sentinel-Strategist، والتي تعمل كإطار عمل سياقي لتحليل المخاطر واختيار الدفاعات. تقوم سينتينل (Sentinel) بالكشف عن سلوك الاسترجاع غير المعتاد، ثم يقوم الاستراتيجي (Strategist) بنشر الدفاعات المناسبة وفقًا لسياق الاستعلام.

تُظهر النتائج من ثلاثة مجموعات بيانات مرجعية وخمسة نماذج تنسيق أن هذه المعمارية الجديدة تعالج تسرب عضوية أسلوب MBA بشكل فعال، مع استعادة فائدة الاسترجاع بشكل ملحوظ مقارنة بمجموعة الدفاع الثابتة الكاملة، مما يعيدها إلى مستويات مقبولة. في حالة تسميم البيانات، تقلل أقوى نسخ ADO نجاح الهجمات إلى ما يقرب من الصفر، مع استعادة القدرة الاسترجاعية السياقية لأكثر من 75% من مستويات الدفاع غير المحمي. لكن يجب ملاحظة أن القوة البنائية تبقى حساسة لاختيارات النموذج.

تُظهر هذه الاكتشافات أن الدفاعات التكيفية الواعية بالسياق يمكن أن تقلل بصورة ملحوظة من موقف التوازن بين الأمن والفائدة في أنظمة RAG.

ما رأيكم في هذه التطورات المبتكرة في مجال الذكاء الاصطناعي؟ شاركونا في التعليقات.