في عالم الذكاء الاصطناعي، تكون التهديدات المستمرة للنظم الذكية موضوعًا شائكًا يتطلب اهتمامًا جادًا. في هذا السياق، ظهرت دراسة حديثة تسلط الضوء على نوع جديد من الهجمات يُعرف باسم "الفشل الناعم" (Soft Failure)، الذي يهدف إلى تقويض فعالية نظم توليد المعلومات المعززة (Retrieval-Augmented Generation) من خلال تقديم استجابات تبدو متماسكة على السطح لكنها في الحقيقة تفتقر إلى القيمة المعلوماتية.

يُعرف هذا الهجوم الجديد باسم "هجوم التشويش التطوري المخادع" (Deceptive Evolutionary Jamming Attack - DEJA)، وهو إطار عمل آلي يركز على توليد مستندات معادية تعمل على تمكين الفشل الناعم عبر استغلال السلوكيات الموجهة نحو الأمان لنماذج اللغات الضخمة (Large Language Models).

تعتمد هذه الهجمات على عملية تحسين تطورية، مدعومة بتقييم دقيق يعرف باسم "درجة فائدة الإجابة" (Answer Utility Score - AUS)، مما يساعد على خفض يقين الإجابات مع الاستمرار في ضمان نجاح الاسترجاع. وقد أظهرت التجارب الشاملة التي أجريت على مجموعة متنوعة من تكوينات وأنظمة مرجعية أن هجوم DEJA يمكنه دفع الاستجابات نحو فشل ناعم من خلال نسبة تصل إلى 79% من نجاح الاستجابة، بينما تظل حالات الفشل الصريح دون 15%، مما يحقق نتائج مذهلة تتفوق على الهجمات السابقة.

ما يثير قلق الباحثين هو أن المواد المعادية الناتجة عن هجوم DEJA تتمتع بدرجة عالية من الخفاء، مما يعني أنها تستطيع التهرب من اكتشاف عدم التأكد وتبقى فعالة عبر عائلات النماذج المختلفة، حتى في الأنظمة الخاصة.

بهذا الشكل، يستمر عالم الذكاء الاصطناعي في مواجهة تحديات جديدة ومتطورة تدعو إلى تعزيز الأساليب الأمنية وحماية الأنظمة من مثل هذه الهجمات الذكية.