في عالم الذكاء الاصطناعي، تظل نماذج اللغات الكبيرة (Large Language Models) عرضة لهجمات الاختراق التي تعتمد على استغلال بنية التدرجات الداخلية. بينما تُستخدم الشبكات العصبية الذاتية المتناثرة (Sparse Autoencoders) بشكل واسع لأغراض الفهم، فإن تأثيراتها على الأمن لا تزال غير مستكشفة بشكل كاف.

تقدم دراسة جديدة طريقة مبتكرة لدمج الشبكات العصبية الذاتية المتناثرة في مجاري الشبكات العصبية وتحسين أدائها. تمت هذه التجارب دون تعديل أوزان النموذج أو حجب التدرجات، مما يعطي نتائج مبهرة.

شملت التجارب أربعة عائلات من النماذج (Gemma و LLaMA و Mistral و Qwen) بالإضافة إلى هجمات حقيقية قوية من نوع white-box (GCG و BEAST) وثلاثة معايير من نوع black-box. وأظهرت النماذج التي كانت مدعومة بالشبكات الذاتية المتناثرة تقليصًا يصل إلى 5 مرات في معدل نجاح الاختراق مقارنةً بالنسخة غير المحمية.

كما كشفت البحث عن علاقة قوية بين كثافة L0 ونجاح الهجوم، بالإضافة إلى وجود توازن مثير بين الاستفادة من الطبقات والفعالية. يُظهر البحث أيضًا أن إعادة تشكيل الهندسة البصرية من خلال هذه التقنية يمكن أن يحد من فعالية هجمات الاختراق.

بإجمال، تشكل هذه النتائج خطوة مهمة نحو فهم كيفية استخدام الشبكات العصبية الذاتية المتناثرة لإعادة تشكيل نماذج الذكاء الاصطناعي وجعلها أكثر أماناً. هل تعتقدون أن هذه التقنيات ستغير مستقبل الأمن في الذكاء الاصطناعي؟ شاركونا بآرائكم في التعليقات!