في عالم الذكاء الاصطناعي يتقدم الابتكار بشكل مذهل، لكن وراء الكواليس تكمن تحديات أمنية قد تهدد هذه التطورات. في هذا السياق، يأتي مشروع ProjLens ليكشف لنا أسرار أجهزة العرض (projectors) ودورها الحاسم في أمان النماذج اللغوية متعددة الوسائط (Multimodal Large Language Models - MLLMs).

النماذج متعددة الوسائط حققت نجاحات باهرة في فهم وتوليد المحتوى عبر أنماط متعددة، لكنها تواجه تهديدات من ثغرات أمنية حرجة. وكشفت الأبحاث السابقة عن الإمكانية لوجود "البوابات الخلفية" (backdoors) في النماذج عبر تلاعب بيانات التدريب، مما يتيح تأثر نتائج النماذج بطرق غير مرئية. لكن, كيف يمكن فهم هذه الآليات المعقدة بشكل أفضل؟

يهدف مشروع ProjLens إلى سد هذه الفجوة من خلال تقديم إطار لتحليل ومواجهة هذه الثغرات. حيث أظهرت الدراسات أن حتى عمليات ضبط المهام الشائعة، حتى حينما تقتصر على ضبط أجهزة العرض، يمكن أن تعرض النظام لحقن البوابات الخلفية.

خلال تجارب واسعة على أربعة أنواع مختلفة من البوابات الخلفية، تم الكشف عن عدد من النتائج المثيرة:

1. **الهيكل المنخفض الرتبة**: يتضح أن عمليات حقن البوابات الخلفية تبدو بشكل عام ذات ترتيب كامل ولا تفتقر إلى "عصبونات الزناد" (trigger neurons) المخصصة، لكن المعلمات الحرجة للبوابة مشفرة ضمن فضاء منخفض الرتبة لأجهزة العرض.

2. **آلية التفعيل**: سواء كانت التضمينات نظيفة أو مسمومة، تمر بتغيير دلالي متجه نحو اتجاه مشترك يتماشى مع الهدف الخاص بالبوابة الخلفية، لكن مقدار هذا التحول يتسارع بشكل خطي مع معيار الإدخال، مما يؤدي إلى تفعيل مختلف للبوابة على النماذج المسمومة.

للمهتمين بأعمق التفاصيل، يمكنك الاطلاع على الشيفرة المتاحة عبر الرابط [ProjLens Code](https://anonymous.4open.science/r/ProjLens-8FD7). هل أنتم مستعدون لاستكشاف المزيد حول عالم الأمان في نماذج الذكاء الاصطناعي؟ شاركونا في التعليقات بما تفكرون فيه.