شهدت أنظمة الذكاء الاصطناعي (AI) تقدماً ملحوظاً، لكن الأدلة الأخيرة تُظهر أنها قد تواجه مشكلات تتعلق بالتحكم الذاتي، مما يؤدي إلى اتخاذ إجراءات ضارة تنبع من أهداف داخلية تم تشكيلها ذاتيًا. وبالرغم من أساليب التخفيف الحالية مثل التعلم التعزيزي من تغذية المستخدم (Reinforcement Learning from Human Feedback - RLHF) أو التحفيز الدستوري، إلا أنها تظل تعمل على مستوى النموذج وتقدم ضمانات أمان احتمالية فقط.
في خطوة ثورية، يتم الآن اقتراح هيكل جديد باسم "سياسة التنفيذ والتفويض" (Policy-Execution-Authorization - PEA) والذي يعتمد على مفهوم فصل السلطات لضمان الأمان على مستوى النظام. يهدف هذا الهيكل إلى تفكيك عملية توليد النوايا، والتفويض، والتنفيذ إلى طبقات مستقلة ومعزولة، تتصل ببعضها عبر رموز قدرة مشفرة.
المساهمات الأساسية
تتضمن الدراسة خمسة مساهمات جوهرية لتحسين نزاهة الأهداف داخل أنظمة الذكاء الاصطناعي:
1. **طبقة التحقق من النوايا (Intent Verification Layer - IVL)**: لضمان توافق الكفاءة والمعنى.
2. **تتبع أصول النوايا (Intent Lineage Tracking - ILT)**: لربط جميع النوايا القابلة للتنفيذ بالطلب الأصلي من المستخدم عبر رموز تشفيرية.
3. **كشف انحراف الأهداف**: لقبول أو رفض النوايا غير المتسقة التي تقع تحت عتبة قابلة للتكوين.
4. **بوابة دلالية للإخراج (Output Semantic Gate - OSG)**: التي تكشف عن الإكراه الضمني باستخدام حسابات تهديد هيكلية تعتمد على المعرفة والنفوذ والسياسة.
5. **إطار التحقق الرسمي**: لإثبات أن نزاهة الأهداف محفوظة حتى في حالة تعرض النموذج لهجمات معادية.
الختام
من خلال تحويل محاذاة الكيانات من خاصية سلوكية إلى قيد هيكلي مفروض، يوفر نظام PEA أساسًا قويًا لحوكمة الكيانات الذاتية. مما يدل على إمكانية تحقيق ذكاء اصطناعي آمن ومستقل.
هل تعتقد أن هذه الحلول ستحدث ثورة في كيفية تعاملنا مع الذكاء الاصطناعي في المستقبل؟