في ظل النمو المتسارع للأنظمة متعددة الوكلاء، يواجه العالم تحديات كبيرة تتعلق بالمخاطر الناشئة التي قد لا تنتج عن أي وكيل بمفرده. ولتسليط الضوء على هذه المخاطر، قدم الباحثون نموذج SWARM (تقييم نظام شامل للمخاطر في الأنظمة متعددة الوكلاء)، وهو إطار عمل مبتكر يسعى لتغيير الطريقة التي نقيم بها سلوكيات الوكلاء الذكيين.

تعتمد الأنظمة التقليدية على تصنيفات ثنائية قد تحد من فهمنا للواقع، لكن SWARM يتبنى نهجًا مبتكرًا يعتمد على ما يُعرف بـ "الملصقات الاحتمالية الناعمة" (soft probabilistic labels)، والتي تسمح بتقييم سلوكيات الوكلاء بشكل أكثر دقة من خلال تقديم قيم مستمرة تتراوح بين 0 و 1. يتضمن هذا الإطار أيضًا محرك حوكمة مرن يتضمن آليات مثل الضرائب المعاملاتية، ومكسرات الدائرة، وتآكل السمعة، والتدقيق العشوائي.

أظهرت نتائج التجارب أن الحوكمة الصارمة قد تؤدي إلى تقليص الرفاهية بنسبة تزيد عن 40٪ دون تحسين السلامة. بينما أظهر دمج العوامل الخارجية بشكل عميق انهيارًا كبيرًا في الرفاهية، وهنا تأتي أهمية ضبط مكسرات الدائرة لعلاج هذه النتائج السلبية. هذا الإطار يمكن تطبيقه على وكالات الذكاء الاصطناعي الحالية مثل كوندورديا (Concordia) وClaude وGPT-4o Mini، مما يفتح أفقًا جديدًا لفهم السلامة في الأنظمة الذكية.