في عالم الذكاء الاصطناعي، غالباً ما يتم التركيز على تصميم النماذج وأداء الخوارزميات، بينما يبقى نشر النماذج واستجابتها محدود النطاق رغم أهميتهما في الاستخدام العملي. لذلك، تأتي هذه الدراسة لتسليط الضوء على هذه القضية من خلال استكشاف أداء وتحسين نظام استجابة الذكاء الاصطناعي المبني على BentoML، الذي تم تطويره بالتعاون مع graphworks.ai.

تشمل هذه الدراسة تقييم الأداء الأساسي تحت ثلاثة سيناريوهات واقعية، حيث يتم استخدام نموذج RoBERTa لتحليل المشاعر كوحدة قياس موحدة. تعرض النظام لأساليب مرور مختلفة وفقاً لتوزيعات غاما والأسية، مما يحاكي ظروف الاستخدام الفعلية التي تتضمن أحمالاً ثابتة، متفجرة، وعالية الكثافة.

تم جمع وتحليل مؤشرات الأداء الرئيسية، مثل النسب المئوية للزمن المستغرق (Latency) وكمية البيانات المعالجة (Throughput)، بهدف تحديد النقاط التي تعيق الأداء في خطوط استجابة النظام. بناءً على نتائج الأداء الأساسي، تم تقديم استراتيجيات تحسين متعددة المستويات لتحسين الكفاءة والقابلية للتوسع، حيث تم تقييم النظام المحسن تحت نفس ظروف الأحمال، ومقارنة النتائج مع الأساسيات باستخدام التحليل الإحصائي لتحديد تأثير التحسينات المطبقة.

تكشف النتائج عن استراتيجيات عملية لتحقيق استجابة فعالة وقابلة للتوسع في الذكاء الاصطناعي باستخدام BentoML، كما تستعرض كيف تتغير زمن الاستجابة وكمية البيانات المعالجة تحت الأحمال المختلفة، وتأثير تحسينات الأداء على مستوى التشغيل والخدمات والنشر، وكذلك كيف يؤثر نشر النظام في عنقود K3s أحادي العقدة على المتانة أثناء الاضطرابات.