في عالم الذكاء الاصطناعي، يعد التفكير العددي في بيانات الجداول أحد أكبر التحديات خاصة عندما يتعلق الأمر بدقة الأداء عبر نطاقات مختلفة. غالبًا ما تبرز النماذج المعتمدة على التدريب تحت الإشراف (Supervised Fine-Tuning) في نتائج دقيقة ضمن مجالات معينة، ولكنها تُظهر ضعفًا كبيرًا في التكيف مع التغيرات في البيانات. هنا يأتي دور نموذج TaNOS الثوري.
نموذج TaNOS، الذي يعتمد على إطار عمل للتدريب المستمر، يتكون من ثلاثة مكونات رئيسية تساهم في تحسين التفكير العددي:
1. **إخفاء الرؤوس**: يهدف إلى تقليل حفظ الكلمات من خلال إلغاء الاعتماد على أسماء الأعمدة.
2. **رسومات العمليات**: تُظهر معلومات هيكلية بسيطة تعزز فهم النموذج للبيانات دون التركيز على التفاصيل.
3. **التدريب الذاتي المضمون**: يقوم بإنشاء أزواج من الأسئلة والبرامج المضمونة الصواب من الجداول مما يزيد من كفاءة النموذج.
بتطبيق نموذج TaNOS على نموذج يحتوي على 8 مليار معلمة، حقق معدل دقة 80.13% في تنفيذ المهام على مجموعة بيانات FinQA مع استخدام 10% فقط من بيانات التدريب، متفوقًا على نموذج SFT الذي حقق 73.97% باستخدام كامل بيانات التدريب. علاوة على ذلك، أظهر TaNOS فارقًا ضئيلًا (<2pp) في تجارب تغيير المجال، بينما أظهرت النماذج التقليدية مثل SFT فجوة تفوق 10 نقاط.
هذه النتائج تعكس أن التوجيه الهيكلي عبر رسومات العمليات، مع تمثيلات مستقلة عن الرؤوس، والتدريب الذاتي المضمون، يمكن أن يعزز من قوة التفكير العددي عبر جداول البيانات المختلفة.
ثورة في التفكير العددي: نموذج TaNOS يحطم الحواجز في بيانات الجدول!
تدشين نموذج TaNOS يُحدث طفرة في تحسين التفكير العددي عبر جداول البيانات، حيث يعزز القدرة على التعامل مع التغيرات البيانية بشكل غير مسبوق. في تجارب جديدة، يظهر نموذج TaNOS تفوقًا كبيرًا على النماذج التقليدية مثل SFT.
المصدر الأصلي:أركايف للذكاء
زيارة المصدر الأصلي ←جاري تحميل التفاعلات...
