الإيقاف المبكر

تخيّل طالبًا يراجع للامتحان: في البداية، كل ساعة دراسة ترفع درجاته. ثم تأتي لحظة يبدأ فيها، بحفظ الكتاب نفسه حرفًا بحرف، في تخزين تفاصيل عديمة الفائدة ويفقد الفهم الحقيقي. الإيقاف المبكر (early stopping) يقول لنموذج تعلّم الآلة: «توقّف في اللحظة المناسبة تمامًا، قبل أن تبدأ في تعلّم الضوضاء».

الآلية

أثناء التدريب، نتابع منحنيين للخطأ: واحد على بيانات التدريب، وآخر على مجموعة تحقّق منفصلة. خطأ التدريب يستمرّ في الانخفاض غالبًا. لكنّ خطأ التحقّق ينتهي به الأمر إلى الارتفاع من جديد، وهذه علامة فرط التعلّم (overfitting).

يراقب الإيقاف المبكر خطأ التحقّق ويوقف التدريب عندما يتوقّف عن التحسّن لعدد محدّد من الحقب — وهي مهلة تُسمّى الصبر (patience).

متى نتوقّف؟

رسميًّا، نحتفظ بالأوزان $\theta^*$ عند أدنى قيمة لخطأ التحقّق:

$$\theta^* = \arg\min_{t} \; E_{\text{val}}(\theta_t)$$

في الممارسة

• الصبر: عدد الحقب المسموح بها دون تحسّن قبل التوقّف.
• الاستعادة: نُعيد تحميل أفضل الأوزان، لا الأخيرة منها.
• وهو شكل من أشكال التنظيم (regularization) شبه مجّاني وواسع الانتشار.

النموذج الذي يتوقّف في الوقت المناسب أفضل من نموذج يحفظ أخطاءه عن ظهر قلب.