يحدث نقص التعلّم (Underfitting) عندما يكون النموذج أبسط من أن يلتقط الأنماط الكامنة في البيانات. إنه أشبه بطالبٍ لم يراجع دروسه بما يكفي: فهو يفشل في الامتحان التجريبي (بيانات التدريب) وفي الامتحان النهائي (بيانات الاختبار) على حدٍّ سواء. يبقى النموذج متحيّزًا، عاجزًا عن إدراك العلاقة الحقيقية بين المدخلات والمخرجات.
العَرَض: فشل على الجبهتين
على عكس فرط التعلّم، يظهر نقص التعلّم على هيئة خطأ مرتفع في كل مكان — في التدريب والتحقّق معًا. فالنموذج لم ينجح حتى في ملاءمة ما عُرض عليه. ونسمّي هذه الحالة التحيّز المرتفع (high bias).
يمكن تفكيك الخطأ المتوقّع للنموذج على النحو التالي:
$$ \mathbb{E}[(y - \hat{f}(x))^2] = \underbrace{\text{Bias}^2}{\text{underfitting}} + \underbrace{\text{Variance}} + \sigma^2 $$}
ويهيمن على نقص التعلّم حدّ التحيّز.
نقص التعلّم مقابل فرط التعلّم
| المعيار | نقص التعلّم | فرط التعلّم |
|---|---|---|
| خطأ التدريب | مرتفع | منخفض جدًا |
| خطأ الاختبار | مرتفع | مرتفع |
| السبب | نموذج بسيط أكثر من اللازم | نموذج معقّد أكثر من اللازم |
| الحدّ المهيمن | التحيّز | التباين |
كيفية المعالجة
- زيادة تعقيد النموذج (مزيد من المعاملات والطبقات).
- إضافة أو إثراء الخصائص (features) ذات الصلة.
- تقليل التنظيم (regularization) المُفرط في الصرامة.
- التدريب لفترة أطول.
النموذج الجيّد يسير على حافّةٍ دقيقة: إن كان بسيطًا أهمل الإشارة، وإن كان معقّدًا حفظ الضجيج. أما نقص التعلّم فهو البقاء في الجانب الخطأ من تلك الحافّة.