التعلّم بالنقل

التعلّم بالنقل (Transfer Learning) هو إعادة استخدام المعرفة التي اكتسبها نموذج في مهمة أولى لحلّ مهمة ثانية مرتبطة بها. الأمر أشبه بعازف بيانو يتعلّم الأرغن أسرع بكثير من المبتدئ، لأنّ الأسس الموسيقية تنتقل معه.

لماذا ينجح؟

تتعلّم الشبكة العصبية العميقة تمثيلات هرمية. تلتقط الطبقات الأولى أنماطًا عامة (الحواف، القوام، الأشكال)، بينما تتخصّص الطبقات الأخيرة في المهمة المستهدفة. وبما أنّ الأنماط منخفضة المستوى مشتركة بين مسائل كثيرة، يمكننا الإبقاء على تلك الطبقات وإعادة تدريب الجزء المتخصّص فقط. وهنا يظهر مفهوم النموذج المُدرَّب مسبقًا (على مجموعة بيانات ضخمة مثل ImageNet) الذي نكيّفه لاحقًا.

استراتيجيتان شائعتان

في استخراج الخصائص نُجمّد جذع الشبكة (تبقى $\theta_{\text{base}}$ ثابتة) ونُدرّب رأس التصنيف الجديد فقط. أمّا في الضبط الدقيق فنعيد ضبط جميع الأوزان بمعدّل تعلّم صغير:

$$\theta^* = \arg\min_{\theta} \; \mathcal{L}{\text{target}}(\theta), \quad \theta$$}} = \theta_{\text{source}

لماذا هو مهمّ؟

• يقلّل بشكل كبير الحاجة إلى بيانات مُوسومة.
• يُسرّع التدريب ويخفض تكاليف الحوسبة.
• يجعل الذكاء الاصطناعي في متناول الفرق الصغيرة دون مراكز بيانات.

هذا هو المبدأ الكامن وراء معظم النماذج الكبيرة اليوم (الرؤية واللغة)، حيث يُكيَّف نموذج أساس لاستخدام محدّد.

تعلّم مرّة، وأعد الاستخدام في كل مكان: النقل يحوّل المعرفة العامة إلى مهارة موجّهة.