الانتشار العكسي

الانتشار العكسي (بالإنجليزية Backpropagation) هو الخوارزمية التي تتيح للشبكة العصبية أن تتعلّم من أخطائها. تخيّل طاهيًا يتذوّق طبقًا فاشلًا: فيعود إلى سلسلة المكوّنات ليحدّد أيًّا منها عليه أن يضبط مقداره في المرة القادمة. يفعل الانتشار العكسي الشيء نفسه، لكن مع أوزان الشبكة: إذ يحسب، طبقةً بعد طبقة وبشكلٍ تصاعدي عكسي، مدى مساهمة كل وزنٍ في الخطأ النهائي.

المبدأ: تمرير الخطأ عكسيًّا

أثناء الاستدلال، تنتقل المعلومات من المدخل إلى المخرج (التمرير الأمامي). ثم تُقارَن التنبؤات بالقيمة الحقيقية عبر دالة الخسارة. عندئذٍ يجتاز الانتشار العكسي الشبكة في الاتجاه المعاكس، موزّعًا مسؤولية الخطأ على كل وزن.

ويكمن جوهره الرياضي في قاعدة السلسلة في التفاضل. فبالنسبة لوزنٍ $w$، يُحسب التدرّج كالآتي:

$$\frac{\partial L}{\partial w} = \frac{\partial L}{\partial a} \cdot \frac{\partial a}{\partial z} \cdot \frac{\partial z}{\partial w}$$

حيث $L$ هي الخسارة، و $a$ هو التنشيط، و $z$ هو ما قبل التنشيط.

من التدرّج إلى التعلّم

الانتشار العكسي يحسب التدرّجات؛ أما النزول الاشتقاقي فهو الذي يحدّث الأوزان:

$$w \leftarrow w - \eta \frac{\partial L}{\partial w}$$

حيث $\eta$ هو معدّل التعلّم.

بدون الانتشار العكسي، سيكون التعلّم العميق الحديث غير عمليٍّ ببساطة: فهو ما يجعل تدريب ملايين المعاملات أمرًا فعّالًا.