تخيّل العصبون الاصطناعي كصمّام ذكي: يستقبل تدفّقاً من الإشارات، يجمعها، ثم يقرّر مقدار ما يسمح بمروره. هذا بالضبط هو دور دالة التنشيط — ذلك التحويل اللاخطي الصغير المُطبَّق على مخرَج كل عصبون.
لماذا تُغيّر اللاخطية كل شيء
تكدّس الشبكة العصبية طبقات من عمليات الضرب والجمع. لكن من دون دالة تنشيط، يبقى تكديس الطبقات الخطية… خطياً. مهما بلغ عمق الشبكة، فلن تستطيع نمذجة أكثر من خط مستقيم بسيط.
تُدخِل دالة التنشيط انحناءً على النموذج. وهي ما يتيح للشبكة تقريب الحدود المعقّدة — التمييز بين قطّة وكلب، أو ترجمة جملة، أو توليد صورة.
$$ a = f\left(\sum_i w_i x_i + b\right) $$
حيث $w_i$ هي الأوزان، و$b$ التحيّز، و$f$ دالة التنشيط.
العائلات الرئيسية
| الدالة | الصيغة | الاستخدام النموذجي |
|---|---|---|
| سيغمويد | $\sigma(x) = \frac{1}{1+e^{-x}}$ | مخرَج احتمالي (0–1) |
| Tanh | $\tanh(x)$ | مخرجات متمركزة (−1 إلى 1) |
| ReLU | $\max(0, x)$ | الطبقات المخفية (المعيار) |
| Softmax | $\frac{e^{x_i}}{\sum_j e^{x_j}}$ | التصنيف متعدّد الفئات |
هيمنة ReLU
تهيمن ReLU (الوحدة الخطية المُقوَّمة) اليوم على الطبقات المخفية: فهي سهلة الحساب، وتُخفّف مشكلة تلاشي التدرّج التي كانت تشلّ دوال السيغمويد القديمة في الشبكات العميقة. وتعالج متغيّراتها (Leaky ReLU، GELU، SiLU) عيب «العصبونات الميتة».
من دون دالة تنشيط، لن تكون الشبكة العميقة سوى انحدار خطي متنكّر. هذه الشرارة اللاخطية هي ما يجعل التعلّم العميق عميقاً بحق.