تخيّل طاولة مزج عملاقة تحتوي على ملايين، بل مليارات، من المفاتيح. يضبط كل مفتاح بدقة طريقة تدفّق المعلومة داخل النموذج. هذه المفاتيح هي المعاملات: القيم العددية الداخلية التي تضبطها الشبكة العصبية أثناء تدريبها لتحويل مُدخَل (نص أو صورة) إلى مُخرَج ذي معنى.
الأوزان والانحيازات: ذاكرة النموذج
المعامل في جوهره مجرد رقم. وهناك عائلتان منه:
- الأوزان (weights)، وهي تُرجّح أهمية كل اتصال بين الخلايا العصبية؛
- الانحيازات (biases)، وهي تُزيح النتيجة لضبط عتبة التفعيل.
بالنسبة لخلية عصبية بسيطة، يُحسب المُخرَج كالآتي:
$$y = \sigma\left(\sum_{i=1}^{n} w_i x_i + b\right)$$
حيث $w_i$ هي الأوزان، و$b$ هو الانحياز، و$\sigma$ دالة تفعيل. التعلّم هو تحديداً البحث عن القيم الصحيحة لهذه $w$ و$b$ عبر النزول الاشتقاقي (gradient descent).
كم عدد المعاملات؟
أصبح عدد المعاملات مقياساً لـ«حجم» النموذج.
| النموذج | رتبة الحجم |
|---|---|
| نموذج كلاسيكي صغير | آلاف إلى ملايين |
| GPT-2 | ~1.5 مليار |
| النماذج اللغوية الكبيرة الحديثة | عشرات إلى مئات المليارات |
انتبه: كثرة المعاملات لا تعني دائماً «الأفضل». فالنموذج المفرط في الضخامة قد يقع في فرط التعلّم (الحفظ بدل التعميم) ويكلّف الكثير من الحوسبة والطاقة.
تمييز ضروري
تختلف المعاملات (التي تتعلّمها الآلة) عن المعاملات الفائقة (hyperparameters) التي يحدّدها الإنسان (معدّل التعلّم، عدد الطبقات). فالأولى تنشأ من التدريب، والثانية توجّهه.
المعاملات هي المعرفة المجمّدة للنموذج: كل ما «تعلّمه» يكمن داخل تلك المليارات من الأرقام.