درجة الحرارة

درجة الحرارة هي المؤشر الذي يحدّد مقدار المخاطرة التي يقبل النموذج اللغوي خوضها. تخيّل مِزلاجًا: في أقصى اليسار يلعب النموذج بحذر ويكرّر دائمًا الكلمة الأكثر احتمالًا، وفي أقصى اليمين يصبح جريئًا ومفاجئًا، بل وغير متماسك أحيانًا. إنها معامل أخذ عينات يُطبَّق عند الاستدلال دون أن يمسّ أوزان النموذج إطلاقًا.

كيف تعمل

لا يتنبّأ النموذج بكلمة واحدة، بل بتوزيع احتمالي على كامل مفرداته. تقوم درجة الحرارة $T$ بقسمة الدرجات الخام (اللوجيتات) قبل خطوة softmax:

$$P(x_i) = \frac{\exp(z_i / T)}{\sum_j \exp(z_j / T)}$$

• $T \to 0$: يتركّز التوزيع على الكلمة الأكثر احتمالًا (شبه حتمي).
• $T = 1$: يبقى التوزيع كما هو في الأصل.
• $T > 1$: يتسطّح التوزيع، فتزداد فرص اختيار الكلمات النادرة.

اختيار القيمة المناسبة

المفاضلة الجوهرية

تجسّد درجة الحرارة المفاضلة بين الموثوقية والتنوّع. فإن كانت منخفضة جدًّا غدت الإجابات رتيبة وجامدة، وإن كانت مرتفعة جدًّا انزلقت نحو التشوّش والهلوسة. وكثيرًا ما تُدمَج مع ضوابط أخرى مثل top-p (أخذ العينات النَّواتي) لضبط نافذة الخيارات الممكنة بدقّة أكبر.

ضبط درجة الحرارة لا يجعل النموذج «أذكى»، بل يتيح لك الاختيار بين الحذر والخيال.