تخيّل قاموساً ضخماً تُعرَّف فيه كل كلمة بدقة مبالغ فيها تصل إلى عشرة أرقام عشرية. إن التكميم هو فن تقريب هذه التعريفات بذكاء لتتسع في صيغة جيب صغيرة دون أن تفقد معناها. وعند تطبيقه على الذكاء الاصطناعي، فإنه يخفض الدقة العددية لأوزان النموذج — من الفاصلة العائمة بـ 32 بت (FP32) إلى أعداد صحيحة بـ 8 بت (INT8) أو أقل — لتقليص الذاكرة وتسريع الحساب.
المبدأ: عدد أقل من البتات، المعرفة نفسها
يخزّن النموذج اللغوي الكبير مليارات الأوزان. في FP32 يشغل كل وزن 4 بايت، أما في INT8 فبايت واحد فقط. يربط التكميم نطاقاً من القيم الحقيقية بنطاق من الأعداد الصحيحة عبر معامل قياس:
$$ x_q = \text{round}\left(\frac{x}{s}\right) + z $$
حيث $s$ هو معامل القياس و $z$ نقطة الصفر. يظل النموذج «يفكر» بالطريقة نفسها تقريباً، لكنه يصبح أخف بكثير.
المفاضلة بين الحجم والدقة
| الصيغة | البتات | الذاكرة النسبية | فقدان الجودة |
|---|---|---|---|
| FP32 | 32 | 100% | لا شيء (مرجع) |
| FP16 | 16 | 50% | ضئيل جداً |
| INT8 | 8 | 25% | منخفض |
| INT4 | 4 | 12.5% | متوسط |
لماذا هو مهم
- التكلفة: يعمل النموذج المُكمَّم على معالج رسومي أصغر، بل حتى على هاتف.
- السرعة: عمليات الأعداد الصحيحة أسرع.
- الإتاحة: يجعل الذكاء الاصطناعي في متناول الشركات الناشئة المغربية محدودة الميزانية.
نميّز بين التكميم بعد التدريب (سريع، يُطبَّق لاحقاً) والتدريب الواعي بالتكميم (QAT) الذي يحاكي فقدان الدقة أثناء التعلم لتعويضه.
التكميم مقايضة: تتنازل عن دقة لا تحتاجها مقابل كفاءة في أمسّ الحاجة إليها.