المُرمِّز التلقائي

المُرمِّز التلقائي هو شبكة عصبية تتعلّم إعادة بناء مدخلاتها الخاصة عبر تمريرها من خلال عنق زجاجة ضيّق. تخيّل مترجمًا يلخّص رواية طويلة في بضع جُمل، ثم يحاول إعادة كتابة الرواية كاملةً انطلاقًا من ذلك الملخّص: كلّما كانت إعادة البناء أكثر دقّة، دلّ ذلك على أنّ الملخّص قد التقط الجوهر الحقيقي. هذا هو لبّ تعلّم التمثيلات.

المُرمِّز والفضاء الكامن وفاكّ الترميز

تتكوّن البنية من ثلاثة أجزاء:

• المُرمِّز $f$ يضغط المُدخل $x$ إلى رمز مُكثّف $z$ (الفضاء الكامن).
• فاكّ الترميز $g$ يعيد بناء تقريب $\hat{x}$ انطلاقًا من $z$.
• تتدرّب الشبكة على تقليل خطأ إعادة البناء:

$$\mathcal{L}(x) = \lVert x - g(f(x)) \rVert^2$$

يُجبر عنق الزجاجة النموذجَ على الاحتفاظ بالمعلومات المفيدة والتخلّص من الضوضاء، إذ لا يمكنه حفظ كلّ شيء.

أهمّ الأنواع

لماذا هو نموذج توليدي

يجعل المُرمِّز التغايري (VAE) الفضاء الكامن متّصلًا ومُنظّمًا. فبأخذ عيّنة عشوائية لنقطة $z$ وتمريرها إلى فاكّ الترميز، يمكن توليد بيانات جديدة لم تُرَ من قبل. هذه الآلية تضع المُرمِّز التلقائي بين اللبنات التأسيسية للذكاء الاصطناعي التوليدي، إلى جانب شبكات GAN ونماذج الانتشار.

الضغط من أجل الفهم، ثم الفهم من أجل الإبداع: تلك هي الرسالة المزدوجة للمُرمِّز التلقائي.