محاذاة الذكاء الاصطناعي

تُعنى محاذاة الذكاء الاصطناعي بضمان أن يسعى نظام الذكاء الاصطناعي حقًّا نحو الأهداف والقيم التي يقصدها مصمِّموه من البشر، لا نحو تأويل مشوَّه لها. الصورة الكلاسيكية هي مارد المصباح: تطلب أمنية، فيُحقّقها الذكاء الاصطناعي حرفيًّا أكثر من اللازم، بعواقب لم يتوقّعها أحد.

مشكلة التحديد

يُحسِّن نظام الذكاء الاصطناعي دالةَ هدف. وينشأ الخطر من الفجوة بين ما نكافئ عليه وما نريده فعلًا. وكثيرًا ما نُميّز بين:

• الهدف المقصود: النيّة البشرية الحقيقية.
• الهدف المحدَّد: المقياس المُرمَّز في النظام (المكافأة).
• الهدف الناشئ: ما يتعلّم النموذج تحسينه فعليًّا.

ورياضيًّا، نبحث عن سياسة تُعظِّم المكافأة:

$$\pi^* = \arg\max_{\pi} \; \mathbb{E}{\pi}!\left[\sum \gamma^t \, r_t\right]$$

فإذا كان $r_t$ سيّئ التعريف، حقّق النظام درجة عالية بينما يخون النيّة الأصلية: وهذا ما يُسمّى اختراق المكافأة (reward hacking).

سوء المحاذاة الداخلي والخارجي

مسارات الحلّ

من المقاربات الراسخة: التعلّم المعزَّز من التغذية الراجعة البشرية (RLHF)، والذكاء الاصطناعي الدستوري، واختبار الفِرَق الحمراء، وقابلية تفسير النماذج. لا واحدة منها كاملة: تبقى المحاذاة مشكلة مفتوحة، تزداد أهميةً كلما اكتسبت الأنظمة مزيدًا من الاستقلالية.

النظام القويّ لكن المنحرف عن المحاذاة ليس ذكيًّا بأيّ معنى مفيد، بل هو فقط فعّال في خدمة الهدف الخطأ.