تخيّل طبيبًا يُخبره نظام ذكاء اصطناعي بأن «هذا المريض معرّض للإصابة بالسرطان بنسبة 87٪»، دون أن يوضّح السبب إطلاقًا. الذكاء الاصطناعي القابل للتفسير (XAI) هو مجموعة الأساليب التي تُحوّل هذا الصندوق الأسود إلى تعليل واضح ومقروء: فهو يُجيب عن السؤال «لماذا اتخذ النموذج هذا القرار؟».
لماذا يُعدّ قضية أخلاقية
تَصِل النماذج الحديثة (الشبكات العصبية العميقة والنماذج اللغوية الكبيرة) إلى ملايين بل مليارات المعاملات، فيستعصي منطقها الداخلي على الحدس البشري. وحين يتدخّل الذكاء الاصطناعي في الصحة أو القروض البنكية أو القضاء أو التوظيف، يصبح الغموض خطرًا. ويلبّي هذا المجال ثلاث حاجات:
- الثقة: لا يتبنّى المستخدم إلا ما يفهمه.
- المساءلة: يجب القدرة على تبرير أي قرار، خاصة عند النزاع.
- كشف التحيّز: يكشف التفسير ما إذا كان النموذج يعتمد على معيار تمييزي (الجنس، الأصل).
كيف يعمل
نُميّز بين النماذج القابلة للتفسير جوهريًا (أشجار القرار، الانحدار الخطي) والأساليب اللاحقة التي تُفسّر نموذجًا مُدرَّبًا مسبقًا. ومن أشهرها:
| الأسلوب | المبدأ | النطاق |
|---|---|---|
| LIME | تقريب محلي بنموذج بسيط | محلي |
| SHAP | توزيع مساهمة كل متغيّر | محلي وشامل |
| Saliency maps | إبراز البكسلات الحاسمة | الرؤية |
يستند SHAP إلى قيم شابلي المستمدّة من نظرية الألعاب، إذ يتحلّل التنبّؤ على النحو:
$$f(x) = \phi_0 + \sum_{i=1}^{M} \phi_i$$
حيث يقيس كل $\phi_i$ مساهمة المتغيّر $i$.
متطلّب تنظيمي أيضًا
يُكرّس النظام الأوروبي العام لحماية البيانات (GDPR) وقانون الذكاء الاصطناعي (AI Act) الحقّ في تفسير القرارات الآلية. فلم يَعُد التفسير ترفًا تقنيًا، بل التزامًا.
الذكاء الاصطناعي القوي وغير المُفسَّر هو ذكاء لا يمكن تصحيح أخطائه ولا تحمّل مسؤولية خياراته.