التحيّز الخوارزمي

يحدث التحيّز الخوارزمي عندما يُنتج نظام ذكاء اصطناعي نتائج غير عادلة بشكل منهجي تجاه فئات معيّنة. وأصدق تشبيه له هو المرآة المشوِّهة: فالذكاء الاصطناعي لا يخترع التحيّز، بل يعكس ويضخّم ما هو كامن أصلًا في البيانات التي تعلّم منها.

من أين يأتي التحيّز؟

نادرًا ما تكمن المشكلة في الشيفرة نفسها، بل في السلسلة التي تغذّيها:

• بيانات تاريخية متحيّزة: إذا كان سجلّ التوظيف السابق يُفضّل الرجال، يتعلّم النموذج أنّ «الرجل = مرشّح جيّد».
• نقص التمثيل: الوجه الذي يندر ظهوره في بيانات التدريب سيُتعرّف عليه بدقّة أقلّ.
• خيارات التصميم: قد يحمل الهدف المُحسَّن (التصنيف) في حدّ ذاته تفاوتًا مضمرًا.

«مدخلات رديئة، مخرجات رديئة»: لا يكون النموذج أعدل من البيانات التي تغذّيه أبدًا.

قياس العدالة

غالبًا ما تُصاغ العدالة عبر التكافؤ الإحصائي: ينبغي أن يكون احتمال القرار المُواتي ($\hat{Y}=1$) مستقلًّا عن السمة الحسّاسة $A$ (الجنس، الأصل…).

$$ P(\hat{Y}=1 \mid A=a) = P(\hat{Y}=1 \mid A=b) $$

تتعايش معايير عدّة، وهي أحيانًا غير متوافقة رياضيًّا فيما بينها:

كيف نخفّف منه؟

نتدخّل في ثلاث لحظات: قبل (إعادة توازن البيانات)، وأثناء (إضافة قيد عدالة إلى التدريب)، وبعد (تعديل عتبات القرار). لا توجد طريقة تمحو التحيّز كليًّا؛ وتبقى الشفافية والتدقيق البشري لا غنى عنهما.

الخوارزمية ليست محايدة أبدًا: فهي تحمل خيارات من يبنونها.