الهجوم العدائي

تخيّل لافتة «قف» وُضعت عليها بضع ملصقات صغيرة غير ملحوظة: لا يزال الإنسان يقرأها «قف»، لكن السيارة ذاتية القيادة تراها «السرعة القصوى 90». هذا هو الهجوم العدائي: اضطراب ضئيل ومحسوب بعناية يدفع نموذج الذكاء الاصطناعي إلى ارتكاب خطأ بثقة عالية.

لماذا ينجح

تتعلّم الشبكة العصبية حدود قرار معقّدة في فضاء عالي الأبعاد. يستغل المهاجم التدرّج (gradient) لدالة الخسارة، فيُعدّل المُدخل في الاتجاه الذي يُعظّم الخطأ مع إبقاء التغيير غير محسوس. تُكتب الطريقة الكلاسيكية FGSM كالتالي:

$$x_{adv} = x + \epsilon \cdot \text{sign}\left(\nabla_x J(\theta, x, y)\right)$$

حيث يتحكّم $\epsilon$ في المقدار (الضئيل) للاضطراب. تبدو النتيجة مطابقة لأعيننا لكنها تتجاوز حدّ قرار النموذج.

أنواع الهجمات

كما نُميّز بين هجمات التهرّب (الخداع أثناء الاستدلال) وهجمات التسميم (إفساد بيانات التدريب).

كيفية الدفاع

• التدريب العدائي: حقن أمثلة مفخّخة أثناء التعلّم.
• الكشف: رصد المُدخلات الشاذّة إحصائياً.
• المتانة المُثبَتة: ضمان هامش أمان رياضياً.

لا يوجد دفاع مثالي؛ إنه سباق تسلّح دائم بين المهاجمين والمدافعين.

لا تُقاس سلامة الذكاء الاصطناعي بدقّته المتوسطة فحسب، بل بقدرته على الصمود أمام خصم يسعى فعلياً إلى خداعه.