الهلوسة

تحدث الهلوسة عندما ينتج نموذج ذكاء اصطناعي توليدي عبارة تبدو معقولة ومصوغة بثقة، لكنها خاطئة أو مختلَقة من حيث الواقع. وأقرب تشبيه لها: طالب نابه يفضّل، بدل الاعتراف بجهله أثناء الامتحان، أن يرتجل إجابة محكمة الصياغة — لكنها خيالية تمامًا.

لماذا يحدث ذلك؟

النموذج اللغوي الكبير (LLM) لا «يعرف» الحقائق، بل يتوقّع الكلمة الأرجح التالية، كلمةً بعد أخرى. فهدفه التدريبي ليس الصدق، وإنما الاحتمال الإحصائي للنص. ورياضيًا، يسعى النموذج إلى تعظيم:

$$P(w_t \mid w_1, w_2, \dots, w_{t-1})$$

لا شيء في هذا الهدف يضمن الدقة: فقد تكون الجملة الخاطئة أكثر «سلاسة» من الجملة الصحيحة. ومن ثمّ يملأ النموذج فجوات ذاكرته باستيفاءات معقولة الظاهر.

لماذا تُعدّ خطرًا

• ثقة مضلّلة: تُقدَّم الإجابة الخاطئة بالجزم نفسه الذي تُقدَّم به الصحيحة.
• مجالات حساسة: الصحة والقانون والمال — فمرجع علمي أو سند قانوني ملفّق قد تترتب عليه عواقب جسيمة.
• صعوبة الاكتشاف: بدون مصدر، لا يستطيع المستخدم التمييز بين الحقيقي والملفّق.

كيف نحدّ من الخطر

تَستند أنجع المقاربات إلى تثبيت النموذج في مصادر قابلة للتحقق: الاسترجاع المعزَّز للتوليد (RAG)، والتحقق الواقعي الآلي، والاستشهاد المنهجي بالمصادر.

الذكاء الاصطناعي البليغ ليس بالضرورة موثوقًا: اطلب مصادره دائمًا.