ما هي هلوسة الذكاء الاصطناعي؟

الهلوسة إجابة معقولة صادف أنها خاطئة

اطلب من نموذج لغة رقم صفحة اقتباس من كتاب قرأ عنه لكنه لم يره قط، وسيعطيك رقم صفحة. لن يقول "لا يمكنني معرفة ذلك". الرقم منسق بشكل صحيح، ويقع في جملة تبدو مثل أي استشهاد آخر في بيانات تدريبه، وهو من نسج الخيال.

هذه هي الهلوسة: عبارة سلسة وواثقة بلا حقيقة وراءها. الكلمة استعارة ومضللة قليلًا، لأنه لا شيء يعمل بشكل خاطئ فعليًا. طُلب من النموذج الامتداد الأكثر ترجيحًا لاستشهاد فأنتج واحدًا. في سؤال تكون فيه الإجابة الأكثر ترجيحًا هي أيضًا الصحيحة، وهي معظم الأسئلة، فإن العملية نفسها هي ما يجعل النموذج مفيدًا.

الأشكال التي تتخذها متوقعة: مراجع وروابط مختلقة، إحصائيات بلا مصدر، اقتباسات منسوبة لأشخاص حقيقيين لم يقولوها قط، ميزات منتج غير موجودة، وادعاءات قانونية أو طبية تُقدَّم كحقيقة مؤكدة. صفحة لماذا يخطئ الذكاء الاصطناعي تستعرض كيفية رصد كل نوع؛ هذه الصفحة تتناول لماذا تحدث أصلًا.

لماذا نموذج قرأ الإنترنت بأكمله لا يزال يختلق أشياء

آليتان، وهما تتراكمان.

النموذج يتنبأ، لا يسترجع. ليس لدى نموذج اللغة فهرس للحقائق. كل ما قرأه ضُغط في معاملاته، وعند الإجابة يعيد توليد النص رمزًا رمزًا من ذلك الضغط، مختارًا كل رمز بحسب احتماله. عندما كانت الإجابة الصحيحة شائعة في بيانات التدريب، يكون الامتداد الأرجح هو الصحيح. وعندما كانت نادرة أو غائبة أو متناقضة، لا يزال على النموذج أن يختار رمزًا، فيختار رمزًا معقولًا. صفحة ما هو النموذج اللغوي الكبير تشرح البنية؛ والخلاصة أنه لا توجد خطوة يسأل فيها النموذج نفسه إن كانت الجملة التي يكتبها حقيقية.

التدريب يكافئ التخمين. في سبتمبر 2025، نشرت أوبن إيه آي ورقة بعنوان "لماذا تهلوس نماذج اللغة" تجادل بأن المعايير المستخدمة لتقييم النماذج تمنح الإجابة الخاطئة والإجابة الفارغة الدرجة نفسها، صفرًا، بينما يحصل التخمين المحظوظ على العلامة الكاملة. نموذج مُحسَّن وفق هذا التقييم يتعلم الدرس نفسه الذي يتعلمه طالب في اختبار متعدد الخيارات بلا عقوبة على الإجابة الخاطئة: خمّن دائمًا. اقتراح الورقة هو تغيير التقييم بحيث تكون "لا أعرف" أعلى قيمة من إجابة خاطئة واثقة.

قضيتان قضائيتان وضعتا رقمًا بالدولار لهلوسة

قضية Mata ضد Avianca، نيويورك، 2023. قدّم محاميان مذكرة استشهدت بست قرارات قضائية أنتجها ChatGPT. لم توجد أي من الست. غرّم القاضي المحاميين $5,000 في يونيو 2023 وأجبرهما على الكتابة إلى القضاة الذين نُسبت إليهم الآراء المختلقة. لقطات الشاشة المرفقة بإفادة المحامي تُظهره يسأل ChatGPT إن كانت القضايا حقيقية، فيؤكد ChatGPT أنها كذلك.

قضية Moffatt ضد Air Canada، كولومبيا البريطانية، 2024. أخبر روبوت المحادثة على موقع Air Canada أحد العملاء أنه يمكنه حجز تذكرة بسعر كامل لجنازة ثم المطالبة بخصم النعي لاحقًا. سياسة الشركة الفعلية تقول العكس. عندما جادلت Air Canada بأن روبوت المحادثة كيان قانوني منفصل مسؤول عن كلامه، رفضت هيئة تسوية النزاعات المدنية ذلك في فبراير 2024 وأمرت الشركة بدفع $812.02 كندي.

لم يكن أي من النموذجين معطلًا. أنتج كل منهما الإجابة الأكثر ترجيحًا لسؤال لم تكن إجابته الصحيحة في متناوله. وقعت التكلفة على من لم يتحقق.

الهلوسة نوع واحد من أربعة أنواع فشل، والحلول تختلف

يستخدم الناس الكلمة لكل إجابة خاطئة، وهذا يخفي أن الأنواع الأربعة الشائعة للفشل لها أربعة أسباب مختلفة.

الصف الأول فقط هو هلوسة بالمعنى الدقيق. الصفان الثاني والثالث مشكلتا تأسيس ويُحلان إلى حد كبير بإعطاء النموذج شيئًا يقرؤه. الصف الرابع مشكلة في الصياغة. معاملة الأنواع الأربعة كعيب غامض واحد يقود الناس إلى الحل الخاطئ، عادة "استخدم نموذجًا أكبر"، وهو ما يساعد أقل ما يساعد في الصف الأول.

الفحص بنموذجين، وما يكلفه

أكثر عادة موثوقة للنوع الدقيق من الهلوسة هي سؤال نموذج ثانٍ مختلف السؤال نفسه ومقارنة الإجابتين. نموذجان من مختبرين مختلفين، مُدربان على بيانات مختلفة بمراحل ما بعد تدريب مختلفة، نادرًا ما يختلقان الاستشهاد نفسه. الاتفاق دليل ضعيف على أن الحقيقة صحيحة. الاختلاف إشارة قوية للتحقق قبل التصرف.

السبب في نجاح هذا حيث يفشل "اطلب من النموذج نفسه أن يتحقق مجددًا": التمرير الثاني بالنموذج نفسه هو المتنبئ نفسه يخمّن مجددًا من الضغط نفسه. النموذج المختلف ضغط مختلف.

الرأي الثاني لا يجب أن يأتي من نموذج مكلف. على مؤشر الذكاء لـ Artificial Analysis، وهو مركّب من معايير تفكير وبرمجة ومعرفة عامة قُرئ في 2026-09-17، يسجل DeepSeek V4 Flash 40 نقطة ويكلف رصيد Whizi واحدًا للرسالة؛ ويسجل Claude Sonnet 5 38 نقطة ويكلف 10. الخط المنقط هو الحد الأمثل، أفضل درجة عند كل سعر، وكل نقطة عليه من مختبر مختلف. فحص متقاطع من مختبرين بتكلفة 1 و10 أرصدة يساوي 11 رصيدًا، وعرض جنبًا إلى جنب يرسل سؤالًا واحدًا لكليهما على شاشة واحدة. دفع المحاميان في قضية Mata ضد Avianca $5,000 مقابل الفحص الذي لم يجرياه.

ما يقلل الهلوسة، مرتبًا حسب مقدار التأثير

1. التأسيس. البحث على الويب، أو مستند مرفوع، أو مصدر ملصق يحوّل المهمة من "التذكر" إلى "القراءة والتلخيص"، وهو ما تفعله النماذج بموثوقية أكبر بكثير. هذا أكبر خفض منفرد وهو إعداد في المنتج، لا حيلة في الصياغة.
2. نموذج ثانٍ. تدريب مختلف، أنماط فشل مختلفة. يكشف معظم التفاصيل المختلقة.
3. طلب المصادر وفتحها. النموذج المطلوب منه الاستشهاد سيستشهد؛ الفحص هو هل الاستشهاد موجود ويقول ما تدّعيه الإجابة.
4. إذن بقول لا أعرف. "إن لم تكن متأكدًا فقل ذلك" يغيّر ما هو الامتداد الأكثر ترجيحًا، فيمتنع النموذج أكثر في الأسئلة الصعبة بدلًا من الاختلاق.
5. نموذج أكبر. النماذج المتقدمة تهلوس أقل من الصغيرة في المعرفة الشائعة، لكن الفجوة أضيق ما تكون تحديدًا حيث تهم، أي في الحقائق النادرة والمحددة.

الترتيب هو المقصود. معظم الناس يلجؤون إلى البند الخامس أولًا، وهو أضعف رافعة في القائمة.