لماذا يكذب عليك الذكاء الاصطناعي؟ الآلية لا النية، وكيف تحدّ من أثرها

حين يجيب نموذج لغوي كبير (Large Language Model - LLM) بثقة عن سؤال لا يعرف إجابته الصحيحة، فإنه لا "يكذب" بالمعنى الأخلاقي للكلمة. فالنموذج لا يملك نية خداع، لأنه أصلاً لا يملك وعياً بالحقيقة أو الكذب. المصادر التقنية الحديثة تتفق على أن ما نسميه "هلوسة" (Hallucination) هو نتيجة مباشرة لآلية عمل هذه النماذج، وليس خللاً عرضياً يمكن إصلاحه بحيلة برمجية بسيطة.

الآلية: التنبؤ لا الفهم

النموذج اللغوي لا "يعرف" شيئاً بالمعنى الحرفي، ولا يبحث في قاعدة بيانات وقت الإجابة. وظيفته الأساسية هي التنبؤ بالكلمة التالية الأكثر احتمالاً استناداً إلى أنماط إحصائية تعلّمها من مليارات النصوص أثناء التدريب. هذا يجعل الهلوسة أمراً حتمياً في حالات معينة، خصوصاً حين تكون البيانات المصدرية غير مكتملة أو يكون السؤال غامضاً.

بحث نشرته OpenAI مؤخراً يذهب إلى جذر المشكلة: الهلوسة خاصية ناشئة عن طريقة تدريب النماذج، إذ تُكافأ الإجابة الواثقة، لا الإجابة التي تقول "لا أعرف". هذا السلوك مستمر حتى في النماذج المتطورة الحالية مثل GPT-5 وClaude Opus 4.7 وGemini 3.x وLlama 4.x، وإن كان بمعدلات أقل من نماذج 2024، لكن بالسبب الجذري نفسه.

التفصيل التقني الأعمق يوضح أن أهداف التنبؤ بالكلمة التالية، وحتى مراحل التعلم بالتغذية الراجعة البشرية (RLHF)، تكافئ المخرجات التي تبدو كنص بشري معقول ومفصّل، لا التي تنقل حالة عدم اليقين بدقة أو تمتنع عن الإجابة. والخلاصة الحاسمة هنا: النموذج لا "يختار الكذب"، بل يُحسّن الأهداف التي وضعناها له. وهذا يعني أن مزيداً من البيانات أو صياغات أذكى للسؤال لن يحلّ المشكلة ما دامت الحوافز الأساسية للتدريب كما هي.

لماذا لا يكفي الإسناد إلى المصادر (RAG)

يُنظر إلى تقنية التوليد المعزز بالاسترجاع (Retrieval-Augmented Generation - RAG) بوصفها الحل المعياري لتثبيت النموذج على وثائق حقيقية بدل الاعتماد على ذاكرته الإحصائية فقط. غير أن الأدلة الحديثة تكشف حدودها بوضوح: بحث من ستانفورد عام 2025 حول موثوقية RAG في المجال القانوني وجد أن حتى خطوط أنابيب الاسترجاع المنسّقة جيداً يمكن أن تختلق استشهادات لا وجود لها.

البيانات الكمية تعزز هذا التحفظ: أثر RAG يتراوح بين 55 و75% تخفيضاً في الهلوسة على مهام الأسئلة الطبية والواقعية المفتوحة، لكنه في بعض الأحيان يزيد الهلوسة في مهام التلخيص المرتكز على المصدر. أي أن أثره متفاوت حسب نوع المهمة، وليس حلاً شاملاً يمكن تعميمه. كذلك تبيّن أن تعليمات عامة من نوع "كن دقيقاً" في تعليمات النظام (System Prompt) لها أثر ضئيل مقاس، لأن النماذج "تحاول" أصلاً أن تكون دقيقة، والمشكلة بنيوية لا دافعية.

ما الذي يخفّض الخطأ فعلياً في منتج حقيقي

الأدلة المتوفرة تشير إلى نهج متعدد الطبقات بدل حل واحد:

• التقييم الآلي المتعدد الطبقات: مقيّمون بلا مرجع يقيّمون الإخلاص والتأريض ويتحققون من الادعاءات، ومقيّمون مرجعيون يقارنون بإجابة معروفة صحيحة، وفحوصات اتساق تولّد عينات متعددة وتبحث عن تعارضات بينها.

• الضبط الدقيق الموجّه (Preference Finetuning): من أكثر الأساليب فعالية موثقة حديثاً. دراسة من مؤتمر NAACL 2025 أظهرت أن إنشاء أمثلة اصطناعية معرّضة للهلوسة وتدريب النماذج على تفضيل المخرجات الأمينة خفّض معدلات الهلوسة بنسبة تقارب 90-96% دون الإضرار بالجودة.

• وضع "التفكير" (Reasoning) قبل الإجابة: في اختبار HealthBench، ينخفض معدل الأخطاء من 3.6% إلى 1.6% عند تفعيله. وفي حركة مرور ChatGPT الفعلية، تنخفض نسبة الردود التي تحتوي على ادعاءات خاطئة جوهرية من 11.6% إلى 4.8%. لكن هذا الوضع يزيد الهلوسة في معيار Vectara للتلخيص، لذا يُنصح بتفعيله للتحليل والتشخيص، وتعطيله في مهام التلخيص والاستخراج المرتبطة بأمانة المصدر.

• مطابقة نماذج متعددة (Cross-validation): استجواب نماذج ذكاء اصطناعي متعددة حول السؤال نفسه يكشف أخطاء تفوتها المقاربات أحادية النموذج، وهو أمر تدعمه دراسات محكّمة منشورة بين 2024 و2026.

الأرقام بدل الانطباع

معيار Vectara HHEM في تموز 2026 سجّل معدلات هلوسة بلغت 7% لـ GPT 5.4، و5% لـ Mistral، و3.3% لـ Gemini 2.5 Flash، في مهمة استرجاع بسيطة أصلاً. لكن معدلات الهلوسة في الاستفسارات المتخصصة قد تصل إلى ما بين 22% و92%. وللمقارنة، تنهج الصناعات التقليدية معيار Six Sigma بمعدل خطأ مستهدف 3.4 خطأ لكل مليون حالة، أي أقل من 1% بمراحل بعيدة، بينما تهلوس النماذج اللغوية بمعدل أعلى من ذلك حتى في أبسط الأسئلة.

مع ذلك هناك تحسن ملحوظ عبر الزمن على المهام البسيطة: من معدل 1-3% في 2024 إلى 0.7% لأفضل نموذج (Gemini-2.0-Flash) بحلول أوائل 2025. لكن في القطاع الصحي، وُثّقت حالات ابتكار ChatGPT لعلاجات سرطانية غير موجودة في نسبة معتبرة من الحالات المختبرة، ما دفع منظمة ECRI غير الربحية لتصنيف سوء استخدام روبوتات الدردشة في الرعاية الصحية كأخطر تهديد تقني صحي.