إطار عمل جديد يكشف فجوة الثقة في نماذج الذكاء الاصطناعي الطبية

دراسة تجريبية في أمراض القلب أنتجت رقماً محرجاً لكل من يخطط لاعتماد النماذج اللغوية في العيادات: النموذج الذي أصاب التوصية العلاجية الصحيحة بأعلى دقة كان أيضاً الأضعف من حيث الأدلة الداعمة لإجابته.

النتيجة وردت في ورقة بحثية بعنوان "تأصيل نماذج الذكاء الاصطناعي الطبية في رسم بياني معرفي سببي: إطار عمل ومقاييس وتجربة قلبية"، قدّمتها الباحثة أمارة ممتاز إلى منصة arXiv في 15 أغسطس 2026. صُنّفت الورقة تحت بندي الذكاء الاصطناعي (cs.AI) واسترجاع المعلومات (cs.IR)، لأنها تجمع بين اختبار الاستدلال واسترجاع الأدلة المنظّمة.

أربع طرق لتأصيل إجابة النموذج

تقترح الورقة إطار تقييم يفحص ما إذا كانت توصيات النموذج اللغوي الكبير (Large Language Model) الطبية مبنية فعلاً على أدلة سببية، لا مجرد احتمالات إحصائية معقولة. يتكوّن الإطار من أربعة عناصر: رسم بياني معرفي سببي مخصص للمجال الطبي يحافظ على مصدر كل عقدة فيه، وطريقة لاستخراج الرسوم الفرعية ذات الصلة بحسب السيناريو السريري المطروح، وأربع "حالات تأصيل" مضبوطة للمقارنة، وخط معالجة آلي لتسجيل النتائج.

تشكّل حالات التأصيل الأربع جوهر التجربة. الحالة الأولى (C1) لا تمنح النموذج أي تأصيل خارجي على الإطلاق. الحالة الثانية (C2) تزوّده برسم معرفي عادي. الحالة الثالثة (C3) تزوّده برسم سببي. أما الحالة الرابعة (C4) فتدمج التأصيل السببي والمعرفي معاً.

اختبر الباحثون الحالات الأربع على مجموعة سيناريوهات متوازنة الفئات تغطي ثمانية أنماط مختلفة من إخفاقات الاستدلال، مستخدمين رعاية أمراض القلب مجالاً تجريبياً.

الانفصال بين الدقة والدليل

حققت الحالة الرابعة، وهي التأصيل المتكامل، أفضل النتائج في كل مقاييس جودة الأدلة: درجة F1 لحافة العلاقة السببية بلغت 0.838، ودرجة F1 للأثر الجانبي 0.833، ودقة الأدلة 0.738، وأدنى معدل للادعاءات غير المدعومة عند 0.114.

لكن الحالة الأولى، غير المؤصّلة إطلاقاً، سجّلت أعلى دقة خام للتدخل العلاجي بلغت 0.948، رغم أنها لم تملك أي دعم سببي أو استدلالي يمكن قياسه لتوصياتها.

هذه الفجوة هي التحذير المركزي في الورقة. فالنموذج قد يصل إلى التدخل السريري "الصحيح" بمجرد مطابقة الأنماط، دون أي استدلال سببي يمكن تتبعه خلف تلك الإجابة.

نموذج يصل إلى التوصية الصحيحة عبر مطابقة الأنماط وحدها، من دون أي استدلال سببي يمكن تتبعه خلف الإجابة.

بالنسبة للفرق التي تبني أو تقيّم نماذج ذكاء اصطناعي طبية، تعني هذه النتيجة أن درجات الدقة وحدها قد تُخفي بالضبط ذلك النوع من الاستدلال غير المؤصّل، وهو أخطر ما يمكن أن يحدث في سياق سريري حيث يحمل الادعاء غير المدعوم مخاطر حقيقية على المريض. يقدّم الباحثون إطارهم الرباعي، مع مقاييس مثل معدل الادعاءات غير المدعومة، وسيلة لإظهار هذه الفجوة بدلاً من إخفائها خلف رقم دقة واحد.