English
Explainability is the degree to which a human can understand why an AI model produced a particular output, rather than treating it as an opaque black box. It matters most in high-stakes settings like medicine or finance, where a wrong or unexplainable decision carries real consequences.
Explainability is the degree to which a decision can be accounted for in terms a human can check. Modern models are poor at it by construction: the computation is real but distributed across billions of weights, and no summary of it is guaranteed faithful. This matters wherever a decision must be justified, credit, hiring, medicine, and increasingly under regulation that requires a reason, not merely an output.
The regulator asked for explainability, not just accuracy.
العربية
قابلية التفسير هي مدى إمكانية أن يفهم إنسان سبب إنتاج نموذج الذكاء الاصطناعي لمخرج معيّن، بدلاً من التعامل معه كصندوق أسود مغلق. تزداد أهميتها في المجالات عالية الحساسية كالطب أو المال، حيث يترتب على القرار الخاطئ أو غير القابل للتفسير عواقب حقيقية.
قابلية التفسير هي الدرجة التي يمكن بها تعليل القرار بعباراتٍ يستطيع الإنسان التحقق منها. والنماذج الحديثة ضعيفةٌ فيها بحكم بنيتها: فالحساب حقيقيٌّ لكنه موزَّعٌ على مليارات الأوزان، وما من تلخيصٍ له مضمونُ الأمانة. ولهذا شأنٌ حيثما وجب تبرير القرار، في الائتمان والتوظيف والطب، وبصورةٍ متزايدة تحت تنظيمٍ يطلب سبباً لا مجرد مخرج.
طلب المنظِّم قابليةً للتفسير لا دقةً فحسب.
Also known as
- interpretability
- explainable AI
- XAI
- إمكانية التفسير
- الشفافية التفسيرية
- قابلية التأويل
Also seen as, but not recommended
- القابلية للتفسير
- الشفافية
Why this form: «الشفافية» (transparency) is about disclosure of process; explainability is about accounting for a specific decision.