English
Bias in AI is a systematic skew in a model's outputs that unfairly favors or disfavors certain groups or viewpoints, usually inherited from patterns in its training data. It can show up as stereotyped language, unequal accuracy across demographic groups, or skewed decisions in areas like hiring or lending.
Bias is systematic skew in a model's behaviour that tracks something it should not, gender, dialect, region, name. It enters through the training data far more often than through the algorithm, which is why it cannot be debugged out at the end. For Arabic it is frequently a coverage problem: dialects and regions under-represented in the corpus are handled measurably worse, and the model gives no signal that it is doing so.
The audit found bias against Maghrebi dialects in the classifier.
العربية
التحيّز في الذكاء الاصطناعي هو انحراف منهجي في مخرجات النموذج يُفضّل أو يُجحف بحق فئات أو آراء معيّنة بشكل غير عادل، وغالباً ما يكون موروثاً من أنماط بيانات التدريب. يظهر ذلك في لغة نمطية، أو دقة غير متساوية بين فئات سكانية مختلفة، أو قرارات منحازة في مجالات مثل التوظيف أو الإقراض.
التحيز انحرافٌ منهجيٌّ في سلوك النموذج يتبع ما لا ينبغي أن يتبعه، من جنسٍ أو لهجةٍ أو إقليمٍ أو اسم. ويدخل عبر بيانات التدريب أكثر بكثير مما يدخل عبر الخوارزمية، ولهذا يتعذر تنقيحه في النهاية. وهو في العربية مشكلة تغطيةٍ في الغالب: فاللهجات والأقاليم الأقل تمثيلاً في المدونة تُعالَج معالجةً أسوأ قياساً، ولا يعطي النموذج أي إشارةٍ إلى أنه يفعل ذلك.
كشف التدقيق تحيزاً ضد اللهجات المغاربية في المصنِّف.
يُعرف أيضاً بـ
- algorithmic bias
- model bias
- تحيز خوارزمي
- التحيز في النماذج
يُكتب أيضاً هكذا، ولا نوصي به
- الانحياز
- التحيّز الخوارزمي