English
The gap between Modern Standard Arabic, which dominates written text and training corpora, and the regional varieties people actually speak. Models are typically far better at the former than the latter.
Arabic is diglossic: the formal written variety and the spoken varieties differ enough that competence in one does not confer competence in the other. Training data is overwhelmingly Modern Standard Arabic, because that is what gets written down. The result is a model that handles a newspaper editorial well and a customer-service conversation in Gulf, Egyptian, or Maghrebi Arabic considerably worse, and gives no indication that its confidence should have dropped.
The assistant handles MSA well but stumbles on Moroccan dialect.
العربية
الفجوة بين العربية الفصحى المعاصرة التي تهيمن على النص المكتوب ومدونات التدريب، وبين اللهجات الإقليمية التي يتكلمها الناس فعلاً. والنماذج أفضل عادةً في الأولى بكثير من الثانية.
العربية لغةٌ ازدواجية: إذ تختلف الصيغة الكتابية الرسمية عن الصيغ المنطوقة اختلافاً يكفي لألا تُغني الكفاءةُ في إحداهما عن الأخرى. وبيانات التدريب فصحى معاصرة في أغلبها الساحق، لأن ذلك ما يُكتَب. والنتيجة نموذجٌ يتعامل مع افتتاحية صحيفة تعاملاً جيداً، ومع محادثة خدمة عملاء بالخليجية أو المصرية أو المغاربية تعاملاً أسوأ بكثير، دون أن يشير إلى أن ثقته كان ينبغي أن تنخفض.
يتعامل المساعد مع الفصحى جيداً لكنه يتعثر في اللهجة المغربية.
Also known as
- diglossia
- dialectal Arabic
- الازدواجية اللغوية
- العامية