English
The algorithm that assigns blame for an error backwards through a network, so every weight learns how much it contributed and in which direction to move.
Training needs to know how each of billions of weights affected the final error. Backpropagation computes that efficiently by working backwards from the output, applying the chain rule layer by layer, so one pass yields a gradient for every weight at once. Without it, training a deep network would be computationally hopeless. It is the reason deep learning is possible at all.
Backpropagation computes the gradient for every parameter in one pass.
العربية
الخوارزمية التي توزّع مسؤولية الخطأ رجوعاً عبر الشبكة، فيعرف كل وزنٍ قدرَ إسهامه والاتجاهَ الذي عليه أن يتحرك إليه.
يحتاج التدريب إلى معرفة كيف أثّر كلٌّ من مليارات الأوزان في الخطأ النهائي. ويحسب الانتشار العكسي ذلك حساباً كفؤاً بالعمل رجوعاً من المخرج، مطبِّقاً قاعدة السلسلة طبقةً بعد طبقة، فتُنتج تمريرةٌ واحدة تدرّجاً لكل وزنٍ دفعةً واحدة. ولولاه لكان تدريب شبكةٍ عميقة ميؤوساً منه حسابياً، وهو سبب إمكان التعلم العميق أصلاً.
يحسب الانتشار العكسي التدرّج لكل معلمةٍ في تمريرةٍ واحدة.
Also known as
- backprop
- الانتشار الخلفي
- التغذية الراجعة العكسية
First use
1986 · Popularised for neural networks by Rumelhart, Hinton and Williams.