We force shared parameters to be equal, so the gradient w.r.t. to shared parameters will be summed in the backprop. For example the gradient of the cost function C(y,yˉ) with respect to u1​ will be the sum of the gradient of the cost function C(y,yˉ) with respect to w1​ and the gradient of the cost function C(y,yˉ) with respect to w2​.
Nous forçons les paramètres partagés à être égaux, de sorte que le gradient par rapport aux paramètres partagés sera additionné dans la rétropropagation. Par exemple, le gradient de la fonction de coût C(y,yˉ) par rapport à u1​ sera la somme du gradient de la fonction de coût C(y,yˉ) par rapport à w1​ et du gradient de la fonction de coût C(y,yˉ) par rapport à w2​.