For an input x and target output y, we can formulate a network as a collection of functions, fk​ and weights, wk​ such that successive steps in the network output zk​ with zk+1​=fk​(zk​,wk​). In a supervised setting, the goal of the network is to minimize C(zn,y), the cost of the nthnth output of the network, with respect to the ground truth. This is equivalent to the problem of minimizing C(zn​,y) with respect to the constraints zk+1​=fk​(zk​,wk​) and z0​=x.
Pour une entrée x et une sortie cible y, nous pouvons formuler un réseau comme un ensemble de fonctions fk et de poids wk​ de sorte que les étapes successives du réseau produisent zk avec zk+1​=fk​(zk​,wk​). Dans un environnement supervisé, l’objectif du réseau est de minimiser C(zn​,y), le coût de la sortie nthnth du réseau, par rapport à la vérité de terrain. Ceci est équivalent au problème de la minimisation de C(zn,y) par rapport aux contraintes zk+1​=fk​(zk​,wk​) et z0​=x.