Intuitively, the invariance term of the objective, by trying to equate the diagonal elements of the cross-correlation matrix to 1, makes the representation invariant to the distortions applied. The redundancy reduction term, by trying to equate the off-diagonal elements of the cross-correlation matrix to 0, decorrelates the different vector components of the representation. This decorrelation reduces the redundancy between output units, so that the output units contain non-redundant information about the sample.
Intuitivement, en essayant d’égaliser les éléments diagonaux de la matrice de corrélation croisée à 1, le terme d’invariance de l’objectif rend la représentation invariante aux distorsions appliquées. En essayant d’égaliser les éléments hors diagonale de la matrice de corrélation croisée à 0, le terme de réduction de la redondance décorréle les différentes composantes vectorielles de la représentation. Cette décorrélation réduit la redondance entre les unités de sortie, de sorte que les unités de sortie contiennent des informations non redondantes sur l’échantillon.