Our per-sample loss using the usual attention-based transformer is defined as the following:
Notre perte par échantillon, en utilisant le transformer habituel basé sur l’attention, est définie comme suit :