For implementation, we can speed up computation by stacking all the W’s into one tall W and then calculate q,k,v in one go
Pour l’implémentation, nous pouvons accélérer le calcul en empilant tous les W en un seul grand W et calculer ensuite q,k,v en une seule fois :