Embed each word as a vector, which is a lookup table to the embedding matrix, so the word will get the same vector no matter what context it appears in. Apply same feed forward network at each time step
Il consiste à enchâsser chaque mot comme un vecteur, qui est une table de recherche de la matrice d’enchâssement, de sorte que le mot a le même vecteur quel que soit le contexte dans lequel il apparaît. On applique ensuite le même réseau feed forward à chaque pas de temps.