Concatenate the output of the two models in order to get the word representation. Now can condition on both the rightward and leftward context.
On peut alors concaténer les résultats des deux modèles afin d’obtenir la représentation des mots. On peut maintenant conditionner le contexte à droite et à gauche.