Actually, both could be used. The reason for using NCE has more to do with how the memory bank paper was set up. So, with k+1 negatives, it’s equivalent to solving k+1 binary problem. Another way of doing it is using a softmax, where you apply a softmax and minimize the negative log-likelihood
En fait, les deux pourraient être utilisés. La raison de l’utilisation du NCE a plus à voir avec la façon dont le papier de la banque de données a été mis en place. Ainsi, avec k+1 négatifs, cela équivaut à résoudre k+1 problème binaire. Une autre façon de procéder est d’utiliser une fonction softmax et minimiser la log-vraisemblance négative.