Softplus is a smooth approximation to the ReLU function and can be used to constrain the output of a machine to always be positive.
La softplus est une approximation lisse de la fonction ReLU et peut être utilisée pour contraindre la sortie d’une machine à toujours être positive.