The second leg of the lecture further discusses the application of graphical model methods to energy-based models. After spending some time comparing different loss functions, we discuss the application of the Viterbi algorithm and forward algorithm to graphical transformer networks. We then transition to discussing the Lagrangian formulation of backpropagation and then variational inference for energy-based models.
La deuxième partie du cours traite plus en détail de l’application des méthodes de modélisation graphique aux modèles à base d’énergie (EBMs). Après avoir passé un certain temps à comparer différentes fonctions de perte, nous discutons de l’application de l’algorithme de Viterbi et de l’algorithme forward aux GTNs. Nous abordons à la formulation lagrangienne de la rétropropagation et à l’inférence variationnelle pour les EBMs.