In this section, we discuss the shortcomings of pretext tasks, define characteristics that make a good pretrained feature, and how we can achieve this using Clustering and Contrastive Learning. We then learn about ClusterFit, its steps and performance. We further dive into a specific simple framework for Contrastive Learning known as PIRL. We discuss its working as well as its evaluation in different contexts.
Dans cette section, nous discutons des lacunes des tâches de prétexte, nous définissons les éléments qui font une bonne caractéristique pré-entraînée et comment nous pouvons y parvenir en utilisant le clustering et l’apprentissage contrastif. Nous en apprenons ensuite davantage sur le modèle ClusterFit, ses étapes et ses performances. Nous nous plongeons ensuite dans PIRL, un cadre simple et spécifique pour l’apprentissage contrastif. Nous discutons de son fonctionnement ainsi que de son évaluation dans différents contextes.