3. Recent models (during this course in 2020) use several billion parameters: 17B for T5, 175B for GPT3.
3. Les modèles récents (lors de ce cours en 2020) utilisent plusieurs milliards de paramètres : 17Mds pour le T5, 175Mds pour le GPT3.