15 – Diffusion-based Generative models  (07/04/2025 - 09/04/2025)

Cette semaine, votre TA en chef, Samuel Lavoie, vous fera découvrir les modèles génératifs basés sur la diffusion.

Slides:

• Diffusion part 1 

• Diffusion part 2 

References:  Les liens sont disponibles dans les diapositives.

13 – Variational Autoencoders  

Dans ce cours, nous discuterons d'une famille de modèles de variables latentes connue sous le nom d'auto-encodeurs variationnels (VAE). Nous verrons comment un modèle gaussien latent profond peut être vu comme un auto-encodeur via une inférence variationnelle amortie, et comment un tel auto-encodeur peut être utilisé comme modèle génératif. À la fin, nous verrons des variantes de VAE et différentes façons d'améliorer l'inférence.

Slides:

• Variational Autoencoders

Reference: (* = you are responsible for this material)

• *Chapter 20.10.3 of the Deep Learning textbook.

• *Chapter 2 of An Introduction to Variational Autoencoders by Kingma and Welling

• Inference Suboptimality in Variational Autoencoders by Chris Cremer (ICML 2018)

• Importance Weighted Autoencoders by Yuri Burda (ICLR 2016)

• Variational Inference, lecture note by David Blei. Section 1-6.

• Blog post Variational Autoencoder Explained by Goker Erdogan

• Blog post Families of Generative Models by Andre Cianflone

11 – Self-Supervised Learning (24/03/2025)

Dans ces cours, nous discuterons de l'apprentissage auto-supervisé. Nous discuterons de la manière de créer une représentation au-delà du paradigme de la pré-formation supervisée, et nous verrons comment des tâches de prétexte efficaces peuvent être conçues et comment s'entraîner avec des objectifs contrastés.

Slides:

• SSL

Reference:

• Doersch, Carl, Abhinav Gupta, and Alexei A. Efros. "Unsupervised visual representation learning by context prediction." CVPR (2015).

• Gidaris, Spyros, Praveer Singh, and Nikos Komodakis. "Unsupervised representation learning by predicting image rotations." ICLR (2018).

• Wu, Zhirong, et al. "Unsupervised feature learning via non-parametric instance discrimination." CVPR (2018).

• He, Kaiming, et al. "Momentum contrast for unsupervised visual representation learning." CVPR (2020).

• Chen, Ting, et al. "Big self-supervised models are strong semi-supervised learners." (2020).

• Grill, Jean-Bastien, et al. "Bootstrap your own latent: A new approach to self-supervised learning." NeurIPS (2020).

09 – RL (17/03/2025)

Dans ce cours, nous serons initiés à l’apprentissage par renforcement.

Slides:

• RL   -- jusqu'à la diapositive 38, "Monte-Carlo Policy Gradient (REINFORCE)"

07 – Modèles séquentiels (17/02/2025, 19/02/2025)

Dans ce cours, nous présentons les réseaux neuronaux récurrents et les modèles associés.

• cours RNNs (slides de Hugo Larochelle)

Reference: (* = you are responsible for this material)

• *Chapter 10 of the Deep Learning textbook (sections. 10.1-10.11, we will cover the material in 10.12 later).

• Blog post on Understanding LSTM Networks  by Chris Olah.

05 – Méthodes d'optimisation et de normalisation (03/02/2025)

Dans ce cours, nous discuterons des méthodes d'optimisation de premier ordre populaires et pratiques. Nous n'en discuterons pas, mais je fournis des diapositives pour certaines méthodes de second ordre et leur interprétation.

Slides:

• Optimization I: First-Order Methods (et méthodes de normalisation)

• Optimization II: Second-Order Methods (optional)

Reference: (* = vous êtes responsable de ce matériel)

• *Chapter 8 of the Deep Learning textbook.

• Why Momentum Really Works. Gabriel Goh, Distill 2017.

03 – ConvNets (20/01/2025, 22/01/2025, 27/01/2025, 31/01/2025)

Dans ce cours, nous terminons notre discussion sur l'appentissage des réseaux de neurones et nous introduisons les réseaux de neurones convolutifs.

Cours CNNs  (diapositives modifiées à partir des notes de cours d'Hugo Larochelle)

Backprop in CNNs (Slides de Hiroshi Kuwajima’s Memo on Backpropagation in Convolutional Neural Networks.) -- nous n'en parlerons pas en classe, mais elles sont obligatoires et vous en êtes responsable. (pourrait être sur les devoirs et l'examen)

Reference: (* = you are responsible for all of this material)

• *Chapter 9 of the Deep Learning textbook, Sections 9.10 and 9.11 are optional.

• Andrej Karpathy’s excellent tutorial on CNNs.

•  Paper on convolution arithmetic by Vincent Dumoulin and Francesco Visin.

• WaveNet Blog presenting dilated convolutions animation and samples.

• Blog on Deconvolution and Checkerboard Artifacts by Augustus Odena, Vincent Dumoulin and Chris Olah.