Intervenants : Luca Nenna, Estelle Kuhn, Sylvain Faure
La première partie du cours a comme objectif l’étude de l’optimisation convexe (sans et sous contraintes) en dimension finie en se focalisant ensuite sur les propriétés de convergence des méthodes numériques d’ordre 1 (simple à programmer) et les applications à des problèmes concrets. Les principaux thèmes abordés sont : optimisation convexe lisse sans contraintes, optimisation convexe non lisse par régularisation, optimisation avec contrainte, dualité convexe, algorithmes de descente et algorithmes primaux-duaux.
La deuxième partie du cours est consacrée aux algorithmes d’optimisation dans un contexte à variables latentes et aux méthodes de simulation de variables aléatoires. Les principaux sujets abordés sont l’algorithme EM et ses variantes stochastiques
(description, propriété de croissance de la vraisemblance observée, exemples : MLE dans modèle linéaire à effets mixtes, MLE dans un modèle de mélange avec écriture hiérarchique du modèle, résultat de convergence de EM, variantes stochastiques de EM type SEM, MCEM, SAEM) ; l’algorithme du gradient stochastique (description, exemples, résultats théoriques, application au cas de la recherche du minimum d’une somme finie en grande dimension) ; les algorithmes d’approximation stochastique (description, lien avec le gradient stochastique, exemples, résultats théoriques) ; la simulation de variables aléatoires (méthodes exactes, échantillonnage d’importance, méthodes MCMC, algorithme de Hastings Metropolis, lien avec acceptation-rejet, algorithme de Gibbs, extensions).
La troisième partie du cours est constitué de TP sur machine et aborde des schémas numériques pour des EDO ou EDP, l’identifications de paramètres et les méthodes d’optimisation. Nous étudierons la résolution numérique d’un modèle biologique afin d’introduire quelques méthodes de discrétisation. Ensuite nous verrons comment identifier les paramètres du modèle à partir de mesures, ce sera également l’occasion d’aborder l’implémentation de méthodes d’optimisation. Le modèle choisi servira ainsi de fil conducteur durant toutes les séances afin d’introduire quelques notions de calcul scientifique.