Apprentissage Supervisé

Objectifs

Après un survol des 3 catégories de l'apprentissage, nous étudierons les 3 méthodes basiques, mais robustes, pour l'apprentissage supervisé (régression, k-NN, SVM) , suivi d'autres méthodes pour la régression et pour la classification. Nous aborderons également le sujet très important de ré-échantillonnage.

Contenu

• Définitions et cadre mathématique

• Régression et Classification

• Ré-échantillonnage

• Autres méthodes de régression (Ridge, Lasso, PCR, PLS)

• k-Nearest Neighbours (k-NN)

• Support Vector Machine (SVM)

• Arbres de Décision (CART)

• Autres méthodes de classification (régression logistique, LDA, naive Bayes)

Téléchargements

Fiche de TD/TP : TD_02 (Régression) données tires

Fiche de TD/TP : TD_03 (k-NNN et SVM)

1. Cours : Régression linéaire

   1. friends.html

   2. photo.html et les données photoCSV.csv

   3. Rlm.html et Rlm.pdf

2. Cours : k-NN

   1. iris-knn-1.html

   2. iris-knn-2.html

   3. knn_cancer.html, données Wisconsin du cancer

3. Cours : Bootstrap,

4. Cours : Ré-échantillonnage et tuning

   1. Validation croisée avec répétitions

   2. Validation croisée avec caret

   3. Tuning avec caret

5. Cours : SVM

   1. svm-01.html

   2. svm-1.html (SVM non-linéaire, courbes ROC)

   3. svm-genomic.html

6. Cours : CART (Classification And Regression Trees)

   1. class-champignon.html

   2. RF_lycee.html et son fichier de données.

   3. Boosting sur données iris

   4. Boosting vs. Modèles Linéaires sur données de Baseball (Hitters)

7. Cours : Régression Ridge, LASSO, PCR et PLS

   1. reg-ridge-lasso (données de Baseball)

   2. reg-PCR-PLS (données de Baseball)

   3. reg-subset-sel (selection de sous-ensembles pour données de Baseball)

8. Cours : Autres méthodes de Classification: régression logistique, LDA, naive Bayes

   1. reg-logistic.html

   2. lda_caret_iris.html

   3. NB_caret.html

9. Exemples complets et comparaison des méthodes

   1. Classification des données de diabète avec scikit-learn (python) pima-indians-diabete-naive-bayes.html

   2. Classification des données de vente de jus d'orange caret_OJ.html

   3. Régression des données de l'immobilier avec caret caret_SPOT.html