GSN

Laboratorium 7

• pojawiła się oficjalna strona przedmiotu https://gsn.mimuw.edu.pl/
• omawiamy https://gsn.mimuw.edu.pl/lab6.py_

Laboratorium 6

• Studenci powinni mieć konta na entropii
• https://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html

Laboratorium 5

• https://colab.research.google.com/drive/1YwAig8HiHWziW1ZmIHL-EbVVR9U4FK88
• Proszę, żeby każdy zrobił po co najmniej jednym łatwym zadaniu
• Regularyzacja L1 L2
  • Pełniejszy wykład https://www.youtube.com/watch?v=d6XDOS4btck
  • Prostszy https://www.deeplearning-academy.com/p/ai-wiki-regularization
• Nesterov, adagrad, RMSProp https://cs231n.github.io/neural-networks-3/#sgd
• Dropout https://cs231n.github.io/neural-networks-2/#reg

Laboratorium 4

• Pogadamy o sympy
• Pogadamy o cenach mieszkań
• Może zobaczymy rozwiązanie ćwiczenia 3 i 5
• Zobaczmy dobre przypomnienie https://towardsdatascience.com/how-to-build-your-own-neural-network-from-scratch-in-python-68998a08e4f6
• Na kolejne zajęcia inna metoda na MNISTa https://colab.research.google.com/drive/1rJg11TvqAzAT3gHc7vKIrs_i75-xXJBW

Laboratorium 3

• Zobaczymy sympy https://colab.research.google.com/drive/1BBtbW1rKCVUXUiMVgK0UMX-NDBdhymIe
• Omówimy ćwiczenie 4 https://colab.research.google.com/drive/1KEArJP79naFU1PNiPhuIoYuMCDOVnmDW
• Na kolejny tydzień do oddania jest ćwiczenie 5 https://colab.research.google.com/drive/1ZysoLzk3YHhwmaTey0FtMsnfdfxyNjMU

Laboratorium 2

• Samodzielnie pracujemy nad Ćwiczeniem 2 https://colab.research.google.com/drive/1jSk9vCU-1f0Fy53YPb-YSNLd7fEaRvWV
• Ćwiczenie 3 jest do sprawdzenia w przyszłym tygodniu https://colab.research.google.com/drive/161R3CKmI94D2tHM2TgHu-ZTgW3av5UM-

Laboratorium 1

• Zrobimy Ćwiczenie 1 (w szczególności numeryczne i analityczne policzenie gradientu) itd, będę je sprawdzał za tydzień (na plusy)
• https://colab.research.google.com/drive/1YfaIgIckotDhaaTe5uaGpHIefi7rKWQI
• Zastanowimy się nad założeniami regresji liniowej http://r-statistics.co/Assumptions-of-Linear-Regression.html
• Zastanowimy się razem nad tym co oznaczają hinty w Ćwiczeniu drugim
• Samodzielnie zaczniemy pracę nad Ćwiczeniem 2 i 3
• Tutaj są treści https://www.mimuw.edu.pl/~ciebie/DL1920.zip

Poniżej są stare (z 2019 roku) zadania

Slajdy i ćwiczenia są dostępne na https://bit.ly/2SZfkkS

Laboratorium

• Policzymy gradient L2
• Popatrzymy na stronę o optymalizacji: http://ruder.io/optimizing-gradient-descent/
• Samodzielnie zaczniemy pracę nad Ćwiczeniem 7
• Jeśli ktoś chce robić dropout, to niech przeczyta https://www.deeplearningbook.org/contents/regularization.html (rozdział 7.12)

Laboratorium

• Omówimy "prawie rozwiązanie" www.mimuw.edu.pl/~ciebie/nn2.txt
• Samodzielnie zaczniemy pracę nad Ćwiczeniem 6 (www.mimuw.edu.pl/~ciebie/Exercise_6_P3.ipynb)

Laboratorium

• Razem zrobimy Ćwiczenie 4 (najpierw gradientowo a potem sklearn)
• Samodzielnie zaczniemy pracę nad Ćwiczeniem 5