Dr. Nataliya K. Sakhnenko
2024
Основні означення. Машинне навчання, штучний інтелект. Еволюція штучного інтелекту. Загальний огляд сучасних моделей. Силабус.
Lc 2. Кероване навчання. pdf youtube
Лінійна регресія. Поліноміальна регресія. L1 та L2 регуляризація. Методи класифікації. Показники ефективності моделей класифікації. Логістична регресія. Дерево ухвалення рішень. Метод к-ближніх сусідів.
Lc 3. Кероване навчання. pdf youtube
Метод опорних векторів. Ансамблеве навчання: Random Forest, AdaBoost, Gradient Boost
Lc 4. Кероване та некероване навчання pdf youtube
Наївний баєсів класифікатор. Задачі кластеризації: метод к-середніх, методи оцінки якості кластеризації.
Lc 5. Некероване навчання pdf youtube
Кластеризація: ЕМ алгоритм, ієрархічна кластеризація та DBSCAN. Методи зниження розмірності: PCA та TSNe
Lc 6. Методи обробки природної мови (NLP) pdf youtube
Передобробка текстових даних. Векторизація слів за їх частотою та TF-IDF векторизація. Тематичне моделювання (LSA). Побудова n-gram-них мовних моделей.
Lc 7. Штучні нейронні мережі. Повнозв'язні нейромережі pdf youtube
Навчання нейромереж методом backpropagation. Проблема згасання градієнтів. Ініціалізація вагів. Batch Normalization
Lc 8. Навчання глибоких нейромереж pdf youtube
Регуляризація. Методи оптимізації градієнтного спуску. Перенесення навчання (Transfer learning). Автокодувальники
Lc 9. Згорткові нейронні мережі (CNN) pdf youtube
Основні поняття та складові блоки згорткових мереж. Найбільш відомі сучасні архітектури (VGG, Inception, ResNet, MobileNet) та можливості їхнього використання
Lc 10. Рекурентні нейронні мережі (RNN) pdf youtube
Опрацювання послідовностей (часових рядів). Архітектури LSTM та GRU. Класифікація текстів за допомогою рекурентних мереж. Word2Vec та Glove.
Lc 11. Рекурентні нейронні мережі pdf youtube
Генерація текстів за допомогою RNN. Машинний переклад (seq2seq). Механізм уваги в рекурентних мережах.
Lc 12. Трансформери. pdf youtube
Архітектура Transformer, механізм внутрішньої уваги, мовні моделі, що базуються на цій архітектурі (GPT, BERT). Великі мовні моделі. Механізм дистиляції знань в нейромережах (DistilBERT)
Lc 13. Генерація зображень за допомогою нейромереж pdf youtube
Перенесення стилю зображення. Генеративні змагальні мережі (GAN).
Lc 14. Генерація зображень за допомогою нейромереж pdf youtube
Варіаційний автокодувальник (VAE). Обумовлений VAE. VQ-VAE. Дифузні моделі. Пряма та обернена дифузія. Латентна дифузія.
Lc 15. Генерація зображень за текстовим описом pdf youtube
Трансформер для опрацювання зображень (ViT). Навчання на контрастах. Архітектура CLIP. Генерація зображень за текстовим описом: DALL-Е-1, GLIDE, DALLE-2
Lc 16. Advanced Architectures xLSTM KAN RAG PINNs youtube
Extended Long Short-Term Memory (xLSTM). Kolmogorov-Arnold Networks (KAN). Retrieval Augmented Generation (RAG). Physics-informed neural networks (PINN)
Suplementary materials for practic lessons github