Ансамбли моделей

Ансамбли моделей - это подход в машинном обучении, который заключается в комбинировании предсказаний от нескольких базовых моделей. 

Основная идея ансамблей в том, что группа моделей в среднем работает лучше, чем любая модель по отдельности.

Популярные методы построения ансамблей:

- Бэггинг (bootstrap aggregating) - обучение моделей на разных выборках данных

- Бустинг (boostrap aggregating) - последовательное обучение моделей с акцентом на ошибки предыдущей модели

- Случайный лес (random forest) - много деревьев решений, обученных на разных данных

- Stacking - объединение моделей с мета-моделью

Преимущества ансамблей:

- Повышение точности за счет усреднения 

- Снижение дисперсии и переобучения

- Возможность комбинировать разные типы моделей

Ансамбли широко используются в соревнованиях по машинному обучению для получения наилучших результатов.