XGBoost — это метод градиентного бустинга, который использует деревья решений в качестве базовых классификаторов. Random forest — это метод мешков, который использует несколько деревьев решений для создания единого прогноза.