Ансамбли моделей

📄️ Ансамбли моделей

Понятие ансамблей моделей (model ensemble) в машинном обучении. Мотивация использования ансамблей для борьбы с переобучением, недообучением и в других случаях.

📄️ Математическое обоснование ансамблей

Доказательство разложений, демонстрирующих, что из неточных базовых моделей можно сформировать точный ансамбль моделей.

📄️ Простая агрегация в ансамблях

Простые способы объединения прогнозов в ансамблях моделей. Голосование по большинству, усреднение прогнозов, усреднение рейтингов Бриера.

📄️ Методы построения базовых моделей

Способы построения различных базовых моделей для построения ансамбля моделей (model ensemble).

📄️ Настройка на разных фрагментах обучающей выборки

Методы построения ансамблей моделей машинного обучения по псевдовыборкам из исходной обучающей выборки. Методы bagging, random subspaces, random patches, pasting, cross-validation. Влияние числа базовых моделей на качество прогнозов ансамбля. Оценка Out-of-Bag для определения качества прогнозов ансамблем моделей.