Регуляризация
Регуляризация моделей машинного обучения и нейронных сетей.
Регуляризация весов нейросети
Регуляризация весов нейросети - L1 и L2 регуляризация, формула, отличия.
Ограничение архитектуры
Способы регуляризации нейросетей через ограничение архитектуры и наложение ограничений на веса.
Трансферное обучение
Трансферное обучение (transfer learning) при настройке нейронных сетей. Виды трансферного обучения.
Ранняя остановка и зашумление входов
Ранняя остановка (early stopping) и зашумление признаков как способы регуляризации нейросети.
Аугментация данных
Аугментация данных в нейронных сетях и моделях машинного обучения.
Дропаут
Метод DropOut в нейронных сетях - алгоритм работы в режиме обучения и применения нейронной сети, мотивация и особенности настройки. Метод DropConnect.
Прореживание сети
Методы прореживания нейронных сетей (neural network pruning).
Дистилляция знаний
Дистилляция знаний при обучении нейросетей.