Интерпретация сложных моделей
Способы интерпретации сложных моделей машинного обучения (black-box model interpretation). Ограничение подходов, вызванное тем, что корреляция не всегда означает причинно-следственную связь (correlation does not imply causation).
Анализ ошибок модели
Анализ ошибок модели с помощью графика зависимости прогнозных значений от реальных. Матрица ошибок.
Прогнозы на типичных и нетипичных объектах
Метод анализа моделей на типичных объектах (прототипах) и нетипичных объектах (критиках). Методы выделения прототипов и критиков.
Влияние признаков на качество прогнозов
Анализ моделей машинного обучения по влиянию каждого признака на точность моделей. Методом перестановочной важности признаков (permutation feature importance). Преимущества и недостатки метода. Пример использования.
Значения Шепли
Значения Шепли (Shapley values) для оценки важности признаков как для отдельного прогноза, так и в целом по выборке. Пример использования и формула для расчёта.
Локальное объяснение интерпретируемой моделью
Алгоритм LIME для объяснения и интерпретации прогнозов сложными моделями, такими как нейросети. Особенности применения и пример использования.
Влияние фрагментов
Интерпретация моделей методом оценки влияния фрагментов изображения на прогноз. Выделение фрагментов методом разбиения изображения на суперпиксели. Алгоритм SLIC. Расширение методики на классификацию текстов.
Зависимость прогноза от признаков
Интерпретация моделей за счёт анализа влияния отдельного признака на прогноз модели. Методы Partial Dependence Plot, Individual Conditional Expectation, Marginal Plot, Accumulated Local Effects. Их сравнительные преимущества и н едостатки. Примеры использования.
Контрфактические объяснения
Анализ и интерпретация прогнозов модели с помощью контрфактических объяснений (counterfactual explanations). Метод расчёта и примеры контрфактических объяснений.
Влияние обучающих объектов
Анализ моделей за счёт оценки влияния на них отдельных обучающих объектов. Примеры применения этого подхода для лучшей настройки моделей машинного обучения.
Вопросы
Вопросы по интерпретации моделей машинного обучения.