📄️ Интерпретация сложных моделей
Способы интерпретации сложных моделей машинного обучения (black-box model interpretation). Ограничение подходов, вызванное тем, что корреляция не всегда означает причинно-следственную связь (correlation does not imply causation).
📄️ Анализ ошибок модели
Анализ ошибок модели с помощью графика зависимости прогнозных значений от реальных. Матрица ошибок.
📄️ Прогнозы на типичных и нетипичных объектах
Метод анализа моделей на типичных объектах (прототипах) и нетипичных объектах (критиках). Методы выделения прототипов и критиков.
📄️ Влияние признаков на качество прогнозов
Анализ моделей машинного обучения по влиянию каждого признака на точность моделей. Методом перестановочной важности признаков (permutation feature importance). Преимущества и недостатки метода. Пример использования.
📄️ Значения Шепли
Значения Шепли (Shapley values) для оценки важности признаков как для отдельного прогноза, так и в целом по выборке. Пример использования и формула для расчёта.
📄️ Локальное объяснение интерпретируемой моделью
Алгоритм LIME для объяснения и интерпретации прогнозов сложными моделями, такими как нейросети. Особенности применения и пример использования.
📄️ Влияние фрагментов
Интерпретация моделей методом оценки влияния фрагментов изображения на прогноз. Выделение фрагментов методом разбиения изображения на суперпиксели. Алгоритм SLIC. Расширение методики на классификацию текстов.
📄️ Зависимость прогноза от признаков
Интерпретация моделей за счёт анализа влияния отдельного признака на прогноз модели. Методы Partial Dependence Plot, Individual Conditional Expectation, Marginal Plot, Accumulated Local Effects. Их сравнительные преимущества и недостатки. Примеры использования.
📄️ Контрфактические объяснения
Анализ и интерпретация прогнозов модели с помощью контрфактических объяснений (counterfactual explanations). Метод расчёта и примеры контрфактических объяснений.
📄️ Влияние обучающих объектов
Анализ моделей за счёт оценки влияния на них отдельных обучающих объектов. Примеры применения этого подхода для лучшей настройки моделей машинного обучения.
📄️ Вопросы
Вопросы по интерпретации моделей машинного обучения.