Интерпретация сложных моделей

📄️ Интерпретация сложных моделей

Основные подходы к интерпретации прогнозов сложных моделей машинного обучения (black-box model interpretation). Ограничение подходов, вызванное тем, что корреляция не всегда означает причинно-следственную связь (correlation does not imply causation).

📄️ Анализ ошибок модели

Анализ ошибок модели в разбивке по реальным значениям целевой переменной.

📄️ Прогнозы на типичных и нетипичных объектах

Анализ моделей на типичных объектах (прототипах) и нетипичных объектах (критиках). Методы выделения прототипов и критиков.

📄️ Влияние признаков на качество прогнозов

Расчёт влияния признака на качество прогнозов модели методом перестановочной важности признаков (permutation feature importance). Преимущества и недостатки метода. Пример использования.

📄️ Значения Шепли

Значения Шепли (Shapley values) для оценки важности признаков как для отдельного прогноза, так и в целом по выборке. Пример использования и формула для расчёта.

📄️ Локальное объяснение интерпретируемой моделью

Алгоритм LIME для объяснения и интерпретации прогнозов сложными моделями, такими как нейросети. Особенности применения и пример использования.

📄️ Влияние фрагментов

Метод оценки влияния фрагментов изображения на предсказанный класс. Расширение методики на классификацию текстов.

📄️ Зависимость прогноза от признаков

Методы построения графика влияния отдельного признака на прогнозы модели. Подходы Partial Dependence Plot, Individual Conditional Expectation, Marginal Plot, Accumulated Local Effects. Их сравнительные преимущества и недостатки. Примеры использования.