Соревнование на ImageNet
Выборка ImageNet
Датасет ImageNet [1] - одна из самых больших размеченных баз данных для классификации и локализации изображений. Она содержит свыше 14 миллионов изображений, для каждого из которых поставлен в соответствие класс изображённого на нём объекта вместе с координатами выделяющего его прямоугольника.
Сами классы разбиты по категориям и подкатегориям аналогично семантической сети WordNet [2].
С 2010 по 2017 проводилось соревнование ILSVRC (ImageNet Large Scale Visual Recognition Challenge [3], [4]), в котором различные исследовательские команды соревновались по построению наиболее точных классификаторов изображений, взятых из базы ImageNet. В ILSVRC рассматривается задача классификации на 1000 отобранных классов.
Поскольку классов много, то методы оценивались по топ-5 точности. То есть предсказание считается успешным, если правильный класс встречается среди пяти наиболее вероятны х классов по мнению модели.
Toп-5 точность для прогнозирующих алгоритмов, которые побеждали в соревновании ILSVRC в разные годы, приведена ниже [5]:
При этом видно, что число используемых слоёв в сетях-победителях соревнования также росло.
Результаты соревнования ILSVRC породили массовый интерес к глубоким нейросетям, которые, начиная с 2012 года, стали показывать лучшие результаты по точности, а c 2015 - даже более высокую точность, чем человек, оцениваемую в 5.1% [4].
Бурный рост развития глубоких нейросетей был обеспечен в первую очередь появлением мощных вычислителей (видеокарт), на которых эти сети можно было настраивать и применять. Также этому способствовало появление многих архитектурных инноваций и инженерных приёмов по регуляризации, позволивших настраивать эти нейросети так, чтобы они не переобучались.
Далее мы изучим архитектуры, показавшие лучшие результаты в соревнованиях: AlexNet и ZFNet, VGG, GoogleNet, ResNet, а также их дальнейшие усовершенствования. В конце главы изучим, какие идеи используются, чтобы эффективно классифицировать изображения на простых вычислителях, таких как процессор мобильного телефона.