Международная группа исследователей представила работу, в которой впервые детально описала, как аугментация данных влияет на геометрию внутренних представлений глубоких нейронных сетей. Статья опубликована на сервере препринтов arXiv. Авторы использовали методы анализа форм, чтобы встроить скрытые представления сетей в метрическое пространство, где расстояние не зависит от масштаба, сдвига, поворота и отражения.
Оказалось, что увеличение силы аугментации ведет к плавным, упорядоченным траекториям в этом пространстве. Разные типы преобразований (сдвиги, повороты, изменения цвета и т.д.) отклоняют представления в характерных направлениях. Это открытие позволяет не только лучше понимать, что происходит внутри сети при обучении, но и предсказывать, какие модели будут наиболее эффективны при объединении в ансамбль.
Для эксперимента нейросети обучались на стандартных наборах данных (CIFAR-10 и ImageNet) с различными режимами аугментации. Затем с помощью специального инструментария из анализа форм скрытые векторы проецировались в пространство, инвариантное к аффинным преобразованиям. Анализ подтвердил, что даже при разных архитектурах и случайных инициализациях наблюдаются общие геометрические паттерны.
Практическая значимость работы — в возможности еще до финального обучения оценить, как та или иная стратегия аугментации повлияет на качество ансамбля. Это может сократить время подбора гиперпараметров и улучшить точность моделей в задачах компьютерного зрения и NLP.
Авторы подчеркивают, что предложенный подход — не просто описательный. Он дает количественную меру того, насколько различаются представления, и позволяет строить прогнозы. В будущем планируется изучить, как эти траектории связаны с обобщающей способностью сети и устойчивостью к состязательным атакам.
Работа представляет собой шаг к созданию более прозрачных и управляемых методов обучения глубоких нейронных сетей. Анализ геометрии представлений может стать стандартным инструментом как для исследователей, так и для инженеров, работающих с аугментацией данных.