Предположим, если у вас есть примеры обучения, а размер его партии равен 500, то для завершения 1 эпохи потребуется 2 итерации. Теперь предположим, что я использую фреймворк caffe framework на основе данных о лету, т. Е. 10 культур на пример.
Мой вопрос будет в размере эпохи будет по-прежнему 2 итерации, как в приведенных выше примерах, или стать 2 * 10 = 20?Размер Epoch (с точки зрения итераций) с увеличением данных caffe
2
A
ответ
3
Эпоха - это количество итераций, которые требуется для прохождения данных обучения один раз. Поскольку вы увеличиваете свои данные, вам потребуется в 10 раз больше итераций, чтобы пройти один проход по данным обучения. Отсюда 1 epoch = 2*10 iterations
сейчас.
Итак, по расширению, если размер партии равен 100, тогда в 1 итерации будет охвачено только 10 реальных примеров обучения (без урожая). Я прав? – Deven
@Deven AFAIK да. – Shai
@Shai Я не мог найти никаких доказательств этого в Caffe [исходный код] (https://github.com/BVLC/caffe/blob/master/src/caffe/data_transformer.cpp#L354). Основываясь на вашем ответе, если мы удалим «transform_param» с уровня данных, мы должны ожидать более быстрого обучения (гораздо меньше изображений), правильно? Я сделал этот эксперимент, установив, что урожай будет всего на 1 пиксель меньше исходного размера, а время обучения и используемая память GPU были незначительно одинаковыми. Я думаю, что увеличение «на лету» позволяет варьировать изображения только между эпохами, фактически увеличивая количество изображений, просматриваемых сетью. – Berriel