Поиск примера глубокого автокодера для уменьшения размерности

Question

Я хочу настроить глубокий автокодер, чтобы уменьшить размерность моих входных данных, как описано в этом paper. Размеры слоя должны быть 2000-500-250-125-2-125-250-500-2000, и я хочу иметь возможность вытащить активацию слоя в середине (как описано в документе, я хочу использовать значения в качестве координат). Входные данные состоят из двоичных векторов длиной по 2000. Теперь я ищу рабочий пример, который я могу использовать в качестве отправной точки. Я уже пробовал DeepLearning4J, но не смог построить удовлетворяющий автокодер. Я был бы благодарен за любые предложения.

Answer 1

Вы должны ознакомиться с некоторыми учебными пособиями по адресу deeplearning.net. У них есть пример с кодом Stacked Denoising Autoencoder. Все учебники написаны в Theano, который представляет собой научную вычислительную библиотеку, которая будет генерировать код GPU для вас.

Вот пример визуализации полученных весов на 3-м уровне обучения SdA 200x200x200, обученного на LFW. Вы можете просто изменить код учебника SdA, связанный выше, чтобы получить те же результаты.