Как тренировать неконтролируемую нейронную сеть, такую ​​как RBM?

Question

Правильно ли этот процесс?

Предположим, у нас есть куча данных, таких как MNIST.

Мы просто передаем все эти данные (без ярлыка) на RBM и перепрограммируем каждый из данных обученной модели.

Затем вывод можно рассматривать как новые данные для классификации.

Правильно ли я это понимаю? Какова цель использования RBM?

Answer 1

Вы правы, RBM - это форма неконтролируемого алгоритма обучения, который обычно используется для уменьшения размерности вашего пространственного пространства. Другой распространенный подход - использовать автокодеры.

RBMs обучаются с использованием алгоритма контрастной расходимости. Лучший обзор этого алгоритма исходит от Джеффри Хинтона, который придумал это. https://www.cs.toronto.edu/~hinton/absps/guideTR.pdf

Отличный документ о том, как неконтролируемое обучение улучшает производительность, можно найти на http://jmlr.org/papers/volume11/erhan10a/erhan10a.pdf. В документе показано, что неконтролируемое обучение обеспечивает лучшее обобщение и фильтры (при использовании CRBM)