9
Может кто-нибудь объяснить мне или указать мне некоторые причины (или ситуации, когда) в нейронной сети было бы необходимо или полезно более одного скрытого слоя?Число скрытых слоев в модели нейронной сети
A
ответ
4
- Это больше похоже на то, как работает мозг (который не обязательно может быть вычислительное преимущество, но многие люди исследуют NN, чтобы получить представление о том, как ум работает, а не для решения реальных проблем .
- Его легче достичь некоторых видов инвариантности с использованием нескольких слоев. Например, классификатор изображений, который работает независимо от того, где в изображении объект найден, или размер объекта см. Bouvrie, J. , L. Rosasco, and T. Poggio. "On Invariance in Hierarchical Models". Advances in Neural Information Processing Systems (NIPS) 22, 2009.
2
Каждый слой эффективно повышает потенциальную «сложность» адаптации экспоненциальным образом (в отличие от мультипликативного способа добавления большего количества узлов к одному слою).
6
В основном больше слоев позволяет представить больше функций. Стандартная книга курсов искусственного интеллекта, «Искусственный интеллект, современный подход» Рассела и Норвига, подробно объясняет, почему в главе 20 много элементов.
Важным моментом является то, что при достаточно большом одиночном скрытом слое, вы можете представлять каждую непрерывную функцию, но вам потребуется как минимум 2 слоя, чтобы иметь возможность представлять каждую прерывистую функцию.
На практике, однако, одного слоя достаточно не менее 99% времени.