Почему предложение функции активации выхода нейронной сети в ящике NNtool является чистолинейной?

Question

Когда я изучаю нейронную сеть, математический вывод всегда использует сигма-функцию в скрытом слое и уровне вывода. Но поле NNtool в Mathworks предлагает пользователю использовать сигму в скрытом слое и pureline в выходном слое. Может ли кто-нибудь сказать мне, почему выходной слой может быть чистлинкой? Я просто не могу понять причину этой функции активации.

http://imgur.com/9V2HIlF // традиционная формула обратного распространения

В формуле, если я использую функцию pureline, результат будет сильно отличаться. Но я не вижу никакого вывода обратного распространения, когда функция активации вывода является чистой линией. Я просто задаюсь вопросом, есть ли какая-то причина для использования prureline, в то время как это не то же самое, что традиционное обратное распространение.

Answer 1

Цель использования сигмоидной функции как функции активации в искусственной нейронной сети - ограничить диапазон выходов. Если это было использовано на скрытом слое, количество узлов скрытого уровня ограничено, а усиление узлов выходного уровня ограничено, тогда узлы выходного уровня будут иметь ограниченный вывод.

Но это всего лишь предложение. Вы все равно можете использовать сигмоид в выходном слое.