Encog Time Series Prediction просто держится сверху и не улучшается

Question

Я использую encog для java для прогнозирования временных рядов, но, похоже, он вообще не работает. Я довольно новичок в этом, и я не знаю, что случилось.

Красная линия является подготовка данных (~ 3600 entrys данных) и синяя линия предсказанием Neural Net ...

Я использую последние 250 точек данных, чтобы предсказать следующий один.

Структура сети:

BasicNetwork net = new BasicNetwork(); net.addLayer(new BasicLayer(null, true, 250)); net.addLayer(new BasicLayer(new ActivationSigmoid(), true, 6)); net.addLayer(new BasicLayer(new ActivationSigmoid(), true, 1)); net.setLogic(new FeedforwardLogic()); net.getStructure().finalizeStructure(); net.reset(); final ManhattanPropagation train = new ManhattanPropagation(net, ndata, 0.5);

Кроме того, это не действительно важно, сколько итераций я делаю, после того, как первый, как 10 итераций она торчащие на одно значение ошибки постоянно.

Answer 1

Прежде всего, ваше отношение входов/скрытых узлов/выхода вряд ли будет работать. В своих книгах Heaton дает советы использовать следующее правило: Предположим, что x обозначает входные узлы. Тогда число скрытых нейронов должно быть x * 2/3. Для выходных нейронов слоя I (Heaton не дает никаких советов, кроме как попробовать), как обычно используют x/15.

Вторая часть - это алгоритм обучения. Распространение Манхэттена не так хорошо, как rmsprop + backpropogation (также согласно книгам Джеффа Хитона).

Answer 2

Я не думаю, что ваш подход будет работать (мой скромный взгляд) только с точки зрения прогнозирования временных рядов с простой сетью прямой передачи, поэтому для прогнозирования временных рядов необходимо понять структуру данных со временем, которая возникает часто, а затем предскажите следующую точку данных. Я предполагаю, что сеть не сходится из-за (возможно) перемещения данных. Используйте сети LSTM или иерархическую временную память для этого, вероятно, вы получите лучший результат, надеюсь.