gradient-descent

-1зной

1ответ

Каков правильный подход к обновлению весовых векторов в нейронной сети?

Я не знаю, как обновить вес в обратном распространении нейронной сети. Я тренирую 18 кортежей. Когда следует обновлять вес? После вычисления всех кортежей или расчета одного кортежа? Пожалуйста, помог

c# neural-network mathematical-optimization gradient-descent 2016-01-04

---

21зной

3ответ

Простая линейная регрессия в Python

Я пытаюсь реализовать этот алгоритм, чтобы найти точку пересечения и наклон для одной переменной: Вот мой Python код для обновления перехватывать и наклон. Но это не сближение. RSS растет с итерацией,

python numpy machine-learning linear-regression gradient-descent 2016-01-10

---

1зной

1ответ

Проверка градиентов с использованием конечных разностей

Я отлаживаю свой ограниченный стохастический алгоритм спуска градиента, а в документе http://research.microsoft.com/pubs/192769/tricks-2012.pdf предлагается проверить градиенты с использованием конечн

machine-learning gradient gradient-descent 2016-01-12

---

6зной

1ответ

Объяснение для спуска градиента и субградиента

Как получить простое объяснение решения спуска градиента и субградиента в контексте лассо. Интуитивное объяснение, за которым следует доказательство, будет полезно.

machine-learning mathematical-optimization gradient-descent 2016-01-16

---

1зной

1ответ

В чем разница между CNN и деревом решений

Я читал статью, когда автор J. Welbl этой статьи http://hci.iwr.uni-heidelberg.de/publications/mip/techrep/welbl_14_casting.pdf предложил объединить сверточные нейронные сети с деревьями решений. Вот

machine-learning decision-tree prediction backpropagation gradient-descent 2015-12-05

---

1зной

2ответ

Масштабирование функции (нормализация) при множественном регрессионном анализе с использованием метода нормальных уравнений?

Я делаю линейную регрессию с несколькими функциями. Я решил использовать метод нормальных уравнений для нахождения коэффициентов линейной модели. Если мы используем градиентный спуск для линейной регр

machine-learning regression normalization linear-regression gradient-descent 2015-12-08

---

5зной

1ответ

theano hard_sigmoid() разрывает градиентный спуск

для намерения выделить проблему позволяет следовать этому tutorial. Theano имеет 3 способа вычисления сигмовидной тензора, а именно sigmoid, ultra_fast_sigmoid и hard_sidmoid. Кажется, что использован

python theano gradient-descent 2016-02-04

---

0зной

1ответ

Может ли FTRL применяться на линейных наименьших квадратах? или это только для моделей логистической регрессии?

Я изучаю следующий пролетный спуск градиента FTRL: paper, reference implementation. Всюду упоминается FTRL, поверхность потерь для градиента прилива - это LogLoss, а модель для прогнозирования - Logis

linear-regression logistic-regression gradient-descent 2016-02-06

---