Я пытаюсь использовать кофе для реализации триплетных потерь, описанных в Schroff, Kalenichenko and Philbin "FaceNet: A Unified Embedding for Face Recognition and Clustering", 2015.Какова формула градиента распространения обратной связи по триплету?
Я новичок в этом, так как рассчитать градиент в обратном распространении?
Я предполагаю, что вы определить уровень потерь в
layer {
name: "tripletLoss"
type: "TripletLoss"
bottom: "anchor"
bottom: "positive"
bottom: "negative"
...
}
Теперь нужно вычислить градиент w.r.t каждый из «нижних» с.
Потеря определяется по формуле:
Градиент WRT "якорем" входного сигнала (fa):
Градиент WRT "положительного" вход (fp):
Градиент по отрицательному входу (fn):
оригинальный расчет (я оставляю здесь по сентиментальным причинам ...)
Пожалуйста, см comment коррекции последнего члена.
Последний, градиент «отрицательный», не должен быть 2 (fa - fn)? –
@ MickeyShine да, вы правы. – Shai
@ MickeyShine вы должны посмотреть на реализацию ['EucleadianLossLayer'] (https://github.com/BVLC/caffe/blob/master/src/caffe/layers/euclidean_loss_layer.cpp), чтобы увидеть, как эти вычисления могут быть реализованы в кафе. – Shai
Я вижу, что существует открытый PR, реализующий эту потерю: https://github.com/BVLC/caffe/pull/3663 – Shai