Функция стоимости для нейронной сети свертки

Question

Я делаю классификацию текста с помощью нейронной сети свертывания. В примере MNIST у них есть 60 000 изображений примеров рукописных цифр, каждое изображение имеет размер 28 x 28 и 10 меток (от 0 до 9). Таким образом, размер вес будет 784 * 10 (28 * 28 = 784)

Вот их код:

x = tf.placeholder("float", [None, 784]) 
W = tf.Variable(tf.zeros([784,10])) 
b = tf.Variable(tf.zeros([10])) 

В моем случае, я применил word2vec кодировать документы. Результат «размер словаря» встраивания слов - 2000, а размер внедрения - 128. Существует 45 меток. Я попытался сделать то же, что и в примере, но это не сработало. Вот что я сделал: я обрабатывал каждый документ так же, как изображение. Например, документ может быть представлен как матрица 2000 x 128 (для слов, отображаемых в документе I, добавлено значение слова «Вектор» для этого столбца и оставлено другим равным нулю. У меня возникли проблемы с созданием W и x, так как мои входные данные NumPy массив 2000 х 128, а x = tf.placeholder("float", [None, 256000]). размер не соответствует.

Может NAY один предложить любые советы?

Благодарности

Answer 1

Заполнитель x представляет собой массив из уплощенных изображений, где первое измерение None соответствует размер партии, то есть количество изображений, и 256000 = 2000 * 128. Таким образом, для подачи x prop вы должны сгладить свой вклад. Поскольку вы указываете, что ваш вход - массивы numpy, взгляните на numpy.reshape и flatten.