Простой (рабочий) рукописный распознавание цифр: как его улучшить?

Question

Я просто написал это очень простое рукописное распознавание цифр. Here is 8kb archive со следующим кодом + десять файлов изображений .PNG. Он работает: хорошо известен как .

Короче говоря, каждую цифру базы данных (50x50 пикселей = 250 коэффициентов) является суммированы в 10-коэффициента вектор (сохраняя 10 самых больших сингулярных значений, см Low-rank approximation with SVD).

Затем для распознавания цифры мы минимизируем расстояние с цифрами в базе данных.

from scipy import misc 
import numpy as np 
import matplotlib.pyplot as plt 

digits = [] 
for i in range(11): 
    M = misc.imread(str(i) + '.png', flatten=True) 
    U, s, V = np.linalg.svd(M, full_matrices=False) 
    s[10:] = 0  # keep the 10 biggest singular values only, discard others 
    S = np.diag(s) 
    M_reduced = np.dot(U, np.dot(S, V))  # reconstitution of image with 10 biggest singular values 
    digits.append({'original': M, 'singular': s[:10], 'reduced': M_reduced}) 

# each 50x50 pixels digit is summarized into a vector of 10 coefficients : the 10 biggest singular values s[:10]  

# 0.png to 9.png = all the digits (for machine training) 
# 10.png = the digit to be recognized 
toberecognizeddigit = digits[10]  
digits = digits[:10] 

# we find the nearest-neighbour by minimizing the distance between singular values of toberecoginzeddigit and all the digits in database 
recognizeddigit = min(digits[:10], key=lambda d: sum((d['singular']-toberecognizeddigit['singular'])**2))  

plt.imshow(toberecognizeddigit['reduced'], interpolation='nearest', cmap=plt.cm.Greys_r) 
plt.show() 
plt.imshow(recognizeddigit['reduced'], interpolation='nearest', cmap=plt.cm.Greys_r) 
plt.show() 

Вопрос:

код работает (вы можете запустить код в архиве ZIP), но, как мы можем улучшить ее, чтобы иметь лучшие результаты? (в основном математические методы, которые я себе представляю).

Например, в моих тестах 9 и 3 иногда путаются друг с другом.

Answer 1

Распознавание цифр может быть довольно сложной областью. Особенно, когда цифры написаны очень разными или неясными способами. В попытке решить эту проблему было предпринято много подходов, и целые соревнования посвящены этой теме. Например, см. Kaggle's digit recognizer competition. Этот конкурс основан на хорошо известном MNIST data set. На форумах, которые есть, вы найдете много идей и подходов к этой проблеме, но я дам несколько быстрых предложений.

Многие люди подходят к этой проблеме как к проблеме классификации. Возможные алгоритмы для решения таких проблем включают, например, kNN, нейронные сети или повышение градиента.

Однако, как правило, алгоритма недостаточно для получения оптимальных скоростей классификации. Другим важным аспектом для улучшения ваших результатов является извлечение признаков. Идея состоит в том, чтобы вычислить функции, которые позволяют различать разные числа. Некоторые примеры функций для этого набора данных могут включать в себя количество цветных пикселей или, может быть, ширину и высоту цифр.

Хотя другие алгоритмы могут не быть тем, что вы ищете, возможно, что добавление дополнительных функций может повысить производительность алгоритма, который вы используете в настоящее время.