4

В чем разница между кластерами K-Mans и векторным квантованием? Они, похоже, очень похожи.Разница между кластером K-сред и векторным квантованием?

Я имею дело с Скрытые марковские модели, и мне нужно извлечь символы из векторов объектов.

Чтобы извлечь символы, выполняю ли векторное квантование или кластеризацию Kmeans?

+1

Будет ли новая вычислительная наука Q & A лучше для этого вопроса? http://scicomp.stackexchange.com –

ответ

12

Способ, которым я его понимаю, K-означает один тип векторного квантования.

+0

Точно. Кластеризация K-средних - это один из способов выполнения векторного квантования. Центроиды, найденные через К-средства, (с использованием терминологии теории информации) * символы * или * кодовые слова * для вашей * кодовой книги *. Чтобы декодировать вектор, назначьте вектор центроиду (или кодовому слову), к которому он ближе всего. –

3

Алгоритмы K-средних - это специализация знаменитого алгоритма квантования Lloyd I для случая эмпирических распределений. (см. Lloyd)

Обнаружено, что алгоритм Ллойда I дает последовательность квантователей с уменьшающимся квадратичным искажением. Однако, за исключением специального случая одномерных лог-вогнутых распределений, он не всегда сходится к квадратичному оптимальному квантователю. (Существуют локальные минимумы для ошибки квантования, особенно при работе с эмпирическим распределением, т.е. для задачи кластеризации.)

Метод, который сходится (всегда) к оптимальному квантователю, является так называемыми алгоритмами CLVQ, которые также обобщаются на проблема более общего квантования L^p. Это своего рода метод Стохастический градиент. (см. Pagès)

Существуют также некоторые подходы, основанные на генетических алгоритмах. (см. Hamida et al.) и/или классические процедуры оптимизации для одномерного случая, который сходится быстрее (Pagès, Printems).