Как мне обучить HMM с Baum-Welch и несколько наблюдений?

Question

У меня возникли проблемы с пониманием того, как точно работает алгоритм Baum-Welch. Я читал, что он корректирует параметры HMM (переход и вероятности излучения), чтобы максимизировать вероятность того, что моя наблюдательная последовательность может быть замечена данной моделью.

Однако, что происходит, если у меня есть несколько последовательностей наблюдения? Я хочу тренировать свою HMM против огромного количества наблюдений (и я думаю, что это то, что обычно делается).

ghmm, например, может принимать как единую последовательность наблюдения, так и полный набор наблюдений для метода baumWelch.

Работает ли она одинаково в обеих ситуациях? Или алгоритм должен знать все наблюдения одновременно?

Answer 1

В Рабинер-х paper параметры ГММ (весы, средства и ковариации) повторно оценивается в алгоритме Baum-Welch с помощью этих уравнений:

Это только для одной последовательности наблюдений дело. В многократном случае числители и знаменатели всего суммируются по всем последовательностям наблюдений, а затем делятся на параметры. (это можно сделать, поскольку они просто представляют подсчет занятых лиц, см. стр. 273 статьи)

Поэтому не требуется знать все последовательности наблюдений во время вызова алгоритма. В качестве примера инструмент HERest в HTK имеет механизм, который позволяет разделить данные обучения между несколькими машинами. Каждая машина вычисляет числители и знаменатели и выгружает их в файл. В конце, одна машина читает эти файлы, суммирует числители и знаменатели и делит их, чтобы получить результат. См. Стр. 129 книги HTK v3.4