Как смоделировать смесь 3 нормалей в PyMC?

Question

Существует a question on CrossValidated о том, как использовать PyMC для соответствия двум нормальным распределениям данных. Ответ Cam.Davidson.Pilon был использовать распределение Бернулли для назначения данных к одному из двух нормалей:

size = 10 
p = Uniform("p", 0 , 1) #this is the fraction that come from mean1 vs mean2 
ber = Bernoulli("ber", p = p, size = size) # produces 1 with proportion p. 
precision = Gamma('precision', alpha=0.1, beta=0.1) 

mean1 = Normal("mean1", 0, 0.001) 
mean2 = Normal("mean2", 0, 0.001) 

@deterministic 
def mean(ber = ber, mean1 = mean1, mean2 = mean2): 
    return ber*mean1 + (1-ber)*mean2 

Теперь мой вопрос: как это сделать с три нормалей?

В основном проблема заключается в том, что вы больше не можете использовать распределение Бернулли и 1-Бернулли. Но как это сделать?

---

редактировать: С предложением CDP, я написал следующий код:

import numpy as np 
import pymc as mc 

n = 3 
ndata = 500 

dd = mc.Dirichlet('dd', theta=(1,)*n) 
category = mc.Categorical('category', p=dd, size=ndata) 

precs = mc.Gamma('precs', alpha=0.1, beta=0.1, size=n) 
means = mc.Normal('means', 0, 0.001, size=n) 

@mc.deterministic 
def mean(category=category, means=means): 
    return means[category] 

@mc.deterministic 
def prec(category=category, precs=precs): 
    return precs[category] 

v = np.random.randint(0, n, ndata) 
data = (v==0)*(50+ np.random.randn(ndata)) \ 
     + (v==1)*(-50 + np.random.randn(ndata)) \ 
     + (v==2)*np.random.randn(ndata) 
obs = mc.Normal('obs', mean, prec, value=data, observed = True) 

model = mc.Model({'dd': dd, 
       'category': category, 
       'precs': precs, 
       'means': means, 
       'obs': obs}) 

следы с помощью следующей процедуры отбора проб хорошо выглядеть. Решено!

mcmc = mc.MCMC(model) 
mcmc.sample(50000,0) 
mcmc.trace('means').gettrace()[-1,:] 

Answer 1

есть объект mc.Categorical, который делает именно это.

p = [0.2, 0.3, .5] 
t = mc.Categorical('test', p) 
t.random() 
#array(2, dtype=int32) 

Он возвращает Int между 0 и len(p)-1. Чтобы моделировать 3 нормали, вы делаете p объект mc.Dirichlet (он принимает массив длины k в качестве гиперпараметров, устанавливая значения в массиве одинаковыми, устанавливая при этом предыдущие вероятности равными). Остальная модель почти идентична.

Это обобщение модели, предложенной выше.

---

Update:

Итак, вместо того, чтобы различные средства, мы можем свернуть их все в 1:

means = Normal("means", 0, 0.001, size=3) 

... 

@mc.deterministic 
def mean(categorical=categorical, means = means): 
    return means[categorical]