Как установить параметры распределения Бернулли в pymc3

Question

У меня есть модель, описанную в pymc3, используя следующие:

from pymc3 import * 
basic_model = Model() 

with basic_model: 
    # Priors for unknown model parameters 
    alpha = Normal('alpha', mu=0, sd=10) 
    beta = Normal('beta', mu=0, sd=10, shape=18) 
    sigma = HalfNormal('sigma', sd=1) 

    # Expected value of outcome 
    mu = alpha + beta[0]*X1 + beta[1]*X2 + beta[2]*X3 

    # Likelihood (sampling distribution) of observations 
    Y_obs = Normal('Y_obs', mu=mu, sd=sigma, observed=Y) 

Однако мои Y s не нормально распределены, но являются бинарными (так, Бернулли, я думаю). Я не могу понять, как изменить формулу Normal Y на Bernoulli, хотя из-за того, что я не могу понять, какие параметры будут в этом случае Y_obs.

Answer 1

То, что вы ищете, это logistic regression. Здесь вы используете логистическую функцию для преобразования вывода вашей линейной модели в вероятность.

В вашем примере это может быть определена следующим образом:

from pymc3 import * 
import theano.tensor as T 
basic_model = Model() 

def logistic(l): 
    return 1/(1 + T.exp(-l)) 

with basic_model: 
    # Priors for unknown model parameters 
    alpha = Normal('alpha', mu=0, sd=10) 
    beta = Normal('beta', mu=0, sd=10, shape=18) 

    # Expected value of outcome 
    mu = alpha + beta[0]*X1 + beta[1]*X2 + beta[2]*X3 

    # Likelihood (sampling distribution) of observations 
    Y_obs = Bernoulli('Y_obs', p=logistic(mu), observed=Y)