как вычислить энтропию от н.п. гистограммы

Question

У меня есть пример гистограммы с:

mu1 = 10, sigma1 = 10 
s1 = np.random.normal(mu1, sigma1, 100000) 

и вычислил

hist1 = np.histogram(s1, bins=50, range=(-10,10), density=True) 
for i in hist1[0]: 
    ent = -sum(i * log(abs(i))) 
print (ent) 

Теперь я хочу, чтобы найти энтропию из заданного массива гистограммы, но так как np.histogram возвращает два массива, у меня проблемы с вычислением энтропии. Как я могу просто вызвать первый массив np.histogram и вычислить энтропию? Я бы также получил ошибку математической области для энтропии, даже если мой код выше правильный. :(

** Edit: Как найти энтропию, когда Mu = 0 и журнал (0) дает математике домен ошибки

---

Так фактический код, который я пытаюсь написать это?:

mu1, sigma1 = 0, 1 
mu2, sigma2 = 10, 1 
s1 = np.random.normal(mu1, sigma1, 100000) 
s2 = np.random.normal(mu2, sigma2, 100000) 

hist1 = np.histogram(s1, bins=100, range=(-20,20), density=True) 
data1 = hist1[0] 
ent1 = -(data1*np.log(np.abs(data1))).sum() 

hist2 = np.histogram(s2, bins=100, range=(-20,20), density=True) 
data2 = hist2[0] 
ent2 = -(data2*np.log(np.abs(data2))).sum() 

до сих пор первый пример ent1 дадут нана, а вторые, ent2, дают ошибку математики домена :(

Answer 1

можно вычислить энтропию, используя векторизованный код:

import numpy as np 

mu1 = 10 
sigma1 = 10 

s1 = np.random.normal(mu1, sigma1, 100000) 
hist1 = np.histogram(s1, bins=50, range=(-10,10), density=True) 
data = hist1[0] 
ent = -(data*np.log(np.abs(data))).sum() 
# output: 7.1802159512213191 

Но если вы хотите использовать для цикла, вы можете написать:

import numpy as np 
import math 

mu1 = 10 
sigma1 = 10 

s1 = np.random.normal(mu1, sigma1, 100000) 
hist1 = np.histogram(s1, bins=50, range=(-10,10), density=True) 
ent = 0 
for i in hist1[0]: 
    ent -= i * math.log(abs(i)) 
print (ent) 
# output: 7.1802159512213191 

Answer 2

Использование np.ma.log избежать РСМД и нан ошибок. np.ma - массив масок в масках.