Как рассчитать энтропию кластеризации - пример и мое решение, но верно ли это?

Question

Я хотел бы вычислить энтропию этого примера схемы

http://nlp.stanford.edu/IR-book/html/htmledition/evaluation-of-clustering-1.html

Уравнение энтропии

Тогда энтропия (первая строка)

Так энтропия для этой схемы

For the first cluster - ((5/6)*Log(5/6) + (1/6)*Log(1/6)) 
For the second cluster - ((1/6)*Log(1/6) + (1/6)*Log(1/6) + (4/6)*Log(4/6)) 
For the third cluster - ((2/5)*Log(2/5) + (3/5)*Log(3/5)) 

Final энтропия:

FirtCluster_Entropy + SecondCluster_Entropy + ThirdCluster_Entropy 

я правильно?

Answer 1

Очень близко! Для полной энтропии кластеризации вам нужно будет весить энтропию каждого кластера по ее относительной массе. Пожалуйста, см. Мой ответ на ваш предыдущий вопрос https://stackoverflow.com/a/35780505/159646.

Также это, вероятно, должно быть отправлено на Cross Validated вместо переполнения стека.