Bias of the Entropy Estimator for Symmetric Bernoulli Measures and the Weak Metric
https://doi.org/10.18255/1818-1015-2012-1-52-59
Abstract
We consider symmetric Bernoulli measures and new weak metrics and obtain a closed-form expression of the entropy estimator bias.
About the Author
N. E. Timofeeva
ЯФ НОУ ВПО "Институт управления"
Russian Federation
канд. физ.-мат. наук, заведующий кафедрой информатики
Russian Federation
канд. физ.-мат. наук, заведующий кафедрой информатики
References
1. Мартин Н., Ингленд Дж. Математическая теория энтропии. М. : Мир, 1988.
2. Тимофеев Е.А. Статистически оцениваемые инварианты мер //Алгебра и анализ. Т. 17, 3. 2005. С. 204–236.
3. Тимофеев Е.А. Смещение непараметрической оценки энтропии для марковской меры //Записки научных семинаров ПОМИ. Т. 377. 2010. С. 134–158.
4. Тимофеев Е.А. Выбор метрики для непараметрических оценок энтропии //Математика в Ярославском университете: сборник обзор- ных статей: к 35-летию математического факультета. Ярославль: ЯрГУ, 2011. C. 187–198.
5. Харди Г. Расходящиеся ряды. М.: ИЛ, 1951.
6. Deza M., Deza E. Encyclopedia of Distances. Springer, 2009.
7. Kaltchenko A., Timofeeva N. Entropy Estimators with Almost Sure Convergence and an O(n¡1) Variance // Advances in Mathematics of Communications. V. 2, 1. 2008. P. 1–13.
8. Kaltchenko A., Timofeeva N. Rate of convergence of the nearest neighbor entropy estimator // AEU - International Journal of Electronics and Communications. V. 64, N.1. 2010. P. 75–79.
Review
For citations:
Timofeeva N.E. Bias of the Entropy Estimator for Symmetric Bernoulli Measures and the Weak Metric. Modeling and Analysis of Information Systems. 2012;19(1):52-59. (In Russ.) https://doi.org/10.18255/1818-1015-2012-1-52-59
Views:
929
Email this article 