Алгоритм эффективного оценивания энтропии
https://doi.org/10.18255/1818-1015-2013-2-178-185
Аннотация
Рассматривается задача непараметрического оценивания энтропии стационарного эргодического процесса. Применяется подход, основанный на нахождении рас- стояний до ближайших точек. Предложен довольно большой класс метрик на пространстве Ω = AN правосторонних бесконечных последовательностей над конечным алфавитом A. Новая метрика имеет параметр – невозрастающую функцию. Доказано, что при некоторых ограничениях предлагаемая оценка имеет малую дисперсию. Показано, что специальный выбор параметров позволяет уменьшить смещение. Описан алгоритм для выбора таких параметров. Статья публикуется в авторской редакции.
Об авторе
Евгений Александрович Тимофеев
Ярославский государственный университет им. П. Г. Демидова
Россия
Россия
д-р физ.-мат. наук, профессор,
150000 Россия, г. Ярославль, ул. Советская, 14
Список литературы
1. Deza M., Deza T. Encyclopedia of Distances, Springer, 2009.
2. Kaltchenko A., Timofeeva N. Entropy Estimators with Almost Sure Convergence and an O(n¯¹) Variance //Advances in Mathematics of Communications. 2008. V. 2, №1. P. 1–13.
3. Silvapulle, M.J., Sen, P.K. Constrained statistical inference: Inequality, order and shape restrictions, John Wiley & Sons, USA. 2005.
4. Timofeev E.A. Statistical Estimation of measure invariants // St. Petersburg Math. J. 2006. 17, №3. P. 527–551.
5. Градштейн И.С., Рыжик И.М. Таблицы интегралов, сумм, рядов и произведений. М.: Наука, 1971 (Gradshteyn I.S., Ryzhik I.M. Tablitsy integralov, summ, ryadov i proizvedeniy. Moskva: Nauka, 1971 [in Russian]).
Рецензия
Для цитирования:
Тимофеев Е.А. Алгоритм эффективного оценивания энтропии. Моделирование и анализ информационных систем. 2013;20(2):178-185. https://doi.org/10.18255/1818-1015-2013-2-178-185
For citation:
Timofeev E.A. Algorithm for Efficient Entropy Estimation. Modeling and Analysis of Information Systems. 2013;20(2):178-185. https://doi.org/10.18255/1818-1015-2013-2-178-185
Просмотров:
983
Послать статью по эл. почте 