Алгоритм эффективного оценивания энтропии


https://doi.org/10.18255/1818-1015-2013-2-178-185

Полный текст:


Аннотация

Рассматривается задача непараметрического оценивания энтропии стационарного эргодического процесса. Применяется подход, основанный на нахождении рас- стояний до ближайших точек. Предложен довольно большой класс метрик на пространстве Ω = AN правосторонних бесконечных последовательностей над конечным алфавитом A. Новая метрика имеет параметр – невозрастающую функцию. Доказано, что при некоторых ограничениях предлагаемая оценка имеет малую дисперсию. Показано, что специальный выбор параметров позволяет уменьшить смещение. Описан алгоритм для выбора таких параметров. Статья публикуется в авторской редакции.

Об авторе

Евгений Александрович Тимофеев
Ярославский государственный университет им. П. Г. Демидова
Россия

д-р физ.-мат. наук, профессор,

150000 Россия, г. Ярославль, ул. Советская, 14



Список литературы

1. Deza M., Deza T. Encyclopedia of Distances, Springer, 2009.

2. Kaltchenko A., Timofeeva N. Entropy Estimators with Almost Sure Convergence and an O(n¯¹) Variance //Advances in Mathematics of Communications. 2008. V. 2, №1. P. 1–13.

3. Silvapulle, M.J., Sen, P.K. Constrained statistical inference: Inequality, order and shape restrictions, John Wiley & Sons, USA. 2005.

4. Timofeev E.A. Statistical Estimation of measure invariants // St. Petersburg Math. J. 2006. 17, №3. P. 527–551.

5. Градштейн И.С., Рыжик И.М. Таблицы интегралов, сумм, рядов и произведений. М.: Наука, 1971 (Gradshteyn I.S., Ryzhik I.M. Tablitsy integralov, summ, ryadov i proizvedeniy. Moskva: Nauka, 1971 [in Russian]).


Дополнительные файлы

Для цитирования: Тимофеев Е.А. Алгоритм эффективного оценивания энтропии. Моделирование и анализ информационных систем. 2013;20(2):178-185. https://doi.org/10.18255/1818-1015-2013-2-178-185

For citation: Timofeev E.A. Algorithm for Efficient Entropy Estimation. Modeling and Analysis of Information Systems. 2013;20(2):178-185. (In Russ.) https://doi.org/10.18255/1818-1015-2013-2-178-185

Просмотров: 313

Обратные ссылки

  • Обратные ссылки не определены.


Creative Commons License
Контент доступен под лицензией Creative Commons Attribution 4.0 License.


ISSN 1818-1015 (Print)
ISSN 2313-5417 (Online)