Построение оценки энтропии для специальной метрики и произвольной функции
https://doi.org/10.18255/1818-1015-2013-6-174-178
Аннотация
В статье предлагается обобщение оценки энтропии, предложенной в работе [1]. Для построения оценки сначала выбирается метрика на пространстве последовательностей. Эта метрика строится по матрице, которую можно интерпретировать как реберную раскраску полного графа с петлями. Обобщение состоит в том, что вместо логарифма в оценке энтропии применяется похожая функция, которая может быть произвольной на заданном интервале. Предлагаемая функция не является монотонной, поэтому задача оптимизации среднего отклонения, которая является задачей квадратичной оптимизации, решается на всем пространстве, а не на симплексе. Основные свойства оценки, такие как, асимптотическая несмещенность и степенное убывание дисперсии, доказываются аналогичным образом.
Об авторе
Нина Евгеньевна ТимофееваРоссия
канд. физ.-мат. наук, зав. кафедрой информатики,
Ярославский филиал, Россия, г. Ярославль, ул. Некрасова, д. 52
Список литературы
1. Timofeev E.A. Algorithm for Efficient Entropy Estimation // Modeling and Analysis of Information Systems. Т. 20, No 2. 2013. P. 112–119.
2. Deza M., Deza T. Encyclopedia of Distances. Springer, 2009.
3. Kaltchenko A., Timofeeva N. Entropy Estimators with Almost Sure Convergence and an O(n¯¹) Variance // Advances in Mathematics of Communications. 2008. V. 2, No 1. P. 1–13.
Рецензия
Для цитирования:
Тимофеева Н.Е. Построение оценки энтропии для специальной метрики и произвольной функции. Моделирование и анализ информационных систем. 2013;20(6):174-178. https://doi.org/10.18255/1818-1015-2013-6-174-178
For citation:
Timofeeva N.E. Construction of an Entropy Estimator with a Special Metrics and an Arbitrary Function. Modeling and Analysis of Information Systems. 2013;20(6):174-178. (In Russ.) https://doi.org/10.18255/1818-1015-2013-6-174-178