This tutorial is concerned with applications of information theory concepts in statistics, in the finite alphabet setting. The information measure known as information divergence or Kullback-Leibler distance or relative entropy plays a key role, often with a geometric flavor as an analogue of squared Euclidean distance, as in the concepts of I-projection, I-radius and I-centroid. The topics covered include large deviations, hypothesis testing, maximum likelihood estimation in exponential families, analysis of contingency tables, and iterative algorithms with an “information geometry” background. Also, an introduction is provided to the theory of universal coding, and to statistical inference via the minimum description length principle motivated by that theory. <...>

Описываются алгоритмы процедур оценивания параметров распределений и проверки гипотез с помощью статистических критериев. Алгоритмы рассматриваются применительно к их машинной реализации. 

Для статистиков, экономистов и специалистов, использующих методы прикладного статистического анализа 

В монографии предлагаются новые приемы статистической обработки цифрового материала, получаемого при разведке месторождений различных полезных ископаемых и инженерно-геологических объектов. Параметры, получаемые в результате такой обработки, используются при подсчете запасов и оценке погрешности подсчета запасов. Сравнение результатов оценки точности подсчета запасов с фактическими погрешностями показывает, что предлагаемые методы оценки точности вполне приемлемы для использования на практике.

Information theory, as we shall be concerned with it, is a branch of the mathematical theory of probability and statistics. As such, its abstract formulations are applicable to any probabilistic or statistical system of observations. Consequently, we find information theory applied in a variety of fields, as are probability and statistics. It plays an important role in modern communication theory, which formulates a communication system as a stochastic or random process.

Данная книга предназначена для специалистов по оценке запасов, особенно, для новичков в построении их моделей. На основе ряда полетных советов и подсказок, она ставит целью помочь вам ускорить изучение процесса оценки запасов, уделяя особое внимание последствиям принимаемых решений, нежели математике или геостатистике как таковым.

Мне было интересно работать с большим разнообразием видов полезных ископаемых, залегающих в самых различных геологических условиях по всему миру. И что самое главное, работа в горнодобывающей промышленности позволила мне познакомиться с увлекательным миром заверки достоверности модели путём сравнения с фактическими производственными показателями. Возможность создания модели запасов, следование ей в процессе добычи и её заверки обеспечивают реальное изучение порядка и последовательности работы её компонентов.