автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Построение функций распределения в математических моделях

Введение

Глава 1. Теорема Зубова об аппроксимации функций распределения.

1.1 Проблема аппроксимации функций распределения.

1.2 Некоторые классические теоремы аппроксимации.

1.3 Теорема Зубова.

Глава 2. Аппроксимационная сумма и проблема моментов.

2.1 Характеристические функции.

2.2 Проблема моментов.

2.3 Единственность проблемы моментов для аппроксимационных сумм.

Глава 3. Аппроксимационная сумма и метод максимального правдоподобия.

3.1 Задача оценивания неизвестного параметра.

3.2 Метод моментов.

3.3 Метод максимального правдоподобия.

3.4 Аппроксимационная сумма и метод максимального правдоподобия.

3.5 Определение параметров в двухчленной аппроксимационной сумме методом моментов.

3.6 О степени вырожденности нулевого приближения.

Глава 4. Определение параметров двухчленной аппроксимационной суммы.

4.1 Двухчленная аппроксимационная сумма и функция максимального правдоподобия.

4.2 Двухчленная аппроксимационная сумма и метод моментов.

4.3 Комбинирование метода максимального правдоподобия и метода моментов.

4.4 Исследование частного случая уравнений (3.29) с помощью метода малого параметра.

4.5 Распределение нормированных сумм независимых случайных величин.

В задачах математического моделирования часто сталкиваются с необходимостью построения функций распределения случайных величин [31], [47], [54]. Обычно основой для такого построения служит набор наблюдаемых значений случайной величины, так называемая простая выборка, которая, как правило, является реализацией вектора независимых одинаково распределенных случайных величин. Если ничего, кроме простой выборки, о распределении случайной величины неизвестно, то в качестве приближения берут эмпирическое распределение, построенное по частотам попадания наблюдаемых значений в подмножества действительной оси. Однако, поскольку простая выборка, даже большого объема, всего лишь отдельная реализация случайного вектора, всегда желательна какая-либо дополнительная информация о распределении. Такая информация присутствует в задании семейства распределений, которому, по соглашению принадлежит искомое. Если такое семейство параметрическое, то возникает задача оценивания неизвестных параметров [1], [5], [52]. Существует много способов задания семейств распределений [8], [11], [20], [25], [29], [32], [33], [50]. Например кривые Пирсона или распределения, построенные по методу Грама-Шарлье [21], [30], [53]. У каждого способа есть свои "плюсы" и свои "минусы". А именно: метод Пирсона позволяет полностью проклассифицировать законы распределения случайной величины и получить их функциональный вид, но недостатком этого метода является сложный аналитический вид. Например: (кривая Пирсона тип 4) [35]

У - Уо

Г 2\~т *

X -vcirctg

1 + е v а )

Этот недостаток отсутствует у метода Грама-Шарлье, но затруднение возникает вследствие того, что он рассматривает только два типа кривых: первый распространяется на распределения близкие к нормальному закону распределения; второй - на близкие к распределению Пуассона; соответственно кривые распределения типа А и В. В типе А в качестве ядра берется кривая нормального закона распределения, а в типе В - кривая распределения Пуассона. В 1999 году в ходе предпринятых исследований в этой области был исследован подход, в котором в качестве ядра взята кривая распределения Пирсона, так называемый "тип С" кривых Грама-Шарлье [36]. Таким образом, эти методы несмотря на свою эффективность, не являются универсальными и их применение в математических моделях требует предварительного исследования свойств моделируемой случайной величины. Желательным поэтому является общий способ задания функций распределения случайной величины, который в то же время не был бы слишком громоздким.

Один из наиболее общих способов задания семейства распределений содержится в теореме В. И. Зубова о приближении функции распределения случайных величин с помощью специального вида аппроксимационных сумм (интерполяционный многочлен), порожденных некоторым заданным непрерывным распределением [14], [15], [16], [17], [18]. Приведем отрывок из статьи В.И. Зубова, опубликованной в журнале "Доклады Академии наук" в 1991 году: ". дается решение проблемы построения интерполяционного многочлена, являющегося функцией распределения вероятности. Одновременно этот интерполяционный многочлен аппроксимирует наперед заданное распределение в целом в равномерной метрике.Решение этих проблем основано на аппроксимации любого наперед заданного непрерывного распределения с помощью смеси нормальных распределений или, в общем случае, смеси каких-либо других распределений, подходящих для данного конкретного случая." В теореме Зубова утверждается принципиальная возможность приближенного построения функций распределения с помощью аппроксимационных сумм, однако, количество параметров в аппроксимационной сумме может быть весьма большим, подобно тому, когда непрерывная функция аппроксимируется на отрезке тригонометрическими полиномами. Некоторое обобщение теоремы Зубова для одномерных случайных величин содержится в работе [13]. Применению теоремы Зубова к конкретным задачам построения аппроксимационных сумм посвящены работы [7], [19]. Весьма актуальной является задача поиска таких случаев, когда можно ограничиться лишь несколькими членами аппроксимационной суммы. В связи с изложенным, целью данной диссертационной работы является проведение исследований, направленных на поиск именно этих случаев, и их теоретическое обоснование.

При этом основное внимание в работе уделяется следующим направлениям исследований:

• изучение особенностей и свойств аппроксимационной суммы;

• рассмотрение различных вариантов оценивания неизвестных параметров в аппроксимационной сумме специального вида, когда можно ограничиться лишь двумя членами;

• развитие новой техники приближенного нахождения функции распределения случайной величины, позволяющей построить эффективные вычислительные алгоритмы и представить вид функции распределения в удобной для исследований форме.

Диссертационная работа состоит из введения, четырех глав, заключения по диссертации в целом, списка литературы, включающего 54 наименования.

ЗАКЛЮЧЕНИЕ

Основное содержание диссертационной работы посвящено построению в математических моделях функций распределения случайной величины по результатам наблюдений. При этом функция распределения случайной величины выбирается из семейства аппроксимационных сумм специального вида, которое, согласно теореме Зубова В.И., всюду плотно в пространстве непрерывных функций распределения.

Цель работы заключается в поиске и исследовании (аналитическом и численном) таких случаев, когда функция распределения случайной величины представима в виде аппроксимационной суммы Зубова с возможно меньшим числом членов, а также в разработке вычислительных алгоритмов и программного обеспечения для оценивания неизвестных параметров в аппроксимационной сумме такого вида.

Основным теоретическим результатом диссертации является теорема 3.1, утверждающая, что при построении аппроксимационной суммы Зубова в ряде важных случаев можно ограничиться двумя членами. Этот теоретический результат положен в основу построения вычислительной методики определения параметров двухчленной аппроксимационной суммы. Рассмотрены различные варианты такой методики, основной из которых существенно использует метод малого параметра. Введение малого параметра связано с близостью искомой и порождающей функций распределения. Практический пример в § 4.5 показывает, что использование двухчленной аппроксимационной суммы существенно повышает точность определения функций распределения в классических математических моделях.

Программное обеспечение вычислительных процедур выполнено с использованием пакета программ MatLab 5.2.

Основными результатами, которые получены в итоге проведенных исследований и выносятся на защиту, являются следующие.

1. Исследованы аналитические и качественные свойства аппроксима-ционной суммы функции распределения случайной величины. Установлена единственность проблемы моментов для случая, когда порождающая функция распределения - нормальная.

2. Предложен и обоснован способ представления функции распределения в виде двухчленной аппроксимационной суммы для специального случая, когда искомая функция распределения близка к порождающей.

3. Получены и исследованы уравнения для определения параметров двухчленной аппроксимационной суммы, представляющей функцию распределения случайной величины.

4. Построены вычислительная процедура и программное обеспечение для определения параметров приближенного представления функций распределения случайной величины в математических моделях. Эффективность вычислительной процедуры показана на классическом примере сумм независимых случайных величин.

1. Апраушева Н.Н., Сорокин С.В., Якушев Ю.В. Об оценивании параметров смеси нормальных распределений И 7 Междунар. конф. "Мат. экон. экол. образ.". Междунар. симп. "Ряды Фурье и их приложения", Ново-росийск: Тез. докл. -Ростов н/Д, 1999-С. 115.

2. Ахиезер Н. Классическая проблема моментов и некоторые вопросы анализа, связанные с нею. М.: Физматгиз, 1961.- 310 с.

3. Ахиезер Н., Крейн М. О некоторых вопросах теории моментов / Ин-т математики и механики ХГУ- Харьков: ГОНТИ, 1938.- 255 с.

4. Бернштейн С.Н. Доказательство теоремы Вейерштрасса, основанное на теории вероятностей // Вестн. мол. ученых. Сер. Приклад, математика и механика.- 2000.- №4.- С. 12.

5. Боровков А.А. Математическая статистика. Оценка параметров. Проверка гипотез М.: Наука, 1984 - 472 с.

6. Боровков А.А. Теория вероятностей.- М.: Эдиториал УРСС; Новосибирск: Изд-во Ин-та математики, 1999- 470 с.

7. Бояхчян А.А., Иванов А.И. Применение теоремы В.И. Зубова в обработке результатов наблюдений // Процессы управления и устойчивость: Тр. XXXII науч. конф.- СПб., 2001,- С. 185-188.

8. Галкин В.Я., Уфимцев М.В. Некоторые свойства двухпараметрического семейства распределений Пуассона порядка k II Проблемы мат. физики/ МГУ.- М., 1998,- С. 46-54.

9. Гнеденко Б.В. О работах Ляпунова по теории вероятностей // Историко-математические исследования. Вып. 12-М., 1959-С. 135-160.

10. Гнеденко Б.В. Курс теории вероятностей II Учебник для студентов мат. спец. ун-тов. 6-е изд., перераб. и доп.- М.: Наука, 1988 - 447 с.

11. И.Деврой Л., Дъерфи Л. Непараметрическое оценивание плотности: Ц-подход М.: Мир, 1988.-408 с.12Жук В.В., Кузютин В.Ф. Аппроксимация функций и численное интегрирование.- СПб., 1995.- 352 с.

12. Жук В.В. О приближении функций в пространстве C(R): Равенство типа Парсеваля // Мат. вопросы анализа негладких моделей. Вып. 16.- СПб., 1995.-С. 105-118.

13. М.Зубов В.И. Интерполяция и аппроксимация вероятностных распределений // Доклады Академии наук СССР.- 1991.- Т. 316, № 6.- С. 12981301.15 .Зубов В.И. Проблема обращения центральной предельной теоремы

14. A. М. Ляпунова // Доклады Академии наук.- 1995.- Т. 342, № 1.- С. 1516.

15. Зубов В.И. Интерполяционные многочлены Бернштейна // Доклады Академии наук.- 1995.- Т. 343, № 5.- С. 593-595.

16. Зубов В.И. Аппроксимация локализованных вероятностных распределений // Зубов В. И. Процессы управления и устойчивость.- СПб., 1999-С. 294-299.

17. Зубов В.И. Аппроксимация в равномерной метрике многомерных вероятностных распределений // Зубов В. И. Процессы управления и устойчивость.- СПб., 1999,- С. 304-309.

18. Иванов А.И. Новый метод математической обработки результатов измерений // Материалы науч.-практ. конф., посвященной памяти

19. B. И. Зубова.- СПб., 2002.- С. 5-26.

20. Иголкин В.Н., Ковригин А.Б., Старшинов А.И., Хохлов В.А. Статистическая классификация, основанная на выборочных распределениях.- Л.: Изд-во Ленингр. ун-та, 1978 104 с.21 .Кендалл М., СтъюартА. Теория распределений- М.: Наука, 1966.

21. Колмогоров А.Н., Фомин С. В. Элементы теории функций и функционального анализа.- М.: Наука, 1981.- 544 с.23 .Колмогоров А. Н. Основные понятия теории вероятностей М., 1974.2Л.КрамерГ. Математические методы статистики М., 1946.

22. Крамер Г. Случайные величины и распределение вероятностей- М.: Изд-во иностр. лит., 1947.

23. Ляпунов А. М. Новая форма теоремы о пределе вероятностей // Собр. соч.- М., 1954.-Т.1.-С. 157-176.

24. Митрополъский А.К. Техника статистических вычислений.- М.: Наука, 1971,- 576 с.

25. ЪО.Немчинов B.C. Теория и практика статистики // Избранные произведения. T.l.-М.: Наука. 1967.31 .Пуанкаре А. Теория вероятностей Ижевск: Ред. журн. "Регуляторная и хаотическая динамика", 1999 - 276 с.

26. Ресаццини Е., Сазонов В.В. Аппроксимация распределений случайных вероятностей смесями распределений Дирихле с приложениями к непараметрическим байесовским статистическим выводам // Теория вероятностей и ее применения.-2000.-Т. 45, №1.- С. 103-125.

27. Романовский В.И. Математическая статистика.-М., 1938.

28. Смирное Н.В., Дунин-Барковский И.В. Курс теории вероятностей и математической статистики для технических приложений- М.: Наука, 1965.-512 с.

29. ЗЪ.Суетин П.К. Классические ортогональные многочлены- М.: Наука, 1976.

30. Тукачев П.А. Непараметрические методы нахождения плотности распределения вероятностей // Процессы управления и устойчивость: Тр. XXX науч. конф.- СПб., 1999.- С. 397-401.

31. Тукачев П.А. Определение параметров аппроксимационных сумм для функции распределения случайных величин // Процессы управления и устойчивость: Тр. XXXIII науч. конф.- СПб., 2002,- С. 134-139.

32. Феллер В. Введение в теорию вероятностей и ее приложения. Т.1.- М.: Мир, 1967.-499 с.

33. Феллер В. Введение в теорию вероятностей и ее приложения. Т.2.- М.: Мир, 1967,- 752 с.

34. Ширяев А. Н. Вероятность-М.: Наука, 1989- 640 с.43 .Шмырое А. С. Аппроксимация функций распределения случайных величин.- СПб., 1999.- 8 с.

35. Шмырое А. С. Петербургская теорема.- СПб., 2002.

36. Юдин М.Д. Сходимость распределений сумм случайных величин // Учеб.-метод. пособие Минск: Университетское, 1990 - 254 с.

37. Математический энциклопедический словарь- М.: Сов. энцикл., 1988.41 .Bard S. Variable weight and location kernel density estimators // Statist. Res.

38. Rept. Dep. Math. Univ. Oslo.-1998.-№3.-P. 1-41.

39. Fisher R.A. On the mathematical foundation of theoretical statistics // Phil. Trans. Royal Soc. London.- Series A.-1921.- Vol. 222.- 309 p.

40. Fraser D.A.S. Nonparametric methods in statistics New York: John Wiley & Sons, Inc., 1957.

41. Hanfeg C., Jiahua C. The likelihood ratio test for homogeneity in finite mixture models // Can. J. Statist.- 2001,- Vol. 29, №2,- P. 201-215.

42. Hogg R.V., Craig A.T., Introduction to mathematical statistics.- New York: Macmillan Publishing Co., Inc., 1978.

43. Pardo M.C. Estimation of parameters for a mixture of normal distributions on the basis of the Cressia and Read divergence // Commun. Statist. Simul. andComput.- 1999.- Vol. 28, №1.-P. 115-130.

44. Pearson K. Contributions to the mathematical theory of evolution PTRS, 1894.- 185 p.

45. Petrone Sonia Bayesian density estimation using Bernstein polynomials // Can. J. Statist.- 1999.- Vol. 27, №1.-P. 105-126.