автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Минимаксные оценивание и оптимизация параметров стохастических систем по вероятностным критериям

На правах рукописи

Попов Алексей Сергеевич

МИНИМАКСНЫЕ ОЦЕНИВАНИЕ И ОПТИМИЗАЦИЯ ПАРАМЕТРОВ СТОХАСТИЧЕСКИХ СИСТЕМ ПО ВЕРОЯТНОСТНЫМ КРИТЕРИЯМ

.13.01 — Системный анализ, управление и обработка информации

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Москва 2005 г

Работа выполнена на кафедре теории вероятностей Московского авиационного института (государственного технического университета)

Научный руководитель Официальные оппоненты

Ведущая организация

доктор физико-математических наук А. Р. Панков

доктор физико-математических наук А. В. Пантелеев, кандидат технических наук Ф Н. Григорьев

Институт проблем информатики РАН

Защита состоится "_"_ 2005 г. в __часов

на заседании Диссертационного совета Д 212.125.04 при Московском авиационном институте (государственном техническом университете) по адресу Москва, А-80, ГСП-3, 125993, Волоколамское ш , 4, Ученый совет МАИ

С диссертацией можно ознакомиться в библиотеке МАИ.

Отзывы на автореферат, заверенные гербовой печатью организации, просим направлять по указанному адресу в двух экземплярах не позднее, чем за две недели до защиты

Автореферат разослан "

2005 г.

Ученый секретарь Диссертационного совета, кандидат физико-математических наук

М В Ротангна

г voe- а 22fM4S

Общая характеристика работы

Объект исследования В диссертационной работе решены задачи оценивания и оптимизации параметров стохастических систем по вероятностным критериям в условиях априорной неопределенности

Актуальность темы В настоящее время исследован достаточно широкий класс задач по оцениванию и оптимизации параметров систем При этом мно гие авторы, как правило, для этих целей использовали среднеквадратический критерий качества, а информацию о характеристиках возмущений моделел полагали полностью известной Однако в большинстве задач практики такая априорная информация отсутствует, а решение задач оценивания и оптимизации по среднеквадратическому критерию качества обладает рядом недостатков, в частности, не позволяет отвечать на ряд важных вопросов о вероятностных характеристиках получаемых оценок и стратегий оптимизации В силу отсутствия полной информации о характеристиках возмущений моделей становится актуальным решение задач оценивания и оптимизации с использованием минимаксного подхода При этом использование вероятностных критериев позволит избежать недостатков среднеквадратического критерия.

Методы исследований минимаксных задач оптимизации и оценивания развивались в следующем порядке Систематически минимаксный подход начал исследоваться еще в работах А Вальда, Н Н Красовского, А Б Куржанско го, М Л Лидова, П Хьюбера, Я 3 Цыпкина, П Е Эльясберга

Дальнейшее развитие указанный подход нашел а работах Б И Ананьева Б Ц Бахшияна, С Верду, ГА Голубева, М И Гусева, И Я Каца, А И Кибзу-на, М Н. Красильщикова, В.В. Малышева, А И Матасова, А.Г Наконечного, А Р Панкова, Б Т Поляка, В Пура, Ю П Пытьева, В Н Соловьева, Г А Тимофеевой, В.И Ширяева.

Минимаксные задачи системного анализа и управления затем изучались в работах В.Ц. Бахшияна, Ю.Б Гермейера, Б Г Гольштейна, Дж М Дански-на, В.Ф. Демьянова, Ю.М. Ермольева, С К Завриева, С Карлина, В Н Ма-лоземова, H.H. Моисеева, Дж Неймана, Б А Нурминского, В В Федорова

Вероятностные критерии качества в условиях полной информации для задач оптимизации и оценивания рассматривались в работах С Бойда Ю.М Ермольева, Ю С Кана, А И Кибзуна, М Н Красильщикова, В В Ма лышева, ГА Тимофеевой, СП Урясьева Задача оценивания параметров одномерной регрессионной модели по вероятностному критерию в условиях неполной информации изучалась в работах Б Ц Бахшияна

Методы решения минимаксных задач в подавляющем числе работ связаны с исследованием прямой задачи (т.е непосредственному поиску минимума су

3 рос.

премума критерия). Однако практическое применение прямого метода может быть затруднено. Если функцию максимума удается найти аналитически, то поиск минимаксной стратегии является стандартной проблемой математического программирования. Для задач вероятностной оптимизации, изучаемых в данной работе, явный вид функции максимума найти не удается. Более того, оказывается, что эта функция негладкая, поэтому ее оптимизация стандартными численными методами затруднена. Актуальной становится разработка иных методов решения минимаксных задач.

Для решения проблемы минимаксной оптимизации в работе разработан алгоритм, основанный на использовании решения двойственной (по отношению к исходной минимаксной проблеме) задачи. Доказана сходимость последовательности решений двойственных задач, вырабатываемых алгоритмом. В качестве частных случаев получены алгоритмы решения двойственных задач с вероятностными критериями качества.

Цель работы.

1) Решить задачу минимаксного линейного оценивания по вероятностному критерию качества.

2) Решить задачу минимаксной оптимизации линейной стохастической модели по вероятностному критерию качества с линейной целевой функцией при линейных ограничениях.

3) Разработать численные методы решения задач минимаксного оценивания и оптимизации и применить эти методы для решения прикладных задач.

Методы исследования. Для решения задач использовались теория двойственности, выпуклый анализ, методы условной оптимизации, теория вероятностей, нелинейное программирование, методы компьютерного моделирования.

Научная новизна.

1) Получено выражение для решения задачи минимаксного оценивания параметров линейной регрессионной модели наблюдения по вероятностному критерию качества.

2) Исследована задача минимаксного асимптотического оценивания параметров нелинейной регрессионной модели наблюдения.

3) Найдено решение задачи минимаксной оптимизации линейной функции со случайными коэффициентами по вероятностному критерию качества при линейных ограничениях.

4) Разработан численный метод решения двойственной задачи минимаксной оптимизации.

Практическая значимость Полученные результаты позволяют решать прикладные задачи оценивания, прогнозирования, оптимизации, задачи по строения инвестиционных планов и экспертных оценок в условиях априорной вероятностной неопределенности

Апробация работы Результаты диссертационной работы, обсуждапись на научных конференциях и симпозиумах 7 Международная конференция "Си стемный анализ и управление космическими комплексами" (Украина, Евпатория, 2002); 2 Международная конференция по проблемам управления (Москва, 2003); 2 Международная конференция "Идентификация систем и задачи управления" (Москва, 2003), 3 Всероссийская конференция "Финансово-актуарная математика и смежные вопросы" (Красноярск, 2004), 9 Международная конференция "Системный анализ и управление" (Украина, Евпатория, 2004); 43-th IEEE Conference on Decision and Control (Atlantis, Bahamas, 2004); 4 Международная конференция "Идентификация систем и задачи управления" (Москва, 2005), а также на научных семинарах под руководством проф А И Кибзуна (МАИ)

Диссертация была поддержана грантами РФФИ № 02-01-00361 Университеты России № UR-03-01-005

Публикации Основные результаты диссертации опубликованы в грех статьях ¡1-3), в трудах научных конференций [4—9] и тезисах [10-12]

Структура и объем работы Диссертация состоит из введения, 4 глав, заключения и списка литературы (133 источника) Объем диссертации — 81 м.п.с.

Содержание работы

Во введении дан краткий обзор современного состояния проблемы, сформулирована цель и задачи диссертационной работы, перечислены полученные в диссертации новые результаты, показана их актуальность и практическая важность, описана структура диссертации.

В первой главе изучается проблема минимаксной параметрической идентификации многомерной линейной статистически неопределённой модели наблюдений.

Далее используются следующие обозначения: Е{£}, cov{£, £} — математическое ожидание и ковариационная матрица случайного вектора f сответ-ственно, col[x,y] = (хт, ут)т; А > О (А > 0) — симметричная положительно (неотрицательно) определённая матрица А; А+ — псевдообратная матрица; arg min/(х) (arg max/(x)) — множество точек глобального минимума (максимума) функции f(x) на X; tr{j4} — след матрицы А

Рассмотрим следующую многомерную линейную модель наблюдениях = ав + Ь£,

y = Aß + Bt, [iL>

где х е Кт — вектор, подлежащий оцениванию по наблюдениям у 6 К", в € Кр — вектор неопределённых неслучайных априорно неограниченных параметров; £ € К9 — вектор случайных параметров с неизвестным законом распределения, удовлетворяющим следующим ограничениям' Е{£} = 0, V = cov{£,£} s V, где V — заданное априори множество симметричных неотрицательно определённых матриц размера q х q (те. V — множество допустимых ковариаций вектора £); а, Ь, А, В — известные матрицы соответствующих размеров.

Вектор р — со1[в, £] называется статистически неопределённым вектором параметров модели (11) Пусть Рр — закон распределения вектора р Тогда Рр £ V, где V — множество всех возможных распределений вектора р, удовлетворяющего указанным выше ограничениям

Таким образом, V — класс всех допустимых распределений вектора р параметров модели наблюдения (1 1)

Определение 1 1. Оценка х вектора х по наблюдениям у называется линейной, если х = Fy, F € Т, где Т — множество всех линейных преобразований К" К171.

Любой оператор F £ Т далее называется оценивателем.

В качестве меры точности оценивателя F использовался следующий вероятностный критерий:

Jy(FlPp)=P(\Fy-x\>j), (1.2)

где 7 > 0 известно, F € Т, а Рр 6 V

Из (1.2) следует, что J-,(F, Рр) равен вероятности того, что модуль ошибки оценки х = Fy превысит некоторый априорно заданный уровень 7

В силу того, что распределение Р^ точно не известно, для оптимизации F по критерию Jn(F, Рр) на Т х V в диссертации используется минимаксный подход.

Определение 1.2 Оператор F называется минимаксным оцепивате-лем по вероятностному критерию J-,(F, Р ¡¡) на Т х V, если

F е arg min sup P„) (1 3)

Рассмотрим подмножество оценивателей To 6 T вида

То = {F ■ F € T, FA = а}

Известно, что То непусто тогда и только тогда, когда

аА+А = а (14)

Класс То содержит все операторы линейного несмещённого оценивания вектора х по у: Е{Fy - х} = 0 для любого 9 6 Кр, если F 6 То Введём следующие обозначения-

D2{F,V) = u{(FB-b)V{FB-bf}, (15)

F(V) = F0 + {b- F0B)VBT{QBVBTQ) + , (1 6)

I[V) = tr{{F0B - b){V - VB(QBVBTQ)+BV)(F0B - bf}, (1 7)

где i*o = aA+, Q = I - AA+ В работе показано, что

D2(F,V)^E{lFy-xl2},

если F 6 Т$\

F(V) = axg min D2(F,V)-, (18)

г €Ло

I(V) = D2(F(V), V) = min D2(F, V) (1 9)

Г6.Л0

Пусть Vy — подмножество V, содержащее все распределения Рр с заданной ковариационной матрицей К из V

Следующее утверждение устанавливает связь между вероятностным Jf{F, Рр) и среднеквадратическим D2(F, V) критериями

Теорема 1 1 Пусть выполнено условие (14) Тогда

1) для всех 72 > D2(F, V)

sup J7(F, Рр) = 7-2D2{F, V), если F € Р PePv

2) для всех 7 > О

sup Jy{F, Рр) = 1, если F £ То-Ppevv

Структура минимаксного по критерию Jy(F, Рр) оценивателя на Т х V следует из теоремы 1.1, (1.8), (1.9).

Теорема 1.2 Пусть выполнено условие (1-4), f(V) и I(V) определены (1 6), (1 7), a 72 > /(V). Тогда

1)

F = F(V) 6 arg min max JJF, Рр), Ft? p,epv 7 И

m e F = F(V) является минимаксным оценивателем;

2) наименьшее гарантированное значение критерия J7(F,Pp) на Т х V равно

Jy = min sup Jy{F, Рр) = r2I(V).

Пусть теперь V задана с точностью до принадлежности некоторому множеству V допустимых ковариаций, т.е. PpG V.

Справедливо следующее утверждение о структуре минимаксного оценивателя на Т х V.

Теорема 13 Пусть выполнено (1 4), множество V выпукло и компактно, 72 > I[V), BVBT > 0, где V - решение задачи двойственной оптимизации

VeargmaxI(V). (1.10)

v€v

Тогда

1)F = F{V) € arg min sup Jy(F, Рр);

2) J7 = min sup Jy(F, Рр) = 7~2I(V).

Замечание 1 1 Из теоремы 1.3 следует, что

J7(F,Pp)<J^ = j-2I(V), VPp 6 V.

В работе показано, что граница 31 неулучшаема, так как существует

Рй е V

такое, что

те верхняя грань достигается на распределении Рр е V

В главе 1 диссертации также рассмотрена многомерная нелинейная модель наблюдения за фазовым вектором у{Ьк)

»(**)= о) + Ук, к= 1, , п,

где во — г - мерный вектор всех неизвестных параметров; Х^, в) —^-мерная нелинейная вектор-функция, заданная на Т х 0, где 9 - компактное множество допустимых значений для во, Т = [0, — интервал наблюдения (I < оо), {V*} — векторный центрированный стационарный шум с ковариационной ма трицей соч{ьк,ь1с} = V > 0, а план е„, согласно которому наблюдения проводятся в моменты времени {$1,...,4П} с равными вероятностями, является при каждом п > 1 дискретной вероятностной мерой на Т Предполагается, что V известна лишь с точностью до принадлежности V, где V — множество априорно допустимых ковариационных матриц, С+ — множество всех положительно определенных матриц размера ? х д

В диссертации предполагалось, что последовательность планов наблюдения {е„} слабо сходится на Т к плану е

I дЦ)еп (<Й) I д(1)е (Л), п оо т т

для любой непрерывной на Т функции д{Ь)

Оценка параметров строилась как решение следующей задачи оптимизации:

в„ = аг8шш Р),

где функция потерь метода взвешенных наименьших квадратов (ВНК) Рп(9, Р) имеет вид

Рп(0, Р) = IМО " . 0))ТР(у(1) - Х(1, в)) еп(сН) = г

= -У2Ш-х(и,б))тР(у(ь)-Х(гк,б)), (111)

Р € — некоторая весовая матрица.

При определённых ограничениях на модель наблюдения оценка вп будет сильно состоятельной и асимптотически нормальной Пусть выполнены условия:

1) X(t, в) — непрерывна на Т х ©;

2) / |X(t,e') - X(t,6")\2e{dt) = 0 только при в' = в", т

3) векторные производные H(t,9) = дХ(г,в)/дв и д2Х(г,в)/двг существуют и непрерывны на Т х ©,

4) во - внутренняя точка 0, а матрица М(в0,е) = f H(t,eo)HT(t,90)e (dt)

т

— невырожденная,

Лемма 1 1 Пусть выполнены условия 1)-4), тогда вп во, п —> оо, а последовательность нормированных ошибок £п = л/п(вп — во) сходится по распределению к гауссовскому случайному вектору с нулевым средним и ковариацией

£(Р, V, во) = [W(P, в0 )]"1G(P, V, в0 )[WT(P, 0с)]"1, (1.12)

где

W(P,60) = у H(t,e0)PHT(t,e0)e(dt)t т

G(P, V, в0) - f H(t, в0)PVPTHT(t, в0)е (dt). т

Матрица £(Р, V, во) называется асимптотической матрицей ковариаций ошибки (АМКО) оценки в„.

В диссертации показано, что для Ро = V

mm £(Р, V, во) = ВД, V, в0), (1.13)

те. оценка метода ВНК, построенная с использованием Р = Ро , имеет минимальную АМКО Более того, если ошибка модели является гауссовской, то оценка вп при Р — Ро превращается в оценку максимального правдоподобия, которая в условиях леммы 1.1 с учетом (1.13) является асимптотически несмещенной и эффективной по Рао-Крамеру, те. асимптотически абсолютно оптимальной

Пусть V является неизвестной, тогда даже при известном во асимптотически оптимальную оценку построить невозможно. Указанная проблема разрешена в рамках минимаксного подхода с использованием критерия качества вида

J(P,VO=tr{E(P,K,0o)}.

Определение 1 3 Оценка 9П называется асимптотически минимак сной по критерию J(P, V) на С+ х V, если

вп = argmmFn(0, Я),

р€0

Р 6 arg min sup J(P, V). (1 14)

Заметим, что вп будет асимптотически оптимальной, если V — одноточечное

множество (т.е. V — известна)

В диссертации показано, что Р 6 arg min J(P), где' J(P) = sup J(P, V) —

РЧС+ _ yeV

функционал оптимизации в прямой задаче Наряду с J{P) введен также двойственный функционал

J(y) = glAP,v) (115)

В отличие от J(P), двойственный фунционал J_(V) имеет аналитическое вы ражение

¿(V) = tT[W(V'\e0)}'1 (116)

Пусть

V е argmaxiiV) (117)

— произвольное решение двойственной задачи оптимизации В следующей теореме показано, что Р = К-1 дает искомое решение задачи минимаксной оптимизации (1 14).

Теорема 1 4 Пусть выполнены условия леммы 1 1, a V — выпуклый компакт в £+, тогда

1) решение V двойственной зада\и существует,

2) Р = V'1 удовлетворяет (1 14),

3) оценка вп = arg min Fn(9, Р) является асимптотически минимаксной

960

Во второй главе решена задача минимаксного линейного стохастического программирования в условиях неопределённости В качестве целевой функции используется следующая линейная функция

f(x, R) = RTx,

где Я-п-мерный вектор случайных неконтролируемых параметров (стратегий) с законом распределения Pr, х £ X — л-мерный вектор контролируемых параметров, X — множество допустимых стратегий вида

X - {х : Ах = а}, аф О,

где А - матрица размера к х п, а - известный fc-мерный вектор. Необходимое и достаточное условие непустоты множества Х-

АА+а = а,

где А+ - псевдообращение матрицы А. Из о ф 0 следует, что х = 0 ^ X.

Итак, для оптимизации х на множестве X используется вероятностный критерий, смысл которого состоит в следующем. Некоторый заданный критический уровень ■у отражает представление о неприемлемо малом значении целевой функции f(x,R). Последнее означает, что событие А-у(х) = {/(ж, R) < 7} является нежелательным и, следовательно, должно быть маловероятным В этом случае в качестве критерия оптимизации выбрана вероятность наступления события А7(х):

F(x,PR) = P(f(x,R)<y). (2.1)

Если распределение неконтролируемых параметров линейной стохастически неопределенной системы Pr известно, то стратегию х° вида

х° е argminP(x,PH) (2.2)

х£Х

будем называть оптимальной.

Как правило, распределение Pr известно лишь с точностью до принадлежности достаточно широкому классу U априорно допустимых распределений. В этом случае вместо задачи (2 2) будем рассматривать следующий её минимаксный вариант:

х £ arg min sup F(x, Рд). (2.3)

xiX PReu

Стратегию управления х будем называть минимаксной

Предположим, что Pr — невырожденное гауссовское распределение со средним т и ковариационной матрицей V > О В этом случае

F(x,PR) = S{-J{x,m,V)), (2.4)

1 г

где Ф(г) = —= / е_( - функция Лапласа, а V 2тг-оо

т

тп X — *У

= хеХ. (2 5)

Из непрерывности и строгой монотонности Ф(г) следует, что задача оптимизации (2.2) по вероятностному критерию эквивалентна

х°(тп, V) £ aтgmaxJ(x,m, V). (2.6)

хёХ

Заметим, что Л^х, т, V) — нелинейный и невогнутый по х функционал при любых допустимых {тп, V}, где {•, • } — множество элементов Тем не менее, задача (2 б) имеет аналитическое решение, о чём свидетельствует следующее утверждение.

Теорема 21 Пусть уровень 7 удовлетворяет условию

7 < тТУ-1АТОа, в = {АУ~1АТ) + . (2 7)

Тогда справедливы следующие утверждения:

1) стратегия х°, удовлетворяющая (2.2), существует, единственна и имеет вид х° = х°(т, V), где

х°(т, V) = у-*А*Оа + - У^ОЛ^т; (2.8)

Jo(m,V) =

2) пусть Jo(m,V) = таxJ(x,m,V) = J(x°(m,V),Tn,V), тогда хеХ

1/2

(mFV~lATGa - у)2 _ Т

V — + тТУ~1{1-АrGAV~l)m

(2 9)

aTGa

3) оптимальное значение вероятностного критерия (2-4) имеет вид

F° = minP(RTx < 7) = min F(x, Рл) = Ф(- J0(m, V)) (2.10)

хех zex

Рассмотрим теперь ситуацию, когда Рд задано лишь с точностью до мо-ментных характеристик (тп, V):

Ря е [/i, = {Рл : Е{Д} = m, соу{Я,Д} = К}, V > 0, (2.11)

где E{ñ} и cov{ñ, R} - среднее и ковариация вектора R с распределением

Рл-

В этом случая в силу (2 3) минимаксная стратегия определяется из соотношения

х€ arg min sup F{x, Рд). (2 12)

X*x Ря€С/0

Следующее утверждение показывает, что

sup Р(RTx < 7) = sup F(x, Рд) P«eU0 Ряб С/о

вычисляется аналитически для любого х £

Лемма 2 2 Пусть F[x) — sup F(x, Рд), тог^о

Р«€С/о

Рле£/0

F(s) =

1/(1 + J2{x,m, V)), если тТх - 7 > О, 1, если тГх — 7 < О,

(2.13)

г<?е J(x,m, V) имеет вид (2 5).

Следующее утверждение описывает явный вид минимаксной стратегии 5? из (2 3) для случая, когда вся априорная информация о Рд ограничена заданием m и V, те Рд е [70

Теорема 2.2 Пусть выполнены условия теоремы. 2.1. Тогда 1) стратегия х = х°(т, V) вида (2.8) является минимаксной на X х Uq,

2) для любого Рд 6 U0 F(x, Pr) < F = 1/(1 + J02(m, К)), где JQ(m, V)

имеет вид (2 9) Гарантированное значение критерия F неулучшаемо на

Теперь рассмотрим общий случай, когда т и V заданы с точностью до принадлежности некоторым априорно заданным множествам неопределённости:

где М и V - выпуклые компакты, причём V содержит только положительно определённые ковариационные матрицы.

Теорема 2 3 Пусть 7 таково, что условие (2.7) теоремы 2.1 выполнено всюду на М XV Тогда

1) решение х задачи (2.3) существует, единственно и имеет вид

х°(т, V) имеет вид (2.8), а V) - (2.9).

2) х и любая пара {т, V} решений задачи (2.16) образуют седловую точку критерия У2(х, тп, V) на X х М. х V;

3) для любого распределения .Рд 6 С/

X х Щ.

Рд е и = {Рд : meM, V е V},

(2.14)

х = х°(т, 9),

{fh,V}eavg min J$(m,V)

(2 15) (2.16)

В диссертации получен явный вид "наихудшего" на U распределения Рд вектора R неконтролируемых параметров, те. такого распределения, для которого

F(x, Ря) < F(x, Рд) = F УРЯ 6 U, (2 18)

где F определено в (2 17)

Теорема 2 4 Пусть {in, V} — решение двойственной задачи (2 16) о случайная величина г имеет дискретное распределение вида

Г 7

р 1 i + t* i2 l+t2

где t2 =

(М - 7):

, fi = xTfh, а2 = xTVx. Тогда Рд - Рв, где Рв - распреде-

ление, которое имеет случайный вектор R, имеющий вид

Я = Л

л

Г — X 771

|0|

+ (/"РрТ)£

+ 771,

(2 19)

где ААТ = V, ¡3 = Атх, р = ¡З/Щ, а £ — произвольный п-мерный случайный вектор с параметрами Е{£} = 0, соу{£,£} — I и соу{£,г} = 0.

Замечание 2.2 В силу принадлежности распределения вектора £ достаточно широкому классу распределений из (2 19) следует, что "наихудшее" распределение не единственно. В частности, £ может иметь стандартное нормальное п-мерное распределение.

В третьей главе рассматриваются алгоритмы численного решения двойственных задач

При решении минимаксных задач, рассматриваемых в диссертации, использовался двойственный подход. С помощью данного подхода в диссертации решены следующие двойственные задачи: (1 10), (1 17) и (2.16) Решение этих задач представляет самостоятельный интерес Так, например, поиск "наихудших" параметров модели сводится к решению соответствующей двойственной задачи

В общем виде задача поиска "наихудших" параметров может быть сформулирована как следующая оптимизационная задача:

у0 6 Я = а^тах 1{у),

где

НУ) =

J{x,y) — некоторый критерий качества.

Для решения двойственных задач, в том числе (1 10), (1.17) и (2 16), может быть использован следующий алгоритм, разработанный в диссертации

Алгоритм 31 1) Ууо £ У положить п = 0

2) Найти хп = а^ гшп У(х, уп)

х€Х

3) Решить задачу обобщённого линейного программирования: дJ{xn,y)

уп е arg таxfty, уеУ

где /„ =

ду

. Положить dn — уп ~ уп.

4) Если, f%dn < 0, то положить у — уп и закончить итерации.

5) Если f„d„ > 0, то решить задачу одномерной максимизации 1{у) по направлению dn

тп G arg тах I(y„ + rdn); re(o.i]

6) Полооюитъ yn+i = yn + rndn, увеличить п на 1 и перейти к шагу 2)

Следующая теорема содержит условия, выполнение которых гарантирует сходимость последовательности решений двойственных задач, вырабатываемой алгоритмом.

Теорема 3.1. Пусть J(x,y) задана на X х Y, где X 6 R"1, У € R', и выполнены условия:

1) X — компакт, Y — выпуклый компакт.

д

2) J(x, у) и ——J(х, у) непрерывны на X х Y;

ду

3) при каждом х £ X J(x, у) вогнута по у наУ;

4) при каждом у £ У множество arg min J(x, у) — одноточечное,

хеХ

тогда

1) если f^dn < 0 для п < оо, то у0 = уп 6 Q;

2) если fädn > О для "in > 1, то р(уп, Q) О, где р{у, Q) - расстояние

от у до Q: р(у,Q) = inf \у - х\.

xeQ

С использованием описанного алгоритма в диссертации решены двойственные задачи (1.10), (1 17) и (2.16) В качестве иллюстрации приведём алгоритм решения двойственной задачи оптимизации (2 16) по вероятностному критерию качества.

Критерием качества J(x, Рд) в следующем алгоритме 3 2 является функционал

т

тп1 х — 7

который, как показано в главе 3, эквивалентен вероятностному критерию.

Алгоритм 3.2. 1) Выбрать произвольно Vq g V ито £ A4 и положить п = 0;

2) вычислить

хп = х°(тп, V) = argmin7(x,m„, V„),

где X = {х : Ах = а}, G = {AV~lAT)+,

3) решить задачи обобщённого линейного программирования■

тп 6 arg max f?nrn, тем

Vn € argmmtr{/2rnv},

где

dJ{xn,m,V)

J In =

hn =

dm dJ(xn,m, V)

m=mn, V=V„

y/xlvnxn

dv

{mixn - ч)хпх* 2(х^Кхп)3/2

m=m„, V=Vn

Положить d\n = mn — mn, d<¡n = Vn — Vn. 4) Если fjnd\n < 0 и tr{/2n<¿2n} < 0, то положить

x = xn, fh = mn, V = Vn

и закончить итерации, иначе перейти к следующему шагу.

5) решить задачу одномерной максимизации функции 1(тп, V) по направлениям din и din'

тп € arg max ¡(m^ + rdin, Vn + rd2n), re[0,1]

где I(m,V) = —Jo(Tnn,Vn), a Jo(m,V) определено в (2.9) Mm,V) =

(mTV~1ATGa - 7)2 _ „ _

i--— + m V (I - A GAV )m

a1 Ga

1/2

6) положить тп+1 = тп + тпй 1„, У„+1 = К, + тпй2п, увеличить п на 1 и перейти к шагу 2) алгоритма.

Утверждение о сходимости последовательности {тп, Уп} следует из теоремы 3 1

В четвертой главе рассмотрены семь примеров, иллюстрирующих полученные в диссертации результаты Все примеры разделены на три класса соответственно областям их применения

Первые три примера (4 1.1-4 1 3 ) относятся к классу задач оценивания и прогнозирования параметров движения.

Пример 4.1.1 демонстрирует приложение теорем 1.1, 1.2, 1.3, 3.1 к проблеме оценивания параметров движения летательного аппарата по вероятностному критерию в случае наличия неопределённости в характеристиках ошибок наблюдения. Информация об ошибках наблюдения исчерпывалась заданием множества неопределённости ковариационной матрицы. Движение описывалось многомерной линейной регрессионной моделью с некоррелированными во времени ошибками наблюдения.

Пример 4 1.2 является приложением теоремы 1 3, 3.1 к задаче прогнозирования траектории движения по вероятностному критерию с ошибками наблюдения, которые описывались уравнением авторегрессии. Ошибка наблюдения была известна с точностью до множеств принадлежности вектора её математического ожидания и ковариационной матрицы, а движение описывалось одномерной линейной регрессионной моделью

Пример 4.1 3 является иллюстрацией приложения теоремы 1 4, 3 1 к задаче нелинейного оценивания параметров движения летательного аппарата. Ошибка наблюдения была случайным вектором с нулевым математическим ожиданием и ковариационной матрицей, известной с точностью до принадлежности априорно заданному множеству неопределённости.

В примерах 4 2 1-4 2 2 получены прикладные результаты из областей математической экономики, финансовой математики и эконометрики

Пример 4.2.1 использует результаты теорем 2.1, 2 3 ,2.4 и 3.2. В примере рассмотрена задача об управлении процессом инвестирования в условиях априорной неопределённости. В качестве критерия выбрана вероятность разорения инвестора. Предполагается, что известны математическое ожидание т и ковариационная матрица V вектора ожидаемых доходностей ценных бумаг Я Требовалось определить величины долей х, средств инвестирования в каждый вид актива г (г = 1,. , п) так, чтобы доходность хТК (х = (жх,..., хп)т) всего портфеля активов была бы наибольшей по вероятностному критерию качества:

^х,Ря)=Р(хтЯ<7).

Распределение Рд вектора доходностей ценных Я бумаг было известно с точностью до вектора математического ожидания и ковариационной матрицы:

Рд 6 и = {Рд : Е{Я} = га, сот{Я, Я} = V}, V > 0.

В данном случае область допустимых изменений X вектора х была следующая

Х-{х етх = 1},

где е = {1, , \}т Для формирования стратегии инвестирования, оптимальной в условиях априорной неопределенности, использовался минимаксный подход

sup J(x, Рд) —> min. РлбУ I€jr

С использованием результатов теоремы 2 1 показано, что минимаксная

стратегия инвестирования х в ценные бумаги, минимизирующая наибольшую

вероятность того, что доходность портфеля RTx не превзойдёт некоторый

априорно заданный уровень j, имеет вид'

V-l(m-fe) Х~ eTV-l{m-je)'

если выполнено условие' егК_1(т — уе) > 0.

В примере 4 2 2 найдена оценка параметров уравнений, описывающих динамику некоторых макроэкономических показателей. Данный пример демонстрирует применение теорем 1 1, 1 2, 1 3, 1 4

Заключительный пример 4 3 иллюстрирует прикладные результаты из области построения экспертных оценок и демонстрирует применение теорем 2.3, 3.2.

Основные положения диссертации, выносимые на защиту

1) Методика построения минимаксных оценок параметров многомерной линейной неопределённо-стохастической регрессионной модели по вероятностному критерию качества (теоремы 1.1, 1.2, 1.3).

2) Алгоритм асимптотического минимаксного оценивания параметров многомерной нелинейной регрессионной модели (теорема 1 4)

3) Алгоритм минимаксной оптимизации билинейного функционала по вероятностному критерию при детерминированных ограничениях в виде равенств и неполной априорной информации о случайных параметрах функционала (теорема 2.3). Алгоритм моделирования вектора случайных параметров функционала, имеющего "наихудший" закон распределения (теорема 2.4)

4) Численные методы построения минимаксных оценок регрессионных параметров (теорема 3.1) и стратегий оптимизации билинейного функционала (теорема 3.2), основанные на теории двойственности.

5) Решения следующих прикладных задач: минимаксное оценивание параметров движения летательного аппарата, прогнозирование движения летательного аппарата, вид минимаксной стратегии оптимизации по вероятностному критерию структуры портфеля ценных бумаг в случае неполной информации о вероятностных характеристиках их эффективностей (пример 4.2.1).

Основные положения диссертации опубликованы в следующих работах

1 Панков А Р , Попов А.С Минимаксное оценивание параметров движения летательного аппарата в условиях априорной стохастической неопределённости Труды МАИ, 2002, tf« 7

2. Панков А.Р., Попов А С Минимаксная идентификация нелинейной динамической системы наблюдения.// Автоматика и телемеханика, 2004, № 2, с. 148-156.

3. Панков А Р., Попов АС. О проблеме линейного стохастического программирования с вероятностным критерием в условиях неопределённости // Изв-я РАН Сер Теория и системы управления, 2005, № 1, с 138-148

4 Панков А Р, Попов А С Минимаксное оценивание движения летательного аппарата в условиях априорной стохастической неопределённости // Труды 2 Международной конференции "Идентификация систем и задачи управления", ИПУ РАН, Москва, 2003, с. 2268-2283.

5 Попов А С Минимаксное построение портфеля ценных бумаг в условиях априорной случайной неопределённости. // Труды 2 Международной конференции по проблемам управления, ИПУ РАН, Москва, 2003, т. 2, с. 19-22.

6 Панков А Р , Попов A.C. Задача планирования инвестиций по вероятностному критерию в случае неизвестного распределения // Труды 3 Всероссийской конференции "Финансово-актуарная математика и смежные вопросы", Красноярск, 2004, ч 2, с 168-172.

7 Панков А Р , Попов А С Минимаксная оценка параметров нелинейной векторной регрессии в задачах экономики в случае неполной информации '/ Труды 3 Всероссийской конференции "Финансово-актуарная математика и смежные вопросы", Красноярск, 2004, ч 2, с 173-178

8 Pankov A R, Platonov Е N , Popov A.S., Siemenikhin K.V Linear Stochastic Programming with Minimax Quantile and Probability Criterions. // Proceed of the 43-rd IEEE Conference on Decision and Control, Atlantis, Bahamas, 2004, pp. 3179-3182.

9 Панков A.P., Попов A.C. Линейная минимаксная стохастическая оптимизация по вероятностному критерию // Труды 4 Международной конференции "Идентификация систем и задачи управления", ИПУ РАН, Москва, 2005, с. 2165-2172

10. Панков А Р., Попов А С., Семенихин К.В. Минимаксное оценивание параметров движения космического аппарата в условиях априорной неопределённости // Тезисы докладов 7 Международной конференции "Системный

анализ и управление космическими комплексами", Украина, Евпатория, 2002, с 39-40

11 Панков А Р , Попов А С Оценивание параметров статистически неопределённой линейной регрессии по вероятностному критерию // Тезисы докладов 9 Международной конференции "Системный анализ и управление космическими комплексами", Украина, Евпатория, 2004, с 126-127

12 Попов А С , Платонов Е Н Оптимизация билинейной функции потерь по нестандартным критериям. // Тезисы докладов 9 Международной конференций "Системный анализ и управление космическими комплексами", Украина, Евпатория, 2004, с 126

Попов Алексей Сергеевич «22474

МИНИМАКСНЫЕ ОЦЕНИВ ПАРАМЕТРОВ СТОХАС

ПО ВЕРОЯТНОСТИ] РНБ Русский фонд

Авторе« 2006 4

Подписано в печать 01 11.20 -

Бумага писчая. Уел-печ. 2,7658

Тираж 7

Московский авиационныи институт (государственный технический университет) 125993, Москва, А-80, ГСП-3, Волоколамское ш., 4

Введение

1 Минимаксное оценивание параметров

1.1. Основные обозначения

1.2. Постановка задачи минимаксного оценивания. Критерии.

1.3. Прямая и двойственная задачи. Терминология

1.4. Оценивание параметров линейных моделей

1.4.1. Модель. Постановка задачи. Критерий.

1.4.2. Минимаксное оценивание в случае известной ковариационной матрицы

1.4.3. Минимаксное оценивание в случае неизвестной ковариационной матрицы

1.4.4. Существование "наихудшего" распределения вектора случайных параметров.

1.5. Оценивание параметров нелинейных моделей.

1.5.1. Модель. Постановка задачи. Критерий.

1.5.2. Оценка параметров модели.

2 Минимаксное линейное стохастическое программирование в условиях неопределённости

2.1. Постановка задачи оптимизации билинейного функционала.

2.2. Ошибки оптимизации и неопределённость случайных параметров

2.3. Оптимизация по вероятностному критерию.

2.3.1. Случай нормального распределения вектора возмущений с точно заданными характеристиками

2.3.2. Случай неизвестного распределения вектора возмущений с точно заданными характеристиками

2.3.3. Случай неизвестного распределения вектора возмущений с неточно заданными характеристиками.

2.4. О "наихудшем" распределении вектора возмущений

2.4.1. Постановка задачи.

2.4.2. "Наихудшее" распределение вектора возмущений.

3 Алгоритмы минимаксной оптимизации 44 3.1. Аналитические методы оптимизации. Виды множеств неопределённости 3.2. Аналитическое представление "наихудших" характеристик закона распределения

3.3. Численные методы оптимизации.

3.3.1. Алгоритм решения двойственной задачи.

3.3.2. Вероятностная оптимизация с линейной функцией потерь

3.3.3. Вероятностная оптимизация с квадратической функцией потерь

4 Задачи оценивания и оптимизации

4.1. Задачи оценивания и прогнозирования движения летательного аппарата в условиях неопределённости.

4.1.1. Минимаксное оценивание параметров линейной модели движения летательного аппарата.

4.1.2. Минимаксное оценивание параметров нелинейной модели движения летательного аппарата.

4.1.3. Прогнозирование движения

4.2. Задачи экономической теории в условиях неопределённости.

4.2.1. Задача построения оптимального портфеля ценных бумаг

4.2.2. Задача оценивания параметров трендов макроэкономических показателей.

4.3. Задача экспертного оценивания в условиях неопределённости.

В диссертационной работе исследуется ряд задач системного анализа и обработки информации, рассматриваются проблемы минимаксного оценивания и оптимизации по вероятностным критериям.

Рассмотрены модели систем, в которых присутствуют наряду с параметрами неконтролируемые возмущения. Параметры х модели в диссертации исследуются с позиций их оценивания и оптимизации. Относительно истинных значений возмущений R часто имеется разнородная информация. Вектор возмущений может быть как случайным, так и детерминированным. Сам процесс выбора или оценки значений параметров стохастической системы должен быть произведён с учётом неопределённости возмущений [3,36,38,42]. При этом полнота информации играет ведущую роль в выборе методов решения задач оптимизации и оценивания.

Решения проблем оптимизации и оценивания параметров моделей стохастических систем в условиях полной информации о возмущениях модели достаточно широко известны и применяются во многих практических задачах конструирования, оценивания, оптимизации и анализа сложных динамических систем [2,4]. Процесс оптимизации сложных динамических систем с учётом случайной структуры является также самостоятельным направлением в исследовании сложных систем [3,62].

Обстоятельства отсутствия полной информации о характеристиках возмущений модели, а также возможное присутствие нелинейности существенно осложняют процесс оценивания и определения степени эффективности функционирования стохастических систем.

Для оценивания и оптимизации параметров стохастической системы может быть применен один из двух известных методов: адаптивный или минимаксный. Согласно адаптивному подходу сначала строится статистическая оценка вектора возмущений модели статистически неопределённой системы, после чего становится возможным использование оптимальных методов при условии замены неизвестных характеристик системы их оценками. Согласно минимаксному подходу оценивание и оптимизация параметров производятся так, чтобы они были оптимальны в случае реализации наименее благоприятных возмущений модели. В диссертационной работе используется минимаксный подход.

В результате минимаксного оценивания и оптимизации параметров модели по некоторому априорно выбранному критерию полученные значения параметров являются устойчивыми к допустимым значениям возмущений. Таким образом, минимаксные алгоритмы оптимизации и оценивания являются робастными.

Задачу минимаксного оценивания и оптимизации можно математически представить в виде следующей общей задачи: sup J(x, Pr) —> min, x£X

0.1) где x — вектор параметров, принадлежащий множеству ограничений X, Рд — закон распределения вектора возмущений R. Закон распределения Рд принадлежит классу законов распределения "Р, который содержит все распределения вектора R: E{i?} = т — задан вектор математического ожидания, cov{/?, R} = V — задана ковариационная матрица вектора R. J(x, Рд) в (0.1) есть некоторый известный оптимизируемый функционал. Значения данного функционала характеризуют оптимальность выбора значений параметров.

Выбор критерия должен удовлетворять некоторым известным требованиям:

В диссертации в каждом конкретном случае известно, что рассматриваемый критерий качества обладает необходимыми свойствами.

Заметим, что в задачах теории и практики критерий качества J(x, Рд) может иметь много представлений. В диссертационной работе вид критериев качества ограничен вероятностными критериями вида: где Р(А) — вероятность события A, f(x,R) — некоторая функция потерь.

В случае, когда критерий J(x,Pr) является стохастическим функционалом при известном распределении Рд вектора R, задача была исследована с использованием минимаксных методов в работах В.В. Малышева, М.Н. Красилыцикова, А.Р. Панко-ва, А.И. Кибзуна, Ю.С.Кана [16,27,39,90].

В работах Н.Н. Красовского [20], М.Л. Лидова [23], А.Р. Панкова [39], А.И. Ма-тасова [28], Б.Ц. Бахшияна, P.P. Назирова, П.Е. Эльясберга [3], В.И. Карлова [27] рассматривался случай, когда неопределённость вектора возмущений системы описывается априорно заданными множествами, которым принадлежат его ковариационная матрица и вектор математического ожидания.

Заметим, что использование распространённого среднеквадратического критерия качества не позволяет отвечать на важные вопросы о вероятностных характеристиках получаемых оценок и стратегий оптимизации. Отсюда следует, что задача оценивания параметров по вероятностному критерию, которая решена в диссертации для систем, описываемых линейными регрессионными уравнениями, является актуальной. Решение данной задачи осложнялось присутствием неопределённостей смешанного типа. А именно, вектор возмущений (ошибки наблюдения) модели имел неограниченные неслучайные компоненты и случайные компоненты. Информация о случайных компонентах вектора ошибки наблюдения исчерпывалась некоторым априорно заданным множеством неопределённости. Далее приводится постановка этой задачи. Задача оценивания параметров линейной системы по вероятностному критерию имеет вид:

13,24,64].

J(x,Pr) = -PV(x,R)>J) где в — неизвестный вектор параметров модели, R — вектор ошибки наблюдений, у — вектор наблюдений, у = Z6 + R, Z — матрица соответствующей размерности, х(-) — оператор оценивания.

В диссертации с использованием вероятностного критерия качества также рассматривается задача оптимизации линейной функции потерь. Постановка задачи приводится ниже.

Задача линейного стохастического программирования в условиях неопределённости: sup Р (xTR > 7) —> min, pHev где х — вектор управлений, R — вектор возмущений (в случае модели инвестиционного портфеля, —R есть вектор доходностей активов).

Сами решения, получаемые в результате решения указанных задач, далее называются минимаксными. До настоящего времени минимаксный подход к оптимизации статистически неопределённых систем по вероятностному критерию практически не был разработан. Используемый подход для решения минимаксной задачи в диссертации основан на неравенствах Коши-Буняковского и Чебышёва.

Описанные постановки задач поиска "наихудших" характеристик вектора возмущений могут быть соответственно записаны в следующих видах:

PR(x) Е arg max J(x, Рд), R(x) 6 arg max J(x, Рд), {fh(x), F(ar)} e arg max J(x, Рд), где {■ ,• } — множество элементов, т(х) = Е{Я(х)}, = R(x)}.

После нахождения наименее благоприятных возмущений выбирается "наилучшее", в смысле критерия J(x, Рд), значение вектора параметров модели: х 6 arg min max J(x, Рд).

Приведённый алгоритм носит название прямого метода (прямой задачи). Для решения прямой задачи минимаксной оптимизации могут быть использованы различные численные методы. Однако, практически, решение прямой задачи сопряжено со многими трудностями. В качестве недостатков решения прямой задачи можно выделить следующие: применение известных численных методов решения прямой задачи сужает допустимые множества вектора параметров X, а использование метода штрафных функций приводит к появлению эффекта "овражности" оптимизируемого функционала. Решение прямой задачи, как правило, на практике также может быть сопряжено с такими трудностями, как отсутствие гладкости, аналитического выражения прямого функционала. Более подробно недостатки и достоинства численного решения прямой задачи можно найти, например, в [3,42]

Решение же двойственной задачи для рассматриваемых в диссертации проблем не содержит указанных трудностей [42]. Итак, в диссертации решение прямой минимаксной задачи: min max J(x, Рд) при некоторых предположениях ищется с использованием двойственного подхода: max min J(x, Рд).

Paevxex v n'

Заметим, что в случае известного Рд двойственная задача представляет собой задачу математического программирования, для решения которой в настоящее время разработаны эффективные методы её решения, например [49].

Двойственный метод решения минимаксных задач был развит в работах [42,43].

В диссертации основное внимание уделяется рассмотрению следующих трёх проблем из системного анализа и обработки информации.

Первая проблема — оценивание параметров линейных и нелинейных систем в условиях неполной информации о законах распределения ошибок наблюдения.

В диссертационной работе рассматривается задача оценивания параметров линейной системы по вероятностному критерию в присутствии детерминированных неограниченных неслучайных ошибок наблюдения и центрированных случайных возмущений (ошибок наблюдения) с неточно заданной ковариационной матрицей. Решена задача асимптотического минимаксного нелинейного оценивания.

Вторая проблема — оптимизация параметров. В диссертационной работе подробно рассмотрена задача линейного стохастического программирования в условиях неопределённости при линейных ограничениях.

Структура возмущений обычно на практике точно неизвестна. Таким образом, минимаксный подход является адекватным. Актуальность данной проблемы обусловлена теоретической и практической важностью построения управления сложными стохастическими системами путём выбора параметров в случае неточной информации о структуре вектора возмущений.

Третья проблема — разработка эффективных численных методов решения указанных первых двух проблем. Подавляющее число работ, связанных с использованием минимаксного подхода в оптимизации, посвящено исследованию прямой задачи (т.е. непосредственному поиску минимума супремума критерия). Практическое применение прямого метода, как было сказано, может быть затруднено степенью сложности решения задачи минимизации функции максимума. Если функцию максимума удается найти аналитически, то поиск минимаксной стратегии является стандартной проблемой математического программирования. Для задачи вероятностной оптимизации, изучаемой в диссертации, явный вид функции максимума найти не удается. Более того, оказывается, что эта функция негладкая, поэтому ее оптимизация стандартными численными методами затруднительна. Актуальной становится разработка иных методов решения минимаксных задач.

Для решения проблемы минимаксной оптимизации в работе разработан алгоритм, основанный на использовании решения двойственной (по отношению к исходной минимаксной проблеме) задачи. Доказана сходимость последовательности решений двойственных задач, которая вырабатывается алгоритмом. В качестве частных случаев получены алгоритмы решения двойственных задач с вероятностными критериями качества для рассмотренных в диссертации проблем.

Итак, в диссертационной работе получены новые математические результаты по следующим направлениям минимаксной обработки информации (минимаксные оптимизация и оценивание параметров статистически неопределённых систем):

1) разработка метода минимаксного оценивания параметров линейных моделей по вероятностному критерию в случае, когда вероятностные характеристики шумов (возмущений) полностью неизвестны;

2) развитие асимптотических минимаксных методов оценивания параметров для нелинейных систем наблюдения;

3) аналитический синтез минимаксных стратегий по вероятностному критерию для статистически неопределённых линейных систем;

4) разработка соответствующих численных алгоритмов синтеза минимаксных стратегий на базе теории двойственной оптимизации.

Рассмотрены следующие прикладные задачи:

1) оценивание, прогнозирование и оптимизация параметров (координаты, скорость и т.д.) движущихся объектов (летательных аппаратов) в условиях неполной априорной информации;

2) построение оптимального по вероятностному критерию портфеля ценных бумаг при неполной информации о вероятностных характеристиках их эффективно-стей;

3) оценивание параметров трендов макроэкономических параметров экономики страны;

4) теория экспертизы: определение весов экспертных оценок по вероятностному критерию в случае неполной информации. Информация при этом определяется в терминах фон Неймана-Моргенштерна, т.е. веса рассматриваются как смешанные стратегии решения некоторой задачи управления.

Диссертация содержит четыре главы.

В первой главе изучается проблема минимаксного параметрического оценивания многомерной линейной статистически неопределённой модели наблюдений.

Рассматриваются линейная и нелинейная регрессионные модели. Соответствующие минимаксные задачи оценивания решаются с использованием метода, основанным на решении двойственной задачи.

Для оценивания параметров системы, описываемой нелинейной регрессией, используются вероятностная характеристика — дисперсия асимптотической ошибки наблюдения, а для линейной регрессии — вероятностный критерий качества.

Результатом первой главы являются алгоритмы построения минимаксных оценок вектора неизвестных параметров системы.

Во второй главе решена задача минимаксного стохастического программирования в условиях неопределённости. Данная проблема имеет тесную связь с задачей минимаксной оптимизации параметров. В диссертации оптимизируемая функция называется функцией потерь. В качестве функции потерь использовалась следующая линейная функция f(x,R)=RTx, где R n-мерный вектор случайных возмущений с законом распределения Pr; х € X — n-мерный вектор параметров, X — множество допустимых параметров вида

X = {х : Ах = а}, аф О где А - матрица размера к х п, а - известный n-мерный вектор.

Задача минимаксного оценивания линейной статистически неопределённой системой по вероятностному критерию рассмотрена в работах [39,41].

Третья глава содержит результаты по численному решению двойственных задач проблем, рассмотренных в первых двух главах. Получен алгоритм решения двойственной задачи.

Частным случаем этого алгоритма являются алгоритмы решения двойственных задач оптимизации и оценивания параметров по вероятностным критериям.

В четвёртой главе рассмотрены примеры, иллюстрирующие полученные в диссертации результаты. Все примеры разделены на три области их применения. Первые три примера относятся к областям оценивания и прогнозирования параметров. Следующие два примера могут быть отнесены к областям математической экономики и финансовой математики. Заключительный пример иллюстрирует прикладные результаты из области построения экспертных оценок. Наряду с аналитическими примерами демонстрируются численные примеры и графики.

Основные результаты диссертации опубликованы в работах [34-41,50,51,111].

Заключение

В диссертационной работе разработаны и изучены новые математические методы минимаксных оптимизации, оценивания и разработаны численные алгоритмы их реализации.

Разработаны методы оценивания параметров линейных моделей по вероятностному критерию качества в условиях априорной неопределённости в случае, когда ошибки наблюдения имеют как регулярную, так и случайную составляющие; разработан асимптотический метод оценивания параметров многомерных нелинейных динамических моделей в случае центрированных ошибок наблюдения с неточно заданной ковариационной матрицей; получено решение задачи стохастического программирования в случае неполной информации; решён ряд прикладных задач в случае неполной информации о возмущениях модели.

Для решения минимаксных задач использовался метод, основанный на решении двойственных задач, который обладал лучшими свойствами по сравнению с решениями прямой задачи. Так, решения двойственной задачи являлись гладкими и имели аналитическое выражение.

В настоящее время развитие теории оценивания и оптимизации сложных стохастических систем привело к использованию нестандартных критериев качества эффективности функционирования системы таких, как вероятностный критерий качества, используемый в диссертации.

Для решения двойственных задач с ограничениями общего вида разработан численный алгоритм. Доказано, что последовательность решений двойственных задач, вырабатываемых алгоритмом, сходится. В качестве следствий получены численные алгоритмы решения двойственной задачи для ряда проблем.

В диссертации получены следующие результаты:

1) решена задача минимаксного оценивания параметров многомерной линейной регрессионной модели по вероятностному критерию качества в случае неполной априорной информации об ошибках наблюдения;

2) решена задача асимптотического минимаксного оценивания параметров многомерной нелинейной регрессионной модели;

3) решена задача минимаксной оптимизации билинейного функционала по вероятностному критерию при детерминированных ограничениях в виде равенств и неполной априорной информации о случайных параметрах функционала;

4) разработаны численные методы построения минимаксных оценок регрессионных параметров и стратегий оптимизации билинейного функционала, основанные на теории двойственности.

Основные положения диссертации, выносимые на защиту.

1) Методика построения минимаксных оценок параметров многомерной линейной неопределённо-стохастической регрессионной модели по вероятностному критерию качества (теоремы 1.1, 1.2, 1.3).

2) Алгоритм асимптотического минимаксного оценивания параметров многомерной нелинейной регрессионной модели (теорема 1.5).

3) Алгоритм минимаксной оптимизации билинейного функционала по вероятностному критерию при детерминированных ограничениях в виде равенств и неполной априорной информации о случайных параметрах функционала (теорема 2.3). Алгоритм моделирования вектора случайных параметров функционала, имеющего "наихудший" закон распределения (теорема 2.4).

4) Численные методы построения минимаксных оценок регрессионных параметров и стратегий оптимизации билинейного функционала, основанные на теории двойственности.

5) Решения следующих прикладных задач: минимаксное оценивание параметров движения летательного аппарата, прогнозирование движения летательного аппарата, вид минимаксной стратегии оптимизации по вероятностному критерию структуры портфеля ценных бумаг в случае неполной информации о вероятностных характеристиках их эффективностей.

1. Алберт А. Регрессия, псевдоинверсия и реккурентное оценивание. М.: Наука, 1977.

2. Афанасьев В.Н., Носов В.П., Колмановский В.Б. Математическая теория конструирования систем управления. М.: Высшая школа, 1989.

3. Бахшиян Б.Ц., Назиров P.P., Эльясберг П.Е. Определение и коррекция движения. М.: Наука, 1980.

4. Брандин В.Н., Разоренов Т.Н. Определение траектории космических аппаратов. М.: Машиностроение, 1978.

5. Васильев Ф.П. Численные методы решения экстремальных задач. М.: Наука, 1988.

6. Голубин А.Ю. О выпуклой задаче оптимизации в пространстве мер с моментны-ми ограничениями. // Автоматика и Телемеханика. 2000. №8. с. 37-46.

7. Григорьев Ф.Н., Кузнецов Н.А., Серебровский А.П. Управление наблюдениями в автоматических системах. М.: Наука, 1986.

8. Моделирование глобальных экономических процессов (под ред. Дадаяна B.C.). М.: Экономика, 1984.

9. Данилин Ю.М., Пшеничный Б.Н. Численные методы в экстремальных задачах. М.: Наука, 1975.

10. Демиденко Е.З. Линейная и нелинейная регрессии. М.: Финансы и статистика, 1987.

11. Дмитриевский А.А. и др. Баллистика и навигация ракет. М.: Машиностроение, 1985.

12. Евтушенко Ю.Г. Методы решения экстремальных задач и их применение в системах оптимизации. М.: Наука, 1982.

13. Ермаков С.М., Жиглявский А.А. Математическая теория оптимального эксперимента. М.: Наука, 1987.

14. Жданюк Б.Ф. Основы статистической обработки траекторных наблюдений. М.: Сов. радио, 1978.15.