автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Алгоритмы оптимального оценивания в стохастических системах в условиях априорной неопределенности

кандидата физико-математических наук
Лебедев, Максим Витальевич
город
Москва
год
2008
специальность ВАК РФ
05.13.01
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Алгоритмы оптимального оценивания в стохастических системах в условиях априорной неопределенности»

Автореферат диссертации по теме "Алгоритмы оптимального оценивания в стохастических системах в условиях априорной неопределенности"

На правах рукописи #

Лебедев Максим Витальевич

АЛГОРИТМЫ ОПТИМАЛЬНОГО ОЦЕНИВАНИЯ В СТОХАСТИЧЕСКИХ СИСТЕМАХ В УСЛОВИЯХ АПРИОРНОЙ НЕОПРЕДЕЛЕННОСТИ

05.13.01 —Системный анализ, управление и обработка информации (авиационная и ракетно-космическая техника)

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Москва, 2008

003454066

Работа выполнена на кафедре теории вероятностей Московского авиационного института (государственного технического университета).

Научный руководитель1

кандидат физико-матсматичсскпх наук Семепихин Константин Владимирович

Официальные оппоненты'

доктор физико-математических наук, профессор Кузнецов Евгений Борисович

кандидат физико-математических наук, н с. Миллер Григорий Борисович

Ведущая организация:

Институт проблем управления РАН

Защита состоится "19" декабря 2008 г. в 10 ч 00 мин. на заседании Диссертационного совета Д 212 125.04 при Московском авиационном институте (государственном техническом университете) по адресу- 125993, Москва, А-80, ГСП-3, Волоколамское ш., 4, Ученый совет МАИ.

С диссертацией можно ознакомиться в библиотеке Московского авиационного института (государственного технического университета).

Отзыв на автореферат, заверенный гербовой печатью организации, просьба направлять по указанному адресу в двух экземплярах.

Ученый секретарь Диссертационного совета Д212.125.04 кандидат физико-математических наук

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Объект исследования. В диссертационной работе исследованы задачи оптимального оценивания в стохастических системах при наличии существенной априорной неопределенности.

Актуальность темы. На сегодняшний день с развитием информационных технологий все большее значение приобретают математические методы, связанные с обработкой и анализом эмпирической информации. Несомненно, среди этих методов — алгоритмы оценивания и фильтрации являются ключевыми

Зачастую в реальных практических задачах не удается построить полностью определенную адекватную математическую модель, в которой можно было бы воспользоваться известными методами для оценивания параметров и сигналов. Иногда вообще отсутствует информация о природе тех или иных процессов, а известны лишь некоторые достаточно широкие ограничения на их поведение. Таким образом, возникает задача оптимального оценивания и фильтрации в стохастических системах при наличии априорной неопределенности.

К настоящему моменту в этой области обработки информации сформировались два основных подхода: робастный и адаптивный. В соответствии с адаптивным подходом недостающая априорная информация извлекается из нарастающего массива эмпирических данных. Исследованию адаптивного подхода в задачах оценивания и фильтрации посвящены работы Я.З. Цыпкина, Б.Т. Поляка, В.Н. Фомина, С.П. Урясьева, A.B. Назина, L. Ljung'a и др.

В представляемой диссертации исследуются постановки, имеющие дело с фиксированным ограниченным набором наблюдений. В такой ситуации альтернативой адаптивным методам являются методы, основанные на робастном или минимаксном подходе. В нашей стране к основоположникам этого подхода относятся H.H. Красовский, A.B. Кур-жанский, M.JI. Лидов, Б.Т. Поляк, П.Е. Эльясберг. Среди зарубежных специалистов можно отметить C.J. Martin, M. Mintz, H.V Poor, P. Huber, S. Verdu, A Wald. Дальнейшее развитие данной тематики связано с работами Б.И, Ананьева, Б.Ц. Бахшияна, Г.А. Голубева, М.И. Гусева, И.Я Каца, А.И Матасова, А.Г. Наконечного, А.Р. Панкова, Ю.П Пытье-ва, Е.Я. Рубиновича, В.Н. Соловьева, Г.А. Тимофеевой, В.И Ширяева, S. Boyd'a, L.E1 Ghaoui, G. Calafiore.

Итак, при робастном подходе требуется (по ограниченному набору наблюдений) указать фиксированную оценку, чье наихудшее качество на заданном классе неопределенности будет наилучшим по сравнению

с другими допустимыми оценками. Тем самым, задачу робастного оценивания можно сформулировать в виде игровой постановки, в которой критерий (погрешность оценивания) зависит от пары элементов, выбираемых из пары заданных множеств, содержащих соответственно допустимые операторы оценивания и возможные характеристики модели наблюдения.

Основная задача диссертационной работы—синтез алгоритмов минимаксного оценивания для нескольких типов моделей наблюдения. В первой главе минимаксная оценка неопределенно-стохастического вектора построена аналитически при наличии ошибок наблюдений неизвестной ковариационной структуры. Во второй главе диссертации искомая оценка находится итерационно при поэлементных ограничениях на ковариа-ции ошибок наблюдения. И наконец, третья глава посвящена процедуре минимаксной фильтрации в стохастической дифференциальной системе с неопределенными интенсивностями нестационарных возмущений. Таким образом, в первой главе неопределенность описывается обширным множеством ковариационных матриц, во второй главе неопределенность носит алгебраический характер (заранее неизвестно регулярна ли модель наблюдения или нет), в третьей главе неопределенность непараметрическая, т.е. неизвестными являются функции. Общим для указанных моделей наблюдения является то, что непосредственное применение к ним существующих алгоритмов минимаксного оценивания оказывается чрезвычайно трудоемким. С целью подчеркнуть эту особенность рассматриваемых моделей в работе использован термин «существенная априорная неопределенность».

Во всех неопределенно-стохастических системах, рассматриваемых в диссертационной работе, прямой синтез минимаксного алгоритма оценивания является трудноразрешимой задачей. Поэтому используется подход, основанный на переходе к двойственной (максиминной) задаче. Применение такого подхода к задачам минимаксного оценивания было отмечено ранее в работах В.Б. Меласа, Б. Уег<1и, Н.У. Роог'а, И.Ф. Пи-нелиса, В.Н. Соловьева, А.Р. Панкова, К.В. Семенихина.

Цель работы — исследование и решение задач оптимального оценивания по среднеквадратическому критерию в стохастических системах в условиях существенной априорной неопределенности различного типа.

Достижение указанной цели подразумевает выполнение следующих основных этапов данной работы:

1) аналитический синтез минимаксной оценки случайного вектора в присутствии случайных ошибок двух видов: белошумной и произвольно

коррелированной;

2) сравнение качества минимаксного оценивания при различных ограничениях на произвольно коррелированные ошибки,

3) формулировка и обоснование алгоритма оптимального оценивания в стохастической линейной многомерной модели наблюдения при наличии алгебраической неопределенности относительно ковариационной структуры случайных ошибок;

4) статистическое моделирование и сравнительный анализ разработанного алгоритма минимаксного оценивания на примере модели с поэлементными ограничениями на ковариацию погрешности наблюдения;

5) обоснование алгоритма минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности;

6) аналитический синтез минимаксного фильтра скалярного состояния стохастической дифференциальной системы при произвольных нестационарных белошумных возмущениях с неизвестной взаимной корреляцией.

Методы исследования. В диссертационной работе используются методы теории оптимизации, выпуклого анализа, теории двойственности, линейной алгебры, теории вероятностей, математической статистики, функционального анализа и теории управления, численные методы выпуклого программирования, а также современные средства компьютерного моделирования.

Научная новизна.

1. В работе сформулирована задача минимаксного оценивания вектора состояния конечномерной стохастической системы по среднеквадратичному критерию при наличии интегрального ограничения на дисперсию произвольно коррелированных ошибок. Для указанных ошибок найдена наименее благоприятная ковариация, на основе которой построена искомая минимаксная оценка вектора состояния. Проведено сравнение качества минимаксной оценки при различных видах ограничений на ковариацию случайных ошибок.

2. Решена задача минимаксного оценивания вектора состояния конечномерной стохастической системы при наличии поэлементных ограничений на ковариационную матрицу вектора ошибок. Для данной модели наблюдения сформулирован алгоритм совместного решения минимаксной и двойственной задачи.

3. Описано решение задачи минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями

неизвестной интенсивности. Получен явный вид минимаксного фильтра скалярного состояния в модели наблюдения с белошумными возмущениями произвольной интенсивности.

Практическая ценность и теоретическая значимость. Полученные результаты составляют теоретическую базу для решения многих практических задач обработки информации в отсутствии точных математических моделей, описывающих структуру случайных возмущений и помех наблюдений. Среди этих задач можно отметить следующие, оценивание параметров движения летательных аппаратов, статистическая обработка внешиетраекторных наблюдений и результатов летных испытаний авиационной и ракетно-космической техники.

Результаты диссертации позволяют провести сравнение используемых на практике алгоритмов оценивания и фильтрации с оптимальными методами, обеспечивающими гарантированное качество оценок.

Апробация работы Результаты диссертационной работы обсуждались на научных конференциях и симпозиумах: 44th IEEE Conference on Decision and Control and European Control Conference (CDC-ECC) (2005, Spain, Seville); «Научная сессия МИФИ 2008» (2008, Россия, Москва); «Информационные технологии в авиационной и космической технике-2008» (2008, Россия, Москва); 13-ая Международная конференция «Системный анализ и управление космическими комплексами» (2008, Украина, Евпатория), 7-ая Международная конференция «Авиация и космонавтика - 2008» (2008, Россия, Москва), а также на научных семинарах под руководством проф А.И. Кибзуна (МАИ) и проф. Б.Т. Поляка (ИПУ РАН).

Публикации. Основные результаты диссертации опубликованы в пяти статьях [1-5] ([1,2] —в журналах из перечня ВАК, [3-5]—в сборниках научных трудов), а также в тезисах научных конференций [6-9].

Структура и объем диссертации. Диссертация состоит из введения, 3 глав, заключения и списка литературы (95). Объем диссертации — 80 м.п.с.

СОДЕРЖАНИЕ РАБОТЫ

Во введении представлен краткий обзор современного состояния исследуемой проблемы, сформулированы цель и задачи диссертационной работы, перечислены полученные в диссертации новые результаты, обоснованы их актуальность и практическая ценность, описана структура диссертации.

В первой главе представлено аналитическое решение задачи минимаксного оценивания в многомерной линейной стохастической системе при наличии произвольно коррелированных ошибок наблюдений:

Х = А9, У = Ве + т) + ау, (1.1)

где X 6 К"1 — вектор состояния, который требуется восстановить по наблюдениям {Уь..., Уп}, образующим вектор У 6 Е"; 0 е Ер — вектор случайных параметров системы; и € К" и г) ё Е"-векторы случайных помех наблюдений; А и В—известные матрицы соответствующего размера; а — заданное положительное число. Известно, что в,Г),у центрированы и некоррелированы между собой, а также имеют ковариационные матрицы, удовлетворяющие условиям

соу{0, 0} ^ Т, Ь [со^{г], т?}] «; а2, и} = /, (1.2)

где положительно определенная матрица Т € Е+Хр и число а > 0 заданы. Здесь и далее Е"х" — семейство симметричных неотрицательно определенных матриц размера п х п, а неравенство между матрицами < Т означает Т - 5 € Е+х".

Цель данной главы — построить наилучшую оценку случайного вектора X в модели наблюдения (1.1) при наличии описанной выше априорной неопределенности.

Рассмотрим произвольную линейную оценку X = ГУ, Р € Етхг< и предположим, что ее точность определяется величиной с. к. погрешности Еп||^ — Х||2, где П обозначает совместное распределение случайных векторов 6,г] ку. Для наилучшего оценивания достаточно найти оператор оценивания Ё 6 Етхп, на котором указанный с. к. критерий достигает наименьшего значения. Однако искомый оператор оценивания Ё будет зависеть от распределения П. Поскольку оно известно не точно, а задано лишь посредством условий (1.2), найти наилучший оператор оценивания без привлечения дополнительной априорной информации о модели наблюдения невозможно. Поэтому для корректной формулировки задачи оптимального оценивания используется минимаксный подход.

Определение 1.1. Оценка X — ЁУ называется оптимальной в минимаксном смысле (или просто минимаксной), если

Ё б агитштахЕпЦХ - ЁУ||2,

Пер

где V — класс всех совместных распределений векторов 9, т/, и, удовлетворяющих условиям (1.2).

Итак, искомая оценка доставляет минимум гарантированному (т е. наихудшему) значению среднеквадратического критерия.

В работе показано, что

max EnllX - FYII2 = тах J(F, R),

ПеР " " йе7г v '

где обозначено

J(F,R) = tt[{FB - A)T(FB - А)* + F(R + a2I)F'], 7l~ {R€ K"xn: tri? ^ er2}.

Таким образом, задача минимаксного оценивания принимает вид

F € arg mm шах J{F, R). (1.3)

Наряду с (1.3) в данной главе рассматривается также задача, двойственная по отношению к указанной, а именно, проблема нахождения наименее благоприятной ковариации R:

R eargmaxJ(ii), J(R) = min J(F,R). (1.4)

Яегс FeRrnxn

Для построения минимаксной оценки X = FY используется метод, основанный на решении двойственной задачи. Суть его заключается в том, что минимаксный оператор оценивания F ищется в виде решения задачи оптимального оценивания

Fr 6 arg min J(F, R) при R = R,

FeKmx n

где R — наименее благоприятная ковариационная матрица (1.4). Тем самым оценка F^Y построена по наилучшему алгоритму оценивания в той ситуации, когда для модели наблюдения реализовался наихудший случай, определяемый решением R двойственной задачи (1.4).

Отметим, что метод, использующий непосредственную минимизацию максимума с. к. погрешности, к задаче (1.3) оказывается неприменим.

В общем случае структура минимаксной оценки и наименее благоприятной ковариации описывается в следующей теореме.

Теорем а 1.1. Для сформулированной задачи минимаксного оценивания (1.3) справедливы следующие утверждения:

1) решения минимаксной и двойственной задач {см. (1.3) и (1.4) соответственно) существуют и образуют седловую точку

J(F, R) «С J(F, R) < J(F, R) VF € Rmxn, R E K\

2) Рд = АТВ*(ВТВ* + Й. + а2/)-1 — минимаксный оператор оценивания, если Я —решение двойственной задачи (1.4);

3) если симметричная матрица Л представляет собой решение задачи (1.4), то существует число А > О такое, что

1гЯ = <т2, Д>0, ||<2*2ад < А, Р(А/-Р?Рд)Р = 0, (1.5)

где Р = ЙЯ+ и <2 = 7 - Р;

4) если о/се матрицы <3 и Р^Рд перестановочны, то приведенные условия (1.5) являются достаточными для того, чтобы И, была решением двойственной задачи (1.4).

В работе для искомой минимаксной оценки удалось найти аналитическое выражение при следующих предположениях:

а) вектор состояния системы при отсутствии возмущений восстанавливается безошибочно, иначе говоря,

Л = Р0Р, где Р0 = АВ+; (1.6)

б) матрицы V — ВТ В* и ¡7 = Р0*Ро перестановочны т. е. = VII или, что тоже самое, они допускают одинаковое спектральное разложение

I 1 I

г=1 1=1 1=1

где и, и иг — собственные значения (у, > 0 и и, > 0); Р, — ортопроекторы на взаимно ортогональные подпространства; 1 ^ / ^ р.

Первое предположение известно в регрессионном анализе как условие идентифицируемости и может быть записано в виде кег В С кег А. Оно заведомо выполнено, если В — матрица полного ранга.

Второе условие означает, что при отсутствии помех вектор состояния—есть результат преобразования вектора наблюдений в спектральной области. В частности, данное предположение будет выполнено, если X = в или X = Бв.

Вез ограничения общности можно предположить, что всем парам собственных значений и и, приписаны индексы г = 1,..., I так, что

(VI + а2)2 ^ (VI + а2)2

Решения минимаксной и двойственной задач представлены в приведенной ниже теореме Для ее формулировки введем некоторые вспомогательные обозначения, пусть даны индекс к е {1,...,/} и положительные

числа Л, г\,..., удовлетворяющие соотношениям

(у, + г, + а2)2

к

= Х, 1 = 1,...,к, = о-2, (1.9)

1=1

где — ранг ортопроектора Рг (т. е. й, = tr Р,) и г>;+1 = ыг+1 = 0.

Теорема 1.2. Пусть в модели наблюдения (1.1) —(1.2) выполнены условия (1.6) и (1.7). Тогда минимаксный оценивателъ, наименее благоприятная ковариация и оптимальное гарантированное значение с. к. погрешности имеют следующий вид-.

1 Т

Р = АТВ*{У + Я + а2/)"1 = У"---Г АТВ*Р„ (1.10)

V, + п + а1

1=1

к

д=г'р= ••■=»■1=0. (1-п)

1=1

1 = = (1.12) ^ г>, + г, + аг

причем к,Х,Г1,..., г к, удовлетворяющие (1.8)—(1.9), действительно существуют и определены единственным образом.

Также в данной главе представлено несколько примеров для иллюстрации полученной минимаксной оценки.

В примерах 1.1, 1.2 проведено сравнение качества оценивания в частной модели наблюдения (1.1) при различных ограничениях на ковариационную матрицу вектора ошибок наблюдения.

В примерах 1.3, 1.4 для двух многомерных моделей наблюдения при помощи теоремы 1.2 найдены явные представления для минимаксных оценок.

Во второй главе получен итерационный алгоритм минимаксного оценивания вектора состояния в конечномерной линейной неопределенно-стохастической системе

Х = Ав, У = Вв + т},

при наличии поэлементных ограничений на ковариационную матрицу вектора ошибок 77

СОУ^,^} € Ке = {й е МГ" •• - <,1 ^ Д.,л = 1, • •.,"}. (2-13)

где A,j ) Ö и Д e R"xn, а й°€ R"xn — некоторая опорная матрица. S"xn — семейство симметричных матриц размера п х п. Исследуемая задача минимаксного оценивания имеет вид

F е arg min max J(F, Я), (2.14)

J(F, Я) = tr[(FB - ¿)T(FB - A)' + FRF*},

где множество неопределенности имеет следующую структуру:

тг = Ш1*птге.

Рассматриваемая в данной главе модель наблюдения может оказаться сингулярной, поэтому для решения задачи минимаксного оценивания (2.14) применяется метод регуляризации Тихонова. Для этого вместо функционала J(F,R) рассматривается его регуляризованный вариант J£(F, R) = J(F, R) + е tr [FF*], где е > 0 — некоторая константа. В этом случае задача (2.14) минимаксного оценивания принимает вид

F- е arg min max JE{F,R).

FzRmx

Rem

Тогда в соответствии с методом двойственной оптимизации F* е arg min J£(F, Я),

FeR»*»

где Я—решение регуляризованной двойственной задачи

Яеагетах/ЧД), Л(Я) = inf (2.15)

лея-v ' ~ ' 4

Искомый алгоритм оценивания существенно упрощается, если расширить множество неопределенности и заменить исходный критерий J£(F, Я) функцией Лагранжа Lf(F, Я, Л) = JC(F, Я) + tr[Afi], Тогда новая двойственная задача примет следующий вид:

(Я, Л) € arg max _ ¿Е(Я,Л), (2.16)

где LC(R,A) = J?(R) + tr[A#], Л > 0. В следующей теореме показано, что задача (2 16) эквивалентна исходной двойственной задаче (2.15). Теорема 2.3. Пусть множество 1Z удовлетворяет условию Слей-

тера ЗЯ € М"*п : Я > 0, |Я,а - Л®,| < Д^ uÄ^^1"^1

" n mm ст (Я)

Тогда Я является решением задачи (2.15) тогда и только тогда, когда

существует матрица Л: О < Л ^ XI такая, что А и R образуют

решение задачи (2.16).

В сформулированной теореме mm a (Я) — минимальное собственное значение матрицы Я.

В итоге для поиска минимаксной оценки в работе сформулирован итеративный алгоритм, основанный на методе условного градиента.

Алгоритм 2.1. 1) выбрать матрицу R в качестве начальной д(°) = Д и положить 5 = 0,

2) задать число

- U[ATA*}-Je(R) nmin ст(Я°) '

3) найти оператор оценивания

F(s) = AT В* (ВТ В* + flW + е/)-1;

4) взять матрицу ЛW = где ортопроектор на подпространство, соответствующее отрицательным собственным числами Я«,

5) составить матрицу Д^ такую, что

Д^ = J& + Д,J sign (f«VW + AW^ г, j = 1,..., n;

^ 6) если $M=0, где ¿W = 2/(FW, дМ.Л«) - ¿'(FW, flW.AW), To Ä = Д^ и F = FW, иначе перейти к шагу 7);

7) определить число 7W из условия

е arg max ¿/((1 - + 7^');

те [о,1]

8) положить = (1 - увеличить s на 1 и перейти к шагу 3),

В конце данной главы представлены примеры, иллюстрирующие применение алгоритма 2.1 к нескольким частным моделям наблюдения.

Пример 2.1 демонстрирует применение разработанного алгоритма к задаче определения параметров движения летательного аппарата по результатам траекторных наблюдений при наличии немоделируемых возмущений в характеристиках ошибок наблюдений.

В примере 2.2. рассматривается модель простой линейной регрессии

Yj = Gi + Xj02 + цj + EVj, j = l,...,n,

в которой требуется восстановить вектор случайных параметров по скалярным измерениям Y3 в присутствии случайных помех т]} и и,.

Данная модель измерений рассматривается в следующих предположениях: в случайный вектор, у которого компоненты 0\ и в2 являются

некоррелированными и имеют нулевые средние и одинаковые дисперсии О > 0; {т)1,.. -, Т?тгЗ" — центрированные случайные величины с неопределенной ковариационной матрицей Л; {г>1,...,ип}--некоррелированные нормированные случайные величины; векторы в, г;, V — попарно не кор-релированы.

Кроме того, для случайного вектора г) априорная неопределенность описывается поэлементными ограничениями на его ковариационную матрицу: ^ а2, г,= 1,..., п. Этим ограничениям соответствует множество вида (2.13):

7г = {д е:

ггЗ

где Я0 = I, Д^ = ст*/2 при г = з и = <г2 при г ф

Для представленной модели было проведено численное моделирование в следующих условиях: векторы в, г) и V являлись независимыми в совокупности и распределенными по нормальному закону, а именно,

0~Л/"(О ,П1), т/~ЛГ(0,Д), г;~ЛА(0,/),

где

Д:

1 0 1

0 1 о

1 0 1

0 1 о

Наряду с истинной ковариационной матрицей й и наименее благоприятной Я был взят еще один пример допустимой ковариационной матрицы До = 0^7. Случай К = До можно рассматривать как гипотезу о структуре случайных ошибок наблюдения. В работе показано, что расчет на эту неверную гипотезу может привести к недопустимой переоценке качества используемых решений.

В данном примере рассматриваются следующие оценки вектора в: 9 — минимаксная оценка для множества 7£; в = ГцУ — оптимальная оценка (она построена в условиях полной априорной информации Л = Л); #0 = ^ЛдУ — оценка, называемая эвристической, поскольку она найдена при гипотетической ковариации До-

i

Рис 2 1. Линии регрессии и наблюдения

На рис. 2 1 изображены результаты измерений Y3 и построены линии регрессии для параметров в% и их оценок (1 — наблюдения; 2 —полезный сигнал; 3 — оптимальная оценка; 4 — минимаксная оценка; 5 —эвристическая оценка).

Как видно, минимаксная оценка уступает оптимальной, но превосходит в точности эвристическую. В этом состоит одновременное проявление оптимальных и гарантирующих свойств минимаксных алгоритмов оценивания.

В третьей главе рассмотрена задача минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности.

Рассматривается следующая стохастическая дифференциальная система:

№ = № + / a(a)£(s) ds+f b(s) d^s),

t 0 t 0 (317)

V(t) = fA(s)tts)ds + jB(s)dv(s), v 0 0

в которой {£(i), t e [О, Г]}—m-мерный случайный процесс, описывающий состояние системы, а {r](t), t £ [0, Г]}—n-мерный случайный процесс, доступный непосредственному наблюдению. Начальное состояние £(0) предполагается центрированным случайным вектором с матрицей ковариации D = cov{f(0),£(0)}, принадлежащей заданному множеству неотрицательно определенных симметричных матриц Т>. Возмущения /i(i) е Rp и i>(t) € R? образуют процесс w(t) — col[/x(i), v(t)}, который

является центрированным, некоррелированным с вектором £(0) и имеющим ортогональные приращения. Последнее предположение означает, что ковариационная функция процесса w(t) имеет вид:

min(t,s)

cov{w(í),kj(s)} =* J U(r)dr, t,se [0, Г], о

Функция интенсивности U{t) принадлежит следующему классу: U = {U: [0, Г] RÜXU: U(r) измерима и Щт) 6 V,r € [0,Т]}, (3.18)

где V — некоторое фиксированное множество неотрицательно определенных симметричных матриц размера и х и,и = р + д. Для элементов множества V используется запись в виде блочной матрицы: V = ( ^ ^

Коэффициенты системы (3.17) a(s) 6 Rmxm, Л(в) € Rnxm, b(s) 6 Rmxp, B(s) € R"*9 предполагаются известными измеримыми ограниченными функциями.

Следующие допущения играют ключевую роль при построении минимаксного фильтра:

А) множества V и V выпуклы и компактны; Б) выполнено условие регулярности:

Be > 0: B{s)VvB*{s)^£l, s€[0,T] VV„eV. (3.19)

Отметим, что (3.19) означает равномерную невырожденность матрицы интенсивности шумов в уравнениях процесса наблюдения.

Случайный вектор £(t) называется допустимой оценкой вектора состояния £(£) по наблюдениям процесса {r¡(t), t 6 [0,Т]}, если существует измеримая функция д: [0, Г] х [0,Т] -+ Rroxn) такая что т т

I /Il0(*.s)||2<iids < оо и о о

№~fff(t,s)dri(s) vt € [0,Г]. (3.20)

о

Таким образом, рассматриваются только линейные неупреждающие преобразования наблюдаемого процесса.

Пусть далее Е —класс всех допустимых оценок (фильтров), т.е. случайных процессов {£(£), t £ [О, Г]} вида (3.20).

Точность фильтра £ € Н будем измерять с помощью среднеквадрати-ческого критерия

= t е [о,т], (3.21)

где Е{-1D, U} обозначает математическое ожидание, вычисленное в предположении, что процессы £(i) и rj(t) удовлетворяют уравнениям (3.17) с ковариационной матрицей D начального состояния £(0) и функцией интенсивности возмущений U.

Наряду с локальным критерием (3.21) в работе рассматривается также интегральный критерий

Mil A U) = jLt(t\D,U)dt.

о

Определение 3.2. Пусть Jt(-) обозначает один из критериев Lt(-) или 1т(-)- Допустимый фильтр £ называется минимаксным относительно Jt{w), если

£ £ argmin sup Jt(£ | D, U).

dev,ueu

При этом

JT = inf sup Jir(f | D, U)

называется оптимальным гарантированным значением критерия Jt{~)-

В данной главе для построения минимаксного фильтра используется метод двойственной оптимизации. Суть его заключается в том, что минимаксный фильтр ищется в виде решения задачи оптимальной фильтрации:

£ <Е argmin Jr(£i D, U), fe£

где D и U являются наименее благоприятными характеристиками модели наблюдения. Последнее означает, что D, U образуют решение следующей задачи максимизации:

(Д U) Е argmax JT(D, U), (3.22) Dzv,UeU

где

JT{D, U) = inf Jr(I\ A U). (3.23)

Задача (3.22) и функционал (3.23) называются двойственными, если выполнено следующее равенство:

inf sup JT{l\D,U)= sup JT(D,U). (3.24)

Точная формулировка описанного метода приведена в следующей теореме.

Теорема 3.4. Пусть ■/*(•) обозначает один из критериев !/*(•) или /{(•). Если условия А) и Б) выполнены, то справедливы следующие утверждения.

1) Выполнено соотношение двойственности (3.24).

2) Существует решение двойственной задачи (3.22), где

Jt{D, U) — <

tr[7(i | D, U)\ при Jt(-) = Lt(-),

/tr[7(s|AC/)]ds при Jt(-) = It(-), Ко

(3.25)

а 7(s | D, U) удовлетворяет уравнению Риккати:

d^$ds'U) 7(*1A V), U(s)), j(0\D,U) = D, (3.26)

где T(s, 7, V) = ф)7 + 7a*(«) + b(s)V^{s) - {b{s)V^B*(s) + 7A*(s))x x(B(s)KBt(s))~1(B(s)KMi>t(s) + A(s)j).

При этом Jt(D, Ü) — оптимальное гарантированное значение критерия.

3) Минимаксный фильтр совпадает с фильтром Калмана:

i(t) = f{a(s)i(s) ds + [6(S)LUS)B*00 + y(s)A*(s)]x о

x (S(s)^(s)ß*(s))-1[dr?(s) - A(s)i(s) c£s]}, где 7(s) = 7(s | D, Ü).

4) Минимаксный фильтр £ и наименее благоприятные характеристики (D, U) образуют седловую точку функционала Jt[~) на произведении Е и V х U\

3Т{1\0,и)^3Т{1\Ь,и)^Ш\0,и) vfeH и V(D,U)e7>xU.

В силу теоремы 3.4 двойственную задачу (3.22) можно рассматривать как задачу оптимального управления системой (3.26) по терминальному или интегральному критерию (3.25) с состоянием 7 и управлением U, подчиняющимся ограничениям (3.18).

Приведенное ниже утверждение описывает результат применения принципа максимума к вариационной задаче (3.22).

Для краткости изложения нам потребуются следующие обозначение-

Ф(в,7,У,ф) = ф{а(з) - К{а,ЪУ)А{а)}{а{а) - К(а,ЪУ)А(з)}*ф, где К(з, 7, V) = (Ь{8)У^ВХв) +

Теорема 3.5. Пусть выполнены условия А) и Б), а множество Т> содержит максимальный элемент 5, т.е. В < В У£> £ V.

1) При = ¿{(О пара (О, II) является решением двойственной задачи (3.22) тогда и только тогда, когда

0(з) е а^та^г[^)Г(5,7М,У)], (3 27)

У&>

4(*) = Г(*,7(а),1>(в)), 7(0) = Д (3 28)

Ф{з) = -ЩВ,1(8),(г(8)Ме)), ^ е [оЛ т =

2) В случае 7р(-) = /?•(•) пара (0,0)—решение двойственной задачи (3.22) тогда и только тогда, когда выполнены соотношения (3.27), (3.28) и

= ве[0,п Ф{т) = о.

Решение двойственной задачи может быть существенно упрощено, если в системе (3.17) процесс состояния принимает скалярные значения.

Следствие 3.1. Если тп = 1, т.е. £(£) € М, то в условиях теоремы 3 5 решение двойственной задачи (3.22) определяется следующим образом-.

и(з) <= &щтэхГ{з,*/{$), V), 4(в) = Г^я), #(я)), 7(0) = О-

В конце данной главы представлен пример 3 1, в котором для частного случая модели наблюдения (3.17) удалось найти аналитическое представление для минимаксного фильтра. В этом примере

тп = п = р = д = 1, Р = [0,5], V = {У > О: $ 1, И, ^ 1, \\и < г}, ^ ' ;

где 1 — заданные параметры.

Таким образом, в рассматриваемой системе оцениваемый, наблюдаемый и возмущающие процессы являются скалярными, а дисперсия

начального состояния и функция взаимной интенсивности шумов неизвестны, но ограничены.

Относительно коэффициента диффузии в уравнении процесса наблюдения предпологается 3 е > 0: В2(в) > £ V в € [О, Г].

В работе для модели (3 29) получены следующие уравнения минимаксного фильтра:

«-(О = а(Ш) * +

о [1)

х ^(4)-Л Л], |(0) = 0,

где наихудшая дисперсия ошибки оценивания

«о - н'ш+ь'ю - (шт^тшку, т _ д

где г+ = тах(г, 0).

Кроме того, для данного примера представлены результаты численного моделирования и сравнительный анализ различных способов фильтрации.

ПОЛОЖЕНИЯ ДИССЕРТАЦИИ, ВЫНОСИМЫЕ НА ЗАЩИТУ

1. Аналитический синтез минимаксной оценки случайного вектора при наличии произвольно коррелированных ошибок наблюдения с интегрально ограниченной дисперсией (теоремы 1.1,1.2).

2. Разработка и реализация алгоритма оптимального оценивания в стохастической многомерной модели регрессии при поэлементных ограничениях на ковариационную матрицу вектора ошибок (алгоритм 2.1, теорема 2.3).

3. Обоснование алгоритма минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности (теоремы 3.4, 3.5).

4. Решение задачи минимаксной фильтрации скалярного состояния в линейной стохастической дифференциальной системе (следствие 3.1, пример 3.1).

t

СПИСОК РАБОТ, ОПУБЛИКОВАННЫХ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Лебедев М.В., Семенихин К.В. Минимаксная оценка случайного вектора при наличии произвольно коррелированных помех // Вестник МАИ, 2008, Т. 15, №2, С.90-104.

2. Лебедев М.В , Семенихин К.В. Минимаксная фильтрация в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности // Известия РАН. Теория и системы управления, 2007, №2, С.45-56.

3. Лебедев М.В., Семенихин К.В. Минимаксное оценивание в линейных неопределенно-стохастических динамических системах с непрерывным временем //В кн. Проектирование, конструирование и производство авиационной техники М: МАИ, 2005, С.103-108.

4. Siemenikhin K.V., Lebedev M.V., Platonov E.N. Kaiman filtering by minimax criterion with uncertain noise intensity functions // Proceedings of the 44th IEEE Conference on Decision and Control (CDC-ECC'2005). Seville (Spain): 2005, Pp.1929-1934.

5. Siemenikhin K.V., Lebedev M.V. Minimax estimation of random elements: theory and applications // Proceedings of the 43th IEEE Conference on Decision and Control (CDC'2004). Nassau (Bahamas): 2004, Pp.35813586.

6. Лебедев M В. Минимаксное оценивание в сингулярных регрессионных моделях наблюдения // Тезисы докладов конференции «Авиация и космонавтика - 2008», МАИ, 20-23 октября 2008, С.92-93.

7. Лебедев М.В., Семенихин К.В. Минимаксная фильтрация в стохастической модели с неизвестными функциями интенсивности возмущений // Тезисы докладов конференции «Системный анализ, управление и навигация», Крым, Евпатория, 29 июня-6 июля 2008, С.255.

8. Лебедев М.В. Оптимальное оценивание параметров стохастических систем в присутствии произвольно коррелированных возмущений // Тезисы докладов конференции «Информационные технологии в авиационной и космической технике - 2008», МАИ, 21-24 апреля 2008, С.115.

9. Лебедев М.В., Семенихин К.В. Восстановление параметров и состояний стохастических систем в присутствии произвольно коррелированных возмущений // Тезисы докладов конференции «Научная сессия МИФИ - 2008», МИФИ, 21-27 января 2008, С.88-89.

Множительный центр МАИ (ГТУ) Заказ от31.10 200 8 г. Тираж § О экз.

Оглавление автор диссертации — кандидата физико-математических наук Лебедев, Максим Витальевич

Введение

1 Аналитический синтез минимаксной оценки в регулярной регрес- -сионной модели наблюдения

1.1. Основные обозначения

1.2. Постановка задачи.

1.3. Построение минимаксной оценки

1.4. Аналитическое выражение для минимаксной оценки.

1.5. Примеры.

1.6. Выводы по главе.

2 Итерационный алгоритм оценивания в сингулярных моделях наблюдения

2.1. Основные обозначения

2.2. Постановка задачи.

2.3. Вид минимаксной оценки.

2.4. Алгоритм решения двойственной задачи.

2.5. Примеры.

2.6. Выводы по главе.

3 Процедура фильтрации состояния неопределенно-стохастической дифференциальной системы

3.1. Основные обозначения

3.2. Описание модели наблюдения.

3.3. Постановка задачи.

3.4. Минимаксный фильтр.

3.5. Двойственная задача.

3.6. Основные следствия и примеры.

3.7. Выводы по главе.

Введение 2008 год, диссертация по информатике, вычислительной технике и управлению, Лебедев, Максим Витальевич

В диссертационной работе изучается проблема оптимального оценивания по среднеквадратичному критерию в линейных неопределенно-стохастических системах.

К настоящему моменту для решения проблемы оценивания в линейных стохастических системах в условиях априорной неопределенности сформировались два основных подхода: адаптивный и робастный.

При адаптивном подходе используемая оценка уточняется по мере извлечения недостающей априорной информации из поступающего потока измерений. Исследованию адаптивного подхода в задачах оценивания посвящены работы [61,73,75].

При робастном подходе требуется (по ограниченному набору наблюдений) указать фиксированную оценку, чье наихудшее качество на заданном классе неопределенности будет наилучшим по сравнению с другими допустимыми оценками. Тем самым, задачу робастного оценивания можно сформулировать и виде игровой постановки, в которой критерий (погрешность оценивания) зависит от пары элементов, выбираемых из пары заданных множеств, содержащих соответственно допустимые операторы оценивания и возможные характеристики модели наблюдения. Развитие теории робастного оценивания за последние сорок лет можно проследить по публикациям [10-12,20,25,34,43,55,56,66,67,74,79,85,86].

Первые упоминания о применении теоретико-игровых соображений в статистике можно найти в работах Вальда [96]. Развитие Хьюбером идей Вальда привело к формированию целого раздела статистики, изучающего робастные процедуры оценивания [74]. В пашей стране первые постановки задач гарантирующей обработки измерений были связаны с именами Н.Н. Красовского [31], M.JI. Лидова [44] и В.М.Александрова [2]. Асимптотическая минимаксность в задачах статистического оценивания была исследована в монографии И. А. Ибрагимова,

Р.З. Хасьминского [23]. Различные свойства асимптотически минимаксных оценок (в том числе для динамических систем) были изучены Б.Т. Поляком и Я.З. Цыпкином [60,75]. Апостериорные варианты минимаксных проблем фильтрации и оценивания исследовались А.Б. Куржанским [26,33] и И.Я. Кацсм [28]. Дальнейшее развитие этого направления теории минимаксного оценивания связано с работами Б.И.Ананьева [5], Г.А.Тимофеевой [27], В.И.Ширяева [77]. Различные аспекты минимаксной техники, возникающие в задачах стохастического программирования, отражены в работах В.В. Малышева, М.Н. Красилыцикова,

A.И.Кнбзуна, Ю.С.Кана [22,46,81].

Одно из первых упоминаний о применении минимаксной техники к исследованию стохастических моделей, неопределенность которых описывается в терминах первых двух моментов, содержится в заметке [93]. Задача минимаксной фильтрации в дискретной модели Калмана для указанного типа неопределенности была решена С. Верду и Г.В. Пуром [94]. Задача минимаксной фильтрации при наличии неопределенного произвольно коррелированного случайного процесса в модели наблюдения исследовалась в работах Г. А. Голубева [13-16]. Случай неопределенности в динамики модели рассматривался К. Мартином, М. Минтцем [83], а также Б.И.Ананьевым [4]. Теория минимаксной фильтрации стационарных процессов, неопределенность которых задается в терминах спектральных плотностей, изложена в монографии О.М.Куркина, Ю.Б.Коробочкина, С.А.Шаталова [35]. В модели регрессии с эллипсоидальными ограничениями на неслучайные параметры вид минимаксных оценок был получен А. Куксом и В. Ольманом [32]. На случай ограничений, заданных выпуклым симметричным компактом, этот результат был обобщен В.Б. Меласом [51]. Случай эллипсоидальных ограничений подробно изучен в работах Ф.Л. Черноусько [76] и А.Б. Куржанского [33,82]. Модели с неслучайной ограниченной помехой рассматривались в работах [86,91]. Линейные регрессионные модели при достаточно общих предположениях относительно ковариационной структуры случайных помех наблюдений были изучены

B.Н.Соловьевым [67,92]. Задача минимаксной фильтрации в динамических моделях, содержащих как неопределенные, так и случайные шумы, рассматривалась в работах М.Л.Лидова, П.Е. Эльясберга, А.И. Матасова, Б.Ц. Бахшияна [6,43, 49, 78]. Оптимальность линейных оценок в различных задачах гарантирующего оценивания была доказана А.И. Матасовым [47,48]. Для детерминированных динамических систем аналог фильтра Калмана в задаче минимаксной фильтрации был найден А.Б. Куржанским [33]. Для стохастических задач минимаксной фильтрации А.Р. Панковым в [58,87] был разработан метод условно-минимаксной фильтрации, основанный на поиске фильтров частного вида. Проблемы минимаксного оценивания в гильбертовом пространстве изучались в работах Ю.П. Пытьева [64], А.Г. Наконечного [52], А.В.Борисова, А.Р. Панкова [9, 10]. В монографии А.М.Федотова [72] рассматривались некорректно поставленные задачи, приводящиеся к задачам минимаксного оценивания в модели бесконечномерной регрессии. Регуляризация алгоритмов минимаксного оценивания в сингулярных неопределенно-стохастических моделях наблюдения изучались в работах А.Р. Панкова и К.В. Семенихина [56,90]

Необходимо отметить, что большинство из указанных работ, посвящено исследованию линейных моделей наблюдения, в которых априорная неопределенность задается посредством ограничений на моментные характеристики случайных параметров и возмущений. Для решения задачи минимаксного оценивания в таких системах используется несколько методов. Одни из них основаны на непосредственной минимизации наихудшего значения критерия средствами выпуклого анализа, другие позволяют свести исходную минимаксную проблему к задаче линейного программирования [6] или же к задаче, к которой применимы численные алгоритмы полу определенной оптимизации (semidefmite programming) [80].

В настоящей работе для оптимизации алгоритмов оценивания параметров и процессов неопределенно-стохастических систем используется минимаксный подход. Идея построения минимаксных оценок состоит в использовании максимин-ной(двойственной) задачи [7,93,95]. Суть этого метода заключается в следующем:

1) если характеристики модели наблюдения считать известными, то оптимальная оценка и ее среднеквадратическая ошибка описываются известными выражениями;

2) неопределенные параметры модели требуется выбрать наихудшим образом, т.е., чтобы погрешность оптимальной оценки достигала наибольшего значения;

3) для получения минимаксного решения остается подставить найденные наихудшие значения параметров в уравнения для оптимальной оценки.

Если модель является сингулярной, т.е. указанный выше -метод не приводит к решению исходной минимаксной задачи, необходимо предварительно провести ее регуляризацию [56].

На сегодняшний день с развитием информационных технологий все большее значение приобретают математические методы, связанные с обработкой и анализом эмпирической информации. Несомненно, среди этих методов алгоритмы оценивания являются ключевыми.

Зачастую в реальных практических задачах не удается построить полностью определенную адекватную математическую модель, в которой можно было бы воспользоваться известными методами для оценивания параметров и сигналов. Иногда вообще отсутствует информация о природе тех или иных процессов, а известны лишь некоторые достаточно широкие ограничения на их поведение. Таким образом, возникает задача оптимального оценивания в стохастических системах в условиях существенной априорной неопределенности.

Все неопределенно-стохастические системы, рассматриваемые в данной работе можно разделить на два вида: статические и динамические.

Статические системы представлены двумя многомерными линейными регрессионными моделями наблюдения, в которых требуется оценить случайный вектор в присутствии ошибки наблюдения. При этом отличительная особенность этих моделей заключается в различной структуре и существенной неопределенности этой ошибки.

В первой из этих моделей ошибка наблюдения состоит из суммы белошумнои и произвольно коррелированной погрешностей. Кроме того, априорная неопределенность описывается ограничением на сумму дисперсий произвольно коррелированной погрешности. Предположения о какой-либо ковариационной структуре данной ошибки отсутствуют. Более того, на соответствующем множестве ковариационных матриц нельзя выделить элемент, описывающий равномерно наихудший случай.

Во второй модели особенность заключается в том, что ошибка наблюдения содержит в себе два типа неопределенностей, а именно структурную и алгебраическую. Структурная неопределенность описывается поэлементными ограничениями на ковариационную матрицу ошибки, а алгебраическая заключается в том, что ранг этой ковариационной матрицы является неизвестным. Другими словами неизвестно является ли модель регулярной или сингулярной.

К динамическому виду систем, рассматриваемых в диссертационной работе, относится модель наблюдения описываемая стохастическими линейными нестационарными дифференциальными уравнениями. В этой системе, в качестве неточно заданных вероятностных характеристик, выступают функции интенснвностей возмущений, про которые известно только то, что их значения лежат в некоторых заданных выпуклых и компактных множествах. В силу того, что в данной модели присутствует неопределенность, как уже отмечалось выше, для поиска оптимальной оценки применяется минимаксный подход, причем задача оптимального оценивания сводится к минимаксной фильтрации.

Отметим ключевые особенности рассматриваемой модели. Во-первых, оцениваемый и наблюдаемый процессы образуют нестационарную модель наблюдения и методы стационарной минимаксной фильтрации [35] к ней не применимы. Во-вторых, мы допускаем наличие корреляции между возмущениями процесса состояния и наблюдаемого сигнала. Это позволяет рассматривать модели с произвольно коррелированными шумами [85]. II наконец, неопределенность модели наблюдения — непараметрическая, так как неизвестными считаются функции интенсивности возмущающих процессов [3,94]. Последнее означает, что двойственная задача (проблема поиска наихудшей интенсивности) оказывается бесконечномерной, а наихудшие возмущения могут быть нестационарными. В этой связи необходимо отметить работу [53], в которой задача минимаксной фильтрации решена для стохастической дифференциальной системы со стационарными возмущениями.

Таким образом, в первой модели неопределенность описывается обширным множеством ковариационных матриц, во второй модели неопределенность носи г алгебраический характер (заранее неизвестно регулярна ли модель наблюдения или пет), и наконец в третьей модели неопределенность непараметрическая, т.е. неизвестными являются функции. Общим для указанных моделей наблюдения является то, что непосредственное применение к ним существующих алгоритмов минимаксного оценивания оказывается чрезвычайно трудоемким. С целью подчеркнуть эту особенность рассматриваемых моделей в работе использован термин «существенная априорная неопределенность».

Основные результаты работы для перечисленных систем содержат три пункта, в порядке их приведенного выше описания.

1. Сформулирована задача минимаксного оценивания вектора состояния конечномерной стохастической системы по среднеквадратичному критерию при наличии интегрального ограничения на дисперсию произвольно коррелирован!юй ошибки. Для указанной ошибки найдена наименее благоприятная ковариация, на основе которой построена искомая минимаксная оценка вектора состояния. Проведено сравнение качества минимаксной оценки на примере нескольких видов ограничений на ковариацшо случайной ошибки.

2. Решена задача минимаксного оценивания вектора состояния конечномерной стохастической системы при наличии поэлементных ограничений на ковариационную матрицу вектора ошибки наблюдения. Для данной модели наблюдения сформулирован алгоритм совместного решения минимаксной и двойственной задачи.

3. Определены уравнения минимаксного фильтра в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности. Получен явный вид минимаксного фильтра скалярного состояния в модели наблюдения с белошумными возмущениями произвольной интенсивности.

Результаты диссертационной работы обсуждались на научных конференциях и симпозиумах: 44th IEEE Conference on Decision and Control and European Control Conference (CDC-ECC) (2005, Spain, Seville); «Научная сессия МИФИ 2008» (2008, Россия, Москва); «Информационные технологии в авиационной и космической технике-2008» (2008, Россия, Москва); 13-ая Международная конференция «Системный анализ и управление космическими комплексами» (2008, Украина, Евпатория); 7-ая Международная конференция «Авиация и космонавтика - 2008» (2008, Россия, Москва), а также на научных семинарах: под руководством проф. А.И. Кибзуна (МАИ) и проф. Б.Т. Поляка (ИПУ РАН).

Основные результаты диссертации опубликованы в пяти статьях [36-38,88,89] ([36,37] —в журналах из перечня ВАК, [42,88,89] — в сборниках научных трудов), а также в тезисах: научных конференций [39-42].

Диссертация содержит 3 главы.

В первой главе рассмотрена задача минимаксного оценивания в модели линейной регрессии при наличии случайных ошибок наблюдений двух видов: белошумной с известной дисперсией и произвольно коррелированной с ограниченной дисперсией. Для последней найдена наименее благоприятная ковариационная матрица, на основе которой для вектора состояния системы построена искомая минимаксная оценка. Проведено сравнение качества минимаксного оценивания на примере нескольких множеств ковариационных матриц. Представлены также результаты численного моделирования.

Во второй главе сформулирована задача минимаксного оценивания в многомерной стохастической системе, содержащей ошибку наблюдения, у которой ковариационная матрица имеет поэлементные ограничения.

В силу того, что в модели отсутствует условие на невырожденность ковариации ошибки, проведена регуляризация данной модели. Для регуляризованной модели сформулирован и обоснован алгоритм решения двойственной задачи, т.е. для нахождения наименее благоприятной ковариационной матрицы. Также приведен явный вид минимаксного оператора оценивания, который зависит от наименее благоприятной ковариационной матрицы. Представлены результаты статистического моделирования и сравнительного численного анализа разработанного алгоритма.

В третьей главе рассмотрена задача минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности. Для построения минимаксного фильтра использован метод, основанных! на решении двойственной задачи. Доказано, что минимаксным фильтром будет фильтр Калмана с коэффициентами, определяемыми наихудшей функцией интенсивности.

Получен явный вид минимаксного фильтра скалярного состояния для модели наблюдения с произвольно коррелированными возмущениями. Кроме того, проведено численное моделирование, на основе которого представлен сравнительный анализ различных способов фильтрации.

Заключение диссертация на тему "Алгоритмы оптимального оценивания в стохастических системах в условиях априорной неопределенности"

3.7. Выводы по главе

В данной главе была рассмотрена задача минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности.

Получены следующие результаты: доказано, что минимаксным фильтром будет фильтр Калмана с коэффициентами, определяемыми наихудшей функцией интенсивности; проведено доказательство утверждения о том, что функция интенсивности является наихудшей тогда и только тогда, когда она удовлетворяет системе уравнений, полученных с помощью принципа максимума; получен явный вид минимаксного фильтра скалярного состояния для модели наблюдения с произвольно коррелированными возмущениями; представлены результаты численного моделирования, на основе которых проведен сравнительный анализ различных способов фильтрации.

Заключение

Перечислим результаты, полученные в диссертационной работе: сформулирована и решена задача минимаксного оценивания по среднеквадратичному критерию в линейной неопределенно-стохастической системе, содержащей погрешности наблюдений двух видов: белошумнуго с известной дисперсией и произвольно коррелированную с ограниченной дисперсией. Проведено сравнение качества минимаксного оценивания на примере нескольких множеств ковариационных матриц. Представлены результаты численного моделирования; сформулирован и обоснован алгоритм оптимального оценивания в стохастической многомерной линейной модели наблюдения при наличии алгебраической неопределенности. Представлены результаты статистического моделирования и сравнительного численного анализа разработанного алгоритма; рассмотрена задача минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности. Доказано, что минимаксным фильтром будет фильтр Калмана с коэффициентами, определяемыми наихудшей функцией интенсивности. Получен явный вид минимаксного фильтра скалярного состояния для модели наблюдения с произвольно коррелированными возмущениями. Также представлены результаты численного моделирования, на основе которых проведен сравнительный анализ различных способов фильтрации.

Основные положения диссертации, выносимые на защиту.

1. Аналитический синтез минимаксной оценки случайного вектора при наличии произвольно коррелированных ошибок наблюдения с интегрально ограниченной дисперсией (теоремы 1.1, 1.2).

2. Разработка и реализация алгоритма оптимального оценивания в стохастической многомерной модели регрессии при поэлементных ограничениях на ковариационную матрицу вектора ошибок (алгоритм 2.1, теорема 2.2).

3. Обоснование алгоритма минимаксной фильтрации в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности (теоремы 3.1, 3.2).

4. Решение задачи минимаксной фильтрации скалярного состояния в линейной стохастической дифференциальной системе (следствие 3.2, пример 3.1).

Библиография Лебедев, Максим Витальевич, диссертация по теме Системный анализ, управление и обработка информации (по отраслям)

1. Алберт А. Регрессия, псевдоинверсия и рекуррентное оценивание. М.: Наука, 1977.

2. Александров В.М. Минимаксный подход к решению задачи обработки информации. Изв. АН СССР. Техн. киберн., №5, с.124-136, 1966.

3. Ананьев Б.И. Минимаксные регуляторы для статистически неопределенных управляемых систем. Изв. АН СССР. Техн. киберн., JV-4, 1989.

4. Ананьев Б.И. Минимаксная линейная фильтрация многошаговых процессов с неопределенными распределениями возмущений. Автоматика и телемеханика, №10, с. 131-139, 1993.

5. Ананьев Б.И. Информационные множества для многошаговых статистически неопределенных систем. Тр. Машем, ин-та им. Стеклова, (Доп. вып.2: Тр. ИММ УрО РАН), с.1-15, 2000.

6. Бахшиян Б.Ц., Назиров P.P., Эльясберг П.Е. Определение it коррекция движения. М.: Наука, 1980.

7. Бахшиян Б.Д., Соловьев В.Н. Применение теоремы двойственности к задаче оптимального гарантирующего оценивания. Космич. исслед., т.90, №2, 1990.

8. Беллман Р. Введение в теорию матриц. М.: Наука, 1969.

9. Борисов А.В., Панков А.Р. Проблемы минимаксного оценивания случайных элементов со значениями в гильбертовых пространствах. Автоматика и телемеханика, №6, с.61-75, 1996.

10. Борисов А.В., Панков А.Р. Минимаксное линейное оценивание в обобщенньгх неопределенно-стохастических системах. I. Оценивание случайных элементов со значениями в гильбертовых пространствах. Автоматика и телемеханика, Ш5, с.102-111, 1998.

11. Вальд А. Статистические решающие функции. Позиционные игры. М.: Наука, 1967.

12. Голубев Г.А., Муравлев О.В., Писарев В.Ф. Линейная рекуррентная фильтрация динамических процессов с дискретным временем при частичной информации о возмущающих процессах. Автоматика и телелсеханика, №12, с.49-59, 1989.

13. Голубев Г.А., Муравлев О.В., Писарев В.Ф. Синтез минимаксных линейных фильтров минимальной размерности для динамических процессов с дискретным временем. Автоматика и телемеханика, №4, 1991.

14. Голубев Г.А. Минимаксная линейная фильтрация динамических процессов с дискретным временем. Автоматика и телемеханика, №2, 72-81, 1984.

15. Голубев Г.А. Синтез минимаксных линейных фильтров по локальному и интегральному критериям. Автоматика и телелгеханика, №4, с.53-62, 1988.

16. Дэвис М.Х.А. Линейное оценивание и стохастическое управление. М.: Наука, 1984.

17. Демиденко Е.З. Линейная и нелинейная регрессии. М.: Финансы и статистика, 1981.

18. Делхьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация. М.: Наука, 1981.

19. Ершов А.А. Стабильные методы оценки параметров (обзор) Автоматика и телемеханика., №8, 1978.

20. Жданюк Б.Ф. Основы статистической обработки траекторных измерений. М.: Сов.радио, 1978.

21. Зверев А.И., Кибзун А.И., Малышев В.В. Обобщенный минимаксный подход в задаче оценивания. Изв. АН СССР. Техн. киберн., Л'-°4, 1986.

22. Ибрагимов И.А., Хасьминскнй Р.З. Асимптотическая теория оценивания. М.: Наука, 1977.

23. Иоффе А.Д., Тихомиров В.М. Теория экстремальных задач. М.: Наука, 1974.

24. Кассам С.А., Пур Г.В. Робастные методы обработки сигналов. ТИИЭР., т.73, №3, 1985.

25. Кац И.Я., Куржанский А.Б. Минимаксная многошаговая фильтрация в статистически неопределенных ситуациях. Автоматика и телемеханика, №11, с. 79-87, 1978.

26. Кац И.Я., Тимофеева Г.А. Модифицированный метод невязки в статистически неопределенной задаче оценивания. Автоматика и телел1еханика, №2, с. 100109, 1994.

27. Кац И.Я. Минимаксно-стохастические задачи оценивания в многошаговых системах. В кн. Оценивание в условиях неопределенности, с.43-59. Свердловск: УНЦ АН СССР, 1982.

28. Кларк Ф. Оптимизация и негладкий анализ. М.: Наука, 1988.

29. Колмановский В.В., Матасов А.И. Об одном приближенном методе решения минимаксных задач фильтрации в системах с последействием. Автолютика и телемеханика, №6, с. 125-147, 1996.

30. Красовскпй Н.Н. К теории управляемости и наблюдаемости линейных динамических систем. Прикладная математика и механика, т.28, №1, с.З-14, 1964.

31. Куке А., Ольман В. Минимаксная линейная оценка коэффициентов регрессии. Изв. АН Эст. ССР. Сер. физ.-мат., т.21, №1, с.66-72, 1972.

32. Куржанский А.Б. Управление и оценивание в условиях неопределенности. М.: Наука, 1977.

33. Куржанский А.Б. Задача идентификации: теория гарантирующих оценок (обзор). Автоматика и телемеханика, JV"4, с.3-26, 1991.

34. Куркин О.М., Коробочкин Ю.Б., Шаталов С.А. Минимаксная обработка информации. М.: Энергоатомиздат, 1990.

35. Лебедев М.В., Семенихин К.В. Минимаксная оценка случайного вектора при наличии произвольно коррелированных помех. Вестник МАИ, т.15, № 2, с.90-104, 2008.

36. Лебедев М.В., Семенихин К.В. Минимаксная фильтрация в стохастической дифференциальной системе с нестационарными возмущениями неизвестной интенсивности. Изв. РАН. ТиСУ., №2, с.45-55, 2007.

37. Лебедев М.В., Семенихин К.В. Минимаксное оценивание в линейных неопределенно-стохастических динамических системах с непрерывным временем. Проектирование, конструировать и производство авиационной техники. МАИ., с. 103-108, 2005.

38. Лебедев М.В., Семенихин К.В. Востановление параметров и состояний стохастических систем в присутствии произвольно коррелированных возмущений. Тезисы докладов конференции "Научная сессия МИФИ 2008", МИФИ, Москва, с.88-89, 21-27 января 2008.

39. Лебедев М.В., Семенихин К.В. Минимаксная фильтрация в стохастической модели с неизвестными функциями интенсивности возмущений. Тезисы докладов конференции ''Систелтый анализ, управление и навигация", Крым, Евпатория, с.255, 29 июня-б июля 2008.

40. Лебедев М.В. Минимаксное оценивание в сингулярных регрессионных моделях наблюдения. Тезисы докладов конференгщи "Авиация и космонавтика -2008", МАИ, Москва, с.92-93, 20-23 октября 2008.

41. Лидов М.Л., Бахшиян Б.Ц., Матасов А.И. Об одном направлении в проблеме гарантирующего оценивания (обзор). Космич. исслед., т.29, №5, с.659-684, 1991.

42. Лидов М.Л. К априорным оценкам точности определения параметров по методу наименьших квадратов. Космич. исслед., т.2, №5, с.713-718, 1964.

43. Липцер Р.Ш., Ширяев А.Н. Статистика случайных процессов. М.: Наука, 1974.

44. Малышев В.В., Красильщиков М.Н., Карлов В.И. Оптимизация наблюдений и управления летательных аппаратов. М.: Машиностроение, 1989.

45. Матасов А.И. Об оптимальности линейных алгоритмов оценивания гарантирующего оценивания. Часть I. Космич. исслед., т.26, №5, с.643-653, 1988.

46. Матасов А.И. Об оптимальности линейных алгоритмов оценивания гарантирующего оценивания. Часть II. Космич. исслед., т.26, №2, 807-812, 1990.

47. Матасов А.И. Введение в теорию гарантирующего оценивания. М.: МАИ, 1999.

48. Мейер П.-А. Вероятность и потенциалы. М.: Мир, 1973.

49. Мелас В.Б. О выборе плана эксперимента и метода оценивания при наличии априорных сведений о параметрах. Математические методы планирования эксперимента, Новосибирск: Наука, с.155-173, 1981.

50. Наконечный А.Г. Минимаксное оценивание функционалов от решений вариационных уравнений в гильбертовых пространствах. Киев: Изд-во КГУ, 1989.

51. Миллер Г.Б., Панков А.Р. Фильтрация случайного процесса в статистически неопределенной линейной стохастической дифференциальной системе. Автоматика и телемеханика., №1, с.59-71, 2005

52. Панков А.Р., Семенихин К.В. Минимаксная идентификация неопределенно-стохастической линейной модели. Автоматика и телемеханика, №11, с.158-171, 1998.

53. Панков А.Р., Семенихин К.В. Методы параметрической идентификации многомерных линейных моделей в условиях априорной неопределенности. Автоматика и телемеханика, №5, с.76-92, 2000.

54. Панков А.Р., Семенихин К.В. О минимаксном оценивании в сингулярных неопределенно-стохастических моделях. Автоматика и телемеханика, №9, с.40-57, 2002.

55. Пайков А.Р., Семенихин К.В. О минимаксном оценивании по вероятностному критерию. Автоматика и телемеханика, №3, с.66-82, 2007.

56. Панков А.Р. Рекуррентная условно-минимаксная фильтрация процессов в разностных нелинейных стохастических системах. Известия РАН. Техническая кибернетика, №3, 71-77, 1992.

57. Пинелис И. Ф. О минимаксном риске . Теория вероятн. и ее примен., т.35, №1, с.92-97, 1990.

58. Поляк Б.Т., Цыпкин А.З. Адаптивные алгоритмы оценивания (сходимость, оптимальность, устойчивость). Автоматика и те.аемеханика, №3, с.71-84, 1979.

59. Поляк Б.Т., Щербаков П.С. Робастная устойчивость и управление. М.: Наука, 2002.

60. Пугачев B.C., Синицын И.Н. Стохастические дифферегщиальные системы. М.: Наука, 1990.

61. Пшеничный Б.Н. Необходимые условия экстремума. М.: Наука, 1982.

62. Пытьев Ю.П. Математические методы интерпретации эксперимента. М: Высшая школа, 1989.

63. Пытьев Ю.П. Методы анализа и интерпретации данных. Изд-во: МГУ, 1990.

64. Семенихин К.В. Минимаксное оценивание случайных элементов по средне-квадратическому критерию // Изв. РАН. ТиСУ. №5, с.12-25, 2003.

65. Соловьев В.Н. Двойственные экстремальные задачи и их применение к задачам минимаксного оценивания. Успехи мате.м. наук, т.52, №4, с.49-86, 1997.

66. Соловьев В.Н. К вопросу о минимаксно-байесовском оценивании. Успехи матем. наук, т.53, №5, с.247-248, 1998.

67. Соловьев В.Н. К теории минимаксно-байесовского оценивания. Теория вероятн. и ее примен., 44 №4:738-756, 1999.

68. Флеминг У., Ришел Р. Оптимальное управление детерминированными и стохастическими системами. М.: Мир, 1978.

69. Федотов A.M. Линейные некорректные задачи со случайными ошибками в данных. Новосибирск: Наука, 1982.

70. Федотов A.M. Некорректные задачи со случайными ошибками в данных. Новосибирск: Наука, 1990.

71. Фомин В.Н .Рекуррентное оценивание и адаптивная фильтрация. М.: Наука, 1984.

72. Хыобер П. Робастность в статистике. М.: Мир, 1984.

73. Цыпкин Я.З. Основы информационно и теории идентификации. М.: Наука, 1984.

74. Черноусько Ф.Л. Оценивание фазового состояния динамических систем. Метод эллипсоидов. М.: Наука, 1988.

75. Ширяев В.И. Синтез управления линейными системами при неполной информации. Известия РАН. Техническая кибернетика, №3, с.229-237, 1994.

76. Эльясберг П.Е. Измерительная информация: сколько ее нуснсно? как ее обрабатывать? М: Наука, 1983.

77. Anan'ev B.I. Minimax estimation of statistically uncertain systems under the choice of a feedback parameter //J. Math. Syst., Estimation, and Control. V:5, No 2, 1995.

78. El Ghaoui L., Calafiore G. Robust filtering for discrete-time systems with structured uncertainty // IEEE Trans. Automat. Control., vol.AC-46. No 7, 2001

79. Kibzun A.I., Kan Yu.S. Stochastic Programming Problems (with Probability and Quantile Functions). Chichester, N.Y., J. Wiley & Sons, 1996.

80. Kurzhanski A.B., Valyi I. Ellipsoidal Calculus for Estimation and Control. Laxenburg: IIASA, 1989.

81. Martin C., Mintz M. Robust filtering and prediction for linear systems with uncertain dynamics: a game-theoretic approach. IEEE Trans. Automat. Control, vol.AC-28, No 9, pp.888-896, 1983.

82. Matasov A.I. The Kalman—Bucy filter accuracy in the guaranteed parametric estimation problem with unkown statistics. IEEE Trans. Automat. Control, vol.AC-39, No 3, pp.635-639, 1994.

83. Matasov A.I. Estimators for Uncertain Dynamic Systems. Dordrecht, Kluwer Academic Publishers, 1998.

84. Milanese M., Vicino A. Optimal estimation theory for dynamic systems with set membership uncertainty: an overview. Automatica, vol.27, No 6, pp.997-1009, 1991.

85. Pankov A.R., Bosov A.V. Conditionally minimax algorithm for nonlinear system state estimation. IEEE Trans. Automat. Control, vol.AC-39, pp.1617-1620,, 1994.

86. Siemenikhin K.V., Lebedev M.V. Minimax estimation of random elements: theory and applications In Proceedings of the 43th IEEE Conference on Decision and Control (CDC'2004)., Nassau (Bahamas), pp.3581 3586, 2004

87. Siemenikhin K.V., Lebedev M.V., Platonov E.N. Kalman filtering by minimax criterion with uncertain noise intensity functions In Proceedings of the 44th IEEE Conference on Decision and Control (CDC-ECC'2005)., Seville (Spain), pp.1929 -1934, 2005.

88. Pankov A.R., Siemenikhin K.V. Minimax estimation for singular linear multivariate models with mixed uncertainty Journal of Multivariate Analysis. — 2007. no. 1, vol. 98. - Pp. 145-176

89. Schweppe F.C. Uncertain Dynamics Systems. Prentice Hall, Englewood Cliffs, 1973.

90. Soloviov V.N. Minimax estimation and the least squares method. Stochastics Stochastics Rep., No 42, pp.209-223, 1993.

91. Vandelinde V.D. Robust properties of solutions to linear-quadratic estimation and control problems. IEEE Trans. Automat. Control, vol.AC-22, Nol, pp.138-139, 1977.

92. Verdu S., Poor H.V. Minimax linear observers and regulators for stochastic systems with uncertain second order statistics. IEEE Trans. Automat. Control, vol.AC-29, No 6, pp.499-511, 1984.

93. Verdu S., Poor H.V. On minimax robustness: A general approach and applications. IEEE Trans. Inform. Theory, vol.IT-30, No 2, pp.328-340, 1984.

94. Wald A. Statistical Decision Functions. New York, Wiley, 1950.