автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.16, диссертация на тему:Непараметрическая идентификация линейных динамических систем по зашумленным наблюдениям

доктора физико-математических наук
Васильев, Вячеслав Артурович
город
Томск
год
1997
специальность ВАК РФ
05.13.16
Автореферат по информатике, вычислительной технике и управлению на тему «Непараметрическая идентификация линейных динамических систем по зашумленным наблюдениям»

Автореферат диссертации по теме "Непараметрическая идентификация линейных динамических систем по зашумленным наблюдениям"

Гч

^г £ О

^ ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

На правах рукописи УДК 519.2

Васильев Вячеслав Артурович

1ЕПАРАМЕТРИЧЕСКАЯ ИДЕНТИФИКАЦИЯ ЛИНЕЙНЫХ ДИНАМИЧЕСКИХ СИСТЕМ ПО ЗАШУМЛЕННЫМ НАБЛЮДЕНИЯМ

05.13.16 — применение вычислительной техники, математического моделирования и математических методов в научных исследованиях

АВТОРЕФЕРАТ диссертации на соискание ученой степени доктора физико-математических наук

Томск - 1997

Работа выполнена в Томском государственном университете.

Официальные оппоненты:

доктор физико-математических наук, профессор Воскобойников Ю.Е., доктор физико-математических наук, профессор Миллер Б.М., доктор технических наук, профессор Рубан А.И.

Ведущая организация:

Белорусский государственный университет

Защита состоится 1997г. в

ОО

* часо)

на заседании Диссертационного Совета Д 063.53.03 по защите диссертанта на соискание ученой степени доктора наук при Томском государственно» университете по адресу: 634050, г.Томск, пр. Ленина, 36.

С диссертацией можно ознакомиться в Научной библиотеке Томского го сударственного университета.

Автореферат разослан " 1997г.

Ученый секретарь Диссертационного Совета кандидат физико-математических наук, доцент Б.Е.Тривоженк

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность проблемы.

Построение и экспериментальное исследование моделей эволюцношгрую-их во времени реальных процессов, нашедших применение в технике и эко-эмике, прикладной статистике и научных исследованиях, тесно связано с эоблемами идентификации стохастических динамических систем. Задача Зентификации динамических систем состоит в том, чтобы по результатам хблюдений над входными и выходными параметрами системы должна быть встроена оптимальная в некотором смысле модель, то есть математически ормализованное представление этой системы. Если известна структура си-гемы и задан класс моделей, к которому данный объект относится, задача аентификации состоит, в частности, в оценивании параметров, характери-гющих динамику поведения объекта. Решение задачи оценивания параме-ров необходимо также для обеспечения возможности использования извест-ых алгоритмов фильтрации, управления, прогноза, классификации, а также ри оценивании корреляционных функций и спектров случайных процессов, остроение вероятностных моделей динамических систем предполагает так-:е изучение статистических свойств прогнозов наблюдаемых процессов, ко-эрые существенно зависят от качества оценивания параметров системы.

Наиболее хорошо изучена проблема оценивания параметров линейных ре-рессионных моделей с независимыми отсчетами и полностью наблюдаемых роцессов авторегрессионного типа с дискретным и непрерывным временем. Дополнительные трудности лри оценивании возникают в случае, когда объ-■<т не наблюдаем непосредственно и необходимо учитывать влияние помех канале измерений. В настоящее время разработан ряд методов оценивания еизвестных параметров частично наблюдаемых стохастических динамиче-ких систем с дискретным и непрерывным временем (наименьших квадра-ов, стохастической аппроксимации, максимального правдоподобия, корре-яционный метод и др.). Как правило предполагается, что сигнал может ыть подвержен линейным искажениям. При этом измерения могут содержать как аддитивные, так и мультипликативные помехи. Эти методы при-одят к оценкам с хорошими асимптотическими свойствами, такими как ильная состоятельность, асимптотическая эффективность и асимптотиче-кая нормальность.

В значительно меньшей степени изучена проблема оценивания па-аметров динамических систем, наблюдаемых с помехами при неасим-

птотических предположениях, когда объем выборки, по которой произ водится оценивание, конечен. Возможность нахождения оценок с извест ньши свойствами при конечном объеме наблюдений дает использова ние последовательных планов оценивания неизвестных параметров. Прин цип последовательного оценивания впервые был предложен А.Вальдо! для схемы независимых наблюдений. Для зависимых наблюдений (в мо дели скалярного процесса диффузионного типа) этот подход впервы был применен Р.Ш.Липцером, А.Н.Ширяевым и А.А.Новиковым. Дале в работах В.В.Конева, В.З.Борисова, С.Э.Воробейчикова, Е.С.Коневой С.М.Пергаменщикова и др. с позиций последовательного анализа решали« задачи оценивания параметров многомерных процессов, описываемых сто хаотическими разностными и дифференциальными уравнениями, а в послед нее время в работах А.В.Мельникова и А.А.Новикова - для семимартингалот При этом, однако, в основном предполагалось, что изучаемые системы подда ются непосредственному наблюдению. Остался открытым вопрос о возмож ности оценивания с гарантированной точностью параметров стохастически: систем, наблюдаемых с помехами.

При построении моделей динамических систем существуют различны интерпретации понятия модели, согласующиеся с целями ее анализа. Пр: этом наиболее прагматическим является подход, основанный на использс вании прогнозов наблюдаемого процесса. Качество прогнозирования, а, еле довательно, и качество моделирования стохастических систем может быт оценено, если известны статистические характеристики ошибок прогноз« Отсюда, в частности, возникает задача непараметрического оценивания вс роятностных распределений и их характеристик (производных плотносте распределения и их отношений, функционалов от распределений, функций о плотностей распределений и др.) по зависимым выборкам с нетрадиционнь ми типами зависимостей. Для независимых выборок и выборок с традицио* ными видами зависимостей, таких как условия перемешивания различног типа, условия мартингального типа и др. разработаны и изучены разли' ные непараметрические и параметрические способы оценивания. Специаш ные типы зависимостей возникают, например, при восстановлении распр« делений шумов регрессионных процессов с неизвестными параметрами. Эт задачи рассматривались Л.А.Мугапцевой и в цикле работ М.В.Болдина, гл были построены состоятельные оценки распределений шумов и решен ря статистических задач с использованием этих оценок. При решении задач н(

параметрического оценивания распределений и их характеристик по зависимым наблюдениям остается актуальной как для теории, так и для практики проблема получения оценок, сходящихся в среднеквадратическом или имеющих заданное значение среднеквадратического отклонения.

Цель работы состоит в построении и исследовании свойств последовательных планов идентификации параметров и статистических характеристик шумов линейных стохастических динамических систем с гарантированной точностью оценивания по наблюдениям с помехами, построении сходящихся в среднеквадратическом оценок неизвестных распределений и их основных характеристик по зависимым наблюдениям непараметрическими методами, а также применении полученных результатов для построения вероятностных моделей динамических систем и решения задачи адаптивного управления случайным процессом.

Методы исследований. В работе используются методы теории вероятностей, математической статистики, линейной алгебры и функционального анализа.

Научная новизна. Основные результаты диссертации являются новыми в области непараметрической идентификации динамических систем, наблюдаемых с помехами:

- Построены и исследованы последовательные планы оценивания параметров линейных динамических систем с зависимыми шумами, описываемых стохастическими разностными и дифференциальными уравнениями и применены для оценивания параметров процессов авторегрессионного типа, линейно искажаемых при наблюдении;

- Построены и исследованы оценки основных статистических характеристик шумов линейных регрессионных процессов с заданным качеством в среднеквадратическом смысле, а также сходящиеся в среднеквадратическом;

- Введены понятия асимптотических вероятностных моделей (АВМ) динамических систем. Приведен пример построения АВМ авторегрессионного типа;

- Решена задача адаптивного оптимального управления случайным процессом с использованием гарантированных оценок неизвестного параметра для критерия, учитывающего скорость сходимости дисперсии объекта к своему минимуму.

Научная и практическая ценность работы определяется широкой применимостью теоретических результатов для решения задач, связанных с мо-

делированием и анализом стохастических динамических систем, наблюдас мых с помехами. Качество всех предложенных оценок определяется практи чески значимыми критериями - они обладают либо заданным среднеквадра тическим отклонением, либо сходятся в среднеквадратическом. Разработан ные в диссертации методы дают возможность синтеза решающих процеду; для обработки реальных данных и могут быть использованы для построени моделей динамических объектов, линейно искажаемых шумовыми процесса ми при наблюдениях, а также в задачах адаптивного управления, фильтре ции и прогноза.

Апробация работы. Основные результаты диссертации докладыва лись на 9 и 10 Всесоюзных совещаниях по проблемам управления (Ерева) 1983г., Алма-Ата 1986г.), 12 Всесоюзной школе-семинаре по адаптивны; системам (Могилев 1984г.), 5 Симпозиуме "Машинное обнаружение закс номерностей" (Минск 1985г.), 4 Международной Вильнюсской конференци по теории вероятностей и математической статистике (Вильнюс 1985г. ] 5 Всесоюзной школе-семинаре по робастным методам непараметрическо статистики (Шушенское 1985г.), 2 Симпозиуме IFAC по автоматическс му управлению (Вильнюс 1986г.), III Уральской региональной конференци; "Функционально-дифференциальные уравнения и их приложения" (Перм: 1988г.), Региональной научно-технической конференции "Измерение харак теристик случайных сигналов с применением микромашинных средств" (Но восибирск 1988г.), Всесоюзной научно-технической конференции "Статисти ческие методы в теории передачи и преобразования информационных сигна лов" (Киев 1988г.), Республиканской научно-технической конференции "Ма тематическое и программное обеспечение анализа данных" (Минск 1990г.] 11-ом Всемирном Конгрессе IFAC (Таллинн 1990г.), Международной научно технической конференции "Идентификация, измерение характеристик и ими тация случайных сигналов" (Новосибирск 1994г.), Международном семинар "Предельные теоремы и смежные вопросы" (Омск 1995г.), Втором Сибирски Конгрессе по прикладной и индустриальной математике (ИНПРНМ-96) (Но восибирск 1996г.), 9 Международном Симпозиуме по непараметрическим : робастным методам в кибернетике (Красноярск 1997г.), 15-ом Всемирно! Конгрессе IMACS (Берлин 1997г.), на научных семинарах Томского госуня верситета, Томского политехнического университета, института математи ки СО РАН (Новосибирск), Московского государственного института элек

'роники и математики.

Публикации. По теме диссертации опубликовано 35 печатных работ. )сновные результаты научных исследований по теме диссертации содержат-я в 32 работах.

Структура и объем работы. Диссертация состоит из введения, шести лав, заключения, приложения и списка литературы. Общий объем диссертации составляет 341 страницу. Библиография содержит 363 названия.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы, приводится обзор )сновных результатов по рассматриваемой тематике, определяются цели ис-яедования и дается общая характеристика работы.

В первой главе дается краткий обзор современных методов оценнва-шя параметров случайных процессов рекуррентного типа, наблюдаемых с юмехами. Отмечается, что свойства оценок, получаемых с помощью клас-:ических методов хорошо изучены при асимптотических предположениях. В фактических задачах, когда объем наблюдений всегда конечен, желательно 1нать свойства оценок в момент прекращения наблюдений. Возможность по-;троения таких оценок дает применение техники последовательного анализа.

При последовательном оценивании параметра в строятся последователь-ше планы, которые, как известно, определяются парой случайных величин ав,$*), где <7е - время наблюдения процесса, - оценка параметра в, вы-отсляемая в момент <те. При этом момент сге является функционалом от наблюдаемого процесса, при конструировании которого учитывается точность оценивания с. Качество последовательного оценивания параметра в отражает, как правило, следующие свойства последовательных планов (<тс,в*) :

sup Мв{в*с - в)2 < е, (1)

в

. Рв(ас< оо) = 1, (2)

<1 с вероятностью единица справедливы предельные соотношения

О < (1\ < ЦШг-^О6^ ~ lÍm£_oef® < /Í2 < оо, (3)

где © - область возможных значений параметра 0\ ц' и ц" - некоторые по-:тоянные. Свойства (1) и (2) последовательного плана (<ге,<?*) обеспечивают

возможность оценивания параметра в за конечное время со среднеквадра-тическим уклонением, равномерно ограниченным заранее фиксированной величиной е. Свойства (1) и (3) показывают, что последовательные оценки в* имеют ту же скорость сходимости, что и оценки, полученные из известных асимптотических методов. Из (3) также видно, что при высоких требованиях на точность оценивания (малых е), момент прекращения наблюдений вырождается в детерминированную величину, обратно пропорциональную точности оценивания е.

В п. 1.1 рассматривается задача оценивания неизвестных компонент векторного параметра А скалярного процесса z, определенного на некотором вероятностном пространстве (ft, Т, Р) и удовлетворяющего уравнению

zn+x = а(п)\ + ед+1, п > 0. (1.1.1)

Процессы z и а согласованы с (/"п). Требования на е :

Mxel < оо, тг > 1, Л — (Ai,. ..,ЛР)' 6 Л € Rp (1.1.2)

и для некоторого натурального m и известной (Тп) - согласованной последовательности (¿„)

MA(e„+m\?п) = 0, Мд(4+т|^„)<^п,п>0, A g Л. (1.1.3)

ЗАДАЧА: Оценить в ~ I' А 6 ©г = {й = Г А, А е Л}, где 1 - известен.

Последовательный план оценивания (оев*) параметра в строится на основе оценок по обобщенному методу наименьших квадратов и определяется формулами:

^ - Г.Ы, в; = £ »в(»)л(п)/ £ /е2(п), (1.1.4)

П=1 П=1

где моменты тг(п), i>E и статистики t/e, /е являются функционалами от наблюдений z, а и определяются по требуемой точности оценивания е.

Теорема 1.1.1. Последовательный план (<тг, 0*) оценивания параметра 6 для любого е > 0 обладает свойствами (1), (2), если

оо П=1

В н.1.2 последовательный алгоритм идентификации процесса (1.1.1) лри-леняется для оценивания параметров 5-мерного устойчивого процесса авто-зегрессии

х(п + 1) = Aix{n) + ... + Лрх(п -p+Í)+Z(n + 1), (1.2.1)

t(s) = 0, если s < 0, Мя'(0)ж(0) < оо, М£ (п) = О, МЦ' = В < В, В > 0.

Обозначим Л - множество матриц А = (Ai,..., Ар), для которых процесс г устойчив и \АР\ / 0.

ЗАДАЧА: Оценить А по наблюдениям

у(п) = х(п) + 17(11), п> 0, (1.2.2)

y(s) = 0, s < 0, Mt¡(n) = 0, Мщ' = D<D.

Шумовые процессы £ и rj образуют последовательности н.о.р.с.в. Обозначим 0), _ ¡г {в — l[Al-¿ : А € А}, - известные векторы. Показано, что процесс «/, описываемый уравнениями (1.2.1), (1.2.2) может быть представлен в виде (1.1.1) и выполнены условия на шумы еп, при этом dn == Lp, Lp - известная постоянная.

Последовательный план (сгЕ,<?*) оценивания параметра 9, определенный в (1.1.4) строится на основе сильно состоятельных корреляционных оценок Юла-Уокера матрицы А и имеет вид:

as=rc(u£), в: =(¿!br1(n)ir2/^r1(»)v«(n))/(Ellffr1(")ir2), (1-2.3)

где

те(п)=Ы{а>2р-1: £ |К* - р)Ц2 > сп(еЬр)~х}, к~2р-г

= 1п£{г > 1: > р), Р = (Р+ 1) 53 1/с"'

»1=1 П>1

Т5(п) Ге(п)

9е(п)= 53 а(к)а(,с - Р)а'(к)> <Рс(п) = 53 <х(к)а(к - р)гк+1,

(с„) - последовательность положительных чисел, (<*(&)) - весовая последовательность с отличным от единицы последним элементом. Оценки в представляют собой взвешенное выборочное среднее оценок типа Юла-Уокера, вычисленных в специальные моменты времени.

Теорема 1.2.1. Пусть процесс (1.2.1) устойчив, |АР| ф 0 и р < оо. Тс гда для любого е > 0 последовательный план оценивания (1.2.3) обладае свойствами (1)-(3).

В п.1.3 найдены нижняя и верхняя границы для среднего времени после довательного оценивания параметра в системы (1.2.1), (1.2.2).

Теорема 1.3.1. Пусть; 1) плотности распределения шумов £ и т] систем! (1.2.1), (1.2.2) обладают свойством центральной симметрии, 2) при некото ром ¿>0иг-+оо справедливо предельное соотношение:

М(||£(п)||4х(1|е(п)|| > г) + ||1?(»)1|4х(П'7(«)|| > г)) = О(^),

3) выполнены условия теоремы 1.2.1. Тогда для момента стс (1.2.3) верш неравенства

е"1^ - Д1(е) < Мвае < е-1 ц2 + Д2ОО, А,(е) = о(е-1),

где цх и - предельные грашщы в (3), найденные в теореме 1.2.1.

Из теоремы 1.3.1 следует, в частности, что полученные границы для сред него времени являются асимптотически точными в том смысле, что совпа дают предельные границы для сМдсг,, и са£.

В п.1.4 построены и исследованы последовательные планы оценивани. дисперсий шумов частично наблюдаемых линейных стохастических систеь (п.п.1.4.1,1.4.2) и полученные оценки применены для решения задачи разли чения гипотез о наличии шума в наблюдениях процесса авторегрессии. Рассмотрим (¿-мерный устойчивый процесс авторегрессии

х(п + 1) = Аа:(п)-К(п + 1), (1.4.1

наблюдаемый с аддитивным шумом

у(п) — х(п) + т)(п), п > 0, (1.4.2

где я(0), (иг/- взаимно независимые последовательности н.о.р.с.в., М£ = Мг) = 0; М«' = В > 0, Мщ' = О, М||£||4 < 6, М||»?||4 < с*.

ЗАДАЧА: Оценить = (В, V) и — (2>, У), матрицы V и V - извест

ны.

В теоремах 1.4.1 и 1.4.2 доказано, что построенные последовательные пла ны обладают свойствами (1)-(3).

В п.1.4.3 при в,, — (О, I) — М|(г?||2 решена задача различения гипотез о наличии шума в наблюдениях (1.4.2) процесса (1.4.1)

Но : 0Ч = 0, #! : вп > А > О

при заданных грашщах а и ¡3 для вероятностей ошибок 1 и 2 рода. Решающее правило й — ¿х) строится с помощью оценки в*(е) :

<*о : в;(е) <6, с?1 : Ще) > 6,

где

Для любых заданных а и ¡3 решающее правило 4 обладает свойствами:

ад)<«*, ад)</з.

В п. 1.5. решена задача последовательной идентификации динамических систем с глубоко зависимыми шумами.

Пусть процесс 2, определенный в (1.1.1), наблюдается с аддитивным зависимым шумом Ь = (Ъп)п>1 11 описывается уравнением

гп+1 = а'(п)А + еп+1 + 6„+1, гг > 0. (1.5.1)

Относительно шума Ь предполагается, что

МА(Ьп+т\Рп) = 0, < г„+1, МАгя+1 < оо, п > 0, (1.5.2)

где г = (гп)п>1 - известная (^ч)- согласованная последовательность. ЗАДАЧА: Оценить параметр в — /'Л, вектор / - известен. Теорема 1.5.1. При условиях (1.1.2), (1.1.3) и (1.5.2) на шумы е„ и Ь„ для любого е > 0 последовательный план (ос, в*) обладает свойствами (1), (2).

В п.1.6 рассмотрена задача последовательного оценивания средних значений дрейфа параметров многомерной авторегрессии при наличии мультипликативных и адитивных помех в наблюдениях.

Пусть эволюция состояний динамического объекта описывается q-мерным процессом авторегрессии р-го порядка

ж(я + 1)=Л1(г»)а:(г») + ... + А,,(п)1(г»-р + 1)+^(п + 1), п > 0, (1.6.1)

причем матрицы параметров А<(п) дрейфуют во времени:

А;(п) = А{ + 5^1»), г = 1 ,р, п > О,

где 5(п) = (51 (п),..., 5р(и))' - случайный процесс с нулевым средним. ЗАДАЧА: Оценить в = 1'2А, А = (1'хАу,..., 1[АРУ по наблюдениям

где диагональные матрицы Г(гг) и векторы г](п) - мультипликативная и аддитивная помехи. Диагональными элементами матриц Г(п) могут быть, например, бернуллиевские случайные величины с известной вероятностью успеха. Процесс (((п),Тп)п>1 образует мартингал-разность, процессы 5, Г и г) независимы в совокупности, 5, Г и 17 образуют последовательности н.о.р. случайных матриц.

Обозначим х(п) = (х'(п),..., х'(п — р + 1))',

Теорема 1-6.1. Пусть 1) собственные значения матриц А и А ® А + 5 лежат в единичном круге, 2) параметры процесса х таковы, что

Тогда для любого е > 0 последовательный план (ае, в*) оценивания параметра в обладает свойствами (1)-(3).

В п.1.7 (Теорема 1.7.1) установлено, что в случае 5(п) = 0 последовательный план п. 1.5 может быть использован для оценивания параметра в = ¡[АЬ; системы (1.6.1), (1.6.2) и обладает свойствами (1)-(3).

В п.1.8 (Теорема 1.8,1) последовательный план п. 1.5 применяется для оценивания параметра в = 1[А12 системы (1.2.1), (1.2.2). Установлены свойства (1)-(3) и найдены нижняя и верхняя границы среднего времени наблюдения, необходимого для оценивания в с гарантированной точностью.

Во всех процедурах последовательного оценивания параметров стохастических систем не требуется знание распределений их шумов.

Во второй главе построены и исследованы последовательные планы оценивания параметров линейных стохастических дифференциальных уравнений.

у(п) = Г(га)а:(п) + 1){п), тг>0,

(1.6.2)

А = МА(п) ® Л(га) ® А(п) ® А(п); 5 = М8(п) ® 5(п).

П=1

В п.2.1 на вероятностном пространстве (ii, Т, (ft)t>о, Р) считается заданным скалярный процесс

dz(t) = A'a(t)dt + £(t)dt + b'(t)drj(t), t > 0. (2.1.1)

Процессы a, £ и Ь согласованы с (-7*<), т}{£) — m-мерный винеровский процесс относительно системы {3~t)- Требования на a, £ и Ь :

м /T(||a(i)||i + < IIKOII2 < КО, (2.1.2)

J о

М(Д*«*)|Я) - 0, Af((AAC(i))2|^t) < <0. (2.1.3)

где Aft£(i) = £(t+h)—£(t), h > 0; s(t) и r(i) — случайная и детерминированная известные интегрируемые функции.

ЗАДАЧА: Оценить 9 — /'А, где / = (/],..., 1Р)' - известен. Построен последовательный план оценивания (о£,в*) параметра 0, обладающий свойствами (1), (2) (Теорема 2.1.1).

В п.2.2 к этой задаче сводится задача оценивания параметров многомерного диффузионного процесса по наблюдениям с аддитивным шумом. Рассмотрим систему стохастических дифференциальных уравнений

dx(t) = Ax(t)dt -f dW(t),

dy(t) = x(t)dt + dV(t),

где W и V ~ (jFi ^согласованные независимые винеровские процессы. ЗАДАЧА: Оценить параметр в = 1гА12 по наблюдениям процесса у. Теорема 2.2.1. Пусть процесс x(t) устойчив и ||fjA|| < L, L - известно. Тогда для любого е > 0 последовательный план оценивания (ае, в*) параметра в обладает свойствами (1)-(3).

Последовательные оценки в строятся на основе оценок

А (Т) = С-1(Т)Я(Т),

G(T) = Г Ahy{t - h)Ahy'(i)dt, Н(Т) = Г Ahy(t - h)dAhy'(t). Jo J о

Теорема 2.2.2. Пусть процесс x(t) устойчив. Тогда А(Т) —> А п.н. В п.2.3 результаты п.2.1 применяются для гарантировагшого оценивания параметра сноса скалярного линейного диффузионного процесса, который наблюдается с аддитивным шумом авторегрессионного типа.

Построен последовательный план со свойствами (1)-(3).

В третьей главе рассматриваются задачи последовательного оценивания параметров сноса линейных динамических систем с непрерывным временем но дискретным наблюдениям.

В п.3.1 решается задача последовательного оценивания параметров сноса многомерного диффузионного процесса по наблюдениям с помехами в дискретные моменты времени.

3.1.1. Векторный случай.

Рассмотрим систему стохастических дифференциальных уравнений ¿уЦ) = Ау(Ь)сИ + В<Ш({),

<ь({) = у{{)<и +

где Ш и V - (.?* Согласованные независимые вннеровские процессы, х, у € В?, В В' > О. Процессы IV, V, у(0) и г(0) независимы в совокупности.

Обозначим Л - множество устойчивых матриц А размерархр таких, что Р|| < Ь и Я = ехр(АЩ.

ЗАДАЧА: Оценить £} и матрицу динамики А по наблюдениям

г(п) — х(ггЛ), п > 0.

Последовательные планы оценивания (сг£, ¿2*) матрицы и (ое,Д.) матрицы А строятся на основе оценок <2(1У), полученных по корреляционном} методу и А{Ы) = Н~11п {?(.№) соответственно.

Теорема 3.1.1. Пусть АеЛ и Л < Ь~г 1п2. Тогда оценки (¡}{И) и АШ] сильно состоятельны.

Теорема 3.1.2. В условиях теоремы 3.1.1 для любого е > 0 последова тельный план оценивания (се,<?*) матрицы обладает свойствами (1)-(3).

Обозначим f(6) — 1п(1 + 11п(2 — 6а = ал^тахае(01)/(6).

Теорема 3.1.3. Пусть А € А и к < £-1/(5о). Тогда для любого е > ( последовательный план оценивания (ае,Ае) матрицы А при 0 = А обладаем свойствами (1)-(3).

3.1.1. Скалярный случаи.

В скалярном случае последовательный план оценивания параметра А ( [—0) обладает свойствами (1)-(3) для всех Л > 0.

В п.3.2 решается задача последовательного оценивания параметров диф фузионных процессов по линейно искаженным дискретным наблюдениям.

Рассмотрим задачу оценивания матрицы А д-мерного процесса

с?х(0 = АхфШ + ВЩ^, (3.2.1)

где В В >0, ||Б|| < Ь, V — винеровский процесс. Матрица А устойчива и А £ Л — {Л : ||Л|| < £}. Наблюдается процесс с дискретным временем

г(п) = Г(п)х(пЛ) + г?(п), п > 0. (3.2.2)

Шумовые процессы У, Г и г? взаимно независимы, а Гиг;- последовательности н.о.р. случайных матриц, определенные в п.1.6. ЗАДАЧА: Оценить матрицы (} — ехр(АЬ) и А.

Построены последовательные планы оценивания этих матриц, для которых справедливы свойства (1)-(3).

В п.3.3 рассматривается задача оценивания скалярного параметра 0 д-мерного процесса

йх{г) = вАхЦ)сИ + ВМ(1) (3.3.1)

по наблюдениям (3.2.2), где ВВ' > 0, V - винеровский процесс. Матрица А устойчива и в е 0 = : 0 < в < £}.

Построен последовательный план оценивания 9 со свойствами (1)-(3) при более слабых, чем в п.3.2 ограничениях на параметры системы.

В четвертой гладе приведены результаты по последовательному оцени-

ванию статистических характеристик распределений шумов линейных случайных процессов с неизвестными параметрами.

В п.4.1 решается задача последовательного оценивания закона распределения шумов в схеме случайной регрессии.

На вероятностном пространстве (П, З7, (/"п)п>о» Р) задан процесс

2п+1 = а'(м)Л + ип+1, п > 0. (4.1.1)

Процессы г и а согласованы с (^п), А € Л — ограниченная область,

М(ия+1 |Я„) = 0, М(и2„+1 )Я„) <сР, п>1, (4.1.2)

1 ^

& N £ <п)а' = ^ пж> ^ (4л-3)

п=0

ЗАДАЧА: Оценить функцию распределения Р шумов и.

Теорема 4.1.1. Пусть функция F(x) удовлетворяет условию Липшица и выполнены условия (4.1.2) и (4.1.3). Тогда для любых заданных е > 0 и 7 > О последовательный план (r(e),F*(a;)) оценивания F(x) обладает свойствами 1. зиргед1 M(F:(x) - F(x))2 < е, 2- - ВД]2^) > 7} < ТЧ

3. P{sиРх€Д1 \F;(X) - > 7} < 547-3е,

4. P(r(e) < оо) = 1

и с вероятностью единица справедливы предельные соотношения

5. О < Ti < lime_f0er(e)Eme_o£T(e) < Т2 < оо.

В п.4.2 рассматривается задача гарантированного оценивания плотности / распределения F шумов и процесса (4.1.1) а ее производных.

Обозначим S(g, L) (q > 0) множество q раз дифференцируемых равномерно ограниченных функций / таких, что

|/(г)(*) - /(г)(у)| < L\x ~ J/I, о < г < q, х,у G R1.

Теорема 4.2.1. Пусть / £ S(<?,£) и выполнены условия" (4.1.2), (4.1.3). Тогда для 0 < г < q и любого е > 0 последовательные планы (r(e),/ir^(i)) оценивания производных f^ обладают свойствами 4 и 5 теоремы 4.1.1, а также

sup M(fir\x) - f{r)(x)Y < Ат^. хея1

В п.4.3 построены и исследованы последовательные оценки линейных функционалов от неизвестного распределения F. Обозначим

Ф(ш) = {Ф = J <P<iF : sup |v9(m)(«)| < К, j[ip^]2dF < К, i = o,m-l,}.

(4.3.1)

Предполагается, что для некоторых R и R 0 < Л' <11x11^1 ¿iKn-l)!!2^-1) <

п=1 п—1

<R< оо, М||а(п)||а<я,-1> < оо. (4.3.2;

ЗАДАЧА: Оценить функционалы ф € Ф.

Теорема 4.3.1. Пусть ф 6 Ф и выполнены условия (4.1.2), (4.1.3) и (4.3.2) Тогда для любого е > 0 последовательные плавы (<т(е), Ф1(х)) оценивания 4

при 0 = Ф обладают свойствами (1), (2) и, если в соотношениях (4.3.2) R = R , то и свойством (3).

ПРИМЕР: Для оценки дисперсии шума Aíu£ с любой точностью достаточно иметь грубую оценку сверху для Мм*.

В п.4.4 приводится последовательный критерий согласия для сложной гипотезы относительно неизвестного распределения.

Обозначим G - множество распределений G(x, 9) таких, что

I. в = (вi,... ,ва) 6 0, где 0 - линейное выпуклое множество;

II. 0; е Ф; = Ф(т;), i = ITs;

III. G(x, в) дифференцируема по параметрам 9Х,..., 9, в каждой точке х € R1 и для некоторой известной постоянной Q справедливо неравенство

sup sup ||Gß(a;, t/)|| < Q. гей1»ее

ЗАДАЧА: При заданном уровне значимости a различить гипотезы

Н0 : F(x) £ G, Hi: F(x) i G.

При построении решающего правила используются последовательные непараметрические оценки F*(x), определенные в п.4.1 и оценки 9* — (в;(е),.. -,#*(е)) функционалов 0¡, г — 1, а, построенные в п.4.3. Обозначим

Д1(г)= sup \F:(x)-G(xJ*e) |, Д2(г) = / (ВД - G{x, 9*efdF:{x). xeñ1 Jw-

Принимается решение в пользу гипотезы Но, если Ai(e) < 8 ы Н\ в противном случае.

Теорема 4.4.1. Пусть выполнены условия теорем 4.1.1, 4.2.1 и I-III. Тогда для любых е > 0 и ¿ > 0 имеют место неравенства

P(Ai(e) > <5|#о) < 216S~s(l-hsQ% Р(Л2(е) > ¿|Я0) < 24<Г1[(1 +sQ2)e]2/3.

Из теоремы 4.4.1 видно, что для любого уровня значимости a > 0 всегда можно подобрать пару (е, 6), для которой вероятность ошибки первого рода при использовании статистик Ai и Дг не превзойдет or. При этом для мощности рассмотренных критериев в указанных предположениях можно получить только асимптотические результаты.

ПРИМЕР: При проверке распределения F на нормальность при неизвестной дисперсии 9 = Ми\ с заданным уровнем значимости a необходимо

знать нижнюю границу 9\ для в и верхнюю границу для Ми^- При этом

G = {ЛГ{0,6), в е 6 - [Ö1,02]}, Q - (втф-1.

В п.4.5 результаты п.п.4.1-4.4 используются для последовательно:« оценивания статистических характеристик возмущений авторегрессии, являющейся шумом в модели регрессии. Рассмотрим регрессионный процесс

Zn+1 = X (п)с + £п+1, (4.5.1)

£п-И = -f • - • + + Un+1, П > 0,

процессы x и и независимы в совокупности и согласованы с (J7n)n>o- Процесс f устойчив, параметры си// системы (4.5.1) неизвестны.

ЗАДАЧА: Применить результаты п.п.4.1-4.4 для процесса и. Пусть выполнены условия (4.1.2) и для х(п) = (х (п),..., х (ri — q))

1 N

N £ = В) = 1. |Я| ф 0. (4.5.2)

~>°° п=0

Процесс (4.5,1) может быть представлен в виде

zn+1 = А а(п) + un+i, (4.5.3)

a(n) = (z'(n),x'(n))', А = ((¿',c',-piс',...,-//4с')\ г(п) = (z„,... ,zn_?+1)'. Обозначим Л = {А : с € С, ß € .М}, где С - ограниченное множество, Л4 — область устойчивости процесса m — maxi m,-.

Лемма 4.5.1. Пусть процесс £ в (4.5.1) устойчив и выполнены условия (4.1.2) и (4.5.2). Тогда для процесса (4.5.3) справедливы утверждения теорем 4.1.1, 4.2.1 и при т = т, — 2, г ~ l,s утверждения теорем 4.3.1 и 4.4.1. Если, кроме того, для всех п > 1 Mun™-1' < оо, M||x(n)||2^m_1^ < оо и

1 N _ lim*-.«,^ £ ПЗД!2^"1* < оо п.н.,

п=1

то теоремы 4.3.1 и 4.4.1 верны для любых т и ггц, i = 1, s.

В пятой главе решаются задачи непараметрического оценивания распределений и их характеристик по зависимым наблюдениям в асимптотической постановке.

В п.5.1 приводятся результаты по непараметрическому оцениванию производных многомерной плотности распределения по зависимым наблюдениям.

5.1.1. Постановка задачи.

Пусть на вероятностном пространстве (П, Т, Р) выделен неубывающий поток <7-подалгебр (^"п)п>о и задана последовательность е = (еп)п>1 случайных векторов еп = (еп1,... ,е„3)', согласованных с Предполагается, что последовательность функций условного распределения Fn(a;) = Р(еп+1 < х\3-п) с плотностью /„(х) сходится в определенном смысле к детерминированной функции Г(х), обладающей свойствами функции распределения.

Рассмотрим задачу оценивания частной производной /а"'(ж), а — («1, -.., - фиксированный вектор, + а^ + ■ ■ ■ + ав = а финальной плотности распределения (ф.п.р.)

последовательности величин еп по наблюдениям

Е« + ЗА,»-1, п > 1, (5.1.2)

где <д = (зл,п)п>о _ последовательность согласованных с (Тп) ненаблюдаемых и возможно зависимых между собой с.в. размерности в, векторный параметр А £ Л неизвестен и является мешающим, Л - множество допустимых значений Л.

Модель наблюдений (5.1.2) имеет место, например, в случае, когда векторы еп представляют собой остатки в схеме общей регрессии (п.5.5).

В качестве оценки производной плотности $а\х) по наблюдениям {е„ + <7АзП-1} возьмем статистику вида

Р.1.3)

где К (и) : Я" —> Д1 - ядерная функция, не обязательно обладающая свойствами п.р., к = (/глг)дг>1 - некоторая последовательность положительных чисел. Обозначим (/м) = /«•

Относительно последовательности условных плотностей распределения (/я) делается ряд предположений, для иллюстрации которых можно рассмотреть следующий

ПРИМЕР: Пусть (и„) - последовательность н.о.р.с.в. из стандартного гауссовского распределения, (<п) - последовательность, абсолютно сходящаяся к нулю. Определим = а {у о,..., и„},

Рп = п > 1

и положим Тп = о-{«о,... ,г;п}. Тогда все требования для (/„) выполнены, если

Все теоремы в п.п.5.1-5.4 формулируются при соответствующих условиях на (/„) и традиционных требованиях на последовательность А. 5.1.2. Сходимость в среднеквадратическом. Определение 5,1.2.

а) Семейство последовательностей о (А) — А £ Л] £ Си(т), если

8ир(МА||5А^-1||2) = о(1/М*+2"), N->00, (5.1.6а)

А

8ир(Щ)дх,ц-1]\*т) = о( 1/ЛЛ#2в), N оо; (5.1.6Ь)

А

Ь) £ Сг(т), если для всех А £ Л с вероятностью 1 при N —> оо

<1Ь,*-1||2т)=о(1). (5.1.7)

Теорема 5.1.1. Если д(Л) € Сх(« +1/), то при N —> оо для СКО и2(Цо)) справедливо точное асимптотическое равенство

,2( /(«)

Бир А

если д(Л) £ С^!/ + 1), то для смещения 6дг имеем

1

вир - = о I Л^ +

— ^ I г у—=- 1 •

л \ у/пь#2а)

5.1.3. Оптимизация скорости сходимости СКО оценки. Оптимальная последовательность: — «+2(гг+Я.

При этом СКО оценки /1™''" имеет порядок

•л

и справедливы соответствующие точные асимптотические равенства для СКО и смещения оценки (Теорема 5.1.2).

5.1.4. Сходимость, с вероятностью единица.

Теорема 5.1.3. Пусть д(А) € <?2(^)- Тогда для всех А € Л при N—>00

а при 2г/ > з + 2а

5.1.5. Асимптотическая нормальность.

Обозначим Ф(г) - функцию стандартного гауссовского распределения и в = {в - (А, г,г) : А £ Л, х 6 К3, г € Л1}. Теорема 5.1.4. Если д(Л) бС?1(а + г/), то

Шп^ир |Рхфь#2а(&а\х) - /<«>(*)) <2)~ Ф(г/уЩх))\ = 0.

Теорема 5.1.5. Если д(Л) € 61(0: + г>), то

1пп зир|- /(°>(х)) - „(х)(Ь0)" < ¿)-

П-*оо @

= 0.

В п.5.2 решена задача непараметрического оценивания отношений производных многомерной плотности распределения по зависимым наблюдениям. 5.2.1. Постановка задачи.

Пусть на вероятностном пространстве (А, Т, Р) выделен неубывающий поток а— подалгебр (.?"„)„>о и задана последовательность е = (еп)п>1 н.о.р.с.в. е„ = (еП1>- • • согласованных с (Рп) с п.р. /(¿).

Рассмотрим задачу оценивания отношения Т(£) частных производных п.р. последовательности е :

т = = т, (5.2.1)

Н \Ч

по наблюдениям типа (5.1.2).

В качестве оценки подстановки Tjv(<) отношения T(t) можно взять отношение статистик Ja"\x) и /¡^(х) вида (5.1.3). Однако такие оценки могут принимать неограниченные значения.

Для получения оценок с конечным СКО воспользуемся модификацией

6 - вспомогательная последовательность, pq > 1, р > 0, q > 0.

5.2.2. Асимптотические свойства оценок производных плотности.

Обозначим

Saa,bU) = Л/х(Ло) - ЛаЩа) - fia)),

u2m(fia)) = Мл(/<°> - fia))2m, vU«) = h^+iNh^r1-

Построены оценки производных п.р. / типа (5.1.3), для которых справедливы утверждения теорем 5.1.1 - 5.1.4, а также свойства

та f(t \

sup|S«6(/) - ^^ -<b(i)4'l = o{v%(a)),

sup u2m{}^) = 0(t#») N —* oo.

A

5.2.3. Оценивание отношений производных плотности.

Обозначим U = тах(а, /3). Показано, что при N —> оо

sup МД|ЗД) - T(t)\h = О(^Н), 1 < к < т;

А

snP\MX[iN(t) - T(t)f - Щр - ¿:fmir\=

В п.5.3 изучена проблема асимптотического оценивания функций от плотности распределения по зависимым наблюдениям.

ЗАДАЧА: Оценить функцию V(f), V'(-) : R1 —> R1 от многомерной ф.п.р. /, определенной в п.5.1. по наблюдениям (5.1.2).

При восстановлении V(f) воспользуемся модификацией V(f) вида (5.2.2) оценки подстановки V = У(/), где / - оценка / типа (5.1.3):

г > 0, р > О, рт > 1. Показано, что оценка V(f) обладает свойствами:

sup I Mx[V(f) - V(/)]* - MxlV^ifXf - /)]*| = 1 <k<m,

A

sup|Mx[V(f)-V(f)}2 ~ + = +

В п.5.4. решена задача непараметрического оценивания функционалов но наблюдениям с аддитивным зависимым шумом при наличии дополнительной априорной информации.

5.4.1. Постановка задачи.

Пусть на вероятностном пространстве (П, JF, (jF„)n>0, Р) задана последовательность н.о.р.с.в. е = (en)n>i с ф.р. F и согласованных с (fn)-ЗАДАЧА: Оценить функционал

Цч>) = J y(x)dF(x) (5.4.1)

по наблюдениям (5.1.2). Обозначим оценку

1 А

+ 9\,п-1 )• (5.4.2)

n=l

Определение 5.4.1.

Оценка Ф.у 6 Wi(«4.), если lim^_00supi4 — Ф)2 < оо;

Фдг £ с), если limjv—юо sup^ ~ Ф)2 = с.

ПРИМЕР: Ф^(0) £ W2(0,a2), = Ф([<^ - Ф]2).

5.4.2. Оценивание функционалов без учета дополнительной априорной информации.

Получены условия, при которых Фд? € Ti^A). ПРИМЕР: Рассмотрим модель линейной регрессии

х„ = Xan~i + еп, п > 1.

Строятся оценки

£п = Хп An-lflu-l»

где (А„) - оценки МНК. При этом

п п

ê-n—s 4- ffn-i, Ofc-ie*/ а\

*=1 Jfc=l

и справедлива

Теорема 5.4.2. Пусть ]Cn>i(a«/X)fc=i al-i) < 00• Тогда

i) € 7ii(R1), если при N —» 00

N Г~п

n=l ^ fc=l

ii) $jv G ^{R1, (?ф -f Сф), если существует предел

N N

JimJtajv 53 a*-*)/ 53 fc=i t=i

ПРИМЕР: a„=na, a G R1. При этом сф = 0, если а <1/2 или Ф(у') =

0.

5.4.3. Оценивание функционалов с учетом дополнительной априорной ин формации интегрального типа. Априорная информация:

Ф(Ф,-) = 0, » = 1,2. (5.4.3

ОЦЕНКА:

= <&N(g) + А1П ш(?) + ß2^2N(g), (5.4.4

где rii^-(jr) - оценки функционалов типа (5.4.2), а /л,- - оценки параме

Тров щ, которые выбираются: ¿¿j = (^2) ~ из равенства

<%>') + /Х1Ф(Ф'Х) + раФ(Фа) = 0>

а /i2 - из условия

M{#w(/ii(/x2),fi2,0) - Ф}2 min,

ßi

что приводит к уменьшению асимптотической дисперсии оценки

Показано, что Фдг £ ^(Л, + с) при существенно более слабых требе ваниях на шум д, чем в п.5.4.2.

В п.5.5. результаты п.п.5.1-5.4 применяются для оценивания статистич« ских характеристик шумов линейных регрессионных процессов с неизвест ными параметрами.

Пусть на вероятностном пространстве (ß, Т, {jFn)n>o, Р) задана последовательность е = (e„)n>i случайных векторов е„ = (еп1,..., епз)', согласованных с (■?■"«). Последовательность е образует процесс мартингал-разности и является шумом процесса х :

х„ - А0(п - 1) + Ai(n - 1)Л + е„, п> 1, (5.5.1)

где Л = (Ах,..., Ар)' - вектор неизвестных параметров, А б А - ограниченное множество в Rp, A;(rt) — ^„-согласованы.

ЗАДАЧА: Применить результатам п.п.5.1-5.4 для восстановления статистических характеристик предельного распределения шумов е.

При этом в качестве наблюдений используются оценки величин е„ :

е„ = е„ + д\,п-и д\п-1 = (п - 1)(А - А(п - 1)), (5.5.2)

где А(ге) - некоторые ^"„-согласованные оценки.

Заметим, что векторы е„ представляют собой ошибки предсказания при одношаговом прогнозировании значений хп с помощью предсказателей х(п\п — 1) — Ао(п— 1)+А(п — 1)А(гг — 1) и при "хорошем" качестве оценивания А можно ожидать асимптотическую близость распределений ёп и е„. В этом случае при восстановлении ф.п.р. последовательности е по существу решается задача построения полной вероятностной модели динамической системы (5.5.1).

5.5.1. Детерминированная регрессия.

В качестве А(га) использовались оценки МНК. Дополнительно исследовано асимптотическое поведение моментов шума д.

5.5.2. Стохастическая регрессия.

В качестве А(п) использовались кусочно-постоянные оценки с заданным качеством в смысле метрики Lm. При этом установлено дополнительное свойство сходимости |ё„ — е„| —> 0 п.н. и исследовано асимптотическое поведение моментов шума д.

5.5.3. Примеры.

5.5.3.1. Скалярная авторегрессия первого порядка.

Рассмотрим устойчивый процесс авторегрессии

хп = Az„_i +е„,

где еп - н.о.р.с.в. Показано, что для тп > 1

и—х

О а(1), m= 1, Оа(1), т>1,

где Од(1) - такая величина, что для любого 0 < г < 1 supjA|<r 0\(1) — (9(1);

Sl4> (5л>-1> = о(1) п.н.

При этом А = {Л : ||А|| < г < 1}.

В шестой главе рассматриваются задачи прогнозирования и адаптив ного управления динамическими системами с неизвестными параметрами.

В п.6.1 предложена общая процедура построения вероятностных моделей динамических систем.

Отмечается, что для широкого класса регрессионных процессов < неизвестными параметрами понятия вероятностных моделей, введенвы< Л.Льюнгом, оказаваются недостаточными.

6.1.1. Асимптотические вероятностные модели. Определения. Обще« утверждение.

Пусть на вероятностном пространстве (П, Т, Р) выделена неубывающа) система сг-под алгебр (^"¡)(>о, с которой согласованы процессы у — (у(А, £))<>< и и = («(<))<>0) имеющие смысл выходного и входного сигналов некоторо) системы, А £ Л С Др.

Обозначим у - {у{Щ - 1))«>1 и ед - (е(А,*) = у{А,*) - у(1,- 1))(>1 последовательности одношаговых прогнозов процесса у и их ошибок. Пуст] предсказатели у таковы, что для последовательности

М<г

5.5.3.2. Двумерный процесс авторегрессии.

Результаты, подобные предидущему пункту получены для модели агп1 = А1а;(„_1)1 + А2а;(п_1)2 +еп1, хп2 — А2а;(п_1)1 + Аха;(„_1)2 +еП2-

Ft(x) = Px(e(\t) < x\rt-i) для всех гей1 с вероятностью единица существуют неслучайные предель

F(x) = lim Ft(x).

Введем класс Ф*(Р) линейных; функционалов

= / ^МЯ*), , (6.1.1)

удовлетворяющих условию

j ц>2у)<1Г(г) < оо (6.1.2)

и содержащий функцию распределения F(х) и ее дисперсию.

Определение 6.1.2 Асимптотической вероятностной моделью сигнала у будем называть пару М* = (у, Ф), где Ф - совокупность сходящихся в среднеквадратическом оценок ф функционалов ф е Фр С Ф*(.Р), построенных по наблюдениям ед; Ф£, - множество допустимых функционалов.

Вводится множество функционалов Ф*г „7(Р), которое может быть принято за допустимое при построении асимптотической вероятностной модели и позволяет, в частности, рассматривать с единых позиций задачи оценивания функции распределения Р(х) и функционалов (6.1.1) от нее. Считается задапной последовательность предсказателей у и рассматривается задача оценивания функционалов ф £ „.г(Р) по наблюдениям ед, представимым в виде

е(А,*) = д\,г-г + с(<), * > 1, (6.1.3)

где дх — (?А,<)(>0 - последовательность согласованных с случайных функций, е = (е(^))<>1 - последовательность согласованных с (-7"*) н.о.р.с.в. и функцией распределения Ре(х). Структуру (6.1.3) имеют, например, ошибки предсказания (5.5.2) предсказателей х(п\п — 1) процесса (5.5.1).

В качестве ф возьмем непараметрические оценки

¿п = (р(е(А,п))>. (6.1.4)

Показано, что при определенных требованиях на качество предсказателей у наличие зависимости в наблюдениях не приводит к увеличению асимптотического значения главной части среднеквадратического отклонения оценок (6.1.4) функционалов (6.1.1) в сравнении со случаем независимых наблюдений и имеет место равномерная сходимость их среднеквадратического отклонения:

8ир|52-^|=о(1), (6.1.5)

Sn — упМ(ф„ — ф)2, егф — f ¡p2dF — [/ <pdF]2. Знание прогноза у с такими свойствами достаточно для построения асимптотической вероятностной модели М*.

6.1.2. Вероятностные модели предсказания для процессов авторегрессии.

Пусть наблюдаемый процесс {xt}t>l-p удовлетворяет уравнению авторегрессии р-го порядка

Xt = \iXt-l + . .. + XpXt-p + e«, t > 1, (6.2.1)

где Л = (Aj,..., Хр)' - неизвестный векторный параметр, шумы е* независимы с ж(0) = (хо, 1-1,. •. ,xi_p)' и образуют последовательность н.о.р.с.в. с непрерывной на Л1 функцией распределения Fe(x) и Met — 0. Процесс {act} предполагается устойчивым с Мх(0) — 0.

Одношаговые прогнозы величин xt берутся в виде

x(i|i - 1) = A'(i - l)x(t - 1), t > 1, (6.2.2)

где A(t) - некоторые ^-измеримые оценки A, x(t) = (xt,. ■ .,xt-p+1)'.

Из (6.2.1) и (6.2.2) находим ошибки предсказания вида (5.5.2).

Задача построения АВМ для процесса (6.2.1) сводится к нахождению оценок X(t) параметра А, для которых оценки (6.1.4) сходятся в смысле (6.1.5). Оценки A(t) строятся на основе оценок МНК, вычисленных в специальые моменты времени. Изучено асимптотическое поведение моментов отклоненш этих оценок.

Для оценок функционалов установлено свойство (6.1.5) для любой замкнутой подобласти А из области устойчивости процесса (6.2.1).

6.2. Адаптивное оптимальное управление линейным стохастическим про цессом.

6.2.1. Постановка задачи. Основной результат.

Во множестве работ по адаптивному управлению стохастическими си стемами с критериями, минимизирующими дисперсию объекта, видное ме сто занимает работа Немировского A.C. и Цыпкина Я.З. (Автоматика i телемеханика, 1984г., N12), в которой они впервые рассмотрели критерий оптимизирующий скорость сходимости дисперсии процесса авторегрессии i минимальному значению. Однако этот неулучшаемый, по существу, теоре тический результат достаточно трудно реализуем на практике вследствт жестких ограничений на параметры и распределения помех системы.

В данной работе подобная задача рассмотрена на примере процесса авторегрессии первого порядка с несколько более слабым критерием, однако также учитывающем скорость сходимости дисперсии объекта и алгоритмом оптимального управления, работающем при реальных предположениях на параметры системы. МОДЕЛЬ:

хп - Аж„_1 + «„ + £„, п > 1,

£ - н.о.р.с.в. с плотностью распределения /(•) и неизвестной дисперсией а2, |А| < L.

ЗАДАЧА: Построить управление с целью минимизации критерия

_ ! *

J(u,7>) = sup lim V М(хп - £„)2, jgpN-ч>oalnPl

где V - некоторый класс плотностей распределения /(•). Управляющая последовательность имеет вид:

Un — _

где (А*) - кусочно-постоянная последовательность гарантированных оценок МНК параметра А.

Основной результат п.6.2: Показано, что при управлении и* :

1) На достаточно широком классе распределений Vi

J(u*,V2) = <r2-,

2) На более ограниченном множестве распределений Voo в широком классе допустимых управлений U

J(u*,Poo) = inf J(u,Tco) = а2;

3) На классе распределений Vi имеет место потраекторная сходимость

lim |а:„ — = 0 п.н.

п—+оо

Высокое качество процедуры адаптивного управления при реальных требованиях на параметры системы достигается за счет использования в процедуре последовательных оценок параметра динамики объекта.

На защиту выносятся следующие основные результаты:

1. Построение процедур оценивания с гарантированным качеством в сред-неквадратическом смысле параметров линейных регрессионных процессов с зависимыми шумами и применение этих результатов для восстановления параметров многомерных авторегрессионных процессов по наблюдениям с мультипликативными и аддитивными помехами.

2. Построение гарантированных процедур оценивания параметров линейных динамических систем с непрерывным временем и применение этих результатов для восстановления параметров многомерных диффузионных процессов по наблюдениям с адитивнъши помехами.

3. Построение процедур оценивания с гарантированным качеством в сред-неквадратическом смысле параметров линейных динамических систем авго-регрессионного типа с непрерывным временем по наблюдениям с адитивными помехами в дискретные моменты времени.

4. Решение задач гарантированного оценивания основных статистических характеристик возмущений устойчивого процесса авторегрессии с неизвестными параметрами в случае, когда процесс авторегрессии сам является шумом в модели линейной регрессии также с неизвестными параметрами. Применение последовательных оценок распределения возмущений и функционалов от него в задаче согласия при сложной гипотезе относительно неизвестного распределения.

5. Построение асимптотических оценок распределения вероятностей, функционалов, производных плотности распределения и их отношений с известной среднеквадратической скоростью сходимости по зависимым наблюдениям. Применение указанных результатов для построения вероятностных моделей динамических систем и, в частности, для восстановления распределений шумов линейных стохастических систем с неизвестными параметрами.

6. Введение понятия асимптотических вероятностных моделей динамических систем и построение асимптотических вероятностных моделей авторегрессионного типа.

7. Построение процедуры адаптивного оптимального управления случайным процессом с критерием, учитывающим скорость сходимости дисперсии объекта к своему минимальному значению.

Основные результаты диссертации опубликованы в работах:

1. Васильев В.А., Конев В.В. Последовательное оценивание параметров динамических систем при неполном наблюдении. - Изв. АН СССР, Тех-

ническая кибернетика, 1982, 6, с.145-154.

2. Васильев В.А., Конев В.В. Последовательная непараметрическая процедура оценивания параметров линйных динамических систем при наличии шумов в наблюдениях. - В кн.: 9 Всесоюзное совещание по проблемам управлеш!я. Тезисы докладов, Ереван, 1983, с. 118.

3. Васильев В.А., Конев В.В. Последовательное оценивание параметров авторегрессии при наличии мультипликативной и аддитивной помех в наблюдениях. - В кн.: 12 Всесоюзная школа-семинар по адаптивным системам. Тезисы докладов. Могилёв, 1984, с. 21.

4. Васильев В.А., Конев В.В. Об оценивании дрейфа параметров авторегрессии при наличии мультипликативной и аддитивной помех. - В кн.: 5 Симпозиум "Машинные методы обнаружения закономерностей" /МОЗ-5/. Тезисы докладов. Минск, 1985, с. 36-37.

5. Васильев В.А., Конев В.В. Об оценивании закона распределения возмущений процесса авторегрессии. - В кн.: 4 Междунар. Вильнюсская конф. по теории вероятностей и математической статистике, Тез. докл., 4.1, 1985, Вильнюс, с. 119-120.

6. Васильев В.А., Конев В.В. Последовательное оценивание параметров динамических систем при наличии мультипликативной и аддитивной помех в наблюдениях. - Автоматика и телемеханика, 1985, 6, с. 33-43.

7. Васильев В.А., Конев В.В. Об оценивании параметров линейных стохастических систем с непрерывным временем. - В кн.: 10 Всесоюзное совещание по проблемам управления. Тезисы докладов. Кн. I. Алма-ата, 1986, с. 221-222.

8. Васильев В.А., Конев В.В. О гарантированном оценивании параметров диффузионных процессов при неполном наблюдении. - В кн.: Математическая статистика и её приложения, Томск: Изд-во Томск, ун-та, 1986, вып. 10, с. 25-30.

9. Васильев В.А. Об оценивании распределения возмущений процесса авторегрессии. - В кн.: Математическая статистика и ее приложения, Томск, йзд-во Томск, ун-та, 1986, вып. 10, с.9-24.

10. Васильев В. А., Конев В.В. Об оценивании дисперсий шумов в линейны? стохастических системах. - В кн.: Статистический анализ эксперимен тальных данных. Межвузовский сборник научных трудов, Новосибир ский электротехнический институт, Новосибирск, 1987, с. 109-118.

11. Васильев В.А., Конев В.В. Об оценивании дрейфа параметров динами ческих систем по задпумлённым наблюдениям. - В кн.: Математическа: статистика и её приложения, Томск: Изд-во Томск, ун-та, 1987, вып. 11 с. 13-23.

12. Васильев В.А., Конев В.В. Об оценивании плотности распределение шума процесса авторегрессии. - В кн.: Измерение характеристик слу чайных сигналов с применением микромашинных средств, Регионапь ная научно - техническая конференция, Новосибирск, 18-20 мая 1988 Тезисы докладов, 4.1, с. 7-8.

13. Васильев В.А., Конев В.В. Оценивание параметра диффузионного про цесса по наблюдениям с аддитивным шумом. - В кн.: III Уральска; региональная конференция "Функционально-дифференциальные урав нения и их приложения", Тезисы докладов, Пермь, 1-5 февраля 1988, с 257.

14. Васильев В.А., Конев В.В. О проверке гипотез относительно распреде лений помех в регрессионных моделях. - В кн.: Статистические метода в теории передачи и преобразования информационных сигналов, Те зисы докладов Всесоюзной научно - технической конференции, Киев КНИГА, 1988, с.58-59.

15. Васильев В. А., Конев В.В. Критерий проверки гипотезы о порядке ав торегрессии. - В кн.: Математическое и программное обеспечение ана лиза данных, Тезисы докладов Республиканской научной конференции Минск, Изд-во Белгосупиверситета, 1990, с. 104.

16. Васильев В. А., Тарасенко П.Ф. О непараметрическом оценивании функ ционалов по зависимым наблюдениям с использованием дополнитель ной априорной информации. - В кн.: Идентификация, измерение ха рактеристик и имитация случайных сигналов. Тез. докл. междунар научно-технич. конференции, Новосибирск, 24-27 мая, 1994, с. 18-19.

17. Васильев В.А. Асимптотическое оценивание распределения шумов авторегрессии. - В кн.: Идентификация, измерение характеристик и имитация случайных сигналов. Тез. докл. междунар. научно-технической конференции, Новосибирск, 24-27 мая, 1994, с. 16-17.

18. Васильев В. А. Непараметрическое оценивание функционалов по наблюдениям с аддитивным зависимым шумом при наличии дополнительной априорной информации. - Изв. вузов, Физика, 1995, N9, с.13-19.

19. Васильев В.А., Кошкин Г.М. Об оценивании многомерной плотности распределения и ее производных по зависимым наблюдениям. - В кн.: Предельные теоремы и смежные вопросы. Тез. докл. международного семинара, Омск, Изд-во ОМГУ, 1995, с. 16-18.

20. Васильев В.А., Кошкин Г.М. Об оценивании отношений частных производных плотности распределения ошибок в моделях предсказания. -В кн.: Второй Сибирский Конгресс по Прикладной и Индустриальной Математике (Инприм-96), Тезисы докладов, 4.2, Новосибирск, 1996, с. 173.

21. Васильев В.А. Построение вероятностных моделей авторегрессионного типа. - В кн.: Второй Сибирский Конгресс по Прикладной и Индустриальной Математике (ИНПРИМ-96), Тезисы докладов, 4.2, Новосибирск, 1996, с. 173.

22. Васильев В.А., Кошкин Г.М., Тарасенко П.Ф. Улучшенные оценки функционалов от распределения с неопределенным средним возмущений линейной регрессии. - В кн.: Второй Сибирский Конгресс по Прикладной и Индустриальной Математике (ИНПРИМ-96), Тезисы докладов, 4.2, Новосибирск, 1996, с. 174.

23. Васильев В.А. Об идентификации динамических систем авторегрессионного типа. - Автоматика и телемеханика, 1997, N12, с. 106-118.

24. Васильев В.А., Кошкин Г.М. . - Оценивание предельной плотности распределения и ее производных по наблюдениям с ослабевающей зависимостью. Проблемы передачи информации, 1997, N2, с.66-80.

25. Васильев В.А., Кошкин Г.М. Оценивание функции от плотности распределения по зависимым наблюдениям. - Проблемы передачи информации, 1997, N4, с.45-60.

26. Vasil'iev V.A., Konev V.V. Sequential identification of linear dynamic systems in continuous time by noisey observations. - Problems of control and information theory, 1987, 16, N 2, p. 112-120.

27. Vasiliev V.A., Konev V.V. On identification of linear dynamic systems in the presence of multiplicative and additive noises in observation. -Stochastic Contr.: Proc. 2-nd IFAC Symp., Vilnius, May 19-23, 1986, Oxford e.a., 1987, p. 87-91.

28. Vasiliev V.A., Konev V.V. On sequential parameter estimation of continuous dynamic systems by discrete time observations. - Problems of control and information theory, 1990, 19, N 3, p. 197-207.

29. Vasil'iev V.A., Konev V.V. Fixed accuracy identification of partly observable dynamic systems. - Autom. Contr.: Proc. 11th Trienn. World Congr. Inf. Fed. Autom. Contr., Tallinn, 13-17 Aug., 1990, v.2 - Oxford etc., 1991, p.179-183.

30. Koshkin G.M., Vasil'iev V.A. On identification of linear dynamic systems with an unknown distribution of the noises. - 35th IEEE Conference on Decision and Control, Kobe, Japan, December 11-13, 1996, v.2, p.76-83.

31. Konev V., Vasiliev V. On optimal adaptive control of a linear stochastic process. - Proc. 15th IMACS World Congress of Scientific Computation, Modeling and Applied Mathematics, August 24-29, 1997, Berlin, Germany, v.5, p.87-91.

32. Koshkin G.M., Vasil'iev V.A. Estimation of multivariate probability density and its derivatives by weakly dependent observations. - Proceeding of Steklov Mathematical Institute Seminar "Statistics and Control of Stochastic Processes", The Liptser Festshrift, Steklov Mathematical Institute, 1995-1996, Editors Yu.M.Kabanov, B.L.Rozovskii, A.N.Shiryaev, World Scientific, Singapure, New Jersey, London, Hong Kong, 1997, p.37-

52.