автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Идентификация и классификация процессов авторегрессии со случайными коэффициентами

На правах рукописи

Кашковгкий Денис Викторович

ИДЕНТИФИКАЦИЯ И КЛАССИФИКАЦИЯ

ПРОЦЕССОВ АВТОРЕГРЕССИИ СО СЛУЧАЙНЫМИ КОЭФФИЦИЕНТАМИ

05.13.01 - системный анализ, управление и обработка информации (в отраслях информатики, вычислительной техники и автоматизации)

Автореферат диссертации на соискание ученой степени кандидата физико-математических наук

Томск - 2008

Работа выполнялась в Томском государственном университете

Научный руководитель:

доктор физико-математических наук, профессор Конев Виктор Васильевич

Официальные оппоненты:

доктор технических наук, профессор Рубан Анатолий Иванович

кандидат физико-математических наук, доцент Колесникова Светлана Ивановна

Ведущая организация:

Институт математики им. С Л. Соболева СО РАН (г Новосибирск)

Защита состоится:

15 мая 2008 г. в Ю'ЗО на заседании диссертационного совета Д 212.267 12 при Томском государственном университете по адресу 634050, г. Томск, пр Ленина, 36

С диссертацией можно ознакомиться:

В Научной библиотеке Томского государственного университета

Автореферат разослан: 17 марта 2008 г.

Ученый секретарь

диссертационного совета, ( В.И Смагин

д.т н, профессор

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность работы. Известно, что идентификация является необходимым и наиболее сложным этапом при решении многих прикладных задач, для построения адекватных моделей, которые используются при проектировании сложных систем Этим вызвала актуальность задачи идентификации Построение моделей не исключает и возможности качественного анализа системы, отнесения ее к некоторому классу Для этого необходимо решение задач классификации.

До решения задач идентификации и классификации возникает проблема выбора структуры модели, адекватно описывающей заданную систему. Модель может точно воспроизводить исследуемую систему и вполне соответствовать ей. Но на практике это возможно лишь в редких случаях. Модели в основном используются для предсказания и управления. Поэтому модель должна быть настолько подробной, насколько необходимо для этих целей. Слишком подробная модель обычно усложняет анализ исходной системы, поскольку требует обработки большого объема данных. Поэтому в случае, когда модель имеет много параметров, необходимо провести ее качественное преобразование в сторону уменьшения сложности. Примером такого преобразования может быть переход от процесса авторегрессии высокого порядка к модели авторегрессии со случайными коэффициентами более низкого порядка. В данной работе рассматривается проблема идентификации такой модели с позиций последовательного анализа, который предполагает, что длительность оценивания зависит от текущей реализации процесса

Другой причиной использования модели авторегрессии со случайными коэффициентами может быть реальное наличие возмущений параметров системы Известно, что в задачах адаптивного управления, фильтрации и прогнозирования важное место занимают динамические системы, описываемые линейными стохастическими разностными уравнениями с неизвестными параметрами Для идентификации линейных динамических систем разработаны различные эффективные методы- наименьших квадратов, максимального правдоподобия, стохастической аппроксимации и др При этом неизвестные параметры линейных систем, как правило, считаются постоянными во времени. В действительности они могут быть подвержены действию случайных возмущений и оставаться постоянными только в среднем. Естественно ожидать, что алгоритмы идентификации

и классификации, не учитывающие действие указанных помех, могут приводить к неверным результатам Поэтому возникает необходимость разработки алгоритмов идентификации и классификации в моделях со случайными параметрами

Цель диссертационной работы. Построение одноэтапного последовательного алгоритма оценивания процесса авторегрессии со случайными коэффициентами, обеспечивающего заданную среднеквадратическую точность, разработка последовательной процедуры идентификации модели авторегрессии со случайными коэффициентами и управляющими воздействиями, построение последовательного алгоритма классификации процессов авторегрессии со случайными коэффициентами с заданной вероятностью правильного решения, исследование асимптотических свойств среднего времени оценивания и классификации, исследование асимптотических свойств статистик, по которым выносится решение о принятии гипотезы, экспериментальное исследование алгоритмов и сравнение с известными процедурами

Методы исследования. Для решения поставленных задач применялись методы теории вероятностей, последовательного анализа, численные методы, а также компьютерные эксперименты

Научная новизна. Результаты выносимые на защиту. Научная новизна работы состоит в разработке алгоритмов гарантированной идентификации и классификации процессов авторегрессии со случайными коэффициентами Результаты выносимые на защиту

1) Последовательная одноэтапная процедура оценивания линейных параметров процесса авторегрессии со случайными коэффициентами, которая обеспечивает гарантированное в среднеквадратическом смысле оценивание неизвестных параметров

2) Асимптотика среднего времени оценивания, верхняя граница среднеквадратического уклонения оценки

3) Последовательный одноэтапный алгоритм идентификации параметров процесса авторегрессии со случайными коэффициентами при наличии управляющих воздействий, который дает возможность оценить неизвестные параметры динамики и коэффициенты при управляющих воздействиях с заданной среднеквадратической точностью.

4) Последовательная процедура классификации процесса авторегрессии со случайными коэффициентами с гарантированной вероятностью правильного решения

5) Асимптотика среднего времени классификации и асимптотические

свойства основных статистик в решающей процедуре классификации

6) Формула для спектральной плотности стационарного процесса авторегрессии со случайными коэффициентами.

Теоретическая ценность работы состоит в аналитическом решении задачи оценивания параметров авторегрессии со случайными коэффициентами с гарантированной среднеквадратической точностью, а также в аналитическом решении задачи классификации процессов такого типа с гарантированной вероятностью правильного решения.

Практическое значение работы. Полученные алгоритмы последовательного оценивания и классификации можно использовать в задачах обработки временных рядов, в задачах управления, в задачах компьютерной надежности, в физической медицине для расчета накопления в организме и вывода из него тяжелых элементов, а также в финансовой математике для описания стоимостей акций.

Апробация работы. Работа выполнялась в рамках научно-исследовательской работы при финансовой поддержке Российского фонда фундаментальных исследований. Основные положения диссертации докладывались и обсуждались на кафедре Высшей математики и математического моделирования ТГУ, а также на следующих конференциях:

- на Всероссийской научной конференции молодых ученых "Наука. Технологии. Инновации" в г. Новосибирске, НГТУ, декабрь 2005г,

- на Международной конференции студентов и молодых ученых "Перспективы развития фундаментальных наук" в г. Томске, ТПУ, май 2007г,

на четырнадцатой Всероссийской школе-коллоквиуме по стохастическим методам, восьмом Всероссийском симпозиуме по прикладной и промышленной математике в г. Сочи - Адлер, сентябрь -октябрь 2007г.

Публикации. По теме диссертации опубликовано 6 печатных работ

Структура и объем диссертации. Диссертация состоит из введения, 4-х глав, заключения, списка использованной литературы и 4-х приложений Работа содержит 133 страницы машинописного текста, 15 рисунков, 10 таблиц. Список литературы включает 55 наименований.

Краткое содержание диссертации

Во введении раскрывается актуальность исследуемой проблемы, приводится обзор известных результатов, формулируется цель и

содержание работы, обосновывается ее теоретическая и практическая ценность

В работе рассматривается модель авторегрессии со случайными коэффициентами

Хк = а,1(к)хк-1 + .. - + ар(к)хи~Р + <70£/ь, (1)

аг{к) = аг +<тгг}г{к), к — 1,2,.. ,

где {efe}, {Vi(k)}, г = 1,р — независимые последовательности независимых одинаково распределенных (нор) случайных величин с нулевым средним и единичной дисперсией Во введении создаются предпосылки для последовательного анализа этого процесса

В связи с актуальностью предлагаемой модели желательно иметь возможность оценить для нее спектральную плотность. Наличие точного выражения для этой функции позволило бы провести такую оценку Точное выражение для спектра приводится во введении и имеет следующий вид

где

m - *

< DaVp2 - Da)"1 >31 X

j=l

(< etXA(Ip - e'M)"1 >!, + < e-^A(Ip - e^A)'1 >Xj) +

+ < éxA{Ip - e A) >11 + < e A(IP - é + < Da(Ip2 - Da)'1 >n +1],

-t\

A)'1 >u +

(v! ' 0*)' Da=A&A + C, C = ETk®Tk,

Tk =

(... <7p17p(k)\ 0 . 0

\ o

0

1Р-1 — единичная матрица порядка р — 1, А <8> В — \аг:1В] обозначает кронекерово произведение квадратных матриц Аж В, < А >гз — элемент г,3 матрицы А

с мультипликативными помехами без мультипликативных помех

0.5 т

О

-2

О

2

X

Рис. 1. Спектральная плотность

На рисунке 1 приведены графики спектральной плотности процесса авторегрессии со случайными коэффициентами третьего порядка для случаев наличия и отсутствия мультипликативных помех при о.\ = 0,3, ач — —0,3, аз = 0,3. При наличии мультипликативных помех их уровень был следующий: — <72 = — 0,2.

В случае отсутствия мультипликативных помех процесс сводится к авторегрессии с постоянными коэффициентами, а его спектральная плотность приобретает известный вид:

где Q(z) = 1 — aiz — ... — apzp.

В первой главе решается задача построения процедуры последовательного оценивания параметров процесса авторегрессии со случайными коэффициентами (1) с гарантированной среднеквадратической точностью.

В модели (1) вектор начальных воздействий Хо = (хо , Х — 1, . . . , X— p+i)' с -ЕЦ-Xoll2 < +оо не зависит от последовательностей {e/t}, {r]i{k)}-, штрих обозначает транспонирование. Параметры сто > 0, o-j > 0 являются постоянными. Вектор параметров в = (ах,..., ар)' неизвестен и должен быть оценен по наблюдениям процесса {хк}- В случай гауссовских шумов е*, {г/, (/с)} модель (1) допускает следующее эквивалентное представление в виде процесса авторегрессии с ARCH

шумами (авторегрессия с условной гетероскедастичностью):

хк = агХк-г + + архк-р + + °1х\-1 + • • +

где к — 1,2, , {ёк)к>1 последовательность независимых стандартных гауссовских случайных величин

Построение процедуры последовательного оценивания происходит следующим образом Процесс (1) преобразуется к виду

хк = е'Хк-1 + Фк,

где Хк-\ — {хк-1, ,хк-ру, фк = ^гГ]Лк)хк-г + ^к Отсюда

находится оценка МНК для в по наблюдениям . , хп)

в(п) = И'1 '¿Хк-1хк, Мп = ^2хк-1х'к_1,

(2)

к=1

А=1

где п > п0, п0 = т£{/ > 1, Лтт(Мг) > 0}, Ат1П(.А) обозначает минимальное собственное значение матрицы А

Для оценки МНК (2) найти среднеквадратическую точность не представляется возможным из-за наличия случайной обратной матрицы М'1 в формуле (2) Поэтому используется последовательный вариант оценки МНК. Для каждого к > 0 вводится момент остановки

"(Л)=1п£{«>п0:||М-а||1/а<Л-1};

(3)

где ||Л||2 = ХхАА' Определяется последовательная оценка 9* (К) вектора неизвестных параметров $ по формулам

т(Л) т(Л)

Г {К) = М-{1} £ /ЗкХк_1Хк, Мт(н) = ]Г Аад;.!, (4) к=1 к-1

где Рк = 1, если к < т(Н) и /Зк — «(/г.), если /г = г (Л), множитель а(Л) определяется из уравнения

I к=1 ;

1/2

При изучении свойств последовательного плана (т(к),9*(Н)) оценивания параметров процесса (1) были введены условия на распределения шумов {£&} и {%(&)} и параметры а%, аг, г — 1,р: а) все корни характеристического уравнения

a\z

•p-i

... — ар ~ О

лежат внутри единичного круга,

а') все собственные значения матрицы Da по модулю меньше 1,

b) распределение £k имеет положительную плотность (относительно меры Лебега) в интервале [—а, а] для некоторого а > 0;

c) JEllXoll8 < ОО, ЕеI < оо, Ег)1 (1) < оо,

d) все собственные значения матрицы E$Afs меньше единицы по модулю, где А\ — А +

e) Ы0) = З6 (Ej>0 ll^l!2)4 IIsII4 < 1, s = diag(<r?, ,oj)i

f) t2(0) = ka[6\\A'A^2 Ел>0 (А'®А'У{А®АУ\

g) altxS < 1, где 5 - £,>o A>B0(A'¥,

+ о*(\Етй(1) a* = max cr,

3| + 3)] < 1, где кА =

Ji>

B0 =

/ 1 0

0 0

0\ 0

\ о 0

0 /

Выполняется следующее свойство выборочной информационной матрицы Мп

Предложение 1.1. Пусть для процесса (1) выполнены условие с), а такоке условие а), если аг = 0, г = 1 ,р, и условия а'), Ь), й), если о-! + . + <7р > 0. Тогда с вероятностью единица существует предел

1 М» ТР

ш -= Е,

п-+ оо П

где F удовлетворяет уравнению

F - AFA' = (ctq + trEFJIIiiA,!

(5)

Также если условие а') выполняется, матрица Е положительно определена Установленные свойства матриц Мп и Е гарантируют конечность п. н. процедуры оценивания

Изучено асимптотическое поведение средней длительности процедуры (3), (4) Через Ло обозначим область устойчивости процесса (1) при отсутствии мультипликативных помех (01 = .. = ар = 0), т.е

Ло = {9 € Жр : выполнено условие а)},

а через Л^ обозначим ту часть параметрической области устойчивости процесса (1), в которой выполняются условия а'), <!), е), т.е.

Ла = {в € Ер • [Хш^ЕвАг ® Аг)\ < 1, |Лтах(£9<8)| < 1, (б)

Ь(в) <1},

где Лтах (А) — наибольшее по модулю собственное значение матрицы А. При о 1 = . . = (7Р = 0, Лст = Ло. Асимптотическое поведение средней длительности процедуры (3), (4) дается следующей теоремой

Теорема 1.1. Пусть для процесса (1) выполняются условие Ь), если ах + • + сгр > 0, а также условие с), и К — компакт из области Аа Тогда

bm sup

h-*оо веК

= 0,

где F определяется в (5).

Найдена верхняя граница для среднеквадратической точности оценки.

Теорема 1.2. Пусть выполнены условие с) и условие Ь), если о\ + .. + сгр > 0, ив области определяемой в (6), выполняются условия «Л })' ^г(^) < 1 ид). Пусть также распределения помех £fc и Т)t(k) в (1) симметричны. Тогда для любого компакта К €

sup EsW(h) - в\\* < +

век h

Здесь о(1) —¥ 0 при h —оо,

Во второй главе решалась задача построения процедуры гарантированного последовательного оценивания параметров процесса авторегрессии со случайными коэффициентами и управляющими воздействиями

хк — ах{к)хк-1 + - +ар{к)хк-р + Ъх{к)ик^х+ ■ +Ьд(к)ик-я+<т0ек, (7) аг(к) — аг + агт]г(к), Ь3(к) = Ь3 + А3у3(к), к = 1,2, ,

где {е^}, {г)г(к)}, г = 17р, и {7*(*0}> 3 - — независимые

последовательности н.о.р. случайных величин с нулевым средним и единичной дисперсией; — детерминированная последовательность входных воздействий, вектор начальных воздействий Хц — р+1) с -Е||Х0||2 < +00 не зависит от последовательностей "о > 0, о% > О, А} > 0 — постоянные параметры. При отсутствии управляющих воздействий система (7) приобретает вид (1) Вектор параметров в — (ах,. ,ар,Ъх, ,Ьд)' неизвестен и должен быть оценен по наблюдениям процесса {х^}

Оценка вектора неизвестных параметров $ — («1, ,ар,Ь\,...,Ьч)' строилась следующим образом

т(Л) т(Л)

в*(к) = Мт"(1) Е РкГк-хХк, МТ(К) = £&П-1П-1. (8)

к=1

к=1

где

О)

т(Л) = ш£ {п > п0 : ||М"2||1/2 < Л"1}, П-х = (^-1,^-1)'. К-1 =

П

Мп =

к=1

п0 = ш£{{ > 1; Атш(Мг) > 0}, [Зк = 1, если к < т(К) и /3* = а(К), если к = т(К), множитель а{К) определяется из уравнения

(V -2 !/2

т(Л)-1

х; П-1П_1+О(Л)Ут(л)_1Ут'(л)_1

При изучении свойств последовательного плана (т(К),в*(Н)) оценивания параметров в случае наличия управления были введены

дополнительные условия на распределения шумов {£&}, {%(&)}, {7г(^)} и на входные воздействия, с') Я718(1) < °о,

е') *а(6») = З373 (Ел>оРл112)4|1е114 < гДе 2 определяется в условии е);

1

Здесь 1Ц = \\А'А\\^\\В'В\\з/\

В =

(Ьг О

Vo

С — константа из условия h), Ь) ||£4||2<С<оо,А; = 0,1, i)

+ sup l^WuUi-L =о(п~^),

V J »с* V J

где n —> oo, Q — положительно определенная матрица, Wk = E?=o^ AlBUk-i-i, К — любой компакт из области параметров, удовлетворяющих условию а)

Исследовалось асимптотическое поведение выборочной информационной матрицы Мп

Предложение 2.1. Пусть для процесса (7) выполнены условия а), с), с'), h) и г), а также условия а'), Ь), d), если о\ + .. + <тр > 0. Тогда с вероятностью единица существует предел

. М„ (Fx L\ hm -— F, F = [ j, n),

п-э-оо n

(10)

причем Fi — матрица, удовлетворяющая уравнению

Fx - AFxA' = + ALB' + BL'Ä>

где <p = <rg+ b'Qb + trEFj + £?=1 < Q >„ Д?, Ь=(Ь1; , bg)

Предельная матрица F естественно должна удовлетворять условию положительной определенности.

.)) F > 0.

Это требование является по существу ограничением на уровень управляющих воздействий ик в уравнении (7).

Установленное свойство матрицы М„, а также условие з) гарантируют конечность п н процедуры оценивания.

Рассматривалось асимптотическое поведение средней длительности процедуры (8), (9) Обозначим через Ло область устойчивости процесса (7) с ограничением ,]) при отсутствии мультипликативных помех (ах = . = <тр = 0), т.е.

Л0 = {в € Мр+? вьшолнены условия а) и.))}, (11)

а через Аа обозначим ту часть параметрической области устойчивости процесса (7), в которой выполняются условия а'), <1), е') и]), те

Аст - {в € Кр+9 |А шах ^Ах <9 Л1>| < 1, |А шах

1х{в) < 1, <1е^>0}. (12)

В следующей теореме дано асимптотическое поведение средней длительности процедуры (8), (9).

Теорема 2.1. Пусть для процесса (7) выполняются условие Ь), если <71+. .+сгр > 0, а также условия с),с'),к), г) и К — компакт, из области Ад- Тогда

Ее^-ЦР-Ц^ = 0,

hm sup

h-+oogeK

где F определяется в (10)

Была получена верхняя граница для среднеквадратической точности оценки (8), (9). Сначала рассматривался случай отсутствия мультипликативных помех при параметрах ак

Теорема 2.2. Пусть а\ — .. = ар — 0 и выполнены условия с),с'), h), г) Тогда для любого компакта К € Ло

sup Ee\\9*(h) - в\\2 < ^(1 + о(1)), век п

где о(1) 0 при h оо, ск = s\xpeeK ф0(6), = (<?о +

CA^H-F^H^C + trFi), А, = тах^ А,, Л0 определяется в (11)

При одновременном действии случайных возмущений на параметры динамики а*; и на коэффициенты при управлении Ь3, граница для

среднеквадратической точности оценки зависит от большего числа параметров и становится более сложной.

Теорема 2.3. Пусть <71+ . +ар> 0, выполнены условия Ь), с),с'), к), г) и, кроме того, в области Аа> определяемой в (12), выполняются условия а) и /). < 1 Пусть также распределения помех £к, и тг(к) в (7) симметричны. Тогда для любого компакта К £ Аа

5щ>Ев\\в*{Ь)-е\\2<?£{1 + о{\)), век п

где о(1) —» 0 при И оо, йк — + Ф^в)), функция ф\{&)

определяется формулой

фг{в) = Ц^-2!!1/2 (сгГЕЛ + г ^ [б(а2 + 102С + <7Д2)х

х (пил + trЛiíllЛ/) + (2 г0зС3/2 + бг01 С3/2 А2 + ба^С^^гАГгА' +1)+ +(50Ь1<?1/2 + 2А101С1/2О-1)%ХАР1А' + + 104С2 + Ъсг20С{102 + Д2)+

+ ш02А2с2 + д![|Е74(1) - 3! + 3]С2])

В третьей главе решается задача построения процедуры последовательной классификации процессов авторегрессии со случайными коэффициентами

Пусть относительно наблюдаемого процесса {ж&} имеется в различных статистических гипотез Н\,..., Н8, одна из которых истинна. Согласно гипотезе Нг, процесс {ж^} является процессом авторегрессии со случайными коэффициентами

хк = (а£> + а^ттхк-! + .. + (а« + а^г1р(к))хк_р + (13)

где к = 1,2,. , г — 1,з, — последовательность независимых

одинаково распределенных случайных величин с Ее к — 0, Ее\ = 1, > 0, {(г?1(А;),-. ,ЛР(к))'}к>г — независимая от {£*}*>!

последовательность независимых одинаково распределенных случайных векторов, компоненты которых также независимы, с Ет}г{к) = О, Ег)г(к)2 = 1, 1 < г < р Вектор начальных значений Хо = (жо, х-1,. , Х-р+х)' с Е$ ||-Хо||2 < +оо не зависит от последовательностей {е^}, {г]г(к)}, 1 < г < р Предполагается, что каждой гипотезе

Нг отвечают свои вектора параметров в^ = (а^, , а^) и а^ =

, ., сГр^), и вектора различаются как минимум по одной координате Задача состоит в том, чтобы по наблюдениям процесса хк построить процедуру классификации с заданной вероятностью правильного решения.

При фиксированной длительности наблюдений, стремящейся к бесконечности, свойства процедуры классификации исследовать не удается В неасимптотической же постановке, когда объем выборки конечен, задача классификации процессов (13) не изучена.

Для модели (13) предлагается одноэтапная последовательная процедура классификации процессов авторегрессии со случайными коэффициентами Процедура строится следующим образом. Вводятся статистики

1 г„(Л)

V» № = 77 £ ^ СО*'* (* - ^ " 3> (* ~ !)). (14)

п к=1

где

ВД) = о^хк + ... + а^хк-р+и - (2,(*) - Е3{к))В~\к),

Вч(к) = тах (^а^2 + Х<к1:гХк, ^/а^2 + Х'кХ3Хк^ , Ег = diag (о-[г)2,..., ст£г)2) ,

а<*>(М = { 1. если к < у аг1(к), если к = тг](Н)

Здесь Ту (Л) — моменты остановки, определяемые по формулам

т„(Л)=1п£|п»>1: (15)

аг] (К) находятся из уравнений

т„(Н)~ 1

£ К (к - (к -!)+(>») - 1)ВЪ (ъ (*) -1) = л-

к=1

По системе статистик tp4(h), 1 < i,j < s, выносится решение di об истинности гипотезы Hi, если для всех г ф I выполняются неравенства срг1 (h) < 1/2 В случае, когда указанное условие не выполняется ни для одной из гипотез, принимается решение ds. Общее число наблюдений составляет

r(h) = max тч (h)

Для изучения свойств процедуры классификации уравнение (13) представляется в векторном виде.

X, = А^Хк^ + , к = 1,2, ., (16)

где Хк-{хк, .,хк~р+1)', С£г) = {оо )£к,0,. -,0)',

= (аР+*Рт{к) ... 4г) + 4г)цр(к)\

к V Ip-i 0 )

Также вводятся следующие условия

1 < г < s

a) собственные значения матриц ЕА^ ® А^ по модулю меньше единицы;

b) 41} = . . = «то, а« = . = оЫ = а,

c) аг > 0, г — 1 ,р,

<1) плотность д(х) вектора (£1,171(1), . , ?7Р(1))' существует, всюду положительна и полунепрерывна снизу, т.е Ьтш^-и д(у) > д(х)

Для рассмотрения основных результатов по процедуре классификации потребуются обозначения

и' = ' № =^ -^уш** -0(г)).

О"о + Л0Ьло

2 = diag(o■2, , Стр), где Хп — стационарное решение (16), Е1 означает математическое ожидание при условии, что справедлива гипотеза Щ

Далее приводятся основные результаты по предложенной процедуре классификации.

Теорема 3.1. При условиях а), (1) и при истинности гипотезы Щ для всех /г > 0 процедура классификации (14), (15) обладает свойствами:

а) т(Н) < оо п. н ,

б) вероятность правильной классификации Рг(<й) удовлетворяет неравенству

где Pi обозначает распределение процесса при условии, что справедлива гипотеза Hi-

Теорема 3.2 При условиях a),b),c),d)

^ т(Л) 1

lim Er к ' ~

h-* оо h /С)1

где f(l) - ттг#;, /,

(О

гз

Теорема 3.3 При условиях теоремы 3 2 вектор статистик л/НФ^Н) = л/Л((рц(Н),. ■ является асимптотически

нормальным {при к —У оо) с нулевым вектором средних и ковариационной матрицей Т(1) с элементами

МО - (0{г) - в^УЩв^ - 0(0) тт(/(/> /(0-1)

В работе приведен алгоритм нахождения матрицы и к в случае, когда помехи имеют гауссовское распределение.

В четвертой главе приводятся результаты экспериментального исследования построенных алгоритмов идентификации и классификации

Для численного исследования свойств процедуры идентификации (3), (4) моделировался процесс второго порядка

(17)

где т)г (я.), — независимые гауссовские случайные величины с параметрами (0,1), = = 0. Изучались асимптотическое поведение средней длительности оценивания в последовательном плане (3), (4) и среднеквадратическая точность последовательной оценки в*{К). Также сравнивались выборочные стандартные отклонения последовательной оценки (3), (4) и оценки наименьших квадратов (2) При этом число наблюдений в непоследовательной процедуре бралось равным средней продожительности последовательной процедуры

В работе результаты моделирования представлены в таблицах и графиках

и

Рис. 2. Зависимости выборочных стандартных отклонений оценок от величины порога к

На рисунке 2 проиллюстрированы зависимости выборочных стандартных отклонений оценки в* (/г) и оценки МНК в(п) от величины порога Н при о\ — оъ — 0,1, ах = 0,1, а.2 = 0,5. На рисунке кривые этих зависимостей обозначены ЯП. Также на рисунке 2 для сравнения приведена зависимость теоретической верхней границы для стандартного отклонения оценки в*(К), которая получена в теореме 1.2, от величины порога /г. Как видно из рисунка, верхняя граница стандартного уклонения у/цза(в)1Н имеет приемлемое значение при величине порога К = 500 и выше. При этом несколько большее значение этой величины по сравнению с выборочным стандартным отклонением оценки в* (К) объясняется по - видимому тем, что граница справедлива для широкого класса распределений.

Основные выводы по результатам численного моделирования процедуры идентификации процесса (17) состоят в следующем.

1. Установлено, что асимптотика выборочного среднего времени оценивания удовлетворяет полученному теоретическому соотношению (см. теорему 1.1).

2. По результатам численного исследования видно, что теоретическая граница среднеквадратической точности в процедуре оценивания (3), (4), полученная в теореме 1.2, дает приемлемую оценку точности. При этом несколько большее значение этой границы по сравнению с выборочным стандартным уклонением оценки можно объяснить тем, что граница справедлива для широкого класса распределений.

3. Верхняя граница для среднеквадратического уклонения оценки (3), (4), определяемая теоремой 1 2, вполне удовлетворительна, если корни соответствующего характеристического уравнения находятся внутри единичного круга При приближении вектора параметров в к границе области устойчивости наблюдается рост верхней границы Это объясняется тем, что процесс (1) приближается к взрывному, что отражается на поведении как самого процесса, так и оценок его параметров.

4. Последовательные оценки МНК (3), (4) и непоследовательные оценки МНК (2) примерно одинаковы по точности При этом следует иметь в виду, что для последовательной оценки имеется теоретическая граница для среднеквадратической точности, которая позволяет контролировать точность оценки за счет выбора параметра процедуры, определяющего ее длительность, а для МНК с фиксированным числом наблюдений подобные оценки точности пока неизвестны.

Проводилось моделирование процесса авторегрессии со случайными коэффициентами и управляющими воздействиями (7) Цель моделирования заключалась в том, чтобы сравнить точности обычной оценки МНК и последовательной оценки МНК (8), (9). При этом установлено, что и в случае модели с управлением эти оценки примерно одинаковы по точности Однако для последовательной оценки МНК имеется теоретическая граница для среднеквадратической точности, определяемая теоремами 2 2, 2 3, а для обычной оценки МНК такая граница не известна

Также была экспериментально исследована процедура классификации (14), (15). Моделировался процесс авторегрессии со случайными коэффициентами второго порядка вида

хп = (0,5 + 0,1т]1(п))хп-1 + (0,4 + 0,1??2(п))а:„_2 +£„,

где г)г(п), еп — независимые стандартные гауссовские случайные величины; хо — х-1 = 0.

Цели моделирования состояли в том, чтобы исследовать время классификации т(Ь) при изменении различий между гипотезами, установить когда можно пользоваться асимптотическим соотношением для среднего времени классификации, полученным в теореме 3 2, определить число ошибок при классификации и сравнить это число с соответствующим теоретическим значением, согласно теореме 3 1

В работе результаты моделирования представлены в таблицах и графиках.

выборочное значение теоретическое значение

1600х

1201 & 801 40

0 400 800 1200 1600 2000 h

Рис. 3- Зависимости выборочного среднего числа наблюдений и соответствующего теоретического значения от величины порога h

На рисунке 3 проиллюстрированы зависимости выборочного среднего числа наблюдений т(Н), а также соответствующего теоретического значения /г//О (/(') определяется из теоремы 3.2) от величины порога h при различных значениях параметров. Из рисунка 3 видно, что выборочная средняя длительность процедуры близка к h//W.

Основные выводы по результатам численного моделирования процедуры классификации состоят в следующем.

1. С ростом вероятности правильной классификации и уменьшением различия между гипотезами время классификации возрастает.

2. Выборочное среднее число наблюдений близко к соответствующему теоретическому значению (см. теорему 3.2).

3. Число ошибок в предложенной процедуре классификации достаточно мало (примерно 1 на 1000 при Р* = 0,9 — заданной нижней границе для вероятности правильной классификации).

4. Оценка Р, является заниженной. Однако непоследовательные методы классификации не позволяют получить даже такую оценку. Кроме того, для оценки Р, можно использовать приближенную формулу, согласно теореме 3.3.

5. Причина эффективного различения алгоритмом классификации мало отличающихся гипотез в случае, когда истинные значения параметров лежат достаточно близко к границе области устойчивости, состоит в том, что даже небольшое изменение параметров приводит к значительному качественному изменению свойств процесса.

В заключении формулируются основные результаты диссертации, которые состоят в следующем.

1. Построен одноэтапный последовательный алгоритм оценив алия параметров процесса авторегрессии со случайными коэффициентами Найдена верхняя граница среднеквадратической точности, которая не зависит от распределения помех Эта граница позволяет определять необходимое число наблюдений для достижения заданной точности оценивания.

2. Разработана последовательная процедура идентификации модели авторегрессии со случайными коэффициентами и управляющими воздействиями Для нее также получена верхняя граница среднеквадратического уклонения оценки

3 Установлена сходимость в среднеквадратическом предложенной последовательной оценки к истинному значению вектора неизвестных параметров Эта сходимость равномерна по любому компакту из области устойчивости процесса.

4 Построен последовательный алгоритм классификации процессов авторегрессии со случайными коэффициентами с заданной вероятностью правильного решения Такой алгоритм позволяет определять число наблюдений, необходимое для того, чтобы классифицировать процесс правильно с заданной вероятностью

5 Исследованы асимптотические свойства среднего времени оценивания и классификации. Найдены асимптотические соотношения для этих характеристик

6 Исследованы асимптотические свойства статистик, по которым выносится решение о принятии гипотезы. Доказана асимптотическая нормальность вектора этих статистик. Такой результат позволяет приближенно оценить вероятность правильной классификации при заданном пороге.

7 Найден общий вид спектральной плотности стационарного процесса авторегрессии со случайными коэффициентами

8 Проведено экспериментальное исследование алгоритмов оценивания и их сравнение с известными процедурами по методу наименьших квадратов Моделирование подтвердило эффективность и преимущества предложенных процедур

9. Проведено численное моделирование процедуры классификации В результате экспериментального исследования подтвердилась эффективность предложенного алгоритма

Список публикаций по теме диссертации

1 Кашковский Д В Одноэталная процедура гарантированного оценивания параметров авторегрессии со случайными коэффициентами // Наука Технологии Инновации Материалы Всеросс науч конф молодых ученых. 08-11 декабря 2005. Новосибирск — Новосибирск-НГТУ - 2006. - Ч 1. - С 25-27

2 Кашковский Д В Последовательная идентификация параметров авторегрессии со случайными коэффициентами / / Обозрение прикладной и промышленной математики Четырнадцатая Всероссийская школа-коллоквиум по стохастическим методам. — 2007 — Т 14, вып 3. — С. 498-499

3 Кашковский Д В. Последовательная идентификация параметров авторегрессии со случайными коэффициентами // Вестник Томского гос ун-та. — 2006. — № 293 - С. 105-109

4. Кашковский Д В. Последовательное оценивание параметров авторегрессии со случайными коэффициентами / / Перспективы развития фундаментальных наук- Труды IV Междунар конф студентов и молодых ученых 15-18 мая 2007. Томск. — Томск. ТПУ — 2007 — С. 242-243

5 Кашковский Д В Последовательная процедура классификации процессов авторегрессии со случайными коэффициентами // Автометрия. — 2006 — Т 42, № 1. — С 77-87

6 Кашковский Д. В , Конев В. В. О последовательных оценках параметров авторегрессии со случайными коэффициентами / / Автометрия — 2008 — Т 44, № 1. — С 70-81

Тираж 100 Заказ № 183 Томский государственный университет систем управления и радиоэлектроники 634050, г Томск, пр Ленина, 40

ВВЕДЕНИЕ.

Глава 1. Последовательное оценивание параметров динамических систем со случайными коэффициентами.

1.1. Постановка задачи

1.2. Построение процедуры идентификации

1.3. Свойства последовательного плана идентификации

1.4. Выводы.

Глава 2. Последовательное оценивание параметров динамических систем со случайными коэффициентами при наличии управления

2.1. Постановка задачи

2.2. Построение процедуры идентификации

2.3. Свойства последовательного плана идентификации

2.4. Выводы.

Глава 3. Последовательная классификация динамических систем со случайными коэффициентами.

3.1. Постановка задачи.

3.2. Процедура классификации.

3.3. Свойства процедуры классификации.

3.4. Выводы

Глава 4. Экспериментальное исследование алгоритмов идентификации и классификации.

4.1. Моделирование алгоритма идентификации.

4.2. Моделирование процедуры идентификации при наличии управляющих воздействий.

4.3. Моделирование алгоритма классификации.

4.4. Выводы.

В настоящее время идентификация - необходимый и наиболее сложный этап при решении многих прикладных задач. Идентификация требуется для построения адекватных моделей, которые используются при проектировании сложных систем. Этим вызвана актуальность задачи идентификации. Построение моделей не исключает и возможности качественного анализа системы, отнесения ее к некоторому классу. Для этого необходимо решение задачи классификации.

До решения задач идентификации и классификации возникает проблема выбора структуры модели, адекватно описывающей заданную систему. Модель может точно воспроизводить исследуемую систему и вполне соответствовать ей. Но на практике это возможно лишь в редких случаях. Модели в основном используются для предсказания и управления. Поэтому модель должна быть настолько подробной, насколько необходимо для этих целей. Слишком подробная модель обычно усложняет анализ исходной системы, поскольку требует обработки большого объема данных. Поэтому в случае, когда модель имеет много параметров, необходимо провести ее качественное преобразование в сторону уменьшения сложности. Примером такого преобразования может быть переход от процесса авторегрессии высокого порядка к модели авторегрессии со случайными коэффициентами более низкого порядка: хк = ах(к)хк-1 + . + ар(к)хк-р + а0ек, аг(к) = щ + aiT]i(k), к = 1,2,., где {г*;}, {Vi(h)}> i — 1>Р - независимые последовательности независимых одинаково распределенных (н.о.р.) случайных величин с нулевым средним и единичной дисперсией. В данной работе рассматривается проблема идентификации такой модели с позиций последовательного анализа, который предполагает, что длительность оценивания зависит от текущей реализации процесса.

Другой причиной использования предлагаемой модели может быть реальное наличие возмущений параметров системы. Известно, что в задачах адаптивного управления, фильтрации и прогнозирования важное место занимают динамические системы, описываемые линейными стохастическими разностными уравнениями с неизвестными параметрами. Для идентификации линейных динамических систем разработаны различные эффективные методы: наименьших квадратов, максимального правдоподобия, стохастической аппроксимации и др. (см. например, [51]) При этом неизвестные параметры линейных систем, как правило, считаются постоянными во времени. В действительности они могут быть подвержены действию случайных возмущений и оставаться постоянными только в среднем. Естественно ожидать, что алгоритмы идентификации и классификации, не учитывающие действие указанных помех, могут приводить к неверным результатам. Поэтому возникает необходимость разработки алгоритмов идентификации и классификации в моделях со случайными параметрами.

Еще один аргумент в пользу модели со случайными коэффициентами - это возможности ее применения в прикладных задачах. При отсутствии мультипликативных помех r}i(k) рассматриваемая модель со случайными коэффициентами совпадает с авторегрессионной моделью. Процесс авторегрессии широко используется в анализе временных рядов, поскольку позволяет аппроксимировать любой стационарный процесс с непрерывной спектральной плотностью ([3]). Модель авторегрессии с аддитивными помехами е^ и мультипликативными помехами находит применение в задачах обработки временных рядов ([53]), в задачах управления ([47]), в задачах компьютерной надежности ([55]), в физической медицине для расчета накопления в организме тяжелых элементов (ртути, свинца) и их вывода естественным путем и путем радиоактивного распада ([54]).

В связи с актуальностью предлагаемой модели желательно иметь возможность оценить для нее спектральную плотность. Наличие точного выражения для этой функции позволило бы провести такую оценку. Точное выражение для спектра имеется, так как можно показать, что спектральная плотность имеет следующий вид (см. приложение А): дл) = у- £ < ад» - д.)-1 >п х

2 Р

2тг

U=i х (< eiXA(Ip - eiXA)~l >xj + < e~iXA(Ip - e"^)"1 >ъ) + + < eiXA(Ip - eiXA)~l >u + < e~iXA(Ip - e~iXA)~l >n + + < Da(Ip2 - Da)-1 >n +1] , где ti?7I(к) . (трг]р(к)\

Гк = О

V о . и /

Ip-1 - единичная матрица порядка р — 1, А ® В = [оу-В] обозначает кронекерово произведение квадратных матриц Л и В, < А - элемент г, j матрицы А. О О с мультипликативными помехами без мультипликативных помех X

Рис. Спектральная плотность

На рисунке приведены графики спектральной плотности процесса авторегрессии со случайными коэффициентами третьего порядка для случаев наличия и отсутствия мульипликативных помех при = 0,3, аг = —0,3, аз = 0,3. При наличии мультипликативных помех их уровень был следующий: ст\ = о"2 = <тз = 0,2.

В случае отсутствия мультипликативных помех процесс сводится к авторегрессии с постоянными коэффициентами, а его спектральная плотность приобретает известный вид (см. приложение А): fm ао 1 П ) 27Г \Q (eiA)|2' где Q(z) = 1 — a\z — . — apzp.

Для оценки спектральной плотности случайного процесса, а также для других целей часто бывает необходимо провести его идентификацию или классификацию. Рассмотрим, какие существуют подходы к идентификации и классификации стохастических динамических систем. Все методы оценивания и классификации можно разделить на два класса: непоследовательные и последовательные. В непоследовательных процедурах оценивания число наблюдений фиксировано. О точности таких оценок можно судить по их асимптотическим свойствам, при этом число наблюдений должно быть достаточно большим. Последовательные же методы характеризуются тем, что объем наблюдений в них не фиксируется заранее, а определяется в зависимости от требуемого качества решений в ходе наблюдений процесса. Последовательный подход допускает изучение свойств оценок, таких как среднее время идентификации и среднеквадратическое уклонение оценок. Эти определения позволяют непосредственно перейти к формулированию целей данной работы.

Цели диссертации:

1. построить одноэтапный последовательный алгоритм оценивания процесса авторегрессии со случайными коэффициентами, обеспечивающий заданную среднеквадратическую точность;

2. разработать последовательную процедуру идентификации модели авторегрессии со случайными коэффициентами и управляющими воздействиями;

3. построить последовательный алгоритм классификации процессов авторегрессии со случайными коэффициентами с заданной вероятностью правильного решения;

4. исследовать асимптотические свойства среднего времени оценивания и классификации;

5. исследовать асимптотические свойства статистик, по которым выносится решение о принятии гипотезы;

6. провести экспериментальное исследование алгоритмов и сравнение с известными процедурами.

Рассмотрим, какие результаты были получены в областях идентификации и классификации систем. Предлагаемый ниже обзор непоследовательных и последовательных методов не претендует на исчерпывающее исследование и ограничивается, в основном, моделями, которые близки к изучаемой.

Непоследовательные методы идентификации стохастических динамических систем

Проблеме непоследовательного оценивания параметров динамических систем, описываемых стохастическими разностными и стохастическими дифференциальными уравнениями, посвящена обширная литература. Наиболее распространенными методами оценивания являются метод наименьших квадратов (МНК) и метод максимального правдоподобия. Остановимся на этих моделях и свойствах оценок параметров подробнее.

В [3] для линейной авторегрессионной модели с постоянными параметрами, детерминированными входами и гауссовскими шумами предложена оценка по методу максимального правдоподобия. Оценка параметров определяется из условия максимума условной плотности распределения шумов при заданных начальных значениях процесса, которая совпадает с безусловной в случае шумов, независимых от начальной выборки. Решение такой задачи на максимум сводится к решению задачи на минимум суммы квадратов невязок, то есть к обычной задаче наименьших квадратов. В указанной работе исследуются асимптотические свойства полученной оценки. Доказывается состоятельность оценки линейных параметров и оценки дисперсии шумов. Также доказана асимптотическая нормальность оценки линейных параметров и оценки среднего для случая когда оно неизвестно.

В [26] построены оценки условного максимального правдоподобия для авторегрессии с входными воздействиями, нелинейным выходом, детерминированными трендами и гауссовскими шумами. Учитывая, что для таких моделей расчет оценок по методу максимального правдоподобия на основе полной информации является сложной задачей даже для стационарных процессов, предлагается использовать оценки условного максимального правдоподобия. Оцениваются как линейные параметры, так и дисперсия шума. Доказывается состоятельность таких оценок, не привлекая предположения о нормальности шумов. Для математического ожидания и дисперсии оценки линейных параметров получены асимптотические выражения при тех же ослабленных условиях. Доказано, что дисперсия оценки линейных параметров асимптотически равна нижней границе в неравенстве Крамера - Рао, и оценка линейных параметров имеет асимптотически минимальную дисперсию. Доказано, что условная плотность оценки сходится к плотности нормального распределения, дисперсия которого также найдена. Построены доверительные интервалы для оценки условного максимального правдоподобия.

В [35] исследуется состоятельность и асимптотическая нормальность оценок по методу наименьших квадратов для класса линейных моделей с дискретным временем вида y(t) = G(q,e)u(t) + H(q,e)e(t), где e(t) - помехи, q - оператор сдвига: qu(t) = u(t + 1), в - параметр, подлежащий оценке.

Рассмотрим некоторые примеры идентификации, различных систем методами, которые основаны на минимизации функционала качества оценивания, на построении информационных множеств или на иных подходах.

В [2] приводится обзор основных методов оценивания параметров процессов типа авторегрессии-скользящего среднего. Рассматриваются метод автокорреляций, МНК, метод максимального правдоподобия, методы ошибки предсказания, робастные методы, а также оценки параметров при наличии шумов наблюдения. Метод автокорреляций основан на оценке'параметров , с помощью выборочных значений автокорреляционной функции. Сюда относятся оценки Юла - Уокера, которые получаются заменой теоретических значений автокорреляций их выборочными значениями. Чтобы построить оценки Юла - Уокера для авторегрессии р + 1 порядка (АР(р + 1)) по оценкам параметров процесса АР(р), подогнанного к тому же временному ряду, используется рекуррентный алгоритм Левинсона - Дарбина. Для процессов авторегрессии-скользящего среднего также имеется способ оценки параметров методом автокорреляций. Отмечено, что метод наименьших квадратов позволяет получить и асимптотически нормальные оценки для устойчивого процесса авторегрессии в случае, когда существуют конечные моменты распределений шумов вплоть до четвертого порядка. МНК-оценки также можно получить из рекуррентных соотношений. Приводятся подходы к оценке по методу МНК процессов авторегрессии-скользящего среднего. Некоторые из них дают состоятельные и асимптотически эффективные оценки. Отмечено, что метод максимального правдоподобия во многих случаях дает состоятельные, асимптотически нормальные и асимптотически эффективные оценки. Рассмотрены подходы вычисления точной функции правдоподобия. В случае, когда нет априорной информации об условных плотностях ошибок предсказания значений ряда, через которые можно выразить функцию правдоподобия, используются методы ошибки предсказания. В этих методах минимизируется некоторый функционал от ошибок предсказания на один шаг. Рассматриваются алгоритмы минимизации указанного функционала. Получаемые оценки являются состоятельными и асимптотически нормальными. Отмечено, что робастные методы используются для получения хороших оценок, когда не имеется полной информации для построения оптимальных оценок. Кроме того, законы распределения могут отличаться от предполагаемых, что приводит к ухудшению качества оценивания не робастными методами. Подробный обзор робастных оценок приводится также в [17]. В [2] рассматриваются подходы к оцениванию параметров процессов авторегрессии-скользящего среднего в случае наличия шумов в наблюдениях. При этом используются модифицированные оценки МНК, в том числе рекуррентные. В случае процесса авторегрессии-скользящего среднего, искаженного белым шумом, вычисляется функция правдоподобия с применением рекуррентных уравнений Калмана.

В [33] изучается вопрос гарантированной идентификации билинейных систем q(k) = (P(k)+Z(k))c + r1(k), где с - идентифицируемый вектор, Е(к), т](к) - помехи, {Р(к)}, {q(k)} - измеряемые матричная входная и векторная выходная последовательности. Построены информационные функции, приводящие решение рассматриваемых задач к виду информационных псевдоэллипсоидальных множеств. Определяется, когда возможен переход псевдоэллипсоидальных оценок в эллипсоидальные. Получено неравенство, определяющее границу, по одну сторону которой информационные свойства билинейных систем не отличаются от свойств линейных систем, а по другую - начинают обладать свойствами характерными для нелинейных систем. Отдельно рассмотрен вопрос идентификации системы второго порядка.

В [16] предложен метод идентификации детерминированных динамических систем с непрерывным временем по наблюдениям в дискретные моменты времени при наличии случайных ошибок измерений. Задача определения параметров предложенной модели является некорректно поставленной. Так как характеристики точности коэффициентов уравнений для функционала качества идентификации заранее не известны, то построение регуляризирующего оператора затруднено. Поэтому использовалось вложение итерационной процедуры оценивания параметров в процедуру метода аналитического продолжения по параметру.

В [39] рассмотрена задача минимаксного оценивания многомерной линейной неопределенно-стохастической модели наблюдения с двумя векторами параметров, в которой часть компонент первого вектора параметров является неслучайными величинами, а другая часть - случайными с неизвестными законами распределения. Среднее и ковариация второго вектора лежат в известных областях. Приведен общий вид минимаксного оператора оценивания, а также условия, при которых решение двойственной задачи однозначно определяет минимаксный оцениватель.

В [6] изучается вопрос оптимального оценивания в минимаксном смысле случайных элементов со значениями в сепарабельных гильбертовых пространствах. Так же, как и в [39], вероятностные характеристики параметров, входящих в уравнения для наблюдаемых и подлежащих оцениванию элементов, лишь частично известны. В класс допустимых оценивателей входят все пределы в среднеквадратическом смысле последовательностей ограниченных линейных преобразований от наблюдений. Получены условия существования минимаксной, оценки и сама минимаксная оценка компоненты случайного элемента, подлежащей оцениванию. Найдены необходимые и достаточные условия того, чтобы оценка была минимаксной.

В [34] рассматривается задача идентификации непрерывных стохастических систем, заданных системами линейных стохастических дифференциальных уравнений, по наблюдениям с помехами. Предполагается, что эти системы в отсутствии ошибок измерения и возмущений наблюдаемы. Априорная информация о корреляционных характеристиках возмущений и ошибок измерений неполна. Оценка полезного сигнала ищется в классе линейных функционалов. Найдена точная верхняя грань дисперсии ошибки оценивания. Полученная оценка минимизирует значение среднеквадратической ошибки при наихудшем поведении ошибок измерений и возмущений.

В [11] исследуется проблема идентификации вектора параметров в* линейной регрессии:

Уп = v'tfln + vn, в^ = в*+ w„, п = 1,2,., где vn - аддитивные помехи и wn - мультипликативные помехи, ipn - вектор входов. Мультипликативные помехи должны быть независимы между собой и от вектора входов. Аддитивные помехи могут быть зависимыми между собой. Входы представляют собой последовательность случайных величин с ограниченными математическими ожиданиями, независимых как между собой, так и от шумов. Также накладываются некоторые условия на распределение помех. Доказана состоятельность оценок по методу стохастической аппроксимации. Для оценок по этому методу получена верхняя граница среднеквадратического уклонения. Доказана состоятельность оценок по методу наименьших квадратов.

В [5] рассматривается задача оценивания стохастических динамических объектов класса Гаммерштейна. В таких объектах отражаются нелинейные динамические взаимосвязи между входом и выходом, а также внутренняя структура связей каждого входа. Вход объекта исследования - X (к) = (Xi(/:),., Хр(к))', выход - Y(k). Модель приводится к виду линейной регрессии, где на входе стоит вектор непараметрических оценок взаимно регрессионных функций выходного процесса Y(k) от координат входного процесса Xj(k + 1 — г) и авторегрессионных функций Xj(k) относительно Xj(k + 1 — г). При некоторых условиях на оценки регрессионных и авторегрессионных функций, параметры модели, распределения помех, а также функцию потерь имеет место сильная состоятельность оценки, полученной с помощью рекуррентного варианта алгоритма Ньютона - Рафсона. Для оценки на основе усредненного метода наименьших квадратов доказана также сильная состоятельность при выполнении некоторых условий на распределения помех и входную последовательность линейной регрессионной модели объекта исследования.

В [32] исследуется проблема идентификации нелинейной непрерывной нестационарной системы по зашумленным наблюдениям в дискретные моменты времени. Оценка параметров модели получается с помощью рекуррентного алгоритма из условий, минимизирующих функционал в частотной области. Этот функционал содержит дискретное преобразование Фурье невязки между наблюдением и прогнозом.

В [8] рассматривается задача пассивной и активной идентификации статического объекта с ограниченной помехой и наличием управления. Оценки параметра определяются рекуррентной процедурой "зона нечувствительности". Доказана сильная состоятельность оценки при условиях замкнутости объекта стабилизирующей обратной связью с фиксированными настройками регулятора и рандомизирующим управление тестовым воздействием, независимым относительно возмущений в объекте.

В [38] исследуется проблема асимптотически минимаксного оценивания непрерывной системы по наблюдениям в дискретные моменты времени в случае, когда ковариационная функция помехи неизвестна. При некоторых условиях на уравнения модели доказана асимптотическая минимаксность предложенной оценки. Получен итерационный алгоритм вычисления минимаксной оценки и доказана его сходимость.

В [41] решается задача оценивания параметров и ковариаций шумов модели линейной регрессии. Оценка параметров производится после принятия решения о классе моделей, адекватном наблюдениям, путем проверки статистической гипотезы. Совместная оценка линейных параметров и ковариаций шумов представляет собой достаточную статистику для семейства плотностей, характеризующих статистическую модель. Найдена полная достаточная статистика для того же семейства. Оценка ковариационной матрицы является функцией от этой статистики. Оценки линейных параметров и ковариаций шумов модели равномерно оптимальные и несмещенные.

В [18| исследуется проблема определения структуры модели динамической системы но частоте ограниченных невязок. Ограниченная невязка представляет собой расстояние между экспериментальным значением выходной переменной системы и ее оценкой в заданный момент времени, полученной по построенной модели системы. Рассматриваются частоты событий, заключающихся в том, что это расстояние ограниченно сверху. Частота ограниченных невязок применяется в качестве критерия для определения порядка линейной модели со входами и выходами. Для предлагаемого алгоритма используется оценка по методу МНК. Найден способ определения верхней границы невязок и нижней границы частоты невязок для использования их в критерии. Предложен алгоритм преобразования ковариационных матриц оценок коэффициентов моделей динамических систем при переходе от математической модели одной структуры к модели другой структуры. 1

В [27| решается задача оценивания неизвестной функции по наблюдениям с помехами. Распределение ошибок наблюдений принадлежит классу загрязненных и считается известным. Такая модель предполагает, что наряду с типичными наблюдениями присутствуют выбросы. За основу берется непараметрическая оценка регрессии Надарая-Ватсона. Используется метод цензурирования выборки, то есть удаления выбросов. В качестве показателя годности используются относительные невязки. Предлагаются подходы к определению допустимого отклонения относительных невязок.

В [37] рассматривается задача нахождения корня уравнения регрессии и максимума неизвестной функции при наличии ошибок измерений для случаев непрерывного и дискретного времени. Процедуры решения указанных задач - процедура Роббинса-Монро и процедура Кифера-Вольфовица относятся к методам стохастической аппроксимации. Рассмотренные процедуры применяются для рекуррентного оценивания параметра распределения при отсутствии аириорной информации об оцениваемом параметре. В случае независимых наблюдений и дискретного времени доказана состоятельность в сильном смысле рекуррентной оценки параметра, а также ее асимптотическая нормальность. Для одномерного параметра доказана также и асимптотическая эффективность. Для случая непрерывного времени, многомерного параметра и наблюдений, зависимых от времени, доказана асимптотическая несмещенность рекуррентной оценки и ее асимптотическая эффективность в сильном смысле. Рассмотрен случай наличия управляющего параметра.

В [36] исследуется проблема оценивания параметров линейных динамических систем с мультипликативной бернуллиевской помехой, а также рассматривается задача идентификации параметров линейных динамических систем по наблюдениям с помехами. В последнем случае при наблюдениях процесса присутствует также мультипликативная бернуллиевская помеха. В обоих случаях доказаны сходимость оценки МНК к истинному значению параметров с вероятностью 1, а также сходимость почти наверное оценки параметра в бернуллиевском распределении.

Как можно отметить, предлагаются разные подходы к идентификации, такие как метод максимального правдоподобия, метод наименьших квадратов, метод построения информационных множеств, метод минимаксного оценивания, метод стохастической аппроксимации, метод определения структуры модели и другие. При этом налагаются различные требования на распределения помех, например независимость шумов между собой, независимость шумов от входов, требование гауссовости шумов в методе максимального правдоподобия. Перечисленные методы предлагают состоятельные и даже асимптотически нормальные оценки, однако для малых и умеренных объемов выборок точность оценивания не исследована.

Последовательные методы идентификации и классификации стохастических динамических систем

Возможности последовательного оценивания проявляются уже на процессах авторегрессии первого порядка

Xi — 6Xi-1 i > 1.

Авторы [50] ввели последовательную оценку МНК заменяющую обычную оценку МНК. В предложенной оценке фиксированный объем выборки N заменяется моментом .остановки r(h). Авторы доказали, что такая последовательная оценка асимптотически нормально распределена равномерно при в 6 [—1,1], в отличие от обычной оценки МНК, сходимость которой к нормальному закону ухудшается при приближении в к границам интервала (—1,1). На границах же этого интервала предельное распределение обычной оценки МНК не является нормальным.

Ранее в работе [7] была предложена другая точечная последовательная оценка являющаяся модификацией оценки МНК с использованием специального правила остановки наблюдений и имеющая корректирующий множитель (3(h). Показано, что такая оценка является несмещенной. Получена равномерная по параметру верхняя граница для среднеквадратического уклонения оценки, то есть оценка является гарантированной в том смысле, что заранее можно указать длительность наблюдений процесса, при которой достигается требуемая точность.

Последовательные схемы выборок, описанные выше, не применялись при построении гарантированных оценок на основе МНК для процессов порядка выше первого. Дело в том, что в скалярном случае при использовании правила остановки, основанном на наблюдаемой информации по Фишеру и корректирующем множителе, знаменатель в последовательной оценке МНК обращается в константу, - и это позволяет контролировать ее-среднеквадратическую точность. В случае многих параметров не было известно правило остановки, которое позволяет контролировать в оценке матрицу, обратную к выборочной информационной матрице. Поэтому задачи гарантированной идентификации параметров в AR(p) и более сложных линейных моделях требовали дополнительных ограничений на структуру модели или решались в два этапа, что требовало несколько оценок наименьших квадратов.

Рассмотрим подробнее случай многих параметров. В [7] исследуется п-мерный случайный процесс {%t}, определяемый рекуррентным уравнением. Предполагается некоторое ограничение на структуру и свойства матричных функций, входящих в уравнение процесса. Оценка вектора параметров процесса Л строится покоординатно, и для каждой координаты вводится свой момент остановки. Результат работы состоит в том, что оценка Л несмещенная и ее среднеквадратическое уклонение ограничено сверху заданной величиной при некоторых условиях на матричные функции, входящие в уравнение процесса.

МНК

В работе Воробейчикова С. Э., Конева В. В. ([10j), в отличие от [7], параметр Л, подлежащий оценке, является случайной, независимой от шумов величиной. Ограничения на структуру и свойства матричных функций, входящих в уравнение процесса, значительно ослаблены. Оценка параметров строится не покоординатно, а для всего вектора. Построенная оценка является несмещенной, и ее условная ковариация обратно пропорциональна порогу. Кроме того, в работе отдельно рассмотрен случай, когда параметр Л удовлетворяет некоторой системе линейных уравнений.

Ограничения, наложенные в работах, отмеченных выше, снимаются при двухэтапном оценивании параметров процесса. В работе Конева В. В., Пергаменщикова С. М. ([30]) предложена процедура двухэтапного последовательного оценивания линейного s-мерного случайного процесса с постоянными коэффициентами. Предполагается, что шумы в разные моменты времени не коррелированны. Матрица ковариаций шумов за один и тот же момент времени постоянна во времени. Задача оценивания параметров этого процесса свелась к рассмотрению скалярного случая xk+l = Xiax(k) + . + Хтат(к) +ек+ъ где Л - вектор неизвестных параметров, {ejt+ь £к+2, ■ ■ •} - последовательность независимых случайных величин с Еек = 0, Ее\ = 1, {(aj(&),., ат(к))'} -последовательность случайных векторов, независимая от {ек+1,£к+'2, ■ ■ •}■ Вначале с помощью случайной замены времени г„, изменяется система уравнений для нахождения оценок по методу наименьших квадратов по первым N наблюдениям. В результате шумы становятся контролируемыми в том смысле, что их дисперсии легко оцениваются сверху. Дальше при анализе оценки Лг- возникают трудности, связанные с наличием случайных коэффициентов при шумах. Поэтому на втором этапе выражения для Лг- представляют в виде уравнений для некоторых линейных процессов с шумами. Откуда по методу наименьших квадратов, вводя новые моменты остановки, получают окончательную оценку где параметр

Н позволяет контролировать точность среднеквадратического уклонения. При некоторых условиях также справедлива оценка сверху для среднеквадратического уклонения, обратно пропорциональная Н. Полученные результаты применяются к оцениванию параметров процесса авторегрессии.

В работах Васильева В. А., Конева В. В. ([9], [49]) решается задача последовательного оценивания линейной динамической системы с зависимыми помехами, и строится двухэтапная последовательная процедура идентификации на основе оценок Юла-Уокера для линейного процесса с аддитивными и мультипликативными шумами при неполном наблюдении. Найдены верхние границы для среднеквадратических уклонений оценок.

В [29] идентификация производится также в два этапа. Доказывается асимптотическая нормальность последовательной оценки второго этапа. Кроме того, для числа наблюдений устанавливается асимптотическая оценка по порогу Н.

В работе [14] строится двухэтапная последовательная оценка линейных параметров для процесса авторегрессии при неизвестной дисперсии помех. Процесс преобразуется к векторному виду. Параметр дисперсии не известен, и используется его оценка, определяемая как сумма по времени квадратов значений процесса. При некоторых ограничениях на плотность имеет место ограниченность математического ожидания квадрата отношения значения дисперсии к ее оценке. Это соотношение используется для построения последовательных планов. Если модули корней полинома, коэффициенты которого являются значениями параметров процесса, все меньше единицы или все больше единицы, то для любой допустимой оценки дисперсии, которая удовлетворяет указанному выше соотношению, последовательный план обладает свойствами конечности почти, всюду числа наблюдений и ограниченности среднеквадратического уклонения оценки.

Рассмотрим, какие результаты были получены по последовательной классификации. Задача классификации процессов состоит в следующем. Пусть относительно наблюдаемого s-мерного случайного процесса имеется s различных статистических гипотез Hi,.,Hs, одна из которых истинна. Согласно гипотезе Щ, процесс {ж(£)} описывается заданным стохастическим разностным уравнением. Необходимо по наблюдениям за процессом (ж(£)} отдать предпочтение одной из гипотез. В отличие от асимптотических методов, последовательный подход предполагает остановку наблюдений при достижении заданной вероятности правильной классификации.

Случай неизвестного распределения шумов рассматривается в [28[, где предложена последовательная процедура классификации. Если дисперсионные матрицы, отвечающие различным гипотезам, не совпадают, то используется модификация статистик. В [28] показано, что время классификации конечно почти наверное, и если порог больше некоторого числа, то вероятность правильной классификации не меньше заданной величины.

В работе [31] решается задача классификации сходных с [28] стохастических процессов. В отличие от [28], предполагается, что помехи &(к) зависимы и для некоторого натурального числа т и известной последовательности положительно определенных симметричных матриц D[(k), согласованной с системой сигма алгебр Ть, определяемой но исходному процессу, имеют место соотношения E(£i(k + т)\Тк) = 0, E(£i(k + m)£|(A; -+- то)\Fk) < Di(k) (в смысле квадратичных форм). Отдельно рассматривается случай одинаковых матриц Dt(k). В случае т = 1 при выполнении ряда условий процедура классификации имеет п. н. конечную длительность, и вероятность ошибочной классификации не превосходит е. При т > 1 для преодоления эффекта m-зависимости проводится дополнительное сглаживание выходов фильтров, построенных на первом шаге. Принятие гипотезы Hi осуществляется с помощью модифицированных статистик. При различных матрицах Dt(k) в процедуру классификации также вносят изменения. Процедура классификации с модифицированными критериями имеет п. н. конечную длительность, и вероятность ошибочной классификации не превосходит е. Кроме этого, в [31] рассматривается задачи классификации процессов с дробно-рациональными спектральными плотностями и процессов авторегрессии при неполном наблюдении.

В [15] рассмотрена, процедура последовательной классификации процессов авторегрессии с неизвестной дисперсией помех по прямым и косвенным наблюдениям. Предполагается, что шум является последовательностью» н. о. р. случайных величин с нулевым средним и единичной дисперсией. При косвенных наблюдениях наблюдается зашумленный исходный процесс. Здесь шум является последовательностью н.о.р. случайных величин с нулевым средним и единичной дисперсией, не зависящих от исходного процесса. Для оценивания неизвестных дисперсий шумов вводится дополнительный этап. Процедура классификации гипотез Hi по прямым наблюдениям основывается на системе статистик, у которых в знаменателе, в отличие от предыдущих методов, стоит оценка дисперсии. В случае косвенных наблюдений в процедуру дополнительно вносят небольшие изменения. При некоторых условиях на шумы вероятность правильной классификации не меньше заданной величины. Получены асимптотические соотношения для средней длительности процедуры классификации. Доказана асимптотическая нормальность статистик, с помощью которых проводится классификация.

В [42] строится процедура последовательной классификации процессов авторегрессии скользящего среднего, и исследуются ее свойства. Используется последовательный критерий, предложенный в [31]. Получены нижняя граница для вероятности правильной классификации и предельное соотношение для средней длительности процедуры. Доказана асимптотическая нормальность статистик, по которым выносится решение о принятии гипотезы.

Перечисленные последовательные методы, в отличие от других подходов, используют длительность наблюдений для достижения заданной точности оценивания или вероятности правильной классификации. В различных работах получены верхняя граница для среднеквадратического уклонения оценки, асимптотическое соотношение для средней длительности наблюдений при классификации, доказана асимптотическая нормальность статистик, по которым выносится решение о принятии гипотезы. Достоинства перечисленных выше последовательных процедур в том, что они не требуют дополнительных знаний о параметрах, о распределении помех, в некоторых случаях - о дисперсии помех и, при этом обеспечивают заданную точность оценивания или вероятность правильной классификации. Однако эти методы не могут быть применены для решения поставленных выше задач последовательного оценивания и классификации процессов авторегрессии со случайными параметрами.

Трудности поставленной задачи и ее решение

Рассмотрим, какие трудности возникают при идентификации и классификации предлагаемой модели и что сделано в данной работе. При больших объемах выборки можно судить о точности обычных оценок по их асимптотическим свойствам. Однако, остается открытым вопрос, при каких объемах выборки можно воспользоваться асимптотическим результатом. Также в прикладных задачах идентификации стохастических систем наряду с исследованием асимптотических свойств оценок желательно знать точностные свойства оценок при малых и умеренных объемах наблюдений. Однако, для многих динамических моделей изучение свойств оценок при не асимптотических предположениях наталкивается на большие трудности. Для наиболее широко используемого метода наименьших квадратов оценка параметров является существенно нелинейной, что не позволяет найти или оценить ее среднеквадратическую точность. Один из подходов, позволяющих преодолеть указанную трудность, связан с применением последовательного анализа. Как уже было отмечено выше, в работах [50, 7, 10, 30, 9, 29, 14, 40, 48,49) предложены последовательные оценки МНК для процесса авторегрессии, случайной регрессии и более общей модели, которые имеют гарантированную среднеквадратическую точность. При этом в случае нескольких неизвестных параметров процедура оценивания включает два этапа и требует использования некоторого случайного числа оценок МНК, для чего необходимо дополнительное увеличение объема наблюдений. Поэтому предпочтительно было бы иметь одноэтапную гарантированную оценку для авторегрессии, при наличии мультипликативных возмущений.

Задача построения последовательной одноэтапной гарантированной оценки для модели авторегрессии с аддитивными и мультипликативными помехами решается в данной работе (глава 1). Получено асимптотическое соотношение для средней длительности процедуры последовательного оценивания. Найдена верхняя граница среднеквадратической точности предложенной оценки. Она обратно пропорциональна порогу, который определяет длительность процедуры и точность оценивания. Эти результаты не налагают жестких ограничений на распределения шумов, таких как требование гауссовости. Отдельно рассмотрен случай наличия управления (глава 2). В этом случае также найдено асимптотическое соотношение для средней длительности процедуры, и получена верхняя граница среднеквадратического уклонения оценки.

В задаче классификации решение о принятии гипотез обычно основывается на асимптотических свойствах некоторых статистик. Однако свойства этих статистик, вычисленных по конечным объемам выборок, могут сильно отличаться от асимптотических. Решение же задачи в неасимптотической постановке, даже при известном распределении шумов, вызывает трудности. Пусть, например, шумы гауссовские. Тогда легко найти функцию правдоподобия и построить решающую процедуру классификации. Однако свойства этой процедуры исследовать, вообще говоря, не удается, если только длительность наблюдений фиксирована. А поэтому остается открытым вопрос, как долго следует наблюдать процесс, чтобы обеспечить требуемое качество распознавания. Решением этой проблемы может стать использование последовательной процедуры классификации со специальным правилом остановки наблюдений, обеспечивающим заданную вероятность правильной классификации. Последовательный метод классификации позволяет также судить об асимптотических свойствах процедуры, таких как среднее время классификации и асимптотическая нормальность статистик, по которым принимается решение о выборе той или иной гипотезы. В работах [28,31,15,42] построены последовательные процедуры классификации для авторегрессии, авторегрессии-скользящего среднего и более общих динамических моделей.

Для процесса авторегрессии со случайными коэффициентами последовательные процедуры классификации до сих пор не были разработаны. Решение этой задачи приводится в данной работе (глава 3). Получена нижняя граница для вероятности правильной классификации. Найдено асимптотическое соотношение для средней длительности процедуры. Доказана асимптотическая нормальность распределения вектора статистик, по которым выносится решение о принятии той или иной гипотезы.

Было проведено экспериментальное исследование предложенных процедур идентификации и классификации (глава 4), которое подтвердило их эффективность. Моделирование также показало преимущество построенных процедур идентификации перед обычным методом наименьших квадратов.

Публикации по работе

1. Кашковский Д. В. Одноэтапная процедура гарантированного оценивания параметров авторегрессии со случайными коэффициентами//Наука. Технологии. Инновации: Материалы Всеросс. науч. конф. молодых ученых. 08-11 декабря 2005. Новосибирск. - Новосибирск: НГТУ. - 2006. - 4.1. - С. 25-27.

2. Кашковский Д. В. Последовательная идентификация параметров авторегрессии со случайными коэффициентами// Обозрение прикладной и промышленной математики. Четырнадцатая всероссийская школа-коллоквиум но стохастическим методам. - 2007. - Т.14, вып. 3. - С. 498-499.

3. Кашковский Д. В. Последовательная идентификация параметров авторегрессии со случайными коэффициентами//Вестник Томского гос. унта.- 2006. - 293. - С. 105-109.

4. Кашковский Д. В. Последовательное оценивание параметров авторегрессии со случайными коэффициентами// Перспективы развития фундаментальных наук: Труды IV Междунар. конф. студентов и молодых ученых. 15-18 мая 2007. Томск. - Томск: ТПУ. - 2007. - С. 242-243.

5. Кашковский Д. В. Последовательная процедура классификации процессов авторегрессии со случайными коэффициентами// Автометрия. - 2006. - Т. 42, № 1. - С. 77-87.

6. Кашковский Д. В., Конев В. В. О последовательных оценках параметров авторегрессии со случайными коэффициентами// Автометрия. - 2008. - Т. 44, № 1. - С. 70-81.

Апробация работы

Основные результаты диссертации обсуждались на кафедре Высшей математики и математического моделирования ТГУ, а также на следующих конференциях:

- на Всероссийской научной конференции молодых ученых "Наука. Технологии. Инновации" в г. Новосибирске, НГТУ, декабрь 2005г.;

- на Международной конференции студентов и молодых ученых "Перспективы развития фундаментальных наук" в г. Томске, ТПУ, май 2007г;

- на четырнадцатой Всероссийской школе-коллоквиуме по стохастическим методам, восьмом Всероссийском симпозиуме по прикладной и промышленной математике в г. Сочи - Адлер, сентябрь - октябрь 2007г.

Сформулируем основные положения диссертации, которые выносятся на защиту.

1. Последовательная одноэтапная процедура оценивания линейных параметров процесса авторегрессии со случайными коэффициентами, которая обеспечивает гарантированное в среднеквадратическом смысле оценивание неизвестных параметров.

2. Асимптотика среднего времени оценивания, верхняя граница среднеквадратического уклонения оценки.

3. Последовательный одноэтапный алгоритм идентификации параметров процесса авторегрессии со случайными коэффициентами при наличии управляющих воздействий, который дает возможность оценить неизвестные параметры динамики и коэффициенты при управляющих воздействиях с заданной среднеквадратической точностью.

4. Последовательная процедура классификации процесса авторегрессии со случайными коэффициентами с гарантированной вероятностью правильного решения.

5. Асимптотика среднего времени классификации и асимптотические свойства основных статистик в решающей процедуре классификации.

6. Формула для спектральной плотности стационарного процесса авторегрессии со случайными коэффициентами.

Результаты работы отражены в 6 публикациях.

ЗАКЛЮЧЕНИЕ

В диссертации были рассмотрены две проблемы. Первая была связана с гарантированной идентификацией процесса авторегрессии со случайными коэффициентами. При исследовании этой проблемы был также рассмотрен случай наличия управляющих воздействий. Вторая проблема, рассмотренная в работе, была связана с последовательной классификацией процессов авторегрессии со случайными коэффициентами.

Основные теоретические и практические результаты диссертации состоят в следующем.

1) Построен одноэтапный последовательный алгоритм оценивания процесса авторегрессии со случайными коэффициентами. Найдена верхняя граница среднеквадратической точности, которая не зависит от распределения помех. Эта граница позволяет определять необходимое число наблюдений для достижения заданной точности оценивания.

2) Разработана последовательная процедура идентификации модели авторегрессии со случайными коэффициентами и управляющими воздействиями. Для нее также получена верхняя граница среднеквадратического уклонения оценки.

3) Установлена сходимость в среднеквадратическом предложенной последовательной оценки к истинному значению вектора неизвестных параметров. Эта сходимость равномерна по любому компакту из области устойчивости процесса.

4) Построен последовательный алгоритм классификации процессов авторегрессии со случайными коэффициентами с заданной вероятностью правильного решения. Такой алгоритм позволяет определять число наблюдений, необходимое для того, чтобы классифицировать процесс правильно с заданной вероятностью.

5) Исследованы асимптотические свойства среднего времени оценивания и классификации. Найдены асимптотические соотношения для этих характеристик.

6) Исследованы асимптотические свойства статистик, по которым выносится решение о принятии гипотезы. Доказана асимптотическая нормальность вектора этих статистик. Такой результат позволяет приближенно оценить вероятность правильной классификации при заданном пороге.

7) Найден общий вид спектральной плотности стационарного процесса авторегрессии со случайными коэффициентами.

8) Проведено экспериментальное исследование алгоритмов оценивания и их сравнение с известными процедурами по методу наименьших квадратов. Моделирование подтвердило эффективность и преимущества предложенных процедур.

9) Проведено численное моделирование процедуры классификации. В результате экспериментального исследования подтвердилась эффективность предложенного алгоритма.

1. Альберт А. Регрессия, псевдоинверсия и рекуррентное оценивание. - М.: Наука, 1977.

2. Альтшуллер С. В. Методы оценки параметров процессов авторегрессии -скользящего среднего// Автоматика и телемеханика. 1982. - № 8. - С. 5-18.

3. Андерсон Т. Статистический анализ временных рядов. М.: Мир, 1976.

4. Беллман Р. Введение в теорию матриц. М.: Наука, 1969.

5. Болквадзе Г. Р. Идентификация нелинейных стохастических объектов Гаммерштейна// Автоматика и телемеханика. 2002. - № 4. - С. 91-104.

6. Борисов А. В., Панков А. Р. Минимаксное оценивание в обобщенных неопределенно-стохастических системах I. Оценивание случайных элементов со значениями в гильбертовых пространствах // Автоматика и телемеханика. 1998. - № 5. - С. 102-111.

7. Борисов В. 3., Конев В. В. О последовательном оценивании параметров дискретных процессов// Автоматика и телемеханика. 1977. - № 10. - С. 58-64.

8. Бунич A. JI. Пассивная и активная идентификация линейного дискретного объекта с ограниченной помехой// Автоматика и телемеханика. 2003. - № 11. - С. 60-73.

9. Васильев В. А., Конев В. В. Последовательное оценивание параметров при неполном наблюдении// Изв. АН СССР. Техническая кибернетика. 1982. -№ 6. - С. 145-154.

10. Воробейчиков С. Э., Конев В. В. О последовательной идентификации стохастических систем// Изв. АН СССР. Техническая кибернетика. 1980. -№ 4. - С. 176-182.

11. Граничин О. Н. Оценивание параметров линейной регрессии при произвольных помехах// Автоматика и телемеханика. 2002. - № 1. - С. 31-41.

12. Давыдов Ю. А. О сходимости распределений, порожденных стационарными случайными процессами// Теория вероятностей и ее применения. 1968. - Т. 13, вып. 4. - С. 730-737.

13. Давыдов Ю. А. Условия перемешивания для цепей Маркова// Теория вероятностей и ее применения. 1973. - Т. 18, вып. 2. - С. 321-337.

14. Дмитриенко А. А., Конев В. В. О гарантированном оценивании параметров авторегрессии при неизвестной дисперсии помех// Автоматика и телемеханика. 1994. - № 2. - С. 87-99.

15. Дмитриенко А. А., Конев В. В. О последовательной классификации процессов авторегрессии с неизвестной дисперсией помех// Проблемы передачи информации. 1995. - Т. 31, № 4. - С. 51-62.

16. Дроздов А. Л. Алгоритм идентификации характеристик динамической системы по данным наблюдений// Автоматика и телемеханика. 2000. - № 5. - С. 58-66.

17. Ершов А. А. Стабильные методы оценки параметров (обзор)// Автоматика и телемеханика. 1978. - № 8. - С. 66-100.

18. Каргин А. В., Фатуев В. А. Об одном методе структурно-параметрической идентификации динамических систем// Автоматика и телемеханика. 2006. - № 4. - С. 116-125.

19. Кашковский Д. В. Последовательная идентификация параметров авторегрессии со случайными коэффициентами//Вестник Томского гос. ун-та.- 2006. № 293. - С. 105-109.

20. Кашковский Д. В. Последовательная процедура классификации процессов авторегрессии со случайными коэффициентами// Автометрия. 2006. - Т. 42, № 1. - С. 77-87.

21. Кашковский Д. В., Конев В. В. О последовательных оценках параметров авторегрессии со случайными коэффициентами// Автометрия. 2008. - Т. 44, № 1. - С. 70-81.

22. Кашковский Д. В., Конев В. В. Последовательная идентификация линейной динамической системы со случайными параметрами// Автоматика и телемеханика. 2008. - № 8.

23. Кашьяп P. JL, Рао А. Р. Построение динамических стохастических моделей по экспериментальным данным. М.: Наука, 1983.

24. Кирик Е. С. Об итерационном методе цензурирования данных в задаче оценивания регрессии// Автоматика и телемеханика. 2007. - № 4. - С. 79-91.

25. Конев В. В. Последовательные оценки параметров стохастических динамических систем. Томск: Изд-во Томск, ун-та, 1985.

26. Конев В. В., Пергаменщиков С. М. Об оценивании числа наблюдений при последовательной идентификации параметров динамических систем// Автоматика и телемеханика. 1984. - № 12. - С. 56-63.

27. Конев В. В., Пергаменщиков С. М. Последовательные планы идентификации параметров динамических систем// Автоматика и телемеханика. 1981. - № 7. - С. 84-92.

28. Конева Е. С. Последовательная классификация стохастических процессов при зависимых помехах// Автоматика и телемеханика. 1986. - № 2. - С. 80-91.

29. Корсун О. Н. Алгоритм идентификации динамических систем с функционалом в частотной области// Автоматика и телемеханика. -2003.- № 5. С. 111-121.

30. Куржанский А. Б., Фурасов В. Д. Идентификация билинейных систем. Гарантированные псевдоэллипсоидальные оценки// Автоматика и телемеханика. 2000. - № 1. - С. 41-53.

31. Куркин О. М. Исследование алгоритмов гарантирующего оценивания в задачах прогнозирования и интерполяции случайных процессов// Автоматика и телемеханика. 2001. - № 4. - С. 67-79.

32. Льюнг Л. Идентификация систем. Теория для пользователя. М.: Наука, 1991.

33. Морозов В. А. Оценивание параметров линейных динамических систем с неопределенными наблюдениями// Автоматика и телемеханика. 1984.4. С. 84-94.

34. Невельсон М. Б., Хасьминский Р. 3. Стохастическая аппроксимация и рекуррентное оценивание. М.: Наука, 1972.

35. Панков А. Р., Попов А. С. Минимаксная идентификация нелинейной динамической системы наблюдения// Автоматика и телемеханика. 2004. - № 2. - С. 148-156.

36. Панков А. Р., Семенихин К. В. Методы параметрической идентификации многомерных линейных моделей в условиях априорной неопределенности// Автоматика и телемеханика. 2000. - № 5. - С. 76-92.

37. Пергаменщиков С. М., Ширяев А. Н. О последовательном оценивании параметра стохастического разностного уравнения со случайными коэффициентами.// Теория вероятностей и ее применения. 1992. - Т. 37, вып. 3. - С. 482-501.

38. Сысоев Л. П., Шайкин М. Е. Идентификация коммутативных ковариационных структур с использованием процедур последовательной проверки статистических гипотез. // Автоматика и телемеханика. 2005. -№ 3. - С. 48-64.

39. Шаповалов Д. В. Последовательная процедура классификации процессов авторегрессии-скользящего среднего// Автометрия. 2002. - Т. 38, № 5. -С. 49-58.

40. Ширяев А. Н. Вероятность. М.: Наука, 1989. - 640 с.

41. Ширяев А. Н. Основы стохастической финансовой математики: В 2 т. М.: ФАЗИС, 1998. Т. 1. - 512 с.

42. Эллиот Р. Стохастический анализ и его приложения. М.: Мир, 1986.

43. Feigin P. D., Tweedie R. D. Random Coefficient Autoregressive Process: a Markov Chain Analysis of Stationarity and Finiteness of Moments// Journal of Time Series Analysis. 1985. - V. 6. - P. 1-14.

44. Kalman R. E. Control of Randomly Varying Linear Dynamical Systems. //Proc. Symp. Appl. Math. 1962. - V.13. - P. 287-298.

45. Konev V.V., Lai T.L. Estimators With Prescribed Precision in Stochastic Regression Models// Sequential Analysis. 1995. - V. 14. - P. 179-192.

46. Konev V.V., Vasiljev V.A. On Identification of Linear Dynamic Systems in the Presence of Multiplicative and Additive Noises in Observations// Stochastic Contr.: Proc. 2-nd IFAC Symp. May 19-23 1986. Vilnius. Oxford e.a. - 1987. -P. 87-91.

47. Lai T.L., Siegmund D. Fixed-accuracy estimation of an autoregressive parameter// Ann. Statist. 1983. - V. 11. - P. 478-485.

48. Ljung L., Soderstrom T. Theory and Practise of Recursive Identification. Cambridge: MIT Press, 1986.

49. Meyn S. P., Tweedie R. L. Markov Chains and Stochastic Stability. London: Springer-Verlag, 1996.

50. Nicholls D.F., Quinn B. G. Random Coefficient Autoregression Models: An Introduction. New York: Springer, 1982.

51. Paulson A. S., Uppuluri C. R. Limit laws of a sequence determined by a random difference equation governing a one compartment system//Math. Biosci. 1972. - № 3. - P. 325-333.

52. Singpurwalla N. D., Soyer R. Assessing software reliability growth using a random coefficient autoregressive process and its ramifications//IEEE Trans. Software

53. Eng. 1985. - V. SE-11. - P. 1456-1464.