автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Алгоритмы и программное обеспечение оптимальной нелинейной экстраполяции стохастических систем и их применение к прогнозированию временных рядов

Список сокращений.

Введение.

1. Задача прогнозирования временных рядов и обзор некоторых методов ее решения.

1.1. Простейшие адаптивные модели временных рядов.

1.1.1.Методы экспоненциального сглаживания.

1.1.2.Регрессионные методы.

1.2. Методы непараметрической статистики и распознавания образов.

1.2.1 .Непараметрические методы.

1.2.2.Методы теории распознавания образов и нейронных сетей.

1.3. Байесовский подход к прогнозированию временных рядов.

1.3.1.Байесовский подход для моделей типа вход-выход.

1.3.2.Байесовский подход для моделей типа вход-состояние-выход.

1.4. Марковская модель авторегрессии-скользящего среднего.

1.4.1 .Разностная запись модели авторегрессии-скользящего среднего.

1.4.2.3апись модели авторегрессии-скользящего среднего в фазовом пространстве.

1.4.3.Идентификация порядка и параметров стационарной модели авторегрессии-скользящего среднего.

1.5. Выводы.

2. Алгоритмы экстраполяции состояния и выхода динамических систем.

2.1. Оптимальные линейные наблюдатели.

2.1.1. Фильтр и предиктор Калмана.

2.1.2. Нестационарный метод Бокса-Дженкинса.

2.1.3. Адаптивное оценивание.

2.2. Марковская модель нелинейной стохастической системы.

2.3. Абсолютно оптимальное нелинейное прогнозирование.

2.3.1. Постановка задачи синтеза абсолютно оптимального предиктора состояния и выхода.

2.3.2. Уравнение абсолютно оптимального предиктора.

2.3.3. Рекуррентный абсолютно оптимальный предиктор.

2.3.4. Уравнения гауссовского субоптимального предиктора.

2.3.5. Структурные функции гауссовского предиктора.

2.4. Оптимальное нелинейное конечномерное прогнозирование.

2.4.1. Постановка задачи синтеза конечномерного предиктора.

2.4.2. Связь структурных функций предиктора с условной плотностью вероятности.

2.4.3. Нахождение прогнозирующей плотности.

2.4.4. Алгоритм синтеза предиктора оптимальной структуры.

2.4.5. Гауссовское приближение к предиктору.

2.4.6. Синтез параметров гауссовского предиктора.

2.4.7. Постановка и решение задачи синтеза оптимального конечномерного предиктора измерений.

2.4.8. Линеаризованные фильтры и предикторы.

2.4.9. Повышение точности гауссовских предикторов.

2.5. Логико-динамические фильтры как адаптивные идентификаторы параметров модели.

2.6. Выводы.

3. Программные средства экстраполяции временных рядов.

3.1. Программы линейных предикторов.

3.2. Общий объектно-ориентированный подход к созданию программного обеспечения синтеза и моделирования наблюдателей.

3.3. Пакет прикладных программ синтеза параметров и анализа точности нелинейных фильтров и предикторов.

3.3.1.Назначение пакета прикладных программ.

3.3.2. Технические характеристики и состав пакета программ.

3.3.3. Структура программ синтеза и описание модулей.

3.3.4. Модульная структура программ анализа.

3.4. Пакет прикладных программ синтеза логико-динамических фильтров.

3.5. Выводы.

4. Применение разработанного программного обеспечения и анализ результатов.

4.1. Пример применения алгоритмов субоптимальных предикторов состояния к задаче спуска аппарата в атмосфере Марса.

4.2. Применение алгоритмов субоптимального прогнозирования измерений к рядам модели АРСС.

4.3. Настройка пакета экстраполяторов на работу с единственной реализацией временного ряда.

4.4. Выводы.

Предметом диссертационной работы является разработка и программная реализация алгоритмов абсолютно оптимального и оптимального конечномерного прогнозирования (по отрезку измерений фиксированной длины) состояния и выхода дискретных стохастических систем и применение этих алгоритмов к задаче прогнозирования реализаций временного ряда.

Актуальность темы. Анализ и моделирование сложных технических и экономических процессов и систем связано с обработкой больших объемов технико-экономических данных. Однако, если технические данные по своей природе "модельны", т.е. порождаются системой построенной на основании известной модели, то экономические данные по самой своей природе обладают понятийной "расплывчатостью", малой структурированностью и существенной неточностью. Объективный анализ и прогнозирование экономических явлений чрезвычайно важны, т.к. без высокого уровня планирования невозможны развитие маркетинговых исследований, кредитный анализ, управление рисками и, в конечном счете, управление экономикой. Необходимость качественных прогнозов, используемых в планировании, оперативном управлении, привела к возникновению широких классов формальных и неформальных постановок задач прогнозирования, основанных на глубоком использовании экономи-ко-математических методов и вычислительной техники. Несмотря на различия аппарата описания проблемы, постановок задач и методов решения, требуемый результат достаточно однотипен - получение прогнозных оценок развития процессов, которые можно использовать в таких конкретных областях, как торги на фондовой бирже, построение портфелей кредитов и инвестиций, оценка рейтинга банков, автоматизация аудита, предсказание изменений на финансовом рынке (например, курсов акций, цены на золото, доходности ГКО и других ценных бумаг) и т.д. [3, 18, 21, 52].

Следует признать, что точность и надежность результатов получаемых при использовании известных методов количественного экономического прогнозирования [1, 29, 55, 57, 59, 60, 67, 96], не полностью отвечают современным требованиям, однако помогают учесть множество "невидимых" эксперту нюансов. Это позволяет использовать методы эко-нометрического прогнозирования в качестве "совещательного голоса" при выработке решения.

Вопросы прогнозирования тесно связаны с задачей определения "истинной" тенденции изменения экономических показателей, "очищенной" от помех случайного характера [14, 66, 101, 111]. Математически она формулируется как задача наилучшего учета неточности или неполноты всех измерений мгновенного состояния объекта до текущего момента времени для оценивания будущих состояний и выходов динамической системы.

В настоящее время среди множества формализованных методов, основанных на применении математических моделей, к прогнозированию в финансовой и экономической деятельности наиболее широкое применение получили экспертные системы с нечеткими правилами, которые формируют свои знания путем адаптации к предметной области, представленной примерами. К таким предметным областям относится прежде всего область анализа финансовой деятельности, где эффективность принимаемых решений зависит от сопоставления множества различных противоречивых факторов, учета сложных причинно-следственных связей, применения нетривиальных логических рассуждений и т.п. Поскольку аксиомы нечеткой логики и классической теории вероятностей основываются на понятии меры (необходимости, возможности, вероятности) множества событий, в этих подходах наблюдается известная схожесть. Использование правил нечеткой логики в практических задачах иногда является альтернативой вероятностным методам и их дополнением [110].

Следующим по широте использования на практике следует признать вероятностно—статистические модели. Соответствующие методы носят высоко универсальный характер, однако их практическое использование всегда сопряжено с рядом принципиальных трудностей, связанных прежде всего с высокой чувствительностью к согласованности данных эксперимента с моделью. Устройства и программы, опирающиеся на вероятностный аппарат и осуществляющие прогнозирование каких-то величин, называют, например, предикторами [9]. Предикторы и фильтра для краткости будем называть динамическими наблюдателями (ДН).

Использование концепции пространства состояний (предложенной Р. Калманом) и понятия формирующего фильтра полезного сигнала, описываемого разностным уравнением состояния, позволяет построить простой рекуррентный алгоритм получения оценок состояния объекта в линейной модели. Однако, классический фильтр Калмана требует для своего построения задание характеристик формирующего фильтра входного воздействия. В реальности они бывают частично или полностью неизвестными, что не позволяет непосредственно применять теорию калманов-ской фильтрации. Поэтому используют иные подходы, связанные с построением робастных [24], минимаксных [82] и минимаксно-стохастических фильтров. Их построение опирается на достаточно ограниченный объем априорной информации, что существенно снижает точность оценки. Другим способом преодоления этой трудности является оптимальное использование не только косвенных измерений фазового вектора системы, но также измерений некоторых компонент самих неопределенно-стохастических входных воздействий [22].

Проблема нахождения оптимального нелинейного фильтра [77, 78] может быть преобразована в задачу решения уравнения Байеса-Стратоновича относительно условной (апостериорной) плотности распределений вероятностей [30, 86]. Процесс его решения в общем случае очень труден. Поэтому необходимы аппроксимации плотностей распределений вероятностей, при которых точность, тем не менее, останется удовлетворительной. Так, при аппроксимации некоторых плотностей многомерными гауссовскими плотностями получается фильтр нормальной аппроксимации, алгоритм которого записывается системой разностных уравнений относительно параметров соответствующих плотностей. Ее порядок равен п{п + 3)/2, где п - размерность вектора состояния объекта управления, что затрудняет реализацию фильтра при больших п. Применение, в качестве альтернативы, метода условно оптимальной нелинейной фильтрации B.C. Пугачева [79], позволяющего строить фильтры порядка п, затруднено вопросом выбора нелинейной структуры самого фильтра. Подход Е.А. Руденко [83, 85] дает возможность синтезировать оптимальную структуру такого фильтра. На практике последний подход приводит к отказу в алгоритме субоптимального фильтра нормальной аппроксимации от уравнений для элементов апостериорной матрицы ковариации вследствие ее замены детерминированной матрицей, которая определяется заранее методом статистического моделирования. На этапе проектирования, исходя из заданной модели развития изучаемого процесса, находятся уравнения фильтра и вычисляются его коэффициенты усиления (параметры уравнений). Это позволяет затем обрабатывать поток измерений в реальном масштабе времени.

В данной работе подробно рассматривается вопрос практического применения теории оптимальной нелинейной фильтрации [20, 72, 98] к прогнозированию состояний и выходов (измерений) стохастических систем. При этом для известного алгоритма точного абсолютно оптимального предиктора (АОП) получены субоптимальные приближения, позволяющие реализовать алгоритм численно. Сформулирована и решена задача построения оптимального конечномерного предиктора (ПОС), для которого получены аналогичные субоптимальные приближения.

Многие известные автоматизированные программные средства анализа и прогноза данных сочетают различные подходы и методы. Среди них статистические пакеты Quick Statistica for Windows (StatSoft), eHOP for Windows (Palisade Corp.), Forecast Pro XE for Windows (Business Forecast Systems), "Эвриста" (Диалог-Наука); программы технического анализа финансовых данных MetaStock for Windows (Equis), BestFit (Palisade Corp.), Wall Street Money DeLuxe CD (Market Arts) и др. Эти программные продукты способны выполнять роль эксперта-консультанта при стратегическом анализе рынка и составлении сложных финансовых прогнозов.

Обзор программного обеспечения (ПО) статистического прогнозирования для использования в области экономики и бизнеса можно найти в [23, 69, 70, 75]. Из него, в частности, видно, что при всем богатстве сервисных возможностей ПО, применяемые в нем параметрические модели, как правило, линейны. Очевидно, непросто построить подробную модель, достаточно адекватно описывающую изучаемое экономическое явление (качественно отражающую форму движения: сезонные колебания, взаимосвязи между компонентами и т.д. [95]), но, вместе с тем, причиной такой ситуации является отсутствие точных и пригодных к машинной реализации алгоритмов прогнозирования систем по нелинейным моделям. Разработанные в данной работе алгоритмы предлагаются для восполнения последнего недостатка. Они могут быть полезны при создании комплексных экспертных систем технического применения, включающие подсистемы обнаружения отказов элементов по измерениям контрольных датчиков (например, по изменениям характеристик процессов в атомных реакторах или плазменных соплах). Алгоритмы могут применяться для определения будущего состояния в задачах выработки управления JIA с терминальным способом наведения. Так например, в устройстве контроля за конечной точкой траектории JIA с целью принятия решения о выборе метода аэродинамического торможения можно производить расчеты в заданные контрольные моменты времени спуска.

Целью работы является выработка методики прогнозирования стохастических систем, основанной на использовании теории оптимальной фильтрации и экстраполяции, разработка, с использованием объектно-ориентированного подхода, компьютерной технологии моделирования и синтеза параметров субоптимальных наблюдателей и создание программных средств, облегчающих разработку соответствующего прикладного программного обеспечения.

Методы исследования: методы теории вероятностей и математической статистики, численные методы, методы теории алгоритмов.

Научная новизна работы заключается в новой постановке и решении задачи оптимальной конечномерной экстраполяции нелинейных дискретных стохастических систем, создании субоптимальных алгоритмов экстраполяции, а также в разработке методики компьютерного синтеза и анализа точности стохастических наблюдателей и применения ее к задаче прогнозирования временных рядов.

Практическая ценность работы заключается в разработке методики получения структурных функций дискретных оптимальных и субоптимальных конечномерных предикторов, создании библиотеки программных модулей (основанной на принципах объектно-ориентированного подхода), реализующих элементы алгоритмов субоптимальных фильтров и предикторов, создании универсального ПО синтеза и анализа точности стохастических наблюдателей и логико-динамических фильтров (ЛДФ).

Диссертационная работа выполнялась на кафедре "Математическая кибернетика" МАИ и была использована в рамках г/б темы № ПБ-134 (за 1995 г.) и № ПБ-098 (за 1996 г.).

Апробация работы. Содержание работы было доложено на следующих научных семинарах и конференциях:

- Молодежной конференции "22-ые Гагаринские чтения", г. Москва, МАТИ, 2-6 апреля 1996 г.

- Всероссийской научно-технической конференции "Проблемы совершенствования робототехнических и интеллектуальных систем JIA", г. Москва, МАИ, 28-30 мая 1996 г.

- Международном научно-техническом семинаре "Современные технологии в задачах управления и обработки информации", г. Алушта, 12-16 сентября 1996 г.

Публикации. По теме диссертационного исследования опубликовано 6 печатных работ [4, 5, 6, 7, 8, 86].

Объем и структура работы. Работа состоит из введения, 4 глав, заключения, списка использованных источников и 6 приложений (57 страниц). Основной текст содержит 156 страниц, 20 рисунков. Список литературы включает 111 наименований.

В 1-ой главе приведены результаты исследования предметной области и сделан обзор распространенных статистических методов прогнозирования (рядов и систем). Более подробно изложен байесовский подход, лежащий в основе предложенного автором метода экстраполяции, показано упрощение такого подхода в случае марковских моделей. Проделаны подготовительные преобразования АРСС-модели, необходимые для применения к ней теории марковской фильтрации и экстраполяции.

Во 2-ой главе приводятся постановки и решения задач абсолютно оптимального и оптимального конечномерного прогнозирования нелинейных дискретных стохастических систем. Получены алгоритмы определения оптимальных структурных функций рекуррентных предикторов, требующие нахождения совместных распределений вероятности состояний объекта и предиктора. Предложены способы построения субоптимальных предикторов указанных типов, основанные как на гауссовских аппроксимациях вероятностных распределений, так и на линеаризации объекта и измерителя в окрестности текущей оценки. При этом впервые получен субоптимальный предиктор с нелинейным многошаговым прогнозом. Обсуждаются способы уточнения указанных субоптимальных предикторов. Проведено уточнение алгоритма гауссовского предиктора оптимальной структуры методом B.C. Пугачева.

В 3-ей главе описывается ПО, реализующее описанные методы фильтрации и экстраполяции: известные (методы Калмана, Бокса-Дженкинса, Лайниотиса) и предложенные в данной работе. Рассматриваются особенности проектирования программ синтеза и моделирования наблюдателей. Предлагается методика конструирования такого типа программ на базе разработанного класса объектов и библиотеки процедур. Приводится краткое описание программных модулей и общего дерева объектов ДН и ЛД-фильтров.

Алгоритмы реализованы в виде комплекса прикладных программ, взаимодействующих через общую интерфейсную оболочку и включают следующие наборы процедур:

• операции над матрицами,

• операции с динамически размещенными объектами,

• процедуры типичных для алгоритмов субоптимальных фильтров и экстраполяторов вычислений,

• процедуры-реализации наблюдателей,

• интерфейс-процедуры

В 4-ой главе (и приложениях П.З, П.4) рассмотрено применение разработанного ПО к задаче прогнозирования характеристик пакета реализаций временных рядов, заданного авторегрессии-скользящего среднего (АРСС) с неизвестными параметрами. Сравниваются различные методы идентификации параметров: Бокса-Дженкинса, Калмана-Лайниотиса, га-уссовской и полигауссовской субоптимальной фильтрации. Разные методы прогнозирования при детерминированных параметрах модели с "идеальным" прогнозом Калмана, полученным при точно заданных параметрах. Сделаны выводы об идентифицируемости детерминированных и случайных параметров модели АРСС разными методами. Показано преимущество новых алгоритмов, по сравнению с известными.

Работоспособность предложенных алгоритмов для прогнозирования состояния нелинейной системы демонстрируется на примере модели аэродинамического торможения. Производится оценивание текущего и будущего состояния космического аппарата по дискретно выполняемым автономным измерениям проекции вектора перегрузки на оси инерциаль-ной системы координат. Приводятся результаты статистического моделирования линеаризованных предикторов типа АОП, ПОС, МПОС.

В заключении кратко сформулированы основные результаты, полученные в диссертационной работе.

На защиту выносятся

• постановка и решение задачи оптимальной конечномерной экстраполяции (по отрезку измерений фиксированной длины) состояний и выходов нелинейных дискретных стохастических систем;

• приближенные (субоптимальные) решения задач абсолютно оптимальной и оптимальной конечномерной экстраполяции, основанные на гауссовской аппроксимации и линеаризации;

• алгоритмическое обеспечение численного решения задач моделирования и синтеза субоптимальных динамических фильтров и предикторов;

• программная реализация алгоритмов субоптимальной фильтрации и экстраполяции, а также логико-динамической фильтрации, позволяющее проводить синтез и анализ точности наблюдателей методом статистического моделирования, методика применения разработанных алгоритмов и программного обеспечения к прогнозированию временных рядов, генерируемых уравнениями авторегрессии-скользящего среднего.

4.4. Выводы по главе 4

1. На примере задачи спуска космического аппарата в атмосфере планеты, показана работоспособность гауссовских предикторов прогнозирования состояния космического аппарата на несколько шагов вперед. Проведено сравнение их точности.

2. С целью получения базы для сравнения произведено численное моделирование на ЭВМ линейных алгоритмов экстраполяции. Для модели с нестационарными параметрами экспериментально показана неудовлетворительная точность идентификации (параметров модели) методом Бокса-Дженкинса.

3. Осуществлен численный эксперимент по идентификации параметров марковской нелинейной модели системы АРСС( 1,1) гауссовскими фильтрами, который, за исключением результатов работы модифицированного конечномерного предиктора, показал неудовлетворительность гауссовского приближения.

4. Выполнено статистическое моделирование адаптивных наблюдателей (Калмана-Лайниотиса и логико-динамических фильтров) для задачи идентификации модели АРСС(1,1). Показано, что их применение позволяет достаточно точно оценивания параметры указанной модели.

5. Предложен способ настройки программ статистического моделирования на работу с единственной реализацией временного ряда.

ЗАКЛЮЧЕНИЕ

Основным итогом диссертации является разработка методов построения оптимальных нелинейных предикторов состояния и выхода стохастических систем по измерениям на временном интервале фиксированной длиы, а также их алгоритмическое и программное обеспечение.

Этот итог выражается в следующих результатах:

1. Проанализированы известные методы экстраполяции временных рядов, разработаны и программно реализованы алгоритмы моделирования на ЭВМ этих методов. Для одномерной нестационарной системы АРСС произвольного порядка предложен способ построения марковской (по состоянию) модели, для которой возможно применение методов оптимальной нелинейной фильтрации и экстраполяции.

2. Получены приближенные решения (гауссовское и линеаризованное) известной задачи построения дискретного стохастического абсолютно оптимального нелинейного предиктора с выборкой измерений фиксированой длины, разработана методика построения структурных функций указанных субоптимальных приближений.

3. Сформулирована новая постановка задачи синтеза дискретного нелинейного конечномерного предиктора оптимальной структуры. Предложен алгоритм синтеза такого предиктора, требующий вычисления плотностей распределений вероятностей. Разработана методика синтеза субоптимальных приближений этого конечномерного предиктора, заключающаяся в указании способа построения структурных функций предиктора с помощью операции статистической линеаризации. Предложен способ компьютерного вычисления параметров предиктора методом статистического моделирования.

4. Разработана концепция объектно-ориентированного построения 111111 фильтрации и экстраполяции, основанная на иерархии и связях объектов. Реализация предложенной концепции выразилась в разработке пакетов программ динамической экстраполяции и логико-динамической фильтрации. 5. Разработанные алгоритмы и программные средства применены для идентификации параметров и прогнозирования выхода системы АРСС(1,1) с неизвестными и, в общем случае, недетерминированными коэффициентами. Произведено тестирование гауссовских экстра-поляторов состояния на примере решения задачи многошагового прогнозирования состояния спускаемого космического аппарата на пассивном участке траектории.

Общий объем разработанного автором программного обеспечения составляет около 10 тыс. строк языка Паскаль.

1. Аведьян Э.Д. Задача обратной фильтрации для объекта типа скользящего среднего при отсутствии помех измерений, АиТ. 1995. №11. С. 109-121.

2. Аведьян Э.Д. Рекуррентный метод наименьших квадратов при коррелированных помехах, АиТ. 1975. №5. С. 67-76.

3. Аврех Г., Бессонов В. и др. Валютный рынок. Мониторинг. Анализ динамики обменного курса рубля и его прогнозирование. М.: Экспертный ин-т. российского союза промышленников и предпринимателей, 1993. -82 с.

4. Азаров С.В. Пакет программ оптимальной конечномерной нелинейной фильтрации и его применение к оцениванию состояния спускаемого аппарата./ Тез. докл. на молодежной научной конференции "22 Гага-ринские чтения", часть 7. М., МГАТУ, 1996. С. 202-203.

5. Азаров С.В. Программное обеспечение моделирования и синтеза дискретных логико-динамических фильтров М. 1996./ Депонир. в ВИНИТИ 26.12.95. № 3460-В95. 25 с.

6. Азаров С.В., Руденко Е.А. Конечномерные алгоритмы дискретной нелинейной экстраполяции./ Тез. докл. на международном научно-техническом семинаре "Современные технологии в задачах управления и обработки информации. М., МАИ 1996, с. 83-85.

7. Азаров С.В., Руденко Е.А. Оптимальное рекуррентное прогнозирование состояния нелинейных дискретных стохастических систем по фиксированной выборке наблюдений. МАИ. М. 1996./ Депонир. в ВИНИТИ 8.10.96. № 2966-В96. 29 с.

8. Азаров С.В., Руденко Е.А. Программное построение субоптимальных дискретных нелинейных фильтров. МАИ. М. 1996./ Депонир. в ВИНИТИ 23.01.96. № 266-В96. 32 с.

9. Алимов Ю.И. Измерение моментов системы случайных величин. Свердловск: Изд-во Уральского политех. инст., 1984 84с.

10. Ю.Алимов Ю.И. Измерение спектров и статистических вероятностей. Свердловск: Изд-во Уральского политех, инст., 1986 96с.

11. Алимов Ю.И. Прогнозирование распределений вероятностей. Свердловск: Изд-во Уральского политех., 1986 88с.

12. Андерсон Т. Статистический анализ временных рядов. М.: Мир, 1976. 755 с.

13. Аоки М. Оптимизация стохастических систем. М.: Наука, 1971. - 424 с.

14. Афанасьев В.Н., Колмановский В.Б., Носов В.П. Математическая теория конструирования систем управления, М.: Высшая школа, 1989.

15. Баласанов Ю.Г. и др. ЭВРИСТА. Экспериментальные временные ряды: интерактивный статистический анализ, М.: Центр СП "Диалог" МГУ, 1991.- 120 с.

16. Барабанов А.Е., Лукомский Ю.А., Мирошников А.Н., Адаптивная фильтрация при неизвестной интенсивности возмущений и шумов измерений, АиТ, №11, 1992, с. 93-101.

17. Бард Й. Нелинейное оценивание параметров. М.: Статистика, 1979. -349 с.

18. Бессонов В.А., Расщепление временных рядов социально-экономических макропоказателей, М., Эконометрическое моделирование: сб. статей. / ВЦ РАН, 1992. С. 10-74.

19. Бирюков М.Н. Непараметрические алгоритмы обнаружения сигналов в импульсных помехах. М.: МАИ, 1991. 58 с.

20. Богуславский И.А. Прикладные задачи фильтрации и управления. -М.: Наука, 1983.-400 с.

21. Бокс Дж., Дженкинс Г. Анализ временных рядов: прогноз и управление, Т.1.М.: Мир, 1974. 406 с.

22. Борисов А.В., Панков А.П., Сотский Н.М. Методы и алгоритмы оптимального оценивания состояния неопределенно-стохастических систем. Препринт. М.: Изд-во МАИ, 1991. - 43 с.

23. Борт Дж. Прикосновение царя Мидаса. М.: Computerworld Россия, 18 июня, 1996. С. 15-16.

24. Босов А.В., Панков А.П., Робастное рекуррентное оценивание процессов в стохастических системах, АиТ, №9, 1992. С. 102-110.

25. Босов А.В., Панков А.П. Условно-минимаксная фильтрация процесса в системе с переключающимися каналами наблюдения, АиТ. 1995. №6. С. 87-97.

26. Бриллинджер Д. Временные ряды. Обработка данных и теория. М.: Мир, 1980. 536 с.

27. Бухалев В.А. Рекуррентные алгоритмы распознавания и оценивания состояния динамического объекта по информации от измерителей и индикаторов. Часть 1. Наблюдения с запаздыванием.// Известия АН СССР. Техническая кибернетика, 1991, № 6. С. 104-110.

28. Бэкон Д.У., Броэкховен J1.X. Предсказание временных рядов.// Статистические методы для ЭВМ. М.: Наука, 1986. С. 434-452.

29. Вайну Я.Я.-Ф. Корреляция рядов динамики, М., Статистика, 1977. -117 с.

30. Вапник В.Н. Восстановление зависимостей по эмпирическим данным. М.: Наука, 1979. 447 с.

31. Васильев А.В., Бек В.В., Махлин А.Р. Алгоритм идентификации параметров и оценивания состояния нелинейной динамической системы.// Математическая статистика и ее приложения, под ред. Тарасенко, Вып. 9, Томск, Изд. Томск. Университета, 1983. С. 18-27.

32. Виллемс Я. От временного рядя к линейной системе.// Теория систем: математические методы и моделирование. М.: Мир. С. 8-191.

33. Волгин JI.H. О предсказании стационарных случайных процессов с помощью ортополиномов. АиТ. 1994. №7. С.84-93.

34. Галушкин А. И., Судариков В. А., Шабанов Е. В. Методика решения задач на нейрокомпьютерах.// Нейрокомпьютер №1, 1992. С, 24-37.

35. Горелик С.И., Казаринов J1.C. Прогнозирование случайных колебательных процессов на основе метода экспоненциального сглаживания, АиТ, №12, 1992. С. 27-34.

36. Горяинова Е.Р. Проверка адекватности регрессионных схем непараметрическими методами.// Автореферат диссертации на соиск. уч. ст. к.ф.-м.н. МАИ, 1996. - 19 с.

37. Гмошинский В.Г. Инженерное прогнозирование, М.: Энергоиздат, 1982. 207 с.

38. Гришин Ю.П., Казаринов Ю.М. Динамические системы, устойчивые к отказам. М.: Радио и связь, 1985.

39. Гриценко и др. Адаптивное оценивание/ Зарубежная радиоэлектроника, № 7, 1983, с. 3 27; № 3, 1985. С. 3-26.

40. Демиденко Е.З. Линейная и нелинейная регрессии. М.: Фин. и стат., 1981.-290 с.

41. Дмитриенко А.А., Конев В.В. О гарантированном оценивании параметров авторегрессии при неизвестной дисперсии помех, АиТ, №2, 1994. С. 87-99.

42. Дятлов Г.И., Кудрицкий В.Д., Сафонов С.А. Анализ влияния погрешностей измерений на точность линейной экстраполяции реализаций случайного процесса, АиТ, №10, 1992. С. 75-80.

43. Дженнрич Р.И. Пошаговая регрессия.// Статистические методы для ЭВМ. М.: Наука, 1986. С. 77-94.

44. Дрейпер Н., Смит Г. Прикладной регрессионный анализ, т. 2. М.: Фин. и стат., 1987. 350 с.

45. Жиляков Е.Г. Оценивание параметров процессов скользящего среднего, АиТ, №2, 1991.-с. 88-96.

46. Жук С.Я. Совместная фильтрация смешанных марковских процессов в дискретном времени.// Изв. ВУЗов, Радиоэлектроника, 1988, № 1. С. 33-39.

47. Закс Ш., Теория статистических выводов. М.: Мир, 1975. 776 с.

48. Зельнер А. Байесовские методы в эконометрии, М., Статистика, 1980. 432 с.

49. Зубов А.Г., Петров А.И. Оценивание в нелинейных стохастических системах при внезапных изменениях структуры и координат состояния. // Изв. АН СССР. Техническая кибернетика, 1990, № 4. С. 64 -77.

50. Казаков И.Е. Стохастические системы со случайной сменой структуры, Изв. АН СССР. Техническая кибернетика, № 1, 1989. С. 58-78.

51. Казьмин В.А., Позняк А.С. Рекуррентное оценивание параметров ARX-моделей с помехами, описываемыми ARMA-процессами, АиТ, №10, 1992. С. 80-88.

52. Кашьяп Г.Л., Рао А.П. Построение динамических стохастических моделей по экспериментальным данным, пер. с англ., М., Наука, 1983. -383 с.

53. Кендалл М.Дж., Стьюарт А. Многомерный статистический анализ и временные ряды. М.: Наука, 1976. 736 с.

54. Клекис Э.А. Оптимальная фильтрация в системах со случайной структурой и дискретным временем. // Автоматика и телемеханика, 1987, № 11. С. 61-70.

55. Ковалева Л.Н. Многофакторное прогнозирование на основе рядов динамики. М., Статистика, 1980. 102 с.

56. Колмогоров А.Н. К вопросу о пригодности найденных статистическим путем формул прогноза // Теория вероятностей и математическая статистика. М.: Наука, 1986. С. 161-167.

57. Конева Е.С. О нелинейном оценивании параметров случайных процессов при зависимых помехах. // Математическая статистика и ее приложения, под ред. Тарасенко, Вып. 10, Томск, Изд. Томск. Университета, 1986. С.120-127.

58. Корепанов Э.Р., Пугачев B.C., Синицин И.Н. и др. Математическое обеспечение для проектирования условно оптимальных фильтров и анализа процессов в дискретных стохастических систем, АиТ, №6, 1992. С. 78-85.

59. Корноушенко Е.К. Восстановление входных сигналов в дискретных линейных нестационарных системах по накопленным данным, АиТ, №12, 1992. С. 40-26.

60. Крамер Г., Лидбеттер М., Стационарные случайные процессы, М.: Мир, 1969.-398 с.

61. Кули Дж. У., Льюис П.А., Уэлч П.Д. Быстрое преобразование Фурье и его применение к анализу временных рядов.// Статистические методы для ЭВМ. М.: Наука, 1986. С. 373-434.

62. Лайниотис Д.Г., Разделение единый метод построения адаптивных систем, ТИИЭР, 1976, т.64, №8. С. 8-27, 37-51.

63. Липцер Р.Ш., Ширяев А.Н. Статистика случайных процессов. М.: Наука, 1974.- 196 с.

64. Лукашин Ю.П. Адаптивные методы краткосрочного прогнозирования, М., Статистика, 1979. 254 с.

65. Льюис К.Д. Методы прогнозирования экономических показателей. М.: Фин. и стат., 1986. 132 с.

66. Льюнг Л. Идентификация систем. Теория для пользователя. М.: Наука, 1991.-429 с.

67. Мальнево Э., Статистические методы эконометрии, Вып. 1, 2, Статистика, 1976.-323 е., 423 с.

68. Масалович А. Нейронная сеть оружие финансиста М.: PC Week, №1, 1995. С. 9-12.

69. Масалович А. Программы, которые делают деньги: MetaStock и др. М.: PC Week, от 12 декабря, 1995. С. 53-54.

70. Масалович А. Этот нечеткий, нечеткий, нечеткий, мир М.: PC Week, №16 от 24 октября, 1995. С. 47-48, 50.

71. Мостеллер Ф., Тьюки Дж., Анализ данных и регрессия, т.1, 2. М.: Фин. и стат., 1982. - 319 е., 239 с.

72. Невельсон М.Б., Хасьминский Р.З. Стохастическая аппроксимация и рекуррентное оценивание М. Наука 1972. -304 с.

73. Немура А., Клекис Э. Оценивание параметров и состояния систем. Системы со скачкообразно меняющимися свойствами. Вильнюс: "Мокслас", 1988.

74. Огарков М.А. Методы статистического оценивания параметров случайных процессов. М., Энергоатомиздат, 1990. 208 с.

75. Орлов С. ПО статистического прогнозирования в бизнесе. М., Computer Week, №18 (224), 16-22 мая 1996. С. 27-28.

76. Осетинский Н.И. Обзор некоторых результатов и методов современной теории линейных систем.// Теория систем: математические методы и моделирование. М.: Мир, 1989. С. 328-379.

77. Панков А.П. Рекуррентное оценивание траектории динамических систем с помощью регрессионных нелинейных фильтров.// Статист, методы в теории управления ЛА: Тем. сб. научн. тр./ МАИ М.: Изд-во МАИ, 1990. С. 45-43.

78. Приходько M.JL, Многошаговый алгоритм фильтрации процессов в нелинейных дискретных стохастических системах. АиТ, №9, 1992. С. 86-91.

79. Пугачев B.C., Синицин И.Н. Стохастические дифференциальные системы. М.: Наука, 1985. 560 с.

80. Пугачев B.C., Синицин И.Н. и др. Математическое обеспечение для анализа многомерных нелинейных стохастических систем, АиТ, №1, 1991. С. 87-97.

81. Райфа Г., Щлейфер Р. Прикладная теория статистических решений. М.: Статистика, 1977. 345 с.

82. Репин В.Г., Тартаковский Г.П. Статистический синтез при априорной неопределенности и адаптация информационных систем. М.: Сов. радио, 1977.

83. Руденко Е.А. Оптимальная структура нелинейных фильтров конечного порядка. Препринт., М.: Изд-во МАИ, 1989. - 64с.

84. Руденко Е.А. Рекуррентные конечномерные алгоритмы распознавания режима работы и оценивания состояния интеллектуальных систем управления.// Информатика. Сер. Автоматизация проектирования/ М.: ВИМИ, 1992, вып.2-3. С.79-91.

85. Руденко Е.А. Оптимальная конечномерная нелинейная фильтрация марковских последовательностей и диффузионных процессов.// Диссертация на соиск. уч. степ. канд. физ.-мат. наук./ М.: МАИ, 1997. 166 с.

86. Сейдж Э., Меле Дж. Теория оценивания и ее применение в связи и управлении. М.: Связь, 1976. - 496 с.

87. Семенов В.В., Бортаковский А.С., Руденко Е.А. Оптимальное управление и конечномерное оценивания состояния логико-динамических систем./ Труды второго международного симпозиума "ИНТЕЛС'96". -М.: Изд.-во РУДНПАИМС, 1996. С. 124-129.

88. Семенов В.В., Пантелеев А.В., Руденко Е.А., Бортаковский А.С. Методы описания, синтеза, анализа нелинейных систем управления. М.: МАИ, 1993.-308 с.

89. Семенов В.В., Репин В.М., Журина Н.Э. Алгоритмизация процессов управления ЛА в классе логико-динамических систем: Учебное пособие. -М.: МАИ, 1987.

90. Сидоров В.П. Математические модели "вход-состояние-выход" в задачах теории автоматического управления. М.: МАИ, 1990. 62 с.

91. Сосулин Ю.Г. Теория обнаружения и оценивания стохастических сигналов. М.: Советское радио, 1978. - 320 с.

92. Сосулин Ю.Г., Юдин В.Н. Совместная фильтрация непрерывных и дискретных марковских последовательностей с ограничением сложности алгоритма./ Радиотехника и электроника, 1988, № 9. С. 1909-1918.

93. Тарасенко Ф.П. Непараметрическая статистика. Томск: Изд.-во Томского унив., 1976. 292 с.

94. Теория и практика статистического моделирования экономики./ под ред. Четыркина Е.М. и Класа A.M.: Фин. и стат., 1986. 272 с.

95. Тихонов А.Н., Уфимцев М.В. Статистическая обработка результатов экспериментов, М.: Изд.-во МГУ, 1988.

96. Тихонов В.И. Оптимальный прием сигналов, М., Радио и связь, 1983. -320 с.

97. Тихонов В.И., Кульман Н.К. Нелинейная фильтрация и квазикогерентный прием сигналов. М.: Советское радио, 1975.- 705 с.

98. Трифонов А.П., Шинаков Ю.С. Совместное различение сигналов и оценка их параметров на фоне помех. М.: Радио и связь, 1986.

99. Уаба Г. Оптимальное сглаживание оценок плотности.// Классификация и кластер. М.: Мир, 1980. С. 152-380.

100. Фадеев П.К., Сторожук О.А. Задачи и методы статистического прогнозирования. М.: ЦНИИ "Электроника", 1978. 44 с.

101. Фомин В.Н. Операторные методы теории линейной фильтрации случайных процессов. С.-П.: Изд. С.-П. Университета, 1996. 306 с.

102. Фомин В.Н. Рекуррентное оценивание и адаптивная фильтрация. М.: Наука, 1984.-285 с.

103. Харле В. Прикладная непараметрическая регрессия. М.: Мир, 1993. -346 с.

104. Хеннан Э. Многомерные временные ряды. М.: Мир. 1974.- 575 с.

105. Черепанов Е.В. Статистическое прогнозирование экономической динамики в терминах конечных разностей.// Тезисы докладов 4 сибирской научно-практической конференции по надежности научно-технических прогнозов. Новосибирск, 1987. С. 150-151.

106. Ширяев А.Н. Вероятность. М.: Наука, 1989. 633 с.

107. Эйкхофф П. Современные методы идентификации систем, М., Мир, 1993.- 586 с.

108. Chu С.-К., Marron J.S., Choosing a Kernel Regression Estimator, Statistical Science, 1991, Vol.6, No.4, 404-436.

109. Kosko B. Netural networks and fuzzy systems: a dynamical systems approach to machine inteligence. Prentice Hall, Englewood Cliffs, 1992. University of Southern California, NJ07633.

110. Robinson G.K. That BLUP is a good thing: the estimation of random effects. Statistical Science, 1991, Vol.6, No.l, 15-51.158