автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.16, диссертация на тему:Методы и алгоритмы предварительной обработки в задачах оценки параметров динамических моделей и прогноза по временным рядам

ВВЕДЕНИЕ.

1. ОБЗОР СОВРЕМЕННЫХ СТОХАСТИЧЕСКИХ МЕТОДОВ ПРОГНОЗИРОВАНИЯ ВРЕМЕННЫХ РЯДОВ.

1.1. Классическая теория экстраполяции случайных процессов. Теория фильтрации и экстраполяции.

1.2. Сущность принципа адаптации при стохастическом прогнозировании.

1.3. Обзор и классификация существующих адаптивных методов и моделей стохастического прогнозирования.

1.4. Структура одномерных стохастических разностных уравнений

1.5. Оптимальный алгоритм робастного оценивания и предсказания

2. ПРЕДВАРИТЕЛЬНЫЙ ЭТАП СТАТИСТИЧЕСКОЙ ОБРАБОТКИ В ЗАДАЧАХ ОЦЕНКИ ПАРАМЕТРОВ ДИНАМИЧЕСКИХ СИСТЕМ И ПРОЦЕССОВ.

2.1. Методы предварительной обработки.

2.2. Обзор теории выбросов в обработке данных и прогнозировании временных рядов.

2.3. Метод робастной процедуры определения засоренности исходных данных.

2.4. Сравнение устойчивости оценок.

3. ДИНАМИЧЕСКИЕ СИСТЕМЫ И РЕКОНСТРУКЦИИ ПО ВРЕМЕННОМУ РЯДУ

3.1. Введение.

3.2. Аппроксимация/и Б/по точкам на аттракторе.

3.2.1 Локальная размерность.

3.2.2. Восстановление уравнений движения в идеальном случае

3.2.3. Зашумлённая реконструкция и проекционная регуляризация отображения \|/.

3.3. Методы обработки временных рядов нелинейной динамики как алгоритмы решения некорректных задач.

3.4. Ляпуновские показатели.

3.4.1. Ляпуновские показатели и нормальный базис.

3.4.2. Подход Benettin и др. (алгоритм BGGS).

3.4.3 Оценка ляпуновских показателей по временному ряду: идеи и подходы.

3.5.0 возможности определить размерность cW по временному ряду

3.6. Матричный метод и его регуляризация.

3.6.1. Затухание возмущений ляпуновских векторов.

3.6.2. Оценки R<f°\векторы g{m>no) и е{щп°].

3.6.3 Бесконечно малые возмущения 8V.

3.6.4 Конечные возмущения.

4. РУСЛА И ДЖОКЕРЫ: О НОВЫХ МЕТОДАХ ПРОГНОЗА

ПОВЕДЕНИЯ СЛОЖНЫХ СИСТЕМ.

4.1. Введение. Проблема прогноза.

4.2. Предикторы и трехслойные нейронные сети.

4.3. Когда сложная динамика может быть предсказуема? Русла и джокеры.

4.4. Как могут возникать русла.

4.5. Русла и прогноз временных рядов.

4.6. Как искать русла?.

4.7. Что находится в конце русла?.

4.8. Модельный пример.

4.9. Выводы и гипотезы.

5. МЕТОД АДАПТИВОГШО ПРОГНОЗИРОЛВАНИЯ НА ОСНОВЕ

ДИСКРЕТНЫХ ОРТОГОНАЛЬНЫХ ПОЛИНОМОВ ЛАГЕРРА

5.1. Основные свойства ортогональных полиномов дискретного переменного.

5.2. Постановка математической задачи

5.2.1. Вывод формулы дискретных ортогональных полиномов Лагерра

5.2.2. Вывод основной рекуррентной формулы прогноза

5.3. Дисперсионный анализ метода

5.4. Систематические ошибки прогнозирующего полинома

Актуальность темы. Реальный изучаемый прогнозируемый процесс представляет собой, как правило, чрезвычайно сложное явление, которое отражает прямо или косвенно взаимосвязь формирующих его факторов. Поскольку обычно мало что известно о фактической связи этих факторов и их взаимном воздействии на изучаемый процесс, приходится обращаться к элементарной его модели, в которой совокупное влияние взаимодействующих факторов проявляется в неявной форме, а в роли единственного независимого параметра выступает время.

Проблема построения моделей по временным рядам является одной из классических. Соответствующие алгоритмы широко используются при решении задач управления, прогнозирования, диагностики, классификации или идентификации объектов исследования. Именно, на основании ограниченного количества информации временного ряда конечной длины, мы хотим делать выводы о механизме, порождающем этот ряд, анализировать структуру, лежащую в его основе. При исследовании временных рядов широко применяются два различных подхода, а именно стохастический и функциональный.

При стохастическом подходе данный временной ряд рассматривается как результат случайного выбора из некоторой совокупности возможных рядов. Таким образом, в нашем распоряжении имеется множество 9, в общем случае, векторных функций 0(7) с г компонентами. После того как на 0 определена вероятностная мера, мы получаем случайную функцию Дг, 0), значениями которой являются заданные функции 0(0- В этом случае мы имеем дело с теорией меры и вероятностными пространствами.

При функциональном подходе г-компонентный временной ряд интерпретируется как неслучайная функция из основного множества вида {Х({, у) = Х{1 + у)|у = 0, ±1; ±2, .}, где Д?) - заданная векторная функция с г компонентами. Этот подход можно отнести к так называемому обобщенному гармоническому анализу, изложенному впервые

Н. Винером. На сегодняшний день большая часть полученных результатов для двух подходов относится к линейным моделям. В то же время с развитием вычислительной техники постоянно расширяется интерес к построению и исследованию нелинейных моделей сложных процессов. Однако, использование нелинейных моделей сталкивается с рядом трудностей, поскольку многие из апробированных подходов не могут быть эффективно использованы. Кроме того, очень остро встает проблема выбора адекватного класса моделей, особенно в условиях малой выборки временного ряда, среди которых необходимо провести выбор оптимальных моделей, в общем случае, на основе многокритериальности.

Возможность количественно и качественно охарактеризовать какие-либо свойства предполагаемой модели и требования, которым она должна удовлетворять, обретает большую актуальность. Осуществление такого подхода связано, в первую очередь, с задачами предварительной обработки данных с целью охарактеризовать наиболее общие свойства будущей модели.

Характерная особенность временных рядов состоит в том, что необходимо изучить характер корреляции между значениями ряда в различные моменты времени и далее попытаться сконструировать статистические модели прогноза, объясняющие такую корреляционную структуру ряда. Это общее утверждение требует комментария. Обычно считается, что данный временной ряд {Хь / = 1,2, ., Щ - это отдельная выборочная реализация частного порождающего процесса 0, ±1, .}.

Порождающий процесс здесь предполагается, как способ, по которому для последовательных моментов времени образован временной ряд. В то же время этот способ не может определять фактическое значение ряда в какой-то момент времени в силу своей вероятностной природы.

Под анализом временного ряда, в таком случае, подразумевается оценивание и восстановление по данной реализации свойств порождающего процесса, лежащего в основе этого ряда.

После того, как временной ряд получен, перед исследователем возникают вопросы:

- являются ли полученные данные детерминированными или случайными;

- каковы свойства породившей их динамической системы, как можно охарактеризовать ее на основе только имеющегося временного ряда;

- как выбрать оптимальные методы их обработки;

- как трактовать вопросы «засорения» данных;

- принимать или не принимать во внимание «выбросы» в исходных данных.

Для выбора подходящего класса моделей среди множества возможных требуется удобный критерий, процедура или цель. К сожалению, этот критерий может быть точно определен только пользователем этой модели.

Идеальный критерий выбора подходящего класса моделей должен быть таким, чтобы выбранный класс обладал свойством, что наиболее подходящая модель в этом классе для заданного множества наблюдений проходит все критерии проверки адекватности при выбранном уровне значимости. Кроме того, модель должна давать удовлетворительное предсказание. Тогда можно быть уверенными, что модель удовлетворительно представляет данные, подтверждая этим правильность выбора определенного класса моделей.

Центральным понятием при изучении динамических систем с дискретным временем является понятие устойчивости - не асимптотической устойчивости отдельной орбиты, а структурной устойчивости всего дифференциального уравнения, отвечающего векторному полю. Важность понятия структурной устойчивости вытекает из того, что именно устойчивые векторные поля возникают в приложениях при моделировании реальных процессов: результаты моделирования не должны претерпевать качественных изменений при добавлении малых возмущений.

В основе большинства подходов, связанных с обработкой временных рядов х1,.,хдг, лежит построение так называемых запаздывающих векторов г-{хи хг+ь., хг+ь}, или, в терминах теории управления, векторов в пространстве состояний.

Согласно теореме Такенса, в нелинейной динамике установлен тот факт, что пространство состояний, а точнее, некоторое его подмножество, поверхность в нем, в определенном смысле эквивалентно фазовому пространству нелинейной динамической системы, породившей временной ряд. Это позволило предложить новый класс методов, связанных с определением по временному ряду не только параметров статистических моделей, но и инвариантов динамической системы - фрактальных размерностей, энтропии и ляпуновских показателей, позволяющих анализировать структуру прогнозируемого процесса.

Таким образом, в начале 80-х годов фактически возникло новое направление в анализе временных рядов, связанное с использованием идей нелинейной динамики и синергетики.

В 1982-1986 гг. были разработаны некоторые базовые алгоритмы оценки инвариантов динамической системы по временному ряду. В последующие годы они применялись к широкому спектру проблем, однако, в большом числе случаев результаты их использования были неоднозначны.

Причина затруднений в трактовке результатов такого моделирования заключается в том, что рассчитанный результат зависит не только от свойств динамической системы, но также от размерности использованного пространства состояний, способа построения порождающего процесса, длины выборки временного ряда. Поэтому, начиная с 1987 г. стали появляться работы, в которых отмечались и возможные ограничения методик. В основном оценки касались требований на длину выборки N для анализа системы данной размерности с1. В результате класс исследуемых моделей оказался ограничен только маломодовыми системами: реально чаще всего N < 105, с1 < 10. Однако даже такие оценки не могли объяснить сложности в интерпретации некоторых результатов. Оставался открытым ряд важных проблем применимости идей теории нелинейной динамики, и в первую очередь проблема очищения от «засоренности» исходных данных, и ряд других, решение которых и явилось целью данной работы.

Основная идея предлагаемого подхода к созданию комплекса моделей статистического прогнозирования временных рядов состоит в том, что на предварительном этапе их обработки проводится исследование основных свойств динамических систем, порождающих временной ряд, с изучением влияния "засоренности" исходных данных. Применение этих методик позволяет обосновать последующий выбор соответствующих моделей прогноза.

Цель работы состоит в том, чтобы, используя предложенную идею, разработать теоретические основы новых методов и алгоритмов предварительной обработки в задачах оценки параметров динамических систем и прогноза временных рядов на базе изучения динамических свойств прогнозируемых процессов и «засоренности» исходных данных. И далее на основе разработанной теории сконструировать близкие к наилучшим алгоритмы решения практических задач анализа и прогноза сложных систем.

Научная новизна:

1. Разработана теория оптимальных алгоритмов для робастного оценивания и предсказания в задаче восстановления прогнозирующей функции по уменьшенному объёму исходных данных в условиях неопределённости.

2. Разработаны методы и алгоритмы исследования устойчивости оценок исходных данных временных рядов с выяснением их засорённости и наличия выбросов.

3. Исследовано важное свойство статистических оценок - экспонента устойчивости оценки, зависящая от экспоненты максимального момента линеаризованной оценки.

4. Исследованы особенности применения методов нелинейной динамики при обработке временных рядов, их возможности, ограничения на этапе предварительной обработки при построении модели прогноза.

5. Предложен новый метод разработки класса базовых параметрических моделей прогноза на основе ортогональных дискретных полиномов.

6. Разработаны и обоснованы алгоритм построения архитектуры и программное обеспечение системы статистического прогнозирования временных рядов.

Методика исследования. Для формализованного описания рассматриваемого класса динамических систем, наблюдаемых в виде временных рядов, используется современная теория нелинейной динамики, а также теории случайных процессов и математической статистики. При создании класса функциональных параметрических моделей прогнозирования использован обобщенный гармонический анализ на основе применения дискретных ортогональных полиномов. При реализации программной системы использованы методы алгоритмизации и языки высокого уровня для современных персональных компьютеров.

Теоретическая и практическая ценность. Материал диссертации в целом представляет собой основы теории предварительного анализа задач оценки параметров и структур моделей прогноза временных рядов в условиях «засоренности» данных при построении класса параметрических моделей прогноза.

Развитая техника применима к исследованию разнообразных практических задач. Разработанные методы могут быть применены в дальнейших исследованиях динамических систем с различного рода ограничениями.

Создан программный комплекс, реализующий разработанные методы и алгоритмы. Программы использовались в ряде организаций (МГГУ, МГИМО, МГИЭМ, МЭИ, ИПУ РАН, Министерство экономики РФ, Челябинский региональный центр).

Апробация работы. Основные результаты диссертации докладывались

- на XI Всесоюзной школе-семинаре «Управление большими системами» (Молстай, сентябрь 1988 г.);

- на международной конференции "Нелинейные явления" (Москва, 1989 г.);

- на Jffll Всесоюзном симпозиуме «Логическое управление с использованием ЭВМ» (Симеиз, 1990 г.);

- на Международном конгрессе «Развитие мониторинга и оздоровление окружающей среды» (Казань, 1994 г.);

- на республиканской конференции «Интеллектуальные информационные технологии и стратегии в системной информации Уральского региона» (Челябинск, 1994 г.);

- на Международном конгрессе «Информационные процессы, технологии, системы, коммуникации и сети» (Москва, 1995 г.);

- на Международной конференции «Noulinear Techniques in Physiological Time Series Analysis» (ФРГ, 1995 г.);

- на Международном конгрессе «Информационная математика, кибернетика, искусственный интеллект» (Москва, 1996 г.);

- на VI Санкт-Петербургской международной конференции «Региональная информатика-98» (Санкт-Петербург, 1998 г.);

- на III Всероссийской научно-технической конференции «Информационные технологии и системы» (Воронеж, 1999 г.)

Публикации. По теме диссертации опубликовано 20 печатных работ.

Структура работы. Диссертационная работа состоит из введения, пяти глав, заключения и списка литературы.

Основные результаты диссертации:

1. Рассмотрен класс задач оценки параметров и прогноза для систем с динамическим хаосом. Разработан ряд новых алгоритмов нелинейной динамики при обработке временных рядов. Проведено исследование возможностей и ограничений методов нелинейной динамики, ориентированных на обработку временных рядов.

2. Разработан новый статистический подход к проблеме борьбы с «засоренностью» исходных данных и выявлению возможности сохранить, сгладить или отбросить такие отдельные значения временного ряда как выброс.

3. Исследована проблема устойчивости оценок временного ряда и их сравнение. Показано, что характеристики устойчивости зависят от экспоненты максимального момента линеаризованной оценки, а не от экспоненты максимального момента самой оценки. Сделано обобщение этого результата на случай моделей с независимыми, но не одинаково распределенными наблюдениями.

4. Построен новый класс параметрических моделей прогноза временных рядов на основе дискретных ортогональных полиномов, исследована эффективность данного класса моделей в зависимости от степени полинома и периода прогноза.

5. Реализован пакет программ статистического прогнозирования, реализующий разработанную концепцию предварительного анализа и прогноза временных рядов.

1. Хакен Г. Синергетика, М.:Мир, 1980, 404с.

2. Николис Г., Пригожин И. Самоорганизация в неравновесных системах. М.: Мир, 1979, 512 с.

3. Рабинович М.И., Трубецков Д.И. Введение в теорию колебаний и волн. М.: Наука, 1984,432 с.

4. Шустер Г. Детерминированный хаос. Введение, М.: Мир, 1988, 240 с.

5. Неймарк Ю.И., Ланда П.С. Стохастические и хаотические колебания. М.: Наука, 1987,424 с.

6. Ланда П.С. Нелинейные колебания и волны. М., Наука Физматлит, 1997, 495 с.

7. Берже П., Помо П., Видаль С. Порядок в хаосе. М: Мир, 1991.

8. Анищенко B.C. Сложные колебания в простых системах, М: Наука, 1990,312 с.

9. Бабин А.В., Вишик М.И. Аттракторы эволюционных уравнений, М.: Наука, 1989, 296 с.

10. Ю.Заславский Г.М., Сагдеев Р.З. Введение в нелинейную физику. От маятника до турбулентности и хаоса, М.: Наука, 1988, 368 с.

11. Т.С. Ахромеева, С.П. Курдюмов, Г.Г. Малинецкий, А.А. Самарский. Нестационарные структуры и диффузионный хаос. М. Наука, 1992.

12. Лоскутов А.Ю., Михайлов А.С. Введение в синергетику. М., Наука, 1990.

13. Дмитриев А.С., Кислов В.Я. Стохастические колебания в радиофизике и электронике. М., Наука, 1989.

14. Eckmann J.P., Ruelle D. Ergodic theory of chaos and strange attractors. Rev. Mod. Phys., 1985, v.57, No3, p.617-656.

15. Abarbanel H.D.I., Brown R., Sidorowich J.J., Tsimring L.S., The analysis of observed chaotic data in physical systems. Rev. Mod. Phys., 65 (1993) 13311391.

16. Kostelich E.J., Schreiber T. Noise reduction in chaotic time-series data: a survey of common methods. Phys. Rev. E, 48 (1993) 1752-1763.

17. Belsley D.A., E.Kuh, and R.E.Welsch (1980): Regression Diagnostics. New York: John Wiley & Sons.

18. Cooc, R.D. (1977): «Detection of Influential Observations in Linear Regression», Technometrics, 19,15-18.19.(1979): «Influential Observations in Linear Regression», Journal of the American Statistical Associatijn, 74,169-174.

19. Crowder, M.J. (1976): "Maximum Likelihood Estimation for Dependent Observations", Journal of the Royal Statistical Society, Series B, 38,45-53.21.(1986)" "On Consistency and Inconsistency of Estimating Equations", Econometric Theory, 2, Forthcoming.

20. Hampel, F.R. (1971): "A General Qualitative Definiction of Robuctness", Annals of Mathematical Statistics, 42,1887-1896.23.(1974): "The Influence Curve and Its Role in Robust Estimation", Journal of the American Statistical Association, 69, 383-393.

21. Kinal, T.W.: "The Existence of Moments of k-Class Estimators", Econometrica, 42, 517-527.

22. McLeish, D.L. (1975): "A Maximal Inequality and Dependent Strong Laws", Annals of Probabilety, 3, 829-239.

23. Miller, R.G. (1974): "The Jackknife A Review", Biometrika, 61,1-15.

24. Tukey, J. (1958): "Bias and Confidence in Not-quite Large Samples", Abstract, Annals of Mathematical Statistics, 29, 614.

25. Withers, C.S. (1981): "Conditions for Linear Processes to be Strong-Miing", Z. Wahrscheinlichkeirstheorie verwabdte Gebiete, 57, 477-480.

26. Немыцкий В.В., Степанов В.В. Качественная теория дифференциальных уравнений. M.-JL, ОГИЗ, 1947.

27. Guckenheimer J., Holmes P. Nonlinear oscillations, dynamical systems and bifurcations of vector fields, NY: Springer, 1983, 453p.

28. C.A.Micchelli and T.J.Rivlin, "A survey of optimal recovery", in Ortimal Estimation in Approximation Theory, C.A.Micchelli and T.J.Rivlin, Eds. New York: Plenum, 1977, pp. 1-54.

29. A.G.Marchuk and K.Yu.Oshipenko, "Best approximation of points (in Russian), Mat. Notes, vol. 17, pp. 207-212, 1975).

30. M.Milanese and G.Belforte, "Estimation theory and uncertainty invervals evaluation in presence of unknown but bounded errors: Linear Families of models and estimators", IEEE Trans. Automat. Contr., vol. AC-27, pp. 408414,1982.

31. Сарымсаков T.A., Мурзахмедов M.A. Стационарные процессы на топологических полуполях и задача их прогнозирования. Научные труды Ташкентского университета, 1970, вып. 394, с. 169-175.

32. Яглом A.M. Введение в теорию стационарных случайных функций. УМН, VII, 5, 1952, 3-168.

33. Яглом A.M. Экстраполяция, интерполяция и фильтрация стационарных случайных процессов с рациональной спектральной плотностью. Труды Моск. матем. общества, Т. 4, М., 1955, с. 333-374.

34. Винер Н. Нелинейные задачи в теории случайных процессов. ИЛ. М., 1961.

35. Пугачев B.C. Теория случайных функций и ее применение к задачам автоматического управления. Физматгиз, 1962.

36. Сарымсаков Т.А. Основы теории процессов Маркова. М., Гостехиздат, 1954.

37. Г.Г.Малинецкий, А.Б. Потапов. Геометрия странных аттракторов и вычисление ля-пуновских показателей по временным рядам Препринт ИПМ им. М.В.Келдыша АН СССР, 1991, №13. 28

38. Malinetskii G.G., Potapov А.В., Rakhmanov A.I. Limitations of delay reconstruction for chaotic dynamical systems. Phys. Rev. E, 48 (1993) 904912.

39. Степанов A.B., Редкозубов C.A. Статистические методы прогноза временных рядов (предварительный анализ и модели прогноза). М., изд. МГГУ, 2000, 242.

40. Stepanov A. Stability comparisons of estimators / "Advances in Modelling & Analysis", B. v.30. № 3. 1994, p.14-28.

41. Stepanov A. Decision theoretic measures of influence in regression. "Advances in Modelling & Analysis", A. v.30. № 2 1995, p.63-71.

42. Степанов А.В., Редкозубов С.А. Применение дискретных ортогональных многочленов к системам оптимального управления. Тез. докл. IV Международного форума информатизации. М., 1995, с. 48-57.

43. Степанов А.В., Редкозубов С.А. Метод нелинейной динамики к теории прогнозирования временных рядов. Труды VI Всероссийской конференции «Повышение эффективности и средств обработки информации», Тамбов, 2000, с. 48-61.

44. Степанов А.В., Редкозубов С.А. Наблюдаемость систем на группах Ли. Тез. докл. 5-й международной школы «Хаотические автоколебания и образование структур», Саратов, 1998, с. 58-60.

45. Степанов А.В. Ограничения возможностей реконструкции аттрактора для динамических систем. Тезисы докладов международной конференции "Нелинейные явления". Москва 1989 г. с.43-45.

46. Степанов А.В. О новых методах прогноза поведения и прогноза сложных систем. Тезисы докладов международной конференции "Нелинейные явления". Москва 1989 г. с.63-65.

47. Степанов А.В. К вопросу о вычислении размерностей странных аттракторов. Труды III Международной конференции «Устойчивое развитие горных территорий», Владикавказ, 1998, с. 63-68.

48. Stepanov A. Characteristic scales of reconstruction distortion. Int. J. Buftirc Chaos, 8 (1998), 851-862.

49. Степанов А.В. Интеллектуальные системы экологического мониторинга и прогнозирования. Труды Международного конгресса «Развитие мониторинга и оздоровление окружающей среды», Казань, 1994, с. 5861.

50. Степанов А.В., Редкозубов С.А. Обзор теории выбросов в обработке данных и прогнозировании временных рядов. Препринт МГГУ, 1999, № 3, 28 с.

51. Степанов А.В., Редкозубов С.А. Ортогональные дискретные многочлены в прогнозировании временных рядов. Препринт МГГУ, 1999, №4, 31 с.

52. Степанов А.В. Байесов подход к многошаговому прогнозу для разностных стохастических уравнений. Сборник научных трудов Воронежского государственного технического университета. Воронеж, 1999, с. 211-224.

53. Степанов А.В. Методы статистического оценивания неизвестных параметров модели прогнозирования в экономике. Труды научного семинара МИЭМ «Новые информационные технологии», М., 1999, с. 59-68.

54. Степанов А.В. Задача нелинейного прогнозирования в проблеме оценки экономических последствий принятия решений. Труды научного семинара МИЭМ «Новые информационные технологии», М., 1999, с. 43-51.

55. Степанов А.В., Редкозубов С.А. Идентификация прогностических моделей на основе фидуциального подхода. Труды научного семинара МИЭМ «Новые информационные технологии», М., 1999, с. 21-28.

56. Степанов А.В., Редкозубов С.А. Разработка пакета программ по обработке временных рядов и методам статистического прогнозирования. Труды научного семинара МИЭМ «Новые информационные технологии», М., 2000,16-25.

57. Степанов А.В. Алгоритмы обнаружения изменения свойств временных рядов. Труды научного семинара МИЭМ «Новые информационные технологии», М., 2000, с. 31-42.

58. Takens F. Detecting strange attractors in turbulence. Lect. Notes in Math, Berlín: Springer, 1981, v.898, 336-381.

59. Sauer Т., Yorke J.A., Casdagli M. Embedology. J. Stat. Phys., 65 (1991) 579.

60. Стернберг С. Лекции по дифференциальной геометрии. М.:Мир, 1970

61. Mane R. On the dimensión of the compact invariant sets of certain non-linear maps. Lect. Notes in Math, Berlin: Springer, 1981, v.898, 230-242.

62. Foias C., Sell G.R., Temam R. Inertial manifolds for nonlinear evolutionary equations. J. Differential Equations, 73 (1988) 309-353.

63. Temam R. Infinite-dimensional dynamical systems in mechanics and physics. Springer, 1988.

64. Broomhead D.S., Jones R., King G.P., Topological dimension and local coordinates from time series data. J. Phys. A, 20 (1987) L563-L569.

65. Packard N.H., Crutchfield J.P., Farmer J.D., Shaw R.S. Geometry from a time series. Phys. Rev. Lett., 45 (1980) 712.

66. Liebert W., Pawelzik K., Schuster H.G., Optimal embedding of chaotic at-tractors from topological considerations. Europhys. Lett., 14 (1991) 521.

67. Ababrbanel H.D.I., Kennel M.B., Local false nearest neighbors and dynamical dimensions from observed chaotic data. Phys. Rev. E, 47 (1993) 3057.

68. Casdagli M., Eubank S., Farmer J.D., Gibson J. State space reconstruction in presence of noise. PhysicaD, 51 (1991) 52.

69. Broomhead D.S., Jones R. Time-series analysis. Proc. R. Soc. Lond. A, 423,(1989) 103.

70. Davies M.E. Reconstructing attractors from filtered time series. Physica D, 101 (1997) 195-206.

71. Mandelbrot B. B. Fractals: form, chance and dimension, S.F.: Freeman, 1977, 365p; Mandelbrot B.B., The fractal geometry of nature. S.F.: Freeman, 1983, 468p.

72. Grassberger P., Procaccia I. Estimation of Grassberger P., Procaccia I. Measuring the strangeness of strange attractors. PhysicaD, 9 (1983) 189-208.

73. Theiler J. Estimating fractal dimension. J.Opt.Soc. Am. A, 7 (1990) 1055.

74. Cutler C.D. A review of the theory and estimation of fractal dimension. In: Dimension Estimations and Models, ed. Tong H., WS, Singapore, 1993, 1107.

75. Grassberger P. An optimized box-assisted algorithm for fractal dimensions. Phys. Lett. A, 148 (1990) 63.

76. Cenys A., Pyragas K., Estimation of the number of degrees of freedom from chaotic time series. Phys. Lett. A, 129 (1988) 227-230.

77. Greenside H.S., Wolf A., Swift J., Pignataro T. Impracticality of a box counting algorithm for calculating the dimensionality of strange attrac tors. Phys. Rev. A, 25 (1982) 3453-3456.

78. Smith L. A. Intrinsic limits on dimension calculations. Phys. Lett. A, 133 (1988) 283-288.

79. Eckmann J.-P., Ruelle D. Fundamental limitations for estimating dimensions and Liapunov exponents in dynamical systems. Physica D, 56 (1992) 185187.

80. Ruelle D., Deterministic chaos: the science and the fiction. Proc. Roy. Soc. London A 427 (1990) 241.

81. Dimensions and Entropies in Chaotic Systems, Berlin: Springer, 1986, 257p.

82. Ляпунов AM. Собр. соч. т.2, М.-Л., 1956, 7-263.

83. Былов Б.Ф., Виноград Р.Э., Гробман Д.М., Немыцкий В.В. Теория показателей Ляпунова и ее приложения к теории устойчивости. М., 1966.

84. Оселедец В.И. Мультипликативная эргодическая теорема. Характеристические показатели Ляпунова динамических систем. Труды Моск. мат. общества, 19 (1968) 179-210.

85. Benettin G., Galgani L., Giorgilli A., Strelcin J.M. Lyapunov characteristic exponents for smooth dynamical systems and for hamiltonian systems; a method for computing all of them. Meccanica, 1980, v.15, Nol, 9-30.

86. S. V. Ershov. Lyapunov exponents as measure averages. Phys. Lett. A. 176 (1993), 89-95.

87. Wolf A., Swift J.B., Swinney H.L., Vastano J A. Determining Lyapunov exponents from a time series. Physica 0,16 (1985) 285-317.

88. J.-P.Eckmann, S.O.Kamphorst, D.Ruelle, S.Ciliberto. Liapunov exponents from time series. Phys. Rev. A 34 (1986), 4971-4779.

89. Sano M., Sawada Y., Measurment of the Lyapunov spectrum from a chaotic time series. Phys. Rev. Lett., 55 (1985) 1082-1085.

90. Sato S., Sano M., Sawada Y., Practical methods of measuring the generalized dimension and the largest Lyapunov exponent in high dimensional chaotic systems, Progr. Theor. Phys., 77 (1987) 1-5.

91. Vastano J.A., Kostelich E.J., Comparison of algorithms for determining Lyapunov exponents from experimental data. In: Dimensions and entropies in chaotic systems. Berlin: Springer, 1986, p.100-107.

92. Ланда П.С., Четвериков В.И. К вопросу о вычислении максимального ляпуновского характеристического показателя по одной экспериментальной реализации. Жури. Техн. Физ., 58 (1988)433-441.

93. Stoop R., Parisi J. Calculation of Lyapunov exponents avoiding spurious elements. PhysicaD, 50 (1991) 89-94.

94. M.T.Rosenstein, J.J.Collins, C.J. De Luca A practical method for calculating largest Lyapunov exponents from small data sets. Physica D 65 (1993), 117

95. H.Kantz. A robust method to estimate the maximal Lyapunov exponent of a time series. Phys. Lett. A 185 (1994) 77.

96. Кашьяп P.Л., Pao A.P. Построение динамических стохастических моделей по экспериментальным данным. М., Наука, 1983.

97. Льюнг Л. Идентификация систем. Теория для пользователя. М.: Физматлит, 1991.

98. Деруссо П., Рой Р., Клоуз Ч. Пространство состояний в теории управления. М., Наука,1970.

99. Ивахненко А.Г., Лапа В.Г. Предсказание случайных процессов. Киев, Наукова думка, 1971.

100. Пугачев B.C., Синицын И.Н. Стохастические дифференциальные системы. М., Наука, 1985. Phys., 77 (1987) 1-5.

101. Cremers J., Hubler A. Construction of differential equation from experimental data. Z. Naturforsch, 41a (1987) 797-802.

102. Kuo, B.C., 1980, Digital Control Systems (Holt, Rinehart and Winston).

103. Maione, В., and Turchiano, B,. 1985, Int. J. Control, 41, 245.

104. Neuman, C.P., and Schonbach, D.I., 1974. Int. J. numer. Meth. Engng, 8, 743.

105. Perov, V.P., 1976, Autom remote Control, 37,1517.

106. Sage, A.P., 1977, Optimal Systems Control (Englewood Cliffs, N. J.: Prentice-Hall).

107. Zienkiewicz, D.C., and Morgan, K., 1982, Finite Elements and Approximation (new York: Wiley-Interscince).

108. Герценштейн С.Я., Родичев Е.Б., Шмидт B.M. Взаимодействие трехмерных волн во вращающемся горизонтальном слое, подогреваемом снизу. ДАН СССР, 238, N3 (1978).

109. Provenzale A., Smith L.A., Vio R., Murante G. Distinguishing between low-dimensional dynamics and randomness in measured time series. Physica D, 58(1992)31-49.

110. Kennel M.B., Isabelle S., Method to distinguish possible chaos from colored noise and to determine embedding parameters. Phys. Rev. A , 46 (1992) 3111-3118.

111. Savit R., Green M. Time series and dependent variables. Physica D, 50 (1991)95-116.

112. Savit R., Green M. Dependent variables in broad band continuous time series. Physica Ц 50 (1991) 521-544.

113. Pompe B. Measuring statistical dependencies in a time series. J. Stat. Phys., 73 (1993) 587.119. Physica D, 1992, v.58.

114. Р.Гантмахер. Теория матриц. M.: 1953.

115. Kostelich E.J., Yorke J.A. Noise reduction in dynamical systems. Phys. Rev. A, 38 (1988), 1649-1652.

116. Пределы предсказуемости. Сб. статей., ред. Ю.А.Кравцов, М., Цен-трком, 1997.

117. Яглом A.M. Введение в теорию стационарных случайных функций, УМН, 7, вып. 5 (51), 1952.

118. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. М.: Мир, 1974.

119. Harrison P.J. Exponential smoothing and short-term sales forecasting. -Mgmt. Sci, 1967, 30, N11, p. 126-148.

120. Harrison P.J. Short-term sales forecasting. Appl. Stst. 1965. vol. 14, N 2-3, p. 76-92.

121. Holt С.С. Forecasting trends and seasols by exponentially weighted moving average. O.N.R. Memorandum, Carnegie Inst, of Technology, 1957, n. 52.

122. Holt C.C. Forecasting seasonals and trends by exponentially weighted moving averages. -Carnegie Institute of Technology, Pittcburgh, Pennsylvanis, 1957, p. 412.

123. Kalman R.E., Bucy R.S. New Results in linear filtering and predication theory. -1, of Basic Eng. Trans. ASME, 1960, N 60, p. 51-91.

124. Morrison N. Smoothing and extrapolation of time series by means of discrete Laguerre polynomials. SJAM J. Appl. Math., 1967, xol. 15, p. 516538.

125. Wheelwright S., Makridakis S. Forecasting with adaptive filtering. Rev. Franc. Automat., Jnform, Rech. oper., 1973, vol. 7, N v-1, p. 31-52.

126. Winer N. Extrapolation, interpolation and smoothing of stationary time series. John Wiley. -N.Y., 1949, p. 418.

127. Kalman R.E., Bucy R.S., New Results in Lunear Filtering and prelbction theory, J. of Basic Eng., Ser. D83, 5 (1961).

128. Box G.E. P., Cox D.R., An analysis of trancformations, J. Roy. Stat. Soc., B26, 211 (1964).

129. Колмогоров A., Sur l'interpolation et l'extrapolation des suites snanionnaries, Compt. Rend., 208, 2043 (1939).

130. Колмогоров A.H. Стационарные последовательности в гильбертовом пространстве. Бюлл. МГУ, 2, № 6,1-40 (1941).

131. Колмогоров А.Н., Интерполяция и экстраполяция стационарных случайных последовательностей, Изв. АН СССР, сер. матем., 5, № 3 (1941).

132. Ширяев А.А. Статистический последовательный анализ. М.; Наука, 1976.

133. Липцер Р.Ш., Ширяев А.Н. Статистика случайных процессов. М.; Наука, 1974.

134. Fujisaku М., Kallianpur G., Kunita Н. Stochastic differetial equations for the njnlintar filtering problem. Osaka, J. Math., v.9,1972.

135. Kunita H. Asymptotic behavior of the nonlinear filtering errors of Markov Processes. J. Multyvar. Anal. 1971.

136. Busy R.S., Josef P.D. Filtering for Stochastic Processes with Applications to Guidance. John Wiley&Sons, Inc. New-York, 1968.

137. Courrege P. Integrales stochastiques et martingales de carre integrable. Semin Brelot-Choquet-Deny, 7-e annee, 1962.

138. Розанов Ю.А. Теория обновляющих процессов. М., Наука, 1988.

139. Григолионис Б. О стохастических уравнениях нелинейной фильтрации случайных процессов. Лит. мат. сб. 1972. vl2, №4.

140. Сургайлис Д. Непараметрические оценки плотности вероятности в задачах обработки результатов наблюдений. Лит. мат. сб. 1977. VII, №1.

141. Цыпкин Я.З. Адаптация и обучение в автоматических системах. М., Наука, 1968.

142. Brown K.G. Smoothing, forecasting and prediction of discrete time series. N.Y. 1963.

143. Nerlove M. Wedge C. Spectral analysis of seasonal adjustment procedures. Econometrica, 32. 1964

144. Trig D., Leach A. Optimal properties of exponentially weighted forecasts of time series with permanent and transitory components. J. Amer. Stat. Assoc., 55,1960.

145. Pao C.P. Линейные статистические методы и их применение. М., Наука, 1968.

146. Bernoulli D. (1777), The most probable choice between several discrepant observations and the formation theorem of the most likely induction. In C.G. Allen. Biometrika, 48. 1961.

147. Neyman J., Scott E. L. Outlier Proneness of Fenomena and of Related Distributions. Optimizing Methods in Statistics. N.Y. 1971.

148. Green R.F. A Note on Outlier-Prone Families of Distributions. Annals of Statistics., 2,1974