автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Анализ и прогнозирование сложных стохастических сигналов на основе методов выделения границ реализаций динамических систем

На правах рукописи

Егошин Алексей Валерьевич

АНАЛИЗ И ПРОГНОЗИРОВАНИЕ СЛОЖНЫХ СТОХАСТИЧЕСКИХ СИГНАЛОВ НД ОСНОВЕ МЕТОДОВ ВЫДЕЛЕНИЯ ГРАНИЦ РЕАЛИЗАЦИЙ ДИНАМИЧЕСКИХ СИСТЕМ

Специальность 05.13.18 - «Математическое моделирование, численные методы и комплексы программ»

Автореферат

диссертации на соискание ученой степени кандидата технических наук

Санкт-Петербург - 2009

003488594

Работа выполнена в государственном образовательном учреждении высшего профессионального образования «Марийский государственный технический университет».

Научный руководитель:

Официальные оппоненты:

доктор технических наук, профессор Сидоркина Ирина Геннадьевна

доктор технических наук, профессор Коробейников Анатолий Григорьевич

Ведущая организация:

кандидат технических наук, доцент Бондаренко Игорь Борисович

Казанский государственный технический университет им. А.Н. Туполева

Защита диссертации состоится «23» декабря 2009 г. в 15 ч. 30 мин. на заседании диссертационного совета Д 212.227.06 при Санкт-Петербургском государственном университете информационных технологий, механики и оптики по адресу: 197101, г. Санкт-Петербург, пр. Кронверкский, д.49.

С диссертацией можно ознакомиться в научной библиотеке Санкт-Петербургского государственного университета информационных технологий, механики и оптики.

Автореферат разослан « Л-З » КОЛ 2009 г.

Ученый секретарь диссертационного совета, ~

доктор технических наук, профессор — Лисицына Л.С.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследования. Современная хозяйственно-экономическая деятельность человека не возможна без принятия решений, основанных на прогнозировании развития текущей ситуации. Это справедливо для многих сфер: в экономике, в промышленном производстве при управлении технологическими процессами, здравоохранении и др.

Автоматизация сбора данных, широкое использование информационных технологий и вычислительных средств обработки числовой информации связаны с накоплением и обработкой значительных объемов наблюдений. Временные ряды (значения сигналов) при этом получаются значительной длины с высокой степенью дискретизации, что позволяет рассматривать их как эволюционные. Для сложных стохастических нестационарных сигналов сам источник можно рассматривать как нелинейную динамическую систему (ДС) с неизвестными уравнениями фазовой траектории движения («черный ящик»), где сам сигнал является наблюдаемой реализацией данной системы.

Задачу прогнозирования временных рядов решали отечественные и зарубежные специалисты: Ю.И. Журавлев, Г. Г. Малинецкий, А.Г. Беляков, А.Г. Ивахненко, В.П. Боровиков, A.C. Мандель, A.A. Френкель, Е.М. Четыркин, X. Акаике, Д. Бокс, Р. Браун, Д. Бриллинджер, Г. Джен-кинс и др.

Среди основных моделей и технологий прогнозирования можно выделить: авторегрессионные модели, нейронные сети, методы, классификации в контексте прогнозирования, метод группового учета аргументов, метод Гусеница, вейвлет-анализ. Данные и другие разработки применяются при построении прогнозов, однако в области применения их к стохастическим, нестационарным эволюционным рядам трудно выделить наиболее подходящий метод.

Так как все известные методы прогнозирования основываются на анализе прошлых значений сигнала, встает вопрос выбора объема ретроспективы, которая, с одной стороны, не будет учитывать явно устаревшие значения, а с другой, - будет достаточно длинной, чтобы уловить глобальную тенденцию движения сигнала. Поэтому наряду с разработкой методов прогнозирования остро стоит проблема разработки метода математически обоснованного выбора ретроспективного объема данных для использования их в прогнозирующем аппарате. Решение данного вопроса предлагается на основе задачи о разладке, теории ди-

намических систем и модифицированной парадигмы русел и джокеров Г.Г Малинецкого. В ее рамках временной ряд рассматривается как наблюдаемые реализации ДС с неизвестными уравнениями фазовой траектории («черный ящик»), которые эволюционно (или скачками) переходят одна в другую. Тогда для построения достоверного прогноза используется ретроспектива временного ряда, являющаяся реализацией последней динамической системы на этапе эволюции глобальной ДС, так как каждая такая система проще (ее можно рассматривать как ква-зидетерминированную), чем их совокупность, а значит, и смоделировать ее легче. Это дает возможность более точно идентифицировать текущую динамик>' изменения сигнала, что, в конечном итоге, позволит строить в общем случае более точный прогноз, чем при выборе ретроспективы, исходя только из чисто эмпирических соображений. Поэтому актуальным является решение задачи определения границ реализаций ДС по наблюдаемому сигналу.

Цель диссертационной работы - разработка методов и алгоритмов выделения в сложном стохастическом сигнале границ перехода между динамическими системами, генерирующими сигнал и повышение на основе этого эффективности прогнозирования. Достижение поставленной цели предполагается осуществить на основе решения следующих задач:

1) провести анализ современных методов прогнозирования и обнаружения разладки в сложных стохастических сигналах;

2) разработать метод выделения границы реализации динамических систем на основе обнаружения изменения в локальной фрактальной размерности сигнала;

3) разработать методы предобработки временного ряда, позволяющие выявить временные характеристики сигнала;

4) разработать метод прогнозирования на основе анализа времени достижения заданного порога изменения сигнала;

5) разработать метод прогнозирования на основе локальных экстремумов сигнала заданного порога;

6) разработать программный комплекс, реализующий описанные выше методы обнаружения разладки и прогнозирования.

Объект исследования - сложный стохастический наблюдаемый сигнал.

Предмет исследования - методы обнаружения границы перехода в сложных стохастических сигналах от одной динамики к другой, позволяющие выделить для обучения предиктора фрагмент сигнала с квази-

стабильной динамикой, прогнозирующие модели на основе аппроксимации и классификации.

Методы исследования. Для решения поставленных задач использовались методы анализа фрактальности сигнала, методы теории хаоса, математической статистики и нелинейной динамики, спектральный анализ, нейронные сети.

Научные положения, выносимые на защиту:

1) метод обнаружения границы реализации динамических систем в сложном сигнале по наличию разладки в самом сигнале и локальной фрактальной размерности сигнала;

1) метод оценки степени уверенности обнаружения разладки в сигнале;

2) метод прогнозирования на основе анализа времени достижения заданного порога изменения сигнала;

3) способ повышения эффективности прогнозирования на основе анализа времени достижения заданного порога изменения сигнала.

4) метод прогнозирования на основе локальных экстремумов сигнала заданного порога.

Научные результаты. Проведенные исследования показали применимость выдвинутой гипотезы о сложном стохастическом сигнале как последовательности реализаций динамических систем, эволюцион-но или скачкообразно переходящих одна в другую. Получены следующие основные научные результаты:

1. Разработан метод обнаружения границы реализаций динамических систем в сложном сигнале по наличию разладки в самом сигнале и стабильности локальной фрактальности сигнала, позволяющий повысить точность обнаружения разладки в зашумленных сигналах по сравнению с известными.

2. Предложен метод оценки степени уверенности обнаружения разладки в сигнале по количеству локальных экстремумов заданного порога в решающей функции метода обнаружения, позволяющий получить численное значение степени наличия разладки в сигнале, что актуально для сложных сигналов, в которых разладку можно обнаружить и на постоянной динамике.

3. Разработан метод прогнозирования на основе преобразования временного ряда сигнала в ряд значений времени достижения заданного порога изменения, позволяющий агрегировать сигнал, отфильтровывая несущественные в практическом смысле колебания и подходить к задаче прогнозирования, как к задаче определения времени, которое потребуется для того, чтобы сигнал изменился на заданный порог.

4. Предложен способ повышения эффективности метода прогнозирования на основе преобразования временного ряда сигнала в ряд значений времени достижения заданного порога изменения.

5. Разработан метод прогнозирования на основе локальных экстремумов сигнала заданного порога, позволяющий прогнозировать существенные, в практическом отношении, изменения сигнала на основе отнесения локального экстремума к определенному классу в многомерном пространстве признаков.

Практическая ценность. Разработано программное обеспечение, реализующее методы и алгоритмы обнаружения границ реализаций динамических систем и прогнозирования. Данное обеспечение может применяться для анализа и прогнозирования сложных стохастических сигналов различного генезиса, например технологических данных и др.

Достоверность полученных результатов. Обоснованность и достоверность положений, выводов и рекомендаций подтверждаются использованием классических методов анализа и моделирования сигналов, методов математической статистики, нелинейной динамики, теории хаоса, а также вычислительными экспериментами.

Публикации и апробация результатов работы. Основные результаты настоящей диссертации опубликованы в 6 работах, в том числе одна в рекомендованном для публикации журнале по списку ВАК. Материалы диссертационной работы докладывались и обсуждались на Всероссийской конференции «Технологии Microsoft в теории и практике программирования» (Нижний Новгород, 2007); VI Международной научно-технической конференции «Информационно-вычислительные технологии и их приложения» (Пенза, 2007); Всероссийской научно-практической конференции с международным участием «Информационные технологии в профессиональной деятельности и научной работе» (Йошкар-Ола, 2007); Всероссийской научно-практической конференции с международным участием «Информационные технологии в профессиональной деятельности и научной работе» (Йошкар-Ола, 2008); Всероссийской научно-практической конференции с международным участием «Информационные технологии в профессиональной деятельности и научной работе» (Йошкар-Ола, 2009). Получено 1 свидетельство о государственной регистрации программы для ЭВМ № 2009616119.

Реализация и внедрение результатов работы. Результаты диссертационной работы внедрены в научно-исследовательскую деятельность «Санкт-Петербургского филиала учреждения Российской академии наук института земного магнетизма, ионосферы и распространения радиоволн им. Н.В. Пушкова РАН» (СПбФ ИЗМИР АН), а именно: принята в эксплуатацию разработанная программная система, позволяющая

обнаруживать смену динамики в сложном сигнале и прогнозировать его дальнейшее изменение, используя информацию о границе перехода от одной динамики к другой.

Результаты работы внедрены в учебный процесс кафедры информационно-вычислительных систем Марийского государственного технического университета. Учебно-методические разработки используются студентами при изучении дисциплины «Интеллектуальные системы» специальности 230105 «Программное обеспечение вычислительной техники и автоматизированных систем».

Разработанный программный комплекс внедрен в ООО «Вятка-софт» (Санкт-Петербург) для анализа и прогнозирования посещаемости \\еЬ-сервисов компании.

Имеются соответствующие акты о внедрении.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы и приложения. Рукопись содержит 174 страницы текста, 77 рисунков, 31 таблицу.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы диссертационной работы, описываются предмет и объект исследования, формулируются цель и задача исследования, научная новизна и практическая значимость результатов.

В первой главе дается обзор основных методов и подходов прогнозирования сложных сигналов. Оцифровка ранее не анализируемых наблюдаемых сигналов, оцифровка с более высокой частотой дискретизации привели к применению в задаче анализа и прогнозирования сложных стохастических сигналов методов теории хаоса и нелинейной динамики. Г. Г. Малинецкий ввел понятие русел и джокеров для сложных динамических систем (ДС), где под руслом понимается маломо-довая (в пространстве низкой размерности) предсказуемая динамика, а под джокером - область скачкообразного изменения состояния системы, переход в точку фазового пространства, координаты которого задаются вероятностными значениями. Развитие этой модели привело к рассмотрению сложного сигнала как последовательности реализаций ДС, где каждое следующее состояние задается различным отображением в зависимости от времени:

х(Г + 1) = Р1(х(0,х(/-1),...,х(/-Л1)), / = 0, 1,...,Г„

х(? + 1) = р2(х(0,х(/-1),...,х(?-^)), / = Г,+1,...,/-2> С1)

Х(е +1) = ^ (х(0, х(/ -1),...,х(/ - к„)\ / = г„,...,N -1,

х(0хМ ..., хШ где 1 - моменты времени наблюдения; х(0 - «/-мерный вектор состояния системы в момент времени I, состоящий из компонент хс(1), с = ; и -число точек смены динамики; К, - вектор-функции, определяющие следующее состояние системы в различные периоды времени и имеющие последних значений х(0 в качестве аргументов, г, - точки смены динамики сигнала; / = 1 ...п\ N - число наблюдений сигнала. Данная модель представления легла в основу анализа и прогнозирования сложных сигналов.

Общим у всех методов прогнозирования является использование ретроспективы сигнала для «обучения» аппарата прогнозирования -предиктора. Глобальные методы для обучения используют весь доступный временной ряд, локальные - только определенную часть. Применение к сложным стохастическим сигналам глобальных методов сопряжено с большими трудностями. Как показано в (1), на различных участках сигнал может описываться различными уравнениями. Поэтому предложено разделить сигнал на участки квазистационарности, с тем, чтобы анализировать и использовать для обучения предиктора последний «стабильный» по некоторой статистической мере фрагмент временного ряда.

Такая задача известна как задача обнаружения «разладки». Под разладкой понимается изменение вероятностных свойств случайного процесса - например математического ожидания или дисперсии. Как показано в работе Б. С. Дарховского, любую разладку в сигнале по статистической мере можно рассматривать как изменение математического ожидания. Однако для сложных сигналов, порождаемых нелинейными динамическими системами или сильно зашумленных, такой критерий может давать неточные оценки момента разладки. Поэтому предложено рассматривать сигнал во фрактальном представлении и искать разладку как изменение локальной фрактальности сигнала. Для этого используется индекс фрактальности, предложенный Н. В. Старченко. Под точкой разладки будем понимать момент времени смены динамики сигнала, что можно считать границей реализаций различных динамических систем.

Во второй главе описывается применение локального фрактального анализа для обнаружения разладки. Фрактальный анализ достаточно широко используется для анализа сложных сигналов и представлен главным образом И/Б-анализом, по которому дается оценка показателя Херста, через который вычисляется фрактальная размерность ряда. Особенностью ШБ анализа является то, что для получения адекватной оценки показателя Херста требуется достаточно большое количество отсчетов сигнала - несколько тысяч. Это не позволяет использовать его для определения локальной фрактальности сигнала на практике.

Для обнаружения смены динамики сигнала предложено искать изменение локальной фрактальной размерности в статистическом смысле (по изменению среднего или дисперсии). Для локального фрактального анализа существует процедура расчета индекса фрактальности на основе минимального покрытия графика сигнала. Индекс фрактальности позволяет получать оценку фрактальной размерности сигнала по небольшому число отсчетов - от нескольких десятков до нескольких сотен. Эта особенность позволяет давать локальную оценку фрактальной размерности сигнала по его фрагменту.

Обнаружение разладки по изменению абсолютного значения индекса фрактальности (выделение фрагментов сигнала, соответствующих различным классам по Фурье-спектру) не может применяться в сложных сигналах, так как фрагменты сигнала, имеющие различную динамику, могут иметь один и тот же класс Фурье-спектра. Поэтому предложено использовать производный сигнал индекса фрактальной размерности ц(/), построенного по принципу скользящего окна, от наблюдаемого сигнала х(1) для обнаружения в нем разладки. Это позволяет определять смену динамики сигнала х(!) как изменение степени стационарности его локальной фрактальной размерности.

Для обнаружения изменения однородности производного сигнала локальной фрактальной размерности использованы классические методы обнаружения разладки. Рассмотрены известные апостериорные (использующие весь доступный временной ряд) непараметрические методы, так как распределение вероятностей наблюдаемого сигнала до и после разладки, как и распределение момента возникновения разладки во времени, нам неизвестны. Проведено сравнение следующих методов: общий случай алгоритма Бродского-Дарховского, алгоритм кумулятивных сумм (АКС), метод на основе принципа минимума информационного рассогласования. В результате сравнения на модельных сигналах авторегрессии с шумом наиболее эффективным по точности и скорости обнаружения оказался АКС.

На основе исследования предложен метод обнаружения границы реализаций динамических систем в сложном сигнале, заключающийся в следующем. По исходному сигналу строится производный сигнал локальной фрактальной размерности. В этом производном и исходном сигналах методом АКС находятся моменты разладки. Так как задача обнаружения смены динамики сигнала решается для того, чтобы выделить последний фрагмент сигнала, сформированный квазистабильной ДС, не затрагивая при этом соседний фргамент, сформированный другой ДС, предложены три способа оценки момента разладки, применяемые в зависимости от сложности и длины сигнала:

1) максимальный - выбирается наибольший момент, для минимизации захвата соседнего фрагмента;

2) средний - берется среднее значение по двум моментам;

3) минимаксный - берется среднее значение по среднему моментов и максимальному моменту.

Поскольку на сложном сигнале даже на постоянной динамике методы обнаружения разладки могут давать ложные обнаружения, предложен метод определения степени уверенности обнаружения разладки. Главный принцип метода - в случае истинной смены динамики график решающей функции метода обнаружения У(?) имеет один ярко выраженный глобальный экстремум етах = ^(О^ ■ В случае анализа хаотического сигнала с однородной динамикой, например отображения Хе-нона, или процесса авторегрессии первого порядка со значительной шумовой компонентой, график будет иметь несколько выраженных экстремумов е,, е2..., етах (указаны по возрастанию абсолютные значения) относительно не сильно отличающихся друг от друга по значению, ешах ~~ максимальное абсолютное значение решающей функции (положение по времени соответствует моменту разладки в сигнале). Под выраженным понимается локальный экстремум £?у, не меньше (¡етах,

то есть еу ^ Яетах > 0 < # < 1, и слева и справа существуют противоположные по знаку экстремумы е1 и ег (или начальные, или конечные точки анализируемого сигнала), относительная разница между которыми не меньше р , т. е. \{е, > р, \(ег -е„)/е„| > р,

0< р <1. Причем между рассматриваемым экстремумом ех и соседними в/ и ег нет экстремума того же знака, что и у еу, меньшего

чем . В качестве выраженных рассматриваются локальные максимумы там, где У(1) > 0 и минимумы там, где К(7) < 0. Поэтому степень уверенности в разладке определяется как

°{Ч> Р) ~ Мд,р х Ю0%, (2)

где р и <7 - порога значимости экстремума; N - количество экстремумов, удовлетворяющих порогам дар. Для сигналов, анализируемых в работе, использованы значения ц = 0,7 ; = 0,5 .

В третьей главе предложены методы прогнозирования на основе ряда значений времени достижения заданного порога изменения сигнала (основной) и на основе анализа локальных экстремумов заданного порога (дополнительный).

В основу первого метода положено преобразование исходного сигнала в ряд значений времени достижения порога изменения р. Преобразование к ряду времени достижения порога изменения позволяет, во-первых, агрегировать сигнал без потери существенной информации о нем, во-вторых, подойти к задаче прогнозирования с другой точки зрения. В частности, прогнозировать не следующее значение сигнала, а время, через которое изменение сигнала превысит заданный порог, т.е. исходный сигнал преобразовывается следующим образом:

*,=*(*,). / = *',=*(?',), у = 1...Д", |(лг'()/дг'ы| ^ р, р> О, / = 2,3,...,Л", г = {г1,г2,...,гл,._1}, г, =/,(+1-/'(, / = 1...Л"-1,

где N - число отсчетов в исходном сигнале; х' - преобразованный сигнал, в котором оставлены только те значения, относительная разница между которыми превышает порог р ; М' - число отсчетов в преобразованном сигнале; Г - ряд времени достижения заданного порога изменения, где каждое значение означает время, которое потребовалось сигналу для того, чтобы превысить порог изменения р . Прогнозирование осуществляется нейронной сетью (НС) типа многослойный персептрон.

Такой метод позволяет выполнять комбинированное прогнозирование, которое включает в себя:

1) оценку по ряду х' следующего значения - ;

2) оценку по ряду Т следующего значения - Г,у.,+1;

3) сравнение sign(тN,+i) и л/£я(х'л,.+1-х'л.. )■

Сопоставление результатов, выполненных по рядам х' и Г, позволяет увеличить степень надежности прогноза, так как совпадение знаков изменения прогнозируемых величин означает высокую степень его достоверности.

Второй метод прогнозирования (дополнительный) базируется на утверждении, что во многих случаях прогнозирование сигнала как задачу получения численных оценок будущей величины сигнала можно представить задачей классификации. В этом случае текущее состояние определяет некоторый класс события в будущем, например «увеличение» сигнала, «уменьшение» или «без изменения» на некоторый горизонт. Во многих прикладных случаях задачу прогнозирования можно решать в контексте определения изменения сигнала, превышающем некоторый порог, когда изменение становится значимым в практическом смысле (например, сейсмическая активность или процент выхода годных изделий на производстве). В этом случае сигнал можно представить как последовательность сменяющих друг друга локальных экстремумов (ЛЭ), между которыми изменение сигнала превышает некоторый значимый в практическом смысле порог. Формально можно записать, что исходный сигнал преобразуется следующим образом:

~ ^ ~ I 2 д-' }?

*,=*(/,), х\ = х{1\), 1 = 1,2,..., ТУ',

где N - число отсчетов в исходном сигнале; х' - преобразованный сигнал, где все значения являются ЛЭ в исходном сигнале; И' - число отсчетов в преобразованном сигнале; р > 0 - порог.

Таким образом, после прохождения заданного порога р изменения

сигнала от момента фиксации последнего ЛЭ заданного порога (х'л,.)

встает задача определения следующего ЛЭ, удовлетворяющего условию необходимого порога.

Для этого анализируется последний локальный экстремум подтверждающего порога р\ 0< р'< р (рис. 1).

и подтверждающим порогом р'

Необходимо определить, является ли анализируемый ЛЭ порога р' и ЛЭ порога р, потому что даже такое «запаздывающее» прогнозирование дает информацию о последующем изменении сигнала, а именно о том, что сигнал изменится не менее чем на заданный порог от анализируемого ЛЭ (в случае, если мы установили, что ЛЭ порога р пройден, т.е. определяем его как «истинный») или же заданный порог не будет достигнут и сигнал уйдет выше локального экстремума, если это локальный максимум, или ниже, если это локальный минимум (т.е. определяем его как «ложный»). Таким образом, необходимо отнести ЛЭ к одному го двух возможных классов - «истинному» или «ложному».

Формально задача ставится следующим образом: зная

, х'2 х\,, х'р , определить истинность равенства х'р = х'л,Ч1,

где Х,р - экстремум подтверждающего порога р'. На рис. 1 необходимо в точке А (в соответствующий момент времени) определить, истинным или ложным является локальный экстремум Е4.

Для решения этой задачи по обучающему множеству построено многомерное пространство, в котором располагаются экстремумы. Каждый экстремум задается вектором:

Е, = [V,, у2 , У3,1'4, , /2, Г3, , /5, ], где / - порядковый номер экстремума. Принадлежность экстремума к классу определяется многослойным персептроном. Методом главных компонент исходные векторы возможно преобразовывать в векторы меньшей размерности, однако, как показали эксперименты, для сложных сигналов лучше ограничиться агрегацией элементов вектора через их линейную комбинацию.

В четвертой главе рассмотрена реализация предложенных методов в виде программного комплекса, даны критерии применимости предложенного метода обнаружения разладки, метод повышения точности прогнозирования на основе анализа времени достижения порога изменения, а также результаты экспериментов на реальных сигналах.

Предложенные методы реализованы в программном комплексе «СИаозЕхреЛ». Общая последовательность прогнозирования сложного сигнала в комплексе осуществляется следующим образом: получение сигнала, получение производного от исходного сигнала ряда локальной фрактальной размерности, поиск точки разладки в исходном сигнале и в ряде локальной фрактальной размерности, получение границы между реализациями различных ДС, выделение для обучения предиктора последнего фрагмента сигнала до найденной границы (фрагмент последней сформировавшейся квазистабильной динамики сигнала), построение комбинированного прогноза, оценка его достоверности. Указанная итерация может повторяться многократно для различных масштабов представления сигнала, с тем, чтобы получить многошаговый прогноз.

Оценены критерии применимости предложенного метода обнаружения для сигналов АР(1) со значительной шумовой компонентой отдельно по изменению математического ожидания и дисперсии. Положительный эффект от применения метода достигается при изменении математического ожидания до 1,5 раз и дисперсии до 2,5 раз после момента разладки.

Дня повышения точности прогнозирования предложено подавать при обучении на вход нейронной сети не только значение времени достижения заданного порога, но и соответствующее значение значимости отсчета наблюдаемого сигнала. Значимость точки .т(/,) определяется как

^ = <*([*(*,:,У,-,У,]) + <*([*(*,+,), ),1,3)

где с!(р1 ,р2) - манхеттеновское расстояние между точками р{ ир2;

N - число отсчетов в ряде значений времени достижения заданного порога изменения. Для первой и последней точек, соответственно, левые и правые расстояния равны 0. Анализ чувствительности нейронной сети к входным переменным позволяет сделать оценку: повысит или понизит точность прогноза применение значимости значений сигнала.

Разработанные методы применялись в задаче прогнозирования числа возвратов пользователей на сайт. Использована накопленная статистика

за период от 21.05.08 до 06.06.09. Найдены точки разладки по исходному сигналу и ряду индекса фрактальности (рис. 2).

в) г)

Рис.2. Возвраты пользователей на сайт (а), производный ряд индекса фрактальности (б), решающая функция АКС по исходному сигналу, абсолютный максимум на 192 отсчете (в), решающая функция АКС по ряду индекса фрактальности, абсолютный максимум на 105 отсчете (г)

Степень уверенности обнаруженной разладки в обоих случаях равна 100%. Сравним точность обнаружения разладки прогнозом на шаг вперед по 10 примерам, выполненным многослойным персептроном (один скрытый слой, 3 нейрона с сигмоидальной функцией активации), в зависимости от объема обучающей выборки (без использования границы смены динамики, с разладкой в исходном сигнале, с разладкой в индексе фрактальности сигнала). Результаты представлены в табл. 1.

Таблица 1

Е,п Е, Е,

6,43 5,81 5,88

Использованы следующие обозначения: Еа|) - относительная ошибка прогноза при обучении на всем доступном множестве примеров; Е; -обучающее множество - выбирается до границы, найденной по ряду индекса фрактальности для прогнозируемого сигнала; Еа - обучающее

множество - выбирается до границы, найденной по исходному сигналу методом АКС. В результате сопоставления ошибок прогнозирования можно сделать вывод, что при использовании фрагмента сигнала для обучения предиктора, найденного по ряду оценки локальной фрактальной размерности, прогноз получается в среднем более точный.

Далее построен ряд значений времени достижения порога изменения в 10%. Результаты его прогнозирования представлены в табл. 2. Для обучения выбран фрагмент до момента разладки, оцененного по индексу фрактальности.

Таблица 2

Способ /№ примера (значение) 1(1) 2(3) 3(-5) Еср

Время достижения 83,97% 52,76% -127,40% 88,04%

Время достижения и значимость 95,15% 0,88% 62,08% 52,7%

АРСС(2,2) -126% 38% 34,6% 66,2%

В скобках у номера примера указано прогнозируемое значение (время, которое потребуется сигналу для изменения на 10%). Использованы следующие обозначения: время достижения - на вход НС подавалось только время достижения заданного порога изменения; время достижения и значимость - на вход НС подавалось время достижения заданного порога изменения и значимость данного отсчета; АРСС(2,2) - результаты прогнозирования моделью авторегрессии (порядок 2) - скользящего среднего (порядок 2). Отрицательная ошибка свидетельствует о том, что неверно определен знак (а для ряда значений времени порога достижения это имеет ключевое значение). — средняя относительная ошибка прогноза (по абсолютным значениям). Прогнозирование предложенным методом дает более точный прогноз по сравнению с известным в среднем на 13%.

Прогнозирование на основе ЛЭ порога р =15% и подтверждающего порога р '=5% дало следующий результат: из 4-х «истинных» ЛЭ верно распознано 4, из 5 «ложных» - верно распознан 1. Такой результат можно объяснить тем, что при данном пороге изменению соответствует прогноз на 3-5 отсчетов вперед. Применение меньших порогов затруднено из-за низкой частоты дискретизации.

Рассмотрен пример прогнозирования магнитуды зафиксированных землетрясений. Использовался ряд значений по наблюдениям с 1960 по 2007 гг. Степень уверенности в разладке по исходному сигналу составила 0,5; по индексу фрактальности - 0,33. Это говорит о том, что, возможно, разладки в данном сигнале нет. Результаты прогнозирования частично подтвердили данное предположение - точность прогноза су-

щественно не изменилась при изменении объема обучающего множества. Средняя относительная ошибка по 9 прогнозам с верно определенным знаком изменения сигнала для порога в 20% по множеству с учетом разладки составила 90%, для одного неверно определенного -111%. Без учета разладки (обучение по всему множеству) - 105% для восьми и 111% для двух, соответственно.

В заключении'приведены основные результаты, полученные в ходе диссертационного исследования. В работе решена задача прогнозирования сложных стохастических сигналов на основе обнаружения в ретроспективе сигнала границы между реализациями различных динамических систем (разладки). Найденная граница используется для обучения предиктора на строго заданном множестве последних значений сигнала, по которому моделируется последняя квазистабильная динамика сигнала. Комбинированное прогнозирование осуществляется на основе ряда значений времени достижения заданного порога изменения.

Предложенные методы, алгоритмы и программный комплекс могут найти свое применение в областях, где ведется работа со сложными эволюционным!! сигналами: в медицине, биологии, контроле технологических процессов, финансово-экономической деятельности, энергетике.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ ДИССЕРТАЦИОННОЙ РАБОТЫ

1. Предложен метод обнаружения границы реализации динамических систем в сложном сигнале на основе обнаружения разладки в ряде локальной фрактальной размерности сигнала для обоснованного выбора обучающего множества для предиктора.. ■"

2. Предложен оригинальный метод прогнозирования на основе анализа времени достижения заданного порога изменения сигнала, позволяющий прогнозировать не значение сигнала, а время, через которое сигнал изменится на заданный порог.

3. Предложен способ повышения точности метода прогнозирования на основе анализа времени достижения заданного порога изменения сигнала.

4. Разработан метод прогнозирования на основе локальных экстремумов сигнала заданного порога.

5. Разработан метод оценки степени уверенности обнаружения разладки в сигнале' по количеству выраженных локальных экстремумов заданного порога, позволяющий получить численные оценки наличия смены динамики в сигнале.

6. Определен наиболее эффективный по точности апостериорный непараметрический метод обнаружения разладки в сложном сигнале.

7. Разработанные методы реализованы в программном комплексе, позволяющем выделять границы реализаций динамических систем в сигнале и строить более точный прогноз.

ОСНОВНЫЕ ПОЛОЖЕНИЯ ДИССЕРТАЦИОННОЙ РАБОТЫ ИЗЛОЖЕНЫ В ПУБЛИКАЦИЯХ

Статьи в журналах, рекомендованных ВАК для публикации

результатов диссертации на соискание ученой степени доктора и кандидата наук

1.Егошин, А. В. Исследование возможности выявления динамических систем по наблюдаемому временному ряду в задаче прогнозирования /А. В. Егошин, И. Г. Сидоркина // Вестник Чувашского университета. - Чувашский государственный университет им. И. Н. Ульянова. -2008.- №2.-С. 211-216.

Другие издания

2. Егошин, А. В. Выявление границ реализаций динамических систем в модельных стохастических сигналах / А. В. Егошин // Информационные технологии в профессиональной деятельности и научной работе: сборник материалов всероссийской научно-практической конференции с международным участием: в 2 ч. - Йошкар-Ола: Марийский государственный технический университет, 2009. - Ч. 1 - С. 91-95.

3. Егошин А. В. Анализ времени достижения сигналом порога изменения в задаче нейросетевого прогнозирования временных рядов / А. В. Егошин // Информационно-вычислительные технологии и их приложения: сборник статей VI Международной научно-технической конференции. - Пенза: РИО ПГСХА, 2007. - С. 74-76.

4. Егошин А. В. Постановка задачи прогнозирования временного ряда порождаемого динамической системой / А. В. Егошин // Информационные технологии в профессиональной деятельности и научной работе: сборник материалов всероссийской научно-практической конференции с международным участием. - Йошкар-Ола: Марийский государственный технический университет, 2007. - С. 136-140.

5. Егошин А. В., Сидоркина И. Г. Рекурсивное прогнозирование эволюционных временных рядов с использованием многослойного пер-септрона / А. В. Егошин, И. Г. Сидоркина // Информационные техноло-

гии в профессиональной деятельности и научной работе: сборник материалов всероссийской научно-практической конференции с международным участием: в 2 ч. - Йошкар-Ола: Марийский государственный технический университет, 2008. - 4.2 - С. 46-48.

6. Егошин А. В. Исследование возможности создания самообучаемой нейронной сети для решения задачи прогнозирования финансовых временных рядов / А. В. Егошин // Технологии Microsoft в теории и практике программирования: материалы конференции / под ред. проф. Р. Г. Стронгина. - Нижний Новгород: Изд-во Нижегородского госуниверситета, 2007. - С. 79-83.

Усл. п. л. 1,0. Тираж 100 экз. Заказ № 4238.

Редакционно-издательский центр Марийского государственного технического университета 424006 Йошкар-Ола, ул. Панфилова, 17

ВВЕДЕНИЕ.

1. МЕТОДЫ АНАЛИЗА И ПРОГНОЗИРОВАНИЯ СЛОЖНЫХ СТОХАСТИЧЕСКИХ СИГНАЛОВ.

1.1. Методы анализа сложных сигналов.

1.2. Методы прогнозирования сложных сигналов.

1.3. Маломодовое моделирование сложного сигнала.

1.4. Задача обнаружения разладки при прогнозировании сложного сигнала.

Актуальность темы исследования. Современная хозяйственно-экономическая деятельность человека не возможна без принятия решений, основанных на прогнозировании развития текущей ситуации. Это справедливо для многих сфер: в экономике, в промышленном производстве при управлении технологическими процессами, здравоохранении и др.

Автоматизация сбора данных, широкое использование информационных технологий и вычислительных средств обработки числовой информации связаны с накоплением и обработкой значительных объемов наблюдений. Временные ряды (значения сигналов) при этом получаются, значительной длины с высокой степенью дискретизации, что позволяет рассматривать их как эволюционные. Для сложных стохастических нестационарных сигналов сам источник можно рассматривать как нелинейную динамическую систему (ДС) с неизвестными уравнениями фазовой траектории движения («черный ящик»), где сам сигнал является наблюдаемой реализацией данной системы.

Задачу прогнозирования временных рядов решали отечественные и зарубежные специалисты: Ю.И. Журавлев, Г. Г. Малинецкий, А.Г. Беляков, А.Г. Ивахненко, В.П. Боровиков, А.С. Мандель, А.А. Френкель, Е.М. Четыркин, X. Акаике, Д. Бокс, Р. Браун, Д. Бриллинджер, Г. Дженкинс и др.

Среди основных моделей и технологий прогнозирования можно выделить: авторегрессионные модели, нейронные сети, методы классификации в контексте прогнозирования, метод группового учета аргументов, метод Гусеница, вейвлет-анализ. Данные и другие разработки применяются при построении прогнозов, однако в области применения их к стохастическим, нестационарным эволюционным рядам трудно выделить наиболее подходящий метод.

Так как все известные методы прогнозирования основываются на анализе прошлых значений сигнала, встает вопрос выбора объема ретроспективы, которая, с одной стороны, не будет учитывать явно устаревшие значения, а с другой - будет достаточно длинной, чтобы уловить глобальную тенденцию движения сигнала. Поэтому наряду с разработкой методов прогнозирования остро стоит проблема разработки метода математически обоснованного выбора ретроспективного объема данных для использования их в прогнозирующем аппарате. Решение данного вопроса предлагается на основе задачи о разладке, теории динамических систем и модифицированной парадигмы русел и джокеров Г.Г Малинецкого. В ее рамках временной ряд рассматривается как наблюдаемые реализации ДС с неизвестными уравнениями фазовой траектории («черный ящик»), которые эволюционно (или скачками) переходят одна в другую. Тогда для построения достоверного прогноза используется ретроспектива временного ряда, являющаяся реализацией последней динамической системы на этапе эволюции глобальной ДС, так как каждая такая система проще (ее можно рассматривать как квазидетермини-рованную), чем их совокупность, а значит, и смоделировать ее легче. Это дает возможность более точно идентифицировать текущую динамику изменения сигнала, что, в конечном итоге, позволит строить в общем случае более точный прогноз, чем при выборе ретроспективы, исходя только из чисто эмпирических соображений. Поэтому актуальным является решение задачи определения границ реализаций ДС по наблюдаемому сигналу.

Цель диссертационной работы — разработка методов и алгоритмов выделения в сложном стохастическом сигнале границ перехода между динамическими системами, генерирующими сигнал и повышение на основе этого эффективности прогнозирования. Достижение поставленной цели предполагается осуществить на основе решения следующих задач:

1) провести анализ современных методов прогнозирования и обнаружения разладки в сложных стохастических сигналах;

2) разработать метод выделения границы реализации динамических систем на основе обнаружения изменения в локальной фрактальной размерности сигнала;

3) разработать методы предобработки временного ряда, позволяющие выявить временные характеристики сигнала;

4) разработать метод прогнозирования на основе анализа времени достижения заданного порога изменения сигнала;

5) разработать метод прогнозирования на основе локальных экстремумов сигнала заданного порога;

6) разработать программный комплекс, реализующий описанные выше методы обнаружения разладки и прогнозирования.

Объект исследования — сложный стохастический наблюдаемый сигнал.

Предмет исследования - методы обнаружения границы перехода в сложных стохастических сигналах от одной динамики к другой, позволяющие выделить для обучения предиктора фрагмент сигнала с квазистабильной динамикой, прогнозирующие модели на основе аппроксимации и классификации.

Методы исследования. Для решения поставленных задач использовались методы анализа фрактальности сигнала, методы теории хаоса, математической статистики и нелинейной динамики, спектральный анализ, нейронные сети.

Научные положения выносимые на защиту:

1) метод обнаружения границы реализации динамических систем в сложном сигнале по наличию разладки в самом сигнале и локальной фрактальной размерности сигнала;

2) метод оценки степени уверенности обнаружения разладки в сигнале;

3) метод прогнозирования на основе анализа времени достижения заданного порога изменения сигнала;

4) способ повышения эффективности прогнозирования на основе анализа времени достижения заданного порога изменения сигнала;

5) метод прогнозирования на основе локальных экстремумов сигнала заданного порога.

Научные результаты. Проведенные исследования показали применимость выдвинутой гипотезы о сложном стохастическом сигнале как последовательности реализаций динамических систем, эволюционно или скачкообразно переходящих одна в другую. Получены следующие основные научные результаты:

1) Разработан метод обнаружения границы реализации динамических систем в сложном сигнале по наличию разладки в самом сигнале и стабильности локальной фрактальности сигнала, позволяющий повысить точность обнаружения разладки в зашумленных сигналах, по сравнению с известными.

2) Предложен метод оценки степени уверенности обнаружения разладки в сигнале по количеству локальных экстремумов заданного порога в решающей функции метода обнаружения, позволяющий получить численное значение степени наличия разладки в сигнале, что актуально для сложных сигналов, в которых разладка обнаруживается и на постоянной динамике.

3) Разработан метод прогнозирования на основе преобразования временного ряда сигнала в ряд значений времени достижения заданного порога изменения, позволяющий агрегировать сигнал, отфильтровывая несущественные в практическом смысле колебания и подходить к задаче прогнозирования, как к задаче определения времени, которое потребуется для того, чтобы сигнал изменился на заданный порог.

4) Предложен способ повышения эффективности метода прогнозирования на основе преобразования временного ряда сигнала в ряд времени достижения заданного порога изменения.

5) Разработан метод прогнозирования на основе локальных экстремумов сигнала заданного порога, позволяющий прогнозировать существенные, в практическом отношении, изменения сигнала на основе отнесения локального экстремума к определенному классу в многомерном пространстве признаков.

Практическая ценность. Разработано программное обеспечение, реализующее методы и алгоритмы обнаружения границ реализаций динамических систем и прогнозирования. Данное обеспечение может применяться для анализа и прогнозирования сложных стохастических сигналов различного генезиса, например технологических данных и др.

Достоверность полученных результатов. Обоснованность и достоверность положений, выводов и рекомендаций подтверждаются использованием классических методов анализа и моделирования сигналов, методов математической статистики, нелинейной динамики, теории хаоса, а также вычислительными экспериментами.

Публикации и апробация результатов работы. Основные результаты настоящей диссертации опубликованы в 6 работах, в том числе одна в рекомендованном для публикации журнале по списку ВАК. Материалы диссертационной работы докладывались и обсуждались на Всероссийской конференции «Технологии Microsoft в теории и практике программирования» (Нижний Новгород, 2007); VI Международной научно-технической конференции «Информационно-вычислительные технологии и их приложения» (Пенза, 2007); Всероссийской научно-практической конференции с международным участием «Информационные технологии в профессиональной деятельности и научной работе» (Йошкар-Ола, 2007); Всероссийской научно-практической конференции с международным участием «Информационные технологии в профессиональной деятельности и научной работе» (Йошкар-Ола, 2008); Всероссийской научно-практической конференции с международным участием «Информационные технологии в профессиональной деятельности и научной работе» (Йошкар-Ола, 2009). Получено 1 свидетельство о государственной регистрации программы для ЭВМ № 2009616119.

Реализация и внедрение результатов работы. Результаты диссертационной работы внедрены в научно-исследовательскую деятельность «Санкт-Петербургского филиала учреждения Российской академии наук института земного магнетизма, ионосферы и распространения радиоволн им. Н.В. Пушкова РАН» (СПбФ ИЗМИР АН), а именно: принята в эксплуатацию разработанная программная система, позволяющая обнаруживать смену динамики в сложном сигнале и прогнозировать его дальнейшее изменение, используя информацию о границе перехода от одной динамики к другой.

Результаты работы внедрены в учебный процесс кафедры информационно-вычислительных систем Марийского государственного технического университета. Учебно-методические разработки используются студентами при выполнении расчетно-графических работ по дисциплине «Интеллектуальные системы» специальности 230105 «Программное обеспечение вычислительной техники и автоматизированных систем».

Разработанный программный комплекс внедрен в ООО «Вяткасофт» (Санкт-Петербург) для анализа и прогнозирования посещаемости web-сервисов компании.

Имеются соответствующие акты о внедрении.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы и приложения. Рукопись содержит 174 страницы текста, 77 рисунков, 31 таблицу.

Основные результаты диссертационной работы:

1) Предложен метод обнаружения границы реализации динамических систем в сложном сигнале на основе обнаружения разладки в ряде локальной фрактальной размерности сигнала для обоснованного выбора обучающего множества для предиктора.

2) Предложен оригинальный метод прогнозирования на основе анализа времени достижения заданного порога изменения сигнала, позволяющий прогнозировать не значение сигнала, а время, через которое сигнал изменится на заданный порог.

3) Предложен способ повышения точности метода прогнозирования на основе анализа времени достижения заданного порога изменения сигнала.

4) Разработан метод прогнозирования на основе локальных экстремумов сигнала заданного порога.

5) Разработан метод оценки степени уверенности обнаружения разладки в сигнале по количеству выраженных локальных экстремумов заданного порога, позволяющий получить численные оценки наличия смены динамики в сигнале.

6) Определен наиболее эффективный по точности апостериорный непараметрический метод обнаружения разладки в сложном сигнале.

7) Разработанные методы реализованы в программном комплексе, позволяющем выделять границы реализаций динамических систем в сигнале и строить более точный прогноз.

Предложенные методы, алгоритмы и программный комплекс могут найти свое применение в научных, производственных, телекоммуникационных, коммерческих, медицинских организациях и компаниях, ведущих наблюдение и контроль процессов, наблюдаемых в виде сложных стохастических сигналов. Это могут быть и сейсмологические, метеорологические, или наблюдения за состоянием ионосферы, проводимые научными центрами. На производстве такими сигналами могут выступать процент выхода годных изделий, значения технологических параметров, влияющих на качество продукции, например коэффициент усадки при производстве корпусов интегральных микросхем, и др. Уровень трафика в телекоммуникационных сетях, как правило, также наблюдается в виде сложных сигналов. Это может быть и посещаемость веб-сервиса или сайта, число пользователей сети, объем передаваемых данных и др. Для коммерческих компаний такими сигналами, безусловно, выступает финансовая информация, экономические показатели. В медицине это сигналы наблюдения за функционированием организма, например электроэнцефалограммы, кардиограммы и др.

В качестве итога можно сказать, что результаты диссертационной работы применимы в областях, где ведется работа со сложными стохастическими, и в определенной степени эволюционными сигналами.

ЗАКЛЮЧЕНИЕ

В работе решена задача прогнозирования сложных стохастических сигналов, на основе обнаружения в ретроспективе сигнала границы между реализациями различных динамических систем (разладки). Найденная граница используется для обучения предиктора на строго заданном множестве последних значений сигнала, по которому моделируется последняя квазистабильная динамика сигнала. Комбинированное прогнозирование осуществляется на основе ряда времени достижения заданного порога изменения.

1. Абраменкова, И.В. Особенности и предельные возможности нейросетевых методов прогнозирования временных рядов / И.В. Абраменкова, В.В. Круг-лов // Программные продукты и системы. 2006. - №3. - С. 8.

2. Акатьев, Д. Ю. Обнаружение разладки случайного процесса на основе принципа минимума информационного рассогласования / Д. Ю. Акатьев, В. В. Савченко. // Автометрия. 2005. - Т. 41, № 2. - С. 68-74.

3. Александров, П. С. Введение в теорию размерности / П. С. Александров, Б. А. Пасынков. М.: Наука, 1973. - 576с.

4. Анищенко, В. С. Динамические системы. Саратовский государственный университет им. Н.Г. Чернышевского / В. С. Анищенко. — Режим доступа: http://nature.web.ru/db/msg.html?mid=l 186976&uri=textl.html. -23.10.09.

5. Анищенко, В. С. Относительная энтропия как мера степени перемешивания зашумленных систем / В. С. Анищенко, С. В. Астахов // Письма в ЖТФ. -2007.-ТЗЗ, вып. 21.-СЛ.

6. Арнольд, В. И. Теория катастроф / В. И. Арнольд. М.: Наука, 1990. — 128 с.7. АРПСС. Режим доступа:http.V/www.statsoft.m/bome/portal/applications/^orecastingAdvisor/^ethods/ARP SS/arpss.htm. 24.10.09.

7. Бассвиль, М. Обнаружение изменения свойств сигналов и динамических систем / М. Бассвиль, А. Вилски, А. Банвенист и др.; под ред. М. Бассвиль, А. Банвениста. М.: Мир, 1989. - 278 с.

8. Безручко, Б. П. Математическое моделирование и хаотические временные ряды / Б. П. Безручко, Д. А. Смирнов; ГосУНЦ «Колледж». Саратов, 2005.-320 с.

9. Бодянский, Е. В. Диагностика и прогнозирование временных рядов многослойной радиально-базисной нейронной сети / Е. В. Бодянский, Е. И. Кучеренко // Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб. докл. 2002. - С. 69-72.

10. Бодянский, Е. В. Обобщённый алгоритм обучения формального нейрона / Е. В. Бодянский, Н. Е Кулишова., О. Г. Руденко // Кибернетика и системный анализ. 2002. - №5. - С. 176-182.

11. Бокс Дж. Анализ временных рядов. Прогноз и управление / Дж. Бокс, Г. Дженкинс. М.: Мир, 1974. - Вып. 1, 2.

12. Борисов, Ю. Нейросетевые методы обработки информации и средства их программно-аппаратной поддержки / Ю. Борисов, В. Кашкаров, С. Сорокин // Открытые системы. 1997. - №4. - С. 38^Ю.

13. Боровиков, В. П. Прогнозирование в системе STATISTICA в среде Windows / В. П. Боровиков, Г. И Ивченко. М.: Финансы и статистика, 1998. -368 с.

14. Бородкин, JI. И. Алгоритм обнаружения моментов изменения параметров уравнения случайного процесса / JI. И. Бородкин, В. В. Моттль // Автоматика и телемеханика. 1976. - №6. - С. 23-32.

15. Бродский, Б. Е. Алгоритм апостериорного обнаружения многократных разладок случайной последовательности / Б. Е. Бродский, Б. С. Дарховский // Автоматика и телемеханика. 1993. - №1. - С. 62-67.

16. Бродский, Б. Е. Асимптотический анализ некоторых оценок в апостериорной задаче о разладке / Б. Е. Бродский, Б. С. Дарховский // Теория вероятностей и ее применения. 1990. - Т.35, №3. - С. 551 - 557.

17. Бродский, Б. Е. Асимптотически оптимальные методы в задаче скорейшего обнаружения разладки. I. Характеристики методов скорейшего обнаружения разладки / Б. Е. Бродский // Автоматика и телемеханика. 1995. — №9. -С. 60-72.

18. Бродский, Б. Е. Асимптотически оптимальные методы в задаче скорейшего обнаружения разладки. II. Исследование методов скорейшего обнаружения / Б. Е. Бродский // Автоматика и телемеханика. 1995. - №10. - С. 50-59.

19. Бродский, Б. Е. Мониторинг структурных сдвигов в эконометрических моделях / Б. Е. Бродский. Режим доступа:http://data.cemi.rssi.ru/GRAF/center/methodology/econometrics/download/monito ring rus.pdf.-23.10.09.

20. Бродский, Б. Е. Непараметрический метод обнаружения моментов переключения двух случайных последовательностей / Б. Е. Бродский, Б. С. Дар-ховский // Автоматика и телемеханика. 1989. - №10. - С. 66-74.

21. Бродский, Б. Е. О задаче скорейшего обнаружения момента изменения вероятностных характеристик случайной последовательности / Б. Е. Бродский, Б. С. Дарховский // Автоматика и телемеханика. 1983. - №10. - С. 125-131.

22. Бродский, Б. Е. Проблемы и методы вероятностной диагностики / Б. Е. Бродский, Б. С. Дарховский // Автоматика и телемеханика. — 1999. — №8. С. 3-50.

23. Бродский, Б. Е. Сравнительный анализ некоторых непараметрических методов скорейшего обнаружения момента "разладки" случайной последовательности / Б. Е. Бродский, Б. С. Дарховский // Теория вероятностей и ее применения. 1990. - Т.35, №4. - С. 655-668.

24. Бывайков, М. Е. О робастности в задаче обнаружения изменения параметра сдвига случайного процесса / М. Е. Бывайков, А. А. Ромащев // Автоматика и телемеханика. 1989. - №7. - С. 138-143.

25. Васин, В. В. Элементы нелинейной динамики: от порядка к хаосу / В. В. Васин, JI. Б. Ряшко. М.: НИЦ «Регулярная и хаотическая динамика». - 2006. - 164 с.

26. Вентцель, Е. С. Теория вероятностей и ее инженерные приложения / Е. С. Вентцель, JI. А. Овчаров. М.: Высшая школа, 2000. - 480с.

27. Владимиров, В.А. Управление риском. Риск, устойчивое развитие, синергетика / В. А. Владимиров, Ю. JI. Воробьев, Г. Г. Малинецкий и др. — М.: Наука, 2000. 432 с.

28. Воробейников, С. Э. Об обнаружении изменения среднего в последовательности случайных величин / С. Э. Воробейников // Автоматика и телемеханика. 1998. - №3. - С. 50-56.

29. Гаджиев, Ч. М. Проверка обобщенной дисперсии обновляющей последовательности фильтра Калмана в задачах динамического диагностирования / Ч. М. Гаджиев // Автоматика и телемеханика. 1994. - №8. - С. 98-104.

30. Гаджиев, Ч. М. Прогнозирование технического состояния динамических систем по обновляющей последовательности фильтра Калмана / Ч. М. Гаджиев // Автоматика и телемеханика. 1993. - №5. - С. 163-167.

31. Глас, JI. От часов к хаосу. Ритмы жизни / JI. Глас, М. Мэки. М.: Мир, 1991.-248 с.

32. Глебов, А. А. Модель краткосрочного прогнозирования электропотребления с помощью нейро-нечетких систем: автореферат дис. . канд. тех. наук: 05.13.10 / Глебов Андрей Александрович; Астрахан. гос. ун-т. Астрахань, 2006.- 19 с.

33. Головко, В. А. Нейросетевые методы обработки хаотических процессов. -Научная сессия МИФИ-2005. VII Всероссийская научно-техническая конференция «Нейроинформатика-2005»: лекции по нейроинформатике / В. А. Головко. - М.: МИФИ, 2005. - 76 с.

34. Головко, В. А. Нейросетевые методы обработки хаотических процессов. -Научная сессия МИФИ-2005. VII Всероссийская научно-техническая конференция «Нейроинформатика-2005»: лекции по нейроинформатике. - М.: МИФИ, 2005,- С. 43-88.

35. Головко, В. А. Нейросетевой метод оценки спектра Ляпунова по наблюдаемым реализациям / В. А. Головко, Н. Ю. Чумерин, Ю. В. Савицкий // Журнал «Нейрокомпьютеры: разработка, применение». 2004. - №1. - С. 4388.

36. Горбань, А. Н. Обобщенная аппроксимационная теорема и вычислительные возможности нейронных сетей. / А. Н. Горбаиь. // Сибирский журнал вычислительной математики. 1998. - Т.1, № 1. - С. 12-24.

37. Гусарова, Г. В. Критерии наличия разладки / Г. В. Гусарова, А. П. Ковалевский, А. Г. Макаренко // Сиб. журн. индустр. матем. 2005. - Т. 8, вып. 4. -С. 18-33.

38. Давыдов, А. В. Цифровая обработка сигналов. Курс лекций. 2008. -Режим доступа: http://prodav.narod.ru/dsp/index.html. -23.10.09.

39. Давыдов, А. В. Цифровая обработка сигналов: Тематические лекции. / А. В. Давыдов. Екатеринбург: УГГУ, ИГиГ, кафедра геоинформатики. - 2007. - Режим доступа: http://www.prodav.narod.ru/dsp/index.html. - 24.10.09,

40. Дарховский, Б. С. Непараметрический метод для апостериорного обнаружения момента "разладки" последовательности независимых случайных величин / Б. С. Дарховский // Теория вероятностей и ее применения. 1976. -Т.21, №1. - С. 180-184.

41. Дарховский, Б. С. Непараметрический метод скорейшего обнаружения изменения среднего случайной последовательности / Б. С. Дарховский, Б. Е. Бродский // Теория вероятностей и ее применения. — 1987. Т.32, №4. - С. 899-905.

42. Дарховский, Б. С. Общий метод оценивания момента изменения вероятностных характеристик случайной последовательности / Б. С. Дарховский // Статистические проблемы управления. 1984. — вып.65. — С. 76-82.

43. Дубовиков, М. М. Индекс фрактальности и фрактальный анализ временных рядов / М. М. Дубовиков, А. В. Крянев, Н. В. Старченко // Сборник научных трудов научной сессии МИФИ. М., 2004.

44. Дубовиков, М. М. Размерность минимального покрытия и локальный анализ фрактальных временных рядов / М. М. Дубовиков, А. В. Крянев, Н. В. Старченко // Вестник РУДН. 2004. - Т.З, № 1. - С. 81 - 95.

45. Егошин А. В. Анализ времени достижения сигналом порога изменения в задаче нейросетевого прогнозирования временных рядов / А.В. Егошин //

46. Информационно-вычислительные технологии и их приложения: сборник статей VI Международ-ной научно-технической конференции. Пенза: РИО ПГСХА, 2007. - С. 74-76.

47. Ежов, А. Нейронные сети в медицине / А. Ежов, В. Чечёткин // Открытые системы. 1997. - №4. - С. 34-37.

48. Заботнев, М. С. Динамика инвестиционного процесса: анализ и прогноз / М.С. Заботнев // ИПМ им. М.В.Келдыша РАН. Москва, 2001. - Режим доступа: http://www.keldysh.ru/papers/2001/ргер32/ргер2001 32.html. - 23.10.09.

49. Заславский, Г. М. Современные проблемы физики. Стохастичность динамических систем / Г. М. Заславский. М.:Наука, 1984. - 272с.

50. Ивахненко, А. Г. Долгосрочное прогнозирование и управление сложными системами / А. Г. Ивахненко. — Киев: Наукова думка, 1975. 340 с.

51. Ивахненко, А. Г. Предсказание случайных процессов / А. Г. Ивахненко, Р. Г. Лапа. Киев: Наукова думка, 1971. — 416с.

52. Ивахненко, А. Г. Обзор задач, решаемых по алгоритмам Метода Группового Учета Аргументов (МГУА) / А. Г. Ивахненко, Г. А. Ивахненко Режим доступа:http://www.gmdh.net/articles/rus/obzorzad.pdf. 24.10.09.

53. Ильяшенко, Ю. С. Аттракторы и их фрактальная размерность / Ю. С. Ильяшенко. М.: МЦНМО, 2005. - 16 с.

54. Кануников, И. Е. Применение теории динамического хаоса для анализаэлектроэнцефалограмм. / И. Е. Кануников, Е. В. Антонова, Д. Р. Белов, Ю. Г. Марков //Вестник СПбГУ, серия 3 (биология). 1998. - вып.1, №3. - С.55-61.

55. Клепарский, В. Г. Мультифрактальность, диссипация и устойчивость краткосрочных трендов на фондовом рынке / В. Г. Клепарский, В. А. Ефремов // Проблемы управления. 2003. - № 4. - Режим доступа: http://www.plan.ru/img/forum/KLEP.DOC. - 23.10.09.

56. Клепарский, В. Г. Мультифрактальность и самоподстройка канала аттракции фондового рынка / В. Г. Клепарский // Автоматика и телемеханика. -2001.-№4.-С. 109-119.

57. Фрактальные и мультифрактальные методы, вейвлет-преобразования: учебное пособие. М.: Московский государственный университет им. М.В. Ломоносова, Научно-исследовательский институт ядерной физики им. Д.В. Скобельцына, 2004. - 82 с.

58. Котляров, О. JI. Методы экстраполяции нерегулярных временных рядов: автореферат дис. . канд. физ.-мат. наук: 01.04.02 / Котляров Олег Леонидович; МГУ. М., 2006. - 17 с.

59. Кремер, Н. Ш. Теория вероятностей и математическая статистика / Н. Ш. Кремер. -М.: ЮНИТИ, 2000. 543с.

60. Кроновер, Р. М. Фракталы и хаос в динамических системах Основы теории / Р. М. Кроновер // Постмаркет. Москва, 2000. - 354 с.

61. Круглов, В. В. Искусственные нейронные сети. Теория и практика / В. В. Круглов, В. В. Борисов. М.: Горячая линия-Телеком, 2001. - 382 с.

62. Кузнецов, С. П. Динамический хаос / С. П. Кузнецов. М.: Физматлит, 2001.-296 с.

63. Кульбак, С. Теория информации и статистика. / С. Кульбак. М.: Наука, 1967.-408 с.

64. Лихтенберг, А. Регулярная и хаотическая динамика / А. Лихтенберг, М. Либерман. 1984.

65. Лоскутов, Ю. А. Проблемы нелинейной динамики. I. Хаос. / Ю. А. Лоскутов // Вестник МГУ, сер. физ.-астр. 2001. - №2. - С. 3-21.

66. Макаренко, Н. Г. Эмбидология и нейропрогноз. Лекции по нейроинфор-матике / Н. Г. Макаренко. М.: Изд-во МИФИ, 2003. - 32 с.

67. Малинецкий, Г. Г. Нелинейная динамика и проблемы прогноза / Г. Г. Ма-линецкий, С. П. Курдюмов // Вестник российской академии наук. 2001. - Т 71, № 3. С. 210-232. - Режим доступа:http://vivovoco.rsl.ruA^V/JOURNALA^RAN/GREF/GREF.HTM. 23.10.09,

68. Малинецкий, Г. Г. Нелинейная динамика: подходы, результаты, надежды / Г. Г. Малинецкий, А. Б. Потапов, А. В. Подлазов. М.: КомКнига, 2006. -280 с.

69. Малинецкий, Г. Г. Современные проблемы нелинейной динамики / Г. Г. Малинецкий, А. Б. Потапов. М.: Изд-во Эдиториал УРСС, 2000. - 335 с.

70. Миллер, Б. М. Теория случайных процессов в примерах и задачах / Б. М. Миллер, А. Р. Панков. М.: Наука, 2001. - 320 с.

71. Метод главных компонент. — Режим доступа:http://alglib.sources.i-u/dataanalysis/principalcomponentsanalysis.php. 24.10.09.

72. Нейронные сети. — Режим доступа:http://www.statsoft.ru/HOME/TEXTBOOK/modules/stneunet.html. 24.10.09.

73. Нейросетевые технологии распознавания рукописных текстов / Э. М. Куссуль, J1. М. Касаткина, Т. Н. Байдык, В. В. Лукович // Управляющие системы и машины. 2001. — № 2. - С. 64-83.

74. Немец, С. Ю. Комбинированные методы прогнозирования на основе ретроспективных оценок и внутренних характеристик временных рядов: автореферат дис. . канд. тех. наук: 05.13.18 / Немец Сергей Юрьевич; Воронеж, гос. тех. ун-т. Воронеж, 2007. - 20 с.

75. Никифоров, И. В. Последовательное обнаружение изменения свойств временных рядов / И. В. Никифоров. М.: Наука, 1983. - 197 с.

76. Никифоров, И. В. Применение кумулятивных сумм для обнаружения изменения характеристик случайного процесса / И. В. Никифоров // Автоматика и телемеханика. 1979. - №2. - С. 48-58.

77. Никульчев, Е. В. Использование групп симметрий для идентификации сложных систем / Е. В. Никульчев // Вычислительные технологии. 2004. -Т. 9, №3. - С. 72-80.

78. Никульчев, Е. В. Моделирование и идентификация динамически-сложных систем на основе группового анализа / Е. В. Никульчев // Мехатроника, автоматизация, управление. 2004. - №10. - С. 2-7.

79. Никульчев, Е. В. Моделирование хаоса для процессов изменения курсов акций / Е. В. Никульчев, М. Е. Волович // Exponenta Pro. Математика в приложениях. 2003. - №1. - С. 49-52.

80. Никульчев, Е. В. Технология моделирования сложных и хаотических процессов допускающих группы симметрий / Е. В. Никульчев // Автоматизация и современные технологии. 2004. - №11. - С. 29-33.

81. Осовский, С. Нейронные сети для обработки информации / С. Осовский. М.: Финансы и статистика, 2002. - 304 с.

82. Петере, Э. Хаос Фрактальный анализ финансовых рынков: Применение теории хаоса в инвестициях и экономике / Э. Петере. М.: Интернет-трейдинг, 2004. - 304 с.

83. Пригожин, И. Конец определенности. Время, хаос и новые законы природы. / И. Пригожин. Ижевск: НИЦ РХД, 2000. - 207 с.

84. Распознавание растений по результатам дистанционного зондирования на основе многослойных нейронных сетей / В. И.Дубровин, С. В. Морщавка, Д. М. Пиза, С. А. Субботин // Математические машины и системы. 2000-№2.-С. 113-119.

85. Сабонис, С. С. Алгоритмы диагностирования автоматизированной системы контроля уровня воды / С. С. Сабонис // Информационно-управляющие системы.-2005.-№5.-С. 6-10.

86. Сабонис, С. С. Методы совместного использования алгоритмов обнаружения разладки случайных процессов / С. С. Сабонис // Научно-технические ведомости СПбГПУ. 2007. - № 4. - С. 97-100.

87. Сабонис, С. С. Обнаружение дефектов в системах управления с использованием фильтра Калмана / С. С. Сабонис // Научно-технические ведомости. 2004. - №1. - С. 214-220.

88. Салов Г. И. К задаче о разладке для скачкообразного марковского процесса /Г. И. Салов // Сиб. журн. индустр. матем. 2009. - т. 12, № 3. -С. 85-98.

89. Синай, Я. Г. О понятии энтропии динамической системы / Я. Г. Синай // ДАН СССР. 1959. - Т. 124.

90. Солдатова, О. П. Применение нейронных сетей для решения задач прогнозирования / О. П. Солдатова, В. В. Семенов // Электронный научный журнал «Исследовано в России». 2006. - Режим доступа: http://zhurnal.ape.relam.ru/articles/2006/136.pdf. - 23.10.09.

91. Спектральный (Фурье) анализ. — Режим доступа: http://www.statsoft.ru/HOME/TEXTBOOK/modules/stneunet.html. 24.10.09.

92. Старченко, Н. В. Индекс фрактальности и локальный анализ хаотических временных рядов: дис. . канд. физ.-мат. наук. / Н. В. Старченко. -М., 2005. 146 с. - Режим доступа:http://www.mirkin.ru/ docs/kon diser/diserstarchenko.pdf. 24.10.09.

93. Тартаковский, А. Г. Сравнение некоторых последовательных правил обнаружения разладки / А. Г. Тартаковский, И. А. Иванова // Пробл. передачи информ. 1992. - Т. 28, № 2. - С. 21-29.

94. Тартаковский, А. Г. Об эффективности обобщенного критерия Неймана-Пирсона при обнаружении разладки в многоканальной системе /

95. А. Г. Тартаковский // Пробл. передачи информ. 1992. - Т. 28, № 4. — С. 4959. - Режим доступа:http.7/www.mathnet.m/php/getFT.phtml?irnid=ppi&paperid^l367&what^fullt&op tion lang-rus. 24.10.09.

96. Терехов, С. А. Технологические аспекты обучения нейросетевых машин Научная сессия МИФИ-2006. VIII Всероссийская научно-техническая конференция «Нейроинформатика-2006»: лекции по нейроинформатике. — М.: МИФИ, 2006.-244 с.

97. Федер, Е. Фракталы / Федер Е. М.: Мир, 1991. - 254 с.

98. Фельдштейн, И. В. Кросскорреляционный интеграл. Некоторые особенности и применение в задачах выявления нестационарностей во временных рядах / И. В.Фельдштейн // Журнал технической физики. 2000. - Т. 70, вып. 6. - С. 1-5.

99. Фигурин, В. А. Теория вероятностей и математическая статистика / В. А. Фигурин, В. В. Оболонкин. М.: Новое знание, 2000. - 206 с.

100. Фощан, Г. И. Нелинейные динамические модели и нейросетевые методы прогнозирования динамики финансовых рынков: дис. . кандидата экономических наук: 08.00.13 61 05-8/4722 / Г. И. Фощан. Краснодар, 2005. - 192 с.

101. Хайкин, С. Нейронные сети, полный курс. 2е издание, испр. / С. Хайкин. -М.: Вильяме, 2008. 1103 с.

102. Халафян, A. A. Statistica 6. Статистический анализ данных / А. А. Хала-фян // Бином-Пресс. 2007. - 512с.

103. Чубукова, И. A. Data Mining. Курс лекций / И. А. Чубукова. Режим доступа:http://www.intuit.ru/goto/course/datamining/. — 24.10.09.

104. Ширяев, А. Н. Вероятность. / А. Н. Ширяев. М.: Наука, 1989. - 576 с.

105. Шустер, Г. Детерминированный хаос. Введение. / Г. Шустер. М.: Мир, 1984.-253 с.

106. Эйби, Дж. А. Землетрясения / Дж. А. Эйби. М.: Недра, 1982. - 263 с.

107. Brodsky, В. Е. Nonparametric Methods in Change-Point Problems / В. E. Brodsky, B. S. Darkhovsky // Kluwer Academic Publishers, The Netherlands, 1993.

108. Darkhovski, B. S. Nonparametric methods in change-point problems a general approach and some concrete algorithms. IMS Lecture Notes Monograph Series, Volume 23, 1994.

109. Downey A. B. A novel changepoint detection algorithm /А. B. Downey //arXiv:0812.1237vl stat.AP. 2008. Режим доступа:http ://arxiv.org/abs/0812.123 7v 1

110. Fraser, A. M. Independent coordinates for strange attractors from mutual information / A. M. Fraser, H. L. Swinney. Phys. Rev, 1986. - V A33. - P. 1134.

111. Grassberger, P. Characterization of Strange Attractors. / P. Grassberger, I. Procaccia // Phys. Rev. Lett. 50, 1983. P. 346-349.

112. Hausdorff, F. Dimesion und Ausseres Mass / F. Hausdorff// Matematishe An-nalen. 1919. - No 79.-P. 157-179.

113. Jandhyala, V. K. Detection and estimation of abrupt changes in the variability of a process/ V. K. Jandhyala, S. B. Fotopoulos, and D. M. Hawkins // Comput. Stat. Data Anal.-2002.-Vol. 40, N 1.-P. 1-19.

114. Kennel, M. B. Determining embedding dimension for phase-space reconstruction using a geometrical construction / M. B. Kennel, R. Brown, H. D. I. Abarba-nel. Phys. Rev, 1992. - V A45. - P. 3403.

115. Kifer, Daniel. Detecting change in data streams / Daniel Kifer, Shai Ben-David, Johannes Gehrke // In Proceedings of the 30th International Conference on Very Large Data Bases. 2004.

116. King, G. P. Phase space reconstruction for symmetric dynamical systems / G. P. King, I. Steward // Physica D: Nonl. Phenomena. 1992. - Vol. 58. - P. 216228.

117. Madala, H. R. Inductive Learning Algorithms for Complex Systems Modeling / H. R. Madala, A. G. Ivakhnenko // CRC Press Inc. Boca Raton, 1994.

118. McNames, J. Local averaging optimization for chaotic time series prediction / J. McNames // Neurocomputing. 2002.- № 4.- p. 279-297.

119. Oh K. An Intelligent Clustering Forecasting System Based on Change-Point Detection and Artificial Neural Networks: Application to Financial Economics / K.

120. Oh, I. Han // 34th Annual Hawaii International Conference on System Sciences (HICSS-34). 2001. - Vol. 3. - p. 3-11.

121. Ryan P. A. Bayesian Online Changepoint Detection / P.A. Ryan, D. MacKay // University of Cambridge Technical Report. 2007. - Режим доступа: http://www.inference.phy.cam.ac.uk/rpa23/papers/rpa-changepoint.pdf. - 24.10.09.

122. Segen, J. Detecting Change In a Time-Series / J. Segen, A. C. Sanderson // IEEE Transactions on Information Theory. 1980. - V. IT-26, №2. - P. 249-255.

123. Teyssiere, G. Adaptive Detection of Multiple Change-Points in Asset Price Volatility / G. Teyssiere, A. P. Kirman // Long Memory in Economics. 2006. - P. I-p. 129-156.

124. Wolf, A. Determining Lyapunov exponents from a time series / A. Wolf, J. B. Swift, H. L. Swinney, J. A. Vastano // Physica. 1985. - N 3.