автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Повышение качества прогнозирования случайных процессов на базе гибридных нейронных сетей

На правах рукописи

Али Маджд Ахмад ООЗОВ45 19

ПОВЫШЕНИЕ КАЧЕСТВА ПРОГНОЗИРОВАНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ НА БАЗЕ ГИБРИДНЫХ НЕЙРОННЫХ СЕТЕЙ

Специальность

05 13 01 - « Системный анализ, управление и обработка информации (промышленность)»

1 6 А В Г 2007

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Владимир 2007

003064519

Работа выполнена на кафедре информационных систем и информационного менеджмента Владимирского государственного университета

Научный руководитель Заслуженный деятель наука Российской Федерации, доктор технических наук, профессор Костров Алексей Владимирович

Официальные оппоненты доктор технических наук, профессор

Бернюков Арнольд Константинович

кандидат технических наук Новиков Константин Владимирович

Ведущая организация Костромской государственный университет

Защита диссертации состоится «21 » _сентября 2007 г В 14

часов на заседании диссертационного совета Д212 052 01 Владимирского государственного университета по адресу 600000, г Владимир, ул Горького, д 87, ауд 211-1

С диссертацией можно ознакомиться в библиотеке Владимирского государственного университета

Автореферат разослан « Ц »

2007 г

Ученый секретарь диссертационного совета доктор технических наук, профессор

Макаров Р И

Общая характеристика работы Актуальность темы Прогнозирование играет важную роль в различных областях народного хозяйства Поскольку технологические процессы и условия ведения бизнеса изменяются во времени, необходимо постоянно отслеживать и предсказывать эти изменения для успешной реализации технических решений или совершения деловых операций

Так, для того чтобы планировать производство семейства продуктов, необходимо прогнозировать продажи каждого продукта и иногда на несколько месяцев вперед Эти прогнозы для конечных продуктов могут быть далее преобразованы в требования к полуфабрикатам, материалам, рабочим и тд Таким образом, на основании прогноза может быть построен график работы целой группы предприятий

Прогнозирование также может быть важной частью систем управления технологическими процессами Наблюдая ключевые переменные процесса и используя их для предсказания будущего поведения процесса, можно определить оптимальное время и длительность управляющего воздействия

Прогнозирование позволяет в значительной степени улучшить управление предприятием за счет обеспечения координации всех факторов производства и реализации, взаимосвязи деятельности всех подразделений и распределения ответственности В условиях современного развития науки и техники многие классические методы прогнозирования исчерпали свои возможности Одним из современных методов, используемых для прогнозирования, являются искусственные нейронные сети (НС) В работе исследуется эффективность применения нейронных сетей для прогнозирования объемов производства промышленного предприятия

Цель и основные задачи исследования. Целью диссертации является повышение качества принятия решений на основе повышения точности нейросетевого прогнозирования в процессах управления предприятием

Для достижения поставленной цели предлагается решить следующие задачи

1 Исследовать характеристики алгоритмов прогнозирования

2 Разработать методики повышения качества прогнозирования на базе нейронных сетей с учетом вероятностных характеристик прогнозируемого сигнала с использованием разных алгоритмов фильтрации

3 Выполнить сравнительный анализ точности полученных методик

4 Построить арсенал средств моделирования случайных процессов Объект исследования Фабрика хлопковых тканей (ФХТ) — одно из

промышленных предприятий, входящих в состав промышленных групп Министерства промышленности Сирии, и владимирский хлебокомбинат в городе Владимир (Россия)

Информационная база исследовании.

• Объем производства хлопковых тканей (в тоннах) за период с января 1980 г по декабрь 2004 г (массив значений N=300)

• Объем продажи горчичной сушки за январь-июнь 2000 года (массив значений N=178)

Научная новизна результатов работы. В рамках диссертационной работы получены следующие результаты

1 Предложен и исследован способ повышения точности нейросете-вого прогнозирования с учетом вероятностных характеристик прогнозируемого сигнала с использованием различных алгоритмов предварительной обработки информации

2 Разработаны и исследованы алгоритмы предварительной обработки информации, повышающие точность нейросетевого прогнозирования, предложена классификация алгоритмов по критерию увеличения точности однофакторного и многофакторного нейросетевого прогнозирования

3 Предложена гибридная система нейросетевого прогнозирования, в состав которой входят прогнозирующая нейронная сеть и блок предварительной обработки информации, который включает эффективные алгоритмы предварительной обработки информации

4 Исследовано время выполнения одношагового прогноза в гибридной системе нейросетевого прогнозирования с использованием эффективных алгоритмов предварительной обработки информации

Методы исследования. Исследования проводились на основе методов математического анализа, прикладной статистики, теории вероятности, теории нейронных сетей, цифровой обработки информации

Практическая значимость. На основе созданных моделей и предложенных методов обработки данных разработана система поддержки принятия решения при прогнозе объема производства хлопковых тканей на Фабрике хлопчатых тканей в городе Латакия (Сирия) и объема продажи горчичной сушки в владимирском хлебокомбинате в городе Владимир (Россия) Разработанная гибридная система прогнозирования, в состав которой входят прогнозирующая нейронная сеть и блок предварительной обработки информации, позволяет повысить точность прогноза

Апробация работы. Основные результаты работы были представлены на семинаре «Системный анализ, управление и обработка информации» во Владимирском государственном университете (2005,2006,2007), и на следующих конференциях международной научной конференции «Математические методы в технике и технологиях» (ММТТ 19, г Воронеж, 2006), международной научно-практической конференции «Социально-экономические системы и процессы методы изучения и проблемы развития» (г Владимир,2006), международной научно-технической конференции «Информатизация процессов формирования открытых систем на основе СУБД, САПР, АСНИ, и систем искусственного интеллекта» (г Вологда, 2007)

Публикации Основные положения и результаты работы опубликованы в 9 печатных работах, в числе которых 1 статья в издании из перечня ВАК

Объём работы. Диссертационная работа состоит из введения, трех глав, заключения, списка литературы

Основное содержание работы

Во введении обоснована актуальность темы, сформулированы цели и задачи исследования, научная новизна, теоретическая и практическая значимость

Первая глава посвящена анализу существующих методов прогнозирования временных рядов, приведена их классификация В ходе исследования сделаны выводы о возможностях классических методов прогнозирования, раскрыты их достоинства и недостатки

Здесь сделан вывод о том, что общими недостатками классических методов является сложность, а порой и невозможность прогнозирования с их помощью многофакторных временных рядов, а также невозможность отсекать шумы в исходных данных, что требуется при прогнозировании показателей на производстве в условиях современной экономики Этих недостатков лишены методы, основанные на нейронных сетях, которые находят все большее применение По сравнению со средствами математической статистики и технического анализа, традиционно использовавшимися для прогнозирования, нейронные сети имеют ряд преимуществ Так, нейросетевой анализ не предполагает никаких ограничений на характер входной информации Это могут быть как индикаторы данного временного ряда, так и сведения о динамике других факторов, в то время как другие методы рассматривают только значения прогнозируемого ряда Применение нейронных сетей не накладывает никаких ограничений на характер исследуемых рядов, поэтому нестационарность рассматриваемых процессов не представляет проблемы Наиболее ценным свойством нейронных сетей является их способность успешно решать задачи, в которых затруднено или невозможно нахождение аналитических зависимостей между входными и выходными данными Нейросети способны находить оптимальные для данной задачи индикаторы и строить по ним оптимальную для данного ряда стратегию предсказания Кроме того, эта стратегия может быть адаптивна, меняясь вместе с ситуацией

На этом основании предлагается использовать для прогнозирования состояния производственного предприятия искусственные нейронные сети

Во второй главе исследованы основные особенности нейросетевого прогнозирования, представлена классификация существующих парадигм нейронных сетей по структуре, по особенностям моделей, по видам обучения

Приведены способы обеспечения и ускорения сходимости в нейросетевой модели прогнозирования в том числе предварительный и опти-

мальный подбор архитектуры сети, подбор коэффициента обучения, методы инициализации весов, упорядочение данных, импульс, управление величиной шага, масштабирование данных

Приведены особенности использования искусственных нейронных сетей для однофакторного и многофакторного прогнозирования временных рядов

В ходе исследования архитектуры и структуры нейронной сети для решения задачи прогнозирования кратко представлены следующие архитектуры нейронная сеть с задержкой по времени, сеть Джордана, сеть Элма-на, полностью рекуррентная нейронная сеть, нейронная сеть с запаздыванием по времени с Оатта-памятью, нейронная сеть с радиальными базисными функциями, нейронная сеть прямого распространения с временным окном как нелинейная авторегрессионая модель, многослойный персеп-трон

На основе сравнительного анализа сетей сформулированы практические рекомендации для определения структуры и архитектуры нейронной сети для прогнозирования состояния производственного предприятия, и на основе этих рекомендации далее в работе решено использовать НС на основе «многослойный персептрон» с алгоритмом обучения обратного распространения ошибки, в составе гибридной прогнозирующей системы

Для повышения эффективности нейросетевого прогнозирования временных рядов в работе предложен новый подход, в основе которого лежит учет вероятностных характеристик прогнозируемого сигнала, далее кратко анализируется этот подход

На точность прогнозирования случайных процессов на базе нейронных сетей влияют многие факторы шаг обучения, объем обучающей выборки, алгоритм обучения, структура нейронной сети, а также вероятностные характеристики прогнозируемого сигнала, в частности, время корреляции (ширина спектра), роль которых в работе специально исследуется

Для выявления зависимости точности прогнозирования от времени корреляции необходимо обеспечить, чтобы при его изменении все другие факторы оставались неизменными, для этого необходимо построить генератор специальных тестовых сигналов, в которых будет изменяться время корреляции при сохранении постоянными других характеристик

Белый щум играет важную роль в вероятностном анализе, многие случайные процессы генерируются его фильтрацией

В литературе подробно описано преобразование стационарного процесса (в частности белого шума) при его прохождении через линейную систему, результаты которого является нестационарным случайным процессом на период временны 1нестс и стационарным случайным процессом

на период поскольку 1стат ,1„еста<< 1и„шп можно считать, что результат преобразование белого шума является стационарным случайным процес-

сом, прогноз которог о будет исследован в данной работе.

Для этой цели в работе предлагается использовать генератор случайных процессов по схеме рис. 1

^OJOEEJ» ьщЬ

i OVTI>I Í> d i^ Гтыр

Pnt.l. С*сма генератора случайных процессов

В проведенном эксперименте использован фильтр нижних частот первого порядка, в качестве формирующего фильтра и при этом изменяется частота сокращения и сохраняется порядок фильтра равный 1, Его линейное дифференциальное уравнение дается следующим выражением;

Ь(1)*х{п) + Ь(2)*х(п-1))- а(1)*у(п)- а(2)у(п-1) =0 . (1)

Белый шум подается на вход цифрового фильтра, в котором варьируются параметры Ь(1),Ь(2),а(1),а(2); за счет этого получается набор процессов с разными характеристиками (рис. 2). При проведении эксперимента по схеме рис. 3 подаются выходные сигналы генератора в одинаковые прогнозирующие сети; абсолютные средние ошибки прогнозирования сравниваются дня всех сигналов между собой.

«he -1ы 'ii' о iírtutj

Рис, 2. Вход (белый шум} и выходы формирующею фильтра (специальные тестовые сигналы), их автокорреляционные функции и спектры мощности

Гнс. 3. Схема системы сравнении ошибок' прогнозировании

Абсолютная средняя ошибка прогнозирования (АСОП) сигнала дается следующим выражением:

АСОП= у" 1\Гг_ , - Ур , | (2)

,. Г. . . . N ~ (V + и * 1 }

¥г - реальное значение сигнала; Ур - прогнозированное значение сигнала; Тг - объём обучающий выборки; п - качество нейронных в входной слой; N - количество прогнозирующих интервалов дискретности.

На рис. 4 отражен график АСОП сигналов, которые показаны на рис. 2, при шаге обучения, равном одному интервалу, и обучающей выборке, равной 50 интервалам дискретности, с использованием НС типа многослойный персептрон.

Рис. 4. Зависимость ЛСОП сигналов от времени корреляции

Анализ показывает, что точность прогнозирования тем выше, чем больше время корреляции сигнала, то есть АСОП сигналов с большими временами корреляции меньше, чем для сигналов с меньшими временами корреляции.

С /другой стороны, иногда случайные процессы имеют циклический характер. Для определения зависимости точности прогнозирования от длины цикла проводим эксперимент по схеме рис. 5, где: ¥,.„(!) = ¿'„(О - - прогнозируемый сигнал; п~1.......Ы; х (г) — любой случайный процесс

(шум); а А$п\(2тф I п) - циклический сигнал, где длина цикла равна У (г) - прогнозированный сигнал.

На рис. 6. отражены прогнозируемые сигналы 5,(1)........^л('), где заметно, как цикл сигналов увеличивается.

Гнс. 5 . Сравнения ошибок прогнозировании сигналов с раин»» длиной никло

А

»■Цлг-ч'Н^пп '' '*" 1 . • г14 1- ^ +п I » Г I К;-»Г ■

Б

Рис, 6. А. Прпгношруемыс сигналы г разными циклами 51(1)..,,$N(0 Ь. Автокорреляционные функции сигналив $1(1).,..$N(1)

При проведении эксперимента сравниваются между собой АСОВ для всех сигналов. На рис. 7 отражен график АСОЛ сигналов, которые показаны на рис. 4, лри шаге обучения, равном одному интервалу, и обучающей выборке, равной 25 интервалам дискретности.

I

Анализ показывает, что чем больше цикл сигнала, тем точность прогнозирования выше, то есть АСОП у сигналов с большими циклами меньше, чем у сигналов с меньшими циклами.

? 1 ф т Т т 1II пI......;

■,р|»йгг ЭТ.....

Рнс. 7. АСО0 Сигналов 8Ш,.,.8№й

В третьей главе на основе результатов, полученных во второй главе, предлагается гибридная система прогнозирования В состав этой системы входят прогнозирующая нейронная сеть (НС) и блок предварительной обработки информации (БПОИ), задача которого состоит в том чтобы увеличить время корреляции (уменьшить ширину спектра) прогнозируемого сигнала, при этом одновременно нужно обеспечить, чтобы все другие вероятностные характеристики прогнозируемого сигнала оставались неизменными

На этом основании предлагается построить гибридную систему прогнозирования на базе нейронных сетей (ГСПНС) по обобщенной схеме рис 8, в которой используются алгоритмы предварительной обработки информации (АПОИ) в виде БПОИ и прогнозирующая НС

Говориор епуишых щпцргспя

(ГСП)

ш слушшого проц««»

1 фпгтгпигруттгря иенрсинач сеть

Пр гттс№руглшпя

НРИрГОТИЯЯ ГРГР.

' 1 §

ш

• Н 8 8

О й

I 1пррдрл^нир тгзнпучшит* параметров ЫЮИ

Рис 8 Обобщенная схема ГСПНС

В работе исследованы следующие АПОИ с точки зрения выбора их параметров применительно к условиям использования в составе ГСПНС

1) сглаживание на основе кубических сплайнов (КС),

2) фильтр скользящего среднего значения (ФССЗ),

3) методы взвешенной линейной регрессии, полином первой степени (МВЛРППС),

4) робастное сглаживание полиномом первой степени (РСППС),

5) Фильтр Савицкого-Голя (ФСГ),

6) медианный фильтр (МФ),

7) адаптивный фильтр с конечной импульсной характеристикой по методу наименьших средних квадратов 10-ого порядка (АФ-ких-мнк-10),

8) фильтр Калмана 10-го порядка (ФК-10),

Для того чтобы сравнить эффективность применения предлагаемых АПОИ для повышения точности прогноза в составе ГСПНС, различим два подхода

1. Однофакторная гибридная система прогнозирования временных рядов

Многократно проводится эксперимент по схеме рис 9 с наилучшими параметрами (см рис 8) для ГСПНС Далее сравниваются АСОП всех ГСПНС с разными АПОИ

ГСП

-ч.

те

Ф(ХЗ

мвяипг

>н

ршпс

-с

сг

М4-

ч

П|пп> гч/ Я • НС _"

1 ¡1 я ц В 1е 5 сО ¡3 4 о •а 3 3 В о I Ё II Й. & и

• тс " ]->1

► тес 1-►

так..... ■1 жс

»| тс »1 шс

пне

Рис. 9. Схема сравнительного анализа Л.ПОИ

На рис. 10. приведены графики АСОП всех предлагаемых выше АПОИ для сигналов с шириной спектра, изменяющейся с 0,1 по 0,9. На этой основе далее вводится их классификация.

Рис. К). График ЛСОН для сигналов с изменяющейся шириной спектра 0,1 по 0,9 поСПНС(0) " по ГСПНС (1:8).

ЕЗщЦш 04

Здесь

0 - АСОП для системы прогнозирования на базе НС по рис 6,

1,2,3,4,5,6,7,8 - АСОП по ГСПНС с использованием описанных выше

АПОИ в соответствующем порядке

На основе анализа полученных результатов предлагается следующая классификация АПОИ

1) алгоритмы с максимальной эффективностью

1 - сглаживание на основе кубических сплайнов, 2 - фильтр скользящего среднего значения, 3 - методы взвешенной линейной регрессии, полином первой степени,

2) алгоритмы со средней эффективностью

1 — робастное сглаживание полиномом первой степени, 2 — фильтр Са-вицкого-Голя,

3) слабоэффективные АПОИ

1 — медианный фильтр, 2 - фильтр Калмана 10-го порядка, 3 - адаптивный фильтр с конечной импульсной характеристикой по методу наименьших средних квадратов 10-ого порядка

Кроме этого, учитывается, что в некоторых процессах обработки информации затрачиваемое на них время играет очень важную роль В связи с этим надо подбирать алгоритм БПОИ так, чтобы прогнозирование было не только наиболее точным, но при этом оно должно быть наиболее быстрым В качестве одного из средств сокращения времени обработки рекомендуется использовать абсолютную среднюю ошибку (ACO), потому что время ее вычисления меньше, чем время вычисления относительной средней ошибки (ОСО) и время вычисления средней квадратичной ошибки (СКО)

В таблице 1 показано время одношагового прогнозирования (ВОП) случайного процесса по ГСПНС при одинаковом времени обучения с использованием всех ранее описанных АПОИ Аналогичные исследования в условиях прогнозирования процессов с другими частотами среза на разных компьютерах дали сходные результаты

Таблица 1 Время одношагового прогнозирования

БПОИ КС ФССЗ МВЛРППС РСППС ФСГ МФ АФ

ВОП(секунд) 0 547 0 547 0 531 061 0 547 0 532 0 546

В результате можно сделать вывод о том, что методы взвешенной линейной регрессии полиномом первой степени (МВЛРППС) как АПОИ являются алгоритмами с максимальной эффективностью и высоким быстродействием в составе ГСПНС

2. Многофакторпая гибридная система прогнозирования временных рядов

Проводится эксперимент по схеме рис 11, при этом для многофакторной модели и для однофакторной модели используются одни те же наи-

лучшие параметры АПОИ.

Л ^ Й « ЕМ 1 У ® ? £ 2 а 5 " | а в X § с ш 11 А 1 м н ! 1'ё г и Ург I в ? А ! 1 Я Ё § 5 ю II | | § В г* и О* о, о 41

Уг

г

ни ¡1 р а о 8 1*

Рис. ] 1. Схема сравнительного анализа АПОИ дли многофакторного прогнозирования

Здесь: Уг - последовательность прогнозированных данных; X, 2 - последовательность внешних факторов; Ур - последовательность прогнозируемых данных по СПНС; Ург - последовательность прогнозируемых данных по ГС1ШС,

На рис. 12,А отражается график АСОП для низкочастотного многомерного сигнала, на рис. 12,Б график АСОП для высокочастотного многомерного сигнала.

Здесь:

О - АСОП для системы прогнозирования на базе НС по рис. 6;

1,2,3,4,5,6,7,8 - АСОП по ГСПНС с использованием описанных выше АПОИ в соответствующем порядке.

|' С

!

V

г

X

Рис. 12. Л. АСОП дли низкочастотного многомерною сигнала но СИ НС и но ГСПНС К. ЛСОН дли высокочастотного многомерного сигнала но СПНС и по ГСПНС

В результаты можно предложить следующую классификацию АПОИ для многофакторного прогнозирования по ГСП НС.

1) Для низкочастотных многофакторных моделей являются эффективным следующие АПОИ:

1 - фильтр скользящего среднего значения ; 2 - фильтр Савицкого-Голя ; 3 - адаптивный фильтр с конечным импульсным откликом по методу наименьших средних квадратов 10-ого порядка.(АФ-ких-мнк).

Все другие АПОИ являются слабоэффективными.

2) Для высокочастотных многофакторных моделей являются эффективными следующие АПОИ:

1 - фильтр скользящего среднего значения; 2 - фильтр Савицкого-Голя ; 3 -медиана фильтр; 4 - адаптивный фильтр с конечным импульсным откликом по методу наименьших средних квадратов 10-ого порядка (АФ-кта-мнк).

Остальные АПОИ являются слабоэффективными.

При отборе АПОИ с целью повышения точности системы прогнозирования на базе НС (СПНС) исследованы также следующие алгоритмы, которые оказались неэффективными в составе ГСПНС: адаптивная нейрон-мая сеть и классические цифровые фильтры (Баттерворта, Бесселя, Че-бышева (1-го и 2-го видов), эллиптические фильтры)

Далее приводятся результаты применения ГСПНС для прогнозирования объёма производства хлопковых тканей на фабрике х.юпко<зьис тканей (ФХ7).

ФХТ находится в средиземноморском городе Л эта кия (Сирия), где влажность очень высокая во всех сезонах года. Как известно, влажный хлопок нельзя пускать в процесс производства. Для решения этой проблемы склады ФХТ круглосуточно кондиционируются. Это большие затраты, поэтому надо иметь в складах только нужное количество хлопка, и именно для этого необходимо иметь надежную систему прогнозирования. Временной ряд (ВР) объема производства н его автокорреляционная функция приведены на рис. 13,А и Б соответственно. ВР объёма производства, как и другие технические ВР, является одно факторным

, к

".иг

Гнс. 13. Л. ВР объема производства в ФХТ с января 1980г но декабрь 2(КМг. Б. График автокорреляционной функций ВР объёма производства в ФХТ с 01.1930 по 12.2004

На диаграмме рис 14 представлена функциональная модель бизнес-процесса предприятия. Его более детальное представление даётся рис. 15. Здесь показано место функции прогнозирования й бизнес-процессе.

iff Г '»1

Перечень

н<мОходимогО

СыфьА

-— J-< а лад «а НОЙ (ЮМА и - ' <ХЛМ4>А(HMl

РИЧМ i

гфЛЯгМ 1 гарт*. [ **** I'liiii |щцн

.. _______-1 ■ X . 1

Управлйт», длительностью предприятия

1 TpjwcrtOpt

Имформлцин п 4>Д

Рис. J 4, Контекстная диаграмма IDEF0

торгового

отд*л»&

Рис. 15, Диаграмма АО «Управлять деятельностью предприятия»

В таблице 2 представлены АСОП и относительная средняя ошибка прогнозирования (ОСОП) объёма производства хлопчатых тканей на ФХТ по ГСГТНС с использованием всех эффективных приведенных выше АПОИ при шаге обучения, равном одному интервалу, и обучающей выборке, равной 150 интервалам дискретности.

Таблица 2. ЛСОП объем производства ФХТ

ЛСОП по а и [с - 66 « тан. аа.1И по а !ЦС 13.152%

ЛСОП по ГСГШС в тонах КС ФССЗ мвлише РС11ПС ФСГ МФ ЛФ- ких-мнк-10 КАФ-10

37.5 46,7 47.4 48 48.7 489

ОСОП по гепне 7.875% £229% 7,383% 9.194% 9 3У!% 9 45% 9.588% 9.627%

Результаты применения ГСГ1НС соответствуют приведенной классификации АПОИ Ш1Я одно факторной гибридной системы прогнозирования временных рядов.

Далее приводятся результаты применения ГСПНС для прогнозирования объёма продаж горчичной сушки во владимирском хлебокомбинате

! {редприятик ОАО «Владимирский хлебокомбинат» занимается производством и реализацией хлебобулочных изделий, оно относится к пищевой

промышленности.

/

J

Ряс, 16. График объема продаж горчичной сушки за январь-июнь 2000 года

В ходе работы над диссертацией был рассмотрен круг вопросов, связанных с анализом и прогнозом объёма продаж горчичной сушки во владимирском хлебокомбинате. При этом на входе нейронной сети выполнялась предварительная обработка, прежде всего, статистическая обработка входной информации (СОВИ) с целью повышения эффективности прогнозирования нейронной сети.

Цель СОВИ — выявить основные свойства последовательности исходных данных, подготовить информацию для фильтрации и выбрать алгоритм фильтрации входных данных на входе нейронной сети.

Предполагаемая методика СОВИ включает;

1) использование метода линейного приближения входных данных, цель которого заключается в сглаживании,

2) определение разности между входными данными до и после сглаживания;

3) определение автокорреляционной функции (АКФ) для сигнала разности;

4) использование метода нелинейного приближения для АКФ, при котором приближается результат к одной из типовых форм, на основе алгоритма наименьших квадратов;

5) использование преобразования Фурье для получения спектральных характеристик; амплитудный спектр (спектр мощности) используется для построения фильтра.

В результате статистической обработки входной информации:

1) выявляются свойства случайной последовательности;

2) выбирается подходящий алгоритм фильтрации.

С использованием метода быстрого преобразования Фурье можно анализировать динамику объёма продаж. При этом можно определить длину одного цикла или длины нескольких циклов в случае, когда циклов несколько.

Выявлено, что объём продаж горчичной сушки, повторяется приблизительно каждые 87 дней,

С другой стороны, можно определить этот цикл с использованием алгоритма, где применяется метод нелинейной аппроксимации данных по формуле ус ~ Асо$(а>- (+ цель алгоритма - анализировать изменения объема продаж как показано на рис. 17, где заметно, что цикл действительно приблизительно равен 87 дням.

14

Рис. 17. Авалю изменения объема продаж Задача прогнозирования относится к задачам стратегического планирования операций, т. к. включает в себя принятие решений об инвестициях, определяющих возможный объём продаж продуктов производства. В цикле планирования (рис. 18) прогнозирование является одним из ключевых этапов для построения дальнейшей деятельности организации.

Риг. 18. Цикл планирования

В таблице 3 предоставлены АСОП и ОСОП объема продаж горчичной сушки по ГСПНС с использованием всех эффективных предлагаемых выше АПОИ при шаге обучения, равном одному интервалу, и обучающем выборке, равной 90 интервалам дискретности

Таблица 3. АСОП объема продаж горчичной сушки

АСОП по СГ1НС = 470 97 кг ОСОП = 87%

АСОП по ГСПНС в кг КС ФССЗ МВЛРППС РСППС ФСГ МФ АФ-КИХ-МПК-10 КАФ

210 85 228 9) 232 79 316 98 310 07 401 69 452 76 472 56

ОСОП по ГСПНС 39% 4 237% 4 309 % 5 867 % 5 73 % 7 42 % 8 381 % 8 74 %

Результаты применения ГСПНС соответствуют приводившейся классификации АБОИ для однофакторной гибридной системы прогнозирования временных рядов

В заключении приведены основные результаты, полученные в ходе выполнения диссертационного исследования, сформулированы выводы по работе в целом и определены перспективы дальнейших исследований

В основе полученных в диссертации решений лежат следующие результаты, выносимые на защиту

1) предложен и исследован способ повышения точности нейросете-вого прогнозирования с учетом вероятностных характеристик прогнозируемого сигнала с использованием различных алгоритмов предварительной обработки информации,

2) разработаны и исследованы алгоритмы предварительной обработки информации, повышающие точность нейросетевого прогнозирования, предложена классификация алгоритмов по критерию увеличения точности однофакторного и многофакторного нейросетевого прогнозирования,

3) предложена гибридная система нейросетевого прогнозирования, в состав которой входят прогнозирующая нейронная сеть и блок предварительной обработки информации, который включает эффективные алгоритмы предварительной обработки информации,

4) исследовано время выполнения одношагового прогноза в гибридной системе нейросетевого прогнозирования с использованием эффективных алгоритмов предварительной обработки информации

ОСНОВНЫЕ РЕЗУЛЬТАТЫ ОПУБЛИКОВАНЫ В СЛЕДУЮЩИХ РАБОТАХ

В изданиях по перечню ВАК

1 Али Маджд Ахмад Нелинейная обработка информации по методу скользящего среднего в гибридной системе прогнозирования на базе нейронных сетей // Вестник Костромского государственного университета - 2006 -

Том 12 - Серия технические и естественные науки «Системный анализ Теория и практика» -№2 -С 72-73

В друпк изданиях

2 Али Маджд Ахмад Статистическая обработка входной информации в задачах прогнозирования на основе нейронных сетей // Социально-экономические системы и процессы методы изучения и проблемы развития Материалы Между i гарод! юн научно-практической конференции Филиал ГОУ ВПО ВЗФЭИвг Владимире - Владимир 2005, с 181-184

3 Али Маджц Ахмад К задаче прогнозирования объема реализации продукции //Там же, с 185-186

4 Али Маджд Ахмад Исследование зависимости точности прогнозирования случайного процесса на базе нейронных сетей // Современные проблемы экономики и новые технологии исследований Межвузовский сборник научных трудов Филиал ГОУ ВПО ВЗФЭИ в г Владимире - Владимир 2006, с 145-147

5 Али Маджд Ахмад Повышение качества прогнозирования с использованием нелинейной обработки информации в гибридной системе на базе нейронных сетей//Там же, с 147-150

6 Али Маджд Ахмад Neural Networks Time Senes Forecasting // Материалы Международной научной конференции «Математические методы в технике и технологиях (ММТТ-19)» Том 6 - Воронеж 2006, с 46-48

7 Али Маджц Ахмад Исследование точности прогнозирования случайного процесса на базе нейронных сетей // «Алгоритмы, методы и системы об работки данных» Сборник научных статей - М Горячая линия-Телеком, 2006, с 144-148

8 Али Маджд Ахмад Однофакторная гибридная система прогнозирования временных рядов // Современные проблемы экономики и новые технологии исследований Межвузовский сборник научных трудов Филиал ГОУ ВПО ВЗФЭИ в г Владимире - Владимир 2007 (в печати)

9 Али Маджд Ахмад Многофакторная гибридная система прогнозирования временных рядов // Информатизация процессов формирования открытых систем на основе СУБД, САПР, АСНИ, и систем искусственного интеллекта Сборник материалов международной научно-технической конференции (ИНФОС) - Вологда 2007 (в печати)

Подписано в печать 17 07 07 Формат 60х84/16 Уел пе<т л 0,93 Тираж 100 экз Заказ ¿6*-?00?г Издательство Владимирсксн о государственного университета 600000, г Владимир,ул Горько'о, 87

Введение.

Глава 1. Методы прогнозирования временных рядов.

1.1. Виды и статистический анализ временных рядов.

1.2. Классификация методов прогнозирования временных рядов.

1.3. Статистические методы прогнозирования временных рядов.

1.4. Нестатистические методы прогнозирования временных рядов.

1.5. Сравнительный анализ методов прогнозирования временных рядов.

Глава. 2. Прогнозирование временных рядов на основе нейронных сетей.

2.1. Общие положения теории нейронных сетей.

2.2. Классификация нейронных сетей, сравнительный анализ существующих методов и алгоритмов обучения нейронных сетей.

2.3. Нейросетевые подходы к решению задачи прогнозирования.

2.4. Способы обеспечения и ускорения сходимости в нейросетевой модели прогнозирования.

2.5. Система прогнозирования на базе нейронных сетей (СПНС).

2.6. Определение архитектуры и структуры нейронной сети для решения задачи прогнозирования.

2.7. Методы повышения эффективности нейросетевого прогнозирования временных рядов.

Глава. 3. Разработка алгоритмов для гибридной системы прогнозирования на базе нейронных сетей.

3.1. Повышение качества прогнозирования с использованием предварительной обработки информации в гибридной системе на базе нейронных сетей (ГСПНС).

3.2. Алгоритмы предварительной обработки информации.

3.3.Сравнительный анализ алгоритмов предварительной обработки информации в ГСПНС.

3.4. Применение ГСПНС для прогнозирования объёма производства хлопковых тканей на фабрике хлопковых тканей (ФХТ).

3.5. Применение ГСПНС для прогнозирования объёма продаж горчичной сушки во владимирском хлебокомбинате.

Актуальность темы Прогнозирование играет важную роль в различных областях народного хозяйства. Поскольку технологические процессы и условия ведения бизнеса изменяются во времени, необходимо постоянно отслеживать и предсказывать эти изменения для успешной реализации технических решений или совершения деловых операций.

Так, для того чтобы планировать производство семейства продуктов, необходимо прогнозировать продажи каждого продукта и иногда на несколько месяцев вперед. Эти прогнозы для конечных продуктов могут быть далее преобразованы в требования к полуфабрикатам, материалам, рабочим и т.д. Таким образом, на основании прогноза может быть построен график работы целой группы предприятий.

Прогнозирование также может быть важной частью систем управления технологическими процессами. Наблюдая ключевые переменные процесса и используя их для предсказания будущего поведения процесса, можно определить оптимальное время и длительность управляющего воздействия.

К настоящему времени разработаны многие методы прогнозирования, задачей которых является предсказание будущих событий с той или иной степенью надежности с целью использования этого прогноза при принятии решений.

Формально имеется два подхода к прогнозированию - качественное и количественное. Методы качественного прогнозирования, такие как метод экспертного оценивания, особенно важны, когда статистические данные за прошедшие периоды времени недоступны и/или ненадежны. Все качественные методы субъективны и обычно характеризуются значительной ошибкой прогноза.

Количественные методы прогнозирования основаны на существенном использовании информации за прошедшие периоды времени. При исследовании процесса за прошедшее время удается выяснить основные взаимосвязи между величинами и дать более надежный прогноз на будущее.

Методы прогнозирования, основанные на анализе временных рядов (BP), относятся к классу количественных методов прогнозирования. Прогнозирование временных рядов предусматривает определение прогнозного значения переменной преимущественно на основе прошлых и текущих значений этой же переменной. Если определяются значимые факторы и функциональная или стохастическая зависимость отклика от этих факторов с применением множественного регрессионного анализа, то, как правило, говорят об анализе многомерных временных рядов.

В связи с широким распространением программных средств принятия решений в настоящее время особенную важность представляет разработка методов автоматизированного прогнозирования для использования результатов прогноза в автоматизированных системах принятия решении.

Автоматизированное прогнозирование с использованием вычислительной техники предполагает функционирование прогнозирующих моделей и алгоритмов с минимальным участием человека, автоматический выбор модели и параметров модели для прогнозирования конкретных показателей, численно выражаемых с помощью временного ряда.

В то же время, классические методы прогнозирования временных рядов, в том числе методы, основанные на аппарате математической статистики, обладают рядом недостатков, затрудняющих их использование для построения автоматизированных прогнозирующих моделей.

Одним из современных методов, используемых для прогнозирования, являются искусственные нейронные сети (НС).

Теория искусственных нейронных сетей создана и развита в трудах Ф. Розенблатта, М. Минского, С. Гроссберга, Т. Кохонена и др.

Сегодня вопросам теории и практического использования искусственных нейронных сетей посвящены работы российских ученых А.И. Галушкина, А.Н. Горбаня, В.В. Золотарева, С.Г.Короткого, А.А. Ежова, В.М. Недель-ко и др.

При применении нейронных сетей для прогнозирования используются распознающие модели и модели прогнозирования временных рядов. Одним из главных достоинств нейронных сетей является их способность к обучению и самообучению, т.е. адаптация модели к решению конкретной задачи. Вышесказанное делает искусственные нейронные сети одним из перспективных направлений в разработке методов автоматизированного прогнозирования.

Актуальность задач, связанных с прогнозированием состояния предприятия, основана на потребности изучения данных о состоянии предприятия и результатах его деятельности в прошлом с целью оценки будущих условий и результатов деятельности. Прогнозирование позволяет в значительной степени улучшить управление предприятием за счет обеспечения координации всех факторов производства, реализации взаимосвязи деятельности всех подразделений и распределения ответственности. При этом важно подчеркнуть, что в условиях современного развития науки и техники многие классические методы прогнозирования исчерпали свои возможности.

В настоящей работе исследуются возможность, особенности и эффективность применения нейронных сетей для решения задачи прогнозирования объемов производства промышленного предприятия на основе прогнозирования временных рядов.

Цель и основные задачи исследования. Целью диссертации является повышение качества принятия решений на основе повышения точности ней-росетевого прогнозирования в процессах управления предприятием.

Для достижения поставленной цели решаются следующие задачи.

1. Исследуются характеристики алгоритмов прогнозирования.

2. Разрабатываются методики повышения качества прогнозирования на базе нейронных сетей с учетом вероятностных характеристик прогнозируемого сигнала с использованием разных алгоритмов фильтрации.

3. Выполняется сравнительный анализ точности полученных методик.

4. Строится арсенал средств моделирования случайных процессов.

Объект исследования. Фабрика хлопковых тканей (ФХТ) - одно из промышленных предприятий, входящих в состав промышленных групп Министерства промышленности Сирии, и владимирский хлебокомбинат в городе Владимир (Россия).

Информационная база исследования.

• Объём производства хлопковых тканей (в тоннах) за период с января 1980 по декабрь 2004 (массив значений N=300).

• Объём продажи горчичной сушки за январь-июнь 2000 года (массив значений N=178).

Научная новизна результатов работы. В рамках диссертационной работы получены следующие результаты.

1. Предложен и исследован способ повышения точности нейросете-вого прогнозирования с учетом вероятностных характеристик прогнозируемого сигнала с использованием различных алгоритмов предварительной обработки информации.

2. Разработаны и исследованы алгоритмы предварительной обработки информации, повышающие точность нейросетевого прогнозирования; предложена классификация алгоритмов по критерию увеличения точности однофакторного и многофакторного нейросетевого прогнозирования.

3. Предложена гибридная система нейросетевого прогнозирования, в состав которой входят прогнозирующая нейронная сеть и блок предварительной обработки информации.

4. Исследовано время выполнения одношагового прогноза в гибридной системе нейросетевого прогнозирования с использованием различных эффективных алгоритмов предварительной обработки информации.

Методы исследования. Исследования проводились на основе методов математического анализа, прикладной статистики, теории вероятности, теории нейронных сетей, цифровой обработки информации.

Практическая значимость. На основе созданных моделей и предложенных методов обработки данных разработана система поддержки принятия решений при прогнозировании объёма производства на Фабрике хлопчатых тканей в городе Латакия (Сирия) и объёма продаж горчичной сушки во Владимирском хлебокомбинате в городе Владимир (Россия). Разработанная гибридная система прогнозирования, в состав которой входят прогнозирующая нейронная сеть и блок предварительной обработки информации, позволяет повысить точность прогноза. Материалы диссертации используются в учебной работе кафедры информационных систем и информационного менеджмента Владимирского государственного университета.

Апробация работы. Основные результаты работы были представлены на семинаре «Системный анализ, управление и обработка информации» во Владимирском государственном университете (2005,2006,2007), и на следующих конференциях: международной научной конференции «Математические методы в технике и технологиях» (ММТТ 19, г. Воронеж, 2006); международной научно-практической конференции «Социально-экономические системы и процессы: методы изучения и проблемы развития» (г. Владимир,2006); научно-практической конференции «Формирование социально-ориентированной экономики: вопросы теории и практики» (г. Владимир, 2007); международной научно-технической конференции «Информатизация процессов формирования открытых систем на основе СУБД, САПР, АСНИ, и систем искусственного интеллекта» (г. Вологда, 2007).

Публикации. Основные положения и результаты работы опубликованы в 9 печатных работах, в числе которых 1 статья в издании из перечня ВАК.

3.6. Выводы по третьей главе

На основе сравнительного анализа результатов проведенных экспериментов в настоящей главе обоснована эффективность использования гибридной системы прогнозирования, в состав которой включается многослойной персептрон и БПОИ. При этом выявлены варианты БПОИ, которые характеризуются высокой эффективностью применительно к исследуемым BP, характеризующим промышленные предприятие как объекты управления.

Для однофакторных BP наивысшей эффективностью характеризуются следующие алгоритмы:

1- сглаживание на основе кубических сплайнов (КС);

2 - фильтр скользящего среднего значения (ФССЗ);

3 - методы взвешенной линейной регрессии, полином первой степени (МВЛРППС - LOWESS).

1. Для многофакторных BP:

1) для низкочастотных многофакторных моделей эффективными являются следующие АПОИ:

1- фильтр скользящего среднего значения;

2- фильтр Савицкого-Голея;

3- адаптивный фильтр с конечным импульсным откликом по методу наименьших средних квадратов 10-ого порядка.(АФ-ких-мнк).

2) для высокочастотных многофакторных моделей эффективными являются следующие АПОИ:

1- фильтр скользящего среднего значения;

2- фильтр Савицкого-Голея;

3- медианный фильтр;

4- адаптивный фильтр с конечным импульсным откликом по методу наименьших средних квадратов 10-ого порядка (АФ-ких-мнк).

Кроме того, выявлены АПОИ, обеспечивающие наиболее быстрое прогнозирование ГСПНС.

Заключение

Основным результатом исследования являются обоснование эффективности и методика прогнозирования на основе гибридной системы, включающей блок предварительной обработки информации и искусственную нейронную сеть. Кроме того, получены также следующие результаты.

1. Обобщены и систематизированы методы и модели прогнозирования. Проведен критический анализ алгоритмов и методов прогнозирования. Показано, что применение искусственных нейронных сетей позволяет повысить эффективность прогнозирования временных рядов по сравнению с классическими статистическими методами анализа и прогнозирования.

2. Проведен сравнительный анализ архитектур и алгоритмов обучения нейронных сетей, исследован выбор архитектуры сети, коэффициента обучения и масштабирования данных. Сделан обзор различных типов НС для решения задачи прогнозирования, показана эффективность применения нейронных сетей типа «многослойный перцептрон» для исследуемых временных рядов.

Предложены способы повышения эффективности прогнозирующих нейронных сетей и исследован способ повышения точности нейросетевого прогнозирования, основанный на учете вероятностных характеристик прогнозируемого сигнала и использующий разные алгоритмы предварительной обработки информации.

3. Предложена гибридная система нейросетевого прогнозирования, которая в ряде случаев существенно более точна, чем система нейросетевого прогнозирования. В состав гибридной системы входят прогнозирующая нейронная сеть и блок предварительной обработки информации, который включает эффективные алгоритмы предварительной обработки информации. Разработаны и исследованы алгоритмы предварительной обработки информации, повышающие точность нейросетевого прогнозирования. Построена классификация этих алгоритмов с точки зрения точности однофакторного и многофакторного нейросетевого прогнозирования.

4. Выполнено исследование времени выполнения одношагового прогноза в гибридной системе нейросетевого прогнозирования с использованием алгоритмов предварительной обработки информации и выявлены наиболее быстрые из них.

Полученные результаты позволяют в значительной степени повысить качество прогнозирования объёмов производства на промышленном предприятии.

1. Авеньян Э.Д. Алгоритмы настройки многослойных нейронных сетей // Автоматика и телемеханика. 1995. - №5. - с. 106-118.

2. Али М.А. Neural Networks Time Series Forecasting // Материалы Международной научной конференции «Математические методы в технике и технологиях (ММТТ-19)». Том 6. Воронеж: 2006, с. 46-48.

3. Али М.А. Исследование точности прогнозирования случайного процесса на базе нейронных сетей // «Алгоритмы, методы и системы об работки данных». Сборник научных статей. М.: Горячая линия-Телеком, 2006, с. 144-148.

4. Али М.А. Однофакторная гибридная система прогнозирования временных рядов // Формирование социально-ориентированной экономики: вопросы теории и практики. Межвузовский сборник научных трудов. Филиал ГОУ ВПО ВЗФЭИ в г. Владимире. Владимир: 2007, с. 5-9.

5. Андерсон Т. Статистический анализ временных рядов: Пер. с англ. М.: Мир, 1976.-760 с.

6. Антонью А. Цифровые фильтры: анализ и проектирование.- М.: Радио и связь, 1983.- 318 с.

7. Артемкин Д.Е., Пылькин А.Н. Использование различных архитектур искусственных нейронных сетей для прогнозирования временных рядов // Перспективы развития российской экономики: Межвуз. сб. науч. трудов.

8. Вып. №4.- СПб., Санкт-Петербургский военный университет связи, 2002, с. 660-661.

9. Барский А.Б. Нейронные сети: распознавание, управление, принятие решений.- М.: Финансы и статистика. 2004. 175 с.

10. Бережная Е.В., Бережной В.И. Математические методы моделирования экономических систем. М.: Финансы и статистика, 2001. - 366 с.

11. Блинов С. Д. BrainMaker прогнозирование на финансовых рынках // Открытые системы - 1984,- №4.- с. 7-11.

12. Бокс Дж., Дженкинс Г. Анализ временных рядов, прогноз и управление. -М.: Мир, 1974.

13. Бытачевский Е.А., Козуб В.В. Использование нейронных сетей для распознавания визуальных образов//Материалы IV РНТ конференции «Вузовская наука Северо-Кавказскому региону» Ставрополь, 2000. - С. 5254.

14. В.П. Дьяконов. Matlab 6.5 spl/7 + simulink 5/6. Обработка сигналов и проектирование фильтров. М.: Солон-пресс, 2005. - 575 с.

15. Васильев В.И. Распознающие системы. Киев: Наукова думка, 1969. -354с.

16. Вентцель Е.С. Теория вероятностей.- М.: Наука, 1964. 576с.

17. Вентцель Е.С., Овчаров JT.A. Прикладные задачи теории вероятностей.-М.: Радио и связь, 1983. 416 с.

18. Вороновский Г.К., и др. Генетические алгоритмы, нейронные сети и проблемы виртуальной реальности. X.: ОСНОВА, 1997. - 112 с.

19. Галушкин А.И. Теория нейронных сетей. М.: ИПРЖР, 2000.

20. Танеев P.M. Математические модели в задачах обработки сигналов. М.: Горячая линия-Телеком, 2002. 83 с: ил.

21. Гренджер К., Хатанака М. Спектральный анализ временных рядов в экономике. -М.: Статистика, 1972. 312с.

22. Дуброва Т.А. Статистические методы прогнозирования в экономике. -М.: МЭСИ, статистики и информатики, 2003. 50 с.

23. Ежов А.А., Шумский С.А. Нейрокомпьютинг и его применения в экономике и бизнесе. Курс лекций. Финансово аналитический колледж МИФИ.-М.: 1998.-216 с.

24. Иващенко Д.М., Мордасов Н.Г., Членов A.M., Шиян В.Д. Алгоритмы обработки информации о характеристиках излучений импульсного ускорителя электронов. Журнал технической физики. 2007. - Том 77. -вып.З.

25. Итоги науки и техники: физические и математические модели нейронных сетей. Том 1. М.: изд. ВИНИТИ, 1990.

26. Костров А.В. Наблюдаемость и управляемость гироскопических устройств. Л.: ЦНИИ « РУМБ », 1980. - 104с.

27. Коуэн К.Ф.Н., Грант П.М. Адаптивные фильтры. М.: Мир, 1988. - 388с.

28. Круглов В. В., Борисов В. В. Искусственные нейронные сети. Теория и практика. 2-е., стереотип. - М.: Горячая линия - Телеком, 2002. - 382 е.: ил.

29. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. М: Горячая линия-Телеком, 2000. - 384 с.

30. Липцер Р.Ш., Ширяев А.Н. Статистика случайных процессов. М.: Наука, 1974.-695 с.

31. Лукашин Ю.П. Адаптивные методы краткосрочного прогнозирования временных рядов. М.:Финансы и статистика, 2003.

32. Менаев Ю.Н., Филимонова О.Ю., Лиес Б. Методы и алгоритмы идентификации и прогнозирования в условиях неопределенности в нейросе-тевом логическом базисе. М.\ Горячая линия-телеком. 2003. - С. 105107.

33. Мун Ф. Хаотические колебания,- М.: Мир, 1990. 312 с.

34. Назаров А.В., Лоскутов А.И. Нейросетевые алгоритмы прогнозирования и оптимизации систем. СПб.: Наука и техника, 2003. - 384 е.: ил.

35. Нейронные сети. STATISTICA Neural Networks: Пер. с англ. М.: Горячая линия - Телеком. 2001. - 182 е.: ил.

36. Основы цифровой обработки сигналов. Курс лекций. БХВ-Петербург. -СПБ: 2003. 594 с.

37. Осовский С. Нейронные сети для обработки информации / Пер. с польского И. Д. Рудинского. М.: Финансы и статистика, 2002. - 344 е.: ил.

38. Родионов П.Е. Краткосрочное прогнозирование котировок ОГВВЗ с использованием аппарата нейронных сетей // Интеллектуальные технологии и системы. М.: 1998. - Вып.1. - С.231-245.

39. Рюэль Д., Такенс Ф. О природе турбулентности. Странные аттракторы. М.: Мир, 1981.

40. Свешников А.А. Прикладные методы теории случайных функций. М.: Наука, 1968.-463 с.

41. СуперЭВМ. Аппаратная и программная организация/ Под ред. С. Ферн-баха: Пер. с англ. М.: Радио и связь, 1991. - 320 с: ил.

42. Терехов В.А. Динамические алгоритмы обучения многослойных нейронных сетей в системах управления // Изв. РАН. Сер.Теория и системы управления. 1996. - №3. - с. 70-79.

43. Терехов В.А., Ефимов Д.В., Тюкин И.Ю. Нейросетевые системы управления. М.: Высшая школа, 2002. - 184 с.

44. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика: Пер. с англ. М.: Мир, 1992. - 240 с, ил.

45. Четыркин Е.М. Статистические методы прогнозирования. — М.: Статистика, 1977.

46. Шумский С.А., Яровой А.В., Лукьяница А.А. Нейросетевое предсказание финансовых временных рядов // Тезисы III рабочего семинара-совещания «Теория и приложения искусственных нейронных сетей». -Снежинск, РФЯЦВНИИТФ, 1-3 апреля 1998 г.

47. Шустер Г. Детерминированный хаос. М.: Мир, 1988. - 240 с.

48. Элдер А. Основы биржевой игры. Учебное пособие для участников торгов на мировых биржах. Психология. Тактика торгов. Денежный менеджмент. М.: Изд-во «Светоч», 1995. - 327 с.

49. Эфрон Б. Нетрадиционные методы многомерного статистического анализа: Сб. статей: Пер. с англ. М.: Финансы и статистика, 1988. - 263 с: ил.

50. Azoff М.Е. Neural Network Time Seriese Forecasting of Financial Markets. -John Wiley, 1994.

51. Armstrong S. and Collopy F . Error measures for generalizing about forecasting methods: Empirikal comparisons // International Journal of Forecasting 1992. c.69-80.

52. Artificial Neural Networks: Concepts and Theory. IEEE Computer Society Press, 1992.

53. Chorafas D.N. Chaos Theory in the Financial Markets. Probus Publishing, 1994.

54. Colby R.W., Meyers T.A. The Encyclopedia of Technical Market Indicators. -IRWIN Professional Publishing, 1988.

55. De Vries, B. and J. C. Principe. The Gamma model a new neural model for temporal processing. - Neural Networks, vol. 5, no. 4, pp. 565-576,1992.

56. Fogel D.B. Evolution computation: Toward a New philosophy of Machine intelligence. Cognitive Science, 1987, no. 11, pp.23-63.

57. Gately E. Neural Networks for Financial Forecasting. John Wiley, 1996.

58. Grossberg S. Competitive Learning: from Interactive Activation to Adaptive Resonance. Cognitive Science, 1987, no. 11, pp.23-63.

59. Hebb D. Self-organization and associative memory // Series in Information Sciences, vol.8. Berlin: Springer Verlag, 1961.

60. Kohonen Т., Self-organizing Maps. Heidelberg: Springer Verlag, 1995.

61. Minsky M.L., Papert S. Perceptrons. Cambridge, MA: MIT Press., 1969. (Минский M.JI., Пейперт С. Персептроны. - М.: Мир, 1971).

62. Principe J., deVries В., Kuo J. and Oliveira P. Modeling applications with the focused gamma network // In Neural Information Processing Systems 4, (eds. Moody, Hanson, Touretsky), pp 121-126, Morgan Kaufmann, 1992.

63. Principe J., Kuo J. Backpropagation Through Time with fixed memory size Requirement. Computational NeuroEngineering Laboratory, University of Florida.

64. Rumelhart D.E., Hinton G.E., Williams RJ. Learning internal representations by error propagation. In parallel distributed processing, vol.1, pp.318-62. Cambridge, MA: Mtt Press, 1986.