автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Методы и алгоритмы прогнозирования экономических показателей на базе нейронных сетей и модулярной арифметики

кандидата технических наук
Тихонов, Эдуард Евгеньевич
город
Ставрополь
год
2003
специальность ВАК РФ
05.13.18
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Методы и алгоритмы прогнозирования экономических показателей на базе нейронных сетей и модулярной арифметики»

Автореферат диссертации по теме "Методы и алгоритмы прогнозирования экономических показателей на базе нейронных сетей и модулярной арифметики"

На правах рукописи

Тихонов Эдуард Евгеньевич

Методы и алгоритмы прогнозирования экономических показателей на базе нейронных сетей и модулярной арифметики

Специальность 05.13.18 «Математическое моделирование, численные методы и комплексы программ»

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Ставрополь 2003

Работа выполнена в Северо-Кавказском государственном техническом университете на кафедре «Информационные системы в экономике»

Научный руководитель: доктор технических наук, профессор

Червяков Николай Иванович

Официальные оппоненты: доктор технических наук, профессор

Минаков Владимир Федорович,

кандидат технических наук, доцент Мочалов Валерий Петрович

Ведущая организация: Поволжская государственная академия

телекоммуникаций и информатики, г. Самара

Защита состоится «/У» ноября 2003 года в /■£"*** часов на заседании диссертационного совета К212.245.02 по присуждению ученой степени кандидата технических наук в Северо-Кавказском государственном техническом университете по адресу: 355029, г. Ставрополь, пр. Кулакова 2, зал заседаний СевКав ГТУ.

С диссертацией можно ознакомиться в библиотеке СевКав ГТУ по адресу г.Ставрополь, пр. Кулакова 2.

Автореферат разослан «/У » октября 2003 г.

Ученый секретарь ____

диссертационного совета, О.С.Мезенцева

кандидат физ.-мат. наук, доцент

1. Общая характеристика работы

Актуальность темы. В условиях резкого увеличения требований к масштабам и темпам развития науки и техники для получения эффективных прибылей на российском рынке (в частности на рынке ценных бумаг) становятся актуальными вопросы планирования и принятия решений на основе прогнозирования.

Исследования обусловлены необходимостью внедрения в практику работы профессиональных участников рынка методов научного управления, основанного на строгой формализации процедур принятия инвестиционных решений и необходимостью использования на практике новых инвестиционных технологий. Существенными составными частями таких технологий являются нейронные сети, генетические алгоритмы, теория динамических систем, или теория хаоса, позволяющая в явлениях, на первый взгляд случайных, обнаружить порядок и некоторую структуру. Тот факт, что хаотические модели дают хорошее приближение для финансовых временных рядов, говорит о важности изучения поведения финансовых рынков как нелинейных динамических систем и является дополнительным аргументом в пользу применения в задачах прогноза различных нелинейных методов, в том числе - нейронных сетей (НС).

Использование нейронных сетей в прогнозировании требует большого объема математических расчетов, выполнение которых невозможно без эффективных способов организации и проведения вычислений. Анализ известных подходов, используемых при разработке высокоскоростных вычислительных средств показал, что все они построены на применении тех или иных форм параллельной обработки данных. Поэтому для решения проблемы быстродействия и точности вычислений в НС предлагается использование аппарата модулярной арифметики. Сочетание достоинств системы остаточных классов (СОК) с возможностями массового параллелизма нейросетевых вычислений определило целесообразность разработки математических методов прогнозирования использующих преимущества НС и СОК.

Таким образом, в связи с тем, что в рамках классического подхода не удается получить существенного улучшения качества прогнозирования курсов акций на фондовом рынке, то актуальным является совершенствование методик прогноза сочетая достоинства теории хаоса, нейронных сетей и модулярной арифметики.

Цель диссертационных исследований заключается в повышении эффективности, надежности и практичности методов прогнозирования в результате использования теории хаоса, нейронных сетей и системы остаточных классов.

Научная задача исследований состоит в разработке эффективных методов анализа модельных и экспериментальных данных, выработки новых подходов к вычислению стохастических характеристик сигналов в нелинейных динамических системах, а также в разработке усовершенствованной методики прогнозирования и алгоритмов анализа временных рядов, используя преимущества методов прогнозирования на базе нейронных сетей, модулярной арифметики и теории хаоса. ___— ---

з

Для решения поставленной общей научной задачи была проведена ее декомпозиция на рад следующих частных задач:

1. Проведение обзора и критического анализа по методам прогнозирования; идентификация недостатков. Обоснование потребности в их совершенствовании.

2. Разработка методики нелинейно-динамического анализа временных рядов с использованием теории хаоса.

3. Определение типа и структуры нейронных сетей, используемых для прогнозирования исследуемых временных рядов.

4. Обоснование целесообразности переноса алгоритмов нейросетевых моделей прогнозирования в систему остаточных классов (СОК).

5. Сравнительная оценка качества прогнозирования классических методов и основанных на нейронных сетях.

6. Разработка методики исследования ошибок, возникающих при технической реализации нейронных сетей, а также при шумах и повреждениях. Определить максимально допустимые погрешности, возможные для сигналов и параметров каждого элемента сети, исходя из условия, что вектор выходных сигналов сети должен вычисляться с заданной точностью.

Методы исследования. Для решения поставленных. в диссертационной работе научных задач использованы методы теории чисел, теории хаоса, дифференциального и операционного исчисления, математического моделирования, нейронных сетей, нейроматематики.

Достоверность и обоснованность полученных в диссертационной работе теоретических результатов и формулируемых на их основе выводов обеспечиваются строгостью производимых математических выкладок, базирующихся на аппарате теории нейронных сетей, теории хаоса, модулярной арифметики и теории чисел. Справедливость выводов относительно эффективности предложенных методов подтверждена математическим моделированием.

Научная новизна

1. Разработана комплексная методика анализа временных рядов с использованием теории хаоса и определены ее основные этапы. Показана целесообразность использования показателя Херста в методике восстановления аттрактора по временному ряду.

2. На основе математических моделей разработан пакет программ для определения стохастических характеристик временных рядов и имитационного моделирования.

3. Проведен анализ типов и структур нейронных сетей для прогнозирования динами курсов акций российских компаний. Показана нецелесообразность применения процедуры перемешивания данных при обучении нейронных сетей.

4. Доказана возможность использования системы остаточных классов в прогнозировании. Доказана целесообразность переноса алгоритмов нейросетевых моделей прогнозирования в СОК.

5. Сделана сравнительная оценка качества прогнозирования классических методов и основанных на нейронных сетях.

6. Разработана методика для определения максимально допустимых погрешностей, возможных для сигналов и параметров каждого элемента сети,

исходя из условия, что вектор выходных сигналов ^ети должен вычисляться с заданной точностью.'1 , . ,, ., '<'1'1" ' ' ' <•

Теоретическая значимость исследования состоит" в ' демонстрации необходимости пересмотра некоторых допущений, используемый в стандартных моделях зарубежной финансовой экономики при разработке моделей' поддержки' принятия решений по управлению портфелем ценных бумаг на'йестйбйлбйых 1 развивающихся финансовых рынках. Основные положения и выводы, содержащиеся в диссертации, могут быть использованы для дальнейшего развития методологии прогнозирования в условиях резких изменений основных параметров внешней среды.

Практическая значимость исследования состоит в том, что полученные результаты могут быть применены в процессе управления фондовыми портфелями операторов российского рынка. Целесообразность практического использования полученных решений подтверждена при помощи тестов, доказавших их эффективность, а в ряде случаев - превосходство над имеющимися аналогами.

На защиту выносятся:

1. Математические методы и модели нелинейно-динамического анализа временных рядов на примере исследования динамики курсов акций российских компаний.

2. Методика определения показателя Херста в приложении к нелинейному анализу данных.

3. Методика определения типов и структур нейронных сетей (НС) для прогнозирования.

4. Целесообразность переноса алгоритмов нейросетевых моделей прогнозирования в СОК.

5. Математические модели прогнозирования курсов акций, основанные на нейронных сетях.

Апробапия работы. Результаты работы докладывались на: XXX научно-технической конференции по результатам работы профессорско-преподавательского состава, аспирантов и студентов СевКавГТУ за 1999, на Межрегиональной конференции "Студенческая наука - экономике научно-технического прогресса" в СевКав ГТУ, на Региональной научной конференции «Теоретические и прикладные проблемы современной физики», Ставрополь, СГУ, на НТК «Компьютерная техники и технологии», Ставрополь: СевКав ГТУ.

Публикации. Полученные автором результаты изложены в 7 научных статьях и в 7 работах опубликованных в сборнике материалов межрегиональной конференции "Студенческая наука - экономике научно-технического прогресса". Ставрополь: СевКав ГТУ, 2000, 2001, 2002. В сборнике материалов XXX и XXXII НТК профессорко-преподавательского состава. Ставрополь: СевКав ГТУ, 2000, 2003. В сборнике трудов регион. НТК. «Компьютерная техника и технологии»: Ставрополь: СевКав ГТУ, 2003.

Реализация результатов исследования. Теоретические и практические результаты диссертационной работы внедрены для практического использования на: заводе бытовой химии ОАО «АРНЕСТ» в отделе маркетинга (акт о

внедрении от 4 сентября 2003г.); в «РАО ЕЭС» ОАО «Ставропольпромэнергоремонт» (акт о внедрении от 8 сентября 2003г.).

Структура диссертационной работы. Работа состоит из введения, четырех разделов, списка используемых источников, содержащего 195 наименований, заключения и приложений. Основная часть работы содержит 139 страницы машинописного текста.

2 Содержание работы.

Во ведении обоснована актуальность темы диссертации, сформулирована цель и задачи работы, научная новизна, практическая значимость, указаны основные положения выносимые на защиту. Даны определения основных понятий прогностики. Предложена обобщенная классификация методов прогнозирования.

В первой главе на основе критического анализа формализованных методов прогноза определены их основные недостатки. Дается обоснование целесообразности применения нейронных сетей и модулярной арифметики в прогнозировании. Результатом этого обоснования является постановка задачи исследования.

Критически рассмотрены методы, позволяющие классифицировать временные ряды на стационарные относительно детерминированного тренда (TS trend stationary) и имеющие стохастический тренд (DS difference stationary). Доказано что, определение принадлежности рядов классам TS или DS весьма важно для правильного построения регрессионных моделей.

В течение долгого времени в практике при анализе рядов с выраженным трендом производилось оценивание и выделение детерминированного тренда, после чего производился подбор динамической модели (например, ARMA) к ряду остатков от соответствующей оцененной регрессионной модели. После введения Боксом и Дженкинсом в практику моделей ARIMA приведение рядов к стационарным, с выраженным трендом и медленным убыванием автокорреляционной функции, производилось путем перехода к рядам первых или вторых разностей. Однако, как показали исследования, произвольный выбор одного из этих двух способов приведения к стационарности ряда не эффективен. Показано, что способ приведения к стационарности DS - рядов путем перехода к очищенному ряду (детрендирование) изменяет их спектр и приводит к появлению ложной периодичности (ложные длиннопериодные циклы), которая может быть ошибочно истолкована как проявление некоторого экономического цикла. С другой стороны, дифференцирование TS - ряда приводит к "передифференцированному ряду", который являясь стационарным обладает некоторыми нежелательными свойствами, связанными с необратимостью его МА-составляющей; при этом возникает паразитная автокоррелированность соседних значений продифференцированного ряда (в спектре доминируют короткие циклы). Более того, в случае необратимости МА-составляющей продифференцированного ряда становится • невозможным использование обычных алгоритмов оценивания параметров и прогнозирования ряда.

Критически рассмотрены процедуры, используемые для различения TS и DS рядов такие как: критерий Дики-Фуллера; критерий Лейбурна; критерий

Шмидта-Филлипса; критерий Ор-СЬв; критерий Квятковского-Филлипса-Шмидта-Шина (КРвв).

Рассмотрены Методы сглаживания временного ряда (выделение неслучайной составляющей). Рассмотрены аналитические методы выделения (оценки) неслучайной составляющей временного ряда. Эти методы реализуются в рамках моделей регрессии вида

+ (1) в которой общий вид функции Д/, в) известен, но неизвестны значения параметров в= (60, 01,..., вт). Рассмотрены алгоритмические методы выделения неслучайной составляющей временного ряда (методы скользящего среднего). Критически оценен метод экспоненциально взвешенного скользящего среднего (метод Брауна). В соответствии с этим методом оценка сглаженного значения /(/) в точке С определяется как решение оптимизационной задачи вида

= (2)

к*0 '

где 0 < Л < 1. Следовательно, веса Я* в критерии 0(/) обобщенного («взвешенного») МНК уменьшаются экспоненциально по мере удаления наблюдений в прошлое.

Рассмотрены модели стационарных временных рядов и проблемы их идентификации такие как модели авторегрессии порядка р (АЛ(/?)-модели): модель авторегрессии 1-го порядка - АЯ(1) (марковский процесс); модели авторегрессии 2-го порядка - АЙ(2) (процессы Юла); модели авторегрессии р-го порядка - АЛ(р) (р > 3).

Рассмотрены авторегрессионные модели со скользящими средними в остатках (А!ША(р, ^)-модели). Процессы имеют вид

£,= «]£•,-! +...+ ар£,-р + 6,- -...- (3)

и называются процессами авторегрессии - скользящего среднего порядка (р, <?ХАЯМА(р, <?)).

Рассмотрены модели нестационарных временных рядов и проблемы их идентификации. Модель авторегрессии-проинтегрированного скользящего среднего (АЯ1МА(р, к, я)-модель), предложенная Дж. Боксом и Г. Дженкинсом.

Рассмотрены метод группового учета аргументов, теория распознавания образов. Процедура прогнозирования на основе методов распознавания образов состоит в том, что выбираются классы состояний исследуемых объектов, которые могут быть заданы как диапазонами изменения некоторых параметров, так и определенными качественными характеристиками. По совокупности признаков, определяющих состояние объектов, находится соответствие принадлежности каждого нового объекта (или объекта в будущем понятии времени) к определенному классу. Это позволяет дать прогноз состояния объекта или указать диапазон изменения параметров, характеризующих его на прогнозируемый период.

Прогнозирование с использованием нейронных сетей и генетических алгоритмов. Нейронная сеть - совокупность нейронных элементов и связей между ними. Основной элемент нейронной сети - это формальный нейрон,

осуществляющий операцию нелинейного преобразования суммы произведений входных сигналов на весовые коэффициенты

где X = (л:,,л2,...,*„)т- вектор входного сигнала;= (»с,,и>2,...,у)п) весовой вектор; И - оператор нелинейного преобразования. Большую роль для эффективности обучения сети играет архитектура НС. Доказано, что при помощи трехслойной НС можно аппроксимировать любую функцию со сколь угодно заданной точностью. Точность определяется числом нейронов в скрытом слое.

В ходе исследований сделаны выводы о качестве возможностей классических методов прогнозирования и раскрыты причины их низкой эффективности для прогнозирования экономических показателей. Показана целесообразность использования теории хаоса для анализа экономических временных рядов и нейронных сетей для эффективного прогнозирования.

Вторая глава посвящена разработке процедурной модели исследования временных рядов теорией хаоса. Показано, что в задачах экономического прогнозирования основной интерес представляет поведение параметров, определяющих характер изучаемых явлений. Ввиду сложности нелинейных взаимодействий этих параметров, не все типы экономико-математических методов и моделей в состоянии формировать достоверный прогноз, поэтому целесообразно использовать нелинейно-динамический подход, основой которого является учет внутренних особенностей системы, а не статистические методы, в которых все факторы полагаются случайными или неопределенными.

На основе теории хаоса разработан принципиально новый подход к анализу рынка, отличный от "портфельной теории". Этот подход базируется на предположении, что рынок представляет собой сложную нелинейную систему с обратной связью, а характер группового взаимодействия участников рынка порождает хаотическую динамику цен вследствие 'спорадического использования инвесторами информационного потока и, как следствие, возникновение квазистохастических временных интервалов их действия на рынках.

В качестве исследуемого экономического процесса рассмотрена динамика курсов акций «РАО ЕЭС», «Ростелеком», «Лукойл», «Сбербанк». Использованы данные биржи «ММВБ» (Московская межбанковская валютная биржа) в период с 29.05.1997 по 24.06.2003. При этом рассматривались изменения цены на начало торговой сессии.

Исследования проводились по следующему алгоритму для казвдого из эмитентов в предположении, что:

1. Для восстановления аттрактора использован метод временной задержки координат, предложенный Такенсом. В «-мерном фазовом пространстве строится последовательность точек вида

где т-временная задержка,«-размерность вложения (см. пример восстановленного аттрактора для курса акций «РАО ЕЭС» и «Ростелеком» рис.

(4)

хк * = 0>-Ьи = А/-(и-1)г

(5)

1-2).

о

Рис. 1. Восстановленный аттрактор для курса акций «РАО ЕЭС»

» " *

Рис. 2. Восстановленный аттрактор для курса акций «Ростелеком»

2. Решение промежуточной задачи - выбор временной задержки т. Задержка х выбирается равной времени первого пересечения нуля автокорреляционной функции. Второй используемый способ требует вычисления быстрого преобразования Фурье автокорреляционной функции. Задержка т выбирается равной четверти периода самой высокой из доминирующих частот. Третий, преложенный способ, основан на вычислении показателя Херста, который характеризует процесс, как процесс с долговременной памятью примерно в продолжении т, после которого график начинает следовать случайным блужданиям.

3. Вычисление корреляционной размерности аттрактора. Вычисленный корреляционный интеграл С (г), показывает относительное число пар точек аттрактора, находящихся на расстоянии, не большем г. Оценку размерности аттрактора получают как тангенс угла наклона прямой, аппроксимирующей график корреляционного интеграла С (г) в двойном логарифмическом масштабе. Пример вычисленного корреляционного интеграла С(г) для курса акций «РАО ЕЭС» и «Ростелеком» показан на рис. 3-4).

(од (г)

-т=2

-.71-6

-т=3 -т=7

-т=8

-т»5 -т»9

Рис. 3. Диаграммы корреляционных интегралов для вложений т- 2 + 9 курса акций «РАО ЕЭС»

Рис. 4. Диаграммы корреляционных интегралов для вложений т-2 + 9 курса акций «Ростелеком»

В случае экспериментальных данных размерность фазового пространства системы как правило неизвестна. Поэтому все расчеты проводятся для

нескольких размерностей фазового пространства п = 1,2,3,____ Для

восстановления аттрактора используется метод Такенса. При этом корреляционная размерность аттрактора Бг(п) сначала возрастает, но затем обычно выходит на постоянный уровень 02(п)я £)2 (см рис. 5-6 для курса акций «РАО ЕЭС» и «Ростелеком» ). Таким образом, получают искомую корреляционную размерность В2 аттрактора и оценку размерности фазового пространства системы п < Ю2 +1. Если же выходной сигнал динамической системы сильно зашумлен, то размерность аттрактора постоянно растет.

ГЪжцмкль нкмения

Размерность яложения

Рис. 6. Сходимость фрактальной Рис. 5. Сходимость фрактальной размерности I) = 2.11

размерности О = 2.36 для «РАО ЕЭС» для «Ростелеком»

4. Вычисление корреляционной энтропии аттрактора. Корреляционная энтропия Кг вычислялась, рассматривая не только зависимость от расстояния г, но и от размерности фазового пространства п.

Кг(г,п) = \п-^~- ' (6)

С(г,и + 1)

Энтропия К2 аппроксимируется в приемлемом диапазоне значений г и л. Пример вычисленной корреляционной энтропии для курса акций «РАО ЕЭС» показан на рис. 7).

Рис. 7. Корреляционная энтропия для курса акций «РАО ЕЭС»

10

5. Вычисление характеристических показателей Ляпунова. В работе использован алгоритм Вольфа для нахождения наибольшего показателя Ляпунова по временному ряду данных. Наибольший показатель Ляпунова аттрактора оценивался как

где Ь - число шагов замены и т - общее число шагов по времени, в течение которых движется траектория у. Пример вычисленного показателя Ляпунова для курса акций «РАО ЕЭС» показан на рис. 8).

BptiMixoimv«

Рис. 8. Сходимость наибольшего показателя Ляпунова

Теория хаоса использовалась для разработки стратегии инвестирования, учитывающей величину риска и характер его распределения, а адекватным аппаратом для решения задач прогнозирования стали специальные искусственные нейронные сети (НС). Поэтому далее решалась задача определения структуры и выбора типа НС для задач прогнозирования фондового рынка.

В третьей главе показаны результаты применения нейронных сетей для задач прогнозирования курсов акций. Предложены методы решения проблем идентификации моделей прогнозирования на нейронных сетях. Доказано, что НС более эффективны, чем классические методы прогнозирования.

Большинство существующих рабочих нейросетвых систем и методик ориентированы на зарубежный рынок, очень дороги и самое главное, построены без учета специфики России, поэтому использоваться на отечественном рынке в полной степени не могут. Поэтому решалась важная задача определения структуры и обоснованного выбора типа прогнозирующей нейронной сети для прогнозирования экономических показателей на российском рынке.

Проведен сравнительный анализ радиально базисной нейронной сети (RBF) и сети типа - многослойный персептрон (MLP) на примере прогнозирования курсов акций фондовой биржи. Доказано отрицательное влияние процедуры перемешивания данных (Shuffle) при обучении нейронных сетей, применяемых

и

для прогнозирования. Получены оптимальные нейросетевые структуры для исследуемых временных рядов (таблица 1).

Таблица 1. Оптимальные нейросетевые структуры для прогнозирования курсов акций российских компаний

НС для прогноза акций «РАО ЕЭС» НС для прогноза акций «Ростелеком» НС для прогноза акций «Лукойл» НС для прогноза акций «Сбербанк»

MLP 1:10:1 TPerf, VPerf, TePerf 0,1221; 0,1193; 0,132g регрессионное отношение 0.083055, корреляция 0.996550, среднеквадратическая ошибка предсказания 0.1191367 MLP 1:10:1 TPerf, VPerf, TePerf 2,128; 1,07; 1,201 регрессионное отношение 0.113987, корреляция 0.993490, среднеквадратическая ошибка предсказания 1.070176 МЬР 1:11:1 ТРеН", УРег£ ТеРеН" 9.217; 10.580; 12.610 регрессионное отношение 0.195551, корреляция 0.980696, среднеквадратическая ошибка предсказания 10.58064 MLP 1:47:1 TPerf, VPerf, TePerf 106,7; 97.19; 188,5 регрессионное отношение 0.179922, корреляция 0.983726, среднеквадратическая ошибка предсказания 97.18809)

MLP 1:13:13:1 TPerf, VPerf, TePerf 0,1227; 0,1197; 0,133 регрессионное отношение 0.083461, корреляция 0.996511, среднеквадратическая ошибка предсказания 0.1180339 TPerf, VPerf, TePerf 2.104; 1.7; 1.529 (регрессионное отношение 0.085128, корреляция 0.996371, среднеквадратическая ошибка предсказания 1.699702) ТРег£ УРег£ ТеРегГ 9,259; 10,570; 11,840 (регрессионное отношение 0.195361, корреляция 0.980733, среднеквадратическая ошибка предсказания 10.5714) MLP 1:15:13:1 TPerf, VPerf, TePerf 106,6; 98,1; 144,2 (регрессионное отношение 0.181767, корреляция 0.983668, среднеквадратическая ошибка предсказания 98.09992)

Рассмотрены вопросы совершенствования методов прогнозирования на базе нейронных сетей с использованием непозиционной системы остаточных классов (СОК). Доказано, что в рамках обычной позиционной системы значительного ускорения выполнения операций и надежности добиться почти невозможно. Для организации высокоскоростных параллельных вычислений вполне естественным является выбор системы счисления с параллельной структурой, для которой межразрядные связи при выполнении арифметических операций отсутствуют.

Число А в модулярном коде представляется в виде набора (аи а2, ..., а*) к остатков (вычетов), вычисленных по модулю каждого из оснований непозиционной системы счисления

-=и„ =

для / = 1, 2, ..., к. (8)

где: [ ] - целая часть числа, к - количество оснований. Значение числа в модулярном коде (1) не зависит от местоположения каждого раЗряда в его представлении, а зависит от значения основания соответствующего разряда. Поэтому модулярный код является непозиционным.

Если основания в представлении р/,р2.....Рк выбрать попарно взаимно

простыми, то, согласно Китайской теореме об остатках (КТО), это обеспечивает однозначность представления любых целых чисел из диапазона [О, Р)

Р =Пд. <9>

ы

СОК обеспечивает возможность выполнения операций сложения и умножения с высокой скоростью. Образование остатков от числа в СОК производится независимо друг от друга, вследствие чего, каждый разряд содержит в себе информацию обо всем числе. При выполнении сложения, вычитания и умножения каждая цифра результата зависит от соответствующих цифр операндов. Так, если операнды А и В представлены соответственно остатками а и Р по основаниям р, при / = 1,2,..., к, . " 1

А = (а1, а2, ..., ак)и Я = (Д, Д2, .... (10)

мч..... к+А|Ль

|«2-/?4..... К-Д4), (11)

..... Кд,^).

Таким образом, выполнение арифметических операций в модулярном коде производится независимо по каждому из модулей, что и указывает на параллелизм данной системы. Это обстоятельство определяет возможность независимой их обработки, то есть поразрядного выполнения операций, что избавляет от необходимости "занимать" или "переносить" единицу старшего разряда, и приводит к появлению кодов с параллельной структурой, которые позволяют распараллелить основные арифметические операции, выполняемые в нейронной сети (сложение и умножение).

Изложены основные преимущества перехода к системе остаточных классов. На примерах показана реализация основных арифметических операций в СОК. Одной из проблем использования СОК являлась ограниченность действия системы сферой целых положительных чисел. Эту проблему предложено решить, используя алгоритм представления и работы с дробными числами. Используя алгоритм представления и работы с дробными числами в СОК, удалось снизить относительную ошибку округления вычислений. Рассмотрен подход реализации модульных вычислений для задач прогнозирования на

13

нейронных сетях, который позволил получить ряд существенных преимуществ: повышенная надежность работы системы; сокращение разрядности обрабатываемых данных, представленных в модулярном коде в системе взаимно простых модулей.

Для реализации алгоритмов обучения НС в СОК: введены правила работы с отрицательными числами; рассмотрены варианты введения отрицательных чисел, через введение искусственных форм; показаны алгоритмы перевода чисел из ПСС в СОК и обратно; рассмотрены правила определения ранга чисел в СОК и его свойства; определены правила и алгоритмы определения знака числа в СОК.

В четвертой главе сделана сравнительная оценка классических методов прогнозирования и основанных на нейронных сетях. Доказано преимущество использования нейронных сетей в прогнозировании. В целом ошибка нейросетевого предсказания для выбранных временных радов составила 2-4%. Сравнивалось качество прогнозов сделанных по методу экспоненциальной средней с нейросетевым предсказанием. Метод экспоненциальной средней выбран из соображений оперативности получения прогнозов и простоты метода. Однако сравнительная оценка сделана и для более сложных методов прогнозирования, таких как ARMA, ARIMA. Для примера показаны результаты прогнозов адаптивных моделей и полученных нейронных сетей для динамики курса акций «РАО ЕЭС» (см. рис. 9).

Относительная ошибка прогноза для модели р= 1, Е=3,81; для недели р=2 02; для НС 1.10 1 Е-3,90, для НС 1 1313 1 Е-3,88

-•— Исходный ряд —•— Модель р=1 —*— Модель р=2 -х-НС 1:10.1 -*—НС 1:13:13.1

Рис. 9. Результаты прогнозов адаптивных моделей и полученных нейронных сетей для динамики курса акций «РАО ЕЭС»

Проведена оценка точности и погрешности вычислений в нейронных сетях. Оценка погрешностей сигналов сети необходима при решении задачи упрощения нейронной сети. Зная допустимую погрешность, выходного сигнала какого-либо элемента сети, мы можем заменять его более простыми, но менее точными элементами так, чтобы в итоге ошибка не превышала заданную.

Исследованы ошибки, возникающие при технической реализации сетей, а также при шумах и повреждениях. Определены максимально допустимые погрешности, возможные для сигналов и параметров каждого элемента сети. Показано, что оценки допустимых погрешностей можно получить в ходе специального процесса "обратного распространения точности". С помощью полученных результатов удалось объяснить наблюдаемую высокую устойчивость нейронных сетей к шумам и разрушениям.

В приложении приведены листинги программных модулей для методов описанных во второй главе, блок схемы алгоритмов работы в системе остаточных классов, рассмотрены математические основы метода box-counting и математические основы метода оценки погрешностей в нейронных сетях.

В заключении дана оценка основных результатов диссертационной работы, которые состоят в следующем:

1. Обобщены и систематизированы модели прогнозирования. Проведен критический анализ алгоритмов и методов прогнозирования, позволивший выявить ряд существенных ограничений и недостатков. Показано, что в рамках традиционных методов прогнозирования, значительных улучшений качества прогноза достигнуть очень сложно.

. 2. Разработана усовершенствованная методика анализа и прогнозирования временных рядов, используя преимущества методов прогнозирования на базе нейронных сетей, арифметики системы остаточных классов и теории хаоса.

3. Доказано, что рыночные временные ряды, несмотря на кажущуюся стохастичность, предсказуемы. Доказательством является теория динамического хаоса и проведенные вычислительные эксперименты, из которых сделаны следующие выводы: изучаемые временные ряды имеют лептоэксцессное распределение (распределение с толстыми хвостами); временные ряды фондовой биржи являются фрактальными; доказано, что рассматривать риски различных ценных бумаг посредством оценки их волатильности нецелесообразно; для определения временной задержки т и восстановления аттрактора по временному ряду хорошие результаты удается получить используя спектральный (Фурье) анализ, подтверждением сделанной оценки может служить показатель Херста.

4. Анализ восстановленных «странных аттракторов» курсов акций позволил выделить области притяжения и формирования цен. А рассчитанные фрактальные размерности позволили оценить количество переменных, которое необходимо для моделирования систем. Так для акций «РАО ЕЭС» D = 2,36, для акций «Ростелеком» D = 2,11 , для акций «Лукойла» D = 1,96, для акций «Сбербанка» D = 1,58.

5. Установлено, что временные ряды фондовой биржи являются фрактальными. Рассчитанный показатель Ляпунова, больший нуля, свидетельствует о том, что имеется чувствительная зависимость от начальных условий, в системе существует «странный аттрактор». Предсказательная мощность теряется со скоростью примерно 0,1162 бит/день для акций «РАО ЕЭС», 0,124 бит/день для акций «Ростелеком», 0,153 бит/день для акций «Лукойла», 0,065 бит/день для акций «Сбербанка». То есть максимальная предсказуемость для курса акций «РАО ЕЭС» составляет примерно 8,605 дней,

для курса акций «Ростелеком» составляет 8,064 дней, для курса акций «Лукойла» составляет 6,535 дней, для курса акций «Сбербанка» составляет 15,384 дней.

6. Предложена методика оценки структуры и типов нейронных сетей. В результате вычислительных экспериментов найдены оптимальные структуры и типы нейронных сетей для исследуемых временных рядов. Сделана сравнительная оценка различных типов НС. Проведена оценка точности прогнозирования с помощью НС. Показано, что ключевым для повышения качества предсказаний является эффективное кодирование входной информации.

7. Доказана целесообразность использования системы остаточных классов (СОК) для повышения скорости, надежности и точности работы НС. Показаны преимущества, которые дает использование СОК на НС. Одной из проблем использования СОК являлась ограниченность действия системы сферой целых положительных чисел. Эту проблему предложено решить, используя алгоритм представления и работы с простыми дробями. Используя данный подход, удалось снизить накапливаемую относительную ошибку округления вычислений. Эффективное кодирование входной информации позволило сократить разрядность обрабатываемых данных, представляя их в модулярном коде в системе взаимно простых модулей.

8. Проведена сравнительная оценка классических моделей прогнозирования с моделями на нейронных сетях. Так для акций «РАО ЕЭС» средняя относительная ошибка прогноза для адаптивной модели р = 1 составила Е -3,81%, для модели р = 2, Е - 4,02%, для модели НС МРЬ (структуры 1:10:1) Е = 3,90%; для модели НС МРЬ (структуры 1:13:13:1) Е = 3,88%.

Для акций «Ростелеком» средняя относительная ошибка прогноза для адаптивной модели р = 1, составила Е = 2,56%, для модели р = 2, Е - 4,26%, для подобранных НС (структуры 1:10:1) Е = 2,41%, для НС (структуры 3:6:1) Е = 2,46%.

Для акций компании «Лукойл» средняя относительная ошибка прогноза для модели р = 1, составила Е = 2,60%, для модели р = 2, Е = 3,11 %, для подобранных НС (структуры 1:11:1)Е = 2,67%, для НС (структуры 3:8:1) Е-2,46%.

Для акций «Сбербанка» средняя относительная ошибка прогноза для адаптивной модели р = 1, составила Е - 1,61%, для модели р = 2, Е = 1,87%, для подобранных НС (структуры 1:47:1) Е -3,18%, для НС (структуры 1:15:13:1) Е -1,98%. Высокая ошибка прогнозирования НС для акций «Сбербанка» вызвана тем, что рассматриваемый ряд имеет не достаточное количество данных, что привело к недообученности НС. Но в целом нейронные сети показали наилучшие результаты по сравнению с классическими моделями прогнозирования.

9. Предложена методика исследования ошибок, возникающие при технической реализации нейронных сетей, а также при шумах и повреждениях. Сформулированы требования к точности вычислений и реализации технических устройств, если известны требования к точности выходных сигналов сети.

10. Разработана математическая модель для определения максимально допустимых погрешностей, возможных для сигналов и параметров каждого элемента сети, исходя из условия, что вектор выходных сигналов сети должен вычисляться с заданной точностью. Показано, что оценки допустимых

погрешностей можно получить в ходе специального процесса "обратного распространения точности".

Список основных работ по теме диссертации.

1. Бурдо А.И., Тихонов Э.Е. К вопросу совершенствования систем прогнозирования//Материапы XXXVIII юбилейной отчетной научной конференции за 1999 год: В 3 ч./Воронеж. гос. технол. акад. Воронеж, 2000.-4.2.-С. 211-215.

2. Тихонов Э.Е., Бурдо А.И. К вопросу совершенствования автоматизированных систем прогноза//Материалы межрегиональной конференции "Студенческая наука - экономике научно-технического прогресса". Ставрополь: СевКав ГТУ, 2000.-С.30-31.

3. Бурдо А.И., Тихонов Э.Е. Об одном подходе к проблеме прогнозирования количественных характеристик производственных систем//Материалы XXX НТК профессорко-преподавательского состава. Ставрополь: СевКав ГТУ, 2000.- С.225-226.

4. Бурдо А.И., Тихонов Э.Е. К вопросу систематизации методов и алгоритмов прогнозирования//Материалы межрегиональной конференции "Студенческая наука - экономике научно-технического прогресса". Ставрополь: СевКав ГТУ, 2001. - С. 33 - 34.

5. Тихонов Э.Е. Об одном подходе к прогнозированию с помощью нейронных сетей//Материалы третьей МНК "Студенческая наука - экономике России". Ставрополь: СевКав ГТУ, 2002 - С. 69 - 70.

6. Тихонов Э.Е. Об одном подходе к разработке алгоритмов модулярных вычислений на нейронных сетях//Материалы РНК «Теоретические и прикладные проблемы современной физики», Ставрополь: СГУ, 2002. -С.443 — 448.

7. Тихонов Э.Е. Об одном подходе к разработке системы прогнозирования с использованием модулярных вычислений на нейронных сетях/Материалы РНК «Теоретические и прикладные проблемы современной физики», Ставрополь: СГУ, 2002. - С. 449 - 453.

8. Тихонов Э.Е. Об одном подходе к вопросу повышения надежности работы нейронных сетей с использованием непозиционной системы остаточных классов//Материалы XXXII НТК профессорко-преподавательского состава, аспирантов и студентов СевКав ГТУ за 2002 год. Т 2: Технические и прикладные науки г. Ставрополь: СевКав ГТУ, 2003. - С. 29 - 30.

9. Тихонов Э.Е. Проблемы идентификации моделей прогнозирования на нейронных сетях//Компьютерная техника и технологии: Сб. трудов регион. НТК. Ставрополь: СевКав ГТУ, 2003. - С.187-191.

10. Тихонов Э.Е. Сравнительный анализ традиционных методов прогнозирования с методами прогнозирования на нейронных сетях//Компьютерная техника и технологии: Сб. трудов регион. НТК. Ставрополь: СевКав ГТУ, 2003. - С.179-183.

11. Тихонов Э.Е. Сравнительный анализ радиально базисной нейронной сети и сети типа - многослойный персептрон на примере прогнозирования объема

экспорта/ЛСомпьютерная техника и технологии: Сб. трудов регион. НТК. Ставрополь: СевКав ГТУ, 2003. - С.184-186.

12. Тихонов Э.Е., Зайцева И.В. Прогнозирование на основе рядов Фурье//Компьютерная техника и технологии: Сб. трудов регион. НТК. Ставрополь: СевКав ГТУ, 2003. - С. 173-175.

13. Тихонов Э.Е., Кунаев А.Г. Об одном подходе к вопросу разработки информационной системы прогнозирования для задач поддержки принятия решений// Компьютерная техника и технологии: Сб. трудов регион. НТК. Ставрополь: СевКав ГТУ, 2003.- С.191-193.

14. Червяков Н.И., Тихонов Э.Е. Совершенствование методов прогнозирования на базе нейронных сетей с использованием непозиционной системы остаточных классов//Нейрокомпьютеры: разработка, применение. - М.: Радиотехника, - 2003. - № 10.

Подписано в печать 3.10.03 Формат 60x84/16 Усл. печ. л. 1,1 Уч.-изд. л. 0,99

Бумага офсетная_Тираж 100 экз._Заказ 215

Отпечатано в издательском центре Невинномысского технологического института. 357108, Невинномысск, ул. Гагарина, 1.

i ' »1633 3 (

\

I

I

Оглавление автор диссертации — кандидата технических наук Тихонов, Эдуард Евгеньевич

ВВЕДЕНИЕ.

ГЛАВА 1. Аналитический обзор математических моделей и методов прогнозирования

1.1 Анализ математических основ прогнозирования.

1.2 Анализ временных рядов.

1.3 Анализ моделей стационарных временных рядов.

1.4 Модели нестационарных временных рядов.

1.5 Прогнозирование экономических показателей на основе моделей временных рядов.

1.6 Анализ метода группового учета аргументов.

1.7 Анализ методов теории распознавания образов.

1.8 Прогнозирование с использованием нейронных сетей и искусственного интеллекта и генетических алгоритмов.

1.9 Постановка задачи исследования.

ГЛАВА 2. Модели хаоса для процессов изменения курса акций

2 .1 Методика нелинейно-динамического анализа данных.

2.2 Вычисление стохастических характеристик аттрактора.

2.3 Практические исследования стохастических характеристик динамики курса акции «РАО ЕЭС».

2.4 Построение фазового портрета. Восстановление аттрактора по временному ряду.

2.5 Вычисление корреляционного интеграла. Вычисление корреляционной (фрактальной) размерности аттрактора.

2.6 Вычисление корреляционной энтропии и старшего показателя Ляпунова.

2.7 Исследование основных нелинейных показателей для курсов акций «Ростелеком», «Лукойл», «Сбербанк».

Выводы по второй главе.

ГЛАВА 3. Применение нейронных сетей для задач прогнозирования и ^ф проблемы идентификации моделей прогнозирования на нейронных сетях

3.1 Сравнительный анализ радиально базисной нейронной сети (RBF) и сети типа - многослойный персептрон (MLP) на примере прогнозирования курсов акций фондовой биржи.

3 .2 Об отрицательном влиянии процедуры перемешивания данных (Shuffle) при обучении нейронных сетей, применяемых для прогнозирования.

3.3 Исследование нейросетевых структур для курсов акций «Ростелеком», «Лукойл», «Сбербанк».

3.4 Многофакторные нейронные сети.

3.5 Разработка математических моделей непозиционного кодирования для решения задач прогнозирования на нейронных сетях.

3.6 Анализ методов повышения качества предсказаний.

Выводы по третьей главе.

ГЛАВА 4. Сравнительная оценка классических и нейросетевых методов прогнозирования. Оценка точности и погрешности вычислений в нейронных сетях.

4.1 Сравнительная оценка качества прогнозирования классических методов и основанных на нейронных сетях.

4.2 Оценка погрешности нейронных сетях.

Выводы по четвертой главе.

Введение 2003 год, диссертация по информатике, вычислительной технике и управлению, Тихонов, Эдуард Евгеньевич

Современное развитие человека, общества и экономики имеет направленность в будущее, что нашло отражение в возникновении таких понятий, как «предвидение», «предсказание», «прогноз», «план», «программа». Научное предвидение - это та часть, сторона, этап познавательной деятельности субъекта, результатом которого является получение знаний о будущих событиях. Определенное таким образом понятие «предвидение» может служить родовым для понятия «предсказание» и «прогноз». Под «предсказанием» понимается искусство суждения о будущем состоянии объекта, основанное на субъективном «взвешивании» большого количества качественных и количественных факторов [28, 70]. Существует и другое суждение: «предсказание» подразумевает описание возможных или желательных перспектив, состояний, решений проблем будущего [32, 85]. А

В настоящее время в литературе используется два понятия, связанных с прогнозированием: прогнозирование (forecasting) и предсказание (prediction), толкуемые не совсем однозначно. Дословный перевод глагола to predict, имеющего латинское происхождение, означает «сказать заранее», а глагола to forecast - «бросать вперед» [72, 78, 193].

Д. М. Гвишиани и В. А. Лисичкин [28] определяют понятия «предсказание» и «прогноз» следующим образом: «предсказание» - предвидение таких событий, количественная характеристика которых либо невозможна (на данном уровне познания), либо затруднена; «прогноз» - высказывание, фиксирующее в терминах какой, либо языковой системы ненаблюдаемое событие и удовлетворяющее следующим условиям:

1. в момент высказывания нельзя однозначно определить его истинность или ложность;

2. это высказывание содержит указание на пространственный или времен-% ной интервал (конечный), внутри которого произойдет прогнозируемое событие;

3. в момент высказывания необходимо располагать способами: проверки метода прогнозирования; априорной оценки вероятности появления прогнозируемого события; в) проверки осуществления прогнозируемого события.

Э. Янч [6] определяет понятия так: прогноз (forecast) - вероятное утверждение о будущем с относительно высокой степенью достоверности; предсказание (prediction) - аподиктическое (невероятностное) утверждение о будущем, основанное на абсолютной достоверности.

В работе [126] используется понятие «предсказание» (prediction) для обозначения субъективных оценок будущего и понятие «прогноз» (forecast) для обозначения результатов объективных вычислений.

В работе [193] «прогноз» определяется как комплекс аргументированных предположений относительно будущих параметров экономической системы.

Как следует из анализа методов и приемов прогнозирования, прогноз может быть, как качественным, так и количественным [2]. В прогнозировании большое значение имеет выбранный метод или прием. «Прием прогнозирования» - это одна или несколько математических или логических операций, направленных на получение конкретного результата. «Метод прогнозирования» -это способ исследования объекта прогнозирования, направленный на разработку прогноза [36, 61, 193].

Развитие прогностики как науки в последние десятилетия привело к созданию множества методов, процедур, приемов прогнозирования, не равноценных по своему значению. Отсутствие их четкой систематизации приводит к дальнейшему расширению инструментария прогностики зачастую малоценными и компилятивными методами.

По оценкам зарубежных и отечественных систематиков прогностики, уже насчитывается свыше 100 методов прогнозирования [70]. Число базовых методов прогностики, которые в тех или иных вариациях повторяются в других методах, гораздо меньше. Многие из этих «методов» относятся скорее к отдельным приемам или процедурам прогнозирования, другие представляют набор отдельных приемов, отличающихся от базовых или друг от друга количеством частных приемов и последовательностью их применения.

В литературе имеется большое количество классификационных схем методов прогнозирования [25, 85, 126]. Однако большинство из них или неприемлемы, или обладают недостаточной познавательной ценностью. Некоторые авторы, например Э. Яныч, X. Тейль, А. Апполов и другие пытались классифицировать известные прогнозы. Но, из-за того, что для классификации выбирались три-четыре признака, они получались очень узкие и не охватывали многие типы прогнозов. Основной погрешностью существующих классификационных схем является нарушение принципов классификации. К числу основных таких принципов, относятся: достаточная полнота охвата прогностических методов, единство классификационного признака на каждом уровне членения (при многоуровневой классификации), непересекаемость разделов классификации, открытость классификационной схемы (возможность дополнения новыми методами).

Предлагаемая трехуровневая классификация методов прогнозирования вполне удовлетворяет требованиям поставленным в работе рисунок 1 [19]. Каждый уровень детализации (членения) определяется своим классификационным признаком: степенью формализации, общим принципом действия, способом получения прогнозной информации.

Представленный перечень методов и их групп не является исчерпывающим. Так как некоторые не называемые здесь методы являются или разновидностью включенных в схему методов, или дальнейшей их конкретизацией. Нижние уровни классификации открыты для внесения новых элементов, которые могут появиться в процессе дальнейшего развития инструментария прогностики [13].

Как известно, модели сложных систем, таких как финансовые рынки, не всегда могут давать однозначные рекомендации или прогноз. Эти модели всегда должны указывать, при достижении каких значений параметров, описывающих систему, или какого определенного момента времени может произойти нечто непредвиденное (непредсказуемое - «катастрофа» [55, 65, 77, 92, 106]). Порой они должны указывать и область непредсказуемости (т. е. область параметров, в которой поведение системы неконтролируемо и/или непредсказуемо).

Среди факторов, характеризующих динамику рынка и влияющих на нее, есть изрядное количество данных нечисловой природы, значения которых известны только с определенной долей уверенности. Можно выделить различные типы неопределенностей, из которых для финансового анализа важны следующие:

1. связанные с незнанием или неточным знанием некоторых факторов и/или процессов, влияющих на развитие ситуации;

2. связанные с математической несоизмеримостью численных оценок величин, характеризующих динамику системы;

3. связанные с нелинейностью и наличием у системы нескольких состояний равновесия и/или аттракторов;

4. связанные с недостатком или неадекватностью понятийного аппарата и невозможностью отождествления фактов.

Для понимания того, какие же преимущества дают предлагаемые далее новые методы анализа данных и прогнозирования, необходимо указать на три принципиальные проблемы, возникающие при создании систем поддержки принятия решений и анализа на финансовых рынках.

Первая - это определение необходимых и достаточных параметров для оценки состояния рынка, а также выбор критериев эффективности действий. Формализация поведения систем, включающих разнородные компоненты, требует единой метрики описания ситуации.

Вторая проблема заключается в так называемом проклятье размерности. Желание учесть в модели как можно больше показателей и критериев оценки может привести к тому, что требуемая для ее решения компьютерная система вплотную приблизится к "пределу Тьюринга" (ограничению на быстродействие и размеры вычислительного комплекса в зависимости от количества информации, обрабатываемого в единицу времени).

Третья проблема - наличие феномена надсистемности. Взаимодействующие системы образуют надсистему - систему более высокого уровня, обладающую собственными (надсистемными) свойствами, которых не имеет ни одна из составляющих систем. Феномен заключается в принципиальной недостижимости надсистемного отображения и целевых функций с точки зрения систем, входящих в состав надсистемы.

Для преодоления некоторых из перечисленных проблем, с которыми приходится сталкиваться при анализе финансовой ситуации делаются попытки применения таких разделов современной фундаментальной и вычислительной математики, как нейрокомпьютеры, теория стохастического моделирования (теория хаоса) и теория рисков, теория катастроф, синергетика и теория самоорганизующихся систем (включая генетические алгоритмы), теория фракталов, нечеткие логики и даже виртуальная реальность. Считается, что эти методы позволят увеличить глубину прогноза на финансовых рынках за счет выявления скрытых закономерностей и взаимосвязей среди плохо формализуемых обычными методами макроэкономических, политических и глобальных финансовых показателей.

Существуют уже разработанные системы и методики. Например использующие аппарат нечетких логик. Оболочки экспертных систем, поддерживающие работу с нечеткими знаниями, такие, например, как Gold Works, Guru, Nexpert Object with Nextra, Flex, IstClass HT. Практически все они используют для генерации правил (после заполнения базы знаний) алгоритм Куинлена ID3. Созданы первые в мире электронные таблицы FuziCalc, способные работать с нечеткими данными. Существуют и достаточно мощные средства разработки приложений, использующих аппарат нечетких логик, - пакеты CubiCalc RTS и CubiCalc 2.0 для Windows фирмы HyperLogic.

Завоевали признание и нейросетевые технологии. Практика использования нейросетей показала их эффективность в таких областях, как прогнозирование, выявление зависимостей, ситуационное управление. Все это применимо и на финансовых рынках. Используя информацию о динамике стоимости ценных бумаг, об изменениях показателей экономической активности и о колебаниях ^ курса, например, государственных облигаций, можно выявить существующие между этими характеристиками взаимозависимости. Это позволяет выявить, как тот или иной показатель либо их комбинация с учетом динамики развития влияют на изменение курса ценных бумаг. На сегодняшний день используются такие системы как: Fujitsu (используется в Японии фирмой Nikko Securities); "Прогноз макроэкономических индикаторов" фирмы Data Market (нейроплата); S&PCBRS для прогнозирования индекса S&P500 и курсов акций, созданная в Chase Manhattan Bank; система биржевых прогнозов HNC, работающая в Citibank; а также такие коммерческие продукты для работы на финансовых рынках, как Nestor DLS фирмы Nestor, пакет Nexpert Object фирмы Neuron Data, программы NeuroShell 2 v.3, NeuroWindows v.4.6 и один из наиболее популярных в мире пакетов на основе генетических алгоритмов GeneHunter v.1.0 и пакет Brain Maker Pro.

Еще одним методом, находящим все большее применение при анализе финансовых рынков, и особенно быстротекущих процессов на них, является теория хаоса, или теория коллективной (хаотической) динамики. Истоки этого направления лежат в работах по синергетике и теории катастроф [55, 65, 77, 92, 106].

Применительно к области финансов на основе теории хаоса впервые был разработан принципиально новый подход к анализу рынка, отличный от "портфельной теории" Этот подход базируется на положении о том, что рынок представляет собой сложную нелинейную систему с обратной связью, а характер группового взаимодействия участников рынка порождает хаотическую динамику цен вследствие спорадического использования инвесторами информационного потока и, как следствие, возникновение квазистохастических временных интервалов их действия на рынках.

Актуальность темы. В условиях резкого увеличения требований к мае-Ii штабам и темпам развития науки и техники для получения эффективных прибылей на российском рынке (в частности на рынке ценных бумаг) становятся актуальными вопросы планирования и принятия решений на основе прогнозирования.

Исследования обусловлены необходимостью внедрения в практику работы профессиональных участников рынка методов научного управления, основанного на строгой формализации процедур принятия инвестиционных решений и необходимостью использования на практике новых инвестиционных технологий. Существенными составными частями таких технологий являются нейронные сети, генетические алгоритмы, теория динамических систем, или теория хаоса, позволяющая в явлениях, на первый взгляд случайных, обнаружить порядок и некоторую структуру. Тот факт, что хаотические модели дают хорошее приближение для финансовых временных рядов, говорит о важности изучения поведения финансовых рынков как нелинейных динамических систем и является дополнительным аргументом в пользу применения в задачах прогноза различных нелинейных методов, в том числе - нейронных сетей (НС).

Использование нейронных сетей в прогнозировании требует большого объема математических расчетов, выполнение которых невозможно без эффективных способов организации и проведения вычислений. Анализ известных подходов, используемых при разработке высокоскоростных вычислительных средств показал, что все они построены на применении тех или иных форм параллельной обработки данных. Поэтому для решения проблемы быстродействия и точности вычислений в НС предлагается использование аппарата модулярной арифметики. Сочетание достоинств системы остаточных классов (СОК) с возможностями массового параллелизма нейросетевых вычислений определило целесообразность разработки математических методов прогнозирования использующих преимущества НС и СОК.

Таким образом, в связи с тем, что в рамках классического подхода не удается получить существенного улучшения качества прогнозирования курсов акций на фондовом рынке, то актуальным является совершенствование методик прогноза сочетая достоинства теории хаоса, нейронных сетей и модулярной арифметики.

Методы прогнозирования

Интуитивные методы прогнозирования

Индивидуальные экспертные оценки

Метод «интервью»

Аналитич-е докладные записки

Метод сценариев

Коллективные экспертные оценки

Экстраполя-ционные методы

Метод анкетирования

Метод МНК

Метод «комиссий»

Экспоненциальное сглаживание

Метод «мозговых атак» I I

Вер-ное моделирование и адап.ное сг.-е

Метод программного прогнозирования I

Метод эвристического прогнозирования I

Коллективная генерация идей

Формализованные методы прогнозирования

Системно-структурные методы

Функционально-иерархического моделирования

Метод морфологического анализа I

Матричный метод

Сетевое моделир-е т

Методы структурной аналогии Т

Граф и дерево целей

Прогнозный сценарий

Математические методы

Ассоциатив- Методы опеные методы режающей информации

1 1

Метод ими- Анализ потока тац-го. моде- публикаций лир.

1 1

Историко- Оценка зналогическии чимости изоанализ бретений

1 1

Методы теор. Анализ параспознавания тентной инобразов формации

Нейросетевое прогнозирова- ние

Интеллекту- альный анализ данных

Кор.-ный и рег - ный анализ

МГУА

Факторный анализ

Распознавание образов

Вариационные методы

Спектральный анализ

Цепи Маркова

Математическая логика

Моделир-е стационарных с.п.

Моделир-е нестац-ых с.п.

Рисунок 1 - Классификационная схема методов прогнозирования

Объектом исследования являются нейронные сети для задач прогнозиро-ф вания.

Цель диссертационных исследований заключается в повышении эффективности, надежности и практичности методов прогнозирования в результате использования теории хаоса, нейронных сетей и системы остаточных классов.

Научная задача исследований состоит в разработке эффективных методов анализа модельных и экспериментальных данных, выработки новых подходов к вычислению стохастических характеристик сигналов в нелинейных динамических системах, а также в разработке усовершенствованной методики прогнозирования и алгоритмов анализа временных рядов, используя преимущества методов прогнозирования на базе нейронных сетей, модулярной арифметики и теории хаоса.

Основные задачи исследования.

1. Обзор по методам прогнозирования (критический анализ) и идентифи кация недостатков. Сформулировать потребность в совершенствовании методик.

2. Разработка методики анализа финансовых рынков с использованием теории хаоса: разработка методики выбора временной задержки для восстановления аттрактора по временному ряду; построение фазового портрета исследуемой системы; восстановление аттрактора по временному ряду; вычисление корреляционного интеграла; вычисление корреляционной (фрактальной) размерности аттрактора; вычисление корреляционной энтропии; вычисление характеристических показателей Ляпунова; разработка программных алгоритмов и комплекса программ для численного моделирования.

3. Определить типы и структуры нейронных сетей, используемых для прогнозирования динамики курсов акций. Оценить точность и качество прогнозов.

4. Показать возможность использования системы остаточных классов в прогнозировании. Показать преимущества, которые дает использование СОК в fr прогнозировании. Показать возможность реализации основных методов прогнозирования на базе системы остаточных классов. Показать возможность peaлизации методов прогнозирования на базе нейронных сетей с использованием СОК.

5. Сделать сравнительную оценку качества прогнозирования классических методов и основанных на нейронных сетях.

6 Предложить методику исследования ошибок, возникающих при технической реализации нейронных сетей, а также при шумах и повреждениях. Определить максимально допустимые погрешности, возможные для сигналов и параметров каждого элемента сети, исходя из условия, что вектор выходных сигналов сети должен вычисляться с заданной точностью.

Информационная база исследования включает данные динамики курсов акций российских компаний на ММВБ (Московской межбанковской валютной бирже).

Методологической и теоретической основой исследования послужило использование гипотетико-дедуктивного и индуктивного методов научного познания. Достоверность научных выводов и практических рекомендаций основывается на теоретических и методологических положениях, сформулированных в исследованиях зарубежных ученых, а также на результатах тестирования разработанных методов и моделей и их сравнительного анализа с существующими аналогами. При решении конкретных проблем использовались методы математического анализа, прикладной статистики, эконометрики, теории хаоса, теории нейронных сетей, теории чисел, модулярной арифметики.

Наиболее существенные результаты и Научная новизна

1. Разработана комплексная методика анализа временных рядов с использованием теории хаоса и определены ее основные этапы. Показана целесообразность использования показателя Херста в методике восстановления аттрактора по временному ряду.

2. На основе математических моделей разработан пакет программ для определения стохастических характеристик временных рядов и имитационного моделирования.

3. Проведен анализ типов и структур нейронных сетей для прогнозирования динами курсов акций российских компаний. Показана нецелесообразность применения процедуры перемешивания данных при обучении нейронных сетей.

4. Доказана возможность использования системы остаточных классов в прогнозировании. Доказана целесообразность переноса алгоритмов нейросете-вых моделей прогнозирования в СОК.

5. Сделана сравнительная оценка качества прогнозирования классических методов и основанных на нейронных сетях.

6. Разработана методика для определения максимально допустимых погрешностей, возможных для сигналов и параметров каждого элемента сети, исходя из условия, что вектор выходных сигналов сети должен вычисляться с заданной точностью.

Теоретическая значимость исследования состоит в демонстрации необходимости пересмотра некоторых допущений, используемых в стандартных моделях зарубежной финансовой экономики при разработке моделей поддержки принятия решений по управлению портфелем ценных бумаг на нестабильных развивающихся финансовых рынках. Основные положения и выводы, содержащиеся в диссертации, могут быть использованы для дальнейшего развития методологии прогнозирования в условиях резких изменений основных параметров внешней среды.

Практическая значимость исследования состоит в том, что полученные результаты могут быть применены в процессе управления фондовыми портфелями операторов российского рынка. Целесообразность практического использования полученных решений подтверждена при помощи тестов, доказавших их эффективность, а в ряде случаев - превосходство над имеющимися аналогами.

Структура диссертационной работы. Работа состоит из введения, четырех разделов, списка используемых источников, заключения и приложений.

Заключение диссертация на тему "Методы и алгоритмы прогнозирования экономических показателей на базе нейронных сетей и модулярной арифметики"

Основные результаты диссертационной работы состоят в следующем.

1. Обобщены и систематизированы модели прогнозирования. Проведен критический анализ алгоритмов и методов прогнозирования, позволивший выявить ряд существенных ограничений и недостатков. Показано, что в рамках традиционных методов прогнозирования, значительных улучшений качества прогноза достигнуть очень сложно.

2. Разработана усовершенствованная методика анализа и прогнозирования временных рядов, используя преимущества методов прогнозирования на базе нейронных сетей, арифметики системы остаточных классов и теории хаоса.

3. Доказано, что рыночные временные ряды, несмотря на кажущуюся сто-хастичность, предсказуемы. Доказательством является теория динамического хаоса и проведенные вычислительные эксперименты, из которых сделаны следующие выводы: изучаемые временные ряды имеют лептоэксцессное распределение (распределение с толстыми хвостами); временные ряды фондовой биржи являются фрактальными; доказано, что рассматривать риски различных ценных бумаг посредством оценки их волатильности нецелесообразно; для определения временной задержки т и восстановления аттрактора по временному ряду хорошие результаты удается получить используя спектральный (Фурье) анализ, подтверждением сделанной оценки может служить показатель Херста.

4. Анализ восстановленных «странных аттракторов» курсов акций позволил выделить области притяжения и формирования цен. А рассчитанные фрактальные размерности позволили оценить количество переменных, которое необходимо для моделирования систем. Так для акций «РАО ЕЭС» О = 2,36, для акций «Ростелеком» И = 2,11 , для акций «Лукойла» Г> = 1,96, для акций «Сбербанка» Ю = 1,58. Это означает, что смоделировать динамику этих акций можно с помощью трех и дух переменных. Таким образом, решена проблема определения количества переменных для моделирования сложных, динамических систем.

5. Установлено, что временные ряды фондовой биржи являются фрактальными. Рассчитанный показатель Ляпунова, больший нуля, свидетельствует о том, что имеется чувствительная зависимость от начальных условий, в системе существует «странный аттрактор». Предсказательная мощность теряется со скоростью примерно 0,1162 бит/день для акций «РАО ЕЭС», 0,124 бит/день для акций «Ростелеком», 0,153 бит/день для акций «Лукойла», 0,065 бит/день для акций «Сбербанка». То есть максимальная предсказуемость для курса акций «РАО ЕЭС» составляет примерно 8,605 дней, для курса акций «Ростелеком» составляет 8,064 дней, для курса акций «Лукойла» составляет 6,535 дней, для курса акций «Сбербанка» составляет 15,384 дней.

6. Предложена методика оценки структуры и типов нейронных сетей. В результате вычислительных экспериментов найдены оптимальные структуры и типы нейронных сетей для исследуемых временных рядов. Сделана сравнительная оценка различных типов НС. Проведена оценка точности прогнозирования с помощью НС. Показано, что ключевым для повышения качества предсказаний является эффективное кодирование входной информации.

7. Доказана возможность использования системы остаточных классов (СОК) для повышения скорости, надежности и точности работы НС. Показаны преимущества, которые дает использование СОК на НС. Одной из проблем использования СОК являлась ограниченность действия системы сферой целых положительных чисел. Эту проблему предложено решить, используя алгоритм представления и работы с простыми дробями. Используя данный подход, удалось снизить накапливаемую относительную ошибку округления вычислений. Эффективное кодирование входной информации позволило сократить разрядность обрабатываемых данных, представляя их в модулярном коде в системе взаимно простых модулей.

8. Проведена сравнительная оценка классических моделей прогнозирования с моделями на нейронных сетях. Так для акций «РАО ЕЭС» средняя относительная ошибка прогноза для адаптивной модели р = 1 составила Е = 3,81%, для модели р = 2, Е = 4,02%, для модели НС МРЬ (структуры 1:10:1) Е = 3,90%; для модели НС МРЬ (структуры 1:13:13:1)£ = 3,88%.

Для акций «Ростелеком» средняя относительная ошибка прогноза для адаптивной модели р = 1, составила Е = 2,56%, для модели р = 2, Е = 4,26%, для подобранных НС (структуры 1:10:1) Е - 2,41%), для НС (структуры 3:6:1) Е = 2,46%.

Для акций компании «Лукойл» средняя относительная ошибка прогноза для модели р = 1, составила Е = 2,60%, для модели р = 2, Е = 3,11%, для подобранных НС (структуры 1:11:1) Е= 2,67%, для НС (структуры 3:8:1) Е = 2,46%.

Для акций «Сбербанка» средняя относительная ошибка прогноза для адаптивной модели р = 1, составила Е = 1,61%, для модели р = 2, Е = 1,87%, для подобранных НС (структуры 1:47:1) Е = 3,18%, для НС (структуры 1:15:13:1) Е = 1,98%). Высокая ошибка прогнозирования НС для акций «Сбербанка» вызвана тем, что рассматриваемый ряд имеет не достаточное количество данных, что привело к недообученности НС. Но в целом нейронные сети показали наилучшие результаты по сравнению с классическими моделями прогнозирования.

9. Предложена методика исследования ошибок, возникающие при технической реализации нейронных сетей, а также при шумах и повреждениях. Сформулированы требования к точности вычислений и реализации технических устройств, если известны требования к точности выходных сигналов сети.

10. Разработана математическая модель для определения максимально допустимых погрешностей, возможных для сигналов и параметров каждого элемента сети, исходя из условия, что вектор выходных сигналов сети должен вычисляться с заданной точностью. Показано, что оценки допустимых погрешностей можно получить в ходе специального процесса "обратного распространения точности". С помощью полученных результатов удалось объяснить наблюдаемую высокую устойчивость нейронных сетей к шумам и разрушениям.

Полученные результаты позволят в значительной степени повысить качество прогнозов.

ЗАКЛЮЧЕНИЕ

Библиография Тихонов, Эдуард Евгеньевич, диссертация по теме Математическое моделирование, численные методы и комплексы программ

1. Абовский Н.П. и др. Разработка практического метода нейросетевого прогнозирования. //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб.докл., 2002. С. 1089 - 1097.

2. Айвазян С.А., Мхитарян B.C. Практикум по прикладной статистике и эконометрике: Учебн. пособие. М.: МГУ Экономики и Информатики. 1998. -159 с.

3. Акушский И.Я. Машинная арифметика в остаточных классах. — М: Советское радио, 1968. 440 с.

4. Алексеев В.И., Максимов A.B. Использование нейронных сетей с двухмерными слоями для распознавания образов//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение »: Сб. докл., 2002. С. 6972.

5. Амербаев В.М. Теоретические основы машинной арифметики. — Алма-Ата: Наука КазССР, 1976. 324 с.

6. Андерсон Т. Статистический анализ временных рядов. М.: Наука, 1976.

7. Аркин В. И, Евстигнеев И.В. Вероятностные модели управления экономической динамики. -М.: Наука, 1979. 176с.

8. Ашманов С.А. Математические модели и методы в экономике. М.: Изд. МГУ, 1981.- 158 с.

9. Барский А.Б. Обучение нейросети методом трассировки //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб. докл., 2002. С. 862 - 898.

10. Батищев Д.И. Генетические алгоритмы решения экстремальных задач. -Воронеж: ВГУ, 1994. 135 с.

11. Белим C.B. Математическое моделирование квантового нейрона/ЛГруды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб.докл., 2002. С. 899 - 900.f I

12. Берже П., Помо И., Видаль К. Порядок в хаосе. О детерминированном подходе к турбулентности: Пер. с франц. М.: Мир, 1991. - 368 с.

13. Бирман Э.Г. Сравнительный анализ методов прогнозирования //НТИ. Сер.2 1986. -№1. -С. 11-16.

14. Бодянский Е.В., Кучеренко Е.И. Диагностика и прогнозирование временных рядов многослойной радиально-базисной нейронной сети //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб. докл., 2002. С. 69-72.

15. Бокс Дж., Дженкинс Г. Анализ временных рядов прогнозирование и управление. Пер. с англ. А.Л.Левшина. М.: Мир, 1974. — 362 с.

16. Болн Б., Хуань К. Дж. Многомерные статистические методы для экономики. М.: Наука, 1979. 348 с.

17. Большее Л.Н., Смирнов Н.В. Таблицы математической статистики. М.: Наука, 1965.-35 с.

18. Боярский А .Я., и др. Математическая статистика для экономистов. М.: Статистика, 1979. - 253 с.

19. Бурдо А.И., Тихонов Э.Е. К вопросу систематизации методов и алгоритмов прогнозирования//Материалы межрегиональной конференции "Студенческая наука — экономике научно-технического прогресса". Ставрополь: Сев-Кав ГТУ, 2001. С. 33 - 34.

20. Бутенко A.A. и др. Обучение нейронной сети при помощи алгоритма фильтра Калмана. //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение »: Сб. докл., 2002. С. 1120 - 1125.

21. Бухштаб A.A. Теория чисел. М.: Государственное учебно-методическое издательство мин. Просвящения РСФСР, 1960. - 375 с.

22. Бытачевский Е.А., Козуб В.В. Использование нейронных сетей для распознавания визуальных образов//Материалы IV РНТ конференции «Вузовская наука Северо-Кавказскому региону» Ставрополь, 2000. - С. 52—54.

23. Ь 23. Васильев В.И. Распознающие системы. Киев: Навукова думка, - 1969.щ 354 с.

24. Виноградов И.М. Основы теории чисел. М.: Издательство «Наука», Гл. ред. физ.-мат.лит., 1965 - 173 с.

25. Владимирова Л.П. Прогнозирование и планирование в условиях рынка: Учебное пособие. М.: Издательский дом «Дашков и К», 2000. — 308 с.

26. Вороновский Г.К., и др. Генетические алгоритмы, нейронные сети и проблемы виртуальной реальности. X.: ОСНОВА, 1997. - 112 с.

27. Галушкин А.И. Теория нейронных сетей. Кн. 1 : Учеб. Пособие для вузов. — М.: ИПРЖР, 2001. 385 с.:ил.

28. Гвишиани Д.М., Лисичкин В.А. Прогностика. М., «Знание», 1968. 421 с.

29. Гельфан И.М., Фомин C.B. Вариационное исчисление. М.: Мир, 1961. — 321 с.

30. Гладыщевский А.И. Методы и модели отраслевого экономического прогнозирования. -М.: «Экономика», 1997. 143 с.

31. Гласс Л., Мэки М. От часов к хаосу: ритмы жизни. М.: Мир, 1991. - 153с.

32. Глущенко В.В. Прогнозирование. 3-е издание. М.: Вузовская книга, 2000. -208 с.

33. Голованова Н.Б., Кривов Ю.Г. Методические вопросы использования межотраслевого баланса в прогнозных расчетах//Взаимосвязи НТП и экономического развития: Сб.науч.тр./АН СССР. СО, ИЭиОПП. Новосибирск, 1987.-С. 62-77.

34. Головко В.А. Нейронные сети: обучение, организация и применение. Кн.4:Учеб.пособие для вузов/Общая ред. А.И. Галушкина. М.: ИПРЖР, 2001.-256 с.

35. Горбань А.Н.Обучение нейронных сетей.-М.:СП"ПараГраф", 1990. 159с.

36. Горелик Е.С. и др. Об одном подходе к задаче формализации процесса прогнозирования //Автоматика и телемеханика. 1987. - №2. - С.129-136.

37. Гренандер У. Случайные процессы и статистические выводы, (пер. с нем.) ИЛ. 1961.- 167с.

38. Гренджер К., Хатанака М. Спектральный анализ временных рядов в экономике. Пер.с англ. М.: Статистика., 1972. - 312 с.

39. Грень Е. Статистические игры и их применение. М.: Наука, 1975.

40. Гусак А.Н. и др. Подход к послойному обучению нейронной сети прямогораспространения//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб.докл., 2002. С. 931 — 933.

41. Давидович Б.Я. и др. Методы прогнозирования спроса. М., 1972. -193с.

42. Добров Г.М., Ершов Ю.В. и др. Экспертные оценки в научно-техническом ^ прогнозировании Киев: Наукова Думка, 1974. - 159 с.

43. Еремин Д.М. Система управления с применением нейронных се-тей//Приборы и системы. Управление, контроль, диагностика. 2001. —№9 -С. 8-11.

44. Заенцев И.В. Нейронные сети: основные модели/Учебное пособие к курсу «Нейронные сети» Воронеж: ВГУ, 1999. - 76 с.

45. Зайкин B.C. Применение простых цепей Маркова для прогнозирования расходов населения//Проблемы моделирования народного хозяйства, 4IV. Новосибирск, 1973. С. 45 -47.

46. Занг В.Б. Синергитическая экономика. Время и перемены в нелинейной экономической теории. М.: Мир, 1999. - 216с.

47. Ивахненко А.Г. Долгосрочное прогнозирование и управление сложными системами. Киев: Наукова думка, 1975. - 340 с.

48. Ивахненко А.Г., Лапа Р.Г., Предсказание случайных процессов. Киев: Наукова думка, 1971. - 416с.

49. Ивахненко А.Г., Степаненко B.C. Особенности применения метода группового учета аргументов в задачах прогнозирования случайных процессов//Автоматика. -1986. -№5. С. 3-14.L

50. Ивахненко А.Г., Юрачков Ю.П. Моделирование сложных систем по экс1.пертным данным. М.: Радио и связь, 1987. - 119 с.

51. Калан, Роберт. Основные концепции нейронных сетей.: Пер. с англ. М.: Издательский дом «Вильяме», 2001.- 288 с.

52. Капица С. П., Курдюмов С. П., Малинецкий Г. Г. Синергетика и прогнозы будущего. М.: Наука, 1997. -236с.

53. Касти Дж. Связность, сложность и катастрофы: Пер. с англ. М.: Мир,1982,-216 с.

54. Кейн Э. Экономическая статистика и эконометрия. М.: Наука, 1977, Вып. 1,2.

55. Кемени Дж., Снелл Дж. Конечные цепи Маркова. М.: Наука, 1970. 136 с.

56. Кендэл М. Временные ряды. Пер. с англ. Ю.П. Лукашина. М.: «Финансы и статистика», 1979. — 198 с.

57. Кильдинов Г.С., Френкель A.A. Анализ временных рядов и прогнозирование. М. Статистика. 1973.

58. Клеопатров Д.И., Френкель A.A. Прогнозирование экономических показателей с помощью метода простого экспоненциального сглаживания. СтаЬтистический анализ экономических временных рядов и прогнозирование. — М.: Наука, 1973.

59. Кобринский Н.Е., и др. Экономическая кибернетика: Учебник для студен-| тов вузов и фак., обучающихся по спец. «Экономическая кибернетика».

60. М.: Экономика, 1982. 408 с.

61. Колмогоров А.Н. Об энтропии на единицу времени как метрическом инварианте автоморфизмов. ДАН СССР, 1959. Т. 124 - С.754-755

62. Кондратьев А.И. Теоретико-игровые распознающие алгоритмы. М.: Наука, 1990.-272 с.

63. Кульбак С. Теория информации и статистика. М.:, Наука, 1967. - 408с.

64. Кучин Б.Л., Якушева Е.В. Управление развитием экономических систем: технический прогресс, устойчивость. -М.: Экономика, 1990. 156с.

65. Лащев А .Я., Глушич Д.В. Синтез алгоритмов обучения нейронных сетей. //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб.докл., 2002 г. С. 997 - 999.

66. Левин В.Л. Выпуклый анализ в пространстве измеримых функций и его применение в математике и экономике. М.: Наука, 1985. 352с.

67. Легостаева И.Л., Ширяев А.Н. Минимальные веса в задаче выделения тренда случайного процесса. — «Теория вероятностей и ее применение», 1971, -Т. XVI,-№2.

68. Лизер С. Эконометрические методы и задачи. М.: Статистика, 1971. -141с.

69. Лисичкин В.А. Теория и практика прогностики. М.: Наука, 1972. - 223с.

70. Литовченко Ц.Г. Нейрокомпьютер для обнаружения и распознавания сложных динамических образов//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб.докл., 2002 г. С. 69-72.

71. Лопатников Л.И. Экономико-математический словарь /АНССР. ЦЭМИ, — М.: Наука, 1987.-506 с.

72. Лоскутов А.Ю., Михайлов A.C. Введение в синергетику: Учеб. Руководство. -М.: Наука, гл. ред. физ.-мат.лит., 1990 272 с.

73. Льюис К.Д. Методы прогнозирования экономических показателей./Пер. с англ. Демиденко Е.З. М.: Финансы и статистика, 1986 г. - 132 с.

74. Ляпунов A.M. Собр. соч. Т.1,2. -М.:Изд-во АН СССР, 1954-1956.

75. Максимов В.А. Прогнозирование доходности инвестиций на фондовом рынке//Экономика и математические методы, 2001. Т. 37-№1. С. 37 - 46.

76. Малинецкий Г.Г., Потапов А.Б. Современные проблемы нелинейной динамики -М.: Эдиториал УРСС, 2000.- 336с.

77. Математическая энциклопедия: Гл.ред. И.М. Виноградов, т.З Коо-Од М.: Советская энциклопедия, 1982. - 1184 с.

78. Махортых С.А., Сычев В.В. Алгоритм вычисления размерности стохастического аттрактора и его применение к анализу электрофизиологических данных Пущино, 1998. - 34с.

79. Медведев B.C., Потемкин В.Г. Нейронные сети. MATLAB 6 /Под общ.ред. 1 к.т.н. В.Г. Потемкина. М.: ДИАЛОГ-МИФИ, 2002. - 496 с.

80. Минский М., Пайперт С. Персептроны. М.: Мир, 1971.

81. Михайлов Ю.Б. Алгоритм выбора прогнозирующей зависимости, обеспечивающей наилучшую точность прогноза//Приборы и системы. Управление, контроль, диагностика., 2000. №12. - С. 11-19.

82. Моделирование функционирования развивающихся систем с изменяющейся структурой. Сб. науч. тр./АН УССР. Ин-т кибернетики им. В.М. Глуша-кова. Киев: 1989. - 140 с.

83. Моришма М. Равновесие, устойчивость, рост. М.: Наука, 1972. 314 с.

84. Морозова Т.Г., Пикулькин A.B., Тихонов В.Ф., и др. Прогнозирование и планирование в условиях рынка. Учеб. Пособие для вузов. Под ред. Т.Г. Морозовой, A.B. Пикулькина. -М.: ЮНИТИ-ДАНА, 1999. 318 с.

85. Нейроинформатика и ее приложения //Материалы 3 Всероссийского семи*нара, 6-8 октября 1995 г. Ч. 1 /Под редакцией А.Н.Горбаня. Красноярск: изд. КГТУ, 1995.-229 с.

86. Нейронные сети. STSTISTICA Neural Networks: Пер. с англ. М.: Горячаялиния Телеком. 2001. - 182 с.

87. Никайдо X. Выпуклые структуры и математическая экономика. М.: Мир. 1972.- 127с.

88. Новиков A.B., и др. Метод поиска экстремума функционала оптимизацииiдля нейронной сети с полными последовательными связями //Труды VIIIi

89. Всероссийской конференции «Нейрокомпьютеры и их применение»

90. Сб.докл., 2002 г. С. 1000 - 1006.

91. Оуэн Г. Теория игр. М.: Наука, 1971. - 359 с.

92. Песин Я.Б. Характеристические показатели Ляпунова и гладкая эргодиче-' екая теория. УМН, 1911.- Т.32. С.55-112.

93. Петере Э. Хаос и порядок на рынке капитала. М.: Мир, 2000. - 333с.b