автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Разработка математического и программного обеспечения среды моделирования нейронных сетей для решения задач прогнозирования

На правах рукописи

ВОСЬМИРКО Сергей Олегович

РАЗРАБОТКА МАТЕМАТИЧЕСКОГО И ПРОГРАММНОГО ОБЕСПЕЧЕНИЯ СРЕДЫ МОДЕЛИРОВАНИЯ НЕЙРОННЫХ СЕТЕЙ ДЛЯ РЕШЕНИЯ ЗАДАЧ ПРОГНОЗИРОВАНИЯ

Специальность 05.13.11 - Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Москва 2004

Работа выполнена в Московской государственной академии приборостроения и информатики (МГАПИ).

Научный руководитель:

доктор технических наук, профессор Петров О.М.

Официальные оппоненты:

доктор технических наук, профессор Валентинов В.В.

кандидат технических наук, ст. науч. сотр. Аверкин А.Н.

Ведущая организация:

Московский энергетический институт (технический университет)

Защита состоится « 16 » ноября 2004 г. в 12 ч. 00 мин. на заседании совета Д 212.119.02 по защите диссертаций в Московской государственной академии приборостроения и информатики по адресу: г. Москва, ул. Стромынка, 20, (ауд. 429).

С диссертацией можно ознакомиться в читальном зале библиотеки академии.

Автореферат разослан « 15 » октября 2004 г.

Ученый секретарь Совета,

к.т.н., доцент ^ Ульянов М.В.

¿oos-ч

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность работы.

Такая область применения систем поддержки принятия решений, как прогнозирование приобретает всё большую актуальность в самых различных направлениях человеческой деятельности, прежде всего в областях производства и финансов. На сегодняшний день для осуществления прогноза используется ряд методов, как то методы мат. статистики, технического анализа (графический анализ, трендовые индикаторы) и т.д., и, наконец - искусственные нейронные сети (ИНС), имеющие в случае осуществления краткосрочного прогноза ряд преимуществ по сравнению с вышеперечисленными методами.

Вместе с тем, проблемы на пути широкого применения ИНС в прогнозировании связаны необходимостью в высокой оперативности прогноза нестабильных систем, характеризующихся частой сменой экзогенных факторов, когда прогнозируемая величина имеет нелинейный, быстро изменяющийся характер, что требует изменения структуры и переобучения ИНС. В результате чего время нейропрогноза может достигать многих часов, что недопустимо при прогнозе быстроизменяющихся процессов, например прогноз котировок акций. И что, тем самым, нивелирует преимущества нейросетевого подхода к прогнозированию.

Существующее в настоящее время программное обеспечение (ПО), позволяющее осуществлять моделирование ИНС и решать с помощью построенных моделей задачи прогнозирования можно разделить на два класса: универсальные среды моделирования ИНС (SNNS, Trajan, Matlab NN Toolbox, и др.) и среды, ориентированные на решение с помощью ИНС узкого спектра прикладных задач, и в частности задач прогнозирования, например, Neurodimension TradingSolutions.

Существующие, же средства и подходы, к сокращению время моделирования ИНС, реализованы в основном только в универсальных средах, существующие же среды нейропрогноза неспособны решать эту задачу, что приводит с одной стороны к невозможности использовать универсальные средства, не обладающих, в должной степени, механизмами, учитывающими особенности применения ИНС к задачам прогнозирования, а с другой - с нерешаемой в рамках ПО сред нейропрогноза задачей повышения оперативности прогноза.

Таким образом, представляются актуальными разработка и создание среды моделирования ИНС, ориентированной на решение задач прогнозирования, обладающей более высокими показателями оперативности прогноза по сравнению с аналогами и обеспечивающей полный цикл обработки и анализа данных. А также исследования и разработки в области нейросетевого моделирования, позволяющие повысить оперативность, т.е. сократить время, затрачиваемое на осуществление нейропрогноза.

Состояние проблемы.

В настоящее время, аппарат ИНС и методы его использования активно развивается и совершенствуется, так активные разработки и исследованиями в области создания систем моделирования ИНС, в том числе и для решения задач прогнозирования в России связаны с деятельностью таких коллективов как BaseGroup Labs (Москва), Alpha System (Санкт-Петербург). Кроме того, наиболее часто цитируемыми и авторитетными российскими работами в последние годы, в области теории и практики применения ИНС считаются труды Ежова А.А., Галушкина А.И., Горбань А.Н., Шумского СА, Шахнова В.А., вместе с тем появился ряд диссертационных работ, посвященных проблемам использования ИНС в различных предметных областях, и в частности, в области прогнозирования, - Родионова П.Е. "Методика извлечения знаний в задачах анализа рядов динамики с использованием нейронных сетей", а также Олешко Д.Н., Дубровина В.И., Алексеева А.В.

Целями настоящей диссертационной работы являются:

1. Разработка и создание среды моделирования ИНС, ориентированной на решение задач прогнозирования, обеспечивающего полный цикл обработки и анализа данных и обладающего более высокими показателями оперативности прогноза по сравнению с аналогами.

2. Разработка и развитие методов осуществления прогноза с использованием аппарата ИНС, позволяющих обеспечить повышение точности и оперативности нейропрогноза.

3. Исследование разработанной среды и предложенных методов повышения оперативности прогноза при решении ряда задач прогнозирования на производстве и в области финансов.

Основные задачи диссертационного исследования:

1. Исследование и анализ сред моделирования ИНС, применяемых для решения задач прогнозирования и принятия решений, выявление их недостатков и ограничений при решении данного класса задач.

2. Исследование методов и алгоритмов осуществления прогноза с использованием технологии ИНС.

3. Выявление факторов, оказывающих наиболее существенное влияние на временные показатели процедур обработки и нейросетевого анализа данных выполняемых в целях осуществления прогноза.

4. Разработка методики осуществления нейропрогноза, основанной на использовании совокупности подходов обеспечивающих лучшие временные характеристики процесса нейросетевого моделирования.

5. Развитие методов использования критерия допустимого уровня ошибки при обучения ИНС типа многослойный персептрон, ориентированных на сокращение времени обучения ИНС при решении задач прогнозирования методом погружения.

6. Разработка среды моделирования ИНС, ориентированной на решение

задач прогнозирования, реализующей разработанные методы и подходы к осуществлению нейропрогноза, и имеющую лучшие показатели оперативности прогноза по сравнению с аналогами. 7. Внедрение и практическая апробация разработанной среды и реализованных в её рамках методов повышения оперативности прогноза при решении прикладных задач прогнозирования.

Методы исследования основаны на использовании элементов искусственного интеллекта: нейросетевых технологий, и компьютерного моделирования.

Научная новизна.

1. Разработана методика осуществления нейропрогноза, основанная на использовании совокупности методов оптимизации процесса построения нейросетевой модели, обеспечивающая повышение показателей оперативности прогноза.

2. Разработан критерий допустимого уровня ошибки, имеющий адаптируемый в процессе обучения ИНС характер, обеспечивающий сокращение времени обучения, с меньшими потерями в точности прогноза, при решении задач прогнозирования методом погружения.

3. Предложено использование сочетания процедур валидации и прореживания ИНС, как средства повышения оперативности нейропрогноза.

Практическая ценность работы.

Разработанная автором среда моделирования искусственных нейронных сетей, для решения задач прогнозирования, обеспечивает более высокую оперативность прогноза по сравнению с аналогами, что позволяет расширить круг прикладных задач прогнозирования, имеющих высокие требования к оперативности, решаемых с помощью ИНС и существенно сократить временные затраты на осуществление нерйропрогноза.

Разработанная методика осуществления нейропрогноза, а также разработанный в её рамках адаптируемый критерий допустимого уровня ошибки при решении задач прогнозирования методом погружения позволяет специалистам, занимающимся нейропрогнозом, повысить оперативность и точность нейропрогноза.

Реализация и внедрение результатов работы.

Созданная автором среда нейропрогноза применяется в ООО 'Торговая компания СТАНДАРТЪ" как средство поддержки принятия решений, в 0 0 0 «Сонковский льнозавод» для осуществления прогноза сельхоз производства: доли и качества выхода длинного льноволокна.

В обеих организациях внедрение принесло положительный результат, что подтверждено соответствующими документами.

Апробация работы.

Результаты исследований, составляющих содержание диссертации докладывались на: VII всероссийской научно-технической конференции

«Новые информационные технологии в научных исследованиях и образовании» (Рязань, РГРТА, 2002 г.), IX международной научно-технической конференции (Москва, МЭИ, 2003 г.), международном форуме информатизации - 2002 «Информационные средства и технологии» (Москва, 2002 г.), Международном научно-техническом семинаре «Современные технологии в задачах управления, автоматики и обработки информации» (Алушта 2003 г.), XV международной конференции «Применение новых технологий в образовании» (Троицк 2004 г.).

Публикации.

По результатам диссертационного исследования опубликовано 6 печатных работ. На разработанные продукты получено 3 свидетельства об официальной регистрации программ для ЭВМ в Российском агентстве по патентам и товарным знакам (РОСПАТЕНТ). В том числе на «Систему прогнозирования EIGHT» № 2004610915 от 15.04.04.

Структура и объем работы.

Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы из 106 наименований (в том числе 29 ссылки на ресурсы Internet); содержит 135 страниц машинописного текста, 48 рисунков, 21 таблиц и приложения на 13 страницах.

СОДЕРЖАНИЕ РАБОТЫ

Во введении формулируется общая характеристика работы и направление исследований, обуславливается актуальность темы, раскрываются цели и задачи диссертационной работы. Указываются применённые методы решения поставленных задач, в первую очередь, построенных на элементах искусственного интеллекта и ИНС. Приводятся факторы, обуславливающие новизну диссертациошюй работы, а также проблемные области, где могут найти применение результаты, полученные в ходе диссертационного исследования. В приложении приводится перечень мест внедрения и апробации основных результатов исследования и список опубликованных материалов по теме диссертации.

В первой главе проводится обзор, и сравнительный анализ ряда наиболее распространённых и известных сред моделирования ИНС, имеющих как универсальный характер, т.е. позволяющих решать широкий спектр задач из различных предметных областей, так и направленных на решение исключительно задач прогнозирования (рис. 1.).

В ходе сравнительного анализа данных ПП проведён обзор их основных возможностей, среди которых выявлены восемь наиболее ключевых групп системных, функциональных и потребительских характеристик современных нейросимуляторов, таких как:

Рис. 1. Результаты сравнительного анализа сред моделирования ИНС, позволяющих решать задачи прогнозирования

• наличие инструментальных средств обработки и анализа данных;

• степень автоматизации синтеза структур и данных моделируемых ИНС;

• возможности интеграции с другими программными средствами;

• номенклатура имеющихся видов ИНС; - и т.д.

Рассматривалась возможность и эффективность их использования в задачах прогнозирования. Для чего рассмотрены возможности ПП по развитости средств предварительной подготовки и анализа обучающей выборки (ОВ), возможностям настройки параметров ИНС, наличию номенклатуры алгоритмов обучения ИНС, возможностям контроля характеристик процесса обучения, а также средств визуализации результатов экспериментов.

Проведенный обзор и сравнение ПП позволил выявить некоторые тенденции лучших современных сред моделирования ИНС и сделать следующие выводы:

1. Универсальные среды моделирования ИНС ориентированы на решение задач общего характера и ограничены в возможностях решения задач специфического характера прикладной области, и следовательно большинству пользователей такой системы нужно прилагать значительные усилия по настройке ПП для решения их задач.

1. Вместе с тем данные ПП имеют существенно более высокие возможности по номенклатуре средств корректировки параметров ИНС, алгоритмов обучения, подготовки ОВ, и т.д., позволяющих существенно сократить время обучения ИНС на больших объёмах ОВ, тем самым значительно повысить оперативность нейропрогноза

2. В свою очередь предметно - ориентированные среды моделирования ИНС обладают широким спектром инструментов позволяющих неспециалисту быстро и наглядно сформировать ОВ с использованием специфических для прогноза алгоритмов подготовки данных, построить

и обучить ИНС, а также представить результаты моделирования в наиболее адекватном для задач прогноза виде. 3. Вместе с тем, подобная ориентированность на неспециалиста и жёсткая привязка процесса моделирования к ограниченному ряду алгоритмов снижает гибкость и, сужает возможности системы в сокращении времени моделирования и как следствие в обеспечении необходимой оперативности прогноза, тем самым, зачастую, нивелируя преимущества нейросетевого подхода к прогнозированию.

Таким образом, перечисленные выше препятствия и затруднения свидетельствуют о том, что разработка среды моделирования ИНС, предназначенной для решения задач прогноза, имеющей более высокие показатели оперативности прогноза, по сравнению с аналогами, а также разработка в её рамках методов повышения оперативности нейропропюза, является, безусловно, актуальной.

Вторая глава посвящена постановке задачи диссертационного исследования, определению методики решения задач прогнозирования с использованием ИНС, выявлению факторов, снижающих оперативность нейропрогноза, разработке и выявлению методов, позволяющих сократить временные затраты на осуществление прогноза и объединению их в единый алгоритм предназначенный к реализации в рамках разрабатываемой среды (рис. 2.).

Прежде всего, выполнена математическая постановка задачи прогнозирования: требуется найти вектор значений Y на основе имеющегося вектора.Х Y=f(X), представляющего собой временной ряд V (вектор значений прогнозируемой величины) в моменты времени до t+k. При этом X содержит V, а также п факторов X, представленных совокупностью своих значений, начиная с момента времени t-d ДО t (1):

X=X(V,d V,_ ... xl,;x2,.j... x2,;...; xn,.d... xnj, (1)

где - прогнозируемая величина, - факторы, значимо влияющие

на изменение прогнозируемой величины, t - текущий момент времени, d -глубина погружения, различная для разных факторов, -горизонт прогноза.

При этом было рассмотрены типы временных рядов, приведена теорема Такенса, дающая теоретическое обоснование прогнозируемости временных рядов, и обосновывающая возможность использования метода погружения для решения задач прогнозирования.

Проведён анализ применимости различных топологий ИНС к решению задач прогнозирования. В результате которого выявлены топологии MLP и RBF (сеть на радиальных базисных функциях), из которых был выбрана к использованию в методике MLP, обладающая способностью экстраполировать данные, имеющую большую компактность и требующую меньшего количества обучающих выборок.

Для выбранной топологии ИНС типа MLP подробно рассмотрено её строение, принципы функционирования, а также принцип обучения,

Рис. 2. Алгоритмическое представление методики осуществления процесса моделирования ИНС, обеспечивающей повышение оперативности нейропрогноза

основанный на использовании алгоритма обратного распространения ошибки и метод наискорейшего спуска, правило пересчета весовых коэффициентов для которого выглядит следующим образом (2):

где wv(n) -веса от нейрона р в скрытом слое к нейрону q в выходном слое на шаге градиентошибки, tj- коэффициент скорости обучения.

Рассмотрены основные способы нормировки входных данных с целью выявления наиболее соответствующей специфике задач прогнозирования, среди которых в методике нейропрогноза использована нормировка на основе статистических характеристик ряда в единичный отрезок: х, е[о, l], распределение значений после которой гораздо ближе к равномерному (3):

Для разработки методики осуществления нейропрогноза, предназначенной к реализации в разрабатываемой среде, проведен анализ факторов, снижающих оперативность прогноза, среди которых выделены:

• Недостаточная развитость, либо отсутствие механизмов анализа ОВ, обеспечивающих понижение избыточности входного вектора данных.

• Медленная сходимость алгоритма наискорейшего спуска (BackProp) (используемого в большинстве систем нейропрогноза), существенная зависимость результатов обучения от начальных параметров;

• Недостаточная развитость методов "огрубления" нейросетевой модели, приводящая к резкому падению точности прогноза при использовании критерия допустимого уровня ошибки;

• Отсутствие механизмов контроля переобучения (валидации) ИНС;

• Необходимость в использовании длительной и ресурсоёмкой процедуры поиска наилучшей структуры ИНС.

Для обеспечения сокращения избыточности входных данных и как следствие сокращения времени обучения в методике использована совокупности методов анализа взаимной корреляции экзогенных факторов, их корреляции с прогнозируемой величиной и метода автоматизированного определения глубины погружения основанного на анализе функции автокорреляции.

Для выявления наиболее приемлемого к решению задач прогнозирования алгоритма обучения ИНС, имеющего наилучшие временные показатели сходимости, приведён обзор и сравнительный анализ наиболее известных алгоритмов обучения ИНС типа MLP, не накладывающих ограничений на структуру ИНС, и круг решаемых с их помощью задач. В результате анализа базовым алгоритмом обучения ИНС

методики прогнозирования выбран алгоритм RPROP, автоматизирующий процесс подстройка шага изменения весовых коэффициентов (4):

(4)

Для исключения этапа циклического переобучения ИНС в целях поиска наилучшей структуры и повышения её обобщающей способности, влекущего значительные временные затраты, предложено использовать сочетание процедур прореживания связей ИНС (NeuroRule) и валидации ИНС - алгоритма контроля ошибки обобщения. Процедура

прореживания выполняется с использованием дополнительного штрафного члена в функционале ошибки дополнительная составляющая градиента для которой имеет вид (5):

дЕ 2 w„

X.

0 + V>

(5)

Процедура же валидации своевременную остановку

8wtJ

ИНС в данном сочетании обеспечивает процесса обучения. Подобное сочетание методов позволяет не только повысить обобщающую способность ИНС, но и существенно сократить время построения нейросетевой модели.

Для обеспечения больших возможностей огрубления нейросетевой модели в целях повышения оперативности и точности прогноза разработан адаптируемый критерий допустимого уровня ошибки (DLErr), в классической методике его использования имеющий вид (6):

(6)

Разработанный же критерий имеет адаптируемый в процессе обучения ИНС характер, обеспечивающий сокращение времени обучения ИНС, с меньшими потерями в точности, при решении задач прогнозирования методом погружения, и рассчитывается для каждой обучающей пары на этапе подготовки ОВ на основе анализа изменения прогнозируемой величины, и рассчитывается по формулам (7):

1, АХ.-я-Щ+Рою&,

если

ЬХ,.^ > Д*,, то еу=0и-0>

1 —

АХ,

е. =«„

(7)

где ] - номер ОП, Х- предыстория значений прогнозируемой величины, р - глубина погружения, £ - величина допустимого значения ошибки обучения ИНС для у'-ой ОП, Х1 - среднее значение X в 7-0Й ОП, ЬХ1

% дета

Рис. 3. Зависимость допустимого уровня ошибки от степени изменения прогнозной величины

среднее отклонение X, от Хп ДЯ^- максимальное значение ДЯ,, после которого принимается е1=£юш, Ро- пороговое значение отклонения от среднего AXJ выраженное в %, - прогнозируемое значение.^ву-ой

ОП, £•„„„, £,„„ - максимальное, минимальное значение допустимого уровня ошибки, может выражаться в процентах, принимает свое значение на основании экспертной оценки;

Новизна подхода заключается в адаптируемом во время обучения характере параметра е, что даёт возможность варьировать точность обучения ИНС в зависимости от характера кривой прогнозируемой величины, так на линейных участках кривой значение е увеличивается, на участках же с высокой степенью нелинейности значение е уменьшается, обеспечивая более точное определение характера поведения прогнозируемой величины. Такой подход позволяет повышать точность прогноза, и сокращать время построения нейросетевой модели (рис. 3).

В третьей главе приводится описание и результаты разработки среды моделирования ИНС ориентированной на решения задач прогнозирования, реализующей предложенные в главе 2 алгоритмы и подходы, включающие совокупность как существующих методов обработки и нейросетевого анализа данных, так и разработанных автором, позволяющих существенно повысить оперативность нейропрогноза.

Среди результатов, полученных автором в данной главе, следует отметить следующие:

• разработана структура среды моделирования ИНС;

• разработаны подсистемы и программные модули моделирования и обучения ИНС, анализа, нормализации и структурирования исходных данных, анализа и подбора наилучшей структуры входных данных и параметров ИНС, визуализации параметров и результатов экспериментов, поддержки пользователя и др.;

Блок визуализация данных и результатов эксперимента

Блок предобработки и систематизации данных

Нормировка Формир ОВ

Понижение размерности, анализ аато-коопеляиий Расчет DLEn

Блок функц и обуч ИНС |

BackProp RProp J Контроль DLErr

CLErr Прорежив! ание ИНС]

Блок анализа

действий пользователя

Блок расчета характеристик обучения

Контроль Контроль

ошибки ошибки

обучения обобщения

результатов Типы

моделирования программных

блоков

1 П Типовой

блок

Блок

сохранения данных г Привнесе

моделирования 1 нный

г блок

Рис. 4. Обобщенная структура среды моделирования ИНС, ориентированной для решения задач прогнозирования

• Создано ПО среды моделирования ИНС для решения задач прогноза;

Для обеспечения необходимой полноты реализации системы прогнозирования с использованием ИНС автором сформулированы требования к системе прогнозирования, сгруппированные на следующие четыре класса:

• функциональные (требования к реализуемым функциям);

• потребительские (требования к интерфейсу, эргономичности и.т.д.);

• требования к текстовой (информационной) среде;

• системные (аппаратные требования, и требования к ОС).

С учетом сформулированных требований была разработана структура среды нейропрогноза, состоящая из взаимозависимых блоков, реализующих как типовые механизмы систем нейропрогноза, так и разработанные автором алгоритмы и методы, каждый из которых с одной стороны выполняет свои специфические функции, а с другой - влияет на работу связанных с ним блоков (рис. 4).

Разработаны структуры функциональных программных блоков, учитывающие особенности их функционирования, а также характер взаимосвязей с остальными блоками среды нейропрогноза. ПО среды основывается на компонентной структуре, для обеспечения гибких возможностей интеграции с пользовательскими учетными системами, и состоит из специфических компонент и классов, как разработанных автором, так и стандартных компонент а также

компонент сторонних разработчиков. Разработанные компоненты и иерархии классов, созданные с помощью среды

реализуют различные механизмы среды и логически сгруппированы по программным блокам, особенности которых они реализуют.

Типовые экранные изображения, возникающие при работе со средой моделирования ИНС ориентированной на решение задач прогнозирования в некоторых режимах её работы представлены на рис. 4.

В четвертой главе диссертационной работы представлены результаты решения практических прикладных задач, выполненных при помощи разработанной среды моделирования ИНС (рис. 5.), целью которых была практическая апробация возможностей, программного инструментария и алгоритмических механизмов среды при решении прикладных задач прогнозирования на производстве и в бизнесе, а также оценка эффективности предложенных в рамках данной диссертационной работы методов повышения оперативности прогноза.

Для осуществления апробации среды нейропрогноза были выбраны две практические задачи из различных предметных областей: сельхозпроизводство и рынок акций. Подобный выбор объясняется полным соответствием характеристик данных задач специфике среды: нейропрогноз на основе высокоразмерных статистических данных (сельхохпроизводство), нейропрогноз нестабильных систем (рынок акций), в силу чего представляется целесообразным использование методов повышения оперативности нейропрогноза.

Первая прикладная задача заключалась в построении нейросетевой модели сельскохозяйственного производства льноволокна для осуществления прогноза процента и типа (качества) льноволокна на выходе технологического процесса переработки льнотресты, а также определения наиболее существенных факторов, влияющих на качество получаемого в результате переработки льнотресты льноволокна.

Для осуществления нейросетевого анализа сельхозпроизводства использовались следующие производственные и агротехнические факторы, влияющие на качество выхода льноволокна: первичная обработка льна (сроки расстила льна, степень вылежки тресты, тип подсева злаков) и производственная переработка льнотресты (влажность тресты, продолжительность отлежки).

В результате решения данной задачи:

• осуществлён прогноз процента и качества выхода льноволокна с точностью до одного номера, что позволило улучшить процессы управления производством, реализации произведённой продукции и пр.

• найдены наилучшие сроки и продолжительность растила льна, подобран наилучший для данной местности вариант подсева, предложено наилучшее время вылежки, а также определена зависимости качества волокна от влажности тресты.

Второй прикладной задачей являлась задача прогноза котировок акций компании «СИБНЕФТЬ» на основе совместного нейросетевого анализа временных рядов, содержащих предысторию значений котировок акций, а также факторов влияющих на прогнозируемую величину: цена за

• ___-Э

I. " ЧО'—

_!_!_' аеа

|| _Ы.Еа^ГД

« - \ = < •• « :

1 . 11 » -

1 :: 1 :: 1 1 ----

6)

■цаа

||||П..,.........

Рис. 5. Типовые экранные изображения, возникающие при работе с разработанной средой моделирования ИНС, ориентированной на решение задач прогнозирования, в некоторых режимах её работы.

а) настройка структуры, обработка входных данных ИНС, настройка параметров прогнозирования;

б) наблюдение за формированием прогноза и его параметрами;

в) получение зависимостей погрешностей прогноза от параметров ИНС;

г) настройка параметров обучения и структуры ИНС

баррель нефти российской марки Urals, цена за баррель нефти российской марки Siberian Light, курс доллара США (USD).

Результатом решения задачи явилось достижение точности прогноза на уровне 67 - 76 %, что является практически значимым результатом.

Произведена апробация предложенной методики осуществления нейропрогноза. Для получения сравнительных характеристик нейропрогноза при использовании стандартных подходов, реализованных в системах нейропрогноза и предложенного автором, произведен ряд этапов обучения ИНС: алгоритм BackProp + CLErr, алгоритм ВаскРгор + CLErr + NeuroRule, алгоритм RPROP + CLErr + NeuroRule, алгоритм RPROP + DLErr + NeuroRule, алгоритм RPROP + DLErr + Valid + После сравнения полученных результатов были сделаны следующие выводы:

• На каждом из этапов происходило снижение времени построения нейросетевой модели, при этом снижение составляло от 7 до 40 %;

• Использование всей совокупности методов повышения оперативности нейропрогноза позволило сократить время нейропрогноза на одном цикле обучения с 191 до 75 мин. для задачи прогнозирования котировок акций, и со 146 до 36 мин. для задачи прогнозирования сельхозпроизводства. Т.е. в процентном отношении использование методики повышения оперативности позволило сократить время затрачиваемое на один цикл обучения в среднем более чем на 60%;

• Использование метода прореживания связей ИНС позволило отказаться от циклической процедуры поиска наилучшей структуры сети, временные затраты на осуществление которой составляли от нескольких часов до 1,5 суток в зависимости от начальных параметров;

• Использование разработанного метода использования допустимого уровня ошибки позволила наряду с сокращением времени моделирования добиться повышения точности прогноза в среднем на 5%, для задачи прогнозирования котировок акций, и на 1 номер для задачи прогнозирования качества выхода длинного льноволокна.

Проведенные исследования показали возможность успешного использования разработанной среды при решении задач из различных предметных областей, в частности прогноз производства, прогноз рыночных показателей. В силу чего данная среда может быть рекомендована для решения задач предъявляющих повышенные требования к оперативности прогноза, и прочих задач подобного класса.

В заключении приводятся основные результаты работы, среди которых следует выделить следующие:

1. Разработан критерий допустимого уровня ошибки, имеющий адаптируемый в процессе обучения ИНС характер, обеспечивающий сокращение времени обучения, с меньшими потерями в точности прогноза, при решении задач прогнозирования методом погружения.

2. Разработана методика осуществления нейропрогноза, основанная на использовании совокупности методов предобработки и анализа составляющих входного вектора данных, обучения ИНС, прореживания связей, контроля ошибки обобщения, использования критерия допустимого уровня ошибки, обеспечивающая сокращение времени затрачиваемого на нейропрогноз.

3. Разработана среда моделирования ИНС, ориентированная на решение задач прогнозирования, обеспечивающая большую оперативность прогноза по сравнению с аналогами, и реализующая полный цикл обработки и нейросетевого анализа данных.

4. Проведено внедрение и практическая апробация разработанной среды и предложенных в её рамках подходов при решении прикладных задач на производстве и в бизнесе. Решены следующие задачи:

• построена нейросетевая модель сельскохозяйственного производства льноволокна, на основе которой осуществлен прогноз выхода и качества льноволокна, а также определены значения факторов, оказывающих наиболее существенное влияние на качество получаемого льноволокна на выходе технологического процесса производства.

• осуществлен прогноза котировок акций компании «СИБНЕФТЬ» на основе совместного нейросетевого анализа временных рядов, содержащих предысторию значений котировок акций, а также предысторию значений влияющих на прогнозируемую величину факторов

5. Проведенные практические исследования разработанного ПО среды моделирования ИНС, ориентированного на решение задач прогнозирования показали эффективность предложенных методов и подходов, что выразилось в существенном повышении оперативности получения результатов.

Основные публикации по теме диссертации:

1. Бобин А.Ю., Восьмирко C.O., Круг П.Г., Передков К.С., Филлипов Ф.Е. Метод учета влияющих факторов нейросетевой моделью прогнозирования. // Международный форум информатизации-2002: Доклады международной конференции «Информационные средства и технологии». 14-16 октября 2003 г., в 3-х т.т. Т1.-М: Янус-К, 2003. -229с. ил. сс. 66-68.

2. А.Ю. Бобин, С.О. Восьмирко, М.Е. Зубов. Программное обеспечение метода экстраполяции измерительных данных на основе нейронной сети. // Радиотехника, электротехника и энергетика: Тез. докл. Девятой Междунар. науч.-техн. конф. студентов и аспирантов. В 3-х т. Т. 1. -М.: Издательство МЭИ, 2003.-416 с. ил. сс. 388-389.

3. Восьмирко C.O., Зубов М.Е., М.Н. Хрипунов. Программная среда для отладки и снижения ошибки нейронной сети, применяемой в системе идентификации говорящего. // Новые информационные технологии в научных исследованиях и в образовании. НИТ 2002: Тез. докл. -Рязань: РГРТА, 2002. - 151 с: ил. сс. 65-66.

4. Восьмирко C.O., Петров О.М. Разработка системы прогнозирования на основе нейронных сетей. Особенности её использования как средства подготовки специалистов в области прогнозирования. // Материалы XV международной конференции: Применение новых технологий в образовании. 29-30 июня 2004 г. -Троицк: издательство «Тровант», 2004. - 439 с. ил. сс. 48-49.

5. Восьмирко С.О. Математическое и программное обеспечение обучающих тренажеров по применению нейронных сетей в прикладных областях. // Международный форум информатизации-2002: Доклады международной конференции «Информационные средства и технологии». 14-16 октября 2003 г., в 3-х т.т. TL-М.: Янус-К, 2003. -229с. ил. сс. 69-72.

6. Система прогнозирования "EIGHT" / Восьмирко C.O., Круг П.Г. -№2004610915; Заявл. 02.04; Опубл. 09.04. - Бюл.№3(482004). - с.26.

Подписано в печать 13.10.2004 г. Формат 60x90,1/16. Объем 1,0 п.л. Тираж 100 экз. Заказ №426

Отпечатано в ООО "Фирма Блок" 107140, г. Москва, ул. Русаковская, д. 1. т. 264-30-73 www.blok01 centre.narod.ru Изготовление брошюр, авторефератов, печать и переплет диссертаций.

»190 15

РНБ Русский фонд

2005-4 17345

список аббревиатур. введение.

глава 1. сравнительный анализ сред моделирования инс. постановка задачи исследования.

1.1. обзор сред моделирования инс, применяемых для решения задач прогнозирования.

1.2. сравнение системных характеристик рассматриваемых программных продуктов.

1.3. сравнение функциональных и потребительских характеристик рассматриваемых программных продуктов.

1.4. основные ограничения и недостатки г анализируемых программных продуктов.

1.5. выводы.

глава 2. разработка методики повышения оперативности прогноза, осуществляемого с использованием инс.

2.1. постановка задачи прогнозирования с использованием инс.

2.1.1. особенности применения инс в задачах прогнозирования

2.1.2. анализ применимости различных топологий инс в задачах прогнозирования.

2.1.3. описание сети типа многослойный персептрон. обучение инс методом наискорейшего спуска.44,

2.1.4. методика осуществления прогноза с использованием! инс48?

2.1.5. первичная обработка входного вектора данных.

2.2. анализ; факторов, повышающих оперативность нейропрогноза. постановка задачи исследования.

2.2.1. проблемы использования метода наискорейшего спуска

2.2.2. критерий допустимого уровня ошибки обучения инс.

2.2.3. контроль переобучения инс. валидадия нейронной сети

2.2.4. избыточность входного вектора данных.

2.3. разработка методики осуществления нейропрогноза, обеспечивающей повышение показателей оперативности.

2.3.1. сравнительный анализ алгоритмов обучения инс.

2.3.2. общее описание и принципы применения метода> обучения инс rprop.

2.3.3. адаптируемый критерий допустимого уровня ошибки инс при решении задач прогнозирования методом погружения.

2.3.4. алгоритм использования метода контроля ошибки обобщения.

2.3.5. понижение размерности входных данных. методика автоматизированного определения глубины погружения.

2.3.6. процедура прореживания связей инс.

2.3.7. описание методики осуществления процесса моделирования инс, обеспечивающей повышение оперативности нейропрогноза.

2.4. выводы по главе

глава 3. разработка среды моделирования инс ориентированной на решение задач прогнозирования:.

3.1. разработка требований к программному обеспечению среды нейропрогноза.

3.2. разработка структур программного обеспечения среды: нейропрогноза.

3.3. разработка подсистем среды нейропрогноза.

3.3.1. разработка подсистемы предобработки и структурирования исходных данных.

3.3.2. разработка подсистемы анализа и подбора наилучшей структуры входных данных и параметров инс.102 :

3.3.4. разработка подсистемы сопровождения пользователя.

3.4. выводы по главе 3.

глава 4. практическая апробация среды моделирования инс при решении прикладных задач прогнозирования.111;

4.1. решение задачи прогнозирования качества переработки льноволокна.

4.1.1 общая характеристика и постановка задачи прогнозирования.;.

4.1.2 последовательность реализации и результаты i исследования.

4.2. решение задачи прогнозирования котировок акций компании сибнефть.122:

4.2.1 общая характеристика и постановка задачи прогнозирования::.

4.2.2 ПОСЛЕДОВАТЕЛЬНОСТЬ РЕАЛИЗАЦИИ И РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ.

4.3. ВЫВОДЫ ПО ГЛАВЕ 4.

Такая область применения систем поддержки принятия решений; как прогнозирование приобретает всё большую актуальность в самых различных направлениях человеческой деятельности, прежде всего в областях производства и финансов. На сегодняшний день для осуществления прогноза используется ряд методов, как то методы мат. статистики, технического анализа (графический анализ, трендовые индикаторы) и т.д., и, наконец - искусственные нейронные сети (ИНС), имеющие в случае осуществления краткосрочного прогноза ряд преимуществ по сравнению с вышеперечисленными методами.

Вместе с тем, проблемы на пути широкого применения ИНС в прогнозировании связаны необходимостью в высокой оперативности прогноза нестабильных систем, характеризующихся частой сменой экзогенных факторов, когда прогнозируемая величина имеет нелинейный, быстро изменяющийся характер, что требует изменения структуры и переобучения ИНС. В результате' чего время нейропрогноза может достигать многих часов, что недопустимо при прогнозе быстроизменяющихся процессов, например прогноз котировок акций. И что, тем самым, нивелирует преимущества нейросетевого подхода к прогнозированию.

Существующее в настоящее время программное обеспечение (ПО), позволяющее осуществлять моделирование ИНС и решать, с помощью построенных моделей задачи прогнозирования можно разделить на два класса: универсальные среды моделирования ИНС (SNNS, Trajan, Matlab NN Toolbox, и др.) и среды, ориентированные на решение с помощью ИНС узкого спектра прикладных задач, и в частности задач прогнозирования, например, Neurodimension TradingSolutions.

Существующие же средства и подходы, к сокращению время моделирования ИНС, реализованы в основном только в универсальных средах, существующие же среды нейропрогноза неспособны решать эту задачу, что приводит с одной стороны к невозможности использовать универсальные средства, не обладающих, в должной степени, механизмами, учитывающими, особенности применения ИНС к задачам прогнозирования, а с другой - с нерешаемой в рамках ПО сред нейропрогноза задачей повышения оперативности прогноза.

Таким образом, представляются актуальными разработка и создание среды моделирования ИНС, ориентированной на решение задач прогнозирования, обладающей более высокими показателями оперативности прогноза по сравнению с аналогами и обеспечивающей полный цикл обработки и анализа данных. А также исследования и разработки в области нейросетевого моделирования, позволяющие повысить оперативность, т.е. сократить время, затрачиваемое на осуществление нейропрогноза.

В настоящее время, аппарат ИНС и методы его использования активно развивается и совершенствуется, так активные разработки и исследованиями в области создания систем моделирования ИНС, в том числе и для решения задач прогнозирования в: России связаны с деятельностью таких коллективов как BaseGroup Labs (Москва), Alpha System (Санкт-Петербург). Кроме того, наиболее часто цитируемыми и авторитетными российскими работами в последние годы, в области теории и практики применения ИНС считаются труды Ежова A.A., Галушкина А.И., Горбань А.Н., Шумского С.А., Шахнова В.А., вместе с тем появился ряд диссертационных работ, посвященных проблемам использования ИНС в различных предметных областях, и в частности, в области прогнозирования, - Родионова П.Е. "Методика извлечения знаний в задачах анализа рядов динамики с использованием нейронных сетей", а также Олешко Д.Н., Дубровина В.И., Алексеева A.B.

Целями настоящей диссертационной работы являются:

1. Разработка и создание среды моделирования ИНС, ориентированной на решение задач прогнозирования, обеспечивающего полный цикл обработки и анализа данных И' обладающего более высокими показателями оперативности прогноза по сравнению с аналогами.

2. Разработка и развитие методов осуществления прогноза с использованием аппарата ИНС, позволяющих обеспечить повышение точности и оперативности нейропрогноза.

3. Исследование разработанной среды и предложенных методов повышения оперативности прогноза при решении ряда; задач прогнозирования на производстве и в области финансов.

Для достижения поставленных целей решаются следующие основные задачи диссертационного исследования:

1. Исследование и анализ сред моделирования ИНС, применяемых для решения задач прогнозирования и принятия решений, выявление их недостатков и ограничений при решении данного класса задач.

2. Исследование методов и алгоритмов осуществления прогноза с использованием технологии ИНС.

3; Выявление факторов, оказывающих наиболее существенное влияние на временные показатели процедур обработки и нейросетевого анализа данных выполняемых в целях осуществления прогноза.

4. Разработка методики осуществления нейропрогноза, основанной на использовании совокупности подходов обеспечивающих лучшие временные характеристики процесса нейросетевого моделирования.

5. Развитие методов использования критерия допустимого уровня ошибки при обучения ИНС типа многослойный персептрон, ориентированных на сокращение времени обучения ИНС при решении задач прогнозирования методом погружения.

6. Разработка среды моделирования ИНС, ориентированной на решение задач прогнозирования, реализующей разработанные методы и подходы, к осуществлению нейропрогноза, и имеющую лучшие показатели оперативности прогноза по сравнению с аналогами. 7. Внедрение и практическая апробация разработанной среды и реализованных в её рамках методов повышения оперативности прогноза при решении прикладных задач прогнозирования.

Методы исследования применяемые в диссертационной работе, основаны на использовании элементов искусственного интеллекта: нейросетевых технологий, и компьютерного моделирования.

Научная новизна работы обусловлена следующими факторами:

1. Разработана методика осуществления нейропрогноза, основанная на использовании совокупности методов оптимизации процесса построения нейросетевой модели, обеспечивающая повышение показателей оперативности прогноза.

2. Разработан критерий допустимого уровня ошибки, имеющий адаптируемый в процессе обучения ИНС характер, обеспечивающий сокращение времени обучения, с меньшими потерями в точности прогноза, при решении задач прогнозирования методом погружения.

3. Предложено использование сочетания процедур валидации и прореживания ИНС, как средства повышения оперативности нейропрогноза.

Разработанная автором среда моделирования искусственных нейронных сетей, для решения задач прогнозирования, обеспечивает более высокую оперативность прогноза по сравнению с аналогами, что позволяет расширить круг прикладных задач прогнозирования, имеющих высокие требования к оперативности, решаемых с помощью ИНС и существенно сократить временные затраты на осуществление нерйропрогноза.

Разработанная методика осуществления нейропрогноза, а также разработанный в её рамках адаптируемый критерий допустимого уровня ошибки при решении задач прогнозирования методом погружения позволяет специалистам, занимающимся нейропрогнозом, повысить оперативность и точность нейропрогноза.

Созданная автором среда нейропрогноза применяется в ООО "Торговая компания СТАНДАРТЪ" как средство поддержки принятия решений, в ООО «Сонковский льнозавод» для осуществления прогноза сельхоз производства: доли и качества выхода длинного льноволокна.

В обеих организациях внедрение принесло положительный результат, что подтверждено соответствующими документами.

Результаты, исследований,, составляющих содержание диссертации докладывались на: VII всероссийской научно-технической конференции «Новые информационные технологии в научных исследованиях и образовании» (Рязань, РГРТА, 2002 г.), IX международной5 научно-технической конференции! (Москва, МЭИ, 2003 г.), международном форуме информатизации - 2002 «Информационные средства и технологии» (Москва, 2002 г.), Международном научно-техническом семинаре «Современные технологии в задачах управления, автоматики и обработки информации» (Алушта 2003 г.), XV международной конференции «Применение новых технологий в образовании» (Троицк 2004 г.).

По результатам; диссертационного исследования опубликовано 6 печатных работ. На разработанные продукты получено 3 свидетельства об официальной регистрации программ для ЭВМ в Российском агентстве по патентам и товарным знакам (РОСПАТЕНТ). В том числе на «Систему прогнозирования EIGHT» № 2004610915 от 15.04.04.

Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы из 106 наименований (в том числе 29 ссылки на ресурсы Internet); содержит 135 страниц машинописного текста, 48 рисунков, 21 таблиц и приложения на 13 страницах.

4.3. ВЫВОДЫ ПО ГЛАВЕ 4

1. В результате диссертационных исследований была осуществлена практическая апробация возможностей, среды моделирования ИНС, ориентированной на решение задач прогнозирования, а также реализованных в её рамках методов осуществления нейропрогноза, предложенных в гл.2.

2. Разработана нейросетевая модель сельскохозяйственного производства, что обеспечило: осуществление прогноза процента и качества выхода льноволокна, что позволило наладить процессы управления производством и реализацией произведённой продукции. нахождение благоприятных сроков и продолжительности растила льна, подобран наилучший для данной местности вариант подсева, предложено приемлемое время вылежки, а также определена зависимость качества волокна от влажности тресты;

3. Осуществлен прогноз котировок акций компании СИБНЕФТЬ на основе совместного нейросетевого * анализа временных рядов, содержащих предысторию котировок акций, а также предысторию влияющих- на- прогнозируемую, величину факторов, что позволило достичь практически значимый результат достоверности прогноза на уровне 67-74%.

4. Произведена апробация предложенной в рамках диссертационной работы методики повышения оперативности нейропрогноза, а также разработанных в её рамках метода "огрубления" нейросетевой модели, основанного на использовании критерия допустимого уровня ошибки, в результате чего были получены следующие результаты: время затрачиваемое на нейропрогноз сокращалось, в среднем, боле чем на 60%; точность прогноза при использовании ОЬЕгг повышалась на 5% для прогноза котировок акций, и на 1 номер для задачи прогноза сельхоз производства; нейропрогноз с использованием механизмов анализа корреляций для определения состава влияющих факторов и глубин погружения показал сравнимую точность определения глубины погружения, что и прогноз с использованием механизма поиска наилучшей структуры ИНС, основанного на использовании циклического переобучения ИНС с различной структуры; что позволяет значительно сократить время нейропрогноза;

Использование метода прореживавния связей ИНС позволило исключить длительную процедуру поиска наилучшей структуры ИНС, при времени обучения сопоставимым с одним циклом обучения.

Проведенные исследования показали эффективность разработанной среды моделирования ИНС ориентированной на решение задач прогнозирования, что выразилось в значительном повышении оперативности, выполненного с её помощью прогноза по сравнению с типовыми подходами, реализованными в средах нейропрогноза.

1. Айвазян А., Бухштабер B.M., Енюков И.С, Мешалкин Л.Д. Прикладная статистика: Классификация и снижение размерностей. Справочное издание под ред. Айвазяна А. — М.: Финансы и статистика, 1989. — 607 стр.

2. Айвазян А., Енюков И.С, Мешалкин Л.Д. Прикладная статистика: Исследование зависимостей. Справочное издание •^ под ред. Айвазяна А. — М.: Финансы и статистика, 1985. — 471 стр.

3. Айвазян А., Енюков И.С, Мешалкин Л.Д. Прикладная статистика: Основы моделирования и первичная обработка данных. Справочное издание под ред. Айвазяна СА. — М.: Финансы и статистика, 1983. — 471 стр

4. Архангельский А.Я. Программирование в Delphi 6. - М.: ЗАО "Издательство БИНОМ", 2001 г. - 1120 с : ил.

5. Бендат Дж., Пирсон А. Прикладной анализ случайных данных: Пер. с англ. - М.: Мир, 1989. - 540 с.

6. Бир Кибернетика и управление производством. - М.: Наука, 1965.-391

7. Браверман Э.М., Мучник И.Б. Структурные методы обработки эмпирических данных. - М.: Наука. Гл. Ред. Физ.-мат. лит., 1983.-467 с.

8. Бэстенс Д.-Э. Нейронные сети и финансовые рынки. — М.: Научное издательство, 1997.- 236 с.

9. Вороновский Г.К., Махотило К.В., Петрашев СН., Сергеев СА. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности, Харьков, Основа, 1997 г.

10. Галушкин А.И Нейронные сети и проблема малой выборки // Нейрокомпьютеры и их применение: Сборник докладов V Всероссийской конференции. - М., 1999. - 399-401.

11. Гилев С Е . Сравнение методов обучения нейронных сетей // Нейроинформатика и ее приложения: Тез. докл. Ш Всероссийского рабочего семинара. - Красноярск, 1994. - 80-81.

13. Горбань А.Н. Обучение нейронных сетей. -М.: СП "ПараГраф", 1990.-159 с.

14. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука. Сибирская издательская фирма РАН, 1996. 276 с.

15. Горбань А.Н., Россиев Д.А., Коченов Д.А. Применение самообучающихся нейросетевых программ. - Красноярск: СПИ, 1994.-169 с.

16. Дарахвелидзе П. Г., Марков Е. П. Delphi 4. - СПб.: БХВ - Санкт-Петербург, 1999. - 816 с , ил.

17. Дарахвелидзе П.Г., Марков Е.П. Delphi - среда визуального программирования: - СПб.: BHV - Санкт-Петербург, 1996. -352 с.

18. Джеффри Е. Хинтон. Как обучаются нейронные сети,// В мире науки - 1992 - N 11 - N 12 - с. 103-107.

19. Ежов А.А,, Шумский А., Нейрокомпьютинг и его применение в экономике и бизнесе.-М.:МИФИ,1998.-224с.

20. Загоруйко Н.Г.'Прикладные методы анализа данных и знаний', Новосибирск, Издательство Института математики, 1999 г.

21. Ивахненко А.Г. Персептроны. Киев: Наукова думка, 1974.

22. Ивахненко А.Г. Перцептрон - система распознавания образов. Теория, моделирование, возможные улучшения и применения перцептронов. / Под общ. ред. Киев, 1975. - 432 с.

23. Карпова И.П. Исследование и разработка подсистемы контроля знаний в распределённых автоматизированных и обучающих системах // Автореферат диссертации на соискание ученой степени канд. техн. наук: 14.10.02. -М., 2002. -20 с : ил.

24. Касторнова Т.А. Прогнозирование экономических процессов при частой смене экзогенных условий // Автореферат диссертации на соискание ученой степени канд; экон. наук :08.00.13. -Ростов-н/Д, 2002.-31 с.

25. Касторнова Т.А.. Прогнозирование экономических процессов при частой смене экзогенных условий // Автореферат диссертации на соискание ученой степени канд. экон. наук :08.00.13. -Ростов-н/Д, 2002. -31 с : ил.. - Библиогр.: с. 31(6 назв.)

26. Комашинский В. И. , Смирнов Д. А. Нейронные сети и их применение в системах управления и связи. М.: Горячая линия -Телеком, 2002. 94 с.

27. Круг П.Г. Моделирующая система виртуальных средств измерений и экспериментальных исследований. // Труды межд. научн.-техн. конф., Киев, 1992.

28. Круг П.Г., Филатенков Ю.В., Шилин А.В. Оптимизация структуры нейронной сети, применяемой для автоматизированной классификации результатов моделирования. IV Всероссийская научн.-техн. конф. Новые информационные технологии. М.: МГАПИ. 2001. с. 114-118.

29. Круглов В. В. , Борисов В. В. Искусственные нейронные сети: Теория и практика. М.: Горячая линия-Телеком 2001, 382 с.

30. Маслобоев Ю.П. Введение в Neural Network Toolbox. - http://www.matlab.ru

31. Материалы 2-й Международной выставки-конференции Информационные технологии и телекоммуникации в образовании // Каталог и тезисы докладов // Москва, ВВЦ, 6-9 апреля 2000 г.

32. Мерфи Дж. Технический анализ фьючерсных рынков. 1986

33. Минский М., Пайперт Персептроны. -М.: Мир, 1971.

34. Миркес Е.М. Нейрокомпьютер: проект стандарта. Новосибирск: Наука, 1999.-337с.

35. Моисеев Н.Н., Иванилов Ю.П., Столярова Е.М. Методы оптимизации, -М:. Наука, 1978

36. Мостеллер Ф., Тьюки Дж. Анализ данных и регрессия. - М.: Финансы и статистика, 1982. - 239 с.

37. Нейроинформатика и ее приложения // Материалы 3 Всероссийского семинара, 6-8 октября 1995 г. Ч. 1 /Под редакцией А.Н.Горбаня. Отв. за выпуск Г.М.Цибульский; Красноярск: изд. КГТУ, 1995. 229 с.

38. Никульчев Е.В. Волович М.Е. Модели хаоса для процессов изменения курса акций. - М.: EponentaPro., 2003.-49-52 ее.

39. Осовский Нейронные сети для обработки информации. -М.: Финансы и статистика, 2002, 344 с.

40. Петере Э. Хаос и порядок на рынках капиталла. -М.: Мир, 2000. 333с.

41. Пректер P.P., Фрост А.Дж. Волновой принцип Элиота. Ключ к поведению рынка. -М.: Альпина Паблишер, 2001.

42. Проблемы создания автоматизированных обучающих и тестирующих систем: Сборник науч. трудов / Редколл. Иванченко А.И. и др. — Новочеркасск, 2001. 199 с.

43. Ретинская И.В,, Шугрина М.В. Отечественные системы для создания компьютерных учебных курсов. // Мир ПК, 1993, № 7. - с . 55-62.

44. Родионов П.Е.. Методика извлечения знаний в задачах анализа рядов динамики с использованием нейронных сетей // Автореферат диссертации на соискание ученой степени канд. техн. наук: 07.06.03. -М., 2003. -16 с : ил.

45. Соловов А.В. Проектирование компьютерных систем учебного назначения: Учебное пособие. — Самара: СГАУ, 1995. - 137 с.

46. Тюрин Ю.Н., Макаров А.А. Статистический анализ данных на компьютере. Под ред. Н.Э. Фигурнова. — М: Инфра-М, 1998. — 528 стр.

47. Уоссермен Ф. Нейрокомпьютерная техника, -М.: Мир, 1992

48. Харман Г. Современный факторный анализ. - М.: Статистика, 1972.-486 с.

49. Хармон Эрик. Разработка СОМ-приложений в среде Delphi: Пер. с англ.: Уч. Пос. - М.: Издательский дом «Вильяме», 2000. -464 с.: ил.

50. Шеремет А.Д., Сайфулин Р.С. Методика финансового анализа. — М: Инфра-М, 1996. — 172 стр.

51. Amold S. В. End-users: dreams of doUars/ZOnline.—1987.—^N 6.— P.71—81.

52. Bishop CM. (1995) Neural Networks and Pattern Recognition. Oxford Press.

53. Chen J., Hong H., Srein J., "Forecasting Crashes: Trading Volume, Past Retums and Conditional Skewness in Stock Prices".

54. Davenport L., Cronin B. Marketing electronic information/ZOnline.— 1987.—N1.—P. 39—46.

55. Jensen H.J. Self-organized criticality. Cambridge. 2000.

56. Kirkpatrick S., Gelatt C. D., Vecchi M. P. Optimization by simulated annealing. Science. v220 (1983), pp 671-680.

57. Kohonen Т., "Self-Organizing Maps"(2-nd edition). Springer, 1997.

58. Lippman R.P., "An introduction to computing with neural nets", IEEE ASSP Magazine. Apr. 1987.

59. Mark J. L. Orr Introduction to Radial Basis Function Networks Centre for Cognitive Science, University of Edinburgh

60. MuUer В., Reinhardt J., "Neural networks". Springer -Verlag. 1990.

61. Patrick P.Minimisation methods for training feedforward Neural Networks. //NEUARAL NETWORKS, 1994, Volume 7, Number 1, P. 1-11

62. Riedmiller M. , Braun H. "A direct adaptive method for faster backpropagation learning: The RPROP algorithm". San Francisco, 1993.

63. Rumelhart B.E., Minton G.E., Williams R.J. Learning representations by back propagating error.// Wature, 1986. V. 323. p. 1016-1028.

64. Shewchuk J. R."Second order gradients methods", School of Computer Science Carnegie Mellon University Pittsburg, 1994

65. Swingler K. "Applying Neural Networks. A practical Guide"