автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.06, диссертация на тему:Создание подсистемы прогнозирования объемов производства в составе АСУ промышленного предприятия с использованием аппарата нейронных сетей

На правах рукописи

Покровская Мария Владимировна

Создание подсистемы прогнозирования объемов производства в составе АСУ промышленного предприятия с использованием аппарата нейронных сетей

Специальность 05.13.06 - Автоматизация и управление технологическими процессами и производствами (промышленность)

Автореферат диссертации на соискание ученой степени кандидата технических наук

Вологда-2006

Работа выполнена в Вологодском государственном техническом университете

Научный руководитель: кандидат технических наук,

доцент кафедры АВТ ВоГТУ Суконщиков Алексей Александрович

Официальные оппоненты: доктор технических наук,

профессор ВлГУ Коростслев Владимир Федорович

доктор физико-математических наук,

профессор ВоГТУ

Горбунов Вячеслав Алексеевич

Ведущая организация: АО «Вологодский подшипниковый завод»

Защита состоится « марта 2006 г. в /¿Г в аудитории 211 на заседании диссертационного совета Д.212.025.01 Владимирского государственного университета по адресу: 600000, г.Владимир, ул.Горького, 87, корпус 1.

С диссертацией можно ознакомиться в библиотеке Владимирского государственного университета по адресу: 600000, г.Владимир, ул.Горького, 87, корпус 1.

Автореферат разослан « » февраля 2006 г.

Отзывы на автореферат в двух экземплярах, заверенные печатью, просьба направлять по адресу: 600000, г.Владимир, ул.Горького, 87, ученому секретарю совета.

Ученый секретарь

диссертационного совета, 7

доктор технических наук, профессор / ^'МАКАРОВ Р.И.

А .

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследования. Современное развитие человека и общества имеет направленность в будущее. Рынок требует от предприятий взвешенного подхода к планированию и управлению производственным процессом. Как недопроизводство, так и перепроизводство ведут к недополученным прибылям или потерям, что может привести к краху предприятия. Необходимость оперативного реагирования на конъюнктуру рынка и быстро меняющуюся экономическую ситуацию, стремительный рост объема информации, требующей обработки, неопределенность в поведении производственных систем, возможность использовать современные информационные технологии требуют перестройки внутренней микроэкономики предприятия, постановки управленческого учета (создание АСУП, АСУПТ), оптимизации процессов управления, что предполагает, прежде всего, процесс прогнозирования. Целью прогнозирования является уменьшение риска при принятии управленческих решений.

В общем виде процесс управления во всех сферах деятельности можно представить в виде так называемой «петли управления», включающей циклическую последовательность следующих этапов: прогноз -планирование - контролируемая деятельность по реализации планов - учет и анализ результатов - коррекция прогнозов и планов. Таким образом, прогнозирующая система, в настоящее время, является необходимым блоком (подсистемой) любой АСУП (АСУТП), результаты которой используются далее подсистемами планирования и управления. В связи с этим особую важность представляет разработка методов автоматизированного прогнозирования, с минимальным участием человека.

В условиях современного развития науки и техники многие классические метода прогнозирования исчерпали свои возможности. Исследования, проводимые в рамках данной работы, обусловлены необходимостью внедрения в практику работы профессиональных руководителей, менеджеров методов научного управления, основанного на строгой формализации процедур принятия решений и необходимостью использования на практике новых технологий. Существенными составными частями таких технологий являются в настоящее время нейронные сети (НС), главное преимущество которых - их способность к обучению и самообучению, а также теория динамических систем (теория хаоса), позволяющая в явлениях, на первый взгляд случайных, обнаружить порядок и некоторую структуру. Большую актуальность приобретает создание методики прогнозирования объемов производства на основе аппарата НС.

Теория искусственных нейронных сетей была создана и развита такими учеными, как Ф.Розенблатг, М.Минский, С.Гроссберг, Т.Кохонен. Сегодня вопросам теории и практического использования искусственных нейронных сетей посвящены работы таких ученых России, как А.И.Галушкин, А.Н.Горбань, В.В.Золотарсв, С.Г.Короткий, А.А.Ежов, В.М.Неделъко.

Цель работы и задачи исследования. Разработка методики прогнозирования объемов производства на осно^е-ащщщта_нейронных сетей;

создание подсистемы прогнозирования в составе АСУП, позволяющей решать задачу краткосрочного прогнозирования.

Для досгижения указанной цели в работе решены следующие задачи:

1. Проведен критический анализ проблемы прогнозирования, методов прогнозирования временных рядов, идентифицированы основные недостатки. Сформулирована потребность в совершенствовании методик, выявлены перспективные направления в области их развития.

2. Исследовано применение искусственных НС для автоматизированного прогнозирования временных рядов. Проведен сравнительный анализ известных моделей НС. Проведен сравнительный анализ применения простых и предложенных в работе комбинированных НС. Определены ограничения применения комбинированных НС для задач прогнозирования. Определены критерии оценки качества прогнозирования.

3. Исследовано применение теории хаоса для анализа данных на производственном предприятии.

4. Разработана общая методика решения задачи прогнозирования объемов производства, основанная на применении аппарата НС. В рамках методики сформулированы конкретные практические рекомендации по решению рассматриваемого класса задач. Проведены экспериментальные исследования.

5. Проведен анализ существующих на сегодня систем прогнозирования, выявлены основные недостатки, сформулированы общие требования к системам прогнозирования.

6. Создана информационная прогнозирующая подсистема в составе АСУП, опирающаяся на данные производственного предприятия формата 1С.

Объектом исследования являются показатели производства и АСУ промышленного предприятия ООО «Стальные конструкции -Профлист».

Методы исследования. Разработки и исследования проводились на основе методов математического анализа, прикладной статистики, теории вероятностей, нечеткой логики, теории хаоса, теории нейронных сетей, технологий модульного и объектно-ориентированного прмраммирования.

Наиболее существенные результаты и Научная новизна.

1. Предложена комбинированная нейронная сеть на основе «многослойный перцептрон» - «Карта Кохонена» для решения задачи многофакторного прогнозирования объемов производства. Определены ограничения применения данной архитектуры НС для задач прогнозирования.

2. Разработана общая методика решения задачи прогнозирования объемов производства предприятия на основе аппарата НС, определены ее основные этапы, сформулированы рекомендации по ее применению.

3. Предложено использовать теорию хаоса для анализа данных на производственном предприятии, с помощью которой показано, что временные ряды производственных показателей деятельности предприятия предсказуемы.

4. Предложены и нормированы критерии оценки качества прогнозирования, позволяющие сократить время обучения НС.

Практическая ценность работы заключается в разработанной методики, позволяющей получать нейросетевые модели прогнозирования и обеспечивающей возможность их использования широким кругом организаций. Создавать на основе этих моделей прогнозирующие подсистемы в составе АСУП. Для решения многофакторных задач предложена комбинированная модель НС на основе «многослойный перцептрон»-«карта Кохонена», позволяющая сократить время обучения НС.

Реализация и внедрение результатов работы. Созданные в рамках работы на основе предложенной методики программные средства включены в состав АСУ предприятием ООО «Стальные конструкции - Профлист» (г.Москва). Их внедрение принесло положительный результат, что подтверждено соответствующим актом о внедрении.

Апробация работы. Основные положения диссертационной работы докладывались и получили одобрение на заседаниях кафедры «Автоматики и вычислительной техники» ВоГТУ, на заседаниях комиссий по аттестации аспирантов в 2000-2005гг., а также на международных и всероссийских научно-технических конференциях: IX международная научно-техническая конференция «Информационная среда ВУЗа» (Иваново, 2002), Всероссийская научная конференция «Управление и информационные технологии» (Санкт-Петербург, 2003), XV международная конференция «Применение новых технологий в образовании» (Троицк, Московская область, 2004), международная конференция «Информационные технологии в образовании, технике и медицине» (Волгоград, 2004), НТК «Актуальные проблемы экономики и управления: Теория и практика» (Вологда, 2005), SMC 2005 Международная конференция по мягким вычислениям и измерениям (Санкт-Петербург).

Публикации. Автор имеет 10 опубликованных работ по теме диссертации, из них 7 на международных конференциях и 2 на всероссийских.

Структура й объем работы. Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы и 7 приложений. Основная часть работы изложена на 133 страницах. Список литературы состоит из 146 наименований, таблиц 14, рисунков 46.

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы диссертационной работы, определены цель и задачи исследований, перечислены методы исследования, представлены основные положения, выносимые на защиту.

В первой главе «Аналитический обзор моделей и методов прогнозирования» критически рассмотрены существующие методы и модели прогнозирования, предложена их классификация, согласно которой методы прогнозирования делятся на интуитивные, предполагающие учет субъективного мнения экспертов, формализованные (стохастические, фактографические), в основном опирающиеся на аппарат математической

статистики, и интеллектуальные технологии, к которым относятся такие современные направления, как нейронные сети и теория динамических систем.

Для автоматизированного прогнозирования преимущественно используют методы математической статистики, круг которых чрезвычайно широк. В работе критически рассмотрены модели и методы стационарных (АК(р)-модели; А11МА(р, ^модели) и нестационарных временных рядов (АШМА(р, к, ф-мсдели (модель Бокса Дженкинса), метод экспоненциально взвешенного скользящего среднего (метод Брауна)) и проблемы их идентификации; метод группового учета аргументов, структурные модели. Выявлены следующие факторы, сдерживающие применение классических методов прогнозирования в АСУП:

- затрудненность адекватного описания производственного процесса, которому свойственны сезонность, нелинейность, нестационарность, сложная зависимость входных и выходных факторов, зачастую недостаточная база исторических данных;

- затрудненность получения решений в условиях высокой размерности задач (многофакторность);

- необходимость при прогнозировании в реальном времени постоянной подстройки параметров модели, а зачастую и изменение самой модели;

- отсутствие в большинстве случаев необходимой квалификации управленческого персонала.

Перспективным направлением в данном случае является применение искусственных нейронных сетей.

Для многослойных НС строго математически доказано, что они могут представлять любую вещественную непрерывную векторную функцию любого вещественного непрерывного векторного аргумента. Применение НС не накладывает никаких ограничений на характер входной информации, на характер исследуемых рядов, поэтому нелинейность и нестационарность рассматриваемых процессов не представляет проблемы. Способность к обучению и самообучению позволяет НС успешно решать задачи, в которых затруднено или невозможно нахождение аналитических зависимостей между входными и выходными данными, находя при этом оптимальную для поставленной задачи стратегию предсказания, которая может быть адаптивна, меняясь вместе с ситуацией.

Вторая глава «Прогнозирование временных рядов на основе нейрокомпыотерных технологий» посвящена вопросам нейросетевого прогнозирования.

Нейронная сеть - совокупность нейронных элементов и связей между ними. Основной элемент НС - это нейрон, осуществляющий операцию нелинейного преобразования суммы произведений входных сигналов на весовые коэффициенты. Предложена классификация существующих парадигм нейронных сетей по структуре, по особенностям моделей, по видам обучения. Рассмотрены алгоритмы обучения НС, которые основываются на трех парадигмах (с учителем, без учителя, смешанная) и базируются на пяти

основных правилах обучения, обусловленных связанными с ними архитектурами сетей: коррекция ошибки (5 - правило), правило Бопьцмана, правило Хебба, метод соревнования и генетические алгоритмы (ГА).

В работе рассматривалась задача прогнозирования, имеющая следующие особенности:

- на прогнозируемую величину влияют нескольких различных факторов (динамика изменения значений которых также представлена временными рядами). Нахождение и аналитическое описание зависимостей, характеризующих эти взаимосвязи, затруднено;

-рассматриваемые временные ряды являются нелинейными, вид нелинейности временного ряда априорно не известен и не описан аналитически;

-в результате решения задачи требуется нахождение краткосрочного прогноза.

Формализованная постановка решаемой задачи выглядит следующим образом:

В процессе функционирования НС формирует выходной сигнал У в соответствии с входным сигналом X, реализуя некоторую функцию £ Если архитектура сети задана, то вид функции g определяется значениями синаптическях весов и смещений сети. Обозначим буквой в множество всех возможных функций g, соответствующих заданной архитектуре сети.

Задача обучения НС определяется совокупностью пяти элементов:

<Х,У^<СД)>,

где У - объект прогноза, представленный временным рядом своих значений в предшествующие моменты времени У,_к, Г, , где ^текущий

момент времени, к-глубина ретроспективной выборки. На поведение У влияет совокупность факторов (характеристик): Х^ Хп, где п-количество

факторов. Каждая 1-ая характеристика (1=1..п) также представлена совокупностью своих предыдущих значений .

г - функция, заданная парами входных-выходных данных (Хь У1), (Х2, У2) ... (Хт, УД для которых Ут=г(Хп) (т=1,2,...,М)

Б - функция ошибки, показывающая для каждой из функций % степень близости к г.

Решить поставленную задачу с помощью НС заданной архитектуры -это значит синтезировать функцию g. Обучение состоит в поиске (синтезе) функции оптимальной по О и является итеративной процедурой, в результате которой происходит уменьшение функции ошибки.

Предложен в общем виде алгоритм построения нейросетевой модели (рис.1).

Выделены два основных подхода используемые при построении нейросетевой модели для прогнозирования (в общем случае - для анализа) временных рядов: «однофакторные» и «многофакторные» модели.

4:

Млсмвтичесш модель (информант об объекте)

Формировавке структуры входа НС

-V-

Формировал« обучающей выборки

-ii- i

Экспериментальные доные

тестовое, ямпрпльж* иаояегтм)

3агиние архмтет-рм, етрукт}-ры и размерности НС; выбор алгоритма обу-кни«

Нет ^^

Тесгомя не>*росстевая модель

Лг1--—■

|iu— имж яммых. Уоудкт» pafem

В случае

«однофакторной» прогнозирующей модели на входы нейросети подается только предыстория временного ряда Xj, х,_ 1, ..., Хн). В качестве единственного выхода нейросети фигурирует оценка значения

временного ряда х, в прогнозируемый момент или интервал времени t,.

При использовании «мяогофакторной» модели на входы нейросети кроме предыстории прогнозируемого временного ряда подаются значения

различных внешних факторов. В этом случае задачу прогнозирования предложено подразделить на две подзадачи: классификация и выделение наиболее значимых факторов и прогнозирование (предсказание поведения объекта в будущем на основе ретроспективной информации, хранящейся в виде временных рядов).

На основании проведенного анализа применимости существующих архитектур НС к решению основных категорий задач для решения задачи прогнозирования сделан выбор в пользу сети типа многослойный перцептрон (MLP), так как данная архитектура обладает способностью экстраполировать данные, более компактна за счет эффективного использования всех нейронов, зачастую требует меньшего числа обучающих примеров, в меньшей степени страдает от проклятия размерности. В силу простоты и удовлетворительной скорости сходимости для обучения многослойного перцептрона выбран алгоритм обратного обучения. Получены оптимальные простые нейросетевые структуры для исследуемых временных рядов спроса на продукцию. Показана эффективность применения НС по сравнению с классическими методами прогнозирования для однофакторного прогнозирования (таблица 1).

_ _ __Таблица 1

Нейросетеш модель Рис.1 Алгоритм построения нейроеггевой иодадм

Характеристика Модель явторегрессии (скользящее среднее) Нейронная сеть

Число прогнозируемых отсчетов 100 100

Число угаданных знаков приращения 39 69

Процент угаданных знаков 39% 69%

Средняя (по модулю) ошибку прогноза 259,385 118,884

В ходе проведенных экспериментов получены следующие результаты:

- во временной модели для точности прогноза 10-15 % регрессионный анализ обеспечил более быстрое получение результатов, чем НС.

- в причинной модели при числе факторных признаков три и более преимущество по затратам времени и точности обеспечивала нейронная сеть.

Получены кривые зависимости времени обучения простой НС от количества нейронов в скрытом слое для структур с одним входом и одним выходом, для структур с тремя входами и одним выходом. Зависимость имеет достаточно сложный вид, но при этом имеет общую тенденцию к росту после достижения критической точки минимума времени обучения (рис. 2).

5 А 7в 9 10 11 12 13 14 15 16 17 1в 19 20 21 кшмчастао тйроим ■ екрытма сям

а) спрос ва продукцию, выборка 100 элементов

S в 7 а 9 Ю 11 12 13 14 15 1в 17 1в 19 20 21 пшчкш мйроим ■ еярыюмелм

6) спрос на продукцию, выборка 330 элементов

в) курс евро, выборка 1200 элементов. г) спрос на продукцию, выборка 100 элемен-

тов, сеть типа 3:Х:1

Рис.2 Зависимость времени обучения простой нейронной сети от количества нейронов в скрытом слое

Для задачи классификации на основании проведенного анализа решено использовать самоорганизующиеся карты Кохонена, которые дают хорошие результаты и позволяют выявлять существенные признаки подаваемой совокупности временных рядов (например, определение характера тренда — возрастающий, убывающий или нейтральный) и обладают удовлетворительной скоростью обучения.

Предложена комбинированная сеть на основе архитектуры «карта Кохонена» - «многослойный перцептрон» (Рис.3). Значения влияющих факторов подаются на вход карты Кохонена, которая выделяет характер оказываемых ими воздействий на объект прогноза, формируя на выходе сигнал, который вместе со значениями исследуемого ряда подается на вход и обрабатывается многослойным перцептроном. Показана эффективность применения предложенной комбинированной сети для прогнозирования

спроса на продукцию с учетом влияющих факторов: курса доллара, цен на сырье, объемов производства (таблицы 2,3).

Рис.3 Комбинированная нейронная сеть на основе «карга Кохонена» - «сеть обратного распространения»

Разработанная сеть также продемонстрировала большую устойчивость к заигумлению входного сигнала, что может быть применено при решении задач, в которых данный параметр является существенным.

Таблица 2

Количество итераций необходимых для получения ошибки обучения

Обучающая выборка (кол-во значений) Сеть многослойный перцептрон Сеть карта Кохонена -многослойный перцептрон

100 1502 1116

200 950 784

400 874 711

600 801 682

800 850 654

900 700 610

1000 633 598

1100 586 576

1200 565 562

Таблица 3

Устойчивость обученных НС к уровню шума тестовых выборок

Шум % Сеть многослойный перцептрон Сеть карта Кохонена - многослойный перцептрон

0 0.895 0.562

2 2.142 1.856

5 3.48 3.008

8 6.865 5.962

10 10.289 8.947

15 14341 12.942

17 18.259 17.743

20 24.871 24.783

25 30.205 30.104

Полученные результаты позволяют сделать вывод, что применение разработанной комбинированной сети целесообразно в случаях малых размеров обучающих выборок (до 500 значений), что наиболее часто встречается на производственных предприятиях. При этом сеть обучается за

меньшее количество итераций, при больших размерах выборок разница между комбинированной сетью и персептроном нивелируется и ее применение приводит только к дополнительным затратам машинного времени на обучение слоя Кохонена.

Учитывая специфику задачи, предложены критерии оценки качества прогнозирования, позволяющие сократить время обучения НС.

Одним из критериев предлагается использовать количество ошибок на обучающей выборке

«)=£/(/>,,Г,) 0)

«

где Б, - вектор выходных значений обучающей выборки, Уч - вектор выходных значений, полученных в результате работы нейронной сети , Значение функции I равно 1 если (0,5 - уО<е&(у)# + 0,5) < е

1 Чем меньше количество ошибок, тем более качественный прогноз дает

нейронная сеть.

Второй критерий - количество (процент) угаданных знаков.

Рг--¿^Ры-АХ^-г,)) (2)

9 м>

гдеР =1 если >0 или ((Д+1 -Д) = о)Л((Гн1 -Г,) = 0)

Введены нормирующие коэффициенты на основе экспертных оценок.

Выявлены основные аспекты обучения НС, которые приводят к значительным затратам времени. Сформулированы возможные способы повышения эффективности работы НС:

предварительная обработка входных данных (нормирование, центрирование, понижение размерности входов путем отбора наиболее информативных признаков или путем анализа главных компонент);

- разработка эффективного функционала ошибки нейронов и суммарной ошибки нейронной сети;

- разработка новых и усовершенствование существующих « аш оритмов обучения нейронных сетей;

оптимизация размеров нейронной сети, применение комбинированных и гибридных схем (применение генетических * аш оритмов, нечеткой математики, теории хаоса);

распараллеливание процессов обучения сложных сетей.

В третьей главе диссертационной работы описана методика краткосрочного прогнозирования объемов производства, основанная на применении аппарата НС. Методика состоит из пяти этапов, содержит рекомендации по применению и позволяет решать задачу прогнозирования на основе совместной обработки нескольких влияющих друг на друга временных рядов, не накладывая никаких ограничений на их характер. Алгоритм методики представлен на рис.4.

Для анализа данных на производственном предприятии используется нелинейно-динамический подход (теория хаоса), с помощью которого

Определение архитеггуры НС: проста* НС нлм комбинированная НС (рекомендуется, когда количество факторов >2, количество течений аыбтнт < ЗОЛ

Определение структуры НС:

1) количество слоев, рекомендуется-3

2) жолачеспо входных неировоа, рекомендуется ровным количеству дотнх ва входе

3) количество выходных яеРроно», рекомендуется равным количеству прогнозируемых переменных

4) количество вейрояов в скр ,тшх смяк, не меньше (2в+1),

число цеЬронов ■ выходном слое

Определение алгоритма обучения НС. -V-

Определение параметров обучения (скорость обучения, количество ошибок ш тестовой выборке, количество угадвшых * тестовой выборке, преде* средоеквадрпмческой ошибки)

4. Обучение НС.

- у

Фориирокание лодшгожеств обучающих примеров (ибушици, тестовое, контрольное множества}. Обучение НС

Проверка на контрольном множестве. Результат Нет

устраивает

Да

Провеса на тестовом множестве. Результат " Нет

устрашает

5. Получение прогноза на реальны! данных

-ф-

Рис.4 Алгоритм методики прогнозирования объемов производства

показано, что временные ряды производственных показателей деятельности предприятия предсказуемы. Предлагается следующий алгоритм исследований: построение фазового портрета; восстановление аттрактора по временному ряду; вычисление корреляционного интеграла; вычисление

корреляционной (фрактальной) размерности аттрактора; вычисление корреляционной энтропии; вычисление характеристических показателей Ляпунова.

На рис.5 представлены результаты исследования стохастических характеристик динамики спроса на профилированный лист. Величина показателя Херста (Н) = 0,72 свидетельствует о том, что ряд является персистентным, т.е. за периодами роста (падения) случайной величины следуют в основном периоды дальнейшего роста (падения).

Анализ восстановленных «странных аттракторов» спроса на продукцию позволил выделить области притяжения и формирования спроса, а рассчитанная фрактальная размерность (В) - определить минимальное количество переменных, необходимых для моделирования. Так для спроса на профилированный лист Б = 2,379 означает, что смоделировать динамику спроса можно с помощью трех переменных. Таким образом, решена задача определения количества переменных (факторов) для моделирования сложных динамических систем.

Оценка т по автокорреляционной функции. Спектраььный анализ автокорреляционно» фуикци

С

1м

Время задержки т » 22 декады Бремя задержки т™ пика 313 декад

Оценка показателя Херста д?я спроса: ¡о^(Я/5)=Д *(Ъ>£(А) + Н — экспонента Херста, показывает, являются ли данные персистентными (Н > 0.5), или наоборот (Н < 0.5) или хаоса нет (Н - 0.5).

Рис. 5. Исследования стохастических характеристик динамики спроса на профилированный лист

Показана необходимость предварительной нормализации (стандартизации) входных и выходных данных. Предложена в общем виде нелинейная функция нормализации входных данных, на основе функции активации нейронов:

/И-П^г" р)

Полученная функция нормирует основную массу данных, одновременно гарантируя что х1 е [—Ъ,Ъ\. В частности при Ь=1 гарантируя что % е [-1Д] •

Получены гистограммы, характеризующие распределение значений ряда спроса на профлист в диапазоне [-1;1] после нормировки различными способами. Из гистограмм следует, что в исследуемом случае лучше воспользоваться нелинейной нормировкой или нормироркой на основе статистического ряда, где распределение гораздо ближе к равномерному (Рис.6).

В результате исследования методов стандартизации предложен алгоритм выбора метода стандартизации, учитывающий плотность заполнения входными данными единичного интервала и функцию активации нейронов выходного слоя НС.

Линейная нормировка Нормировка на основе Нелинейная нормировка,

статистических характеристик ряда с изменяемым видом нелинейности

Рис. 6. Результаты различных способов нормировки спроса

Сильной стороной нейроанализа является возможность получения предсказаний при минимуме априорных знаний. Успешность и скорость обучения нейронной сети напрямую связаны с отсутствием в обучающей выборке избыточных данных, что связано с необходимостью определения минимальной глубины исторической выборки, представляющей число значений по каждому входному фактору, которые входят в состав одного обучающего примера. Аналитически решить данную задачу не представляется возможным, поэтому предлагается применять приближенное оценивание значения глубины исторической выборки на основе графиков автокорреляционных функций входных факторов.

Автокорреляционная функция характеризует связь между сечениями случайного процесса и записывается как

Кх(Ь)Хк) = Кх(М2) = ВД-Ъ) = Кх(Д1). (4)

Значение корреляционной функции представляет собой коэффициент корреляции между сечениями случайного процесса, отстоящими друг от

друга на время АЬ Значения автокорреляционной функции рассчитываются по формуле:

я \/

щд/) = -±а--Р;

Я-Д/-1

где п-общее число наблюдений; Д1 - расстояние между сечениями.

Определение глубины исторической выборки осуществляется путем определения на основе построенных графиков интервала времени, по прошествии которого влияние предшествующих значений на текущее становится слабо выраженным или незначимым.

Так из графика автокорреляции спроса на профилированный лист получили, что наибольшее влияние на текущее состояние оказываю! предыдущие 20-25 значений (то есть данные за 2 предыдущих года).

В работе отмечено отсутствие на сегодняшний день нет алгоритма или метода, позволяющего дать однозначный ответ на вопрос оптимального определения структуры НС. При этом даны рекомендации по выбору структуры и выделены шаги, которые следует предпринять, если по каким-либо причинам НС не удается обучить, а именно:

- убедиться в том, что требуемые выходы сети находятся внутри диапазона изменения значений функции активации, т.е. функция способна генерировать желаемое.

- уменьшить значение коэффициента скорости обучения (в некоторых случаях оно может быть уменьшено до 0.01)

- увеличить/уменьшить число нейронов в скрытых слоях

- увеличить число скрытых слоев

- изменить диапазон случайных значений, инициализирующих веса линий связи.

Предложенная методика обеспечивает возможность ее использования широким кругом предприятий, сталкивающихся с необходимостью учета неформализуемых зависимостей при прогнозировании на производстве.

В четвертой главе описаны эксперименты, проведенные на реальных данных. Проведены исследования по прогнозированию объемов спроса на профилированный лист по данным ООО «Стальные конструкции -Профлист» за 2001-2005 г.. В таблице 5 приведены количественные данные по результатам прогнозирования. На рис. 7 графики результатов прогнозов.

Из таблицы и из графиков следует, что комбинированная НС показала лучшие по сравнению с другими моделями результаты при краткосрочном прогнозе. Данные на 1-2 декады спрогнозированы с минимальной ошибкой, не более 4 %, а ошибка прогноза на 3 декаду не превысила 15 %, в то время как модель авторегрессии, не учитывающая влияние факторов, и двухфакторная модель регрессии показали значительно худшие результаты. С увеличением количества прогнозируемых отсчетов точность прогноза НС заметно снижается, как и в случае методов регрессии, что и следовало ожидать при условии малых обучающих выборок.

При исследовании результатов прогнозирования радов с возрастающим трендом, например, закупочной цены на сталь, для последних

10 значений были взяты данные за последние 4 года. Для комбинированной сети в качестве факторных признаков учитывали: курс доллара, среднероссийская цена продажи профилированного листа. Простая и комбинированная НС более точно предсказали знак изменения цены по сравнению с классическими методами, однако комбинированная НС имеет большую ошибку по сравнению с простой НС. Это можно объяснить явно выраженным возрастающим трендом цены и влияющие факторы, в данном случае, оказали влияние шума, а не вспомогательной информации (рис.8). При этом средняя ошибка прогноза по методу многофакторной регрессионной модели получилась в 1,5 раза выше чем с использованием комбинированной НС; а процент угаданных знаков получился в 2,3 раза ниже, чем при использовании комбинированной НС.

Таблица 5

Количество отсчетов врошоза Значение спроса фактачес кое. т Результат прогнозирования агтерегрееснониой модели Результат прогнозирования двухфакториой регрессионной модели Результат прогвознрования яе&роеетевой модели

Значение спроса, т Ошибка, т, Значение спроса, т Ошибка, т. Значение спроса, т Ошибка, г,

1 1290 1450,89 -160,89 1425,50 -135,50 1247,11 42,89

2 1391 1470,85 -79,85 1453,20 -62^0 1346,42 44,58

3 1126 1461,80 -335ДО 1442,00 -316,00 1298,65 -172^5

4 1206 1461,18 -255,18 1440,23 -234,23 1384,78 -178,78

5 788 1464,61 -676,61 1156,22 -368,22 1123,98 -335,98

6 716 1462,53 -746,53 1077,02 -361 да 1002,17 -286,17

»■и ДНИ.-■-в

—»

аж — ----

— №дмымекр*гресе«м К МвдмьНС

Ряс. 7. Результаты прогнозов спроса на профилированный лист для последних б значений

Рис. 8. Результаты прогнозирования закупочных цен на сталь для последних 10 значений ряда

Предложена общая схема планирования производства, включающая САП как подсистему АСУП (рис.9). Построена прогнозирующая подсистема на основе предложенной архитектуры нейросети, являющаяся частью АСУП ООО «Стальные конструкции - Профлист». Система предусматривает возможность добавления влияющих факторов как непосредственно из базы данных и ^ЕВ-серверов, так и путем ручного ввода.

Проведенные эксперименты подтвердили эффективность методики в целом, позволившей обеспечить точность прогноза на уровне 57-70% в наиболее неблагоприятных условиях. Внедрение прогнозирующей

подсистемы на ООО «Стальные конструкции - Профлист» позволило сократить время на этап прогнозирования в 2 - 2,5 раза, обеспечив оператиьность получения необходимые для планирования производственного процесса данных.

Система прогнозирования (САП)

Бизнес-планирование

-.....1Е-~~

Система планирования

Укрупненный план —к Уточненный план

продаж V— —✓ продаж

1 с

Укрупненный опав Д—1 1—N Уточненный план

производства -V производства

П с

Укрупненный алан Л-1 Уточненный план

закусок сырья закупок сырья

Уточненный план производства

/I

Рис.9 Схема планирования производства после внедрения САП

В заключении обобщены итоги и результаты проведенных исследований.

В приложении приведены блок-схемы алгоритмов, рассмотрены математические основы исследуемых в работе методов анализа данных, анализа временных рядов и теории хаоса,

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. Проведен критический анализ классических алгоритмов и методов прогнозирования, позволивший выявить ряд существенных ограничений и недостатков их применения в АСУП. Показана актуальность проведения исследований, связанных с применением для прогнозирования таких современных методов, как нейронные сети и теория динамических систем.

2. Показана эффективность применения простых НС для прогнозирования объемов производства. Предложены и нормированы критерии оценки качества прогнозирования, позволяющие сократить время обучения НС.

3. Предложена комбинированная нейронная сеть на базе «Карта Кохонена» - «многослойный перцептрон» для решения многофакторных задач, позволяющая повысить эффективность работы НС. Проведен сравнительный анализ комбинированной и простой нейронной сети, определены условия применения данной архитектуры.

4. Разработана методика прогнозирования объемов производства промышленного предприятия, использующая преимущества методов прогнозирования на базе нейронных сетей, а для анализа данных -

преимущества теории хаоса. Предложены практические рекомендации по ее применению. С помощью теории хаоса показано, что временные ряды производственных показателей деятельности предприятия предсказуемы.

5. Разработана подсистема прогнозирования объемов производства в составе АСУ промышленного предприятия с использованием аппарата НС.

СПИСОК ПУБЛИКАЦИЙ

1. Прахова М.В. Использование нейронных сетей при решении задач финансовой деятельности // Информационная среда ВУЗа. Сборник статей IX МНТК - Иваново, 2002 - Т.1 - С .402-404

2. Прахова М.В. Применение нейронных сетей с обратным распространением ошибки для задач финансового прогнозирования // Управление и информационные технологии. Сборник докладов Всероссийской научной конференции -Санкт-Петербург, 2003-Т. 1-С.270-274

3. Прахова М.В., Суконщиков A.A. Экономико-математическое моделирование. Применение нейронных сетей с обратным распространением ошибки для задач прогнозирования // Повышение эффективности теплообменных процессов и сисхем. Материалы МНТК - Вологда, 2004, с. 101-105

4. Прахова М.В. Прогнозирование на основе нейрокомпьютерных технологий // Методы и системы обработки информации. Сборник научных статей - Москва, 2004 - 4.2 - С.67-72

5. Прахова М.В. Применение нейронных сетей с обратным распространением ошибки для задач прогнозирования на производстве // Информационные технологии в образовании, технике и медицине. Материалы международной конференции - Волгоград, 2004 - Т.2 - С.239-241

6. Прахова М.В. Общая методика решения задач финансового прогнозирования с использованием алгоритма обратного распространения ошибки // Применение новых технологий в образовании. Материалы XV международной" конференции -Троицк, 2004 -С.413-416

7. Прахова М.В., Суконщиков A.A. Система прогнозирования с помощью аппарата нейронных сетей // Актуальные проблемы экономики и управления: Теория и практика. Материалы НТК. - Вологда: СЗАГСД005. С.90-95.

8. Прахова М.В., Суконщиков АЛ., Общая методика решения задачи прогнозирования с использованием аппарата нейронных сетей // Образование, наука, бизнес. Особенности регионального развития и интеграции. Сборник трудов Всероссийской научно-практической конференции — Череповец, 2005 -С 301-305

9. Прахова М.В., Эффективность использования комбинированных схем при прогнозировании спроса на производственном предприятии'/ SMC 2005 Международная конференция по мягким вычислениям и измерениям - Санкт-Петербург, 2005 - С.202-204

10. Прахова М.В., Суконщиков A.A., Модели и методы прогнозирования состояния производственного предприятия на основе нейронных сетей // Информатизация процессов формирования открытых систем на основе СУБД, САПРДСНИ и систем искусственного интеллекта: Материалы 3-й МНТК. -Вологда: ВоГТУ, 2005 - С.145-148.

Подписано в печать 8.2.2006 г. Формат 60x84 1/16, Усл. Печ. Лист1,5 Тираж 100 экз. Заказ № 137 Отпечатано «АллА Принт» Тел.: (095) 955-19-31 Факс: (095) 955-19-31 _www.allaprmt.ru_

332S

ВВЕДЕНИЕ.

ГЛАВА 1. АНАЛИТИЧЕСКИЙ ОБЗОР МОДЕЛЕЙ И МЕТОДОВ ПРОГНОЗИРОВАНИЯ.

1.1. Анализ и классификация видов прогнозов и методов прогнозирования.

1.2. Анализ математических основ прогнозирования.

1.3. Анализ временных рядов.

1.4. Анализ моделей стационарных временных рядов.

1.5. Анализ моделей нестационарных временных рядов.

1.6. Прогнозирование производственных показателей на основе моделей временных рядов.

1.7. Анализ метода группового учета аргументов (МГУА).

1.8. Проблемы прогнозирования с использованием структурных моделей.

1.9. Прогнозирование с использованием нейронных сетей и генетических алгоритмов.

1.10. Постановка задачи исследования.

ГЛАВА 2. ПРОГНОЗИРОВАНИЕ ВРЕМЕННЫХ РЯДОВ НА ОСНОВЕ НЕЙРОКОМПЬЮТЕРНЫХ ТЕХНОЛОГИЙ.

2.1. Математическая постановка задачи прогнозирования.

2.2. Классификация нейронных сетей, сравнительный анализ существующих методов и алгоритмов обучения нейронных сетей.

2.3. Комбинированная нейронная сеть «многослойный перцептрон» - «карта Кохонена».

2.4. Анализ эффективности использования простых нейронных сетей для прогнозирования спроса на продукцию.

2.5. Зависимость времени обучения нейронной сети от количества нейронов в скрытых слоях.

2.6. Анализ эффективности использования комбинированной нейронной сети.

2.7. Критерии оценки качества прогнозирования.

2.8. Задача повышения скорости обучения нейронных сетей.

ГЛАВА 3. МЕТОДИКА РЕШЕНИЯ ЗАДАЧИ ПРОГНОЗИРОВАНИЯ СОСТОЯНИЯ ПРОИЗВОДСТВЕННОГО ПРЕДПРИЯТИЯ.

3.1. Этапы решения задачи прогнозирования.

3.2. Анализ объекта прогнозирования с использованием теории динамических систем.

3.2.1. Основные положения теории хаоса.

3.2.2. Практические исследования стохастических характеристик динамики спроса на профилированный лист.

3.2.3 Построение фазового портрета. Восстановление аттрактора по временному ряду.

3.2.4. Вычисление корреляционного интеграла. Вычисление корреляционной (фрактальной) размерности аттрактора.

3.2.5. Вычисление корреляционной энтропии.

3.3. Выбор состава входных факторов. Предварительная обработка данных.

3.4. Определение параметров модели прогнозирования.

3.4.1. Исключение избыточности данных.

3.4.2. Определение архитектуры и структуры нейронной сети.

3.5. Обучение нейронной сети.

3.5.1. Подготовка данных.

3.5.2. Описание методики одношагового прогнозирования с применением комбинированной нейронной сети.

3.6. Апробация методики.

ГЛАВА 4. СИСТЕМА АВТОМАТИЗИРОВАННОГО ПРОГНОЗИРОВАНИЯ. ОЦЕНКА ПОГРЕШНОСТИ ВЫЧИСЛЕНИЙ В НЕЙРОННЫХ СЕТЯХ.

4.1. Сравнительный анализ существующих систем автоматизированного прогнозирования на основе нейронных сетей. Общие требования к современным САП.

4.2. САП как подсистема АСУП на предприятии ООО «Стальные конструкции -Профлист».

4.3. Сравнительная оценка качества прогнозирования спроса на продукцию классических моделей и нейросетевой модели.

4.4. Эффективность применения нейронных сетей для прогнозирования рядов с выраженным трендом.

4.5 Оценка погрешности многослойного перцептрона в комбинированной нейронной сети.

Современное развитие человека и общества имеет направленность в будущее. Рынок требует от предприятий взвешенного подхода к планированию производственного процесса, к определению необходимых объемов производства продукции, выручки, объемов закупок сырья. Как недопроизводство, так и перепроизводство ведут к недополученным прибылям или потерям, что может привести к краху предприятия. Необходимость оперативного реагирования на конъюнктуру рынка и быстро меняющуюся экономическую ситуацию, стремительный рост объема информации, требующей обработки, неопределенность в поведении производственных систем, возможность использовать современные информационные технологии требуют перестройки внутренней микроэкономики предприятия, постановки управленческого учета, оптимизации процессов управления, что предполагает, прежде всего, процесс прогнозирования. Результаты прогнозирования являются одним из ключевых факторов при принятии управленческих решений на любом предприятии. Системы планирования и управления, обычно, реализуют функцию прогноза. Целью прогнозирования является уменьшение риска при принятии решений. [94] Вот несколько примеров, когда полезно прогнозирование на предприятии:

1. Планирование производства. Для того чтобы планировать производство семейства продуктов, возможно, необходимо спрогнозировать продажу для каждого наименования продукта, на несколько месяцев вперед. Эти прогнозы для конечных продуктов могут быть потом преобразованы в требования к полуфабрикатам, материалам, рабочим и т.д. Таким образом, на основании прогноза может быть построен график работы целой группы предприятий.

2. Прогнозирование также может быть важной частью систем управления технологическими процессами, в том числе АСУТП. Наблюдая ключевые переменные процесса и используя их для предсказания будущего поведения процесса, можно определить оптимальное время и длительность управляющего воздействия.

В общем виде процесс управления во всех сферах деятельности можно представить в виде так называемой «петли управления», включающей циклическую последовательность следующих этапов: прогноз - планирование - контролируемая деятельность по реализации планов - учет и анализ результатов - коррекция прогнозов и планов (рис. 1).

Рис. 1. Обобщенная схема управления

В прогнозировании большое значение имеет выбранный метод или прием. «Прием прогнозирования» - это одна или несколько математических или логических операций, направленных на получение конкретного результата. «Метод прогнозирования» - это способ исследования объекта прогнозирования, направленный на разработку прогноза [50, 95]. «Модель прогнозирования» представляет собой модель исследуемого объекта, записанную в математической форме.

Как следует из анализа методов и приемов прогнозирования, прогноз может быть, как качественным, так и количественным [3]. Методы качественного прогнозирования, такие как метод экспертного оценивания, особенно важны, когда статистические данные за прошедшие периоды времени недоступны и/или ненадежны. Все качественные методы крайне субъективны и подвержены высокой ошибке прогноза. Количественные методы прогнозирования, в том числе основанные на анализе временных рядов, предполагают существенное использование информации за прошедшие периоды времени, что позволяет выяснить основные взаимосвязи между величинами и дать более надежный прогноз на будущее. Если определяются значимые факторы и функциональная или стохастическая зависимость отклика от этих факторов с применением множественного регрессионного анализа, то, как правило, говорят об анализе многомерных временных рядов.

При прогнозировании любого процесса возможно использование двух типов моделей зависимостей: временных и причинных. Причинные зависимости, по сравнению с временными, обеспечивают большую точность и достоверность получаемого прогноза, но, в то же время, требуют тщательного выбора параметров и большего объема вычислений при выявлении зависимостей типа «вход-выход». Учитывая, что многие производственные процессы обладают свойством цикличности при краткосрочном прогнозировании возможно использование временных зависимостей.

Как известно, модели сложных производственных систем, таких как, производственные предприятия, не всегда могут давать однозначные рекомендации или прогноз. Эти модели всегда должны указывать, при достижении каких значений параметров, описывающих систему, или какого определенного момента времени может произойти нечто непредвиденное (непредсказуемое - «катастрофа» [82]). Порой они должны указывать и область непредсказуемости (т. е. область параметров, в которой поведение системы неконтролируемо и/или непредсказуемо). Среди факторов, характеризующих динамику производства и влияющих на нее, есть изрядное количество данных нечисловой природы, значения которых известны только с определенной долей уверенности. Можно выделить различные типы неопределенностей, из которых для анализа важны следующие:

• Связанные с незнанием или неточным знанием некоторых факторов и/или процессов, влияющих на развитие ситуации;

• Связанные с математической несоизмеримостью численных оценок величин, характеризующих динамику системы;

• Связанные с нелинейностью и наличием у системы нескольких состояний равновесия и/или аттракторов;

• Связанные с недостатком или неадекватностью понятийного аппарата и невозможностью отождествления фактов.

Для понимания того, какие же преимущества дают предлагаемые в работе новые модели и методы анализа данных и прогнозирования, необходимо указать на три принципиальные проблемы, возникающие при создании систем поддержки принятия решений и анализа на производстве, автоматизированных систем управления технологическими процессами (АСУТП) и производствами (АСУП).

Первая — это определение необходимых и достаточных параметров для оценки состояния производства, а также выбор критериев эффективности действий. Формализация поведения систем, включающих разнородные компоненты, требует единой метрики описания ситуации.

Вторая проблема заключается в так называемом «проклятье размерности». Желание учесть в модели как можно больше показателей и критериев оценки может привести к тому, что требуемая для ее решения компьютерная система вплотную приблизится к моменту ограничения быстродействия и размеров вычислительного комплекса в зависимости от количества информации, обрабатываемого в единицу времени.

Третья проблема - наличие феномена надсистемности. Взаимодействующие системы образуют надсистему - систему более высокого уровня, обладающую собственными (надсистемными) свойствами, которых не имеет ни одна из составляющих систем. Феномен заключается в принципиальной недостижимости надсистемного отображения и целевых функций с точки зрения систем, входящих в состав надсис-темы.

В связи с широким распространением программных средств принятия решений, также особенную важность представляет разработка методов автоматизированного прогнозирования.

Существенными составными частями современных новых технологий, позволяющих в той или иной степени решать указанные проблемы, являются нейронные сети (НС), генетические алгоритмы, теория динамических систем (теория хаоса, истоки этого направления лежат в работах по синергетике [62] и теории катастроф [112, 113]), нечеткие логики и даже виртуальная реальность, позволяющие в явлениях, на первый взгляд случайных, обнаружить порядок и некоторую структуру. Тот факт, что хаотические модели дают хорошее приближение для временных рядов, говорит о возможности и важности изучения поведения производственных систем как нелинейных динамических систем и является дополнительным аргументом в пользу применения в задачах прогноза различных нелинейных методов, в том числе - нейронных сетей. Считается, что эти методы позволят увеличить глубину прогноза за счет выявления скрытых закономерностей и взаимосвязей среди плохо формализуемых обычными методами макроэкономических, политических и глобальных показателей.

Прогнозирующая система, в настоящее время, все чаще является необходимым блоком (подсистемой) любой АСУП (АСУТП) на производственных предприятиях, результаты которой используются далее подсистемами планирования и управления (рис.1). Прогнозирующая система должна выполняет функцию генерацию прогноза, которая включает получение данных для уточнения модели прогнозирования, проведение прогнозирования, учет мнения экспертов и предоставление результатов прогноза пользователю.

Существуют уже разработанные системы и методики, например, использующие аппарат нечетких логик. Оболочки экспертных систем, поддерживающие работу с нечеткими знаниями, такие, например, как Gold Works, Guru, Nexpert Object with Nextra, Flex, 1 stClass HT. Практически все они используют для генерации правил (после заполнения базы знаний) алгоритм Куинлена ID3. Созданы первые в мире электронные таблицы FuziCalc, способные работать с нечеткими данными. Существуют и достаточно мощные средства разработки приложений, использующих аппарат нечетких логик, - пакеты CubiCalc RTS и CubiCalc 2.0 для Windows фирмы Hyper-Logic.

Завоевали признание и иейросетевые технологии. На сегодняшний день известны и используются такие системы как: Fujitsu (используется в Японии фирмой Nikko Securities); система биржевых прогнозов HNC, работающая в Citibank; а также такие коммерческие продукты для работы на финансовых рынках, как Nestor DLS фирмы Nestor, программы NeuroShell 2 v.3, NeuroWindows v.4.6 и один из наиболее популярных в мире пакетов на основе генетических алгоритмов GeneHunter v. 1.0 и пакет Brain Maker Pro.

Актуальность темы. В условиях резкого увеличения требований к масштабам и темпам развития науки и техники для получения эффективных прибылей на российском рынке (в частности в производстве) становятся актуальными вопросы планирования и принятия решений на основе прогнозирования. Актуальность задач, связанных с прогнозированием состояния предприятия, основана на потребности изучения данных о состоянии предприятия и результатах его деятельности в прошлом с целью оценки будущих условий и результатов деятельности. Прогнозирование позволяет в значительной степени улучшить управление предприятием за счет обеспечения координации всех факторов производства и реализации, взаимосвязи деятельности всех подразделений, и распределения ответственности. Прогнозирующие системы являются частью современных АСУП и АСУТП. В условиях современного развития науки и техники многие классические методы прогнозирования исчерпали свои возможности.

Исследования обусловлены необходимостью внедрения в практику работы профессиональных руководителей, менеджеров, участников рынка методов научного управления, основанного на строгой формализации процедур принятия решений и необходимостью использования на практике новых технологий. Существенными составными частями таких технологий являются нейронные сети и теория динамических систем, или теория хаоса, позволяющая в явлениях, на первый взгляд случайных, обнаружить порядок и некоторую структуру.

В работе исследуется эффективность применения нейронных сетей для прогнозирования объемов производства промышленного предприятия, в частности для прогнозирования спроса на продукцию. Предлагается комбинированная нейронная сеть (НС), позволяющая решить проблемы быстродействия и многофакторности, возникающие при прогнозировании с использованием простых нейронных сетей. Исследуется возможность применения теории хаоса для предварительного анализа данных на производстве. Предлагается методика решения задачи прогнозирования состояния производственного предприятия с использованием аппарата НС.

Объектом исследования являются показатели деятельности и состояния производственного предприятия (спрос на продукцию, объем производства, цены на выпускаемую продукцию).

Цель диссертационных исследований Разработка методики прогнозирования объемов производства на основе аппарата нейронных сетей; создание подсистемы прогнозирования в составе АСУП, позволяющей решать задачу краткосрочного прогнозирования.

Научная задача исследований состоит в разработке усовершенствованной методики решения задачи прогнозирования, используя преимущества методов прогнозирования на базе нейронных сетей и теории хаоса.

Основные задачи исследования.

1. Провести критический анализ проблемы прогнозирования, методов прогнозирования временных рядов, идентификация недостатков. Сформулировать потребность в совершенствовании методик, выявить перспективные направления в области их развития.

2. Исследовать применение искусственных НС для автоматизированного прогнозирования временных рядов. Провести сравнительный анализ известных моделей НС. Провести сравнительный анализ применения простых и предложенных в работе комбинированных НС. Определить ограничения применения комбинированных нейронных сетей для задач прогнозирования. Определить критерии оценки качества прогнозирования

3. Исследовать возможность применения теории хаоса для анализа данных на производственном предприятии.

4. Разработать общую методику решения задачи прогнозирования состояния производственного предприятия, основанную на применении аппарата НС. В рамках методики сформулировать конкретные практические рекомендации по решению рассматриваемого класса задач. Провести экспериментальные исследования.

5. Провести анализ существующих на сегодня систем прогнозирования, выявить основные недостатки, сформулировать общие требования к системам прогнозирования.

6. Создать информационную прогнозирующую систему, опирающуюся на данные производственного предприятия формата 1С.

Информационная база исследования включает данные формата 1С по продажам и производству профилированного листа ООО «Стальные конструкции - Проф-лист» (г.Москва), пиломатериалов ООО «Вологдатара» (г.Вологда).

Методы исследования. Разработки и исследования проводились на основе методов математического анализа, прикладной статистики, теории вероятностей, эконометрики, нечеткой логики, теории хаоса, теории нейронных сетей, технологий модульного и объектно-ориентированного программирования.

Наиболее существенные результаты и Научная новизна

1. Предложена комбинированная нейронная сеть на основе «многослойный перцептрон» - «Карта Кохонена» для решения задачи многофакторного прогнозирования состояния производственного предприятия. Определены ограничения применения данной архитектуры комбинированной НС для задач прогнозирования.

2. Разработана общая методика решения задачи прогнозирования состояния производственного предприятия па основе аппарата НС, определены ее основные этапы, сформулированы рекомендации по ее применению.

3. Предложено использовать теорию хаоса для анализа данных на производственном предприятии, с помощью которой показано, что временные ряды производственных показателей деятельности предприятия предсказуемы.

4. Предложены и нормированы критерии оценки качества прогнозирования, позволяющие сократить время обучения НС.

Практическая значимость исследования заключается в разработанной методики, позволяющей получать нейросетевые модели прогнозирования и обеспечивающей возможность их использования широким кругом организаций. Создавать на основе этих моделей прогнозирующие подсистемы в составе АСУП. Для решения многофакторных задач предложена комбинированная модель НС на основе «многослойный перцептрон»-«карта Кохонена», позволяющая сократить время обучения НС.

Структура диссертационной работы. Работа состоит из введения, четырех разделов, списка используемых источников, заключения и приложений.

Основные результаты диссертационной работы состоят в следующем.

1. Обобщены и систематизированы методы и модели прогнозирования. Проведен критический анализ алгоритмов и методов прогнозирования, позволивший выявить ряд существенных ограничений и недостатков при применении в АСУП. Показано, что в рамках традиционных методов прогнозирования значительных улучшений качества прогноза достигнуть очень сложно.

2. Проведен сравнительный анализ существующих архитектур и алгоритмов обучения нейронных сетей. Показана эффективность применения простых нейронных сетей для прогнозирования объемов производства предприятия. Проведена сравнительная оценка классических моделей прогнозирования с моделями на нейронных сетях. Так для спроса на профилированный лист средняя ошибка прогноза по методу многофакторной регрессионной модели составила - 178,43, а средняя ошибка прогноза с использованием нейросетевой модели - 135,24.

3. В результате вычислительных экспериментов найдены оптимальные структуры простых нейронных сетей типа «многослойный перцептрон» для исследуемых временных рядов. Сделана сравнительная оценка различных типов НС. Показано, что ключевыми моментами для повышения качества предсказаний является эффективная стандартизация входной информации и задание начальных весовых коэффициентов нейронов сети.

4. Для многофакторного прогнозирования на производственном предприятии и применения в САП как подсистеме АСУП предложена комбинированная нейронная сеть на базе «Карта Кохонена» - «многослойный перцептрон». Проведен сравнительный анализ комбинированной и простой нейронной сети, введены критерии и условия наиболее эффективной применимости предложенных архитектур.

5. Предложены и нормированы критерии оценки качества прогнозирования, позволяющие сократить время обучения НС.

6. Разработана методика прогнозирования объемов производства промышленного предприятия, используя преимущества методов прогнозирования на базе нейронных сетей, а для анализа данных - преимущества теории хаоса.

7. Используя теорию динамических систем, показано, что временные ряды производственных показателей деятельности предприятия предсказуемы.

8. Разработана и предложена общая схема планирования производства, включающая САП как подсистему АСУП, внедрение которой на ООО «Стальные конструкции - Профлист» позволило сократить время на этап прогнозирования в 2 - 2,5 раза, позволив быстро и оперативно получать необходимые для планирования производственного процесса данные

Полученные результаты позволят в значительной степени повысить качество прогнозирования объемов производства на промышленном предприятии.

ЗАКЛЮЧЕНИЕ

1. Абовский Н.П. и др. Разработка практического метода нейросетевого прогнозирования. //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб. докл., 2002. С. 1089 - 1097.

2. Авеньян Э.Д. Алгоритмы настройки многослойных нейронных сетей./Мвтоматика и телемеханика-1995-N 5. С.106-118.

3. Айвазян С.А., Мхитарян B.C. Практикум по прикладной статистике и эконометрике: Учебн. пособие.- М.: МГУ Экономию! и Информатики. 1998. -159 с.

4. Акушский ИЛ. Машинная арифметика в остаточных классах. — М: Советское радио, 1968. 440 с.

5. Алексеев В.И., Максимов A.B. Использование нейронных сетей с двухмерными слоями для распознавания образов//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение »: Сб. докл., 2002. С. 69-72.

6. Амербаев В.М. Теоретические основы машинной арифметики. — Алма-Ата: Наука КазССР, 1976. 324 с.

7. Анализ временных рядов // http://www.inst.rubtsovsk.ru/textbook/ modules/sttimser.html

8. Андерсон Т. Статистический анализ временных рядов. — М.: Наука, 1976.

9. Аргуткина H.JI. О совершенствовании методов прогнозирования, основанных на экспоненциальном сглаживании. Конф. Маркетологов ВНПК «Прогнозирование» Режим доступа http://www.marketing.spb.ru/conf 10.04.2001.

10. Аркин В. И, Евстигнеев И.В. Вероятностные модели управления экономической динамики. -М.: Наука, 1979. 176с.

11. Рязан. гос. радиотехн. акад., 2001. С. 182-184.

12. Ашманов С.А. Математические модели и методы в экономике. М.: Изд. МГУ, 1981.-158 с.

13. Барский А.Б. Обучение нейросети методом трассировки //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб. докл., 2002. С. 862 - 898.

14. Батищев Д.И. Генетические алгоритмы решения экстремальных задач. // Воронеж: ВГУ, 1994. 135 с.

15. Белим C.B. Математическое моделирование квантового нейрона//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб.докл., 2002. С. 899 - 900.

16. Берже П., Помо И., Видаль К. Порядок в хаосе. О детерминированном подходе к турбулентности: Пер. с франц. -М.: Мир, 1998. 398 с.

17. Билл Вильяме Торговый Хаос М.: ИК Аналитика, 2000. - 328 с. Режим доступа http://yamdex.narod.nj/books/Williams/Tradxaos/CcbmKH.htm.

18. Бирман Э.Г. Сравнительный анализ методов прогнозирования //НТИ. Сер.2 1986. -№1. -С. 11-16.

19. Бодянский Е.В., Кучеренко Е.И. Диагностика и прогнозирование временных рядов многослойной радиально-базисной нейронной сети //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб. докл., 2002. С. 69-72.

20. Бокс Дж., Дженкинс Г. Анализ временных рядов прогнозирование и управление. Пер. с англ. А.Л.Левшина. М.: Мир, 1974. - 362 с.

21. Болн Б., Хуань К. Дж. Многомерные статистические методы для экономики. М.: Наука, 1979. - 348 с.

22. Большаков П.С. Прогнозирование индекса реального объема сельскохозяйственного производства в Российской Федерации в системе STATISTICA 6 // http://www.statsoft.ru/home/portal/applications/ForecastingAdvisor/1. Examples/Example2.htm

23. Большев JI.H., Смирнов H.B. Таблицы математической статистики. М.: Наука, 1965.-35 с.

24. Боярский А.Я., и др. Математическая статистика для экономистов. М.: Статистика, 1979. -253 с.

25. Бурдо А.И., Тихонов Э.Е. К вопросу систематизации методов и алгоритмов прогнозирования//Материалы межрегиональной конференции "Студенческая наука- экономике научно-технического прогресса". Ставрополь: СевКав ГТУ, 2001. С. 33 - 34.

26. Бутенко A.A. и др. Обучение нейронной сети при помощи алгоритма фильтра Калмана. //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение »: Сб. докл., 2002. С. 1120 - 1125.

27. Бухштаб A.A. Теория чисел. М.: Государственное учебно-методическое издательство мин. Просвящения РСФСР, 1960. - 375 с.

28. Бытачевский Е.А., Козуб В.В. Использование нейронных сетей для распознавания визуальных образов//Материалы IV РНТ конференции «Вузовская наука Северо-Кавказскому региону» Ставрополь, 2000. - С. 52-54.

29. Васильев В.И. Распознающие системы. Киев: Навукова думка, - 1969.354 с.

30. Виноградов И.М. Основы теории чисел. М.: Издательство «Наука», Гл. ред. физ.-мат.лит., 1965.- 173 с.

31. Владимирова Л.П. Прогнозирование и планирование в условиях рынка: Учебное пособие. М.: Издательский дом «Дашков и К», 2000. - 308 с.

32. Вороновский Г.К., и др. Генетические алгоритмы, нейронные сети и проблемы виртуальной реальности. X.: ОСНОВА, 1997. - 112 с.

33. Гаврилов A.B. Комбинированная модель нейронной сети на основе моделей перцептрона и ART-2, Материалы XIII Всеросс. семинара «Нейроинформатика и её приложения», Красноярск, 2004. http://ermak.cs.nstu.ru/ ~avg/Articles/Kras2004.pdf.

34. Галушкин А.И. Теория нейронных сетей. Кн. 1: Учеб. Пособие для вузов. -М.: ИПРЖР, 2001.-385 с.:ил.

35. Гвишиани Д.М., Лисичкин В.А. Прогностика. -М., «Знание», 1968. 421 с.

36. Гельфан И.М., Фомин СВ. Вариационное исчисление.- М.:Мир, 1961. 321 с.

37. Генетические алгоритмы. Режим доступа http://www.iki.rssi.ru/ehips /genetic.htm 29.08.2002.

38. Генетические алгоритмы и машинное обучение. Режим доступа http://www.math.tsu.ru/russian/center/aigroup/aicollection/docs/faqs/ai/part5/ faq3.html 29.08.2002.

39. Генетические алгоритмы обучения. Режим доступа http://www.hamovniki.net/~alchemist/NN/DATA/Gonchar/Main.htm 29.08.2002.

40. Гладыщевский А.И. Методы и модели отраслевого экономического прогнозирования. -М.: «Экономика», 1997. 143 с.

41. Гласе Л., Мэки М. От часов к хаосу: ритмы жизни. М.: Мир, 1991. - 153с.

42. Глущенко В.В. Прогнозирование. 3-е издание. — М.: Вузовская книга, 2000. -208 с.

43. Голованова Н.Б., Кривов Ю.Г. Методические вопросы использования межотраслевого баланса в прогнозных расчетах//Взаимосвязи НТП и экономического развития: Сб.науч.тр./АН СССР. СО, ИЭиОПП. Новосибирск, 1987.-С. 62-77.

44. Головко В.А. Нейронные сети: обучение, организация и применение. Кн.4:Учеб.пособие для вузов/Юбщая ред. А.И. Галушкина. М.: ИПРЖР, 2001.-256 с.

45. Горбань А.Н. Обучение нейронных сетей.//М.:СП"ПараГраф", 1990, 160с.

46. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука (Сиб. отделение), 1996., 276 с.

47. Горбань А.Н., Сенашова М.Ю. Погрешности в нейронных сетях// Вычислительный центр СО РАН в г.Красноярске. Красноярск, 1997. 38 е., библиогр. 8 назв. (Рукопись деп. в ВИНИТИ, 25.07.97, №2509-В97)

48. Горелик Е.С. и др. Об одном подходе к задаче формализации процесса прогнозирования //Автоматика и телемеханика. 1987. - №2. - С. 129-136.

49. Гренандер У. Случайные процессы и статистические выводы, (пер. с нем.) ИЛ. 1961.-167с.

50. Гренджер К., Хатанака М. Спектральный анализ временных рядов в экономике. Пер.с англ. М.: Статистика., 1972. - 312 с.

51. Грень Е. Статистические игры и их применение. М.: Наука, 1975.

52. Гусак А.Н. и др. Подход к послойному обучению нейронной сети прямого распространения//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб.докл., 2002. С. 931 - 933.

53. Давидович Б.Я. и др. Методы прогнозирования спроса. М., 1972. -193с.

54. Добров Г.М., Ершов Ю.В. и др. Экспертные оценки в научно-техническом прогнозировании Киев: Наукова Думка, 1974. - 159 с.

55. Егорова Н.Е., Мудунов A.C. Применение моделей и методов прогнозирования спроса на продукцию сферы услуг. М., ЦЭМИ РАН, 2000.

56. Еремин Д.М. Система управления с применением нейронных сетейШриборы и системы. Управление, контроль, диагностика. — 2001. №9 -С. 811.

57. Заенцев И.В. Нейронные сети: основные модели//Учебное пособие к курсу «Нейронные сети» Воронеж: ВГУ, 1999. - 76 с.

58. Зайкин B.C. Применение простых цепей Маркова для прогнозирования расходов населения/ТПроблемы моделирования народного хозяйства, 4IV. Новосибирск, 1973. С. 45 -47.

59. Занг В.Б. Синергитическая экономика. Время и перемены в нелинейной экономической теории. М.: Мир, 1999. - 216с.

60. Ибираимова Т.Б. Прогнозирование тенденций финансовых рынков с помощью нейронных сетей//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб.докл., 2002 г. — С. 745 755.

61. Иванов А.И. Быстрое обучение искусственных нейронных сетей в системах биометрической аутентификации // Пенза, Научно-техническая конференция «Безопасность информационных технологий», 2004 http://beda.stup.ac.ru/rv-conf.

62. Иванов М.Н. Анализ роста курса акций с применением нейронных сетей.//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение» Сб.докл., 2002 г. С. 756 - 772.

63. Ивахненко А.Г. Долгосрочное прогнозирование и управление сложнымисистемами. Киев: Наукова думка, 1975. - 340 с.

64. Ивахненко А.Г., Лапа Р.Г., Предсказание случайных процессов. Киев: Наукова думка, 1971.-416с.

65. Ивахненко А.Г., Степаненко B.C. Особенности применения метода группового учета аргументов в задачах прогнозирования случайных процес-сов//Автоматика. -1986. -№5. С. 3-14.

66. Итоги науки и техники: физические и математические модели нейронных сетей, том 1, М., изд. ВИНИТИ, 1990.

67. Короткий С. Нейронные сети: алгоритм обратного распространения // http://www.neuropower.de/rus/books/index.html

68. Короткий С. Нейронные сети: обучение без учителя // http:// www.neuropower.de/rus/books/index.html

69. Короткий С. Нейронные сети: основные положения // http:// www.neuropower.de/rus/books/index.html

70. Крисилов В.А., Олешко Д.Н., Лобода A.B. Методы ускорения нейронных сетей.// Вестник СевГТУ. Информатика, электроника, связь, Вып. 32, 2001, с. 19

71. Круглов В.В., Борисов В.В„ Искусственные нейронные сети. Теория и практика. М.: Горячая линия-Телеком, 2000 г. с.384.

72. Лебедев В.В. Математическое моделирование социально-экономических процессов.-М.: «Изограф», 1997.

73. Лекции по теории и приложениям искусственных нейронных сетей. Режим доступа http://alife.narod.ru/lectures/neural/Neuch01.htm.

74. Лекции по нейронным сетям и генетическим алгоритмам. Режим доступа http://infoart.baku.az/inews/30000007.htm29.08.2002.

75. Лисицкий Л. А. Автоматизированные системы прогнозирования Л.А. Лисицкий, Г.Л. Яковлева Саратов. : Изд-во Сарат. ун-та , 2003 (Тип. изд-ва

76. Сарат. ун-та 170, 1. с.ил.

77. Логовский A.C. Зарубежные нейропакеты: современное состояние и сравнительные характеристики // Нейрокомпьютер. 1998 - №1-2

78. Мазманова Б.Г. Методические вопросы прогнозирования сбыта // http://www.antax.ru/doc/articles/metodicheskie vopr.htm

79. Минаев Ю.Н., Филимонова О.Ю., Лиес Бенамеур Методы и алгоритмы идентификации и прогнозирования в условиях неопределенности в нейросетевом логическом базисе М. : Горячая линия - Телеком, 2003 г. - 205 с.

80. Назаров А. В., Лоскутов А.И. Нейросетевые алгоритмы прогнозирования и оптимизации систем СПб. : Наука и Техника , 2003 384 с.ил.

81. Нейронные сети. STATISTICA Neural Networks. М.: Горячая линия-Телеком, 2000 г. - 182 е.

82. Нейроинформатика и ее приложения // Материалы 3 Всероссийского семинара, 6-8 октября 1995 г. Ч. 1 /Под редакцией А.Н.Горбаня. Отв. за выпуск Г.М.Цибульский; Красноярск: изд. КГТУ. 1995. - 229 с.

83. Прахова М.В. Использование нейронных сетей при решении задач финансовой деятельности // Информационная среда ВУЗа. Сборник статей IX Международной научно-технической конференции Иваново, 2002 - Т.1 - С.402-404

84. Прахова М.В. Применение нейронных сетей с обратным распространением ошибки для задач финансового прогнозирования // Управление и информационные технологии. Сборник докладов Всероссийской научной конференции Санкт-Петербург, 2003 - Т.1 - С.270-274

85. Прахова М.В., Суконщиков A.A. Экономическое прогнозирование на основе нейрокомпыотерных технологий // Методы и системы обработки информации. Сборник научных статей М., 2004 - 4.2 - С.67-72

86. Прахова М.В. Применение нейронных сетей с обратным распространением ошибки для задач финансового прогнозирования //

87. Информационные технологии в образовании, технике и медицине. Материалы международной конференции -Волгоград, 2004 Т.2 - С.239-241

88. Прахова М.В. Общая методика решения задач финансового прогнозирования с использованием алгоритма обратного распространения ошибки // Применение новых технологий в образовании. Материалы XV международной конференции -Троицк, 2004 -С.413-416

89. Прахова М.В., Суконщиков А.А, Система прогнозирования с помощью аппарата нейронных сетей // Актуальные проблемы экономики и управления: Теория и практика. Материалы НТК. Вологда: СЗАГС,2005. С.90-95.

90. Прогнозирование на основе аппарата нейронных сетей. 2004. Режим доступа http://artamonov.temator.rU/cont/890/l .Ь1ш1.

91. Прогностика. Терминология, вып. 92. — М.: «Наука», 1978. Режим доступа http://www.icc.jamal.ru/library/koi/POLITOLOG/bunchuk.txt 10.04.2001.

92. Родионов П.Е. Краткосрочное прогнозирование котировок ОГВВЗ с использованием аппарата нейронных сетей // Интеллектуальные технологии и системы,-{М.), 1998. Вып. 1. - С.231-245

93. Родионов П.Е. Классификация существующих парадигм нейронных сетей // Материалы 42 научно-технической конференции преподавателей, сотрудников и аспирантов МГУП. -М., 2002. С.29-30

94. Рогов М. А. Синтез теории хаоса и нейроматематики в портфельном риск-менеджменте и перспективы синергетического подхода. // http://www.hedging.ru/ риЬНсайопзЛ^азз/агйск/

95. Розенблатг Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга. -М.: Мир, 1965, 480 с.

96. Саати М.А. Моделирование сложных систем. М.: Наука, 1993, 193 с.

97. Сайт "Курс статистики", раздел "Нейронные сети": http://www.statsoft.ru/home/textbook/modules/stneunet.html.

98. Сотник С. Курс лекций по предмету «Основы проектирования систем с искусственным интеллектом» // http:// www.neuropower.de /rus/books/index.html

99. Субботин С.А. О сравнении нейросетевых моделей, 2003 // http://zhukov.wallst.ru/neu2003/subbotin.htm

100. Тарасенко P.A., Крисилов В.А. Предварительная оценка качества обучающей выборки для нейронных сетей в задачах прогнозирования временных рядов. //Труды Одесского политехнического университета, Вып.1 (13). 2001, с. 90

101. Тейксейра Стив, Пачеко Ксавье. Borland Delphi 6. Руководство разработчика. М.: Издательский дом «Вильяме», 2002, 1120 с.

102. Теория хаоса // http://forex.ua/ta/haos.shtml

103. Терехов В.А., Ефимов Д.В., Тюкин И.Ю., Нейросетевые системы управления М. : Высшая школа, 2002 г., с. 184

104. Терехов В.А. Динамические алгоритмы обучения многослойных нейронных сетей в системах управления // Изв. РАН. Сер.Теория и системы управления, 1996, №3, с.70-79

105. Тихонов Э.Е. Методы и алгоритмы прогнозирования экономических показателей на базе нейронных сетей и модулярной арифметики. Дисс. канд. техн. наук. Ставрополь, 2003, 139 с.

106. Уоссермен Ф., Нейрокомпьютерная техника М.,Мир, 1992.

107. Учебник по имитационному моделированию экономических процессов. //http://glspro.narod.ru/teach/index.html

108. Хакен Г. Тайны природы. Синергетика: учение о взаимодействии.-Москва-Ижевск: Институт компьютерных исследований, 2003, 320 с.

109. Хакен Г. Синергетика: иерархия неустойчивостей в самоорганизующихся системах и устройствах. М.: Мир, 1985 - 423 с.

110. Царегородцев В.Г. Взгляд на архитектуру и требования к нейроимитатору для решения современных индустриальных задач // Материалы XI Всеросс. Семинара "Нейроинформатика и ее приложения", -Красноярск, 2003. 215с. - С.171-175.

111. Царегородцев В.Г. Перспективы распараллеливания программ нейросетевого анализа и обработки данных // Материалы III Всеросс. конф. "Математика, информатика, управление 2004". Иркутск, 2004

112. Царегородцев В.Г. Общая неэффективность использования суммарного градиента выборки при обучении нейронной сети, Материалы XIII Всеросс. Семинара «Нейроинформатика и её приложения», Красноярск, 2004. 196с С. 145151

113. Царегородцев В.Т. Предобработка обучающей выборки, выборочная константа Липшица и свойства обученных нейронных сетей // Материалы X Всеросс. семинара «Нейроинформатика и ее приложения», Красноярск, 2002. 185с. С.146-150.

114. Черныш Е.А. Прогнозирование и планирование в условиях рынка: Учеб. пособие. //М.: ПРИОР, 1999. 176 с.

115. Яковлев В.Л., Яковлева Г.Л., Лисицкий Л.А. Применение нейросетевых алгоритмов к анализу финансовых рынков. Режим доступа http://neurnews.iu4.bmstu.ru/neurnews.html. 29.08.2002.

116. Яковлев В.Л., Яковлева Г.Л., Лисицкий Л.А. Создание математических моделей прогнозирования тенденций финансовых рынков, реализуемых при помощи нейросетевых алгоритмов. Режим доступа http://neurnews.iu4.bmstu.ru/ neurnews.html. 29.08.2002.

117. Ярушкина Н.Г. Основы теории нечетких и гибридных систем. М.: Финансы и статистика, 2004.- 320 с. Ил.

118. Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press, 1992.

119. Becker S., LeCun Y. Improving the convergence for back-propagation learning with second order methods / Proc. 1988 Connectionist Models Summer School. Morgan Kaufmann, 1989. -pp.29-37.

120. Chan K.H, J.C.Hayya, J.K.Ord (1977) "A Note on Trend Removal Methods: The Case of polynomial versus vatiate differencing", Econometrica, 45, 737-744.

121. Dickey D.A., W.A. Fuller (1979) "Distribution of the Estimators for Autoregressive Time Series with a Unit Root", Journal of the American Statistical Association, 74, 427^31.

122. Dickey, D.A., W.A. Fuller (1981) "Likelihood Ratio Statistics for Autoregressive Time Series With a Unit Root", Econometrica, 49, 1057-1072.

123. Dolado H., T. Jenkinson, S. Sosvilla-Rivero (1990) "Cointegration and Unit

124. Roots", Journal of Economic Surveys, 4,243-273.

125. Fausett L.V. "Fundamentals of Neural Networks: Architectures, Algorithms and Applications", Prentice Hall, 1994.

126. Fuller W.A. (1996) Introduction to Statistical Time Series, 2nd Ed, Wiley, New York

127. Greene W.H. (1997) "Econometric Analysis". 3rd edition, Prentice-Hall.

128. Hamilton, James D. (1994) Time Series Analysis, Princeton University Press, Princeton.

129. Leybourne S.J. (1995) "Testing for Unit Roots Using Forward and Reverse Dickey-Fuller Regressions", Oxford Bulletin of Economics and Statistics, 57, 559-571.

130. Nelson C.R., H. Kang (1981) "Spurious Periodicity in Inappropriately Detrended Time Series", Journal of Monetary Economics, 10, 139-162.

131. MacKinnon, J.G. (1991) "Critical Values for Cointegration Tests," Глава 13 в Long-run Economic Relationships: Readings in Cointegration, edited by R.F.Engle and C.WJ. Granger, Oxford University Press.

132. Maddala G.S., In-Moo Kim (1998) Unit Roots, Cointegration, and Structural Change. Cambridge University Press, Cambridge

133. Neuro Builder 2001 новое поколение нейросетей для финансовых аналитиков // http://www.neuroproject.ru/index.html.

134. Patrick P. Minimisation methods for training feedforward Neural Networks. //NEUARAL NETWORKS, 1994, Volume 7, Number 1, P. 1-11

135. Phillips P.C.B., P. Perron (1988) "Testing for a Unit Root in Time Series Regression," Biometrika, 75, 335-346.

136. Schwert G.W. (1989) "Tests for Unit Roots: A Monte Carlo Investigation", Journal of Business and Economic Statistics, 7, 147-159.

137. Wiener, N. (1949), Extrapolation, Interpolation and Smoothing of Stationary Time Series, Chichester, Wiley.

138. Wilson D.R., Martinez T.R. The general inefficiency of batch training for gradient descent learning/Neural Networks. 2003, Vol.16. Issue 10. -pp. 1429-1451.

139. Wilson D.R., Martinez T.R. The inefficiency of batch training for large training sets //Proc. Int. Joint Conf. Neural Networks (IJCNN'2000), Como, Italy, 2000. Vol.2.-pp.113-117.

140. Wolf A., Swift J.B., Swinney H.L., Vastano J.A. Determining Lyapunov expo- nents from a time series. Physica D 16, 285-317 (1985).

141. Wynne-Jones M. Node splitting: A constructive algorithm forfeed-forward neural networks//Neural Computing and Applications,v. l,No. 1, 1993, p. 17-22.

142. Yule, G.U. (1921), 'On the time-correlation problem', Journal of the Royal Statistical Society, pp. 497-526.