автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Математическое обеспечение информационной системы учета и прогнозирования продовольственных ресурсов региона

□03052084

На правах рукописи

ЗУЕВА Виктория Николаевна

МАТЕМАТИЧЕСКОЕ ОБЕСПЕЧЕНИЕ ИНФОРМАЦИОННОЙ СИСТЕМЫ УЧЕТА И ПРОГНОЗИРОВАНИЯ ПРОДОВОЛЬСТВЕННЫХ РЕСУРСОВ РЕГИОНА

Специальность 05.13.01 - Системный анализ, управление и обработка информации (информационные и технические системы)

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических иаук

КРАСНОДАР 2007

003052084

Работа выполнена в ГОУ ВПО «Кубанский государственный технологический университет»

Научный руководитель: доктор технических наук, профессор

Ключко Владимир Игнатьевич

Официальные оппоненты: доктор технических наук, профессор

Хисамов Франгиз Гельфанетдинович кандидат технических наук, доцент Николаева Ирина Валентиновна

Ведущая организация: Кубанский государственный

аграрный университет

Защита состоится "11" апреля 2007 г. в 14.00 часов на заседании диссертационного совета Д 212.100.04 в Кубанском государственном технологическом университете по адресу: 350072, г. Краснодар, ул. Московская 2а, конференц - зал

С диссертацией можно ознакомиться в библиотеке Кубанского государственного технологического университета по адресу: 350072, г. Краснодар, ул. Московская, 2а

Автореферат разослан " марта 2007 г.

Ученый секретарь

диссертационного совета Д 212.100.04, к. т. н., доцент

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность исследования. Важной задачей в области экономического анализа и управления предприятием является построение моделей поведения предприятия в условиях неполных данных на краткосрочный период прогнозирования. При этом возникают сложности с оценкой состояния окружающей среды и нахождении необходимых для описания и прогноза поведения ключевых и сопутствующих данных. Для построения моделей поведения перспективными являются нейро-сетевые технологии и нечеткая логика. Интеграция и предобработка данных осуществляется с помощью технологий: хранилищ данных, OLAP и Data - mining. Объединение этих технологий происходит в рамках Business Intelligence систем (далее BI - система).

Анализ существующих BI - систем выявил необходимость реализации автоматического развертывания данных и создания единой платформы для реализации блока поддержки принятия решений, состоящего из модулей: построения зависимостей, прогноза изменения факторов, выбора действий и прогноза развития. Создание BI - системы позволяет получить доступное средство для оперативного анализа и управления деятельности предприятия.

Целью диссертационной работы является разработка нейро-нечеткой архитектуры в топологии с подкреплением для прогнозирования и принятия решений; создание адаптивной поисковой системы и реализация их в составе разработанной BI - системы предприятия.

Задачи исследования:

- исследовать существующие методы построения систем прогнозирования и принятия решений на основе обучения с подкреплением;

- провести сравнительный анализ методов построения BI -систем;

- разработать нейро - нечеткую топологию с использованием обучения с подкреплением;

- разработать метод обучения нейросети в топологии с подкреплением;

- применить разработанную топологию для реализации основных блоков BI - системы;

- разработать и реализовать адаптивную поисковую систему в сети Internet и интегрировать ее в состав BI - системы;

- разработать и реализовать архитектуру BI - системы предприятия;

- провести экспериментальные исследования прогнозирования с помощью различных методов;

- провести экспериментальные исследования модуля принятия решений BI - системы.

Методы исследования. Задачи исследования решены с использованием методов теории искусственных нейронных сетей, системного анализа, математической статистики, нечеткой логики и искусственного интеллекта.

Научная новизна исследования заключается в следующих результатах:

- разработана нейро - нечеткая архитектура в топологии с подкреплением и метод ее обучения;

- разработана архитектура BI - системы предприятия с использованием нейро - нечеткой топологии, реализующей блок поддержки принятия решений;

- разработана модель адаптивного поиска в сети Internet.

Практическая ценность работы заключается в разработке и апробации метода создания нейро - нечетких моделей с использованием принципов обучения с подкреплениём, разработке системы Predictor класса Business Intelligence предназначенной для анализа и управления предприятием, исследовании и применении нейросетевых имитационных моделей.

Реализация и внедрение результатов работы. Разработанная система Predictor внедрена в департаменте сельского хозяйства и перерабатывающей промышленности Краснодарского края.

Основные положения, выносимые на защиту:

- метод создания нейро - нечеткой модели;

- система Predictor класса Business Intelligence;

- система принятия решений на основе нейро - нечеткой топологии;

- результаты сравнительного анализа прогнозирования ценовых показателей созданных тремя способами: линейная регрессионная модель, нелинейная регрессионная модель, нейросетевая модель;

- результаты работы системы принятия решений на базе нейро - нечеткой системы.

Публикации. Результаты исследования опубликованы в 5 печатных работах соискателя (в том числе 3 в рецензируемой печати).

Структура и объем диссертации.

Диссертация состоит из введения, четырех глав, заключения, списка использованной литературы и приложений. Объем диссертации составляет 141 страницу, содержащую 13 таблиц и 69 рисунков.

ОСНОВНОЕ СОДЕРЖАНИЕ ДИССЕРТАЦИИ Во введении обоснована актуальность и сформулирована научная проблема исследования, определены его объект и предмет, поставлены цель и задачи исследования.

В первой главе выполнен анализ текущего состояния проблемы использования BI - систем в деятельности предприятий и основные способы их построения. Рассмотрены модели построения OLAP и Data - mining систем. Проведен анализ существующих методов обучения с подкреплением (Q-learning, сети адаптивных критиков и других) с использованием нейронных сетей. Выявлены достоинства и недостатки существующих методов.

Во второй главе обоснован и описан метод создания нейро - нечеткой топологии. Разработанный метод позволяет обучить ней-росеть на небольшом количестве примеров, а также дообучать в режиме реального времени по мере поступления новой информации без участия эксперта. В ходе исследований предложена следующая модернизированная сеть адаптивного критика с использованием аппарата нечеткой логики, показанная на рисунке 1 :

Рисунок 1 - Схема нейро - нечеткого адаптивного критика

Схема работы предлагаемого алгоритма основана на методе обучения с подкреплением. Будем рассматривать агента, который взаимодействует с внешней средой, в общем случае недетерминированной. В ситуации S(t) агент выполняет действие a(t) и получает подкрепление R(t), при этом попадает в ситуацию S(t+1). Время дискретное: t = 1, 2 ... R(t) е [-1;1].

На рисунке 2 приводится структурная схема работы нейро -нечеткого адаптивного критика.

¡"критик.......

Рисунок 2 - Структурная схема работы схема работы нейро-нечеткого адаптивного критика

Целевая функция агента: получаемое подкрепление в течение времени не должно убывать и по возможности расти.

Агент оценивает суммарную награду с учетом коэффициента забывания оценки ожидаемой награды:

7=0

где £>(/) - оценка суммарной награды;

у - коэффициент забывания оценки ожидаемой награды, 0<у<1.

Рассмотрим структуру разработанного нейро - нечеткого адаптивного критика.

Модель - нейронная сеть, непосредственно управляющая объектом. В качестве Модели можно использовать любой тип нейронной сети, в частности многослойный персептрон. Тип сети и метод обучения зависит от решаемой задачи. Модель работает вне зависимости от подкрепления, ее структура меняется, если Модель на нескольких итерациях подряд дает не удовлетворяющие результаты. Работа Модели описывается формулой:

'2

где ъ - количество слоев Модели;

X - входной вектор;

У - выходной вектор.

Блок критика предназначен для оценки С>(/?) суммарной награды для текущей и прогнозируемой ситуации. При подаче на

блок критика вектора Sfr (t +1) = {ÙX pr (t +1), и, (t +1)} на выходе формируется оценка ожидаемой суммарной награды Qfr (/ +1) для прогнозируемой ситуации Sf (t +1) для каждого из возможных действий.

Математическое ожидание награды равно:

Q(S(t),a(t)) = E{r(t) + y*r(t + l) + r2*r(t + 2) +... + y"'x *r(t + n)}. Далее следует, что:

Q(S(t),a(t)) = E{r(t) + y * Q(S(t +1 ),a(t + !))}•

Ошибку временной разности определим следующим образом:

s = riß) + y*Q(S(t +1), a(ß +1) - Q{S(ß), a{ß)))-

Критик обучается с помощью временной разности: Aß(5(0, a(t)) = а * Sit) = a[rit) + у * Q(S(t +1 ), a(t +1 )) - Q(S(t), a(t))]. Реализуем это соотношение с помощью нейро — нечеткой системы. Переменные сразу переведем в термины теории критиков. Пусть X = (х,,х2,..хп) - входной вектор. Пусть правила описываются помощью следующей нечеткой

базы:

IF [(х, =а1").и.(х, = о/1 )..■«(*„ = 0]> (с весом wß) OR [ix, = а[к' ).и.(х, = af' )..и{хя = afJ )], (с весом wJKj ),

К

THEN Vi (Xl+1) -d j где j е [1;т] ;

af - лингвистический терм, оценивающий переменную

xt в строке р — kj\

к. - количество строк конъюнкций, соответствующих классу с!. выходной переменной Г ;

е [0;1] - число, характеризующее субъективную меру уверенности эксперта в части высказывания с номером р = к^ .

Блок фильтрации предназначен для сглаживания и «очистки» входных данных, убирает сезонную составляющую и пробелы в истории. В качестве методов используемых блоком фильтрации в работе используются - скользящая средняя и выявление тренда.

Блок подкреплепия вычисляет числовое значение подкрепления на основе обработки сведений о внешней среде и объекте управления. Блок подкрепления хранит историю изменения значения подкрепления. Блок подкрепления реализуется в зависимости от конкретной задачи и формулы вычисления подкрепления, при этом следует учитывать, что подкрепление в ходе работы должно не убывать.

Блок генетического поиска модели необходим для быстрого поиска адекватной нейросетевой модели без вмешательства эксперта. Блок работает следующим образом - создается К популяций нейронных сетей по Т штук в каждой, далее производится их обучение и скрещивание лучших особей, от которых рождаются новые популяции. Всего происходит Р смен популяций. Эксперименты проводились при следующих значениях параметров: К = 10-12, Т = 100, Р = 4. На выходе формируется нейрокомитет из пяти лучших нейросетей и в качестве прогнозного значения ис-

пользуется среднее значение их ответов. На рисунке 3 приведен принцип работы блока генетического поиска модели.

Параметрь процесса

1

Параметры нейросети

Популяция

(НС? £с> {не? Йр! $С> (й'с: Йс) ^¡а £с> {£с; ¡не!

¡НС! ^ ЙС; ^С)

.............-а

Популяция 1_2

Популяция 1_М

<№? Йс? ^¡с) »НС! 'но ис> (не; 'НС1 №ЧС< ж::-

• ••

^¡с; !нс.1 ж?. £с) ^с! Гнс) •НС •НС« ^С,' -НС) -НС' ¡НС/

¡НС) <НС* ((НС) не) {НО! !нс; ;нс1 не4; к: •;но ^НС' кс

г—1 ^^

^«Скрещивание и мутация лу:м1Тия осоБе£К.^

Популяция 2_1 . ,

ЗНС; Йс) (не) кНС/ ?нс) ¿й <нс; (на <нс; ¡не) «не; ?нс» (не) {не; (не?

та

Популяция 2_2

«нс5 №

¡не ;нс: ¡На •НС ;нс! ЙС! }НС)

¡не ■:нс: 'НС не) НС ЗНС-.

Обучен}«'

• \ 'Обучений'

Популяция 2_К

:нс/ @ Знс) ^с) *нс> £ю>

¡не! ¡йс:. -не!

(не; © йс: ¡не? !нс!

Лучшие Т нейросетей

\ Прогноз / к?

Нейрокомитет

г

^ Прогноз, Прогноз = -

Рисунок 3 - Принцип работы генетического поиска адекватной нейросетевой модели

Алгоритм работы предлагаемой системы приведен на рисунке 4:

Окружающая среда

I Оценка состояния ] среды и I подкрепления

Прогноз Х(1+1)

Изменение 1.

1ЛЯ] правил

д 1 Обучение !

критика 1

1 |

1 1

Оценка ошиоки

временной разности

Фаззификация

Перебор вариантов) правил |

для критика ]

Дефаззмфикациа

Изменение

оценки качества правил

Действие агента

Мах

Дообучение | агента I

Рисунок 4 - Алгоритм работы нейро - нечеткого критика

Несомненными достоинствами систем, использующих данную топологию и метод обучения, являются:

1. Адаптация системы при поступлении новых данных, за счет полного покрытия пространства состояний.

2.Работа системы происходит в автоматическом режиме.

3.В качестве компоненты модели может быть использована любая существующая топология нейронных сетей и любой алгоритм ее обучения.

4. Начало работы системы может происходить без знания истории работы системы.

Перечисленные достоинства определяют созданную топологию как современный, эффективный и доступный метод создания систем управления действующих в недетерминированной среде.

В третьей главе разработана BI - система Predictor департамента сельского хозяйства и перерабатывающей промышленности, охватывающая как учет движения сельскохозяйственной продукции, так и полный анализ ситуации на сельскохозяйственном рынке края. BI - система включает в себя складской модуль, модуль прогнозирования, модуль добычи данных в Internet и модуль поддержки принятия решений.

Предложена модель системы поддержки принятия решений по принципу классического автотрейдера, реализованного на нейро -нечеткой основе с применением обучения с подкреплением.

Целевая функция системы поддержки принятия решений: сельскохозяйственную продукцию необходимо продавать по таким ценам и в таком количестве, чтобы не произошло резкого скачка цен вверх.

Введем понятие регулятора локального рынка - это система: Predictor + эксперт, первый делает прогноз и предлагает варианты решений с оценкой последствий, второй принимает решение. На рисунке 5 приводится структурная схема регулятора локального рынка.

Входная серия

Ошибка

Система прогнозирования

■ { Реакция рынка Г

покупка/продажа

Блок критика

Рисунок 5 - Регулятор локального рынка

Также введем следующие обозначения:

и(1) - реакция Департамента на временном шаге / . При этом:

и (О = — 1, продавать;

и(1) = 0, не предпринимать действий;

= 1, покупать.

Целевая функция достигается с помощью системы поддержки принятия решений на базе нейро - нечеткого критика и следующим принципом формирования ценового рынка: на многие сельскохозяйственные продукты устанавливается конкретная цена, на остальные задается диапазон допустимой цены.

Входным данным для Модели является вектор F, (0 = ipi (0> Pz, (О, О, (О, Е, (0, Л, (0.(01 компонентами, которого являются временные ряды продажных цен на сельскохозяйственную продукцию (/); закупочных цен на сельскохозяйственную продукцию Pz, (/); остатков О, (/); расхода Et (t); прихода Aj (l) ; спроса St (/). На выходе мы должны получить значение цены на следующий квант времени Р; (7 +1).

Блок критика предназначен для оценки подкрепления на последующем шаге. На блок критика на каждом шаге подаются три варианта входных данных, при этом различно лишь действие u(t + 1), а изменение цены на основе прогноза остается неизменным. После расчета критика мы получаем величину подкрепления для действий: покупать, продавать и не действовать. Подкрепление считается следующим образом:

R, (0 = 1-1 P'(t) ~Pimm |, если Pt (Г) > Р1тт,

Р i шах

R. (/) = 1-1 /'(7) ~Л""" |, если Р, (0 < Я,™ ,

Р / min

(0 = 1» если Р /min < P;(t) К Р /тах ,

где Р1тзк и Р: гат - заданные «сверху» максимальная и минимальная цены на i -ю сельскохозяйственную продукцию.

То есть в случае, если цена после выполненного действия на рынке входит в допустимый диапазон, то подкрепление максимальное, если выходит за пределы диапазона, то подкрепление снижается.

При этом реализация системы поддержки принятия решений на основе нейро - нечеткой топологии адаптивного критика, позволит выдавать предложения в терминах нечеткой логики: «скорее покупать, чем продавать», «скорее продавать, чем покупать», то есть варианты действий со степенью уверенности, что позволит реализовать «мягкое» управление ценовой политикой. Отталкиваться будем, от следующих лингвистических переменных: продавать, не действовать, покупать. Тогда правила критика будут выглядеть следующим образом (для системы типа Мадмани): в случае, если цена по прогнозу повышается, то необходимо продавать данный товар, то есть:

Если Цена снижается, то Культуру покупать Которое, в свою очередь трансформируется в нечеткие правила для критика:

Если Цена снижается и Действие покупать, то Подкрепление увеличится

Рассмотрим более простой пример применения адаптивных критиков - модель агента брокера на сельскохозяйственном рынке. Основные отличия - действия агента не влияют на рыночные цены. Его главная задача — точно спрогнозировать и принять правильное решение по купле/продаже. Сумма ресурсов составляет общий капитал агента С((). Брокер стремится увеличить свой капитал С(0, изменяя значение и(/). Система управления агента содержит блок Модель, которая служит для прогнозирования цен на сырье АХ, (0 = X, (/ + 1) - Х1 (/). Система управления содержит блок Критика, который оценивает качество ситуации К(5(0) .

В данной задаче управление облегчается тем, что необходимо всегда играть на повышение капитала, в отличие от задачи регулятора локального рынка. В качестве подкрепления используется разница между капиталом на шагах t+1 и t: R(t +1) = C(t +1) - С(0.

В разработанной BI - системе для поддержки принятия решений необходима новостная лента с данными ценах и ситуации на продовольственных рынках как России, так и за рубежом. К сожалению, на сайте Министерства Сельского хозяйства РФ такой информации нет. В качестве помощи по ценам и сделкам можно использовать сайты бирж on-line торговли сельскохозяйственными культурами. Всю остальную информацию необходимо собирать по частям с новостных сайтов. Для автоматизации процесса поиска информации разработан адаптивный Web - модуль поиска информации в сети Internet, назовем его WebMiner. WebMiner отслеживает страницы в Web, посещаемые пользователем, сохраняет статистику и на базе этой статистике создает дайджест.

Дайджест - это сборник новых (обновленных) источников (то есть ссылок), на интересующие пользователя темы с наиболее посещаемых пользователем страниц.

В WebMiner используются:

- база знаний для данного пользователя (БЗП), которая содержит информацию о темах наиболее интересующих пользователя;

- база сайтов пользователя (БС), которая содержит информацию о наиболее посещаемых сайтов пользователем.

Возможно два варианта работы WebMiner:

- Режим слежения за пользователем;

- Режим автономной работы, в котором по таймеру делается обход десяти наиболее посещаемых страниц пользователя (ТОРЮ). На рисунке 6 приведен алгоритм работы \VebMiner.

( ' Старт -Режим работы ^

слежение

автономно

".........зашел на сайт--'.....

Обновление БЗП и БС

1

Скачивание 1 страницы 1

Чтение БС

Чтение БЗП

Сканирование страницы

Цикл по ТОРЮ

.с"" *.......да

пашли сканируемое _

слово? |

Вывод на 1

стакер \

'

(О} Конец

Рисунок 6 - Алгоритм работы \VebMiner В четвертой главе проведено сравнение результатов анализа данных полученных при помощи нейронной сети и методов математической статистики. Проведены эксперименты, имеющие цель сравнить эффективность использования для данной прикладной задачи - прогно-

зирование цен на сельскохозяйственные культуры и работы брокера и регулятора, рассматриваемых методов моделирования.

В результате анализа полученных экспериментальных данных сделаны следующие выводы:

1. Линейные регрессионные модели показали недостаточную воспроизводимость исходной таблицы данных и тестовых примеров, хотя имели значительно меньшее время создания модели.

2. Высокая воспроизводимость исходной таблицы данных рассмотренными нейросетевыми моделями, еще раз подтверждает способность многослойных нейронных сетей к нелинейной аппроксимации функций многих переменных и целесообразность выбора этого типа моделей для такой важной прикладной задачи как прогнозирование объема продаж.

3. При оценке адекватности созданных нейросетевых моделей при краткосрочном прогнозе, по имеющимся таблицам данных модели созданные с помощью нейро — нечеткой топологии адаптивного критика показали на 5% меньше среднюю ошибку прогноза и коэффициент эффективности после адаптации больше на 12% чем топология SARSA.

4. При долгосрочном прогнозе, с горизонтом прогнозирования четыре недели система, созданная с использованием нейро - нечеткой топологии адаптивного критика показала результат, превосходящий модель SARSA по средней ошибке на 4 %, по подкреплению на 9 %.

В заключении описаны выводы и результаты проделанной работы.

В приложениях представлено краткое руководство пользователя системы Predictor и приведен анализ современных нейропакетов.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

Проделанная в рамках диссертации работа позволила ответить на поставленные вопросы, цели и задачи исследования. Основными задачами исследования являлись: создание BI - системы предприятия, создание новой нейросетевой топологии и алгоритма обучения, создание обоснованной методики и ее апробация в важной прикладной проблеме. Выполненные нами исследования и разработки позволили сделать следующие выводы:

- разработана топология нейро — нечеткого адаптивного критика и методов ее обучения;

- создана система Predictor класса BI - систем для департамента сельского хозяйства и перерабатывающей промышленности;

- создана адаптивная нейросетевая модель прогнозирования цен на сельскохозяйственную продукцию;

- разработаны и реализованы математические модели регулятора локального рынка и брокера сельскохозяйственного рынка на основе нейро - нечеткой топологии адаптивного критика;

- экспериментально установлено, что при краткосрочном прогнозе модели созданные с помощью нейро - нечеткого адаптивного критика при краткосрочном прогнозировании имеют ошибку прогноза меньше на 5% и большее на 12% подкрепление, чем нейросетевые модели SARSA. При долгосрочном прогнозировании нейро -нечеткие модели также показали лучший результат.

Нейро - нечеткая топология адаптивного критика и предложенный метод обучения может использоваться в случаях, когда

невозможно построить точную модель среды. При этом объект в недетерминированной среде выполняет конкретную задачу с заданным подкреплением.

Созданный метод является инвариантным от моделируемой задачи и может применяться для построения систем управления для недетерминированных сред.

Разработанная система нейросетевого моделирования является удобным и доступным инструментом для исследования и прикладного использования нейросетевых моделей, а также реализации новых методов создания, обучения нейронных сетей и моделей на их основе.

Построение В1 - системы позволило получить доступное средство для оперативного контроля и анализа деятельности предприятия.

ПЕРЕЧЕНЬ РАБОТ, ОПУБЛИКОВАННЫХ ПО ТЕМЕ ДИССЕРТАЦИИ

1.Зуева В. Н. Программный комплекс учета основных видов продовольственных товаров // Инновационные системы в высшей школе: Материалы X Всероссийской научно-практической конференции - Краснодар, 2006. - С. 214.

2.Зуева В. Н., Стасевич В. П., Шумков Е. А. Построение адаптивных АБС с применением обучения самообучению // Известия вузов. Северо-Кавказский регион. Технические науки. -2006. - №2. -С. 16- 79.

З.Зуева В. Н., Шумков Е. А. Программный комплекс учета основных видов продовольственных товаров // Известия вузов. СевероКавказский регион. Технические науки. - 2006. - №2. - С. 84 - 86.

4.3уева В. Н., Стасевич В. П., Шумков Е. А. Обучение и самообучение в адаптивных системах управления // Известия вузов. Северо-Кавказский регион. Технические науки. - 2006. - доп. номер, № 6. - С. 134-137.

5.Зуева В. Н., Стасевич В. П., Шумков Е. А. Построение адаптивных АБС // Интеллектуальные системы: Труды VII Международного симпозиума / Под ред. К. А. Пупкова.- М.: РУСАКИ, 2006.-С. 519-522.

Подписано к печати: 06.03.2007 г. Формат 60x34/16. Усл.печ.л. 1,5. Уч.изд.л. 1,7. Тираж 100 экз. Заказ № 40. Лицензия ЛР № 021282. Редакционно-издательский центр Армавирского государственного педагогического университета

© Редакционно-издательский центр АГПУ, 352900, Армавир, ул. Кирова, 50.

ВВЕДЕНИЕ.

1 АНАЛИЗ ПОСТРОЕНИЯ СИСТЕМ BUSINESS INTELLIGENCE

1.1 Business Intelligence системы.

1.1.1 Плюсы и минусы технологии Business Intelligence.

1.1.2 Основные программные продукты на рынке BI.

1.1.3 Web-OLAP.

1.2 Обзор прогнозирующих систем и их неприменимость в данной области.

1.3 Нейронные сети в топологии с подкреплением.

1.3.1 Q-обучение с использованием нейронных сетей.

1.3.2 Сети адаптивной критики.

1.4 Поиск информации в Internet.

1.5 Выводы первой главы.

2 НЕЙРО - НЕЧЕТКИЙ АДАПТИВНЫЙ КРИТИК.

2.1 Введение.

2.2 Общий принцип работы.

2.3 Топология системы.

2.3.1 Модель (Нейронная сеть).

2.3.2 Критик.

2.3.3 Блок генетического поиска модели.

2.3.4 Блок фильтрации.

2.3.5 Блок подкрепления.

2.4 Алгоритм работы.

2.5 Выводы второй главы.

3 СИСТЕМА PREDICTOR КЛАССА BUSINESS INTELLIGENCE.

3.1 Архитектура системы.

3.2 Складской модуль.

3.3 Модуль прогнозирования.

3.3.1 Задача прогнозирования ценовых показателей.

3.3.2 Нейросетевая модель прогнозирования.

3.4 Модуль добычи данных в Internet.

3.4.1 Составление дайджеста.

3.4.2 Алгоритм работы WebMiner.

3.4.3 Поиск через поисковые системы.

3.4.4 Блок загрузки данных.

3.5 Модуль OLAP.

3.6 Модуль поддержки принятия решений.

3.6.1 Модель системы поддержки принятия решений.

3.6.2 Модель брокера сельскохозяйственного рынка.

3.7 Выводы третьей главы.

4 АНАЛИЗ МЕТОДОВ ПРОГНОЗИРОВАНИЯ.

4.1 Оценка краткосрочного прогнозирования.

4.2 Оценка долгосрочного прогнозирования.

4.3 Оценка работы нечеткого регулятора локального рынка.

4.4 Выводы четвертой главы.

Департамент Сельского Хозяйства и Перерабатывающей Промышленности Краснодарского края является одним из крупнейших департаментов Министерства Сельского хозяйства РФ. Он состоит из 27 отделов, и его численность превышает 1000 сотрудников. Основными направлениями деятельности Департамента являются учет сельскохозяйственной продукции, её хранение, мониторинг и анализ ситуации на сельскохозяйственном рынке, прогноз и планирование будущих урожаев. В то же время, несмотря на свою значимость, как для страны, так и края Департамент до сих пор работал на бумажных носителях и бумажном учете большинства параметров своей деятельности. Перед нами была поставлена задача: автоматизировать основные направления деятельности аналитических отделов Департамента, наладить учет основных ценообразую-щих факторов сельскохозяйственной продукции, разработать модели прогнозирования финансовых и прочих учетных показателей, а также построить систему поддержки принятия решений на сельскохозяйственном рынке.

В настоящий момент времени существует два основных вида систем, позволяющих решить поставленную задачу [17]:

- системы, ориентированные на операционную обработку данных -системы обработки данных;

- системы, ориентированные на анализ данных - системы Business Intelligence (далее BI - система).

Но ещё до недавнего времени, прежде всего, использовались системы, ориентированные исключительно на операционную обработку данных. И такое, опережающее развитие одного из направлений вполне объяснимо. На первых этапах автоматизации требовалось навести порядок именно в процессах повседневной обработки данных, на что и ориентированны традиционные системы обработки данных. Более того, BI - системы являются в определенном смысле вторичными по отношению к ним. И это очевидно - прежде чем заниматься анализом данных, необходимо эти данные собрать, а именно, это и является одной из функций систем обработки данных [61].

Однако за последние несколько лет ситуация кардинально изменилась. И это, в первую очередь, связано с тем, что практически в любой организации сложилась хорошо всем знакомая ситуация - «информация вроде бы, где-то и есть, её даже слишком много, но она неструктурированна, несогласованна, разрознена, не всегда достоверна, её практически невозможно найти и получить» [22].

Именно на разрешение этого противоречия - отсутствие информации при ее наличии и даже избытке и нацелены концепции в рамках BI: хранилищ данных, витрин данных, On-Line Analitical Processing (далее OLAP), Data - mining [17,22,44, 86].

Принять любое управленческое решение, невозможно не обладая необходимой для этого информацией. Для этого необходимо создание хранилищ данных, то есть процесс сбора, отсеивания и предварительной обработки данных с целью предоставления результирующей информации пользователям для дальнейшего анализа и создания отчетов [44].

Использование технологии OLAP позволяет аналитику посмотреть в удобном виде данные в виде «кубов», разворачивать и сворачивать их. OLAP предоставляет удобные быстродействующие средства доступа, просмотра и анализа деловой информации. Пользователь получает естественную, интуитивно понятную модель данных, организуя их в виде многомерных кубов. Нужный разрез или свод данных аналитик может проанализировать с помощью средств анализа данных [82].

Необходимость использования автоматизированного анализа данных стала очевидной в первую очередь из-за огромных массивов исторической и вновь собираемой информации. Другой причиной роста популярности анализа данных является объективность получаемых результатов. Человеку - аналитику в отличие от машины всегда присущ субъективизм, он в той или иной степени является заложником уже сложившихся представлений. Иногда это полезно, но чаще всего нет. Технология Data - mining не исключает полностью человеческую роль, но значительно упрощает процесс поиска знаний [22].

В качестве средств Data - mining всё большее распространение получают технологии на основе нейронных сетей. Нейросетевая методология находит все новые успешные применения в практике управления и принятия решений, в том числе - в финансовой и торговой сферах. Лежащая в ее основе теория нелинейных адаптивных систем доказала свою полезность в целом ряде отраслей экономики и финансов.

Методы нейроматематики с каждым годом получают все большее распространение в различных сферах человеческой деятельности [23, 64, 81, 109]. Основными преимуществами нейросетевого моделирования перед другими направлениями являются [25]: а) адекватность современным перспективным технологиям; б) инвариантность методов синтеза нейронных сетей к размерности пространства признаков и размерам нейронной сети; в) отказоустойчивость в смысле монотонного (постепенного), а не катастрофического изменения качества решения задачи в зависимости от числа вышедших из строя элементов; г) высокая помехоустойчивость и адекватность; д) высокая скорость формирования результата за счет естественного массового параллелизма функционирования; е) возможность интеграции в одной модели переменных имеющих разную природу и типы значений; ж) нечувствительность к наличию пропусков и искажений в данных; з) неявный учет скрытого взаимного влияния известных переменных и реализация нелинейного влияния неизвестных параметров; и) способность к полной обработке информации. Все известные человеку задачи могут быть решены с помощью нейронных сетей [65]; к) возможность самоорганизации и самообучения; л) способность к абстрагированию - если сети предъявить несколько искажений входного образа, то сеть сама создаст на выходе идеальный образец, с которым она никогда не встречалась.

Основными недостатками нейросетей, препятствующими их использованию относятся [22]: а) невозможность вербализации нейросетевой базы знаний и, как следствие, неинтерпретируемость результата сформированного нейросетевой моделью; б) значительное время обучения нейросетевой модели; в) необходимость наличия большого объема исходных данных для обучения и тестирования нейросетевой модели; г) необходимость обучения персонала основам теории искусственных нейронных сетей и работе с нейросетевыми программными комплексами.

Одной из важных задач Data - mining является прогноз. Обычно для решения данной задачи используются статистические методы. В последнее десятилетие все более распространенным является использование нейронных сетей для задач прогноза, но нейронные сети довольно сложны для неподготовленных пользователей и задача прогноза трудна в подборе входных, влияющих факторов. Для снижения влияния этих факторов необходимо построение автоматизированных систем прогнозирования. В то же время в составе BI - систем Data -mining выполняет роль эксперта, выбирающего наиболее выигрышный вариант действий на основе прогноза. Одним из перспективных подходов для построения такой связки прогнозирующий модуль - модуль принятия решений является использование нейронных сетей в совокупности с обучением с подкреплением.

Актуальность этой диссертационной работы заключается в следующих выводах:

1. Разработка нейро - нечеткой топологии и метода обучения для создания нейросетевой имитационной модели является серьезным вкладом в развитие направления создания нейросетевых интеллектуальных систем;

2. Программная реализация метода нейросетевого моделирования с использованием нейро - нечеткой топологии в составе BI - системы предприятия позволит создать мощное и доступное средство прогнозирования и принятия решений;

3. Реализация разработанной модели прогнозирования и принятия решений, работающей без участия пользователя, позволяет значительно повысить привлекательность нейросетевых методов в данной отрасли;

4. Создание BI - системы позволит получить доступное средство для оперативного анализа и управления Департамента Сельского Хозяйства и Перерабатывающей Промышленности;

5. Создание адаптивной поисковой системы в сети Internet позволит оперативно отслеживать ситуацию на рынке по ключевым показателям.

На основании перечисленных требований к методам нейросетевого моделирования процессов сформулированы вопросы, отражающие научную проблему:

1. Возможно ли качественное обучение нейронной сети при заведомо недостаточном количестве исходных данных?

2. Как обеспечить интерпретируемость результатов работы нейросети?

3. Возможно ли создание нейросетевой системы прогнозирования, работающей и обучающейся в автоматическом режиме без участия эксперта?

4. Каким образом реализовать доступность нейросетевого моделирования для конечного пользователя?

5. Можно ли создать единую автоматическую модель, реализующую на основе нейронных сетей четыре основных блока аналитического ядра BI - системы: построения зависимостей, прогноз изменения факторов, выбор действия и прогноз развития?

6. Возможно ли создание адаптивной поисковой системы в сети Internet, не используя основные принципы построения таких систем, основываясь на простом анализе встречаемости и взаимовстречаемости слов в текстах?

Цель работы: разработка нейро - нечеткой топологии с подкреплением для прогнозирования и принятия решений; создание адаптивной поисковой системы в сети Internet и реализация их в составе разработанной BI - системы предприятия.

С помощью моделирующего комплекса необходимо создать имитационную модель прогнозирования, отличающуюся высокой адекватностью и необходимой точностью, а также создать систему поддержки принятия решений на основе прогноза. Модель должна включать возможность проведения различных экспериментов с данными. При работе с моделью аналитику должна предоставляться возможность устанавливать зависимости, соотношения и допущения, выражающие взаимосвязи различных элементов системы, возможность оценивать их влияние на функциональное состояние системы.

Для достижения указанных целей были поставлены и реализованы следующие задачи:

- исследовать существующие методы построения систем прогнозирования и принятия решений на основе обучения с подкреплением;

- провести сравнительный анализ методов построения BI - системы предприятия;

- разработать метод обучения нейросети в топологии с подкреплением;

- разработать нейро - нечеткую топологию с использованием обучения с подкреплением;

- применить разработанную топологию для реализации основных блоков BI - системы;

- разработать и реализовать адаптивную поисковую систему в сети Internet и интегрировать ее в состав BI - системы;

- разработать и реализовать архитектуру BI - системы Департамента Сельского Хозяйства и Перерабатывающей Промышленности;

- провести экспериментальные исследования прогнозирования с помощью различных методов;

- провести экспериментальные исследования модуля принятия решений BI - системы;

- оценить эффективность предложенных метода обучения и нейро - нечеткой топологии.

Содержание диссертационной работы отражает реализацию поставленных задач.

В первой главе выполнен анализ текущего состояния проблемы использования BI - систем в деятельности предприятий и основные способы их построения. Рассмотрены модели построения OLAP и Data - mining систем. Проведен анализ существующих методов обучения с подкреплением (Q-learning, сети адаптивной критики и других) с использованием нейронных сетей. Выявлены достоинства и недостатки существующих методов.

Во второй главе обоснован и описан метод создания нейро - нечеткой топологии. Разработанный метод позволяет обучить нейросеть на небольшом количестве примеров, а также дообучать (переобучать) в режиме реального времени по мере поступления новой информации без участия эксперта (впрочем, последний может корректировать процесс обучения). Это позволяет использовать данный метод для моделирования динамических процессов, в которых наибольшую достоверность имеют самые свежие данные или процессов, для которых на начальном этапе не представляется возможным создать обучающее множество необходимого размера. За счет использования принципов обучения с подкреплением система выполняет задачу с заданным показателем качества.

В третьей главе разработаны архитектура BI - системы и обоснована целесообразность применения нейросетевых методов для прогнозирования основных показателей Департамента. Приведен пример применения нейро - нечеткой топологии для системы принятия решений. Разработана модель адаптивного поиска в Internet.

В четвертой главе проведено сравнение результатов анализа данных полученных при помощи нейронной сети и метода математической статистики. Показана возможность использования системы поддержки принятия решений на базе нейро - нечеткой системы. Также рассмотрены возможные пути дальнейшего развития методик.

В заключении описаны выводы и результаты проделанной работы.

В приложении А приводится краткое руководство пользователя системы Predictor.

В приложении Б приводится анализ современных нейропакетов.

Задачи исследования решены с использованием методов теории искусственных нейронных сетей, системного анализа, математической статистики, нечеткой логики и искусственного интеллекта.

Научная новизна исследования заключается в следующих результатах:

- разработана нейро - нечеткая архитектура в топологии с подкреплением;

- разработана архитектура Business Intelligence системы Департамента с использованием нейро - нечеткой топологии, реализующей модуль поддержки принятия решений;

- разработана модель адаптивного поиска в Internet.

Практическая значимость работы заключается в разработке и апробации метода создания нейро - нечетких моделей, разработке системы Predictor класса Business Intelligence, исследовании и применении нейросетевых имитационных моделей. Основные положения, выносимые на защиту:

- метод создания нейро - нечеткой модели;

- система класса Business Intelligence;

- система принятия решений на основе нейро - нечеткой топологии;

- результаты сравнительного анализа прогнозирования ценовых показателей созданных тремя способами: линейная регрессионная модель, нелинейная регрессионная модель, нейросетевая модель;

- результаты работы системы принятия решений на базе нейро - нечеткой системы.

Разработанная система Predictor класса Business Intelligence внедрена в Департаменте Сельского Хозяйства и Перерабатывающей Промышленности Краснодарского края.

Основной материал работы опубликован в 3 научных статьях и 2 тезисах докладов. Подана заявка о выдаче патента на изобретение.

Диссертация состоит из введения, четырех разделов, заключения, списка использованной литературы и приложений. Ее общий объем составляет 141 страниц текста, содержащего 13 таблиц и 69 рисунков.

4.4 Выводы четвертой главы

Проведены эксперименты, имеющие цель сравнить эффективность использования для данной прикладной задачи - прогнозирование цен на сельскохозяйственные культуры, рассматриваемых методов моделирования.

При помощи аналитических технологий мы решили задачу прогнозирования цен некоторых сельскохозяйственных культур. При помощи построенной нами системы на основе нейронных сетей мы имеем возможность выполнять краткосрочные и долгосрочные прогнозы в автоматическом режиме.

В результате анализа полученных экспериментальных данных сделаны следующие выводы:

1. Линейные регрессионные модели показали недостаточную воспроизводимость исходной таблицы данных и тестовых примеров, хотя имели значительно меньшее время создания модели.

2. Высокая воспроизводимость исходной таблицы данных рассмотренными нейросетевыми моделями, еще раз подтверждает способность многослойных нейронных сетей к нелинейной аппроксимации функций многих переменных и целесообразность выбора этого типа моделей для такой важной прикладной задачи как прогнозирование объема продаж.

3. При оценке адекватности созданных нейросетевых моделей при краткосрочном прогнозе, по имеющимся таблицам данных модели созданные с помощью нейро - нечеткой топологии адаптивного критика показали на 5% меньше среднюю ошибку прогноза и коэффициент эффективности после адаптации больше на 12%, чем топология SARSA.

4. При долгосрочном прогнозе с горизонтом прогнозирования четыре недели система, созданная с использованием нейро - нечеткой топологии адаптивного критика, показала результат, превосходящий модель SARSA по средней ошибке на 4 %, по подкреплению на 9 %.

ЗАКЛЮЧЕНИЕ

Проделанная в рамках диссертации работа позволила ответить на поставленные вопросы, цели и задачи исследования. Основными задачами исследования являлись: создание системы Business Intelligence Департамента Сельского Хозяйства и Перерабатывающей Промышленности, создание новой нейросетевой топологии и алгоритма обучения, создание обоснованной методики и ее апробация в важной прикладной проблеме. Выполненные нами исследования и разработки позволили сделать следующие выводы:

- Разработана топология нейро - нечеткого адаптивного критика и метод ее обучения;

- Создана система Predictor класса Business Intelligence для Департамента;

- Создана адаптивная нейросетевая модель прогнозирования цен на сельскохозяйственную продукцию;

- Экспериментально установлено, что при краткосрочном прогнозе модели, созданные с помощью нейро - нечеткого адаптивного критика, при краткосрочном прогнозировании имеют ошибку прогноза меньше на 5% и большее на 12% подкрепление, чем нейросетевые модели SARSA. При долгосрочном прогнозировании нейро - нечеткие модели также показали лучший результат.

Нейро - нечеткая топология адаптивного критика и предложенный метод обучения может использоваться в случаях, когда невозможно построить точную модель среды, т. е. если среда недетерминирована. При этом объект в недетерминированной среде выполняет конкретную задачу с заданным подкреплением.

Созданный метод является инвариантным от моделируемой задачи и может применяться для построения систем управления для недетерминированных сред.

Разработанная система нейросетевого моделирования является удобным и доступным инструментом для исследования и прикладного использования нейросетевых моделей, а также реализации новых методов создания, обучения нейронных сетей и моделей на их основе.

Построение системы поддержки принятия решений позволило получить доступное средство для оперативного контроля и анализа деятельности предприятия. Примененные технологии позволяют значительно улучшить качество принимаемых решений специалистами Департамента Сельского Хозяйства и Перерабатывающей Промышленности.

1. Алиев Р. А., Абдикеев Н. М., Шахназаров М. М. Производственные системы с искусственным интеллектом.- М.: Радио и связь, 1990. 264 с.

2. Ариб М. Алгебраическая теория автоматов, языков и полугрупп: Пер. с англ. М.: Статистика, 1975. - 254 с.

3. Армстронг Р. Семь этапов оптимизации производительности хранилища данных // Открытые системы. 2002. - №1.- С. 51-54.

4. Астафьева Н. В. Вейвлет-анализ: основы теории и примеры применения // УФН. 1996. - №11. - С. 1145 - 1170.

5. Беллман Р. Динамическое программирование. М.: Иностранная литература, 1968.-261 с.

6. Беллман Р., Заде Л. Принятие решений в расплывчатых условиях // Вопросы анализа и процедуры принятия решений М.: Мир, 1976. - С. 172-215.

7. Белявский И. К. Маркетинговое исследование: информация, анализ, прогноз. -М.: Финансы и статистика, 2001.-320 с.

8. Березин И. С. Маркетинг и исследования рынков. М.: Русская деловая литература, 1999. - 416 с.

9. Борисов А. Н., Крумберг О. А., Федоров И. П. Принятие решений на основе нечетких моделей. Примеры использования. Рига: Зинатне, 1990.- 184 с.

10. Бочарников В. П. Fuzzy-Технология: математические основы практика моделирования в экономике. Санкт-Петербург, 2001. - 328 с.

11. Брауэр Б. Введение в теорию конечных автоматов: Пер. с англ. М.: Радио и связь, 1987. - 272 с.

12. Бутенко А. А. и др. Обучение нейронной сети при помощи алгоритма фильтра Калмана // Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение» Москва, 2002. - С. 105.

13. Буч Г. Объектно-ориентированный анализ и проектирование с примерами приложений на С++. М.: «Издательство Бином», СПб.: «Невский диалект», 1999. - 560 с.

14. Бычков А. В. Нейросетевое управление рентабельностью предприятия: Дис. канд. техн. наук, КубГТУ. Краснодар, 2001. - 156 с.

15. Бэстенс Д.-Э., ван ден Берг В.-М., Вуд Д. Нейронные сети и финансовые рынки: принятие решений в торговых операциях. М.: ТВП, 1997. -236 с.

16. Вагнер Г. Основы исследования операций. В 3 т. М.: Мир, - 1972-1973.-3 т.

17. Вайну Я. Я.-Ф. Корреляция рядов динамики. М.: Статистика, 1977. - 119с.

18. Вентцель Е. С. Исследование операций. М.: Высшая школа, 2001. -208 с.

19. Волькштейн М. В. Биофизика: Учебное руководство. М.: Наука, Гл. ред. физ. - мат. лит., 1988. - 592 с.

20. Воротников С. А. Информационные устройства и системы. Ч. I. Учебное пособие. М.: Изд. МГТУ, 1995. - 64 с.

21. Вукобратович М., Стокич Д., Кирчински Н. Неадаптивное и адаптивное управление манипуляционными роботами. М.: Мир, 1989. - 376 с.

22. Галушкин А. И. О современных направлениях развития нейрокомпьютеров // Информационные технологии. 1997. - №5. - С. 2-5.

23. Галушкин. А. И. Нейрокомпьютерные системы. М.: Издательское предприятие журнала «Радиотехника», 2000.- 205 с.

24. Гарбар П. Организация отказоустойчиво хранилища // Открытые системы. 2002. - №4. - С. 56-61.

25. Глушков В. М. Теория автоматов и вопросы проектирования структур цифровых машин // Кибернетика. 1965. - № 1. - С. 3 -11.

26. Горбань А. Н., Россиев Д. А. Нейронные сети на персональном компьютере Новосибирск: Наука, Сибирская издательская фирма РАН,1996.-276 с.

27. Гупал А. М., Пономарев А. А., Цветков А. М. Об одном методе индуктивного вывода с подрезанием деревьев решений // Кибернетика и системный анализ. 1993. - №5. - С. 174-178.

28. Де Марк Т. Технический анализ новая наука. - М.: Диаграмма,1997.-122 с.

29. Джейн А. К., Мао Ж., Моуддин К. М. Введение в искусственные нейронные сети // Открытые системы. 1997. - № 4. - С. 16-24.

30. Долматова JI. М. Что считать результатами обучения: интерполяция зависимостей посредством анализа топологии обученной нейронной сети // Известия РАН. Теория и системы управления. 1996. - №5. - С. 71-75.

31. Доререр М. Г. Психологическая интуиция искусственных нейронных сетей: Дис. канд. техн. наук. Красноярск, 1998,- 126 с.

32. Дрезнер X., Хостманн Б. и Байтендийк Ф.Вниманию руководства: Обновленные Волшебные Квадраты Gartner для систем интеллектуальной поддержки бизнеса. Inside Gartner Group (рус.), 2003 - 186 с.

33. Дремин И. М., Иванов О. В., Нечитайло В. А. Вейвлеты и их применение // УФН. 2001. - №5. - С. 465 - 501.

34. Ежов А. А., Шумский С. А. Нейрокомпьютинг и его применения в экономике и бизнесе. М.: ФИАН, 1998. - 222с.

35. Ежов А., Чечеткин В. Нейронные сети в медицине // Открытые системы.-1997.-№4. С. 34-37.

36. Елисеева И. И., Юзбашев М. М. Общая теория статистики. М.: Финансы и статистика, 1996. - 368 с.

37. Ермоленко В. В. Разработка нейросетевой базы знаний интеллектуальной автоматизированной системы мониторинга образовательного процесса: Дис. канд. техн. наук, КубГТУ. Краснодар, 1996. -206 с.

38. Заде J1. А. Понятие лингвистической переменной и его применение к принятию приближенных решений.- М.: Мир, 1976.-165 с.

39. Заенцев И. В. Нейронные сети: основные модели. Учебное пособие Воронеж: ВГУ, 1998.- 76 с.

40. Замков О. О., Толстопятенко А. В., Черемных Ю. Н. Математические методы в экономике. Учебник МГУ им. Ломоносова М.: Издательство «ДИС», 1998.-368с.

41. Зенкевич С. Л., Ющенко А. С. Управление роботами. М.: Изд: МГТУ, 2000. - 400 с.

42. Змиртович А. И. Интеллектуальные информационные системы. -Мн.: НТООО «ТетраСистемс», 1997. 368 с.

43. Зуева В. Н. Программный комплекс учета основных видов продовольственных товаров // Инновационные системы в высшей школе: Материалы X Всероссийской научно-практической конференции Краснодар, 2006.-С. 214.

44. Зуева В. Н., Стасевич В. П., Шумков Е. А. Обучение и самообучение в адаптивных системах управления // Известия вузов. Северо

45. Кавказский регион. Технические науки. 2006. - доп. номер, № 6. - С. 134-137.

46. Зуева В. Н., Стасевич В. П., Шумков Е. А. Построение адаптивных АБС с применением обучения самообучению // Известия вузов. СевероКавказский регион. Технические науки. 2006. - №2. - С. 76 - 79.

47. Зуева В. Н., Стасевич В. П., Шумков Е. А. Построение адаптивных АБС // Интеллектуальные системы: Труды VII Международного симпозиума / Под ред. К. А. Пупкова.- М.: РУСАКИ,, 2006. С. 519 - 522.

48. Зуева В. Н., Шумков Е. А. Программный комплекс учета основных видов продовольственных товаров // Известия вузов. Северо-Кавказский регион. Технические науки. 2006. - №2. - С. 84 - 86.

49. Капица С. П., Курдюмов С. П., Малинецкий Г. Г. Синергетика и прогнозы будущего. М.: Наука, 1997. - 286 с.

50. Киселев М., Соломатин Е. Средства добычи знаний в бизнесе и финансах// Открытые системы. 1997. - № 4. - С. 41-44.

51. Ключко В. И., Стасевич В. П., Шумков Е. А. Сети адаптивной критики // Научный журнал: «Труды КубГТУ». T.XVIII. Сер. Информатика и управление. - Краснодар: КубГТУ, 2003. - Вып. 2. - С. 86 - 91.

52. Ключко В. И., Шумков Е. А. Использование нейронных сетей в системах поддержки принятия решений // Научный журнал: «Труды КубГТУ». T.XVIII. Сер. Информатика и управление.- Краснодар: КубГТУ, 2003.-Вып. 2.-С. 203-208.

53. Ключко В. И., Шумков Е. А. Система поддержки принятия решений // Известия вузов. Северо-Кавказский регион. Технические науки. 2002. - № 2. - С. 25-27.

54. Конечные автоматы: эквивалентность и поведение / Иванов Н. Н., Михайлов Г. И., Руднев В. В., Таль А. А. М.: Наука, 1984. - 278 с.

55. Кофман А. Введение в теорию нечетких множеств.- М.:Радио и связь, 1982.-432 с.

56. Крастинь О. П. Разработка и интерпретация моделей корреляционных связей в экономике. Рига: Зинатне, 1983. - 156 с.

57. Кречетов Н. Продукты для интеллектуального анализа данных // Рынок программных средств. 1997. - № 14. - С. 32-39.

58. Круглов В. В., Дли М. И., Голунов Р. Ю. Нечеткая логика и искусственные нейронные сети. Физматлит, 2001. - 224 с.

59. Кузнецов С. Хранилища данных в начале века // Открытые системы. 2002. - №1.-С. 35-36.

60. Ларичев О. И., Петровский А. Б. Системы поддержки принятия решений для слабоструктурированных проблем: требования и ограничения // Человеко-машинные процедуры принятия решений: Сб. науч. трудов. -М.: ВНИИСИ, 1988.-С. 4-13.

61. Ларичев О. И., Петровский А. Б. Системы поддержки принятия решений. Современное состояние и перспективы развития // Итоги науки и техники. Сер. Техническая кибернетика. Т. 21. М.: ВИНИТИ, 1987. -С. 131-154.

62. Лиховидов В. Н., Сафин В. И. Технический анализ валютных рынков. Владивосток: Изд-во ДВГАЭУ, 1998. - 200 с.

63. Малышев Н. Г., Бернштейн Л. С., Боженюк А. В. Нечеткие модели для экспертных систем в САПР. М.: Энергоиздат, 1991. — 136 с.

64. Марчук Г. И. Методы вычислительной математики. 3-е изд. - М.: Наука, 1989.-608 с.

65. Меладзе В. Курс технического анализа М.: Серебряные нити, 1997.-272 с.

66. Мелихов А. Н., Берштейн J1. С., Коровин С. Я. Ситуационные советующие системы с нечеткой логикой.- М.: Наука, 1990.- 272 с.

67. Мкртчян С. О. Нейроны и нейронные сети. М.: Энергия, 1971. -232 с.

68. Модели принятия решений на основе лингвистической переменной / Борисов А. Н., Алексеев А. В., Крумберг О. А. и др. Рига: Зинатне, 1982.-256 с.

69. Мошков М. Ю. О глубине деревьев решений // Доклады РАН. Т. 358.- 1998.-С. 26.

70. Наговицин А. Г., Иванов В. В. Валютный курс. Факторы. Динамика. Прогнозирование. М.: Инфра-М, 1995. - 176 с.

71. Недосекин А. О. Нечетко-множественный анализ риска фондовых инвестиций. СПб: Изд-во Сезам, 2002. - 181 с.

72. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д. А. Поспелова.- М.: Наука. Гл.ред.физ.-мат. лит., 1986.-312 с.

73. Нечеткие множества и теория возможностей. Последние достижения / Под ред. Р. Р. Ягера. М.: Радио и связь, 1986.-408 с.

74. Нильсон Н. Принципы искусственного интеллекта. М.: «Радио и связь», 1984. - 372 с.

75. Новиков Л. В. Основы вейвлет-анализа сигналов. СПб.: Изд-во СПбГТУ, 1999.- 152 с.

76. Обработка нечеткой информации в системах принятия решений / Борисов А. Н., Алексеев А. В., Меркурьева Г. В. и др.- М.: Радио и связь, 1989.-304 с.

77. Орлов А. И. Задачи оптимизации и нечеткие переменные. М.: Знание, 1980.- 64 с.

78. Орлов А. И. Связь между средними величинами и допустимыми преобразованиями шкалы // Математические заметки. Т. 30. Вып. 4. -1981.-С. 561-568.

79. Орловский С. А. Проблемы принятия решений при нечеткой информации.- М.: Наука, 1981.- 206 с.о

80. Педерсен Т., Иенсен К. Технология многомерных баз данных // Открытые системы. 2002. - № 1. - С. 45-50.

81. Питерсон Дж. JI. Теория сетей Петри и моделирование систем. Пер. с англ. М.: Мир, 1984. - 264 с.

82. Поспелов Д. А. Логико-лингвистические модели в системах управления. М.: Энергоиздат, 1981.- 232 с.

83. Поспелов Д. А. Ситуационное управление: теория и практика. М.: Наука, 1986.-288 с.

84. Ротштейн А. П. Интеллектуальные технологии идентификации: нечеткая логика, генетические алгоритмы, нейронные сети. Винница: УНИВЕРСУМ, 1999. - 320 с.

85. Ротштейн А. П., Штовба С. Д. Нечеткая надежность алгоритмических процессов. Винница: Континент-ПРИМ, 1997. - 142 с.

86. Ротштейн А. П., Штовба С. Д. Проектирование нечетких баз знаний: лабораторный практикум и курсовое проектирование. Учебное пособие. Винница: Винницкий государственный технический университет, 1999.-65 с.

87. Савицкая Г. В. Анализ хозяйственной деятельности предприятия. -2-е изд., перераб. и доп. Мн.: Экоперспектива, 1997. - 498 с.

88. Сахаров А. А. Принципы проектирования и использования многомерных баз данных (на примере Oracle Express Server) // СУБД. 1996. №3. - С. 44-59.

89. Системы фуцци-управления / Архангельский В. И., Богаенко И. Н., Грабовский Г. Г., Рюмшин Н. А. К.: Тэхника, 1997. - 208 с.

90. Соколов Е. Н., Вайткявичюс Г. Г. Нейроинтеллект: от нейрона к нейрокомпьютеру. М.: Наука, 1989. - 238 с.

91. Сорос Дж. Алхимия финансов: Пер. с англ. Т.С. Аристова М.: ИНФРА-М, 1999.-416 с.

92. Стасевич В. П., Шумков Е. А. Построение адаптивных систем управления на основе топологии «Внутренний учитель» // Инновационные процессы в высшей школе: Материалы IX Всероссийской научно -практической конференции. Краснодар: КубГТУ, 2003. - С. 136.

93. Стасевич В., Шумков Е. Новый принцип построения самообучаемых систем управления // Труды VIII конференции «Нейрокомпьютеры и их применение». -М.: ИПУ им. Трапезникова, 2002. С. 1037 - 1039.

94. Степанов В. Фондовый рынок и нейросети // Мир ПК. 1998. -№12.-С. 40-46.

95. Страуструп Б. Язык программирования С++. 3-е изд. - СПб.: «Невский диалект» - «Издательство БИНОМ», 1999. - 991 с.

96. Сураджит Чаудхури, Умешвар Дайал, Венкатеш Ганти. Технология баз данных в системах поддержки принятия решений // Открытые системы. 2002. - №1. - С. 37-44.

97. Суровцев И. С., Клюкин В. И., Пивоварова Р. П. Нейронные сети. -Воронеж: ВГУ, 1994. 224 с.

98. Тимофеев А. В. Адаптивные робототехнические комплексы. JL: Машиностроение, 1988. - 332 с.

99. Уоссермен. Ф. Нейрокомпьютерная техника: Теория и практика. -М.: Мир, 1992.-240 с.

100. Холодниок М. и др. Методы анализа нелинейных динамических моделей.- М.: Высшая школа, 1994, 256 с.

101. Цуприков С. Нейронные вычисления берутся на вооружение финансистами//Банковские системы. 1995. - №7. - С. 57-58.

102. Шапот М. Интеллектуальный анализ данных в системах поддержки принятия решений // Открытые системы. 1998. - №1. - С. 30-35.

103. Шумков Е. А., Семенов С. С. Нейросетевая моделирующая система NNWizard // Инновационные системы в высшей школе: Материалы VIII Всероссийской научно-практической конференции. Краснодар: КубГТУ, 2002. - С. 129.

104. Шустер Г. Детерминированный хаос. Введение. М.: Мир, 1988.240 с.

105. Эрлих А. Технический анализ товарных и фондовых рынков. М.: Юнити, 1996.-215 с.

106. Яковлев В. JL, Яковлева Г. Л., Малиевский Д. А. Нейросетевая экспертная система управления портфелем банка // V Всероссийская конференция «Нейрокомпьютеры и их применение»: Сборник докладов 1999.-С. 291-294.

107. Battiti R. First and second order methods for learning: Between steepest descent and Newton's method // Neural Computation. 1992. - Vol. 4. № 2. -P. 141-166.

108. Chaitin G.J. On the length of programs for computing finite binary sequences: statistical consider-ations // Journal of the ACM. 1969. - № 16. - P. 145-159.

109. Charalambous C. Conjugate gradient algorithm for efficient training of artificial neural networks // IEEE Proceedings. 1992. - Vol. 139. № 3. - P. 301-310.

110. Chen S., Cowan C. F. N. and P. M. Grant Orthogonal least squares learning algorithm for radial basis function networks // IEEE Transactions on Neural Networks. -1991. Vol. 2. № 2. - P. 302-309.

111. Chrisman L. Reinforcement learning with perceptual aliasing: The perceptual distinctions approach // In Proceedings of the Tenth International Conference on Artificial Intelligence. AAAI Press, San Jose, California, 1992. -P. 183-188.

112. Cliff D., Ross S. Adding temporary memory to ZCS // Adaptive Behavior. -1994.-№3-P. 101-150.

113. Donnart J.Y. and Meyer J.A. Learning Reactive and Planning Rules in a Motivationally Autonomous Animat. // IEEE Transactions on Systems, Man and Cybernetics Part B: Cybernetics. - 1996. - № 26(3). - P. 381-395.

114. Elman J. Finding structure in time // Cognitive Science. 1990. - Vol. 14.-P. 179-211,

115. Fletcher R. and Reeves С. M. Function minimization by conjugate gradients // Computer Journal. 1964. - Vol. 7. - P. 149-154.

116. Foresee F. D., Hagan M. T. Gauss-Newton approximation to Bayesian regularization // Proceedings of the 1997 International Joint Conference on Neural Networks. 1997. - P. 1930-1935.

117. Hagan M. and Menhaj M. Training feedforward networks with the Marquardt algorithm // IEEE Transactions on Neural Networks. 1994. - Vol. 5.№. 6.-P. 989-993.

118. Hagan M., De Jesus O. and Schultz R. Training Recurrent Networks for Filtering and Control // Recurrent Neural Networks: Design and Applications / L. Medsker and L.C. Jain, Eds. CRC Press, 1999. - P. 311-340.

119. Hagan M.T., Demuth H.B. Neural Networks for Control // Proceedings of the 1999 American Control Conference. San Diego, CA, 1999. - P. 16421656.

120. Holland J.H., Holyoak К.J., Nisbett R.E., Thagard P. Induction: Processes of Inference, Learning and Discovery. Cambridge: MIT Press, 1986. -416 p.

121. Hunt K. J., D. Sbarbaro, R. Zbikowski and PJ. Gawthrop Neural Networks for Control System A Survey // Automatica. - 1992. - Vol. 28. - P. 1083-1112.

122. Levin L. A. Universal sequential search problems // Problems of Information Transmission. 1973. - № 9(3). - P. 265-266.

123. Lippman R. P. An introduction to computing with neural nets // IEEE ASSP Magazine. 1987. - P. 4-22.

124. Moller M. F. A scaled conjugate gradient algorithm for fast supervised learning // Neural Networks. 1993. - Vol. 6. - P. 525-533.

125. Murray R. D., Neumerkel and D. Sbarbaro Neural Networks for Modeling and Control of a Non-linear Dynamic System // Proceedings of the 1992 IEEE International Symposium on Intelligent Control. 1992. - P. 404-409.

126. Nguyen D., Widrow B. Improving the learning speed of 2-layer neural networks by choosing initial values of the adaptive weights // Proceedings of the International Joint Conference on Neural Networks. 1990. - Vol 3. - P. 21-26.

127. Prokhorov D., Wanch D. Adaptive critic designs // IEEE transactions on Neural Networks. 1997. - September - P. 997-1007.

128. Rumelhart D. E., Hinton G. E., Williams R. J. Learning internal representations by error propagation // Parallel Data Processing / D. E. Rumelhart and J. L. McClelland, eds. Cambridge, MA: The M.I.T. Press, - 1986. - P. 318-362.

129. Rumelhart D. E., Hinton G. E., Williams R. J. Learning representations by back-propagating errors // Nature. 1986. - Vol. 323. - P. 533-536.

130. Schmidhuber J. Reinforcement learning in Markovian and non-Markovian environments // Advances in Neural Information Processing Systerns / D. S. Lippman, J. E. Moody, and D. S. Touretzky. San Mateo, CA: Morgan Kaufmann, 1991. - P. 500-506.

131. Schmidhuber J., Zhao J., Schraudolph. Reinforcement Learning with self modifying policies // Learning to learn / S. Thrun and L. Pratt, eds. - Kluwer, 1997.-P. 293-309.

132. Solomonoff R. J. A formal theory of inductive inference. Part I. // Information and Control. 1964. - № 7. - P. 1-22.

133. Solomonoff R. J. An application of algorithmic probability to problems in artificial intelligence // Uncertainty in Artificial Intelligence / L. N. Kanal and J. F. Lemmer, editors. Elsevier Science Publishers, 1986. - P. 473-491.

134. Soloway D. and P. J. Haley Neural Generalized Predictive Control // Proceedings of the 1996 IEEE International Symposium on Intelligent Control. -1996.-P. 277-281.

135. Sutton R. Learning to predict by the methods of temporal dierences // Machine Learning. 1988. - № 3. - P. 9-44.

136. Sutton R., Barto A. Reinforcement Learning: An Introduction. Cambridge: MIT Press, 1998. - 432 p.

137. Tsitolovsky L.E. A model of motivation with chaotic neuronal dynamics //Journ. of Biological Systems. 1997. - Vol. 5. N.2. - P. 301-323.

138. Vogl T. P., Mangis J. K., Rigler A. K., Zink W. T. and Alkon D. L. Accelerating the convergence of the backpropagation method // Biological Cybernetics. 1988. - Vol. 59. - P. 256-264.

139. Watkins C. J., Dayan P. Q learning // Machine Learning. - 1992. - № 8.-P. 279-292.

140. Whitehead S. D., Ballard D. H. Active perception and reinforcement learning // Neural Computation. 1990. - № 2(4). - P. 409-419.

141. Wiering M., Schmidhuber J. HQ learning // Adaptive behavior. —1998. -№6(2).-P. 219-246.