автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Метод анализа состояния динамических систем на основе применения нейросетевых технологий

Введение.

ГЛАВА 1. Методы анализа динамических систем.

1.1. Анализ существующих подходов исследования состояния динамических систем.

1.2. Характеристика нейронных сетей и динамических систем как объекта анализа с применением нейронных сетей.

1.3. Описание объекта исследования и области применимости метода.

1.4. Постановка задачи.

Выводы по главе.

ГЛАВА 2. Нейросетевой метод анализа состояния динамических систем.

2.1. Подготовка и анализ входных и выходных данных.

2.1.1. Кодирование данных.

2.1.2. Нормирование данных.

2.1.3. Работа с малыми выборками и восстановление пропущенных данных

2.1.4. Снижение размерности и формирование оптимального пространства признаков.

2.2. Методика настройки параметров нейронной сети и выбор структуры для анализа динамических систем.

2.2.1. Влияние отдельных параметров на работу нейронной сети.

2.2.2. Оценка ограничений применимости метода анализа состояния динамических систем с помощью нейронных сетей.

2.3. Методы кластерного анализа, применяемые при исследовании состояния динамических систем.

2.4. Построение фазового пространства динамической системы с помощью нейронной сети.

2.5. Идентификация изменений в состоянии динамической системы по результатам анализа изменений в структуре нейронной сети.

Выводы по главе.

ГЛАВА 3. Математическое обеспечение нейросетевой распределенной обработки данных и анализа состояний динамических систем.

3.1. Формирование иерархических коллективов нейронных сетей.

3.2. Математическое обеспечение распределения коллективов нейронных сетей для анализа динамических систем.

3.3. Построение системы оценок параметров нейронных сетей.

3.3.1. Оценочные показатели однородных нейронных сетей.

3.3.2. Критериальные оценки нейронных сетей.

3.4. Статистическая оценка нейронных сетей.

3.4.1. Статистический метод качественного сравнения нейронных сетей для анализа динамических систем.

3.4.2. Методика качественного сравнения нейронных сетей.

Выводы по главе.

ГЛАВА 4. Программный комплекс на основе аппарата нейронных сетей для анализа динамических систем.

4.1. Описание разработанного программного комплекса.

4.2. Сравнение характеристик программного комплекса с аналогами.

4.3. Результаты экспериментальной проверки метода анализа состояния динамических систем на основе применения нейронных сетей.

4.3.1. Классификация дефектов малых размеров на поверхности металлопроката.

4.3.2. Анализ экономико-математической модели поступления основных бюджетных налогов.

4.4. Использование полученных результатов в других областях.

Выводы по главе.

Компьютеризация общества, наряду с развитием самой вычислительной техники, позволяет использовать все более сложные и требующие повышенных вычислительных мощностей методы обработки данных и построенные на их основе программно-аппаратные комплексы. Важными областями использования таких комплексов являются своевременное и точное прогнозирование, анализ состояний динамических систем, поиск взаимосвязей между данными. Результаты работы системы обработки данных могут использоваться в информационных системах более высокого уровня [102], куда она входит, в соответствии с системным подходом, уже как подсистема [131].

Увеличение объемов эмпирических исследований и их широким распространением в различных областях произошло значительное усложнение представлений о соотношении между эмпирическими данными и извлекаемой из них и нужной исследователю информации [140]. Расширение сферы применимости методов анализа эмпирических данных о той или иной системе заставляет совершенствовать существующие инструменты и методы для наделения их все большей функциональностью.

Правильно выполненный анализ позволяет значительно более грамотно определять тактику и стратегию развития исследуемого объекта или системы, избегая значительных потерь и ошибочных решений. Поэтому в последнее время системам анализа и прогнозирования уделяется все большее внимание, их разработку финансируют, в том числе и государственные структуры. Но получить идеально точное значение параметра в будущем невозможно, как и не возможно полностью предугадать поведение сложной динамической системы. Это связано с тем, что невозможно снизить среднюю ошибку моделирования ниже определенного уровня, вне зависимости от того насколько сложен применяемый метод, так как при моделировании реальной 6 системы имеется громадное число факторов, и учет каждого из них является в настоящее время не решаемой задачей. Поэтому для получения удовлетворительных результатов требуется построение модели, учитывающей только «ключевые» параметры, наиболее сильно влияющие на состояние исследуемой системы. Однако «усложнение» модели приводит к повышению требований к вычислительным методам и ресурсам, а во многих случаях такое моделирование невозможно из-за сложности задач и недостатка данных об исследуемой динамической системе [114, 117, 118].

Эмпирические данные о системе, как правило, не содержат непосредственной информации о наиболее существенных «внутренних» характеристиках или свойствах изучаемой системы [140]. В большинстве случаев, вопрос о том, что является полезной информацией, не имеет очевидного ответа и требует специальных рассмотрений.

В настоящее время одним из перспективных методов параметрического анализа динамических систем являются модели, построенные на базе нейронных сетей [71]. Использование нейронных сетей в качестве инструмента моделирования и анализа предоставляет широкие возможности по учету разнородных и обладающих большой размерностью параметров. Нейронная сеть рассматривает процесс исследования динамических систем как анализ совершенно произвольных наборов образов, соответствующих тому или иному объекту моделирования. Возникающая при этом проблема -обучение нейронной сети «работать» с данным объектом при имеющихся ограниченных вычислительных ресурсах на ее реализацию.

Хотя нейронными сетями занимаются сравнительно недавно по сравнению с традиционными методами анализа, для них разработано множество парадигм и алгоритмов обучения. Однако нейросетевые подходы не позволяют достичь оптимальных результатов работы нейронных сетей вне зависимости от поставленной задачи, то есть, нет универсального метода решения любой задачи. Каждая задача является специфической и требует применения частных методов и подходов к ее решению [62, 71, 119, 127]. 7

С этой точки зрения динамические системы представляют большую сложность для анализа, так как, несмотря на огромное количество закономерностей и связей, учитываемых в модели, существует множество случайных воздействий, способных полностью перечеркнуть выявленные закономерности и перевести исследуемые показатели работы системы в совершенно другую область изменения их значений [51, 114].

Кроме того, при решении таких задач необходимо учитывать наличие пропусков в рядах данных, недостаточных по объему выборок для применения обычных методов анализа с достаточной точностью и, наконец, стохастичность и многомерность данных, приводящих к потере «прозрачности» при их анализе.

Актуальность работы объясняется тем, что в реальных условиях наблюдение и анализ динамических систем является достаточно ресурсоемкой задачей, качество решения которой зависит от количества учитываемых параметров. Существующие методы решения требуют значительных временных и материальных затрат на построение параметрических портретов, что, в свою очередь, приводит к задержкам получения результата классификации состояния динамической системы и отрицательно сказывается на эффективности использования средств, выделяемых на расчет задач такого типа.

В металлургии анализ динамических систем с множеством параметров применяется при исследовании технологий выплавки металла, процессов его обработки, контроле качества поверхности листа. Используется такой анализ и в сбытовых структурах предприятий при рассмотрении ситуаций на рынке, оценке финансовой устойчивости покупателей.

Недостатки большинства существующих методов состоят в том, что они используют упрощенную модель динамической системы, ограничивая число учитываемых факторов, не поддерживают распределение вычислений по вычислительным сетям и достаточно требовательны по времени на обработку имеющихся сведений. Все вышеизложенные факты 8 обуславливают необходимость создания метода анализа состояния динамических систем, позволяющего существенно изменить подходы к построению алгоритмического обеспечения анализа динамических систем, а так же снизить время реакции на происходящие в динамической системе изменения

Предметом исследования являются динамические системы и, в частности, их параметрические и фазовые портреты, позволяющие проводить разбиение состояний системы на области со схожими значениями выходов.

Целью диссертационной работы является разработка параметрического метода анализа состояния динамических систем, основанного на использовании технологии нейронных сетей, применимого в условиях наличия нечетких данных, характеризующих зависимости в системе и обеспечивающего уменьшение реакции модели на происходящие изменения за счет распределенных вычислений.

Исходя из цели работы, с учетом анализа проблемы и существующих методов в диссертации решаются следующие основные задачи:

- исследование особенностей анализа динамических систем и построения их моделей с использованием нейросетевых технологий;

- разработка и исследование алгоритмов предобработки и обучения, обеспечивающих повышение информативности входных данных и точности результатов моделирования динамических систем;

- разработка системы оценок параметров моделей для анализа динамических систем, построенных на базе нейронных сетей, и методов их сравнения;

- построение иерархических коллективов нейронных сетей и метод их распределения в вычислительных сетях;

- разработка программного комплекса для анализа поведения динамических систем.

Методы исследования. При выполнении работы использованы методы теории вероятностей, нейроматематики и математической статистики, различные модели прогнозирования, метрологические подходы к оценке нейросетей, методы решения некорректных задач, методы компьютерного моделирования, основы теории построения алгоритмов и программ, методы теории катастроф и теории управления.

Научная новизна результатов работы состоит в следующем.

1. Разработан метод построения фазовых портретов, основанный на применении нейронных сетей, позволяющий анализировать состояние динамических систем.

2. Предложен способ выявления изменений в динамической системе, основанный на учете структурных модификаций в нейронной сети и позволяющий отслеживать качественные изменения в состоянии динамических систем.

3. Разработан алгоритм построения иерархических коллективов нейронных сетей, распределенных по вычислительным сетям, позволяющий разделять задачи обработки данных на более мелкие составляющие.

В области теории моделирования на основе применения нейросетевых технологий определены возможные области и границы применения нейросетевых моделей динамических систем. Разработанный метод, алгоритмы и методики апробированы при решении типовых практических задач классификации.

Практическая ценность диссертационной работы определяется тем, что:

- разработана методика статистического качественного сравнения моделей, функционирующих на базе нейросетей, основанная на вероятностной интерпретации испытаний;

- разработана методика оценки различных нейронных сетей, позволяющая проводить рациональный их выбор для конкретных приложений;

10

- разработан программный комплекс анализа состояния динамической системы, внедренный на ОАО «Череповецкий сталепрокатный завод»;

- результаты диссертации нашли применение в учебном процессе на кафедре «Программное обеспечение ЭВМ» Череповецкого государственного университета в курсе «Системы искусственного интеллекта» для специальности 220400 - программное обеспечение вычислительной техники и автоматизированных систем.

Разработанное математическое обеспечение является основой для построения программных комплексов для анализа динамических систем с применением нейронных сетей.

Реализация и внедрение результатов исследований. Сформулированные принципы построения моделей и методики исследования динамических систем были положены в основу ряда систем идентификации дефектов, прогнозирования налоговых поступлений, финансового анализа состояния предприятий. Большинство полученных в работе теоретических результатов доведено до конкретных инженерных приложений, методик и технических предложений, внедренных в ряде организаций. Созданный программный комплекс анализа динамических систем на базе нейронных сетей успешно прошел испытания и внедрен на ОАО «Череповецкий сталепрокатный завод».

В отличие от существующих методов предлагаемый методический аппарат позволяет решать широкий круг задач оценки эффективности, классификации, выбора оптимального состава и характеристик исследуемых динамических систем.

Достоверность полученных результатов обеспечивается корректным использованием математического аппарата, а также современных методов и алгоритмов, проверенных на практике.

Апробация работы. Основные положения диссертационной работы докладывались и обсуждались на Международной электронной научной

11 конференции "Перспективные технологии автоматизации" (г. Вологда, 1999 г.), Межвузовской конференции «Информационные технологии в производственных, социальных и экономических процессах» (г. Череповец, 1999 г.), XIII Межвузовской военно-научной конференции (г. Череповец, 1999 г.), Межвузовской научно-технической конференции «Управляющие и вычислительные системы. Новые технологии» (г. Вологда, 2000, 2001 г.г.), Всероссийской научно-практической конференции «Математическое моделирование экономических систем и процессов» (г. Чебоксары, 2000 г.), VIII Всероссийской конференции «Нейрокомпьютеры и их применение» НКП-2002 с международным участием (г. Москва, 2002 г.).

Публикации. По теме диссертации опубликовано 11 печатных работ, в том числе 7 статей и 4 тезиса докладов.

Основные положения, выносимые на защиту:

- метод построения параметрического и фазового портрета динамической системы с помощью нейронной сети;

- способ идентификации изменений в состоянии сложных динамических систем на основе анализа изменений, происходящих в структуре нейронной сети;

- методика статистического качественного сравнения моделей, построенных на базе нейронных сетей;

- программный комплекс для анализа поведения динамических систем.

Структура и объем диссертации. Диссертационная работа состоит из списка сокращений, введения, четырех глав, заключения, библиографического списка из 143 наименований и приложений. Общий объем диссертации 186 страниц машинописного текста, в том числе: 156 страниц основного текста и 30 страниц приложений, 38 рисунков, 6 таблиц.

Во введении приведено обоснование актуальности темы работы, приведена постановка задачи и краткая аннотация содержания работы по

12

разделам. Выделена научная новизна и практическая ценность полученных результатов, сформулированы защищаемые положения.

В первой главе рассмотрено современное состояние проблемы анализа динамических систем и тенденции развития способов и методов ее решения. Показана перспективность использования нейронных сетей для определения состояния системы. Рассмотрены проблемы, возникающие при изучении поведения таких систем с применением возможностей технологии нейронных сетей. Произведена постановка задачи по анализу динамических систем с привлечением нейросетевых технологий.

Вторая глава посвящена вопросам предварительной обработки входных и выходных данных. В ней рассмотрен разработанный метод определения устойчивости динамических систем путем построения ее параметрических и фазовых портретов, а так же разработанный способ идентификации изменений в состоянии динамической системы на базе моделей, использующих нейронные сети.

В третьей главе рассмотрено разработанное математическое обеспечение для построения иерархических коллективов нейронных сетей и их распределения в вычислительных сетях. Изложены основные результаты по исследованию методов сравнения различных по структуре нейронных сетей. Рассмотрены подходы к оценке эффективности реализации модели, построенной на базе нейронных сетей. Приведена разработанная методика статистического качественного сравнения моделей, работающих на основе нейросетевой технологии.

В четвертой главе описана программная реализация предложенных алгоритмов. Рассмотрены основные возможности программного комплекса, проведено сравнение его возможностей с аналогичными программными пакетами. Приведены результаты экспериментального исследования разработанного программного комплекса.

В заключении сделаны выводы по результатам, полученным в ходе выполнения диссертационной работы.

13

В приложении приведены результаты испытаний программного комплекса, результаты практических исследований по различным функциям активации, результаты исследований зависимости скорости обучения нейронной сети от коррелированности входов и выходов, возможности программного комплекса по его интеграции, пример выбора нейросетевой модели с помощью разработанной методики статистического сравнения нейронных сетей, акты о внедрении результатов диссертационной работы.

14

ВЫВОДЫ ПО ГЛАВЕ

Опыт эксплуатации программного комплекса подтвердил правильность предложенных решений, доказал преимущество использования специализированных нейронных сетей в случаях исследования состояния динамических систем. Он был опробован на тестовых задачах, а также при анализе финансовой устойчивости предприятий и фирм на основе имеющихся о них информации.

В результате работы с нейронной сетью были получены удовлетворительные результаты моделирования исследуемой системы и правильного выделения ключевых параметров, характеризующих ее состояние. Проведенные исследования показали необходимость создания «единого механизма» - от построения модели, анализа, обработки имеющихся данных до обучения нейронной сети в одном программном комплексе.

Разработанный ПК на базе нейронных сетей прошел испытания и внедрен на ОАО «ЧСПЗ», о чем свидетельствует акт внедрения. Поставленные задачи могли быть решены только на основе предложенных методов и средств анализа.

140

ЗАКЛЮЧЕНИЕ

Решение в диссертационной работе проблем, связанных с анализом динамических систем и построением распределенных коллективов нейронных сетей, позволило сделать вывод о возможности применения нейронных сетей для решения поставленных задач. Особенно удобно НС применять в условиях, когда использование стандартных подходов, предлагаемых теорией управления, невозможно.

Основное внимание в работе уделено разработке методов построения фазовых портретов и мониторинга изменений в таких системах с использованием моделей, построенных на базе нейронных сетей. Доказана возможность на основе предложенных методов проводить исследования состояния динамических систем различной сложности. Вторым аспектом данной работы является построение модели иерархических коллективов нейронных сетей, позволяющих перейти к распределенным моделям. Без решения этой задачи невозможно практическое использование предложенных методов анализа, так как процесс расчета занимал бы очень длительное время.

Для решения названных задач были предложены и обоснованы следующие положения:

1. Предложены алгоритмы предварительной обработки данных во входных рядах и методы повышения информативности имеющихся выборок для их дальнейшей обработки с помощью нейронных сетей.

2. Разработан метод построения параметрических и фазовых портретов динамических систем на базе нейронных сетей.

3. Разработан способ выявления изменений состояния динамической системы для анализа ее поведения, основанный на учете структурных модификаций в нейронных сетях.

141

4. Разработан способ и реализован алгоритм построения иерархических коллективов нейронных сетей с использованием аппарата кластерного анализа для их распределения по вычислительным сетям и гибкой адаптации модели к решаемой задаче.

5. Разработана методика статистического качественного сравнения различных моделей нейронных сетей в условиях применения их для анализа стохастических данных, основанная на вероятностной интерпретации испытаний.

6. Разработан и внедрен программный комплекс, реализующий полученные алгоритмы построения и анализа, что подтверждено соответствующим актом.

Реализуя указанные положения, в диссертационной работе достигнуты следующие основные научные и практические результаты:

1. Разработанный метод позволяет использовать нейронные сети для проведения анализа состояния сложных динамических систем.

2. Предложенная методика оценки различных нейронных сетей позволяет производить рациональный их выбор для конкретных приложений.

3. Созданный программный комплекс анализа состояния динамических систем на базе нейронных сетей успешно прошел испытания и внедрен на ОАО «Череповецкий сталепрокатный завод».

На основе разработанного ПК были проведены экспериментальные исследования разработанных методов анализа динамических систем непосредственно на предприятии. Они показали правильность подходов к решению данной проблемы, о чем говорит акт внедрения, имеющийся в приложении.

Внедрение результатов данной работы на практике позволит добиться повышение скорости и достоверности анализа состояния динамических

142 систем. Это, в свою очередь, приведет к материальному выигрышу и возможности правильного выбора стратегии по принятию управляющих воздействий на изучаемую динамическую систему.

Применение нейросетевых технологий позволяет решать задачи, описание которых математическим способом невозможно или очень сложно, что очень часто имеет место на практике. Предложенная база дает инженерам удобный инструментарий к анализу целого ряда задач. Сюда можно отнести такие задачи как: анализ состояния систем, классификация данных, распознавание образов, аппроксимация функций, прогнозирование.

1. US5561741: Method of enhancing the performance of a neural network. US5566273: Supervised training of a neural network. US5592589: Tree-like perceptron and a method for parallel distributed training of such perceptrons.

2. US5627942: Trainable neural network having short-term memory for altering input layer topology during training.

3. US5659667: Adaptive model predictive process control using neural networks.

4. US5664066: Intelligent system for automatic feature detection and selection or identification.

5. US5680513: Series parallel approach to identification of dynamic systems.

6. US5684929: Method and apparatus for determining the limit on learning machine accuracy imposed by data quality. US5687286: Neural networks with subdivision.

7. US5727128: System and method for automatically determining a set of variables for use in creating a process model.

8. US5729662: Neural network for classification of patterns with improved method and apparatus for ordering vectors.

9. US5819245: Method of organizing data into a graphically oriented format.

10. US5825646: Method and apparatus for determining the sensitivity ofinputs to a neural network on output parameters.

11. US5 826249: Historical database training method for neural networks.

12. US5 832466: System and method for dynamic learning control ingenetically enhanced back-propagation neural networks.

13. US5862304: Method for predicting the future occurrence of clinicallyoccult or non-existent medical conditions.

14. US5870728: Learning procedure for multi-level neural network.

15. US5870729: Self-organizing neural network for pattern classification.

16. US5903884: Method for training a statistical classifier with reducedtendency for overfitting.

17. US5926804: Discriminant neural networks.

18. US5933819: Prediction of relative binding motifs of biologically active peptides and peptide mimetics.

19. US5940777: Automatic seismic pattern recognition method. US5946673: Computer implemented machine learning and control system.

20. US5956702: Time-series trend estimating system and method using column-structured recurrent neural network.

21. US5974404: Method and apparatus for input classification using a neural network.

22. Widrow В., Lehr M.A. 30 years of adaptive neural networks: perceptron, madaline, and backpropagation // Proceedings of the IEEE, vol. 78, No. 9, September, 1990, p. 1415-1442.

23. Williams R.J. Learning representations by back-propagating errors // Nature, 1986.

24. Айвазян С.А., Бежаева З.И., Староверов O.B. Классификация многомерных наблюдений.- М.: Статистика, 1974.- 240 с. Айвазян С.А., Степанов B.C. Инструменты статистического анализа данных. // Мир ПК, 1997. №8.

25. Анил К. Джейн, Жианчанг Мао, К М. Моиуддин Введение в искусственные нейронные сети. // Открытые системы, 1997. №4. Армстронг Дж.Р. Моделирование цифровых систем. М.: Мир, 1992.- 174 с.

26. Борисов Ю., Кашкаров В., Сорокин С. Нейросетевые методы обработки информации и средства их программно-аппаратной поддержки. // Открытые системы, 1997. №4.

27. Боровков A.A. Математическая статистика. Новосибирск: Наука,

28. Издательство Института математики, 1997. 772 с.

29. Боровков A.A. Теория вероятностей. М.: Наука, 1976.

30. Буров К. Обнаружение знаний в хранилищах данных. // Открытыесистемы, 1999. №5,6.

31. Бусленко Н. П. Моделирование сложных систем. М.: Наука, 1978.- 400 с.

32. Бэстенс Д.-Э., ван ден Берг В.-М., Вуд Д. Нейронные сети и финансовые рынки: принятие решений в торговых операциях. -Москва: ТВП, 1997. 236 с.

33. Васютин C.B. Заполнение пропусков в данных с использованием нейронных сетей. / Сборник докладов. V Всероссийская конференция «Нейрокомпьютеры и их применение». Москва, 1999.- 484 с.

34. Галушкин А.И. Современные направления развития нейрокомпьютерных технологий в России. // Открытые системы,1997. №4.

35. Галушкин А.И., Шмид A.B. Оптимизация структуры многослойных нейронных сетей с перекрестными связями. // Нейрокомпьютер,1998. №3,4. с. 7-12.

36. Герасимова A.B., Грачев JI.B. К вопросу о представительности обучающей выборки для парадигмы нейронных сетей с переменной структурой. //Нейрокомпьютер, 1992. № 3,4. с. 3-6. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация. М.: Мир,1985.- 509с., ил.

37. Гмурман B.C. Теория вероятностей и математическая статистика. -М.: Высш. шк., 1972. 368 с.

38. Гнеденко Б.В. Курс теории вероятностей. М.: Наука, 1969.- 400 с.

39. Горбань А. Нейроинформатика и ее приложения. // Открытые системы, 1998. №4,5.

40. Горбань А.Н. Обучение нейронных сетей. М.: изд. СССР-США СП "Параграф", 1990. 160 с.

41. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука (Сиб. отделение), 1996. 276 с. Горчаков A.A., Орлова И.В. Компьютерные экономико-математические модели: Учеб. пособие для вузов. М.: Компьютер, ЮНИТИ, 1995.- 136 с.

42. Гусев С.Б. Система распознавания символов на основе нейросети Хопфилда // СБОРНИК ТРУДОВ МОЛОДЫХ УЧЕНЫХ ЧГУ: Выпуск 1 / Сост. А. И. Виноградов. Череповец: НИЛ ММТ и СЭП, 1998.- с. 8.

43. Гусев С.Б., Зуев А.Н. Проблемы использования нейросетей. Управляющие и вычислительные системы. Новые технологии:

44. Материалы межвузовской научно-технической конференции. -Вологда: ВоГТУ, 2000. с. 134-135.

45. Гусев С.Б. Применение нейронных сетей в анализе временных рядов. // Сборник научных трудов молодых ученых «PER ASPERA.» / Сост. А. И. Виноградов. Череповец: ЧТУ, 2000. с. 20.

46. Доленко С.А., Орлов Ю.В., Персианцев И.Г., Шугай Ю.С. Анализ временных рядов с помощью иерархических нейросетевых классификаторов. / Сборник докладов. VI Всероссийская конференция «Нейрокомпьютеры и их применение». Москва, 2000. - 662с.

47. Ежов А., Чечеткин В. Нейронные сети в медицине. // Открытые системы, 1997. №4.

48. Ежов А.А., Шумский С.А. Нейрокомпьютинг и его применения в экономике и бизнесе (серия «Учебники экономико-аналитического института МИФИ» под ред. проф. В.В. Харитонова). М.: МИФИ, 1998.-224 с.

49. Еремин Д.И. Контрастирование // Нейропрограммы/ под. ред. А.Н. Горбаня. Красноярск: изд. КГТУ, 1994. стр. 88-108. Змитрович А.И. Интеллектуальные информационные системы. -Мн.: НТООО «ТетраСистемс», 1997. 368 с.

50. Зуев А. Н., Гусев С.Б. Распознавание символов на основе нейросети Хопфилда // Перспективные технологии автоматизации: Тезисы151докладов международной электронной научно-технической конференции. Вологда: ВоГТУ, 1999. с. 122-123.

51. Зуев А.Н., Гусев С.Б. Система прогнозирования заданных экономических показателей. // Межвузовская конференция Информационные технологии в производственных, социальных и экономических процессах. Тезисы докладов и сообщений. -Череповец: ЧТУ, 1999. с. 29.

52. Итоги науки и техники. Сер. «Физ. и Матем. модели нейронных сетей» / Под ред. А.А.Веденова. М.: Изд-во ВИНИТИ, 1990-92 - Т. 1-5.

53. Калашников В. В., Рачев С. Т. Математические методы построения стохастических моделей обслуживания. М.: Наука, 1988. - 312 с.

54. Кендалл М., Стьюарт А. Статистические выводы и связи.- М.: Наука, 1973.- 900 с.

55. Киселев М., Соломатин Е. Средства добычи знаний в бизнесе и финансах. // Открытые системы, 1997. №4.

56. Кохонен Т. Ассоциативная память. М.: Мир, 1980.

57. Кохонен Т. Ассоциативные запоминающие устройства. М.: Мир, 1982.

58. Левшин И. Русский RISC и русские нейроны. // ComputerWorld Россия, 1999. №7.

59. Логовский A.C. Зарубежные нейропакеты: современное состояние и сравнительные характеристики. // Нейрокомпьютер, 1998. № 1,2. с. 13-26.

60. Логовский A.C. Способы применения искусственных нейронных сетей для разработки имитаторов поведения динамических объектов. / Сборник докладов. V Всероссийская конференция «Нейрокомпьютеры и их применение». Москва, 1999. - 484 с.152

61. Математическое моделирование: Методы, описания и исследования сложных систем / Под ред. А. А. Самарского. М.: Наука, 1989. -271 с.

62. Минский М., Пайперт С. Персептроны. М.: Мир, 1971.

63. Мостеллер Ф., Тьюки Дж. Анализ данных и регрессия.- М.: Финансы и статистика, 1982.- 239 с.

64. Проблемы построения и обучения нейронных систем. Сб. статей. // Библиотечка журнала «Информационные технологии».

65. Прокофьев А.Е. Дифференциация доходов населения Вологодской области: 1995-1998 гг. /Препринт №WP/98/04 Вологда: ВНКЦ ЦЭМИРАН, 1998.

66. Прокофьев А.Е. Прогноз макроэкономических показателей развития экономики Вологодской области в 1998-2000 гг. в сценарных вариантах. // Информационно-аналитический бюллетень №1 -Вологда: ВНКЦ ЦЭМИРАН, 1998.

67. Распознавание, классификация, прогноз. Математические методы и их применение. Вып.2. М.: Наука, 1989. - 302 с.

68. Розенблатт Ф. Принципы нейродинамики. Перцептрон и теория механизмов мозга. М.: Мир, 1965. 480 с.

69. Сигеру Омату. Нейроуправление и его приложения. Кн. 2. /Сигеру Омату, Марзуки Халид, Рубия Юсоф; Пер. с англ. Н.В. Батина; Под ред. А.И. Галушкина, В.А. Птичкина. М.: ИПРЖР, 2000. - 272 е.: ил. (Нейрокомпьютеры и их применение).

70. Советов Б.Я., Яковлев С.А. Моделирование систем: Учеб. для вузов по спец. «Автоматизир. системы обработки информ. и упр.». 2-е изд., перераб. и доп. -М.: Высш. шк., 1998. - 319 е.: ил.

71. Статические и динамические экспертные системы: Учеб. пособие / Э.В. Попов, И.Б. Фоминых, Е.Б. Кисель, М.Д. Шапот. М.: Финансы и статистика, 1996. - 320 е.: ил.

72. Степанов B.C. Фондовый рынок и нейросети. // Мир ПК, 1998. №12.153

73. Бесекерский В.А., Попов Е.П. Теория систем автоматического регулирования, издание третье, исправленное. М.: «Наука», Главная редакция физико-математической литературы, 1975. 768 с.

74. Тихонов А.Н., Арсенин В.Я. Методы решения некорректных задач. 2 изд. М. Наука, 1979.

75. Томашевич Д.С., Томашевич Н.С. Галушкин А.И., Муромский М.Ю. Учет артефактов при формировании обучающей выборки для задач экстраполяции функции. / Сборник докладов. VI Всероссийская конференция «Нейрокомпьютеры и их применение». Москва, 2000. - 662с.

76. Тюрин Ю. Н., Макаров А. А. Статистический анализ данных на компьютере. М.: ИНФРА-М, 1999. 528 с.

77. Уидроу Б., Стирнз С. Адаптивная обработка сигналов. М.: Мир, 1989. 440 с.

78. Уоссермен Ф. Нейрокомпьютерная техника. М.: Мир, 1992.

79. Форсайт Дж., Малькольм М., Моулер К. Машинные методы математических вычислений. М.: Мир., 1980, 279 с.

80. Хехт-Нильсен Р. Нейрокомпьютинг: история, состояние, перспективы. // Открытые системы, 1998. №4,5.

81. Химмельблау Д. Прикладное нелинейное программирование. М.: Мир, 1975. 534 с.

82. Хованов Н.В. Анализ и синтез показателей при информационном дефиците. СПб.: Издательство С.-Петербургского университета, 1996.- 196 с.

83. Цыганков В.Д. Вселенная Хокинга и нейрокомпьютер. Серия «Информатизация России на пороге XXI века». М.: СИНТЕГ, 2000, 84 с.

84. Шапот М. Интеллектуальный анализ данных в системах поддержки принятия решений. // Открытые системы, 1998. №1. с. 30-35.154

85. Шеннон К.Е. Работы по теории информации и кибернетике. М.: Изд. ин. лит., 1963.

86. Щемель A.JL, Абовский Н.П. Проблема заполнения в таблицах данных. // Нейрокомпьютеры: разработка, применение, 2000. №1. с.6-9.

87. Каток А.Б., Хасселблат Б. Введение в современную теорию динамических систем / Пер. с англ. А. Кононенко при участии С. Ферлегера. М.: Изд-во «Факториал», 1999. 768 с.

88. Доленко С.А., Орлов Ю.В., Персианцев И.Г., Шугай Ю.С. Анализ временных рядов с помощью иерархических нейросетевых классификаторов. / Сборник докладов. VI Всероссийская конференция «Нейрокомпьютеры и их применение». Москва, 2000.-175с.

89. Ершов Е.В. Метод оптико-электронного контроля и алгоритмы выявления поверхностных дефектов жести. / Диссертация на соискание ученой степени кандидата технических наук. Санкт-Петербург: СЗПИ, 1993. - 290 с.

90. Аркадьев А.Г., Браверманн Э.М. Обучение машины классификации объектов. -М.: Наука, 1971. 192 с.

91. Горелик А.Л., Скрипкин В.А. Методы распознавания: Учеб. Пособие для вузов. 3-е изд., перераб. и доп. М.: Высш. шк., 1989. -232 е.: ил.

92. Браверманн Э.М., Мучник И.Б. Структурные методы обработки эмпирических данных- М.: Наука. Главная редакция физико-математической литературы, 1983. 464 с.

93. Растригин Л. А. Статистические методы поиска. М.: Наука, 1968. 376 с.

94. Алтунин А.Е., Семухин М.В. Модели и алгоритмы принятия решений в нечетких условиях: Монография. Тюмень: Издательство Тюменского государственного университета, 2000. 352 с.158