автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.06, диссертация на тему:Разработка нейросетевой системы управления технологическими процессами на сортировочных горках

005001852

Пучков Евгений Владимирович

РАЗРАБОТКА НЕЙРОСЕТЕВОЙ СИСТЕМЫ УПРАВЛЕНИЯ ТЕХНОЛОГИЧЕСКИМИ ПРОЦЕССАМИ НА СОРТИРОВОЧНЫХ ГОРКАХ

Специальность 05.13.06 - Автоматизация и управление технологическими процессами и производствами (на транспорте)

АВТОРЕФЕРАТ

2 4 НОЯ 2011

диссертации на соискание ученой степени кандидата технических наук

Ростов-на-Дону- 2011

005001852

Работа выполнена в федеральном государственном бюджетном образовательном учреждении высшего профессионального образования «Ростовский государственный строительный университет» (РГСУ)

доктор технических наук, профессор Белявский Григорий Исаакович

доктор технических наук, профессор Иванченко Владимир Николаевич

кандидат технических наук, доцент Лебедев Олег Владимирович

Московский государственный университет путей сообщения (МИИТ)

Защита состоится 9 декабря 2011г. в 14-00 часов на заседании диссертационного совета Д 218.010.03 при Ростовском государственном университете путей сообщения по адресу: 344038, г. Ростов-на-Дону, пл. Ростовского Стрелкового Полка Народного Ополчения, 2, конференц-зал. С диссертацией можно ознакомиться в библиотеке РГУПС.

Автореферат разослан « 8 » Ассл^бл_2011г.

Научный руководитель

Официальные оппоненты

Ведущая организация

Ученый секретарь

диссертационного совета Д 218.010.03, доктор технических наук, профессор

М.А. Бутакова

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследования. Массовое вовлечение за последнее десятилетие в сферу автоматизации сложных технологических процессов и производств привело к появлению новых классов, так называемых, слабо формализованных или информационно-сложных задач. Не исключением являются задачи, возникающие на железнодорожном транспорте, в частности, на сортировочной горке (СГ)- Прежде всего, это связано с невозможностью полного автоматического режима функционирования транспортных объектов с применением традиционного подхода к их управлению. Для решения таких слабо формализованных задач необходима интеграция практического опыта и теоретических знаний в алгоритмы управления в качестве самостоятельных моделей, то есть построение интеллектуальных систем. Одной из наиболее динамично развивающихся областей искусственного интеллекта является нейросетевая технология. Ее популярность связана с успешным применением в различных промышленных, технических и научных областях.

Для решения прикладных задач с помощью нейросетевой технологии возможны два способа. Первый - это аппаратная реализация нейросетевой модели, которая связана с большими финансовыми затратами. Второй -г это программная эмуляция искусственной нейронной сети (ИНС). В любом случае необходимо разработать нейросетевую модель с помощью соответствующего программного обеспечения (ПО). В настоящее время ПО, позволяющее осуществлять проектирование ИНС и решать с помощью построенных моделей прикладные задачи, можно разделить на пять категорий: универсальные нейроэмуляторы, нейросетевые компоненты для статистических пакетов, нейросетевые алгоритмы в системах бизнес-аналитики, предметно-ориентированные нейросетевые решения, нейросетевые библиотеки.

Процесс нейросетевого анализа состоит из большого количества этапов и предполагает использование различных методов для построения ИНС и применения ее в дальнейшем. Поэтому современный нейроэмулятор должен обладать достоинствами, которые характерны для существующих категорий нейросетевого ПО. Среди таких достоинств можно выделить: развитые средства проектирования ИНС; инструменты для анализа и подготовки данных; внутренний источник данных; возможности решения задач специфического характера прикладной области; открытая архитектура и программная масштабируемость; высокая степень автоматизации.

Реализация такого нейроэмулятора позволит решить следующие проблемы: длительное время построения и выбор оптимальной модели ИНС; оценка необходимости использования нейросетевого подхода; низкая оперативность применения нейросетевой технологии; сложность проектирования ИНС для неспециалиста; необходимость внедрения в консолидированные прикладные системы учетного и аналитического характера.

В связи с вышеизложенным, представляется актуальным определение методологии проектирования ИНС, разработка универсальной нейросетевой

системы и создание на ее основе программного комплекса, который сохранит достоинства указанных категорий нейросетевого ПО и позволит решить существующие проблемы. Программный комплекс должен быть ориентирован на построение в автоматизированном режиме нейросетевых моделей прикладных задач классификации и прогнозирования, возникающих на СГ, а разработанные нейромодели - использованы при создании информационно-логических устройств (ИЛУ) для автоматизированного рабочего места (АРМ) оператора.

Степень разработанности проблемы. Диссертационное исследование основано на работах отечественных и зарубежных ученых в области нейросетевых технологий и автоматизированных систем управления. В настоящее время аппарат ИНС и методы его использования постоянно развиваются и совершенствуются. Активные разработки и исследования в области создания систем проектирования ИНС связаны с деятельностью таких организаций как NeuroProject (Москва), BaseGroup Labs (Москва). Следует выделить частный проект В. Царегородцева - NeuroPro (Красноярск). В последнее время наиболее авторитетными и часто цитируемыми российскими работами в области теории и практики применения ИНС считаются труды А.И Галушкина, А.Н. Горбань, А.А. Ежова, С.А. Терехова, С.А. Шуйского и др. За рубежом большой вклад в развитие нейроинформатики внесли R. Hecht-Nielsen, J.J. Hopfield, Т. Kohonen, F. Rosenblatt, D.A. Rummerlhart и др. Методы и принципы построения автоматизированных систем управления сложными организационно-технологическими объектами рассмотрены в работах В.П. Авдеева, А.А. Ашимова, А.Н. Гуды, В.Н. Иванченко, В.М. Лисенкова, Н.Н. Лябаха и др. Различные фундаментальные и прикладные аспекты интеллектуальных систем управления нашли отражение в работах таких ученых как Л.С. Бер-штейн, Н. Винер, В.М. Глушко, Д.И. Дубровский, С.М. Ковалев, А.А. Ляпунов, Д.А. Поспелов, В.Б. Тарасов, А.Н. Шабелышков и др.

Цель и задачи исследования. Цель настоящей диссертационной работы - разработка универсальной нейросетевой системы управления технологическими процессами на СГ.

Для достижения поставленной цели реализуется следующая последовательность задач диссертационного исследования:

1. Анализ состояния проблемы интеллектуальной поддержки принятия решений на СГ и выделение классов решаемых задач.

2. Разработка методологии решения задач классификации и прогнозирования, основанной на использовании современных методов обучения ИНС, подготовки и анализа входных данных.

3. Разработка алгоритма обучения ИНС, позволяющего повысить скорость обучения, избежать попадания в локальные минимумы функции ошибки и оптимизировать архитектуру.

4. Разработка программного комплекса с открытой архитектурой и хранилищем нейросетевых решений, обеспечивающего полный цикл обработки и нейросетевого анализа данных.

5. Внедрение и практическая апробация разработанной системы при решении прикладных задач управления технологическими процессами на СГ.

Объекты и методы исследования. Объектами исследования выступают технологические процессы на СГ и системы горочной автоматизации. Предметом исследования является математическое, алгоритмическое и программное обеспечение процесса построения, обучения и использования ИНС персептронного типа в задачах классификации и прогнозирования, возникающих на СГ. Методы исследования, применяемые в диссертационной работе, основаны на использовании нейросетевых технологий, компьютерного моделирования, математической статистики и теории оптимальных решений. При разработке программного комплекса использовались объектно-ориентированное программирование и теория баз данных.

Выполненная диссертационная работа соответствует следующим пунктам паспорта специальности 05.13.06 «Автоматизация и управление технологическими процессами производствами (на транспорте)»:

п. 15. Теоретические основы, методы и алгоритмы интеллектуализации решения прикладных задач при построении АСУ широкого назначения (АСУТП, АСУП, АСТПП и др.).

п. 17. Использование методов автоматизированного проектирования для повышения эффективности разработки и модернизации АСУ.

п.10. Методы синтеза специального математического обеспечения, пакетов прикладных программ и типовых модулей функциональных и обеспечивающих подсистему АСУТП.

Положения диссертации, выносимые на защиту.

1. Методология автоматизации процесса проектирования нейросетевых моделей для решения управленческих задач на СГ.

2. Нейросетевая система, включающая: совместный алгоритм обучения ИНС; объектно-ориентированную модель автоматизированной системы; хранилище нейросетевых решений.

3. Нейросетевые модели поддержки принятия управленческих решений в системах горочной автоматизации.

Научная новизна содержится в следующих результатах диссертационного исследования:

1. Разработана универсальная объектно-ориентированная модель нейро-сетевой системы с расширяемой архитектурой и динамической базой данных для накопления информации по решаемым задачам, позволяющая использовать сохраненную информацию для подбора ИНС при решении новых задач и повысить оперативность применения данных по сравнению с существующими методами управления технологическими процессами на СГ.

2. Разработан программный комплекс «ЫеигоКАББ», обеспечивающий полный цикл обработки и нейросетевого анализа данных. Реализация оригинального алгоритма обучения, отсутствующего в стандартных нейропакетах, позволила сократить время построения и выбора оптимальной модели ИНС. Программный комплекс настроен для АРМ оператора и обеспечивает запоминание и прогнозирование развития технологических ситуаций в ходе

роспуска состава с целью снижения информационной загрузки оператора, повышения качества формирования поездов и безопасности роспуска.

3. Предложены новые нейросетевые модели поддержки принятия решений в системах горочной автоматизации, позволяющие повысить эффективность управления технологическим процессом роспуска составов за счет более точного решения задач по определению параметров торможения и расчета скорости выхода отцепов из тормозных позиций (ТП).

Практическая значимость диссертационной работы заключается в следующем:

1. Разработана нейросетевая система для АРМа оператора, позволяющая снизить информационную загрузку оператора и повысить качество формирования поездов.

2. Разработаны нейромодели для расчета скоростей выхода отцепа с ТП, определения ступеней торможения и времени их активации при управлении горочными замедлителями.

3. Разработан программный комплекс «NeuroNADS», позволяющий решать широкий круг задач по проектированию ИНС и организовать процесс обучения нейросетевым технологиям.

Достоверность и обоснованность диссертации подтверждается результатами вычислительных экспериментов и обработки реальных данных, публикациями и апробацией работы на международных, всероссийских и региональных научных и научно-технических конференциях, а также актами внедрения результатов работы.

Апробация работы. Основные положения диссертационной работы докладывались на межрегиональных научно-практических конференциях Юго-Западного банка Сбербанка России (Ростов-на-Дону, 2008, 2010), на всероссийской научно-практической конференции студентов, аспирантов и молодых ученых ЮФУ (Ростов-на-Дону, 2009), на всероссийской научной конференция «Нечеткие системы и мягкие вычисления» (Волгоград, 2009), на всероссийском симпозиуме по прикладной и промышленной математике (Санкт-Петербург, 2009), на международных научно-практических конференциях «Строительство» (Ростов-на-Дону, 2009, 2010), «Транс ЖАТ» (Ростов-на-Дону, 2010). Работа подавалась на различные региональные и федеральные конкурсы, где занимала призовые места: конкурс среди специалистов в сфере IT, разработки программного обеспечения и информационной безопасности «Турнир IT - интеллектуалов», номинация «Системы бизнес-аналитики (Business Intelligence)» (2008, 2009, 2010); конкурс «Инновационных идей и проектов Юга России», номинация «Инновационные проекты, направленные на развитие высокотехнологичных производств и услуг»; всероссийский конкурс информационных технологий и информационной безопасности «Интеллектуальная Россия», номинация «Системы бизнес-аналитики» (2009, 2010)». Разработан интернет-портал «Я-Интеллект» (www.i-intellect.ru). На портале можно получить доступ к наиболее интересным статьям по тематике ИНС и загрузить созданный нейросетевой программный комплекс «NeuroNADS». На данный момент разработка представ-

лена в общероссийской программе Федерального агентства по делам молодежи «Зворыкинский проект».

Публикации. По теме диссертации опубликовано 15 печатных работ общим объемом 4 п.л., из них 5 работ - в изданиях, входящих в «Перечень ведущих научных журналов и изданий, выпускаемых в Российской Федерации», утвержденный ВАК, 11 работ без соавторов.

Внедрение результатов работы. Результаты диссертационного исследования внедрены и используются в ростовском филиале Российского научно-исследовательского и проектно-конструкторского института информатизации, автоматизации и связи. Нейросетевой программный комплекс «NeuroNADS» используется в учебном процессе на кафедре «Прикладной математики и вычислительной техники» Ростовского государственного строительного университета с целью обучения студентов методам нейросе-тевого анализа по дисциплине «Интеллектуальные системы»; применяется в Юго-Западном банке Сбербанка России в качестве внутренней системы поддержки принятия решений. Все внедрения дали положительный результат, что подтверждено соответствующими документами.

Структура и объем работы. Диссертационная работа состоит из перечня сокращений, введения, четырех глав, заключения, списка литературы и приложений. Содержание диссертации изложено на 213 страницах, включая 56 рисунков, 13 таблиц, 25 страниц приложений и актов о внедрениях. В список использованных источников включено 146 наименований отечественной и зарубежной литературы (в том числе 36 ссылок на ресурсы Internet).

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы диссертационной работы, сформулирована цель и задачи исследований, показана научная новизна и практическая ценность полученных результатов. Дана общая характеристика работы и структура изложения материала. Приведены сведения об апробации и опубликовании основных положений работы.

В первой главе анализируются технологические процессы на СГ с целью определения места интеллектуальных технологий при их управлении. Проводится обзор отечественной и зарубежных систем горочной автоматизации и оценивается степень использования в них систем искусственного интеллекта.

СГ относится к числу сложных технологических объектов, обладающих целым рядом характерных особенностей, позволяющих отнести ее к классу слабо формализованных объектов математического моделирования. Управление такими объектами невозможно без разработки интеллектуальных подсистем, обеспечивающих экспертную поддержку принятия решений, интегрированных в комплексную систему автоматизированного управления.

Архитектура такой интегрированной системы горочной автоматизации (ИСГА) приведена ниже (рисунок 1), где: АО - объект автоматизации; АСУ СС - автоматизированная система управления сортировочной станцией;

APC- автоматическое регулирование скорости; ивь1х-выходные управляющие воздействия;и„3-управляющие воздействия операторского звена.

Рисунок 1 - Архитектура интегрированной системы горочной автоматизации

Особенностью приведенной архитектуры ИСГА является совместное использование в ней нескольких классов моделей принятия решений.

Важный класс составляют нейросетевые модели. В этой архитектуре нами были решены следующие задачи:

- расчет скорости выхода отцепа с ТП;

- определение оптимальных стратегий регулирования вагонными замедлителями, сводящихся к выбору ступеней торможения и времени их активации;

- запоминание и прогнозирование развития технологических ситуаций в ходе роспуска состава с целью снижения информационной загрузки оператора.

Вторая глава посвящена вопросам создания нейросетевых моделей прикладных задач управления на СГ. Для этого проанализированы этапы проектирования ИНС, выявлены их особенности с целью возможности автоматизации. На основании проведенного анализа этапов проектирования ИНС предложена методология решения прикладных задач классификации и прогнозирования (рисунок 2).

Задачи, возникающие при управлении СГ, имеют высокую размерность, большой объем данных. Эти данные могут быть неполными и зашум-ленными, поэтому предварительная подготовка данных является важным этапом проектирования ИНС. Для разных задач предварительная обработка данных производится следующим образом:

1. Фильтрация и восстановление пропущенных данных происходит на основе метода главных компонент и применения ИНС с «узким горлом».

2. Отбор входных признаков для задачи классификации производится также с помощью метода главных компонент.

3. Для задачи прогнозирования используется эвристический алгоритм на основе ИНС. Важную роль при этом играет алгоритм box-counting, предназначенный для определения глубины погружения при обработке темпоральных данных, отражающих динамику процессов, например, в задачах прицельного торможения.

На следующем этапе решаются задачи нормализации числовых данных и кодирования категориальных признаков. Например, в таких задачах, как определение ступени торможения, требуется использование категориальных признаков (ходовые свойства отцепа, ступень торможения).

Предварительно, до построения ИНС, необходимо провести моделирование с помощью классических методов (авторегрессия, скользящее среднее, метод ближайшего соседа и др.) и определить уровень точности, ниже которого создаваемая нейромодель не должна опускаться, в противном случае, это нивелирует преимущества нейросетевого подхода.

Далее определяется архитектура ИНС на основании теоремы Колмогорова-Арнольда, адаптированной для ИНС Хехт-Нильсеном. Данная теорема дает оценку сверху числа нейронов скрытых слоев.

Следующим этапом проектирования ИНС является инициализация. Качественная инициализация существенно ускоряет обучение. В работе предложен оригинальный алгоритм, обобщающий наиболее существенные результаты в этом направлении.

Важный этап проектирования ИНС - обучение и оптимизация ее архитектуры. Алгоритм обучения ИНС представляет собой итерационный процесс коррекции синаптических весов:

w(t + l) = w(t) + r1(t)p(t), где вектор p(t) задает направление движения, a i}(t) - размер шага, t - номер итерации. В основе практически всех алгоритмов обучения лежит оптимизационная задача, а алгоритм обучения - это алгоритм ее решения.

Начало

На основе МГК и ИНС: очистка и фильтрация данных, выбор экзогенных признаков

Выбрать способ нормализация данных. Нормализация

Выбрать способ кодирования. Кодирование

Признак нечисловой

Оценить уровень точности с помощью классических .4 ■ методов,

Подбор глубины погружения с помощью box-counting алгоритма.

Формирование . обучающей выборки

Решается задача прогнозирования

Определение архитектуры ИНС на основе теоремы Хехг-Нильсена

Подбор, способа инициализации сети.. Инициализация

Контроль Цк)>0Д

Запустить простой градиентный спуск

Контроль L(k)>0,01

Запустить метод сопряженных градиентов

Контроль L(k)>0,0001

Запустить', квазиньютоновский метод

Случайно .модифицировать . ... веса: . ,

Ошибка обобщения < порога

Прореживание ИНС. Корректировка

Добавить ИНС в -'ансамбль Щ

Ансамбль сформирован

Конец

Рисунок 2 - Алгоритмическое представление методологии осуществления процесса проектирования ИНС, обеспечивающее эффективное решения задач классификации и прогнозирования

В связи с этим необходимо выбрать направление движения и шаг. При этом обычно используются градиентные методы и методы случайного поиска. Для декомпозиции сложной задачи обучения применяется хорошо известный алгоритм обратного распространения ошибки (back propagation error).

Количество экспериментальных данных, получаемых от систем горочной автоматизации, может составлять миллионы записей, а создаваемые архитектуры ИНС содержать тысячи синалтических весов, вследствие чего становится актуальным вопрос ускорения процесса обучения ИНС и оптимизации ее архитектуры.

В результате проведенного анализа алгоритмов обучения ИНС предлагается использовать совместно простой градиентный спуск, метод сопряженных градиентов, квазиньютоновский метод и метод «потряхивания» весовых коэффициентов.

Обучение, таким образом, проводится в три этапа. На первом - грубая настройка простым градиентным спуском, на втором - применяете- метод сопряженных градиентов и на третьем - тонкая настройка квазиньютоновским методом. В идеальном случае зависимость ошибки от

номера итерации имеет вид E(t) =—, где E(t) - средняя квадратическая

ошибка, t - номер итерации.

Найдем отношение ^^ = -—-. Вычисление этого отношения позво-E(t-i). t

ляет избавиться от неизвестного параметра а. Рассмотрим

ч=

1--

lA E(t)

. Среднее значение более адекватно описывает процесс

к и Е(1-0

обучения, чем одиночное отношение. С ростом эта величина будет стремиться к нулю. Отсюда вытекает естественный критерий переключения между этапами обучения. Введем три порога 9Р 62 и 93. Пока Ьь>01, используется грубый метод, в нашем случае простой градиентный спуск. Как только Ьк располагается между 0, и 02, то используется метод сопряженных градиентов. И, наконец, как только Ьк располагается между 02 и 03, - используется тонкая настройка с помощью квазиньютоновского метода.

Случай, когда Ьк < в3, означает, что ошибка изменяется незначительно - сеть попала в локальный минимум функции ошибки, и, если не сработал критерий останова, то необходимо произвести случайные модификации («потряхивание») весовых коэффициентов. Задача выбора порогов 0,, 02 и 93 относится, скорее всего, к задаче экспериментального, чем аналитического характера. Коррекцию весов будем производить с помощью метода обратного распространения ошибки, начиная двигаться с последнего слоя и производя вычисления для каждого нейрона в отдельности, фиксируя остальные.

Подробно алгоритм приведен во второй главе диссертационного исследования.

Сочетание алгоритмов позволяет увеличить скорость обучения, не превышая вычислительные затраты, по сравнению с использованием каждого из алгоритмов в отдельности (табл.1). Применение в совместном алгоритме метода потряхивания весовых коэффициентов позволяет избежать попадания в локальные минимумы функции ошибки, а квазиньютоновский метод дает возможность провести прореживание ИНС с целью оптимизации ее архитектуры.

Таблица 1.

Сравнительные характеристики процесса обучения _рассмотренных алгоритмов_

Алгоритм обучения Время одной эпохи (с) Количество эпох обучения

худший результат лучший результат

Простой градиентный спуск 0,81 29 21

Метод сопряженных градиентов 1 19 14

Квазиньютоновский метод 1,1 17 12

Совместный 1 12 7

Исследованы также и другие способы обеспечения и ускорения сходимости методов обучения ИНС: применение плавающего шага, введение инерционной поправки, предъявление примеров в случайном порядке.

Для оценки качества обучения и адекватности нейросетевой модели необходимо разделить обучающее множество на подвыборки: обучающая, тестовая, контрольная. При малом объеме обучающего множества используется метод bootstrap. В главе указаны важные рекомендации для выбора последовательного или пакетного режимов обучения, а также критериев ошибки и останова обучения.

Для повышения точности отдельных моделей формируется ансамбль нейро-экспертов (рисунок 2). Интегральные оценки, полученные на основе ансамблей, используются в качестве выходных данных разрабатываемых ИЛУ для операторов центрального пункта управления (ЦПУ) СГ.

В третьей главе реализованы результаты теоретических исследований первой и второй глав в виде универсального нейросетевого программного комплекса. Проведенный в первой главе обзор программных продуктов, предназначенных для проектирования ИНС, позволяет определить требования, предъявляемые к программным продуктам этого направления. Соответствие требованиям обеспечивает необходимую полноту реализации ПО для полноценного автоматизированного проектирования ИНС при решении задач управления технологическими процессами на СГ.

В составе требований, предъявляемых к современному нейросетевому ПО, выделены следующие: интеграция с другими программными средами, работа с данными, инструментальные средства проектирования, автоматизация проектирования ИНС, системы анализа данных, наличие встроенных средств для сокращения времени построения модели, средства ускорения работы ПО, системы «помощи» и обучения.

В результате проведенного обзора ПО и анализа факторов, снижающих качество работоспособности ИНС, связанных как с этапом предварительного анализа и подготовки входного вектора данных, так и непосредственно с этапом проектирования ИНС, разработана нейросетевая система, состоящая из взаимозависимых подсистем, каждая из которых, с одной стороны, выполняет свои специфические функции, а с другой - влияет на работу связанных с ней подсистем.

На основе нейросетевой системы разработан автоматизированный программный комплекс. Интуитивно-понятный интерфейс позволяет сделать более доступным применение нейросетевой технологии для операторов ЦПУ, не владеющих специализированными знаниями. Работа с комплексом состоит из трех этапов: выбор задачи, ввод исходных данных, получение решения. Получение исходных данных по задаче, например, от комплексной системы автоматического управления сортировочным процессом (КСАУ СП), можно автоматизировать, создав шлюз между комплексом и источником данных и, настроив соответствующим образом дообучение ИНС, получить адаптивную модель, работающую в реальном времени. Разработанный программный комплекс «NeuroNADS» настроен для АРМ оператора, позволяет снизить информационную загрузку оператора и повысить качество формирования поездов.

«NeuroNADS» написан на языке высокого уровня С# 4.0 с применением объектно-ориентированного программирования в среде разработки Microsoft Visual Studio 2010 Express Edition. В качестве СУБД использовался SQL Server Compact Edition 4.0. Объектная модель системы состоит из 101 класса. Даиный набор классов является основной программной структурой системы, на базе которой строится пользовательский интерфейс. На рисунке 3 приведена иерархия классов, относящихся к алгоритмам обучения ИНС как наиболее сложным элементам математического обеспечения.

Таким образом, в ходе разработки программного KOMiuieKca«NeuroNADS» решены следующие задачи:

1. Разработана универсальная объектно-ориентированная модель, которая имеет расширяемую архитектуру и позволяет добавлять новые функциональные возможности: алгоритмы обучения, функции активации, архитектуры ИНС и др.

2. Разработана динамическая библиотека, которая может быть использована независимо от пользовательского интерфейса и может применяться в качестве вспомогательного механизма в различных консолидированных прикладных системах, например, КСАУ СП.

ConjugateGradMethod +_b: double +_canChange: bool +JsFirst: bool + itteration: int

GibridMethod -_gradSimple: SimpleGradMethod -_gradConjugate: MethodHeavyBall -_quasiNewton: QuasiNewtonMethod - stochastic: StochasticMethod

QuasiNewtonMethod

SimpleGradMethod +_ffleration : int +p(): double +CalculateB(): double StochasticMethod

+р(): double +p(): double +p(): double +p(): double

1

MethodHeavyBall MethodFletcherReeves MethodHestensStiefel MethodPolakRiber MethodAnonymousI Method Anonymous2

+CalculateB(): double +CalculateB(): double +CalculateB(): double +CalculateB(): double +CalculateB(): double +CalculateB(): double

Hessian

1

RecursiveMethodHessian

-_sqrtN: double

+CalculateZ() +lnitNeuron() +Calculate() GradConjuc ■ateHessian

+CalculateQ

Рисунок 3

— Иерархия классов, реализующая алгоритмы обучения ИНС

3. Разработана внутренняя база данных для накопления информации по решаемым задачам, позволяющая использовать сохраненную информацию для подбора ИНС при решении новых задач и повысить оперативность применения данных по сравнению с существующими методами управления технологическими процессами на СГ.

4. Реализован совместный алгоритм обучения ИНС (глава 2), который позволил увеличить скорость обучения, избежать попадания в локальные минимумы функции ошибки и оптимизировать структуру ИНС за счет прореживания синаптических связей.

5. Реализованы модули подготовки данных и анализа отдельных этапов нейросетевого проектирования (глава 2), что позволило избежать привлечения стороннего ПО.

6. Разработаны адаптированная документация и обучающий курс на русском языке, включающие подробное описание процесса проектирования ИНС, а также интернет-проект «Я-Интеллект» (www.i-intellect.ru).

7. На программный комплекс «ЫеигоКАОЗ» получено свидетельство о государственной регистрации программы ЭВМ №2010615498.

Четвертая глава посвящена использованию нейросетевого программного комплекса «№игоЫАВ8». В главе описана общая характеристика задач, возникающих на СГ, последовательность действий и результаты решения задач с помощью «КеигоКАОБ».

В первом параграфе исследуется возможность применения программного комплекса «ЫеигоКАВБ» для решения задачи расчета скорости выхода отцепа с парковой ТП. Во втором параграфе рассматривается задача определения ступени и времени торможения при управлении горочными замедлителями на ТП в целях изменения скорости скатывания отцепов. Разрабатываемые информационно-логические устройства (ИЛУ) должны автоматически накапливать в блоках памяти и выдавать на рабочее место оператора следующую информацию: скорость выхода отцепа с парковой ТП, ступень и время торможения отцепа.

Для парковой ТП с известными характеристиками мощности и быстродействия замедлителей, а также стандартным профилем пути, при управлении скоростью отцепов для реализации заданной скорости соударения в сортировочном парке необходимо учитывать следующие признаки: С2 - ходовые свойства отцепа, Б - расстояние до точки прицеливания, Ь- длина отцепа, W- вес отцепа. Таким образом, модель для расчета скорости выхода отцепаУр будет выглядеть следующим образом:

Эффективное управление замедлителем существенным образом зависит от того, насколько точно смоделированы его возможности по погашению скорости для каждого конкретного отцепа и выбранной ступени торможения. Эти возможности условно называются обобщенной мощностью замедлителя Р , определяемые для каждого отцепа с учетом его ходовых свойств. Ос-

новными факторами, влияющими на процесс торможения, являются: <3 - ходовые свойства отцепа, Ую - скорость входа отцепа в замедлитель, Увых- скорость выхода отцепа из замедлителя, Ь- длина отцепа, Б - выбранная ступень торможения, Т - время торможения. Идеальная прогнозирующая модель должна для каждого конкретного набора перечисленных факторов предсказывать значение дV, на которое уменьшится скорость отцепа после снятия тормозного воздействия. Задача определения ступени и времени торможения при управлении горочными замедлителями решена в два этапа. На первом этапе спроектирована ИНС для рекомендации ступени торможения. На втором этапе создана ИНС, рекомендующая время торможения. Из алгоритмических соображений прогнозирующую модель целесообразно представить в виде взаимодействия двух ИНС:

Р^Ох^хУ^хЬхБ-»!

<3*ЧххУвшхЬ^8. Модель предсказывает время торможения Т ступенью 8, необходимое для погашения входной скорости отцепа Уга на величинуДУ.

Для реализации модели используются ИНС на основе двухслойных персептронов с последовательными связями. Сигмоидальные передаточные функции нейронов обеспечивают возможность формирования произвольных нелинейных зависимостей прогнозируемой выходной величины (времени торможения) от значений, влияющих на нее факторов. Структура нейросете-вой модели оценки условной мощности замедлителя приведена на рисунке 4.

Рисунок 4 - Структура прогнозирующей нейросетевой модели

В данной главе приведен пример расчета для южной СГ на станции Ба-тайск. Заметим, что изложенная технология применима к любой СГ. Для сравнения результатов в задаче расчета скорости в качестве конкурента использовалась линейная регрессия, а в задаче определения ступени торможения - метод к-ближайших соседей.

Достоверность прогноза скорости выхода отцепа с парковой ТП на тестовой выборке составила 96,62 %, что свидетельствует о практической пригодности ИНС. Также эти результаты оказались выше по сравнению с линейной регрессией (95,28 %) на этапе начальной настройки расчета скоростей выхода отцепов из ТП.

Достоверность классификации ступени торможения на тестовой выборке составила 83 %, что является хорошим результатом. Достоверность классификации ступени торможения для метода ближайшего соседа оказалась ниже (60 %), чем ансамбля ИНС, вследствие чего применение технологии ИНС является оправданным для решения поставленной задачи.

Таким образом, разработанные нейросетевые модели для управления торможением отцепов и расчета скорости выхода отцепа с парковой ТП обеспечили создание ИЛУ для операторов ЦПУ. ИЛУ позволили: освободить эксплуатационный персонал станции от запоминания большого числа разнообразных ситуаций и значительно снизить его информационную загрузку; повысить качество формирования поездов, а также безопасность роспуска и маневровых работ.

В приложениях представлены акты о практическом использовании результатов диссертационной работы, свидетельство о государственной регистрации программы для ЭВМ и фрагменты кода разработанного программного комплекса.

В заключении приведены основные выводы по результатам выполненных исследований.

В соответствии с целью диссертационного исследования была разработана универсальная нейросетевая система управления технологическими процессами на СГ.

Основные результаты диссертации:

1. Предложена методология решения прикладных задач классификации и прогнозирования с помощью нейросетевой технологии, основанная на использовании совокупности методов подготовки и анализа входных данных, формирования архитектуры ИНС, совместного алгоритма обучения, прореживания связей, отбора и диагностики модели.

2. Предложена универсальная нейросетевая система и ее объектно-ориентированная модель, представляющая собой иерархию классов, учитывающую дальнейшее расширение функциональных возможностей системы. Разработано хранилище нейросетевых решений и исходных данных задач, позволяющее повысить оперативность применения технологии ИНС в интеллектуальных подсистемах горочной автоматизации.

3. Разработан программный комплекс «NeuroNADS», обеспечивающий полный цикл обработки и нейросетевого анализа данных. Автоматизация отдельных этапов проектирования ИНС позволила: сократить время построения и выбора оптимальной модели ИНС; повысить оперативность применения нейросетевой технологии; сделать более доступным использование технологии ИНС для оператора СГ.

Нейросетевые модели для управления торможением отцепов и расчета скорости выхода отцепа с парковой ТП, обеспечивающие создание ИЛУ для операторов ЦПУ, внедрены и практически опробованы.

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

В изданиях, рекомендованных ВАК РФ

1. Пучков Е.В. Разработка среды моделирования искусственных нейронных сетей. Решение задачи прогнозирования временного ряда // Вестник Ростовского государственного университета путей сообщения, 2009. - №2, С. 23-28.

2. Пучков Е.В., Лила В.Б. Исследование алгоритма обучения многослойного персептрона, в котором используются методы сопряженных градиентов. // Обозрение прикладной и промышленной математики, 2009. - Т. 16. Вып. 5, С. 917-918.

3. Пучков Е.В. Применение нейроэмулятора «Кеигс^АБЗ» для определения ступени и времени торможения при управлении горочными замедлителями. И Инженерный вестник Дона, 2010. - №4. Режим доступа: http://ivdon.ru (дата обращения 19.05.2011).

4. Пучков Е.В. Разработка системы поддержки принятия решений для управления кредитными рисками банка.// Инженерный вестник Дона, 2011. - №1. Режим доступа: http://ivdon.ru (дата обращения 19.05.2011).

5. Белявский Г.И., Пучков Е.В., Чернов А.В. Автоматизированная система проектирования искусственной нейронной сети. // Программные продукты и системы, 2011. - № 2, С. 30 - 34.

Другие издания

6. Пучков Е.В. ГГ-структуры как внешний ресурс // Ваш КапиталЮг, 2007,-№6, С.16-19.

7. Пучков Е.В. Методы и системы поддержки принятия управленческих решений (в том числе моделирование банковских бизнес-процессов). // Труды VII межрегиональной научно-практической конференции Юго-Западного банка Сбербанка России «Новые тенденции в развитии сберегательного дела в Южном регионе России». - Ростов-на-Дону, 2008. - С. 29-30.

8. Пучков Е.В. Создание системы интеллектуального анализа данных // Труды студенческой региональной научно-практической конференции». -Ростов-на-Дону, РГСУ, 2008. - С.88-90.

9. Пучков Е.В. Алгоритмы обучения многослойного персептрона // Труды международной научно-практической конференции «Строительство-2009». - Ростов-на-Дону, РГСУ, 2009. - С. 164-165.

10. Пучков Е.В. Комплексная оценка финансового состояния предприятия на основе нечетко-множественного подхода // Сб. «Бухгалтерский учет, анализ и налогообложение: современные проблемы и реалии». - Ростов-на-Дону, РГСУ, 2009. - № 4, С. 23-25.

11. Пучков Е.В., Лила В.Б. Применение градиентных методов оптимизации для обучения искусственных нейронных сетей на примере задачи прогнозирования временного ряда // Труды третьей всероссийской научной конференции «Нечеткие системы и мягкие вычисления». Т .1. Вып. 2. - Волгоград 2009.-С.109-116. '

12. Пучков Е.В. Прореживание синаптических весов искусственных нейронных сетей с целью оптимизации их структуры. П Известия РГСУ 2010 -№14, С. 330-331.

13. Баталова С.В., Пучков Е.В. Формирование информационной базы системы мониторинга надежности строительных организаций // В сб. «Проблемы развития регионального инвестиционно-строительного комплекса и пути их решения». Вып. 3. - Ростов-на-Дону, РГСУ, 2010. - С. 120-127.

14. Пучков Е.В. Применение квазиньютоновских методов в обучении и прореживании искусственных нейронных сетей. // Труды международной научно-практической конференции «Строительство-2010». - Ростов-на-Дону, РГСУ,2010.-С. 249-250.

15. Пучков Е.В. Применение нейросетевой технологии на железнодорожном транспорте. // Труды пятой международной научно-практической конференции «Транс ЖАТ-2010». - Ростов-на-Дону, РГУПС, 2011. - С. 207-209.

Личный вклад автора в работах, написанных в соавторстве, состоит в следующем

[2] - анализ методов сопряженных градиентов и постановка оптимизационной задачи обучения ИНС; [5] - методология и программная реализация системы проектирования ИНС; [И] - постановка задачи прогнозирования временного ряда и ее решение; [13] - программная реализация системы мониторинга и ее описание

Соискатель

Пучков Е.В.

Пучков Евгений Владимирович

РАЗРАБОТКА НЕЙРОСЕТЕВОЙ СИСТЕМЫ УПРАВЛЕНИЯ ТЕХНОЛОГИЧЕСКИМИ ПРОЦЕССАМИ НА СОРТИРОВОЧНЫХ ГОРКАХ

Специальность: 05.13.06 - Автоматизация и управление технологическими процессами и производствами (на транспорте)

Автореферат диссертации на соискание ученой степени кандидата технических наук

Подписано к печатало 2011 г. Формат бумаги 60x84/16 Бумага офсетная. Ризографая. Усл.печ.л. 1,0. Тираж 100. Заказ № В852. Ростовский государственный университет путей сообщения.» Ризография РГУПС.

344038, г. Ростов-на-Дону, пл. Ростовского Стрелкового Полка Народного

Ополчения, 2.

ПЕРЕЧЕНЬ СОКРАЩЕНИЙ.

ВВЕДЕНИЕ.

ГЛАВА 1 ХАРАКТЕРИСТИКА СОРТИРОВОЧНОЙ ГОРКИ И ПРОБЛЕМЫ

ИНТЕЛЛЕКТУАЛИЗАЦИИ СОРТИРОВОЧНОГО ПРОЦЕССА.

1.1 СОРТИРОВОЧНАЯ ГОРКА КАК ОБЪЕКТ ИССЛЕДОВАНИЯ.

1.2. АНАЛИЗ СОСТОЯНИЯ ПРОБЛЕМЫ ИНТЕЛЛЕКТУАЛЬНОЙ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ НА СОРТИРОВОЧНЫХ ГОРКАХ

1.2.1. ОТЕЧЕСТВЕННЫЙ КОМПЛЕКС АВТОМАТИЗАЦИИ СОРТИРОВОЧНЫХ ПРОЦЕССОВ.

1.2.2. ЗАРУБЕЖНЫЕ СИСТЕМЫ АВТОМАТИЗАЦИИ СОРТИРОВОЧНЫХ ГОРОК.

1.3. ИНТЕЛЛЕКТУАЛЬНАЯ ПОДДЕРЖКА ПРИНЯТИЯ РЕШЕНИЙ НА СОРТИРОВОЧНЫХ ГОРКАХ.

1.3.1. ИСКУССТВЕННАЯ НЕЙРОННАЯ СЕТЬ ПЕРСЕПТРОННОГО ТИПА

1.3.2. ОСІ ЮВНЫЕ ДОСТОИНСТВА И НЕДОСТАТКИ НЕЙРОСЕТЕВЫХ ПРОГРАММНЫХ ПРОДУКТОВ.

1.4. ВЫВОДЫ ПО ГЛАВЕ

ГЛАВА 2. РАЗРАБОТКА МЕТОДОЛОГИИ АВТОМАТИЗИРОВАННОГО ПРОЕКТИРОВАНИЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ.

2.1. ПОСТАНОВКА ЗАДАЧИ.

2.2. СБОР ДАННЫХ.

2.3. ПРЕДВАРИТЕЛЬНАЯ ОБРАБОТКА ДАННЫХ.

2.3.1. ОЧИСТКА И ФИЛЬТРАЦИЯ ДАННЫХ.

2.3.2. КОДИРОВАНИЕ НЕЧИСЛОВЫХ ДАННЫХ.

2.3.3. НОРМАЛИЗАЦИЯ ДАННЫХ.

2.3.4. ОТБОР ПРИЗНАКОВ.

2.4. ПРЕДВАРИТЕЛЬНОЕ МОДЕЛИРОВАНИЕ.

2.5. ПОСТРОЕНИЕ МОДЕЛИ.

2.5.1. НАСТРОЙКА ПАРАМЕТРОВ ИСКУСТВЕННОЙ НЕЙРОННОЙ СЕТИ

2.5.2. НАСТРОЙКА ПАРАМЕТРОВ ОБУЧЕНИЯ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ.

2.6. ОТБОР И ДИАГНОСТИКА МОДЕЛИ.

2.7. ИНТЕРПРЕТАЦИЯ РЕЗУЛЬТАТОВ.

2.8. ПРИМЕНЕНИЕ МОДЕЛИ.

2.9. НАБЛЮДЕНИЕ ЗА МОДЕЛЬЮ.

2.10. ВЫВОДЫ ПО ГЛАВЕ 2.

ГЛАВА 3. ПРИНЦИПЫ СОЗДАНИЯ И ФУНКЦИОНИРОВАНИЯ АВТОМАТИЗИРОВАННОЙ НЕЙРОСЕТЕВОЙ СИСТЕМЫ.11,

3.1. РАЗРАБОТКА ТРЕБОВАНИЙ К НЕЙРОСЕТЕВОМУ ПРОГРАММНОМУ КОМПЛЕКСУ.

3.2. РАЗРАБОТКА ИНФОРМАЦИОННОЙ СХЕМЫ

АВТОМАТИЗИРОВАННОЙ НЕЙРОСЕТЕВОЙ СИСТЕМЫ.

3.3. ПРОГРАММНАЯ РЕАЛИЗАЦИЯ АВТОМАТИЗИРОВАННОЙ НЕЙРОСЕТЕВОЙ СИСТЕМЫ.

3.3.1. ИНСТРУМЕНТАЛЬНЫЕ СРЕДСТВА РАЗРАБОТКИ.

3.3.2. ОБЪЕКТНО-ОРИЕНТИРОВАННАЯ МОДЕЛЬ СИСТЕМЫ.

3.3.3. ВОЗМОЖНОСТИ ПРОГРАММНОГО КОМПЛЕКСА

NEURONADS».

3.4. РАЗРАБОТКА ИНФОРМАЦИОННО-ЛОГИЧЕСКОГО УСТРОЙСТВА (АВТОМАТА-СОВЕТЧИКА).

3.5. ВЫВОДЫ ПО ГЛАВЕ 3.

ГЛАВА 4. РЕШЕНИЕ ЗАДАЧ УПРАВЛЕНИЯ НА СОРТИРОВ ОЧНОЙ ГОРКЕ

С ПРИМЕНЕНИЕМ «NEURONADS».

4.1. ЗАДАЧА РАСЧЕТА СКОРОСТИ ВЫХОДА ОТЦЕПА С ПАРКОВОЙ ТОРМОЗНОЙ ПОЗИЦИИ.

4.1.1. ПОСТАНОВКА ЗАДАЧИ.

4.1.2. ПОСЛЕДОВАТЕЛЬНОСТЬ РЕАЛИЗАЦИИ И РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ.

4.2. ЗАДАЧА ОПРЕДЕЛЕНИЯ СТУПЕ11И И ВРЕМЕНИ ТОРМОЖЕНИЯ ПРИ УПРАВЛЕНИИ ГОРОЧНЫМИ ЗАМЕДЛИТЕЛЯМИ НА ТОРМОЗНЫХ ПОЗИЦИЯХ.

4.2.1. ПОСТАНОВКА ЗАДАЧИ.

4.2.2. ПОСЛЕДОВАТЕЛЬНОСТЬ РЕАЛИЗАЦИИ И РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ.

4.3. ВЫВОДЫ ПО ГЛАВЕ 4.

Актуальность темы. Массовое вовлечение за последнее десятилетие в сферу автоматизации сложных технологических процессов и производств привело к появлению новых классов, так называемых слабо формализованных или информационно-сложных задач. Не исключением являются задачи, возникающие на железнодорожном транспорте, в частности, на сортировочной горке (СГ). Прежде всего, это связано с невозможностью полного автоматического режима функционирования транспортных объектов с применением традиционного подхода к их управлению. Для решения таких слабо формализованных задач необходима интеграция практического опыта и теоретических знаний в алгоритмы управления в качестве самостоятельных моделей, то есть построение интеллектуальных систем. Одной из наиболее динамично развивающихся областей искусственного интеллекта является нейросетевая технология. Ее популярность связана с успешным применением в различных промышленных, технических и научных областях.

Для решения прикладных задач с помощью нейросетевой технологии возможны два способа. Первый - это аппаратная реализация нейросетевой модели, которая связана с большими финансовыми затратами. Второй - это программная эмуляция искусственной нейронной сети (ИНС). В любом случае необходимо разработать нейросетевую модель с помощью соответствующего программного обеспечения (ПО). В настоящее время ПО, позволяющее осуществлять проектирование ИНС и решать с помощью построенных моделей прикладные задачи, можно разделить на пять категорий: универсальные нейроэмуляторы, иейросетевые компоненты для статистических пакетов, нейросетевые алгоритмы в системах бизнес-аналитики, предметно-ориентированные нейросетевые решения, нейросетевые библиотеки.

Процесс нейросетевого анализа состоит из большого количества этапов и предполагает использование различных методов для построения ИНС и применения ее в дальнейшем. Поэтому современный нейроэмулятор должен обладать достоинствами, которые характерны для существующих категорий нейросетевого ПО. Среди таких достоинств можно выделить: развитые средства проектирования ИНС; инструменты для анализа и подготовки данных; внутренний источник данных; возможности решения задач специфического характера прикладной области; открытая архитектура и программная масштабируемость; высокая степень автоматизации.

Реализация такого нейроэмулятора позволит решить следующие проблемы: длительное время построения и выбор оптимальной модели ИНС; оценка необходимости использования нейросетевого подхода; низкая оперативность применения пейросетевой технологии; сложность проектирования ИНС для неспециалиста; необходимость внедрения в консолидированные прикладные системы учетного и аналитического характера.

В связи с вышеизложенным, представляется актуальным определение методологии проектирования ИНС, разработка универсальной нейросетевой системы и создание на ее основе программного комплекса, который сохранит достоинства указанных категорий нейросетевого ПО и позволит решить существующие проблемы. Программный комплекс должен быть ориентирован на построение в автоматизированном режиме нейросегевых моделей прикладных задач классификации и прогнозирования, возникающих на СГ, а разработанные нейромодели - использованы при создании информационно-логических устройств (ИЛУ) для автоматизированного рабочего места (АРМ) оператора.

Степень разработанности проблемы. Диссертационное исследование основано на работах отечественных и зарубежных ученых в области нейросетевых технологий и автоматизированных систем управления. В настоящее время аппарат ИНС и методы его использования постоянно развиваются и совершенствуются. Активные разработки и исследования в области создания систем проектирования ИНС связаны с деятельностью таких организаций как NeuroProject (Москва), BaseGroup Labs (Москва). Следует выделить частный проект В. Царегородцева - NeuroPro (Красноярск). В последнее время наиболее авторитетными и часто цитируемыми российскими работами в области теории и практики применения ИНС считаются труды А.И. Галушкина, А.Н. Горбань, A.A. Ежова, С.А. Терехова, С.А. Шумского и др. За рубежом большой вклад в развитие нейроннформатики внесли R. Hecht-Nielsen, J.J. Hopfield, Т. Kohonen, F. Rosenblatt, D.A. Rummerlhart и др. Методы и принципы построения автоматизированных систем управления сложными организационно-технологическими объектами рассмотрены в работах В.П. Авдеева, A.A. Ашимова, А.Н. Гуды, В.Н. Иванченко, В.М. Лисенкова, H.H. Лябаха и др. Различные фундаментальные и прикладные аспекты интеллектуальных систем управления нашли отражение в работах таких ученых как Л.С. Берштейн, Н. Винер, В.М. Глушко, Д.И. Дубровский, С.М. Ковалев, A.A. Ляпунов, Д.А. Поспелов, В.Б. Тарасов, А.Н. Шабельников и др.

Цель и задачи исследования. Цель настоящей диссертационной работы - разработка универсальной нейросетевой системы управления технологическими процессами на СГ.

• Для достижения поставленной цели реализуется следующая последовательность задач диссертационного исследования:

1. Анализ состояния проблемы интеллектуальной поддержки принятия решений на СГ и выделение классов решаемых задач.

2. Разработка методологии решения задач классификации и прогнозирования, основанной на использовании современных методов обучения ИНС, подготовки и анализа входных данных.

3. Разработка алгоритма обучения ИНС, позволяющего повысить скорость обучения, избежать попадания в локальные минимумы функции ошибки и оптимизировать архитектуру.

4. Разработка программного комплекса с открытой архитектурой и хранилищем нейросетевых решений, обеспечивающего полный цикл обработки и нейросетевого анализа данных. и

5. Внедрение и практическая апробация разработанной системы при решении прикладных задач управления технологическими процессами на СГ.

Объекты и методы исследования. Объектами исследования выступают технологические процессы на СГ и системы горочной автоматизации. Предметом исследования является математическое, алгоритмическое и программное обеспечение процесса построения, обучения и использования ИНС персептронного типа в задачах классификации и прогнозирования, возникающих на СГ. Методы исследования, применяемые в диссертационной работе, основаны на использовании нейросетевых технологий, компьютерного моделирования, математической статистики и теории оптимальных решений. При разработке программного комплекса использовались объектно-ориентированное программирование и теория баз данных.

Выполненная диссертационная работа соответствует следующим пунктам паспорта специальности 05.13.06 «Автоматизация* и управление технологическими процессами производствам и (на транспорте)»: п. 15. Теоретические основы, методы и алгоритмы интеллектуализации решения прикладных задач при построении АСУ широкого назначения (АСУТП, АСУП, АСТПП и др.). п. 17. Использование методов автоматизированного проектирования для повышения эффективности разработки и модернизации АСУ. п. 10. Методы синтеза специального математического обеспечения, пакетов прикладных программ и типовых модулей функциональных и обеспечивающих подсистему АСУТП.

Положения диссертации, выносимые на защиту.

1. Методология автоматизации процесса проектирования нейросетевых моделей для решения управленческих задач на СГ.

2. Нейросетевая система, включающая: совместный алгоритм обучения ИНС; объектно-ориентированную модель автоматизированной системы; хранилище нейросетевых решений.

3. Нейросетевые модели поддержки принятия управленческих решений в системах горочной автоматизации.

Научная новизна содержится в следующих результатах диссертационного исследования:

1. Разработана универсальная объектно-ориентированная модель нейросетевой системы с расширяемой архитектурой и динамической базой данных дня накопления информации по решаемым задачам, позволяющая использовать сохраненную информацию для подбора ИНС при решении новых задач и повысить оперативность применения данных по сравнению с существующими методами управления технологическими процессами на СГ.

2. Разработан программный комплекс «НеигоЫАОБ», обеспечивающий полный цикл обработки и нейросетевого анализа данных. Реализация оригинального алгоритма обучения, отсутствующего в стандартных нейропакетах, позволила сократить время построения и выбора оптимальной модели ИНС. Программный комплекс настроен для АРМ оператора и обеспечивает запоминание и прогнозирование развития технологических ситуаций в ходе роспуска состава с целью снижения информационной загрузки оператора, повышения качества формирования поездов и безопасности роспуска.

3. Предложены новые нейросетевые модели поддержки принятия решений в системах горочной автоматизации, позволяющие повысить эффективность управления технологическим процессом роспуска составов за счет более точного решения задач по определению параметров торможения и расчета скорости выхода отцепов из тормозных позиций (ТГ1).

Практическая значимость диссертационной работы заключается в следующем:

1. Разработана нейросетевая система для АРМа оператора, позволяющая снизить информационную загрузку оператора и повысить качество формирования поездов.

2. Разработаны нейромодели для расчета скоростей выхода отцепа с ТП, определения ступеней торможения и времени их активации при управлении горочными замедлителями.

3. Разработан программный комплекс «NeuroNADS», позволяющий решать широкий круг задач по проектированию ИНС и организовать процесс обучения нейросетевым технологиям.

Достоверность и обоснованность диссертации подтверждается результатами вычислительных экспериментов и обработки реальных данных, публикациями и апробацией работы на международных, всероссийских и региональных научных и научно-технических конференциях, а также актами внедрения результатов работы.

Апробация работы. Основные положения диссертационной работы докладывались на межрегиональных научно-практических конференциях Юго-Западного банка Сбербанка России (Ростов-на-Дону, 2008, 2010), на всероссийской научно-практической конференции студентов, аспирантов и молодых ученых ЮФУ (Ростов-на-Дону, 2009), на всероссийской научной конференция "Нечеткие системы и мягкие вычисления" (Волгоград, 2009), на всероссийском симпозиуме по прикладной и промышленной математике (Санкт-Петербург, 2009), на международных научно-практических конференциях «Строительство» (Ростов-на-Дону, 2009, 2010), «Транс ЖАТ» (Ростов-на-Дону, 2010). Работа подавалась на различные региональные и федеральные конкурсы, где занимала призовые места: конкурс среди специалистов в сфере IT, разработки программного обеспечения и информационной безопасности «Турнир IT — интеллектуалов», номинация «Системы бизнес-апалитики (Business Intelligence)» (2008, 2009, 2010); конкурс «Инновационных идей и проектов Юга России», номинация «Инновационные проекты, направленные па развитие высокотехнологичных производств и услуг»; всероссийский конкурс информационных технологий и информационной безопасности «Интеллектуальная Россия», номинация «Системы бизнес-аналитики» (2009, 2010)». Разработан интернет-портал «Я

Интеллект» [146J. На портале можно получить доступ к наиболее интересным статьям по тематике ИНС и загрузить созданный нейросетевой программный комплекс «NeuroNADS». На данный момент разработка представлена в общероссийской программе Федерального агентства по делам молодежи «Зворыкинский проект» [43].

Публикации. По теме исследования опубликовано 15 печатных работ, общим объемом 4 п.л., из них 5 в изданиях, входящих в «Перечень ведущих научных журналов и изданий, выпускаемых в Российской Федерации», утвержденный ВАК, и 11 без соавторов.

Внедрение результатов работы. Результаты диссертационного исследования внедрены и используются в ростовском филиале Российского научно-исследовательского и проектно-конструкторского института информатизации, автоматизации и связи. Нейросетевой программный комплекс «NeuroNADS» используется в учебном процессе на кафедре «Прикладной математики и вычислительной техники» Ростовского государственного' строительного университета с целью обучения студентов методам нейросетевого анализа по дисциплине «Интеллектуальные системы»; применяется в Юго-Западном банке Сбербанка России в качестве внутренней системы поддержки принятия решений. Все внедрения дали положительный результат, что подтверждено соответствующими документами.

Структура и объем работы. Диссертационная работа состоит из перечня сокращений, введения, четырех глав, заключения, списка литературы и приложений. Содержание диссертации изложено на 213 страницах, включая 56 рисунков, 13 таблиц, 25 страниц приложений и актов о внедрениях. В список использованных источников включено 146 наименований отечественной и зарубежной литературы (в том числе 36 ссылок на ресурсы Internet).

4.3. ВЫВОДЫ ПО ГЛАВЕ 4

1. В результате диссертационных исследований была осуществлена практическая апробация возможностей программного комплекса «НеигоЫАОБ» при решении задач расчета скорости выхода отцепа с парковой ТП и определения ступени и времени торможения при управлении горочными замедлителями на ТП.

2. Разработаны нейросетевые модели для управления торможением отцепов и расчета скорости выхода отцепа с парковой ТП, что обеспечило создание ИЛУ для диспетчеров ЦПУ. ИЛУ позволят: освободить эксплуатационный персонал станции от запоминания большого числа разнообразных ситуаций и значительно снизит его информационную загрузку; повысить качество формирования поездов, а также безопасность роспуска и маневровых работ.

3. Произведена апробация предложенной в диссертационной работе методологии проектирования ИНС, а также разработанных в ее рамках методов упрощения нейросетевой модели, применения совместного алгоритма обучения ИНС, в результате чего:

1) время обучения сокращалось в среднем, более чем па 40%;

2) точность решения задачи при использовании разных способов предобработки данных повышалась на 5-10%;

3) нейропрогноз с использованием механизмов применения ИНС для определения состава влияющих факторов и алгоритма определения глубины погружения показал сравнимую точность, что и прогноз с использованием механизма поиска наилучшей структуры ИНС, основанного на использовании циклического переобучения ИНС с различной структурой, что позволяет значительно сократить время нейроанализа;

4) использование метода прореживания связей ИНС позволило исключить длительную процедуру поиска наилучшей структуры ИНС, при времени обучения сопоставимым с одним циклом обучения.

4. Проведенные исследования показали эффективность разработанной системы проектирования ИНС, что выразилось в значительном повышении качества получаемых результатов по сравнению с классическими способами решения прикладных задач.

5. По устранению трудностей связанных с получением данных для построения модели рекомендуются создание шлюза по выгрузке данных из АРМ ГАЦ в стандартных форматах и по необходимой маске.

ЗАКЛЮЧЕНИЕ

В соответствии с целью диссертационного исследования была разработана универсальная нейросетевая система управления технологическими процессами на СГ.

В ходе исследований автором получены следующие результаты:

1. Предложена методология решения прикладных задач классификации и прогнозирования с помощью нейросетевой технологии, основанная на использовании совокупности методов подготовки и анализа входных данных, формирования топологии ИНС, совместного алгоритма обучения, прореживания связей, отбора и диагностики модели.

2. Предложена универсальная нейросетевая система и ее объектно-ориентированная модель, представляющая собой иерархию классов, учитывающую дальнейшее расширение функциональных возможностей системы. Разработано хранилище нейросегевых решений и исходных данных " задач, позволяющее повысить оперативность применения технологии ИНС в интеллектуальных подсистемах горочной автоматизации.

3. Разработан программный комплекс «ЫеигоЫАОБ», обеспечивающий полный цикл обработки и нейросетевого анализа данных. Автоматизация отдельных этапов проектирования ИНС позволила: сократить время построения и выбора оптимальной модели ИНС; повысить оперативность применения нейросетевой технологии; сделать более доступным использование технологии ИНС для оператора СГ.

4. Проведены внедрение и практическая апробация разработанного программного комплекса и предложенной в его рамках методологии решения прикладных задач поддержки принятия решений на СГ, а именно, разработаны нейросетевые модели для управления торможением отцепов и расчета скорости выхода отцепа с парковой ТП, что обеспечило создание ИЛУ для операторов ЦПУ.

1. AlyudaForecaster Электронный ресурс.: техническое описание -— Режим доступа: http://www.alyuda.com/neural-network-software.htm, свободный.

2. Barron A. Predicted squared error: a criterion for automatic model selection. In: Farlow S. (ed), Self-Organizing Methods in Modeling, NY: Marcel Dekker- 1984

3. Bernard Widrow, Michael A. Lehr, 30 Years of Adaptive NeuralNetworks: Perceptron, Madaline, and Backpropagation Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press, 1992, pp.327-354.

4. Bielajew A.F.Fundamentals of the Monte Carlo method for neutral and charged particle transport. Ann Arbor: The University of Michigan, 2001. P. 348.

5. Brian Knight, Erik Veerman, Grant Dickinson, and Douglas Hinson Professional Microsoft SQL Server 2008 Integration Services. Indianapolis: Wiley Publishing, 2008. p. 972

6. Cortes C., Vapnik V. Support vector network // Machine Learning. -1995. 20. - P.129-152.

7. Data Mining Community Электронный ресурс. — Режим доступа: http://www.kdnuggets.com, свободный.

8. Fast Artificial Neural Network Library (FANN) Электронный ресурс.: техническое описание — Режим доступа: http://leenissen.dk/fann, свободный.

9. Fukushima К., Miyake S., Takayuki I. Neocog-nitron: A neural network model for a mechanism of visual pattern recognition. IEEE Transaction on Systems, Man and Cybernetics SMC-13(5):826-34. — 1983.

10. Fukushima K. 1975. Cognitron: A self-organizing mult ilayered neural network. Biological Cybernetics 20:121-36.

11. Fukushima K. 1980. Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition uneffected by shift inposition. Biological Cybernetics 36(4): 193-202.

12. Gorban A. N., Mirkes Eu. M., Tsaregorodtsev V. G. Generation of Explicit Knowledge from Empirical Data through Pruning of Trainable Neural Networks In: Proc. IJCNN*99, Washington DC, July 1999, IEEE, Vol. 6, pp. 4393-4398.

13. Hecht-Nielsen R. Kolmogorov mapping neural network existence theorem. In IEEE First. Int. Conf. on Neural Networks. San Diego: SOS Printing, 1987,-Vol.3-P.l 1-13.

14. Heht-Nielsen R. Counterpropagation network // Proc. Int. Conf. on Neural Networks. -N.Y.: IEEE, 1987. 2. - P. 19-32.

15. Hertz J., Krogh A., Palmer R.G. Introduction to the theory of neural computation. Addison Wesley, 1991.

16. HTML Help Workshop and Documentation Электронный ресурс.: техническое описание — Режим доступа: http://www.microsoft.com/downloads/en/details.aspx?FamilyID=00535334-c8a6-452f-9aa0-d597dl6580cc&displaylang;=en, свободный.

17. Inno Setup Электронный ресурс.: техническое описание — Режим доступа: http://www.jrsoftware.org/isinfo.php, свободный.

18. Kamimura R. Unification of information maximization and minimization / Advances in Neural Information Processing Systems 9 (1996). MIT Press, 1997. pp.508-514.

19. Keogh E., Lonardi S., Chiu B. Finding surprising patterns in a time series database in linear time and space / Proc. SIGKDD'02, Edmonton, Alberta, Canada, 2002. .lip.

20. Koza J. R. Genetic Programming. Cambridge, MA: MIT Press, 1992.

21. Kraft L.G. and Campagna D.P., "A Comparison between CMAC Neural Network Control and Two Traditional Control Systems" IEEE Control

22. Systems Magazine, vol. 10, no. 2, pp. 36-43, 1990.

23. LeCun Y. and Y. Bengio: Convolutional Networks for images, Speech, and Time-Series, in Arbib, M. A. (Eds), The Handbook of Brain Theory and Neural Networks, MIT Press, 1995

24. LeCun Y., J. S. Denker, S. Solla, R. E. Howard and L. D. Jackel: Optimal Brain Damage, in Touretzky, David (Eds), Advances in Neural Information Processing Systems 2 (NIPS*89), Morgan Kaufman, Denver, CO, 1990

25. LeCun Y., L. Bottou, G. Orr and K. Muller: Efficient BackProp, in Orr, G. and Muller K. (Eds), Neural Networks: Tricks of the trade, Springer, 1998

26. Lee H.-M., Huang T.-C., Chen C.-M. Learning efficiency improvement of back propagation algorithm by error saturation prevention method /Proc. IJCNN'1999, Washington, DC,USA. 6p.

27. Li X, Ding J, Li H. Combing neural network models based on Wavelet transform. Journal of Hydraulic 1999; 2:1-4 (in Chinese).

28. NeuroShell 2 Электронный ресурс.: техническое описание — Режим доступа: http://neuroproject.ru/aboutproduct.php?info=ns2info, свободный.

29. NeuroSolutions Product Summary Электронный ресурс.: техническое описание — Режим доступа:http://www.neurosolutions.com/products/ns/features.html, свободный.

30. Oh S.-H., Lee Y. A modified error function to improve the error back-propagation algorithm for multi-layer perceptrons / ETRT Journal, Vol.17, №1, April 1995. pp.11-21.

31. Railway Automation Forum Электронный ресурс.: форум СЦБистов — Режим доступа: http://scbist.com, свободный.

32. Ranzato Marc'Aurelio, Christopher Poultney, Sumit Chopra and Yann LeCun: Efficient Learning of Sparse Representations with an Energy-Based Model, in J. Piatt et al. (Eds), Advances in Neural Information Processing Systems (NIPS 2006), MIT Press, 2006

33. Russian software developer network Электронный ресурс. — Режим доступа: http://www.rsdn.ru, свободный.

34. Solla S.A., Levin Е., Fleisher М. Accelerated learning in layered neural networks / Complex Systems, 1988, Vol.2. pp.625-639.

35. STATISTICA Automated Neural Networks3fleKTpoHHbm ресурс.: техническое описание — Режим доступа: http://www.statsoft.eom/products/c/tabid/783/itemid/35, свободный.

36. STATISTICA Neural Networks Электронный ресурс.: техническое описание — Режим доступа: http://statsoft.ru/statportal/tabID32/MIdl 4 l/ModeID0/PageID 11/Deskt opDefault.aspx, свободный.

37. Van. Нейросимуляция Электронный ресурс. — Электрон, версия журн. «Компьютерра» №20, 24.05.2002 — Режим доступа к журн.: http://www.computerra.rU/2002/445/l 8040, свободный.

38. Weigend, A.S., Huberman, В.А., Rumelhart, D.E. Predicting the future: A connectionist approach, International Journal of Neural Systems, Vol. 1,3, 1990-p. 193-209

39. Аведьян Э.Д. Ассоциативная нейронная сеть СМАС. Часть 1.// Информационные технологии. — 1997. — № 3. — С. 6-14.

40. Автоматизированная система проектирования искусственной нейронной сети «NeuroNADS»—Режим доступа:hltp://www.innovaterussia.ru/project/share/vxGOTU, свободный

41. Ададуров С.Е., Гапанович В.А., Л я бах H.H., Шабельников А.Н. Железнодорожный транспорт: на пути к интеллектуальному управлению. Монография. — Ростов-на-Дону: 2009. 322 с.

42. Айвазян С. А., Бухштабер В. М., Енюков И. С., Мешалкин Л. Д. Прикладная статистика. Классификация и снижение размерности.— М.: Финансы и статистика, 1989.— 607 с.

43. Алгоритм нейронной сети (Майкрософт) Электронный ресурс.: техническое описание — Режим доступа: http://msdn.microsofl.com/ru-ru/library/msl74941.aspx, свободный.

44. Белявский Г.И., Пучков Е.В., Чернов A.B. Автоматизированная система проектирования искусственной нейронной сети // Программные продукты и системы: № 2. Тверь, 2011. - с. 30 - 34. (издание, рекомендованное ВАК РФ)

45. Библиотека MSDN (по-русски) Электронный ресурс. — Режим доступа: http://msdn.microsoft.com/ru-ru/library/default.aspx, свободный.

46. Бодянский Е.В., Руденко О.Г. Искусственные нейронные сети: архитектуры, обучение, применения. Харьков: ТЕЛЕТЕХ, 2004. - 369 с.

47. Бражников А. С., Малеева А. В. Методы оценки качества кредитного портфеля коммерческого банка. Сборник научных трудов СевКавГТУ. Серия «Экономика». 2008, № 8.

48. Вапник В. Н. Восстановление зависимостей по эмпирическим данным. — М.: Наука, 1979. — 448 с.

49. Введение в RBF сети Электронный ресурс. — Режим доступа: http://www.basegroup.ru/library/analysis/neural/rbf, свободный.

50. Введение в искусственный интеллект: учеб. Пособие для студ. Высш. Учеб. Заведений / Л.Н. Ясницкий. 2-е изд., испр. - М.:

51. Издательский центр «Академия», 2008. 176 с.

52. Вигерс Карл. Разработка требований к программному обеспечнию. /Пер, с англ. М.: Издательско-торговый дом "Русская Редакция", 2004. -576с.: ил.

53. Воронцов К.В. Лекции по искусственным нейронным сетям, 2005 г.

54. Галушкин А.И. Континуальные нейронные сети. // Нейрокомпьютер, 1992, №2,с.9-14.

55. Галушкин А.И. Нейрокомпьютеры. Кн. 3: Учеб. пособие для вузов / Общая ред. А. И. Галушкина. М: ИПРЖР, 2000.-528 с: ил. (Нейрокомпьютеры и их применение).

56. Галушкин А.И. Теория нейронных сетей. Кн.1: Учеб. пособие для вузов / Общая редакция А.И. Галушкина. Кн.1.- М.: ИПРЖР, 2000.416 е.: ил. (Нейрокомпьютеры и их применение).

57. Гапанович В.А., Шабельников А.H О разработке автоматизированных сортировочных систем // Железнодорожный транспорт. 2010. - N 8. - С. 23-25.

58. Главные компоненты и факторный анализ Электронный ресурс. — Режим доступа: http://www.statsoit.ru/home/textbook/modules/stfacan.html, свободный.

59. Гладков Л.А., Курейчик В.В., Курейчик В.М. Генетические алгоритмы / Под ред. В.М. Курейчика. 2-е изд., испр. и доп. - М.: ФИЗМАТЛИТ, 2006. - 320 с.

60. Горбань А.Н. Обучение нейронных сетей. М.: изд. СССР-США СП "ParaGraph", 1990. 160с. (English Translation: AMSE Transaction, Scientific Siberian, A, 1993, Vol. 6. Neurocomputing, pp. 1-134).

61. Горбань А.Н., Россиев Д.А. Нейронные сети па персональном компьютере. Новосибирск: Наука. Сибирская издательская фирма РАН. 1996. 276 с.

62. Джонс М.Т. Программирование искусственного интеллекта в приложениях / М. Тим Джонс ; Пер. с англ. Осипов А.И. — М.: ДМК Пресс, 2004.-312 с: ил.

63. Ежов A.A., Шумский С.А., Нейрокомпьютинг и его применение в экономике и бизнесе.-М.:МИФИ, 1998.-224с.

64. Емельянов В. В., Курейчик В. В., Курейчик В. М. Теория и практика эволюционного моделирования. — М.: ФИЗМАТ ЛИТ, 2003. 432 с.

65. Зайченко Ю.П. Нечеткие модели и методы в интеллектуальных системах. К.: «Издательский Дом «Слово». - 2008. - 344 с.

66. Залманзон Л.А. Преобразования Фурье, Уолша, Хаара и их применение в управлении, связи и других областях. М.: Наука. Гл. ред. Физ.-мат. Лит., 1989. - 496 с.

67. Интеллектуальный анализ данных (Data Mining) по версии Microsoft Электронный ресурс. — Режим доступа: http://microsoftbi.ru/2009/08/05/data-mining, свободный.

68. Казиев, Г.Д. Задачи технического перевооружения сортировочных станций / Г.Д. Казиев, А.Г. Савицкий // АСИ. 2007. - № 4.

69. Кацко И.А. Методические аспекты создания аналитических систем на железнодорожном транспорте. Научно-технический журнал "Вестник Ростовского государственного университета путей сообщения": №3. -Ростов н/Д: Изд-во РГУПС, 2007. - 144 е., с. 33-37.

70. Кобзев В.А. Технические средства сортировочных горок, обеспечивающие безопасность движения. Часть I. Учебное пособие — М.: МИИТ, 2009 92 с.

71. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного и сложения. Доклады АН СССР. 1957. — Т. 114 — N5 -с.953-956

72. Кохонен Т. Ассоциативная память. Изд. Мир. - 1980. - 240 с.

73. Кохонен Т. Самоорганизующиеся карты. — Изд. Бином. Лаборатория знаний. 2008. - 653 с.

74. Кричевский М. Л. Интеллектуальный анализ данных в менеджменте: Учеб. пособие / СПбГУАП. СПб., 2005. 208 е.: ил.

75. Круглов В. В. Дли М. И. Годунов Р. Ю. Нечёткая логика и искусственные нейронные сети. М.: Физматлит, 2001. 221с.

76. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. — М.: Горячая линия — Телеком, 2002. 382с. : ил.

77. Кузнецов, Л.П. Автоматизация технологических процессов в системе оперативного управления сортировочной станцией / Л.П. Кузнецов, В.Н. Иванченко, H.H. Лябах, Ю.А. Самойленко. Ростов н/Д.: РИИЖТ, 1984.-77 с.

78. Купер А., Рейман Р., Кронип Д. Алан Купер об интерфейсе. Основы проектирования взаимодействия. — Пер. с англ. — СПб.: Символ-Плюс, 2009. 688 е. ил.

79. Лукашин Ю. П. Адаптивные методы краткосрочного прогнозирования временных рядов. — М.: Финансы и статистика, 2003. — 416 с.

80. Лябах Н. Н, В. А. Тартынский, А. В. Денисов Мониторинг и прогнозирование показателей работы горок // Железнодорожный транспорт. 2010. - N 8. - С. 39-41.

81. Лябах H.H., Шабельников А.Н. Техническая кибернетика на железнодорожном транспорте. Ростов н/Д.: Изд-во Северо-Кавказского научного центра высшей школы. 2002. - 232 с.

82. Малла С. Вэйвлеты в обработке изображений, Мир, 2005, 670стр.

83. Мамаев, Э.А. Управление региональными транспортными системами в исловиях изменений: проблемы и модели: монография / Э.А. Мамаев; Рост. Гос. Ун-т путей сообщения. Ростов н/Д, 2005. - 195 с.

84. Миркес Е.М Учебное пособие по курсу НЕЙРОИНФОРМАТИКА, Красноярск, 2002 Электронный ресурс. —

85. Режим доступа: http://lib.rus.ec/b/201279/read, свободный.

86. Нейрокомпьютер. Проект стандарта / Е.М. Миркес -Новосибирск: Сибирская издательская фирма РАН, 1998. 188 с.

87. Нейронные сети. Statistica Neural Networks: Методология и технологии современного анализа данных / Под редакцией В.П. Боровикова. — 2-е изд., перераб. и доп. — М.: Горячая линия — Телеком, 2008.-392 е., ил.

88. Нейросети в задачах отображения Электронный ресурс. — Режим доступа: http://www.victoria.lviv.ua/html/oio/html/theme8rus.htm, свободный.

89. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д.А. Поспелова. М.: Наука. Гл. ред. Физ.-мат. Лит., 1986. - 312 с. — (Проблемы искусственного интеллекта).

90. Первозванский A.A. Курс теории автоматического управления. -М.: Наука, 1986.-616 с.

91. Первые 10 способов очистки данных Электронный ресурс. ■— Режим доступа: http://office.microsoft.com/ru-ru/excel-help/HAOl 0221840.aspx, свободный.

92. Поддержка новой встроенной базы данных в ASP.NET Электронный ресурс. — Режим доступа: http://blogs.msdn.eom/b/ruscottgu/archive/2010/07/16/new-embedded-database-support-with-asp-net.aspx, свободный.

93. Прикладные нечеткие системы: Пер. с япон. / К. Асаи, Д. Ватада, С. Иваи и др.; под редакцией Т. Тэрано, К. Асам, М. Сугэпо. — М.: Мир, 1993.-368 е., ил.