автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Исследование нейросетевых и гибридных методов и технологий в интеллектуальных системах поддержки принятия решений

На правах рукописи

КОМАРЦОВА Людмила Георгиевна

ИССЛЕДОВАНИЕ НЕЙРОСЕТЕВЫХ И ГИБРИДНЫХ МЕТОДОВ И ТЕХНОЛОГИЙ В ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМАХ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ

Специальность 05.13.11 - Математическое и программное обеспечение

вычислительных машин, комплексов и компьютерных сетей

АВТОРЕФЕРАТ диссертации на соискание ученой степени доктора технических наук

Москва-2003

Работа выполнена на кафедре «Компьютерные системы и сети» Калужского филиала Московского государственного технического университета им. Н.Э. Баумана

Официальные оппоненты: Заслуженный деятель науки РФ,

доктор технических наук, профессор Курейчик Виктор Михайлович

Доктор технических наук, профессор Филаретов Геннадий Федорович

Доктор технических наук, старший научный сотрудник Фоминых Игорь Борисович

Ведущее предприятие: Российское Агентство по системам управления

Научный центр нейрокомпьютеров (г. Москва)

Защита состоится 14 ноября 2003 г. в 16 час. 00 мин.

на заседании диссертационного совета Д 212.157.01

при Московском энергетическом институте (Техническом университете)

по адресу: Москва, Красноказарменная ул., д.17, ауд. Г-306

Отзывы в двух экземплярах, заверенные печатью организации, просьба направлять по адресу: 111250, Москва, Красноказарменная ул., 14, Ученый Совет МЭИ.

Автореферат разослан «_»_2003 г.

С диссертацией можно ознакомиться в библиотеке Московского энергетического института (Технического университета)

Ученый секретарь

диссертационного совета Д 212.157.01, профессор

; t / j Ладыгин И.И.

2соЗ-А

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность. Интеллектуальные компьютерные технологии в настоящее время являются одним из ключевых направлений развития информатики. Проведение исследований по форме и методам построения интеллектуальных систем позволяет России оставаться среди стран, влияющих на мировое развитие науки.

Особенно важным в этих исследованиях представляется создание интеллектуальных систем поддержки принятия решений (ИСППР), которые благодаря огромному прогрессу в области вычислительной техники находят широкое применение при решении сложных трудно формализуемых задач, какими являются задачи автоматизированного проектирования, робототехники, управления, информационного мониторинга, диагностики и т.д.

Отличительными признаками трудно формализуемой задачи являются неполнота исходных данных о решаемой задаче, их неточносиь и неоднородность, высокая вычислительная сложность их анализа даже на быстродействующих компьютерах. Трудно формализуемая задача не имеет точного решения и требует применения приближенных методов, основанных на использовании эмпирических данных, экспертного оценивания, нечетких и неклассических логик, моделирования, специально разработанных методик.

Современные методы построения ИСППР берут начало в работах таких российских и зарубежных ученых, как Глушков В.М., Амосов H.A., Поспелов Д.А., Винер Н., Минский М., Ларичев О.И., Лорьер Ж.-Л., Розенблатт Ф., Пейперт С., Стефанюк В.Л., Гладун В.П., Попов Э.В., Осипов Г.С, Трахтен-герц Э.А., Загоруйко Н.Г., Борисов А.Н., Вагин В.Н., Финн В.К. и др.

Основные ограничения известных методов и технологий, используемых в настоящее время в системах поддержки принятия решений в трудно формализуемых задачах, обусловлены недостаточной эффективностью решения в них проблем обучения, настройки и адаптации к проблемной области, обработки неполной и неточной исходной информации, интерпретации данных

и накопления знаний экспертов, единообразщдалшедаииявинмшформации,

РОС. НАЦИОНАЛЬНАЯ!

3 библиоцяСа I

С.Петирб»г ,

09 M0J«

поступающей из различных источников и т.д. Эти ограничения могут быть устранены на основе использования перспективных нейросетевых методов и технологий, эволюционного моделирования и генетических алгоритмов, нечеткой логики, различных комбинированных технологий или технологий мягких вычислений - Soft computing (нейро-нечетких, нейро-генетических и т.п.). Исследованию и практическому применению этих методов и технологий для решения практических задач посвящены работы Галушкина А.И., Горбаня А.Н., Курейчика В.М., Дунина-Барковского В.Л., Омату С., Заде Л., Касабова Н., Гольдберга Д., Лина С., Нечаева Ю.И., Филаретова Г.Ф., Васильева В.И., Фоминых И.Б., Аверкина А.Н., Редько В.Г., Ярушкиной Н.Г. и др.

Вместе с тем, несмотря на активные исследования в этой области, все еще остаются не полностью решенными многие проблемы, связанные с разработкой методов и алгоритмов синтеза нейронной сети и интерпретации результатов ее работы для конкретных приложений, недостаточно проработаны вопросы интеграции различных информационных технологий и особенности их реализации в ИСППР с целью повышения эффективности решаемых с ее помощью трудно формализуемых задач.

Таким образом, решаемые в диссертационной работе задачи исследования нейросетевых и гибридных методов и технологий в ИСППР для повышения эффективности реализации в них механизмов обучения, самообучения и адаптации к особенностям проблемной среды являются важными и актуальными.

Целью диссертации является развитие теории, создание, исследование и совершенствование методов и алгоритмов, составляющих основу нейросетевых и гибридных технологий, повышающих эффективность процессов обработки информации в интеллектуальных системах, предназначенных для поддержки принятия решений. Эффективность применения технологий оценивается по качеству решений, срокам их получения, а также по возможности

гшаемых в рамках ИСППР задач.

Для достижения поставленной цели в диссертации решаются следующие основные задачи.

1. Разработка и исследование методов и алгоритмов, нацеленных на повышение эффективности применения нейросетевых и гибридных методов и технологий в интеллектуальных системах поддержки принятия решений.

2. Разработка и исследование принципов построения базовых нейронных модулей, ориентированных на специфику предметной области и предназначенных для комплексного решения типовых задач, лежащих в основе создания интеллектуальной системы поддержки принятия решений.

3. Разработка алгоритмов и методики построения нейронных сетей и гибридных моделей с заданными характеристиками, в зависимости от особенностей их применения для решения конкретных задач в рамках интеллектуальной системы поддержки принятия решений с возможностью адаптации к проблемной среде в условиях процесса поиска решения.

4. Разработка методических основ анализа и оценки прогнозируемых альтернативных вариантов решений, обеспечивающих обобщение результатов моделирования и оптимизацию параметров моделей при существенном сокращении времени исследования. 1

5. Исследование на практике эффективности применения созданных методов, алгоритмов и инструментальных средств, точности заложенных в них методов и алгоритмов подготовки и выбора решения.

Методы исследования. Проведенные теоретические и прикладные исследования базируются на методах современного системного анализа, теории принятия решений, нейроинформатики, генетических и эволюционных алгоритмов, теории нечеткой логики, теории распознавания образов, теории оптимизации, методах математической статистики, теории планирования экспериментов, имитационного моделирования, объектно-ориентированного программирования.

Научная новизна. Разработанные в диссертации теоретические основы построения нейросетевых и гибридных моделей поиска и оценки решений в

трудно формализуемых задачах с помощью ИСППР, обеспечивающих реализацию механизмов обучения, самообучения и адаптации к особенностям проблемной среды, и методы их анализа являются существенным вкладом в развитие фундаментальных исследований в области теории принятия решений, создания и исследования новых технологий проектирования сложных программных систем, расширяющих интеллектуальные возможности компьютеров и компьютерных систем.

Конкретно на защиту выносятся следующие новые научные положения и результаты:

методы и алгоритмы повышения эффективности применения нейросе-тевых и гибридных технологий в интеллектуальных системах поддержки принятия решений, выражающейся в повышении качества формируемых решений и в сокращении сроков их получения;

- методика и алгоритмы формирования специализированных нейросетевых баз знаний на основе предварительно обученных нейронных модулей, обеспечивающих гибкость и накопление опыта эксперта в заданной предметной области;

- методы и алгоритмы синтеза нейронной сети и гибридных моделей с требуемыми свойствами для конкретных приложений;

- методы и алгоритмы анализа и оценки альтернативных вариантов решений методами моделирования, обеспечивающие развитие предпочтительного варианта и оценку результата для принятия окончательного решения.

Практическая значимость результатов диссертационной работы определяется созданием комплекса программных инструментальных средств, повышающих эффективность процессов обработки информации в интегрированных интеллектуальных системах поддержки принятия решений и позволяющих использовать разработанные методы, модели и программные системы, отвечающие конкретным приложениям. Созданный комплекс инструментальных средств может служить как для научных исследований и обучения, так и для комплексирования с другими информационными системами

б

коммерческих и государственных предприятий посредством стандартных интерфейсов DCOM, DDE, CORBA и др. с целью получения доступа к реальным базам данных и знаний. Предлагаемые методы, алгоритмы и программные системы применены при решении конкретных задач исследования специализированных компьютерных систем обработки данных, а также при выборе компонентов программного и аппаратного обеспечения компьютерных сетей, разрабатывавшихся как для учебного заведения, так и для государственных и коммерческих организаций.

Достоверность. Достоверность научных положений, теоретических выводов и практических результатов, полученных в диссертации, подтверждена результатами экспериментальной проверки методов, алгоритмов и программного обеспечения с использованием стандартных и специально разработанных тестов на основе существующих методик, корректным обоснованием и анализом моделей с применением методов математической статистики, подтверждением полученных результатов работы другими авторами, а также результатами практического использования разработанных в диссертации математических, алгоритмических и программных методов и средств.

Внедрение и реализация результатов работы. Диссертация является теоретическим обобщением научных исследований, выполненных автором в течение 25 лет на кафедре "Компьютерные системы и сети" КФ МГТУ им. Н.Э. Баумана в результате сотрудничества со многими промышленными предприятиями и фирмами. Теоретический базис разработанного подхода к построению интеллектуальных систем поддержки принятия решений в трудно формализуемых задачах основан на исследованиях, результаты которых обобщены в монографии, учебных пособиях, научных статьях и в докладах на национальных и международных конференциях. Важная часть разработанного программного обеспечения зарегистрирована в Роспатенте (имеется 7 авторских свидетельств об официальной регистрации программ для ЭВМ). Выполнены 17 хоздоговорных и госбюджетных НИР, в которых автор являл-

ся руководителем, заместителем руководителя, ответственным исполнителем и исполнителем темы.

Основные результаты диссертационной работы нашли свое применение в виде инженерных рекомендаций и методик, пакетов прикладных программ и инструментальных средств при разработке Государственной сети вычислительных центров (Гос. per. № 74066264, № 74017988. -М.:МЭИ,1974-1975г.г.), выборе комплекса аппаратных и программных средств проблемно-ориентированных вычислительных систем и сетей (Гос. per. № 77077691-М. :МЭИ, ЦНИИ "АГАТ" 1976-1977г.г.), создании специализированных распределенных вычислительных комплексов управления цехом сборки интегральных схем, техпроцессом, динамическими объектами (Гос.рег. №79076603, №78007065, №81018468. -М.:МВТУ им. Н.Э. Баумана, 1978-1981г.г.), разработке обобщенной имитационной модели комплекса обработки телеметрической информации в реальном масштабе времени и имитационных моделей специализированных устройств (Гос.рег. №81011976. -М.:МВТУ им. Н.Э. Баумана, 1985г.), разработке и исследовании специализированных распределенных вычислительных комплексов (Гос. per. №86015052. -М.:МГТУ им. Н.Э. Баумана, 1990 г.г.), проектировании и анализе информационно-вычислительной сети КФ МГТУ им. Н.Э. Баумана, (Гос. per. №01950002971. -М.:МГТУ им. Н.Э. Баумана, 1991-1995г.г.), развитии и применении новых технологий проектирования вычислительных систем и сетей (Гос. регистр. № 01980003288. - М.: МГТУ им. Н.Э. Баумана, 1998), создании и развитии региональных и локальных сетей на предприятиях и в офисах (Гос. per. 01990004086, № 01200107595 -М.:МГТУ им. Н.Э. Баумана, 1996-2001 г.г.).

Полученные в диссертации результаты внедрены на ГУП ОКБ "СПЕКТР" (г. Рязань), на ГУП КНИИТМУ (Калужский научно-исследовательский институт телемеханических устройств), на ОАО "Восход" - Калужский радиоламповый завод (KPJI3), на ОАО "Тайфун" - Калужский приборостроительный завод, в научно-производственной фирме "ЭВЕРЕСТ", в Калужском управлении подземного хранения газа (КУПХГ), в учебный

g

процесс. Наибольшее отражение в работе нашли результаты, полученные автором и руководимой им научной группой при совместной работе с Особым конструкторским бюро "Спектр" (1975-2002 г.г.), связанные с разработкой и анализом специализированных распределенных вычислительных комплексов, предназначенных для оперативной обработки телеметрической информации и проведении наземных испытаний бортовых систем.

Результаты диссертационной работы используются в учебном процессе: при чтении лекций, при курсовом и дипломном проектировании, проведении студенческих НИР, при подготовке кандидатских диссертаций (автор имеет 4 аспиранта) и в лабораторных работах на кафедре "Компьютерные системы и сети" КФ МГТУ им. Н.Э. Баумана, на межвузовском факультете КГПУ (Калужского Государственного педагогического университета). Монография, учебное пособие "Нейрокомпьютеры", допущенное Министерством образования Российской Федерации для студентов высших учебных заведений, и 5 учебных пособий (МГТУ им. Н.Э. Баумана), разработанные автором, в отсутствии широко доступных учебников по теме диссертации, используются для подготовки инженеров по специальности "Вычислительные машины, комплексы, системы и сети" направления подготовки дипломированных специалистов "Информатика и вычислительная техника". Полученные автором результаты вошли в программы дисциплин "Вычислительные системы и сети", "Программные средства проектирования вычислительных систем", "Экспертные системы", "Системы искусственного интеллекта", "Перспективные направления развития СИИ", "Нейрокомпьютеры", "Эволюционное моделирование", "Интеллектуальные САПР", в читаемые лекционные курсы для студентов 4-го, 5-го, 6-го и 7-го курсов КФ МГТУ им. Н.Э.Баумана, а также используются в учебном процессе других Российских ВУЗов.

Практическое использование результатов диссертационной работы подтверждено соответствующими актами о внедрении. Акты о внедрении и использовании результатов работы, а также копии авторских свидетельств (Роспатент) представлены в Приложении к диссертации.

Апробация работы. Результаты исследований, составляющих содержание работы, докладывались и обсуждались на Всероссийской конференции с международным участием "Нейрокомпьютеры и их применение" (Москва,

1999, 2000, 2001, 2002), на Всероссийской научно-технической конференции "Нейроинформатика" (Москва, 2000, 2001, 2002, 2003, МИФИ), на Всероссийском семинаре "Нейроинформатика и ее приложения" (Красноярск, 2000, 2001, 2002, СО РАН), на Международном форуме "Информационные средства и технологии МФИ" (Москва, МЭИ, 1999, 2000, 2001, 2002), на Международной конференции "Lyap-2001", посвященной памяти Ляпунова А.А. (Новосибирск, СО РАН, 2001), на Восьмой национальной конференции по искусственному интеллекту КИИ" 2002 (Коломна, 2002), на Международной конференции CAD/ САМ/ PDM "Системы проектирования, технологической подготовки производства и управления этапами жизненного цикла промышленного продукта" (Москва, 2001,2002,2003, ИЛУ РАН), на Международной конференции SicPro- "Идентификация систем и задачи управления" (Москва,

2000, 2003 ИЛУ РАН), на Международном научно-практическом семинаре "Интегрированные модели и мягкие вычисления в искусственном интеллекте" (Коломна, 2001, 2003), на ХП Международной конференции "Интеллектуальные САПР" (Геленджик, 2002), на Международной IEEE конференции "Искусственные интеллектуальные системы" ICAIS'2002 (Геленджик, 2002), на Втором российско-украинском семинаре "Интеллектуальный анализ информации ИАИ- 2002 (Киев, 2002), на Научной сессии МИФИ -2002 "Интеллектуальные системы и технологии" (Москва, 2002, 2003, МИФИ), на Международной конференции TAC - "Теория активных систем" (Москва, 2001, ИПУ РАН), на II Международной конференции CASC-2002 "Когнитивный анализ и управление развитием ситуаций" (Москва, 2002, ИПУ РАН), на Международной научной школе MA БРК - "Моделирование и анализ безопасности, риска и качества в сложных системах" (Санкт-Петербург, 2001, 2002, ИПМ РАН), на Пятом Международном симпозиуме " Интеллектуальные системы" - INTELS'2002 - пленарный доклад (Калуга-Москва, 2002), на I и II

Всесибирском конгрессе женщин-математиков (Красноярск, 2000, 2002, СО РАН), на Международной научно-технической конференции "Системные проблемы качества, математического моделирования и информационных технологий" (Сочи, 1999, 2000-пленарный доклад), на Российском научном симпозиуме "Современные проблемы информатики и кибернетики"- пленарный доклад (Сочи, 2001), на Всероссийской научно-технической конференции "Моделирование неравновесных систем" (Красноярск, 1999, 2000, 2001, 2002, СО РАН), на Международной конференции по проблемам управления, посвященной 60-летию ИЛУ (Москва, 1999, ИЛУ РАН), на Международной конференции "Континуальные логико-алгебраические исчисления и нейро-математика в науке, технике и экономике"- КЛИН (Ульяновск, 2001, 2002, 2003), на 8-ом Международном научно-техническом семинаре "Современные технологии в задачах управления, автоматики и обработки информации" (Алушта, 1999), на Всероссийском научно-практическом семинаре "Новые информационные технологии" (Москва, 2001, 2002, МГИЭМ), на Третьей Международной конференции "Измерение, контроль, информатизация" ИКИ-2002 (Барнаул, 2002), на Первой Международной конференции "Современные сложные системы управления -СССУ/ HTCS - High Technology Control Systems" (Липецк, 2002), на Всероссийских научно-технических конференциях "Автоматизация исследования, проектирования и испытания сложных систем" (Калуга, 1980 - 2002), на Международной конференции "Шаг в будущее" (Москва, 1995), на Международной конференции "Современные проблемы моделирования" (Киев, 1994), на Всесоюзном семинаре по автоматизированным обучающим системам (Киев, 1985), на Всесоюзных школах - семинарах по высокопроизводительным вычислительным системам (Москва, 1984; Чернигов, 1991), на Всесоюзных симпозиумах по математическому обеспечению (Ж АН УССР, Киев, 1974, 1983), "на Всесоюзных конференциях " Применение микропроцессоров в управляющих вычислительных машинах и средах" (Рязань, 1979; Клайпеда, 1981; Ленинград, 1983; Ереван, 1986), на Всесоюзной конференции " Применение вычислительной тех-

ники в автоматизированном проектировании сложных систем" (Таллин, 1980), на Всесоюзных научно-технических совещаниях "Перспективы развития микропроцессорных систем" (Рига, 1980, 1981), а также на научных семинарах Российской ассоциации искусственного интеллекта (Москва), НИ-ЦЭВТ (Москва), МЭИ (Москва), МГУ (Москва), МГИЭМ (Москва), Всесоюзного института электротехники (Рига), ГУЛ ОКБ "Спектр" (Рязань), МГТУ им. Н.Э. Баумана (Москва).

Публикации. По теме диссертации опубликовано 53 основных работы, 6 учебных пособий, одна монография, имеется 7 авторских свидетельств об официальной регистрации программ для ЭВМ (Роспатент), зарегистрировано 17 отчетов по НИР.

Структура и объем работы. Диссертация состоит из введения, шести глав, заключения, 5 приложений, содержит 436 страниц текста, 89 рисунков, 32 таблицы, библиографический список из 260 наименований.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность исследуемой в диссертации проблемы, формулируется цель и основные направления исследования. Кратко изложена научная новизна, практическая ценность и достоверность полученных результатов диссертационной работы.

В первой главе представлен обзор и анализ современных проблем в области создания интеллектуальных систем, расширяющих возможности компьютерных систем при решении трудно формализуемых задач, к которым, в частности, относятся задачи исследования самих компьютерных систем и сетей на раннем этапе их создания.

Отмечаются характерные особенности трудно формализуемых задач: неполнота и неточность исходных данных о решаемой задаче; наличие недетерминизма в процессе поиска решения; высокая вычислительная сложность получения результата; необходимость коррекции и введения дополнительной информации во время формировании решения при активном участии лица,

принимающего решение (ЛПР). Перечисленные особенности не позволяют использовать для решения таких задач строгие алгоритмические методы и модели. ИСППР, объединяя подходы и методы теории принятия решений, искусственного интеллекта и используя субъективную и объективную информацию, обеспечивает ЛПР анализом решаемой проблемы и направляет его в процессе поиска и выбора решений с целью повышения эффективности принимаемых решений.

Основными компонентами ИСППР являются модели представления проблемной ситуации (база знаний) и поиска решений, а также средства организации взаимодействия с пользователем (экспертом, ЛПР).

Подчеркивается, что главной трудностью разработки и реализации ИСППР для решения конкретных прикладных задач является объективное существование факторов, связанных с неполнотой и неопределенностью знаний о развитии процессов в среде принятия решений. Выражается это в нарушении свойства монотонности получения новых знаний, являющегося основным в традиционных формальных логических системах. Преодоление ограничений, налагаемых этими системами, требует либо применения неклассических логик, либо разработки новых подходов, имитирующих человеческие способности при поиске и выборе решений. К таким способностям относятся: возможность обработки неполной и противоречивой информации; высокопараллельная обработка данных и знаний; обучение и адаптация к новой информации; интеграция всех имеющихся данных и знаний для поиска и выбора решений.

Для развития последнего подхода в диссертации предложено использовать нейросетевые и гибридные технологии,- которые позволяют устранить отмеченные недостатки формальных логических систем.

Выполненный анализ и обзор зарубежных и отечественных пакетов прикладных программ на основе нейронных сетей показал, что ряд задач, связанных с эффективным использованием этой технологии, остается нерешенным. К ним относятся: отсутствие эффективных алгоритмов обучения

многослойного персептрона, альтернативных методу обратного распространения ошибки, методов автоматической подстройки параметров алгоритма обучения во время процедуры обучения, автоматического останова процедуры обучения, автоматического формирования топологии нейронной сети, методов интерпретации результатов работы сети и т.д., которые требуют дальнейшей доработки. Мало исследованными остаются также проблемы построения гибридных моделей, формирующихся на основе интеграции ней-росетевых и других технологий.

Обзор интегрированных программных продуктов на основе нейронных сетей, нечеткой логики и генетических алгоритмов показал, что интеграция различных информационных технологий при построении гибридных моделей осуществляется чаще всего на уровне отдельных модулей. Хотя это и дает во многих случаях положительный эффект, но не позволяет в полной мере использовать возможности заложенных в интегрируемые системы алгоритмов. Необходима интеграция на уровне методов. С этой целью в работе выделены базовые гибридные модели: 1) нечеткие нейросетевые, 2) нейросетевые нечеткие, 3) на основе нейронных сетей и генетических алгоритмов, использование которых расширяет класс решаемых трудно формализуемых задач и обеспечивает получение решений с меньшей ошибкой прогноза и за более короткий срок.

Исследование программных моделирующих комплексов для анализа и оценки решений показало, что актуальной проблемой является разработка интеллектуальных компонент в составе моделирующей системы на основе нейросетевых и гибридных технологий. Это позволит не только решать традиционные задачи моделирования, но и обеспечить управление процессом моделирования при поиске оптимальных значений параметров модели, выполнять отбор информативных параметров, ранжировать уровни параметров, что предоставит ЛПР возможность выбора рационального варианта при существенном сокращении времени анализа и оценки альтернативных решений.

На основании проведенного обзора и анализа методик создания ИСППР сформулирована цель исследований и основные задачи, решением которых она достигается.

Вторая глава посвящена вопросам организации нейросетевых баз знаний, как составной части системы поддержки принятия решений, на основе предварительно обученных на решение определенной проблемы нейронных модулей.

Нейросетевая база знаний формируется на основе информации, поступающей из различных источников: 1) фундаментальных знаний, представленных в виде стандартов, нормативно-справочной информации и т.д. 2) экспериментальной информации, получаемой из результатов моделирования, натурного эксперимента, тестирования; 3) экспертной информации о качественных и количественных характеристиках конкретных объектов исследуемой предметной области в форме текстов, экспертных правил и отдельных примеров (невербализованных описаний), а также информации мета - уровня, определяющей правила использования фундаментальных знаний.

Проблема заключается в том, что эти данные, как правило, носят фрагментарный характер, имеют формат представления в различных шкалах (числовых, лингвистических, порядка, наименований) и задача системы состоит в обобщении имеющихся данных и формировании соответствующих обучающих выборок. Разработаны и реализованы методы кодирования исходной информации и ее единообразное представление в обученных нейронных модулях.

Исследованы проблемы синтеза НС для конкретной решаемой задачи, главными из которых являются следующие: отсутствие формальных методов выбора типа НС, адекватной решаемому классу задач; недостаточная обоснованность выбора методов оптимизации в процедуре обучения НС, что приводит к большим ошибкам прогноза и времени обучения; высокая комбинаторная сложность проблем, связанных с автоматическим формированием то-

пологии НС, что во многих случаях не позволяет создавать НС минимальной сложности.

Отсутствие в настоящее время формальных методов выбора типа НС заставляет разработчиков использовать накопленный опыт работы с различными типами НС. Проведенные исследование и классификация НС и решаемых ими задач позволила в данной работе выбрать следующие типы НС: нейронные сети без обратных связей, в которых имеются только прямые (последовательные и, возможно, перекрестные) или латеральные связи. Этот тип сетей охватывает достаточно широкий класс НС, дает возможность строить эффективные комбинированные НС, а также интегрировать с другими информационными технологиями.

Исследована процедура обучения НС, связанная с минимизацией ошибки обучения в пространстве весовых коэффициентов связей между нейронами сети, задаваемых числовым вектором межнейронных связей W. В качестве ошибки обучения в работе используется среднеквадратичная ошибка или MSE (Mean Squared Error), которая для выбранных типов НС определяется как усредненная сумма квадратов разностей между желаемой величиной выхода d, и реально полученными на сети значениями у, для каждого примера

1 р

i (Р - число примеров в обучающей выборке) : Е0 = — V (dl - у, )2.

Рм

Выявлены основные проблемы, возникающие при обучении НС по алгоритму обратного распространения ошибки (Back Propagation - BP): медленная сходимость алгоритма, невозможность управления параметрами обучения во время процедуры оптимизации, частое попадание Ё локальный экстремум и др. Предложены способы решения выявленных проблем, исследованные в диссертации.

Рассмотрены методы построения топологии НС рассматриваемого класса НС. Определены преимущества и недостатки статистического, конструктивного, деструктивного и эволюционного подхода к автоматическому формированию топологии НС. Предложены методы устранения недостатков

конструктивного и эволюционного подходов, развиваемые в последующих главах.

Поставлена задача синтеза НС следующим образом. Пусть задана обучающая выборка / = {(Ку,У;)},у = 1,...,Р , Р - число примеров в обучающей

выборке, Ыу, Yj- входной и выходной вектор НС соответственно. Необходимо построить такую НС, которая обеспечивала бы наиболее эффективное решение ставящейся прикладной задачи, описываемой выборкой I. Оценку синтезируемой НС будем осуществлять с помощью следующих критериев: 1) вычислительной сложностью определяемой количеством межнейронных связей в НС (или количеством операций, требуемых для вычисления выходного вектора); 2) ошибкой обобщения £общ 1 определяющей величину ошибки распознавания, вычисляемой на тестовой выборке.

Эти два критерия являются взаимно противоположными и должны быть обращены в минимум. Задача синтеза НС в работе решается с использованием одного критерия с учетом ограничений, налагаемых на другой критерий: 1) для заданной мах допустимой £о6щ (неотрицательное действительное число е) найти топологию нейронной сети с минимальной сложностью Б; 2) для заданной топологии сети, определяемой мах допустимой сложностью 5 (положительное целое число), построить такую НС, для которой значение Еа6и1 <= е. Конкретно задача синтеза НС в заданной постановке решается в диссертации применительно к многослойному персептрону.

Формализация и представление фрагментов знаний экспертов о предметной области в виде предварительно обученных нейронных модулей, которые затем используются для построения более сложных многомодульных НС, в которых эти модули не обучаются, преследует цель упрощения процедуры синтеза НС для решения конкретной проблемы. В этом случае происходит ускорение процессов обучения многомодульной сети на более высоких уровнях обработки информации за счет обучения межнейронных связей только скрытых и выходных слоев НС. Предварительно обученные нейронные модули используются многократно при построении разных многомо-

дульных НС, что приводит к существенному выигрышу не только в объеме необходимой памяти для хранения базы знаний (БЗ), но и во времени формирования нейронной сети для решения конкретной задачи.

Под многомодульной НС в работе понимается нейронная сеть, состоящая из к слоев (к >2) и формируемая как из отдельных нейронов, так и из нейронных модулей, каждый слой которой может обучаться по "собственному" алгоритму. Многомодульная НС объединяет ранее обученные нейронные модули в единую сеть путем введения скрытого слоя.

Модульный подход позволил также решить проблемы дообучения и адаптации НС к проблемной среде в случае появлении новой информации об исследуемой проблеме путем организации дополнительных входов в многомодульной сети без переобучения отдельных модулей, при этом обучаются связи только этих входов с дополнительным скрытым слоем и скрытых слоев с выходным слоем НС.

Разработан алгоритм интерпретации результатов работы НС. Проблема использования НС в ИСППР заключается в том, что итогом обучения НС является числовой вектор весовых коэффициентов W, который трудно интерпретировать. В диссертации решение задачи интерпретации получено на основе разработки оригинального алгоритма формирования нечеткой базы знаний по примерам, который на основе заданной обучающей выборки позволяет формировать продукционные правила IF - THEN. Исследована проблема устранения конфликтов при создании базы знаний.

В третьей главе решаются проблемы синтеза нейронной сети на конкретную задачу в сформулированной в главе 2 постановке. С этой целью разработаны эффективные алгоритмы формирования топологии и обучения НС на основе использования генетических алгоритмов оптимизации.

Для построения алгоритма обучения НС, альтернативного BP, с целью устранения выявленных в главе 2 проблем проведено экспериментальное исследование генетического алгоритма (ГА).

На эффективность ГА в смысле повышения скорости сходимости алгоритма и процента нахождения глобального или близкого к нему решения влияют методы кодирования потенциальных решений и выбранные параметры популяции, к которым относятся размер популяции и механизм построения начальной популяции, вид функции качества Fit, типы генетических операторов - мутации, кроссинговера, селекции и отбора хромосом.

Разработаны способы кодирования решений, позволяющие как на этапе инициализации популяции, так и на этапе работы ГА получать только допустимые решения. Предложены новые генетические операторы на основе биологических аналогов: кроссинговера (рекомбинация), хромосомной мутации (робертсоновские транслокации,), селекции ("дальнее" и "ближнее" родство"), отбора ("мягкая" схема). Экспериментальное исследование ГА для решения задачи минимизации ошибки обучения НС на представительном наборе тестовых функций (экстремум которых известен) позволило определить наилучшее сочетание генетических операторов для функций, отличающихся размерностью и числом экстремумов. Полученные рекомендации использованы при конструировании генетических алгоритмов для обучения НС.

Разработана схема многопопуляционного алгоритма, отличающаяся от известных решением проблем определения момента начала взаимодействий tv и способами обмена хромосомами между популяциями. Первая проблема решается следующим образом. Вводится условие наступления события /„: если сумма отклонений Fit,,^ в текущем поколении и Fitraax за последние с поколений не превосходит некоторого заданного положительного числа 5, то развитие популяции не приводит к появлению лучших решений и наступает период взаимодействия. Параметр 8 является одним из вспомогательных параметров ГА и задается пользователем перед началом его инициализации. Для решения второй проблемы после наступления момента fv происходит ранжирование всех хромосом по функции Fit (по возрастанию). Из каждой популяции удаляется q г худших хромосом (д - процент исключения; О<q< 1; г - количество хромосом в популяции), и на их место включается q-r лучших

хромосом из другой популяции. Выбор обменных хромосом из каждой популяции осуществляется с вероятностью: р, = ---. Условие останова

'¿и^я;-)

м

многопопуляционного алгоритма ГА - сумма разностей функций фитнесса разных популяций, участвующих в обмене, за с последних популяций меньше 5. Для двух одновременно развивающихся популяций условие останова записывается следующим образом:

1ИС -РкЦ/^хтах^С.КСХб.

Предложен алгоритм построения адаптивного ГА, т.е. такого алгоритма (внутреннего), параметры которого настраиваются с помощью другого ГА (внешнего). Алгоритм выбора генетических операторов с помощью внешнего алгоритма относится к алгоритму комбинаторной оптимизации и выполняется в два этапа. На первом этапе определяется вид хромосомы внешнего ГА, генами в которой являются подбираемые параметры внутреннего ГА.

Тип оператора Тип операто- Тип операто- Тип опера- Размер попу-

кроссинговера ра мутации ра селекции тора отбора ляции

На втором этапе на каждой итерации работы внешнего ГА для оценки качества каждой хромосомы происходит функционирование внутреннего ГА с параметрами, выбранными на данной итерации. Общее число итераций для поиска лучших параметров внутреннего алгоритма является значительным и составляет т*г*п, где т - число итераций, а г - размер популяции внешнего алгоритма, п - число итераций внутреннего ГА. Однако, как показали экспериментальные исследования, скорость сходимости адаптивного ГА по сравнению с обычным ГА увеличивается в два и большее число раз.

На основе полученных результатов исследования ГА разработан алгоритм обучения, отличный от ВР. Для минимизации Е0 каждому варианту вектора весовых коэффициентов XV (фенотипу) будем ставить в соответствие некоторую хромосому Н (генотип), полученную в результате использования разработанного метода числового кодирования. Хромосома будет представ-

20

лять собой вектор действительных чисел, кодирующих весовые коэффициенты связей нейронов входного слоя с нейронами одного или нескольких скрытых слоев, а также связи между нейронами скрытых слоев и нейронами выходного слоя. Таким образом, каждой z'-й реализации, i-l,...k вектора весовых коэффициентов W; =(wu,wl2,...,wkn,...)na. уровне генотипа соответствует хромосома Н, = А]2.-Л/.•••)> начальная популяция формируется из ¿таких хромосом методом равномерного распределения весов.

Задача обучения сводится к нахождению варианта W*, соответствующего заданной Е0, которая принимается за функцию фитнесса Fit в генетическом алгоритме. Для определения Е0 каждый z'-й вектор весовых коэффициентов W, (фенотип) закодированный в хромосоме Н, (генотип), обучается на "своей" нейронной сети НС,. Тогда ошибка z -й нейронной сети Еы может быть вычислена по результатам ее обучения:Е0, =HCI(WI), где НС, - нейронная сеть для обучения вектора W

Само понятие обучения НС при использовании для этих целей генетического алгоритма, в отличие от традиционных методов обучения, имеет несколько иной смысл. Обучение каждой НС заключается в применении генетических операторов к генотипу вектора W„ т.е. к хромосоме Н„ а обучающая выборка служит для вычисления ошибки обучения Е01 нейронной сети HCi применительно к фенотипу. При завершении работы ГА определяется лучшая по всем популяциям хромосома Н*, соответствующая искомому вектору W*. На основе дополнительных исследований определяются генетические операторы, дающие наименьшую Е0.

В предложенном алгоритме, в отличие от известных методов обучения НС на основе генетических алгоритмов, с целью повышения точности нахождения экстремума разработана и исследована двухэтапная процедура поиска Еа тт. На первом этапе, на котором определяется область существования глобального экстремума, используется ГА. На втором этапе происходит уточнение экстремума на основе локальных алгоритмов оптимизации, иссле-

дованных в диссертации. Это позволяет разрабатывать алгоритмы обучения НС, обладающие высокой скоростью сходимости с одновременным повышением вероятности нахождения глобального экстремума (ошибка распознавания уменьшается примерно на 10%).

Предложены алгоритмы автоматического формирования топологии нейронной сети: 1) на основе модифицированного конструктивного алгоритма, обеспечивающего, в отличие от метода динамического наращивания нейронов сети, итерационный способ наращивания с учетом скорости изменения Еа и одновременным обучением только части нейронов очередного слоя, что приводит к снижению вычислительной сложности и гарантирует сходимость к заданной ошибке обучения; 2) на основе генетического алгоритма, развивающего вариант прямого кодирования путей в ациклическом графе НС (от входа к выходу), что позволяет одновременно исследовать несколько вариантов организации топологии и тем самым повысить вероятность получения лучшего варианта (в смысле минимальной сложности) при заданной Е^.

Для каждого из предложенных методов разработаны алгоритмы, проведено экспериментальное исследование устойчивости их работы и построены доверительные интервалы. Проведенные эксперименты построения тополо-"гйй НС используемой для выбора топологии локальной вычислительной сети показали, что в среднем удается уменьшить количество межнейронных - связей примерно на 30% по сравнению с полносвязной НС, что позволяет, в свою очередь, уменьшить время распознавания и время обучения в сетях, использующих данный модуль.

•Четвертая глава посвящена повышению эффективности использования • нейросетевых и гибридных технологий в ИСППР. С этой целью проведено теоретическое и экспериментальное исследование в области построения нейросетевых и гибридных классификаторов, используемых в ИСППР для прогноза возможных решений, и определены пути их создания.

Предложены и программно реализованы усовершенствованные нейросе-тевые классификаторы персептронного типа, позволяющие устранить выяв-

ленные недостатки алгоритма обратного распространения ошибки ВР: медленную сходимость и возможность блокировки сети. Для повышения скорости сходимости алгоритма ВР обычно до начала процедуры обучения эмпирически устанавливаются 1) коэффициент И, характеризующий скорость обучения, от величины которого зависит время сходимости; 2) коэффициент инерционности позволяющий корректировать приращение веса на предыдущей итерации, что предотвращает блокировку сети:

Д(0 = + жА^ (г -1),

где = д^ ^ , а Е0 - средняя квадратичная ошибка обучения; к - скорость обучения; я - коэффициент инерционности; t - номер текущей итерации; и - номер слоя; х, - значение входа г-о нейрона в слое п, Sj -выходной сигнал нейрона у. Основная проблема более быстрой сходимости состоит в автоматической подстройке параметров обучения А и я, влияющих на процесс сходимости.

Для решения этой проблемы в работе предложен метод автоматической подстройки параметров обучения НС на основе методов нечеткой логики. Идея подхода заключается в том, чтобы величина скорости обучения не оставалась постоянной на протяжении всей процедуры обучения, а изменялась в процессе работы алгоритма ВР, в зависимости от определенных условий. Такими условиями является состояние НС (в смысле приближения к экстремуму) и реальное значение параметра обучения, вычисленное в текущей итерации. В нечеткую базу правил записывается экспертная информация о том, каким образом необходимо изменять значение регулируемого параметра (например, на основе приращения градиента ошибки Е0 и градиента второго порядка Е0, влияющего на скорость сходимости ВР) для улучшения работы алгоритма, при этом схема вычисления приращения А и ж соответствует базовой схеме нечеткого контроллера. Проведенные экспериментальные исследования показали, что ВР с нечетким управлением параметрами кип при обучении обеспечивает существенно более быструю сходимость, чем класси-

23

ческий ВР. Достижение той же ошибки обучения (25 %) было достигнуто при числе итераций в пять раз меньше.

Разработан комбинированный алгоритм обучения МНС: на основе генетического алгоритма и алгоритма имитации отжига (АИО). Создание такого алгоритма открывает возможность динамически менять типы и вероятность применения генетических операторов на различных этапах поиска минимума с целью снижения временных затрат и повышения вероятности нахождения глобального экстремума. Это достигается введением в процедуру оптимизации ошибки обучения Е0 управляющего параметра "температуры" который постепенно уменьшаясь по заданному закону, позволяет стабилизироваться Е0 в состоянии минимума. В отличие от известных комбинированных алгоритмов на основе ГА и АИО в предложенном варианте используются новые исследованные в работе генетические операторы, позволяющие учитывать состояние среды поиска.

Проведен сравнительный анализ разработанных классификаторов МНС с традиционными классификаторами на основе методов к- ближайших соседей и потенциальных функций (рис.1).

Рис.1

Результаты экспериментального исследования показали, что классификаторы на основе многослойного персептрона с генетическим алгоритмом обучения (с использованием двухэтапной процедуры и комбинированный с алгоритмом имитации отжига НС+ГА+АИО) могут быть использованы, когда

требуется малое время обучения, высокая скорость распознавания и достаточно высокое качество распознавания, причем наиболее предпочтительным при малых выборках является использование алгоритма обучения НС+ГА+АИО.

Исследование самоорганизующихся сетей на основе сети Кохонена (Kohonen clastering network - KCN), выполненное в работе, преследовало цель создания нейросетевых классификаторов, позволяющих исключить трудоемкий этап подбора примеров (за счет реализации механизма обучения без учителя) и обеспечивающих работу в условиях малых обучающих выборок.

Разработан модифицированный соревновательный алгоритм обучения KCN, в котором изменение скорости обучения и радиуса окрестности выигрывающего нейрона в конкурентном алгоритме обучения происходит по определенному закону для ускорения стабилизации вектора весовых коэффициентов каждого нейрона во время процедуры обучения.

Экспериментальные исследования показали, что удалось в среднем на 10 процентов улучшить качество распознавания и уменьшить время обучения. Это связано с тем, что использование механизма автоматического изменения скорости обучения и радиуса окрестности по мере уменьшения расстояния между входным вектором и вектором весовых коэффициентов W, нейрона i позволяет оптимизировать число обновлений W,.

Дальнейшее повышение эффективности KCN в работе связывается с использованием теории нечетких множеств. В нечеткой нейросетевой модели Кохонена (Fuzzy KCN - FKCN) нечеткость вводится на уровне выделения кластеров. Проведенные в диссертации исследования показали, что как и в алгоритме KCN, большое влияние на сходимость алгоритма обучения FKCN оказывает закон изменения скорости обучения и окрестности соседних нейронов. В отличие от KCN, в FKCN введена мера принадлежности входного образа классу - функция принадлежности ц1р г-1, 2,..., к, j - номер примера в обучающей выборке: j= 1,..., N. Суммарная степень принадлежности вход-

ного вектора ко всем классам равна 1. =1 для f= 1,2,..., N. Количество

и 1

обновлений весов меньше, чем в KCN, за счет введения нечеткости - функций принадлежности ¡i4 входных векторов кластерам. Предложенная модификация FKCNm0d связана с введением нечеткости для скоростей обучения по каждому вектору для каждого класса. Это приводит к более быстрому обучению, т.к. обеспечивает автоматическое управление как изменением скоростей обучения, так и окрестностью обновления, что, в конечном итоге дает меньшее число итераций. Результаты экспериментальных исследований показали, что в общем случае в FKCNra0d процесс обучения завершается за меньшее число итераций, чем FKCN, независимо от последовательности предъявляемых примеров (при разных прогонах алгоритма количество итераций уменьшается на 10-15 %).

В плане развития гибридных технологий (нейросетевых нечетких моделей), разработаны алгоритмы уменьшения трудоемкости нечеткого вывода решений: 1) за счет нейросетевой реализации матрицы нечетких отношений, что позволяет организовать параллельные вычисления и упростить расчетные процедуры при выводе; 2) за счет автоматической подстройки функций принадлежности на основе НС при получении дополнительной информации от пользователя. t

В пятой главе исследуются проблемы, связанные с повышением эффективности процессов анализа и оценки решений с помощью методов имитационного моделирования с целью определения наиболее приемлемого решения по критериям, задаваемым ЛПР. Основные решенные проблемы: снижение трудоемкости создания модели, уменьшение времени анализа с сохранением заданной точности, разработка методики проведения оптимизирующего эксперимента по выбранному критерию.

Для уменьшения трудоемкости создания имитационных моделей предложен модульный подход к ее формированию, который, в отличие от обобщенной модели Бусленко Н.П., дает возможность увеличить гибкость модели

за счет пополнения и конкретизации базы имитационных модулей при решении реальных задач. База имитационных модулей и архив готовых моделей упрощают процедуру создания полной имитационной модели и обеспечивают возможность параллельной имитации на вычислительных системах с сетевой архитектурой.

Общее время исследования модели может быть снижено как за счет уменьшения сложности модели (и соответственно времени проведения одного эксперимента), так и уменьшения количества экспериментов. Для этого предложены следующие методы:

1) использование аналитических моделей (как дополнительного средства анализа), представленных в виде отдельных математических формул, связывающих параметры исследуемых моделей, и в виде разработанных математических моделей на основе теории массового обслуживания; эти модели, с одной стороны, позволяют провести предварительный анализ альтернативных вариантов решений с целью определения лучших значений параметров модели и их чувствительность к изменению диапазона варьирования, а с другой -упростить модель за счет встраивания в нее аналитических зависимостей;

2) методов комбинаторного и смешанного планирования экстремальных экспериментов для проведения ранжирования и отбора информативных параметров имитационной модели; снижения временных и ресурсных затрат на проведение экспериментов на инструментальной ЭВМ и оценку результатов моделирования; повышения интеллектуального потенциала ЛПР за счет предоставления ему средств автоматизированной статистической обработки результатов эксперимента на основе дисперсионного и регрессионного анализа.

Предложенная методика оптимизации параметров имитационной модели, основывается на использовании генетического алгоритма, позволяющего работать с любым типом параметров. Особенность разработанной методики заключается в том, что функцию качества Fit в ГА моделирует нейронная сеть, что позволяет значительно снизить количество проводимых экспери-

ментов и обеспечивает обобщение получаемой в процессе моделирования информации. Проведенное экспериментальное исследование типов нейронных сетей для реализации функции Fit позволило определить типы НС, обеспечивающие меньшую ошибку прогноза результатов имитационного моделирования: многослойный персептрон с комбинированным алгоритмом обучения на основе генетического алгоритма и алгоритма имитации отжига и СМАС (Cerebellar Model Articulation Controller), причем для повышения достоверности оценки хромосом предпочтительным является использование нескольких локальных экспертов, каждый из которых представлен отдельной НС. ,

В шестой главе представлены результаты практической проверки эффективности разработанных и исследованных в диссертации нейросетевых и гибридных методов и технологий на основе создания и апробирования интеллектуальной системы поддержки принятия решений ИСППР на раннем этапе проектирования и моделирования компьютерных систем и сетей. Предложена архитектура ИСППР, включающая три основные подсистемы: подсистему приобретения и накопления знаний, подсистему прогноза и вывода альтернативных решений, подсистему анализа, оценки, оптимизации и выбора приемлемых решений, а также интеллектуальный пользовательский интерфейс, обеспечивающий взаимодействие ЛПР с системой.

Разработан комплекс инструментальных средств, обеспечивающий функционирование ИСППР в соответствии с созданной методологией и включающий: нейроимитатор для функционирования и отработки различных алгоритмов обучения и построения нейронных сетей, систему нечеткого вывода, инструментальную среду для функционирования и исследования генетических алгоритмов, пользовательский интерфейс, среду моделирования с возможностью графического отображения схемы имитационной модели. Использование распределенной вычислительной среды для формирования проектного решения позволяет ускорить процедуру поиска и анализа решения за счет одновременного развития нескольких вариантов формируемых решений

и повысить надежность получаемых результатов за счет дублирования выполняемых процедур.

Представлены результаты решения ряда важных практических задач, связанных с созданием вычислительных средств, работающих в реальном масштабе времени и предназначенных для обработки полетной и предполетной информации, поступающей от космических объектов (ГУЛ ОКБ «СПЕКТР»), модернизацией специализированных вычислительных систем, обслуживающих военные объекты (КНИИТМУ), разработкой информационно- вычислительных систем предприятий военно-промышленного комплекса (ОАО «Восход», ОАО «Тайфун»), созданием компьютерных сетей коммерческих организаций (научно-промышленная фирма «Эверест», Калужское Управление подземного хранения газа). Накопленный опыт решения этих задач позволяет наметить пути дальнейшего совершенствования разработанных и исследованных в диссертации нейросетевых и гибридных технологий. Большинство пакетов прикладных программ, разработанных под руководством автора, защищено авторскими свидетельствами и внедрено в учебный процесс.

ОСНОВНЫЕ ВЫВОДЫ И РЕЗУЛЬТАТЫ

В рамках диссертационной работы проведено теоретическое обобщение и получено решение важной научно-технической проблемы создания методологической базы, моделей, методов, алгоритмов и программ интеллектуальной системы поддержки принятия решений нового типа, обеспечивающей обучение, адаптацию и модификацию баз знаний к проблемной среде с учетом неполноты исходной информации.

Основные результаты работы заключаются в следующем. 1. Разработаны методы и алгоритмы, повышающие эффективность использования нейросетевых и гибридных технологий в интеллектуальных системах поддержки принятия решений, и на их основе создан комплекс программных средств, обеспечивающий адаптацию, обучение, самообучение и модификацию нейросетевых и гибридных модулей обработки информации в

процессе выработки и анализа решений с учетом специфики предметной области.

2. Разработаны принципы построения специализированной нейросетевой базы знаний для конкретной проблемной области и методы формирования нейронных сетей на основе предварительного обучения базовых нейросетевых и гибридных модулей, обеспечивающих их модификацию, обучение и адаптацию к решаемой задаче в процессе поиска решения.

3. Проведено теоретическое и экспериментальное исследование генетического алгоритма (ГА) для обучения НС, являющегося альтернативой алгоритму обратного распространения ошибки (Back Propagation -BP), обеспечивающего увеличение скорости сходимости к глобальному минимуму ошибки обучения и уменьшение ошибки распознавания, а именно:

• на основе анализа естественных природных механизмов эволюции предложены, исследованы и реализованы новые операторы селекции хромосом, кроссинговера, хромосомной мутации, отбора, которые, в отличие от классических, повышают вероятность нахождения глобального экстремума функции ошибки НС со сложным ландшафтом;

• предложен, исследован и реализован многопопуляционный генетический алгоритм обучения НС, позволяющий, в отличие от известных, изменять процедуру обмена хромосом между популяциями, в зависимости от ситуации поиска, что повышает достоверность принимаемого решения;

• разработан, исследован и реализован двухэтапный алгоритм оптимизации, позволяющий за счет использования на первом этапе генетического алгоритма быстро локализовать область существования глобального экстремума, а на втором за счет использования локального алгоритма оптимизации повысить точность нахождения экстремума;

• проведено экспериментальное исследование влияния различных генетических операторов на эффективность поиска и получены рекомендации о целесообразном их использовании в генетическом алгоритме при оптимизации функции ошибки НС.

4. Решена задача настройки (автоматического формирования топологии) нейронного модуля и многомодульной нейронной сети (НС) на конкретную прикладную задачу, решаемую в ИСППР, на основе модифицированного конструктивного подхода и генетического алгоритма, экспериментальное исследование которых показало, что количество межнейронных связей в нейронном модуле уменьшается примерно на 30% по сравнению с полносвязной НС, что позволяет, в свою очередь, уменьшить время распознавания и время обучения в НС, использующих данный модуль.

5. Создана методологическая и инструментальная среда для построения нейронных сетей с требуемыми характеристиками из предварительно обученных и вновь разрабатываемых нейросетевых и гибридных модулей для конкретных приложений. В том числе:

• предложены и программно реализованы усовершенствованные нейро-сетевые классификаторы персептронного типа, позволяющие, в отличие от стандартных классификаторов типа ВР, решить следующие задачи:

1) повысить скорость сходимости алгоритма обучения ВР на 25-30% за счет регулирования параметров обучения на основе нечеткой логики;

2) уменьшить ошибку распознавания на 30-40 % и время обучения в тысячу и более раз при той же обучающей выборке за счет разработки комбинированного генетического алгоритма с динамическим изменением параметров во время процедуры оптимизации на основе недетерминированного алгоритма поиска экстремума - алгоритма имитации отжига;

3) уменьшить время обучения НС за счет разработки алгоритма автоматического останова процедуры обучения, при этом число итераций для получения той же ошибки обобщения уменьшается примерно наполовину;

• проведен сравнительный анализ разработанных нейросетевых классификаторов и классификаторов, построенных на основе метода потенциальных функций и к- ближайших соседей:

1) наилучшим классификатором по проценту ошибок при распознавании является многослойный персептрон с алгоритмами обучения на основе двух-

этапного генетического алгоритма и комбинированного алгоритма за счет

свойств генетического алгоритма, заключающегося в более широком охвате

1

области поиска глобального экстремума функции ошибки сети: по сравнению с методом k-ближайших соседей и потенциальных функций ошибка распознавания уменьшается примерно в 1,5 раза;

2) при использовании двухэтапного ГА процент распознавания несколько выше (на 5-10%), чем у комбинированного алгоритма, т.к. на последней итерации при обучении НС происходит переключение на локальный алгоритм .оптимизации, который обеспечивает большую точность;

3) время обучения классификаторов на основе генетических алгоритмов является наименьшим среди всех исследуемых классификаторов за счет высокой скорости сходимости ГА при решении оптимизационных задач;

• предложен усовершенствованный алгоритм обучения НС Кохонена, по-

~ >", к < -

i зволяющий за счет использования механизма изменения радиуса окрестности выигрывающего нейрона и скорости обучения в среднем на 10 процентов уменьшить число ошибок распознавания и время обучения;

• предложен усовершенствованный алгоритм обучения нечеткой нейронной сети Кохонена, приводящий к более быстрому обучению, т.к. обеспечивает автоматическое управление как изменением скоростей обучения, так и окрестностью обновления, что, в конечном итоге уменьшает число итераций в среднем на 7-10%; достижение той же ошибки обучения достигается при меньшей выборке (в среднем в два раза меньше). Это позволяет рекомендовать нечеткую сеть Кохонена для прогноза возможных результатов при дефиците исходной информации;

• решена задача интерпретации результатов обучения нейронной сети, что .позволяет строить "логически прозрачные" для пользователя нейронные сети и в явном виде давать объяснение этих результатов. Решение получено на основе разработки оригинального алгоритма формирования продукционных правил IF -THEN по примерам на основе заданной обучающей выборки, исследована проблема устранения конфликтов при формировании правил;

• предложен нейросетевой способ реализации нечетких отношений и автоматического формирования функций принадлежности при нечетком выводе, позволяющий уменьшить трудоемкость нечеткого вывода.

б. Разработана методология анализа, оценки и оптимизации решений в ИСППР на основе методов моделирования. В том числе:

• предложен модульный подход к формированию имитационной модели, позволяющий уменьшить трудоемкость создания моделей исследуемых альтернативных вариантов объектов и, в отличие от обобщенной модели Бус-ленко Н.П., дающий возможность увеличить гибкость модели за счет пополнения и конкретизации базы имитационных модулей при решении реальных задач;

• разработаны принципы интеграции имитационных и аналитических моделей, что позволяет предварительно оценить значения параметров имитационной модели с помощью математических зависимостей для выбора наилучших сочетаний параметров и уменьшить число экспериментов на ЭВМ за счет сужения поискового пространства;

• на основе предложенных принципов разработаны три базовые теоретические модели, обеспечивающие возможность предварительной оценки временных параметров имитационной модели компьютерной сети, что экономит временные и ресурсные затраты на проведение экспериментов. Использование разработанных моделей, кроме того, существенно снижает сложность модели за счет замены ее отдельных фрагментов математическими зависимостями при моделировании;

• развит подход к управлению модельным экспериментом на основе методов комбинаторного и смешанного планирования экстремальных экспериментов, что позволяет: 1) проводить ранжирование и отбор информативных параметров имитационной модели; 2) снижать временные и ресурсные затраты на проведение экспериментов на инструментальной ЭВМ и оценку результатов моделирования; 3) повысить интеллектуальный потенциал проектировщика за счет предоставления °т ^ррттгтп артп'™;г"™рТ'!тнг'й стати-

РОС. НАЦИОНАЛЬНА* БИБЛИОТЕКА С. Петербург ОЭ К» акт

стической обработки результатов эксперимента на основе дисперсионного и регрессионного анализа;

• предложен новый подход к оптимизации параметров имитационной модели на основе генетического алгоритма, позволяющий: 1) в отличие от других методов оптимизации, применяемых в имитационном моделировании, находить множество локальных экстремумов (а в некоторых случаях и глобальный) показателя качества за полиномиальное время; 2) использовать для моделирования функции качества нейронную сеть, что дает возможность обобщать результаты моделирования и существенно сокращать число имитационных экспериментов, а также время, затрачиваемое на оптимизацию.

ОСНОВНЫЕ ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Комарцова Л.Г. Использование нейросетевых методов для решения задач проектирования вычислительных систем (монография). Научное издание. -М.: Из-во МГТУ им. Н.Э. Баумана. -2000. -72 с.

2. Комарцова Л.Г. Применение нейрокомпьютеров в системах управления. В кн. "Методы современной теории автоматического управления". //Под ред. Пупкова К.А. -Том 3. -Глава 7. -М.: Из-во МГТУ им. Н.Э. Баумана. -2000. С. 497-552.

3. Комарцова Л.Г., Максимов A.B. Нейрокомпьютеры (учебное пособие). -М.: Из-во МГТУ им. Н.Э. Баумана. -2002. -320 с.

4. Комарцова Л.Г. Использование новых информационных технологий в проектировании локальных вычислительных сетей // Тр. Межд. конф "Искусственные интеллектуальные системы. - Лос- Аламитос, Калифорния. -2002. -С.438-440 (англ.).

5. Комарцова Л.Г. Исследование Конструктора генетических алгоритмов. // Труды Межд. конференции "Искусственные интеллектуальные системы. -Лос- Аламитос, Калифорния. -2002. -С.395 -397 (англ.).

6. Комарцова Л.Г. Методика имитационного моделирования вычислительных систем с использованием нейронной сети для обобщения результатов. Известия вузов, -сер. Приборостроение. - 2001. -Т.44. -№2.С.31-35.

7. Комарцова Л.Г. Проектирование проблемно-ориентированных вычислительных систем с использованием нейросетевой технологии // Информационные технологии в проектировании и производстве. Науч.-техн. журн.: ГУЛ "ВИМИ".-М,-1999. - № 4. С. 18-31.

8. Комарцова Л.Г. Оптимизация вычислительной системы на ее имитационной модели. // Вестник МГТУ им. Н.Э.Баумана, -сер. "Приборостроение". -1999. -№2. С.48-60.

9. Комарцова Л.Г. Перспективы использования новых технологий проектирования // Информационные технологии в проектировании и производстве. Науч.-техн. журн.: ГУП "ВИМИ".-М.-2000. -№ 1. С. 34-38.

10. Комарцова Л.Г. Нейросетевые технологии в задачах проектирования корпоративных сетей // Информационные технологии в проектировании и производстве. Науч.-техн. журн.: ГУП "ВИМИ".-М.-2000. -№3. С. 47-50.

И. Комарцова Л.Г. Поисковое проектирование распределенных вычислительных систем с использованием генетического алгоритма // Информационные технологии. -М.: Машиностроение. -2000. -№5. С.25-30.

12. Комарцова Л.Г. Двухэтапный алгоритм обучения нейронной сети на основе генетического поиска // Нейрокомпьютеры. Разработка и примене-ние.-М. ¡Радиотехника. -2001. -№1. С. 3-9.

13. Комарцова Л.Г. Исследование возможностей нейронных сетей для создания проекта локальной вычислительной сети // Нейрокомпьютеры. Разработка и применение. -М.¡Радиотехника. -2001. -№6. С. 44-52.

14. Комарцова Л.Г. Анализ самоорганизующейся сети Кохонена для решения задач распознавания // Нейрокомпьютеры. Разработка и применение. -М. ¡Радиотехника. -2001. -№12. С. 3-9.

16. Комарцова Л.Г. Применение новых информационных технологий к созданию системы поддержки принятия решений при проектировании рас-

пределенных вычислительных систем // Информационные технологии в проектировании и производстве. Науч.-техн. журн. :ГУП ВИМИ.-М.-2001. -№4. С.28-33.

17. Комарцова Л.Г. Исследование алгоритмов обучения многослойного персептрона // Нейрокомпьютеры. Разработка и применение. -М.: Радиотехника. -2002.-№12. С. 15-21.

18. Комарцова Л.Г. Компьютерные методы генерации решений на основе самоорганизующихся нейронных сетей // Новости искусственного интеллек-та.-М. -2002. - №3. -С. 23-29.

19. Комарцова Л.Г., Солодовников А.Ю. Нечеткий вывод в интеллектуальных системах поддержки принятия проектных решений // Информационные технологии. -М.: Машиностроение. -2003. -№2. С.9-14.

20. Комарцова Л.Г. Нейросетевая идентификация вычислительных систем. // Труды Международной конференции "81сРго-2000. Идентификация систем и задачи управления". -М: Институт проблем управления им. В.А. Трапезникова РАН. -2000. С.1183-1189.

21. Комарцова Л.Г. Нейросетевое моделирование в системах поддержки принятия решений // Труды Международной конференции "81сРго-2003. Идентификация систем и задачи управления". -М: Институт проблем управления им. В. А. Трапезникова РАН. -2003. С.423- 434.

22. Комарцова Л.Г. Интегрированная САПР распределенных вычислительных систем // Труды Международной конференции САО/САММЖ-2001. -М: Институт проблем управления им. В.А. Трапезникова РАН. -2001. -С.25-35.

23. Комарцова Л.Г. Роль новых информационных технологий в развитии интеллектуальных САПР // Труды Международной конференции САО/САМ/РОМ-2002. -М: Институт проблем управления им. В.А. Трапезникова РАН. -2002. -С.47-58.

24. Комарцова Л.Г. Особенности процедуры формирования проектного решения с помощью ИСППР// Труды Международной конференции

CAD/CAM/PDM-2003. -M: Институт проблем управления им. В.А. Трапезникова РАН. -2003.-С.28-35.

25. Комарцова Л.Г. Методы и модели в системах поддержки принятия решений на начальном этапе проектирования распределенных вычислительных систем // Труды Международной конференции "Lyap-2001", поев, памяти Ляпунова A.A. -Новосибирск: СО РАН. -2001. -С.292-297.

26. Комарцова Л.Г. Проблемы использования нейросетевых моделей в системах поддержки принятия решений // Труды Международной конференции "ТАС-2001.Теория активных систем". -М: Институт проблем управления им. В.А. Трапезникова РАН. -2001. С.34-37.

27. Комарцова Л.Г. Гибридная система поддержки принятия решений в поисковом проектировании корпоративных сетей // Сб. научных трудов Межд. н.-п. семинара "Интегрированные модели и мягкие вычисления в искусственном интеллекте", посвященной памяти А.Ф. Блишуна. -М.: Наука. Физматлит. -2001. -С.89-98.

28. Комарцова Л.Г. Организация нейросетевых баз знаний в интеллектуальных системах поддержки принятия решений //Сб. научных трудов Межд.н.-п. семинара "Интегрированные модели и мягкие вычисления в искусственном интеллекте. -М.: Наука. Физматлит. -2003. -С.306-313.

29. Кофанов Ю.Н., Комарцова Л.Г., Логунов Д.М. Интеллектуальный пользовательский интерфейс для организации запросов к базам данных на ограниченном русском языке (ЭКСПЕРТ) // А. с. о регистрации программы для ЭВМ,- М.: РОСПАТЕНТ. -2000,- № 2000610420.

30. Кофанов Ю.Н., Комарцова Л.Г., Гнусов A.A. Коммуникационная среда нечеткого поиска (ПОИСК) // А. с. о регистрации программы для ЭВМ.-М.:РОСПАТЕНТ. -2000,- № 2000610421.

31. Кофанов Ю.Н., Комарцова Л.Г., Соскин А.Ю. Интерактивная среда для поиска оптимальной конфигурации локальной вычислительной сети на основе генетического алгоритма // А. с. о регистрации программы для ЭВМ.-М. ¡РОСПАТЕНТ -2000. -№ 2000610909.

32. Кофанов Ю.Н., Комарцова Л.Г., Бобков A.B. Нейроимитатор для конструирования, исследования и оптимизации многослойных нейронных структур // А. с. о регистрации программы для ЭВМ.-М.:РОСПАТЕНТ. -2001, № 2001610324.

33. Кофанов Ю.Н., Комарцова Л.Г., Солодовников А.Ю. Инструментальная среда для разработки экспертных систем на основе нечеткой логики // А. с. о регистрации программы для ЭВМ.-М. ¡РОСПАТЕНТ. -2002, № 2002611146.

34. Кофанов Ю.Н., Комарцова Л.Г., Голубин A.B. Интерактивная среда для исследования генетических алгоритмов оптимизации// А. с. о регистрации программы для ЭВМ.-М.: РОСПАТЕНТ. -2002, № 2002611145.

35. Кофанов Ю.Н., Комарцова Л.Г.,Злобин A.B. Инструментальная среда для моделирования нейросетевых структур (на примере нейронной сети Ко-хонена) // А. с. о регистрации программы для ЭВМ,- М.: РОСПАТЕНТ -2000, № 2000610379.

36. Комарцова Л.Г. Интеграция нейроинформационной технологии с имитационным моделированием для повышения точности и достоверности принимаемых решений // Научная сессия МИФИ-2000. Сб. научных трудов Второй Всероссийской научно - технической конференции "Нейроинформатика-2000". -В 2 частях. -4.2. -М.:МИФИ.-2000. С. 76-82.

37. Комарцова Л.Г. Нейросетевой метод извлечения знаний для мягкой экспертной системы // Научная сессия МИФИ -2001. Сб. научных трудов Третьей Всероссийской научно-технической конференции "Нейроинформа-тика-2001". -В 2 частях. -4.2. -М.:МИФИ.-2001. С. 124 -129.

38. Комарцова Л.Г. Модифицированный алгоритм обучения многослойного персептрона //Научная сессия МИФИ-2003. Сб. научных трудов Пятой Всероссийской научно - технической конференции "Нейроинформатика-2003". -В 2 частях. -4.1. -М.:МИФИ.-2003. С.77-84.

39. Комарцова Л.Г. Структуризация данных на основе самоорганизующейся сети Кохонена. Труды 2-ой Межд. конференции "CASC-2002. Когнитив-

í I

ный анализ и управление развитием ситуаций".-М: Институт проблем управления им. В.А. Трапезникова РАН. -2002. В двух томах.-Т. 2,- С.21- 25.

40. Комарцова Л.Г. Исследование новых технологий интеллектуальных систем проектирования // Труды Пятого Международного симпозиума "Интеллектуальные системы" (INTELS'2002). -М.:МГТУ им. Н.Э. Баумана.-2002. С. 17-19.

41. Комарцова Л.Г. Алгоритм обучения нейронной сети на основе генетического поиска // Труды VI Всероссийской конф. с межд. участием "Нейрокомпьютеры и их применение". -М.: Радиотехника. -2000. -С.499-503.

42. Комарцова Л.Г. Управляемый алгоритм обучения нейронной сети на основе генетического поиска и имитации отжига // Труды VII Всероссийской конференции с международным участием "Нейрокомпьютеры и их применение". -М.: Радиотехника. -2001. -С.203-207.

43. Комарцова Л.Г. Исследование эффективности распознавания классификаторов // Труды VIII Всероссийской конференции с международным участием "Нейрокомпьютеры и их применение". -М.: Радиотехника. -2002. -С.496-500.

44. Комарцова Л.Г. Комбинирование методик при нейросетевом исследовании сложных систем // Труды X Всероссийского семинара "NEU-01. Ней-роинформатика и ее приложения". -Красноярск.: Институт вычислительного моделирования СО РАН. -2001. С. 114-115.

45. Комарцова Л.Г. Математические модели вычислительных систем в интерактивном режиме. // Методы исследования и проектирования сложных

v

технических систем. Сб. научных трудов. -М.: МГТУ им. Н.Э. Баумана. -1997. -вып.570. С.19-30.

46. Комарцова Л.Г. Проблемы построения интеллектуальной системы проектирования вычислительных систем и сетей. // Труды Восьмого Международного научно-технического семинара "Современные технологии в задачах управления, автоматики и обработки информации".-Алушта -1999. -С.85-87.

äxtf-A i 1 4 5 5 5T^5?cr

47. Комарцова Л.Г. Базовые принципы интеграции методов в гибридной системе поддержки принятия решений.// Сб. докладов Межд. форума информатизации МФИ-2000. "Инф. средства и технологии". В 3 частях. -4.2. -М.:МЭИ. -2000. С. 114-120.

48. Комарцова Л.Г. Нейросетевая реализация элементов нечеткого вывода // Сб. докладов Межд. форума информатизации МФИ-2001. "Инф. средства и технологии". В 3 частях. -4.2. -М.: МЭИ. -2001. С. 43-47.

49. Комарцова Л.Г. Управление выводом в системах автоматизированной поддержки инженерных решений // Материалы межд. конф. и Российской научной школы "Системные проблемы качества, математического моделирования и инф.технологий". Часть 2. -Москва-Сочи.-2000. -С.49-52.

50. Комарцова Л.Г. Принципы построения лингвистического процессора в интеллектуальных системах поддержки принятия решений // Труды I Всеси-бирского конгресса женщин-математиков. -Красноярск.: Институт Вычислительного Моделирования СО РАН. -2000. С. 128-129.

51. Комарцова Л.Г., Борсук H.A. Построение нейросетевой среды для прогноза качества проектируемой распределенной ВС // Тр. Межд. науч. школы "Моделирование и анализ безопасности, риска и качества в сложных системах". СПб.: Институт Проблем Машиноведения РАН. -2001. С. 67-71.

52. Комарцова Л.Г. Формирование базы правил на основе примеров в гибридной системе поддержки принятия решений // Труды Российского научного симпозиума "Современные проблемы информатики и кибернетики"// В 13 частях. -Часть 5. -Москва-Сочи. -2001.С.76-79.

53. Комарцова Л.Г. Нейросетевая инструментальная среда для проектирования и анализа распределенных вычислительных систем // Сб. докладов III Всероссийского семинара "МНС-00. Моделирование неравновесных систем".-Красноярск.: Институт вычислительного моделирования СО РАН . -2000. С.129-130.

Зак^|1 Тир.{Ci п.л.Д,л n.ih.»£cg>iä

ПЦ МЭИ (ТУ), Красноказарменная ул., д. 13

1. Анализ состояния теории и практики создания интеллектуальных систем поддержки принятия решений (ИСПГТР) в трудно формализуемых задачах.

1.1. Проблемы формализации поиска и принятия решений в ИСППР.

1.2. Подходы к решению трудно формализуемых задач на основе систем обработки знаний.

1.2.1. Характеристика трудно формализуемой задачи и пути ее решения.

1.2.2. Методы решения трудно формализуемых задач с помощью классических систем искусственного интеллекта.

1.2.3. Нейросетсвой подход к решению трудно формализуемых задач.

1.2.4. Проблемы создания гибридных моделей.

1.3. Принципы построения программного обеспечения ИСППР.

1.4. Обзор программных средств и технологий для организации поиска решений.

1.4.1. Нейросетевые пакеты.

1.4.2. Пакеты на основе нечеткой логики.

1.4.3. Программные продукты для генетических алгоритмов.

1.4.4. Опыт использования интеграции программных средств для построения гибридных моделей.

1.5. Обзор программных средств для анализа решений методами моделирования.

1.5.1. Программные среды для моделирования компьютерных сетей.

1.5.2. Моделирующие системы.

1.6. Задачи исследования.

1.7. Выводы.

2. Организация нсйросетевых баз знаний в ИСППР.

2.1. Особенности формирования нейросетсвой базы знаний.

2.2. Алгоритмы обработки исходной информации для формирования обучающих выборок.

2.3. Синтез нейронной сети для решения прикладных задач.

2.3.1. Выбор типа НС.

2.3.2. Влияние алгоритма обучения на эффективность НС.

2.3.3. Проблемы формирования топологии НС.

2.3.4. Постановка задачи синтеза нейронной сети.

2.4. Принципы организации нейросетсвой базы знаний.

2.5. Задача иитерпретации результатов работы нейронной сети в ИСППР и ее решение.

2.6. Выводы.

3. Разработка методов и алгоритмов настройки и адаптации нейронных модулей к решаемой задаче.

3.1. Проблемы создания генетических алгоритмов для решения задач адаптации и настройки НС.

3.1.1. Кодирование потенциальных решений.

3.1.2. Разработка и исследование генетических операторов.

3.1.3. Разработка новых операторов селекции хромосом.

3.1.4. Механизм фильтрации хромосом.

3.1.5. Разработка способов задания функций качества хромосом.

3.1.6. Разработка и оценка качества многопопуляционного алгоритма.

3.2. Алгоритм обучения НС на основе генетического алгоритма и его оценка.

3.2.1. Экспериментальное исследование генетического алгоритма для построения эффективного алгоритма обучения НС.

3.2.2. Разработка и исследование двухэтапного алгоритма оптимизации на основе генетического алгоритма.

3.2.3. Построение генетического алгоритма с помощью генетического алгоритма.

3.2.4. Генетический алгоритм обучения нейронной сети.

3.3. Алгоритмы настройки НС на решаемую задачу.

3.3.1. Модификация конструктивного метода формирования топологии НС.

3.3.2. Формирование топологии нейронных сетей с помощью генетического алгоритма.

3.3.3. Экспериментальное исследование алгоритмов формирования топологии нейронных сетей.

3.4. Выводы.

4. Методы повышения эффективности использования нейросете-вых и гибридных технологий в ИСППР.

4.1. Повышение вычислительной эффективности алгоритмов обучения многослойного персептрона.

4.1.1. Использование нечеткой логики для регулирования скорости обучения МНС.

4.1.2. Комбинированный алгоритм обучения МНС с использованием ГА и имитации отжига.

4.1.3. Сравнительный анализ нейросетевых классификаторов на основе МНС.

4.1.4. Решение задачи автоматизации останова обучения МНС.

4.1.5. Пример применения многослойного персептрона к выбору параметров компьютерной сети.

4.2. Повышение скорости сходимости самоорганизующейся сети Кохонена.

4.3. Развитие нечеткой нейронной сети Кохонена для повышения скорости обучения и качества распознавания.

4.4. Повышение качества и уменьшение трудоемкости вывода решений на основе нейросетевых нечетких моделей.

4.5. Выводы.

5. Анализ и оценка решений с помощью методов моделирования.

5.1 Особенности построения модельной среды.

5.1.1. Принципы формирования базы имитационных модулей.

5.1.2. Интеграция аналитических и имитационных моделей.

5.2. Методы и алгоритмы управления модельным экспериментом.

5.2.1. Организация системы имитационного моделирования.

5.2.2. Управление имитационным экспериментом с помощью методов планирования экспериментов. Ранжирование уровней параметров модели.

5.3. Оптимизация параметров имитационной модели на основе генетического алгоритма и нейронной сети.

5.3.1. Проблемы выбора нейронной сети для моделирования функции фитнесса.

5.3.2. Алгоритм оптимизации параметров имитационной модели на основе генетического алгоритма.

5.4. Выводы.

6. Применение разработанных методов, алгоритмов и программных средств.

6.1. Обзор инструментальных средств поддержки исследования компьютерных сетей.

6.2. Состав и реализация функций ИСППР.

6.2.1. Функциональная схема выбора варианта построения копьютерпой сети.

6.2.2. Архитектура ИСППР.

6.3. Комплекс инструментальных средств для реализации основных функций ИСППР.

6.3.1. Нейроимитатор.

6.3.2. Система нечеткого вывода решений.

6.3.3. Конструктор генетических алгоритмов.

6.3.4. Организация пользовательского интерфейса с базой экспертных знаний.

6.3.5. Организация инструментальной среды для распределенной обработки информации в ИСППР.

6.4. Примеры решения практических задач.

6.4.1.Разработка и исследование локальной вычислительной сети Калужского управления подземного хранения газа

КУПХГ).

6.4.2. Выбор варианта организации комплекса обработки телеметрической информации для ГУП ОКБ "СПЕКТР".

6.4.3. Повышение эффективности функционирования распределенной вычислительной системы для диагностики бортовых технологических объектов.

6.4.4. Разработка информационно - вычислительной сети кафедры КФ МГТУ им. Н.Э. Баумана.

6.5. Внедрение в учебный процесс.

6.6. Выводы.

Интеллектуальные компьютерные технологии в настоящее время являются одним из ключевых направлений развития информатики. Проведение исследований по форме и методам построения интеллектуальных систем позволяет России оставаться среди стран, влияющих на мировое развитие науки.

Особенно важным в этих исследованиях представляется создание интеллектуальных систем поддержки прииятия решений (ИСППР), которые благодаря огромному прогрессу в области вычислительной техники находят все более широкое применение при решении сложных трудно формализуемых задач, какими являются задачи автоматизированного проектирования, робототехники, управления, информационного мониторинга, диагностики и т.д.

Отличительными признаками трудно формализуемой задачи являются неполнота исходных данных о решаемой задаче, их неточность и неоднородность, высокая вычислительная сложность их анализа даже на быстродействующих компьютерах. Трудно формализуемая задача не имеет точного решения и требует применения приближенных методов, основанных на широком использовании эмпирических данных, экспертного оценивания, нечетких и неклассических логик, моделирования, специально разработанных методик.

Современные методы построения ИСППР берут начало в работах таких российских и зарубежных ученых, как Глушков В.М., Амосов Н.А., Поспелов Д.А., Винер Н., Минский М., Ларичев О.И., Лорьер Ж.-Л., Розенблатт Ф., Пейперт С., Стефанкж В.Л., Гладун В.П., Попов Э.В., Осипов Г.С, Загоруйко Н.Г., Борисов А.Н., Вагин В.Н., Финн В.К. и др.

Основные ограничения известных методов и технологий, используемых в настоящее время в системах поддержки принятия решений в трудно формализуемых задачах, обусловлены недостаточной эффективностью решения в них проблем обучения, настройки и адаптации к проблемной области, обработки неполной и неточной исходной информации, интерпретации данных и накопления знаний экспертов, единообразного представления информации, поступающей из различных источников и т.д. Эти ограничения могут быть устранены на основе использования перспективных нейросетевых методов и технологий, эволюционного моделирования и генетических алгоритмов, нечеткой логики, различных гибридных технологий или технологий мягких вычислений - Soft computing (нейро-нечетких, нейро-генетических и т.п.). Исследованию и практическому применению перечисленных методов и технологий для решения практических задач посвящены работы Галушкина А.И., Горбаня А.Н., Курейчика В.М., Омату С., Заде Л., Касабова Н., Гольд-берга Д., Дэвиса Л., Лина С., Филаретова Г.Ф., Фоминых И.Б., Нечаева Ю.И. Васильева В.И., Редько В.Г., Ярушкиной Н.Г., Аверкина А.Н.и др.

Вместе с тем, несмотря на активные исследования в этой области, все еще остаются не полностью решенными многие проблемы, связанные с разработкой методов и алгоритмов синтеза нейронной сети и интерпретации результатов ее работы для конкретных приложений, недостаточно проработаны вопросы интеграции различных информационных технологий и особенности их реализации в ИСППР.

Таким образом, решаемые в диссертационной работе задачи исследования нейросетевых и гибридных методов и технологий в ИСППР для повышения эффективности реализации в них механизмов обучения, самообучения и адаптации к особенностям проблемной среды являются важными и актуальными.

Целью диссертации является развитие теории, создание, исследование и совершенствование методов и алгоритмов, составляющих основу нейросетевых и гибридных технологий, повышающих эффективность процессов обработки информации в интеллектуальных системах, предназначенных для поддержки принятия решений. Эффективность применения технологий оценивается по качеству решений, срокам их получения, а также по возможности расширения класса решаемых в рамках ИСППР задач.

Для достижения поставленной цели в диссертации решаются следующие основные задачи.

1. Разработка и исследование методов и алгоритмов, нацеленных на повышение эффективности применения нейросетевых и гибридных методов и технологий в интеллектуальных системах поддержки принятия решений.

2. Разработка и исследование принципов построения нейросетевой базы знаний с использованием базовых нейронных модулей, ориентированных на специфику предметной области и предназначенных для комплексного решения типовых задач, лежащих в основе создания интеллектуальной системы поддержки принятия решений.

3. Разработка алгоритмов и методики построения нейронных сетей и гибридных моделей с заданными характеристиками, в зависимости от специфики их применения для решения конкретных задач в рамках интеллектуальной системы поддержки принятия решений с возможностью их адаптации в условиях процесса поиска решения.

4. Разработка методики и алгоритмов анализа прогнозируемых на основе нейронных сетей и гибридных моделей альтернативных вариантов решений, обеспечивающих обобщение результатов моделирования и оптимизацию параметров моделей при существенном сокращении времени исследования.

5. Исследование на практике эффективности применения созданных методов, алгоритмов и инструментальных средств, точности заложенных в них методов и алгоритмов подготовки и выбора решения.

Методы исследования. Проведенные теоретические и прикладные исследования базируются на методах современного системного анализа, теории принятия решений, иейроинформатики, генетических и эволюционных алгоритмов, теории нечеткой логики, теории распознавания образов, теории оптимизации, методах математической статистики, теории планирования экспериментов, имитационного моделирования, объектно-ориентированного программирования.

Научная новизна. Разработанные в диссертации теоретические основы построения нейросетевых и гибридных моделей поиска и оценки решений в трудно формализуемых задачах с помощью ИСППР, обеспечивающих реализацию механизмов обучения, самообучения и адаптации к особенностям проблемной среды, и методы их анализа являются существенным вкладом в развитие фундаментальных исследований в области теории принятия решений, создания и исследования новых технологий проектирования сложных программных систем, расширяющих интеллектуальные возможности компьютеров и компьютерных систем.

Конкретно на защиту выносятся следующие новые научные положения и результаты:

• методы и алгоритмы повышения эффективности применения нейросетевых и гибридных технологий в интеллектуальных системах поддержки принятия решений, выражающейся в повышении качества формируемых решений и в сокращении сроков их получения;

• методика и алгоритмы формирования специализированных нейросетевых баз знаний на основе предварительно обученных нейронных модулей, обеспечивающих гибкость и накопление опыта эксперта в заданной предметной области;

• методика и алгоритмы синтеза нейронной сети и гибридных моделей с требуемыми свойствами для конкретных приложений;

• методы и алгоритмы анализа альтернативных вариантов решений методами моделирования, обеспечивающие развитие предпочтительного варианта и оценку результата для принятия окончательного решения.

Практическая значимость результатов диссертационной работы определяется созданием комплекса программных инструментальных средств, повышающих эффективность процессов обработки информации в интегрированных интеллектуальных системах поддержки принятия решений и позволяющих использовать разработанные методы, модели и программные системы, отвечающие конкретным приложениям. Созданный комплекс инструментальных средств может служить как для научных исследований и обучения, так и для комплексировапия с другими информационными системами коммерческих и государственных предприятий посредством стандартных интерфейсов DCOM, DDE, CORBA и др. с целью получения доступа к реальным базам данных и знаний. Предлагаемые методы, алгоритмы и программные системы применены при решении конкретных задач исследования специализированных компьютерных систем обработки данных, а также при выборе компонентов программного и аппаратного обеспечения компьютерных сетей, разрабатывавшихся как для учебного заведения, так и для государственных и коммерческих организаций.

Достоверность. Достоверность научных положений, теоретических выводов и практических результатов, полученных в диссертации, подтверждена результатами практической проверки методов, алгоритмов и программного обеспечения с использованием стандартных и специально разработанных тестов на основе существующих методик, корректным обоснованием и анализом моделей с применением методов математической статистики, использованием результатов работы другими авторами, а также результатами практического использования разработанных в диссертации математических, алгоритмических и программных методов и средств.

Внедрение и реализация результатов работы. Диссертация является теоретическим обобщением научных исследований, выполненных автором в течение 25 лет на кафедре "Компьютерные системы и сети" КФ МГТУ им. Н.Э. Баумана в результате сотрудничества со многими промышленными предприятиями и фирмами. Теоретический базис разработанного подхода к построению интеллектуальных систем поддержки принятия решений в трудно формализуемых задачах основан на исследованиях, результаты которых обобщены в монографии, учебных пособиях, научных статьях и в докладах на национальных и международных конференциях. Наиболее важная часть разработанного программного обеспечения зарегистрирована в Роспатенте (имеется 7 авторских свидетельств об официальной регистрации программ для ЭВМ). Выполнены 17 хоздоговорных и госбюджетных НИР, в которых автор являлся руководителем, заместителем руководителя, ответственным исполнителем и исполнителем темы.

Основные результаты диссертационной работы нашли свое применение в виде инженерных рекомендаций и методик, пакетов прикладных программ и инструментальных средств при разработке Государственной сети вычислительных центров (Гос. per. № 74066264, № 74017988. -М.:МЭИ,1974

1975г.г.), выборе комплекса аппаратных и программных средств проблемно-ориентированных вычислительных систем и сетей (Гос. per. № 77077691-М. :МЭИ, ЦНИИ "АГАТ" 1976-1977г.г.), создании специализированных распределенных вычислительных комплексов управления цехом сборки интегральных схем, техпроцессом, динамическими объектами (Гос.рег. №79076603, №78007065, №81018468. -М.:МВТУ им. Н.Э. Баумана, 1978-1981г.г.), разработке обобщенной имитационной модели комплекса обработки телеметрической информации в реальном масштабе времени и имитационных моделей специализированных устройств (Гос.рег. №81011976. -М.:МВТУ им. Н.Э. Баумана, 1985г.), разработке и исследовании специализированных распределенных вычислительных комплексов (Гос. per. №86015052. -М.:МГТУ им. Н.Э. Баумана, 1990 г.г.), проектировании и анализе информационно-вычислительной сети КФ МГТУ им. Н.Э. Баумана, (Гос. per. №01950002971. -М.:МГТУ им. Н.Э. Баумана, 1991-1995г.г.), развитие и применение новых технологий проектирования вычислительных систем и сетей (Гос. регистр. № 01980003288. - М.: МГТУ им. Н.Э. Баумана, 1998), создании и развитии региональных и локальных сетей на предприятиях и в офисах (Гос. per. 01990004086, № 01200107595 -М.:МГТУ им. Н.Э. Баумана, 1996-2001 г.г.).

Полученные в диссертации результаты внедрены на ГУП ОКБ "СПЕКТР" (г. Рязань), на ГУП КНИИТМУ (Калужский научно-исследовательский институт телемеханических устройств), на ОАО "Восход" - Калужский радиоламповый завод (KPJI3), на ОАО "Тайфун" - Калужский приборостроительный завод, в научно-производственной фирме "ЭВЕРЕСТ", в учебный процесс. Наибольшее отражение в работе нашли результаты, полученные автором и руководимой им научной группой при совместной работе с Особым конструкторским бюро "Спектр" (1975-2002 г.г.), связанные с разработкой и анализом специализированных распределенных вычислительных комплексов, предназначенных для оперативной обработки телеметрической информации и проведении наземных испытаний бортовых систем.

Результаты диссертационной работы активно используются в учебном процессе: при чтении лекций, при курсовом и дипломном проектировании, проведении студенческих НИР, при подготовке кандидатских диссертаций (автор имеет 4 аспиранта) и в лабораторных работах на кафедре "Компьютерные системы и сети" КФ МГТУ им. Н.Э. Баумана, на межвузовском факультете КГПУ (Калужского Государственного педагогического университета). Монография, учебное пособие "Нейрокомпьютеры", допущенпое Министерством образования Российской Федерации для студентов высших учебных заведений, и 5 учебных пособий (МГТУ им. Н.Э. Баумана), разработанные автором, в отсутствии широко доступных учебников по теме диссертации, используются для подготовки инженеров по специальности "Вычислительные машины, комплексы, системы и сети" направления подготовки дипломированных специалистов "Информатика и вычислительная техника". Полученные автором результаты вошли в программы дисциплин "Вычислительные системы и сети", "Программные средства проектирования вычислительных систем", "Экспертные системы", "Системы искусственного интеллекта", "Перспективные направления развития СИИ", "Нейрокомпьютеры",

Эволюционное моделирование", "Интеллектуальные САПР", в читаемые лекционные курсы для студентов 4-го, 5-го, 6-го и 7-го курсов КФ МГТУ им. Н.Э.Баумана, а также используются в учебном процессе других Российских ВУЗов.

Практическое использование результатов диссертационной работы подтверждено соответствующими актами о внедрении. Акты о внедрении и использовании результатов работы, а также копии авторских свидетельств (Роспатент) представлены в Приложении к диссертации.

Апробация работы. Результаты исследований, составляющих содержание работы, докладывались и обсуждались на Всероссийской конференции с международным участием "Нейрокомпьютеры и их применение" (Москва, 1999, 2000, 2001, 2002), на Всероссийской научно-технической конференции "Нейроинформатика" (Москва, 2000, 2001, 2002, 2003, МИФИ), на Всероссийском семинаре "Нейроинформатика и ее приложения" (Красноярск, 2000, 2001, 2002, СО РАН), на Международном форуме "Информационные средства и технологии МФИ" (Москва, МЭИ, 1999, 2000, 2001, 2002), на Международной конференции "Lyap-2001", посвященной памяти Ляпунова А.А. (Новосибирск, СО РАН, 2001),на Восьмой национальной конференции по искусственному интеллекту КИИ' 2002 (Коломна, 2002), на Международной конференции CAD/ САМ/ PDM "Системы проектирования, технологической подготовки производства и управления этапами жизненного цикла промышленного продукта" (Москва, 2001, 2002, 2003, ИПУ РАН), на Международной конференции SicPro- "Идентификация систем и задачи управления" (Москва,

2000, 2003 ИПУ РАН), на Международном научно-практическом семинаре "Интегрированные модели и мягкие вычисления в искусственном интеллекте" (Коломна, 2001, 2003), на XII Международной конференции "Интеллектуальные САПР" (Геленджик, 2002), на Международной ШЕЕ конференции "Искусственные интеллектуальные системы" ICAIS'2002 (Геленджик, 2002), на Втором российско-украинском семинаре "Интеллектуальный анализ информации ИАИ- 2002 (Киев, 2002), на Научной сессии МИФИ -2002 "Интеллектуальные системы и технологии" (Москва, 2002, 2003, МИФИ), на Международной конференции ТАС - "Теория активных систем" (Москва, 2001, ИПУ РАН), на II Международной конференции CASC-2002 "Когнитивный анализ и управление развитием ситуаций" (Москва, 2002, ИПУ РАН), на Международной научной школе МА БРК - "Моделирование и анализ безопасности, риска и качества в сложных системах" (Санкт-Петербург, 2001, 2002, ИПМ РАН), на Пятом Международном симпозиуме " Интеллектуальные системы" - INTELS'2002 - пленарный доклад (Калуга-Москва, 2002), на I и II Всесибирском конгрессе женщин-математиков (Красноярск, 2000, 2002, СО РАН), на Международной научно-технической конференции "Системные проблемы качества, математического моделирования и информационных технологий" (Сочи, 1999, 2000-пленарный доклад), на Российском научном симпозиуме "Современные проблемы информатики и кибернетики"- пленарный доклад (Сочи, 2001), на Всероссийской научно-технической конференции "Моделирование неравновесных систем" (Красноярск, 1999, 2000, 2001,

2002, СО РАН), на Международной конференции по проблемам управления, посвященной 60-летию ИПУ (Москва, 1999, ИПУ РАН), на Международной конференции "Континуальные логико-алгебраические исчисления и нейро-математика в науке, технике и экономике"- КЛИН (Ульяновск, 2001, 2002, 2003), на 8-ом Международном научно-техническом семинаре "Современные технологии в задачах управления, автоматики и обработки информации" (Алушта, 1999), на Всероссийском научно-практическом семинаре "Новые информационные технологии" (Москва, 2001, 2002, МГИЭМ), на Третьей Международной конференции "Измерение, контроль, информатизация" ИКИ-2002 (Барнаул, 2002), на Первой Международной конференции "Современные сложные системы управления -СССУ/ HTCS - High Technology Control Systems" (Липецк, 2002), на Всероссийских научно-технических конференциях "Автоматизация исследования, проектирования и испытания сложных систем" (Калуга, 1980 - 2002), на Международной конференции "Шаг в будущее" (Москва, 1995), на Международной конференции "Современные проблемы моделирования" (Киев, 1994), на Всесоюзном семинаре по автоматизированным обучающим системам (Киев, 1985), на Всесоюзных школах-семинарах по высокопроизводительным вычислительным системам (Москва, 1984; Чернигов, 1991), на Всесоюзных симпозиумах по математическому обеспечению (ИК АН УССР, Киев, 1974, 1983), на Всесоюзных конференциях " Применение микропроцессоров в управляющих вычислительных машинах и средах" (Рязань, 1979; Клайпеда, 1981; Ленинград, 1983; Ереван, 1986), на Всесоюзной конференции " Применение вычислительной техники в автоматизированном проектировании сложных систем" (Таллин,

1980), на Всесоюзных научно-технических совещаниях "Перспективы развития микропроцессорных систем" (Рига, 1980, 1981), а также на научных семинарах Российской ассоциации искусственного интеллекта и Российской ассоциации нейроинформатики (Москва), НИЦЭВТ (Москва), МЭИ (Москва), МГУ (Москва), МГИЭМ (Москва), Всесоюзного института электротехники (Рига), ГУП ОКБ "Спектр" (Рязань), МГТУ им. Н.Э. Баумана (Москва).

Публикации. По теме диссертации опубликовано 53 основных работы, 6 учебных пособий, одна монография, имеется 7 авторских свидетельств об официальной регистрации программ для ЭВМ (Роспатент), зарегистрировано 17 отчетов по НИР.

Структура и объем работы. Диссертация состоит из введения, шести глав, заключения, пяти приложений, содержит 436 страницы машинописного текста, 89 рисунков, 32 таблицы, библиографический список из 260 наименований.

Основные результаты работы заключаются в следующем.

1. Разработаны методы и алгоритмы, повышающие эффективность использования нейросетевых и гибридных технологий в интеллектуальных системах поддержки принятия решений, и на их основе создан комплекс программных средств, обеспечивающий адаптацию, обучение, самообучение и модификацию нейросетевых и гибридных модулей обработки информации в процессе выработки и анализа решений с учетом специфики предметной области.

2. Разработаны принципы построения специализированной нейросетевой базы знаний для конкретной проблемной области и методы формирования нейронных сетей на основе предварительного обучения базовых нейросетевых и гибридных модулей, обеспечивающих их модификацию, обучение и адаптацию к решаемой задаче.

3. Решена задача настройки (автоматического формирования топологии) нейронного модуля и многомодульной нейронной сети на конкретную прикладную задачу, решаемую в ИСППР, на основе модифицированного конструктивного подхода и генетического алгоритма, экспериментальное исследование которых показало, что количество межнейронных связей в нейронном модуле уменьшается примерно на 30% по сравнению с полносвязной нейронной сетью, что позволяет, в свою очередь, уменьшить время распознавания и время обучения в сетях, использующих данный модуль. 4. Проведено теоретическое и экспериментальное исследование генетического алгоритма для обучения нейронной сети, являющегося альтернативой алгоритму обратного распространения ошибки (Back Propagation -BP), обеспечивающего увеличение скорости сходимости к глобальному минимуму ошибки обучения и уменьшение ошибки распознавания, а именно:

• на основе анализа естественных природных механизмов эволюции предложены, исследованы и реализованы новые операторы селекции хромосом, кроссинговера, хромосомной мутации, отбора, которые, в отличие от классических, повышают вероятность нахождения глобального экстремума функции ошибки нейронной сети со сложным ландшафтом;

• предложен, исследован и реализован многопопуляционный генетический алгоритм обучения нейронной сети, позволяющий, в отличие от известных, изменять процедуру обмена хромосом между популяциями, в зависимости от ситуации поиска, что повышает достоверность принимаемого решения;

• разработан, исследован и реализован двухэтапный алгоритм оптимизации, позволяющий за счет использования на первом этапе генетического алгоритма быстро локализовать область существования глобального экстрему

375 ма, а на втором за счет использования локального алгоритма оптимизации повысить точность нахождения экстремума;

• проведено экспериментальное исследование влияния различных генетических операторов на эффективность поиска и получены рекомендации о целесообразном их использовании в генетическом алгоритме при оптимизации функции ошибки нейронной сети.

5. Создана методологическая и инструментальная среда для построения нейронных сетей с требуемыми характеристиками из предварительно обученных и вновь разрабатываемых нейросетевых и гибридных модулей для конкретных приложений. В том числе:

• предложены и программно реализованы усовершенствованные нейросетевые классификаторы персептронного типа, позволяющие, в отличие от классификаторов, обучающихся по стандартному алгоритму BP, решить следующие задачи:

1) повысить скорость сходимости алгоритма обучения BP на 2530% за счет регулирования параметров обучения на основе нечеткой логики;

2) уменьшить ошибку распознавания на 30-40 % и время обучения в тысячу и более раз при той же обучающей выборке за счет разработки комбинированного генетического алгоритма с динамическим изменением параметров во время процедуры оптимизации на основе недетерминированного алгоритма поиска экстремума - алгоритма имитации отжига;

3) уменьшить время обучения нейронной сети за счет разработки алгоритма автоматического останова процедуры обучения, при этом число итераций для получения той же ошибки обобщения уменьшается примерно наполовину;

• проведен сравнительный анализ разработанных нейросетевых классификаторов и классификаторов, построенных на основе метода потенциальных функций и к- ближайших соседей:

1) наилучшим классификатором по проценту ошибок при распознавании является многослойный персептрон с алгоритмами обучения на основе двухэтапного генетического алгоритма и комбинированного алгоритма за счет свойств генетического алгоритма, заключающегося в более широком охвате области поиска глобального экстремума функции ошибки сети: по сравнению с методом k-ближайших соседей и потенциальных функций ошибка распознавания уменьшается примерно в 1,5 раза;

2) при использовании двухэтапного генетического алгоритма процент распознавания несколько выше (на 5-10%), чем у комбинированного алгоритма, т.к. на последней итерации при обучении НС происходит переключение на локальный алгоритм оптимизации, который обеспечивает большую точность;

3) время обучения классификаторов на основе генетических алгоритмов является наименьшим среди всех исследуемых классификаторов за счет высокой скорости сходимости генетического алгоритма при решении оптимизационных задач;

• предложен усовершенствованный алгоритм обучения нейронной сети Кохонена, позволяющий за счет введения в стандартный алгоритм механизма изменения радиуса окрестности выигрывающего нейрона и скорости обучения в среднем на 10 процентов уменьшить число ошибок распознавания и время обучения;

• предложен усовершенствованный алгоритм обучения нечеткой нейронной сети Кохонена, приводящий к более быстрому обучению, т.к. обеспечивает автоматическое управление как изменением скоростей обучения, так и окрестностью обновления, что, в конечном итоге уменьшает число итераций в среднем на 7-10%; достижение той же ошибки обучения достигается при меньшей выборке (в среднем в два раза меньше). Это позволяет рекомендовать нечеткую сеть Кохонена для прогноза возможных результатов при дефиците исходной информации;

• предложен нейросетевой способ реализации нечетких отношений и автоматического формирования функций принадлежности при нечетком выводе, позволяющий уменьшить трудоемкость нечеткого вывода;

• решена задача интерпретации результатов обучения нейронной сети, что позволяет строить "логически прозрачные" для пользователя нейронной сети и в явном виде давать объяснение этих результатов. Решение получено на основе разработки оригинального алгоритма формирования нечетких правил IF -THEN по примерам, который на основе заданной обучающей выборки позволяет формировать нечеткие продукционные правила. Исследована проблема устранения конфликтов при формировании правил IF - THEN.

6. Разработана методология анализа, оценки и оптимизации решений в ИСППР на основе методов моделирования. В том числе:

378

• предложен модульный подход к формированию имитационной модели, позволяющий уменьшить трудоемкость создания моделей исследуемых альтернативных вариантов объектов и, в отличие от обобщенной модели Бусленко Н.П., дающий возможность увеличить гибкость модели за счет пополнения и конкретизации базы имитационных модулей при решении реальных задач;

• разработаны принципы интеграции имитационных и аналитических моделей, что позволяет предварительно оценить значения параметров имитационной модели с помощью математических зависимостей для выбора наилучших сочетаний параметров и уменьшить число экспериментов на ЭВМ за счет сужения поискового пространства;

• на основе предложенных принципов разработаны три базовые теоретические модели, обеспечивающие возможность предварительной оценки временных параметров имитационной модели компьютерной сети, что экономит временные и ресурсные затраты на проведение экспериментов. Использование разработанных моделей, кроме того, существенно снижает сложность модели за счет замены ее отдельных фрагментов математическими зависимостями при моделировании;

• развит подход к управлению модельным экспериментом на основе методов комбинаторного и смешанного планирования экстремальных экспериментов, что позволяет: 1) проводить ранжирование и отбор информативных параметров имитационной модели; 2) снижать временные и ресурсные затраты на проведение экспериментов на инструментальной ЭВМ и оценку ре

379 зультатов моделирования; 3) повысить интеллектуальный потенциал проектировщика за счет предоставления ему средств автоматизированной статистической обработки результатов эксперимента на основе дисперсионного и регрессионного анализа;

• предложен новый подход к оптимизации параметров имитационной модели на основе генетического алгоритма, позволяющий: 1) в отличие от других методов оптимизации, применяемых в имитационном моделировании, находить множество локальных экстремумов (а в некоторых случаях и глобальный) показателя качества за полиномиальное время; 2) использовать для моделирования функции фитнесса нейронную сеть, что дает возможность обобщать результаты моделирования и существенно сокращать число имитационных экспериментов и время, затрачиваемое на оптимизацию. 7. Полученные в диссертационной работе результаты нашли применение при решении ряда важных практических задач, связанных с созданием вычислительных средств, работающих в реальном масштабе времени и предназначенных для обработки полетной и предполетной информации, поступающей от космических объектов (ГУП ОКБ «СПЕКТР»), модернизацией специализированных вычислительных систем, обслуживающих военные объекты (КНИИТМУ), разработкой информационно- вычислительных систем предприятий военно-промышленного комплекса (ОАО «Восход», ОАО «Тайфун»), созданием компьютерных сетей коммерческих организаций (научно-промышленная фирма «Эверест», Калужское Управление подземного хранения газа), а также внедрены в учебный процесс.

Накопленный опыт исследования позволяет наметить пути дальнейшего совершенствования разработанных и исследованных в диссертации нейросетевых и гибридных технологий.

Заключение

В рамках диссертационной работы проведено теоретическое обобщение и получено решение важной научно-технической проблемы создания методологической базы, моделей, методов, алгоритмов и программ интеллектуальной системы поддержки принятия решений нового типа, обеспечивающей обучение, адаптацию и модификацию баз знаний к проблемной среде с учетом неполноты исходной информации.

1. Лрлазаров В.Л., Журавлев Ю.И., Ларичев О.И., Лохин В.М., Макаров И.М., Рахманкулов В.З., Финн В.К. Теория и методы создания интеллектуальных компьютерных систем // Информационные технологии и вычислительные системы.-1998.-№1.

2. Норенков И.П., Трудоношин В.А. Телекоммуникационные технологии и сети.- М: Издательство МГТУ им. Н.Э. Баумана.-1998.

3. Курейчик В.М. Генетические алгоритмы и их применение. Монография. Таганрог: Из-во ТРТУ.-2002.

4. Алиев Р.А., Абдулаев Т.С. Гибридная экспертная система для проектирования технической базы распределенной системы обработки данных "Экс-перт-сеть'7/ УС и М. -№1.-1991.

5. Попов Э.В., Фоминых И.Б., Кисель Е.Б., Шапот М.Д. Статические и динамические экспертные системы. Учебное пособие. -М.: Финансы и статистика. 1996.

6. Корячко В.П., Курейчик В.М., Норенков И.П. Теоретические основы САПР. -М.: Энергоатомиздат. 1987.

7. Пятибратов А.П. и др. Вычислительные системы, сети и коммуникации. Учебник для вузов. -М.: Финансы и статистика. -1998.

8. Курейчик В.М., Курейчик В.В. Эволюционные, синергетические и го-меостатические стратегии в искусственном интеллекте: сосотояние и перспективы // Новости искусственного интеллекта. -№3. -2000. -С.39-65.

9. Макаров И.М. и др. Теория выбора и принятия решений. -М.: Наука. -1982.

10. Трахтенгерц Э.А. Компьютерная поддержка принятия решений. — М.: Синтег. -1998.

11. Комарцова Л.Г. Использование нейросетевых методов для решения задач проектирования вычислительных систем (монография). Научное издание. -М.: Из-во МГТУ им. Н.Э. Баумана. -2000.

12. Ларичев О.И. и др. Новые возможности компьютерного обучения. // Вестник РАН. -1999. -Т.69. -№2.

13. Богуславский Л.Б., Дрожжинов В.И. Основы построения вычислительных сетей для автоматизированных систем. -М. : Энергоатомиздат.-1990.

14. Cavanagh J. Haw to design LANs with modeling and simulation // LAN Technology.-1990.-№ 12. -p.59-68.

15. Reynolds P.L. An expert system approach to private telecommunication network design // British Telecommunication Technology Journal. -1993. -Vol. 11. №.4. -p.44-52.

16. Тейз А., Грибомон П., Луи Ж. И др. Логический подход к искусственному интеллекту: от модальной логики к логике баз данных // Пер. с франц. -М.: Мир.-1998.

17. Искусственный интеллект. Справочник. Системы общения и экспертные системы. Кн.1. Под ред. проф. Попова Э.В. М: Радио и связь. 1990.

18. Искусственный интеллект. Справочник. Модели и методы. Кн.2. Под ред. проф. Поспелова Д.А. М: Радио и связь. 1990. -303 с.

19. Искусственный интеллект. Справочник. Программные и аппаратные средства. Кн.З. Под ред. проф. Захарова В.Н., проф. Хорошевского В.Ф. М: Радио и связь. 1990, с.287.

20. Ларичев О.И. Теория и методы принятия решений. — М.: Логос. -2002.

21. Moscr J.G. Integration of artificial intelligence and simulation in comprehensive decision support systems // Simulation. -V.47.-№6.-1992.

22. Fubo I. AI and simulation on Prolog Basis // Articial Intelligence, expert systems and languages in modeling and simulation. 1998. -p. 14-20.

23. Ford D.R., Schoer B.J. An expert manufacturing simulation system // Simulation. -V.47. -№5. -1987.33. http://www.netwizard.ru

24. Бутенко Д.В., Вагин B.H., Головина Е.Ю., Еремеев А.П., Курейчик В.М и др. Зачем нужны нетрадиционные логики в интеллектуальных САПР? // Новости искусственного интеллекта. -№3. -2000.

25. Клир Дж. Системология. Автоматизация решения системных задач. -М.: Радио и связь. -1990.

26. Вагин В.Н. Дедукция и обобщение в системах принятия решений. -М.: Наука, 1988.

27. Осипов Г.С. Приобретение знаний интеллектуальными системами. -М.: Наука. Физматлит. -1997.

28. Представление и использование знаний // Пер. с яп. под ред. Х.Уэно, М.Исудзуки. -М: Мир. -1989.

29. Поспелов Д.А. Ситуационное управление. Теория и практика. -М.: Наука.-1986.

30. Гаврилова Т.А., Хорошевский В.Р. Базы знаний интеллектуальных систем. -СПб.: Питер. -2000.

31. Минский М. Структура для представления знаний // Психология машинного зрения. Под ред. П. Уинстона. -М.: Мир. -1978. С. 249-339.

32. Quillian M.R. Semantic Memory // Minsky M. (ed.) Semantic Information Processing. Cambridge: MIT Press. -1968. P. 216-270.

33. Гладун В.П. Процессы формирования новых знаний. София: СД "Педагог".-1994.

34. Байдык Т.Н. Нейронные сети и задачи искусственного интеллекта. — Киев.: Наукова Думка. -2001.

35. Заде JI. Понятие лингвистической переменной и его применение к принятию приближённых решений / Пер. с англ. -М.:Мир. -1976.

36. Болотов А.А., Фролов А.Б. Классификация и распознавание в дискретных системах. -М.: Из-во МЭИ. -1997.

37. Айзерман М.А., Браверман Э.М., Розоноэр JI.H. Метод потенциальных функций в теории обучения машин. -М.: Наука. -1970.

38. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Поспелова Д.А. -М.: Наука. -1986.

39. Герман О.В. Введение в теорию экспертных систем и обработку знаний. -Минск.: Из-во "ДизайнПро". -1995.

40. Загоруйко Н.Г. Прикладные методы анализа данных и знаний. -Новосибирск.: Из-во Института Математики СО РАН. -1999.

41. Загоруйко Н.Г. Методы обнаружения закономерностей. М.: Знание. -1981.

42. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиций непрерывных функций одного переменного и сложения //Докл.АН СССР, 1957, т.114, №5, с.953-956.

43. Шапот М. Интеллектуальный анализ данных в системах поддержки принятия решений // Открытые системы. -1998. -№1.

44. Забежайло М.И. Data mining and knowledge discovery in database: предметная область, задачи, методы и инструменты // Сб. Трудов КИИ-98. -Пущино.-1998.

45. Загоровский И.М. Выбор алгоритма обучения в системах приобретения знаний из данных // Сб. Трудов КИИ-2000. -Переславль-Залесский. -2000.

46. Галушкин А.И. Теория нейронных сетей. -Кн. 1. -М.: ИПРЖР. -2000.

47. Галушкин А.И. Нейрокомпьютеры. -Кн. 3. -М.: ИПРЖР. -2000.

48. Комарцова Л.Г., Максимов А.В. Нейрокомпьютеры. -М.:Из-во МГТУ им. Н.Э. Баумана. -2002.

49. Головко В.А. Нейронные сети: обучение, организация, применение.-Кн.4. -М.: ИПРЖР. -2001.

50. Горбань А.Н. и др. Нейроинформатика. -Красноярск.: СО РАН. -1999.

51. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. -Новосибирск.: Наука. СО РАН. -1996.

52. Горбань А.И., Дунин-Барковский В.Л., Кирдин А.И. и др. // Сб. статей "Нейроинформатика".-Новосибирск.: Наука. Сибирское предприятие РАН.1998.

53. Голицын Г.А., Фоминых И.Б. Нейронные сети и экспертные системы: перспективы интеграции // Новости искусственного интеллекта. -1996. -№4.

54. Фоминых И.Б. Некоторые формальные аспекты информационного подхода к построению нейросетевых ЭС // Известия РАН: Теория и системы управления. -1999. -№5.

55. Харин Ю.С., Малюгин В.И. и др. Основы имитационного и статистического моделирования. -Минск.: Из-во "Дизайн ПРО". -1997.

56. Guariso G. Hitz М. Werthner Н. Experience in the development of advance modeling environment// Proc. ofEUROCAST-95. Austria. 1995. Springer Berlin.

57. Beck M.B. et al. Construction and evaluation of models of environment system//Modeling Change in Environmental system. Chichester. 1993.

58. Комарцова Л.Г. Оптимизация вычислительной системы на ее имитационной модели. // Вестник МГТУ им. Н.Э.Баумана, -сер. "Приборостроение".1999. -№2. -С.48-60.

59. Комарцова JI.Г. Совершенствование методики активного программного моделирования на этапе структурного проектирования ЦВМ. Автореферат диссертации на соискание уч. ст. к.т.н. -М. МЭИ., 1975.

60. Круглое В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. -М.: Телеком. -2001.

61. Нейронные сети. Statistical Neural Networks // Пер. с англ. -М.: Горячая линия -Телеком. -2000.

62. Sarle W. Neural Networks and Statistical models. In Proc. of 19-th Annual SAS users group International Conferense. -1994.ftp:// ftp.sas.com/pub/neural/inter95.ps

63. Квичанский A.B., Терехов C.A. Методы нейросетевого имитационного моделирования в комплексе NIMEA // Нейроинформатика и ее приложения. Тез доклада IV Всерос. Семинара. -КГТУ. -1996.

64. Francesko М. Functional network. A new computational framework for specification, simulation and algebraic manipulation of modular neural systems. PhD Thesis University of Geneva. -1994.

65. Smieja F., Multiple Network System (MINOS) modules: task division and module discrimination. In Proc. of 8-th AISB Conf. on Artificial Intelligence. Leeds.-1991.

66. Jabri M. A use guide to the MUME system / Technical report System engineering and design automation laboratory. University of Sydney. -1992.

67. Fuller R. Hybrid systems, http ://www.abo.fi/~rfuller.

68. Bauer P., Nouak S., Winkler R. A brief course in fuzzy logic and fuzzy control.-1996 //ftp://ftp.flll.uni-linz.ac.at/pub/info

69. Wakami N. Engineering application of fuzzy systems -Fuzzy Control and Neural Networks //Japanese-European Symposium on Fuzzy Systems in Berlin. -1992.

70. Pagni A. et al. WARP: Weight Associative Rule Processor // An Innovative Fuzzy Logic Controller. IIZUKA'92-2-ND International Conference on Fuzzy and Neural Network, 1992.

71. Bonarini A. Evolutionary Learning of Fuzzy rules (ELF): competition and cooperation, In Pedrycz, W. (Ed.), Fuzzy Modelling: Paradigms and Practice, Kluwer Academic Press, Norwell. -1996.-P. 265 284.

72. Ларичев О.И. Объективные модели и субъективные решения. -М.: Наука.-1987.

73. Валькман Ю.Р. Интеллектуальные технологии исследовательского проектирования. -Киев.: Port-Royal. -1998.

74. Бурков В.И., Новиков В.А. Введение в теорию активных систем. -М.:ИПУ. -1996.

75. Иордан Э., Аргила К. Структурные модели в объектно ориентированном анализе и проектировании. -М.: Из-во Лори.-1999.

76. Норенков И.П. Основы автомтизированного проектирования. -М: Из-во МГТУ им. Н.Э. Баумана. -2000.

77. Цой Е.В., Юдин А.Д., Юдин Д.Б. Проблемы дополнения и синтеза знаний //Автоматика и телемеханика. -1994. -№7.

78. Нариньяни А.С. НЕ факторы: неточность и недоопределенность -различие и взаимосвязь // Изв. РАН: Теория и системы управления. -2000. -№5.

79. Еремеев А.П. Экспертные модели и методы принятия решений. -М.: МЭИ.-1995.

80. Тарасов В.Б. От многоагентных систем к интеллектуальным организациям: философия, психология, информатика. -М.:Эдиториал УРСС. -2002.

81. Комарцова Л.Г. Роль новых информационных технологий в развитии интеллектуальных САПР // Труды международной конференции CAD/CAM/PDM-2002. -М: Институт проблем управления им. В.А. Трапезникова РАН. -2002. -С.47-58.

82. Комарцова Л.Г. Интегрированная САПР распределенных вычислительных систем // Труды международной конференции CAD/CAM/PDM-2001. -М: Институт проблем управления им. В.А. Трапезникова РАН. -2001. -С.25-35.

83. Yoshikawa Н. General design theory as a formal theory of design //Intelligent CAD //Ed. by H.Yoshikawa, D. Gorsard. -Amsterdam: Elsevier Science Publishers. -1999.

84. Advances in formal design methods CAD //Ed. by J. Gero. -Melbourne:Chapman and Hall.-1996.

85. Поспелов Д.А. Моделирование рассуждений (опыт анализа мыслительных актов). -М.: Радио и связь. 1989.113. htpp://www.uni-koblenz.se/~kyt/Learn/Textbook/nodel95.html

86. Hasson М.Е. Fundamentals of Artificial Neural Networks (Chapter 5: Genetic Algorithms for Optimization of Neural Networks), The MIT Press Cambridge, Massachusetts, London, 1995.

87. Rumelhart D.E. et al. Parallel Distributed Processing: Exploration in the Micro Structure of Cognition. Vol. I: Foundation MITPress. Cambridgre. MA. -1986.

88. Aleksander Igor, Morton Helen. An introduction into neural computing. London.: TJ Press Ltd. -1991.

89. Huang W.Y., Lippmann R.P. Neural net and traditional classifiers // Neural Information Processing Systems: 1st IEEE Conf. / Ed. D.Z.Anderson, New York, Amer.Inst. Phys.-1988. -p.387-396.

90. Аркадьев А.Г., Браверман Э.М. Обучение машины классификации объектов. -М.: Наука. Физматлит. -1971.

91. Kirkpatrick S., Gellat C.D. Vecchi M. Optimization by Simulated Annealing. Sciece. -1983.-vol. 220.

92. Laarhoven P., van Aarts E. Simulated Annealing: Theory and Application. D. Riedel, Dordrecht. Holland. -1987.

93. Sechen C. Lee K. -W. An improved simulated annealing algorithm for row-based placement //Proc. of the IEEE International Conf. on CAD.-1987.

94. Metropolis N. and al. Equation of calculation by fast computing machines. -J. of Chem. Phys. -21(6). -1998.

95. Хинтоп Дж. Обучение в параллельных сетях. В кн. "Реальность и прогнозы искусственного интеллекта"// Под ред. Стефанюка В.Л. -М.:Мир.-1987.

96. Lin С.Т. Neural Fuzzy Control System with Structure and Parameter Learning. Singapore: World Scientific. -1994.

97. De Groot C. Times series analysis with connectionist networks. Proc. PASE 1991, Zurich, Dec. Parallel problem solving-applications in statistics and economics.

98. Бэстенс Д., Ван Ден Берг, Д. Вуд Нейронные сети и финансовые рынки. -М.: ТВП. -1997.

99. Wasserman P.D. Neural computing. Theory and practice. -(Van Nostrand Reinold) ANZA Research, Inc., New York. 1989.

100. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация // Пер. с англ. -М.: Мир.-1985.

101. Реклейтис А., Рейвиндран А. и др. Оптимизация в технике.-В 2-х кн.-М.:Мир. -1988.

102. Батищев Д.И. Поисковые методы оптимального проектирования. -М.:Советское радио. -1975.

103. Миркес Е.М. Нейрокомпьютер. Проект стандарта. Новосибирск.:Наука.-Сибирское отделение РАН. -1999.

104. Сигеру Омату, Морзуки Холид, Рубея Юсов. Нейроуправление и его приложения. -Кн. 2. -М.: ИПРЖР. -2000.

105. Lin С.Т. Neural Fuzzy Control System with Structure and Parameter Learning. Singapore: World Scientific. -1994.

106. Lin C.-T., George Lee C.S. Neural Fuzzy Systems. A Neuro Fuzzy Synergism to Intelligent Systems. Prentice Hall P T R, Upper Sandle River, NJ 07458. -1997.

107. Комарцова Л.Г. Исследование возможностей нейронных сетей для создания проекта локальной вычислительной сети // Нейрокомпьютеры. Разработка и применение. -М.:Радиотехника.-2001.-№6.

108. Комарцова Л.Г. Двухэтапный алгоритм обучения нейронной сети на основе генетического поиска // Нейрокомпьютеры. Разработка и примене-ние.-М.: Радиотехника.-2000. -№1.

109. Комарцова Л.Г. Управляемый алгоритм обучения нейронной сети на основе генетического поиска и имитации отжига // Сб. докладов VII Всероссийской конференции "Нейрокомпьютеры и их применение". -М.: Радиотехника. -2001.

110. Комарцова Л.Г. Сравнительный анализ нейросетевых классификаторов //Научная сессия МИФИ-2002. Сб. научных трудов 4 -ой Всероссийской конференции "Нейроинформатика-2002". -В 2 частях. -4.2. -М.:МИФИ.-2001.

111. Шумский С.А. Байесова регуляризация обучения // Научная сессия МИФИ-2002. Сб. научных трудов 4 -ой Всероссийской конференции "Нейроинформатика-2002". -В 2 частях. -4.1. -М.:МИФИ.-2002.

112. Kussul Е.М., Baidyk T.N., LukowichV.V., Rachkovskij D.A. Adaptive neural network classifier with multifloat input coding // Proc.of 6-th Int. Conf. "Neu-roNimes-93". -Nimes, France. -1993.

113. Тихонов A.H., Арсенин В.Я. Методы решения некорректных задач.-М:Наука.-1979.

114. Бендат Дж., Пирсол А. Измерение и анализ случайных процессов. -М: Мир.-1974.

115. Борель Э., Дельтейл Р., Юрон Р. Вероятности, ошибки. / Пер. с франц. -М.: Статистика. -1972.

116. Girosi F., Jones М., Poggio Т. Regularization. Theory and Neural Networks.

117. Kohonen T. Self-organization and Associative Memory. Springer-Verlag: New York.-1984.

118. Комарцова Л.Г. Анализ самоорганизующейся сети Кохонена для решения задач распознавания // Нейрокомпьютеры. Разработка и применение. -М.Радиотехника. -2001. -№12. С. 3-9.

119. Kosko В. Fuzzy Engineering. New Jersey: Prentice-Hall. -1997.

120. Жожикашвили В.А., Вишневский B.M. Сети массового обслуживания. Теория и применение к сетям ЭВМ. -М.: Радио и связь. -1988.

121. Богуславский Л.Б. Моделирование многосерверных локальных сетей // Автоматика и телемеханика. -№8. -1998. -С. 109-123.

122. Феррари Д. Оценка производительности вычислительных систем. -М.:Мир.-1981.

123. Липаев В.В., Яшков С.Ф. Эффективность методов организации вычислительного процесса в АСУ. -М.:Статистика. -1975.

124. Зайченко Ю. П., Гонта Ю.В. Структурная оптимизация сетей ЭВМ. -Киев.: Техника. -1986.

125. Kleinrock L., Kermani P. State Flow Control in Store-and-forward Computer Networks //IEEE Trans. -1988. -Vol.2. P.271-279.

126. Комарцова Л.Г. Методика имитационного моделирования вычислительных систем с использованием нейронной сети для обобщения результатов. Известия вузов, -сер. Приборостроение. 2001. -Т.44. -№2.С.31-35.

127. Круг Г.К. Теоретические основы планирования экспериментальных исследований. -М.: МЭИ.-1974.

128. Маркова Е.В., Лисенков А.Н. Комбинаторные планы в задачах многофакторного эксперимента. -М.:Наука.-1979.

129. Thgoh Е. Semantic extraction using neural network modeling and sensitivity analysis. Institute of System Science. Syngapore. -1991.

130. Шигин А.Г. Цифровые вычислительные машины. -М.:Энергия.-1971.

131. Miller W., Glanz F., Kraft L. CMAC: An associative neural network alternative to back propagation // Proc. of the IEEE. -1990. -V.78. -N 10. -P. 1561-1567.

132. Majors M. Stori J. Cho D. -I. Neural network control of automatic systems // IEEE Control Systems. -1994. -V.14. -N 3.- P. 31-36.

133. Аведьян Э.Д. Ассоциативная нейронная сеть СМАС // Сборник статей "Проблемы построения и обучения нейронных сетей". -М.: Машиностроение. -1999.

134. Prechelt J. A set of neural network benchmark problems and benchmarking rules. "Tech. Rep. 21/94. Fakultat fur Informatik Universitat Kaflsrube. -1994.

135. Towell G. Knowledge-Based Artificial Neural Networks //Artificial Intelligence. 1994. -№7. -P. 119-165.

136. Orsier В., Amy.B., Rialle V. A study of the hybrid system SYNHESIS. In Proc. of ECAI-94. Amsterdam. -1994.

137. Lim T.S., Loh W.Y. Shih Y.S. An empirical comparison of decision trees and other classification methods. Technical Report 979. Department of Statistics. University of Wiscosin. Madison. Wisconsin. -1997. http:// www.stat.wisc.edu/ -limt/compare.ps

138. Хакен Г. Синергетика. Иерархия неустойчивостей в самоорганизующихся системах и устройствах / Пер. с англ. -М.: Мир.-1985.

139. Kosko В. Neural networks and fuzzy system . Prentice Hall, Englewood Cliffs. N.J. 1992.

140. Ярушкина Н.Г. Мягкие вычисления в автоматизированном проектировании //Труды КИИ'2000. -Т.2. -С.541-548.

141. Нанс Б. Компьютерные сети. / Пер. с англ. -М.: Бином.-1995.

142. Нильсон Н. Принципы искусственного интеллекта. Методы поиска решений. М : Мир.-1972. -234 с.

143. Kinderman J., Hinden A. Inversion of Neural Networks by Gradient Descent // Parallel Computing. №14. -1990. -P. 277-286.

144. Комарцова Л.Г. Методы и модели в системах поддержки принятия решений на начальном этапе проектирования распределенных вычислительных систем // Труды Международной конф. "Lyap-2001", поев, памяти Ляпунова А.А.-Новосибирск: СО РАН. -2001. -С.292-297.

145. Pal S.K. Genetic Algorithm's with Fuzzy Fitness Function for Object Extraction Using Cellular Networks // Fuzzy Sets & Systems. -1994. Vol. 65. - P. 126139.

146. Ida K., Gen M. Solving Multicriteria Solid Transportation Problem with Fuzzy Numbers by Genetic Algorithm // Proc. of EUFIT'95, Aahen. 1995.

147. Machado R. Evolutive Fuzzy Neural Networks // Proc. of the 1992 IEEE Int. Conf. on Fuzzy Systems, San Diego, 1992.

148. Karr C. Genetic Algorithms for Fuzzy Controller // AI Expert. -1998. -Vol. 6. P. 26-33.

149. Осовский С. Нейронные сети для обработки информации /Пер. с польского. -М.: Финансы и статистика. -2002.

150. Averkin A.N. Expert Oriented Fuzzy Logic's Acquisition in Soft Computing System // Труды Международного семинара "Мягкие вычисления-96". Казань. КГТУ.-1996. -С. 15-19.

151. Осипов Г.С. Динамика систем, основанных на знаниях // Известия РАН. Теория и системы управления. -1998. -№5. -С.24-28.

152. Локтев А.Г. Выбор коммутаторов // Сети и телекоммуникации. -№2. -2001.

153. Комарцова Л.Г. Математические модели вычислительных систем в интерактивном режиме. // Методы исследования и проектирования сложных технических систем. Сб. научных трудов. -М.: МГТУ им. Н.Э. Баумана. -1997. -вып.570. С.19-30.

154. Бусленко Н.П. Моделирование сложных систем. -М.: Наука. -1978.

155. Андрейчиков А.В., Андрейчикова О.Н. Компьютерная поддержка изобретательства. М.: Машиностроение. -1998.

156. Саймон Г. Науки об искусственном // Пер. с англ. -М.: Мир. -1972.

157. Розенблатт Ф. Принципы нейродинамики. М.: Мир. -1965.

158. MacGarry К., Wermter S. Hybrid neural system: from simply coupling to fully integrated neural network // Neural Coupling Surveys. -1999. -№ 2. -P. 6293.

159. Torvell G., Shavlik W. The Extraction of Refined Rules from Knowledge -Based Neural Networks // Machine Learning. 1993. -№13. -P. 71-101.

160. Mahoney J., Combining Symbolic and Connectionist Learning Methods to Refine Certain by Factor Rules Bases. Ph. D. Thesis Department of Computer Sciences. University of Texas at Austin. 1996.

161. Parsaye K. Characterization of data mining technologies and process // Journal of Data Warehousing. -1998. -№1.

162. Пупков К.А. Динамические экспертные системы в управлении // Изв. Вузов.-Приборостроение. -1996. -№8. -С. 39-50.

163. Попов Э.В. Корпоративные системы управления знаниями // Новости искусственного интеллекта. -2001. -№1. -С. 14-25.

164. Hecht-Nielsen R. Kolmogorov's Mapping Neural Network Existence Theorem// IEEE First Annual Int. Conf. on Neural Networks, San Diego, 1987.- Vol. 3.-P. 11-13.

165. Амосов H.M. Алгоритмы разума. -Киев.: Наукова думка.-1979. 86 с.

166. Нейрокомпьютеры и интеллектуальные роботы // Под ред. Амосова Н.М. -Киев. -Наукова думка. -1994.

167. Хыобел Д. Глаз, мозг, зрение. -М. -Мир. -1990.

168. Комарцова Л.Г. Перспективы использования новых технологий проектирования // Информационные технологии в проектировании и производстве. -Научно-техн. журнал.: ГУП "ВИМИ".-М.-2000.-№1.-С. 34-38.

169. Комарцова Л.Г. Нейросетевой метод извлечения знаний для мягкой экспертной системы // Научная сессия МИФИ -2001. Сб. научных трудов 3 Всероссийской конференции "Нейроинформатика-2001". -В 2 частях. -4.2. -М.-.МИФИ.-2001. С. 124 -129.

170. Goldberg D.E. Genetic algorithm in search, optimization and machine learning. -New York: Addison-Wesley Publishing Company.-Inc. -1989.

171. Practical handbook of genetic algorithm // Ed. By T.I. Chambers.-Washington. USA.: CRC Press. -1995.

172. Foundation of Genetic Algorithms. Edited by Laurence Davis. Van Nostrand Reynold Publishers. New York. -1991.

173. Foundation of Genetic Algorithms. Edited by Rawling Gregory. Morgan Kaufman Publishers. San meteo. California.-1991.

174. Кофанов Ю.Н., Комарцова Л.Г., Голубин A.B. Интерактивная среда для исследования генетических алгоритмов оптимизации // А.С. об официальной регистрации программ для ЭВМ. -РОСПАТЕНТ. №2002611145. -2002.

175. Ратнер А.Н. Генетика. Молекулярная кибернетика. -Новосибирск.: Наука. -2002.

176. Комарцова Л.Г., Солодовников А.Ю. Нечеткий вывод в системах поддержки проектирования корпоративных сетей // Информационные технологии. М.: Машиностроение. - 2003. №2.

177. Komartsova L.G. Use of New Information Technologies in LAN's Designing // Proc. of IEEE Int. Conf. on Artificial Intelligence Systems. -Los Alamitos, California.-2002. -P.438-440.

178. Komartsova L.G. Research of a Genetic Algorithms Designer // Proc. of IEEE Int. Conf. on Artificial Intelligence Systems. -Los Alamitos, California.-2002. -P.395 -397.

179. Комарцова Л.Г. Поисковое проектирование распределенных вычислительных систем с использованием генетического алгоритма // Информационные технологии. -М.: Машиностроение. -2000. -№5. С.25-30.

180. Олифер В.Г., Олифер Н.А. Компьютерные сети. Принципы, технологии, протоколы. -Санкт-Петербург: Питер.-2001.

181. Телекоммуникационные решения для промышленных предприятий (обзор компании Ай Ти) // Сеть. -№ 8-9. -1999.

182. Прикладные нечеткие системы // Под редакцией Тэрано Т. -Пер. с англ. -М.:Мир. -1993.

183. Kasabov N. Evolving connectionist and fuzzy connectionist systems theory and applications for adaptive on-line intelligent systems // In Neuro-Fuzzy Techniques for Intelligent Information Systems. -Physic Verlag (1999). - P. 111146.

184. Комарцова Л.Г. Нейросетевые технологии в задачах проектирования корпоративных сетей // Информационные технологии в проектировании и производстве. -Научно-техн. журнал.: ГУП "ВИМИ".-М.-2000.-№3.-С. 47-50.

185. Комарцова Л.Г. Исследование алгоритмов обучения многослойного персептрона // Нейрокомпьютеры. Разработка и применение. -М.: Радиотех-ника.-2002. -№12.-С. 15-21.

186. Краснощеков П.С., Федоров В.В., Флеров Ю.А. Элементы математической теории принятия проектных решений // Автоматизация проектирования. 1997. - №1. -С.5-23.

187. В.А. Вязгин, В.В. Федоров Математические методы автоматизированного проектирования. -М.: Высшая школа. 1989.

188. Комарцова Л.Г. Компьютерные методы генерации решений на основе самоорганизующихся нейронных сетей // Новости искусственного интеллекта. -М. -2002. -№3. -С. 23-29.

189. Месарович М., Мако Д., Такахара И. Теория иерархических многоуровневых систем.-М.-Мир.-1973.

190. Whitley D., Starkweather Т., Bogart С. Genetic algorithms and neural networks: optimizing connections and connectivity // Parallel Computing, 14:347361, 1990.

191. Bartlett P., Downs T. Training a neural network with a genetic algorithm // Technical Report, Dept. ofElec. Eng., Univ. of Queensland, January 1990.

192. Fogel D., Fogel L., Porto V. Evolving neural networks // Biological Cybernetics, 63, 1990, pp. 487-493.

193. Barren A. Approximation and estimation bounds for artificial neural networks //Proceedings of the Fourth Annual Workshop on Computational Learning Theory, 1991, pp.243-249.

194. Barren A. Complexity Regularization with Application to Neural Networks // Nonparametric Functional Estimation and Related Topics, Roussas G.,editor, Kluwer Academic Publishers, 1991,pp.561-576.

195. Moody J. The Effective Number of Parameters: An Analysis of Generalization and Regularization in Nonlinear Learning Systems // Moody, J.E., Hanson, S.J., and Lippmann, R.P., Advances in Neural Information Processing Systems 4,1992, pp. 847- 854.

196. Umnov N., Orlov S., Sannikov A. A priori NN structure selection using information about the training data // International Conference on Information Processing by Neural Networks '96. 1996.

197. Torres-Moreno J. M. Apprentissage et generalisation par des reseaux de neurones : etude de nou'ueuux u.lgo'n.th'rnes con.itructifs. II PhD thesis, de l'Institut National PolytechniquedeGrenobire,1997.

198. Ash Т. Dynamic Node Creation in Back-Propagation Networks. II Connection Science, V. 1, 1989.

199. Fahlman S.E. and Lebiere C. The cascade-correlation learning architecture. II In Advances in Neural Information Processing II, P. 524 532, 1990. (ftp://archive.cis.ohio-state.edu/pub/neuroprose/fahlman.cascor-tr.ps.gz).

200. Treadgold, N.K and Gedeon T.D. Exploring Architecture Variations in Constructive Cascade Networks. II Proc. Int. Joint Conf. on Neural Networks, Anchorage, P. 343 348, 1998. (http://www.cse.unsw.edu.au/ nickt/doc/tower.ps).

201. Treadgold N.K. and Gedeon T.D. A Cascade Network Algorithm Employing Progressive RPROP. II Int. Work Conf. on Artificial and Natural Neural Networks, Lanzarote, P. 733 742, 1997. (http://www.cse.unsw.edu.au/ nickt/doc/casper.ps).

202. Yao X. A review of evolutionary artificial neural networks // International Journal of Intelligent Systems, 8(4):539-67, 1993.

203. Harp S., Samad Т., Guha A. Designing application-specific neural networks using the genetic algorithm // In D. S. Touretzky, editor. Advances in Neural Information Processing Systems 2, pp. 447-454. Morgan Kaufmann, San Mateo, С A, 1990.

204. Wilson S. Pcrceptron rcdux: emergence of structure // Physica D, 42:249-256, 1990.

205. Тютерев B.B. Алгоритм эволюционного наращивания нейронной сети Сб. научных трудов 3-ей Всероссийской конференции "Нейроинформатика -2001 ".-М.:МИФИ.-2001 .-С. 174-179.

206. Mandischer М. Representation and evolution of neural networks // Proceedings of the Conference on Artificial Neural Nets and Genetic Algorithms, pp. 643-649. Springer Verlag, 1993.

207. Hancock P. Coding Strategies for Genetic Algorithms and Neural Nets // PhD thesis, Department of Computing Science and Mathematics, University of Stirling, 1992.

208. Thierens D., Suykens J., Vandewalle J., De Moor B. Genetic weight optimization of a feedforward neural network controller // Proceedings of the Conference on Artificial Neural Nets and Genetic Algotithms, pp. 658-663. Springer Verlag, 1993.