автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Комбинированная процедура многокритериальной оптимизации параметров алгоритмов нейроуправления динамическими системами в условиях неопределенности

ВВЕДЕНИЕ.

1. ПОСТАНОВКА ЗАДАЧИ ВЫБОРА ПАРАМЕТРОВ АЛГОРИТМОВ НЕЙРОУПРАВЛЕНИЯ В УСЛОВИЯХ НЕОПРЕДЕЛЕННОСТИ НА ОСНОВЕ МНОГОКРИТЕРИАЛЬНОГО ПОДХОДА.

1.1. Анализ функциональных особенностей и возможностей искусственных нейронных сетей.

1.2. Схемы нейронного управления.

1.3. Формализация задачи выбора параметров алгоритмов адаптивного нейроуправления в виде конечномерной задачи многокритериальной оптимизации в условиях неопределенности.

1.4. Анализ подходов к решению задач многокритериальной оптимизации.

1.5. Выводы.

2. КОМБИНИРОВАННАЯ ВЫЧИСЛИТЕЛЬНАЯ ПРОЦЕДУРА МНОГОКРИТЕРИАЛЬНОЙ ОПТИМИЗАЦИИ ПАРАМЕТРОВ

МНОГОСЛОЙНЫХ ИНС.

2.1. Структура комбинированной вычислительной процедуры многокритериальной оптимизации.

2.2. Генетический алгоритм многокритериальной оптимизации с изменяющейся функцией пригодности.

2.3. Выбор начального приближения.

2.4. Алгоритм локальной многокритериальной оптимизации по конусу доминирования.

2.4.1. Выбор возможного направления спуска внутри конуса доминирования.

2.4.2. Вычисление шаговой длины в выбранном направлении.

2.5. Выводы.

3. ИССЛЕДОВАНИЕ ЭФФЕКТИВНОСТИ АЛГОРИТМОВ МНОГОКРИТЕРИАЛЬНОГО АДАПТИВНОГО НЕЙРОУПРАВЛЕНИЯ ПРОМЫШЛЕННЫМ РОБОТОМ.

3.1. Математическая модель адаптивной системы нейроуправления приводом поворота манипулятора промышленного робота.

3.2. Схема адаптивного управления с ПИД-контроллером.

3.3 Схема адаптивного нейроуправления.

3.4. Выводы.

Эволюция требований к качеству современных систем управления (СУ) характеризуется их ужесточением по отношению к динамическим и статическим характеристикам СУ, а также ставит перед исследователями и проектировщиками задачу обеспечения стабильности показателей качества СУ в широком диапазоне изменения условий их эксплуатации.

Одно из наиболее перспективных направлений исследований по созданию высококачественных СУ базируется на концепции интеллектуальных систем как СУ нового поколения [52, 81, 107 и др.]. В настоящее время интеллектуальные системы находят все более широкое применение в задачах управления технологическими процессами, робототехническими комплексами, авиационно-космическими системами и т.п. Подобные СУ способны на основе использования сведений и знаний о внешней среде и собственном состоянии при наличии мотивации синтезировать цель и находить рациональные способы ее достижения.

В рамках концепции интеллектуальных систем активно развивается подход, основанный на использовании искусственных нейронных сетей (ИНС), в частности для построения нейросетевых алгоритмов управления динамическими системами (нейроконтроллеров), а также решения задач идентификации динамических объектов [6, 10, 40, 72, 102, 117, 122 и др.]. Причем, благодаря своим способностям к самоорганизации и обучению в отношении объекта управления, возмущений, внешней среды и условий функционирования, ИНС сейчас рассматриваются как перспективные средства для реализации интеллектуальных систем.

Вопросам применения ИНС в технических приложения посвящено значительное количество периодических научных журналов, в частности, "Neural Networks", "IEEE Transactions on Neural Networks". В России издается журнал "Нейрокомпьютеры: разработка и применение". По данной тематике ежегодно проводится большое число конференций, в том числе российские

Нейроинформатика и нейрокомпьютеры" (Ростов-на-Дону), "Нейрокомпьютеры и их применение" (Москва).

При решении задачи синтеза параметров нейроконтроллеров существенную роль играет качество обучения ИНС, что в конечном итоге определяет функциональные возможности СУ. Поэтому в современной литературе вопросам организации эффективных процедур обучения ИНС уделяется значительное внимание [10,13,106 и др.].

В большинстве работ постановка задачи обучения ИНС с учителем (что характерно для систем нейроуправления) формулируется в виде конечномерной задачи условной оптимизации, для решения которой применяются известные технологии нелинейного программирования [1, 2, 58 и др.], а также новые технологии генетического поиска [3, 7, 11, 31, 61 и др.] и комбинированные технологии [25,46,121 и др.].

Однако в условиях нарастающей структурной и информационной сложности СУ все более существенным становится учет факторов многокритериальности и неопределенности [17, 18], что обусловливает целесообразность формулировки постановки задачи обучения ИНС как задачи многокритериальной оптимизации в условиях неопределенности. Кроме того, имеет место нелинейность, невыпуклость, многоэкстремальность целевых функций, а также высокая размерность пространства весов синаптических связей ИНС.

Указанные обстоятельства существенно затрудняют применение известных методов оптимизации для решения задачи обучения ИНС, что определяет актуальность их дальнейшего развития.

Настоящая работа посвящена прикладным аспектам использования ИНС для синтеза алгоритмов нейроуправления динамическими системами в условиях неопределенности. Основная цель работы - создание формализованного подхода к нейросетевой реализации алгоритмов многокритериального управления в условиях неопределенности, применимого к широкому классу динамических систем, а также разработка технических приложений на основе сформированного методического, алгоритмического и программного обеспечения. Поставленная цель предполагает решение следующих основных задач:

- обоснование необходимости совместного учета факторов многокритериальное™ и неопределенности при разработке и оценке эффективности алгоритмов нейроуправления в реальных системах;

- разработка алгоритмического обеспечения синтеза параметров ИНС на основе учета особенностей компонентов векторного показателя динамического качества СУ, а также сочетания в себе достоинств алгоритмов глобальной и локальной многокритериальной оптимизации;

- разработка и исследование алгоритмических средств управления процессом обучения ИНС с целью повышения его эффективности;

- проектирование программного обеспечения, реализующего разработанную методику синтеза параметров алгоритмов многокритериального нейроуправления в условиях неопределенности.

В целом научная новизна работы заключается в развитии вычислительных методов и технологии оптимизации параметров алгоритмов многокритериального нейроуправления в условиях неопределенности. При этом задача обучения ИНС формализуется в виде задачи многокритериальной оптимизации при неопределенности, для решения которой предложена схема компромисса на основе принципа векторного минимакса.

Практическая ценность состоит в том, что научные результаты работы доведены до уровня инженерной методики, которая была применена для решения задачи многокритериального синтеза параметров нейроконтроллера в адаптивной системе управления приводом поворота промышленного робота.

Диссертация содержит введение, основную часть из трех глав, заключение, список литературы из 169 наименований, 24 рисунка.

3.4. Выводы

1. Разработана математическая модель адаптивной системы нейроуправления приводом поворота манипулятора промышленного робота.

2. На основе разработанной методики решена задача многокритериального синтеза параметров нейроконтроллера, выполненного на базе многослойной ИНС, в адаптивной системе управления приводом поворота манипулятора промышленного робота. решения итераций. В то же время обычный ГАМО (при тех же поколении ТТО. Таким образом, применение комбинированной

103

3. Показано, что применение НК существенно повышает качество переходных процессов в адаптивной СУ по сравнению со схемой на основе ПИД-контроллера: исключается перерегулирование и обеспечивается точность позиционирования по векторному критерию на всем диапазоне изменения суммарного момента инерции на валу электродвигателя.

4. Проведено исследование эффективности алгоритмов нейроуправления в зависимости от степени сложности И НС и формы многокритериального компромисса, определяющего значение вектора весов синаптических связей ИНС на множестве недоминируемых решений. Показано, что увеличение в определенных пределах числа слоев и нейронов в ИНС повышает степень стабильности показателей динамического качества СУ в исследуемом диапазоне параметрических возмущений ОУ, а также расширяет диапазон возможных параметрических возмущений ОУ, в котором обеспечивается требуемый уровень эффективности управления.

5. Показано, что изменение таких параметров, как точность аппроксимации множества оптимальных по конусу решений, а также матрица полиэдрального конуса доминирования, позволяет уменьшить вычислительную сложность ГАМО и в сочетании с алгоритмом локальной многокритериальной оптимизации повышает в целом эффективность комбинированной вычислительной процедуры обучения многослойной ИНС.

ЗАКЛЮЧЕНИЕ

В диссертационной работе получены следующие основные научные и практические результаты.

1. Разработан комплексный формализованный подход к решению задачи синтеза параметров алгоритмов многокритериального нейроуправления динамическими системами в условиях неопределенности.

2. Постановка задачи обучения ИНС сформулирована как задача многокритериальной оптимизации в условиях неопределенности, для решения которой предложена схема компромисса на основе принципа векторного минимакса.

3. Разработана комбинированная вычислительная процедура обучения ИНС, сочетающая в себе достоинства алгоритмов глобальной и локальной оптимизации и включающая в себя следующие основные этапы: глобального анализа пространства весов синаптических связей ИНС на основе генетического алгоритма многокритериальной оптимизации с изменяющейся функцией пригодности; выбора начального приближения; локальной оптимизации параметров ИНС на основе многокритериальной модификации алгоритма возможных направлений Топкиса-Вейнотта.

4. Разработаны алгоритмические средства управления процессом обучения ИНС, повышающие его гибкость и эффективность.

5. Спроектировано программное обеспечение, ориентированное на решение задач синтеза параметров и исследование эффективности алгоритмов нейроуправления в условиях неопределенности.

6. На основе разработанной методики решена задача многокритериального синтеза параметров нейроконтроллера в адаптивной системе управления приводом поворота промышленного робота. Проведено исследование эффективности алгоритмов нейроуправления в зависимости от степени сложности ИНС и формы

105 многокритериального компромисса, определяющего значение вектора весов синаптических связей ИНС на множестве недоминируемых решений.

1. Аведьян Э.Д. Алгоритмы настройки многослойных нейронных сетей // Автоматика и телемеханика. - 1995. - №4. - С.106-118.

2. Базара М., Шетти К. Нелинейное программирование. Теория и алгоритмы: Пер. с англ. М.: Мир, 1982. - 583с.

3. Батшцев Д.И. Методы оптимального проектирования. М.: Радио и связь, 1984. - 248с.

4. Батшцев Д.И. Генетические алгоритмы решения экстремальных задач. — Воронеж: ВГТУ, 1995. 69с.

5. Бивальд Рене. Разработка и исследование нейронных контроллеров для управления транспортными роботами: Дис. к.т.н. / Спб.ГЭУ. Спб, 1995. - 175с.

6. Бондарь Т.А., Логовский А.С. Нейрокомпьютеры в управлении // Зарубежная радиоэлектроника. — 1997. №2. — С.57-71.

7. Васильев В.И., Жернаков С.В., Урасбахтина Л.Б. Нейросетевой контроль параметров газотурбинного двигателя // Нейрокомпьютеры: разработка, применение. -2001. №1. - С.37-43.

8. Васильев В.И., Ильясов Б.Г. Интеллектуальные системы управления с использованием генетических алгоритмов. Уфа: УГАТУ, 1999. - 105с.

9. Воеводин В.В. Матрицы и вычисления. М.: Наука, 1983. - 318с.

10. Воронов Е.М. Методы оптимизации управления многообьектными многокритериальными системами на основе стабильно-эффективных игровых решений: Учебник / Под ред. Н.Д.Егупова. М.: Изд-во МГТУ им. Н.Э.Баумана, 2001.-576с.

11. Галушкин А.И. Итоги развития теории многослойных нейронных сетей (1965-1995) в работах Научного центра нейрокомпьютеров и ее перспективы // Нейрокомпьютер. 1996. - №1-2. - С.3-38.

12. Галушкин А.И. Современные направления развития нейрокомпьютеров в России // Зарубежная радиоэлектроника. 1998. - №2. - С.3-18.

13. Галушкин А.И. Теория нейронных сетей. Кн. 1. — М.: ИПРЖР, 2000. — 416с. (Нейрокомпьютеры и их применение).

14. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности / Вороновский Г.К., Махотило К. В., Петрашев С.Н., Сергеев С.А. Харьков: Основа, 1997. - 112с.

15. Гермейер Ю.Б. Введение в теорию исследования операций. М.: Наука, 1971.- 383с.

16. Горбань А.Н. Обучение нейронных сетей. Красноярск: ПараГраф, 1990. - 159с.

17. Давлетшин Г.З. Методы многокритериальной оптимизации параметров технических систем. Оценка их качества. — Калининград, Мо.: ЦНИИМаш, 1993. — 236с.

18. Дубов Ю.А.,Травкин С.И. Якимец В.Н. Многокритериальные модели формирования и выбора вариантов систем. М.: Наука, 1986-296с. (Теория и методы системного анализа).

19. Ежов А.А., Шумский С.А. Нейрокомпьюгинг и его применение в экономике и бизнесе. -М.: МИФИ, 1998. 222с.

20. Жиглявский А.А. Математическая теория глобального случайного поиска. Д.: Изд-во Ленингр. Ун-та, 1985. - 256с.

21. Жуковский В.И., Молоствов B.C. Многокритериальное принятие решений в условиях неопределенности. М: МНИИПУ, 1988. — 131с.

22. Жуковский В.И., Салуквадзе М.Е. Оптимизация гарантий в многокритериальных задачах управления. — Тбилиси: Мецниереба, 1996. 475с.

23. Заенцев И.В. Нейронные сети: основные модели. — Воронеж, 1999.76с.

24. Зойтевдейк Г. Методы возможных направлений. М: ИЛ, 1963. - 176с.

25. Иванченко А.Г. Персептрон системы распознавания образов. - К.: Наукова думка, 1972.

26. Интеллектуальные системы управления с применением нейросетей. / Васильев В.И., Ильясов Б.Г., Валеев С.С., Жернаков С.В. Уфа: УГАТУ, 1996. -80с.

27. Искусственные нейронные сети: новая парадигма в управлении / Клепиков В.Б., Махотило К.В., Сергеев С.А., Вороновский Г.К. // В кн.: Проблемы автоматизированного электропривода. Теория и практика. Харьков: Основа, 1995. — С.111-115.

28. Каплинский А.С., Красненкер А.С. О случайном поиске в многокритериальных задачах // Вопросы кибернетики. Проблемы случайного поиска. М, 1978. - Вып.ЗЗ. - С.91-99.

29. Колесников А.А., Гельфгат А.Г. Проектирование многокритериальных систем управления промышленными объектами. — М.: Энергоатомиздат, 1993. 304с.

30. Комарцова Л.Г. Алгоритм обучения нейронной сети на основе генетического поиска // Нейрокомпьютеры и их применение: Сборник докладов VI Всероссийской конференции (Россия, Москва, 16-18 февраля 2000г.). М: Радиотехника, 2000. - С.499-502.

31. Комарцова Л.Г. Двухэтапный алгоритм обучения нейронной сети на основе генетического поиска // Нейрокомпьютеры: разработка, применение. — 2001. -№1.-С.З-9.

32. Кононенко Р.Н., Лебедько О.А., Топчий А.П. Комбинированный эволюционный поиск в обучении нейронных сетей // Математическое моделирование. М.: Наука, 1997. - Т.9, №2. - С.74-76.

33. Красненкер А.С. Методы локальных улучшений в задаче векторной оптимизации // Автоматика и телемеханика. — 1975. №3. - С.75-79.

34. Круглов В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. М.: Горячая линия — Телеком, 2001. — 382 с.

35. Куан Чиман. Робастное нейросетевое управление роботами с жесткими связанными электрическими приводами // IEEE Transactions Neural Network. 1998. - V.9,№4.-C.581-588.

36. Курейчик B.M. Генетические алгоритмы, обзор и состояние // Новости искусственного интеллекта. —1998. №3. — С. 14-63.

37. Курейчик В.М. Генетические алгоритмы. Состояние. Проблемы. Перспективы // Известия РАН. Теория и системы управления. 1999. - №1. - С. 144160.

38. Куссуль Э.М., Байдык Т.Н. Структура нейронных ансамблей // Нейрокомпьютер. 1992. - №1. - С.41-47.

39. Ларичев О.И., Мошкович Е.М. Качественные методы принятия решений. Вербальный анализ решений. — М: Наука, 1996. 208с.

40. Ларичев О.И., Поляков О.Л. Человеко-машинные процедуры решения многокритериальных задач математического программирования. (Обзор) // Экономика и математические методы. 1980. — Т.16, №1. - С.129-145.

41. Методы анализа и синтеза структур управляющих систем / Волик Б.Г., Буянов Б.Б., Лубков Н.В. и др.; Под ред. Волика Б.Г. М.: Энергоатомиздат, 1988. -296с.

42. Методы классической и современной теории автоматического управления: Учебник в 3-х томах. Т.З: Методы современной теории автоматического управления / Под ред. Н.Д.Егупова. М.: Изд-во МГТУ им. Н.Э.Баумана, 2000. - 748с.

43. Методы робастного, нейро-нечеткого и адаптивного управления: Учебник / Под ред. Н.Д.Егупова М.: Изд-во МГТУ им. Н.Э.Баумана, 2001. - 744с.

44. Минский М., Пейперт С. Персептроны. М: Мир, 1971. -261с.

45. Михалевич B.C., Гупал А.М., Норкин В.И. Методы невыпуклой оптимизации. М.: Наука, 1987. - 280с.

46. Мкртчан С.О. Нейроны и нейронные сети. (Введение в теорию формальных нейронов). М: Энергия. 1971. - 232с.

47. Модели и методы векторной оптимизации / Емельянов С В., Борисов В.И., Молевич А.А. и др. // Итоги науки и техники. Техническая кибернетика. М.: ВИНИТИ, 1973. - Т.5. - С.386-448.

48. Нейроинформатика / Горбань А.Н., Дунин-Барковский B.J1., Кардин А.Н., Миркес Е.М. и др.; Отв. Ред. Новиков Е.А.; РАН, Сиб. отд. Новосибирск: Наука, СО, 1998.-296с.

49. Нейрококомпьютеры и интеллектуальные роботы / Под ред Н.М.Амосова. Киев: Накова думка, 1991.

50. Нейросетевые системы управления / Терехов В.А., Ефимов Д.В., Тюкин И.Ю. Антонов В.Н. СПб: Изд-во С.-Петербургского унивеситета, 1999.

51. Норенков И.П. Генетические алгоритмы структурного синтеза проектных решений // Информационные технологии. 1998. - №1. - С.9-13.

52. Обен Ж.-П. Нелинейный анализ и его экономические приложения: Пер. с франц. -М.: Мир, 1988. 264с.

53. Осыка О.В. Экспериментальное исследование зависимости скорости сходимости генетического алгоритма от его параметров // Известия РАН. Теория и системы управления. — 1997. №5. — С. 100-111.

54. Павлов Б.В., Соловьев И.Г. Системы прямого адаптивного управления. М.: Наука, 1989. - 129с.

55. Петридис В. Гибридный нейрогенетический алгоритм оценки параметров моделей. // IEEE Transactions Neural Networks, 1998 -V.9, № 5 P.862-876.

56. Подиновский B.B., Гаврилов B.M. Оптимизация по последовательно применяемым критериям. М.: Сов. радио, 1975. - 192с.

57. Подиновский В.В., Ногин В.Д. Парето-оптимальные решения многокритериальных задач. — М.: Наука, 1982. 254с.

58. Поляк Б.Т. Введение в оптимизацию. М.: Наука, 1983. - 384с.

59. Проблемы построения и обучения нейронных сетей / под ред. А.И.Галушкина и В.А.Шахнова. М.: Машиностроение, 1999. - 105с. (Библиотечка журнала Информационные технологии).

60. Промышленная робототехника / Под ред. Шифрина Я.А. М.: Машиностроение, 1982.

61. Промышленная робототехника и гибкие автоматизированные производства: Опыт разработки и внедрения / Под ред. Юревича Е.И. — JL: Лениздат, 1984.-223с.

62. Пупков К. А. Проблемы теории и практики интеллектуальных систем // Машиностроение, приборостроение, энергетика / Ред. кол.: Тихонов А.Н., Садовничий В. А и др. М.: Изд-во Моск. ун-та, 1994. - С.263-266.

63. Пупков К.А. О некоторых новых задачах теории и техники интеллектуальных систем // Интеллектуальные системы: Тр. III Международного симпозиума (Россия, г. Псков, 30июня-4июля 1998г.). М.: ООО «ТВК», 1998. -С. 19-23.

64. Пупков К.А., Серов В.А. Автоматизированная разработка систем управления: Учебное пособие. 4.2. М.: Изд-во Ml ГУ им. Н.Э.Баумана, 2000. -52с.

65. Растригин Л.А. Статистические методы поиска. М.: Наука, 1968.376с.

66. Растригин Л.А., Эйдук Я.Ю. Адаптивные методы многокритериальной оптимизации // Автоматика и телемеханика. 1985. - №1. - С.5-26.

67. Растригин Л.А., Эйдук Я.Ю. Поисковые алгоритмы определения множества Парето // Вопросы кибернетики. Адаптация в системах со сложной организацией. -М., 1977. С.93-98.

68. Реклейтис Г., Рейвиндран А., Рэгсдел К. Оптимизация в технике. В 2-х кн. М.: Мир, 1986. - 669с.

69. Розенблатт Ф. Принципы нейродинамики. Перцептрон и теория механизмов мозга. М.: Мир, 1965. - 480с.

70. Салуквадзе М.Е. Задачи векторной оптимизации в теории управления. -Тбилиси: Мецниереба, 1975. 201с.

71. Сергеев С. А., Махотило К.В. Генетические алгоритмы в синтезе прямонаправленных нейронных сетей // Новые информационные технологии в науке, образовании и бизнесе: Труды XIII Межд. конф. (Украина, Ялта, 15-24 Мая 1996г.). С.338-342.

72. Серов В.А. Об условиях s -оптимальности по конусу в задаче многокритериальной оптимизации // Вестник РУДН. Сер. Кибернетика. — 1998. -№1. С.49-54.

73. Серов В.А., Горячев Ю.В. Генетический алгоритм многокритериальной оптимизации // Актуальные проблемы теории и практики инженерных исследований: Сб. научных трудов. М: Машиностроение, 1999. — С.23-29.

74. Серов В.А., Холба Ю.Я. Применение алгоритмов многокритериальной оптимизации для обучения нейронных сетей // Актуальные проблемы теории и практики инженерных исследований: Сб. научных трудов. М.: АСВ, 2000. С.235-236.

75. Серов В.А., Холба Ю.Я. Генетический алгоритм многокритериальной оптимизации с изменяющейся функцией пригодности // Актуальные проблемы теории и практики инженерных исследований: Сб. научных трудов. — М.: АСВ, 2002. (в печати).

76. Сигеру Омату, Марзуки Халид, Рубия Юсоф Нейроуправление и его приложения: Пер. с англ. Кн. 2 /; под ред. А.И.Галушкина, В.А.Птичкина. М.: ИПРЖР, 2000. - 272с. (Нейрокомпьютеры и их применение).

77. Скурихин А.Н. Генетические алгоритмы // Новости искусственного интеллекта. -1995. №4. - С.6-46.

78. Соболь И.М., Статников Р.Б. Выбор оптимальных параметров в задачах со многими критериями. М.: Наука, 1981. -113с.

79. Современное состояние теории исследования операций / Под ред. Моисеева Н.Н. М.: Наука, 1979. - 464с.

80. Солодовников В.В., Шрамко JI.C. Расчет и проектирование аналитических самонастраивающихся систем с эталонными моделями. М.: Машиностроение, 1972. — 270с.

81. Солодовников В.В., Плотников В.Н., Яковлев А.В. Теория автоматического управления техническими системами: Учеб. пособие. — М.: Изд-во МГТУ им. Н.Э.Баумана, 1993. -492с.

82. Табак Д., Куо Б. Оптимальное управление и математическое программирование: Пер. с англ. -М.: Наука, 1975. -280с.

83. Тимофеев А.В. Адаптивные робототехнические комплексы. JL: Машиностроение. Ленингр. отд., 1988. — 332с.

84. Тимофеев А.В. Адаптивное и интеллектуальное управление роботами // Изв. вузов. Сер. Приборостроение. 1988. - № 11. - С.23-28.

85. Тимофеев А.В., Юсупов P.M. Интеллектуальные системы управления // Изв. РАН. Тех. Кибернетика. 1994. - № 5. - С.209-224.

86. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. М.: Мир, 1992. -240с.

87. Фомин В.Н., Фрадков А.Л., Якубович В.Л. Адаптивное управление динамическими объектами. М.: Наука, 1981. - 236с.

88. Фролов А.А., Муравьев И.П. Нейронные модели ассоциативной памяти. М.: Наука, 1987. - 166с.

89. Химмельблау Д. Прикладное нелинейное программирование: Пер. с англ. М.: Мир, 1975. - 534с.

90. Холл Дж., Уатг Дж; Современные численные методы решения обыкновенных дифференциальных уравнений: Пер. с англ. М.: Мир, 1979. - 312с.

91. Цыпкин Я. 3. Адаптация и обучение в автоматических системах. М.: Наука, 1968. - 400с.

92. Численные методы условной оптимизации: Пер. с англ. / Ред. Гилл Ф., Мюррей X. М.: Мир, 1977. 290с.

93. Чураков Е.П. Оптимальные и адаптивные системы. — М.: Энергоатомиздат, 1987. 256с.

94. Шароватов В.Т. Обеспечение стабильности показателей качества автоматических систем. JL: Энергоатомиздат. Ленингр. отд., 1987. - 176с.

95. Шульце К.-П., Реберг К.-Ю. Инженерный анализ адаптивных систем: Пер. с нем. М.: Мир, 1992. - 280с.

96. Эйдук Я. Ю. Векгорно-релаксационные алгоритмы поиска компромиссного решения // Методы и модели анализа решений / Рижский политехнический институт. — Рига, 1982. С.44-52.

97. Юдашкин, А.А. Применение нейронных сетей для построения адаптивных систем управления технологическими процессами: Автореф. дис. . к.т.н. / СГГУ. Самара, 1994. - 20с.

98. Aleksander I., Morton Н. An Introduction to Neural Computing. London: Chapman & Hall, 1990. - 218p.

99. Almeida L. Neural computaters // Proc. of NATO ARW on Neural Computers. Heidelberg: Springer Verlag, 1987.

100. Barron A., Universal approximation bounds for superposition of sigmoidal function // IEEE Transactions on Information Theory. -1993. Vol.39. - P.930-954.

101. Carpenter G., Grossberg S. A massively parallel architecture for a self-organizing neural pattern recognition machine // Computing Vision, Graphics and Image Processing. —1987. 37. - P.54-115.

102. Carpenter G., Grossberg S. ART-2: Self-organization of stable category recognition codes for analog input patterns // Applied Optics. 1987. - 26(23). - P.4919-4930.

103. Chen S., Billings S.A., Grant P.M. Nonlinear system identification using neural networks // Int. J. of Control. 1990. - Vol.51. -№6 - P.l 191-12148.

104. Cybenco G. Approximation by superposition of sigmoidal function // Math. Control Systems and Sygnals. 1989. - №2. -P.303-314.

105. Davis L. Handbook of genetic algorithms. New York: Van Nostrand Reinhold, 1991. - 385p.

106. Deb K. Multiobjective Genetic Algorithms: Problem Difficulties and Construction of Test Problems // Technical Report TR CI-49/98 / University of Dortmund, Germany: Department of Computer Science, IX, 1998.

107. Deb K. Non-linear Goal Programming Using Multi-Objective Genetic Algorithms // Technical Report TR CI-60/98 / University of Dortmund, Germany: Department of Computer Science, XI, 1999.

108. Deb K. Evolutionary Algorithms for Multi-Criterion Optimization in Engineering Design // Proc. of Evolutionary Algorithms in Engineering and Computer Science (EUROGEN-99), 1999.

109. Diamantaras K.I., Kung S.Y. Principal component neural networks: theory & applications .-New York:Wiley,1996. XII, 225p.

110. Girosi F., Poggio T. Representation properties of networks: Kolmogorov's theorem is errelevant // Neural Computation. 1989. - Vol.1. - P.465-469.

111. Grossberg S. Stadies of mind and brain. Boston: Reidel, 1982.1.i n U i

112. Grossberg S. Embedding fields: Underlying philosophy, mathematics and applications of psyhilogy, phisiology and anatomy // J. of Cybernetics. 1971. - V.l. -P.28-50.

113. Grossberg S. Competitive learning: From interactive activation to adaptive resonance // Cognitive Science. 1987. -11. -P.23-63.

114. Gupta M. M. and Rao D. H., Neuro-Control Systems. Theory and Applications, IEEE Press, 1994.

115. Handbook of Intelligent Control: Neural, Fuzzy and Adaptive Approaches / Ed. by White D.A., Sofge D.A. NY: Van Nostrand Reinhold, 1992.

116. Haykin S. Neural Networks. A comprehensive foundation. NY: Macmillan, 1994. - 696p.

117. Hebb D. Organization of behavior. New York: Science Edition, 1961.

118. Hecht-Nielsen R. Counter propagation networks / Proc. of the IEEE First Int. Conf. on Neural Networks. San Diego, CA: SOS Printing, 1987. - V.2. - P. 19-32.

119. Hecht-Nielsen R. Kolmogorov's mapping neural network existence theorem //' IEEE Press. 1987. - Vol.3. - P.l 1-13.

120. Holland J. Adaptation in natural and artificial systems. An introductory analysis with application to biology, control and artificial intelligence. London: Bradford Book Edition, 1994 - 21 lp.

121. Hopfield J. Neural networks and physical systems, with emergent collective computational abilities // Proc. Nat. Acad. Sci. USA. 1982.-79. - P.2554-2558.

122. Hornik K., Stinchcombe M., White H. Multilayer Feedforward Networks are Universal Approximators // Neural Networks. 1989. - Vol.2. - P.359-366.

123. Hunt K., Sbarbaro R., Zbikowski R., Gawthrop P. Neural networks for control systems a survey // Automatica. - 1992. - Vol.28. - P. 1083-1112.

124. Intelligent Control System: Theory and Application / Ed. M.M. Gupta, N.K. Sinha.-New York: IEEE Press, 1996. XXXV, 820p.

125. Jones A. H. Genetic Tuning of Non-Linear P1D Controllers // Artificial Neural Nets and Genetic Algorithms: Proceedings of the International Conference in

126. Ales, France, 1995 (D. W. Pearson, N. C. Steele, R. F. Albrecht, eds.). Wien: Springer Verlag, 1995. - P.412-415.

127. Kawato M., Furukawa K., Suzuki R. A hierarchical neural network model for control and learning of voluntaiy movement // Biological Cybernetics. 1987. - Vol.57.- P.169-185.

128. Kawato M., Uno Y., Isobe M., Suzuki R. Hierarchical neural network model for voluntaiy movement with application to robotics // IEEE Control Systems Magazine.- 1988. Vol.8. - voluntary movement P.8-16.

129. Kinjo H., Omatu Т., Yamamoto Т., Tamaki S. Suboptimal control for a nonlinear system using neural networks // Proc. of 1st Asian Control Conference. Tokyo, 1994.-P.551-554.

130. Kohonen T. Self-organization and associative memory // Series in Information Sciences. V.8. - Berlin: Springer Verlag, 1984.

131. Kohonen T. Self-organized formation of topologically correct feature maps. // Biological Cybernetics. 1982.- № 43. - P. 59-69.

132. Kosko B. Bi-directional associative memories // IEEE Transactions on Systems, Man and Cybernetics. 1987. - 18(1). - P.49-60.

133. Kosko B. Competitive adaptive bi-directional associative memories // Proc. of the IEEE First Int. Conf. on Neural Networks. San Diego, CA: SOS Printing, 1987. -V.2. - P.759-766.

134. Kuntanapreeda S., Gundersen R., Fullmer R. Neural Network Model Reference Control of Nonlinear Systems // Proc. Of Int. Joint Conf. on Neural Networks.- Baltimore, Maiyland, 1992. Vol.2. - P.94-99.

135. Kuperstein M., Rubinstein J. Implementation of an adaptive neural controller for sensory-motor co-ordination // IEEE Control Systems Magazine. 1989. - Vol.9. -P.25-30.

136. Miller Т., Sutton R., Werbos P. Neural networks for Control. The M.I.T. Press, 1991.

137. Mukai H. Algorithms for multicriterion optimization // IEEE Trans. Autom. Contr. 1980. - AC-25, №2. - P.177-186.

138. Muller В., Reinhardt J. Neural networks. Springer-Verlag, 1990.

139. Narendra K., Parthasarathy K. Identification and control of dynamical systems using neural networks // IEEE Transactions on Neural Networks. 1990. - V.l, №1. -P.4-27.

140. Narendra K. Neural Network for Control: Theory and Practice // Proc. of the IEEE. 1996. - V.84, №10. - P.l 385-1406.

141. Nguyen D., Widrow B. Neural networks for self-learning control systems // IEEE Control Systems Magazine. -1990. Vol.10, № 3. - P.334-341.

142. Palis F., Schmied Th., Skljarenko E. Fuzzy and Neurocontrol of Drive Systems with changing Parameters and Load // Проблемы автоматизированного электропривода: Труды конференции с международным участием. Харьков: Основа, 1995.-С.116-119.

143. Parker D. Optimal algorithms for adaptive networks: second order back propagation, second order direct propagation and second order Hebbian learning // Proc. 1st IEEE Int. Conf. Neural Networks. 1987. - P.593-600.

144. Pineda F. Generalization of backpropagation to recurrent and higher order networks / In Newral information processing systems; Ed. Dana Z. Anderson. NY.: American Institute of Phisycs, 1988. - P.602-611.

145. Psaltis D., Sideris A., Yamamura A. A Multilayered neural network controller // IEEE Control Systems Magazine. 1988. - Vol.8. - P.17-21.

146. Rumelhart D., Hinton G., Williams R. Learning internal reprentations by error propagation / In Parallel distributed processing. Cambridge, MA: MIT Press, 1986. - V.l. - P.318-362.

147. Saifiil A., Qmatu S. Neuromorphic self-tuning PID controller // Proc of IEEE ICNN. San Francisco, 1993. - P.552-557.

148. Sanner R.M., Akin D.L. Neuromorphic pitch attitude regulation of an underwater telerobot // IEEE Control Systems Magazine. 1990. - Vol Л 0. - P.62-68.

149. Schaffer J., Whitley D., Eshelman L. Combination of Genetic Algorithms and Neural Networks: A Survey of the State of the Art // Proc. Int. Workshop on Combinations of Genetic Algorithms and Neural Networks. Baltimore, Maiyland, 1992. -P.l-3.

150. Srinivasan V., Barto A.C., Ydstie B.E. Pattern recognition and feedback via parallel distributed processing / Annual Meeting of the American Institute of Chemical Engineering. Washington, D.C., 1988.

151. Stornetta W., Huberman B. An improved three-layer backpropagation algorithm // Proc. of the IEEE First Conf. on Neural Networks. San Diego, CA: SOS Printing, 1987.

152. Suykens J., Vandwalle J. Artificial neural network for modeling and control of non-linear system- Bosten: Kluwer, 1996. XII, 235p.

153. Topkis D., Veinott A. On the Convergence of Some Feasible Direction Algorithms for Nonlinear Programming // SIAM J. Control. -1967, №5. P.268-279.

154. Van Veldhuizen, David A., Gary B. Multiobjective Evolutionary Algorithm Test Suites // Proc. of the ACM Symposium on Applied Computing. 1999. - P.351 -357.

155. Wasserman P. Combined backpropagation / Cauchy machine // Proc. of the Int. Neural Network Society. NY.: Pergamon Press, 1988.

156. Wasserman P. Experiments in translating Chinese characters using backpropagation // Proc. of the Thirty-Third IEEE Computer Society Int. Conf. -Washington, D.C.: Computer Society Press of the IEEE, 1988.

157. Werbos P. Beyond regression: New tools for prediction and analysis in the behavioral sciences / PhD Thesis; Harward University, Cambridge, MA, 1974.

158. Werbos P. Overview of designs and capabilities / In Neural Networks for Control. MIT Press, Cambridge, MA, 1990. - P.59-65.

159. Widrow В., Steains S.D. Adaptive signal processing. Prentce-Hall, Englewood Cliffs, New Jersey, 1985.

160. Yu P. Cone convexity, cone extreme points and nondominated solutions in decision problems with multiobjectives // JOTA. 1974. - V.14, №3. - P.319-377.121

161. Zitzler E., Lothar Т. An Evolutionary Algorithm for Multiobjective Optimization: The Strength Pareto Approach // Technical Report TIK 43 / Computer Engineering and Communication Networks Lab. Swiss Federal Institute of Technology (ETH).- (May) 1998.