автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Синтез адаптивных нейросетевых систем управления классом нелинейных динамических объектов

Введение.—.

1. ПРИМЕНЕНИЕ МНОГОСЛОЙНЫХ НЕЙРОННЫХ СЕТЕЙ В ЗАДАЧАХ УПРАВЛЕНИЯ ДИНАМИЧЕСКИМИ ОБЪЕКТАМИ

1.1. Базовый процессорный элемент.,.

1.2. СлойБПЭ.

1.3. Статические многослойные нейронные сети.

1.4. Алгоритмы обучения МНС прямого действия

1.5. Использование статических МНС в задачах згправления динамическими объектами.

1.6. Использование динамических МНС в адаптивных системах автоматического зпиравления.

1.7. Обзор методов аналитического синтеза нелинейных динамических систем.,.

1.8. Цели и задачи работы .—.

2. СИНТЕЗ НЕЛИНЕЙНЫХ СИСТЕМ УПРАВЛЕНИЯ С ИСПОЛЬЗОВАНИЕМ МНОГОСЛОЙНЫХ НЕЙРОСЕТЕЙ.

2.1. Этапы синтеза систем управления с многослойными нейронными сетями—:—:—:—:—:—:—:—:—:—:—:—:—:—:.

2.2. Особенности нейросетевого у правления.

2.3. Задача УВС стабилизации с применением метода АКАР.

2.3.1. Форжстьная постановка задачи.

2.3.2. Задача асимптотической стабилизации.,„.,

2.3.3. Задача стабилизации от входа к вектору состояния.

2.4. Выводы по главе.

3. СИНТЕЗ АГРЕГИРОВАННЫХ МАКШПЕРЁМЕННЫХ

3.1. Конструирование макропеременньтх из условия минимальных энергозатратна управление.

3.1.1. Формальная постановка задачи.

3.1.2. Синтез синергетических законов управления.

3.2. Сравнение алгоритмов оптимального управления

3.3. Адаптивное управление.

3,4, Выводы по главе.—.

4. АНАЛИЗ АДАПТИВНОЙ НЕЙРОСЕТЕВОЙ

СИСТЕМЫ УПРАВЛЕНИЯ.

4.1. Решение задачи на основе метода разделения движений.

4.1.1. Регулярная задача.

4.1.2, Критическая, задача.

4.2. Общая стрзлктурная схема нейросетевой систе1Аш1 у ирав/хенйя

4.3. Выводы по главе.

5. НЕЙРОСЕТЕВАЯ СИСТЕМА УПРАВЛЕНИЯ СУДНОМ НА ВОЗДУПШОЙ ПОДУШКЕ.

5.1. Аналитическое решение задачи.

5.2. Нейросетевое управление движением КВП.

5.3. Выводы по главе.

В диссертационной работе рассматриваются статические многослойные нейронные сети прямого распространения. Основными фу н-даментальньпЛжи достоинствами нейросетей явл$1ютх;я их 'луниверсальные" аппроксимационные свойства [57,60,62,78,103] и способность к адаптивной подстройке по методу обратного распространения опшбки [7,37,62,78,99], или иных технологий настройки [9,52]. Сигналы в таких нейросетях распространяются в одном направлении, а способность к параллельной обработке информации делает естественным их использование для зшравления многомерными нелинейными объектами.

Проблематика применения сетей в задачах управления обусловлена тем, что для линейных систем управления известны универсальные методы их синтеза и типовые структуры регуляторов, реализующие необходимые управления. Для нелинейных систем таких методов предложить пока не удается, все решения имеют свой ареал применимости и приводят к реализации индивидуальных алгоритмов управления для каждой системы. Применение нейросетевых технологий позволяет существенным образом упростить решаемую задачу, так как многослойная нейросеть способна в своей нелинейной структуре реализовать необходимые законы зшравления для классов нелинейных динамических объектов. В этом случае проблема сводится к выбору алгоритма обучения и необходимой информации, используемой в этом алгоритме, в результате чего на выходе нейросети формируется оптимальная функция управления.

Применению многослойных нейросетей прямого распространения в задачах адаптивного управления нелинейными объектами посвящено много работ известных отечественных и зарубежных авторов [10,28,36,41,45,51,66,70,73,75,80,96]. Недостатками этих работ служат, во-первых, локальность полученных результатов, во-вторых, авторы обычно предполагают, что настраиваемыми в реальном времени являются весовые коэффициенты только выходного линейного по настраиваемым параметрам слоя. Последнее предположение существенно ограничжва.ет обоснованность использования многослойных нейросетей в задачах управления, так каж именно настройка весовых коэффициентов в скрытых слоях гарантирует нейросетевым регуляторам их "универсальные" аппроксимационные свойства.

Целью диссертационной работы ставится разработка метода синтеза нейросетевых адаптивных систем управления прямого действия (без идентификации) Еслассом нелинейных многомерных параметрически не-доопределенных динамических объектов в условиях внепших неизмеряе-мых возмущений с настраиваемыми коэффициентами скрытых слоев искусственной нейронной сети.

Хотя основные результаты диссертации предлоясены для модели параметрически недоопределенного динамического объекта общего положения с возмутцениями, особое внимание уделено задачи адаптивного управления аффинной системой в присутствии внепгнего возмущения, приведенного ко входу. К этому классу моделей относят'ся электромеханические системы, робототехнические и подвижные объекты, такие как, например, подробно рассматриваемый в диссертадии корабль на воздушной подушке.

Для достижения поставленной цели в диссертации решаются сле-дуюпще задачи.

1. Вводится и обосновьшается процедура стабилизадии открытых систем с использованием метода аналитического конструирования агрегированных регуляторов.

2. Предлагается процедура синтеза макропеременных, гарантирующих энергосберегаюшце функции полученным управлениям.

3. Разрабатьшается метод синтеза адаптивных нейросетевых систем управления для класса параметрически недоопределенвых нелинейных аффинных объектов управления в присутствии внешнего возмущающего воздействия.

4. Формулируются и доказываются условия сходимости переходных процессов в адаптивных системах управления с настраиваемыми в реальном времени коэффициентами скрытых слоев нейросети.

Для реигения сформулироваиньтх задач в диссертадиоиной работе использовались метод аналитического конструирования агрегированных регуляторов, методы устойчивых от входа к вектору состояния систем, метод разделения движений и обратного распространения ошибки в нейросетевых системах.

Основными научными результатами, выносимыми на запщту, являются :

1. Метод синтеза адаптивных нейросетевых систем управления нелинейными аффинными объектами в условиях параметрической неопределенности и внешних возмущений, приводимых ко входу объекта (гл. 2,4).

2. Модификация метода аналитического конструирования агреги-рованньЕХ регуляторов, позволяюидая стабилизировать нелинейные динамические системы в условиях внепших возмущений, приведенных ко входу системы (гл. 2).

3. Процедура аналитического конструирования функций агрегированных макропеременных, гарантирзгюгцих минимальные энергетические затраты на зшравление нелинейными динамическими объектами в нейросетевых адаптивных системах (гл. 3).

Некоторые из полученных результатов нашли свое применение в дисциплине "ИскусственЕтые нейронные сети и их применение в задачах автоматического зшравления" учебного плана студентов-магистрантов по направлению 550200 — "Автоматизация и управление" в СПбГЭТУ. Все результаты были опубликованы в 20 работах, в том числе 8 журнальных (Изв. ВУЗов "Приборостроение", "Нейрокомпьютер"), 9 работах на международных конференциях и симпозиумах (6-7 Балтийская международная олимпиада, Санкт-Петербург, 1998-1999; INTELS'96, Санкт-Петербург, 1996, INTELS'98, Псков, 1998; ICNNA-99, Брест, Беларусь; "Neurocomputers and their Application", Москва, 2000), двух монографиях и учебном пособии. Работа вьшолнена в рамках НИР, проводимых с 1994 года на кафедре автоматики и процессов зшравления СПбГЭТУ «ЛЭТИ» по научному направлению "Нейросетевые системы згправления" под рзАководством проф. В.А. Терехова.

1. ПРИМЕНЕНИЕ МНОГОСАОЙНЫХ НЕЙРОННЫХ СЕТЕЙ

В ЗАДЖЧАЖ 1ШРАВЛЕНИЯ ДИНАМИЧЕСКИМИ ОБЪЕКТАМИ

В джссертадиовжой работе жа обучаемзоо в реальном времени многослойную нейронную сеть прямого распространения возлагается задана воспроизведения необходимого управляющего воздействия. Свойство сети аппроксимировать с заданной точностью любзчо нелинейную функцию является определяющим нри выборе варианта использования сети в задачах злгравления динамическими объектами [48,56,61,87]. Известны различные подходы к использованию нейросе-тей, основанные на способности сети аппроксимировать любую нелинейную фзшкцию (аппроксимационное свойство) и минимизировать функционал качества, характеризуюнщй процесс аппроксимации (оптимизационное свойство). В связи с этими свойствами можно говорить о двух основных подходах к использованию многослойных нейросетей для управления динамическими объекгами.

Первый подход - статический - основан на свойстве статических нейросетей воспроизводить заранее заданную нелинейную функцию [57,60,62,78,103]. Второй подход - динамический, основан на способности динамических искусственных нейронных сетей изменять свое поведение параллельно процессу функционирования объекта управления (ОУ) 110-15,28-3 6,45,46,49-5 1,5 3,54,66,70,73,75,77,80,8 1,83,96,97, 102]. При этом под изменением поведения сети понимается изменение настраиваемьЕх весовьпс коэффициентов, и, как следствие, нелинейной функции, аппроксимированной сетью.

Для Ашнейных динамических систем можно предложить универсальные алгоритмы управления и единые для всех объектов этого класса методы синтеза. Таким алгоритмом управления, например, может служить отрицательная линейная обратная связь по вектору состояния, или метод корневого синтеза линейных систем [221. Для нелинейных динамических систем пока такого единого подхода предложить не удалось. Возможная причина здесь кроетсгя в сущесггвенно более сложном к разнообразном поведении нелинейных объектов. Именно "нелинейная" постановка задачи зшравления объектом в условиях неполной информации дает основания для использования нейросегей в качестве универсальной концептуальной основы для построения регуляторов в системах управления.

В гл. 1 определяются основные элементы архитектуры многослойных нейронных сетей: "искусстненный нейрон", или "базовьсй процессорный элемент" (БПЭ); слой БПЭ; одно- и многослойные сети npsiMoro дейстАвия (feedforward neural networks). Описываются стандартные алгоритмы обзЛения нейросети. Приводится аналитический обзор литературных источников по применению нейросегей в задачах управления, а также методов синтеза нелинейных систем.

ЗАКЛЮЧЕНИЕ —

В диссертационной работе предложен подход к синтезу адаптивных нейросетевых систем управлении нелинейными динамическими объектами в условиях параметрической неопределенности и йАпших возмущений. Для класса аффинных по зправлению объектов введ6щ>1 и обоснованы три этапа метода построения нейросетевых адаптивных Аре-гуляторов. Синтез подобных систем основан на развиваемом в диссертации методе аналитического конструирования агрегированных регуляторов и когщегщии устойчивых от входа к вектору состояния систем. В развитие этого подхода автором получены следуюгцие результаты.

1. Предложена модификация метода аналитического конструирования агрегированных регуляторов для задачи стабилизапди открьггьгх систем (с внешними неизмеряемыми ограниченными возмущениями).

2. Разработана процедура конструирования фзшкций агрегиро-ваггньгх макропеременньЕх в методе АКАР, гарантируюгцих аттрактив-ность нуля пространства состояний в присуптствии внепших возмущений и позволяюгцих регулировать степень вмешательства в естественные переходные процессы управляемого нелинейного объекта, в том числе производить "энергосберегаюпще" акции управления.

3. Представлено развитие результатов теории сингулярно возмущенных систем для критического случая поиска решений подсистемы уравнений быстрых движений в присутствии внешних помех, что позволило решить задачу настройки всех весовых коэффициентов синап-тических связей нейросети в скрытых слоях. Полученный результат получен с использованием концепции устойчивьтх от входа к вектору состояния систем.

4. Введены и обоснованы условия применимости процедур обучения нейросетей в составе обобщегшого настраиваемого объекта, позво-ляюпще соответствуюпщм выбором параметров нейросетевого регулятора

126 обеслхечш'ъ желаемое качество переходных процессов во всем пространстве состояний нейросетевой адаптивной системы зшравления, а не только в некоторой окрестности начала координат.

5. Метод синтеза нейросетевых адаптивных систем использован для решения задачи управления судном на воздушной подушке в аварийной ситуации. Полученные результаты компьютерного моделирования согла-сзлЕОтся с теоретическими вьшодами работы.

1. Васильева А.Б., Бутузов В.Ф. Сингулярно воЗАгущенные уравнения в критических случаях. М.: Изд. во МГУ, 1978. 106 с.

2. Васильева А.Б., Бзггузов В.Ф. Асимптотические методы в теории сингулярнъгх возмущений. М.: Высш. школа, 1990. 208 с.

3. Геращенко Б.И., Геращенко СМ. Метод разделения движений и оптимизадия нелинейных сист'ем. М.: Наука, 1975. 296 с.

4. Горбань А.Н. ОбзЛение нейронных сетей. Москва: СП ПараГраф, 1996. 160 с.

5. Горбань А.Н. Нейрокомп. В сб.: Нейроинформатика и ее приложения: Материалы 3 Всероссийского семинара, 6-8 оютгбря 1995 г. Ч. 1 / Под ред. А.Н.Горбаня. - Красноярск: КГТУ. 1995. С. 3-31.

6. Дзгбровин Б.А., Новиков СП., Фоменко А.Т. Современная геометрия: Методы и приложения. Т 1,2. М.: Эдиториал УРСС, 1998.

7. Ефимов Д.В. Оптимальный алгоритм обучения многослойных нейронных сетей //Изв. ВУЗов "Приборостроение", № 6, 2000. С. 40-46.

8. Ефимов Д.В., Терехов В.А. Конструирование притягиваюгцих многообразий / / Изв. РАН, Таганрог, 2000.

9. Э.Ефимов Д.В., Терехов В. А. Оптимальные алгоритмы обучения многослойных нейросетей / / "Нейрокомпьютер", № 3, 2000.

10. Ефимов Д.В., Терехов В.А. Динамический алгоритм обучения многослойных нейронных сетей // Изв. ВУЗов "Приборостроение", № 3 , 2001.

11. Ефимов Д.В. Анализ устойчивости адаптивных нейросетевых система управления на основе метода разделения движений / / Изв. ВУЗов "Приборостроение", № 1, 2001. С. 20 25.

12. Ефимов Д.В., Терехов В.А., Тюкин И.Ю. Адаптивная система управления с нейронной сетью. Сб. науч. трудов "Методы и аппаратные средства цифровой обработки сигналов" / / Изв. ТЭТУ. СПб, 1996. Вьш. 490. С. 32-35.

13. Ефимов Д.В., Терехов В.А., Тюкин И.Ю. Синергетический подходк синтезу систем управления динамическими объектами с использованием многослойных нейронных сетей / / Изв. ГЭТУ. Вып. 520, 1998.

14. Ефимов Д.В., Тюкин И.Ю. Алгоритмический синтез адаптивных нейросетевых систем урпавления // Труды конф. "Навигация и управление движением", СПб., 2000.

15. Климзгшев И.А., Красовский H.H. Равномерная асимптотическая устойчивость систем дифференциальных уравнений с мальпли параметрами при старших производных / / Прикладная математика и механика, т. 25, № 4, 1961. С. 680-694.

16. Колесников A.A. Синергетическая теория управления. — М.: Энергоатомиздат, 1994. 344 с.

17. Колесников A.A. Основы теории синергетическая управления. — М.: Фирма "Испо-Сервис", 2000. 264 с. (Серия книг специалиста по автоматизации производства. Под общ. ред. A.C. Клюева).

18. Мирошник И.В., Никифоров В.О., Фрадков А.Л. Нелинейное и адаптивное управление сложными динамическими системами //Сер. "Анализ и синтез нелинеЙ1п>1х систем". СПб.: Наука, 2000. -549 с.

19. Натансон И.П. Теория функций вещественной переменной. СПб.: Издательство "Аань", 1999. 560 с.

20. Новые концепции общей теории управления // Сб. науч. трудов / Под ред. A.A. Красовского. — Москва-Таганрог: ТРТУ, 1995. 184 с.

21. Первозванский A.A. Курс теории автоматического управления: Учеб. пособ. М.: Наука. Гл. ред. физ.-мат. лит., 1986. - 616 с.

22. Полушин И. Г., Фрадков А.Л., Хилл Д.Д. Пассивность ипассификадия нелинейных систем //Автоматика и тех\емеханика. № 3. 2000. С. 3 33.

23. Рзгмянцев В.В., Озиранер A.C. Устойчивость и стабилизация движений по отношеьшю к части переменных. М.: Наука, 1987 -263 с.

24. Современная прикладная теория управления: Часть I: "Оптимизационный подход к теории управления". 400 с. Часть II: "Синергетический подход в теории зшравления". 559 с.

25. Справочник по теории автоматического управления / Под ред. A.A. Красовского. М.: Наука, 1987.

26. Стариченков А.Л. Прогнозируюпщй алгоритм управления движением корабля на воздушной подушке в аварийных ситуациях // Сб. докл. П-й НТК "Навигация и управление движением". СПб., ЦНИИ Электроприбор, 2000. С. 153-162.

27. Тереков В.А. Динамические алгоритмы обзАения многослойных нейронных сетей в системах управления // Изв. РАН. Теория и системы управления. 1996, № 3. С.70-79.

28. Терехов В.А., Ефимов Д.В. Нейросетевые системы управления и Зшравление на основе метода аналитического констрзшрования агрегированных регуляторов // Тр. Межд. науч.-тех. конф. "Нейронные, реляторные и непрерьшнологические сети", 1998, С. 59-61.

29. Терехов В.А., Ефимов Д.В., Тюкин И.Ю. Искусственные нейронные сети и их применение в системах автоматического управления: Учеб. пособие/ ГЭТУ. 1997. 68 с.

30. Терехов В.А., Ефимов Д.В., Тюкин И.Ю. Структурный синтез адаптивных систем управления с многослойными нейронньгми сетями на основе метода функций Ляггунова. / / Изв. ГЭТУ. СПб, 1997.

31. Терехов В.А., Ефимов Д.В., Тюкин И.Ю., Антонов В.Н.

32. Нейросетевые системы унравления. СПб. Изд. С.-Петербзгргского Зшиверситета, 1999. 265 с.

33. Терехов В.А., Яковлев В.В., Ефимов Д.В. Структурный синтез систем управления динамическими объектами с использованием многослойных нейронных сетей / / Тр. 3-го межд. симпозиума INTELS 98. Псков, 1998. С. 29-31.

34. Терехов В.А., Яковлев В.Б., Ефимов Д.В., Тюкин И.Ю. Алгоритмы згправления и обучения в интеллектуальных системах с многослойными нейронными сетями: Сб. трудов второго международного симпозизАма "Интеллектуальные системы", М., 1996.

35. Тюкин И.Ю. Алгоритмический синтез нейросетевых систем управления нелинейными динамическими объектами в условиях неопределенности. Дисс. на соискание учен, степени к-та техн. наук./ СПбГЭТУ. СПб., 2001. 254 с.

36. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика. М.: Мир, 1992. 240 с.

37. Фомин В.Н., Фрадков А.Л. Якубович В.А. Адаптивное управление динамическими объектами. М.:Наука, 1981. 447 с.

38. Фрадков A.A. Адаптивное управление в сложных системах: беспоисковые методы. М.: Наука, 1990. 286 с.

39. Цыпкин Я.З. Адаптация и обучение в автоматических системах. М.: Наука, 1968. 339 с.

40. Angeli D., Sontag Е. Forward completeness, unboundedness observability, and their Lyaupunov characterizations / / Systems and Control Letters, № 38, 1999, pp. 209 217.

41. Angeli D., Sontag E.D., Wang Y. A characterization of rategral input to state stability// Systems aad Control Letters, vol. 38, 1999, pp. 209 -217.

42. Byrnes C.I. Isidori A. Willems J.C. Passivity, feedback equivalence, aad the global stabilization of minimum phase nonlinear systems / / IEEE Trans. Aut. Contr. 1991. VoL AL 36/ №11. P. 1228 - 1240.

43. Chen F., Khalil H. Adaptive control of a class of nonlinear discrete time systems using neural network / / IEEE Trans. Aut. Contr., vol. 40, 1995.

44. Choi J.Y., Parrel J.A. Nonlinear adaptive control using networks of picewice Hnear approximators // IEEE Trans. Neural Networks, vol. 11, March 2000, P. 390 402.

45. Christofides P.D., Teel A.R. Singular perturbation and Input-to-state Stability // IEEE Trans. Aut. Contr., vol. 41, № 11, 1996, P. 1645 -1650.

46. Cybenco G. Approximation by superpositions of a sigmoidal function // Math, of Control, Signals and Systems. 1989. № 2. P. 303-3 14.

47. Efimov D.V. A Synergetic Approach to the Structural Synthesis of Control Systems with Multilayered Neural Networks / / 6th International student olympiad on automation control (Baltic olympiad). Preprints. S-Pb, 1998. P. 16-21.

48. Efi'mov D.V. Adaptive Neural Net Control System with ExpMcit Reference Model // 7th International student olympiad on automation control (Baltic olympiad). Preprints. S-Pb, 1999. P. 61-66.

49. Efimov D.V. Dyoiamic Algorithm of Multilayered Neural Networks Training // 7th International student Olympiad on automation control (Baltic olympiad). Preprints. S-Pb, 1999. P. 168-173.

50. Efimov D.V., Terekhov V.A. An Optimal Algorithm of Multilayered Neural Networks Training // International Conference "Neurocomputers and their Application", 2000.l.Eftmov D.V., Zaharenkova T.A., Terkhov V.A., Tyukin I.Yu.

51. Dynamic Algorithm of Multilayered Neural Networks Training in Generalized Training Plant / / Preprints of International Conference on Neural Networks and Artificial Intelligence, 1999. P 93—101.

52. Fabri S., Kadirkamathan V. Dynamic structure neural networks for stable adaptive control of nonlinear systems / / IEEE Trans. Neural Networks, vol. 7, 1996, P. 1151 1167.

53. Fradkov A.L., Pogromsky A.Yu. Introduction to control of osculations and chaos / / World scientific series on nonlinear science / Ed. Leon O. Chua. Ser. A. 1998. Vol. 35. P. 391.

54. Funahashi K. On the approximate realization of continuous mapping by neural networks //Neural Networks. 1989. №2. P. 183-192.

55. He S., Reif K., Unbehauen R. A neural approach for control of nonlinear systems with feedback linearization // IEEE Trans. Neural Networks, voL 9, 1998, P. 1409- 1422.

56. Hill D., Moylan P. Dissipative dynamical systems: Basic input -output and state properties / / J . Franklin Inst., vol. 309, 1980, pp. 327 357.

57. Hopfield J.J. Neurons with graded responses have collective computational prop-erties like those of two-state neurons / / Proc. of the Nati. Acad, of Sciences, USA, vol. 81, 1984, P. 3088-3092.

58. Hopfield J.J. Neural networks and physical systems with emergent collective computational abilities / / Proc. of the National Academy of Sciences. 1982. №79. P. 2554-2558.

59. Homik K., Stinchcombe M., White H. Multilayer feedforward networks are universal approximators // Neural Networks. 1989. № 2. P. 359-366.

60. Hunt K.J., Sbarbaro D., Zbikowski R., Gawthrop P.J. Neural networks for control systems A survey // Automatica, 1992, vol. 28, N6 . P. 1083-1112.

61. Isidori A. Nonlinear control systems: An Introduction. 2"A ed. ~ Berlin: Springer-Verlag, 1989. P. 478.

62. Isidori A. Nonlinear control systems. — Berlin: Springer-Verlag, 2000.

63. Jiang Z.-P., Teel A., Praly L. Small gain theorem for ISS systems and applications / / Math. Control Signal Systems, vol, 7, 1994, pp. 95 - 120.

64. Kokotovic P.V., Khalil H.K., O'Relly J. Singular Perturbations in Control: Analysis and Design. London: Academic, 1986.

65. Krstic M., Kanellakopoulos I., Kokotovic P.V. NonUnear and Adaptive Control Design. Wiley & Sons, Inc. 1995, P. 563.

66. Lewis F., Yesidirek A., Lin K. Multilayer neural network robot controller with guaranteed tracking performance // IEEE Trans. Neural Networks, vol. 7, 1996.

67. Lin Y. Input-to-State Stability with Respect to Noncompact sets // In proc/ of 13* IFAC Triennial World Congress, San Francisco, 1996.

68. Lin Y., Sontag E., Wang Y. A smooth converse Lyapunov theorem for robust stability // SIAM Journal on Control and Optimization, № 34, 1996, pp. 124- 160.

69. Narendra K.S., Parthasarathy K. Identification and control of dynamical systems using neural networks // IEEE Trans. Neural Networks, vol. 1, 1990, P. 4-27.

70. Nijmeijer H., van der Schaft A. J. NonHnear D3rnamical Control Systems, Springer, New York, 1990.

71. Sabery A., Khalil H. Quadratic-type Lyapunov functions for singularity perturbed systems / / IEEE Trans. Aut. Contr., vol. AC-29, 1984, P. 542-550.

72. Sadegh A. A perceptron network for functional identification and control of nonlinear systems / / IEEE Trans. Neural Networks, vol. 4, 1993, P. 982 988.

73. Sanner R.M., Slotine J.J.E. Gaussian networks for direct adaptive control / / IEEE Trans. Neural Networks, vol. 3, 1992. P. 837-863.

74. Sepulchre R, Jankovic M, Kokotovic P. Constructive nonlinear control. Springer-Verlag, NY, 1997.

75. Seshagiri S., Khalil H.K. Output feedback control of nonlinear systems using RBF networks // IEEE Trans. Neural Networks, vol. 11, January 2000, P. 69 80.

76. Sontag E.D. Further facts about input-to-state stabilization / / Report 88-15, SYCON Rutgers Center of System and Control, Dec. 1988.

77. Sontag E.D. Smooth stabilization implies coprime factorization / / IEEE Trans. Aut. Contr., voL 34, 1989, pp. 435 443.

78. Sontag E.D. A "universal" constraction of Arstein's theorem on nonlinear stabilization / / Systems & Control Letters, vol. 12, 1989, pp. 542 550.

79. Sontag E.D. Feedforward nets for interpolation and classification / / J. Comp. Syst. Sci., vol. 45, 1992. P. 20-48.

80. Sontag E.D. Feedback stabilization using two-hidden-layer nets / /

81. EE Trans. Neural Networks, vol. 3, 1992, P. 981-990.

82. Sontag E.D. On the input-to-state stability property / / European Journal of Control, vol. 1, 1995, pp. 24-36.

83. Sontag E.D. Coraraents on integral vaxiants of ISS / / Systems and Control Letters, voL 34, 1998, pp. 93 100.

84. Sontag E.D., Wang Y. Output-to-State StabiHty and Detectability of Nonlinear Systems / / Systems and Control Letters, vol. 29, 1997, pp. 279 290.

85. Sontag E.D. Wang Y. A notion of input to output stability // Proc/ ECC97, paper WE-E A2, p. 6.

86. Sontag E.D. Wang Y. Notions of input to output stability // Systems and Control Letters, vol. 38, 1999, pp. 235 248.

87. Tadeusiewicz R. Sieci Neuronowe. Warszawa: PWN, 1993.

88. Teel A.R. Using saturation to stabilize a class of single-input partially linear composite systems / / In Prep, of the 2"A IFAC Nonlinear Control Systems Design Symposium, Bordeaux, France, 1992. P. 224-229.

89. Terekhov V.A., Yakovlev V.B. A synergetic approach to the synthesis of dynamic plant control systems with multilayered neural networks//Proc. of the Inter. Conf. on Informatics & Control (ICI&C 97). St.Petersburg, 1997. Vol.2 of 3. P. 588-591.

90. Tzirkel-Hancock E., Fallside F. Stable control of nonlinear systems using neural networks // Int. J. Robust Nonlinear Control, vol. 2, 1992, P. 63 86.

91. Werbos P. J. Beyond Regression: New Tools for Prediction and Analysis in the Behavioral Sciences. Ph. D. Thesis. Harvard Univ. Cambrige. MA, 1974.

92. White D.A., Sofge D.A. (eds.), Handbook of Intelligent Control: Neural, Fuzzy and Adaptive Approaches, Van Nostrand Reinhold, NY, 1992.

93. Willems J.C. Dissipative dynamical systems Part I: General theory / / Arch. Rational Mechanics and Analysis, vol. 45, 1972, pp. 321-35 1. l.Zeman V., Rat el R. V., Khorasani K. Control of a Flexible - Joint136

94. Robot Using Neural Networks. IEEE Trans. Control Systems Technology vol. 5, №4, 453-462.

95. Zhang Y., Peng P.-Y., Ziang Z.-P. Stable neural controller design for unknown nonlinear systems using backstepping / / IEEE Trans. Neural Networks, vol. 11, 2000, P. 1347- 1361.

96. Zurada J., Barski M., Jedrach W. Sztruczne sieci neuronowe: Podstawy teorii i zastosowania. Warshawa, Wydawnictwo Naukowe PWN, 1996. - 376 c.