автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Разработка и исследование двухуровневых адаптивно-нейронных систем управления динамическими объектами

На правах рукописи

Тимчук Наталья Алексеевна

РАЗРАБОТКА И ИССЛЕДОВАНИЕ ДВУХУРОВНЕВЫХ АДАПТИВНО-НЕЙРОННЫХ СИСТЕМ УПРАВЛЕНИЯ ДИНАМИЧЕСКИМИ ОБЪЕКТАМИ.

Специальность: 05Л3.01 -Управление в технических системах.

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук.

Санкт-Петербург - 2000

Работа выполнена в Санкт-Петербургском государственном электротехническом университете "ЛЭТИ"

Научный руководитель -

доктор технических наук, профессор Путов В.В.

Официальные оппоненты:

доктор технических наук, профессор Лохин В.М. кандидат технических наук, профессор Терехов В.А.

Ведущая организация - Институт Проблем Машиноведения Российской Академии Наук

Защита диссертации состоится Сое2000 года в /д_часов на

заседании диссертационного совета К 063.36.03 Санкт-Петербургского государственного электротехнического университета "ЛЭТИ" по адресу: 197376, г.Санкт-Петербург, ул. Проф. Попова, 5.

С диссертацией можно ознакомиться в библиотеке университета.

Автореферат разослан "<?5~" мая 2000 года.

Ученый секретарь

диссертационного совета Кутузов О.И.

ЪЯб/Г. Л 00 •? - ЛДР а - л А и /Г .П

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ.

Актуальность темы. Проектирование сложных комплексов, управляющих 1сокоэффективными и прецизионными агрегатами и установками, связано с шением задач снижения влияния различных факторов, вызывающих наруше-ie рабочих режимов управляемых объектов. К таким факторам можно отнести сутствие априорной информации о существенно нестабильных значениях мас-- инерционных и упругих параметров объектов, случайные изменения нагруз-:; взаимовлияние степеней подвижности; варьирование параметров изделий от разца к образцу и варьирование параметров стандартных систем регулирова-[я при замене исполнительных приводов и отдельных блоков управления, не-чной или ошибочной их настройки. С 60-х годов задача снижения их влияния пешно решалась в рамках беспоискового адаптивного подхода, получившего ачительное теоретическое и теоретико-прикладное развитие в работах Соло-'вникова В.В., Землякова С.Д., Рутковского В.Ю., Борцова Ю.А., Поляхова Д., Путова В.В., Фрадкова A.JL, Kokotovic P.V., Narendra K.S., Slotine J.-J.E., Li и др. Дальнейшее совершенствование методов и средств автоматического равления нелинейными динамическими объектами с априорно неопределен-IM и (или) сложным описанием, неполными измерениями, быстро и в широких еделах изменяющимися параметрами, свойствами и внешними условиями ■нкционирования потребовало развития принципиально новых направлений следования, связанных, например, с использованием искусственных нейрон-IX сетей (НС). Благодаря своим аппроксимирующим свойствам и высоком)' бы-родействию они находят все большее применение не только для решения тра-ционных задач распознавания и классификации образов, но и для задач иден-фикации, управления и оптимизации. Различным аспектам использования ней-нных сетей в системах управления посвящены работы Тимофеева A.B., Лохи-В.М., Терехова В.А., Тюкина И.Ю., Chen F., Miller W.T., Narendra K.S., Nguen , Psaltis D., Sutton R.S., Widrow В., и других авторов. В связи с этим, разработ-, направленные на расширение области применения нейронных сетей, остают-вполне актуальными.

В данной работе задача снижения влияния вышеперечисленных факторов шается в рамках адаптивно- нейронного подхода, базирующегося на свойствах югослойных нейронных сетей и предложенных Путовым В.В. алгоритмов аптивного управления с мажорирующими функциями.

Целью диссертационной работы является разработка и исследование двух-овневых адаптивно- нейронных систем управления нелинейными динамиче-ими объектами, допускающими различный уровень неопределенности. В связи 1тим, в настоящей работе были решены следующие задачи: Обоснован подход в построении двухуровневых адаптивно- нейронных систем управления нелинейными динамическими объектами с неизвестными параметрами и неопределенным строением правых частей описывающих их дифференциальных уравнений.

2. Проведено исследование работоспособности адаптивных систем с параметри ческими алгоритмами настройки и мажорирующими функциями и нейросете-вых систем для нелинейных объектов различной степени сложности.

3. Разработаны структура и методика построения двухуровневых адаптивно нейронных систем управления нелинейными динамическими объектами с эта лонными моделями и алгоритмами параметрической настройки с мажорирую щими функциями на адаптивном уровне и с непрерывно обучаемым нейросе тевым регулятором - на нейросетевом уровне.

4. Предложены алгоритмы оптимизации архитектуры нейронной сети и алгорит,\ обучения нейрорегулятора для управления динамическими объектами.

5. Рассмотрено построение двухуровневой адаптивно- нейронной системь управления для класса нелинейных механических объектов с учетом упруги? деформаций и неполными измерениями.

6. На основе предложенной архитектуры разработан специализированный про граммный комплекс "Адаптивно- нейронный регулятор", предназначенный дл) имитационного исследования и сравнительного анализа различных подходо: для класса многомассовых упругих объектов.

Методы исследования. Поставленные задачи решены методами теории ав томатического управления, теории обыкновенных дифференциальных уравне ний, теории нейронных сетей и математического моделирования объектов.

Научная новизна работы заключается в следующем:

1. Проведено исследование и сравнительный анализ адаптивных систем, постро енных по методу скоростного градиента или использующих параметрически! интегральные и нелинейные с мажорирующими функциями алгоритмы на стойки.

2. Обоснован адаптивно-нейронный подход в построении двухуровневых систе? управления нелинейными динамическими объектами.

3. На базе данного подхода разработаны четыре структуры двухуровневых адап тивно-нейронных систем управления и предложена методика построения эле ментов этих структур.

4. Разработаны алгоритмы оптимизации архитектуры сети, позволяющие осуще ствлять настройку ее основных параметров (число нейронов и слоев).

5. Предложены алгоритм обучения нейросетевого регулятора, основанный н прогнозе ошибки обучения, и правило исключения из перерасчета весовых ко эффициентов, обеспечивающее снижение используемых вычислительных ре сурсов.

Практическая значимость результатов диссертационной работы определя ется тем, что разработан метод управления, связывающий беспоисковый адап тивный (аналитический) и нейросетевой (интеллектуальный, эвристический подходы в задачах управления. Этот метод реализован в разработанном учебно исследовательском комплексе, который позволяет проводить моделирование, ис следование и сравнительный анализ адаптивных законов управления с парамет рическими алгоритмами настройки и нейросетевых алгоритмов управления мне гомассовым упругим нелинейным механическим объектом.

Вычислительные эксперименты по исследованию данных систем управле-:ия, показали, что комбинация преимуществ обоих методов управления, обеспе-ивающих любой априорно заданный характер переходных процессов, может лужить импульсом к развитию новых методов проектирования и реализации ин-еллектуальиых адаптивных систем управления различными объектами, решаю-дих практические задачи в реальном масштабе времени.

Апробация работы. Основные результаты работы докладывались на науч-ых семинарах кафедры систем автоматического управления СПбГЭТУ в 1997000гг., на всероссийских конференциях "Интеллектуальные системы управле-ия", 1997 и VII Бернадосовские чтения (ИГЭТУ, 1997), на 8 и 9 международных онференциях "Экстремальная робототехника" (ЦНИИ РТК 1997-1998), между-ародном симпозиуме "Интеллектуальные системы" (Псков, 1998).

Публикации. По теме диссертации опубликовано 5 научных работах, из их 2 статьи и 3 тезиса к докладам на конференциях и симпозиуме.

Объем и структура диссертации. Диссертация состоит из введения, четырех лав, заключения, трех приложений и списка использованной литературы, вклю-ающего 140 наименований. Основная часть работы изложена на 160 страницах [ашинописного текста. Работа содержит 100 рисунков и 3 таблицы.

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ.

Во введении определена проблема, обоснована актуальность ее решения, формулирована цель исследований, охарактеризована научная новизна и прак-ическая ценность результатов работы, а также изложены основные положения, ыносимые на защиту.

В первой главе сделан анализ существующих алгоритмов и методов тра-иционного управления линейными и нелинейными динамическими объектами, ассмотрены линейные ПД- и ПИД- регуляторы, программные и адаптивные ре-уляторы с точки зрения аналоговой и цифровой реализации, использования в словиях различного вида неопределенностей. На основе выявленных недостат-ов сделан вывод о целесообразности применения других интеллектуальных тех-ологий, например, нейронных сетей, для решения задачи синтеза регуляторов с олее простыми алгоритмами настройки его параметров. Подтверждение данного ывода было найдено при анализе литературных источников, описывающих эф-•ективность применения нейронных сетей для полной или частичной реализации азличных функциональных блоков в традиционных адаптивных системах правления. Это позволило конкретизировать постановку задач, решаемых в анной работе, а также выбрать в качестве базового многослойный тип архитек-уры нейронной сети.

В диссертации рассматривались только многослойные нейронные сети МНС), состоящие из базовых элементов (БЭ), описываемых дискриминантной

п/-1

(ункцией первого порядка х=£,(/) = Хи"/'М'~1> + '1 и функциями активации

М

игмоидного типа /(х) = 1/(1+е '*) или в виде гиперболического тангенса/(х) =

th(x) = (1-е "^/(l+e "II) в скрытых слоях и линейными fix) = х в буферном и вь ходном слоях. При этом все базовые элементы имели линейные связи, опред(

ляемые их весовыми коэффициентами и/у, 1 = 1 ,К, i - l.nj, j = 0,«/_] , Л'- числ

слоев в сети, щ— число нейронов в 1-м слое. Аппроксимационные свойства тако сети определяются теоремой А.Н. Колмогорова о представлении функции н< скольких переменной в виде суперпозиции и суммы функций одного перемен не го и ее модификаций, сделанных Lorentz, Sprecher, Р. Hecht - Nieisen, Kurkova.

На выбор базового типа архитектуры сети также повлиял анализ совреме! ного рынка аппаратного и программного обеспечения в области нейрокомпонеь тов, показавший существенное, по сравнению с 1996-98 годом, снижение их с< бестоимости и массо-габаритных показателей, и улучшение каскадируемост этих элементов, что особенно важно, для построения болыдеразмерных МНС.

Вторая глава посвящена рассмотрению вопросов применимости нейронны сетей в системах управления. В соответствии с этим рассмотрено несколько ст: тических алгоритмов работы сети, реализующих схему алгоритма с обратны распространением ошибки (backpropagation или ВР), являющегося основны алгоритмом обучения для многослойных нейронных сетей

w(0(jfc) = W%-l)-yVwj(e(w(/)(/t - 1)J= J\k -\)-yöЩ)® где 8(/) - вектор обобщенной ошибки обучения в слое /; W=(w(l),.. .,\у|Я)) - вектс весовых коэффициентов сети размерности (Кх(и;х(п,< /+1))), 1=1,К ; V /, J - гр;

диент функционала обучения многослойной сети J(e) по весовым коэффициента любого слоя 1=К -1,1, у>0 - коэффициент усиления алгоритма обучения; ® - cii.n вол кронекерова умножения; e=u*-u = енс— ошибка обучения сети; к= 1,2,...,п момент использования соответствующих значений заданных множеств и*

r=q<0) на k-й итерации вычисления весовых коэффициентов

Данный алгоритм и большинство его модификаций имеют несколько сущ< ственных недостатков, связанных с их низкой скоростью сходимости, разреш! нием проблемы попадания в локальные минимумы, проблемы формирована множества обучающих примеров, проблемы обучения в динамической постоянн меняющейся среде. Кроме того, они является неконструктивными алгоритмам: требующим априорного задания сетевой топологии до начала обучения. Для ра решения части этих проблем в диссертации был рассмотрен вопрос о введени динамики в многослойные нейронные сети. Существует три способа ее введени: с помощью преобразования МНС в рекуррентные сети; посредством введем линейных динамических звеньев между сумматором и звеном, реализующи функцию активации БЭ; введения динамики в критерий обучения и, следов; тельно, в алгоритм обучения. В работе рассматривается только третий скосо1 Основным недостатком большинства алгоритмов обучения, его реализующи является их высокая вычислительная сложность либо на этапе реализации, лиС на этапе работы, и высокая степень зависимости от изменения параметров ynpai ляемых объектов. На базе некоторых из них, предложенных в работах В.А. Тер<

2! 3! (/п+1)!

ова, был построен упрощенный алгоритм обучения с прогнозом. В этом алго-итме используется первый член ряда, аппроксимирующего 5,- -е непрерывные

роизводные функции е,(/)=г ,(/)-х,(/) для аргументов Аг-сопб!

в<'|>(,) = _±_,

_ М*

де 5,- = - порядок уравнения, включающего г -ю переменную состояния; п число переменных состояния; У5-символ восходящей разности; £^0,1,2..., и авенство между нисходящими и восходящими разностями для вычисления •¡(к + я;). Тогда сам упрощённый алгоритм обучения с прогнозом имеет вид

3,(0-(2) ? ■*

1'

Исследование работоспособности данного алгоритма проводилось с ис-ользованием прямой схемы управления с эталонной моделью на примере объек-ов, описываемых системой взаимосвязанных нелинейных дифференциальных равнений первого (на базе уравнений Рейслера) и второго порядков, причём ма-ематическое описание второго типа объектов соответствовало нелинейной не-тационарной динамике двухстепенного манипулятора

*«2 = «л(*.0-*Л +апЛ^.1)-ха +я,з(х,г)-х^ + 0/4 + (3)

+ аг-5(хд)-х(1 -хп +а,'б(х,г)-х(32 + 6,(х,+ / = 1,2

де х=(х|ь хп, х2\, х22)Т - вектор переменных состояния; ¿,{х,/) - глобально

|граниченные скалярные функции; ы,°(0 - программное управление

[ы°(7)|<т=сопз0, и"(?) - управление, вырабатываемое НС; /=1,2.

Результаты исследования, часть из которых отражена на рисунке 1а,б (1.а -

¡ля параметров а= 3, 6=2, с= 1, А^з 3» У = 2, 1.6- для параметров ах\=а^= 1,

1.аб. Переходные процессы в нейронной системе управления системой объектов 1-го и 2-го порядка

Й12=Й24=2, ¿713=023=3, ам=а22=4, «15=^21=5, <Я16=«26=0, Ъ\=Ъ2=\, ^2Д5,2 -У = 2 ) пока"

зали, что данный алгоритм при незначительном, по сравнению с изначальным алгоритмом, увеличение значений параметров сети (числа слоев и нейронов в них скорости обучения) обеспечивает приемлемое качество процессов управление при возникновении возмущений, вызванных неучтёнными нелинейностями объекта и переменными глобально ограниченными коэффициентами при управляющем воздействии. Использование этого алгоритма также позволяет ввести поро( ошибки обучения, существенно снижающий используемые вычислительные ресурсы и повышающий нечувствительность всей системы к начальным значениях весовых коэффициентов сети.

При разработке данного алгоритма обучения предполагалось, что на основании некоторых экспериментальных оценок топология сети будет жестко заданс ещё на этапе определения условий функционирования. Однако численное моделирование показало, что при К>3 и (или) 30,1-1,К , такое решение не всегдг является приемлемым с точки зрения эффективности управления, поэтому в диссертации предложено перейти к частичносвязным сетям, в которых отсутствуют некоторые связи между БЭ предыдущего и последующего слоев. В результате анализа выделено два способа перехода, один из которых базируется на условш временного исключения весовых коэффициентов нейронов из перерасчёта, как I процессе обучения, так и в процессе работы, а другой - на постепенном изменении числа связей, БЭ и слоев в восходящем или в нисходящем направлении. Ос новой обоих способов является принцип обратного распространения ошибки, и: которого следует, что изменение весовых коэффициентов Ллу(/) зависит от ошиб ки обучения 5(,) и, соответственно, от значения производной функции активацш

), 1~\,К , /=1 . Для повышения устойчивости работы всей системы необ

ходимо, чтобы )<1 и скорость обучения сети у«10, что приводит к еле

дующим оценкам для изменения весов каждого БЭ:

Aw>

y-ApW'"1),

у ■ sf) ® q^ при (о. 5 < s(l) < 4)и (- 4 < -s[l) < -0.5f, (4) О,

при <0.5;

при 0.5<//; <4

при si" >4.

где Л« - функция чувствительности ошибки целевой функции J(e) к изменении вектора выхода нейронов 1-го слоя;

В этом случае в качестве условия временного исключения из перерасчет;

весовых коэффициентов выбирается соотношение f(s® )<£(*), где е - достаточ но малое число. Для выходного слоя, конструируемого в виде мадалины, это ус ловие означает выполнение цели обучения lim J(e)—»0. При ¡|е(£)||—(с<с

i—>00

Зучение прекращается и МНС действует как безынерционный нелинейный пре-эразователь входного сигнала.

Данный подход был предложен для последующей модификации стандарт-эго алгоритма с обратным распространением ошибки, в результате которой сеть процессе обучения сама настраивает свою структуру под рассматриваемый тип уьектов, удаляя или надстраивая отдельные связи и нейроны в скрытых слоях, а критических случаях варьируя число самих скрытых слоев при предъявлении \ всего множества обучающих сигналов. В соответствие с основным произво--1мым действием эти алгоритмы в диссертации названы восходящими и нисхо-тщими алгоритмами оптимизации архитектуры сети. Они реализовывались на зух этапах работы сети: на этапе предварительного обучения и на этапе непре-лвной поднастройки весов в процессе ее функционирования, причем коэффици-гг усиления алгоритма изменялся в процессе обучения в соответствии с выра-ением:

(е £=угпах-понижагощий коэффициент, 1<у<1000 - счётчик циклов (у^тМ ООО), а )емя обучения зависело от размера предельного множества сходимости траек->рий системы с>0 и граничных параметров по числу слоев Ктлх и нейронов #тах.

Стоит отметить, что структура нисходящего алгоритма оптимизации вытерт из структуры восходящего алгоритма, так как при использовании последне-> число связей и нейронов после окончания этапа предварительного обучения ¡сто оказывается избыточным. Это связано с тем, что требуемое качество пере-здных процессов могут обеспечивать сети различной конфигурации, например, зухслойные сети с «1=5, «2=10, и трехслойные сети с «1=«2=3, «з=6. Поэтому юсмотрим только восходящий алгоритм оптимизации, при котором добавление ¡язей у встраиваемых нейронов второго и последующих слоев, а также пооче-:дное добавление БЭ во все скрытые слои происходит в соответствии со схе-ой, изображенной на рисунке 2. Добавление связей между слоями происходит в эоизвольном порядке, фиксируемом в матрице памяти или связей О, размерно-:и такой же, как и \¥ (т.е. (Алх(«/х(/7/,/+1)))), для облегчения реализации данного ¡горитма. После удачного завершения фазы предварительного обучения сеть шускается к работе с реальным объектом управления. Иначе, при .1(е)>(; и дос-жения Агтах и Ктзх, изменяют схему обучения, используя другие алгоритмы зучения и способы соединения сети и объекта управления.

Исследование показало, что, используя предложенные в диссертации алго-ггмы, можно получить приемлемое качество управляемых процессов (напри-ер, по параметрам переходного процесса), ограничив свое внимание только вы-эром схемы управления, целевого функционала, видом дискриминантной функ-т и функции активации БЭ слоев. В связи с тем, что в реальных нейрочипах ормируются только двухслойные сети, а большее число слоев реализуется на шове их каскадируемости, но не превышает восьми на одной плате, то эти ал-

(5)

горитмы позволят подобрать параметры сети в соответствии с предполагаемым! техническими характеристиками этих элементов.

Рис. 2. Блок-схема восходящего алгоритма оптимизации архитектуры сети.

В завершение главы рассматриваются несколько схем, традиционно ис пользуемых для построения нейросетевых систем управления. Две из них - ин версная система управления и адаптивная система управления с эталонной моде лью - используются в дальнейшем для построения двухуровневых адаптивно нейронных систем управления.

В третьей главе рассматриваются вопросы, связанные с построением и ис следованием адаптивных систем управления, базирующихся на полных и упро щенных прямых адаптивных структурах с мажорирующими функциями, предло женных профессором В.В. Путовым, и имеющих значительный выигрыш в про стоте по сравнению со структурами с точными алгоритмами адаптации. Это свя зано с тем, что в них учитываются только нелинейности, имеющие бесконечны! рост, сравнимый со степенными функциями, которые в алгоритмах заменяются мажорирующими их функциями всех степеней роста. Такое упрощение приводи-

с замене свойства асимптотической устойчивости на диссипативность системы в делом. Рассмотрим данный тип адаптивных систем более подробно, так как в дальнейшем они также участвуют в построении двухуровневых систем управле-тя.

Полная адаптивная система прямого управления с параметрической на-:тройкой состоит из следующих подсистем: а) п- мерной эталонной модели (ЭМ)

К = Ан х„(0 + Вм u°(0- ||u°(t)|| < const (6)

■де хм(/) - n-мерный вектор состояния ЭМ; u°(r) - m-мерный вектор управляющие воздействий, u°(i)sU° - множество допустимых программных управлений; V«, Вм - полностью управляемая пара матриц; Ам - гурвицева; 5) нелинейного адаптивного закона иА(0 вида

U=0

ZK^U^r)

Х + Кв(0и°(0 (7)

s) алгоритмов настройки его параметров, выражаемых матричными дифференци-шьными уравнениями

Кir(t) = -fqr(xr)T'^lv^Y -А

_ __(о)

Къ(0 = -Гвв1рСп01(О -Лвкъ(0, г = \,п; q = 0,р, -де с(/) = х(/) - xM(f); все матрицы и мажорирующие функции с первым нулевым шдексом принимаются за одну и равны

К (0 - к* С); К = ; л £ = л *; fQr (xr) = l, г=й ; (9)

~„(хг) - являются скалярными функциями скалярного аргумента хг, ранжирован-дыми по первому индексу lim ^ Л+'Д _ | j- ^ ^ ■j |_ const> у до) = 0, и

удовлетворяющими условию бесконечного роста lim | /„ г(хг) |= +=о,

|хгИ+оо

- --fQ Г С ^ Г) А

j = l,p,r = \,n,a также условиям мажорирования —:-< üq, fgr(xr) - неиз-

fq,r(xr)

5естные функции роста нелинейного объекта, при \ xr |> r|Q,q = 0,р, г = 1 ,п а0, л«

- постоянные числа; К* (/), г = \,п\ q =0,р- mxn-мерные матрицы, а Кв(/) -

nxm-мерная матрица настраиваемых параметров нелинейного адаптивного зако-

да (7); Гд,Лд - симметричные положительно определенные (в част-

дости, диагональные) mxm-мерные произвольные матрицы постоянных коэффи-диентов усилений алгоритмов, выбираемые при проектировании планируемых свойств адаптивных процессов; Р = Р > 0 - симметричная положительно опреде-

т

1енная матрица, являющаяся решением уравнения Ляпунова АМР + РАМ =-Q, Э = QT > 0 - произвольная матрица. Упрощение данной адаптивной системы управления строится с использованием .функций / (хг) только старших степе-

ней роста по всем переменным. Причем их присутствие в каждом скалярном уравнении адаптивного закона обязательно вне зависимости от их наличия в соответствующем скалярном уравнении объекта.

В диссертации проводится аналитическое и численное исследование работоспособности полных и упрощенных регуляторов для обобщенного нелинейного взаимосвязанного объекта в виде двухстепенного манипулятора (3) с заменой и" на и^. В частности, проводится их сравнительный анализ с регуляторами, имеющими скоростные и интегральные с огрублением алгоритмы настройки параметров. Исследования показали, что адаптивные регуляторы с алгоритмами параметрической настройки и мажорирующими функциями, обеспечивая дисси-пативность системы в целом, по своей структуре значительно проще регуляторов, построенных по схеме скоростного градиента. Кроме того, они обеспечивают приемлемое качество переходных процессов в более широком диапазоне изменения параметров объекта по сравнению с регуляторами, имеющими интегральные алгоритмы настройки с огрублением. При этом размер предельных множеств сходимости траекторий определяется задаваемыми проектировщиком параметрами усиления алгоритмов настройки у,-, а,. Однако такие регуляторы критичны к возникновению возмущений, вызванных неучтенными нелинейно-стями объекта, например, теми, для которых описываемые их функции не удовлетворяют принятым для данной системы мажорантным соотношениям (а|6(х,г)-х,32^0). А при изменении параметров управляемых объектов в широких пределах функционирование рассмотренных адаптивных регуляторов с выбранными постоянными коэффициентами алгоритмов настройки может привести ь неудовлетворительному качеству переходных процессов. Поэтому в четвертой главе был предложен подход в построении двухуровневых систем, в которых один из уровней, в зависимости от качества переходных процессов, регулирует работу второго уровня.

В четвертой главе на основе результатов исследований, проведенных е предыдущих главах, сформулирован подход в построении систем управления нелинейными динамическими объектами, связанный с использованием двух уровней управления: адаптивного и нейронного. При реализации данного подходе нейросетевой регулятор может выполнять три функции: включаться в работ) только при неудовлетворительном качестве переходных процессов, обеспечиваемых адаптивным регулятором; осуществлять непрерывную подстройку коэффициентов усиления алгоритмов настройки адаптивного регулятора; реализовы-вать сами алгоритмы настройки регулятора адаптивного уровня. Для формирования соответствующих структур были использованы инверсная и адаптивная с эталонной моделью схемы управления с МНС. Результатом реализации данногс подхода стали четыре структуры. В прямой и инверсной двухуровневых системах управления нейросетевой регулятор реализует верхний уровень управления выступая в качестве запасной или дублирующей системы управления. Переключение между уровнями основывается на анализе сигналов эталонной моде.к (ЭМ) и объекта управления (ОУ), описываемого уравнением А(х, х ,г)и(/)=у(?). Е

гом случае системы могут существовать либо независимо друг от друга, либо зть может находиться в постоянном контакте с системой управления адаптивно-э уровня, но проинициализирована так, чтобы не оказывать на него влияния, т.е. нулевыми весами последнего слоя. При превышении некоторого порога А*>0 удет включаться ее обучение и при /-»со нейросетевой регулятор осуществит олный перехват управления. Это связано с тем, что расчет адаптивного управ-

Рис. 3. Прямая двухуровневая система управления, гния, также как и степень изменения весов зависят от ошибки е(/), причем рабо-I систем рассматривалась только для тех вариантов, для которых функцио-альная матрица или инверсный оператор А"'(х,/) существует. В прямой схеме правления (рис.3) и"=¥(\\ Р(\У,/) - нелинейная функция преобразования С преобразуется к виду А(х,х,/)(Р^,/)ум +иА) = у, что при /-»со и достиже-ии цели управления е^О, уху» приводит к «А -»Ои А(х, х,/)Р(\У,/) -» К и, сле-эвательно, к F(W,/)-» А~'(х,/).

еи

МНС1

£

МНС2 }

* ДАО

и°(0 -т—^

и(/)

¡и"(0

Иа(0

х = Г(х,/) + В(х,/)и(/)

+ Вми°(<)

"м

I

ю

иА(0= иА(КА(0,х, е, О

ка(0

Кд (/)— иА(КА(/),х, е, ()

а

См

Ум

Рис. 4. Инверсная двухуровневая система управления.

Формирование инверсной схемы (рис.4) связано с использованием двух дмметричных МНС, одна из которых не имеет собственной поднастройки весов, получает их от второй сети, обучающейся обратной динамике объекта управле-ия А"'(х,/). Так как в процессе обучения достигается еи=и\-и2~0, то это означает

А^х,/)^, « А2\х,1)у, и А^'ОМ) « А^'ОМ)ю А~'(х,г) и, следовательно,у*уи.

Результаты проведенного моделирования подтвердили эффективность это го типа структур и установили зависимость порога включения Л*е[0.1...0.7 только от критических параметров системы управления, т.е. его величина суще ственно влияет на величину и форму вырабатываемого нейросетевым регулято ром сигнала управления (рис.5). Наилучшие результаты были показаны при еп значении А*<0.4 для объектов, описываемых в общем случае системой нелиней

Рис.5 Переходные процессы в прямой и инверсной двухуровневых системах управления, ных взаимосвязанных дифференциальных уравнений первого или второго поряд ка. При этом могут использоваться любые адаптивные алгоритмы от алгоритмо скоростного градиента до упрощенных алгоритмов с мажорирующими функция ми, но в любом случае система будет диссипативна в целом.

В двухуровневых адаптивно-нейронных системах с настраиваемыми коэф фициентами усиления алгоритмов настройки адаптивного регулятора и с не

Рис. 6. Схема нейросетевого корректора адаптивного регулятора страиваемым адаптивным регулятором (рис. 6) нейросетевой уровень являете

шутренним, позволяя расширить допустимый диапазон изменения параметров ЗУ, а также снизить вычислительные затраты и трудоемкость, связанные с под-юром коэффициентов, оказывающих существенное влияние на качество управ-гяемых процессов. Обучение сети производится на основе обобщенной ошибки 11С=ВмРе, а на один из ее входов подается сигнал с выхода эталонной модели, что лучшает эффективность ее функционирования. В связи с тем, что заранее не-юзможно рассчитать закон, по которому должны меняться эти коэффициенты 'силений, для обучения сети применим только упрощенный алгоритм с прогно-ом. Кроме этого, для последней структуры на входы нейросетевого регулятора акже должны подаваться выходы с объекта управления. В этом случае не прихо-;ится выбирать вид мажорирующих функций, так как сам способ формирования хемы и процесс настройки весовых коэффициентов сети обеспечат выполнение ребуемых мажорантных соотношений.

Результаты моделирования показали, что степень учета всех параметров даптивного регулятора в нейросетевом регуляторе при одинаковом качестве пе-юходных процессов влияет только на уровень и форму вырабатываемого адап-ивным регулятором управляющего сигнала (рис.7). Для получения более точных |езультатов необходимо использовать инверсную схему управления. Кроме того, ыявилось еще одно преимущество этих структур, заключающееся в использова-

Рис. 7. Переходные процессы в системе с адалтивпым регулятором и двухуровневой структуре с настраиваемым адаптивным регулятором. :ии только одной нейросетевой технологии для формирования двух уровней правления.

Для более эффективного использования предложенных структур была раз-аботана методика построения отдельных их элементов (рис. 8). Она выявила за-исимость структуры от математического описания объекта управления. Данная ависимость заключается в совместимости прямой или инверсной дублирующих труктуры только с объектом управления, описываемым системой нелинейных заимосвязанных дифференциальных уравнений не выше второго порядка. В ном случае необходимо использовать схемы с настраиваемым адаптивным регу-ятором. Методика построения регулятора адаптивного уровня состоит в выборе талонной модели с желаемым распределением корней характеристического по-инома, вида закона адаптивного и алгоритмов настройки

Расчёт математической модели ОУ

Выбор 2-уровневой схемы СУ

Инверсная

Прямая

С настраиваемыми

коэф.усиления адапт.регулятора

С настраиваемым адаптивным регулятором

Расчёт регулятора адаптивного уровня

~ т__________:

Тип сети

(МНС, рекуррентная НС и их модификации)

Полпосвязная НС

Выбор архитектуры ней-рорегулятора

Восходящий алгоритм оптимизации

Выбор числа слоев, К

Определение числа БЭ в краевых слоях, Ы1, /=0,К Определение числа БЭ в скрытых слоях. "Ы'./=1.К-1

Выбор ф,(,)),/=0,К Выбор ф,("),/=1,К-1

конец У

Рис. 8. Блок-схема методики построения двухуровневых систем управления

"о параметров, вид которых определяется выбором класса адаптируемого объек-1, например, класса нелинейных упругих многомассовых объектов, на основе редложенной профессором Путовым В.В. методики расчета прямых адаптивных тстем управления с эталонной моделью. Методика построения нейросетевого ггулятора включает в себя выбор архитектуры нейрорегулятора, алгоритма его эучения и способа получения эталонного сигнала, что и отражается на схеме с омощью штрих- пунктирных линий.

В заключение этой главы приводится пример использования этой методики ри построении двухуровневой адаптивно- нейронной системы управления с на-граиваемыми коэффициентами усилений алгоритмов настройки адаптивно! о ре-дштора двухмассовым однорезонансным механическим объектом. Исследова-ие этой системы на программном комплексе "Адаптивно- нейронный регуля-эр" показало ее работоспособность при увеличении области изменения парамет-эв в 2-3 раза по сравнению с системой, имеющей один адаптивный уровень правления.

В приложениях рассмотрены некоторые геометрические и технические х&-зктеристики нейрочипов и нейроплат, выпускаемых нашей и зарубежной про-ышленностью, а также кратко описан учебно- исследовательский программный эмплекс"Адаптивно- нейронный регулятор", реализующий рассмотренные алго-итмы и предназначенный для моделирования управления, построенного на раз ичных принципах (модальное, адаптивное, нейросетевое и любое их сочетание).

ЗАКЛЮЧЕНИЕ

В соответствии с поставленной целью, в диссертационной работе решены гедующие задачи:

, Предложен алгоритм обучения нейросетевого регулятора, основанный на использовании прогноза ошибки обучения.

. Для алгоритмов обучения, использующих принцип обратного распространения ошибки обучения, предложено правило исключения весовых коэффициентов нейронов из перерасчета, позволяющее повысить быстродействие системы. , Предложены алгоритмы оптимизации архитектуры сети, позволяющие изменять число скрытых слоев, БЭ и связей в зависимости от рассматриваемого типа объектов при предъявлении ей всего множества обучающих сигналов в двухэтапном режиме работы.

. Произведено исследование и сравнительный анализ адаптивных локальных и взаимосвязанных структур с параметрическими интегральными и нелинейными с мажорирующими функциями алгоритмами настройки, и точных адаптивных структур регуляторов, построенных по методу скоростного градиента, для случая управления обобщенным нелинейным объектом второго порядка и выявлены условия его неудовлетворительной работы.

. Обоснован подход в построении двухуровневых адаптивно-нейронных систем управления, позволяющий сохранить их работоспособность в условиях возникновения возмущений, неучтенных выбранными для данной системы мажо-

рантными отношениями и влияния изменяющихся в широких пределах парс метров объекта управления.

6. Предложены четыре структуры двухуровневых адаптивно- нейронных систе1 управления: прямая; инверсная; с настраиваемым адаптивным регулятором и настраиваемыми коэффициентами усиления алгоритмов настройки адаптивнс го регулятора, позволяющие скомпенсировать недостатки широко используй мых адаптивных систем.

7. Предложена методика синтеза элементов двухуровневых адаптивнс нейронных систем управления, базирующаяся, с одной стороны, на методик построения адаптивных систем управления с мажорирующими функциякн предложенной Путовым В.В., а с другой стороны — на методике синтеза нейре сетевых систем управления.

8. Рассмотрено построение двухуровневой адаптивно- нейронной системы упраи ления для класса нелинейных механических объектов с учетом упругих дс формаций и неполными измерениями.

9. На основе предложенных архитектур разработан специализированный прс граммный комплекс "Адаптивно- нейронный регулятор", предназначенный дл имитационного исследования и сравнительного анализа различных подходо для класса многомассовых упругих объектов.

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ:

1. Путов В.В., Тимчук H.A., Русов Д.А., Гайдым Д.А. Новые методы адаптивног управления в нелинейных электромеханических системах. //Тез. докл. межд. н; уч.-техн. конф. "Экстремальная робототехника", г. Санкт-Петербург, 18-20 апрс ля 1997г.- СПб.: СПбГТУ, 1997.-С. 274-281.

2. Путов В.В., Тимчук H.A., Гайдым Д.А Адаптивное управление нелинейным электромеханическими системами // Тез. докл. науч.-техн. конф. VII Бернарде совские чтения, г.Иваново: ИГЭТУ, 1997.- С.38.

3.Тимчук H.A., Гайдым Д.А Исследование нейросетевой структуры в адаптивно двухуровневой системе управления // Оптимизация и адаптация в управлени производственными и подвижными объектами.- Известия ТЭТУ.- СПб.: СПбП: ТУ, 1998 г. - вып. 519,- С. 34-37.

4. Путов В.В., Тимчук H.A. Новые методы адаптивного управления в нелинейны электромеханических системах // Материалы IX межд. науч.-техн. конф. "Эк( тремальная робототехника", г. Санкт-Петербург, 1998г.- СПб.: СПбГТУ, 1998 С.231-237.

5. Putov V.V., Timtchuk N.A., Giedim D.A. New methods of intelligent contol i nonlinear electromechanichal systems// Труды докл. 3-го межд. симп. "Интеллект; альные системы".- Псков, 30 шоня-3 июля 1998 г.- М.: ООО "ТВК",- 1998,- С. 8: 86.

Введение.

ГЛАВА 1. Нейронные сети в системах управления.

1.1. Анализ особенностей традиционных адаптивных систем управления.

1.2. Этапы развития нейросетевых структур.

1.3. Архитектура нейронных сетей.

1.3.1. Многослойные нейронные сети (МНС).

1.3.2. Аппроксимация и ассоциативная память в МНС.

1.4. Примеры использования нейросетевых структур для построения систем управления.

1.5. Аппаратное исполнение.

1.6. Постановка задачи.

1.7. Выводы по первой главе.

ГЛАВА 2. Динамические алгоритмы обучения (ДАО) сетей.

2.1. Общая характеристика правил обучения для МНС.

2.2. Стандартный алгоритм обратного распространения ошибки (BP).

2.3. Вариации стандартного алгоритма обучения BP.

2.3.1. Ускоренный алгоритм обратного распространения ошибки (или Quick Propagation Learning Algorithm).

2.3.2. Каскадно-корреляционные алгоритмы обучения.

2.4. Динамические алгоритмы обучения многослойных нейронных сетей.

2.4.1. Способы введения динамики в многослойные нейронные сети.

2.4.2. Скоростной алгоритм обучения нейросети.

2.4.3. Динамический алгоритм обучения с прогнозом.

2.4.4. Упрощенный ДАО с прогнозом.

2.4.5. Алгоритм обучения для неполносвязной МНС.

2.5. Исследование эффективности действия МНС различной архитектуры.

2.6. Модели и структуры систем управления с МНС.

2.6.1. Базовые динамические системы.

2.6.2. Структуры систем управления с МНС.

2.7. Выводы по второй главе.

ГЛАВА 3. Исследование и сравнительный анализ адаптивных систем управления с мажорирующими функциями для нелинейного динамического объекта.

3.1. Общий подход к построению структур адаптивного управления нелинейными нестационарными объектами.

3.2. Упрощенные адаптивные системы прямого управления с алгоритмами параметрической настройки и мажорирующими функциями.

3.3. Аналитическое исследование работоспособности (диссипативности) полной адаптивной структуры прямого управления объектами второго порядка с алгоритмами параметрической настройки и степенными мажорирующими функциями.

3.4. Численное исследование и сравнительный анализ адаптивных систем управления для обобщенного нелинейного объекта.

3.5. Выводы по третьей главе.,

ГЛАВА 4. Двухуровневые адаптивно- нейронные системы управления нелинейными динамическими объектами.

4.1. Адаптивно-нейронный подход к построению систем управления.

4.2. Структуры двухуровневых адаптивно-нейронных систем управления.

4.3. Методика построения регулятора нейросетевого уровня управления.

4.4. Обобщенная структура упругого механического объекта.

4.4.1. Постановка задач управления упругими механическими объектами.

4.4.2. Уточнение исходных расчетных математических моделей многомассовых упругих объектов.

4.5. Методика построения адаптивного уровня управления нелинейными упругими многомассовыми объектами на базе прямых адаптивных структур. 190 4.6. Рекомендации по упрощению систем адаптивного уровня с алгоритмами параметрической настройки для многомассовых упругих объектов.

4.7. Двухуровневая адаптивно-нейронная система управления для нелинейного одно-резонансного электромеханического объекта по измерению угла нагрузки.

4.8. Выводы по четвертой главе.

Ускоренное развитие промышленного производства, освоение новейших производственных технологий, создание сложных управляющих комплексов высокоэффективными и прецизионными агрегатами и установками требуют дальнейшего развития проблематики, связанной с разработкой и совершенствованием методов и средств автоматического управления нелинейными динамическими объектами с априорно неопределенным и (или) сложным описанием, неполными измерениями, быстро и в широких пределах изменяющимися параметрами, свойствами и внешними условиями функционирования. В такой постановке одним из признанных направлений, разрешающих указанные трудности, является адаптивный подход, в рамках которого нашли наибольшее развитие беспоисковые (аналитические) адаптивные системы. Систематическое развитие теоретических и теоретико-прикладных аспектов таких систем с 60-х годов осуществляется усилиями многих отечественных и зарубежных ученых и отражено в сотнях публикациях [например, 1-45, 109-113]. Однако анализ части этих работ свидетельствует о том, что они, в общем, подразделяются на две категории. Большая часть прямых и непрямых адаптивных систем управления с параметрическими алгоритмами настройки для нелинейных и, в общем случае, нестационарных объектов синтезированы в предположении, что неизвестны только параметры объектов. При этом их нелинейная структура, считаясь известной и неизменной в процессе работы, полностью используется при построении законов и алгоритмов адаптации. Это приводит к трудностям при реализации самих регуляторов. Второе направление связано с развитием адаптивных систем с прямым и идентификационным управлением, параметрическими и сигнальными (релейными) алгоритмами настройки, эффективными в управлении нелинейными, нестационарными объектами, допускающими функционально-параметрический уровень неопределенности, когда не известны ни их параметры - кусочно-гладкие и ограниченные вместе со своими производными функции времени, ни строение нелинейных правых частей, описывающих их дифференциальных уравнений, но может быть подобран класс известных (и легко реализуемых) нелинейных степенных функций, мажорирующих в некотором смысле названные нелинейные описания объектов. Эти мажорирующие функции и используются при построении соответствующих законов и алгоритмов адаптации, а требование асимптотической устойчивости заменяется требованием диссипативности, что вполне приемлемо для решения большинства инженерных проблем. Развитие предложенных адаптивных структур в приложении к механическим многостепенным и многомассовым объектам было предложено в работах [18, 19-21, 109], подтвердивших их высокую эффективность.

Однако при одновременном изменении параметров объектов в широких пределах и (или) возникновении сингулярных возмущений (изменении структуры самого нелинейного, нестационарного объекта или возникновении возмущений, вызванных неучтенными нелинейностями, не укладывающимися в рамки выбранного класса степенных функций), причем на последний тип неопределенности данные алгоритмы просто не рассчитаны, приходится искать другие способы преодоления этих трудностей. Решение найдено было в применении принципов искусственного интеллекта и достижений новых прикладных областей (нейронные сети, нечеткая логика, экспертные системы), бурно развивающихся в последнее десятилетие. Особые отношения сложились с нейросетевым направлением. Благодаря возможности аппроксимации любой нелинейной функции, способности к обучению и параллельной обработки как аналоговых, так и дискретных сигналов, нейронные сети находят все большее применение во многих прикладных областях. Сфера их применения охватывает не только традиционные задачи распознавания и классификации образов, но также распространяется на задачи идентификации, управления и оптимизации [46-108, 114-140]. В связи с этим, разработки, связанные с расширением области применения нейросетевых технологий, включая их совместное использование с традиционными адаптивными системами, являются вполне актуальными как с научной, так и с прикладной точек зрения.

Целью диссертационной работы является решение научно-прикладной проблемы, заключающейся в развитии, разработке и исследовании в приложениях к гипотетическим и к конкретным техническим объектам, например, двухмассово-му упругому объекту, новых двухуровневых адаптивно-нейронных систем, эффективных в управлении нелинейными динамическими объектами, допускающими структурно-параметрический уровень неопределенности.

Достижение поставленной цели обеспечивается постановкой и решением в диссертационной работе следующих основных задач:

1. Выдвигается и обосновывается подход к построению двухуровневых адаптивно- нейронных систем управления нелинейными динамическими объектами с неизвестными параметрами и неопределенным строением правых частей описывающих их дифференциальных уравнений.

2. Разрабатываются структуры двухуровневых адаптивно-нейронных систем управления (прямая, инверсная, с настраиваемыми коэффициентами усиления адаптивного регулятора и с настраиваемым с помощью нейронной сети адаптивным регулятором), использующих на адаптивном уровне регулятор с эталонной моделью и алгоритмами параметрической настройки с мажорирующими функциями, а на нейросетевом - непрерывно обучаемый регулятор, построенный на базе многослойной нейронной сети.

3. Решается задача формирования архитектуры нейрорегулятора и его алгоритма обучения для управления объектами различной степени сложности.

4. Рассматривается построение двухуровневой адаптивно-нейронной системы управления для класса нелинейных механических объектов с учетом упругих деформаций и неполными измерениями.

Поставленные задачи решены методами теории автоматического управления, теории обыкновенных дифференциальных уравнений, теории нейронных сетей и математического моделирования объектов.

К основным результатам диссертационной работы, выносимым на защиту, относятся:

1. подход в построении двухуровневых адаптивно-нейронных систем управления нелинейными динамическими объектами;

2. структуры двухуровневых адаптивно-нейронных систем управления;

3. алгоритм обучения нейросетевого регулятора;

4. алгоритм, оптимизирующий архитектуру нейронной сети;

5. методика расчета элементов двухуровневых систем управления.

Исследовательский вариант программного комплекса "Адаптивно-нейронный регулятор", реализованный на персональном компьютере типа ЮМ PC-486DX4-133 (Приложение 2), обладает открытой архитектурой и, обеспечивая приемлемый интерфейс с пользователем, позволяет:

1. поддерживать требуемое качество управления системой при изменении ее параметров и характеристик внешней среды;

2. производить экспериментальные исследования довольно широкого класса объектов, включая и многомассовые упругие объекты, различными методами управления: модальным, адаптивным, нейронным или в любом их сочетании.

Диссертация состоит из введения, четырех глав, заключения, списка литературы и трех приложений.

Основные результаты диссертационной работы представлены и обсуждены на научно- технических конференциях "Интеллектуальные системы управления" ЦНИИ РТК, 1997, VII Бернадосовские чтения. Иваново: ИГЭТУ, 1997, "Экстремальная робототехника" СПб: ЦНИИ РТК, 1997, "Экстремальная робототехника" ЦНИИ РТК, 1998, "Интеллектуальные системы" Псков, 30 июня- 3 июля 1998, и опубликованы в работе [61].

ЗАКЛЮЧЕНИЕ

Настоящая работа посвящена решению комплекса проблем по разработке и исследованию двухуровневых адаптивно-нейронных систем управления, построенных с использованием интеллектуальных, и в частности, нейросетевых, технологий. Применение таких систем представляется весьма перспективным в структурах интеллектуального управления нелинейными, нестационарными объектами в условиях непредвиденного изменения параметров самого объекта и условий среды его функционирования.

Большинство существующих прямых (с эталонными моделями) и идентификационных адаптивных систем управления с параметрическими алгоритмами настройки регуляторов, построенных традиционными методами, сконструированы в предположении, что неизвестны только параметры объектов, а их нелинейная структура считается полностью известной и используется в построении точных законов и алгоритмов адаптации. Любые адаптивные схемы, построенные с учетом точного знания структур нелинейных объектов, обеспечивают в случае постоянства неизвестных параметров объектов асимптотическую устойчивость в целом. Однако, в случае нестационарных параметров, как для линейного, так и для нелинейного случая это "жесткое" [19] требование заменяется вполне приемлемым в практических приложениях условием диссипативности, а точные алгоритмы адаптации подвергаются регуляризации. К тому же получение "точной" математической модели объекта, а также "копирование" его нелинейной структуры в алгоритмах адаптации обычно требует больших вычислительных и временных затрат и чаще всего малооправдано.

Поэтому в диссертационной работе предложен подход к построению двухуровневой адаптивно-нейросетевой системы управления, позволяющей использовать более широкий функционально-параметрический уровень неопределенности объектов, который реализован в четырех структурах: прямой, инверсной, структуре с настраиваемым адаптивным регулятором и структуре с настраиваемыми коэффициентами алгоритмов настройки адаптивного регулятора. Условия применения этих структур связаны с особенностями построения нейросетевых систем управления. В связи с этим,первых две схемы используются для формироуправления. В связи с этим первых две схемы используются для формирования верхнего защитного или дублирующего уровня управления для объектов, описываемых системой нелинейных взаимосвязанных дифференциальных уравнений лагранжевого типа, которые на практике представляют собой жесткие многостепенные объекты типа робота-манипулятора "PUMA", а вторые - для непрерывной настройки различных коэффициентов адаптивных регуляторов, что существенно расширяет границы их применимости. Эффективность действия этих схем подтвердилась моделированием нескольких примеров, в число которых входил и двухмассовый упругий объект. В данной работе также разработана методика построения всех блоков двухуровневых систем и алгоритмы обучения нейросетево-го регулятора и оптимизации его архитектуры. Кроме того, учитывая перспективность промышленного применения таких систем, необходимо сформировать данную разработку в виде законченного программного продукта и провести исследования инверсной двухуровневой системы с настраиваемым адаптивным регулятором.

В диссертационной работе были получены следующие результаты:

1. На основе проведенного анализа характерных особенностей построения традиционных и нейросетевых адаптивных систем управления, выдвинут и обоснован подход к построению двухуровневых адаптивно-нейронных систем управления нелинейными динамическими объектами с неизвестными параметрами и неопределенным строением правых частей описывающих их дифференциальных уравнений;

2. Разработаны 4 системы управления нелинейными динамическими объектами (инверсная, прямая, система с настраиваемым адаптивным регулятором и система с настраиваемыми коэффициентами усиления алгоритмов настройки адаптивного регулятора) с эталонными моделями и алгоритмами параметрической настройки с мажорирующими функциями на адаптивном уровне и с непрерывно обучаемым нейросетевым регулятором - на нейросетевом. Платой является отказ от требования асимптотической устойчивости и переход к диссипативности с размером предельных множеств сходимости траекторий, определяемым проектировщиком;

3. Рассмотрена структура нейросетевого регулятора, предложен алгоритм его обучения, позволяющий совмещать процесс обучения и управления и действовать в реальном масштабе времени, и алгоритм оптимизации его структуры;

4. Предложена методика формирования двухуровневых систем управления и, в частности, синтеза ее нейросетевой составляющей;

5. Разработан программный комплекс "Адаптивно- нейронный регулятор", который:

- реализован на IBM PC 486DX4-133.

- объем программного обеспечения не превышает 200 К;

- снабжен базой алгоритмов обучения нейрорегулятора, обеспечивающих возможность адаптивного управления широким классом объектов;

- позволяет осуществлять экспериментальные исследования довольно широким классом объектов, включая и многомассовые упругие объекты, различными методами управления: модальным, адаптивным, нейронным или в любом их сочетании;

- настроен на автоматическое поддержание требуемого качества работы системы автоматического управления при изменении параметров объекта управления и внешней среды.

Результаты экспериментального исследования с использованием данного комплекса подтвердили:

- обоснованность предложенных в диссертационной работе структур двухуровневых систем управления, использующих элементы традиционной и нейросетевой технологий;

- работоспособность разработанных алгоритмов обучения и оптимизации структуры нейрорегулятора.

Открытая архитектура комплекса позволяет непрерывно дополнять его базу новыми алгоритмами обучения, построенными как на основе метода обратного распространения ошибки, так и на других принципах (например, случайный поиск). Однако, для каждого конкретного случая проектировщику придется выбирать для своей системы управления наиболее подходящий алгоритм. Проблемы выбора можно избежать, если использовать весь комплекс как составную часть какой либо иерархической системы, включающей экспертный блок. В начале процесса обучения этот блок по заданным параметрам и на основе некоторых правил и (или) данных из своих баз сформирует архитектуру системы управления и некоторое множество алгоритмов настройки параметров для каждого объекта. Затем, в процессе управления при пробных испытаниях, откорректирует ее, подключая (или отключая) соответствующие уровни управления, и осуществляя смену алгоритмов обучения при отклонении всей системы от заданных траекторий.

Поскольку "Адаптивно- нейронный регулятор" является программным продуктом, то его довольно просто установить на цифровую систему управления, надо только создать интерфейс между контроллером соответствующего устройства и ЦВМ, на которой он будет установлен. Однако для повышения быстродействия нейросетевого уровня управления желательно его реализовывать, используя либо специальные нейросетевые приставки к персональным компьютерам, либо нейрочипы, изготовленные на базе последних достижений оптоэлектроники и (или) цифровой техники. Описание и технические характеристики некоторых из них приведены в Главе 1 и Приложении 1.

Теоретические и практические результаты, полученные при разработке двухуровневых адаптивно- нейронных систем управления, используются в учебном процессе кафедры "Системы автоматического управления" в курсе "Искусственные нейронные сети в системах управления" для специализации: 550201 -Управление в технических системах, и в курсе "Нечеткое управление и нейронные структуры" по специальности: 210500 - Системы управления летательными аппаратами.

1. Герман-Галкин С.Г. и др. Цифровые электроприводы с транзисторными преобразователями. Л.: Энергоатомиздат. Ленингр. отд., 1986. -248 с.

2. Куо Б. Теория и проектирование цифровых систем управления. М.: Машиностроение, 1986. 448 с.

3. Дроздов В.Н., Мирошник И.В., Скорубский В.И. Системы автоматического управления с микроЭВМ. -Л.: Машиностроение. 1989. -284 с.

4. Carmon A. Considerations in the application of self- turning PID controllers using EXACT-turning algorithm// Measurement & Control.- 1986.-Vol.l9.-№.9.-P.260-266.

5. Александров А.Г. Частотные регуляторы. //АиТ. -1991 .-№ 1 .-С. 3-15.

6. Андреев Ю.Н. Управление конечномерными линейными объектами. -М.: Наука. 1976. - 424 с.

7. Борцов Ю.А., Поляхов Н.Д., Путов В.В. Электромеханические системы с адаптивным и модальным управлением. -Л.: Энергоатомиздат. Ленингр. отд.-1984. -284 с.

8. Борцов Ю.А., Соколовский Г.Г. Автоматизированный электропривод с упругими связями. -СПб.: Энергоатомиздат. Санкт-Петерб. отд.-1992.-287 с.

9. Борцов Ю.А., Юнгер И.Б. Автоматические системы с разрывным управлением. -Л.: Энергоатомиздат. Ленингр. отд.-1986. -280 с.

10. Карабутов H.H. Шмырин A.M. Адаптивное оптимальное управление с ограничениями. Липецк: ЛПИ.-1992.-76 с.

11. П.Козлов Ю.М., Юсупов P.M. Беспоисковые самонастраивающиеся системы. -М.: Наука.-1969.

12. Косиков B.C., Крутова И.Н., Павлов Б.В. Линейная модель БСНС с контролем частотной характеристики //АиТ. -1976.-№7.-С.68-75.

13. Косиков B.C., Кордюков А.П. Синтез беспоисковой самонастраивающейся системы с нелинейным объектом.// АиТ. -1987.-№4.-С.58-65.

14. Красовский A.A. Динамика непрерывных самонастраивающихся систем. -М.: Физматгиз, 1963.

15. Кухтенко В.И. Динамика самонастраивающихся систем со стабилизацией частотных характеристик. -М.: Машиностроение.-1970.

16. Павлов Б.В., Соловьев И.Г. Системы прямого адаптивного управления. -М.: Наука,-1987.-309 с.

17. Петров Б.Н., Рутковский В.Ю., Крутова И.Н., Земляков С.Д. Принципы построения и проектирования самонастраивающихся систем управления. -М.: Машиностроение.-1972.

18. Путов В.В., Полушин И.Г. Адаптивное управление манипулятором в условиях структурно-параметрической неопределенности.//У1 НТК "Робототехника для экстремальных условий".-СПб.: 1996.-С. 163-170.

19. Путов В.В. Методы построения адаптивных систем управления нелинейными нестационарными динамическими объектами с функционально- параметрической неопределенностью: Дис. . докт. техн. наук: 01.01.11. СПб., 1993. - 490с.

20. Путов В.В. К вопросу об устойчивости адаптивных систем со степенными мажорирующими функциями // Изв. ТЭТУ- Вып.519.-Оптимизация и адаптация в управлении производственными и подвижными объектами СПб.: 1998. -С.3-7.

21. Фрадков А.Л., Деревицкий Д.П. Прикладная теория дискретных адаптивных систем управления. -М.: 1981.-246 с.

22. Фрадков А.Л. Адаптивное управление в сложных системах: беспоисковые методы. М.: Наука, 1990. 296 с.

23. Чураков Е.П. Оптимальные и адаптивные системы: Учебное пособие для вузов. -М.: Энергоатомиздат.-1987.

24. Ширяев В.И. Синтез управления линейными системами при неполной инфор-мации.//Изв. РАН Техн. Кибернетика,-1994.-№3.-С.229-237.

25. Цыпкин Я.З. Адаптация и обучение в автоматических системах. М.: Наука, 1968. 400с

26. Эйкхофф П. Основы идентификации систем управления. -М.: изд-во "Мир". -1975.-676 с.

27. Петров Б.Н., Елисеев В.Д., Подольный О.А., Уколов И.С. К синтезу самонастраивающихся систем, основанных на энергетическом балансе частотных компонент сигнала ошибки// Изв. АН СССР. Тех. Кибернетика.-1969.-№1,-С.145-143.

28. Аналитические самонастраивающиеся системы автоматического управления/Под ред. В.В. Солодовникова. -М.: Машиностроение, 1965.

29. Многоуровневое управление динамическими объектами./Под ред. В.Ю. Рут-ковского и С.Д. Землякова. -М.: Наука, 1987.-309с.

30. Справочник по теории автоматического управления. /Под ред. А.А. Красов-ского. М.: Наука, гл. ред. Физ. - мат. лит., 1987.-712 с.

31. Astrom К J., Witternmark В. On self-turning regulators. //Automática. 1973.-Vol.9. -№2.-pp. 185-199.

32. Astrom K.J. Theory and practice of adaptive control. //Society of Instrument and Control Engineers in Japan, 1984.-Vol.23.-№5.

33. Kanellakopoulos I., Kokotovic P.V., Morse A.S. Systematic design of adaptive controllers for feedback linearisable systems.//IEEE Trans. Autom. Control., 1991. -Vol.36.-№3 .-P. 1241 -1253.

34. Kanellakopoulos I., Kokotovic P.V., Morse A.S. A toolkit for nonlinear feedback design. Syst. Control Letters., 1991.-Vol.l8.-P.83-92.

35. Афанасьев В.Н., Колмановский В.Б., Носов В.Р. Математическая теория конструирования систем управления. -М.: Высш. школа 1989. - 447 с.

36. Солодовников В.В., Шрамко JI.C. Расчет и проектирование аналитических самонастраивающихся систем с эталонными моделями. -М.: Машиностроение. 1972. - 270 с.

37. Зубов В.И. Аналитическая динамика системы тел. -J1.: Изд-во ЛГУ. -1983. -344 с.

38. Зубов В.И. Динамика управляемых систем. -Высш школа. -1982. 288 с.

39. Лурье А.И. Аналитическая механика. М.: Физматгиз. - 1961. - 530 с.

40. Пановко Я.Г. Введение в теорию механических колебаний. -М.: Наука. 1980. - 280 с.

41. Тимошенко С.П., Янг Д.Х., Уивер У. Колебания в инженерном деле. -М: Машиностроение. 1985. - 472 с.

42. Романов М.П. интеллектуальные системы управления с ассоциативной памятью. Автореф. дис.на соискание ученой степени д.т.н.-М.: 2000. 36 с.

43. Андриевский Б.Р., Стоцкий A.A., Фрадков А.Л. Алгоритмы скоростного градиента в задачах управления и адаптации // Автоматика и телемеханика. 1988. -№12. - С. 3-39.

44. Аведьян Э.Д. Алгоритмы настройки многослойных нейронных сетей // АиТ, 1995,-№ 4.- С. 106-118.

45. Автоматы: Сборник статей // Под ред. К.Э.Шеннона и Дж.Маккарти. Пер. с англ. под ред. A.A. Ляпунова М.: Изд-во иностр. лит-ры, 1956.- 404с.

46. Амосов Н.М., Байдык Т.Н. Нейрокомпьютеры и интеллектуальные роботы Киев.- Наукова думка. 1991. 267с.

47. Арбузов A.B. Разработка и исследование адаптивных регуляторов, построенных на базе технологии экспертных систем и нейросетевых структур. Автореферат дис. на соискание ученой степени к.т.н. -М.: 1998. -19 с.

48. Бивальд Рене Разработка и исследование нейронного контроллера для управления транспортными роботами. Автореферат дис. на соискание ученой степени к.т.н. -М.: 1996.-19 с.

49. Богданов A.A. Параллельные модели и нейросетевые алгоритмы управления робототехническими системами. Автореферат дис. на соискание ученой степени к.т.н. -СПб.: 1998.-19 с.

50. Горбань А.Н. Обучение нейронных сетей. М.: СП ПараГраф, 1990. -246С.

51. Гордиенко Е.К., Лукьяница A.A. Искусственные нейронные сети. I. Основные определения и модели // Изв. РАН. Техническая кибернетика, 1994,-№ 5.-С. 79-92.

52. Ефимов Д.В., Терехов В.А., Тюкин И.Ю. Адаптивная система управления с нейронной сетью./ Сборник научных трудов "Методы и аппаратные средства цифровой обработки сигналов" // Изв. ТЭТУ .-СПб.: 1996.-Вып. 490 .

53. Колмогоров А.Н. Представление непрерывных функций многих переменных суперпозицией функций одной переменной и сложением // ДАН. Т. 114. -1958.-№5.-С. 953-956.

54. Литвинов Е.Г. Нейроимитатор как новый инструмент нейрокомпьютинга // Нейрокомпьютер. 1993. - №3/4.

55. Маматов Ю.А., Булычев С.Ф. Схемотехнические модели построения потоковых нейронов на базе цифровой техники. // Микроэлектроника. 1996. - Т.25. -№1. - С. 3-8.

56. Маматов Ю.А., Булычев С.Ф., Кармен А.К. Цифровая реализация потокового нейрона. // Радиотехника и электроника. 1995. - Т.40. - №11. - С. 1652-1660.

57. Минский М.Л., Пейперт С. Перцептроны.- М.: Мир, 1971.

58. Путов В.В., Тимчук H.A., Гайдым Д.А Адаптивное управление нелинейными электромеханическими системами // Тез. докл. науч.-техн. конф. VII Бернардо-совские чтения, г.Иваново: ИГЭТУ, 1997.- С.38.

59. Рачковский Д.А. Разработка и исследование многоуровневых ансамблевых сетей нейроподобных элементов.: Автореферат диссертации на соискание ученой степени канд. т.н. / АН УССР Ин-т кибернетики им. В.М. Глушкова. Киев. -1990. - 16 с.

60. Розенблатт Ф. Принципы нейродинамики.- М.: Мир, 1985.

61. Терехов В.А., Новожилов И.М. Структуры, алгоритмы и свойства динамических систем управления и многослойными перцептронами.//сб. науч. трудов

62. Методы и аппаратные средства цифровой обработки сигналов" // Изв. ГЭТУ. СПб, 1994.-Вып. 475.

63. Терехов В.А. Динамические алгоритмы обучения многослойных нейронных сетей в системах управления //Изв. РАН. Теория и системы управления, 1996.-№3 С.70-79 .

64. Терехов В.А., Ефимов Д.В., Тюкин И.Ю. Искусственные нейронные сети и их применение в системах автоматического управления. Учебное пособие. -СПб.: ГЭТУ, 1997.-64 с.

65. Тимофеев А.В., Богданов А.А. Синтез нейросетевых регуляторов для оптимального управления роботами и мехатронными системами. // Изд-во РАН, РЕК по ТММ РАН, БГТУ. Вып.1. -СПб.: 1996.-С.115-125.

66. Тимчук Н.А., Гайдым Д.А Исследование нейросетевой структуры в адаптивной двухуровневой системе управления // Оптимизация и адаптация в управлении производственными и подвижными объектами.- Известия ГЭТУ,- СПб.: СПбГЭТУ, 1998 г. вып. 519.- С. 34-37.

67. Тюкин И.Ю. Устойчивость алгоритма обучения многослойных нейронных сетей прямого действия. //Изв. СПбГЭТУ. 1999

68. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика // Пер. с англ.-М.: Мир, 1992.-240 с.

69. Albus J. A new approach to manipulator control: The Cerebellar model articulation Controller (CMAC). //ASME Journal of Dynamic System, Meas. And Control. 1975. -P. 220-227.

70. Albus J. Data storage in the cerebellar model articulation controller (CMAC). //ASME Journal of Dynamic System, Meas. And Control. 1975. -P. 228-233.

71. Chen F. Back propagation neural network for nonlinear self- turning adaptive control. // IEEE Cont. Syst. Mag. 1990. -P. 22-25.

72. Chester D. Why two hidden layers are better than one // In IEEE Int. Joint. Conf. on Neural Networks, IJCNN'90, 1990.- P. 265-268.

73. Chu S., Shoureshi R., Tenorio M. Neural networks for system identification. //IEEE cont. Syst. Mag. 1990

74. Cybenco G. Approximation by superpositions of a sigmoid function. //Math. Control Signal Systems. 1989.-№2.-P. 303-314.

75. Fang Y., Sejnowski T.J. Faster learning for dynamical recurrent backpropagation. //Neural Computation. 1990.-№2.-P. 270-273.

76. Fukuda T., Shibata T., Tokita M., Mitsuoka T. Neural network application for robotic motion control. Adaptation and learning. //INNC'90, 1990. -P. 447-451

77. Girosi F., Poggio T. Represetation propeties of networks: Kolmogorov's theorem is irrelevant //Neural Computation, 1989. -Voll.- P. 465-469.

78. Girosi F., Poggio T. Networks and the best approximation property // Biological Cybernetics, 1990, Vol 63.- P. 169-176.

79. Gues A., Eilbert J., Kam M. Neural Network architecture for control. //IEEE Cont. Syst. Mag., 1988. -P. 22-25.

80. Hebb D.O. Organization of behavior: a neuropsychological theory. N.Y.: Science Editions,. 1949. -453 p.

81. Hopfield J.J. Neural networks and phisical systems with emergent collective computational abilities // Proc. of the National Academy of Sciences, 1982.- №79.-P. 25542558.

82. Hornic K., Stinchcombe M., White H. Multilayer feedforward networks are universal approximators. //Neural Networks, 1989.-№2.-P. 359-366.

83. Hunt K.J., Sbarbaro D., Zbikowski R. and Gawthrop P.J. Neural Networks for Control Systems.- A Survey // Automatica, 1992.- Vol. 28.- № 6.- P. 1083-1112.

84. D. Karaboga, D.T. Pham Training Elman and Jordan network for system identification using genetic algorithm // Artificial Intelligence in Engineering. Vol 13.- №2.-April 1999. - P.34-43.

85. Levin A.U., Narendra K.S. Control of nonlinear dynamical system using neural networks: Controllability and Stabilization. //IEEE Trans, on Neural Networks, 1993. -Vol. 4.-№2.-P. 192-206.

86. Levin A.U., Narendra K.S. Control of nonlinear dynamical system using neural networks. Part II: Observability, Identification and Control. //IEEE Trans, on Neural Networks, 1996. -Vol. 7. -№1. P.30-42.

87. Miller W.T., Sutton R.S. and Werbos P.J. (eds.) Neural Networks of Control. MIT Press, Cambridge, MA, 1990.

88. Narendra K.S. Neural Networks for Control, 1990,-Chapter 5. -P.l 15-142,- MIT Press, Cambridge, MA.

89. Narendra K.S., Parthasarathy K. Identification and Control of dinamic system using neural networks // IEEE Trans, on Neural Networks, -1990.- Vol 1.-P.4-27.

90. Nguen D., Widrow B. Neural Network for self- learning control system. //IEEE Cont. Syst. Mag. 1990.

91. Psaltis D., Sideris A., Yamamura A.A. A multylayered neural networks controller. //IEEE Cont. Syst. Mag., 1988. -№8. -P. 17-27.

92. Psaltis D. Neural Controllers // Proc. Of IEEE 1st Int. Conf. On Neural Networks, 1987.-Vol. 4.-P. 551-558.

93. Rumelhart D.E., Hinton G.E., Williams R.J. Learning integral representations by error propagation. In D.E. Rumelhart and J.L. MacClelland (eds.) // Parallel Distributed Processing.- MIT Press, Cambridge , MA (USA).

94. Sato M. Real time learning algorithm for recurrent analog neural networks. //Biological Cybernetics. 1990.-№62.-P. 237-241.

95. Sira-Ramirez H.J., Zak S.H. The adaptation of perceptron with application to inverse dynamics identification of unknown dynamic system. //IEEE Trans, on Systems, Man and Cybernetics, 1991.-Vol. 21.-№3. -P. 634-642.

96. Timofeev A.V., Bogdanov A.A. Methods of nonlinear neural element informatively evaluation in neural networks. //Int. Journal of information theories and applications. 1996.-Vol. 4. -P. 22-29.

97. Warwick K., Irwin G.W., Hunt K.J. (eds.) Neural Networks of Control and Systems.* London, Peter Peregrinus, 1988.

98. Werbos P.J. Beyond regression: new tools for predictions and analysis in the behavioral sciences. Ph. D. Thesis, Harvard University, Cambridge, MA, 1974.

99. Widrow B. Adaptive Inverse Control // In Preprints of 2nd IF AC Workshop Adaptive System in Control and Signal Processing.- Lund, Sweden, 1986.- P. 1-5.

100. Williams R.J., Zipser D. Experimental analysis of the real time recurrent learning algorithm. //Connection Science. 1989.-№1.-P.87-111.

101. Yabuta Т., Yamada Т. Nonlinear neural network controller for dynamic system. //IECON'90. 1990.-P. 1244-1249

102. Zeigler J.C., Nichols B. Optimal setting for automatic controllers. //Trans. ASME. 64. 1942. -P. 759-768.

103. Hiki C. Adaptive neural networks. //Image Processing. 1992.-№3.-P.5

104. Демидович Б.П. Лекции по математической теории устойчивости. -М.: Наука. 1967. - 472 с.

105. Simon Haykin Neural Networks: A comprehensive Foundation. -New Jersey: Prentice Hall. 1999. -842 p.

106. Терехов B.A., Ефимов Д.В., Тюкии И.Ю., Антонов В.Н. Нейросетевые системы управления. СПб.: Изд-во С-Петербургского университета - 1999. -263 с.

107. Шеметов В.Ю. Разработка, исследование и цифровая реализация адаптивных систем управления с мажорирующими функциями для многостепенных механических объектов. Автореферат дис. на соискание ученой степени к.т.н. -СПб.: 1994.-23 с.

108. Понтрягин Л.С. Обыкновенные дифференциальные уравнения. -М.: Наука, 1982. 332 с.

109. Срагович В.Г. Адаптивное управление. -М.: Наука, 1981. -384 с.

110. Narendra K.S., Annaswany A.M. A new adaptive law for robust adaptation without persistent excitation// IEEE Trans. Aut. Control, 1987. №2. - P. 134-145.

111. Поляхов Н.Д., Путов В.В. Адаптация и идентификация автоматических систем: Учебн. пособие. / ЛЭТИ . -Л.: 1984. 80 с.

112. Путов В.В., Тимчук Н.А. Новые методы адаптивного управления в нелинейных электромеханических системах // Материалы IX межд. науч.-техн. конф. "Экст-ремальная робототехника", г.Санкт-|Петербург, 1998г.- СПб.: СПбГТУ, 1998.-С.231-237.

113. Putov V.V., Timtchuk N.A., Giedim D.A. New methods of intelligent contol in nonlinear electromechanichal systems// Труды докл. 3-го межд. симп. "Интеллек-туаль-ные системы".- Псков, 30 июня-3 июля 1998 г.- М.: ООО "ТВК".-1998.-С.85-86.

114. Maudit N., Duarant H., Gobert J., Sirat J. L Neuro 1.0: a piece of hardware LEGO for building neural network systems.// IEEE Transactions on Neural Networks. 1992. - 9(3). - P.4144-4222.

115. Lorentz G.G. Approximation of function.-Holt, Reinhart and Winston.-NY: 1966.-125 P.

116. Sprecher D.A. On the structure of continuos functions of several variables. // Transactions of the American mathematical Society., 1965. -№.115 P. 310-355

117. Girosi F., T. Poggio Representation properties of networks: Kolmogorov's theorem is irrelevant. //Neural Comp., 1989. № 1. P. 465-469

118. V. Kurkova Kolmogorov's theorem and multilayer neural networks, 1992. №5 -P. 501-506.

119. D.E. Rumelhart, J.L. McClelland and the PDP research group eds. Parallel distributed processing: explorations in the microstructure of cognition. MIT Press. -Cambridge. - MA - 1986. - Vol.1

120. D.E. Rumelhart, J.L. McClelland and the PDP research group eds. Parallel distributed processing: explorations in the microstructure of cognition. MIT Press. -Cambridge. - MA - 1986. - Vol.11

121. Chen K. Tham, Richard W. Prager Reinforcement learning for multi- linked manipulator control //Proceedings of the Intern. Conf. On Systems Research, Informatics and Cybernetics of the 1992, Baden- Baden, Germany, in August. 1992. - P. 1-6

122. E.Moriary, R.Miikkulainen Evolving obstacle avoidance behavior in a robot arm. // Proceedings of the 4-th Intern. Conf. On Simulation of Adaptive Behavior (SAB-96), cape Cod, MA, 1996. -P.357-364.

123. P. Patric van der Smagt, Ben J.A. Krose A real time learning neural robot controller//Proceedings of the 1991 ICANN 91, Espoo, Finland, June 24-28., 1991. -P. 351-356

124. M.Mitchell, B.Jhrum Explanation-based neural network learning for control// Advan-ces in Neural Information Processing Systems 5.-San Mateo, Ma.-1992.-P. 152-160.129. http://www.ice.el.utwente.nl/Finished/Neuro/peterm.htm

125. Simona N. Constructive Supervised learning algorithms for artificial neural networks.// master thesis, Delft University of Technology. 1994. - 98 P.

126. Tanaka J., Fukuda I. & Shibata T.

127. R. Gkino Nonlinear system identification using additive dynamic neural networks.// Proceedings of the 1991 ICANN 91, Espoo, Finland, June 24-28., 1991. -P. 306-312

128. A.H. Khan Feedforward neural networks with constrained weights. Dissertation on degree of Doctor of Philosophy. University of Warwick ., 1996. 216 P.

129. Falman S.E., Lebiere C. The cascade- correlation learning architecture. // Advances in neural Information Processing Systems, vol2. D.S. Teurelzky (eds). - San Mateo, CA, Morgan Kaufmann. - 1990.

130. Falman S.E. Faster learning variations on backpropagation: an Empirical Study.// In Proceedings of the 1988 Connectionist Models Summer Schools, Morgan Kaufmann

131. Richard S. Sutton Learning to predict by the methods of temporal differences. // Machine Learning. 1988. № 3. - P. 23-38.

132. Макаров И.М., Лохин В.М., Романов М.П. Харитонова Е.О. Системы управления с ассоциативной памятью // VI НТК "Робототехника для экстремальных условий". СПб.: 1996. - С. 115-123.

133. Lohin V.M., Ieremin D.M., Madiygalov R.U., Man'ko S.V., Romanov M.P., Ti-urin K.V. The Intelligent Control Systems of Electric Drives.// The 3-th World Scientific Conf. "International Workshop on Advanced Electronics Technology'95".-Moscow.-1995.