автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.02, диссертация на тему:Модифицированные функции Лагранжа и их применение в диалоговой системе оптимизации ДИСО

Введение

Глава I. Особые точки модифицированных функций Лагранжа и их связь с задачей нелинейного программирования

1.1. Определения и вспомогательные результаты.

1.2. Задача нахождения локального минимакса модифицированной функции Лагранжа

1.3. Задача нахождения локального максимина модифицированной функции Лагранжа

1.4. Задача нахождения седловой точки модифицированной функции Лагранжа

1.5. Задача нахождения локального минимума по ос. и (л. модифицированной функции Лагранжа.

Глава 2. Численные методы решения задач нелинейного программирования, основанные на использовании модифицированных функций Лагранжа.

2.1. Прямые методы модифицированной функции Лагранжа.

2.2. Метод простой итерации.

2.3. Метод Ньютона.

2.4. Двойственные методы модифицированной функции Лагранжа.

Глава 3. Две версии метода линеаризации.

3.1. Связь метода линеаризации с прямым методом модифицированной функции Лагранжа и методом точной штрафной функции

3.2. Некоторые свойства точной штрафной функции.

- 3

3.3. Вспомогательная задача первой версии метода линеаризации.

3.4. Первая версия метода линеаризации.IOO

3.5. Вторая версия метода линеаризации.

Глава 4. Библиотека программ нелинейного программирования диалоговой системы оптимизации ДИСО.

4.1. Вычислительные аспекты методов модифицированной функции Лагранжа и линеаризации.

4.2. Характеристики методов библиотеки и некоторые рекомендации по их применению.

Многие народнохозяйственные, естественнонаучные и инженерно-технические задачи носят оптимизационный характер и часто сводятся к задачам математического программирования. Методы оптимизации широко используются в прикладном системном анализе /см., например,С 1,23/. Многочисленные практические приложения способствуют бурному развитию вычислительных методов оптимизации. Опубликовано большое количество работ по методам математического программирования. Отметим хотя бы несколько монографий и учебников, вышедших за последние годы [ 3-25"].

Известно много различных численных методов нелинейного программирования. Не существует и, по-видимому, не будет существовать одного наилучшего во всех отношениях метода решения задач нелинейного программирования. Качество численного метода характеризуется многоми показателями. Свойства решаемых задач также обладают большим разнообразием. Отсутствие одного универсального численного метода приводит к необходимости создания человеко-машинных систем оптимизации, позволяющих выбирать подходящие методы для конкретной задачи и осуществлять управление процессом ее решения. При создании систем оптимизации важно иметь библиотеку программ, реализующих различные методы оптимизации, которые дополняли бы друг друга. В последнее время уделяется большое внимание созданию пакетов программ для решения задач оптимизации. Работы в этом направлении ведутся во многих организациях страны, например, в ИК АН УССР, ЦЭМИ, ВНИИСЙ, ИММ УНЦ АН СССР, Институте математики АН БССР, Институте технической кибернетики АН БССР и в других организациях. В ВЦ АН СССР продолжаются работы по дальнейшему развитию диалоговой системы оптимизации ДИСО, которая предназначена для решения в диалоговом, автоматическом или пакетном режимах следующих задач: безусловной минимизации, нелинейного программирования, оптимального управления, решения систем нелинейных уравнений, глобальной оптимизации, многокритериальной оптимизации. Система ДИСО предназначена для БЭСМ-6, в настоящее время завершается ее переработка для ЭВМ типа СМ-4.

Библиотека программ методов нелинейного программирования в ДИСО достаточно обширна, в нее вошли методы с различными свойствами, по возможности дополняющими друг друга и по-разному ведущими себя на различных этапах вычислительного процесса решения задачи. Разработке численных методов, которые обладают удачно дополняющими друг друга свойствами, для решения задач нелинейного программирования на основе применения различных модификаций функции Лагранжа, включению этих методов в диалоговую систему оптимизации дИСО и посвящена данная работа.

Классическая функция Лагранжа занимает важное место в нелинейном программировании. С ее помощью получаются необходимые и достаточные условия оптимальности, строятся многие вычислительные методы. Кроме того, функция Лагранжа и ряд связанных с ней понятий /множители Лагранжа, двойственная задача и т.д./ часто N имеют содержательный смысл в терминах конкретной практической задачи, помогают более глубокому ее анализу.

В 1969 г. вышли работы М.Хестенса L ZtJ и М.Пауэлла Г2.ЩJ , которые построили эффективный метод решения задачи нелинейного программирования, несколько изменив классическую функцию Лагранжа. Независимо от них аналогичные методы были предложены Ю.П.Сы-ровым и Ш.С.Чурквеидзе [Z&J и П.Хаархофом и Дж.Баесом L'ZQJ . Дальнейшее развитие это направление получило в работах А.Вержбиц-кого ГЮЗ , А.Миеле Г , б. Т. Поляка и Н.В.Третьякова С^, IЧ J ,

Е.Г.Гольштейна и Н.В.Третьякова C3SJ , Р.Рокафеллара ,

Д.Бертсекаса £Б.С.Разумихина L IS)Lio3i А.С.Антипина/."^/-^J, Г.Д.МайстровскогоГ^/Л-С/и многих других авторов. Метод fZG, г?J известен под названиями "метод множителей", "метод штрафных оценок", "метод сдвига ограничений", "метод модифицированной функции Лагранжа". Этот метод относится к двойственным методам. На внешних итерациях этого метода происходит пересчет по простым формулам множителей Лагранжа /двойственных переменных/, а на внутренних - решается задача минимизации модифицированной функции Лагранжа по прямым переменным исходной задачи нелинейного программирования.

На протяжении последних десяти лет появились работы, в ко*> торых вводились целые классы модифицированных функций Лагранжа. Ьто, например, работы К.Эрроу, Ф.Гоулда, С.ХоуГ^З > Е.Г.Гольштейна и Н.В.Третьякова W , О.Мангасариана fV9J , Б.Корта и Д.Бертсекаса , а также fs"/-^ 7 J . Модифицированные

Функции из этих классов обладают новыми полезными свойствами, отсутствующими у классической функции Лагранжа. Эти свойства могут быть использованы для получения новых условий оптимальности, новых численных методов, позволяют повысить эффективность некоторых существующих.

Как правило, все известные методы решения задачи нелинейного программирования основаны на редукции к какой-либо другой задаче или к последовательности некоторых задач. Такая редукция полезна, если эти новые вспомогательные задачи просты для численной реализации. С помощью классической функции Лагранжа исходная задача нелинейного программирования при некоторых предположениях сводится к задаче нахождения седловой точки, или к двойственной задаче /задаче на максимин/. Этой двойственной задаче присущи определенные недостатки, которые затрудняют применение некоторых численных методов нахождения максимина. Например, двойственная задача, как правило, бывает негладкой. Применение численных методов для решения прямой задачи /задачи на минимакс/, формулируемой с помощью классической функции Лагранжа, наталкивается на трудность, связанную с тем, что внутренняя задача имеет решением бесконечно большие значения множителей Лагранжа, если прямые переменные не удовлетворяют ограничениям исходной задачи нелинейного программирования. В работах, посвященных модифицированным функциям Лагранжа, центральное место обычно также отводится сед-ловой точке. При этом выявляется возможность улучшить свойства двойственной задачи, формулируемой с помощью модифицированной функции Лагранжа. Свойства прямой задачи , формулируемой с помощью модифицированной функции Лагранжа, обычно остаются такими же, как и. в случае использования классической функции Лагранжа. /см., например, IV? ¥]/.

Развиваемый в данной работе подход основан на построении таких классов модифицированных функций Лагранжа, которые позволяют свести задачу нелинейного программирования к нахождению особой точки модифицированной функции Лагранжа. Особыми точками модифицированной функции Лагранжа могут быть точки безусловного локального минимакса, безусловного локального максимина, седловая точка, точка безусловного локального минимума по прямым переменным и множителям Лагранжа. Эта редукция задачи нелинейного программирования к нахождению особой точки модифицированной функции Лагранжа позволяет либо воспользоваться известными численными методами, например, методами нахождения безусловного локального минимакса, максимина, и т.д., либо, учитывая специфику модифицированной функции Лагранжа, предложить новые.

В § I.I вводятся некоторые определения и вспомогательные утверждения. В частности в работе широко используется простейшая модификация Функции Лагранжа, предложенная Ю.Г.Евтушенко ГЧ]. Ее основное отличие от классической функции Лагранжа в том, что множители Лагранжа при ограничениях типа неравенств возводятся в квадрат. В.Г.Жаданом вL^з, 54J сшли сформулированы достаточные условия второго порядка изолированного локального минимума в терминах этой функции. В дальнейшем изложении эти условия часто используются. Приводится связь между этими условиями и достаточными условиями второго порядка в форме Мак-Кормика Г .

В § 1.2 вводится важный класс модифицированных функций Лагранжа, который при определенных условиях позволяет свести исходную невыпуклую задачу нелинейного программирования в окрестности ее локального решения к задаче нахождения безусловного локального минимакса. Т.е. в этом случае в принципе возможно с помощью известных методов поиска безусловного локального минимакса находить решение исходной задачи нелинейного программирования. Заметим, что использование для этих целей классической функции Лагранжа или ранее предлагавшихся модификаций Функции Лагранжа /например, в С не"возможно, так как у такой прямой задачи на минимакс внутренняя задача на максимум по двойственным переменным имеет неограниченной решение при недопустимых значениях прямых переменных.

В § 1.3 с помощью введенной в предыдущем параграфе вспомогательной функции, но при другом аргументе, модифицируется Функция Лагранжа. Показано, что при определенных условиях невыпуклая задача нелинейного программирования в окрестности своего локального решения сводится к нахождению безусловного локального максимина такой модифицированной функции Лагранжа. Вводятся несколько более сложным образом модифицированные функции Лагранжа, позволяющие ослабить условия, при которых исходная задача сводится к задаче на безусловный локальный максимин.

В § 1.4 с помощью введенных ранее вспомогательных функций рассматриваются некоторые классы модифицированных функций Лагранжа, которые позволяют при определенных условиях свести задачу нелинейного программирования к нахождению седловой точки модифицированной функции Лагранжа. Для многих численных методов нахождения седловой точки требуется, чтобы матрица вторых производных по прямым переменным, вычисленная в седловой точке, была положительно определена,' а матрица вторых производных по двойственным переменным, вычисленная в седловой точке, была отрицательно определена. Для введенных модификаций функции Лагранжа это полезное свойство выполняется.

В § 1.5 вводится класс модифицированных функций Лагранжа, который позволяет при определенных условиях свести исходную задачу нелинейного программирования в окрестности ее локального решения к задаче нахождения безусловного локального минимума по прямым и двойственным переменным.

Итак, введенные с помощью некоторых достаточно простых вспомогательных функций классы модифицированных функций Лагранжа позволяют при довольно естественных предположениях свести общую задачу нелинейного программирования в окрестности ее локального решения к задаче нахождения особой точки модифицированной Функции Лагранжа. Свойства задачи нахождения особой точки /например, достаточная гладкость/ позволяют воспользоваться некоторыми известными численными методами или, используя специфику модифицированной функции Лагранжа, предложить более эффективные.

В первых трех параграфах главы 2 рассматриваются прямые методы модифицированной Функции Лагранжа, введенной в § 1.2. Это очень важный класс.методов. На внешних итерациях прямого метода производится пересчет прямых переменных по простым формулам, а на внутренних - решается задача максимизации модифицированной Функции Лагранжа по двойственным переменным. Т.е. специфика модифицированной Функции Лагранжа позволяет вместо применеия известных методов нахождения локального минимакса предложить новые методы, состоящие, по-еути дела, в решении задачи безусловной максимизации по двойственным переменным и решении системы нелинейных уравнений в прямых переменных. Для решения системы рассмотрено применение метода простой итерации и метода Ньютона.

В § 2.4 рассмотрены двойственные методы с модифицированными функциями Лагранжа, введенными в предыдущей главе. Показано, что к этим модифицированным функциям целесообразно применять известные методы нахождения локального максимина. В этом параграфе приводится обзор некоторых двойственных методов из L"i>"0 . Двойственные методы "симметричны" прямым методам модифицированной Функции Лагранжа. В двойственных методах модифицированной Функции Лагранжа на внешних итерациях производится пересчет множителей Лагранжа по простым формулам, а на внутренних итерациях решается задача безусловной минимизации по прямым переменным модифицированной функции Лагранжа. й в прямом,и в двойственном методах основной объем вычислений приходится на решение внутренней задачи на безусловный экстремум. Но прямые методы требуют значительс? но меньше обращений к вычислению функций, определяющих исходную задачу нелинейного программирования, чем двойственные.

Методы главы 2 являются локальными методами, т.е. сходятся из начальных точек, близких к решению. Вопросу расширения области сходимости методов типа прямого метода модифицированной Функции Лагранжа посвящена третья глава. В этой главе предлагаются две версии метода линеаризации и рассматривается их связь с прямым методом модифицированной функции Лагранжа. В §§ 3.1, 3.2 приводятся некоторые вспомогательные сведения о негладких штрафных функциях. В § 3.3 формулируется и исследуется, вспомогательная задача линейного программирования, которая используется для нахождения направления спуска в первой версии метода линеаризации. В § 3.4 доказывается сходимость первой версии метода линеаризации, а в § 3.5 приводится вторая версия метода линеаризации. В предлагаемых версиях используется вспомогательная задача линейного программирования. В этом их основное отличие от метода линеаризации Б.Н.Пшеничного Г5*3] , в котором вспомогательная задача - задача квадратичного программирования.

Глава 4 посвящена особенностям численной реализации прямого метода модифицированной функции Лагранжа и двух версий метода линеаризации, которые вошли в библиотеку численных методов ДИСО. Приводятся некоторые результаты вычислительного эксперимента, . краткая сравнительная характеристика методов нелинейного программирования из библиотеки методов ДИСО и рекомендации по применению методов.

В приложении приводится пример практической задачи, успешно решеной с помощью прямого метода модифицированной функции Лагранжа системой ДИСО.

ЗАКЛЮЧЕНИЕ

В работе получены следующие основные результаты.

1. Введены новые классы модифицированных функций Лагранжа, которые позволяют свести исходную задачу нелинейного программирования к более простой задаче нахождения особой точки модифицированной функции Лагранжа.

2. Используя специфику предложенных модифицированных функций Лагранжа, разработаны эффективные методы решения задач нелинейного программирования, особое внимание уделено прямым методам модифицированной функции Лагранжа. Для прямых методов требуется наименьшее количество вычислений функций задачи нелинейного программирования,поэтому особенно целесообразно применять их для решения таких задач нелинейного программирования, у которых вычисление целевой функции и ограничений требует много времени. Прямые и двойственные методы дополняют друг друга по своим свойствам. Показано, когда можно применять известные методы нахождения особых точек.

3. Предложены версии метода линеаризации,которые в качестве вспомогательной задачи решают задачу линейного программирования и имеют большую область сходимости. Показана связь метода линеаризации с прямым методом модифицированной функции Лагранжа.

4. Наиболее эффективные из предложенных методов включены в библиотеку программ методов диалоговой системы оптимизации ДИСО. Рассмотрены вычислительные аспекты прямого метода модифицированной функции Лагранжа и метода линеаризации. Приводятся описание библиотеки программ методов нелинейного программирования ДИСО и краткие характеристики этих методов. Даны рекомендации по применению методов нелинейного программирования для решения задан в системе ДИСО.

5. С помощью системы оптимизации ДИСО решен ряд практических задач, решение которых стало возможным благодаря применению разработанных методов модифицированной функции Лагранжа и версий метода линеаризации.

1. Моисеев Н.Н. Математические задачи: системного анализа. -М.: Наука, 1981;

2. Гиг Дж. Прикладная общая теория систем.- М.: Мир, 1981.

3. Васильев Ф.П. Численные методы решения экстремальных задач.-М.: Наука, 1980.

4. Габасов Р., Кириллова Ф.М. Методы оптимизации.-Минск: БГУ, 1975.

5. Гроссман К., Каплан А.А. Нелинейное программирование на основе безусловной минимизации.- Новосибирск: Наука, 1981.

6. Демьянов В.Ф., Васильев Л.В. Недифференцируемая оптимизация. -И.: Наука, 1981.

7. Евтушенко Ю.Г. Методы решения экстремальных задач и их применение в системах оптимизации.-M.S Наука, 1982.

8. Еремин И.И., Астафьев Н.Н. Введение в теорию линейного и выпуклого программирования.- М.: Наука, 1976.

9. Еремин И.И., Мазуров В.Д., Астафьев Н.Н. Несобственные задачи линейного и выпуклого программирования.-М.: Наука, 1983.

10. Ермольев Ю.М. Методы стохастического программирования.- М.: Наука, 1976.

11. Карманов В.Г. Математическое программирование.-М.: Наука,1980.

12. Моисеев Н.Н., йванилов Ю.П., Столярова Е.М. Методы оптимизации. -М.: Наука, 1978.

13. Мухачева Э.А., Рубинштейн Г.Ш. Математическое программирование. Новосибирск: Наука, 1977.

14. Первозванский А.А., Гайцгори В.Г. Декомпозиция, агрегирование,, и приближенная оптимизация.-М.: Наука, 1979.

15. Поляк БЛ. Введение в оптимизацию.-М.:Наука, 1983.

16. Пропой A.M. Элементы теории оптимальных дискретных процессов.-М.: Наука, 1973.

17. Пшеничный Б.Н., Данилин D.M. Численные методы в экстремальных задачах.-М.:Наукаr 1975

18. Пшеничный Б.Н. Метод линеаризации.-М.:Наука, 1983.

19. Разумихин Б.С. Физические модели и методы теории равновесия в программировании и экономике.-М.: Наука, 1975.

20. Романовский И.Б. Алгоримы решения экстремальных задач.-М.: Наука, 1977.

21. Стронгин Р.Г. Численные методы в многоэкстремальных задачах.-М.: Наука, 1978.

22. Федоренко Р.П. Приближенное решение задач оптимального управления." М.: 1978.

23. Федоров В.В. Численные методы максимина.- М.: Наука, 1979.

24. Шор Н.З. Методы минимизации недифференцируемых функций и их приложения.-Киев: Наукова думка, 1979.

25. Юдин Д.Б. Задачи и методы стохастического программирования.-М.: Сов. радио, 1979.

26. Hestenes M.R. Multiplier and gradient methods. JOTA, 1969, v. 4, N 5, 3o3-3o2.

27. Powell M.J.D. A method for nonlinear constraints in minimization problems,-In:Optimization. N.Y., Acad. Press, 1969.

28. Сыров Ю.П., Чурквеидзе Ш.С. Вопросы оптимизации межотраслевых и межрайонных связей при планировании развития единой народнохозяйственной системы.- Иркутск: Иркутский йн-т народн. хоз-ва, 1970.

29. HaarhoffP., Buyes J. A new method for the optimization of a nonlinear function subject to nonlinear constraints.-Сотр. J., 1970, 13, N 2, 171-177.

30. Wierzbicki A,P. A penalty function shifting method in constrained static optimization and its convergence properties.-Arch. Automat. Telemech., 1971, v. 16, 395-416.

31. Miele A., Cragg E.E., (Iver R.R.), Levy A.V. Use of the augmented penalty function in mathematical programming problems I/II- JOTA, 1971, v. 8, 115-130, 131-153.

32. Поляк Б.Т., Третьяков Н.В. Ободном итерационном методе линейного программирования и его экономической интерпретации. -Эконом, и матем. методы, 1972, т.8, №5, с. 740-751.

33. Поляк Б.Т., Третьяков Н.В. Метод штрафных оценок для задач на условный экстремум. 1. вычисл. матем. и матем. физ., 1973, т. 13,. 34-46.

34. Голыптейн Е.Г., Третьяков В.Н. Градиентный метод минимизации и алгоритмы выпуклого программирования, связанные с модифицированными функциями Лагранха.- Эконом, и матем. методы, 1975, т. 9, № 4, 730-742.

35. Rockafellar R.T. The multiplier method of Hestenes and Powell applied to convex programming. JOTA, 1973, v. 12, p. 555562.

36. Rockafellar R.T. Augmented Lagrange multiplier functions and. duality in nonconvex programming.-SIM J. Control, 1974,v. 12, N 2, 268-285.

37. Bertsekas D.P. Combined primal-dual and penalty, methods for constraind minimization.-SIM J.Control, 1975,v.13, 521-545.

38. Bertsekas D.P. Multiplier methods: a survey.-Automatica, 1976, v.12, 133-145.

39. Раёумихин Б.С. Эластичные сязи и метод штрафных функций.- В кн.:. Модели и методы оптимизации, вып.З. М.: ВНИИСИ, 1980, с. 5-20.

40. Антипин А.С. О методе выпуклого программирования, использующем симметричную модификацию функции Лагранжа. Эконом, и матем. методы, 1976, т.9, № б, 1164 - 1173.

41. Антипин А.С. Методы градиентного типа для отыскания седловой точки модифицированной функции Лагранжа. Эконом, и матем. методы, 1977, т 13, If? 3, I5I-I6I.

42. Антипин А.С. Методы нелинейного программирования, основанные на прямой и двойственной модификации функции Лагранжа. Препринт.-!. : ВНИЙСИ, 1979.

43. Майстровский Г.Д. О скорости сходимости градиентного метода для модифицированной функции Лагранжа. Эконом, и матем. методы, 1979, т. 17, № 3, 765-768.

44. Майстровский Г.Д. Градиентный метод для модифицированной функции Лагранжа.- Ж. вычислит, матем. и матем. физ., 1979, 19, № I, 56-69.

45. Arrow K.J., Gould F.J., Howe S.M. A general saddle point result for constrained optimization.-Math. Programming, 1973, v.5, N 2, 225-234.

46. Голыптейн Е.Г., Третьяков H.B. Модифицированные функции Лагранжа. Эконом, и матем. методы, 1974, 10, № 3, 568-591.

47. Голыптейн Е.Г., Третьяков Н.В. Модифицированные функции Лагранжа и их применение. Эконом, и матем. методы, 1983, т.19, В 3, 528-547.

48. Mangasarian О.Ъ. Unconstrained Lagrangians in nonlinear programming.-SIAM J. Control, 1975, v.13, N 4, 772-791.

49. Kort B.f., Bertsekas D.P. Combined primal-dual and penalty methods for convex programming.- SIAM J. Control Optimization, 1976, v. 14, N 2, 268-294.

50. Голиков А.И., Евтушенко Ю.Г. Об одном классе методов решения задач нелинейного программирования.-Докл. АН СССР, 1978,т. 239, № 3, 519-522.

51. Евтушенко Ю.Г. Применение модифицированных функций Лагранжа для решения задач нелинейного программирования. В кн.: Исследование операций, вып. 7, М.: ВЦ АН СССР, 1979, 3-23.

52. Голиков А.й., Жадан В.Г. Итеративные методы решения задач нелинейного программирования с использованием модифицированных функций Лагранжа.-S. вычисл. матем. и матем.физ. 1980, т. 20, № 4, 874-888.

53. Жадан З.Г. Модифицированные функции Лагранжа в нелинейном программировании.- Ж. вычисл. матем. и матем. физ. 1982, т. 22, № 2, 297-308.

54. Евтушенко Ю.Г. Численные методы нелинейного программирования. Докл. АН СССР, 1975, т. 221, № 5, I0I6-I0I9.

55. Фиакко А., Мак-Кормик Г. Нелинейное программирование. Методы последовательной безусловной минимизации.-M.i Мир, 1972.

56. Пшеничный Б.Н. Алгоритм для общей задачи математического программирования.-Кибернетика, 1970, № 5, 120-125.

57. Беллман Р. Введение в теорию матриц. М.: Мир, 1975.

58. Голиков А.Й., Жадан В.Г. Об одной модификации функции Лагранжа для задачи нелинейного программирования. В кн.: Всесоюзный научно-технический семинар "Численные методы нелинейногопрограммирования", ч. I, М., 1979, II4-II6.

59. Голиков А.й. Применение модифицированных функций Лагранжа для решения задач нелинейного программирования.-В кн.: Системы программного обеспечения решения задач оптимального планирования, М.: ЦЭМИ, 1980, 52-54.

60. Boggs P.Т., Tolle J.W. Augmented Lagrangians which are quadratic in the multiplier.-JOTA, 1980, v.31, H 1, 17-26.

61. Di Pillo G., Grippo L. A new class of augmented Lagrangians in nonlinear programming.-SIM J. Control and Optimization, 1979, v. 17, N 5, 618-628.

62. Hestenes M.R. Optimization Theory. The finite dimensional caa'e. John Wiley, U. Y., 1975.

63. Численные методы условной минимизации/Под ред. Ф.Гилла, У.Мюррея.- М.: Мир, 1977.

64. Fletcher R. A class of methods for nonlinear programming with termination and convergence properties. Integer and nonlinear programming. Amsterdam, North-Holland, 1970.

65. Fletcher R. An exact penalty function for nonlinear programming with inequalities.-Math. Program., 1973, v. 5, N 2, 129-150.

66. Mukai H., Polak E. A quadratically convergent primal-dual algorithm with global convergence properties for solving optimization problems with equality constraints.- Math, program., 1975, v. 9, Я 3, 336-349.

67. Ортега Дж., Рейнболдт В. Итерационные методы решения нелинейных систем уравнений со многими неизвестными.-М.: Мир, 1975.

68. Голиков А.И. Метод Ньютона для решения задач нелинейного программирования с использованием модифицированных функций Лагранжа. В кн.: Методы математического программирования и их программное обеспечение. Свердловск, 1981, 43-44.

69. Гантмахер Ф.Р. Теория матриц. М.: Наука, 1966

70. Tapia R.A. Diagonalized multiplier methods and quasi-newton methods for constrained optimization.-JOTA, 1977, v. 22, N 2, 135-194.

71. Byrd R.H. Local convergence of the diagonalized method of multiplier.-JOTA, 1978, v. 26, N 4, 485-500.

72. Griffith R.E., Steward R.A. A nonlinear programming technique for the optimization of continuons processing systems.-Manag. Sci., 1961, v. 7, N 4, 379-392.

73. Химмельблау Д. Прикладное нелинейное программирование. М.: Мир, 1975.

74. Федоренко Р.П. Об одном алгоритме решения задач математического программирования. Ж. вычисл. матем. и матем. физ., 1982, т. 22, №6, I33I-I343.

75. Han S.-P. A globally convergent method for nonlinear programming. -JOTA, 1977, v. 22, 297-309.

76. Голиков А.И., Жадан В.Г. О некоторых вариантах метода линеаризации. В кн.: Методы математического пршграммирования и ихпрограммное обеспечение. Свердловск, 1981, 45-46.

77. Голиков А.И., Жадан В.Г. Две модификации метода линеаризации в нелинейном программировании. Ж. вычисл. матем. и матем. физ., 1983, т. 23, № 2, 314-325.

78. Демьянов В.Ф., Малоземов В.Н. Введение в минимакс. М.: Наука, 1972.

79. Еремин И.И. Метод штрафов в выпуклом программировании. -Докл. АН СССР, 1967, т. 173, № 4, 748-756.

80. Скарин В.Д. О методе штрафных функций для задач нелинейного программирования. Ж. вычисл. матем. и матем. физ., 1973, т. 13, № 5, II86-II99.

81. Han S.-P., Mangasarian O.L. Exact penalty functions in nonlinear programming.-Mathem. Program., 1979, v. 17, 251-269.

82. Голиков А.И. Метод внешних центров и негладкие штрафные функции. В кн.: Системы программного обеспечения решения задач оптимального планирования. К.: ЦЭМИ, 1982, 125-126.

83. Панин В.М. Об одном условии сходимости метода линеаризациив задаче выпуклого программирования. В кн.: Теория оптимальных решений. Киев: ИК АН УССР, 1978, 65-71.

84. Зойтендейк Г. Методы возможных направлений. М.: Изд-во иностр. лит., 1963.

85. Powell M.J^l. A fast algorithm for nonlinearly constrainedhoptimization calculus.-Proceeding of the 1977 Dundee Biennial Conference on numerical Analysis, Springer-Verlag, 1978.

86. Tone K. Revisions of constraint approximations in the successive QP method for nonlinear programming problems.-Mathem. Program., 1983, v. 26, 144-152.

87. Пшеничный Б.Н., Соболенко Л.А. Ускорение сходимости метода линеаризации для задачи условной минимизации. Я. вычисл. матем. и матем. физ., 1980, т.20, № 3, 605-614.

88. Евтушенко Ю.Г., Бурдаков О.П., Голиков А.И. и др. Диалоговый комплекс программ ДИСО. Раздел нелинейное программирование /версия 2/. Депонир. в ВИНИТИ № 2716-82, 1982, 87 с.

89. Богомолов Н.А, Карманов В.Г. О методе вычисления стационарных точек общей задачи нелинейного программирования. Ж. вычисл. матем. и матем. физ., 1977, т. 17, № I, 72-78.

90. Topkins D.M., Veinott A.J. On the convergence of some feasible directions algorithms for nonlinear programming.-SIAM j, Contr., 1967, v. 5, N 2, 268-279.

91. Бурдаков О.П., Веселов Е.Н., Голиков А.И. и др. Диалоговая система оптимизации /ДИСО/. /ВЦ АН СССР, декабрь 1979, 142с./. Алгоритмы и программы. Информационный бюллетень Госфонда алгоритмов и программ СССР. 1981, № 1-2, П004649.

92. Голиков А.Й., Грачев Н.И. Применение диалоговой системы ДИСО для расчета КПД ветряного двигателя.- В кн.: Пакеты прикладных программ. Методы оптимизации. М.: Наука, 1984.

93. Косарев Г.Л. Изучение строения земной коры под сейсмической станцией по спектрам продольных сейсмических волн.-Физика Земли, 1971, J& 7, 31-39.

94. Бурдаков О.П. Методы типа сопряженных направлений для решения систем уравнений и поиска седловых точек.-Технич. кибернетика, 1982, № 3, 17-24.