автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Устойчивые методы отыскания особых решений нелинейных задач

ггз од

На правах рукописи

ИЗМАШЮВ Алексей Феридович

УСТОЙЧИВЫЕ МЕТОДЫ ОТЫСКАНИЯ ОСОБЫХ РЕШЕНИЙ НЕЛИНЕЙНЫХ ЗАДАЧ

05.13.17 - теоретические основы информатики 01.01.09 - математическая кибернетика

Автореферат диссертации на соискание ученой степени доктора физико-математических наук

Москва, 1998

Раоота выполнена в Вычислительном Центре Российской Академии Наук.

Официальные оппоненты: доктор физико-математических наук

Антипин A.C.

доктор физико-математических наук, профессор Арутюнов A.B. доктор физико-математических наук, профессор Васильев Ф.П.

Ведущая организация: Математический институт РАН

Защита состоится " ^ " 1993 г. в ^ час.

0 ° мин. на заседании диссертационного совета Д002.32.06 при Вычислительном центре РАН по адресу:

117967, Москва, ул.Вавилова, д.40, конференц-зал.

С диссертацией можно ознакомиться в библиотеке ВЦ РАН.

Автореферат разослан " ^ " 1998 г.

Ученый секретарь диссертационного совета

Швартин G.M.

ОБЩАЯ ХАРАКТЕРИСТИКА ДИССЕРТАЦИИ

Актуальность теин. Еще в 70-е гг. прошлого века было установлено (Е.Schröder), что метод Ньютона локально сходится к кратному корню одного скалярного уравнения с одним неизвестным лишь с линейной скоростью, но квадратичная скорость сходимости может Оыть восстановлена путем домнокения стандартного шага метода на кратность корня. Эти же вопросы, но уже для многомерных уравнений, были вновь подняты в 60-е гг. нынешнего столетия (L.В.Rail). Особенно активно проблематика содержательной характеризации и численного отыскания нерегулярных решений нелинейных задач разрабатывается как отечественными (Е.Р.Аваков, А.А.Аграчев, А.В.Арутшов, А.Б.Бакушинский, К.Н.Белаш, Н.А.Бобылев, Р.В.Гамкрелидзе, Ю.М.Данилин, Д.В.Денисов, В.М.Задачин, М.А.Красносельский, В.И.Мелешко, А.А.Третьяков), так и зарубежными (D.W.Decker, A.O.Grlewank, А.Ноу, H.B.Keller, C.T.Kelley, A.J.Krener, U.Ledzewicz, F.Lemplo, T.OJika, M.R.Osborne, G.ff.RedLcLien, H.Schattier, R.Schulze, R.Seydell, R.B.Simpson, N.Yamamoto, J.Zowe и др.) исследователями в течение последних двадцати лет. Тем не менее, многие важные вопросы в рамках данной тематики не решены; решению некоторых из них и посвящена настоящая диссертация.

Проблема сосотоит в том, что в окрестности своей нерегулярной (особой, критической, вырозденной, анормальной) точки нелинейное отображение не допускает адекватного линейного приближения. Именно поэтому важнейшие результаты классического нелинейного анализа (теоремы о неявной функции, теорема Люстерника о касательном подпространстве, содержательная форма принципа Лагранжа и т.п.) в нерегулярном случае теряют силу. Аналогичное соображение относится и к традиционным численным методам (большинство из которых основанно на тех же идеях линеаризации) - в вырожденных ситуациях они либо вообще неработоспособны, либо неэффективны.

Практическое отыскание особых решений связано еще с одной очень существенной трудностью - в сколь-нибудь общих предположениях особые решения могут быть неустойчивы по отношению к возмущениям входных данных задачи. Этот аспект проблематики вырожденных задач в литературе фактически не освещался.

Представляется естественным, что для анализа структуры нерегулярных нелинейных отображений, а также для построения эффективных численных методов решения выровденных задач, нукно привлекать информацию о старших производных, что, в свою очередь, требует специального математического- аппарата. Основы такого аппарата были заложены в середине 80-х гг. в работах А.А.Третьякова и Е.Р.Авакова, где была введена оказавшаяся весьма продуктивной конструкция р-регулярности.

Можно перечислить целый ряд областей знания, в которых возникают прикладные вырожденные задачи. Здесь необходимо отметить следующее. Типичное нелинейное уравнение с гладким оператором особых решений не имеет. Однако, ситуация коренным образом меняется, если в задаче есть параметры, что обычно и наблюдается на практике. В этом случае существование особых решений вовсе не паталогично; более того, очень часто именно те значения параметров, при которых существуют особые решения, наиболее интересны, так как отвечают критическим, переходным режимам.

В связи со сказанным можно утверждать, что проблематика данной работы актуальна не только с теоретической, но и с практической, прикладной точки зрения.

Цель работы состоит в решении следующих задач:

- получение" общих результатов о локальном строении 2-регу-лярных особенностей (теоремы о приведении 2-регулярного отображения к "алгебраическому" виду и т.п.) и, на этой основе, исследование устойчивости 2-регулярных решений нелинейных операторных уравнений (соответствующие теоремы о неявной функции);

- разработка общего конструктивного подхода к устойчивому (по отношению к возмущениям входных данных и помехам) отысканию р-регулярных решений нелинейных задач и его эффективных реализаций, т.е. конкретных численных методов для конкретных классов нелинейных задач, в том числе краевых задач для обыкновенных дифференциальных уравнений, интегральных уравнений и экстремальных задач.

Методика исследования базируется на систематическом использовании аппарата р-фактороператоров и конструкций р-регу-лярности. Привлекаются теоретические и вычислительные методы

линейной алгебры, линейного и нелинейного анализа, теории дифференциальных и интегральных уравнений, теории экстремальных задач.

Научная новизна. В работе получены новые общие результаты о строении нелинейного отображения в окрестности особой точки, которые могут рассматриваться как идейная база теории р-рэгулярных нелинейных отображений. На основе этой теории разработан новый подход к устойчивому отысканию особых решений для широких классов нелинейных задач. Реализации этого подхода приводят к новым численным методам, работоспособным и эффективным как в регулярных, так и в весьма общих нерегулярных случаях.

Практическая ценность работы состоит в том, что развитые в-ней общий подход и конкретные численные методы составляют мощный аппарат для устойчивого практического отыскания особых решений нелинейных задач. Предложенный подход к регуляризации представляется весьма перспективным как в плане создания новых методов, так и в плане расширения круга решаемых задач.

Публикации и апробация работы. По теме диссертации опубликовано 23 работы, в том числе одна монография (в соавторстве с А.Л.Третьяковым). Материал, вошедший в диссертацию, обсуждался на семинарах отдела методов нелинейного анализа ВЦ РАН (рук. проф. Е.А.Гребеников), кафедры исследования операций факультета ВМнК МГУ (рук. проф. С.К.Завриев), кафедры оптимального управления факультета ВМиК МГУ (рук. проф. М.С.Никольский ), кафедры дифференциальных уравнений и функционального анализа РУДН (рук. проф. А.В.Арутюнов), а также были представлены на Первой советско-итальянской конференции по методам и приложениям математического программирования (Италия, 1992 Г.).

Структура и объем диссертации. Работа состоит из введения, четырех глав, объединяющих 14 параграфов, заключения, двух приложений и списка литературы, содержащего 186 наименований. Объем диссертации 306 с.

КРАТКОЕ СОДЕРЖАНИЕ ДИССЕРТАЦИИ

В главе 1 приводится постановка рассматриваемой задачи

(§ 1.1) и строится теоретическая база и аппарат исследования (§§ 1.2, 1 .3).

Пусть X и Y - вещественные банаховы пространства, V ~ открытое множество в К, точка т^еУ является решением уравнения

FQ(x) =0 (1 )

с оператором FQ: V - Y. Точку х% будем называть точныл решение.*.

Пусть J - некоторое снабженное топологией т пространство, элементами которого являются отображения, действующие из 7 в Y, FQeT. Рассматривается задача об аппроксимации точного решения хш уравнения (1), когда вместо точного отображения PQ известно его приближение Pei. Иными словами, каждому РеУ нужно поставить в соответствие элемент xFtV, причем так, чтобы выполнялись условия

= ^ (Р - Р0). (2)

Пространство (7, г) при этом называется пространствол воглушений, а элемент отвечающий заданному PeJ, - прш5лшеннил решениел.

Если существует такая окрестность U точки FQ в {7, г), что V Fill уравнение

Fix) = 0 (3)

имеет решение xFz.V, причем выполнено (2), то точное решение х% естественно назвать устойчивым по отношению к возмущениям оператора уравнения (1) в пространстве (7, г). Задача отыскания такого решения является корректной в некотором естественном смысле, близком к классическому - уравнение (3) с оператором, "близким" к точному оператору FQ, имеет решение, близкое к точному решению Для аппроксимации устойчивых решений можно использовать богатый арсенал традиционных численных методов применительно непосредственно к возмущенному уравнению (3).

Если же гарантировать устойчивость точного решения нельзя, то для его аппроксимации нужно применять специальные подходы, основанные на той или иной регуляризации задачи. Одному из таких подходов, ориентированному на уравнения с гладкими операторами, и посвящена настоящая диссертация. Подчеркнем, что все рассмотрения носят локальный характер; в частности, на

оператор FQ уравнения (1) не накладывается никаких нелокальных требований (типа монотонности, компактности, биективнос-ти, единственности решения и т.п.). К числу достоинств рассматриваемого подхода следует отнести то, что получаемые с его помощью методы не используют принципиально количественной информации о близости имеющихся входных данных к точным и какой-либо нестандартной априорной информации о точном решении (здесь нет противоречия, поскольку приведенная постановка -условно корректная задача вычисления). G другой стороны, применение этого подхода обычно требует достаточно хорошей локализации точного решения.

Важнейшую роль в дальнейших построениях играет § 1.2 - он содержит необходимые конструкции и факты теории р-регулярнос-ти (в том числе и новые), являющейся теоретической базой данного исследования.

Прежде всего, речь идет о локальной структуре нелинейного отображения - о возможность его приведения невырожденными (и по возможности гладкими) заменами переменных к более простому ("алгебраическому") виду, а также связанный с этим вопрос о строении содержащего исследуемую точку множества уровня отображения. Многие результаты классического анализа и многие численные метода решения нелинейных задач основаны на идее линеаризации. А именно, если достаточно гладкое отображение Fq: V - Y регулярно в точке т.е.

Im Fq'(*„) = Y, ' (4)

то в окрестности х^ оно адекватно аппроксимируется своим линейным приближением (первым дифференциалом), и к этой аппроксимации можно применять всю мощь аппарата линейного анализа. В конечномерной терминологии, такое отображение в некоторой гладкой криволинейной системе локальных координат (совпадающей с исходной-с точностью до членов высших порядков малости) становится линейным. Отсюда немедленно следует, например, находящая широкие применения в теории экстремальных задач классическая теорема Люстерника о касательном подпространстве. Более того, в соответствующих требованиях гладкости множество уровня М = CreVI FQ(x) = Fq(хц)) отображения FQ локально диф-феоморфно касательному к'Л в точке хш подпротранству ТМ) = = Ker F' (£„,). В частности, если dim К < то в пересечении

-ec некоторой окрестностью хщ множество M является гладким подмногообразием в X размерности nul FQ' {х^ ).

Если ке хщ - особая точка отображения FQ, т.е. (4) не выполняется, то линеаризация FQ в указанном смысле, вообще говоря, невозможна. В таких случаях в представлении отображения PQ естественно использовать старшие дифференциалы, но это требует специального математического аппарата. Хорошо известный результат такого рода - лемма Морса, в соответствии с которой в случае, когда X - гильбертово пространство, a Y = = к, гладкая функция FQ в окрестности ее невырожденной критической точки х% может быть гладкой невырожденной заменой переменных сделана квадратичной. Если же dim Y > 1, то полный аналог леммы Морса не имеет места (на это указали Е.Р.Аваков, А.А.Аграчев и А.В.Арутюнов). Тем не менее, теоремы о линеаризации и при dim Y > 1 допускают вполне содержательные обобщения на нерегулярный случай, достаточные для многих важных приложений и содержащие в себе лемму Морса как частный случай.

Основу используемого аппарата составляет конструкция 2-ре-гулярности. Всюду далее предполагаем, что подпространство 5Г1 = Im F ' (a:,) топологически дополняемо в У, Yz - его топологическое дополнение (т.е. Y замкнуто, Yz - замкнутое прямое дополнение Y ' в Y). При этом проектор Р на Г2 вдоль F1 в Y (так называется линейный оператор Р: Y - Y, однозначно определяемый условиями: Р2 = Р, Im Р = У , Кег Р = Y1) по необходимости непрерывен, как и дополнительный к нему проектор fi = I - Р, т.е. Р, RíC(Y, Y). Предполагая двукратную диффе-ренцируемость по Фреше отображения FQ в точке введем семейство линейных операторов

®2(Р. ЮеШ, Y), Ф2(Р, h) = Fq' (хг) + РР0"(^)1?г], heX, называемых 2-фактороператорали.

Определение 1. Отображение FQ называется (правильно) 2-регулярных 6 точке х% на элелете hei, если

Im Ф2(Р, h) = Y (если оператор Ф£(Р, h) биективен).

Определение 2. Отображение FQ называется 2-ре-гулярныл в точке хм на лножестве H с X, если оно 2-регуляно в этой точке на любом элементе híH.

В теории экстремальных задач активно используются следующие два понятия.

Определение 3. Отображение Р0 называется 2-ре-гулярныл в точке х„, если оно 2-регулярно в этой точке на множестве Г2(:г#)\{0}, где

Тг{хш) = (ЛеКег Р0' РР0"(^)С?г]г = 0).

Определение 4. Отображение Р0 называется сильно 2-регулярные в точке если 3 число а>0 такое, что эир {|СФг(Р, Л)}-1|| ЫЕга(х^), |/г| = 1 > < оо,

где

С точки зрения численных методов полезно также следующее Определение 5. Отображение Р0 называется (правильно) ¿-разрешимых в точке хщ, если оно (правильно) 2-регу-лярно в этой точке хотя-бы на одном элементе ТгеКег Р0' (£„).

Условия 2-регулярности на самом деле инвариантны по отношению к выбору проектора Р (т.е. к выбору дополнения подпространства У ). Кроме того, условия 2-регулярности вводятся и без предположения о топологической дополняемости У1 инвариантным образом, с помощью факторизации пространства У по У, и с использованием вместо проектора Р канонического проектора тс: У -» У/У (отсюда происходит введенный А.А.Третьяковым термин "факторанализ нелинейных отображений").

Если отображение Р0 регулярно в точке хш, то Р = 0, Фг(Р, Ю - Р ' (х^) V йеХ, поэтому Р0 2-регулярно в точке х% на любом элементе ПеХ (точнее, любое из приведенных условий 2-регулярности слабее условия регулярности).

Классы 2-регулярных отображений достаточно широки. Например, типичное квадратичное отображение, действующее из кп в к™ при в>15 2-регулярно в нуле на типичном элементе из кп, и, в частности, 2-разрешимо в нуле.

Теорема 1. Пусть в сделанных предположениях вир {||{Ф2(Р, П)Г1|| ЫК, = 1} < оо, (5)

где К - некоторый конус в X.

Тогда 3 окрестности и точки О, Ш с у точки х^ в X и отображения (р: и П К - X, ф: И П (х^ + К) - X тате, что

а) ф(0) = хт, фи„) = 0;

б) 1ф(х) - хш - х1 = о(1г|),

Цф(х) - (х - хш)1 = o(Jx - xj);

в) PQ<ф(х)) = + F0' (х*)х +

+■ ^pfq"(хш)1х:г v х е и п к,

FQ(X) = Р0(хж) + FQ' (х„)ф(х) +

+ ^РР0"(х„)[ф(х)]г V X б IV Л (х„ + Я).

Если отображение PQ регулярно в точке х%, то условие (5) очевидно выполнено при К - К. В конечномерном случае условие (5) равносильно условию 2-регулярности FQ в точке хш на множестве K\W}; в общем же случае (5) несколько сильнее.

Особый интерес представляют частные варианты теоремы 1 для случаев К = Тг(х^) и К = X. В первом случае из теоремы 1 немедленно вытекает обобщенная теорема Люстерника, доказанная для частного случая, когда PQ'(х#) ~ 0, А.А.Третьяковым, а в полной общности Е.Р.Аваковым: если отображение FQ 2-регулярно в точке хж, то ТМ(х^) = T2(xt). Обобщенная теорема Люстерника широко применяется при построении необходимых условий оптимальности в нерегулярных экстремальных задачах.

Что же касается случая К - X, то при этом результат теоремы 1 значительно менее содержателен. Дело в том, что выполнение условия (5) при К = X, вообще говоря, паталогично (по крайней мере, при конечной и нечетной размерности пространства X и dim Y > 1), за исключением регулярного случая. Именно этот факт используется при обосновании того, что лемма Морса не может быть полностью обобщена на отображения с пространством образа произвольной размерности. Тем не менее, в терминах 2-регулярности на произвольном конусе (точнее, на конусе без вершины) такое обобщение возможно.

Теорема 2. Пусть X и Y - гильбертовы пространства, Fq(.C3 (У-*У) и для некоторого конуса К в X выполнено (5).

Тогда 3 окрестность U точки 0 в К и отображение р: U ■* X такие, что

а) р(0) = xt, р(U) - открытое лножество;

б) р осуществляет диффеолорфизл V на р(У), р '(0) =

в) PQ(р(х)) = + FQ' (х„)х +

+ ^PP^'U^Hx]2 V х е U П Я.

В регулярном случае утвервдение теоремы 2 совпадает с упоминавшимся выше утверздением о линеаризации. Если гее Y = к,

то невырожденность критической точки хш функции Р0 равносильна выполнению (5) при К = X, а сама теорема 2 превращается в лемму Морса.

Применяя теорему 2 к конусу К, натянутому на множество {Пе £Нга(х^)\ = 1), где множество Н2а(х^) взято из условия сильной 2-регулярности, получаем, что множество уровня М отображения Р0, содержащее его сильно 2-регулярную точку хг, локально диффеоморфно касательному к нему конусу ТШ(х^) = = Г2(т#). Этот результат, весьма полезный для анализа строения множества М топологическими методам, был непосредственно обоснован Е.Р.Аваковым, А.А.Аграчевым и А.В.Арутюновым. Теоремы 1 и 2 содержат в себе и ряд других результатов о структуре нелинейного отображения в окрестности 2-регулярной (в том или ином смысле) точки, принадлежащих А.А.Третьякову и Е.Р.Авакову. Смысл этой теории в том, что она позволяет сводить изучение указанной структуры к изучению линейно-квадратичной аппроксимации отображения. На таком сведении и базируются основные построения диссертации.

Что касается § 1.3, то он носит скорее технический характер, хотя и в нем содержатся некоторые факты, представляющие общетеоретический интерес (например, результаты о матричных срезках и проекторах).

Глава 2 содержит условия устойчивости решений нелинейных операторных уравнений. Далее вновь предполагается, что х^ -решение уравнения (1). Пусть элементами пространства возмущений 7 являются дважды дифференцируемые по Фреше на V отображения, причем топология т такова, что

Р11)(х) - Р0(П(х„) (?- Р0, х= 0,1,2. (6) Очевидно, эти условия выполнены, например, для любого про-станства 7 с С2(7-У) с индуцированной из Сг(У-У) топологией т.

Из стандартных теорем о неявной функции вытекает, что если отображение ?0 регулярно в точке х%, т.е. выполнено (4-), то точное решение х% устойчиво (требование двукратной дифференцируемое™ отображений и условие (6) при I - 2 здесь излишни). Такое решение может быть с успехом аппроксимировано с помощью традиционных численных методов, применяемых к уравне-

нию (3) с имеющимся оператором Е&. Для удобства ссылок некоторые результаты об устойчивости регулярных решений собраны в § 2.1.

Общий результат об устойчивости 2-регулярных решений получен в § 2.3 и выражается следующей теоремой, которая является специальной формой обобщенной теоремы о существовании неявной функции.

Теорема 3. Пусть, в дополнение к сделанным, предположениях, выполнены условия:

1) для любого числа е>0 существует окрестность W точки FQ в {Т, г) татя, что

|РР ' (я,>| < 6(|RF(x^)l + |РР(аг#)|1/г) V F&0;

2) для некоторого конуса К в X и окрестности V точки FQ в (7, г)

- € Фг(Р, К) V FeV,

где

Фг(Р, •): X -* Y, Ф2(Р, х) = PQ' (х^х + ^PPQ'(xt)ixlz, причел выполнено (5).

Тогда найдутся окрестность U точки FQ в (Т, г) и число С>О такие, что V FzU уравнение (3) имеет решение xptV, удовлетворяющее оценке

\хш - Хр|| ^ C(lRP(x^)i + |ЕР(л,)|1/г) V FOL.

Для случая простейших возмущений, какими являются возмущения правой части, получаем такой результат.

Следствие 1. Пусть в сделанных предположениях для некоторого конуса К в X выполнено (5).

Тогда найдутся числа е>0 и С>0 такие, что V у е Ву(0, е) П П Ф(Р, К) уравнение

Р0(х) = у (?)

имеет решение x^eV, удовлетворяющее оценке

1х, - ху1 «: С(||Яу1 + №81/2) V у € Вг<0, е) П Фг(Р, К).

В ряде случаев полезно такое уточнение следствия 1.

Следствие 2. Пусть в сделанных предположениях отображение FQ 2-регулярно в точке хж на некотором элементе

Тогда найдутся числа е>0 и С>0 такие, что V уеВу(0, е) уравнение (7) имеет решение х (У, удовлетворяющее оценке

К - ху\ « + Шиг) V 0, е).

Следствие 2 несложно вытекет из следствия 1. Вместе с тем, в § 2.2 следствие 2 получено как пример применения другой теоремы о существовании неявной функции для 2-регулярных отображений, принадлежащей Е.Р.Авакову. Важно подчеркнуть, что эта теорема (как и следствие 2) описывает лишь случай, когда х% является неизолированным решением уравнения (1) - это вытекает из обобщенной теореме Листерника.

Примерами применения полученных результатов служат некоторые факты, касающиеся вопроса об устойчивой обратимости квадратичных отображений.

Условия, накладываемые на пространство возмущений в общей теореме 3, весьма жестки. Ослабить эти условия нельзя, что подтверждается примерами.

Проведенный анализ позволяет сделать следующий вывод: гарантировать устойчивость нерегулярного решения по отношению к возлущениял оператора уравнения в сколъ-нибудъ естественных пространствах возлугцений при сколь-нибувъ естественных ослабленных условиях регулярности нельзя. Задача отыскания таких решений нуждается в регуляризации, чему и посвящены главы 3 и 4 диссертации.

В § 2.4 разработаны средства анализа свойств траекторий для некоторых важных классов итерационных процессов, удобные для использования в дальнейшем (речь идет о методах, имеющих, как минимум, линейную оценку скорости сходимости по аргументу, методах спуска, методах субградиентного типа). Особое внимание уделено влияниию помех на аттракторы и скорость сходимости к аттракторам траекторий рассматриваемых процессов (имеются ввиду неопределенные неубывающие помехи, возникающие в результате необходимости использования на каждой итерации приближенных схем для решения вспомогательных задач, в результате неточного вычисления значений и дифференциалов оператора решаемого уравнения, в результате ошибок округления и т.д.).

Глава 3 - центральная в диссертации. Она содержит описание предлагаемого способа регуляризации рассматриваемой задачи и его реализаций.

Основная идея излагаемого в § 3.1 подхода к регуляризации состоит в следующем. Нужно заменить уравнение (1) другим уравнением, которое гарантированно имело бы х% своим неосоОыл решением. Реализации такого подхода, видимо, могут быть различны. Здесь предлагается реализация, основанная на конструкции 2-регулярности.

Пусть заданы непрерывные в точке (FQ, х^ ) отображения Р: 7 * V - C{Y, У) и h: 7 * V -» X такие, что P(FQ, х„) - (непрерывный) проектор на У2 вдоль У в У, h{FQ, хш) е Кег FQ'{хт),

|Р(Р, х1) - Р(Р, х2)! « Цх1 - a2!. IMF, х1) -

- h(F, я2)! ^ ijx1 - о2! V FeV, V х1, v),

где I>0, i»0 - некоторые числа, v) с у, v - окрестность

точки Р0 в (J, т). Пусть, наконец, отображение FQ 2-регулярно в точке хч на элементе h(FQ, хш). Введем семейство отображений

Фр: V - Y, Фр(х) = Fix) + Р(Р, х)F ' (z)h(F, х), Ре^, и для заданного РеУ рассмотрим уравнение

®г(х) =0. (8)

Очевидно, в сделанных предположениях точка хш является решением уравнения (8) при F = FQ, причем это решение регулярно. Действительно, можно показать, что отображение Ф„ строго

дифференцируемо в точке , причем Фр'(xt ) = ®2(P(FQ, х„),

(PQ, )) - сюръективный оператор в силу условия 2-регуляр-ности. Отсюда вытекает

Теорема 4. в сделанных предположениях найдутся окрестность U точки FQ 6 (J, ч) и число OQ жите, что v Felf уравнение (8) имеет решение x?eV, удовлетворяющее оценка

I*» - « С|®р(*„>| =

= G|PU„) + Р(Р, X^)F ' {X^MF, Х#)8 V FeU. (9) Если к толу хе отображение FQ правильно Z-регулярно в точке хм на элелerne h{FQ, х%), то окрестность U и число б>0 ложно выбрать так, чтобы V Fill уравнение (8) илело на В(хж, Ô) с V единственное решение хр.

Подчеркнем, что из оценки (9) в сделанных предположениях вытекает выполнение (2).

Использование для аппроксимации точного решения х% предложенного подхода сводится к следующему. Для известного гладко-

го отображения Р, близкого к Р0 по значениям, первым и вторым производным, вместо уравнения (3) предлагается решать уравнение (8). Последнее уравнение гарантированно имеет решение, уклонение которого от точного решения х9 имеет, согласно оценке (9), гарантированный порядок малости 0(\Р(х^) + Р(Р, х^)Р ' (х%)Ь.(Р, Если же выполнено дополнительное усло-

вие правильной 2-регулярности, то такое приближенное решение локально единственно.

Ясно, что предложенный подход будет иметь практическую ценность лишь в том случае, если:

- будут указаны конструктивные (не использующие недоступной информации) способы определения отображений Р и ?г, удовлетворяющих указанным условиям;

- будут предложены метода решения регуляризованного уравнения (8).

Что касается первого, то для конечномерного случая этот вопрос решается универсальным способом. Отметим, что способ этот основан на обработке сингулярных разложений матриц Р ' (х), х€7. Иными словами, каждое вычисление значения отображения Ф , РеУ, требует при этом применения вспомогательного итерационного процесса, поэтому такое вычисление является весьма трудоемким и неизбежно осуществляется с погрешностью. В общем случае для построения Рай нужно использовать специфику конкретной задачи. Известно, например, как выполняется такое построение для многоточечных краевых задач для обыкновенных дифференциальных уравнений и для уравнений с фредгольмовыми производными (сюда относятся, например, многие интегральные уравнения). Реализациям предложенного подхода для этих класов задач посвящен § 3.4.

Подчеркнем, что основным условием применимости данного подхода является условие 2-разрешимости отображения Р0 в точке х% - при этом, и только при этом нужное отображение й существует .

Обсудим второй круг вопросов - практическое отыскание решений регуляризованного уравнения (8). Отметим, что, в силу сказанного выше о сложности вычисления значений оператора этого уравнения, особую важность приобретают скорость сходимости и помехоустойчивость соответствующих итерационных про-

цессов.

Всюду далее будем предполагать, что отображение FQ правильно 2-регулярно в точке х% на элементе h(FQ, хж), и окрестность U точки FQ в {Т, т) и число ô>0 выбраны в соответствии с теоремой 4 так, что V Fe.ll уравнение (8) имеет на В(х„, Ô) с V единственное решение хр.

Проблема состоит в том, что для решения регуляризованного уравнения (8) нельзя, вообще говоря, использовать стандартные итерационные процессы, поскольку отображения Fí?, могут не быть гладким в окрестности точки хСреди требований на отображения Р и h нет условий гладкости, и обеспечить гладкость этих отображений обычно не удается (а если и удается, то остро встает проблема эффективного вычисления их производных). В связи с этим приходится разрабатывать специальные итерационные процессы, ориентированные на решение уравнения (8) при заданном РШ.

В § 3.2 рассматриваются итерационные процессы, основанные на идеях так называемого 2-фаторлетода (А.А.Третьяков и К.Н.Белаш рассматривали последний как способ восстановления квадратичной скорости сходимости метода Ньютона при точных входных данных, отсутствии помех и только в конечномерном случае).

Введем семейство отображений

Фр: V - С{Х, У), Фр(х) =

= F ' (х) + P(F, x)F "(х)[Л(Р, х)], FíT. Подчеркнем, что условие правильной 2-регулярности FQ в точке хж на элементе h(FQ, х^) - это условие непрерывной обратимости оператора (х^) = Фр'(х^).

Для заданного Fç.J рассмотрим итерационный процесс

= х^ - ({gyx*)}-1®^) + хЪ), kçz+, (10) где описывающее суммарную помеху отображение : z+ * V -» К удовлетворяет условию

x)S ^ Л2 V V xeV,

с некоторым уровнел полех Д^ > 0. По сути, (10) является специальным процессом квазиньютоновского типа для уравнения (8). При построении этого процесса используется прямая аппроксимация оператора Фр' (хт).

Теорема 5. В сделанных предположение для любого числа qe(0, 1) найдутся окрестность М> с и точки PQ в (7, %) и числа ш>0, Is>0 тате, что для любых отображения PeW и числа Л2е[0, любая точка x°^B(xjlt, w) корректно определяет траекторию (Л итерационного процесса (10), удовлетворяемую условиях

- хр» « - xpJ + As V lim ¡x25 - xj « ¿y/(1 - q).

fe-MO

Таким образом, при P достаточно "близком" к FQ в (J, г) и достаточно малом уровне помех Д^, траектории {хЪ итерационного процесса (10), определяемые точками х°(.В(х11, ш), сходятся с линейной скоростью к шару с центром в точке хр, радиус которого оценивается величиной порядка 0(ДУ). В силу справедли-

ь г

вости (2) сам этот шар стягивается в точку х% при Р ■* F ,

Д2 - 0; скорость такого "стягивания" определяется оценкой (9).

Если повысить требования гладкости, а именно предположить, что элементами пространства J являются трижды дифференцируемые по Фреше на V отображения, причем

т

F (х) - Р0" (х„) (F -* FQf х - х,), то оценку скорости сходимости в теореме 5 можно уточнить.

Следствие 3.5 следанны.х дополнительных предположениях найдутся числа R >0, ^>0 такие, что б дополнение к утверждению теорехы 5 справедлива оценка

|х*+1 - хр|| $ R^x* - xpf + Д2д(Р)1^ - xrl + As V йсг+.

где

q(F) = |Р(Р, xp)F 'СГу)! + jp ' (xF)h(F, P&t.

Подчеркнем, что, согласно (2) и условий на отображения Р и

h,

q{F) - О (Р - Р0). В частности, при FeW и Л^ = О траектории Сх28} итерационного процесса (10), определяемые точками x°fB(x1i, со), сходятся к

хр с линейной скоростью, причем, при Р -» PQ скорость сходимости возрастает, в пределе (на точных входных данных) становясь квадратичной.

В регулярном случае рассмотренный итерационный процесс

превращается "почти" в метод Ньютона для уравнения (3). Достоинством этого процесса является высокая скорость сходимости его траекторий, а очевидным недостатком - высокая трудоемкость кавдой итерации. Далее обсуждаются другие итерационные процессы, ориентированные на решение регуляризованного уравнения (8), не обладающие столь хорошей асимптотикой скорости сходимости, но и менее трудоемкие.

Для заданных и начального приближения х°еУ рассмотрим простейшую модификацию процесса (10), аналогичную стандартной модификации метода Ньютона:

а*+1 = х* - + и^оОг, а*)), (11)

где отображения О? ог г * V -* X удовлетворяет условию

^ л: | X +

х)\ < Д2 V V хе7,

с некоторым уровнем помех >0.

Теорема б .В сделанных предположениях для итерационного процесса (11) справедливо утверждение теорелы 5.

Разумеется, для такого итерационного процесса повышая требования гладкости уже нельзя гарантировать более высокую скорость сходимости траекторий (аналог следствия 3 не имеет места). Вместе с тем, процес этот менее трудоемок, чем процесс (10), в том же смысле, в каком модифицированный метод Ньютона (метод хорд) менее трудоемок, чем обычный. Например, вычислять вторую производную здесь нужно только в начальной точке

аР.

Аналогичным образом могут быть рассмотрены и другие итерационные процессы "ньютоновского типа" для решения регуляризованного уравнения (8): методы, использующие разностные аппроксимации производных; другие "квазиньютоновскиё" методы; методы с фиксированным способом приближенного решения вспомогательных задач на каждой итерации; методы с повышенной скоростью сходимости, например, многошаговые, и др. Особый интерес представляет возможность организации вычислительного процесса с итеративным пересчетом значений отображений Р и 1г (или их аппроксимаций) по явным формулам, но это - дело будущего.

Дургой подход к решению регуляризованного уравнения (8), основанный на переходе от нелинейных операторных уравнений к

соответствующим задачам минимизацш и применении к последним численных методов минимизации, рассматривается в § 3.3. Такой переход сам по себе обладает определенными регуляризующими свойствами, так как решениям задач оптимизации присуща некоторая естественная устойчивость, которая не свойственна, вообще говоря, решениям общих операторных уравнений (например, невырожденный локальный минимум гладкой функции п переменных, пем, устойчив по отношению к возмущениям последней в С-норме, в то время как невырожденная седловая точка при п 2 2 - лишь в С1-норме). Однако, такой переход применительно к уравнению (3) не снимает основных проблем, связанных с нерегулярностью, поэтому регуляризующую задачу минимизации будем ставить в соответствие регуляризованному уравнению (8).

Далее предполагаем, что пространства X и У - гильбертовы. Для каждого и некотрого числа а>0 введем функцию

<р£: V к, <р£(х) = 8Фр(х)!а', и будем рассматривать задачу

ф£(х) - ш1п, х<е7. (12)

В сделанных предположениях V Реи точка хр является единственным в В{х%, б) с 7 (глобальным) решением задачи (12).

Таким образом, проблема сводится к построению методов решения задач вида (12). Трудность здесь по-прежнему состоит в негладкости отображений Фр, что делает невозможным применение к задачам (12) традиционных методов минимизации.

Положительным же моментом является следующее: условие правильной 2-регулярности отображения Р0 в точке х% на элементе Ь(Р0, х%) позволяет ожидать, что минимум х%, например, для

функции ф!, является острым, а для функции ф| - "невыровден-

о о

ным" (в некотором естественном смысле).

Кроме того, при посторонни численных методов минимизации часто бывает полезна информация о значении задачи (т.е. о точной нижней грани ее целевой функции на допустимом множестве). Ясно, что для всякого РеМ значение задачи (12) равно нулю.

Сначала рассмотрим "гладкий" случай. А именно, для задачи (12) при а = 2 и заданном Ре? построим специальные итерационные процессы, укладывающийся в общую схему методов спуска.

Понимая сопряженный оператор к линейному в гильбертовом смысле, введем семейство отображений

gí,: V - К, = 2(Фр(х))*Фр(х).

Можно показать, что при Р "близких" к Р0 в (7, т) и хеУ близких к элемент вр(х) может рассматриваться как "суррогатный градиент" функции ср2 в точке х; в часности, при этом - йр(х) является направлениел убывания функции фр в точке х (функция Фр дифференцируема по Фреше в точке х , причем, конечно .же,

Ф2 -(хр) = £р(хр) = 0).

Рассмотрим итерационный процесс

Xм1 = хк - ар(х2г)яр(хк), (13)

где ар: V к - некоторая функция (задающая шаговые тгаралет-•ры), выбираемая в соответствии с аналогом неравенства Данили-на-Армихо.

Теорема 7. В сделанных предположениях для любых чисел ее(0, 1) и а>0 справедливо следухщее:

а) существуют селейство функций ар: V - РеУ, окрестность Я точки Р0 в (7, г) и числа г>0, а>0 такие, что

В (г,, г) с V и V Рек, V х^В(хм, г)

х - а^х^х) е У,

|Фр(х - ар(х)^вр{х))1г - 1Фр(х)|г ^ - 8аг,(х)5§р(х)1г,

а < ар(х) ^ а;

б) для такого селейства ар(•), Р(.7, найдутся окрестность IV с и точки Р0 6 {7, г) и числа ш>0, де<0, 1), Д>0 такие, что для любого отображения РеМ любая точка х°еВ(хж, со) корректно определяет траекторию СхЪ итерационного процесса (13), удовлетворяющую условиях

¡Ф^Сх25)!2 < дьЦФр(х0)«2 V йем,

IXй - хр|| $ £^/гаД|Фр(х°)|| V йем.

Таким образом, при Р достаточно "близком" к Р0 в {7, г) траектории {Xй} итерационного процесса (13), определяемые точками х°еВ(х))!, ш), сходятся к решению хр уравнения (8) со скоростью геометрической прогрессии как по функции так и по аргументу.

Конструктивные способы определения функций ОрС»), обладающих нужными свойствами, известны: это.можно делать дроблением

задашой величины а>0, одномерной минимизацией, либо с использованием известного значения функции ф2 в ее искомом минимуме. Последнее означает, что можно положить

сиг) = -£--, х € * 0), (14)

где (3>0 - некоторое число. Этот способ привлекателен своей простотой и низкой трудоемкостью, однако он абсолютно неустойчив по отношению к влиянию помех, поскольку числитель и знаменатель дроби в (14) бесконечно малы при х близких к а значит реально вычисляемые значения Оу(х) при таких х могут быть любыми.

Подчеркнем, что эффективный выбор шаговых параметров здесь - весьма острая проблема, в силу все той же трудоемкости вычисления значений Фр(')» а значит и ср^(').

В отличие от модифицированного 2-факторметода (11) предложенные методы спуска требуют вычисления второй производной имеющегося отображения Р на каждой итерации, зато не требуют решения на каждой итерации вспомогательных линейных задач #(правда, возникают новые вспомогательные задачи выбора шагового параметра).

Подчеркнем, что скорость сходимости траекторий рассмотренных итерационных процессов зависит от выбора начального приближения и отображений Р и К. Если для модифицированного 2-факторметода определяющим является "качество" начального приближения, то для методов спуска на первый план выходит выбор Р и 1х. Дело в том, что этот выбор влияет, и порой весьма существенным образом, на обусловленность (степень овражности) задач (12).

Значительный интерес представляет возможность построения методов сопряженных направлений основанных на идеях предложенного метода спуска.

Для решения регуляризующих задач минимизации (12) при заданном Ре? и некотором числе а>0 могут быть с успехом использованы методы негладкой невыпуклой минимизации. Например, нетрудно убедиться, что в сделанных предположениях для любого Р из некоторой окрестности точки Р0 в {7, %) функция непрерывна по Липшицу на некоторой окрестности точки а это.

свойство весьма полезно при построении методов негладкой минимизации.

Другой подход состоит в следующем. Как было отмечено выше, недостатком рассмотренных методов спуска является высокая трудоемкость выбора шаговых параметров. Нетрудоемкий же способ такого выбора (14) неустойчив к влиянию помех. Последнюю проблему можно преодолеть (разумеется, не "бесплатно"), если, не пытаясь искусственно "сгладить" задачи минимизации (12) за счет выбора параметра а>1, воспользоваться для их решения методами субградиентного типа. Точнее, можно "суррогатный градиент" функции ф| в (14) заменить "суррогатным субградиентом" Ф (X)

g,(x) = (0Ux))*—2-, х е ф (Б) * 0), (15)

функции фу, и воспользоваться тем,-что при F достаточно "близком" к Fn минимум х_ в задаче (12) при а = 1 является

о 1

острым. При этом параметр § в (14) (где заменено на фу) не нужно пытаться выбрать так, чтобы получаемый процесс был методом спуска (можно положить ¡3=1, что, на самом деле, оптимально с точки зрения скорости сходимости). Знаменатель в (14) в этом случае уже не является бесконечно малым при х - Ху, и можно расчитывать на помехоустойчивость.

На самом деле, для реализации помехоустойчивой модификации описанного процесса субградиентного типа принципиально необходимо знать количественные оценки уровней погрешностей вычисления значений F(0, F '(•), F(F, •) и h{F, •), что является недостатком такого подхода. Дело в том, что вычисление значений gp( •) по формуле (15) на множестве, замыкание которого содержит Хр, - типичная некорректная задача (сюда и перенесены все трудности).

Подчеркнем, что описанные общий подход к регуляризации и итерационные процессы вполне содержательны и интересны и в случае точных входных данных.

Наконец, глава 4 посвящена методам отыскания таких особых решений нелинейных операторных уравнений, в которых не предполагается выполнение условий 2-регулярности. Необходимость рассмотрения данного случая определяется тем, что существуют важные классы уравнений, представляющие интерес решения которых не могут быть 2-разрешимыми. Такой класс образуют, напри-

мер, рассматриваемые в § 4.1 уравнения, порождаемые экстремальными задачами. Такие задачи важны как сами по себе, так и в связи с тем обстоятельством, что многие прикладные уравнения получаются из вариационных принципов, как условия оптимальности для соответствующих экстремальных задач.

Рассмотрим, например, задачу

Ф(х) - min, xeV, (16)

где V - открытое множество в гильбертовом пространстве X, а функция ф: V - к дифференцируема по Фреше на У и четырежды дифференцируема по Фреше в точке x^V, которая является вырожденным локальным решением задачи (16) (вырожденность здесь понимается как невыполнение классических достаточных условий оптимальности второго порядка). Тогда градиентное отображение

Ф: V - X, Ф(х) = ф '(х) функции ф имеет в точке х^ нерегулярный нуль, причем из необходимых условий четвертого порядйа оптимальности выводится, что Ф не может быть 2-разрешимым в точке хщ.

Таким образом, для отыскания вырожденных решений гладких задач безусловной оптимизации развитый в главе 3 подход неприменим. Как было отмечено К.Н.Белашом, применение 2-фактор-метода может быть успешным, если функция ф не имеет третьей производной в искомом решении, т.е. если необходимые условия третьего и четвертого порядков оптимальности не накладывают ограничений на структуру градиентного отображения. Однако, формальное обоснование результата такого рода вряд-ли возможно.

Наблюдаемый эффект допускает еще и следующее неформальное толкование. Существующая теория численных методов оптимизации свидетельствует о том, что при невыполнении достаточных условий второго порядка оптимальности эффективный метод для задачи (16) можно пытаться строить в предположениях о выполнении достаточных условий более высокого порядка. При этом порядок метода (в смысле порядка используемых производных функции ф), видимо, будет совпадать с порядком достаточных условий. Но достаточных условий третьего порядка, как известно, построить нельзя. Такие условия могут быть лишь четного порядка, поэтому подобный метод должен иметь как минимум четвертый порядок (т.е. третий порядок в смысле производных градиентного ото-

бражения Ф). Построениям такого рода посвящен § 4.2.

Для задач минимизации с функциональными ограничениями проводятся аналогичные рассуждения в терминах оператора системы уравнений принципа Лагранжа. Возможные варианты здесь более разнообразны, поскольку эффект вырожденности наблюдается не только в связи с невыполнением классических достаточных условий оптимальности, но и в связи с нерегулярностью ограничений.

В § 4.2 эксплуатируется следующее соображение: если линейно-квадратичное приближение не дает адекватного представления о структуре нелинейного отображения, то следует привлекать информацию о третьих производных последнего.

Вновь полагаем, что X и У - банаховы пространства, V - открытое множество в X, точка x^eV является решением уравнения (1) с трижды дифференцируемым по Фреше в точке х% оператором Fqi V ■* Y, регулярность или 2-разрешимость которого в точке х-м не предполагается. Более того, предполагается, что

Шг <Е Im Fq' (хш ) V xtX. (1?)

В регулярном случае условие (17) выполняется тривиально; в нерегулярном случае (17) противоречит условию 2-разрешимости.

Подпространство У1 = Im FQ') по-прежнему предполагается топологически дополняемым в У, У2 - его топологическое дополнение, Р - (непрывный) проектор на Yz вдоль У1 в Y. Введем семейство линейных операторов

Ф3(Р, h\ hz)ïC(X, Y), Ф3(Р, h\ ft2) = FQ'(xt) +

+ PF0" ' ) lh\ ft2], h\ h2çX,

называемых З-фактороператорами.

Определение 6. Отображение PQ, удовлетворяющее

условию (17), называется (правильно) 3-регулярным в точке 1 ?

на паре элементов (h , h, ) е X * X, если

Ira Ф3(Р, h1, Пг) = У (если оператор ®3(Р, b) , h2) биективен).

Заметим, что всякое регулярное в точке отображение FQ 3-регулярно в этой точке на любой паре элементов. Вообще, относительно введенного понятия можно дать замечания и комментарии, аналогичные данным выше в связи с понятиями 2-регуляр-ности.

Определение 7. Отображение FQ, удовлетворяющее

условию (17), называется (правильно) 3-разрешили в точке если оно (правильно) 3-регулярно в точке хотя бы на одной паре (h1, h2) i X * X, удовлетворяющей условию

Fo'd*)!h1, h2l = 0.

Пусть элементами пространства возмущений J являются трижды дифференцируемые по Фреше на V отображения, причем топология х такова, что

Fm(x) - F0m<x„) (F ■* FQ. х* хш), t = 0, 1, 2, 3.

Идея предлагаемой регуляризации та же, что и в главе 3. Пусть заданы непрерывные в точке (FQ, х^) отображения Р: J * х V - £(У, У) и hl: Т - У - X, i = 1,2, такие, что P(PQ, х„) - (непрерывный) проектор на У2 вдоль У в У,

Р0"(х„)Ш1 (PQt х„), h2(Fq, = О,

Р(Р0, x^FQ-'ixJC^iFQ, х,)] =0, ( = 1,2, (18)'

1P(F, х1) - P(F, х2)! ^

« Lfx1 - х2!, (F, х1) - n{(F, x2)! ^ « ЬЦх1 — д21 V FeV, v X1, з?аВ(х%, и), V i = 1, 2, где £>0, u>0 - некоторые числа, В(х^, v) <= у, v - окрестность точки Fв (7, Пусть, наконец, отображение Рп 3-регулярно

1 Р

в точке х^ на паре (h'(F0, х„), br[FQ, х„)).

Введем семейство отображений

Фр: 7 - У, Фр(х) = Р(х) +

+ Р(Р, x)F " (х) [ft1 (F, х), h2(F, x)], F<i7, и рассмотрим уравнение (8) с таким оператором.

Теорема 8. В сделанных предположениях найдутся окрестность U точки PQ б (7, г) и число С>0 такие, что V FtU уравнение (8) илеет решение x^V, удовлетворяющее оценке

8хж - х?| ^ С|Ф?(х„)|| = C|F(xt) +

+ P(F, х„)Р "(x^lhUF, х^), hz(F, х^)Ц V FaU.

Если к толу же omoOpaxenite FQ правильно 3-регулярно в точке х% на паре (F0, х#), 7гг(Р0, £*))» "¡о окрестность U и число Q>0 жожко выбрать так, чтобы V ?€М уравнение (8) илело на В(х$, б) с у единственное решение хр.

Здесь можно дать комментарии, совершенно аналогичные комментариям к теореме 4. Ясно, что условием существования отображений Л.1 и Л2 с нужными свойствами является 3-разрешимость удовлетворяющего (17) отображения PQ в точке хш. Для кон-

структивного задания отображений Р, Л.1 и Нг можно использовать те же подходы, что использовались для аналогичных целей в главе 3.

В связи со сказанным подчеркнем, что условие (17) на самом деле избыточно. Теорема 8 может быть переформулирована для случая, когда вместо (17) выполняется более слабое условие (18). Однако, при невыполнении (17), проблема конструктивного определения отображений Н* и Пг, удовлетворяющих нужным условиям (и, в частности, самому условию (18)), приобретает новую остроту. Способы решения этой проблемы на сегодняшний день неизвестны.

Применение рассмотренного подхода связано с трудностью более существенной, нежели жесткость условия (17). А именно, предполагается априори известным, что отображение Р0 2-раз-решимо в точке хж лишь если оно регулярно в этой точке. Как отмечено выше, для некоторых классов нелинейных операторных уравнений указанное предположение вполне естественно. Тем не менее, нужно иметь ввиду, что класс отображений, к которым применим данный подход, не является более широким, чем класс 2-разрешимых отображений. Это разные классы, пересечение которых состоит из регулярных отображений.

Всюду далее будем предполагать, что отображение Р0 правильно 3-регулярно в точке х^ на паре (Р0, 1гг (Р0, хж)), и окрестность и точки Р0 в {7, %) та число б>0 выбраны в соответствии с теоремой 8 так, что V Ъ\и уравнение (8) с введенным оператором Фр имеет на В(хт, 6) с у единственное решение хр. Обсудим методы решения такого регуляризованного уравнения (8).

Введем семейство отображений

Фр: V - С(Х, У), Фу(х) =

= Р ' (х) + Р(Р, х)Р (х)[?г1(Р, х), /г2(Р, х)], Ре7. Для заданного РеУ рассмотрим итерационный процесс, заданный формулой (10), но с новыми отображениями и Фу.

Теорема 9. В сделанных предположениях для переопределенного итерационного процесса (10) справедливо утверждение теорелы 5.

Если предположить, что элементами пространства 7 являются четырежды дифференцируемые по Фреше на V отображения, причем

Р(4)(х) - Р0(4)(ХЖ) <Р-Р0, г-то имеем такое уточнение теоремы 9.

Следствие 4. В следанных дополнительных предположениях для переопределенного итерационного процесса (10) справедливо утверждение следствия 3, если функцию д(•) переопределить форлулой

д(Р) = ¡Р(Р, хр)Р "(¿треп1 (Р, х )3| +

+■ |Р(Р, хр)? *(агу)£7?(Р, Жр)]| +

+• |Р "(хр)[?г1(Р, ?гг(Р, а:г)]|. Ре«.

В регулярном случае рассматриваемый итерационный процесс превращается "почти" в метод Ньютона для уравнения (3). Вместе с тем, согласно сказанному выше, в 2-разрешимом случае этот процесс не становится "почти" 2-факторметодом.

Разумеется, здесь могут применяться и другие итерационные процессы (например, аналогичные рассмотренным в главе 3).

Наконец, в § 4.3 обсуждается один специальный подход, ориентированных на отыскание нерегулярных решений классических задач на условный экстремум.

Все предложенные в работе алгоритмы были реализованы программно; их высокая эффективность подтверждается вычислительными экспериментами, некоторые результаты которых приводятся в приложении 1. Приложение 2 содержит сводку классических результатов нелинейного анализа, наиболее часто используемых в диссертации.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ ДИССЕРТАЦИИ

1. Установлен ряд новых важных фактов, описывающих структуру нелинейного отображения в окрестности 2-регулярной особенности. Прежде всего, имеются ввиду результаты о локальном представлении нелинейных отображений, являющиеся естественной идейной основой всей теории р-регулярности.

2. Изучен вопрос об условиях устойчивости 2-регулярных решений нелинейных операторных уравнений (говоря строго, охарактеризованы классы возмущений операторов уравнений, по отношению к которым такие решения гарантированно устойчивы). В основе этих построений лежат специальные теоремы о неявной функции для 2-регулярных отображений. Получен ряд результатов

об устойчивости решений нелинейных краевых задач и интегральных уравнений, а также об устойчивой обратимости квадратичных отображений.

3. Разработаны удобные средства анализа свойств траекторий для важных классов итерационных процессов, в том числе при воздействии регулярных возмущений и нерегулярных помех. Рассмотрены приложения к некоторым традиционным итерационным процессам.

4. Предложен подход к регуляризации, состоящий в замене исходного уравнения другим, имеющим ту же точку в качестве регулярного (а значит, устойчивого по отношению к широким классам возмущений оператора регуляризованного уравнения) решения. Подход основан на использовании конструкций р-регуляр-ности. Предложены конструктивные способы построения регуляризованного уравнения для конечномерного случая, а также для некоторых важных классов нелинейных бесконечномерных задач (краевые задачи для обыкновенных дифференциальных уравнений, уравнения с "фредгольмовой вырожденностью").

5. На основе предложенного подхода к регуляризации построены и исследованы новые эффективные и устойчивые итерационные процессы, ориентированные на отыскание р-регулярных решений нелинейных операторных уравнений.

6. Разработан специальный подход к отысканию нерегулярных решений экстремальных задач.

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Излазиов А.Ф. Аттракторы итерационных процессов при на-помех // ЖВМ и МФ,- 1997.- Т.37, .№8.- С.908-913.

2. Изжаиов А.Ф. Необходимые условия высших порядков в задачах на экстремум // ЖВМ и МФ.- 1992.- Т.32, №8.- С.1310-1313.

3. Измайлов А.Ф. О вырожденных экстремальных задачах с ограничениями типа неравенств // ЖВМ и МФ.- 1992.- Т.32, .№10.- С.1570-1581.

4. Излшиов А.Ф. О методах высших порядков для отыскания особых решений нелинейных операторных уравнений // ЖВМ и МФ.-1996.- Т.36, Я6.- С.20-29.

5. Измайлов А.Ф. О методах Лагранжа для отыскания вырожденных решений задач на условный экстремум // ЖВМ и МФ.-1996.- Т.36, К.- С.10-1?.

6. Измаилов А.Ф. О методах решения нелинейных операторных уравнений с вырожденными фредгольмовыми производными // ЖВМ и МФ.- 1997.- Т.37, Ш- С.145-152.

7. Измаилов А.Ф. О некоторых обобщениях леммы Морса // Тр. МИАН. В печати.

8. Измаилов А.Ф. Об одном классе устойчивых методов решения нелинейных операторных уравнений с гладкими операторами // Вестник МГУ. Сер. 15.- 1995.- JJ2.- С.42-48.

9. Измайлов А.Ф. Оптимизационные методы второго порядка // ЖВМ и МФ.- 1993.- Т.33, Ш,- С.163-178.

10. Измаилов А.Ф. Проблема корректности нелинейных операторных уравнений // ЖВМ и МФ.- 1994.- Т.34, J611.- С.1567-1584.

11. Измаилов А.Ф. Условия оптимальности для вырожденных экстремальных задач с ограничениями типа неравенств // ЖВМ и МФ.- 1994.- Т.34, Ш.- С.837-854.

12. Измаилов А.Ф. Устойчивые методы для отыскания особых решений нелинейных многоточечных краевых задач // Вестник МГУ. Сер. 15.- 1995.- М.- С.14-20.

13. Измаилов А.Ф. Устойчивые методы для отыскания особых решений нелинейных операторных уравнений // Вестник РУДЫ. Сер. Математика.- 1996.- J63, вып.2.- С.55-85.

14. Измаилов А.Ф. Устойчивые методы для отыскания 2-регу-лярных решений нелинейных операторных уравнений // ЖВМ и МФ.-1996.- Т.36, т.- С.22-34.

15. Измаилов А.Ф. Фактор-методы рещения нелинейных задач. Дисс. ... канд. физ.-мат. наук.- М., 1993.- 151 с.

16. Измаилов А.Ф. 2-фактор-метод и многоточечные краевые задачи // ЖВМ и МФ.- 1995.- Т.35, .№11.- С.1603-1614.

17. Измаилов А.Ф., Третьяков A.A. К вопросу об обратимости однородных степени р полиномиальных отображений // ЖВМ и МФ.-1993.- Т.33, №3.- С.323-334.

18. Измаилов А.Ф., Третьяков A.A. Леммы о представлении вырожденных нелинейных отображений // Вестник МГУ. Сер.15.-1993.- Ле.- С.59-65.

19. Измайлов А.Ф., Третьяков A.A. Метод градиентного спуска для минимизации невыпуклых функций // ЖВМ и МФ.- 1994.-Т.34, №3.- С.344-359.

20. Измаилов А.Ф., Третьяков A.A. О локальной регуляризации некоторых классов нелинейных операторных уравнений // ЖВМ и МФ,- 1996.- Т.36, ШТ.- С.15-29.

21. Измаилов А.Ф., Третьяков A.A. О методах отыскания особых решений нелинейных операторных уравнений при отсутствии 2-регулярности // ЖВМ и МФ.- 1997.- Т.37, J61Q.- 0.1157-1162.

22. Измаилов А.Ф., Третьяков A.A. Факторанализ нелинейных отображений.- М.: Наука, 1994.

23. Измаилов А.Ф., Третьяков A.A. Фактор-анализ нелинейных отображений и обобщение понятия 2-регулярности // ЖВМ и МФ.-1993.- Т.33, Ж.- С.637-641.

Некоторые из представленных результатов используются автором в курсе лекций "Теория оптимизации", который в течение ряда лет читается им на факультете ВМиК МГУ им. М.В.Ломоносова.

А.Ф. Измаилов

Устойчивые методы отыскания особых решений нелинейных задач

Подписано в печать 19.01.98 Уч.-изд.л. 1,8. Усл.-печ.л. 1,9 ТЪраж 100 экз. Заказ 4. Бесплатно

Отпечатано на ротапринтах в ВЦ РАН 117333, Москва, ул. Вавилова, 40

"il

'1 i^-^ïiSP1'

r¿.u -

зз- / ~з

/

РОССИЙСКАЯ АКАДЕМИЯ НАУК ВЫЧИСЛИТЕЛЬНЫЙ ЦЕНТР

На правах рукописи

ИЗМАЙЛОВ Алексей Феридович

УСТОЙЧИВЫЕ МЕТОДЫ ОТЫСКАНИЯ ОСОБЫХ РЕШЕНИЙ НЕЛИНЕЙНЫХ ЗАДАЧ

05.13.17 - теоретические основы информатики

01.01.09 - математическая кибернетика

Диссертация на соискание ученой степени доктора физико-математических наук

Москва, 199Т

СОДЕРЖАНИЕ

Введение ..............................................................................................5

Глава 1. ОСНОВНЫЕ ПОНЯТИЯ И ВСПОМОГАТЕЛЬНЫЙ АППАРАТ 22

§1.1. Понятие устойчивости решений нелинейных

операторных уравнений. Регуляризация ..........22

§ 1.2. Элементы теории р-регулярности......................28

1.2.1. Условия р-регулярности (28). 1.2.2. Топологическая характеристика классов р-регулярных отображений (49). 1.2.3. Свойства 2-регулярных отображений (53). 1.2.4. Линейно-квадратичные отображения (68). § 1.3. Вспомогательные сведения из алгебры и ана-

лиза ..................................... ТО

1.3.1. Матричные срезки и ортопроекторы (ТО). 1.3.2. Некоторые леммы о гладкости (76).

Глава 2. ТЕОРЕМЫ ОБ УСТОЙЧИВОСТИ.................. 80

§2.1. Устойчивость регулярных решений.......... 80

§ 2.2. Устойчивость неизолированных 2-регулярных

решений .................................. 95

§ 2.3. Условия устойчивости 2-регулярных решений

в общем случае ........................... 101

§ 2.4. Возмущенные итерационные процессы и приближенные схемы .......................... 117

2.4.1. Аттракторы итерационных процессов

при наличии помех (11Т). 2.4.2. Итерационные процессы и приближенные схемы (132). 2.4.3. О методах спуска (155). 2.4.4. О методах субградиентного типа (166).

Глава 3. РЕГУЛЯРИЗАЦИЯ ЗАДАЧИ ОТЫСКАНИЯ 2-РЕГУЛЯР-

НЫХ РЕШЕНИЙ.............................. 180

§3.1. Общий подход к регуляризации............. 180

3.1.1. Регуляризованное уравнение (180).

3.1.2. О построении операторов Р и h в конечномерном случае (183).

§ 3.2. 2-факторметод и смежные итерационные процессы .................................... 187

3.2.1. Теория 2-факторметода (188). 3.2.2. Модифицированный 2-факторметод (194).

§ 3.3. Методы минимизации....................... 196

3.3.1. Регуляризующие задачи минимизации (198). 3.3.2. Методы спуска (199). 3.3.3. Методы негладкой минимизации (204). § 3.4. Приложения к некоторым специальным классам

нелинейных операторных уравнений......... 206

3.4.1. Краевые задачи (207). 3.4.2. Уравнения с фредгольмовыми производными (216).

Глава 4. МЕТОДЫ ОТЫСКАНИЯ ОСОБЫХ РЕШЕНИЙ НЕЛИНЕЙНЫХ

ЗАДАЧ БЕЗ ПРЕДПОЛОЖЕНИЙ О 2-РЕГУЛЯРНОСТИ . 231

§ 4.1. Особые решения экстремальных задач ....... 231

4.1.1. Задача безусловной минимизации (232). 4.1.2. Классическая задача на условный экстремум (235). § 4.2. Методы отыскания 3-регулярных решений ____ 245

-44.2.1. Регуляризованное уравнение (245). 4.2.2. 3-факторметод (252). § 4.3. Методы Лагранжа отыскания особых решений

экстремальных задач...................... 258

Заключение .............................................................................264

Приложение 1. Результаты вычислительных экспериментов .. 266

Приложение 2. Некоторые свойства регулярных отображений 276

Список литературы ...........................................282

Список обозначений..........................................................................302

ВВЕДЕНИЕ

Основная цель настоящей работы - построение устойчивых методов решения гладких нелинейных задач. Далее речь будет идти главным образом о нелинейных операторных уравнениях, хотя многие излагаемые ниже идеи могут быть распространены и на более обшие классы задач. Пусть рассматривается уравнение

FQ(x) = 0, (1)

с оператором FQ: V -» Y, где V - метрическое пространство с метрикой р, Y- любое множество, 0 - фиксированный элемент в Y (ниже, когда Y предполагается линейным пространством, О обозначает обычный нуль в Y). Пусть x^V - решение уравнения (1); такую точку х% будем называть точным решением.

Пусть вместо точного оператора FQ доступно его приближение F: У ->• У, в некотором смысле "мало" отличающееся от FQ. Речь идет о методах построения точек xFtV, мало (в метрике р) отличающихся от точного решения хш. Всякую такую точку xF будем называть приближенным решением. О соотношении подобной постановки с постановками классической теории некорректных задач СЕГо, Мор], а также о природе и причинах возникновения возмущений операторов уравнений будет говориться в главе 1; там же данная задача будет строго формализована. Здесь отметим лишь, что задачи с приближенной информацией составляют важнейший предмет изучения в современной вычислительной математике [ЕГО, БАн, БКТ2, Ва1, Зав, Кар, КЗа, Мол, По13. Если при любом F, "близком" к F , уравнение F(x) =0 (2)

имеет решение, близкое к точному решению то последнее естественно назвать устойчивым. В этом случае для построения приближения х точного решения можно пользоваться непосредственно уравнением (2). Задача аппроксимации неустойчивых решений существенно сложнее.

При локальном рассмотрении в множестве нелинейных отображений (термины "отображение" и "оператор" всюду считаются синонимами), а значит, и в множестве связанных с ними нелинейных задач, можно выделить два класса: регулярные (невырожден-ные, нормальные) и нерегулярные (вырожденные, анормальные, особые) отображения (задачи).

Под регулярным в некоторой точке отображением понимается такое отображение, которое в этой точке удовлетворяет некоторому условию регулярности. Условия регулярности могут быть различны, но сущность всех классических условий регулярности одна - это те дополнительные требования, в которых данное отображение может быть адекватно локально аппроксимировано своим линейным приближением (первым дифференциалом). Более строго, если, например, V - открытое множество в гильбертовом пространстве, У - банахово пространство, отображение V ■*

¥ достаточно гладко и его производная Фреше в точке сюръективна, т.е.

1тР0'(х^)=¥, (3)

то в окрестности точки х^ существует гладкая система криволинейных локальных координат (совпадающая с исходной с точностью до членов высших порядков малости), в которой отображение становится линейным ШТ2,5] (см. также теоремы 5а и 56 в приложении 2). Условие (3) - одно из наиболее распространенных в нелинейном анализе условий регулярности. Саму точку ¿г#

при этом называют регулярной (нормальной) точкой отображения Fq; если же (3) не выполнено, то такую точку называют особой (нерегулярной, анормальной, критической) точкой отображения í'0.

Приведенное простое соображение, по сути, лежит в основе всего классического гладкого нелинейного анализа - аппроксимируя регулярное отображение его линейным приближением, можно применять к этой аппроксимации весь мощный аппарат линейного анализа. Такой подход позволяет доказать важнейшие результаты, такие, как различные теоремы о неявной функции, теорема Люстерника о касательном подпространстве, содержательная фор-мапринципа Лагранжа и т.д. (см. [АТФ, ЙТи, КФо, КЗа, ЛСо, Пше, СТФ, Тих, Тре, ФМк], а также приложение 2).

На тех же идеях линеаризации основано и большинство традиционных численных методов решения нелинейных задач. Совершенно естественно, что результаты о сходимости и скорости сходимости таких методов обычно доказываются в некоторых предположениях о регулярности 1БЖК, БКа, БКТ1,2, Вер, Ва1,2, ДКТ, КАк, Кар, МТр, Но1,3, ОРе, ПДа, СТФ, Тре, Тр5,6, ФМк, Jan].

Всюду далее точное решение уравнения (1), удовлетворяющее (3), будем называть регулярным, а не удовлетворяющее (3) - особым (нерегулярным). Устойчивость регулярных решений вытекает из теоремы о существовании неявной функции [АТФ] (теорема 1 в приложении 2); подробнее об этом будет сказано ниже.

Для нерегулярных в некоторой точке отображений, т.е. таких отображений, которые в данной точке не удовлетворяют некоторым традиционным условиям регулярности, линейной аппроксимации уже не достаточно для сколь-нибудь полного описания их

локальной структуры. В частности, сформулированный выше результат о линеаризации при невыполнении (3) теряет силу. Именно в этом смысле нерегулярные нелинейные отображения иногда называют существенно нелинейными. Ясно, что в вырожденном случае те классические результаты, о которых говорилось выше, уже либо неприменимы, либо бессодержательны (как, например, принцип Лагранжа [АТФ1).

Аналогичное соображение относится и к большинству известных численных методов - в вырожденных ситуациях они либо вообще неработоспособны, либо неэффективны [За2, ЙТЗ,5, Тр4, DK1-3, DKK, Ra1, Re1,2, Ya1,2].

Отыскание особых решений связано еще с одной очень существенной трудностью - как будет показано ниже, в сколь-нибудь общих предположениях особые решения могут быть неустойчивы.

Можно перечислить целый ряд областей знания, в которых возникают прикладные вырожденные задачи; соответствующие примеры будут приводиться по ходу изложения. Однако, вопрос о том, насколько широк класс задач, имеющих особые решения, и, соответственно, достойны ли такие задачи специального рассмотрения, необходимо проанализировать с общих позиций.

На первый взгляд вопрос этот исчерпывается теоремой Тома о трансверсальности Е ОЭк 3. Применяя эту теорему к отображению действия

Ф: Cr(7^Rm) х V кт, ®(í», х) = Fix), и многообразию М = {0} в где V - открытое множество в кп, п, т, гф, г ;> max (1, п - т + 1}, получаем, что для типичного отображения FeCr (¥-»Rm) уравнение (2) особых решений иметь не может. Здесь Cr(V-*¡Rm) - пространство отображений множества F скпв простанство кта, г раз непрерывно дифференцируемых на

У, снабженное компактно открытой топологией, т.е. топологией 6,г-сходимости на компактных подмножествах множества У. Как обычно, множество типичности - это массивное (т.е. содержащее счетное пересечение открытых плотных множеств) множество. Пространство Сг(У-*о?т) с указанной топологией топологически

полно (т.е. может быть метризовано так, что станет полным метрическим пространством), а значит, в силу теоремы Бэра, множество типичности в Сг(У-*кт) плотно [ББИ, ОЭк].

Однако, ситуация коренным образом меняется, когда в задаче появляется параметр. Это можно наглядно проинтерпретировать следующим образом (по аналогии с тем, как в [ОЭкЗ интерпретировалось возникновение вырожденных критических точек у функций). Можно представлять себе, что отображения для которых уравнение (2) имеет особые решения, образуют в Сг(У-икт) семейство многообразий, каждое из которых имеет коразмерность не меньше 1. Эти многообразия разбивают пространство Сг(У->кт) на открытые "клетки". Каждое отображение, лежащее на одном из таких многообразий, "почти любым" малым возмущением переводится в одну из клеток. Это значит, что при малом шевелении отображения Р особые решения уравнения (2) либо исчезают, либо перестают быть особыми. Если концы непрерывной кривой в Ог(У->кт), отвечающей некоторому однопараметрическому семейству отображений, лежат в разных "клетках", то такая кривая должна пересекать по крайней мере одну из границ между "клетками". Более того, малым шевелением семейства можно избежать пересечения этой кривой границ коразмерности 2 и выше, однако она всегда будет пересекать некоторую границу коразмерности 1 (в теории нелинейных динамических систем в подобной ситуации говорят, что осуществляется переход от одной грубой системы к

другой через негрубую). Именно такие неустранимые особенности представляют интерес при изучении однопараметрических семейств отображений; их называют особенностями, коразмерности 1 [ОЭкЗ. Разумеется, для семейств с большим числом параметров интересны и особенности более высокой коразмерности.

Иными словами, для параметрических задач существование особых решений вовсе не паталогично; более того, очень часто именно те значения параметра, при которых существуют особые решения, наиболее интересны, так как отвечают критическим, переходным режимам. Именно такие ситуации изучает теория ветвления решений нелинейных уравнений Ш'Гр, ОЭк, Тре, Сга, Ке<1,

эга].

На настоящий момент по вопросам конструктивного описания и и построения методов решения вырожденных задач опубликовано большое число работ как в нашей стране, так и за рубежом. Следует отметить следующую интересную тенденцию: если большинство отечественных авторов пришло к данной проблематике в связи с экстремальными задачами, то для большинства зарубежных инициирующим моментом были задачи теории ветвления.

Подчеркнем, что в приводимом ниже обзоре фактически не затрагиваются работы, посвященных вопросам собственно классической теории особенностей ЕАВГ, Лен, БЛа, Ми1,2, Рам], поскольку предмет этой теории отличается от рассматриваемых здесь постановок (грубо говоря, здесь речь идет не об устойчивости особенностей, а об устойчивости особых решений). Это вовсе не значит, что идеи и результаты теории особенностей не имеют отношения к проблематике данной работе; напротив, они будут использоваться (как, например, уже использовался выше центральный факт теории трансверсальности) в наших построени-

ях. Следует сказать, что прикладной аспект в данном случае очень тесно связан с общетеоретическим.

Датой начала исследований по проблематике вырожденных задач можно считать 1870 г., когда Шредером tShr] было показано, что метод Ньютона локально сходится к кратному (что соответствует вырожденной ситуации) корню одного скалярного уравнения с одним неизвестным лишь с линейной скоростью, но квадратичная скорость сходимости может быть восстановлена путем домножения стандартного шага метода на кратность корня. Эти вопросы были вновь подняты в 1966 г. в работе №а1 ], где была сделана первая попытка распространить результаты Шредера на многомерный случай.

В свою очередь, статья [Ral 3 инициировала целый ряд работ [DKr, DKK, DK1-4, Gri, GOs, Ноу, КеНЗ, OJi, Re1,2, SHu, Sey, Sim, Ya1,23, где было детально исследовано поведение метода Ньютона в окрестности особых решений нелинейных операторных уравнений (в том числе и применительно к задачам теории ветвления) и задач безусловной минимизации (сюда же следует отнести работу СДанЗ, где доказана сходимость метода Ньютона с регулировкой длины шага к вырожденному минимуму строго выпуклой функции, а также более позднюю работу СТр43). Выделены области сходимости, для определенных классов вырожденных задач предложены более эффективные модификации метода. Самым общим (хотя и грубым) образом, результат этих исследований можно сформулировать так: в подобной ситуации в лучшем случае можно гарантировать линейную скорость сходимости методов ньютоновского типа, причем множество подходящих начальных приближений не содержит, вообще говоря, окрестности точного решения. Именно эти два момента имеют ввиду, говоря о неэффек-

тивности методов ньютоновского типа при отыскании особых решений нелинейных задач, даже при точных входных данных.

Что же касается модификаций метода Ньютона, применимых и к вырожденным задачам с приближенными входными данными, то здесь следует отметить работы СВа2, МЗа] где предложена схема метода, сходящегося к особому решению в весьма общих предположениях, и [Ва1-33, где сделана попытка решения данной проблемы в духе итеративной регуляризации. Для этих методов, как и для других, основанных на идеях тихоновской регуляризации ШГо, Мор, ТЛЯ], сохраняется проблема низкой скорости сходимости; кроме того, подобные методы принципиально требуют знания количественной оценки близости приближенных входных данных к точным, что не всегда адекватно реальной ситуации.

Параллельно велась работа по содержательной характеризации особых экстремумов и анализу поведения известных методов оптимизации (градиентных, штрафных функций и т.п.) на вырожденных экстремальных задачах САг1, Ар1,2,4, БК1, ДТ2,3,5, 3а1, 2, Кар, Тр1,5,6, Kre, LZo3. Отмечаем, что для задач условной оптимизации понятие особого экстремума может иметь разное содержание (см. [ГКи, Гур, МТ5, По13), хотя общий смысл понятия особенности везде один - тот, о котором говорилось выше. Во избежание путаницы договоримся вырожденным экстремумом называть такой экстремум, в котором не выполнены соответствующие классические достаточные условия оптимальности второго порядка [АТФ, СТФ]; в случае же невыполнения некоторых классических условий регулярности ограничений [АТФ, ИТи, СТФ, ФМк] будем говорить о нерегулярном экстремуме.

Представляется естественным, что для анализа структуры нерегулярных нелинейных отображений, а также для построения эф-

фективных численных методов решения вырожденных задач, нужно привлекать информацию о старших производных, что, в свою очередь, требует специального математического аппарата. Новые возможности в этом направлении появились в связи с введением в 1984 г. в работе ЕТрЗ] конструкции р-регулярности, которая получила дальнейшее развитие и подверглась анализу и уточнениям в работах ЕАв1-3, AAA, Аг2, АГа, АрЗ,5,7, Ве1,2, БТ1»2, БКТ, Де1,2, ДТ1,4, МзЗ,4,6-9,12,13,16,17, ИТ1,2,5,6, Тр2,4,7, 8, Led, LS1,2], где на основе этой конструкций был доказан ряд результатов, обобщающих на р-регулярный случай многие классические теоремы, о которых говорилось выше. В частности, были даны обобщение обсуждавшегося выше результата о линеаризации, описание поверхности уровня нелинейного отображения в окрестности р-регулярной точки, построена теория �