автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Математические модели классификации и адаптивной оптимизации в интеллектуальных системах принятия решений

РГВ ол

2 0 ПМП 1007

На правах рукописи

КАРКИЩЕНКО Александр Николаевич

МАТЕМАТИЧЕСКИЕ МОДЕЛИ КЛАССИФИКАЦИИ И \ДАПТИВНОЙ ОПТИМИЗАЦИИ В ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМАХ ПРИНЯТИЯ РЕШЕНИЙ

пециальность 05.13.17 - Теоретические основы информатики

АВТОРЕФЕРАТ

диссертации на соискание ученой степени доктора физико-математических наук

Москва - 1997

Работа выполнена в Таганрогском государственном радиотехнически университете

Официальные оппоненты:

Доктор физико-математических наук, профессор В.А.ЛЮБЕЦКИЙ Доктор физико-математических наук, старший науч. сотрудник С.П.МАКЕ1 Доктор физико-математических наук, доцент А.В.ЯЗЕНИН

Ведущая организация: Вычислительный центр РАН

Защита состоится "X Ф' М/^О^Л- 1997 г. в ц часов н, заседании диссертационного совета Д 003.29.01 при Институте проблег передачи информации РАН по адресу: 101447, Москва, Б. Каретньм пер, 19.

С диссертацией можно ознакомиться в библиотеке ИППИ РАН.

Автореферат разослан

А*/- (^ш/рь. 1996

Ученый секретарь диссертационного

совета, доктор технических наук [уЛ^С^ СН.Степанов

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Автоматизация интеллектуальной де-ельности потребовала решения задач, не возникавших ранее в науч->й практике. К их числу относится описание и представление в ЭВМ южной внешней среды, автоматическое планирование и выполнение 13Нообраэных действий, направленных на достижение заданной цели, эдобные задачи, являясь теоретическим содержанием исследований в эласти искусственного интеллекта, предполагают разработку коррек-1ых математических моделей, описывающих различные аспекты интел-¡ктуальной деятельности человека, и в этом смысле являются одним ( наиболее актуальных направлений современных исследований.

Центральной задачей в интеллектуальных системах принятия рвений является автоматическая классификация текущих состояний или ггуаций, что является предпосылкой для выработки правильных реше-1Й. В широком контексте проблематики искусственного интеллекта зама классификации имеет характерные особенности: ситуации задают общем случае не разбиение признакового пространства ситуаций, а 1Шь покрытие; неточность и неопределенность экспертных сведений 1ктуют необходимость представлять информацию в форме, которая 1екватна априорной неопределенности и ненадежности имеющихся шных. Наиболее подходящий для этого аппарат представляет теория ¡четких множеств, которая, как известно, эффективней классических ийесовских методов классификации в условиях априорной неопреде->нности, если: классы не имеют четких границ, априорные вероятности >явления классов неизвестны или известны недостоверно, невозможно хлучить полную группу несовместных событий, число классов беско-:чно или слишком велико.

Ввиду сказанного, крайне актуальным является исследование опроса о связи теории вероятностей и теории нечетких мно-еств в контексте задач классификации в условиях неполноты и апри-зной неопределенности данных. Строгое рассмотрение этого вопроса ¡возможно без изучения свойств нечетких (неаддитивных) мер, а кже особенностей их практического восстановления и аппроксимации.

Применение интеллектуальных систем для решения прагматически 1жных задач требует адекватности системы той предметной области, 1я которой она разработана. Это ведет к необходимости увеличивать 1Сло ситуаций, классифицируемых системой. 80-е годы принесли по-(мание того, что полезность и "интеллектуальная" мощь систем, моде-

лирующих принятие решений человеком, в большей степени определ ются объемом базы знаний, а не сложностью механизмов логическо вывода. Как следствие, это породило тенденцию создания больших б; знаний. Главной проблемой при этом является резкое возрастай! сложности получения решений с увеличением объема знаний. С опр деленного момента точность решения перестает оправдывать затра1 времени на ее достижение. Поэтому на передний край выдвигает« критическая проблема оптимального управления поиском решений таких системах. Разработанная в диссертации концепция адаптивно! неполного поиска решений представляет собой эффективный подход решению этой проблемы, что также обусловливает актуальность тем диссертационного исследования.

Цель и задачи исследования. Целью диссертацио ной работы является развитие теории, исследование и совершенствов ние методов классификации и обобщения сложных статистичесю объектов в условиях априорной неопределенности на основе вероятн стных и нечетких мер, а также разработка теоретических положений математических моделей неполного поиска решений в интеллектуал ных системах.

Основными задачами исследований, определенными поставленнс целью, являются:

- разработка математического аппарата для классификации обобщения вероятностных распределений и исследование возможное применения для этого теории нечетких множеств, теории нечетких ме теории возможностей;

- рассмотрение возможности создания обучающихся систем сит ационного управления на основе данных методов, а также разработ! конкретных моделей обучения;

- исследование свойств и структуры нечетких мер, инварианта относительно групп автоморфизмов соответствующей алгебры, с цель восстановления нечетких мер;

- исследование метризованных отношений и мер близости меж; ними и применение их в алгоритмах оптимального планирования де ствий;

- разработка и исследование математического аппарата для оп сания процесса выбора решений при неполном поиске в интеллектуал ных системах;

- построение и исследование модели оценки сложности получен:

шений в интеллектуальных системах;

- разработка математического аппарата, а также построение и ис-едование математических моделей неполного поиска решений;

- разработка простого и экономичного метода оценки текущих раметров среды для моделирования адаптивных возможностей си-емы в рамках идеи неполного поиска решений.

Методы исследований основываются на использовании ап-рата теории вероятностей, математической статистики, теории нечет-х множеств, теории возможностей, теории групп, теории чисел, ком-1наторики, теории решеток, теории метризованных отношений, вариа-онного исчисления, теории графов, кластерного анализа, экспертных стем.

Научная новизна. Разработанные в диссертации теоре-ческие положения и методы формализации неопределенной статисти-ской информации являются существенным вкладом в развитие фун-[Ментальных исследований в области информатики. Выполненные ис-едования и разработанные методы формируют качественно новый ювень построения математических моделей классификации и моделей ^аптивного управления поиском решений в интеллектуальных системах.

В диссертационной работе получены следующие основные науч->1е результаты:

- введено понятие статистического класса для классификации и габщения вероятностных распределений. Предложен новый теоре-ко-множественный подход к описанию статистических классов, позливший обобщить классическую схему классификации и унифициро-1ть вероятностный, возможностный и нечеткий подходы к классифи-1ции. Определены и обоснованы операции на множестве статистичес-IX классов, а также меры их включения и равенства;

- введено новое понятие нечеткой меры, инвариантной относи-лбно некоторой группы автоморфизмов, что дает возможность эф-ективно восстанавливать нечеткие меры событий. Исследована струк-ра нечетких и инвариантных нечетких мер. Установлены соотношения, жазывающие связь между операциями над группами автоморфизмов классами определяемых ими инвариантных мер. Найдено явное вы-ажение для размерности многогранника нечетких мер, инвариантных гносительно циклической группы автоморфизмов;

- разработан метод построения оптимальных мер близости метри->ванных отношений частичного порядка на основе вариационных кри-¡риев, что позволяет конструктивно находить меры близости с апри-

орно заданными свойствами. Предложен и обоснован алгоритм от мального последовательного опроса на основе мер близости метриз ванных отношений;

- введен и исследован класс решающих функций, формализу! щих выбор решений в интеллектуальных системах. Описан практичес важный класс монотонных решающих функций. Введено и исследова! понятие функции стоимости доказательства произвольного множест гипотез в продукционных системах. Данные результаты позволж строить формальные модели оптимизации работы интеллектуальж систем. Получено обобщение формул байесовского оценивания кс венных свидетельств;

- разработана общая математическая модель оптимального н полного поиска решений, что позволяет существенно ускорить рабо интеллектуальных систем. Построена вероятностно-статистическая м дель последовательного упорядочения гипотез по критерию вероятн сти. Предложен корреляционный метод структуризации множества г потез, оптимизирующий неполный поиск решений;

- предложен подход, позволяющий реализовать адаптивные вс можности оптимального поиска решений в условиях нестационарное среды. Данный подход основан на разработанном экономичном мето, для оценивания числовых характеристик вероятностного распределен по наблюдаемой статистической последовательности.

Практическая ценность работы состоит в том, что сов купность полученных результатов позволила решить научную проблек связанную с развитием теории, унифицирующей вероятностный, вс можностный и нечеткий подходы к решению задач классификац сложных статистических объектов. Разработанные методы анализа и вариантных нечетких мер дают возможность эффективно восстанавл вать нечеткие меры событий в сигма-алгебрах при малом числе стат стических наблюдений. Предложенный в работе вариационный подх< к построению оптимальных мер близости метризованных отношен позволяет находить меры близости с априорно заданными свойства* в частности, сглаживающие ошибки экспертных данных, что важно п| создании интеллектуальных систем. Разработанная теория неполно поиска решений открывает возможности для создания строго обосн ванных адаптивных механизмов управления интеллектуальными сисп мами, а также моделирования интеллектуального поведения челове при принятии решений в меняющейся среде.

Реализация результатов работы. Разработанный в диссерта-,ии метод классификации вероятностных распределений частично реа-[изован в гибридной экспертной системе для интерпретации электроэн-.ефалограмм, что позволило дать принципиально новый метод иденти-эикации функциональных состояний, вызванных действием психотроп-ых препаратов. Данная экспертная система внедрена в Центральном аучно-исследовательском институте химии и механики. В этой же си-теме реализованы обобщенные методы байесовского оценивания кос-енных свидетельств, позволившие формализовать и автоматизировать адачу субъективной верификации результатов эксперимента. Предло-сенные в диссертации методы сокращения пространства поиска реше-ий и метод подавления неактуальной статистической информации ревизованы в НИИ микроэлектронных вычислительных структур при Таган-югском радиотехническом университете. Отдельные положения дис-ертации внедрены в учебный процесс в Таганрогском радиотехническом ниверситете и Ростовской государственной академии строительства.

Ряд результатов диссертационной работы получен в рамках грана Конкурсного Центра фундаментального естествознания Госкомитета 'оссийской Федерации по высшему образованию (грант № 12590).

Апробация работы. Основные результаты работы докла-.ывались и обсуждались на Научно-исследовательских семинарах по .искретной математике (Одесса, 1978, 1979), Всесоюзной научно-техни-еской конференции "Теория адаптивных систем и ее применения" (Ле-инград, 1983), Всесоюзной научно-технической конференции "Проблемы оздания и развития интегрированных автоматизированных систем в роектировании и производстве" (Москва, 1987), Межреспубликанском еминаре "Математическое и программное обеспечение задач много-ритериальной оптимизации и их применение" (Ереван, 1988), III Всесо-эзной конференции "Проблемы и методы принятия решений в органи-ационных системах управления" (Москва-Звенигород, 1988), Научно-ехнической конференции "Обработка информации в автоматизирован-ых системах научных исследований" (Пенза, 1989), Всесоюзном совещании "Экспертные системы" (Москва, 1990), Всесоюзной конференции Создание и применение гибридных экспертных систем" (Рига, 1990), !сесоюзном научно-техническом семинаре "Программное обеспечение овых информационных технологий" (Тверь, 1991), Всесоюзной научно-ехнической конференции "Интеллектуальные САПР" (Таганрог, 1992, 996), III Международной научно-технической конференции "Методы

представления и обработки случайных сигналов и полей" (ХарькоЕ 1993), Первом Международном симпозиуме "Интеллектуальные систем! 94" (Москва, 1994), IV Национальной конференции с международны! участием "Искусственный интеллект-94" (Рыбинск, 1994), ВсероссиР ской школе-коллоквиуме по стохастическим методам геометрии и ана лиза" (Москва, 1994), Третьем Европейском конгрессе по интеллекту альным технологиям и мягким вычислениям (Германия, Ахен, 1995] Конференции Северо-американского общества по обработке нечетко информации - ЫАЙРБ'Эб (США, Беркли, 1996), Пятой национально конференции по искусственному интеллекту КИИ-96 (Казань, 1996).

Публикации. По теме диссертации опубликована 51 печатна работа, в том числе монография "Вероятностные и возможностные м« тоды классификации случайных последовательностей" / А.Г.Броневи1 А.Н. Каркищенко. -Таганрог ТРТУ, 1996. -194 с. Кроме того, результг ты исследований отражены в 4-х отчетах о НИР.

Структура и объем работы. Диссертация состоит и введения, шести тематических глав, заключения, списка литературы приложения. Общий объем основного текста - 322 стр., включая 33 p^ сунка и 8 таблиц. Список литературы изложен на 15 стр. и содержа 155 наименований.

СОДЕРЖАНИЕ РАБОТЫ

Первая глава диссертации посвящена решению зада классификации и обобщения вероятностных распределений, наблюдае мых в виде совокупности статистических данных. Это сложная в мате матическом и трудоемкая в вычислительном плане проблема, котора часто возникает в приложениях, связанных с ситуационным управл* нием. Содержательный смысл задачи состоит в том, что состояние нг блюдаемого объекта, имеющего стохастическую природу, отождествл) ется с вероятностным распределением, описывающим его поведение данный момент. Во многих случаях можно выделить некоторое, вообш говоря, конечное множество распределений (ситуаций), при которь субъект, осуществляющий наблюдение, принимает управляющие реш< ния. Поскольку точное совпадение наблюдаемого распределения с о) ним из выделенных - практически невозможное событие, возникает н< обходимость классификации, при которой требуется определить мер близости наблюдаемого распределения к выделенным. Сложность з<

;ачи состоит в том, что, как правило, наблюдаемые распределения яв-1яются многомерными, объем статистических выборок невелик, нару-иаются основные требования классической байесовской схемы: эта-ганные распределения должны образовывать полную группу событий и Зыть несовместными.

Рассмотрим постановку задачи. Пусть X - измеримое пространно, на котором определена сг-алгебра 21. На 21 введена объемная *ера V и абсолютно непрерывная относительно нее вероятностная *ера Р. Тройку 7Г = (Х,21 ,Р) будем называть статистическим классом

на X. Пусть = I' = 1,2,...} - конечная или бесконечная совокупность статистических классов. Допустим, что в % выделено конечное

юдмножество 5, = {51,52,...,5Г} классов, которые будем называть

стандартными. Решение задачи классификации статистических клас-:ов по стандартным классам состоит в построении меры включения

е[0,1] на с помощью которой для любого Fe|$ может эыть найден классифицирующий вектор

Цанная постановка приводит к необходимости 1) выбора способа описания статистических классов, 2) определения отношения включения ста-гистических классов, 3) собственно определения меры включения.

В работе предложен теоретико-множественный способ описания латистических классов, который основан на вводимом понятии минимального события. Пусть Л(р) = {Л е211 Р(А) = р} - множество р-ве-

х>ятных событий для некоторого класса Р. Событие Е ер) называ-5тся минимальным, если оно имеет минимальную объемную меру сре-

ци всех равновероятных событий, т.е. У(Е) = М У(А). Обозначим Чв-

Ле.^ р)

?ез 9Я множество всех минимальных событий для класса Т*1.

В диссертации подробно исследованы разнообразные свойства минимальных событий. В частности, показано, что минимальные события являются наиболее вероятными среди множества событий равного эбъема.

Лемма 1. Пусть Е еЭП, У(Е) = а и В{а) - множество собы-

тий, имеющих объем а, т.е. В{а) = {/1 е1 V(A) = я}. Тогда Р(Е) -= sup Р(А).

Aeff(a)

Доказано, что а-срезы функции плотности вероятности h{x) стг тистического класса F являются минимальными событиями (рис. 1).

Лемма. 2. Для любого а>0 событие Е = {хеХ \ h{x)> а} явль

ется минимальным событием.

Назовем точной верхней гранью события С величин

Lub(C) = sup{a | Cç E(aj\. Обозначим: 'm\.E{a)-{x eX \h^x)> a]

ЫЕ(а) = {хвХ\И(х) = а}.

Доказана теорема, которая дает описание структуры произволь ного минимального события.

Теорема 1. Пусть С еШ и Lub(C) = а. Тогда

1) если а> О, то С = intJ?(a)u А, где А с bd Е(а); обратно, для л к бого а> 0 событие С = mtE(a)uA является минимальным;

2) если а- О, то С~ int£(0); обратно, int£(0) является минималь ным событием.

Установлен признак равновероятных минимальных событий.

Лемма 3. Пусть С,,С2 е9Л и Р(С^)-Р(С2), тогда имеет ме

сто равенство Lub(C,) = Lub(C2).

Следующая теорема устанавливает условия, при которых для л к бого р е[0,1] минимальное событие с вероятностью р единственно

Теорема 2. Для того чтобы любо минимальное событие определялось свое вероятностью однозначным образом, н( обходимо и достаточно, чтобы для лк бого а имело место равенств P(bd£(e)) = 0.

Статистический класс F в кс тором каждое минимальное событие опре деляется своей вероятностью однозначнс

точностью по мере V.

Рис.1. СС-срезы являются минимальными событиями

13ывается правильным.

Для правильных статистических классов введены основные теоре-1Ко-множественные отношения и операции в терминах минимальных

>бытий. А именно, пусть FVF2 - правильные статистические клас-«|, А,(р) и А2(р) - /»-вероятные минимальные события, соответствуйте классам F, и F2. Тогда

F{qF2 « Aj(p)cA2(p) по мере V для любого р е[0,1]; Fx-F2 <=> А1(р)=А2(р) по мере V для любого р е [0,1]; F3 = Fji^F2 <=> Аъ(р) = А1(р)иА2(р) для любого р е[0,1];

F3=F,riF2 о А3(р) = А,(р)пА2(р) для любого р е [0,1]; Меры включения и равенства статистических классов определятся в работе следующим образом:

1

vKF, с F2) = jP1[A2(p)\Mp)]{2p)dp,

о

= F2) = min{ y^F, с F2), С )} • Обоснованность введенных мер показывает следующая теорема. Теорема 3. Для правильных статистических классов FX,F2 eyf:

) iy{Fl с F2) = 1 тогда и только тогда, когда Fx с F2;

) y4.Ft = F2) = 1 5 том и только том случае, если F, = F2.

Для конструктивного вычисления мер включения в работе получе-

ы простые формулы статистического оценивания функции y^Fx cF2) по

бучающей выборке {х, |/ = 1,2,...,^} статистического класса F,

2 w

H^i £ F2) = — £ min{/y, (.х, ),м2 (г,-)}. N ¿=1

№ /ик(х) = \-Рк{у еХ | h(y) < h(x)}, к = 1,2.

Функция //(х) открывает возможность интерпретации понятия гатистического класса как нечеткого множества с функцией принад-

лежности ц{х). Показано, что любое минимальное событие может бы однозначно выражено с помощью функции р(х), а именно, для любо

р> О А(р) = {х еХ | //(*) ^ 1-р\, следовательно, функция /и(х) опре/: ляет каждый статистический класс однозначно. В работе установлен что для РиР2 имеют место следующие условия: если Р3 = Е1*и!

то //3(х) = шах{//1(х),//2(х)}, а если Рг=Р^г\Р2,

ц3(х) = пип{/^,(лг),//2(•*)}• Таким образом, введенные ранее операц над статистическими классами совпадают с традиционными минима сными операциями Заде в теории нечетких множеств.

В работе показано также, что если правильные статистическ классы рассматривать как нечеткие события, вероятность которых с ределяется по Заде, то мера включения имеет смысл условной веро?

ности появления нечеткого события Р2 при условии, что произошло у

четкое событие Р] по мере Р,, т.е. (г^ с Р2) = />1(/Г2|^|).

Проведено широкое обобщение полученных выше результатов случай неправильных статистических классов, что потребовало вве,е ния и исследования нечетких минимальных событий. Показано, ч функция принадлежности нечеткого минимального события имеет вид

(1, хепиЕСа),

д, х еЪйЕ(а), а>О, д е[0,1], 0, хеЕ(а),

где д = {р-Р{1п1Е(а)})1 Р{Ъ&Е(а)}. Если статистический класс пр

вильный, то М£(а) равно нулю по мере V и получается описание чс ких минимальных событий. Нечеткие минимальные события определ ются однозначно.

Для неправильных статистических классов также введены теор тико-множественные отношения и операции, обобщающие соответстЕ ющие операции над правильными статистическими классами. В частн сти, мера включения приводится к виду

1

№ яР2) = 1\р\А{р)глА2{р))с1р. о

Показано, что данная функция может быть оценена статистически о выборке (*, ,х2,...,хи) статистического класса ^ по формуле

^(х) = 1-.7>(х,0), ^(х,д) - вероятность нечеткого события Е(1т(х),д),

ре[0,1]. Функции ¡л{х) и ]}(х) называются нижними и верхними функциями принадлежности статистического класса F. Если Р - правиль-1ый статистический класс, то р(х)=р(х).

В первой главе введено понятие обобщенного статистического

(ласса: ^ = {1\ е ^М с Т7}, т.е. - это множество статистических классов, которые включаются в .Г. Введено также понятие обобщенного нечеткого статистического класса: ^ | у/( /•) £ > т-е- ^ ->то нечеткое подмножество в ^ с функцией принадлежности

= (¿/(.^ с/*"). На обобщенные статистические классы в работе >аспространены все введенные ранее теоретико-множественные отно-иения и операции. Множество ^ относительно введенных операций (вляется дистрибутивной решеткой.

В работе установлена связь между понятием обобщенного стати-:тического класса и теорией нечетких мер, в частности, теорией возможностей. Поскольку для нормального нечеткого множества фун-сция принадлежности //(дг) интерпретируется как распределение возможностей РОБ8{х) = р(х), то это позволяет ввести семейство 3> = {Р,}

с «—£/(*,), 1(х) = тЦ/^ (х),м2 (*)] + ш1п[7у, (*),//2(х)] + Д(дг),

и

^(х) = тах

. Здесь М.{х) = 1-^(х,1),

вероятностных мер Р, таких, что NESS(a) < Р^А) <> POSS(a) для любе

го А е2Г, где NESS{») и POSS{») - меры необходимости и возможне сти, индуцированные функцией р(х). В связи с этим введено поняти

возможностного включения "рс" для классов: Ft%zF, если выпол няются предыдущие неравенства. Следующая теорема дает критери! возможностного включения в терминах минимальных событий.

Теорема 4. F, рс F тогда и только тогда, когда для любог р e[0,l] имеет место /?[Я(р)]> р.

Следствие. Из F, с F следует F, pcz F; обратное утвержде ние В общем случае неверно.

В работе введена также мера возможностного включения

1

уу{17, F) = 2Jnm{p,P,[A(p)]\dp,

о

для которой доказана теорема, показывающая ее обоснованность. Теорема 5. уК.^ fzF) = 1 в том и только том случае, если Ftpc:F.

Вторая глава посвящена изучению введенного в диссерта ции нового понятия - нечеткой меры, инвариантной относительно неко торой группы автоморфизмов соответствующей ст-алгебры Инвариантность нечеткой меры позволяет значительно упростить ее статистическое восстановление. Проведено исследование структуры ин вариантных нечетких мер на конечной алгебре.

Автоморфизмом у алгебры 21 называется ее изоморфизм нг

себя, т.е. взаимно однозначное отображение 21 на 21, сохраняющее отношение частичного порядка. Совокупность всех автоморфизмов об разует группу всех автоморфизмов Aut2t с групповой операцией

Любая подгруппа в Aut2l называете?

просто группой автоморфизмов.

В работе проведено исследование структуры множества М не-

(етких мер на конечной алгебре. Показано, что М является выпуклым множеством. Пусть | - фильтр в ЧЛ как в частично упорядоченном множестве, т.е. f - подмножество в 21 такое, что если А и Ас:/!,

о В Рассмотрим на "21 функцию ^,(.-1) = '^^ Функция >^{А)

называется примитивной нечеткой мерой, ассоциированной с фильтром [ . В частности, если f - главный фильтр, порожденный элементом X, о соответствующая примитивная нечеткая мера является мерой Дирака, сосредоточенной в точке Л". Множество всех примитивных не-1етких мер на 21 обозначим через М. Следующая теорема объясняет (ажное значение примитивных нечетких мер в описании структуры множества М.

Теорема 6. Любая нечеткая мера // может быть представ-

юна в виде выпуклой комбинации примитивных мер ^, ( е./.

Из доказанной теоремы следует, что не все примитивные нечеткие 1еры из N необходимы для представления произвольной меры р вы-|уклой комбинацией.

Следствие 1. Любая нечеткая мера представима в виде выпук-юй комбинации примитивных нечетких мер, ассоциированных с некоторой последовательностью вложенных фильтров.

Следствие 2. Любая нечеткая мера может быть представлена выпуклой комбинацией не более чем 2" -1 примитивных нечетких мер.

Следующая теорема показывает, что множество примитивных мер 1е может быть сокращено.

Теорема 7. Никакая примитивная мера из N не может быть представлена в виде выпуклой комбинации других примитивных мер 13 М.

Представление нечетких мер выпуклой комбинацией не един-твенно. Показано, что множество М может быть представлено в про-

транстве И2" в виде многогранного выпуклого множества, размерность

оторого 2" -1.

В данной главе подробно исследована структура множества всех инвариантных относительно группы Г (или Г-инвариантных нечетких мер. Показано, что является выпуклым множеством Следующая теорема устанавливает простые соотношения между груп пами автоморфизмов и соответствующими множествами инвариантных мер.

Теорема 8. Пусть Г,,Г2 сAi.it, МХх,МХг - множества Г)- I Г2 -инвариантных нечетких мер. Тогда

1) из Г, < Г2 следует з Мт;

2) если Г = Г, пГ2, то МТ з

3) если Г = {г, иГ2}, т.е. Г - наименьшая из подгрупп, содержаща.

Г, и Г2, то МТ с п МХг.

При действии группы Г множество элементов в распадается Н1 орбиты. Все элементы одной и той же орбиты имеют одинаковую меру По этой причине структура орбит на множестве 21 в значительной сте пени определяет структуру множества МТ Г-инвариантных мер.

Обозначим через 2Уя(Г,п) число орбит на алгебре 21 при дей

ствии Г, где /»=1^1 - мощность основного множества X (на которог

определена <х-алгебра 21), У = = 1,2,...,Лгя(Г,п)} - множество все:

орбит. На У введем бинарное отношение -< по правилу: У, в том I

только том случае, если найдутся такие А е7( и В что А с В в 21

Показано, что отношение -< является отношением частичного порядк. на У. Множество орбит с введенным отношением -< называется фак тор-множеством алгебры 21 по группе Г и обозначается 21/Г. Такиг

образом, 21/Г = [У,<)-

Фильтр называется Г-инвариантным, если П = Значена

Г-инвариантных фильтров объясняется теоремой.

Теорема 9. Существует взаимно однозначное соответствие

между Г -инвариантными фильтрами б 21 и фильтрами в 21/ Г.

Примитивная нечеткая мера 77, называется Г-инвариантной, если >на ассоциирована с Г-инвариантным фильтром. Множество таких мер збозначим

Теорема 10. Любая Г -инвариантная нечеткая мера р может *)ыть представлена выпуклой комбинацией примитивных Г -инвари-

тнтных нечетких мер, т.е. р- > Xа\ = ^» - ® •

Следствие 1. Любая Г -инвариантная нечеткая мера может 5ыть представлена в виде выпуклой комбинации примитивных мер, 1ссоциированных с последовательностью вложенных Г -инвариантных фильтров.

Следствие 2. Любая Г -инвариантная нечеткая мера предста-

Ъима выпуклой комбинацией не более чем Л'а, (Г, /?) — 1 примитивных ? -инвариантных мер.

Показано также, что множество МТ можно представить в виде

1н0гогранника в л""^'"'. Размерность Мх равна Л^а(Г,и)-1.

Число орбит в 21 при действии группы Г в общем случае может 5ыть найдено с помощью комбинаторной леммы Бернсайда, которая 5ыла модифицирована для рассматриваемого случая:

М% (Г,л) = = 1+|г|~' X X К/Л)),

А=1 А=1/*»еГ№

де А^(Г) - число орбит на множестве Хт всех И -подмножеств мно-кества X, |г| - порядок группы Г, Г(А) - группа, индуцированная действием группы Г на Хт, - число элементов, неподвижных при

юдстановке Вычисление числа неподвижных элементов является, сак правило, сложной задачей даже для случая относительно простых ■рупп, особенно при рассмотрении их индуцированного действия. В ра-

юте подробно рассматривается вычисление числа А^Г,/?) для случая

циклической группы автоморфизмов.

Теорема 11. Число орбит на множестве Л'"", И = 0.1,...,и, всез>

И-подмножеств основного множества X, |Л'| = п, при действш

циклической группы Ст заданного типа {пх,...,пш) определяется вы ражением

п-1

+ кш = Ь /И))(П| ,А"1) О^к, <я,,|=], ,а

»»„кя )

Им т..

а=1 ("„.*„)

Здесь //(V), у= р"1 р"1 ...р"', - теоретико-числовая функция Мебиуса, для которой в диссертации найдено явное выражение:

Рассмотрены также некоторые частные случаи, вытекающие из

общей теоремы. Вычисление Л\а(Г./?) для случая циклической группы

показывает значительную комбинаторную сложность, присущую подобным задачам.

В третьей главе подробно рассмотрен метод построения семейства мер близости на метризованных отношениях, который основан на предложенном в диссертации способе продолжения меры близости Хэмминга. Дана вариационная постановка и решение задачи построения оптимальных мер близости на основе вариационных критериев. Метризованным отношением строгого частичного порядка (ОСЧП)

Р на множестве альтернатив А = называется отношение,

заданное квадратной матрицей А, . в которой

если (я,.,я/)е/5. {aj.al)<iP.

О,

К*

< 1.

— IV ,

если {а ,а,) еР,

если (а J.a¡) 6 Р.

если все м- =1, то получается обычное (неметризованное) ОСЧП. Пусть

?=|а1| и Рг=\р1\ ' неметризованные ОСЧП; Богартом была введена

ера близости Хэмминга отношений Р, и Р2: с1(Р1,Р2)= = "г~

и

ели Р - метризованное отношение, то для фиксированного с,

<£<1, неметризованное отношение Р(£) = |/7!/-(£)|,

1. Р0 > е,

р„(е)= 0, \р„\йе,

азывается структурным с -сечением отношения Р. С содержатель-эй точки зрения е может характеризовать интервал недостоверных начений экспертных оценок. Выбирая е, можно отсекать ошибки и не-

зчности оценок. Показано, что отношение Р(е) является отношением

грогого частичного порядка.

В работе введена мера близости на метризованных отношениях, эторая является интегральным продолжением меры Богарта для бычных отношений:

(Р, ,Р2) = ¡с!(Ц {Е),Р2{с))/{Е)с1е. (1)

о

оказано, что ¿¿{Рх,Рг) удовлетворяет всем аксиомам метрики.

Следующее утверждение показывает, что интегральная мера бли-эсти сводится к обычной мере Хэмминга на метризованных ОСЧП, что ает удобный способ вычисления данной меры.

Утверждение. Пусть Рх и Р2 - метризованные отношения

СЧП, заданные матрицами и Ц/^Ц- Тогда меру близости (1) ожно рассчитать по формуле

*лр1л) = ц\р(р1)-нр1\ (2)

где F(x) - нечетная на [-1,1] функция, такая, что F(x) = J/{s)c!e.

о

Формула (2) задает некоторое семейство мер на метризованны ОСЧП, зависящих от выбора функции F(x). Определенный произвол выборе F(x) позволяет ставить и решать различные оптимизационны задачи, связанные с определением наиболее подходящих мер близост метризованных ОСЧП. В частности, функцию F(x) можно выбират так, чтобы мера близости определенным образом учитывала ошибки допускаемые экспертом при оценке предпочтений, и при этом сохраня лись необходимые структурные свойства меры. Если к мере близост предъявить требования, чтобы на априорном уровне оценки обладал статистической устойчивостью, а сама мера не сильно уклонялась о обычной равномерной меры Хэмминга, то, как показано в работе, эт< приводит к вариационной задаче:

1 1 1

¡¡[FW-Fiy)}2 <j(x,y)dxdy + a\[F\x)-\]2dx min, -î-i -1

F'(x) > 0, F(-x) = -F(x), F(l) - 1, (3

где o(x,y) - функция совместной плотности вероятностей истинноп значения предпочтений Д" и экспертного у, а а - параметр, отражаю щий относительную важность требования, предъявляемого i

"равномерности" меры d^(pl,p2). Показано, что решение вариационно! задачи (3) имеет вид:

i du

'{ a+Ä«)'

где Дх) = Ç^iy-x)2o(x,y)dy. Дальнейшее уточнение вида функци! F(x) связано с заданием конкретной функции плотности вероятност! а(х,у). В работе подробно рассмотрены примеры построения конкрет ных оптимальных мер близости для случаев, когда степени предпочте ния имеют объективную статистическую природу возникновения и когд; они формируются субъективно.

f(x):

j

du

о ct+ß{u)

На основе введенных мер близости в диссертации решена важная прикладная задача о разработке метода оптимального упорядочения последовательности вопросов, задаваемых интеллектуальной системой пользователю. Как отмечается в ряде работ, порядок задания вопросов играет важную роль при создании дружественного и вызывающего доверие к системе интерфейса и в целом влияет на формирование представлений об интеллектуальности системы. С точки зрения эффективности работы системы вопросы следует задавать в порядке убывания их информативной значимости, однако такая последовательность, как правило, находится в противоречии с последовательностью, диктуемой здравым смыслом.

Последующие главы диссертации представляют собой изложение вероятностно-статистического подхода к адаптивной оптимизации работы интеллектуальных систем. Комплексность общей проблемы потребовала разработки и исследования ряда необходимых математических моделей, связанных с формализацией процесса принятия решений, с описанием сложности вывода в системе, с оценкой текущих параметров нестационарной среды и др.

Четвертая глава содержит описание и математическое исследование специального класса решающих функций, формализующих процесс выбора решений в интеллектуальных системах, а также модель оценки вычислительной сложности проверки истинности решений.

В большинстве советующих интеллектуальных систем реализуется подход, при котором система в ответ на предъявленную ситуацию выдает некоторое подмножество из множества всех возможных решений (гипотез). При этом в развитых системах каждое из выданных решений сопровождается своей степенью достоверности (СД), как правило, принимающей значение из [0,1]. Окончательное решение, т.е. выбор одной из гипотез, принимает пользователь системы. Формирование подмножества решений осуществляется некоторой процедурой в зависимости от найденных СД. Выбор такой процедуры в значительной степени определяется представлениями разработчика о том, что понимать под истинным решением в системе.

Рассмотрим примеры таких процедур. Пусть Я = Л,...,ЛЛ} -множество гипотез (или потенциальных решений), £ = {£],>•••>£>} ' вектор СД этих гипотез: 1) р1(£г). г = 1,2,..., ставит в соответствие

вектору £ множество гипотез, СД которых принимает первые min(«,/-) максимальных значений. В частности, ^¡(¿,1) "выбирает" гипотезу с наибольшей СД; 2) (р2(%,у)> ставит в соответствие вектору £ множество гипотез, СД которых не меньше у, 3) (ръЦ,г,у), г = 1,2,..., 7^0, ставит в соответствие вектору £ множество гипотез, СД которых принимает первые min(n,r) максимальных значений, но не меньших,

чем у. Легко видеть, что =

Примеры показывают, что процедуры принятия решений могут быть описаны некоторым классом отображений, действующих из R" в подмножества множества Я. Эти отображения названы решающими функциями. Третий пример подсказывает также, что этот класс может быть наделен некоторой алгебраической структурой.

Пусть Ки - Я-мерный единичный замкнутый куб, [К„,И,Р) - вероятностное пространство, в котором 21 - сг-алгебра на Кп, Р - вероятностная мера на 21, $ - множество всех подмножеств из Я.

Решающей функцией называется функция вида <р:Кп -> Множество Ф всех решающих функций образует булеву алгебру относительно операций объединения, пересечения и дополнения.

Решающая функция q> порождает на Кп отношение эквивалентности EQp: еК„ 4{EQ^2 о = <pi$i)- При этом Кп распадается на классы эквивалентности: гДа/) = {£ еК„ \ ${£)= м\, М

Если А^В, то по определению \А,В\ = {М с А/с fi}. Следующая теорема дает описание структуры классов эквивалентности, порожденных функциями <p<j ц/, (рг\ у/, ~ф.

Теорема 12. 1) Г^Г(М)= [) (J [гДл)пГДя)], М

2) Г^(.\/)= и и [ГДЛЬГДВ)], .\fesy, 3) Г,(,)) = Гр(л/), Л/е.О-

Пусть V - объемная мера на а вероятностная мера Р абсолютно непрерывна относительно меры У, /(£) - функция плотности вероятности на Кп. На Ф определены интегральные меры близости решающих функций: по объемной и по вероятностной мерам:

М<р,у)= \\<р{£)® рР{<р,цА= \\<р{г)® где ©

К,

- знак симметрической разности множеств. Оба функционала являются псевдометриками. Показано, что {\-(<р, у)= ]Г|Л©Д| У(А,В), где

У(Л,В) - "объем" множества Г (л)оГ||,(д). При этом 0 <р1.(ср, у/)< п.

Аналогичные результаты получены и для меры рР{(р,у/). Установлено,

что диаметр множества Ф равен П как по объемной, так и по вероятностной мерам близости.

Каждая решающая функция, действуя на вероятностном пространстве (/>.'„ ,21,.р), индуцирует дискретное распределение вероятностей [р^ДА/) | М е£>] на В работе дано описание распределений на

>0, порождаемых функциями <р^у/, <ргму и ~ф. Пусть ^(с) и -

соответственно главный идеал и главный фильтр решетки порожденные элементом Се§, Определим р\7[С)\= ]Гр{А,В),

А,Ве](с)

р[^(с)]= ^Гр(А,В)» где р(А,В) - вероятностная мера класса

А,Ве7{с)

Т9{А)ЪТ¥{А).

Теорема 13. 1) р^г(м)= Х(-1)|ЛАС|/>[7(с)], Ме#;

с=м

2) ]Г(-1)!СШ1/>ИС)], ме€у, 3) рф(м) = рр{ш), ме*.

СэМ

Отдельный раздел данной главы посвящен практически важному классу монотонных решающих функций.

Значения, принимаемые произвольной решающей функцией, можно рассматривать как обобщенные решения, предлагаемые интеллектуальной системой. Таким образом, множество потенциальных решений -

это множество При разработке методов оптимального управления работой системы необходимо иметь математическую модель, описывающую сложность получения этих решений. Характер такой модели существенно зависит от принципов, на которых построена интеллектуальная система. В данной главе рассматривается продукционная модель представления знаний, для которой введено и исследовано понятие функции стоимости получения решений. Эта модель во многом схожа с мерой дискриптивной сложности, используемой в общей теории систем, и может служить для описания сложности проверки истинности обобщенных решений.

Предположим, что в продукционной системе реализован нисходящий вывод. Функцией стоимости назовем вещественную неотрицательную функцию = {хеЛ|дг>0}. Вид О зависит от многих факторов: от структуры базы знаний, от сложности вычисления отдельных правил продукции, от способа организации вывода, от способа получения исходных данных для вывода и др. Точное описание вида функции при большом числе гипотез дать невозможно. Однако можно установить важные свойства, которыми эта функция обладает. В работе делается допущение, что сложность вычисления отдельных продукций одинакова, а сложность получения исходных данных для вывода соизмерима со сложностью доказательства продукций.

Пусть для ИеН ГИ обозначает множество всех правил, которые необходимо вычислить при доказательстве гипотезы А. Определенное

таким образом на Н отображение Г естественным образом продолжа-

ется на всю решетку для любого А П4 = УГЛ. Легко устанав-

ЛеЛ

ливается, что для любых А,В Г(л и В) = ГА<иГВ, а также, что

отображение Г изотонное.

Функция стоимости й определяется следующим образом: для

любого А О(А) = |ГМ|. При всей простоте такое определение в значительной степени учитывает структуру базы знаний. Доказано, что функция стоимости монотонно возрастающая, т.е. для ЛсВ

имеет место в(А) <С(В), и субаддитивна, т.е. для любых А,В С(А) + 0(В)>С(АглВ) + С(А^В).

Структурный характер функции й(А) подтверждается следующим следствием. Если структура базы знаний несвязна по гипотезам, т.е. V

g,heH Гgn,Гh = 0, то функция стоимости С(А) аддитивна, т.е.

С(А) + 0(В) = С(Аг>В) + С(АкуВ). Вводятся и исследуются также другие понятия, связанные с функцией стоимости.

Неаддитивный характер функции стоимости значительно усложняет ее задание - фактически требуется определить значение функции

на каждом из 2" множеств из В связи с этим в работе предлагается способ аппроксимации функции О(Л). Пусть ={л1А ='"}• Тогда

для Аефт С(А)*>/ст£С(/1), т = 1,2,...,п. Для каждого т = 1,2,...,/?

ЬеА

коэффициент кя находится из условия, при котором достигается минимальная среднеквадратическая ошибка. Данная аппроксимация позволяет вместо 2" значений функции й(А) ограничиться вычислением П значений (7(Л), АеЯ, и П коэффициентов кт, т = \,2,...,п.

В заключение данной главы приводятся формулы, обобщающие формулы байесовского оценивания косвенных свидетельств, используемые при реализации неточного вывода в интеллектуальных системах.

Формулы Байеса распространяются на случай недостоверного наблюдения событий, а также, когда имеются недостоверные (субъективные) наблюдения произвольного числа событий (свидетельств).

Пятая глава посвящена разработке и исследованию вероятностно-статистических моделей адаптивного неполного поиска и принятия решений в интеллектуальных системах. Основной целью при разработке данных моделей было сокращение времени, требующегося на получение решения в системе. Как известно, это является наиболее серьезным недостатком многих интеллектуальных советующих систем, в первую очередь тех, которые действуют на продукционных принципах. В данной главе предлагается и с различных позиций рассматривается идея неполного поиска решений. Суть ее состоит в том, что из предположительно большого множества гипотез в базе знаний системы выделяется некоторое подмножество, обладающее тем свойством, что риск получить "плохое" решение, проверяя гипотезы только из данного подмножества, будет для него минимальным.

Пусть, как и выше, Н = {Л,,Л,,...,ЛИ} - множество гипотез в системе, для каждой из которых в процессе получения решения вычисляются ее степень достоверности у{И); у'-{у\,у2,...,уп), у, = КЛ,), - вектор СД гипотез. При этом уеКП = [0,1]°. Пусть ЯсЯ, тогда вектор ¡л СД гипотез из Я можно рассматривать как проекцию /л = Ргу у, где У

подпространство, соответствующее гипотезам, входящим в Я. В качестве решающей функции далее рассматривается для определенности упоминавшаяся ранее функция <р= (р(у,г), г =0,1,2,..., которая ставит в

соответствие вектору уе.Кп множество гипотез, СД которых принимают

первые тт(л,г) максимальных значений. Как и ранее, у будем рассматривать как случайный вектор в вероятностном пространстве

Под полным поиском в Я понимается вычисление СД всех гипотез из Я. Если ЯсЯ, то вычисление СД всех гипотез из Я назовем неполным поиском в Я. Значение решающей функции <р(у,г) .при полном поиске назовем истинным решением, а при неполном - квазии-

стинным. На рис. 2 показаны соотношения, в которых могут находиться истинное и квазиистинное решения.

Гипотезы, не являющиеся истинными, называются ложными. Чем

меньше Я, тем меньше стоимость С(Н) соответствующего неполного поиска, однако при этом растет и "различие" между истинным и квазиистинным решениями. По этой причине возможен компромисс между "сложностью" и "точностью". Для количественной характеристики ошибок неполного поиска введены две вещественные неотрицательные

функции: и'¡(А) - функция потерь от принятия множества А ложных

гипотез в качестве истинных; и>2(Л) - функция потерь от непринятия множества А истинных гипотез в качестве квазиистинных.

Определена обобщенная функция потерь для квазиистинного решения <р(р,г):

И7( с) = с^[<р{1л,г)\(р{ У,г)]+с2ъ>2[ср( у,г)\<р(ц,г)] + с3о{н),

где с(я) - функция стоимости доказательства гипотез из Я,

с = (с1(с2,с3), с, >0, с, +с2 +с3 = 1, - вектор параметров. Варьирование этими параметрами позволяет ставить задачу поиска компромиссных решений, "лежащих" между тремя крайними случаями - "найти любое

решение, но очень быстро" (с3 «1), "не допустить появления ложных гипотез" (с,«1), "не допустить потери истинных гипотез" (с2а1).

Средний ущерб или риск квазиистинного решения р(ц,г) определяется

как математическое ожидание

решение решение

Рис. 2. Соотношение между истинными и квазиистинными решениями

¿(я,с) = £{и{ КА с)] = цдсУД V).

Выбор подмножества Я гипотез для доказательства в системе, минимизирующий средний ущерб, осуществляется в результате решения оптимизационной задачи

¿(Я,с)—^тю.

В работе проведено подробное исследование, позволившее существенно упростить выражение для функции риска. Показано, что при естественном предположении решеточной аддитивности функций потерь

w, и w2 функция риска приводится к виду:

Х(я,с) = с, 5>(//Л'-к<й)+с2 5>(А,#>2(Л)+с30(л).

hsH ЬеН\Н

Коэффициенты л{й,И,г) и ¿?(h,r) зависят от вероятностного распределения на А'я. По этой причине они носят статистический характер и должны уточняться по мере получения информации о вероятностных характеристиках предметной области. В работе найдены статистически устойчивые оценки этих коэффициентов.

В заключение рассматривается процедура минимизации функции риска, в результате которой строится множество Я. Показано, что для случая с, =0 вычислительная сложность данного метода составляет не

более О.ЗЗя2 lgn операций сравнения.

Описанный выше метод предполагает предварительное отыскание множества Я с Я, внутри которого ищется решение. В последующем разделе данной главы описывается иной подход, при котором гипотезы в системе доказываются последовательно, начиная с той, которая имеет наибольшую вероятность быть истинной, постепенно переходя к менее вероятным. В основе метода лежит построение метрйзованного отношения линейного порядка на множестве гипотез в базе знаний.

Предположим, имеется представительная выборка (v,, к2,..., v^) векторов СД гипотез Я, полученная в результате N полных сеансов работы системы. В работе с помощью ортогональных многочленов Лежандра до 2-го порядка включительно строится аппроксимация многомерной функции плотности вероятности по статистическим оценкам математических ожиданий и корреляционных моментов. На основе данной аппроксимации найдены явные выражения для вероятностей

P(hk = шах), к = 1,2,...,п, того, что гипотеза hk будет иметь наибольшую среди всех гипотез СД. Эти вероятности индуцируют упорядочение

ht > hj <=> P{ht = max) > p(hj = max), которое позволяет решить следую-

щую задачу: указать наименьшее число гипотез, которые с наперед заданной вероятностью Р" содержат истинную гипотезу, т.е. ту которая имеет наибольшую СД.

Рассматривается также развитие данного подхода на основе учета дополнительной информации, которая появляется в процессе доказательства гипотез. Это позволяет более точно предсказать правильную последовательность доказываемых гипотез. В заключение приводится анализ возможных обобщений и практического использования полученных результатов.

В данной главе предлагается также метод оптимизации поиска решений, основанный на автоматической структуризации множества гипотез в интеллектуальной системе. Предположим, на основе статистической выборки (ц, у2,..., Ух) векторов СД гипотез из Я вычислены коэффициенты корреляции г^ гипотез Л, и /,у' = 1,2Тогда матрицу Л =|||Г!/|||. можно рассматривать как матрицу нечеткого отношения Я на множестве Я, характеризующего степень попарной зависимости гипотез. Данное отношение является нечетким отношением толерантности. С помощью процедуры транзитивного замыкания отношение

Л преобразуется в нечеткое отношение эквивалентности к. Выделение

ог-уровней из А дает семейство обычных отношений эквивалентности, которым соответствует семейство вложенных по измельчению разбиений множества Я, т.е. |/ =0,1,...,к,а0 =0,ак =1}, ^ с... с:#0, причем Н, и Н0 - тривиальные разбиения.

Выберем трансверсальиое множество гипотез семейства кЛ и

вычислим их СД непосредственно в системе. Тогда в пределах каждого класса эквивалентности с помощью уравнения регрессии можно вычислить ожидаемые СД остальных гипотез. Чем больше тем точнее

предсказанное значение. В результате можно упорядочить гипотезы по убыванию предсказанных СД, что определяет последовательность их доказательства в системе. Показано, что данное упорядочение позво-

ляет существенно ускорить отыскание истинного решения. Обсуждаются проблемы, связанные с реализацией метода и возможные обобщения.

Рассмотренные выше вероятностно-статистические модели оптимизации поиска решений в интеллектуальных системах основаны по сути на формировании модели внешней среды системы, которая формализуется в виде вероятностиого распределения истинностей гипотез (потенциальных решений). Информация об этом распределении накапливается в виде статистической выборки в течение всего периода времени эксплуатации системы. При этом качество рассмотренных выше методов существенно зависит от того, насколько выборка отражает вероятностные характеристики среды в текущий момент времени. Поскольку жизненный цикл большинства систем достаточно длителен, интервалы между появлениями последовательных выборочных значений, как правило, велики, то следует исходить из предположения о возможной нестационарности параметров среды.

В шестой главе рассматривается метод подавления, позволяющий при вычислении числовых характеристик в условиях нестационарности уменьшать влияние той части выборки, которая получена при "старых" распределениях вероятностей. Данный метод, требуя минимальных априорных предположений, обладает простотой и вычислительной экономичностью. Предлагаемый подход апеллирует к свойственному человеку механизму забывания старой, неактуальной информации, моделируя тем самым возможности быстрой адаптации к новым условиям. Поскольку большинство характеристик может быть выражено как математическое ожидание некоторой функции от выборочных значений, то рассмотрение сосредоточено на оценке первого начального момента.

Пусть Хы - (х, ,х2,...,х^) - статистическая последовательность независимых реализаций Я-мерной случайной величины X с математическим ожиданием т и дисперсией компонент а\, / = 1,2,...,п.

Обозначим последовательность неотрицательных дискрет-

ных финитных функций таких, что gN(k) = 0 при Лг<0, к>Ы. Рассмотрим оценку неизвестного математического ожидания Ш:

й = ЕЫ*)**- (4)

*=1

Функция gN (к) называется функцией подавления. Данная оценка

n

является несмещенной, если для любого N справедливо = К

если при этом нт Уg2N(k) = 0. то она и состоятельна.

Предположим, что первые значений выборки получены при первом распределении, а остальные = - при втором.

Выборочное значение называется точкой переключения распределений. Традиционными оценками математических ожиданий случайной величины X при первом и втором распределениях вероятности будут

н, n

и Й!=| X1*' Поскольку точка переключения неизвестна, то реальная оценка вычисляется по формуле (4). Класс несмещенных и состоятельных оценок вида (4) широк, поэтому можно поставить задачу отыскания в этом классе последовательности при которой расстояние /^т.т,) = ||ш-ш,| быстро убывает с ростом

Ых. Поведение р(т,т,) как функции от Ых отражает динамические свойства механизма адаптации при смене вероятностных параметров внешней среды.

Для оценки характера сходимости ш к т, введена и обоснована безразмерная относительная величина, названная индексом сходи-

мости

, в (Ы)= | . Данная величина зависит только от N и от

8 4 \ грЧйо.ш,)

выбора функции gN(k). Найдено явное выражение для индекса сходимости.

Теорема 14. Имеют место следующие оценки:

тахШо!^)., ^ £ •

V *=1 V "1 )

В работе приведены подробные примеры исследования

для конкретных функций подавления.

Дальнейшие результаты данной главы связаны с конструктивным построением функций подавления. Поскольку выборку

(х1,х2>--->хл') можно рассматривать как статистику непрерывного случайного процесса, то вначале рассмотрена задача построения функций подавления в непрерывном случае.

Пусть х(0 - непрерывный случайный процесс на интервале [0,7]. Показано, что если имеется только одна точка переключения (т.е. два стационарных участка), распределенная на [0,Г] с плотностью

р{Тх), то наилучшая функция подавления имеет вид gт(t) = . В

частности, для равномерной плотности = Если имеется

Г стационарных участков на [0,Г] с равномерным распределением то-

оо

чек переключения, то ХИт7)' • число точек переклю-

1=Г-1

чения случайного процесса неизвестно, но подчиняется пуассоновскому

распределению, то = > где Я - плотность пуассо-

\rtur) I ы\

новского потока, г(а,х) - дополнительная неполная гамма-функция.

Найдены также дискретные аналоги функций подавления, построенных выше для непрерывного случайного процесса, в предположении как равномерного, так и неравномерного во времени появления выборочных значений.

I

В приложении приведены копии актов о внедрении и использовании результатов работы.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ

В диссертационной работе получены следующие новые научные результаты.

1. Введено понятие статистического класса для классификации и обобщения вероятностных распределений. Предложен новый теоретико-множественный подход к описанию статистических классов, определены и обоснованы операции на множестве статистических классов, а также меры их включения и равенства. Установлены глубокие связи между понятием статистического класса и теорией нечетких множеств, теорией возможностей.

2. Введено новое понятие нечеткой меры, инвариантной относительно некоторой группы автоморфизмов соответствующей алгебры. Исследована структура нечетких и инвариантных нечетких мер в случае алгебры, содержащей конечное число элементов. Установлены соотношения, показывающие связь между операциями над группами автоморфизмов и классами определяемых ими инвариантных мер. Найдено явное выражение для размерности многогранника нечетких мер, инвариантных относительно циклической группы автоморфизмов.

3. Разработан метод построения оптимальных мер близости метризованных отношений строгого частичного порядка на основе вариационных критериев. Предложен и обоснован алгоритм оптимального последовательного опроса на основе мер близости метризованных отношений.

4. Введен и детально исследован специальный класс решающих функций, формализующих выбор решений в интеллектуальных системах. Описан практически важный класс монотонных решающих функций. Введено и исследовано понятие функции стоимости доказательства произвольного множества гипотез в продукционных системах. Получено обобщение формул байесовского оценивания косвенных свидетельств.

5. Разработана общая математическая модель оптимального неполного поиска решений в терминах связанных с этим подходом функций потерь, предложен метод решения. Построена вероятностно-статистическая модель последовательного упорядочения гипотез по критерию вероятности. Предложен корреляционный метод структуризации множества гипотез, оптимизирующий неполный поиск решений.

6. Разработан простой и экономичный метод подавления для оценивания числовых характеристик вероятностного распределения по на-

блюдаемой статистической последовательности. Данный метод требует минимальных априорных предположений о нестационарности среды. Найдены конкретные выражения наилучших функций подавления при различных априорных предположениях.

Основные результаты диссертации опубликованы в работах:

1. Броневич А.Г., Каркищенко А.Н. Вероятностные и возможно-стные модели классификации случайных последовательностей. -Таганрог ТРТУ, 1996.

2. Каркищенко А.Н. О канонических представлениях структурных чисел. -Микроэлектроника, 1979, т.8, вып.5, с.414-421.

3. Каркищенко А.Н. О классе пороговых функций степени п // -В кн.: Многопроцессорные вычислительные структуры. -Таганрог ТРТИ, 1982, вып.4(ХШ), с. 77-84.

4. Каляев A.B., Каркищенко А.Н. Вычислительные аспекты пороговых функций // В кн.: Методы автоматизации проектирования, программирования и моделирования. -Таганрог ТРТИ, 1982, вып.2, с.71-73.

5. Каркищенко А.Н. Число помеченных гиперграфов, группа автоморфизмов которых содержит циклическую подгруппу заданного типа // -В кн.: Графы, гиперграфы и дискретные оптимизационные задачи. Математические исследования. -Кишинев: Штиинца, 1982, вып.66, с.70-78.

6. Каляев A.B., Каркищенко А.Н. Об одном необходимом признаке пороговости логической функции. -Кибернетика, 1983, вып. 5, с.67-72.

7. Каркищенко А.Н. Некоторые разъяснения по поводу характеристического вектора в "Пороговой логике" Дертоузоса. -Кибернетика, 1985, вып. 3, с. 109-110.

8. Каркищенко А.Н. Об одной модели обучающейся нейронной сети // -В кн.: Многопроцессорные вычислительные структуры. -Таганрог ТРТИ, 1987, вып.9(ХУШ), с.75-77.

9. Каркищенко А.Н. Нейронные сети и классы реализуемых ими функций // -В кн.: Методы автоматизации проектирования, программирования и моделирования. -Таганрог ТРТИ, вып.6, 1987, с.42-48.

10. Гитис С.А., Карелин В.П., Каркищенко А.Н. Использование продукционных экспертных систем в САПР СБИС // Мат-лы Всес. науч.-техн. конференции "Проблемы создания и развития интегрированных автоматизированных систем в проектировании и производстве". -М.: Радио и связь, 1987.

11. Каркищенко А.Н., Бельченко В.Е. Об одной многокритериальной задаче оптимизации поиска в продукционных экспертных системах

// Мат-лы межресп. семинара "Математическое и программное обеспечение задач многокритериальной оптимизации и их применение", Ереван, 1988, с. 45-47.

12. Каркищенко А.Н. Вероятностно-статистическая оптимизация поиска решений в системах, основанных на знаниях // Мат-лы III Всес. конференции "Проблемы и методы принятия решений в организационных системах управления". -Москва-Звенигород: ВНИИСИ, 1988, с. 95-96.

13. Каркищенко А.Н., Бельченко В.Е. Об одном методе оптимизации поиска в продукционных экспертных системах // -В кн.: Методы построения алгоритмических моделей сложных систем. -Таганрог ТРТИ, 1988, вып.7, с.58-54.

14. Каркищенко А.Н., Бельченко В.Е. Метод статистической факторизации пространства поиска в продукционных экспертных системах // Мат-лы науч.-техн. конференции "Обработка информации в автоматизированных системах научных исследований". -Пенза: ПДНТП, 1989.

15. Каркищенко А.Н., Бельченко В.Е. Об одном методе аппроксимации экспертных данных в продукционных системах // Мат-лы науч.-техн. конференции "Архитектура ЭВМ и машинное моделирование". -Таганрог, 1989, с. 53-54.

16. Каркищенко А.Н. Адаптация к предметной области по управлению логическим выводом в экспертных системах // Мат-лы Всес. конференции "Создание и применение гибридных экспертных систем". -Рига, 1990, с. 22-24.

17. Каркищенко А.Н. Вывод при неполной априорной информации в экспертной системе // Мат-лы Всес. совещания "Экспертные системы". -М.: 1990, с.43-44.

18. Каркищенко А.Н., Броневич А.Г. Об эффективном управлении порядком задания вопросов в экспертной системе // Тез. докл. Всес. науч.-техн. семинара "Программное обеспечение новых информационных технологий". -Тверь, 1991, с. 36-37.

19. Каркищенко А.Н., Броневич А.Г. Нечеткая модель представления статистических классов // Мат. XXXVIII науч.-техн. конф. ТРТИ. -Таганрог ТРТИ, 1992, с.37.

20. Каркищенко А.Н., Броневич А.Г. Об одном методе формализации экспертного оценивания неравномерности расположения объектов // Мат. Всерос. науч.-техн. конференции "Интеллектуальные САПР". -Таганрог, 1992, с. 43-44.

21. Броневич А.Г., Каркищенко А.Н. Теоретико-множественный метод кластеризации экспериментальных данных на стационарные уча-

стки// Мат. XXXVIII науч.-техн. конф. ТРТИ. -Таганрог ТРТИ, 1992, с.Зб.

22. Броневич А.Г., Каркищенко А.Н. Статистические классы при распознавании и цифровой обработке информационных сигналов // Мат. III Международной науч.-техн. конференции "Методы представления и обработки случайных сигналов и полей". -Харьков, 1993, с. 132.

23. Броневич А.Г., Каркищенко А.Н. Теоретико-множественный подход к классификации статистических классов. - Автоматика и телемеханика, 1994, № 2, с. 78-87.

24. Каркищенко А.Н., Броневич А.Г. Статистические классы в моделях самообучения САПР // -В кн.: Интеллектуальные САПР. -Таганрог ТРТУ, 1994, вып. 4, с. 34-38.

25. Броневич А.Г., Каркищенко А.Н. Семейство мер близости экспертных оценок и выбор оптимальной меры. -Автоматика и телемеханика, 1994, № 4, с. 133-143.

26. Каркищенко А.Н. Статистическая оптимизация неполного вывода в продукционных интеллектуальных системах // Мат-лы IV Национальной конференции с международным участием "Искусственный интеллект-94", т. 2, -Рыбинск, 1994, с. 212-216.

27. Каркищенко А.Н., Клово А.Г. Об одном классе решающих функций на ограниченном вероятностном пространстве // Мат-лы Всерос. школы-коллоквиума по стохастическим методам геометрии и анализа. -М.: ТВП, 1994, с. 48-50.

28. Каркищенко А.Н. О сложности вывода решений в продукционных системах // Мат-лы Первого Международного Симпозиума "Интеллектуальные системы 94". -М.: Изд-во МГТУ, 1994, с.189-193.

29. Bronevitch A.G., Karkishchenko A.N. Оп а Statistical Method of Construction of Fuzzy Decision Rules in Situational Control Systems // Proc. of the Fourth European Congress on Intelligent Techniques and Soft Computing, Germany, Aachen, August 28-31, 1995, v.2, p. 1270-1272.

30. Каркищенко A.H. Некоторые обобщения байесовского подхода при реализации неточного вывода // -В кн.: Интеллектуальные САПР. -Таганрог. ТРТУ, 1995, вып.5, с. 89-96.

31. Каркищенко А.Н. Функция стоимости доказательства гипотез в продукционных системах // -В кн.: Интеллектуальные САПР. -Таганрог. ТРТУ, 1995, вып.5, с. 53-58.

32. Каркищенко А.Н. Вероятностно-статистическая модель оптимизации поиска решений в продукционных экспертных системах. -Теория и системы управления, 1995, № 5, с. 124-132.

33. Berstein L.S.,-Karkishchenko A.N. Statistical estimations for

expert systems in non-stationary application domains // Proc. of the Third European Congress on Intelligent Techniques and Soft Computing, Aachen, Germany, August 28-31, 1995, v.1, p. 225-229.

34. Berstein L.S., Bronevitch A.G., Karkishchenko A.N., Zakha-revitch V.G. Statistical Classes and Possibilistic Models of Classifying Probability Distributions // BUSEFAL, 1996, N 65, p. 19-26.

35. Bronevitch A.G., Karkishchenko A.N. Fuzzy Classification of Probability Distributions // Proc. of the Fourth European Congress on Intelligent Techniques and Soft Computing, Germany, Aachen, September 2-5, 1996, v.1, p. 120-124.

36. Броневич А.Г., Каркищенко A.H. Мера включения Хэмминга вероятностного распределения в нечеткий интервал//-В кн.: Интеллектуальные САПР. -Таганрог ТРТУ, 1996, вып. 6, с. 67-69.

37. Броневич А.Г., Каркищенко А.Н. Об одном методе классификации электроэнцефалограмм. -Известия ВУЗов. Северо-Кавказский регион. Естественные науки, № 4, 1996.

38. Karkishchenko A.N. Invariant Fuzzy Measures on a Finite Algebra // Proc. of the North American Fuzzy Information Processing Society -NAFIPS'96, USA, Berkeley, June 20-22, 1996, v.1.

39. Броневич А.Г., Каркищенко A.H. Об одном методе упорядочения вопросов в экспертных системах. -Теория и системы управления, 1996, № 2, с.152-157.

40. Каркищенко А.Н. О решеточном классе решающих функций на ограниченном вероятностном пространстве. - Автоматика и телемеханика, 1996, № 4, с. 86-95.

41. Каркищенко А.Н. О классе функций выбора промежуточных решений в интеллектуальных системах // Мат-лы V Национальной конференции по искусственному интеллекту КИИ-96, т. 2. -Казань, 1996.

42. Берштейн Л.С., Каркищенко А.Н. Модель оценки сложности логического вывода в продукционных системах // -В кн.: Труды секции информатики и кибернетики АЕН РФ, 1996, вып.2.

43. Каркищенко А.Н. Оптимальное сокращение множества гипотез при поиске решений в интеллектуальных системах // Мат-лы Всерос. науч.-техн. конф. "Интеллектуальные САПР-95", -Таганрог, 1996, с.106-107.

44. Каркищенко А.Н. Модель неполного поиска решений при нисходящем выводе. -Автоматика и телемеханика, 1996, № 10.

45. Каркищенко А.Н. Функция подавления неравномерной статистической выборки нестационарного случайного процесса. -Известия ТРТУ, 1996, № 4.