автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Нечеткая регрессионная модель и программный комплекс системы нечеткого логического вывода

кандидата физико-математических наук
Зиновьев, Игорь Павлович
город
Казань
год
2010
специальность ВАК РФ
05.13.18
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Нечеткая регрессионная модель и программный комплекс системы нечеткого логического вывода»

Автореферат диссертации по теме "Нечеткая регрессионная модель и программный комплекс системы нечеткого логического вывода"

На правах рукописи

Зиновьев Игорь Павлович

Г

НЕЧЕТКАЯ РЕГРЕССИОННАЯ МОДЕЛЬ И ПРОГРАММНЫЙ КОМПЛЕКС СИСТЕМЫ НЕЧЕТКОГО ЛОГИЧЕСКОГО ВЫВОДА

05 13 18 - Математическое моделирование, численные методы и комплексы программ

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата физико-математических наук

Казань 2010

004602578

Работа выполнена в Казанском государственном техническом университете

им А.Н Туполева

Научный руководитель кандидат технических наук, доцент

Аникин Игорь Вячеславович

Официальные оппоненты доктор технических наук, профессор

Галиев Шамиль Ибрагимович

доктор физико-математических наук, профессор

Ишмухаметов Шамиль Талгатович

Ведущая организация: Новгородский государственный университет

им Ярослава Мудрого

Защита состоится-О^ке-л-Л 2010 г в часов на заседании диссертационного совета Д 212 079 Ъ1 в Казанском государственном техническом университете им АН Туполева по адресу 420111, г Казань, ул К Маркса, д 10, зал заседаний Ученого совета.

С диссертацией можно ознакомиться в библиотеке Казанского государственного технического университета им А Н Туполева С авторефератом можно ознакомиться на сайте КГТУ им АН Туполева http //www kai.ru

Автореферат разослан « 13 » u^aj'Zci 2010 i

Ученый секретарь у

диссертационного совета

доктор физико-математических наук, профессор П Г Данилаев

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы Активное внедрение информационных технологий в жизнь современного человека и информатизация общества привели к появлению технических задач, требующих для своего решения интеллектуального подхода Лавинообразный рост объемов информации в различных предметных областях делает остро актуальным решение задач ее автоматизированной обработки, а также извлечения скрытых закономерностей, которым подчиняются наборы данных. Возникает насущная потребность разработки моделей и методов, аппроксимирующих эти наборы, выполняющих поиск значимых элементов, сжатие данных и т д Такие модели и методы мснуг быть эффективно использованы при решении задач управления, прогнозирования, диагностики, принятия решений и многих других При этом приходится сталкиваться со следующими трудностями

- слабой формализуемостью предметной области,

- резким увеличением объёмов обрабатываемой информации,

- неизвестными либо неточными закономерностями, которым подчиняется обрабатываемая информация,

- необходимостью одновременной обработки разнотипной информации, ее неточностью, нечеткостью, качественным характером,

- необходимостью решать задачи, свойственные до настоящего времени только человеку

В связи с этим, для решения многих задач особую актуальность приобретает создание и применение систем искусственного интеллекта, которые могут работать в условиях вышеперечисленных трудностей Среди таких систем можно выделить системы приближенных рассуждений, основанные на нечеткой логике Одной из практических областей, а которых актуально применение нечетких систем, является медицина, где применение точных математических методов осложнено индивидуальным и плохо формализуемым характером врачебного опыта

Исследованию проблем построения нечетких систем, в том числе в медицине, посвящены работы следующих ученых А Н Аверкина, И 3 Батыршина, Д Дюбуа, Л А Заде, О Кордона, Б Коско, Ч Ч Ли, Е А Мамдани, Дж Менделя, М Сугено, Т Такаги, X Танака, В И Гловы, И В Аникина, А С Катасева, М А Подольской, В И Видкжоза, М А Ледюкова, М Ю Черняховской, А Е Янковской, А И Гедике, В А Дюка, Б А Кобринского, А Е Янковской, Н Г Ярушкиной и др

Несмотря на значительное количество работ в области построения нечетких систем и их практического применения, многие вопросы далеки от своего окончательного решения Наиболее популярные на практике модели нечеткого вывода Мамдани и Такаги-Сугено не поддаются единой формализации, так как основаны на разных принципах и по-разному трактуют обработку нечетких данных С точки зрения точности аппроксимации, системы Такаги-Сугено, использующие уравнения регрессии для описания зависимостей между входными и выходными данными, превосходят системы Мамдани, использующие для этой цели простые нечеткие зависимости «ЕСЛИ-ТО» Однако, возможности языковой интерпретации таких продукционных правил ниже чем у системы Мамдани Кроме этого выбор конкретных операций, реализующих те или иные аспекты нечеткой системы, остается субъективным и зависит от личных предпочтений исследователя

В связи с этим актуальной задачей является разработка нечеткой регрессионной модели, сочетающей в себе достоинства моделей Мамдани и Такаги-Сугено, использующей лингвистические продукционные правила «ЕСЛИ-ТО», в заключениях которых применяются нечеткие уравнения регрессии, а также теоретическое обоснование выбора ее основных структурных элементов.

Объект исследования системы нечеткого логического вывода

Предмет исследования модели нечеткого логического вывода, структура нечетких систем и реализуемые ими операции

Цель работы повышение эффективности представления и интерпретируемости знаний в системах нечеткого логического вывода путем разработки нечеткой регрессионной модели

Научная задача разработка и исследование нечеткой регрессионной модели, алгоритма ее обучения и программного комплекса системы нечеткого логического вывода

Достижение поставленной цели и задачи потребовало решения вопросов

- исследования механизмов работы систем нечеткого логического вывода и анализа существующих подходов к реализации таких систем, выявления их достоинств и недостатков,

- разработки нечеткой регрессионной модели, общего вида ее правил, а также обоснованного выбора для нее основных операций - импликации, агрегирования, дефаззификации,

- формулировки и доказательства теоремы о том, что нечеткая регрессионная модель является универсальным аппроксиматором функций, т е позволяет с заданной точностью приближать дифференцируемую функцию на компактном множестве,

- разработки алгоритма обучения нечеткой регрессионной модели,

- разработки программного комплекса, реализующего систему нечеткого логического вывода,

- проведения численно-параметрических исследований для оценки качества работы нечеткой регрессионной модели

Методы исследования Для решения обозначенных вопросов использованы методы математического моделирования, теории нечетких множеств и приближенных рассуждений, численные методы, а также методы искусственного интеллекта

Достоверность полученных результатов обоснована корректностью использованных математических методов Предложенные в диссертационной работе модели и алгоритмы теоретически обоснованы, не противоречат известным результатам, полученными другими авторами Их адекватность, эффективность и практическая ценность подтверждена экспериментами

Научная новизна работы заключается в следующем

- предложена новая нечеткая регрессионная модель, основанная на нечетких продукционных правилах «ЕСЛИ-ТО», левая часть которых соответствует правилам модели Мамдани, а в правой части представлены уравнения нечеткой регрессии,

- разработан механизм логического вывода на правилах нечеткой регрессионной модели,

- предложен класс нечеток импликаций для нечеткой регрессионной модели,

- предложен способ дефаззификации для нечеткой регрессионной модели

Теоретическая значимость работа заключается в:

- разработке новой нечеткой регрессионной модели, сочетающей достоинства моделей Мамдани и Такаги-Сугено, обладающей более эффективным представлением знаний и их интерпретируемостью;

- постановке и доказательстве теоремы о том, что предложенная нечеткая регрессионная модель является универсальным аппроксиматором функций,

- разработке алгоритма обучения нечеткой регрессионной модели

Практическая ценность работы заключается в разработке программного комплекса, реализующего обучение нечеткой регрессионной модели путем автоматического построения базы правил, а также нечеткий вывод на данной модели

По проблеме диссертационной работы опубликовано 11 работ, в том числе 1 статья в журнале из списка, рекомендованного ВАК РФ, 4 статьи и 6 тезисов докладов

С целью апробации основные результаты диссертационной работы докладывались и обсуждались на следующих конференциях1 V международной конференции «Инфокоммуникационные технологии глобального информационного общества» (Казань, 2007), XI международной научно-практической конференции «Системный анализ в проектировании и управлении» (Санкт-Петербург, 2007), VI международной конференции «Инфокоммуникационные технологии глобального информационного общества» (Казань, 2008), X международной конференции «Проблемы управления и моделирования в сложных системах» (Самара, 2008), XII международной научно-практической конференции «Системный анализ в проектировании и управлении» (Санкт-Петербург, 2008), республиканской научно-практической конференции «Проблемы анализа и моделирования региональных социально-экономических процессов» (Казань, 2009); XII международной конференции по мягким вычислениям и измерениям (8СМ'2009) (Санкт-Петербург, 2009)

Реализация результатов работы Результаты исследования

- использованы для построения системы диагностики развития и особенностей клинических проявлений остеохондроза поясничного отдела позвоночника, внедренной на кафедре реабилитологии и спортивной медицины Казанской государственной медицинской академии,

- внедрены в учебный процесс КГТУ им А Н Туполева и используются при изучении материалов дисциплин «Математические основы человеко-машинных систем» и «Системы искусственного интеллекта»

Пути дальнейшей реализации Предполагается дальнейшая модификация алгоритма обучения нечеткой модели с целью ускорения его работы, разработка соответствующей нейронечеткой модели и алгоритма ее обучения, исследование изменения поведения нечеткой системы и точности аппроксимации функций при изменении ее основных компонент - операций импликации, агрегирования и дефаззификации

На защиту выносятся следующие результаты:

- нечеткая регрессионная модель и механизм нечеткого вывода,

- метод дефаззификации для нечеткой регрессионной модели,

- теорема о том, что дифференцируемая функция на компактном множестве может быть приближена нечеткой регрессионной моделью с любой заданной точностью,

- алгоритм обучения нечеткой регрессионной модели,

- программный комплекс, реализующий обучение нечеткой регрессионной модели путем автоматического построения базы правил, а также нечеткий вывод на данной модели

Структура и объем диссертации Диссертация изложена на 196 страницах машинописного текста, содержит 32 рисунка, 15 таблиц, состоит из введения, четырех глав, заключения, списка использованной литературы из 143 наименований на 15 страницах и 4 приложений на 25 страницах

Сведения о личном вкладе автора. В рамках поставленной задачи разработана нечеткая регрессионная модель, осуществлен обоснованный выбор основных операций для данной модели, доказана теорема об аппроксимации, предложен алгоритм обучения нечеткой регрессионной модели, реализован комплекс программ, реализующий систему нечеткого логического вывода, проведены численно-параметрические исследования для оценки эффективности модели

Благодарности Автор выражает искреннюю благодарность своему научному руководителю, кандидату технических наук, доценту Аникину Игорю Вячеславовичу - за постоянное внимание и ценные советы, доктору физико-математических наук, профессору Салахутдинову Равилю Зайниевичу - за постоянное внимание, ценные советы и консультации при написании диссертации, а также кандидату медицинских наук, доценту Подольской Марине Алексеевне - за предоставленные медицинские данные, помощь в анализе и интерпретации полученных практических результатов

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы проводимых исследований, сформулирована цель работы, приведена структура диссертации

В первой главе рассмотрен процесс нечеткого логического вывода Приведены основные положения теории нечетких множеств, позволяющей формально определять неточные понятия Описана общая схема системы нечеткого логического вывода как системы управления, основанной на математическом представлении нечетких рассуждений Произведен обзор и анализ существующих систем нечеткого вывода Выделены вопросы их устройства и функционирования, теоретические и практические аспекты, требующие рассмотрения при создании таких систем Поставлена задача разработки нечеткой регрессионной модели, связывающей два наиболее известных подхода к построению нечетких систем

В 70-х годах на основе аппарата нечеткой логики был разработан ряд моделей систем нечеткого логического вывода (далее - нечеткого вывода) На вход такой системы подается вектор величин, значения которых как правило описывают состояние некоторой физической системы Система нечеткого вывода определяет некоторую функцию от вектора входных переменных, значениями которой являются нечеткие множества

Система нечеткого вывода формируется из фаззификатора, дефаззификатора, машины вывода и базы знаний, представляющей собой описание отношения между вектором входов х и выходом у в виде лингвистической конструкции (1), математически реализуемой нечетким отношением (2)-(3) N

R Also {If X, is A[ And And X„ is A'„ ThenYis В'), (1)

i-i

N , N , r= А (Л')= A (Alx xA'„-*B'), (2)

<=1 (И

n n

fiR(x,y) = A (fj ,(x,y)) = А („ , xA, ,(x,y)) =

(3)

Каждое правило ЕСЛИ-ТО представлено функцией нечеткой импликации I(a, Ь) Отдельные импликации объединены операцией А, математически определяющей лингвистическую связку Also На вход системы подается вектор значений х = (*], , хп) Так как механизм логического вывода работает с нечеткими множествами, вектор входов в фаззификаторе преобразуется в нечеткое множество А = А, х хАп Наиболее часто при фаззификации применяются нечеткие синглто-ны - множества, значение функции принадлежности равно единице только в одной точке

Здесь и далее будем обозначать через Т(а,Ь) треугольную норму, через S(a,b) - треугольную конорму, через N(a) - операцию отрицания

Логический вывод из одного правила ЕСЛИ-ТО на основе композиционного правила вывода Заде осуществляется согласно выражению (4) Результаты вывода из отдельных правил агрегируются операцией S в итоговое нечеткое множество С с функцией принадлежности (5) Как правило, вывод нечеткой системы должен быть четкой величиной, поэтому блок дефаззификации выполняет соответствующее преобразование (6)

/ig)(v) = supr(/ii(x),^,x Х/1^в>(*,у)), (4)

McW=SUiM,iy)), (5)

y = D(fic{y)) (6)

Модель Мамдани реализует процесс нечеткого вывода на основе операции взятия минимума в качестве нечеткой импликации, реализации связки And, и операции взятия максимума в качестве операции агрегирования Вывод из отдельного правила осуществляется согласно выражению-

Mg,b') = ПмА1х xA>W>fBl(y)) = fA,>, M,(x)A/Voo =

= /^, (7,) A А/^, (?„)A//fi,0)

Проиллюстрируем нечеткий вывод системы Мамдани из двух правил, на вход которой подается синглтон х = (У,, Зс2) (рис 1)

Я1 \If Х{ is aI And Х2 is Л\ Then Y is В1,

R2 If Х] is А\ And Х2 is А\ Then Y is В2

Рис 1. Вывод системы Мамдани из двух правил В 1985 году Т Такаги и М Сугено представили модель, в которой заключения продукционных правил используют линейные функции от входных аргументов, и содержат не конкретное значение, а некоторый закон изменения выходной величины

R'' If X, is And And X„ ts A'„ Then у - c'„x„ + +ф,+Сд Проиллюстрируем нечеткий вывод системы Такаги-Сугено из двух правил, на вход которой подается синглтон х = (х,, х2 ) (рис 2).

Л1 If Хх is AI And Х2 is А\ Then у = с\х2 + c,'jc, + cl,,

Для каждого синглтона А в точке х вычисляются меры его соответствия предпосылкам правил а', а также величины у' Выводы, полученные из отдельных правил, затем взвешиваются и агрегируются. Иными словами, в моделях Такаги-Сугено блоки агрегирования и дефаззификации заменяются одним блоком - вычисления среднего взвешенного значения, что позволяет значительно ускорить процесс логического вывода и повысить точность аппроксимации по сравнению с моделью Мам-дани Однако это ведет к меньшей лингвистической интерпретируемости Кроме того, в системах Такаги-Сугено не используется композиционное правило вывода Заде, составляющее основу функционирования нечетких систем

С теоретической и практической точки зрения актуальным представляется решение вопроса построения комбинированной нечеткой модели, использующей композиционное правило вывода и уравнения нечеткой регрессии в процессе приближенных рассуждений Такая гибридная система, сочетающая в себе два рассмотренных подхода, сочетает все их преимущества - точность моделей Такаги-Сугено и лингвистическая интерпретируемость моделей Мамдани

Во второй главе представлено описание предлагаемой нечеткой регрессионной модели Произведен обзор и анализ применяющихся в нечетких системах операций импликации, агрегирования и дефаззификации Указаны аргументы в пользу использования в нечетких системах обобщенной аксиоматически определенной операции импликации QL-mua., приведен анализ ее отношения к классам S и R-импликаций Предложена модификация методов дефаззификации, позволяющая использовать их совместно с выбранной импликацией Описан механизм нечеткого вывода и структура продукционных правил нечеткой регрессионной модели Рассмотрены альтернативные подходы к построению нечетких систем

Продукционные правила, связывающие предпосылки и заключения в единое отношение импликации, составляют ядро систем автоматического рассуждения Как правило в нечетких системах в качестве нечетких импликаций применяются тре-угочьные нормы. Однако, в последние годы было исследовано множество видов импликаций, принадлежащих классам треугольных норм, S-, R- и gL-импликаций совместно с различными видами дефаззификации, где ¿'-импликации определяются в виде I(a,b) = S(N(a),b) = N(T(a, N(b)), Я-импликации в виде 1(а,Ь) - sup{c | Т(а,с) < 6}, ^/.-импликации в виде l(a,b) = S(N(a), T(a,b)) В этих исследованиях указано, что существуют комбинации операций импликации одного из S-, R- или QL-классов, агрегирования и дефаззификации, которые превосходят средние показатели классических систем Мамдани В связи с этим актуальна разработка подобных комбинаций

В работе используется следующее аксиоматическое определение нечеткой импликации

Определение Функция I [0,1] х [0,1] [0,1] является нечеткой импликациеи, если, и только если она удовлетворяет следующим трем аксиомам-h) 1(0,0) = 1(0,1) = /(1,1) = 1, /(1,0) = 0, Ii) I(a,b)>I(c,d) Va<с,

1з) I(a,b)<,I(a,d) VbSd

Классическая модель Мамдани использует преобразование протокола управления, представленного опытным экспертом, в форму продукционных правил.

Else{R' If Xt is AI And And X„ is A" Then Y is B'} Этот протокол, имеющий вид «ЕСЛИ-ТО-ИНАЧЕ», может быть реализован импликацией Заде АВ = A®B®-A®fV = А® ВФ -vi в совокупности с треугольными нормами как операциями агрегирования Однако, такое определение задает класс ßi-импликаций, которые в общем виде не удовлетворяют аксиоме вследствие чего не могут считаться нечеткими импликациями в математическом смысле

Для решения этой проблемы введем вспомогательную функцию, которую назовем ослабленной треугольной нормой, со следующими свойствами

Г,*) Т*(0,0) = Г*(0,1) = Г*(1,0) = 0, Т'(1,1) = 1, (7)

Г2') T'(a + S,b)<T'(a,b) + S VS>0, (8)

Г3*) T\a,b)<T\a,d)Vbüd (9)

Сформулирована и доказана следующая Лемма 1 Для того, чтобы функция

Г (а, Ь) = т'(а, ¿>) + 1-а (10)

была нечеткой импликацией, необходимо и достаточно, чтобы функция Т* [О, l] х [О, l] -> [О, l] удовлетворяла условиям (7)-(9) Потребуем соблюдения дополнительного условия Т1) Т*(а, 0) = 0 Va (11)

Оно не нарушает условий леммы, и, вместе с этим, многие импликации из классов S и R могут быть получены выбором подходящей функции Т В связи с этим, в работе будут использованы импликации, удовлетворяющие свойствам (7)-(11) При таком выборе импликации необходимо ввести соответствующую операцию дефаз-зификации

Операция дефаззификации является одним из основных элементов нечегкого вывода и выделяет из нечеткого множества информацию, сконцентрированную в одной точке, на основе которой принимаются решения Основная проблема, которую необходимо решать при выполнении дефаззификации, используя нечеткие импликации, удовлетворяющие свойствам Irh, заключается в возникновении «надгра-фика», или области, в которой значение функции принадлежности выходного множества не равно нулю, хотя функция принадлежности множества, заданного в правой части правила, равна нулю Так как в основе многих операций дефаззификации лежит интегрирование, появление надграфика смещает точку у, получаемую в результате дефаззификации, за пределы области значимых значений множества В', либо делает интегрирование невозможным В связи с этим ставится задача поиска устойчивых методов дефаззификации

Проблему дефаззификации можно преодолеть аксиоматически, потребовав выполнения свойств следующего вида

Vye (-со, а) рс(у) = const = у = тш^(у) => у >а, (12)

Vy е (ь, + °о) Мс(у) = const = y ~ min AfcOO у ^b, (13)

Vy £ (-co, a] /Jc{y) = const = у - minptc(y) => У > a, (14) Vye[6, +co) ßc(y) = const = y = mm^ic(y) => y<b (15) С практической точки зрения для решения этой проблемы определим модифицированную дефаззификацию (основанную на известном методе Center Of Gravity) как (16) Этот подход можно применить к методам FITA, основанным на центрах масс, что позволит применить их совместно с импликациями QL-типа Íу ftp (y)dy

У= г , Л . ■ /Jc(y) = Mc(y)~r, Г = ттрс(у) (16)

№с(у№ У

Для модификации метода высот, совместимой с нечеткими импликациями, удовлетворяющими аксиомам I¡-1¡. введен высоту функции принадлежности множества В1 как (17) Тогда результат дефаззификации определяется выражениями (18), (19)

Л' = T(.rJ)~r, Г1 =гатц~]{у), (17)

- G' _ VA'

' ~ , j>= ' , (18) Z.A'

И" = д , л=, оо = ц~в, {у) -y',G'= arg max (у) (19) ¡fig, i.y)dy в в в

Для комбинирования преимуществ моделей Такаги-Сугено и Мамдани разработана нечеткая регрессионная модель, включающая в себя функциональные зависимости в правых частях правил с использованием нечетких коэффициентов, что позволит добиться одновременно гибкости и интерпретируемости моделей

Опишем механизм логического вывода в нечеткой регрессионной модели (см рис 3) Продукционные правила имеют вид (20), (21), где С'к являются нормальными треугольными нечеткими коэффициентами Фаззификатор преобразует вектор входных значений х = (7,, , х„) в нечеткий синглтон А = Ах х х Ап, подаваемый на вход базы знаний Каждое правило на основе уравнения нечеткой регрессии (21), композиционного правила вывода и нечеткой импликации 1(а, Ъ) порождает соответствующее нечеткое множество В' (22) На основе треугольной нормы, удовлетворяющей свойству (23) производится агрегирование результатов в общее нечеткое множество С (24) Дефаззификатор преобразует его в итоговый результат нечеткого вывода у (25)

R' If X¡ is А{ And And Хп is А'„ Then Y is В', (20) B,=C,nxn+ +C¡x¡ +C¿, (21)

Р~в> iy) = (х> У) = Л/V (*). Мв< (у)), (22)

T(a,¿>)>0 Va,b> 0, (23)

/<с(у)=Г^,(у), (24)

y = D(ßc(y)) (25)

Рис 3 Нечеткая регрессионная модель

В третьей главе рассмотрены вопросы теоретической и практической эффективности разработанной нечеткой системы Сформулирована и доказана теорема, утверждающая, что дифференцируемая функция на компактном множестве может бьиь приближена нечеткой регрессионной моделью с любой заданной степенью точности Показана важность разработки эвристического алгоритма извлечения знаний в форме продукционных правил из массивов данных Предложен алгоритм обучения нечеткой модели, использующий генетические алгоритмы и построение уравнений нечеткой регрессии на основе задачи линейного программирования Произведены эксперименты по сравнению точности аппроксимации разработанной нечеткой регрессионной модели с системой Мамдани

Успехи в практическом применении нечетких систем достаточно долгое время объяснялись в основном эмпирическими соображениями об их способности к аппроксимации за счет использования нечетких величин в предпосылках правил В 1990-х годах было получено несколько доказательств, показывающих, что при соблюдении некоторых условий нечеткие системы способны приблизить гладкую функцию с любой заданной точностью Однако, общего утверждения подобного рода не существует в основном эти теоремы носят частный характер и распространяйся на определенный набор операций фаззификации, импликации, агрегирования и дефаззификации Поэтому введение нечеткой регрессионной модели потребовало доказа!ельотва для нее подобной теоремы В диссертации сформулирована и доказана следующая теорема

Теорема Пусть U - компактное множество, заданное на множестве X с. R", g(x)- определенная на U дифференцируемая функция Тогда Vc>0 существует система нечеткого вывода /(х), функционирующая согласно (7) - (15), (20) - (25), для которой выполняется условие Vx е U |/(х) - £(х)| < s

Доказательство теоремы не является конструктивным и не указывает, каким именно образом должна строиться нечеткая система, чтобы приблизить заданную функцию утверждение теоремы говорит лишь о том, что такая система существует Кроме того, если в практической задаче требуется аппроксимация функции, то обычно сам вид ее неизвестен, а задана лишь таблица значений, представленная выборкой входных и выходных данных Также ничего неизвестно о непрерывности или дифференцируемости этой функции Поэтому на практике необходим способ получения продукционных правйл нечеткой регрессионной модели, аппроксимирующих зависимости между входами и выходами в такой обучающей выборке

В диссертации предложен алгоритм построения базы знаний нечеткой регрессионной модели на основе генетических алгоритмов и модифицированного метода нечеткой регрессии X Танака, реализующий схему обучения с учителем Пусть в обучающую выборку входят элементы (xJ,у1), j = 1, М, х-' = (х{, ,х'п) Каждая из величин х{, у1, у = 1,Л/, к = 1,п является вещественным числом из интервала [0,1] Требуется построить нечеткую систему, определенную набором правил вида (20)-(21), которая минимизирует по всей выборке среднеквадратичное отклонение выходов /(х-') от ожидаемых значений у1.

£ = ^т1(/(*у)-/)2 (26)

М

Каждая особь S1 из популяции генетического алгоритма задает нечеткое

разбиение пространства входов, получившиеся в результате которого подобласти определяют левые части правил

R'J I/X:isA[J And And X„is A'„J Then У is B'J, xn+ + C{''

Разбиение S1 начинается с единичного гиперкуба

F0-1 =[«?•',vf-'jx x[^,vn0-'], и0к-'=О,к = Гп, v^=U = ü в пространстве входов, с которым связан вектор

fuOJ

Ь =(£>, , А ),

и описывается последовательностью {/>M''}m=i"' элементарных операций, каждая из которых выбирает одну из получившихся к настоящему моменту областей

F'"-'=[*;"•',vf-'jx со связанным с ней вектором

jiB J l"1 I ¡m l\

b ' =(6, ', ,b„ '),

индекс координаты пространства кт'' и точку разделяющие Р' ''на «левую» и «правую» подобласти

и ставит им в соответствие вектора индексов

а'".' А'".' Л'"1 Л

• =(Ь, ' , ,Ьк„-,_1,ЬЕ • ,ъ„ •)

Такая последовательность операций может быть представлена в виде бинарного дерева, листами которого будет областей, которые мы для удобства обозначим со связанными с ними векторами {Ь1''}^"1 Операции генетического алгоритма над этими бинарными деревьями определяют итоговое разбиение пространства При выполнении скрещивания генетического алгоритма в каждом из деревьев выбирается по одному узлу и поддеревья, для которых эти узлы являются корнями, обмениваются При мутации, если исходный узел является листовым, над ним проводится операция разбиения и создаются два узла-потомка, соответствующие «левой» и «правой» подобластям пространства Если узел не является листом, то для него возможно удаление поддеревьев этого узла, либо изменение параметров разбиения этого узла.

Из листов могут быть получены продукционные правила Л1'1 Нечет-

кие множества А'/ в предпосылке и в заключении задаются функциями принадлежности

МАи(хк) =---к = \,п,

1 +

^ _

аС =

М =

и'.

| х-4'

где параметры и с*'> описывающие соответственно центры и ширины коэффициентов нечеткой регрессии С'/, рассчитываются индивидуально для каждого правила на основе его левой части и выборки данных J = l,M Для их поиска воспользуемся модификацией алгоритма нечеткой регрессии Танака и введем зна-

чение Я-фактора е [0,1] Для каждого правила Я1'1 и элемента выборки {х1 _/ = 1, М рассчитаем уровень активации правила

Для упрощения вычислений и игнорирования малозначащих для данного правила данных, построим новую выборку.

(ЗсЛу1 )£,=«*'>У)../ «г ЛГп[ 1, М] а'-'-' <А} При подаче на вход правила Я1'1 синглтона в точке 1' центр и ширина нечеткого множества В1'1 согласно уравнению нечеткой регрессии вычисляются следующим образом

=+ 24-' х{, = ч-' + ¿4' I >

где б.'* и м*'^ - соответственно центр и ширина коэффициента С{'' Потребуем в точке , у-') соблюдения модифицированного правила Я-фактора (27)

Ограничения (27) могут бьггь переформулированы в виде системы неравенств

Мви(у)гН а'"1 (27)

+ +4'' 14' (1-Я а°'])\х>\>у>,

*=1

Коэффициенты С'к'1 находятся решением задачи линейного программирования

*=1 ¿=1 *=1 4=1

После того, как найдены параметры нечетких множеств в продукционных правилах, мы можем вычислить значение функция приспособленности генетического алгоритма, определенной на основе (26) и представляемой в виде (29)

£(£') = £(/'(х)) = -1 У)2 ■ (29)

Блок-схема алгоритма обучения нечеткой регрессионной модели приведена на рисунке 4

Рис 4 Блок-схема алгоритма обучения нечеткой регрессионной модели

Для проверки эффективности разработанного алгоритма обучения проведен сравнительный анализ нечеткой регрессионной модели и системы Мамдани-типа, обученной по методу One-Pass, на примере аппроксимации функций /i(*I,*2) = (*I-0 5)2 +(*2 -0 5)\

-2xjx2 +Х2+2

Данные алгоритма One-Pass использовались для построения 9 нечетких систем Мамдани-типа, использующих в разных комбинациях операции импликации

'а, 6 = 1,

Тт(а, Ь) = mm(fl, Ь), Тр(а, Ъ) = аЬ, Тф(а, Ъ) = -Ь, а = 1,

О, а < 1,6 < 1

и операции дефаззификации Center of Gravity, Middle of Maxima, Matching при мощности разбиения пространств 5 и 10 Построение 9 нечетких регрессионных моделей для аппроксимации функций /¡и f: производилось для операций агрегирования Тт, Тр, ТЬр и операций дефаззификации Center of Gravity, Middle of Maxima,

Height

Максимальное количество правил в предложенной нечеткой системе в процессе обучения было ограничено восемью В таблице 1 представлены данные о количестве правил в построенных системах Мамдани-типа. Лучшие, худшие и средние значения среднеквадратичных отклонений полученных систем от эталонных значений приведены в таблицах 2 и 3

Таблица 1

Количество правил в полученных системах Мамдани -типа

Функция Мощность разбиения Количество правил

/, 5 25

л 10 94

(2 5 25

Ь 10 90

Таблица 2

Показатели обучаемых систем на функции/¡(х)

Система Лучшее значение Худшее значение Среднее значение

Мамдани, мощность разбиения 5 0,003264 0,013570 0,006861

Мамдани, мощность разбиения 10 0,001117 0,003780 0,001740

Нечеткая регрессионная модель 0,001907 0,011218 0,005755

Таблица 3

Показатели обучаемых систем на функции /2(х)

Система Лучшее значение Худшее значение Среднее значение

Мамдани, мощность разбиения 5 0,004378 0,009700 0,006194

Мамдани, мощность разбиения 10 0,000686 0,001526 0,001011

Нечеткая регрессионная модель 0,000211 0,000461 0,000292

В результате экспериментов получено, что для достижения сравнимой точности аппроксимации на функцияхи/? системе Мамдани требуется около 90 продукционных правил, в то время как предложенной системе достаточно не более 8 правил Таким образом, проведенные численные эксперименты показали большую точность нечеткой регрессионной модели по сравнению с системами Мамдани-типа.

В четвертой главе произведен анализ специфики медицинской предметной области, актуализировано применение в ней интеллектуальных средств обработки данных и принятия решений Поставлена задача определения тяжести и прогноза течения обострения поясничных болей при остеохондрозе поясничного отдела позвоночника с учетом ряда параметров о состоянии пациента на основе предложенной нечеткой регрессионной модели Разработан комплекс программ, реализующий предложенную нечеткую модель Приведены параметры исходных данных и описано решение задачи к использованию нечеткой системы Рассмотрены полученные практические результаты и проведен их анализ

Для практического применения разработанной модели был создан комплекс программ и библиотек, реализующий основные операции нечеткой логики и композиционное правило вывода, а также реализующий представление знаний в виде продукционных правил и осуществлять обработку массивов данных Архитектура комплекса программ представлена на рисунке 5

Библиотека нечеткой математики

Рис 5 Архитектура комплекса программ Для проверки эффективности работы предложенной нечеткой модели использованы данные клинического, нейро-ортопедического, рентгенокомпьютернотомо-графического обследования 230 женщин в возрасте от 15 до 92 лет и 180 мужчин в возрасте от 16 до 81 года с различными симптомами поясничного остеохондроза на стационарном этапе обострения и в стадии начинающейся ремиссии Обучение нечеткой модели и обработка данных проведены на базе кафедры реабилитологии и спортивной медицины Казанской государственной медицинской академии под руководством к м н , доцента кафедры Подольской М А

Разработанный программный комплекс позволил совместно оценить 15 количественных и качественных параметров Нечеткая регрессионная модель показала высокий процент совпадения оценок с диагнозом опытного эксперта Процент решений, совпавших с диагнозом врача с ошибкой не более чем в одну градацию качественного параметра, составлял в среднем более 90% и не опускался ниже 82% для

мужчин и 85% для женщин По оценкам экспертов полученные результаты говорят о высокой эффективности разработанной системы нечеткого вывода в области прогнозирования тяжести течения мультифакториальных заболеваний человека

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. Исследован механизм работы систем нечеткого вывода, проведен анализ существующих подходов к реализации таких систем Рассмотрены достоинства и недостатки нечетких моделей Мамдани и Такаги-Сугено Показана актуальность создания комбинированной системы, сочетающей оба указанных подхода

2 Разработана нечеткая модель, включающая в продукционные правила уравнение нечеткой регрессии. На основе проведенных исследований выдвинуто предположение, что использование импликаций, удовлетворяющих аксиомам lrh, будет сравнимо по результатам работы с традиционными моделями, если применять их совместно с подходящими операциями агрегирования и дефаззификации В диссертационной работе предложено применять импликации QL-типа на основе определения импликации Заде совместно с объединением правил в единую базу знаний логической связкой «Я» Установлено, что существует определение импликаций QL-типа, которое удовлетворяет аксиоматическому определению импликации, и потому с теоретической точки зрения может применяться в нечетких системах Показано, как следует изменить методы дефаззификации, чтобы их использование не приводило к отрицательным результатам при таком выборе импликации и агрегирования

3 Сформулирована и доказана теорема о том, что предложенная нечеткая модель позволяет с любой заданной точностью приближать дифференцируемые функции на компактных множествах

4 Разработан эвристический алгоритм обучения нечеткой регрессионной модели путем извлечения знаний из массивов данных в виде продукционных правил, использующий генетический алгоритм для разбиения входного пространства на подобласти и методы линейного программирования для нахождения заключений правил

5 Разработан комплекс программ, реализующий разработанную нечеткую модель и алгоритм автоматического извлечения знаний из массивов данных в виде продукционных правил

6 Проведены численно-параметрические исследования для оценки качества работы предложенной нечеткой системы, в ходе которых ее способности к аппроксимации функций сравнивались с системами Мамдани-типа, обученных по алгоритму One-Pass По результатам экспериментов нечеткая регрессионная показала более высокую точность аппроксимации

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ В научных журналах, рекомендованных ВАК:

1 Зиновьев ИП, Аникин ИВ Усовершенствования системы нечеткого вывода Такаги-Сугено // Вестник Казанского государственного технического университета им А Н Туполева Казань Издательство КГТУ, 2009 -№3.-С 84-88

В других журналах и материалах научных конференций

2 Зиновьев ИП Контроллер Мамдани-Сугено с нечеткой правой частью как универсальный аппроксиматор // Исследования по информатике Выпуск 12 Казань-Отечество,2007 -С 117-123.

3 Зиновьев ИП Эволюционн о-генетический подход к построению баз правил систем нечеткого управления // Инфокоммуникационные технологии Глобального информационного общества тезисы докладов V международной конференции Казань: Фолианть, 2007 - С 144-145

4 Зиновьев ИП Эволюционн о-генетический подход к построению баз правил систем нечеткого управления // Инфокоммуникационные технологии Глобального информационного общества сборник трудов V международной конференции Казань-Фолианть, 2007 - С 117-120

5 Салахутдинов Р 3, Зиновьев И П Системы нечеткого вывода, основанные на аддитивных генераторах // Исследования по информатике Выл Ю.Казань Отечество, 2007. - С 57-67

6. Салахутдинов Р 3, Зиновьев И П Об одном подходе к построению обобщенных нечетких контроллеров // Системный анализ в проектировании и управлении труды XI международной научно-практической конференции СПб • Издательство Политехнического университета, 2007 - С. 4043

7 Салахутдинов РЗ, Зиновьев ИП Оценка эффективности инвестиционных проектов в электронной коммерции на основе теории нечетких множеств // Современная торговля, теория, методология, практика материалы 1-й межвузовской научно-практической конференции — Казань "Отечество", 2007 -С. 231-233.

8 Зиновьев ИП Применение гибридных интеллектуальных систем в управлении // Системный анализ в проектировании и управлении труды XII международной научно-практической конференции СПб Издательство Политехнического университета, 2008 - С 131-132

9. Салахутдинов Р 3, Зиновьев И П Механизм нечеткого вывода как основа для систем поддержки принятия решений // Труды X Международной конференции «Проблемы управления и моделирования в сложных системах» Самара Самарский научный центр РАН, 2008 - С 160-164

10 Зиновьев ИП О решении задач прогнозирования с использованием нечетких контроллеров // Проблемы анализа и моделирования региональных социально-экономических процессов материалы докладов республиканской научно-практической конференции Казань: Познание, 2009. - С 64-67.

11 Зиновьев ИП, Аникин ИВ Извлечение знаний в модели Такаги-Сугено с нечеткой правой частью // XII Международная конференция по мягким вычислениями и измерениям SCM-2009 сборник докладов СПб * Издательство СПБГЭТУ «ЛЭТИ», 2009 - Том 1 -С 177-179

Формат 60x84 1/16 Бумага офсетная Печать офсетная Печ л 1,25 Уел печ л 1,16 Уч-изд л 1,03 Тираж 100 Заказ Н35

Типография Издательства Казанского государственного технического университета 420111 Казань, К Маркса, 10

Оглавление автор диссертации — кандидата физико-математических наук Зиновьев, Игорь Павлович

ВВЕДЕНИЕ.

1. АНАЛИЗКТУРЫ И МОДЕЛЕЙ НЕЧЕТКОГО ВЫВОДА.

1.1 СИСТЕМЫ, ОСНОВАННЫЕ НА ПРАВИЛАХ.

1.2 НЕЧЕТКИЕ МНОЖЕСТВА И ОСНОВНЫЕ ОПЕРАЦИИ НАД НИМИ.

1.3 СИСТЕМЫ НЕЧЕТКОГО ВЫВОДА.

1.3.1 ОБЩИЕ ПОЛОЖЕНИЯ.

1.3.2 МЕХАНИЗМ НЕЧЕТКОГО ВЫВОДА.

1.3.3 АНАЛИЗ СУЩЕСТВУЮЩИХ МОДЕЛЕЙ НЕЧЕТКОГО ВЫВОДА.

1.4 АКТУАЛИЗАЦИЯ ПРОБЛЕМЫ ПОСТРОЕНИЯ НЕЧЕТКОЙ РЕГРЕССИОННОЙ МОДЕЛИ.

1.5 ВЫВОДЫ.

2. РАЗРАБОТКА ОСНОВНЫХ ЭЛЕМЕНТОВ НЕЧЕТКОЙ РЕГРЕССИОННОЙ СОДЕЛИ.

2.1 ВЫБОР ОПЕРАЦИИ НЕЧЕТКОЙ ИМПЛИКАЦИИ.

2.1.1 ОПРЕДЕЛЕНИЕ И ОБЩИЕ СВОЙСТВА НЕЧЕТКОЙ ИМПЛИКАЦИИ.

2.1.2 ПРИМЕНЕНИЕ ИМПЛИКАЦИЙ В СИСТЕМАХ НЕЧЕТКОГО ВЫВОДА.

2.1.3 ВЫБОР ОПЕРАЦИИ ИМПЛИКАЦИИ.

2.1.4 ВЫВОДЫ ПО ВОПРОСУ ВЫБОРА ИМПЛИКАЦИИ.

2.2 ВЫБОР ОПЕРАЦИИ ДЕФАЗЗИФИКАЦИИ.

2.2.1 АКТУАЛИЗАЦИЯ ВЫБОРА ОПЕРАЦИИ ДЕФАЗЗИФИКАЦИИ

2.2.2 МЕТОДЫ ДЕФАЗЗИФИКАЦИИ FATI И FITA.

2.2.3 ПОИСК УСТОЙЧИВЫХ МЕТОДОВ ДЕФАЗЗИФИКАЦИИ.

2.2.4 ПРЕДЛАГАЕМЫЙ МЕТОД ДЕФАЗЗИФИКАЦИИ.

2.3 РАЗРАБОТКА НЕЧЕТКОЙ РЕГРЕССИОННОЙ МОДЕЛИ.

2.3.1 ПРОБЛЕМЫ ИСПОЛЬЗОВАНИЯ НЕЧЕТКИХ СИСТЕМ МАМДАНИ, ТАКАГИ-СУГЕНО И ЗАДАЧА ПОСТРОЕНИЯ ОБОБЩЕННЫХ МОДЕЛЕЙ.

2.3.2 УРАВНЕНИЕ НЕЧЕТКОЙ РЕГРЕССИИ И ЕГО ИСПОЛЬЗОВАНИЕ В ПРОДУКЦИОННЫХ ПРАВИЛАХ.

2.3.3 НЕЧЕТКАЯ РЕГРЕССИОННАЯ МОДЕЛЬ.

2.4 ВЫВОДЫ.

3. ОБУЧЕНИЕ НЕЧЕТКОЙ РЕГРЕССИОННОЙ МОДЕЛИ.

3.1 ТЕОРЕМА ОБ АППРОКСИМАЦИИ.

3.1.1 АКТУАЛИЗАЦИЯ СОЗДАНИЯ УНИВЕРСАЛЬНЫХ АППРОКСИМАТОРОВ.

3.1.2 ТЕОРЕМА ОБ АППРОКСИМАЦИИ.

3.1.3 АНАЛИЗ РЕЗУЛЬТАТОВ.

3.2 АЛГОРИТМ ОБУЧЕНИЯ.

3.2.1 НЕОБХОДИМОСТЬ СОЗДАНИЯ АЛГОРИТМА ОБУЧЕНИЯ.

3.2.2 СУЩЕСТВУЮЩИЕ АЛГОРИТМЫ ОБУЧЕНИЯ.

3.2.3 АЛГОРИТМ ОБУЧЕНИЯ НЕЧЕТКОЙ РЕГРЕССИОННОЙ МОДЕЛИ.

3.2.4 ВЫВОДЫ ПО АЛГОРИТМУ ОБУЧЕНИЯ.

3.3. СРАВНЕНИЕ РЕЗУЛЬТАТОВ НЕЧЕТКОЙ РЕГРЕССИОННОЙ МОДЕЛИ И СИСТЕМЫ МАМДАНИ-ТИПА ПО АППРОКСИМАЦИИ ФУНКЦИЙ.

3.3.1. АЛГОРИТМ ONE-PASS ОБУЧЕНИЯ СИСТЕМЫ МАМДАНИ-ТИПА.

3.3.2. ЭКСПЕРИМЕНТЫ И ПОЛУЧЕННЫЕ РЕЗУЛЬТАТЫ.

3.4. ВЫВОДЫ.

4. РЕШЕНИЕ ЗАДАЧИ ПРОГНОЗИРОВАНИЯ ТЯЖЕСТИ ТЕЧЕНИЯ ЗАБОЛЕВАНИЙ НА ОСНОВЕ НЕЧЕТКОЙ РЕГРЕССИОННОЙ МОДЕЛИ.

4.1. ИНТЕЛЛЕКТУАЛЬНЫЕ СИСТЕМЫ В МЕДИЦИНЕ.

4.2. КОМПЛЕКС ПРОГРАММ, РЕАЛИЗУЮЩИЙ НЕЧЕТКУЮ РЕГРЕССИОННУЮ МОДЕЛЬ.

4.3. ПРАКТИЧЕСКОЕ ИСПОЛЬЗОВАНИЕ НЕЧЕТКОЙ РЕГРЕССИОННОЙ МОДЕЛИ.

4.4. РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЙ.

4.5. ВЫВОДЫ.

Введение 2010 год, диссертация по информатике, вычислительной технике и управлению, Зиновьев, Игорь Павлович

Активное внедрение информационных технологий в жизнь современного человека и информатизация общества привели к появлению технических задач, требующих для своего решения интеллектуального подхода. Лавинообразный рост объемов информации в различных предметных областях делает остро актуальным решение задач ее автоматизированной обработки, а также извлечения скрытых закономерностей, которым подчиняются наборы данных. Возникает насущная потребность разработки моделей и методов, аппроксимирующих эти наборы, выполняющих поиск значимых элементов, сжатие данных и т.д. Такие модели и методы могут быть эффективно использованы при решении задач управления, прогнозирования, диагностики, принятия решений и многих других. При этом приходится сталкиваться со следующими трудностями:

- слабой формализуемостью предметной области;

- резким увеличением объёмов обрабатываемой информации;

- неизвестными либо неточными закономерностями, которым подчиняется обрабатываемая информация;

- необходимостью одновременной обработки разнотипной информации, ее неточностью, нечеткостью, качественным характером;

- необходимостью решать задачи, свойственные до настоящего времени только человеку.

В связи с этим, для решения многих задач особую актуальность приобретает создание и применение систем искусственного интеллекта, которые могут работать в условиях вышеперечисленных трудностей. Среди таких систем можно выделить системы приближенных рассуждений, основанные на нечеткой логике. Одной из практических областей, в которых актуально применение нечетких систем, является медицина, где применение точных математических методов осложнено индивидуальным и плохо формализуемым характером врачебного опыта.

Исследованию проблем построения нечетких систем, в том числе в медицине, посвящены работы следующих ученых: А.Н. Аверкина, И.З. Батыршина, Д. Дюбуа, Л.А. Заде, О. Кордона, Б. Коско, Ч.Ч. Ли, Е.А. Мамдани, Дж. Менделя, М. Сугено, Т. Такаги, X. Танака, В.И. Гловы, И.В. Аникина, А.С. Катасёва, М.А. Подольской, В.И. Видюкова, М.А. Ледюкова, М.Ю. Черняховской, А.Е. Янковской, А. И. Гедике, В.А. Дюка, Б.А. Кобринского, А.Е. Янковской, Н.Г. Ярушкиной и др.

Несмотря на значительное количество работ в области построения нечетких систем и их практического применения, многие вопросы далеки от своего окончательного решения. Наиболее популярные на практике модели нечеткого вывода Мамдани и Такаги-Сугено не поддаются единой формализации, так как основаны на разных принципах и по-разному трактуют обработку нечетких данных. С точки зрения точности аппроксимации, системы Такаги-Сугено, использующие уравнения регрессии для описания зависимостей между входными и выходными данными, превосходят системы Мамдани, использующие для этой цели простые нечеткие зависимости «ЕСЛИ-ТО». Однако, возможности языковой интерпретации таких продукционных правил ниже чем у системы Мамдани. Кроме этого выбор конкретных операций, реализующих те или иные аспекты нечеткой системы, остается субъективным и зависит от личных предпочтений исследователя.

В связи с этим актуальной задачей является разработка нечеткой регрессионной модели, сочетающей в себе достоинства моделей Мамдани и Такаги-Сугено, использующей лингвистические продукционные правила «ЕСЛИ-ТО», в заключениях которых применяются нечеткие уравнения регрессии, а также теоретическое обоснование выбора ее основных структурных элементов.

Объект исследования: системы нечеткого логического вывода.

Предмет исследования: модели нечеткого логического вывода, структура нечетких систем и реализуемые ими операции.

Цель работы: повышение эффективности представления и интерпретируемости знаний в системах нечеткого логического вывода путем разработки нечеткой регрессионной модели.

Научная задача: разработка и исследование нечеткой регрессионной модели, алгоритма ее обучения и программного комплекса системы нечеткого логического вывода.

Достижение поставленной цели и задачи потребовало решения вопросов:

- исследования механизмов работы систем нечеткого логического вывода и анализа существующих подходов к реализации таких систем, выявления их достоинств и недостатков;

- разработки нечеткой регрессионной модели, общего вида ее правил, а также обоснованного выбора для нее основных операций — импликации, агрегирования, дефаззификации;

- формулировки и доказательства теоремы о том, что нечеткая регрессионная модель является универсальным аппроксиматором функций, т.е. позволяет с заданной точностью приближать дифференцируемую функцию на компактном множестве;

- разработки алгоритма обучения нечеткой регрессионной модели;

- разработки программного комплекса, реализующего систему нечеткого логического вывода;

- проведения численно-параметрических исследований для оценки качества работы нечеткой регрессионной модели.

Методы исследования. Для решения обозначенных вопросов использованы методы математического моделирования, теории нечетких множеств и приближенных рассуждений, численные методы, а также методы искусственного интеллекта.

Достоверность полученных результатов обоснована корректностью использованных математических методов. Предложенные в диссертационной работе модели и алгоритмы теоретически обоснованы, не противоречат известным результатам, полученными другими авторами. Их адекватность, эффективность и практическая ценность подтверждена экспериментами.

Научная новизна работы заключается в следующем:

- предложена новая нечеткая регрессионная модель, основанная на нечетких продукционных правилах «ЕСЛИ-ТО», левая часть которых соответствует правилам модели Мамдани, а в правой части представлены уравнения нечеткой регрессии;

- разработан механизм логического вывода на правилах нечеткой регрессионной модели;

- предложен класс нечетких импликаций для нечеткой регрессионной модели;

- предложен способ дефаззификации для нечеткой регрессионной модели.

Теоретическая значимость работы заключается в:

- разработке новой нечеткой регрессионной модели, сочетающей достоинства моделей Мамдани и Такаги-Сугено, обладающей более эффективным представлением знаний и их интерпретируемостью;

- постановке и доказательстве теоремы о том, что предложенная нечеткая регрессионная модель является универсальным аппроксиматором функций;

- разработке алгоритма обучения нечеткой регрессионной модели.

Практическая ценность работы заключается в разработке программного комплекса, реализующего обучение нечеткой регрессионной модели путем автоматического построения базы правил, а также нечеткий вывод на данной модели.

По проблеме диссертационной работы опубликовано 11 работ, в том числе 1 статья в журнале из списка, рекомендованного ВАК РФ, 4 статьи и 6 тезисов докладов.

С целью апробации основные результаты диссертационной работы докладывались и обсуждались на следующих конференциях: V международной конференции «Инфокоммуникационные технологии глобального информационного общества» (Казань, 2007); XI международной научно-практической конференции «Системный анализ в проектировании и управлении» (Санкт-Петербург, 2007); VI международной конференции «Инфокоммуникационные технологии глобального информационного общества» (Казань, 2008); X международной конференции «Проблемы управления и моделирования в сложных системах» (Самара, 2008); XII международной научно-практической конференции «Системный анализ в проектировании и управлении» (Санкт-Петербург, 2008); республиканской научно-практической конференции «Проблемы анализа и моделирования региональных социально-экономических процессов» (Казань, 2009); XII международной конференции по мягким вычислениям и измерениям (SCM'2009) (Санкт-Петербург, 2009).

Реализация результатов работы. Результаты исследования:

- использованы для построения системы диагностики развития и особенностей клинических проявлений остеохондроза поясничного отдела позвоночника, внедренной на кафедре реабилитологии и спортивной медицины Казанской государственной медицинской академии;

- внедрены в учебный процесс КГТУ им. А.Н. Туполева и используются при изучении материалов дисциплин «Математические основы человеко-машинных систем» и «Системы искусственного интеллекта».

Пути дальнейшей реализации. Предполагается дальнейшая модификация алгоритма обучения нечеткой модели с целью ускорения его работы; разработка соответствующей нейронечеткой модели и алгоритма ее обучения; исследование изменения поведения нечеткой системы и точности аппроксимации функций при изменении ее основных компонент - операций импликации, агрегирования и дефаззификации.

На защиту выносятся следующие результаты:

- нечеткая регрессионная модель и механизм нечеткого вывода;

- метод дефаззификации для нечеткой регрессионной модели;

- теорема о том, что дифференцируемая функция на компактном множестве может быть приближена нечеткой регрессионной моделью с любой заданной точностью;

- алгоритм обучения нечеткой регрессионной модели;

- программный комплекс, реализующий обучение нечеткой регрессионной модели путем автоматического построения базы правил, а также нечеткий вывод на данной модели.

Структура и объем диссертации. Диссертация изложена на 196 страницах машинописного текста, содержит 32 рисунка, 15 таблиц, состоит из введения, четырех глав, заключения, списка использованной литературы из 143 наименований на 15 страницах и 4 приложений на 25 страницах.

Заключение диссертация на тему "Нечеткая регрессионная модель и программный комплекс системы нечеткого логического вывода"

4.5. ВЫВОДЫ

Алгоритм обучения предложенной системы нечеткого вывода позволил получить зависимости различных качественных и количественных признаков непосредственно из статистических данных. Было изучено влияние возраста, стажа заболевания, стажа физических нагрузок, времени и скорости развития обострения, времени продолжительности обострения на качество и прогноз течения обострения поясничных болей при остеохондрозе поясничного отдела позвоночника. В процессе анализа учитывались особенности клинических проявлений поясничного остеохондроза в зависимости от возраста и пола пациентов, а также численных параметров: содержание кальция в костях позвонков, высота и грыжа межпозвоночного диска.

Достоинством нечеткой регрессионной системы является построение в процессе обучения многопараметрических моделей. Каждое из решающих правил оценивает зависимость прогнозируемой величины от целого ряда других параметров. При этом правило имеет свою область действия в пространстве симптомов и условий заболевания, и таким образом описывает поведение прогнозируемой величины только при определенных условиях течения болезни. Совокупность таких правил, покрывающая своими областями действия все пространство параметров, в перспективе позволяет обеспечить более точный прогноз, учитывающий специфику симптомов, чем простой статистический анализ корреляции между прогнозируемой величиной и условиями течения заболевания без учета их особенностей.

Нечеткость медицинских знаний и неизбежная неточность при измерении параметров и выставлении медицинских диагнозов отражена в нечеткой структуре правил. Прогноз на основе только одного из них дает нам нечеткую величину, которая реально описывает множество возможных прогнозов с разным уровнем достоверности. Построение решающих правил производится с учетом именно этой особенности.

Совокупность всех решающих правил в процессе нечеткого вывода также дает в результате прогноза нечеткую величину. Для установления диагноза требуется ее преобразование в четкое качественное значение, что и было произведено в нашей работе. Однако, в работе врача можно использовать дополнительную информацию, заключенную в структуре и форме нечеткого множества, выведенного нечеткой системой.

Важнейшая для врача информация заключена в лингвистической структуре правил предлагаемой системы нечеткого вывода, выражаемых зависимостями вида ЕСЛИ-ТО. Предпосылки и следствия таких высказываний обнаруживают порою не замеченные врачом-экспертом закономерности в течении процессов. Это позволяет врачу-эксперту по-новому оценить значимость многих параметров и их взаимодействий, важных в процессе диагностики, лечения, экспертизы трудоспособности.

Полученные в процессе обучения нечеткой регрессионной модели на реальных данных решающие правила вывода нового типа продемонстрировали высокий процент согласованности результатов с диагнозами, поставленными опытным врачом. Эта величина составляет до 90% в диагнозах, в которых ошибка составила не более одной ступени качественной шкалы.

Полученные нами результаты говорят о высокой эффективности предложенной системы нечеткого вывода в области прогнозирования тяжести течения мультифакториальных заболеваний человека, о большом потенциале метода извлечения знаний в виде продукционных правил с нечетким уравнением регрессии в правой части из статистических данных.

ЗАКЛЮЧЕНИЕ

В ходе диссертационного исследования решены следующие задачи:

- исследован механизм работы систем нечеткого вывода, проведен анализ существующих подходов к реализации таких систем. Рассмотрены достоинства и недостатки нечетких моделей Мамдани и Такаги-Сугено. Показана актуальность создания нечеткой регрессионной модели, сочетающей оба указанных подхода;

- разработана нечеткая система, включающая в продукционные правила уравнение нечеткой регрессии. На основе проведенных исследований выдвинуто предположение, что использование импликаций, удовлетворяющих аксиомам Irh, будет сравнимо по результатам работы с традиционными моделями, если применять их совместно с подходящими операциями агрегирования и дефаззификации. На основе определения импликации Заде было предложено применять импликации QL-типа совместно с объединением правил в единую базу знаний логической связкой «И». Установлено, что существует определение импликаций QL-типа, которое удовлетворяет аксиоматическому определению импликации, и потому с теоретической точки зрения может применяться в нечетких системах. Показано, как следует изменить методы дефаззификации, чтобы их использование не приводило к отрицательным результатам при таком выборе импликации и агрегирования.

- сформулирована и доказана теорема о том, что предложенная нечеткая модель является универсальным аппроксиматором функций;

- разработан эвристический алгоритм обучения нечеткой регрессионной модели путем извлечения знаний из массивов данных в виде продукционных правил, использующий генетический алгоритм для разбиения входного пространства на подобласти и методы линейного программирования для нахождения заключений правил;

- разработан комплекс программ, реализующий разработанную нечеткую модель и алгоритм автоматического извлечения знаний из массивов данных в виде продукционных правил;

- проведены численно-параметрические исследования для оценки качества работы предложенной нечеткой системы, в ходе которых ее способности к аппроксимации функций сравнивались с системами Мамдани-типа, обученных по алгоритму One-Pass. По результатам экспериментов нечеткая регрессионная модель показала более высокую точность аппроксимации.

Предложенная модель обладает преимуществами систем Такаги-Сугено и Мамдани и может быть использована в различных практических приложениях, включая прогнозирование временных рядов, аппроксимацию функций, задачи моделирования и управления.

Перспективным видится решение следующих задач:

- оптимизация алгоритма обучения нечеткой модели и его модификация для совместного учета нечетких правил;

- построение нейронечеткой регрессионной модели и разработка алгоритма ее обучения;

- исследования вопроса об оценке погрешности значений, получаемых с помощью систем, построенных на импликациях и треугольных нормах;

- более строгая формализация операции дефаззификации и оценка погрешностей нечетких моделей, построенных на различных операциях дефаззификации.

Библиография Зиновьев, Игорь Павлович, диссертация по теме Математическое моделирование, численные методы и комплексы программ

1. Bardossy A., Duckstein L. Fuzzy Rule-Based Modeling with Applications to Geophysical, Biological and Engineering Systems. Boca Raton, FL: CRC, 1995

2. Batyrshin I, Wagenknecht M. Towards a Linguistic Description of Dependencies in Data // International Journal of Applied Mathematics and Computer Science. vol. 12. - 2002 - pp. 391-401

3. Batyrshin I. On Granular Derivatives and the Solution of a Granular Initial Value Problem // International Journal of Applied Mathematics and Computer Science. vol. 12. - 2002. - pp. 403^110

4. Batyrshin I. On linguistic representation of quantitative dependencies // Expert Systems with Applications. vol. 26. - 2004. - pp. 95-104

5. Black M. Vagueness: An Exercise in Logical Analysis // Philosophy of Science. vol. 4. - 1937. - pp. 427-455

6. Bonissone P.P. Fuzzy Logic Controllers: An Industrial Reality / Computational Intelligence: Imitating Life. Zurada J.M, Marks II R.J., Robinson C.J., eds. IEEE Press, 1994. - pp. 316-327

7. Berenji H. Fuzzy Logic Controllers / An Introduction to Fuzzy Logic Applications in Intelligent Systems. Yager R.R., Zadeh L.A., eds. Kluwer Academic, 1992. - pp. 69-96

8. Cao Z., Park D., Kandel A. Investigations on the applicability of fuzzy inference // Fuzzy Sets and Systems. vol. 49. - 1992. - pp. 151-169

9. Cao Z., Kandel A. Applicability of some Fuzzy Implication Operators // Fuzzy Sets and Systems. vol. 31.- 1989. - pp. 151-186

10. Cardenas E., Castillo J.C., Cordon O., Herrera F., Peregrin A. Influence of Fuzzy Implication Functions and Defuzzification Methods in Fuzzy Control // Busefal. vol. 57. - 1994. - pp. 69-79

11. Castro J.L., Delgado M. Fuzzy Systems With Defuzzification Are Universal Approximators // IEEE Transactions on Systems, Man and Cybernetics. February, 1996

12. Chen C.-L., Chen Y.-M. Self-organizing fuzzy logic controller design // Comput. Indust. vol. 22. - October, 1993. - pp. 249-261

13. Chen C.-L., Chang F.-Y. Design and analysis of neural/fuzzy variable structural PID control systems // Proc. Inst. Elect. Eng. Contr. Theory Applicat. vol. 143.- 1996.-pp. 200-208

14. Cooper M.G. Evolving a rule-based fuzzy controller // Simulation. vol. 65.- 1995.-pp. 67-72

15. Cordon O., Herrera F., Peregrin A. T-norms vs. Implication Functions as Implication Operators in Fuzzy Control // Proceedings Of 6th IFSA Congress. 1995. - pp. 501-504

16. Cordon O., Herrera F., Peregrin A. Applicability of the fuzzy operators in the design of fuzzy logic controllers // Fuzzy Sets and Systems. vol. 86.- 1997.-pp. 15-41

17. Cordon O., Herrera F., Peregrin A. Searching for basic properties obtaining robust implication operators in fuzzy control // Fuzzy Sets and Systems. vol. 111. - 2000. - pp. 237-251

18. Cordon O., Herrera F., Peregrin A. A practical study on the implementation of fuzzy logic controllers // Technical Report #DECSAI98107. Department of Computer Sciences and Artificial Intelligence. -University of Granada. - 1998

19. Cordon O., Herrera F., Hoffman F., Gomide F., Magdalena I. Ten Tears of Genetic Fuzzy Systems: Current Framework and New Trends // Fuzzy Sets and Systems. vol. 141. - 2004. - pp. 5-31

20. Cotta C., Alba E., Troya J.M. Evolutionary design of fuzzy logic controllers // Proceedings of the 1996 IEEE International Symposium on Intelligent Control. pp. 127-132

21. Cox E.D. Fuzzy Logic for Business and Industry // Rockland, MA: Charles Rivers Media, 1995

22. Cybenko G. Approximation by superpositions of sigmoidal functions // Mathematics of Control, Signal and Systems. 1989

23. Dadone P. Design Optimization of Fuzzy Logic Systems. Dissertation in partial fulfillment of the requirements for the degree of Doctor of Philosophy in Electrical Engineering. - Blacksburg, Virginia, 2001.

24. Daley S., Gill K.F. A design study of a self-organizing fuzzy logic controller // Proc. Inst. Mechan. Eng. Part C. - Mechan. Eng. Sci. vol. 200.- 1986.-pp. 59-69

25. Dickerson J.A., Kosko B. Fuzzy function learning with covariance ellipsoids // Proc. IEEE Int. Conf. Neural Networks. 1993. - pp. 11621167

26. Dickerson J.A., Kosko B. Ellipsoidal Learning and fuzzy throttle control for platoons of smart cars / Fuzzy Sets, Neural Networks, and Soft Computing. Yager R.R., Zadeh L.A., eds. New York: Van Nostrand Reinhold, 1994. - pp. 63-84

27. Drewniak J. Selfconjugate fuzzy implications // Busefal. — vol. 81. — 2000

28. Dubois D., Prade H. Fuzzy logics and generalized modus ponens revisited // Cybern. Systems. vol. 15. - 1984. - pp. 3-4

29. Dubois D., Prade H. The generalized modus ponens under sup-min composition A theoretical study / Approximate Reasoning in Expert Systems. Gupta M.M., Kandel A., Bandler W., Kiszka J.B., eds. -Amsterdam: North-Holland, 1985. - pp. 217-232

30. Dubois D., Prade H. Fuzzy sets in approximate reasoning, part 1: inference with possibility distributions // Fuzzy Sets and Systems vol. 40. - issue 1, Special memorial volume on foundations of fuzzy reasoning. - 1991. - pp. 143-202

31. Dubois D.; Prade H. Fundamentals of Fuzzy Sets. series: The Handbooks of Fuzzy Sets. - vol. 7. - 2000

32. Dujet C., Vincent N. Force implication: A new approach to human reasoning // Fuzzy Sets and Systems. vol. 69. - 1995. - pp. 53-63

33. Edmonds M., Burkhardt D., Adjei O. Genetic Programming of Fuzzy Logic Production Rules with Application to Financial Trading // Proceedings of the Third International Conference on Neural Networks in the Capital Markets. 1995. - pp. 179-188

34. Emami M.R., Turksen J.В., Goldenberg A.A. Development of a Systematic Methodology of Fuzzy Logic Modelling // IEEE Transactions on Fuzzy Systems. vol. 6. - 1998. - pp. 346-361

35. Fodor J., Rubens M. Fuzzy Preference Modelling and Multicriteria decision support. Kluwer Academic Publishers, 1994

36. Glova V.I., Anikin I.V. Method for Recognition of Fuzzy 2D Primitives via a Technology of Soft Computing // Pattern Recognition and Image Analysis, -vol.11.- 2001. -№ l.-pp. 154-157

37. Goldberg D.E. Genetic Algorithms in Search, Optimization and Machine Learning. Reading, MA: Addison Wesley, 1989

38. Gonzalez A., Perez R. Structural learning of fuzzy rules from noised examples // in Proc. Fourth IEEE Conf. Fuzzy Syst., Yokohama, Japan. -vol. 3. 1995 - pp. 1323-1330

39. Hasan A.R., Martis T.S., Ula A.H.M.S. Design and implementation of a fuzzy controller based automatic voltage regulator for a synchronous generator // IEEE Trans. Energy Conv. vol. 9. - 1994. - pp. 550-556

40. Hellendoorn H., Thomas C. Defuzzification in Fuzzy Controllers // Journal of Intelligent and Fuzzy Systems. vol. 1. - 1993. - pp. 109-123

41. Hirota, K. Industrial Applications of Fuzzy Technology. Springer-Verlag, 1993

42. Hohensohn J., Mendel J.M. Two-pass orthogonal least-squares algorithm to train and reduce fuzzy logic systems // Proc. Third IEEE Conf. Fuzzy Syst. Orlando, FL, 1994. - vol. 1. - pp. 696-700

43. Holland J.H. Adaptation in Natural and Artifical Systems. University of Michigan Press, 1975

44. Holland J.H. Escaping brittleness: The possibilities of general purpose learning algorithms applied to parallel rule-based systems / Michalski et. al. 1986

45. Hornik K. Some results on neural network approximation // Neural Networks. vol. 6. - 1993. - pp. 1069-1072

46. Hsu Y.-Y., Chen C.-H. Design of fuzzy power system stabilizers for multimachine power systems // Proc. Inst. Elect. Eng. Part C. -Generation, Transmission and Distribution. — vol.137. — May, 1990. — pp. 233-238

47. Jager R., Verbruggen H. В., Bruijn P. The role of Defuzzification Methods in the Applications of Fuzzy Control // Preprints of SICICA' 92.- Malaga, 1992. pp. 111-116

48. Jang R.J. Self-learning fuzzy controllers based on temporal back-propagation // IEEE Trans. Neural Networks. vol. 3. - September, 1992.-pp. 714-723

49. Jang, J.-S.R. ANFIS: adaptive-network-based fuzzy inference system // IEEE Transactions on Systems, Man and Cybernetics. vol. 23. - 1993.- pp. 665-685

50. Jang R.J., Sun С. Neuro—fuzzy modeling and control // Proc. IEEE. vol. 83. - March, 1995. - pp. 378^106

51. Jantzen, J. Design of Fuzzy Controllers // Tech. Rep. no. 98-E-864. -Technical University of Denmark, 1998.

52. King R.E., Stathaki A. Fuzzy Gain-Scheduling Control of Nonlinear Processes. 2009

53. Kiszka J., Kochanska M., Sliwinska D. The influence of Some Fuzzy Implication Operators on the Accuracy of a Fuzzy Model. Parts I and II // Fuzzy Sets and Systems. vol. 15. - 1985. - pp. 111-128, 223-240.

54. Kiszka J., Kochanska M., Sliwinska D. The influence of some parameters on the accuracy of a fuzzy model / Industrial Applications of Fuzzy Control. Sugeno M., ed. Amsterdam: North-Holland, 1985. - pp. 187— 230

55. Kosko B. Fuzzy systems as universal approximators // Proceedings of the IEEE International Conference on Fuzzy Systems. 1992. - pp. 11531162

56. Коско B. Fuzzy Thinking: The New Science of Fuzzy Logic. New York: Hyperion, 1993

57. Langari R., Wang L. Fuzzy models, modular networks, and hybrid learning // Proc. Fourth IEEE Conf. Fuzzy Syst. vol. 3. - Yokohama, Japan, 1995.-pp. 1291-1298

58. Larkin L.I. A fuzzy logic controller for aircraft flight control / Industrial Applications of Fuzzy Control. M. Sugeno, ed. — Amsterdam, The Netherlands: Elsevier Science (North-Holland), 1985

59. Larsen P.M. Industrial applications of fuzzy logic control // International Journal of Man-Machine Studies. vol. 12. - 1980. - no. 1. - pp. 3-10

60. Lee С. C. Fuzzy Logic in Control Systems: Fuzzy Logic Controller. Part I, II // IEEE Transactions on Systems, Man, and Cybernetics. vol.20. -1990.-pp. 404^135

61. Lembessis E., Tanscheit R. The Influence of Implication Operators and Defuzzification Methods on the Deterministic Output of a Fuzzy Rule-Based Controller // Proceedings of 4th IFSA Congress. vol. Engineering. - 1991. - pp. 109-114

62. Li Y.-M., Shi Z.-K., Li Z.-H. Approximation theory of fuzzy systems based upon genuine many-valued implications — SISO cases // Fuzzy Sets and Systems. vol. 130. - 2002. - pp. 147-157

63. Lin C.J., Lin C.T. Reinforcement learning for art-based fuzzy adaptive learning control networks // Proc. Fourth IEEE Conf. Fuzzy Syst. vol. 3- Yokohama, Japan, 1995.-pp. 1299-1306

64. Linkens D.A., Nyongesa H. O. Genetic algorithms for fuzzy control. Part 1: Offline system development and application // Inst. Elect. Eng. Proc. Contr. Theory Applicat. vol. 142. - 1995 - pp. 161-176

65. Linkens D.A., Nyongesa И.О. Genetic algorithms for fuzzy control. Part 2: Online system development and application // Inst. Elect. Eng. Proc. Contr. Theory Applicat. vol. 142. - 1995. - pp. 177-185

66. Liu В., Huang. C. Systematic design approach for multivariable fuzzy expert System // Proc. Third IEEE Conf. Fuzzy Syst. — vol. 3. Orlando, FL, 1994.-pp. 2094-2099

67. Lukasiewicz J. Selected Works. Borkowski W., ed. — London: North Holland, 1970

68. Magrez, P., Smets, P. Fuzzy Modus Ponens: A New Model Suitable for Applications in Knowledge-Based Systems // International Journal of Intelligent Systems. vol. 4. - 1989. - pp. 181-200

69. Mamdani E.H. Application of Fuzzy Logic to Approximate Reasoning Using Linguistic Synthesis // IEEE Transactions on Computers. vol. 26.- 1977.-pp. 1182-1191

70. Mamdani, E.H. Twenty years of Fuzzy Control: Experiences Gained and Lessons Learnt / Fuzzy Logic Technology and Applications. R.J. Marks II, ed. IEEE Press, 1993. - pp. 19-24

71. Mancuso M., Moretti P., Tamagnini R. Fuzzy algorithms for machine vision // Electron. Eng. vol. 67. - February, 1995. - pp. 51-52

72. McNeill D., Freiberger P. Fuzzy Logic. New York, NY: Simon & Schuster, 1993

73. Mendel J.M. Fuzzy logic systems for engineering: a tutorial // Proceedings of the IEEE. vol. 3. - March, 1995. - pp. 345- 377

74. Mendel J.M., Mouzouris G.C. Designing Fuzzy Logic Systems // IEEE Transactions on Circuits and Systems. vol. 44. - 1997 - no 11. - pp. 885- 895

75. Mizumoto M, Zimmerman H.J. Comparison of Fuzzy Reasoning Methods I I Fuzzy Sets and Systems. vol. 8. - 1982. - pp. 253-282

76. Mizumoto M. Fuzzy controls under various approximate reasoning methods // Proceedings of second IFSA Congress. Tokio, Japan. -July, 1987.-pp. 143- 146

77. Momoh J.A., Ma X.W., Tomsovic K. Overview and literature survey of fuzzy set theory in power systems // IEEE Trans. Power Syst. vol. 10. -1995.-pp. 1676-1690

78. Mori H., Kobayashi H. Optimal fuzzy inference for short-term load forecasting // IEEE Trans. Power Syst. vol. 11. -1996. - pp. 390-396

79. Mouzouris, G.C., Mendel, J.M. Non-singleton fuzzy logic systems // Proceedings of the Third IEEE Conference on Fuzzy Systems. vol. I. -1994.-pp. 456- 461

80. Nguyen H.T., Kreinovich V., Sirisaengtaksin O. Fuzzy control as a universal control tool // Fuzzy Sets and Systems. vol. 80. - 1996, pp. 71-86

81. Pacini P., Kosko B. Comparison of fuzzy and Kalman Filter target-tracking control systems // Neural Networks and Fuzzy Systems. — Englewood Cliffs, NJ: Prentice-Hall. pp. 379- 406

82. Passino K. Yurkovich S. Fuzzy Control. — Addison-Wesley, CA

83. Pediycz W. Applications of fuzzy relational equations for methods of reasoning in presence of fuzzy data // Fuzzy Sets and Systems. vol. 16. - 1985.-pp. 163- 175

84. Pedrycz W. Design of fuzzy control algorithms with the aid of fuzzy models // Industrial Applications of Fuzzy Control. M. Sugeno, ed. -Amsterdam, The Netherlands: North-Holland, 1992. pp. 139-151

85. Pfluger N., Yen, J., Langari R. A Defuzzification Strategy for a Fuzzy Logic Controller Employing Prohibitive Information in Command Formulation // Proceedings of FUZZYIEEE' 92. San Diego, 1992. - pp. 712- 723

86. Runkler T. A., Glesner M. A Set of Axioms for Defuzzification Strategies Towards a Theory of Rational Defuzzification Operators // IEEE International Conference on Fuzzy Systems. San Francisco, 1993. -pp. 1161-1166

87. Stachowicz M.S., Kochanska M.E. Fuzzy modeling of the process // Proceedings of second IFSA Congress. Tokio, Japan, July, 1987. - pp. 86-89

88. Takagi Т., Sugeno M. Fuzzy Identification of Systems and Its Application to Modeling and Control // IEEE Transactions on Systems, Man and Cybernetics.-vol. 15. 1985. -pp. 116- 132

89. Tanaka H., Uejima S., Asai K. Linear Regression Analysis with Fuzzy Model // IEEE Transactions on Systems, Man, and Cybernetics. vol. 12.- 1982.-pp. 903- 907

90. Terano Т., Asai K., Sugeno M. Fuzzy Systems Theory and Its Applications. New York: Academic, 1992

91. Tong R.M. An annotated bibliography of fuzzy control // Industrial Applications of Fuzzy Control. M. Sugeno, ed. Amsterdam, The Netherlands: Elsevier Science (North-Holland), 1985

92. Trillas E., Valverde L. On some functionally expressable implications for fuzzy set theory // Proceedings of Third International Seminar on Fuzzy Set Theory. Klement P., ed. Linz, Austria, 1981. - pp. 173-190

93. Trillas E., Valverde L. On mode and application in approximate reasoning // Approximate Reasoning in Expert Systems. Gupta M.M., Kandel A., Bandler W., Kiszka J.B., eds. Amsterdam: North-Holland, 1985.-pp. 157-166

94. Trillas E., Valverde L. On Implication and Indistinguishability in the Setting of Fuzzy Logic 11 Management Decision Support Systems Using Fuzzy Sets and Possibility Theory. Kacpryzk J., Yager R.R., eds. Koln: VerlagTUV Rheinland, 1985.-pp. 198-212

95. Yager R.R. Fuzzy Sets and Approximate Reasoning in Decision and Control // Proc. of the IEEE International Conference in Fuzzy Systems. -1992.-pp. 418-428

96. Vidal-Verdu F. Rodriguez-Vazquez A. Using building blocks to design analog neuro-fuzzy controllers // IEEE Micro. vol. 15. - 1995. - pp. 49-57

97. Wang L.X. Fuzzy systems are universal approximators // Proceedgins of IEEE International Conference on Fuzzy Systems. San Diego, CA, 1992

98. Yen J., Langari R., Zadeh L., eds. Industrial Applications of Fuzzy Logic and Intelligent Systems. New York: IEEE Press, 1995

99. Zadeh L.A. Fuzzy Sets // Information and Control. vol. 8. - 1965. - pp. 338-363

100. Zadeh L.A. From Computing with Numbers to Computing with Words: From Manipulation of Measurements to Manipulation of Perceptions. // Annals of the New York Academy of Sciences. vol. 929. - 2001. - pp. 221-252

101. Zhang J., Morris A.J. Fuzzy neural networks for nonlinear systems modeling // Inst. Elect. Eng. Proc., Contr. Theory Applicat. vol. 142. — 1995.-pp. 551-561

102. Аверкин A.H., Батыршин И.З., Блишун А. Ф., Силов В.Б., Тарасов В.Б. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д.А.Поспелова. М.:Наука, 1986. - 312 с.

103. Батыршин КЗ. Основные операции нечеткой логики и их обобщения. — Казань: Отечество, 2001. — 102 с.

104. Веселовский В.П. Практическая вертеброневрология и мануальная терапия. Рига, 1991. - 344 с.112 .Видюков В.И. Автоматизированная диагностическая система анализа медицинских сцинтографических изображений: Диссертация д-ра. техн. наук. — М.: 1995.

105. Глова В.И, Подольская М.А. «Ведифит-1» экспертная система по диагностике и физиотерапии вертебрального синдрома поясничного остеохондроза, ориентированная на ПЭВМ // Материалы I

106. Международного конгресса вертеброневрологов. Казань, 1991. -С. 114-115.

107. Глова В.И., Аникин И.В., Аджели М.А. Мягкие вычисления (soft computing) и их приложения: Учебное пособие / Под ред. Глова В.И. Казань: Изд-во Казан, гос. техн. ун-та. - 2000. - 98 с.

108. Дюк В., Салюйпенко A. Data Mining: учебный курс. СПб.: Питер, 2001.-368 с.

109. Катаеве А.С. Нейронечеткая модель и программный комплекс формирования баз знаний экспертных систем: Диссертация на соискание ученой степени кандидата технических наук. 2006

110. Ледюков М.А. Разработка на базе ПК экспертного диагностического комплекса обработки и анализа биомедицинских изображений: Диссертация на соискание ученой степени канд. техн. наук. СПб, 1996

111. Люгер Дж. Искусственный интеллект. — М.: Издательский дом «Вильяме», 2003

112. Норвиг П., Рассел С. Искусственный интеллект: современный подход. М.: Издательский дом «Вильяме», 2005

113. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы. М.: Горячая линия — Телеком, 2006

114. Черняховская М.Ю. Представление знаний в экспертных системах медицинской диагностики. Владивосток: Институт автоматики и процессов управления ДВНЦ АН СССР, 1983. - 212 с.

115. Ярушкына Н.Г. Основы теории нечетких и гибридных систем. М.: Финансы и статистика, 2004. - 320 с.1. СПИСОК ПУБЛИКАЦИЙ

116. Зиновьев И.П. Контроллер Мамдани-Сугено с нечеткой правой частью как универсальный аппроксиматор // Исслед. по информатике. Вып. 12. - Казань: Отечество, 2007. - С. 117-123

117. Зиновьев И.П. Эволюционно-генетический подход к построению баз правил систем нечеткого управления // Инфокоммуникационные технологии глобального информационного общества: тезисы докладов V международной конференции. Казань: Фолиантъ, 2007.-С. 144-145

118. Зиновьев И.П. Применение гибридных интеллектуальных систем в управлении // Системный анализ в проектировании и управлении: труды XII международной научно-практической конференции. -СПб.: Издательство Политехнического университета, 2008. С. 131132

119. Зиновьев И.П., Аникин И.В. Извлечение знаний в модели Такаги-Сугено с нечеткой правой частью // Международная конференция по мягким вычислениями и измерениям: сборник докладов. СПб.: Издательство СПБГЭТУ «ЛЭТИ», 2009 - Том 1. - С. 177- 179

120. Зиновьев И.П., Аникин И.В. Усовершенствования системы нечеткого вывода Такаги-Сугено // Вестник Казанского государственного технического университета им. А.Н. Туполева. -2009.- ЖЗ.-С. 84-88

121. Салахутдинов Р.З., Зиновьев И.П. Системы нечеткого вывода, основанные на аддитивных генераторах // Исслед. по информатике. Вып. 10. - Казань: Отечество, 2007. - С. 57- 67