автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Интеллектуализация экспертно-диагностического процесса на основе нейросетевого моделирования и нечеткой логики
Автореферат диссертации по теме "Интеллектуализация экспертно-диагностического процесса на основе нейросетевого моделирования и нечеткой логики"
На правах рукописи
ДЬЯЧЕНКО Денис Евгеньевич
ИНТЕЛЛЕКТУАЛИЗАЦИЯ ЭКСПЕРТНО-ДИАГНОСТИЧЕСКОГО ПРОЦЕССА НА ОСНОВЕ НЕЙРОСЕТЕВОГО МОДЕЛИРОВАНИЯ И НЕЧЕТКОЙ ЛОГИКИ
Специальность: 05.13.01 - Системный анализ, управление и обработка информации
АВТОРЕФЕРАТ
диссертации на соискание ученой степени кандидата технических наук
Воронеж - 2004
Работа выполнена в Воронежском государственном техническом университете
Научный руководитель
Заслуженный деятель науки РФ, доктор технических наук, профессор Львович Яков Евсеевич
Официальные оппоненты:
доктор технических наук, профессор Чопоров Олег Николаевич;
кандидат технических наук Преображенский Юрий Петрович
Ведущая организация
Воронежский государственный университет
Защита состоится 26 ноября 2004 года в 1300 часов в конференц-зале на заседании диссертационного совета Д 212.037.02 Воронежского государственного технического университета по адресу: 394026, г. Воронеж, Московский просп., 14.
С диссертацией можно ознакомиться в библиотеке Воронежского государственного технического университета.
Автореферат разослан 26 октября 2004 г.
¿00 Г-!,
иш
шгво
ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ
Актуальность темы. В последние годы бурное развитие компьютерных технологий, растущая важность проблем интеллектуализации принятия решений обусловили неослабеваемый спрос на новые информационные технологии. В этой связи одним из важнейших направлений является разработка систем экспертной диагностики, практически пригодных для использования в различных областях.
Экспертные системы оперируют знаниями в определенных предметных областях с целью выработки рекомендаций или решения проблем. Экспертно-диагностические системы понимаются как экспертные системы, позволяющие строить и проверять гипотезы, то есть проводить диагностику. Такого рода системы уже достаточно давно применяются на практике, однако в большинстве случаев они не обладают необходимой гибкостью и являются изолированными, функционируя в рамках замкнутого вычислительного комплекса и/или используя узкоспециальные алгоритмы.
Исходя из этого, разработка экспертно-диагностической системы, которая обладала бы достаточной гибкостью в настройке и применении к широкому классу прикладных задач, а также имеющей возможность реализации алгоритмов такой системы как в масштабах отдельной интеллектуальной системы, так и в рамках подсистемы с открытой архитектурой, является актуальной задачей, представляющей научный интерес.
Таким образом, актуальность темы определяется необходимостью создания моделей, алгоритмов и программных средств, позволяющих повысить эффективность решения прикладных задач экспертной диагностики в различных сферах человеческой деятельности.
Работа выполнена в рамках НИР ГБ 01.04 «Интеллектуализация принятия решений в автоматизированных и информационных системах» в соответствии с основным научным направлением Воронежского государственного технического университета «Проблемно-ориентированные системы управления».
Цель и задачи исследования. Целью работы является разработка комплекса моделей, алгоритмов и программных средств, позволяющих повысить эффективность решения задач экспертной диагностики путем интеграции методов обработки экспериментальной информации, аппарата нейронных сетей и нечеткой логики применительно к задачам медицинской диагностики.
Для достижения поставленной цели необходимо решить следующие задачи:
1. Осуществить анализ современных подходов интеллектуализации экспертно-диагностического процесса.
2. Провести визуальное моделирование экспериментальной информации на основе методов математической статистики.
3. Разработать структуру адаптивной экспертной системы, способной работать как со слабо структурированной информацией, так и в условиях неполноты и зашумленности данных.
4. Разработать алгоритмические методы настройки и функционирования экспертно-диагностической системы.
5. Разработать структуру и создать программно-методический комплекс, реализующий алгоритм построения и работы адаптивной экспертной системы.
6. Осуществить анализ эффективности применения разработанного комплекса моделей, алгоритмов и программного комплекса применительно к задачам медицинской диагностики.
Методы исследования. В работе использованы методы математического моделирования, математической статистики, теории искусственных нейронных сетей, теории нечеткой логики, теории оптимизации, вычислительных экспериментов, объектно-ориентированного программирования.
Научная новизна. В работе получены следующие основные результаты, характеризующиеся научной новизной:
- процедура визуализации результатов комплексного обследования при диффузных обструктивных бронхолегочных заболеваниях у детей, позволяющая на основе методов математической статистики повысить эффективность оценки экспертом степени взаимосвязи между лабораторными и функциональными показателями в процессе дифференциальной диагностики;
- структура нейро-нечеткой экспертной системы продукционного типа, отличающаяся способностью эффективной обработки и представления экспериментальной и экспертной информации;
- алгоритмы идентификации и оптимизации параметров нейро-нечеткой экспертной системы, позволяющие эффективно настраивать систему как для задач с поступлением данных в режиме реального времени, так и для задач с заранее определенным набором данных;
- математическое обеспечение экспертной системы дифференциальной диагностики на базе комплексного кристаллографического исследования, отличающееся ориентацией на возможность эффективной обработки информации при использовании в качестве прогностической модели нейро-нечеткой многослойной сети.
Практическая значимость работы. Практическая значимость работы заключается в создании специального программного обеспечения, реализующего работу системы экспертной диагностики, основанной на аппарате продукционных экспертных систем с применением аппарата нейронных сетей и нечеткой логики.
Предложенный в работе подход к построению экспертной системы позволяет адаптировать программный комплекс к широкому кругу задач диагностики, прогнозирования, аппроксимации.
Используемый при разработке программного обеспечения объектно-ориентированный подход, а также полная открытость системы дают возможность доработки, надстройки и интеграции ее с другими системами. Кроме того, реализация комплекса на базе платформы Microsoft .NET Framework позволяет использовать его при реализации удаленных и распределенных систем.
Реализация результатов работы. Разработанный комплекс моделей, алгоритмов и программных средств позволил создать и внедрить систему дифференциальной диагностики легочных заболеваний в Воронежском областном клиническом диагностическом центре.
Результаты исследования в виде программно-методического комплекса используются в учебном процессе Воронежского государственного технического университета при обучении студентов специальности 230201 «Информационные системы и технологии» по курсу «Нейросетевые технологии».
Апробация работы. Основные положения диссертации докладывались и обсуждались на Всероссийской конференции «Интеллектуализация управления в социальных и экономических системах» (Ворона. 2002-2003), Международной научно-технической конференции «XI Бенардооовские чтения» (Иваново, 2003), ежегодном научно-методическом семинаре кафедры систем автоматизированного проектирования и информационных систем Воронежского государственного технического университета (2004).
Публикации. Опубликованы статьи, методические указания, всего 11 печатных работ. Основное содержание диссертации изложено в 7 печатных работах. В [5] рассмотрена актуальность применения гибридных экспертных систем в диагностических целях; в [6] приводятся результаты визуального моделирования экспериментальной информации на основе методов математической статистики; в [4] автором предложена структура нейро-нечеткой экспертной системы; в [3] предлагается использование генетического алгоритма для настройки параметров нейро-нечеткой системы; в [1, 2, 7] рассматривается применение нейро-нечеткой экспертной системы для решения практических задач медицинской диагностики.
Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, библиографического списка из 139 наименований, приложений. Основная часть работы изложена на 105 страницах, содержит 65 рисунков, 17 таблиц.
ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ
Во введении обоснована актуальность диссертационной работы, сформулированы цель и задачи исследования, научная новизна и практическая значимость полученных результатов, приведены сведения об апробации и внедрении работы, указаны структура и объем диссертации.
В первой главе анализируются основные направления
интеллектуализации экспертно-диагностического процесса; рассматриваются перспективы применения математических и интеллектуальных методов обработки экспериментальной и экспертной информации; даются ссылки на работы отечественных и зарубежных авторов.
Основной задачей, решаемой с помощью интеллектуальных технологий, является принятие оптимальных решений на основе ранее полученного опыта и рационального анализа внешних воздействий. К одной из таких задач относится и задача диагностики. Однако появление новых технических средств диагностики выявило следующую проблему - отсутствие объективных методов структуризации получаемой информации. Решение данной проблемы связывается с основной задачей искусственного интеллекта - формальным получением новых системных знаний из экспериментальных и экспертных данных.
С развитием вычислительной техники и развитием прикладной математики начался стремительный рост числа работ, связанных с попытками формализовать процесс диагностики с помощью математических моделей, в частности с помощью методов математической статистики.
Бурное развитие переживают и методы, основанные на теории искусственных нейронных сетей. Однако применение их в диагностических задачах выявляет следующие основные недостатки: недостаточная интерпретируемость структуры сетей (потому как необходимо объяснение структуры полученной модели в терминах поставленной задачи) и большая вычислительная сложность алгоритмов построения сетей и их настройки.
Практика использования методов математического моделирования выявила несоответствие между их возможностями и сложностью реальных диагностических задач, что привело к необходимости поиска новых решений. Одним из таких решений является создание экспертных систем (ЭС). Особое
место среди всевозможных ЭС занимают продукционные ЭС, которые реализуют логический вывод на базе «если-то» правил. Однако применение продукционных экспертных систем также связано с определенными трудностями, в частности с тем, что для их функционирования требуется наличие полной информации о системе.
С развитием нечеткой логики появились нечеткие продукционные системы, которые, в отличие от обычных ЭС, в качестве посылки и заключения в правиле используют лингвистические переменные. Кроме того, в настоящее время перспективными являются адаптивные нечеткие системы в виде гибридных структур нейронных сетей с нечеткими системами логического вывода, которые объединяют в себе достоинства нейронных сетей (обучаемость) и нечетких систем (интерпретируемость).
На основе проведенного анализа делается вывод о необходимости разработки моделей, алгоритмов и методов обработки экспериментальной и экспертной информации, практически пригодных для повышения эффективности решения проблем диагностики.
Во второй главе предложена модель эффективного дифференциально-диагностического процесса на основе обработки экспериментальной информации методами математической статистики; разработана процедура визуализации экспериментальной информации, полученной в ходе комплексного обследования при бронхолегочных заболеваниях у детей.
Моделирование диагностического процесса заключалось в реализации следующих этапов:
- получение экспериментальных данных по группам больных муковисцидозом (МВ), бронхиальной астмой (БА), обструктивным бронхитом (ОБ);
- обработка данных с помощью процедуры корреляционного анализа отдельно по каждому из заболеваний с целью выявления зависимостей, позволяющих сократить число исследуемых характеристик и тем самым упростить процесс диагностики;
- осуществление с помощью статистических методов процедуры проверки гипотез о равенстве выборочных средних отдельно по каждому из заболеваний с целью установления периода заболевания;
- проверка гипотезы о различии групповых средних общих по исследуемым заболеваниям показателей для осуществления дифференциальной диагностики.
Для определения периода заболевания при МВ был проведен статистический анализ 16 количественных показателей комплексного обследования, при БА - 13 количественных показателей. Учитывая тот факт, что размеры выборок достаточно малы (30 человек при МВ и 50 человек при
БА), а распределения большинства показателей не соответствуют нормальному распределению, то математически не верно использовать ^критерий Стьюдента. Поэтому были использованы методы непараметрической статистики, а именно U-критерий Манна-Уитни (проверка гипотезы о принадлежности сравниваемых независимых выборок к одной и той же генеральной совокупности или к совокупностям с одинаковыми параметрами) и двухвыборочный критерий Колмогорова-Смирнова (проверка гипотезы о совпадении распределений в паре независимых выборок). Результаты анализа выявили в каждой группе заболеваний основные показатели, характеризующие период заболевания, причем оба критерия показали схожие результаты.
Для проверки гипотез о равенстве групповых средних по заболеваниям (MB (ремиссия, обострение), БА (ремиссия, обострение), ОБ) была применена общая линейная модель, реализованная в процедуре однофакторного дисперсионного анализа. На основе данной процедуры был создан модуль визуализации, обеспечивающей наглядное представление результатов дифференциальной диагностики по исследуемым показателям. Пример процедуры визуализации приведен на рис. 1.
ОБ МВо МБр БЛр БАп
Рис. 1. Оценки для выборочных средних по результатам дисперсионного анализа для показателей: эритроциты, глюкоза
Результаты анализа показали, что не существует общего лабораторного, функционального показателя, на основе которого можно провести дифференциальную диагностику в рассматриваемой группе заболеваний.
В третьей главе рассматривается структура нейро-нечеткой экспертной системы; приводится алгоритмическая схема функционирования такой системы, разработанные алгоритмы ее структурной и параметрической идентификации.
Под нейро-нечеткой системой понимается многослойная нейронная сеть специальной структуры, каждый слой которой состоит из вычислительных элементов (нейронов), которые связаны между собой связями, определяющими
структуру сети. В основе такой системы лежат принципы действия нечетких систем. Данные принципы определяют структуру базовой нейро-нечеткой сети (рис. 2) как трехслойной, направленной вперед, нейронной сети, каждый слой которой является подсетью и состоит из множества нейронов, и сама сеть математически описывается следующим образом:
Рис. 2. Базовая нейро-нечеткая сеть 7
Для каждого нейрона определены два вида функций:
Интегральная функция/- определяет входную информацию для нейрона:
/=Л"Л "2*, • ••> и/, ..., м>рк), (1)
где ы/ - входное значение, поступившее по /-й связи к нейрону слоя (4; и>/ - вес 1-й связи, входящей в нейрон слоя р - количество связей к нейрону слоя 11к. Функция активации а - определяет выходную информацию для нейрона: о? = а = а(/), (2)
где о * - выходное значение г'-го нейрона слоя 1!к.
На основе базовой нейро-нечеткой сети построена 5-слойная нейро-нечеткая сеть, где для каждого нейрона определены интегральная и активационная функции следующим образом:
Слой 1. Нейроны этого слоя передают информацию во 2-й слой без изменений, т.е.
/="/', *=/ (3)
Слой 2. Каждый элемент данного слоя реализует нечеткое множество с помощью функции принадлежности:
(и?-т„)2 г /=--2 > а = е\ (4)
аи
где т,1 и (Ту - параметры функции; индекс // обозначаету'-е нечеткое множество, определенное для /-й входной переменной.
Слой 3. Связи, идущие к 3-му слою, определяют посылки правил, таким образом узлы данного слоя реализуют операцию нечеткого «И»:
/= т ¡п(и!:3, ип,..., Ир), а =/ (5)
Слой 4. Связи, идущие к 4-му слою, формируют выводы правил, таким образом узлы данного слоя реализуют операцию нечеткого «ИЛИ»:
/=£«;, а" тт(1,У). (6)
Слой 5. Элементы этого слоя и идущие к ним связи выполняют процедуру дефазификации, т.е. полученное нечеткое значение выходной переменной преобразуется в точное значение. Для этого используется метод «центра тяжести»:
/= Х>,д = Х<Чл> К5, а = -^—т. (7)
J /
где индекс у обозначает _/-е нечеткое множество, определенное для г-й выходной переменной.
Настройка нейро-нечеткой системы осуществляется в два этапа - сначала формируется структура сети (формирование начальных нечетких множеств для
входных/выходных переменных и формирование правил вывода), затем производится оптимизация параметров сети - настраиваются параметры функций принадлежности для наилучшего соответствия выходов сети требуемым значениям.
Первоначальное формирование нечетких множеств для входных и выходных переменных осуществляется по аналогии с методами классификации данных. Целью этой процедуры является покрытие функциями принадлежности только тех областей данных, где эти данные присутствуют. Вычисление параметров т (центров) функций принадлежности представляет собой следующую итеративную процедуру (для одной входной или выходной переменной):
Мблнжа/'/шееО г 1) МбяижайшсЖ.О ' И (Л'(/) — тбмжайшее(/У)>
где t - шаг алгоритма; *(/) - подаваемый на вход алгоритма очередной элемент из множества данных; - ближайший к параметр т функции
принадлежности; а - шаг обучения; к - заранее заданное количество нечетких множеств для данной переменной.
Процедура вычисления параметров о функций принадлежности выглядит следующим образом:
а, = |/я, - тВтхх„.тсе \/г, (и)
где - ближайший к т, параметр т функции принадлежности;
г - параметр «нахлеста» функций принадлежности друг на друга.
Построение правил вывода заключается в удалении связей между 3-м и 4-м слоями таким образом, чтобы из каждого элемента 3-го слоя выходило столько связей, сколько имеется выходных переменных, причем каждая такая связь должна соответствовать различным выходным переменным. На этом этапе для прореживания связей используется метод «состязаний», при котором для каждой связи, идущей из нейрона 3-го слоя, вычисляется ее рейтинг, а далее выбирается лишь одна такая с максимальным значением рейтинга. В начале работы алгоритма значения рейтингов равны нулю, а затем для каждой пары входных-выходных значений обучающей выборки увеличивается рейтинг той связи, которая наилучшим образом соответствует этой паре значений.
Оптимизация параметров сети происходит при уже сформированной структуре сети следующим образом - по наборам экспертных данных подстраиваются параметры нечетких множеств (нейронов 2-го и 4-го слоя) так, чтобы ошибка Е, выдаваемая при работе системы, была минимальной. Для решения данной проблемы был разработан вариант генетического алгоритма и модификация алгоритма обратного распространения ошибки.
Алгоритм обратного распространения ошибки для многослойных нейронных сетей является процедурой нахождения градиента функции ошибки. Метод градиентного спуска минимизации функции ошибки итерационно модифицирует каждый весовой коэффициент по следующему правилу:
М>(*+ 1)=И'(0+ Т}\
(12)
где w(t) — вес связи на итерации t; г/ - параметр (шаг) обучения.
В случае с предложенной структурой нейро-нечеткой системы настраиваемыми параметрами являются параметры /и и с функций принадлежности нейронов 2-го и 4-го слоев.
Для случая с одной выходной переменной итеративное изменение параметра происходит по следующей формуле:
сг,и,
rn.it + 1) = тпЦ) + г, (КО "Я'))
а формула обновления параметра о, выглядит следующим образом: а* + 1) = а,(0 + „(КО-Я0)
(13)
(14)
0>А)2
где у({) - желаемое выходное значение системы;
у(0 — фактическое выходное значение системы.
Итеративное изменение параметра ти и о,у для нейронов 2-го слоя происходит по следующим формулам:
(15)
(16)
Предложенный вариант генетического алгоритма (ГА) использует бинарную схему кодирования.
В ходе работы ГА для каждого из параметров /я*„ о(к - номер слоя) задаются границы допустимого изменения, а именно:
т, е [т,„„Д, т„шк,], о*, е [атшк„ ст„Ю1',].
(17)
(18)
Вектор решения, кодируемый в ходе работы ГА, выглядит так: Алгоритмическая схема ГА следующая:
1. Сформировать случайную начальную популяцию из /V особей (решений).
2. Оценить все особи популяции - вычислить функцию оценки для каждой особи.
Функция оценки (приспособленности) i-й особи:
Ж)
шах/(Я,)' (19)
/1..У
- величина, обратная ошибке обучения;
(x„y,)i„ i i - обучающая выборка; Х^/ xi) - выходные данные системы при параметрах из R и входных данных хг
3. Пока не выполнен критерий останова (достигнуто максимальное число итераций; наилучшее решение не изменилось в течение определенного числа итераций) выполнять:
а) выбрать 2 особи из популяции для скрещивания. Выбор /-й особи осуществляется с вероятностью (для более приспособленных особей вероятность выбора больше):
(20)
б) выполнить «скрещивание»- от каждого из родителей берется по одной части - используется одноточечное разбиение со случайной точкой разбиения;
в) применить мутацию к потомку - с вероятностью у < 0.01 инвертировать каждый бит потомка;
г) оценить потомка - вычислить его функцию приспособленности -f;
д) выбрать худшую особь в популяции, т.е. ту, у которой функция приспособленности имеет наименьшее значение ;
е) при условии заменить худшую особь в популяции на потомка.
4. Решением ГА является наиболее приспособленная особь.
Отмечается, что предложенный ГА является вычислительно трудоемкой
процедурой и применять его следует либо для несложных нейро-нечетких систем, либо в случае неудовлетворительных результатов, даваемых градиентными методами оптимизации.
В четвертой главе рассмотрены вопросы разработки архитектуры программного комплекса, реализующего изложенные в предыдущей главе методы построения и оптимизации нейро-нечеткой системы; приводятся результаты дифференциальной диагностики бронхолегочных заболеваний у детей средствами разработанного комплекса на базе комплексного кристаллографического исследования.
Разработанный программный комплекс состоит из следующих основных элементов (рис. 3):
- управляющая подсистема (контроль формирования структуры нейро-нечеткой системы, оптимизации параметров и взаимодействие
элементов комплекса между собой);
диспетчер данных (ввод данных, их хранение, извлечение для обработки другими подсистемами, а также вывод результатов); подсистема формирования структуры нейро-нечеткой системы; подсистема оптимизации параметров; подсистема функционирования нейро-нечеткой системы.
Рис. 3. Структура программного комплекса
Использование разработанного комплекса заключалось в изучении возможностей нейро-нечеткой экспертной системы решать задачу дифференциальной диагностики бронхолегочных заболеваний у детей по данным комплексного кристаллографического исследования биологических жидкостей. По данным кристаллограмм были выделены их основные морфологические признаки, определены входные переменные, составлены лингвистические термы.
На начальном этапе построения нейро-нечеткой ЭС дифференциальной диагностики были сформированы ЭС, которые диагностировали каждое из заболеваний отдельно: обструктивный бронхит и норма; муковисцидоз и норма; бронхиальная астма и норма.
Для диагностики использовались кристаллограммы конденсата выдыхаемого воздуха (экспирата) и кристаллограммы слюны в нативном виде и с добавлением кристаллообразующих веществ (ЫаС1, СиСЬ). Набор полученных диагностических правил на примере муковисцидоза по результатам анализа кристаллограмм слюны представлен в табл. 1.
Таблица 1
Система диагностических правил, построенных по результатам работы нейро-нечеткой экспертной системы для диагностики муковисцидоза по кристаллограммам слюны
Слюна с Степень тя-
Натнвная слюна Слюна с добавлением №0 добавлением CuClj жести, период заболевания МВ
Радиальные линии в центральной части Толщина стенки а II ь 11 1 5 у аз S р, ¡«^ ill Характер центров кристаллизации Толщина л} чей Длина лучей
ЕСЛИ Нет И Средняя И Четкая И Длинные И Цоходят до стенки И Крупные, разрозненные И Тонкие И Длинные ТОГДА легкая, ремиссия
ЕСЛИ Нет И Средняя И Четкая И Дынные И Не доходят до стенки И Различной ветчины, разрозненные И Средние И Средние ТОГДА срсдиетяжелая, ремиссия
ЕСЛИ Нет И Сред- И Четкая И Дяин- И Недохо-Ьт до И Различной величины, нас- и Сред- И Корот- ТОГДА тяжелая, ремиссия
стенки лаивающиеся
ЕСЛИ Есть и Средняя И Недостаточно четкая И Дяин-ные и Ближе к nepurltcpun и Средние, нас яаиватциеся и Толстые и Короткие ТОГДА легкая, обострение
ЕСЛИ Есть и Толстая И Недостаточно четкая И Дюнные и Ближе г периферии и Средние, наслаивающиеся и Толстые и Короткие ТОГДА средястяжелая, обострение
ЕСЛИ Есть и Толстая и Недостаточно четкая И Корот кие и Ixtuxce к центру и Мелкие, нас-паиеакнциеся и Толстые и Короткие ТОГДА тяжелая, обострение
Проведенные предварительные эксперименты по построению диагностических ЭС дали положительные результаты. Это позволило сформировать ЭС дифференциальной диагностики на базе ранее рассмотренных ЭС, реализующую следующий алгоритм:
1. Получение кристаллограмм слюны и экспирата в нативном виде, с добавлением №0, с добавлением СиС12.
2. Экспертная оценка критериев кристаллограмм в каждой из составляющих ЭС (для кристаллограмм слюны и экспирата) и постановка предварительного диагноза.
3. Если диагноз подтверждается в обеих ЭС, отвечающих за конкретное заболевание, принимается, что он совпадает с итоговым диагнозом.
4. Если диагноз не подтверждается в обеих ЭС, проводятся клинические исследования и по их результатам формируется новое правило вывода, которое по возможности добавляется в одну из составляющих ЭС.
При формировании составляющих экспертных систем обучение производилось на всем наборе доступных данных. В табл. 2 указаны итоговые параметры качества распознавания каждого из заболеваний и нормы, свидетельствующие об эффективности применения механизма нейро-нечетких экспертных систем к задаче дифференциальной диагностики бронхолегочных заболеваний у детей.
Таблица 2
Результаты распознавания заболеваний и нормы при работе итоговой дифференциально-диагностической ЭС
Наименование, течение, период Общий Объем Точность
заболевания/Норма объем тестовой распозна-
выборки выборки вания
ОБ 17 6 83%
MB, легкое, ремиссия 10 3 100%
MB, легкое, обострение 7 2 100%
MB, ср. тяжести, ремиссия 10 3 100%
MB, ср. тяжести, обострение 13 4 75%
MB, тяжелое, ремиссия 6 2 100%
MB, тяжелое, обострение 9 3 67%
БА, легкое, приступный 10 3 100%
БА, легкое, постприступный 19 6 100%
БА, ср. тяжести, приступный 61 20 85%
БА, ср. тяжести, постприступный 43 14 93%
Б А, тяжелое, приступный 51 17 82%
БА, тяжелое, постприступный 33 11 91%
Норма 30 10 100%
ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ
1. Проведен анализ современных подходов интеллектуализации экспертно-диагностического процесса, рассмотрены перспективы применения математических и интеллектуальных методов обработки экспериментальной и экспертной информации.
2. Проведено визуальное моделирование результатов комплексного обследования при дифференциальной диагностике диффузных обструктивных бронхолегочных заболеваний у детей на основе методов математической статистики.
3. Разработана структура адаптивной экспертной системы с использованием аппарата нейронных сетей и нечеткой логики, что позволяет работать как со слабо структурированной информацией, так и в условиях неполноты и зашумленности данных.
4. Разработаны алгоритмические методы функционирования нейро-нечеткой экспертной системы.
5. Для оптимизации параметров системы предложено использование генетического алгоритма и модификация алгоритма обратного распространения
ошибки для использования градиентной процедуры.
6. Разработана структура и создан программно-методический комплекс, реализующий алгоритм построения и работы адаптивной экспертной системы.
7. Осуществлен анализ эффективности применения разработанного комплекса моделей, алгоритмов и программного комплекса к задаче дифференциальной диагностики бронхолегочных заболеваний у детей.
1. Дьяченко Д.Е., Львович Я.Е., Постникова И.В. Динамическое кристаллографическое исследование слюны при муковисцидозе у детей // Вестник новых медицинских технологий. - 2004. - Т.Х. - №1-2. - С. 123-125.
2. Дьяченко Д.Е., Львович Я.Е., Постникова И.В. Динамическое кристаллографическое исследование экспирата при бронхиальной астме у детей // Вестник новых медицинских технологий. - 2004. - Т.Х. - №1-2. - С. 120-122.
3. Львович Я.Е., Дьяченко Д.Е. Генетический алгоритм для оптимизации параметров Neuro-Fuzzy систем // Интеллектуализация управления в социальных и экономических системах: Тр. Всерос. конф. Воронеж: ВГТУ, 2003. С. 31-35.
4. Львович Я.Е., Дьяченко Д.Е. Использование нейро-нечеткой технологии в экспертной диагностике // Вестник ВГТУ. Сер. САПР и системы автоматизации производства. 2002. - Вып. 3.2. - С. 14-16.
5. Львович Я.Е., Дьяченко Д.Е. Использование Neuro-Fuzzy технологии в экспертной диагностике // Интеллектуализация управления в социальных и экономических системах: Тр. Всерос. конф. Воронеж: ВГТУ, 2002. С. 23.
6. Постникова И.В., Дьяченко Д.Е. Визуализация результатов комплексного обследования при бронхиальной астме у детей // Высокие технологии в технике, медицине, экологии и образовании: Межвуз. сб. науч. тр. Воронеж: ВГТУ, 2003. - 4.1. - С. 100-104.
7. Постникова И.В., Дьяченко Д.Е. Построение нейро-нечеткой экспертной системы для диагностики обструктивного бронхита у детей // Высокие технологии в технике, медицине, экологии и образовании: Межвуз. сб. науч. тр. Воронеж: ВГТУ, 2003. - 4.1. - С. 195-198.
ОСНОВНЫЕ РЕЗУЛЬТАТЫ ДИССЕРТАЦИИ ОПУБЛИКОВАНЫ В СЛЕДУЮЩИХ РАБОТАХ
Подписано в печать 21.10.2004. Формат 60x84/16. Бумага для множительных аппаратов. Усл. печ. л. 1,0. Тираж 85 экз. Заказ № >
Воронежский государственный технический университет 394026 Воронеж, Московский просп., 14
»2i m
РНБ Русский фонд
2005-4 18479
Оглавление автор диссертации — кандидата технических наук Дьяченко, Денис Евгеньевич
ВВЕДЕНИЕ.
ГЛАВА 1. ПУТИ СОВЕРШЕНСТВОВАНИЯ ДИАГНОСТИКИ НА ОСНОВЕ ЭФФЕКТИВНОЙ ОБРАБОТКИ ЭКСПЕРИМЕНТАЛЬНОЙ И ЭКСПЕРТНОЙ ИНФОРМАЦИИ.
1.1. Анализ основных направлений интеллектуализации диагностического процесса.
1.2. Перспективы применения интеллектуальных технологий в задачах диагностики.
1.2.1. Основные положения аппарата нейронных сетей и возможности практического применения.
1.2.2. Нечеткая логика и нечеткие системы как средства эффективной поддержки процесса принятия решений.
Цель и задачи исследования.
ГЛАВА 2. МОДЕЛИРОВАНИЕ ЭКСПЕРТНО-ДИАГНОСТИЧЕСКОГО ПРОЦЕССА ПРИ ЛЕЧЕНИИ ЛЕГОЧНЫХ ЗАБОЛЕВАНИЙ У ДЕТЕЙ НА ОСНОВЕ ОБРАБОТКИ ЭКСПЕРИМЕНТАЛЬНОЙ ИНФОРМАЦИИ.
2.1. Структура экспертно-диагностического процесса.
2.2. Повышение эффективности диагностического процесса с помощью методов математической статистики.
2.3. Визуализация результатов обработки экспериментальной информации в процедуре дифференциальной диагностики.
Выводы второй главы.
ГЛАВА 3. РАЗРАБОТКА АЛГОРИТМИЧЕСКИХ ПРОЦЕДУР ФОРМИРОВАНИЯ СТРУКТУРЫ И НАСТРОЙКИ ПАРАМЕТРОВ НЕЙРО-НЕЧЕТКОЙ СИСТЕМЫ.
3.1. Построение структуры нейро-нечеткой системы.
3.2. Настройка параметров нейро-нечеткой системы на основе алгоритма обратного распространения ошибки.
3.3. Применение генетического алгоритма для оптимизации параметров нейро-нечеткой системы.
Выводы третьей главы.
ГЛАВА 4. АНАЛИЗ ЭФФЕКТИВНОСТИ РАЗРАБОТАННЫХ МОДЕЛЕЙ И АЛГОРИТМОВ ПО РЕЗУЛЬТАТАМ ПРАКТИЧЕСКОГО ВНЕДРЕНИЯ.
4.1. Структура программно-методического комплекса обработки экспериментальной и экспертной информации.
4.2. Оценка эффективности комплекса при дифференциальной диагностике легочных заболеваний у детей.
Выводы четвертой главы.
Введение 2004 год, диссертация по информатике, вычислительной технике и управлению, Дьяченко, Денис Евгеньевич
Актуальность темы. В последние годы бурное развитие компьютерных технологий, растущая важность проблем интеллектуализации принятия решений обусловили неослабеваемый спрос на новые информационные технологии. В этой связи одним из важнейших направлений является разработка систем экспертной диагностики, практически пригодных для использования в различных областях.
Экспертные системы оперируют знаниями в определенных предметных областях с целью выработки рекомендаций или решения проблем. Экспертно-диагностические системы понимаются как экспертные системы, позволяющие строить и проверять гипотезы, то есть проводить диагностику. Такого рода системы уже достаточно давно применяются на практике, однако в большинстве случаев они не обладают необходимой гибкостью и являются изолированными, функционируя в рамках замкнутого вычислительного комплекса и/или используя узкоспециальные алгоритмы.
Исходя из этого, разработка экспертно-диагностической системы, которая обладала бы достаточной: гибкостью в настройке и применении к широкому классу прикладных задач, а также имеющей возможность реализации алгоритмов такой системы, как в масштабах отдельной интеллектуальной системы, так и в рамках подсистемы с открытой архитектурой является актуальной задачей, представляющей научный интерес.
Таким образом, актуальность темы определяется необходимостью создания моделей; алгоритмов? и программных средств, позволяющих повысить эффективность решения прикладных задач экспертной диагностики в различных сферах человеческой деятельности.
Работа выполнена в рамках НИР ГБ 01.04 «Интеллектуализация принятия решений в автоматизированных и информационных системах» в соответствии с основным научным направлением Воронежского государственного технического университета «Проблемно-ориентированные системы управления».
Цель и задачи исследования. Целью работы является разработка комплекса моделей, алгоритмов и программных средств, позволяющих повысить эффективность решения задач экспертной диагностики! путем интеграции методов обработки экспериментальной информации, аппарата нейронных сетей и нечеткой логики применительно к задачам медицинской диагностики.
Для достижения поставленной цели необходимо решить следующие задачи:
1. Осуществить анализ современных подходов интеллектуализации экспертно-диагностического процесса.
2. Провести визуальное моделирование экспериментальной информации на основе методов математической статистики.
3. Разработать структуру адаптивной экспертной системы, способной работать как со слабо структурированной информацией, так и в условиях неполноты и зашумленности данных.
4: Разработать алгоритмические методы настройки и функционирования экспертно-диагностической системы.
5. Разработать структуру и создать программно-методический комплекс, реализующий алгоритм построения и работы адаптивной экспертной системы.
6. Осуществить анализ эффективности применения разработанного комплекса моделей, алгоритмов и программного комплекса применительно к задачам медицинской диагностики.
Методы исследования. В работе использованы методы математического моделирования, математической статистики, теории искусственных нейронных сетей, теории нечеткой логики, теории оптимизации, вычислительных экспериментов, объектно-ориентированного программирования.
Научная новизна. В работе получены следующие основные результаты, характеризующиеся научной новизной:
• процедура визуализации результатов комплексного обследования при диффузных обструктивных бронхолегочных заболеваниях у детей, позволяющая на основе методов математической статистики повысить эффективность оценки экспертом степени взаимосвязи между лабораторными и функциональными показателями в процессе дифференциальной диагностики;
• структура нейро-нечеткой экспертной системы продукционного типа, отличающаяся способностью эффективной обработки и представления экспериментальной и экспертной информации;
• алгоритмы идентификации и оптимизации параметров нейро-нечеткой экспертной системы, позволяющие эффективно настраивать систему, как для задач с поступлением данных в режиме реального времени, так и для задач с заранее определенным набором данных;
• математическое обеспечение экспертной системы дифференциальной диагностики на базе комплексного кристаллографического исследования, отличающееся ориентацией на возможность эффективной обработки информации при использовании в качестве прогностической модели нейро-нечеткой многослойной сети.
Практическая значимость работы. Практическая значимость работы заключается в создании специального программного обеспечения, реализующего работу системы экспертной диагностики, основанной на аппарате продукционных экспертных систем с применением аппарата нейронных сетей и нечеткой логики.
Предложенный в работе подход к построению экспертной системы позволяет адаптировать программный комплекс к широкому кругу задач диагностики, прогнозирования, аппроксимации.
Используемый при разработке программного обеспечения объектно-ориентированный подход, а также полная открытость системы дают возможность доработки, надстройки и интеграции ее с другими системами. Кроме того, реализация комплекса на базе платформы Microsoft .NET Framework позволяет использовать его при реализации удаленных и распределенных систем.
Реализация результатов работы. Разработанный комплекс моделей; алгоритмов и программных средств позволил создать и внедрить систему дифференциальной диагностики легочных заболеваний в Воронежском областном клиническом диагностическом центре.
Результаты исследования в виде программно-методического комплекса используются в учебном процессе Воронежского государственного технического университета при обучении студентов специальности 230201 «Информационные системы и: технологии» по курсу «Нейросетевые технологии».
Апробация работы. Основные положения диссертации докладывались и обсуждались на Всероссийской конференции "Интеллектуализация управления в социальных и экономических системах" (Воронеж, 2002-2003), Международной научно-технической конференции "XI Бенардосовские чтения" (Иваново, 2003), ежегодном научно-методическом семинаре кафедры систем автоматизированного проектирования и информационных систем Воронежского государственного технического университета (2004).
Публикации. По результатам исследования опубликовано 10 печатных работ. В [54] рассмотрена актуальность применения гибридных экспертных систем в диагностических целях; в [73] приводятся результаты визуального моделирования экспериментальной! информации на основе методов математической статистики; в [53] автором предложена структура нейро-нечеткой экспертной системы; в [52] предлагается использование генетического алгоритма для настройки параметров нейро-нечеткой системы; в [28, 29, 57, 74] рассматривается применение нейро-нечеткой экспертной системы для решения практических задач медицинской диагностики, а в [55, 56] изложены предложения по использованию нейронных сетей в диагностических задачах.
Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, библиографического списка из 139 наименований, приложений. Основная часть работы изложена на 105 листах машинописного текста, содержит 65 рисунков, 17 таблиц.
Заключение диссертация на тему "Интеллектуализация экспертно-диагностического процесса на основе нейросетевого моделирования и нечеткой логики"
8. Результаты исследования внедрены в учебный процесс Воронежского государственного технического университета (программно-методический комплекс, используемый при обучении студентов по курсу «Нейросетевые технологии») и в клиническую практику в Воронежском областном клиническом диагностическом центре (система дифференциальной диагностики бронхолегочных заболеваний у детей).
106
Заключение
Задачи принятия решений всегда являлись одними из важнейших во всех сферах человеческой деятельности. Этим и обусловлено широкое распространение проблемы формализации и решения таких задач, особенно в эпоху бурного развития компьютерных технологий. В частности, одним из эффективных подходов в данной проблематике является использование экспертных систем. Тем не менее, построение таких систем связано с рядом трудностей, которые выражаются в следующих требованиях: эффективная обработка информации, удобное представление знаний, адаптивность в настройке и работе. Решению данных проблем может способствовать сочетание перспективных технологий интеллектуальной обработки данных и принятия решений - нечетких экспертных систем, нейронных сетей; гибридных алгоритмов оптимизации. Поэтому разработка экспертной системы, которая! в определенной степени удовлетворяла бы приведенным выше условиям, а также могла применяться к широкому классу прикладных задач и обладала открытой архитектурой программной реализации, представляется актуальной проблемой. В рамках решения данной задачи были получены следующие основные результаты:
1. Проведен анализ современных подходов интеллектуализации экспертно-диагностического процесса, рассмотрены перспективы применения математических и интеллектуальных методов обработки экспериментальной и экспертной информации.
2. Проведено визуальное моделирование результатов комплексного обследования при, дифференциальной диагностике диффузных обструктивных бронхолегочных заболеваний у детей на основе методов математической статистики.
3. Разработана структура адаптивной экспертной системы с использованием аппарата нейронных сетей и нечеткой логики, что позволяет работать как со слабо структурированной информацией, так и в условиях неполноты и зашумленности данных.
4. Разработаны алгоритмические методы функционирования нейро-нечеткой экспертной системы.
5. Для оптимизации параметров системы предложено использование генетического алгоритма и модификация алгоритма обратного распространения ошибки для использования градиентной процедуры.
6. Разработана структура и создан программно-методический комплекс, реализующий алгоритм построения и работы адаптивной экспертной системы.
7. Осуществлен анализ эффективности применения разработанного комплекса моделей, алгоритмов и программного комплекса к задаче дифференциальной диагностики диффузных обструктивных бронхолегочных заболеваний у детей.
Библиография Дьяченко, Денис Евгеньевич, диссертация по теме Системный анализ, управление и обработка информации (по отраслям)
1. Аведьян Э.Д. Алгоритмы настройки многослойных нейронных сетей // Автоматика и телемеханика. 1995. - №4. - С. 106-118.
2. Аверкин А.Н. и др. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д.А. Поспелова. М.: Наука, 1986. -312 с.
3. Аверкин А.Н., Батыршин И.З. Мягкие вычисления // Новости искусственного интеллекта. 1996. № 3. С. 161-164.
4. Айвазян С. А., Енюков И.С., Мешалкин Л.Д. Прикладная статистика: исследование зависимостей. М.: Финансы и статистика, 1985. -488 с.
5. Айвазян С.А., Бухштабер В.М., Енюков И.С., Мешалкин Л.Д. Прикладная статистика: классификация и снижение размерности. М.: Финансы и статистика, 1989. - 607 с.
6. Батищев Д.И., Исаев С.А. Оптимизация многоэкстремальных: функций с помощью генетических алгоритмов // Высокие технологии в технике, медицине, экологии и образовании: Межвуз. сб. науч. тр. Воронеж: ВГТУ, 1997.- 4.1. -С. 4-17.
7. Батыршин И.З. Методы представления и обработки нечеткой информации в интеллектуальных системах // Новости искусственного интеллекта. 1996. № 2. С. 9-65.
8. Батыршин И.З. Теория нечеткости в распознавании образов и анализе структуры систем // Модели выбора альтернатив в нечеткой среде:
9. Тез. докл. Межреспубликанской научной конференции. Рига, 1984. -С. 105-109.
10. Блишун А.Ф., Знатнов С.Ю. Обоснование операций теории нечетких множеств. В кн.: Нетрадиционные модели и системы с нечеткими знаниями. М.: Энергоатомиздат, 1991. - С. 21-33.
11. Божич В.П., Лебедев О.Б., Шницер Ю.Л. Разработка генетического алгоритма обучения нейронных сетей // Таганрог: Перспективные информационные технологии и интеллектуальные системы. — 2002. — №1. С. 21-24.
12. Борисов А.Н. Обработка нечеткой информации в системах принятия решений. М.: Радио и связь, 1989. — 304 с.
13. Борисов А.Н., Глушков В.И. Использование нечеткой информации в экспертных системах // Новости искусственного интеллекта. № 3. 1991. -С. 13-41.
14. Буч Г. Объектно-ориентированное проектирование с примерами применения. М.: Конкорд, 1992. 519 с.
15. Васильев В.И., Ильясов Б.Г. Интеллектуальные системы управления с использованием нечеткой логики. Уфа: УГАТУ, 1995. - 80 с.
16. Васильев В.И., Ильясов Б.Г., Валеев С.С., Жернаков G.B. Интеллектуальные системы управления с использованием нейронных сетей. -Уфа: УГАТУ, 1997. 92 с.
17. Вилков Д.В. Алгоритм настройки весовых коэффициентов для многослойного персептрона // Нейроинформатика и ее приложения: Материалы IX Всероссийского семинара. Красноярск: ИПЦ КГТУ, 2001. -С. 33
18. Воеводин В.В. Информационная структура алгоритмов. М. МГУ, 1997. -139 с.
19. Гаврилов A.B. Системы искусственного интеллекта: Учеб. пособие: в 2-х ч. Новосибирск: Изд-во НГТУ, 2001. - Ч. 1. - 67 с.
20. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. СпБ, Питер, 2000. - 384 с.
21. Гаврилова Т.А., Червинская K.P. Извлечение и структурирование знаний для экспертных систем. М.: Радио и связь, 1992. - 200 с.
22. Галушкин А.И; Теория нейронных сетей.: Учеб; пособие для вузов / Общая ред. Галушкина А.И. М.: ИПРЖР, 2000. - 416 с.
23. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности. / Вороновский Г.К., Махотило К.В., Петрашев G.H., Сергеев С.П. Харьков: Основа. - 1997. - 112с.
24. Гланц С. Медико-биологическая статистика: Пер. с англ. -М.: Практика, 1999;- 459 с.
25. Горбань А.Н. Обучение нейронных сетей. М.: изд. СССР-США. СП «Параграф», 1990. - 160 с.26: Горбань А.Н.,, Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука, 1996. - 276 с.
26. Джексон П. Введение: в экспертные системы. — М., СпБ., Киев: «Вильяме», 2001. 622 с.
27. Дьяченко Д.Е., Львович Я.Е., Постникова И.В. Динамическое, кристаллографическое исследование слюны при муковисцидозе у детей // Вестник новых медицинских технологий. 2004: - Т.Х. - №1-2. - С. 123-125.
28. Дьяченко Д.Е., Львович Я.Е;, Постникова И.В. Динамическое кристаллографическое исследование, экспирата при бронхиальной астме у детей // Вестник новых медицинских технологий. 2004. - Т.Х. - №1-2. - С. 120-122.
29. Ежкова И.В. Можно ли построить универсальную экспертную систему? // Программные продукты и системы. 1991. № 2. С. 19-29.
30. Заде Л. Понятие лингвистической переменной и его применение к принятию приближенных решений. М.: Мир, 1976. - 165 с.
31. Заде Л.А. Размытые множества и их применение в распознавании образов и кластер-анализе. В кн.: Классификация и кластер / Под ред. Дж. Вэн Райзина. - М: Мир, 1980. - С. 208-247.
32. Заде Л.А. Роль мягких вычислений и нечеткой логики в понимании, конструировании и развитии информационных интеллектуальных систем. Новости искусственного интеллекта № 2-3 01. — М.: МЭИ (ТУ), кафедра прикладной информатики, 2001. С. 7-11.
33. Заенцев И:В. Нейронные сети: основные модели / Учебное пособие. — Воронеж: ВГУ, 1999. 76 с.
34. Зацепина С.А., Львович Я.Е., Фролов М.В. Управление в биотехнических и медицинских системах / Под ред. Академика АЕН В.Н. Фролова: Учебное пособие, ВГТУ, МУВТ. Воронеж, 1994. - 145 с.
35. Ивахненко А.Г. Долгосрочное прогнозирование и управление сложными системами. К.: Техника. 1975. - 312 с.
36. Каллан Р. Основные концепции нейронных сетей. : Пер. с англ. -М.: Издательский дом «Вильяме», 2001. 288 с.
37. Кандрашина Е.Ю., Литвинцева А.В., Поспелов Д.А. Представление знаний о времени и пространстве в интеллектуальных системах. М;: Наука, 1989.-328 с.
38. Каплинский А.И., Руссман И.Б., Умывакин В.М. Моделирование и алгоритмизация слабоформализованных задач выбора наилучших вариантов систем. Воронеж: Изд-во ВГУ, 1990. - 168 с.
39. Классификация и кластер / Под ред. Дж. Вэн Райзина. М: Мир, 1980.-389 с.
40. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного. Докл. АН СССР. 1957. Т. 114. №. 5. С. 953-956.
41. Комашинский В.И., Мирнов Д.А. Нейронные сети и их применение в системах управления и связи. — М.: Горячая линия-Телеком, 2002. — 94 с.
42. Корнеев В.В., Гарев А.Ф., Васютин C.B., Райх В.В. Базы данных. Интеллектуальная обработка информации. М.: «Нолидж», 2000. - 352 с.
43. Кофман А. Введение в теорию нечетких множеств. М.: Радио и связь, 1982.-432 с.
44. КругловВ.В., Дли М.И., Голунов Р.Ю. Нечеткая логика и искусственные нейронные сети: учеб. пособие. М.: Физматлит, 2001. -224 с.
45. Куликов Г.Г., Брейкин Т.В., Арьков В.Ю. Интеллектуальные информационные системы : Учебное пособие. Уфа: УГАТУ, 1999. - 129 с.
46. Курейчик В.В. Эволюционные методы принятия решений с синергетическими и гомеостатическими принципами управления // Таганрог: Перспективные информационные технологии и интеллектуальные системы. — 2002.-№1. С. 6-10.
47. Курейчик В.В., Курейчик В.М. Некоторые вопросы теории эволюционного моделирования // Труды Международных конференций «Искусственные интеллектуальные системы» (IEEE AIS'02) и «Интеллектуальные САПР» (CAD'02). M.: Физматлит, 2002. - С. 7-19.
48. Ларичев О.И., Мечитов А.И., Мошкович Е.М., Фуремс Е.М. Выявление экспертных знаний. М.: Наука, 1989. — 128 с.
49. Литвак Б.Г. Экспертная информация. Методы получения и анализа. М.: Радио и связь, 1982. - 184 с.
50. Лорьер Ж.-Л. Системы искусственного интеллекта. М: Мир, 1991.-341 с.
51. Львович Я.Е., Дьяченко Д.Е. Генетический алгоритм для оптимизации параметров Neuro-Fuzzy систем // Интеллектуализация управления в социальных и экономических системах: Тр. Всерос. конф. Воронеж: ВГТУ, 2003. С. 31-35.
52. Львович Я.Е., Дьяченко Д.Е. Использование нейро-нечеткой технологии в экспертной диагностике // Вестн. ВГТУ. Сер. "САПР и системы автоматизации производства". 2002. Вып. 3.2. - С. 14-16.
53. Львович Я.Е., Дьяченко Д.Е. Использование Neuro-Fuzzy технологии в экспертной диагностике // Интеллектуализация управления в социальных и экономических системах: Тр. Всерос. конф. Воронеж: ВГТУ, 2002. С. 23.
54. Львович Я.Е., Постникова И.В., Дьяченко Д.Е. Нейро-нечеткая экспертная система дифференциальной диагностики легочных заболеваний // Тез. докл. междунар. научно-технич. конференции "XI Бенардосовские чтения" / ИГЭУ. Иваново, 2003. - С. 97.
55. Любарский Ю.Я. Интеллектуальные информационные системы. -М.: Наука, 1990.-232 с.
56. Маковский В.А., Похлебаев В.И. Базы знаний (экспертные системы). — М.: Изд-во стандартов, 1993. 37 с.
57. Малышев Н.Г., Берштейн Л.С., Боженюк А.В. Нечеткие модели для экспертных систем в САПР. М.: Энергоатомиздат, 1991. - 134 с.
58. Мандель И.Д. Кластерный анализ. М.: Финансы и статистика, 1988.- 176 с.
59. Мелихов А.Н., Берштейн Л.С., Коровин С .Я. Ситуационные советующие системы с нечеткой логикой. М.: Наука, 1990. - 272 с.
60. Миркин Б.Г. Анализ качественных признаков и структур. М.: Статистика, 1980. - 319 с.
61. Нейроинформатика / А.Н. Горбань, В.Л. Дунин-Барковский, А.Н. Кирдин и др. Новосибирск: Наука. Сибирское предприятие РАН, 1998. -296 с.
62. Нечеткие множества и теория возможностей. / Под ред. Р. Ягера. -М.: Радио и связь, 1986.-408 с.
63. Осипов Г.Н. Информационные технологии, основанные на знаниях // Ж. Новости искусственного интеллекта, 1993, №1, С. 7-41.
64. Осипов Г.С. Приобретение знаний интеллектуальными системами: Основы теории и технологии М.: Наука. Физматлит, 1997. - 112 с.
65. Полевой НЛО. Методика построения набора входных параметров для нейросетевых моделей в области медицины // Интеллектуальные информационные системы: тр. Всеросс. конф. Ч. 2. Воронеж: ВГТУ, 1999.' С. 21-22.
66. Попов Э.В. Экспертные системы: М.: Наука, 1988. - 288 с.
67. Поспелов Д.А. Ситуационное управление: Теория и практика. М.: Наука, 1986.-284 с.
68. Поспелов Г.С. Искусственный интеллект основа новой информационной технологии. - М.:Наука,1988. - 212 с.
69. Поспелов Д.А. Моделирование рассуждений. Опыт анализа мыслительных актов. М.: Радио и связь, 1989.-182 с.
70. Постникова И.В., Дьяченко Д.Е. Визуализация результатов комплексного обследования при бронхиальной астме у детей // Высокие технологии в технике, медицине, экологии и образовании: Межвуз. сб. науч. тр. Воронеж: ВГТУ, 2003. 4.1. - С. 100-104.
71. Постникова И.В., Дьяченко Д.Е. Построение нейро-нечеткой экспертной системы для диагностики обструктивного бронхита у детей // Высокие технологии в технике, медицине, экологии и образовании: Межвуз. сб. науч. тр. Воронеж: ВГТУ, 2003. 4.1. - С. 195-198.
72. Построение экспертных систем. / Под ред. Ф. Хейес-Рота, Д. Уотермена, Д. Лената. М.: Мир, 1987. - 441 с.
73. Представление и использование знаний / Под ред. X. Уэно, М. Исидзука. М.: Мир, 1989. - 220 с.
74. Прикладные нечеткие системы / К. Асаи, Д. Ватада, С. Иваи и др. / Под ред. Т. Тэрано, К. Асаи, М. Сугено. М;: Мир, 1993. - 368 с.
75. Приобретение знаний / Под ред. С. Осуги, Ю. Саэки. М.:;Мир, 1990.-304 с.
76. Родзин С.И. Гибридные интеллектуальные системы // Ж. Новости искусственного интеллекта, 1999, №3.
77. Розенблат Ф. Аналитические методы изучений нейронных сетей // Зарубежная электроника, 1965. -№ 5. С. 40-50.
78. РозенблатФ. Принципы нейродинамики. М.:Мир, 1965. - 302 с.
79. Ротштейн А.П. Интеллектуальные технологии идентификации: нечеткая логика, генетические алгоритмы, нейронные сети. Винница: УНИВЕРСУМ Винница, 1999. - 320 с.
80. Ротштейн А.П., Митюшкин Ю.И. Извлечение нечетких баз знаний из экспериментальных данных с помощью генетических алгоритмов // Кибернетика и системный анализ. 2001. - №4. - С. 45-53.
81. Ротштейн А.П., Штовба С.Д. Влияние методов деффазификации на скорость настройки нечеткой модели // Кибернетика и системный анализ. -2002.-№5.-С. 169-176.
82. Рыбина Г.В. Технология проектирования прикладных экспертных систем. М.: МИФИ, 1991. - 104 с.
83. Рыжов А.П. Степень нечеткости лингвистической шкалы и ее свойства: Нечеткие системы поддержки принятия решений. Калинин: Изд-воКГУ, 1989.-С. 82-92.
84. Рыжов А.П., Аверкин А.Н. Аксиоматическое определение степени нечеткости лингвистической шкалы и ее основные свойства // Искусственный интеллект 90. Т. 1: II Всесоюзная конференция. - Минск, 1990. - С. 162 -165.
85. Статические и динамические экспертные системы : Учебное пособие / Э.В. Попов, И.Б. Фоминых, Е.Б. Кисель, М.Д. Шапот. М.: Финансы и статистика, 1996. - 320 с.
86. Ту Дж., Гонсалес Р. Принципы распознавания образов: Пер. с англ. М.: Мир, 1978.-410 с.
87. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. М.: Мир, 1992.-184 с.
88. Уотермен Д. Руководство по экспертным системам. — М.: Мир, 1989.-388 с.
89. Усков А.А., Круглов В.В. Интеллектуальные системы управления на основе методов нечеткой логики. Смоленск: Смоленская городская типография, 2003.-177 с.
90. Ярушкина Н.Г. Гибридные системы, основанные на мягких вычислениях: определение, архитектура, теоретические возможности и опыт практического использования // Программные продукты и системы, №3,2002. -С. 19-22:
91. Ярушкина Н.Г. Нечеткие нейронные сети. // Новости искусственного интеллекта, 2001, №2-3. М.: МЭИ (ТУ), кафедра прикладной информатики, 2001. - С. 47-51.
92. Abe S., Lan M.-S., Thawonmas R. Tuning of a fuzzy classifier derived from data. Int. J. Of Approx. Reasoning, 14, 1996, 1 - 24.
93. Abraham A. Neuro-fuzzy systems: state-of-the-art modeling techniques. In Proceedings of the 6th International Work-Conference on Artificial and Natural Neural Networks (IWAIVN 2001), Granada, Spain 2001 ;2001: 26976.
94. Abraham A., Nath B., A Neuro-Fuzzy Approach for Forecasting Electricity Demand in Victoria, Applied Soft Computing Journal, Elsevier Science, Volume 1/2, 2001, pp. 127-138.
95. Burke D.S., De Jong, K.A., Grefenstette J.J., Ramsey C.S. and Wu A.S. (1998). "Putting More Genetics into Genetic Algorithms". In D. Whitley (Ed.), Evolutionary Computation, volume 6, issue 4, pp. 387-410. MIT Press.
96. C.T. Lin and C.S.G. Lee, "Neural-network-based fuzzy logic control: systems", IEEE Trans. Comput., vol. 40, pp. 1320-1336, Dec: 1991.
97. Gordon O., Herrera F., Peregrin A. Applicability of the fuzzy operators in the design of fuzzy logic controllers. Fuzzy Sets and Systems, 86, 1997, 15 -41.
98. De Jong, K. (1975). "Analysis of the Behaviour of a Class of Genetic Adaptive Systems". PhD Thesis, University of Michigan.
99. De Oliveira J.V., "On the optimization of fuzzy systems using bio-inspired strategies," in Proc. IEEE Int. Conf. Fuzzy Syst., Anchorage, AK, May 1998, pp. 1129-1134.
100. Goldberg D., Genetic Algorithms in Search, Optimization and Machine Learning. New York: Addison-Wesley, 1989.
101. Hasegawa T., Horikawa S.I., Furuhashi T., Uchikawa Y. On design of adaptive fuzzy controller using fuzzy neural networks and a description of its dynamical behavior. Fuzzy Sets and Systems, 71, 1995, 3 - 23.
102. Holland, J. H. (1975). "Adaptation in natural and artificial systems". Ann Arbor, MI: University of Michigan Press.
103. Hong T.P., Lee C.Y. Induction of rules and membership functions from training examples. Fuzzy Sets and Systems, 84, 1996,33 - 47.
104. Horikawa S.I., Furuhashi T., Okuma S., Uchikawa Y. A fuzzy controller using a neural network and its capability to learn expert's control rules, in: Proceedings of the Int. Conf. On Fuzzy Logic & Neural Networks, Iizuka, Japan, 1990,103 -106.
105. Jang J.S.R. ANFIS: Adaptive-Network-Based Fuzzy Inference System. IEEE Trans. SMC, 23, 3, 1993, 665 - 685.
106. Jang R. 1992. Neuro-Fuzzy Modeling: Architectures, Analyses and Applications. PhD Thesis, University of California, Berkeley, USA.
107. Jin Y., von Seelen W., Sendhoff B., "On generating flexible, complete, consistent and compact fuzzy rule systems from data using evolution strategies», IEEE Trans. Syst., Man, Cybern. Part B, vol; 29, pp. 829-845, Dec. 1999.
108. Karr C.L., Gentry E.J; Fuzzy control of pH using genetic algorithms. -IEEE Trans. On Fuzzy Systems, 1, 1, 1993,46 53.
109. Kasabov N. 2001. On-line learning, reasoning, rule extraction and aggregation in locally optimised evolving fuzzy neural networks. Neurocomputing, 41:25-45.
110. Kasabov N. Fuzzy Neural Networks, Rule Extraction and Fuzzy Synergistic Reasoning Systems. Research and Information Systems, 8:45-59, 1998.
111. Klawonn F., Nauck D., Kruse R. Generating rules from data by fuzzy and neuro-fuzzy methods, in: Proceedings of the Third German GI-Workshop «Fuzzy-Neuro-Systeme'95», Darmstadt, Germany, 1995.
112. Klement E.P. Some mathematical! aspects of fuzzy sets: triangular norms, fuzzy logics, and generalized measures. Fuzzy Sets and Systems, 90, 1997, 133 - 140.
113. Kohonen T. The self-organizing maps. Proceedings of the IEEE, vol. 78.; 1990. pp. 1464-1480.
114. Kosko B. Fuzzy Engineering. Prentice-Hall, New Jersey, 1997. 5491. PP
115. Kosko B. Fuzzy systems as universal approximators. IEEE Trans. On Computers, v. 43,11,1329-1333, 1994.
116. Lin C.T. Neural Fuzzy Control Systems with Structure and Parameter Learning. World Scientific, Singapore, 1994. 127 pp.
117. Lin C.T., Lee C.S.G. Neural Fuzzy Systems. Prentice Hall, 1996.
118. Mamdani E.H. and Assilian S., An Experiment in Linguistic Synthesis with a Fuzzy Logic Controller, International Journal of Man-Machine Studies, Vol. 7(1), 1975, pp. 1-13.
119. Nakayama S., Horikawa S.I., Furuhashi T., Uchikawa Y. Knowledge acquisition of strategy and tactics using fuzzy neural networks, in: IJCNN92, Baltimore, 1992,11,751-756.
120. Nauck D. Neuro-Fuzzy Systems: Review And Prospects // Fifth European Congress on Intelligent Techniques and Soft Computing. 1997. - P. 1044-1053.
121. Rumelhart D.E., Hinton G.E., Williams R. J. 1986. Learning internal representations by error propagation. In Parallel distributed processing, vol. 1, pp. 318-62. Cambridge, MA: MIT Press.
122. Shortliffe E. Computer based medical consultations: MYCIN, (American Elsevier, New York, 1976).
123. Sugeno: M. An introductory survey of fuzzy control. Information Sciences, 36,1985,59 - 83;
124. Takagi T., Sugeno M. Fuzzy identification of systems and its applications to modeling and control; IEEE Trans. SMC, 15, No 1, 1985, 116 -132.
125. Wang L., Mendel J.M. Fuzzy basis functions, universal approximation and orthogonal least-squares learning. IEEE Trans, on Neural Networks, v. 3, 5/ 807-814,1992:
126. Wang L.X. and Mendel J., "Generating fuzzy rules by learning from examples», IEEE Trans. Syst., Man, Cybern., vol. 22, pp. 1414-1427, Dec. 1992.
127. Wang L.X. Fuzzy systems are universal approximators, in: Proceedings of the IEEE Int. Conf. On Fuzzy Systems, San Diego, 1992.
128. Wang L.X., Abraham A., Smith K.A. Web traffic mining using a concurrent neuro-fuzzy approach. In Proceedings of the 2nd International
129. Conference on Hybrid Intelligent Systems, Computing Systems: Design, Management and Applications, Santiago, Chile 2002;2002:853-62.
130. Zadeh L.A. Fuzzy algorithms. Information and Control. - 1968. - 12, 94-102.
131. Список используемых сокращений1. ГА генетический алгоритм1. ЭС экспертная система
132. ИНС искусственная нейронная сеть1. НЛ — нечеткая логика1. БА бронхиальная астма1. МВ муковисцидоз
133. ИИ — искусственный интеллект
134. ФП — функция принадлежности1. НМ нечеткое множество
135. АОРО — алгоритм обратного распространения ошибки ИИ искусственный интеллект121
-
Похожие работы
- Методы проектирования систем защиты информации в нейросетевых вычислительных средах
- Формальная модель процессов работы и метод адаптации нейросетевых средств мониторинга безопасности
- Разработка нечеткого нейроконтроллера с применением методов вейвлет-преобразований
- Методология, модели и комплексы программ анализа временных рядов на основе нечетких тенденций
- Нейросетевая экспертная система на основе прецедентов для решения проблем абонентов сотовой сети
-
- Системный анализ, управление и обработка информации (по отраслям)
- Теория систем, теория автоматического регулирования и управления, системный анализ
- Элементы и устройства вычислительной техники и систем управления
- Автоматизация и управление технологическими процессами и производствами (по отраслям)
- Автоматизация технологических процессов и производств (в том числе по отраслям)
- Управление в биологических и медицинских системах (включая применения вычислительной техники)
- Управление в социальных и экономических системах
- Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей
- Системы автоматизации проектирования (по отраслям)
- Телекоммуникационные системы и компьютерные сети
- Системы обработки информации и управления
- Вычислительные машины и системы
- Применение вычислительной техники, математического моделирования и математических методов в научных исследованиях (по отраслям наук)
- Теоретические основы информатики
- Математическое моделирование, численные методы и комплексы программ
- Методы и системы защиты информации, информационная безопасность