автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Модели и алгоритмы интеллектуальных систем поддержки принятия решения на основе каскадной нейро-нечеткой сети

На правах рукописи

БЕЗРУКОВ Николай Сергеевич

МОДЕЛИ И АЛГОРИТМЫ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЯ НА ОСНОВЕ КАСКАДНОЙ НЕЙРО-НЕЧЕТКОЙ СЕТИ

Специальность 05 13 18 - Математическое моделирование, численные методы и комплексы программ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

ии^1ВЭОЭ4

Комсомольск-на-Амуре - 2008

003169094

Работа выполнена в Амурском государственном университете («АмГУ») на кафедре автоматизация производственных процессов и электротехники

Научным руководитель: доктор технических наук, профессор

Еремин Евгений Леонидович

Официальные оппоненты: доктор технических наук, профессор

Амосов Олег Семенович, доктор технических наук, профессор Соловьев Вячеслав Алексеевич

Ведущая организация- Тихоокеанский государственный университет,

г Хабаровск

Защита состоится « 6 » июня 2008 г в 14°° часов на заседании диссертационного совета Д 212 092 03 при Комсомольском-на-Амуре государственном техническом университете (ГОУВПО «КнАГТУ») по адресу 681013, г Комсомольск-на-Амуре, пр Ленина, 27, ГОУВПО «КнАГТУ»

С диссертацией можно ознакомиться в библиотеке ГОУВПО «КнАГТУ»

Автореферат разослан « 29 » апреля 2008 г

Ученый секретарь диссертационного совета, кандидат физико-математических наук

М М Зарубин

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Современное развитие различных областей человеческой деятельности характеризуется ростом в них информационной составляющей, представляющей собой опыт, накопленный при решении конкретных задач в прошлом В настоящее время структура информационной составляющей такова, что получение на ее основе строгой математической модели посредством методов интерполяции или экстраполяции, сводящихся к задаче построения линейных регрессионных уравнений, весьма затруднительно, а в некоторых случаях невозможно В условиях недетерминированной системы (где отсутствует четкая функциональная связь между причиной и следствием) накладываются значительные ограничения на использование распространенных методов системного анализа - например, статистики В таких условиях хорошо зарекомендовали себя интеллектуальные системы, построенные на основе теории нечетких множеств и нейронных сетей Использование интеллектуальных систем оправдывается не только их хорошими аппроксимирующими способностями, но и возможностью построения прозрачных правил вывода решений для эксперта (как, например, в нечеткой логике)

Каждый из методов интеллектуальных систем имеет свои достоинства и недостатки, что в отдельности позволяет с их помощью решать только идеализированные «игровые» задачи, тогда как при решении практических задач принято объединять различные подходы в гибридные интеллектуальные системы Данные подходы можно использовать для построения систем поддержки принятия решений в задачах прогнозирования, классификации, диагностики и т п Как правило, указанные системы проектируются под решения конкретной задачи, с имеющимися в ней частными ограничениями, что зачастую не позволяет использовать их в других задачах Одним из таких ограничений выступает априорная неопределенность фактора полезности того или иного входного признака используемого для предсказания значений выхода, либо когда между данными присутствует корреляция, что не оправдывает использования громоздких нелинейных моделей

В этой связи разработка интеллектуальных систем, которые обладали бы достаточной гибкостью в условиях априорной неопределенности и наличия различных ограничений, является актуальной задачей, представляющей научный интерес

К основным результатам по созданию интеллектуальных систем на основе нечеткой логики и нейронных сетей относятся работы А В Гаврилова, А Н Горбань, Р Ю Годунова, А А Ежова, А Н Кирдина, В В Круглова, Д А Поспелова, С А Терехова, Н Г Ярушкиной, Э Кьюсиака, В Пилиньско-го, J1 Рутковского, L A Zadeh, F Rosenblatt, Т Tagagi, М Sugeno, Е Н Мат-dani, а также вклад в теорию информации внесли работы К Э Шеннона, А Н Колмогорова, И М Коган, С М Коротаева, S Haykin, Dongxin Xu

Целью исследования является разработка модели классификации объекта на основе каскадной нейро-нечеткой сети и алгоритмов функционирования интеллектуальных систем поддержки принятия решений В ходе достижения цели решались следующие задачи

- разработка алгоритма нормирования экспериментальных данных,

- разработка алгоритма выделения пространства информативных признаков из экспериментальных данных,

- разработка алгоритма построения модели каскадной нейро-нечеткой сети на основе адаптивной нейро-нечеткой сети по экспериментальным данным,

- разработка модели интеллектуальной системы поддержки принятия решения,

- реализация программных средств обеспечения имитационного моделирования разрабатываемых алгоритмов и моделей для решения задач поддержки принятия решений,

- проведение статистического анализа результатов рэографии, электроэнцефалографии, ультразвуковой допплераграфии и изокапнической гипервентиляции холодным воздухом больных с заболеваниями легких,

- применение полученных теоретических результатов для построения модели имитации принятия решения при диагностике заболеваний легких

При решении этих задач использованы результаты исследований больных с заболеваниями легких, полученных в РАМН СО ГУ Дальневосточный научный центр физиологии и патологии дыхания

Основные методы исследования базируются на математическом аппарате теории нечетких множеств и нейронных сетей, теории вероятностей и математической статистики, теории информации и теории принятия решений, методах вычислительной математики и математического программирования Для практических исследований использована среда «Ма^аЬ»

Достоверность полученных в диссертации результатов подтверждается результатами моделирования предлагаемых алгоритмов, соизмеримостью ошибок обучающей и проверочной выборок в предложенных моделях, сопоставимость с результатами других исследований

Предмет исследования: модели интеллектуальных систем поддержки принятия решения для диагностики заболеваний легких, алгоритмы и комплексы программ

В построенных моделях интеллектуальных систем в качестве диагностических признаков выступают результаты рэографии, электроэнцефалографии, ультразвуковой допплераграфии и изокапнической гипервентиляции холодным воздухом

Научная новизна работы:

- разработана математическая модель каскадной нейро-нечеткой сети,

- разработаны алгоритмы выделения пространства информативных признаков, построения каскадной нейро-нечеткой сети и выделения контрольной и обучающей выборки из экспериментальных данных,

- предложена модель структуры интеллектуальной системы поддержки принятия решения по экспериментальным данным, имеющих различные законы распределения, различные диапазоны изменения, групповую корреляцию и выраженную нелинейность,

- разработан программный комплекс для построения интеллектуальных систем поддержки принятия решения

Научная и практическая значимость работы:

Основные результаты диссертационной работы были получены автором при проведении исследований, выполнявшихся в 2006 - 2007 гг в рамках программы «Системный анализ и моделирование влияния экологических и социальных факторов на здоровье населения Дальневосточного региона на основе применения современных информационных технологий с целью прогнозирования и разработки систем принятия управленческих решений в социальной сфере для обеспечения национальной безопасности», утвержденной постановлением Президиума ДВО РАН №147 от 15 декабря 2005 г

Разработан комплекс инструментальных средств обработки и формализации нечеткой информации, полученной из массива экспериментальных данных, результаты диссертационной работы реализованы в приложении с использованием среды Ма1:1аЬ

На основе полученных результатов реализована автоматизированная система диагностики заболеваний легких по нейрофизиологическим параметрам и результатам изокапнической гипервентиляции холодным воздухом, состоящая из нескольких программ В РАМН СО ГУ Дальневосточный научный центр физиологии и патологии дыхания внедрена и используются в лечебном процессе автоматизированная система диагностики заболеваний легких

Положения, выносимые на защиту:

1 Алгоритм выделения пространства информативных признаков на основе метода независимых компонент с использованием предложенной матрицы смешивания и ограничивающим функционалом, позволяющих уменьшить количество настраиваемых параметров

2 Алгоритм построения модели каскадной нейро-нечеткой сети путем соединения адаптивных нейро-нечетких сетей по функционалу кросс-энтропии

3 Алгоритм выделения контрольной и обучающей выборки из экспериментальных данных с минимальным различием в законах распределения

4 Автоматизированная система диагностики заболеваний легких на основе моделей интеллектуальных систем

Апробация работы. Основные положения и отдельные результаты работы докладывались и обсуждались на научных конференциях XV региональной научно-практической конференции «Молодежь XXI века шаг в будущее» (Благовещенск, 2004 г ), IV Всероссийской научно-технической конференции с международным участием «Энергетика управление, качество и эффективность использования энергоресурсов» (Благовещенск, 2005 г), Международной научной конференции «Математические методы в технике и технологиях - 19» (Воронеж, 2006 г), XIV Всероссийском семинаре «Нейро-информатика и ее приложения» (Красноярск, 2006 г), VII Международной научно-практической конференции «Современная техника и технологии в медицине, биологии и экологии» (Новочеркасск, 2006г ), Научной конференции «Системный анализ в медицине» (Благовещенск, 2007 г), VII Международной научно-практической конференции «Моделирование Теория, методы и средства» (Новочеркасск, 2007 г), Международной научной конференции «Математические методы в технике и технологиях - 20» (Ярославль, 2007 г), XV Всероссийском семинаре «Нейроинформатика и ее приложения» (Красноярск, 2007г)

По результатам работы получен патент РФ № 2316999 «Способ диагностики бронхиальной астмы»

Публикации. Содержание диссертации отражено в 20 публикациях, приведенных в конце автореферата В числе основных - 10 статьей, из них 4 опубликовано в ведущих рецензируемых журналах

В работах, опубликованных в соавторстве, автору принадлежат следующие научные и практические результаты в [2, 4, 16, 18] - метод решения и алгоритмы функционирования, в [6 - 9] - текст программы, в [12] - постановка задачи, построение алгоритма нормирования данных, в [11] - постановка задачи, построение алгоритма создания каскадной нейро-нечеткой сети, в [1, 3,13, 15, 18] - постановка задачи, построение системы диагностики

Основные результаты работы, полученные автором самостоятельно и опубликованные без соавторства - [5, 14, 17, 19, 20]

Структура и объем работы. Диссертационная работа состоит из введения, четырех глав, заключения, списка цитируемой литературы и приложений Работа изложена на 124 страницах основного текста и 27 приложения, содержит 35 рисунков, 137 наименования библиографических источников

Автор выражает искреннюю благодарность за помощь в реализации практической части диссертационной работы сотрудникам лаборатории функциональных методов исследования дыхательной системы при РАМН СО ГУ Дальневосточный научный центр физиологии и патологии дыхания и ее руководителю - доктору медицинских наук, профессору Ю М Перельману

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы, характеризуются научная новизна и методы исследования, приводятся основные теоретические и практические результаты, формулируются выносящиеся на защиту положения, цели и задачи диссертационного исследования

В первой главе дана характеристика проблемы создания интеллектуальных систем поддержки принятия решения посредством теории информации, математической статистики и адаптивных нейро-нечетких сетей Излагаются общие принципы разработки таких систем и выделяются этапы проектирования во-первых, данные приводятся к форме, пригодной для применения нейротехнологий, для этого определяется четкий набор параметров, позволяющих решать стоящую задачу, а затем данные представляются в виде прямоугольной таблицы, где каждая запись является отдельным объектом, а каждое поле -признаком всех исследуемых объектов, во-вторых, предварительно обрабатываются входящие в прямоугольную таблицу данные, так как они могут быть в разных форматах, а также могут быть неполными или избыточными, в-третьих, по полученным данным, применяя методы нейро-нечетких технологий, определяется структура интеллектуальной системы, в-четвертых, система обучается и верифицируется, путем разбивки имеющихся данных на обучающую и контрольную выборки, в-пятых, создается алгоритм интерпретации полученных знаний человеком от интеллектуальной системы В конце главы формулируется задача диссертационной работы Во второй главе рассматривается алгоритмы нормировки данных и выделения информативных признаков

Алгоритм нормировки дачных осуществляет преобразование множества

А" = [х,,х2, ,хр] (1)

во множество

г = [--„.-,, ,--,,] (2)

с диапазоном изменения (-1, 1) и равномерным законом распределения по следующим шагам

Шаг 1 Задается К = 1 и определяется среднее значение и стандартное отклонение для множества (1)

о)

р

С7 = -Х(х,~х)2, (4) р,=1 _

гдер - количество данных, х - входная переменная, при / = 1 р, х - среднее значение, о - стандартное отклонение входной переменной Шаг 2 Определяется множество (2) по функции

= 2/(1 + ехр[- К(х1 - а )/<т])- 1, (5)

где А - настраиваемый коэффициент, г - преобразованная переменная

Шаг 3 Определяется энтропия полученного множества по функционалу

Л

//(/) = -Х/'Д-Ном/'Д--), (6)

/ 1

где Л - количество вариант в вариационном ряде, /'(г) = сг /я - частота встречаемости множества Z в варианте а (я - количество данных в варианте. а - общее количество данных)

Шаг 4 Наращивается значение коэффициента Л. = К + 0,01, и пересчи-тываются шаги 2 и 3 до тех пор, пока функционал (6) растет

Принадлежность преобразованного множества диапазону (-1, 1) гарантируется функцией (5). а равномерность закона распределения обеспечивается поиском коэффициента К по функционалу (6)

Ачгорити выдечения информативных признаков осуществляет выделение информативной составляющей из признаков позволяющих определить класс объекта

V, = [*,,г,. ,\,],.при 1 = 1 р, (7)

где р - количество данных, п - количество признаков, позволяющих определить класс объекта»

Работа алгоритма реализуется в виде следующих шагов Шаг 1 Формируются группы из признаков, которые имеют линейную зависимость (коэффициент корреляции между ними более 0.7)

х,=К у]'. (8)

Ч, =1Т1 Ч„]' •

где /; = А, +А, + +кт

Шаг 2 Для выделенных групп формируется уравнение смешивания, где значения матрицы смешивания II - случайные величины в диапазоне [I I]

Ч: "'и, 0 0 0 0 V

= 0 0 0 0

.V 0 0 0 0 »„1 .V

или Л = II \ (9)

где II - матрица смешивания. Л - независимые ненаблюдаемые признаки. \ - зависимые наблюдаемые признаки

Шаг 3 Определяется независимые ненаблюдаемые признаки по уравнению (9)

Шаг 4 Для полученных независимых ненаблюдаемых признаков определяется функционал

л,.г) = 1о§(\(/\ч )->пшх, (10)

где \ ( - количество клеток, в которых одновременно содержатся точки с координатами \п- количество клеток, в которых одновременно содержатся точки обоих классов с координатами ()

Шаг 5 Производится приращение к значениям матрицы смешивания 11 я< =,|/1 к ±00' в сторону максимума функционала (10), и пересчитывают-

ся шаги 3 и 4 до тех пор, пока функционал (10) растет

Шаг 6 Находятся значения независимых наблюдаемых признаков по уравнению (9) для найденной матрицы смешивания

Предложенный алгоритм основывается на методе независимых компонент и отличается от него тем, что матрица смешивания в уравнении (9) позволяет значительно сократить первоначальное количество признаков, а функционал (10) - не потерять информативность признаков

В третьей главе предлагаются алгоритмы построения модели каскадной нейро-нечеткой сети и выделения контрольной и обучающей выборки 11горит и построения каскадной нейро-нечеткой сети Алгоритм позволяет по внешним признакам, записанным в численной форме, и принимаемого решения, закодированного двумя числами

.1, = .*„],."/>" ' = • Р- ' С)

где V/ д.- .V,, - внешних признаки в форме векторов-столбцов длинной р х/в/3, \: еО:, \„еП„ г - принимаемое решение в форме вектора-столбца

ДЛИННОЙ/? \ £)'-1 II

построить модель каскадной нейро-нечеткой сети позволяющей классифицировать объект

Работа алгоритма реализуется в виде следующих шагов Шаг I Определяется показатель эффективного размера адаптивной нейро-нечеткой сети для определенного размера данных

р = [2'/(4с/ 1(1, (12)

где р- количество обучающих примеров, с1- размер вектора подаваемого на вход адаптивной нейро-нечеткой сети

Шаг 2 Определяется структура каскадной нейро-нечеткой сети, состоящая из узлов и слоев по системе (13) до момента, пока /, <0 и тк = 1

/», = (///„ -/,)/</ пи = (/я, +/, ~12)/(/

• /н, =(/;/, +/,-/,)/г/ . (13)

"к = («Ч I I )/е/

М =[т1,т2, ,тк],

где к - количество слоев в сети, пц - округленное до меньшего целого числа от деления тк л I с1 , определяющее количество узлов в ¿-слое, к тк - остаток от деления, определяющий количество незадейст-

вованных признаков в к-слое, переходящих на следующий слой, т0 = п

Таким образом, создается сходящая каскадная структура, состоящая из входного (нулевого) слоя с внешними «-признаками и последующих ¿-слоев, каждый слой имеет /и-узлов Выходы узлов слоя образуют внутренние признаки для следующего слоя В качестве узла выступает адаптивная нейро-нечеткая сеть с заданным количеством входов с?

Шаг 3 Дляу-узла /-слоя формируются обучающая группа

у,=[х,,х2, 1 = 1 ко = 1 ш,,1 = 1 р (И)

При формировании групп соблюдаются правила

1) признаки (внешние или внутренние) объединяются в группы по правилу минимума кросс-энтропии, которая считается по формуле

/(*) = 1о8(А^ МГг хХ (15)

где Л^,/^, .N - количество промежутков где присутствует х,,х2, или хл соответственно, ^хихг ,х,, ~ количество клеток в которых содержаться точки с координатами (х, х2 х^)

2) каждый признак (внешние или внутренний) используется только в одной группе и только один раз,

3) признаки (внешние или внутренние), не вошедшие в группу в верхнем слое, участвуют в соревновании на образования группы на нижних слоях,

Шаг 4 у-узел /-слоя обучается на обучающей группе при помощи алгоритма обратного распространения ошибки

Шаг 5 Аналогично шагам 3 и 4 формируются последующие слои, учитывая, что выходы узлов предыдущего слоя являются внутренними признаками и участвуют в формировании обучающих групп для последующих слоев

Шаг 6 Из полученных узлов и слоев строим модель каскадной нейро-нечеткой сети Работа полученной сети оценивается по выходу последнего слоя

Алгоритм выделения контрольной и обучающей выборки Алгоритм осуществляет деление на основе критерия Хи-квадрат выборки Я с и-мерным пространством признаков и с т классами на выборки Л и В так, чтобы различия в распределениях признаков для каждого класса в выборках А и В были минимальны

Значение критерия для одного признака и одного класса принимает вид

х,„„ =Х!Е[(Л/-Р/)/.Р/]2> прчу = 1 л (16)

1ч=1 /=1

где i - количество выборок (А и В), рк/ - фактическая частота по выборкам

(I и В), Pj - частота по выборке R

Тогда выборку R делят на выборки I и В так, чтобы функционал был минимален

п tri

Е5>™, min 07)

k=i /=1

где т - количество классов в выборке R, п - количество признаков Работу алгоритма можно представить в виде следующих шагов Шаг 1 Из выборки R переносим такой пример в выборку А, чтобы у получившихся выборок, / и R функционал (17) был минимален

Шаг 2 Из выборки R переносим такой пример в выборку В, чтобы у получившихся выборок А и В функционал (17) был минимален

Шаг 3 Из выборки R переносим такой пример в выборку А, чтобы у получившихся выборок Л и В функционал (17) был минимален

Шаг 4 Если в выборке R есть примеры, то возвращаемся на шаг 2, иначе заканчиваем деление

В четвертой главе предлагается (рис 1) базовая модель системы поддержки принятия решения (СППР), позволяющая решать следующие задачи

создавать интеллектуальные системы поддержки принятия решений для соответствующей предметной области,

осуществлять интеллектуальную поддержку принимаемых решений

Рис 1 Структура системы поддержки принятия решения

Для решения задач в структуре имеется три модуля модуль принятия решения, осуществляющий расчет в рамках поставленной задачи, для чего используются ранее созданные интеллектуальные системы и априорно определенные данные, модуль выработки решения, осуществляющий построение модели интеллектуальных систем по априорно определенным данным, модуль статистических исследований, осуществляющий подтверждение или опровержение гипотез, выдвигаемых экспертом при помощи статистических критериев

Модули работают с базой примеров, где находятся результаты проведенных исследований, и базой моделей, в которой находятся ранее созданные интеллектуальные системы

В главе также предлагается структура построения модели интеллектуальной системы поддержки принятия решений, состоящая из четырех последовательных блоков поиска значимых признаков, нормировки значимых признаков, поиска информативных входов и принятия решения

В блоке поиска значимых признаков данные приводятся к форме, пригодной для применения интеллектуальных технологий Для этого выбирается четкий набор числовых признаков, которые позволяют решать стоящую перед разработчиком задачу Выбор признаков производится автоматизировано для всех признаков рассчитываются статистические критерии, затем эксперт выбирает, основываясь на своем опыте и статистическом расчете, пригодные для принятия решения признаки

В блоке нормировки значимых признаков данные предварительно обрабатываются при помощи алгоритма нормировки данных, тем самым увеличивается информативность данных и создаются условия, для того чтобы сеть трактовала данные единообразно

В блоке поиска информативных входов данные посредством алгоритма выделения информативных признаков значительно сокращаются при этом не теряется информативная составляющая, что позволяет бороться с избыточностью данных

В блоке принятия решения «полезная» по выбранным и преобразованным признакам информация формализуется в каскадной нейро-нечеткой сети при помощи алгоритма построения модели каскадной нейро-нечеткой сети Обучающая и контрольная выборки создаются случайно, либо при помощи алгоритма выделения контрольной и обучающей выборки Данный блок в структуре интеллектуальной системы является основным и если от первых трех в частных задачах можно отказаться (например, если данных мало и они информативны, если данные имеют одинаковый диапазон изменения с законом распределения, близким к нормальному, и если в данных нет явных линейных связей), то в блоке принятия решений создается модель, аппроксимирующая априорно определенную информацию и пригодная для интерпретации априорно неопределенной информации

Предложенная система поддержки принятия решений с разработанными алгоритмами практически реализуются на примере построения автоматизированной системы диагностики заболеваний легких (АСДЗЛ) по результатам исследований, проведенных в ГУ Дальневосточный научный центр физиологии и патологии дыхания СО РАМН В исследовании участвовали больные бронхиальной астмой (БА) с различной степенью тяжести (БА1 - легкая и БА2 -средняя), больные хронической обструктивной болезнью легких (ХОБЛ) и люди не страдающие заболеваниями легких Результатом обследования явились параметры рэографии (РЭГ), электроэнцефалографии (ЭЭГ), ультразву-

ковой допплераграфии (УЗДГ) и изокапнической гипервентиляции холодным воздухом (ИГХВ)

Результаты исследования заносятся в специально разработанный программный комплекс (описанный в приложении П 2 диссертации) Проведенный в программе статистический анализ результатов обследования доказал возможность применения ряда параметров для диагностики заболеваний легких и выделил наиболее значимые признаки (результат приведен в приложении П 1) По результатам исследование предлагается структура СППР для диагностики заболеваний легких, которая состоит из трех узлов (рис 2)

Рис 2 Структура СППР для диагностики заболеваний легких

Первый узел диагностирует наличие БА, второй определяет тяжесть БА, а третий осуществляет дифференциальную диагностику БА и ХОБЛ Первый и второй узлы системы состоят из трех подсистем, которые способны принимать решения по параметрам РЭГ, ЭЭГ или УЗДГ Третий узел реализуется только на одной подсистеме диагностики БА и ХОБЛ по параметрам ИГХВ

Каждая подсистема диагностики состоит из двух блоков (блока нормировки значимых признаков и блока принятия решения) и определяет диагноз по 4 признакам (подсистемы описаны в приложении П 3) Результат работы подсистемы выводится в диапазоне от -1 до 1 Так если для подсистемы диагностики БА и ХОБЛ выход больше нуля, то пациент болен ХОБЛ, а если меньше нуля, то болен БА Ошибки работы данной подсистемы составили 19% - для обучающей выборки и 20% - для контрольной выборки

Таким образом, АСДЗЛ можно рассматривать как систему, где узлы диагностики работают асинхронно решая общую задачу определения заболевания легких Подсистемы же в рамках одного узла диагностики решают параллельно одну узконаправленную задачу определения болезни

В заключении приводятся основные результаты диссертационной работы

1 Разработан способ предобработки экспериментальных данных, реализованный в виде двух последовательно используемых алгоритмов Работа первого направлена на повышения информативности данных, а второго - на сокращения размерности исходного пространства данных

2 Разработан алгоритм построения модели каскадной нейро-нечеткой сети на основе адаптивной нейро-нечеткой сети

3 Предложена модель структуры системы поддержки принятия решений, позволяющая проектировать модели интеллектуальных систем и использовать их для решения поставленных задач

4 Произведен статистический анализ результатов обследования РЭГ, ЭЭГ, УЗДГ и ИГХВ пациентов с заболеваниями легких и здоровы людей, который доказал возможность применения данных видов обследования для диагностики заболеваний легких

5 Предложена АСДЗЛ, состоящая из отдельных подсистем диагностики Система состоит из нескольких подсистем диагностирующих заболевание легких различным методам обследования (РЭГ, ЭЭГ, УЗДГ и ИГХВ)

6 Создана программа для ЭВМ, реализующая систему анализа данных и поддержку принятия решений при диагностике заболеваний легких Элементы программы внедрены в Дальневосточный научный центр физиологии и патологии дыхания

Опубликованные работы по теме диссертации

1 Безруков Н С Система поддержки принятия решения для диагностики бронхиальной астмы и хронической обструктивной болезни легких /НС Безруков, Е В Ермакова, А Г Приходько, Е Л Еремин, Ю М Перельман // Бюллетень физиологии и патологии дыхания-2006 -№23(Приложение) -С 32-34

2 Безруков Н С Интеллектуальная система поддержки принятия решений для диагностики заболеваний на основе адаптивных нейро-нечетких сетей/ Н С Безруков, Е Л Еремин Н Научно-техническая информация Сер 1 Организация и методика информационной работы 2007 - №6 - С 30-34

3 Безруков Н С Автоматизированная система диагностики заболеваний легких /НС Безруков, Е Л Еремин, Ю М Перельман // Проблемы управления 2007 -№5 -С 75-80

4 Безруков Н С Выделение информативных признаков для системы поддержки принятия решения на основе нейро-нечеткой сети /НС Безруков, Е Л Еремин // Нейрокомпьютеры разработка, применение 2008 -№1-2 -С 12-19

5 Безруков Н С Способ построения каскадной нейро-нечеткой сети /НС

Безруков // Информатика и системы управления - 2007 - №1(13) - С 40-45

6 Программа имитационного моделирования системы диагностики бронхиальной астмы по реографическим показателям Св 2006612637 Российская федерация, / Безруков НС, Еремин ЕЛ. Ермакова ЕВ. Колосов ВП. Перельман ЮМ - №2006611991. заявл 15 06 2006. опубл 26 07 2006. Бюл №4(57) - С 88

7 Программа имитационного моделирования системы дифференциальной диагностики бронхиальной астмы и хронической обструктивной болезни легких по результатам пробы изокапнической гипервентиляции холодным воздухом Св 2007610081 Российская федерация, / Безруков НС, Еремин ЕЛ, Колосов В П , Приходько А Г. Перельман ЮМ -№2006613671, заявл 30 10 2006, опубл 9 01 2007, Бюл №2(59) - С 21-22

8 Программа имитационного моделирования системы диагностики бронхиальной астмы по параметрам электроэнцефалографии Св 20076)0144 Российская федерация, / Безруков Н С , Еремин L Л , Ермакова Е В , Колосов ВП, Перельман ЮМ - №2006613744, заявл 7 II 2006, опубл 9 07 2007, Бюл №2(59) - С 36

9 Программа имитационного моделирования системы диагностики холодо-вой гиперреактивностн дыхательных путей у больных бронхиальной астмой по параметрам ультразвуковой допплерографии Св 2007610145 Российская федерация / Безруков Н С , Еремин Е Л , Ермакова Е В Колосов ВП, Перельман ЮМ - №2006613745 заявл 7 11 2006, опубл 9 07 2007. Бюл №2(59) - С 36-37

10 Способ диагностики бронхиальной астмы Пат 2316999 Российская федерация, МПК А61В 5/0295 (2006 01) / Безруков Н С , Еремин Е Л , Ермакова Е В , Колосов В П , Перельман ЮМ - № 2006128951/14, заявл 09 08 2006, опубл 20 02 2008 Бюл №5 (Пч )

11 Безруков Н С Построение н моделирование адаптивной нейро-нечеткой системы в задаче медицинской диагностики /НС Безруков, Е Л Еремин //Информатика и системы управления -2005 -№2(10) - С 36-46

12 Безруков Н С Прогнозирование бронхиальной астмы по параметрам рео-энцефалографии на основе гибридной сети /НС Безруков, Е В Ермакова // Математические методы в технике и технологиях - ММТТ-19 Сб трудов XIX Международ науч конф в 10-и т Т7 Секция 7 / Воронеж roc технол акад - Воронеж 2006 - С 211-214

13 Безруков Н С Автоматизированная система «Medical Toolbox» для диагностики бронхиальной астмы по показателям реоэнцефалографин /НС Безруков, Е Л Еремин, Е В Ермакова, В П Колосов, Ю М Перельман // Информатика и системы управления - 2006 -№1(11) -С 73-80

14 Безруков Н С Особенности построения диагностической системы на основе гибридной сети при неполных данных /НС Безруков // Вестник АмГУ Естественные и экономические науки -2006 -№33 -С 60-63

16 л

¡у )

15 Безруков H С Диа1 ностика бронхиальной астмы по параметрам лектро-энцефалограммы на основе адаптивной нейро-нечеткой сети /НС Безруков, Е В Ермакова // Вестник АмГУ Естественные и экономические науки -2006 -№35 -С 34-36

16 Безруков H С Система поддержки принятия решения для диагностики бронхиальной астмы по нейрофизиологическим параметрам на основе адаптивной нейро-нечеткой сети / H С Безруков, Е В Ермакова, В П Колосов, Ю M Пе-рельман//Информатика и системы управления -2006 -№2(12) - С 29-36

17 Безруков H С Диагностика бронхиальной астмы по параметрам ультразвуковой доплерографии на основе адаптивной нейро-нечеткой сети / H С Безруков // Современная техника и технологии в медицине, биологии и экологии Материалы VII Междунар науч -практ конф / Юж -Рос гос техн ун-т - Новочеркасск, 2006 - С 8-11

18 Безруков H С Диагностика тяжести бронхиальной астмы по параметрам ультразвуковой допплерографии /НС Безруков, Е В Ермакова, Е J1 Еремин, Ю M П^рельман // Информатика и системы управления приложение к журналу Системный анализ в медицине Материалы науч конф -2007 -№1(13) - С 40-42

19 Безруков H С Размер обучающей выборки при построении диагностической системы на основе адаптивной нейро-нечеткой сети /НС Безруков // Моделирование Теория, методы и средства Материалы VII Междунар науч -практ конф в 3 ч Ч 3 / Юж -Рос гос техн ун-т - Новочеркасск, 2007 - С 23-25

20 Безруков H С Способ деления на обучающую и проверочную выборки при построении нейроподобных систем / H С Безруков // Матсмап.че-ские методы в технике и технологиях - ММТТ-20 Сб трудов XX Международ науч конф в 10-ит Т 2 Секция 2, 6 / Яросл гос техн уч-т -Ярославль, 2007 С 153-155

Безруков Николай Сергеевич

Модели и алгоритмы интеллектуальных систем поддержки принятия решения на основе каскадной нейро-нечеткой сети

Подписано в ггчать 24 04 2008 Формат 60x84/16 Печ л 1 Тираж 100 Заказ 88

Отпечатано с готового оригинал-макета в типографии издательства АмГУ

675022, Благовещенск, Игнатьевское шоссе, 21

Введение

Глава 1. ХАРАКТЕРИСТИКА ПРОБЛЕМЫ ПОСТРОЕНИЯ

ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ

1.1. Особенности принятия решений в условиях 12 неопределенности

1.2. Способы оценки количества информации и энтропии в 19 экспериментальных данных

1.3. Статистические методы в обработке экспериментальных 26 данных

1.4. Гибридная система на основе нечеткой логики и 33 нейротехнологии

1.5. Цели и задачи исследования

Глава 2. РАЗРАБОТКА АЛГОРИТМОВ ПОВЫШЕНИЯ

ИНФОРМАТИВНОСТИ ДАННЫХ

2.1. Алгоритм нормировки данных

2.2. Алгоритм выделения информативных признаков

2.3. Тестирование работы алгоритма выделения информа- 55 тивных признаков

2.4. Выводы

Глава 3. РАЗРАБОТКА АЛГОРИТМОВ ПРИНЯТИЯ РЕШЕНИЯ НА

ОСНОВЕ НЕЙРО-НЕЧЕТКОЙ СЕТИ

3.1. Алгоритм построения модели каскадной нейро-нечеткой 62 сети

3.2. Алгоритм выделения контрольной и обучающей 66 выборки

3.3. Тестирование работы предложенных алгоритмов при 68 различных начальных настройках

3.4. Выводы

Глава 4. ПРОЕКТИРОВАНИЕ СИСТЕМ ПОДДЕРЖКИ ПРИНЯТИЯ 78 РЕШЕНИЙ НА ПРИМЕРЕ АВТОМАТИЗИРОВАННОЙ СИСТЕМЫ ДИАГНОСТИКИ ЗАБОЛЕВАНИЙ ЛЕГКИХ

4.1. Системы поддержки принятия решений

4.2. Построение интеллектуальной системы

4.3. Построение систем диагностики в медицине

4.4. Описания заболеваний легких

4.5. Способы исследования и схема диагностики заболеваний 90 легких

4.6. Реализация автоматизированной системы диагностики 95 заболеваний легких на базе Дальневосточного научного центра физиологии и патологии дыхания

4.7. Выводы 108 Заключение 110 Библиографический список 112 Приложение П. 1. Результат статистического анализа параметров нейрофизиологического обследования Приложение П.2. Руководство пользователя программы «Автоматазированная система диагностики заболеваний легких» Приложение П.З. Результат проектирования подсистем диагностики в 139 АСДЗЛ

Актуальность темы. Современное развитие различных областей человеческой деятельности характеризуется ростом в них информационной составляющей, представляющей собой опыт, накопленный при решении конкретных задач в прошлом. В настоящее время, структура информационной составляющей такова, что получение на ее основе строгой математической модели посредством методов интерполяции или экстраполяции, сводящихся к задаче построения линейных регрессионных уравнений, весьма затруднительно, а в* некоторых случаях невозможно1. В условиях недетерминированной системы (где отсутствует четкая функциональная связь между причиной и следствием) накладываются значительные ограничения на использование распространенных методов системного анализа - например' статистики. В таких условиях хорошо зарекомендовали* себя интеллектуальные системы, построенные на основе теории нечетких множеств и нейронных сетей. Использование интеллектуальных систем оправдывается не только-их хорошими1 аппроксимирующими способностями, но и возможностью построения прозрачных правил вывода решений для эксперта (как, например, в нечеткой логике).

Каждый из методов интеллектуальных систем имеет свои достоинства и недостатки, что в отдельности позволяет с их помощью-решать только идеализированные «игровые» задачи, тогда как при решении практических задач принято объединять различные подходы в гибридные интеллектуальные системы. Данные подходы можно использовать для построения систем поддержки принятия решений в задачах прогнозирования, классификации, диагностики и т.п. Как правило, указанные системы проектируются под решения конкретной задачи, с имеющимися в ней частными ограничениями, что зачастую не позволяет использовать их в других задачах. Одним из таких ограничений выступает априорная неопределенность фактора полезности того или иного входного признака используемого для предсказания значений выхода, либо когда между данными присутствует корреляция, что не оправдывает использования' громоздких нелинейных моделей.

В этой связи разработка интеллектуальных систем, которые обладали бы достаточной гибкостью в условиях априорной неопределенности и наличия различных ограничений, является актуальной задачей, представляющей научный интерес.

К основным результатам по созданию интеллектуальных систем на основе нечеткой логики и нейронных сетей относятся работы А.В. Гаврилова, А.Н. Горбань, Р.Ю. Голунова, А.А. Ежова, А.Н. Кирдина, В.В. Круглова, Д.А. Поспелова, С.А. Терехова, Н.Г. Ярушкиной, Э. Кьюсиака, В. Пилиньского, JI. Рут-ковского, L.A. Zadeh, F. Rosenblatt, Т. Tagagi, М. Sugeno, Е.Н. Mamdani; а.также вклад в теорию информации внесли работы К.Э. Шеннона, А.Н. Колмогорова, И.М. Коган, С.М. Коротаева, S. Haykin, Dongxin Xu.

Целью исследования является разработка модели классификации объекта на основе каскадной нейро-нечеткой сети и алгоритмов функционирования интеллектуальных систем поддержки принятия решений.

В ходе достижения цели решались следующие задачи:

- разработка алгоритма нормирования экспериментальных данных;

- разработка алгоритма выделения пространства информативных признаков из экспериментальных данных;

- разработка алгоритма построения модели каскадной нейро-нечеткой сети на основе адаптивной нейро-нечеткой сети по экспериментальным данным;

- разработка модели интеллектуальной системы поддержки принятия решения;

- реализация программных средств обеспечения имитационного моделирования разрабатываемых алгоритмов и моделей для решения задач поддержки принятия решений;

- проведение статистического анализа результатов рэографии, электроэнцефалографии, ультразвуковой допплераграфии и изокапнической гипервентиляции холодным воздухом больных с заболеваниями легких;

- применение полученных теоретических результатов для построения модели имитации принятия решения при диагностике заболеваний легких.

При решении этих задач использованы результаты исследований больных с заболеваниями легких, полученных в РАМН СО ГУ Дальневосточный научный центр физиологии и патологии дыхания.

Основные методы исследования базируются на математическом аппарате теории нечетких множеств и нейронных сетей, теории вероятностей и математической статистики, теории информации и теории принятия решений, методах вычислительной математики и математического программирования. Для практических исследований использована среда «Matlab».

Достоверность полученных в диссертации результатов подтверждается: результатами моделирования предлагаемых алгоритмов; соизмеримостью ошибок обучающей и проверочной выборок в предложенных моделях; сопоставимость с результатами других исследований.

Предмет исследования: модели интеллектуальных систем поддержки принятия решения,для диагностики заболеваний легких; алгоритмы и комплексы программ.

В * построенных моделях интеллектуальных систем в качестве диагностических признаков выступают результаты рэографии, электроэнцефалографии, ультразвуковой допплераграфии и изокапнической гипервентиляции холодным воздухом.

Научная новизна работы:

- разработана математическая модель каскадной нейро-нечеткой сети;

- разработаны алгоритмы выделения пространства информативных признаков, построения каскадной нейро-нечеткой сети и выделения контрольной и обучающей выборки из экспериментальных данных;

- предложена модель структуры интеллектуальной системы поддержки принятия решения по экспериментальным данным, имеющих различные законы распределения, различные диапазоны изменения, групповую корреляцию и выраженную нелинейность;

- разработан программный комплекс для построения интеллектуальных систем поддержки принятия решения.

Научная и практическая значимость работы:

Основные результаты диссертационной работы были получены автором при проведении исследований, выполнявшихся в 2006 - 2007 гг. в рамках программы «Системный анализ и моделирование влияния экологических и социальных факторов на здоровье населения Дальневосточного региона на основе применения современных информационных технологий с целью прогнозирования и разработки систем принятия управленческих решений в социальной сфере для обеспечения национальной безопасности», утвержденной постановлением Президиума ДВО РАН №147 от 15 декабря 2005 г.

Разработан комплекс инструментальных средств обработки и формализации нечеткой информации, полученной из массива экспериментальных данных; результаты диссертационной работы реализованы в приложении с использованием среды Matlab.

На основе полученных результатов реализована автоматизированная система диагностики заболеваний легких по нейрофизиологическим- параметрам и результатам изокапнической гипервентиляции холодным воздухом, состоящая из нескольких программ. В РАМН СО ГУ Дальневосточный научный центр физиологии и патологии дыхания внедрена и используются в лечебном процессе автоматизированная система диагностики заболеваний легких.

Положения, выносимые на защиту:

1. Алгоритм выделения пространства информативных признаков на основе метода независимых компонент с использованием предложенной матрицы смешивания и ограничивающим функционалом, позволяющих уменьшить количество настраиваемых параметров.

2. Алгоритм построения модели каскадной нейро-нечеткой сети путем соединения адаптивных нейро-нечетких сетей по функционалу кросс-энтропии.

3. Алгоритм выделения контрольной и обучающей выборки из экспериментальных данных с минимальным различием в законах распределения;

4. Автоматизированная система диагностики заболеваний легких на основе моделей интеллектуальных систем.

Апробация работы. Основные положения и отдельные результаты работы докладывались и обсуждались на научных конференциях: XV региональной научно-практической конференции «Молодежь XXI века: шаг в будущее» (Благовещенск, 2004 г.), IV Всероссийской научно-технической конференции с международным участием «Энергетика: управление, качество и эффективность использования энергоресурсов» (Благовещенск, 2005 г.), Международной научной конференции «Математические методы в технике и технологиях - 19» (Воронеж, 2006 г.), XIV Всероссийском семинаре «Нейроинформатика и ее приложения» (Красноярск, 2006 г.), VII Международной научно-практической, конференции «Современная техника и технологии в медицине, биологии и экологии» (Новочеркасск, 2006г.), Научной» конференции «Системный анализ в медицине» (Благовещенск, 2007 г.), VII Международной научно-практической конференции: «Моделирование. Теория, методы- и средства» (Новочеркасск, 2007 г.), Международной научной конференции: «Математические методы в технике и технологиях - 20» (Ярославль, 2007 г.), XV Всероссийском семинаре: «Нейроинформатика и ее приложения» (Красноярск, 2007г.).

По результатам работы получен патент РФ № 2316999 «Способ диагностики бронхиальной астмы».

Публикации. Содержание диссертации отражено в 20 публикациях, приведенных в конце автореферата. В числе основных - 10 статьей, из них 4 опубликовано в ведущих рецензируемых журналах.

В работах, опубликованных в соавторстве, автору принадлежат следующие научные и практические результаты: в [8, 10, 17, 19] - метод решения и алгоритмы функционирования; в [13] - постановка задачи, построение алгоритма нормирования данных; в [12] - постановка задачи, построение алгоритма создания каскадной нейро-нечеткой сети; в [7, 9, 14, 16] — постановка задачи, построение системы диагностики.

Основные результаты работы, полученные автором самостоятельно и опубликованные без соавторства - [И, 15, 18, 20, 21].

Объем работы. Диссертационная работа состоит из введения, четырех глав, заключения, списка цитируемой литературы и приложений. Работа изложена на 124 страницах основного текста и 27 приложения, содержит 35 рисунков, 137 наименования библиографических источников.

4.7. Выводы

1. Разработана структура СППР, позволяющая в основном режиме проектировать интеллектуальные системы, а в обеспечивающем режиме использовать созданные системы для решения стоящих задач и осуществлять статистический анализ данных. Структура имеет в своем составе три основных модуля и две базы. Метод построения интеллектуальной системы поддержки принятия решений основывается на алгоритмах, предложенных во 2 и 3 главах. Система имеет открытую последовательную структуру, состоящую из блоков, и способна учитывать специфические ограничения (чрезмерную описательность входных данных, коррелированность данных, нелинейность данных) при проектировании. При отсутствии ограничений блоки допускается не использовать.

2. На примере разработки АСДЗЛ показано, что совместное применение интеллектуальных и статистических методов системного анализа информации позволяет строить прозрачные для медицинского работника системы диагностики. Если статистические методы дают возможность сократить вектор входных значений и обосновать применение выбранных признаков, то методы искусственного интеллекта позволяют формализовать априорно определенные данные в форме диагностических подсистем.

3. Результаты статистического анализа показателей обследования РЭГ, ЭЭГ, УЗДГ и ИГХВ пациентов с заболеваниями легких и здоровых людей доказали возможность применения этих видов обследования для диагностики заболеванию легких.

4. Предложена структура АСДЗЛ, состоящая из узлов и подсистем дифференциальной диагностики, реализует технологию многоагентных систем, где узлы работают асинхронно, а подсистемы в рамках узла - параллельно. Подсистемы способны диагностировать болезнь пациента по заданному методу обследования (РЭГ, ЭЭГ, УЗДГ и ИГХВ).

110

ЗАКЛЮЧЕНИЕ

Предлагаемая работа посвящена решению научных и практических задач, связанных с повышением эффективности и упрощением проектирования интеллектуальных систем, а также их применением для задач поддержки принятия решений. В результате проведенной работы получены следующие основные результаты.

1. Разработан способ предобработки, реализованный в виде двух последовательно используемых алгоритмов. Работа первого направлена на повышение информативности данных путем их преобразования по нелинейной функции, что приводит данные к единому закону равномерного распределения и единому диапазону распределения (-1,1). Работа второго направлена на сокращение размерности исходного пространства данных, что позволяет в последующем бороться с эффектом заучивания гибридной сетью обучающих данных. Критерием объединения признаков в группы для последующего сокращения выступает наличие линейной зависимости между данными, обнаруживаемой методом корреляционного анализа.

2. Разработан алгоритм построения модели каскадной нейро-нечеткой сети на основе адаптивной нейро-нечеткой сети — таким образом, что сеть имеет меньшее описание в отличие от адаптивной нейро-нечеткой сети, построенной для заданного пространства признаков. Это позволят существенно сократить машинное время создания сети. При создании алгоритма использован показатель эффективного размера адаптивной нейро-нечеткой сети, позволяющий по количеству входных данных определить необходимый размер обучающей выборки, а также разработан алгоритм выделения обучающей и контрольной выборки, что дает возможность создавать выборки с минимальным отличием.

3. Предложена модель структуры системы поддержки принятия решений, позволяющая проектировать интеллектуальные системы и использовать их для решения стоящих задач, а также осуществлять статистический анализ данных. Этапы проектирования интеллектуальной системы реализованы по алгоритмам, предложенным во 2 и 3 главах - таким образом, чтобы система имела открытую последовательную структуру, состоящую из блоков, и способна была учитывать ограничения, всегда присутствующие в реальных системах. Для предложенной структуры разработано программное обеспечение в среде Matlab.

4. Сделан статистический анализ результатов обследования РЭГ, ЭЭГ, УЗДГ и ИГХВ пациентов с заболеваниями легких и здоровых людей, который продемонстрировал возможность применения данных видов обследования для диагностики заболеваний легких.

5. Предложена АСДЗЛ, реализующая технологию многоагентных систем. Система состоит из нескольких подсистем, диагностирующих заболевание легких различными методами обследования (РЭГ, ЭЭГ, УЗДГ и ИГХВ).

6. Создана программа для ЭВМ, реализующая систему анализа данных и поддержку принятия решений диагностики заболеваний легких; она внедрена в Дальневосточном научном центре физиологии и патологии дыхания.

1. Айвазян С.А., Ешоков И.С., Мешалкин Л.Д. Прикладная статистика. Основы моделированиями первичная'обработка данных. — М.: Финансы и статистика, 1983.-471 с. " '

2. Айвазян С.А., Бухштабер BlMi, ЕнюковхИ;С. и др^ Классификация и снижение размерности; — М.: Финансы и статистика. 1989. — 607 с.

3. Айзерман М.А., Малишевский А.В. Некоторые аспекты общей теории выбора наилучших вариантов — Mi: Препринт Института проблем управления; 1980.

4. Акопов В^И:,. Маслов Е.Н. Право в> медицине: — Mi: Приоритет-стандарт. 2002. 1-28 с.

5. Арсеньев С. Извлечение знаний из медицинских баз данных / 1999 — 134 с. http://www.megaputer.ru.

6. Афифи А., ЭйзенС. Статистический анализ. Mi: Мир, 19821 -488 с.

7. Безруков Н.С., Еремин Е.Л., Перельман Ю.М. Автоматизированная система диагностики заболеваний легких.// Проблемы.управления. 2007.- №5. -С. 75-80.

8. Ю.Безруков Н;С., Еремин Е.Л. Выделение информативных признаков для системы поддержки принятия решения на основе нейро-нечеткой сети // Нейрокомпьютеры: разработка* применение. 2008. -№1-2. С. 12-19.

9. Безруков H.G. Способ построения каскадной нейро-нечеткой сети //

10. Информатика и системы управления. 2007. - №1(13). — С. 40-45.

11. Безруков Н.С., Еремин E.JI. Построение и моделирование адаптивной нейро-нечеткой системы в задаче медицинской диагностики // Информатика и системы управления. 2005. - №2(10). - С. 36-46.

12. Безруков Н.С., Еремин Е.Л., Ермакова Е.В., Колосов В.П., Перельман Ю.М. Автоматизированная система «Medical Toolbox» для диагностики бронхиальной астмы по показателям реоэнцефалографии // Информатика и системы управления 2006. - №1(11). - С. 73-80.

13. Безруков Н.С. Особенности-построения диагностической системы на основе гибридной сети при неполных данных // Вестник АмГУ. Естественные и экономические науки. 2006. - №33. - С. 60-63.

14. Безруков! Н.С., Ермакова Е.В. Диагностика бронхиальной астмы по ' параметрам лектроэнцефалограммы на основе адаптивной нейро-нечеткой сети // Вестник АмГУ. Естественные и экономические науки. 2006. - №35. - С. 3436.

15. Бехтерева Н.П. Электроэнцефалография в клинике //Физиологические методы в клинической практике. -Л.-1966.-С.42-65.

16. Большев Л.Н., Смирнов Н.В. Таблицы математической статистики. -М.: Наука. Главная редакция физико-математической литературы, 1983 — 416с.

17. Браверман Э.М., Мучник И.Б. Структурные методы обработки эмпирических данных. М.: Наука. Главная редакция физико-математической литературы. 1983 - 464 с.

18. Боровиков В.П., Боровиков И.П. Statistica. Статистический анализ и обработка данных в среде Windows М.: Информационно-издательский дом «Филин», 1997,- 608 с.

19. Быховский М.Л. Теория и алгоритм обучения в кибернетических системах медицинской диагностики. // Вычислительная техника в физиологии и медицине.-М: Наука, 1968, с.21-38.

20. Вайнцвайг М.Н. Алгоритм обучения распознаванию образов «Кора». // Алгоритмы обучения распознаванию образов. — М.: Сов. Радио, 1973, с. 110-116.

21. Вишневский А.А., Брайнес С.Н., Браиловский В.Л. О применении метода автоматической классификации к некоторым задачам медицины. // Вычислительная техника в физиологии и медицине. — Наука — М: 1968, с.38 41.

22. Власов В.В. Эффективность диагностических исследований. — М.:1. Наука, 1983.-416 с.

23. Гаврилов А.В. Гибридные интеллектуальные системы. Новосибирск: НГТУ, 2003.

24. Гаврилов А.В. Системы искусственного интеллекта. Уч. пособие, ч. 1. Новосибирск, НГТУ, 2000.

25. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. СПб: Питер, 2000.

26. Гайдышев И. Анализ и обработка данных: специальный справочник. СПб: Питер, 2001. - 752с.

27. Гланц С. Медико-биологическая статистика. М., Практика, 1998. 459с.

28. Горбань А.Н., Дунин-Барковский В.Л., Кирдин А.Н. и др. Нейроин-форматика. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с., http://neuroschool.narod.ru/books/neurinf.htmll

29. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука. Сибирская издательская фирма РАН, 1996. -276с.

30. Дулеба AJT. Роль нейрофизиологических методов исследования в диагностике нервных болезней // Вестник Амурской областной больницы. -2002.-№16.-С.4-5

31. Ежов А.А., Шумский С.А. Нейрокомпьютинг и его применение в экономике и бизнесе/М.: Изд-во МИФИ, 1998. http://www.neuroproject.ru.

32. Еремин E.JL, Еремина,В.В., Семичевская Н.П., Шевко Д.Г. Алгоритмы. и S-модели гибридных систем адаптивного- управления- (практикум в среде SIMULINK). — Благовещенск: Амурский гос. ун-т, 2005. 205 с.

33. Захарова Л.М., Киселева Н.Е., Мучник И.Б., Петровский A.M., Свер-чинская Р.Б. Анализ развития гипертонической» болезни по эмпирическим данным. // Автоматика и телемеханика, 1977. — N 9 — с. 114-122.

34. Зенков Л.Р. Компьютерные методы обработки в клинической электроэнцефалограмме //Журн. невропатологии и психиатрии им. Корсакова. -1990.-Т.90; вып. 12.-С. 103-109.

35. Зенков Л.Р., Ронкин М.А. Функциональная диагностика нервных болезней: М.:"МЕДпресс-информ", 2004.-С. 12—26, 313—34Т, 384-410;

36. Иванов Л.Б., Макаров В.А. Лекции по клинической реографии. М.: Научно-медицинская фирма "МБН" -2000 ■ —с: 86

37. Искусственный» интеллект;. Справочник в 3-х томах. — М.: Радио и связь, 1990.-994с.53; КалланР!. Основные концепции нейронных сетей: М;: "Вильяме,",. 2001 — 292с. ' '

38. Кендалл., Mi, Стыоарт А. Статистические выводы и связи. — М.:«11аука», главная редакция физико-математической литературы. — 1973. — 900с. ;

39. Кендалл М., Стыоарт А. Теория распределений. М.:«Наука», главная редакция физико-математической литературы. - 1966. - 588с.,

40. Кобринский Б.А. Логика аргументации в принятии;решений в медицине. Информационные процессы и системы 2001 .-№9. - С. 1-8

41. Коган И:М. Прикладная теория информации. М.: Радио и связь. -1981.-216с

42. Колесников А.В. Гибридные интеллектуальные системы. Теория и техно л огия разработки / Под ред. A.M. Яшина.- СПб.: СПбГТУ, 2001. - 711с.

43. Колмогоров А.Н. Теория информации и теория алгоритмов. -М.:наука, 1987.-304 с.

44. Колмогоров А.Н. Три подхода к определению понятия "количество информации" //Проблемы передачи информации. -1965. -Т.1. №1. -С.3-11.

45. Колмогоров А.Н. К логическим основам теории информации и теории^ вероятностей' // Проблемы передачи информации и теории вероятностей -1969. —Т.5.№3. -С.3-7.

46. Коротаев G.M. Роль различных определений энтропии в причинном анализе геофизических процессов и их приложении к электромагнитной индукции в морских течениях // Геомагнетизм и аэрономия —1995. —Т. 35. №3; — С. 116-125.

47. Комарцова Л.Г., Максимов А.В. Нейрокомпьютеры. — М.: Изд-во МГТУ им. 11.Э.Баумана, 2002. - 382с.

48. Котов Ю.Б. О формализации структуры решений врача: // Препринт ИПМ РАН, -2001г. -№14-20 с

49. Круглов В.В., Дли М.И., Годунов.'Р.Ю. Нечеткая логика и искусственные нейронные сети. — М.: 2001. http://www.neuroproject.ru.

50. Ларичев О.И; Наука и искусство принятия решений. М:: Наука; 1979.-200 с.

51. Ликеш И., Ляга И. Основные таблицы математической статистики. -М.: Финансы и статистика, 1985, 356 с.

52. Лунин А.А., Борохов А.И и др. Бронхиальная астма. Пособие для врачей. Смоленская государственная медицинская академия, 2003; 66 с.

53. Люгер Дж.Ф. Искусственный интеллект: стратегии и методы решения сложных проблем. М.: "Вильяме", 2003 -444с.

54. Лукас В.А. Основы фази-управления: Учебное пособие. — Екатеринбург: Изд-во УГГГА, 2000. 62 с.

55. Мартин Н., Ингленд Дж. Математическая теория энтропий. М.: Мир. 1988-251с.

56. Назаров А.В., Лоскутов А.И. Нейросетевые алгоритмы прогнозирования и оптимизации систем. СПб.: Наука и техника, 2003—202с.

57. Нечеткие множества в моделях управления и искусственного. интеллекта/Под ред. Д.А. Поспелова. М.: Наука, 1986.

58. Основы эпидемиологии и статистического анализа в общественном здоровье и управлении здравоохранением. Московская медицинская академия им.И.М.Сеченова. Учебное пособие для ординаторов и аспирантов. Москва. 2003 с. 82 f

59. Осовский С. А. Нейронные сети для обработки информации. — М.: Финансы и статистика, 2002.- 152с

60. Попов Э.В. Экспертные системы. М:, Наука, 1987-254с

61. Поспелов Д.А. Представление знаний. Опыт системного анализа// Системные исследования. М.: Наука, -1985.

62. Поспелов Д.А. История искусственного интеллекта до середины 80-х годов// Новости искусственного интеллекта. 1994. - №4. - С.70-90.

63. Поспелов Д.А. Десять "горячих точек" в исследованиях по искусственному интеллекту // Интеллектуальные системы (МГУ). — 1996. — Т.1, вып.1— 4. С.47-56.

64. Поспелов Д.А. Многоагентные системы настоящее и будущее// Информационные технологии и вычислительные системы. - 1998. - №1. -С. 14-21.

65. Прикладной многомерный статистический анализ: сб. статей /Научн. ред. С.А. Айвазян, А.И. Орлов. М.: Наука, -1978.-392с.

66. Саркисян С.А., Голованов JI.B. Прогнозирование развития больших систем. — М.: Статистика, 1975. — 235с.

67. Реброва О. Ю. Статистический анализ медицинских данных. Применение пакета прикладных программ STATISTICA. М.: Медиасфера, 2002.-312с.

68. Россиев Д.А., Головенкин С.Е., Назаров Б.В. Определение информативности медицинских параметров с помощью нейронной сети. // Диагностика, информатика и метрология-94: Тез. научн—техн. конф., Санкт-Петербург, 2830 июня 1994г. СПб., 1994. - с.348.

69. Рутковская Д., Пилиньский В., Рутковский JI. Нейронные сети, генетические алгоритмы и нечеткие системы: Пер. с польского И.Д. Рудинского. — М: Горячая линия — Телеком, 2004. — 452 с.

70. Солсо P.JI. Когнитивная психология. — М.: Тривола, 1996, 600с.

71. Терехов С.А., Федорова Н.Н. Нейросетевые аппроксимации поверхности отклика в задачах оптимизации сложных инженерных систем. Научная Сессия МИФИ-2002, Москва, 21-25 января 2002 г. http://alife.narod.ru/pubs/index.html.

72. Тюрин Ю.Н., Макаров А.А. Анализ данных на компьютере. М. ИНФРА-М. Финансы и статистика. 1995. - 384 с.

73. Уварова А.Н. Разработка методов и средств комплексной диагностики шизофрении на основе нечеткой логики принятия решений / Дисс. канд. техн. наук. Курск, 2004 — 125 с.

74. Уоссермен Ф. Нейрокомпьютерная техника : Теория и практика. -М.: Мир. 1992-326 с.

75. Уотерман Д. Руководство по экспертным системам. М.: Мир, 1989 -474 с.

76. Факторный, Дискриминантный и Кластерный анализы: сборник

77. Пер. A.M. Хотинского, СБ. Королева: Под ред. И.С. Енюкова- М.: Статистика, 1972 -486 с.99.* Филипович Б.И. Котов Ю.Б. Графический анализ результатов эксперимента. // Приборы и системы управления — 1996. —N12 — с.40-42 .

78. Филипович Б.И'., Котов Ю.Б. Программа графической поддержки исследовательских работ (GRFM). // Препринт ИЛУ РАН, МЛ 1997,28с.

79. Флетчер Р., Флетчер С., Вагнер Э. Клиническая эпидемиология. Основы доказательной медицины. Пер. с англ. -М: МедиаСфера, 1998: — 352с.

80. Холлендер1 М., Вульф Д.А. Непараметрические методы статистики. — М., Финансы и статистика, 1983. — 518с.

81. Шамбодаль П. Развитие и приложения понятия энтропии. М.: Наука, 1967

82. Шайдуров А.А., Шатохин А.С, Пиянзин А.И. и др. Применение нечеткой логики в нейросетевом моделировании // Нейроинформатика и ее приложения: Материалы XII всероссийского семинара." Красноярск, 2004. С. 173— 174.

83. Шайдуров А.А-., Шатохин А.С., Пиянзин А.И. и др.- Нейросетевой диагностический комплекс с элементами автоматической модификации // Нейроинформатика и ее приложения: Материалы XIL всероссийского семина-ра.Красноярск, 2004. С. 171-172.

84. Щекутьев Г.А. Нейрофизиологические исследования в клинике -М.: Антидор, 2001.-С. 16-24, 191-201

85. Шеннон К.Э. Работы по теории информации и кибернетике. М.: Ил., 1963 -829с.

86. Юнкеров В.И., Григорьев-С.Г. Математико-статистическая обработка данных медицинских исследований. сПб: ВМедА, 2002. - 266с.

87. Яглом A.M., Яглом ИМ.' Вероятность и информация. М., Главная редакция физико-математической литературы издательства «Наука», 1973, 512 с.

88. Якименко М.А., Симонова Т.Г., Пичкуров A.M., Татауров Ю.А. Влияние адаптации к холоду на показатели внешнего дыхания при гипервентиляции// Физиология человека. 1989. - Т. 15, №5. - С.148-151.

89. Ярушкина H. Г., Наместников Л. М. Эффективность генетических алгоритмов для задач автоматизированного проектирования // Известия РАН. Теория и системы управления, № 2, 2002, с. 127-134

90. Ярушкина Н.Г. Основы теории нечетких и гибридных систем.- М.: Финансы и стати-стика, 2004. 244с.

91. Austin Т., Illiffc S., Leaning М. et al. A prototype computer decision support system for the management of astma: J: Med; Sryst. 1996;20(l):45-44.

92. Beksac M.S., Basaran F., Eskiizmirliler S., Erkmen A.M., Yorukan S. A computerized 'diagnostic system for the interpretation of umbilical artery blood flow velocity waveforms. // Eur J Obstet Gynecol Reprod Biol. 1996 Jan;64(l):47-42.

93. Cardoso Ji—F. Blind signal:,separation: statistical principles:.—CNRS and ENST http://www.tsi.enst.fr/~cardoso.html.

94. Chuang L., Hwang' J.Y., Chang C.H., Yu C.H., Chang F.M. Ultrasound-estimation of fetal weight with the use of computerized artificial neural network model. // Ultrasound Med Biol. 2002 Aug;28(8):991-996.

95. Dongxin Xu. Energy, entropy and; information potential for neural; computation. University of Florida. 1999. p. 197

96. Goodman L. A. and Kruskal E.H. Measures, of association for cross-classification. //J. Amer. Statist. Assoc,.1954,v.49, 732-764.

97. Haykin. S. Neural Networks, A Comprehensive Foundation, Macmillan 7Publishing Company, New York, 1994.

98. Haykin. S. Adaptive Filter Theory, Third Edition, Prentice Hall, .Engle-wood Cliffs, NJ, 1996.

99. Haykin. S. Neural Networks: A Comprehensive Foundation, Second Edition, Prentice Hall, Englewood Cliffs. NJ, 1998.

100. Hoffmann M., Seminar Neuronale Netze. Blinde Quellentrennung.

101. Technische Universitat Berlin. 2004

102. Jasper Н. Report of committee on methods of clinical examenation in EEG. Appendix: The ten-twenty electrode system of the International Federation Text.' /H.Jasper //Electroencephalogr. Clin. Nuerophysiol'.-1958.-Vol.l0, №12 — P. 1086.

103. Kaufmann S.J., Eastaugh J.L., Snowden S. Smye S.W., SharmaV. The application of neural networks in predicting the outcome of in-vitro fertilization. //HumReprod'. 1997 Jul; 12(7): 1454-1457.

104. Kosko B. Neural networks and Fuzzy System, Prentice1 Hall, Englewood Cliffs 1992.

105. Lieu T.A., Quesenberry C.P., Sorel M.E. Computer-based models to identify high-rise children with astma. Am. J.f Respir. Crit. Care Med. 1998;157(4):1173-1180.

106. Linsker R., "Self-Organization in a Perceptual Network," Computer, Vol.21, pp. 105-117, 1988.

107. Linsker R., "An Application of the Principle of Maximum Information Preservation to Linear Systems," In Advances in Neural Information Processing Systems I (edited by D.S. Touretzky), pp. 186-194, Morgan Kaufmann, San Mateo, CA, 1989.

108. Mamdani, E.H., and Baaklini, N.: Prescriptive methods for deriving control policy in a fuzzi logic controler. Electron. Lett. 11 (1975).

109. Rosenblatt F. The Perceptron: a probabilistic model for Information storage and organization in brain. // Psychol. Rev. 1958, vol. 65, p. 386-408.

110. Rumelhart D.E., Hinton G.H., Williams R.J. Learning Internal Representations by Error Propagation, In Parallel Distributed Processing, t.l, rozdz.8, Eds., Cambridge, MA, M.I.T. Pres, 1986/

111. Zadeh, L.A. Fuzzy Sets. Information and Control, 8 (1965), Academy Press, New York.

112. Zadeh, L.A. The Concept of Linguistic Variable and its Application to Approximate Reasoning. Informat. Science 8 (1975).

113. Tagagi Т., Sugeno M. Fuzzy Identification of Systems and Its Applications to Modeling and Control, IEEE Transactions on Systems, Man and Cybernetics, 1985, vol. 15, s. 116-132.