автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Алгоритмы и программные средства настройки параметров нечетких моделей на основе гибридных методов

На правах рукописи

Лавыгина Анна Владимировна

АЛГОРИТМЫ И ПРОГРАММНЫЕ СРЕДСТВА НАСТРОЙКИ ПАРАМЕТРОВ НЕЧЕТКИХ МОДЕЛЕЙ НА ОСНОВЕ ГИБРИДНЫХ МЕТОДОВ

Специальность 05.13.18 Математическое моделирование, численные методы и комплексы программ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Томск-2010

□□3492126

003492126

Работа выполнена в Томском государственном университете систем управления и радиоэлектроники (ТУСУР)

Научный руководитель -

доктор технических наук Ходашинский Илья Александрович

Официальные оппоненты: доктор технических наук профессор

Мицель Артур Александрович (ТУСУР)

кандидат технических наук доцент Цой Юрий Робертович (Томский государственный политехнический университет)

Ведущая организация -

Новосибирский государственный технический университет

Защита состоится 4 марта 2010 г. в 15 час. 15 мин. на заседании диссертационного совета Д. 212.268.02 при ТУСУР по адресу: 634050, г. Томск, пр. Ленина, 40, ком. 203.

С диссертацией можно ознакомиться в научной библиотеке ТУСУР по адресу: г. Томск, ул. Вершинина, 74.

Автореферат разослан 3 февраля 2010 г.

Ученый секретарь диссертационного совета

Р.В. Мещеряков

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность работы

При моделировании сложных систем исследователи сталкиваются с неточным или неполным описанием изучаемого объекта. Решением такой проблемы является нечеткое моделирование.

Технология нечеткого моделирования применяется при невозможности построения аналитической модели изучаемого объекта, либо слишком большой сложности такой модели, либо отсутствии достаточного опыта для построения экспертных систем, либо недостаточности экспериментальных данных для статистического моделирования.

Нечеткие модели находят широкое применение в таких проблемных областях как распознавание образов, прогнозирование и моделирование, управление и принятие решений. Они встроены в огромное количество промышленных изделий, начиная с роботов и систем управления электропоездами, и заканчивая такими потребительскими товарами, как фото- и видеокамеры, кондиционеры стиральные машины и др. К преимуществам нечетких моделей относятся невысокая стоимость разработки, интуитивно понятная логика функционирования, гибкость.

Базовая концепция нечеткого моделирования заключается в использовании степени принадлежности, которая является эффективным средством описания поведения плохо формализованных объектов, систем и процессов. Построение нечетких моделей возможно на основе наблюдаемых данных, а также с использованием априорного знания и опыта, которые могут быть неточными и иметь неколичественный характер.

Основополагающие результаты в области нечеткого моделирования получили А.Н. Аверкин, И.З. Батыршин, Л.С. Берштейн, С.М. Ковалев, Л.Г. Комарцова, Ю.И. Кудинов, А.О. Недосекин, Ф.Ф. Пащенко, В.Б.Тарасов, А.В. Язенин, Н.Г. Ярушкина, Р. Angelov, R. Babuska, A. Bastían, J.C. Bezdek, J. Casillas, J.L. Castro, O. Cordon, D. Dubois, D. Filev, J. González, S. Guillaume, F. Herrera, H. Ishibuchi, U. Kaymak, В. Kosko, R. Krishnapuram, R. Kruse, E.H. Mamdani, J. M. Mendel, S. Oh, W. Pediycz, H. Prade, M. Sugeno, T. Takagi, H. Tanaka, I. B. Turksen, R.R. Yager, T.Yasukawa, L.-X.Wang, L. Zadeh.

Однако анализ литературных источников показал, что при разработке нечетких моделей не приводятся убедительные доказательства выбора структуры и параметров таких моделей, а

представленные результаты по нечеткому моделированию зачастую имеют характер лабораторных исследований. Отсутствуют пакеты программ с достаточными средствами настройки нечетких моделей на основе наблюдаемых данных.

Цель работы

Целью диссертационной работы является разработка и исследование гибридных алгоритмов настройки параметров нечетких моделей, обеспечивающих повышение качества решений при умеренном количестве ресурсов, и программного комплекса нечеткого моделирования, позволяющего производить настройку модели на основе наблюдаемых данных.

Для достижения поставленной цели необходимо решить следующие задачи:

1) исследование существующих методов настройки нечетких моделей;

2) реализация гибридных алгоритмов настройки параметров нечетких моделей на базе метаэвристик и методов, основанных на производных;

3) проведение исследований разработанных алгоритмов на контрольных примерах;

4) разработка программного комплекса настройки нечетких моделей на основе предложенных алгоритмов.

Объект и предмет исследования

Объектом исследования является процесс настройки параметров нечетких моделей.

Предметом исследования является комплекс алгоритмов и программ идентификации параметров антецедентов и консеквентов правил.

Методы исследования

В диссертационной работе применялись методы искусственного интеллекта, теории нечетких множеств, теории вероятности и математической статистики, линейной алгебры, структурного и объектно-ориентированного программирования.

Достоверность результатов

Степень достоверности результатов обеспечивается строгостью применения математических методов, результатами проведенных численных экспериментов, которые сопоставлены с данными, полученными другими авторами.

Научная новизна

Научной новизной обладают следующие результаты диссертационной работы:

1. Разработан двухэтапный алгоритм настройки параметров нечеткой модели; на первом этапе параметры функций принадлежности настраиваются генетическим алгоритмом, а параметры консеквентов - методом наименьших квадратов; на втором этапе параметры функций принадлежности и консеквенты настраиваются градиентным методом или алгоритмом фильтрации Калмана. Такой алгоритм исключает недостаток методов, основанных на производных, и недостаток генетического алгоритма.

2. Впервые для настройки параметров нечетких моделей разработан гибридный алгоритм, в котором алгоритм имитации отжига генерирует множество начальных решений для грубой настройки параметров нечеткой модели генетическим алгоритмом. Точная настройка производится градиентным методом или алгоритмом фильтрации Калмана.

3. Впервые использован градиентный метод и фильтр Калмана в качестве оператора мутации генетического алгоритма для настройки параметров нечетких моделей. При этом часть особей популяции изменяются с использованием градиентного метода или фильтра Калмана, остальные мутируют обычным образом. После настройки антецедентов осуществляется настройка консеквентов методом наименьших квадратов.

4. Разработан алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии, который в отличие от известных учитывает свойства таблицы наблюдений и требования полного покрытия лингвистическими термами области определения входной переменной.

Теоретическая значимость

Теоретическая значимость работы заключается в развитии технологии построения нечетких моделей. Предложенные алгоритмы могут быть применены для решения задач оптимизации с непрерывно меняющимися параметрами.

Практическая ценность

Обоснованность предложенных алгоритмов подтверждена использованием их для решения практических задач. Программная система нечеткой аппроксимации атмосферных температурных полей внедрена в Институте оптики атмосферы имени В.Е.Зуева СО РАН.

Результаты исследований использованы в следующих проектах:

1) проект РФФИ № 06-08-00248 «Основанное на данных нечеткое моделирование технических систем» (2006 - 2007 гг.)

2) проект РФФИ № 09-07-99008 «Исследование и разработка технологии идентификации нечетких моделей на базе метаэвристик и методов, основанных на производных» (2009 - 2010 гг.);

3) проект «Основанные на метаэвристиках и производных гибридные алгоритмы идентификации нечетких моделей и программно-инструментальный комплекс нечеткого моделирования» программы «Участник молодежного научно-инновационного конкурса» (У.М.Н.И.К.).

Разработанные алгоритмы построения нечетких моделей на основе таблиц наблюдений используются при проведении лабораторных работ по дисциплине «Базы знаний» на кафедре автоматизации обработки информации Томского государственного университета систем управления и радиоэлектроники.

Часть программно-инструментальных средств передана в отраслевой фонд алгоритмов и программ Министерства образования Российской Федерации (номера государственной регистрации 50200602165,50200800872).

Предложенные алгоритмы и программный комплекс при небольших доработках могут быть применены и для решения задач оптимизации с непрерывно меняющимися параметрами.

Алгоритмы, разработанные в рамках программной системы нечеткой аппроксимации атмосферных температурных полей, универсальны и могут быть применены не только к базам атмосферных температурных полей, но и к другим данным формата netCDF.

Основные защищаемые положения

1. Разработанные гибридные алгоритмы настройки параметров нечетких моделей позволяют уменьшить ошибку вывода на порядок по сравнению с использованием методов по отдельности и в несколько раз по сравнению с алгоритмами, предлагаемыми другими авторами.

2. Алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии генерирует только корректно заданные параметры нечетких моделей и позволяет уменьшить время настройки нечетких моделей по сравнению со случайным формированием базы правил.

3. Программный комплекс, позволяющий настраивать нечеткие модели, как на основе наблюдаемых данных, так и на основе знаний эксперта, в отличие от известных систем нечеткого моделирования, ориентированных только на знание эксперта.

Апробация работы

Основные положения работы докладывались и обсуждались на Томском IEEE семинаре "Интеллектуальные системы моделирования, проектирования и управления", на семинарах кафедр АОИ и АСУ

ТУ СУР, на научных и научно-технических конференциях, в том числе на 3-й Всероссийской конференции молодых ученых, г. Томск, 2006 г., Международной конференции «Workshop on INTAS programmes supporting young scientists, their followup and European dimension of further prospective for young scientists», г. Томск, 2007 г., XLV и XLVI Международных научных конференциях «Студент и научно-технический прогресс», г. Новосибирск, (2007, 2008 гг.), Всероссийской научно-технической конференции «Научная сессия ТУСУР», г. Томск, 2007, 2008, 2009 гг., Всероссийской конференции по вычислительной математике КВМ-2009, г. Новосибирск, 2009 г.

Доклады на конференциях Научная сессия ТУСУР в 2007 и 2008 гг. были награждены дипломами третьей и первой степени соответственно.

Публикации по теме работы

По теме диссертации опубликовано 19 печатных работ, из них две - в периодических изданиях, рекомендованных ВАК России для публикации научных работ, получено два свидетельства об официальной регистрации подсистем разработанного программного комплекса в ОФАП, одно учебно-методическое пособие.

Личный вклад автора

Постановка задачи, а также подготовка материалов к печати велась совместно с научным руководителем. Основные научные результаты получены автором самостоятельно. Автором самостоятельно разработан комплекс программ настройки нечетких моделей.

Структура и объем работы

Диссертационная работа состоит из введения, пяти глав и заключения. Объем работы составляет 180 страниц. Список литературы содержит 108 наименований.

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы исследования, сформулирована цель работы, изложены полученные автором основные результаты проведенных исследований, показана их научная новизна, теоретическая и практическая значимость, отражены основные положения, выносимые на защиту

В первой главе производится обзор проблемы исследования.

Отображение вход-выход в нечеткой модели представлено как множество нечетких «ЕСЛИ-ТО» правил. Каждое правило состоит из двух частей: условной и заключительной. Антецедент (условная часть) содержит утверждение относительно значений входных переменных, в

консеквенте (заключительной части) указывается значение, которое принимает выходная переменная.

Правила нечеткой модели типа синглтон имеют следующий вид: правило (': ЕСЛИ хх =Аи И х2 = Ац И... И хт = Ami ТО у = rh где Aji - лингвистический терм, которым оценивается переменная Xj, а выход у оценивается действительным числом г,.

Модель осуществляет отображение F: 9?т -» 9?, заменяя оператор нечеткой конъюнкции произведением, а оператор агрегации нечетких правил - сложением. Отображение F для модели типа синглтон определяется формулой:

п

F{x) = ¿=L-'

TMau (*1)-MA2i )••••• VAmi(xm )

/=1

где x = [j,,..., xm]r € 91™, n - количество правил нечеткой модели, т -количество входных переменных в модели, - функция

принадлежности нечеткой области Ау,.

Нечеткое моделирование включает два основных этапа: идентификацию структуры и настройку параметров нечеткой модели. Идентификация структуры - определение таких характеристик нечеткой модели, как число нечетких правил, количество лингвистических термов, на которое разбиты входные и выходные переменные. Настройка параметров - это определение неизвестных параметров антецедентов и консеквентов нечетких правил путем оптимизации работы нечеткой модели по заданному критерию.

Для настройки параметров нечетких моделей используются две группы методов. Первая группа - классические методы оптимизации, основанные на производных: метод наименьших квадратов, градиентный метод, фильтр Калмана. Эти методы обладают высокой скоростью сходимости, но они имеют тенденцию сходиться к локальным оптимумам.

Трудности применения классических методов оптимизации, в частности проблема локального экстремума и «проклятие размерности», заставляют обратиться ко второй группе методов -метаэвристических, таких как алгоритмы муравьиной колонии, роящихся частиц, имитации отжига, генетические алгоритмы. Но это методы грубой настройки, требующие больших временных ресурсов. Кроме того, применение метаэвристик не гарантирует нахождения оптимального решения и, как правило, связано с эмпирической настройкой параметров используемых алгоритмов.

Использование гибридных алгоритмов позволит объединить преимущества метаэвристических методов с преимуществами методов, основанных на производных. Такое объединение повысит качество решений при умеренном количестве ресурсов и за приемлемое время.

Во второй главе приводятся разработанные алгоритмы настройки нечетких моделей.

В работе предлагается следующий алгоритм настройки нечетких моделей:

Алгоритм настройки нечетких моделей Шаг 1. Задание количества термов лингвистических переменных. Шаг 2. Инициализация параметров нечеткой модели.

Подшаг 2.1 Задание параметров антецедентов правил с помощью субъективного разделения данных.

Подшаг 2.2 Инициализация консеквентов правил на основе модифицированной процедуры диффузии.

Шаг 3. Настройка параметров нечеткой модели одним из метаэвристических, основанных на производных или гибридных алгоритмов.

Шаг 4. Если среднеквадратичная ошибка нечеткой модели больше заданной, то увеличение количества термов, переход на шаг 2, иначе выход из алгоритма.

Инициализация параметров модели производится на основе субъективного разделения данных и процедуры диффузии. Нечеткие правила и функции принадлежности должны покрывать весь универсум, на котором они определены. Переход от одной функции принадлежности к другой не содержит разрывов, иначе поверхность вывода также будет содержать разрывы. В общем случае алгоритм настройки параметров состоит из следующей последовательности шагов.

Алгоритм настройки параметров нечеткой модели Шаг 1. Задание начальных параметров нечеткой модели и параметров выбранного алгоритма.

Шаг 2. Генерация решения выбранным алгоритмом настройки. Шаг 3. Оценка решения с помощью нечеткой модели. Шаг 4. Проверка условия останова. Если условие выполняется, то переход на шаг 5, иначе переход на шаг 2.

Шаг 5. Вывод решения - набора параметров нечеткой модели, выход из алгоритма.

В работе были использованы следующие методы: основанные на производных — градиентный метод, фильтр Калмана, метод

наименьших квадратов, и метаэвристические — генетический алгоритм и алгоритм имитации отжига.

Генетический алгоритм работает с популяцией особей, каждая особь соответствует отдельному решению задачи. В случае настройки параметров антецедентов правил каждый ген хромосомы кодирует один параметр нечеткой модели. В качестве целевой функции выступает ошибка нечеткой модели. Предложено несколько способов формирования текущей популяции: полная замена старой популяции новой, полученной в результате применения операторов скрещивания и мутации; частичная замена, когда формируется «расширенная» популяция, в которую помещаются хромосомы как нового, так и старого поколения; помещение в новую популяцию лучших хромосом из старого поколения и лучших хромосом из нового поколения в отношении 3:7; помещение в новую популяцию лучших хромосом из старого поколения и худших хромосом из нового поколения в отношении 3:7. Описаны условия включения особи в популяцию в зависимости от вида функций принадлежности, параметры которых необходимо настраивать. Определен специфичный оператор мутации.

Алгоритм имитации отжига использует упорядоченный случайный поиск, основываясь на аналогии с процессом охлаждения металла. Параметры функций принадлежности, полученные в результате субъективного разделения данных, формируют текущее решение, которое, при его изменении случайным образом, переходит в рабочее. Рабочее решение может опять вернуться в текущее, либо перейти в лучшее при условии уменьшения ошибки нечеткой модели. Рабочее решение может быть принято в качестве текущего, даже если его ошибка превышает ошибку текущего, в том случае, когда выполняется критерий допуска. При высокой температуре плохие решения принимаются чаще, чем отбрасываются. При снижении температуры вероятность принятия худшего решения уменьшается.

Градиентный метод в практике обучения нечетких правил используется давно. Суть метода заключается в том, что последующее приближение функции получается из предыдущего движением в направлении, противоположном направлению градиента целевой функции. При настройке параметров нечетких моделей целевой функцией является среднеквадратичная ошибка, а вектор параметров определен на множестве параметров антецедентов и консеквентов правил.

Постановка задачи настройки параметров нечетких моделей на основе фильтра Калмана приведена ниже. Состояние системы задается вектором значений параметров функций принадлежности.

Вычисляемой переменной, определенным образом связанной с состоянием системы, является выход нечеткой модели. Два последовательно определенных вектора состояния связаны рекуррентным уравнением (модель процесса). Определенным уравнением связаны вектор измерений и вектор состояний (модель измерения). Процессом для системы является движение по пространству решений задачи, шумы процесса и измерения определяются неточностью в определении нахождения решения в пространстве и неточностью в измерении координат решения, соответственно. Сходимость алгоритма и точность определения параметров нечеткой модели зависят от выбора значений матриц ковариаций шума процесса и шума измерения.

Метод наименьших квадратов используется в работе для настройки параметров консеквентов. Здесь минимизируется сумма квадратов отклонений значений, полученных в результате нечеткого вывода, от наблюдаемых данных.

Разработаны гибридные алгоритмы на базе основанных на производных (градиентный метод, фильтр Калмана, метод наименьших квадратов) и метаэвристических (генетический алгоритм и алгоритм имитации отжига) методов, направленные на объединение преимуществ этих двух групп.

В работе предлагается три способа гибридизации.

Первый способ - двухэтапная настройка параметров модели (рис. 1). Па первом этапе параметры функций принадлежности настраиваются генетическим алгоритмом, а консеквенты - методом наименьших квадратов. На втором этапе параметры функций принадлежности и консеквенты настраиваются градиентным методом или алгоритмом фильтрации Калмана.

I этап П этап

Рис. 1. Схема первого способа гибридизации (ГА - генетический алгоритм, МНК - метод наименьших квадратов, ГМ - градиентный метод, ФК - фильтр Калмана, ФП - функция принадлежности)

Такой подход исключает недостаток основанных на производных методов - неспособность проходить локальные минимумы, и недостаток генетического алгоритма - не всегда точное попадание в глобальный оптимум. Таким образом, используя на начальных этапах генетический алгоритм, вычисляется начальное приближение, локализованное в области экстремума, на заключительном этапе уточняется положение экстремума градиентным методом или фильтром Калмана.

Второй способ. Применение градиентного метода или фильтра Калмана в качестве оператора мутации генетического алгоритма или совместно с ним. При этом часть особей популяции изменяются с использованием градиентного метода (фильтра Калмана), остальные мутируют обычным образом. После настройки антецедентов -настройка консеквентов методом наименьших квадратов.

Третий способ - трехэтапная настройка параметров модели. Предлагается изменить первый способ гибридизации следующим образом: использовать алгоритм имитации отжига для формирования начальной популяции особей генетического алгоритма (рис. 2). Таким образом, сначала алгоритмом имитации отжига генерируется некоторое множество решений задачи, из которых формируется начальная популяция в генетическом алгоритме. После генетического алгоритма и метода наименьших квадратов настройка производится градиентным методом или алгоритмом фильтрации Калмана.

Особь 1

АИО Особь 2 ГА ГМ

Особь рори/_яге МНК ФК

Рис. 2. Схема третьего способа гибридизации (АИО - алгоритм имитации отжига, ГА - генетический алгоритм, МНК - метод наименьших квадратов, ГМ - градиентный метод, ФК - фильтр Калмана)

В третьей главе рассматриваются вопросы проектирования и реализации программного комплекса настройки нечетких моделей на основе метаэвристических, основанных на производных и гибридных методов, приведена структурная схема программного комплекса, произведено описание входящих в комплекс классов и модулей и схема их взаимодействия.

Программный комплекс выполняет следующие функции:

1) формирование базы нечетких правил,

2) настройка параметров антецедентов и консеквентов правил,

3) реализация нечеткого вывода,

4) представление результатов вывода.

Основное требование - наличие описания поведения объекта, заданное в виде таблицы наблюдений.

На рис. 3. представлена функциональная схема программного комплекса.

Взаимодействие между классом нечеткой модели и классами, соответствующих методам настройки осуществляется с помощью дополнительного класса «Идентификация». Такой способ организации взаимодействия позволяет получить универсальные классы для нечеткой модели и методов настройки модели и упрощающая процесс добавления нового метода в программный комплекс. Вынесение модуля пользовательского интерфейса за пределы блока моделирования и расчетов, а также оформление блока моделирования и расчетов в виде сШ-библиотеки позволяет включить разработанную систему классов в конкретную программную систему для построения нечеткой модели изучаемого объекта.

Рис. 3. Функциональная структура программного комплекса настройки параметров нечетких моделей

В четвертой главе содержится описание проведенных экспериментов над нечеткими моделями и алгоритмами настройки.

Для выявления оптимальных параметров алгоритма настройки модели было проведено исследование влияния параметров разработанных алгоритмов на ошибку нечеткой модели. Суть эксперимента заключалась в аппроксимации при помощи нечеткой модели следующих тестовых функций:

1) Дх1,х2) = $к(2-х1/л)$т(2-х2/л), х1,х2е[-5,5];

2) /(х,,х2) = х1-ш.(х2), х,,х2 е [-л/2, л/2];

3) /(х1,х2) = х1+х2-5, х1,х2,/(х„х2)е[0,5].

Эти функции выбраны потому, что представляют различные типы: функции с несколькими экстремумами, гладкие функции и кусочно-линейные. На основе тестовых функций строились таблицы наблюдений, состоящие из 121 строки, и на основе таблиц наблюдений проводилось обучение нечетких моделей. Начальное решение одинаково для всех экспериментов: параметры функций принадлежности получены с помощью субъективного разделения пространства данных, параметры консеквентов получены с применением процедуры диффузии.

В результате проведенных опытов выработаны рекомендации по использованию параметров рассматриваемых методов для решения задачи настройки параметров нечетких моделей.

На рис. 4-6 представлены результаты работы разработанных алгоритмов для каждой из тестовых функций. В левом столбце гистограмм представлена ошибка начального решения, остальные столбцы соответствуют усредненным значениям среднеквадратичной ошибки нечеткой модели для каждого из алгоритмов

Рис. 4. Результаты эксперимента для функции /(х\,х2) = зт(2• х1 /л)■ $\Ы2-х2/ л), хх,х2 е [-5,5]

/(х1,х2) = х1 -вш^), х1,х2 е [-л/2,л/2]

Рис. 6. Результаты эксперимента для функции /(х1,х2) = х1+х2 -5, х1,х2,/{х{,х2)& [0,5]

Анализ экспериментов с гибридными алгоритмами, позволил сделать следующие выводы:

- гибридные алгоритмы на основе метаэвристик и методов, основанных на производных, обеспечивают лучший результат по сравнению с использованием методов по отдельности;

- второй способ гибридизации (использование метода, основанного на производных, совместно с оператором мутации) приводит к наименьшим ошибкам вывода; это объясняется тем, в результате такой мутации получается особь с ошибкой, меньшей, чем до мутации, и генетический алгоритм работает с решениями из областей локальных минимумов;

- совместное применение двух метаэвристических методов дает результат хуже, чем применение метаэвристики совместно с методом, основанным на производных; это объясняется тем, что основанные на производных методы лучше справляются с задачей нахождения локального оптимума после сужения области поиска.

Эксперименты с аппроксимацией поверхностей, зашумленных аддитивным нормально распределенным шумом, показали, что ошибка нечеткого вывода возрастает линейно с ростом дисперсии шума.

Для сравнения разработанных гибридных алгоритмов с существующими подходами построения нечетких моделей было проведено исследование результатов аппроксимации следующих нелинейных функций:

а)

б)

в)

г)

, , 2\\( sin (125/(л:+1,5)))

/(*) = (l + 10-exp(-100-(*-0,7)2))l + '

/(д1,л2) = (1+лГ2+д:;1-3)2,

[0,1].

ЛрДС,е[1,5]; /(х,,х2) /л)ып(2-х1/л), е [-5,5];

= 1+х,0,5 +х2' д^.ХрЯз е [1,5] •

Значения среднеквадратичной ошибки аппроксимации, получаемой разработанными алгоритмами и аналогами для этих функций представлены в табл. 1.

Сравнивая полученные результаты, можно сделать вывод, что предлагаемые в работе гибридные алгоритмы в большинстве рассмотренных случаев позволяют достичь меньших ошибок по сравнению с рассмотренными аналогами.

Таблица 1

Значения среднеквадратичной ошибки аппроксимации функций а)-г) при настройке разработанными гибридными алгоритмами и алгоритмами других

тестовая функция алгоритм количество правил среднеквадратичная ошибка

S. Mitaim и В. Kosko 12 1,426

D. Lisin and М.А. Gennert 12 0,247

а первый гибридный алгоритм 12 0,045

второй гибридный алгоритм 12 0,013

третий гибридный алгоритм 12 0,027

9 0,146

I. Rojas и др 16 0,051

25 0,026

36 0,017

б M. Sugeno и T. Yasukawa 6 0,079

К. Nozaki и др 25 0,0085

You-Wei Teng и др 4 0,016

Z.-J.Lee 3 0,0028

H Wang, и др. 3 0,0052

G. Tsekouras и др. 6 0,0108

Продолжение таблицы 1

тестовая функция алгоритм количество правил среднеквадратичная ошибка

б первый гибридный алгоритм 9 0,0075

16 0,0027

25 0,0013

второй гибридный алгоритм 9 0,0065

16 0,0021

25 0,0007

третий гибридный алгоритм 9 0,0068

16 0,0023

25 0,0016

в 25 менее 0,001

первый гибридный алгоритм 25 0,00055

второй гибридный алгоритм 25 0,00044

третий гибридный алгоритм 25 0,00049

г М. БЬ-АНуап 9 0,00243

первый гибридный алгоритм 27 0,00206

второй гибридный алгоритм 27 0,00081

третий гибридный алгоритм 27 0,00177

В пятой главе рассмотрены алгоритмы построения нечеткого аппроксиматора атмосферных температурных полей: алгоритмы работы с файлами данных формата netCDF, механизмы обучения и проверки нечеткого аппроксиматора.

Выделим две основных фазы построения нечетких аппроксиматоров: обучение и проверка правильности построенного аппроксиматора. Обучение подразумевает определение структуры и настройку параметров нечеткого аппроксиматора.

Таблица наблюдений строится на основе информации из хранилища данных атмосферных температурных полей NCEP (пространственная сетка 2.5°х2.5°, высотная сетка 17 уровней 10-1000 миллибар), которая построена на стандарте хранения и работы с научными данными - netCDF (network Common Data Form). Для определения параметров нечеткой модели используются предложенные методы.

На вход аппроксиматора поступают следующие данные: координаты точки прогнозирования (b*, /*), в которой необходимо определить значение температуры; координаты узлов пространственной сетки 4x4 вместе с известной температурой в этих

узлах (Ь1, V, г''*) (рис. 7). Выбор такой сетки обусловлен критерием компактности базы правил.

I'1 I'-' I' V*1 1]+2 долгота

Рис.7. Входные данные аппроксиматора в виде фрагмента пространственной

сетки

По данным пространственной сетки формируется обучающая и тестовая выборки. Тестовая выборка содержит две строки: (Ь'~1, V, I1' '"') и (Ь', 1'~х, г' -'"1). На обучающей выборке формируется нечеткая модель, которая содержит следующие четырнадцать правил:

1: ЕСЛИЬ = «около¿>,+1» И / = «около /-,"2» ТО г'+1"/"2; 2: ЕСЛИЬ = «около ¿>'+1» И / = «около V'1» ТО г'41-'1; 3: ЕСЛИЬ= «около Ь'*1» И/= «около V» ТО г'+1"/; 4:ЕСЛИЬ= «около Ь, + 1»И/ = «около 1' + 1» ТО /''+1'-'>1; 5: ЕСЛИ Ь = «около Ь'»Ш= «около I'"2» ТО г'"' 2; 6: ЕСЛИЬ = «около Ь'» И1= «около /у» ТО г'1-'; 7: ЕСЛИЬ= «около Ь'» И / = «около /■'+1» ТО 8:ЕСЛИЪ = «около¿>м»И/ = «около Г2» ТО г'"1 •>'2; 9; ЕСЛИ Ь = «около Ь'"1» И / = «около 1'~1» ТО ;

10: ЕСЛИЬ = «околоЬ"1» И/= «около /; + 1» ТО г'1'^1; 11: ЕСЛИЬ = «околоЬ"2» И/= «около /у'2» ТО г''"2'у-2; 12: ЕСЛИ Ь = «около Ь12» ИI = «около 1]~1» ТО 1;

13: ЕСЛИ Ь = «около Ь'~2» ИI = «около I1» ТО г'"2-'; 14: ЕСЛИ Ь = «около Ь'"2» И / = «около 1'+1» ТО /'"2"'+1;

где й и / - входные переменные (широта и долгота, соответственно), г-выходная переменная (температура); «около или «около /у» -функции принадлежности, определенные на переменных широты и долготы, соответственно.

После формирования структуры аппроксиматора необходимо идентифицировать параметры функций принадлежности и параметры

консеквентов. Идентификация параметров производилась с помощью разработанных гибридных методов.

Эксперимент проводился на пространственной сетке 5x5 (рис. 7), контрольной была точка (ЬV, г'';). Тестовая выборка состояла из четырех точек: (&', Г"1, г'-'"1), фи\ V, г'41-'), (Ь\ 1}+\ г''>+|), (Ь'"1, г1"1,7'). Остальные двадцать точек использовались в качестве обучающих, на их основе строилась база из двадцати правил.

Произведены серии экспериментов по проверке качества аппроксимации в различных климатических поясах. В качестве тестовых климатических зон были выбраны следующие зоны: экваториальная зона - 5°с.ш.; зона умеренных широт - 40°с.ш. и полярных широт - 80°с.ш. Для каждой точки проводилась аппроксимация по всем имеющимся уровням давления (рис. 8).

давление, миллибар

Рис.8. Зависимость ошибки от давления Анализ результатов аппроксимации в различных климатических зонах показал, что ошибка аппроксимации при помощи разработанной системы не превышает 0,25К. Такой результат является приемлемым для проведения численных расчетов (ошибка представления профиля температуры в различных задачах атмосферной оптики не должна быть выше 0,5К в тропосфере и 1К в стратосфере).

Заключение. Работа направлена на решение актуальной проблемы разработки технологии построения нечетких моделей на основе наблюдаемых данных, имеющей важное значение для решения задач аппроксимации, классификации, моделирования и управления.

Приводится обобщение основных результатов диссертационной работы, которые состоят в следующем:

1. Разработан и исследован алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии. Нечеткие правила и функции принадлежности покрывают весь универсум, на котором они определены. Переход от одной функции принадлежности к другой не содержит разрывов.

2. Разработаны алгоритмы настройки параметров на основе градиентного метода, фильтра Калмана, генетического алгоритма, метода наименьших квадратов и алгоритма имитации отжига. Сходимость алгоритма зависит от правильности выбора параметров метода, которым осуществляется настройка. После проведения ряда экспериментов, сформированы рекомендации по выбору параметров разработанных алгоритмов.

3. Разработаны гибридные алгоритмы на основе классических (градиентный метод, фильтр Калмана, метод наименьших квадратов) и метаэвристических (генетический алгоритм и алгоритм имитации отжига) методов. В результате экспериментов получено, что такое объединение повышает качество решений по сравнению с использованием методов по отдельности. Разработанные алгоритмы позволяют уменьшить ошибку аппроксимации по сравнению с алгоритмами, предлагаемыми другими авторами.

4. Разработан программный комплекс, который, в отличие от известных систем нечеткого моделирования Fuzzy Logic Toolbox, CubiCalc, fuzzyTech, ориентированных на знания эксперта, позволяет формировать нечеткие модели, как на основе знаний эксперта, так и на основе наблюдаемых данных. Разработанная система классов может быть встроена в конкретную программную систему для построения нечеткой модели изучаемого объекта.

5. Разработана и реализована программная система, позволяющая аппроксимировать данные температурных полей при помощи нечетких моделей. Система включает в себя средства настройки нечетких моделей и интерфейс для доступа к данным формата netCDF. Разработанные в рамках системы алгоритмы универсальны и могут быть применены не только к базам атмосферных температурных полей, но и к другим данным формата netCDF.

Список публикаций по теме работы

1. Ходашинский И.А., Лавыгина A.B. Применение генетического алгоритма для обучения нечетких систем типа синглтон // Обозрение прикладной и промышленной математики. - 2007. - т. 14, вып. 6. - С. 1143-1144 (список ВАК).

2. Ходашинский И.А., Дудин П.А., Лавыгина A.B. Биоинспирированные методы параметрической идентификации нечетких моделей // Доклады Томского государственного университета систем управления и радиоэлектроники. - 2007. - С.81-92 (список ВАК).

3. Ходашинский И.А., Лавыгина A.B. Оценивание величин как основа построения имитационно-лингвистических систем // Сборник статей, посвященных 40-летнему юбилею со дня образования кафедры автоматизации обработки информации. - Томск: Томск, гос. ун-т управления и радиоэлектроники. - 2005. - С. 215-220.

4. Лавыгина A.B. Формирование нечетких правил по данным наблюдений // Фундаментальные проблемы новых технологий в 3-м тысячелетии: Материалы 3-й Всероссийской конференции молодых ученых. Томск: изд-во Института оптики атмосферы СО РАН. - 2006. -С. 682-684.

5. Лавыгина A.B. Применение генетических алгоритмов для параметрической идентификации нечетких моделей II Материалы XLV Международной научной конференции «Студент и научно-технический прогресс»: Информационные технологии, 2007. - С. 195-196.

6. Лавыгина A.B. Структурная идентификация нечетких моделей типа ноль с использованием генетического алгоритма // Материалы докладов Всероссийской научно-технической конференции студентов, аспирантов и молодых ученых «Научная сессия ТУСУР-2007» — Томск, 2007. - С. 175-177.

7. Бредихин М.Ю., Лавыгина A.B., Никитин Е.В., Ходашинский И.А., Хон В.Б. Программная система параметрической идентификации нечетких моделей типа Мамдани, основанная на генетическом алгоритме // Журнал «Компьютерные учебные программы и инновации». - М: ГОСКООРЦЕНТР, МФЮА, РУИ. - 2007. - N 7. - С. 162-163.

8. Ходашинский И.А., Лавыгина A.B. Идентификация нечетких моделей: проект и реализация // Труды Второй научно-методической конференции «Групповое проектное обучение» Т.2. — Томск: Томск, гос. ун-т управл. и радиоэлектроники, 2007. - С. 78-80.

9. Лавыгина A.B. Фильтр Калмана в задаче настройки антецедентов правил нечетких моделей / Материалы XLVI Международной научной конференции «Студент и научно-технический прогресс»: Информационные технологии. Новосиб. гос. университет. Новосибирск, 2008. - С. 200-201.

10. Головкина М.А, Лавыгина A.B. Влияние типа функций принадлежности на ошибку вывода нечетких моделей при настройке генетическим алгоритмом // Материалы докладов Всероссийской научно-технической конференции студентов, аспирантов и молодых ученых. Томск, 2008 г.: В пяти частях. 4.2. -Томск. В-Спектр, 2008. - С. 72-75.

11. Лавыгина A.B. Генетический алгоритм и основанные на производной методы в оптимизации нечетких моделей // Материалы докладов

Всероссийской научно-технической конференции студентов, аспирантов и молодых ученых. Томск, 2008 г.: В пяти частях. 4.2. - Томск. В-Спектр, 2008. -С. 81-84.

12. Лавыгина A.B., Осадченко Д.А. Применение алгоритма фильтрации Калмана для параметрической идентификации нечетких моделей типа синглтон // Материалы докладов Всероссийской научно-технической конференции студентов, аспирантов и молодых ученых. Томск, 2008 г.: В пяти частях. 4.2. - Томск. В-Спектр, 2008. - С. 86-89.

13. Ходашинский И.А., Лавыгина A.B. Применение генетического алгоритма и фильтра Калмана для идентификации нечетких моделей // Математические методы в технике и технологиях - ММТТ-21: сб. трудов XXI Международ. Науч.конф. в 10 т. Т.2. / под общ.ред. B.C. Балакирева. Саратов: Сарат. гос. техн.ун-т, 2008. - С. 204-207.

14. Лавыгина A.B., Осадченко Д.А., Ходашинский И.А. Программа параметрической идентификации нечетких моделей типа синглтон на основе фильтра Калмана II Компьютерные учебные программы и инновации - 2008. -№ 7. - С. 94.

15. Ходашинский И.А., Дудин П.А., Лавыгина A.B. Гибридные методы оптимизации параметров нечетких моделей // Труды Международной научно-технической конференции «Интеллектуальные системы» (IEEE AIS'08) Т.2. -М.: Физматлит, 2008. - С. 105-110.

16. Лавыгина A.B. Особенности использования генетического алгоритма и фильтра Калмана в задаче настройки параметров нечетких моделей // Перспективы развития телекоммуникационных систем и информационные технологии: труды международной конференции - СПб.: Изд-во Политехи, унта, 2008. - С. 242-246.

17. Ходашинский И.А., Гнездилова В.Ю., Дудин П.А., Лавыгина A.B. Основанные на производных и метаэвристические методы идентификации параметров нечетких моделей // Труды VIII международной конференции "Идентификация систем и задачи управления" SICPRO '08. Москва, 26-30 января 2009 г. Институт проблем управления им. В.А. Трапезникова РАН. М: Институт проблем управления им. В.А. Трапезникова РАН, 2009. - С. 501-529

18. Эпштейн Д.В., Лавыгина A.B. Нечеткий аппроксиматор атмосферных температурных полей // Материалы докладов Всероссийской научно-технической конференции студентов, аспирантов и молодых ученых. Томск, 2009 г.: В пяти частях. 4.2. —Томск. В-Спектр, 2009. - С. 99-101.

19. Лавыгина A.B. Ходашинский И.А. Нечеткие системы: учебно-методическое пособие к лабораторным работам по дисциплине «Базы знаний» / A.B. Лавыгина, И.А. Ходашинский. - Томск. Томск, гос. ун-т систем управления и радиоэлектроники, 2009. - 44 с.

Диссертант выражает искреннюю благодарность за ценные указания и поддержку научному руководителю д.т.н. Ходашинскому И.А., профессору кафедры АСУ, д.т.н. Катаеву М.Ю., аспиранту каф. АОИ Дудину П.А., выпускнику каф. АОИ Эпштейну ДВ и студентке каф. АОИ Осадченко Д.А.

Заказ 74. Тираж 100 экз. Томский государственный университет систем управления и радиоэлектроники. 634050, г. Томск, пр. Ленина, 40. Тел. (3822) 533018.

Введение.

Глава 1. Нечеткая идентификация. Обзор литературы.

1.1 Нечеткие системы моделирования.

1.2 Методы настройки параметров нечетких моделей.

1.2.1 Методы, основанные на производных.

1.2.2 Метаэвристические методы.

1.2.3 Гибридные алгоритмы.

1.3 Методы структурной идентификация нечетких моделей.

1.4 Пакеты программ нечеткого моделирования.

1.5 Постановка задачи.

Выводы.

Глава 2. Алгоритмическое обеспечение систем нечеткой идентификации

2.1 Инициализация параметров нечеткой модели.

2.1.1 Субъективное разделение данных.

2.1.2 Инициализация консеквентов правил.

2.2 Настройка параметров нечетких моделей.

2.2.1 Модифицированный генетический алгоритм для настройки параметров нечетких моделей.

2.2.2 Особенности применения алгоритма имитации отжига для настройки параметров нечетких моделей.

2.2.3 Особенности применения метода наименьших квадратов для настройки параметров нечетких моделей.

2.2.4 Особенности применения метода градиентного спуска для настройки параметров нечетких моделей.

2.2.5 Особенности применения фильтра Калмана для настройки параметров нечетких моделей.

2.2.6 Гибридные алгоритмы настройки параметров нечеткой модели на основе метаэвристических методов и методов, основанных на производных.

Выводы.

Глава 3. Программно-инструментальное обеспечение систем настройки нечетких моделей.

3.1 Взаимодействие нечеткой модели и метода настройки модели.

3.3 Описание типов данных, классов и модулей программной системы

3.3.1 Типы данных.

3.3.2 Класс TFuzzySystem.

3.3.3 Класс TGeneticAlgorithm.

3.3.4 Класс Т Annealing Algorithm.

3.3.5 Класс TKalmanFilter.

3.3.6 Класс TGradient.

3.3.7 Модуль Matrices.

3.3.8 Класс ^Identification.

3.4 Описание пользовательского интерфейса.

Выводы.

Глава 4. Имитационное исследование разработанных алгоритмов настройки нечетких моделей.

4.1 Исследование работы генетического алгоритма для настройки параметров нечетких моделей.

4.2 Исследование работы алгоритма имитации отжига при настройке параметров нечеткой модели.

4.3 Исследование фильтра Калмана.

4.4 Исследование метода градиентного спуска.

4.5 Исследование метода наименьших квадратов.

4.6 Исследование разработанных гибридных алгоритмов.

4.7 Исследование разработанных гибридных алгоритмов на зашумленных данных.

4.8 Сравнение разработанных гибридных алгоритмов с аналогами.

Выводы.

Глава 5. Нечеткий аппроксиматор атмосферных температурных полей.

5.1 Проблема пространственной интерполяции метеорологических данных.

5.2 Программное обеспечение netCDF.

5.3 Программная система нечеткой аппроксимации атмосферных температурных полей.

5.4 Работа с файлами данных формата netCDF.

5.5 Построение нечеткого аппроксиматора.

5.6 Эксперимент с нечетким аппроксиматором.

Выводы.

Актуальность работы

При моделировании сложных систем исследователи сталкиваются с неточным или неполным описанием изучаемого объекта. Решением такой проблемы является нечеткое моделирование.

Технология нечеткого моделирования применяется при невозможности построения аналитической модели изучаемого объекта, либо слишком большой сложности такой модели, либо отсутствии достаточного опыта для построения экспертных систем, либо недостаточности экспериментальных данных для статистического моделирования.

Нечеткие модели находят широкое применение в таких проблемных областях как распознавание образов, прогнозирование и моделирование, управление и принятие решений. Они встроены в огромное количество промышленных изделий, начиная с роботов и систем управления электропоездами, и заканчивая такими потребительскими товарами, как фото- и видеокамеры, кондиционеры стиральные машины и др. К преимуществам нечетких моделей относятся невысокая стоимость разработки, интуитивно понятная логика функционирования, гибкость.

Базовая концепция нечеткого моделирования заключается в использовании степени принадлежности, которая является эффективным средством описания поведения плохо формализованных объектов, систем и процессов. Построение нечетких моделей возможно на основе наблюдаемых данных, а также с использованием априорного знания и опыта, которые могут быть неточными и иметь неколичественный характер.

Основополагающие результаты в области нечеткого моделирования получили А.Н. Аверкин, И.З. Батыршин, JI.C. Берштейн, С.М. Ковалев, Л.Г. Комарцова, Ю.И. Кудинов, А.О. Недосекин, Ф.Ф. Пащенко, В.Б.Тарасов, А.В. Язенин, Н.Г. Ярушкина, P. Angelov, R. Babuska, A. Bastian, J.С. Bezdek, J. Casillas, J.L. Castro, O. Cordon, D. Dubois, D. Filev, J. Gonzalez, S. Guillaume,

F. Herrera, H. Ishibuchi, U. Kaymak, B. Kosko, R. Krishnapuram, R. Kruse, E.H. Mamdani, J. M. Mendel, S. Oh, W. Pedrycz, H. Prade, M. Sugeno, T. Takagi, H. Tanaka, I. B. Turksen, R.R. Yager, T.Yasukawa, L.-X.Wang, L. Zadeh.

Однако анализ литературных источников показал, что при разработке нечетких моделей не приводятся убедительные доказательства выбора структуры и параметров таких моделей, а представленные результаты по нечеткому моделированию зачастую имеют характер лабораторных исследований. Отсутствуют пакеты программ с достаточными средствами настройки нечетких моделей на основе наблюдаемых данных.

Цель работы

Целью диссертационной работы является разработка и исследование гибридных алгоритмов настройки параметров нечетких моделей, обеспечивающих повышение качества решений при умеренном количестве ресурсов, и программного комплекса нечеткого моделирования, позволяющего производить настройку модели на основе наблюдаемых данных.

Для достижения поставленной цели необходимо решить следующие задачи:

1) исследование существующих методов настройки нечетких моделей;

2) реализация гибридных алгоритмов настройки параметров нечетких моделей на базе метаэвристик и методов, основанных на производных;

3) проведение исследований разработанных алгоритмов на контрольных примерах;

4) разработка программного комплекса настройки нечетких моделей на основе предложенных алгоритмов.

Объект и предмет исследования

Объектом исследования является процесс настройки нечетких моделей. Предметом исследования является комплекс алгоритмов и программ настройки параметров антецедентов и консеквентов правил.

Методы исследования

В диссертационной работе применялись методы искусственного интеллекта, теории нечетких множеств, теории вероятности и математической статистики, линейной алгебры, структурного и объектно-ориентированного программирования.

Достоверность результатов

Степень достоверности результатов обеспечивается строгостью применения математических методов, результатами проведенных численных экспериментов, которые сопоставлены с данными, полученными другими авторами.

Научная новизна

Научной новизной обладают следующие результаты диссертационной работы:

1. Разработан двухэтапный алгоритм настройки параметров нечеткой модели; на первом этапе параметры функций принадлежности настраиваются генетическим алгоритмом, а параметры консеквентов - методом наименьших квадратов; на втором этапе параметры функций принадлежности и консеквенты настраиваются градиентным методом или алгоритмом фильтрации Калмана. Такой алгоритм исключает недостаток методов, основанных на производных, и недостаток генетического алгоритма.

2. Впервые для настройки параметров нечетких моделей разработан гибридный алгоритм, в котором алгоритм имитации отжига генерирует множество начальных решений для грубой настройки параметров нечеткой модели генетическим алгоритмом. Точная настройка производится градиентным методом или алгоритмом фильтрации Калмана.

3. Впервые использован градиентный метод и фильтр Калмана в качестве оператора мутации генетического алгоритма для настройки параметров нечетких моделей. При этом часть особей популяции изменяются с использованием градиентного метода или фильтра Калмана, остальные мутируют обычным образом. После настройки антецедентов осуществляется настройка консеквентов методом наименьших квадратов.

4. Разработан алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии который в отличие от известных учитывает свойства таблицы наблюдений и требования полного покрытия лингвистическими термами области определения входной переменной.

Теоретическая значимость

Теоретическая значимость работы заключается в развитии технологии построения нечетких моделей. Предложенные алгоритмы могут быть применены для решения задач оптимизации с непрерывно меняющимися параметрами.

Практическая ценность

Обоснованность предложенных алгоритмов подтверждена использованием их для решения практических задач. Программная система нечеткой аппроксимации атмосферных температурных полей внедрена в Институте оптики атмосферы имени В.Е.Зуева СО РАН.

Результаты исследований использованы в следующих проектах:

1) проект РФФИ № 06-08-00248 «Основанное на данных нечеткое моделирование технических систем» (2006 - 2007 гг.)

2) проект РФФИ № 09-07-99008 «Исследование и разработка технологии идентификации нечетких моделей на базе метаэвристик и методов, основанных на производных» » (2009 - 2010 гг.);

3) проекта «Основанные на метаэвристиках и производных гибридные алгоритмы идентификации нечетких систем и программно-инструментальный комплекс нечеткого моделирования» программы «Участник молодежного научно-инновационного конкурса» (У.М.Н.И.К.).

Разработанные алгоритмы построения нечетких моделей на основе таблиц наблюдений используются при проведении лабораторных работ по дисциплине «Базы знаний» на кафедре автоматизации обработки информации

Томского государственного университета систем управления и радиоэлектроники.

Часть программно-инструментальных средств передана в отраслевой фонд алгоритмов и программ Министерства образования Российской федерации (номера государственной регистрации 50200602165, 50200800872).

Предложенные алгоритмы и программный комплекс при небольших доработках могут быть применены для решения задач оптимизации с непрерывно меняющимися параметрами.

Алгоритмы, разработанные в рамках программной системы нечеткой аппроксимации атмосферных температурных полей, универсальны и могут быть применены не только к базам атмосферных температурных полей, но и к другим данным формата netCDF.

Основные защищаемые положения

1. Разработанные гибридные алгоритмы настройки параметров нечетких моделей позволяют уменьшить ошибку вывода на порядок по сравнению с использованием методов по отдельности и в несколько раз по сравнению с алгоритмами, предлагаемыми другими авторами.

2. Алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии генерирует только корректно заданные параметры нечетких моделей и позволяет уменьшить время настройки нечетких моделей по сравнению со случайным формированием базы правил.

3. Программный комплекс, позволяющий настраивать нечеткие модели, как на основе наблюдаемых данных, так и на основе знаний эксперта, в отличие от известных систем нечеткого моделирования, ориентированных только на знание эксперта.

Апробация работы

Основные положения работы докладывались и обсуждались на Томском IEEE семинаре "Интеллектуальные системы моделирования, проектирования и управления", на семинарах кафедр АОИ и АСУ ТУ СУР, на научных и научно-технических конференциях, в том числе на 3-й Всероссийской конференции молодых ученых, г. Томск, 2006 г., Международной конференции «Workshop on INTAS programmes supporting young scientists, their followup and European dimension of further prospective for young scientists», г. Томск, 2007 г., XLV и XLVI Международных научных конференциях «Студент и научно-технический прогресс», г. Новосибирск, (2007, 2008 гг.), Всероссийской научно-технической конференции «Научная сессия ТУСУР», г. Томск, 2007, 2008, 2009 гг., Всероссийской конференции по вычислительной математике КВМ-2009, г. Новосибирск, 2009 г.

Доклады на конференциях Научная сессия ТУСУР в 2007 и 2008 гг. были награждены дипломами третьей и первой степени соответственно.

Публикации по теме работы

По теме диссертации опубликовано 19 печатных работ, из них две — в периодических изданиях, рекомендованных ВАК России для публикации научных работ, получено два свидетельства об официальной регистрации программной системы для ЭВМ в ОФАП, одно учебно-методическое пособие.

Личный вклад автора

Постановка задачи, а также подготовка материалов к печати велась совместно с научным руководителем. Основные научные результаты получены автором самостоятельно. Автором самостоятельно разработан комплекс программ настройки нечетких моделей.

Структура и объем работы

Диссертационная работа состоит из введения, пяти глав и заключения. Объем работы составляет 180 страниц. Список литературы содержит 108 наименований.

Выводы

1. Построение нечетких аппроксиматоров включает две основных фазы: обучение и проверка правильности построенного аппроксиматора.

Обучающая и тестовая выборки формируются из таблицы наблюдений, которая строится на основе информации из хранилища данных атмосферных температурных полей NCEP. Нечеткий аппроксиматор включает в себя средства нечеткого моделирования.

2. Анализ результатов аппроксимации в различных климатических зонах показал, что ошибка аппроксимации при помощи разработанной системы не превышает 0,25 К. Такой результат является вполне приемлемым для проведения численных расчетов (точность представления профиля температуры в различных задачах атмосферной оптики не должна быть выше 0,5К в тропосфере и 1К в стратосфере).

3. Разработана и реализована программная система, позволяющая аппроксимировать данные температурных полей при помощи нечетких моделей. Система включает в себя средства настройки нечетких моделей и интерфейс для доступа к данным формата netCDF. Разработанные в рамках системы алгоритмы универсальны и могут быть применены не только к базам атмосферных температурных полей, но и к другим данным формата netCDF.

4. Система нечеткой аппроксимации атмосферных температурных полей внедрена в Институте оптики атмосферы имени В.Е.Зуева СО РАН (Приложение В).

ЗАКЛЮЧЕНИЕ

Работа направлена на решение актуальной проблемы разработки технологии построения нечетких моделей на основе наблюдаемых данных, имеющей важное значение для решения задач аппроксимации, классификации, моделирования и управления.

К основным результатам, полученным в данной диссертационной работе, можно отнести следующие:

1. Разработан и исследован алгоритм формирования базы нечетких правил на основе субъективного разделения данных и процедуры диффузии. Нечеткие правила и функции принадлежности покрывают весь универсум, на котором они определены. Переход от одной функции принадлежности к другой не содержит разрывов.

2. Разработаны алгоритмы настройки параметров на основе градиентного метода, фильтра Калмана, генетического алгоритма, метода наименьших квадратов и алгоритма имитации отжига. Сходимость алгоритма зависит от правильности выбора параметров метода, которым осуществляется настройка. После проведения ряда экспериментов, сформированы рекомендации по выбору параметров разработанных алгоритмов.

3. Разработаны гибридные алгоритмы на основе классических (градиентный метод, фильтр Калмана, метод наименьших квадратов) и метаэвристических (генетический алгоритм и алгоритм имитации отжига) методов. В результате экспериментов получено, что такое объединение повышает качество решений по сравнению с использованием методов по отдельности. Разработанные алгоритмы позволяют уменьшить ошибку аппроксимации по сравнению с алгоритмами, предлагаемыми другими авторами.

4. Разработан программный комплекс, который, в отличие от известных систем нечеткого моделирования Fuzzy Logic Toolbox, CubiCalc, fuzzy Tech, ориентированных на знания эксперта, позволяет формировать нечеткие модели, как на основе знаний эксперта, так и на основе наблюдаемых данных. Разработанная система классов может быть встроена в конкретную программную систему для построения нечеткой модели изучаемого объекта.

5. Разработана и реализована программная система, позволяющая аппроксимировать данные температурных полей при помощи нечетких моделей. Система включает в себя средства настройки нечетких моделей и интерфейс для доступа к данным формата netCDF. Разработанные в рамках системы алгоритмы универсальны и могут быть применены не только к базам атмосферных температурных полей, но и к другим данным формата netCDF.

1. Балакришнан, А. В. Теория фильтрации Калмана : Пер. с англ. / А. В. Балакришнан ; пер. С. М. Зуев, ред. пер. А. А. Новиков. М. : Мир, 1988.- 166 с.

2. Брандт 3. Анализ данных. Статистические и вычислительные методы для научных работников и инженеров / Зигмунд Брандт ; пер. с англ. О. И. Волкова; ред. пер. : Е. В. Чепурин. М. : Мир, 2003. - 686 с.

3. М: ГОСКООРЦЕНТР, МФЮА, РУИ 2007. - N 7. - С. 162-163.

4. Джонс М.Т. Программирование искусственного интеллекта в приложениях / М.Тим Джонс ; пер. с англ. Осипов А.И. М.: ДМК Пресс, 2004.-312 с.

5. Катаев М.Ю. Интерполяция метеорологической информации базы данных NCEP на произвольную пространственную точку / М.Ю. Катаев, С.Г. Катаев, А.В. Кусков ENVIROMIS-2008, Tomsk, Russia. - С.55.

6. Кисляков А.В. Генетические алгоритмы: операторы скрещивания и мутации / А.В. Кисляков // Информационные технологии. 2001. - №1.- С.29-34.

7. Котов A.M. Кластеризация данных: Алгоритмы кластерного анализа / A.M. Котов, Н.И. Красильников, 2006. Режим доступа: http://logic.pdmi.ras.ru/

8. Корнеев В.В. Базы данных. Интеллектуальная обработка информации /

9. B.В. Корнеев, А.Ф. Гареев, С.В. Васютин, В.В. Райх. М.: «Нолидж», 2000.-352 с.

10. Курейчик В.М. Эволюционные методы решения оптимизационных задач: Монография/В.М. Курейчик. Таганрог: Изд-во ТРТУ, 1999.

11. Курейчик В.М. Генетические алгоритмы: Монография / В.М. Курейчик. Таганрог: Изд-во ТРТУ, 1998.

12. Лавыгина А.В. Программа параметрической идентификации нечетких моделей типа синглтон на основе фильтра Калмана / А.В. Лавыгина, Д.А. Осадченко, И.А. Ходашинский // Компьютерные учебные программы и инновации 2008. - N 7. - С. 94.

13. Леоненков А.В. Нечеткое моделирование в среде MATLAB и fuzzy'TECH / А.В. Леоненков. СПб.: БХВ-Петербург. - 2003. - 736 с.

14. Наставление по глобальной системе обработки данных и прогнозирования. ТОМ I (Дополнение IV к Техническому регламенту ВМО), ВМО-№ 485, Октябрь 2005 г. - 173 с.

15. Подлазова А.В. Генетические алгоритмы на примерах решения задач раскроя / А.В. Подлазова // Проблемы управления. 2007. - № 4.1. С. 57-63.

16. Рутковская Д. Нейронные сети, генетические алгоритмы и нечеткие системы / Д. Рутковская, М. Пилиньский, Л. Рутковский. М.: Горячая линия - Телеком, 2006. - 452 с.

17. Ходашинский И.А. Формальнологический метод и аппроксимация Мамдани в нечетком оценивании величин / И.А. Ходашинский // Автометрия. -2006. № 1. - С. 55-67.

18. Ходашинский И.А. Биоинспирированные методы параметрической идентификации нечетких моделей / И.А. Ходашинский, П.А. Дудин, А.В. Лавыгина // Доклады Томского государственного университета систем управления и радиоэлектроники. 2007. - С.81-92.

19. Ходашинский И.А. Применение генетического алгоритма для обучения нечетких систем типа синглтон / И.А. Ходашинский, А.В. Лавыгина // Обозрение прикладной и промышленной математики. 2007. - т. 14, вып. 6.-С. 1143-1144.

20. Ходашинский И.А. Оценивание величин как основа построения имитационно-лингвистических систем / И.А. Ходашинский, А.В.

21. Лавыгина // Сборник статей, посвященных 40-летнему юбилею со дня образования кафедры автоматизации обработки информации. Томск: Томск, гос. ун-т управления и радиоэлектроники. - 2005. - С. 215-220.

22. Штовба С.Д. Введение в теорию нечетких множеств и нечеткую логику: Нечеткая кластеризация / С.Д. Штовба, 2002. Режим доступа: http://matlab.exponenta.ru/.

23. Штовба С.Д. Идентификация нечетких зависимостей в системе MATLAB / С.Д. Штовба // Математика в приложениях, 2003. №2. -72 с.

24. Aliyari М. Sh. Novel Hybrid Learning Algorithms for Tuning ANFIS Parameters Using Adaptive Weighted PS О / M. Aliyari. Sh, M. Teshnehlab, A. K. Sedigh // IEEE International Conference on Fuzzy Systems. 2007. -P. 111-116.

25. Bezdek J.G., Pattern Recognition with Fuzzy Objective Function Algorithms / J.G. Bezdek Plenum Press, New York, 1981.

26. Castellano G. A GA-based approach to optimization of fuzzy models learned from data / G. Castellano, A.M. Fanelli, E. Gentile, T. Roselli, // GECCO-2002 Program, New York. 2002. - P. 5-8.

27. Castro J.L. Use of a fuzzy machine learning technique in the knowledge acquisition process / J.L.Castro, J.J.Castro-Schez, J.M.Zurita // Fuzzy Sets and Systems. 2001. - V. 23. - P. 307 -320.

28. Cerradaa M. Dynamical membership functions: an approach for adaptivefuzzy modeling / M. Cerradaa, J. Aguilar, E. Colinac, A. Titli // Fuzzy Sets and Systems. 2005. - No.152. - P. 513-533.

29. Chatterjee A. A Neuro-Fuzzy Assisted Extended Kalman Filter-Based Approach for Simultaneous Localization and Mapping (SLAM) Problems / Amitava Chatterjee and Fumitoshi Matsuno // IEEE TRANSACTIONS ON FUZZY SYSTEMS. 2007. - V. 15, No. 5. - P.984-997.

30. Delgado M. A metodology to model fuzzy systems using fuzzy clustering in rapid-prototyping approach / M. Delgado et al // Fuzzy Sets and Systems. -1998.-No. 97.-P. 285-301.

31. Di Nola A. An Evolutionary Approach to Spatial Fuzzy c-Means Clustering / Antonio Di Nola, Vincenzo Loia, Antonino Staiano // Fuzzy Optimization and Decision Making. Kluwer Academic Publishers. Printed in The Netherlands. -2002.-No. l.-P. 195-219.

32. Dreo J. Metaheuristics for hard optimization. Methods and case studies / J. Dreo, A. Petrowski, P. Siarry, E.Taillard Berlin: Springer. - 2006. - 369 p.

33. Emami M. R. Development of A Systematic Methodology of Fuzzy Logic Modeling / M. R. Emami, I. B. Turksen, A. A. Goldenberg // IEEE Transactions on Fuzzy Systems. 1998. - V. 6, No 3. - P. 346-361

34. Emami M. R. A unified parameterized formulation of reasoning in fuzzy modeling and control / M. R. Emami, I. B. Turksen, A. A. Goldenberg // Fuzzy Sets and Systems. 1999. - No. 108 - P. 59-81.

35. Espinosa J. Fuzzy logic, identification and predictive control / J. Espinosa, J. Vandewalle, V. Wertz. London: Springer-Verlag, 2005. - 263 p.

36. Evsukoff A. Structure identification and parameter optimization for non-linear fuzzy modeling / Alexandre Evsukoff, Antonio C.S. Brancoa, Sylvie Galichet // Fuzzy Sets and Systems. 2002. - No. 132. - P. 173 - 188.

37. Garibaldi J.M. Application of Simulated Annealing Fuzzy Model Tuning to Umbilical Cord Acid-Base Interprettion / J. M Garibaldi, E. С Ifeachor // IEEE Transactions On Fuzzy Systems. -1998. -V. 7, No. 1. P. 72-84.

38. Gaweda A.E. Data-Driven Linguistic Modeling Using Relational Fuzzy Rules / Adam E. Gaweda, Jacek M. Zurada // IEEE Transactions On Fuzzy Systems. -2003.-V. 11, No. 1. P. 121-134.

39. Goldberg D.E. Genetic algorithms in search, optimization and machine learning/ D.E.Goldberg. MA : Addison-Wesley, 1989. - 412 p.

40. Guillaume S. Designing Fuzzy Inverence Sustems from Data: An Unterpretability-Oriented Review / S.Guillaume // IEEE Transactions on Fuzzy Systems. 2001. -V. 9, No. 3. - P. 226-242.

41. Gustafson D. Fuzzy clustering with a fuzzy covariance matrix / D. Gustafson, W. Kessel // Proc. of the IEEE CDC. San Diego, CA, USA. - 1979. - P. 761-766.

42. Hart W.E. Evolutionary Pattern Search Algorithms for Unconstrained and Linearly Constrained Optimization / William E. Hart // IEEE Transactions On Evolutionary Computation. 2001. - V. 5, No. 4, - P.388-397.

43. Hartnett E., The NetCDF Tutorial. NetCDF the Easy Way.NetCDF Version 4.0 Электронный ресурс. Unidata Program Center, 2007. - 134 c. -Режим доступа: http://www.unidata.ucar.edu

44. Holland J.H. Adaptation in Natural and Artificial Systems / J.H. Holland -The University of Michigan Press, University of Michigan, AnnArbor, 1975.

45. Iqbal A. Simulated Annealing Assisted Optimization of Fuzzy Rules for Maximizing Tool Life in High-Speed Milling Process / Asif Iqbal, Ning He, Liang Li, Naeem Ullah Dar // Artificial Intelligence and Applications. 2006. -P. 335-340.

46. Kalnay E. The NCEP/NCAR 40-year reanalysis project / E. Kalnay // Bull Am. Meteorol. Soc. 1996. - V.77. - P. 437-471.

47. Kang SJ. Evolutionary Design of Fuzzy Rule Base for Nonlinear System Modeling and Control / Sin-Jun Kang, Chun-Hee Woo, Hee-Soo Hwang, Kwang B. Woo // IEEE Transactions on Fuzzy Systems. 2000.- V. 8, No. 1. -P. 37-45.

48. Kennedy J. Particle Swarm Optimization / J. Kennedy, R. Ebenhart // Proceedings of the 1995 IEEE International Conference on Neural Networks. Perth: IEEE Service Center. - 1995. - P. 1942-1948.

49. Kirkpatrick S. Optimization by simulated annealing / S. Kirkpatrick, C. D. Gelatt, M.P. Vecchi // Science. -1983. -V. 220 P. 671-680.

50. Kosko B. Fuzzy systems as universal approximators / B. Kosko // IEEE Trans. Computers. 1994. -V. 43. - P. 1329-1333.

51. Kumar M. Deterministic Approach to Robust Adaptive Learning of Fuzzy Models / Mohit Kumar, Regina Stoll, Norbert Stoll // IEEE Transactions On Systems, Man, And Cybernetics- Part B: Cybernetics. 2006 - V. 36, No. 4 -P. 767-780.

52. Lee Z.-J. A novel hybrid algorithm for function approximation / Zne-Jung Lee // Expert Systems with Applications. 2008. - V. 34 - P. 384-390.

53. Lisin D. Optimal Function Approximation Using Fuzzy Rules / Dimitri Lisin and Michael A. Gennert // Proc. Int. Conf. North American Fuzzy Information Processing Society. 1999. - P. 184-188.

54. Liu Y. Application of particle swarm optimization algorithm for weighted fuzzy rule-based system/ Y. Liu, X. Zhu, J. Zhang and S. Wang // Proc. Annual Conference of IEEE Industrial Electronics Society. IECON, Busan, Korea.-P. 2188-2191.

55. Matia F. The fuzzy Kalman filter: State estimation using possibilistic techniques / Fernando Matia, Agustin Jimenez, Basil M. Al-Hadithi, Diego Rodriguez-Losada, Ramyn Galan // Fuzzy Sets and Systems. 2006 . - No. 157.-P. 2145-2170.

56. Mitaim S. What is he best shape for a fuzzy set in function approximation? / S. Mitaim and B. Kosko // In Proc. Fifth IEEE Int. Conf Fuzzy Systems. -New Orleans, LA. 1996. - Vol. 2. - P. 1237-1243.

57. Nascimento S. Modeling Proportional Membership in Fuzzy Clustering / Susana Nascimento, Boris Mirkin, and Fernando Moura-Pires // IEEE Transactions on Fuzzy Systems. 2003. - V. 11, No. 2. - P.173- 186.

58. Nounou H.N. Hazem N. Multiscale fuzzy Kalman filtering / Nounou, Mohamed N. Nounou // Engineering Applications of Artificial Intelligence. -2006. No. 19. - P. 439-450.

59. Nozaki K. A simple but powerful method for generating fuzzy rules from numerical data / K. Nozaki, H. Ishibuchi, H. Tanaka // Fuzzy Sets and Systems. 1997. - V. 86. - P. 251-270.

60. Nunnari G. Modelling air pollution time-series by using wavelet functions and genetic algorithms / G. Nunnari // Soft Computing. Springer-Verlag. 2004. -No 8. -P.173-178.

61. Oh S.K. Fuzzy Relation-Based Neural Networks and Their Hybrid Identification /Sung-Kwun Oh, Witold Pedrycz, Ho-Sung Park // IEEE Transactions On Instrumentation And Measurement. 2007. - V. 56, No. 6. -P.2252-2237.

62. Parsopoulos K.E. Recent approaches to global optimization problems through Particle Swarm Optimization / K.E. Parsopoulos, M.N. Vrahatis // Natural Computing. 2002. - V. 1. - P. 235-306.

63. Pedrycz W. Evolutionary Fuzzy Modeling / Witold Pedrycz, Marek Reformat // IEEE Transactions on Fuzzy Systems. 2003. - V. 11, No. 5. - P. 652-665.

64. Pomares H. Structure Identification in Complete Rule-Based Fuzzy Systems / Hector Pomares, Ignacio Rojas, Jesus Gonzalez, and Alberto Prieto // IEEE Transactions on Fuzzy Systems. 2002. - V. 10, No. 3. - P. 349-359.

65. Ursema R. K. Parameter identification of induction motors using stochastic optimization algorithms / Rasmus K. Ursema, Pierre Vadstrup // Applied Soft Computing. 2004. - No. 4. - P. 49-64.

66. Rojas I. Self-organized fuzzy system generation from training examples/ I. Rojas, H. Pomares, J. Ortega, A. Prieto // IEEE Transactions on Fuzzy Systems. 2000. - No. 8 (1). - P.23-36.

67. Roubos H. Learning Fuzzy Classification Rules from Data. / H. Roubos,

68. M. Setnes, J. Abonyi // Developments in Soft Computing (Eds.: John R. and Birkenhead R.). Berlin: Springer-Verlag. 2001. - P. 108-115.

69. Setnes M. Supervised fuzzy clustering for rule extraction / M. Setnes // IEEE Transactions on Fuzzy Systems. 2000. - No. 8 (4) - P. 416-424.

70. Setnes M. Rule-based modeling: precision and transparency / M. Setnes, R. Babuska, H.B. Verburger // IEEE Transactions on Systems, Man and Cybernetics Part С - Applications and Reviews. - 1998. - V. 28, No.l.1. P. 165-169.

71. Simon D. Sum normal optimization of fuzzy membership functions / Dan Simon // International Journal of Uncertainty, Fuzziness and Knowledge-Based Systems. 2002 -V.10, Issue 4. - P.363-384.

72. Simon D. Training Fuzzy systems with the Extended Kalman Filter / Dan Simon // IEEE Transactions on Fuzzy Systems. 2002. - V. 132.1. P. 189-199.

73. Sousa J.M. Fuzzy active noise modeling and control / J.M. Sousa, C.A. Silva, J.M.G. Sa da Costa // International Journal of Approximate Reasoning. -2003.-No.33.-P. 51-70.

74. Sugeno M. A fuzzy-logic-based approach to qualitative modeling / M. Sugeno, T. Yasukawa // IEEE Transactions on Fuzzy Systems. 1993. - V.l, No. 1 - P.7-31.

75. Takagi T. Fuzzy identification of Systems and its Application to Modeling and Control / T.Takagi, M. Sugeno // IEEE Transactions on Systems, Man and Cybernetics. 2002. - V. 15. - P. 116-132.

76. Teng Y.-W. Function approximation via particular input space partition and region-based exponential membership functions / You-Wei Teng, Wen-June Wang, Chih-Hui Chiu // Fuzzy Sets and Systems. 2004 - No. 142.1. P. 267-291.

77. Tryon R.C. Cluster Analysis / R.C. Tryon. New York: McGraw-Hill, 1939.

78. Tsekouras G. A hierarchical fuzzy-clustering approach to fuzzy modeling / Tsekouras, H. Sarimveis, E. Kavakli, G. Bafas // Fuzzy Sets and Systems. -2005. No. 150. - P. 245-266.

79. VanVeldhuizen D. A. Considerations in Engineering Parallel Multiobjective Evolutionary Algorithms / DavidA.VanVeldhuizen, Jesse B. Zydallis, Gary B. Lamont // IEEE Transactions On Evolutionary Computation. 2003. - V. 7, No. 2. - P. 144-173.

80. Varela L.R. Simulated Annealing & Fuzzy Optimization / L.R. Varela, R.A. Ribeiro, and F.M. Pires // Proceedings of the 10th Mediterranean Conference on Control and Automation. 2002. - P. 59 - 71.

81. Vernieuwea H. Comparison of clustering algorithms in the identification of Takagi-Sugeno models: A hydrological case study / H. Vernieuwea, B. De Baetsa, N.E.C. Verhoest. // Fuzzy Sets and Systems. 2006. - No. 157, P. 2876-2896.

82. Wang H. Multi-objective hierarchical genetic algorithm for interpretable fuzzy rule-based knowledge extraction / Hanli Wanga, Sam Kwonga, Yaochu Jinb,WeiWei, K.F. Man // Fuzzy Sets and Systems. 2005 - No. 149.1. P. 149-186.

83. Wang L. X. Fuzzy basis functions, universal approximation, and orthogonal least-squares learning / L. X. Wang, J. M.Mendel // IEEE Transactions on Neural Networks. 1992. - V. 3. - P. 807-814.

84. Warwick K. Genetic least squares for system identification / K. Warwick, Y.-H. Kang, R. J. Mitchell//Soft Computing Springer-Verlag. 1999. -No.3. -P. 200-205.

85. Wu B. Fuzzy Modelling and Identification with Genetic Algorithm Based Learning / B. Wu, X. Yu // Fuzzy Sets and Systems. 2000 - No. 113.1. P. 352-365.

86. Yager R.R. Unified Structure and Parameter Identification of Fuzzy Models / R.R. Yager, D.P. Filev // IEEE Transactions on Systems, Man, and Cybernetics. 1993. - V. 23, No. 4. - P. 1198-1205.

87. Yagiura M. Genetic and Local Search Algorithms as Robust and Simple Optimization Tools / M. Yagiura and T. Ibaraki // Meta-Heuristics: Theory and Applications, eds. I.H. Osman and J.P. Kelly. Kluwer Academic Publishers, Boston. - 1996. - P. 63-82.

88. Yang Q. High-resolution reconstruction of sparse data from dense low-resolution spatio-temporal data / Q.Yang, B. Parvin // IEEE transactions on image processing. 2003. - N.2. - P. 11-17.

89. Yao X. Global Optimisation by Evolutionary Algorithms / Xin Yao // Proc. of the Second Aizu International Symposium on Parallel Algorithm/Architecture Synthesis. Aizu-Wakamatsu. Japan. IEEE Computer Society Press. - 1997. -P.282-291.

90. Yu W. Fuzzy Identification Using Fuzzy Neural Networks With Stable Learning Algorithms / W. Yu, X. Li // IEEE Transactions On Fuzzy Systems, 2004.-V. 1, No. 3.-P.411 -420.