автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Математические модели для анализа многомерных данных в задачах экологического мониторинга

кандидата технических наук
Аль-Дауяни Сауд Хамдан Сейф
город
Таганрог
год
2007
специальность ВАК РФ
05.13.18
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Математические модели для анализа многомерных данных в задачах экологического мониторинга»

Автореферат диссертации по теме "Математические модели для анализа многомерных данных в задачах экологического мониторинга"

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

ТЕХНОЛОГИЧЕСКИЙ ИНСТИТУТ ЮЖНОГО ФЕДЕРАЛЬНОГО УНИВЕРСИТЕТА в г Таганроге

На правах рукописи

ООЗ164390

Аль-Дауяни Сауд Хамдан Сейф

МАТЕМАТИЧЕСКИЕ МОДЕЛИ ДЛЯ АНАЛИЗА МНОГОМЕРНЫХ ДАННЫХ В ЗАДАЧАХ ЭКОЛОГИЧЕСКОГО МОНИТОРИНГА

Специальность 05 13 18 - Математическое моделирование, численные методы и комплексы программ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Таганрог - 2007

003164390

Работа выполнена на кафедре Высшей математики Технологического института Южного федерального университета в г Таганроге

Научный руководитель доктор физико-математических наук, профессор,

Сухинов Александр Иванович (ТТИ ЮФУ, г Таганрог)

Официальные оппоненты доктор технических наук, доцент,

Боженюк Александр Витальевич (ТТИ ЮФУ, г Таганрог),

кандидат технических наук, доцент, Никифоров Александр Николаевич (ГОУ ВПО ЮРГТУ (НПИ), г Новочеркасск)

Ведущая организация НИИ прикладной математики и автоматизации

Кабардино-Балкарского Научного Центра РАН, г Нальчик

Защита состоится « Ь » /^л, 2007 г в 1420 на заседании дис-

сертационного совета Д 212 208 22 й Технологическом институте Южного федерального университета в г Таганроге по адресу

347928, Ростовская обл , г Таганрог, пер Некрасовский, 44, ауд Д-406

С диссертацией можно ознакомиться в зональной научной библиотеке ЮФУ по адресу г Ростов-на-Дону, ул Пушкинская, 148

Отзыв на автореферат, заверенный гербовой печатью организации, просим направлять по адресу

347928, Ростовская обл , г Таганрог, ГСП-17А, пер Некрасовский, 44

Автореферат разослан;^

Ученый секретарь = - * ^

диссертационного совета Д^12208'22 доктор технических наук, профессор - -

А Н Целых

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследования. Одной из важнейших областей внедрения методов и средств автоматизированного анализа и интерпретации многомерных данных является область геоинформационных систем (ГИС) и, особенно, такого важного компонента глобальных ГИС как системы мониторинга окружающей среды Именно в этой области, благодаря многомерности и значительному объему используемых оцифрованных данных, в полной мере наблюдаются все те недостатки систем анализа, работающих с участием человека, которые описаны выше

Многомерные данные систем экологического мониторинга включают изображения, векторные данные, информацию о положении объектов и цифровые модели поверхности области мониторинга Формальные подходы к решению многих практических задач анализа разнотипных и неполных данных в некоторых предметных областях отсутствуют и в настоящее время, что приводит к необходимости применения методов искусственного интеллекта (ИИ) Ведущую роль в повышении коэффициента интеллектуальности систем анализа данных (Machine IQ, MIQ по L Zadeh) играет направление, основанное L Zadeh и выросшее в настоящее время в теорию информационной грануляции (ТИГ) При этом большинство деталей практической реализации ключевых положений ТИГ в настоящее время нуждаются в теоретическом и практическом развитии

Ведущая роль в разработке идеологической базы ТИГ принадлежит основателю этого направления L Zadeh, заложившему основы ТИГ применительно к интеллектуальному анализу лингвистической информации В России это направление получило развитие в работах научных школ А Н Мелихова и Л С Берштейна в Таганроге, а также А Н Аверкина и В Б Тарасова в Москве, И 3 Батыршина в Казани и других исследователей За рубежом эти исследования активно поддерживаются Y Yao и W Pedrycz в США, научными коллективами под руководством U Grenander в Швеции и J Baldwin в Великобритании В области нейросетевых интеллектуальных систем базовые задачи были решены школами А Н Горбаня в России и Т Poggio за рубежом В области анализа изображений основополагающие результаты были заложены в работах школы A Rosenfeld, а в России - школы В Сойфера и ряда других исследователей

Несмотря на значительные успехи в совершенствовании методов теории информационной грануляции как важнейшей парадигмы разработки интеллектуальных систем, в настоящее время в области создания интеллектуальных гранулирующих систем существует ряд нерешенных задач

Прежде всего, необходимо дальнейшее развитие теоретической базы разработки интеллектуальных систем, работающих в условиях неопределенности в исходных данных В задачах ГИС эта неопределенность обуславливается действием физических факторов в системе «океан-атмосфера» и может

быть введена в проблематику ТИГ путем создания математических моделей возмущающих факторов С точки зрения современного состояния ТИГ, необходимы значительные усилия для распространения имеющихся важнейших результатов в грануляции одномерных данных на случай многомерных данных, что приводит к ряду нетривиальных теоретических задач Наконец, для получения эффективных систем обработки и анализа многомерных данных важнейшую роль играют задачи снижения размерности или интеллектуального сжатия данных, также решаемые в рамках ТИГ, и создание соответствующих задаче методов реализации подобных систем -методической базы нейро-сетевых интеллектуальных систем, эффективно реализующих все указанные выше теоретические преимущества ТИГ Для этого следует обеспечить разработку новых архитектур нейросетевых интеллектуальных систем, базирующихся на принципе гибридизации методик мягких вычислений в рамках единой нейросетевой структуры

Целью диссертационной работы является разработка и исследование математических моделей физических процессов в задачах экологического мониторинга, на основе которых разрабатываются интеллектуальные системы для обработки и анализа многомерных данных на базе нейросетевых архитектур, позволяющих использовать современные результаты теории информационной грануляции для повышения эффективности интеллектуальной обработки и анализа многомерных данных экологического мониторинга

Для достижения поставленной цели необходимо решить следующие задачи:

- Разработка математической модели физического процесса пассивного дистанционного мониторинга состояния поверхности моря по оптически разделимым компонентам,

- Разработка математической модели физического процесса получения и предварительной обработки изображений морской поверхности (в условиях помех) с помощью цифровой аппаратуры, установленной на средневысотном спутнике,

- Разработка новых типов функций активации нейронов для применения в нейросетевых архитектурах интеллектуального анализа многомерных данных (изображений) в условиях неопределенности,

- Создание метода построения "прозрачной" для пользователя архитектуры нейронной сети анализа многомерных данных,

- Разработка эффективного алгоритма обучения гибридной сети в задачах анализа искаженных помехами многомерных данных (низкокачественных и искаженных изображений),

- Разработка комплекса программ в рамках заданной системы программирования для реализации нейросетевой системы анализа многомерных данных

Объектом исследования в диссертационной работе являются физические модели, описывающие процессы в системах пассивного зондирования морской поверхности и экологического мониторинга, а также гибридные гранулирующие нейросетевые архитектуры, позволяющие создать эффективные комплексы программ интеллектуальной обработки и анализа изображений различных объектов, получаемых в условиях высокого уровня помех и шумов

Методологическую основу работы составляет подход, суть которого состоит в разработке математических моделей физических процессов распространения и отражения световых волн и использование этих моделей в процессе проектирования систем интеллектуальной обработки и анализа многомерных данных на основе нейросетевого подхода, а также подход, использующий в процессе моделирования теорию информационной грануляции многомерных данных

Новыми научными результатами диссертационной работы, выносимыми на защиту, являются

- Математическая модель процесса пассивного оптического дистанционного зондирования морской поверхности в условиях различных видов оптических помех,

- Метод интеллектуального анализа многомерных данных в условиях неопределенности, использующий теорию информационной грануляции,

- Архитектура гибридной нейронной сети на основе активационных функций нового типа, выполняющей обработку многомерных данных в условиях неопределенности с использованием грануляции данных,

- Алгоритм обучения для гранулирующих гибридных нейронных сетей на основе активационных функций нового типа,

Теоретическая значимость результатов исследований заключается во введении математических моделей физических процессов мониторинга в проблематику построения систем интеллектуального анализа многомерных данных, а также в разработке нового типа гибридной интеллектуальной системы (в нейросетевом базисе) для анализа многомерных данных, отличающейся от известных тем, что для достижения нечувствительности к неопределенности в данных она использует математический аппарат теории информационной грануляции Разработана архитектура нового типа гибридных ней-росетевых систем, включающая новый вид функций активации для нейронов рабочего слоя, структуру сети и алгоритм ее обучения с использованием методов теории нечетких множеств, дополняющие и расширяющие существующие разработки в данной области, что подтверждает теоретическую значимость работы

На базе полученных теоретических результатов возможно построение нового класса гибридных нейросетевых интеллектуальных систем, которые

позволяют полностью автоматизировать процесс обработки и анализа многомерных данных с целью значительного повышения эффективности их применения

Практическая ценность работы определена разработкой математических моделей процессов дистанционного зондирования и обработки многомерных данных мониторинга морской поверхности в условиях помех, позволяющих разработать новые эффективные гибридные нейросетевые архитектуры для решения задач интеллектуальной обработки и анализа такого вида данных в условиях помех и искажений Ожидаемыми преимуществами, получаемыми в результате применения подобных интеллектуальных средств являются значительное уменьшение размера используемых нейронных сетей, возможность быстрого (в режиме реального времени) переобучения (перенастройки) используемых сетей, высокая степень понимания пользователем путей получения результатов анализа ("прозрачность" используемых методов и архитектур) Эти результаты приводят к значительному повышению эффективности анализа многомерных данных в процессе их оперативной обработки

Реализация результатов Результаты диссертационной работы были внедрены в Научно-образовательном эколого-аналитическом центре системных исследований, математического моделирования и геоэкологической безопасности Юга России в виде программного комплекса для решения задач, связанных с разработкой системы мониторинга экологического состояния Таганрогского залива Азовского моря на основе данных, полученных как непосредственными измерениями, так и с помощью космической фотосъемки региона

Апробация работы. Научные и практические результаты, полученные в диссертации, изложены в 10 статьях и 2 тезисах докладов на всесоюзных и международных конференциях

Основные результаты докладывались и обсуждались на следующих научно-практических конференциях

-Десятой национальной конференции по искусственному интеллекту с международным участием КИИ-2006, Обнинск, 25-28 сентября 2006 г

-Всероссийской научной конференции "Нечеткие системы и мягкие вычисления", НСМВ-2006, Тверь, 20-22 сентября 2006 г

-Седьмой международной научно технической конференции "Искусственный интеллект — интеллектуальные и многопроцессорные системы -2006", Таганрог, 12-15 сентября 2006 г

-Международной научно-технической конференции "Искусственные интеллектуальные системы" (IEEE AIS'06), Дивноморское, 1-7 сентября 2006 г

- Международной конференции IASTED по искусственному интеллекту "AIA 2006", Инсбрук, Австрия, 16-19 февраля 2006 г

- Научной сессии МИФИ-2006, Москва, 23-27 января 2006 г

- Международной конференции "Искусственный интеллект Интеллектуальные и многопроцессорные системы", Таганрог, 20-25 сентября 2005 г

- Всероссийской конференции молодых ученых "Измерения, автоматизация и моделирование в промышленности и научных исследованиях", Бийск, 17-22 июля 2004 г

- На ежегодных конференциях молодых ученых и аспирантов ТРТУ

Структура диссертации Диссертация состоит из введения, четырех тематических глав, заключения, списка использованных источников из 171 наименований и приложений Работа изложена на 147 страницах и содержит 41 рисунок и 12 таблиц

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы диссертации, ее новизна, практическая значимость Дается обзор основных направлений исследования по изучаемой тематике Сформулированы цель и задачи исследования, представлены основные положения, выносимые на защиту, охарактеризована структура диссертации

В первой главе рассматриваются оптические модели распространения света Солнца в атмосфере, которые составляют теоретическую основу моделирования систем пассивного мониторинга поверхности Земли Вводятся основные предположения и ограничения, позволяющие создать частную математическую модель процесса мониторинга состояния морской поверхности (с учетом специфики поведения света над морем - наличие дымки, волнения и т д) В результате разрабатывается обобщенная модель искажений многомерных данных пассивного оптического мониторинга (по изображениям морской поверхности) в зависимости от типичных метеоусловий района (по справочным данным) Разрабатывается также интеллектуальный метод оценки параметров физических моделей обработки многомерных данных с помощью базы данных по метеорологии и гидрологии Азовского моря

В работе используется уравнение переноса для восходящего излучения в приближении однократного рассеяния

cose^^- = k(z)[L°[T(z)]-L(z,e)] (1)

oz

где в — зенитный угол визирования, k{z) - показатель поглощения среды в точке среды z, П'[Т(г)] - спектральная яркость абсолютно черного тела, а T(z) - температура в точке z, L(z,6) — яркость излучения в точке z Если поверхность океана имеет коэффициент излучения 5 и температуру Т{0), то решение уравнений (1) следует искать при граничных условиях

Ь\0,9) = <ЩГ(0)]+ (!-£) {^(О^акЛ/О и £1(°о,в) = 0

(2)

В работе используется также уравнение яркости атмосферной дымки, с учетом которого получено следующее выражение для яркости восходящего излучения на верхней границе атмосферы в приближении однократного рассеяния

Ь\0,в,<р) =

1 - ехр

4(соб 90 + сое в) +5Л соев0р(в0,(р0,в,<р)ехр

(3)

-т,

Уравнение (3) является математической основой для моделирования системы «Океан-атмосфера» (цвета моря и др) по данным дистанционных оптического зондирования Данные оптического зондирования представляются в виде неотрицательной ограниченной функции яркости, зависящей от пространственных координат источника и длины волны

О^Цх^Я)^^, (4)

где х,, х2 - координаты на картинной плоскости, Я — длина волны, а £тах — максимальная яркость изображения Реальные изображения чаще всего ограничены прямоугольной областью х,е[0,//,], 1 = 1,2 Поскольку все типы датчиков для оптического мониторинга обладают неравномерной спектральной чувствительностью ^(А), наблюдаемое изображение получается усред-

нением яркости (4) по диапазону [ЯП11П,Л-тах] с весовой функцией

4™

(5)

Л™

Процесс искажений изображения в устройствах мониторинга чаще всего описывают в виде реакции линейной пространственно-инвариантной двумерной динамической системы на функцию изображения

со сю

= | } /(£, £ Ж*, - £, х2 - £ + с(х1, х2) (6)

—00 —00

где /(х,,х2) - искаженное изображение, - координаты на картинной

плоскости, /г(х,-£,,х2- функция, описывающая пространственно-инвариантные искажения от прохождения через искажающую среду (функция рассеяния точки (ФРТ)) Все дефекты изображения, отличные от идеального искажения (6), объединяются в суммарное искажение, которое мы будем называть шумом и обозначать через с(х,,х2)

Модель (6) используется для оценки различных видов искажений и шумов, типичных для оптического мониторинга, которые возникают в результате действия неустранимых факторов атмосферы (облачность) и поверхности океана (дымка, волнение) Согласно принятой гипотезе, ФРТ чаще всего можно представить в виде гауссовской функции от разности входных и выходных координат

Ъ(хх-$х,х1-$2) = ае , (7)

где а и <т — параметры искажений В данной модели предполагается, что искажения по координатным осям не коррелированны В диссертационной работе для определения параметров ФРТ (7) по экспериментальным данным используется метод, основанный на применении основных положений теории информационной грануляции Этот метод применен в задаче идентификации параметров модели искажающей ФРТ Метод основан на введении семантического пространства (СП) на множествах значений параметров Рассмотрим СП на множестве значений амплитуды а в (8), обозначенном как А, например, А = [0,1], что соответствует изменению значений оптической плотности изображения в зависимости от оценки облачности Опытные данные определяют некоторое покрытие К множества А системой отрезков , Ьк), при этом выполняются условия Ц Ф 0, и и Ьк = А , / = 1, , к Из опыта мы получаем промежуточное значение оценки амплитуды в виде некоторого интервала Б, который в терминах СП является нечетким подмножеством покрытия К Для дискретных множеств, относительная функция принадлежности для й будет определяться как

где 11 для случая непрерывных множеств означает длину отрезка

С использованием найденных путем дефаззификации (8) значений параметров модели возмущений были получены оценки параметров ФРТ (7) оптической плотности облачности, позволяющие для выбранного района Азовского моря моделировать процесс искажения Полученные в работе оценки параметров позволяют оценить тип и уровень мультипликативной помехи (7) в спутниковых изображениях Для устранения влияния помех необходимо использовать представления изображений, устойчивые к структурным искажениям Эта задача может успешно решаться методами ТИГ

В силу конечности размеров сенсора устройства, воспринимающего изображение, после дискретизации изображение (5) или (6) представляется в виде матрицы с положительными целыми элементами, размер которой определяется размерами К и М изображения

/•[|,у] = М = 1, ,К,] = \, ,М,/е{ 1, (9)

где максимальное количество уровней яркости изображения также ограничивается некоторой величиной ¡V Важнейшей характеристикой, связывающей непрерывные данные / и их дискретную модель /* является параметр, называемый шагом дискретизации И", который связывает размеры решетки К и М для /* с размерами физического изображения Я, и Я2 для /

К:

М -

я,

В процессе анализа дискретизированных данных

/* возможно также измерение масштаба данных путем увеличения шага дискретизации на некоторый масштабный коэффициент Де(0,1], при этом

увеличенный шаг /г, можно записать как /г, = у^ , при этом /г, > /г(° Такой

процесс называется генерализацией данных в терминологии, принятой в ГИС, или, более широко, грануляцией данных в смысле Ь 2ас1е11

Введем в рассмотрение дискретную модель (9), зашумленную по (7)

/* (х,,х2) В соответствии с (7) будем отображать влияние помехи в виде

7(х„х2)-/*(*„*,) = (- 1Г <?иах, (10)

где I,) — индексы текущего узла решетки, ¿>тах - амплитуда аддитивной помехи, определяемая условиями нарушения граничных условий (2)

Используя ограничения на /г( и Д, в работе получены оценки шага дискретизации и допустимого значения Д в условиях зашумления по (7) в виде

к >

4 §

шах

(.х, *2)еО

дгГ

дх.

тах

I (*1 ^в

д2Г

дх2

Ад

,' = 1,2

(П)

где в — область изображения Оценки (11) позволяют корректно строить системы интеллектуального анализа данных в условиях помех, типичных для задач экологического мониторинга

Во второй главе рассматривается применение теории информационной грануляции (ТИГ) к описанию неопределенности, имеющей место в реальных многомерных данных экологического мониторинга, формализованных в Главе 1 Для нейросетевых систем анализа многомерных данных разрабатываются методики аналитического представления гранулированных многомерных данных с помощью операторов агрегирования многомерных данных, что позволяет строить новые типы активационных функций в гибридных нейронных сетях Вводятся энтропийный критерий качества грануляции

многомерных данных и на их основе предлагается метод гранулирования данных с контролируемой потерей информации.

В диссертационной работе использован подход к обработке дискретных изображений, который вместо традиционного использования функциональных аппроксимаций использует гранулирование в смысле ТИГ. Гранулирование выполняется путем выбора масштабного коэффициента р по (11). В работе допустимые значения р с находятся путем решения уравнения, сводимого к диофантову уравнению следующего вида:

+ / = 1,2, (12)

где а,, Ъ1, с1] - натуральные коэффициенты, а результатом решения является допустимое значение масштабирующего коэффициента р . После первичного

разделения производится локальная адаптация отдельных гранул к покрываемому объекту. В результате получен адаптивный метод пространственного гранулирования, результаты которого определяются выбором р по (11). Результаты применения метода иллюстрируется рисунком 1.

Рис. 1. Результаты исходного (а) и адаптивного (Ь) гранулирования неопределенного объекта (огрубление данных при увеличении шага А,).

Предложенный алгоритм позволяет строить корректные с точки зрения ТИГ гранулированные представления исходных дискретных изображений. Однако с точки зрения оптимизации представления необходим критерий качества гранулирования, выбор которого ранее не рассматривался в работах по применению ТИГ и введен в диссертационной работе.

Обозначим вероятности обнаружения уровней яркостей полутонового

изображения (5) / [х\,х2) как р(м>), м> = 0,..., Ж-1, где IV - максимальная

яркость изображения Обозначим также уровень яркости, разделяющий объект мониторинга и естественный фон как Т, ( Т е [1,Ж-1] Тогда вероятности принадлежности пиксела объекту (/) или фону (Ъ ) запишем как

т

Р< = Р! = £ р№ ' рь(т) = Рь= Т. РМ 03)

№=0 1

Зависимость шенноновской энтропии для объекта и для фона (13) от параметра разделения Т можно записать как

Н,(Г) = -^рг{у>)\оъ2р^), НЬ(Т) = - § РьМ1°ёгРьМ (14)

м>=0 и-=Г+1

По (14) полная энтропия дискретного изображения (5), используемая для оценки качества гранулирования, представляется как

Н(Т) = Н/(Т) + НЬ(Т) (15)

Для канонического представления исходного изображения (бинарного изображения) Т = 1, тогда по (13)-(15) полная энтропия бинарного изображения находится в виде

Л 1 ~Р\

-1О82(1-А) (16)

Н = Нх+Н0=Рх 1о§2

I Р\

Для покрытия, изображенного на рисунке 1, мы можем вычислить энтропию объекта и фона гранулированного изображения по (16) в виде

Ъ> К к И)

=-^-, -1, = ,А/, (17)

после чего вычислить общую энтропию гранулированного изображения по (15), (16), где Ь - число гранул

Получим оценку полной энтропии Н как функции коэффициента /3

Количество гранул покрытия Ь зависит от /? как £ = (/? ЛТ) (/? М) = /?2 5 (будем считать, что Д = Р2) Для оценки полной энтропии изображения как функции масштабного коэффициента гранулирования /5 найдем

ЖР) = д(Р)1О82

-1о§2(1-Р,(Р)) (18)

МР)

Исследование поведения функции (18) показывает, что с увеличением Р > 0 25 суммарная энтропия изображения Н (/?) практически не изменяется Следовательно, оценку оптимального шага сетки сверху, в дополнение к оценке снизу (11) можно вычислить как

Наиболее важным свойством предложенного метода является практически линейный рост энтропии при уменьшении параметра /? В то же время, объем хранимых данных с уменьшением ¡3 уменьшается пропорционально /Зы для N -мерных данных Именно эта особенность предлагаемого метода оптимального гранулирования и обеспечивает значительное сжатие объема хранимых данных при умеренном росте энтропии Применение разработанного метода позволяет в дальнейшем значительно уменьшить размеры слоев нейросетвых структур, используемых для обработки и анализа гранулированных данных

В третьей главе рассматриваются вопросы реализации основных методов, полученных в предыдущих главах, в нейросетевом базисе Обосновывается выбор нового типа активационных функций для нейросетевых моделей анализа многомерных данных, основанный на полученных аналитических представлений гранулированных многомерных данных Разрабатывается многослойная гибридная архитектура нейросетевых систем для решения задач данного класса, включающая структуру сети и алгоритмы обучения как входного гранулирующего слоя, так и рабочих выходных слоев

В работе предложена архитектура гибридных сетей на основе радиаль-но-базисных функций (РБФ) нового типа, изображенная на рисунке 2

В структуре сети, представленной на рисунке 2, гранулирующий слой обеспечивает гранулирование исходных данных на плоскости, а рабочий слой решает задачи анализа (в данном случае - классификации) и строится на базе традиционной структуры перцептрона В диссертационной работе в качестве активационных функций используются Я -функции, введенные В Л Рваче-вым В качестве входных данных используется набор из N пар векторов 2И=[АЬ] в форме, Ах =(ахи,ахН2, ,<„), и АЦ =(ауи,ау2, ,ауп) Согласно ТИГ, вместо мы классифицируем гранулы с точками минимума и максима, определяемы векторами Ахи и А*

Введя N -операции над векторами признаков (используется операция 1

х, л

ах\=-[х\ + х1 - Мх\ )2 + (х] )2 - 2ах[х]), где х\ и х\ определяются

1 + а V >

как х\ = Я(АЦ) и х\ =к{А%)), конкретные уравнения операций вычисления метрик реализуются в системе 7?, в виде

Я(АХ) = I(|шах(Лх) - тт(Ах)|) - А\ - |т.п(Л; )| +1 (тах^) - тт«)) ЯК) = |(|тахК)-тт(Л;)|)- Ау -|тт(^)| + |(тах(Л>')-шт(4'))| (20)

X — ( х(, х2, , х{;) X — ( х{, х]2, , )

Выходы сети

Рис. 2. Нормированный гранулирующий гибридный перцептрон.

Поскольку введенные функции (20) обладают метрическими свойствами, т.е. их значение равно расстоянию от края модели ячейки до очередного пиксела, на их основе введен алгоритм обучения гранулирующего слоя сети, изображенной на рисунке 2:

1) Инициализация: Для гранулы задаются начальные значения векторов минимума и максимума й^' = (0,0) и Ж^ - (0,3);

2) Вычисление = (м>хк,м>}к) и и^2), для чего находим

и = (тах«),тах(^)) ;

3) Вычисление метрики ла Я(АУИ, м>%, м/уь2) : Шаги 1-3 повторяются при ведении новых данных.

Данный алгоритм является конечным и выполняется за 3 шага, при этом каждый -нейрон использует только собственные данные и не использует никаких данных соседних нейронов. Следующий рисунок иллюстрирует динамику процесса грануляции (или обучения) введенного в диссертационной работе Я -нейрона и используемую для этого поверхность /? -функции (20), обладающей метрическими свойствами.

(а) (Ь)

Рис. 3. Процесс обучения нейрона на базе R -функций - (а) и используемая для обучения поверхность R -функции (Ь).

В четвертой главе на основе результатов предыдущих глав разрабатывается комплекс программ для инженерного пакета MATLAB, реализующий систему анализа спутниковых изображений в целях экологического мониторинга. С помощью разработанного программного комплекса, позволяющего эффективно решать задачи анализа многомерных данных в условиях неопределенности (в том числе и для эффективного интеллектуального экологического мониторинга поверхности моря) решен ряд практических задач в условиях различных видов помех и искажений. Проведен ряд экспериментов по количественной оценке показателей разработанной нейросетевой интеллектуальной системы анализа данных при работе с зашумленными и искаженными изображениями, а также сравнение новой системы с известными системами обработки и анализа изображений на примере известных коммерческих программных средств, используемых в тех же условиях.

Для экспериментальной части диссертационной работы была выбрана в качестве рабочего слоя классифицирующая сеть представляющая собой многослойный перцептрон, который вместе с алгоритмами обучения и возможными архитектурами входит в дополнительный пакет MATLAB. Для анализа эффективности разработанной системы в сравнении со стандартными программными системами, представленными на рынке ПО нами был проделан ряд опытов по сравнению эффективности распознавания стандартных объектов (символы текста) в сравнении с популярной системой распознавания текстов FineReader компании «Бит», поскольку, с одной стороны, в настоящее время не предлагаются готовые программные системы интеллектуального анализа данных экологического мониторинга, а, с другой стороны, FineReader

является в России лидером рынка ПО, предназначенного для решения узкого класса задач классификации (символов). Кроме того, FineReader также содержит некоторые подсистемы подавления шумов и обучения на примерах, что позволяет функционально отнести его к тому же классу систем, что и разработанная система. Сравнение статистики удачных классификаций показывает, что разработанная система обеспечивает более высокий процент удачной классификации зашумленных изображений.

Также был проделан ряд экспериментов в сравнении с многослойным перцептроном из пакета MATLAB. Поскольку точные количественные результаты применительно к объектам мониторинга получить невозможно из-за отсутствия у них выраженной формы, а также из-за наличия искажений, носящих более сложный характер, чем обычно рассматриваемые в задачах обработки изображений, то для сравнительного исследования качества классификации обычных и гранулирующих нейросетевых систем была создана база, состоящая из 600 изображений разных размеров с разными уровнями зашумленности аддитивными шумами. Также были исследованы более 100 изображений со структурными искажениями при разных степенях деформации (разрыв утончения и т.д.). На следующем рисунке изображены некоторые образцы зашумленных символов для сравнительной классификации.

1 ¡¿£лТ'.: Ll' ^-^ч^Ч

Рис. 4. Образцы для классификации с помощью гранулирующих нейросетевых моделей.

На основании проделанной серии экспериментов на выборке из 600 изображений удалось установить, что благодаря наличию гранулирующего слоя, сеть успешно решает задачу классификации с эффективностью до 90% при оптимальном выборе разбиения на гранулы. Важнейшей особенностью нового типа сети, введенной в диссертационной работе, является также то, что при изменении размера входных данных не изменяется и не переобучается рабочий классифицирующий слой, а качество классификации остается высоким. При оптимальном гранулировании (которое определяет размеры первого, гранулирующего слоя разработанной гибридной сети) эффективность классификации зашумленных данных возрастает от 30% до 76% - это примерно 450 изображений из 600, т.е. сеть работает примерно в 2,5 раза эффективнее, чем стандартный многослойный перцептрон. Благодаря использованию порогового подхода к гранулированию, связанному с наличием нижней границы размера гранул для зашумленных данных, сеть улучшает качество классификации ещё на 15%.

Эти результаты свидетельствуют о высокой практической эффективности предложенных в диссертационной работе гибридных гранулирующих нейросетевых структур и алгоритмов их обучения для работы в условиях за-шумления исходных данных.

Разработанный комплекс программ был использован для анализа спутниковых фотографий с целью мониторинга распространения фитопланктона в Таганрогском заливе. Следуюь, > рисунок демонстрирует выделение областей концентрации фитопланктона.

(а) (Ь)

Рис. 5. Выделенные районы концентрации планктона (а) и их гранулированное представление (Ь).

Рисунок 5 демонстрирует результат оптимальной грануляции изображения, приводящей к сжатию объема хранимых данных. Исходное бинарное изображение 4а, полученное в результате отделения областей концентрации фитопланктона от морской воды, содержит 115600 пикселов, а после грануляции с масштабным коэффициентом /? = 0,25 (уменьшение числа ячеек сетки в 4 раза) гранулированное изображение, представленное на рисунке 4Ь, содержит 7225 гранул, т.е. сжимается в 16 раз. При этом энтропия изображения возросла в 3,4 раза, т.е. практически линейно. Это подтверждает теоретические выводы о эффективности информационной грануляции, полученные в диссертационном исследовании.

Сравнение с типовой архитектурой показывает, что основными качествами разработанных нейросетевых архитектур являются простота их реализации, достигаемая за счет аналитической модели реализации функции нейрона, простота настройки, достигаемая за счет раздельной настройки слоев гибридной сети, а также эффективность ее применения за счет совмещения в гранулирующем слое нескольких типовых функций обработки изображений.

Заключение содержит выводы о работе.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

В диссертационном исследовании получены следующие новые научные результаты

1 Математическая модель процесса пассивного оптического дистанционного зондирования морской поверхности в условиях различных видов оптических помех,

2 Метод интеллектуального анализа многомерных данных в условиях неопределенности, использующий теорию информационной грануляции,

3 Архитектура гибридной нейронной сети на основе активационных функций нового типа, выполняющей обработку многомерных данных в условиях неопределенности с использованием грануляции данных,

4 Алгоритм обучения для гранулирующих гибридных нейронных сетей на основе активационных функций нового типа

Основные теоретические и практические результаты работы достаточно полно отражены в следующих печатных работах

1 С X Аль-Дауяни, С А Бутенков, «Синергетический подход в задаче обучения нейронных сетей» Межвузовский сборник «Измерения, автоматизация и моделирование в промышленности и научных исследованиях», Бийск, Алтайский ГТУ, 2004, с 21-23

2 С А Бутенков, В В Кривша, С X Аль-Дауяни, «Оптимальное гранулирование многомерной информации» Журнал «Известия ТРТУ», №11,2005, с 35-42

3 С X Аль-Дауяни, С А Бутенков, «Синергетический подход к задаче генерализации при обучении нечетких нейронных сетей для обработки изображений» «Искусственный интеллект» Научно-теоретический журнал Национальной академии наук Украины, №4,2005, с 319-324

4 С X Аль-Дауяни, С А Бутенков, «О динамической интерпретации задачи обучения нейронных сетей» В сб трудов Научной сессии МИФИ-2006, Москва, 23-27 января 2006, т 3, с 78-79

5 S Н Al-Dhouyani, S A Butenkov,Vitaly V Krivsha "Granular Computmg m Computer Image Perception basic issues and Glass Box models" In Proc IASTED Conf In Artificial Intelligence and applications "ALA 2006", Innsbruk, Austria, February 16-18 2006, pp 462-467

6 С X Аль-Доуяни, С А Бутенков, «О принципах построения оптимальных нечетких нейронных сетей» В сб трудов Научной сессии МИФИ-2006, Москва, 23-27 января 2006, т 3, с 78-79

7 С А Бутенков, С X Аль-Доуяни, «Применение нейронных сетей для семантической интеллектуальной сегментации» «Искусственный интеллект» Научно-теоретический журнал Национальной академии наук Украины, №3,2006, с 262270

8 В В Кривша, С X Аль-Дауяни, С А Бутенков, «Построение системы нечетких отношений взаимного положения на декартовых гранулах» Сб трудов ме-

ждународной научно-технической конференции «Искусственные интеллектуальные системы» (IEEE AIS'06), Москва, Физматлит, 2006, т2, с 99-105

9 Д С Бутенков, С X Аль-Дауяни, С А Бутенков, «Интеллектуальный анализ изображений с помощью нечетких отношений на инкапсулирующих гранулах» Сб трудов Десятой национальной конференции по искусственному интеллекту с международным участием КИИ-2006, Обнинск 25-28 сентября 2006 г, с

10 С X Аль-Дауяни, С А Бутенков, «Применение нейронных сетей в задачах гранулированной обработки многомерной информации» В сб трудов Всероссийской научной конференции «Нечеткие системы и мягкие вычисления», НСМВ-2006, Тверь, 20-22 сентября 2006 г, с 216-230

11 С А Бутенков, С X Аль-Дауяни, «Нечеткая иерархическая кластеризация в задаче сегментации изображений с неоднородно окрашенными объектом и фоном» Искусственный интеллект - интеллектуальные и много процессорные сис-темы-2006 // Материалы Седьмой международной научно технической конференции Таганрог Издательство ТРТУ, 2006, т 3, с 110-114

12 С X Аль-Дауяни, «Нейросетевой подход в задачах гранулирования многомерной информации» VIII Всероссийская научная конференция студентов и аспирантов // Техническая кибернетика, радиоэлектроника и системы управления Таганрог, 2006

В работах, опубликованных в соавторстве, лично Аль-Дауяни СХС принадлежат следующие результаты в [1] предложена структура гранулирующей нейросети, в [2] введен метод локальной адаптации гранул, в [3] разработана система метрик для обучения гранулирующей сети, в [4] исследованы свойства алгоритма обучения, в [5] предложена концепция моделей типа «стеклянного ящика», в [6] описана структура метода оптимального гранулирования, в [7] изложены основы введения семантического пространства для параметров модели зашумления, в [8] предложен алгоритм дефазификации значений параметров, в [9] разработана система операций для активационных функций нейронов, в [10] предложена гибридная структура гранулирующей сети, в [11] предложен алгоритм сегментации биообъектов

256-265

Подписано к печати 27 09 07 Формат 60x84/16 Бумага офсетная Офсетная печать Уел печл -1,2

Тираж 100 экз Заказ №

Отпечатано Издательство Технологического института Южного федерального университета в г Таганроге ГСП, 17А, Таганрог, 28, Энгельса, 1

Оглавление автор диссертации — кандидата технических наук Аль-Дауяни Сауд Хамдан Сейф

ВВЕДЕНИЕ.

ГЛАВА I. РАЗРАБОТКА МАТЕМАТИЧЕСКИХ МОДЕЛЕЙ ПРОЦЕССОВ ПОЛУЧЕНИЯ И ОБРАБОТКИ МНОГОМЕРНЫХ ДАННЫХ

МОНИТОРИНГА МОРСКОЙ ПОВЕРХНОСТИ.

Введение.

1.1. Базовые модели для построения пассивных систем дистанционного зондирования земной поверхности.

1.2. Модели пассивного мониторинга оптического состояния поверхностных вод морей.

1.3. Обобщенная модель искажений данных пассивного оптического мониторинга.

1 .4. Модели искажений и шумов многомерных данных оптического мониторинга, обусловленных морскими и атмосферными факторами.

1.5. Дискретизация моделей многомерных данных экологического мониторинга.

1.6. Модель локальной аддитивной помехи в многомерных данных экологического мониторинга.

1.7. Основные процедуры анализа многомерных данных экологического мониторинга.

Выводы по главе.

ГЛАВА II. РАЗРАБОТКА МЕТОДОВ ГРАНУЛИРОВАНИЯ

МНОГОМЕРНЫХ ДАННЫХ ЭКОЛОГИЧЕСКОГО МОНИТОРИНГА.

Введение.

2.1. Интеллектуальный подход к анализу многомерных данных.

2.2. Проблема учета неопределенности при анализе многомерных данных.

2.3. Гранулированные модели многомерных данных.

2.4. Методы агрегирования данных в теории информационной грануляции.

2.5. Энтропийные характеристики двумерной гранулированной информации.

2.6. Метод гранулирования многомерных данных с контролируемым ростом энтропии.

Выводы по главе.

ГЛАВА III. РАЗРАБОТКА АРХИТЕКТУРЫ НЕЙРОННЫХ СЕТЕЙ ДЛЯ

АНАЛИЗА ГРАНУЛИРОВАННЫХ МНОГОМЕРНЫХ ДАННЫХ.

Введение.

3.1. Нейросетевые модели интеллектуальной обработки и анализа данных.

3.2. Методы анализа многомерных данных с помощью нейронных сетей.

3.3. Выбор функционального базиса для построений нейросетевых моделей гранулирования многомерных данных.

3.4. Архитектура РБФ-сетей на основе R -моделей.

3.5. Проектирование гранулирующего слоя РБФ-сетей на основе R-моделей.

3.6. Проектирование рабочего слоя РБФ-сетей на основе R -моделей.

Выводы по главе.

ГЛАВА IV. РАЗРАБОТКА И ИССЛЕДОВАНИЕ РЕАЛИЗАЦИИ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ ОБРАБОТКИ МНОГОМЕРНЫХ ДАННЫХ

ЭКОЛОГИЧЕСКОГО МОНИТОРИНГА.

Введение.

4.1. Выбор средств реализации гибридных нейросетевых систем обработки и анализа многомерных данных.

4.2. Исследование качества работы разработанного программного комплекса при решении задачи классификации зашумленных и искаженных данных.

4.3. Применение разработанного программного комплекса в задачах анализа данных мониторинга морской поверхности.

4.4. Сравнительный анализ разработанного программного комплекса и известных средств анализа изображений.

Выводы по главе.

Введение 2007 год, диссертация по информатике, вычислительной технике и управлению, Аль-Дауяни Сауд Хамдан Сейф

В настоящее время мы являемся участниками глобального процесса информатизации общества [1-3]. При этом наиболее технически развитые страны стремятся сохранить на своей территории наукоемкие отрасли, связанные с обработкой информации, а отрасли материального производства перемещают в развивающиеся страны [4]. Еще одним характерным признаком настоящей информационной эпохи является приоритет в разработке и внедрении методов автоматического создания, хранения, поиска и анализа оцифрованных данных перед методами обработки с участием человека [5,6]. Причиной, приводящей к внедрению автоматических систем хранения и анализа многомерных данных является экспоненциальный рост объемов банков и баз многомерных данных (БД), который значительно опережает способность как отдельного человека, так и организованных коллективов людей к интерпретации многомерных данных [7]. Во многих проблемных областях возникает проблема "застойных массивов", связанная с наличием большого объема собранных данных, никак не анализируемых и не используемых в дальнейшем. Такая ситуация наблюдается при решении многих задач управления сложными системами - в сферах экономики, нефтедобычи, мониторинга экологического состояния обширных регионов и т.д. [8]. Имеющееся явление "взрывного" роста объемов многомерных данных требует развития новых научных направлений, позволяющих осуществлять интерпретацию многомерных данных путем автоматического анализа [9], который должен обеспечить развитие методов анализа данных, соответствующих типам хранимых данных и предметным областям [5,7,10].

Одной из важнейших областей внедрения методов и средств автоматизированного анализа и интерпретации многомерных данных является область геоинформационных систем (ГИС) [11] и, особенно, такого важного компонента глобальных ГИС как системы мониторинга окружающей среды [12]. Именно в этой области, благодаря многомерности и значительному объему используемых оцифрованных данных, в полной мере наблюдаются все те недостатки систем анализа, работающих с участием человека, которые описаны выше.

Крупномасштабные изображения - один из наиболее информативных источников пространственных данных в ГИС, доступных исследователям, интересующимся широкомасштабными географическими явлениями [12,13]. Многообразие пространственных и спектральных разрешений для удаленных измерений велико, начиная с многоцветных изображений спутников серии IKONOS до поляриметрических радарных изображений, получаемых со спутников следующих поколений RADARSAT и JERS [11].

Несмотря на многолетний опыт в накоплении данных их обработке и анализе, онтологический статус многомерных данных (в том числе изображений) остается открытым. Трудно дать формальное определение для простейшей онтологической задачи - "Что такое изображение" [25]? Многомерные данные систем экологического мониторинга включают изображения, векторные данные, информацию о положении объектов и цифровые модели поверхности области мониторинга [13]. В этом случае классические алгоритмические подходы, оптимальные для обработки одномерных данных, часто не могут быть эффективно использованы в том случае, когда обрабатываемые данные являются разнотипными, некачественным, нечеткими, с выраженным субъективным характером либо неполными и неточными [21,22]. Формальные подходы к решению многих практических задач автоматического анализа разнотипных и неполных данных в некоторых предметных областях отсутствуют и в настоящее время. Человек при их решении руководствуется своими интуитивными и эвристическими соображениями, которые не могут быть формализованы в рамках классических методов цифрового анализа [6,23-25] и требуют применения методов искусственного интеллекта (ИИ).

Для решения задач обработки одномерных данных в подобных условиях большое распространение получили такие направления ИИ, как нечеткие системы [26] и нейросетевые модели данных [27-31]. В настоящее время также широко применяются технологии анализа одномерных данных, основанные на объединении технологий указанных направлений в рамках гибридных технологий [32-35]. Большинство исследователей осознают необходимость создания концептуально новых подходов к интеллектуальной обработке и анализу многомерных данных ГИС и экологического мониторинга, поскольку многие задачи из этой области, легко решаемые интеллектом человека [6], до настоящего времени остаются практически недоступными для решения классическими методами интеллектуального анализа информации [26] и требуют радикального повышения коэффициента интеллектуальности систем интеллектуального анализа многомерных данных (Machine IQ, MIQ по L. Zadeh).

Ведущую роль в этом повышении возможностей анализа больших объемов разнотипных и неточных данных играет направление, основанное L. Zadeh и выросшее в настоящее время в бурно развивающуюся теорию информационной грануляции (ТИГ), понимаемую в широком смысле слова [6]. При этом большинство деталей практической реализации ключевых положений ТИГ в настоящее время нуждаются в теоретическом и практическом развитии [37-39]. Важнейшей теоретической задачей анализа данных мониторинга является также моделирование физических процессов, типичных для объектов мониторинга [14,15] и для устройств предварительной обработки многомерных данных [16-18], поскольку именно эти физические модели дают ключ к лучшему соответствию разрабатываемых новых интеллектуальных методов анализа физической действительности. Такое соответствие является одной из важнейших задач, решаемых с помощью ТИГ [6].

В описанной выше области методов анализа неточных многомерных данных (в том числе и экологического мониторинга) одним из приоритетных подходов к базовым методам построения автоматических интеллектуальных систем, являются нейросетевые технологии [29]. Это становится особенно актуальным в том случае, когда многомерные данные мониторинга трактуются как важнейший и дорогостоящий ресурс, который должен не только накапливаться, но и эффективно использоваться для достижения конкретных целей [30]. В этой связи становится необходимым решение задач, связанных с разработкой теоретических и практических основ создания нейросетевых систем, использующих физические модели обработки и анализа многомерных неточных данных для информационных ресурсов различных типов, в том числе и изображений объектов экологического мониторинга [31,32,38,72,73].

Проблемой анализа изображений занимаются с начала 50-х годов как в нашей стране, так и за рубежом [49,50]. Однако на сегодняшний день не существует общего подхода к разработке архитектуры систем анализа изображений, близких по возможностям к человеческому восприятию [6,51,52]. Это обусловлено, с одной стороны, многообразием изображений различных визуальных образов, а с другой - системной сложностью решаемых задач [22]. Общие основы теории интеллектуального анализа изображений закладываются достаточно медленно, потому что системы анализа изображений первоначально разрабатывались для отдельных классов изображений и для вывода специфических для данной области описаний изображений [53-57].

Среди основных задач обработки и анализа изображений можно выделить классы задач по принадлежности к различным предметным областям [48], обладающих наибольшей общностью. Это изучение поверхности

Земли с помощью изображений, полученных с космических спутников и атмосферных летательных аппаратов [28,72]; обработка и анализ локационных изображений (как правило, обладающих низким разрешением) для выявления и классификации объектов [3,27]; медицинские задачи (связанные со сходными задачами в биологии) при автоматической обработке фотографий тканей клеток, хромосом, рентгенограмм, электрокардиограмм и электроэнцефалограмм [14,73]; задачи анализа данных физических экспериментов [50,56,57]; задачи робототехники (систем технического зрения) [23,24,54,59,60] и т.д. [46].

Необходимым условием успешного решения перечисленных выше обширных классов частных задач обработки и анализа многомерных данных (изображений) является разработка новых архитектур нейронных сетей, включающих в себя тип, количество и систему связей нейронов [29,31,52]. Важнейшим этапом разработки новых нейросетевых архитектур анализа данных мониторинга является создание для выбранных моделей сети адекватных, устойчивых, обобщающих алгоритмов обучения сетей [20,25,33]. Основываясь на анализе общей задачи анализа изображений по [1,48] выделим основные подзадачи, которые должны быть решены при разработке новой архитектуры нейросетевых систем пассивного оптического мониторинга земной поверхности [11,12,51]:

Выбор типов применяемых нейронов или (в случае необходимости) разработка новых типов элементарных нейронов [33];

Выбор структуры и размера входного слоя, обеспечивающего интерфейс разрабатываемого устройства с внешними источниками данных [29];

Выбор количества и характеристик внутренних слоев сети [29,31];

Выбор структуры и размера выходного слоя сети, обеспечивающего выдачу обработанных данных [30,43];

Выбор или разработка адекватного подхода к разработке алгоритма обучения спроектированной сетевой архитектуры [61,63];

Выбор и накопление обучающих выборок, связанных с конкретной предметной областью, и позволяющих реализовать корректный процесс обучения. В результате процесса обучения сеть должна приобрести генерализующие свойства [61] и при этом избежать переобучения [51], при наличии которого значительно снижаются регуляризирующие свойства сети [62];

Выбор аппаратной или программной базы для реализации построенной и оттестированной модели сети [33,64] применительно к конкретным техническим условиям.

Решение каждая из перечисленных выше базовых задач в свою очередь находится в значительной зависимости от физических моделей как условий мониторинга, так и устройств предварительной обработки исходного изображения объекта мониторинга [8].

Рассмотрим некоторые сложившиеся подходы к построению моделей нейронных сетей для решения частных задач анализа данных [64]. Анализируя литературу по применению нейронных сетей [51,61,64], можно выделить два основных класса фундаментальных теоретических задач, решаемых обучаемыми нейронными сетями. Это задачи предсказания и классификации. Задачи предсказания или прогнозирования являются, по существу, формальными задачами регрессионного анализа зависимости выходных данных от входных [61]. Преимущество нейронных сетей здесь состоит в том, что они могут эффективно строить нелинейные регрессионные зависимости. При решении задач классификации [52] нейронная сеть аппроксимирует разделяющие гиперповерхности в признаковом пространстве, с использованием выбранного функционального базиса [67]. Важным преимуществом нейросетевого подхода в этой задаче является то, что одна и та же нейронная сеть может одновременно предсказывать несколько выходных значений, либо одновременно решать задачи как прогнозирования, так и классификации [73].

С точки зрения развития теоретической базы нейросетевого моделирования процессов анализа многомерных данных с учетом физических моделей, можно наметить перспективный путь развития методологии анализа с привлечением аппарата теории информационной грануляции (ТИГ). В частности, в настоящее время имеется ряд работ, выполненных в различных научных организациях [21,28,31,34,37-39], в которых закладываются основы развития идей ТИГ в одномерной формулировке по L. Zadeh [6] на многомерный случай. Подобные методы связаны с пространственным гранулированием информации [37,39] с помощью различных подходов к построению моделей декартовых гранул. При развитии подобных методов следует учитывать аналогию между этими моделями и нейросетевыми моделями с ортогональными функциями активации [44,77]. Разработка нейросетевых моделей в базисе пространственно-ортогональных функций позволит использовать все преимущества последних, такие, как независимость синаптических коэффициентов отдельных нейронов, простоту алгоритмов обучения и другие преимущества сетей на ортогональных базисах [83]. Важным преимуществом развиваемого в работе гранулирующего подхода к построению нейронных сетей для анализа многомерных данных является низкая (в большинстве случаев на порядок) вычислительная сложность нейросетевых моделей по сравнению с описанными выше традиционными архитектурами [170]. Наконец, значительным практическим преимуществом используемого подхода является возможность разработки алгоритмов обучения нейросетевой модели, позволяющих выполнять повторное обучение сети в реальном времени (при этом не требуется полное переобучение всех слоев сети). В предлагаемых сетях реализуются два режима работы [51] - обучение слоя предварительной обработки (кластеризации или грануляции в терминологии L. Zadeh), которое может выполняться предварительно, и собственно рабочий режим, в котором сеть работает весьма эффективно предварительи ному обучению слоя, выполняющего основную операцию (анализ многомерных данных) [83,158].

Таким образом, из анализа вышеописанных целей разработки новых физических моделей обработки и анализа многомерных данных и реализующих их архитектур нейронных сетей, можно сделать вывод об актуальности использования для них методов теории информационной грануляции [6].

Анализ существующих методов моделирования физических процессов для улучшения обработки многомерных данных (полученных при измерении этих процессов) и их анализа с помощью гибридных нейросете-вых архитектур применительно к анализу информации ГИС и подсистем экологического мониторинга (включая изображения), показал, что эта задача является достаточно сложной и не решена в полной мере в настоящее время.

Целью диссертационной работы является разработка и исследование математических моделей физических процессов в задачах экологического мониторинга, на основе которых разрабатываются интеллектуальные системы для обработки и анализа многомерных данных на базе нейросетевых архитектур, позволяющих использовать современные результаты теории информационной грануляции для повышения эффективности интеллектуальной обработки и анализа многомерных данных экологического мониторинга.

Задачи диссертационной работы, в соответствии с поставленной целью, включают в себя:

- разработку математической модели физического процесса пассивного дистанционного мониторинга состояния поверхности моря по оптически разделимым компонентам;

- разработку математической модели физического процесса получения и предварительной обработки изображений морской поверхности (в условиях помех) с помощью цифровой аппаратуры, установленной на средневысотном спутнике;

- разработку новых типов функций активации нейронов для применения в нейросетевых архитектурах интеллектуального анализа многомерных данных (изображений) в условиях неопределенности;

- создание метода построения "прозрачной" для пользователя архитектуры нейронной сети анализа многомерных данных;

- разработку эффективного алгоритма обучения гибридной сети в задачах анализа искаженных помехами многомерных данных (низкокачественных и искаженных изображений);

- разработка комплекса программ в рамках заданной системы программирования для реализации нейросетевой системы анализа многомерных данных.

Практическая ценность результатов исследований определена разработкой математических моделей процессов дистанционного зондирования и обработки многомерных данных мониторинга морской поверхности в условиях помех, позволяющих разработать новые эффективные гибридные нейросетевые архитектуры для решения задач интеллектуальной обработки и анализа такого вида данных в условиях помех и искажений. Ожидаемыми преимуществами, получаемыми в результате применения подобных интеллектуальных средств являются: значительное уменьшение размера используемых нейронных сетей; возможность быстрого (в режиме реального времени) переобучения (перенастройки) используемых сетей; высокая степень понимания пользователем путей получения результатов анализа ("прозрачность" используемых методов и архитектур). Эти результаты приводят к значительному повышению эффективности анализа многомерных данных в процессе их оперативной обработки.

Диссертационная работа состоит из введения, четырех глав, заключения, списка источников и приложений.

Заключение диссертация на тему "Математические модели для анализа многомерных данных в задачах экологического мониторинга"

Выводы по главе

В главе рассмотрены аппаратные и программные средства, позволяющие реализовать разработанные в диссертационной работе нейросетевые архитектуры и проведен их сравнительный анализ, завершившийся выбором программной реализации в среде пакета MATLAB.

На основе этих данных разработан комплекс программ для решения задач обработки и анализа многомерных данных (на примере изображений) в условиях помех различного вида, свойственных задачам экологического мониторинга.

С помощью разработанного программного комплекса решена задача анализа данных пассивного мониторинга поверхности моря по оцифрованным изображениям, получаемых со средневысотных ИСЗ. Программный комплекс позволяет выделять различные объекты на предъявляемых изображениях, которые необходимы для контроля и географической привязки данных мониторинга. Выделение пятен фитопланктона позволяет анализировать их структуру и изменчивость, что невозможно при визуальном контроле оператором.

Был проделан также ряд экспериментов для оценки количественных показателей качества разработанного программного комплекса в сравнении с популярной системой классификации изображений текстов FineReader и в сравнении с распространенными нейросетевыми архитектурами. Эксперименты проводились с базой из 600 тестовых изображений, содержащих как аддитивные, так и мультипликативные (структурные) помехи, формируемые в соответствии с моделями, разработанными в Главе I применительно к задаче пассивного оптического зондирования.

Анализ результатов экспериментов показал высокое качество обработки и классификации изображений разработанным программным обеспечением, значительно превосходящее результаты, полученные в тех же условиях для стандартных средств.

ЗАКЛЮЧЕНИЕ

В соответствии с поставленной целью в диссертационной работе были разработаны и исследованы математические модели физических процессов в задачах экологического мониторинга, используемые для анализа многомерных данных, и нейросетевые архитектуры, позволяющие использовать современные подходы к анализу многомерных данных для повышения эффективности интеллектуального анализа многомерных данных экологического мониторинга.

Для достижения поставленной цели в работе был решен ряд актуальных теоретических и практических задач: разработаны и исследованы математические модели физического процесса получения и предварительной обработки изображений морской поверхности; разработан новый тип функций активации нейронов для применения в нейросетевых архитектурах анализа многомерных данных (изображений); создан метод построения "прозрачной" для пользователя архитектуры нейронной сети анализа многомерных данных; разработан эффективный алгоритм обучения гибридной сети в задачах анализа искаженных помехами многомерных данных; разработан комплекс программ в среде MATLAB для реализации нейросетевой системы анализа многомерных данных экологического мониторинга.

В результате были получены следующие новые научные результаты: разработана математическая модель для описания и анализа процессов оптического зондирования морской поверхности в условиях помех, применительно к спутниковым системам мониторинга поверхности Земли; разработан метод интеллектуального анализа гранулированных многомерных данных в условиях неопределенности с использованием математической модели процесса анализа; разработан и исследован новый тип активационных функций нейронов для применения в гранулирующих нейросетевых системах; разработана новая гибридная архитектура нейросетевых систем для интеллектуального анализа многомерных данных в условиях неопределенности; разработан эффективный алгоритм обучения нового вида нейронных сетей, обеспечивающий высококачественное обучение в задачах классификации низкокачественных и искаженных изображений.

Научные и практические результаты, полученные в диссертации, были апробированы на ряде всероссийских и международных научных конференций.

Практическая ценность результатов исследований определена их применением для решения задач интеллектуальной обработки и анализа многомерных данных, которые могут применяться в широком диапазоне задач анализа оптических данных мониторинга земной поверхности и разработкой реализующего эти задачи комплекса программ.

Практическая ценность результатов работы подтверждается актом о внедрении результатов диссертационной работы в Научно-образовательном эколого-аналитическом центре системных исследований, математического моделирования и геоэкологической безопасности Юга России для решения задач, связанных с разработкой программного комплекса для мониторинга экологического состояния Таганрогского залива Азовского моря.

Библиография Аль-Дауяни Сауд Хамдан Сейф, диссертация по теме Математическое моделирование, численные методы и комплексы программ

1. Льюнг Л. Идентификация систем.- М.: Мир, 1975.

2. Information technology Open Systems Interconnection - Security Frameworks for Open System: Authentication framework. ISO/IEC 10181-2-96(E).

3. Гайдышев И.В. Анализ и обработка данных: Специальный справочник. С-Пб.: Питер, 2001, 752 с.

4. Иванов А.И. Нейросетевые алгоритмы биометрической идентификации личности,- М.: Радиотехника, 2002,144 с.

5. Клир Дж. Системология. Автоматизация решения системных задач. М.: Радио и связь, 1990, 536 с.

6. Zadeh L.A. Fuzzy sets and information granularity // in Advances in Fuzzy Set Theory and Applications, Gupta, N., Ragade, R. and Yager, R. (Eds.), North- Holland, Amsterdam, 1979, pp. 3-18.

7. Ивахненко А.Г. Долгосрочное прогнозирование и управление сложными системами.- Киев: Техника, 1975, 312 с.

8. Hopfield J. Neural networks and psyhical systems with emergent collective computational abilities // Proc/ of the National Academy of Science USA, 1982.

9. Айвазян С.А., Бухштабер B.M., Юнюков И.С., Мешалкин Л.Д. Прикладная статистика: классификация и снижение размерности.- М.: Финансы и статистика, 1989.

10. Zilles S.N., Introduction to data algebras, Lect. Notes Сотр. Sci. 86, 1980, 248-272.

11. Оптико-электронные системы экологического мониторинга природной среды.- под ред. В.Н. Рождествина, М.: МВТУ им. Баумана, 2003, 527 с.

12. Монин А.С. Красницкий В.П. Явления на поверхности океана. Л.:Гидрометеоиздат, 1985, 375 с.

13. Бейтс Р., МакДоннел М. Восстановление и реконструкция изображений. М.:Мир, 1989,335 с.

14. Сойфер В.А., Сергеев В.В., Попов С.Б., Мясников В.В. Теоретические основы цифровой обработки изображений. Самара, СГАэУ, 2000, 257 с.

15. Кондратьев К.Я., Мелентьев В.В. Космическая дистанционная индикация облаков и влагосодержания атмосферы. Л.:Гидрометеоиздат, 1987,263 с.

16. Тихонов В.И. Статистическая радиотехника. М.:Радио и связь, 1982. 624 с.

17. Сильвестр П, Феррари Р. Метод конечных элементов для радиоинженеров и инженеров-электриков.- М.:Мир, 1986, 117 с.

18. Kong T.Y., Rosenfeld A. Digital Topology, Introduction and survey. Computer Vision, Graphics and Image Processing, 48, 1989, 357-389/

19. Гидрометеорология и гидрохимия морей СССР. Том V. Азовское море. Под ред. Н.П. Гоптарева, А.И. Симонова, Б.М. Затучной, Д.Е. Гершановича.- С-Пб.:Гидрометеоиздат, 1991,257 с.

20. Yao Y. Granular Computing: basic issues and possible solutions, Proceedings of the 5th Joint Conference on Information Sciences, pp. 186-189, 2000.

21. Casti J., Connectivity, Complexity, and Catastrophe in Large-Scale Systems, Wiley, N.Y, 1979.

22. Катыс Г.П. Обработка визуальной информации. М.: Машиностроение, 1988, -320 с.

23. Завалишин Н.В., Мучник И.Б. Модели зрительного восприятия и алгоритмы анализа изображений. М.: Наука, 1974 .- 344 с.

24. Распознавание образов: состояние и перспективы: Пер. с англ. / К. Верхаген, Р. Дёйн, Ф. Грун и др. -М.: Радио и связь, 1985, 104 с.

25. Zadeh L.A. Fuzzy sets and their application to pattern classification and clustering analysis.-Memo № ERL M 607, Electronics Research Laboratory, California University, Berkeley, 1977, pp. 177 200.

26. Tizhoosh H.R. Fuzzy Image Processing: Potentials and State of the Art // In 5 th International Conference on Soft Computing, Iizuka, Japan, vol. 1,1998, pp. 321-324.

27. Keller J., Matsakis P. Aspects of High Level Computer Vision Using Fuzzy Sets // Proceedings Int. Conf. on Fuzzy Systems, Seoul, Korea,1999, pp. 847-852.

28. Головко B.A. Нейронные сети: обучение, организация и применение.-М.: Радиотехника, 2001.

29. Уоссермэн Ф. Нейрокомпьютерная техника.- М.: Мир, 1992.

30. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере." Новосибирск : Наука, 1987, 711 с.

31. Baldwin, J.F., Т.Р. Martin, and J.G. Shanahan. Modelling with words using Cartesian granule features, in FUZZ-IEEE. 1997. Barcelona, Spain: pp 1295-1300.

32. Шимбирев П.Н. Гибридные непрерывно-логические устройства.- М.: Энергоатомиздат, 1990, 172 с.

33. Бутенков С.А. Грануляция и инкапсуляция в системах эффективной обработки многомерной информации. Искусственный интеллект", научно-теоретический журнал Национальной академии наук Украины, №4, 2005, с. 106-115.

34. Эволюционное моделирование. // Сб. трудов семинара "Методы моделирования", Казань: Наука, 2004, 229 с.

35. Искусственный интеллект. Методы и модели // Под ред. Д.А. Поспелова. М.: Радио и связь, 1990.

36. Бутеиков С.А., Кривша В.В., Бутенков Д.С. Гранулированные вычисления в системах интеллектуального анализа пространственных данных. В сб. трудов Международной конференции "ИАИ-2005", Киев, 17-20 мая 2005, с. 79-85.

37. Butenkov S. Granular Computing in Image Processing and Understanding. In Proc. IASTED International Conf. On AI and Applications "AIA 2004", Innsbruk, Austria, February 10-14, 2004.

38. Baldwin, J.F., T.P. Martin, and J.G. Shanahan. Automatic fuzzy Cartesian granule feature discovery using genetic programming in image understanding. in FUZZ-IEEE. 1998. Anchorage, pp 960-965, USA: UK.

39. Нариньяни A.C. Модель или алгоритм новая парадигма информационной технологии. Информационные технологии, №4, 1997, с. 1822.

40. Минаев Ю.Н., Филимонова О.Ю., Бенамеуер Лиес. Методы и алгоритмы идентификации и прогнозирования в условиях неопределенности в нейросетевом логическом базисе,- М.: Горячая линия-Телеком, 2003,202 с.

41. Харалик Р. Структурное распознавание образов, гомоморфизмы и размещения.- Кибернетический сборник. Новая серия: вып. 19.- М.: Мир, 1983, с. 170-199.

42. Терехов В.Ф., Ефимов Д.В., Тюкин И.Ю. Нейросетевые системы управления.- М.: ИПРЖР, 2002, 480 с.

43. Нейрокомпьютеры в авиации // Васильев В.И., Ильясов Б.Г., Кусимов С.Т. (редакторы).- М.: Радиотехника, 2004, 496 с.

44. Леоненков А.В. Нечеткое моделирование в среде MATLAB.- М.: БХВ, 2003.

45. Чернухин Ю.В. Нейропроцессоры.- Таганрог: ТРТУ, 1994, 178 с.

46. Аль-Доуяни С.Х.С., Бутенков Д.С. Синергетический подход в задачеобучения нейронных сетей.- Межвузовский сборник "Измерения, автоматизация и моделирование в промышленности и научных исследованиях", Бийск, Алтайский ГТУ, 2004, с. 21-23.

47. Rosenfeld A. Computer Vision and Image Understanding. Elsevier Science, 84,298-324 (2001).

48. Дуда P., Харт П. Распознавание образов и анализ сцен. М.: Мир, 1976,-511 с.

49. Гришин В. Г. Образный анализ экспериментальных данных. М.: Наука, 1982,- 237 с.

50. Poggio Т., Girosi F. Networks for approximation and learning. Proceedings of the IEEE, 78(9), September, 1990.

51. Розенблат Ф. Принципы нейродинамики: Персептрон и теория механизмов мозга.- М. Мир, 1965.

52. J. F. Baldwin, Т. P. Martin, and J. G. Shanahan, "Fuzzy logic methods in vision recognition", Fuzzy Logic: Applications and Future Directions Workshop, London, UK, 300-316, 1997.

53. Фу К., Гонсалес P., Ли К. Робототехника: Пер. с англ. М.: Мир, 1989, - 624 с.

54. Павлидис Т. Алгоритмы машинной графики и обработки изображений. М.: Радио и связь, 1986, - 357 с.

55. Браверман Э. М., Мучник И. Б. Структурные методы обработки эмпирических данных. М.: Наука, 1983, - 464 с.

56. Анисимов Б. В., Курганов В. Д., Злобин В. К. Распознавание и цифровая обработка изображений. М.: Высш. шк., 1983. - 295 с.

57. Liu D., Yamashita Y., Ogawa H. Pattern Recognition in the Presence of Noise // Pattern Recognition, № 7, vol. 28,1995, pp. 989-995.

58. J. F. Baldwin, "A Theory of Mass Assignments for Artificial Intelligence" in IJCAI '91 Workshops on Fuzzy Logic and Fuzzy Control, Sydney, Australia, Lecture Notes in Artificial Intelligence, A. L. Ralescu, Ed., 1991,pp. 22-34.

59. J. F. Baldwin, "Fuzzy and Probabilistic Uncertainties" in Encyclopaedia of AI, 2nd ed., Shapiro, Ed, 1992, pp. 528-537.

60. Осовский С. Нейронные сети для обработки информации.- М.: Финансы и статистика, 2002,434 с.

61. Тихонов А.Н, Арсенин В.Я. Методы решения некорректных задач.-М.: Наука, 1986,288 с.

62. Горбань А.Н. Обучение нейронных сетей.- М.: СП ParaGraph, 1990.

63. Галушкин А.Н. Современные направления развития нейрокомпью-терных технологий в России // Открытые системы, 1997, №4, с. 25-28.

64. Патрик Э. Основы теории распознавания образов. М.: Сов. радио, 1980.- 408 с.

65. Гилл Ф, Мюррей У, Райт М. Практическая оптимизация. М.: Мир, 1985.509 с.

66. Колмогоров А.Н, Фомин С.В. Элементы теории функций и функционального анализа. М.:Наука, 1989, - 544 с.

67. Журавлев Ю.И. Об алгебраическом подходе к решению задач распознавания или классификации // Кибернетика, № 33, 1978, с. 5 68.

68. Дубровин Б.А, Новиков С.П, Фоменко А.Т. Современная геометрия: методы и приложения. М.:Наука, 1986, - 760 с.

69. Ritter Н, Schulten К. On the satisfactory state of the Kohonen self-organizing sensory mapping // Biological Cybernetics, 1986, vol. 54, pp. 234-249.

70. Shapiro L.G. A structural model of shape // IEEE Trans. Pattern Anal. Mach Intel. 2, 1980, pp. 111-126.

71. Царегородцев В.Г. Производство полуэмпирических знаний из таблиц данных с помощью обучаемых искусственных нейронных сетей // В сб. научных трудов "Методы нейроинформатики", ред. А.Н. Гор-бань, Красноярск: КГТУ, 1998, с. 176-198.

72. Broomhead D.S., Lowe D. Multivariable functional interpretation and adaptive netvorks // Complex Systems, 1988, vol/ 2, №3, pp. 321-355.

73. Park J., Sandberg I.W. Approximation and radial-basis-function neural networks // Neural Computing, 1993, vol.5, pp. 305-316.

74. Handbook of Intelligent Control: Neural, Fuzzy and Adaptive Approaches / Ed. by David A. White and Donald A. Sofge.- N-Y, Van Nostrand Rein-hold, 1992.

75. J. G. Shanahan, "Automatic Synthesis of Fuzzy Rule Cartesian Granule Features from Data for both Classification and Prediction", Advanced Computing Research Centre, Dept. of Engineering Maths, University of Bristol, UK ITRC 247,1996.

76. Аверкин A.H., Батыршин И.З., Блишун А.Ф. и др. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д.А. Поспелова.-М.: Наука, 1986, 312 с.

77. Freeman Н. Computer processing of line drawing images // Comput. Surveys 6, 1974, pp.57-98.

78. Нариньяни A.C., Телерман B.B., Ушаков Д.М., Швецов И.Е. Программирование в ограничениях и недоопределенные модели. Информационные технологии, №7,1998, с. 13-22.

79. Jang J.R., Sun C.N. ANFIS: Adaptive-Network-based Fuzzy Inference Systems // IEEE Trans, on Systems, Man and Cybernetics, 1993, vol. 23.

80. Jang J.R., Sun C.N., Mizutani E. Neuro-Fuzzy and Soft Computing. F Computational Approach to Learning and Machine Intelligence.- Prentice Hall, 1997.

81. Ильясов Б.Г., Мунасыпов Р.А., Булаев В.И. Минимизация структуры нейронной сети для решения задачи распознавания изображений / В сб. Нейрокомпьютеры в системах обработки изображений, ред. Гуляев Ю.В., Галушкин А.И. М.: Радиотехника, 2003, сс. 13-21.

82. Горбань А.Н. Нейроинформатика.- Новосибирск: Наука, 1992, 560с.

83. Camara, G., Egenhofer, М., Fonseca, F., and Monteiro, A. M. V. What's in an Image, in: Montello, D. R., (Ed.), Spatial Information Theory A Theoretical Basis for GIS // International Conference COSIT '01, Santa Barbara, С A, 2001.

84. Эгрон Ж. Синтез изображений. Базовые алгоритмы. М:Радио и связь, 1993.

85. Roerdink J., Meijster A. The Watershed transform: Definitions, Algorithms and Parallelization strategies.- Fundamenta Informaticae, 41 (2000), pp. 187-228.

86. Берж К. Теория графов и ее применения. М.: Издательство иностранной литературы, 1962, 320 с.

87. Zadeh L.A. From Computing with Numbers to Computing with Words -From Manipulation of Measurements to Manipulation of Perceptions. IEEE Trans. On Circuits and Systems Fundamental Theory and Applications, vol. 45, No. 1, January, 1999, pp. 105-119.

88. Френк Г., Фриш И. Сети, связи и потоки.- М.:Связь, 1978,245 с.

89. Зыков А.А. Теория конечных графов.- М.: Наука, 1993.

90. Пытьев Ю.П. Морфологический анализ изображений. Докл. АН СССР. 1983.Т.269, N 5, с.1061-1064.

91. Pyt'ev Yu.P. Morphological Image Analysis. ~ Pattern Recognition and Image Analysis. V.3, No.l, 1993, pp. 19--28.

92. Чуличков А.И. Анализ и распознавание формы сигнала, искаженного линейным преобразованием.- Математические методы распознавания образов, Рига, 1989.

93. Нариньяни А.С. "НЕ-факторы 2004". В сб. трудов Девятой Национальной конференции по искусственному интеллекту КИИ-2004, Москва, Физматлит, 2004, т.1, с. 420-432.

94. Бутенков С.А. "Формализация неопределенности в многомерных данных". В сб. трудов международной научно-технической конференции „Интеллектуальные системы" (IEEE AIS'03), Москва, Физматлит, 2003, с. 104-113.

95. Butenkov S. "Granular Computing in Image Processing and Understanding". In Proc. IASTED International Conf. On AI and Applications "AIA 2004", Innsbruk, Austria, February 10-14, 2004.

96. Winter S. Location-based similarity measures of regions. In: Fritch D. (Editor) ISPS Comission IV Symposium "GIS between Vision and Applications", Stutgart, Germany, 1999, pp. 669-676.

97. Tizhoosh H.R. "Fuzzy Image Processing", Springer, 1997, ISBN: 3-54063137.

98. Baltsavias E., Hahn M. "Integration of Image Analysis and GIS". In: Fritch D. (Editor) ISPS Comission IV Symposium "GIS between Vision and Applications", Stutgart, Germany, 1999, pp. 669-676.

99. Tizhoosh H.R. "On a Systematic Introduction into Fuzzy Image Processing". In Proc. AFN'97 Annual Meeting, Magdeburg, Germany, pp. 39-45.

100. Walker E. "Perspectives on Fuzzy Systems in Computer Vision". Proc. of the Annual Conference of the North American Fuzzy Information Processing Society NAFIPS '98., August, 1998, pp. 296-300.

101. Zadeh L. A. "Outline of a new approach to the analysis of complex systemand decision processes," IEEE Trans. Syst., Man, Cybern., vol. SMC-3, pp.28-44,1973.

102. Zadeh L. A. "Fuzzy logic = computing with words," IEEE Trans. Fuzzy Syst., vol. 4, pp. 103-111, 1996.

103. Varzi A.C. "Parts, wholes and part-whole relations: The prospects of mereotopology". Data and Knowledge Engineering, 20:259-285, 1996.

104. Grenander U. Towards a Theory of Natural Scenes. www.dam.brown.edu/ptg, 2003.

105. Grenander U., Srivastava A. Probability Models for Clutter in Natural Images. IEEE Trans, on Pattern Analysis and Machine Intelligence, Vol. 23 , Issue 4, 2001, pp. 424-429.

106. Zadeh L. A. "A theory of approximate reasoning," Machine Intelligence, vol. 9, J. Hayes, D. Michie, and L. I. Mikulich, Eds. New York: Halstead, 1979, pp. 149-194.

107. Rosenfeld A. Fuzzy digital topology, Information and Control 40,(76-87), 1979.

108. Rosenfeld A., Haber J. On the connectivity properties of grayscale pictures, Pattern Recognition 16,1 (47-50), 1983.

109. Bezdek J.C., Pal S.K. (editors) "Fuzzy Models for Pattern Recognition". IEEE Press, 1992.

110. Дюбуа Д, Прад А. К анализу и синтезу нечетких отображений // в сб. "Нечеткие множества и теория возможностей" под ред. Р. Ягера. — М.:Радио и связь, 1986.

111. Rosenfeld A. The diameter of a fuzzy set, Fuzzy Sets and Systems 13, (241-246), 1984.)

112. Bloch I. On fuzzy distances and their use in image processing under imprecision. Pattern recognition, 32:1873-1895,1999.

113. Rosenfeld A. The fuzzy geometry of image subsets, Pattern Recognition Letters 2, (311-317), 1984.)

114. Pal S.K, Ghosh A. Fuzzy geometry in image analysis, Fuzzy Sets and Systems 48, (23^0), 1992.

115. Pedrycz W. Fuzzy Neural Networks with Reference Neurons as Pattern Classifiers. IEEE Trans, on Neural Networks, vol. 3, no. 5, 1992.

116. Chauduri B.B. Some shape definitions in fuzzy geometry of space,Pattern Recognition Letters 12, (531-535), 1991.

117. Chauduri B.B. Fuzzy convex hull determination in 2D space, Pattern Recognition Letters 12, (591-594), 1991.

118. Zadeh L. Fuzzy sets and Information Granularity. In "Advances in Fuzzy Set Theory and Applications", M. Gupta, R. Ragade, and R. Yager, Eds. Amsterdam, The Netherlands: North-Holland, 1979, pp. 3-18.

119. Zadeh L. Toward a theory of fuzzy information granulation and its central-ity in human reasoning and fuzzy logic. Fuzzy Sets Syst, vol. 90, pp. 111127, 1997.

120. Бутенков С.А., Каркищенко А.Н., Кривша В.В. "Перцептуальный подход к анализу гранулированных изображений в интеллектуальных системах". "Искусственный интеллект", научно-теоретический журнал Национальной академии наук Украины, №3, 2003, с. 209-218.

121. Zadeh L.A. Calculus of fuzzy restrictions, in Fuzzy Sets and Their Appl-cations to Cognitive and Decision Processes, L. A. Zadeh, K. S. Fu, and M. Shimura, Eds. New York: Academic, 1975, pp. 1-39.

122. Zadeh L.F. PRUF A meaning representation language for natural languages. Int. J. Man-Machines Studies, vol. 10, pp. 395-460, 1978.

123. Zadeh L.A. Test-score semantics for natural languages and meaning representation via PRUF. Empirical Semantics, B. Rieger, Ed. Germany: Brock-meyer, pp. 281-349; also, Tech. Rep. Memo. 246, AI Center, SRI International, Menlo Park, CA, 1981.

124. Pedrycz W. (ed). Granular Computing: An Emerging Paradigm, Physica-Verlag, 2001.

125. Newell, A. and Simon, H.A. Human Problem Solving. Prentice-Hall, 1972.

126. Батыршин И.З. Перцептивные функции и гранулярные производные в вычислении словами,- в сб. трудов II Международного научно-практического семинара "Интегрированные модели и мягкие вычисления в искусственном интеллекте 2003", М:Физматлит, 2003, с. 1219.

127. Батыршин И.З. О гранулировании выпуклых и вогнутых образов перцептивных функций.- в сб. трудов II Международного научно-практического семинара "Интегрированные модели и мягкие вычисления в искусственном интеллекте 2003", М:Физматлит, 2003, с. 141

128. Рвачев B.JI. Теория R -функций и некоторые ее приложения.- Киев: Наукова думка, 1982.

129. Batyrshin I., Panova A. On Granular Description of Dependences// Proc. Of 9th Zittay Colloquium (Zittay, Germany, 2001). 2001, p. 1-8.

130. Ясницкий JI.H. Введение в искусственный интеллект.- М.:Изд.-во Академия, 2005,175 с.

131. Shariff A.R., Egenhofer М., Mark D. Natural-Language Spatial Relatios between Linear and Areal Objects: the Topology and Metric of English-Language Terms. Int. J. of GIS, 12(3): 215-246, 1998.

132. Gabrys B. Agglomerative Learning for General Fuzzy Min-Max Neural Network. In the Proceedings of IEEE NNSP'2000 workshop, Sydney,December 2000.

133. Колмогоров A.H. О представлении непрерывной функции нескольких переменных суперпозицией непрерывных функций одной переменной и сложения, ДАН СССР, 114(5) стр. 953-956, 1957.

134. Gabrys В., Bargiela F. General Fuzzy Min-Max Neural Network for Clustering and Classification. IEEE Trans. On Neural Networks, vol. 11, no. 3, 2000, pp. 769-783.

135. Egmont-Petersen M., de Ridder D., Handles H. Image processing withneural networks a review. Pattern Recognition, 35 (2002) 2279-2301.

136. Бутенков С.А. Нечеткие геометрические признаки в задачах классификации и кластеризации. Журнал „Новости искусственного интеллекта", Вып.З, Москва, 2000, с. 129-133.

137. Бутенков C.A. Грануляция и инкапсуляция в системах эффективной обработки многомерной информации. Искусственный интеллект", научно-теоретический журнал Национальной академии наук Украины, №4,2005, с. 106-115.

138. Hecht-Nielsen R. Kolmogorov's mapping neural network existence theorem // IEEE First Ann. Int. Conf. on Neural Networks. San Diego. -1987.-3.-P. 11-13.

139. Felix Klein. Elementarmathematik vom Hoheren Standpunkte Aus Erster Band. Verlag von Julius Springer, Berlin, 1924.

140. Hornik K, Stinchcombe M., White H. Multilayer feedforward networks are universal approximators. Neural Networks. 1989. Vol. 2. PP. 359 -366.

141. Shannon C.S., Weaver W. The Mathematical Theory of Communication, U. of Illinois Press, Urbana, 111., 1949.

142. Stone M.N. The generalized Weierstrass approximation theorem. Math. Mag., 1948. V.21. pp. 167-183,237-254.

143. Alfred V. Aho, John E. Hopcrofit, Jeffrey D. Ullman, The Design and

144. Analysis of Computer Algorithms, Addison-Wesley, 1976.

145. Egenhofer M., A formal definition of binary topological relationships. Proceedings of the Third International Conference on the Foundation of Data Organization and Algorithms, Paris, 1989.

146. Sjahputera O., Keller J., Matsakis P., Gader P., Marjamaa J., "Histogram-Based Scene Matching Measures". NAFIPS'2000 (North American Fuzzy Information Processing Society), Atlanta, Georgia, July 2000, Proceedings, pp. 392-396.

147. Zimmerman K., Freksa C. Qualitative Spatial Resoning Using Orientation, Distance, and Path Knowledge. In Workshop on Spatial Reasoning of the Int. Join Conference on Artificial Intelligence (IJCAI-93). Chambery, France, 1993.

148. Бутенков С.А., Кривша B.B., Аль-Доуяни C.X.C. Оптимальное гранулирование многомерной информации. Известия ТРТУ, №11, 2005, с. 35-42.

149. Бутенков С.А. Применение нечетких операторов в задачах агрегирования геометрической информации В сб. трудов Международного Конгресса "Искусственный интеллект в 21 веке", Дивноморское, 3-7 сентября, 2001, т.2, с. 435-442

150. Аль-Доуяни С.Х.С, Бутенков С.А. О принципах построения оптимальных нечетких нейронных сетей.- Сб. трудов Научной сессии МИФИ-2006, Москва, 23-27 января 2006, т. 3, с. 78-79.

151. Swingler К. Applying Neural Networks. A practical Guide. Springer, Berlin, 2001.

152. Аль-Доуяни С.Х.С, Бутенков С.А. О динамической интерпретации задачи обучения нейронных сетей.- Сб. трудов Научной сессии МИФИ-2006, Москва, 23-27 января 2006, т. 3, с. 96-97.

153. Бутенков С.А, Аль-Доуяни С.Х.С. Применение нейронных сетей для семантической интеллектуальной сегментации. "Искусственный интеллект". Научно-теоретический журнал Национальной академии наук Украины, №3,2006, с. 262-270.

154. Аль-Доуяни С.Х.С. Нейросетевой подход в задачах гранулирования многомерной информации.- VIII Всероссийская научная конференция студентов и аспирантов // Техническая кибернетика, радиоэлектроника и системы управления. Таганрог, 2006, с. 45-46.