автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Разработка и обоснование метода текстурной сегментации аэрофотоснимков объектов хозяйственного и природного назначения

На правах рукописи

УДК 004.932 Бахвалов Юрий Николаевич

РАЗРАБОТКА И ОБОСНОВАНИЕ МЕТОДА ТЕКСТУРНОЙ СЕГМЕНТАЦИИ АЭ РОФОТОСНИМКОВ ОБЪЕКТОВ ХОЗЯЙСТВЕННОГО И ПРИГОДНОГО НАЗНАЧЕНИЯ

Специальность 05.13.01 Систем ный анализ, управление и обработка информации (авиационная и ракетно-космическая техника)

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Череповец -2005

Работа выполнена в Череповецком государственном университете.

Научный руководитель: доктор военных наук,

проф ессор В алерий В ладим ирович П лашенков

Официальные оппоненты: доктор технических наук,

проф ессор В ильям Викторович Инсаров кандидат технических наук, профессор Николай Владимирович Ким

Ведущая организация: ОАО Вологодский Оптико-Механический Завод.

Защита состоится «_»_2006 г. в_часов на заседании

диссертационного совета Д 212.125.12 в Московском авиационном институте (государственном техническом университете) по адресу: 125993, Москва, ГСП-3, Волоколамское шоссе, дом 4.

С диссертацией можно ознаком игься в библиотеке Московского авиационного института (государственного технического университета).

Автореферат разослан «17- » И^х^р^с 2005

У че ны й се кретарь

диссертационного совета Д 212.125.12 к.т.н. доцент

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность. В условиях перехода от индустриального к информационному обществу разработка методов и алгоритмов, позволяющих осуществлять компьютерную обработку видео-изображений земной поверхности, помогающих в анализе и понимании аэрофотоснимков имеет огромное государственное значение. Одним из инструментов анализа изображений земной поверхности является текстурная сегментация, которая может быть использована в различных сферах человеческой деятельности, где актуальна обработка аэрофотоюображений: геологическом картографировании, оценке лесов, мониторинге земель, прогнозировании и мониторинге чрезвычайных и аварийных ситуаций, экологическом мониторинге, ледовой разведке.

Одним из путей сегментации изображений естественных сцен является использование классификатора текстур, обучаемого на примерах. Сегментация выполняется путем описания изображения в пространстве признаков и классификации текстур, осуществляемой с помощью решающих функций, разделяющих классы в признаковом пространстве. Эффективность разделения признакового пространства в значительной мере определяет качество сегментации изображения. Без эффективного метода определения решающих функций даже высокоинформативные признаки не будут реализовывать своего полного потенциала, и результатможег оказаться не пригодным для использования.В тоже время, не смотря на широкий выбор методов разбиения пространства признаков, все они обладают недостаткам и.

В связи с этим, дальнейшее развитие методов текстурной сегментации на основе совершенствования способов разделения классов в признаковом пространстве по набору эталонных примеров представляется весьма актуальным.

Объектам исследования является текстурная сегментация изображений.

Предметом исследования являются численные методы разбиения пространства признаков применительно к задаче текстурной сегментации.

• '-'-с. ¡; и;,ноил,чьнАя : БИБЛИОТЕКА !

1 С. Петербург Лл к

Целью работы является разработка и обоснование нового численного метода разделения пространства признаков, позволяющего повысить эффективность текстурной сегментации аэрофотоснимков объектов хозяйственного и природного назначения. Предлагаемый метод отличается от известных тем, что в его основу заложена теория случайных функций. Исходя из анализа существующих наработок в данной области, можно заключить, что научная задача, направленная на повышение эффективности текстурной сегментации путем разработки метода разделения пространства признаков на основе теории случайных функций ранее не рассм атривалас ь.

Достижение цели исследования осуществлялось последовательным решением следующих основных задач:

обоснование подхода к решению задачи текстурной сегментации на основе теории случайных функций;

разработка численного метода многомерной интерполяции;

сравнительный анализ разработанного метода с существующими;

экспериментальное исследование предлагаемого метода на множестве тестовых и реально существующих (прагматических) задач.

Метода исследования. Теоретическое исследование проводилось на основе существующих методов оптимизации, теории матриц, цифровой обработки сигналов, теории вероятностей, математической статистики, теории нейронных сетей, теории случайных функций, теории построения алгоритмов и программ.

Научная новизна.

Научным и результатам и работы являются:

Решение задачи разбиения пространства признаков на основе теории случайных функций применительно к текстурной сегментации.

Доказана адекватность получаемых с помощью разработанного метода интерполяционных моделей для выбранных ограничений и допущений.

Разработан способ построения решающих функций в виде вероятностных распределений значений параметров отклика.

Практическая значимость результатов работы:

Методика, позволяющая вычислять м ногомерные нелинейные решающие функции по набору эталонных примеров, с качеством, не уступающим наилучшим существующим методам, в данной предметной области. Программные продукты реализации предлагаемого метода, позволяющие улучшить технико-экономические показатели процесса обработки аэ роф от ос ним ков.

Реализация полученных результатов работы.

В ФГУП "ГОИ им. С.И. Вавилова", при выполнении НИР 12-200-060-03 "Создание методов, алгоритмов и программного обеспечения текстурного и структурного анализа видео информации" внедрены:

метод построения математических моделей на основе экспериментальных данных наблюдения;

пакет прикладных программ, реализующих разработанный метод при анализе изображений.

В муниципальном учреждении "Центр муниципальных информационных ресурсов и технологий" г. Череповца при выполнении совместных научно-исследовательских работ внедрена:

методика расчета многомерных нелинейных решающих функций по набору эталонных примеров.

Достоверность полученных результатов обеспечивается корректным использованием математического аппарата, а также современных методов и алгоритмов, проверенных на практике.

Апробация работы.

Основные научные результаты диссертационной работы изложены в журналах "Приборостроение" (Т.48, № 2 2005 г.), "Современные проблемы информатизации в системах моделирования, программирования и телекоммуникациях" (Воронеж, вып. 9, 2004 г.), "Перспективные информационные технологии и интеллектуальные системы" (Таганрог, № 3, 2003 г.) а также докладывались и обсуждались на Международной научной конференции " Информатизация процессов формирования открытых систем на основе СУБД, САПР, АНСИ и систем искусственного интеллекта" (г. Вологда, 2001 г.), на VIII Всероссийской Конференции «Нейрокомпьютеры и их применение» (г. Москва, 2002 г.), на IV Межвузовской конференции молодых ученых (г. Череповец, 2003 г.), на II Межвузовской научно-методической конференции «Образование, наука, бизнес: особенности регионального развития и интеграции» (г Череповец, 2003 г.), на Международной научно-практическая конференции (г. Вологда, 2003 г.), на IV Международной научно-технической конференции «Прогрессивные процессы и оборудование металлургического производства» (г. Череповец, 2003 г.), на VI Всероссийской научно-технической конференции "Нейроинформатика - 2004" (г. Москва 2004 г ), на Восьмой Международной Конференции NDTCS-2004 (г. Санкт-Петербург 2004 г.), Proceedings ofSPIE (Vol. 5831 2004г.).

Потеме диссертации опубликовано 14 печатных работ, в том числе 10 статей и 4 тезиса докладов.

На защиту выносятся:

1. Метод определения многомерных нелинейных решающих функций для разбиения пространства признаков на основе теории случайных функций.

2. Методика построения системы текстурной сегментации аэрофотоснимков по набору примеров эталонных изображений текстур.

3. Способ построения решающих функций в виде вероятностных распределений значений параметров отклика.

Структура и объем диссертации. Диссертационная работа состоит из введения, четырех глав, заключения, библиографического списка из 91 наименований и приложений Общий объем диссертации 181 страница машинописного текста, в том числе: 154 страницы основного текста и 27 страниц приложений, 85 рисунков, 34 таблиц.

СОДЕРЖАНИЕ РАБОТЫ

Во введении проводится обоснование актуальности темы и научной задачи исследования, излагаются цели и содержание исследования, оцениваются научная новизна и практическая значимость полученных результатов, излагаются их реализация, апробация и публикация.

В первой главе на основе анализа известных научных положений в данной области выявлены достоинства и недостатки существующих методов, обоснована необходимость разработки метода разделения классов в признаковом пространстве. Выделены и рассмотрены существующие подходы и методы их реализации - метод ближайших соседей, искусственных нейронных сетей, интерполяции сплайнами, а также линейная регрессия.

Выявлено, что, несмотря на существование большого количества различных подходов в рамках предмета исследования, все они имеют ограничения, для преодоления которых необходимы:

1. Поиск новых подходов, альтернативных парадигм к разработке методов разделения классов в пргонаковом пространстве.

2. Разработка численных методов разделения классов в пространстве признаков, которые по сравнению с существующими аналогами обладали бы меньшей вычислительной нагрузкой, были более надежны и просты в применении.

Сделан вывод о необходимости разработки нового подхода к решению задачи численного моделирования, одним из главных требований, к которому, должна

быть возможно большая универсальность с точки зрения отсутствия требований к дополнительным затратам, действиям пользователя.

Предлагаемые решения должны уменьшить круг ограничений и допущений, имеющих место у известных методов, таких, как невозможность их надежного использования в автоматических обучающихся системах, отсутствие критериев, позволяющих доказать или надежно оценить адекватность, получаемых с их помощью моделей кроме проведения тестирования.

Вторая глава посвящена постановке задачи на основе представления решающих функций как реализаций случайных функций, производству математических преобразований, приводящих к разработке метода решения поставленной задачи.

Предлагаемый метод основан на представлении искомой интерполирующей функции как реализации некоторой случайной функции Исходным уравнением для вывода результата служит каноническое разложение случайной функции (1 )■

где/'Д.х)- координатные функции,!^- случайные величины, Г- некоторая случайная функция Координатные функции, а также их количество - ш, в выражении (1)могут быть произвольными.

Для каждой реализации случайной функции мы можем поставить в соответствие некоторый вектор V. Тогда мы можем вычислить плотность вероятности для любой реализации. Вероятность реализации случайной функции

вида (1), соответствующей некоторому конкретному вектору значений К,,..., V , который будем обозначать V,,..., V , полагая, что случайные величины независимы и распределены по нормальному закону, с математическим ожиданием, равным нулю, будет:

т

(1)

= me (2 л-) 2

где У|,..,УШ вектор, описывающий реализации.

В этом случае мы можем поставить задачу построения модели как поиск реализации, удовлетворяющей данным наблюдения и обеспечивающей максимум плотности вероятности (2). Поиск максимума (2), равносилен поиску минимума функции (3):

V, + V, + ... + V 1 2 л.

(3)

Таким образом, получаем задачу квадратичного программирования. Поиск минимума функции (3) при системе ограничений (4).

£vA(*i) = :v.

/-i

¿V/,(X2) = J>2 ' /-1

(4)

где

к - количество примеров в обучающей выборке;

Х( е R" — ¡-й вектор входных значений обучающей выборки;

у1 — значение выхода для i-ro вектора. Введем обозначения:

r(v),v2,...,vm) -вектор решения задачи минимизации.

L, - вектора (',(*, ), f 2(х )...ím(x)).

Воспользуемся методом множителей JIarpaнжа. Функция Лагранжа будет:

к т

¿(V,,..., vm Д ,.л) = V,2 + v22 + ...vm2 + X {ЯДХ - У,» •

ы д1 «

Из условия — = 0, получим:

5 г к

vl = -0.5•1¿AJ■/l(x|). (6)

Введя коэффициенты С^..ак, обозначив =-0 5-А1 , используя (6), можем

зат.сать:

(8):

У'= +а.Ь. + ... + а. ¿,

11 2 2 к к ■

(7)

Запишем систему уравнений (4) в виде скалярного произведения векторов

¿2 -У=уг.

Заменив V по формуле (7) получим систему уравнений (9):

¿АА+^А А+ А = у,

а,¿2 ■ /., ¿, + ... + аА -Ьк=у2

я А ' А + ¿А • ¿2 + - + аА А = -V*:

Наиболее вероятная реализация тогда будет:

/» _ _ _ _ _ _ _ _

(В)

(9)

(10)

Рассмотрим более подробно скалярное произведение векторов •

/и

что является не чем иным как каноническим разложением корреляционной функции.

Используя каноническое разложение корреляционной функции, система (9) преобразуется в (11):

я,л:/(дг1,х|) + а1кг{х^,х1)+ . + акК/(х1,хк) = у,

^К/{х1,х^) + а1К г(хг,хг) + ... + акК 1(х1,хк) = уг , (11)

а,К г(хк,х,) + а2К г(хк,х2) + ... + акК )(хк,хк) = ук а наиболее вероятная реализация:

/(*) = а1К/(х,х,) + а2К/(х,х2)+ + акК г(х,хк) ■ (12)

Полученную модель можно легко обобщить на вариант с несколькими выходами, в этом случае все расчеты сведутся к вычислению обратной матрицы для системы (11).

Таким образом, задача свелась к определению корреляционной функции. Устранение неопределенности осуществляется выбором корреляционной функции, сделав определенные предположения. Для этого введем набор положений о вероятностях существования той или иной реализации рассматриваемого случайного процесса. Будем считать равновероятными реализации, преобразующиеся друг в друга путем параллельного переноса, поворота и одинакового одновременного изменения масштаба по всем осям. В этом случае случайную функцию можно считать стационарной, появляется возможность перейти в дальнейших преобразованиях к использованию автокорреляционной функции, спектрам реализаций и спектральной плотности автокорреляционной функции. Аналогом выражения (3) в этом случае будет:

I . <4 (13)

где5(<у) - спектральная плотность автокорреляционной функции, Б (со) - спектр некоторой реализации.

Обозначим за 5", (со), спектр некоторой реализации (х) .Аза (со) , спектр некоторой реализации (дг) .

Из условия /2(д:) — к ■ /{{х I к) , описывающего равное изменение масштаба по осям, получим соотношение:

Я\(со) = к2 ■ 8\(со - И)

(14)

Подставив (14) в (13) для двух реализаций:

,(<у)2

1

5(ю)

йю

А4 ,(<У-/г)2

J Л'

получим:

Я(а>)

БЫ И) 5И

йш = |

й' -5 ,(й))2 5(<у/А)

(1 (О

(15)

(16)

Откуда можно вычислить форму спектральной плотности:

.!>(&>) = а-о) 3, где О- - некоторый коэффициент. Будем считать а =1, поскольку при любом его значении, функция (12) остается неизменной, сделав замену переменных в (11).

Обобщив результаты на многомерный случай, получим: Б(с0„(02,...,0}п) = (с0,2 + а2 +... + <а„2) 2 . Спектром, близким к требуемому, обладает например функция:

(17)

(Г,2Н-г22+ +Г„2)"

К(т,,т2,...,тп) = е г +а и « 0.85 + 0.98;г » г,а » т

(18)

Автокорреляционная функция не обязательно должна быть в виде (18), главное требование заключается в том, чтобы функция имела нужную форму спектра (17), или (16) в ее одномерном сечении.

Подобрав аналитическую функцию со спектром близким к желаемому, можем получить, конечные формулы, описывающие метод:

К(х,,х ) = ехр

/(*) = £ а, ■*(*,*,)

1-1

У + (*,2 - х,г У + - + (■*,» - х,г У

(19)

+ г,

>Ъ »(*,* "*,*), (20)

а, АТС х, ,х,) + а2 К(х, ,х2) + ...+ап К(х1 ,хк) = у, а, К(х2, х1) + а2 К(х2, х2)+...+а„ К(х2, хк) = у2 ;

а{К(хк,х1) + а1К(хк,х2) + ... + апК{хк,хк) = ук

где/(х)- характеристическая функция, представленная в виде линейной комбинации (19), в которую входят функция (20), а также коэффициенты, вычисляемые из системы (21). Вектора х1 е 7?" -значения признаков в обучающей

выборке. Величины у,,....у„-значения решающей функции из обучающей выборки.

Ниже на рис.1 приведены два примера интерполяции. Сверху вариант интерполяции плавной функции, максимум спектра у которой расположен в низких частотах. Рисунок снизу показывает интерполяцию функции имеющей как низкочастотную, так и высокочастотную составляющую. В обоих случаях метод демонстрирует хорошее качество, несмотря на высокочастотную составляющую во втором случае, отсутствует осцилляции интерполянта.

Рис. 1. Примеры одномерной интерполяции. Сравнительный анализ вариантов интерполяции функций (см. рис.1) показывает, что предлагаемый метод в состоянии качественно интерполировать функции с высокой степенью нелинейности.

х

X

Далее во второй главе была рассмотрена возможность вычисления распределения случайной функции, реализации которой удовлетворяют данным наблюдения рис.2.

+

г"

*х

Рис 2. Пример распределения вероятностей для одномерного случая. А также, было получено еще одно дополнительное качество у рассматриваемого метода, заключающееся в возможности учитывать погрешности и их величину в экспериментальных данных рис.3.

Рис.3. Пример учета погрешностей в данных.

Результаты сравнения позволили выявить следующие преимущества раз работа нног о м етода:

• по сравнению с линейной регрессией - появляется возможность строить нелинейные модели;

• по сравнению с методом ближайших соседей - путем построения интерполяционной модели по эталонным примерам при разбиении пространства признаков, учитываются закономерности взаиморасположения самих эталонов между собой;

• по сравнению с многослойными нейронным и сетям и:

гарантированное получение результата с ошибкой обучения равной нулю, исключение такой проблемы как паралич;

универсальность, т.е. возможность использования для самых различных выборок данных, не требуется выбор "оптимальной структуры"; простота предлагаемого алгоритма и удобство в использовании (не требует знаний специфических теоретических сведений для его применения).

• по сравнению с радиально базисными сетями - не требует выбора позиции центров ядер, а также их ширины, нет необходимости заблаговременного определения числа эталонов;

• по сравнению со сплайн интерполяцией - нет проблемы выбора узлов, и в их разбиении на группы в случае иррегулярных входных данных.

В третьей главе представлены результаты тестирования разработанного метода на наборе тестовых задач, сравнение полученных результатов с другими методами.

Был произведен сравнительный анализ влияния на разбиение признакового пространства изменений информативности признаков и корреляции между ними для разработанного метода и различных вариантов метода ближайших соседей. На рис.4, приведен пример диаграммы для Опыта 1. Всего в данном исследовании было проведено 7 опытов.

Далее в третьей главе в качестве источника тестовых задач для проверки предложенного метода, и данных о результатах их решения с помощью других методов, необходимых для сравнения, использовались данные исследовательского проекта [DELVE], Было проведено тестирование на 19 различных задачах. В сравнении участвовало 25 методов.

100 95 90 85 . 80 75 70 65 60 55

10 20 30 40 50 60 70 80 90 100 эт эт эт эт эт эт эт эт эт эт

-♦—БС1 -в—БС5 БС10 БС15 -Ж—БС5лин -•—БСЮлин —I—БС15лин —— БС5кв БСЮкв БС15кв -»—МСФ

Рис.4. Опыт 1. Зависимость процента правильной классификации от размера выборки. МСФ - разработанный метод случайных функций.

Пример тестовой задачи 'Boston".

В данной задаче требуется построить прогностическую систему для оценки стоимости жилья в Бостоне (США), основываясь на 13 входных параметрах, таких как уровень преступности, доля жилых массивов, доля предприятий, близость к реке, доступность автострад, налог и т.д. Выборки составлены из реальных данных. Имеется информация по результатам 10 методов.

Информация о результатах представлена в таблице 1.

Таблица 1.

32 64 128 Средняя ошибка

gp-map-1 6 4,95 4,1 5,017

hme-el-1 5 4 3,5 4,167

hme-ese-1 5,5 4,2 3,6 4,433

hme-grow-1 5 4,25 37 4,317

knn-cv-1 6,5 6,1 5,55 6,050

lin-1 6,45 5 4,75 5,400

mars3 6-bag-1 5 6,25 3,45 4,900

me-el-1 5,4 4,27 3,45 4,373

me-ese-1 5,35 4 25 3,5 4,367

mlp-ese-1 5,65 4,5 4,05 4,733

тест метод 5,35 4,05 3,42 4,273

При длине выборки 32 результат средний. Для выборки 64 и 128,

тестируемый метод показал лучший результат, среди всех представленных методов. Результаты в виде гистограммы:

Qgp-map-1 ■hme-el-1

□ hme-ese-1

□ hme-grow-1

■ knn-cv-1

□ lin-1

■ mars3 6-bag-1

□ me-el-1

■ me-ese-1 Bmlp-ese-1

□ тест, метод

длина выборки

Рис. 5. Результаты тестов "Boston". Средняя ошибка по трем вариантам тестов (Рис.6.) находится в диапазоне 4.167 - 6.05. Средняя ошибка для разработанного метода составила 4.273, что близко к наилучшему результату.

Средняя ошибка

Идр-тар-1

■ hme-el-1

□ hme-ese-1 П hme-grow-1

■ knn-cv-1 О lin-1

■ mars36-bag-1

□ me-el-1

■ me-ese-1

■ mlp-ese-1

□ тест метод

Рис. 6. Средняя ошибка по набору тестов "Boston". Кроме того, было проведено тестирование и сравнение разработанного метода (программного продукта, его реализующего) с двумя программными продуктами, реализующими нейросетевые алгоритмы - NeuroShell Predictor и NeuroShell Classifier.

Пример результатов одного из тестов - "Cancer"

СмкегПмспознавание %)

W-- uw*'

/

SO,00%

0,00%

sss?% ш- п.

|- п.

»gm

юзж _ ж ах " ]

Рис. 7. Cancer Распознавание %.

В ходе проведенных вычислительных экспериментов была проверена приемлемость математических моделей, построенных с помощью разработанного метода в соответствующих тестах, сравнение с другими методами. Во всех поставленных экспериментах разработанный метод продемонстрировал более высокий процент классификации по сравнению с методом ближайших соседей (Опыты 1-7). В тестировании, на основе данных проекта DELVE, где участвовало большое число разнообразных методов, разработанный метод уверенно соперничал с наилучшими методами, применяемыми в данной предметной области. Одновременно, предложенный метод, по сравнению с аналогами, крайне прост в использовании и не требователен к вычислительным ресурсам. В проведенном тестировании и сравнении с программными продуктами NeuroShell Classifier и NeuroShell Predictor, предложенный метод продемонстрировал практически во всех тестах более высокий процент классификации с преимуществом до 6% или меньшую суммарную среднеквадратическую ошибку прогнозирования по сравнению с данными программами до 10%.

На основе анализа и оценки результатов проведенных вычислительных экспериментов, можно сделать вывод, что концепция построения моделей как поиск наиболее вероятной реализации случайной функции имеет право на существование и практическое применение.

В четвертой главе представлена предлагаемая структурная схема системы текстурной сегментации изображений на основе разработанного метода рис.8., изложены основные принципы ее создания, особенности обработки аэрофогосним ков.

Предлагаемая система отличается от существующих тем, что на основе разработанного метода разделения пространства признаков, вводятся дополнительные блоки 6-9, которые позволяют создать классификатор для выполнения процедуры сегментации, получить систему решающих функций.

1

Рис.8. Предлагаемая структурная схема системы текстурной сегментации. Описывается программный комплекс, реализующий систему текстурной сегментации аэрофотоснимков, приводятся результаты его апробации на

практических задачах сегментации аэрофотоснимков площадных объектов Вологодской области. Проведен сравнительный анализ результатов сегментации при использовании в системе разработанного метода по сравнению с применением метода ближайших соседей.

На рис.9-11 в качестве примера приведены результаты сегментации аэрофотоснимка. На рис.9 дано исходное изображение с выделенными на нем эталонными областями (прямоугольниками обозначены области изображения, считающиеся эталонными, точкам - центры анализируемых в качестве эталонных окон текстур), на рис.10 - изображение сегментации, выполненной с помощью разработанного метода. На рис.11 - изображение сегментации, выполненной с использованием метода ближайших соседей, по той же самой выборке эталонных примеров.

Рис.9. Исходное изображение. Как видно по рис.10-11, качество метода основанного на теории случайных функций выше (отсутствует "песок", нет ошибочного определения текстуры "лес" на береговой линии слева), чем при использовании метода ближайших соседей.

№

Рис.10. Сегментированное изображение разлива реки Темным цветом выделен лесной массив, серым - река и затопленные области, светлым -прибрежная зона, черным - нераспознанны й тип.

Рис.11. Сегментированное изображение разлива реки методом ближайших соседей.

Для расчета количественной оценки качества сегментации различных площадных объектов был использован специальный массив эталонных текстур. В таблице 2 приведены результаты сегментации по 6 типам текстур, в таблице 3- по четырем типам текстур.

Таблица 2.

Тип текстуры Правильная сегментация %

Лес 89,35

Вырубка 93,81

Поле 99,69

Огороды 71,18

Поселок 73,23

Река 97,63

Таблица 3.

Тип текстуры Правильная сегментация %

Лес 94,24

Вырубка 98,45

Поле 100,00

Река 99,9

Оцениваются возможности применения разработанного алгоритмического обеспечения для использования в других областях науки и техники. Разработанный метод был применен для выявления математических зависимостей между механическими свойствами, химическим составом и технологическими параметрами производства особо низкоуглеродистой стали конвертерной выплавки ОАО «Северсталь».

В заключении приводятся основные результаты и выводы диссертационного исследования.

В приложениях приведены экспериментальные выборки и промежуточные результаты тестовых задач, использованные при исследовании разработанного метода, данные исследований технологических процессов производства

22

автолистовой стали ОАО «Северсталь», экспериментальные выборки данных по

сквозной технологии производства IF-стали конвертерной выплавки,

микролегированной титаном, титаном и ниобием.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. Выполнен анализ современного состояния проблем, связанных с задачей текстурной сегментации аэрофотосним ков

2. Обоснован подход к текстурной сегментации как задаче распознавания и деления пространства признаков на основе теории случайных функций.

3. Разработан численный метод деления пространства признаков путем вычисления решающих функций по набору эталонных примеров

4. Осуществлен сравнительный анализ предлагаем ого метода с существующими аналогам и.

5. Проведено экспериментальное исследование разработанного метода и сравнение с существующими на м ножестве тестовых задач.

6. Разработан программный комплекс, реализующий систему текстурной сегментации аэрофотоснимков, и апробирован в задачах сегментации аэрофотоснимков площадных объектов Вологодской области.

ОСНОВНЫЕ РАБОТЫ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Bahvalov J .N., Potapov A.S. A statistical model of interpolation and its application to texture segmentation. - Eighth International Woikshop on Nondestructive Testing and Computer Simulations in Science and Engineering, Alexander I. Melker, Editor, Proceedings of SPIE, 2004, Vol. 5831, p. 191 -198.

2. Bahvalov J.N., Potapov A.S. A statistical model of interpolation and its application to texture segmentation. - The St.Peteiburg Academy of Sciences on Strength Problem: NDTCS - 2004. Proceedings of SPAS Eighth International Woikshop on New

Approaches to High-Tech: Nondestructive Testing and Computer Simulations in Science and Engineering, Vol.8, E26-29.

3. Бахвалов Ю.Н. Автоматическое построение моделей. Аппроксимация функций. -Череповец: IV Межвузовская конференция молодых ученых, 2003. с.207-208.

4. Бахвалов Ю.Н. Зуев А.Н. Использование ряда Фурье для аппроксимации функций. -М.: Труды VIII Всероссийской Конференции "Нейрокомпьютеры и их применение", 2002. с.198-199.

5. Бахвалов Ю.Н. Зуев А.Н. Ширабакина Т.А. Метод распознавания образов на основе теории случайных функций. - Санкт Петербург: Известия вузов. Приборостроение, 2005. Т.48, №2 с.5-8.

6. Бахвалов Ю.Н. Многомерная интерполяция в задачах моделирования. -Воронеж: Современные проблемы информатизации в системах моделирования, программирования и телекоммуникациях. Вып. 9.1 Под ред. д.т.н. проф. О .Я. Кравиа. - 2004, с.273-274.

7. Бахвалов Ю.Н. Зуев А.Н. Метод многомерной интерполяции. - Череповец: Материалы IV международной научно-технической конференции "Прогрессивные процессы и оборудование металлургического производства", 2003. с.290-292.

8. Бахвалов Ю.Н. Голованова Е.А. Метод построения моделей по набору экспериментальных данных. - Череповец. ЧВИИР, конф.- 2003 г. с.182-183.

9. Бахвалов Ю.Н. Зуев А.Н. Метод построения поверхности отклика на основе набора экспериментальных данных. - Вологда: Международная научно-практическая конференция, 2003 г.ВПИ с. 16-17.

10. Бахвалов Ю.Н. Метод численного моделирования. Череповец: конф. Образование, наука, бизнес: особенности регионального развития и интеграции. ИМИТСПбГПУ, 2003. с. 177-180.

11. Бахвалов Ю.Н. Моделирование поверхности отклика, удовлетворяющей данным наблюдения. - Таганрог: ТРТУ, Перспективные информационные технологии и интеллектуальные системы, (№3) 2003. с.67-68.

12 Бахвалов Ю.Н. О некоторых возможностях обучения радиально-базисных нейронных сетей. - Москва: МИФИ. VI Всеросийская научно-техническая конференция "Нейроинформатика -2004", 2004. с.50-52 13. Бахвалов Ю.Н. Зуев А.Н. Поиск координат экстремумов функций на основе свойств ее поверхности с помощью нейроподобной структуры. - Вологда: Информатизация процессов формирования открытых систем на основе СУБД, САПР, АНСИ и систем искусственного интеллекта, 2001. с.305-309 14 Бахвалов Ю.Н. Голованова Е.А Титов В.А . Построение имитационных моделей применительно к технологическим процессам обработки металлов давлением. -Череповец: Материалы IV международной научно-технической конференции "Прогрессивные процессы и оборудование металлургического производства", 2003. с.293-297.

РНБ Русский фонд

2006-4 26865

Подписано к печа1и 15 11 2005 Формат 60x84/16 Объем уч -изд л 1 Тираж 60 экз г Череповец, ЧГУ, пр Победы, 12, PCO

ВВЕДЕНИЕ.

ГЛАВА 1. Анализ специфики и методов текстурной сегментации.

Постановка задачи исследования

1.1. Анализ текстурной сегментации аэрофотоснимков как задачи распознавания.

1.1.1. Обоснование актуальности и необходимости исследования.

1.1.2. Анализ существующих наработок по задачам сегментации относительно их применимости к аэрофотоснимкам.

1.1.3. Общая схема текстурной сегментации как задачи распознавания. t 1.2. Анализ существующих методов разделения классов в признаковом пространстве.

1.3. Вербальная постановка задачи исследования.

Выводы по главе.

ГЛАВА 2. Разработка и обоснование метода построения решающих функций в признаковом пространстве на основе теории случайных функций.

2.1. Представление решающих функций как реализаций случайных функций.

2.2. Разработка метода и обоснование его основных положений.

2.3. Оценка распределения вероятностей реализаций.

2.4. Моделирование при условиях содержания погрешностей в эталонной выборке.

Выводы по главе.

ГЛАВА 3. Оценка приемлемости разработанного метода на основе постановки вычислительных экспериментов.

3.1. Сравнительная оценка предлагаемого метода с методом ближайших соседей.

3.1.1. Оценка влияния на разбиение признакового пространства изменения информативности признаков.

3.1.2. Оценка влияния на разбиение признакового пространства корреляции признаков.

3.2. Анализ и оценка результатов решения тестовых задач исследовательского проекта DELVE.

3.2.1. Обзор методов моделирования исследовательского проекта DELVE.

3.2.2. Анализ и оценка результатов тестирования на семействе тестов "Kin".

3.2.3. Анализ и оценка результатов тестирования на семействе тестов "Pumadyn".

3.2.4. Анализ и оценка результатов тестирования на семействе тестов "Bank".

3.2.5. Анализ и оценка результатов тестов "Boston".

3.3. Сравнительная оценка программного продукта предлагаемого метода с нейросетевыми аналогами.

Выводы по главе.

ГЛАВА 4. Проектирование системы текстурной сегментации изображений на основе разработанного метода.

4.1. Разработка системы текстурной сегментации аэрофотоснимков.

4.1.1. Структурная схема построения системы текстурной сегментации аэрофотоснимков.

4.1.2. Анализ особенностей задач обработки фотоизображений.

4.1.3. Программная реализации предложенной системы.

4.2. Результаты практической апробации предлагаемой системы.

4.2.1. Сегментация аэрофотоснимков площадных объектов различного хозяйственного и природного назначения.

4.2.2. Количественная оценка качества сегментации.

4.3. Возможности применения разработанного метода вычисления решающих функций в других областях.

Выводы по главе.

В условиях перехода от индустриального к информационному обществу, разработка методов и алгоритмов, позволяющих осуществлять компьютерную обработку видео-изображений земной поверхности, помогающих в анализе и Ь понимании аэрофотоснимков имеет огромное государственное значение.

Одним из подобных инструментов является текстурная сегментация, которая может быть использована в различных сферах человеческой деятельности, где может быть актуальной обработка аэрофотоизображений: геологическом картографировании, оценке лесов, мониторинге земель, прогнозировании и мониторинге чрезвычайных и аварийных ситуаций, экологическом мониторинге, ледовой разведки.

Одним из путей сегментации изображений естественных сцен является использование распознавателя текстур, обучаемого на примерах. Сегментация выполняется путем описания изображения в пространстве признаков и классификации текстур, осуществляемой с помощью решающих функций, разделяющих классы в признаковом пространстве. Эффективность разделения признакового пространства, в значительной мере определяет качество сегментации изображения. Без эффективного метода определения решающих функций даже высокоинформативные признаки не будут реализовывать своего полного потенциала, и результат может оказаться не пригодным для использования. В то же время, не смотря на широкий выбор методов разбиения пространства признаков, все они обладают недостатками.

В связи с этим, дальнейшее развитие методов текстурной сегментации, на основе совершенствования способов разделения классов в признаковом пространстве по набору эталонных примеров представляется весьма Ш актуальным.

В качестве объекта исследования выбрана текстурная сегментация изображений. Предмет исследования — численные методы разбиения пространства признаков применительно к задаче текстурной сегментации.

Целью диссертационного исследования является разработка и обоснование нового численного метода разделения пространства признаков, позволяющего повысить эффективность текстурной сегментации аэрофотоснимков объектов хозяйственного и природного назначения. Предлагаемый метод отличается от известных тем, что в его основу заложена теория случайных функций. Исходя из анализа существующих наработок в данной области, можно заключить, что научная задача, направленная на повышение эффективности текстурной сегментации путем разработки метода разделения пространства признаков на основе теории случайных функций ранее не рассматривалась.

Достижение цели исследования осуществляется последовательным решением следующих основных задач:

- обоснование подхода к решению задачи текстурной сегментации на основе теории случайных функций;

- разработка численного метода многомерной интерполяции;

- сравнительный анализ разработанного метода с существующими;

- экспериментальное исследование предлагаемого метода на множестве тестовых и реально существующих (прагматических) задач.

Методы исследования. Теоретическое исследование проводилось на основе существующих методов оптимизации, теории матриц, цифровой обработки сигналов, теории вероятностей, математической статистики, теории нейронных сетей, теории случайных функций, основ теории построения алгоритмов и программ.

Научная новизна результатов работы:

• Решение задачи разбиения пространства признаков на основе теории случайных функций применительно к текстурной сегментации.

• Доказана адекватность получаемых с помощью разработанного метода интерполяционных моделей для выбранных ограничений и допущений.

• Разработан способ построения решающих функций в виде вероятностных распределений значений параметров отклика.

Практическая значимость результатов работы:

• Методика, позволяющая вычислять многомерные нелинейные решающие функции по набору эталонных примеров, с качеством, не уступающим наилучшим существующим методам, в данной предметной области.

• Программный продукт реализации предлагаемого метода, позволяющие улучшить технико-экономические показатели процесса обработки аэрофотоснимков.

Реализация полученных результатов работы:

- метод построения математических моделей на основе экспериментальных данных наблюдения;

- пакет прикладных программ, реализующих разработанный метод при анализе изображений.

Внедрены в ФГУП "ГОИ им. С.И. Вавилова", при выполнении НИР 12200-060-03 "Создание методов, алгоритмов и программного обеспечения текстурного и структурного анализа видео информации".

- методика расчета многомерных нелинейных решающих функций по набору эталонных примеров.

Внедрена в муниципальном учреждении "Центр муниципальных информационных ресурсов и технологий" г. Череповца при выполнении совместных научно-исследовательских работ.

Достоверность полученных результатов обеспечивается корректным использованием математического аппарата, а также современных методов и алгоритмов, проверенных на практике.

Апробация работы.

Основные научные результаты диссертационной работы изложены в статьях в журналах "Приборостроение" (Т.48, № 2 2005 г.), "Современные проблемы информатизации в системах моделирования, программирования и телекоммуникациях" (Воронеж, вып. 9, 2004 г.), "Перспективные информационные технологии и интеллектуальные системы" (Таганрог, № 3, 2003 г.) а также докладывались и обсуждались на Международной научной конференции " Информатизация процессов формирования открытых систем на основе СУБД, САПР, АНСИ и систем искусственного интеллекта" (г. Вологда, 2001 г.), на VIII Всероссийской Конференции «Нейрокомпьютеры и их применение» (г. Москва, 2002 г.), на IV Межвузовской конференции молодых ученых (г. Череповец, 2003 г.), на II Межвузовской научно-методической конференции «Образование, наука, бизнес: особенности регионального развития и интеграции» (г. Череповец, 2003 г.), на Международной научно-практическая конференции «» (г. Вологда, 2003 г.), на IV Международной научно-технической конференции «Прогрессивные процессы и оборудование металлургического производства» (г. Череповец, 2003 г.), на VI Всероссийской научно-технической конференции "Нейроинформатика - 2004" (г. Москва 2004 г.), на Восьмой Международной Конференции NDTCS-2004 (г. Санкт-Петербург 2004 г.).

Публикации. По теме диссертации опубликовано 13 печатных работ, в том числе 9 статей и 3 тезиса докладов.

На защиту выносится:

• Метод определения многомерных нелинейных решающих функций для разбиения пространства признаков разработанный на основе теории случайных функций;

• Методика построения системы текстурной сегментации аэрофотоснимков по набору примеров эталонных изображений текстур;

• Способ построения решающих функций в виде вероятностных распределений значений параметров отклика.

Структура и объем диссертации. Диссертационная работа состоит из введения, четырех глав, заключения, библиографического списка из 91 наименований и приложений. Общий объем диссертации 181 страница

выход тест

6,842 6,237

100 91,6 2,0107 2,368

5 24

264 Б6Б

13 20,2 391,33 385,0

6,9 17,27

Х.1 16,1 32.4403Л 18,11

Рис.4.6. Модуль работы с таблицами эталонных векторов С помощью программного комплекса можно осуществлять как сегментацию изображений при решении реальных практических задач, так и для экспериментальных исследований компьютерной обработки аэрофотоснимков. В программном комплексе предусмотрена удобная визуализация процесса и результатов обработки изображений. Имеются широкие возможности по настройке, доступу к различным источникам данных, контролю процесса сегментации.

4.2.1. СЕГМЕНТАЦИЯ АЭРОФОТОСНИМКОВ ПЛОЩАДНЫХ ОБЪЕКТОВ РАЗЛИЧНОГО ХОЗЯЙСТВЕННОГО И ПРИРОДНОГО НАЗНАЧЕНИЯ

Разработанная система текстурной сегментации изображений в виде программного комплекса была апробирована при решении практических задач сегментации на аэрофотоснимках площадных объектов различного назначения Череповецкого района. Сегментация площадных объектов может иметь большое значение при решении ряда практических задач, в различных сферах хозяйственно деятельности, связанных с анализом аэрофотоснимков: мониторинг состояния лесных массивов, оперативно определять все изменения в лесном фонде, оценка последствий пожаров, незаконных вырубок, поражений деревьев вредителями, производить анализ землепользования, оценку состояния сельхозугодий, анализировать картину паводкового разлива рек, границ зон наводнения.

В качестве признаков при текстурной сегментации использовались набор статистических характеристик текстур по яркости: математическое ожидание, среднеквадратическое отклонение, коэффициент асимметрии, эксцесс; по распределению яркости, относительно его центра: среднеквадратические отклонения по горизонтали и вертикали, коэффициенты корреляции; яркость в центре текстуры.

Кроме того, при сегментации для вычисления признаков использовалось не только исходное изображение, но и отфильтрованное, которое было получено из исходного вычислением границ перепадов яркостей (пример Рис 4.7).

Рис.4.7. Предварительная фильтрация изображения.

Разработанная система был апробирована в различных практических задачах сегментации. Определение на изображении лесных вырубок. На Рис.4.8. - изображение сегментации произведенной с использованием в системе разработанного метода разделения пространства признаков, основанного на теории случайных функций. Для сравнения на изображении Рис.4.9. -сегментация, по аналогичным текстурным признакам выполненная с использованием метода ближайших соседей. Для анализа использовался размер текстур 15x15 пикселей.

Сравнивая изображения на Рис.4.8 и Рис.4.9 можно сделать вывод, что предложенный метод построения решающих функций позволяет достичь более качественной сегментации, чем при использовании метода ближайших соседей

Рис.4.9. Определение вырубки леса. Сверху - исходное изображение, снизу -выполненная сегментация. Красным цветом отмечен лесной массив, синим цветом отмечено поле, желтым - области вырубки леса, черным нераспознанный тип

Рис.4.10. Выполнение сегментации, с использованием для разделения признакового пространства метода ближайших соседей.

Рис.4,11. Исходное изображение. На Рис.4.10. - Рис 4,12. показаны результаты сегментации аэрофотоснимка разлива реки.

Рис.4.11. Сегментированное изображение разлива реки. Красным цветом выделен лесной массив, синим цветом - река и затопленные области, желтым прибрежная зона, черным - нераспознанный тип.

L,/ - Л t, ' . '

Рис.4.12. Сегментированное изображение разлива реки методом ближайших

На Рис.4.10 дано исходное изображение с выделенными на нем эталонными областями (прямоугольниками обозначены области изображения, считающиеся эталонными, точкам - центры анализируемых в качестве эталонных окон текстур), на Рис.4.11 - изображение сегментации, выполненной с помощью разработанного метода. На Рис.4.12 - изображение сегментации, выполненной с использованием метода ближайших соседей, выполненное по той же самой выборке эталонных примеров.

Размер текстур используемых при сегментации, изображенной на Рис.4.11-4.12 был равен 15x15 пикселей. Как видно по Рис.4.11-4.12, качество метода основанного на теории случайных функций выше (отсутствует "песок", нет ошибочного определения текстуры "лес" на береговой линии слева), чем при использовании метода ближайших соседей.

4.2.2 КОЛИЧЕСТВЕННАЯ ОЦЕНКА КАЧЕСТВА СЕГМЕНТАЦИИ

Для расчета количественной оценки качества сегментации различных площадных объектов был использован специальный массив эталонных текстур. Для этого был отобран набор вариантов изображений по разным типам объектов Рис.4.13.

Массив на Рис.4.13. можно использовать в качестве теста для проверки метода сегментации. Таким образом, количественно оценить качество сегментации, исключив случайные факторы, такие, как границы между изображениями и объекты, которые не принадлежат ни к одному из сегментируемых вариантов площадных объектов.

1. An artificial neural net based method for power system state estimation// Proc. Int. Jt Conf. Neural Networks, Nagoya, Oct. 25-29, 1993: IJCNN'93 - Nagoya.Vol.2. Nagoya, 1993. - p.1523-1526.

2. Bishop C M . Neural networks for pattern recognition Oxford University Press 1995.

3. Chris K. I. William and Carl Edward Rasmussen "Gaussian Processes for Regression", Advances in Neural Information Processing Systems 8, eds. D. S.Touretzky, M. C. Mozer, M. E. Hasselmo, MIT Press, 1996.

4. Cybenko G. Approximation by superposition of a sigmoidal function. Signals, and Systems., 1989. Vol. 2. PP. 303 - 314.

5. DELVE Project Home Page. URL: http://www.cs.toronto/edu/- delve/data/datasets.html

6. Haykin S., Neural Networks: A Comprehensive Foundation, MacMillan College Publishing Co., New York, 1994.

7. Hinton G.E. and D. van Camp. Keeping neural networks simple by minimizing the description of the weights. In Proceedings of the Sixth Annual Conferenceon Computational Learning Theory, pages 5-13, 1993.

8. Hopfield J.J., "Neural Networks and Physical Systems with Emergent Collective Computational Abilities", in Proc. National Academy of Sciencies, USA 79,1982, pp. 2554-2558.

9. Homik K., Stinchcombe M, White H. Multilayer feedforward networks are universal approximators. Neural Networks. 1989. Vol. 2. PP. 359 -366.147

10. Kochenov D.A., Rossiev D.A. Approximations of functions of CA,B. class by neural-net predictors (architectures ans results). AMSE Transaction, ScientificSiberian, A. 1993, Vol. 6. Neurocomputing. PP. 189-203. Tassin, France.

11. McCulloch W.S. and Pitts W., "A logical Calculus of Ideas Immanent in Nervous Activity", Bull. Mathematical Biophysics, Vol. 5, 1943, pp. 115-133.

12. Mtinsky M. and Papert S., "Perceptrons: An Introduction to Computational Geometry", MIT Press, Cambridge, Mass., 1969.

13. Neal, R. M. "Assessing relevance determination methods using DELVE", to appear in C. M. Bishop (ed) Generalization in Neural Networks and Machine1.earning, Springer-Verlag, 1998.

14. Olson C.F., "Improving the generalized Hough transform through imperfect grouping". Image and Vision Computing 16, pp. 627-634, 1998.

15. Park, J. (1991) Universal approximation using radial basis function network. Neural Computation

16. Parker D. B. 1987. Second order back propagation: Implementing an optimal 0(n) approximation to Newton's method as an artificial newral network.Manuscript submitted for publication.

17. Poggio, T. (1990) "Networks for approximation and learning", Proc. IEEE, vol.78, no.9,pp. 1481-1497.

18. Ramussen Carl E. "A Practical Monte Carlo Implementation of Bayesian 1.eamung", Advances in Neural Information Processing Systems 8, eds. D. S.Touretzky, M. C. Mozer, M. E. Hasselmo, MIT Press, 1996.

19. Ramussen Carl E. "K Nearest Neightbom for Regression.", Advances in Neural Information Processing Systems, MIT Press, May 3, 1996.

20. Rasmussen Carl E and Revow Mike " MARS3.6 with Bagging: mars3.6-bag-r' Advances in Neural Information Processing Systems, MIT Press, May 2, 1996.

21. Rosenblatt R., "Principles of Neurodynamics", Spartan Books, New York, 1962.

22. Rummelhart D.E., Hinton G.E., Williams RJ. Learning representations by back- propagating errors //Nature, 1986. V. 323. P. 533-536.148

23. Scala M.La, M.Trovato, F.Torelli. A neural network based method for voltage security monitoring. IEEE Trans, on Power System, vol.11, N3, Aug. 1996.

24. Srinivasan D. and oth. A novel approach to electrical load Forecasting based on a neural network. INNC-91, Singapoure, 1991 (1172-1177).

25. Stone M.N. The generalized Weierstrass approximation theorem. Math. Mag., 1948. V.21. PP. 167-183,237-254.

26. Wasserman P. D. 1988b. Experiments in translating Chinese characters using backpropagation. Proceedings of the Thirty-Third IEEE Computer SocietyInternational Conference. Washington, D. C: Computer Society Press of theIEEE.

27. Wasserman P., Neurocomputing. Theory and practice, Nostram Reinhold, 1990. (Рус. перевод. Ф.Уоссермэн. Нейрокомпьютерная техника. М. Мир, 1992).

28. Waterhouse Steve and David МасКау and Tony Robinson "Bayesian Methods for Mixtures of Experts", Advances in Neural Information Processing Systems 8,eds. David S. Touretzky and Michael C. Mozer and Michael E. Hasselmo, MITPress, 1996.

29. Wold S. Spline functions in data analysis, Technometrics, 1974,16, p. 1-11.

30. Zurada J. M. Introduction to artificial neural systems. PWS Publishing Company, 1992. 785 pp.

31. Адамов В.Г. Привалов М.В. Проведение текстурного анализа ультразвуковых изображений с применением нейронных сетей. -149Краматорск.: Нейросетевые технологии и их применение, 2002.

32. Айвазян А., Бежаева З.И., Староверов О.В. Классификация многомерных наблюдений.- М.: Статистика, 1974.- 240 с.

33. Алберг Дж., Нильсон Э., Уолш Дж. Теория снлайнов и ее приложения. - М.:Мир, 1972.-316с.

34. Арнольд В.И. О функциях трех переменных. Докл. АН СССР, 1957. Т. 114, No. 4. 679-681.

35. Барцев СИ., Охонин В.А. Адаптивные сети обработки информации. Красноярск : Ин-т физики СО АН СССР, 1986. Препринт N 59Б. - 20с.

36. Барцев СИ., Гилев СЕ., Охонин В.А. Принцип двойственности в организации адаптивных сетей обработки информации // Динамикахимических и биологических систем. Новосибирск: Наука, 1989, стр.6-55.

37. Бахвалов Ю.Н. Автоматическое построение моделей. Аппроксимация функций. - Череповец: IV Межвузовская конференция молодых ученых,2003.

38. Бахвалов Ю.Н. Зуев А.Н. Использование ряда Фурье для аппроксимации функций. - М.: Труды VIII Всероссийской Конференции"Нейрокомпьютеры и их применение", 2002.

39. Бахвалов Ю.Н. Зуев А.Н. Ширабакина Т.А. Метод распознавания образов на основе теории случайных функций. — Санкт Петербург: Известия вузов.Приборостроение, 2005. Т.48, №2.

40. Бахвалов Ю.Н. Многомерная интерполяция в задачах моделирования. — Воронеж: Современные проблемы информатизации в системахмоделирования, программирования и телекоммуникациях. Вып. 9.1 Подред. д.т.н. проф. О.Я. Кравца. — 2004.

41. Бахвалов Ю.Н. Зуев А.Н. Метод многомерной интерполяции. — Череповец: Материалы IV международной научно-технической конференции"Прогрессивные процессы и оборудование металлургическогопроизводства", 2003.150

42. Бахвалов Ю.Н. Голованова Е.А. Метод построения моделей по набору экспериментальных данных. - Череповец, конф.- 2003 г.

43. Бахвалов Ю.Н. Зуев А.Н. Метод построения поверхности отклика на основе набора экспериментальных данных. — Вологда: Международнаянаучно-практическая конференция, 2003 г.

44. Бахвалов Ю.Н. Метод численного моделирования. Череповец: конф. Образование, наука, бизнес: особенности регионального развития иинтеграции. Р1МИТ СПбГПУ, 2003.

45. Бахвалов Ю.Н. Моделирование поверхности отклика, удовлетворяющей данным наблюдения. - Таганрог: ТРТУ, Перспективные информационныетехнологии и интеллектуальные системы, (№3) 2003.

46. Бахвалов Ю.Н. О некоторых возможностях обучения радиально-базисных нейронных сетей. — Москва: МИФИ. VI Всеросийская научно-техническаяконференция "Нейроинформатика — 2004", 2004.

47. Будаев М.В., Лось В.Л.. Бифуркационный стохастический алгоритм минимизации функционала ошибки и приложения. - Красноярск.:Нейроинформатика и ее приложения, 2003.

48. Вентцель Е.С., Овчаров Л.А. Теория вероятностей и ее инженерные приложения. - М.: Высшая школа, 2000. - 480 с.151

49. Винер Н. Кибернетика, или Управление и связь в животном и машине, пер. с англ., 2-е изд., М, 1968.

50. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация. М.: Мир,1985. 509с.

51. Гитис В.Б. Экспресс-нормирование времени механообработки с использованием нейросетей.- Краматорск.: Нейросетевые технологии и ихприменение, 2002.

52. Горбань А.Н., Дунин-Барковский В.Л., Кирдин А.Н. и др. Нейроинформатика - Новосибирск: Наука. Сибирское предприятие РАН,1998.-296с.

53. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука (Сиб. отделение), 1996. 276 с.

54. Горбань А.Н. Обучение нейронных сетей. М.": год. СССР-США СП "Параграф", 1990. 160 с. (English Translation: AMSE Transaction, ScientificSiberian, A, 1993, Vol.6. Neurocomputing, PP. 1-134).

55. Горелик А.Л., Скрипкин B.A. Методы распознавания. — М.: Высшая школа, 1989.

56. Дуда Р., Харт П. Распознавание образов и анализ сцен.- М.: Мир, 1976.- 512с.

57. Ежов А. Чечеткин В. Нейронные сети в медицине. - М.: Открытые системы N4, 1997.

58. Ежов А.А. Шумский А.. Нейрокомпьютинг и его применения в экономике и бизнесе. М.: 1998.

59. Еременко Ю.И. Дудников В.А. Интеллектуализация управления приводами рабочей клетки прокатного стана. - Краматорск.: Нейросетевые технологиии их применение, 2002.

60. Закутный А.С. Коцюбинский B.C. Лушев СВ. Система стабилизации мощности резания пилы горячей резки сортового проката. - Краматорск.:Нейросетевые технологии и их применение, 2002.152

61. Иваненко Б.П. Проказов А. Нейросетевые методы имитационного моделирования процессов нефтедобычи. - М. Нейрокомпьютеры:Разработка, применение. N7, 2003.

62. Ивахненко А.Г. Самообучающиеся системы распознавания и автоматического регулирования.- Киев: Техника, 1969.- 392 с.

63. Камаев В.А. Шкурина Г.Л. Панченко Д.П. Филатов Б.Н. Буланова Е.В. Автоматизированная система диагностики острых отравлений на основеискусственных нейронных сетей. - Краматорск.: Нейросетевые технологиии их применение, 2002.

64. Кендалл М., Стьюарт А. Статистические выводы и связи.- М.: Наука, 1973. 900с.

65. Ким Н.В., Обработка и анализ изображений в системах технического зрения: Учебное пособие. — М: Изд-во МАИ, 2001. — 164 с.

66. Ковалевский СВ. Нейросетевые технологии и их применение в машиностроении, Краматорск.: Нейросетевые технологии и ихприменение, 2002.

67. Ковалевский В. Бывшев Р.А. Решение задачи управления основными фондами с применением нейросетевых моделей. - Краматорск.:Нейросетевые технологии и их применение, 2002.

68. Ковалевская Е.С. Нейросетевое прогнозирование качества термообработки сталей и сплавов. - Краматорск.: Нейросетевые технологии и ихприменение, 2002.

69. Колентьев В. Альтернативный способ обучения многослойных сетей прямого распространения в задаче распознавания образов.. - Спб.:4-яМеждународная Конференция DSPA-2002.

70. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одногопеременного. Докл. АН СССР, 1957. Т. 114, No. 5. 953-956.153

71. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числапеременных. Докл. АН СССР, 1956. Т. 108, No. 2. 179-182.

72. Лесин В.В., Лисовец Ю.П. Основы методов оптимизации. - М.: МАИ, 1998.

73. Марчук Г.И. Методы вычислительной математики. 3-е изд., М.:Наука,1989.

74. Матвеев О.В,. Методы приближенного восстановления функций, заданных на хаотических сетках. - М.: Известия РАН. Сер. матем., 1996, т. 60, JV25.62.0.В.

75. Матвеев О.В.. Об одном методе интерполирования функций на хаотических сетках. - М.: Известия РАН. Сер. матем., 1997, т. 62, №3.

76. Мостеллер Ф., Тьюки Дж. Анализ данных и регрессия.- М.: Финансы и статистика, 1982.- 239 с.

77. Назаров Л.Е. Сравнительный анализ нейросетевого и фрактального алгоритмов сжатия изображений Земли из космоса. - М.Нейрокомпьютеры: Разработка, применение. N7, 2003.

78. Прэтт У., "Цифровая обработка изображений", т.2

79. Пуарье Д. Эконометрия структурных изменений. - М.: Финансы и статистика, 1981. -184 с.

80. Скляренко Е.Г. Системы регулирования электроприводов роботов с использованием нейромоделей. - Проблемы автоматизированногоэлектропривода. Теория и практика: Вестник XI НУ. Специальный выпуск.- Харьков: ХГНУ, 1998.

81. Терехов А. XML и нейроагенты в сети. Снежинский физико-технический институт, г. Снежинск. ООО "НейрОк", г. Москва.

82. Терехов А.. Типовые задачи для информационного моделирования с использованием нейронных сетей. Снежинск, декабрь 2000 г. URL:http://alife.narod.ru/lectures/tasks/index.html

83. Томашевич Н.С. Об одном методе решения задачи аппроксимации функций с помош,ью двухслойной нейронной сети переменной структуры.154- СПб.: 3-я Международная Конференция DSPA - 2000.

84. Уидроу Б., Стирнз Адаптивная обработка сигналов. М.: Мир, 1989. 440с.

85. Химмельблау Д. Прикладное нелинейное программирование. М.: Мир, 1975. 534с.

86. Шаламов А.В. Мазеин П.Г. Нейронные сети как новый подход к управлению технологическим оборудованием, - Известия Челябинскогонаучного центра, вып. 1(18), 2003.155