автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Исследование и разработка методов формирования решающих правил при классификации сигналов изображений

кандидата технических наук
Дударов, Денис Александрович
город
Таганрог
год
2005
специальность ВАК РФ
05.13.18
Диссертация по информатике, вычислительной технике и управлению на тему «Исследование и разработка методов формирования решающих правил при классификации сигналов изображений»

Автореферат диссертации по теме "Исследование и разработка методов формирования решающих правил при классификации сигналов изображений"

На правах рукописи

ДУДАРОВ ДЕНИС АЛЕКСАНДРОВИЧ

ИССЛЕДОВАНИЕ И РАЗРАБОТКА МЕТОДОВ ФОРМИРОВАНИЯ РЕШАЮЩИХ ПРАВИЛ ПРИ КЛАССИФИКАЦИИ СИГНАЛОВ

ИЗОБРАЖЕНИЙ

Специальности: 05.13.18 - Математическое моделирование, численные

методы и комплексы программ 05.12.04 - Радиотехника, в том числе системы и устройства телевидения

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Таганрог 2005

Работа выполнена на кафедре Радиоприемных устройств и телевидения Таганрогского государственного радиотехнического университета.

Научный руководитель:

доктор технических наук, профессор Галустов Г.Г.

Официальные оппоненты:

доктор технических наук, профессор Астанин C.B. (ТРТУ, г. Таганрог) кандидат технических наук, старший научный сотрудник Черчаго А. Я.

(ЗАО ОКБ "Ритм", г. Таганрог)

Ведущая организация:

Научно-исследовательский институт связи (г. Таганрог)

Защита состоится -¿б- ог 2005 г. в часов на заседании диссертационного совета Д212.259.03 при Таганрогском государственном радиотехническом университете по адресу: 347928, г. Таганрог, пер. Некрасовский 44, ауд. Д-406.

С диссертацией можно ознакомиться в библиотеке университета.

Автореферат разослан " 2005 г.

Ученый секретарь диссертационного совета,

доктор технических наук, профессор ^ ч у А.Н. Целых

t / /

$0&(

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

АКТУАЛЬНОСТЬ ТЕМЫ. В последнее время проблема распознавания изображений привлекает к себе пристальное внимание многих исследователей. Это обусловлено, во-первых, активной работой в области создания автоматизированных систем наблюдения, во-вторых, созданием искусственного интеллекта. При этом важной предпосылкой создания таких систем является значительный прогресс в создании специализированных высокоскоростных и высокопроизводительных ЭВМ. Несмотря на высокий уровень развития современной компьютерной техники, задача распознавания образов оказывается достаточно проблематичной. Обусловлено это во многом сложностью формализации процесса восприятия видимых образов. Поэтому, несмотря на очевидную легкость, с которой человек решает задачу распознавания окружающих его предметов, все еще нет "универсального" математического или технологического подхода, позволяющего конструктивно разрабатывать методы, алгоритмы и автоматические устройства, эффективно осуществляющие процесс распознавания.

Анализ работ, опубликованных за последнее десятилетие, показывает, что достигнуты значительные теоретические результаты в области как параметрического, так и непараметрического распознавания. Однако многие из методов распознавания образов, несмотря на хорошее теоретическое обоснование, дают неприемлемые результаты при решении практических задач. Причиной этого являются те ограничения и допущения, которые выдвигаются исследователями при разработке методов классификации. Так, зачастую, априорно принимается гипотеза о принадлежности функции плотности вероятности признаков какому-либо параметрическому семейству. Многие из оптимальных теоретических методов предполагают, кроме того, еще и статистическую независимость выбранной системы признаков, при этом оценки вероятностей ошибок, получающихся при параметрическом распознавании, являются асимптотическими, т.е. справедливыми лишь в редко встречающихся случаях неограниченной длительности обучающих выборок.

Не менее важной проблемой при распознавании изображений является поиск устойчивых информативных признаков изображения. Однако, следует не забывать, что до сих пор не существует, и не может существовать единая система эффективных признаков для всех видов изображений, поскольку разрабатываемые системы имеют строгое свое назначение. Кроме того, различные системы работают с определенными видами изображений, получаемых различным путем (телевизионным, тепловизион-ным, аэрофотоснимки и т.д.). Наиболее весомый вклад в развитие решения проблемы поиска устойчивых информативных признаков при классификации изображений внесли: СойферВ.А., Омельченко В.А., Гонсалес Р., Вудс Р., Ярославский Л.П., Ковалевский В.А. и др. В работах этих авторов показано, что в качестве достаточно I при решении

задач распознавания изображений могут быть использованы моментные функции различных порядков, а также функции смешанных моментов, обладающие свойством инвариантности по отношению к невырожденным преобразованиям изображений.

Весь спектр задач, который приходится решать при распознавании изображений можно разделить на два больших класса, во-первых, классификация изображений, во-вторых, поиск и распознавание объекта на изображении. Отсюда следует, что вероятность правильного распознавания объекта на изображении зависит от точности решения первостепенной задачи - классификации изображений.

Настояния работа ставит своей основной целью дополнение существующих исследований в направлении решения проблем распознавания сигналов стационарных полутоновых изображений, выбора эффективных алгоритмов классификации (распознавания) в условиях непараметрической априорной неопределенности, оптимизации временных и пространственных параметров распознающих систем при малых объемах обучающих выборок, характерных для телевизионных систем наблюдения и сопровождения.

ЦЕЛИ И ЗАДАЧИ РАБОТЫ. Сформировать систему эффективных признаков используемых в устройствах классификации изображений. Исследовать возможности оптимизации временных и пространственных параметров классификаторов изображений, на основе сформированной системы признаков.

Решение поставленной задачи проводится в несколько этапов.

1. Разработка метода построения математических моделей сигналов изображения в виде реализации случайных процессов.

2. Выбор критерия эффективности признаков, используемых в классификаторах сигналов изображений.

3. Разработка алгоритма формирования классификационных признаков на основе метода стохастического кодирования сигналов.

4. Исследование влияния времени обучения и распознавания, и размерности признакового пространства на показатели эффективности классификатора.

5. Исследование показателей качества и сложности разработанных алгоритмов при решении задач распознавания изображений в составе распознающих систем.

6. Экспериментальное исследование показателей качества разработанных алгоритмов при классификации изображений.

МЕТОДЫ ИССЛЕДОВАНИЯ основаны на использовании методов теории вероятности и математической статистики, численных методах, статистической теории распознавания образов.

НАУЧНАЯ НОВИЗНА. В работе получен ряд новых результатов, которые сводятся к следующему:

1. Предложена методика преобразования оцифрованных сигналов изображений объекта в одномерные реализации случайных процессов, упрощающих реализацию алгоритма их классификации.

2. Разработан метод формирования системы эффективных классификационных признаков использующий реализации преобразованных сигналов изображений.

3. Получены зависимости показателей эффективности классификатора оцифрованных сигналов изображений от времени обучения и распознавания, от вида опорных распределений и размерности признакового пространства, позволяющие минимизировать ошибку классификации.

4. Вычислены оценки показателей качества и сложности для разработанного алгоритма формирования систем признаков.

5. Определены условия целесообразности использования в системах распознавания изображений разработанных алгоритмов.

ПРАКТИЧЕСКАЯ ЦЕННОСТЬ.

Результаты диссертации были использованы при выполнении НИР "Известность-Т" и "Миля-Т", в НИИ Многопроцессорных вычислительных систем Таганрогского государственного радиотехнического университета, при разработке устройств систем технического зрения дистанционно управляемых и автономных объектов. Научные и практические результаты были использованы в рамках темы стенд функционального контроля оптико-электронной системы слежения (СФКОЭСС) отделом 15 НКБ "МИУС" (г. Таганрог) по договору 315077. Отдельные результаты работы были использованы в учебном процессе кафедры Радиоприемных устройств и телевидения Таганрогского государственного радиотехнического университета, в курсе "Основы цифрового телевидение", а также при выполнении хоздоговорных работ №11334, № 11337 и № 11338.

ДОСТОВЕРНОСТЬ ИЗЛОЖЕННОГО подтверждается результатами экспериментальных исследований характеристик предлагаемых алгоритмов при классификации моделей сигналов изображения в виде одномерных реализаций случайных процессов с заданными статистическими характеристиками, апробацией на научных семинарах, конференциях, актами внедрения.

ОСНОВНЫЕ ПОЛОЖЕНИЯ, ВЫНОСИМЫЕ НА ЗАЩИТУ,

следующие:

- методика преобразования оцифрованных сигналов изображений в одномерные реализации случайного процесса;

- математические и цифровые модели сигналов изображения и критерии эффективности признаков сформированных на основе нелинейного преобразования сигналов;

- алгоритм формирования признаков по методу стохастического кодирования;

- зависимости дисперсий оценок признаков и ошибки распознавания от времени обучения, вида опорных распределений, размерности признакового пространства;

- результаты анализа показателей качества и сложности предлагаемых алгоритмов формирования признаков;

- результаты экспериментальных исследований предложенных алгоритмов в распознающих системах изображений.

АПРОБАЦИЯ РАБОТЫ. Основные положения диссертационной работы обсуждались и докладывались: на Х1П Международной научно-технической конференции студентов и аспирантов " Радиоэлектроника, электротехника и энергетика" (Москва, 2002г.); VI Всероссийской научной конференции студентов и аспирантов "Техническая кибернетика, радиоэлектроника и системы управления" (Таганрог, 2002г.); Международной научной конференции "Информационный подход в естественных, гуманитарных и технических науках" (Таганрог, 2004г.); Международной научной конференции "Искусственный интеллект. Интеллектуальные и многопроцессорные системы 2004" (Таганрог, 2004г.); Международной научной конференции "Оптимальные методы решения научных и практических задач" (Таганрог, 2005г.).

ПУБЛИКАЦИИ. Основные научные результаты диссертации опубликованы в 10 печатных работах.

СТРУКТУРА ДИССЕРТАЦИИ. Диссертационная работа состоит из введения, четырех глав, заключения и приложений, изложенных на 161 стр. текста, содержит 42 рисунка, а также списка литературы из 95 наименований и приложений.

СОДЕРЖАНИЕ РАБОТЫ:

Во введении сформулирована цель работы и обоснована актуальность решаемой задачи.

В первой главе проведен анализ подходов применяемых при разработке алгоритмов распознавания сигналов изображений, реализуемых на основе методов статистической теории распознавания сигналов. Рассмотрены принципы формирования эффективных признаков по изображению, а также требования предъявляемые к ним.

Проведен анализ методов распознавания сигналов, при этом установлено, что большинство методов распознавания и способов оценки вероятностей ошибок распознавания разработаны для случаев неограниченного объема обучающих и контрольных выборок. Рассмотрены статисти-

ческие методы распознавания, а также проанализированы основные этапы статистического распознавания:

- формирование признакового пространства;

- обучение системы распознавания;

- принятие решений.

Сформулирована постановка задачи формирования эффективных признаковых пространств и решающих правил, для систем распознавания сигналов изображений, работающих в условиях априорной неопределенности относительно вида распределения плотности вероятности распознаваемых сигналов и ограниченных объемов обучающих и контрольных выборок.

Произведена постановка задачи исследования возможности оптимизации временных и пространственных параметров проектируемых систем распознавания, обеспечивающих заданный уровень достоверности распознавания, при заданных ограничениях.

Анализ существующих методов оптимизации систем распознавания показал, что в достаточной мере эти методы разработаны только для случая параметрической априорной неопределенности и статистической независимости выбранной системы признаков, что крайне редко встречается в практических задачах диагностики. Поэтому необходимо использовать методы непараметрической классификации и методы оптимизации временных и пространственных параметров классификатора.

Во второй главе произведено обоснование выбора в качестве объекта исследования сигналов изображений, преобразованных в одномерные реализации случайных процессов, статистические характеристики которых могут служить, как отмечено в литературе, эффективными признаками при решении задачи их классификации. Ввиду чрезвычайной сложности и высокой вариабельности характеристик сигналы изображений обладают свойством обобщения, т.е. результаты, полученные для систем распознавания сигналов изображения, могут быть перенесены и на другие, например технические системы диагностики.

Рассмотрены и предложена математическая модель изображения, представляющая изображение как случайный процесс функции яркости. Наиболее часто пользуются моделью изображения, являющейся апплика-тивно аддитивной смесью, предложенной Нахи. Эта модель, позволяет учитывать статистические свойства изображений объекта и фона, а также вероятности перехода элементов изображения "фон-объект" и "объект-фон". Однако, данная модель эффективна при решении задач определения координат центров изображений протяженных световых объектов и сопровождения динамических изображений объектов. В случае классификации статических изображений протяженных объектов может быть использована более простая модель изображений, где изображение представляется аддитивной смесью сигнала и шума:

Z(i,j)=A(i,j)+n(t),

(1)

где A(i, j) - значение сигнала яркости в точке (i, j);

n(t) - белый шум, некоррелированный по пространству и времени, с нулевым средним т0 = 0, средним квадратическим отклонением сг0.

Предложен новый подход к классификации сигналов изображений, основанный на переходе от двумерного представления изображения к системе одномерных реализаций. Суть подхода состоит в представлении изображения как системы выборочных строк в пределах одного кадра. Строки выбираются на изображении протяженного объекта через одинаковый интервал Ai, число строк на изображении может варьироваться. Для увеличения длины реализации формируемого процесса, выбираются эти же строки в последующих кадрах.

В качестве моделей сигналов изображений, предназначенных для исследования эффективности алгоритмов классификации, предлагается использовать стационарные процессы, получаемые с использованием стохастического кодирования одномерных реализаций из системы выборочных строк.

Выбраны методы нормализации анализируемых изображений, в частности яркостная нормализация и нормализация по площади протяженных объектов на изображениях. При нормализации протяженных объектов по площади предложено использование численного метода Монте-Карло.

Для формирования системы признаков выбран оператор неизоморфного преобразования исследуемых сигналов, обеспечивающий "сжатие" исходных сигналов при сохранении (в смысле заданного критерия) информации о разделимости распознаваемых классов сигналов. В качестве укрупненного описания сигналов предложен оператор, определяемый выражением

L = М[у] = °j<p(x)p(x)dx, (2)

— 00

где М[ ] - обозначает операцию математического ожидания над величиной, указанной в квадратных скобках;

р(х) - плотность распределения исследуемого процесса; у -- tp(x) - детерминированная нелинейная функция без наложенных на нее ограничений

p(x)=F,(x)=P,[Xi;x]. (3)

Если в качестве нелинейной функции <р(х) использовать функцию распределения F;;(x) некоторого опорного случайного процесса, то опера-

тор Ь будет представлять собой статистический момент, который можно использовать в качестве признака анализируемого процесса. В частном случае если Р,(х) = хк, то в этом случае

М[у]= }х"р(х)с1х, (4)

п

где О - область определения анализируемого сигнала.

Функции распределения опорного сигнала Рл(х) выбираются на этапе обучения из условия получения максимальной достоверности классификации.

Определены статические характеристики оператора преобразования, которые необходимы для построения разделяющих поверхностей в пространстве неизоморфных моделей сигналов и оценок вероятности правильной классификации.

В третьей главе выбран метод формирования классификационных признаков (метод стохастического кодирования сигналов), основанный на использовании функционала нелинейного преобразования первичных признаковых пространств, выбранного во втором разделе. Данный метод строится на принципах измерения корреляционных моментов с помощью функций знаковой корреляции.

Показано, что выбранное во второй главе нелинейное преобразование первичных признаков (исходных измерений) позволяет с одной стороны укрупнить описание классифицируемых сигналов, то есть отобразить исходное многомерное пространство признаков в одномерное пространство функционалов, с другой стороны - с применением в качестве функции преобразования функции распределения некоторого вспомогательного процесса - позволяет как бы "обобщить" или представить более компактно множество всех сигналов, принадлежащих одному классу. Предложен метод формирования классификационных признаков и построение на их основе решающих правил, основанный на использовании функционала нелинейного преобразования первичных признаковых пространств.

Суть метода заключается в следующем. Формируется два процесса

\о, х(0<и(1) 2Ч' [о, х(1)<у(0

где и У^) - опорные случайные процессы некоррелированные со

случайным процессом Х(1) и имеющие интервал распределения [а,Ь], равный интервалу распределения Х^).

Определяется выражение для подсчета второго смешанного момента

M[z,z2]= /jFu(xt)Fv(x t+nT0 )x P2(Xt'Xt+nT0 Я = "To^t^t+nT» aa

где p2(xt,xt+nTo;T = nT0)-двумерный закон распределения анализируемого процесса x(t).

В случае если процессы U(t) и V(t) будут распределены равномерно в интервале, не меньшем чем [а,Ь], выражение (6) будет определять второй смешанный момент процесса X(t). Если опорные процессы U(t) и V(t) имеют распределения, отличающиеся от равномерных, то (6) будет определять функцию дискретного аргумента (пТ0), значения которой в точках х = пТ0 будут зависеть как от параметров формы распределения процесса X(t), так и от его энергетических характеристик (корреляционной функции процесса X(t)). Последовательность этих значений и может быть использована в качестве эффективных признаков при распознавании. Выражение (5) можно приближенно определять достаточно простыми техническими средствами:

m*[z, z2 ]« 0(nTo ) = (iT0 У2 [0 + п)Т0 ], (7)

где N - количество выборочных значений из реализации z(t).

Установлено, что в случае распознавания случайных процессов с одинаковыми одномерными плотностями распределения вероятностей и различными корреляционными функциями, высокой эффективностью обладают признаки, сформированные на основе корреляционных моментов (7) знаковых функций, получаемых при сравнении входных процессов с опорными.

В соответствии с предложенным методом формирования признаковых векторов, была предложена структура формирователя вектора признаков.

При использовании метода стохастического кодирования возрастает дисперсия оценок измеряемых моментов, однако при этом достигаются следующие положительные результаты: сокращается избыточность описания исходных процессов, подлежащих распознаванию; упрощается реализация алгоритма распознавания в микропроцессорных системах за счет применения одноразрядного квантования, дающего на выходе только знаки отсчетов.

Х(1)

пг(0

ЧгС)

1,(4

I

I

I

Пц(0 —5> —> I

—> I

г,(м)

<Ё>

г,

Рисунок 1 - Структурная схема формирователя вектора признаков

В случае большого количества распознаваемых классов сигналов показана целесообразность, с точки зрения минимизации показателей сложности алгоритмов, использования в качестве разделяющих поверхностей огибающих элементарных фигур, охватывающих собственные области классов процессов. Выбран критерий оптимальности при построении решающего правила, минимизирующий собственные области классов при заданной вероятности распознавания

1 =

2п

,п/2

#

■Я" +Х

(8)

где X - множитель Лагранжа;

С — собственная область класса.

Показано, что если в качестве критерия оптимальности выбран функционал, минимизирующий объем собственной области при фиксированной вероятности правильного распознавания, то решающее правило при классификации будет выглядеть

. . (9)

¿(ь* -т*)2 - (я*™,,)2 >0, х(г)е Юг

.1=1

Разработан алгоритм непараметрической классификации случайных процессов по методу собственных областей класса (МСОК), использующий в качестве признаков корреляционные моменты знаковых последовательностей, сформированных на основе метода стохастического кодирования. В качестве опорных сигналов используются случайные процессы с некоррелированными отсчетами.

Методами цифрового моделирования найдены зависимости математических ожиданий и среднеквадратических отклонений признаков от вида и количества опорных распределений, от времени обучения и классификации.

Рассмотрены два типа моделей сигналов изображений: случайный процесс с экспоненциальной корреляционной функцией и различными интервалами корреляции; случайный процесс с экспоненциально-косинусной корреляционной функцией и различными интервалами корреляции. В качестве опорных процессов рассматривались случайные процессы с некоррелированными отсчетами с различными одномерными плотностями распределения вероятности, моды которых равномерно распределены в интервале [а, Ь], равном интервалу распределения входных процессов.

На основе анализа зависимостей получены оценки достаточных объемов обучающих и контрольных выборок и видов опорных распределений для достижения заданных показателей качества алгоритмов классификации.

Разработана структурная схема предлагаемого непараметрического классификатора по МСОК, а также алгоритмы процедур обучения и классификации.

В четвертой главе рассмотрены вопросы моделирования алгоритма непараметрической классификации МСОК на ЭВМ. В результате моделирования работы классификатора МСОК при классификации случайных процессов с одинаковыми одномерными плотностями распределения вероятностей и различными корреляционными функциями, определены значения суммарных вероятностей ошибки классификации при различных объемах обучающих и контрольных выборок и различных размерах признакового пространства.

Установлено, что алгоритм классификации с формированием собственных областей распознаваемых классов эффективно работает при объемах обучающих наблюдений признаков, начиная от 10...20, при однократной процедуре предъявления контрольной выборки. Алгоритм целесооб-

разно применять только при больших количествах распознаваемых классов, то есть в случае, когда построение разделяющих поверхностей на основе функций правдоподобия приводит к значительным вычислительным затратам.

Получена зависимость оценок суммарных вероятностей ошибки классификации от числа объектов обучения по классам.

Рош 0.5 0.4 03 0.2 0.1 О

■—-И

- - -

Рисунок 2 - Зависимость оценок суммарных вероятностей ошибки классификации от числа объектов обучения по классам предложенного МСОК

Рош 0.5 0.4 0.3 0.2 0.1 0

Рисунок 3 - Зависимость оценок суммарных вероятностей ошибки классификации от числа объектов обучения по классам по методу к ближайших

соседей

Из приведенных зависимостей видно, что при критически низком количестве объектов обучения (менее 8-10) алгоритм по методу к ближайших соседей значительно проигрывает разработанному алгоритму в пока-

зателях вероятностей правильной классификации. Однако при увеличении количества объектов обучения (более 20-30) алгоритм по методу к ближайших соседей имеет преимущества, заключающиеся в более высоких вероятностях правильной классификации по сравнению с разработанным алгоритмом по МСОК.

Определены также вероятности ошибки при классификации изображений принадлежащих четырем различным объектам. Получены матрицы перепутывания.

Результаты экспериментов показывают, что разработанные алгоритмы могут иметь область применения, выходящую за рамки исследования сигналов изображений. Они также могут быть использованы в любых системах диагностики, где объектом исследований являются шумоподобные сигналы.

Разработаны комплексы программ осуществляющих классификацию реальных изображений, а также случайных процессов, которые внедрены в учебный процесс. Для проведения эксперимента была разработана экспериментальная установка, включающая в себя цифровую ПЗС камеру и персональную ЭВМ.

В заключении сформулированы основные научные и практические результаты работы.

Приложения к диссертации содержат программы расчета характеристик и моделирования алгоритмов работы устройств непараметрической обработки случайных процессов, а также результаты экспериментального определения характеристик работы непараметрических классификаторов при обработке изображений. Программы представляют собой рабочие документы пакета для математического моделирования Mathcad Professional 2003. Данные программы легко могут быть использованы непосредственно на любом компьютере, содержащем указанный пакет, например в учебно-методических целях.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

Основные научные результаты и положения, полученные в диссертационной работе, состоят в следующем:

1. Разработана методика преобразования оцифрованных сигналов изображений объекта в одномерные реализации случайных процессов, позволяющая перейти от двумерного представления сигналов изображений к одномерным.

2. На основе анализа существующих методов формирования признаковых пространств при классификации сигналов моделей изображений показана, возможность улучшения качества работы автоматизированных распознающих систем за счет нелинейного преобразования исходных пространств сигналов, которое обеспечивает сокращение избыточности описания исходных сигналов и сокращение временных и аппаратурных затрат при решении задач классификации изображений.

3. Разработан метод непараметрической классификации сигналов изображений, использующий при формировании признаковых пространств стохастическое кодирование сигналов. Определены показатели качества и сложности разработанного алгоритма МСОК при их реализации на микропроцессорных системах для решения задачи классификации сигналов изображений.

4. Получены зависимости основных показателей качества разработанного алгоритма по МСОК от времени обучения и распознавания, и размерности признакового пространства, позволяющие оптимизировать временные и пространственные параметры аппаратуры классификации.

5. Научные и практические результаты, полученные в диссертации, внедрены на ряде предприятий при создании устройств сопровождения и наблюдения за объектами при решении задачи классификации изображений.

СПИСОК ОПУБЛИКОВАННЫХ РАБОТ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Дударов Д.А. Специализированная телевизионная система /' Восьмая Международная научно-техническая конференция студенто". и аспирантов " Радиоэлектроника, электротехника и энергетика". Тезисы докладов В 3-х т. - М.: Издательство МЭИ, 2002. Т.1.- с. 99-100.

2. Дударов Д.А. Преобразование ТВ-сигнала с целью повышения информативности изображения // VI Всероссийская научная конференция студентов и аспирантов "Техническая кибернетика, радиоэлектроника и системы управления". Тезисы докладов. Таганрог: Изд-во ТРТУ 2002. - с. 38-39.

3. Дударов Д.А. Исследование методов преобразования изображений с целью повышения их информативности // Девятая Международная научно-техническая конференция студентов и аспирантов " Радиоэлектроника, электротехника и энергетика". Тезисы докладов. Т.1. - М.: Издательство МЭИ, 2003. - с. 90-91.

4. Дударов Д.А, Мелешкин С.Н, Клименко В.В Формирование решающих правил при пороговой обработки двумерных оцифрованных сигналов // Десятая Международная научно-техническая конференция студентов и аспирантов " Радиоэлектроника, электротехника и энергетика". Тезисы докладов. ВЗ-х т.Т.1. -М.: Издательство МЭИ, 2004. - 96 с.

5. Дударов Д.А. Обработка полутоновых изображений с использованием вейвлет-преобразований // Материалы Международной научной конференции "Искусственный интеллект. Интеллектуальные и многопроцессорные системы 2004" - Т.2. Таганрог: Изд-во ТРТУ, 2004. - с. 337-339.

1113121

6. Дударов Д.А., Мелешкин С.Н. О м"--------------------—-----

визионного сигнала при решении зада1

ния // Материалы международной науч ^

ционный подход в естественных, гума] РНБ Русский фонд

ках" - часть 4 - Таганрог: ТРТУ, 2004. -

7. Дударов ДА., Мелешкин С.Н. С1 2006-4

ния фона достаточной для идентификац

сцен // Материалы международной нау ОП& 1

ционный подход в естественных, гума У\!0 1

ках" - часть 4 - Таганрог: ТРТУ, 2004. -

8. Дударов Д.А. Использование метода стохастического кодирования при распознавании оцифрованных изображений // Материалы международной научной конференции "Оптимальные методы решения научных и практических задач" - часть 2 - Таганрог: Изд. "Антон", ТРТУ, 2005. - с. 14-17.

9. Дударов Д.А. Формирование решающего правила при классификации изображений с использованием метода стохастического кодирования // Материалы международной научной конференции "Оптимальные методы решения научных и практических задач" - часть 2 - Таганрог: Изд. "Антон", ТРТУ, 2005. - с. 18-21.

10. Дударов Д.А. Использование вероятностных признаков при обработке изображений // Первая ежегодная научно-техническая конференция студентов и аспирантов базовых кафедр ЮНЦ 2005. Сборник тезисов докладов. - Ростов на Дону: ЮНЦ, 2005. - 48 с.

В работах, опубликованных в соавторстве, лично Дударову Д.А. принадлежат результаты:

В работе [4] программа формирования решающих правил при пороговой обработке сигналов;

В работе [6] анализ и моделирование систем параметров изображения фона;

В работе [7] анализ известных математических моделей телевизионных сигналов.

Тип ТРТУ Заказ №.;^тир РЬкз

Оглавление автор диссертации — кандидата технических наук Дударов, Денис Александрович

ВВЕДЕНИЕ.

ГЛАВА 1: ПОСТАНОВКА ЗАДАЧИ ИССЛЕДОВАНИЯ И АНАЛИЗ

ИЗВЕСТНЫХ МЕТОДОВ.

1.1 Постановка задачи выбора моделей сигнала.

1.2 Анализ методов формирования решающих правил, применяемых для решения задач классификации.

1.2.1 Распознавание образов

1.2.1 Формирование признаков по изображению

1.3 Постановка задачи оптимизации признаковых пространств.

1.4 Методы распознавания, основанные на теории статистических решений.

1.5 Обзор методов оптимизации параметров распознающих систем в случае параметрической априорной неопределенности.

1.5.1 Оптимизация временных характеристик системы распознавания одномерных нормальных совокупностей.

1.5.2 Оптимизация временных характеристик системы распознавания многомерных нормальных совокупностей.

1.5.3 Оптимизация размерности признакового пространства.

Выводы по материалам 1 главы.

ГЛАВА 2: ИССЛЕДОВАНИЕ ХАРАКТЕРИСТИК СИГНАЛОВ

ИЗОБРАЖЕНИЙ В РАСПОЗНАЮЩИХ СИСТЕМАХ.

2.1 Объекты исследования.

2.2 Выбор математической модели сигналов изображений.

2.3 Методика преобразования сигналов изображений.

2.3.1 Нормализация сигналов изображений.

2.4 Укрупнение описания сигналов изображений на основе обобщенного оператора преобразования.

Выводы по материалам 2 главы.

ГЛАВА 3: РАЗРАБОТКА МОДЕЛЕЙ ПРИНЯТИЯ РЕШЕНИЙ ПРИ НЕПАРАМЕТРИЧЕСКОМ РАСПОЗНАВАНИИ СИГНАЛОВ ИЗОБРАЖЕНИЙ.,.

3.1 Формирование системы признаков на основе метода стохастического кодирования сигналов изображений.

3.1.1 Исследование связи статистических характеристик анализируемого процесса с опорным процессом.

3.2 Оптимизация разделяющих поверхностей и принятие решений.

3.3 Определение структурной схемы алгоритма распознавания.

3.4 Исследование влияния вида и количества опорных распределений на эффективность классификатора.

3.5 Исследование влияния времени обучения и распознавания на эффективность классификатора.

Выводы по материалам 3 главы.

ГЛАВА 4: МОДЕЛИРОВАНИЕ И ЭКСПЕРИМЕТАЛЬНАЯ ПРОВЕРКА ЭФФЕКТИВНОСТИ РАБОТЫ КЛАССИФИКАТОРА СИГНАЛОВ ИЗОБРАЖЕНИЙ.

4.1 Задачи исследования.

4.2 Методы моделирования устройств обработки сигналов, основанные на использовании современных пакетов программ для математического моделирования.

4.3 Моделирование алгоритмов непараметрического распознавания.

4.4 Оценка вычислительной сложности программы моделирования.'.

4.5 Сравнительный анализ показателей качества и сложности НК

МСОК и алгоритма непараметрической классификации по методу к ближайших соседей.

4.6 Оценка статистической погрешности результатов моделирования

4.7 Разработка структурной схемы экспериментальной установки.

4.8 Определение показателей качества работы непараметрического классификатора.

Выводы по материалам 4 главы.

Введение 2005 год, диссертация по информатике, вычислительной технике и управлению, Дударов, Денис Александрович

Несмотря на высокий уровень развития современной компьютерной техники, до настоящего времени остается целый ряд практических задач, решение которых оказывается достаточно проблематичным. К числу подобных задач относится задача распознавания образов. Обусловлено это во многом определяется сложностью формализации процесса восприятия видимых образов. Поэтому, несмотря на очевидную легкость, с которой человек решает задачу распознавания окружающих его предметов, все еще нет "универсального" математического или технологического подхода, позволяющего конструктивно разрабатывать методы, алгоритмы и автоматические устройства, эффективно осуществляющие процесс распознавания. [57, 33, 34, 35] Однако для некоторых частных ситуаций, когда математические модели оказываются подходящими для той или иной практической задачи, удается получить приемлемые результаты.

Весь спектр задач, которые приходится решать при распознавании на изображениях, можно подразделить на две группы:

- распознавание или классификация изображений;

- поиск и распознавание объектов (специфических локальных областей) на изображениях.

Это разделение связано с особенностями реализации процесса распознавания. В первой группе задач распознавание или классификация производится для всего изображения целиком. То есть, все изображение целиком в процессе распознавания относят к одному из нескольких классов. Таким образом, решением задачи распознавания в этой группе является реализация отображения: изображение — номер класса. Следуя разбиению процесса распознавания на два этапа, указанное отображение реализуется в виде следующих двух отображений: отображения изображение-признаки и отображения признаки-класс. Это позволяет представить процесс решения задачи классификации изображения в виде схемы, приведенной на рисунке В.1, которая является традиционной и стандартной для задач распознавания образов. признаки номер класса

Рисунок В.1 - Схема решения задачи распознавания

Примером задач первой группы являются задачи распознавания лиц по фотографиям, распознавания дактилоскопических отпечатков, диагностики заболеваний по снимку того или иного человеческого органа и т.д.

В задачах второй группы процесс распознавания оказывается включенным в более общую технологию обработки изображения, связанную с поиском распознаваемых геометрических объектов на всей области наблюдения. Объекты в данной ситуации представляют собой относительно небольшие локальные области, появление которых может произойти в любой точке изображения. Причем информация о том: имеются ли объекты на изображении, каково их количество, ориентация, размеры и т.д., чаще всего отсутствует.

Результатом решения задачи распознавания в этой ситуации является не только класс найденного объекта, но также и его характеристики: положение, возможно размер, цвет, ориентация объекта в плоскости изображения и т.д.

Примером задач второй группы являются задачи дешифрирования аэрокосмических снимков, автоматического чтения текстов, нахождения локальных патологий на медицинских снимках и многие другие. [36] Неопределенность в целом ряде характеристик объектов делает задачу их поиска и распознавания на изображении в математическом и вычислительном плане более сложной по сравнению с задачами первой группы. Это приводит к тому, что процесс ее решения не укладываются в приведенную схему, а производится в соответствие со схемой, в упрощенном виде представленной на рисунке В.2, то есть включает в себя трудно формализуемую задачу выделения фрагментов ("областей интереса"). параметра

Рисунок В.2 - Схема поиска и распознавания объектов на изображении

В соответствии с данной схемой анализу подвергается каждый фрагмент на изображении. По текущему фрагменту, выделенному окном обработки, производится формирование признаков и классификация. В зависимости от результатов классификации происходит расчет дополнительных параметров объекта.

Легко заметить, что схема решения задачи классификации изображения входит как составной элемент в схему решения задачи поиска и распознавания. Действительно, в более широком понимании задачи второй группы относятся к группе задач высокого уровня — задачам анализа наблюдаемого изображения или сцены. Под анализом сцены в данном случае понимается составление полного описания изображенных на снимке предметов с указанием их местоположения и взаимного расположения. В то же время следует заметить, что нередко наблюдается и противоположная ситуация, когда методы и технологии решения задач второй группы выступают в качестве составных элементов решения задач первой группы. Так, например, один из методов решения задачи распознавания людей по фотографиям их лиц заключается в нахождении на изображении ярко выраженных областей интереса: глаз, носа, губ и т.д., и*их последующего описания [89, 57, 25].

Основой для решения такого круга задач является теория распознавания образов, которая особенно активно развивается в связи с созданием систем искусственного интеллекта.

В рассматриваемом нами случае, носящем с точки зрения теории распознавания образов прикладной характер, образом является изображение.

Принятый подход к распознаванию образов заключается в классификации на множестве признаков, вычисляемых по наблюдаемому изображению. Можно также сказать, что классификация образов заключается в отображении пространства признаков в пространство решений. При таком подходе распознавание образов включает две задачи:

- отбор и упорядочивание признаков; .

- собственно классификация.

Задача отбора и упорядочивания признаков трудно формализуема. Критерием отбора и упорядочения является степень важности признаков для характеристики образов.

Задача классификации - принятия решения о принадлежности образа тому или иному классу на основе анализа вычисленных признаков — имеет целый ряд строгих математических решений в рамках детерминистического и вероятностного подходов.

Для того чтобы осуществить классификацию, необходимо отобрать признаки. Здесь возможны самые различные подходы [15, 83, 25, 3]. Однако построение описания изображения на основе его представления с использованием признаков - едва ли не самая сложная задача в процессе построения любой системы распознавания. Все эти доводы и послужили предпосылками для появления настоящей работы.

Цель работы. Разработать набор эффективных признаков используемых в устройствах классификации изображений. Исследовать возможности оптимизации временных и пространственных параметров классификаторов изображений, на основе разработанных признаков.

Решение поставленной задачи проводится в несколько этапов. •

1. Разработка метода построения математических моделей сигналов изображения в виде реализации случайных процессов.

2. Выбор критерия эффективности признаков, используемых в классификаторах сигналов изображений.

3. Разработка алгоритма формирования классификационных признаков на основе метода стохастического кодирования сигналов.

4. Исследование влияния времени обучения и распознавания и размерности признакового пространства на показатели эффективности классификатора.

5. Исследование показателей качества и сложности разработанных алгоритмов при решении задач распознавания изображений в составе распознающих систем.

6. Экспериментальное исследование показателей качества разработанных алгоритмов при классификации изображений.

Актуальность. Задача классификации (распознавания) изображений является одной из основных при реализации систем автоматического распознавания, наблюдения и сопровождения, а также при создании различных систем технического зрения для автономных робототехнических систем, поэтому разработка алгоритмов классификации изображений является актуальной.

Научная новизна. В работе получен ряд новых результатов, которые сводятся к следующему:

1. Предложена методика преобразования оцифрованных сигналов изображений объекта в одномерные реализации случайных процессов, позволяющих реализовать алгоритм их классификации.

2. Разработан алгоритм формирования системы эффективных классификационных признаков использующих сформированные реализации на основе метода стохастического кодирования.

3. Получены зависимости показателей эффективности классификатора оцифрованных сигналов изображений от времени обучения и распознавания, от вида опорных распределений и размерности признакового пространства, позволяющие минимизировать ошибку классификации.

4. Вычислены оценки показателей качества и сложности для разработанного алгоритма формирования систем признаков.

5. Определены условия целесообразности использования в системах распознавания изображений, разработанных алгоритмов.

Практическая ценность. Результаты диссертации были использованы при выполнении НИР "Известность-Т" и "Миля-Т", в НИИ Многопроцессорных вычислительных систем Таганрогского государственного радиотехнического университета, при разработке устройств систем технического зрения дистанционно управляемых и автономных объектов. Научные и практические результаты были использованы в рамках темы стенд функционального контроля оптико-электронной системы слежения (СФКОЭСС) отделом 15 НКБ "МИУС" (г. Таганрог) по договору 315077. Отдельные результаты работы были использованы в учебном процессе кафедры Радиоприемных устройств и телевидения Таганрогского государственного радиотехнического университета, в курсе "Основы цифрового телевидение", а также при выполнении хоздоговорных работ №11334, № 11337 и № 11338.

Достоверность изложенного подтверждается результатами экспериментальных исследований характеристик предлагаемых алгоритмов при классификации моделей сигналов изображения в виде одномерных реализаций случайных процессов с заданными статистическими характеристиками, апробацией на научных семинарах, конференциях, актами внедрения.

Методы исследования основаны на использовании методов теории вероятности и математической статистики, численных методах, статистической теории распознавания образов.

Основные положения, выносимые на защиту, следующие:

- методика преобразования оцифрованных сигналов изображений в одномерные реализации случайного процесса;

- математические и цифровые модели сигналов изображения и критерии эффективности признаков сформированных на основе нелинейного преобразования сигналов;

- алгоритм формирования признаков по методу стохастического кодирования;

- зависимости дисперсий оценок признаков и ошибки распознавания от времени обучения, вида опорных распределений, размерности признакового пространства;

- результаты анализа показателей качества и сложности предлагаемых алгоритмов формирования признаков;

- результаты экспериментальных исследований предложенных алгоритмов в распознающих системах изображений.

Апробация работы. Основные положения диссертационной работы обсуждались и докладывались:

- на XIII Международной научно-технической конференции студентов и аспирантов " Радиоэлектроника, электротехника и энергетика" (Москва, 2002г.);

- VI Всероссийской научной конференции студентов и аспирантов "Техническая кибернетика, радиоэлектроника и системы управления" (Таганрог, 2002г.);

- Международной научной конференции "Информационный подход в естественных, гуманитарных и технических науках" (Таганрог, 2004г.);

- Международной научной конференции "Искусственный интеллект. Интеллектуальные и многопроцессорные системы 2004" (Таганрог, 2004г.);

- Международной научной конференции "Оптимальные методы решения научных и практических задач" (Таганрог, 2005г.).

Публикации. Основные научные результаты диссертации опубликованы в 10 печатных работах.

СТРУКТУРА ДИССЕРТАЦИИ. Диссертационная работа состоит из введения, четырех глав, заключения и приложений.

Заключение диссертация на тему "Исследование и разработка методов формирования решающих правил при классификации сигналов изображений"

Выводы по материалам 4 главы

1. В результате моделирования работы классификатора при классификации случайных процессов с одинаковыми одномерными плотностями распределения вероятностей и различными корреляционными функциями определены значения суммарных вероятностей ошибки классификации при различных объемах обучающих и контрольных выборок и различных размерах признакового пространства.

2. Определены оценки вычислительной сложности использованных алгоритмов моделирования работы непараметрических классификаторов. Установлено, что при классификации показатели сложности реализация этого алгоритма на микропроцессорных системах имеет меньшее значение, по сравнению с непараметрическими алгоритмами распознавания на основе оценивания плотностей вероятности по методу k-ближайших соседей.

3. Определены понятие и численные значения статистической погрешности моделирования работы непараметрического классификатора при решении задачи классификации изображений объектов.

4. Разработана и описана структурная схема экспериментальной установки, позволяющая изучить непараметрические методы классификации сигналов изображений.

5. При исследовании работы разработанного классификатора были получены матрицы вероятностей перепутывания при классификации реальных объектов, от размерности признакового пространства, позволяющие оценить эффективность предложенного алгоритма.

ЗАКЛЮЧЕНИЕ

В диссертационной работе рассмотрен комплекс теоретических и практических вопросов, связанных с построением признаковых пространств в автоматизированных системах распознавания изображений. Основную научную и практическую значимость имеют результаты исследования возможности оптимизации временных и пространственных параметров распознающих систем изображений. При этом получены следующие основные результаты:

1. Разработана методика преобразования оцифрованных сигналов изображений объекта в одномерные реализации случайных процессов, позволяющая перейти от двумерного представления сигналов изображений к одномерным.

2. На основе анализа существующих методов формирования признаковых пространств при классификации сигналов моделей изображений показана, возможность улучшения качества работы автоматизированных распознающих систем за счет нелинейного преобразования исходных пространств сигналов, которое обеспечивает сокращение избыточности описания исходных сигналов и сокращение временных и аппаратурных затрат при решении задач классификации изображений.

3. Разработан алгоритм непараметрической классификации сигналов изображений на основе формирования признаковых пространств по методу стохастического кодирования. Разработаны математические модели алгоритмов. Определены показатели качества и сложности разработанного алгоритма МСОК при их реализации на микропроцессорных системах для решения задачи классификации сигналов изображений.

4. Получены зависимости основных показателей качества разработанного алгоритма по МСОК от времени обучения и распознавания, и размерности признакового пространства, позволяющие оптимизировать временные и пространственные параметры аппаратуры классификации.

5. Проведено экспериментальное исследование показателей качества разработанного алгоритма МСОК. Использование разработанного метода для классификации изображений позволило достоверно различать классы наблюдаемых протяженных объектов, соответствующих различным классам объектов.

6. Научные и практические результаты, полученные в диссертации, внедрены на ряде предприятий при создании устройств сопровождения и наблюдения за объектами при решении задачи классификации изображений.

Библиография Дударов, Денис Александрович, диссертация по теме Математическое моделирование, численные методы и комплексы программ

1. Автоматический анализ сложных изображений. Сборник переводов / Под ред. Э.М. Бравермана - М.: Мир, 1969. - 31Ос.

2. Айвазян С.А., Енюков И.С., Мешалкин Л.Д. Прикладная статистика: Основы моделирования и первичная обработка данных: Справ изд. М.: Финансы и статистика, 1983. 471 с.

3. Акимов П.С. Непараметрическое обнаружение сигналов. // Радиотехника. 1972. Т.32. №11. С. 17-30.

4. Акимов П.С. и др. Сигналы и их обработка в информационных системах. Учебн. пособие для вузов. М.: Радио и связь, 1994.—256с.

5. Астанин С.В. Методы и системы распознавания образов Таганрог: Изд-во ТРТУ, 2003. -160 с.

6. Банди Б. Методы оптимизации. Вводный курс: Пер. с англ. М.: Радио и связь, 1988.-128с.

7. Бидасюк Ю.М. Mathsoft MathCAD 11: Самоучитель. М.: Диалектика, 2004.-208 с.

8. Бобнев М.П Генерирование случайных сигналов. М.: Энергия, 1971. -240 с.

9. Браверман Э.М., Дорофеюк А.А., Лумельский В Л. Применение методов обучения машин распознаванию образов. М.: Наука, 1971. 254 с.

10. Бусленко Н.П., Калашников В.В., Коваленко И.Н. Лекции по теории сложных систем. М.: Советское радио, 1971. 328 с.

11. Быков В.В. Цифровое моделирование в статистической радиотехнике. М.: Советское радио, 1971. 328 с.

12. Васильев В.И. Распознающие системы: Справочник. Киев.: Наукова думка, 1983.-423 с.

13. Вапник В.Н., Червоненкис АЛ. Теория распознавания образов (статистические проблемы обучения) М.: Наука, 1974. 416 с.

14. Вентцель Е.С. Теория вероятностей. М.: Наука, 1969. 576 с.

15. Витих В.А., Сергеев В.В., Сойфер В.А. Обработка изображений в автоматизированных системах научных исследований. М.: Наука, 1982. -311с.

16. Волков Е.А. Численные методы / Учебное пособие М.: Наука, 1982. -256 с.

17. Вопросы статистической теории распознавания / Под ред. Б.В. Барского М.: Сов. радио, 1967. -400с.

18. Галустов Г.Г. Классификатор случайных сигналов // Известия СКНЦ ВШ. Новочеркасск, 1984. Серия «Технические науки». № 3. С. 54-57.

19. Гапустов Г.Г. Моделирование случайных процессов и оценивание их статистических характеристик. М.: Радио и связь, 1999. -120 с. •

20. Галустов Г.Г., Теоретические и аппаратные основы, анализа и синтез сложных сигналов диагностических систем. / диссертация на соискание ученой степени доктора технических наук. Таганрог. 1991.

21. Галустов ГГ. Укрупнение описания случайных процессов с целью их классификации // Межведомственный тематический сборник "Вопросы медицинской электроники". Таганрог, 1986. Вып. 6. С. 57-62.

22. Галустов Г.Г., Цымбал В.Г., Михалев М.В. Принятие решений в условиях неопределенности. М.: Радио и связь, 2001. -196 с.

23. Гастев Ю.А. Гомоморфизмы и модели: Логико-алгебраические аспекты моделирования. -М.: Наука, 1975. -150 с.

24. Гладкий B.C. Вероятностные вычислительные модели. М.: Наука, 1973. -298 с.

25. Гонсалес Р., Вудс Р. Цифровая обработка изображений М.: Техносфера, 2005.-1072 с.

26. Горелик А.Л., Скрипкин В.А. Построение систем распознавания. М.: Сов. радио, 1974.-224 с.

27. Горелик А.Л., Гуревич И.Б., Скрипкин В.А. Современное состояние проблемы распознавания. М.: Радио и связь, 1985. -160 с.

28. Градштейн И.С., Рыжик И.М. Таблицы интегралов, сумм, рядов и произведений. М.: Наука, 1971. -184 с.

29. Драган Я.П. Структура и представления моделей стохастических сигналов. Киев: Наукова думка, 1980. 384 с

30. Дуда Р., Харт П. Распознавание сигналов и анализ сцен. М.: Мир, 1976. -511с.

31. Дударов Д.А. Использование вероятностных признаков при обработке изображений // Первая ежегодная научно-техническая конференция студентов и аспирантов базовых кафедр ЮНЦ 2005. Сборник тезисов докладов. Ростов на Дону: ЮНЦ, 2005. - 48 с.

32. Дьяконов В.П. Энциклопедия Mathcad 2001i и Mathcad И. М: Солон-пресс, 2004. 468 с.

33. Евсиков Ю.А., Чапурский В.В. Преобразование случайных процессов в радиотехнических устройства. Учеб. пособ. для радиотехн. специальностей вузов. М.: Высш. школа, 1977. 264 с.

34. Ермаков С.М., Михайлов Г.А. Курс статистического моделирования. М.:1. Наука, 1976.-168 с.

35. Журавлев Ю.И. Непараметрические задачи распознавания образов // Кибернетика, 1986. №6-с. 83-103.

36. Загоруйко Н.Г. Методы распознавания и их применение. М.: Сов. радио, 1972.-206 с.

37. Заде JI. Размытые множества и их применение в распознавании образов и кластер-анализе. В кн.: "Классификация и кластер" / Под ред. Ю.И. Журавлева. М.: Мир, 1980. С. 208-243.

38. Казанцев Г.Д., Курячий М.И., Пустынский И.Н. Измерительное телевидение: Учебное пособие для вузов М.: Высш. шк., 1994. - 288с.

39. Кирьянов Д.В. Самоучитель MathCAD 2001. СПб.: "BHV-СПб", 2001. -544 с.

40. Киселев Н.В. Методы построения систем распознавания и классификации негауссовых сигналов. JL: ЛГУ, 1986. —186 с.

41. Киселев Н.В., Сечкин В.А. Техническая диагностика методами нелинейного преобразования. JL: Энергия, 1980. -108 с.

42. Ковалевский В.А. Методы оптимальных решений в распознавании изображений. М.: Наука, 1976. - 328 с.

43. Коваленко И.Н., Филлипова АА. Тероия вероятностей и математическая статистика. М., Высшая школа, 1973. 368 с.

44. Коган И.М. Прикладная теория информации. М.: Радио и связь, 1981. -216 с.

45. Левин Б.Р. Теоретические основы статистичесской радиотехники. Кн. 3. М.: Сов. радио, 1976. 288 с.

46. Мартышевский Ю.В. Выделение искусственных объектов на сложном фоне // IV Международная научно техническая конференция "Актуальные вопросы электронного приборостроения" (АПЭП-98). Новосибирск; НГГУ, 1998. - Том 2. - с. 239-241.

47. Мартышевский Ю.В. Телевизионные средства определения координат объектов, расположенных на сложном фоне / диссертация на соискание ученой степени доктора технических наук. Томск 2002.

48. Методы компьютерной обработки изображений / Под ред. В.А. Сойфера. -М.: Физматлиг, 2001.-784 с.

49. Миленький А.В. Классификация сигналов в условиях неопределенности. М.: Сов. радио, 1975.328 с.

50. Мирский ГЛ. Аппаратурное определение характеристик случайных процессов. М.: Энергия, 1972.456 с.

51. Мирский ГЛ. Характеристики стохастической взаимосвязи и их измерения. М.: Энергия, 1982. 320 с.

52. Непараметрические методы классификации и их применение.

53. Новосибирск: Наука, 1993 с.

54. Ольховский Ю.Б., Новоселов О.Н., Мановцев А.П. Сжатие данных при телеизмерениях. М.: Сов. радио, 1971. 304 с.

55. Омельченко В.А. Основы спектральной теории распознавания сигналов. Харьков: Вища школа, 1983. -159 с.

56. Патрик Э. Основы теории распознавания образов. Пер. с англ. / Под ред. Б.Р. Левина. М.: Сов. радио, 1980. 408 с.

57. Прикладная статистика: Классификация и снижение размерности. — М.: Финансы и статистика. 1989. -607с.

58. Применение цифровой обработки сигналов. Пер. с англ. / Под ред. А. Оппенгейма. М.: Мир, 1980. 552 с.

59. Прэтт У.К. Цифровая обработка изображений. Т.1. М.: Мир, 1982. — 312 с.

60. Прэтт У.К. Цифровая обработка изображений. Т.2. М.: Мир, 1982. -480 с.

61. Райли Д. Абстракция и структуры данных: Вводный курс / Пер. с англ. М.: Мир, 1973.-752 с.

62. Распознавание образов при помощи цифровых вычислительных машин / Под ред. J1. Хармон. М.: Мир, 1974. 287 с.

63. Распознавание образов. Состояние и перспективы / Пер. с англ. К. Верхаген, Р. Дейн, Ф. Грун и др. М.: Радио и связь, 1985. -104 с.

64. Распознавание образов: Теория и приложения. М.: Наука, 1977. —128 с.

65. Семененко М.Г. Математическое моделирование в MathCad. М.: Изд-во "Альтекс-А", 2003. 208 с.

66. Сенин А.Г. К анализу критериев оптимальности, используемых при обучении распознаванию образов // Автометрия, 1971. № 5. С. 20-25.

67. Сенин А.Г. Распознавание случайных сигналов. Новосибирск: Наука. Сибирское отделение. 1974. 76 с.

68. Сергиенко А.Б. Цифровая обработка сигналов /- СПб.: Питер, 2002. -608 с.

69. Тихонов В.И. Выбросы случайных процессов. М.: Наука, 1970. 392 с.

70. Ту Дж., Гонсалес Р. Принципы распознавания образов. М.: Мир, 1978. -432 с.

71. Фомин В.Н Математическая теория обучаемых опознающих систем. JL: Изд-во ЛГУ, 1976.-235 с.

72. Фомин Я.А., Тарловский Г.Р. Статистическая теория распознавания образов. М.: Радио и связь, 1986. 264 с.

73. Фомин Я.А. Теория выбросов случайных процессов. М.: Связь, 1980. — 216 с.

74. Фомин Я.А., Савич А.В. Оптимизация распознающих систем. М.:

75. Машиностроение, 1993. 288 с.

76. Форсайт Д.А., Понс А. Компьютерное зрение. Современный подход.: Пер. с англ. М.: Издательский дом "Вильяме", 2004. - 928 с.

77. Френке JI. Теория сигналов. М.: Сов. радио, 1974. 344 с.

78. Фу К. Последовательные методы в распознавании образов и обучении машин. М.: Наука, 1979. 287 с.

79. Фу К. Структурные методов распознавания образов / Пер с англ. Под ред. М.А. Айзермана. М.: Наука, 1977. 319 с.

80. Фукунага К. Введение в статистическую теорию распознавания образов. М.: Наука, 1979.-367 с.

81. Цветное В.В., Борисов Ю.П. Математическое моделирование радиотехнических систем и устройств. М.: Радио и связь, 1985. -176 с.

82. Цифровая обработка изображений в информационных системах: Учебное пособие / Грузман И.С., Киричук B.C. и др. Новосибирск, НГТУ, 2002. -587 с.

83. Цымбал В.Г. Разработка и исследование методов формирования признаковых пространств в медицинских диагностических .системах / диссертация на соискание ученой степени кандидата технических наук. Таганрог 1999.

84. Цыпкин Я.З. Основы теории обучающихся систем. М.: Наука, 1970. -252 с.

85. Шапиро Е.И. Непараметрические оценки плотности вероятности в задачах обработки результатов наблюдений: обзор // Зарубежная радиоэлектроника. №2,1976 с. 3-33.

86. Шибанов Г.П. Распознавание в системах автоконтроля. М.: Машиностроение, 1973. 424 с.

87. Ярославский Л.П. Введение в цифровую обработку изображений. — М.: Сов. Радио, 1979.-312с.

88. Mathcad 2001. Специальный справочник. / Под ред. В.П. Дьяконов М.: Питер, 2002.-832 с.