автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Сравнительный анализ морфологических методов интерпретации изображений

На правах рукописи

Кирнос Эдуард Анатольевич

СРАВНИТЕЛЬНЫЙ АНАЛИЗ МОРФОЛОГИЧЕСКИХ МЕТОДОВ ИНТЕПРЕТАЦИИ ИЗОБРАЖЕНИЙ

05.13.18 - Математическое моделирование, численные методы и комплексы

программ

Автореферат диссертации на соискание ученой степени кандидата физико-математических наук

Москва - 2004

Работа выполнена на кафедре компьютерных методов физики физического факультета Московского государственного университета им. М. В. Ломоносова

Научные руководители: доктор физико-математических наук,

профессор

Пытьев Юрий Петрович

Официальные оппоненты: доктор физико-математических наук,

профессор

Голубцов Петр Викторович

кандидат физико-математических наук Синько Олег Валентинович

Ведущая организация:

Математический институт им. В.А.Стеклова Российской Академии Наук, г. Москва

Защита диссертации состоится "¿5" 2004 г. в ^час^мин. на

заседании Диссертационного совета К 501.001.17 в Московском государственном университете им. М. В. Ломоносова по адресу: 119992, г. Москва, ГСП-2, Ленинские горы, дом 1, строение 2, МГУ, Физический факультет, аудитория

С диссертацией можно ознакомиться в библиотеке физического факультета МГУ им. М.В. Ломоносова.

Автореферат разослан

2004 г.

Ученый секретарь диссертационного совета доктор физико-математических наук, профессор

Поляков П. А.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ Актуальность. В последние годы проблема автоматического анализа формы и состояния пространственных объектов, информация о которых представлена в виде изображений (фотографий, видеосигналов и т.д.) является актуальной во многих отраслях человеческой деятельности. Но автоматизация процесса анализа и интерпретации изображений достаточно трудна. Дело не только в том, что для обработки большого объема информации, содержащейся в изображениях, требуются значительные вычислительные мощности, но и в том, что процессы регистрации изображений достаточно сложны или вообще неизвестны.

Многие из задач анализа формы и состояния пространственных объектов на качественном уровне решает сам человек. По всей видимости, в их основе лежат достаточно представительные модели, среди которых человек производит выбор, основываясь на информации, представленной в изображении и сопоставляет ее со своими знаниями об объекте исследований. Но существуют и задачи, с которыми ЭВМ справляются значительно лучше, чем человек. В их основе лежат простые модели процесса формирования изображений, позволяющие в той или иной мере анализировать информацию о форме объектов, содержащуюся в изображении.

В хорошо известной теории морфологического анализа монохромных изображений (монохромной морфологии)1 вводится понятие формы изображения объекта как класса его изображений, отвечающих различным условиям регистрации (освещения). Форма изображения, определенная таким образом, инвариантна относительно условий регистрации. При таком определении формы, для распознавания изображений объекта при разных условиях регистрации алгоритм распознавания, основанный на морфологическом анализе монохромных изображений, необходимо "обучать изображениям объекта", полученным при различных условиях его регистрации2.

Известно, что изображение объекта зависит как от оптических свойств самого

1 Yu P.Pytev. Morphological Image Analysis. // Pattern Recognition And Image Analysis, 1993, vol. 3, no. 61, pp. 19-28. "' Под обучением алгоритма распознавания следует понимать построение формы объекта по его изображениям.

j КОС НАЦИОНАЛЬНА* { I БИБЛИОТЕКА I

з ! ¿"VfW/j

объекта, так и от условий освещения, при которых происходила регистрация изображения. И если учитывать априорную информацию об объекте, то появляется возможность значительно уменьшить число изображений, необходимых для обучения. Существует целый класс так называемых ламбертовых объектов, учет оптических свойств которых позволяет проводить обучение алгоритма распознавания трем изображениям объекта (при различных условиях регистрации) для распознавания изображений объекта, полученных при разных условиях его регистрации. Эти свойства заложены в основу морфологического анализа ламбертовых изображений3.

Из теории морфологического анализа ламбертовых изображений следует, что ответить на вопрос, являются ли предъявленные изображения изображениями ламбертового объекта, можно решив задачу поиска минимальной размерности линейного подпространства, содержащего все предъявленные изображения объекта: если искомая размерность не превосходит 3, то предъявленное множество изображений есть множество изображений ламбертова объекта. Это так, если мы имеем дело с изображениями, полученными без ошибки. Но поскольку изображения всегда получаются с некоторой ошибкой, то поиск критерия, позволяющего по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта, нетривиален и является актуальной задачей.

Еще одной интересной и актуальной задачей является исследование влияния состава обучающей выборки на качество распознавания объектов в шуме. Хотя вопрос о том, следует ли на обучение подавать данные в шуме при распознавании данных в шуме, стоит давно, изучение такого влияния до сих пор никем не производилось ни для алгоритмов распознавания, основанных на морфологическом анализе, ни для так называемых параметрических алгоритмов.

Параметрические алгоритмы хорошо зарекомендовали себя, в частности, в

3 Yu P.Pyt'ev, А Уи Pyt'ev Effective Dimensionality and Data Compression. // Pattern Recognition And Image Analysis, 1997, vol. 7, no. 4, pp. 393-406.

задачах медицинской диагностики, где необходимо на основе измерений некоторых косвенных характеристик (например, артериального давления, ЭКГ и т.д.) предсказать, заболевание, поскольку прямое измерение некоторых характеристик (например, характеристик, которые могут быть получены только при хирургической операции) связано со значительным риском. Все параметрические алгоритмы основаны на анализе эмпирической информации, представленной в виде таблиц данных. Параметрические алгоритмы производят построение устойчивых представительных наборов для каждого класса объектов таблицы данных. Каждый объект таких таблиц данных характеризуется значениями признаков Xl,...,Xt, где п- количество признаков. Для булевых

признаков наиболее известным алгоритмом распознавания является алгоритм "Кора"4, предназначенный для определения логических закономерностей в виде конъюнкций значений признаков. Для разнотипных признаков известны такие алгоритмы распознавания, как "TEMP", "R-метод", "CORAL"5 - эти алгоритмы основаны на построении представительных наборов в виде так называемых деревьев решений.

Цель работы состоит:

1. В поиске критерия ламбертовости, позволяющего по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта.

2. В изучении влияния состава обучающей выборки на качество распознавания объектов в шуме параметрическими алгоритмами и морфологическими алгоритмами.

3. В изучении влияния на качество распознавания параметрическими и

4Вайнцвайг М.Н. Алгоритм обучения распознаванию образов "Кора". // В кн.: Алгоритмы обучения распознаванию образов. М., 1973, с. 110-115.

5Лбов Г. С. Методы обработки разнотипных экспериментальных данных. // Новосибирск: Наука, 1981.

морфологическими алгоритмами зависимости между уровнем шума, добавляемого в обучающую выборку, и уровнем шума, который ожидается у предъявляемых для распознавания данных.

4. В сравнительном анализе качества распознавания параметрических алгоритмов и морфологических алгоритмов.

Научная новизна работы состоит в том, что впервые:

1. Выведен критерий ламбертовости, позволяющий по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта.

2. Алгоритм ламбертовой морфологии был применен для решения задачи автоматического совмещения изображений одной и той же сцены.

3. Изучено влияние состава обучающей выборки на качество распознавания объектов в шуме для всех вышеуказанных алгоритмов. Показано, что для всех параметрических алгоритмов и алгоритма ламбертовой морфологии качество распознавания возрастает, если в обучающую выборку добавляются данные в шуме.

4. Проведен сравнительный анализ качества распознавания всех вышеуказанных параметрических и морфологических алгоритмов на примере задачи распознавания искаженных шумом изображений. Показано, что:

• Алгоритм типа "Кора" дает наилучшие результаты при распознавании данных в шуме в классе всех рассмотренных параметрических алгоритмов;

• Качество распознавания алгоритма ламбертовой морфологии лучше при распознавании изображений ламбертовых объектов в классе рассмотренных морфологических алгоритмов;

• При распознавании изображений качество распознавания морфологических алгоритмов заметно лучше по сравнению с качеством распознавания рассмотренных параметрических

алгоритмов.

5. Для всех рассмотренных алгоритмов найдена зависимость между уровнем шума, добавляемого в обучающую выборку, и уровнем шума, который ожидается у предъявляемых на распознавание данных.

Научная и практическая значимость работы. Проведенный сравнительный анализ качества работы алгоритмов распознавания изображений реальных сцен методами ламбертовой и монохромной морфологии показал, что учет свойства ламбертовости исследуемого объекта при построении формы его изображения позволяет сделать алгоритм распознавания ламбертовых изображений, нечувствительным к характеру освещения объекта при условии, что освещение объекта однородно. Изучение влияния состава обучающей выборки на качество распознавания объектов в шуме вышеуказанными параметрическими алгоритмами позволяет сделать вывод: при распознавании данных в шуме необходимо включение в состав обучающей выборки данных в шуме. Апробация работы. Основные результаты диссертации докладывались на: Международной конференции студентов и аспирантов по фундаментальным наукам "Ломоносов-2002", г. Москва; на семинарах в ВЦ РАН; на Всероссийских конференциях ММРО'99, ММРО'2000.

Публикации. По теме диссертации опубликовано 5 работ.

Структура и объем диссертации. Диссертация состоит из введения, трех глав основного текста и заключения. Работа изложена на 134 страницах, содержит 78 рисунков и список литературы из 98 наименования.

СОДЕРЖАНИЕ РАБОТЫ Введение содержит обоснование актуальности рассмотренных в диссертации проблем. Здесь же определяются цель исследования, научная новизна и практическое значение.

В первой главе производится обзор двух методов анализа изображений: морфологического метода интерпретации монохромных изображений6 и морфологического метода интерпретации ламбертовых изображений . Методы называются "морфологическими" потому, что они дают возможность высказываться о форме изображенных объектов. Эти методы предназначены для решения широкого класса задач, связанных с компьютерным анализом формы изображенных объектов и не зависят от условий регистрации изображений объектов. Это следующие задачи:

1. Распознавание изображений объектов в шуме по признакам их формы.

2. Идентификация объектов по их изображениям, полученным при различных неконтролируемых условиях регистрации.

3. Выделение отличий по форме изображений объектов, представленных на различных изображениях, которые получены при неизвестных условиях регистрации.

4. Выделение изображений неизвестных объектов на изображениях с известным фоном (эти изображения получены при неизвестных условиях регистрации).

5. Совмещение изображений, полученных при разных (неизвестных) условиях регистрации.

и т.д. Следует заметить, что методы предназначены для решения только такьх задач, в которых вся доступная информация об объекте заключена в его изображении или изображениях, т.е. мы имеем возможность разглядывать обтект, но не осязать его.

В главе изложена теория морфологического анализа монохромных изображений. Дается определение формы изображения объекта, которая определяется как класс его изображений, полученных при различных условиях

6 Лытьев ЮЛ. Морфологический анализ изображений. //Докл. АН СССР, 1983, т. 196, № 5, с. W62-1064.

7 Уи P.Pyt'ev, A Уи Pyl'ev. Effective Dimensionality and Data Compression. // Pattern Recognition And Image Analysis, 1997, vol. 7, no. 4, pp. 393-406.

регистрации. Показывается, что в простейшем случае форма изображения объекта

определяется как разбиение поля зрения на области, обладающие одинаковой или

8 т

почти одинаковой яркостью. Также в первой главе дается определение ламбертовости объекта: объект называется ламбертовым, если яркость в каждой его точке не зарисит от направления наблюдения при любом характере освещения. Дается определение формы изображения ламбертового объекта как множества, которое представляет собой выпуклый замкнутый конус в трехмерном подпространстве евклидова пространства. Определяются эффективная размерность, для множества "чистых" изображений и множества изображений в шуме. Показывается, что ответить на вопрос являются ли предъявленные изображения изображениями ламбертового объекта, можно решив задачу поиска минимальной размерности линейного подпространства, содержащего все предъявленные изображения объекта: если искомая размерность не превосходит 3, то предъявленное множество изображений есть множество изображений ламбертова объекта. Но поскольку изображения всегда получаются с некоторой ошибкой, то решение задачи определения фактической размерности предъявленного множества изображений нетривиально. В главе показано, что в этом случае математически задача сводится к задаче проверки гипотезы о том, что полученные изображения являются изображениями ламбертового объекта, а именно, можно ли считать, что полученные изображения с точностью до ошибки лежат в трехмерном линейном подпространстве, и решен вопрос о нахождении

9

этого подпространства .

Во второй главе дан обзор некоторых существующих подходов к решению задач распознавания. Данные подходы связаны с определением решающего правила из некоторого параметрического класса. Вектор параметров подбирается

8 Yu.P.Pyt'ev. Morphological Image Analysis. // Pattern Recognition And Image Analysis, 1993, vol. 3, no. 61, pp. 19-28.

9Yu.P.Pyt'ev, A.Yu.Pyt'ev. Effective Dimensionality and Data Compression. // Pattern Recognition And Image Analysis, 1997, vol. 7, no. 4, pp. 393-406.

таким, чтобы критерий качества распознавания принимал экстремальное значение. В зависимости от выбранного класса решающих правил и критерия качества распознавания на данный момент существует большое разнообразие классов алгоритмов. В этой главе рассматриваются только два класса параметрических алгоритмов: алгоритм построения решающих правил с использованием аппарата алгебры логики для булевых признаков (алгоритм "Кора") и алгоритмы построения решающих правил для разнотипных (номинальных, дискретных, порядковых, непрерывных, булевых) признаков (алгоритмы "TEMP", "R-метод" и "CORAL").

Алгоритм "Кора"10 является наиболее известным алгоритмом распознавания для булевых признаков. Этот алгоритм предназначен для определения логических закономерностей в виде конъюнкций значений признаков и основывается на построении информативных фрагментов описаний обучающих объектов -представительных наборов. Представительными наборами обучающих объектов считаются те фрагменты описаний обучающих объектов, которые по данному набору признаков достаточно часто встречаются в одном обучающем классе и почти не встречаются в остальных обучающих классах. Множество представительных наборов для алгоритма "Кора" определяется заданием двух целочисленных параметров. Варьируя эти параметры можно менять множество представительных наборов. Решающее правило задается в виде алгоритмической процедуры: для распознавания объекта используется голосование по конъюнкциям (представительным наборам).

Алгоритмы "TEMP", "R-метод" и "CORAL"11 являются алгоритмами распознавания, основанными на обнаружении логических закономерностей в

10 Вайнцвайг М.Н. Алгоритм обучения распознаванию образов "Кора". // В кн.: Алгоритмы обучения распознаванию образов. М, 1973, с. 110-115.

11 Лбов Г. С. Методы обработки разнотипных экспериментальных данных. // Новосибирск: Наука, 1981.

множествах обучающих объектов в случае разнотипных признаков: номинальных, дискретных, порядковых, непрерывных и булевых. Процесс построения логических закономерностей для подобных алгоритмов называется построением логических решающих правил. Для этих трех алгоритмов решающее правило представляется в виде дерева решений. Такая форма представления правил позволяет легко интерпретировать их на языке функциональных свойств объекта.

В третьей главе производится исследование и сравнение всех вышеуказанных параметрических алгоритмов и морфологических алгоритмов в задачах распознавания при ограниченной априорной информации:

1. Дается критерий ламбертовости, позволяющий по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта.

2. Изучается влияние состава обучающей выборки на качество распознавания объектов в шуме параметрическими алгоритмами и морфологическими алгоритмами.

3. Изучается влияние на качество распознавания параметрическими и морфологическими алгоритмами зависимости между уровнем шума, добавляемого в обучающую выборку, и уровнем шума, который ожидается у предъявляемых для распознавания данных.

4. Производится сравнительный анализ качества распознавания параметрических алгоритмов и морфологических алгоритмов.

Критерий ламбертовости. Напомним, что объект называется ламбертовым, если яркость в каждой точке не зависит от направления наблюдения при любом характере освещения, т.е. яркость может меняться от точки к точке поверхности, но яркость в каждой точке поверхности не будет зависеть от направления наблюдения. Объекты, поверхность которых способна зеркально отражать падающий на него свет (например, стекло) не могут быть ламбертовыми объектами. На поверхности таких объектов всегда будут блики от освещающих их источников, т.е. яркость в каждой точке поверхности таких объектов будет

зависеть от направления наблюдения.

Для вывода критерия ламбертовости рассматривается большое число серий изображений различных объектов. На рис. 1 в качестве примера приведены 3 серии изображений, участвовавших в эксперименте12: ровное поле зрения (рис. 1а) и 2 сцены с предметами, один из которых стеклянный (рис. 1,с). Для каждой серии изображений проверяется гипотеза о том, что изображения являются изображениями ламбертового объекта, а именно, исследуется эффективная размерность каждой серии изображений. Исследование эффективной размерности для каждой серии изображений сводится к решению задачи поиска минимальной размерности линейного подпространства, содержащего все предъявленные изображения объекта. Для этого производится поиск ортонормированных собственных векторов, образующих ортонормированный базис в пространстве Яш", обеспечивающий наименьшую в среднем квадратичном по всем изображениям полную ошибку приблежения изображений по сравнению с любым другим ортонормированным базисом в Яш. Тем самым для каждой серии изображений получают набор собственных векторов и соответствующих им собственных значений. Далее для каждой серии анализируется зависимость собственных значений, отсортированных по убыванию, от порядковых номеров собственных значений, и изображения собственных векторов, также отсортированных по убыванию соответствующих им собственных значений.

12 В каждом эксперименте по определению эффективной размерности множества изображений участвовало по 12 изображений каждой сцены. В целях сохранения компактности представления результатов для экспериментов в афтореферате приведены рисунки только 6 изображений из 12. Это касается и рисунков собственных векторов, получаемых при решении задачи поиска минимальной размерности линейного подпространства. Для всех нижеописанных экспериментов графики зависимости собственных значений от порядковых номеров собственных значений содержат только первые 9 собственных значений из 12.

13 Изображения представляются как векторы ^длиной т в евклидовом пространстве Кш. Здесь т - количество точек в изображении.

I с)

Рис 2 Собственные векторы в задаче нахождения эффективной размерности множесгва изображений, представ тенных на рис I

1234 5 б ? а 9

Порядковый номер собственного значения

Рис 3 Собственные значения в задаче нахождения эффективной размерности множества изображений, представленных на рис 1а и рис 1с

(a) собственные значения для рис 1а,

(b) собственные значения для рис 1с

1 2 3 4 5 6 7 3 9

Порядковый номер собственного энлчения

Рис 4 Собственные значения в задаче нахождения эффективной размерности множества изображений, представленных на рис 1а и рис 1Ь

(a) собственные значения для рис 1а,

(b) собственные значения для рис 1Ь

На рис. 2 показаны изображения 6 из 12 собственных векторов, получившихся при решении задачи поиска минимальной размерности линейного подпространства для каждой из сцен на рис. 1 На рис. 3 и рис 4 показаны соответствующие этим собственным векторам графики зависимости собственных значений, отсортированных по убыванию, от порядковых номеров собственных значений. Анализируя эти графики, можно заметить, что величина отношения

первого собственного значения к четвертому составляет величину поряка 105 для ровного поля зрения и величину порядка 104 для нестеклянного предмета (рис. 4). Для сцены со стеклянным предметом величина отношения первого собственного значения к четвертому составляет величину порядка 102 (рис. 3). Также, анализируя изображения собственных векторов для каждой из сцен (рис. 2), можно заметить, что на изображениях собственных векторов, начиная с четвертого, для сцен с ровным полем зрения и нестеклянным предметом ничего разобрать из деталей сцен нельзя (рис. 2а,Ь). Для сцены со стеклянным предметом детали сцены прослеживаются на всех без исключения изображениях собственных векторов (рис. 2с). Поскольку ламбертовы объекты всегда лежат в Зх-мерном подпространстве, то первые три собственых значения относятся к изображению, а все остальные к шуму. Если шум белый, то начиная с четвертого собственного вектора не будут просматриваться детали сцены. Критерием ламбертовости объекта является отсутствие деталей сцены, начиная с изображения четвертого собственного вектора сцены.

Влияние состава обучающей выборки на качество распознавания. Для изучения влияние состава обучающей выборки на качество распознавания объектов в шуме параметрическими алгоритмами и морфологическими алгоритмами в качестве данных для тестирования алгоритмов использовались черно-белые изображения цифр размером 20x20 пиксел. Изображения зашумлялись следующим образом. Генератор случайных чисел генерировал целые числа в интервале [0, 100]. Просматривался каждый пиксел изображения и анализировалось число, сгенерированное генератором случайных чисел на очередном шаге. Если число попадало в интервал [0, q], то пиксел инвертировался. Тем самым, при 0%-ом уровне шума14 ^ = 0) получалось чистое изображение, при 50%-ом уровне шума (q = 50) инвертировалось 50% пиксел

"Назовем уровнем шума д°о целое число д, лежащее в интервале [0, 100].

изображения, а при 100%-ом шуме (д = 100) изображение инвертировалось полностью. Такими изображениями проводилось обучение и такие изображения подавались на распознавание.

Для всех вышеуказанных параметрических и морфологических алгоритмов изучался вопрос: какие изображения следует включать в обучающую выборку? Только чистые изображения или чистые изображения и изображения в шуме, или только изображения в шуме?

Для обучения алгоритмов формировались 10 классов изображений, по одному для каждой цифры от 0 до 9. Каждый класс состоял из 11 изображений. Если алгоритмы обучались только чистым изображениям, то на обучение подавались по 11 чистых изображений каждого класса. Если алгоритмы обучались и чистым июбражениям и изображениям в шуме, то на обучение подавались по 11 изображений каждого класса, в которых шум равномерно возрастал от изображения к изображению, т.е. на обучение подавались изображения со следующими уровнями шума:

И наконец, если алгоритмы обучались только изображениям в шуме, то на обучение подавались по 11 изображений каждого класса с определенным уровнем шума д%, <7 е [0,50].

На распознавание для каждого алгоритма предъявлялись серии из 10 изображений цифр. Каждая серия содержала изображения одной из цифр с уровнем шума д%, 5е[0,50]. Каждая такая серия из 10 изображений цифр формировалась заново 50 раз и 50 раз предъявлялась для распознавания. Процент правильных решений (процент распознавания) подсчитывался следующим образом:

процент распознавания - колтество правильных ответов ^

Здесь количество испытаний - число тестов на распознавание (в нашем случае оно равно 50).

Результатом исследования вышепоставленного вопроса стало следущее: если параметрическме алгоритмы "Кора", "R-метод", "TEMP" и "CORAL" используются для распознавания изображений без шума, то необходимость в обучении этих алгоритмов изображениям в шуме отпадает. Достаточно их обучить только чистым изображениям. В противном случае, если эти алгоритмы используются для распознавания изображений в шуме, то на обучение необходимо подавать и чистые изображения и изображения в шуме. Этот вывод верен и для алгоритма, основанного на ламбертовой морфологии. Алгоритм, основанный на монохромной морфологии достаточно обучить только чистым изображениям и он будет способен распознавать как чистые изображения, так и

изображения в шуме. Это так, если шум белый. Если шум имеет другую природу,

»

то и этот алгоритм необходимо обучать чистым изображениям и изображениям в шуме (Как известно монохромная морфология обладает большой помехозащищенностью и если шум белый, то подавление шума происходит автоматически).

Влияние состава обучающей выборки и состава распознаваемых данных на качество распознавания. Качество распознавания всех вышеописанных алгоритмов разнится в зависимости от состава обучающей выборки и состава распознаваемых данных:

1. Алгоритм "Кора":

• Если обучать алгоритм только чистым изображениям, то процент правильных ответов будет не ниже 80% до 20%-ого уровня шума тестирующих изображений цифр (рис. 5а).

• Если обучать алгоритм чистым изображениям и изображениям с шумом до 32%, то процент правильных ответов будет не ниже 80% до 42%-ого уровня шума тестирующих изображений цифр (рис. 6а).

• При обучении алгоритма только изображениям с 10% шумом процент правильных ответов будет не ниже 80% до 21%-ого уровня шума тестирующих изображений цифр. Т.е. немногим лучше, чем при обучении алгоритма только чистым изображениям.

2. Алгоритм "R-метод":

• Если обучать алгоритм только чистым изображениям, то процент правильных ответов будет не ниже 80% до 20%-ого уровня шума тестирующих изображений цифр (рис. 5b).

• Если обучать алгоритм чистым изображениям и изображениям с шумом до 32%, то процент правильных ответов будет не ниже 80% до 26%-ого уровня шума тестирующих изображений цифр (рис. 6b).

• При обучении алгоритма только изображениям с 10% шумом процент правильных ответов будет не ниже 80% до 20%-ого уровня шума тестирующих изображений цифр. Т.е. сравнимо с результатами, получаемыми при обучении только чистым изображениям.

3. Алгоритм "TEMP":

• Если обучать алгоритм только чистым изображениям, то процент правильных ответов будет не ниже 80% до 20%-ого уровня шума тестирующих изображений цифр (рис. 5с).

• Если обучать алгоритм чистым изображениям и изображениям с шумом до 32%, то процент правильных ответов будет не ниже 80% до 25%-ого уровня шума тестирующих изображений цифр (рис. 6с).

• При обучении алгоритма только изображениям с 10% шумом процент правильных ответов будет не ниже 80% до 19%-ого уровня шума тестирующих изображений цифр. Т.е. немногим хуше, чем при обучении алгоритма только чистым изображениям.

4. Алгоритм "CORAL":

• Если обучать алгоритм только чистым изображениям, то процент правильных ответов будет не ниже 80% до 20%-ого уровня шума тестирующих изображений цифр (рис. 5d).

• Если обучать алгоритм чистым изображениям и изображениям с шумом до 32%, то процент правильных ответов будет не ниже 80\% до 23\%-ого уровня шума тестирующих изображений цифр (рис. 6d).

• При обучении алгоритма только изображениям с 10% шумом процент правильных ответов будет не ниже 80% до 18%-ого уровня шума тестирующих изображений цифр. Т.е. немногим хуже, чем при обучении алгоритма только чистым изображениям.

5. Алгоритм, основанный на ламбертовой морфологии:

• Если обучать алгоритм только чистым изображениям, то процент правильных ответов будет не ниже 80% до 26%-ого уровня шума тестирующих изображений цифр (рис. 7а).

• Если обучать алгоритм чистым изображениям и изображениям с шумом до 35%, то процент правильных ответов будет не ниже 80% до 43%-ого уровня шума тестирующих изображений цифр (рис. 7b).

• При обучении алгоритма только изображениям с 10% шумом процент правильных ответов будет не ниже 80% до 27%-ого уровня шума тестирующих изображений цифр. Т.е. немногим лучше, чем при обучении алгоритма только чистым изображениям.

6. Алгоритм, основанный на монохромной морфологии:

Для распознавания как чистых изображений так и изображений в шуме этот алгоритм достаточно обучить только чистым изображениям. Процент правильных ответов не ниже 80% наблюдается до 45%-ого уровня шума тестирующих изображений цифр. Когда на яркость

Рис. 5. Результаты распознавания при обучении алгоритмов "Кора", "R-метод", "TEMP" и "CORAL" только чистым изображениям цифр: (а) для алгоритма "Кора", (b) для алгоритма "R-метод, (с) для алгоритма "TEMP", (d) для алгоритма "CORAL".

Рис. 6. Результаты распознавания при обучении алгоритмов "Кора", "R-метод", "TEMP" и "CORAL" чистым изображениям цифр и изображениям с уровнем шума до 32%: (а) для алгоритма "Кора", (b) для алгоритма "R-метод, (с) для алгоритма "TEMP", (d) для алгоритма "CORAL".

Зашумленность изображения цифр

Рис. 7. Результаты распознавания при обучении ламбертовой морфологии: (а) только чистым изображениям, (Ь) чистым изображениям и изображениям с 35%-ым уровнем шума.

изображения цифры накладываются дополнительные ограничения, а именно известно, что яркость символа не может быть меньше яркости фона, процент правильных ответов для алгоритма не ниже 80%

наблюдается до 48%-ого уровня шума тестирующих изображений цифр (рис. 8). Т.е. этот алгоритм более помехозащитен, чем все перечисленные выше.

S 90 В S 80 К « го-£ м Я 50 \

ё 0% 4% 8% 14% 20% 26% 32% 38% 44% 5СЧ6 Зашумленность изображения цифр

Рис. 8. Результаты распознавания при обучении монохромной морфологии только чистым изображениям.

Сравнительный анализ качества распознавания параметрических алгоритмов и морфологических алгоритмов. Для класса рассмотренных параметрических алгоритмов при распознавании изображений в шуме лучшим является алгоритм "Кора". Но только в том случае, когда на обучение подаются и чистые изображения и изображения в шуме (рис. 6а). Если параметрические алгоритмы обучать только чистым изображениеям или только изображениям в шуме, то результаты их распознавания примерно одинаковы (рис. 5). Для всех параметрических алгоритмов немного разнятся и результаты распознавания гри обучении только чистым изображениям и только изображениям в шуме: при обучении алгоритмов только изображениям в шуме результаты распознавания лучше, но не значительно.

Алгоритм, основанный на ламбертовой морфологии превосходят по результатам распознавания все параметрические алгоритмы. Это наблюдается при всех вариантах обучения алгоритма (рис. 7). Дело в том, что все вышеописанные параметрические алгоритмы "Кора", "R-метод", "TEMP" и "CORAL" ориентированны на распознавание информации, представляемой в словесно-цифровом виде. В то время как морфологические алгоритмы ориентированны на распознавание изображений. Алгоритм, основанный на монохромной морфологии при распознавании цифр дает самые лучшие результаты по сравнению со всеми

другими описанными выше алгоритмами, включая и алгоритм, основанный на ламбертовой морфологии (рис. 8). Но при распознавании по-разному освещенных ламбертовых объектов алгоритм, основанный на ламбертовой морфологии, дает результаты заметно лучшие нежели результаты, которые в этой ситуации дает алгоритм, основанный на монохромной морфологии.

Основные результаты

1. Выведен критерий ламбертовости, позволяющий по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта.

2. Алгоритм ламбертовой морфологии был применен для решения задачи автоматического совмещения изображений одной и той же сцены.

3. Изучено влияние состава обучающей выборки на качество распознавания объектов в шуме для всех вышеуказанных алгоритмов. Показано, что для всех параметрических алгоритмов и алгоритма ламбертовой морфологии качество распознавания возрастает, если в обучающую выборку добавляются данные в шуме.

4. Проведен сравнительный анализ качества распознавания всех вышеуказанных параметрических и морфологических алгоритмов на примере задачи распознавания искаженных шумом изображений. Показано, что:

a. Алгоритм типа "Кора" дает наилучшие результаты при распознавании данных в шуме в классе всех рассмотренных параметрических алгоритмов;

b. Качество распознавания алгоритма ламбертовой морфологии лучше при распознавании изображений ламбертовых объектов в классе рассмотренных морфологических алгоритмов;

c. При распознавании изображений качество распознавания морфологических алгоритмов заметно лучше по сравнению с качеством распознавания рассмотренных параметрических

алгоритмов.

5. Для всех рассмотренных алгоритмов найдена зависимость между

уровнем шума, добавляемого в обучающую выборку, и уровнем шума,

который ожидается у предъявляемых на распознавание данных.

Основные публикации

1. К A. Kirnos, Yu. P. Pyt'ev Training the algorithms based on logical decision functions. // Pattern Recognition and Image Analysis. 2004, vol. 14, no.3,pp. 394-406.

2. Кирнос Э.А., Пытъев ЮЛ. О параметрических алгоритмах распознавания. // Вестник Московского Университета. Серия 3. Физика, Астрономия. 2003, № 1, с. 16-18.

3. ЕA. Kirnos, Yu. P. Pyt'ev, E. V. Djukova Training the "Kora" Type Algorithms. // Pattern Recognition and Image Analysis. 2002, vol. 12, no.l, pp. 19-24.

4. Дюкова КВ., Кирнос Э.А. Сравнение алгоритма распознавания "Кора" и черно-белой морфологии в задаче распознавания черно-белых изображений. // Математические методы распознавания образов: доклады IX Всероссийской конференции: Тез. докл., Москва, 1999, с. 79-81.

' Пытьев ЮЛ., Кирнос Э.А., Логинов О.Е., Смоловик В.В. Сравнение черно-белой и ламбертовой морфологии в задаче распознавания объектов. // Распознавание образов и анализ изображений: новые технологии: III конференция: Тез. докл., Нижний Новгород, ч.2, с. 233-237,1997.

ООП Физ.ф-та МГУ. Заказ 133-100-04

Р2 5 Б 2 5

Содержание

Введение

1 Морфологический анализ изображений

1.1 Морфологический анализ монохромных изображений.

1.2 Морфологический анализ изображений ламбертовых объектов.

1.2.1 Понятие ламбертовости объекта.

1.2.2 Эффективная размерность множества точных данных.

1.2 3 Эффективная размерность множества измеренных с ошибками сигналов

2. Логические решающие функции

2.1 Основные понятия.

2.1.1. Разнотипность характеристик (переменных) ф 2.1.2 Решающая функция и стратегия природы.

2.1.3 Байесовская решающая функция.

2.1.4 Таблица данных (обучающая выборка).

2.1.5 Элементарные высказывания и наборы высказываний.

2 2 Алгоритм "CORAL"

2.3 Алгоритм "TEMP"

2.4 Алгоритм "R-метод"

2 5 Алгоритм обучения и распознавания типа "Кора"

2 5.1 Постановка задачи.

2.5.2 Описание алгоритма.

3. Анализ результатов

3 1 Метод морфологического анализа монохромных изображений

3 2 Метод морфологического анализа ламбертовых изображений

3.3 Параметрические алгоритмы распознавания.

В последние годы проблема автоматического анализа формы и состояния пространственных объектов, информация о которых представлена в виде изображений (фотографий, видеосигналов и т.д.) является актуальной во многих отраслях человеческой деятельности. Но автоматизация процесса анализа и интерпретации изображений достаточно трудна. Дело не только в том, что для обработки большого объема информации, содержащейся в изображениях, требуются значительные вычислительные мощности, но и в том, что процессы регистрации изображений достаточно сложны или вообще неизвестны.

Многие из задач анализа формы и состояния пространственных объектов на качественном уровне решает сам человек. По всей видимости, в их основе лежат достаточно представительные модели, среди которых человек производит выбор, основываясь на информации, представленной в изображении и сопоставляет ее со своими знаниями об объекте исследований. Но существуют и задачи, с которыми ЭВМ справляются значительно лучтпе, чем человек. В их основе лежат простые модели процесса формирования изображений, позволяющие в той или иной мере анализировать информацию о форме объектов, содержащуюся в изображении.

В хорошо известной теории морфологического анализа монохромных изображений (монохромной морфологии) [1-3,5] вводится понятие формы изображения объекта как класса его изображений, отвечающих различным условиям регистрации (освещения). Форма изображения, определенная таким образом, инвариантна относительно условий регистрации. При таком определении формы, для распознавания изображений объекта при разных условиях регистрации алгоритм распознавания, основанный на морфологическом анализе монохромных изображений, необходимо "обучать изображениям объекта", полученным при различных условиях его регистрации. 1

Известно, что изображение объекта зависит как от оптических свойств самого

1 Под обучением алгоритма распознавания следует понимать построение формы объекта по его изображениям. объекта, так и от условий освещения, при которых происходила регистрация изображения. И если учитывать априорную информацию об объекте, то появляется возможность значительно уменьшить число изображений, необходимых для обучения. Существует целый класс так называемых ламбертповых объектов, учет оптических свойств которых позволяет проводить обучение алгоритма распознавания трем изображениям объекта (при различных условиях регистрации) для распознавания изображений объекта, полученных при разных условиях его регистрации. Эти свойства заложены в основу морфологического анализа ламбертовых изображений (ламбертову морфологию) [7,95].

Из теории морфологического анализа ламбертовых изображений следует, что ответить на вопрос, являются ли предъявленные изображения изображениями ламбертового объекта, можно решив задачу поиска минимальной размерности линейного подпространства, содержатцего все предъявленные изображения объекта: если искомая размерность не превосходит 3, то предъявленное множество изображений есть множество изображений ламбертова объекта. Это так, если мы имеем дело с изображениями, полученными без ошибки. Но поскольку изображения всегда получаются с некоторой ошибкой, то поиск критерия, позволяющего по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта, нетривиален и является актуальной задачей.

Еще одной интересной и актуальной задачей является исследование влияния состава обучающей выборки на качество распознавания объектов в шуме. Хотя вопрос о том, следует ли на обучение подавать данные в шуме при распознавании данных в шуме, стоит давно. Изучение такого влияния до сих пор никем не производилось ни для алгоритмов распознавания, основанных на морфологическом анализе, ни для так называемых параметрических алгоритмов.

Параметрические алгоритмы хорошо зарекомендовали себя, в частности, в задачах медицинской диагностики, где необходимо на основе измерений некоторых косвенных характеристик (например, артериального давления, ЭКГ и т.д.) предсказать заболевание, поскольку прямое измерение некоторых характеристик (например, характеристик, которые могут быть получены только при хирургической операции) связано со значительным риском. Все параметрические алгоритмы основаны на анализе эмпирической информации, представленной в виде таблиц данных. Параметрические алгоритмы производят построение устойчивых представительных наборов для каждого класса объектов таблицы данных. Каждый объект таких таблиц данных характеризуется значениями признаков где п — количество признаков. Для булевых признаков наиболее известным алгоритмом распознавания является алгоритм "Кора"[79-80,87,94], предназначенный для определения логических закономерностей в виде конъюнкций значений признаков и метод "тупиковых тестов" [89,90,97,98]. Решающее правило в обоих случах задается в виде алгоритмической процедуры: для распознавания объекта используется голосование либо по конъюнкциям, либо по "тупиковым тестам".

Для разнотипных признаков известны такие алгоритмы распознавания, как "TEMP", "R-метод", "CORAL" — эти алгоритмы основаны на построении представительных наборов в виде так называемых деревьев решений [16,17,30-33].

Цель диссертационной работы состоит:

1. В поиске критерия ламбертовости, позволяющего по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта;

2. В изучении влияния состава обучающей выборки на качество распознавания объектов в шуме параметрическими алгоритмами и морфологическими алгоритмами;

3 В изучении влияния на качество распознавания параметрическими и морфологическими алгоритмами зависимости между уровнем шума, добавляемого в обучающую выборку, и уровнем шума, который ожидается у предъявляемых для распознавания данных;

4. В сравнительном анализе качества распознавания параметрических алгоритмов и морфологических алгоритмов.

Заключение

В результате проведенных исследований в данной работе были получены следующие результаты:

1. Выведен критерий ламбертовости, позволяющий по предъявленным изображениям объекта в шуме сделать заключение о ламбертовости объекта;

2. Алгоритм ламбертовой морфологии был применен для решения задачи автоматического совмещения изображений одной и той же сцены;

3. Изучено влияние состава обучающей выборки на качество распознавания объектов в шуме для всех вышеуказанных алгоритмов. Показано, что для всех параметрических алгоритмов и алгоритма ламбертовой морфологии качество распознавания возрастает, если в обучающую выборку добавляются данные в шуме;

4. Проведен сравнительный анализ качества распознавания всех вышеуказанных параметрических и морфологических алгоритмов на примере задачи распознавания искаженных шумом изображений. Показано, что: a) Алгоритм типа "Кора" дает наилучшие результаты при распознавании данных в шуме в классе всех рассмотренных параметрических алгоритмов; b) Качество распознавания алгоритма ламбертовой морфологии лучше при распознавании изображений ламбертовых объектов в классе рассмотренных морфологических алгоритмов; c) При распознавании изображений качество распознавания морфологических алгоритмов заметно лучше по сравнению с качеством распознавания рассмотренных параметрических алгоритмов;

3. Для всех рассмотренных алгоритмов найдена зависимость между уровнем шума, добавляемого в обучающую выборку, и уровнем шума, который ожидается у предъявляемых на распознавание данных.

6. Проведенный сравнительный анализ качества работы алгоритмов распознавания изображений реальных сцен методами ламбертовой и монохромной морфологии показал, что учет свойства ламбертовости исследуемого объекта при построении формы его изображения позволяет сделать алгоритм распознавания ламбертовых изображений, нечувствительным к характеру освещения объекта при условии, что освещение объекта однородно.

Все результаты были получены с использованием средств разработки Matlab 6.0, Visual С++ 6.0, Borland С++ Builder 5.0, Assembler for Motorola64K.

1. Пытпъев Ю.П. Морфологический анализ изображений. // Кибернетика и теория регулирования, М., Докл. АН СССР, 1983, т. 269, №5, с. 1061-1065.

2. Пытпъев Ю.П. Морфологический анализ изображений. // Докл. АН СССР, 1983, т. 196, №5, с. 1062-1064.

3. Yu.P.Pyt'ev Morphological Image Analyssis j j Pattern Recognition And Image Analysis, 1993, vol. 3, no. 61, pp. 19-28.

4. Пытъев Ю.П., Чуличков А.И. ЭВМ анализирует форму изображения. // Знание, сер Математика, Кибернетика. Москва, 1988.

5. Пытъев Ю.П. Морфологические понятия в задачах анализа изображений. // Докл. АН СССР, 1975, т. 224, с. 1283-1286.

6. Пытъев Ю.П., Задорожный С.С., Лукьянов А.Е. Об автоматизации сравнительного морфологического анализа электронно-микроскопических изображений. // Изв. АН СССР, сер. Физическая, т. 4, 111 е., 1977.

7. YuP.Pyt'ev, A Yu.Pyt'ev Effective Dimentionality and Data Compression. // Pattern Recognition And Image Analysis, 1997, vol. 7, no 4, pp. 393-406.

8. Вондаренко С.П., Пытъев Ю.П. Об эффективном ранге модели линейных измерений с ошибкой. // ЖВМ и МФ, 1995, т. 35, №1, с. 7-23.

9. Пытъев Ю.П., Вондаренко С.П., Поляков Д.В. О фактической размерности измерений, выполненных на линейном приборе с ошибкой. // Вестн. Моск. Унта, сер.З, Физика, Астрономия, 1995, т. 36, JV°4, с. 22-28.

10. Gilland D.S., Lund J.R., Vogel C.R. Quantifying information content for ill-posed problems. // Inverse Problems, 1990, no. 6, pp. 725-736.

11. Пытъев Ю.П. К теории нелинейных измерительно-вычислительных систем. // Математическое Моделирование, 1992, т. 4, N°2, с. 76-94.

12. Пытъев Ю.П. Математические методы интерпретации эксперимента. // М.: Высшая Школа, 1989, 351 с.

13. Андерсон Т. Введение в многомерный статистический анализ. // Пер. с англ. М.:Физматгиз, 1963.

14. Лбов Г.С., Старцева Н.Г. Сложность распределений в задачах классификации. // Докл. РАН. 1994. т. 338, №5, с. 592-594.

15. Лбов Г.С., Старцева Н.Г. Логические решающие функции и вопросы статистической устойчивости решений. / / Новосибирск: Изд-во Ин-та математики, 1999, 211с.

16. Лбов Г. С. Методы обработки разнотипных экспериментальных данных. // Новосибирск: Наука, 1981.

17. Лбов Г.С., Котюков В.И., Машаров Ю.П. Метод обнаружения логических закономерностей на имперических таблицах. // Вычислительные системы, 1976, вып. 67, с. 29-42.

18. Lbov G.S., Berikov V.B. Recursive method of formation of the recognition decision rule in the class of logical functions. // Pattern Recognition and Image Analysis. 1993, vol. 3, no. 4, pp. 428-431.

19. Лбов Г. С., Котюков В.И., Манохин А.Н. Об одном алгоритме распознавания в пространстве разнотипных признаков. // Вычислительные системы, 1973, вып. 55, с. 98-107.

20. Лбов Г. С., Манохин А.Н. Распознавание образов при разнотипных признаках в условиях малой выборки. //В кн.: Статические проблемы управления. Вильнюс, 1976, вып. 14, с. 57-63.

21. Лбов Г. С. Логические функции в задачах эмпирического предсказывания. // Вычислительные системы, 1978, вып. 76, с. 34-64.

22. Лбов Г.С., Манохин А.Н. Логические и линейно-логические функции оценивания // Тез.докл. Новосибирск, 1978, с. 58-69.

23. Лбов Г. С. Об одном непараметрическом подходе в задачах эмпирического предсказания //В кн.: адаптивные системы и их приложения. Новосибирск, 1978, с. 78-81.

24. Хант Э. Искусственный интеллект // М., Мир, 1978, 560 с.

25. Кендал М., Стюарт А. Статистические выводы и связи // М., Наука, 1973, 899 с.

26. Ковалевский В.А. Методы оптимальных решений и распознавания изображений // М., Наука, 1976, 328 с.

27. Гладун В. П. Эвристический поиск в сложных средах // Киев, Наукова думка, 1977, 166 с.

28. Миркин Б.Г. Анализ качественных признаков // М., Статистика, 1976, 250 с.

29. Starceva N.G. Convergence of mathematical expectation of error probability for averaged startegy // Pattern Recognition and Image Analysis. 1994, vol. 4, no.2, pp. 110-115.

30. Starceva N.G. Influance of volume of sample and complexity distribution on quality of classification // Pattern Recognition and Image Analysis. 1992, vol. 2, no. 3, pp. 265-270.

31. Старцева Н.Г. О статистической устойчивости в задачах классификации // Докл. РАН. 1992. Т.323, №5, с. 441-444.

32. Старцева Н.Г. Сходимость математического ожидания вероятности ошибки к усредненной стратегии // Докл. РАН. 1995. Т.341, JV°5, с. 235-240.

33. Раудис Ш. Ограниченность выборки в задачах классификации // Статистические проблемы узнавания. Вильнюс, 1976. Вып. 18, с. 1-185.

34. Старцева Н.Г. Влияние сложности распределений на качество классификации для независимых переменных // Докл. РАН. 1997. Т.355, №4, с. 461-463

35. Starceva N.G. The average loss in classification problems with a limited sample size // Pattern Recognition and Image Analysis. 1997, vol. 8, no. 1, pp. 8-13.

36. Стронгин Р.Г. Численные методы в многоэкстремальных задачах // М., Наука, 1978.

37. Жилинскас А.Г. Поиск оптимума // М., Наука, 1989.

38. Журавлев Ю.И., Никофоров В.В. Алгоритмы распознавания, основанные на вычислении оценок // Кибернетика, 1971, №3. с. 1-12.

39. Кейслер Г., Чен Ч. Теория моделей // М., Мир, 1977.

40. Lbov G.S. Logical decision rules for automatic discovery of knowlege in expert systems database. // Internat. J.Pattern Recognition and Artificial Intelligence. 1989, vol. 3, no. 1, pp. 135-145.

41. Lbov G.S. Recognition of states of a dynamic object. // Pattern Recognition and Image Analysis. 1993, vol. 3, no. 2, pp. 185-187.

42. Lbov G.S., Starceva N.G., Berikov V.B. LASTAN a system for logical analysis of statical observation. // Pattern Recognition and Image Analysis. 1992, vol. 2, no. 1, pp. 56-61.

43. Лбов Г.С., Старцева Н.Г. Об одном понятии сложности стратегии природы в распознавании образов // Анализ данных в экспериментальных системах. Новосибирск, 1986, Вып. 117: Вычислительные системы, с. 91-102.

44. Лбов Г. С. Метод анализа многомерных разнотипных временных рядов в классе логических решающих функций // Докл. РАН. 1994. Т.339, JV°6, с. 750753.

45. Блощицын В.Я. О мерах информативности логических высказываний // Докл. "Технология разработки экспертных систем". Кишинев, 1987, с. 12-14.

46. Боровков А.А. О задаче распознавания образов // Теория вероятностей и ее применение. 1971, Т.16, N>1, с. 132-136.

47. Вапник В.Н., Червоненкис А.Я. Теория распознавания образов // М., Наука, 1974.

48. Ларичев О.И., Мечитов А.И., Мошкович Е.М., Фурмес Е.М. Выявление экспертных знаний // М., Наука, 1989.

49. Викентъев А.А., Лбов Г.С. О метризациях булевой алгебры предложений и информативности высказываний экспертов // Докл. РАН. 1998. Т.361, №2, с. 174-176

50. Vikent'iev A.A., Lbov G.S. Setting the metric and informativeness on statement of experts. // Pattern Recognition and Image Analysis. 1997, vol. 7, no. 2, pp. 175-183.

51. Гладун В.П. Планирование решений // Киев, Наукова думка, 1987.

52. Домбровская Т.В., Черкашин Н.Т. Некоторые непараметрические алгоритмы распознавания образов большой размерности // Мат. статистика и ее приложение. Томск, 1980, JV»6, с. 118-124.

53. Донской В.И, Вашта А.И. Дискретные модели принятия решений при неполной информации // Семфирополь: Таврия, 1992.

54. Лбов Г. С., Неделъко В.М. Байесовский подход к решению задачи прогнозирования на основе информации экспертов и таблицы данных. // Докл. РАН. 1997. Т.357, JV«1, с. 29-32.

55. Манохин А.Н. Об одном подходе к прогнозироавнию перспективных объектов. // Вычислительные системы. Новосибирск, 1978, Вып. 74, с. 108-128.

56. Миркин Б.Г. Проблема группового выбора // М., Наука, 1974.

57. Michalski R.S. Variable-valued logic. // Proc. Symp. Multiple Volued Logic. Mor-gentown, 1974.

58. Michalski R., Bratko I., Kubat M. Machine Learning and Data Mining, Methods and Applications. // N.Y.: John Wiley & Sons, 1998.

59. Ojelanki K., Ngwenyama L., Bryson N. A formal method for analysing and in-tegrationing the rule-sets of multiple experts. // Inform. Systems. 1992, V.17, N 1, pp. 1-16.

60. Сухарев А.Г. Оптимальный поиск экстремума. // М.: Издательство МГУ, 1975.

61. Цыпкин Я.З. Адаптация и обучение в автоматических системах. // М., Наука, 1968.

62. Кендэл М. Временные ряды. // М., Финансы и статистика, 1981.

63. Hughes G. On the mean accuracy of statistical pattern recognizers. // JEEE Trans. Inform. Theory, 1968, IT-14, pp. 55-63.

64. Пикялис B.C. Сравнение методов вычисления ожидаемой ошибки классификации. // Автоматика и телемеханика, 1976, JV°5, с 59-63.

65. Okamoto М. An asymptotic expansion for the distribution of the linear discriminant function, j j Ann.Math. Stat., 1999, vol. 2, N 4, pp. 1286-1301.

66. Поляк JI.X. Аксиоматический подход к распознаванию динамических образов. // В кн.: Математическое моделирование в социологии: методы и задачи. Новосибирск, Ин-т экономики и организации промышленного производства СО АН СССР, 1977, с.139-164.

67. Трунов А.А. Алгоритм постоения кусочно-линейных логических решающих правил распознавания. // Материалы XXI обл. науч.-техн. конф., Новосибирск, НТО радиотехники им. А.С.Попова, 1978, с.43.

68. Журавлев Ю.И., Исаев И.В. Построение алгоритмов распознавания, корректных для данной выборки. // ЖВМ и МФ, 1979, Том 19, JV°3, с. 728-738.

69. Кочетков Д В. Распознающие алгоритмы, инвариантные относительно преобразований пространства признаков. // Распознавание, классификация, прогноз: Мат. методы и их применение. М.: Наука. 1988. Вып. 1. С. 82-113.

70. Кочетков Д.В. Распознающие алгоритмы, инвариантные относительно преобразований пространства признаков. // Распознавание, классификация, прогноз: Мат. методы и их применение. М.: Наука. 1989. Вып. 11. С. 178-206.

71. SenYho О. V. A Prediction Algorithm Based on the Procedure of Weighted Voting Using a System of Hyperparallelepipeds in a Multidimensional Feature Space. // Pattern Recognition and Image Analysis, 1993, vol.3, no. 3, pp.283-284.

72. Ganster E., Gelautz M., Pmz A., Binder M., Pehamberger H., Bammer M., Krocza J. Initial Results of Automated Melanoma Recognition. // Proceedings of the 9th Scandinavian Conference on Image Analysis, Uppsala, Sweden, June 1995, Vol.1, pp. 209-218.

73. Bezdek J.G. Pattern Recognition with Fuzzy Objective Function Algorithms. // Plenum Press, New-York, 1981.

74. Дмитриев А.Н., Журавлев Ю.И., Кренделев Ф.П. О математических принципах классификации предметов и явлений. // Сб. "Дискретный анализ". Вып. 7. Новосибирск, ИМ СО АН СССР. 1966. С. 3-11.

75. Рудаков К. В. Об алгебраической теории универсальных и локальных ограничений для задач классификации. // Распознавание, классификация, прогноз. Математические методы и их применение. Вып. 1. М.: Наука, 1989. с. 176-200.

76. Сироджа И.Б Структурно-аналитический метод машинного распознавания объектов с разнотипными признаками. // Теория R-функций и актуальные проблемы прикладной математики. Киев: Наукова думка. 1986. С.212-243.

77. Bezdek J.С. A review of probabilistic, fuzzy, and neural models for pattern recognition. // FUZZY LOGIC AND NEURAL NETWORK HANDBOOK, Chen C.H. eds, ch.2, McGraw-Hill, 1996.

78. Бонгард M.M. Проблема узнавания. // M., Наука. 1967, 320с.

79. Вайнцвайг М.Н. Алгоритм обучения распознаванию образов "Кора". // В кн.: Алгоритмы обучения распознаванию образов. М., 1973, с. 110-115.

80. Журавлев Ю.И., Дмитриев А.Н., Кренделев Ф.П. О математических принципах классификации предметов и явлений. // Дискретный анализ, 1966, вып. 7, с. 3-15

81. Хант Э., Марин Док., Стоун Ф. Моделирования процесса формирования понятий на вычислительной машине. // М., Мир, 1970.

82. Горелик А.А., Скрипник В.А. Методы распознавания. // М., Высшая школа, 1977, 222с.

83. Голендер В.Е., Розенблит А.Б. Алгоритм выявления экспериментальных закономерностей и восстановление функциональной зависимости. / / Распознавание образов, 1974, с. 208-226.

84. Гаврилко В.П., Загоруйко П. Г. Универсальный алгоритм эмпирического предсказывания. // Вычислительные системы, 1975, вып. 55, с. 134-138.

85. Загоруйко П.Г. Эмпирическое предсказывание. // Новосибирск, Наука, 1979, 120 с.

86. Дюкова Е.В. Об одной параметрической модели алгоритмов распознавания типа "Кора". // М.: ВЦ АН СССР, сер. Сообщения по пркладной математике.

87. Дюкова Е.В. О сложности реализации некоторых процедур распознавания. // Ж. Вычислительная математика и математическая физика, 1987, т. 21, JV°1, с. 144-227.

88. Дюкова Е.В. Об одном алгоритме построения тупиковых тестов. // Сборник работ по дискретной математике, М.: ВЦ АН СССР, 1976, JV°1, с. 167-185

89. Дюкова Е.В. Асимптотически оптимальные тестовые алгоритмы в задачах распознавания. // Поблемы кибернетики, М.: Наука, 1982, JV°39, с. 165-199.

90. Е. A. Kirnos, Yu. P. Pyt'ev, E. V. Djukova Training the "Kora" Type Algorithms. // Pattern Recognition and Image Analysis. 2002, vol. 12, no. 1, pp. 19-24.

91. Кирнос Э.А., Пытпъев Ю.П. О параметрических алгоритмах распознавания // Вестник Московского Университета. Серия 3. Физика, Астрономия. 2003. JV°1, с. 16-18.

92. Е. A. Kirnos, Yu. P. Pyt'ev Training the algorithms based on logical decision functions. // Pattern Recognition and Image Analysis. 2004, vol. 14, no.3, pp. 394406.

93. Дюкова E. В. Алгоритмы распознавания типа YKopaY: сложность реализации и метрические свойства. // Распознавание, классификация, прогноз (матем. методы и их применение). М.: Наука, 1989. Вьтп.2. С. 99-125.

94. Журавлев Ю.И. Об алгебраическом подходе к решению задач распознавания или классификации. // Проблемы кибернетики, Наука, Москва, 1978, вып. 33, стр. 5-68.

95. Баскакова Л.В., Журавлев Ю.И. Модель распознающих алгоритмов с представительными наборами и системами опорных множеств. // Журн. вьтчисл. матем. и матем. физики. 1981. Т.21, е 5. С.1264-1275.