автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Разработка и применение эвристических методов и критериев выбора информативных признаков в распознавании

кандидата технических наук
Аберкулов, Шавкат Эпимович
город
Ташкент
год
1995
специальность ВАК РФ
05.13.01
Автореферат по информатике, вычислительной технике и управлению на тему «Разработка и применение эвристических методов и критериев выбора информативных признаков в распознавании»

Автореферат диссертации по теме "Разработка и применение эвристических методов и критериев выбора информативных признаков в распознавании"

АКАДЕМИЯ НАУК РЕСПУБЛИКИ УЗБЕКИСТАН НАУЧНО-ПРОИЗВОДСТВЕННОЕ ОБЪЕДИНЕНИЕ "КИБЕРНЕТИКА"

Р Г б ОА

На правах рукописи

АБЕРКУДОВ Шавкат Эпшмович

РАЗРАБОТКА, й ПРИМЕНЕНИЕ ЭВРИСТИЧЕСКИХ МЕТОДОВ И КРИТЕРИЕВ ШБОРА ИНФОРМАТИВНЫХ ПРИЗНАКОВ В РАСПОЗНАВАНИИ ОБРАЗОВ

Специальность 05.13.01 - Управление в технических системах

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Ташкент-1995

Работа выполнена в Научно-исследовательском институте системны исследований НПО "Кибернетика" АН РУз.

Научный руководитель: доктор технических наук,

профессор Ш.Х.Фазшюв

Официальные оппоненты:

доктор технических наук

Р.Хавдамав

кандидат технических наук, старший научный сотрудник

Н.Мирзаев

Ведущая организация: Ташкентский государственный университет

Защита состоится * СЛн1 тЛ ¿Г/? $ 1995 г. в № часов на заседании специализированного совета Д 015.12.21 в НПО "Кибернетика" АН РУз по адресу: 700143. Таакент, ул. Ф.Ходхаева, 34.

С диссертацией можно ознакомиться в библиотеке института кибернетики ШО "Кибернетика" АН РУз'."

Автореферат разослан ¿2-/С 1996 г.

Ученый секретарь специализкровавного совета,

доктор технических наук, профессор

З.З.Шаасиов

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность теш. Без широкого применения методов распознавания образов невозможно решение на современном уровне целого ряда задач автоматизации и управления различными процессами и объектами, поскольку применение этих методов позволяет внести строгость и четкость в решение указанных задач за счет привлечения неочевидных способов.рассуждения. В то же время в рамках исследований по распознаванию образов важное место занимает направление, связанное с созданием методов выбора информативных признаков для описания тех объектов, которые требуется идентифицировать, классифицировать или распознать. Формирование информативных описаний, обнаружение значимых признаков объектов предопределяет, в конечном итоге, успех всего исследования, позволяет достичь двух целей: повышения качества распознавания (за счет устранения "шумящих!* параметров) и сокращения вычислительных затрат (за счет уменьшения объема данных). Поэтому задача разработки и исследования эффективных методов и критериев выбора информативных признаков, обеспечивающих получение достаточно точных результатов при незначительных вычислительных затратах, является актуальной и имеет важное значение для расширения прикладных возможностей методов распознавания.

Цель и задачи исследования. Целью работы является создание для наиболее распространенных эвристических критериев информативности признаков соответствупдих методов, инструментальных средств формирования информативного описания объектов и их применение для решения практических задач распознавания образов.

Конкретными задачами работы являются:

- анализ, выбор и обоснование типа критериев информативности признаков, используемых в распознавании образов;

разработка и исследование методов и алгоритмов отбора информативных признаков;

- разработка способов совместного использования критериев информативности различных типов;

- создание программного обеспечения, реализующего предложенные в раооте методы и алгоритмы.

Методы исследования, в работе использованы методы математи-

ческого анализа, дискретной математики, искусственного интеллекта и обработки дсяных.

Научная новазна. В процессе решение поставленных задач получены следущив ноше научные результаты, которые выносятся на защиту:

1. Впервые предложен и исследован комбинированный критерий информативности признаков, построенный на базе известных типов эвристических критериев информативности.

2. Для эвристических критериев информативности фишеровского типа показано, что максимальное значение функционала, представляющего данный тип критериев, не возрастает с увеличением числа элементов в информативном наборе признаков.

3. Разработаны ноше метода быстрого поиска информативных признаков, обеспечивающие максимизацию выбранных эвристических критериев информативности, связанных с разделимостью заданных образов.

4. Предложена методика формирования исходной системы признаков и предварительной оценки их информативности, основанная на принципе вычислительного эксперимента и позволяющая специалисту предметной области использовать свои профессиональные знания на этапе интерпретации результатов и принятия решений.

Практическая данность работы. Практическая ценность полученных результатов заклшается в следупдем:

1. На основе предложенных методов и критериев реализованы вычислительные алгоритмы и создано программное обеспечение для решения практических задач формирования информативного описания объектов путем определения информативного набора признаков заданного объема из исходной системы признаков.

2. Разработанные программы выбора информативных признаков вклтены в состав системы анализа данных СИТО-ПК, что позволило существенным образом расширить круг задач, решаемых системой.

3. На основе реализованных методик и с использованием разработанных алгоритмов и программного обеспечения решена задача выбора существенных характеристик нити при проектировании ткани определенного состава и строения, а также проведено исследование информативных комплексов показателей свойств грунтов для выявления однородных групп геологических объектов.

Реа.Еззацпя а вкадрекзг результатов работа. Основные научные

результаты работы реализованы в ввде конкретных вычислительных алгоритмов и программ выбора информативных признаков при решении задач распознавания образов, а также в виде инструментальных средств поддержки обработки априорной информации при формировании исходного описания исследуемых объектов, явлений, процессов. Эти реализации получены в ходе исследований, выполненных в соответствии с планом научных работ НПО "Кибернетика", и использовались при выполнении НИР "Разработка принципов построения и организации функционирования экспертных систем обработки данных" (й госрегисчрации 01930002059) В 1993 г.

Результаты работы внедрены и используются в Маргиланском ПО авровнх тканей "Атлас" для прогнозирования качества готовой продукции (шелковых тканей) по физико-механическин свойствам сырья, выбранным с использованием методов определения информативных признаков.

Апробация работы. Материалы диссертации докладывались и обсуждались на пятой республиканской конференции "Перспективные информационные технологии в анализе изображений и распознавании образов" (г.Ташкент, сентябрь, 1992 г.), на Международной конференции "Интеллектуализация систем управления и обработки информации" (г.Ташкент, сентябрь, 1994 г.) и на научных семинарах в Ташкентском государственном техническом университете га. А.Р.Беруни и НИИ системных исследований НПО "Кибернетика" АН РУз

Публикации. По материалам проведенных исследований опубликовано 5 работ.

Структура а обьеи работы. Диссертационная работа состоит го введения, трех глав с выводами,списка использованной литературы, заключения и приложения. Диссертация изложена на НО страниц машинописного текста, список литература включает 55 наименований.

" ОСНОШОК СОДШШШЕ РАБОТУ

Во введения обоснована актуальность темы диссертации, сформулированы цели и задачи исследования, а также определены научная новизна, практическая ценность полученных результатов.

В первоЗ глава рассматриваются причины, обусловливавшие необходимость преобразования исходного пространства -признаков, анализируются наиболее известные н-этодп подобного преобразования,

призсдяЕде к снижению разкзрности этого пространства.

Под снкЕбты! размерности исходного пространства признаков обччно понимается переход от исходной системы признаков Х=(ха\...,х'р') к новой системе 2=(ъ'"включапдей меньшее число признаков, чем исходная система, т.е. р'<р. Новые признаки фор'лтуигся в виде некоторой функции от старых:

2=€00.

При этом решается оптимизационная задача, которая заключается в нахождении такой система признаков 2, что

О .С2з=саииС0},

Р

где о СО-заданная ыера информативности р'-мерной системы признаков 2, а у - класс допустимых преобразований исходных признаков (х"\х<2>,... ,х'р>). Эти преобразования могут быть линейными, нелинейными, дискретными, непрерывными, логическими.

Конкретный вид меры информативности Jp.CZ), а такге множество у зависят от типа задачи анализа данных и приводят к вполне определенному методу снижения размерности.

Результатом проведанного анализа подобных методов является вывод о том, что в настоящее время для определения информативных признаков используются различные алгоритмы, базирующиеся по существу на методе проб.п осибок, реализация которого требует значительных вычислительных затрат и не гарантирует при этом получения оптимального (в смысле заданного критерия информативности) набора признаков. Отсутствие четких рекомендация по практическому применению суцестаупдих методов н критериев, используема! для определения информативных признаков, затрудняет выбор их наилучшей комбинации для конкретной задачи. Поэтому в дальнейших исследованиях- на первый план должна выступать проблема создания для наиболее распространенных критериев кнфорглзтивност«: соот&этствуших методов, которые в отличие от существующих пэюдоз частичного перебора был:! бы более обоснованный! и^' {¿атеистически стропа®. - Ресенкэ ото'«! проблемы позволит значительно упростить процедуру выбора длл кошгретной задачи наийдае подходящей парк погода и ¡Григория: поиск такой пары будет ейязан лкаь с определенней подходящего критерия. , ,.

Другая проблема связала собственно с реализацией процедур формировании инфориатиишню описания объектов. Даго при наличии

отдолышх методов отбора ннформативнпх признаков практическая работа по их использования оказшзотся чорегйычэйно неэффективной без паллия косного инструментария поддоргки работа с даннимк и алгоритмами. Он должен обеспечивать быстрое формирование различных систем признаков из исходных данных, подключение разных программ обработки, эффективный анализ результатов.

Именно эти нерешенные проблемы н определили цель и задачи диссертационной работы (см. раздел "Общая характеристика работа11 настоящего автореферата).

Во второй ГХ2ЕЗ приводятся результата исследования эвристического критерия информативности фкперовского типа. Предлагается и исследуется комбинированный критерий информативности признаков, построенный на основе критериев двух типов - фишеровского и горэл1жовского. Кроме того, для исследованных критериев информативности предлагаются сбответствушие методы Еыбора информативных признаков. Í

В начале главы вводятся необходимые понятия и обозначения, а такге рассматриваются¡основные группы суцествукцих критериев информативности признаков.

Пусть задана обучающая ЕЫбдрка объектов

..........: сХ , р=1 Л*Г

. pl * р2 * Р*1^ Р

где х - вектор в Н-мерном признаковом пространстве;

X - иночество объектов р-го класса;

и - количество объектов в р-ом классе, р

Введем N-мерный вектор который определяет

различные подсистемы признаков в заданной исходной системе признаков: компоненты вектора равные единице, указывают на наличие, а нулевые компоненты - на отсутствие соответствукщих признаков в рассматриваемой подсистеме.

Определение. Назовем вектор Д. /-мощны;.!, если сумма компонентов aro равна t.

Для каадой подсистемы, заданной ¿-мощным вектором определено свое г-мерное признаковое пространство. В каздом из этих подпространств введем евклидову норму

Л

|x|4=/.¿XJ(xJ)3

Обозначил

Г 2 х., Р=ТТг,

ш р

где хр- усредненный объект класса X,,.

Введем величину среднего разброса объектов класса для

подсистема признаков, заданной вектором Я.:

/-.

V" -/¡г?!1»' - 'Л ■

р I -1

Оценим информативность подсистем признаков с помощью функционала

Р,Ч-*

1(Х)= --- (1)

Р=1 г

который является некоторым обобщением функционала фишеровского типа.

Для данного функционала подсистеиа признаков более .информативна, если значение функционала больше. Основным его достоинством является относительная простота. Представим функционал (1) в ввде: •

(а,М

1(\)=- , (2)

где а=(а1,а*,...,а"), Ь=(Ь1,Ьг.....Ьм) и-мерные векторы,

Г

^ = 1 ~ V*' 3=Т7Н;

ги

* = ОТ-

Р Ь р I =1

Коэффициенты а\ й-1 не зависят от Л. и их можно вычислить заранее. Для вычисления функционала 1(Л,) при фиксированном X. требуется порядка N операций.

Кроме критерия информативности вида (1) на практике широко используется также критерий горе литовского типа, который можно представить в виде функционала

1(Х) = ш1п_

Нг (X)

РЧ

где

р,ч=«,г (ух^х)

(3)

0р(Х) =

2 1 р ■ Р " , j , ТГЕГ=Т = Е < V "хрк >

р р и =1 К =1 Д =1

(4)

И (X) = рч '

Г Г ■ Е Е х' ( хр1

Ч ¿-1 к=» ¿=1

(5)

В Еыразешш (3) величина Крч(Х) характеризует среднеквадра-тическое расстояния между классами Хр и Хч в подпространтве признаков, определяемых; единичными компонентами Еектора . X. Величины бр(Х) и йч'(Х) характеризуют среднеквадратический разброс объектов внутри р-го и q-гo классов соответственно. Причем С^(Х) определяется аналогично вр(Х) в соответствии с выражением (4).

Выражения (4) и (5) можно привести к виду

где

С (А) = ГГьГд

)

И

- * ( V..31 >

(Ьр,Х)

N 1 1

= 2 Ъ X 1 =» р

» 1 } (а ,Х) = 2 ам X ,

а

РЧ

1

~аГ

ь

> 2 1 р р , 1 £ £ ( ~ ^ > '

Тогда функционал (3) примет вид 1(Х) = ш1п.

(аоД)

РЯ

=,'Г/(ЬР,Х) /(ЬЧ,Х)

р

В настоящей работе используется частный случай этого функционала, который имеет вид

(а,А)

КА.)=

г

(ЬДКсД)

Рассмотрим теперь функционал, представленный в ввде

(а,А.) (а,Х)2

1(Л.)= -+ - ' (6)

(Ъ,\) (Ь,Л)(с,Х)

где (.,.)-скалярное произведение двух векторов, а = ам, Ь = Ьр,

с = Ь .

ч

Критерий вида (6) является комбинированным, т.к. первое слагаемое является критерием информативности фишеровского' типа, а второе - горе литовского.

Идея комбинации известных типов критериев предложена Фазыловым Ш.Х., и Нишановым Д.Х. Она следует из того, что можно выписать функционалы, которые нельзя свести в чистом ввде ни к одному из известных типов функционалов, но их можно представить в виде комбинаций этих типов функционалов. Исследование и применение комбинированых критериев полезно как в теоретическом плане, так и в практическом. В первом случае интересным шляется определение' математических особенностей подобных критериев, отличащих их от известных типов критериев. В практическом плане комбинированные критерии полезны в том смысле, что их можно использовать в случаях, когда анализируемые данные- обладают сложной структурой, поэтому известные типы критериев не обеспечивает получение приемлемых результатов. ,

Рассмотренные критерии информативности признаков шляются эвристическими, так как базируются на интуитивном предположении о том, что с увеличением расстояния между классами улучшается их разделимость, поэтому "хорошими"- считаются те признаки, которые максимизируют это расстояние. .

В диссертционной работе' "рассматриваются эвристические критерии. Выбор и использование этих критериев был обусловлен следующими обстоятельствами.

Анализ распространенных критериев информативности признаков показывает, что наиболее обоснованным и естественным критерием является оценка ошибки классификации, поставленная в соответствие всем наборам признаков, сформированным на основе

исходной системы признаков. Однако реализация такого подхода к оценивании информативности признаков требует- большого объема вычислений. Другой группе критериев информативности, основанной на статистике и теории информации, присущи следующие недостатки: большинство критериев этой группы в параметрическом случае использовать неудобно (их расчеты требуют многочисленного интегрирования), а в непараметрическом - оценки вероятности ошибочной классификации получаются смещенными. В то же! время, рассмотрение эвристических критериев информативности признаков показывает, что они, в отличие от критериев, ¡.основанных на статистике и теории информации, являются более простыми. Причем, несмотря на простоту, эвристические критерийij в'- большинстве случаев являются оптимальными. Именно эти особенности обуславливают целесообразность использования их при решении практических задач распознавания.

Далее во второй главе исследуются критерии, представленные функционалами вида (I) и (6). В. частности показано, что относительно этих критериев имеет место следущее I утверждение.

J - ■■■■''•("■

Пусть Л - множество всех ¿-информативных векторов. Введем

функцию

FÍO » шах ЦК). (7)

XcAf

Для этой функции справедлива следующая Теорема 1. Функция F(0 не возрастает при увеличении аргумента г.

Исследованные критерии явились основой для создание методов выбора информативных признаков, реализация которых предполагает решение оптимизационной задачи

—♦ шх i' ■

• - (8) X с А*. Л,. .

где НХ) задается согласно выражениям (1) и (6), . опредэлявдиа соответствующий метод выбора информативных признаков. Например, один из этих методов, основанный на использовании комбинирован- : ного критерия информативности, построен следующим образом.! < Для решения задачи (8), где 1(А.) задается согласно' (б), вводятся вектор-функции ф4(Я) и <?,(*.). имогд-чв слодущий вид;

а Ь

Ф£а> = —---

(а, X) (Ь, X)

(9)

а с

Ф2(Х) =

(а, Л.) (с, X)

Здесь и в последующем предполагается, что компоненты векторов а, Ь, с строго больше нуля, т.е. аЪО, ьЬо, сЬо

(3=Т7Х>.

Пусть X и |1 - два ¿-информативных вектора, т.е. X, р. е Аг. Тогда справедлива следующая -

Теорема 2. 1(Х) < 1(ц) тогда," когда

(Ф4(Х), ц) > 0 (10)

и

<Фг(Х), Ц) > о. (II)

Обозначим через ф(Х) вектор-функцию

ф(Х) = ф ГХ) + ф_(Х) «= 2 —----------. (12)

2 (а, А.) (Ь, X) (с. X)

Пусть задан некоторый ¿-информативный вектор

Определим правило выбора нового вектора ц = (ц*,..., р") следующим образом. Упорядочим компоненты вектора

ф(Хс) = (Ф*(А.0). . т-е-

ф^(Хс) > ... > ф*м(Х0), ^ У ^ 1с * X. Компоненты вектора (I, соответствующие первым ¿-максимальным компонентам вектора ф(Х>, равны единице, остальные - кулю, т.е.

Ц, «О, Ц. - О,..., Щ - 0.

Чч : , «у.» ■'ы

Здесь для скавярлого произведения векторов ф(Х) и ц(Х) справедливо ; : ■■

(ф(Х), ц(х!) « «их '"с(ФА);! Т] с а'} ф(>.) и ц(Х) (13) Свойство. Для произвольного X с А/ имеет место

показывает, что они, в отличие от критериев, основанные на статистике и теории информации, являются болев простыми. Причем, несмотря на простоту, эвристические критерии в большинстве случаев являются оптимальными. Именно эта особенности обуславливают целесообразность использования их при решении практических задач распознавания.

4. Разработанные для критерия информативности фтеровского типа и комбинированного критерия соотЕэтствущие метода выбора информативных признаков позволяет? учитывать в процессе реализации особенности этих критериев, что обеспечивает получение более точных результатов при меньших вычислительных затратах по сравнению с существующими процедурами частичного перебора, являнцимися инвариантными относительно используемых критериев информативности.

5. Реализованная на основе принципа вычислительного эксперимента методика 'автоматизированной обработки таблиц экспериментальных даттнтдс позволяет пользователи - активно использовать свои профессиональные знания на этапе интерпретации результатов при формировании исходной системы . (априорного словаря) признаков для задачи распознавания образов и классификации. •

И последнее. Достоверность приведенных выводов и рекомендаций обусловлена корректным применением методов математического анализа и оптимизации, а также проверена и подтверждена результатами экспериментальных исследований и решений практических задач, приведенными, в частности, в третьей главе реферуемой работы.

Основные результаты диссертации опубликованы в следующих работах:

1. Фазылов Ш.Х., Аберкулов Ш.Э., Нишаяов А.Х. Двухкритериальный метод формирования информативного описания объектов в распознавании образов // Тезисы докл. конференции "Перспективные информационные технологии в анализе изображений и распознавании образов". - Ташкент. 1992. - С.21.,

Соискателем осуществлена формализация идеи комбинированного использования известных типов эвристических критериев информативности признаков.

2. Аберкулов Ш.Э. Особенности эвристических критериев информативности фшеровского типа // Тезисы докл. международной

конференции "Интеллектуализация систем управления к обработки информации". - Таакедт. 1934. - С.50-51.

3. Фазнлов Ш.Х., Аберкулов Ш.З., Нкаанов А.К. К:етод формирования информативного описания объектов распознавания с использованием комбинированного критерия оценки качества признаков // Узб. .гурнал "Проблемы информатики и энергетики". - й 5. -1994. - С. 13-16.

Соискателей осуществлено формализованное представление нового метода выбора информативных признаков на основе комбинированного критерия информативности.

4. Аберкулов Ш.Э. Об одном комбинированном критерии оценки качества признаков по обучащей выборке // В сб.: Вопросы кибернетики.- Ташкент. 1995. Вып. 151. - С. 34-35.

5. Аберкулов Ш.Э. Эзриотическио критерии выбора информативных признаков в распознавании образов. Ташкент. 1935. 24 с.

(Препринт/НПО '"Кибернетика" АН РУз, Р-Ю-153).

Шавка? Ззклоеэт АСередлонжнг C5.I3.03 "1ехшжэ тязкмлар'дда бош^арув" мутахасскслига суйгаэ техника фаплари номзода ил:,гай даразаскаи олзп '„"гул "Сивфларга азраташ масалаларвда ннформзтш бедгалар-пи танлапшшг эзрлсгак усул ва тзоялзрини яратаи ва гздбиц крглет'1 павзусидаги диссертация зшпшгаг клс^ача мазмуни.

Еер:мгэя утугв танлакмасига кура шформатав болгалзр •гушагп'ял тяялаа иасалзся одатда ете® та!фкбий булини мушаз булгап сп-п-мал комбинатор масэла куринкззда гфэдаланада, чувки ?у?рп оч'глш бврувчи алгорзгпшзр куп хисоблгаларни талаб г^илади ха.Щй шфзрматив белгалзркп танлсэдэ 'ТсЯдплзнаяадигся кавзуд усул ва мсзонларзи аналда куллэд у;уп . пки; тавсиллэрнянг яуклнга 1;арала5тган нзсалз учу я 1<уляй "усул-мозод" зуфтлипяш тзнлашш те~1:шлзпттрэг.и

Шу луанмоларни зпсобга олгак зодда днссвртзщшдз кеаг тар^алгзн гаформатиз незоялар учуп мое усуллзрнл одрет такл^тр кнлшпда. Бу усул' гфемап танлем усуллзридая фзркли уларов асосляигзн ва мзтемзт:-к тзрафдап датдаДдир. Бу Дпдогли 1;аралпГ5тгап масала учун ::ос колуичи "усул-мозон" луфтллпшя тяплгзни бпрмупча енгаллезтиради хс.чдэ бу гфйтликнп кзд'гргз не о зпгформатлв нозотпт твялмга колтмрлледк.

Д::ссортощ!ЗДа фстэр ва кембтациялззган гафорлатав эврпстгсс г.:егоилар учуп улзрнинг , хоссзлгрлгз асослзнгзн ходцз *!сехуд глотан таился усуллзрига нисОатаа анюфок патихаларни боруота усул такягф кзшшади. Бу факт тазгрибавкП ;1злаша натпзалари долда г.-пг.::'Л масалалартт ечлп б;1лзн тзекиушпзн.

АСОС1Л амзлий патияалар Мзрпыоядаш "Атлас" иэлзб 'ла^оркз бщяеяяаеада таЯЗр иахсулотларпияг (ппзвдан тукклган мато) сифз-та:; ф:гз1ж-!.;эхаагас зоссалэряга курз олдгадаа алгауи'З учуп г.оркЯ килпнгеа ва етлакье-овда.

Hze suau&ary of disaertati m work toy Aberkulov Shavkat Ashlmovich on the subjiect: "Working out and criteria ol Informative signs selection in distinguishing of the forms" submitted the thesis lor a Candidate's degree on a speciality 05.13.01 - "Control In technical systems".

The goal of the search oi informative sets of signs on given training selection, Is formulated as a rule in the form of the combinative optimization tasK, Its solution say be approxicated, as corresponding algoritms of search of exact solution need gread calculation expenditures due to their excessive nature Besides, lack of clear recoBEendation of practical application of lnlorcatlcn signs, mal:es selection of the best pair "metod-criteria" for particular task difficult.

Taking Into account these circumstances the approach is proposed directed at creation of the Bast widespread criteria inforaativene3s of the corrc3p3nding methods, which unlike lnvariance methods of partial excess would be more well-founded and cathecatically strict. Realisation of this approach conslde-rbly slugjllfies the procedure of selection for particular task of the cost suitable pairs "co tod-criteria", as the search of such pairs includes only reduces the selection suitable criteria of infonaativeness. for the criteria lnforasatlveness of the Fisher type and combination criteria, which are heuristic, the corresponding me tods of selection of informative signs are proposed in the dissertation work, that alio* to take Into account the peculiarities of their "oro" criteria In the procedure of realization, that prorldc.3 obtaining of the aost exact results with least calculation expenditures as coapired to the existing procedures of .parti&lexcesses. This fact is confirmed by the results of experimental Investigations and solutions of practical 'tasks.