автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Непараметрические методы обнаружения и оценивания сигналов и изображений
Автореферат диссертации по теме "Непараметрические методы обнаружения и оценивания сигналов и изображений"
На правах рукописи
Райфельд Михаил Анатольевич
НЕПАРАМЕТРИЧЕСКИЕ МЕТОДЫ ОБНАРУЖЕНИЯ И ОЦЕНИВАНИЯ СИГНАЛОВ И ИЗОБРАЖЕНИЙ
Специальность 05.13.17 - Теоретические основы информатики
1 7 ЛЕЯ 2009
АВТОРЕФЕРАТ диссертации на соискание ученой степени доктора технических наук
Новосибирск - 2009
003488953
Работа выполнена в Государственном образовательном учреждении высшего профессионального образования «Новосибирский государственный технический университет»
Научный консультант: доктор технических наук, профессор
Спектор Александр Аншелевич
Официальные оппоненты: доктор технических наук, профессор
Лбов Геннадий Сергеевич
доктор технических наук, профессор Рябко Борис Яковлевич
доктор физико-математических наук, профессор Воскобойников Юрий Евгеньевич
Ведущая организация: Институт автоматики и электрометрии СО РАН,
г. Новосибирск
Защита состоится 24 декабря 2009 г. в 14-00 часов на заседании диссертационного совета Д 212.173.06 при Новосибирском государственном техническом университете по адресу: 630092, г. Новосибирск 92, пр. К.Маркса, 20.
С диссертацией можно ознакомиться в библиотеке Новосибирского государственного технического университета
Автореферат разослан « ноября 2009 г.
Учёный секретарь •
диссертационного совета Чубич В.М.
Актуальность темы. Важной особенностью многих современных систем радиолокации и навигации, связи, робототехники является наличие в их составе блоков или подсистем, предназначенных для цифровой обработки информации. За последние годы круг прикладных задач, решаемых при помощи цифровой обработки сигналов и изображений, существенно расширился и включает в себя области от исследований в медицине, судебной экспертизе, геологии, связи до задач автономного обнаружения, навигации и классификации объектов в военном деле и охране стратегически важных объектов. Развитие цифровых систем обработки информации обусловлено с одной стороны необходимостью автоматизации переработки гигантских объемов информации, а с другой - прогрессом в области вычислительной техники, в частности, связанным с развитием сигнальных процессоров. Последнее обстоятельство обеспечивает базу для создания высокоэффективных информационных систем для широкого круга прикладных задач. Наряду с развитием вычислительных средств и технологий не менее важной составляющей для успешного решения таких задач является разработка эффективных в вычислительном плане алгоритмов обработки данных. Повышение степени автоматизации обработки информации часто требует создание алгоритмов, качественные характеристики которых были бы устойчивы по отношению к неизвестным (либо меняющимся в процессе наблюдений) параметрам и свойствам регистрируемых сигналов. Это свойство является особенно важным для автоматических систем, исключающих присутствие оператора, корректирующего параметры системы. Однако, создание устойчивых алгоритмов актуально и для систем, элементом которых является человек -оператор. Основной задачей здесь является снижение затрат высококвалифицированного, либо утомительного и непроизводительного человеческого труда и затрат на обучение обслуживающего систему персонала. В условиях априорной неопределённости разработчики сложных информационных комплексов достаточно часто идут по пути создания самообучающихся систем, либо систем, использующих обучение с учителем. В ряде случаев использование таких подходов затруднительно из-за значительных временных затрат, связанных с обучением (например, при использовании нейросетевых алгоритмов), либо вследствие значительной сложности алгоритмов самообучения (использующих, например, таксономию).
В работах Н.Винера, А.Н.Колмогорова, Б.Р.Левина, В.И.Тихонова, Г.Ван-Триса обосновывается статистический подход к синтезу алгоритмов обработки сигналов. Основные достоинства указанного подхода заключаются в следующем.
Во-первых, статистический подход выпукло отражает информационный аспект проблемы, что является весьма важным для решения задач, связанных с обнаружением, классификацией объектов, а также с оцениванием параметров сигналов. Понятия априорной
неопределённости в рамках данного подхода приобретает ясный математический смысл.
Во-вторых, применение данного подхода позволяет использовать соответствующий математический аппарат, разработанный для различных приложений и включающий в себя такие средства как, например, байесовская теория построения оценок и принятия решений, винеровская и калмановская фильтрация, теория непараметрического обнаружения и оценивания сигналов, теория марковских процессов и т.д. Теоретические основы указанных подходов изложены в работах Э.Лемана, Г.Ван-Триса, П.Хьюбера, Б.Р.Левина, Ю.Г.Сосулина, В.И.Тихонова, И.К.Кульмана, Р.Л.Стратановича.
В-третьих, статистический подход является достаточно универсальным средством для создания широкого класса моделей сигналов и изображений.
Одной из основных проблем статистического подхода является синтез алгоритмов обнаружения, оценивания или классификации в условиях априорной неопределенности (неполной информации о вероятностных свойствах модели). В теоретических работах по статистической обработке сигналов П.С.Акимова, В.А.Богдановича, П.А.Бакута, Б.Р.Левина, а также в работах по математической статистике Я.Гаека, Г.Дэйвида, Э.Лемана, П.Хьюбера излагаются способы построения эффективных алгоритмов в условиях априорной неопределённости. Одним из очевидных способов преодоления априорной неопределённости является использование процедуры обучения на основе регистрируемых наблюдений, восполняющей неполноту информации о статистических свойствах модели. Однако использование подобного подхода имеет ряд недостатков, связанных с необходимостью контролировать качество и устойчивость получаемых оценок, проблемой формирования обучающих выборок, возможностью использования подобных алгоритмов в режиме реального времени и увеличение их вычислительной сложности. В статистической теории проверки гипотез существует развитый аппарат, который позволяет синтезировать оптимальные решающие правила в условиях параметрической априорной неопределённости (когда тип распределения считается известным) без использования процедур обучения. Оптимизация при этом осуществляется по критерию Неймана — Пирсона, который обеспечивает максимальную вероятность правильного обнаружения при фиксированной вероятности ложной тревоги для любых значений неизвестных параметров. Правило, удовлетворяющее такому критерию, называется равномерно наиболее мощным (РНМ). Во многих задачах обработки сигналов и изображений (задачах с непараметрической априорной неопределённостью) вид распределения исходных наблюдений не известен, либо может меняться в процессе наблюдения. В этом случае обычно используют статистики, инвариантные к виду распределения исходных данных. Примером таких статистик являются, например, ранговые и знаковые статистики, статистики, основанные на превышающих наблюдениях. Использование подобных статистик применительно к ряду задач обработки сигналов и изображений
(сегментации изображений, построению непараметрических оценок некоторых параметров сигналов и изображений, обнаружению полезных сигналов в задачах обработки сейсмоакустических и речевых сигналов) позволило получать алгоритмы, эффективные как в плане качества, устойчивости, так и вычислительной сложности. Данное направление теории обработки сигналов составляет основное содержание работы.
Цель работы состоит в развитии непараметрического подхода направленном на повышения эффективности непараметрических критериев, разработки универсального подхода к построению непараметрических правил для альтернатив различного типа, адаптации ранговых алгоритмов обнаружения при работе с зависимыми наблюдениями, синтеза и исследования характеристик непараметрических алгоритмов обработки цифровых сигналов и изображений для решения ряда задач:
■ непараметрической сегментации полутоновых и цветных изображений, а также сегментации одномерных сигналов;
■ непараметрического оценивания параметров сигналов и изображений (общей площади занимаемой локальными объектами на изображении, степени зависимости исходных наблюдений сигналов и изображений);
■ непараметрического обнаружения и классификации в задачах обработки сейсмоакустических и речевых сигналов;
Практическое применение разработанных непараметрических алгоритмов позволяет существенно расширить область использования методов цифровой обработки в автономных системах, эксплуатируемых в реальных условиях, таких как охранные системы, системы автоматической регистрации буквенно-цифровой информации, системы кодирования речи, стабилизировать и гарантировать рабочие характеристики подобных систем при значительном разбросе статистических характеристик входных данных.
Методы исследований, используемые в работе, базируются на теории вероятностей и математической статистике. Использовались следующие статистические подходы к обработке сигналов: байесовские алгоритмы проверки гипотез и максимально - правдоподобного оценивания, алгоритмы принятия решений по критерию Неймана — Пирсона, теория марковских процессов, теория ранговых критериев, классические и авторегрессионные методы спектрального оценивания. Широко использовались методы статистического моделирования с применением математических пакетов МаЛаЬ и МаЛетайса. Проводились экспериментальные исследования синтезированных алгоритмов по реальным сигналам и изображениям. Работоспособность ряда алгоритмов была исследована в составе программного обеспечения реальных информационных систем.
Научная новизна диссертационной работы состоит в следующем:
■ разработан непараметрический подход к бинарной и многоуровневой сегментации полутоновых и цветных изображений и к сегментации одномерных сигналов. Получаемые на базе данного подхода алгоритмы работают в условиях априорной неопределённости относительно распределения наблюдений классов (требуются только
общие представления о различии соответствующих распределений). Указанные алгоритмы обеспечивают устойчивые характеристики сегментации;
" на основе непараметрического подхода к сегментации изображений синтезирован устойчивый алгоритм оценивания общей площади локальных, в том числе малоразмерных объектов;
■ предложен и развит метод, позволяющий увеличивать эффективность непараметрических критериев масштаба, основанный на предварительной группировке исходных данных;
■ предложен универсальный подход к построению непараметрических решающих правил для альтернатив различного вида, основанный на вычислении проекций эмпирических оценок плотностей вероятностей в функциональном базисе, построенном на основе оценок распределения исходных выборок при основной гипотезе. Решающие правила, построенные для этих проекций (являющихся, по существу, формой редукции исходных данных), обладают непараметрическим свойством и характеризуются высокой мощностью;
■ для зависимых наблюдений предложены и развиты методы описания статистической зависимости исходных наблюдений. Структура получаемых моделей сохраняет устойчивость при произвольных изменениях многомерных распределений исходных данных. Предложены методы оценивания параметров этих моделей и принципы их использования для стабилизации характеристик непараметрических обнаружителей (адаптации непараметрических обнаружителей).
Перечисленные выше подходы, методы и модели являются новыми и впервые были использованы при решении ряда прикладных задач.
Практическая ценность. Разрабатываемые подходы и методы обработки сигналов и изображений являются непараметрическими, что позволяет использовать их в условиях априорной неопределённости относительно вероятностных свойств сигналов. Указанное условие использования характерно для широкого круга автономных охранных систем, систем локации, навигации, связи, машинного зрения, предназначенных для эксплуатации в заранее неизвестных условиях. Достаточно часто при синтезе алгоритмов обработки сигналов намеренно делается предположение о наличии априорной неопределённости относительно распределения исходных данных, что может быть связано с возможным быстрым изменением статистических свойств поступающих данных и необходимостью стабилизации в указанных условиях изменчивости важнейших характеристик системы (таких, например, как вероятность ложной тревоги). Использование непараметрических подходов позволяет существенно снизить требования к настройке и развёртыванию системы, условиям её работы, исключить зависимость качества обработки от ряда внешних факторов (например, сезонных). Устойчивость качественных характеристик предложенных алгоритмов позволяет повысить степень автоматизации системы, достоверность и надёжность её функционирования.
Алгоритмы, синтезируемые на базе предлагаемых подходов, при определённых условиях являются достаточно простыми и не требуют использования операций с плавающей точкой. На практике было показано, что в ряде задач одномерной обработки сигналов они могут работать на базе таких популярных шестнадцатиразрядных сигнальных процессоров как Texas, BlackFin или Shark в реальном масштабе времени. Обработка видеоинформации, выполняемая в темпе поступления кадров, требует более мощных вычислителей. В частности, алгоритмы сегментации изображений были реализованы с использованием отечественного нейроматричного процессора NM6403 фирмы «Модуль».
Реализация результатов диссертации. Научные и практические результаты диссертации нашли применение в ряде хоздоговорных и госбюджетных НИР, выполненных в разные годы на кафедре Теоретических основ радиотехники Новосибирского Государственного Технического Университета: ТОР 01-02 (ООО КТЦ «Сигнал»), ТОР 02-03 (шифр «Форшлаг НВ»), ТОР 01-05 (шифр «Звезда»), ТОР 02-05 (шифр «Циркуль ПО»), ТОР 05/07 (ФГУП ПО «Север»), грант Российского фонда фундаментальных исследований №99-0100489, грант Министерства образования РФ №97-5-5.156. Результаты диссертации внедрены в следующих научных и научно-производственных организациях: фГУП ГосНИИПП (г. С.-Петербург), ФГУП ПО «Север» (г. Новосибирск), «Урал-СибНИИОС» (Новосибирский филиал ФГУП ПО «УОМЗ», г. Екатеринбург), ООО «Электроконнект» о чём имеются соответствующие акты внедрения.
Основные положения, выносимые на защиту:
■ метод непараметрической сегментации полутоновых изображений и многомерное развитие данного метода применительно к сегментации цветных изображений;
■ метод повышения мощности непараметрических критериев масштаба, основанный на процедуре предварительной группировки исходных данных;
■ подход к синтезу непараметрических алгоритмов, основанный на вычислении проекций оценки функции плотности вероятности в специальном функциональном базисе;
■ метод адаптации непараметрических алгоритмов в условиях зависимых наблюдений, основанный на оценивании устойчивых параметров зависимости.
Апробация работы. Результаты работы докладывались и обсуждались на 8 всероссийских и 7 международных конференциях, в том числе:
■ Российская научно-техническая конференция «Информатика и проблемы телекоммуникаций», г. Новосибирск, 1996 г.;
■ Международная научно-техническая конференция «Идентификация, измерение характеристик и имитация случайных сигналов»,
г. Новосибирск, 1993, 1997 гг.;
• 7-я Международная научно-техническая конференция «Актуальные проблемы электронного приборостроения АПЭП-2004», г. Новосибирск, 2004 г.;
■ 7-я Всероссийская научно-практическая конференция, г. Томск, 2005 г.;
■ 2-я Всероссийская научная конференция с международным участием «Проблемы развития и интеграции науки, профессионального образования и права в глобальном мире», г. Красноярск, 2007 г.;
■ 4-я научно-практической конференции «Электронные средства и системы управления», г. Томск, 2007 г.
Публикации.
Результаты, полученные в диссертации, опубликованы в 31 печатной работе, из них 11 - в центральных изданиях по списку ВАК, 5 - в сборниках научных трудов и 15 - в материалах трудов научно-технических конференций и семинаров.
Структура и объём работы. Диссертационная работа состоит из введения, шести глав, заключения, списка использованных источников и приложения. Объём работы составляет 362 страницы основного текста, включая 132 рисунка, 6 таблиц, списка использованных источников из 151 наименования на 16 страницах.
СОДЕРЖАНИЕ РАБОТЫ
Первая глава диссертации посвящена обзору алгоритмов, реализующих статистический подход к обработке сигналов и изображений, используемых для решения задач обнаружения, оценивания и классификации. Задачи обработки данных с целью извлечения полезной информации достаточно условно могут быть разделены на задачи первичной и вторичной обработки. При решении задач первой группе обычно используют методы, позволяющие облегчить извлечение полезной информации из регистрируемых данных при наличии шумов и помех в результате их машинного или операторного анализа. К указанным методам относятся фильтрация сигналов из шума, уменьшение избыточности исходных данных, выделение и подчёркивание информационных признаков. Ко второй группе проблем относят проблемы, непосредственно касающиеся извлечения информации из получаемых данных. Это задачи двух и многоальтернативного обнаружения полезного сигнала, оценивания каких-либо параметров регистрируемых сигналов, классификации и сегментации данных. При использовании указанного подхода немаловажным условием решения перечисленных выше задач является наличие априорной информации о вероятностных свойствах обрабатываемых сигналов (его многомерном распределении). В соответствии с полнотой априорной информации о регистрируемых данных используются либо байесовские подходы к обнаружению и оцениванию, позволяющие добиться наилучших качественных характеристик алгоритмов (при наличии полной априорной
информации), либо устойчивые методы, обладающие работоспособностью и обеспечивающие заявленные рабочие характеристики в условиях априорной неопределённости заданного типа (параметрической или непараметрической). Приводимые в диссертации примеры реальных задач свидетельствуют об актуальности непараметрического подхода к обработке сигналов.
При решении ряда прикладных задач требуется обнаруживать полезный сигнал, дисперсия которого отличается от дисперсии помехи, на фоне которой он наблюдается. Отмечено, что к данной постановке приводится достаточно много практических задач обнаружения полезного сигнала, спектральные свойства или модель формирования которого отличаются от свойств окрашенного шума наблюдения. Используемый в этом случае на первом этапе обработки выбеливающий или предсказывающий фильтр помехи, передаточная функция которого оцениваются по выборкам помехи в соответствии с критерием минимума среднего квадрата ошибки, приводит к превращению последовательности её отсчетов в процесс, близкий к белому шуму. Полезный сигнал при этом искажается, но не выбеливается полностью (из-за различия моделей формирования полезного сигнала и помехи) и его дисперсия превышает дисперсию выбеленной помехи. Достаточно часто выбеленная помеха имеет вид случайного импульсного процесса. Распределение отсчётов такого процесса не является гауссовским. Оно, вообще говоря, не известно и может меняться с течением времени. Не известно также распределение отсчётов полезного сигнала, обработанного выбеливающим фильтром помехи. Если обнаружитель полезного сигнала оптимизируется по критерию Неймана -Пирсона, то в условиях непараметрической априорной неопределённости оправданным подходом может считаться применение непараметрического алгоритма.
В системах, использующих изображения в качестве источника информации (например, в системах машинного зрения), а также в современных системах телевидения требуется их представление в компактном виде. Такое представление часто оказывается возможным благодаря тому, что большинство реальных изображений состоит из областей, однородных в некотором смысле. Области изображений могут быть однородны по яркости, цвету, текстуре и т.д. Задача заключается в выделении и разметке областей по заданным признакам или сегментации изображения в условиях наличия шума наблюдения с неизвестным распределением. В большинстве приложений задачу сегментации изображений рассматривают с позиции классификации точек изображения. Существует строгая математическая теория решения задачи классификации наблюдений, основанная на оптимальном байесовском подходе, минимизирующем средний риск или средние потери (если в распоряжении исследователя имеются априорные вероятности классов и плотности вероятности признаков, условные по классам). Однако в ряде работ констатируется, что применительно к обработке изображений задача
классификации далека от общего решения и не имеет единого подхода. Данное утверждение обычно объясняют неэффективностью (в вычислительном плане) формальной последовательности процедур оптимальной обработки данных, особенностью исходных наблюдений, представляющих собой связную двумерную структуру, а также неполнотой априорной информации о распределении этих наблюдений. В зависимости от объёма и характера априорной информации возможны различные варианты построения алгоритмов классификации: подходы, связанные с использованием кластерного анализа, процедуры с обучением, самообучением, параметрические и непараметрические методы, методы структурного подхода. Естественно, что отсутствие полного описания вероятностной структуры задачи усложняет её решение и особенно анализ качественных характеристик синтезируемых классификаторов. В ряде случаев априорная информация о виде распределения наблюдений классов отсутствует. Имеется лишь информация о каких-либо различиях этих распределений, например, о наличии сдвига или масштабных различий. В этих случаях обоснованным является ранговый подход к сегментации изображений.
При решении ряда прикладных задач, связанных с использованием сигналов и изображений в качестве одной из форм представления информации (обычно в системах обслуживаемых оператором, а также, например, в системах телевизионного вещания), требуется повышать «визуальное» качество регистрируемых сигналов и изображений путём фильтрации их из шума. К настоящему времени известно достаточно много методов фильтрации изображений, полученных, в основном, распространением методов фильтрации одномерных сигналов на случай двумерных наблюдений. Существующее разнообразие подходов связано с множеством математических моделей сигналов. Наиболее обширным и изученным является класс линейных алгоритмов, ориентированных в основном на гауссовскую модель сигнала и шума. Необходимо отметить максимальную эффективность (в том числе вычислительную) линейных алгоритмов в указанных условиях. Однако в работе П.Хьюбера «Робастность в статистике» было показано, что уже при незначительном загрязнении выборки аномальными наблюдениями эффективность линейных правил существенно снижается. В этих условиях становится оправданным использование при фильтрации непараметрических оценок: £ - оценки (медиана выборки является её частным случаем), М- оценки Хьюбера, а также /? -оценки Ходжеса - Лемана. Указанное множество оценок реализует два наиболее распространённых подхода к понятию робастного оценивания: подход на основе функции влияния Хампеля и модель е - загрязнения Хьюбера. На основании материала, изложенного в первой главе диссертации, делается вывод о достаточно широких областях практического применения непараметрических методов в различных задачах обработки сигналов и изображений.
Вторая глава диссертации посвящена разработке и исследованию способов повышения эффективности непараметрических критериев масштабных различий. В начале второй главы приводится общая структурная схема системы обнаружения сигналов на фоне окрашенного шума, использующая в своём составе блок непараметрической обработки. С учётом того, что непараметрическая обработка обеспечивает стабильные характеристики обнаружения при условии независимости отсчётов помехи, одним из возможных решений, позволяющих добиться указанной стабилизации, является «выбеливание» окрашенной помехи с помощью линейного фильтра. Известно, как можно построить такой фильтр для
помехи, задаваемой моделью линейного предсказания вида:
р
у,- = 2>*л--* +£•> (О
£=1
где - отсчет порождающего белого шума, УпУ<-1,~-,У,-р - отсчеты помехи,
ак,к = 1 ,р - весовые коэффициенты. При этом величину :
р
У,- =^акУ:-к (2)
А = 1
можно рассматривать как экстраполяционную оценку процесса у,-. С учётом выражений (1),(2) трансверсальный выбеливающий фильтр должен иметь передаточную функцию вида:
Ка(2) = \~а1г-1-а2г-2-...-ар2-г. (3)
Как показано в работе С.Л. Марпла мл. «Цифровой спектральный анализ и его приложения», оптимальные с точки зрения критерия минимума дисперсии ошибки предсказания £ коэффициенты ак выбеливающего фильтра (коэффициенты линейного предсказания) находятся из системы линейных уравнений:
' Д/0)а1+Л,(-1)а2+.....+ Яу(1-р)ар=Яу(\)
Яу(1)а, + Яу(0)а2 +......+ Яу{2- р)ар =Яу(2)
ЯУ(Р ~ 1М +Ку(Р~ 2)а2 +.... + Я,(0)ар = Яу(р) В системе линейных уравнений (4) Яу{к) - оценка корреляционной функции помехи у. Эта оценка находится на основе наблюдений выборки помехи У = {У1 >У2>••••>Л,) - Использование линейного выбеливающего фильтра (3) с постоянными коэффициентами предполагает стационарность модели помехи. Реальные помехи не являются, однако, стационарными. Наиболее характерным и неприятным является случай загрязнения стационарной помехи, задаваемой моделью (1), отсчётами быстрого импульсного случайного процесса. Если при оценивании коэффициентов ак в выборку ¥ = {У1>У2>-">Уп} попадут отсчёты такого процесса, то использование
полученного на их основе фильтра приведёт к неполному выбеливанию помехи и увеличению по сравнению с заданной вероятности ложной тревоги непараметрического обнаружителя. Для устранения данной проблемы в диссертации предлагается для построения выбеливающего фильтра использовать т неперекрывающихся выборок помехи
Yj ={ylJJy2J.....,у„у}, ] = 1,/и, и на их основании строить т наборов
коэффициентов <агАу,Аг = \,р,} -\,т, решая систему линейных уравнений (4). При этом экстраполяционная оценка процесса у1 строится согласно правилу:
т
У- = ЪУча1' (5)
/=1
р _
где уу = 7 = . Коэффициенты оцениваются по выборке с
А=1
использованием критерия минимальной дисперсии ошибки предсказания Е,. В диссертации показано, что оптимальные коэффициенты'находятся системы линейных уравнений:
' Ьиа{+Ьпа2+.....+ Ьыат =с,
Ь2Ха 1 + Ь22а2 +.....+ Ъ2тат = с2
Рт\а\ + ьтга2 +.....+ Ьттат = ст
р р р
где Ь]1 = су = ~^ак]Ку(к). Использование алгоритма (6)
1 к=1 для нахождения коэффициентов фильтра (3) позволило повысить качество выбеливания сигнала по сравнению с получаемым при традиционном способе расчёта коэффициентов выбеливания (4) при наличии импульсной помехи. Качество выбеливания оценивалось в результате сравнения корреляционных функций выбеленного тем или другим способом сигнала.
В подразделе 2.2. приводятся известные непараметрические двухвыборочные критерии масштаба (критерий, основанный на сумме квадратов рангов, Ансари-Брэдли и критерии превышений). Данные тесты используются для построения обнаружителей Неймана-Пирсона, когда распределения наблюдений при гипотезе #0 - Р0(х) и альтернативе Нх -Р\(х) удовлетворяют уравнению:
= (/,-*), (7)
где /л - масштабный множитель (/¿>1). В результате сравнения характеристик указанных критериев с критерием, использующим статистику
т
суммы квадратов наблюдений (2 = ]Гл:(2), при гауссовском распределении
¡=1
исходных наблюдений было показано, что при прочих равных условиях все
непараметрические критерии имеют соизмеримую мощность и существенно проигрывают оптимальному (при гауссовском распределении) критерию, использующему для принятия решения статистику 2. При этом отмечается, что критерии превышений существенно выигрывают в плане вычислительной эффективности у ранговых критериев, поскольку не требуют вычислений ранга. Статистики Тх или Т2 этих критериев находятся по правилам:
ш т п
¡ = 1 ¿ = 1 у=1
Утт<х1<Утах „ \ °> Хт,п < У, < *тах где У{- — ^ , т]: = < .
i1' (л < ^тт ) v (х, > утах ) [-1, (у, < хтт ) v (у, > хтах )
В формулах (8) XI - отсчет рабочей выборки X, состоящей из т элементов X = {хих2,...хт}; у1 - отсчет опорной выборки У, состоящей из п элементов V = \У\>Уг,~Уп}\ ^¡„^тах^тт.^тах- СООТВеТСТВвННО МИНИМалЬНЫЙ И максимальный элементы рабочей и опорной выборок; у, т] — индикаторы превышений, V - знак логического объединения (или).
Очевидно, что проигрыш непараметрических алгоритмов параметрическому критерию связан с невозможностью использования дополнительной информации о виде распределения (вследствие предполагаемого отсутствия информации данного рода). Эту информацию можно получить, например, на основе дополнительной обучающей выборки и в каком-то виде использовать в непараметрическом критерии для увеличения его эффективности. Важной проблемой при этом является сохранение непараметрического свойства критерия. Подобный подход, основанный на метках, был развит (применительно к ранговым критериям) в работах Я.Гаека. Предполагалось, что вид распределения известен заранее, метки рассчитывались для распределения именно этого вида. В диссертации для увеличения эффективности критериев превышений было предложено использовать предварительную пороговую группировку данных, «согласованную» с распределением исходных наблюдений. Группировка исходных отсчетов опорной и рабочей выборок по уровню осуществляется с помощью специальной пороговой процедуры. Далее вычисляется статистика превышений Т для каждой из соответствующих групп отсчетов рабочей и опорной выборок. Решение принимается на основе полученного набора статистик превышения. Пороговая процедура задаётся с помощью функции 0(2,{/). Здесь Z = {21,г2,....г/} -выборка отсчетов; 0 = {и1,и2,-мк_х} - набор порогов, обеспечивающий разбиение наблюдений опорной и рабочей выборок на к групп. После группировки непараметрический тест применяется к соответствующим группам наблюдений опорной и рабочей выборок. В общем случае формируются к частичных статистик превышений 'Г={ Тх,Т2....,Тк}, рассчитанных для выборок Х1,У1, Х2,У2,...,Хк,У/с.
Принятие бинарного решения может осуществляться по критерию Неймана-Пирсона на основе одного из следующих способов:
■ к - мерное пространство статистик Г разбивается на две области. Одна из областей содержит точки, соответствующие Н0, другая - Н1. Проверяется принадлежность векторного наблюдения {Тх,Т2,...,Тк} указанным областям.
■ на основе к - мерного вектора {Тх,Т2,...,Тк} формируется какая-
к
нибудь скалярная статистика, например: 7$ =2 <3,7}, которая затем
1=1
сравнивается порогом обнаружения С. При гипотезе Н0 соответствующие группы опорной и рабочей выборок Х1, У1 состоят из наблюдений, характеризующихся одной и той же плотностью вероятности, поэтому статистики непараметрического критерия, рассчитанные для каждой из групп наблюдений, обладают непараметрическим свойством (при фиксированных размерах частичных выборок). Так, например, распределение статистики 7} (условное по отношению к размерам частичных рабочей и опорной выборок «,-,«,) при гипотезе 7'(7]///0)/я;-,п,), не зависит от вида исходного распределения наблюдений. Что касается размеров частичных выборок т1,т2,..,тк,пх,п2,...,пк, то они, вообще говоря, будут случайными, а их совместное распределение подчиняется полиномиальному закону, параметры которого зависят от исходных размеров выборок X и У (т и п, соответственно), порогов группировки 0 и распределения исходных наблюдений. Безусловное распределение частичной непараметрической статистики 7] при гипотезе - Р(7]- /Н0) можно найти усреднением:
т п
Р(Т,/Н0)= X / "о.ВД)' С'-С Ро,! (I - Р(а)'П+"~т', (9)
т^Оп^О
где рй1 - вероятность попадания исходного наблюдения в г - ю группу при
гипотезе, которая определяется как: р0; = |р0(х)с&. Таким образом,
"ы
распределение Р^/Н^) опосредовано (через вероятность р0/) будет зависеть от распределения исходных наблюдений при гипотезе IIй. Для стабилизации вероятности ложной тревоги а на заданном уровне можно предварительно оценивать вероятность попадания наблюдения в / - ю группу Р(и при гипотезе Н0 с помощью специальной обучающей выборки, не содержащей полезного сигнала, а затем рассчитывать распределение Р(7] /Я0) по формуле (9). При этом р0/ =Ь1)Ь, где Ь- общий объём обучающей выборки, а Ь, - количество элементов обучающей выборки, попавших в /-ю группу. Другой подход основан на принципе минимакса.
Поскольку вероятность ложной тревоги а зависит от распределения исходных наблюдений только через вероятности Ро\>Ро2>—-Рок> то можно указать такой их набор, при котором распределение Р(Т5/Н0), где к
Т5 = , обладает наиболее «тяжёлыми хвостами». При этом получается
1=1
наибольшее значение вероятности ложной тревоги а . Третий из предлагаемых подходов связан с использованием в качестве порогов группировки и, порядковых статистик (и1 = вычисляемых на
основе наблюдений опорной выборки У, либо дополнительной обучающей выборки. В этом случае сохраняется непараметрическое свойство критерия.
Распределение решающей статистики Т5 при гипотезе - Р{Т3 / Н0) находится по формуле, полученной в диссертации:
ДГ5/Я0)=£ £Х Е- £ ^Р{Т31Н0,т{,т2,..,тк_х,щ,п2,..,пк^
т, -0 п, =0т2 -0 п2 =0 тк_ !=0 пк_ ]=0
/га! л!
х-х
V г,т1+"| г,т2+"2 пт*-1+л*-'П - П -П - - П ^И+Л-('П1+Л1Ит2+И2Ь..-<т»-|+Л1-|)
ХА)1 Р()2 ••■•Рои ^01 Л)2 ••■• Рок-\)
(10)
где Р(Т5/Н0,т1,т2,..,тк,п1,п2,..,пк) =
(Ъ-^аЫ/щ
= £ ^ ^ " С^2(И2"1} <>И*(И*"1) (11) Г2 гнт* (ъ-МУч+г А С^;2 (Г2+2) СТ£ (Тк+ 2)
т-ьамъ+ц ^ 1
Анализ выражения (10) показывает, что при одном и том же наборе коэффициентов {аиа2,...,ак} максимальное значение а* получается при равных вероятностях рш, т.е. когда р01 = р02 =... = рак = 1/А: - это и есть
наихудший случай. Таким образом, максимально-возможное значение а (для данного вектора весовых коэффициентов {а1,а2,.-,ак}) с учетом выражения (10) может быть определено при помощи выражения, также найденного в диссертации:
^Утах
а = £Р(Г5/Я0) =
Тз=СТз
Т^Г Е ЕЕ ЕЕ- Е 2^Р(Т3/Н0,т1,пг2,..,тк_ип1,п2,..,пк_1)х
к Т8=стзт^=0п{=0т2=0п2=0 «4-1=°
т\гй
т^т21....ткА\(т-т^-т2-...-тк^)1щ{п2\....пк_1[(п-п]-п2-...-пк_х)\
(12)
где Р(Т5 /Н0,т1,т2,..,тк,п1,п2,:,пк) вычисляется по формуле (11). Как показали исследования, проведённые в диссертационной работе рациональный выбор порогов 0Х группировки наблюдений и весовых коэффициентов {ах,а2,...,ак} при построении непараметрических статистик, чувствительных к контрасту дисперсий, может приводить к увеличению эффективности критериев масштаба, основанных на этих статистиках. Подход к выбору коэффициентов {а1,а2,...,ак} заключается в том, чтобы присваивать локальным статистикам групп, вносящим больший вклад в результирующую мощность правила, большие веса. В диссертации было показано, что оптимальным для г - группы является вес а,-, который рассчитывается как отношение вероятностей попадания в эту группу исходных наблюдений при гипотезе и альтернативе, т.е. а1 = ри / р0,. При непараметрической априорной неопределённости, когда нахождение оптимальных значений ане представляется возможным, к неплохим результатам при альтернативах масштаба приводит назначение коэффициентов <я, в виде последовательности линейно нарастающих значений: {1,2,..., А:}. Рассмотрим далее подход, основанный на порядковых статистиках. Сущность данного подхода заключается в назначении в качестве порогов группировки «, порядковых статистик у'^, вычисляемых на основе опорной выборки наблюдений У. При этом в качестве вектора порогов группировки можно использовать, например, следующий набор порогов
О = У1+Л\...,/1+('-1)д)У"-(*-1)Л),...,/"-А),/и)} , где Д - целое число, удовлетворяющее неравенству 1 < Д < [(и — 2) / 2 /(к -1)]. Важным частным случаем является значение Д = 1, приводящее к следующему вектору порогов:
ь в данном
случае статистика 7} г- группы имеет смысл количества наблюдений из рабочей выборки X, попавших в интервалы и ,
сформированные на основе наблюдений опорной выборки У. При гипотезе Н0 распределение статистики Т3 не зависит от распределения исходных наблюдений и определяется выражением:
-Z^/a,+m+v--(Tk+ih*—;——.
cLn т2 т} n '=2 (г^/ч+на-^))
/7 i=2 m+n-2k
(13)
Подход к выбору коэффициентов {а1,а2>---.^} остаётся тем же, что и описанный выше. Он заключается в том, чтобы присваивать статистикам групп 7}, вносящим больший вклад в результирующую мощность правила и меньший вклад в результирующую вероятность ложной тревоги большие веса.
В третьей главе диссертации предложен универсальный подход к синтезу непараметрических критериев при произвольных альтернативах. Данный подход основан на использовании оценок проекций. Он позволяет:
■ синтезировать эффективную непараметрическую процедуру для альтернативы заданного типа;
■ достаточно просто использовать дополнительную информацию о вероятностных свойствах входных данных для увеличения эффективности правила.
Основная идея данного подхода заключается в следующем. Пусть распределения наблюдений при гипотезе Н0 и альтернативе Н1 описываются плотностями Р0(х) и Л, (х) соответственно. Задаваясь функциональным базисом, построенным на основе функций, производных от Р0{х) и F0{x), можно обеспечить одинаковое представление плотности Р0(х) в данном базисе вне зависимости от конкретного вида этой плотности. В соответствии с вышесказанным в качестве базисных функций предложено использовать базисные функции вида:
q>t(x) = Р1(х)Щх)Л = 0,1,2,..,m. (14)
Легко убедиться, что базис, основанный на функциях (14), не является ортогональным. Эти функции лишь линейно независимы. Векторы проекций функций ~JPq(x) и ТВД, определяемых плотностями Р0(х) и Pi(x), соответствующих гипотезе Н0 и альтернативе Я] на этот базис обозначим как Û0 = {м00,ы01,...,м0т} и 0х ={м10,мп,...,ы1от}. Принятие решений основывается на измерении расстояния между полученным вектором проекций О и векторами проекций U0 и Ul. Необходимо отметить, что вектор проекций U0 не зависит от вида распределения исходных наблюдений. Наиболее простая процедура нахождения расстояния для векторов Un и £/, может быть представлена в ортонормальном базисе. Используя процедуру Грама — Шмидта, можно привести базис (14) к ортонормальному. При этом получается следующая система ортонормапьных базисных функций ^¿(х): ц/0(х) = -JPQ(x), ц/,(х) = ^3P0(x)(2F0(x)-l),
t//2(x) = л/зад (6F02 (x) - 6F0 (x) +1),
щ (x) = *j7p0(x)(20fq (x) - 30F02 (x) +12f0 (x) -1), (15)
Как отмечалось выше, значение вектора проекций при гипотезе Нй не зависит от вида функции распределения наблюдений и в базисе, заданном функциями (15), имеет вид: Ü = {1,0,0,0,0,....}. При решении статистических задач с непараметрической неопределённостью, когда функции распределения неизвестны, задача заключается в получении оценки вектора U и проверки статистических гипотез о его принадлежности к Н0 или Нх .
Главным вопросом является технология использования исходных данных при вычислении проекций, поскольку в распоряжении обнаружителя имеются лишь выборки наблюдений, на основе которых необходимо принимать решение. Один из возможных способов заключается в построении по т наблюдениям рабочей выборки X оценки функции ~JP{x) , а на основе п наблюдений опорной выборки Y- оценок базисных функций y/t{х). Далее находятся оценки проекций:
СО _
й, = [¡)i{x-Y)-[p{x\X)dx. (16)
—со
Очевидно, что значения оценок проекций м, являются случайными величинами, поскольку оценки Р(х\Х) и i//, (,r; Y) являются функциями наблюдений. Данный подход имеет одну привлекательную особенность. Допустим, что с некоторой вероятностью ß можно считать распределение опорной выборки F0(x) известным, а с вероятностью 1 -ß полагаться на оценку F0(x\Y), построенную по опорной выборке Y. В этом случае значение функции распределения в точке х можно оценивать как ßF0(x) + (\-ß)F0(x\Y). При этом уменьшается дисперсия оценок проекций и, следовательно, увеличивается эффективность алгоритма различения гипотез. Указанным способом дополнительная информация о распределениях может учитываться при синтезе решающего правила. Для получения непараметрической оценки плотности вероятности обычно используются методы окон Парзена или к ближайших соседей. Распределение оценки проекции, вычисляемой в соответствии с выражением (16), зависит, вообще говоря, от распределения исходных наблюдений. В первом приближении её распределение можно считать гауссовским с математическим ожиданием равным значению проекции:
j>/>i(x;Y)^P(x;X)dx
(17)
На основе теоремы Буняковского - Шварца при гипотезе Я0 можно оценить верхнюю границу дисперсии оценки проекции. При этом:
2 <2 \2 — 2 И.?—1, У = 0 /10,
Поскольку = то: ^ <6,. £
у=0А=0 у=0А=О^ + Л +-1
где , - соответственно коэффициенты при ^/(х) и у[Р0{х) в /'-й
функции базиса (15). Из выражения (18) следует, что данная граница оценки максимальной дисперсии проекции наблюдений при гипотезе является непараметрической, так как в эту формулу не входит выражение для распределения исходных наблюдений. Данный факт можно использовать для стабилизации вероятности ложной тревоги обнаружителя. Было показано, что принятие бинарного решения по критерию Неймана-Пирсона может осуществляться в результате сравнения с порогом решающей статистики (?(С0, представляющей собой сумму проекций, взятых с некоторыми весами:
т
<?(</) = (19)
/=0
Оптимальный выбор коэффициентов максимизирующий вероятность правильного обнаружения правила, зависит от типа альтернативы (сдвиг, масштаб, масштаб и сдвиг) и вида распределения наблюдений. Выше было отмечено, что при гипотезе //0 средние значения проекций, отличных от нулевой, равны нулю при любом распределении исходных наблюдений. Поэтому при непараметрической априорной неопределённости можно использовать статистики проекций, зависящие только от типа альтернативы. Например, в случае альтернативы сдвига предлагается использовать статистику вида:
С, (¿7) = |и,|+|и2| + .... + \ит\. (20)
При альтернативе масштаба в случае симметричного распределения эффективна статистика:
02Ф) = \и2\ + |н4| +... + \ит\. (21)
Четвёртая глава диссертации посвящена вопросам адаптации непараметрических алгоритмов при работе с зависимыми наблюдениями. Реальные помехи, на фоне которых осуществляется обнаружение полезного сигнала в системах радиолокации, навигации, связи являются процессами с зависимыми отсчетами. Таким образом, использование ранговых обнаружителей полезного сигнала (распределение которого, например, отличается сдвигом от распределения помехи) по критерию Неймана -Пирсона в условиях подобных помех невозможно, т.к. не удастся стабилизировать вероятность ложной тревоги. Тем не менее, некоторые полезные свойства ранговых статистик, например, их инвариантность к
монотонным нелинейным преобразованиям, заставляют искать возможности стабилизации вероятности ложной тревоги и в условиях зависимости наблюдений. В работах П.С.Акимова предлагался подход к преодолению указанной проблемы, предполагающий адаптацию рангового алгоритма принятия решения по обучающей выборке наблюдений, содержащей лишь зависимые отсчеты помехи. Адаптация решающего правила сводится к коррекции (в сторону ужесточения по сравнению со случаем независимых отсчетов) порога принятия решения с целью сохранения на заданном уровне вероятности ложной тревоги непараметрического правила. Для эффективной коррекции порога необходимо получение распределения ранговой статистики Б (К) при гипотезе II0, которое определяется степенью зависимости исходных наблюдений. Поскольку в условиях непараметрической априорной неопределённости в распоряжении наблюдателя имеется только обучающая выборка данных, то речь может идти лишь об оценке распределения ранговой статистики. Данная оценка должна обладать рядом полезных качеств:
■ Оценка должна достаточно точно описывать распределение ранговой статистики 3(Я) не только в «средней части», но и на «хвостах», поскольку типовые значения вероятности ложной тревоги могут составлять величины порядка Ю-5—Ю-8. Использование в качестве аппроксимации реального распределения ранговой статистики распределения с заведомо более тяжелыми «хвостами», хотя и гарантирует вероятность ложной тревоги а меньшую заданной а, но при этом значительно снижает мощность правила £> в результате завышения порога обнаружения. Низкие значения вероятности ложной тревоги ограничивают возможность использования статистического моделирования для оценки порога обнаружения, необходимого для обеспечения заданной вероятности ложной тревоги. Временные затраты на проведение подобного статистического эксперимента, а также объем обучающей выборки оказываются недопустимо велики. Необходимо учитывать также возможную нестационарность получаемых данных.
■ Поскольку вид распределения исходных наблюдений в задачах, использующих непараметрические подходы, обычно неизвестен, либо может меняться в процессе наблюдения, алгоритм получения оценки распределения ранговой статистики должен обладать определенной устойчивостью к данным условиям наблюдения.
Основной подход, используемый при адаптации ранговых критериев и развиваемый в диссертации, заключается в построении параметрической оценки распределения ранговой статистики при основной гипотезе.
Вводимый для описания зависимости наблюдаемых данных параметр распределения определяется степенью зависимости исходных наблюдений. Исходя из указанных выше качеств оценки распределения ранговой
статистики Р0(5(Л)), для её получения в диссертации предложен следующий эвристический подход.
Во-первых, вводится показатель «степени зависимости» исходных наблюдений 0 (скалярный, либо векторный), который является малочувствительным к вариации вида распределения исходных данных, а определяется лишь мерой зависимости элементов, составляющих эти данные.
Во-вторых, находится функциональная зависимость распределения ранговой статистики от этого показателя Р0(Б(К)/0), на основе которой производится коррекция порога обнаружения. Выполнение условия слабой зависимости от вида распределения исходных наблюдений показателя 0 представляется важным, поскольку, если оно не выполняется, зависимость распределения ранговой статистики от вида распределения исходных наблюдений передаётся опосредованно через этот показатель. Рассмотрим один из показателей зависимости наблюдений - одношаговый коэффициент корреляции р. В случае, если распределение исходных наблюдений является гауссовским и характеризуется экспоненциальной корреляционной функцией, данный показатель служит исчерпывающим описанием степени зависимости наблюдений. Если распределение отличается от гауссовского или является гауссовским с более сложным видом корреляционных связей, коэффициент корреляции р уже не является исчерпывающей характеристикой зависимости отсчетов выборки и не может быть использован для адаптации непараметрического обнаружителя. Так, в диссертации было показано, что нелинейное монотонное преобразование исходных данных делает невозможным использование данного показателя для стабилизации вероятности ложной тревоги ранговой статистики. Для выбора эффективного и устойчивого показателя «степени зависимости» исходных наблюдений был проанализирован механизм (модель) влияния зависимости исходных наблюдений на одномерное распределение рангов. Было показано, что такую модель можно описать в терминах уменьшения «эффективного» объёма выборки по сравнению с её физическим объёмом. Это означает, что для выборки зависимых наблюдений X физического размера п можно указать такое эквивалентное (эффективное) значение размера выборки п^ < п, состоящей из независимых наблюдений, которая
содержит столько же информации о многомерном распределении, сколько содержит вариационный ряд из п отсчетов исходной выборки. Величину
77= п/ , 7] е[1,я] можно рассматривать, как степень уменьшения
/ Пэф
эффективного объема выборки вследствие зависимости её отсчетов и использовать в качестве показателя зависимости 0. Простейший способ моделирования уменьшения эффективного объема выборки по сравнению с исходным объемом состоит в представлении исходной выборки в виде пэф
независимых отсчетов, каждый из которых повторяется раз, г] е [1,и].
Физический объём выборки остаётся при этом равным п. Ранг независимого
наблюдения у в вариационном ряду, составленном из п зависимых наблюдений X, в рамках данной модели может принимать значения Яу = 0,77,27....«, а его распределение задаётся выражением:
тр ч =0,77,2^,...,«
[ 0, иначе
В диссертации получен алгоритм МП оценивания параметра 77 на основе выборки рангов наблюдений {Л^ ,Яуг }. Было показано, что МП
оценка 77 находится по формуле:
/
/ т
(23)
77 =argmax
Пф,п]
V / Ла 7=1
В последнем выражении значение ij £[0,71/77] определяется из уравнения vj = ijt], где Vj - ближайшая к рангу Ry. точка из множества допустимых
значений ранга V{t]) = {0,77,277,...}.
Анализ описанной модели, выполненный в диссертации, показал необходимость ее дальнейшего совершенствования. Основным ее недостатком является детерминированный механизм 77 -1 кратного дублирования независимого отсчета. Более адекватным для описания широко используемых на практике сигналов с зависимыми отсчётами (например, гауссовского марковского сигнала) представляется подход, когда механизм дублирования приобретает стохастический характер. Поэтому в подразделе 4.2. диссертации была предложена усовершенствованная модель формирования зависимых наблюдений. Ключевым для этой модели является предположение о случайной длине группы совпадающих наблюдений. При этом условное распределение исходных наблюдений, следующих одно за другим, представляется в виде:
P{xilxi^) = a8{xi-xi_x) + {\-a)P(xi), (24)
где а - действительное число из интервала [0,1], <5(-)- 3 - функция, Р(х,) -одномерная плотность вероятности исходных наблюдений. Модель, задаваемая выражением (24), имеет ряд преимуществ перед гауссовской марковской моделью и моделью 77 - кратного повторения отсчётов при описании распределения рангов зависимых наблюдений:
■ не накладывается ограничений на вид распределения исходных наблюдений Р(х)\
■ параметр, описывающий степень зависимости - а, не меняется при изменении вида распределения исходных наблюдений Р(х), вызванного, например, монотонным нелинейным преобразованием;
■ при гауссовском распределении наблюдений распределение ранга, полученное для данной модели, близко к распределению ранга гауссовской марковской модели;
■ имеется возможность точного вычисления распределения ранга. В диссертации показано, что распределение ранга, соответствующее данной модели, определяется выражением:
Н^Уа-а)"-'-'
Р(йу) =
Яу=0,п ~0 (п-1 + 1)
п-(«-/ +1) '
(25)
В подразделе 4.2.1. рассматривается задача оценивания параметра а модели (24) по выборке рангов {Л^ } ■ Было показано, что МП-оценка а
является корнем алгебраического уравнения:
/=о (и-/ + 1) 2т
где к представляют собой общее количество наблюдений , которые характеризуются максимальным или минимальным рангом в соответствующих выборках Х1 = {хп ,ха,...,х1п},г = 1,т.
На основании полученных в подразделах 4.1, 4.2 диссертации распределениях рангов зависимых наблюдений возможна адаптация ранговых правил, распределение решающих статистик которых определяется одномерным распределением ранга. Примером правила такого типа является модифицированный критерий Вилкоксона, предложенный в работе П.С. Акимова для обнаружения сигналов в радиолокации. Статистика этого критерия 5т пМ0д определяется выражением:
т
$т,пМОД = ' /=1
где - ранг отсчёта у,, полученный в ¡-м независимом эксперименте (г = 1 ,т) для выборки зависимых наблюдений Х1 = {хл,ха,...,хт}. В данном случае распределение решающей статистики 5т пМОд определяется т -
кратной свёрткой распределений (22) или (25). На практике более часто используются двухвыборочные ранговые правила, решающая статистика которых определяется не одномерным, а многомерным распределением рангов рабочей выборки. Типичным примером подобных правил является классический тест Вилкоксона. Его решающая статистика Бт „ также
задаётся выражением (27), однако смысл параметров алгоритма тип несколько иной. В случае классического критерия Вилкоксона Л, представляет собой ранг г-го элемента рабочей выборки объема т в вариационном ряду, составленном из п элементов общей выборки (рабочая выборка является частью общей выборки).
Подраздел 4.3. посвящен вопросам адаптации двухвыборочных ранговых алгоритмов подобных классическому тесту Вилкоксона в условиях
зависимых наблюдений. Как уже отмечалось выше особенностью адаптации данных алгоритмов по сравнению с рассмотренной в подразделах 4.1 и 4.2 является необходимость оценивания распределения ранговой статистики на основе многомерного распределения рангов зависимых наблюдений. Так, распределение статистики 5тл классического теста Вилкоксона
определяется т - мерным распределением рангов рабочей выборки, состоящей из зависимых отсчётов. Выше было отмечено, что механизм влияния зависимости исходных наблюдений на распределение ранговых статистик может быть описан в терминах уменьшения эффективного объема выборки с использованием детерминированного показателя этого уменьшения 77. В подразделе 4.3.1 описывается использование данной модели для представления распределения статистики классического теста Вилкоксона в условиях зависимых наблюдений. Статистику Бтп для
зависимых наблюдений можно представить в виде:
$т,п='П18гг1эф,пэф+-^ (28)
где $тэф,пэф ~ статистика Вилкоксона, вычисляемая по независимым
наблюдениям выборки. Порог обнаружения С, обеспечивающий заданную вероятность ложной тревоги а, рассчитывается по формуле:
С = (29)
где Сэф - порог обнаружения для статистики Вилкоксона $тэф,пэф ■ Значение порога Сэф является табличным для параметров тэф, пэф. МП-оценивание параметра зависимости 77 может осуществляться в результате анализа выборки статистик Вилкоксона полученной в ходе Ь
независимых экспериментов. Используя гауссовскую аппроксимацию для распределения статистики Вилкоксона, можно показать, что МП-оценка 77 находится по правилу:
£
\2
,-:-■ (30)
у^2т\п ~ т)п
Согласно выражению (30) МП-оценка параметра 77 представляет собой отношение выборочной дисперсии статистики Вилкоксона, полученной для текущих выборок с зависимыми отсчетами, к дисперсии, характерной для данной статистики при независимых наблюдениях. Полученная оценка г) может быть использована для устойчивой адаптации обнаружителя, использующего статистику Вилкоксона, при работе по зависимым наблюдениям с целью стабилизации вероятности ложной тревоги а на заданном уровне. Адаптация предполагает подстройку порога обнаружения
на основе измеренной по наблюдениям обучающей выборки оценки т) в соответствии с выражением (29).
В подразделе 4.3.2. предложена иная модель учета зависимости наблюдений для нахождения распределения статистики Вилкоксона, основанная на представлении зависимой общей выборки как смеси, состоящей из наблюдений к групп (классов) с распределениями, отличающимися средними значениями. Каждая из групп содержит ^•отсчетов (здесь _/ — номер группы (класса)). Предполагается, что если
отсчет выборки х1 принадлежит классу У, то и T]J наблюдений некоторой
минимальной окрестности этого отсчета принадлежат тому же классу. Указанную окрестность формируют смежные с отсчетом x¡ элементы. Предполагается, что количество отсчетов, принадлежащих каждому классу в выборке, одинаково у = у^=уг= ... = ук = п/к, и одинаковы также размеры окрестности отсчёта каждого класса г) = щ -т}2 =... = г)к. Структура выборки зависимых наблюдений представлена на рис.1.
Рис.1. Структура выборки зависимых наблюдений В этом случае модель, описывающая общую выборку, характеризуется двумя параметрами 0 = {т],у}, либо 0 = {т],к}, подлежащими оценке. Предположим, что наблюдения упомянутых выше классов различаются средними значениями настолько сильно, что каждому из классов соответствует не содержащая промежутков последовательность рангов [¡,1 + у-1]. Предположим (без ограничения общности рассуждений), что номера классов упорядочены по возрастанию их средних значений. Так, ранги отсчетов класса 1, имеющего минимальное среднее, принимают значения из диапазона [0,у-1], а класса 5, характеризующегося максимальным средним — [п- у + 1,«]. В этом случае распределение рангов рабочей выборки будет определяться количеством окрестностей Л, каждого из классов, попавших в рабочую выборку. Таким образом, это распределение
к
зависит от вектора Л = {^,/12,...,4), где е[0,/и/77] и £ Л,,= /и/77. Введём
/=1
новую переменную = Ау?/, которая имеет смысл общего количества элементов класса у, содержащихся в рабочей выборке. Вектор Л = {а1,а2,...,аг^} определяет количество точек каждого класса в рабочей выборке. Статистику Вилкоксона зависимых наблюдений в рамках данной модели можно представить в виде:
к к к = + Ау) = + гЕУ - Я; -ут, (31)
7 = 1 j=l У=1
В выражении (31) учитывается, что сумма рангов каждой из групп
а>
2 7?у; представляет собой статистику Вилкоксона смещенную на
1=1
величину Ду = (у -1) • у ■ aj. Таким образом, распределение статистики
Вилкоксона для описанной двухпараметрической модели представляет
к
собой смещенную на = -Ду -ут свертку к распределений
7=1
Вилкоксона с параметрами а ¡,у. В диссертации показано, что достаточной
статистикой для параметра модели 0 является вектор А, поэтому МП-оценку 0 можно строить на основе вероятностной модели для данного вектора. При этом:
Мча
^и/ ----
© = агцтах
к
'п!кп п/кп •••'К'п/кп
тах-----—
г}
п!г]
(32)
Алгоритм нахождения МП — оценки 0 в результате решения уравнения правдоподобия (32) методом перебора может быть представлен в виде следующей последовательности шагов:
■ задаётся значение к {к = 1,и), либо у (у = п/к);
■ ранги рабочей выборки разбиваются на к групп согласно правилу: Г1,у/</г, <(] + \)у
'' [0, иначе'
» для каждой из групп рассчитывается количество элементов, попавших
т _
в рабочую выборку, «у = £8^ и формируется вектор А = {ах,аг} > »=1
■ полученные значения {а1,а2,—,ак} подставляются в выражение (32);
■ находится значение 77 £[1,^], максимизирующее (32) при заданном векторе А, значение полученного максимума Втах п (к) запоминается;
■ переход к шагу 1;
■ среди полученных значений Втлх ц (к) выбирается максимальное, а соответствующая ей пара величин {г/,у} рассматривается как искомая МП-оценка 0.
Алгоритм нахождения МП-оценки 0, основанный на приведённой выше последовательности шагов, является достаточно громоздким в вычислительном плане. Его можно упростить, если аппроксимировать условную плотность Р){Л)Iа\>агт->агауссовским распределением.
Использование данной аппроксимации позволяет заменить процедуру оценивания, основанную на поиске максимума функции правдоподобия путём прямого перебора, непосредственным вычислением оценки. В этом случае первые три шага процедуры оценивания остаются неизменными, а затем производится вычисление оценки параметра т] по формуле:
(33)
77 = Л№-1),
7-1
где — — --- -
7 = 1
Р,
1 к-] +1 ^
и Р,=у
7-1 1=\
«- к/ -1)
1--
7-1 ^
т - X«/
1=1
и - - О
Пятая глава диссертации посвящена разработке рангового алгоритма бинарной сегментации полутоновых изображений. Рассматриваемую задачу в большинстве случаев необходимо решать в условиях непараметрической априорной неопределённости при первичной обработке полутоновых изображений. Существует значительное количество методов, направленных на решение указанной задачи. Часть из них носит эвристический характер и не обеспечивает устойчивых характеристик качества сегментации. К подобным методам можно отнести алгоритмы Отса, Бернсена, Ниблэка. Ряд современных работ посвящен сегментации изображений, использующей процедуры обучения с учителем и оперирующей алгоритмами слияния и расщепления областей. Подобные подходы нельзя применять при автономной обработке данных.' Полагаем, что изображение содержит связные области (локальные объекты), состоящие из точек, средняя яркость которых выше (ниже), чем средняя яркость окружения (фона изображения). При этом ничего не известно о форме, размерах и положении областей на изображении, либо их параметры не являются стабильной характеристикой изображения и меняются от изображения к изображению. Неизвестны также распределения отсчётов областей. Примером изображений данного типа может служить фрагмент страницы какого-либо документа, аэрофотоснимок или снимок из космоса участка земной поверхности, изображение, полученное с помощью тепловизора. Задача заключается в разбиении отсчетов изображения на два класса («яркая точка», «темная точка»). Подобная же задача может решаться и в отношении «уровней» одномерного сигнала. Например, сигнал на выходе сейсмического датчика системы
наблюдения, вызванный движением человека, представляет собой квазипериодическую последовательность импульсов шагов, наблюдаемых на фоне шума. Уровень импульсов, их временное положение в сигнале, а также уровень фона могут меняться в широких пределах. Для выделения импульсов отсчеты реализации сигнала необходимо разбить на два класса (отсчет «высокого уровня» и отсчет «низкого уровня»). Актуальность решения проблемы классификации в рамках именно рангового подхода существует в том случае, если, во-первых, необходимо, чтобы задачу сегментации наблюдений решал автомат (вмешательство оператора для настройки алгоритма по каким-либо причинам невозможно) и, во-вторых, требуется получать устойчивые результаты сегментации при неизвестных и меняющихся вероятностных характеристиках поступающих данных. Сформулируем задачу классификации наблюдений более строго. Пусть
имеется общая выборка отсчетов б = {д,1>#2>—><7л} объема п, состоящая из элементов двух классов: X = {х1,х2,...,х/} и У - {У1,У2,---,УП-!} • В отношении распределений классов X и У справедливо условие:
Рх(х)>Еу(х),Чх. (34)
Условие (34) выполняется, например, если распределения элементов классов X и Г сдвинуты друг относительно друга на Л, т.е:
Ру(х) = Рх(х-А),Ух. (35)
Количества элементов классов X и У в общей выборке составляют / и п - I соответственно и заранее неизвестны. Индексы элементов в выборке 0 показывают порядок их извлечения (считывания). При этом элемент д, может быть отсчетом класса X, либо У из соответствующих множеств X, У. Важной особенностью многомерных наблюдений, используемой при синтезе алгоритма сегментации, является пространственное (либо временное) группирование элементов каждого класса в выборке (5. Следствием указанного свойства является пространственная (рис. 2) (или временная) неоднородность выборки 0.
в
Рис.2. Пространственно неоднородная выборка Наличие или отсутствие упомянутого выше свойства группирования наблюдений классов является важным моментом при синтезе рангового
алгоритма сегментации. Принятие решения о наличии указанного свойства можно осуществлять на основе статистического подхода к проверке гипотезы Н0 (неоднородность выборки отсутствует) против альтернативы Н{ (неоднородность имеет место). Свойство группирования наблюдений класса неявно использовалось в алгоритмах сегментации, основанных на фильтровой обработке данных, а также наращивании и слиянии областей. Подход, использующий предварительное принятие решения о неоднородности выборки применяется впервые. Поставим в соответствие каждому отсчету рабочей выборки 2, объёма т, являющейся частью общей выборки (рис.2), его ранг Я в выборке <2. Анализ распределения рангов рабочей выборки 2 позволяет оценить порог классификации наблюдений в 2. При выполнении более жесткого чем (34) и (35) условия:
х<у, УхеХ, УуеГ, (36)
распределение рангов наблюдений рабочей выборки вне зависимости от исходного распределения наблюдений описывается выражением:
= (37)
где параметр распределения ке [0, т] - количество элементов одного из классов в рабочей выборке (количество элементов этого класса в общей выборке равно /). В том случае, если распределение наблюдений классов по пространственным (либо временным) координатам неравномерно, то параметры распределения к и / практически не связаны друг с другом (за исключением связи вида к<1). В противном случае имеется статистическая связь к/1=т/п и распределение (37) фактически оказывается однопараметрическим:
= ----(38)
<-[*-л/м]<-п-[4-л/л|]
При выполнении условия (36) безошибочная ранговая бинарная классификация выборки <2 может осуществляться в соответствии с правилом:
'О,
(39) [1, Щ>1
В диссертации показано, что при известном количестве наблюдений одного из классов в рабочей выборке к, оценку общего количества наблюдений этого класса можно получить следующим образом:
/=Л(А)+1, ^ (40)
где Я^ к-й элемент упорядоченного по возрастанию элементов вектора рангов рабочей выборки. С учётом (39) выражение (40) можно переписать в виде:
Из выражения (41) следует, что алгоритм МП-оценивания параметров рангового распределения
(37) {к,1} на основе наблюдений рангов рабочей выборки можно представить в виде:
ке[0,т]
/=Д<*>+1. • (42)
В диссертации показано, что при равномерном распределении наблюдений классов по пространственным (либо временным) координатам оценка к, полученная согласно (42), оказывается неэффективной, поскольку её значение, доставляющее максимум (42), распределено равномерно в интервале [0, т]. В этом случае вообще встаёт вопрос о смысле сегментации однородной выборки. Таким образом, для получения адекватного результата ранговой сегментации необходимо принимать решение об однородности (неоднородности) общей выборки. Это решение можно принимать в соответствии с правилом проверки гипотез (альтернатива неоднородности выборки Нх проверяется против гипотезы однородности Н0):
пип С „,ь, С Л,,
= —Г-7- С. (43)
шшС*° „, ,Ст-к,.° , >
[А0 -п/т] п-[к0 -п!т]
Я«
Поскольку априорные вероятности гипотез Н0 и Я, не известны, то порог принятия решения С может вычисляться на основе критерия Неймана -Пирсона. Необходимо отметить, что правило различения гипотез (43) обладает непараметрическим свойством, поскольку распределение решающей статистики (в данном случае Л(К)) не зависит от видов распределений исходных наблюдений классов. Распределение статистики Л(Д) (это следует из выражения (43)) определяется при гипотезе Н0 количеством элементов класса X в рабочей выборке 7, - т.е. значением к, а при Нх еще и количеством элементов класса X в общей О и рабочей 7. выборках - т.е. значениями / и к соответственно. Последнее означает, что вероятность ложной тревоги а можно стабилизировать на заданном уровне, если располагать оценкой параметра к. При гипотезе Н0 появление любого рангового вектора равновероятно, а соответствующая вероятность определяется соотношением (38). Поэтому нахождение порога различения гипотез С, обеспечивающего заданный уровень вероятности ложной тревоги а, сводится к подсчету количества ранговых векторов, удовлетворяющих условию, задаваемому выражением (43).
Практический интерес представляет ситуация, когда невозможно получить безошибочное пороговое разделение наблюдений классов X и У
по уровню. Это значит, что с помощью некоторого порога по уровню С
можно разделить наблюдения классов X и У с некоторыми вероятностями
00
ошибок классификации ех (С) = е(С / с1 = 0) = ^Рх {х)сЬс и
с
с
еу (С) = е(С1 с1 = 1) = (х)/±с соответственно (рис. 3).
—аз
РХ(Х) Ру(%)
Рис.3. Вероятности ошибок классификации Очевидно, что наличие априорной информации о величинах С, ех(С) и еу(С) является скорее исключением, чем правилом. Поэтому задаваться априорными значениями таких ошибок нужно лишь для того, чтобы, учтя их в алгоритме, обезопасить себя от аномально больших ошибок сегментации. В диссертации показано, что с учётом ожидаемых ошибок классификации наблюдений по уровню МП-оценки параметров {к,!} находятся по правилу:
к
к = ащтах. ^
кф,т] к'=0
/-г к' /-¡т—к'
(44)
а различение гипотез осуществляется в соответствии с правилом:
Л(Я)=-
тах ^ -*,' = о
4=0
к\ р}
1 ~Г
Я
тах -*о и=о
9=0
я;
С. (45)
с,*Я
[¿¿•л/т]
В формулах (44), (45) величины у= (х)сЬс = 1 - ех (С) и
—оо
с
Р = (х)£Йс = ег (С) рассматриваются как параметры, задающие степень
перекрытия распределений классов X и У. В частности, если есть уверенность, что распределения классов не перекрываются, или площадь перекрытия мала, то можно присвоить параметрам у и р значения 1 и О соответственно. В этом случае приходим к правилам оценки параметра к и принятию решения об однородности выборки, аналогичным (42), (43). Уменьшая у и увеличивая ¡3, мы, тем самым, уменьшаем степень нашей уверенности в возможности безошибочного разделения классов X и У по уровню и страхуем себя от значительных ошибок при оценке параметров к и /, а также при различении гипотез, возникающих при использовании алгоритмов (42), (43) в случае значительного перекрытия распределений классов.
В подразделе 5.3. выполнено исследование рабочих характеристики алгоритмов бинарной сегментации сигналов и изображений. Эти характеристики представляют собой зависимости вероятности ошибок сегментации от расстояния между классами, элементы которых распределены по нормальным законам Ы(т0,сг) и Ы{тьсг). Расстояние определяется как Л / а, где А = т1-т0.
В подразделе 5.4. алгоритм бинарной ранговой сегментации сравнивается с рядом известных непараметрических и адаптивных правил сегментации сигналов и изображений. В частности, отмечен выигрыш алгоритма бинарной ранговой сегментации по сравнению с известными правилами квантования мод и алгоритмом Отса в отношении вероятности ошибок сегментации при одинаковых расстояниях Л/а между классами.
В подразделе 5.5. метод ранговой сегментации, полученный для двухуровневых моделей, распространен на случай моделей с большим количеством уровней. Отмечено, что при увеличении количества уровней снижается эффективность алгоритма сегментации и увеличивается его вычислительная сложность.
В подразделе 5.6. рассматриваются две практические задачи обработки сигналов и изображений, которые были решены с использованием описанного подхода ранговой сегментации. Для сейсмической охранной системы был реализован алгоритм амплитудной селекции импульсных последовательностей, наблюдаемых на фоне шума с произвольным распределением. Также приведены результаты работы алгоритма ранговой бинарной сегментации, используемого для выделения последовательностей буквенных и цифровых символов, нанесенных на борта железнодорожных вагонов.
Содержание шестой главы посвящено разработке алгоритмов ранговой бинарной сегментации векторных сигналов и изображений. Задача векторной сегментации имеет место при обработке многомерных сигналов, цветных и полутоновых изображений. В отличие от задачи, решаемой в пятой главе, имеется одна существенная особенность - каждый элемент выборки Х1
представляет собой вектор, содержащий 5 компонент X,-= ■,...,.
При этом компоненты вектора наблюдения X не обязательно являются
однотипными соизмеримыми величинами. При решении ряда задач обнаружения и оценивания сигнала необходимо использовать несколько его параметров, например, при демодуляции - амплитуду и фазу, в задаче селекции импульсного сигнала - амплитуду и временную задержку. Необходимость векторной обработки также возникает всякий раз, когда один и тот. же параметр сигнала измеряется сразу несколькими датчиками, т.е. имеется многоканальный измеритель. Основной проблемой ранговой обработки в этом случае является проблема сравнения векторных наблюдений. Операция сравнения является базовой в любом ранговом алгоритме, а сравнение векторов не определено однозначно. Однако сравнение одноименных скалярных компонент векторов наблюдений является вполне допустимой операцией, и, следовательно, возможно вычисление ранга г - й компоненты наблюдения X1, _/ = 1, п в выборке, составленной из г - х компонент 5 - мерных наблюдений. Таким образом, при ранжировании наблюдения Xописанным выше способом , приходим к
^ - мерному ранговому вектору ■ Этот подход к
ранжированию векторных наблюдений и был в дальнейшем использован при синтезе ранговых процедур обработки многомерных сигналов. Рассмотрим задачу бинарной сегментации векторных данных. Положим, что выборка сформирована из 5 - мерных наблюдений двух типов (классов Хи У). Отсчет класса X характеризуется «низким» («высоким») уровнем 1-й компоненты, «низким» («высоким») уровнем г + 1 - й компоненты по сравнению с уровнями соответствующих компонент класса У. Возможно, что по некоторым компонентам классы X и У не различаются. Для г - й компоненты классов X и У указанное выше свойство формально можно записать в виде условий (34), (35), либо (36). Важной особенностью выборки 2, используемой при синтезе алгоритма ранговой сегментации, как и прежде является «группирование» отсчетов каждого класса в локальной области выборки (5. Ранговая бинарная классификация выборки векторных наблюдений <2 может быть выполнена по аналогии с правилом (39), если использовать данное правило применительно к каждой из компонент многомерных рангов наблюдений. Существуют следующие проблемы при использовании данного подхода:
■ количество элементов классов X (У) в выборке () неизвестно заранее;
■ априори неизвестно по какой из компонент возможно эффективное разделение классов. При этом по некоторым компонентам пороговое разделение классов близко к безошибочному, а по некоторым -разделимость отсутствует вообще;
■ обычно соотношения типа «высокий» уровень, «низкий» уровень между различными компонентами классов заранее неизвестны.
Рассмотрим особенности многомерных (по сравнению с одномерными) процедур ранговой бинарной сегментации на примере частного случая
двумерных наблюдений (т.е. когда количество компонент 5 = 2). Предположим возможность безошибочной пороговой разделимости двумерных наблюдений классов X и У по всем компонентам. Предположим также, что в выборке содержится / наблюдений класса X -
(Х„Х2.....,Х1}, {*„,.,*„} и п-1 Г - Г,={у01,уи}.
Сформируем из части наблюдений Q рабочую выборку 7,, объема т. Если заранее неизвестно соотношение между компонентами классов, то можно предполагать один из двух возможных типов распределений двумерных рангов (рис.4).
Оу
Ш
|1
IV
п-1
о I
Ож
О I
Рис. 4. Типы распределения двумерных рангов Закрашенные области на рис.4 - это места локализаций возможных координат ранговых векторов классов X и 7. В незакрашенные области координаты ранговых векторов не попадают никогда (при выполнении условия безошибочной разделимости классов по всем компонентам). Возможные двумерные конфигурации областей Ох,Пу определяются выражениями:
'ах=и(г0,г]),0<г0<1,0<п<1 УОу = и(г0>г1 )> I <гй<п ,1 <гх<п [Пх =^(г0,г1), 0 < г0 < I ,п - I < гх < п Оу = и(г0,г,), / < г0 < п ,0 < г, < п - I
(46)
Для трехмерного ранга количество возможных конфигураций увеличивается. Вообще количество возможных вариантов распределения 5 -мерного ранга ]¥ определяется формулой IV = (при бинарной модели наблюдений). Таким образом, кроме пары параметров распределения {&,/}, появляется ещё третий Л (целое число из интервалаописывающий тип распределения. При независимости компонент 5 -мерного векторного наблюдения, распределение 5 -мерных рангов рабочей выборки можно записать следующим образом:
Г . V
1
С к /-лт—к I <-„_/
С учётом параметра Л (в случае 5 = 2) оценка / формируется согласно одному из двух правил:
либо I = тах(г0(А),и - г/4)) + 1, (48)
где параметр распределения к - количество отсчётов одного из классов в рабочей выборке. МП-оценка параметра к может быть получена на основе выборки двумерных рангов в соответствии с одним из правил (в зависимости от значения Л):
к€\\),т\
ЛИб0 (49)
Решение о неоднородности выборки принимается на основе критерия модифицированного отношения правдоподобия:
/ . С. (5Щ
. \ Iкц-п/т] п-[ка-п/т\/
Но
где /(Я) определяется в соответствии с выражениями (48). При этом оценка типа распределения Л находится следующим образом:
Л = aigmaxA(Rl,R2,--.,Rm /Л). (51)
х
Другая важная особенность ранговой классификации многомерных наблюдений заключается в том, что при условии невозможности безошибочной классификации наблюдений по уровню по любой из компонент ранговые векторы могут оказываться в «запрещённых» областях (например, области III, IV (рис.1) для случая двумерных наблюдений). Это существенно усложняет правило сегментации и заставляет по определенным правилам строить разделяющие функции. В диссертации показано, что в пространстве рангов наблюдений такие разделяющие функции представляют собой линейно ломаные (рис. 5).
\ п1 = ХУ \
' \п1 — Л4^ УХ г01 + 1 (л - /)
Рис. 5. Разделяющие функции В подразделе 6.3. диссертации приводятся результаты сравнения качественных характеристик алгоритмов двух и трёхмерной бинарной сегментации. Отмечается выигрыш при использовании многомерных алгоритмов сегментации при отсутствии безошибочной разделимости по всем компонентам векторных наблюдений, заключающийся в снижении вероятности ошибок сегментации.
В подразделе 6.4. диссертации рассматривается вопрос распространения алгоритмов многомерной ранговой бинарной сегментации на случай большего количества уровней. Отмечено, что при увеличении количества уровней снижается эффективность алгоритма сегментации и резко увеличивается вычислительная сложность алгоритма
В подразделе 6.5. диссертации приводятся примеры двух и многоуровневой сегментации векторных изображений различного типа, подтверждающие универсальность предлагаемого подхода.
В заключении формулируются основные результаты диссертационного исследования.
ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ
В диссертации решена важная научно-техническая проблема в области статистических методов обработки информации - предложены и развиты новые подходы к синтезу алгоритмов обработки сигналов и изображений в условиях непараметрической априорной неопределенности, повышению их эффективности и устойчивости. На базе предложенных подходов получен ряд эффективных алгоритмов обнаружения и оценивания сигналов и сегментации изображений.
Разработанные в диссертации непараметрические алгоритмы нашли применение в серийно выпускаемой аппаратуре, в частности, сейсмических
охранных системах «Форшлаг», «Азимут», «Модуль». Применение непараметрического подхода к задаче сегментации изображений позволило получить устойчивые результаты первичной обработки, используемой в алгоритмах распознаваний буквенно-цифровой информации, нанесённой на бортах транспортных средств.
Основные результаты исследований заключаются в следующем.
1. Установлено, что существенное повышение эффективности достигается при использовании предварительной пороговой обработки исходной выборки, группирующей наблюдения по уровням. Конкретный вид группирующей процедуры определяется типом альтернативы и видом распределения наблюдений. К полученным на первом этапе группам наблюдений (частям исходной выборки) применяются непараметрические критерии, а полная статистика вычисляется в результате весового суммирования частичных непараметрических статистик групп.
2. Предложен и развит новый подход к синтезу непараметрических критериев Неймана-Пирсона для альтернатив различного типа, основанный на представлении эмпирической плотности распределения наблюдений в виде его разложения в специальном функциональном базисе, порождаемом эмпирическими распределениями, получаемыми путём обучения на исходных выборках наблюдений. Задача различения гипотезы и альтернативы рассматривается как задача различения проекций плотностей в данном базисе.
3. Разработан, получил развитие и практическую проверку новый подход к непараметрической адаптации ранговых алгоритмов, работающих в условиях зависимости исходных наблюдений. Подход основан на построении оценки параметрического распределения рангов, параметр распределения которого определяется степенью зависимости исходных данных и не зависит от вида их распределения. Предложен ряд моделей зависимости исходных наблюдений, параметры которых не зависят от вида распределения. В результате оценивания указанных параметров модели, расчёта на их основе рангового распределения и соответствующей коррекции порога обнаружения удаётся обеспечивать стабилизацию вероятности ложной тревоги непараметрического правила.
4. Предложен и развит новый подход к построению процедуры устойчивой бинарной ранговой сегментации сигналов и изображений, работающей в условиях априорной неопределенности относительно количества наблюдений каждого из классов в данных, структуры выборки, а также распределения наблюдений каждого из классов. Предложенный подход позволяет находить устойчивую оценку порога сегментации, а также принимать решение об однородности выборки наблюдений, что позволяет выполнять принятие решения о необходимости либо об отсутствии необходимости выполнять сегментацию. Развитый подход распространен в диссертации на случай
большего количества уровней, т.е. использован для многоуровневой сегментации.
5. Предложен и развит метод ранговой сегментации данных, которые имеют характер векторных наблюдений. При этом существенно расширяется класс задач, которые могут быть решены с использованием данного подхода. Доказывается, что применение векторного подхода позволяет получать более низкие вероятности ошибочных классификаций наблюдений по сравнению с одномерным подходом.
Основное содержание диссертации опубликовано в следующих работах:
1. Райфельд М.А. Непараметрический алгоритм обнаружения линейных объектов / Райфельд М.А. //11 Всесоюзный семинар «Статистический синтез и анализ информационных систем». Ульяновск: УЛьПИ, 1988. - С. 69 - 70.
2. Райфельд М.А. Адаптивное ранговое обнаружение объектов на изображениях с коррелированным фоном / Дейхин Л.Е., Райфельд М.А., Спектор A.A. // Радиотехника и электроника. - 1989. - Т.34, №10. - С. 2112-2118.
3. Райфельд М.А. Непараметрический алгоритм различения сигнала и помехи, отличающихся дисперсиями / Райфельд М.А. // Изв. вузов. Радиоэлектроника,- 1991.- №1.- С. 15 —21.
4. Райфельд М.А. Методы предварительной обработки в задаче распознавания сцен / Райфельд М.А. // Статистические методы обработки сигналов: межвузовский сб. научн. тр. - Новосибирск: НЭТИ, 1991. - С.
5. Райфельд М.А. Непараметрическая адаптация алгоритма Вилкоксона для коррелированных наблюдений / Райфельд М.А. // Статистические методы обработки изображений: межвуз. сб. науч. тр. - Новосибирск.: НЭТИ, 1993.-С. 12-16.
6. Райфельд М.А. Непараметрический алгоритм выделения однородных областей на полутоновых изображений / Райфельд М.А. // Всесоюзная научн. техн. конф. «Идентификация, измерение характеристик и имитация случайных сигналов». - Новосибирск: НГТУ, 1993. - С.
7. Райфельд М.А. Ранговая адаптация алгоритма Вилкоксона для коррелированных наблюдений / Райфельд М.А. // 3 Международная конф. - Харьков - Туапсе, 1993.
8. Райфельд М.А. Непараметрический метод адаптации алгоритма Вилкоксона при коррелированных наблюдениях / Райфельд М.А. // Российской научн. техн. конф. «Информатика и проблемы телекоммуникаций», - Новосибирск: НГТУ, 1994.
9. Райфельд М.А. Ранговая сегментация бинарных изображений / Райфельд М.А. // Методы обработки сигналов и полей: Сб. научн. тр. -Ульяновск: УльГТУ, 1995.
Ю.Райфельд М.А. Ранговая бинарная сегментация полутоновых изображений / Райфельд М.А. // Автометрия. - 1995. - №5. - С. 116 - 120.
Н.Райфельд М.А. Ранговая бинарная сегментация изображений / Райфельд М.А. // Российская научн. техн. конф. «Информатика и проблемы телекоммуникаций». Новосибирск: НГТУ, 1996. - С. 49 - 50.
12.Райфельд М.А. Ранговое оценивание количества фоновых элементов на бинарных изображениях / Райфельд М.А. // Радиотехника и электроника -1996,- Т.41, №4,- С. 472-477.
13.Райфельд М.А. Совместная (по нескольким выборкам) ранговая оценка количества элементов объекта и фона на бинарных изображениях / Райфельд М.А. // Международная научн. техн.конф. «Идентификация,измерение характеристик и имитация случайных сигналов», - Новосибирск: НГТУ, 1997.-С. 197-200.
Н.Райфельд М.А. Бинарная и многоуровневая сегментация полутоновых изображений / Райфельд М.А. // Радиотехника и электроника - 2000 -Т45,№б,- С. 705-708.
15.Райфельд М.А. Ранговая сегментация цветных изображений / Райфельд М.А.//Автометрия. - 2001.-№1,- С. 21-26.
16.Райфельд М.А. Новые подходы к решению задач обработки и распознавания изображений / Васюков В.Н., Грузман И.С., Райфельд М.А. // Наукоемкие технологии. - 2002. - №3. - С. 32-35.
17.Райфельд М.А. Алгоритм компенсации акустического шума для улучшения работы цифровых алгоритмов речевого кодирования (вокодеров) / Райфельд М.А., Соснин И.Н. // 4lh Siberian russian workshop on electron devices and materials EDM' 2003. - Novosibirsk' NSTU 2003 -P. 146-149.
18.Райфельд М.А. Задачи обработки сигналов в сейсмической системе мониторинга перемещений / Гребенщиков К.Д., Коробов В В., Райфельд М.А., Спектор A.A. // Матер. 7-й Межд. науч.-тех. конф. «Актуальные проблемы электронного приборостроения АПЭП-2004». - Новосибирск-НГТУ, 2004,- С. 110-111.
19. Райфельд М.А. Адаптивное байесовское обнаружение импульсных сигналов с неизвестным периодом повторения / Гребенщиков К.Д., Райфельд М.А., Спектор A.A., Тонконогов Е.А. // Матер. 7-й Межд. науч.-тех. конф. «Актуальные проблемы электронного приборостроения АПЭП-2004». - Новосибирск: НГТУ, 2004. - С. 112 - 115.
20.Райфельд М.А. Непараметрическое обнаружение сейсмических сигналов в системах охраны периметров / Гребенщиков К.Д., Райфельд М.А., Спектор A.A., Тонконогов Е.А. // Матер. 7-й Межд. науч.-тех. конф! «Актуальные проблемы электронного приборостроения АПЭП-2004» -Новосибирск: НГТУ, 2004. - С. 108 - 109.
21.Райфельд М.А. Обработка сигналов в сейсмических системах контроля периметров / Гребенщиков К.Д., Райфельд М.А., Спектор A.A., Тонконогов Е.А. // Матер, докл. 7-й Всеросс. науч.-практ. конф - Томск' ТУСУР, 2005,- С. 71-73.
22.Райфельд М.А. Непараметрический метод обнаружения сигналов от сейсмически активных объектов / Райфельд М.А., Спектор A.A. // Автометрия. - 2005. - №6. - С. 88 - 97.
23.Райфельд М.А. Использование группировки для увеличения мощности непараметрического критерия, основанного на превышающих наблюдениях / Райфельд М.А. // Изв. вузов России. Радиоэлектроника. -
2006,- №2.-С. 28-35.
24.Райфельд. М.А. Проективные непараметрические статистики для альтернатив сдвига и масштаба / Райфельд. М.А. // Научный вестник НГТУ. -2006. - № 1(22).-С. 33-41.
25.Райфельд М.А. Сравнение структурированной и неструктурированной оценок параметров канала в системе GSM / Райфельд М.А., Соколова Д.О. // Современные проблемы радиоэлектроники: сб. научн. тр./ ред.: А.И.Громыко, A.B. Сафронов. - М.: Радио и связь, 2006. - С. 33 - 36.
26.Райфельд М.А. Задачи сейсмических систем наблюдения и принципы обработки сигналов в этих системах / Гребенщиков К.Д., Коробов В.В., Райфельд М.А., Спектор A.A., Тонконогов Е.А. // Материалы 2-й Всероссийской научной конференции с Международным участием "Проблемы развития и интеграции науки, профессионального образования и права в глобальном мире. - Красноярск: СФУ, 2007. - С. 383 - 386.
27.Райфельд М.А. Краткая характеристика сейсмической системы охраны с цифровой обработкой сигналов / Гребенщиков К.Д., Райфельд М.А., Спектор A.A., Соколова Д.О., Тонконогов Е.А. // Доклады четвертой научно-практической конференции «Электронные средства и системы управления. Опыт инновационного развития. Часть 1». - Томск: ТУСУР,
2007.-С. 274-277.
28.Райфельд М.А. Обнаружение сигналов в сейсмических системах наблюдения / Райфельд М.А., Спектор A.A., Тонконогов Е.А. // Матер. 2-й Всеросс. науч. конф. с Междунар. участием «Проблемы развития и интеграции науки, профессионального образования и права в глобальном мире». - Красноярск: СФУ, 2007. - С. 383 - 386.
29.Райфельд М.А. Опыт повышения эффективности сейсмической системы охранной сигнализации при использовании специальных методов цифровой обработки сигналов / Гребенщиков К.Д., Райфельд М.А., Спектор A.A., Тонконогов Е.А., Филатова С.Г. // Доклады четвертой научно-практической конференции «Электронные средства и системы управления. Опыт инновационного развития. Часть 1». - Томск: ТУСУР, 2007.-С. 277-279.
30.Райфельд М.А. Определение направления и скорости движения объекта в сейсмической системе охранного наблюдения / Райфельд М.А., Спектор A.A., Филатова С.Г. // Сборник научных трудов НГТУ. — Новосибирск: Изд-во НГТУ, 2008. - Вып. 4(54). - С. 45-53.
31.Райфельд М.А. Использование устойчивых показателей зависимости наблюдений при адаптации ранговых критериев / Райфельд М.А. // Изв. вузов России. Радиоэлектроника. - 2009. - №1.- С. 14-22.
Отпечатано в типографии Новосибирского государственного технического университета 630092, г. Новосибирск, пр. К. Маркса, 20, тел./факс (383) 346-08-57 формат 60X84/16 объем 2.75 п.л., тираж 110 экз.. заказ № 1565 подписано в печать 17. 09.09 г
Оглавление автор диссертации — доктора технических наук Райфельд, Михаил Анатольевич
Введение.
Глава 1. Обзор задач цифровой обработки сигналов и изображений и место непараметрических методов среди возможных подходов к их решениям.
1.1. Задачи непараметрического обнаружения полезного сигнала, наблюдаемого на фоне шума.
1.2. Непараметрический подход в задачах классификации и сегментации изображений.
1.3. Непараметрические подходы к оцениванию и фильтрации сигналов и изображений.
1.4. Выводы к главе.
Глава 2. Непараметрические критерии обнаружения полезного сигнала, на фоне шума, отличающегося дисперсией.
2.1. Построение выбеливающего фильтра.
2.2. Непараметрические статистики масштаба,.основанные на превышающих наблюдениях.
2.3. Улучшение характеристик критерия превышающих наблюдений с помощью алгоритма группировки исходных наблюдений.
2.3.1. Использование принципа группировки исходных данных для случая масштабных различий гипотезы и альтернативы.
2.3.2. Бинарное правило принятия решения, основанное на линейно - взвешенном суммировании Т статистик групп.
2.4. Выводы к главе.
Глава 3. Синтез непараметрических статистик на основе проективного подхода.
3.1. Синтез непараметрической процедуры принятия решения, основанный на методе проекций.
3.2. Способ измерения проекций по исходным наблюдениям.
3.3. Алгоритмы принятия решения о различии средних значений и дисперсий наблюдений выборок, основанные на измерении вектора проекций.
3.4. Выводы к главе.*.
Глава 4. Адаптация ранговых алгоритмов при зависимых наблюдениях.
4.1. Исследование влияния зависимости исходных наблюдений на ранговые распределения с использованием «детерминированной» модели возникновения совпадений.
4.1.1. Оценка параметра зависимости наблюдений г) для «детерминированной» модели.
4.2. Исследование влияния зависимости исходных наблюдений на ранговые распределения на основе «стохастической» модели возникновения совпадений.
4.2.1. Оценивание параметра а модели зависимых наблюдений.
4.3. Модели зависимости исходных наблюдений, применяемые для двухвыборочных ранговых статистик.
4.3.1. Исследование влияния зависимости исходных наблюдений на распределения многомерных ранговых статистик с использованием «детерминированной» модели возникновения совпадений на примере статистики Вилкоксона.
4.3.2. Исследование влияния зависимости исходных наблюдений на распределения многомерных ранговых статистик с использованием «стохастической» модели возникновения совпадений на примере статистики Вилкоксона.
4.4. Выводы к главе.
Глава 5. Ранговые алгоритмы бинарной сегментации одномерных сигналов и изображений.1945.1. Постановка задачи ранговой бинарной сегментации одномерных сигналов и изображений.
5.2. Синтез алгоритма ранговой бинарной сегментации одномерных сигналов.
5.3. Рабочие характеристики алгоритмов ранговой бинарной сегментации одномерных сигналов и изображений.
5.4. Сравнение алгоритмов ранговой бинарной сегментации одномерных сигналов и изображений с известными правилами сегментации наблюдений.
5.5. Одномерные алгоритмы ранговой многоуровневой сегментации.
5.6. Использование одномерных алгоритмов ранговой бинарной сегментации при решении некоторых задач обработки сигналов и изображений.
5.6.1. Использование алгоритма ранговой бинарной сегментации для классификации типа нарушения в сейсмической охранной системе.
5.6.2. Использование алгоритма ранговой бинарной сегментации для выделения последовательностей буквенных и цифровых символов, нанесенных на борта железнодорожных вагонов.
5.7. Выводы к главе.
Глава 6. Ранговая бинарная сегментация многомерных сигналов и изображений.
6.1. Постановка задачи ранговой бинарной сегментации многомерных сигналов и изображений.
6.2. Синтез алгоритма ранговой бинарной сегментации многомерных сигналов.
6.3. Сравнение результатов бинарной сегментации сигналов и оценивания параметров выборки, получаемых с использованием одномерного и многомерного (двухмерного) ранговых алгоритмов.
6.4. Ранговая многоуровневая сегментация многомерных сигналов и изображений.
6.5. Ранговая сегментация векторных изображений.
6.6. Выводы к главе.
Введение 2009 год, диссертация по информатике, вычислительной технике и управлению, Райфельд, Михаил Анатольевич
Актуальность темы. Важной особенностью многих современных систем радиолокации и навигации, связи, робототехники является наличие в их составе блоков или подсистем, предназначенных для цифровой обработки информации. За последние годы круг прикладных задач, решаемых при помощи цифровой обработки сигналов и изображений, существенно расширился и включает в себя области от исследований в медицине, судебной экспертизе, геологии, связи до задач автономного обнаружения, навигации и классификации объектов в военном деле и охране стратегически важных объектов [6, 7, 8, 9, 10, 11, 17, 31, 36, 37, 69, 74, 82, 83, 84]. Развитие цифровых систем обработки информации обусловлено с одной стороны необходимостью автоматизации переработки гигантских объемов информации [31, 32, 36, 37], а с другой - прогрессом в области вычислительной техники, в частности, связанным с развитием сигнальных процессоров [113, 114]. Последнее обстоятельство обеспечивает базу для создания высокоэффективных информационных систем для широкого круга прикладных задач. Наряду с развитием вычислительных средств и технологий не менее важной составляющей для успешного решения таких задач является разработка эффективных в вычислительном плане алгоритмов обработки данных [21, 82]. Повышение степени автоматизации обработки информации часто требует создания алгоритмов, качественные характеристики которых были бы устойчивы по отношению к неизвестным (либо меняющимся в процессе наблюдений) параметрам и свойствам регистрируемых сигналов [15, 124]. Это является- особенно важным" для автоматических систем, исключающих присутствие оператора, корректирующего параметры системы. Однако, создание устойчивых алгоритмов актуально и для систем, элементом которых является человек — оператор. Основной задачей здесь является снижение затрат высококвалифицированного, либо утомительного и непроизводительного человеческого труда и затрат на обучение обслуживающего систему персонала. В условиях априорной неопределённости разработчики сложных информационных комплексов достаточно часто идут по пути создания самообучающихся систем; либо систем, использующих обучение с учителем [38, 61, 75, 128]. В ряде случаев использование таких подходов затруднительно из-за значительных временных затрат, связанных с обучением (например, при использовании нейросетевых алгоритмов), либо вследствие значительной сложности алгоритмов самообучения (использующих, например, таксономию).
В работах Д. Миддлтона, Б.Р.Левина, В:И.Тихонова, Г.Ван-Триса. [22, 71, 79, 125] обосновывается статистический подход к синтезу алгоритмов обработки сигналов. Основные достоинства указанного подхода заключаются в следующем.
Во-первых, статистический подход выпукло отражает информационный аспект проблемы, что является весьма важным для решения ■ задач, связанных с обнаружением, классификацией объектов, а также с оцениванием» параметров сигналов; Понятия априорной неопределённости в рамках данного подхода приобретает ясный математический смысл [17, 71, 72, 73,111,136,137].
Во-вторых, применение данного подхода позволяет использовать соответствующий математический аппарат, разработанный для различных приложений и включающий в себя такие средства как, например, байесовская теория построения оценок и принятия решений, винеровская и калмановская фильтрация, теория непараметрического обнаружения- и оценивания; сигналов; теория марковских процессов и т.д. Теоретические основы указанных подходов, изложены в работах ЭЛемана,. Г.Ван-Триса; • П.Хыобера, Б.Р.Левина, Ю.Г.Сосулина, В.И.Тихонова, И.К.Кульмана, Р.Л.Стратановича [22, 71, 72, 73,118,121,125].
В-третьих, статистический подход является достаточно универсальным средством для создания широкого класса моделей сигналов и изображений.
Одной из основных проблем статистического подхода является синтез алгоритмов обнаружения, оценивания или классификации в условиях априорной неопределенности (неполной информации о статистических свойствах модели). В теоретических работах по статистической обработке сигналов [15, 71, 111, 124, 127, 132], а также в работах по математической статистике [1, 5, 18, 33, 65, 72, 73, 75, 137] излагаются способы построения эффективных алгоритмов в условиях априорной неопределённости. Один из способов опирается на статистики инвариантные к виду распределения исходных данных. Примером таких статистик являются статистики, основанные на рангах наблюдений. Использование подобных статистик применительно к ряду задач обработки сигналов и изображений (сегментации изображений, построению непараметрических оценок некоторых параметров сигналов и изображений, обнаружению полезных сигналов в задачах обработки сейсмоакустических и речевых сигналов) позволило получить эффективные алгоритмы как в плане качества, робастности, так и вычислительной сложности.
Цель работы состоит в синтезе и исследовании характеристик непараметрических алгоритмов обработки цифровых сигналов и ' изображений для решения ряда задач: непараметрической сегментации полутоновых и цветных изображений, а также сегментации одномерных сигналов; непараметрического оценивания параметров сигналов и изображений (общей площади занимаемой локальными объектами на изображении, степени зависимости исходных наблюдений сигналов и изображений); непараметрического обнаружения и классификации в задачах обработки сейсмоакустических и речевых сигналов;
Методы исследований, используемые в работе, базируются на теории вероятностей и математической статистике. Использовались следующие статистические подходы к обработке сигналов: байесовские алгоритмы проверки гипотез и максимально - правдоподобного оценивания, алгоритмы принятия решений по критерию Неймана - Пирсона, теория марковских процессов, теория ранговых критериев, классические и авторегрессионные методы спектрального оценивания. Широко использовались методы статистического моделирования с применением математических пакетов МаЛаЬ и МаШешайса. Проводились экспериментальные исследования синтезированных алгоритмов на реальных сигналах и изображениях.
Научная новизна диссертационной работы состоит в следующем: разработан новый непараметрический подход к бинарной и многоуровневой сегментации полутоновых и цветных изображений и к сегментации одномерных сигналов, алгоритмы, полученные на базе данного подхода, работают в условиях априорной неопределённости относительно распределения наблюдений классов и обеспечивают устойчивые характеристики сегментации; на основе непараметрического подхода к сегментации изображений получен устойчивый алгоритм оценивания общей площади локальных, в том числе малоразмерных объектов; предложен метод, позволяющий увеличивать эффективность непараметрических тестов, основанный на предварительной группировке исходных данных с использованием пороговой процедуры; разработан универсальный подход к построению непараметрических решающих правил для альтернатив различного вида, основанный на вычислении проекций эмпирических оценок плотностей вероятностей в специальном функциональном базисе, данный подход позволяет синтезировать эффективные непараметрические правила в результате использования дополнительной информации о распределении наблюдений; исследован механизм влияния зависимости исходных наблюдений на распределения ранговых статистик, предложен метод учёта зависимости, основанный на параметрическом описании распределения ранговых статистик; разработаны непараметрические модели зависимости наблюдений, получены методы оценивания параметров этих моделей и их использование для стабилизации характеристик ранговых обнаружителей (адаптации ранговых обнаружителей).
Перечисленные выше подходы, методы и модели являются новыми и впервые были использованы при решении ряда прикладных задач.
Практическая ценность. Разрабатываемые подходы и методы обработки сигналов и изображений являются непараметрическими, что позволяет использовать их в условиях априорной неопределённости относительно их вероятностных свойств. Указанное условие использования характерно, например, для широкого круга автономных охранных систем, систем локации, навигации, связи, машинного зрения, эксплуатируемых в заранее неизвестных условиях. Достаточно часто при синтезе алгоритмов обработки сигналов намеренно делается предположение о наличии априорной неопределённости относительно распределения исходных данных, что может быть связано с возможным быстрым изменением их статистических свойств и необходимостью стабилизации в указанных условиях изменчивости важнейших характеристик системы (таких, например, как вероятность ложной тревоги). Использование, непараметрического подхода позволяет существенно снизить требования к настройке и развёртыванию системы, условиям её работы, исключить зависимость качества обработки от ряда внешних факторов (например, сезонных). Устойчивость характеристик обнаружения предложенных алгоритмов позволяет повысить степень автоматизации системы, достоверность и надёжность её функционирования. Алгоритмы, синтезируемые на базе предлагаемых подходов, при определённых условиях являются достаточно простыми и не требуют использования операций с плавающей точкой. В результате их практического использования было показано, что в определённых задачах одномерной обработки сигналов они могут работать на базе таких популярных шестнадцатиразрядных сигнальных процессоров как Texas, BlackFin или Shark в реальном масштабе времени. Обработка видеоинформации, выполняемая в темпе поступления кадров, требует более мощных вычислителей. В частности, алгоритмы сегментации изображений были реализованы с использованием отечественного нейроматричного процессора NM6403 фирмы «Модуль»
Реализация результатов диссертации. Научные и практические результаты диссертации нашли применение в ряде хоздоговорных и , госбюджетных НИР: ТОР 01-02 (ООО КТЦ «Сигнал»), ТОР 02-03 (шифр «Форшлаг НВ»), ТОР 01-05 (шифр «Звезда»), ТОР 02-05 (шифр «Циркуль ПО»), ТОР 05/07 (ФГУП ПО «Север»), грант Российского фонда фундаментальных исследований №99-0100489, грант Министерства образования РФ №97-5-5.1-56. Результаты диссертации внедрены в следующих научных и научно-производственных организациях: ФГУП ГосНИИПП (г. С.-Петербург), ФГУП ПО «Север» (г. Новосибирск), «Урал-СибНИИОС» (Новосибирский филиал ФГУП ПО «УОМЗ», г. Екатеринбург), ООО «Электроконнект» (г. Новосибирск) о чём имеются соответствующие акты внедрения.
Основные положения, выносимые на защиту: метод непараметрической сегментации полутоновых изображений и многомерное развитие данного метода применительно к сегментации цветных изображений; метод повышения мощности непараметрических критериев масштаба, основанный на процедуре предварительной группировки исходных данных; подход к синтезу непараметрических алгоритмов, основанный на вычислении проекций оценки функции плотности вероятности в специальном функциональном базисе; метод адаптации непараметрических алгоритмов в условиях зависимых наблюдений, основанный на оценивании устойчивых параметров зависимости.
Апробация работы.
Результаты работы докладывались и обсуждались на 8 всероссийских и 7 международных конференциях, в том числе:
Российская научно-техническая конференция «Информатика и проблемы телекоммуникаций», г. Новосибирск, 1996 г.;
Международная научно-техническая конференция «Идентификация, измерение характеристик и имитация случайных сигналов», г. Новосибирск, 1993, 1997 гг.;
7-я международная научно-техническая конференция "Актуальные проблемы электронного приборостроения АПЭП-2004", г. Новосибирск, 2004 г.;
7-я всероссийская научно-практическая конференция, г. Томск, 2005 г • 1
2-я всероссийская научная конференция с международным участием «Проблемы развития и интеграции науки, профессионального образования и права в глобальном мире», г. Красноярск, 2007 г.;
4-я научно-практической конференции "Электронные средства и системы управления", г. Томск, 2007 г.
Публикации.
Результаты, полученные в диссертации, опубликованы в 31 печатной работе, из них 11 - в центральных изданиях по списку ВАК, 5 - в сборниках научных трудов и 15 — в материалах трудов научно-технических конференций и семинаров.
Структура и объём работы.
Диссертационная работа состоит из введения, шести глав, заключения, списка использованных источников и приложения. Объём работы составляет 362 страницы основного текста, включая 132 рисунка, 6 таблиц, списка использованных источников из 151 наименования на 16 страницах.
Заключение диссертация на тему "Непараметрические методы обнаружения и оценивания сигналов и изображений"
Основные результаты исследований заключаются в следующем.
1. Показано, что для повышения эффективности непараметрических критериев может быть использована предварительная пороговая обработка исходной выборки, группирующая наблюдения по уровням. Конкретный вид группирующей процедуры определяется типом альтернативы и видом распределения наблюдений. К полученным на первом этапе группам наблюдений (частям исходной выборки) применяются непараметрические критерии, а полная статистика рассчитывается в результате весового суммирования частичных непараметрических статистик групп.
2. Предложен и развит новый подход к синтезу непараметрических критериев Неймана-Пирсона для альтернатив различного типа, основанный на представлении эмпирической плотности распределения наблюдений в виде его разложения в специальном функциональном базисе, порождаемом эмпирическими распределениями, получаемыми путём обучения на исходных выборках наблюдений. Задача различения гипотезы и альтернативы рассматривается как задача различения проекций плотностей в данном базисе.
3. Разработан, получил развитие и практическую проверку новый подход к непараметрической адаптации ранговых алгоритмов, работающих в условиях зависимости исходных наблюдений. Подход основан на построении оценки параметрического распределения рангов; параметр распределения которого определяется степенью зависимости исходных данных и не зависит от вида их распределения. Предложен ряд моделей зависимости исходных наблюдений, параметры которых не зависят от вида распределения. В результате оценивания указанных параметров модели, расчёта на их основе рангового распределения и соответствующей коррекции порога обнаружения удаётся обеспечивать стабилизацию вероятности ложной тревоги непараметрического правила.
4. Предложен и развит новый подход к построению процедуры устойчивой бинарной ранговой сегментации сигналов и изображений, работающей в условиях априорной неопределенности относительно-количества наблюдений каждого из классов в данных, структуры выборки, а также распределения наблюдений каждого из классов. Предложенный подход позволяет находить устойчивую оценку порога сегментации, а также принимать решение об однородности выборки наблюдений. В диссертации показано, что данный подход может быть распространён на случай большего количества уровней, т.е. использован для многоуровневой сегментации.
5. Показано, что ранговый подход к бинарной сегментации одномерных данных- может быть распространён на случай векторных наблюдений. При этом существенно расширяется класс задач, которые могут быть решены с использованием данного подхода. Доказывается, что применение векторного подхода позволяет получать более низкие вероятности ошибочных классификаций наблюдений по сравнению с одномерным подходом.
7. Заключение
В диссертации решена важная научно-техническая проблема в области статистических методов обработки информации - предложены и развиты новые подходы к синтезу алгоритмов обработки сигналов и изображений в условиях непараметрической априорной неопределенности, повышению их эффективности и устойчивости. На базе предложенных подходов получен ряд эффективных алгоритмов обнаружения и оценивания сигналов и сегментации изображений.
Разработанные в диссертации непараметрические алгоритмы нашли применение в серийно выпускаемой аппаратуре, в частности, сейсмических охранных системах «Форшлаг», «Азимут», «Модуль». Применение непараметрического подхода к задаче сегментации изображений позволило получить устойчивые результаты первичной обработки, используемой в алгоритмах распознаваний буквенно-цифровой информации, нанесённой на бортах транспортных средств.
Библиография Райфельд, Михаил Анатольевич, диссертация по теме Теоретические основы информатики
1. Айвазян С.А. Классификация многомерных наблюдений / С.А. Айвазян, З.И. Бежаева, О.В. Староверов. М.: Статистика, 1974. - 240 с.
2. Акимов П.С. Об устойчивости непараметрического теста при некогерентной обработке / П.С. Акимов, B.C. Ефремов, А.Н. Кубасов // Радиотехника и электроника. — 1978. Т.23., №6. - С. 1164 — 1173.
3. Акимов П.С. Знаковое обнаружение сигнала на фоне коррелированной / П.С. Акимов // Радиотехника и электроника. — 1979. Т. 24., №9. - С. 1928-1932.
4. Акимов П.С., Недолужко В.И. Ранговое и знаковое обнаружение на фоне коррелированной помехи / П.С. Акимов, В.И. Недолужко // Радиотехника и электроника,- 1986.-Т. 31., №6.- С. 1121-1132.
5. Андерсон Д. А. Дискретная математика и комбинаторика / Д. А. Андерсон. М.: Издательский дом «Вильяме», 2003. — 960 с.
6. Андреев Г.А. Формирование радиолокационных изображений на СМВ и ММВ / Г.А. Андреев, A.A. Потапов // Зарубежная радиоэлектроника. -1989.-№6.- С. 3-21.
7. Андреев Г.А. Активные системы ориентации по географическим полям / Г.А. Андреев, A.A. Потапов // Зарубежная радиоэлектроника. 1988. — №9.- С. 62-85.
8. Афанасьев Н.Ф. Математические методы в геологическом дешифрировании аэрофотоснимков / Н.Ф. Афанасьев, K.M. Петров, A.B. Теосев. М.: Наука, 1981.-280 с.
9. Ахметьянов В.Р. Обработка радиолокационных изображений в задачах дистанционного зондирования Земли / В.Р. Ахметьянов, А.Я. Пасмурнов // Зарубежная радиоэлектроника. 1985. - № 5. - С. 70-81.
10. П.Бакут П.А Обнаружение движущихся объектов / П.А. Бакут, Ю.В. Жулина, H.A. Иванчук. М.: Сов. Радио, 1980. - 288 с.
11. Бакут П.А. Сегментация изображений: Методы пороговой обработки / П.А. Бакут, Г.С. Колмогоров, И.Э. Ворновицкий // Зарубежная радиоэлектроника. 1987. - №10. - С. 6 - 24.
12. Бакут П.А. Сегментация изображений: Методы выделения границ областей / П.А. Бакут, Г.С. Колмогоров // Зарубежная радиоэлектроника. -1987. -№10. -С. 25 -45.
13. Беллман Р. Введение в теорию матриц / Р. Беллман. М.: Наука, 1969. -368 с.
14. Богданович В. А. Теория устойчивого обнаружения, различения и оценивания сигналов / В.А. Богданович, А.Г. Вострецов. М. :Физматлит, 2003. - 316 с.
15. Болдин М.В. Знаковый статистический анализ линейных моделей / М.В. Болдин, Г.И. Симонова, Ю.Н. Тюрин. М.: Наука. Физматлит. - 1997. -288 с.
16. Большаков И.А. Математические основы современной радиоэлектроники / И.А.Большаков, JI.C. Гуткин и др. М.: Сов. Радио, 1968. - 206 с.
17. Болыпев JI.H. Таблицы математической статистики / JI.H. Болыпев, Н.В. Смирнов. -М.: Наука, 1983.-416 с.
18. Борисенко В. И. Сегментация изображений (состояние проблемы) / В.И. Борисенко, JI.A. Златопольский, И.Б. Мучник // Автоматика и телемеханика. 1987. - №7. — С. 3 - 56.
19. Брайс K.P. Анализ сцены при помощи выделения областей / K.P. Брайс, K.JI. Феннема // Интегральные роботы. Вып. 2. М.: Мир, 1975. — с. 136 -159.
20. Быстрые алгоритмы в цифровой обработке изображений / Т. С. Хуанг, Дж.-О. Эклунд, Г. Дж. Нуссбаумер и др.; под ред. Т.С. Хуанга. М.: Радио и связь, 1984.-224 с.
21. Ван Трис Г. Теория обнаружения, оценок и модуляции. В 3-х т. / Г. Ван Трис. -М.: Сов. Радио, 1972. 3 т.
22. Василенко Г.И. Восстановление изображений / Г.И. Василенко, A.M. Тараторин. М.: Радио и связь, 1987. - 304 с.
23. Васильев К.К. Методы фильтрации многомерных случайных полей / К.К. Васильев, В.Р. Крашенинников. Саратов.: Изд-во Саратовского ун-та, 1990.-124 с.
24. Васюков В.Н. Новые подходы к решению задач обработки и распознавания изображений / В.Н. Васюков, И.С. Грузман, М.А. Райфельд // Наукоемкие технологии. 2002. - №3. - С. 32,- 35.
25. Васюков В.Н. Сегментация текстурных изображений, основанная на иерархической бинарной гиббсовской модели / В.Н. Васюков, H.A. Двуреченская, А.Н. Сметанин // Научный вестник НГТУ. № 3(25). — 2006.-С. 13-26.
26. Вежневец А. Выделение связных областей в цветных и полутоновых изображениях Электронный ресурс. / А. Вежневец. Электрон, журн. -Компьютерная графика и мультимедиа. - Вып.№4(4). — 2003. — Режим доступа к журн.: http: //cgm.computergraphics.ru
27. Вежневец А. Методы сегментации изображений: автоматическая сегментация / А. Вежневец, О. Баринова — Электрон, журн. Компьютерная графика и мультимедиа. Вып.№4(14). — 2006. — Режим доступа к журн.: http: //cgm.computergraphics.ru
28. Верхаген К., Дейн Р., Грун Ф., Распознавание образов: Состояние и перспективы / К. Верхаген, Р. Дейн, Ф. Грун. М.: Радио и связь, 1985. -104 с.
29. Весоловский К. Системы подвижной радиосвязи / К. Весоловский; пер. с польск. И.Д. Рудинского, под ред. А.И. Ледовского. М.: Горячая линия - Телеком, 2006. - 536 с.
30. Виттих В.А. Обработка изображений в автоматизированных системах научных исследований / В.А. Виттих, В.В. Сергеев, В.А. Сойфер. М.: Наука, 1982.-216 с.
31. Вульф Д. Непараметрические методы статистики / Д. Вульф, М. Холлендер; пер с англ. Д. С. Шмерлинга, под ред. Ю.П. Адлера, Ю.Н. Тюрина. -М.: Финансы и статистика, 1983. 518 с.
32. Гаек Я. Теория ранговых критериев / Я. Гаек, 3. Шидак; пер с англ. Д.М. Чибисова под ред. JI.H. Болыпева. М.: Наука, 1971. - 376 с.
33. Гимельфарб Г.Л. Модели марковских случайных полей в задачах генерации и сегментации текстурных изображений / Г.Л. Гимельфарб, A.B. Залесный // Средства интеллектуализации кибернетических систем. -Киев, 1989, 27 с.
34. Головченко Т.А. Адаптивная сегментация и шумоподавление в задаче обработки сейсмоакустических сигналов / Т.А. Головченко // Перспективные информационные технологии и интеллектуальные системы. №1(25). - 2006. - С. 58 - 60.
35. Гольтвегер В.Я. Опыт автоматизации обработки данных дешифрирования и выделение элементов по космическим снимкам / В.Я. Гольтвегер, В.А. Ильин, В.М. Кушнир // Исследование земли из космоса. — 1984. №3. - С. 24-27.
36. Горбунов Б.А. Распознавание изображений в дистанционном зондировании / Б.А. Горбунов, В.Н. Дементьев, В.П. Пяткин // Автоматизированная обработка изображений природных комплексов Сибири. Новосибирск: Наука, 1988, 223 с.
37. Горелик А.Л. Методы распознавания / А.Л. Горелик, В.А. Скрипкин. М.: Высшая школа, 1989. - 232 с.
38. Гребенщиков К.Д. Обработка сигналов в сейсмических системах контроля периметров / К.Д. Гребенщиков, М.А. Райфельд, A.A. Спектор, Е.А.
39. Тонконогов // Матер, докл. 7-й Всеросс. науч.-практ. конф. Томск: ТУСУР, 2005.-С. 71-73.
40. Гребенщиков К. Д. Ранговый обнаружитель локальных перепадов яркости изображения с фиксированным уровнем ложных срабатываний / К. Д. Гребенщиков, А. А. Спектор // Автометрия. 2001. - № 4. - С. 119-127.
41. Грибков И.В. Исследование методов сегментации изображений / И.В. Грибков, A.B. Захаров, П.П. Кольцов, Н.В. Котович, A.A. Кравченко, A.C. Куцаев, A.C. Осипов // Программные продукты и системы. № 4. - 2008. -С. 26-33.
42. Грузман И.С. Двумерная фильтрация изображений на основе использования ограниченных данных / И. С. Грузман, В. И. Микерин, А. А. Спектор // Радиотехника и электроника. 1995. - № 5. — С. 817-822.
43. Грузман И.С. Сегментация анизотропных изображений на основе локальных спектральных характеристик. / И. С. Грузман, К. В. Новиков // Автометрия. 2004. - №4. - С. 26 - 32.
44. Губанов П.В. Автоматическая сегментация, текстурированных изображений на основе локальных распределений характеристик / П.В1 Губанов // Вестник ТГУ. Томск: ТГУ - Т 271. - 2000. С. 74 - 77.
45. Даджион Д. Цифровая обработка многомерных сигналов / Д. Даджион, Р. Мерсеро; пер с англ. В.А. Григорьева, К.Г. Финогенова, под ред. Л.П. Ярославского. -М.: Мир, 1988.-488 с.
46. Дейхин JI.E. Адаптивное ранговое обнаружение объектов на изображениях с коррелированным фоном / JI.E. Дейхин, М.А. Райфельд,
47. A.A. Спектор // Радиотехника и электроника. 1989. - Т. 34, №10. - С. 2112-2118.
48. Денисов Д.А. Сегментация изображений на ЭВМ / Д.А. Денисов, В.А. Низовкин // Зарубежная радиоэлектроника. 1985. - № 9. - С. 5 - 29.
49. Дорогов А.Ю. Быстродействующий алгоритм семантической классификации JPEG-изображений / А.Ю. Дорогов, Р.Г. Курбанов, В.В. Разин // Нейроинформатика. Т. 1, № 2. -2006. - С. 124- 145.
50. Дуда Р. Распознавание образов и анализ сцен / Р. Дуда, П. Харт; пер. с англ. Г.Г. Вайнштейна, A.M. Васьковского, под ред. B.JI. Стефанюка. — М.: Мир, 1976.-511 с.
51. Дэйвид Г. Порядковые статистики / Г. Дэйвид; пер. с англ. В.А. Егорова,
52. B.Б. Невзорова, под ред. В.В. Петрова. М.: Наука, 1979. - 336 с.
53. Жизняков A.JI. Сегментация изображений на базе использования адаптивной локальной области / А.Л. Жизняков, В.Е. Гай. // Вестник компьютерных и информационных технологий. М.: Машиностроение. -№1.-2008.-С. 16-21.
54. Электрон, текстовые дан. Пенза: ФГУП «ПНИЭИ», 2008. — Режим доступа: http: // www.pniei.penza.ru/documents/017.htm
55. Калачик P.A. Алгоритм автоматической сегментации с агрегированием сегментов в системах поиска изображений / P.A. Калачик // Вестник РГРТУ. Рязань: РГРТУ. - Вып. 23. - 2008. - С. 1 - 4.
56. Кендалл М. Ранговые корреляции / М. Кендалл.— М.: Наука, 1975.-216 с.
57. Кендалл М. Статистические выводы и связи / М. Кендалл, А. Стьюарт; пер. с англ. Л.И. Гальчука, А.Т. Терёхина, под ред. А.Н. Колмогорова. — М.: Наука, 1973.-899 с.
58. Клочко В.К. Алгоритмы фильтрации и сегментации трехмерных радиолокационных изображений поверхности / В.К. Клочко, A.A. Ермаков // Автометрия №5. - 2002. - С. 41 - 48.
59. Колумэн Г.Б. Сегментация изображений при помощи автоматической классификации / Г.Б. Колумэн, Х.С. Эндрюс // ТИИЭР. 1979. - Т.67, №5.- С. 39-49.
60. Кревецкий A.B. Выделение объектов на сложном неоднородном фоне при анализе цветных изображений в биологических исследованиях / A.B. Кревецкий, Ю.А. Ипатов // Вестник РГРТУ. Рязань: РГРТУ. - № 4(26). - 2008.-С. 18-24.
61. Кузьмин С.З. Основы проектирования систем цифровой обработки радиолокационной информации / С.З.Кузьмин. М.: Радио и связь, 1986. -352 с.
62. Лапко A.B. Непараметрические системы обработки неоднородной информации / A.B. Лапко, В.А. Лапко. — Новосибирск:Наука, 2007.- 147 с.
63. Левин Б.Р. Теоретические основы статистической радиотехники / Б.Р. Левин. М.: Радио и связь, 1989. - 656 с.
64. Леман Э. Теория точечного оценивания / Э. Леман; пер. с англ. Ю.В. Прохорова. М.: Наука, 1991. - 448 с.
65. Леман Э. Проверка статистических гипотез / Э. Леман; пер. с англ. Ю.В. Прохорова . М.: Наука, 1979. 408 с.
66. Магауенов Р.Г. Системы охранной сигнализации. Основы теории и принципы построения / Р.Г. Магауенов. Горячая Линия - Телеком. -2008.-496 с.
67. Мандель И.Д. Кластерный анализ / И.Д. Мандель. М.: Финансы и статистика, 1988. 176 с.
68. Маркел Дж. Д., Грэй А. X. Линейное предсказание речи / Дж. Д. Маркел, А. X. Грэй; пер. с англ. под ред. Ю. Н. Прохорова и В. С. Звездина. — М.: Связь, 1980.-308 с.
69. Марпл мл. С.Л. Цифровой спектральный анализ и его приложения / С.Л. Марпл мл.; пер. с англ. О.И. Хабарова, Г.А. Сидоровой, под ред. И.С. Рыжака. М.: Мир, 1990. - 584 с.
70. Миддлтон Д. Введение в статистическую теорию связи. В 2-х т. / Д. Миддлтон; пер. с англ. под. ред. Б.Р. Левина. М.: Сов. Радио, 1962. - 2 т.
71. Обнаружение радиосигналов / П.С. Акимов, Ф.Ф. Евстратов, С.И. Захаров и др.; под ред. A.A. Колосова. М.: Радио и связь, 1989. - 288 с.
72. Обработка сигналов в радиотехнических системах / А.Д. Далматов, A.A. Елисеев, А.П. Лукошкин, A.A. Оводенко, Б. В. Устинов; под ред. А.П. Лукошкина. Л.: Изд-во Ленинградского ун-та, 1987. - 400 с.
73. Павлидис Т. Алгоритмы машинной графики и обработки изображений / Т. Павлидис. М.: Радио и связь, 1986. - 394 с.
74. Применение методов сегментации изображений в автоматических системах обнаружения, распознавания и сопровождения движения целей / Под. ред. Бакута П.А. // Зарубежная радиоэлектроника. №10. - 1987. - С. 6-24.
75. Прокис Дж. Цифровая связь / Дж. Прокис; пер. с англ. под ред. Д.Д. Кловского. М.: Радио и связь, 2000. - 800 с.
76. Прудников А.П. Интегралы и ряды / А.П. Прудников, Ю.А. Брычков, О.И. Маричев. М.: Наука, 1981.-800 с.
77. Прэтт У. Цифровая обработка изображений. В 2-х т. / У. Прэтт; пер. с англ. под ред. Д.С. Лебедева. М.: Мир, 1982. - 2 т.
78. Рабинер Л. Р. Цифровая обработка речевых сигналов / Л. Р. Рабинер, Р. В. Шафер; пер. с англ. под ред. Ю.Н. Прохорова, М.В. Назарова. -М.: Радио и связь, 1981.-496 с.
79. Райфельд М.А. Бинарная и многоуровневая сегментация полутоновых изображений / М.А. Райфельд // Радиотехника и электроника. — 2000. Т. 45,№6.- С. 705-708.
80. Райфельд М.А. Использование группировки для увеличения мощности непараметрического критерия, основанного на превышающих наблюдениях / М.А. Райфельд // Изв. вузов России. Радиоэлектроника. -2006.- №2.-С. 28-35.
81. Райфельд. М.А. Использование устойчивых показателей зависимости наблюдений при адаптации ранговых критериев / М.А. Райфельд // Изв. вузов России. Радиоэлектроника. 2009. - №1. — С. 14-22.
82. Райфельд М.А. Методы предварительной обработки в задаче распознавания сцен / М.А. Райфельд, А.Ю. Голенков // Статистические методы обработки сигналов: межвуз. сборник научн. тр. Новосибирск: НЭТИ, 1991.-С. 33-39.
83. Райфельд М.А. Непараметрический алгоритм различения сигнала и помехи, отличающихся дисперсиями / М.А. Райфельд // Изв. вузов. Радиоэлектроника.— 1991. №1.— С. 15—21.
84. Райфельд М.А. Непараметрическая адаптация алгоритма Вилкоксона для коррелированных наблюдений / М.А. Райфельд // Статистические методы обработки изображений: межвуз. сборник науч. тр. Новосибирск.: НЭТИ, 1993.-С. 12-16.
85. Райфельд М.А. Непараметрический алгоритм обнаружения линейных объектов / М.А. Райфельд //11 Всесоюзный семинар «Статистический синтез и анализ информационных систем». Ульяновск: УЛьПИ, 1988. -С. 69 - 70.
86. Райфельд М.А. Непараметрический метод адаптации алгоритма Вилкоксона при коррелированных наблюдениях / М.А. Райфельд // Российской научн. техн. конф. «Информатика и проблемы телекоммуникаций». Новосибирск: НГТУ, 1994. - С. 136 - 137.
87. Райфельд. М.А. Проективные непараметрические статистики для альтернатив сдвига и масштаба / М.А. Райфельд // Научный вестник НГТУ. 2006. - № 1(22). - С. 33 - 41.
88. Райфельд М.А. Ранговая адаптация алгоритма Вилкоксона для коррелированных наблюдений / М.А. Райфельд // 3-я Международная конф. Харьков - Туапсе, 1993. - С. 34 - 35.
89. Райфельд М.А. Ранговые алгоритмы обнаружения и оценивания в задачах обработки изображений: дисс. кандидата техн. наук: 05.13.14: защищена 19.05.1994: утв. 11.11.1994/М.А. Райфельд. Новосибирск, 1993.- 118 С.
90. Райфельд М.А. Ранговая бинарная сегментация изображений / М.А. Райфельд // Российская научн. техн. конф. «Информатика и проблемы телекоммуникаций». Новосибирск: НГТУ, 1996. - С. 49 - 50.
91. Райфельд М.А. Ранговая бинарная сегментация полутоновых изображений / М.А. Райфельд // Автометрия. 1995. - №5. — С. 116 - 120.
92. Райфельд М.А. Ранговое оценивание количества фоновых элементов на бинарных изображениях / М.А. Райфельд // Радиотехника и электроника. 1996.- Т.41, №4.- С. 472-477.
93. Райфельд М.А. Ранговая сегментация бинарных изображений / М.А. Райфельд // Методы обработки сигналов и полей: сб. научн. тр. — Ульяновск: УльГТУ, 1995. С. 53 - 61.
94. Райфельд М.А. Ранговая сегментация цветных изображений / М.А. Райфельд // Автометрия. 2001. - №1. - С. 21 - 26.
95. Райфельд М.А. Непараметрический метод обнаружения сигналов от сейсмически активных объектов / М.А. Райфельд, А.А. Спектор II Автометрия. 2005. - №6. - С. 88 - 97.
96. Райфельд М.А. Определение направления и скорости движения объекта в сейсмической системе охранного наблюдения / М.А. Райфельд, А.А.
97. Спектор, С.Г. Филатова // Сборник научных трудов НГТУ. Новосибирск: НГТУ, 2008. - Вып. 4(54). - С. 45-53.
98. Репин В.Г., Тартаковский Г.П. Статистический синтез при априорной неопределённости и адаптация информационных систем / В.Г. Репин, Г.П. Тартаковский. М.: Сов радио, 1977. - 432 с.
99. Розенфельд А. Распознавание и обработка изображений / А. Розенфельд.- М.:Мир, 1972.-230 с.
100. Сверхбольшие интегральные схемы для распознавания образов и обработки изображений / Под ред. К.Фу. М.: Мир, 1988. - 248 с.
101. Сверхбольшие интегральные схемы и современная обработка сигналов / Под ред. С. Гуна, Х.Уайтхауса, Т.Кайлата. М.: Радио и связь, 1989. -471 с.
102. Сидорова B.C. Многомерная гистограмма и разделение векторного пространства признаков по унимодальным кластерам / B.C. Сидорова // International Conference Graphicon. Новосибирск. - 2005. - С. 267 - 274.
103. Сидорова B.C. Текстурный анализ аэрокосмических изображений на-ЭВМ / B.C. Сидорова // Математические и технические проблемы обработки изображений-Новосибирск, ВЦ СОАН СССР, 1988.-С. 30-36.
104. Соломатин И.И. Обзор методов предварительной обработки тоновых изображений для распознавания искусственных объектов / И.И. Соломатин // Приборостроение. Т. 39, №7 - 1996. С. 5 - 12.
105. Сосулин Ю.Г. Теория обнаружения и оценивания стохастических сигналов / Ю.Г. Сосулин. М.: Сов. Радио, 1978. - 320 с.
106. Сорокин В.Н. Сегментация и распознавание гласных / В.Н. Сорокин, А.И. Цыплихин // Информационные процессы. — Т.4, № 2. — 2004. С. 202 -220.
107. Спектор А. А. Рекуррентная фильтрация гауссовских многомерных сигналов на фоне помех / А. А. Спектор, А. Н. Самсонов // Радиотехника. 1996.-№ 1.с. 19-22.
108. Стратонович P.JI. Условные Марковские процессы и их применение в теории оптимального управления / Р.Л. Стратонович МГУ, 1965 - 319 с.
109. Тарасенко П.Ф. Оптимальные тесты, основанные на индикаторах событий / П.Ф. Тарасенко // Вестник Томского гос. университета: прил. № 1(1).- Томск: ТГУ, 2002. С. 185-190.
110. Тарасенко П.Ф. Проверка гипотез о параметрах линейной модели на основе индикаторных признаков / П.Ф. Тарасенко // Обозрение прикладной и промышленной математики. 2003. - Т. 10, Вып. 2. - С. 515-517.
111. Теория обнаружения сигналов / П.С. Акимов, П.А. Бакут, В.А. Богданович и др.; под ред. П.А. Бакута. М.: Радио и связь, 1984. - 440 с.
112. Тихонов В.И. Нелинейная фильтрация и квазикогерентный приём сигналов / В.И. Тихонов, И.К. Кульман. М.: Сов. Радио, 1975. - 704 с.
113. Томас Д.Б. Непараметрические методы обнаружения сигналов // ТИИЭР. 1970. - Т.58, №5. - С. 23 - 31.
114. Трифонов А.П. Совместное различение сигналов и оценка их параметров на фоне помех / А.П. Трифонов, Ю.С. Шинаков. М.: Радио и связь, 1986.-264 с.
115. Ту Д. Принципы распознавания образов / Д. Ту, Р. Гонсалес, М.: Мир, 1978.-411 С.
116. Тьюки Д. Анализ результатов наблюдений: разведочный анализ / Д. Тьюки.-М.: Мир, 1981.-693 с.
117. Тюрин Ю.Н. Непараметрические методы статистики / Ю.Н. Тюрин. — М.: Знание, 1978.-64 с.
118. Филимонов Р.П. Граница асимптотической эффективности двух инвариантных правил обнаружения к правилу Вилкоксона / Р.П. Филимонов // Радиотехника и электроника. 1992. — Т.37,№12.
119. Фомин Я.А. Статистическая теория распознавания образов / Я.А. Фомин, Г.Р. Тарловский. М.: Радио и связь, 1986. - 264 с.
120. Френке Jl. Теория сигналов / Л. Френке; пер. с англ. М.Р. Краевской, P.M. Седлицкого, под ред. Д.Е. Вакмана. М.: Сов. Радио, 1974. - 344 с.
121. Фукунага К. Введение в статистическую теорию распознавания образов / К. Фукунага. М.: Наука, 1979. - 368 с.
122. Хабиби А. Двумерная байесовская оценка изображений / А. Хабиби // ТИИЭР. 1972. - Т.60, №7. - С. 153 - 159.
123. Робастность в статистике. Подход "на основе функций влияния / Ф. Хампель, Э. Рончетти, П. Рауссеу, В.Штаэль. —М.: Мир, 1989. 512 с.
124. Хыобёр П. Робастность в статистике / П. Хьюбер; пер с англ. И.А. Маховой, В.И. Хохловой под ред. И.Г. Журбенко. М.: Мир, 1984 - 304 с.
125. Цифровая обработка изображений в информационных системах: Учеб. пособие / И.С. Грузман, B.C. Киричук и др. Новосибирск: Изд-во НГТУ, 2002.-352 с.
126. Ярославский Л.П. Введение в цифровую обработку изображений / Л.П. Ярославский. М.: Сов. Радио, 1979. - 312 с.
127. Ярославский Л.П. Цифровая обработка сигналов в оптике и-голографии: Введение в цифровую оптику / Л.П. Ярославский. М.: Радио и связь, 1987. - 296 с.
128. Ким В. Ранговые алгоритмы обработки изображений / В. Ким . Л.П. Ярославский // Адаптивные методы обработки изображений: Сб. научн. тр./ под ред. Сифорова В.И., Ярославского Л.П. М.:Наука, 1988 — С. 35-73.
129. Adams R. Seeded Region Growing / R. Adams, L.Bischof // IEEE Trans. Pattern Analysis and Machine Intelligence. 1994-Vol. 16(6).- p. 641- 647.
130. Cheng, H.D. A Hierarchical Approach to Color Image Segmentation Using Homogeneity / H.D. Cheng, Y.Sun // IEEE Trans. Image Processing. — 2000: -Vol. 9, №12. p. 2071 - 2082.
131. Deng Y. Цветная сегментация изображения Электронный ресурс. / Y. Deng, В. S. Manjunath, Н. Shin . — Электрон, текстовые дан. —Режим доступа: http://www-iplab.ece.ucsb.edu/publications/99CVPRSeg.pdf.
132. Fu К. S. A Survey on Image Segmentation / K. S. Fu, J. K. Mui // Pattern Recognition. 1981. - Vol. 13. - p. 3 - 16.
133. Haralick R.M. Image Segmentation Techniques / R.M. Haralick, L.G. Shapiro // Computer Vision, Graphics, and Image Processing. 1985. - Vol. 29, №1.-p. 100.
134. Jahne B. Digital image processing / B. Jahne. Springer, 2002. - 585 p.
135. Mitra S. K. Nonlinear Image Processing / S. K. Mitra, G. L. Sicuranza. -Academic Press, San Diego, 2001. 455 p.
136. Pal N.R. A Review on Image Segmentation Techniques / N.R. Pal, S.K. Pal // Pattern Recognition. 1993. - Vol. 26, №9. - p. 1277 - 1294.
137. Wang H. Цветная сегментация' изображения с помощью глобальной информации и локальной однородности Электронный ресурс. / Н. Wang, D. Suter Электрон. текстовые дан. — Режим доступа: http://www.cmis.csiro.au/Hugues.Talbot/dicta2003/cdrom/pdf/0089.pdf
138. Woods J.W. Two-Dimensional Kalman Filtering / J.W. Woods // Topics in Applied Physics. Berlin, 1981.-Vol. 42.-p. 155-208.
-
Похожие работы
- Синтез и анализ непараметрических коллективов решающих правил
- Обнаружение сигналов в условиях априорной неопределенности по дискретной пространственно-временной выборке конечного объема
- Разработка и моделирование алгоритмов оценки параметров геометрической трансформации изображений с использованием неподвижной точки
- Исследование и разработка методов формирования решающих правил при классификации фрагментов на полутоновых изображениях
- Непараметрические k-этапные процедуры обнаружения
-
- Системный анализ, управление и обработка информации (по отраслям)
- Теория систем, теория автоматического регулирования и управления, системный анализ
- Элементы и устройства вычислительной техники и систем управления
- Автоматизация и управление технологическими процессами и производствами (по отраслям)
- Автоматизация технологических процессов и производств (в том числе по отраслям)
- Управление в биологических и медицинских системах (включая применения вычислительной техники)
- Управление в социальных и экономических системах
- Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей
- Системы автоматизации проектирования (по отраслям)
- Телекоммуникационные системы и компьютерные сети
- Системы обработки информации и управления
- Вычислительные машины и системы
- Применение вычислительной техники, математического моделирования и математических методов в научных исследованиях (по отраслям наук)
- Теоретические основы информатики
- Математическое моделирование, численные методы и комплексы программ
- Методы и системы защиты информации, информационная безопасность