автореферат диссертации по радиотехнике и связи, 05.12.04, диссертация на тему:Рабочие алгоритмы и устройства распознавания типов объектов при наличии мешающих факторов
Автореферат диссертации по теме "Рабочие алгоритмы и устройства распознавания типов объектов при наличии мешающих факторов"
На правах рукописи
Плаг^
Нгуен Дак Туан 003069643
' ¿ии/
РАБОЧИЕ АЛГОРИТМЫ И УСТРОЙСТВА РАСПОЗНАВАНИЯ ТИПОВ ОБЪЕКТОВ ПРИ НАЛИЧИИ МЕШАЮЩИХ ФАКТОРОВ
Специальность 05.12 04 - Радиотехника, в том числе системы и устройства телевидения Специальность 05 12 14 - Радиолокация и радионавигация
АВТОРЕФЕРАТ
диссертации на соискание ученой степени кандидата технических наук
Рязань 2007
003069649
Работа выполнена в ГОУ ВПО «Рязанский государственный университет»
Научный руководитель - д т н , профессор Кошелев Виталий Иванович Официальные оппоненты - д т н , доцент Езерский Виктор Витольдович
Ведущая организация - ОАО «Корпорация «Фазотрон - НИИР» НИИ
«Рассвет», г Рязань
Защита состоится 30 мая 2007 года в 14 часов 00 минут на заседании диссертационного совета Д 212.211.04 в ГОУ ВПО «Рязанский государственный университет» по адресу 390005, Рязань, ул Гагарина,
С диссертацией можно ознакомиться в библиотеке Рязанского государственного радиотехнического университета
- к т н. Зорин Сергей Валентинович
59/1
Автореферат разослан " апреля 2007 г
Ученый секретарь диссертационного совета, к т н, доцент
А Г Борисов
ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ
Актуальность темы В условиях постоянного роста интенсивности воздушного движения, а также угрозы использования воздушных объектов в целях терроризма и контрабанды особенно актуальна задача повышения уровня безопасности воздушного движения Исследования в области распознавания образов и развитие радиоэлектронных технологий способствуют созданию многофункциональных РЛС, способных не только обнаруживать воздушные объекты, но и классифицировать их по определенному типу
Современные достижения в области разработки нейропроцессоров могут быть успешно использованы для решения рассматриваемой задачи Актуальным является совершенствование структуры нейронных сетей и разработка алгоритмов их адаптации к конкретным условиям решения задачи распознавания Комплексное решение таких задач позволяет найти наиболее эффективные алгоритмы как с точки зрения повышения вероятности правильного распознавания, так и обеспечения требуемой скорости вычислений
Большой вклад в развитие теории распознавания и классификации внесли зарубежные ученые Дуда Р , Харт П, Гонсалес Р, Ту Дж, Фукунага К , Патрик Э , Розенблат, Пейперт, Румельхарт, Хинтон Вильяме, советские и российские ученые Айзерман С А, Браверман, Вапник В Н , Рязанов В В , Червоненкис, Журавлев Ю.И , Горелик А Л., Скрипкин В А , Омельченко В А , Небабин В Г, Сергеев В В, Ширман Я Д, Галушкин А И и другие Их работы посвящены общей теории распознавания образов и применимы в конкретных случаях к распознаванию сигналов и различных объектов естественного и искусственного происхождения
Цель работы состоит в повышении вычислительной эффективности алгоритмов распознавания на примере распознавания воздушных объектов (ВО), определении необходимого числа отсчетов признаков, используемых при распознавании, оптимизации структуры искусственных нейронных сетей (ИНС), адаптивном методе обучения с учетом влияния шумов, сопровождающих полезные сигналы при обнаружении и распознавании изменения ракурса наблюдения объектов В работе также решается проблема определения минимально необходимого размера обучающей выборки при обучении
Для достижения данной цели проведены следующие исследования 1) формализована задача распознавания типов ВО для систем управления воздушным движением в зоне аэропорта, разработаны алгоритмы и программы математического моделирования, учитывающие параметры РЛС, условия полета ВО, формирования его дальностных портретов, создания обучающей и контрольной выборок для последующего исследования,
2) изучено влияние размера обучающей выборки на качество распознавания,
3) проведен сравнительный анализ эффективности применения различных признаков для распознавания, решены проблемы преодоления неопределенности дальностного портрета в окне наблюдения,
4) определен оптимальный набор параметров для обучения методом обратного распространения ошибок, оптимизирован уровень шума для адаптации алгоритма обучения к реальным отношениям сигнал-шум при распознавании,
5) определено число ближайших соседей при использовании одноименного метода распознавания,
6) проведено сравнение различных методов обучения и интерпретированы модельные результаты распознавания искусственными нейронными сетями и методом ¿-ближайших соседей (КБС) по таким параметрам как вероятность правильного распознавания (ВПР) и время выполнения алгоритма,
7) учтено влияние изменения ракурса наблюдения воздушного объекта на эффективность использования различных методов обучения и качество распознавания,
8) выбрана оптимальная структура нейронных сетей для условий решаемой задачи
Методы исследований, использованные в диссертационной работе, основаны на статистической теории радиотехнических систем, параметрическом моделировании случайных процессов, численных алгоритмах поиска экстремума, математическом моделировании Основные числовые результаты получены на основе аналитических и вычислительных математических методов
Основные положения, выносимые на защиту
1. Экспериментальное определение числа нейронов в скрытом слое ИНС при использовании спектральных признаков дальностных портретов, что позволило упростить структуру НС (с исходной структуры 90-90-5 до 30-60-5) практически без уменьшения ВПР объектов
2. Обоснование выбора параметров при обучении ИНС с учетом реального отношения сигнал-шум и ракурса объектов, что позволило повысить ВПР с 0 91 до 0.96 при изменении ракурса с ± 50° до ± 10° и отношении сигнал-шум 20 дБ.
3 Алгоритмы обучения и распознавания, использующие спектральные дальностные портреты (ДП), повышающие ВПР на 4 % и одновременно позволяющие устранить их неопределенность в окне наблюдения при отношении сигнал-шум не меньше 15 дБ
Научная новизна диссертации заключается в следующем
1) определена зависимость оптимального числа ближайших соседей
от расстояния между распознаваемым случайным сигналом и эталонами,
2) установлено, что временные вычислительные затраты при использовании ИНС по сравнению с методом «ближайших соседей» сокращаются более чем в 20 раз,
3) показано, что для улучшения эффективности распознавания ВО по их ДП алгоритмом ИНС при наличии шума обучение ИНС необходимо проводить при уровне сигнал-шум до 5 дБ,
4) устранена неопределенность ДП в окне наблюдения при использовании частотных признаков При этом условии выигрыш по ВПР составляет 4 % в случае отношения сигнал-шум не меньше 15 дБ,
5) упрощена структура ИНС с 90-90-5 до 30-60-5 (число входов, выходов и нейронов в скрытом слое) при использовании частотных признаков в результате оптимизации количества нейронов,
6) сокращена размерность обучающего множества при использовании ИНС (двукратное сокращение исходного числа ДП приводит к потере ВПР не более 1 %),
Научное и практическое значение. Полученные результаты можно использовать для выбора структуры ИНС, размера обучающего множества, числа отсчетов признаков и метода обучения системы распознавания воздушных объектов Эти результаты совместно с разработанной программой для исследования сложных сигналов, используемых при распознавании полезно применять в учебном процессе технических вузов по радиотехническим специальностям Созданная программа оценки ВПР для различных алгоритмов распознавания (минимума расстояния, ближайшего соседа, КБС, ИНС) может быть использована для исследования задач распознавания случайных сигналов
Внедрение научных результатов диссертационной работы произведено в учебный процесс РГРТУ и в перспективные разработки АОЗТ «Рязанская радиоэлектронная компания»
Апробация работы проведена в процессе научных дискуссий на следующих научно-технических конференциях Международная молодежная научная конференция, посвященная 1000-летию города Казани «Туполевские чтения» (г Казань, 2005 г), Двенадцатая и тринадцатая международные научно-технические конференции студентов и аспирантов (г Москва, МЭИ, 2006, 2007 гг), Всероссийские научно-практические конференции студентов, молодых ученых и специалистов «Новые информационные технологии в научных исследованиях и в образовании» (г Рязань, РГРТУ, 2006,2007 гг)
Публикации. По теме диссертации опубликовано 12 работ, из них 4 статьи в журналах, рекомендованных ВАК РФ для публикации научных результатов кандидатских диссертаций, 2 статьи в межвузовских сборниках, 6 тезисов докладов
Структура и объем диссертации
Диссертационная работа состоит из введения, трех глав, заключения, списка литературы из 145 наименований 4 приложений Диссертация содержит 150 с, в том числе 127 с основного текста, 36 таблиц и 41 рисунок
СОДЕРЖАНИЕ ДИССЕРТАЦИИ
Во введении обоснована актуальность выбранной темы, определены цель и решаемые в работе задачи, изложены новые научные результаты, полученные в работе, показаны ее практическая ценность, приведены сведения о публикациях и апробации, сформулированы основные положения, выносимые на защиту
В первой главе освещено состояние вопроса, являющегося предметом исследования, рассмотрены также проблемы сопутствующие выделению информативных признаков для распознавания, Рассмотрены вопросы применения при распознавании методов преобразования Фурье и преобразования Карунена-Лоэва, проанализированы основные методы распознавания с использованием структуры нейронных сетей, исследованы методы грубого распознавания сигналов на основе вычисления центральной частоты и ширины спектра эхо-сигналов, позволяющие распознавать сигналы по скоростям и динамическим возможностям
В качестве модели случайного процесса использованы односвязный и многосвязный марковские процессы Для генерации односвязного марковского процесса (ОМП) в работе применен моделирующий рекурсивный фильтр первого порядка, а для модели многосвязного марковского процесса (ММП), имеющего спектральную плотность мощности гауссовского типа формирующий фильтр (ФФ) значительно более высокого порядка. Реально порядок ФФ зависит от ширины спектра процесса. Порядок ФФ т определялся по эмпирической формуле m=2(l/AJT+9AJT), учитывающей тот факт, что для формирования более узкополосного процесса требуется ФФ большего -порядка
Реализация аддитивной смеси сигнала и шума после дискретизации по времени с периодом 7" может быть представлена в виде
£(кТ ) = s(kT )jq + п(кГ ), (1)
где s(kT) - информативный сигнал, п(к.Т) - нормальный белый шум, q - отношение сигнал-шум по мощности
Значение амплитудного спектра сигнала достигает максимума в канале БПФ, который соответствует частоте сигнала На этом принципе построен алгоритм оценки частоты по максимальному отклику (МСО)
Оптимальный алгоритм оценки частоты, определяемый по методу максимального правдоподобия (МП) имеет вид A(p=arctg(Yl/Y2), где
N-1 , Л'-1
Y\ = Yj Rei^Ci+i) и Y2 = Yj lm(Ck£k+1) ~ соответственно усредненные
/Ы1 k=1
действительная и мнимая части мультипликаций комплексного сигнала Оценка частоты /с по этим алгоритмам в общем случае вычисляется как /с=Аф/2кТ=А(рР/2к, где Г-частота дискретизации По результатам анализа точности оценки центральной частоты показано, что в большинстве случаев оптимальный алгоритм МП имеет лучшую оценку по сравнению с алгоритмом максимума В тоже время точность оценки по методу МСО можно повышать введением поправки, вычисляемой по оценкам амплитуд спектра в соседних спектральных отсчетах На рис 1 и 2 приведены результаты анализа алгоритмов На рис 1 цифрами 1, 2 и 3 соответственно обозначены зависимости гармонического сигнала (ГС) с поправкой и ГС с увеличением числа спектральных отсчетов БПФ, цифрами 4 и 5 - оценки ОМП и ММП На рис 2 цифрами 1, 2, 3 обозначены оценки ГС, ОМП, ММП по методу МСО, 4, 5 и 6 - оценки ГС, ОМП и ММП по методу МП
Рисунок 1 - Точность оценки частот Рисунок 2 - Сравнение двух методов по методу максимума оценки частот
На рис. 3 и 4 показаны результаты оценки ширины спектра ОМП при использовании различных методов спектрального оценивания (периодограммного и авторегрессионного методов, а также при использовании коррелограммы и весовой обработки с окном Хемминга)
Рисунок 3 - Зависимость дисперсии Рисунок 4-Зависимость дисперсии оценки ширины спектра от оценки ширины спектра от длительности сигнала длительности сигнала
Дисперсия оценки ширины спектра случайного сигнала зависит от его длительности и отношения сигнал-шум Дисперсия оценки мало
изменяется при у > 0 дБ. Авторегрессионный метод (метод Берга) является лучшим из рассмотрениях методов оценки ширины спектра случайного узкополосного процесса.
Во второй главе рассматриваются такие классические методы распознавания, как статистические методы на основе байесовского правила, метод минимума расстояния и ¿-ближайших соседей.
Проверю распознавание случайных сигналов, проанализированное с помощью имитационного моделирования. В качестве критерия использована вероятность правильного распознавания. Проанализирована эффективность использования различных признаков (в конкретном случае признаков преобразования Карунена-Лоэва (ЛКЛ) и преобразования Фурье (ПФ), исследовано влияние шума на качество распознавания сигналов, показана возможность сокращения количества отсчетов признаков и определено число ближайших соседей при использовании метода к-ближайших соседей.
При моделировании были созданы модели шести базовых случайных сигналов, каждый из которых соответствует отражению радиолокационного сигнала от одного типа воздушного объекта. Типы ВО классифицированы по их геометрическим размерам - длине и ширине 49x56 М, $2- 44х24 М. ,^-32*33 М, 15*8 М, 6*0,6 М и ^-6x0,5 М). При этом, естественно учитывалась специфика их конфигурации. Созданы обучающее и контрольное множества, соответствующие каждому классу ВО. Каждое из рассмотренных множеств содержало 500 реализаций, а каждая реализация 128 отсчетов. На рис. 5 и 6 показаны окна для ввода парам етров моделирования.
^^
И
"I
гМЧ
/ N N 1 .....г 1 01Ж
/ \ / \
* • /
„г Щ
Рисунок 5 - Окно для ввода параметров РЛС
Проанализирован метод минимума расстояния (МР), как один из самых простых методов построения распознающего устройства. Для
каждого типа ВО по обучающей выборке строится эталон, имеющий
) I _ 1
значения признаков х' = ЯЦ,^,...,^',...,^ ], где = — * К =500 -
Л ¿=1
количество реализаций в обучающей выборке, ! - 1..Х- индекс отсчетов сигнала, ¿ = 128, / = 1 .,.6 - обозначает класс случайного сигнала.
Рисунок 6 - Окно для ввода параметров ВО
По существу, эталон - это усреднённая по обучающей выборке абстрактная реализация. Абстрактной мы её называем потому, что она может не совпадать не только ни с одной реализацией обучающей выборки, но и ни с одной реализацией генеральной совокупности. В результате создания эталонов получается один эталон для каждого класса случайного сигнала.
Известно, что байесовское решающее правило дает оптимальное решение среди методов распознавания. Но далеко не всегда удается использовать это правило из-за нехватки априорной информации о распределении плотности вероятностей классов и условной вероятности появления случайных сигналов. Метод ¿-ближайших соседей, введенный как не параметрический метод оценивания отношения правдоподобия, не требует знания распределения плотности вероятностей классов и условной вероятности случайных сигналов. Для этого метода получены теоретические оценки его эффективности в сравнении с оптимальным байесовским классификатором. Полученные результаты подтверждают, что асимптотические вероятности ошибки для метода ^-ближайших соседей превышают ошибки правила Байеса не более чем в два раза, а в некоторых случаях достигают ошибок правила Байеса. Этот метод классификации оказывается весьма эффективным при решении таких задач, в которых классы характеризуются значительной степенью зашумленности, а также в случаях сложной разделяющей поверхности или существенно пересекающихся классов.
Пусть выборка сигналов рассматривается с известной классификацией {хьхг, ,хк}, причем предполагаем, что каждый сигнал выборки входит в один из классов , 525 , Правило классификации, основанное на принципе ближайшего соседа, относит классифицируемый сигнал х* к классу, к которому принадлежит его ближайший сосед Как известно, этатон х е {х\,х2, ,хк} называется ближайшим соседом сигнала
х , если с!(х',х) < тт[с!{хк,х')},к = 1,2, ,К , где с! - любое расстояние,
к
определение которого допустимо на пространстве признаковых описаний сигналов Эта процедура классификации соответствует правилу ближайшего соседа (БС), так как при ее применении учитывается принадлежность некоторому классу только одного ближайшего соседа сигнала х* Аналогично определяется правило ¿-ближайших соседей, предусматривающее определение А-ближайших к х* эталонов и зачисление его в тот класс, к которому относится наибольшее число эталонов, входящих в эту группу
При использовании преобразования Карунена-Лоева коэффициенты преобразования можно получить по формуле с,к=ФТх,к,
где Ф - унитарная матрица, столбцы которой состоят из собственных векторов Ф =(ф\,ф2, ,ф[,. ,Фь), ■% - отсчет / реализации к, с1к -
коэффициенты преобразования Карунена-Лоэва Матрица Ф получается непосредственно из корреляционной матрицы случайных сигналов.
Полагая априорную вероятность шести классов одинаковой, то есть равной 1/6, корреляционная матрица К может быть получена по формуле и = уб(Я'+ +я'+ +Дб), где Я' - корреляционная матрица
случайных сигналов класса г и считается по следующей формуле
1 (ьоо Л
К' =— Xх;к(х1 к) • В результате получена квадратная корреляционная
500^=1 ' )
матрица Я размером 128x128. Известно, что собственные значения и собственные векторы можно определить по корреляционной матрице Я Соотношение /? = ФОлФт, где Бх диагональная матрица, диагональ которой есть вектор собственных значений {Х,,31.2, Д,, Д,28} и связывает матрицу Я с ее параметрами
Собственные значения Л, получаются л о о ^
решением уравнения йй (/?-;./)= 0 о >_2 0
Собственный вектор ф,, соответствующий х ~ собственному значению з , может быть 0 • >.128^
вычислен по формуле (й - Л;/)с4, = О
Максимальная размерность собственного вектора ф1 равна 128, что соответствует размерности матрицы К С целью сокращения количества признаков при использовании преобразования Карунена-Лоэва в работе исключаются собственные значения по пороговому уровню и в результате сокращения получается унитарная матрица Ф размерностью меньше 128 На рис 7 и 8 показаны результаты ПКЛ и ПФ сигнала класса $/ В табл 1 приведены ВПР по признакам ПКЛ по методу МР, а в табл 2 - ВПР по признакам ПФ по методу МР
Таблица 1
Рисунок 7 - Признаки ПКЛ
Класс случайного сигнала
я, дБ ■5; й 1 •5«
Вероятность правильного распознавания
-5 0786 0716 0658 0 826 0 576 0462
0 0 942 0 936 0 854 0 954 0 678 0584
5 0988 0986 0950 0988 0686 0666
10 0 998 0996 0998 0 992 0694 0674
15 1 0998 0998 0 994 0 702 0694
20 1 0998 0 998 0994 0704 0 705
Анализ результатов различных методов по признакам ПКЛ и ПФ показал, что метод КБС превосходит метод БС Метод БС лучше МР по критерию вероятности правильного распознавания В большинстве случаев признаки ПФ имеют преимущества над ПКЛ по критерию ВПР, а признаки ПКЛ более устойчивы к воздействию шума Использование различных окон при преобразовании Фурье изменяет численные значения результатов распознавания сигналов Выбор окна улучшает результаты распознавания сигналов, энергия которых сосредоточена в центре реализации, в противном случае результаты могут ухудшиться
Таблица 2
О 20 40 60 80 100 120
Рисунок 8 - Признаки ПФ
Я. дБ Класс случайного сигнала
«3 * * 1«
Вероятность правильного распознавания
-5 0176 0182 0198 0234 0318 0248
0 0314 0268 0304 0362 0 526 0348
5 0678 0 532 0 532 0480 0 820 0 804
10 0960 0902 0 772 0 728 0960 0996
15 0990 0952 0928 0836 1 1
20 0998 0982 0964 0854 1 1
При высоком отношении сигнал-шум метод минимума расстояния является наиболее эффективным Его структура наиболее проста (требуется сохранения всего шести эталонов в памяти), а время распознавания минимально по сравнению с остальными методами ВПР меньше в методе КБС в среднем на 8 % При малых отношениях сигнал-
шум (менее 5 дБ) метод КБС по сравнению с другими имеет самую высокую вероятность правильного распознавания Метод КБС намного сложнее в реализации, чем МР, так как требует сохранять все эталоны (в данной задаче - 500 эталонов) в памяти процессора и определять оптимальное число ближайших соседей Время выполнения метода КБС больше, чем метода МР примерно в 8 раз (не считая времени определения оптимального числа ближайших соседей) Метод БС немного уступает КБС по ВПР, но проще выполняется, так как не нужно определять оптимальное число ближайших соседей
При сокращении числа отсчетов признаков преобразования Карунена-Лоэва найдено компромиссное решение ВПР для всех классов Использование спектральных признаков позволяет получить 8-кратное сокращение количества отсчетов признаков практически без снижения вероятности правильного распознавания
В третьей главе рассматривается задача локационного распознавания пяти типов воздушных объектов Результаты распознавания типов воздушных объектов получены по дальностным портретам, созданным на основе имитационных методов математического моделирования В отличие от задач, решаемых в главе 2, были промоделированы алгоритмы распознавания ВО и получены ВПР с учетом неопределенности позиции дальностного портрета в наблюдаемом окне и изменения ракурса ВО
Для создания множества признаков ДП для различных типов ВО в качестве примера задавались следующие параметры зондирующих сигналов
- тип сигнала - ЛЧМ с шириной частот 160 МГц, соответствующей разрешению по дальности - 1м,
- частота повторения зондирующих импульсов РЛС - 100 Гц,
- ширина окна наблюдения РЛС - 200 м,
- сектор сканирования по угловым координатам - 40 градусов;
- шаг дискретизации по угловым координатам — 5 градусов Принималось, что все объекты находятся на высоте 800 м на
дальности 20 км и движутся со скоростью 800 км в час При исследовании данной задачи использованы один объект большого класса размера (49><56 М), обозначенный буквой А, два объекта среднего размера (44*24 и 32*33 М), обозначенные буквами Б и В, и два объекта меньших размеров (17x14 и 16 х7 М), обозначенные буквами Г и Д
Решена проблема выбора структуры нейронных сетей для решения данной задачи Выполнен сравнительный анализ различных алгоритмов обучения многослойных нейронных сетей, влияния шума, размера обучающего множества, количества нейронов в скрытых слоях на процесс обучения нейронных сетей и качество их распознавания
Для сокращения числа отсчетов и устранения неопределенности
положения в окне наблюдения ДП центрировались по медианному отсчету в меньшем окне 60-90 М, что соответствует 60-90 отсчетам одного портрета
Для заданной задачи выбрана структура ИНС со следующими характеристиками количество входов первого слоя равно количеству отсчетов ДП, т.е 90. количество нейронов выходного слоя равно количеству типов ВО, те. 5, количество нейронов скрытого слоя определено экспериментально и равно 90 В таком случае имеем структуру ИНС 90-90-5
Зависимость качества распознавания от количества нейронов рассматривается далее отдельно В качестве функции активации
использованы
дифференциальные функции Tansig в скрытом слое и Purelm в выходном слое Выбранная структура ИНС показана на рис 9, которая функционирует в соответствии с системой уравнений.
а) входного слоя ИНС X~[xhx2, ,х„ ,xN], N - количество отсчетов
ДП,
б) скрытого слоя ИНС
1 1 N 1 У j = f inetj +bj), net j = £ w' x,, (2)
i=i
где j=l Q,Q — количество нейронов в скрытом слое, Ь — вектор смещения,
в) выходного слоя ИНС
yf = Rnet, +bf), net, = £ w2}ly), (3)
M
где 1=1 L,L— количество нейронов в выходном слое
Согласно методу обратного распространения ошибок, весовой коэффициент wv изменяется после й итерации-
<(0 = <('-!) + Aw; (0, (4)
где wv - весовой коэффициент синаптической связи, соединяющей /-й нейрон слоя от-/ с j-м нейроном слоя т, Aw" - подстройка весовых
коэффициентов, которая считается по следующей формуле
Рисунок 9 - Структура ИНС
т-1
где у" 1 - выход нейрона г слоя т-1 Для выходного слоя ИНС величина
5™ вычисляется по формуле а для скрытого слоя - по формуле
Фу.
йз,
5',=
£5,2И-2
(6)
(7)
Ниже приведены результаты распознавания с помощью ИНС.
35 <7, ДБ
Рисунок 10 - ВПР по временным признакам
5 15 25 35 <7 дБ
Рисунок 11 - ВПР по частотным признакам
При использовании временных признаков объекты Г и Д имеют самые высокие вероятности правильного распознавания, они принадлежат к классу ВО малого размера Объекты Б и В относятся к среднему классу и имеют наименьшие ВПР. Объект А принадлежит к большому классу и имеет среднюю ВПР С уменьшением отношения сигнал-шум ВПР несколько ухудшается Это объясняется тем, что ИНС хорошо обучены, и эти типы ВО хорошо разделимы по ДП при заданных условиях моделирования
Устранение неопределенности положения ДП в окне наблюдения при центрировании приводит к ошибкам из-за флуктуации амплитуды ДП и изменения скорости ВО Возможно устранить этот недостаток при центрировании с помощью использования спектральных признаков
Идея использования спектральных признаков для уточнения положения ДП в окне наблюдения состоит в том, что за разницу позиций между ДП в окне наблюдения можно принимать сдвиги того или иного дальностного портрета в этом окне При использовании преобразования Фурье эти сдвиги преобразуются в фазовый спектр Модуль амплитудного спектра инвариантен признаку сдвига Числовые результаты показали, что при отношении сигнал-шум ц не хуже 15 дБ, ВПР по частотным признакам
выше, чем ВПР по временным признакам (при <7= 30 - выигрыш составляет не менее 4 %)
Для изучения влияния изменения ракурса на ВПР сформированы три отдельных множества, соответствующих ракурсам полета по углу места ± 10°, ± 25° и ± 50° Шаг изменения ракурса ВО принимался равным 0 5° Каждое подмножество этих множеств составляет 400x5 ДП Полученное множество разделялось пополам на обучающее и контрольное, те каждое из них составляет 200*5 ДП После центрирования ДП и сокращения числа отчетов до 90 проведено обучение НС с шумом до уровня 10 дБ (это соответствует лучшему выбору при обучении с шумом) Зависимость ВПР от изменения ракурса ВО приведена в табл 3
Таблица 3
Обучение в изменении угла ракурса Распознавание в изменении угла ракурса Отношение сигнал-игу м, дБ
5 10 20 30 40
Вероятность правильного распознавания
± 10° ± 10° 0918 0 946 0 958 0 959 0 960
±25° 0 641 0 698 0716 0717 0718
±50° 0 479 0 517 0518 0 522 0 522
±25° ±25° 0 890 0 936 0 952 0 954 0 955
±50° 0 736 0 778 0 788 0 789 0 793
±50° ±50° 0 821 0 888 0914 0 919 0919
Очевидно, что обучение ИНС ДП в узком диапазоне изменения ракурса приводит к ухудшению ВПР при распознавании ДП в более широком ракурсе. Обучение и распознавание в одинаково узком ракурсе естественно дает большую ВПР Целесообразно в этой связи использовать несколько РЛС для распознавания ВО под различными ракурсами Другой способ улучшения результата ВПР состоит в добавлении параметра сектора ракурса в ИНС и применении нескольких ИНС, обученных по ДП в соответствующем номере сектора ракурса
Сравнение результатов распознавания различных алгоритмов обучения ИНС и методов КБС (см в табл 4) показало, что обучение ИНС методом градиентного спуска (ОБ) требует большего времени из-за медленной сходимости Сопряженные алгоритмы Полака-Рибиера и Повела-Беала сходятся быстрее вБ
Таблица 4
Алгоритм Время обучения Время распознавания Отношение сигнал-шум, дБ
5 | 10 | 20 | 30 | 40
Вероятность правильного распознавания
во 127 мин 2 5 тс 0 878 0 905 0915 0917 0917
Полак-Рибиер 27 мин 2 5 тс 0 876 0 900 0913 0913 0914
Повел-Беал 25 мин 2 5 тс 0 875 0 900 0 909 0910 0911
БС - 55 тс 0 868 0 885 0 906 0910 0910
КБС - 67 тс 0 882 0 908 0 916 0919 0 920
При сравнимых результатах распознавания ВПР различных модификаций ИНС и методов БС, КБС мало различаются Однако важнейшее преимущество ИНС состоит в значительном уменьшении (в десятки раз) времени распознавания
В главе 3 приведен также пример формирования радиолокационного изображения, использование которого перспективно в развитии данной работы Известно, что ДП отличаются чувствительностью к углу наблюдения объекта При этом мощные отражения могут маскировать слабые отражения Поэтому целесообразно формировать более надежные признаки распознавания в виде двумерных радиолокационных изображений (РЛИ)
Процедура формирования РЛИ описывается следующим 7С примером, соответствующим ВО типа А (см рис. 12) и включает
1) измерение и запоминание комплексной огибающей отсчетов
35
приходящего отраженного сигнала ЛехрС/р),
2) определение опорного отсчета (опорной отсчет — это отсчет, амплитуда которого мало о изменяется во всех полученных реализациях) Аоп~А для всех реализаций каждого ВО, Рисунок 12 - РЛИ типа А
3) определение сдвига сигнала, соответствующего опорной дальности, посредством сопряжения с фазой сигнала в опорном отсчете ехрХ<Роо-Рои),
4) измерение фазы сигналов во всех полученных отсчетах Д = А ехр[/(г/>,„ ~(рйп -<%,)]>
5) расположение отсчетов с учетом опорного отсчета в центре,
6) формирование РЛИ с помощью преобразования Фурье
Очевидно, что наиболее информативными являются интенсивные
отражения от характерных элементов, которые отражают геометрические размеры ВО
ЗАКЛЮЧЕНИЕ
Несмотря на то, что при решении задачи распознавания сигналов во многих случаях очень эффективен метод ¿-ближайших соседей, нейронные сети являются мощным инструментом при решении задачи распознавания
Проблемы выделения признаков и обучения играют важнейшую роль в построении системы распознавания
1 Метод КБС превосходит БС, а метод БС превосходит МР по критерию вероятности правильного распознавания
2 В большинстве случаев использование в качестве признаков результатов преобразования Фурье имеет преимущество перед преобразованием Карунена-Лоэва по ВПР При сокращении числа отсчетов признаков преобразование Карунена-Лоэва оказывается более устойчивым к воздействию шума
3 Использование окон при преобразовании Фурье повышает ВПР случайных сигналов, энергия которых сосредоточена в центре реализации, в противном случае ВПР уменьшается
4 При высоком отношении сигнал-шум метод минимума расстояния является наиболее эффективным Его структура наиболее проста, а время распознавания минимально по сравнению с методами КБС и БС.
5 Метод КБС по сравнению с методом БС и МР имеет более высокую ВПР Преимущество метода КБС особенно проявляется при малых отношениях сигнал-шум (менее 5 дБ), а время распознавания примерно в 8 раз больше, чем при использовании МР
6 Использование спектральных признаков предпочтительнее по сравнению с временными в смысле возможности сокращения их числа и центрирования ДП в окне наблюдения
7 Обучение многослойных нейронных сетей является процедурой, которая требует большого числа экспериментов для рационального выбора параметров и алгоритмов обучения Для задачи распознавания ВО скорость обучения алгоритмов градиентного спуска следует выбирать при значении ц< 0 1 Алгоритмы метода сопряженных градиентов работают в десятки раз быстрее, чем алгоритмы градиентного спуска Для работоспособности нейронной сети в реальных условиях обучение следует проводить с зашумленными ДП
8 Выбор структуры и способа обучения ИНС сильно влияют на время обучения и качество распознавания. Главное преимущество ИНС состоит в большем быстродействии, которое в десятки раз превосходит методы КБС и БС Лучшей структурой ИНС при использовании временных признаков для распознавания ВО является структура 90-90-5, а при использовании частотных признаков - 30-60-5
Основные результаты диссертации опубликованы в работах
1 Кошелев В И , Нгуен Д Т Оценка центральной частоты случайного сигнала // Туполевские чтения Материалы Международной научной конференции, посвященной 1000-летию города Казани Казань, 2005 С 23-24
2 Нгуен Д Т, Кошелев В И Оценка ширины спектра детермитгрованного сигнала и случайного процесса // Новые информационные технологии в научных исследованиях и в образовании XI Всероссийская научно-техническая конференция Рязань, 2006 С 58-59
3 Кошелев В И , Нгуен Д Т Сравнительный алгоритм оценки центральной частоты случайного процесса // Материал II Междунаучной практической конференции WYKSZTA CENIE I NAUKA BEZ GRANIC -" 2005" С 4346
4 Кошелев В И, Нгуен Д Т Вычисление чисел обусловленности теплицевых матриц в пакетах Mathcad и Matlab // Девятнадцатая Междунар науч -тех конф студентов и аспирантов Тез, докл, МЭИ, 2006 Т 1.-560с С 69-70.
5 НгуенДТ, Использование алгоритмов обратного распространения ошибок для обучения многослойных нейронных сетей // Новые информационные технологии в научных исследованиях и в образовании XI Всероссийская научно-техническая конференция. Рязань, 2007 С 62-63
6 Нгуен Д Т Распознавание воздушных объектов по дальностным портретам // Тринадцатая Междунар науч -тех конф студентов и аспирантов Тез докл ВЗ-хт М МЭИ,2007 TI С.112-113
7. Нгуен ДТ Оценка ширины спектра случайного узкополосного процесса // Математическое и программирование обеспечение вычислительных систем Межвузовский сборник научных трудов Рязань, РГРТУ 2006 С 34-38
8 Кошелев В И , Нгуен Д Т Сравнительная оценка центральной частоты детерминированного сигнала и узкополосного случайного процесса // Изв ТулГУ Сер Радиотехника и радиооптика, 2006 Т VIII Выпуск 2 С 142146
9. Кошелев В И, Нгуен Д Т Распознавание случайных узкополосных сигналов в спектральной области // Вестник РГРТА. Вып 19 Рязань, 2006 С 51-53
10 Кошелев В. И, Нгуен ДТ Применение нейросетевого алгоритма для распознавания воздушных объектов. // Цифровая обработка сигналов 2006. №4. С 41-43
11 Кошелев В И, Нгуен Д Т. Обучение многослойных нейронных сетей на основе алгоритма обратного распространения ошибок при распознавании воздушных объектов // Вестник РГРТА Вып 20. Рязань, 2007. С 46-49
12 Нгуен Д Т Анализ точности вычисления собственных чисел матриц в пакетах MathCad и MatLab // Математическое и программирование обеспечение вычислительных систем Межвузовский сборник научных трудов Рязань РГРТУ, 2007 С. 64-67.
Нгуен Дак Туан
РАБОЧИЕ АЛГОРИТМЫ И УСТРОЙСТВА РАСПОЗНАВАНИЯ ТИПОВ ОБЪЕКТОВ ПРИ НАЛИЧИИ МЕШАЮЩИХ ФАКТОРОВ
Автореферат диссертации на соискание ученой степени кандидата технических наук
Отпечатано ГНУ ВНИМС,
Рязань, Щорса 38/11 Формат бумаги 60x84 1/16.
Печатных листов 1 Заказ №<?5> Тираж 100 экз
■¡у апреля 2007 г
Оглавление автор диссертации — кандидата технических наук Нгуен Дак Туан
ВВЕДЕНИЕ.
1. ОБЗОР МЕТОДОВ РАСПОЗНАВАНИЯ СИГНАЛОВ.
1.1. Вводные замечания.
1.2. Состояние вопроса.
1.3. Структура системы распознавания.
1.3.1. Проблема выделения признаков.
1.3.2. Обучение с учителем и без учителя.
1.3.3. Методы распознавания.
1.4. Искусственные нейронные сети.
1.5. Программа математического моделирования отражений радиолокационных сигналов от воздушных объектов.
1.6. Распознавание сигналов в спектральной области.
1.6.1. Постановка задачи.
1.6.2. Оценка центральной частоты случайного сигнала.
1.6.3. Оценка ширины спектра случайного сигнала.
1.7. Выводы к главе 1.
2. РАСПОЗНАВАНИЕ СЛУЧАЙНЫХ СИГНАЛОВ КЛАССИЧЕСКИМИ МЕТОДАМИ.
2.1. Вводные замечания.
2.2. Создание множества признаков распознавания.
2.3. Классические методы распознавания сигналов.
2.3.1. Байесовское решающее правило.
2.3.2. Метод минимума расстояния.
2.3.3. Метод ^-ближайших соседей.
2.3.4. Сравнительный анализ ошибок метода ^-ближайших соседей и метода Байеса.
2.4. Распознавание случайных сигналов по обобщенным признакам с помощью преобразования Карунена-Лоэва.
2.4.1. Создание обобщенных признаков с помощью преобразования Карунена-Лоэва.
2.4.2. Результаты распознавания по обобщенным признакам.
2.5. Распознавание по признакам с помощью преобразования Фурье.
2.5.1. Создание признаков с помощью преобразования Фурье.
2.5.2. Результаты распознания по признакам в базисе Фурье.
2.5.3. Влияние числа отсчетов признаков ПФ на ВПР.
2.6. Вычисление собственных значений матриц в пакетах Matlab Mathcad
2.7. Выводы к главе 2.
3. РАСПОЗНАВАНИЕ ВОЗДУШНЫХ ОБЪЕКТОВ НА ОСНОВЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ.
3.1. Вводные замечания.
3.2. Формирование признаков в задаче распознавания воздушных объектов.
3.3. Создание множества признаков для воздушных объектов.
3.4. Выбор структуры ИНС.
3.5. Обучение ИНС.
3.5.1. Математическая интерпретация алгоритма ОРО.
3.5.2. Метод градиентного спуска.
3.5.3. Метод сопряженных градиентов.
3.5.4. Свойство обобщения ИНС.
3.5.5. Обучение с шумом.
3.6. Зависимость ВПР от изменения ракурса наблюдения воздушного объекта.
3.7. Сравнение методов распознавания.
3.8. Сравнение результатов по временным и частотным признакам.
3.9. Выбор количества нейронов в скрытом слое по максимуму ВПР.
ЗЛО. Создание двумерных изображений ВО с помощью PJIC.
3.11. Анализ аппаратной реализации нейросетевых алгоритмов распознавания воздушных объектов.
3.11.1. Типы нейрокомпьютеров.
3.11.2. Аппаратные средства нейроускорителей.
3.11.3. Определение требований для аппаратной реализации НС.
3.12. Выводы к главе 3.
Введение 2007 год, диссертация по радиотехнике и связи, Нгуен Дак Туан
Актуальность темы. В условиях постоянного роста интенсивности воздушного движения, а также угрозы использования воздушных объектов в целях терроризма и контрабанды особенно актуальна задача повышения уровня безопасности воздушного движения. Исследования в области распознавания образов и развитие радиоэлектронных технологий способствуют созданию многофункциональных PJIC, способных не только обнаруживать воздушные объекты, но и классифицировать их по типу [1].
Современные достижения в области разработки нейропроцессоров могут быть, успешно использованы для решения рассматриваемой задачи. Актуальным является совершенствование структуры нейронных сетей и разработка алгоритмов их адаптации к конкретным условиям решения задачи распознавания. Комплексное решение таких задач позволяет найти наиболее эффективные алгоритмы как с точки зрения повышения вероятности правильного распознавания, так и обеспечения требуемой скорости вычислений.
Большой вклад в развитие теории распознавания и классификации внесли зарубежные ученые: Дуда Р., Харт П., Гонсалес Р., Ту Дж., Фукунага К., Патрик Э., Розенблат, Пейперт, Румельхарт, Хинтон Вильяме, советские и российские ученые: Айзерман С.А., Браверман, Вапник В.Н., Рязанов В.В., Червоненкис, Журавлев Ю.И., Горелик A.JI., Скрипкин В.А., Омельченко В. А., Небабин В.Г., Сергеев В.В, Ширман Я. Д., Галушкин А. И. и другие [1, 2, 5, 6, 17, 38.51, 55, 76, 77]. Их работы посвящены общей теории распознавания образов и применимы к распознаванию сигналов, в конкретном случае распознаванию воздушных объектов.
Цель работы состоит в повышении вычислительной эффективности алгоритмов распознавания воздушных объектов (ВО), определении необходимого числа признаков, используемых при распознавании, оптимизации структуры искусственных нейронных сетей, адаптивном методе обучения с учетом влияния шумов, сопровождающих радиолокационный 3 сигнал при обнаружении и распознавании, изменения угла курса полета воздушных объектов. В работе также решается проблема определения минимально необходимого размера обучающей выборки при обучении.
Для достижения данной цели проведены следующие исследования:
1) формализована задача распознавания типов воздушных объектов для систем управлении воздушным движением в зоне аэропорта, разработаны алгоритмы и программы математического моделирования, учитывающие параметры PJIC, условия полета ВО, формирования его дальностных портретов, создания обучающей и контрольной выборок для последующего исследования;
2) изучено влияния размера обучающей выборки на качество распознавания;
3) проведен сравнительный анализ эффективности применения различных признаков для распознавания, решены проблемы преодоления неопределенности дальностного портрета в окне наблюдения;
4) определен оптимальный набор параметров для обучения методом обратного распространения ошибок, оптимизирован уровень шума для адаптации алгоритма обучения к реальным отношениям сигнал-шум при распознавании;
5) определено число ближайших соседей при использовании этого метода распознавания;
6) проведено сравнение различных методов обучения и интерпретированы модельные результаты распознавания искусственными нейронными сетями и методами ^-ближайших соседей по критерию вероятности правильного распознавания (ВПР) и времени выполнения алгоритма;
7) учтено влияние изменения ракурса наблюдения воздушного объекта на эффективность использования различных методов обучения и качество распознавания;
8) выбрана оптимальная структура нейронных сетей для условий решаемой задачи.
Научная новизна диссертации заключается в следующем:
1) формализована задача распознавания типов ВО для систем управлении воздушным движением в зоне аэропорта, разработаны алгоритмы и программы математического моделирования, учитывающие параметры PJIC, условия полета ВО, формирования его дальностных портретов, создания обучающей и контрольной выборок для последующего исследования;
2) изучено влияния размера обучающей выборки на качество распознавания;
3) проведен сравнительный анализ эффективности применения различных признаков для распознавания, решены проблемы преодоления неопределенности дальностного портрета в окне наблюдения;
4) определен оптимальный набор параметров для обучения методом обратного распространения ошибок, оптимизирован уровень шума для адаптации алгоритма обучения к реальным отношениям сигнал-шум при распознавании;
5) определено число ближайших соседей при использовании одноименного метода распознавания;
6) проведено сравнение различных методов обучения и интерпретированы модельные результаты распознавания искусственными нейронными сетями и методом ^-ближайших соседей по таким параметрам как вероятность правильного распознавания и время выполнения алгоритма;
7) учтено влияние изменения ракурса наблюдения воздушного объекта на эффективность использования различных методов обучения и качество распознавания;
8) выбрана оптимальная структура нейронных сетей для условий решаемой задачи.
Основные положения, выносимые на защиту
1. Экспериментальное определение числа нейронов в скрытом слое ИНС при использовании спектральных признаков дальностных портретов, что позволило упростить структуру ИНС (с исходной структуры 90-90-5 до 30-60-5) практически без уменьшения ВПР объектов.
2. Обоснование выбора параметров при обучении ИНС с учетом реального отношения сигнал-шум и ракурса объектов, что позволило повысить ВПР с 0.91 до 0.96 при изменении ракурса с ± 50° до ± 10° и отношении сигнал-шум 20 дБ.
3. Алгоритмы обучения и распознавания, использующие спектральные ДП, повышают ВПР на 4 % и одновременно позволяют устранить их неопределенность в окне наблюдения при отношении сигнал-шум не меньше 15 дБ.
Методы исследований, использованные в диссертационной работе, основаны на статистической теории радиотехнических систем, параметрическом моделировании случайных процессов, численных алгоритмах поиска экстремума, математическом моделировании. Основные числовые результаты получены на основе аналитических и вычислительных математических методов.
Научное и практическое значение. Полученные результаты можно использовать для выбора структуры ИНС, размера обучающего множества, числа отсчетов признаков и метода обучения системы распознавания воздушных объектов. Эти результаты совместно с разработанной программой для исследования сложных сигналов, используемых при распознавании полезно применять в учебном процессе технических вузов по радиотехническим специальностям. Созданная программа оценки ВПР для различных алгоритмов (минимума расстояния, ближайшего соседа, КБС, ИНС) распознавания, может быть, использована для исследования задач распознавания случайных сигналов.
Внедрение научных результатов диссертационной работы произведено в учебный процесс РГРТУ и в перспективные разработки АОЗТ «Рязанская радиоэлектронная компания».
Апробация работы. Результаты работы докладывались на следующих научно-технических конференциях:
1. Международная молодежная научная конференция, посвященная 1000 летию города Казани "Туполевские чтения". 2005, Казань.
2. Двенадцатая международная научно-техническая конференция студентов и аспирантов, 2006, МЭИ, Москва.
3. Всероссийская научно-практическая конференция студентов, молодых учёных и специалистов "Новые информационные технологии в научных исследования и в образовании". 2006, Рязань.
4. Тринадцатая международная научно-техническая конференция студентов и аспирантов, 2007, МЭИ, Москва.
5. Всероссийская научно-практическая конференция студентов, молодых учёных и специалистов "Новые информационные технологии в научных исследования и в образовании". 2007, Рязань.
Публикации. По теме диссертации опубликовано 12 работ. Из них 4 статьи в журналах рекомендованных ВАК РФ для кандидатских диссертаций, 2 статьи в межвузовских сборниках, 6 тезисов докладов.
Структура и объем работы. Диссертационная работа состоит из введения, трех глав, заключения, списка литературы из 144 наименований 4 приложений. Диссертация содержит 150 стр., в том числе 127 стр. основного текста, 36 таблиц и 41 рисунок.
Заключение диссертация на тему "Рабочие алгоритмы и устройства распознавания типов объектов при наличии мешающих факторов"
При решении задачи распозиавания сигналов байесовское правило
является математическим основанием для статистических методов. Не меньше
важен, и во многих случаях оказывается крайне эффективным метод к ближайших соседей. Нейронные сети являются мощным ннструментом при
решении задачи распознавания. Проблемы выделения признаков и обучение
распознаюшего устройства играют важнейшую роль при исследовании и
построении системы распозиавания. 1) Нейронные сети является мощным инструментом при решении задачи
распознавания. Проблемы выделеиия признаков и обучение распознающего
устройства играют важиейшую роль при исследовании и построении системы
распозиавания. 2) Программа моделироваиия ^Backskattering simulation** позволяет
сократить время создания обучающего и контрольного множеств данной
задачи. 3) При оценке центральной частоты случайных сигналов в большинстве
случаев оптимальный алгоритм МП имеет лучшую оценку по сравнению с
алгоритмом мгжсимума, его структура проще, требуется меньший объем
памяти, оцеика меньше зависит от ширины спектра сигнала. Алгоритм по
методу максимума по сравнению с алгоритмом МП имеет меньшее количество
операций. 4) При оценке ширины спектра случайных сигналов точность оценки
зависит от его длительности и отношения сигнал-шум. Дисперсия оценки мало
изменяется при д>ОдБ. АРМ (по методу Берга) является лучшим из
рассмотренных методов оценки ширины спектра случайного узкополосного
процесса. 5) Метод КБС лучше БС, ВС лучше МР по критерию вероятности
правильного распознавания. 6) В большинстве случаях признаки преобразования Фурье имеют
преимущество перед преобразованием Каруиена-Лоэва по ВПР. При со1фащении числа отсчетов признаков преобразование Карунена-Лоэва
оказывается лучшим к воздействию шума. 7) Использование окон при преобразовании Фурье изменяет порядок
лучшего результата случайного сигнала. Оно улучшает результаты
распознавания случайных сигналов, энергия которых сосредоточена в центре
реализации, в гфотиворечивом случае результаты распознавания ухудшаются. 8) При высоком отношении сигнал-шум метод минимума расстояния
является наиболее эффективным. Его структура наиболее проста, а время
распознавания минимально по сравнению с методами КБС и БС.
9) Метод i^ -ближайших соседей по сравнению с БС и МР имеет более
высокую вероятность правильного распознавания. Преимущество КБС
проявляется особенно при малых отношениях сигнал-шум (менее 5 дБ), а время
распознавания примерно в 8 раз больше чем при применении метода МР.
10) Дополнительным ресурсом сокращения времени распознавания при
использовании спектрального преобразования является возможность 8-х
кратного сокращения числа отсчетов признаков, используемых при
распознавании в спектральной области практически без снижения вероятности
правильного распознавания. В случае распознавании воздушиых объектов
использование спектральных признаков предпочтительнее по сравнению с
временными в смысле возможности сокращения числа отсчетов и
центрирования ДП в окне наблюдения. 11) При вычислении собственных чисел пакет MatLab превосходит пакет
MathCad по точности вычислений с матрицами больших размерностей. При
плохо обусловленных матрицах, соответствующих малым мощностям шума
(6<1О''^), результаты, полученные в любом из исследованных пакетов, имеют
низкую достоверность. 12) Обучение многослойных нейронных сетей является процедурой,
которая требует большого числа экспериментов для рационального выбора
параметров и алгоритмов обучения. Для задачи распознавания воздушных
объектов скорость обучения алгоритмов градиентного спуска следует выбирать при значении ^<0Л. Алгоритмы метода сопряженных градиентов
работают в десятки раз быстрее, чем алгоритмы градиентного спуска. Для
работоспособности сети в реальных условиях обучение проводится до уровня
отношения сигнал-шум не менее 5 дБ.
13) Рассмотрены методы создания множества признаков и сравнение
ИНС с традиционными методами. Создание обученного множества и выбор
прнзнаков являются ключевыми в задаче распознавания. 14) Выбор структуры и способа обучения ИНС сильно влияют на время
обучення и качество распознавания. Главное преимущество ИНС состоит в
десятки раз большем быстродействии по сравненню с методами КБС или БС.
Лучшим выбором структуры ИНС при использовании временных признаков
для распознавания ВО является структура 90-90-5, а при использовании
частотных признаков - 30-60-5. 15) Благодаря свойству обобщения ИНС можно сократить размер
обучающего множества при этом ВПР уменьшается незначительно. 16) Современные РЛС с помощью различных компенсационных
алгоритмов при обработке радиолокационных снгналов способны создавать
РЛИ воздушных объектов. РЛИ отличаются свойствами ннвариаитиости
признаков для распознавания, по сравнению с одномерными дальиостиыми
портретами. 17) Совремеиные нейрокомпьютеры позволяют обеспечить требования
работы радиотехнических устройств распознавания в реальном масщтабе
временн.
Библиография Нгуен Дак Туан, диссертация по теме Радиотехника, в том числе системы и устройства телевидения
1. Небабин В.Г., Сергеев В.В. Методы и техника радиолокационного распознавания. Москва: Радио и связь, 1984.246с.
2. Горелик А.Л., Бабаш Ю.Л. Селекция и распознавание на основе локационной информации. Москва: Радио и связь, 1990.240с.
3. Стайнберг Б.Д. Формщювание радиолокациоиного изображения самолета в диапазоне СВЧ. ТИЮР.-1988-Т.76.-№12- 26-45.
4. Митрофанов Д.Г. Построение двумерного изображения объекта с использованием многочастотного зондирующего сигнала. Измерительная техника -2001-Хо2- 57-62.
5. Shiraian Y. D., Gorshkov S. А., Leshchenko S. P., Orlenko V. M., Sedyshev S. Yu. "Radar Target Backscattering Simulation SofWare and Users Manual". Artech House, 2002.
6. Ширман Я. Д., Горшков А., Лещенко П., Братченко Г. Д., Орленко радиолокационного распознавания и их моделирование. В.М. Методы Зарубежная радиоэлектроника. Успехи современной радиоэлектроники. 1996. №11-С.З-63.
7. Орленко В.М., Ширман Я. Д. Тендеиция повышения радиолокационного разрешения. Электромагнитные волны и электронные системы, 1998, 3.
8. Кравцов П., волн Лещенко на П. Моделирование аэродинамической рассеяния цели. электромагнитных пропеллере Электромагнитные волны и электронные системы, 1999, 3.
9. Орленко В.М., Ширман Я. Д. Тела рассогласования частотно- модулированных сигналов со ступенчатым законом изменения частоты. Электромагнитные волны и электронные системы, 1999, 4.
10. Орленко В.М., Ширман Я. Д. Нейрокомпьютерное распознавание воздушных целей с учетом мешающих факторов. Электромагнитные волны и электронные системы, 1999, 5.
11. Орленко В.М., Битюцкий А.С. Нейрокомпьютерное распознаванне типов аэродинамических целей. 128
12. Hudson, S. and Psaltis, D., correlation for Aircraft identification from Radar Rage Profiles, IEEE Transactions on Aerospace and Electronic Systems, 1993, no.3.
13. Zyweck, A. and Bogner, R., Target classification of Commercial Aircraft, IEEE Transactions on Aerospace and Electronic Systems, 1996, no.2.
15. Нейросетевое распознавание двумерных изображений. Радиотехника и электроника, 8 969- 978. 15. Ле Дай Фон, Веремьев В. И. Распознавание радиолокационных целей по дальностаому noprpeiy. Известия СПБГЭТУ «ЛЭТ№> Вып.1,2006. С 47-55. 16. Кошелев В.И., НгуенД.Т. Применение нейросетевого алгоритма для распознавания воздушных объектов. Цифровая обработка сигналов, 2006, №4. 41-43.
17. Омельченко В.А., Балабанов В.В., Безрук В.М. Распознавание случайных сигналов по спектру. //Изв. Вузов. Радиоэлектроника. Т22 1979, №12. 16-22.
18. Омельченко В.А. Распознавание сигналов по спектру мощности в оптимальном базисе Куиена-Лоэва. //Изв. Вузов. Радиоэлектроника. Т22 1980,X2l2.C. 11-17.
19. Омельченко В.А. Представленне случайных сигналов в случайных сигналов в представление функциональных пространствах. различных //Радиотехника, 1981, вып 19. 3-9.
20. Егоров А.В., Партии B.C. Оцеика влияния объема обучающей выборки на вероятность распознавания стационарных случайных процессов в спектральной области. //Изв. Вузов. Радиоэлектроиика. Т48 2005, №2. 55-61.
21. Егоров А.В., Паршин B.C. Оценка влияния объема обучающей выборки на вероятность распознавания стационарных процессов в спектральной области. //Вестннк РГРТА, выпуск 7,2000, 11-14.
22. Певцов Г.В. Синтез байесовских алгоритмов многоальтернативного распознавания образов, заданных сложньпк1и эталонньшш описаниями. //Изв. Вузов. Радиоэлектроника. 2003, №1. 58-63. 129
23. Цепкий В.В., Берека В.В. Цифровое устройство распознавания инвариантные к статистическим свойствам сигналов и помех. Зарубежная радиоэлектроника. 1992, №10. 20-28.
24. Шаталова В.А., Ястребков А. Б. адаптивный алгоритм распознавания сигналов разных объектов, принимаемых на фоне помех. //Изв. Вузов. Радиоэлектроника. 2002, №11. 54-62.
25. Паршин B.C. Распознавание случайных сигналов по нормированному спектру мощности //Изв. Вузов. Радиоэлектроника. 1983, №11. 73-75.
26. Гусинская Г.В. Распознавание случайных сигналов по спектральным коэффициентам Уолша и Хаара. //Изв. Вузов. Радиоэлектроника. 1988, №7. 13-18.
27. Атаянц Э.К., Рынин В.П. Эффективная модификация алгоритма «к- ближайших соседей». VI Всесоюзн. совещ.-семинара МВССО СССР и РСФСР, СО АН СССР «Непараметрическне и робастные методы статистики в кибернетике», Томск, 1987 г.
28. Рынин В.П. Решение задачи распознавания при использовании оценки распределения вероятностей «к-ближайших соседей» с плотности произвольным окном.. Региональной НТК ОП НТО приборостроения им. СИ. Вавилова «Измерение характеристик случайных сигналов с применением микромашинных средств», Новосибирск, 1988 г.
29. Атаянц Э.К., Рынин В.П. Отбор эталонов для устройств распознавания образов с решающим правилом «ближайшего соседа» Госфонд алгоритмов и программ СССР Рег.№50850000814 от 25.10.85 г.
30. Рынин В.П. Оценка плотности распределения «плавающее окно» и ее модификации. Материалы VII Всесоюзного совещ.-семинара ГКВТИ СССР, Гособраз.СССР, Минвуз РСФСР, Иркутский филиал ВМНИИ ПС, ТГУ, СФТИ 130
32. Розенблатт Ф. Принципы нейродинамики (перцептрон и теория механизмов мозга). М Мир, 1965.-480 с.
33. Минский М., Пейперт Персептроны. М.: Мир, 1971. —261 с.
34. Rmnelhart D. Е., Hinton G. Е., Williams R. J. Learning representations by backpropagating errors //Nature (London). —1986.—N 323. P. 533—536.
35. Broomhead D. S., Lowe D. Multivariable fiinctional interpolation and adaptive networks Complex Systems. 1988. N 2. P. 321—355.
36. Галушкин А.И. Решение задач в нейросетевом логическом базисе. Нейрокомпьютеры, 2006, Ш2 49-70.
37. Галушкин А.И. Синтез многослойных нейронных систем распознавания образов М.: Энергия, 1974.
38. Галушкин А.И. Многослойные системы распознавания образов. МИЭМ, 1970.
39. Галушкин А.И. Теория нейронных сетей. М.: РШРЖП, 2000.
40. Галушкин А.И. Нейроматематика. М.: радиотехника, 2002.
41. Галушкин А.И. Нейроматематика (Проблемы развития). М.: радиотехника, 2003.
42. Омельченко В. А Основы спектральной теории распознавания сигналов.Харьков: Изд-во при Харьк. ун-те, 1983.156с.
43. Дуда Р., ХартП. Распознавание образов и анализ сцен. М.: Мир. 1976. 511с.
44. Патрик Э. Основы теории распознавания образов. М.: Советское радио, 1980. 408с. М.: 131
45. Гренаидер У. Лекция по теории образов. Издательство Мир, 1979.382с.
46. ФукуиагаК. Введение
47. Sergios Theodoridis Pattern recognition: Depatmennt of Informatics and Teleconununications University of Antiiens 2003.689 p.
48. Горелик А.Л., Скрипкин B.A. Методы распознавания М.: Высшая школа, 1989.232с.
49. Васильев В. И. Проблема обучение распознаванию образов. Выша шк. Головное изд-во, 1989.64с.
50. Верхаген К., Дейн Р., Грун Ф. Йостен Й. Вербен П. Распознавание образов состояние и перспективы. Москва: Радио и связь, 1985.103с.
51. Christopher J.C. Burges. А Tutorial, on Support Vector Machines for Pattern Recognition, Appeared in: Data Mining and Knowledge Discovery 2,121-167,1998.
52. Вапник B.H., Червоненкис А.Я. Теория распознавания образов (статистические 1фоблемы обучения). М.:Наука, 1974.-415 с.
53. Mullen G.J. Aircraft Parameter Identification Using Matlab.// Cranfield University, 2000. 88p.
54. Willshaw D. J., von der Malsburg C. How patterned neural connections can be set up by self-organization Proceedings of the Royal Society of London. 1
56. Kohonen T. Self-organized formation of topologically correct feature maps. Biological Cybernetics. —1982.—N 43. P. 59—69.
57. Learning-logic: Casting the cortex of the human brain in silicon, Parker D. В.: Technical Report Center for Computational Research in Economics and Management Science. TR-
58. Cambridge, MA: MIT, 1985. 73 p. 60. LeCun, Y. Une procedure dapprentissage pour reseau a seuil assymetrique Cognitiva 85. 1985. P. 599—604. 132
59. Bashkirov O. A., Bravennaim E. M., Muchnikl.B. Potential function algorithms for pattern recognition learning machines Automation and Remote Control. —1964. N 25. P. 629—631.
60. Poggio Т., Girosi Networks for approximation and learning Proceedings of the IEEE. 1990. N 78. P. 1481—1497.
61. Хайкин Саймон. Нейронные сети: полный курс, 2-е издание. Пер. с англ. М. Издательский дом «Вильяме». 2006. -1104с.
62. Медведев B.C. и Потемкин М.Г. Нейронные сети Матав-6 М.: ДиалогМИФИ, 2002.-489с.
63. Головко В.А. Нейронные сети, Обучение, организация и применение. М.: ИПРЖР, 2001. 67. Мо11егМ.Т.//Neural networks. 1993. V.6.p.525.
64. Michael A. Arbib. The Handbook of Brain Theory and Neural Networks. Massachusetts Institute of technology, 2003.1290p.
65. Veelenturf L.P.J. Analysis and Application of Artificial Neural Networks. Prentice Hall International (UK) Ltd. 1995.258p.
66. Madan M. Gupta, Liang Jin, and Noriyasu Homma. Static and Dynamic Neural Networks. Wiley-Interscience. 2003.722p.
67. James A. Freeman, David M. Skapura. Neural Networks Algorithms, Application, and Programming Techniques. Addison- Wesley Publishing Company. 1991.401р.
68. Nejmian J., Pearson E.S. On the problem of the most efficient tests of statistical hypothesis (1930).
69. Fisher R.A. The use of multiple measurements in taxonomic problems, Ann. Eugenics, 7, Part II, 179-188 (1936).
70. Wald A. Contributions to the theory of statistical estimation and testing of hypotheses, Ami.Math.Stat. 10,299-326 (1939). 133
71. Новосибирск, ИМ СО АН СССР. 1966. 3-11.
72. Жзфавлев Ю.И., ИЗБРАННЫЕ НАУЧНЫЕ ТРУДЫ. М.: Издательство Магистр, 1998. 420 с.
73. Журавлев Ю.И., Об алгебраическом подходе к решению задач распознавания или классификации. Проблемы кибернетики. М.: Наука, 1978. Вып.33. 5-68. 78.МарШ1С.Л. Цифровой спектральный аналю и его приложение: Пер. С англи.- М.: Мир, 1990,584 с.
74. Дженкинс Г., Ватте Д., Спектральный анализ и его приложення. Выпуск
75. Москва: Мир, 1971,316 с. 8О.Дженкинс Г., Ватте Д., Спектральный анализ и его приложення. Выпуск
77. Блейхут Р., Быстрые алгоритмы цифровой обработки сигиалов. Москва: Мир, 1989,448 с.
78. Гольденберг Л.М., Матюшкин Б.Д., Поляк М.Н., Цифровая обработка сигналов. Москва: Радио и связь, 1985. 312 с. 83.Э. Оппенгейм, Применение цифровой обработки сигналов. Москва: Мир, 1980. 84.Б. Уидроу, Стирнз С, Адаптивная обработка сигналов. Москва: Радио и связь, 1989,440 с.
79. Оппенгейм А.В., Шафер Р. Цифровая обработка сигналов. М.: Мир, 1979. 416 с.
80. Тематический выпуск «Спектральный анализ». ТИИЭР, т.70,1982. 9.
81. Burg J.P. Maximum Entropy Spectral Analysis. Proceedings of the 37th Meeting of the Society of Exploration Geophysicists. 1967.
82. Райе Дж. Матричиые вычисления и математическое обеспечение: Пер. с англ. М.: Мир, 1984.264 с. 134
83. Рабинер Б., Гоулд Д. Теория и применение цифровой обработки сигналов: Пер. с англ. М.: Мир, 1978.848 с.
84. Дворкович А.В. Новый метод расчета эффективных оконных функцнй, используемых при гармоиическом анализе методом ДПФ. Цифровая обработка сигналов. 2001. 2. 49-54.
85. Блейхут Р. Быстрые алгорнтмы цифровой обработки сигналов: Пер. с англ. М.: Радио и связь, 1989.448 с.
86. Брюханов Ю.А. Цифровые цепи и сигналы: Учебное пособие. Ярославль, 1999.152 с. 94. Sen М Кио, Bob Н Lee. Real-Time Digital Signal Processing. John Wiley Sons, LTD, 2001.496р.
87. Кашкаров B.A., Мушкаев СВ. Организация параллельных вычнслений в алгоритмах БПФ на процессоре NM6
88. Цифровая обработка сигналов. №1. 2001. 53-58.
89. КошелевВ.И. Оценка спектрального динамического диапазона в задачах цифровой обработки сигналов Цифровая обработка сигналов.2003. №4. 8-9.
90. Кошелев В.И., Горкин В.Н. Повышение точности оценки центральной частоты узкополосного процесса в процессоре БПФ. Швестия вузов. Радиоэлектроника.- 2004.- Т. 47.- №1.- 67-73.
91. Далматов А. Д., Блисеев А. А., Лукошкин А. П., Обработка сигналов в радиотехнических системах: Изд-во Ленингр. Ун-та, 1987,400 с.
92. Кошелев В.И., НгуенД.Т. Сравнительная оценка центральной частоты детерминированного сигнала и узкополосного случайного процесса Изв. ТулГУ.Сер. Радиотехника и радиооптика., 2006. Т Vni. Выпуск.2.С. 142-146. lOO.HiyeH Д.Т. Оценка ширины спектра случайного узкополосного процесса Математическое и программирование обеспечение вычислительных систем: Межвузовский сборник научных трудов.- Рязань: РГРТУ, 2006, стр. 34-38. 135
93. Kumar Rittman Raja V. и др. Новый спектральный оцениватель с высоким разрешением для обнаружения целей Пер. с англ. J. Inst. Electron and Telecommun. Eng. 1989.35. 2. 92-97.
94. Галун А., Лопатин Оценивание ширины спектра мощности случайного процесса по наблюдениями, искаженным розовым шумом. Р1зв. Вузов СССР. Приборостроение. 1991. SUL 9-15.
95. Трифонов А.П., Галун С Л Квазиоптимальная оценка ширины спектра мощности случайного процесса.// Изв. Вузов СССР. Приборостроение. 1981. №5. 21-25.
96. Трифонов А.П., совместная оценка величины и ширины спектра мощности случайного сигнала//Изв. Вузов СССР. Приборостроение. №11.1987. 7-10.
97. Виноградова И.И. Matlab в задачах цифровой обработки сигналов. Цифровая обработка сигналов. 1999. 1. 54-58.
98. Дьяконов В.П., Абраменкова ИВ. Matiicad 7.0 в математике, физике и в Internet. М.: Нолидж, 1999.352 с.
99. Голуб Дж., Ч. ВанЛоун Матричные вычисления: Пер. с англ.- М.: Мир, 1999.-548 с. 1О
100. Вайнштейн Л.А., Зубаков В.Д. Выделение сигналов на фоне случайных помех. М.: Сов. Радио, 1960.448с.
101. Быков В.В. Цифровое моделирование в статистической радиотехнике. М.: Советское радио, 1971.326 с.
102. Левин Б.Р. Теоретические основы статистической радиотехники. Т. 1-3. М.: Советское радио, 1966-1978.
103. Тихонов В.И. Статистическая радиотехника. М.: Советское радио, 1966. 680с.
104. Куликов Б.И. Методы измерения случайных процессов. М.: Радио и связь, 1986. 270с. 136
105. Вольфовский Б. Н. Вычисление ширины спектра ЛЧМ импульса. Радиоэлектроиика. 1991. №9. 79-81.
106. Андронов А.М., Копытов Е.А., Гринглаз Л. Я. Теория вероятаостей и математическая статистика. Питер, 2004.461с.
107. Варакин Л. Е., Системы связи с шумоподобными сигналами. Москва: Радио и связь, 1985,384 с.
108. Борисов В.И., Зинчук В.М., Лимарев А.Е., Мухин Н.П., Нахмансон Г.С. Помехозащищенность систем радиосвязи. М.: Радио и связь, 2003.640с, 119. Кук Ч., Вернфельд М. Радиолокационные снгналы. М. Изд-во, 1971. 568с. 120.111ирман Я. Д., Манжос В.Н. Теория и техника обработки радиолокациоиной информации на фоне помех. М: Радио и связь, 1981. -416с.
109. Варакин Л.Е. Теория систем сигналов. М.: Советское радио, 1978.304с.
110. Рязанов В.В. О построении оптимальных алгоритмов распознавания и таксономии (классификации) при решенни прикладных задач Распознавание, классификация, прогноз: Матем. методы и их применеиие. М.: Наука, 1988. Вып.1,С.229-279.
111. Рязанов В.В. Комитетный синтез алгоритмов распознавания н классификации ЖВМ и МФ. 1981. Хоб. Том 21. 1533-1543.
112. Рязанов В.В. О синтезе классифицирующих алгоритмов на конечных множествах алгоритмов классификации (таксономии) ЖВМ и МФ, 1982. Ш2. Том22.С.429-440.
113. Базанов П.В. Биометрическая система идентификации человека по изображениям лица. Вести. Моск. Ун-та. Сер.
114. Вычисл. Матем. И киберн. 2006.№1.С.49-55. 126. http://ennak.cs.nstu.ru/ist2003/papers/gavrilov novitskava.pdf
115. Горячкин О.В. Слепое восстановление изображений радиолокационных станций с синтезированной апертурой. //http://www.smr.ru/IPSI/research/publication/KO/PDF/KO25/KO25332.pdf 137
116. Суханов Д.Я., Якубов В.П. Метод наклонной фокусировки в поверхностной радиолокации. Журнал технической физики, 2006, том 76, ВЫП.7, 64-68.
117. Lin, Pingping. Lu, Guochan, and Huan, Huai. A C-Band Inverse Syntiietic Aperture Radar System, CIRC-96, Beijing, October 1996.
118. КошелевВ.И., НгуенД.Т. Оценка центральной частоты сигнала Туполевские чтеиия: Материалы случайного научной Международной конференции, посвященной 1000-летию города Казани.- Казань: Казан, гос. техн. ун-т, 2005.- 23-24;
119. Нгуен Д.Т., КошелевВ.И. Оценка ширины спектра детерминироваиного сигнала и случайного процесса Новые информационные технологии в научных исследованиях и в образовании: XI Всероссийская научно-техническая конференция.- Рязань: Рязанский гос. радиотехн. ун-т, 2006.- 58-59.
120. КошелевВ.И., Нгуен Д.Т.Сравнительный алгоритм оценки центральной частоты случайного процесса Материал П Междунаучной практнческой конференции: WYKSZTA СЕМЕ INAUKA BEZ GRANIC 2005", С 43-46.
121. КошелевВ.И., Нгуен Д.Т Вычисление чисел обусловленностн теплицевых матриц в пакетах Mathcad и Matlab.// Двенадцатая Междунар. науч.-тех. конф. студентов и аспирантов: Тез. докл. В 3-х т.- М.: МЭИ, 2006.Т.1.С. 86-88.
122. Нгуен Д.Т. Распознавание воздушных объектов по дальиостным портретам. тринадцатая Междунар. науч.-тех. конф. студентов и аспирантов: Тез. докл. В 3-х т.- М.: МЭИ, 2007.Т.1. 112-113.
123. Нгуен Д.Т., Использование алгоритмов обратного распространения ошибок для обучения многослойных нейронных сетей. Новые информационные технологии в иаучных исследованнях и в образоваиии: XI Всероссийская 138
124. КошелевВ.И., НгуенД.Т. Обучение многослойных нейронных сетей на основе алгоритма обратного распространения ошибок при распознавании воздушных объектов Вестннк РГРТА. Вып
126. НгуенД.Т. Анализ точности вычисления собственных чисел матриц в пакетах MathCad и MatLab. Математическое вычислительных и программирование сборник научных обеспечение систем: Межвузовский трудов.- Рязань: РГРТУ, 2007. 64-67. 139. http://vlasov.iu4.bmstu.ni/disput/vlasov.htm 140. www.xilinx.com 141. www.analog-devices.com 142. 143. 144. www.texas-instruments.com http://www.electromcs.ni/755.htail httD://neumews.iu4.bmstu.ru/neumews.html 139
-
Похожие работы
- Устойчивые к мешающим факторам алгоритмы распознавания вида помехоустойчивых кодов в радиотехнических системах
- Многокомпонентный газоанализатор на основе блочных нейронных сетей с обучением методом имитации
- Методы распознавания радиолокационных целей по диаграммам рассеяния в пространственно-разнесенном многодиапазонном радиолокационном комплексе с использованием аппарата нейронных сетей
- Модели инвариантного распознавания сигналов при наличии искажений в среде распространения
- Алгоритмы распознавания типов комбинированных помех для обнаружителей радиосигналов
-
- Теоретические основы радиотехники
- Системы и устройства передачи информации по каналам связи
- Радиотехника, в том числе системы и устройства телевидения
- Антенны, СВЧ устройства и их технологии
- Вакуумная и газоразрядная электроника, включая материалы, технологию и специальное оборудование
- Системы, сети и устройства телекоммуникаций
- Радиолокация и радионавигация
- Механизация и автоматизация предприятий и средств связи (по отраслям)
- Радиотехнические и телевизионные системы и устройства
- Оптические системы локации, связи и обработки информации
- Радиотехнические системы специального назначения, включая технику СВЧ и технологию их производства