автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Разработка и исследование математических моделей нейросетевых и статистических обнаружителей сигналов

кандидата физико-математических наук
Ляликова, Виктория Геннадиевна
город
Воронеж
год
2011
специальность ВАК РФ
05.13.17
Диссертация по информатике, вычислительной технике и управлению на тему «Разработка и исследование математических моделей нейросетевых и статистических обнаружителей сигналов»

Автореферат диссертации по теме "Разработка и исследование математических моделей нейросетевых и статистических обнаружителей сигналов"

На правах рукописи

005003012

Ляликова Виктория Геннадиевна

РАЗРАБОТКА И ИССЛЕДОВАНИЕ МАТЕМАТИЧЕСКИХ МОДЕЛЕЙ НЕЙРОСЕТЕВЫХ И СТАТИСТИЧЕСКИХ ОБНАРУЖИТЕЛЕЙ

СИГНАЛОВ

Специальность 05.13.17. -Теоретические основы информатики

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

-1 ДЕК 2011

Воронеж-2011

005003012

Работа выполнена в Государственном образовательном учреждении высшего профессионального образования «Воронежский государственный университет»

Научный руководитель доктор технических наук,

профессор Новикова Нелля Михайловна

Официальные оппоненты доктор физико-математических наук

профессор Меньших Валерий Владимирович

доктор технических наук профессор Вишняков Юрий Муссович

Ведущая организация Московский государственный технический

университет имени Н.Э.Баумана

Защита состоится 21 декабря 2011 года в 15.10 на заседании совета Д.212.038.20 при Государственном образовательном учреждении высшего профессионального образования «Воронежский государственный университет» по адресу: 394006, г. Воронеж, Университетская пл., д.1, ауд. 335.

С диссертацией можно ознакомиться в библиотеке Государственного образовательного учреждения высшего профессионального образования «Воронежский государственный университет»

Автореферат разослан 18 ноября 2011 г.

Ученый секретарь диссертационного совета, кандидат физико-математических наук доцент

Шабров

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Информатизация российского общества востребована массовым пользователем и идет в последние годы достаточно быстро. Использование технологий высокопроизводительной обработки данных увеличивает эффект проводимых исследований и сокращает затраты на проектирование передовых, сложных образцов продукции, а также повышает качество промышленных изделий.

Одним из направлений построения эффективных систем обработки данных является использование новой информационной технологии - технологии нейронных сетей. Данная технология дает возможность компьютерной системе обучаться на примерах. Искусственные нейронные сети позволяют получать решения многих проблем, ранее считавшихся неразрешимыми. При этом достигается гибкость и адаптивность работы, робастность, способность к обобщению. Кроме того, за счет использования специальных архитектур, основанных на множестве одинаковых, достаточно простых элементов, появляется возможность применения параллельных вычислительных средств, причем простота элементов позволяет реализовывать массовую параллельность вычислений. Среди большого числа приложений нейронных сетей есть и приложения в области радиолокации. В настоящее время американское военное командование финансирует целый ряд научно-исследовательских работ, которые посвящены этой тематике. Агентство по перспективным исследованиям DAPRA начало финансирование исследований в области применения нейронных сетей для обработки радиолокационной информации.

В настоящее время известно достаточно большое число зарубежных исследований, в которых рассматривается возможность создания нейросетевых обнаружителей. Например, в работах Andina D and Sanz-Gonzalies J.L., Kuck M., Guo С., Kuh А., Bhattacarya Т.К., Chilingarian А. обсуждаются особенности использования нейронных сетей доя решения задач обнаружения целей, такие как выбор формы желаемого отклика, стабилизация уровня ложной тревоги, последовательное обнаружение, работа в существенно нестационарных условиях, обнаружение слабых сигналов на фоне интенсивных шумов, демонстрируются их преимущества перед традиционными обнаружителями. Из российских исследователей, занимающихся данной проблемой, можно назвать Перова А.И., Татузова A.JL, Галушкина А.Н. В работе Перова А.И., Соколова Г.Г. рассматривалась проблема обнаружения и оценки параметров сигнала нейросетевыми методами. К сожалению, по данной работе нельзя судить полностью о работе нейросетевых алгоритмов применительно к задаче обнаружения сигналов, так как не рассмотрена проблема ложных тревог. В работе Татузова АЛ. рассмотрены методы обучения нейронных сетей для задач обнаружения сигналов. Математическая постановка задачи обнаружения сведена к задаче распознавания с учетом важности вероятности ошибок ложных тревог, как редких событий. Автором предложен алгоритм обучения многослойного персептрона с постоянным уровнем ложных тревог. Следует заметить, что сходимость алгоритма достигается за достаточно большое число итераций, а, следовательно, и времени обучения, что является серьезным недостатком.

Особенностью этой и многих других работ является отсутствие оценок уровня ложных тревог, что не позволяет судить о качестве полученных обнаружителей. Кроме того, исследуется обнаружение сигнала только на фоне гауссовского шума, хотя на практике обнаружитель часто работает в условиях воздействия не только шума, но и импульсных помех. Таким образом, тема диссертации, посвященная разработке и

исследованию математических моделей нейросетевых и статистических обнаружителей сигналов, а также проведение сравнительного анализа рассмотренных обнаружителей, представляется актуальной.

Диссертационная работа выполнена в рамках одного из основных научных направлений факультета прикладной математики информатики и механики ВГУ «Математическое моделирование, программное и информационное обеспечение, методы вычислительной и прикладной математики и их применение в естественных науках»

Цель работы и задачи исследования. Цель диссертационной работы: разработать и исследовать математические модели и алгоритмы обработки радиолокационной информации как нейросетевыми, так и статистическими обнаружителями сигналов при воздействии шумов и помех и осуществить сравнительный анализ разработанных моделей.

Для достижения поставленной цели необходимо решить следующие задачи.

1. Исследовать возможность и особенности применения нейронных сетей для обработки радиолокационных данных.

2. Разработать модели статистических параметрических и непараметрических обнаружителей сигналов при наличии шумов и помех.

3. Создать и исследовать модели обнаружения закономерностей в радиолокационных данных с использованием нейронных сетей.

4. Реализовать рассмотренные статистические и нейросетевые алгоритмы в вычислительном эксперименте и провести сравнительный анализ их работы

5. Разработать программное обеспечение компьютерного моделирования систем обнаружения сигналов.

Методы проведения исследований. При решении поставленных в диссертации задач использовался аппарат теории случайных процессов, статистической теории обнаружения сигналов; методы теории вероятностей и математической статистики; технологии программирования; методы и технологии статистического имитационного моделирования, а также аппарат искусственных нейронных сетей.

Научная новизна работы заключается в разработке математических и компьютерных моделей, методов, алгоритмов и программного обеспечения, позволяющих решить поставленные в работе задачи.

1. Разработана статистическая модель обнаружения сигналов с использованием как параметрических, так и непараметрических методов, отличающаяся тем, что сигналы обнаруживаются не только на фоне шума, но и на фоне хаотических импульсных помех и аддитивной смеси шума и помех.

2. Произведена модификация моделей нейронных сетей Хемминга, Кохонена и двухслойного персептрона для решения задачи обнаружения закономерностей в радиолокационных данных и осуществлена их компьютерная реализация, позволяющая оценить эффективность их работы.

3. На основании теорем Ковера и универсальной аппроксимирующей теоремы синтезирован алгоритм обучения нейронной сети с радиально-базисными функциями активации (РБФ сеть), оптимизирующий задачу обнаружения сигналов при воздействии шумов и помех.

4. Создано специальное программное обеспечение для проведения вычислительных экспериментов и сравнительного анализа эффективности функционирования статистических и нейросетевых обнаружителей.

Основные результаты, выносимые на защиту. На защиту выносятся следующие результаты, впервые достаточно полно развитые или полученные в диссертации.

1. Компьютерная модель статистических параметрических и непараметрических обнаружителей радиолокационного сигнала на фоне гауссовского шума и смеси гауссовскош шума и хаотической импульсной помехи для проведения сравнительного анализа с другими моделями.

2. Компьютерная модель нейросетевых алгоритмов Хемминга, Кохонена, двухслойного персептрона обнаружения радиолокационного сигнала на фоне гауссовского шума и смеси гауссовского шума и хаотической импульсной помехи для оценки эффективности их работы по сравнению со статистическими моделями.

3. Алгоритм обучения нейронной сети РБФ, позволяющий работать сети как оптимальный приемник Байеса при обнаружении сигналов на фоне гауссовского шума и смеси гауссовского шума и хаотической импульсной помехи.

4. Анализ результатов вычислительного эксперимента с использованием созданных моделей для выявления оптимальных обнаружителей радиолокационного сигнала, полученных при различных условиях обнаружиия.

Достоверность результатов работы. Результаты исследований, сформулированные в диссертации, получены на основе корректного использования взаимно дополняющих друг друга теоретических и экспериментальных (имитационное моделирование) методов исследований.

Значимость для науки и практики. Значимость результатов диссертационной работы заключается в возможности использования разработанного информационного и программного обеспечения для принятия решений в задачах обнаружения сигналов. Для науки большое значение имеют результаты сравнительного анализа методов обнаружения. Практические результаты диссертационной работы положены в основу прикладных программ, зарегистрированных в Федеральной службе по интеллектуальной собственности, патентам и товарным знакам (ФГУ ФИПС): "Обнаружение сигналов нейронными сетями при воздействии шумов и помех". Per. № 2011611899 от 28.02.2011.

Область исследования. Содержание диссертации соответствует специальности 05.13.17 - «Теоретические основы информатики» по следующим областям исследований: разработка и анализ моделей информационных процессов и структур (п.2 паспорта специальности); разработка и исследование моделей и алгоритмов анализа данных, обнаружения закономерностей в данных и их извлечениях (п.5 паспорта специальности).

Реализация научных результатов. Разработанное программное обеспечение для обнаружения сигналов в условиях гауссовских шумов и импульсных помех на базе предложенных алгоритмов, может быть использовано в системах извлечения информации, к которым относятся радиолокационные системы, радионавигационные системы, а также в радиосвязи и автоматизированных системах управления для принятия оптимальных решений.

Разработанное программное обеспечение внедрено в работу цеха измерений ЗАО «ВЗПП-Микрон» г. Воронеж с целью проведения автоматизированного мониторинга измерительного оборудования на наличие шумов и помех.

Теоретические результаты диссертации используются в учебном процессе Воронежского государственного университета при чтении спецкурсов и выполнении курсовых и дипломных работ, магистерских диссертаций.

Личный вклад автора. Основные результаты по теме диссертации получены лично автором и опубликованы в соавторстве с научным руководителем. В этих работах постановка задачи и определение направлений исследований выполнены научным руководителем. Автором определены методы исследований, предложен алгоритм обучения нейронной сети РБФ, разработан программный комплекс по обнаружению сигналов нейросетевыми „ и статистическими методами, проведен вычислительный эксперимент и сравнительный анализ обнаружителей сигналов.

Публикации. По теме диссертации (лично и в соавторстве) опубликовано 12 работ, из них 4 работы - в изданиях, рекомендованных ВАК РФ.

Апробация работы. Основные положения диссертации докладывались и обсуждались на следующих конференциях: IX и XI Международной научно-технической конференции «Кибернетика и высокие технологии XXI века» (Воронеж, 2008, 2010), XVI Международной конференции студентов, аспирантов и молодых ученых «Ломоносов» (Москва, 2009), Международной конференции «Актуальные проблемы прикладной математики, информатики и механики» (Воронеж 2009-2010), Воронежской весенней математической школе «Понтрягинские чтения - XX», «Понтрягинские чтения - XXI» (2009-2010), научных сессиях Воронежского государственного университета (2007-2011).

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, заключения и списка литературы из 98 наименований. Объем диссертации составляет 177 страниц, включая 164 страницы основного текста, содержащего 37 рисунков и 30 таблиц.

Основное содержание работы

Во введении к диссертации обоснована актуальность темы, сформулированы цель и задачи работы, методы исследования, научная новизна, практическая значимость полученных результатов, результаты, выносимые на защиту.

В первой главе рассмотрены основные задачи обработки радиолокационной информации. В общем случае процесс ее получения представлен на рис. 1. Проанализирована проблема автоматической обработки радиолокационной информации и возможность применения нейросегевой технологии в данной задаче. Особое внимание уделяется рассмотрению результатов исследований зарубежных и отечественных авторов, посвященных проблеме применения нейросетевой технологии в задачах обнаружения сигнала.

Рис. 1. Обобщенная схема обработки радиолокационной информации

Определяются основные понятия области нейронных сетей. Приведены теоремы Колмогорова, Хехт-Нильсена и ее следствия и универсальная аппроксимирующая теорема, которые являются теоретическими предпосылками для построения нейросегевых обнаружителей. Обосновано применение видеосигнала для решения

поставленной задачи. Аргумаггировано примените процесса имитационного моделирования для проведеши сравнительного анализа характеристик статистических и нейросетевых обнаружителей.

Во второй главе проанализирована теория статистических решений, основой которых является фундаментальная лемма Неймана-Пирсона.

Лемма. Пусть Р0 и Pi - распределения вероятностей, обладающие плотностями р0

и р{ соответственно, по отношению к некоторой мере р.

(I) Существование. Дня проверки Я0: р0 при конкурирующей гипотезе Я,: найдется критерий q> и константа С такие, что

М0<р(Х) = а (1)

[ 1, когда /7, (х) > Ср0 (х)

и (р(х) = \ (2)

О, когда р,(х) < Ср0(х)

(II) Достаточное условие для критерия наибольшей мощности. Если критерий удовлетворяет требованиям (1) и (2) при некотором С, то он является наиболее мощным критерием уровня а для проверки распределения р0 при конкурирующем р1.

(III) Необходимое условие для критерия наибольшей мощности. Если <р - наиболее мощный критерий уровня а доя проверки распределения р0 при конкурирующем р,, то при некотором С он удовлетворяет (2) почти всюду по мере р . Он также удовлетворяет (1), кроме случая, когда существует критерий размера меньше а и мощности 1.

На основе приведенной выше леммы можно сформулировать математическую модель задачи обнаружения сигнала. Она рассматривается как задача проверки двух статистических гипотез (присутствует сигнал, присутствует только шум). Содержательная постановка задачи обнаружения сигнала выглядит следующим образом. Человек-оператор наблюдает процесс x(t), который может быть только помехой n(t), или результатом некоторого взаимодействия полезного сигнала s(t) и помехи n(t). Необходимо разработать правило, обеспечивающее принятие решения о наличии или отсутствии сигнала в наблюдаемом процессе. Эта задача эквивалентна задаче проверки статистических гипотез относительно наблюдаемого процесса x(t).

Н0 : x(t) = «(/) (сигнал отсутствует); ^

Я, : x(t) = «(/) + s(t) (сигнал присутствует).

Определение алгоритма обнаружения сводится к отысканию правила выбора решения по наблюдаемым данным x(t) в пользу одной из гипотез #0 или Я,.

Для реализации математических моделей статистических обнаружителей на компьютере задача может быть поставлена следующим образом. Пусть в течение некоторого времени [0,Т] на вход системы поступает реализация случайного процесса

*(0 = *(') + £('), (4)

которая может быть либо шумом, либо суммой полезного сигнала и шума, где £(/) - либо реализация аддитивной гауссовской помехи с нулевым математическим ожиданием и единичной дисперсией, либо смесь этой же помехи и хаотической импульсной помехи. Сигнал (видеоимпульс) задается в виде

-(1-1о)

= 2 , (5)

где А-амплигуда сигнала, - время прихода сигнала - неизвестный параметр, распределенный по равномерному закону на интервале [0,Т], Иекущий момент времени.

Были рассмотрены параметрические статистические алгоритмы Байеса, максимального правдоподобия и Неймана-Пирсона. Также рассматривались непараметрические статистические алгоритмы: знаковый и знаково-ранговый.

Моделирование байесовского обнаружителя проводилось при равных априорных вероятностях наличия и отсутствия сигнала (р0 = р1 ). Формировались функции: Ь„ (0 = 5(0 + £(/) - при наличии сигнала, Ь^ (?) = ¿(!) - при отсутствии сигнала Реализации (/) и £«(/) сравнивались с порогом С:

Г - ^01-^00 Ро

~~гг-п---'

гдеЯ,7, ¡,]=0,1 - функция потерь, Я00 и Я,, платы за правильные решения, а Я01 и Я10

платы за ошибки первого рода (ложная тревога), и второго рода (пропуск сигнала) соответственно. Подсчитывались вероятности ложной тревоги а = (?) > С] и

пропуска сигнала Р = Р[Ь5 (I) < С], а также вероятности правильного обнаружения Робн ~ ЛА (0 > С] при различных отношениях сигнал/шум. Эти вероятности подсчитываются как частота рассмотренных событий по 1000 предъявлениям во всех трех сериях вычислительных экспериментов.

Моделирование обнаружителя максимального правдоподобия проводилось аналогичным образом при тех же условиях. Реализации ¿Дг) и 1/(0 сравнивались с

порогом С=1. Моделирование обнаружителя Неймана-Пирсона проводилось таким же образом, как и предыдущих обнаружителей, за исключением выбора порога С. Для его определения, сначала необходимо выбрать уровень ложных тревог а, а затем, используя

ОО

условие а = (() < С] = | (?)сЛ < С, определить порог С. Уровень а = 10"8.

с

Моделирование знакового и знаково-рангового обнаружителя проводилось следующим образом. Знаковый обнаружитель подсчитывает следующую статистику:

Я = 2>(х,),*(*,) = Г х'->0;, (7)

1=1 [о, Х;<0

где п-обьем выборки, х(()=5(()+£(7) - при наличии сигнала, хр)=£(0 - при отсутствии сигнала. Далее накопленная статистика 8 сравнивалась с порогом

С = (ха4п+п)/2, (8)

при уровне а = 10"8. Вычислялись вероятности пропуска сигнала /3 = Р[Б<С] и вероятности правильного обнаружения Робн = Р[5 > С] при различных отношениях сигнал/шум. Моделирование знаково-рангового обнаружителя проводилось аналогичным образом. Подсчитывалась статистика

1=1

где Я* - ранг положительного элемента х) в вариационном ряду, составленном га абсолютных значений х[,х2,..,хп. Далее статистика сравнивалась с порогом

„и, пг и ....

Св2(ХЧЗ+2) (10)

при уровне а = 10'8. Определялись вероятности пропуска сигнала Р и вероятности правильного обнаружения РоГт при различных отношениях сигнал/шум. Эти вероятности рассчитывались как частота события по 1000 реализациям для каждого значения сигнал/шум при объеме выборки в 100 значений.

Были проведены две серии экспериментов. В первой серки сигнал обнаруживался на фоне гауссовского шума, во второй - на фоне гауссовского шума и хаотической импульсной помехи. Результаты экспериментов представлены на рис.2а и 26. Анализ полученных результатов показал, что алгоритм Байеса оказывается эффективнее знакового в среднем на 37%, а знаково-ранговош на 32% при одинаковом низком уровне ложных тревог (10"4 н-10"8). Применение статистических критериев подтверждает достоверность различий полученных результатов при уровне значимости 0,05.

Отношение опхапЛаум — бай ее ♦ Маге, гщмцополсби» —-иеГюна-Гирсонв

^Змвомий ч*Знаи01о-рвнл»ый

Отномм* си тал/кум

— байес '•'Ммс.прввдопоАоби* — Неимвив Лусона ■®-Зпжо»ьЛ «*Эиа«от-рвиговьм

Рис.2а. Зависимость вероятности правильного Рис.2б. Зависимость вероятности правильного обнаружения от отношения сигнал/шум при обнаружения от отношения сигнал/шум при воздействии гауссовского шума. воздействии гауссовского шума и хаотической

импульсной помехи

Третья глава посвящена анализу нейросетевых моделей обнаружения сигналов. Рассматривается работа нейросетевого обнаружителя, который проводит разделение входных данных на два класса (одни класс отвечает за присутствие цели, а другой за присутствие только помех). Любое нерандомизированное решающее правило можно описать как некоторую критическую область в пространстве векторов входных сигналов. При попадании входного сигнала в эту область принимается решение о наличии искомого объекта. В противном случае принимается решение об его отсутствии. Теоремы Хехт-Нильсена и универсальная аппроксимирующая теорема позволили построить обучение нейронных сетей так, чтобы получить оптимальное решающее правило в задаче обнаружения сигнала.

Теорема Хехт-Нильсена. Каждая непрерывная функция /: [0,1]" —> ЧЛ может быть представлена нейронной сетью прямого распространения с непрерывной функцией

активации t : [0,1] —> SR. Теорема доказывает решаемость задачи представления функций произвольного вида на нейронной сети, а следствия из теоремы указывают для каждой задачи минимальные числа нейронов сети, необходимые для ее решения.

Универсальная аппроксимирующая теорема. Пусть Ф(х,,jc2,..,х„) - любая непрерывная функция, определенная на ограниченном множестве, и е > 0 - любое сколь угодно малое число, означающее точность аппроксимации. Через F обозначим сигмоидальную функцию. Существуют такое число ш, набор чисел wv и набор чисел у,, что функция

m п

f{x{,x2,..,x„) = (И)

;=i j=о

приближает данную функцию Ф(*1,х2,..,хп) с погрешностью не более s на всей области определения. В терминах теории нейросетей эта теорема формулируется следующим образом.

Теорема. Любую непрерывную функцию нескольких переменных можно с любой точностью реализовать с помощью двухслойной нейросети с достаточным количеством нейронов в скрытом слое.

В качестве нейросетевых алгоритмов были исследованы нейронная сеть Хемминга, сеть Кохонена, двухслойный персептрон, а также нейронная сеть на основе радиалыю-базисных функций активации. Для реализации математических моделей нейросетевых обнаружителей на компьютере задача обнаружения сигнала ставилась так же, как описано в главе 2.

Персептрон представляет собой двухслойную нейронную сеть без обратных связей (входной слой является первым слоем и выходной - вторым), который работает следующим образом. На его входы поступают входные сигналы, проходящие по синапсам и образующие выходные сигналы:

п

>'j=FŒx.HV ),j=l,-.n, (12)

i—1

где yi -i-ый элемент выходного сигнала первого слоя, х, - i-ый элемент входного сигнала, - значение веса от нейрона i к нейрону j. Полученные выходы поступают на следующие нейроны второго слоя, и выдают единственный выходной сигнал

Y=F(¿7,v, ), (13)

1=1

где Vj - i-oe значение веса выходного слоя сети. Данный процесс, происходящий в нейронной сети, может быть записан в следующей матричной форме.

Y=F(F(XW),V), (14)

где X и Y- соответственно входной и выходной сигнальные векторы, F(s) -активационная функция, применяемая поэлементно к компонентам вектора s.

Обучение персептрона сводится к формированию весов связей между первым и вторым слоями по следующей формуле.

"„(P+V^W+wTWK (15)

где w0(p +1) - значение веса от нейрона i к нейрону j после подстройки, и^. (р) -значение веса от нейрона i к нейрону j до подстройки, - выходное значение j-ro

нейрона слоя (я-1), у'*' - выходное значите 1 - го нейрона слоя ц, н',у - весовой коэффициент синапса, соединяющего эти нейроны, 77 - коэффициент скорости обучения, р- шаг итерации.

Обучение двухслойного персептрона сводилось к расчету 10000 весовых коэффициентов первого слоя и 100 значений коэффициентов второго слоя по методу обучения Хебба по формуле (15). В общей сложности потребовалось настроить 10100 значений весовых коэффициентов. В качестве активационной функции использовалась сигмоидальная логистическая функция

^(х) = 1 /(I + е-*) (16)

Данная функция обладает свойством усиливать слабые сигналы и предотвращает от насыщения при больших сигналах.

Сеть Кохонена обучается методом последовательных приближений. В процессе последовательной подачи на вход сети обучающих примеров определяется нейрон, у которого скалярное произведение весов и входного вектора минимально. Этот нейрон объявляется победителем, и веса этого нейрона подстраиваются по следующей формуле.

Щ/1 + 1) ==%+«/ (*,(') - ^(0), (17)

где и^(? + 1) - значение веса от нейрона 1 к нейрону 3 в момент времени Н-1, и>,у(0 -значение веса от нейрона 1 к нейрону j в момент времени и а, - темп обучения в момент времени 1, .г, - ¡-ый элемент входного сигнала.

Первоначально в окрестности любого из нейронов находятся все нейроны сети, но с каждым этапом эта окрестность сужается. В конце этапа обучения подстраиваются только веса нейрона с номером к. В связи с тем, что сеть Кохонена имела 2 нейрона, следовательно, при обучении потребовался расчет 200 коэффициентов.

Под нейронной сетью с радиально-базисными функциями активации или РБФ сетью понимается двухслойная сеть без обратных связей, которая содержит слой скрытых нейронов с радиалыю симметричной активационной функцией, каждый из которых предназначен для хранения отдельного эталонного вектора (в виде вектора весов). Математическую основу функционирования РБФ сетей составляет теорема Ковера о разделимости образов. В соответствии с данной теоремой можно осуществить нелинейное преобразование векторов на входе сети в пространство более высокой размерности, что повышает вероятность линейной разделимости этих векторов.

Процесс обучения РБФ сети, по разработанному автором алгоритму, с учетом выбранного типарадиально-базисной функции сводится:

• во-первых, к подбору эталонов, представленных в виде весовых векторов нейронов скрытого слоя;

• во-вторых, к подбору центров г, по формуле (18) и параметров отклонений ег( по формуле (19) формы базисных функции;

^.(/ + 1) = ф) + а, (х,-(0-»;(0). О8)

где г1 (/ + ])- значаще центра 1 в момент времени 1+1; г- (<) - значите центра 1 в момент времени темп обучения.

■ а, в-третьих, к подбору весов нейронов выходного слоя по формуле (15).

При обучении сета РБФ скрытый слой обучался с помощью алгоритма Кохонена. Данный алгоритм разместит центры таким образом, чтобы они отражали расположите данных. Весовые коэффициенты выходного слоя сети оптимизировались по методу обучения Хебба, по которому обучался и двухслойный персешрон. В качестве эталонных значений в первый образец записывались значения сигнала, а во второй значения гауссовского шума. Для обучения сети потребовался подбор 200 значений эталонов, настройка двух значений центров г,, одного значения отклонения ег, , используя евклидово расстояние, и 4-х значений весовых коэффициентов второго выходного слоя.

Нейронная сеть Хемминга состоит из двух слоев. Первый и второй слои имеют по т нейронов, где т - число образцов. В данной сети весовые коэффициенты синапсов рассчитываются только один раз перед началом функционирования сети на основе информации об обрабатываемых данных по формуле (20), и все обучение сети сводится именно к этому расчету

к

= к=0,..,т-1, (20)

£ .

где х, -1-й элемент к-го образца.

Для сети Хемминга требуются весовые коэффициенты, состоящие только из двух образцов (первый образец содержит значения сигнала, второй только нули, т.е. сигнала нет), поэтому ее обучение сводилось к расчету 200 весовых значений по формуле (20).

Рассмотренные выше нейронные сети имели число входов, равное числу предъявляемой выборки (100), т.е. количеству значений в наблюдаемой реализации. Нейронные сети РБФ, Кохонена и Хемминга имели 2 выхода (один выход отвечает за присутствие сигнала, второй за присутствие только помехи), а двухслойный персептрон имел один выход, который затем сравнивался с порогом (Т=1), чтобы определить результат работы сети.

Обучение нейронной сети РБФ, Кохонена и двухслойного персетрона проходило следующим образом. Данным сетям на вход случайным образом предъявлялись обучающие выборки, содержащие либо гауссовский шум, либо смесь гауссовского шума и сигнала, то есть обучающие выборки не содержали информации о хаотической импульсной помехе. Данная выборка, содержала 100 обучающих примеров. В процессе предъявления на вход сети обучающих примеров определялся выход сети. В зависимости от полученного значения выхода весовые коэффициенты либо изменялись, либо нет. Измените весовых коэффициентов происходило в соответствии с алгоритмами обучения. Если веса перестали изменяться, значит, для данного примера сеть обучена. Обучение проводилось до тех пор, пока весовые коэффициенты не достигнут точности 10""10.

Для рассмотренных нейронных сетей были построены компьютерные модели, на которых проводились такие же вычислительные эксперименты, как и для статистических обнаружителей. Результаты экспериментов представлены на рис. За и 36. Анализ результатов экспериментов показал, что только нейронная сеть РБФ имеет высокие вероятности правильного обнаружения сигнала порядка 0,906-^0,990 при низком уровне ложных тревог 10~8. Двухслойный персептрон, сеть Хемминга и Кохонена имеют

вероятностные характеристики значительно хуже, чем сеть РБФ. Применение статистического критерия Вилкоксона подтверждает, что вероятности, полученные для алгоритма иейрошюй сети РБФ и двухслойного персептрона, извлечены га разных генеральных совокупностей при уровне значимости 0,05.

4-Jbl ft I I t | l

if/ !

: / ;

Огневаим» сх rntn/ш >»»

*■ Переелтрои к«

к- Переел трон -*-Х!

Рис. За. Зависимость вероятности правильного обнаружения от отношения сигнал/шум при наличии гауссовского шума

Рис. 36. Зависимость вероятности правильного обнаружения от отношения сигнал/ шум при смеси гауссовского шума и хаотической импульсной помехи

Четвертая глава посвящена описанию разработанного в среде Delphi 7 программного комплекса, в котором реализованы статистические алгоритмы Байеса, Неймана-Пирсона, максимального правдоподобия, знаковый и знаково-ранговый, а также алгоритмы нейронных сетей Хемминга, Кохонена, двухслойного персептрона и нейронной сети РБФ. Схема функционирования программного комплекса по обнаружению сигналов представлена рис. 4. _

X

Подсистема обучения

Формирование

обучаю шеи выборки

1

Обучающая

процедура

ж

Подсистема ввода

данных (редактор ованкя)

X

Поде ж тема обнаружения

Выбор алгоритма

Т

Процедур4 обнаружения

I

Рис. 4. Схема функционирования программного комплекса по обнаружению сигналов

В результате работы программы получены графические зависимости вероятности правильного обнаружения, пропуска сигнала и вероятности ложной тревоги ог отношения сигнал-шум. Эксперименты проводились при следующих параметрах, одинаковых для всех обнаружителей: объем выборки равен 100, число реализаций равно 1000. Для осуществления сравнительного анализа работы статистических и нейросетевых обнаружителей были проведены три серии вычислительных экспериментов. В первой серии сигнал обнаруживался на фоне гауссовского шума (рис.5а). Во второй серии обнаружение сигнала производилось на фоне хаотической импульсной помехи (рис.5б). В третьей серии сигнал обнаруживался на фоне смеси

с. працопоцобия ■»Неимапа-Пирсо« и- Знаке» о-роигоаыи ■»Ха*»иг

>• Кохонвн__♦ РБФ сеть

— Бэиес -#-Макс. гравдеподобия •♦•НвймвнаЛирсома ♦ Зиекояый ч*3иа«о90-рамго*ьи ^Хвммимг т-Перссптрон_Кохонаи___♦ РБД сеть

Рис. 5а. Зависимость вероятности правильного обнаружения от отношения сигнал/шум при наличии гауссовского шума

Рис. 56. Зависимость вероятности правильного обнаружения от отношения сигнал/шум при наличии хаотической т импульсной помехи

Уровень ложных тревог для всех статистических обнаружителей, а также для нейронной сети РБФ и двухслойного персептрона находится на фиксированном низком уровне Ю-8 . Для нейронной сети Хемминга и Кохонена средние значения вероятности ложных тревог равны соответственно при гауссовском шуме 0,437 и 0,431, при хаотической импульсной помехи 0,495 и 0,495, а при смеси гауссовского шума и хаотической импульсной помехе 0,442 и 0,437. Заметим, что алгоритм сети РБФ эффективнее алгоритма Байеса в среднем на 11,4%, но при этом алгоритм Байеса эффективнее алгоритма двухслойного персетрона на 8,1%. Также алгоритм двухслойного персептрона эффективнее алгоритма Неймана-Пирсона на 6,6%. Необходимо выявить, значима ли разница между вероятностями правильного обнаружения, полученными в вычислительном эксперименте с моделями Байеса, нейронной сетью РБФ и двухслойным персептроном. Выдвигается гипотеза, что вероятности получены по выборкам, извлеченным из одной

^Знаковый

Рис. 5в. Зависимость вероятности правильного обнаружения от отношения сигнал/ шум при смеси гауссовского шума и хаотической импульсной помехи

генеральной совокупности. Дня проверки этой гипотезы используем критерий однородности двух выборок %2 . Применение этого статистического критерия подтверждает, что алгоритм нейронной сети РБФ работает как оптимальный алгоритм Байеса при уровне значимости 0,05.

В заключении подведены итоги по диссертации в целом, сделаны выводы и сформулированы основные результаты, которые сводятся к следующему.

1. Рассмотрены основные задачи обработки радиолокационных данных. Дано обоснование необходимости поиска новых подходов к построению автоматических систем обнаружения. На основании теорем Колмогорова и Хехт-Нильсена обосновано применение нейросетевых методик в поставленной задаче.

2. На основании леммы Неймана-Пирсона созданы математические модели статистических обнаружителей сигналов. С помощью вычислительного эксперимента исследованы параметрические и непараметрические обнаружители сигналов в условиях гауссовского шума и хаотических импульсных помех. Показано, что использование параметрических алгоритмов является наиболее предпочтительным по сравнению с непарамегрическими.

3. На основании теоремы Хехт-Нильсена разработана архитектура и алгоритмы нейросетевых обнаружителей сигналов на основе нейронных сетей Хемминга, Кохонена и двухслойного персептрона. С помощью вычислительного эксперимента исследована работа данных моделей в условиях шумов и помех.

4. На основании теоремы Ковера и универсальной аппроксимирующей теоремы разработан алгоритм обучения нейронной сети РБФ, работающий как оптимальный приемник Байеса, как при наличии шума, так и при наличии помех. Показано, что применение нейронной сети РБФ является наиболее предпочтительным по сравнению с нейронными сетями Хемминга, Кохонена и двухслойного персептрона.

5. Создано программное обеспечение для проведения трех серий вычислительных экспериментов при различных условиях обнаружения сигналов: на фоне гауссовского шума, на фоне хаотической импульсной помехи и при ад дитивном сложении шума и хаотической импульсной помехи. Осуществлен сравнительный анализ работы моделей статистических и нейросетевых обнаружителей. Показано, что нейронная сеть РБФ, обученная по алгоритму, разработанному автором, является оптимальным обнаружителем. Программное обеспечение зарегистрировано в Федеральной службе по интеллектуально собственности, патентам и товарным знакам. Per. №2011611899 от 28.02.2011. Разработанная структура пользовательского интерфейса с помощью интегрированной среды программирования Delphi 7, обеспечивает полную интерактивную и диалоговую поддержку программных средств.

Публикации в изданиях, рекомендованных ВАК РФ

1. Ляликова В.Г. Математические модели нейросетевых и статистических обнаружителей сигналов / Н.М. Новикова, В.Г. Ляликова // Нейрокомпьютеры: разработка и применение. - 2010 - №4. - С.62-68.

2. Ляликова В.Г. Модели параметрических и непараметрических обнаружителей сигналов / Н.М. Новикова, В.Г. Ляликова // Вести. Воронеж, гос. техн. ун-та. - 2010. -Том 6.- №8.- С.122-126.

3. Ляликова В.Г. Компьютерное моделирование непараметрических статистических и нейросетевых обнаружителей / Н.М. Новикова, В.Г. Ляликова // Радиотехника. - 2011.- №4. С. 41 -50.

f) '■} t'- /V

4. Ляликова В.Г. Математические модели параметрических статистических и иейросетевых обнаружителей сигналов при наличии шума и импульсной помехи / Н.М. Новикова, В.Г. Ляликова // Информационные технологии. - 2011. - №5. С.73-78

Статьи и материалы конференций

5. Ляликова В.Г. Обнаружение сигналов нейросегевыми и статистическими методами / Н.М. Новикова, В.Г. Ляликова // Кибернетика и высокие технологии XXI века (С&Т): материалы IX Международ, науч.-техн. конф. - Воронеж, 2008. Т. 1.- С 423-431.

6. Ляликова В.Г. Нейросетевые и статистические методы обнаружения сигналов. / В.Г. Ляликова // Ломоноеов-2009: сб. тез. XVI Международ, конф. студентов, аспирантов и молодых ученых, секция «Вычислительная математика и кибернетика». - Москва,

2009,-С.52.

7. Ляликова В.Г. Обнаружение целей с помощью нейронной сети РБФ / В.Г. Ляликова // Пошрягинские чтения: материалы XX Воронежской весенней математической школы (дополнительный выпуск). - Воронеж, 2009,- С 9.

8. Ляликова В.Г. Методы обучения нейронной сети РБФ для решения задачи обнаружения сигналов / Н.М. Новикова, В.Г. Ляликова // Актуальные проблемы прикладной математики, информатики и механики: сб. тр. Международ, конф., Воронеж, 22-24 июня 2009,- С.97-100.

9. Ляликова В.Г. Работа статистических и нейросетевых обнаружителей сигналов в условиях импульсных помех / В.Г. Ляликова // Понтрягинские чтения: материалы XXI Воронежской весящей математической школы. - Воронеж, 2010. - С 135-136.

10. Ляликова В.Г. Влияние хаотической импульсной помехи на характеристики нейросетевых обнаружителей сигналов. / ВГ. Ляликова // Кибернетика и высокие технологии XXI века (С&Т): материалы XXI Международ, науч.-техн. конф - Воронеж,

2010.-С. 746-755.

11. Ляликова В.Г. Оценка эффективности статистических и нейросетевых алгоритмов в задаче обнаружения сигналов при квазиимпульсной помехе / В.Г. Ляликова // Актуальные проблемы прикладной математики, информатики и механики." сб. тр. Международ, конф., Воронеж, 20-22 сентября 2010. - С. 233-236.

12. Программа «Обнаружение сигналов нейронными сетями при воздействии шумов и помех» / В.Г. Ляликова Н.М. Новикова. - М.: ФГУ ФИПС, 2011. Per. №2011611899 от 28.02.2011г.

Подписано в печать 17.И. 11. Формат 60х84 1/(6. Усл. печ. л. 0.93. Тираж 100 экз. Заказ 1417.

Отпечатано с готового оригинал-макета в типографии Издательско-полиграфического центра Воронежского государственного университета. 394000, Воронеж, ул. Пушкинская, 3

Оглавление автор диссертации — кандидата физико-математических наук Ляликова, Виктория Геннадиевна

ВВЕДЕНИЕ.

ГЛАВА 1. НЕЙРОННЫЕ СЕТИ ДЛЯ ОБРАБОТКИ ИНФОРМАЦИИ.

1.1 .Информационные технологии обработки радиолокационной информации.

1.2. Введение в искусственные нейронные сети.

1.3.Теоретические основы для построения нейронных сетей.

Выводы по главе 1.

ГЛАВА 2. РАЗРАБОТКА И ИССЛЕДОВАНИЕ

МОДЕЛЕЙ И АЛГОРИТМОВ

СТАТИСТИЧЕСКИХ ОБНАРУЖИТЕЛЕЙ СИГНАЛОВ.

2.1. Основные теоретические предпосылки для построения статистических алгоритмов.

2.2. Статистические параметрические обнаружители сигналов.

2.3. Статистические непараметрические обнаружители сигналов.

Выводы по главе 2.

ГЛАВА 3. АНАЛИЗ И СИНТЕЗ НЕЙРОСЕТЕВЫХ

МОДЕЛЕЙ ОБНАРУЖЕНИЯ СИГНАЛОВ.

3.1. Основные предпосылки обработки радиолокационных сигналов нейронными сетями.

3.2. Многослойные персептроны.

3.3. Сети с самоорганизацией Кохонена.

3.4. Нейронная сеть на основе радиально-базисных функций активаций

3.5. Нейронная сеть Хемминга.

3.6. Сравнительный анализ математических моделей нейросетевых обнаружителей сигналов.

Выводы по главе 3.

ГЛАВА 4. ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ ИНФОРМАЦИОННЫХ

ПРОЦЕССОВ ОБНАРУЖЕНИЯ СИГНАЛОВ.

4.1. Имитационное моделирование систем обнаружения сигналов.

4.2. Компьютерная реализация имитационных моделей статистических и нейросетевых обнаружителей сигналов.

4.3. Сравнительный анализ компьютерных моделей обнаружителей сигналов.

Выводы по главе 4.

Введение 2011 год, диссертация по информатике, вычислительной технике и управлению, Ляликова, Виктория Геннадиевна

Актуальность темы. Информатизация российского общества востребована массовым пользователем и идет в последние годы достаточно быстро. Использование технологий высокопроизводительной обработки данных увеличивает эффект проводимых исследований и сокращает затраты на проектирование передовых, сложных образцов продукции, а также повышает качество промышленных изделий.

Одним из направлений построения эффективных систем обработки данных является использование новой информационной технологии -технологии нейронных сетей. Данная технология дает возможность компьютерной системе обучаться на примерах. Искусственные нейронные сети позволяют получать решения многих проблем, ранее считавшихся неразрешимыми. При этом достигается гибкость и адаптивность работы, робастность, способность к обобщению. Кроме того, за счет использования специальных архитектур, основанных на множестве одинаковых, достаточно простых элементов, появляется возможность применения параллельных вычислительных средств, причем простота элементов позволяет реализовывать массовую параллельность вычислений. Среди большого числа приложений нейронных сетей есть и приложения в области радиолокации. В настоящее время американское военное командование финансирует целый ряд научно-исследовательских работ, которые посвящены этой тематике. Агентство по перспективным исследованиям DAPRA начало финансирование исследований в области применения нейронных сетей для обработки радиолокационной информации.

В настоящее время известно достаточно большое число зарубежных исследований, в которых рассматривается возможность создания нейросетевых обнаружителей. Например, в работах Andina D and Sanz-Gonzalies J.L., Kuck M., Guo С., Kuh A., Bhattacarya Т.К., Chilingarian А. обсуждаются особенности использования нейронных сетей для решения задач обнаружения целей, такие как выбор формы желаемого отклика, стабилизация уровня ложной тревоги, последовательное обнаружение, работа в существенно нестационарных условиях, обнаружение слабых сигналов на фоне интенсивных шумов, демонстрируются их преимущества перед традиционными обнаружителями. Из российских исследователей, занимающихся данной проблемой, можно назвать Перова А.И., Татузова А.Л., Галушкина А.Н. В работе Перова А.И., Соколова Г.Г. рассматривалась проблема обнаружения и оценки параметров сигнала нейросетевыми методами. К сожалению, по данной работе нельзя судить полностью о работе нейросетевых алгоритмов применительно к задаче обнаружения сигналов, так как не рассмотрена проблема ложных тревог. В работе Татузова А.Л. рассмотрены методы обучения нейронных сетей для задач обнаружения сигналов. Математическая постановка задачи обнаружения сведена к задаче распознавания с учетом важности вероятности ошибок ложных тревог, как редких событий. Автором предложен алгоритм обучения многослойного персептрона с постоянным уровнем ложных тревог. Следует заметить, что сходимость алгоритма достигается за достаточно большое число итераций, а, следовательно, и времени обучения, что является серьезным недостатком.

Особенностью этой и многих других работ является отсутствие оценок уровня ложных тревог, что не позволяет судить о качестве полученных обнаружителей. Кроме того, исследуется обнаружение сигнала только на фоне гауссовского шума, хотя на практике обнаружитель часто работает в условиях воздействия не только шума, но и импульсных помех. Таким образом, тема диссертации, посвященная разработке и исследованию математических моделей нейросетевых и статистических обнаружителей сигналов, а также проведение сравнительного анализа рассмотренных обнаружителей, представляется актуальной.

Диссертационная работа выполнена в рамках одного из основных научных направлений факультета прикладной математики информатики и механики ВГУ «Математическое моделирование, программное и информационное обеспечение, методы вычислительной и прикладной математики и их применение в естественных науках»

Цель работы и задачи исследования. Цель диссертационной работы: разработать и исследовать математические модели и алгоритмы обработки радиолокационной информации как нейросетевыми, так и статистическими обнаружителями сигналов при воздействии шумов и помех и осуществить сравнительный анализ разработанных моделей.

Для достижения поставленной цели необходимо решить следующие задачи.

1. Исследовать возможность и особенности применения нейронных сетей для обработки радиолокационных данных.

2. Разработать модели статистических параметрических и непараметрических обнаружителей сигналов при наличии шумов и помех.

3. Создать и исследовать модели обнаружения закономерностей в радиолокационных данных с использованием нейронных сетей.

4. Реализовать рассмотренные статистические и нейросетевые алгоритмы в вычислительном эксперименте и провести сравнительный анализ их работы

5. Разработать программное обеспечение компьютерного моделирования систем обнаружения сигналов.

Методы проведения исследований. При решении поставленных в диссертации задач использовался аппарат теории случайных процессов, статистической теории обнаружения сигналов; методы теории вероятностей и математической статистики; технологии программирования; методы и технологии статистического имитационного моделирования, а также аппарат искусственных нейронных сетей.

Научная новизна работы заключается в разработке математических и компьютерных моделей, методов, алгоритмов и программного обеспечения, позволяющих решить поставленные в работе задачи.

1. Разработана статистическая модель обнаружения сигналов с использованием как параметрических, так и непараметрических методов, отличающаяся тем, что сигналы обнаруживаются не только на фоне шума, но и на фоне хаотических импульсных помех и аддитивной смеси шума и помех.

2. Произведена модификация моделей нейронных сетей Хемминга, Кохонена и двухслойного персептрона для решения задачи обнаружения закономерностей в радиолокационных данных и осуществлена их компьютерная реализация, позволяющая оценить эффективность их работы.

3. На основании теорем Ковера и универсальной аппроксимирующей теоремы синтезирован алгоритм обучения нейронной сети с радиально-базисными функциями активации (РБФ сеть), оптимизирующий задачу обнаружения сигналов при воздействии шумов и помех.

4. Создано специальное программное обеспечение для проведения вычислительных экспериментов и сравнительного анализа эффективности функционирования статистических и нейросетевых обнаружителей.

Основные результаты, выносимые на защиту. На защиту выносятся следующие результаты, впервые достаточно полно развитые или полученные в диссертации.

1. Компьютерная модель статистических параметрических и непараметрических обнаружителей радиолокационного сигнала на фоне гауссовского шума и смеси гауссовского шума и хаотической импульсной помехи для проведения сравнительного анализа с другими моделями.

2. Компьютерная модель нейросетевых алгоритмов Хемминга, Кохонена, двухслойного персептрона обнаружения радиолокационного сигнала на фоне гауссовского шума и смеси гауссовского шума и хаотической импульсной помехи для оценки эффективности их работы по сравнению со статистическими моделями.

3. Алгоритм обучения нейронной сети РБФ, позволяющий работать сети как оптимальный приемник Байеса при обнаружении сигналов на фоне гауссовского шума и смеси гауссовского шума и хаотической импульсной помехи.

4. Анализ результатов вычислительного эксперимента с использованием созданных моделей для выявления оптимальных обнаружителей радиолокационного сигнала, полученных при различных условиях обнаружения.

Достоверность результатов работы. Результаты исследований, сформулированные в диссертации, получены на основе корректного использования взаимно дополняющих друг друга теоретических и экспериментальных (имитационное моделирование) методов исследований.

Значимость для науки и практики. Значимость результатов диссертационной работы заключается в возможности использования разработанного информационного и программного обеспечения для принятия решений в задачах обнаружения сигналов. Для науки большое значение имеют результаты сравнительного анализа методов обнаружения. Практические результаты диссертационной работы положены в основу прикладных программ, зарегистрированных в Федеральной службе по интеллектуальной собственности, патентам и товарным знакам (ФГУ ФИПС): "Обнаружение сигналов нейронными сетями при воздействии шумов и помех". Per. № 2011611899 от 28.02.2011.

Область исследования. Содержание диссертации соответствует специальности 05.13.17 - «Теоретические основы информатики» по следующим областям исследований: разработка и анализ моделей информационных процессов и структур (п.2 паспорта специальности); разработка и исследование моделей и алгоритмов анализа данных, обнаружения закономерностей в данных и их извлечениях (п.5 паспорта специальности).

Реализация научных результатов. Разработанное программное обеспечение для обнаружения сигналов в условиях гауссовских шумов и импульсных, помех на базе предложенных алгоритмов, может быть использовано в системах извлечения информации, к которым относятся радиолокационные системы, радионавигационные системы, а также в радиосвязи и автоматизированных системах управления для принятия оптимальных решений.

Разработанное программное обеспечение внедрено в работу цеха измерений ЗАО «ВЗПП-Микрон» г. Воронеж с целью проведения автоматизированного мониторинга измерительного оборудования на наличие шумов и помех.

Теоретические результаты диссертации используются в учебном процессе Воронежского государственного университета при чтении спецкурсов и выполнении курсовых и дипломных работ, магистерских диссертаций.

Личный вклад автора. Основные результаты по теме диссертации получены лично автором и опубликованы в соавторстве с научным руководителем. В этих работах постановка задачи и определение направлений исследований выполнены научным руководителем. Автором определены методы исследований, предложен алгоритм обучения нейронной сети РБФ, разработан программный комплекс по обнаружению сигналов нейросетевыми и статистическими методами, проведен вычислительный эксперимент и сравнительный анализ обнаружителей сигналов.

Публикации. По теме диссертации (лично и в соавторстве) опубликовано 12 работ, из них 4 работы - в изданиях, рекомендованных ВАК РФ.

Апробация работы. Основные положения диссертации докладывались и обсуждались на следующих конференциях: IX и XI Международной научно-технической конференции «Кибернетика и высокие технологии XXI века» (Воронеж, 2008, 2010), XVI Международной конференции студентов, аспирантов и молодых ученых «Ломоносов» (Москва, 2009), Международной конференции «Актуальные проблемы прикладной математики, информатики и механики» (Воронеж 2009-2010), Воронежской весенней математической школе «Понтрягинские чтения - XX», «Понтрягинские чтения - XXI» (20092010), научных сессиях Воронежского государственного университета (20072011).

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, заключения и списка литературы из 98 наименований. Объем диссертации составляет 177 страниц, включая 164 страницы основного текста, содержащего 37 рисунков и 30 таблиц.

Заключение диссертация на тему "Разработка и исследование математических моделей нейросетевых и статистических обнаружителей сигналов"

ОСНОВНЫЕ ВЫВОДЫ ПО ДИССЕРТАЦИИ.

1. Рассмотрены основные задачи обработки радиолокационных данных. Дано обоснование необходимости поиска новых подходов к построению автоматических систем обнаружения сигналов из-за неспособности классических методов автоматизации справиться с поставленными задачами. На основании теорем Колмогорова и Хехт-Нильсена обосновано применение нейросетевых методик в поставленной задаче.

2. На основании леммы Неймана-Пирсона созданы математические модели статистических обнаружителей сигналов. С помощью вычислительного эксперимента исследованы параметрические и непараметрические обнаружители сигналов в условиях гауссовского шума и хаотических импульсных помех. Показано, что использование параметрических алгоритмов является наиболее предпочтительным по сравнению с непараметрическими.

3. На основании теоремы Хехт-Нильсена разработана архитектура и алгоритмы нейросетевых обнаружителей сигналов на основе нейронных сетей Хемминга, Кохонена и двухслойного персептрона. С помощью вычислительного эксперимента исследована работа данных моделей в условиях шумов и помех.

4. На основании теоремы Ковера и универсальной аппроксимирующей теоремы разработан алгоритм обучения нейронной сети РБФ, работающий как оптимальный приемник Байеса, как при наличии шума, так и при наличии помех. Показано, что применение нейронной сети РБФ является наиболее предпочтительным по сравнению с нейронными сетями Хемминга, Кохонена и двухслойного персептрона.

5. Создано программное обеспечение для проведения трех серий вычислительных экспериментов при различных условиях обнаружения сигналов: на фоне гауссовского шума, на фоне хаотической импульсной помехи и при аддитивном сложении шума и хаотической импульсной помехи. Осуществлен сравнительный анализ работы моделей статистических и нейросетевых обнаружителей. Показано, что нейронная сеть РБФ, обученная по алгоритму, разработанному автором, является оптимальным обнаружителем. Программное обеспечение зарегистрировано в Федеральной службе по интеллектуально собственности, патентам и товарным знакам. Per. №2011611899 от 28.02.2011. Разработанная структура пользовательского интерфейса с помощью интегрированной среды программирования Delphi 7, обеспечивает полную интерактивную и диалоговую поддержку программных средств.

Библиография Ляликова, Виктория Геннадиевна, диссертация по теме Теоретические основы информатики

1. Алгазинов Э.К. Анализ и компьютерное моделирование информационных процессов и систем / Алгазинов Э.К., Сирота A.A. ; под общ. ред. A.A. Сироты. М.: Диалог-МИФИ, 2009. - 416с.

2. Арбиб М. Метафорический мозг. Серия «Науки об искусственном» / М. Арбиб. М.: Едиториал УРСС, 2004. - 304с.

3. Быков В.В. Цифровое моделирование в статистической радиотехнике / В.В. Быков. -М.:Наука,1971. 321с.

4. Богданович В.А. Теория устойчивого обнаружения, различения и оценивания сигналов / В.А. Богданович, А.Г. Вострецов. М.:ФИЗМАТЛИТ, 2004.-320с.

5. Васильев О.В. Радиолокационное распознавание воздушных целей на основе нейронных сетей с применением байесовского подхода / О.В Васильев, Р.А Потапов, А.Г. Ситников // Радиотехника. 2009.- №6. - с. 117120.

6. Галушкин А.И. Теория нейронных сетей. Нейрокомпьютеры и их применение. Кн.1 / А.И. Галушкин. М.:ИПРЖР, 2000.- 416с.

7. Галушкин А.И. Нейрокомпьютеры в разработках военной техники США (обзор по материалам открытой печати) /А.И. Галушкин // Зарубежная радиоэлектроника. 1995. - №5.

8. Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике / В.Е. Гмурман.-М.: Высш. Школа,2004. 404с.

9. Гмурман В.Е. Теория вероятностей и математическая статистика: учеб пособие для вузов / В.Е. Гмурман. М.: Высш. школа, 2003.- 479 с.

10. Ю.Горбань А.Н. Нейроинформатика / А.Н. Горбань, B.J1. Дуднин-Барковский, А.Н. Кирдин и др. Н.: Наука. Сибирское предприятие РАН, 1998.-296с.

11. Информационные технологии в радиотехнических системах / В.А. Васин, И.Б. Власов, Ю.М. Егоров и др.; под.ред. И.Б. Федорова.- М.: Изд-во МГТУ им. Н.Э.Баумана, 2003. 672с.

12. Искусственный интеллект. В 3-х кн. Модели и методы / под ред. Д.А.Поспелова. М.: Радио и связь, 1990. - 304с.

13. Каллан Р. Основные концепции нейронных сетей / Р. Каллан. М: Издательский дом "Вильяме", 2001. - 287с.

14. Кнут Д.Э. Искусство программирования. В 3 т. Т. 2. Получисленные алгоритмы / Д.Э. Кнут. Издательский дом "Вильяме", 2000. - 790 с.

15. Кобзарь А.И. Прикладная математическая статистика / А.И. Кобзарь. М.: ФИЗМАТЛИТ, 2006. - 816 с.

16. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного и сложения / А.Н.Колмогоров // Докл. АН СССР. 1957. -т.114.- №5. - с.953-956.

17. Кохонен Т. Самоорганизующиеся карты / Т. Кохонен. М.: Бином. Лаборатория знаний, 2008. - 655 с.

18. Круглов В.В. Искусственные нейронные сети. Теория и практика / В.В.Круглов, В.В.Борисов. М.: Горячая линия - Телеком, 2002.-352с.

19. Круглов В.В. Нечеткая логика и искусственные нейронные сети / В.В. Круглов, М.И. Дли, Р.Ю. Голунов. М.: физматлит, 2001.- 224с.

20. Левин Б.Р. Теоретические основы статистической радиотехники/ Б.Р. Левин- М.:Радио и связь, 1989.-656с.

21. Леман Э. Проверка статистических гипотез/ Э.Леман М.: Наука, 1979.-408 с.

22. Мак-Каллок У.С. Логическое исчисление идей, относящихся к нервной активности / У. Мак-Каллок, В. Питсс // Автоматы. М.: Изд-во иностр. лит. 1956. -с. 363-384.

23. Мелихов А.Н. Ситуационные советующие системы с нечеткой логикой / А.Н. Мелихов, Л.С. Бернштейн, С.Я. Коровин. М.: Наука, 1990.

24. Мидлтон Д. Введение в статистическую теорию связи в 2 т. / Д. Мидлтон. М.:Сов.радио,1962.-Т2.

25. Минский M.J1. Персептроны / M.JI. Минский, С. Пейперт. М.: Мир,1971.

26. Миркес Е.М. Нейрокомпьютер. Проект стандарта / Е.М. Миркес. -Н: Наука, 1998.- 188с.

27. Мозинго P.A. Адаптивные антенные решетки: введению в теорию / P.A. Мозинго, Т.У. Миллер. М.: Радио и связь, 1986. - 448с.

28. Митрофанов Д.Г. Моделирование задачи распознавания целей по их радиолокационным изображениям нейросетевым способом / Д.Г. Митрофанов, A.B. Сафонов, А.Г. Прохоркин //Радиотехника.-2007.-№2.-с.З-9.

29. Небабин В.Г. Методы и техника радиолокационного распознавания / В.Г. Небабин, В.В. Сергеев. М.: Радио и связь, 1985. - 82 с.

30. Обнаружение радиосигналов / П.С.Акимов, Ф.Ф. Евстратов, С.И.Захаров и др.; Под ред. A.A. Колосова М.: Радио и связь, 1989.-288с.31.0совский С. Нейронные сети для обработки информации / С. Осовский. -М.: Финансы и статистика, 2002.-344с.

31. Радиолокационные системы: Основы построения и теория / под ред. Я.Д. Ширмана. М.: ЗАО «МАКВИС», 1998. - 828с.

32. Перов А.И. Особенности синтеза устройств обнаружения и оценки параметров сигнала нейросетевыми методами / А.И. Перов, Г.Г. Соколов // Радиотехника.-2001 .-№7.-С.22-29.

33. Прибрам К. Языки мозга / К. Прибрам,- М.: Прогресс, 1975. 463 с.

34. Программа для моделирования нейронных сетей "NeuroSolutions". -(http :/www.neurosolutions. com/)

35. Программа для моделирования нейронных сетей "Neuroshell". -(http://www.neuroshell.com/)

36. Программа для моделирования нейронных сетей "NeuralWorks". -(http://www.neuralware.com/)

37. Программа для моделирования нейронных сетей "Lightweight Neural Network++". (http://sourceforge.net/projects/lwneuralnet/)

38. Программа для моделирования нейронных сетей "Neural Network Models in Excel". (http://www.filetransit.com/view.php?id=58151)

39. Программа для моделирования нейронных сетей "NeuroPro". -(http://www.neuropro.ru)

40. Программы для моделирования нейронных сетей "Kohionen map", "Winnet". (http://www.home.lv/Juris.Nazarenko/prod03.htm)

41. Розенблатт Ф. Принципы нейродинамики / Ф. Розенблаттт М.: Мир, 1965.-480 с.

42. Сирота A.A. Компьютерное моделирование и оценка эффективности сложных систем / A.A. Сирота. М.: Изд-во "Техносфера", 2006. - 280с.

43. Системы искусственного интеллекта / В.А. Чулюков, И.Ф. Астахова, A.C. Потапов и др.; Под ред. И.Ф. Астаховой. М.: Бином. Лаборатория знаний, 2008.-292с.

44. Сосулин Ю.Г. Теоретические основы радиолокации и радионавигации / Ю.Г. Сосулин. М.: Радио и связь, 1992. - 304с.

45. Татузов A.JI. Методы обучения нейронных сетей для решения задач обнаружения целей / A.JI. Татузов // Нейрокомпьютеры: разработка, применение. 2004. - №4. - С.56-67.

46. Татузов A.J1. Нейронные сети в задачах радиолокации. КН.28 / A.J1. Татузов. М.: Радиотехника, 2009. - 432с.

47. Татузов. A.J1. Использование нейросетевой технологии при обработке радиолокационной информации / А.Л. Татузов, Ф.С. Чухлеб // Информационные технологии. -1999. №1.- с. 25-33.

48. Тарасенко Ф.П. Непараметрическая статистика / Ф.П. Тарасенко. -Томск. :ТГУ, 1976.-292с.

49. Теория обнаружения сигналов / П.С. Акимов, П.А. Бакут, В.А. Богданович и др.; Под ред. П.А. Бакута. М.: Радио и связь, 1984. - 440 с.

50. Тихонов В.И. Статистическая радиотехника / В.И. Тихонов. М.: Радио и связь, 1982.-624с.

51. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика / Ф. Уоссермен. М.: Мир, 1992.

52. Фукунага К. введению в статистическую теорию распознавания образов / К. Фукунага. М.:Наука,1978.

53. Хайкин С. Нейронные сети: полный курс / С. Хайкин М.: Издательский дом "Вильяме", 2006.-1104с.

54. Харин Ю.С. Основы имитационного и статистического моделирования / Ю.С Харин., В.И. Малюгин, В.П. Кирлица и др. Мн.: Дизайн ПРО, 1997 г. - 288с.

55. Хелстром К. Статистическая теория обнаружения сигналов / К. Хелстром. М.: Изд-во иностранной литературы, 1963.

56. Цыпкин ЯЗ. Основы теории обучающихся систем / ЯЗ. Цыпкин. -М.: Наука, 1968. 400с.

57. Шеннон Р. Имитационное моделирование систем Искусство и наука / Р. Шеннон. - М.: Мир, 1978. - 420с.

58. Andina D. Application of a Neural Network to Radar Detection / D. Andina, J.L. Sanz-Gonzdlez // Proc. of European Conf. on Circuit Theory and Design, ECCTD'95, Instambul, Turkey.-1995 (August). pp. 573-576.

59. Andina D. Comparison of a neural network detector vs Neyman-Pearson optimal detector / D. Andina, J.L. Gonzales // ICASSP-96,vol.6, IEEE International Conference on 1996. pp.3573-3576.

60. Bas C.F. The layered perceptron versus the Neyman-Pearson optimal detection / C.F. Bas, R.J. Marks II // Proceedings of the International Joint conference on neural networks, Singapore, 18-20 Nov 91, IEEE pp. 1486-1849.

61. Bhattacarya Т.К. Modular Learning Startegy for Signal Detection in a Nonstationary Environment / Bhattacarya Т.К. // IEEE Trans. Signal Process. (USA).- 1997 (June).- v.45.- no.6.- pp. 1619-1637.

62. Chilingarian A. Detection of weak signals against background (noise) using network classifiers / A. Chilingarian // Pattern Recognition Letters. 1995.-v.- 16-no.4.-pp. 241-250

63. Cover T. Geometrical and statistical properties of systems of linear inequalities with applications in pattern recognition / T. Cover // IEEE Trans. Electronic Computers.- 1965.-vol.14.-pp.326-334.

64. Cybenko G. Aproximation by superpositions of a sigmoidal function / G. Cybenko // Mathematics of Control, signals and systems.-1989.-vol.2.- p. 303-314.

65. DAPRA Neural Network.-AFCEA International Press, 1988.- p.629

66. Dillard G.M. Mean-level detection of nonfluctuating signals / G.M. Dillard // IEEE Trans. 1974. - v. AES-10. - no 6 (Nov 1974). - pp. 795-799.

67. Finn H.M. Adaptive Detection mode with threshold control as a function of spatially sampled clutter estimation / H.M. Finn, R.S. Johnson // RCA Review. 1968. v.29. - no3. - pp 414-464.

68. Guo C. Temporal Difference Learning Applied to Sequential Detection /

69. C. Guo, A. Kuh // IEEE Trans. Neural Netw. (USA), 1997 (March). v.8. - no. 2 . - pp. 278-287.

70. Haykin S. Signal Detection in a Nonstationary Environment Reformulated as an Adaptive Pattern Classification Problem / S. Haykin,

71. D.J. Thomson // Proc. IEEE, 1998. v.86. - pp. 2325-2344.

72. Haykin S. Neural Networks, a comprehensive foundation / S. Haykin. -N.Y.: Macmillan College Publishing Company, 1994.

73. Hebb D.O. The organization of Behavior / D.O. Hebb. Wiley, New York, 1949.

74. Heht-Nielsen R. Neurocomputing. Reading / R. Heht-Nielsen. MA: Addison-Wesley, 1990.

75. Kohonen T. Self-organizide formation of topologically correct feature maps / T. Kohonen // Biological Cybernetics. 1982. - v. 43. - pp. 59-69.

76. Kohonen T Self-Organizing Maps / T. Kohonen. Springer, Berlin, 1995.

77. Kolmogorov A.N. On the representation of continuous functions of many variables by superposition of continuous of one variable and addition / A.N. Kolmogorov // American Math. Soc. Transl. 1963. - v.28. - p.55-63.

78. Kuck M. Constant False Alarm Rate Detection of Radar Signals with Artificial Neural Networks / M. Kuck // MSc Thesis, Dept. of Computer Science, University of Skode, Sweden. 1996.

79. Leonard J.A. Radial basic function networks for classifying process faults / J.A. Leonard, M.A Kramer // IEEE Control system Magazine. 1991.-April.-pp.31-38

80. Lipmann R. An introduction to computing with neural nets / R. Lipman // IEE ASSP Magazine. 1987. - April, -pp. 4-22

81. Murata N. Adaptive on-line learning in chaining enviroments / Michael C. Mozer, Michael I. Jordan, and T. Petsche, editors // Advances in Neural Information Processing Systems, The MIT Press. 1997. - v. 9. - pp. 599.

82. Powell M.J.D. Radial basis function approximations to polynomials / M.J.D. Powell // Nnmerical Analysis 1987 Proceedings, Dundee, UK. 1988. - p. 223-241.

83. Principe J.C. Target discrimination in synthetic aperture radar (SAR) using artificial neural networks / J.C. Principe, M. Kim, J.W. Fisher // IEEE Transactions on Image Processing, August.- 1998. -No. 8. pp. 1136-1149.

84. Ritter H. On the stationary state of the Kohonen self-organizing sensory mapping / H. Ritter, K. Shulten // Biological Cybernetics. -1986. vol. 54. -pp.234-249.

85. Rosenblatt F. Principles of Neurodynamics / F. Rosenblat // Washington, OC: Spartan Books, 1962.

86. Rosenblatt F. The Perceptron: A probabilistic model for information storage and organization in the brain / F. Rosenblat // Psychological Review. -1958.-vol. 65.- p. 386-408.

87. Tarassenko L. Supervised and unsupervised learning in radial basic function classifiers / L. Tarassenko, S. Roberts // IEEE Proc. Vis.Image Signal Process, -1994.-vol.141.- p.210-216.

88. ОСНОВНЫЕ РЕЗУЛЬТАТЫ ДИССЕРТАЦИИ ОПУБЛИКОВАНЫ В1. СЛЕДУЮЩИХ РАБОТАХ.

89. Публикации в изданиях, рекомендованных ВАК РФ

90. Ляликова В.Г. Математические модели нейросетевых и статистических обнаружителей сигналов / Н.М. Новикова, В.Г. Ляликова // Нейрокомпьютеры: разработка и применение. 2010.- №4. - С.62-68.

91. Ляликова В.Г. Модели параметрических и непараметрических обнаружителей сигналов / Н.М. Новикова, В.Г. Ляликова // Вестн. Воронеж, гос. техн. ун-та. 2010. - Том 6.- №8.- С. 122-126.

92. Ляликова В.Г. Компьютерное моделирование непараметрических статистических и нейросетевых обнаружителей / Н.М. Новикова, В.Г. Ляликова // Радиотехника. 2011.- №4. С. 41-50.

93. Ляликова В.Г. Математические модели параметрических статистических и нейросетевых обнаружителей сигналов при наличии шума и импульсной помехи / Н.М. Новикова, В.Г. Ляликова // Информационные технологии. -2011. №5. С.73-78

94. Статьи и материалы конференций

95. Ляликова В.Г. Обнаружение сигналов нейросетевыми и статистическими методами / Н.М. Новикова, В.Г. Ляликова // Кибернетика и высокие технологии XXI века (С&Т): материалы IX Международ, науч.-техн. конф. Воронеж, 2008. Т. 1.- С 423-431.

96. Ляликова В.Г. Нейросетевые и статистические методы обнаружения сигналов. / В.Г. Ляликова // Ломоносов-2009: сб. тез. XVI Международ, конф. студентов, аспирантов и молодых ученых, секция «Вычислительная математика и кибернетика». Москва, 2009.- С.52.

97. Ляликова В.Г. Обнаружение целей с помощью нейронной сети РБФ / В.Г. Ляликова // Понтрягинские чтения: материалы XX Воронежской весенней математической школы (дополнительный выпуск). Воронеж, 2009.- С 9.

98. Ляликова В.Г. Работа статистических и нейросетевых обнаружителей сигналов в условиях импульсных помех / В.Г. Ляликова // Понтрягинские чтения: материалы XXI Воронежской весенней математической школы. Воронеж, 2010. - С 135-136.

99. Ляликова В.Г. Влияние хаотической импульсной помехи на характеристики нейросетевых обнаружителей сигналов. / В.Г. Ляликова // Кибернетика и высокие технологии XXI века (С&Т): материалы XXI Международ, науч.-техн. конф Воронеж, 2010. - С. 746-755.

100. Программа «Обнаружение сигналов нейронными сетями при воздействии шумов и помех» / В.Г. Ляликова Н.М. Новикова. М.: ФГУ ФИПС, 2011. Per. №2011611899 от 28.02.2011г.