автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Применение численного метода формирования достаточной статистики для построения искусственных нейронных сетей распознавания радиолокационных объектов по поляризационным признакам

кандидата физико-математических наук
Рыжаков, Виталий Владимирович
город
Сургут
год
2005
специальность ВАК РФ
05.13.18
Диссертация по информатике, вычислительной технике и управлению на тему «Применение численного метода формирования достаточной статистики для построения искусственных нейронных сетей распознавания радиолокационных объектов по поляризационным признакам»

Автореферат диссертации по теме "Применение численного метода формирования достаточной статистики для построения искусственных нейронных сетей распознавания радиолокационных объектов по поляризационным признакам"

на правах рукописи

РЫЖАКОВ ВИТАЛИЙ ВЛАДИМИРОВИЧ

ПРИМЕНЕНИЕ ЧИСЛЕННОГО МЕТОДА ФОРМИРОВАНИЯ ДОСТАТОЧНОЙ СТАТИСТИКИ ДЛЯ ПОСТРОЕНИЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ РАСПОЗНАВАНИЯ РАДИОЛОКАЦИОННЫХ ОБЪЕКТОВ ПО ПОЛЯРИЗАЦИОННЫМ ПРИЗНАКАМ

05.13.18 - математическое моделирование, численные методы и комплексы программ

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата физико-математических наук

Сургут - 2005

Работа выполнена в Сургутском государственном университете Ханты-Мансийского автономного округа (ХМАО)

НАУЧНЫЙ РУКОВОДИТЕЛЬ: доктор технических наук,

профессор Бадулин Николай Николаевич

ОФИЦИАЛЬНЫЕ ОППОНЕНТЫ: доктор физико-математических наук,

профессор Галкин Валерий Алексеевич

кандидат технических наук,

доцент Запевалов Андрей Валентинович

ВЕДУЩАЯ ОРГАНИЗАЦИЯ:

Томский государственный университет систем управления и радиоэлктроники.

Защита состоится:

В диссертационном совете КМ 800.005.02 при Сургутском государственном университете ХМАО «23» декабря 2005 г. в 15— ч. по адресу: 628400 Ханты-Мансийский автономный округ, г. Сургут, ул. Энергетиков, 14. Зал заседаний ученого совета (213 аудитория главного корпуса Сургутского государственного университета ХМАО).

С диссертацией можно ознакомиться в библиотеке СурГУ.

Автореферат разослан: «22» ноября 2005г.

Ученый секретарь диссертационного совета

кандидат технических наук, у />

доцент ^' Иванов Ф.Ф.

ЗхнД А

гьбет

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность проблемы.

Теоретические и экспериментальные исследования последних лет показали, что использование свойства объектов изменять поляризацию отраженной электромагнитной волны позволяет повысить информативность зондирующего сигнала при распознавании целей методами активной радиолокации.

Поляризационные свойства объектов обычно представляются в виде совокупности признаков, образующих пространство значений поляризационных параметров целей (пространство параметров распознавания).

В статистической теории распознавания образов правило принятия решения о соответствии наблюдаемого объекта тому или иному классу целей строится на основе отношений правдоподобия, или на основе достаточных статистик, получаемых путем некоторого монотонного преобразования отношений правдоподобия. Достаточная статистика используется для упрощения выражения отношения правдоподобия, т.е. для упрощения правила принятия решения. В конечном итоге это позволяет упростить устройство, реализующее это правило. Сами отношения правдоподобия строятся с использованием совместных функций плотности вероятности значений параметров, полученных для тех радиолокационных объектов, которые выступают в качестве альтернативных объектов распознавания.

Для реализации подобного способа создания устройств распознавания (обнаружителей) необходимо предварительно получить аналитическое выражение функции плотности вероятности, что само по себе представляет определенную проблему, поскольку исходными данными для решения этой задачи являются случайные значения поляризационных характеристик целей. В связи с этим возникает необходимость, во-первых, тем или иным способом подобрать аналитическое выражение для функции плотности вероятности, а во-вторых, оценить параметры полученного закона. Как первый, так и второй этапы допускают возможность возникновения ошибки. Причем выявить такую ошибку достаточно сложно, особенно в случае многопараметрического распознавания.

Даже при условии правильного определения аналитического выражения для статистического закона, которому подчиняется совокупность поляризационных параметров, получение простого аналитического выражения достаточной статистики может оказаться невозможным в силу потенциально различных законов для функций

плотности вероятности различных радиолокационных объектов. В этом случае аналитическое выражение достаточной статистики может оказаться представлено в таком виде, в котором его будет трудно реализовать на практике.

С другой стороны, из теории обнаружения и оценок известно, что для решения задачи распознавания радиолокационных объектов, достаточно лишь правильно разбить пространство значений поляризационных признаков на области, соответствующие тому или иному классу целей. А решение о принадлежности наблюдаемого объекта какому-либо классу принимать путем определения той области, в которую попадает вектор, соответствующий данной совокупности значений поляризационных параметров цели.

В последнее время для решения подобных плохо формализуемых задач широко применяются искусственные нейронные сети. Искусственная нейронная сеть представляет собой сеть (реализованную в виде некоторого устройства или программы), состоящую из элементарных ячеек (формальных нейронов), объединяемых в слои с помощью однонаправленных связей. Количество слоев в сети, количество нейронов в слое, а также иерархия связей определяются сложностью задачи, решаемой искусственной нейронной сетью.

Особенностью нейронных сетей является то, что перед своей работой они должны проходить этап обучения, что приводит к необходимости использования специальных алгоритмов их настройки. Важным преимуществом искусственных нейронных сетей является высокая степень распараллеливания решения поставленной задачи, из чего следует высокая скорость получения решения.

Анализ работ, посвященных созданию искусственных нейронных сетей, показал, что нейронные сети достаточно успешно применяются, в частности, и для решения задач многоальтернативного распознавания объектов в многомерном пространстве признаков.

Однако в этих работах отсутствует анализ соответствия реализуемых нейронными сетями решающих правил какому-либо критерию качества, определяемому в теории статистических решений. Это, в свою очередь, не позволяет производить оценку априорной вероятности правильного принятия решения о наличии или отсутствии обнаруживаемой радиолокационной цели в соответствии с тем или иным критерием качества.

Отсюда следует, что в настоящее время существует актуальная научно-техническая задача разработки метода построения искусственных нейронных сетей, используемых для распознавания радиолокационных объектов в многомерном пространстве

поляризационных признаков в условиях непараметрической априорной неопределенности, и реализующих решающее правило, которое бы удовлетворяло выбранному критерию качества принятия решения.

Решение данной проблемы позволит улучшить селектирующие способности поляризационных РЛС.

Целью диссертационной работы является:

Разработка метода построения устройств распознавания радиолокационных объектов по поляризационным признакам в условиях непараметрической априорной неопределенности с возможностью оценки априорной вероятности ошибки реализованного правила принятия решения, удовлетворяющего выбранному критерию качества принятия решения.

Задачи, решаемые в диссертационной работе:

1. Разработка метода формирования достаточной статистики, реализующей такое правило принятия решения, которое бы удовлетворяло выбранному критерию качества, в случае многоальтернативного многопараметрического распознавания радиолокационных объектов по поляризационным признакам в условиях непараметрической априорной неопределенности.

2. Разработка метода построения искусственных нейронных сетей, предназначенных для распознавания радиолокационных объектов в условиях непараметрической априорной неопределенности.

3. Программная реализация разработанного метода формирования достаточной статистики и метода построения искусственных нейронных сетей, а также экспериментальное исследование их распознающих способностей с использованием математических моделей реальных радиолокационных объектов и нейросетевых моделей устройств распознавания.

Методы исследования:

Для решения поставленных задач в диссертационной работе

применены элементы математической статистики, статистической

теории распознавания образов, теории принятия решений, теории

искусственных нейронных сетей, теории поляризационной радиолокации.

Научная новизна работы состоит в следующем:

1. Осуществлена оптимизация численного метода операторной аппроксимации оценки совместных функций плотности вероятности

значений поляризационных параметров, в результате чего удалось уменьшить количество независимых параметров оценки. Для других независимых параметров оценки предложены критерии определения их значений.

2. Разработан метод разбиения пространства признаков на области, принадлежащие различным классам радиолокационных объектов на основе совокупностей значений поляризационных параметров, соответствующих этим классам, с использованием численного метода оценки совместных функций плотности вероятности.

3. Предложено правило принятия решения о принадлежности входного вектора значений поляризационных параметров тому или иному классу радиолокационных объектов на основе разработанного метода разбиения пространства значений поляризационных параметров на области, принадлежащие разным классам целей.

4. Разработан алгоритм формирования достаточной статистики, реализующей правило принятия решения при распознавании радиолокационных объектов для случаев одно и двухпараметрического многоальтернативаного распознавания на основе совокупностей значений поляризационных параметров, соответствующих этим объектам.

5. Разработан метод построения искусственных нейронных сетей, решающих задачу многоальтернативного распознавания радиолокационных объектов в многомерном пространстве поляризационных признаков, и удовлетворяющих критерию максимального правдоподобия качества принятия решения.

Практическая значимость работы заключается в следующем.

1. Разработанный метод формирования достаточной статистики и метод построения искусственных нейронных сетей позволяют создавать устройства распознавания радиолокационных объектов по поляризационным признакам в условиях непараметрической априорной неопределенности, реализующих решающее правило, которое удовлетворяет критерию качества максимального правдоподобия.

2. Устройства распознавания, разрабатываемые на основе предложенного метода построения искусственных нейронных сетей, позволяют повысить селектирующие способности радиолокационных систем.

3. Разработанное программное обеспечение осуществляет формирование нейросетевых моделей устройств распознавания радиолокационных объектов для случаев одно и двухпараметрического многоальтернативного распознавания, и позволяет определять влияние

различных поляризационных параметров, а также размеров совокупностей значений этих параметров, на вероятность ошибки принятия решения в условиях непараметрической априорной неопределенности.

На публичную защиту выносится:

1. Предложенная оптимизация численного метода операторной аппроксимации оценки позволяет уменьшить сложность вычислений при получении операторных оценок совместных функций плотности вероятности.

2. Предложенный критерий оптимизации значений независимых параметров оценки позволяет реализовать численный метод операторной аппроксимации на практике и использовать его для получения оценок функций плотности вероятности.

3. Оптимизированный численный метод операторной аппроксимации оценки позволяет вычислять несмещенные и состоятельные операторные оценки совместных функций плотности вероятности совокупностей поляризационных параметров радиолокационных объектов.

4. Получаемые операторные оценки функций плотности вероятности позволяют использовать отношения правдоподобия при разработке алгоритмов принятия решения в условиях непараметрической априорной неопределенности.

5. Использование операторных оценок функций плотности вероятности и применение критерия качества принятия решения максимального правдоподобия позволяет разбить пространство значений параметров распознавания на непересекающиеся области, соответствующие различным радиолокационным объектам, а также получить оценку вероятности ошибочных решений при распознавании целей.

6. Представление границ областей целей прямыми при двухпараметрическом и точками при однопараметрическом распознавании позволяет сформировать достаточную статистику в виде наборов логических условий (предикатов), объединяемых операциями конъюнкции и дизъюнкции.

7. Формирование достаточной статистики в виде набора предикатов позволяет построить искусственную нейронную сеть, осуществляющую распознавание радиолокационных объектов по поляризационным признакам.

Апробация работы. Результаты диссертационной работы докладывались и обсуждались на:

1. Седьмой международной научно-практической конференции студентов, аспирантов и молодых ученых, г. Томск, 2001 г.

2. Третьей международной школе молодых ученых и специалистов «Физика окружающей среды», г. Томск, 2002 г.

3. Девятой международной научно-технической конференции «Радиолокация, навигация, связь», г. Воронеж, 2003 г.

4. Второй международной конференции IEEE по устройствам и системам телекоммуникаций, г. Москва, 2004 г.

5. Третьем Сибирском поляризационном семинаре с международным участием, г. Сургут, 2004 г.

6. Одиннадцатой международной научно-технической конференции «Радиолокация, навигация, связь», г. Воронеж, 2005 г.

7. Юбилейной LX Научной сессии, посвященной Дню радио, г. Москва, 2005.

Публикации. Материалы диссертационной работы изложены в 11 опубликованных работах.

Объем работы.

Диссертационная работа состоит из введения, четырех глав, заключения и списка литературы. Ее основная часть изложена на 188 страницах машинописного текста. Она содержит 35 рисунков, 7 таблиц, 190 наименований используемой литературы. Кроме этого, в работу дополнительно включены два приложения на 14 страницах. Общий объем работы - 202 страницы.

Содержание работы.

Во Введении обосновывается актуальность темы диссертации, определяется цель исследования, излагаются тезисы, характеризующие научную новизну и практическую значимость работы, формулируются основные положения, выносимые на публичную защиту.

В Первом разделе диссертации с использованием отечественных и зарубежных литературных источников проведен анализ современного состояния вопроса о способах распознавания радиолокационных целей по поляризационным признакам и применения для этого логического базиса искусственных нейронных сетей.

С точки зрения статистической теории распознавания образов, одним из направлений которой является распознавание

радиолокационных объектов, существует три набора условий распознавания:

1) когда известны как законы вероятностного распределения признаков объектов, которые и используются для распознавания, так и параметры этих законов;

2) когда известными являются только аналитические выражения законов распределения признаков объектов, а что касается параметров этих законов, то они подлежат предварительному определению или оценке. Такой случай называется распознаванием в условиях параметрической априорной неопределенности;

3) когда ни аналитическое выражение для закона распределения признаков, ни параметры этого закона распределения неизвестны. В данном случае говорят о распознавании в условиях непараметрической априорной неопределенности.

Первые два случая разработаны относительно хорошо. Что касается третьего случая, то методы и принципы распознавания объектов в условиях непараметрической априорной неопределенности разработаны еще в не достаточно полной мере.

Одним из возможных направлений решения данной задачи является получение тем или иным способом с заданной достоверностью аналитического выражения для достаточной статистики на основе отношения правдоподобия, составленного с помощью выражений для совместных функций плотности вероятности пространства признаков распознаваемых объектов, и сведение, тем самым, решение третьей задачи к первой.

Указанный путь имеет то достоинство, что позволяет оценить вероятность правильного решения, при использовании выбранного критерия качества. Однако этот подход потенциально содержит большую вероятность ошибки, особенно в случае многопараметрического распознавания, связанную с необходимостью сначала получать вид аналитического выражения для функций плотности вероятности поляризационных параметров цели, а затем производить оценку параметров полученных функций. Причем исходными данными в этом случае являются только совокупности значений поляризационных признаков радиолокационных объектов. При этом может получиться так, что аналитические выражения для функций плотности вероятности могут быть получены в виде, при котором аналитическое выражение достаточной статистики окажется труднореализуемом в виде конкретного устройства или системы распознавания.

Другим относительно новым направлением в области построения систем распознавания образов является использование теории искусственных нейронных сетей.

Искусственная нейронная сеть — это сеть, построенная на основе элементарных ячеек, называемых формальными нейронами. Формальный нейрон - это основной элемент нейронной сети, осуществляющий операцию нелинейного преобразования суммы произведений входных сигналов на весовые коэффициенты. Сумма произведений входных сигналов на весовые коэффициенты называется взвешенной суммой, а оператор нелинейного преобразования -функцией активации. Сеть представляет собой соединение формальных нейронов в виде слоев. На входы нейронов первого слоя подаются значения поляризационных параметров. Выходы нейронов первого слоя подключаются к входам нейронов второго слоя, второго к третьему и т.д. Сигналы с выходов нейронов последнего слоя несут информацию о том, какому радиолокационному объекту соответствует данная совокупность значений поляризационных параметров.

Перед эксплуатацией нейронная сеть подвергается предварительному обучению, в результате которого происходит настройка весовых коэффициентов входов и смещений формальных нейронов. В результате обучения по тому или иному алгоритму искусственная нейронная сеть и приобретает возможность распознавать те образы, на которые она была настроена.

Особенностью нейросетевых структур является параллельный характер вычислений. Это обеспечивает высокую скорость принятия решений и позволяет производить селекцию радиолокационных целей в реальном масштабе времени.

В результате экспериментов, проводимых в последнее время, целью которых было изучение свойств искусственных нейронных сетей, было установлено, что подобные структуры действительно способны распознавать объекты. При этом были рассмотрены самые разные структуры нейронных сетей. Однако вопросы соответствия правила принятия решения, реализуемого нейронными сетями, какому-либо из критериев качества не рассматривались.

В связи с этим возникает задача создания искусственных нейронных сетей распознавания радиолокационных объектов по поляризационным признакам, реализующих правило принятия решения в соответствии с выбранным критерием качества, и алгоритмов их обучения. Причем для достижения данной цели возможно привлечение методов статистической теории распознавания образов.

При изучении результатов исследований статистических свойств поляризационных параметров радиолокационных объектов было установлено, что, во-первых, количество таких параметров может изменяться от одного до восьми, а во-вторых, функции распределения вероятности этих параметров обладают следующими общими свойствами:

- они финитны, т.е. область их возможных значений заключена между [0, 1];

- непрерывны, т.е. определены в каждой точке области определения;

- ограничены сверху или снизу по скорости роста некоторыми функциями или постоянными;

- одномодальны.

Это позволяет привлечь метод операторной оценки функции плотности вероятности для формирования алгоритма распознавания радиолокационных объектов, на основе которого и возможно создание искусственной нейронной сети и алгоритма ее обучения.

Во Втором разделе диссертации разрабатывается численный метод формирования достаточной статистики отношения правдоподобия, используемый для создания правила распознавания радиолокационных объектов в многомерном признаковом пространстве поляризационных параметров в условиях непараметрической априорной неопределенности.

В условиях непараметрической априорной неопределенности исходными данными для разработки алгоритма распознавания радиолокационных объектов по поляризационным признакам являются

совокупности выборочных значений Х^, представляющие собой совокупности точек в многомерном пространстве признаков размерностью п X = (х,, х2,..., хп). Здесь р - количество точек в выборке, а} - номер радиолокационного объекта.

Используя совокупности Х((£ можно построить эмпирическую

функцию распределения вероятности, представляющую собой состоятельную и несмещенную оценку априорно неизвестной функции распределения, с использованием следующего выражения:

^„..„XjS,):

n

О, если (J(x, <x,m),

1*1

К n

Рц, =~Г1Ь"'еслиП(Х' <x.(t,ti))' p 1-1

1 ecaHfj(x,Sxl(N)),

i-i

где F(x,,..., xn |Sj) - оценки функций распределения вероятности, определенные в n-мерном пространстве поляризационных признаков х, для объектов S,; Ft t_ - значение функции распределения в точке

(x1(t),...,xn(t)); Kti Л - количество точек совокупности Х^,

п

попадающих в область Р|(х, < xl(t +1)).

i-i

Поскольку совокупности, на основе которых строится оценки F(x,,...,xn|S), представлены случайными значениями поляризационных параметров, то и сами оценки будет представлять собой случайные величины в точках (x1(t ),..., xn(t . Было

установлено, что максимальная дисперсия оценки F(x,,..., xn|S) при

тч 0.25

заданных условиях подчиняется закону Dr =- и соответствует

Р

медиане распределения.

Для получения операторной оценки функции плотности вероятности воспользуемся известным соотношением:

, 9"F(x1,...,x„ |S,)

w(xj,...,xn S) =-—. Аналитическое выражение для

дх,-...-ахп

оценки F(x,,..., xn |S ) неизвестно, поэтому для получения оценки

w(x,,..., хв |S ) произведем аппроксимацию операций

дифференцирования линейными операторами, представленными уравнениями в конечных разностях.

Данный подход позволяет преобразовать совокупности выборочных

значений Х^ в значения функций плотности вероятности в конечных

точках области определения, представляющих собой конечные массивы данных. Значения функции плотности вероятности в промежуточных точках принимается равной постоянной величине.

При применении метода операторной аппроксимации возникает проблема оптимизации получаемой оценки по независимым параметрам: Ь - величине отрезков группирования значений признаков распознавания, Р - размерам выборок, к* — полуразмаху аппроксимации и г) - весовому коэффициенту.

Для решения этой проблемы предлагается Ь определять из

выражения: Ь =, где х^ и хи - максимальные и

минимальные значения в выборке. Весовой коэффициент т] » предлагается принимать равным постоянной величине в пределах от

О до 1. Это позволяет избавиться от двух независимых параметров оптимизации.

" Величину к* предлагается выбирать как можно больше,

ограничивая ее значение требованием линейности аппроксимирующего оператора.

Значение Р определяется при решении конечной задачи формирования достаточной статистики.

Получаемая подобным образом оценка является несмещенной и состоятельной.

Несмещенность и состоятельность полученных операторных оценок позволяет предложить следующий способ формирования правила решения о том, какому из классов радиолокационных объектов принадлежит вектор значений поляризационных параметров (способ формирования достаточной статистики).

Первоначально осуществляется определение областей пространства значений признаков, которые относятся к двум объектам распознавания одновременно. Затем осуществляется разделение каждой из этих областей на две, одна из которых относится к первому, а другая - ко второму объекту.

Разделение осуществляется с помощью метода градиентного поиска, посредством которого осуществляется оптимальное размещение вершин разделяющей гиперповерхности, аппроксимированной гиперплоскостями.

Оптимизация размещения достигается путем минимизации функционала ошибки следующего вида:

Ё =¿2 . .Мх" •••'х-1 ^-Лс, ,

X.

где М - общее количество объектов распознавания, а х» обозначает области, в которых принятие решения о наблюдаемом объекте принимается не в пользу j-го объекта.

После выполнения этой операции решение о том, какому из объектов соответствует тот или иной вектор значений поляризационных параметров принимается на основе того, в какую из областей пространства значений попадает этот вектор.

Предложенное правило принятия решения удовлетворяет критерию качества максимального правдоподобия.

Выражение достаточной статистики в этом случае представляется в виде:

Если

(¿((Г N Л

П IV*, +ьу

= йие

п

1

п

и

V)*'

+ь„,

>0

= Пне

то наблюдается объект класса ,

где aJ, Ь - коэффициенты гиперплоскостей, аппроксимирующих

границы областей принятия решений целей.

В общем случае выражений достаточной статистики, описывающих области, соответствующие данному классу целей, может быть несколько. В этом случае они все между собой связываются операцией дизъюнкции.

В Третьем разделе диссертационной работы разрабатывается алгоритм формирования искусственной нейронной сети на основе численного метода формирования достаточной статистики, предложенного во втором разделе.

Структура искусственной нейронной сети в предлагаемом способе ее создания формируется после того, как все пространство признаков распознавания было разбито на области, соответствующие различным классам радиолокационных объектов.

Сеть строится на основе формальных нейронов вида:

С функцией активации: 8 = {0, а1у1+а2у2+... + ап-ув+Ь<0, 1, а,-у,+аг-у2 + . .. + ап-у„+Ь£0.

Нейронная сеть в общем случае содержит четыре слоя и принадлежит классу сетей прямого распространения:

Х|

х„

Третий слой

"V Четвертый слой

Каждый нейрон первого слоя определяет гиперплоскость в п-мерном пространстве признаков, которая разделяет это пространство на два подпространства.

Одно из этих подпространств соответствует какому-либо классу радиолокационных целей, а другое - не соответствует. Таким образом, каждый из нейронов первого слоя определяет для входного вектора значений параметров распознавания - соответствует ли этот вектор тому классу целей, на который указывает этот нейрон, или не соответствует.

Нейроны второго слоя осуществляют объединение гиперплоскостей составляющих отдельно выпуклые и вогнутые множества гиперплоскостей, аппроксимирующих границы областей принятия решения.

Нейроны третьего слоя осуществляют формирование областей в многомерном пространстве поляризационных признаков, соответствующих разным объектам. Формирование областей осуществляется путем группирования тех нейронов первого и второго слоев, которые определяют гиперплоскости, ограничивающие область, соответствующую данному радиолокационному объекту. Таким образом, если все нейроны первого и второго слоев, соответствующие данной области, приняли решение о попадании вектора значений параметров распознавания в эту область, то нейроны третьего слоя

принимают решение о соответствии этого вектора классу целей, определяемому данной областью.

Нейроны четвертого слоя используются для объединения тех областей, образованных нейронами третьего слоя, которые соответствуют одному и тому же классу целей.

Блок-схема алгоритма формирования нейронной сети, в общем виде, выглядит следующим образом:

I

Формирование совокупностей обучающих выборок

т

Формирование областей 0„1 = (1...М) целей, ограниченных гиперплоскостями, образующими выпуклые множества

I

еребор по всем возможным сочетаниям пар областей целей <5, и <5 (¡,т) = (1...М,1...М),1#т.

1 -

Поиск области С>т , являющейся пересечением ¡-ой и ш-ой областей

X

Вычисление оценок Р(хр..., хи|Я,) и ^(х,,... хц|5т) в пределах

всей области определения

1

Вычисление оценок х„|8,) и й(х,,.. , хп 1) в пределах

области .

Разделение области на две непересекающиеся, соответствующие 1-ой и ш-ой целям.

X

Формирование областей <3, и С>ш с учетом разделения области

Формирование искусственной нейронной сети с применением формального матричного описания весов и смещений

конец

В Четвертом разделе диссертационной работы приводятся результаты исследований предложенного численного метода формирования достаточных статистик и искусственных нейронных сетей, построенных по моделям реальных радиолокационных объектов.

Результатом исследования предложенных алгоритмов формирования решающего правила стала разработка программного обеспечения, в котором:

- Осуществлялось моделирование поляризационных свойств радиолокационных объектов. При этом рассматривались восемь законов вероятностного распределения значений поляризационных параметров, которым, как было выяснено, подчиняются эти параметры. Результатом данного моделирования явилось формирование совокупностей обучающих выборок объектов.

- Были реализованы алгоритмы формирования оценок функций распределения вероятности и функций плотности вероятности для случаев одномерного и двумерного пространств параметров целей. При этом были получены и некоторые графические представления операторных оценок. Например, при использовании равномерного и нормального законов распределения при условии статической независимости поляризационных параметров при р = 5000 были получены следующие графические представления операторных оценок.

Одномерный случай:

Функция плотности вероятности для Функция плотности вероятности равномерного закона для нормального закона

На рисунке: 1 - априорный закон распределения, 2 - оценка функции плотности вероятности, х - параметр распознавания.

Двумерный случай (закон распределения - нормальный по обоим параметрам х, и хг):

Функция распределения Оценка функции

вероятности распределения вероятности

Функция Оценка функции

плотности вероятности плотности вероятности

- Была оценена верность получаемых оценок функций распределения и плотности вероятности путем вычисления зависимостей теоретического и выборочного среднеквадратичного, среднего и максимального отклонений оценок от априорных функций распределения и плотности вероятности. Например, выборочные среднеквадратичные отклонения для оценок функций плотности вероятности для одно (сверху) и двухпараметрического (снизу) случаев зависят от размера выборок следующим образом:

..>.- ( - закон распределения Райса; 2 - двойной показательный;

! 3 - равномерный, 4 - нормальный; 5 —Коши; 6 - Релея; -у- 7-Хи-квадраг,8-экспоненциальный

'Т.

' I ■ Ч I ■ Ч I" 'I II l|l III I I

50 2SQ 500 750 10501350 1700 2000 230D 2650 2950 3250 3550 ЗЯЮ 4200 4SOO 4850

0,007 0,006 0,005 0,004 0,003 0,002 0,001

50 150 250 390 4S0 550 650 750 BSQ 950 1100 1250 1400 1550 1700 1850 2СОО

Кроме этого, исследовалось влияние значений параметров априорных законов распределения и параметров оценок на величину отклонений.

- Был реализован алгоритм формирования областей значений поляризационных параметров, соответствующих разным радиолокационным объектам. При этом были получены зависимости полной вероятности ошибки от размеров выборок значений параметров. Например, в случае многоальтернативного однопараметрического (слева -для трех наборов выборок) и двухальтернативного двухпараметрического (справа) распознавания для разных (однопараметрическое) и нормальных (двухпараметрическое) законов распределения параметров распознавания целей эти зависимости выглядят следующим образом:

Результаты формирования областей принятия решения для случая многоальтернативного однопараметрического (слева) и двухальтернативого двухпараметрического (справа) представлены на следующих рисунках:

8,29

0,5' 0,3 0,1

3.7 ;.6. -{..... .4. ...1.1. —-j-- .г.. л ......4...

i

к А —4 ............... ••

.. j.

18

27

36

Для однопараметрического распознавания вертикальные прямые линии обозначают границы разбиения пространства значений, полученные в результате формирования областей численным методом (цифрами отмечены номера целей), а наклонная прямая линия для двухпараметрического распознавания обозначает теоретическую разделяющую границу.

- Был реализован алгоритм формирования выражений достаточных статистик на основе получаемых разбиений пространства значений при одно и двухпараметрическом распознавании, а также алгоритм формирования искусственной нейронной сети по полученному выражению достаточной статистики.

Все алгоритмы были реализованы в среде программирования Delphi 6.0.

При численном моделировании полученной нейронной сети был применен метод формального описания искусственных нейронных сетей посредством произведений матричных функций.

В Заключении сформулированы следующие основные результаты диссертационной работы:

1) Разработан алгоритм формирования оценок функций распределения вероятности и функций плотности вероятности с использованием метода операторной аппроксимации оценки.

2) Разработан алгоритм разбиения пространства значений поляризационных параметров объектов на области, соответствующие разным объектам в соответствии с критерием максимального правдоподобия качества принятия решения.

3) Разработан алгоритм формирования искусственной нейронной сети, осуществляющей распознавание радиолокационных объектов по поляризационным признакам.

4) Разработано программное обеспечение, реализующее разработанные алгоритмы.

5) Осуществлено численное моделирование полученной нейронной сети с использованием стандартных методов математического описания, используемых для искусственных нейронных сетей.

6) Приведены результаты исследований представленных алгоритмов и моделей, подтверждающих правомочность их применения при работе с реальными радиолокационными объектами в составе поляризационной радиолокационной системы.

В Приложении приводятся графики априорных функций распределения вероятности и плотности вероятности и их оценки, сформированные разработанной программой, а также листинги подпрограмм вычисления указанных оценок.

Основное содержание работы опубликовано в следующих работах:

1. Bakhmat, V.V. System of the information registering and mapping of gas escape detection laser locator / V.V. Bakhmat, N.N. Badulin, V.V. Ryzhakov. The seventh International Scientific and Practical Conference of Students, Post-graduates and Young Scientist "Modem Techniques and Technology" (МТГ 2001). - Tomsk, Tomsk Polytechnic University. P. 52-54.

2. Ryzhakov, V.V. Concurrent polarization operation mode of locator system / V.V. Ryzhakov, A. M. Sukhanyuk, E.L. Shoshin. The seventh International Scientific and Practical Conference of Students, Post-graduates and Young Scientist "Modern Techniques and Technology" (MTT 2001). -Tomsk, Tomsk Polytechnic University, P. 54-56.

3. Алейников, А.Г. Исследование погрешности измерения интенсивности дождя путем моделирования поляризационного радиолокационного канала / А.Г. Алейников, Н.Н. Бадулин, С.В. Матвеенко, В.В. Рыжаков. - «Физика окружающей среды». Сборник статей молодых ученых. 2 и 3 международные школы молодых ученых и специалистов. 11-19 июля 2000 г. 25 июня - 1 июля 2002 г. Томск-2002. Стр. 170-172.

4. Бадулин, Н.Н. Оптимальное обнаружение радиолокационных целей по нескольким поляризационным признакам / Н.Н. Бадулин, В.В. Рыжаков. - Труды IX международной научно-технической

конференции «Радиолокация, навигация, связь» в г. Воронеже, 22-24 апреля 2003 г. Издатель: НПФ «САКВОЕ» ООО, Том 3, стр. 1735-1745.

5. Рыжаков, В.В. Способ формирования зондирующих сигналов комплексной локационной системы / В.В. Рыжаков, A.M. Суханюк, E.JI. Шошин. Патент на изобретение № 2222031. Зарегистрирован в Государственном реестре изобретений Российской Федерации 20 января 2004 г.

6. Ryzhakov, V. Detecting of the deterministic signals on a phon of gaussian noise with use of neural network logic basis. / V. Ryzhakov. - 2nd IEEE International Conference on Circuits and Systems for Communications in Moscow Technical University of Communications and Informatics (MTUCI). Moscow, 2004.

7. Рыжаков, B.B. Нейросетевой алгоритм аппроксимации функции распределения вероятности случайной величины / В.В. Рыжаков // Сборник научных трудов. Вып. 19. Физико-математические и технические науки. - Сургут, гос. ун-т. - Сургут: Изд-во СурГУ, 2004. -с. 102-109.

8. Рыжаков, В.В. Оптимальное обнаружение радиолокационных целей по поляризационным признакам с применением искусственных нейронных сетей / В.В. Рыжаков // Сибирский поляризационный семинар СибПол-2004. 7-9 сентября 2004 г. Сургут, Россия. Доклады. -Издательство Томского государственного университета систем управления и радиоэлектроники. - Томск, 2004. - стр. 226-232.

9. Бадулин, H.H. Способ селекции радиолокационной цели с известными поляризационными параметрами и устройство для его реализации. / H.H. Бадулин, В.В. Рыжаков. Патент на изобретение № 2256194. Зарегистрирован в Государственном реестре изобретений Российской Федерации 10 июля 2005 г.

10. Рыжаков, В.В. Численный метод оценки достаточной статистики в задачах однопараметрической селекции радиолокационных объектов / В.В. Рыжаков // Труды XI международной научно-технической конференции «Радиолокация, навигация, связь» в г. Воронеже, 12-14 апреля 2005 г. - Издатель: НПФ «САКВОЕ» ООО, Том 3. Стр. 14981508.

И.Рыжаков, В.В. Численный метод оценки двухмерной функции плотности вероятности в задачах селекции радиолокационных объектов по поляризационным признакам / В.В. Рыжаков // Тезисы доклада № 188-8 на Юбилейной LX Научной сессии, посвященной Дню радио, г. Москва, 2005.

Рыжаков Виталий Владимирович

ПРИМЕНЕНИЕ ЧИСЛЕННОГО МЕТОДА ФОРМИРОВАНИЯ ДОСТАТОЧНОЙ СТАТИСТИКИ ДЛЯ ПОСТРОЕНИЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ РАСПОЗНАВАНИЯ РАДИОЛОКАЦИОННЫХ ОБЪЕКТОВ ПО ПОЛЯРИЗАЦИОННЫМ ПРИЗНАКАМ

05.13.18 - математическое моделирование, численные методы и комплексы программ

Автореферат диссертации на соискание ученой степени кандидата физико-математических наук

Оригинал-макет подготовлен в редакционном отделе издательского центра СурГУ. Тел. (3264) 32-50-75.

Подписано в печать 21.11.2005 г. Формат 60x84/16. Печать трафаретная. Усл. печ. л. 1,3. Уч.-изд. л. 1,2. Тираж 100. Заказ № 143.

Отпечатано полиграфическим отделом издательского центра СурГУ. г. Сургут, ул. Лермонтова, 5. Тел. (3462) 32-33-06

Сургутский государственный университет 628400, Россия, Ханты-Мансийский автономный округ, г. Сургут, ул. Энергетиков, 14.

/Г)

РНБ Русский фонд

2007-4 2246

Оглавление автор диссертации — кандидата физико-математических наук Рыжаков, Виталий Владимирович

Введение

1. Задача распознавания радиолокационных объектов по поляризационным признакам

1.1. Поляризационные признаки радиолокационных объектов

1.2. Краткие сведения из теории распознавания и принятия решений

1.3. Устройства распознавания радиолокационных объектов по поляризационным признакам

1.4. Выводы и постановка задачи

• 2. Численный метод формирования достаточной статистики отношения правдоподобия

2.1. Оценки совместных функций распределения вероятности совокупностей поляризационных признаков

2.2. Оценки совместных функций плотностей вероятности совокупностей поляризационных признаков

2.3. Численный метод формирования достаточной статистики 89 3. Нейросетевое моделирование устройств распознавания радиолокационных объектов

3.1. Обоснование структуры искусственной нейронной сети

3.2. Алгоритм построения искусственной нейронной сети

4. Результаты исследования нейросетевых моделей устройств распознавания радиолокационных объектов

4.1. Стохастическое поляризационное моделирование радиолокационных объектов

4.2. Исследование численного метода оценки совместных функций плотности вероятности совокупностей поляризационных признаков

4.3. Исследование численного метода формирования достаточной статистики

4.4. Исследование нейросетевых моделей устройств распознавания радиолокационных объектов

Введение 2005 год, диссертация по информатике, вычислительной технике и управлению, Рыжаков, Виталий Владимирович

Теоретические и экспериментальные исследования последних лет показали, что использование свойства объектов изменять поляризацию отраженной электромагнитной волны позволяет повысить информативность зондирующего сигнала при распознавании целей методами активной радиолокации.

В работах последних лет, посвященных изучению поляризационных свойств радиолокационных объектов, особое внимание уделялось выявлению тех поляризационных характеристик зондирующих сигналов, которые бы являлись наиболее информативными с точки зрения решения задачи распознавания.

Поляризационные свойства объектов обычно представляются в виде совокупности поляризационных признаков, образующих пространство значений поляризационных параметров целей (пространство параметров распознавания).

В ряде работ проводились исследования свойств поляризационных параметров различных радиолокационных объектов, в результате чего было установлено, что поляризационные параметры целей являются случайными величинами, подчиняющиеся различным статистическим законам для разных объектов. Для некоторых случаев было получено аналитическое выражение вероятностных законов распределения значений поляризационных параметров радиолокационных объектов.

В статистической теории распознавания образов правило принятия решения о соответствии наблюдаемого объекта тому или иному классу целей строится на основе отношений правдоподобия, или на основе достаточных статистик, получаемых путем некоторого монотонного преобразования отношений правдоподобия. Достаточная статистика используется для упрощения выражения отношения правдоподобия, т.е. для упрощения правила принятия решения. В конечном итоге это позволяет упростить устройство, реализующее это правило. Сами отношения правдоподобия строятся с использованием совместных функций плотности вероятности значений параметров распознавания, полученных для тех радиолокационных объектов, которые выступают в качестве альтернативных объектов распознавания.

Для реализации подобного способа создания устройств распознавания (обнаружителей) необходимо предварительно получить аналитическое выражение функции плотности вероятности, что само по себе представляет определенную проблему, поскольку исходными данными для решения этой задачи являются случайные значения поляризационных параметров целей. В связи с этим возникает необходимость, во-первых, тем или иным способом подобрать аналитическое выражение для функции плотности вероятности, а во-вторых, оценить параметры полученного закона. Как первый, так и второй этапы допускают возможность возникновения ошибки. Причем выявить такую ошибку достаточно сложно, особенно в случае многопараметрического распознавания.

Даже при условии правильного определения аналитического выражения для статистического закона получение простого выражения достаточной статистики может оказаться невозможным в силу потенциально различных законов для функций плотности вероятности разных радиолокационных объектов. В этом случае аналитическое выражение достаточной статистики может оказаться представленным в таком виде, в котором его будет трудно реализовать на практике.

С другой стороны, из теории обнаружения и оценок известно, что для решения задачи распознавания радиолокационных объектов, достаточно лишь правильно разбить пространство значений поляризационных признаков на области, соответствующие тому или иному классу целей. А решение о принадлежности наблюдаемого объекта какому-либо классу принимать путем определения той области, в которую попадает вектор, соответствующий входной совокупности значений поляризационных параметров цели.

Другими словами, получение аналитического выражения для функции плотности вероятности не является принципиально необходимым, при условии, что задача разбиения пространства признаков будет решена каким-либо иным путем. В этом случае задача распознавания радиолокационных объектов формулируется как задача распознавания образов, решаемая в условиях непараметрической априорной неопределенности.

В последнее время для решения подобных плохо формализуемых задач широко применяются искусственные нейронные сети. Искусственная нейронная сеть представляет собой сеть (реализованную в виде некоторого устройства или программы), состоящую из элементарных ячеек (формальных нейронов), объединяемых в слои с помощью однонаправленных связей. Количество слоев в сети, количество нейронов в слое, а также иерархия связей определяются сложностью задачи, решаемой нейронной сетью.

Особенностью нейронных сетей является то, что перед своей работой они должны проходить этап обучения, что приводит к необходимости использования специальных алгоритмов их настройки. Важным преимуществом искусственных нейронных сетей является высокая степень распараллеливания решения поставленной задачи, из чего следует высокая скорость получения решения.

Анализ работ, посвященных созданию искусственных нейронных сетей, показал, что нейронные сети достаточно успешно применяются, в частности, и для решения задач многоальтернативного распознавания образов в многомерном пространстве признаков.

Однако в этих работах отсутствует анализ соответствия реализуемых нейронными сетями решающих правил какому-либо критерию качества, определяемому в теории статистических решений. Это, в свою очередь, не позволяет производить оценку априорной вероятности правильного принятия решения о наличии или отсутствии обнаруживаемой радиолокационной цели в соответствии с выбранным критерием качества.

Отсюда следует, что в настоящее время существует актуальная научно-техническая задача разработки метода построения искусственных нейронных сетей, используемых для распознавания радиолокационных объектов в многомерном пространстве поляризационных признаков в условиях непараметрической априорной неопределенности, и реализующих решающее правило, которое бы удовлетворяло выбранному критерию качества принятия решения.

Решение данной проблемы позволит улучшить селектирующие способности поляризационных PJIC.

Целью настоящей диссертационной работы является:

1. Разработка метода формирования достаточной статистики, реализующей такое правило принятия решения, которое бы удовлетворяло выбранному критерию качества, в случае многоальтернативного многопараметрического распознавания радиолокационных объектов по поляризационным признакам в условиях непараметрической априорной неопределенности.

2. Разработка метода построения искусственных нейронных сетей, предназначенных для распознавания радиолокационных объектов в условиях непараметрической априорной неопределенности и реализующих предложенное правило принятия решения.

3. Программная реализация разработанного метода формирования достаточной статистики и метода построения искусственных нейронных сетей, а также экспериментальное исследование распознающих способностей этих нейронных сетей с использованием математических моделей реальных радиолокационных объектов и нейросетевых моделей устройств распознавания.

Научная новизна работы состоит в следующем.

1. Осуществлена оптимизация численного метода операторной аппроксимации оценки совместных функций плотности вероятности значений поляризационных параметров, в результате чего удалось уменьшить количество независимых параметров оценки. Для других независимых параметров оценки предложены критерии определения их значений.

2. Разработан метод разбиения пространства признаков на области, принадлежащие различным классам радиолокационных объектов на основе совокупностей значений поляризационных параметров, соответствующих этим классам с использованием численного метода оценки совместных функций плотности вероятности.

3. Предложено правило принятия решения о принадлежности входного вектора значений поляризационных параметров тому или иному классу радиолокационных объектов на основе разработанного метода разбиения пространства значений поляризационных параметров на области, принадлежащие разным классам целей.

4. Разработан алгоритм формирования достаточной статистики, реализующей правило принятия решения при распознавании радиолокационных объектов для случаев одно и двухпараметрического многоальтернативаного распознавания на основе совокупностей значений поляризационных параметров, соответствующих этим объектам.

5. Разработан метод построения искусственных нейронных сетей, решающих задачу многоальтернативного распознавания радиолокационных объектов в многомерном пространстве поляризационных признаков, и удовлетворяющих критерию максимального правдоподобия качества принятия решения.

Практическая значимость работы заключается в следующем:

1. Разработанный метод формирования достаточной статистики и метод построения искусственных нейронных сетей позволяют создавать устройства распознавания радиолокационных объектов по поляризационным признакам в условиях непараметрической априорной неопределенности, реализующих решающее правило, которое удовлетворяет критерию качества максимального правдоподобия.

2. Устройства распознавания, разрабатываемые на основе предложенного метода построения искусственных нейронных сетей, позволяют повысить селектирующие способности радиолокационных систем.

3. Разработанное программное обеспечение осуществляет формирование нейросетевых моделей устройств распознавания радиолокационных объектов для случаев одно и двухпараметрического многоальтернативного распознавания, и позволяет определять влияние различных поляризационных параметров, а также размеров совокупностей значений этих параметров радиолокационных объектов, на вероятность ошибки принятия решения в условиях непараметрической априорной неопределенности.

На публичную защиту выносится:

1. Предложенная оптимизация численного метода операторной аппроксимации оценки позволяет уменьшить сложность вычислений при получении операторных оценок совместных функций плотности вероятности.

2. Предложенный критерий оптимизации независимых параметров оценки позволяет реализовать численный метод операторной аппроксимации на практике.

3. Оптимизированный численный метод операторной аппроксимации оценки позволяет вычислять несмещенные и состоятельные операторные оценки совместных функций плотности вероятности совокупностей поляризационных параметров радиолокационных объектов.

4. Получаемые операторные оценки функций плотности вероятности позволяют использовать отношения правдоподобия при разработке алгоритмов принятия решения в условиях непараметрической априорной неопределенности.

5. Использование операторных оценок функций плотности вероятности и применение критерия качества принятия решения максимального правдоподобия позволяет разбить пространство значений параметров распознавания на непересекающиеся области, соответствующие различным радиолокационным объектам, а также получить оценку вероятности ошибочных решений при распознавании целей.

6. Представление границ областей целей прямыми при двухпараметрическом и точками при однопараметрическом распознавании позволяет сформировать достаточную статистику в виде наборов логических условий (предикатов), объединяемых операциями конъюнкции и дизъюнкции.

7. Формирование достаточной статистики в виде набора предикатов позволяет построить искусственную нейронную сеть, осуществляющую распознавание радиолокационных объектов по поляризационным признакам.

Заключение диссертация на тему "Применение численного метода формирования достаточной статистики для построения искусственных нейронных сетей распознавания радиолокационных объектов по поляризационным признакам"

4. Результаты исследования ненросетевых моделей устройств распознавания радиолокационных объектов

4.1. Стохастическое поляризационное моделирование радиолокационных объектов

Будем полагать, что поляризационные параметры радиолокационных объектов представляют собой статистически независимые случайные величины. В этом случае их совместная функция плотности вероятности представляется в виде (1.22), а отсчет поляризационных параметров цели представляет собой вектор значений этих параметров, каждый из которых определяется своим измерительным каналом независимо от всех остальных.

В этом случае моделирование объекта будет сводиться к формированию вектора значений, каждое из которых будет представлять собой отсчет случайной величины, подчиняющиеся тому или иному закону распределения плотности вероятности. При этом возникает проблема формирования этих отсчетов на ЭВМ. В ЭВМ для формирования случайных значений используется датчик случайных чисел, который генерирует последовательность случайных чисел в пределах от 0 до 1, подчиняющихся равномерному закону распределения и имеющих математическое ожидание равное ^, а дисперсию, равную [184, 185]. Формирование последовательности чисел, подчиняющихся другому закону распределения плотности вероятности, осуществляется в соответствии с методикой, описанной в [98, 184, 185], которая называется методом обратных функций и заключается в следующем.

Пусть wx (х) - функция плотности вероятности случайной величины х, определяемая выражением:

4.1) a wy(y) - функция плотности вероятности случайной величины у, определяемой одним из выражений Таблицы 1.1. Предположим, что случайный процесс х претерпевает некоторое нелинейное безынерционное преобразование, в результате чего формируется случайный процесс у: y = f(x). В силу этого можно утверждать равенство элементарных вероятностей: wy(y)«dy = wx (x)'dx. (4.2)

Если зависимость у = f (х) является монотонной, то интегральные вероятности

Р(х)= Jwx(a)-da, Q(y)= Jwy(p)-dp, (4.3) со —со также равны:

P(x) = Q(y). (4.4)

Отсюда следует выражение для функции у = f (х): y = f(x) = Q-'{P(x)}, (4.5) где Q"1 {.} - символ обратной функции.

X X

Учитывая, что Р(х) = Jwx(a)-da= jl-da = x окончательно получим:

-00 О у = Q4{x}, 0<х<1. (4.6)

Для некоторых законов Таблицы 1.1 имеется возможность определить аналитическое выражение обратного преобразования. Однако для большинства из этих законов необходимо прибегать к методам численного решения нелинейных уравнений, для нахождения по известному значению х неизвестное значение у. Для этого можно воспользоваться одним из широко известных методов, например методом Ньютона [79] нахождения решения нелинейных уравнений.

Приведем выражения преобразования случайных последовательностей с законом распределения (4.1) к последовательностям, имеющим другой закон распределения. Нормально распределенные случайные числа: k=l my, (4.7) где xk — числа, взятые из датчика случайных чисел, равномерно распределенных на отрезке (0, 1); сту, шу — требуемое среднеквадратичное отклонение и математическое ожидание величины у.

Как указывалось в [184], па практике в формуле (4.7) достаточно просуммировать 5-7 слагаемых, т.е. взять N = 5.7. Случайные числа, распределенные в соответствии с релеевским законом распределения: y = ay-7-2-ln(x), (4.8) где сту — параметр распределения. Для экспоненциально распределенных чисел: у = ~1п(х), (4.9)

X — параметр распределения.

Если хк — это последовательности независимых нормально распределенных последовательностей с нулевыми математическими ожиданиями и одинаковыми среднеквадратическими отклонениями ст, то случайная последовательность, подчиняющаяся закону Райса определяется выражением: у = ^/(х,+а)2+х*, (4.10) где ст и а - параметры распределения.Случайная последовательность чисел для распределения по закону cm степенями свободы определяется как: m

4.2. Исследование численного метода оценки совместных функций плотности вероятности совокупностей поляризационных признаков

Разработанные методики (формирования достаточной статистики и построения искусственных нейронных сетей) были реализованы в виде программы с рабочим названием ViGaMaK на языке Object Pascal в среде программирования Delphi 6.0. Алгоритм программы представлен в третьей главе настоящей работы. В Приложении 2 приводятся листинги подпрограмм вычисления оценок функций распределения и плотности вероятности.

На рис.П1.1 - П 1.32 представлены в виде графиков априорные функции распределения и плотности вероятности и их оценки для случая одно и двухпараметрического распознавания для разных размеров совокупностей обучающих выборок и разных законов распределения, сформированные программой ViGaMaK.

Вид полученных оценок позволяет утверждать качественное соответствие получаемых оценок априорным законам распределения вероятности.

Для получения количественных показателей соответствия оценок априорным законам распределения вероятности, производилась оценка устойчивости получаемых с помощью этого метода оценок к различным сочетаниям значений случайных величин (к различным наборам обучающих совокупностей), исследовалась зависимость оценок от значения весового коэффициента операторной аппроксимации tj , а также исследовалась зависимость получаемых оценок от значений параметров априорных законов распределения.

На рис.4.1 и 4.2 представлены графики зависимости отклонений оценок функций распределения вероятностей от априорных функций для различных законов распределения для одно и двухпараметрического распознавания.

Параметры исследуемых законов распределения принимались равными тем же значениям, что и для законов, представленных на рис.Ш .1 - П 1.32.

Анализ графиков рис.4.1 и 4.2 позволяет сделать вывод о том, что выборочные средние и выборочные среднеквадратичные отклонения оценок функции распределения вероятности от априорных законов действительно убывают с ростом числа обучающих выборок, как для одномерных, так и для двумерных законов распределения вероятности. Это, в свою очередь, позволяет утверждать несмещенность и состоятельность получаемых оценок. Кроме этого, очевидно, что выражение (2.16), описывающее максимальное среднеквадратичное отклонение оценок функций распределения вероятности, действительно задает верхнюю границу выборочного среднею и выборочного среднеквадратичного отклонений, хотя они и зависят от законов распределения случайной величины.

Рис. 4.1. Графики зависимости выборочного среднего (а), выборочного среднеквадратичного (б) и максимального (в) отклонений оценок функций распределения вероятностей от априорных функций для восьми законов распределения вероятности, усредненные по десяти реализациям, для о дно параметр и чес ко го распознавания, в зависимости от размера обучающих выборок. Цифрой 1 помечен график зависимость среднеквадратичного отклонения, определенного в соответствии с выражением (2.16). Цифрой 2 -максимальное отклонение для закона распределения Коши,

SO 150 350 Э50 4S0 550 650 750 Э50 950 1100 1 250 1400 1550 1 700 1 650 2000 ^

Рис. 4.2. Графики зависимости выборочного среднего (а), выборочного среднеквадратичного (б) и максимального (в) отклонений оценок функций распределения вероятностей от априорных функций для 20 комбинаций законов распределения вероятности для двухпараметрического распознавания, в зависимости от размера обучающих выборок. Цифрой 1 помечен график зависимость среднеквадратичного отклонения, определенного в соответствии с выражением {2.16).

Это позволяет использовать выражение (2.16) при оптимизации оценок функций плотности вероятности по параметру к - полуразмаху оператор!юной оценки, как для ономерного, так и для двумерного случаев.

На рис. 4.3 и 4.4 представлены графики зависимости среднего, среднеквадратичного и максимального отклонений оценок функций плотности вероятности от априорных законов распределения вероятности, высчитанные по одним и тем же совокупностям обучающих выборок для различных значений весового коэффициента т|.

50 150 250 350 450 550 650 750 В50 950 1100 1150 1400 1 550 17W 1650 JOOO

50 ISO 250 350 450 ИЮ 650 750 850 9601050 1200 1350 1500 1650 16C0 1950

650 700 750 BOO SSO 900 950 1000 1050 1100 1150 1200 1250

500 550 600 650 700 750 800 050 900 950 5000 1050 1100 1150 1200 1250 g^j

Рис. 4.3. Графики зависимости выборочного среднего (а), выборочного среднеквадратичною (б) н максимального (в) отклонений оценок функций плотности вероятности от априорных функций для восьми законов распределения вероятности, усредненные по десяти реализациям, для одно пара метрического распознавания, в зависимости от размера обучающих выборок и для разных значений весового коэффициента р изменяющегося от 0 до 1 с шагом 0,). Цифрами на графике помечены: I — совокупность зависимостей для равномерного закона распределения; 2 - для закона распределения Раиса; 3 - для нормального закона распределения; 4 - для двойного показательного закона; 5 - для закона распределения Хи-квадрат; 6 - для закона распределения Коши: 7 - для экспоненциального закона распределение 8— для закона распределения

Редея.

Анализ рисунков 4.3 и 4.4 покачал, что параметр операторной аппроксимации т| не оказывает существенного влияния на зависимость как выборочного среднего и выборочного среднеквадратичного отклонений, так и максимального отклонения операторных оценок функций плотности вероятности от априорных законов распределения плотности вероятности. Из рисунков видно, что для всех законов (кроме экспоненциального) линии отклонений для различных значений параметра г| проходят вдоль одних и тех же регрессионных линий и, практически, прямо по ним, как для одномерных, так и для двухмерных законов распределения.

SO 150250350 450 550 650 750 650950 1100 1250 1400 1550 17Ю 1S60 20CO

700 900 Ш) 1000 1100 1200 1300 1400 1500 1500 1700 1000 1900 2000 а)

6)

Рис. 4.4. Графики зависимости выборочного среднего (а), выборочного среднеквадратичного (б) и максимального (в) отклонений оценок функций плотности вероятности от априорных функций для восьми комбинаций законов распределения вероятности для двух параметрического распознавания, в зависимости от размера обучающих выборок и для разных значений весового коэффициента г\. Цифрами на графике помечены; ] - совокупность зависимостей для равномерного закона распределения по обоим параметрам распознавания; 2 - для закона распределения Раиса; 3 - для нормального закона распределения; 4 - для двойного показательного закона; 5 - для закона распределения Хи-квадрат; 6 - для закона распределения Кош и; 7 - для экспоненциального закона распределения; 8 - для закона распределения Релея; 9 - зависимость, вычисленная по формуле (2.53).

Что касается экспоненциального закона, то, несмотря на несколько большую зависимость операторной аппроксимации оценки функции плотности вероятности от параметра ri для этого закона, эти отклонения никак нельзя назвать существенными. Это позволяет предположить возможность отказа от необходимости осуществлять оптимизацию получаемых оценок по параметру ц, что существенно сокращает время получения этих оценок. В дальнейшем при выполнении всех расчетов было принято значение параметра 11= 0,5.

На рис. 4.5 - 4.12 представлены зависимости среднего и максимального отклонений оценок функций плотности вероятности от априорных функций плотности вероятности для

0 150 ISO 350 ISO 550 6S0 750 S50 3» 1100 1250 1400 1550 1700 1650 2000 ИО 750 950 950 10SO 1150 1150 1 350 1450 1550 1650 1750 1Э50 1950 восьми законов распределения для случая однопараметрического распознавания при изменении параметров априорных законов распознавания.

Рис. 4.5. Среднее (слева) и максимальное (справа) отклонение оценки функции плотности вероятности от априорного закона плотности вероятности для одномерного равномерного закона распределения при фиксированном значении правой ]раницы (равным десяти) и изменяющемся значении левой границы (от 0 до 9 с шагом I), в зависимости от размера обучающей выборки. На графиках обозначено: ] - левая граница равна 9; 2 - левая граница равна 8; 3 - левая граница равна 0; 4 - теоретическая зависимость, рассчитанная по (2.34).

50 250 500 750 1050 1400 1750 7100 2450 2600 3150 3500 3950 4200 455П 44JU

50 3» 500 750 1050 1 350 1 650 1950 2300 2600 2900 Э200 3500 3850 4150 4450 4750

50 250 БОТ 750 10501350 1700 200О 1X0 2650 2950 3250 35S0 3900 4200 4500 4850 50 250 500 750 1060 1400 1750 2100 2400 2750 3100 Э45В 3800 4150 4450 4800

Рис. 4.6. Среднее (слева) и максимальное (справа) отклонение оценки функции плотности вероятности от априорного закона плотности вероятности для одномерного закона распределения Релея при изменении параметра С от 1,1 до 10,1 с шагом 1 в зависимости от размера обучающей выборки. На графиках обозначено: 1— о = 1,1; 2 — ст = 2,1;3 -теоретическая зависимость, рассчитанная по формуле(2.34),

Рис. 4.7. Среднее (слева) и максимальное (справа) отклонение оценки функции плотности вероятности от априорного закона плотности вероятности для одномерного нормального закона распределения при фиксированном значении параметра m — 0 и изменении параметра а от 1,1 до 10,1 с шагом 1 в зависимости от размера обучающей выборки. На графиках обозначено: 1- (Т — 1Д ;2~ <Т = 2,1;3 — теоретическая зависимость, рассчитанная по формуле (2.34).

S0250 500 7SQ 10S0 1400 1TS0

3800 Э150 3500 3850 4200 «550 4900

SO 2S0 500 750 1050 1Э50 1700 2000 2300 2«0 2Й50 32Я) 3550 3900 4200 4500 4Э50 50 250 WO 750 10ОО 1300 1600 1900 1200 2500 2800 3100 3400 3700 «000 (300 4Б00 tSOO

Рис. 4.8. Среднее (слева) и максимальное (справа) отклонение оценки функции плотности вероятности от априорного закона для одномерного двойного показательного закона распределения при фиксированном значении параметра а = 1 и изменении параметра С от 1 до 10 с шагом I (сверху) и при фиксированном значении параметра с = 2 и изменении параметра а от 1 до 10 с шагом I (снизу) в зависимости от размера обучающей выборки. На графиках обозначено: I - теоретическая зависимость, рассчитанная по формуле (2.34).

50 250 500 750 1050 1 400 175И 2100 2450 2ВОО 3150 3500 3050 4200 4550 4Э00 50250 500 750 1060 1400 1750 2100 2400 2Т50 3100 3450 3800 <150 4450 4800

Рис. 4.9. Среднее (слева) и максимальное (справа) отклонение оценки функции плотности вероятности от априорпого закона плотности вероятности для одномерного закона распределения Коши при фиксированном значении параметра h = 1 и изменении параметра Х0 от I до 10 с шагом 1 (сверху) и при фиксированном значении параметра Ха =1 и изменении параметра Ь от 1 до 10 с шагом 1 (снизу) в зависимости от размера обучающей выборки. На графиках обозначено: I - теоретическая зависимость, рассчитанная по формуле (2.34).

3850 4200 4550 450(1

50 250 500 750 1050 1400 1750 2100 2400 ЭТ50 3100 3450 3800 4150 4450 4800

50 250 500 750 10501350 1700 ЮОО 2300 2650 2950 3250 3550 3900 4200 4500 <650 SO ISO 500 7S010QO 1300 1600 1900 2200 2SOO 2800 3100 3400 3703 4000 4300 4600 4000

Рис. 4.10. Среднее (слева) и максимальное (справа) отклонение опенки функции плотности вероятности от априорного закона плотности вероятности для одномерного экспоненциального закона распределения при изменении параметра А, от 1 до 10 с шагом 1 в зависимости от размера обучающей выборки. На графиках обозначено: 1 - теоретическая зависимость, рассчитанная по формуле (2.34).

Рис. 4.11. Среднее (слева) и максимальное (справа) отклонение оценки функции плотности вероятности от априорного закона плотности вероятности для одномерного закона распределения Хи-квадрат при изменении параметра п от 2 до 10 с шагом 1 в зависимости от размера обучающей выборки. На графиках обозначено: 1 -зависимость при п = 2; 2 - теоретическая зависимость, рассчитанная по формуле (2.34).

50 250 500 750 1050 1400 1750 2100 1450 2900 3150 Э500 3090 4200 4SS0 4900 50 350 500 750 1000 1300 1 600 1900 220Q 2500 390П 510П 4400 37П0 400С 4ЭОО 4600 4900

50 250 500 750 1050 1400 1750 2100 2450 28ОТ 3150 3500 3050 4200 4550 4900 50250 500 750 10») 1400 t750 2100 2400 2750 3100 3450 3000 4150 4450 <4000

Рис, 4,12. Среднее (слева) и максимальное (справа) отклонение оценки функции плотности вероятности от априорного закона плотности вероятности для одномерного закона распределения Раиса при фиксированном значении параметра а = 5 и изменении параметра а от 1 до 10 с шагом I (сверху) и при фиксированном значении параметра а = 1 и изменении параметра а от 1 до 10 с шагом I (снизу) в зависимости от размера обучающей выборки. На графиках обозначено: 1 - теоретическая зависимость, рассчитанная по формуле (2.34).

Анализ рисунков 4.5 - 4.12 позволяет утверждать, что, во-первых, при увеличении размера обучающих совокупностей среднее выборочное отклонение оценки от априорного закона - уменьшается, что говорит о несмещенности получаемых оценок, а во-вторых, что получаемые оценки зависят как от вида закона распределения, так и от значения его параметров. Среднеквадратичные отклонения, представленные на рис. 4.5 - 4.12, рассчитывались по формуле (2.34) для наихудшего сочетания переменных этого выражения по всем зависимостям графиков рис. 4.5 - 4.12. Убывание среднеквадратичных отклонений мри увеличении размера обучающих совокупностей говорит о состоятельности формируемых оценок.

Для двухмерных законов распределения плотности вероятности характер зависимостей отклонений оценок от априорных законов качественно выглядит таким же образом.

43. Исследование численного метода формирования достаточной статистики

Для исследования предлагаемого метода формирования достаточной статистики отношения правдоподобия в качестве распознаваемых целей были выбраны объекты, поляризационные характеристики которых исследовались в работах [48 - 54,56 - 62].

При этом использовались следующие законы, описывающие статистические свойства параметров распознавания (Таблицы 4.1 и 4.2).

Заключение

Подводя итоги проделанной работы, сформулируем достигнутые результаты, а также возможные направления дальнейших исследований.

Первым результатом проделанной работы явился разработанный алгоритм формирования оценок функций распределения вероятности и функций плотности вероятности с привлечением метода операторной оценки. Сам по себе метод операторной оценки, используемый в данной работе, не является новым. Применительно к случаю построения оценок многомерных функций плотности вероятности этот метод требует решения задачи многомерной оптимизации получаемых оценок по большому числу параметров этих оценок, не несущих в себе информацию о вероятностных характеристиках признаков распознавания объектов.

По всей видимости, именно это обстоятельство ограничивало практическое применение метода операторной оценки функций плотности вероятности, поскольку применение метода в том виде, в котором он был предложен, требовало значительных вычислительных затрат системы (электронно-вычислительной машины (ЭВМ)), которая бы осуществляла обработку результатов измерений значений признаков распознавания.

В данной работе был предложен способ снижения общего количества оптимизируемых параметров оценок функций плотности вероятности. Для некоторых из параметров была установлена их зависимость от исходных данных и от других параметров. Для других было установлено, что их влияние на формируемые оценки практически отсутствует, и они могут принимать произвольные значения в пределах диапазона возможных значений. Наконец, для третьих были определены критерии выбора их значений.

На основе выдвинутых предложений был разработан и реализован в виде программы алгоритм построения операторных оценок функций плотности вероятности для одно и двухмерного случаев.

Необходимо отметить, что, несмотря на уменьшение общего числа оптимизируемых параметров оценок функций плотности вероятности, все равно предложенный алгоритм требует достаточно больших вычислительных затрат, особенно тогда, когда размеры обучающих выборок - значительны. Например, при расчете двумерной функции плотности вероятности при размере обучающей выборки, равной 5000 значений по каждому из параметров требуется около 250 МВт оперативной памяти, а сам расчет занимает около 50 часов машинного времени при расчете на двухпроцессорной ЭВМ с установленными процессорами AMD Opteron 1,4 ГГц (OSA240).

Однако зависимость времени расчета от размера выборки не является линейной. Так при размере выборки, раной 2000 расчет на той же самой ЭВМ занимает всего около двух часов. Таким образом, предложенным метод вполне применим при небольших объемах выборок.

Тем не менее, алгоритм, реализующий данный метод, может быть оптимизирован. Например, алгоритм может быть построен таким образом, чтобы вычисления осуществлялись в параллельном режиме, что должно привести к более оптимальной загрузке центральных процессоров ЭВМ, а кроме этого позволит использовать для расчетов многомашинные электронно-вычислительные системы.

По всей видимости, существуют и другие способы оптимизации предложенного алгоритма получения оценок функций плотности вероятности.

Вторым результатом проделанной работы явился разработанный алгоритм разбиения пространства значений поляризационных параметров объектов на области, соответствующие разным объектам в соответствии с критерием максимального правдоподобия качества принятия решения и его практическая реализация в виде программы.

Критерий максимального правдоподобия использовался, поскольку иные критерии качества принятия решения требуют большего количества априорной информации об объектах распознавания, которая (информация) в условиях непараметрической априорной неопределенности отсутствует.

Однако если об объектах распознавания априори будет доступно больше данных, чем просто наборы выборок признаков распознавания, то эти данные, несомненно, должны учитываться при разбиении пространства значений признаков на области, относящиеся к тому или иному объекту. Разработанный метод формирования областей не позволяет учитывать эту информацию. Такая задача не ставилась и не решалась в данной работе, но эта проблема может быть рассмотрена в дальнейших исследованиях.

В плане построения гиперповерхностей, ограничивающих области объектов распознавания, детально метод был разработан и доведен до практической реализации только для случаев одно и двухпараметрического распознавания. При анализе проблемы построения устройств распознавания радиолокационных объектов по поляризационным признакам было установлено, что общее количество признаков распознавания может быть равно от одного до восьми. Это приводит к необходимости в дальнейшем увеличения числа используемых признаков. При этом возникает проблема разработки метода оптимального размещения ограничивающих гиперповерхностей, проходящих через вершины, соответствующие границам областей целей. Кроме этого заслуживает рассмотрения и вопрос выбора формы ограничивающих поверхностей. Можно предположить, что использование гиперплоскостей для этих целей не является лучшим решением проблемы. Вполне возможно, что использование в качестве разделяющих границ областей поверхностей сложной формы позволит упростить структуру нейронной сети, формируемую на основе выполненного разделения пространства признаков.

Разработанный способ разбиения пространства значений признаков на области, соответствующие разным объектам распознавания позволил предложить достаточно простой способ формирования достаточной статистики, которая в данном случае строится в виде набора предикатов. Причем ее общее выражение не зависит от вида априорных функций плотности вероятности, что является несомненным достоинством предлагаемого метода, поскольку отпадает необходимость в сложных способах обработки сигналов, поступающих от датчиков, осуществляющих измерение значений признаков распознавания, что в свою очередь упрощает схему селекции целей радиолокационных систем.

Однако решение данной проблемы было получено в виде словесного описания и только для случаев одно и двухпараметрического распознавания. Формализованное математическое описание способа построения наборов предикатов, представляющих области принятия решений целей, независимо от количества параметров распознавания получено не было, что также является возможным направлением дальнейших исследований.

Третьим результатом проделанной работы явился разработанный алгоритм формирования искусственной нейронной сети, осуществляющей распознавание радиолокационных объектов по поляризационным признакам.

Использование искусственных нейронных сетей в качестве логического базиса устройства распознавания радиолокационных объектов позволило решить проблему практической реализации формируемых достаточных статистик, описывающих области принятия решений целей. Параллельный характер вычислений, присущий искусственным нейронным сетям, позволяет получать решение об объектах распознавания с очень высокой скоростью, практически ограничиваемую только временем срабатывания отдельных нейронов сети. Это является важным преимуществом предлагаемого способа формирования устройств распознавания, поскольку в радиолокационных системах, которые, как правило, работают в режиме реального времени, скорость принятия решения о цели должна быть высокая.

Отличительной особенностью предлагаемого способа формирования искусственных нейронных сетей является решение проблемы определения оптимальной структуры нейронный сети, в соответствии с критерием качества принятия решения максимального правдоподобия, которая (проблема) в известных автору работах не решалась. С другой стороны, можно предположить, что предлагаемая структура сети может быть упрощена еще больше, например, использованием в качестве границ областей поверхностей сложной формы и использованием в качестве функций активации не пороговых, а монотонных функций, о чем уже говорилось выше.

Еще одна проблема, которая была решена в ходе исследований — это проблема определения размеров обучающих выборок, достаточных для построения нейронных сетей, и определения при этом оценки вероятности ошибки при принятии решения. Исследования показали, что оцениваемые вероятности ошибки могут быть меньше реальных, что связанно с ошибками построения оценок функций плотности вероятности. Это выдвигает проблему улучшения методов получения оценок функций плотности вероятности в будущем. Решение данной проблемы видится автору в применении не линейной интерполяции при численном дифференцировании функции распределения вероятности, как в используемом методе операторной оценка, а интерполяции более высокого порядка.

Также необходимо упомянуть и о способе определения весов и смещений формальных нейронов формируемой искусственной нейронной сети. Чаще всего используемые методы обучения нейронных сетей предполагают их непосредственную настройку, в процессе которой осуществляется минимизация некоторого функционала ошибки. В результате этого возможно получения ситуации, при которой минимум функционала ошибки достигается, а верность принятия решения нейронной сеть, при этом, оказывается невысокой (проблемы переобучения или недообучения сети, проблема попадания в локальный минимум функционала ошибки).

В предлагаемом методе формирования сети осуществляется оптимизация размещения вершин ограничивающей поверхности областей целей, а веса и смещения нейронов рассчитываются исходя из используемого способа проведения через эти вершины ограничивающих поверхностей. При этом в качестве критерия оптимальности размещения вершин областей принятия решений целей используется критерий минимизации оценки средней вероятности ошибки, определяемой по оценкам функций плотности вероятности. Это придает весам и смещениям нейронов сети конкретный физический смысл, и позволяет избегать многих проблем, присущих другим способам формирования и обучения искусственных нейронных сетей.

Еще одним результатом проделанной работы явилось создание программного аппарата, позволяющего строить модели формируемых искусственных нейронных сетей, что, в свою очередь, позволяет проводить исследования этих сетей. Разработанная программа предоставляет описание сформированной нейронной сети с применением стандартных методов математического описания, используемых для искусственных нейронных сетей. Это позволяет исследовать сеть не только с помощью методов, заложенных в разработанную программу, но и переносить построенную модель в среду других программных продуктов, для проведения каких-либо иных исследований. Это также позволяет реализовывать сформированную сеть в виде аппаратного нейросетевого устройства, готового к применению в реальных условиях работы радиолокационных систем.

В разработанной программе для исследования нейронной сети предоставляется возможность использования метода статистических испытаний Монте-Карло, для определения доли ошибочных решений, принимаемых сетью, а также предоставляется возможность наглядной проверки верности принимаемых сетью решений по сформированным областям принятия решений целей.

Наконец, в работе были представлены результаты исследований предложенных алгоритмов на моделях реальных радиолокационных объектов, подтверждающих правомочность их (алгоритмов) применения при работе с реальными объектами в составе поляризационных радиолокационных систем.

Библиография Рыжаков, Виталий Владимирович, диссертация по теме Математическое моделирование, численные методы и комплексы программ

1. Кук, Ч. Радиолокационные сигналы / Ч. Кук, М. Бернфельд. Пер. с английского под ред. B.C. Кельзона. М.: «Советское радио», 1971. - 568 с.

2. Бартон, Д. Справочник по радиолокационным измерениям / Д. Бартон, Г. Вард. Пер. с англ. под ред. М. М. Вейсбейна. М.: «Сов. Радио», 1976. - 392 с.

3. Радиолокационные устройства (теория и принципы построения) / В.В. Васин, О.В. Власов, В.В. Григорин-Рябов и др. Под ред. В. В. Григорина-Рябова. М.:ь «Сов. Радио», 1970.-680 с.

4. Царьков, Н.М. Многоканальные радиолокационные измерители / Н.М. Царьков. -М.: Сов. радио, 1980. -192 с.

5. Радиолокационные характеристики летательных аппаратов / М.Е. Варганов, Ю.С. Зиновьев, Л.Ю. Астанин и др. Под ред. Л.Т.Тучкова. — М.: Радио и связь, 1985. — 236с.

6. Канарейкин, ДБ. Поляризация радиолокационных сигналов / Д.Б. Канарейкин, Н.Ф. Павлов, В.А. Потехин. М.: Советское радио, 1966. - 440 с.

7. Канарейкин, Д.Б. Морская поляриметрия / Д.Б. Канарейкин, В.А. Потехин, И.Ф. Шишкин. Л.: Судостроение, 1963. - 328 с.

8. Богородский, В.В. Поляризация рассеянного и собственного радиоизлучения земных покровов / В.В. Богородский, Д.Б. Канарейкин, А.И. Козлов. Л.: Гидрометеоиздат, 1981.-297с.

9. Селекция и распознавание на основе локационной информации / А.Л. Горелик, Ю.Л. Барабаш, О.В. Кривошеев, С.С. Эпштейн; Под ред. А.Л. Горелика. М.: Радио и связь, 1990.-240с.

10. И. Димитриенко, Ю.И. Тензорное исчисление: Учеб. пособие для вузов / Ю.И. Димитриенко. М.: Высш. Шк., 2001. - 575 с.

11. Бацула, А.П. Исследование сигналов с динамической поляризационной структурой в одноканальных метеорологических радиолокаторах / А.П. Бацула. Кандидатская диссертация, Томск, ТИАСУР, 1983 г.

12. Масалов, Е.В. Использование динамических поляризационных фильтров в задачах селекции и идентификации радиолокационных объектов / Е.В. Масалов. Кандидатская диссертация, Томск, ТИАСУР, 1984.

13. Радиолокационные характеристики летательных аппаратов / Л.Ю. Астанин, М.Е. Варганов, Б.Д. Дмитриев и др. Под ред. Л.Т. Тучкова. М.: Радио и связь, 1985. - 236с.

14. Авторское свидетельство. 1026549 СССР, G01S 13/95. Метеорологический радиолокационный поляриметр / Н.Н. Бадулин, А.П. Бацула, Г.Н. Громов и др. заявлено 15.07.81.

15. Авторское свидетельство. 1069535 СССР, G01S 13/95. Радиолокационный поляриметр / Н.Н. Бадулин, А.П. Бацула, Е.В. Масалов и др. заявлено 24.06.82

16. Авторское свидетельство. 1143207 СССР, G01S 13/95. Метеорологический поляриметр / Н.Н. Бадулин, А.П. Бацула, Е.В. Масалов и др. Заявлено 18.10.83.

17. Авторское свидетельство. 1199069 СССР, G01S 13/95. Способ измерения коэффициента анизотропии радиолокационной цели / Н.Н. Бадулин, С.С. Деревянченко, Е.В. Масалов и др. Заявлено 25.05.83.

18. Авторское свидетельство. 1232034 СССР G01S 13/02. Способ измерения поляризационных характеристик радиолокационной цели и устройство для его реализации / Н.Н. Бадулин, Е.В. Масалов. Заявлено 15.10.84.

19. Лукьянов, С.П. Режекторная гребенчатая фильтрация в задачах обработки поляризационно-манипулированных радиолокационных сигналов / С.П. Лукьянов. — Кандидатская диссертация, Томск, ТИАСУР, 1987.

20. Лукьянов, С.П. Режекторная гребенчатая фильтрация в задачах обработки поляризационно манипулированных радиолокационных сигналов / В.Н. Татаринов, С.П. Лукьянов, Е.В. Масалов. Радиоэлектроника, 1989, №5, т.32, с. 3 - 7.

21. Хлусов, В. А. Моноимпульсные измерители поляризационных параметров радиолокационных объектов / В.А. Хлусов. Кандидатская диссертация, ТИАСУР, Томск, 1989.

22. Авторское свидетельство. 1309758 СССР, М. кл. G01S. Способ измерения коэффициента анизотропии радиолокационной цели / В.А. Хлусов, В.И. Карньппев, В.Н. Татаринов, Е.В. Масалов, В.А. Потехин, С.С. Деревянченко, Э.А. Рудман. 1987 г.

23. Бадулин, Н.Н. Использование поляризационно модулированных сигналов при зондировании метеообразований / Н.Н. Бадулин, В.Л. Гулько, Е.Л. Шошин. 7 Всесоюзное совещание по радиометеорологии. Тезисы докладов. - Москва, 1986, с. 16.

24. Бадулин, Н.Н. Анализ влияния частоты поляризационной модуляции на результат поляризационных измерений / Н.Н. Бадулин, В.Л. Гулько, Е.Л. Шошин. — Научно-техническая конференция. Томск, 1987.

25. Гусев, К.Г. Поляризационная модуляция / К.Г. Гусев, А.Д. Филатов, А.П. Сополев. -М.: Сов. радио, 1974. 288 с.

26. Nathanson, F.E. Adaptive Circular Polarization / F.E. Nathanson. IEEE. Int. Radar Conf., 1975, p. 221 -225.

27. Peebles, P.Z. Radar Rain Clutter Cancellation Bounds Using Circular Polarization / P.Z. Peebles. Proc. IEEE. Int. Radar Conf. 1975, p. 210 - 214.

28. Kalabus K.M. Rain Cancellation Deterioration Due to Surface Reflections in Ground-Mapping Radars Using Circular Polarization. IEEE Trans. Antennas, Propagat., 1975, AP. 23, p. 268-271.

29. Южаков B.B. Применение сигналов круговой поляризации для улучшения характеристик систем телевидения, связи, радионавигации и радиолокации. Зарубежная радиоэлектроника, 1979, № 9, с. 68-86.

30. Масалов, Е.В. Одноканальные методы активной поляризационной радиолокации / Масалов, Е.В. Докторская диссертация. Томск, ТИАСУР, 1993.

31. Дистанционное зондирование микрофизической структуры облаков с использованием поляризационной манипуляции / Н.Н. Бадулин, А.П. Бацула, Е.Б. Кулыненева и др. Изв. вузов СССР, Физика. - 1983, №6. Деп. ВИНИТИ, № 219.

32. Stewart, N. A. A Study on Polarization Characteristics of Targets and Clutter / N. A. Stewart. Military Microwaves 80'Conf.Rec. London, 1980, p. 405-409.

33. Масалов, Е.В. Поляризационные измерения в задачах радиолокационной метеорологии / Е.В. Масалов, В.Н. Татаринов. — Зарубежная радиоэлектроника, 1987, 4, с. 44 -52.

34. Cherardelli, М. Experimental Results on Discrimination of Radar Signals by Polarization / M. Cherardelli, M. Fossi, D. Giuli. Proc. Int. Symp. on Noise and Clutter Rejection in Radars and Imaging Sensors, Tokyo, Japan, 1984.

35. Cherardelli, M. Experimental Results on a Double Polarization Radar / M.A. Cherardelli, M. Fossi, D. Giuli. Colloq. Int. Radar, Paris, 1984, p. 419 - 424.

36. Badulin, N.N. Investigation of Polarizaton Characteristics of Radar Signals from the Sea / N.N. Badulin, E.L. Shoshin. Proc. of the JIPR-95, Nantes, France, 1995, p. 194 -198.

37. Ligthart, L. Polarization Properties of Radar Objects, Having Random Distribution of the Scattering Centers / L. Ligthart, V.N. Tatarinov, S.V. Tatarinov. Proc. of the JIPR-98, Nantes, France, 1998, p. 419-428.

38. Дистанционная индикация града в облаках по поляризационным характеристикам сигнала / Диневич JI. А., Тычина Р. Н. и др. — «Труды ЦАО», 1975, вып. 121, с. 18 — 27.

39. Мандуровский, И.А. Теория флуктуаций локационных сигналов, отраженных распределенными целями / И.А. Мандуровский, Ю. И. Фельдман. Под ред. Ю.И. Фельдмана. М.: Радио и связь, 1988. - 272 с.

40. Поляризационные инварианты в задачах зондирования ледников / Н.Н. Бадулин, С.А. Никитин, В.Н. Татаринов и др. Изв. вузов СССР, Физика, 1983, №6.

41. Ушаков, И. Е. О спектре обратного рассеяния радиоволн морской поверхностью / И.Е. Ушаков, И.Ф. Шишкин. Радиотехника, 1980, т, 35, №11.

42. Измерения характеристик морского волнения с использованием судовой PJIC / JI.B. Евтеева, И.Е. Ушаков, С.А. Качинский и др. Радиотехника, 1987, № 1.

43. Karnychev, V.I. Experimental Investigation of Polarization Contrast of Small Radar Objects / V.I. Karnychev, V.N. Tatarinov, S.V. Tatarinov. Proc. of the EUSAR - 96, Konigswinter, Germany, 1996.

44. Бадулин, Н.Н. Спектральные характеристики эхо-сигналов при поляризационной модуляции излучения РЛС / Н.Н. Бадулин, В.Л. Гулько. Изв. ВУЗов СССР. Радиоэлектроника, 1988, № 4, с.74 - 76.

45. Бадулин, Н.Н. Спектральные характеристики рассеянных радиолокационными целями сигналов при поляризационной модуляции излучения РЛС / Н.Н. Бадулин, В.Л. Гулько, Е.В. Масалов. Изв. ВУЗов СССР. Радиоэлектроника. 1991, № 11, с. 65 - 67.

46. Шошин, Е.Л. Одноканальные методы поляриметрии в задачах обнаружения радиолокационных целей по поляризационным признакам на фоне подстилающей поверхности / Е.Л. Шошин. Кандидатская диссертация, Томск, ТИАСУР, 1996.

47. Разработка и выпуск опытного образца РЛ — измерителя состояния поверхности моря: Отчет (заключит.). Шифр ЧС.0.41.10 / Томский институт АСУ и радиоэлектроники (ТИАСУР); руководитель Н. Н. Бадулин. Томск, 1992. - 16с.

48. Бадулин, Н.Н. Поляризационные характеристики рассеяния радиолокационных сигналов морской поверхностью / Н.Н. Бадулин, В.Л. Гулько. Изв. вузов СССР, Радиоэлектроника, 1991, №4, с. 26 - 31.

49. Бадулин, Н.Н. Исследование поляризационных характеристик радиолокационных сигналов рассеянных морской поверхностью / Н.Н. Бадулин, Д.А. Фролов. Радиотехника, 1991, №11, с. 77-79.

50. Левин, Б.Р. Теоретические основы статистической радиотехники / Б.Р. Левин. М.: Сов. радио, 1974 - 1976. кн. 1 - 3. - кн. 1 - 552 е., кн. 2 - 392 е., кн. 3 - 288 с.

51. Обнаружение искусственных радиолокационных целей по поляризационным признакам на фоне земной поверхности / Бадулин Н.Н., Былина В.В., Гулько B.JI. и др. Изв. вузов СССР, Радиоэлектроника, 1991, №8, с. 29-32.

52. Карнышев, В.И. Поляризационный контраст радиолокационных объектов. Диссертация на соискание ученой степени кандидата технических наук / В.И. Карнышев. -Томск: Томский институт автоматизированных систем управления и радиоэлектроники, 1993.-137 с.

53. Кораблев, А.Ю. Методы поляризационной селекции в радиолокационных системах. Диссертация на соискание ученой степени доктора технических наук / А.Ю. Кораблев. —М.: Московский государственный технический университет гражданской авиации — 2003. — 301 с.

54. Небабин, В.Г. Методы и техника радиолокационного распознавания / В.Г. Небабин, В.В. Сергеев. М.: Радио и связь, 1984. - 152 с.

55. Моделирование радиолокационных систем / А.И. Леонов, В.Н. Васенев, Ю.Н. Гайдунов и др.; Под ред. А.И. Леонова. М.: Сов. радио, 1979. - 264 с.

56. Мелнтицкий, В.А. Введение в статистическую поляризацию радиоволн / В.А. Мелнтицкий, С.И. Поздняк. М.: Сов. радио, 1974. - 480 с.

57. Манжос, В.Н. Теория и техника обработки радиолокационной информации на фоне помех / В.Н. Манжос, Я.Д. Ширман. М.: Радио и связь, 1981. - 416 с.

58. Фомин, Я.А. Статистическая теория распознавания образов / Я.А. Фомин, Г.Р. Тарловский. М.: Радио и связь, 1986. - 264 с.

59. Ширман, Н.Д. Разрешение и сжатие сигналов / Н.Д. Ширман. М.: Сов. радио, 1979.-360 с.

60. Хан, Г. Статистические модели в инженерных задачах / Хан Г., Шапиро С. Пер. с англ. М.: Мир, 1996. - 396 с.

61. Горелик, А.Л. Методы распознавания: Учеб. пособие / А.Л. Горелик, В.А. Скрипкин. М.: Высшая школа, 2004. - 261 с.

62. Черноруцкий, И.Г. Методы принятия решений / И.Г. Черноруцкий. СПб.: БХВ-Петербург, 2005. - 416 с.

63. Фукунага, К. Введение в статистическую теорию распознавания образов. — М.: Наука, 1979.-368 с.

64. Ван Трис, Г. Теория обнаружения, оценок и модуляции. Том 1. Теория обнаружения, оценок и линейной модуляции / Г. Ван Трис. Нью-Йорк, 1968. Пер. с англ., под ред. проф. В.И. Тихонова., М., «Советское радио», 1972. - 744 с.

65. Вапник, В.Н. Теория распознавания образов (статистические проблемы обучения) / В.Н. Вапник, АЛ. Червоненкис. М.: Наука, 1974. - 416 с.

66. Миленький, А.В. Классификация сигналов в условиях неопределенности / А.В. Миленький. М.: Сов. радио, 1975. - 328 с.

67. Теория обнаружения сигналов / П.С. Акимов, П.А. Бакут, В.А. Богданович и др.; Под ред. П.А. Бакута. М.: Радио и связь, 1984. - 440 с.

68. Макс, Ж. Методы и техника обработки сигналов при физических измерениях: В 2-х томах / Ж. Макс. Пер. с франц. М.: Мир, 1983. - Т.1.312 е., Т.2.256 с.

69. Амосов, А.А. Вычислительные методы для инженеров: Учеб. Пособие / А.А. Амосов, Ю.А. Дубинский, Н.В. Копченова. М.: Высш. шк., 1994. - 544 с.

70. Моисеев, Н.Н. Численные методы в теории оптимальных систем / Н.Н. Моисеев. -М.: Главная редакция физико-математической литературы изд-ва «Наука», 1971. 424 с.

71. Вержбицкий, В.М. Численные методы (математичский анализ и обыкновенные дифференциальные уравнения): Учеб. пособие для вузов / В.М. Вержбицкий. — М.: Высш. шк., 2001.-382 с.

72. Барабаш, Ю.Л. Коллективные статистические решения при распознавании / Ю.Л. Барабаш — М.: Радио и связь, 1983. — 220 с.

73. Растригин, Л.А. Метод коллективного распознавания / Л.А. Растригин, Р.Х Эриннггейн. М.: Энергоатомиздат, 1981. - 80 с.

74. Сосулин, Ю.Г. Теория последовательных решений и ее применение / Ю.Г. Сосулин, М.М. Фишман. М.: Радио и связь, 1985. - 272 с.

75. Кендэл, М. Ранговые корреляции / М. Кендэл. Пер. с англ. - М.: Статистика, 1975. -216 с.

76. Лапий," В.Ю. Устройства ранговой обработки информации / В.Ю Лапий, А.Я. Калюжный, Л.Г. Красный. Киев: Техника, 1986. - 120 с.

77. Щербаков, Б.В. Многоуровневые системы распознавания образов. Диссертация на соискание ученой степени кандидата технических наук / Б.В. Щербаков. Красноярск: Красноярский государственный технический университет, 1996. - 114 с.

78. Кендалл, М. Многомерный статистический анализ и временные ряды / М. Кендалл, А. Стьюарт. Пер. с англ. Под ред. А.Н. Колмогорова, Ю.В. Прохорова. М.: Наука, 1976. -736 с.

79. Леман, Э. Проверка статистических гипотез / Э. Леман. Пер. англ. Под ред. Ю.В. Прохорова. М.: Наука, 1979. - 408 с.

80. Крамер, Г. Математические методы статистики / Г. Крамер. М.: Издательство «Мир», 1975. - 648 с.

81. Боровков, А.А. Математическая статистика / А.А. Боровков. Новосибирск: Наука; Издательство Института математики, 1997. - 772 с.

82. Математические методы распознавания образов. Тезисы докладов 8-й Всероссийской конференции / Российская академия наук. Вычислительный центр. — М.: Отдел научно-технической информации Пущинского научного центра РАН, 1997. 236 с.

83. Сборник материалов 5-й международной конференции «Распознавание 2001» / Под ред. B.C. Титова. - Курск: Курский государственный технический университет, 2001. -188 с.

84. Старков, Ф.А. Обработка изображений и распознавание образов: Монография / Курск, гос. техн. ун-т. Курск, 2003. 232 с.

85. Ермаков, С.М. Курс статистического моделирования / С.М. Ермаков, Г.А. Михайлов. — М.: Главная редакция физико-математической литературы изд-ва «Наука», 1976.-320 с.

86. Калинин, А.И. Распространение радиоволн и работа радиолиний / А.И. Калинин, E.JI. Черенкова. М.: Издательство «Связь», 1971.-440 с.

87. Руководство по применению радиолокаторов MPJI-4, MPJI-5 и MPJI-6 в системе градозащиты / М.Т. Абшаев, И.И. Бурцев, С.И. Ваксенбург, Г.Ф. Шевела. — Ленинград: Гидрометеоиздат, 1980. 232 с.

88. Радиотехнические системы: Учеб. для вузов по спец. «Радиотехника» / Ю.П. Гришин, В.П. Ипатов, Ю.М. Казаринов и др.; Под ред. Ю.М. Казаринова. М.: Высш. шк., 1990.-496 с.

89. Теоретические основы радиолокации. Учебное пособие для вузов / Я. Д. Ширман, В. Н. Голиков, И.Н. Бусыгин и др.; Под ред. Я.Д. Ширмана. М.: изд-во «Советское радио», 1970.-560 с.

90. Вапник, В.Н. Задача обучению распознаванию образов / В.Н. Вапник. — М.: Знание, 1971.-64 с.

91. Загоруйко, Н.Г. Прикладные методы анализа данных и знаний / Н.Г. Загоруйко. -Новосибирск: Изд-во Ин-та математики, 1999. — 270 с.

92. Загоруйко, Н.Г. Методы распознавания и их применение / Н.Г. Загоруйко. — М.: Советское радио, 1972. 208 с.

93. Яншин, В.В. Алгоритмы селекции по площади бинарных изображений и их математические модели / Радиотехника и электроника. 1991. - Вып. 11.-е. 2111 - 2115. (Изд. АН СССР).

94. Атаянц, Э.К. Алгоритм отбора эталонных объектов при распознавании по методу ближайшего соседа: Сб. матер-ов 2-й Межд. Конф. «Распознавание 95». - Курск, 1995. - с. 66-68.

95. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д.А. Поспелова. М.: Наука, 1986. - 312 с.

96. Байат, У.Дж. Нечеткие множества, нечеткая алгебра, нечеткая статистика / У.Дж. Байат, А. Кандель. ТИИЭР. Т.66. - 1978. -№12.

97. Заде, JI.A. Размытые множества и их применение в распознавании образов и кластер-анализе. Классификация и кластер / JI.A. Заде. Под ред. Дж. Вэн Райзин. М.: Мир, 1980.

98. Фу, К. Структурные методы в распознавании образов / К Фу. М.: Мир, 1977.319 с.

99. Патрик, Э. Основы теории распознавания образов / Э Патрик, Пер. с англ. под ред. Б.Р. Левина. М.: Сов. радио, 1980. - 408 с.

100. Смирнов, Н.В. Избранные труды по теории вероятностей и математической статистики / Н.В. Смирнов. М.: Наука, 1970. - 351 с.

101. Статистическая классификация, основанная на выборочных распределениях / В.Н. Иголкин, А.Б. Ковригин, А.И. Старшинов и др. Л.: ЛГУ, 1978. - 256 с.

102. Ченцов, Н.Н. Статистические решающие правила и оптимальные выводы / Н.Н. Ченцов. М.: Наука, 1972. - 520 с.

103. Ибрагимов, И.А. Асимптотическая теория оценивания / И.А. Ибрагимов, Р.З. Хасьминский. М.: Наука, 1979. - 528 с.

104. Большее, JI.H. Таблицы математической статистики / JI.H. Большее, Н.В. Смирнов. -М.: Наука, 1983.-416 с.

105. Треногин, В.А. Функциональный анализ: Учебник / В.А. Треногин. М.: ФИЗМАТЛИТ, 2002. - 488 с.

106. Садовничий, В.А. Теория операторов. Учеб. для вузов / В.А. Садовничий. М.: Высш. шк.,1999.-368 с.

107. Авторское свидетельство. 1398622 СССР G01S 13/02. Устройство селекции радиолокационных целей / Н.Н. Бадулин, В.А. Бутько, В.Л. Гулько. Заявлено 18.03.86 г.

108. Авторское свидетельство. 1128211 СССР G01S 13/95. Способ измерения интенсивности дождя и устройство для его реализации / Н.Н. Бадулин, Е.Б. Кулыпенева, В.Н. Татаринов. Заявлено 21.02.84 г.

109. Репин, В.Г. Статистический синтез при априорной неопределенности и адаптация информационных систем / В.Г. Репин, Г.П. Тартаковский. М.: Сов. радио, 1977.

110. Доклады международной конференции «Современная радиолокация», вып.1, Киев,1994.

111. Модели. Алгоритмы. Принятие решений: Сб. статей. — М.: Наука, 1989.

112. Айзерман, М.А. Метод потенциальных функций в теории обучения машин / М.А. Айзерман, Э.М. Браверман, Л.И. Розоноэр. М.: Наука, 1970. - 384 с.

113. Аркадьев, А.Г. Обучение машины классификации объектов / А.Г. Аркадьев, Э.М. Браверман. М.: Наука, 1971. - 192 с.

114. Васильев, В.И. Распознающие системы. Справочник / В.И. Васильев. Киев: Наукова думка, 1983. - 424 с.

115. Галушкин, А.И. Синтез многослойных систем распознавания образов / А.И. Галушкин. М.: Энергия, 1974. - 368 с.

116. Горелик, А.Л. Построение систем распознавания / А.Л. Горелик, В.А. Скрипкин. -М.: Сов. радио, 1974. 224 с.

117. Захаров, Ю.С. Когерентный обнаружитель слабого гармонического сигнала со счетчиком нулевых пересечений / Ю.С. Захаров. Изв. вузов. Сер. Радиоэлектроника, 1975, т. 18 №4, с. 16-19.

118. Ивахненко, А.Г. Системы эвристической самоорганизации в технической кибернетики / А.Г. Ивахненко. Киев: Техника, 1971. - 372 с.

119. Распознавание образов. Исследования живых и автоматических распознающих систем: Пер. с англ. / Под ред. И.Ш. Пинскера. М.: Мир, 1970. - 288 с.

120. Фомин, Я.А. Последовательный алгоритм различения случайных процессов по числу пересечений порогового уровня / Я.А. Фомин. Радиотехника и радиоэлектроника, 1980, т. 25. №5, с. 975-980.

121. Савич, А.В. Оптимизация временных параметров системы распознавания одномерных нормальных совокупностей / А.В. Савич, Я.А. Фомин. Радиотехника, 1984. т. 39, № 11, с. 28-31.

122. Савич, А.В. Оптимизация системы распознавания многомерных нормальных совокупностей / А.В. Савич, Я.А. Фомин. Радиотехника, 1985. т. 40, № 12, с. 8 - 11.

123. Черемисин, О.П. Характеристики обнаружения гауссовых стационарных процессов при многоканальной обработке / О.П. Черемисин. Радиотехника и электроника, 1974, т. 19, №4, с. 843-847.

124. Минский, M. Персептроны: Пер. с англ. / М. Минский, С. Пейперт. Под ред. В.А. Ковалевкого. М.: Мир, 1971.-261 с.

125. Беркинблит, М.Б. Нейронные сети / М.Б. Беркинблит. М.: МИРОС, 1993.

126. Уоссерман, Ф. Нейрокомпьютерная техника / Ф. Уоссерман. М.: Мир, 1992.

127. Омату, С. Нейроуправление и его приложения / С. Омату, М. Халид, Р. Юсоф. -М.: ИПРЖРБ, 2000. 272 с.

128. Галушкин, А.И. Нейрокомпьютеры / А.И. Галушкин. М.: ИПРЖР, 2000. - 532 с.

129. Головко, В:А. Нейронные сети: обучение, организация и применение. Кн. 4: Учеб. пособие для вузов / В.А. Головко. Общая редакция А.И. Галушкина. М.: ИПРЖР, 2001. — 256 с.

130. Головко, В. Интеллектуальная нейронная система для автономного управления мобильным роботом / В. Головко. Труды X научно-технической конференции. Брест: БПИ, 1998.-с. 15-25.

131. Меламед, И.И. Нейронные сети и комбинаторная оптимизация / И.И. Меламед. — Автоматика и телемеханика, 1994, №11. — с. 3 40.

132. Медведев, B.C. Нейронные сети. MATLAB 6 / B.C. Медведев, В.Г. Потемкин. Под общ. ред. к.т.н. В.Г. Потемкина. М.: ДИАЛОГ-МИФИ, 2002. - 496 с.

133. Галушкин, А.И. Теория нейронных сетей. Книга 1.: Учебное пособие для вузов / А.И. Галушкин. М.: ИПРЖР, 2000. - 416 с.

134. Горбань, А.Н. Погрешности в нейронных сетях / А.Н. Горбань, М.Ю. Сенашова. -Красноярск: Вычислительный центр СО РАН в г. Красноярске (Рукопись деп. В ВИНИТИ, 25.07.97, №2509-В97), 1997. 38 с.

135. Грибок, А.В. Нейронные сети и нелинейная обработка сигналов. Диссертация на соискание ученой степени кандидата физико-математических наук / А.В. Грибок. — Обнинск: Физико-Энергетический институт, 1996. 140 с.

136. Рыжаков, В.В. Оптимальное обнаружение радиолокационных целей по поляризационным признакам с применением искусственных нейронных сетей. Сибирский поляризационный семинар СибПол-2004. 7-9 сентября 2004 г. Сургут. Россия. Доклады /

137. В.В. Рыжаков. — Томск: Издательство Томского государственного университета систем управления и радиоэлектроники, 2004. стр. 226 — 232.

138. Lehr, М.А. Widrow В. Ргос. IEEE. 1990, v. 78, № 9.

139. Персептрон система распознавания образов / Под ред. А.Г. Ивахенко. - Киев: Наук. Думка, 1975.

140. Шишов, С.А. Классификаторы на основе нейронных структур / С.А. Шишов. -Зарубежная радиоэлектроника, 1992, № 8.

141. Werbos, Р. Ргос. IEEE, 1990, v. 78, № 10.

142. Parallel Distributed Processing / Ed. By Rummelhart D., Mc. Clelland J., v. 1. -Cambridge MA: MJT Press, 1988.

143. Muller, B. and Reinhardt. Neural Network. Berlin, 1990.

144. Zurada, J. Introduction to artifical Neural Systems. St. Paul, NY. - PWS Publishing Company, 1992. - 785 p.

145. Jouny, L.,Garber E. and Ahalt S. IEEE, 1993, v. AE-29, № 2.

146. Yang, C. and Bhargava, V. IEEE, 1993, v. AE-29, № 4.

147. Годунов, Р.Ю. Нечеткая логика и искусственные нейронные сети: Учебное пособие / Р.Ю. Голунов, М.И. Дли, В.В. Круглов. — М.: Издательство физико-математической литературы, 2001. 224 с.

148. Lipmann, R., An introduction to computing with neural nets / IEEE Acoustic, Speech and Signal Processing Magazine, 1987, № 2, L. 4 22.

149. Скурихин, A.H. Нейронные сети: определения, концепции, применение / А.Н. Скурихин. М.: ЦНИИ управления экономики и информатики, 1991.

150. Нейроматематика. Кн. 6: Учеб. пособие для вузов / А.Д. Агеев, А.Н. Балухто, А.В. Бычков и др.; Общая ред. А.И. Галушкина. М.: ИПЖРТ, 2002. - 448 с.

151. Методы нейроинформатики. Сборник научных трудов / Под общей редакции доктора физико-математических наук А.Н. Горбаня. Отв. за выпуск М.Г. Доррер. КГТУ, Красноярск, 1998. - 205 с.

152. Аведьян, Э.Д. Алгоритмы настройки многослойных нейронных сетей / Автоматика и телемеханика. -1995. -№ 4. с. 106 -118.

153. Нейроматематика / А.Н. Горбань, B.JI. Дунин-Барковский, А.Н. Кирдин и др. -Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с.

154. Сараев, П.В. Использование псевдообращения в задачах обучения искусственных нейронных сетей / П.В. Сараев. — Электронный журнал «Исследовано в Росии». — 2001. — с.308 — 317.

155. Терехов, С. А. Нейросетевые аппроксимации плотности в задачах информационного моделирования / С.А. Терехов. Снежинск: Снеженский физико-технический институт, 2002. - 23 с.

156. Дли, М.И. Интеллектуальные информационные системы: компьютерная поддержка систем нечеткой логики и нечеткого вывода / М.И. Дли, В.В. Круглов. — М.: Издательство физико-математической литературы, 2002. — 256 с.

157. Hopfield, J.J. Neural Networks and Physical systems with emergent collective computational abilities / J.J. Hopfield. Proc. Nat. Sci. USA. 1982. V.79. P. 2554-2558.

158. Итоги науки и техники. Сер. "Физические и математические модели нейронных сетей" / Под ред. А.А. Веденова. М.: Изд-во ВИНИТИ, 1990-92, - Т. 1-5.

159. Муравьев, И.П. Нейронные модели ассоциативной памяти / И.П. Муравьев, А.А. Фролов. М.: Наука, 1987. - 160 с.

160. Фор, А. Восприятие и распознавание образов / А. Фор. М.: Машиностроение, 1989.-272 с.

161. Горбань, А.Н., Россиев Д.А. Нейронные сети на персональном компьютере / А.Н. Горбань, Д.А. Россиев. Новосибирск: Наука (Сиб. отделение), 1996. - 276 с.

162. Айвазян, С.А. Классификация многомерных наблюдений / С.А. Айвазян, З.И. Бежаева, О.В. Староверов. М.: Статистика, 1974. - 240 с.

163. Горбань, А.Н. Обучение нейронных сетей / А.Н. Горбань. М.: Изд. СССР-США СП "Параграф", 1990. - 160 с.

164. Гадзиковский, В.И. Методы цифрового моделирования радиотехнических систем: Учебное пособие / В.И. Гадзиковский. Екатеринбург: УГТУ, 1995, 182 с.

165. Кельтон, В. Имитационное моделирование. Классика CS / Кельтон В., Лоу А. -СПб.: Питер; Киев: Издательская группа BHV, 2004. — 847 с.

166. Вентцель, Е.С. Теория вероятности и ее инженерные приложения. Учеб. пособие для втузов / Е.С. Вентцель, Л.А. Овчаров. М.: Высш. шк., 2000. - 480 с.

167. Горяинов, В.Т. Примеры и задачи по статистической радиотехнике / В.Т. Горяинов, А.Г. Журавлев, В.И. Тихонов. Изд-во «Советское радио», 1970. - 600 с.

168. Самарский, А.А. Теория разностных схем / А.А. Самарский. М.: Наука, 1983.616 с.