автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Синтез нейросетевой системы классификации динамических объектов

На правах рукописи

Бобин Александр Валерианович

СИНТЕЗ НЕЙРОСЕТЕВОЙ СИСТЕМЫ КЛАССИФИКАЦИИ ДИНАМИЧЕСКИХ ОБЪЕКТОВ

Специальность 05.13.01 - Системный анализ, управление и обработка информации (промышленность)

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

I / к|гчГ ли |1

Москва-2011

4840440

Работа выполнена в Московском государственном институте электроники и математики (техническом университете).

Научный руководитель:

Истратов Анатолий Юрьевич,

кандидат технических наук, профессор

Официальные оппоненты:

Татузов Александр Леонидович,

доктор технических наук, профессор

Логовский Алексей Станиславович,

кандидат физико-математических наук

Ведущая организация:

Учреждение Российской академии наук «Вычислительный центр имени A.A. Дородницына РАН»

Защита состоится 29 марта 2011 года в 14:00 на заседании диссертационного совета Д 212.133.01 Московского государственного института электроники и математики (технического университета) по адресу: 10902В, Москва, Б. Трехсвятительский пер., д.З.

С диссертацией можно ознакомиться в библиотеке

Московского государственного института электроники и математики

(технического университета).

Автореферат разослан: 28 февраля 2011 года

Ученый секретарь диссертационного совета кандидат технических наук, доцент

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Задачи классификации объектов являются одними из наиболее распространенных в практических приложениях. Существует множество математических подходов к классификации объектов, описываемых вектором характеристик фиксированной размерности. Тем не менее, классификация динамического объекта (ДО), вектор характеристик которого меняется во времени, существенно усложняется и, как правило, требует разработки специализированного математического аппарата.

Подобная задача возникает в контуре управления зенитными ракетными комплексами (ЗРК) противовоздушной обороны (ПВО) при отражении массированного ракетно-авиационного налета. Создание программной системы распознавания типа летательного аппарата (ЛА), вошедшего в зону действия ЗРК, позволит существенно повысить эффективность работы зенитной системы ПВО, что подтверждает важность и актуальность темы исследования.

Перспективность данного направления подтверждается работами ведущих отечественных и иностранных разработчиков в области проектирования зенитных и авиационных комплексов. К ним относятся специалисты Военной академии противовоздушной обороны Сухопутных войск РФ во главе с Д.Г. Митрофановым и A.B. Сафоновым, специалисты ФГУП «ГосНИИ авиационных систем» во главе с В.В. Слатиным и В.Ф. Грибковым, специалисты американской корпорации Raytheon Company во главе с Leslie М. Novak и Gregory J. Owirka и др.

В последнее время для решения задач классификации активно применяется аппарат искусственных нейронных сетей. Основным достоинством нейросетей является их высокая способность к обобщению: обученная на ограниченном множестве выборочных данных сеть способна вырабатывать ожидаемую реакцию применительно к данным, не участвовавшим в процедуре обучения.

Другое важное свойство нейронных сетей, свидетельствующее об их огромном потенциале и широких прикладных возможностях, состоит в высокой степени распараллеливания вычислительного процесса. Благодаря этой способности при большом количестве межнейронных связей достигается значительное ускорение процесса обработки информации. Во многих ситуациях становится возможной обработка данных в реальном масштабе времени. Эти характерные свойства нейронных сетей позволяют им решать сложные практические задачи, которые на сегодняшний день считаются трудноразрешимыми.

Использование нейросетевого подхода не требует формального математического описания законов изменения состояния классифицируемого объекта, а предполагает наличие представительного набора образцов экспериментальных данных для обучения системы классификации. Нейросетевые системы классификации быстро адаптируются непосредственно к

свойствам имеющихся экспериментальных данных и могут оперативно корректироваться при предъявлении дополнительной информации.

Как правило, использование нейронных сетей обеспечивает следующие важные свойства и возможности вычислительных систем:

- нелинейность;

- адаптивность;

- универсальность одного решения для целого класса подобных задач;

- эффективность программной и аппаратной реализации.

Для решения практических задач с использованием нейросетевой технологии разработано множество универсальных и специализированных программных средств, позволяющих существенно упростить процедуру построения нейросетевых систем обработки данных.

Перспективность применения аппарата искусственных нейронных сетей для решения задач классификации ДО подтверждается работами ведущих исследователей в области нейросетевой обработки информации: B.JI. Дуниным-Барковским (НИИСИ РАН, г. Москва), А.Н. Горбанем (ИВМ СО РАН, г. Красноярск), А.И. Галушкиным (МФТИ, г. Москва), O.A. Мишулиной (МИФИ, г. Москва), С.А. Тереховым (ВНИИТФ, г. Снежинск) и др.

Цель и задачи исследования. Диссертация посвящена разработке нейросетевой системы определения типа JIA, вошедшего в зону действия ЗРК, на основе ограниченного набора дискретных траекторных измерений, содержащих ошибки, адекватные шумам реальной радиолокационной станции (РЛС) обзора.

Достижение поставленной цели предполагает решение следующих задач.

1. Обзор предметной области и формальная математическая постановка задачи классификации J1A по траекторным измерениям.

2. Разработка способа учета пространственно-временной динамики состояния ЛА.

3. Синтез структуры системы классификации ДО по ограниченному набору дискретных измерений и разработка алгоритма ее обучения.

4. Разработка методики оценки степени достоверности принятого системой классификации решения о типе ДО.

5. Разработка методики учета динамики ранее принятых решений о типе распознаваемого ДО.

6. Разработка способа улучшения системы классификации за счет более полного учета динамических свойств траектории движения JIA.

7. Создание специализированного программного обеспечения для проведения экспериментальных исследований.

8. Проведение экспериментов с целью подтверждения состоятельности и эффективности синтезированной системы.

Методы исследования. При решении поставленных задач исследования в работе использовались методы системного анализа, теории динамических систем, теории искусственных нейронных сетей, теории оптимизации, теории управления, теории вероятностей, а также методы статистического анализа данных.

Научная новизна. Основные результаты работы являются новыми и заключаются в следующем.

1. Предложена, теоретически обоснована, реализована и проверена на модельных данных комплексная нейросетевая система классификации ДО по ограниченному набору дискретных наблюдений, полученных с ошибкой. Разработаны соответствующие процедуры обучения и эксплуатации.

2. Предложено, реализовано и исследовано уникальное нейросетевое решение задачи оценки достоверности результатов классификации путем аппроксимации функции достоверности в локальной окрестности наблюдаемых характеристик ДО, а не интегрально на всем пространстве характеристик.

3. Синтезированная нейросетевая система классификации ДО и соответствующие алгоритмы обучения апробированы для решения прикладной задачи распознавания типа ЛА в зоне действия ЗРК по ограниченному набору внешних траекторных измерений, выполненных с ошибками. Предложенный подход является новым и не применялся ранее в задачах распознавания ЛА в зоне действия ЗРК.

4. Проведено множество экспериментов, подтверждающих состоятельность и адекватность разработанных нейросетевых структур и алгоритмов их обучения.

Практическая значимость работы заключается в следующем.

1. Предложенная в работе нейросетевая система классификации ДО по ограниченному набору зашумленных наблюдений может быть использована для решения прикладной задачи распознавания типа ЛА по внешним траекторным измерениям в системе управления ЗРК, что повысит эффективность работы последних.

2. Разработанное в ходе исследования методическое, алгоритмическое и программное обеспечение может быть использовано в учебных курсах по программированию, математическим методам классификации и современным применениям теории искусственных нейронных сетей, что позволит повысить уровень подготовки специалистов.

3. Предложенная система классификации ДО может применяться для решения прикладных задач в других предметных областях, например, в задаче идентификации характера неисправности и ее локализации в сложной технической системе, при диагностике заболеваний и т.п.

Реализация результатов работы. Разработанная в ходе выполнения диссертационной работы нейросетевая система классификации ДО использовалась для решения прикладной задачи, связанной с распознаванием типа ЛА, вошедшего в зону действия ЗРК, во ФГУП «ГосНИИ авиационных систем» (Москва).

Полученные в диссертации результаты использованы в учебном процессе на кафедре «Математическое обеспечение систем обработки информации и управления» МИЭМ (Москва) в рамках дисциплин «Алгоритмические языки и программирование» и «Архитектура ЭВМ».

Использование результатов диссертационной работы и достигнутый при этом эффект подтверждены соответствующими актами внедрения.

Апробация работы. Основные положения диссертации докладывались на следующих конференциях и семинарах:

- VI Международная научно-практическая конференция «Исследование, разработка и применение высоких технологий в промышленности» (Санкт-Петербург, 2008 г.);

- Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ (г. Москва, 2008 г.);

- Международная конференция молодых ученых и специалистов Московского отделения Международной общественной организации «Академия навигации и управления движением», 1 место за лучший доклад, представленный на секции «Обработка информации в навигационных, спутниковых и интегрированных системах» (г. Москва, 2009 г.);

- Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ (г. Москва, 2009 г.);

- IX Международная научно-практическая конференция «Исследование, разработка и применение высоких технологий в промышленности» (г. Санкт-Петербург, 2010 г.);

- XIX Международный научно-технический семинар «Современные технологии в задачах управления, автоматики и обработки информации» (г. Алушта, 2010 г.);

- Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ (г. Москва, 2010 г.).

- Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ (г. Москва, 2011 г.).

Также основные положения диссертации обсуждались на научном семинаре «Управление и устойчивость» под руководством д.т.н., проф. В.Н. Афанасьева.

Результаты научной работы по диссертации вошли в отчеты о НИР:

- «Исследование бинарных моделей знаний для семантических \VEB-

технологт, мультиагентного и нейромоделирования». - М.: МИЭМ, 2005. - инв. № 02200903329;

- «Разработка методов концептуальной спецификации информационно-технологических и нейросетевых систем». - М.: МИЭМ, 2006. -инв. № 02200805602;

- «Разработка методов и языков концептуальной спецификации для Семантического Веба». - М.: МИЭМ, 2007. - инв. № 02200805562;

- «Разработка бинарных моделей знаний с нечеткой логикой для Семантического Веба». - М.: МИЭМ, 2008. - инв. № 02200902792;

- Отчет на спецтему по СЧ НИР «Известняк-КМ». М.: ГосНИИАС, 2009. - инв. № 0-45869.

Основные положения, выносимые на защиту, заключаются в следующем.

1. Система классификации ДО по ограниченному набору зашумленных дискретных наблюдений, которая представляет собой сложный комплекс взаимодействующих многослойных нейронных сетей прямого распространения, где каждая сеть характеризуется простой функциональной задачей, а также соответствующие алгоритмы обучения и эксплуатации синтезированной нейросетевой системы.

2. Методика оценки степени достоверности принятого классификатором решения о типе ДО путем нейросетевой аппроксимации функции достоверности в локальной окрестности текущего наблюдения.

3. Способ учета пространственно-временной динамики траектории движения ЛА в лаговом пространстве.

4. Результаты экспериментов, демонстрирующих состоятельность и высокую обобщающую способность синтезированной нейросетевой системы при распознавании типа ЛА в зоне действия ЗРК.

Публикации результатов. Основные результаты диссертационной работы опубликованы в 15 научных работах, среди которых 2 статьи - в периодических научных изданиях, рекомендованных ВАК России, 8 работ - в материалах научных конференций и семинаров.

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, заключения, библиографического списка и трех приложений. Основная часть работы содержит 130 страниц машинописного текста, включая 28 таблиц, 35 рисунков и перечень использованной литературы из 106 наименований.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы исследования, формулируются цель и решаемые в работе задачи, отмечается научная новизна, теоретическая и практическая ценность работы, приводятся основные положения, выносимые на защиту, описывается структура диссертационной работы.

В первой главе диссертации приводится общая постановка задачи классификации ЛА, оказавшегося в зоне действия ЗРК. Перечисляются типы ЛА, для которых решается задача классификации, описываются источники исходных данных. Формулируется математическая постановка задачи классификации ЛА как ДО, описываемого вектором характеристик фиксированной размерности, меняющимся во времени. Проводится обзор и анализ основных математических подходов к решению данной задачи.

Общая постановка задачи исследования заключается в следующем. Пусть обзорная радиолокационная станция (РЛС), входящая в состав ЗРК, осуществляет автоматическое сопровождение ЛА, вошедшего в зону действия ЗРК, и через фиксированные промежутки дискретного времени выдает информацию о его движении. Предполагается, что полученные от РЛС данные содержат ошибки измерения, причем в разные моменты времени ошибки независимы. Необходимо разработать систему распознавания, способную по небольшому числу дискретных измерений определить тип ЛА, сопровождая принятое решение оценкой степени его достоверности.

С математической точки зрения распознаваемый ЛА представляет собой ДО, описываемый вектором характеристик фиксированной размерности, который меняется во времени, поэтому постановка задачи может быть сформулирована следующим образом.

Пусть ДО описывается вектором характеристик 5(0 фиксированной размерности, который меняется во времени. Значения вектора 5(/) доступны в дискретные моменты времени / = 0, 1,2, ... и содержат ошибки измерений, которые в разные моменты времени независимы. Требуется построить систему обработки данных, которая в каждый момент времени 1, по имеющемуся набору измерений 5/, будет определять наиболее вероятный тип Л(5,) ДО, сопровождая

принятое решение оценкой степени его достоверности Д(5,). Распознаваемые типы ДО априори известны, их число фиксировано и равно N (1<тУ<со). Объекты других типов должны классифицироваться как «неопознанные», чему соответствует ситуация /?(£,) = 0.

Решаемая задача характеризуется следующими особенностями:

- зашумленность, неполнота и противоречивость исходных данных;

- описание исходных данных в виде массивов дискретных измерений;

- практическая неосуществимость перебора всех возможных состояний объектов распознаваемых типов;

- необходимость принятия решения о типе ДО по небольшому числу дискретных измерений;

- необходимость адекватной реакции системы классификации.

Проведенные исследования показали, что распознаваемые классы ДО

трудноразделимы в пространстве исходных данных, области локализации представителей различных классов пересекаются, между ними отсутствует четкая граница. Это существенно затрудняет проведение дискриминантных поверхностей для их разделения.

Анализ множества литературных источников, в том числе монографий, статей, диссертаций, отчетов и других научных работ, показал, что в настоящее время наиболее адекватным условиям и особенностям решаемой задачи является математический аппарат искусственных нейронных сетей (ИНС).

В ходе исследования в качестве основного инструмента для решения задачи классификации ДО выбраны многослойные нейронные сети прямого распространения (МЬР-сети). Дополнительно отмечена и исследована возможность применения отдельных видов динамических нейросетей в некоторых компонентах системы классификации. В частности, исследована возможность использования сетей с сосредоточенной задержкой сигнала (РТЭМ-сетей) для учета динамики входных данных в лаговом пространстве и сетей нелинейной авторегрессии с внешними входами (ИАКХ-сетей) для учета динамики принимаемых решений.

Во второй главе диссертации описывается архитектура МЬР-сети, выбранной в качестве базового конструктивного элемента системы. Рассматриваются, анализируются и сравниваются различные методы обучения сетей такого класса. Приводится описание динамических нейронных сетей типа ИТОИ и ИАЯХ, рассматриваются особенности обучения и практического применения сетей данных видов.

Обосновывается целесообразность применения алгоритма Левенберга-Маркардта для обучения выбранного класса сетей для разработки комплексной системы классификации.

Так как классическая МЬР-сеть не имеет никаких встроенных средств учета пространственно-временной динамики состояния классифицируемого ею объекта, предлагается в качестве расширения использовать многослойные сети с линиями задержки сигнала (РТБЫ-сеть) и с обратной связью (ЫАЛХ-сеть).

Третья глава диссертации посвящена синтезу нейросетевой системы классификации ДО. Описывается способ генерации исходных данных, методика внесения в них ошибок измерений, соответствующих шумам реальной РЛС. На основе анализа сгенерированных наборов данных формируется пространство информативных признаков.

Предлагается структура системы классификации ДО по ограниченному набору зашумленных измерений, которая представляет собой сложный комплекс взаимодействующих между собой МЬР-сетей, где каждая нейросеть характеризуется простой функциональной задачей. Описывается алгоритм обучения такой сложной системы. Вводятся показатели качества работы системы.

Синтезируемая нейросетевая система классификации ДО должна удовлетворять следующим основным требованиям:

- в момент принятия очередного решения о типе распознаваемого объекта система классификации должна учитывать пространственно-временную динамику вектора входных данных

- для обеспечения устойчивости окончательного решения о типе объекта относительно случайных воздействий (ошибки входных данных, неполнота обучающей выборки и т.п.) система должна обладать встроенными средствами учета динамики принятия решений;

- расширение системы на новые типы распознаваемых объектов должно производиться без ее радикальной перестройки;

- процедура принятия решений должна занимать как можно меньше времени, поэтому целесообразно использование различных способов распараллеливания вычислительного процесса.

В качестве первоосновы для системы классификации предлагается разработать персональные классификаторы для объектов каждого типа. Это позволит расширять систему при учете новых типов ДО без ее радикальной перестройки. Каждый классификатор должен оценивать степень своей уверенности в том, что распознаваемый ДО принадлежит к типу, соответствующему этому классификатору. Все персональные классификаторы синхронно обрабатывают один и тот же набор входных данных. Ответы персональных классификаторов поступают в соревновательный блок, который выбирает среди них победителя.

Далее предлагается разработать блок для оценки достоверности полученного решения, который вычисляет оценку вероятности того, что полученное решение оказалось верным. Для каждого возможного решения целесообразно иметь отдельный блок оценки достоверности. Это позволит легко расширять систему на новые типы ДО.

Для принятия окончательного решения предлагается разработать блок, который осуществляет накопление и осреднение предыдущих результатов. Затем осредненные результаты поступают в соревновательный блок, который вырабатывает окончательное решение о типе ДО.

По результатам исследования разработана нейросетевая система классификации ДО, которая удовлетворяет перечисленным требованиям

(рис. 1). Процедура классификации состоит из трех последовательно выполняемых шагов.

Рис.1. Структура системы классификации ДО

На первом шаге блок Fi локальной во времени классификации (рис. 1) формирует локальное решение r(S) о типе ДО на основе значения вектора признаков S(t) в текущий момент времени.

На втором шаге локальное решение r(S) совместно с текущим значением вектора S(t) поступает в блок F2 оценки достоверности локального решения. На выходе блок Fi формирует аппроксимированную оценку 5(S) достоверности решения r(S) в локальной окрестности текущего значения вектора S(t).

На третьем шаге локальное решение r(S) совместно с оценкой 6(S) его достоверности поступает на вход блока F3 интегральной классификации, который принимает окончательное решение R(S) о типе ДО, а также вычисляет степень достоверности А(5) решения R(S).

Блок Fi локальной классификации (рис. 2) содержит набор параллельно функционирующих локальных по времени и по типу классификаторов G„ ;'= 1 ,...,N, классификатор G и логический блок L\. Каждый классификатор G, представляет собой MLP-сеть и обучается распознаванию представителей /-го типа. Другими словами, каждый из классификаторов G, осуществляет распознавание «тип i против всех».

В связи с неточностью значений компонентов в векторе S, а также с возможностью расположения вектора S в пространстве признаков вблизи границы классов, классификаторы G, могут не дать однозначного ответа о принадлежности вектора S определенному типу. Для устранения этой возможной неопределенности используется дополнительный классификатор G (рис. 2), который также построен на базе MLP-сети и принимает на вход значения g,(S), i=l,...,N. Классификатор G обучается воспроизведению значения, равного номеру типа объекта, согласно следующему выражению: g(S) = <p(gi(S),g2(S),...,gN(S)')= /, если S соответствует объекту типа /. (1)

Для дискретизации выхода классификатора G используется логический блок L\. В этом блоке проверяется набор неравенств

!,§-(£)-¿|< в,/=1, ...,7V, (2)

где е е (0; 1) - порог, определяемый экспериментально. Если для некоторого значения i выполняется соответствующее неравенство, то принимается решение о принадлежности вектора S{t) объекту типа /': r(S) = i. Если ни для одного значения i неравенства (2) не выполняются, то, принимается решение в пользу неопознанного объекта: r(S) = 0.

Блок F2 оценки достоверности локального решения (рис. 3) состоит из переключателя Кх и набора локальных аппроксиматоров А„ i= 1,..., N, каждый из которых аппроксимирует значение условной вероятности q„• того, что принятое локальное решение r(S) = / окажется истинным.

Рис. 3. Структура блока Fi оценки достоверности локального решения

На вход аппроксиматора Аг поступает текущее значение вектора S(t), на выходе получается оценка достоверности qrr принятого локального решения r(S). Переключатель А', выбирает аппроксиматор Аг, который следует запустить для оценки достоверности решения r(S). Таким образом, выход блока F2 описывается выражением

= (3)

/=1

где V, г - символ Кронекера.

Каждый аппроксиматор А, представляет собой MLP-сеть. Исходными данными для обучения блоков At является множество оценок q„(S) вероятности q,у в различных областях пространства признаков. Для вычисления этих оценок множество возможных значений вектора S{t) для всех распознаваемых типов объектов разбивается на несколько непересекающихся кластеров с помощью алгоритма ¿-средних. Затем для каждого кластера вычисляются значения оценок

Ча = '= 1.....W,

где и, - количество представителей объектов типа / в текущем кластере, а w„ -количество представителей среди и/, для которых блок F\ принял верное решение.

Полученные оценки условных вероятностей qu приписываются центру кластера и в совокупности по всем кластерам выступают в роли цели обучения аппроксиматоров А,. Входными данными для обучения аппроксиматоров являются значения вектора S{t), соответствующие центрам кластеров.

Важной особенностью предложенного алгоритма является то, что оценка достоверности осуществляется не интегрально на всем пространстве признаков, а в локальной окрестности текущего значения вектора S{t).

Блок F3 интегральной классификации (рис. 4) служит для учета динамики локальных решений r(S) в предшествующие моменты времени и добавляет некоторую инерционность процессу принятия окончательных решений. Это снижает «дребезг» окончательного решения при попадании вектора S(t) на границу классов и повышает устойчивость окончательного решения о типе объекта относительно ошибок измерений вектора S(t).

r(S)

Рис. 4. Структура блока F3 интегральной классификации

В блоке F) происходит осреднение в «скользящем окне» ширины М локальных оценок достоверности qih полученных в предшествующие моменты времени. Для этого в блоке содержатся N накопителей. При поступлении новых данных переключатель К2 выбирает нужный накопитель и добавляет в него текущее значение 5(S) = qrr, в остальные накопители добавляется значение О, т.е.

P,,'9„,V!ir'?„.....•<?„/,

где r - символ Кронекера.

Затем вычисляются средние оценки достоверности в каждом накопителе:

1' k

(/„' = TT Г/),/=1,...,ЛГ,

м i£M

где tk - текущий момент времени; I = k-M, ..., ¿-1 - предшествующие моменты времени; М-ширина «скользящего окна».

Полученный вектор из осредненных оценок (qn , ..., qm) поступает на вход финального классификатора Q, который обучается воспроизводить номер типа объекта аналогично (1). Выход классификатора Q дискретизируется в логическом блоке ¿2 по формулам, аналогичным (2). Полученное после работы блока ¿2 окончательное решение о типе объекта поступает в

переключатель который определяет оценку достоверности окончательного решения по правилу

ACS') = q*, если R(S) = /, / = 1,..., N.

Траектория движения J1A с точки зрения сопровождающей его РЛС представляет собой последовательность точек. Информационной основой для построения системы классификации ЛА по ограниченному набору внешних траекторных измерений является множество характерных траекторий движения ЛА распознаваемых типов, отражающих многообразие условий пуска и динамику состояния ЛА во времени. Эти данные могут быть получены на математических моделях, на стендах полунатурного моделирования, в результате непосредственных наблюдений в ходе полигонных испытаний или во время боевых действий.

Естественное требование инвариантности решения системы о типе распознаваемого ЛА относительно азимутального положения траектории его движения обусловило выбор системы координат (рис. 5). Центр прямоугольной системы координат совмещен с положением РЛС. Вертикальная плоскость XOZ содержит точку обнаружения ЛА. Ось ОХ расположена в горизонтальной плоскости и направлена в сторону точки обнаружения, ось OZ направлена вертикально вверх, горизонтальная ось OY образует с двумя другими правую систему координат (рис. 5).

Текущее положение

Точка обнаружения

Горизонтальная проекция Рис.5. Система координат для представления информативных признаков

В условиях поставленной задачи вектор признаков в каждый момент времени должен отражать не только текущее состояние ЛА, но и пространственно-временную динамику траектории его движения на всем участке наблюдения. Для этого все признаки предлагается разделить на две группы: мгновенные признаки, которые описывают текущее состояние ЛА, и интегральные признаки, которые описывают динамические свойства траектории его движения.

В ходе исследования были выявлены следующие мгновенные признаки:

- координаты х{1),у{I), г(/) текущего положения объекта;

- скоростные характеристики Уу{(), К(/);

- характеристики ускорения а,(?), аД/), дг(/) и а{1).

Большинство современных РЛС вычисляют скорости и ускорения аппаратно с использованием сглаживающих и экстраполирующих фильтров. Тем не менее, предполагается, что исходными данными являются только мгновенные значения х{(),у{/), г(/). Остальные признаки вычисляются на основе данных нескольких последовательных измерений следующим образом (рис. 6):

ад = , = ЖЬЖ-,), ^ = г&Ь*,.,)

I, -I,

-1

м

Ух(1,)-Ух(!<-0

1,-1,

/-1

1,-1,.

> о2 (?,•) =

1-1

где I, - текущий момент дискретного времени; - предыдущий момент дискретного времени. Строго говоря, описанные величины являются не

точными значениями соответствующих характеристик, а их оценками в предположении слабой вариабельности траектории.

Текущее положение

Рис. 6. Информативные признаки

Для улучшения качества распознавания предлагается к мгновенным добавить следующие интегральные признаки:

- максимальные значения Ухтах(1), У/ш0), Гтх{() скоростных характеристик, зафиксированные на участке наблюдения;

- максимальные значения а"'"х(1), а)т'х(1), а"'ах((), аш'х(!) характеристик ускорения, зафиксированные на участке наблюдения;

- значение интегрального показателя пространственного маневра М^,

- значение интегрального показателя маневра Мху в горизонтальной плоскости.

Интегральный показатель пространственного маневра Мху. описывает величину отклонения траектории движения объекта на участке наблюдения от прямолинейной (рис. 6). Он представляет собой сумму квадратов отклонений в моменты наблюдения от прямой линии, соединяющей точку обнаружения с точкой текущего положения объекта, и вычисляется по формулам

мхп ак>Щ ъ? ак), ъ, ок >= >

/ = )- ,х(10 У)2 + (у0,)- у(!о ))2 + )- --('о ))2 , Я = ^(х(!к)- х(10 ))2 + (у«к)- у(!0 ))2 + (=(!к)- ;(!0 ))2,

И = )- х(!к ))2 + О(?,)- у(!к ))2 + (--(/,)- ;(1к ))2,

где - текущий момент времени; (,, 1 = 1,..., к-1 - предшествующие моменты времени; Г0 - момент обнаружения объекта; Ь,{!к) - длина перпендикуляра, опущенного из точки положения объекта в один из предшествующих моментов времени // на прямую, соединяющую точку обнаружения объекта с точкой его положения в текущий момент времени 1к.

Интегральный показатель маневра Мху описывает отклонение проекции траектории движения объекта на горизонтальную плоскость от прямолинейной и вычисляется аналогично.

Остальные интегральные признаки вычисляются по следующим формулам:

Vхтт (h )= max Vx (l,), K,max (tk )= шах V (t,), Fzmax (/*)= max V. (t,),

i<k ' i<k ' i<k

max /. \ /. ч max ,. ч ,, ■. max ,. \ ч

ax (lk)=maxax (I,), a Qk ) = max a (/,), a2 (tk)= maxaz(i,J,

i<k ' i<k ' i<k

Fmax(/t)= max V(t,), атах(^)= maxa(/, ),

i<i /si

где tk - текущий момент времени; t, - предшествующие моменты времени.

Таким образом, для дальнейшего исследования предлагается использовать вектор признаков S(l), содержащий 21 компоненту:

ВД = (

x{t),y(t), z{t\ Vx(t), vy(t), Vit), V{t), ax{t), ay(t), az(t), a{t), Vr\t), Vyma\t), vr\t), Гаг(/), ax"'a\t), a;mx{t), a"'ax(t), ama\t), (4) Mxy:(l), Mxy{t) )■

В четвертой главе диссертации демонстрируется практическое применение разработанной нейросетевой системы для решения прикладной задачи классификации JIA, вошедшего в зону действия ЗРК. Подробно описываются процедуры генерации исходных данных и настройки системы. Экспериментально подтверждается свойство устойчивости к ошибкам и высокая обобщающая способность разработанной нейросетевой системы.

В ходе экспериментальных исследований распознаются ЛА семи различных типов. Каждая траектория описывается 15 начальными измерениями РЛС. Все используемые выборки являются независимыми и содержат по 1000 траекторий каждого типа. Таким образом, использованные для оценки характеристик системы классификации выборки содержат по 15 ООО примеров.

В табл. 1 продемонстрированы результаты тестирования блока локальной классификации F\ (рис. 2) на независимой тестовой выборке при заданном уровне ошибок измерений, соответствующих шумам реальной РЛС. В строках таблицы приведены принятые локальным классификатором Fx решения для разных типов объектов, указанных в первом столбце. В каждой ячейке таблицы указана доля примеров среди отнесенных классификатором к типу которые на самом деле относятся к типу j.

Табл.1. Результаты тестирования блока

Принятое решение

Тип 1 Тип 2 Тип 3 Тип 4 Тип 5 Тип 6 Тип 7 Н/О

Реальный тип Тип 1 0,40 0,26 0,09 0,12 0,06 0,05 0,03 0,21

Тип 2 0,25 0,38 0,11 0,14 0,07 0,03 0,04 0,17

Тип 3 0,15 0,13 0,41 0,27 0,06 0,04 0,04 0,20

Тип 4 0,12 0,14 0,29 0,38 0,07 0,06 0,02 0,19

Тип 5 0,08 0,09 0,10 0,09 0,74 0,01 0,00 0,12

Тип 6 0,00 0,00 0,00 0,00 0,00 0,81 0,00 0,05

Тип 7 0,00 0,00 0,00 0,00 0,00 0,00 0,87 0,06

Необходимо отметить, что объекты типа 1 и 2 имеют одну физическую природу, поэтому при практическом применении системы классификации не всегда требуется различать эти типы. Аналогичная ситуация сложилась с объектами типа 3 и 4.

Информативным показателем качества работы системы классификации является доля правильно распознанных траекторий конкретного типа в фиксированный момент времени. Определение типа каждой траектории осуществляется по следующему правилу: если среди последних пяти измерений в трех случаях принято решение в пользу типа г, то всей траектории присваивается тип Если ни для одного типа указанный критерий не выполняется, то траектория помечается как нераспознанная. Табл. 2 иллюстрирует значения этих показателей для каждого распознаваемого типа на данных независимой тестовой выборки на 15-м измерении, т.е. в конце рассматриваемого участка траектории.

Табл.2. Доля правильно распознанных траекторий на 15-м измерении

Типы траекторий

Тип 1 Тип 2 Тип 3 Тип 4 Тип 5 Тип 6 Тип 7

0,66 0,68 0,67 0,65 0,79 0,97 0,99

Необычно высокие значения показателей по типам 6 и 7 объясняются тем, что ЛА этих типов по своим физическим свойствам существенно отличаются от ЛА других рассматриваемых типов и друг от друга, поэтому практически на первых же наблюдениях они хорошо распознаются системой.

Расширение системы классификации путем введения нейронных сетей с сосредоточенной задержкой сигнала по времени и сетей нелинейной авторегрессии с внешними входами существенного улучшения не дало.

Полные результаты экспериментальных исследований отражены в тексте работы в 25 таблицах и демонстрируют высокое качество работы предложенной системы классификации ЛА.

В заключении приводятся основные научные и практические результаты, полученные в диссертационной работе.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ ДИССЕРТАЦИОННОЙ РАБОТЫ

]. Разработана неросетевая система классификации ДО, представляющая собой сложный комплекс отдельных многослойных нейронных сетей прямого распространения, взаимодействующих между собой. Каждая сеть характеризуется простой функциональной задачей, что облегчает анализ и интерпретацию результатов работы системы.

2. Разработана методика оценки достоверности принятого системой классификации решения о типе распознаваемого ДО путем аппроксимации функции достоверности в локальной окрестности текущего значения вектора признаков.

3. Предложено решение прикладной задачи классификации ЛА, вошедшего в зону действия ЗРК, по ограниченному набору внешних траекторных измерений с учетом заложенных в них ошибок.

4. Реализован программный комплекс для проведения экспериментальных исследований.

5. Проведено большое количество экспериментов, подтверждающих эффективность и высокую обобщающую способность синтезированной системы классификации.

ОСНОВНЫЕ ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Бобин A.B., Мишулина O.A., Слатин A.B. Нейросетевой классификатор модульной архитектуры для распознавания типа воздушной цели // Нейрокомпьютеры: разработка и применение. - М.: Радиотехника, 2010.-№ 11 -С. 53 -62.

2. Бобин A.B. Применение многослойной нейронной сети с линией задержки для классификации воздушного объекта // Вопросы оборонной техники. Серия 9. - М.: НТЦ «Информтехника», 2010. -№ 3 - 4 - С. 39-44.

3. Бобин A.B., Мишулина O.A. Распознавание типа воздушной цели по траекторным измерениям с помощью аппарата искусственных нейронных сетей // Высокие технологии, исследования, промышленность. Т. 4.: сборник трудов Девятой международной научно-практической конференции «Исследование, разработка и применение высоких технологий в промышленности». - СПб.: Изд-во Политехи, ун-та, 2010. - С. 190 - 192.

4. Бобин A.B., Мишулина O.A. Применение нейросетевой NARX-модели для распознавания типа динамического объекта в темпе поступления информации // Современные технологии в задачах управления, автоматики и обработки информации: Труды XIX Международного научно-технического семинара. - М.: Издательский дом МЭИ, 2010. -С.99.

5. Бобин A.B., Истратов А.Ю. Разработка нейросетевой системы автоматической рубрикации текстовых документов // Высокие технологии, исследования, промышленность.: сборник трудов Шестой международной научно-практической конференции «Исследование, разработка и применение высоких технологий в промышленности». -СПб.: Изд-во Политехи, ун-та, 2008. - С. 73 - 76.

6. Бобин A.B., Истратов А.Ю., Путилов Г.П. Нейросетевой классификатор начальных форм слов в текстовой информации // Новые информационные технологии в автоматизированных системах: материалы одиннадцатого научно-практического семинара. - М.: МИЭМ, 2008. - С.49 - 52.

7. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Исследование бинарных моделей знаний для семантических WEB-технологий, мультиагентного и нейромоделирования: отчет о НИР. - М.: МИЭМ, 2005. -№ гос.рег. 01200502482, инв. № 02200903329.

8. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Разработка методов концептуальной спецификации информационно-технологических и нейросетевых систем: отчет о НИР. - М.: МИЭМ, 2006. -№ гос.рег. 01200602101, инв. № 02200805602.

9. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Разработка методов и языков концептуальной спецификации для Семантического Веба: отчет о НИР. - М.: МИЭМ, 2007. - № гос.рег. 01200701846, инв. № 02200805562.

10. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Разработка бинарных моделей знаний с нечеткой логикой для Семантического Веба: отчет о НИР. - М.: МИЭМ, 2008. - № гос.рег. 01200801976, инв. № 02200902792.

11. Бобин A.B. и др. Отчет на спецтему по СЧ НИР «Известняк-КМ».-М.: ГосНИИАС, 2009. - инв.№ 0-45869.

12. Бобин A.B. Распознавание начальных форм слов на основе двухслойного персептрона // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. - М.: МИЭМ, 2008.

13. Бобин A.B. Разработка модели РЛС в составе автоматизированной системы анализа эффективности функционирования системы ПВО // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. - М.: МИЭМ, 2009.

14. Бобин A.B. Исследование возможности применения нейронных сетей для распознавания типа воздушной цели // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. - М.: МИЭМ, 2010.

15. Бобин A.B. Применение динамических нейронных сетей для определения типа летательного аппарата // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. - М.: МИЭМ, 2011.

Подписано в печать:27.02.11

Объем: 1,5 усл.п.л. Тираж: 120 экз. Заказ № 335 Отпечатано в типографии «Реглет» 119526, г. Москва, пр-т Вернадского,39 (495) 363-78-90; www.reglet.ru

ОГЛАВЛЕНИЕ.

СПИСОК ИСПОЛЬЗОВАННЫХ СОКРАЩЕНИЙ.

ВВЕДЕНИЕ.

ГЛАВА 1. ОБЗОР И АНАЛИЗ ПРЕДМЕТНОЙ ОБЛАСТИ.

1.1. Постановка задачи исследования.

1.1.1. Принцип получения внешней информации в ЗРК.

1.1.2. Общая постановка задачи.

1.1.3. Летательный аппарат как динамическая система.

1.1.4. Математическая постановка задачи.

1.2. Обзор и анализ основных подходов к решению задачи.

1.2.1. Особенности решаемой задачи.

1.2.2. Общий подход к решению задачи классификации.

1.2.3. Анализ основных математических подходов.

1.3. Анализ основных нейросетевых парадигм.

1.3.1. Классификация основных нейросетевых парадигм.

1.3.2. Структура и принцип действия искусственного нейрона.

1.3.3. Многослойные сети прямого распространения.

1.3.4. Сети прямого распространения с сосредоточенной задержкой по времени.

1.3.5. Сети прямого распространения с распределённой задержкой времени

1.3.6. Сети нелинейной авторегрессии с внешними входами.

1.3.7. Радиально-базисные сети.

1.3.8. Результаты анализа возможности применения рассмотренных нейросетевых архитектур для решения задачи классификации ДО.

Выводы по главе 1.

ГЛАВА 2. ПРИМЕНЕНИЕ НЕЙРОННЫХ СЕТЕЙ ПРЯМОГО РАСПРОСТРАНЕНИЯ ДЛЯ КЛАССИФИКАЦИИ ДИНАМИЧЕСКОГО

ОБЪЕКТА.

2.1. Многослойные персептроны.

2.1.1. Структура МЬР-сети.

2.1.2. Алгоритм обратного распространения ошибки.

2.1.3. Режимы обучения МЬР-сети.

2.1.4. Общий подход к использованию градиентных методов оптимизации.

2.1.5. Обучение МЬР-сети по алгоритму наискорейшего спуска.

2.1.6. Обучение по алгоритму переменной метрики.

2.1.7. Использование алгоритма Левенберга-Марквардта.

2.1.8. Обучение больших сетей по алгоритму сопряжённых градиентов.

2.2. Динамические КТБГЧ-сети.

2.3. Динамические NARX-ceти.

2.3.1. Структура КАЮС-сети.

2.3.2. Алгоритм обучения КАЮС-сети.

2.3.3. Вычисление коэффициента скорости обучения.

2.3.4. Использование усилителя сигнала.

Выводы по главе 2.

ГЛАВА 3. СИНТЕЗ СИСТЕМЫ КЛАССИФИКАЦИИ ДИНАМИЧЕСКИХ ОБЪЕКТОВ.

3.1. Генерация исходных данных для построения классификатора.

3.1.1. Входное пространство признаков.

3.1.2. Источники исходных данных.

3.1.3. Ошибки измерения координат.

3.2. Формирование пространства признаков.

3.2.1. Выбор системы координат для описания информативных признаков.

3.2.2. Выбор информативных признаков.

3.2.3. Итоговый вектор признаков.

3.3. Синтез структуры системы классификации.

3.3.1. Процедура принятия решения о типе объекта.

3.3.2. Структура системы классификации.

3.3.3. Блок локальной во времени классификации.

3.3.4. Оценка достоверности локального решения.

3.3.5. Учёт динамики локальных решений.

3.4. Алгоритм обучения системы классификации.

3.5. Выбор показателей качества работы классификатора.

3.5.1. Классификация показателей качества работы системы.

3.5.2. Показатели качества поточечной классификации.

3.5.3. Показатели качества кластеризации входных данных.

3.5.4. Показатели качества потраекторной классификации.

3.6. Применение динамической РТБ1Ч-сети в блоке локальной классификации.

3.7. Учёт динамики входных данных с помощью NARX-ceти.

Выводы по главе 3.

ГЛАВА 4. ЭКСПЕРИМЕНТАЛЬНЫЕ ИССЛЕДОВАНИЯ РАЗРАБОТАННОЙ СИСТЕМЫ.

4.1. Подготовка системы классификации и модельных данных.

4.1.1. Формирование идеальных модельных данных.

4.1.2. Генерация входных данных для настройки и тестирования системы.

4.1.3. Подготовка классификаторов и методика тестирования.

4.2. Исследование блока локальной классификации.

4.2.1. Исследование динамики доли правильно распознанных примеров для слабого и нормального уровней шума.

4.2.2. Исследование динамики доли правильно распознанных примеров для сильного шума.

4.2.3. Исследование динамики доли ошибок классификации первого рода.

4.2.4. Исследование динамики доли ошибок классификации второго рода.

4.3. Исследование блока оценки достоверности локального решения.

4.4. Исследование блока учёта динамики локального решения.

4.4.1. Демонстрация эффекта от использования блока учёта динамики локальных решений.

4.4.2. Анализ качества работы системы на отдельных «временных срезах».

4.5. Исследование возможностей модификации базовой структуры.

4.5.1. Анализ результатов введения в систему FTDN-сетей.

4.5.2. Анализ результатов введения в систему NARX-сети.

4.6. Параметры разработанной системы классификации.

4.7. Выводы по главе 4.

Актуальность темы. Задачи распознавания образов являются одними из наиболее распространённых в современных практических приложениях. Существует множество математических подходов к распознаванию объектов, описываемых вектором характеристик фиксированной размерности [4, 11, 34, 40, 57, 83, 84, 89, 105]. Однако, задача классификации динамического объекта (ДО), вектор характеристик которого меняется во времени, существенно усложняется и в большинстве случаев требует разработки специализированного математического аппарата [38, 29, 41, 44, 45].

В последнее время для решения задач классификации активно применяется аппарат искусственных нейронных сетей [28, 29, 40, 51, 63, 68, 84]. Основным достоинством нейронных сетей является их универсальная способность к обобщению: обученная на ограниченном множестве выборочных данных нейронная сеть способна вырабатывать ожидаемую реакцию применительно к данным, не участвовавшим в процедуре обучения. Другое важное свойство нейронных сетей, свидетельствующее об их огромном потенциале и широких прикладных возможностях, состоит в высокой степени распараллеливания вычислительного процесса. Благодаря этой способности при большом количестве межнейронных связей достигается значительное ускорение процесса обработки информации. Во многих ситуациях становится возможной обработка данных в реальном масштабе времени [63]. Эти характерные свойства нейронных сетей позволяют им решать сложные практические задачи, которые на сегодняшний день считаются трудноразрешимыми.

Использование нейросетевого подхода не требует формального математического описания законов изменения состояния классифицируемого ДО, а предполагает наличие представительного набора образцов экспериментальных данных для обучения системы классификации. Нейросетевая система классификации адаптируется непосредственно к свойствам имеющихся экспериментальных данных и может оперативно корректироваться при предъявлении дополнительной информации.

Как правило, использование нейронных сетей обеспечивает следующие важные свойства и возможности вычислительных систем:

- нелинейность;

- адаптивность;

- универсальность одного решения для целого класса подобных задач;

- эффективность программной и аппаратной реализации.

Для решения практических задач с использованием нейросетевой технологии разработано множество универсальных и специализированных программных средств, позволяющих существенно упростить процедуру построения нейросетевых систем обработки данных. Среди них можно выделить среду инженерных расчётов MATLAB фирмы MathWorks, пакет STATISTICA Neural Networks фирмы StatSoft, более специализированные пакеты и библиотеки: Neuro Modeler, NeuroPro, Neuro Office, FANN и др.

Актуальность применения аппарата искусственных нейронных сетей для решения задач классификации ДО подтверждается работами B.JI. Дунина-Барковского, А.Н. Горбаня, А.И. Галушкина, O.A. Мишулиной, С.А. Терехова и других отечественных и зарубежных исследователей.

Определение типа летательного аппарата (JIA) по ограниченному числу дискретных измерений также относится к задачам классификации ДО. Подобная задача возникает в системе управления зенитными ракетными комплексами (ЗРК) противовоздушной обороны при отражении массированного ракетно-авиационного налёта [9, 34, 40, 57].

Разработка системы распознавания типа JIA в зоне действия ЗРК позволит существенно повысить эффективность работы зенитных систем, что подтверждает важность и актуальность темы исследования.

Объектом исследования являются нелинейные динамические системы, состояние которых описывается вектором характеристик фиксированной размерности, меняющимся во времени. Информация о состоянии динамической системы поступает в дискретные моменты времени и содержит ошибки.

Предметом исследования являются методы классификации ДО по ограниченному набору дискретных наблюдений с помощью аппарата искусственных нейронных сетей (ИНС).

Цель и задачи исследования. Диссертация посвящена разработке нейросетевой системы определения типа (классификации) ДО на основе ограниченного набора дискретных наблюдений, содержащих ошибки измерения параметров ДО, и выработке методических рекомендаций по её практическому применению при решении прикладной задачи распознавания типа ЛА в зоне действия ЗРК по его внешним траекторным измерениям.

Достижение поставленной цели исследования предполагает решение следующих основных задач исследования.

1. Формальное описание класса ДО, для которых решается задача классификации.

2. Синтез структуры системы классификации ДО по ограниченному набору дискретных измерений и разработка соответствующих алгоритмов обучения.

3. Разработка методики оценки степени достоверности принятого системой классификации решения о типе ДО.

4. Разработка методики учёта динамики ранее принятых решений о типе ДО.

5. Применение системы классификации предложенной структуры для решения прикладной задачи распознавания типа ЛА в зоне действия ЗРК.

6. Создание специализированного программного обеспечения для проведения исследований системы классификации и разработанных алгоритмов её обучения.

7. Проведение экспериментальных исследований системы классификации ДО.

Методы исследования. При решении поставленных задач исследования в работе использовались методы системного анализа, теории динамических систем, теории искусственных нейронных сетей, теории оптимизации, теории управления, теории вероятностей, а также методы статистического анализа данных.

Научная новизна. Основные результаты работы являются новыми и заключаются в следующем.

1. Предложена, теоретически обоснована, реализована и проверена на модельных данных структура комплексной нейросетевой системы классификации ДО по ограниченному набору дискретных наблюдений, полученных с ошибкой. Разработана соответствующая процедура обучения и применения системы.

2. Предложено, реализовано и исследовано уникальное нейросетевое решение задачи оценки достоверности результатов классификации путём аппроксимации функции достоверности в локальной окрестности наблюдаемых характеристик ДО, а не интегрально на всём пространстве характеристик.

3. Синтезированная структура нейросетевой системы классификации ДО и соответствующий алгоритм обучения применён для решения прикладной задачи распознавания типа ЛА в зоне действия ЗРК по ограниченному набору внешних траекторных измерений, выполненных с ошибками. Предложенный подход является новым и при решении подобных задач ранее не применялся.

4. Проведено множество экспериментов, подтверждающих состоятельность и адекватность разработанной нейросетевой системы и алгоритма её обучения.

5. Исследованы и проанализированы перспективы расширения предложенной системы за счёт введения нейросетевых блоков с сосредоточенной задержкой сигнала по времени и динамической сети нелинейной авторегрессии с внешними входами.

Практическая значимость работы заключается в следующем.

1. Предложенная в работе нейросетевая система классификации ДО по ограниченному набору зашумлённых наблюдений может быть использована для решения прикладной задачи распознавания типа ЛА по внешним траекторным измерениям в системе управления ЗРК, что повысит эффективность их работы.

2. Разработанное в ходе исследования методическое, алгоритмическое и программное обеспечение может быть использовано в учебных курсах по программированию, математическим методам классификации, нейроинформатике и современным технологическим аспектам теории искусственных нейронных сетей, что позволит повысить уровень подготовки специалистов.

3. Предложенная система классификации ДО может применяться для решения прикладных задач в других предметных областях, например, в задаче идентификации характера неисправности и её локализации в сложной технической системе и т.п.

Реализация результатов работы. Синтезированная в ходе выполнения диссертационной работы нейросетевая система классификации ДО, использовалась для решения прикладных задач, связанных с распознаванием типа ЛА в зоне действия ЗРК во ФГУП «ГосНИИ авиационных систем» (Москва).

Полученные в диссертации результаты используются в учебном процессе кафедры МОСОИиУ МИЭМ (Москва).

Использование результатов диссертационной работы и достигнутый при этом эффект подтверждены соответствующими актами внедрения (см. прил. 1 и 2).

Апробация работы. Основные положения диссертации докладывались на следующих международных конференциях и семинарах:

- VI Международная научно-практическая конференция «Исследование, разработка и применение высоких технологий в промышленности» (г. Санкт-Петербург, 2008 г.);

- Международная конференция молодых учёных и специалистов Московского отделения Международной общественной организации «Академия навигации и управления движением», 1 место (прил. 3) за лучший доклад, представленный на секции «Обработка информации в навигационных, спутниковых и интегрированных системах» (г. Москва, 2009 г.);

- IX Международная научно-практическая конференция «Исследование, разработка и применение высоких технологий в промышленности» (г. Санкт-Петербург, 2010 г.);

- XIX Международный научно-технический семинар «Современные технологии в задачах управления, автоматики и обработки информации» (г. Алушта, 2010 г.).

Также основные положения диссертации обсуждались на конференциях студентов, аспирантов и молодых специалистов МИЭМ в 2008-2011 гг. и на научном семинаре «Управление и устойчивость» под руководством д.т.н., проф. В.Н. Афанасьева.

Результаты исследований по диссертации вошли в отчёты по НИР:

- «Исследование бинарных моделей знаний для семантических \УЕВ-технологий, мультиагентного и нейромоделирования». - М.: МИЭМ, 2005. -№ гос.рег. 01200502482, инв. № 02200903329;

- «Разработка методов концептуальной спецификации информационно-технологических и нейросетевых систем». — М.: МИЭМ, 2006. — № гос.рег. 01200602101, инв. № 02200805602;

- «Разработка методов и языков концептуальной спецификации для Семантического Веба». - М.: МИЭМ, 2007. - № гос.рег. 01200701846, инв. № 02200805562;

- «Разработка бинарных моделей знаний с нечёткой логикой для Семантического Веба». - М.: МИЭМ, 2008. - № гос.рег. 01200801976, инв. № 02200902792;

- Отчет на спецтему по СЧ НИР «Известняк-КМ». -М.: ГосНИИАС, 2009. -инв.№ 0-45869.

Публикации результатов. Основные результаты диссертационной работы опубликованы в 15 печатных научных работах, среди которых 2 статьи - в периодических научных изданиях, рекомендованных ВАК России, 8 работ - в материалах научных конференций и семинаров.

Основные положения, выносимые на защиту.

1. Структура системы классификации ДО по ограниченному набору зашумлённых дискретных наблюдений, которая представляет собой комплекс взаимодействующих многослойных нейронных сетей прямого распространения, где каждая сеть характеризуется простой функциональной задачей, а также соответствующие алгоритмы обучения.

2. Методика оценки степени достоверности принятого классификатором решения о типе ДО путём нейросетевой аппроксимации функции достоверности в локальной окрестности текущего наблюдения.

3. Методика учёта пространственно-временной динамики траектории движения ЛА в расширенном лаговом пространстве.

4. Результаты экспериментов, демонстрирующих состоятельность и адекватность синтезированных нейросетевых структур при распознавании типа ЛА в зоне действия ЗРК.

5. Варианты модернизации структуры системы путём введения динамических нейросетевых блоков с сосредоточенной задержкой сигнала по времени и нейросетевой модели нелинейной авторегрессии с внешними входами.

Структура и объём диссертации. Диссертация состоит из введения, четырёх глав, заключения, библиографического списка и трёх приложений. Основная часть работы содержит 130 страниц машинописного текста, включая 28 таблиц, 35 рисунков и перечень использованной литературы из 106 наименований.

4.7. Выводы по главе 4

Подробно описаны процедуры формирования исходных данных для настройки системы классификации и различные варианты системы, использованные для проведения экспериментальных исследований:

- рассмотрен метод формирования идеальных модельных данных;

- приведено описание процедуры добавления ошибок измерений РЛС;

- изложены характеристики вариантов классификатора.

Проведено множество экспериментов, подтверждающих состоятельность разработанной нейросетевой системы классификации ЛА, её высокую обобщающую способность и демонстрирующих адекватность созданной системы поставленной задаче.

Исследованы и проанализированы на примере нескольких вариантов системы классификации как характеристики отдельных её компонентов, так и особенности всей системы в целом. Исследованы характеристики:

- блока локальной классификации

- блока оценки достоверности локального решения

- блока учёта динамики локальных решений ^3.

В частности, исследована устойчивость системы к различным уровням ошибок измерений. Наглядно продемонстрирована необходимость блока а также практический эффект, получаемый при его применении.

Результаты проведённого моделирования, описанные в данной главе, позволяют обоснованно сказать о высоком качестве разработанной системы и об её устойчивости к ошибкам измерения, которые присущи реальному локатору.

ЗАКЛЮЧЕНИЕ

В рамках диссертационной работы получены следующие научные и практические результаты.

Предложено новое решение проблемы распознавания типа ЛА, вошедшего в зону действия ЗРК, по ограниченному набору внешних траекторных измерений. Данная проблема формализована и рассмотрена как математическая задача классификации ДО по небольшому набору зашумлённых данных.

По результатам проведённого анализа современных подходов к решению задачи классификации ДО выбран аппарат искусственных нейронных сетей. Проанализированы различные современные нейросетевые модели, используемые при решении подобных задач другими исследователями, на предмет их применимости к данной задаче. В результате анализа обоснованно выбран аппарат многослойных нейронных сетей прямого распространения как средство решения задачи классификации ДО.

Предложена эффективная методика учёта пространственно-временной динамики движения ЛА в лаговом пространстве. Для классификации ЛА использованы признаки двух типов: мгновенные и интегральные. Эти признаки характеризуют как текущие радиолокационные измерения, так и учитывают предысторию движения сопровождаемого ЛА. Информативность использованного вектора признаков подтверждена проведённым математическим моделированием.

Предложена структура системы классификации ДО, которая представляет собой сложный комплекс взаимодействующих между собой отдельных нейронных сетей, а также разработан алгоритм обучения такой системы для настройки её на конкретную предметную область. Важной особенностью разработанной системы является то, что каждая нейронная сеть, входящая в её состав, характеризуется простой функциональной задачей. Разработанная система допускает расширение на новые распознаваемые типы объектов и не требует для этого радикальной перестройки.

Модульная структура нейросетевого классификатора ДО позволила обеспечить интерпретируемость принимаемых решений, простоту обучения и возможность оперативной модификации посредством введения дополнительных функциональных модулей.

Особое значение применительно к решаемой задаче имеет оценка достоверности принимаемых классификатором решений. В работе предложен подход, основанный на нейросетевой аппроксимации функции достоверности в пространстве признаков, который позволяет оценивать принятое классификатором локальное решение не усредненными показателями по всей выборке данных, а с учетом текущих значений вектора признаков.

Построенная система предполагает возможное решение «неопознанный ЛА» в случае, когда не обеспечивается высокая достоверность отнесения ЛА к одному из предопределенных классов.

Продемонстрировано практическое применение разработанной нейросетевой системы для решения прикладной задачи классификации ЛА, вошедшего в зону действия ЗРК. Проведено множество экспериментов, подтверждающих высокую обобщающую способность системы. Исследовано поведение системы в различных условиях, а также её устойчивость к ошибкам измерения разной интенсивности.

Математическое моделирование, проведённое на примере ЛА семи типов, продемонстрировало высокую надёжность и устойчивость принимаемых системой классификации решений. Высокая точность распознавания типа ЛА наблюдается не только на модельных данных без ошибок измерений, но и в условиях реальных ошибок измерений радиолокатора.

В работе показана принципиальная возможность распознавания типа ЛА по траекторным измерениям без применения специальных признаков отраженного радиолокационного сигнала. Предложенное нейросетевое решение задачи не использует детального знания математических моделей движения ЛА и основано исключительно на располагаемых траекторных измерениях сопровождающей их РЛС.

1. Аведьян Э.Д. Алгоритмы настройки многослойных нейронных сетей // Автоматика и телемеханика, 1995. №4.

2. Аведьян Э. Д., Коваленко М.Л., Цитоловский Е.Л., Цыпкин Я.З. Автономные алгоритмы настройки нейронных сетей // Математика, компьютер, управление и инвестиции. Труды международной конференции. М., 1993.

3. Айвазян С.А., Бежаева З.И., Староверов О.В. Классификация многомерных наблюдений.-М.: Статистика, 1974.

4. Айвазян С.А., Бухштабер В.М., Енюков И.С. и др. Прикладная статистика: классификация и снижение размерности. М. Финансы и статистика, 1989.

5. Айзерман М.А., Браверман Э.М., Розоноэр Л.И. Метод потенциальных функций в теории обучения машин. — М.: Наука, 1970.

6. Аксенов C.B., Новосельцев В.Б. Организация и использование нейронных сетей (методы и технологии). Томск: Изд-во НТЛ, 2006.

7. Афифи А., Эйзен С. Статистический анализ. Подход с использованием ЭВМ. -М.: Мир, 1982.

8. Байдык Т.Н. Нейронные сети и задачи искусственного интеллекта. Киев: Наукова Думка, 2001.

9. Бакулев П.А. Радиолокационные системы. М.: Радиотехника, 2007.

10. Барабаш Ю.Л., Барский Б.В., Зиновьев В.Т. и др. Вопросы статистической теории распознавания. -М.: Сов. радио, 1967.

11. Беркинблит М.Б. Нейронные сети. М.: МИРОС и ВЗМШ РАО, 1993.

12. Бобин A.B. Распознавание начальных форм слов на основе двухслойного персептрона // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. -М.: МИЭМ, 2008.

13. Бобин A.B. Разработка модели РЛС в составе автоматизированной системы анализа эффективности функционирования системы ПВО // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. -М.: МИЭМ, 2009.

14. Бобин A.B. Исследование возможности применения нейронных сетей для распознавания типа воздушной цели // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. -М.: МИЭМ, 2010.

15. Бобин A.B. Применение динамических нейронных сетей для определения типа летательного аппарата // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. М.: МИЭМ, 2011.

16. Бобин A.B., Мишулина O.A., Слатин A.B. Нейросетевой классификатор модульной архитектуры для распознавания типа воздушной цели // Нейрокомпьютеры: разработка и применение. М.: Радиотехника, 2010.-№ 11 - С. 53 - 62.

17. Бобин A.B. Применение многослойной нейронной сети с линией задержки для классификации воздушного объекта // Вопросы оборонной техники. Серия 9. -М.: НТЦ «Информтехника», 2010. -№ 3 4 - С. 39 - 44.

18. Бобин A.B. и др. Отчет на спецтему по СЧ НИР «Известняк-КМ». -М.: ГосНИИАС, 2009. инв.№ 0-45869.

19. Бодянский Е.В., Руденко О.Г. Искусственные нейронные сети: архитектуры, обучение, применения. Харьков: ТЕЛЕТЕХ, 2004.

20. Бонгард М.М. Проблема узнавания. М.: Наука, 1967.

21. Браверман Э.М., Мучник И.Б. Структурные методы обработки эмпирических данных. М.: Наука, 1983.

22. ВапникВ. Н. Восстановление зависимостей по эмпирическим данным. -М.: Наука, 1979.

23. Васильев В.И. Распознающие системы. Киев: Наукова Думка, 1969.

24. Галушкин А.И. Теория нейронных сетей. Кн.1. М.: ИПРЖР, 2000.

25. Галушкин А.И. Многослойные системы распознавания образов. М.: МИЭМ, 1970.

26. Галушкин А.И. Единый подход к решению задач обучения и самообучения систем распознавания образов. Труды МИЭМ, 1970. -Вып.6.

27. Галушкин А.И. Синтез многослойных систем распознавания образов. -М.: Энергия, 1974.

28. Галушкин А.И., Судариков В.А. Шабанов Е.В. Нейроматематика: методы решения задач на нейрокомпьютерах // Математическое моделирование, 1991. -Т.З. -№8.

29. Галушкин А.И., Судариков В.А. Шабанов Е.В. Методика решения задач на нейрокомпьютерах // Нейрокомпьютер, 1992. — №1.

30. Галушкин А.И. Нейрокомпьютеры в разработках военной техники США. -М.: НЦН, 1995.

31. Гитис Л.Х. Кластерный анализ в задачах классификации, оптимизации и прогнозирования. -М.: Изд. МГГУ, 2001.

32. Гмурман В.Е. Теория вероятностей и математическая статистика. -М.: Высшая школа, 2003.

33. Горбань А.Н., Дунин-Барковский В.Л., Кирдин А.Н. и др. Нейроинформатика. -Новосибирск: Наука, 1998.

34. Горбань А.Н. Обучение нейронных сетей. М.: Параграф, 1992.

35. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. -Новосибирск.: Наука. Сибирская издательская фирма РАН, 1996.

36. Грибков В.Ф., Бериев И.Г., Буков В.Н., Логовский A.C. Нейрокомпьютеры в авиации // Доклад на пленарном заседании конференции «Нейрокомпьютеры и их применение» (НКП-98). Москва, 1998.

37. ДидэЕ. Методы анализа данных. Подход, основанный на методе динамических сгущений. -М.: Финансы и статистика, 1985.

38. Дорофеюк A.A. Алгоритмы автоматической классификации (обзор) // Автоматика и телемеханика. 1971. -№12. - С.78- 113.

39. Дубров A.M., Мхитарян B.C., Трошин Л.И. Многомерные статистические методы для экономистов и менеджеров. М.: Финансы и статистика, 2003.

40. Дубровский С.А. Прикладной многомерный статистический анализ. М.: Финансы и статистика, 1982.

41. Дуда Р., Харт П. Распознавание образов и анализ сцен. М.: Мир, 1976.

42. Ежов A.A., Шумский С.А. Нейрокомпьютинг и его применения в экономике и бизнесе. -М.: МИФИ, 1998.

43. Загоруйко Н.Г. Методы распознавания и их применение. М.: Сов. радио, 1972.

44. Заде Л., Дезоер Ч. Теория линейных систем. Метод пространства состояний. — М.: Наука, 1970.

45. Зотов М.Г. Многокритериальное конструирование систем автоматического управления. -М.: БИНОМ. Лаборатория знаний, 2009.

46. Журавлёв О.Г., Торговицкий И.Ш. Оптимальный метод объективной классификации в задачах распознавания образов // Автоматика и телемеханика. 1965. - № 11. - С.2062 - 2063.

47. Каллан Р. Основные концепции нейронных сетей. М.: Вильяме, 2002.

48. Калман Р., Фалб П., Арбиб М. Очерки по математической теории систем. -М.: Едиториал УРСС, 2004.

49. Ким Дж.-О., Мьюллер Ч.У., Клекка У.Р. и др. Факторный, дискриминантный и кластерный анализ. -М. Финансы и статистика, 1989.

50. Кобзарь А.И. Прикладная математическая статистика. Для инженеров и научных работников. -М.: ФИЗМАТЛИТ, 2006.

51. Колере П., Мюррей Д. Распознавание образов. Исследование живых и автоматических распознающих систем. М.: Мир, 1970.

52. Кормацова Л.Г., Максимов A.B. Нейрокомпьютеры. М.: МГТУ им. Н.Э. Баумана, 2004.

53. Кохонен Т. Самоорганизующиеся карты. М.: БИНОМ. Лаборатория знаний, 2008.

54. Малинецкий, Г.Г. Потапов. А.Б. Современные проблемы нелинейной динамики. М.: УРСС, 2000.

55. Миркес Е.М. Обучение сетей с пороговыми нейронами // Нейроинформатика и её приложения. Тезисы докладов III Всероссийского семинара. КГТУ, Красноярск, 1995.

56. Миркес Е.М. Нейрокомпьютер. Проект стандарта. Новосибирск: Наука. Сибирское предприятие РАН, 1999.

57. Митрофанов Д.Г., Сафонов A.B. Применение нейросетевой технологии для распознавания целей по радиолокационным изображениям // Нейрокомпьютеры: разработка и применение. М.: Радиотехника, 2006. - №3. - С.60 - 68.

58. Окунь Я. Факторный анализ. М.: Статистика, 1974.

59. Осовский С. Нейронные сети для обработки информации. М.: Финансы и статистика, 2004.

60. Потапов A.C. Распознавание образов и машинное восприятие. -М.: Политехника, 2007.

61. Пупков К.Д., Егупова Н.Д. Нестационарные системы автоматического управления: анализ, синтез и оптимизация. -М.: МГТУ им. Н.Э. Баумана, 2007.

62. Райзин Дж. Классификация и кластер. М.: Мир, 1980.

63. Рао С.Р. Линейные статистические методы и их применения. -М.: Наука, 1976.

64. Розенблатт Ф. Принципы нейродинамики. М.: Мир, 1964.

65. Сафонов A.B., Митрофанов Д.Г., Прохоркин А.Г. Нейросетевое распознавание летательных аппаратов по экспериментально сформированным доплеровским спектрам // Нейрокомпьютеры: разработка и применение. -М.: Радиотехника, 2009. -№ 10. С.57 - 62.

66. Соколов E.H., Вайткявичус Г.Г. Нейроинтеллект: от нейрона к нейрокомпьютеру. -М.: Наука, 1989.

67. СосулинЮ.Г. Теоретические основы радиолокации и радионавигации. -М.: Радио и связь, 1992.

68. Тархов Д.А. Нейронные сети: модели и алгоритмы М.: Радиотехника, 2005.

69. Ту Дж., Гонсалес Р. Принципы распознавания образов. М.: Мир, 1978.

70. Турбович И.Т., Гиттис В.Г., Маслов В.К., Опознавание образов. Детерминировано-статистический подход. -М.: Наука, 1971.

71. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Разработка методов концептуальной спецификации информационно-технологических и нейросетевых систем: отчёт о НИР. -М.: МИЭМ, 2006. -№ гос.рег. 01200602101, инв. № 02200805602.

72. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Разработка методов и языков концептуальной спецификации для Семантического Веба: отчёт о НИР. М.: МИЭМ, 2007. -№ гос.рег. 01200701846, инв. № 02200805562.

73. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Разработка бинарных моделей знаний с нечёткой логикой для Семантического Веба: отчёт о НИР. -М.: МИЭМ, 2008. № гос.рег. 01200801976, инв. № 02200902792.

74. Тюхов Б.П., Истратов А.Ю., Бобин A.B. и др. Исследование бинарных моделей знаний для семантических WEB-технологий, мультиагентного и нейромоделирования: отчёт о НИР. М.: МИЭМ, 2005. - № гос.рег. 01200502482, инв. №02200903329.

75. Уилкс С. Математическая статистика. М.: Наука, 1967.

76. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика. М.: Мир, 1992.

77. Финкельштейн М.И. Основы радиолокации. М.: Радио и связь, 1984.

78. Фукунага К. Введение в статистическую теорию распознавания образов. -М.: Наука, 1979.

79. Хайкин С. Нейронные сети: полный курс. М.: Вильяме, 2006.

80. Цыпкин ЯЗ. Адаптация и обучение в автоматических системах. -М.: Наука, 1968.

81. Цыпкин ЯЗ. Основы теории обучающихся систем. М.: Наука, 1970.

82. Aleksander I, Morton Н. An introduction to neural computing. London: Chapman and Hall, 1990.

83. Bailer-Jones C., MacKay D. A Recurrent Neural Network for Modelling Dynamical Systems. Network // Computation in Neural Systems. 1998. - № 9. - Pp. 531-547.

84. Bishop, Chris. M. Neural networks for pattern recognition. Oxford University Press, 2005.

85. Bolshev L.N. Cluster analysis // Bull. Int. Stat. Inst. 1969. - N43. - P.425-441.

86. Chen F.C., Lui C.C. Adaptively Controlling Nonlinear Continuous-Time Systems Using Multilayer Neural Networks // IEEE Trans. On Automatic Control. -1994. -Vol.39, No.6.

87. Duda R., Hart P., Strok D. Pattern classification. John Willey & sons, 2001.

88. Fausett, L. V. Fundamentals of neural networks: architectures, algorithms and applications. Prentice Hall, 1993.

89. Fernandez В., Parlos A.G., Tsai W.K. Nonlinear Dynamic System Identification using Artificial Neural Networks // IJCNN-90, San Diego, Calif., 1990. Vol.2. -Pp.133-141.

90. Freeman, J.A., Skapura, D.M. Neural Networks: algorithms, applications and programming techniques. Addison-Wesley Publishing Company Inc, 1991.

91. Gupta, M.M., Jin, L., Homma, N. Static and dynamic neural networks: from fundamentals to advances theory. John Wiley & Sons Inc, 2003.

92. Krose В., Smagt P. An introduction to neural networks. The University of Amsterdam, 1996.

93. Marques de Sa J.P. Pattern recognition. Concepts, methods and applications. -Springer, 2001.

94. Morrison D.G. Multivariate statistical methods. N.Y.: McGrow Hill Book Company, 1967.

95. Muller R., Reinhaldt H. Neural Networks. Springer-Verlag, 1990.

96. Narendra K., Parthasarathy K. Identification and control of dynamical systems using neural networks // IEEE Transactions on Neural Networks. 1990. - Vol. 1, № l.-Pp. 4-27.

97. Rabunal J., Dorado J. Artificial neural networks in real-life applications. Idea Group Publishing, 2006.

98. Simpon P. Artificial Neural Networks. Springer-Verlag, 1996.

99. Theodoridis, S., Koutroumbas, K. An introduction to pattern recognition: a MATLAB approach. Academic Press Inc., 2010.

100. Theodoridis, S., Koutroumbas, K. Pattern recognition, Third Edition. Academic Press Inc., 2006.

101. Willmott A. J., Grimshaw P. N. Cluster analysis in social geography: Numerical taxonomy. -N.Y.: Academic Press., 1969.

102. Практическое применение подобной системы классификации позволит повысить эффективность работы зенитной системы ПВО при отражении массированного ракетно-авиационного налёта.0513.01 «Системный анализ, управление и обработка информации»

103. Начальник подразделения 0800 д.т.н., проф.

104. Начальник лаборатории 0810 к.т.н.

105. УТВЕРЖДАЮ ЩЭМ по научной работе1. В.Н. Азаров2011 г.1. Акт внедрениярезультатов диссертационной работы Бобина Александра Валериановича

106. Синтез нейросетевой системы классификации динамических объектов» на соискание ученой степени кандидата технических наук по специальности 05.13.01 «Системный анализ, управление и обработка информации»

107. Практическое применение созданного комплекса лабораторных работ позволило повысить качество подготовки студентов по указанным дисциплинам.

108. Заведующий кафедрой МОСОИиУ МИЭМ д.т.н., проф.

109. КОНФЕРЕНЦИЯ МОЛОДЫХ УЧЕНЫХ И СПЕЦИАЛИСТОВ

110. МОСКОВСКОГО ОТДЕЛЕНИЯ АКАДЕМИИ НАВИГАЦИИ И УПРАВЛЕНИЯ ДВИЖЕНИЕМ1. ФГУП «ЦНИИАГ»диплом1. С«.1.МЕСТО)

111. Председатель Московского отделения Академии навигации и управления движением3009.2009 СОЛУНИН В.Л.