автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Методы и алгоритмы обработки потоков данных в многопроцессорных вычислительных комплексах командно-измерительных систем на основе моделей нейронных сетей

кандидата технических наук
Фраленко, Виталий Петрович
город
Переславль-Залесский
год
2011
специальность ВАК РФ
05.13.11
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Методы и алгоритмы обработки потоков данных в многопроцессорных вычислительных комплексах командно-измерительных систем на основе моделей нейронных сетей»

Автореферат диссертации по теме "Методы и алгоритмы обработки потоков данных в многопроцессорных вычислительных комплексах командно-измерительных систем на основе моделей нейронных сетей"

Учреждение Российской академии наук Институт программных систем им. А.К. Айламазяна РАН

485731

На правах рукописи

Фроленко Виталий Петрович

МЕТОДЫ И АЛГОРИТМЫ ОБРАБОТКИ ПОТОКОВ ДАННЫХ В

МНОГОПРОЦЕССОРНЫХ ВЫЧИСЛИТЕЛЬНЫХ КОМПЛЕКСАХ КОМАНДНО-ИЗМЕРИТЕЛЬНЫХ СИСТЕМ НА ОСНОВЕ МОДЕЛЕЙ НЕЙРОННЫХ СЕТЕЙ

Специальность 05.13.11 - «Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей»

Автореферат диссертации на соискание ученой степени кандидата технических наук

1 3 ОКТ 2011

Переславль-Залесский 2011

4857315

Работа выполнена в Учреждении Российской академии наук Институте программных систем им. А.К. Айламазяна РАН

Научный руководитель:

доктор технических наук, профессор Хачумов Вячеслав Михайлович

Официальные оппоненты:

доктор технических наук, профессор Бурдаев Михаил Николаевич

кандидат технических наук Славин Олег Анатольевич

Ведущая организация: ОАО «Российская корпорация ракетно-космического приборостроения и информационных систем» (ОАО «Российские космические системы»)

Защита состоится 11 ноября 2011 г. в 14 часов на заседании Диссертационного совета ДМ 002.084.01 при Учреждении Российской академии наук Инсттуте программных систем им. А.К. Айламазяна РАН по адресу: 152020, Ярославская обл., Переславский район, с. Веськово, ул. Петра I, д. 4а.

С диссертацией можно ознакомиться в библиотеке ИПС им. А.К. Айламазяна

РАН.

Автореферат разослан «13 »

11г.

Ученый секретарь

диссертационного совета ДМ 002.084.1 кандидат технических наук

Общая характеристика работы

Актуальность работы

Современные требования к космическим системам обуславливают необходимость поиска новых подходов к созданию командно-измерительных систем (КИС), научно-технического задела для разработки перспективной космической техники, конкурентоспособной на мировом рынке. КИС служат для приема, регистрации, отображения, предварительной обработки и передачи в ЦУП телеметрической информации в процессе испытаний и эксплуатации различных изделий ракетно-космической техники (РКТ), а также для контроля параметров орбиты космических аппаратов (КА).

В последние десятилетия во всем мире получила развитие новая прикладная область математики - нейроматематика, основанная на нейросетевых методах обработки данных. С помощью искусственных нейронных сетей (ИНС) можно прогнозировать временные ряды, выполнять распознавание оптических и звуковых сигналов, создавать самообучающиеся системы, управлять подвижными объектами и т.д. Для указанных задач характерны высокая размерность пространства признаков и критический фактор времени, что требует применения высокопроизводительной вычислительной техники.

Известны три направления аппаратной поддержки параллелизма алгоритмов обработки на базе ИНС: создание нейрочипов с использованием технологии FPGA, программно-аппаратная реализация на универсальных многопроцессорных вычислительных системах (МВС) и реализация алгоритмов на видеокартах (GPGPU). В настоящее время становится актуальным внедрение суперкомпьютерной техники в организации Роскосмоса для осуществления имитационного моделирования, управления, обработки целевой информации в режиме, приближенном к реальному времени.

Предлагаемое в диссертационной работе алгоритмическое и программное обеспечение основывается на комплексе разработанных средств обработки данных космического назначения. При этом учитываются особенности ИНС, возможности современных технологий параллельного программирования и аппаратных средств отечественных суперкомпьютеров семейства «СКИФ». В рамках проектов по программам «Триада», «СКИФ» и «СКИФ-ГРИД», «Поток-ПС», «Космос-НТ» и др. (2005-2011 гг.) автором были разработаны библиотеки алгоритмов и программное обеспечение для ряда космических приложений, включая фильтрацию и сжатие снимков дистанционного зондирования Земли (ДЗЗ), обеспечение безопасности и эффективности передачи информации. Несмотря на имеющиеся международные рекомендательные стандарты CCSDS, указанные задачи по ряду причин остаются нерешенными применительно к отечественным космическим аппаратам и наземным станциям командно-измерительных систем (НС КИС).

Вопросами обработки данных на нейронных сетях ранее занимались Rosenblatt F., KohonenT.K., Hopfield J.J., Vermaß., HaykinS., MahoneyM., Cheng H., Wosserman F., Горбань A.H., Галушкин А.И., Новосельцев В.Б., Ясницкий Л.Н. и другие исследователи. Несмотря на очевидный прогресс в

этой области, в материалах, опубликованных в научных изданиях, практически отсутствуют достоверные данные по эффективности применения нейронных сетей (оценок качества, скорости, объема, точности и т.д.). В настоящей работе основной упор делается на совершенствование алгоритмов за счет использования интеллектуальных и суперкомпьютерных технологий при объективном подходе к оценке полученных результатов.

Цель диссертационной работы состоит в повышении эффективности и надежности процессов обработки и передачи данных в многопроцессорных вычислительных комплексах космического назначения на основе моделей искусственных нейронных сетей. Для достижения поставленной цели в работе решаются следующие основные задачи:

1) разработка и исследование нейросетевых алгоритмов фильтрации и сжатия изображений с потерями;

2) разработка алгоритмов нейросетевого шифрования и обеспечения безопасности сетевых узлов (защита компьютерных систем от атак);

3) оценка эффективности полученных алгоритмов и их сравнение с существующими аналогами;

4) создание математического и программного обеспечения МВС для решения задач параллельной обработки данных в системах космического назначения.

Методы исследования базируются на использовании теории искусственных нейронных сетей, методов алгебраической теории распознавания, элементов теории кодирования и методов машинного моделирования.

Научная новизна работы заключается в следующем:

1) предложен метод сжатая изображений с потерями, превосходящий возможности формата ,1ре§-2000 в широком диапазоне коэффициентов сжатия, основанный на комбинации адаптивного алгоритма минимизации числа нейронов сети Кохонена и алгоритма сжатия без потерь;

2) разработаны алгоритмы, обеспечивающие повышение надежности процессов приема-передачи и обработки информации, включая алгоритм шифрования, обеспечивающий обучение на многосимвольных алфавитах и требующий малого объема памяти для хранения настроек, и алгоритм мониторинга аномальной сетевой активности;

3) предложен алгоритм фильтрации на основе наборов рециркуляционных1 сетей-экспертов и встроенного механизма классификации, позволяющий восстанавливать изображения при 50% заполнении шумами;

4) разработан метод выделения регионов на снимках ДЗЗ с помощью спектрографических текстур и нейронной сети, обеспечивающий возможность работы не только со спектральными характеристиками, но и непосредственно с пикселями изображения.

Практическая значимость полученных результатов определяется их применением для решения комплекса актуальных задач обработки данных космического назначения в НС КИС, направленных на расширение функциональности и повышение автономности. Разработанные в настоящей

1 Buscema M. Recirculation neural networks, Substance Use & Misuse, vol. 33, no. 2, pp.383 388, 1998, special issue on artificial neural networks and complex social systems.

работе алгоритмы предоставляют пользователю возможность решения широкого круга задач нейросетевой обработки потоков данных как на кластерных вычислительных устройствах (КВУ), так и на обычных персональных компьютерах с высокой степенью эффективности. Практическая значимость результатов отражена в отчетах выполненных научных исследований в рамках:

1. Программы Союзного государства «Развитие и внедрение в государствах-участниках Союзного государства наукоемких компьютерных технологий на базе мультипроцессорных вычислительных систем», шифр «ТРИАДА» (проект ПР5 «Разработка новых алгоритмов, принципов создания систем обработки изображений и другой информации от космических средств наблюдения, ориентированных на применение многопроцессорных вычислительных кластеров повышенной вычислительной мощности»);

2. НИР «Разработка моделей для проведения математического и натурного моделирования по обоснованию принципов предварительной обработки и сжатия целевой информации в бортовых и наземных высокопроизводительных командно-информационных системах при формировании и передаче интегрированных цифровых информационно-управляющих потоков». Шифр НИР: «Поток-ПС»;

3. Программы Союзного государства «Космос-НТ» (НИР «Разработка прототипа программной нейросетевой системы контроля телеметрической информации, диагностики подсистем космических аппаратов, обработки космических снимков»);

4. Научно-технической программы Союзного государства «Разработка и использование программно-аппаратных средств ГРИД-технологий и перспективных высокопроизводительных (суперкомпьютерных) вычислительных систем семейства «СКИФ», шифр «СКИФ-ГРИД».

Внедрение результатов работы. Основные результаты диссертационной работы были использованы при разработке программного комплекса «ППС ИНС» для НИЦЭВТ по проекту «Триада» (свидетельство на регистрацию программы для ЭВМ №2010610208) и модуля мониторинга аномальной сетевой активности на основе искусственных нейронных сетей «Эгида-НС» (свидетельство о государственной регистрации программы для ЭВМ №2011611277). Разработанное алгоритмическое и программное обеспечение внедрено в Научно-исследовательском институте космических систем им. A.A. Максимова (НИИ КС). Алгоритмы сжатия и фильтрации внедрены в учебный процесс Института программных систем «УГП имени А.К. Айламазяна» (НОУ ВПО ИПС «УГП имени А.К. Айламазяна») при проведении практических и теоретических занятий по дисциплинам «Математические основы обработки сигналов» и «Моделирование вычислительных систем».

Результаты диссертационной работы докладывались и обсуждались на международных и всероссийских научно-практических конференциях и симпозиумах:

1) научно-техническая конференция ФГУП «РНИИ КП» (10-12 октября 2006, Москва, ФГУП «РНИИ КП»);

2) XII ежегодная научно-практическая конференция УГП им. А.К. Айламазяна (19 апреля 2008, Переславль-Залесский);

3) I, III и IV всероссийские научно-технические конференции «Актуальные проблемы ракетно-космического приборостроения и информационных технологий» (28-30 апреля 2008, Москва, ФГУП «РНИИ КП»), (1-3 июня

2010, Москва, ОАО «Российские космические системы»), (15-17 июня

2011, Москва, ОАО «Российская корпорация ракетно-космического приборостроения и информационных технологий»);

4) V международная научно-практическая конференция «Исследование, разработка и применение высоких технологий в промышленности» (28-30 апреля 2008, Санкт-Петербург);

5) IX международная конференция «Распознавание образов и анализ изображений: новые информационные технологии» (РОАИ-9-2008) (14-20 сентября 2008, Нижний Новгород);

6) международная конференция «Программные системы: теория и приложения» (12-15 мая 2009, Переславль-Залесский);

7) III всероссийская научная конференция «Нечеткие системы и мягкие вычисления» (НСМВ-2009), (21-24 сентября 2009, Волгоград);

8) I специализированный международный симпозиум «Космос и глобальная безопасность человечества» (2-4 ноября 2009, Amathus Beach Hotel, Лимассол, Кипр);

9) XII всероссийская научно-техническая конференция «Нейроинформатика-2010» (25-29 января 2010, Москва, МИФИ);

10) I всероссийская научная конференция молодых ученых «Теория и практика системного анализа» (25-28 апреля 2010, Рыбинск);

11) III международная конференция по безопасности информации и сетей (SIN 2010) (7-11 сентября 2010, Таганрог).

Кроме того, результаты работы докладывались и обсуждались на семинарах Исследовательского центра искусственного интеллекта и Исследовательского центра мультипроцессорных систем ИПС имени А.К. Айламазяна РАН в г. Переславль-Залесский (2005-2011).

Основные результаты диссертационной работы изложены в 19 печатных работах, в числе которых 4 статьи опубликованы в рецензируемых изданиях, рекомендованных ВАК РФ.

Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы, включающего 102 наименования, и четырех приложений. Основная часть изложена на 116 страницах машинописного текста, иллюстрируется 44 рисунками и 52 таблицами.

Основное содержание работы

Во введении обоснована актуальность темы диссертации, сформулированы цели и задачи работы, раскрыты научная новизна и практическая ценность результатов работы.

В первой главе выполнен аналитический обзор алгоритмов обработки данных на основе искусственных нейронных сетей. Приведена классификация ИНС по топологии межнейронных связей, типам структур нейронов, типу синхронизации, способу обучения, характеру настройки синапсов и т.д. Рассмотрены существующие программные пакеты для работы с ИНС. Проведен анализ возможностей практического применения ИНС для решения задач космического назначения.

На рис. 1 показана архитектура перспективной НС КИС. Затененными блоками выделены предложения по ее усовершенствованию за счет интеллектуальных и суперкомпьютерных технологий. Это комплекс актуальных задач обработки потоков данных в системах космического назначения, ставший предметом соответствующих исследований, к которым относятся:

1) фильтрация и сжатие целевой информации (изображений высокого разрешения и видеопотоков) в процессе приемо-передачи между КА и наземными станциями;

2) шифрование телеметрии и командной информации, защита суперкомпьютерных вычислительных систем и систем ГРИД, на которых строятся распределенные системы обработки данных ДЗЗ;

3) мониторинг и обнаружение источников чрезвычайных ситуаций и целевых объектов по космическим снимкам.

Рисунок 1. Архитектура перспективной НС КИС

Известно, что типовые ИНС, к которым можно отнести сети прямого распространения, рециркуляционные сети, сети Хемминга, Хопфилда и Кохонена, позволяют успешно решать следующие задачи: распознавание образов и классификация, кластеризация, прогнозирование и аппроксимация, сжатие, шифрование и многие другие. Основная теоретическая задача, связанная с получением оптимальной конфигурации ИНС, частично решена только для некоторых типов ИНС и видов выборок. В связи с этим для конкретной ИНС приходится экспериментально выбирать число слоев, скорость обучения и коэффициенты торможения, осуществлять селекцию обучающей выборки, определять информативные признаки. Некоторые фундаментальные свойства ИНС представлены в табл. 1.

Таблица 1 - Фундаментальные свойства ИНС

Свойство Описание свойства

Обучение Процесс, при котором свободные параметры нейронной сети адаптируются в результате ее непрерывной стимуляции внешним окружением. Тип обучения определяется тем способом, которым производятся изменения параметров.

Обобщение Способность получать обоснованный результат на основании данных, которые не встречались в процессе обучения.

Абстрагирование Отвлечение в процессе познания от несущественных сторон, свойств, связей предмета или явления с целью выделения их существенных, закономерных признаков.

Применимость Теоретически показано (А.Н. Колмогоров2, R. Hecht-Nielsen3), что практически все задачи могут быть решены двухслойной сетью, однако на практике часто применяют сети и с большим числом слоев.

На данный момент существует множество программных пакетов, с помощью которых можно проектировать, настраивать и применять ИНС для решения различных задач, например: STATISTICA Neural Networks, Brain Maker Professional, NeuroShell Day Trader и Neural Network Toolbox из пакета Matlab. Однако они не рассчитаны на потоковую обработку, в то время как решение практических задач требует обработки больших потоков данных с применением высокопроизводительных вычислительных средств. В связи с этим рассматриваются возможные уровни параллелизма, реализуемые применительно к ИНС, включая: уровни сессии обучения, учебного примера, слоев, нейронов, весов и отдельных битов, и делается выбор наиболее эффективных из них для кластерной архитектуры.

Из выполненного аналитического обзора следует, что имеющиеся алгоритмы обработки информации, в том числе нейросетевые, либо не отвечают жестким требованиям реального времени, либо не обладают необходимыми характеристиками. Это обстоятельство требует создания нового математического и программного обеспечения для решения задач высокопроизводительной обработки потоков данных в системах космического назначения, в том числе основанного на модификациях нейросетевых алгоритмов.

Во второй главе дается оценка эффективности нейросетевых алгоритмов сжатия изображений с потерями и шифрования конфиденциальных данных с применением архитектуры «кодер/декодер». Исследована экспериментальная модель сжатия целевой информации на основе сети Кохонена. Предложен адаптивный алгоритм минимизации числа нейронов. Выполнена программная реализация и проведены эксперименты по распараллеливанию алгоритмов с применением КВУ.

2 Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиций непрерывных функций одного переменного и сложения. - Докл. АН СССР, том 114, 1957, с.953-956.

3 Hecht-Nielsen R. Kolmogorov's Mapping Neural Network Existence Theorem. - IEEE First Annual Int. Conf. on Neural Networks, San Diego, 1987, Vol. 3, pp. 11 -13.

С целью выяснения реальных возможностей нейронных сетей в соответствии с табл. 1 были проведены эксперименты по сжатию космических снимков универсальной двухслойной ИНС с числом скрытых нейронов в диапазоне Мб (рис.2), обучаемой по методу обратного распространения ошибки, и сетью Кохонена с числом нейронов 25+1024 (рис. 3), обучаемой по методу векторного квантования (LVQ. Learning Vector Quantization).

_ о

G • И ¡0

0

0

G

G G ■ I0 О " 0

x a

° ру- и - Q ^-O

Блок У N Выходной слой

изображения \ М / нейронов (блок изображения)

Входной слой нейронов

Рисунок 2. ИНС прямого Рисунок 3. ИНС Кохонена

распространения

Все изображения из сжимаемого потока, содержащего 3600 снимков размером 1920x1080, разбивались на пакеты по т снимков. Были получены средние степени сжатия изображений ( б ) порядка 100 на сети прямого распространения и 200 на сети Кохонена при приемлемом качестве восстановленных изображений. За счет включения в схему предложенного адаптивного алгоритма минимизируется число используемых кодовых векторов сети Кохонена. Оценка качества проводилась путем вычисления среднего квадратического отклонения (СКВО) и степени сжатия. Степень

О

сжатия оценивалась по формуле С =-—-—-, где О - число

N ■ Б + В • I 1О82 N 1/8 байт в сжимаемом пакете изображений. N - количество задействованных нейронов, 5 - длина кодовых векторов (число пикселей/байт в блоке изображения), В - число блоков в пакете изображений. Аналогичные оценки, приводимые в научной литературе, не учитывают затрат памяти ( N ■ Б ), необходимой для хранения весовых коэффициентов обученной ИНС, что на наш взгляд является некорректным.

Экспериментально показано, что ИНС прямого распространения проигрывает при прочих равных условиях сети Кохонена, для которой восстанавливаемые изображения остаются достаточно качественными даже при высоких степенях сжатия (рис. 4). На графиках «Кохонен-1», «Кохонен-16» и «Кохонен-64» представлены результаты сжатия потока пакетами по т снимков, соответственно для т = 1,16,64.

Рисунок 4. Сравнение алгоритмов сжатия (1ре£-2000 и Кохонен)

Как показывают эксперименты (табл. 2) с ИНС Кохонена с числом нейронов равным 1024 (определено опытным путем), применение библиотеки

гНЬ4 позволяет увеличить коэффициент сжатия в среднем на 46-94% (,% -

величина прироста коэффициента сжатия относительно результата нейронной сети без дополнительной обработки). Однако максимально эффективным ее применение делает предварительное использование предложенного

адаптивного алгоритма ( ,% ): коэффициент сжатия в среднем

увеличивается на 134-212%. Сам по себе адаптивный алгоритм позволяет

увеличить степень сжатия на 11-59% ). Из-за минимизации числа

нейронов происходит рост ошибки (СКВО). При других значениях т (табл. 3 и 4) данные соотношения сохраняются. Следует отметить, что

(}а4ар^ЛкУ° превосходит 0,нь,% в 2.2-3.5 раза.

Таблица 2 - Эффект от оптимизаций алгоритма при т - 1

Размер Увеличение Увеличение Увеличение Увеличение

блока а % ^айарЧуе'/0 (7 % СКВО,%

4x4 11 134 4 46

8x8 37 184 2 52

16x16 59 212 1 94

Таблица 3 - Эффект от оптимизаций алгоритма при т = 16

Размер Увеличение Увеличение Увеличение Увеличение

блока С ^ас/арЯуе'/0 СКВО,%

4x4 2 80 2 31

8x8 6 75 2 29

16x16 37 101 2 46

4 Zlib сотргезяюп ПЬгагу. - http://www.zlib.net/.

10

Размер Увеличение Увеличение Увеличение Увеличение

блока ^ас1арЧ\>е¥хНЬ > ^ СКВО,%

4x4 14 81 5 32

8x8 4 72 2 27

16x16 18 76 2 31

В другой серии тестирования производилось потоковое нейросетевое сжатие снимков ДЗЗ размером 8018x4454. Пример обработки фрагмента снимка размером 575x455 представлен на рис. 5.

Рисунок 5. Оригинальный и сжатый фрагменты

За счет адаптивного алгоритма в данном случае удалось уменьшить число задействованных нейронов с 1024 до 385 и получить прирост коэффициента сжатия на 17% (с 47 до 55 раз) при незначительном увеличении СКВО менее чем на 3.8%. Дополнительная обработка с помощью библиотеки сжатия без потерь (гНЬ) позволила повысить коэффициент сжатия до 80 раз.

Для решения задачи шифрования цифрового сигнала его предварительно разбивают на буквы заданного алфавита X (рис. 6). Каждая буква представлена вектором из к чисел от 0 до п -1 . Величины к и

I I к

п определяются настройками, \Х = п . Первый слой нейронов («кодер») осуществляет биективное преобразование (шифрование) входных букв во множество 7 , состоящее из кодовых букв желаемой размерности ц с представляющими параметрами в виде чисел с плавающей точкой. Второй слой нейронов («декодер») производит обратное биективное отображение из У в X , называемое дешифрованием. Число входов нейронов «кодера» и число нейронов «декодера» равно к , а число нейронов «кодера» (длина секретного криптографического ключа) равно д . Структура соответствующей нейронной сети представлена на рис. 7.

а ш в

Рисунок 6. Схема работы алгоритма шифрования

-О:

■О; ©

обратная е«я»1г

■0

«Декодер»

тт-

Вход

«Кодер»

Рисунок 7. Нейронная сеть для шифрования данных

а 1.

Выход

Рисунок 8. Нейронная сеть Хопфилда В результате шифрования размер сообщения изменяется в

q■Ъ2

раз, где 32 - число бит, необходимое для хранения значения

1оя2(и)-к

каждого выхода «кодера» в формате с плавающей точкой. Для удобства работы с нейронной сетью происходит замена множества X на множество X, в котором дискретные кодируемые буквы заменены на аналоговые (рис. 6). Основное требование - равноудаленность всех возможных значений представляющих параметров от соседних значений и отсутствие равных нулю. Равноудаленность необходима для введения порога обучения нейронной сети,

а отсутствие нулей в обучающей выборке повышает информационную емкость

_ У 1 1

сети. В работе предлагается следующее преобразование: х = —> гДе^, ~

и + 1

значение / -го представляющего параметра. Для преобразования выхода «декодера» в дискретный вид предлагается воспользоваться формулой

I) =[о-(п+1)-1], где £) - вектор раскодированной буквы из множества X, 1) -вектор выхода «декодера» ([ ] - приведение к ближайшему целому числу). В работе применяются различные стратегии шифрования: без использования «кодера», когда при шифровании отдельной буквы случайным образом выбирается один из ее образов из множества Г , и с использованием «кодера». Архитектура применяемой ИНС является частью криптографического ключа (можно управлять числом слоев, числом нейронов в каждом слое, выбирать любые активационные функции, устанавливать диапазон случайных начальных настроек).

Третья глава посвящена вопросам фильтрации бинаризованных изображений на основе асинхронной сети Хопфилда (рис. 8) с моделью Крика-Митчисона, разработке и исследованию алгоритмов фильтрации панхроматических изображений и сетевых пакетов на основе ИНС. Отдельно рассмотрен вопрос выделения особых регионов на снимках ДЗЗ путем «закраски» с использованием предложенного спектрографического подхода.

Проведенные исследования показали, что модель Крика-Митчисона позволяет существенно повысить емкость памяти нейронной сети Хопфилда (с

Р £ 0.14.iV до Р = N , где N - число нейронов сети, а Р - число зап зап зап

запоминаемых образов), однако результат фильтрации не обладает высоким

качеством даже при больших размерах изображений. Причем существенное

влияние на качество работы сети оказывает и способ бинаризации. В то же

время использование рециркуляционной ИНС дает большие преимущества:

позволяет работать, с полутоновыми изображениями, эффективно реализуется

на параллельных ЭВМ и легко наращивается для обработки больших по

размеру изображений.

В диссертационной работе предлагается использовать набор рециркуляционных сетей-экспертов, каждая из которых обрабатывает свою часть изображения, что позволяет сократить время обучения. Для эксперимента по фильтрации были взяты полутоновые изображения самолетов (по одному для каждого класса) размером 64 на 64 пикселя. Обучение ИНС велось до тех пор, пока СКВО от желаемых выходов декодера не становилось меньшим 0.15 для каждой из полученных областей. Предложенный в экспериментальной модели механизм удаления шумов обладает высокой эффективностью, т.к. позволяет восстанавливать изображения даже при 50% заполнении шумами с заменой поврежденных областей на полноценные.

В другом эксперименте тот же набор сетей-экспертов применялся для классификации поврежденных изображений на кольце вычетов по модулям 3 и 4 с одновременной визуализацией. Для обучения сети было взято 141 полутоновое изображение размером 64 на 64 пикселя, разделенных на 11 классов. Каждому такому классу учитель (эксперт) сопоставил свое

изображение

Результат декодирования

(по модулю 3)

Результат декодирования (по модулю 4)

Результат декодирования (ш модулю 3)

Результат декодирования (по модулю 4)

уникальное изображение, служащее оптимальным выходом сетей-экспертов. Некоторые результаты фильтрации приведены в табл. 5.

Таблица 5 - Результаты эксперимента по фильтрации и классификации

Поврежденное

Фильтрация

Классификация

Задача фильтрации сетевых атак на суперкомпьютерные вычислительные системы семейства «СКИФ» в составе перспективной НС КИС решалась путем обучения нейросетевой системы на базе KDD-99, содержащей около пяти миллионов записей о сетевых соединениях. Отдельная запись состоит из 168 байт информации, включает 41 параметр сетевого трафика и промаркирована как «атака типа ...» или «не атака». Всего в базе KDD-99 представлены 22 типа атаки Алгоритм обработки включал следующие этапы:

а) сжатие пространства признаков с использованием метода главных компонент и рециркуляционной ИНС;

б) обучение классификаторов на базе сокращенных информационных векторов с использованием расстояния Евклида-Махаланобиса, двухслойного персептрона и сети Кохонена;

в) тестирование полноты и точности5 распознавания сетевых атак.

Механизм выявления сетевых атак с использованием предлагаемого в диссертационной работе модуля «Эгида-НС» выглядит следующим образом:

а) система IDS Snort® перехватывает пакет;

б) по группе правил системы Snort производится вызов модуля «Эгида-НС» для определения характера пришедшего пакета;

в) модуль «Эгида-НС» производит разбор пакета для выделения информативных признаков;

г) выделенные информативные признаки подаются на комитет классификаторов;

д) комитет производит анализ данных и возвращает в модуль «Эгида-НС» класс принадлежности пакета;

5 Чесноков C.B. Детерминационный анализ социально-экономических данных. - М.: Наука. 1982. -259 с.

6 Русская группа пользователей Snort. - http://www.snortgroup.ru/

е) модуль «Эгида-НС» возвращает в систему Snort значение, характеризующее пакет как аномальный/не аномальный, если пакет аномальный, то указывается класс атаки;

ж) система Snort производит либо отсеивание пакета, либо передает его дальше по назначению.

Эксперименты показали, что наилучшие показатели имеются у двухслойного персептрона, который на указанной выборке обеспечил фильтрацию со следующими показателями: 15 из 22 классов атак распознаются со 100%-ой полнотой, минимальная полнота получена при работе с атаками класса «vvarezclient» (93.92%), менее 0.6% пакетов класса «normal» ошибочно отнесены к той или иной атаке. Для сравнения - в аналогичных исследованиях других авторов достигнуты следующие показатели: количество ложных определений атак порядка 12%; минимальная полнота менее 80%.

Актуальным применением систем обработки данных дистанционного зондирования Земли (ДЗЗ) является исследование динамики лесных пожаров и схода селевых потоков, поиск полезных ископаемых и т.п. Одним из режимов работы подобных систем является явное выделение экспертом подобластей (например: лесной массив, водоем, нефть и т.д.) - с последующим их поиском («закраской») на всем изображении. По сути, решается задача классификации регионов по эталонам. В известном программном комплексе ENVI каждой точке изображения ставится в соответствие набор признаков в виде спектральных коэффициентов с поиском-закраской точек по метрике Махаланобиса. Комплекс имеет следующие недостатки: 1) метрика Махаланобиса не применима, если выборочная дисперсия хотя бы одного из параметров равна нулю; 2) система не работает с панхроматическими снимками.

Новизна предлагаемого подхода заключается в том, что вместо классификации отдельных точек изображения в формате Landsat оцениваются группы близлежащих точек, образующие спектрографические текстуры. Выбранные области каждого региона разбиваются на блоки размером п х m, каждая точка в таком блоке характеризуется набором спектрографических значений. Полученные текстуры формируют выборку для обучения классификатора на базе расстояния Евклида-Махаланобиса и двухслойной сети прямого распространения, с помощью которых производится выделение регионов на изображениях ДЗЗ. Предлагаемый подход оказался эффективным с точки зрения качества выделения целевых регионов, что подтверждается экспериментально. Применение классификатора спектрографических текстур обеспечивает нахождение сложных областей интереса, что недостижимо для классификаторов, работающих с отдельными точками изображения.

Для тестирования было выделено шесть классов регионов. В качестве спектральной информации о каждой точке использовались ее HSV-составляющие. Были обработаны снимки ДЗЗ, полученные со спутника Spot-4 (http://ww\v. spotimage. со m/) и с сайта http://maps. google, сот/. Заданные классы регионов и соответствующие им эталоны приведены в табл. 6 (для каждого класса в настройках определен цвет, которым замещаются соответствующие области на исходном изображении).

Таблица 6 - Спектрографические классы регионов

№ класса

Регионы

Закрасить как

Описание

синии

вода/море

зеленый

леса

■■■ * ■ I

коричневый

корич

ш

горы

серовато-голубой

горные ущелья

к

пожары и

выгоревшие

зоны

белый

дым от пожаров

Некоторые результаты работы спектрографического алгоритма по поиску очагов лесных пожаров представлены на рис. 9-10.

Рисунок 9. Результат «закраски» регионов с пожарами (Франция, Корсика, 2003)

Рисунок 10, Результат «закраски» регионов с пожарами (Греция, Афины, 2007)

Выполненная параллельная реализация обеспечивает масштабируемость алгоритма на многопроцессорных установках.

В четвертой главе рассмотрены вопросы построения программных модулей обработки потоков данных в составе новой версии параллельной системы «ППС ИНС», предназначенной для установки на КВУ семейства «СКИФ» космического назначения. Разработанные модули содержат как последовательную, так и параллельную внутреннюю организацию. На рис. 11 показана структура системы.

Рисунок 11. Архитектура программно-аппаратного комплекса

Разработанные алгоритмы в составе математического и программного обеспечения «ППС ИНС» существенно расширяют возможности наземных станций по обработке потоков данных в части фильтрации и сжатия изображений с потерями, обработки космических снимков ДЗЗ, шифрования и обеспечения безопасности информации. Далее (рис. 12-15) приведены некоторые графики масштабируемости алгоритмов.

\

\ \

\ \

1 2 4 8 16 32 64 Кол-во вычислительных ядер

64 -32

1 2 4 8 1 6 32 64 Кол-во вычислительных ядер

Рисунок 12. Масштабируемость алгоритма сжатия снимков ИНС Кохонена

1 2 4 8 16 32 64 Кол-во вычислительных ядер

I32'

8

X „

О.

1 4

2 У*

1 2 4 8 16 32 64

Кол-во вычислительных ядер

Рисунок 13. Масштабируемость алгоритма нейросетевого шифрования

1 2 4 8 16 32 64 Кол-во вычислительных ядер

Кол-во вычислительных ядер

Рисунок 14. Масштабируемость алгоритма фильтрация изображений

64 У

■3 32 •

¿16-

% 1 5 АГ

!Г 5 4 >. X

2 у*

1 1 2 4 8 16 32 64

100 1 7 эо X

\ \

% 80

>

70

1 2 4 8 16 32 64 Кол-во вычислительных ядер

64 И

Й 32

га

Т16 У*

£ я

о. 8

1 1

2

1 2 4 8 16 32 64 Кол-во вычислительных ядер

Рисунок 15. Масштабируемость алгоритма «закраски» регионов ДЗЗ

Заключение содержит основные результаты и выводы по диссертационной работе.

В приложениях приведены копии документов, подтверждающих практическое использование и внедрение результатов диссертации.

Основные результаты:

1. Даны оценки качества алгоритмов сжатия изображений с потерями для ИНС Кохонена и прямого распространения. Комбинация предложенного адаптивного алгоритма минимизации числа нейронов и алгоритма сжатия без потерь позволила превзойти возможности формата Jpeg-2000.

2. Разработан новый алгоритм нейросетевого шифрования, который в отличие от известных методов обеспечивает гибкость настройки параметров и требует малого объема памяти.

3. Разработан программный комплекс обеспечения информационной безопасности наземных вычислительных комплексов на основе нейросстевой технологии мониторинга аномальной сетевой активности.

4. Разработан новый нейросстевой алгоритм фильтрации с учителем на основе наборов сетей-экспертов и встроенного механизма классификации, который позволяет восстанавливать изображения при 50% заполнении шумами.

5. Разработаны методы выделения целевых объектов и регионов на снимках ДЗЗ с помощью спектрографических текстур и нейронной сети, обеспечивающие возможность непосредственной работы с изображениями.

6. Создано алгоритмическое и программное обеспечение, реализующее разработанные алгоритмы обработки потоков данных на высокопроизводительных вычислительных средствах перспективной НС КИС.

Основные научные результаты диссертации опубликованы в

следующих работах:

1. Хачумов В.М., Фраленко В.П. Эксперименты с прогнозированием, сжатием и фильтрацией данных на основе нейронных сетей. -Нейрокомпьютеры: разработка и применение, №9, 2008 с.35-42 (из перечня ВАК) (лично автором - 7 е.).

2. Талалаев A.A., Фраленко В.П. Контроль и диагностика датчиков положения космического аппарата. - Искусственный интеллект и принятие решений, №3, 2009, с.49-52 (из перечня ВАК) (лично автором -Зс.).

3. Фраленко В.П. Нейросетевое шифрование с применением архитектуры «кодер/декодер». - Нейрокомпьютеры: разработка и применение, №5, 2010, с. 11-16 (из перечня ВАК).

4. Фраленко В.П. Анализ спектрографических текстур данных дистанционного зондирования Земли. - Искусственный интеллект и принятие решений, №2,2010, с. 11 -15 (из перечня ВАК).

5. Круглов A.B., Фраленко В.П., Хачумов В.М., Ватутин В.М., Снегирев В.М. Распознавание объектов на основе нейронной сети Кохонена с метрикой Евклида-Махаланобиса. - Сб. тезисов докладов научно-технической конференции ФГУП «РНИИ КП» (10-12 октября 2006). -М.: Изд-во «Физматлиг», 2006, с.366-368, ISBN 978-5-9221-0861-4 (лично автором - 2,5 с).

6. Фраленко В.П. Прогнозирование, сжатие и фильтрация данных на нейронных сетях. - Сб. трудов XII ежегодной научно-практической

конференции УГП им. А.К. Айламазяна (19 апреля 2008) - Переславль-Залесский: Изд-во «Университет города Переславля», 2008, Т. 1, с.221-238.

7. Снегирев В.М., Гвоздяков Ю.А., Ватутин В.М., Круглов A.B., Заднепровский В.Ф., Хачумов В.М., Фраленко В.П. Алгоритмы сжатия данных и прогнозирования внештатных ситуаций при управлении КА с применением искусственных нейронных сетей. - Сб. трудов всероссийской научно-технической конференции «Актуальные проблемы ракетно-космического приборостроения и информационных технологий» (28-30 апреля 2008). - М.: Изд-во «Физматлиг», 2009, с. 185-194 (лично автором - 5 е.).

8. Хачумов В.М., Фраленко В.П. Прогнозирование и сжатие данных на основе аппарата нейронных сетей. - Высокие технологии, фундаментальные и прикладные исследования, образование. Т. 13: Сб. трудов V международной научно-практической конференции «Исследование, разработка и применение высоких технологий в промышленности» (28-30 апреля 2008) / Под ред. А.П. Кудинова, Г.Г.Матвиенко. - СПб: Изд-во Политехи, ун-та, 2008, с. 126-127 (лично автором - 1,5 е.).

9. Talalaev A.A., Tishchenko I.P., Fralenko V.P., Khachumov V.M. Neural methods in aerospace systems. - 9th International Conference «Pattern Recognition and image analysis: New Information Technologies» (PRIA-9-

2008): Conference proceedings. (14-20 сентября 2008). - H. Новгород: Изд-во «Диалог Культур». 2008, Т. 2, с.193-196 (лично автором - 2,5 е.).

10. Талалаев A.A., Тищенко И.П., Фраленко В.П., Хачумов В.М. Анализ эффективности применения искусственных нейронных сетей для решения задач распознавания, сжатия и прогнозирования. - Искусственный интеллект и принятие решений, №2, 2008, с.24-33 (лично автором -6,5 е.).

11. Емельянова Ю.Г., Талалаев A.A., Фраленко В.П., Хачумов В.М. Нейросетевой метод обнаружения неисправностей в космических подсистемах. - Сб. трудов международной конференции «Программные системы: теория и приложения» (12-15 мая 2009). - Переславль-Залесский: Изд-во «Университет города Переславля», Т. 1,2009, с.133-143 (лично автором - 7 е.).

12. Фраленко В.П., Хачумов М.В. Классификация на основе аппарата нейронных сетей с применением метода главных компонент и комитета большинства. - Сб. статей Третьей Всероссийской научной конференции «Нечеткие системы и мягкие вычисления» (НСМВ-2009), (21-24 сентября

2009). - Волгоград: Волгоградский государственный технический университет, Т. 2,2009, с.70-79 (лично автором - 5 с).

13. Калугин Ф.В., Фраленко В.П. Нейросетевая диагностика дизельного двигателя с использованием пьезоэлектрических датчиков давления. - Сб. трудов XII Всероссийской научно-технической конференции «Нейроинформатика-2010» (25-29 января 2010). - М.: Типография НИЯУ МИФИ, 2010, с. 17, ISBN 978-5-7262-1226-5 (лично автором - 0,7 е.).

14. Калугин Ф.В., Фраленко В.П. Нейросетевая диагностика топливной подсистемы дизельного двигателя. - Сб. трудов I Всероссийской научной

конференции молодых ученых «Теория и практика системного анализа» (25-28 апреля 2010). - Рыбинск: Изд-во РГАТА им. Соловьева, Т. 1, 2010, с.62-67 (лично автором - 4,5 с).

15. Емельянова Ю.Г., Константинов К.А., Погодин C.B., Талалаев A.A., Тищенко И.П., Фраленко В.П., Хачумов В.М. Нейросетевая система контроля датчиков углов ориентации и дальности космического аппарата. - Программные системы: теория и приложения, Т. 1, 2010. - 15 с. (лично автором - 8 е.).

16. Фраленко В.П. Нейросетевая технология обнаружения сетевых атак на информационные ресурсы. - Сб. тезисов III Всероссийской научно-технической конференции «Актуальные проблемы ракетно-космического приборостроения и информационных технологий» (1-3 июня 2010, Москва). - М.: Радиотехника, 2010, (на компакт-диске). - 3 с, ISBN 978-588070-264-0.

17. Талалаев A.A., Тищенко И.П., Хачумов В.М., Фраленко В.П. Программная система мониторинга и распознавания атак. - III Международная конференция по безопасности информации и сетей (SIN 2010), (7-11 сентября 2010, Таганрог). - www.sinconf.org. - 3 с. (лично автором - 2 е.).

18. Фраленко В.П., Хачумов В.М., Урличич Ю.М., Ежов С.А., Круглов A.B., Ватутин В.М. Нейросетевые алгоритмы сжатия и восстановления потоков данных, а также фильтрации сетевых атак комитетом классификаторов. -Сб. тезисов IV Всероссийской научно-технической конференции «Актуальные проблемы ракетно-космического приборостроения и информационных технологий» (15-17 июня 2011, Москва). - М.: Радиотехника, 2011, (на компакт-диске), с. 125-127, ISBN 978-5-88070-2961 (лично автором - 2 е.).

19. Емельянова Ю.Г., Талалаев A.A., Тищенко И.П., Фраленко В.П. Нейросетевая технология обнаружения сетевых атак на информационные ресурсы. - Программные системы: теория и приложения, № 3(7), 2011 с.З-15 (лично автором - 9,5 е.).

Оглавление автор диссертации — кандидата технических наук Фраленко, Виталий Петрович

Список терминов, условных обозначений и сокращений

Введение

Глава 1. Аналитический обзор алгоритмов обработки потоков данных космического назначения на основе искусственных нейронных сетей

1.1. Актуальные задачи обработки потоков информации в НС КИС нового поколения

1.2. Основные свойства и классификация нейронных сетей

1.2.1. Преимущества аппарата ИНС

1.2.2. Классификация ИНС

1.2.3. Нейросетевые пакеты

1.2.4. Подходы к распараллеливанию ИНС

1.3. Анализ возможностей практического применения ИНС для решения задач космического назначения

1.3.1. Сжатие телеметрии и целевой информации

1.3.2. Шифрование телеметрии и командной информации, защита от сетевых атак

1.3.3. Обработка и анализ космических снимков

Введение 2011 год, диссертация по информатике, вычислительной технике и управлению, Фраленко, Виталий Петрович

Актуальность работы

Современные требования к космическим системам обуславливают необходимость поиска новых подходов к созданию командно-измерительных систем (КИС), научно-технического задела для разработки перспективной космической техники, конкурентоспособной на мировом рынке. КИС служат для приема, регистрации, отображения, предварительной обработки и передачи в ЦУП телеметрической информации в процессе испытаний и эксплуатации различных изделий ракетно-космической техники (РКТ), а также для контроля параметров орбиты космических аппаратов (КА).

В последние десятилетия во всем мире получила развитие новая прикладная область математики - нейроматематика, основанная на нейросетевых методах обработки данных. С помощью искусственных нейронных сетей (ИНС) можно прогнозировать временные ряды, выполнять распознавание оптических и звуковых сигналов, создавать самообучающиеся системы, управлять подвижными объектами и т.д. Для указанных задач характерны высокая размерность пространства признаков и критический фактор времени, что требует применения высокопроизводительной вычислительной техники.

Известны три направления аппаратной поддержки параллелизма алгоритмов обработки на базе ИНС: создание нейрочипов с использованием технологии РРСА, программно-аппаратная реализация на универсальных многопроцессорных вычислительных системах (МВС) и реализация алгоритмов на видеокартах (ОРОРЦ). В настоящее время становится актуальным внедрение суперкомпьютерной техники в организации Роскосмоса для осуществления имитационного моделирования, управления, обработки целевой информации в режиме, близком к реальному времени.

Предлагаемое в диссертационной работе алгоритмическое и программное обеспечение основывается на комплексе разработанных средств обработки данных космического назначения. При этом учитываются особенности ИНС, возможности современных технологий параллельного программирования и аппаратных средств отечественных суперкомпьютеров семейства «СКИФ». В рамках проектов по программам «Триада», «СКИФ» и «СКИФ-ГРИД», «Поток-ПС», «Космос-НТ» и др. (2005-2011 гг.) автором были разработаны библиотеки алгоритмов и программное обеспечение для ряда космических приложений, включая фильтрацию и сжатие снимков дистанционного зондирования Земли (ДЗЗ), обеспечение безопасности и эффективности передата информации. Несмотря на имеющиеся международные рекомендательные стандарты CCSDS, указанные задачи по ряду причин (техническое отставание элементной базы, существующая управленческая система и т.д.1) остаются нерешенными применительно к отечественным космическим аппаратам и наземным станциям командно-измерительных систем (НС КИС). Бюджет отечественного Роскосмоса в 2005-2011 годах вырос с 0,9 до 3,5 миллиарда долларов, что в 6 раз меньше, чем у США (19 миллиардов долларов), Это приводит к тому, что, к примеру, на космических аппаратах США для сжатия передаваемых данных используется дискретное вейвлет-преобразование (Discrete Wavelet Transform, DWT), а российская сторона передает данные в несжатом виде.

Вопросами обработки данных на нейронных сетях ранее занимались Rosenblatt F., KohonenT.K., Hopfield J.J., VermaB., HaykinS., MahoneyM., Cheng H., Wosserman F., Горбань A.H., Галушкин А.И., Новосельцев В.Б., Ясницкий JI.H. и другие исследователи. Несмотря на очевидный прогресс в этой области, в материалах, опубликованных в научных изданиях, практически отсутствуют достоверные данные по эффективности применения нейронных сетей (оценок качества, скорости, объема, точности и т.д.). В настоящей работе основной упор делается на совершенствование алгоритмов за счет использования интеллектуальных и суперкомпьютерных технологий при объективном подходе к оценке полученных результатов.

Цель диссертационной работы состоит в повышении эффективности и надежности процессов обработки и передачи данных в многопроцессорных вычислительных комплексах космического назначения на основе моделей искусственных нейронных сетей. Для достижения поставленной цели в работе решаются следующие основные задачи:

1) разработка и исследование нейросетевых алгоритмов фильтрации и сжатия изображений с потерями;

2) разработка алгоритмов нейросетевого шифрования и обеспечения безопасности сетевых узлов (защита компьютерных систем от атак);

3) оценка эффективности полученных алгоритмов и их сравнение с существующими аналогами;

4) создание математического и программного обеспечения МВС для решения задач параллельной обработки данных в системах космического назначения.

Методы исследования базируются на использовании теории искусственных нейронных сетей, методов алгебраической теории распознавания, элементов теории кодирования и методов машинного моделирования.

1 Архипов И. Россия прощается с космосом. http://www,inright.ni/artic1es/id 244/ 6

Научная новизна работы заключается в следующем:

1) предложен метод сжатия изображений с потерями, превосходящий возможности формата Jpeg-2000 в широком диапазоне коэффициентов сжатия, основанный на комбинации адаптивного алгоритма минимизации числа нейронов сети Кохонена и алгоритма сжатия без потерь;

2) разработаны алгоритмы, обеспечивающие повышение надежности процессов приема-передачи и обработки информации, включая алгоритм шифрования, обеспечивающий обучение на многосимвольных алфавитах и требующий малого объема памяти для хранения настроек, и алгоритм мониторинга аномальной сетевой активности;

3) предложен алгоритм фильтрации на основе наборов рециркуляционных сетей-экспертов и встроенного механизма классификации, позволяющий восстанавливать изображения при 50% заполнении шумами;

4) разработан метод выделения регионов на снимках ДЗЗ с помощью спектрографических текстур и нейронной сети, обеспечивающий возможность работы не только со спектральными характеристиками, но и непосредственно с пикселями изображения.

Практическая значимость полученных результатов определяется их применением для решения комплекса актуальных задач обработки данных космического назначения в НС КИС, направленных на расширение функциональности и повышение автономности. Разработанные в настоящей работе алгоритмы предоставляют пользователю возможность решения широкого круга задач нейросетевой обработки потоков данных как на кластерных вычислительных устройствах (КВУ), так и на обычных персональных компьютерах с высокой степенью эффективности. Практическая значимость результатов отражена в отчетах выполненных научных исследований в рамках:

1. Программы Союзного государства «Развитие и внедрение в государствах-участниках Союзного государства наукоемких компьютерных технологий на базе мультипроцессорных вычислительных систем», шифр «ТРИАДА» (проект ПР5 «Разработка новых алгоритмов, принципов создания систем обработки изображений и другой информации от космических средств наблюдения, ориентированных на применение многопроцессорных вычислительных кластеров повышенной вычислительной мощности»);

2 Buscema M. Recirculation neural networks, Substance Use & Misuse, vol. 33, no. 2, pp.383-388, 1998, special issue on artificial neural networks and complex social systems.

2. НИР «Разработка моделей для проведения математического и натурного моделирования по обоснованию принципов предварительной обработки и сжатия целевой информации в бортовых и наземных высокопроизводительных командно-информационных системах при формировании и передаче интегрированных цифровых информационно-управляющих потоков». Шифр НИР: «Поток-ПС»;

3. Программы Союзного государства «Космос-НТ» (НИР «Разработка прототипа программной нейросетевой системы контроля телеметрической информации, диагностики подсистем космических аппаратов, обработки космических снимков»);

4. Научно-технической программы Союзного государства «Разработка и использование программно-аппаратных средств ГРИД-технологий и перспективных высокопроизводительных (суперкомпьютерных) вычислительных систем семейства «СКИФ», шифр «СКИФ-ГРИД».

Внедрение результатов работы. Основные результаты диссертационной работы были использованы при разработке программного комплекса «ППС ИНС» для НИЦЭВТ по проекту «Триада» (свидетельство о государственной регистрации программы для ЭВМ №2010610208, см. прил. А) и модуля мониторинга аномальной сетевой активности на основе искусственных нейронных сетей «Эгида-НС» (свидетельство о государственной регистрации программы для ЭВМ №2011611277, см. прил. Б). Разработанное алгоритмическое и программное обеспечение внедрено в Научно-исследовательском институте космических систем им. A.A. Максимова (НИИ КС) (см. прил. В). Алгоритмы сжатия и фильтрации внедрены в учебный процесс Института программных систем «УГП имени А.К. Айламазяна» (НОУ ВПО ИПС «УГП имени А.К. Айламазяна») при проведении практических и теоретических занятий по дисциплинам «Математические основы обработки сигналов» и «Моделирование вычислительных систем» (см. прил. Г).

Результаты диссертационной работы докладывались и обсуждались на международных и всероссийских научно-практических конференциях и симпозиумах:

1) научно-техническая конференция ФГУП «РНИИКП» (10-12 октября 2006, Москва, ФГУП «РНИИ КП»);

2) XII ежегодная научно-практическая конференция УГП им. А.К. Айламазяна (19 апреля 2008, Переславль-Залесский);

3) I, III и IV всероссийские научно-технические конференции «Актуальные проблемы ракетно-космического приборостроения и информационных технологий» (28-30 апреля 2008, Москва, ФГУП «РНИИ КП»), (1-3 июня 2010, Москва, ОАО «Российские космические системы»), (15-17 июня 2011, Москва, ОАО «Российская корпорация ракетно-космического приборостроения и информационных технологий»);

4) V международная научно-практическая конференция «Исследование, разработка и применение высоких технологий в промышленности» (28-30 апреля 2008, Санкт-Петербург);

5) IX международная конференция «Распознавание образов и анализ изображений: новые информационные технологии» (РОАИ-9-2008) (14-20 сентября 2008, Нижний Новгород);

6) международная конференция «Программные системы: теория и приложения» (12-15 мая 2009, Переславль-Залесский);

7) III всероссийская научная конференция «Нечеткие системы и мягкие вычисления» (НСМВ-2009), (21-24 сентября 2009, Волгоград);

8) I специализированный международный симпозиум «Космос и глобальная безопасность человечества» (2-4 ноября 2009, Amathus Beach Hotel, Лимассол, Кипр);

9) XII всероссийская научно-техническая конференция «Нейроинформатика-2010» (25-29 января 2010, Москва, МИФИ);

10) I всероссийская научная конференция молодых ученых «Теория и практика системного анализа» (25-28 апреля 2010, Рыбинск);

11) III международная конференция по безопасности информации и сетей (SIN 2010) (711 сентября 2010, Таганрог).

Кроме того, результаты работы докладывались и обсуждались на семинарах Исследовательского центра искусственного интеллекта и Исследовательского центра мультипроцессорных систем ИПС имени А.К. Айламазяна РАН в г. Переславль-Залесский (2005-2011).

Основные результаты диссертационной работы изложены в 19 печатных работах, в числе которых 4 статьи опубликованы в рецензируемых изданиях, рекомендованных ВАК РФ.

Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы, включающего 102 наименования, и четырех приложений. Основная часть изложена на 116 страницах машинописного текста, иллюстрируется 44 рисунками и 52 таблицами.

Заключение диссертация на тему "Методы и алгоритмы обработки потоков данных в многопроцессорных вычислительных комплексах командно-измерительных систем на основе моделей нейронных сетей"

4.8 Основные выводы

1. Выполненная программная реализация алгоритмов обработки потоков данных входит составной частью в параллельную программную систему «Ш 1С ИНС», обновленная версия которой устанавливается на КВУ, предназначенное для решения задач космического назначения.

2. Разработанные алгоритмы в составе математического и программного обеспечения «1111С ИНС» существенно расширяют возможности наземных станций по обработке потоков данных в части фильтрации и сжатия изображений с потерями, обработки космических снимков ДЗЗ, шифрования и обеспечения безопасности информации.

3. Параллельные программные реализации алгоритмов обеспечивают сокращение времени вычислений (масштабировании), что подтверждено результатами экспериментов (см. табл. 2.7,2.14, 3.10 и 3.29).

Заключение

Основным результатом диссертации явилось создание алгоритмического и программного обеспечения, предназначенного для обработки потоков данных космического назначения на искусственных нейронных сетях, функционирующего на МВС. Решены следующие задачи:

1. Даны оценки качества алгоритмов сжатия изображений с потерями для ИНС Кохонена и прямого распространения. Комбинация предложенного адаптивного алгоритма минимизации числа нейронов и алгоритма сжатия без потерь позволила превзойти возможности формата Jpeg-2000.

2. Разработан новый алгоритм нейросетевого шифрования, который в отличие от известных методов обеспечивает гибкость настройки параметров и требует малого объема памяти.

3. Разработан программный комплекс обеспечения информационной безопасности наземных вычислительных комплексов на основе нейросетевой технологии мониторинга аномальной сетевой активности.

4. Разработан новый нейросетевой алгоритм фильтрации с учителем на основе наборов сетей-экспертов и встроенного механизма классификации, который позволяет восстанавливать изображения при 50% заполнении шумами.

5. Разработаны методы выделения целевых объектов и регионов на снимках ДЗЗ с помощью спектрографических текстур и нейронной сети, обеспечивающие возможность непосредственной работы с изображениями.

6. Создано алгоритмическое и программное обеспечение, реализующее разработанные алгоритмы обработки потоков данных на высокопроизводительных вычислительных средствах перспективной НС КИС.