автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Структурные модели и алгоритмы обнаружения аномалий в ионосферных сигналах

На правах рукописи

Полозов Юрий Александрович

СТРУКТУРНЫЕ МОДЕЛИ И АЛГОРИТМЫ ОБНАРУЖЕНИЯ АНОМАЛИЙ В ИОНОСФЕРНЫХ СИГНАЛАХ

4843138

Специальность 05Л3.18 - Математическое моделирование, численные методы и комплексы программ

Автореферат диссертации на соискание ученой степени кандидата технических наук

/

с п

ь I; и

Санкт-Петербург - 2011

4843138

Работа выполнена в Институте космофизинеских исследований и распространения радиоволн ДВО РАН

Федеральном государственном образовательном учреждении вьесшсго про(})ессионального образования «Камчатский государственный технический университет»

Научный руководитель: доктор технических наук, доцент

Мандрикова Оксана Викторовна

Научный консультант: доктор физико-математических наук

Богданов Вадим Васильевич

Официальные оппоненты: доктор технических наук, профессор

Гагарин Юрий Иванович

кандидат технических наук Мельканович Виктор Сергеевич

Ведущая организация: Санкт-Петербургский государственный университет информационных технологий, механики и оптики (СПбГУ ИТМО)

Защита диссертации состоится 16 февраля 2011 г. в Ц, ¿— часов на заседании совета по защите докторских и кандидатских диссертаций Д212.238.01 Санкт-Петербургского государственного

электротехнического университета «ЛЭТИ» им. В.И. Ульянова (Ленина) по адресу: 197376, г. Санкт-Петербург, ул. Проф. Попова, 5.

С диссертацией можно ознакомиться в библиотеке университета

Автореферат разослан <#/» декабря 2010г.

Ученый секретарь совета по защите докторских и кандидатских диссертаций Д212.238.01, к.т.н.

(у

еголева Н.Л.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Настоящая работа посвящена разработке математических моделей и методов анализа ионосферных сигналов, представленных в виде временных последовательностей данных, и построению программных систем их обработки. Наряду с другими методами исследований, анализ природных сигналов имеет важное значение для решения целого ряда научных задач физики, и в частности геофизики. Качество процедуры анализа определяется адекватность^ используемых математических моделей, методов и соответствующего математического аппарата их реализующего. Сложности решения задач обработки и анализа ионосферных сигналов связаны с их сложной структурой. Они включают большое количество компонент, содержат локальные особенности различной формы и временной протяженности, аномальные эффекты, а также шумовые факторы различной природы. В диссертационной работе рассматриваются задачи, связанные с обнаружением аномальных эффектов в ионосферных сигналах, возникающих в периоды сильной сейсмической активности.

Структура ионосферы, распределение ее параметров по высоте определяется плотностью атмосферы, ее химическим составом и спектральными характеристиками солнечного излучения. Структурно ионосфера разделена на несколько областей (Е,0,Р). Область Б подразделяется на Б] и ¥2. На состояние ионосферы существенное влияние оказывает солнечная активность. Исследование ионосферы выполняется дистанционными методами, одним из которых является вертикальное радиозондирование. Частота несущей радиоимпульса, для которой данная область ионосферы становится прозрачной, называется критической (^2) и характеризует концентрацию электронов.

Существующие модели и методы анализа ионосферных сигналов не являются достаточно эффективными и имеют следующие недостатки:

1. Для отдельных видов аномалий отсутствует теоретический аппарат по их выделению и оценке параметров.

2. Ввиду отсутствия единой теоретической платформы (а не комбинации отдельных алгоритмических решений), при обработке сигналов наблюдается потеря и искажение информации.

В применяемых в настоящее время методах анализа ионосферных сигналов зачастую используется процедура сглаживания, что влечет потерю информации. Также, основные инструменты определения аномалий, предшествующих землетрясениям, основаны на анализе средних и медианных значений, что не позволяет выявить внутренние зависимости и отдельные аномальные эффекты.

Аномалии в ионосферном сигнале могут иметь форму резких всплесков, пиков различной амплитуды и временной протяженности. Наиболее эффективным способом их идентификации является вейвлет-

преобразование. Данный аппарат и имеет широкий спектр базисов различной формы с компактными носителями. Используя вейвлет-преобразование, мы имеем возможность идентифицировать особенности структуры ионосферного сигнала и выполнить их анализ. Это Играет важную роль в задачах обработки природных сигналов сложной формы. После разложеня сигналов в пространстве вейвлет-признаков в диссертационной работе для их дальнейшей обработки предложен аппарат нейронных - сетей. Нейронные сети позволяют решать трудно формализуемые ¡задачи, такие как распознавание образов, кластеризация, прогнозирование. Также, аппарат нейронных сетей служит хорошей основой для построения программных систем анализа данных, в том числе представленных в виде временных рядов. Используя данный аппарат совместно с вейвлет-преобразованием, в диссертационной работе предложен метод идентификации регулярных составляющих структуры сигнала и локальных особенностей.

Таким образом, задачи связанные с построением моделей ионосферных сигналов, выделением в них аномальных особенностей, разработкой соответствующих алгоритмов и программных средств являются актуальными и решаются в данной работе.

Целью работы является разработка модели ионосферного сигнала 1оР2, методов и численных алгоритмов его обработки, и построение на их основе программной системы анализа и прогноза.

Для достижения этой цели в диссертации решались следующие задачи:

1. Разработка модели ионосферного сигнала, учитывающей его регулярные составляющие и аномальные особенности.

2. Разработка метода обнаружения аномалий на основе идентификации компонентов модели.

3. Разработка численных алгоритмов обнаружения и оценки параметров структурных особенностей ионосферных сигналов.

4. Разработка программной системы обработки и анализа ионосферных сигналов.

Методы исследования. В диссертационной работе используется аппарат теории вероятностей, случайных процессов, математической статистики, теории распознавания образов, цифровой обработки сигналов, аппарат вейвлет-преобразования, нейросетевые методы.

Научную новизну работы составляет:

1. Предложена модель ионосферного сигнала, описывающая его регулярные составляющие и аномальные особенности.

2. Предложен метод выделения регулярных составляющих сложного сигнала и его аномальных особенностей, основанный на совместном применении вейвлет-преобразования и нейронных сетей.

3. Разработан численный алгоритм выделения и оценки параметров локальных особенностей ионосферного сигнала.

4. Разработан численный алгоритм выделения аномалий в ионосфере, основанный на совместной обработке ионосферных (сигнал критической частоты) н геомагнитных (К-индекс) данных.

Положения, выносимые на защиту:

1. Модель ионосферного сигнала, описывающая его регулярные составляющие и аномальные особенности.

2. Метод выделения регулярных компонент ионосферного сигнала и аномальных особенностей, основанный на вейвлет-преобразовании и нейронных сетях.

3. Численный алгоритм выделения и оценки параметров локальных особенностей ионосферного сигнала, позволяющий выявить аномалии.

4. Численный алгоритм выделения аномалий в ионосфере, основанный на совместной обработке данных критической частоты и К-индекса.

5. Программная система обработки и анализа ионосферных данных, построенная на разработанном методе и алгоритмах.

Практическая ценность работы заключается в следующем:

1. Разработана программная система, обеспечивающая выявление и "оценку параметров аномалий в ионосферных сигналах.

2. Разработана методика и алгоритмы выявления локальных особенностей в виде «ступеней», «всплесков», «пиков», и оценки их параметров в сигналах сложной структуры.

3. Разработанные программные модули применимы для более широкого круга задач анализа сигналов со сложной структурой.

Реализация н внедрение результатов исследований:

Разработанный программный комплекс используется для выявления аномалий ионосферных данных в Институте космофизических исследований и распространения радиоволн ДВО РАН (ИКИР ДВО РАН).

Разработанные программные средства использовались в учебном процессе при проведении лабораторных работ для студентов специальностей "Управление и информатика в технических системах" в Камчатском государственном техническом университете.

Исследования поддержаны грантом федеральной программы «Участник молодежного научно-исследовательского конкурса». «УМНИК 10-6», Госконтракт от «30» июня 2010 года № 8283р/10269 тема "Разработка моделей и методов анализа сложных природных сигналов в задачах выделения аномалий в ионосферных параметрах".

Грант победителя конкурса молодых изобретателей Камчатского края. Тема работы «Разработка автоматизированной системы выявления аномалий в сложных сигналах на основе совместного применения теории

вейвлет-обработки и нейронных сетей». Договор №7 от 5 апреля 2010 г. о предоставлении целевого финансирования.

Апробация работы: Основные положения и результаты работы докладывались и обсуждались на следующих научно-технических конференциях: на Международной конференции по мягким вычислениям и измерениям (8СМ'2006), С.-Петербург, 2006г.; на Международной конференции по мягким вычислениям и измерениям (8СМ'2007), С.Петербург, 2007г.; на IV международной конференции "Солнечно-земные связи и предвестники землетрясений", П.-Камчатский, 2007г.; на Международной конференции по мягким вычислениям и измерениям (8СМ'2008), С.-Петербург, 2008г.; на VI региональной молодежной научной конференции "Исследования в области наук о Земле", П-Камчатский, 2008г.; на ежегодной научно-технической конференции профессорско-преподавательского состава и аспирантов КамчатГТУ "Научно-технические исследования рыбохозяйственной отрасли Камчатского края", П.-Камчатский, 2008г.; на 5-ой научной конференции «Управление и информационные технологии» (УИТ-2008), С.-Петербург, 2008г.; на первой Международной научно-технической конференции "Компьютерные науки и технологии", Белгород, 2009г.; на Международной конференции по мягким вычислениям и измерениям (8СМ'20Ю), С.-Петербург, 2010г.; на V международной конференции "Солнечно-земные связи и физика предвестников землетрясений", с. Паратунка, Камчатский край, 2010г.

Публикации: По теме диссертации опубликовано 16 печатных работ (в том числе 4 из списка изданий, рекомендованных ВАК, 1 статья в другом издании, 10 работ в материалах международных и всероссийских научно-технических конференций, 1 свидетельство об отраслевой регистрации разработки).

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, заключения, списка литературы, включающего 86 наименований. Содержание работы изложено на 134 страницах машинописного текста.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении показана и обоснована актуальность работы, сформулированы основные цели и задачи, научная новизна и практическая ценность работы.

В перкой главе описана структура ионосферных сигналов и способы регистрации данных. Также рассмотрены физические особенности ионосферы и характер связи ионосферно-литосферных процессов. Дан обзор существующих методов обработки и анализа природных временных рядов с указанием имеющихся недостатков. Выполнен анализ современных подходов и методов к построению модели сигнала сложной внутренней структуры. Рассмотрен способ построения модели ионосферного сигнала с использованием вейвлет-обработкн и нейронных

сетей. Приводятся аргументы в пользу того, что конструкция, основанная на совмещении вейвлетов и нейронных сетей, является наиболее эффективным методом, позволяющим решить поставленную задачу.

Используя вейвлет-аппарат, имеем возможность представить сигнал в виде суммы образующих его структурных компонент:

Л0 = /(0 + Л(0 + - + /,(0 + ..., где, /Д0 = 1<Л(0, ^

к

- базисные вейвлет-функции. Коэффициенты п определяются из

соотношения с,-„ = (./,^ „).

Данное представление позволяет реализовать процедуру вьщеления структурных компонент ионосферного сигнала. При этом в отличие от традиционных методов сглаживания предлагаемый теоретический аппарат является устойчивым к выбросам, шумам и эффективно выделяет локальные и регулярные структурные особенности, что важно при анализе природных данных и решении задач обнаружения аномалий.

Случайный сигнал у представляет зависимость _у(7) = /(/) + е{{), где / - истинное значение измеряемой величины, е - ошибки измерений. Компоненты случайного сигнала у в пространстве вейвлет-образов имеют вид у, (1) = (7) + е} (/) .

Для дискретного сигнала, не нарушая общности, примем 7 = 0. В качестве базовой конструкции для построения отображения будем использовать конструкцию вейвлет-пакетов, имеющую быстрые алгоритмы преобразования и позволяющую идентифицировать различные типы частотно-временных структур.

Таким образом, общий вид модели ионосферного сигнала будет:

у (0 = ¿£,(0 + 0(0,

> = 0

где gj - компоненты сигнала, ] - масштаб, &{1) - шл'м.

Вейвлет-методы позволят идентифицировать особенности структуры ионосферных данных, подавить шум и выполнить детальный анализ компонент разложения. Учитывая нелинейную структуру компонент разложения, дальнейшая обработка будет основана на аппарате нейронных сетей, что позволит выделить регулярные составляющие, выполнить прогноз и выявить аномальные эффекты. Нейронные сети позволяют решать трудно формализз'емые .'задачи, такие как распознавание образов, прогнозирование, моделирование сложных

систем. Также, аппарат нейронных сетей служит хорошей основой для построения автоматизированных систем обработки и анализа данных.

Таким образом, решение задачи обработки и анализа ионосферного сигнала с целью выявления и оценки параметров аномальных особенностей можно разбить на следующие взаимосвязанные этапы:

1) выделение структурных составляющих ионосферного сигнала на основе вейвлетов;

2) идентификация регулярных составляющих сигнала с применением технологии нейронных сетей;

3) оценка параметров и анализ локальных особенностей сигнала. Общая схема решения задачи имеет вид, показанный на рис. 1.

1 Исследование ионосферных процессов

Рис. 1. Схема исследования ионосферных процессов Во второй главе рассматриваются основные положения вейвлет-теории. Описываются непрерывное и дискретное вейвлет-преобразования, быстрые алгоритмы вейвлет-разложения. Используя этот аппарат предложены численные алгоритмы выделения и оценки параметров локальных особенностей в структуре сложного сигнала.

В момент возникновения аномального явления в сигнале возникает особенность. Из непрерывного вейвлет-преобразования следует, что вейвлег Т имеет нулевое среднее значение и

ф/(а,Ь)=\/(()~Ч1((—^]с!{ измеряет изменение / в

окрестности точки Ъ, размер которой пропорционален масштабу а. При стремлении масштаба а к нулю вейвлет-коэффициенты характеризуют локальные свойства функции f в окрестности точки Ъ .

Убывание амплитуды коэффициентов вейвлет-преобразования в зависимости от масштаба а связано с равномерной и точечной гладкостью Липшица сигнала. Когда масштаб а убывает,

амплитуды венвлет-коэффициентов Ь)| имеют быстрое убывание

до нуля в областях, где сигнал не содержит локальных особенностей. Таким образом, можно считать, что функция / в окрестности точки Ъ

имеет локальную особенность, если не удовлетворяет условию

| }У/{а,Ъ)[<А'аа+"2, (1)

А' - некоторая константа; а - показатель Липшица, что тождественно равномерному условию Липшица.

Характеризовать / в точке Ь бывает достаточно трудно, потому что / может иметь различные виды особенностей, присутствующих в

окрестностях точки Ь . Более ясную интерпретацию здесь дает конус влияния точки V, который определяется неравенством

— у| < Са (2)

Если Ъ находится в конусе влияния V, то IV/ (а,д) = ь у

зависит от значения / в окрестности V.

Рассмотрим дискретный сигнал с шумом:

у[п] = /[п]+е[п], (3)

где - шум.

На основе конструкции дискретного вейвлет-разложения сигнала получаем: ЯО = СО • ГДе = Условие (1)

примет вид:

й А'Г*Ш (4)

Здесь каждая ЧЛ ( определяет свой частотно-временной

прямоугольник'в частотно-временной плоскости. В этом случае процедура выделения локальных особенностей функции у может быть построена на

анализе детализирующих коэффициентов ¿1 -1 - \с1 J , которые для

малых у определяют мелкомасштабные компоненты сигнала. Из соотношения (4) следует, что данная процедура может быть легко реализована на основе применения пороговой функции:

¡,п I 0, если \г | < 1 ,

где Т - порог. В этом случае встает вопрос определения порога Т.

Имея в наличии разномасштабные составляющие сигнала, порог необходимо определять для каждого масштабного уровня /. Выбор

порога Т для масштаба j может быть основан на следующей процедуре: Tj = min \d,t J > где множество индексов I jn = {(у, л): j« - v'\й С j j)

(см. (2)), v - момент возникновения аномального явления, Су - параметр, определяющий размер интервала длительности аномалии на масштабе j .

Коэффициенты вейвлет-преобразования djn содержат шумовую составляющую (см. (3)). Они могут быть выделены на основе применения пороговой функции, где порог Те = <72, 2 Med >- )lL»<i, где Med

а " " 0,6745

- медиана, - наимсш>ший масштаб, к - длина сигнала. Поэтому при выборе порога необходимо учитывать максимальный уровень коэффициентов шума и при выполнении условия: Tj > Те, процедура (4)

обеспечит подавление шумовых составляющих сигнала.

Интервал длительности аномалии и масштабы несут важную информацию о происходящем физическом процессе. Зная момент возникновения особенности, ее длительность и масштабные уровни ее проявления, можно выполнить следующую оценку параметров аномалии:

1. Длительность аномалии: t .где / - наибольший масштаб ее

;max -/max

проявления.

2. Длительность аномалии на масштабе j : .

3. Масштабные уровни аномалии: j meK £ I jп.

4. Момент возникновения аномалии: tmeK = b.

В третьей главе рассматриваются основные положения теории нейронных сетей. Описывается классическое решение задачи аппроксимации функций на основе нейронной сети, оцениваются его недостатки. Предлагается метод выделения регулярных составляющих сигналов, основанный на совместном применении вейвлетов и нейронных сетей. Рассматриваются вопросы построения обучающего множества сети и определения внутренней структуры сети.

Особенностью аппарата нейронных сетей является необходимость правильного выбора входных данных для обучения. Процесс формирования входных образов, позволяет оптимизировать процедуру обучения сети и определяет структуру сети.

В задачах аппроксимации функции методами нейронных сетей при формировании обучающей выборки необходимо учитывать следующие важные особенности:

1. Каждое наблюдение зависит от предыдущих значений данных.

2. При обработке сигналов с шумом необходимо учитывать, что шум

может исказить результат обучения сети. Поскольку формирование входных образов основано на применении конструкции вейвлет-преобразования, то шумовые компоненты подавляются.

В работе используется сеть прямой передачи сигнала. Обучение выполняется на основе алгоритма обратного распространения ошибки.

Полученный массив данных {/(«)}", делится на Ь блоков длины

На основе отображения сигнала в пространство вейвлст-образов для каждого блока .V имеем представление сигнала / в вцце линейной комбинации разномасштабных составляющих:

/' = /.' + //+•■. + /;. где . .Ш. - пространства вейвлет-пакета.

3 3 3

Составляющие, из которых сформируется обучающая выборка для нейронной сети, должны содержать характерные для сигнала признаки. Эти признаки определяют регулярные составляющие сигнала и могут быть идентифицированы следующим образом:

Строим нейронные сети для различных составляющих /•* сигнала

Цикл 1: Для каждого блока данных .V. используя составляющую / .1 , выполняем вейвлет-восстановление сигнала (остальные составляющие при восстановлении заменяем нулями) и на основе комбинаций восстановленных данных из различных блоков формируем обучающее множество. Строим сеть 1, выполняем ее обучение и тестирование.

Цикл 2: Для каждого блока данных л, используя составляющие /1 ' ' / 2' > аналогично циклу 1, выполняем вейвлет-восстановление сигнала и на основе комбинаций восстановленных данных из различных блоков формируем обучающее множество. Строим сеть 2, выполняем ее обучение и тестирование.

И т.д.

Цикл р: Для каждого блока данных 5, используя составляющие /, * , — / / > аналогично циклам 1, 2, выполняем вейвлет-

восстановление сигнала и на основе комбинаций восстановленных данных из различных блоков формируем обучающее множество. Строим сеть р, выполняем ее обучение и тестирование.

Цикл 0 + 1): Для каждого блока данных $, используя составляющие /1 ' /,' , выполняем вейвлет-восстановление сигнала и на основе

комбинаций восстановленных данных из различных блоков формируем обучающее множество. Строим сеть р +1, выполняем ее обучение и тестирование.

И т.д.

Формирование структуры нейронной сети, при выполнении описанных выше циклов, производится на основе следующего алгоритма:

1. Строим сеть, состоящую из одного нейрона в первом слое и а нейронов во втором (выходном) слое. Производим ее обучение.

2. В первый слой сети добавляем один нейрон и вновь произведем ее обучение.

3. Аналогично нейроны продолжаем добавлять в первый слой, до тех пор, пока они улучшают общее качество аппроксимации сигнала сетью.

4. Если очередной нейрон не дает улучшения характеристик сети, удаляем его, а в сеть добавляем промежуточный слой, состоящий из одного нейрона. Аналогичным образом производим обучение сети, и если добавленный слой повысил уровень аппроксимации, то в него начинаем добавлять нейроны по принципу п. 2, 3.

5. Подобным образом создается столько слоев, сколько необходимо для достижения требуемого качества работы сети при заданном массиве входных данных.

Таким образом, для каждой возможной комбинации имеющихся признаков строится нейронная сеть, каждая из которых определяется внутренней структурой входных образов. На основе анализа результатов работы полученных нейронных сетей определяем «наилучшую», т.е. имеющую наименьшую ошибку на тестовых данных:

1 ; г-.

ЕИт- = тт(--Уе (л)!). где I - номер сети, В - длина тестовой

' о и '

выборки. Выделенные на основе «наилучшей» сети компоненты сигнала содержат наиболее характерные для него признаки, ' и определяют регулярные составляющие сигнала. Если при обучении сети использовать данные, не содержащие определенных особенностей (например, аномалий), то момент возникновения такой особенности в сигнале может быть выявлен на основе анализа вектора ошибок сети.

Предложенный способ получения регулярных составляющих сигнала позволяет избежать потери и искажения информации в отличие от традиционных методов и применим для широкого спектра сигналов со сложной внутренней структурой.

В четвертой главе приводится описание экспериментов по выявлению и оценке параметров аномальных особенностей в сигналах критической частоты. Описывается используемое программное обеспечение. Приводятся эксперименты с модельными сигналами и их результаты. Описывается полученная программная нейросетевая система

прогноза значений ионосферного сигнала и программа для анализа ^2 и К-индскса, приводятся результаты их работы.

При проведении экспериментов с природными сигналами использовались часовые данные критической частоты Г0Р2 и трехчасовые данные К-индекса, регистрацию которых ведет Институт космофизических исследований и распространения радиоволн ДВО РАН. Результаты обработки сопоставлялись с данными оперативного каталога землетрясений Камчатской опытно-методической сейсмологической партии ГС РАН. По причине того, что сигналы имеют сложную структуру с сезонным ходом и в данных есть пропуски, проводилась предварительная их обработка. Вектор обучающего множества включал данные одного сезона за сейсмически спокойный период времени. Сигналы были разложены на составляющие с помощью вейвлет-пакета и пропуски заполнялись соответствующими им медианными значениями, рассчитанными по данным предыдущего месяца.

В процессе экспериментов была идентифицирована модель ионосферного сигнала, имеющая вид:

уЛА

с/Л (о +2>,(0' * )))) '

гДе р1(г)=?)1(г) =---' <рА2) = к*г + Ъ

1 + ехр( -г)

СОщ - весовые коэффициенты первого слоя нейронной сети, ] - ый нейрон первого слоя, о у - весовые коэффициенты второго слоя

нейронной сети, / - ый нейрон второго слоя, сош - весовые

коэффициенты выходного слоя нейронной сети, т = 1,3 - выход нейронной сети, Ч^- базисный- вейвлет, С/д. - коэффициенты

сглаженной составляющей вейвлет-пакета, gs - локальные особенности.

В соответствии с предложенным алгоритмом выявления аномалий с учетом фонового уровня, сезонных характеристик и величины флуктуаций сигнала для каждого масштаба было определено следующее пороговое

значение: Т) = тес1^1 ^ п |)+ 2,5Л;, где

/ / с

»-к ■—' и £ X тип<Рг

} \ и К * V

= | 1 Ц (¡^ • \-djnJ' ^}.п ' среднее значение, тей -

медиана, которая характеризует средний уровень процесса. Коэффициент 2.5 определялся статистически. Расчет производился в пределах скользящего временного окна, равного 720 отсчетам сигнала (что соответствует временному интервалу в один месяц). На рис. 2. показан

результат применения данного алгоритма для данных 1986 г. Моменты выявления аномалий в сигнале выделены звездочками. Стрелкой отмечен момент землетрясения (2 марта 1986 г., Е = 12,8). Анализ рис. 2. показывает, что накануне землетрясения в сигнале выявлена многомасштабная аномалия, которая возникла за 23 дня до события и проявила себя на масштабных уровнях 5-15 и 23-38. Длительность аномалии составляла 6 часов. Аналогичные результаты были получены для данных других лет.

| 5 <

29.01

05.02

ггм&^евбеоом01момрм!оп

Рис. 2. Результат обработки сигнала критической частоты за январь-

февраль 1986 года Используя предложенный метод выделения регулярных составляющих сигнала, разработана система, включающая трехслойную нейронную сеть прямой передачи сигнала (рис. 3.). Она позволяет выполнить прогноз данных с шагом упреждения, равным 3 отсчетам, что соответствует 3 часам. На вход сети подается вектор, состоящий из 168 отсчетов сигнала, что соответствует 7-ми дням.

ПЕУ

'Ж-

10

/

25

Рис. 3. Система прогноза значений критической частоты На рис. 4. показаны результаты работы данной системы, обработка выполнялась для данных за 1973 г.: в верхней части показан вектор ошибок сети, в нижней - дисперсия вектора ошибок сети, рассчитанная в скользящем временном окне, равном 24-м отсчетам. Стрелкой показаны моменты возникновения землетрясений (анализировались землетрясения с энергетическим классом Е>12,5). Анализ графиков показывает, что накануне землетрясений наблюдается увелечение ошибки сети. Аномалия была обнаружена за 6 суток до первого землетрясения. Результаты обработки других лет показали, что аномальные особенности в сигналах ^2 наблюдаются либо непосредственно перед событием (в случае серии сейсмических событий), либо за 2-6 недель до землетрясений.

20а

Рис. 4. Ошибка НС при обработке данных за январь-февраль 2002

года.

Также, разработана программная система выявления и оценки параметров аномальных особенностей включающая совместный анализ ионосферного сигнала и данных индекса геомагнитной активности К. Данная система основана на экспериментально обнаруженном эффекте, который заключается в превышении критической частотой соответствующих медианных значений на фоне повышенной солнечной активности накануне сейсмических событий на Камчатке. Эффект был отмечен как важное достижение ИКИР ДВО РАН в 2000г.

Система действует по следующему алгоритму:

1. Определяются ряды разностей между текущим значением foF2 и соответствующим медианным значением: и - t —I,-

-1 1 тек med,

2. В пределах скользящего временного окна выполняется расчет суммы положительных значений ряда разностей: с = у и - и > 0 -

су/Ш ¿у* / ■ " /

3. Выявление аномалий на основе решающего правила:

статистической обработки данных.

4. Выполняется вейвлет-анализ значений ряда ^2: анализируются коэффициенты, абсолютные значения которых превышают пороговое значение.

Система внедрена и в настоящее время используется в ИКИР ДВО РАН. На нее получено свидетельство об отраслевой регистрации разработки. Результат работы системы показан на рис. 5.

где г , К

порог

пороговые значения, получаемые на основе

Рис. 5. Результаты работы программной системы выявления и оценки параметров аномальных особенностей сигнала 1оР2 за период январь-декабрь 1982 года Для проверки адекватности модели сигнала был разработан моделирующий алгоритм и проводилась обработка модельных данных. Модельные сигналы были построены на основе трех компонент: медианные значения ионосферного сигнала, белый шум, многомасштабные аномалии имеющие вид: «всплеска», «пика», «ступени». Длительность внесенных аномалий составляла от 10 до 80 отсчетов, амплитуда - от фонового уровня до 1,3 фонового уровня. На рис. 6. показаны результаты обработки модельных данных. Проведенные эксперименты показали, что эффективность выявления аномалий зависит от длительности, амплитуды, вида аномалии и базисной вейвлет-функции.

Аномалия в виде пика

Аномалия в виде всплеска

Г

Ступенееобразная -аномалия

•• НС + ДобешиЗ я До(5еши 3 « Кауфлет 2 ■ Ложные аномалии

- НС + ДобешиЗ

» НС + Кауфлет 2

- НС

■ Ложные аномалии

Рис. 6. Результаты экспериментов на модельных сигналах

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

Основные научные и практические результаты работы можно сформулировать следующим образом:

1. Предложена модель ионосферного сигнала, описывающая его регулярные составляющие и аномальные особенности.

2. Предложен метод выделения регулярных составляющих сложного сигнала и его аномальных особенностей, основанный на совместном применении вейвлет-преобразования и нейронных сегей.

3. Разработан численный алгоритм выделения и оценки параметров локальных особенностей ионосферного сигнала.

4. Разработан численный алгоритм выделения аномалий в ионосфере, основанный на совместной обработке ионосферных (сигнал критической частоты) и геомагнитных (К-индекс) данных.

5. На основе предложенного метода и алгоритмов разработана программная система анализа и прогноза ионосферных сигналов, внедренная в Институт космофизических исследований и распространения радиоволн ДВО РАН. При использовании данной системы были выявлены аномалии в поседении ионосферного сигнала накануне сильных землетрясений на Камчатке.

6. Разработана методика и алгоритмы выявления локальных особенностей в виде «всплесков», «пиков», «ступеней» в сигналах сложной структуры.

7. Разработанные программные модули применимы для более широкого круга задач анализа сигналов со сложной структурой.

Основные результаты диссертации опубликованы в следующих работах:

Публикации в изданиях, рекомендованных ВАК России:

1. Полозов Ю.А. Автоматизированный способ обработки сигналов со сложной структурой / Мандрикова О.В., Полозов Ю.А. // Информационные технологии. — Москва. 2008 г. №12, с. 15-19

2. Полозов Ю.А. Способ построения модели временного ряда на основе совместного применения методов нейронных сетей и конструкции вейвлет-преобразования / Мандрикова О.В., Портнягин H.H., Полозов Ю.А. // Известия вузов, Северо-Кавказский регион, — Новочеркасск, Серия технические науки. №4. 2008 г. с. 5-8.

3. Полозов Ю.А. Моделирование сигналов со сложной структурой на основе конструкции вейвлет-преобразования / Мандрикова О.В., Богданов В.В. Полозов Ю.А. // Информационные технологии. — Москва. 2008 г. №4. с.12-19.

4. Полозов Ю.А. Метод формирования обучающего множества для нейронной сети на основе вейвлет-фильтрации / Полозов Ю.А. // Известия вузов, Северо-Кавказский регион, — Ростов-на-Дону, Серия естественные науки. №3. 2010 г. - с. 12-16.

Другие статьи н материалы конференций:

5. Полозов Ю.А. Автоматический алгоритм выделения аномальных изменений в ионосферных параметрах на основе обработки

сигналов критической частоты f0F2 и индексов геомагнитной активности К / Мандрикова О.В., Богданов В.В., Полозов Ю.А. // Вестник КамчатГТУ. Выпуск 7. —-П.Камчатский, 2008. с. 47-52.

6. Полозов Ю.А. Автоматизированный метод выделения аномальных изменений в ионосферных параметрах накануне сильных землетрясений на Камчатке / Мандрикова О.В., Богданов В.В., Полозов Ю.А. // Междунар. конф. по мягким вычислениям и измерениям (SCM'2008): [сб. докл.]. — Санкт- Петербург: Издательство СПбГЭТУ "ЛЭТИ", СПб, 2008. с.122-125.

7. Полозов Ю.А. Выявление аномальных изменений в ионосферных параметрах на основе модельного представления сигналов критической частоты f0F2 / Мандрикова О.В., Богданов В.В., Полозов Ю.А. // Солнечно-земные связи и предвестники землетрясений: IV международная конференция 16-21 августа 2007г. с. Паратунка: [сб. докл.]. -П.-Камчатский. 2007. с. 213-216.

8. Полозов Ю.А. Моделирование сигнала критической частоты на основе нейронных сетей с целью поиска аномального поведения / Мандрикова О.В., Богданов В.В., Полозов Ю.А. // Ргос. of SCM'2006 (International Conference on Soft Computing and Measurements). Санкт-Петербург /Изд-во СПбГЭТУ "ЛЭТИ", СПб, 2006. Т.2. с. 158-160.

9. Полозов Ю.А. Анализ изменений, происходящих в ионосферных параметрах накануне сильных землетрясений на Камчатке, на основе вейвлет-преобразования сигналов критической частоты. / Мандрикова О.В., Богданов В.В., Полозов Ю.А. // Мевдунар. конф. по мягким вычислениям и измерениям (SCM'2007): [сб. докл.]. — Санкт-Петербург: Издательство СПбГЭТУ "ЛЭТИ", СПб, 2007, с. 213-216.

10. Полозов Ю.А. Система прогноза ионосферных данных на основе нейронной сети / Полозов Ю.А. // Материалы VI региональной молодежной научной конференции "Исследования в области наук о Земле" 26-27 ноября 2008 г. Петропавловск-Камчатский: КамГУ им. В.Беринга. 2008. - с.78-83

11. Полозов Ю.А. Метод обработки сигналов со сложной структурой на основе совмещения конструкции вейвлет-преобразования и нейронных сетей / Мандрикова О.В., Богданов В.В., Полозов Ю.А. // 5-я научная конференция «Управление и информационные технологии» (УИТ-2008), сб. докладов — Санкт-Петербург: Издательство СПбГЭТУ "ЛЭТИ", СПб, 2008, с. 207-209.

12. Полозов Ю.А. Выявление и анализ аномальных изменений в параметрах критической частоты на основе модельного представления с использованием нейронных сетей / Полозов Ю.А. // Материалы ежегодной научно-технической конференции профессорско-преподавательского состава и аспирантов КамчатГТУ (15-25 апреля 2008 г.) "Научно-технические исследования рыбохозяйственной отрасли Камчатского края". 4.1 - Петропавловск-Кшчатский: КамчатГТУ, 2009. - с. 73-75.

13. Полозов Ю.А. Выделение в геофизических полях аномалий приуроченных к сильным камчатским землетрясениям на основе комплексного анализа экспериментальных данных / Мандрикова О.В., Богданов В.В., Полозов Ю.А. // Сборник трудов первой Международной научно-технической конференции "Компьютерные науки и технологии". 4.2 - Белгород: ГиК, 2009.-е. 191-194.

14. Полозов Ю.А. Метод выделения и классификации локальных особенностей в сложных природных сигналах / Мандрикова О.В., Полозов Ю.А., Соловьев И. С. // Между нар. конф. по мягким вычислениям и измерениям (SCM'2010): [сб. докл.]. — Санкт-Петербург: Издательство СПбГЭТУ "ЛЭТИ", СПб, 2010, т. 2, с. 139-143.

15. Полозов Ю.А. Методы обработки и анализа сложных природных сигналов / Мандрикова О.В., Полозов Ю.А. // Солнечно-земные связи и предвестники землетрясений: V международная конференщи 2-7 августа 2010г., с. Паратунка: [сб. докл.]. - П,-Камчатский. 2010, с. 189-193.

16. Полозов Ю.А. Свидетельство об отраслевой регистрации разработки №12205 «Автоматизированная система совместной обработки сигналов критической частоты f0F2 и индексов геомагнитной активности К с целью выделения аномальных периодов накануне землетрясений», дата регистрации 29.01.2009 / Мандрикова О.В., Богданов В.В. Полозов Ю.А.

Подписано в печать 23.12.2010. Формат 60x84/16 Отпечатано с готового оригинал-макета в типографии ЗАО «КопиСервис». Печать ргоографическая. Заказ № 1/1223. П. л. 1.00. Уч.-изд. л. 1.00. Тираж 100 экз.

ЗАО «КопиСервис» Адрес: 197376, Санкт-Петербург, ул. Проф. Попова, д. 3. тел.: (812) 327 5098

Ведение.

Глава 1. Обзор методов исследований сложных природных сигналов. Использование ионосферных параметров для построения программных систем анализа и прогноза сейсмических событий.Ю

1.1 Возможность использования ионосферных параметров для построения систем прогноза сейсмических событий.Ю

1.2 Влияние посторонних факторов на параметры ионосферы.

1.3. Методы анализа временных рядов.

1.3.1. Традиционные методы анализа сигналов.

1.3.2. Решение задачи экстраполяции временных последовательностей данных на основе нейронных сетей.

1.3.3. Современные методы аппроксимации сигналов.

1.4 Анализ основных подходов к решению задачи. Метод построения модели сигнала со сложной структурой на основе многокомпонентной конструкции.

Глава 2. Идентификация структурных составляющих ионосферного сигнала,на основе вейвлетов.41'

2.1'. Непрерывное вейвлет-преобразование.

2.2. Дискретное Вейвлет-преобразование случайного сигнала.

2.3. Схемы вейвлет-разложения, используемые для идентификации структурных компонент сигнала.

2.4. Метод выделения локальных особенностей в структуре случайного сигнала.

Глава 3. Методы идентификации моделей сигналов со сложной внутренней структурой на основе совмещения вейвлетов и нейронных сетей.

3.1. Нейронные сети. Основные определения.

3.2. Решение задачи аппроксимации функций на основе нейронной сети

3.3. Выделение регулярных составляющих сигналов и построение обучающего множества сети.

3.4. Метод определения внутренней структуры сети.

Глава 4. Оценка эффективности предложенных методов на основе статистического моделирования. Эксперименты по анализу и обработке ионосферных сигналов.

4.1. Оценка эффективности предложенных методов на основе статистического моделирования.

4.1.1. Статистическая модель системы.

4.1.2. Формирование модельных сигналов.

4.1.3. Методика проведения экспериментов.

4.1.4. Анализ результатов экспериментов.

4.2. Эксперименты по анализу и обработке ионосферного сигнала критической.частоты /оГ2.

4.2.1. Описание программного обеспечения.

4:2.2. Описание сигнала.1.

4.2.3. Методика проведенияэкспериментов с ионосферными^ сигналами ЮР2.

4.2.4. Анализ ионосферного сигнала на основе совмещения НС и вейвлетов.

4.3. Совместный анализ индекса геомагнитной активности К и критической частоты ионосферы/оГ2.

4.3.1. Методика анализа поведения сигналов.

4.3.2 Программа для совместной обработки сигнала критической частоты и К-индекса.

4.3.3. Результаты экспериментов.

Актуальность темы. Настоящая работа посвящена разработке математических моделей и методов анализа ионосферных сигналов, представленных в виде временных последовательностей данных, и построению программных систем их обработки. Наряду с другими методами исследований, анализ природных сигналов имеет важное значение для решения целого ряда научных задач физики, и в частности геофизики. Качество процедуры анализа определяется адекватностью используемых математических моделей, методов и соответствующего математического аппарата их реализующего. Сложности решения задач обработки и анализа ионосферных сигналов связаны с их сложной структурой. Они включают большое количество компонент, содержат локальные особенности различной формы и временной протяженности, аномальные эффекты, а также шумовые факторы различной природы. В диссертационной работе рассматриваются задачи, связанные с обнаружением аномальных эффектов в ионосферных сигналах, возникающих в периоды сильной сейсмической активности.

Структура ионосферы, распределение ее параметров по высоте определяется плотностью атмосферы, ее химическим составом и спектральными характеристиками солнечного излучения. Структурно ионосфера разделена на несколько областей (ЕД),Р). Область Р подразделяется на р1 и ¥2. На состояние ионосферы существенное влияние оказывает солнечная активность. Исследование ионосферы выполняется дистанционными методами, одним из которых является вертикальное радиозондирование. Частота несущей радиоимпульса, для которой данная область ионосферы становится прозрачной, называется критической (^Р2) и характеризует концентрацию электронов.

Существующие модели и методы анализа ионосферных сигналов не являются достаточно эффективными и имеют следующие недостатки:

1. Для отдельных видов аномалий отсутствует теоретический аппарат по их выделению и оценке параметров.

2. Ввиду отсутствия единой теоретической платформы (а не комбинации отдельных алгоритмических решений), при обработке сигналов наблюдается потеря и искажение информации.

В применяемых в настоящее время методах анализа ионосферных сигналов зачастую используется процедура сглаживания, что влечет потерю информации. Также, основные инструменты определения аномалий, предшествующих землетрясениям, основаны на анализе средних и медианных значений, что не позволяет выявить внутренние зависимости и отдельные аномальные эффекты.

Аномалии в ионосферном сигнале могут иметь форму резких всплесков, пиков различной амплитуды и временной протяженности. Наиболее эффективным способом их идентификации является вейвлет-преобразование. Данный аппарат и имеет широкий спектр базисов различной формы с компактными носителями. Используя вейвлет-преобразование, мы имеем возможность идентифицировать особенности структуры ионосферного сигнала и выполнить их анализ. Это играет важную роль в задачах обработки природных сигналов сложной формы. После разложеня сигналов в пространстве вейвлет-признаков в диссертационной работе для их дальнейшей обработки предложен аппарат нейронных сетей. Нейронные сети позволяют решать трудно формализуемые задачи, такие как распознавание образов, кластеризация, прогнозирование. Также, аппарат нейронных сетей служит хорошей основой для построения программных систем анализа данных, в том числе представленных в виде временных рядов. Используя данный аппарат совместно с вейвлет-преобразованием, в диссертационной работе предложен метод идентификации регулярных составляющих структуры сигнала и локальных особенностей.

Таким образом, задачи связанные с построением моделей ионосферных сигналов, выделением в них аномальных особенностей, разработкой соответствующих алгоритмов и программных средств являются актуальными и решаются в данной работе.

Целью работы является разработка модели ионосферного сигнала методов и численных алгоритмов его обработки, и построение на их основе программной системы анализа и прогноза.

Для достижения этой цели в диссертации решались следующие задачи:

1. Разработка модели ионосферного сигнала, учитывающей его регулярные составляющие и аномальные особенности.

2. Разработка метода обнаружения аномалий на основе идентификации компонентов модели.

3. Разработка численных алгоритмов обнаружения и оценки параметров структурных особенностей ионосферных сигналов.

4. Разработка программной системы обработки и анализа ионосферных сигналов.

Методы исследования. В диссертационной работе используется аппарат теории вероятностей, случайных процессов, математической статистики, теории распознавания образов, цифровой обработки сигналов, аппарат вейвлет-преобразования, нейросетевые методы. Научную новизну работы составляет:

1. Предложена модель ионосферного сигнала, описывающая его регулярные составляющие и аномальные особенности.

2. Предложен метод выделения регулярных составляющих сложного сигнала и его аномальных особенностей, основанный на совместном применении вейвлет-преобразования и нейронных сетей.

3. Разработан численный алгоритм выделения и оценки параметров локальных особенностей ионосферного сигнала.

4. Разработан численный алгоритм выделения аномалий в ионосфере, основанный на совместной обработке ионосферных (сигнал критической частоты) и геомагнитных (К-индекс) данных.

Положения, выносимые на защиту:

1. Модель ионосферного сигнала, описывающая его регулярные составляющие и аномальные особенности.

2. Метод выделения регулярных компонент ионосферного сигнала и аномальных особенностей, основанный на вейвлет-преобразовании и нейронных сетях.

3. Численный, алгоритм выделения и оценки параметров локальных особенностей ионосферного сигнала, позволяющий выявить аномалии.

4. Численный алгоритм выделения аномалий в ионосфере, основанный на совместной обработке данных критической частоты и К-индекса.

5. Программная система обработки и анализа ионосферных данных, построенная на разработанном методе и алгоритмах.

Практическая ценность работы заключается в следующем:

1. Разработана программная система, обеспечивающая выявление и оценку параметров аномалий в ионосферных сигналах.

2. Разработана методика и алгоритмы выявления локальных особенностей в виде «ступеней», «всплесков», «пиков», и оценки их параметров в сигналах сложной структуры.

3. Разработанные программные модули применимы для более широкого круга задач анализа сигналов со сложной структурой.

Реализация и внедрение результатов исследований:

Разработанный программный комплекс используется для выявления аномалий ионосферных данных в Институте космофизических исследований и распространения радиоволн ДВО РАН (ИКИР ДВО РАН).

Разработанные программные средства использовались в учебном процессе при проведении лабораторных работ для студентов специальностей "Управление и информатика в технических системах" в Камчатском государственном техническом университете.

Исследования поддержаны грантом федеральной программы «Участник молодежного научно-исследовательского конкурса». «УМНИК 10-6»,

Госконтракт от «30» июня 2010 года № 8283р/10269 тема "Разработка моделей и методов анализа сложных природных сигналов в задачах выделения аномалий в ионосферных параметрах" и грантом победителя конкурса молодых изобретателей Камчатского края, тема работы «Разработка автоматизированной системы выявления аномалий в сложных сигналах на основе совместного применения теории вейвлет-обработки и нейронных сетей», договор №7 от 5 апреля 2010 г. о предоставлении целевого финансирования.

Апробация работы: Основные положения и результаты работы докладывались и обсуждались на следующих научно-технических конференциях: на Международной конференции по мягким вычислениям и измерениям (8СМ'2006), С.-Петербург, 2006г.; на Международной конференции по мягким вычислениям и измерениям (8СМ'2007), С.Петербург, 2007г.; на IV международной конференции "Солнечно-земные связи и предвестники землетрясений", П.-Камчатский, 2007г.; на Международной конференции по мягким вычислениям и измерениям (8СМ'2008), С.-Петербург, 2008г.; на VI региональной молодежной научной конференции "Исследования в области наук о Земле", П.-Камчатский, 2008г.; на ежегодной научно-технической конференции профессорско-преподавательского состава и аспирантов КамчатГТУ "Научно-технические исследования рыбохозяйственной отрасли Камчатского края", П.-Камчатский, 2008г.; на 5-ой научной конференции «Управление и информационные технологии» (УИТ-2008), С.-Петербург, 2008г.; на первой Международной научно-технической конференции "Компьютерные науки и технологии", Белгород, 2009г.; на Международной конференции по мягким вычислениям и измерениям (8СМ'20Ю), С.-Петербург, 2010г.; на V международной конференции "Солнечно-земные связи и физика предвестников землетрясений", с. Паратунка, Камчатский край, 2010г.

Публикации: По теме диссертации опубликовано 16 печатных работ (в том числе 4 из списка изданий, рекомендованных ВАК, 1 статья в другом издании, 10 работ в материалах международных и всероссийских научно-технических конференций, 1 свидетельство об отраслевой регистрации разработки).

Выводы.

1. Аномалии в виде «всплеска» обнаруживают себя с вероятностью 0,9 при длительности в 60 отсчетов и амплитуде равной фону, ложные аномалии составляют 8 %.

2. Аномалии в виде «пика» обнаруживают себя с вероятностью 0,98 при длительности в 20 отсчетов и амплитуде равной 1,3 фонового уровня, ложные аномалии составляют 16 %.

3. Аномалии в виде «ступени» обнаруживают себя с вероятностью 0,99 при длительности в 15 отсчетов и амплитуде равной 1,3 фона, ложные аномалии составляют 6 %.

Проведенные эксперименты показали, что эффективность выявления аномалий зависит от длительности, амплитуды и вида особенности. Эффективность может быть значительно повышена выбором базисной вейвлет-функции.

Совместное применение вейвлетов и НС позволяет выделить низкочастотные аномалии. Особое внимание необходимо уделять предварительной обработке данных при настройке НС. Аппарат вейвлетов является эффективным инструментом выделения высокочастотных локальных особенностей.

4.2. Эксперименты по анализу и обработке ионосферного сигнала критической частоты /оР2.

В данном параграфе приводится описание экспериментов по обработке и анализу сигналов критической частоты ионосферы 1^2. Основной целью исследований являлось выявление аномальных особенностей, возникающих в сигнале накануне сильных землетрясений п-ова Камчатка. Описываются используемые статистические данные, программное обеспечение. Приводятся результаты экспериментов.

4.2.1. Описание программного обеспечения

В качестве языка для написания программ, выполняющих поставленные задачи, был выбран язык программирования системы Ма^аЬ. МаНаЬ представляет собой универсальную интегрированную систему компьютерной математики. Язык программирования системы МаЙаЬ является языком программирования высокого уровня для технических вычислений с большим числом стандартных пакетов прикладных программ.

Комплекс использованных программ состоит из двух частей: модуль обнаружения краткосрочных и среднесрочных аномальных эффектов на основе вейвлет-разложения сигнала; модуль построения НС и анализа с их помощью сигнала.

Объем разработанных программных модулей составляет 132 Кб.

4.2.2. Описание сигнала

Обработка природных сигналов критической частоты является серьёзной проблемой, трудности решения которой связаны со сложной структурой регистрируемых сигналов (рис. 4.15.). Сигнал критической частоты нестационарный, включает в себя большое разнообразие по форме и по длительности локальных особенностей (рис. 1.4.), связанных со многими природными явлениями (различного характера переходные процессы, аномальные эффекты, связанные с активностью Солнца, а также, сопровождающие процесс подготовки сейсмических явлений и др.), содержит пропуски, возникающие по различным причинам (временные поломки оборудования, техническое обслуживание). о IIIIIIIIIII

01.01.1984 01.02.1984 01.03.1984 01.04.1984 01.05.1984 01.06.1984 01.07.1984 01.08.1984 01.09.1984 01.10.1984 01.11.1984 01.12.1984

Рис. 4.15. Сигнал критической частоты ионосферы ^2. а - график сигнала за 1984 год. Ь - график сигнала за 20 дней. Как видно из рис. 4.15. сигнал имеет сезонный и суточный ход, периоды перестройки с зимнего периода на летний и обратно.

4.2.3. Методика проведения экспериментов с ионосферными сигналами

1. Методика проведения экспериментов с вейвлетами. Выбор базиса. Для повышения эффективности и качества обработки данных требуется выбор базиса вейвлет-разложения. Он может быть выполнен в соответствии со следующими критериями: компактность, число нулевых моментов, гладкость, форма базиса. В соответствии с указанными критериями для обработки данных критической частоты был определен базис Добеши 3 (рис. 4.16.).

Рис. 4.16. Базис Добеши 3. При обработке сигналов с помощью дискретного вейвлет-преобразования, учитывая фоновый уровень процесса, величину флуктуаций и их сезонные характеристики для каждого масштабного уровня разложения сигнала j было определено следующее пороговое значение: Tj = med(dJ tt ^j+2,5Stj} где Stj ~ dj-») , dJtn . среднее значение, med медиана, которая характеризует средний уровень процесса. Коэффициент 2.5 определялся статистически. Расчет производился в пределах скользящего временного окна, равного 720 отсчетам сигнала (что соответствует временному интервалу в один месяц).

2. Методика проведения экспериментов с НС. Исследовалась архитектура сети прямой передачи сигнала. Сеть обучалась с помощью алгоритма Левенберга-Марквардта. Для обучения сети были взяты часовые данные критической частоты за период с 1969г. по 2004г. Учитывая наличие сезонной компоненты в моделируемом сигнале, а также наличие осенних и весенних переходных процессов, архитектура сети определялась отдельно для каждого сезона. В качестве обучающей выборки использовались данные за сейсмически спокойные годы. Данные имели пропуски от 1 до 10 дней за сезон, которые заполнялись средними значениями текущего месяца с учетом суточного хода. Была построена двухслойная НС прямой передачи сигнала, в первом слое функцией активации являлся гиперболический тангенс, второй слой - линейный. Скрытый (входной) слой состоял из тридцати нейронов. Выходной слой имел один нейрон (рис. 4.17.). Отдельно были обучены 2 сети, одна на данных 1972г, вторая на данных 1984г.

Рис. 4.17. Модель НС

3. Методика проведения экспериментов основанных на совмещении НС и вейвлетов. Построение структуры НС и выбор обучающего множества осуществлялись по методу, предложенному в Главе 3. В работе использовалась сеть прямой передачи сигнала. Обучение выполнялось на основе алгоритма обратного распространения ошибки.

Обработка входных данных проходила следующим образом. На основе отображения сигнала в пространство вейвлет-образов получали представление сигнала / в виде линейной комбинации разномасштабных составляющих: где // е Wf^, \ур - пространства вейвлет-пакета. Строили нейронные сети для различных составляющих // сигнала /:

Цикл 1: Для составляющей /,' , выполняли вейвлет-восстановление сигнала (остальные составляющие при восстановлении заменяем нулями) и формировали обучающее множество. Строили сеть 1, выполняли ее обучение и тестирование.

Цикл 2: Для составляющих // , /2* , аналогично циклу 1, выполняли вейвлет-восстановление сигнала и формировали обучающее множество. Строили сеть 2, выполняли ее обучение и тестирование.

И т.д.

Цикл р\ Для составляющих /,J , f2s . f ps , аналогично циклам 1, 2, выполняли вейвлет-восстановление сигнала и формировали обучающее множество. Строили сеть р, выполняли ее обучение и тестирование.

Цикл o+i): Для составляющих /, *, f3s , выполняли вейвлет-восстановление сигнала и формировали обучающее множество. Строили сеть р +1, выполняли ее обучение и тестирование. И т.д.

Таким образом, для каждой возможной комбинации имеющихся

-V признаков была построена нейронная сеть. На основе анализа результатов работы полученных нейронных сетей определялась «наилучшая»: в качестве «наилучшей» сети определялась сеть, имеющая наименьшую ошибку на тестовых данных

ENfim =min(-fJe<(/j)2), где / - 1Г , D- длина тестовой выборки. При D „0 этом формирование обучающего множества происходило на основе анализа внутренней структуры исходных данных. Выделенные таким способом компоненты сигнала содержали наиболее характерные для него признаки, т.е. можно утверждать, что они определяют регулярные составляющие сигнала.

Формирование структуры нейронной сети, при выполнении описанных выше циклов, производилось на основе следующего алгоритма:

1. Строилась сеть, состоящая из одного нейрона в первом слое и а нейронов во втором (выходном) слое. Производилось ее обучение.

2. В первый слой сети добавлялся один нейрон и вновь производилось ее обучение.

3. Аналогично нейроны продолжали добавлять в первый слой, до тех пор, пока они улучшали общее качество аппроксимации сигнала сетью.

4. Если очередной нейрон не давал улучшения характеристик сети, он удалялся, а в сеть добавлялся промежуточный слой, состоящий из одного нейрона. Аналогичным образом производилось обучение сети, и если добавленный слой повышал уровень аппроксимации, то в него начинали добавлять нейроны по принципу п2, 3.

Подобным образом создавалось столько слоев, сколько необходимо для достижения требуемого качества работы сети при заданном массиве входных данных.

Результаты экспериментов при обработке сигналов с помощью вейвлетов.

В соответствии с методикой описанной выше, происходило разложение сигнала критической частоты вейвлетами и анализировались превышения значений вейвелет-коэффициентов над заданным порогом для каждого масштабного уровня. С учетом фонового уровня, сезонных характеристик и величины флуктуаций сигнала для каждого масштаба У было определено ше(Ас1ип )+ 2,5^., где следующее пороговое значение: а

К.М'Л ' " сРеднее значение, шей медиана, которая характеризует средний уровень процесса. Коэффициент .2.5 определялся статистически. Результаты обработки представлены на рис. 4.18.-4.23. Выявленные аномальные особенности отмечены серым цветом. Стрелками отмечены землетрясения с энергетическим классом Е>12,5. По горизонтальной оси дан временной интервал, по вертикальной - масштабные уровни вейвлет-разложения. «?»

1'""""'. та* * $

ТКГ

Рис. 4.18. Результаты обработки сигнала за январь-февраль 1973г вейвлетами.

-1-1-г н-г

01 601 so|

40. ЭС 20 iO whmffL^*.

-ALS^wIV^^--

0712 14122112 2R1204 01 11 01 1801 25 U1 0102 №02

Рис. 4.19. Результаты обработки сигнала за период с декабря 1975г по февраль 1976г вейвлетами. ill*T»rf ll f *f* .M f u f ■

07 01 МОГ 2101 ¿9 01 05 02 1 та

Рис. 4.20. Результаты обработки сигнала за январь-февраль 1982г вейвлетами.

IA ж

Рис. 4.21. Результаты обработки сигнала за январь-февраль 1984г вейвлетами.

ЬтйтмятЫт

0ь02 1202 зЖ

Рис. 4.22. Результаты обработки сигнала за январь-февраль 1986г веивлетами.

Рис. 4.23. Результаты обработки сигнала за январь-февраль 1997г вейвлетами.

Анализ рисунков 4.18.-4.23 показыват, что аномальное поведение сигнала проявляется перед сильными землетрясениями за 2-4 недели. Аномалии проявляют себя на масштабных уровнях с 25 по 80, а их длительность достигает 20 часов. На рис. 4.24. показан пример оценки параметров аномалии. Количество мастшабных уровней анмалии - 13, длительность составила 7 часов. Аномалия выявлена за 30 дней до землетрясения.

40 35 х ш

§.30 ->> 25

I 20

II 15 " Е10-5

Количество масштабных уровней аномалии

Длительность аномалии 1 1

06.02

07 02

08 02

09.02

10.02

11.02

Рис. 4.24. Выявление аномалий в сигнале критической частоты ионосферы за январь-февраль 1986 года. Верхний график отражает работу порогового метода, нижний - возможности оценки параметров аномалий.

Результаты экспериментов при обработке сигналов с помощью НС.

На рис. 4.25. показан график обучения сети на сигнале за 1972 год.

Рис. 4.25. Обучение НС на сигнале критической частоты за 1972 год. По вертикальной оси показана ошибка обучения, по горизонтальной - эпохи обучения.

Предобработка анализируемых данных состояла в заполнении пропусков отсчетов средними значениями за месяц. На рис. 4.26., 4.27. показаны результаты обработки за 6 лет за зимние периоды. По горизонтали отмечены отсчеты сигналов, по вертикали - ошибка НС. Вертикальными стрелками обозначены землетрясения с Е > 12,5 произошедшие в анализируемый период. В таблице 6 приведены даты и энергетический класс произошедших сейсмических событий.

ЗАКЛЮЧЕНИЕ

Основные научные и практические результаты работы можно сформулировать следующим образом: его

1. Предложена модель ионосферного сигнала, описываюП*3^ регулярные составляющие и аномальные особенности.

2. Предложен метод выделения регулярных составляющих сЛо9КН0Г° сигнала и его аномальных особенностей, основанный на сов^еСТН°М применении вейвлет-преобразования и нейронных сетей.

3. Разработан численный алгоритм выделения и оценки локальных особенностей ионосферного сигнала.

4. Разработан численный алгоритм выделения аномалий в но&о0^^0, основанный на совместной обработке ионосферных (сйгнал критической частоты) и геомагнитных (К-индекс) данных.

5. На основе предложенного метода и алгоритмов разрЗ-^°таН программная система анализа и прогноза ионосферных сиг-**35108' внедренная в Институт космофизических исследован^2*1 распространения радиоволн ДВО РАН. При использовании ¿Х^*111011 системы были выявлены аномалии в поведении ионосферного с:^^11^ накануне сильных землетрясений на Камчатке.

6. Разработана методика и алгоритмы. выявления лока-г:£:Е>13Ь особенностей в виде «всплесков», «пиков», «ступеней» в сложной структуры.

7. Разработанные программные модули применимы для более ширг *^^0 круга задач анализа сигналов со сложной структурой. и

126

1. Космическая среда вокруг нас Текст. / Будько Н. [и др.]; Троицк: ТРОВАНТ, 2006. -232 с.

2. Мигулин, В. В. Ионосфера и ее. изучение Текст. / В.В. Мигулин//Радио. -1987. -№11. -С. 10-12.

3. Куницын, В.Е. Радиотомография ионосферы Текст. / В.Е. Куницын, Е.Д. Терещенко, Е.С. Андреева. М: Физматлит, 2007. -336 с.

4. Чижевский, А.Л. Физические факторы исторического процесса Текст. / А.Л. Чижевский. Калуга: 1-я Гостиполитография, 1924. -72 с.

5. Чижевский, А.Л. Земное эхо солнечных бурь Текст. / А.Л. Чижевский. М.: Мысль, 1973. -349 с.

6. Богданов, В.В. Моделирование временных рядов геофизических параметров на основе вейвлет-преобразования» Текст. / В.В. Богданов, В.В. Геппенер, О.В. Мандрикова. Санкт-Петербург: Изд-во СПбГЭТУ «ЛЭТИ», 2006. -124 с.

7. Жеребцов, Г.А. Проявление глобальных изменений в климатических характеристиках Прибайкалья Текст. / Г.А. Жеребцов, В.А. Коваленко // Исследования по геомагнетизму, аэрономии и физики Солнца. -2001. -вып. 113. -С. 172—177.

8. Мандрикова, О.В. Исследование сигнала критической частоты на основе конструкции вейвлет разложения Текст. / О.В.

9. Мандрикова, B.B. Богданов // Известия вузов, Северо-Кавказский регион. -Ростов-на-Дону, Серия естественные науки. Науки о Земле. -2007. -С. 90-93.

10. Мандрикова, О.В. Моделирование сигналов со сложной структурой на основе конструкции вейвлет-преобразования Текст. / О.В. Мандрикова, В.В. Богданов, Ю А. Полозов // Информационные технологии. -Москва. -2008. -№4. -С. 12-19.

11. Черный, Ф. Б. Распространение радиоволн Текст. / Ф. Б. Черный 2-е изд., доп. и переработ. -М: Сов. радио, 1972. -464 с.

12. Криволуцкий A.A. Ионосфера земли Текст. / A.A. Криволуцкий, В.Е. Куницын. // Модель космоса. -КДУ. -2007. -Т.1.

13. Берколайко, М. 3. О бесконечно гладких почти-всплесках с компактным носителем Текст. / М. 3. Берколайко, И. Я. Новиков // Доклады РАН. -1992. -№ 6, -С. 935-938.

14. Новиков, JI.B. Адаптивный вейвлет-анализ сигналов Текст. / Л.В. Новиков //Научное приборостроение. -1998. -Т.9. -№2. -С. 30-37.

15. Стаховский- И.Р. Вейвлетный анализ временных сейсмических рядов. Текст. / И.Р. Стаховский // ДАН. -1996. -Т.350. -№3. -С.393-396.

16. Чуй, К. Введение в вейвлеты Текст. / К. Чуй. -М.: Мир, 2001. -412 с.

17. Мандрикова, O.B. Моделирование геохимических данных на основе вейвлет-преобразования Текст. : монография / О. В. Мандрикова. -Владивосток : Дальнаука, 2007 (Владивосток) . -123 с.

18. Мандрикова, О.В. Многоструктурная модель геофизического» сигнала Текст. / О. В. Мандрикова // Известия вузов, Северо-Кавказский регион. — Ростов-на-Дону, Серия естественные науки. -2007 г. -№6. С.47-50.

19. Любушин (мл.) A.A. Вейвлет-агрегированный сигнал и синхронные всплески в задачах геофизического мониторинга и прогноза землетрясений Текст. / A.A. Любушин (мл.) // Физика Земли. -2000, -№3, -с.20-30.

20. Горбань, А.Н: Нейронные сети на персональном компьютере

21. Текст. / А.Н. Горбань, Д.А. Россиев. Новосибирск: Наука. Сибирская издательская фирма РАН, 1996. -276 с.

22. Нейроматематика Текст.: учеб. пособие для вузов / Агеев А.Д., [и др.]; общая ред А.И. Галушкина. М.:ИПРЖР, 2002. -448 с.

23. Бокс, Дж. Анализ временных рядов прогноз и управление Текст. / Дж. Бокс, Г. Дженкинс. -М.: Мир, 1974. -604 с.

24. Голяндина, Н.Э. Метод «Гусеница»-88А: анализ временных рядов Текст.: учеб. пособие / Н.Э. Голяндина. -СПб: Изд-во СПбГУ, 2004. -76 с.

25. Орлов, А.И. Прикладная статистика Текст. / А.И. Орлов. -М.: Экзамен, 2004.

26. Афанасьев, В. Н. Анализ временных рядов и прогнозирование Текст. / В. Н. Афанасьев, М. М. Юзбашев. -М.: Финансы и статистика, 2001. -228 с.

27. Холлендер, М. Непараметрические методы статистики Текст. /М. Холлендер, Д.А. Вульф. М.: Финансы и статистика, 1983. -518 с.

28. Кобзарь, А. И. Прикладная математическая статистика. Для инженеров и научных работников Текст. / А. И. Кобзарь. -М.: ФИЗМАТЛИТ, 2006. 816 с.

29. Айвазян, С. А. Прикладная статистика в задачах и упражнениях Текст.: учебник для вузов / С.А. Айвазян, B.C. Мхитарян. -М.:ЮНИТИ-ДАНА, 2001. -270с.

30. Афифи, А. Статистический анализ Текст. / А. Афифи, С. Эйзен. -М.: Мир, 1982. -488 с.

31. Волков, И. К. Случайные процессы Текст.: учеб. для вузов / И. К. Волков [и др.]; под ред. B.C. Зарубина, А.П. Крищенко. -М.: Изд-во МГТУ им. Н.Э. Баумана, 1999. -448 с.

32. Математическая статистика Текст.: учеб. для вузов / В.Б. Горяинов [и др.]; под ред. B.C. Зарубина, А.П. Крищенко. -М.: Изд-во МГТУ им. Н.Э. Баумана, 200 Г. -424 с.

33. Привальский, В.Е. Модели временных рядов с приложениями в гидрометеорологии Текст.: монография / В. Е. Привальский, В. А. Панченко, Е. Ю. Асарина. СПб. ■ Гидрометеоиздат, 1992. - 226 с.

34. Вальд, А. Последовательный анализ Текст. / Вальд А. -М.: Физматгиз, 1960. -328 с.

35. Марпл.-мл., С.Л. Цифровой спектральный анализ и его приложения Текст. / С.Л. Марпл.-мл. -М.: Мир, 1990. -265 с.

36. Монтвилас, А. Обработка результатов наблюдений при определении изменения свойств случайных сигналов Текст. / А.

37. Монтвилас // Труды семинара «Статистические проблемы управления». -Вильнюс:Ин-т математики и кибернетики АН ЛитССР.-1973.-Вып. 7.-С.41-53.

38. Никифоров, И.В. Последовательное обнаружение изменения свойств временных рядов Текст. / И.В. Никифоров. -М.: Наука, 1983.-199 с.

39. Никифоров, И. В. Автоматическое обнаружение № оценка моментов вступления волны в процессе регистрации землетрясений Текст. / И. В. Никифоров, И. Н. Тихонов // Оперативный и долгосрочный прогноз цунами. -Владивосток: ДВНЦ АН СССР, 1980. -С. 46-55.

40. Обнаружение изменения свойств сигналов и динамических систем Текст. / М. Бассвиль [и др.]; под ред. М. Бассвиль, А. Банвениста. -М.: Мир, 1980. -278 с.

41. Мандрикова, О.В. Многокомпонентные модели, и алгоритмы анализа аномальных геофизических сигналов Текст.: автореф. дис. доктора тех. наук / О.В. Мандрикова. Санкт-Петербург, 2009. - 30 с.

42. Ширяев, А. II. Статистический последовательный анализ Текст. / А. Н. Ширяев. -М.: Наука, 1969. -232 с. ■

43. Нейроинформатика Текст. / А.Н. Горбань [и др.]. Новосибирск: Наука. Сибирское предприятие РАН, 1998. 296 с.

44. Рассел, С. Искусственный интеллект: современный подход Текст.1/ С. Рассел, П. Норвиг. -М.:Издательский дом "Вильяме", 2006.-1424 с.

45. Базы данных. Интеллектуальная обработка информации Текст. /В.В. Корнеев [и др.]. -М.: Нолидж, 2001. -635 с.

46. Минаев, Ю.Н. Методы и алгоритмы решения задач идентификации и прогнозирования в условиях неопределенности в нейросетевом логическом базисе Текст. / Ю.Н. Минаев, О.Ю. Филимонова, Л. Бенамеур -М.: Горячая линия-Телеком, 2003. -205 с.

47. Долгаль, A.C. Использование быстрого вейвлет-преобразования при решении прямой задачи гравиразведки Текст. / A.C. Долгаль // Доклады РАН. -2004. -Т.399, -№ 8. -С. 1177-1179.

48. Дремин, И.М. Вейвлеты и их использование Текст. / И.М. Дремин, О.В. Иванов, В.А. Нечитайло // Успехи физических наук. -2001. -Т.171, -№ 3. -С. 465-501.

49. Поиски предвестников землетрясений в Азербайджане Текст. / Агамирзоев P.A. [и др.]; -в кн.: Поиски предвестников землетрясений. -Ташкент: Фан. -1976. -С. 213-216.

50. Беляев, A.A. Особенности радоновых прогнозных признаков землетрясений Текст. / A.A. Беляев // Геохимия. -2001. №12. -С. 1355-1360.

51. Гидрогеохимические предвестники землетрясений Текст. / под ред. ВаршалаГ. М. -М.: Наука, 1985. -286 с.

52. Богданов, В.В. Моделирование нестационарных временных рядов геофизических параметров со сложной структурой Текст. / В.В. Богданов, В.В. Геппенер, О.В. Мандрикова -С.-Петербург: ЛЭТИ, 2006. -108с.

53. Мандрикова, О.В. Многокомпонентная модель сигнала со сложной структурой* Текст. / О.В. Мандрикова // Проблемы эволюции открытых систем. 2008. -Вып. 10. -Т. 2. -С.161-172.

54. Добеши, И. Десять лекций, по вейвлетам Текст. [пер. с анг.] / И. Добеши. -Ижевск:НИЦ«Регулярная № хаотическая динамика»,-2001.-464 с.

55. Мандрикова^ О.В. Автоматизированный способ обработки сигналов со сложной структурой Текст. /О.В. Мандрикова, Ю.А. Полозов //Информационные технологии. -2008. -№ 12. -С.15-19.

56. Омату, С. Нейроуправление и его приложения Текст. / С. Омату, М. Халид, Р. Юсоф. -М.: ИПРЖРБ, 2000. -272 с.

57. Краткосрочный прогноз катастрофических землетрясений с помощью радиофизических наземно-космических методов Текст.: докл. конф. -М.: ОИФЗ РАН, 1998. -164 с.

58. Липеровская, Е.В. О возмущениях в F-области ионосферы перед землетрясениями Текст. / Е.В. Липеровская, В.А. Липеровский, O.A. Похотелов//Геофизические исследования. -2006. -№ 6. -С. 51-58.

59. Физический механизм и математическое моделирование ионосферных предвестников землетрясений, регистрируемых в полном электронном содержании.Текст. / А. А. Намгаладзе [и др.] // Геомагнетизм' и аэрономия. -2009. -Т. 49. -№ 2. -С. 267-277.

60. Мандрикова, О.В. Метод идентификации структурных компонентов сложного природного сигнала на основе вейвлет-пакетов Текст. / О.В. Мандрикова, Т.С. Горева // Цифровая обработка сигналов. -2010. -№1. -С.45-50.

61. Mitra, S.K. The upper atmosphere Text.: second edition / Mitra S.K. Calcutta, 1952.

62. Chui, C.K. A general framework of compactly supported splines and wavelets Text. / C.K. Chui and J.Z. Wang // CAT Report #219, Texas A&M University, 1990.

63. Chui, С. K. Multivariate Splines Text. / C.K. Chui ■// CBMS-NSF Series in Applied Mach. #54, SIAMPubl., Philadelphia, 1988.

64. Daubechiesv I. Two-scale difference equations: IL Local regularity, infinite products of matrices and fractals Text. /1. Daubechies, J. Lagarias. -SIAM J. of Math. Anal., 24, 1992:

65. Donoho, D. Minimax estimation via wavelet1 shrinkage Text. / D. Donoho, I. Johnstone. -Annals of Statistics, 1998.

66. Donoho, D: L. Nonlinear solution of linear inverse problems by Wavelet Text. / D: L. Donoho // Vagulet Decomposition App. Сотр. Harmonic Anal. -1995. -V2. -P.101-126.

67. Mallat, S. A Wavelet tour of signal processing Text. [пер. с анг.] / S. Mallat. -M.: Мир, 2005. -671c.

68. Vaidyanathan, P.P. Quadrature mirror filter banks Text. / P.P. Vaidyanathan // M-band extensions and perfect reconstruction techniques. IEEE ASSP Mag., 4(3):4-20, July 1987.

69. Vetterli, M. Filter banks allowing perfect reconstruction Text. / M. Vetterli// SignalProc., 10(3):219-244, April 1986.

70. Haykin, S. Neural networks Text.: [пер. с анг.] / S. Haykin -M.: Издательский дом "Вильяме", 2006. -1104 с.

71. Hinkley, D. V. Inference in two-phase regression Text. / D. V. Hinkley//J. Amer. Statist. Assoc. -1971. -66. -№ 336.'-P. 736-743.

72. Sejnowski, T.J. Statistical constraints on synaptic plasticity Text.I

73. T.J. Sejnowski // Journal of Theoretical Biology. -1977. -Vol. 69. -P. 385-389.

74. Rumelhart, D.E. Feature discovery by competitive learning Text. / D.E. Rumelhart, D. Zipser // Cognitive Science. -1985. -Vol. 9. -P. 75-112.

75. Girshich, M. A. Bayes approach to a quality control model Text. /М. A. Girshich, H. A. Rubin//Ann. Math. Statist. -1952. -№ i. -P. 114-125.

76. Brandt, S. Data Analysis. Statistical and Computational Methods for Scientists and Engineers Text. [пер. с aHr.]/S.Brandt. -М.:Мир, 2003. -688c.

77. Box, G. E. P. Distribution of residual autocorrelation in autoregressive-integrated moving average time series models Text. / Box G. E. P., Pierce D. A. // J. Amer. Stat. Ass., 64. -1970.

78. Landers, Т. E. Some Geophysical Application of Autoregressive Spectral Estimates Text. / Landers Т. E., Lacoss R. T. // IEEE Trans. Geosci. Electron. -1977. -Vol. Ge-15. -P. 26-32.

79. Yang, F. Modeling and Decomposition of HRV Signals with Wavelet Transforms Text. / F. Yang, W. Liao // IEEE Engineering in Medicine and Biology. -1997. -Vol. 16. -№ 4. -P. 17-22.

80. Sejnowski, T.J. Strong covariance with nonlinearly interacting neurons Text. / T.J. Sejnowski // Journal of Mathematical Biology. -1977. -Vol. 4.-P. 303-321.

81. Churchland, P.S. The Computational Brain Text. / P.S. Churchland, T.J. Sejnowski. -Cambridge: MIT Press, 1992.