автореферат диссертации по радиотехнике и связи, 05.12.04, диссертация на тему:Способы обнаружения аномальных значений при анализе нестационарных случайных процессов
Автореферат диссертации по теме "Способы обнаружения аномальных значений при анализе нестационарных случайных процессов"
Токарева Светлана Викторовна
СПОСОБЫ ОБНАРУЖЕНИЯ АНОМАЛЬНЫХ ЗНАЧЕНИЙ ПРИ АНАЛИЗЕ НЕСТАЦИОНАРНЫХ СЛУЧАЙНЫХ ПРОЦЕССОВ
Специальность 05.12.04 - Радиотехника, в том числе системы н устройства телевидения
АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук
Таганрог - 2008
003459778
Работа выполнена на кафедре «Радиоэлектронные системы» Южно-Российского государственного университета экономики и сервиса в г. Шахты.
Научный руководитель:
Официальные оппоненты:
доктор технических наук, профессор Марчук Владимир Иванович (ЮРГУЭС, г. Шахты)
доктор технических наук, профессор Липок Виктор Игнатьевич (ТТИ ЮФУ, г. Таганрог)
Ведущая организация:
кандидат технических наук, доцент Елисеев Александр Вячеславович (Ростовский военный институт ракетных войск, г. Росгов-на-Дону)
Федеральное Государственное унитарное предприят Всероссийский НИИ «Градиент», г. Ростов-на-Дону
Защита состоится 19 февраля 2009 г., в 14.20, в ауд. Д 406 на заседании диссертационн совета Д 212.208.20 при Федеральном государственном образовательном учреждении высш профессионального образования «Южный федеральный университет» в ТТИ ЮФУ по адре 347928 Ростовская обл., г. Таганрог, ГСП-17А, пер. Некрасовский, 44.
С диссертацией можно ознакомиться в Зональной научной библиотеке Южного федер-ного университета.
Отзыв на автореферат, заверенный гербовой печатью организации, просим направля ученому секретарю диссертационного совета Д 212.208.20 по адресу: 347928 Ростовская об г. Таганрог, ГСП-17А, пер. Некрасовский, 44.
Автореферат разослан «12.» 2009 г.
Ученый секретарь
диссертационного совета Д 212.208.20 кандидат технических наук, доцент, -•
и.о. Савельев
ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ
Актуальность работы• Динамика развития научно-технического прогресса привела к по-влешпо сложных радиотехнических систем. Использование таких систем предъявляет серьез-ше требования к обработке получаемой измерительной информации и точности принимаемых ешений. Эти системы по существу можно отнести к категории систем, основной отличитель-ой особенностью которых является не только их сложность и разновидность элементов, сколь-о вероятностный, случайный характер их поведения во времени. Этим-свойством обладает лю-ая радиотехническая система, так как все её параметры являются реализациями случайных ве-ичин. Большинство реальных сигналов представляют собой реализацию нестационарных слу-айных процессов аддитивно-мультипликативной природы. И их можно рассматривать как вы-рку нестационарного случайного процесса, состоящего из полезной и случайной составляю-их. Случайная (шумовая) составляющая может включать и аномальные значения. Аномальными называют значения, резко отличающиеся по величине и статистическим свойствам на фо-е основной группы значений реализации процесса. Природа возникновения и источники ано-альных значений различны, это может быть импульсная помеха, кратковременные повышения ровня шумов на входах приемников, сбой в работе регистрирующей аппаратуры, отказ обору-ования, кратковременное внешнее воздействие на измерительный элемент, «залипание» разря-а цифрового счетчика, атмосферные воздействия при передаче радиосигналов, индустриаль-е помехи и т.д. Аномальные значения, возникающие в каналах передачи и обработки сигна-ов, даже при небольшой частоте их появления, вносят большие погрешности при дальнейшей ценке полезной составляющей процесса Поэтому первым этапом обработки нестационарных лучайных процессов является проверка его значений на достоверность, т.е. обнаружение и по-ледующее устранение аномальных значений.
В связи с этим, значительный интерес представляет разработка и исследование способов бнаружения аномальных значений при анализе нестационарных случайных процессов, редсгавленных единственной реализацией.
Объектом исследования являются нестационарные случайные процессы, представленные инственной реализацией.
Предметом исследований являются аномальные значения в реализации нестационарного чайного процесса.
Целью работы является повышение эффективности обнаружения аномальных значений ри анализе нестационарных случайных процессов, представленных единственной реализацией.
Для достижения поставленной цели необходимо решить следующие основные задачи:
-Анализ основных методов и алгоритмов обнаружения аномальных значений при анализе стационарных случайных процессов;
-Разработать адаптивный способ обнаружения аномальных значений при анализе неста-онарных случайных процессов;
- Разработать способ обнаружения аномальных значений с дискретно-меняющимся уров-м анализа процесса;
-Исследовать эффективность адаптивного способа и способа обнаружения аномальных ачений с дискретно-меняющимся уровнем анализа процесса для различных моделей функций лезной и законов плотности распределения вероятности шумовой составляющей нестацио-рных случайных процессов;
- Сравнительный анализ эффективности адаптивного способа и способа обнаружения ано-ьных значений с дискретно-меняющимся уровнем анализа процесса при аддитивной и муль-
пликативной шумовой составляющей процесса;
- Исследование эффективности адаптивного способа и способа обнаружения аномальных ачений с дискретно-меняющимся уровнем анализа процесса при решении задачи выделения лезной составляющей процесса
Методы исследования основываются на использовании математической статистики, теории фильтрации, статистической радиотехники и машинного эксперимента на ПЭВМ. Проверка теоретических расчетов и выводов проводилась с использованием имитационного моделирования на моделях процессов.
Научная новизна работы заключается в следующем:
1. Предложен адаптивный способ обнаружения аномальных значений при анализе нестационарных случайных процессов и устройство его реализующее (Пат. РФ №2301445), который основан на адаптации порогового значения, при фиксированном значении вероятности ошибки первого рода, с последующим принятием решения о наличии аномальности относительно максимального значения полученного ряда штрафных значений.
2. На основе имитационного моделирования получено выражение, согласно которому пороговое значение определяется в зависимости от априорно задаваемого значения вероятности ошибки первого рода.
3. Предложен способ обнаружения аномальных значений с дискретно-меняющимся уровнем анализа процесса и устройство его реализующее (Пат. РФ №2302655), который основан н последовательном анализе нестационарного случайного процесса при превышении некоторо дискретно-меняющегося уровня, с последующим принятием решения об аномальности относительно максимального значения полученного ряда штрафных значений.
4. На основе имитационного моделирования определены значения основных параметров способа обнаружения аномальных значений с дискретно-меняющимся уровнем анализа процесса.
Практическая значимость заключается в следующем:
1. Показано, что при использовании адаптивного способа обнаружения аномальных значений при анализе нестационарного случайного процесса оценки апостериорной вероятносг -ошибки первого рода не превосходят априорно задаваемых значений, а оценки вероятное
правильного обнаружения с ростом величины аномальных значений стремятся к единице.
2. Экспериментально доказано, что при величине аномальных значений AmpZ 5ош, эф фективноегь способа обнаружения аномальных значений с дискретно-меняющимся уровне анализа процесса, не зависит от функции полезной и закона плотности распределения вероят ности шумовой составляющих процесса.
3. На основе проведенного имитационного моделирования, как для адаптивного, так и д способа с дискретно-меняющимся уровнем анализа процесса получены оценки вероятное ошибки первого рода и вероятности правильного обнаружения, которые не зависят от мест расположения аномальных значений в исследуемом процессе.
4. Показано, что при величине аномальных значений Amp £ 4аи, эффективность предла гаемых способов обнаружения аномальных значений при анализе нестационарных случайнь процессов с аддитивной и мультипликативной шумовой составляющей отличаются незначи тельно, не более чем на 5%.
5. Экспериментально установлено, что предварительный анализ нестационарных случай ных процессов на наличие аномальных значений улучшает результаты выделения полезной со ставляющей процесса в среднем на 40-60%.
Достоверность и обоснованность результатов обеспечивается результатам имитационного моделирования на различных моделях полезной составляющей и набор реализаций аддитивной и мультипликативной шумовой составляющей, а также : теоретическим обоснованием. Новизна технических предложений подтверждается экспертизе технических решений, в виде патентов на предложенные способы обработки и свидетельствам на программное обеспечение алгоритмов их реализующих.
Основные результаты и положения, выносимые на защиту.
1. Адаптивный способ обнаружения аномальных значений и устройство его реализующее условиях ограниченного объема априорной информации о функции полезной составляющей
оке распределения шумовой составляющей исходной реализации нестационарного чайного процесса, который основан на адаптации порогового значения, при фиксированном чении вероятности ошибки первого рода, с последующим принятием решения о наличии мальности относительно максимального значения полученного ряда штрафных значений.
2. Выражение, согласно которому пороговое значение определяется в зависимости от иорно задаваемого значения вероятности ошибки первого рода.
3. Способ обнаружения аномальных значений с дискретно-меняющимся уровнем анализа цесса и устройство его реализующее, который основан на последовательном анализе ационарного случайного процесса при превышении некоторого дискретно-меняющегося
вня и с последующим принятием решения о наличии аномального значения относительно симального значения полученного ряда штрафных значений. *
4. Результаты исследования эффективности адаптивного способа и способа с дискретно-пяющимся уровнем анализа при обнаружении аномальных значений процесса в условиях аниченного объема априорной информации о функции полезной и законе плотности пределения вероятности шумовой составляющих, как при аддитивной, так и при льтипликативной модели исследуемого процесса.
5. Сравнительный анализ эффективности выделения полезной составляющей процесса при ользовании предложенных способов обнаружения аномальных значений.
Научные результат и практические рекомендации реализованы в рамках юджетных и научно-исследовательских работ ЮРГУЭС, в том числе по ЕЗН Федерального нтсгва по образованию РФ (ЮРГУЭС-1.02.Ф, № ГР 0104.0000.218, Инв. № 007.023.58). етоды повышения достоверности обработки данных при ограниченном объеме априорной ормации» и в соответствии с заданием Федерального агентства РФ по теме дентификация полезной составляющей результатов измерений в условиях априорной араметрической неопределенности и ограниченном объеме данных» (ЮРГУЭС - 2.06.Ф, Л» 0120.0603.492, Инв. № 022.007.023.59). Результаты диссертационной работы внедрены на дприятиях при обработке результатов измерений, что подтверждается соответствующими т о внедрении: в ООО H111I «Интор» г. Новочеркасск при выполнении конструкторских от технических средств измерений и программного обеспечения систем автоматизации и во российском НИИ экономики и нормативов Российской Академии сельскохозяйственных к, при анализе и обработки временных рядов.
Результаты диссертационной работы в виде алгоритмов и программ используются в бном процессе ЮРГУЭС по дисциплинам «Устройства цифровой обработки сигналов», гистическая радиотехника», «Методы цифровой обработки сигналов». Предложенный соб обнаружения аномальных значений с дискретно-меняющимся уровнем анализа процесса сгройство его реализующее признаны изобретением и подтверждены патентом №2302655, и устройство, реализующее адаптивный способ обнаружения аномальных значений верждено патентом №2301445. Программное обеспечение для ПЭВМ, реализующее способ аружения аномальных значений с дискретно-меняющимся уровнем анализа процесса и птивный способ обнаружения аномальных значений, официально зарегистрированы в сийском агентстве по патентам и товарным знакам (РОСПАТЕНТ).
Апробация, публикация результатов работы. Основные положения диссертационной оты изложены, докладывались и одобрены на научно-технических конференциях: IV жду народная научно-техническая конференция «Измерение, контроль, информатизация»: рнаул, 2003г.; Международная научная конференция «Системный подход в науках о роде, человеке и технике» г.Таганрог, 2003г.; IV Международная научно-практическая ференция «Теория, методы и средства измерений, контроля и диагностики», г.Новочеркасск 4г, VII, IX и X Международная конференция «Цифровая обработка сигналов и е£ менение», г. Москва 2005, 2007, 2008 гг.; Международная конференция «Цифровые методы хнологии», г.Таганрог, 2005г.; Межрегиональная научная конференция «Современные блемы радиоэлектроники», г.Ростов-на-Дону 2006г.; Международная научная конференция
«Статистические "методы в естественных, гуманитарных и технических наук г.Таганрог, 2006г.; Международная конференция «Информационные технологии в современн мире», г.Таганрог, 2006г.; ХП1 Международная научно-техническая конферен i «Радиолокация, навигация, связь», г.Воронеж 2007г.; Международный конгресс студен аспирантов и молодых ученых, г. Нальчик, 2007 г., IV Международная конференция «Метода средства управления технологическими процессами», г.Саранск, 2007 г., III Международн научно практической конференции, «Наука и образование без границ», г. София, 2007 Международная научная конференция «Информация, сигналы, системы: вопросы методоло анализа и синтеза», г. Таганрог, 2008 г.
Публикации. По результатам выполненных исследований опубликована 21 работа, в т числе получено 2 патента, I свидетельство на программный продукт, 2 статьи в рецензируем журналах из списка ВАК, 15 тезисов докладов в материалах Международных конференций симпозиумов, глава в коллективной Международной монографии.
1 Структура и объем работы. Диссертационная работа состоит из введения, пяти глав выводами, заключения, списка литературы, включающего 145 наименования, 2 приложени Основной текст работы изложен на 178 страницах машинописного текста, поясняется рисунком и 22 таблицами.
СОДЕРЖАНИЕ РАБОТЫ
Во введении сформулированы цель и основные задачи, решаемые в работе, обоснована туальность проблемы, определены научная новизна, практическая значимость и основные п ложения, выносимые на защиту. • Приводятся сведения об апробации и внедрении результа работы.
В первой главе проведен анализ существующих методов обнаружения аномальных знач ний, который показал, что не существует универсального подхода к решению задачи обнаруж ния аномальных значений в реализации нестационарного случайного процесса. Известные м тоды имеют ряд ограничений, которые являются зачастую решающими для их использован на практике. Из представленного анализа следует, что в условиях априорной неопределенно«-в настоящее время не существует эффективного метода обнаружения аномальных значен для случайных процессов с нестационарностью по математическому ожиданию и дисперси Известные методы и алгоритмы предполагают, что исследуемый нестационарный случайны процесс представлен аддитивной моделью, а шумовая составляющая является гауссовским cj чайным процессом. Анализ методов обнаружения аномальных значений показал, что основны недостатком является зависимость их эффективности от объема априорной информации.
Во второй главе рассмотрены основные математические модели взаимодействия полез ной, шумовой и аномальной составляющих. Введены модели функций полезной и класс функ ций распределения шумовой составляющих. Предполагается, что полезная составляющая явля ется гладкой и непрерывной. В качестве законов плотности распределения вероятности шумо вой составляющей рассматриваются гауссовский, равномерный и рэлеевский. Аномальные зна чения, полагаются одиночными, т.е. искажают разрозненные отсчеты в последовательности ис ходного ряда значений процесса.
Разработан адаптивный способ обнаружения аномальных значений при фиксированно значении вероятности ошибки первого рода и представлен его алгоритм (свидетельство X 2006611185 о регистрации программ для ЭВМ). Предлагаемый способ предполагает налита единственной дискретной реализации исследуемого нестационарного случайного процесса, аддитивной шумовой составляющей. Априорная информация об исследуемом процессе закш чается в том, что на некоторых интервалах полезная составляющая процесса является гладко функцией, т.е. достаточно точно описывается полиномом не выше второй степени. Реализация исследуемого процесса разбивается на интервалы случайной длины, получаемые следующим образом: с помощью генератора случайных чисел, равномерно распределенных в интервале
(0;1), получают /_1 чисел '', ..., ^ е (0;1) • Для получения каждой новой оценки, проце-
ра разбиения отрезка (д;^) на / интервалов случайной длины, повторяется. В результате юлучаем р разбиений временного отрезка • На каждом интервале разбиения д<'>, где
= ¡^ и у = ¡7? с помощью метода наименьших квадратов находятся оценки ду', ¿у1', ¿у1 ко-ффициснтов аппроксимирующего полинома а+Ы1 Результатом действия способа будет абор определенных на отрезке сглаживающих функций • Определяются значения
азности между исходным нестационарным случайным процессом и оценкой сглажи-ающих функций = У^" При оценке параметров разностного процесса на ка-
ом интервале разбиения , используется один из методов стабильного оценивания пара-етров выборки, т.е. оценка параметров математического ожидания щ и среднеквадратическо-о отклонения а производится по а*- усеченной выборке. Выражение для оценок матсматиче-кого ожидания и среднеквадратического отклонения принимают следующий вид:
1 Г~1 I 1
() о}0 - I—— ^(шу1 -Бу)1. где г = У-2- Далее, на каждом интервале разбие-
ия исследуемого нестационарного случайного процесса, устанавливается пороговое значение:
е ? = О)
е. а ~ некоторый коэффициент, 0 < Л 3 и у = 17? • Превышение значений разностного провеса , на каждом интервале разбиения, установленного порогового значения, штрафуется, е. если выполняется условие: <>М + < У^ < . то у® получает одно штрафное зна-
ение. В соответствии с методом размножения оценок, вышеизложенная процедура, определе-ия штрафов, повторяется р- раз и для каждого повторения проверяется условие для каждого
ачения у^'), где £ = , N - объем выборки исследуемого нестационарного случайного провеса, I - количество интервалов разбиения, р- количество повторений процедур. Таким обрам, происходит накопление ряда штрафных значений для элементов исходной реализации ис-едуемого процесса По окончанию обработки, для всех оштрафованных значений исходной
ализации определяется суммарное значение штрафов = ^glr> и максимальное значение
¡=1
ДО тах(£^) = в ■ Проверяется условие: если g* > 0,76 .то ¿-ос значение из входной редлиза-и нестационарного случайного процесса ук, будет трактоваться как аномальное.
Модификация, предлагаемого в работе способа обнаружения аномальных значений, предлагает введение адаптации порогового значения относительно коэффициента а в пороговом гачении (1), при априорно фиксированном значении вероятности ошибки первого рода а ■ В язи с этим предлагается ввести адаптацию порогового значения о назначения штрафов (1) по эффициенту А относительно априорно фиксированного значения вероятности ошибки перво-рода а. Проведенные исследования показали, что значение коэффициента А, Для рассмот-нных законов плотности распределения вероятности случайных процессов, практически не исит от объема, исследуемой выборки £ и среднеквадратического отклонения стационарного *айного процесса ош, а зависит только от априорно задаваемого значения вероятности ибки первого рода а • На рис. 1 представлен усредненный график зависимости а = /(а) Для следуемых стационарных случайных процессов. Графическая зависимость, представленная на с. 1, может быть аппроксимирована полиномом второй степени, вида:
Л (а) = 2,16 - 6,3а + 7,32а2 • (2)
Рис.1, Усредненная зависимость
Л = Да)
Полученные результаты исследования позволяют при адаптации порогового значения (1) вместо постоянного значения коэффициента А использовать его оценку, которая вычисляется в соответствии с (2). Использование уравнения (2) в оценке порогового значения (1) позволяет использовать предложенный способ обнаружения аномальных значений при фиксированном значении вероятности ошибки первого рода а- Разработана структурная схема устройства, реализующего адаптивный способ, представленная на рисунке 2.
Структурная схема состоит из буферного каскада (Б), блока разбиения на интервалы случайной длины (БРИ), блока формирования интервалов разбиения (БФИ), блока аппроксимации (БА), блока нахождения- разностного процесса (БР), блока оценки параметров процесса (БОП), блока расчета порогового значения (П1), блока задания коэффициента (БЗК), коммутаторов (К1) и (К2), блока суммирования штрафов (БС), блока формирования второго порогового значение (П2) и блока устранения аномальных значений (БУ).
Предлагается способ обнаружения аномальных значений без оценки полезной составляющей нестационарного случайного процесса, основанный на обнаружении аномальных значений при использовании дискретно-меняющегося уровня анализа нестационарного случайного процесса (Пат. РФ №2302655). Предлагаемый способ обнаружения аномальных значений процесса
заключается в следующем: определяется максимальное и минимальное значения исходного процесса и рассчитывается шаг изменения уровня анализа - по выражению: ДГ = (Г№-Уюа)/Я. где р - априорно заданное количество уровней. Значения уровней анализа вычисляется в соответствии с выражением ^а^-ду./.-где / =
Для каждого значения уровня проверяется условие:
_ №иХ БЛ _к« _ * .
От
Рис. 2. Структурная схема устройства, реализующего адаптивный способ обнаружения аномальных значений
У.гь., к 1
(3)
где к = ■ При выполнении условия (3) на каждом шаге к-му отсчету ставится в соответствие штрафное значение, равное Таким образом, с изменением уровня анализа происходит накопление штрафных значений для элементов исходного процесса, т.е: +Ъ где ряд штрафных значений с соответствующим номером элемента выборки. Одновременно, после установки каждого уровня ц и проверки условия (3), исследуемый процесс анализируется на наличие участков нестационарности, т.е. значения процесса, превышающие данный уровень анализируются согласно априорно задаваемой логике пу^. Найденные
нестационарности локализуются участки, то есть, если в ряде ^ появится последовательность в (1 ненулевых элементов, >0, {гД., е{гЛ^,> Л = г-у+Ь где априорно задаваемая значение, то предполагается, что на отрезке ряда \ук}"., присутствует полезная составляющая исходного процесса у , и на этом интервале при дальнейшем изменении уровня анализа ц штрафы не назначаются. В ряду штрафных значений определяется макси-
.ное значение ряда = max({gt}) и проверяется условие gt >0,5-g„„. при его вы-лнении принимается решение, что соответствующее значение у является аномальным. Ис-едованы и определены значе1гия параметров способа обнаружения аномальных значений с скретно-меняющимся уровнем анализа процесса. Для практического использования, незави-о от функции полезной и закона плотности распределения вероятности шумовой состав-ощих рассмотренных процессов, рекомендованы: количество уровней анализа /> £ 25 и длина тервала, согласно которой определяются участки нестационарности, порядка d=S-l ■ Разра-ана структурная схема устройства, реализующего предлагаемый способ обнаружения ано-ьных значений, представленная на рисунке 3. Структурная схема состоит из буферного кас-а (Б), блока определения количества уровней анализа (БУА), коммутаторов (Kl), (К2), (КЗ), ка проверки на участки нестационарности (ПН), суммирующего устройства (СУ), блока вы-ления второго порового значения (БУП) и блока устранения аномальных значений (БУ).
В третьей главе проводится исследование эффективности предложенного адаптивного способа обнаружения аномальных значений. Исследования проводятся при различной величине аномальных значений и гауссовском законе плотности распределения вероятности аддитивной шумовой составляющей. Значения вероятности ошибки первого рода для способа с адаптацией порогового значения априорно фиксируется а = 0,05 ■ В результате проведенных исследований, для нестационарных случайных процессов, получены зависимости оценок вероятности правильного обнаружения $=f(Amp) и вероятности ошибки перво-да а = f(Amp)• Для случая, когда не используется адаптация порогового значения - графи-1". 2"» 3"> 4", 5' и с применением адаптация порогового значения - графики 1,2,3,4,5 (рис. Для следующие моделей функции полезной составляющей: графики 1,1" - экспоненциаль-; графики 2, 2" - параболической; графики 3, з" - гармонической; графики 4, 4" - составной афики 5, 5" - сложной функции.
Рис. 3. Струюпуршя схема устройства, реализующего способ обнаружения аномальных значений с дискретно-меняющимся уровнем анализа процесса
г0ш '"ш а в<гш stTiu *вш -'¡/"Р
а) 6)
Рис. 4. Зависимость а) Р = /(Amp) и б) a = /(Amp)
Анализ результатов, представленных на рис. 4а показывает, что при введении адаптации гового значения, оценки вероятности правильного обнаружения р возрастают для всех, мотренных функций, полезной составляющей процесса. Причем, для параболической, гар-ической и экспоненциальной модели функций, при величине аномальных значений порядка
оценки р возрастают в среднем на 66%. С ростом величины аномальных значений ( Amp>SaJ.oueiiKH р увеличиваются в среднем на 54%. Из анализа зависимостей ß = /(Amp), так же следует, что при использовании адаптации порогового значения, с ростом величины аномальных значений Amp, оценки ß стремятся к единице, независимо от модели функции полезной составляющей процесса. Из анализа, полученных зависимостей рис. 46, следует, что при использовании адаптации порогового значения оценки вероятности ошибки первого рода a практически не превосходят априорно задаваемого значения, для всех исследуемых нестационарных случайных процессов.
В результате проведенных исследований, с адаптацией порогового значения получены зависимости ß = /(<4тр) и a = /(/imp)C аддитивной и мультипликативной шумовой составляющей, которые представлены на рисунке 5 для экспоненциальной модели функции полезной составляющей процесса: график 1 - мультипликативная шумовая составляющая; график 2 - аддитивная шумовая составляющая. Анализ результатов, представленных на рис. 5а, показывает, что при величине Атр = 3аш> оценки вероятности правильного обнаружения ß для мультипликативной модели нестационарного случайного процесса выше, чем при аддитивной модели на 10%. При введении адаптации порогового значения, для данной модели полезной составляющей, при величине Лтр=Ааш, оценки ßra 0,940- 0,981- С ростом величины аномальных значений Атр>50ш оценки ß стремятся к единице независимо от модели шумовой составляющей исследуемого нестационарного случайного процесса. Анализ результатов, представленных на рис. 56, показывает, что при введении адаптации порогового значение оценки вероятности ошибки первого рода а не превосходит априорно задаваемого значения a = 0,05 • Причем, для мультипликативной модели шумовой составляющей процесса значение а на 57% меньше, чем для аддитивной модели шумовой составляющей процесса. Аналогичная зависимость наблюдается и для других модейей функций полезной и законах плотности распределения вероятности шумовой составляющих нестационарного случайного процесса
5ан бош Amp 3егш &ги Amp
а) б)
Рис. 5. Зависимость а) Р = /(Amp) и б) a = /(Amp) для аддитивной и мультипликативной модели шумовой
составляющей процесса
Проведенные исследования показали, что: использование адаптивного способа при анализе нестационарных случайных процессов с аддитивной и мультипликативной шумовой составляющей позволяет при фиксированном значении вероятности ошибки первого рода, получить оценки р, которые с ростом величины аномальных значений стремятся к единице. Введение адаптации порогового значения, позволяет получить оценки a, не превосходящие априорно задаваемого значения для всех рассмотренных моделей полезной и шумовой составляющих процесса.
Б четвертой главе приведены результаты исследования способа обнаружения аномальных значений с дискретно-меняющимся уровнем анализа процесса Зависимости оценок Р = /(Amp) и a = /(Amp) представлены на рис. 6. при гауссовском законе плотности распределения вероятности аддитивной шумовой составляющей, для следующих моделей функций по-
лезной составляющей процесса: график 1 - гармонической, график 2 - сложной, график 3 - экспоненциальной, график 4 - составной, график .5 - параболической. Из анализа рис. 66 следует, что оценки р при величине аномальных значений Amp = Зо составляют в среднем р«= 0,775 > а при Атр>5ош в среднем - р® о,972 (Рис- 6а). Анализ зависимостей, представленных на рис. 66, показывает, что оценки а, при Amp = За„. » среднем для рассмотренных функций полезной составляющей процесса, составляют величину порядка а « 0,057 • С ростом величины аномальных значений, оценки а стремятся к своим минимальным значениям независимо о функции полезной составляющей процесса.
Рис. 6. Зависимость a) f} = f(Amp) иб) а = /(Amp)
Влияние модели исследуемого процесса на эффективность способа с дискретно-меняющимся уровнем анализа рассматривается на примере экспоненциальной функции модели полезной составляющей процесса. В результате проведенных исследований, получены зависимости р=f(Amp) и а = /(Amp) с аддитивной и мультипликативной шумовой составляющей, которые представлены на рис. 7 (график 1 - аддитивная шумовая составляющая, график 2 -'льтипликативная шумовая составляющая). По результатам анализа, графиков на рис. 7а вид-ю, что при мультипликативной шумовой составляющей процесса, оценки р максимальны график 2). С ростом величины аномальных значений, разница в оценках р уменьшается. На-ример, если Amp = За„ на 26%, а при Amp = 5<з„ на 9% . Оценки а при экспоненциальной ункции полезной составляющей и мультипликативной шумовой составляющей процесса зна-ительно меньше, чем при аддитивной шумовой составляющей, при Amp = Заш > примерно на 4% (рис. 76).
Рис. 7. Зависимость а) Р — /(Amp) иб) О. — / (Amp) для аддитивной и мультипликативной модели шумовой
составляющей провеса
Результаты исследований показали, что при Amp=За » эффективность способа с дискрет-о-меняющимся уровнем анализа выше на 10%, когда шумовая составляющая является мульти-икативной. С ростом величины аномальных значений эффективность предлагаемого способа ракгически не зависит от формы взаимодействия полезной и шумовой составляющей неста-онарного случайного процесса.
В пятой главе рассмотрена эффективность адаптивного и способа с дискретно-меняющимся уровнем анализа процесса при решении задачи выделения полезной составляющей нестационарного случайного процесса. Рассмотрены следующие методы сглаживания: скользящее среднее, медианное, экспоненциальное сглаживания и метод размножения оценок. Анализ полученных оценок среднеквадратического отклонения со показывает, что они мало отличаются от полученных без наличия аномальных значений в выборке нестационарного случайного процесса, и значительно отличаются от тех, которые получены при наличии аномальных значений. Обнаружение аномальных значений может повысить эффективность выделения полезной составляющей в среднем на 40-60% в зависимости от её функции. Использование способов обнаружения аномальных значений при анализе нестационарных случайных процессов позволяет повысить точность выделения полезной составляющей в условиях комбинированной шумовой составляющей, т.е. учета наличия аномальных значений.
При решении многих практических задач, актуальной является задача обнаружения аномальных (резко выделяющихся) значений, их выделение или устранение. В связи с этим, рассмотрим возможность использования предлагаемых способов обнаружения аномальных значений при решении некоторых практических задач. В качестве натурной реализации для определения эффективности предлагаемых способов рассмотрен сигнал с мегаллодетектора. Металло-детектор, в данном случае, имеет два инверсных канала. Входной сигнал содержит в себе полезный сигнал и шумы, т.е. является нестационарным по среднему. Полезный сигнал имеет строго определённую форму во времени, но различную амплитуду. Графический пример такого входного сигнала с одного канала мегаллодетектора представлен на рис. 8. Анализ результатов обнаружения аномальных значений, представленных на рис. 8а и 86, показывает, что оба способа определяют положение экстремальных значений сигнала с вероятность практически равной единице. Экстремальные значения соответствуют 240,284 и 1250,1284 отсчетам.
В качестве данных для обработки использовались так же результаты фотометрических наблюдений. Обрабатываемый процесс представляет цикл наблюдений и содержит 30 индивидуальных измерения блеска в V-фильтре. Результаты обработки, предлагаемыми способами, исследуемого стационарного случайного процесса, представлены на рис. 9. Рис. 9а - результат применения адаптивного способа обнаружения аномальных значений, при а = 0,05 • Рис- 96 -результат применения способа с дискретно-меняющимся уровнем анализа исследуемого процесса.
а) б)
Рис. 8. Результаты обнаружения аномальных значений при анализе сигнала с металлодетектора: а) адаптивный способ:
б) способ с дискретно-меняющимся уровнем анализа
При использовании, адаптивного способа обнаружения аномальных значений выявлено, что результаты.измерений, соответствующие 10, 12 и 26 отсчетам является аномальными (рис. 9а). При использовании способа с дискретно-меняющимся уровнем анализа, к числу аномальных значений добавился еще и 24 отсчет (рис. 96).
г4
)азю
17500
на»
1950»
I Э 9 7 » 1! 13 »5 17 19 21 23
1 3 5 7 » 11 и 1» 1? » 21 23 Я 27
4 9
Рис. 9. Результаты обнаружения аномальных значений при анализе фотометрических данных: а) адаптивный способ; 6) способ с дискретно-меняющимся уровнем анализа
На рис. 10 представлена выборка, которая характеризует работу аккумуляторной батареи в :име непланируемого короткого замыкания. Режим работы устройства, при коротком замы-ии характеризуется наличием резких выбросов амплитуды сигнала.
^Чаа^
мАН
11 21 »1 <1 51 01 71 »1 91 ' 1 11 21 Л 41 51 51 71 «1 »1 '
а) б)
. ¡0. Результаты обнаружения аномальных значений при анализе значений при анализе работы аккумуляторной батарее
в режиме короткого замыкания: а) адаптивный способ; б) способ с дискретно-меняющимся уровнем анализа
При автоматизированном режиме диагностики работы устройства, важность определения ях выбросов, позволит определить резкое изменение параметров либо самого устройства, ли-параметров и режимов работы, подключенных к нему внешних систем. При использовании
адаптивного способа обнаружения аномальных значений (рис. 10а), так и способа с дис-тно-меняющимся уровнем анализа процесса (рис. 106), вероятность обнаружения выбросов рактнчески равна единице. Отсчеты 34 и 68 определены как аномальные.
В заключении сформулированы основные результаты работы
В приложении приведен листинг программ, реализующих адаптивный способ обнаруже-ия аномальных значений и способ с дискретно-меняющимся уровнем анализа процесса.
ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ
При решении поставленных задач получены результаты, на основании которых можно елать следующие выводы:
1. Проведенный анализ существующих методов и алгоритмов обнаружения аномальных ачений показал, что их эффективность зависит от; объема априорной информации об иссле-емом процессе. Большинство рассмотренных методов используют для случаев, когда процесс ационарный и имеет гзуссовский закон плотности распределения вероятности. При анализе естационарных случайных процессов, существующие методы и алгоритмы» опираются на то,
пгумовая составляющая является аддитивной и априорно известны характеристики апо-альных значений (величина, частота появления, место расположения).
2. Предложен новый адаптивный способ, позволяющий при анализе нестационарных слу-айных процессов аддитивно-мультипликативной природы обнаруживать аномальные значения условиях ограниченного.объема априорной информации, и алгоритм, его реализующий (сви-етельство №. 2006611185 о регистрации программ для ЭВМ). Предлагаемый способ обнаруже-ия аномальных значений является модификацией метода размножения оценок, которая заклю-ается во ведении адаптации порогового значения относительно вероятности ошибки первого
да. Применение предлагаемого адаптивного способа для анализа нестационарных случайных . оцессов, позволило обнаруживать аномальные значения при априорно фиксированном значе-и вероятности ошибки первого рода.
3. Получено выражение, согласно которому пороговое значение определяется зависимости от априорйого значения вероятности ошибки первого рода
4. Предложена структурная схем? устройства, реализующая адаптивный способ обнар жения аномальных значений при фиксированном значении вероятности ошибки первого род (Пат. РФ №2311445).
5. Экспериментально показано, что при адаптивном способе, с ростом величины ано мальных значений, оценки вероятности ошибки первого рода не превосходят априорно зад ваемых, а оценки вероятности правильного обнаружения стремятся к единице, независимо о модели функции полезной и закона плотности распределения вероятности шумовой состав ляющих исследуемого процесса. Эффективность обнаружения аномальных значений возраста ет, при величине Атр~3сгш> для процессов с аддитивной шумовой составляющей на 66-54% и мультипликативной - на 43-50% независимо от места расположения аномальных значений закона плотности распределения вероятности шумовой составляющей процесса.
6. Экспериментально установлено, что эффективность адаптивного способа возраст: при использовании стабильного оценивания параметров выборки нестационарного случайно процесса, в зависимости от модели функции полезной составляющей, при Атр=Заш > °т 11 % Д 36%.
7. Предложен новый способ обнаружения аномальных значений с дискретно-меняющим уровнем анализа процесса и предложена структурная схема устройства его реализующее (Пат РФ №2302655). Построен алгоритм способа обнаружения аномальных значений с дискретно меняющимся уровнем анализа и рекомендованы его параметры.
8. Экспериментально показано, что для способа с дискретно-меняющимся уровнем анали за процесса, при величине аномальных значений Атр^5>с?„ оценки вероятности ошибки перво рода и вероятности правильного обнаружения не зависят от модели функции полезной и от за кона плотности распределения вероятности шумовой составляющих, а так же и от места расп ложения аномальных значений в исследуемом нестационарном случайном процессе.
9. Экспериментально показано, что при наличии аномальных значений в исследуемом не стационарном случайном процессе, использование предлагаемых способов в задаче выделен полезной составляющей, позволяет повысить их эффективность в среднем на 40-60%.
10. Определено, что применение предлагаемых способов при анализе экспериментальнь данных позволяет в автоматическом режиме эффективно обнаруживать аномальные значения.
11. Разработаны пакеты прикладных программ и программных комплексов, реализующ адаптивный способ обнаружения аномальных значений и способ с дискретно-меняющим уровнем анализа процесса, которые внедрены в рамках госбюджетной НИР по заданию Феде рального агентства по образованию РФ (ЮРГУЭС - 2.06.Ф, № ГР 0120.0603.492, Инв. К 022.007.023.59), по ЕЗН Федерального агентства по образованию РФ (ЮРГУЭС-1.02.Ф, № Г 0104.0000.218, Инв. № 007.023.58), в ООО НПП «Интор» г. Новочеркасск при выполнении кон структорских работ технических средств измерений и программного обеспечения систем автоматизации и во Всероссийском НИИ экономики и нормативов российской академии сельскохозяйственных наук, при анализе и обработки временных рядов. Результаты диссертационной работы в виде алгоритмов и программ используются в учебном процессе ЮРГУЭС по дисциплинам «Устройства цифровой обработки сигналов», «Статистическая радиотехника», «Методы цифровой обработки сигналов».
ПО ТЕМЕ ДИССЕРТАЦИИ ОПУБЛИКОВАНЫ СЛЕДУЮЩИЕ РАБОТЫ:
1. Токарева С. В., Шерстобитов А. И. Повышение вероятности правильного обнаружения аномальных измерений при параметрической неопределённости//Известия ВУЗов Сев.-Кав. регион «Техника, Технология, и экономика сервиса». Технические науки. - Новочеркасск: ЮРГТУ, - 2004. - приложение № 6. - С. 197-199.
2. Токарева С. В., Марчук В.И. Способ обнаружения аномальных значений при анализе нестационарных случайных сигналов//Известия ЮФУ. Технические науки. Тематический вы-
пуск "Безопасность телекоммуникационных систем".- Таганрог: Издательство ТТИ ЮФУ, 2008, №3(80), С. 66-72.
3. Пат. № 2301445 Российская Федерация, Cl, МПК G06F 17/18. Устройство для обнаружения и устранения аномальных измерений/ Токарева C.B., Марчук В. И., В.В. Воронин, Шерстобитов А.И.; заявитель и патентообладатель Южно-Рос. Гос. ун-т экономики и сервиса. -; за-явл12.10.2005; опубл. 20.06.2007, Бюл. № 17. - 16 с. 9 ил.
4. Пат. №2302655 Российская Федерация, Cl, МПК G06F 15/00. Способ обнаружения аномальных измерений без оценки функции тренда и устройство его реализующее / Токарева C.B., Марчук В. И., В.В. Воронин, Шерстобитов А.И.; заявитель и патентообладатель Южно-Рос. Гос. ун-тэкономики и сервиса; заявл. 17.10.2005; опубл. 10.07.2007, Бюл. № 19. - 14 с. 9 ил.
5. Свидетельство об официальной регистрации программ для ЭВМ № 2006611185. Обнаружение аномальных измерений при возможности фиксирования вероятности ложной тревоги / Токарева C.B., Марчук В. И., В.В. Воронин, Шерстобитов А.И.; заявитель и патентообладатель Южно-Рос. гос. ун-т экономики и сервиса. - заявл. 13.02.06 г., г. Москва. - опуб. 3.04.06 г.
6. Токарева C.B., Шерстобитов А.И. Сравнительный анализ метода экспоненциального сглаживания и размножения оценок при выделении полезного сигнала//Измерение и контроль. Информация: мат. 4-ой междунар. тех. конф., Барнаул: АГТУ, 2003. - С. 83-86.
7. Токарева C.B. Сравнительный анализ модификации нового метода обйаружения аномальных измерений//Междунар. науч. конф. «Системный подход в науках о природе, человеке и технике», Таганрог: ТРТУ, 2003. - 4.5. - С.99-103.
8. Токарева С. В., Шерстобитов А.И. Способ уменьшения погрешности при использовании метода размножения оценок/Моделирование. Теория, методы и средства: Мат. 4-ой междунар. науч-прак. конф.. - Новочеркасск: ЮРГТУ, 2004. - С.4-5.
9. Токарева С. В., Марчук В.И., Анализ вероятностных характеристик адаптивного порога при обнаружении аномальных измерений//Цифровая обработка сигналов и её применение: Труды Рос. науч.-техн. общ. Радиотех., электрон, и связи им. А.С.Попова.- Москва, 2005. - Вып. VII-2. - С.387-389.
Ю.Токарева С. В. Возможность адаптации порогового значения при симметричных и несимметричных законах распределения шумовой составляющей/ЛДифровые методы и технологии: Мат. междунар. науч. конф. - Таганрог: ТРТУ, 2005. - Ч.З. - С.61-63.
Н.Токарева C.B. Использование адаптивного метода обнаружения аномальных измерений при заданной вероятности ошибки первого рода//Современные проблемы радиоэлектроники: мат. 1-ой межрег. науч. конф. - Ростов-на-Дону, 2006. - С.132-134.
12. Токарева C.B., Марчук В.И., Шерстобитов А.И. Использования адаптивного метода при анализе стационарных случайных процессов//Информационные технологии в современном мире: мат. междунар. науч. конф. - Таганрог: ТРТУ, 2006. - 4.2. - С.76-78.
13. Токарева C.B. Использование адаптивного метода обнаружения аномальных измерений для нестационарных случайных процессов//Статистические методы в естественных, гуманитарных и технических науках: Мат. междунар. науч. конф. - Таганрог: ТРТУ, 2006. - Ч.З. - С.83-86.
М.Токарева C.B. Исследование эффективности адаптивного метода обнаружения аномальных значений при мультипликативной шумовой составляющей/Щифровая обработка сигналов и её применение: Труды Российского научно-тех общества радиотехники, электроники и связи им. А.С.Попова. - Москва, 2007. - Вып.1Х-2,- С. 386-389.
15. Токарева C.B., Воронин В.В. Обнаружение аномальных значений в реализации нестационарного случайного сигнала с мультипликативной шумовой составляющей//ХШ междунар. науч-тех. Конф. «Радиолокация, навигация, связь», Том 1. Воронеж, НПФ «САКВОЕЕ» ООО 2007. - С.82-87.
16. Токарева C.B., Воронин В.В., Семенищев Е.А. Сравнительный анализ обнаружения аномальных значений при аддитивной и мультипликативной шумовой составляю-
щей//Перспекгива-2007: Мат. междунар. конгресса студентов, аспирантов и молоды ученых. - Нальчик: Каб.-Балк. Ун-т, 2007. - Том IL - С. 79-81.
17. Практические аспекты цифровой обработки сигпалов/Окорочков А.И., Федосов В.П. C.B. Токарева и др.: Монография//под ред. В.И.Марчука.-Шахты: Изд-во ЮРГУЭС, 2007.-20 с.
18. Токарева C.B., Воронин В.В., Шерстобитов А.И. Анализ эффективности метода обна ружения аномальных значений без гыделения функции полезной составляющей процес са//Методы и средства управления технологическими процессами: Мат. IV Междунар. конф. Саранск: Мордовский гос. университет, 2007. - С. 225-227.
19.Токарева C.B., Воронин В.В. Исследование модификации метода обнаружения ано мальных значений/УНаука и образование без границ: Мат. 3 междунар. науч. пракг. конф. - Со фия: «Бял ГРАД-БГ» ООД, 2007. - Т. 16.Технологии. - С.74-77.
20. Токарева С.В Обнаружение аномальных измерений при многопороговом уровне анали за нестационарного случайного процесса/ЛДифровая обработка сигналов и её применение: Тру ды Российского науч-тех общества радиотехники, электроники и связи им. А.С.Попова. - Mo сква, 2008. - Вып.Х-2. - С. 537-540.
21.Токарева C.B. Оценка эффективности обнаружения аномальных значений при наличи корреляции между отсчетами шумовой составляющей//Информация, сигналы, системы: вопро сы методологии, анализа и синтеза: Мат. международ, научной конференции. - Таганрог: Т ЮФУ, 2008. - 4.4. - С. 72-75.
Тип.ТТИ ЮФУ Заказ №434тир. /£>0экз.
Оглавление автор диссертации — кандидата технических наук Токарева, Светлана Викторовна
ВВЕДЕНИЕ
ГЛАВА 1. Анализ методов обнаружения аномальных значений
1.1 Параметрические методы и алгоритмы обнаружения аномальных 15 значений
1.2 Непараметрические методы и алгоритмы обнаружения аномальных значений
Выводы
ГЛАВА 2. Способы обнаружения аномальных значений
2.1 Математические модели сигналов
2.2 Адаптивный способ обнаружения аномальных значений
2.3 Структурная схема устройства, реализующего адаптивный способ 70 обнаружения аномальных значений
2.4 Способ обнаружения аномальных значений с дискретно- 73 меняющимся уровнем анализа процесса
2.5 Структурная схема устройства, реализующего способ 89 обнаружения аномальных значений'с дискретно-меняющимся уровнем анализа процесса
Выводы
ГЛАВА 3. Анализ эффективности адаптивного способа обнаружения 92 аномальных значений
3.1 Исследование эффективности адаптивного способа обнаружения 92 аномальных значений для нестационарных случайных процессов с аддитивной шумовой составляющей
3.2 Исследование эффективности адаптивного способа обнаружения 98 аномальных значений для нестационарных случайных процессов с мультипликативной шумовой составляющей
3.3 Сравнительный , анализ эффективности адаптивного способа 109' обнаружения аномальных значений для нестационарных случайных процессов с аддитивной и мультипликативной шумовой составляющей
3.4 Анализ эффективности адаптивного способа обнаружения 111 аномальных значений для стационарных случайных процессов
Выводы
ГЛАВА 4. Анализ эффективности способа обнаружения аномальных 119 значений с дискретно-меняющимся уровнем анализа нестационарного случайного процесса
4.1 Исследование эффективности способа обнаружения аномальных 119 значений с дискретно-меняющимся уровнем анализа нестационарного случайного процесса с аддитивной шумовой составляющей
4.2 Исследование эффективности способа обнаружения аномальных 130 значений с дискретно-меняющимся уровнем анализа нестационарного случайного процесса при мультипликативной шумовой составляющей
4.3 Сравнительный анализ эффективности способа с обнаружения 141 аномальных значений для нестационарных случайных процессов с аддитивной и мультипликативной шумовой составляющей
4.4 Исследование эффективности способа обнаружения аномальных значений с дискретно-меняющимся уровнем анализа для 145 стационарных случайных процессов
Выводы ' "
ГЛАВА 5. Исследование эффективности способов обнаружения аномальных значений при обработке реализаций, полученных в результате реальных экспериментов
5.1 Сравнительный анализ эффективности адаптивного способа и 151 способа с дискретно-меняющимся уровнем анализа процесса при обнаружении аномальных значений
5.2 Анализ эффективности способов обнаружения аномальных 159 значений при выделения полезной составляющей нестационарного случайного процесса
Заключение диссертация на тему "Способы обнаружения аномальных значений при анализе нестационарных случайных процессов"
Выводы
1. Показано, что эффективность обнаружения аномальных значений при использовании адаптивного способа не зависит от значения среднеквадратиче-ского отклонения аддитивной шумовой составляющей, а эффективность способа обнаружения аномальных значений с дискретно-меняющимся уровнем анализа процесса возрастает с увеличением значения среднеквадратического отклонения аддитивной шумовой составляющей процесса.
2. Установлено, что эффективность адаптивного способа обнаружения аномальных значений возрастает при увеличении априорно задаваемого значений вероятности ошибки первого рода а.
3. Путем машинного моделирования показано, что при наличии аномальных значений в анализируемом процессе, использование предлагаемых способов в задаче выделения полезной составляющей нестационарного случайного процесса, позволяет повысить их эффективность в среднем на 40-60% .
4. Установлено, что при решении практических задач, использование предлагаемых способов позволяет эффективно обнаруживать аномальные значения в автоматическом режиме.
Заключение
При решении поставленных задач получены результаты, на основании которых можно сделать следующие выводы:
1. Проведенный анализ существующих методов и алгоритмов обнаружения аномальных значений показал, что их эффективность зависит от объема априорной информации об исследуемом процессе. Большинство рассмотренных методов используют для случаев, когда процесс стационарный и имеет гауссовский закон плотности распределения вероятности. При анализе нестационарных случайных процессов, существующие методы и алгоритмы опираются на то, что шумовая составляющая является аддитивной и априорно известны характеристики аномальных значений (величина, частота появления, место расположения).
2. Предложен новый адаптивный способ, позволяющий при анализе нестационарных случайных процессов аддитивно-мультипликативной природы обнаруживать аномальные значения в условиях ограниченного объема априорной информации, и алгоритм, его реализующий (свидетельство № 2006611185 о регистрации программ для ЭВМ). Предлагаемый способ обнаружения аномальных значений является модификацией метода размножения оценок, которая заключается во ведении адаптации порогового значения относительно вероятности ошибки первого рода. Применение предлагаемого адаптивного способа для анализа нестационарных случайных процессов, позволило обнаруживать аномальные значения при априорно фиксированном значении вероятности ошибки первого рода.
3. Получено выражение, согласно которому пороговое значение определяется в зависимости от априорного значения вероятности ошибки первого рода.
4. Предложена структурная схема устройства, реализующая адаптивный способ обнаружения аномальных значений при фиксированном значении вероятности ошибки первого рода (Пат. РФ № 2311445).
5. Экспериментально показано, что при адаптивном способе, с ростом величины аномальных значений, оценки вероятности ошибки первого рода не превосходят априорно задаваемых, а оценки вероятности правильного обнаружения стремятся к единице, независимо от модели функции полезной и закона плотности распределения вероятности шумовой составляющих исследуемого процесса. Эффективность обнаружения аномальных значений возрастает, при величине Amp = Ъаш > для процессов с аддитивной шумовой составляющей на 66-54% и с мультипликативной - на 43-50% независимо от места расположения аномальных значений и закона плотности распределения вероятности шумовой составляющей процесса.
6. Экспериментально установлено, что эффективность адаптивного способа возрастает при использовании стабильного оценивания параметров выборки нестационарного случайного процесса, в зависимости от модели функции полезной составляющей, при Amp = 3сгш, от 11% до 36%.
7. Предложен новый способ обнаружения аномальных значений с дискретно-меняющимся уровнем анализа процесса и предложена структурная схема устройства его реализующее (Пат. РФ №2302655). Построен алгоритм способа обнаружения аномальных значений с дискретно-меняющимся уровнем анализа и рекомендованы его параметры.
8. Экспериментально показано, что для способа с дискретно-меняющимся уровнем анализа процесса, при величине аномальных значений Amp > 5а ш оценки вероятности ошибки первого рода и вероятности правильного обнаружения не зависят от модели функции полезной и от закона плотности распределения вероятности шумовой составляющих, а так же и от места расположения аномальных значений в исследуемом нестационарном случайном процессе.
9. Экспериментально показано, что при наличии аномальных значений в исследуемом нестационарном случайном процессе, использование предлагаемых способов в задаче выделения полезной составляющей, позволяет повысить их эффективность в среднем на 40-60%.
10. Определено, что применение предлагаемых способов при анализе экспериментальных данных позволяет в автоматическом режиме эффективно обнаруживать аномальные значения.
11. Разработаны пакеты прикладных программ и программных комплексов, реализующих адаптивный способ обнаружения аномальных значений и способ с дискретно-меняющимся уровнем анализа процесса, которые внедрены в рамках госбюджетной НИР по заданию Федерального агентства по образованию РФ (ЮРГУЭС - 2.06.Ф, № ГР 0120.0603.492, Инв. № 022.007.023.59), по ЕЗН Федерального агентства по образованию РФ (ЮРГУЭС-1.02.Ф, № ГР 0104.0000.218, Инв. № 007.023.58), в ООО НЛП «Интор» г. Новочеркасск при выполнении конструкторских работ технических средств измерений и программного обеспечения систем автоматизации и во Всероссийском НИИ экономики и нормативов российской академии сельскохозяйственных наук, при анализе и обработки временных рядов. Результаты диссертационной работы в виде алгоритмов и программ используются в учебном процессе ЮРГУЭС по дисциплинам «Устройства цифровой обработки сигналов», «Статистическая радиотехника», «Методы цифровой обработки сигналов».
Библиография Токарева, Светлана Викторовна, диссертация по теме Радиотехника, в том числе системы и устройства телевидения
1. Tukey J.W. The future of data analysis//Annals of mathematical statistics, 1962. - 167. p.
2. Микешина Н.Г. Выявление и исключение аномальных значений//Заводская лаборатория. 1966,- Т.38 № 3. - С.310-318.
3. Клигенэ Н. Методы обнаружения моментов изменений свойств случайных процессов// Автоматика и телемеханика. 1983. - №10. - С.25.
4. Переверткин С.М. Бортовая телеметрическая аппаратура космических летательных аппаратов // М.: Машиностроение, 1977. 208 с.
5. Венецкий И.Г., Кильдишев Г.С. Теория вероятности и математическая статистика// М.: Статистика, 1975. 388 с.
6. Мирский Г.Я. Аппаратное определение характеристик случайных процессов. //М.: Энергия, 1972. 456 с.
7. Мановцев А.П. Введение в цифровую радиометрию//М.: Энергия, 1973. 317 с.
8. Мановцев А.П. Основы теории радиотелеметрии // М.: Энергия, 1967. 343 с.
9. Киричук B.C., Луценко Б.Н. Исключение недостоверных данных // Автометрия. 1970. - №6. - С.47-54.
10. Шор Я.Б., Бендерский A.M. Методы оценки анормальности результатов измерений// М: Сов. радио, 1953. 60 с.
11. Bliss C.J., Cochen W.G., Tukey J.W. Biometrika// Boston, 1956. 340 p.
12. Беляев Ю.К. Вероятностные методы выборочного контроля//М.: Наука, 1975. -408 с.
13. Thompson W.R. The problem of negative estimates of variance components// Annals of mathematical statistics, 1962. 214-265 .p.
14. Pearson E.S., Chandra S.C. Biometrika//Annals of mathematical statistics, 1936. -30-49 p.
15. Смирнов H.B. Доклады АН CCCP//M.: Наука, 1941. 130 с.
16. Grubbs F.G. Sample criteria for testing outlying observations//Annals of mathematical statistics, 1950. -27-58 p.
17. Брофман М.Я., Римен В.Х. Анализ критериев обнаружения экстремальных значений//Заводская лаборатория. 1964. - Т.ЗО, № 7. - С.861-865.
18. Bliss C.J. Biometrika //Annals of mathematical statistics, 1966. 418-503.p.
19. Бендерский, A.M.//Доклады АН СССР, 85,1,5 (1952).
20. Ferguson T.S. Proceeding of the 4 Berkeley symposium on mathematical statistics fiid probadiliti //Annals of mathematical statistics, 1963. 253-260p.
21. Дэйвид Г. Порядковые статистики. Под редакцией Петрова В.В.//М.: Наука, 1979.-336 с.
22. Корн Г., Корн. Т. Справочник по математике для научных работников и инженеров// М.: Наука, 1973. 832 с.
23. Болынев JI.H., Убайдуллова М. Критерий Шовенэ в классической теории ошибок // Теория вероятностей и ее применение. 1974. T.XIX, вып. 4. - С.714-723.
24. Пагурова В.И. О критерии Шовенэ для обнаружения нескольких выбросов// Теория вероятностей и ее применение. 1985. Т.ХХХ, вып. 3. - С.558-561.
25. Болынев JI.H. Обнаружение грубых ошибок в результате наблюдений// Международная летняя школа по теории вероятности и математической статистике (Варна, 1974): Сб.науч.трудов. София: ИЗД.БАН, 1974. - С. 120.
26. Убайдуллова М. Об отбраковке резко выделяющихся наблюдений//Теория вероятностей и ее применение. 1974. T.XIX, вып.4. - С.864-868.
27. Пагурова В.И., Родионов К.Д. Об асимптотических свойствах критерия обнаружения выбросов/ЛГеория вероятностей и ее применение. 1986. Т.ХХХ, вып. 3. - С.764-767.
28. Пагурова В.И., Чижикова И.А. Критерии обнаружения выбросов, использующие робастные оценки мешающих параметров//Теория вероятностей и ее применение. 1995. - Т. XX, вып. 2. - С.535-538.
29. Цветков Э.И. Основы теории статистических измерений//JL: Энергия. Ленингр. отд-ние, 1979. 288 с.
30. Новицкий П.В., Зограф И.А. Оценка погрешностей результатов измерений// М.: Энергоатомиздат, 1985. 248 с.
31. Новицкий П.В., Зограф И.А., Лабунец B.C. Динамика погрешностей средств измерений// JL: Энергоатомиздат, 1990. 190 с.
32. Чернышев C.JI. Исследование потоков событий наблюдаемых с ошибками// Радиотехника и электроника. 1993. - Т.38, № 1. - С.310-314.
33. Савченко В.В. Обнаружение и прогнозирование разладки случайного процесса на основе спектрального оценивания//Автометрия. 1996. - №2. - С. 11-16.
34. Ширяев А.Н. Статистический последовательный анализ//М.: Наука, 1976-232с.
35. Фомин А.Ф., Новоселов О.Н., Плющев А.В. Отбраковка аномальных результатов измерений// М.: Энергоатомиздат, 1985. 200 с.
36. Поляков К.В., Толпарев Р.Г. Повышение надежности для одной из процедур обнаружения//Радиотехника. 1990. - №6. - С.57-59.
37. Егорова Н.Ю. Фабер В.Е. Решение задачи нелинейной фильтрации при наличии негауссовских ошибок измерений//Радиотехника и электроника. -1995. Т.40, №4. - С.604-610.
38. Кузьмин С.З. Основы теории цифровой обработки радиолокационной информации// М.: Советское радио, 1974. 432 с.
39. Кузьмин С.З. Цифровая обработка радиолокационной информации//М: Советское радио, 1967. 345 с.
40. Репин В.Г. Тартаковский Г.П. Статистический синтез при априорной неопределенности и адаптации информационных систем//М.: Советское радио, 1977.-432 с.
41. Катиков В.М. Мининимация аномальных ошибок в измерительных системах с устройством поиска и контроля // Радиотехника и электроника. 1984. - Т.29, № 5. -С.920-927.
42. Демин Н.С., Михайлюк B.B. Обнаружение аномальных помех в случае непрерывно-дискрентных каналов измерения//Автометрия. 1994. - №1. - С.21-26.
43. Кульбак С. Теория информации и статистика// М.: Наука, 1967. 408 с.
44. Фукунага К. Введение в статистическую теорию распознания образов//М.: Наука, 1979. 368 с.
45. Шакин В.В. Вычислительная электрокардиография //М.: Наука, 1981. 68 с.
46. Чемоданова O.A. Сравнение различных методов обнаружения аномальных погрешностей// Науч. труды / Моск. лесотехн. Ин-т. М., 1981. - вып. 136. -С.168-170.
47. Голубков A.C., Коротаев В.П. Отбраковка недостоверных результатов телеизмерений//Метрология. 1973. - №2. - С.10-18.
48. Зеленский В.П. Применение методов теории статистических решений при исключении анормальных измерений//Техническая кибернетика. 1969. - №2. -С.139-142.
49. Миддлтон Д. Введение в статистическую теорию связи//М.: Советское радио, 1961. -Tl.-830с.
50. Аминов И.Н. Применение теории решения к задачам обнаружения сигналов и выделения сигналов из шумов//М.: Изд. ВВИА им. Жуковского, 1956. 186 с.
51. Фельдбаум A.A., Дудыкин A.B., Мановцев А.П., Миролюбов H.H. Теоретические основы связи и управлений//М.: Физматгиз, 1963. 280 с.
52. Тихонов В.И. Выбросы случайных процессов//М.: Наука, 1970. 392 с.
53. Новоселов О.Н., Фомин А.Ф. Основы теории и расчета информационно измерительных систем// М.: Машиностроение, 1980. 280 с.
54. Марчук В.И. Первичная обработка результатов измерений при ограниченном объеме априорной информации. Монография. Под ред. К.Е. Румянцева// Таганрог: Изд-во ТРТУ, 2003. 160с.
55. Тарасенко Ф.П. Непараметрическая статистика//Томск: Изд.Томского ТГУ, 1976.-294 с.
56. Paulson E. An optimum solution to the k-sample slippage problem for the normal distribution//Ann. Math. Statist, 1952. 610-616.p.
57. Орлов А.И. Неустойчивость параметрических методов отбраковки резко выделяющихся наблюдений/УЗаводская лаборатория. 1992. - Т.58, №7. — С.40-42.
58. Орлов А. И. Эконометрика//М.: Экзамен, 2002. 575 с.
59. Болыпев JI.H., Смирнов Н.В. Таблицы математической статистики//М.: Наука, 1983.-416 с.
60. Фомин А.Ф., Новоселов О.Н., Плющев A.B. Методы и средства повышения достоверности измерений непрерывных процессов//Измерения, контроль, автоматизация. -1981. №4. - С.3-10.
61. Русинов JI.A., Гуркевич A.JI. Алгоритмическое обеспечение информационно-измерительных систем с аналитическими приборами//Измерения, контроль, автоматизация. 1982. - №3. - С.9-16.
62. Паламарчук С.Н. Алгоритм оценивания параметров режима и анализа грубых ошибок на основе линеализованных выражений измеряемых величин// Алгоритмы обработки данных в электроэнергетике / С.Н. Паламарчук. — Иркутск: СЭИ, 1982. С. 178-184.
63. Ефимов JI.H. Методы порядковых статистик и рангов в задачах обработки надлюдений//Измерения, контроль, автоматизация. 1981. - №5. - С. 19-27.
64. Жадан Л.И. К процедуре исключения аномальных измерений//Автометрия. -1985. №2. — С.25-29.
65. Дуров А.М, Трошин Л.И., Мхиторян В.С.Многомерные статистические методы// М.: Финансы и статистика, 2000. 352 с.
66. Химмельблау Д. Анализ процессов статистическими методами//М.: Мир, 1973. 957 с.
67. Лемешко Б.Ю. Статистический анализ одномерных наблюдений случайных величин: Программная система//Новосибирск: Новосиб.гос.техн.ун-т, 1995. -125 с.
68. Куллдорф Г. Введение в теорию оценивания по группированным и частично группированным выборкам//М.: Наука, 1966. 176 с.
69. Денисов В.И., Лемешко Б.Ю., Цой Е.Б. Оптимальное группирование, оценка параметров и планирование регрессионных экспериментов/ТНовосибирск: Новосиб.гос.техн.ун-т, 1993. 346 с.
70. Кендалл М., Стьюарт А. Статистические выводы и связи//М.: Наука, 1973. -900 с.
71. Лемешко Б.Ю. Робасгные методы оценивания и отбраковки аномальных измерений// Заводская лаборатория. 1997. - Т.63, №5. - С.43-49.
72. Rousseeuw P. Unmasking multivariate outliers and leverage points // J.Amer.Statist. Assoc., 1990. v.85. - №411. - P.633-639.
73. Хьюбер П. Робастность в статистике// M.: Мир, 1984. 304с.
74. Гуда А.Н. Модели, методы и средства анализа данных в затрудненных условиях: автореф. Дис. д-ра техн. Наук // Таганрогский государственный радиотехнический университет. Таганрог, 1997. - 38 с.
75. Мудров В.И., Кушко В.Л. Методы обработки измерений//М.: Советское радио,1976.-192 с.
76. Мудров В.И. Методы и средства обработки данных // Советское радио, 1980. -160 с.
77. Егоров В.А., Морозов Ю.Г., Чекмарева А.П. Алгоритм удаления случайных сбоев в экспериментальном материале при автоматизированной регистрации данных // Алгоритмы и математическое обеспечение для физических задач.1977.-№12.-С.21-35.
78. Марчук В.И., Муратов A.M. Адаптивный алгоритм устранения аномальных значений случайного нестационарного процесса//Элементы приёмно-усилительных устройств: Межвузовский тематический сборник. Таганрог: ТРТИ, 1982. - Вып.1. - С. 87-90.
79. Марчук В.И. Методы выделения полезной составляющей и обнаружение аномальных значений при анализе нестационарных случайных сигналов в185условиях непараметрической априорной неопределенности и ограниченном объеме измерений//Таганрог., 2006. 372 с.
80. Фомичев С.М., Абилов A.B. Обзор математических моделей каналов связи и их применение в телекоммуникационных системах//Ижевск: Изд. Ижевского ГУ, 2001. С.60.
81. Миддлтон Д. Введение в статистическую теорию связи. Под ред. Б.Р. Левина//М.: Советское радио, 1962. Т.2. 260 с.
82. Финк Л.К. Теория передачи дискретных сообщений// М.: Советское радио, 1970.-728 с.
83. Зюко А.Г. Помехоустойчивость и эффективность систем связи//М.: Связьиздат, 1963. 360 с.
84. Блох Э.Л., Попов О.В., Турин В.Я. Модели источника ошибок в каналах передачи цифровой информации//М.: Связь, 1971. 312 с.
85. Статистическая теория связи и ее практическое приложение. Под ред. Левина Б.Р. //М.: Связь, 1979. 287 с.
86. Прокис Дж. Цифровая связь. Под ред. Д.Д. Кловского// М.: Радио и связь, 2000. 800 с.
87. Кловский Д.Д. Передача дискретных сообщений по радиоканалам//М.: Радио и связь, 1982.-304 с.
88. Чесноков М.Н. Оптимальный прием дискретных сообщений с переменными параметрами на фоне импульсных и флуктуационных помех//Известия вузов. Радиоэлектроника. 1983. - №7. - С.3-11.
89. Кириллов Н.Е. Помехоустойчивая передача сообщение по линейным каналам со случайно изменяющимися параметрами//М.: Связь, 1971. 256 с.
90. Севостьянов Б.А. Курс теории вероятности и математической статистики // М.: Мир, 1988.-360 с.
91. Солонина А.И. Основы цифровой обработки сигналов. Курс лекций //СПб.: БХВ, 2005. 768с.
92. Айвазян С.А. Прикладная статистика. Основы эконометрики: Учебник для вузов: В 2 т. 2 -е изд., испр. Т.1: Теория вероятностей и прикладная статистика // М.: ЮНИТИ-ДАНА, 2001. 656 с.
93. Орлов А.И. О современных проблемах внедрения прикладной статистики и других статистических методов (Обобщающая статья)// Заводская лаборатория. 1992. -№1.-С.67-74.
94. Налимов В.В. Применение математической статистики при анализе веществ // М.: Физматгиз, 1960. 430 с.
95. Венцель Е.С. Теория вероятностей // М.: Высш. шк., 1998. 576 с.
96. Сиберт У.М. Цепи, сигналы, системы// М.: Мир, 1988. 4.2. - 360 с.
97. Левин Б.Р. Теоретические основы статистической радиотехники//М.: Советское радио, 1969. Т.1. - 752 с.
98. Бендат Дж., Пирсон А. Прикладной анализ случайных данных // М.: Мир, 1989. 540 с.
99. Баррер М. Ракетные двигатели // М.: Оборонгиз, 1962. 799 с.
100. Марчук В.И., Румянцев К.Е. Новый способ повышения достоверности результатов измерений// Авиакосмическое приборостроение. 2004. - №2. -С.51-55.
101. Марчук В.И., Румянцев К.Е. Анализ методов адаптации порогового значения при обнаружении аномальных измерений // Известия вузов России. Радиоэлектроника. 2006. - Вып.1. - С.20-25.
102. Ершов A.A. Стабильные методы оценки параметров//Автоматика и телемеханика.-1978.-№8.-С. 66-99.
103. Токарева C.B. Шерстобитов А.И. Способ уменьшения погрешности при использовании метода размножения оценок // Моделирование. Теория, методы187и средства: Материалы 4-ой международной научно-практической конференции. Новочеркасск: ЮРГТУ, 2004. - С.4-5.
104. Токарева C.B. Возможность адаптации порогового значения при симметричных и несимметричных законах распределения шумовой составляющей // Цифровые методы и технологии: Материалы международной научной конференции. Таганрог: ТРТУ, 2005. - Ч.З. - С.61-63.
105. Лихарев В.А. Проектирование радиолокационных систем с цифровой обработкой информации //М.: Советское Радио, 1968. 336 с.
106. Лихарев В.А. Цифровые методы и устройства в радиолокации //М.: Советское Радио, 1973. 456 с.
107. Бусленко Н.П., Голенко Д.И., Соболь И.М., и др. Метод статистических испытаний (метод Монте-Карло) //М: ГИФМЛ, 1962. 236 с.
108. Жовинский А.Н. Инженерный экспресс-анализ случайных процессов // М.: Энергия, 1979.-113 с.
109. Бендат Дж., Пирсон А. Измерение и анализ случайных процессов. Пер. с анг. Г.В. Матушевского и В.Е. Привальского. // М.: Мир, 1974. 536 с.
110. Ван дер Варден, Б.Л. Математическая статистика. Пер с нем. Л.Н. Большева / Под ред. Н.В. Смирнова // М.: Иностранная литература, 1960. 384с.
111. Стратонович В.Л. Принципы адаптивного приема//М.: Советское радио, 1973.-340 с.
112. Токарева C.B. Практические аспекты цифровой обработки сигналов Монография. Под ред.В.ИМарчука. Шахты: Изд-во ЮРГУЭС, 2007. - 207 с.
113. Токарева C.B., Воронин В.В. Исследование модификации метода обнаружения аномальных значений//Наука и образование без границ: Материалы 3 международной научно практической конференции. София: «Бял ГРАД-БГ» ООД, 2007. - Т. 16.Технологии. - С.74-77.
114. Брандт, 3. Статистические методы анализа наблюдений // М.: Мир, 1975. -312 с.
115. Дуброва Т.А. Статистические методы прогнозирования: Учеб. Пособие для вузов // М.: ЮНИТИ ДАНА, 2003. - 206 с.
116. Кокс Д., Снелл Э. Прикладная статистика. Принципы и примеры. //М.: Мир, 1984.-200 с.
117. Токарева C.B., Шерстобитов А.И. Сравнительный анализ метода экспоненциального сглаживания и размножения оценок при выделении полезного сигнала// Измерение и контроль. Информация: материалы 4-ой
118. Международной технической конференции, Барнаул: АГТУ, 2003 С.75 80.
119. Большаков И.А., Ракошиц B.C. Прикладная теория случайных потоков // М.: Советское радио, 1978.-248 с.
120. Яровой Н.И. Адаптивная медианная фильтрация Электронный ресурс.// Информационный портал Центрального научно-исследовательского института ВВВ. 2007. - Режим доступа - http://www. controstyle.ru
121. Черненко С.А. Медианный фильтр Электронный ресурс.// Информационный портал Центрального научно-исследовательского института ВВВ.-2008.-Режим доступа http://www.logis-pro.kiev.ua/math medianfilter ru.html
122. Радченко Ю.С. Эффективность приема сигналов на фоне комбинированных помехи с дополнительной обработкой в медианном фильтре// Радиоэлектроника. 2001. - № 7. - С.30-37.
123. Хеннан Э. Анализ временных рядов // М.: Мир, 1974. 546 с.
124. Марчук В.И. Анализ погрешностей прогнозирования экономических временных рядов и способы их уменьшения // Научная мысль Кавказа. Спец. Выпуск. 2004. - №2. - С.85-90.
125. Троцкий И.Н. Оптимальная обработка информации: (становление и развитие принципов) // М.: Знание, 1990. 64 с.
126. Баранников A.A., Меркулова A.B. Изучение периодической переменности оптического блеска и лучевых скоростей "убегающей" звезды HD 218915 // Известия вузов. Северо-Кавказский регион, Естественные Науки. Ростов на дону, 2007. - № 2. - С.54-56.
127. Марчук В.И., Рудов Н.В. Способ обработки измерений для алгоритмов диагностики аккумуляторов//Математические методы в технике и технологиях:
128. Материалы XVI международной конференции. Ростов на Дону, 2003. - Т.5. -С.85-90.
129. Маслов М.Д. Способ определение остаточной емкости свинцового аккумулятора. Ф.С. №2120158,-0пуб.10.10.1998.
-
Похожие работы
- Методы анализа нестационарных случайных сигналов при непараметрической априорной неопределенности и ограниченном объеме измерений
- Методы выделения полезной составляющей и обнаружения аномальных значений при анализе нестационарных случайных сигналов в условиях непараметрической априорной неопределенности и ограниченном объеме измерений
- Исследование и разработка математических моделей и численных алгоритмов для решения задач обнаружения аномалий при обработке геохимических данных
- Алгоритм повышения достоверности результатов измерений при ограниченном объеме априорной информации
- Разработка алгоритмов оптимального и квазиоптимального приема высокочастотных случайных импульсных сигналов с огибающей произвольной формы и неизвестным временем прихода
-
- Теоретические основы радиотехники
- Системы и устройства передачи информации по каналам связи
- Радиотехника, в том числе системы и устройства телевидения
- Антенны, СВЧ устройства и их технологии
- Вакуумная и газоразрядная электроника, включая материалы, технологию и специальное оборудование
- Системы, сети и устройства телекоммуникаций
- Радиолокация и радионавигация
- Механизация и автоматизация предприятий и средств связи (по отраслям)
- Радиотехнические и телевизионные системы и устройства
- Оптические системы локации, связи и обработки информации
- Радиотехнические системы специального назначения, включая технику СВЧ и технологию их производства