автореферат диссертации по радиотехнике и связи, 05.12.04, диссертация на тему:Эффективные по критерию минимума дисперсии ошибки восстановления и вычислительным затратам алгоритмы обработки случайных процессов на основе обобщенных вейвлетных разложений в радиотехнических устройствах

На правах рукописи

ЗОРИН Сергей Валентинович

ЭФФЕКТИВНЫЕ ПО КРИТЕРИЮ МИНИМУМА ДИСПЕРСИИ ОШИБКИ ВОССТАНОВЛЕНИЯ И ВЫЧИСЛИТЕЛЬНЫМ ЗАТРАТАМ АЛГОРИТМЫ ОБРАБОТКИ СЛУЧАЙНЫХ ПРОЦЕССОВ НА ОСНОВЕ ОБОБЩЕННЫХ ВЕЙВЛЕТНЫХ РАЗЛОЖЕНИЙ В РАДИОТЕХНИЧЕСКИХ УСТРОЙСТВАХ

Специальность: 05.12.04 -«Радиотехника, в том числе системы и устройства радионавигации, радиолокации и телевидения»

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

р к

Рязань 2004

Работа выполнена в ГОУ ВПО "Рязанская государственная радиотехническая академия"

Научный руководитель - доктор технических наук, профессор

Кириллов Сергей Николаевич

Официальные оппоненты - доктор физико-математических наук,

профессор, заслуженный деятель науки Российской Федерации Кравченко Виктор Филиппович, кандидат технических наук, доцент Филатов Александр Дмитриевич

Ведущая организация - ОАО "Корпорация "Фазотрон-НИИР"

(г. Москва)

Защита состоится 12 ноября 2004 г. в 12 часов на заседании диссертационного совета Д 212.211.04 в ГОУВПО "Рязанская государственная радиотехническая академия" по адресу 390005, г. Рязань, ул. Гагарина, д. 59/1.

С диссертацией можно ознакомиться в библиотеке ГОУВПО РГРТА.

Автореферат разослан "б^СтЛ^Л- 2004 г.

Ученый секретарь диссертационного совета

кандидат технических наук __В.И. Жулев

IG9&Ч*

2005-4 13312

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Алгоритмы обработки случайных процессов (СП), используемые в современных радиотехнических системах, в большинстве случаев основываются на теории спектрального анализа Фурье, большой вклад в развитие которой внесли отечественные и зарубежные ученые: А. Шустер, Г.У. Юл, Н. Винер, С.Л. Марпл, А.Ж. Хинчин, B.C. Пугачев и др. Возможна реализация алгоритмов обработки на основе теории обобщенного спектрального анализа, изложенной в работах Н. Ахмеда, K.P. Pao, И.А. Трахтмана и др. Однако в рамках этих теорий не получили развития вопросы построения базисных функций локализованных во временной и в частотной областях, играющих большую роль при обработке нестационарных СП.

Локализация базисных функций как во временной, так и в частотной областях является основным достоинством теории вейвлет-анализа (ВА), в основном развитой в работах А Хаара, С. Маллата, И. Мейера, И. Добеши, К. Чуй, В. Свелденса, М.В. Виккерхаузера, М. Витерли, В.Ф. Кравченко и др.

При решении практических задач наиболее часто используются ортогональные вейвлегные функции (ВФ) Добеши, обеспечивающие минимальную длительность при фиксированном числе нулевых моментов. Эти свойства ВФ Добеши обусловливают высокую эффективность обработки изображений, т. к в этом случае наиболее важными являются хорошие интерполирующие возможности базисной системы и способность качественного определения резких границ, а к форме спектра Фурье базисных функций высокие требования не предъявляются.

В случае обработки звуковых и речевых сигналов (PC) требования, предъявляемые к форме спектра Фурье ВФ, гораздо выше, а длительность ВФ имеет второстепенное значение. Использование ВФ Добеши, обеспечивающих форму спектра Фурье, близкую к идеальной прямоугольной, приводит к существенному возрастанию вычислительных затрат (ВЗ) на реализацию вейвлетного разложения (ВР). Один из способов устранения этого недостатка заключается в использовании предложенных в работе С Херли и М Витерли ВФ с бесконечной областью определения, основанных на сплайнах и фильтрах Баттерворта, разложение по которым может быть эффективно осуществлено с помощью рекурсивных фильтров (РФ). Однако известные ВФ на основе РФ были получены при требовании обеспечения максимального числа нулевых моментов в случае фиксированных ВЗ на реализацию ВР, что является косвенным критерием качества ВА.

Одним из недостатков классического ВА и его обобщения - вейвлетно-пакетного анализа (ВПА) - является диадический способ разбиения частотного диапазона обрабатываемого СП, который ограничивает число частотных полос в случае их одинаковой ширины.целой степенью числа два. Ослабление этого ограничения заключается в использовании алгоритмов ВА кратности, отличной от двух, представленных в работах P.A. Гопинафа и К.С. Бурруса. При этом известные алгоритмы ВА кратности, отличной от двух, разрабатывались по критерию максимального числа нулевых моментов соответствующей скейлинг-функции (СФ) или максимальной близости (Ьопмы ... дллишп/янп-пяг-тутхиых

характеристик фильтров анализа к идеальным прямоугольным при фиксированной длительности импульсной характеристики (ИХ). При этом не учитывались корреляционные характеристики СП.

Теории кратномасштабного анализа (КМА) и ВА тесно связаны с гладкими локальными тригонометрическими базисами (ЛТБ), а также банками фильтров Результаты, полученные в рамках этих теорий, успешно использовались при построении алгоритмов ВА. Однако несмотря на успехи, достигпутые в теории КМА и ВА, до сих пор не удавалось использовать их результаты при проектировании банков фильтров.

Цель и задачи работы

Основной целью работы являются синтез и оптимизация обобщенных ВР по критерию минимума дисперсии ошибки восстановления обрабатываемых СП при ограничении на эффективную длительность ВФ или на требуемые ВЗ в интересах повышения показателей качества радиотехнических устройств обработки нестационарных СП.

Поставленная цель работы включает решение следующих задач.

1 Синтез и оптимизация ВФ с бесконечной областью определения по критерию минимума дисперсии ошибки восстановления при ограничении на эффективную длительность базисных функций или ВЗ на реализацию

2. Разработка вейвлетных базисов кратности, отличной от двух, и методов их оптимизации по критерию минимума дисперсии ошибки восстановления при заданной корреляционной функции (КФ) и ограничении на длительность базисных функций обрабатываемого СП.

3. Построение системы банков фильтров на основе теории ВА кратности, отличной от двух, обеспечивающей гибкое разбиение частотного диапазона обрабатываемого СП.

Методы проведения исследований. В работе использовались методы статистической радиотехники и математической статистики, вариационного и матричного исчисления, динамического программирования, вычислительной математики, математического аппарата теории полифазных матриц, а также новейшие достижения в области современных речевых технологий, телекоммуникаций и цифровой обработки информации Данные теоретические методы сочетались с экспериментальными исследованиями на основе имитационного моделирования.

Научная новизна. В рамках диссертационной работы получены следующие новые научные результаты.

1 Синтезированы оптимальные по критерию минимума дисперсии ошибки восстановления ВФ класса Мейера при ограничении на эффективную длительность. Предложено семейство квазиоптимальных ВФ класса Мейера, имеющих аналитическую форму записи как в частотной, так и во временной области.

2 Произведена оптимизация ортогональных ВФ, реализуемых на основе РФ, по критерию минимума дисперсии ошибки восстановления при ограничении на ВЗ. Предложено семейство ортогональных ВФ, реализуемых на основе РФ, оптимальных по критерию минимума дисперсии ошибки восстановления для фиксированных ВЗ и заданной эффективной длительности базисных функций.

3. Предложен метод построения биортогональных ВР по критерию минимума дисперсии ошибки восстановления на основе схемы лифтинга, реализуемой с помощью РФ.

4. Оптимизированы дискретные вейвлетные базисы произвольной кратности и дискретные Л ГЬ по критерию минимума дисперсии ошибки восстановления сигнала при ограничении на длительность базисных функций и предположении известной КФ обрабатываемого СП Предложена процедура расчета значения минимизируемой дисперсии ошибки восстановления, обеспечивающая уменьшение размерности вектора оптимизируемых параметров.

5 Предложены алгоритмы обработки, реализующие с использованием предварительной обработки сигнала разложение по функциям, близким по своей структур« к ВФ произвольной кратности, а также обеспечивающие возможность функционирования в реальном масштабе времени.

6. Разработаны алгоритмы эффективного представления РС в предложенных вейвлетных базисах бесконечной длительности, а также алгоритмы повышения качества РС при действии шумов.

7. Обобщены ВФ класса Мейера на случай ВА кратности, отличной от двух. Проведен синтез таких ВФ по критерию минимума дисперсии ошибки восстановления при ограничении на эффективную длительность базисных функций.

8. Разработан метод построения системы банков фильтров на основе предложенного обобщения ВФ класса Мейера, при этом получена аналитическая форма записи для коэффициентов ИХ фильтров.

9 Предложена процедура выбора структуры нейронной сети (НС) и предварительной инициализации синаптических связей на основе известных алгоритмов ВА

Практическая ценность. Представленные в работе алгоритмы обработки СП на основе предложенных ВФ могут быть эффективно использованы в таких радиотехнических устройствах, как системы передачи информации, системы экономного хранения РС, а также системы повышения качества сигналов при действии помех. Кроме того, в работе предложены методы построения банков фильтров, которые могут использоваться в задачах апализа и хранения СП. Результаты диссертационной работы нашли применение в действующей аппаратуре ОАО "Рязаньэнерго", а также внедрены в учебный процесс РГРТА, что подтверждено соответствующими актами.

Основные положения, выносимые на защиту

1. Оптимальные по критерию минимума дисперсии ошибки восстановления и ограничении на эффективную длительность ВФ класса Мейера, обеспечивающие при одной и той же эффективной длительности уменьшение дисперсии ошибки восстановления на 7 % по сравнению с известными ВФ класса Мейера.

2. Ортогональные ВФ, реализуемые на основе РФ, оптимальные по критерию минимума дисперсии ошибки восстановления при заданных ВЗ, позволяющие при одной и той же дисперсии ошибки восстановления снизить ВЗ на реализацию разложения по сравнению с известными ВФ Добеши в 9 раз.

3 Процедура расчета минимизируемого значения дисперсии ошибки восстановления ВР произвольной кратности при заданной КФ обрабатываемого СП, приводящая к существенному сокращению размерности вектора оптимизируемых параметров и позволяющая уменьшить дисперсию ошибки представления РС в 1.5-5 раз по сравнению с известными базисами при одном и том же коэффициенте сжатия.

4 Семейство банков фильтров на основе обобщения ВФ класса Мейера на случай ВА кратности, отличной от двух, с бесконечной длительностью ИХ, имеющее аналитическую форму записи при высокой гибкости разбиения частотного диапазона обрабатываемого СП.

Апробация работы. Результаты работы докладывались и обсуждались на следующих научно-технических конференциях (НТК), семинарах и сессиях: VIII Всероссийских Туполевских чтениях студентов "Актуальные проблемы авиастроения" (г. Казань, 1998); Научных сессиях МИФИ-99,2000 (г.Москва, 1999,2000); I ВНТК "Компьютерные технологии в науке, проектировании и производстве" (г. Нижний Новгород, 1999); 5-й МНТК студентов и аспирантов "Радиоэлектроника, электротехника и энергетика" (г Москва, 1999); 4-й, 5-й, 8-й, 9-й всероссийских НТК студентов, молодых ученых и специалистов "Новые информационные технологии в научных исследованиях и образовании" (г. Рязань, 1999, 2000, 2003, 2004); 3-й, 4-й, 5-й, 6-й международных конференциях "Цифровая обработка сигналов и ее применение" (г. Москва, 2000, 2002, 2003, 2004); Зб-ой НТК. РГРТА (г. Рязань, 2000); 9-й, 10-й, 11-й МНТК "Проблемы передачи и обработки информации в сетях и системах телекоммуникаций" (г. Рязань, 2000, 2001, 2002); 7-ой Всероссийской межвузовской НТК студентов и аспирантов "Микроэлектроника - 2000" (г. Москва, 2000).

Публикации. По теме диссертации опубликована 31 работа. Из них 6 статей в центральной печати, 1 учебное пособие, 6 статей в научно-технических журналах и межвузовских сборниках трудов, а также 18 тезисов докладов на конференциях.

Структура и объем работы. Диссертационная работа состоит из введения, трех глав, заключения, списка литературы из 142 наименований и 5 приложений. Диссертация содержит 147 с. основного текста и 53 рисунка.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность выбранной темы, определены цели и решаемые в работе задачи. Перечислены новые научные результаты, полученные в работе, показаны ее практическая ценность и апробация Сформулированы основные положения, выносимые на защиту.

В первой главе осуществлены синтез и оптимизация ВФ с бесконечной областью определения при различных требованиях, предъявляемых к скорости прямого и обратного вейвлетных преобразований, для радиотехнических устройств сжатия, хранения и передачи информации.

В случае когда не предъявляется жестких требований к скорости как прямого, так и обратного преобразования, наиболее часто используются ВФ класса Мейера, главные достоинства которых заключаются в хорошей частотной локализации, а

также в возможности аналитической записи их преобразования Фурье ф(й))на основе элементарных функций:

Ф(й)) = {со8(а(ю»,|ю|е [2тг/3,4я:/3);1,|<в|е [о,2яг/з]; 0,иначе, (1)

где а{ю) - порождающая функция, которая удовлетворяет условиям

д(|<ф=ж/2-а(2ж-|ш|), а(2к/3>) = 0,а(4ж/3) = л/2, (2)

Известные ВФ класса Мейера получены не исходя из каких-либо критериев, а эвристически на основе полиномиальных функций. Однако при обработке СП система базисных функций должна, с одной стороны, обеспечивать малую дисперсию ошибки восстановления £>0

А^м^М/))2]/^ , (3)

где $(г), ■?(/) - сигналы до и после обработки соответственно, а И- длительность реализации. Эффективность представления обрабатываемого СП характеризовалась дисперсией ошибки восстановления £>0, нормированной к

мощности обрабатываемого СП, имеющего низкочастотный (НЧ) прямоугольный спектр мощности при отбрасывании высокочастотных (ВЧ) компонент разложения, которая, как было показано, имеет вид:

Т "

А,=- ¡ш{а{<в^(1(0. (4)

п 2к/3

С другой стороны, СФ для соответствия длительности локально-стационарных участков СП должна обладать малой эффективной длительностью

ее

Д,2 = , которая выражается через функцию а{ш) как:

л»2=4 /м®))2^. (5)

жгл/г

Изопериметрическая вариационная задача минимизации дисперсии ошибки восстановления (4) при ограничении на эффективную длительность (5) приводит к нелинейному дифференциальному уравнению второго порядка:

а {а) - 8т(2о(со)) = 0, (6)

решения которого для ряда значений множителя Лагранжа А^ были получены численными методами

Предложено семейство квазиоптимальных СФ и ВФ класса Мейера, определяющееся порождающей функцией вида

ае{(о)=2яЩ-к+е)1£, |<ф (л-£,Ж+е), С = ж/8£, (7)

и имеющее аналитическую форму записи не только в частотной, но и во временной области:

<Ре(0 = (2С аш(£г -г)/)Д + со5((ж + £),))/(ф<Г)2-I2)). (8)

Параметр с обеспечивает гибкость в выборе приоритета между дисперсией ошибки и эффективной длительностью ВФ, которые, как было показано, могут

бьггь рассчитаны но формулам О0е - е{1-2/л)/2л, А1е2 =тг/(16е) . Показано, что

относительный проигрыш квазиоптимальных ВФ по сравнению с оптимальными по эффективной длительности не превосходит 12 % При этом в случае одинаковой эффективной длительности оптимальная ВФ класса Мейера обеспечивает по сравнению с известной ВФ выигрыш по дисперсии ошибки восстановления 7 %.

Практическое использование ВФ класса Мейера приводит к значительным ВЗ на реализацию соответствующих алгоритмов, что обусловлено бесконечной областью определения ВФ.

Известно, что при одних и тех же вычислительных затратах РФ обеспечивают более высокие показатели по сравнению с нерекурсивными. Использование результатов теории полифазных матриц позволило получить семейство РФ, удовлетворяющее условиям точного восстановления и зависящее от трех свободных параметров (<*], Д, ):

= (9)

1=0 /

Ио(6) = А-а1В, Ло(1) = С-а:Д И0(2)=-а1А + В, А0(з)=-а1С + Д

к (г)=(-1V 4 ' = 0.....3; А = сов(Д )соя.(А + Я = 8т(Д )яп(Д + Д),

С = -сов(А)мп(Д, + М £>=5ш(А)созОЗ)

Оптимизация по критерию минимума дисперсии ошибки восстановления (3) привела к следующим значениям параметров. (аь Д,/}2)= (-0.61,-0.782,-0.785).

Результаты, приведенные в табл. 1, показывают, что выигрыш по

дисперсии ошибки восстановления при одних и тех же относительных ВЗ (ОВЗ) в случае использования предложенных ВФ (Прд) по сравнению с известными ВФ Добеши (Дбш), а также ВФ, основанными на сплайнах (Спл) и фильтрах Батгервор1а (Бтт), составляет от 1.9 до 8.3 раза. При этом в случае одной и той же дисперсии ошибки восстановления предложенное ВР снижает ВЗ в 9 раз по сравнению с известными ВФ Добеши.

Предложено семейство ВФ, определяемое параметром о^ (9), с различной

эффективной длительностью, разложение по которым обеспечивает минимальную дисперсию ошибки восстановления при одних и тех же ВЗ. Такое семейство необходимо при решении задач, где важна гибкость при выборе соотношения между малой эффективной длительностью ВФ и небольшой дисперсией ошибки восстановления

Однако на основе РФ в реальном масштабе времени может быть реализовано только одно преобразование - прямое или обратное. Тем не менее, в некоторых

Таблица 1

ОВЗ Дбш Спл Бтт Прд

5 12.86 (ОВЗ 4) 10.51 (ОВЗ 6) 8.50 7.12 3.77

8 9.06 5.69 4.36 1.09

радиотехнических устройствах могут потребоваться высокие скорости обработки как при анализе так и при синтезе обрабатываемых СП.

Использование биортогональных ВР допускает эффективные в вычислительном отношении алгоритмы на основе РФ как при прямом, так и при обратном преобразовании. Одним из недостатков теории ВА, использующей биортогональные ВФ, является отсутствие соотношений, позволяющих оценивать взаимное влияние КФ обрабатываемого СП и КФ дуальной и первичной ВФ К 1^(1), Л^Д')' и (/) соответственно на качество

и СФ

восстановленного сигнала.

Получены выражения для дисперсии ошибки восстановления СП в случае отбрасывания его ВЧ компонент - />0, а также в случае отбрасывания его НЧ компонент-Д :

1 <1 к 1 <1 к Для параметризации оптимизируемых биортогональных ВФ использовалась

схема лифпшга (рис. 1), где в качестве корректора и предсказателя применялись РФ.

Экспериментальные исследования Рисунок 1 показали целесооб-

разность использования фильтров коррекции и предсказания, г-преобразования ИХ которых имеют вид

пР

= _о-!-2-

с -1

1-Ь,С2

(12); РР{2)-

й'+а'У +ар1г

1-ЬР2~1 1

(13)

Минимизацией дисперсий ошибок восстановления (10) и (11) при дополнительном условии их равенства и предположении прямоугольных НЧ и ВЧ спектров мощности обрабатываемого СП были получены оптимальные значения коэффициентов фильтров коррекции и предсказания.

Результаты, приведенные в табл. 2, показывают, что выигрыш по дисперсии

Таблица2

ошибки восстановления при одних и тех же ВЗ в случае использования предложенных ВФ (Прд) по сравнению с известными ВФ Добеши (Дбш) и Когена-Добеши-Фово (КДФ) составляет от 1.4 до 1.8. При этом в случае одной и той же дисперсии ошибки восстановления предложенное разложение снижает ВЗ в 2.5 раза по сравнению с известными ВФ Добеши.

Во второй главе по критерию минимума дисперсии ошибки восстановления осуществлена оптимизация ВР произвольной кратности при известных КФ и

Тип ВФ Дбш КДФ Прд

А> 9.06 10.36 5.85

А 9.06 8.21 5.85

требовании ортогональности разложения, а также фиксированных коэффициентах смежности и длительности ВФ. Предложена процедура распета минимизируемого значения дисперсии ошибки восстановления, обеспечивающая сокращение размерности вектора оптимизируемых параметров.

Для ряда фонем русского языка осуществлена оптимизация ВР кратности, отличной от двух, по критерию минимума дисперсии ошибки восстановления

г-1 1-1

Вор1 =тш 1- X М

0 ^ ,=Л=-1+1 /

при требовании ортогональности разложения

5>кЩ{1 + Мп) = 8{п)5{к-]\

(14)

(15)

Таблица 3

а также заданных длительностях дискретных ВФ коэффициентах сжатия К = М/Т и смежности Кс = Ь/М . При этом (г) - корреляционная функция обрабатываемого СП, К] (;) - корреляционная функция ИХ у'-го фильтра

анализа, М - число полос, на которое разбивается частотный диапазон обрабатываемого СП, Т - число частотных поддиапазонов, в которых коэффициенты разложения подлежат передаче, е - вектор свободных параметров размерности N = {Кс -\\М -1)+М(А/ -1)/2, определяющий пространство соответствующих ортогональных банков фильтров.

Данные, приведенные в таб. 3, показывают, что по сравнению с алгоритмами (АД) на основе ВФ Добеши, а также ЛТБ предложенные алгоритмы (ПА) обеспечивают уменьшение дисперсии ошибки восстановления (14) от 1.5 до 5 раз в зависимости от коэффициентов сжатия и смежности.

В случае достаточно большого числа полос и малых коэффициентов смежности целесообразно использовать перекрывающиеся ЛТБ, разложение по которым может рассматриваться как частный случай ВР произвольной кратности с коэффициентом смежности Кс = 2.

Для ряда фонем русского языка была произведена оптимизация таких разложений по критерию минимума дисперсии ошибки восстановления и для заданных длительностей ВФ. При этом рассматривалось два варианта оптимизации- в первом случае (вар. 1) оптимизировалась как проектирующая матрица, так и матрица, осуществляющая преобразование спроектированного сигнала; во втором случае (вар. 2) производилась оптимизация только проектирующей матрицы.

Результаты, приведенные в табл. 4, показывают, что по сравнению с известными ЛТБ, разложением Карунена-Лоэва (КЛ), косинусными базисами (КБ),

ВЗ II * С? М Оор,(ь), Кс = 2

ПА АД ПА ЛТБ

1 0.033(8) 0.098(10) 3 0.006 0.022

1.5 0.018(12) 0.054(16) 4 0 034 0.127

2 0.013(16) 0.033(22) 5 0.061 0.171

2.5 0.011(20) 0.022(28) 6 0.193 0.262

Таблица 4

т Вар. 1 Вар.2 ЛТБ КЛ КБ ВПБ

1 0.441 0.552 0.631 0.624 0.659 0.615

2 0.122 0.216 0.275 0.289 0.391 0.285

3 0.007 0.011 0.040 0.082 0.138 0.077

4 0.002 0.003 0.005 0.005 0.059 0.044

а также вейвлетно-пакетными разложениями (ВПР) на основе ВФ Добеши предложенные оптимизированные ВР при одних и тех же ВЗ обеспечивают уменьшение дисперсии ошибки восстановления от 1.4 до 5 раз в зависимости от числа передаваемых полос Т при А/ = 16 полосах разбиения.

ВР кратности М, осуществляемое, как правило, системой банков фильтров, может быть представлено в полифазном виде как:

Лр(2)=Нр(г)*р(2), (16)

где Лр(г), яр(г) - полифазные представления коэффициентов разложения ^(г)

и обрабатываемой реализации СП .?(/) соответственно. Матрица Нр(г),

задающая действие системы банков фильтров, может быть записана в виде произведения:

Н,(г)=ЦР(г), (17)

где и - ортогональная матрица чисел размерностью М*М, определяющаяся вектором свободных параметров 02 размерностью Ы2 = М(М -1)/ 2 , а р(г) -полифазная матрица специального вида, определяющаяся вектором свободных параметров в, размерностью Щ=(М - 1)(ЛГС -1).

Таким образом, задача определения ВР, обеспечивающего минимальную дисперсию ошибки восстановления, сводится к многомерной задаче оптимизации в пространстве размерностью N = N1 + N\ Благодаря введению вспомогательного сигнала х, полифазное представление которого имеет вид хр{г)=~Р{г)%р(2), разработала процедура, обеспечивающая сокращение

размерности вектора оптимизируемых параметров до Щ. Предложенная процедура включает этапы: !) задания исходного вектора оптимизируемых параметров 0]; 2) расчета корреляционной матрицы вспомогательного сигнала х:

= АКЛ АГ, где -корреляционная матрица обрабатываемого сигнала 5(1)

размерностью Ь*Ь, а матрица А = [Ао,...,^ _]] определяется на основе

выражения Р(г)= £ А,г-'; 3) определения Т максимальных собственных 1=0

значений р,, / = 0...Т -1, матрицы , 4) расчета значения дисперсии ошибки

Г-1 /

восстановления как = 1 — ^ р, !М . Сокращение размерности вектора

1=0 /

оптимизируемых параметров в предложенной процедуре обеспечивается

благодаря использованию оптимальных разложений КЛ для вспомогательного сигнала.

Для локально-стационарных СП часто корреляционные характеристики изменяются во времени достаточно быстро, при этом необходимо производить обработку в реальном масштабе времени. В связи с этим предложен основанный на предварительной обработке СП алгоритм, осуществляющий разложение СП по функциям структуры аналогичной ВФ произвольной кратности и обеспечивающий при этом возможность функционирования в реальном масштабе времени.

Структурная схема устройства (рис. 2), осуществляющего такое

разложение, включает: ФВО -формирователь вектора отсчетов, ВЕК - вейвлетно-пакетный кодер, ВПД - вейвлетно-пакетный декодер, БЗ - блок задержки, ОКМ - блок оценки корреляционной матрицы обрабатываемого СП, ФМП - формирователь матрицы предсказания, П - предсказатель. При этом матрица предсказания

Р-', осуществляющая преобразование = Р-/$-'_1, рассчитывается таким образом, чтобы обеспечить декор-

реляцию векторов отсчетов обрабатываемого сигнала и разностного й1.

Эксперименты, проводимые для рекомендованных ГОСТ Р50840-95 фонетически сбалансированных фраз, показали, что если вариант ВПР, не использующего предварительную обработку сигнала, обеспечивает качество речи 3.5 балла на скорости 5.4 кбит/с, то предложенная предварительная обработка РС на основе алгоритма предсказания позволяет повысить качество речи до 3 9 баллов при той же скорости передачи.

В третьей главе рассматриваются практические аспекты использования предложенных в первых двух главах ВФ и методов их построения в алгоритмах сжатия и повышения качества РС, а также при проектировании НС и систем банков фильтров. Кроме того, в третьей главе проанализированы вопросы реализации предложенных алгоритмов на современной микропроцессорной базе

На основе синте-

Рисунок 2

ВПР -3 ФМО

_-5_

т

С

впп

БОД квд а- ОРБ

рус

Кв

ФК

Г"

Рисунок 3

зированных в первой главе ВФ разработан алгоритм сжагия в целях передачи и хранения РС. Структурная схема устройства (рис. 3), реализующего такой алгоритм, включает: блок ВПР, формирователь

матрицы совместно обрабатываемых отсчетов (ФМО), блок выбора передаваемых подполос (БВПП), квантователь (Кв), формирователь поступающего в линию передачи кадра (ФК), блок оценки дисперсий подполосных сигналов (БОД), кодер вектора дисперсий (КВД), блок определения оптимального распределения бит между подполосными сигналами (ОРБ).

Для ряда значений допустимых скоростей передачи были определены оптимальные по критерию минимума дисперсии ошибки восстановления РС параметры предложенного алгоритма, а также осуществлена соответствующая оценка субъективного качества обработанной речи по ГОСТ Р50840-95.

При скорости передачи 6 кбит/с по сравнению с ВФ Добегай, обеспечивающими качество речи 3 9 балла, применение предложенных ВФ класса Мейера, а также ортогональных и биортогональных ВФ на основе рекурсивных фильтров позволяет повысить качество речи до 4 5,4.3 и 4 1 балла соответственно

Показана меньшая чувствительность предложенного алгоритма сжатия РС к пропаданию пакетов по сравнению с известными. Так, если предложенный алгоритм на основе оптимизированных рекурсивных фильтров приводит к одинаковому качеству речи Кр = 4.4 по сравнению с рекомендованным

стандартом 0723.1 алгоритмом МРМЪС} на скорости 6.3 кбит/с при отсутствии пропадания пакетов, то в случае пропадания 5 % пакетов предложенный и известный алгоритмы обеспечивают качество речи Кр=-4.1 и Кр=Ъ.1 баллов

соответственно, т.е. выигрыш составляет 0.4 балла.

Предложен алгоритм повышения качества речи на основе синтезированных ВФ при действии акустических помех. Рассматривались широкополосная и узкополосная помехи аналогичные шуму толпы и шуму, создаваемому некоторым двигателем, а также их линейная комбинация.

Структурная схема устройства (рис. 4), реализующего предложенный

алгоритм, включает блок

"(О.

ФМО БВО

Тк"

БОД ли. БОВ

а"

ВПР, формирователь ВПР — ФМО БВО ОВПР |-Н> матрицы совместно обрабатываемых отсчетов (ФМО), блок весовой обработки (БВО), блок обратного ВПР (ОВПР), Рисунок 4 блок оценки дисперсий

подполосных сигналов

(БОД), блок оценки весовых коэффициентов (БОВ). При этом повышение качества речи осуществляется в блоке весовой обработки посредством фильтрации Винера нулевого порядка групп спектральных отсчетов, соответствующих различным частотно-временным интервалам.

По сравнению с ВФ Добеши использование предложенных ВР позволило уменьшить относительную мощность шума обработанного РС на 8-55 % в случае широкополосной помехи, на 20-270 % в случае узкополосной помехи и на 13110 % для случая линейной комбинации широкополосной и узкополосной помех, имеющих одну и ту же мощность.

Осуществлен анализ возможности реализации алгоритмов ВА при действии шумов на основе искусственной НС. Количество слоев НС, а также число и характер синаптических связей внутри каждого слоя определяются глубиной ВПР и используемой ВФ.

Экспериментальные исследования показали, что, если обработка на основе ВПР при воздействии акустических помех обеспечивает в среднем коэффициент подавления шума 4.6, то использование НС со всеми линейными слоями, с одним и двумя нелинейными слоями приводит к коэффициентам подавления шума 5 9, 6.5 и 7, т.е. относительный выигрыш составляет 28,41 и 52 % соответственно.

Предложенную нейросетевую реализацию алгоритмов ВА можно рассматривать как обобщение алгоритмов ВА на нейросетевые алгоритмы, или как процедуру выбора структуры НС и предварительной инициализации синаптических связей на основе известных алгоритмов ВА.

Теория КМА и В А тесно связана с гладкими ЛТБ и банками фильтров. Однако несмотря на успехи, достигнутые в теории КМА и ВА, до сих пор не удавалось использовать их результаты при построении банков фильтров, которые широко используются в настоящее время при обработке сейсмологических, метеорологических, а также PC.

Осуществлено проектирование системы банков фильтров посредством обобщения ВФ класса Мейера на КМА произвольной кратности и использования теории гладких ЛТБ с перекрывающейся областью определения.

Преобразование Фурье предложенных обобщештых ВФ Г* =Г*(/-п),

где индекс к определяет номер частотного поддиапазона, an- временной сдвиг, имеет вид'

у°(ю)=г0Мехр(-1 аи),й*(в)=а*(а>)+!Д*(©), А = 1...М-1, (18)

а*(®)=Ч (H)sin((2« + lXjffl| - Ъг)/ 2), 1%{<о)=sigi{<o)tk (jcu|)cos((2n+- fer)/2).

При этом для амплитудных спектров тк(а>) обобщенных ВФ должны

выполняться условия: Tk(œ) = siii(ak((o)), со s \кл-Ек,кк + £к\, 5/г|(ш) = 1,

к

кп 1 ек <{к + \)к-ек+\, taî_1(î») = t0(û)/JW), юе[м{п - £\),м{л i ej].

Показано, что отчеты ИХ фильтров анализа системы банков филыров, реализующей разложение по таким ВФ, определяются как значения соответствующих непрерывных ВФ в определенные моменты времени по равенствам:

$ =ï*(i/M), к = 0,\,...,М-2 ; h,M~l =(-1)гГ0((г + 2-Л/)/М). (19)

Предложено использовать разработанное семейство банков фильтров, определяющихся функциями:

' 2\[({k + l)j[+£k+i)-m]/2£k+l,meJMJk=[kK-Ek,bt+ek]

Основными достоинствами этого семейства является аналитическая форма записи на основе элементарных функций как в частотной, так и во временной

областях, а также возможность гибким образом разбивать частотный диапазон обрабатываемого СП в соответствии с заданным числом подполос и шириной переходных зон. Результаты экспериментальных исследований показали, что по сравнению с банками фильтров на основе ВФ Шеннона предложенное семейство банков фильтров обеспечивает для £=тс/6 при значении ¿=100 выигрыш по уровню боковых лепестков - 17.8 дБ, по коэффициенту подавления - 23.4 дБ, по дисперсии ошибки восстановления - 15.9 дБ, а при 1=200 выигрыши соответственно равны: 23.3 ,30.3 и 19.7 дБ.

В заключении приведены основные научные и практические результаты диссертационной работы:

1. Произведен синтез по критерию минимума дисперсии ошибки восстановления и при ограничении на эффективную длительность семейства ВФ класса Мейера, обеспечивающих по сравнению с известной ВФ Мейера при одной и той же эффективной длительности ВФ уменьшение дисперсии ошибки восстановления на 7 % Также разработано подоптимальное семейство ВФ класса Мейера, имеющих аналитическую форму записи как в частотной, так и во временной областях.

2. Осуществлена оптимизация ВФ, реализуемых на основе РФ, по критерию минимума дисперсии ошибки восстановления, при этом в случае одной и юй же дисперсии ошибки восстановления предложенное разложение снижает ВЗ в 9 раз по сравнении с известными ВФ Добеши Также построено семейство реализуемых на основе РФ ВФ оптимальных по критерию минимума дисперсии ошибки восстановления при ограничении на скорость убывания коэффициентов ИХ соответствующих фильтров анализа и синтеза.

3. Произведена оптимизация по критерию минимума дисперсии ошибки восстановления биортогональных ВФ на основе схемы лифтинга, в которой в качестве корректора и предсказателя используются РФ. При этом по сравнению с алгоритмами на основе биортогональных ВФ Когена-Добеши-Фово (2,6) и ортогональных ВФ Добеши (4 нулевых момента) обеспечивается в 1.5 раза меньшая дисперсия ошибки восстановления сигнала с прямоугольным спектром при одних и тех же ВЗ.

4. Оптимизированы по критерию минимума дисперсии ошибки восстановления СП с известной КФ вейвлетные базисы произвольной кратности, обеспечивающие уменьшение дисперсии ошибки восстановления от 1 5 до 5 раз по сравнению с ВПР на основе фильтров Добеши (при одних и тех же ВЗ) и по сравнению с известными ЛТБ с перекрывающейся областью определения (при одной и той же длительности базисной функции) в зависимости от вида конкретной КФ Предложена процедура, уменьшающий размерность вектора оптимизируемых параметров синтезируемого ВР.

5. Произведена оптимизация по критерию минимума дисперсии ошибки восстановления СП с известной КФ локальных тригонометрических базисов с перекрывающейся областью определения, а также предложена процедура, позволяющая значительно уменьшить размерность вектора оптимизируемых параметров. В случае использования таких базисных систем выигрыш по дисперсии ошибки восстановления в среднем составляет от 40 до 500% по

сравнению с известными блочными преобразованиями в зависимости от конкретной КФ обрабатываемого СП.

6. Предложен алгоритм разложения на основе предварительной обработки сигнала, использование которого обеспечивает повышение качества речи на 0.4 балла по сравнению с алгоритмом без предварительной обработки в соответствии с ГОСТ Р50840-95 при одной и той же скорости передачи

7 Разработана процедура проектирования алгоритмов сжатия PC на основе ВПР по предложенным базисным функциям с бесконечной областью определения с целью использования в радиотехнических устройствах, осуществляющих как хранение, так и передачу PC.

8. Показана эффективность предложенного метода использования теории ВПА и соответствующих алгоритмов в задаче проектирования НС, который позволил обеспечить увеличение среднего коэффициента подавления шума на 40 % по сравнению с алгоритмами ВПА.

9. Предложена система банков фильтров с бесконечной длительностью ИХ, имеющая аналитическую форму записи и обеспечивающая гибкое разбиение частотного диапазона обрабатываемого сигнала. Конкретный выигрыш по уровню боковых лепестков, коэффициенту подавления сигнала в зоне заграждения и относительной дисперсии ошибки восстановления в сравнении с известной системой на основе ВФ Шеннона зависит от количества фильтров в системе, от относительной ширины переходной полосы, а также от длительности усеченной ИХ и составляет от 5 до 30 дБ.

СПИСОК ОСНОВНЫХ ПУБЛИКАЦИЙ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Зорин C.B., Шустиков O.E. Алгоритм адаптации модифицированного преобразования Хартли к параметрам случайного процесса // Актуальные проблемы авиастроения: VIII Всероссийские Туполевские чтения студентов Тез. докладов. Казань: Изд-во Казан, гос. техн. ун-та, 1998. С.135.

2. Шустиков О Е, Косов О М., Зорин С В Оптимизация базиса при использовании расширенной системы функций Виленкина-Крестенсона П Научная сессия МИФИ-99. Т. 7. -М.: МИФИ, 1999. С. 118-119.

3. Кириллов С.Н., Шустиков O.E., Зорин C.B., Дмитриев В.Т. Минимизация ошибки оценивания спектра мощности в немультипликативных ортогональных базисах // I ВНТК "Компьютерные технологии в науке, проектировании и производстве"- Геч докладов. Ч.З. Нижний Новгород' Нижегородский государственный технический университет, 1999. С.28.

4. Шустиков O.E., Дмитриев В.Т., Зорин C.B. Оптимальное сглаживание оценки двумерного обобщенного спектра мощности случайного процесса // Пятая МНТК студентов и аспирантов "Радиоэлектроника, электротехника и энергетика": Тез. докладов. Т.1. М.: Издательство МЭИ, 1999. С.91.

5 Кириллов С Н., Зорин C.B., Шустиков O.E. Свойства модифицированного преобразования Хартли. // Вычислительные машины, комплексы и сети. Межвуз. сб. науч. тр./Рязань: РГРТА, 1999. С.102-107.

6. Зорин C.B. Комбинированное преобразование Фурье-Уолша // Радиоэлектронные системы и устройства: Межвуз. сб науч. тр. Рязань:

РГРТА, 1999. С 66-68

7. Кириллов С.Н., Зорин C.B. Синтез оптимальной действительной и комплексной вейвлет-функций // Вестник Рязанской государственной радиотехнической академии. Выпуск 6,1999. С 19-21

8. Дмитриев В.Т. Зорин C.B. Исследование спектральных методов низкоскоростного кодирования речевых сигналов // Новые информационные технологии в научных исследованиях и образовании. 4-я ВНТК- Тез докладов Рязань: РГРТА, 1999. С. 33.

9. Кириллов С.Н., Бодров O.A., Поспелов A.B., Зорин C.B. Многокритериальный синтез сложных бинариых сигналов // 3-я МНТК "Цифровая обработка сигналов и ее применение". Москва, 2000. Т. 1. С. 14-16.

10. Кириллов С.Н., Зорин C.B. Представление речевых сигналов в локальных тригонометрических базисах // Проблемы передачи и обработки информации в сетях и системах телекоммуникаций. 9-я МНТК: Тез. докладов. Рязань: РГРТА, 2000. С. 87-88.

11. Кириллов С.Н., Зорин C.B. Применение вейвлет-анализа при кодирования речевых сигналов // 36-я НТК' Тез. докладов. Рязань. РГРТА, 2000. С. 20.

12. Дмитриев В.Т, Зорин C.B., Виноградов О.Л. Методы повышения качества речи в системах связи // Микроэлектроника - 2000 7-я ВНТК. Тез. докладов. M : МИЭТ, 2000. С. 187.

13. Виноградов О Л., Зорин C.B. Эффективные алгоритмы обработки речевых сигналов в телекоммуникационных системах // Новые информационные технологии в научных исследованиях и в образовании. НИТ-2000. 5-я ВНТК: Тез. докладов. Рязань: PITTA, 2000. С. 160-161.

14. Кириллов С.Н., Зорин C.B. Дисперсия ошибки восстановления случайных процессов в вейвлетных базисах. // Научная сессия МИФИ-2000. Т. 2. М.: МИФИ, 2000. С. 157.

15. Кириллов С.Н., Зорин C.B. Применение алгоритмов вейвлет-анализа для сжатия речевых сигналов в IP-телефонии // Электросвязь 2001 г. № 4. С 40-42.

16. Кириллов С.Н., Зорин C.B. Алгоритмы биортогонального вейвлет-анализа на основе рекурсивных фильтров // Цифровая обработка сигналов. 2001. №3. С. 9-12.

17. Кириллов С.Н., Зорин C.B. Использование ошимальных локальных базисов для сжатия речевых сигналов в системах телекоммуникаций. // Проблемы передачи и обработки информации в сетях и системах телекоммуникаций. 10-я МНТК: Тез. докладов: Рязань, РГРТА. 2001. С. 104-106.

18. Кириллов С.Н., Зорин С.В Синтез оптимальных порождающих фильтров для вейвлетных разложений // 4-я МНТК "Цифровая обработка сигналов и ее применение". Москва, 2002. Т.1. С. 74-76.

19. Кириллов С.Н., Зорин C.B. Реализация алгоритмов вейвлет-анализа на основе рекурсивных фильтров. Радиотехника. 2002 г. № 3. С. 33-37.

20. Кириллов С Н., Зорин C.B. Оптимальные по минимуму среднеквадратической ошибки вейвлетные представления случайных процессов // Цифровая обработка сигналов. 2002. № 2. С. 32-35.

21. Кириллов С.Н., Зорин C.B., Степанов М.В. Подавление акустического

шума на основе вейвлетно-ггакетного алгоритма обработки речевого сигнала // Проблемы передачи и обработки информации в сетях и системах телекоммуникаций. 11-я МНТК: Тез. докладов. Рязань: РГРТА, 2002. С. 93 95.

22 Кириллов С.Н., Зорин C.B. Вейвлет-анализ случайных процессов в радиотехнических устройствах: Учеб. пособие. Рязань: РГРТА, 2002. 80 с

23. Кириллов С.Н., Зорин C.B. Повышение эффективности вейвлетно-пакегпого представления за счет предварительной обработки речевых сигналов // 5-я МНТК "Цифровая обработка сигналов и ее применение". Москва, 2003. Т. 2. С. 362-363.

24. Зорин C.B. Повышение эффективности вейвлетно-пакетной обработки на основе перекрытия интервалов анализа // Методы и устройства обработки сигналов в радиотехнических системах- Межвуз. сб. науч. тр. Выпуск 2. Рязань: РГРТА, 2003. С. 119-121.

25. Кириллов С.Н., Зорин C.B. Вейвлетно-пакетное представление предварительно обработанных сигналов // Вестник Рязанской государственной радиотехнической академии. Выпуск 11. 2003. С. 3-6.

26. Зорин С. В. Оптимизация пороговой функции в задачах подавления шума на основе вейвлетно-пакетных методов // Новые информационные технологии в научных исследованиях и в образовании. НИТ-2003. 8-я ВНТК: Тез. докладов. Рязань: РГРТА, 2003. С. 67-68.

27. Кириллов С.Н., Зорин C.B., Бахурин С.А. Синтез оптимальных скейлинг и интерполирующих функций при ограничении на реализуемость устройств обработки // 6-я МНТК "Цифровая обработка сигналов и ее применение". Москва, 2004. Т. 1. С. 30-31

28 Зорин С В Эффективные алгоритмы представления речевых сигналов в вейвлетных базисах бесконечной длительности. // Методы и устройства формирования и обработки сигналов в информационных системах: Межвуз. сб. науч. тр. Рязань: РГРТА, 2004 С 23-27

29. Кириллов С.Н., Зорин C.B. Оптимальные по критерию минимума среднеквадратической ошибки восстановления сигнала локальные базисы с перекрывающейся областью определения. // Радиотехника. №6. С. 17-22.

30. Зорин С.В, Хахулин С.С. Повышение качества зашумленных речевых сигналов на основе нейросетевых алгоритмов вейвлет -анализа // Новые информационные технологии в научных исследованиях и в образовании НИТ-2004.9-я ВНТК: Тез. докладов. Рязань: РГРТА. 2004. С. 63-64.

31 Кириллов С.Н., Зорин С В Синтез оптимальных вейвлетных функций класса Мейера с ограниченной эффективной длительностью. // Цифровая обработка сигналов. 2004. №3.

и

Соискатель

/ C.B. Зорин /

ЗОРИН Сергей Валентинович

Эффективные по критерию минимума дисперсии ошибки восстановления и вычислительным затратам алгоритмы обработки случайных процессов на основе обобщенных вейвлетных разложений в радиотехнических устройствах

Автореферат диссертации на соискание ученой степени кандидата технических наук

Отпечатано в ООО "Оргтехцентр", Рязань, Первомайский пр., 37/1. Формат бумаги 60x84 1/16. Заказ №805. Тираж 100 экз. 23.09.04

№18460

PH Б Русский фонд

2005-4 13312

ВВЕДЕНИЕ

1 СИНТЕЗ ВЕЙВЛЕТНЫХ ФУНКЦИЙ С БЕСКОНЕЧНОЙ ОБЛАСТЬЮ ОПРЕДЕЛЕНИЯ ПО КРИТЕРИЮ МИНИМУМА ДИСПЕРСИИ ОШИБКИ ВОССТАНОВЛЕНИЯ.

1.1 Вводные замечания.

1.2 Синтез оптимальных по критерию минимума дисперсии ошибки восстановления и ограничении эффективной длительности вейвлетных функций класса Мейера.

1.2.1 Обоснование показателей качества вейвлетных функций.

1.2.2 Задача синтеза оптимальных вейвлетных функций класса Мейера.

1.2.3 Квазиоптимальные вейвлетные функции класса Мейера.

1.2.4 Экспериментальные исследования.

1.3 Оптимизация по критерию минимума дисперсии ошибки восстановления ортогональных вейвлетных разложений на основе рекурсивных фильтров.

1.3.1 Получение расчетных соотношений.

1.3.2 Оптимизация параметров рекурсивных фильтров.

1.3.3 Экспериментальные исследования.

1.4 Оптимизация биортогональных вейвлетных разложений на основе рекурсивных фильтров.

1.4.1 Особенности биортогональных вейвлетных разложений.

1.4.2 Получение расчетных соотношений.

1.4.3 Обоснование схемы лифтинга.

1.4.4 Оптимизация параметров фильтров коррекции и предсказания.

1.5 Выводы.

2 ОПТИМИЗАЦИЯ ОБОБЩЕННЫХ ВЕЙВЛЕТНЫХ БАЗИСОВ ПРИ ОДНОУРОВНЕВОМ РАЗЛОЖЕНИИ СЛУЧАЙНОГО ПРОЦЕССА ПО КРИТЕРИЮ МИНИМУМА ДИСПЕРСИИ ОШИБКИ ВОССТАНОВЛЕНИЯ.

2.1 Вводные замечания.

2.2 Оптимизация вейвлетных разложений произвольной кратности по критерию минимума дисперсии ошибки восстановления.

2.2.1 Особенности вейвлетных разложений произвольной кратности.

2.2.2 Особенности вейвлетно-пакетных разложений.

2.2.3 Получение расчетных соотношений.

2.2.4 Обоснование полифазных представлений.

2.2.5 Уменьшение размерности вектора оптимизируемых параметров.

2.2.6 Экспериментальные исследования.

2.3 Оптимизация одноуровневых разложений с использованием локальных базисов с перекрывающейся областью определения на основе проектирующего оператора.

2.3.1 Особенности локальных базисов с перекрывающейся областью определения.

2.3.2 Формирование проектирующего оператора.

2.3.3 Формирование дискретного проектирующего оператора.

2.3.4 Доказательство обратимости полного проектирующего оператора.

2.3.5 Получение расчетных соотношений.

2.3.6 Разработка процедуры оптимизации.

2.3.7 Оценка дисперсий ошибки восстановления отсчетов случайного процесса.

2.3.8 Экспериментальные исследования.

2.4 Реализация разложения случайных процессов по базисам с перекрывающейся областью определения на основе предварительной обработки сигналов.

2.4.1 Особенности реализации разложения случайного процесса по базисам с перекрывающейся областью определения.

2.4.2 Структура алгоритма на основе предварительной обработки случайного процесса.

2.4.3 Определение элементов матрицы предсказания.

2.4.4 Дополнительная обработка разностного вектора.

2.4.5 Связь результатов предварительной обработки сигналов с разложением по базисным функциям с перекрывающейся областью определения.

2.4.6 Экспериментальные исследования.

2.5 Выводы.

3 ПРАКТИЧЕСКОЕ ПРИМЕНЕНИЕ ПРЕДЛОЖЕННЫХ

ВЕЙВЛЕТНЫХ ФУНКЦИЙ С БЕСКОНЕЧНОЙ ОБЛАСТЬЮ ОПРЕДЕЛЕНИЯ ПРИ ОБРАБОТКЕ РЕЧЕВЫХ СИГНАЛОВ И ПОСТРОЕНИИ СИСТЕМ БАНКОВ ФИЛЬТРОВ С БЕСКОНЕЧНОЙ ДЛИТЕЛЬНОСТЬЮ ИМПУЛЬСНЫХ ХАРАКТЕРИСТИК.

3.1 Вводные замечания.

3.2 Проектирование алгоритмов сжатия речевого сигнала на основе вейвлетно-пакетных разложений по предложенным базисным функциям с бесконечной областью определения.

3.2.1 Особенности вейвлетно-пакетных разложений.

3.2.2 Структура алгоритма обработки.

3.2.3 Выбор и оптимизация параметров алгоритма сжатия речевого сигнала.

3.2.4 Анализ вейвлетных функций из семейства оптимальных и квазиоптимальных функций класса Мейера наиболее эффективных для представления речевых сигналов.

3.2.5 Анализ наиболее эффективных для представления речевого сигнала вейвлетных функций из семейства реализуемых на основе рекурсивных фильтров.

3.2.6 Определение необходимой длительности последовательностей, аппроксимирующих бесконечные импульсные характеристики фильтров анализа и синтеза.

3.2.7 Оптимальное кодирование передаваемых вейвлетных коэффициентов разложения.

3.2.8 Зависимости качества речи от предоставляемой скорости передачи для различных алгоритмов обработки.

3.2.9 Исследование влияния пропадания пакетов на качество речи при использовании предложенных алгоритмов в IP-телефонии.

3.2.10 Получение доверительных интервалов оценки качества речи в соответствии с ГОСТ Р

3.3 Разработка и оптимизация алгоритмов повышения качества зашумленных речевых сигналов на основе вейвлет-анализа.

3.3.1 Предварительные замечания.

3.3.2 Алгоритм повышения качества речевого сигнала при действии шумов

3.3.3 Структурная схема устройства обработки речевого сигнала при действии шумов.

3.3.4 Анализ воздействия широкополосной помехи.

3.3.5 Анализ воздействия узкополосной помехи.

3.3.6 Анализ воздействия комплексной помехи.

3.4 Повышение качества речевых сигналов при действии шумов в случае нейросетевой реализации алгоритмов вейвлет-анализа.

3.4.1 Эквивалентность структур вейвлетно-пакетного алгоритма повышения качества речевых сигналов при действии шумов и искусственной нейронной сети.

3.4.2 Исследование качества обработки речевых сигналов при действии шумов нейронной сетью на основе алгоритмов вейвлет-анализа

3.5 Синтез банков фильтров на основе теории кратномасштабного анализа.

3.5.1 Отличия и сходства между теориями банков фильтров и вейвлетного анализа.

3.5.2 Особенности представления функций в локальных тригонометрических базисах.

3.5.3 Условия кратномасштабного анализа кратности М.

3.5.4 Обобщение вейвлетных функций класса Мейера на случай кратномасштабного анализа произвольной кратности.

3.5.5 Эквивалентные соотношения обобщенных вейвлетных функций класса Мейера и характеристик банков фильтров

3.5.6 Синтез оптимальных кол околообразных функций по критерию минимума дисперсии ошибки восстановления при ограничении на эффективную длительность вейвлетной функции.

3.5.7 Построение банков фильтров с аналитической формой записи.

3.5.8 Сравнение предложенных банков фильтров с известными банками фильтров на основе вейвлетной функции Шеннона

3.6 Програмно-аппаратная реализация алгоритмов обработки речевых сигналов на основе вейвлет-анализа.

3.7 Выводы.

Актуальность темы. Алгоритмы обработки нестационарных случайных процессов (СП), используемые в современных радиотехнических системах, в большинстве случаев основываются на преобразовании Фурье [1], а также на косинусных и синусных преобразованиях, что в первую очередь обусловлено развитием соответствующего математического аппарата. Большой вклад в развитие теории спектрального анализа детерминированных сигналов и СП внесли отечественные и зарубежные ученые А. Шустер, Г.У. Юл, Н.Винер, А.Ж. Хинчин, Р.Б. Блекман, Ж.В. Тьюки, Ж.П. Бург, Г. Джекинс, Д. Вате, C.JL Марпл.-мл., B.C. Пугачев и др. [2. 12]. Однако спектральный анализ, основанный на преобразовании Фурье, предусматривает разложение по тригонометрическим не ограниченным во времени базисным функциям, что существенно затрудняет обработку нестационарных СП. При этом, одна и та же базисная функция соответствует сегментам реализации СП с существенно различными параметрами. Кроме того, теория спектрального анализа СП большей частью развита для гауссовских стационарных процессов[5,9,12]. Возможна реализация алгоритмов обработки на основе теории обобщенного спектрального анализа как детерминированных сигналов, так и СП, изложенная в работах Н. Ахмеда, К.Р. Pao, B.C. Пугачева, И.А. Трахтмана и др. [11. 15]. В рамках этой теории не получили развития вопросы построения базисных функций локализованных во временной и в частотной областях.

В ряде случаев возможно использование отдельных базисных функций для каждого интервала анализа, однако при этом возникают краевые искажения, связанные с несоответствием значений базисных функций в крайних точках смежных интервалов анализа [16]. Более того, такая обработка эквивалентна использованию прямоугольного весового окна, что обуславливает разрывы базисных функций во временной области и, как следствие, плохую локализацию в частотной области. Однако, использование гладких оконных функций приводит к утрате свойства ортогональности базисной системы. Кроме того, такие алгоритмы не предусматривают представление отдельных частотных компонент сигнала функциями, имеющими разную длительность.

Перечисленные недостатки отсутствуют в случае разложений по вейвлетным функциям (ВФ). Теория вейвлетного анализа (ВА) была в основном разработана в работах А Хаара, С. Маллата, И. Мейера, И. Добеши, К. Чуй, В. Свелденса, М.В. Виккерхаузера, М. Витерли, В.Ф. Кравченко и др. [8,16. 26]. Кроме того, развитие теории В А отражено и осуществлено в работах В.И. Воробьёва, В.Г. Грибунина, А.П. Петухова, JI.B. Новикова, В.П. Дьяконова, и др. [27.40]. Основное достоинство ВА заключается в том, что базисные функции в случае вейвлетного разложения (BP) локализованы не только в частотной, но и во временной области. Благодаря этому алгоритмы ВА нашли широкое применение при решении ряда задач, связанных с обработкой нестационарных СП, сжатия информации, восстановления и интерполяции сигналов, анализа геодезической, метеорологической и медицинской информации, а также в компьютерной графике и численной математике [22. 24,41. 43].

Наиболее часто используемыми при решении практических задач являются ортогональные ВФ Добеши [20], обеспечивающие минимальную длительность при фиксированном числе нулевых моментов и имеющие конечную область определения. Эти свойства ВФ Добеши обуславливают высокую эффективность обработки изображений [42], т.к. в этом случае наиболее важными являются хорошие интерполирующие возможности базисной системы и способность качественного определения резких границ, а требования, накладываемые на форму спектра Фурье базисных функций, не принципиальны. Однако в случае обработки звуковых и речевых сигналов требования, предъявляемые к форме спектра Фурье ВФ [44], гораздо выше, а длительность ВФ имеет второстепенное значение.

Для того, чтобы форма спектра Фурье ВФ имела вид близкий к идеальному прямоугольному, необходимо использовать ВФ Добеши с большим числом нулевых моментов, что приводит к существенному возрастанию длительности и, как следствие, вычислительных затрат на реализацию разложения. Кроме того, ВФ Добеши имеют конечную область определения и по этой причине разложение по ним осуществляется на основе нерекурсивных фильтров. Один из способов устранения этого недостатка заключается в использовании предложенных в работе С. Херли и М. Витерли [45] ВФ с бесконечной областью определения, разложение по которым может быть эффективно осуществлено на основе рекурсивных фильтров.

Однако известные ВФ на основе рекурсивных фильтров были получены при предположении обеспечения максимального числа нулевых моментов в случае фиксированных затрат на реализацию разложения [45]. Более того, так как /.-преобразования импульсных характеристик (ИХ) фильтров анализа и синтеза в этом случае имеют полюсы как внутри, так и вне единичной окружности комплексной плоскости, то эффективная реализация прямого и обратного преобразований невозможна в реальном масштабе времени.

Обычно алгоритмы, использующие разложение по ВФ, требуют эффективного с точки зрения восстановления представления в вейвлетном базисе обрабатываемого СП. По этой причине представляется целесообразным осуществлять синтез ВФ не по критерию максимального числа нулевых моментов, а непосредственно по критерию минимума дисперсии ошибки восстановления при ограничении на вычислительные затраты или область определения.

Одним из недостатков классического ВА и его обобщения - вейвлетно-пакетного анализа (ВПА) [22] является диадический способ разбиения частотного диапазона обрабатываемого СП, который ограничивает число частотных диапазонов в случае их одинаковой ширины целой степенью числа два. Ослабление этого ограничения заключается в использовании алгоритмов ВА кратности отличной от двух, представленных в работах Р.А. Гопинафаи К.С. Бурруса [46,47].

Однако известные алгоритмы ВА кратности отличной от двух разрабатывались на основе математического аппарата полифазных матриц, заимствованного из теории банков фильтров [48.51], по критерию максимального числа нулевых моментов соответствующей скейлинг-функции (СФ) или максимальной близости амплитудно-частотных характеристик (АЧХ) фильтров анализа к идеальным прямоугольным при фиксированной длительности ИХ. При этом предполагалось, что дискретные базисные функции не зависят от корреляционных характеристик СП. По этой причине целесообразна разработка ВФ, минимизирующих дисперсию ошибки восстановления для заданной формы КФ. Процедуры определения разложений, обеспечивающих выполнение каких-либо заданных требований, представляет собой сложную задачу нелинейной многомерной оптимизации [46,47]. В связи с этим возникает необходимость в разработке процедур оптимизации, обеспечивающих меньшие вычислительные затраты при получении соответствующих BP.

BP произвольной кратности осуществляют разбиение частотного диапазона сигнала за один шаг посредством системы банков фильтров. Однако разбиение частотного диапазона также возможно на основе использования гладких локальных тригонометрических базисов [52,53], дискретный вариант которых может рассматриваться как частный случай вейвлетных базисов произвольной кратности. Свойства гладких локальных тригонометрических базисов в основном определяются видом колоколообразной функции, которая в большинстве случаев выбирается эмпирически исходя из необходимого числа непрерывных производных. Дискретному варианту гладких локальных тригонометрических базисов в теории банков фильтров соответствуют банки фильтров, модулируемые косинусом [54], а в теории ВА - ортогональные преобразования с перекрытием Малвара [55,56]. Однако во всех этих случаях критерием построения является либо гладкость соответствующих непрерывных функций, либо близость АЧХ фильтров анализа к идеальным прямоугольным. При этом определение оптимальных разложений сводится также к решению задачи многомерной нелинейной оптимизации. Таким образом, возникает необходимость в разработке эффективных процедур оптимизации таких базисов по критерию минимума дисперсии ошибки восстановления для заданной формы КФ.

Для нестационарных СП часто корреляционные характеристики изменяются во времени достаточно быстро, и при этом необходимо производить обработку в реальном масштабе времени. В связи с этим целесообразна разработка алгоритмов обработки, реализующих разложение СП по функциям аналогичной структуры, но в то же время обеспечивающих функционирование в реальном масштабе времени.

Теория кратномасштабного анализа (КМА) и ВА тесно связаны с гладкими локальными тригонометрическими базисами, с ортогональными преобразованиями с перекрытием Малвара, а также с теорией подполосного кодирования и банков фильтров [23,27,55,57]. Результаты, полученные в рамках теории гладких локальных тригонометрических базисов и банков фильтров, успешно использовались при построении соответствующих алгоритмов КМА и В А [53]. Однако несмотря на успехи, достигнутые в теории КМА и ВА, до сих пор не удавалось использовать их результаты при синтезе банков фильтров. Таким образом, представляется целесообразным разработать метод построения системы банков фильтров с использованием теории КМА.

Структура алгоритмов, осуществляющих разложение сигнала по ВФ и его обработку, имеет много общего с нейронными сетями (НС). По этой причине целесообразно рассмотреть возможность использования ВА в целях определения структуры НС с учетом специфики решаемой задачи.

Цель работы. Основной целью диссертационной работы является синтез и оптимизация обобщенных BP по критерию минимума дисперсии ошибки восстановления обрабатываемых СП при ограничении на эффективную длительность ВФ или на требуемые вычислительные затраты в интересах повышения показателей качества радиотехнических устройств обработки нестационарных СП.

Поставленная цель работы включает решение следующих задач:

1. Синтеза и оптимизации ВФ с бесконечной областью определения по критерию минимума дисперсии ошибки восстановления при ограничении на эффективную длительность базисных функций или вычислительные затраты на реализацию.

2. Разработки вейвлетных базисов кратности отличной от двух и методов их оптимизации по критерию минимума дисперсии ошибки восстановления при заданной КФ и ограничении на длительность базисных функций обрабатываемого СП.

3. Построения системы банков фильтров на основе теории В А кратности отличной от двух, обеспечивающей гибкое разбиение частотного диапазона обрабатываемого СП при ограничении на эффективную длительность соответствующих ВФ.

Методы проведения исследований. В работе использовались методы статистической радиотехники и математической статистики, вариационного и матричного исчисления, динамического программирования, вычислительной математики, математического аппарата теории полифазных матриц, а также новейшие достижения в области современных речевых технологий, телекоммуникаций и цифровой обработки информации. Данные теоретические методы сочетались с экспериментальными исследованиями на основе имитационного моделирования.

Научная новизна. В рамках диссертационной работы получены следующие новые научные результаты:

1. Синтезированы оптимальные по критерию минимума дисперсии ошибки восстановления ВФ класса Мейера при ограничении на эффективную длительность. Предложено семейство квазиоптимальных ВФ класса Мейера, имеющих аналитическую форму записи как в частотной, так и во временной области.

2. Произведена оптимизация ортогональных ВФ, реализуемых на основе рекурсивных фильтров, по критерию минимума дисперсии ошибки восстановления при ограничении на вычислительные затраты. Предложено семейство ортогональных ВФ, реализуемых на основе рекурсивных фильтров, оптимальных по критерию минимума дисперсии ошибки восстановления для фиксированных вычислительных затрат и заданной эффективной длительности базисных функций.

3. Предложен метод построения биортогональных BP по критерию минимума дисперсии ошибки восстановления на основе схемы лифтинга, реализуемой с помощью рекурсивных фильтров.

4. Оптимизированы дискретные вейвлетные базисы произвольной кратности и дискретные локальные тригонометрические базисы по критерию минимума дисперсии ошибки восстановления сигнала при ограничении на длительность базисных функций и предположении известной КФ обрабатываемого СП. Предложена процедура расчета значения минимизируемой дисперсии ошибки восстановления, обеспечивающая уменьшение размерности вектора оптимизируемых параметров.

5. Предложены алгоритмы обработки, реализующие с использованием предварительной обработки сигнала разложение по функциям, близким по своей структуре к ВФ произвольной кратности, но обеспечивающие возможность функционирования в реальном масштабе времени.

6. Разработаны алгоритмы эффективного представления речевых сигналов (PC) в предложенных вейвлетных базисах бесконечной длительности, а также алгоритмы повышения качества PC при действии шумов.

7. Обобщены ВФ класса Мейера на случай ВА кратности отличной от двух. Проведен синтез таких ВФ по критерию минимума дисперсии ошибки восстановления при ограничении на эффективную длительность базисных функций.

8. Разработан метод построения системы банков фильтров на основе предложенного обобщения ВФ класса Мейера, при этом получена аналитическая форма записи для коэффициентов ИХ фильтров.

9. Предложена процедура выбора структуры НС и предварительной инициализации синаптических связей на основе известных алгоритмов ВА.

Практическая ценность. Представленные в работе алгоритмы обработки СП на основе предложенных ВФ могут быть эффективно использованы в таких радиотехнических устройствах, как системы передачи информации, системы экономного хранения PC, а также системы повышения качества сигналов при действии помех. Кроме того, в работе предложены методы построения банков фильтров, которые могут использоваться в задачах анализа и хранения СП. Результаты диссертационной работы нашли применение в действующей аппаратуре ОАО "Рязаньэнерго", а также внедрены в учебный процесс РГРТА, что подтверждено соответствующими актами.

Основные положения, выносимые на защиту

1. Оптимальные по критерию минимума дисперсии ошибки восстановления и ограничении на эффективную длительность ВФ класса Мейера, обеспечивающие при одной и той же эффективной длительности уменьшение дисперсии ошибки восстановления на 7% по сравнению с известными ВФ Мейера.

2. Ортогональные ВФ, реализуемые на основе рекурсивных фильтров, оптимальные по критерию минимума дисперсии ошибки восстановления при заданных вычислительных затратах, позволяющие при одной и той же дисперсии ошибки восстановления снизить вычислительные затраты на реализацию разложения по сравнению с известными ВФ Добеши в 9 раз.

3. Процедура расчета минимизируемого значения дисперсии ошибки восстановления BP произвольной кратности при заданной КФ обрабатываемого СП, приводящая к существенному сокращению размерности вектора оптимизируемых параметров, и позволяющая уменьшить дисперсию ошибки представления PC в 1.5-5 раз по сравнению с известными базисами при одном и том же коэффициенте сжатия.

4. Семейство банков фильтров на основе обобщения ВФ класса Мейера на случай ВА кратности, отличной от двух, с бесконечной длительностью ИХ, имеющее аналитическую форму записи при высокой гибкости разбиения частотного диапазона обрабатываемого СП

Апробация работы. Результаты работы докладывались на следующих научно-технических конференциях (НТК), семинарах и сессиях:

1. VIII Всероссийские Туполевские чтения студентов "Актуальные проблемы авиастроения". 1998 г., г. Казань.

2. Научная сессия МИФИ-99,2000., 1999,2000 гг., г. Москва

3. I ВНТК "Компьютерные технологии в науке, проектировании и производстве". 1999 г., г. Нижний Новгород.

4. Пятая МНТК студентов и аспирантов "Радиоэлектроника, электротехника и энергетика". 1999 г., г. Москва.

5. 4-я, 5-я, 8-я, 9-я Всероссийская НТК студентов, молодых ученых и специалистов "Новые информационные технологии в научных исследованиях и образовании". 1999, 2000,2003,2004 гг., г. Рязань.

6. 3-я, 4-я, 5-я, 6-я Международная конференция "Цифровая обработка сигналов и ее применение". 2000,2002, 2003, 2004 гг., г. Москва.

7. 36-ая НТК. РГРТА. 2000 г., г. Рязань.

8. 9-я, 10-я, 11-я МНТК "Проблемы передачи и обработки информации в сетях и системах телекоммуникаций". 2000, 2001, 2002 гг., г. Рязань.

9. 7-ая Всероссийская межвузовская НТК студентов и аспирантов "Микроэлектроника - 2000". 2000 г., г. Москва.

Публикации. По теме диссертации опубликована 31 работа. Из них 6 статей в центральной печати, 1 учебное пособие, 6 статей в научно-технических журналах и межвузовских сборниках трудов, 18 тезисов докладов на конференциях.

Структура и объем работы. Диссертационная работа состоит из введения, трех глав, заключения, списка литературы из 142 наименований и 5 приложений. Диссертация содержит 147 стр. основного текста и 53 рисунка.

Основные результаты диссертации можно сформулировать в следующем виде:

1. Произведен синтез по критерию минимума дисперсии ошибки восстановления и при ограничении на эффективную длительность семейства ВФ класса Мейера, обеспечивающих по сравнению с известной ВФ класса Мейера при одной и той же эффективной длительности ВФ уменьшение дисперсии ошибки восстановления на 7%. Предложено квазиоптимальное семейство ВФ класса Мейера, имеющих аналитическую форму записи как в частотной, так и во временной области.

2. Осуществлена оптимизация ВФ, реализуемых на основе рекурсивных фильтров, по критерию минимума дисперсии ошибки восстановления, при этом при одной и той же дисперсии ошибки восстановления предложенное разложение снижает вычислительные затраты в 9 раз по сравнении с известными ВФ Добеши. Построено семейство реализуемых на основе РФ ВФ оптимальных по критерию минимума дисперсии ошибки восстановления при ограничении на скорость убывания коэффициентов ИХ соответствующих фильтров анализа и синтеза.

3. Произведена оптимизация по критерию минимума дисперсии ошибки восстановления биортогональных ВФ на основе схемы лифтинга, в которой в качестве корректора и предсказателя используются рекурсивные фильтры. При этом по сравнению с алгоритмами на основе биортогональных ВФ Когена-Добеши-Фово (2,6) и ортогональных ВФ Добеши (4-нулевых момента) обеспечивается в 1.5 раза меньшая дисперсия ошибки восстановления сигнала с прямоугольным спектром при одних и тех же вычислительных затратах.

4. Оптимизированы по критерию минимума дисперсии ошибки восстановления СП с известной КФ вейвлетные базисы произвольной кратности, обеспечивающие уменьшение дисперсии ошибки восстановления от 1.5 до 5 раз по сравнению с ВПР на основе фильтров Добеши при одних и тех же вычислительных затратах, а также по сравнению с известными локальными тригонометрическими базисами с перекрывающейся областью определения при одной и той же длительности базисной функции в зависимости от вида конкретной КФ. Предложена процедура, уменьшающая размерность вектора оптимизируемых параметров оптимизируемого вейвлетного базиса.

5. Произведена оптимизация по критерию минимума дисперсии ошибки восстановления СП с известной КФ локальных тригонометрических базисов с перекрывающейся областью определения, а также предложена процедура, позволяющая значительно уменьшить размерность вектора оптимизируемых параметров. В случае использования таких базисных систем выигрыш по дисперсии ошибки восстановления в среднем составляет от 40 до 500% по сравнению с известными блочными преобразованиями в зависимости от конкретной КФ обрабатываемого СП.

6. Предложен алгоритм разложения на основе предварительной обработки сигнала, использование которого обеспечивает повышение качества речи на 0.7 балла по сравнению с алгоритмом без предварительной обработки в соответствии с ГОСТ Р50840-95 при одной и той же скорости передачи.

7. Разработана процедура проектирования алгоритмов сжатия PC на основе ВПР по предложенным базисным функциям с бесконечной областью определения с целью использования в радиотехнических устройствах, осуществляющих как хранение, так и передачу PC.

8. Показана эффективность предложенного метода использования теории ВПА и соответствующих алгоритмов в задаче проектирования НС, который позволил обеспечить увеличение среднего коэффициента подавления шума на 52% по сравнению с алгоритмами ВПА.

9. Предложена система банков фильтров с бесконечной длительностью ИХ, имеющая аналитическую форму записи и обеспечивающая гибкое разбиение частотного диапазона обрабатываемого сигнала. Конкретный выигрыш по уровню боковых лепестков, коэффициенту подавления сигнала в зоне заграждения и относительной дисперсии ошибки восстановления в сравнении с известной системой на основе ВФ Шеннона зависит от количества фильтров в системе, относительной ширины переходной полосы, а также от длительности усеченной ИХ и составляет от 5 до 30 дБ.

Таким образом, синтезированные по критерию минимума дисперсии ошибки восстановления обобщенные BP, а также разработанные на основе предложенных ВФ алгоритмы обработки СП позволили повысить показатели качества функционирования радиотехнических устройств обработки сигналов при ограничении на скорость передачи и вычислительные затраты. Разработанные алгоритмы ВА на основе предложенных ВФ могут быть использованы в системах передачи и хранения информации, а также в широком диапазоне радиотехнических приложений, связанных с обработкой нестационарных сигналов.

Заключение

В процессе работы над диссертацией был произведен синтез и оптимизация ВФ с бесконечной областью определения по критерию минимума дисперсии ошибки восстановления при ограничении на ее эффективную длительность. Также были предложены методы оптимизации по критерию минимума дисперсии ошибки восстановления вейвлетных базисов произвольной кратности и локальных тригонометрических базисов для заданной КФ обрабатываемого СП. Разработанные алгоритмы позволили повысить показатели качества функционирования радиотехнических устройств обработки PC за счет увеличения эффективности его представления на основе предложенных обобщенных BP.

В первой главе диссертационной работы по критерию минимума дисперсии ошибки восстановления осуществлен синтез оптимальных ВФ класса Мейера при ограничении на их эффективную длительность, произведена оптимизация ортогональных ВФ, реализуемых на основе рекурсивных фильтров, а также получены биортогональные ВФ, разложение по которым может быть эффективно осуществлено на основе схемы лифтинга, где в качестве корректора и предсказателя используются рекурсивные фильтры. Во второй главе работы для заданной КФ обрабатываемого СП по критерию минимума дисперсии ошибки восстановления разработаны методы оптимизации вейвлетных базисов произвольной кратности, а также локальных тригонометрических базисов, обеспечивающие существенное сокращение размерности вектора оптимизируемых параметров. Предложено использовать предварительную обработку сигнала для повышения эффективности его представления за счет снижения блочного эффекта, показана связь разложения предварительно обработанного СП с представлением в биортогональном базисе ВФ произвольной кратности. Третья глава диссертационной работы посвящена практическим аспектам использования предложенных семейств ВФ и методов их построения в задачах обработки PC, а также при обосновании структуры НС и построении ортогональных банков фильтров. Разработана процедура проектирования алгоритмов сжатия PC на основе вейвлетно-пакетных разложений по предложенным базисным функциям с бесконечной областью определения. Показана эффективность использования разработанных ВФ в задачах повышения качества зашумленных PC. Предложен метод использования теории ВА и соответствующих алгоритмов в задаче проектирования НС, который можно рассматривать как обобщение алгоритмов ВА на нейросетевые алгоритмы, или как процедуру выбора структуры НС и предварительной инициализации синаптических связей на основе известных алгоритмов ВА. Разработана на основе обобщения ВФ класса Мейера на случай КМА произвольной кратности система банков фильтров с бесконечной длительностью ИХ, имеющая аналитическую форму записи и позволяющая гибким образом разбивать частотный диапазон обрабатываемого сигнала в соответствии с требуемым числом частотных поддиапазонов и шириной переходных участков. Рассмотрены вопросы программно-аппаратной реализации алгоритмов ВА на базе сигнальных микропроцессоров фирмы Analog Devices.

1. Fourier J.B.J. Theorie analytique de la chaleur. Paris, 1822

2. Schuster A. On the Investigation of Hidden Periodicities with Application to a Supposed Twenty-Six-Day Period of Meteorological Phenomena // Terr. Mag., 1889. V. 3. N. 1 P. 13-41.

3. Yule G. U. On a Method of Investigation Periodicities in Disturbed Series, with Special Reference to Wolfer's Sunspot Numbers. II Phylos. Trans. R, Soc. London, 1927. Ser. A, V. 226, P. 267-298.

4. Wiener N. Generalized Harmonic Analysis. // Acta Math., 1930. V. 55. P. 117-258.

5. Khintchine A.J. Korrelationtheorie der stationaren Stochastischen Prosesse. //Math. Ann., 1934. V. 208. P. 604-615.

6. Blackman R. В., Tukey J.W. The Measurements of Power Spectra from the Point of View of Communications Engineering. // Bell Syst. Tech. J., 1958. V. 33. P. 185-282, 485-569.

7. Burg J. P. Maximum Entropy Spectral Analyses. Proceedings 37th Meeting of Society of Exploration Geophysicists, Oklahoma City, Okla., October 1967.

8. Haar A. Zur Theorie der orthogonalen Funktionen-Systeme. // Math. Ann., 1910. V. 69, P. 331-371.

9. Дженкинс Г., Ватте Д. Спектральный анализ и его приложения. Т. 1,2. М.: Мир, 1971.316 с.

10. Марпл-мл. С. Л. Цифровой спектральный анализ и его приложения. М.: Мир, 1990. 584 с.

11. Ахмед Н., Pao К.Р. Ортогональные преобразования при обработке цифровых сигналов. М.: Связь, 1980. 248 с.

12. Пугачев B.C. Теория случайных функций и ее применение к задачам автоматического управления. М.: Физматгиз., 1962. 884 с.

13. Трахтман A.M. Введение в обобщенную спектральную теорию сигналов. М.: Сов. радио, 1972. 208 с.

14. ПойдаВ.Н. Спектральный анализ в дискретных ортогональных базисах. Минск: Наука и техника, 1978.136 с.

15. Залманзон J1.A. Преобразования Фурье, Уолша, Хаара и их применение в управлении, связи и других областях. М.: Наука, 1989. 496 с.

16. Meyer Y., Les ondelettes. Algorithmes et applications. Colin Ed., 1993.1. P. 520.

17. Mallat S. Multiresolution approximation and wavelets. // Trans. Amer. Math. Soc., 1989. V. 315. P. 69-88.

18. Mallat S. A theory for multiresolution signal decomposition: the wavelet representation. // IEEE Trans. Patt. Anal. Machine Intell., 1989. V. 11. No 7. P. 674-693.

19. Mallat S. Multifrequency channel decompositions of images and wavelet models. // IEEE Trans. Acoust. Signal Speech Process, 1989. Dec. V. 37. P. 2091-2110.

20. Добеши И. Десять лекций по вейвлетам. // Ижевск: НИЦ "Регулярная и хаотическая динамика", 2001. 464 с.

21. Чуй К. Введение в вейвлеты. М.: Мир, 2001. 412 с.

22. Wickerhauser M.V. Lectures on wavelet packet algorithms, Dept. of Mathematics, Washington University, St. Louis, Nov. 1991. 75 p.

23. VetterliM., Kovacevic J. Wavelets and Subband Coding, Prentice-Hall, 1995. 490 p.

24. Sweldens W. and Schroder P. S. Building your own wavelets at home. // In Wavelets in Computers Graphics, ACM SIGGRAPH, Course note, 1996. P. 15-87.

25. Кравченко В.Ф. Лекции по теории атомарных функций и некоторые их приложения. Монография. М.: Радиотехника. 2003. 560 с.

26. Кравченко В.Ф., Рвачев В.А. «Вейвлет»-системы и их применение в обработке сигналов. // Зарубежная радиоэлектроника, 1996, №4, С. 3-20

27. Воробьев В.И., Грибунин В.Г. Теория и практика вейвлет-преобразования. СПб.: Изд-то ВУС, 1999. 204 с.

28. Петухов А.П. Введение в теорию базисов всплесков. СПб.: Изд-во СПбГТУ, 1999. 132 с.

29. Новиков JI.B. Основы вейвлет-анализа сигналов. Учебное пособие. СПб.: Изд-во ООО «МОДУС+», 1999. 152 с.

30. Дьяконов В.П. Вейвлеты. От теории к практике. М.: Солон-Р, 2002. 448 с.

31. Астафьева Н.М. Вейвлет-преобразования. Основные свойства и примеры применения. М.: ИКИ РАН, 1994. №1891. 56 с.

32. Берколайко М.З., Новиков И.Я. Базисы всплесков в пространствах дифференцируемых функций анизотропной гладкости. М.: Докл. РАН, 1992, Т. 323, №4, С. 615-618.

33. Желудев В.А. О вейвлетах на базе периодических сплайнов. М.: Докл. РАН, 1994, №1, с. 9-13.

34. Малоземов В.П., Машарский С.М. Сравнительное изучение двух вейвлетных базисов. // Проблемы передачи информации, 2000, т.36, вып. 2, с. 27-37

35. Малоземов В.Н., Машарский С.М. Хааровские спектры дискретных сверток. // Ж. вычисл. мат. и матем. физ., 2000, т.40, №6, с.954-960

36. Новиков И.Я. Онделеты И. Мейера оптимальный базис в С(0,1). //Матем. Заметки. М„ 1992, т.52, №5, С. 88-92.

37. Новиков И.Я., Стечкин С.Б. Основные конструкции всплесков. // Фундаментальная и прикладная математика, 1997, т.З, №4, с. 999-1028.

38. Витязев В.В. Вейвлет-анализ временных рядов: Учеб. пособие. СПб.: Изд-во С.-Пегерб. ун-та, 2001. 58 с.

39. Ковалев Э.И., Кучерявенко С.В., Федосов В.П. Вейвлет-анализ для обработки радиотехнических сигналов. Учебное пособие. Таганрог: ТРТУ, 2004. 60 с.

40. Переберин А.В. О систематизации вейвлет-iпреобразований // Вычислительные методы и программирование. 2001. Т. 2. С. 15-40.

41. Столниц Э., ДеРоуз Т., Салезин Д. Вейвлеты в компьютерной графике: Пер. с англ. Ижевск: НИЦ "Регулярная и хаотическая динамика". 2002. 272 с.

42. Antonini М., Barlaud М., Mathieu P., and Daubechies I. Image coding using the wavelet transform. // IEEE Trans, on Image Processing, 1992. V.l P. 205-220.

43. Beylkin G., Coifman R., Rokhlin. Fast wavelet transforms and numerical algorithms. // Comm. Pure Appl. Math., 1991. V. 44 P. 141-183.

44. Wickerhauser M.V. Acoustic signal compression with wavelet packets. // In Charles K. Chui, editor, Wavelets A Tutorial in Theory and Applications, Academic Press, Boston, 1992. P. 679-700.

45. Herly C., Vetterli M. Wavelets and recursive filter banks. // IEEE Transactions on signal processing, 1993. V. 41. No. 8. P. 2536-2556.

46. Gopinath R. A., Burrus C.S. Wavelets and Filters Banks. // In С. K. Chui editor. Wavelets: A Tutorial in Theory and Applications. Acad. Press. 1992. P. 603-654.

47. Gopinath R. A., Odegard J.E., Burrus C.S. Optimal wavelet representation of signals and the wavelet sampling theorem. // CAS II, V41. 1994. P. 262-277.

48. Вайдьянатхан П.П. Цифровые фильтры, блоки фильтров и полифазные цепи с многочастотной дискретизацией: Методический обзор. // ТИИЭР, 1990. Т.78. №3. С. 77-120.

49. Vaidyanathan P.P. Theory and design of M-channel maximally decimated quadrature mirror filters with arbitrary M, having perfect reconstruction property. // IEEE Trans, on Acoustics, Speech and Signal Processing, 1987. V. ASSP-35. No. 4. P. 476-492.

50. Крот A.M., Кудрявцев В.О. Теория анализа и синтеза бэнк фильтров и их применение. // Зарубежная радиоэлектроника, Успехи современной радиоэлектроники, 1999. №2. С. 3-17.

51. Vetterli М. Filter banks allowing perfect reconstruction. // Signal processing, 1986. V. 10 No. 3. P. 219-244.

52. Jawerth В., Lia Y., Sweldens W. Signal Compression with Smooth Local Trigonometric Bases // Opt. Eng., 1994. V. 33. №7. P. 2125-2135.

53. Ausher P., Weiss G., Wickerhauser M.V. Local sine and cosine Bases of Coifman and Meyer and the Construction of Smooth Wavelets. // Boston.: Wavelets A Tutorial in Theory and Application, C.K. Chui (ed.) Academic Press, 1992. P. 237-256.

54. Koilpillai R. D., Vaidyanathan P. P. Cosine modulated FIR filter banks satisfying perfect reconstruction // IEEE Trans. Signal Processing, 1992. April. Vol. 40, P. 770-783.

55. Malvar H.S., Staelin D.H. The LOT: Transform Coding without Blocking Effect // IEEE Transactions on Acoustics, Speech and Signal Processing, 1989. April. V. 37. P. 553-559.

56. Malvar H.S. Lapped Transforms for Efficient Transform/Subband Coding // IEEE Trans. Acoustics, Speech and Signal Processing, 1990. V. 38. P. 969-798.

57. Riccardo Bernardini and Martin Vetterli, Fellow, IEEE Discrete- and Continuous-Time Local Cosine Bases with Multiple Overlapping. // 3166 IEEE TRANSACTIONS ON SIGNAL PROCESSING. December 1998.V. 46, No. 12. P. 3166-3180.

58. Sweldens W. The lifting scheme: A custom-design construction of biorthogonal wavelets. // Appl. Comput. Harmon. Anal., 1996. V. 3. No. 2. P. 186-200.

59. Sweldens W. The lifting scheme: A construction of second generation wavelets. // SIAM J. Math. Anal., 1997. V. 29. No. 2. P. 511-546.

60. Daubechies 1., Sweldens W. Factoring wavelet transforms into lifting steps. // J. Fourier Anal. Appl., 1998. V. 4. No. 3. P. 1-27.

61. Cohen A., Daubechies I., Feauveau J. Biorthogonal bases of compactly supported wavelets. // Comm. Pure Appl. Math., 1992. V. 45. P. 485-560.

62. Vetterli M., Herley C. Wavelets and filter banks: theory and design. II IEEE Trans. Signal Process, 1992. V. 40. No. 9. P. 2207-2232.

63. Омельченко В.А. Основы спектральной теории распознавания сигналов. Харьков: Вища школа, 1983. 159 с.

64. Storm G. Noise reduction of speech signals with wavelets. Goteborg University, S-412 96. Goteborg, Sweden. 119 p.

65. Кириллов С.Н., Зорин С.В. Применение алгоритмов вейвлет-анализа для сжатия речевых сигналов в IP-телефонии. // Электросвязь. 2001. № 4. С 40-42.

66. Кириллов С.Н„ Зорин С.В. Применение вейвлет-анализа при кодировании речевых сигналов. 36-ая научно-техническая конференция. Тезисы научно-технических конференций. Рязань. РГРТА. 2000. С. 20.

67. Torrence Christopher, Compo Gilbert P. A Practical Guide to Wavelet Analyses // Bulletin of American Meteorological Society. 1998. V. 79.1. P. 61-78.

68. Кириллов С.Н., Бодров О.А., Поспелов А.В., Зорин С.В. Многокритериальный синтез сложных бинарных сигналов. // 3-я Международная конференция "Цифровая обработка сигналов и ее применение". М., 2000. Т.1. С. 14-16.

69. Кириллов С.Н., Зорин С.В. Синтез оптимальных вейвлетных функций класса Мейера с ограниченной эффективной длительностью. // Цифровая обработка сигналов. 2004. №3.

70. Эльсгольц Л.Э. Дифференциальные уравнения и вариационное исчисление. М.: Эдигориал УРСС, 2000. 320 с.

71. Beylkin G., Saito N. Wavelets, their autocorrelation functions, and multiresolution representation of signals // Proceeding ICASSP-92, 1992, V.4, P. 381-384.

72. Кириллов C.H., Зорин С.В. Синтез оптимальных порождающих фильтров для вейвлетных разложений. // 4-я Международная конференция "Цифровая обработка сигналов и ее применение". М., 2002. Т.1. С. 74-76.

73. Кириллов С.Н., Зорин С.В. Реализация алгоритмов вейвлет-анализа на основе рекурсивных фильтров. Радиотехника. 2002. № 3 С. 33-37.

74. Астафьева Н.М. Вейв лет-анализ: основы теории и примеры применения. //Успехи физических наук. 1998. Т. 166. №11. С. 1145-1170.

75. Дремин И.М., Иванов О.В., Нечитайло В.А. Вейвлеты и их использование. // Успехи физических наук. 2001. т. 171. №5. С. 465-501.

76. Новиков И.Я., Стечкин С.Б. Основы теории всплесков. //Успехи математических наук, 1998. т. 53, №6(324), С. 53-128.

77. Vaidyanathan P.P. Theory of Optimal Ortonormal Subband Coders // IEEE Trans. SP, 1998. V. 46, №6. P. 1528-1543.

78. Vaidyanathan P.P., and Akkarakaran S. A Review of the Theory and Applications of Optimal Subband and Transform Coders. // Applied and Computational Harmonic Analysis, 2000. No. 10. P. 254-289.

79. Кириллов C.H., Зорин С.В. Дисперсия ошибки восстановления случайных процессов в вейвлетных базисах. // Научная сессия МИФИ-2000. Сборник научных трудов в 13 томах, т. 2. -М.: МИФИ, 2000. С. 157.

80. Кириллов С.Н., Зорин С.В. Алгоритмы биортогонального вейвлет-анализа на основе рекурсивных фильтров. П Цифровая обработка сигналов, 2001. №3 с. 9-12.

81. Coifman R. R., Meyer Y., Wickerhauser M. V. Size property of wavelet packets. // Wavelets and their applications, Jones and Bartlett, 1992. P. 453-470.

82. Coifman R.R., Wickerhauser M.V. Entropy-based algorithms for best base selection. //IEEE Trans. Inform., 1992. V38. P. 713-718

83. Coifman R. R, Meyer Y., Wickerhauser M. V. Wavelet analysis and signal processing. // Wavelets and their Applications, eds. Jones and Bartlett, 1992. P. 453—470.

84. Кириллов C.H., Зорин С.В. Оптимальные по минимуму среднеквадратической ошибки вейвлетные представления случайных процессов. // Цифровая обработка сигналов, 2002. № 2. С. 32-35

85. Steffen P., Heller P.N., Gopinath R.A., Burrus C.S. Theory of M-band wavelet bases 11 IEEE Trans. Signal Processing. 1993. Dec. Vol. 41, P. 3497-3511.

86. Шустиков O.E., Косов O.M., Зорин C.B. Оптимизация базиса при использовании расширенной системы функций Виленкина-Крестенсона. // Научная сессия МИФИ-99. Сборник научных трудов в 13 томах, т. 7. -М.: МИФИ, 1999. С. 118-119.

87. Кириллов С.Н., Зорин С.В., Шустиков О.Е. Свойства модифицированного преобразования Хартли. // Вычислительные машины, комплексы и сети: Межвуз. сб. науч. тр. / Рязань: РГРТА, 1999. С. 102-107.

88. Зорин С.В. Комбинированное преобразование Фурье-Уолша. // Радиоэлектронные системы и устройства: Межвуз. сб. науч. тр. Рязань: РГРТА, 1999. С. 66-68.

89. Gopinath R. A., Burrus С. S. Theory of modulated filter banks and modulated wavelet tight frames. // In Proc. Int. Conf. Acoust., Speech, Signal Processing, Minneapolis, MN, 1993. P. 3169-3172.

90. Wesfreid E., Wickerhauser M.V. Adapted Local Trigonometric Transforms and Speech Processing. IEEE Transactions on Signal Processing, December, 1993. Vol. 41. No. 12. P. 3596-3600.

91. Nguyen T. G., Koilpillai R.D. Theory and Design of Arbitrary Length Cosine-Modulated Filter Banks and Wavelets, Satisfying Perfect Reconstruction. IEEE Transaction on signal processing, March 1996. Vol 44. No. 3. P. 473-483.

92. Gopinath R. A., Burrus C. S. Factorization approach to unitary time-varying filter bank trees and wavelets // IEEE Trans. Signal Processing. 1995. Mar. Vol. 43, P. 666-680.

93. Зайцев А.А. Методы построения банков цифровых фильтров: тематический обзор // Цифровая обработка сигналов, №1, 2003. С. 2-10.

94. Coifinan R. R., Meyer Y. Remarques sur l'anaiyse de Fourier a fenetre, serie I, Comptes Rendus de Г Academie des Sciences. Paris 312 (1991), 259-261.

95. Кириллов C.H., Зорин C.B. Оптимальные по критерию минимума среднеквадратической ошибки восстановления сигнала локальные базисы с перерывающейся областью определения. //Радиотехника. 2004. №6. С. 17-22.

96. Банди Б. Методы оптимизации. Вводный курс. М.: Радио и связь, 1988. - 128 с.

97. Jawerth В., Sweldens W. Biorthogonal smooth local trigonometric bases. // J. Fourier Anal. Appl. 1995. N 2. P. 109-133.

98. Кириллов C.H., Зорин C.B. Вейвлетно-пакетное представление предварительно обработанных сигналов. // Вестник Рязанской государственной радиотехнической академии. Выпуск 11, 2003. С. 3-6.

99. Кириллов С.Н., Зорин С.В. Повышение эффективности вейвлетно-пакетного представления за счет предварительной обработки речевых сигналов. // 5-ая Международная конференция "Цифровая обработка сигналов и ее применение". Москва. 2003. Т. 2. С. 362-363

100. Гантмахер Ф.Р. Теория матриц. М.: Наука. 1966. -576 с.

101. Кириллов С.Н., Зорин С.В. Вейвлет-анализ случайных процессов в радиотехнических устройствах: Учеб. пособие. Рязан. Гос. Радиотехн. Акад. Рязань, 2002. 80 с.

102. Donoho D.L. Ideal spatial adaptation via wavelet shrinkage // Biometrika. 1994. V.81. P. 425-455.

103. Donoho D.L. De-noising by soft-thresholding // IEEE Trans, on Information Theory. 1995, V. 43. N.3. P. 613-627.

104. Осовский С. Нейронные сети для обработки информации. М.: Финансы и статистика. 2002. 344с

105. Каллан Р. Основные концепции нейронных сетей. М: Издательский дом «Вильяме». 2001. 287с

106. Назаров А.В., Лоскутов А.И. Нейросеггевые алгоритмы прогнозирования и оптимизации систем. СПб. Наука и техника. 2003. 384с

107. Круглое В.В., Борисов В.В. Искусственные нейронные сети. Теория и практика. М. : Горячая линия Телеком. 2001. 382с

108. Комашинский В.И., Смирнов Д.А. Нейронные сети и их применение в системах управления и связи. М.: Горячая линия Телеком. 2002. 94с

109. Уоссерман Ф. Нейрокомпьютерная техника: теория и практика. http://www.acdwp/narod.ru

110. Goswami J.C., Chan A.K. Fundamentals of Wavelets: Theory, Algorithms, and Applications. New-York: John Wiley & Sons, 1999. - 306 p.

111. Gopinath R. A., Burrus C.S. A Tutorial Overview of Filter Banks, Wavelets and Interrelations // IEEE International Symposium on Circuits and Systems, ISCAS 1993, Chicago, Illinois, USA, May 3-6, V. 1, P 104-107

112. Дмитриев B.T., Зорин C.B., Виноградов O.JI. Методы повышения качества речи в системах связи. Микроэлектроника 2000. 7-ая всероссийская межвузовская научно-техническая конференция студентов и аспирантов. Тезисы докладов. М.: МИЭТ. 2000. С. 187.

113. Зорин С.В. Эффективные алгоритмы представления речевых сигналов в вейвлетных базисах бесконечной длительности. // Методы и устройства формирования и обработки сигналов в информационных системах: Межвуз. сб. науч. тр. Рязань: РГРТА, 2004. С. 23-27.

114. Рабинер Л.Р., Шафер Р.В. Цифровая обработка речевых сигналов. -М.: Радио и связь, 1981,- 495с.125. де Бор К. Практическое руководство по сплайнам. М.: Радио и связь, 1985 -303с.

115. Lu J. Signal Recovery and Noise Reduction with Wavelets: A Theses for the degree of Doctor of Philosophy/ Thayer School of Engineering Dartmouth College. Hanover, 1993. - 146 p.

116. Чесноков Ю.В., Чижиков В.И., Резинькова С.А. Вейвлет-преобразование для удаления шума, сжатия и анализа электрокардиограмм. // Цифровая обработка сигналов. №1. 2004. С. 35—40.

117. Nguyen T.Q. A Tutorial on Filter Banks and Wavelets // International Conference on Digital Signal Processing, Cypress, Junes 95.

118. Jawerth В., Sweldens W. An Overview of Wavelet Based Multiresolution Analysis // SLAM Rev. 1994, V.36, N.3, P 377-412

119. Кириллов C.H., Зорин С.В. Синтез оптимальной действительной и комплексной вейвлет-функций. Вестник Рязанской государственной радиотехнической академии. Выпуск 6, 1999, Научно-технический журнал. С. 19-21.

120. Зорин С.В. Повышение эффективности вейвлетно-пакетной обработки на основе перекрытия интервалов анализа. // Методы и устройства обработки сигналов в радиотехнических системах: Межвуз. сб. науч. тр. Выпуск 2. Рязань: РГРТА, 2003. С. 119-121.

121. Витязев В. В. Микропроцессоры в системах управления. Цифровые процессоры обработки сигналов: Учебное пособие. РГРТА, Рязань. 1996. -72с.

122. Корнеев В.В., Киселев А.В. Современные микропроцессоры. М.: Нолидж, 1998. -240с.

123. Прохоренко А. ПЛИС как DSP // Chip News. 1998. №1. С. 19-21.

124. Симэн Г. Вейвлеты на программируемом кремнии // Компьютерра. 1998. №9. С. 3-15

125. Cesar I. Wavelet Transforms in theTMS320C55x // Texas Instrumens Application Report SPRA800 January 2002. 28 p.

126. Методы выбора микропроцессора для использования в микропроцессорных системах / Аксенов А.И., Пуртов С.Т., Терехин В.И. идр. // Обзоры по электронной технике. М.: Издательство ЦНИИ "Электроника", 1985. Серия 3. Микроэлектроника. Вып.2(1102). 30 с.

127. Analog Devices: новые разработки DSP. // Цифровая обработка сигналов, 2001. №3. С.49-56.

128. Методические указания по оценке технического уровня и качества промышленной продукции: РД 50-149-79. Введ. 14.05.80. М.: 1979. 75 с.

129. Руководство пользователя по сигнальным микропроцессорам семейства ADSP-2100 / Пер. с англ. Луневой О.В.; под ред. Викторова А.Д. СПб.ГЭТУ, С.-Петербург, 1997. -520с.

130. Смирнов Н.В., И.В. Дунин-Барковский. Курс теории вероятностей и математической статистики для технических приложений. М.: Наука, 1965.-512 с.