автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Разработка методов математического моделирования нелинейных компенсаторов и фильтров импульсного шума на основе многомерных полиномов и нейронных сетей

кандидата технических наук
Зубарев, Александр Владимирович
город
Санкт-Петербург
год
2015
специальность ВАК РФ
05.13.18
Автореферат по информатике, вычислительной технике и управлению на тему «Разработка методов математического моделирования нелинейных компенсаторов и фильтров импульсного шума на основе многомерных полиномов и нейронных сетей»

Автореферат диссертации по теме "Разработка методов математического моделирования нелинейных компенсаторов и фильтров импульсного шума на основе многомерных полиномов и нейронных сетей"

На правах рукописи

Зубарев Александр Владимирович

РАЗРАБОТКА МЕТОДОВ МАТЕМАТИЧЕСКОГО МОДЕЛИРОВАНИЯ НЕЛИНЕЙНЫХ КОМПЕНСАТОРОВ И ФИЛЬТРОВ ИМПУЛЬСНОГО ШУМА НА ОСНОВЕ МНОГОМЕРНЫХ ПОЛИНОМОВ И НЕЙРОННЫХ

СЕТЕЙ

Специальность: 05.13.18 -Математическое моделирование, численные методы и

комплексы программ

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

1 'I ноя 2015

Санкт-Петербург - 2015

005564511

005564511

Работа выполнена на кафедре теоретических основ электротехники Санкт-Петербургского государственного электротехнического университета «ЛЭТИ» имени В.И. Ульянова (Ленина).

Научный руководитель: Доктор технических наук, профессор

Соловьева Елена Борисовна

Официальные оппоненты: Доктор технических наук, профессор

Коровкин Николай Владимирович, заведующий кафедрой теоретической электротехники и электромеханики Санкт-Петербургского государственного политехнического университета

Доктор технических наук, доцент Бузыканов Сергей Николаевич, ведущий инженер ООО «Техкомпании Хуавэй», г. Москва

Ведущая организация: Федеральное государственное бюджетное

образовательное учреждение высшего профессионального образования "Санкт-Петербургский государственный университет телекоммуникаций им.проф.М.А.Бонч-Бруевича"

Защита состоится «16» декабря 2015 г. в 17:00 на заседании диссертационного совета Д212.238.01 Санкт-Петербургского государственного электротехнического университета «ЛЭТН» им. В.И. Ульянова (Ленина) по адресу: 197376, Санкт-Петербург, ул. Проф. Попова, 5

С диссертацией можно ознакомиться в библиотеке Санкт-Петербургского государственного электротехнического университета «ЛЭТИ» им. В.И. Ульянова (Ленина) и на сайте: www.eltech.ru

Автореферат разослан «15» октября 2015 г.

Учёный секретарь

диссертационного совета Д212.238.01, к.т.н.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность. Проблема математического моделирования систем и объектов с заданными свойствами является одной из ключевых в современной науке. Наряду с попытками создания общей методологии и концепций, развиваются и относительно частные направления методов моделирования.

Для построения средств и систем связи важнейшими являются методы математического моделирования динамических объектов. Они образуют фундаментальные инженерные методы расчёта и проектирования разнообразных функциональных узлов и комплексов в целом. Известно, что для систем связи, включающих в себя не только узлы передающих и принимающих устройств, но и протяжённые каналы связи (КС) с распределёнными и нелинейными параметрами, существенны проблемы нелинейных искажений сигналов и влияния импульсных помех.

Главным источником нелинейных искажений в системах связи является усилитель мощности (УМ). При работе системы с максимальной мощностью, что эквивалентно высокому коэффициенту полезного действия, выходное напряжение усилителя, формируясь в зоне насыщения статической характеристики, искажается. Нелинейные искажения порождают нежелательные эффекты, например высшие и интермодуляционные составляющие в выходных сигналах устройств, и являются причиной ухудшения ряда показателей качества систем в целом.

Эффективными методами подавления нелинейных искажений являются методы компенсации. С помощью нелинейной компенсации можно существенно повысить качество обработки сигналов в технических устройствах при заданном уровне развития технологий производства данных устройств.

Помимо нелинейных искажений в каналах связи присутствуют внешние помехи, которые можно разделить на два класса: гауссовский шум и негауссовкие помехи, например импульсный шум. Борьба с негауссовскими помехами возможна методами нелинейной фильтрации.

Задачи нелинейной компенсации и фильтрации часто формулируются в постановке, предполагающей построение математических моделей, описывающих зависимость между множествами входных и выходных сигналов нелинейных компенсаторов и фильтров. Данные модели имеют форму многомерных полиномов и нейронных сетей. Параметры моделей находятся в результате решения задач аппроксимации операторов нелинейных устройств по соотношению вход/выход с некоторой заданной погрешностью.

На современном этапе развития техники требуется создание прецизионных устройств с высокоточной обработкой сигналов, поэтому актуальна задача разработки методов математического моделирования нелинейных компенсаторов и фильтров, обеспечивающих высокую точность восстановления сигналов. Для получения высокой точности необходимо использовать сложные модели, построение которых при решении

задач аппроксимации сопряжено с проблемой плохой обусловленности, шумами арифметики, трудностями синтеза многослойных нейронных сетей.

Для решения проблем нелинейной компенсации и фильтрации в диссертационной работе разрабатываются методы и алгоритмы математического моделирования компенсаторов и фильтров по соотношению вход/выход.

Цель работы и задачи исследования. Целью диссертационной работы является разработка методов компенсации нелинейных искажений сигналов и фильтрации импульсных помех в цифровых системах на основе теории расщепления сигналов и нейронных сетей для получения высокой точности восстановления сигналов.

Для достижения поставленной цели в диссертационной работе решены следующие задачи:

1. Выполнен анализ нелинейных искажений сигналов в цифровых каналах связи; построена математическая модель нелинейного компенсатора в виде полинома расщепленных сигналов, адаптированного к классам QAM- и PSK-сигналам, для компенсации нелинейных искажений в КС, описанном отрезком ряда Вольтерры.

2. Разработан метод фильтрации на основе теории расщепления в спектральной области для подавления импульсного шума, искажающего речевые сигналы.

3. Разработан метод компенсации нелинейных искажений сигналов в цифровых каналах связи на основе нейронных сетей Винера и Гаммерштейна.

4. Создан комплекс программ компенсации нелинейных искажений комплексных QAM- и PSK-сигналов в цифровых каналах связи с применением многочлена расщепленных сигналов и нейронных сетей Винера-Гаммерштейна в качестве моделей компенсаторов.

Объектом исследования являются компенсаторы нелинейных искажений сигналов в цифровых каналах связи и нелинейные фильтры импульсного шума.

Предметом исследования являются методы построения математических моделей нелинейных цифровых устройств по соотношению вход/выход.

Методы исследования. При выполнении работы использованы методы моделирования, идентификации и синтеза нелинейных систем на основе функциональных рядов, полиномов и нейронных сетей, а также методы цифровой обработки сигналов.

Основные положения, выносимые на защиту.

1. Многомерная полиномиальная модель нелинейного компенсатора с расщепителем в виде линии задержки с длиной памяти не меньшей, чем память модели Вольтерры канала связи для классов QAM- и PSK-сигналов.

2. Метод построения моделей нелинейных фильтров для подавления импульсного шума в речевых сигналах, основанный на теории расщепления в спектральной области и учитывающий принцип некаузальности, эффект наложения спектров, разбиение общей

задачи аппроксимации оператора нелинейного фильтра на несколько подзадач существенно меньших размерностей.

3. Метод построения моделей компенсаторов нелинейных искажений сигналов в цифровых каналах связи с применением нейронных моделей Винера и Гаммерштейна, содержащих персептронные нейронные сети в качестве безынерционных нелинейностей, обучение которых выполняется алгоритмом обратного распространения ошибки, реализованном на комплексных QAM- и PSK-сигналах.

4. Комплекс программ, предназначенный для моделирования нелинейных компенсаторов на основе многочленов расщепленных сигналов и нейронных сетей со структурой Винера-Гаммерштейна.

Научная новизна.

1. Математическая модель компенсатора в виде нелинейного нерекурсивного разностного уравнения, порядок которого не может быть меньше длины памяти модели Вольтерры цифрового канала связи на классах QAM- и PSK-сигналов. Данная модель адаптирована к указанным классам сигналов, поэтому является более простой по сравнению с универсальными формами многочленов расщепленных сигналов и полиномом Вольтерры.

2. Метод построения в частотной области моделей фильтров для подавления импульсного шума в речевых сигналах, снимающий проблему плохой обусловленности при решении задач аппроксимации и обеспечивающий точность фильтрации, недостижимую методами-аналогами.

3. Метод построения моделей нелинейных компенсаторов в виде нейронных структур Винера и Гаммерштейна, реализующий алгоритм обратного распространения ошибки для обработки комплексных QAM- и PSK-сигналов, обеспечивающий получение высокоточных и более простых моделей компенсаторов по сравнению с моделями-аналогами.

Обоснованность и достоверность полученных научных результатов подтверждается строгостью доказательств утверждений и наложенных ограничений, обоснованностью применения математического аппарата, результатами экспериментальных исследований на программных моделях.

Практическая ценность работы заключается в том, что полученные результаты позволяют:

1. Обеспечить более высокую точность фильтрации импульсного шума в речевых сигналах на основе метода расщепления в спектральной области.

2. Формировать высокоточные и более простые модели нелинейных компенсаторов в виде многочленов расщепленных сигналов и нейронных сетей Винера-Гаммерштейна для подавления нелинейных искажений сигналов в цифровых каналах связи на классах QAM- и PSK-сигналов.

3. Использовать созданный комплекс программ для борьбы с нелинейными искажениями сигналов в цифровых каналах связи, реализующий методы компенсации

нелинейных искажений комплексных QAM- и PSK-сигналов с применением многочленов расщепленных сигналов и нейронных сетей Винера и Гаммерштейна.

Реализация и внедрение результатов исследований.

Разработанный метод компенсации нелинейных искажений сигналов, основанный на теории расщепления, использован для системы радиорелейной связи на объекте «Комсомольское линейно-производственное управление магистральных трубопроводов» (Ханты-Мансийский автономный округ, г. Югорск).

Метод компенсации с применение нейронной модели Гаммерштейна использован при выполнении НИР с ОАО "НЛП Радиосвязь" (г. Красноярск).

Результаты диссертационной работы использованы при выполнении базовой части государственного задания образовательным организациям высшего образования, подведомственным Минобрнауки России в сфере научной деятельности, ГЗБ/САУ-104 (2014-2016 гг.).

Апробация работы. Основные положения диссертации докладывались и обсуждались:

-на научно-технических конференциях СПбНТОРЭС им. A.C. Попова, Санкт-Петербург, 2012,2013;

- на НТК профессорско-преподавательского состава Санкт-Петербургского государственного электротехнического университета им. В.И. Ульянова (Ленина), Санкт-Петербург, 2012-2014.

Публикации. Материалы диссертации опубликованы в 11 работах: из них 3 статьи в изданиях, входящих в перечень ВАК, 2 статьи в международных сборниках научных трудов, 4 доклада на научно-технических конференциях, 2 зарегистрированных программных средства.

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, заключения, списка литературы, включающего 109 наименований, и 2-х приложений. Основная часть работы изложена на 122 страницах машинописного текста. Работа содержит 39 рисунков и 12 таблиц.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность диссертационной работы, формулированы цель и задачи исследования, показаны научная новизна и практическая значимость полученных результатов.

В первой главе обоснована необходимость разработки методов построения математических моделей, с высокой точностью описывающих зависимости вход/выход нелинейных компенсаторов и фильтров. В главе сформулированы задачи нелинейной компенсации и фильтрации, рассмотрены полиномиальные и нейронные модели нелинейных устройств: функциональный ряд и полином Вольтерры, многочлены расщепленных сигналов, разные формы нейронных сетей. На основе сравнительного анализа представленных математических моделей выбраны формы моделей,

обладающие рядом достоинств, которые используются в диссертационной работе для синтеза прецизионных нелинейных компенсаторов и фильтров.

К выбранным формам математических моделей относятся: многомерный полином расщепленных сигналов и многослойная нейронная сеть прямого распространения. Многочлен расщепленных сигналов обладает следующими важными достоинствами: адаптация формы модели к заданному классу входных сигналов, нахождение глобально-оптимальных параметров при построении модели. Важными достоинствами многослойной персептронной сети являются: возможность построения нейронной модели более простой по сравнению с полиномиальной моделью; отсутствие проблемы плохой обусловленности при нахождении параметров нейронной модели в силу параллельной обработки сигналов всеми звеньями сети.

Задачи построения моделей нелинейных компенсаторов и фильтров сформулированы на основе подхода, когда с заданной точностью требуется построить математическую модель устройства, описывающую зависимость между множествами входных и выходных сигналов.

Во второй главе в результате анализа нелинейных искажений сигналов в цифровом канале связи, описанном отрезком ряда Вольтерры, предложена математическая модель установленного на выходе канала связи нелинейного компенсатора в виде многочлена расщепленных сигналов, адаптированного к классам QAM- и PSK-сигналам.

Модель компенсатора построена на основе теории расщепления сигналов, согласно которой структура устройства содержит два каскадно-соединенных блока: расщепитель и нелинейный безынерционный преобразователь.

Расщепитель преобразует скалярный сигнал у(п), поступающий из канала связи, в векторный сигнал

где Т - знак транспонирования, п - нормированное дискретное время, таким образом, чтобы векторные сигналы не пересекались, не касались и не обращались в ноль на множестве их определения. В главе показано, что расщепитель реализуется в виде линии задержки с длиной памяти не меньшей, чем память модели канала связи, представленной в виде отрезка ряда Вольтерры. Выбор минимально возможного количества каналов расщепления позволяет снизить размерность полиномиальной модели компенсатора.

В нелинейном безынерционном преобразователе векторный сигнал ур(п)

отображается в выходной скалярный сигнал х(п) компенсатора согласно следующему выражению

Р h h h h+\ hk-\

*(«)=£ E I-I X ■■• Z c2k-l('l> '2> ■■■> 'k' 'k+\.....'24-1)

k=l /[ =0 ¡2 =0 ik=0iM=0 i2k-l=0

x

>У ("-'1) .v (»-■h )••• .f (»-■h )y*{"~'k+1 )•••/("-hk-i).

(1)

где * - знак комплексного сопряжения, С2к~\{'\> '2> ■■•> <Ь <£+Ь •■■> Пк-\) - параметры полиномиальной модели НК, Р - степень модели.

Параметры модели (1) НК вычисляются в среднеквадратичной метрике в результате решения задачи аппроксимации

||.х(п)-л!(л)||->тт,

с

где х(п) ~ входной сигнал модели Вольтерры канала связи, х(п) - выходной сигнал модели (1) нелинейного компенсатора.

На основе модели (1) синтезирован компенсатор для борьбы с нелинейными искажениями в цифровом спутниковом канале связи, описанном отрезком ряда Вольтерры пятой степени при 16РБК- и 64С>АМ-входных сигналах. Для оценки качества компенсации вычислены погрешности:

- максимальная абсолютная 5т = тах |х(п)-х(п)|,

1 Г® 2

-среднеквадратичная е =-— I ^ |х(л)-х(л)| при 2„ =7, 2 = 5000.

в~в"\п=дп

Погрешности, а также число параметров (С) модели (1) НК указаны в табл. 1,2 соответственно при 16Р5К- и 64(2АМ-входных сигналах канала связи.

Таблица 1

Погрешности 5т и е, число параметров б модели НК при 16Р8К-воздействии в КС

Погрешность, число параметров Линейная модель Нелинейная модель

3-й степени 5-й степени

8т х Ю-2 15,47 6,43 3,62

е х Ю-5 120,14 34,73 12,21

в 4 44 244

Таблица 2

Погрешности дт и е, число параметров О модели НК при 64(2АМ-воздействии в КС

Погрешность, число параметров Линейная модель Нелинейная модель

3-й степени 5-й степени

^хЮ"2 9,97 3,37 1,35

е х Ю-5 35,75 10,37 5,01

в 4 44 244

Из табл. 1 и 2 видно, что с увеличением степени модели НК погрешность компенсации уменьшается. В диссертационной работе показано, что указанное свойство

сохраняется при действии в КС гауссовского шума, отношение сигнал/шум менялось в диапазоне [ю, 60] дБ.

В третьей главе представлен разработанный на основе теории расщепления сигналов в частотной области метод математического моделирования цифрового фильтра импульсных помех на классе речевых сигналов. Моделирование нелинейного фильтра в частотной области практически снимает проблему плохой обусловленности при решении задачи аппроксимации оператора фильтра, так как общая задача аппроксимации, поставленная во временной области, разбивается в частотной области на несколько аппроксимационных задач существенно меньших размерностей.

Функциональная схема частотного нелинейного нерекурсивного цифрового фильтра (ЧННЦФ), синтезированного в частотной области, изображена на рис. 1. Здесь ДПФ(Ы) - блок ДПФ фрагментов входного сигнала длиной 14; блоки Р0, Рх, ..., Рм_ Рм - нелинейные безынерционные преобразователи, вычисляющие отдельные спектральные составляющие выходного сигнала; БКС — блок комплексного сопряжения; ОДПФ(М) - блок обратного преобразования Фурье. Согласно схеме, изображенной на рис. 1, воздействие х(п) - смесь сигнала с импульсным шумом, разбивается на фрагменты, которые обрабатываются ДПФ. Выбор длины (числа отсчетов) фрагментов связан с их расщеплением на множестве сигналов. Если фрагменты различны (расщеплены), то их векторы-спектры также различны и, следовательно, расщеплены, т.е.

Хр = [Х(-(М -1)), Х(-(М - 2)),..., Х(М)], где Хр - вектор спектральных составляющих расщепленного входного сигнала х(п), М = N / 2, N — длина фрагментов входного сигнала.

Рис. 1

На базе элементов вектора Хр формируются многомерные полиномы, описывающие спектральные составляющих выходного сигнала фильтра:

р М М М I

г(*)=1 X X - £ 2,„,

/=1 ,,=-(М-1) ¿2=1! //=//_, <г=1

11+12+...+//=*

[<72] М М М (кх I

/1=-(ЛГ-1) 12=4 //=//-1 Г=1

II +¿2 +...+// =уМ-к

Ш-Ш] м м м е

I £ I I ..... п^('г)

7=1 /1=-(М-1) ¡2 =11 '/=//-1 г=1

(2)

¡1 +¡2 +...+// =уЫ+к

где [5] - наименьшее целое, такое, что [5] < л, 5Х ) - цифровой единичный скачок, ке[0, М]; коэффициенты в{к\ = , 9е[0, т-\], <%) - цифровой

Ь 2..... ' I ¿И'а-К*'-1)))

а=\

единичный импульс. Нижний индекс коэффициента С^ формируется последовательностью целых чисел при сложении единичных функций вида а + (М-1))). Такая последовательность состоит из т отсчетов. Отсчет равен 1 в

точке д-(г'а+(М-1)) = 0. В остальных т-1 точках отсчеты равны 0. В модели (2) учитывают следующие свойства:

- свойство нелинейного преобразования, согласно которому спектральная составляющая У(к) на частоте к выходного сигнала формируется на базе слагаемых, содержащих к -ю спектральную составляющую воздействия и произведения спектральных составляющих входного сигнала на частотах, удовлетворяющих условию к = 11 +¡2 + — +'/;

- свойство симметрии У(-к) = У*(к), 0<к<(М-\), где * - знак комплексного сопряжения;

- эффект наложения в спектрах степенных составляющих выходного сигнала фильтра из-за периодичности ДПФ.

Параметры модели (2) находятся при решении задачи аппроксимации в среднеквадратичной метрике. Таким образом, из расщепленных векторов-спектров входного сигнала фильтра конструируются векторы-спектры желаемого выходного сигнала. С помощью ОДПФ формируется временная последовательность желаемого выходного сигнала фильтра (сигнала, очищенного от импульсного шума).

Синтез ЧННЦФ и его исследование выполнены на классе речевых сигналов, искаженных импульсным шумом. Речевой сигнал, использованный для обучения

ЧННЦФ имел длительность 35 секунд (280 ООО отсчетов) и частоту дискретизации 8 кГц. Он состоял из разных фраз четырех дикторов (двух мужчин и двух женщин). Фразы отличались уровнями громкости, задаваемыми как 1, 0.75, 0.5, 0.25 (пропорционально указанным значениям нормировались мгновенные значения каждой дикторской речи, причем уровню 1 соответствовал диапазон речевого сигнала [-0.5; 0.5]).

Для исследования свойств синтезированного фильтра применен речевой сигнал длительностью 20 секунд (160 000 отсчетов), отличающийся от обучаемого и содержащий разные фразы мужской и женской дикторской речи с уровнями 0.8 и 0.4 соответственно.

Значения импульсной помехи формировались как случайные числа, распределенные равномерно в диапазоне [-0.5; 0.5]. Моменты появления помехи выбирались согласно следующему правилу. В случае если в момент времени п генератор случайных чисел с равномерным законом распределения в диапазоне [0; 1] дает число меньшее заданного порога а (в исследованиях a = 0.01), то в этот момент времени действует импульсная помеха, в противном случае она отсутствует. Таким образом, вероятность появления помехи в текущий момент времени п равна а; вероятность ее отсутствия - (1 -а); вероятность того, что импульсная помеха появится

через 77 временных отсчетов, равна a(l-ar)''-1 (геометрическая функция распределения для переменной tj). Действовало также дополнительное ограничение: расстояние между соседними помехами - не менее 5 отсчетов речевого сигнала.

В результате синтеза ЧННЦФ импульсных помех в речевых сигналах установлено:

- для удобства ДПФ следует выбирать 6 (четное число) каналов расщепления;

- следует использовать многомерные полиномы нечетной степени, так как четные слагаемые многочлена не влияют на среднеквадратичную погрешность фильтрации;

-наименьшую среднеквадратичную погрешность дает некаузальный частотный фильтр при обработке ДПФ вектора расщепленных сигналов с приблизительно равным числом предыдущих и последующих отсчетов относительно текущего момента времени

п;

- для повышения точности фильтрации следует учитывать эффект наложения в спектрах степенных составляющих выходного сигнала ЧННЦФ;

- блочный (фрагментарный) способ формирования выходного сигнала частотного фильтра уступает по точности обработки последовательному способу вычисления реакции фильтра. Последовательный способ предполагает, что из N отсчетов, полученных ОДПФ (см. рис. 1), в выходном сигнале фильтра остается лишь один отсчет, соответствующий моменту времени п, при этом фрагменты воздействия формируются путем смещения окна вдоль входного сигнала с шагом в один отсчет.

Зависимости среднеквадратичной погрешности фильтрации е(р) от степени полиномиальных моделей фильтра показаны на рис. 2. Кривая 1 получена медианным

фильтром с апертурой длиной 3 отсчета, кривая 2 - фильтром Вольтерры, кривая 3 -ЧННЦФ.

Наглядное представление результатов фильтрации даёт рис. 3, а, б. На рис. 3, а изображены огибающие фрагментов речевого сигнала с импульсными помехами. На рис. 3, б показаны неискаженный сигнал (кривая 1) и результаты его обработки МФ длиной 3 (кривая 2), фильтром Вольтерры 5-й степени (кривая 3) и ЧННЦФ 5-й степени с УНС (кривая 4).

*{р)

0.3

3 5 7

Рис. 2

104825 104830 104835 104840 104845 104850 104855 104860« 104825 104830 104835 104840 104845 104850 104855 104860 «

Рис. 3

Из рис. 2, 3 видно, что ЧННЦФ обеспечивает более высокую точность фильтрации по сравнению с его аналогами.

В четвёртой главе рассмотрен метод моделирования нелинейного компенсатора с нейронной структурой Гаммерштейна, включающей безынерционную нелинейность в виде двухслойного персептрона и линейную динамическую часть в виде рекурсивной дискретной цепи. Параллельность обработки сигналов в нейронных сетях позволяет избежать появления проблемы плохой обусловленности, свойственной полиномиальным моделям при решении аппроксимационных задач.

Нейронная структура Гаммерштейна нелинейного компенсатора изображена на рис. 4.

Рис. 4

Нейронная модель Гаммерштейна (НМГ) имеет вид

Rb R" Sin) = S (vb)^ net(2) {n-rh)+ Y. (va\ x{n -ra), ^=0 Ъ = 1

где net(2)(n)= £ ctnet^(n); I - число нейронов в первом слое; net^(n) = l;

¡t=0

net^(n) = G(u[I)(n)); uf](n) = I wkiy¡(.n) i k = \,2,...,I\ max{Ra,Rb} - длина памяти модели.

Вектор воздействий у(п) для НМГ сформирован с помощью линии задержки:

у(п) = [уо(")> Л (»). У2(»), •■•> Ли(")] = [1. у{п), А" ~ 1), У(" ~ 0» ~ !))]• (3)

Нелинейный компенсатор применен для подавления нелинейных искажений в модели цифрового канала связи со структурой Винера, содержащей каскадное соединение двух блоков:

- линейную динамическую цепь с передаточной функцией

Я (г) = (1,0119 - 0,7589j) + (-0,3796 + 0,5059у) • z"1;

- безынерционную нелинейность

у(п) = d\9(n)+d2S2 (л) + <1г9ъ (л),

где 9(п), у(п) - выходные сигналы линейного блока и модели Винера КС соответственно; <1Х =1; =0,2 ; </3 =0,1.

Исследования выполнены на классах 8Р5К- и 4(ЗАМ-сигналов. Поскольку данные сигналы являются комплексными, для НМГ компенсатора реализован алгоритм обратного распространения ошибки, работающий с комплексными сигналами при обучении нейронных сетей.

Качество компенсации оценено с помощью максимальной абсолютной 8т(1) и среднеквадратичной с(1) погрешностей, где I - число нейронов в нейронных моделях или степень полиномиальных моделей компенсаторов [3].

Результаты компенсации при 8Р8К-воздействии КС показаны на рис. 5, а, б. Зависимости 8т (/) и е(1) получены разными моделями компенсаторов: кривая 1 -двухслойным персептроном (ДП), кривая 2 - многомерным полиномом (МП), кривая 3 - нейронной сетью Элмана (НСЭ), кривая 4 - НМГ. При 4(ЗАМ-воздействии КС аналогичные кривые представлены на рис. 6, а, б.

8„х10" 35 30

£ X 10

51 ь \

\ ...;........

'V-

— —•

\

3 4 а

[ 5,0 V \ :'

"Л"'"....... \ ;

у ........

^ \ /

7 I

7 /

Рис.7

5„х10-2 44 V

25 Ц 20

V/.

N

--V к

\

3 :

К-

\

3 4 а

11

Рис. 6

£ X 10

3,5 3 2,5 2 1,5 1

0,5 0

4,8 V

\ ^

К

7 I

В табл. 3 представлено число параметров в построенных моделях компенсаторов, т - длина памяти в линии задержки, формируемой входной векторный сигнал компенсаторов согласно (3).

Таблица 3

Число параметров в моделях компенсаторов

дп с 1 = 5, т = 5 МП с 1 = 3, т = 10 НСЭ с 1 = 5, т = 1 НМГ с 1 = 3, Ra=Rb= 1, т = 1

36 286 66 16

Из анализа рис. 5, 6 и табл. 3 следует, что НМГ дает наименьшие погрешности компенсации в равномерной и среднеквадратичной метриках, НМГ является более простой по сравнению с моделями-аналогами.

В четвертой главе представлены результаты исследования компенсатора при действии в канале связи гауссовского шума, оценены вероятность битовой ошибки и среднеквадратичная погрешность компенсации [3].

ЗАКЛЮЧЕНИЕ

В диссертационной работе, направленной на развитие методов и алгоритмов математического моделирования нелинейных компенсаторов и фильтров по соотношению вход/выход, получены следующие результаты:

1. Предложена математическая модель НК в виде полинома расщепленных сигналов, адаптированная к классам QAM- и PSK-сигналов, для борьбы с нелинейными искажениями в цифровом КС, описанном отрезком ряда Вольтерры.

Доказано, что адаптированный к классам QAM- и PSK-сигналов расщепитель можно построить в виде линии задержки, длина которой больше или равна длине памяти модели КС. На основе данного свойства можно построить модель нелинейного компенсатора в виде многочлена расщепленных сигналов минимальной размерности.

С применением разработанной математической модели НК исследована эффективность компенсации нелинейных искажений QAM- и PSK-сигналов в цифровом КС, описанном отрезком ряда Вольтерры, при отсутствии и действии в КС гауссовского шума.

2. На основе метода расщепления в спектральной области синтезирована модель частотного нелинейного нерекурсивного цифрового фильтра для подавления импульсного шума в речевых сигналах. При синтезе ЧННЦФ общая задача аппроксимации оператора фильтра разбивается на несколько подзадач существенно меньших размерностей, решаемых в частотной области, что позволяет снять проблему плохой обусловленности, характерную для полиномиальных моделей устройств.

При фильтрации импульсных помех в речевых сигналах с помощью ЧННЦФ установлено:

- для удобства ДПФ следует выбирать 6 (четное число) каналов расщепления;

- наименьшая среднеквадратичная погрешность фильтрации достигается, если расщепленные сигналы (временные фрагменты речи, обрабатываемые ДПФ) содержат равное количество предыдущих и последующих отсчетов по отношению к текущему моменту времени;

- для повышения точности фильтрации следует учитывать эффект наложения в спектрах степенных составляющих выходного сигнала ЧННЦФ;

- блочный (фрагментарный) способ формирования выходного сигнала частотного фильтра уступает по точности обработки последовательному способу;

- ЧННЦФ дает наименьшую среднеквадратичную погрешность фильтрации по сравнению с медианным фильтром и фильтром Вольтерры.

Прослушивание выходных сигналов фильтров показало, что речевой сигнал на выходе медианного фильтра не содержит импульсных помех, но при этом речь становиться глухой с неестественным звучанием. После фильтрации Вольтерры и обработки ЧННЦФ в речевом сигнале присутствуют редкие остаточные импульсные помехи малой амплитуды, которые воспринимаются как шорох или потрескивание, при этом выходной речевой сигнал имеет естественное звучание. ЧННЦФ формирует значительно меньше остаточных помех по сравнению с фильтром Вольтерры.

3. Разработан метод построения моделей компенсаторов нелинейных искажений сигналов в цифровых каналах связи на основе нейронных моделей Винера и Гаммерштейна. В указанных моделях линейные динамические цепи представлены рекурсивными системами, безынерционные нелинейности - персептронными нейронными сетями.

Параллельная обработка сигналов в нейронных моделях при аппроксимации операторов нелинейных устройств позволяет избежать появления проблемы плохой обусловленности, характерной для полиномиальных моделей.

В диссертационной работе для построения нейронных моделей реализован алгоритм обратного распространения ошибки, работающий с комплексными РБК- и <ЗАМ-сигналами.

Для компенсации нелинейных искажений сигналов в канале связи, описанном моделью Винера, построены следующие модели компенсаторов: нейронная модель Гаммерштейна (НМГ), многомерный полином, двухслойный персептрон и рекуррентная нейронная сеть Элмана. В результате сравнительного анализа нелинейных моделей компенсаторов установлено:

- НМГ обеспечивает наименьшие погрешности компенсации в равномерной и среднеквадратичной метриках;

- НМГ более проста в реализации, так как содержит меньшее число параметров, вычисляемых при решении задачи аппроксимации, по сравнению с моделями-аналогами;

- достоинства НМГ сохраняются при действии в КС гауссовского шума.

4. Созданы программные средства, образующие комплекс программ, предназначенный для моделирования нелинейных компенсаторов на основе многочленов расщепленных сигналов и нейронных сетей со структурой Винера-Гаммерштейна. Программный комплекс использован для борьбы с нелинейными искажения в системе радиорелейной связи на объекте «Комсомольское линейно-производственное управление магистральных трубопроводов» (Ханты-Мансийский автономный округ, г. Югорск), а также при выполнении НИР с ОАО "НПП Радиосвязь" (г. Красноярск).

Программное средство «NLequQAM64» зарегистрировано в федеральной службе по интеллектуальной собственности (Свидетельство №2013615958), программное средство «HNM» - в ГосФАП (Инв. №50201351097). Оба программных средства зарегистрированы в рамках программы стратегического развития СПбГЭТУ «ЛЭТИ» проекта 2.1.3. «Проведение НИР и решение комплексных проблем по приоритетному направлению «Технологии новых и возобновляемых источников энергии и энергосбережения» на базе профильной научно-образовательной платформы».

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

Публикации в изданиях, рекомендованных ВАК России:

1.Е.Б. Соловьёва, A.B. Зубарев. Синтез компенсатора методом расщепления для линеаризации модели Вольтерры канала связи // Известия СПбГЭТУ «ЛЭТИ». - 2012. - № 2. -С. 3-7.

Вклад Зубарева A.B.: формализация и построение модели компенсатора.

2. Е.Б. Соловьёва, A.B. Зубарев. Аппроксимация оператора фильтра импульсных помех на классе речевых сигналов методом расщепления // Известия вузов России. Радиоэлектроника. -2012,-№6.-С. 45-52.

Вклад Зубарева A.B.: моделирование фильтров и проведение вычислительных экспериментов.

3. Е.Б. Соловьёва, A.B. Зубарев. Нейронная модель компенсатора нелинейных искажений сигналов для цифрового канала связи // Известия вузов России. Радиоэлектроника. - 2013. -№ 4. - С. 30-34.

Вклад Зубарева A.B.: синтез нейронных сетей и проведение вычислительных экспериментов.

Публикации в других изданиях и материалы конференций:

4. Е.Б. Соловьева, A.B. Зубарев. Нерекурсивный фильтр для борьбы с импульсным шумом в речевых сигналах // Синтез, анализ и диагностика электронных цепей: Международный сборник научных трудов.-Ульяновск: УлГТУ, 2012. - Вып. 10.-С. 146-151.

Вклад Зубарева A.B.: синтез фильтров и подготовка публикации с соавтором.

5. Е.Б. Соловьева, A.B. Зубарев. Спектральный метод расщепления для фильтрации импульсных помех в речевых сигналах // Синтез, анализ и диагностика электронных цепей: Международный сборник научных трудов. - Ульяновск: УлГТУ, 2013. - Вып. 11,-С.222-229.

Вклад Зубарева A.B.: синтез фильтров и подготовка публикации с соавтором.

6. Зубарев, A.B. Операторный подход к компенсации нелинейных искажений в цифровом канале связи / A.B. Зубарев // Труды 67-й науч.-техн. конф., посвящ. Дню радио, г. Санкт-Петербург, 19-27 апр. 2012 г. - Санкт-Петербург, 2012. - С. 48-49.

7. Зубарев, A.B. Особенности метода расщепления сигналов при синтезе фильтров импульсных помех / A.B. Зубарев // Труды 68-й науч.-техн. конф., посвящ. Дню радио, г. Санкт-Петербург, 18-26 апр. 2013 г. - Санкт-Петербург, 2013. - С. 79-81.

8. Зубарев, A.B. Подавление импульсных помех в речевых сигналах спектральным методом расщепления / A.B. Зубарев // Сборник докладов 66-й науч.-техн. конф., проф. преподавательского состава СПбГЭТУ «ЛЭТИ», г. Санкт-Петербург, 1-8 фев. 2013 г. - Санкт-Петербург: СПбГЭТУ «ЛЭТИ», 2013. - С. 165-168.

9. Зубарев, A.B. Операторный подход к моделированию нелинейных компенсаторов и фильтров / A.B. Зубарев // Сборник докладов 67-й науч.-техн. конф., проф. преподавательского состава СПбГЭТУ «ЛЭТИ», г. Санкт-Петербург, 27 янв. - 3 фев. 2014 г. - Санкт-Петербург: СПбГЭТУ «ЛЭТИ», 2014. - С. 142-146.

Зарегистрированные программные средства:

1. Зубарев, A.B. Модель нелинейного компенсатора с расщепителем в виде линии задержки для класса позиционно модулированных цифровых сигналов. Свидетельство о государственной регистрации программы для ЭВМ №2013615958 от 30.04.2013.

2. Зубарев, A.B. Нейронная сеть Гаммерштейна как модель нелинейного компенсатора. Регистрация в ГосФАП № 50201351097 от 05.11.2013.

Подписано в печать 14.10.15. Формат 60><84 1/16. Бумага офсетная. Печать цифровая. Печ. л. 1,0. Тираж 100 экз. Заказ 89. Отпечатано с готового оригинал-макета в типографии Издательства СПбГЭТУ «ЛЭТИ» 197376, С.-Петербург, ул. Проф. Попова, 5 тел.: (812) 346-28-56