автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.16, диссертация на тему:Оптимальная передача стохастических сигналов по непрерывно-дискретным каналам



министерство науки . высшей школы и

технической полотки российской федерации

Томский государственный университет иы. В.В. Куйбышева

На правах рукописи Короткевич Вера Иосифовна

УДК 621.391:1:519.3

ОПТИМАЛЬНАЯ ПЕРЕДАЧА СТОХАСТИЧЕСКИХ СИГНАЛОВ ПО НЕПРЕРЬШО-ЩЖРЕГНЬМ КАНАЛАМ

ОБ. 13.16 - применение вычислительной техники ыатеиатического моделирования и математических методов в научных исследованиях

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук.

Томск - 1993

Работа выполнена-на кафедре прикладной математики Тоыского государственного университета ш. В.В. Куйбышева и в отделе автоматизации научных исследований Сибирского физико-технического института ии. В.Д. Кузнецова.

Научный руководитель : доктор физико-ыатеыатических наук ,

профессор Н.С. Дешш

Официальные оппоненты : доктор физико-математических наук ,

профессор В.В. Конев , ' кандидат технических наук Л.И. Лузина

"Ведущая организация: Московский государственный технический университет имени Н.Э. Баумана.

Защита состоится " 40 шои.<_ 1993 г.

в _часов на заседании Специализированного Совета Д 063.53.03

, по защите диссертаций "а соискание ученой степени доктора наук ' при-Томском государственной университете по адресу : 634010 , г. Тпцск - 10 . проспект Ленина , 36 . Томский государственный ■университет. ' .

С диссертацией ' ыо&но ознакомиться в Научной библиотеке Тоыского государственного университета.

Автореферат разослан "_" _1993 г.

Ученый секретарь Специализированного Совета кандидат физико-математических

наук . доцент дч / Б.Е. Тривояенко

Общая характеристика диссертации.

Актуальность проблемы. Широкий класс статистических задач может быть сведен к следующей формальной схеме: в каждый момент времени ъ по реализациям снаблюдениям . измерениям) случай-

ного процесса z(s) ct0« s«i) нужно давать оценку ист.о значений случайного процесса х(г). При этом , в зависимости от соотношения между моментом оценивания г и моментом окончания наблюдений t процедуры оценивания подразделяются на три типа:фильтрация >.c-t). экстраполяция <т > о и интерполяция ст < о. Хорошо известен результат . что оптимальной в среднеквадратическоы смысле оценкой в этих задачах является апостериорное среднее. Выводу представлений для условных математических ожиданий xCr.t)-M{xCr)|z„) при разных предположениях посвящены работы многих авторов. Это. прежде всего . классические работы Н. Винера cn. viener) . Л.Н. Колмогорова . Р. Калмана CR.Е. Kaiman) , Р. БЫОСИ CR-S. Визу) Р.Л. Стратоновича , Р.Ш. Липцера , Ä.H. Виряева и др. ' В более поздних работах (П.И. Кицул , Л.Е. Широков . Н.С. Деыин) задачи оценивания были решены для непрерывно-дискретных систеи . когда оценка MCT.t,) значения случайного процесса хСт) строится на основе совокупности непрерывных z^, и дискретных?)™ наблюдений.

Поскольку любое оценивание связано с извлечением информации из полученных наблюдений , полезно рассмотреть упомянутые выше статистичекие задачи с точки зрения теории информация. Тогда ненаблюдаемый случайный процесс *ct) можно рассматривать как модель передаваемого источником сигнала. На вход канала передачи поступает в общем случае не сан сигнал хсо . а некоторый его функционал hct.xct)), называемый кодированием. Наблюдаемый случайный процесс zCt) можно рассматривать как модель сигнала на выходе непрерывного канала передачи - сигнала , подлежащего расшифровке. Заключительная операция в процессе передачи информации - декодирование - состоит в той . чтобы в каждый момент времени t по принятому сигналу z^izCs).*.,,* s < t) построить сообщение на выходе xCt.z). Естественно, это сообщение должно оптимальным в некоторой смысле образом воспроизводить передаваемый сигнал xct). Очевидно, что при заданном кодировании -ha,x<t)) и среднеквадратическоы критерии качества операция декодирования есть ничто иное как задача фильтрации , а ха.г) в этой случае является апостериорным средним /К0«м(хС0|г^) -Подобная интерпретация результатов теории фильтрации с информационной точки зрения позволила в диссертационной работе применить уравнения оптимальной фильтрации для решения некоторых задач теории информации.

Первая из этих задач - определение шенноновского количества

информации - является важнейшей в теории информации , так как с этой мерой связаны основные результаты теории.

Вычисление информационной меры Шеннона для конкретных классов процессов часто является нетривиальней задачей, которая изучалась ыногиии .авторами. Наиболее близкими для данной диссертации в смысле типов рассматриваемых случайных процессов являются работы И.М. Гельфанда и A.M. Яглона. А.Я. Городецкого, Р.Ш. Липцера . Т.Е. Дункана ст.е. Duncan). Т.Т. Кадоты, М. Эакаи, И. Зива CT.T.ICadota, М. Zakai , I. Ziv) И Др. Например. Т.Е. ДуНКЭНОЫ ст.E.Duncan) было найдено выражение для количества взаимной информации i содержащееся в реализациях x^={x(s);t0« s < t) и s < t) процессов xCs) и z(s), описываемых стохастическими дифференциальными уравнениями. Но поскольку в задачах фильтрации ш швеи дело с процессами, у которых может наблюдаться только одна компонента, например, z<o, и по ее реализациям нужно оценить в текущий момент времени t значение другой компоненты xct), то имеет смысл ввести количество информации i^xco^] о значениях процесса xct) в момент времени t. содержащееся в реализациях Zq процесса тсю.-

В диссертационной работе получено уравнение для i^xco^.^]-количества информации об x(t). содержащегося в совокупности реализаций Zl0 и Ji"-(T)Ct0>.ijCtt).....*>am>;t-o<ti<t-i< • -■< *•> процесса хсь) и дискретного во рремени процесса ча„). то есть с информационной точки зрения рассматривается общая задача многомерной нелинейной непрерывно-дискретной фильтрации. Аналогично исследуются задач! интерполяции и экстраполяции.

Второй задачей, рассматриваемой в диссертации, является задача оптимального кодирования. Суть ее заключается в следующем- среди кодирований h(t.x(t),z). удовлетворяющих некоторым энергети-¿зскиы ограничениям.найти оптимальный кодирующий функционал h°ct,xco,z°). минимизирующий ошибку декодирования. Эта задача имеет важное прикладное значение, так гав результате ее решения мы получаем оптимальный метод передачи сигнала по каналу связи. Вопросы, связанные с оптимальной передачей гауссовских случайных величин и гауссовс-ких процессов по каналам с обратной связью, рассматривались в работах К.Ш. Зинганпирова. A.F. Дьячкова. М.С. Пинскера. П.К. Катышева. Р.З. Хасьшнского. Р.Ш. Липцера и др. В данной диссертации также исследуется передача гауссовского марковского сигнала. Отличие ее от работ упомянутых выше авторов состоит в том, что передача осуществляется одновременно по непрерывному и дискретному во времени каналам

• Важной осбенностыо диссертационной работы является то. что

обе поставленные задачи (определение шенноновского количества информации об оцениваемой процессе и задача оптимального кодирования и декодирования) решены в ней также и для случая непрерывно-дискретной передачи информации по каналам с памятью, когда на вход непрерывного канала при ъИ поступает сигнал ьа,х(0) ,2), а на вход дискретного канала-сигнал дат.ха„).х<ст-ъ ).г) ).

Каналы с памятью являются менее изученными в теории информации.

Цель работы: 1 Определение шенноновского количества информации в следующих задачах оценивания: а)в задаче оптимальной многомерной нелинейной непрерывно-дискретной фильтрации диффузионных марковских процессов сканалы без памяти); б)в задачах оптимальной многомерной нелинейной непрерывно-дискретной интерполяции и экстраполяции диффузионных марковских процессов-, в)в задаче оптимальной многомерной нелинейной фильтрации диффузионных марковских процессов при непрерывно-дискретных каналах с памятью. 2)Решение задачи оптимального кодирования и декодирования а)при непрерывно-дискретной передаче гауссовского марковского сигнала по каналам с обратной связью и без нее; б)при непрерывно-дискретной передаче гауссов?кого марковского сигнала по каналам с памятью; В)при одновременной передаче гауссовского марковского сигнала по непрерывному каналу с памятью и дискретному каналу с запаздыванием.

Результаты по решению перечисленных выше задач выносятся на защиту.

Научная новизна основных результатов диссертации состоит в следующем:1Сравнения оптимальной непрерывно-дискретной фильтрации использованы для решения задач теории информации. В результате этого аэвпервые получены дифференциально-рекуррентные уравнения. определяющие шенноновское количество информации об оцениваемой процессе.содержащееся в совокупности непрерывных и дискретных наблюдений; б)найден оптимальный метод одновременной передачи гг уссовского марковского сигнала по непрерывному и дискретному каналам с обратной связью и без нее. 2)Получены.дифференциально-рекуррентные соотношения для количества информации об оцениваемом процессе в задачах оптимальной непрерывно-дискретной интерполяции и экстраполяции. Ранее эти задачи с подобной точки зрения не рассматривались. Э)Впервые проведено исследование информационного содержания задачи оптимальной непрерывно-дискретной фильтрации случайных процессов при передаче по каналам с памятью. В результате а)получены дифференциально-рекуррентные соотношения, определяющие количество информации об оцениваемом процессе; б)решена задача оптимального кодирования и декодирования при непрерывно-дискретной передаче по каналам с памятью,вэнайден оптимальный метод одновре-

ценной передачи гвуссовского марковского сигнала по непрерывному каналу с памятью м дискретному каналу с запаздыванием.

Методика исследования. Решение указанных выше задач производится с использованием положений теории вероятностей, теории случайных .процессов и математического анализа.

Практическая ценность. Полученные в диссертационной работе результаты иогут быть использованы в НИИ и организациях . ведущих разработку систем связи, при теоретических исследованиях информационных систем. Эти результаты использовались в госбюджетных темах Сибирского физико-технического института.

Апробация. Основные положения диссёртаиии докладывались и обсуадапись на vin Всесоюзной конференции по теории кодирования и передачи информации (Куйбышев. 1981 г.), на van симпозиуме по проблеме избыточности в информационных системах с Ленинград , 1983 г. на vil Всесоюзном семинаре по непараметрическим и робастнш статистическим нетодам в ' кибернетике и информатике (Иркутск, 1990 г.). а также на семинарах и конференциях в Сибирском физико-технической институте. Материал диссертации отражен в отчетах по госбюджетной теме.

Публикации. Основное содержание диссертации опубликовано в 7 печатных работах.

Структура и объем работы. Диссертация состоит из введения . двух глав , заключения . списка литературы . насчитывающего 64 наименования. Ррбота содержит 166 страниц машинописного текста, в том числе 143 страницы основного текста.

КРАТКОЕ СОДЕРЖАНИЕ ДИССЕРТАЦИИ

' Во введении показана актуальность проблемы, содержится краткий обзор {забот, связанных с рассматриваемыми в диссертации задачами, подчеркивается, в чем автор видит оригинальность своей работы, приводится краткое содержание диссертации. Основные результаты работы изложены в двух главах, каждую из которых mosho разделить на две части соответственно решаемым в них задачам. Первая часть посвящена определению шенноновского количества информации при передаче марковских диффузионных сигналов, вторая- нахождению оптимального метода передачи гауссовского марковского сигнала-ре-.шению задачи оптимального кодирования и декодирования. Разница в том, что в первой главе рассматриваются непрерывные и дискретные каналы без памяти . а во второй - с памятью.

ГЛАВА 1. ПЕРЕДАЧА МАРКОВСКИХ ДИШЗИОИШХ СИГНАЛОВ ПО КАНАЛАМ ВЕЗ ПАМЯТИ.

В Ф1 главы приводится вывод формулы Ито-Вентцеля для многомерных сигналов в случае зависимых шумов. Этот результат носит

вспомогательный характер, он лежит в основе преобразований , связанных с нахождением шенноновсжого количества информации.

Теорема 1. Пусть yet) есть п—мерный марковский диффузионныи процесс , имеющий стохастический дифференциал

dyCO=A(t.y(t>)dt+Ba .yCOJdwCO , <1)

где «со - стандартный г-мерный винеровсьлй процесс. Пусть pa.у) - непрерывная и дважды непрерывно дифференцируемая по у скалярная функция . допускающая стохастический дифференциал

dpct ,y)=cct ,y)dt+DTa ,y)dv(t> , <3)

где Da. у) - непрерывная и непрерывно дифференцируемая по у m-нериая функция , с а .у) - непрерывная скалярная функция .v.co -- m-нерный стандартный винеровский процесс. Процессы wet.) и vet) зависимы с взаимной матрицей диффузии wet). Пара (wd).v(t>■> является винеровскин процессом.

Тогда имеет место формула _ чТ

dy(t) +

[apCt.yCt)) ----

ву

1 fe'pct.yo.» . 1 Г

-5-BCt,yCt))B a.yCt))jdt+tr J^BCt.yCt>)Wa)» <3)

aDCt ,y(t )> *-- dt

Эу

spa.y(t)) apa .y.)

Здесь tr[ .] - означает след матртщы, а

эу ау

=уа>

Доказательство проводится аналогично выводу этой формулы Б.Л. Розовским в скалярном -случае при независимых винеровских процессах «а) и уа). Условие зависимости шумов приводит к появлению последнего слагаемого в правой части формулы сз).

Второй параграф посвящен информационному исследований задачи многомерной непрерывно-дискретной фильтрации, которое проводится для моделей сигналов следующего типа.

Моделью полезного сигнала служит п-мерный диффузионный марковский процесс ха). описываемый стохастическим дифференциальным уравнением

¿ха>=/а .хаж^+Ф.а .ха)м«а) , <> о , (4)

где /с.) - вектор-функшя размера п . Ф,(.) - матричная функция размера п«г1.

При непрерывной передаче на вход канала поступает е-мерный сигнал ьа .ха),*) . а сигнал на выходе непрерывного во времени канала передачи представляет собой реализации г-мерного случайного процесса га) , описываемого уравнением

¿га>ьа,ха)>2^ъ+Фга12^а) , , се)

где Ф с.) - матричная функция размера е*гг. Предполагается . что

процессы wit.) и v<o. имеющие размерности г, и гя соответственно, являются компонентами винеровского процесса . зависши между собой с взаимной матрицей диффузии w,co и не зависят ев х(о>.

При непрерывно-дискретной передаче .кроне сигнала h(t.xa).z), В моменты времени tm (m-o.i.а...•> в канал передачи поступает сигнал eCtm.x(tm),r). В результате в момент времени t выходной сигнал является совокупностью реализаций случайного процесса z(t>. описьваемого уравнением сз) . и ч-ыерного процесса ча„) вида

4itm>-actm.xam).z)+$,am.z)*am) <т-о.1.а....) , <в> где Ф,<.) -матрица размера q»r, , a»ctm) - последовательность г,-мерных гауссовских векторов. Предполагается, что для уравнений СО-С6) выложены ограничения.которые являются стандартными в теории оптимальной нелинейной фильтрации.Для описанных процессов вводится количетво «> информации о значениях случайного процесса хсо

. m ' ( Р.Сх(О) i

ItlxCDiij.^l-KU»-- » . С7)

р&.хСОУ

содержащееся в совокупности реализаций z^-(z<s>;o<s«t) и ^'(i)ft0), r>ct4) ■ ^.. •4itm):t0<t-i<t*< • • процессов *со и т>ат), где

pt(х)-апостериорная плотность распределения вероятности, а ра.х)-априорная плотность распределения. м(.)-математическое ожидание.

Теорема 2.Количество информации С7) на произвольном интервале времени tm< t < t^ удовлетворяет уравнению

dl.CxCt); zli г ( .. -

-г-g t-Г |MlR Ct.z)[ha.xCO.z)-h(t,z)]*

---*П 1 г f рЭ1п p, (x(t>)

«с ь a .x a > .z )-h a ,x >1JJ —tr [м|аа ,xa > > --»

aln pTCxCt)) aln p(t,x(t)^dln pT<L.xCt)b

■••lQCt.xCt)>

-]}br(M{Q

P,<xCt)) ax* p(t.x<t>) ax' J J-I г V?(x<

ax ax ax

2

ax" p(t.xCt>) ax* JJJ г VlCxCt))

»Ъг[к"'а,2)Ь Ipt(xCt))]LTfptCxCt))] jj+tr|l(|s(t ,xCt),z)* (в)

. rahCt-.x(L).z) a, l ' 1T11

«R <t.z)| --L [p.(x(t)>] I 11| +

1 ax axV,Cx<o> JJJJ

Z Z faa ¡а.хсоэ a p.cxct)) 1 ZM1-_ln -f •

iftjri I. axt axj p<t,xCt))J

с начальным условием

t t i

где Q(.)-®t(.)®*<.) . r(.)»$,(.)«^c.) . v-«,<.)®Jc.>.sc.>®4(. > ' xW,(o$Ico . £>[£,.£,.....ч] Л^С,.]--^-^—.j-i.t

h(t,z)=M{h(t,x(t).z)fz^,?™}

it 0 t.l-iim i.t.l и является решением уравнения се) на предыду-шен интервале времени , вычислении» в точке tm ,

AI. Ï.) "Ml Irl -'—--=- \ (10)

V c(J)(t„).z) *

с (l}(tm) .2)=м{е(Т)а„) ,x(tm) ,z ) |za"

Далее в диссертации доказывается рад следствий из общего уравнения (в) для различных частных случаев. Ниже приведено одно из них. Следствие 1. Пусть выполнены условия

f (. )«f (t)+F(t)x . Ф,(.)=Ф,(0 . p0(X)-N(|l0,r0) (11)

h(. )=h(t.z)+H(t.z)x , g(.)-ga,z)»ö(t,z)x

Тогда количество информации i^xiOja^.n™] на произвольном интервале времени tm< t < tmtl удовлетворяет уравнению dltlx(t);z^.j>™3 1 г ( т 11

----=2trlM 1R C<"z5Ha.z>r(t)H (t.z>JJ-

— *.г|аа)[м |r"'et -D"la)JJ+gtr Jm {sct-.x»"'^.«)« aa)

«ST(t.z)r"*(t)|J+tr [м I Sa.z>R",a.z)H(t.z)|j

с начальнш условием ев), в котором дг( [.] определяется формулой

Mt (Х(1,)110,Ч01-MÎln -—У (13)

ai |r(t„)| * Здесь |a| - определитель матрицы д. га) - матричная функция вторых моментов апостериорной плотности распределения pt(x). определяемая дифференциально-рекуррентными уравнениями фильтра. В качестве примера рассматривается передача процесса Орнстейна-Уленбека по стационарным непрерывному и дискретному каналам. Исследуется связь меры количества информации и времени корреляции процесса x(t).

В §3 для задач оценивания, в которых момент оценивания * не совпадает с моментом окончания наблюдения t (интерполяция, экстраполяция) вводятся для рассмотрения две меры количества информации

t t m f Pr<*<T)> 1

T 1 рСт.хСт))-'

l l f pl<x<T>.x<t))

I'txtti.^O-.z^l-MUn^-— V , <15)

T p(I,xft)|t,x(t))J

которые являются соответственно количествами информации о значениях хСг) и <x<r),x<t)), содержащейся в совокупности реализаций

z^ и По " В <14) И <15) p^.<x)-eP{xCC)<x|zo,Vo>''3x , р<Т,х)= =эКх<Т)*х)вх , р^<х,х )«а*р{х<т)<х ,x<t)«x' ,

рСт.х;Ь,х' )=eap{x<r><x,x<t)<x' )/Зх6х'

Теорема 3. Если r<t. то количества ин^юрмации а 4) и а 5) на произвольном интервале времени tm^t<tB№1 удовлетворяют соответственно уравнениям

dI^.[>c<T);Ze.l£] 1

at

tr [m^R"' <t ,z )I h <t .x<T ) .z )-h <t ,z )] "

«th<t,x<T),z)-ha.z)] |J as)

с начальным условием

1/Сх<г);гот.Г,^-а.^01х<Т);21т.С*ЬД1^1х<Т);2/.Г,™] . . <17) dl'[x<T).xa);z^ .Jj^] 1 г Г

—---<t.z)[ha.xa)„z)-

-KCt .Z)] Iha .x<t) ,z)-ha ,z)] —Lr ^{joco-sct ,z>

г

.. T iain p* <x<r) ,x<t)) <aln p' <x<T),x<«),-•>,

XR a;z)s ct.z) -S-r -Д- Hh

1 axCt) ax<t) J >\

1 r f3ln ptt.xOrJSfc.xCt))^!, p<r.xCr)st,x<t)V

b<t)M<- - H+

2 L 1 ax<t) 1 ax(t) ' Ji

H. ah<t.x<t.),z)-.-|

S<t,z)R a.z)-f I

axCt) JJ

с начальным условием

l1 l l-o ' . I m-1. I t

1ттСхСТ)хаД;1<?т.О-1тт [x<T).X<^;zom.4oJ^ITm[xCT).xa¿;zom.O.

t-o

где i_ t i-l.] и является решением соответствующего урав-

t'tm т

нения <ie) или cíe) на предыдущем предыдущей интервале tm_1<t<tm. вычисленньи в точке t . __'

<18)

л,'"г , ч '■» '■», f, gWt^.xCT).«^

Д1 tx<T);z0 .Т)0]-М<1п - > . <10)

1 C<n<t„).z) J

, ч , c<»am).x<tm).z)-, м ix<T),xam);z .»i ]-м<1п -» , cao)

V r.fnft. i.7l J

ha,x.z)n(ha.xa).2)|xCT)=x.Zo.ijo> • -— i

CC4<tm).x.z)=M(cCT}Ctm).xam),z>|xCr)-x,z0,rt.j)o"1)- . (22)

Для количества информации a4) в задаче экстраполяции получено уравнение, аналогичное ае). Рассмотрены различные частные случаи и проведено сравнение мер количества информации (7), (14) и (is) при передаче процесса Орнстейна-Уленбека по непрерывному каналу.

В §4 решается вторая задача, поставленная в диссертации : задача оптимального кодирования и декодирования при непрерывно-дискретной передаче одномерного гауссовского марковского сигнала х(о. описываемого уравнением

dxtt)=F(t)xa)dt+01(t)dw(t) , t> О , (23)

по каналам с обратной связью, моделями которых служат уравнения О) и (в). В данном случае Ф2а ,z)=$,(t), Фаа,г)-Ф9а). Винеров-ские процессы w(t) и v(t) предполагаются независим дай и задано начальное распределение р0<х>м(дй;г0) (ы{а.в>- нормальное распределение с параметрами а.в). Поскольку реальные передающие устройства , посылающие в канал передачи сигналы ha,x(t).z) и g(tm.x(tm),z).обладают ограниченной мощностью.то это обстоятельство учитывается энергетическими ограничениями вида

м|ь1а.ха).г)|<Ка)^К . м{д2ат.хат).г)}«5ат)«д , (24)

где Ка) и g(tm) - известные функции времени . з К и g -известные константы.

Определение ; Кодирующие функционалы ha,х(t),z) и g(tm.xa^) ). удовлетворяющие ограничениям (24), называются допустимыми. Требуется в классе (класс линейных по х допустимых кодирующих функционалов) найти фгнкиионалы h°a,xa).z°) и g°an.xam).z°) и декодирование х° a.z),обеспечивающие минимум ошибки декодирования ¿(t)=M<Cxa)-xa.z)]2). Поскольку при заданном кодировании оптимальной в среднеквадрагическом смысле оценкой является апостериорное среднее лсо. то M^txa)-xa.z)]"| * м^Сха)-«а)]г|. Тогда

Д°(0» min л д a)= min м{( x(t <t )] 2}=м([ x(t )-fl° (t )}*} (23)

<h.g)®Kltx (h.g)^1- > >

Теорема А.В классе ^ оптимальные кодирующие функционалы h°a,x(t),z°) и g°am.x(tm),z°) определяются формулами

h°a.xa).z°)-1/-§iSii [x(t)-/i°a)i . (га)

а а)

g°am.хат) [хат)-л°айо)3. 07)

л°а-о)

п

Оптимальные сообщения * со и « а ) описываются уравнениям

dz°Ct)-./4íti txCoVcOldt+Í.COdvCt) . cae)

txCbm)-M°ctS0)1*$tctm)iап).»°Со)-о,ш-1 .г... .cas)

л'съ^о)

Оптимальное декодирование V (О и минимальная ошибка д°а) определяются на произвольном интервале времени tm<t<t,((lí.1 уравнениями

i

г Kct)

dji Ct)-F(t)jí Ct)dt+-» H(t)A Ct)dz Ct) . СЗО)

RCt)

dt ' RCt)

с начальный условияди

Г hCt) 1 о

2FCt)--<Д Ct)+QCt) С31)

»■ Pít.^ л

О О "f зат)Д Ct--o) й

» ct-o)+--—ч ctm) . с32)

vCtm)+gCtM)

д°а >«-^-S^ A°Ct-o) . C33) "

. vctm)+3ctm)

где íl9Ct50)-llm /J°Ct) , A°Ct-0)*llm A°Ct) При t'tm И ЯВЛЯЮТСЯ pe 1ени»ш соответственно уравнений езо) и сз1) на предыдущем интервале времени tm_4< t < tm . вычисленным в точке ьт. . Следствие 2. Кодирование cae) , са7) имеет свойство

O- , . о I . От, Г . , t т

I.UCt)¡Cz.)0,C)7 )01- юах XtIxCt);z0,>j0] , СЗО

. (ЬСО.аС.))*^ то есть является оптимальным в смысле максимума шенноновского количества информации. i°CxCt>; Cz°)ó.cn°0 определяется на произвольном интервале времени tm< t < tm>1 уравнением

C3S)

dlt[xCt);Cz°)o.CT)')ol

1 KCt) 1 Г 1 1

---— QCt) -s---

a RCt) г (t) DCt

¿ъ г RCt) г (О осо

с начальнш условием

Х^хСЧ,); сг°)1™. ^¿-.С^Г!^:,.. «»>

в котором 0 г Г Зап)"|

Д11--1п 1+-- I . С37)

__- г I

0(1)-м{1хС1)" х СО)*) . х <0-М(х(0).

Следствие Э. Пусть передача гауссовского сигнала xct) ведется только по непрерьюному каналу.Тогда функционал ь°о.,х,г), определяемый формулой сав) . является оптимальным и в классе нелинейных допустимых кодирующих функционалов ьа.х.г).

В остальных следствиях из теоремы А рассматриваются различные

частные случаи. В 55 рассматривается та же задача, что и в §4. но для каналов без обратной связи. В этом слуае кодирующие, функционалы не зависят от реализации и т>™.

Теорема S. В классе ^ оптимальные кодирующие функционалы определяются формулами _,

h°a.x(t»-уtxio-Tcoj . (Э8>

DCO

g°(tm.x(t„))=y/ij5.tx<tm)-ir(tm)l. (за)

Оптимальное декодирование t) и его минимальная ошибка X(i)=M{lx<t)-wea>J,j' на произвольном интервале времени t„,<t<iM

являются решениями уравнений :

ct жa>ii°a)dL+ —2afdz°a/lita iltaa )Jdtl Ra> Da> L oa) J

d2<o . . Kco „ -»areola)--2 a>+aco (40)

dt R(t)D(t)

с начальными условиями

Za-o)/3a„)Dam)

(41)

оат^а„)+5а„)8а-о)1 у оа„>

«[я°а-о)-1Гат)]] . Иът>- —- —Хс^о)

оат)уат)*дам)2а=о>

Кодирование сз8).сзэ) является оптиыальньы и в смысле максимума количества информации.

ГЛАВА 3. ПЕРЕДАЧА МАРКОВСКИХ ДОУЗЖШННХ СИГНАЛОВ ГО КАНАЛАМ С ПАМЯТЬЮ

В этой главе рассматриваются те же задачи, что и в предыдущей. Моделью полезного сигнала по-преанену служит случайный процесс ха). описываемый уравнением со. При о<ь<г" передача, сигнала осуществляется по каналам, моделями которых служат.уравнения (9).се),поэтому до момента времени верш все теоремы доказанные в первой главе. Когда ^ь* с«г*-союО. на вход канала при непрерывной передаче поступает ^-мерный сигнал ьа,ка);хач*),г), а при непрерывно-дискретной передаче в моменты времени *-тО-тН*> одновременно поступает ч-мерный сигнал да.,*^),*^ ),г). В -результате в момент времени ъ выходной сигнал является совокупностью реализаций случайных процессов г а). описываемого уравнением а2а)»ьа.ха).ха-1*),г)<11+Ф1а,2)с|уа) , (43)

и процесса ча_> вида .

ча„)ч.*ажч*)л>4,(1,,,х)»а,,) <т»о.1.а,...) <4з) Винеровские процессы *«со и у(о являются независимыми.

В §1 получено уравнение для шенноновского количества информации (?) о значениях х<о, содержащееся в совокупности реализаций 1„,и ч", при непрерывно-дискретной передаче сигнала по каналам с памятью.

Теорема 6. Количество информации с?) на произвольном интервале времени 1т< ъ < при ьт* ъ* определяется уравнением

di.CxCOjz^.ij*} »

dt г

- tr|M{R <t ,z)t h (t ,x(t ) ,z)-h (t ,z)]»

- - ,-И ! Г fâln p, (x(t>)

■[hO.,*(t),lHft,ï)l M—tr Q(t)M ---<44)

JJ s L l ax(t) }]

aln pjCxCt)) aln pCt.xCt)) âln p" <t ,x(t))

ôxCt ) ax<t) ax(t)

с начальным условием вида се>, в котором

. г п CW4,).*«,„,).=)-)

Al, [J-MUn -f . (45)

■» 1 cCTJ(tm).z)

с (Iï(t„) ,x .z )-м(с <4am) .xCtm) .X<tm-t* ) ,z ) |xctw)-x ,z0m .Tï^"1}.

h<t.x,z)=M^hCt ,x<t).xam-t*),z)|x(t)=x.zô.4ô|

C46)

■"ч-о1

т •

В диссертации доказывается ряд следствий из теоремы 6. приведем одно из них. '

Следствие 4. Пусть выполнены условия <щ и . кроме того, ьс.а,2>н(а,г)ха)»нгЙ)хач*) . <47)

д(.)»да.,2)+61а„,г)хал,^е2(11п,г)хатч*) . (48)

Тогда ^[хСО^.ч™] на произвольном интервале времени

dlJxCtXz^T»,,] 1

tr [M{R * (t ,z ) Jhj <t ,z )+H2 Ct ,z )»

*Г«(1-1* ,1)г"'а)]г(1) [н,<1 ,г)+Н, (I .г^йч" ,1 )« С49)

г-<о] ]]-- [аа)[м|г"*а)| -о"1 а)]]

г 1 Г |га-о)|") условием (в) , в котором ¿1, Г .]=- м<1п-> .

2

с начальным

га) . ,о и г22а-ъ л) - матричные функции вторых момен-

тов апостериорной плотности распределения, определяемые дифференциально-рекуррентными уравнениями оптимального фильтра.

1b'

В §2 решается задача оптимального кодирования и декодирования при передаче гауссовского марковского сигнала x(t). описываемого уравнением саз), по каналам с памятью. Рассмотрим класс линейных ПО x(t) И xCt-t*) ДОПУСТИМЫХ КОДИРОВаНИЙ ВИДа <47). (48).

Георема 7. В классе «J оптимальные кодирующие функционалы ь°(.) и д°(.) имеют следующие коэффициенты :

he<t.«e>~/jp"Vco . . н"а,2°)-о (5о>

Y да) да)

g° а, .z° aS0) ,G°(t„ . 0°am.z°).0 (31)

д°а-о>

Таким образом, расширение класса i\ до класса H*t не изменило вида оптимальных кодирующих функционалов h°a ,x,z°) И g°am.xam).z°), определяемых теоремой 4. то есть вся энергия сигналов должна быть сосредоточена в текущий момент времени.

В этом se параграфе решена задача оптимальной передачи сигнала хсо. описываемого уравнением (аз), при непрерывном канале с памятью и дискретном - с запаздыванием. В этом случае инеем класс • тинейних допустимых кодирований вида (47) и

gam.xam).x(tm-t*).z)-=gam.z)+eJani.z)xa„-t*) . (sa)

Таким образом, при o«t<t* передача сигнала хСО осуществляется только по непрерывному каналу, а работа дискреного каналэ начинается при t>t .

Теорема 8. В классе допустимых кодирований вида (47),. (вг) оптимальные кодирующие функционалы имеют следующие коэффициенты :

hV.*e>~/jP"Ao . H>.zVo . (53)

д (t) д (t)

g°am f (t-t Л-0) a„ Sam> (34)

где iia-t*.t)=M{x(t-t*)|z„.»j™) , Aiaa-t*,t)»M{[xa-t*)--*i(t-t .t)]2). При этом оптимальное декодирование p°(t) и его минимальная ошибка д°а) определяются на произвольном интервале времени tm« t < tm<1 равнениями (зо) и (зо, соответственно . с начальным условиями

о N о / 3ctm)

vam> 0 3 ---+д a-0)-_

v<4,W<tm) v(t„)+g(tn)

■r> a_) , (ss)

о о v«-m> о aam)

д ат)=д a-o)---*à a-o)-« (se)

и

\ ~*- '*-"0:о 1 "1-е--5-5--

i л

где ,оь

«Сх<0-р°<01} определяются уравненияш. которые получаются при подстановке коэффициентов <сз), <54) в уравнения оптимальной непрерывно- дискретной линейной фильтрации при передаче сигнала по каналам с памятью, полученными Н-С. Деминым.

Параграф 3 служит иллюстрацией к предыдущим параграфам второй главы. Здесь моделью передаваемого сигнала х<о служит процесс Орнстейна-Уленбека., Передача осуществляется по непрерывному каналу без памяти вида

ага)-нх<ь)+ФгсК>а.) <57)

и дискретному каналу с памятью

ч<ч>9ат>-о1ха„)ч-е1хат-1*)+Ф^а„) ан*) . <58)

Решаются две задачи. Первая - исследование информационной меры эффективности дискретного канала с памятью относительно дискретного канала без памяти. В качестве этой меры вводится величина

ДаМ, , <59)

т т

где ¿11 - приращение количества информации <43). если дискретный

м

канал с памятью, а д?,- есть приращение количества информации <ю)

п»

при дискретном канале без памяти. Дифференциальные уравнения фильтрации для ¿((.),ава-1*л),4аач*,1) в случае моделей сигналов, описанных в этом параграфе, решены аналитически. В предположении, что между соседними дискретными наблюдениями решения этих уравнений достигают установившихся значений, удалось получить формулу, выражающую зависимость д от 1".

Утверждение 1. Если в^го^уо, то при .о« «.*< дискретный канал с памятью дает большее приращение количества информации Д11 по сравнению с дискретным каналом без памяти, то есть д >о. Наличие дрполнительного члена е2х<ст-ъ") в кодирующем функционале 9Л,,х(1»),ха,ч'),г) при уменьшает количество получае-

■ мой информации, в этом случае д< о. В диссертации получены формулы для д и 1*р. проведено исследование д как функции параметров е, и е2 при малых I* и больших с*.

Вторая задача, рассматриваемая в §3, посвящена оптимальному выбору коэффициентов кодирующего функционала в модели дискретного канала с памятью <ев). Эта задача также решается с использованием аналитических решений дифференциальных уравнений фильтра, которые к моменту .очередного дискретного,наблюдения достигают установившихся значений.

У?

ЗАКЛЮЧЕНИЕ.

Основные научные положения . выносимые на защиту , сводятся к следующему.

1.Получены дифференциально-рекуррентные соотношения, определяющие шенноновское количество информации в задаче оптимальной многомерной нелинейной непрерывно-дискретной фильтрации диффузионных марковских процессов с случай зависимых иумов. обьекта и непрерывного канала передачи ) С±].

2.Получены дифференциально-рекуррентные соотношения, определяющие шенноновское количество информации в задачах оптимальной многомерной нелинейной непрерывно-дискретной интерполяции и экстраполяции диффузионных марковских процессов. На. примере передачи процесса Орнстейна-Уленбека с помощью полученных соотношений проведено исследование мер количества информации в задачах фильтрации и интерполяции [4].

3.Решена задача оптимальной непрерывно-дискретной- передачи диффузионного марковского гауссозского сигнала по каналам с обратной связью и без нее. Проведено исследование меры эффективности непрерывно-дискретной передачи стационарного гауссовского сигнала по сравнению с непрерывной передачей этого же сигнала при оптимальной структуре каналов I а].

4.Получены дифференциально-рекуррентные соотношения, определяющие шенноновское количество информации в задаче оптимальной многомерной нелинейной фильтрации диффузионных марковских процессов при непрерывно-дискретных каналах с памятью Сэ].

5.Решена задача оптимальной непрерывно-дискретной передачи диффузионного марковского гауссовского сигнала по каналам( с памятью. Аналогичная задача решена для непрерывного канала с памятью и дискретного - с чистым запаздыванием 17].

6.Решена задача оптимизации структуры стационарного дискретного-канала с памятью при непрерывно-дискретной передаче стационарного гауссовского сигнала. Для этого же типа сигналов проведено исследование различных мер эффективности исп льзовшшя дискретного канала с памятью по сравнению с дискретным каналом без памяти Сз.в]. ■ .

СПИСОК ПУБЛИКАЦИИ ГО ТЕМЕ ДИССЕРТАЦИИ

1. Демин Н.С., Короткевич В.И. О количествё информации в задачах фильтрации компонент марковских процессов.- Автоматика и телемеханика , 1983 , м 7 . с. 87-96.

2. Демин Н.С.. Короткевич В.И. Оптимальное кодирование и декодирование при передаче гауссовского марковского сигнала в непрерывно-дискретных каналах.- В кн..- Тез.. докл. 8-го симпозиума

по проблеме избыточности в информационных системах. Ленинград, 1983 . Ч.З , с. 85-88.

3. Демин Н.С., Короткевич В.И. Об уравнениях для шелноновского количества информации при передаче марковских диффузионных сигналов по каналам с памятью.- Проблемы передачи информации . 1987 . т.23 , N 1 . с. 16-27.

4. Демин Н.С., Короткевич В.И. Об уравнениях для шенноновских мер количества информации в задаче интерполяции марковских сигналов .- В сб. Оптимизация систем управления и фильтрации.- Деп. ВИШГГИ N 9225-В88 от 30.12.88 . с. 7-20.

5. Демин Н.С., Короткевич В.И. Непрерывно-дискретная фильтрац"я гауссовского марковского процесса при дискретном канале наблюдения с памятью.- В кн.: Материалы vii всесоюзного семинара "Непэраметрические и робастные статистические методы в кибернетике и информатике". Иркутск . 1990 , ч.1 , с. 188-198.

6. Короткевич В.И. Оптимизация структуры дискретного канала наблюдения с памятью при непрерывно-дискретной передаче гауссовского марковского сигнала,- Деп. ВИНИТИ n 1675-В92 от 21.05.92.- 11 с.

7. Короткевич В.И. Оптимальная передача гауссовского марковского сигнала в непрерывно-дискретных каналах с памятью.- Деп. ВИНИТИ N 1670-В92 от 21.05.92..- 14 с.