автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.05, диссертация на тему:Синтез функциональных преобразователей частотно-временных параметров сигналов на основе многоуровневого нейросетевого описания

т

Антоненко Андрей Васильевич

«

СИНТЕЗ ФУНКЦИОНАЛЬНЫХ ПРЕОБРАЗОВАТЕЛЕЙ ЧАСТОТНО-ВРЕМЕННЫХ ПАРАМЕТРОВ СИГНАЛОВ НА ОСНОВЕ МНОГОУРОВНЕВОГО НЕЙРОСЕТЕВОГО ОПИСАНИЯ

Специальность: 05.13.05 - Элементы и устройства вычислительной техники и систем управления

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

2 7 ОКТ 2011

Рязань 2011

4858210

Работа выполнена в ФГБОУ ВПО "Рязанский государственный радиотехнический

университет"

Научный руководитель: доктор технических наук, профессор

Локгюхин Виктор Николаевич

Официальные оппоненты: доктор технических наук, профессор

Пылькин Александр Николаевич;

кандидат технических наук, доцент Сафьянников Николай Михайлович

Ведущая организация: Институт проблем управления

им. В. А. Трапезникова РАН, г. Москва

Защита диссертации состоится " 18 " ноября 2011 г. в 12 часов на заседании диссертационного совета Д 212.211.04 в ФГБОУ ВПО "Рязанский государственный радиотехнический университет" по адресу: 390005, г. Рязань, ул. Гагарина, 59/1.

С диссертацией можно ознакомиться в библиотеке ФГБОУ ВПО "РГРТУ". Автореферат разослан октября 2011 г.

Ученый секретарь диссертационного совета кандидат технических наук

А. Г. Борисов

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность работы. Важным направлением кардинального повышения точности и надежности измерительно-управляющих систем является развитие функциональных (интеллектуальных) возможностей преобразователей, осуществляющих аналого-цифровое и цифроаналоговое преобразование, а также первичную математическую переработку частотных и времяимпульсных (или импульсно-аналоговых) сигналов. Созданию теории, методов и специализированных средств их преобразования и обработке посвящены работы многих отечественных и зарубежных ученых: СмоловаВ.Б., Угрюмова Е.П., Карпова Р.Г., Паламарюка Г.О., Шляндина В.М., Новицкого П.В., Кнорринга В.Г., Гутникова B.C., Шахова Э.К., Данчеева В.П., Герасимова И.В., Сафьянникова Н.М., Вуда П., Тейлора Д. и др.

С появлением в последние годы БИС с программируемой структурой, в том числе программируемых логических (ПЛИС) и аналоговых (ПАИС) интегральных схем, появились все необходимые предпосылки для дальнейшего улучшения технико-экономических характеристик функциональных преобразователей (ФП) частотно-временных параметров и амплитуды измерительных сигналов, схема (структура) которых может быть обучена и оперативно реконфигурирована на решение новой задачи преобразования.

Одним из возможных эффективных направлений построения такого рода устройств вычислительной техники (ВТ) является применение математического аппарата искусственных нейронных сетей (ИНС). Его использование позволяет в результате обучения выбранной нейросети получить математическое описание структуры ФП как ИНС-преобразователя, отличающегося высокой однородностью составляющих его нейроэлементов и технологической простотой микроэлектронной реализации сети, в том числе за счет ее топологической однородности. Повышенное внимание к применению нейросетевых технологий для синтеза структур преобразователей обусловлено также появившейся возможностью их реализации на перспективных элементах обработки сигналов различной природы с использованием молекулярных и атомарных процессов.

Однако до настоящего момента имеется ряд нерешенных вопросов, связанных с проектированием нейросетевых ФП с оперативно перестраиваемой структурой. К ним, в первую очередь, следует отнести: отсутствие удобных для физической реализации нейросетевых описаний ФП и процедур их синтеза, позволяющих учитывать многообразие вариантов активационных функций, способов представления и видов синаптических связей; отсутствие детальных алгоритмов настройки ИНС-устройств на выполнение новой функции преобразования и др.

Одним из направлений решения указанных проблем, имеющих место при проектировании ИНС-преобразователей формы информации, является применение многоуровневого описания структур разрабатываемых устройств. Указанный вид описания базируется на использовании при их синтезе нейросетевого базиса функционально-логических операций, отличающегося степенью детализации представления операций и элементов, их реализующих.

В связи с этим является актуальной разработка моделей структур нейросетевых устройств, ориентированных на преобразование аналоговых величин, представ-

ленных в виде значений частоты, периода, временного интервала, амплитуды сигнала, в их цифровой эквивалент (и обратно), а также процедур их синтеза и настройки на реализацию новой функции преобразования, базирующихся на применении многоуровневого нейросетевого описания проектируемого устройства.

Внедрение нейросетевой организации систем в основу построения ФП им-пульсно-аналоговых сигналов, называемых часто еще импульсно-цифровыми ФП, позволяет существенно расширить их функциональные (интеллектуальные) возможности. В первую очередь, это обучаемость ИНС-устройства на реализацию нелинейной функции преобразования с возможностью коррекции погрешностей датчиков, подключаемых к преобразователю, а также поддержка сетью функций адаптации к входным сигналам. Повышению эффективности систем обработки информации на основе ИНС посвящены работы таких известных ученых, как Галушкин А.И., Головко В.А., Комарцова Л.Г., Круглов В.В., Пылькин А.Н., Яс-ницкийЛ-Н., Мак-КаллокУ., ПитгсВ., Розенблатт Ф., УидроуБ., ХоффМ., Хоп- , филд Дж., Кохонен Т. и др.

Цель диссертационной работы: расширение операционных (интеллектуальных) возможностей функциональных преобразователей частотно-временных параметров сигналов и повышение формализации получения проектных решений, обеспечиваемые разработкой моделей и процедур синтеза их структур на основе многоуровневого нейросетевого описания.

Для ее достижения необходимо решить следующие основные задачи.

1. Выявление и обоснование иерархии нейросетевых описаний (моделей) структур функциональных аналого-цифровых (АЦП) и цифроанапоговых (ЦАП) преобразователей, а также положений их применения для синтеза этих устройств.

2. Разработка функциональных моделей нейронов-преобразователей и синапти-ческих связей с гибридной (аналого-цифровой) формой представления переменных.

3. Разработка моделей и процедур (порядка и содержания этапов) синтеза структур нейропреобразователей, базирующихся на выборе необходимого уровня их нейросетевого описания.

4. Разработка специализированных алгоритмов обучения (настройки) и коррекции параметров нейросетевых преобразователей частотно-временных параметров сигналов.

Методы исследования. Для решения поставленных задач использовались аппарат теории искусственных нейронных сетей, теория аппроксимации и приближения функций, элементы теории графов и синтеза операционных устройств вычислительной техники, методы моделирования.

Научная новизна работы:

1) разработаны и применены положения многоуровневого нейросетевого описания структур преобразователей информации, отличающегося степенью детализации представления элементарных нейроопераций при осуществлении синтеза устройства;

2) разработаны функциональные модели нейронов-преобразователей и настраиваемых синаптических связей с гибридной (импульсно-цифровой) формой

2

представления переменных, полученные в виде совокупности нейросетевых операций над ними и выступающие в качестве необходимых составляющих при синтезе ИНС-преобразователя;

3) предложены модели и процедуры синтеза структур функционального преобразователя, базирующиеся на выборе необходимого уровня его нейросетевого описания и получении в результате обучения аппроксимирующей нейросети конфигурации схемы устройства с минимальными аппаратными затратами при обеспечении заданной точности преобразования;

4) разработана методика структурного синтеза нейрона-преобразователя как операционного устройства на основе типовых узлов и элементов вычислительной техники для вариантов непрерывного и циклического принципа действия, позволяющая упорядочить процедуру создания новых структур устройства преобразования формы представления информации;

5) разработаны специализированные алгоритмы обучения, настройки (или коррекции) параметров структур ИНС-преобразователей при решении новой задачи преобразования с использованием принятых видов нейросетей и уровней их описания.

Обоснованность и достоверность полученных результатов подтверждаются математическими обоснованиями, корректным использованием аппарата искусственных нейронных сетей и теории аппроксимации, сопоставлением альтернативных подходов, а также результатами моделирования.

Практическая значимость и результаты внедрения. Практическая значимость работы состоит в том, что предложенные модели и процедуры синтеза нейросетевых структур устройств преобразования формы информации являются основой для создания на базе программируемых БИС линейных и функциональных преобразователей импульсно-аналоговых сигналов с расширенными операционными возможностями и улучшенными технико-экономическими характеристиками.

Результаты диссертационной работы внедрены в разработках ОАО «Рязанский радиозавод» и использованы при выполнении НИР 14-09Г «Теория и проектирование преобразователей формы информации на основе нейросетевых технологий» по гранту (№ РНП 2.1.2.6390 от 12.12.2008 г.) ведомственной целевой программы «Развитие научного потенциала Высшей школы» и НИР 6-10Г «Теория и проектирование медицинских измерительно-информационных систем на основе нейробионических технологий» (№ 10-08-97525-р_центр-а, 01.2010 г.) по гранту Российского фонда фундаментальных исследований. Результаты работы также использованы в учебном процессе РГРТУ на кафедре биомедицинской и полупроводниковой электроники, что подтверждено соответствующими актами.

Основные положения, выносимые на защиту

1. Положения многоуровневого нейросетевого описания структур преобразователей информации, отличающегося степенью детализации представления элементарных нейроопераций при осуществлении синтеза устройства, что позволяет сократить сроки проектирования преобразователя, несмотря на большое количество прорабатываемых при этом технических решений.

2. Функциональные модели нейронов-преобразователей и настраиваемых синаптических связей с гибридной (импульсно-цифровой) формой представления переменных, полученные в виде совокупности нейросетевых операций над ними и выступающие в качестве необходимых составляющих при синтезе ИНС-преобразователя.

3. Методика структурного синтеза ИНС-преобразователя как операционного устройства на основе типовых узлов и элементов вычислительной техники для вариантов их непрерывного и циклического принципа действия, позволяющая упорядочить процедуру создания новых структур устройства преобразования от этапа постановки задачи до его аппаратной реализации.

4. Специализированные алгоритмы обучения, настройки (или коррекции) параметров структур ИНС-преобразователей при решении заданной задачи преобразования с использованием принятых видов нейросетей и уровней их описания, обеспечивающие улучшение характеристик устройства, в частности снижение примерно в 5 раз затрат на реализацию 8-разрядного персептронного устройства (в числе логических ячеек ПЛИС).

Апробация работы. Основные положения и результаты работы докладывались и обсуждались на 9 международных и 16 всероссийских конференциях, в том числе на 8-м и 9-м международных симпозиумах «Интеллектуальные системы» (Москва, 2008 и 2010 гг.) и международной конференции с элементами научной школы для молодежи «Биотехнические, медицинские и экологические системы и комплексы» (Рязань, 2009 г.) и др.

Публикации. Самостоятельно и в соавторстве по теме диссертации опубликованы 42 работы, из которых 11 статей (4 в журналах по перечню ВАК РФ), 25 тезисов докладов на конференциях, 1 патент на изобретение, 4 свидетельства об отраслевой регистрации разработки программ для ЭВМ, 1 монография (в соавторстве).

Структура работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы из 105 наименований и приложения. Содержит 148 страниц основного текста и 69 страниц рисунков и таблиц (79 рисунков и 29 таблиц).

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы, дается анализ состояния исследований и разработок, формулируются цель и задачи исследования, дается характеристика выполненной работы.

В первой главе «Основные положения многоуровневого нейросетевого описания структур функционального преобразователя. Этапы его синтеза с использованием математических нейроновъ представлены положения и возможности многоуровневого (стратифицированного) нейросетевого описания структур функциональных преобразователей информации, отличающегося степенью детализации представления элементарных нейроопераций при осуществлении синтеза устройства, обеспечивающего сокращение сроков проектирования преобразователя.

Предлагается использовать три уровня описания ИНС-преобразователей.

1. Метауровень - на основе операций математических (формальных) нейронов и оперирования переменными, принятыми для данного вида нейронов (математический уровень).

2. Макроуровень - на основе операций нейронов-преобразователей (крупнозернистый уровень описания) с применением основных структурных единиц данных в виде кодов (слов) и потоков единичных битов. Под нейронами-преобразователями (НП) понимаются математические нейроны с гибридной формой представления информации и возможностью ее преобразования НП с совмещением выполнения нейросетевых операций.

3. Микроуровень - на основе типичных нейросетевых операций (мелкозернистый уровень) над битами слов и потоками единичных импульсов.

Второй уровень описания ориентирован на аппаратную реализацию синтезируемой структуры устройства на базе типовых операционных узлов ВТ, а третий - на основе логических элементов.

Каждый из применяемых уровней стратифицированного описания ИНС-преобразователя характеризуется следующими свойствами: степенью детализации формы представления переменных и вида компонентов его структуры; составом компонентов (элементов и связей), образующих структуру устройства; уровнем детализации связей и информационных потоков между элементами структуры; соответствующими для каждого из уровней процедурами синтеза ФП

_ Результатом процедуры на любом из уровней является получение определенной модели структуры синтезируемого преобразователя как основы перехода на следующий уровень описания разрабатываемого устройства, а также к его физической реализации и настройке. Модель структуры на 1-м уровне может быть также использована для программной реализации или эмуляции ИНС-преобразователя. При синтезе предлагается учитывать многообразие исходного представления разрабатываемой структуры преобразователя в ввде ИНС: 1) с обучаемой структурой; 2) с обучаемыми связями; 3) формируемой; 4) комбинированной (смешанной) ней-росста

В работе принята следующая постановка задачи разработки устройства. Необходимо создать нейросетевую структуру преобразователя д:-»/, обеспечив минимизацию показателя затрат С ->гтп на его последующую аппаратную реализацию, в том числе на ПЛИС, при выполнении ограничений на допустимую погрешность и заданное время Тпр_ преобразования: 5пр <8^ и Тщ <Тпр .

Для метауровня описания структурной модели ИНС-преобразователя характерны следующие основные этапы его синтеза:

1) выбор и обоснование архитектуры исходной ИНС (рис. 1) и типов ее нейронов;

2) определение базовой конфигурации структуры ИНС-преобразователя;

3) обучение сети преобразователя;

4) оценка возможных аппаратных затрат на реализацию сети.

При построении ИНС-преоОразователеи используются две основные разновидности математических нейронов: стандартные и нестандартные. К стандартным отнесены нейроны, имеющие

1-й спой 2-й спой

Рисунок 1 - Структурная модель ИНС-преобразователя в воде двухсловной сети

пороговую, импульсную пороговую и сишоццальные функции активации. Так, в качестве активационной функции математических нейронов МН<ц скрытого слоя

двухслойной сети ИНС-преобразователя «код - аналог» (см. рис. 1) предложено использовать функцию «упрощенной» сигмоиды, вычисление которой, в отличие от обычной (классической) сишоиды, сводится к вычислению дробно-линейной функции вида:

еЩ,

■ -,еслив™> 0;

+ ' (1) 0 иначе,

где Ь] - коэффициент, задающий индивидуальный вид функции активации ^ каждому нейрону МН]]) первого слоя, в^ -сумма его входных сигналов Х(0>.

К нестандартным нейронам отнесены радиально-базисные нейроны (и разновидности заменяющих их нейронов с функциями активации первого и второго порядка), паде-нейроны и нейроны с квадратичным сумматором.

Матричное описание выбранной при синтезе исходной сети (например, рис. 1) представляется следующим образом:

У = (2)

где -транспонированные матрицы весовых коэффициентов сети.

В главе 1 также приведены варианты структурных моделей ИНС-преобразователя с использованием многослойных сетей с прямыми и обратными связями в виде персепгронных, радиально-базисных, рекуррентных и других сетей. При этом коэффициент выигрыша кв по времени проектирования ИНС-преобраэователя как цельного устройства по сравнению с ФП с известной «жесткой» структурной организацией примерно равен 4.

Во второй главе «Функциональные модели нейронов-преобразователей «код -аналог» и «аналог-код»» предложена и реализована методика построения функциональных моделей элементарных нейронов-преобразователей (НП), а также нейронов-сумматоров и -вычитателей частотных сигналов.

Элементарные нейроны-преобразователи являются наиболее простыми операционными узлами, математические операции которых, как правило, осуществляются с одновременным преобразованием формы представления переменных путем выполнения НП двухместных операторов (Оп) ввда:

Оп "£>->£", ", Оп "5 ->• 5 ", Оп

где 5е{т,Г,Т}, т -временной интервал, ^ - частота, Т - период;

N - позиционный код, п - число импульсов.

Предложенная методика содержит следующие этапы.

1. Устанавливается конкретный вид АЦ- или ЦА-преобразования, например «код - период», и определяются соответствующие для него формы представления переменных, например: аналоговая переменная - период Т, дискретная -код N.

2. Для принятого набора нейросетевых операций задается ввд математического нейрона с указанием применяемой функции активаций

3. Задаются способы представления сигналов на входах и выходе НП, а также параметров активационной функции. Например (рис. 2), на входе:

X -цифровойэквивалент в ввде ¿-разрядного позиционного кода;

*о('7о) = 10Т0) - поток единичных импульсов, следующих с периодом Т0, ко-

торый задает эталон преобразования «код - аналог», / = 1,2,..., где Т0 = 1 //0;

в' - порог функции активации Рип нейрона в виде Л-разрядного двоично-

позиционного кода.

В соответствии с функцией преобразования НП «код - период» сигнал на выходе НП представляется в виде потока единичных импульсов (битов) у(]Ту) = \ijTy), следующих с периодом Ту, где Ту -1//у.

4. Задается представление активаци-онной функции /■"(<?) НП, например в виде импульсной пороговой функции: Рнп.

5. Формируется совокупность выражений, описывающих функционирование НП в виде операций, характеризующих совместную работу блоков активации и суммирования нейрона. Для НП циклического типа также учитывается необходимость выполнения операций начальной установки нейрона и съема результата с его выхода.

Формируемая в соответствии с данной методикой функциональная модель нейрона-преобразователя (см. рис. 2) в общем виде описывается совокупностью нейросетевых операций, характеризующих работу блока активации и суммирования соответственно. Так, для НП «код - период» (см. рис. 2):

УиТу) = РнптТ»)-в'), 7 = 1,2,..., / = 1,2.....

\\иТу\еслиОаТй)-в' >0-,

нп ~1л

[О иначе,

вОТ0) = м>гх+кг-'£х0(1Т1>),

где РИП - импульсная пороговая функция активации, з = Ту/Т0 - число единичных импульсов за интервал (период) Ту.

6. В соответствии с характеристиками частотно-временных параметров преобразуемых потоков единичных импульсов осуществляется получение математического описания функции преобразования НП. Например, для НП «код - период» (см. рис. 2) функция преобразования имеет вид: Ту = Та ■ х .

На основе предложенной методики разработаны функциональные модели НП «код - аналог» и «аналог - код» прямого (например, рис. 2) и замкнутого принципов действия, а также нейронов-сумматоров и нейронов-вычитателей, образующих библиотеку базовых нейроэлементов синтезируемых структур ИНС-преобразователей. Наличие библиотеки обеспечивает сокращение сроков проектирования преобразователей с необходимыми техническими характеристиками.

На рис. 3,а представлен нейрон-преобразователь на основе метода

следящего уравновешивания частот с выходом у в виде позиционного кода Nу = РклРк.гРк.г—Рй, а на рис. 3,6 - его эквивалентная схема.

НП

уиту)

хМЛ

Рисунок 2 - Нейрон-преобразователь "И -» Т" и "И Р" с выходом в виде периода

Входы

нп

а б

Рисунок 3 — Нейрон-преобразователь на основе метода следящего уравно-

вешивания частот (а) и его эквивалентная схема (б)

При этом функционирование преобразователя (см. рис. 3,6) "Р->И" описывается совокупностью нейросетевых операций:

У С*-! + О = /('„-,) + а0('т-1 + . (3)

(4)

-1 иначе,

где тт =1/(/г - ) - отрезок времени гт =/„ по истечении которого в момент 1т формируется единичное значение сигнала а0(ГтЧ + гт) = + 1, отражающее результат сравнения (4), когда

Операция преобразования НП «частота - код» (см. рис. 3,а) имеет вид:

.Л "2"

Ун = -

/о

(5)

Методика построения функциональных моделей НП применяется также для синтеза перестраиваемых аналого-цифровых синаптических связей в ввде НП с линейной или нелинейной функцией активации.

Произведены оценки точности и быстродействия нейронов-преобразователей «код-аналог» и «аналог - код», позволяющие определить в предлагаемых структурах НП разрядность операционных узлов и время формирования результата преобразования.

В третьей главе «Структурный синтез ИНС-преобразователей на основе операционных узлов вычислительной техники (крупнозернистый уровень)» разработаны модели и процедуры синтеза структур ИНС-преобразователя, начиная от постановки задачи до его аппаратной реализации. Процедура синтеза ИНС-преобразователя с использованием крупнозернистого набора нейросетевых операций (рис. 4) содержит 8 основных этапов, выполнение которых увязано с использованием библиотек: типов нейросетей, нейроузлов, нейронов-преобразователей, алгоритмов обучения (настройки) сетей и др.

Формирование содержания этапов синтеза базируется на совокупности определенных подходов, приемов, моделей и методик, образующих в целом предлагаемое в работе методологическое обеспечение разработки новых структур функциональных преобразователей (ФП) частотно-временных параметров сигналов в код (и обратно) на основе применения нейросетевых технологий.

Рисунок 4 - Укрупненная процедура синтеза схемы ИНС-преобразователя

Исходно разработка устройства опирается на выбор подхода (этап 1) к получению структуры ИНС-преобразователя на основе классификации сетей по способу решения задачи: формируемые сети, сети с формируемой матрицей связей, обучаемые сети и комбинированные. Получение математической ИНС-модели ФП (этап 2) производится в соответствии с этапами, рассмотренными в главе 1, с учетом особенностей аппаратной реализации формируемой модели.

На этапе 3 определения структурно-алгоритмической организации нейросе-тевого ФП, реализующего функцию преобразования импульсно-аналоговых сигналов на базе аппаратных средств, выбираются принцип действия преобразователя и соответствующий режим его работы: 1) непрерывный (однотактный); 2) циклический (многотактный).

На рис. 5 приведен вариант многотактного ИНС-преобразователя на основе нейросекции «код - временной интервал» циклического типа, реализующей дробно-линейную функцию вида

= -КОй1)/(/0Мх/21 +/0МЬа) /2<),

применение которой позволяет создать ИНС-преобразователь N «код - временной интервал» (патент № 2420804), базирующийся на представлении аппросимирующей функции в виде суммы простых дробей (или «упрощенных» сигмоид).

Рисунок 5 - Ненросекцня ИНС-преобразователя «код - временной интервал» Далее в соответствии с процедурой (см. рис.4) осуществляется получение структурной модели устройства (этап 4) в терминах аналого-цифровой (АЦ) нейро-сети, оперирующей с разнообразными формами представления физических переменных и использующей в качестве элементов сети нейроны-преобразователи (НП). Представление ФП в виде АЦ-сети требует применения определенных приемов сопряжения НП в указанной сети в отличие от программно-реализуемых ИНС.

Функционирование рассматриваемого многотактного ИНС-преобразователя (см. рис. 5) описывается содержательным (рис. 6,а) и закодированным (рис. 6,6) графами.

Затраты С на реализацию сети ИНС-преобразователя (этап 5) предлагается определять как:

С = + (6)

где Сад - затраты на синаптические связи, с^,' - затраты на активационные функции, Ут - количество ненулевых связей, идущих от нейронов (/-1)-го слоя к нейронам / -го слоя (память / -го слоя) с учетом в У(П количества единичных К,"' и неединичных V™ связей: К(,) = Г,(" + Г„(/); У(,) <(М(" хК(1)), где М(1) и К{1) =¿1,-число входов и выходов / -го слоя сети.

Загрузка: N

сю ою

Тайыер Таймер

ожидания Те ожидания Г«

Реализация этапа 6 базируется на предложенной методике структурного синтеза НП как операционного устройства, которая содержит следующие 4 стадии.

Стадия 1. Задание переменных и декомпозиция структурной модели ИНС-преобразователя в виде совокупности элементарных нейронов-преобразователей.

Декомпозиция структурной модели ИНС-преобразователя проводится с целью нахождения отдельных его составляющих в виде элементарных НП как наименьших процессорных (вычислительных) компонентов синтезируемого устройства на 2-м уровне его описания.

Так, ЯЯ)" (рис. 7) представлен как па-

де-нейрон, в который входят 4 элемента:

а) обучаемая аналого-цифровая синап-тическая связь нейрона-преобразователя

по входу /0 (выделена на рис. 7

пунктирным блоком а), реализуемая, в частности, на основе элементарного НП «код - частота», известного как двоичный умножитель (ДУ);

б) согласующая синаптическая связь (блок б), необходимая для согласования формы представления переменной по входу

на основе НП «код - частота»;

Рисунок 6 - Содержательный (а) н закодированный (б) граф функционирования многотактного ИНС-преобразователя «код - временной интервал»

Входы

N. ♦

! I

-да-

I а

/о

N..

А*"»

"и*

+

Выход

/

б! ял'" в) нейрон-вычитатель час-

тот (блок в), формирующий значение числителя б, для последующей операции деления;

г) единичные согласующие синаптические связи в составе ЯЯ}" с формированием знаменателя и одновременным осуществлением операции деления 0,/С/2 (блок г) на основе элементарного НП «код -частота».

Стадия 2. Получение функциональных моделей НП в виде совокупности нейросетевых операций как основы выявления его функции преобразования и перехода к построению его структурной схемы как операционного устройства.

+

Рисунок 7 - Нейрон-преобразователь «код - частота» непрерывного принципа действия

В таблице представлены типичные операции НП, реализуемые операционными узлами вычислительной техники (ВТ).

Список типичных операций НП__

№ п/п Название Операция нейросетевого базиса НП Операция Операционный узел

1 Начальная загрузка 0(0)|,.,Т| = х С = ЛГ, Счетчик С

2 Операция сравнения Схема сравнения СР

3 Операция умножения <*0(Яо) = У(Лту/Т1)-х0(1Т0) <Хо=У-хо Схема И

4 Операция счета 0(,Т0) = *-+£а0(;Т0) ы С = С + сс0 Счетчик С

5 Аналого-цифровое умножение 0 = |>,-а(2 ЫТ0) 1.0 /=/£- ¿у ■><> 2* Двоичный множитель ДУ

Стадия 3. Реализация отдельных выражений совокупности, составляющей содержание функциональной модели НП, с помощью типовых узлов ВТ.

Полученные в главе 2 совокупности выражений описывают работу НП циклического или непрерывного принципов действия. Для построения схемы НП циклического типа на основе типовых узлов ВТ необходимо составить содержательный и закодированный графы, описывающие функционирование НП с помощью последовательности операций, выполняемых операционными узлами (ОУ).

Стадия 4. Построение логической схемы элементарного НП как операционного устройства.

Выход

Рисунок 8 —Структурная схема многотактного ИНС-преобразователя

«код - период»

Построение логической или структурной схемы ИНС-преобразователя (этап 7) опирается на библиотеку схем элементарных НП и аналого-цифровых синаптических связей на основе типовых узлов и элементов ВТ. Конфигурация схемы (см. рис. 8) определяется топологией полученной на этапе 4 АЦ-нейросети как модели ИНС-преобразователя с учетом замены нейроузлов на соответствующие логические схемы, реализующие их функции.

Затем на этапе 8 производится анализ технических характеристик полученной схемы устройства для оценки его погрешности преобразования, быстродействия и аппаратных затрат на реализацию. Указанные оценки базируются на полученных на основе эквивалентных схем учета инструментальных погрешностей ИНС-преобразователей аналитических выражениях, которые связывают выбираемую разрядность операционных узлов с требуемой точностью преобразования.

В четвертой главе «Специализированные алгоритмы настройки структур ИНС-преобразователей» предложены специализированные алгоритмы обучения, настройки (или коррекции) параметров структур ИНС-преобразователей при решении новой задачи преобразования с использованием принятых видов нейросетей и уровней их описания, обеспечивающих улучшение характеристик устройства.

Процедуры коррекции весовых коэффициентов и порогов нейронов преобразователя частотно-временных параметров сигналов в код на основе двухслойного персептрона (на рис. 9 приведены этапы коррекции для первого слоя двухслойного персептрона) в общем случае позволяют:

- выявить значения весов w и порогов в нейронов, неэффективных для последующей физической реализации структуры ИНС-преобразователя при заданной форме представления входной переменной;

- обеспечить уменьшение аппаратных затрат С на формирование синапти-ческих связей за счет приведения их весовых коэффициентов w к виду, приводящему к минимизации затрат С —> min на реализацию преобразователя.

Структура нейросетевого ФП «частота - код» fx-*N с классификационным кодированием на основе двухслойного персептрона описывается выражением:

с Начало )

Этап 1 1 1

< = n^-tf/»; vf1(')l = w,"/; в™ = 0; /=[U]

Этап 1 2 1

w",2 =

Этап 1.3 J.

если |w«B| < |1| и * 0;

- Цн£)2|) если |и>»»| < |1| и < 0; WjJ2 иначе; / = [1Д]

<=[U]

1

( Конец )

г=1 Ум

Рисунок 9 - Этапы коррекции для первого слоя двухслойного персептрона

/ = р,*], (7)

при этом значения весовых коэффициентов у/^] и порогов ак-тивационных функций, обеспечивающие линейную функцию преобразования и полученные с по-

мощью алгоритма обратного распространения, представлены в виде матриц: 21,4766 20,5260 - 20,026

0(')=|12,8ОЗЗД/о 25,4081 Д/0 -41,92754/„

©<2>=| -4,3888 8,5032 18,75051

(-7,6016 -14,6111 17,1167 -15,711 15,441 -1,5102 И"г) = -4,6578 -15,481 13,6756 3,4456 0,8141 13,3914 Поскольку в качестве эталона преобразования /2 выступает частота А/о = /ик> то на значения элементов каждого столбца матриц IV01 и в'" при построении ПФИ /х —> Nу, где /х= /,, накладываются следующие ограничения:

ey<\fxJ,i=[\,k].

(В)

Введение ограничений (8) связано с физической невозможностью формирования аппаратурой ФП частот, превышающих максимальную частоту /.

Синаптические связи вида и',"/ • /х и м^' • А/0 реализуются на основе НП «код - аналог», выполняющего цифрочастотное умножение.

После проведения процедур коррекции значения весовых коэффициентов

и порогов #((/> активационных функций принимают вид:

и*"=| 1 1 II, 0(1) = II о о о |,

I -1 -1,9497 2,9484 ||' 11 "

-1 1 О

0"2) = 0-11, 012) = || 0 1 21.

0 0 1

Для 8-разрядного преобразователя на основе двухслойного персептрона применение процедур коррекции приводит к снижению аппаратных затрат на его реализацию примерно в 5 раз (по количеству логических ячеек ПЛИС) в сравнении с вариантом использования исходных значений параметров сети (кА'] и 0/°), полученных с помощью алгоритма обратного распространения ошибки.

Предложено применение радиально-базисной сети в качестве интерполятора требуемой характеристики преобразования, заданной в табличном виде, для получения ее в виде аналитического выражения, что позволяет увеличить объем обучающей выборки с целью более точной настройки ИНС-преобразователя.

При применении аппарата радиально-базисных сетей (РБС) искомая функция _у = ф(х') при ее реализации посредством ИНС-преобразователя (одновременно и интерполятора) будет описываться выражением:

^(2)|1>и ''=[07]. (9)

V I )

Предложены также специализированные алгоритмы настройки персептрон-ных, радиально-базисной и рекуррентной сетей на решение задачи преобразования частотно-временных параметров сигналов, позволяющие существенно сократить затраты на реализацию ИНС-преобразователя за счет приведения весовых коэффициентов и порогов нейронов к нулевым и единичным значениям.

Для задачи измерения уровня электропроводных сред рассмотрен пример настройки и реализации на ПЛИС многотактного ИНС-преобразователя «частота-код» с обучаемыми синаптическими связями, реализующего аппроксимирующую функцию в виде суммы простых дробей (или «упрощенных» сигмоид):

(Ю)

Л Л 2*

где /х и /к - частоты с измерительного и компенсационного каналов частотного датчика уровня (или первичного преобразователя ПП) соответственно; к - количество разрядов двоичного умножителя.

При обучении и настройке сети устройства, структура которого разработана в соответствии с процедурой синтеза (см. рис. 4), обеспечивается линеаризация функции преобразования /х = Р(Н) датчика, представленной исходно в виде его тари-

ровочной характеристики. Для получения кода N,,, линейно связанного с уровнем Я, функция преобразования N„ = F~'(fx), реализуемая ИНС-преобразователем, является обратной характеристике датчика уровня /г = F(H). При этом воспроизведение функции N„ = F~'(fx) осуществляется посредством ее аппроксимации зависимостью (10). В результате обучения ИНС-преобразователя с использованием алгоритма обратного распространения ошибки на получение функции (10) со среднеквадра-тической погрешностью приближения к NH = F~l(fx), равной 0,4 %, для двухтактного режима работы (j = 1,2) устройства при ¿ = 10 определены следующие значения параметров (10): Л^ =-49, Л^ =2476, N^ =332, N^ =200, N^ =10. Для микроэлектронной реализации ИНС-преобразователя используется микросхема ЕР1СЗТ фирмы Altera. В качестве постоянного запоминающего устройства (ПЗУ) для хранения кодов применяется микросхема 93С66, а генератора синхросигналов с частотой /0 = 100 МГц - микросхема НО-11С-100.000.

Четыре программы по моделированию алгоритмов обучения (настройки) ИНС-преобразователей зарегистрированы в Отраслевом фонде алгоритмов и программ РФ: № 8234, № 8235, № 8645 и № 8646.

В заключении приведены основные результаты диссертационной работы.

1. Предложены и реализованы положения многоуровневого нейросетевого описания структур функциональных преобразователей информации (ФПИ), определяющие организацию и упорядочивающие процесс получения их структур:

1) применение трех уровней нейросетевого описания структур ФПИ, отличающихся степенью абстрагирования (детализации) их моделей;

2) учет в алгоритме синтеза ФПИ уровней детализации его нейросетевого описания и необходимости его настройки при обеспечении целевой функции С -> min минимизации аппаратных затрат проектируемого ФП;

3) многообразие исходного представления синтезируемой структуры преобразователя в виде: 1)ИНС с обучаемой структурой; 2)ИНС с обучаемыми связями; 3) формируемой, 4) комбинированной (смешанной) нейросети.

2. Разработаны функциональные модели нейронов-преобразователей (НП), базирующиеся на сформулированных положениях их получения, которые задают порядок и основное содержание операций и приемов по формированию совокупности математических выражений в нейросетевом функционально-логическом базисе операций, обеспечивающих необходимую функцию преобразования НП.

3. Разработана методика структурного синтеза ИНС-преобразователя как операционного устройства на основе типовых узлов и элементов вычислительной техники для вариантов их непрерывного и циклического принципа действия, позволяющая упорядочить процедуру создания новых структур устройства преобразования от этапа постановки задачи до его аппаратной реализации.

4. Предложены процедуры коррекции весовых коэффициентов и порогов нейронов преобразователя частотно-временных параметров сигналов в код на основе двухслойного персептрона, а также специализированные алгоритмы настройки персептронных, радиально-базисной и рекуррентной сетей на решение задачи преобразования частотно-временных параметров сигналов, в том числе при линеаризации характеристик датчиков для уровнемеров электропроводных сред.

15

В итоге решена важная научно-прикладная задача разработки моделей и процедур синтеза структур функциональных преобразователей частотно-временных параметров сигналов с использованием многоуровневого нейросетевого описания, что обеспечивает расширение операционных возможностей разрабатываемых преобразователей и повышение формализации получения проектных решений.

Список основных публикаций

1. Антоненко A.B. Применение трехслойной персептроной сети для построения преобразователя биосигналов в позиционный код // Биотехнические, медицинские и экологические системы и комплексы: материалы 19-й всероссийской научно-технической конференции студентов, молодых ученых и специалистов. Рязань: РГРТУ, 2006. С. 102-104.

2. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Проектирование интеллектуальных преобразователей информации на базе программируемых СБИС // Интеллектуальные системы: труды восьмого международного симпозиума. М.: РУСАКИ, 2008. С. 289-292.

3. Челебаев C.B., Антоненко A.B. Нейросетевой преобразователь цифрового кода в частоту на основе радиально-базисной сети как составная часть преобразователей биомедицинских сигналов в код И Биотехнические, медицинские и экологические системы и комплексы: материалы международной конференции с элементами научной школы для молодежи. Рязань: РГРТУ, 2009 г. С. 235-239.

4. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Специальные алгоритмы обучения персептронных сетей на решение задачи преобразования частотно-временных параметров биомедицинских сигналов в код // Информационные и управленческие технологии в медицине и экологии: сборник статей III всероссийской научно-технической конференции. Пенза: Приволжский Дом знаний, 2009. С. 3-5.

5. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Perception Networks Specialized Training Algorithms on the Time-and-Frequency Signals Parameters in Code Conversion Task Solution II Interactive Systems and Technologies: the Problems of Human-Computer Interaction. Volume III. Collection of scientific papers. Ulyanovsk: U1STU, 2009. P. 434-437.

6. Антоненко A.B. Разработка аналого-цифрового преобразователя с функцией коррекции дрейфа нуля // Приоритетные направления современной российской науки глазами молодых ученых: материалы всероссийской научно-практической конференции молодых ученых и специалистов. Рязань: РГУ им. С.А. Есенина, 2009. С. 389-391.

7. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Процедуры настройки нейросе-тевых преобразователей формы информации на базе программируемых сверхбольших интегральных схем II Вестник Московского государственного технического университета имени Н.Э. Баумана. Сер. «Приборостроение», №3,2009. С. 76-89.

8. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Построение подсистем преобразования и идентификации частотно-временных параметров биосигналов с использованием персептронных сетей // Биотехносфера, № 5. СПб.: Политехника, 2009. С. 18-24.

9. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Алгоритмы настройки персептронных сетей на преобразование частотно-временных параметров сигналов в код // Вестник Рязанского государственного радиотехнического университета, № 4. Рязань: РГРТУ, 2009. С. 27-35.

10. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Специализированные алгоритмы обучения и настройки рекуррентной сети преобразователя частотно-временных параметров сигналов в код // Успехи современного естествознания. Париж, 2009. Кг 11. С. 72-74.

11. Антоненко A.B. Сравнение заменяющих активационных функций нейронов ра-диально-базисной сети при построении преобразователей формы информации // Современные проблемы радиотехники и телекоммуникаций «РТ-2010»: материалы 6-й международной молодежной научно-технической конференции. Севастополь: СевНТУ, 2010. С. 277.

12. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Analogue signals input-output processors with trained structure // Интеллектуальные системы: труды 9-го международного симпозиума. М.: РУСАКИ, 2010. С. 312-315.

13. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Об унификации инвариантной к виду входного сигнала структуры нейросетевого аналого-цифрового преобразователя // Нейрокомпьютеры, № 4. 2010. С. 54-61.

14. Антоненко A.B. Модели нейронов сети как компонентов ИНС-преобразователей // Физика полупроводников. Микроэлектроника. Радиоэлектронные устройства: межвузовский сборник научных трудов. Рязань: РГРТУ, 2010. С. 17-25.

15. Антоненко A.B. Детализация обучаемых структур преобразователей формы информации // Новые информационные технологии в научных исследованиях и в образовании: материалы 15-й всероссийской научно-технической конференции студентов, молодых ученых и специалистов. Рязань: РГРТУ, 2010. С. 245-246.

16. Свидетельство об отраслевой регистрации разработки № 8234. Программа для обучения нейронной сети на основе персептрона на решение задачи преобразования частоты и временного интервала в унитарный код с числоимпульсным способом кодирования результата // Челебаев C.B., Антоненко A.B.; Правообладатель РГРТУ. Дата регистрации 04.05.07; дата выдачи 27.05.07.

17. Свидетельство об отраслевой регистрации разработки № 8235. Программа для обучения нейронной сети на основе двухслойного персептрона на решение задачи преобразования частоты и временного интервала в унитарный код с классификационным способом кодирования результата // Челебаев C.B., Антоненко A.B.; Правообладатель РГРТУ. Дата регистрации 04.05.07; дата выдачи 27.05.07.

18. Свидетельство об отраслевой регистрации разработки № 8645. Программа для обучения нейронной сети на основе трехслойного персептрона на решение задачи преобразования частоты и временного интервала в позиционный код / Челебаев C.B., Антоненко A.B.; правообладатель РГРТУ; дата регистрации 29.06.07; дата выдачи 12.07.07.

19. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Нейросетевые аналого-цифровые преобразователи // под общей редакцией А.И. Галушкина. М.: Горячая линия-Телеком, 2010. -128 с.

20. Паг. 2420804. Российская Федерация, МПК G 06 F 15/00. Нейросетевой преобразователь кода в частоту [Текст] // Локтюхин В.Н., Челебаев C.B., Антоненко A.B.; Заявитель и патентообладатель РГРТУ. № 2009137684/08. Бюл. № 16 от 10.06.2011.2 е.: ил.

Антоненко Андрей Васильевич

СИНТЕЗ ФУНКЦИОНАЛЬНЫХ ПРЕОБРАЗОВАТЕЛЕЙ ЧАСТОТНО-ВРЕМЕННЫХ ПАРАМЕТРОВ СИГНАЛОВ НА ОСНОВЕ МНОГОУРОВНЕВОГО НЕЙРОСЕТЕВОГО ОПИСАНИЯ

Автореферат

диссертации на соискание ученой степени кандидата технических наук

Подписано в печать Ю.Ю. I/ . Формат бумаги 60x84 1/16. Бумага офсетная. Печать трафаретная. Усл. печ. л. 1,0. Тираж 100 экз. Заказ ¿к?. Участок оперативной полиграфии Рязоблкомстата. 390013, Рязань, ул. Типанова, 4.

ВВЕДЕНИЕ

Глава

ОСНОВНЫЕ ПОЛОЖЕНИЯ МНОГОУРОВНЕВОГО НЕЙРО-СЕТЕВОГО ОПИСАНИЯ СТРУКТУР ФУНКЦИОНАЛЬНОГО ПРЕОБРАЗОВАТЕЛЯ. ЭТАПЫ ЕГО СИНТЕЗА С ИСПОЛЬЗОВАНИЕМ МАТЕМАТИЧЕСКИХ НЕЙРОНОВ

1.1 Особенности представленияшнформации и структурной организации функциональных преобразователей частотно-временных параметров сигналов

1.2 Выбор-и обоснование уровней описания структур преобразователя при его синтезе на основе нейросетевых технологий. Укрупненная процедура' синтеза с учетом выбранного уровня

1.3 Постановка задачи и целевая функция разработки. ИНС-преобразователя с использованием операций математических нейронов

1.4 Выбор математической модели нейронов для построения аппроксимирующих ИНС-преобразователей

1.5 Этапы синтеза структурношмодели ИНС-преобразователя с использованием операций математических нейронов

Актуальность работы. Важным направлением кардинального повышения точности и надежности измерительно-управляющих систем является развитие функциональных (интеллектуальных) возможностей преобразователей, осуществляющих аналого-цифровое и цифроаналоговое преобразование, а также первичную математическую переработку частотных и времяимпульсных (или импульс-но-аналоговых) сигналов. Созданию теории, методов и специализированных средств их преобразования и обработки посвящены работы [1 — 12] многих советских и зарубежных ученых: СмоловаВ.Б., Угрюмова Е.И:, Карпова Р.Г., Па-ламарюка Г.О., Шляндина ВМ*, Новицкого П.В., Кнорринга В.Г., Гутнико-ваВ.С., Шахова Э.К., ДанчееваВ.П., Герасимова И.В., Сафьянникова Н.М., Ву-да П., Тейлора Д. и др.

Одной из первопричин« интеллектуализации преобразователей формы информации (ПФИ) является развитие технологий* микроэлектроники. С появлением в последние годы БИС с программируемой структурой, в том.числе программируемых логических (ПЛИС) и аналоговых (ПАИС) интегральных схем, а также «систем на кристалле», появились все необходимые предпосылки для дальнейшего улучшения технико-экономических характеристик функциональных" преобразователей частотно-временных параметров3 и амплитуды измерительных сигналов, схема (структура) которых может быть обучена и оперативно реконфигурирована на решение новой задачи преобразования.

Одним из возможных эффективных направлений построения такого рода устройств- вычислительной техники является применение математического аппарата искусственных нейронных сетей (ИНС). Его использование позволяет в результате обучения нейросети получить математическое описание структуры преобразователя, отличающегося высокой однородностью составляющих его нейроэлементов» и технологической простотой микроэлектронной реализации сети, в том числе, за счет ее топологической однородности. В связи с этим в последние годы, наряду с созданием нейрокомпьютерных средств обработки информации, в стране и за рубежом получен целый ряд научных и практических результатов по разработке перспективных нейросетевых аналого-цифровых (АЦП) и цифроана-логовых (ЦАП) нейросетевых (ИНС-)преобразователей. Повышенное внимание к применению нейросетевых технологий для синтеза структур преобразователей обусловлено также появившейся возможностью их реализации на перспективных элементах обработки сигналов различной природы с использованием молекулярных и атомарных процессов.

Однако до настоящего момента имеется ряд нерешенных вопросов, связанных с проектированием нейросетевых ПФИ с оперативно перестраиваемой структурой; К ним, в первую очередь, следует отнести:

- ограниченное использование возможностей нейросетевого базиса1 операций только за счет применения» наиболее простых (пороговых) > функцию активации и моделей« нейронов для одноразрядных- преобразований (мелкозернистый; уровень); ориентированных в основном для линейных преобразователей;:

- недостаточно полный' учет, в , процедурах синтеза ИНС-преобразователей гибридного (аналого-цифрового)! способа, построения синаптических связей; а. также их разновидностей в» виде? функциональных связей;. особенно при построении вычислительных преобразователей формы информации;

- отсутствие удобных для последующей физической- реализации; нейросетевых описаний (моделей) • функциональных преобразователей ш процедур их синтеза, позволяющих учитывать многообразие вариантов активационных функций, способов представленияшходных и выходных переменных, видов синаптических связей при нейросетевой организации проектируемого устройства;

-отсутствие: детальных алгоритмов оперативной: настройки обучаемых ИНС-преобразователей на выполнение новой; функции преобразования с учетом элементной базы на их реализацию: иррациональным распределением его реализуемых функций между аппаратно-программными: средствами.

Решение отмеченных проблем усложняется тем, что* оно должно проводиться с: учетом достижения таких компромиссных характеристик ИНС-преобразователя, как быстродействие, точность преобразования, аппаратные затраты, необходимость его настройки в < реальном масштабе времени. Наряду с этим также следует при проектировании: учитывать многообразие возможных вариантов физической реализации нейросетевого ПФИ; к которым относятся:

- аппаратная, например, на БИС с программируемой структурой;

- аппаратно-программная, в частности, с использованием микроконтроллеров и «систем на кристалле»;:

- в виде создаваемого специализированного нейрочипа, отличающегося высокой однородностью составляющих нейроэлементов ПФИ и синаптических связей между ними, разнообразием обрабатываемых сигналов и др.

Одним из направлений решения указанных проблем, имеющих место при проектировании ИНС-преобразователей формы информации, является применение многоуровневого описания структур разрабатываемых устройств. Указанный вид описания базируется на использовании нейросетевого базиса функционально-логических операций, отличающегося, степенью- детализации представления операций и элементов, их реализующих, в выбранном для синтеза базисе.

Детализацию называют мелкой (или мелкозернистой), если операции базиса являются несложными (примитивными), например, с использованием пороговой1 функции активации, с единичными или двоично-взвешенными синаптическими связями. К особенностям данного уровня относятся: оперирование' отдельными битами переменных, применение типовых нейроэлементов в составе сети. Для крупнозернистого уровня описания- нейросетевого базиса характерно применение более сложных активационных функций и их модификаций, использование нестандартных видов нейроэлементов, в том-числе нейронов-преобразователей, задание отдельных переменных в виде совокупности битов (двоичных слов), многообразие форм представления обрабатываемых данных.

В-связи с этим является актуальной разработка моделей структур нейросете-вых устройств, ориентированных на преобразование аналоговых величин, представленных в виде значений частоты, периода, временного интервала, амплитуды сигнала, в их цифровой эквивалент (и обратно), а также процедур их синтеза и настройки на реализацию новой функции преобразования, базирующихся на применении многоуровневого нейросетевого описания проектируемого устройства.

Внедрение нейросетевой* организации систем в основу построения функциональных преобразователей импульсно-аналоговых сигналов, называемых часто еще импульсно-цифровыми, позволяет существенно расширить их функциональные (интеллектуальные) возможности. В первую очередь, это обучаемость ИНС-устройства на реализацию1 нелинейной функции преобразования с возможностью коррекции погрешностей датчиков, подключаемых к преобразователю, а также поддержка сетью функций адаптации к входным сигналам (фильтрация помех, выявление и коррекция дрейфа сигнала предсказание результата, динамическая перестройка структуры ПФИ на вид определенного воздействия и т.п.). Повышению эффективности систем обработки информации на основе ИНС посвящены работы [13 - 18] таких известных ученых, как Галушкин А.И., Головко В.А., Комарцова Л.Г., Круглов В.В., Пылькин А.Н., Ясниц-кийЛ.Н., Мак-Каллок У., ПиттсВ., Розенблатт Ф., УидроуБ., Хофф М., Хоп-филд Дж., Кохонен Т. и др.

По виду информационного носителя нейро-ПФИ относятся к классу гибридных (аналого-цифровых) устройств,— как наиболее сложных при их разработке. Вместе с тем, применение нейросетевых технологий переводит трудоемкий» процесс их разработки- в сферу формализованного синтеза по созданию устройства*, преобразования, формы информации, отличающегося высокой' степенью однородности составляющих его нейроэлементов! и топологии его структуры, позволяя сократить сроки и затраты на проектирование, несмотря на большое количество прорабатываемых решений.

Наконец, схожесть представления информации и нейросетевой организации ПФИ с биологическими прототипами нейросетей предопределяет объективную^ возможность применения результатов теории и практики их синтеза при создании перспективных квантовых вычислителей и нейроинплантантов сенсорных систем человек

Работа выполнена в. соответствии с тематикой проектов (грантов) «Теория и проектирование'преобразователей формы« информации на основе нейросетевых технологий» ведомственной целевой программы «Развитие научного потенциала1 Высшей школы» (№ 6390 от 12.12.2008 г.) и Российского фонда фундаментальных исследований «Теория и проектирование медицинских измерительно-информационных систем на основе нейробионических технологий» (№10-08-97525-рцентр-а, 01. 2010 г.), в которых принимал участие соискатель.

Цель диссертационной работы: расширение операционных (интеллектуальных) возможностей функциональных преобразователей частотно-временных параметров1 сигналов и повышение формализации получения проектных решений, обеспечиваемые разработкой моделей и процедур синтеза их структур на основе многоуровневого нейросетевого описания.

Для ее достижения необходимо решить следующие основные задачи.

1. Выявление и обоснование иерархии нейросетевых описаний (моделей) структур функциональных аналого-цифровых (АЦП) и цифроаналоговых (ЦАП) преобразователей, а также положений их применения для синтеза этих устройств.

2. Разработка функциональных моделей нейронов-преобразователей и синапти-ческих связей с гибридной (аналого-цифровой) формой представления переменных.

3. Разработка моделей и процедур (порядка и содержания этапов) синтеза структур нейропреобразователей, базирующихся на выборе необходимого уровня их нейросетевого описания.

4. Разработка специализированных алгоритмов обучения (настройки) и>коррекции параметров нейросетевых преобразователей частотно-временных параметров сигналов.

Методы исследования. Для решения поставленных задач использовались аппарат теории искусственных нейронных сетей, теория« аппроксимации^ и приближения функций, элементы теории- графов и синтеза операционных устройств вычислительной техники, методы моделирования:

Научная новизна работы:

Г) разработаны и применены положения' многоуровневого нейросетевого описания структур преобразователей информации, отличающегося степенью детализации представления* элементарных нейроопераций при1 осуществлении синтеза устройства;

2) разработаны функциональные модели нейронов-преобразователей и настраиваемых синаптических связей с гибридной (импульсно-цифровой) формой представления переменных, полученные в виде совокупности нейросетевых операций над* ними« и выступающие в качестве необходимых составляющих при синтезе ИНС-преобразователя;

3) предложены модели и процедуры синтеза структур функционального пре образователя, базирующиеся на выборе необходимого уровня, его нейросетевого описания и получении в результате* обучения аппроксимирующей нейросети конфигурации схемы устройства с минимальными аппаратными затратами при обеспечении заданной точности преобразования;

4) разработана методика структурного синтеза нейрона-преобразователя как операционного устройства на основе типовых узлов и элементов вычислительной техники для вариантов непрерывного и циклического принципа действия, позволяющая упорядочить процедуру создания новых структур устройства преобразования формы представления информации;

5) разработаны специализированные алгоритмы обучения, настройки (или коррекции) параметров структур ИНС-преобразователей при решении новой задачи преобразования с использованием принятых видов нейросетей и уровней их описания:

Достоверность полученных результатов подтверждается математическими обоснованиями, корректным использованием математического аппарата-искусственных нейронных сетей и теории аппроксимации, сопоставлением» альтернативных подходов, а также результатами моделирования-.

Практическая значимость и результаты внедрения. Практическая* значимость работы состоит в том, что предложенные модели и процедуры синтеза ней-росетевых структур устройств преобразования формы информации являются основой для создания на базе программируемых БИС линейных и функциональных преобразователей импульсно-аналоговых сигналов с расширенными функциональными возможностями и улучшенными технико-экономическими характеристиками.

Результаты диссертационной работы внедрены в разработках ОАО «Рязанский радиозавод» и использованы при выполнении НИР 14-09Г «Теория-и проектирование преобразователей формы информации на основе нейросетевых технологий» по гранту (№РНП 2.1.2.6390 от 12.12. 2008 г.) ведомственной целевой программы «Развитие научного потенциала Высшей школы» и НИР 6-ЮГ «Теория и проектирование медицинских измерительно-информационных систем на основе нейробионических технологий» (№ 10-08-97525-рцентр-а, 01.2010 г.) по гранту Российского фонда фундаментальных исследований. Результаты работы также использованы в учебном процессе РГРТУ на кафедре биомедицинской и полупроводниковой электроники, что подтверждено соответствующими актами.

Апробация работы. Основные положения и результаты работы докладывались и обсуждались на:

- 15-й и 16-й международной конференции "Проблемы передачи и обработки информации в сетях и системах телекоммуникаций", г. Рязань, 2008, 2010 гг.;

-Международной конференции "Interactive Systems and Technologies: The Problems of Human-Computer Interaction", г. Ульяновск, 2009 г.;

-Международной научной конференции "Технические науки и современное производство", Франция, г. Париж, 2009 г.;

-6-й международной молодежной научно-технической конференции "Современные проблемы радиотехники и телекоммуникаций «РТ-2010»", г. Севастополь, 2010 г.;

- 9-м международном симпозиуме "Интеллектуальные системы", г. Москва, 2010 г.;

12—15-й всероссийской конференции "Новые информационные технологии в научных исследованиях и образовании", г. Рязань, 2007-2010 гг.;

19-21-й-и 23-й всероссийской^ конференции студентов, молодых ученых и специалистов "Биотехнические, медицинские и экологические системы и комплексы", г. Рязань, 2006-2010 гг.;

Международной конференции с элементами научной школы для молодежи «Биотехнические, медицинские и экологические системы и комплексы», г. Рязань, 2009 г.;

Всероссийском молодежном научно-инновационном конкурсе-конференции "Электроника - 2006", г. Москва, МИЭТ, 2006 г.;

- 32-й и 33-й всероссийской научно-практической конференции "Сети, системы связи и телекоммуникации", г. Рязань, 2007 №2008 гг.;

- Всероссийской конференции "Новые технологии в! научных исследованиях, проектировании, управлении, производстве", г. Воронеж, 2007 г.;

- 3-й всероссийской научно-технической конференции "Информационные и управленческие технологии в медицине и экологии", г. Пенза, 2009 г.;

-Всероссийской научно-практической конференции молодых ученых и специалистов "Приоритетные направления современной российской науки глазами молодых ученых", г. Рязань, 2009 г.;

-5-й научно-технической конференции аспирантов и молодых ученых "Вооружение-технология-безопасность-управление", г. Ковров, 2010 г.

Реализация результатов работы. На основе предложенных в работе порядка и содержания этапов синтеза нейросетевых структур преобразователей частотно-временных параметров сигналов разработана и внедрена на ОАО "Рязанский радиозавод" для микроконтроллеров архитектуры АУЯ представленная на языке С библиотека этих устройств как основа сокращения сроков на разработку систем, содержащих в своем составе преобразователи формы информации. Результаты диссертационных исследований также используются в учебном1 процессе Рязанского государственного радиотехнического университета на кафедре "Биомедицинской и полупроводниковой* электроники" по направлению 200400' "Биомедицинскаяинженерия".

Публикации. Самостоятельно и в соавторстве по теме диссертации опубликованы 42 работы, из которых 11 статей (4 в журналах по перечню ВАК РФ)* 25 тезисов докладов на конференциях, 1 патент на изобретение, 4 свидетельства об отраслевой регистрации разработки программ для ЭВМ, 1 монографиями соавторстве).

Структура работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы из 105 наименований. Содержит 148 страниц основного текста и 69 страниц рисунков и таблиц (79 рисунков и 29 таблиц).

4.7. Основные выводы

1. Предложены процедуры коррекции весовых коэффициентов и порогов нейронов преобразователя частотно-временных параметров сигналов в код на основе двухслойного персептрона, которые в общем случае позволяют:

-выявить значения весов w и порогов в нейронов, неэффективных для последующей физической реализации структуры ИНС-преобразователя при заданной форме представления входной переменной; обеспечить уменьшение аппаратных затрат С на формирование синаптических связей за счет приведения их весовых коэффициентов w к виду, приводящему к минимизации затрат с —> min на реализацию преобразователя.

2. Предложен специализированный алгоритм настройки персептронных сетей на решение задачи преобразования« частотно-временных параметров сигналов в код, позволяющий существенно сократить затраты- на реализацию ИНС-преобразователя»" за- счет приведения? весовых коэффициентов и порогов нейронов sk нулевым и единичным значениям.

3. Предложено применение радиально-базисной сети в качестве интерполятора- требуемой характеристики преобразования, заданной в. табличном виде, для. получения ее* в виде аналитического выражения, что позволяет увеличить объем обучающей выборки с целью1 более точной настройки ИНС-преобразователя.

4. Предложен специализированный алгоритм настройки радиально-базисной сети как нейросетевого преобразователя позиционного кода в частоту на основе заменяющей активационной функции первого порядка. Алгоритм позволяет получить значения требуемых параметров (весовых коэффициентов^ и центров активации нейронов) ИНС без применения» итеративных алгоритмов -обучения.

5. Предложен специализированный алгоритм настройки рекуррентной сети на решение задачи- нелинейного^ преобразования- частотно-временных параметров сигналов в код с применением алгоритма Розенблатта для обучения отдельных составляющих сети (подсетей). Алгоритм позволяет получить значения .требуемых параметров (весовых коэффициентов и центров* активации нейронов) ИНС, имеющие только нулевые и единичные значения.

6. Приведен пример» настройки ИНС-преобразователя как формируемой нейросети с обучаемыми связями, решающего задачу линеаризации функции преобразования частотного датчика уровня с помощью ее аппроксимации суммой простых дробей («упрощенных» сигмоид). Рассмотрены особенности реализации данного преобразователя на основе ПЛИС.

213

ЗАКЛЮЧЕНИЕ

Важным направлением кардинального повышения точности и надежности измерения частотно-временных параметров сигналов является развитие функциональных (операционных) возможностей преобразователей, осуществляющих аналого-цифровое и цифро-аналоговое преобразование: и первичную математическую переработку этих (импульсно-аналоговых) сигналов.

В" диссертации« исследован» и- разработан комплекс научно обоснованных методов; моделей;, процедур' синтеза и алгоритмов, настройки; параметров; структур функциональных преобразователей^ частотно-временных, параметров? сигналов в код (и обратно)? наг основе применения- многоуровневого» нейросетевого описания;, что обеспечивает сокращение сроков проектирования создаваемых устройств с расширенными операционными возможностями- при заданной? точности преобразования; Исследование проведено; с учетом использования математического аппарата искусственных нейронных сетей и теоришаппроксимации:. •

Полученные в работе основные результаты, исходя из поставленной цели и определенных для: ее. достижения задач; можно сформулировать следующим-образом:

1. Предложены и реализованы основные положения многоуровневого» нейросетевого описания структур функциональных преобразователей информации (ФП), отличающегося? степенью? детализации представления \ ■ ■ элементарных нейроопераций при осуществлении синтеза устройства, обеспечивающего сокращение сроков- проектирования преобразователя:

Основные положения: многоуровневого нейросетевого описания: структур функциональных преобразователей информации::

1) применение трех уровней нейросетевого описания структур ФГ1И, отличающихся степенью абстрагирования (детализации)-их моделей;

2) учет в алгоритме синтеза ФПИ уровней детализации его нейросетевого описания и необходимости его настройки при обеспечении целевой функции С —> min минимизации аппаратных затрат проектируемого ФП;

3) многообразие исходного представления синтезируемой» структуры преобразователя в виде: 1) ИНС с обучаемой структурой; 2) ИНС с обучаемыми связями; 3) формируемой нейросети, 4) комбинированной (смешанной) сети, преимущественно на основе 1-й 2-го видов.

Обоснована целесообразность комплексного применение различных уровней описания ИНС-преобразователя. Рекомендовано применение крупнозернистого уровня нейросетевого описания для синтеза вычислительных и функциональных преобразователей информации. Определено, что применение описаний на мелкозернистом уровне целесообразно; когда, например, необходимо^ детализировать содержание отдельных элементов структуры, полученных на более «крупном» уровне его описания, а также для' синтеза линейных преобразователей.

Предложены порядок и содержание этапов синтеза структуры ИНС-преобразователя на 1-ом < (мета-) уровне его описания: 1 - выбор и обоснование* вида исходной ИНС; 2 — определение базовой конфигурации' ее структуры; 3 — обучение сети; 4 — оценка возможных аппаратных затрат на реализацию устройства. Реализация данного порядка позволяет сократить время на разработку ФПИ при его представлении в виде связанных друг с другом математических нейронов. Целенаправленное получение- структуры осуществляется в соответствии»* со сформулированной постановкой задачи и целевой^ функции разработки ИНС-преобразователя с использованием математических нейронов.

2. Предложена методика построения' функциональных моделей* нейронов-преобразователей (НП); базирующая на сформулированных положениях их получения, которые задают порядок и основное содержание операций и приемов по формированию совокупности математических выражений в нейросетевом функционально-логическом^ базисе операций, отражающих функционирование НП и являющихся основой выявления формульной зависимости, описывающей операцию преобразования, выполняемую НП.

На основе предложенной методики разработаны функциональные модели нейронов-преобразователей «код - аналог», НП «аналог - код» прямого и замкнутого* принципов действия, а также нейронов-сумматоров и нейронов-вычитателей, образующих библиотеку базовых элементов синтезируемых структур ИНС-преобразователей, использование которой сокращает сроки проектирования устройства с необходимыми техническими характеристиками.

3. Произведены оценки точности и быстродействия нейронов-преобразователей «код - аналог» и «аналог - код», позволяющие определить в предполагаемых структурах НП разрядность операционных узлов, а также время формирования результата преобразования. Показана взаимосвязь значений погрешности и времени преобразования.

4. Разработана методика структурного синтеза ИНС-преобразователя как операционного устройства на основе типовых узлов и элементов, цифровой вычислительной техники для вариантов их непрерывного и циклического принципа действия, позволяющая упорядочить процедуру создания новых структур устройства преобразования от этапа постановки задачи до его* аппаратнойреализации.

При этом рассмотрен ряд подходов к получению' структур ИНС-преобразователя, базирующихся^ на- классификации сетей по способу решения» задачи: формируемые сети, сети с формируемой матрицей связей, обучаемые сети и комбинированные. Приведена последовательность этапов синтеза, крторая позволяет упорядочить проектирование устройств функционального преобразования частотно-временных параметров, сигналов* в код (и* обратно) с осуществлением поиска технического решения» с минимальными аппаратными затратами на реализацию при заданной» точности преобразования.

В рамках предложенной процедуры разработана методика (порядок и содержание стадий) синтеза логических схем нейронов-преобразователей как операционных устройств на основе типовых узлов вычислительной техники, которая- позволяет создать, библиотеку нейроэлементов для построения, схем-ИНС-преобразователей.

5. Предложены специализированные алгоритмы обучения, настройки (или коррекции) параметров» структур ИНС-преобразователей при решении' новой задачи- преобразования с использованием принятых видов, нейросетей и уровней их описания, обеспечивающих улучшение характеристик устройства.

Так, предложены процедуры коррекции весовых коэффициентов и порогов нейронов преобразователя частотно-временных параметров сигналов, в, код на основе двухслойного персептрона, которые в общем случае позволяют обеспечить приведение весов синаптических связей к виду, приводящему к минимизации затрат на реализацию преобразователя, в частности, для

8-разрядного устройства производится снижение аппаратных затрат на реализацию в 5 раз (в числе логических ячеек).

Предложен специализированный алгоритм настройки персептронных аналого-цифровых сетей, позволяющий существенно сократить затраты на; реализацию ИНС-преобразователя за счет приведения весовых коэффициентов? и порогов нейронов к нулевым и единичным значениям.

Предложено применение радиально-базисной сети в качестве интерполятора требуемой; характеристики; преобразования, заданной- в табличном виде, для получения ее* в виде, аналитического выражения« в нейросетевом базисе: операций; что? позволяет увеличить, объем? обучающей* выборки с целью более точной настройки ИНС-преобразователя.

Предложен специализированный; алгоритм настройки радиально-базисной? сети для нейросетевого преобразователя «код - частота» на основе применения ¡замещающей (приближенной)- активационной функции первого порядка, что позволяет получить значения« параметров? сети без применениям итеративных методов обучения.

6: Рассмотрен пример настройки и реализацию на ПЛИС ИНС-преобразователя как формируемой; нейросети с обучаемыми синаптическими связями, решающего задачу линеаризации характеристики частотного датчика-для.уровнемера электропроводных сред с помощью<ее аппроксимации суммой простых дробей («упрощенных» сигмоид). Наличие в устройстве функций обучения' значительно расширяет его * операционные (интеллектуальные) - возможности, так. как при смене датчика преобразователь может быть оперативно «перестроен» на реализацию новой аппроксимирующей зависимости.

На основе проведенного диссертационного исследования решена важная научно-прикладная задача, разработки моделей' и процедур синтеза структур функциональных преобразователей частотно-временных параметров сигналов в код (и обратно) с использованием многоуровневого нейросетевого описания; что обеспечивает расширение: операционных возможностей; разрабатываемых преобразователей и повышение формализации полученияшроектных решений.

Решение данной задачи является определенным вкладом в развитие новых методов; описания процессов преобразования^ а также методов синтеза и анализа преобразователей информации как важных устройств вычислительной техники и систем управления.

Практическая значимость работы состоит в том, что предложенные процедуры синтеза структур ИНС-преобразователей являются основой создания на базе программируемых БИС линейных и функциональных преобразователей импульсно-аналоговых сигналов с улучшенными технико-экономическими характеристиками и расширенными функциональными возможностями. Предложенная с использованием многоуровневого нейросетевого описания методика структурного синтеза этих преобразователей на основе операционных узлов вычислительной, техники позволяет существенно упорядочить процесс и сократить сроки; их проектирования.

Дальнейшее расширение функциональных возможностей и улучшение технико-экономических параметров проектируемых ИНС-преобразователей может достигаться за счет применения других видов сетей (Хопфилда, гетерогенных и др.), а также комплексирования различных видов сетей и применения аппарата нечеткой логики» как эффективного- приема улучшения динамических характеристик преобразования. Для улучшения* эффективности обучения (настройки) ИНС-преобразователей на необходимую функцию преобразования могут быть использованы генетические алгоритмы. Решение этих вопросов может стать предметом последующих исследований.

Результаты, полученные в диссертации, внедрены в разработки ОАО «Рязанский радиозавод», в научно-исследовательских работах по грантам ВЦП (НИР 14-09Р) и РФФИ (НИР* 6-ЮР), а также внедрены в учебный* процесс РГРТУ на кафедре биомедицинской и полупроводниковой электроники, что подтверждено соответствующими актами.

1. Смолов В.Б. Функциональные преобразователи информации / JL: Энерго-издат. Ленингр. отделение, 1981. 248 с.

2. Микроэлектронные цифро-аналоговые и аналого-цифровые преобразователи информации / под ред. В.Б. Смолова. Л.: Энергия, 1976. 336 с.

3. СмоловВ.Б., Угрюмов Е.П., Артамонов А.Б. и др. Время-импульсные вычислительные устройства / под ред. В.Б. Смолова, Е.П. Угрюмова. Ml: Радио и связь, 1983. 288 с.

4. A.c. № 353343 СССР1 Время-импульсный функциональный преобразователь / Паламарюк Г.О., Кйстрин A.B., Локтюхин BlH:, Никифоров М:Б: // Открытия. Изобретения. 1972, №19.

5. А. с. № 754407 СССР. МКИ G 06 F 5/04. Функциональный преобразователь "код-частота" / Смолов В1Б., Балашов Е.П., Локтюхин В.Н:, Паламарюк Г.О. // Открытия. Изобретения. 1980, № 29.

6. Данчеев В.П: Цифрочастотные вычислительные устройства. М.: Энергия, ¿976. 176 с.

7. Грушвицкий Р.И., МурсаевА.Х., Смолов В.Б. Аналого-цифровые периферийные устройства. Л.: Энергоатомиздат. Ленингр. отд-ние, 1989. 160 с.

8. Смолов В.Б., Фомичев В.С. Аналого-цифровые и цифро-аналоговые нелинейные вычислительные устройства / Л.: Энергия, 1974. 264 с.

9. Карпов Р.Г. Техника частотно-импульсного моделирования / М.: Машиностроение, 1969. 247 с.

10. Ясницкий JI.H. Введение в искусственный интеллект: учеб. пособие для студ. высш. учеб. заведений. М.: Издательский центр "Академия", 2005.176 с.

11. Головко В.А. Нейронные сети: обучение, организация и применение. Кн. 4: Учеб. пособие для вузов. Общая ред. А.И. Галушкина. М.: ИПРЖР, 2001.256 с.

12. McCulloch W., Pitts W. A logical calculus of the ideas imminent in nervous activity//Bulletin of Mathematical'Biophysics, 1943'№5, pp. 115-133.

13. ОсовскийС. Нейронные сети?для обработки информации;/ пер. с польского И.Д. Рудинского. М.: Финансы и.статистика, 2002. 344 с.

14. Галушкин А.И. Ироблемьгискусственного интеллекта и нейрокомпьютеры. // Нейрокомпьютеры: разработка; применение. № 6, 2005. М.: Радиотехника, 2005. С. 3-8.

15. Розенблатт Ф. Принципы нейродинамики. М.: Мир, 1966.

16. Челебаев,C.B., Антоненко A.B. Обучение персептрона на реализацию операции преобразования временного интервала в унитарный код // Сети, системы связи и телекоммуникации: материалы 32-й- всероссийской научно-практической конференции. Рязань, 2007. С. 55.

17. Локтюхин В.Н., Челебаев С.В:, Антоненко A.B. Проектирование интеллектуальных преобразователей информации на базе программируемых СБИС // Интеллектуальные системы: труды 8-го международного симпозиума. М.: 2008. С. 289-292.

18. Локтюхин В.Н., Челебаев С.В., Антоненко А.В. Построение подсистем преобразования и идентификации частотно-временных параметров биосигналов с использованием персептронных сетей // Биотехносфера, № 5. СПб.: Политехника, 2009. С. 18-24.

19. Локтюхин В.Н., Челебаев С.В., Антоненко А.В. Специализированные алгоритмы обучения и настройки рекуррентной- сети преобразователя! частотно-временных параметров, сигналов^ в; код // Успехи современного естествознания. Париж, 2009. №11. С. 72-74.

20. Локтюхин В.Н., Челебаев С.В., Антоненко А.В. Analogue signals input-output processors with trained structure // Интеллектуальные системы: труды-9-го международного симпозиума. М-.: РУСАКИ,.2010: С. 312-315.

21. Локтюхин В.Н., Челебаев C.B., Антоненко A.B. Об унификации инвариантной к виду входного сигнала структуры нейросетевого аналого-цифрового преобразователя // Нейрокомпьютеры, № 4. 2010. С. 54-61.

22. Антоненко A.B. Модели нейронов сети, как компонентов'. ИНС-преобразователей // Межвузовский сборник научных трудов: Физика полупроводников. Микроэлектроника. Радиоэлектронные устройства. Рязань: РГРТУ, 2010. С. 17-25.

23. Локтюхин В.Н., Челебаев С.В*, Антоненко А.В1 Нейросетевые аналого-цифровые преобразователи // под общей редакцией- А.И: Галушкина. М!: Горячая линия-Телеком, 2010. 128 с.

24. Пат. 2420804. Российская Федерация, МПК G 06 F 15/00. Нейросетевой преобразователь кода в частоту Текст. // Локтюхин В.Н., Челебаев C.B., Анто-ненко^АЛЗ.; Заявитель и патентообладатель РГРТУ. №2009137684/08. Бюл. № 16 от 10.06.2011. 2 е.: ил.

25. Локтюхин В.Н., Челебаев C.B. Методика синтеза преобразователей им-пульсно-аналоговых сигналов с использованием операций нейросетевого базиса//Нейрокомпьютеры: разработка, применение. № 10, 2006. С. 57-71.

26. Локтюхин В.Н., Челебаев C.B. Принципы,применения технологии искусственных нейронных сетей для проектирования преобразователей частотно-временных параметров сигналов в код // Датчики и системы. № 2, 2006. С. 43-56.

27. Подлепецкий Б.И., Коваленко A.B., Никифорова М.Ю. Оценка погрешности интегральных датчиков водорода на основе МДП-транзисторных чувствительных элементов // Датчики и системы, № 1. 2010. С. 2-6.

28. Агафонов В.М., Антонов А.Н., Зайцев Д.Л. Собственный шум и нелинейность миниатюрных молекулярно-электронных измерителей угловых движений // Датчики и системы, № 1. 2010. С. 7-12.

29. Воронов Ю.А., Коваленко A.B., Никифорова М.Ю., Подлепецкий Б.И., Са-матаев H.H., Висильев A.A. Элементы газочувствительных датчиков на основе микротехнологий // Датчики и системы, № 3. 2010. С. 28-35'.

30. Исаев М.М., Мехтизаде Э.К. Алгоритмическая коррекция погрешности в-вибрационно-частотном преобразователе плотности нефтепродуктов. // Датчики и системы, № 4. 2010. С. 11-13.

31. Тихоненков В.А., Винокуров Л.Н. Компенсация аддитивной температурной погрешности тензорезисторного датчика // Датчики« и системы, № 6. 2010. С. 7-11.

32. АлакозГ.М. Нейрокомпиляция i как основа инструктированного синтеза квантовых вычислительных структур //Нейрокомпьютеры, №10. 2010. С. 3-10:

33. Рамбиди Н.Г. Нанотехнологии и молекулярные компьютеры / М'.: ФИЗМАТЛИТ, 2007. 256 с.

34. Буренева О.И. Отказоустойчивые устройства с реализацией процессов следящего преобразования* потоков* информационных квантов: автореф: дис. на соискание ученой, степени кандидата технических наук. Санкт-Петербург, 2005. С. 18.

35. Галушкин А.И. Теория нейронных сетей. Кн. 1: Учеб. пособие для вузов / общ. ред. А.И. Галушкина М. : ИПРЖР; 2000: 416с. .

36. ПрошинЕ.М. Цифровые измерительные устройства: учеб. пособие / Рязань: РГРТУ, 2011.224 с.

37. Челебаев C.B. Синтез структур преобразователей частотно-временных параметров сигналов в код на основе нейросетевых технологий: дис. канд. техн. наук. Рязань, 2006. 193 с.

38. Локтюхин В.Н., Челебаев C.B. Нейросетевые преобразователи импульсно-аналоговой информации: организация, синтез, реализация / под общей редакцией А.И. Галушкина. М.: Горячая линия Телеком, 2008. 144 с.

39. Теоретические основы САПР: учебник для вузов / В.П. Корячко, В.М. Курейчик, И.П. Норенков. М.: Энергоатомиздат, 1987. 400 с.

40. Галушкин А.И: Нейронные сети: основы теории / М.: Горячая линия Телеком, 2010: 496 с.

41. Нейроматематика. Кн. 6: Учеб: пособие для вузов / А.Д. Агеев; и др.; общ. ред. А.И. Галушкина. М.: ИПРЖР, 2002. 448 с.

42. Нейрокомпьютеры в системах обработки сигналов. Кн. 9. Коллективная монография / под. Ред. Ю:В. Гуляева и А.И. Галушкина. М:: Радиотехника, 2003': 224 с.

43. Комарцова Л:Г., Максимов A.B. Нейрокомпьютеры: Учеб. пособие для вузов. 2-е изд., перераб. и доп. / М!: Изд-во МГТУ им. Н~Э. Баумана, 2004. 400 с. ~

44. ВичуговВ.Н:, Суходоев M.G., ЦапкоГ.П. Динамическое формирование структуры радиально-базисной нейронной сети // Нейрокомпьютеры, № 12. 2010. С. 7-11.

45. Локтюхин В.Н. Микропроцессоры и ЭВМ (в 4-х кн.). Кн. 4. Микропроцессорные системы сбора и первичной обработки импульсно-аналоговой информации: учеб. пособие для вузов. М:. Энергоатомиздат. 2000. 156 с.

46. Andras Р. Orthogonal RBF neural network approximation // Neural Process. Lett. (Netherlands), vol. 9; no. 2, April 1999. (p. 141-151).

47. Bahnasawi A.A., Abdel Wahab A.H., Shaheen S.I. Logical radial basis function networks a hybrid intelligent model for function: approximation // Adv. Eng. Softw. (UK), vol. 30, no. 6, June 1999, (p. 407-417).

48. Li Xin. On simultaneous approximations by radial basis function neural networks // Appl. Math. Comput. (USA), vol. 95, no 1,1 Sept. 1998. (p. 75-89).

49. Терехов B.A. Нейросетевые системы управления: Учеб. пособие для вузов / В.А. Терехов, Д.В. Ефимов, И.Ю. Тюкин. М.: Высш. шк. 2002. 183 с.

50. Локтюхин В.Н., Челебаев C.B. Применение рекуррентных сетей для синтеза импульсно-цифровых преобразователей // Вестник Рязанского государственного радиотехнического университета, № 19. Рязань: РГРТУ, 2006. С. 94-103.

51. Рахимов Т.М. Справочник по микросхемам серии К155. 1991. 250 с.

52. Майоров С.А., Новиков Г.И. Принципы организации цифровых машин. Л.: «Машиностроение» (Ленингр. отд-ние), 1974. 432 с.

53. Баранов С.И. Синтез микропрограммных автоматов (граф-схемы и автоматы).N- 2-е изд., перераб. и доп. Л:: Энергия. Ленингр. отделение, 1979.232 с.

54. А. с. № 529558 СССР, МКИ H ОЗК 13/20. Функциональный преобразователь частоты в код / Иопа Н.И., Локтюхин В.Н. // Открытия. Изобретения. 1976. № 35.

55. Локтюхин В.Н., Иопа Н.И. Об одной структуре функционального преобразователя для линеаризации характеристик частотных датчиков // Специализированные и комбинированные вычислительные устройства: Межвуз. сб., вып. 3. Рязань. РРТИ. 1975. С. 110-113.

56. А. с. № 632081 СССР, МКИ H ОЗК 13/20. Время-импульсный преобразователь / Локтюхин В.Н., Быценко С.Г. // Открытия. Изобретения. 1978. № 41.

57. Вихров С.П., Холомина Т.А. Нанотехнологии и биосистемы: научное издание / Рязань: Рязан. гос. радиотехн. ун-т, 2010. 236 с.

58. Белов П.А., Симовский K.P. Отражение электромагнитных волн от фотонных кристаллов и обобщенная теорема погашения // Сборник трудов: проблемы когерентной и нелинейной оптики. СПб: СПбГУИТМО, 2004. С. 154-169.

59. Адамов Ю.Ф., Сибагатуллин А.Г., Сомов O.A. Тенденции развития сенсорных систем и интеллектуальных датчиков // Датчики и системы, № 5. 2011. С. 58-59.

60. Астафьев A.A., ИопаН.И., Локтюхин В.И., Мясников А.Г., Полетаев Б.К. Вычислительный преобразователь для уровнемеров электропроводных сред // Приборы и системы управления. 1981. № 9. С. 18-20.

61. Уоссермен. Нейрокомпьютерная техника. М.: Мир, 1992.

62. Жидков E.H. Численные методы для научных работников и инженеров / пер. с англ. М.: Наука, 1972. 400 с.