автореферат диссертации по электронике, 05.27.01, диссертация на тему:Схемотехнические реализации нейронных сетей

'С

<ш]шишшй|т, 'ШнпшЦшй "бшршшршц^шшЦшй <шйш1ишриШ

Ъищшр,)шй кшрЬй ШийтУ} "Ыурпйигфб ЗшбдЬр)! и^иМшшЬ^бЭДш^шй ^ршЦшйшдпиШЬрр

Ъ.27.01 «'Щ^йтрМиуДО {^ЬЦтрпСЭДш и Щг^рп^Ь^трпй^ш»

гёшийшфттрзшйр тЬ^бЭДш^шй ql^шnvpJШ.QQhp]l рЫ^йшйпф (¿ипш^шО шиифбшС|1 Ьицдйшй штЬйш^питишй

иъяии<№Р

Р Г Б 2 1 А!1 Р

ЪРЬЧШ* 1999

Государственный Инженерный Университет Армении

Назарян Карен Манукович Схемотехнические Реализации Нейронных Сетей

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук по специальноси 05.27.01 "Твердотельная Электроника и Микроэлектроника"

ЕРЕВАН -1999

UmbüiufunurupjoiQ pbúuiü hiuuimuuii(b[. t

ЗицшитшйЬ 'Hbmuiljuiü бшршшршрЬшш^шО ЗилЗш|ишршйпи5

ЧЬ^шЦшй 1\Ы|шЦшр in.q.q., щрпф., ^uijiuuinuiGh

йшршшршчЬшшЦшй Uliiuqbúhwjh шЦшг\Ь|5^1|пи' 11Я. ИЦртушО 'ЛшгшпОш^шй D0nahi5w(unu0bp rn.q.rj., и^рпф., 4.Ь. Unruuiniuújiuü,

ui.q.p., 4.С. RuipnipjnLGjiuQ Unuigiuwuip 4iuqi5iu4bpu|nLpjni.G' bpUuiGfi tfiuphúuimlílíuiliiuG úhghQmQhpJi

qJuniuhhuiuiqnmiuliiuG tiQuui}iinniin

(ЬрЩГОЧЬ),

^u^inujuiGnLpjniÜQ IjujjuiGiuini. 1 1999 |».-|i hmiJiuli 9 -)ili, duiiTo 14:00,

íflüí-h qhmwliuiG üfiumtpfi qiuhijtáriLÚ (йшийшгЬйр 17) (hmugbü1 375009, bpluuG, Sbpjiuü 105 фшт..), 032 úiuuGiuqhuiuil|UjG [unphpiyuü:

UinbOiufununLpjwDQ l|iupb|ji1 óuiünpiuüuji. Rflfi^-fi qpiur}uipuiGnu3: Ubqúuiqhpü umuipiliuó 11999 [э.-fi hni.1]|iu|i 7 -fili:

032 úuiuGiuqtiuiuiliuiG |unphpq|i á /) i \ í С

qfiuiiuljiuQ ßiupmmriuip, ui.q.p, rpigbGm t, UCibújuuQ

Тема диссертации утверждена в

Государственном Инженерном Университете Армении

Научный руководитель: д.т.н., проф., академик Инженерной

Академии Армении, С.О. Мкртчян, Официальные оппоненты: д.т.н., проф., В.Е. Арустамян,

к.т.н., В.Ш. Арупонян, Ведущая организация: Ереванский научно-исследовательский

институт математических машин (ЕрНИИММ)

Защита диссертации состоится 9 июля 1999 г., в 14:00 ч., в 032 специализированном совете в конференц-зале ГИУА (корпус 17), (адрес: 375009, г. Ереван, ул. Теряна 105).

С диссертацией можно ознакомиться в библиотеке ГИУА. Автореферат разослан 7 июня 1999 г.

Ученый секретарь

специализированного совета, к.т.н., доцент: л . . ( Э.Х. Аджемян

< *

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальпость темы. В последние годы с развитием технологии реализации интегральных схем, заметно возрос интерес к нейронным сетям (НС). Это объесняется тем, что компьютеры нового поколения, базирующиеся на НС-ах (нейрокомпьютеры), проявляют некоторые интеллектуальные способности, т.е. эта компьютеры могут с легкостью решать такие сложные задачи, как например - распознавание образов, классификации данных, принятие оптимальных решений и т.д. , т.е. задачи, решения которых очень сложны даже с применением классических компьютеров высокого быстродействия и с большим объемом памяти.

В последние годы были опубликованы многочисленные монографии, научные статьи и авторские свидетельства, посвященные вопросам теории, технической реализации и применения НС. Исследования показывают, что в системах обработки информации, с применением НС расширяется функциональная возможность вычислительной системы, в несколько раз уменьшаются размеры приборов, улучшается надежность параметров, быстродействие и т.д..

Целью работы является исследование нескольких вариантов технической реализации НС, с базированием па теоретические результаты НС. Данная работа связана с некоторыми вариантами технической реализации НС, базирующиеся па трех моделях: бинарного формального нейрона (ФН), квази-аналогового формального нейрона (КАФН) и аналогового нейропа (АН).

Известны два основных подхода к техническим реализациям НС, базирующиеся на аналоговой и цифровой схемотехнике. Целью диссертационной работы также является исследование и анализ преимуществ и недостатков этих подходов, с одновременным предложением квазианалоговой модели ФН.

Научная повизна. В работе разработаны:

> новая модель пейрона: квази-аналоговый формальный нейрон,

> несколько версий технической реализации КАФН:

а) КАФН на биполярных п-р-п транзисторах,

б) КАФН на биполярных р-п-р транзисторах,

в) КАФН на комплементарных МОП (КМОП) транзисторах,

> новый вариант технической реализации аналогового пейрона:

аналоговый НС па КМОП транзисторах,

> варианты технической реализации алгоритмов обучения НС:

а) для обучения КАФН с бинарным выходом,

б) для обучения аналоговой НС, с использованием алгоритма

обратого распространения.

Методы исследования связаны с синтезом и анализом интегральных нейронных схем. В частности, разработанные некоторые технические подходы дают возможность повысить функциональную способность и надежность нейронов н НС, а также улучшить технические параметры и характеристики, благодаря применению некоторых разработанных схемотехнических решений.

Исследование реализуются на транзисторном уровне с использованием AIM SPICE программного пакета, который дает возможность моделировать и исследовать современные интегральные схемы.

Практическая ценность данной работы заключается в том, что нейронные сети могут быть использованы в сложных цифровых, аналоговых вычислительных системах, как универсальные системы, например, в задачах распознавания образов, декодирования н обработки звуковых сигналов, адаптивных фильтров, обработки данных, контроля и т.д., т.е. в таких задачах, которые требуют высокого быстродействия, надежной работы и адаптивности.

Практическая ценность данной диссертации заключается в: У разработанной новой модели КАФН, которая расширяет функциональные возможности классического ФН,

> обеспечении большого функционального класса для квази-аналоговых функций, с использованием одного КАФН и без применения НС,

> использовании КАФН при решении вышеуказанных задач. В частности, на этом нейроне можно создать, так называемый, обучаемый цифро-аналоговый преобразователь, область применения которого известна,

> использовании разработанной аналоговой НС, которая обеспечивает аналоговый выход, при решении вышеуказанных задач.

Основные научные положения, выносимые на защиту.

> Теоретические выкладки, которые необходимы для технической реализации НС,

> Предлагаемая новая модель КАФН,

> Несколько разработанных вариантов технической рализации КАФН, базирующихся на

а) биполярных п-р-п транзисторах,

б) биполярных р-п-р транзисторах,

в) КМОП транзисторах,

> Новый разработанный вариант технической реализации аналоговой НС, базированой на КМОП транзисторах,

> Результаты исследования этах интегральных схем, с использованием AIM SPICE, на транзисторном уровне.

> Новые варианты технической реализации алгоритмов обучения НС:

а) для обучения КАФН с бинарным выходом,

б) для обучения аналоговой НС, с использованием алгоритма обратного распространения. Структура диссертационной работы.

Диссертация состоит из введения, 4-х глав, заключения, списка литературы и приложения, где приводится список сокрощений и словарь технических терминов.

В первой главе представлены сведения о развитии НС. Обзор литературы показывает, что задачи, связаные с нейронными сетями имеют свою специфику, так как еще существуют задачи, решепия которых представляют большие трудности даже с применением классических компьютеров с высоким быстродействием и с большим объемом памяти. Для решения этих задач требуются вычислительные машины с интеллектуальными способностями, а не только со стандартными алгоритмическими подходами.

Это послужило причиной тому, что с 40-ых годов начались попытки моделирования принципов работы биологических нейронных систем и биологических нейронов. Правда, до сих пор немного известно о работе биологических нейронных сетей, но исследования и практика показывают, что искусственные модели, базирующиеся на эту немногую информацию, легко решают вышеуказанные сложные задачи.

Модель биологического нейрона представлена на рис.1 (ниже, под словом нейрон, подразумевается математическая модель биологического нейрона).

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Рис.1 Математическая модель биологического нейрона

Нейрон, имеет один или несколько входов х,, х2, х3,.... х„ и один выход у. Входы нейрона весовые, т.е. вход а, умножается на весовой коэффициент щ Весовые входы нейрона ¿а ■■■ 5„ суммируются и образовывают алгебраическую сумму Б. В общем случае, нейрон имеет пороговое значение, которое также суммируется алгебраически на Б. Конечный результат этой суммы является аргументом /актавационной функции нейрона.

Во второй главе приводятся общие понятая, связанные с моделями нейронов (существуют различные модели), с терминами НС, в частности, с классической моделью ФН У. Маккалока и С. Мкртчяна, предлагаемой модели КАФН, аналоговой моделью нейрона, нейронными сетями, краткой информацией об обучающих алгоритмах. В конце главы поставлены следующие задачи:

1. исследование предлагаемой модели КАФН,

2. разработка нескольких вариантов технической реализации КАФН,

3. разработка схемы аналоговой НС,

4. разработка технической реализации некоторых алгоритмов обучения НС. В третьей главе, в основном, рассматриваются следующие важнейшие

вопросы, связанные с технической реализацией НС, которые необходимо принять во внимание для обеспечения нормального функцианирования НС:

> вопросы о гибкости НС (функциональные возможности, которые непосредственно связаны с междуслойными топологическими связями многослойной НС),

> вопросы о масштабировании весов (для обеспечения постоянного отношения шум-сигнал НС, при увеличении входов НС Г раз, необходимо ввести коэффициент масштабирования, т.е. каждое весовое значение

нужно умножить на коэффициент

> вопросы о сущности применяемых сигналов,

> вопросы о формировании и о способах хранения весов.

Множество нейронных моделей различаются выходными активациониыми функциями. Например, активационная функция ФН-а реализует Булевские бинарные функции, а аналоговый нейрон - нелинейную сигмоидальную функцию. В настоящее время появляются новые модели и варианты их технических реализаций. В работе также предлагается новая модель КАФН, которая базируется на классическом ФН и позволяет расширить его функциональные возможности.

Итак, КАФН (рис.2) называется тот нейрон, который реализует следующее математическое выражение:

8 5

*кафн = (1)

где активационная функция }кафн принимает квази-аналоговые значения, синаптические входы с7 принимают логические значения 1 или 0, весы м/ и м>/ принимают целые неотрицательные (0,+1,4-2,+3...) значения, и а2 -некоторые константы, а 6-количество синаптических входов КАФН.

Рис.2 Квази-аналоговый формальный нейрон

Узел пресинаптического или входного взаимодействия (ВВ) реализует логическое входпое взаимодействие между значениями набора (х,, х2,...х,), в результате формируя логические значения набора (,с¡, с2,...с$). Значения с -всевозможные варианты логических взаимодейтвий ("И" или "ИЛИ") входных значений, в том числе, все входы без взаимодействий. Следовательно, 5=2"-], где п - количество информационных входов КАФН. Например, в случае п=3, зпачепия с следующие:

п=3, 8=2°-1=7, С,=Х1 С2=Х2 Сз=Хз С4=Х1ЛХ2 С4=Х1\К2 с5=Х1ЛХз е5=Х|УХ, Сб=х2лхз Сб=х^х3 С7=Х1АХ2лХз С7=Х|УХ2УХз

(СЬС2,..С1> (Х1,Х2,Хз) без входных взаимодействий входные взаимодействия типа логического "И" или "ИЛИ"

Благодаря узлу ВВ, модель КАФН обеспечивает довольно большой класс функций, как для Булевых, так и для квази-аналоговых функций. Следовательно, эта модель дает возможность одним нейроном обеспечить эту функционированию без создания сети. Это одно из больших преимуществ предлагаемой модели КАФН.

С другой стороны, КАФН также имеет преимущество с точки зрения технической реализации, т.к. существенно уменьшает площадь используемого полупроводникового кристалла, улучшает точность и разрешающую способность и т.д.. Для обеспечения большого класса квази-аналоговых функций, математически не имеет значение сущность синаптического взаимодействия ("И" или "ИЛИ"). Оно имеет значение только с точки зрения технической реализации.

Положительные (I) и отрицательные (II) суммирующие узлы реализуются идентичными схемотехническими решениями, этим облегчая формирование отрицательных весов (рис.2). С другой стороны, такое разделение существенно увеличивает разрядную точность схемы.

В этой модели весовые значения определяются бинарным разрядным словом. Так как весы определяются бинарными значениями, то упрощается их хранение, которое реализуется с применением метода ЕЕРЫОМ.

На рис.3 изображен один из вариантов структурной блок-схемы КАФН.

Здесь используется только один из суммирующих узлов (I) или (II), а положительное или отрицательное весовое воздействие определяется переключением весовых входов ... к положительному или

отрицательному входу дифференциатора:

В этом случае, старший разрядный бит определяет знак данного веса, как принято во всей вычислительной технике. Этот бит цифрового слова, контролирует выход переключателя (IV), соответственно к положительному или отрицательному входу дифференциатора (III).

Что касается аналоговой НС, то здесь синаптические и нейронные чипы раздельны. Синаптические чипы реализуют весовое умножение (с помощью синашической матрицы), а нейронные - общее суммирование (в том числе суммирование порогового значения) и формирование выходной функции активации (с помощью нейронного столбца). Разделение этих чипов дает возможность с помощью каскадирования создать НС с любыми функциональными возможностями.

если Wj =0; если w* = 0.

(2)

^кафн

Рис.3 Блок схема КАФН с весовыми переключателями

В четвертой главе представлены варианты технической реализации НС. Рассматриваются варианты технической реализации известных классических формальных нейронов на базе РТЛ, ДТП, ТТЛ и ЭСЛ, а также рассматриваются основные недостатки, которые полностью исключены в технических реализациях КАФН и аналоговой НС. В частности, предлагаемые

новые схемотехнические подходы весовых формирований дают возможность увеличить количество сшаптических входов вышеуказанных нейронов.

Предлагаются варианты КАФН, реализованных на п-р-п и р-п-р биполярных транзисторах, где весы формируются с помощью, так называемого, весового транзистора. С выбором соответственных площадей эмитеров (для КАФН с п-р-п транзисторами) или коллекторных сегментов (для КАФН с р-п-р транзисторами) весового транзистора, формируются разрядные весовые токи:

(1) №1 = = *у2 . = 1(1) = №11

(2) №1 = = =П(2)

(4) ш! = ^ = у/2 = 1(4) • \га'

10>

(4)

:(1) ;(2) ,-(4) й „

где ... представляют собой токи, текущие через эмитер или

коллекторный сегмент весового транзистора. Следовательно:

в-1 >

(Ь)

•К, (5)

где у,« - бинарные разрядные входы, определяющие весовое

значение7-того синапса, т.е. и В (В>5) количество битов в весовом слове.

Сшит заметить, что для КАФН с биполярными транзисторами, весы определяются не значениями токов, а отношениями токов относительно друг друга, которые фиксируются при технической реализации. Следовательно, такие варианты КАФН достаточно стабильны по отношению к колебаниям питающего напряжения и температуры.

В этой главе также представлен вариант технической реализации КАФН на КМОП транзисторах, где применяется удобная схема для реализации весового умножения, которая имеет сравнительно высокое быстродействие и

стабильность работы. В этом варианте используется, так называемая, аналоговая схема двоично-дополнительного исключения. Весовое значение Wj определяется цифровым словом (\у-гм), лу ■а"2) ... уу'1' , \у'0))> которое

преобразуется в аналоговую эквивалентную величину (в форме тока):

где знак веса определяется старшим разрядным битом (\у-В|)), и

Эта схема дает возможность уменьшить нестабильности параметров МОП транзисторов.

Предлагается также вариант КМОП КАФН с бинарным выходом, где применяется схема детектора злака тока, которая дает возможность определить направление тока (активационной функции КМОП КАФН с бинарным выходом) с большой точностью, преобразуя логические 1 или О уровни напряжения.

В отличии от вариантов КАФН с биполярными транзисторами, в КМОП КАФН каждому сииаптическому входу дается возможность принять положительное или отрицательное весовое значение. Этим обеспечивается большой класс функционирования нейрона даже в том случае, когда при решении данной задачи заранее не известны, какие синаптические входы должны принять положительные или отрицательные весы.

Представленные в пункте 4.2 все варианты КАФН сравнительно быстродействующие, т.к. базируются на переключателях тока. Благодаря масштабируемым источникам токов, которые являются общими для всех синапсов, представленные в пупкте 4.2 схемы КАФН более стабильны к разбросам технологии изготовления транзисторов и других полупроводниковых компонент. Значение эталонного тока абсолютно не влияет на нормальное функционирование нейронов, т.к. весы формируются не значениями токов, а их соотношениями, которые зависят от геометрии транзисторов и фиксируются в процессе технологического изготовления. Технические реализации пресинаптических взаимодействий КАФН не представляют из себя никакой сложности (параллельные соединения входных информационных транзисторов или диодов определяют это взаимодействие).

(6)

wf)=l-w<b).

В отличие от классических нейронов, вариантам КАФН в пункте 4.2 представляется возможность увеличить количество входов, благодаря новым схемотехническим и топологическим разработкам формирования весов.

В пункте 4.3 представлен вариант реализации аналоговой НС. Эта НС функционально полна для аналоговых функций, так как разработана на базе аналоговых интегральных схем, несмотря на существующее понятие разрешаемое™, которое обязует некоторым образом ограничить интервал функционирования, т.к. ее работа согласуется с работой цифровой ЭВМ в процессе обучения.

Здесь рассматривается частный случай аналоговой НС. Аналоговая НС реализована па двух синаптических и двух нейронных чипах, которые позволяют построить аналоговую НС с 8-8-8 топологией. Здесь, в синаптическом чипе умножитель реализован с использованием минимальных деталей: на двух транзисторных умножителях, которые проявляют линейную зависимость при малых мощностях. Несмотря на то, что аналоговые схемы обычно имеют низкую точность функционирования, тем не менее, благодаря адаптивности и использованным алгоритмам обучения, становится возможным компенсировать разброс параметров реализованных деталей. Аналоговая НС потребляет небольшую мощность. Благодаря разработанным схемам, уровни насыщения выходной активационной сигмоидальной функции аналогового нейрона остаются неизменными, вне зависимости от числа активных синапсов и значений выходных емкостей. Это свойство очень важно при конструировании НС с большими размерами.

В пункте 4.4 приведены архитектуры технических реализаций алгоритмов обучения для двух вариантов НС, разработанных в этой диссертации.

Вариант технической реализации алгоритма обучения КМОП КАФН с бинарным выходом разработан на цифровых схемах. В частности, разработана удобная схема генератора выходных ошибок, которая с легкостью генерирует сигнал выходной ошибки между обучающей (целевой) и реальной функцией. Этот сигнал в дальнейшем используется для наладки весовых значений. Здесь также используются реверсивные счетчики дня формирования весовых цифровых слов, которые хранятся в перепрограммируемых ПЗУ с электрическим стиранием (ЕЕРЛОМ).

Предлагается техническая релизация алгоритма обратного распространения аналоговой НС. В этом случае не советуется реализовывать алгоритм обратного распространения внутри чипа аналоговой НС, т.к. алгоритм используется только в процессе обучения и занимает сравнительно большую площадь. В процессе обучения чип аналоговой НС присоединяется к обучающей системе, после завершения обучения фиксируются весовые значения и только потом чип НС удаляется.

Представленные в четвертой главе варианты технической реализации нейронов дают возможность преодолеть функциональные недостатки классических нейронов, расширить функциональные возможности и адаптивность НС, а также улучшить технические параметры (быстродействие, характеристики, используемую площадь и т.д.).

Стоит заметить, что варианты КМОП КАФН и аналоговой НС удобно реализовать в виде сверхбольших интегральных схем (СБИС).

В данной главе также представлены результаты AIM SPICE моделирования для вышеуказанных вариантов схем: необходимые характеристики, технические параметры транзисторов (W/L геометрические размеры, эталонные напряжения и т.д.). Основные рабочие параметры этих вариантов представлепны в Таб. 1 и Таб.2.

Таб.1

Основные технические параметры КАФН на биполярных и КМОП транзисторах

Параметры Для КАФН с биполярными л-р-п транзисторами Для КАФН с биполярными р-п-р транзисторами Для КАФН с КМОП транзисторами

Потребляемая мощность (для синапса с единичным весовым значением) 0.43 мВт. 0.43 мВт. 35.87 мкВт.

Бинарные значения входных сигналов* V°=2B, V1=3B V°=2 В, V1=3B V°=0B, V40B

Едипичное значение веса 0.1 мА 0.1 мА 4 мкА

Интервал выходного сигнала [+ЗВ; +7 В] [-2.5 В; +2.5 В] [0 В; +10 В]

Входное смещение «10 мВ «10 мВ «10 мВ

Весовое смещение «10 мВ «10 мВ «10 мВ

Время доступа весов 5 не 15 не 5 мке

* V0 и V1 логические 0 и 1 уровни напряжения, соответственно

Таб.2

Основные технические параметры аналоговой НС на КМОП транзисторах

Параметры Значения

Для аналогового синаптического чипа **

Потребляемая мощность для столбца 2.25 мкВт

Потребляемая мощность для столбца, нагрузки столбцов и ДУ 100 мкВт

Интервал входного сигнала [2 В; 3 В]

Интервал весового сигнала [0 В; 1 В1

Интервал выходного сигнала (для каждого синаптического столбца, не завися от количеств активных синапсов) [-3 мкА; 3 мкА]

Входное смещение «10 мВ

Весовое смещение «10 мВ

Выходное смещение (для каждого синаптического столбца) «0.5 мкА

Время доступа весов 250 не

Для аналогового нейронного чипа ***

Потребляемая мощность (Включая пороговое значение) 700 мкВт

Минимальный интервал входного сигнала [-0.5мкА; 0.5мкА ]

Максимальный интервал входного сигнала [-5мкА; 5мкА1

Интервал выходного сигнала [2 В; ЗВ]

Входное смещение 0.15 мкА

Интервал порогового значения [0 В; 1 В]

Ток выходного порогового значения [-5 мкА; 5 мкА]

** аналоговый синаптический чип состоит из матрицы синапсов (столбцов и строк), включая нагрузку в каждом стобце, и дифференциального усилителя для синаптического выхода

*** аналоговый нейронный чип реализует общее алгебраическое суммирование, включая пороговое значение, и обработку активационной функции

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. Исследованы теоретические выражения, необходимые для технической реализаций нейронов и НС,

2. Разработаны новые варианты формирования весов нейронов,

3. Предложена модель квази-аналогового формального нейрона,

4. Разработаны некоторые варианты КАФН на базе

а) п-р-п биполярных транзисторов,

б) р-п-р биполярных транзисторов,

в) КМОП транзисторов,

5. Разработан вариант технической реализации аналоговой НС на базе КМОП транзисторов,

6. Получены результаты AIM SPICE моделирования интегральных схем,

7. Разработаны варианты технической реализации алгоритмов обучения для КАФН и аналоговой НС:

а) для обучения КМОП КАФН с бинарным выходом,

б) для обучения аналоговой НС, с использованием алгоритма обратного распространения.

АПРОБАЦИЯ РАБОТЫ

Результаты диссертационной работы и содержание отдельных разделов докладывались на годовых научных конференциях ГИУА и различных международных конференциях (NEUREL 97, Белград, NEURAP 98, Марсель, НКП 99, Москва)

Публикации

Основпые результаты диссертационной работы отражепы в следующих работах:

1. С.О. Мкртчян, A.C. Мкртчян, А.Г. Навасардяп, А.Ф. Лазарян, K.M. Назарян, Адаптивный пороговый элемент, / A.C. N 434, Ереван, 1997 (на армянском).

2. K.M. Nazaiyan, Circuit Realizations of a Formal Neuron: Quasi Analogical Formal Neuron, / Proc. of NEUREL 97, Sept. 8-9, Belgrade, Yugoslavia, 1997.

3. S.H. Mkrtichyan, A.S. Mkrtichyan, A.F. Lazaryan, K.M. Nazaiyan, V.E. Jahangiryan, A.D. Chosrovyan, Binary Neurotriggers for Digital Neurocomputers, / Proc.of NEUREL 97, Sep. 8-9, Belgrade, Yugoslavia, 1997.

4. С.О. Мкртчян, K.M. Назарян, Реализация формального нейрона с положительными и отрицательными весами, при использовании комплементарных биполярных транзисторов, / Деп. в Арм НИИНТИ, N 125-Ар97, Ереван, 1997, (на армянском).

5. С.О. Мкртчян, K.M. Назарян, Синтез квази аналогового формального нейрона, / Известия НАА и ГИУА, серия ТН, N 3, Ереван, 1997, (на армянском).

6. K.M. Nazaryan, The Quasi Analog Formal Neuron Implementation Using a Lateral Weight Transistor, / Proc. of NEURAP 98, March 11-13, Marseilles, France, 1998.

7. K.M. Назарян, A.C. Мкртчян, Вопросы технической реализации формального нейрона, / Известия НАА и ГИУА, серия ТН, N 1, Ереван, 1998, (на армянском).

8. С.О. Мкртчян, K.M. Назарян, Реализация формального нейрона с контролируемыми положительными и отрицательными весами с использованием КМОП транзисторов, / Известия НАА и ГИУА, серия ТН, N 1, Ереван, 1999, (на армянском).

9. K.M. Назарян, Аппаратная реализация нейрона с цифровыми программируемыми весами, / Тезисы докладов V Всероссийской конференции "НКП 99", Февраль 17-19, Москва.

IrtuquipjuiG tjuiphG UiuQniyi «\jbjpnGuijliG guiCghpli utubiSunnbtuGliljiuliuiG fipuilpuGuignuiGbpp» pbiSuijniJ Ipuinuipiluiir tuuiiuGuilunuiulpuG ui2juiuinuiQp]i

UinhQiuJunuuiljuiQ ui2lnuiuiiuQpp Gijlip4uj& t Gnp ubpGqli pniSifijniphpGbpfi (GbjpngniSiJijnipbpGbp) huiduip uiGhpuidb2in inuippbpli (GbjpnGGbp) U GpuiGgnil tipiuliuiGuigilnil guifigbpti uibJuGliliuilpHG JipiulpuGuigniiJGbpliQ: fiuniilGuiulipilmiJ L hbinwqninijmii bG GbjpnGmjJiG guiGgbpli Cb3) uibJuGjilpuljaiG lipuilpuGuignuJGbp}i uiiuppbpuiliGbp: <binuiqnun|b^ U \52iulplh^ bG.

> Gnp pi[uiq]i GiiuiGuilpuj]iG $nptiuiL GfajpnGJi (•filj&'b) ilnqb^ npG unquihnipniS t puii[uil^iuG}iG tfbfr ^niGliglmGaiL quiu uinuiGg Ipnnnigbpn GbjpnGuijliG guaGg,

> £173)17-11 mb}uGlil}uilpuG JipuiljuiGvugnuIGbpJi iS]x puiGJi uiuippbpuiliGbp (h}n5Gi}ui& bpljpbhn U tilTVi inpuiGqJiuiniipGbpli i|pui),

> GGuiGuil}tujp6 GbjpnGuijliG tfmibQi uibJuG}iljailiuiG ppuilpuGuigiSuiG Gnp inuippbpuil},

> *b3-bp}i npn2 ntunigiiuiG ui[qnp(ipiiGbpli uibJuGJiljuilpiiG lipuiliuxGuigniilGbpJi Gnp miuppbpuiIiGbp:

Pnpip uiuippbpuiliGbpp niumi5Qiuulipi|hL bG AIM SPICE itiuipbpli illigngnij b ipnpu bG pbpijb^ iuGlipuic)h2in pfinipuiqpbpG ni inhJuQlilpulpuG upupuiti binpbpp:

U^uilpluifr inuipphpiuljGbpp niGbG tuilpuG uiniuilhjmpjmGGhp GmtunpqGbpli hunihiSuiin, pG^vqbu ^niGljglinGuii hGaipuii|npmpjmGGbpli, lujdiqbu t^ uibiuGiilpulpuG upupiuiibuipbpji mbuuiGljjni GJig:

UiSiJimJiujqJip