автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.09, диссертация на тему:Нейронные комплексы в нейроподобных сетях, ориентированных на решение задач искусственного интеллекта
Автореферат диссертации по теме "Нейронные комплексы в нейроподобных сетях, ориентированных на решение задач искусственного интеллекта"
Г Б ОД
2 СЕН 1994 . . V .
Национальна академю наук Украши 1нститут юбернетики ¡мен! В. М. Глушкова
На правах рукопису
БАЙДИК Тетяна МиколаУвна
УДК 621.327.001.33
НЕЙРОНН1 КОМПЛЕКСЫ В НЕЙРОПОД1БНИХ С1ТКАХ, ОР16НТОВАНИХ НА ВИР1ШЕННЯ ЗАДАЧ ШТУЧНОГО 1НТЕЛЕКТУ
05.13.09 — управлгння в бюлопчних 1 медичних системах (включаючн застосування обчислювальноУ техшки)
Автореферат дисертацм на здобуття наукового ступеня доктора техжчних наук
К:'."в 1254
Днсерташ'ею е рукопис.
Росота впконана в 1нститул' к1бериетики ¡м. В. М. Глушкова HAH Укра'шн.
Науков1" консультанта: акадс.чпк АН УкраУни
АМОСОВ Микола Михайлович,
доктор техшчних наук КУССУЛЬ Ер нет Михайлович.
Офщппп опонснти: доктор техшчних наук, професор ВАСИЛЬбВ Володимир 1ванович,
доктор техшчних наук, професор ГЛАДЛН Шктор Полп-сарпович,
доктор техшчних наук
РОСЬ Анатолий Олександрович. .
Провцша оргашзащя: Доненькин шстнтут проблем штучного ¡нтелскту HAH УкраУни та Мжктерства ocBiTH Укра1ни.
Захист вщбудеться «^ ^¿^
готиш на зааданш снет'ал1зованоУ вчсноУ ради Д 016.45.05 при 1нститут1 KiCepHCTiiKH ¡меш В. М. Глушкова HAH УкраУ-нн за адресою:
252850, Кшв МСД 22, проспект Акадсмжа Глушкова, 40.
3 диссрташею можна ознайомитнся в науково-техшчному apxißi шституту.
* 1 ... 26' ,n Oy
Автореферат розюланнн «-» —f-~—-- 19 JJ р.
Вчений секретар епещал;зовано1 ичсноУ ради
КОЗАК Л. М.
ЗАТАЮ НА характеристика ровоти АКТУАЛЬЩСТЬ теш. Остаине десятир!ччя характеризуемся впроваджанняи у piarn гадуз1 мауки i технзки розробок, то пов'я-зан! з системами штучного 1нтелекту: В1д розл!знавання образiв до розробок експертних систем. Iтелекс/ал1зац!я р!зних лрограмних аасоб1в обробки тформацп, розширення 1 вдосконадення ыожл/чос-?ей язаемодп лодши а комп'ютером, розробка систем мультишдт а роавинутими лздскстемами техяшного зору, слуху, В1Дтаорення ih-форташ I. а такоя введения 1н<£ориацп в ЕОМ га дспомого» пера -все це лотребуе нових. по мохяивост! ушверсалыик засоб1в s;;pj-юення задач штучного 1нтелекту. Еагато досл1дник1в пов'язуоть перспективи розробки тагах систем а нейросзтьоЕЮ,! подходом.
Амосовим М.М. та йсго школою роароблено Шдх1д до створення нейронних citok, як! мояуть бути використан! для вир!гиення шиго-кого кода ¿адач штучного 1 нтелекту. Так1 штучш нейронн1 citkm маюгь iepapxiчну структуру. Головна ос Зливзсть полагав в тому, цз будь-який елемен? 1нформзцн в таких атках репрезентуеться не окре мим нейроном, а множиао» нейрон}в, як! виконуюп сшльну функцт Таку мнолмну нейрон 1 в ми назвали нейронном комплексом. Репреаеитац1я 1н$срмац1 г га доломогою нейронних комплекса мае переваги а точки эору штучного 1нтелекту через те, да нейронна С1тка яевного роашру дозваляе залам'ятата 61дьяй 1яформацзйяих елеиент1В. hi* К1льк1сть яейрон1в. Використання нейронних комплекса дозволяв збер1гати лод1бн!сть об'ектзв на ьах р1внях iepapxi i. В системах штучного 1нтелекту, побудованих за 4им принципом, з'явиться можлив!сть широкого використання аналог 1й. -Здат-Я1сть до використання аналог1я е одн1ею з гологних в1дшнностей лрироднього ттелекту в1д штучного 1 стримуе лодальший розвиток систем штучного 1нтелекту.
Властивост1 нейронних комплекс 1 в i можливоет1 ix використання в системах штучного 1нтедекту практично не досл1джен1. lap'-шенню цих питань ярисвячена дисертащя. Актуальнють робот и полагав в тому, да вона вирниуе коло питань, пов'язаних з важливою та малодосл1дженою проблемою в галуг! створення нейростових систем штучного ттелекту.
МЕТА роботш досд1дження властивостей нейронних комплекса Та мождивостей ix використання в нейронних елках, ор!ентованих на вириаення задач штучного 1нтелекту.
• Для ¿^сягнення met мети шгшбно вир1ашти так! задач!:
- о -
áJ.
1. Проанашаува- i проблели отучиого ттелекту i ыдалити т. в них, hkí i лзда роза'на а? и без допоют яейронккх cítok.
2. <\ ,рмужшати вишгя до аейронних cítok, eki сризначен: для розв'яаанля оаяач&иих яробдеы.
3. Лцтити яарспйктиви використання иейрошшх cítok, • сиувааня яких базуеться на яейрояних комплексах.
L Доел! д>ггг. етру-сгуру hí 2ро:ших комплекс! в. Треба В1дштя ти, до нейрона! ¡сомплекси, як1 приЯиаигь упасть у ио:. ..редк1Я i >■ робш тфэршцп. ¡.-ахзтъ пор1внано просту структуру, а нейронн комплекс..;. jcorpi фэркуххгься в ироцес: навчанйя (гаге аван! нейрон «1 ашамбл!), маетъ бзльш складну структуру i шдуть сгиадатася ядра í ( йроми. Тому особлива у^ата повинна првдлятяся досл!д якнн» структура нейрояиих ансамблгв.
5. РсзроСитк i досд1дити Kosi способа кодуваншг 'нформащ для вводу t í у нейронн! ciTir-'. b\j£po6:rrii нейрояш citkíi а заре псаю етруотурою Des авчання ("уроджекГ' структура) для peaaiaa ui? i^oro кодуванпя. Роаробити нейрош» чласяф1катори, ski вило ристову/агь щ способа кодуваяня.
6. Виконаги експер!шеиталья1 рс 'оти з перев! ргч характерце ту,к Htiipоннлх !саас1!ф1иатор!в i пор!вняти íx э 1сну»шши иейроняи ш i вь* Пиями т -адишйними кяасий! кагорами.
7. Еизначити 1НформаЦ1йа/ wjctkjctí .чейроня^ cítok яри фэр »r'Eainii як аясамбл1в з простоя однор; дно» структурою, так i пр формувашп ансамблзв а ядром 1 бахромоя
8. Адат/вати ыетсди еволххийно* оятишзаци до в1дбору ih формативлих оанак в задачах роашзиаваяня образ5в за дояоаого нейр0С1ТЬ0ВИХ систем.
а. Розрсбити П1дходи до розв'яаання аадач розтзнаванкя об paais ва дошмогою нейроиннх cítok.
10. ''рододелшати i досд!дкти моду льну (яеповнозв'яану структуру нейроиних cítok, я!са догволяе зыенши.и дотр1бн1 обсяг пам'ят1 пор1вняяо а гзовйоав'язшиы £йрошшш соками, атаке ощнити ИВИДКОД1И модульних структур. Пор1вняти заярлюноваш ¡ПДХ1Д si стохастичним методом яобудови неповнозв' язних структур
11. Розвинути алгоритм! чау шву опису afiom ативш проектш них нвРроиних CÍTOK.
12. Сфрмулговати вимогя до а. дратних аасоб1в тдтртсси заг ропояоваяих нейронних l^tuí.
1ЮВЖЖА робот«.
Еперпа досд! дямп •■■паетивостз яейрояних комлдегалв. як! реп-резентуеть 1нфорьг и» 2 штучнях нейрояяих сутках.
Еаерва грсаяадззовано -шив вчугришьо* с?р"чтури нейрошшх ансагбл-з. як1 сгигадаэться з ядра , бахроыи. аа тформашяиу шсткють нгйроншн сзток.
Розвинено 1 „роанал 1 зоЕгно апарат асоц1а?ИЕНо-проегаивши нэйрсдашх С1-ГСК 1 слособя його реапгацп Оерарх1чя1 асощ .гиз-яо-лроективя! яейроан сики 1 модуяья! нейрогш штки). Проведено шделгаання ыодульяга ыейронякх сзток та 1х дослздасевчя, доведено, г» IX гикорисгаяня дозволяй зб^дьаити як. вв:1дт>д1а, та« з 1кфор!Ас.й11й:у Ы1СТК1 сть яейронякх сгхок в • эршюшп з ясвнозп'яа-яшт асощагивно-ярсектявяиыи яеЯрояяими спткзх« пр;; уиов1, яр аикориеговувться оперативна пач' ять рзвясго об' еь!у.
Рогроблеко метод оцшед 1н$ор:.ец1йко:: шсгхост1 асощагив-яо-проективяих яеЯролшах спток 1 вихористано його для ялдрахунку шфсрматйно* м1сткост1 «одудьиих яейроиних структур.
РСЭЕННеИО ШВУ ОПИСУ 1ерар21Ч.Ч11Х аС0Ц1аТИВИ0-ПР0еКТИЕНИХ
яейроеньових структур.
Запролоновано 1 реал1зовако нов! ыетоди ¡иасифзкацп та роа-Шзяавания образ!в за допомогою нейропод!б них а ток »а викоиая'о IX поршияня з традиад&шми методами класяфкащ*. Роаробдено кдасифгкатори зорових образав, як1 лерев1р&я1 на деликт к1льксо-ц тестових задач.
Вперше використаяо метод еволпщйяох оптишзацп (геяетичиий алгоритм) для влдбору 1 нормативам* оанак для яейросньових систем, ях1 викоркстовуються для розшзнавання образ!в.
Л0сд1Д2саао новкй пишд до кодування вх1дно! тформацп -зсувне кодуваяня, яктй дозволяв розшвна ати сб'екти незалежю взд гх шсцезяаходхення яа гобр^жеши.
Роароблено еыудятср нейра лт'югера, якмй догводяе писан! та яазатоджувати преграда для яейроксмп' ютера на гвичайяих лерсо-яадьних ЕСМ.
Вперше аа довомогою '".ошаиивяо-проекгивпих нейрон»:« сггск роза'яаая! чадач1 позшзяаваняя складних форм об'ектзв, текстур н рукописных сд1в. При рогв'яаанш деяких задач був. ыисориотшшй нег.ркогш' нтер, я кий було розроблено сшлыю з япоысыссм ф! рыов Ч'АСОМ.
- 4 -
ТЕОРЕТИЧНЕ ЙНАЧЕННЯ результатов робота
Теоретична сначуацсть дисертащйно! роботи полягзе в тому, ш а я1й знайша пс алыгий розвиток нова концепщя моделшання 1 ярсярчх глток. ар завочаткована в Гнститут! К1бернетики 14. В. М. Глуикова ЕДЯ Украина. Ироанаизоваяа аналогия мх яейрон-ними колтлмсеаья. дод!бяими до шсааблт Уебба, 1 мнолияалш ьс-тивиих яеьрояав, шр ¿ормуються нейронлмш структурами з наперед задано» структурою. Показано, яр головною властивютю таких нейронных мноаин в обох випадках е абережанкя 1нформац11 про схо-хють об' ект1в, яким вони в1дооз1даот2>. Дя властивють обумов-люеться шпсв переткну в1дпоа!дыих множив акт йен их нейрон1в. Так1 шодини буди назван! иейронними комплексами. •
Лосл1давно властивост! нейрояних кошяекслв, як! е основою ьапролоиовгшоу инцест г. Шказаяо, як ц! властивост 1 вогивать на головн! властивост! яейрояыих С1ГОК. 35>оааал1зоваао проблему зберелаання схожзст! в моделях об'екпв, як! мояуть бути описая1 на Р13НЖС р1внях 1ерарх!Г, 1 показано, ар використання аейровних комплекс 1» В1дкри£ан влях до розв' язаная ще! проблема. В сво» чергу роав'ягання лроблеш збереаення схоласт! доаволяе набдиги-тися до створення систем, як! використовуить тркування га аналога его, ар традщ1йыо е одн!ею а головнмх аадач штучного !нтелекту.
Показало, ар для досл!длеяня 1нфоршдзйяо1 мюткоси ьейроа-них с1ток зручао корлстуватися чиседьно-акад!гичшш ыетодоа, якай лолягаа в тому, до стан матриц: микнейронних зв'язк!в ошягаоетъся анаапично, а недшйна порогова оаератя, результатом я ко* б ви-лдие абудаеала яейрон!в, розраховуеться чиседьао. Цей метод в1дкрмвае велик! моаливост! в дссл1дженн1 стохастичних яейрояних
С! ТОК.
ПРАКТОНЕ ЗНАЧЕНИЯ роботи.
Результат! дослздаекня головних властивостей яейронних комплекса дозволили по-яовому П1Д1ЙТИ до роав'ягання задач розшана-ваная обраыв. За допошгов яарадтд! ассщативно-яроекгианих яейрояиж с!ток розв'яаая! задач! рогя13яавания складаш форм, роашпнаааяня текстур та рукописиих сл1в,
Запропонованай шдх!д, в якому використовуя7гься яейранш коыплекси, довволяе роарсбити авидкодист система хлаеиф1кац!* образ1в, як! можуть бути ®икористан1 при вир!иенн1 задач контролю якйст! вироб!в та аадач адаптивного керуваяня роботами. При цьому
дашй Я1Д21Д дозволив розрсбиги зшюсио seiidBi 1 bv ¡окопродук-7Mbíij азаратнд аасс-Сл шделшання иейришшу смок (иеярскоиа'пте-ри).
Результата дисертац1йио* робота вшорастовузагжя прч liHöopi apxiTe¡crypu 1 систем кошнд нейргаювтер1в, ягл розроблегп в IX HAH Украш!, а такая я иейрокшя'аагерах ß-512. B-512W, и« рсаробден 1 апльно 1нститутоя ¡аберне-г^й! а япожажю &1рыиг> "УЛСО>Г.
2аяропоиована í рсзвялута в робот! 1дея сшльного зшсорис-ташш генетнчзюго алгоритм/ оптишзаци i нейрос^ьоют присчро-is. Ца дозволяв а гнпаго Секу П1д1йтк до резв'язалая проблема выбору 1н£орматившпс ознак при кириг-эиш задач роэшзнавани? обра-alB.
Ясельно- аяал1тичшп! а&тод для визначеняя шфзраашй--)* ШСТКССТ1 кейрошшх citok догжоляв ¿¿ориулшати к:: юга до anарат-аих aacoölB, iiki notpi6ai для bsipiskl я кенкретнкх £.адач. При ¡»ому нейрогш cithu юлуть складатися з сотеа тисяч, a uoae й нзльйош» иейрошв.
Ззпропокована модульяа стру:ггура иейроиних citok дозволяв реал1зувати на пракивд модел1 нгйронних citok з велюемо lüíopua-Шйнов iiicTKicTxx 5е пов'язаяа з тки. г» веобх1ДО затрати ком-п'етерно* ягм'ят1 яри реал1зацп таких ::ейрошг.1Х «ток зростаягь не квадратично, а лтпна в за-тегяоет! й5д кньжст; яейрыпв.
Розроблеаий еиулятор 1 налагодгувач нейрос{тьових програн дозваляг тдготовлЕпати програма яа заглайнШ персонально ЕСМ 1 nnriM використовуваги ix на яейрокома' ьатерах.
додоиення, ffi> ВЗНОСИТЬСЯ 30 зажсту.
1. Реп; ггеитащз 1нфорыащг в нейргашя сиках у вигаяд» яейронних комплекса (ансачй5л!з 31 складною структурою - ядром и бахромою) s6epirae шформац!» про exext сть об'аспз, як! представляться за доломогои цих кешлегамв, i дозеоляе оргатзоьува и ефектйвну обробяу 1яфорыац1Г в 1ерар21чних нейрос1тьових структурах.
2. Кодування 1нфоршцп на гаод! нейроняих citok за допомо-гою нейронних комплекс ib дозволяв реалзаузати таке шшряшише яеретворенна видного простору, яке дае зыогу розробити класиф!-натори oópasiB з характеристиками, крадамя за характеристики ic-нузэтих кдасиф1катор1в.
а й^дульна структура нейро-них cítok дозеодяс зиеншити пот-р1бй1 pccMipH паы'ят: в лоршиян} а яовнозв'язнши асошатиз-BQ-npw ¿ктивними нейролними ciTicaini, а такох забезпечус зростання дкод11 в Я0Р1ШШШ2 з повнозв'язнилл нейролщ'лм спга^гл.
4. Сшдьне вигаз: гстання иейронних citok 1 метода еволющйно* атишаацп геяетишюго алгоритму) для аздбору 1яфорштязнш : ж при рс в'яааня! задач росшзнавання o6paaia (а саме вириаеяня задаш роаш знав алия рукописних сд1В) даз змогу токракити результат« ро?"1ацаваиш! oflpaaiB.
ЛПРйБАЩЯ роботя
Осиовш яауков! положэшщ i результата роботя були докладен! ira яаукових сем шарах "Яейрокомя' югери" Йауково* ради 1'Ж Укра; jí з проблема "Кибернетика" <1989 р. - 1994 р.), а такая на коя^ерея-циа: "„юшка i бюмедк1берне?ика - 85", Яшнград, 1985 р.; Всесоюзна коиферешия а тучного Иггелекгу, Переславдь-Эадбський. 1983 р.; YI1I Ресяублканська коьференшя "Бюягиа - 89", Кременчуг. 1989 р.; Мишародаа конферешця з проблем моделлваяня в бю-В1Ц1 "БЮмод-ЙЗ", Сачкт-Яетербург, 1992 р.; Пгрдз £се**кра*нська кон4еренд1я з роашзнавакня >бра21в "UkrOBRAZ-92"; CiimoaiyM а нейротформатикм i ейрокоып'¡orepiB RHWS/IEEE, Ростов-аа-Дону, 1992 „
Окрем} результата досл1джеиь були вадрукован» в материалах койференща, да в1Дбуллся в Бодгарп (Варна. "ШВ^вЗ"), в Чг-хослоъачинш (Прага, "NeuroNet-вО"), У франц! í (Шм. "№?uroNl тез'SI". "HeuroNinies'S3"), в США (Ролла. iílccypi "АШЕ'91"). Досл1даевня тадриаам! фондом Сороса i шанародшш ппсчктом 1Ш1
Р£АД13ДЩЯ РЕЗУЛЬТАТ 1Е
Робота вли'лнувалась в рамках к1лькох НДР i госпдопшрних роб! т. Результата досл1дження мохошостей яейролодиЗяих cítok i наяраяьован1 рекомевдащ i во »х використанню впрогад*ен1 в резнях установах, про ли св1дчать акти вяроваджеяия наукових розробок.
Автор була в1дпов1дальним виконавцеы госядопшрких роб1т, в тому числ' "Макетування годовних вуал1в гехшчних 8асоб1в систем штучного штелекху (нейрокомп'игера)" (НДОКР "АНОНС"). 1990 р. Зараа автор е в1дпов1далыш! викоиа: дем НДР "Нейрокомя' стер" (1992 р. - 1924 р.).
Були УСП1ШН0 р«ал1аоаан1 1 шод вякорястовую^ься алгоритма роашанавання рукописних сл!в 1 еволюц!йно* оятим1зац1 яа укра-¡гнсько-яяонському яейрокомп' итерг В-512, вэ був розроблений сшльяо урахяськими г я донецкими в пенями.
Бо результатам доол^яня ютшативио-яроективних нейрояо-Д1бних структур та вирюення задач га « дояомогоь буди прочитан1
факультативно декцп дгл студея; в факультету систем автоматиао-вааого керувашга КПЗ.
СТРУКТУРА X С?СЯР дясертацп. Дисергацзя складаатьея а всту-пу, 7 розд1Л1в. висновк1в 1 "писку Д1тератури. Об^чг дисертацн -309 сто^1Яок тексту, ¿мстить 17* тайл..ць 1 67 рисушаа. Список л1-тератури мюгить 208 дяерел ( 117 в)тчиаяяша 1 01 1ногемя5).
ЗМ1СТ РОВОТИ
У пер дому роздиз дисертац!* зикладено анал! сучасного стану як в розробц! систем «тучного штелгкту, так 1 в роаробщ 1 ДОСЛ1Д2КНН1 гггучаих яейрояних с1ток. ^ли проа. ллгзопал! голоып яроблеыи атучного телекг/, ят яе В!гр1игтться за допомогов тра-диц'. ^них м&тод12. До таких мозыа вцанести проблему яспуку схожэс-Т1 двох чи бататьох об'екпв, проблему пошуку аналог1Я в системах репреаентаци анаяь, проблему побудови висновма а викориетанняы аналог 1й. Буля розгллнут! декларапшт. процедура 1 1 зыьтгип метод» редреаеятащ г зяань. Сагдьшш для них метод 1 а в той факт, то при епаеах складних середоезд катастроф1чко розростаигъся обсяги перел1К1в пдаетивостей об'екпв, "41 складають це середоввдэ. Шоб якось аапоб1гти ; ому. впроваджуеть класк^и-лиа. Бластивоси якогось класу зумовлюоть властивост! об'егсгу. зо до цього класу яалежить. Де дозволяг обмелитк мдькють даяяих. да використо-вуюгься. Але введения класифпещп заяадто зпроиуе опис об'екту, тобто поэбавдяв об'ект його 1ядив1дуаяьних властивостей х сзизк, вр а1др1зняигь Яого ¿1д иших об'екпв, да належать до чьего ж квасу. . ,
Лдшш а вершах, это зроаутв яеможамв1сть адекватного опису складних об'екпв за допомогои строго* класифгкаци, був Л.Заде. 21н ввахав, до скаэд"1 об'ектя неиожливо 1 абсолютною яевшстю в Шести до того чи 1швого кла*./, тому гааропояуваа понятта не-члтко* (розмито*) наояини. а г. лйколагаиу слекенту ставиться у В1д0оа1ди1сть М1ра налеяност1 до тех ыкогаши. Тэку оценку дае лвдина - експерт для початкових множил. а цг" похлдних икотаа (яоедяаяня, перетин та 1и. > мояьа користуиатися форыальними процедурами роярахунюг шри яалегиост1. Такий Я1дх1д виправдоауе себе, яхдо форыал1ауюгься анализ експерпв. але духе часто експерт ояа;тК!Ться в скрутному становий а оциии м1ри налезмоси.
Мэжна роагдяаути лшу шру налелоюст}, яка подобна до шри ¿Заде, але а'являетьса не як суб'вктивяа оцшка лздини, а с^р-муеться як результат роботи певного розшаиавальяого ярисуроа
- в -
Шхай об'екти могла в1добразитм -гичками 1,2.3,4 в декартов ому простор! (рис.1).
X ¡ Í
У
- -Д---Ч-оз
Ai
ч
\
- D 4 ,
1 Ч I J
--
Рис. 1.
Год1 за Mipy нале;?лост1 об'екта до певного luacy ыолша виб-рат;. величину, яка аадеяить В1Д В1дстан1 точки, яка в1двов1дае r-v vk.j, до uoímy ваги к.иасу.
1НТУ1ТЛВЯО о уО'д у и i ло, ¡зр коли об'ект diaE схожий на типо-вий сб'е:сг )сласу, тод1 а б1Дыаою влевиешст» його южна шдкееги до цього класу.
Епрозаджуачи таю "об'ектмвт" м1ри иагехиос?1 аашстъ су£"екгивиих оцшок Л. Заде, ми шеш здагу крал» э'ясувази, да дамгь так1 гл р;: для здашаення лорсткост* кяасифшгщи. Але 1 в цьону влпадку. i в мшадку шр Д. Заде ошнка е скалярного велачи-.'ою. ер приводить до втрати анань яро рзаномашттсть г...остеЯ об'екту. ршюмаштшсть йсго веютрного лредставлення.
Нейрона! С1т;аг доэволяеть вСерегти багатство в1Добракеиня якостей об'екту, upo sp шва буда йти у другому i третьему роад!-
У першому ро2Д1д1 йроанал53ован! також шдходи до розробки нейрос1тьов"х систем. Головма увага арид!лена роботам з шделю-вшшя ыислеикя i iichxskh, гапочатксвашш ü М. Амосовям у В1дд1л1 бшиберягтикя 1нституту К1беряетики ан урср б1ля 20 pokíb тому. Гигатеза ií 11 Амосова базуеться да загальних принципах модедюваккя 1 лреробки hiiícpiiauiH (презентац1:: об'екпв, ситуацШ
та i и.) збер1гаеться в лам'ят! в структурах нейрон i в та в зв'явках и ними. Кожноыу поняттю зовшшнього св!ту в1даов1дае своя нейронна структура ("модель" за ¡I ¡¿ Амосовиы). lie ре робка шборма-ци моакоы то е збудаешш одних моделей ашши. Амосов Ú. к аап-ролояував ввести систему посилення-гальмуЕаннл, шр регулге р1вень абудяення piaaiix моделей. Цз ]де* знайши розвиток'в моделях ней-рониих с i ток, роаробдеиих Касаткзно» Л. М. 1 Яаеаткшш О. Ü (актива! СЗШНТИЧН1 НейРГ,ШП С lililí).
Паралельно а цим К/ссул:ы Е. М. роароблялися нейронн1 с!тки а ансамблевой оргая1гащеа Голсвна Е1дм1яа в;д актиыпи семаятич-них С1тс«, а аю1х кошоиу яоиягтю В1 дпогндае одна нейрон, туг воля гае в тому, да коаяому игЗормац! Иному елемепту Я1дяов!даз мно-зшяа нейроя1В, яку мя як 1 .Хебб наливаемо ансамблем. Анс&лйль яейроя1в характеризуется тим. гр м!я нейронами, ар входя-ъ до складу ансамбля, формуюгься зв'язки з б 1 ль по» загою, тх зв'язга' 8 1нни\м нейронами епки.
Вэхай яевному пояяттю в!дяов1даг мнехиыа яейрон1в С (рис.2).
0 1
С ело 1 " |
1
Рис. 2
а ккоиусь 1яаоыу пояятто - ыиожииа нейрон 1 в 0. Яюзэ поняття блнзьк1 за ам1сто«, мяояшш С 1 й шгзтг багато стльних кейрошв (яеретин С,10). Тсбто ¿ормувться м!ра схояосп хюнзть як к!льк!ст2> стльних нейроя1в в ансамблях, як! в!дпоа1дають да и пояяттяи.
Ця парадигма нейрояннх сиок названа аеошатиано-проективяи-мл Еейронниыи с1тказа (АПШ). Таким яейрошизы С!ткам яритаыанна асощатианюгь. Взхаивою в!ды1кою В1Д асощатизнях нейроняих с1-ток, 2x1 розребляютьег нажми вчешши, е те, яр для АПНС заяропо-Еовши иэтода побудови 1ерарх1чних структур а зберехенняы яринци-яу розр1длйного кодування яа кояному р1вш. Розр1джене кодуваняя а нейрояяих С1тках е такая сяосзб презентаци 1яфор. ЛЦ1*. коли кшаоыу елемаагу (озаац1, образу, яояяттв. зидношешш та. 1н.) ставиться у в1даов1ДЯ1сть не один ыейрон, а я^дмноамяа нейрон1в, яку ыа навираемо нейрояниа комплексом, 1 шлькють активяих ней-рон1В аначно мекше к1дькост1 нейрон!в в яейроян1й с!тц;. Еайрон-яяй комплекс в бта загальиим терм!яоа я1х яейронний ансамбль 1 яоглияаг йэго. А1ШС розроблеш для вяр1веняя задач тучного 1нт<~-лекту 1 мояуть бути вянористан! для ыоделювання як образного, так 1 пояяттевого мислення. П1Д образним шелеяням розумють ояеру-ванна сукушисто оанак. як1 описуюгь об'ект. Л1д поняттбвим мис-денняы розумють ояеруваяня з 1 менами об'екмв (пояяттями). У ранках Ц1е1 парад!гми виконана дисертащйяа робота.
Розглянут! також 1нш нейрос1тьов1 яарад1гми, як1 роароблен1 ак за кордоном, так 1 в нзшй деряав1. Треба зазначяти, гр 80-Т1 роки стад:; роками буришвого В1дюдження досл!даеяь в ц!й галуз!.
- so -
!яшдяки i)радам ХЬпфи ,a, Йохоиена, Налца, Рроссберга, Хехт-&яь-сона та J ним. Суля отриыаш шкал! результат« розробки i Biiiiopir.-тгшня iкейронних ciTozt для лпрзсгаля -деяких задач втучного .;:'тела1сгу. В nepsiä глав i дроанал1зован1 Ул не.!* ■•ваги i недолиш. П jeptras: ась до розаови лро смстеми сгучного 1лтелегсгу, троба тдгначта i той ¿акт, up система штучного lurex&ivry - цг найчгзс-TÍK2 символьна систем!. За симводьну 1и£с>ргащзо íssmo lüsaa сб'елти. пена ситуащй, тойго яшсь 1денх1ф1катори (ciüsojsí, . Аде вчзб визначити схйхлстъ об'екпв, треба яоршшватн на сильна ix i vena, смльки сшей них об'екпа. В деяких систсгах вгучгого 1нтелекту робмлися спробя вирюити да проблему такиа чиной. Щж-лускаоть , вд нижшй р!вень lepapxiunoï сястеш ктучаого штелен-ту охоплке ycri сукугапсть озиак об' шша. Наступнкй pisaíis - цэ ревень сплсу luaciB об'екпа, цр a6epiras ош:с icosioro лредста?,-ника кдапу. ñ цьоиу вяладку й.„лстивост1 сб'екпв яр;! переход1 s р1г.ня на piBCHb абер таиться, аза обезгм 1яфоршди аростаоть ек-споненщалыю.
Використаиия мейронпмх нножия в jiarsix роботах дозволяв отри-ьптн компроиюне piпения, »юли а.гаст..лосИ cö'sisir на яерхшх р!В!!л>: частково зберагаоться, але обгягя описи» не зрсстаать.
Реп, еаента .¡я 1нфоршц1Т у тш\аяд1 нейронних moarâ:, якз иг-кснуюгъ enmay функщэ i яга ки назвали нзйронаи-ч Ksiaieja;a¿r.j, ir чаоляс абертати не Т1льки cxoaicrt об'екпв аа рртуиок ягретн-яу нейронних комплекса пк1 tu В1дгю21дзлп>, ase fl доаволяе по-едяуватя в одному üiüici як i иена об'Екпв, так 1 ïx озяаки.
У першыу роад1Л1 роаглянуп 1снугл шдхода да розробт; нейронних класиф!катор}в. Еахлиаии аспектом вякорастаняа нейронних ci ток s ïx лристосовшсть до вир1Еегшя прикладах задач. Еа-raTDiaapoBi персептронм я аворотшы лошареняяы помадки вякорксто-пуитьса дилгатньо шроко иа заход1 для вир1шнкя задач itsacKáaisa-Д1 ï. Розглянут! i 1нш1 нейронн! гшасифлкатори.
Другий роздал прясвячрний оаису . орадтш репрезенгатг la-форшцэ t - асовдативно-проекгивяим яейрояним ciTKau. Головной L-руктурно» одикице» АПНС е нейрояяе поле. Шйронае поде - це п1дмло«ша нейрон1в, яю гиконуять однакавай наЫр 4.ЯКЦ1Й. У нейрон ib одного поля зв'язки wis собоз» i 3 1яиами нейронами фзр-ыуоться га сл1льниш правилами дль scix нейрон i в поля. УЬл pospia-яяемо 2 типа нейронних нолей: пощативне 1 буфгрне. Асощативне яейронне поле поязначаеться ^да форыувамня нейронних aacaißaia в npoueci яаачання i для асощатквного вгдновлення нейронних ан-
- -
caítóülB а робочоху peasoii. 3 дисертацп наведена схема асоцзатив-кого поля, розглянутз ?ою фушацх i властивостз. Буферне иоле аризначагться для "бору, тиычасового збврежегшя 1 норм^аачия роа-aipie нейронйих ансаиблзз. рч допомогоэ буферного ноля vor.'j, ана-ходити ¿1зющю двох абуджиих нейроь..их ачса*а5лзв. Дудь-яке иеи-рояке поле «аз спецзаданий лзчилмшк, якмЯ дсзволяе пздра^ойуваги к!_!с1сть абудяен-х нейронза у тому полз. 3 аеоцдативких i 6у-фэрмих полей за допоыогоа прогеткЕши j рецептизннх зв'язкзг ут-ворхагпься 1ерарХ1чн1 АПИС. Проективнз эв'яакк не ашкмотьея в яроцес! наачаяня. Структура ав'язкзв встановлюе вааеюю однсанач-иу вздповзднзсть шл яейронаш одного дссщагш: .ого пола з нейронами lijsoro асоцзативаого пола, акз нале-ать рзгним герархзчипм рзвггга. Рецаггтивн1 эн'язта встаяовлтгь вздобратекшз яздмножшн вейроязв одного поля в один нейрон знпого.
В дисертаци описана функцз ональна схеыа бгнарних нейроиза, ski вякористовуигься в асоцзативних полях. Значения сигналу на
виход1 нейрону q визначавться у вздповздносп а формулой (1). _д
3. авдэ ) aivi> ^
q - S • с1)
1 0, я кар ^ ачУч< th
ч. , _„ Я I
í-i
де aj- сигнал на 3-ку асоцзативноыу вход1 нейрону; сичантична вага 1-го входу нейрона; th - значения порогу нейрона.
йога маги тзлъки два значения - О або 1.
НейрсннЗ сзтки скдадааться з таких бзнарних иейранза i 61-
нара-х зв'язкза В процесз наз'ганн.ч вага зв'аакзз в нейроиыих с1тках шдаф1куг?ься i citkk адатяз залам' ятсаувати мову i ¡¡формата, Головне яразидо <закон яаачання) ней: энних сзток с^ормулшав йгб& яшз нейрон A абудаув не..рои В, i «ей лроцес яовторюеться, то «тактична вага зв' язку тх зиш яейрояаш аростаз. Де правило а деякшги аарзацзами доскть чаете аикористовуеться в сучасних моделях нейроннах сзток.
В АПШ дикориетовует.' оя ао,цйф1коване правило Хгбба 15аачання нейрону «ае. Шсздг, коли е ситняа на навчаючону ьход1 (trAi). Будет рогрззняти навчання при позитивному лздкрзяленяз (tr>ü) i пру а1я'емкоиу тдкрзплевн1 (tr<0). При позитивному пздкрз плеши гшитання синаотачно* вагн в1дбуваеться у в1доов1дност1 а
V?- WtU (а^ q & h4> . (2)
де U - ангк диэ'шкщк; $ - знак кон'шкш*; У* - сичаптичяа »ara П1сгя окавчання; Уг - синаптична вата до навчання; еиг-
яал на 1-му асощативному вход1; q - сигнал на виход! нейрону; hj-
бэнарда вкпадкоьа величина, яка приймае значения одинищ з ймов!р-шста, яка доршисе гигнаду тдкршлення tr:
p(hj- 1) - tr. (3)
Щя в1д'емному шдкртаешм зм!на синаптячно* вти в!ДПов1да8:
V*- V^ (ajft q Й hj ; (4)
p( hj - 1) -i tr J
де | tr | - абсолютна величина сигналу шдкршлеккя.
В роад1Л1 роавинута специальна мова для огшсу 1ерарх1чшсс
АШЗ, яка мож використовуватися на етат роаробки таких структур. Структура мови пабдижена до структура иови ярограмування С 1 аручна в корястуванн1.
Ваашивмм етапом в розробцз нейрошшх citok е кодування 1н-формаш тобто задания оплсу об'екту в формат! яейронних сник. б^дь-який 1нфэр. лц1йний элемент в ahhg мае аиглад нейронного комплексу. Заяропсноваш два тдходи до кодування - локально ав'явне кодування 1 зсувне ¡вдувания. Обидва способ« ыдносяться до так званих метод1в г низьким pi пнем активности, тобто к1ль-К1сть нейрон1В в нейроююму комплекс1, який кодуе об'era, мае бутя ьначио меяясю his шлькють яейрон1в у нейрояя1й с1тц1. Особ-ливютю локально зв'язного кодування е те, до pssni члслов1 значения параметра, як J шеиа ицх параметра, преаеитуяяься pisan-ш бтаршаш стохастмчниыи векторами. йгхай роашр вектору - п, к1лък1стг збуджених нейрон1в ансамбля - т (тобто вектор мае а одимщь в виладковнх розрядах вектору). Цри цьоыу ю;<а Так! век-тори Mil иааиваеыо маскаш. Щрб подата таку маску на вх!д асоща-1 зного яоля, треба абудити нейрояи цього поля, номера яких сшв-садаять з номерами поакшй б 1 парного вектору-маски, в я кому в одиннчш еле-янти. Розробдена процедура отриманнд таких п-роаряд-них вектор1в на типовому нейрокоыя' iccepi. Уак1 маски автоматично формуються >;а -гриому етал! робота неярошшх citok 1 залам' ято-вухггься у сам' я? 1 комя'ютера.
йар на вход треба подати олис об'визу, який складаяться а к1лькох ознак, то шоса об'екту формуеться як поразрядна диа'шк-щя маток оаяак. Бра цьому млькють одиничних едеданпв не повинна яеревищуваги a JJd6 виконати цю умову викорисговуигь норыу-вання маски об'егсту. тобто вилучаюгь aaflsi одиничш едементи аа доломогою спетально* процедур«, яка гарантув приблиаио pi вне представнацтво yctx ознак а ыасц! об'екту.
Дуж> вахдиво при кодуваян! аберелгм тформацш про власти* вся! даних в нейрошшх мноюшах, якими ix рспреаентуигь. Одна ъ
оаяяяшх зластгасстей п >зат;ллса. Рпзроблено процедура кодувзння чисдовях яарааетр1в, як1 дсзголяп.ь гберепл метрику за рахунок того, пр блиаьш числа кають nsüpoiíHl код'-s, а якя вйлшз К5ль-kictí сшлыш нейроша.
Осузяз кодуваняя, a: i локально ав'язне. вжористовуз Ciuap-кий стохастячний гад. Йараиетр иэдувться за дсяомогою ¿aeic, а його чисельне значения - зсувом того гаду аа в1длив1дну кзль-jtiCTb розряд!а. Ыа рис. 3,а наведено яриклад такого гсодугакня для ода 1С* озшш! X (- абудагаяй нейрон ; - - яоабудаенля нейрон). 1Ьхай треба закодувати значения ще* ознаки, яке дар i влас +1. Дсб закодуватя цв значения, эсунгмо ус» каску на один розряд праворуч (р:!С. 3,6).
--------1—+•-+-+-
а
-----t+ч----+—+-+-f
б
Ряс. а Эсувяе кодуваняя: а - П'-чатковий код: б - код координат« Х-+1 Дрозигшзоваяо repesara i яедолш! ютого a щас потод1в кодуван-
йя.
При и!р1Е2ян1 задай етучного ютелекту га дсяомогою АШС еи-siatas нес5х1дя1сть побудоая нейронних сзток, яр складаоться з со-тея »неач або мигьйогпв нейрон 1 в. Але збтвення шлысост! нейро-тз яризводагь до квадракшого аростання потр1бно1 яан'ят!. Тому будя розроблсн1 гюдулыи (неп03!102а'ягн1) яейроит citkh, в якмх яаи'ять зростаз лшйко в аале:л:ос?1 в1д к1льхост1 нейрон i а. Ояи-caaí два шдходм до розробки ходухьних нейронних citok. Опия з wx буа заяроаоясваний JSyusato S.H. Bin пов'яззяий а тин, - гр в козпояу рядку матриц! зв'яак1в за дояомого» вияадково* процедура аид1гяюгъсг к едеыгнт13, в яких дсзволяеться утворен'-я ав'яаюв (k«<n). íhii'ять сбчислазальяого пристрою розрахована на «i к еде-гггетча. Ероцедура Hitficpy доавохэних елеменпв будуетьса так. щоб юг:а будо й1дао8яти яалояеявя цгнс елгшнпв в когноцу рядку ш:- -рвд1 без великих нитрат naif ят1.
Другая П1ДХ1Д роароблявся аа участи автора Bin лов'язаяиЯ а ties, ¡33 шолаша нгйрогпа п розбивааться на к бдоглв, ксаен з ягшх а свои черту розбивагтьса na к гюдул1в (рис. 4), V-i, X означая повита нейрона.
блок 1 ' блок 2 блок 3 блок 4
XX ХХ.ХХ.ХХ ХХХХХХХХ XX XX XX XX XX XX XX XX »•ПДУЛЬ Mjg
Ряс. 4.
Позначно» «одулз через М,i (1 - номер блоку, i - номер мо-
дуда у блощ) з роам.смшэ rx у пряшкууязЯ матриц (Taiz. 1).
Табдзщя 1
«11 «13 ^4
«23 4î4
4 Узз %4
м41 «43 «44
15эдул1 одного блогсу рогмзг&чотьса е озфеюму радгсу ыа?рзпдз. Э'ед-нагыо виходи нейрон зв. якз иадехзгь модулям ззераого стовпца иат-рад», з входами иезгроязв, ср налезать модулям верного рядка <"кожи а кохзшм"). Аналогзчио цьому гиходи другого стовяця з'едззаггз а входа«! нейроязв другого рядка мат;. лщ з так далз. ?азсу ст;/к тур/ ¡si ззазиваемэ модульной нейгозшоз езткоп. Лосл1даез1ня таки структур буде описано нижче.
У третьему роздзлз опасанз нейроннз кошле.чеи, язи фэрыуать ся на е~апз попередиыл обробкч вхздно* 3Hλpmu3ï за допоиого; яейроннлх езток г: яалере; задано» структуров. тобто езток, якз и ззавчатеься. Введения тгршяу нейронняй зимезлезо: дозволило розгля кути системно, у взаейогалелност!. форму вант нейронного коду к входз иейронног езтки 1 формувазша ззейрошзих ансамбл!в в яроздес: яавчан'ш нейрошюзг езтки.
Було розглануто излука вариант!_ нейронних езток. орзеятова них на риад1защю автоматичного кодуванта: багатопоплавзеового ло;алыхо ав'язного. та кодування за допоьогозз ci ток з ззипадковии ncporaiM (RTC). На ochobI колшого з них буди рссроблен! нейронн кдасицикатори. Дал того ирб иогна було працюваеи а градуальнзах сигналаш. впровадгено бзлъз узагальиену схеиу ьгйрону. Сигнал н; гходз такого нейрону, або вага зв'язку ¡азяе маги значения г пев нога зятервалу. а не тзльки гыачгнна О або 1. Сигнал на доход такого нейрону з'являвгься. коли суша ззхздних сигиалза перевижу певну величзшу порогу нойронз ТгкяЯ нейрон вздповздаг рецептив ним нейронам, як! реагухаь на сигнали, w ги: зиизться в певнои дзаяааон!. Як правило, в природных нейронних езтках перетворенн: !Hiopisau3ï на вход1 а аба' зечузсть нейроннз структура. як! ijop ыупгься пзд ааливоа генетичних факгор:в. Аналопчяо цьешу в тех яачних пристроях корисно виконувати допередшо обробку сигнал!в а; допомогою нейронних ci ток, якз не навчазсггься, а шжгь наперед за дану структуру. Яри '£.ону вданться прискорити пронес навчаяня н каступних рзанях обробзе* з"фортцзï 1 отрзвлати бзльву евидкодз техн!чного засобу.
Роаглянеыо, наарихлад, класифзкатор а випадхдвзши портам (RTC). Яехай е а-виызрний прост 1р ознак, зеолша точка якого опи суеться d-вии: «им вектором Х-х.,... Бэхай цьЛ прост!р розби
го на к областей, ЯК1 називавть кдасами. Така обгзсггз. мота бути аеопуклоа, багагозв' заноз 1 недлмйиоа &хзЛ е аавчажча посл1-
йовяють СХ.О - ÍXj.Cj), ()^.С2).....де Ц - точка
a простор1 ознак, Gt - ш'я класу, до якого иалезскть точка. Робота кл^яф! кагора палпгае в тему. для «moí кто г точки X, яка не входить в наачашу посшдовшсть. вказати. до якогэ класу вона налезать, в5Еа.^истовуючи цавчашу лооя1довн1сть íX,C>.
В1ДОНО. Ер оптитльним гслагшф1катороы е бгЯгсовсьшй к.-тек-ф1катор. ИЬб його яобудуватя, треба знати аярюрг -ü рогподзл ¡Ью-BipuocTeñ Ksacia 1 умсвний рсзпод1л ймов1риостей представши« а коетсго класу в простор! параметров. якгр р_зпсд!д Не в1домиЛ чу над;-а складчип, Еоб toro ко-тна було апронсимуват« 4уякц1яии з кевг runm» к1ль:-с1стп napairerpia, квссрйстсвуггь лепараиг? piran метода лгаскф1кад1Х (метод иайбдягчого сус1да, istom сотеад!ая12 та lucí). Ase «i метода потребугяь багаго разрахушав. sp призводить до яоаивьяо* ройсти jcsacKíixaropia.
В останн! рока багато нзукоащв ярадаеть гад стзоренням ней-ронких кдас:>ф1кагср1в. Оди:ш з spsntraais в багатевароаий перс а строи з aaopoTHiM поаярекням яомядки. Адэ mücop^craaua таких класи-ф1катор1в утрудагегъся ткм, гр казчання norpLjya багато часу. Нрэи того результата навчацкп заделать :лд сочзтковаго стану ней-ронно? cítkjü. Sararo аз при розрсбт таких кдасиф1катор1в заменять Е1Д Д0СВ1ДУ ДОСЛ1ДНККЭ (К1ДЬК1СТЬ SaplB, К1ДЬК1СТЬ HeñpC'ilb
у зоэзяому capí). Тему icays гад1каален!стъ в розробщ а-йронних клзсиф!катор1в з достатньо простое структурой '
. Голоана 1дся прл розробц! бзгатоаоялавкового класиф!катору i клас^фиетору з. акяздкоин« порогами пов' язааа з перетаоренняц входного простору ознак в lnz-iñ npocTip так, ггб в цьоиу простор! клааи ставала лшйие розд1ли1':эгл. Ha pir 5 наведена блок-схема кяаифкатору з випадиошши пор,. гами.
Структура кодушо* с Iímí гашдазгься з з тшоаих нейронних
труп з одни« аиходаим нейроном в- KOZHiil rpsm (Ь1 ..... bs ). Ш. входи козшо? груше подашься yci езнаки (Xj.....Xd). Кожа салака подаетьел на входа дво" нейрин!в hf i lj, де i (í-i.....d) -
гоь^р ознзки; J (3-1,2.....s) - номер пейренпо! rpinn ifopir sim-
кання нэйрьлу щдаз за пор ir hj . Ifap_ra Фэрлуються за до-
изгою визадковог процедура, ÍJopir нейречу Ь3 дор1аняе к!дькост1 входних озпа-í. гбуджвння лередгетьея на ззичаГзннй одногаро-
вий персестррн,
грозушти роботу цього иласифкатору, розгдяиеш геомет-
л
и.
-Г
к.
и
гц т_г
а
И
с1
иг
->
—>
Рис. 5. Класиф1катор а влпадковяыи дорогами ричяу 1н?ерпретац1ю насл1дк1а його робота дяз двошрного вядадку (Рис. б, севаки XI 1 Х2).
йэхай^ для перш! трЛйки нейрошв (рис. 5) вор!г нейрону дор1внюг ^ , пор!г нейлону ^ - „ для друго! тр1йки 1| - У^, яор1г нейрону - У^ . Шзйрон Иг ^буджуэться :у-*их вкладках, коли точка, яр описуеться входами шяюрром озяач, роатшрна у ва-шльоваяому прямжутнику (Рис.йдЙ- »йсшаьки ■кдаск*икатор юг вв-
гику KijttKlMb под1бшзх нейропычх труп (рис. 5). то тзявлягться, ш весь прост1р озяак е. розбитлй на велику к1лък!стъ пряыокутнл-К1В. як1 розшйен^ у влладковкх шсцях i шюхь випадк^л розы1ри (рис. б,б).
*2 ч
ч
*г
4
i
1
*******
******* *******
* Л". АЛЛ
К****** *******
*í
а)
б)
V
Рис. б. Геоыетрпчна Пггерпретащя роботи класнф1катору
В цьому випадку блиаьк! з npocïopi тошен покриваеться б1льдао» кзльк1стю однаговях праиокунииз, тобто нейронш коди а вар! вейротв "Ь" ыаеть б1лышй перетин.
Розглянута гесае-'ричя! игтерпретацп ди inmiiX запропонова-нмх класкф1 кагор ib.
Експеримэнтадьне досл1дхеъля цих кдаси4икатор1а нроводилося па тестозих задачах, в яких ^орцуаався багатовмшрняй (до 16 anuí pis) npoCTip озиак а веопухлими, яелшИаятш, незв'язиими ai-дояреадачида яоверхняиа . ля р1зних juacia (генерували до 16 macla), Результата були nopiBJr-ai а результатами класиф1кац1 ï за ДОП01ЮГО» традишяних метода. таких як метод потешщйяих функц!й (Pf J), метод найблиЕЧого сус1да (ИКС), та «етод з! зворотним по-киреяням помадки (БРС). йпяе приведен! результаты (р-;е 7. а), вр яохаауеть в1дсоток поыилок роамзяаваняя а залелност*. sis сбсягу иавчаючо* посл1довност1 для piaaax класиф1катор1в. Кд ?„£»
показано час роащзяавання (в М1лл1секундах> одн!вг '¿о*--., -тис-
ïobûï Bjöiprai в аалехност1 В1д роашру наачасчог посд1доиюст1 (для тест!в з к1дьк1сти ознак - 4, к1льк1ста loacia - 3, скяад-шсть теста - 8 умоулх од:шиць). ВЦГСОТОК
uab^awioï яослздозшсп
peau îs-
Рис.7. Результат ексвершантальногс досд1 дягння г.лаеиф1катор1в: t - багатопопдавковий класиф!кагор 0«FC): а - кааскф1 кагор на патент йних функщях (PFC); о - кдасиф! катер а використшшям мгтоду найблжяого сетмда ( löiC) ; . - класвфисатор з аворотнил пояиренняи яогалки (ВРС): / - класиф!катор а вкаадковиш порогами (RTC).
З'ясувадось, ra aafipoani класиф1катора з вияэдковиил порогами аа ятем розазапаваапя не яоступакгься традишйниы класяф1кз-тсраы з перзвжгуйгь *х, наприклад, за часом роза^навання та пав чания.
Треба В1ДШТЙГИ, пр з «этою отряг<ааня достов1ряог 1пфор>лаци яро як1сть роботи класиф1кагор!в буж» виконано к!лька corea : исяч исслер:шеит1в. Для аналззу даних будо викоркстано статистичн! ме-тоди ix оброОки. Розраховуэалися дов1рч1 границ], ак! наяривала параметра, гр ощяивалися, s задано» fiyoBipaicm Еони не яогаза-Н1 на рисунках, зрб яе захаргшувати i*.
Приведем» для прикладу один експерикент з знайдешши дов1р-чти граямцямй. йашрають простору ознак дор1ви»з 4. Вуло згеие-ровано 5 класзв. Складн1сть ¡Jopua поверхнз, яка рзад1ляг клася. зшнхзалась в!д 4 до 16 (m ушви1 величали введан1 в гекерат pi тесла). В таблищ 2 приведен! к1лькзсть пошшж (Егт). час нав-чання (Т1). час розшзнавання (Тг). Результат кохюго експеримен-ту араховув результати по 500 точкаи. Проведено по N-10 експера-иеяпв-
Таблицз 2
Склади!сть
4 а 12 16
Егт Тг Т1 Err Ir TI £rr Tr TI £rr Tr TI
1 2 3 4 б 7 3 9 10 88 1 1-1 95 2 16 67 i 33 63 2 15 94 i 33 89 2 16 73 2 17 73 2 14 77 1 13 91 1 19 113 2 20 116 í 13 301 1 19 109 i ia 99 2 12 119 1 13 127 2 23 117 2 17 102 3 33 117 2 39 133 2 14 127 1 25 112 1 26 139 2 14 135 1 14 127 1 26 113 1 19 132 1 15 144 3 17 120 2 17 149 2 25 131 2 18 354 i ia 33i 2 ia 124 1 24 141 1 13 170 1 19 15a Г 19 149 2 1S 141 2 17
В таблиц! 3 наведай! аначенна зибзркового середиього ! виб!ряово*
яисдере»- _Таблица 3
Складязсть
4 а 12 16
Егт Tr TI £rr Tr TI Err Tr TI Err Tr TI
X s 81.8 3. 5 15 3.54 ü 18 0.67 112 1.5 16.7 а os a i8 1.26 123.5 1.3 18.7 а 63 a 16 i. 7 144.8 1.6 19 4.71 ü 17 4.7
3 них дааих легко побудувати д Bipui гранит. Вони приведен! в таблиц! 4.
Скхаднють 1нтервая £гт larepsas Хг 1нтервая 11
4 1 80.75 - S2.25 1.4 - 1.7 14.61 - 15.39
3 но. 2 -из, а 1.4 - 1.7 iaS7 - 17.43
12 126.4 - í3as 1.21 - 1.33 17.71 - lfi.69
16 142.1 - 147.5 1.5 - l." 16.27 - 21.73
Четвертую роади ярасвачеяий питаниям фораування найроншгх тонялеке в в АШС в яроцгс! хх швчанш:. Нейронняй кэшлшсс, езз шшикзг в пронес; назчгшня нейроннок citkií, е ансамблем га тедо-нолог1ег Хебба. i-í достатньо до..ладно говорили яро аясамбД1 у другому роад1Л1. Тахий иейронкий аяса*з5ль шге tara складну Eiiyv-рзсас структуру (ядро i бахрому). В цадцу вкладку структура ая-самЗдя .лдповхдаг структур! яоизтт.:. яке ансаизбль в1добрагаг. Зу-шаимося на иьом> 61 -из детально.
.* >хай оаис якогсгл яонягтя складем-ь^-я a onuciít йэго озаак. Ifei шв1 ягйроннэ* ciTioi це casavas, гр а вектор1, акай вздшхадав поааттю, в ярисутн1ш активя1 яейрояи ер входить до складу озяаз: цьсго ..оялття. Це ваходоть а тих процедур кеду$ания, a¡«i га описали випг. Кр:- того, вектор реярезентуа в caSi i tu'я u-cro яо-вяття. В цьому вияадху. лрб знайги, чи cxosi да» вонатгз. треба яор1вняти 1х нейрошп аасамЗл!. йор поядтхя cxosi. то в векторах., ши й1дображагга. 6 Сатато стлышх щегшшйх ягйрошв. Тобто в нейр^нккх силах фораухаьез взагаозалггзп яейрокя! ансамбле в дьому виоздку sacras иктаяяя яро даааадагяня зяфорьа-uifihoi шсткосп яейроннях cito::. тобго сгилыш яейреннях aHcaisS-л1н шта залам' ятажа нейрзнна с:тка баз аграги ггэггквос« 21 д-повлешш <розя1знаваяня).
1нфогчащкна м!стк,сть буда дослшэва. Дз буш зро&асяэ як-для вяпадку 4ормувавня яеаш&ашх нейрошасг гясь-£бл1в,' тобто ней-рояних ансамблзв э однородной структуре*). так i для вияадку фор-муваняя аксаь&дгв ai складныо структурой. Еа ркс. 8 яра^едена га-j^xnicTb к1лькост! аясамбл1в, ski форцуиться в нелрояких с1ткаг, в1д р1вня шуму у ВХ1ДНОАГ/ вектор!. Да ароблгиэ для аеза'"1аних ансамбле Fnauip нейроняох cintn в цьоц? вшадку дорзвя^зав п-4096 яейрон1в.
У вияадку формуван:.л -ясамбл1в sí екдадаоа структурою ексяэ-римгнтм максимально наблюем! до !£ормувгняа кейроняо* юдел! реального св!ту i яро це будеш говорита яшгае.
Шдыасть аасакблв
7000 1-
Л1
0.3
0.5
а?
<даяя "свохх" яелрон1ь) Рис. й. Шстшсть асошативногь пода ярм 4орму-
вава1 аисаабд1в: л - а розл»1рсм 34 нейрони; о - э рози1рса 128 кейроя1_ Дяя ощячи 1аформашйно* 1»сткгст1 був розроблеяий чиседь-
- о-анаяничнай метод. Шаадкод1я сучэсяих персояадьних 5ОД 1 роа-л?!5 пам*ат1 ие достатн1 гта дмшяямш аейрошшх с!тогс. сзр складаягьея а сотея тасач нейрон! а. Аде для вирюеаня задач втуч-аого 1нтелекту потр!0н1 самэ та;« 1 б1дъя1 ьейрокт с!тка. Тому бую потребно розрсбстя теоратячну модель нейроано* с!?ки, яка дозваиг оцшятй итйориацШу ш~тк!сть схтки без моделювання матриц! зв'2зх!в, потребуг ресурсу пам'яп 1 батат о часу. Ча-сельно-ацаа1Тичний метод дозволяв за доаошгоп розподглу 2мов1р-яостей от нити стан ыатрали зв'ааюв и чисельно зробета порогов! ояераад* яри розрахунках мшдного збудження нейрон1а. Череа не-дсстагш обсзги автореферату эяяиаеш ¡формула розпод1^ йшв1р-иостей для матриц! зв'аак1в, ке аупшиочись на чх вкьедеат.
Нэ рмс. 9 зобраагна ггатриця зз'язх1в для нейронног с!тки а п нейрсша. Рози1р ансамблю - *>, де пхсп. Колей нейрон межа бути в вбудганому стаа1 ("1"), чи а стан1 спокою <"0"). Вгхай сформоь^шо N ансахй5л2в. Шеля г^ого вигануипся тес: I со в!дновленко ансамбле Э шею метоп гбудяукгься Ьмп нейрон!ь, ар наделать ансамбли, 1 <1-Ь)*а яейрошв. ар не наь-жать ансамбли (на рис.9 вядисено смуту нейрон1в). Шеля цього викпнуюгь яерерахунох активное?! нейроняо! сгтки. Ра!дне абудаешзя яояаого нейрону на новому такп верерахуаку абудагннн т; .гахоауеться слещадьиим лчилышком усе-редея1 см; "а по с :оапщх Суми ар в в лчидьншеу - це вияадков1 величина 1 роая~з(1л&я1 вояи за яормалышм законом. Г^и цьому роэ-ПОД1Д вшсту л1 чнльник1в для "свохх" нейрон 1 в 1 дяя "чухях" р!а-НИЙ (£1, Е2).
£1 % Рио. 9. Штриця зв'яак!в
Жуй) - i/(d<£2) л m/(nt-y2). (6)
де у2 К1льгс1сть "чужих" одшшць в стовпц1 a ввдлзко* смута
штрищ зв'язтв; d(£2) - середньоквадратачне ащилашт; ЦЕ2) -
штеыатична спод!ваяня.
Píyl4ЬЛЯ1)-1/СdCEí)е~<Е1",^Е1)>г/2,12(Е1>«йл(1-Ь)/«1-Ь)йа-^
де у - к1лыасть "cjboix" одиниць в стоапд! а видиагао» сьзути tavpKAi ав'язк1в; d(Ei) - середньоквадратичне В1дхиде1:на; £1) -иахешхичне спод18ания.
Но формулам (б) i (7) будукгьса пстограж ях1Д£шх абучааш» "cboíx" (як1 налехать ансамбли) i "чугаа" Bañpoal» (sin se налегать ансамбли). Ба основ! петограма чиселънзш кетодои тдрахо-вуеться aopir.
Ощвки, як1 була orpaasaai sa дояошгол цього штоду, ыереш -рилися за допомого» модедшзння нейронши cisoíc, Киши сто нейро-Я1в досягала 4036. a розшр ансамбля амиазавея В1Д 32 до 253 кейроя1в. Праюад експеримантаяыю* 1 теоретично! кг-шас; шааано на рис. 10. N
1000 4900 -800 |
Рис. 10. 1яформац1йна мютк1сть: 1 - екслеряментальне доелiднеиня; 2 - теоретична крива.
Ваня блзэькх га характером зшиетззшя. Чао побудови теоретично» криво* (2) з 200 роз 12 зкзпге часу робозн но дел згейрозшох сзтзш.
^даслзшо-аналзтячшй метод було адаотовано для сцззжи 1нфор-}КЩ1йно1 нзстгостз годульних нейрошшх сзтоз! (розызр нглрогао! с тел - 8102 аейрозт. кзлысзсть шду—1 в взд 4 до 16, розшр аа-саьйлза Н1д 123 до 512 яеЯрон1а). Иа рис.11 наведено один а "рик-дад1в.
11 л
1С00 I
900 -
800 ■•
700 -
соо ■■
500 -
¿00 •• 200 •• 200 -• 5 СО ■■
--1-Н-1-!-1-)-1-!—>
о. 1 о.2 аз о,4 о.5 а б 17 о.а ь
Fjic.ll. 1я$сртацзй!га шснасть яейрояяог с1тки (л-8192, г»-512, к-4) + - ¡ертз, вд нобудовааа за чиселызо-ана-Л1тнчн:к1 ¡.тгтодо:.!; о - екеперлиевтальна крива.
Ло цзх шр ш розглздала статастзпяю неаалежнз ансамбл1, язи лаеть одаор1дду структуру. Ала аря фориуваняз зерархзчзгах моделей гашшлипнього евхту аисапблз, як1 з'ааляигься в ыейроший с1тщ, г.э цахжь т?гзсо* ОДНОР1ДНОСТ1 1 гаатпетично* незалезност^. Реально алезнбл! тзть здро» а зидану багато ав'язк1в шзх нейроиамн, 1 бахрому, а акхй зв'зззав ззнпэ. Цгг воа'яааяе з тш, яр опззеи рзз-ттх ззрздетавшшз одного кдаеу шеть сшльнз оаыакн. Тому в ней-роян1й С1тз?1 фэрууйться езегалзи алсахйлз, шез вздповздаоть яко-¡.г/кь ¡класса!. 1 аездазгп-ея з ядра (ознак, якз зустр1чаються часто) 1 Сзхрои (езнан, гзз 31ДО031даагь зндшдуальшш характерис» тдаам об' егсгзз). Були нроведез1 еяеперзшентадьнз досл1даеная Н1стз«ст1 з!г2роняях езток, а якях фэрнувться ансамблз з1 складною структурой.
Егрга сер1я екгяерзшенпв була ертаяззозана таким чином. Ба входа с1тзпз годавалкея вектора, якз оаисуеть 0 рзззшх клаезв
об'шегзв. йоггя об'езя шв к яредставникзв ЙЗ.....Юс Ноген
вредстаазшк сшасувавса вхздниы вектором, якня ыав одну 1 ту ж саму часгзазу X. пэ з1дяов1дала "ядру", 1 рззн1 частини У1.....Ук.
гр в1дпоВ1дади бахренз. Код "ядерно*" частини ансамблю мав бзлз в^ одиничних коьшонеят1в. а код бахрош - су.
Для перевз рки яpaз^»aдaтвocт, нейроннох езтки виколувадись талз тести.
1. Перев1рялося >лдновлення ядра ансамблю по його частая!. В цьочу тест! вх!д подавався вектор, який шв Ьая^ аейрота ядра 1 (1-Ь) * „^ випадиових нейрошв. Параметр регулятору активном 1 асотативного поля дор1внтав п^.
2. "эревг рялося в1Д1;одлйння бахрома. Вхгдавй вектор мзв ю^ зейрошв. ар належала ядру, кейрэшв. да валеяали спостер1-гагм!й Сахром!, 1 (1-Ь)*су вшвдковиг нейрон! в. Кзраыатр регулятору зяэгивносп дорхвяазвгв п^ +
а Шрев!рялося в1двовлешш ядра по частил 1 його бахрош. Вх!дииЯ : 2ктор иав , як! належали багром!» 1 (1-Ь) «у вкпад-
кових нейрон! в. 1Ьраметр реулятору активное« дор!вншав
?ег" амати ексяерныенпв дл.. нейронно* С1Т1Ш а 4096 иейроя!3 1 при п^ - 64, пу - 64 наведен! ва рис. 12.
В реальшог задачах роад!Знаваяня обраа1в описи ршшх оЗ'ек-
Т1в фор?~шгьс2 не а окреынх нейрон* в. а а санак, кохна ^ шшх ко-
дусться тлю» грубой нейршв. Тому в иейрошия с1тш р1вн1 аа-
самбл» будуть мети кода, як1 коррелшгь те собою.
Ьшшия задача нашзвихн досл!Д2»няа щ^сриашйво* ы!с*гкост1
до реаяьност!, формулам аасамбл! не г окремзх, иеаглгяю вибрашг
нейрон» в, а а вредставш«1в обмегеаого набору оаквк.
йэхн1й оанаи! в1дсов1даг своя м^ска. йпдннй векто, ккк3
в!дпов1даг певьоыу представг'чхх.! класу С.' формуетьса а г оаная
(г<к).
к1„дк!стх>
аисамГ<л!в ) . „
Рис. 12. Екслерименти по в!дновленн» ядра (/) по частин! ядра;
200
а! 0.3 0.5 0.7 ь
- 25 -
ядра о бахромэв (*) по частят Catpoici;
2Д{Х ПО «clCTIÍHl 6d.tpO.V2I (о).
Еехай s к оакш; f4.....ílr, описуоться об'ки .) клану о.
В ексавркькнп г шйкрапгься з к os как. Екслерн-
меагя яповедеяо для таких а. .адк1в: i) к-128, г 10; 2) k-12tí,
г-2; 3) к»1б; г-2, Вуло выявлено. ер а зростшшяи коррелят t оа-
нак. эшгауеться latopMami'sa м1ст;«1сть cítici.
В ycix проведение ексяериментах по дослдяешт uüíopyauniüoi líicTKOCTi нейрояних «ток у вдсадку форхг/ванип складнях ансамбли» И1стк1сть зннзуеться. лей дакт треба бргяи д-i узати яри рсарахуи-ках обсяпа нейроннях el ток i poauipia гясаг*5.«в. веобх • дам дла п:ф1ко'-'пз тмретнах задач,
У п' ятоиу роздал! оллсан1 аадач1 ¿озшзнаваш/я образ ib \ сряизд)! ликсрястаяпя АПШ для рсзз' яза:ща. 2 ^ava роз ni зла-зпняя текстур вирикна як га допомогоа нейрое1тмы;сх парад тш, jk 1 за доаоютов метода ютенщ йних йуксцзй. Були псршшп обвдза Л1ДХ0ДХ.
п1д текстуряимя озяакамя розуыють деякл статистичн: харак-териг-ики локалышг д1ланок асбрааення. 15! розушеиэ ai л текстурою властивють локально* Д1ляик.. зобр&саияа ?бер1гатяся незшя-яов на 01дьаоиу ao^passimi. Прикладами текстур мояуть бути лксгл дерева, трала, цеглшша етша. М: вякорястоаували a роботl так! текстура! озяака: 1) пстограму яскравостей; 2) п стог раму :»нт-раст1в: 3) пстограыу ор1еятащй контуряах елеменпв. игьпго б1ла 75 ознззс Були аакорястая! чорао-бш фотограф! i вулнць шста а 5 типами текстур: небо, дерева, дорога, транспорта засобк, стоыш ' та стовбури дер';д. Для иоотого зобрадакля аикористовувалоеь 403 Р1зних apaskia (bikho poar'poa 16*16 nikceaia пересувааоса но зебрахеншэ 20СЫ44 яисселя з крокои у 8 П1ксел1в). Йэрш результат« розп1знз:^яня д^сягля 80 X. В1дсоТиК правильного розшана-вання у клас:^зкатор1в, як i у лотенщйлнх фушсщй досягав QOt. ЕЬзднгдая розя1зназаиня за доноиогои нейронш!Х класиф1катор1» на порядок Biica His при вякористанн1 потентата фуагадй.
На пряклад1 зздач! розлззнлвшшя складнях io¡ai яродехюнстро-вана М02иав1сть ажоряста. зя iJopaajbHoi ювя опасу та конструи-ваяня lepa, пчаих ае2рос1тьоа:& структур. Р^ап1анава:шя фору до-сягаеться за pax i:ok анал1зу характерных частия ф!гури. Налрик лад, дмстя дубу i клена в1др1ааявться К1лыист» 1 ха-рэктероц вис туя!в 1 западая. Гозроблено спетальанй алгордам види^шл ллсту-П1в 1 западин, m орюиованяЯ на вейрокомп'югерну ut,
Алгоритм ярацпе s бтаршш гобралв^иам. .За ознаки ярийняп. шднй-вення ялсадни ьяступ:в i ядоиини западал до площиня ф1гури. Доведено ексяерииентг тьне доел1дггняя тагах нейроннох двохр1вневох система роал1знаваявя яа лриклад! роая1акавзкяя 4 клас1в об'ек-т1в, яадальоваяих В1д руки: лзгков1 автоаюбод1, ванталац, автобу-си, таадси. Якють роая1аназааня досягла 90 2. На 2 квасах (тополя i ялишш. намальовш» В1д руки) досягяуто.92 ï розтзааваяня.
Задача розя1зяавакяя . рукояисних слгв аярюена s використан-яям сяещальнкх аяарахних засоб1в - яайроксмя'стера Цри цьоыу було реал1зоваяо генетичний алгоритм ояттиааци мнсмшш оаяак.
Алгоритми, як1 розроблея1 для розп1знавання рукописных сл1В. opienrosaai яа яейрокэма'ютерну реад1аац1ю. тобто яа роботу а доагим рядком, довакна якого 512 6itib. За ознаки буди обран1 е^ементи зображ. .шя, а сане В1др1зки Л1Н1Й г р1зними кутами нахи-лу. Таких оанак було 10. Окреда наяисане слово вводилося сканером (300-400 бзнарких точок на дюйм). 2dtim використпвувалися опера-щ х клиияяох лопки. шр була розроблеяа ся1льно 8 Куссудем Е. ÍL 3-за браку м1сда ми яе будеш детально вутшятиея на реал!аац1Х цих aaropiiTMia.
Роагляведа яроведену оятим1защю набору оанак за догюшго» мадедюваяня еволвци. lfero» чих ексяеришнпв було забеаяечення над1йног класифисацп об'екпв. Кожному "особен»" ставилась у в1дяов1дн!сть шдмножина ознак, по як!й "особень" навчався роз-я)анавант Шсла дього розраховувалась функция якостл розз12на-ваяня. Цодедивався прочее яородявняя "наиадк1в" а урахуьанням '' <утаща" i прочесу "ярироднього добору*.
5ксяеримеят яроводиася для 10 рукояисних cals, s» написанt Р13НИШ1 лтус .ля. Пзчаткова щояииа мала 40 ознак (ярям1 п1Д pisax-ми кутами. луги pianwt рад1ус1в). Задачею генетичного алгоритму було зяайти sai"' комб1нашю оанак, gp дав навирая^ реаудьтата роздзаяававвя. Шльова фукншя аадавалася у вигляд1:
«Мс1*Х * c2*£)4 . (8) -
де cl.c2 - константи; X - Х1льк1сть ознак; Z - К1льх1сть яоишж
при роатанаванн! коатрольяох яосл1довяост1.
Верша генеращя форыувалася за дояомогою процедуре випадко-внх чисел i нараховувала б!ля 20 оанак. Яохна генеращя могла наги 10 "особень" чи 32. Йм1нхвання щдьовох функци в останньому вяпадку приведено на рис. la
Q
SCO -
20Q • 100 •
12 0 4 5 6 7 ^ I :1!сГ H генераци Рис. 13. Щльовз функц!я в ексяериментах з оптшшзаци
В иостому розд1Л1 обговорен! лнтанля апаратвох hiätpjjmkji ро-соти лшх
йэдедтаяня нейрснних citok яа авичайяих аайдак. багато часу. Де пов'азано а тям, пр параяельн! за своею структурою 1 вроцесами, як1 мають мюце в нейронних с!тках, вони переноситься
ва гюсд1довя1 мямияи В СД1Т1 Офзр., .шся Д1ДИЙ нйук020~Т£ХН1 чаий наярямок по створешго новях обчисдшадг>аих засосИв. як! opikhto-ван1 на реад1зац1х> нейрос1тъових парадигм 1 названг нейрскомп' ю-терами.
В 1нститут1 к1бернетики. HAH Украхни шд кер!вництвом £. U. Яуссуля булэ розрсблеяо } аиготозлено шмгт нейрокомп' гтера Н1Й. Шйрссомп' тер - це яома'югер з RISC архитектурою. Цей ней-рокомд' отер будо використано для вир!шеяня задач1 р1^п1знавання текстур. Блок-схема нейрокода' ягера приведена на рис. 14.
Пакет скяадаеться з двох головяих бло«1в: блоку лроцесорних модул!в 1 блоку карувашш. Дэ складу первого входить оперативна пам*ять (RAM), арифметика-лопчний вристр1й (ALU), мультиплексор (UUX1), асуваий репстр (SRQ1) га блок двогчиих л1 чильшоав' (Ctl). Вдох керування мае надоперативну sau'ять (СМ), арифиети-кв-лог1ча1й apuBTpia (Aliß), зсувн1 репстри (SRü2,SR(33), муль типлексор (ШХ2). двохчний л!чилшк (Ct2), репстр юмагу^ШЗ) i схему синхрон 1защ i (аа рис. 14 де показала). ^
Про; рамуваннянеЯромомп'ятэра вяхонугтвся на.сяешальн!й ао~
В! на зрааок Лссекблс а. Макет вигаэнано як додатковмй яркстр1й до персонально* 20У, 1 усе лер1фер1йие обладнаша персонажно* ГОУ обслуговуе i HeftpojcoWrerep.
г £ до наступ:эго варзанту ыааини (н^ризсаад, гби шти розряд-Н1сть з 256 a" 5i2 га гтх). Був -¡озробдений оыудятор нового ззей-рошип'стеру. Ссзилызд еиулятор пав аасоба дл.. калогодхуззаяня програы, то його ножка було викорпстсвуватн ззри иаписаннз прог-рашюго забезпачення для вирзяения заднчз розпззнавання рухояис-ша слзв, шр 1 було гроблено. Розробка еыудатора дозволила вздзб-рати систему команд в Зроко' и' стера, зр дозволило сильно з тонською фзрмэп VACOM розробити 1 виготоез-'и нейрокомп'втер 8512.
Емуллщя нейрокома'юогегу виконуваласг на рзвн1 зсоьг-нд иейро-поуп'ютеру 1 не зачзаала р1вня окремих сигналзв Ери елуляцз* всаховувались амзни стаиу ycix регзсгрзв ; стан паы'ятз нейрокол-п'ютег". Дая в1ауздззацз» стану 512-розрядного регзстру було зан-роноповано його графгше представления. 3 визюрястання« ецулятору автором буда налогодаеиа програма а 1ызташг робота юдульно* нгйрониах с1тки. йвэдкодш ней^ жома' втерт, В512 даже досягати 1 кврд CUPS (Connection Updates Per Second). Його - оперативна
память а 8 paaia вида аа яаи'ятъ неЯрокош'югеру ШК, щр дозволяв реал1зувати нейрону* citkji, як! маеть до 400 ыдч. синаптичних ав'язз£1 в.
Залропоновано апарагяу -eaaisa'nn «одуль них '"¿Яронних cítok, до дозволить присгсорити роботу нейро.лып' ютера 1 аб1льшати обсяги нейронних cítok.
Сьоций розд1л лрисвячеиий перспективам яодальних роб1т по удосяоналеин» як аапропоаовааого шдходу. тач i по роаробц. коме ртйних продукт!в г л основ! парад!гми АПШ та аейронних класи-tfireasoplB.
Ероаиал!аозано роботи а кодуванш», як1 по_ишп бути викона-Я1 в майбутньому. Увага прид!лена дисл1д*г чню зсувиого кодування, sks аб1цяв дакал! результата, а сам? яезале»исть 1нва?1антн!сть д . шеця роатаяуваняа образу на зображш« та його масштабу.
Si льда уваги треба прищлити 1ерарх1чнии ciícTeuaa, so приз-начен! для вирзвення задач штучного изтелекту. Эвздси треба дос-дздити к!льк1сн! характеристики cxosdcti об'екпв чи понять на Р1знюс pibesx íepapxn.
Роаглянуто задач!. ski «ояу-i бути вириаен! за допошгою нейронних cítok. '.льве уваги прид1лено тим задачам, розв'язання яках мозг привести до створення коыерщйнззх про дуга: i в на 6aai нейрсжоыа'xcrepiB. Так, наприклад, акустична д1агностика в техниц1 иояе використовуватися для перев1рки двигунзв на станцзях технзч-ного ремонту. В ыедицян1 акустична д!агностика иохв аикористову-ватиса при масових обстехазшях населения дяя виявлення серцевих . чи легеневих захворшань.
Ода i ей а тканях задач тзве бути система техтчного зору для читаная рукописних текст ib. лзашзнаваняя облич. контроль якоси продукт* i багата и: их задач мсаша спро. /вати вирзнити аа допо-«огою нейронных cítok.
Апаратяа реалззацзя нейрионих cítok те* повинна удосконало-гатиса. Э Ц1ею мето» щкаво роаглянуто i досл1дити шхдивост1 ви-користання трансл' ютерних плат.
тяюш
i. Використання нейронних комплекс!» дозволяв зберегти зн-фориацззо про схох1сть об'екача. ski представляться цж-т залы ¿»ж-
- за -
сами, г» апрояуе розв'яз&ння гада« втучкого ттедекгу, г яках т-явлгняя схогоич об'екпв в 5 Д1 г рас суттсву роль.
2. 1нфор!^ац1йя Ы1стк1сть асощативяо-проективних нейрсших аток при фэрмузаин1 яейронних кошлеке!в (аясамблзв 31 склада® структурою - ядро« я бах ротах) змгнаг/еться в яор!Вняши о *лс?-кют» сгткн паи ¿ор.мунакн! одяор1дних ансамблзв.
3. Ери зрсстака! роаыарз» нейронш! с1яси 1 переход! до ш-дульно* (наяовяогв'язног) струкгуря аейроняо* сгтки !н£ормз1ц1йяа шстк1сть С1тка гростгг.
4. Нов1 свособи кодуваяяя щфоргшхи яа вход! нейронних С1-их ргапауяы. сяряилавчс перетворешш ах!дяого простору, др-суг-тгЕо покрадуа характеристики кяасиф1катор1в, розробленях в IX ва-користаяняц.
ь. Кдасяфз.лтор а вападкошат порогами аабезпечуе ямсть роапзгнаваяия на р1аи! краадх траднщйнах класяф1каторзв. ЛЬид-кють навчання та яездкють розя1знавання цього клаенф1катору в багато раз! в яеревкдуе шаадк1сть роботи традищйяшс кдасифисато-
Р1В.
й. Сягльяз викоркстання нейронашс сиок 1 метода езааад!йао* оятимззаш* для вздбору шфор^агяаних оанак при вир1шгнн1 задач рогя1знаваяня образ¡е (а саме яря вир!шяя1 аада'М розя1анадання рукояьаних сд1в) приводить до покрадання результат 1 в розтзяаван-ня.
?. Еакористаяяя яейронних сгток з яейрсншшй комплексами для вирш.ння прикладных задай рсаязанаванна форм об'гкпв, тегхтур, . /кояисяих сл1в дае результаты, як! по деяким параметрам перевиву гать традяадйн! метода.
а. йзд. льна структура яейронних сиок доаволяе заеуяшпи аот-рзбн! сбсяги лам' ат1 в пор!вняян1 г яовнозв'язними яейронними С1ткаш, а так : аабеапечуе зростання яаидкодп в пор1внянн1 в повноэв'яаниии нейрояяими сгтками.
Основы1 положения дисертацп ояубл! кован 1 в таких ярацях:
1. Вайдак X. Е Сетевые схемы обработки информации // Всесо-пз. туч.-техн. конф. "Адаптивные роботы-82". - 41,1982. -
а 64-65. ■
2. Вайдык Т. К 0(5 устойчивости работы сетевой системы принятия ревений автономного интегрального робота // Кибернетика. -1083. - N1. - С. 123-131.
3. Байдш Т. Л. Возможные применения сетевых структур // Уа-тгматическое моделирование в биологии и медицинские ияформацион-
-Slats систеш. - Küss: йа-т кибернетики АН УССР, 198а - С. 98 -105.
4. Вайдок Т.Н. Оптимизация устройств, построенных с применением нейролодобшх сетей // Материалы Бсессюа. кояф. "Еиокша и С:!омедккбернетика-85". - Л, 1908. - t. 9-10.
5. Еайдык ï. Е , Гольцез А. Д., ^цеико В. Е ¡¿одзлнро'-аяие зрительного восприятия па основе нейроподобнш сетей: Тез. догсд. Рсесош. iaoH$L по искусственному нлтеллегсгу (Шрзяславль-йалссс-
iraa). - и., isaa - r.2 - c.i¿i - 146.
S. Взйдых Г. Е Усделмроваяле некоторых иехантмов переработки информации // Республ. koh$l "Вшника-о9". - Кременчуг. 1589. -С. 39-40.
7. Байдш Т. Е Лршжнешк нейроподобных сетей длл распознавания Форш объекта // Шделироваяг и симулироване на човеак~та пзшт ÜEStaO'aa, Ш науч. -техн. кокф. с междунар. участием, Еарна, 1989. - а еа-69.
8. Вайдык Т. Е Предваржельная обработка стереоизобрахений // Виомедицинская кибернетика. - Киев: %н-т raй^рнетики аы. Е Е Глушсова АН УССР, 1989. - С. 81-85.
9. Байдш î. Е Распознавание формы плоских фигур с пмвдь» яейроподобной сети // Нейроподобные сети и нейрокомпьютеры. - Киев: Ян-т кибернетики им. Е Е Глуъкова АН УССР. 199Û. - а 28-33.
10. Kussul f_ it . tíaidyk 7. ti., Rachkovskly ü. A. Hrnrar leal-analytical method for neural network investigation // Intern. Synp. on Neural Networks and Neura*. Computing "Heuronst-90", Proa, Prague,Czecho- Slovakia, Sept. 19â0. - P. 217-220.
11. Ну чудь a M.. Вайдык f. E Разработка архитектуры яейроподобной сети для распознавания фэрмы объектов на изоораяекии // Автоматика. - 1990, H S. - й 56-61.
12. Распознавание текстур с помощью нейрокомпьютера * С. я. Артикула. Т.Е Вайдык, ам. Куссуль, ДА. Рачковский. - Киев, 199Ï. - 20 с. -(Препр. J АН УССР. Ин-т кибернетики им. ЕЕГлуа-кова; 91-8).
la Еайдьк Т. Е Сравнительный анализ распознавания текстур методом потенциальных'функций и с помощью нейроподобных сетей // йейроподобные сети и нейрокомпьютеры. - Киев: Ян-т кибернетики ИМ.Е ЕГлуакова AU УССР, 1991. - С. 52-61.
14. Шйрокомпыг ipu и интеллектуальные роботы / Е U. Амосов, Т. Н. Вайдьа А. Д. Гольцев и др.; 1Ьд ред. Е М. Амосова - Киев: Наук, дуй л, 1991. - а 272.
15. Kussul £.11, ' Rachkorakij ' йА., Baidyk Т.К. Associafve-projectlve neural networks: architecture, implementation, applications // Proa of fourth Intern. Conf. "Neural Networks & their Applications", Nines (France), Nov.4-a.ie91. - P. 463-475.
1& Kussul Е.Ы.. Rachkovskij E A., Baidyk Т.Н. On iaage texture recognition by associative-projectlve neuroccraputer // Proa, from the ANNIE'91 conf. "Intelligent engineering systeis '.hrough artificial neura^ netvorks", ed. by C. H.Dagll, 5. Kumara and Y.C.Shin, AS1£ Press. 1391. - P. 453-458.
17. Куссуяь an, ЕайдокТ.E Некоторые функции г-социатив-ного нейронного пола. - Яиев, ,1992. - 21 с. - (Дрепр. /АН Украины. Иа-т кибернетик!', им. В. М. Глужова; 92-5).
.8. Ьайдьк Г. Е Исследование информг'вговной емкости ассоциативного поля при формировании ансамблей со сложной структурой // йейроподобяые сети я нейрокомпьютеры - Киев. Ин-~ кибернетики им. Е к. Глуакпва АН Украины, 1S92. - С. 39-48.
19. Куссух;. a U., Байдык I. Н. Оценка быстродействия ассоциативно-проективных нейрокомпьютеров- - ЬЬвдународ конференция по проблемам моделирования в бионике "Г-лрмод-92". 21-26 игня 1992, Санкт -Пгтербург - С. 260-261. ^
20. К,усс>ль a U . Байдык Т. а АЬдульная структура ассоциативных нейроподобных сетей. - Наев, 1993. - 16 с. (Препр. / АН Украины. Иа-т кибернетики им. Е11 Глушкова; 93-6).
21. Куссуль а К., Байдык Т. К О кодировании шгформздии в ассоциативно- проективных нейронных сетях. - Наев. 199а - 18 е. (Препр. У SU Украины, Ка-т кибернетики им.ЕЕ Глуякова; 93-3).
22. Kussul E.U . Baidyk Г. Й., Rschkovsky Н А Neural netvork for recognition of sraall linages. - Troceedlngs of the first all-Ukrainian conference "lHtr08RAZ'92", Kyjiv, Ukraine. Hovember f ^-21, 1992 - P. 151-15a
23. Вайдык Т. E Эволюционная оптимизация набора op анаиов // йгйроподобаые сети и нейрокомпьютеры. - Киев: Ин-т кибернетика им. Е к. Глуакова АН Украины. 199L. - С. 2d - За
24. Kussul Е. U., »лЫук 7. N.. Luko"ltch V. У. .BachkovsklJ D. A. Adaptive neural netmrk classifier vlth sultlfloat input
coding. — Proc. of 6-lh Int. Conf. "NeuroNimes'93", Nimcs, France, Oct. 25—29, 1993. EC2-publishing. — P. 326—331.
25. Kussul E., Bairiyk T. Structure of neural assembly. — The RNNS/IEEE Svmposium on Ncuroiniormatics and Ncurocomputers. Rostov-on-Don, Russia," October 7—10, 1992. — P. 423—134.
26. Kyccv.ib Э. M., Байдык Т. 11. Структура пеГфонны.ч ансамблем // Нейрокомпьютер. — 1992, Л° 1. — С. 16—23.
27. Kussul Е. М„ Baidyk Т. N„ Lukovitch V. V., Rachkovskij D. А. Adaptive high performance classifier based on random threshold neurons. Proc. o! Twelfth European Meeting on Cybernetics and Systems Research (EMCSR-94). Auslna, Vienna, April 5—8, 1994 in R. Trappl (ed.): Cybernetics and Sysiems'94, World Scienti-fic Publishing Co. Ptc. ltd. Singapore. — P. 1(587—¡095.
28. Байдык Т. H. Язык описания ассоциативно-проективных нейронных структур. // Нейросетевне технологии и нейрокомпьютеры. — Киев : Пн-т кибернетики им. В. М. Глушкова АН Украины, 1994. — С. 11—20.
Шдп. до друку 05.08.94. Формат 60Х"84/16. Патр друк. Офс. друк. Ум. друк. арк. ¡,86. Ум. фарбо-вЦб. 1,98. Обл.-вид. арк. 2,0. Зам. 868. Тираж КЮ прим.
РедакшГчю-видавничий вщд1л з пол1Графкнога дкьницею 1нституту кибернетики ¡меш В. М. Глушкова HAH УкраТни 252650 Клпч МСД 22, проспект Лкадемша Глушкова, 40,
-
Похожие работы
- Коммутационные системы нейроподобных структур и нейрокомпьютеров
- Основы теории и методов структурной реализации моделирующих нейроподобных сетей для решения краевых задач теории поля
- Разработка нейросетевых методов разрешения неоднозначностей на основе реконструктивного покрытия и принципа аналогии
- Разработка нейросетевого классификатора для систем тестирования
- Теоретические основы и разработка многофункциональных отказоустойчивых устройств на нейроподобных элементах
-
- Системный анализ, управление и обработка информации (по отраслям)
- Теория систем, теория автоматического регулирования и управления, системный анализ
- Элементы и устройства вычислительной техники и систем управления
- Автоматизация и управление технологическими процессами и производствами (по отраслям)
- Автоматизация технологических процессов и производств (в том числе по отраслям)
- Управление в биологических и медицинских системах (включая применения вычислительной техники)
- Управление в социальных и экономических системах
- Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей
- Системы автоматизации проектирования (по отраслям)
- Телекоммуникационные системы и компьютерные сети
- Системы обработки информации и управления
- Вычислительные машины и системы
- Применение вычислительной техники, математического моделирования и математических методов в научных исследованиях (по отраслям наук)
- Теоретические основы информатики
- Математическое моделирование, численные методы и комплексы программ
- Методы и системы защиты информации, информационная безопасность