автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.15, диссертация на тему:Исследование и разработка однородных вычислительных структур, способов организации вычислений и методики оценки их эффективности для реализации нейронных сетей

Введение.

1. Структурная организация нейровычислительных структзф и пути повышения эффективности вычислительного процесса.

1.1 Основные типы и способы реализации нейровычислительных структур.

1.2 Методология оценки производительности и эффективности вычислений в нейровычислительных структурах.

1.3 Способы увеличения производительности нейровычислительных структур

Актуальность проблемы. В настоящее время, для решения большого круга задач в таких областях, как управление промышленными объектами, распознавание образов, моделирования, получение экспертных оценок и т.д., получают широкое применение специальные параллельные вычислительные структуры, ориентированные на выполнение алгоритмов, представленных в нейросетевом базисе. Такие вычислительные структуры принято называть - нейровычислительными (НВС). С точки зрения вычислительной технике нейровычислительная структура - это вычислительная структура с MSIMD архитектурой, в которой процессорный элемент однородной структуры упрощен до уровня нейрона, резко усложнены связи между элементами и программирование перенесено на изменение весовых коэффициентов связей межпроцессорными элементами [4].

При практической реализации наибольшее распространение ползЛил аппаратно-программный способ технической реализации НВС. Промышленными реализациями таких структзф являются НВС с общей шиной данных: CNAPS 2.1.1, разработанный фирмой Adaptive Solutions и WSI Net 2.1.2; разработанная фирмой Хитачи и нейровычислительные структуры с кольцевой шиной данных: SPRINT, разработанные в Liveraiore National Laboratory; SNAP, разработанная фирмой HNC и SYNAPSE-X разработанная фирмой Simens. Основное различие в НВС с общей и кольцевой шиной данных заключается в различных способах организации шин передачи данных и в типе модели нейронной сети (НС), которая реализована в этих структурах и особенностями их схемотехнической реализации [4, 83, 89-99]

При разработке НВС проводится комплекс работ, включающих в себя выбор способов реализации структуры, выбор модели НС и способов ее реализации. Анализ известных работ Галушкина А.И., Власова А.И., Уссермена Ф., Пирса, и других авторов показывает, что наиболее подробно сегодня исследованы вопросы технической реализации НВС и математических моделей НС. В тоже время не исследованы в полном объеме вопросы эффективной организации вычислительных процессов в НВС, их архитектура и ее влияние на сложность вычислений, отсутствуют методики оценки сложности реализации математических моделей НС в НВС с определенной схемотехнической организацией. Кроме этого, влияние на производительность НВС оказывает выбор способов организации вычислительного процесса. Вопросы эффективной организации вычислений в параллельных вычислительных системах исследованы в работах Прангишвили И.В., Энслоу Ф.Г., Медведева И.Л. и ряда других авторов, которыми исследован ряд теоретических положений по данной проблеме, предложены способы организации вычислительного процесса [64, 66, 67]. В тоже время, подобные исследования для нейровычислительных структур отсутствуют.

В связи с этим как в практическом, так и в теоретическом аспектах актуальной проблемой является исследование и разработка способов организации НВС, способов эффективной организации вычислений, методик оценки сложности вычислений и сложности реализации НС в НВС с различной архитектурой.

Цель диссертационной работы состоит в исследовании и разработке способов организации и методов оценки эффективности вычислений в НВС с шинной архитектурой, способов реализации в таких структурах математических моделей НС и способов их схемотехнической реализации.

Предметом исследования являются способы организации НВС с шинной организацией, способы организации и методики оценки сложности нейровычислений в таких структурах, математические модели НС «Однослойный персептрон», «Макснет», «Хопфилд», «Хемминг», «Обратного распространения ошибки», методики оценки сложности их реализации в НВС с шинной организацией, способы повышения быстродействия НВС и эффективности нейровычислений.

Для достижения поставленной цели решаются следующие задачи.

1. Исследование современных концепций построения и способов организации НВС, методов реализации нейровычислений и способов оценки их эффективности в НВС с общей и кольцевой шиной.

2. Исследование и разработка способов организации вычислительных процессов в НВС с общей и кольцевой шиной данных.

3. Исследование способов организации вычислительных процессов в НВС с общей и кольцевой шиной данных при реализации НС.

4. Разработка методики оценки временной сложности выполнения арифметических операций в НВС с общей и кольцевой шиной передачи данных.

5. Разработка методики оценки временной сложности реализации нейронных сетей в НВС с общей и кольцевой шиной данных.

6. Разработка схемотехнических решений НВС для эффективной реализации нейровычислений на основе арифметических операций.

Методы исследования основаны на использование теории Марковских процессов, теории массового обслуживания, теории графов, теории алгоритмов и теории проектирования вычислительных структур и сред, теории нейровычислений.

Научная новизна результатов диссертационной работы в целом заключается в развитии положений теории вычислений в НВС: способов построения и организации вычислений в НВС, способов построения и организации одномерных НВС с общей и кольцевой шиной передачи данных:

1.Исследование современных концепций построения и способов организации НВС, математических моделей НС, методов реализации нейровычислений и способов оценки их эффективности в НВС с общей и кольцевой шиной.

2. Исследование и разработка способов организации вычислительных процессов в

НВС с общей и кольцевой шиной данных.

3. Разработка методики оценки временной сложности выполнения арифметических операций в НВС с общей и кольцевой шиной передачи данных.

4. Разработка методики оценки временной сложности реализации нейронных сетей в

НВС с общей и кольцевой шиной данных.

5. Разработка схемотехнических решений НВС для эффективной реализации нейровычислений на основе арифметических операций.

Практическая ценность работы заключается в разработке новых способов организации однородных вычислительных структур и способов нейровычислений. Полученные результаты позволяют при технической реализации таких структур получить более быстродействующие нейровычислительные стр}лктуры.

Реализация и внедрение. Диссертация является теоретическим обобщением научно-исследовательских работ, выполненных автором в Пензенском государственном университете. Теоретические результаты работы применялись при разработке специализированного программного обеспечения на предприятии ЗАО «Золотая Линия», о чем имеется акт внедрения.

По результатам исследований предложено техническое решение, защищенное патентом на изобретение РФ №G06F15/163.

Разработанные в диссертационной работе теоретические положения и инженерно-технические методики введены в учебную программу подготовки студентов по специальности 22.04.00. "Математическое обеспечение и применение ЭВМ" и используются при практических занятиях на кафедре МО и ПЭВМ» в Пензенском государственном университете.

Апробация работы. Результаты работы обсуждались и докладывались на научно-технических конференциях: XXV Международная конференция. IT+SE'98,1998г., г. Гурзуф; III Международная научно-техническая конференция "Новые информационные технологии и системы" 1998 г., г. Пенза; IV Международная научно-техническая конференция "Логико-математические методы в технике, экономике и социологии. 1999., г. Пенза.

Публикации. Основные результаты диссертационной работы опубликованы в двух статьях, 7 тезисах докладов. По материалам работы ползлен патент РФ №G06F15/163.

Основные научные положения, выносимые на защиту.

1. Методика и формальные выражения для оценки временной сложности выполнения арифметических операций с фиксированной точкой в однородных НВС с общей и кольцевой шиной данных, отличающиеся тем, что в полученных выражениях учитываются такие системные характеристики, как разрядность и объем обрабатываемых данных, физическая организация данных, схемотехнические особенности НВС.

2. Методика оценки и формальные выражения для оценки временной сложности вычислений при реализации НС в однородных НВС с общей и кольцевой шиной данных. Подобные методики в настоящее время отсутствуют.

3. Структурно-функциональная организация однородных вычислительных структур с общей и кольцевой шинами данных, предназначенных для нейровьгчислений на базе арифметических операций с фиксированной точкой, отличающиеся тем, что за счет оригинальной организации в предлагаемых структурах обеспечиваются вычисления с векторной разрядно-последовательной схемой организации данных и используется новое техническое решение арифметико-логического модуля в составе нейропроцессоров.

Структура и объем работы. Диссертационная работа состоит из введения, четырех разделов с выводами, заключения, списка литературы, включающего ПО наименований и двух приложений. Основная часть работы изложена на 146 страницах. Работа содержит 67 рисунков и 22 таблицы.

4.3 Основные результаты и выводы

Основными результатами данного раздела является разработка функциональных узлов, позволяющих увеличить эффективность выполнения вычислений и расширить функциональные возможности в НВС с шинной архитектурой. Разработаны способы технической реализации НВС с общей и кольцевой шиной данных, обеспечивающие более высокую скорость вычислений по сравнению с исходными нейровычислительными структурами. Получены следующие результаты:

123

• Разработана схема включения в структурную схему НВС с общей и кольцевой шин данных дополнительного блока, позволяющего использовать в НВС с общей и кольцевой шиной данных ускоренные типы арифметических операций.

• Разработан блок преобразования данных и схема его включения в структурную схему НВС с общей шиной. Блок преобразования позволяет осуществлять преобразование входных данных с любым способом организации данных, к векторной раз-рядно-последовательной схеме размещения и осуществление обратного преобразования к исходной схеме организации данных. Основным достоинством разработанного блока, является простота технической реализации по сравнению с арифметико-логическими устройствами входящими в состав ЭНП.

• Разработан процессорный модуль, предназначенный для замены арифметико-логических устройств, входящих в состав ЭНП. Модуль выполняет вычисления в базисе булевой алгебры и обладающий возможности реализации логической функции любой сложности. Применение такого процессорного блока позволяет создавать НВС с расширенными функциональными возможностями.

Заключение

В результате проведенных в диссертационной работе исследовательских работ решены научно-технические задачи, заключающиеся в разработке методики оценки сложности нейровычислений в однородных вычислительных структурах с шинной организаций и предложены способы повышения эффективности в таких структурах.

1. Проведено исследование способов технической реализации однородных вычислительных структур для нейровычислений. Показано, что наибольшее распространение получили нейровычислительные структуры с шинной организацией реализуемые аппаратно-программным способом.

2. Проведен комплексный анализ методов оценки эффективности вычислений в нейро-вычислительных структурах с шинной организацией. Показано, что для оценки эффективности целесообразно использовать оценки их временной сложности.

3. Проведен комплексный анализ способов организации вычислений в нейровычисли-тельных структурах с шинной организацией. Показано, что увеличение быстродействия нейровычислительной структуры можно достичь за счет использования специальных способов организации данных и повышения скорости арифметических вычислений.

4. Разработана методика оценки сложности реализации вычислений в одномерных вычислительных структурах. Методика позволяет оценить временную сложность выполнения нейровычислительных алгоритмов в нейровычислительных структурах с шинной организации с учетом физической организации данных и структзфной организации нейровычислительной структуры.

5. Получен набор аналитических выражений для количественной оценки временной сложности выполнения арифметических операций умножения, сложения и деления с фиксированной точкой в нейровычислительных структурах с шинной организацией. На основе полученных оценок определены способы эффективной организации вычислений в однородных одномерных вычислительных структурах с шинной архитектурой.

6. Разработана методика и получены аналитические оценки сложности реализации нейронных сетей «Однослойный персептрон», «Хопфилд», «Обратное распространение», «Макснет» в нейровычислительных структурах с общей и кольцевой шиной. Данная

125 методика позволяет получить количественные оценки временной сложности реализации нейронных сетей в нейровычислительных структурах в зависимости от их схемотехнической организации.

7. Разработаны структурные и схемотехнические решения для нейровычислительных структур с шинной организацией, позволяющие повысить эффективность нейровы-числений за счет использования иных способов организации данных и ускоренных типов арифметических операций и расширить функциональные свойства нейровычис-лительных структур с шинной организацией.

1. Алгоритмы, математическое обеспечение и архитектура многопроцессорных вычислительных систем / под ред. Ершова А.П. М.: Наука, 1982.-336с.

2. Амамия М Архитектура ЭВМ и искусственный интеллект : Пер. С япон. / Амамия М., Танака Ю.//.:Мир, 1993.-397с.

3. Ахо А Построение и анализ вычислительных алгоритмов. / Ахо А Хопкроф Дж., Ульман Дж.//-М., 1979, с.5-24

4. Барцев СИ. Нейронные сети: подходы к аппаратной реализации / Барцев СИ., Маши-хина Н.Ю., Суров СВ.// Препринт ИФ СО АН СССР, Красноярск, 1990, №122Б, 14 с.

5. Барский А.Б. Параллельные процессы в вычислительных системах. // М.: Радио и связь, 1990.-255С.

6. Булавенко О.Н. Параллельные архитектуры в вычислительных системах // УСиМ.-1993.-№3.-с.37-51

7. Ватанабэ М. Проектирование СБИС. / Ватанабэ М., Асада К., Кани К., Оцуки Т.II М.: Мир, 1988

8. Васин Л.А. Сложность итеративно-разрядных вычислений в нейронных структурах // Пензенский технологический институт г. Пенза, 1999г. 15с.- / Рук. деп. в ВИНИТИ N1691-B99 от 28.05.99

9. Васин Л.А. Модель нейровычислительной среды для размещения задачи сортировки данных. // Тезисы доклада на XXV Международной конференции «IT+SE'98», г. Гурзуф, 1998г. Воронеж: - С. 208 - 210.

10. Волгин Л.И. Комплементарная алгебра и модели нейронных сетей // Труды Междунар. науч. техн. конф. "Непрерывнологические и нейронные сети и модели". -Ульяновск, 1995 г.-т.1,С. 23-25.

11. Авгуль Л.В. Высокопроизводительные системы параллельной обработки информации / Авгуль Л.В., Белоус A.M., Гречишников А.И.// Под ред. Грицыка В.В.-Киев., 1988.-286с.

12. Высокоскоростные вычисления. Архитектура, производительность, прикладные алгоритмы и программы суперЭВМ: Пер. с англ.// Под ред. Я. Ковагшка. -М.: Радио и связь, 1988. 1988.-432 с, ил.

13. Гамкрелидзе С.А. Методика определения оптимальных параметров микропроцессорных СБИС и СБИС ЗУ для нейрокомпьютеров. / Гамкрелидзе С.А., Федченко О.И.// Нейрокомпьютер.- 1992. -№3.- с.25-51

14. Галушкин А.И. Нейрокомпьютеры на базе мультипроцессорных систем. / Галушкин

15. A. И., Грачев Л.В.// Нейрокомпьютер.- 1992. -№3.- с.25-34

16. Горбань А.И. Россиев Д.А. Нейронные сети на персональном компьютере. // Новосибирск. Наука. Киб. отделение, 1996. 276 с.

17. Горбань А.Н. Обучение нейронных сетей. // М.: изд. USSR-USA JV "ParaGraph", 1990.160 с.

18. Горбань А.Н. Новая игрушка человечества / Горбань А.Н., Фриденберг В.И.// МИР ПК, 1993, №9.

19. Горбань А.Н. Нейрокомпьютер или аналоговый ренессанс // МИР ПК, 1994, № 10.

20. Глушков В.М. Основные архитектурные принципы повышения производительности ЭВМ. Проблемы Вычислительной техники.-М., 1981, с.6-20.

21. Головкин Б.А. Параллельные вычислительные системы.-М., 1980.-459с.

22. Горбатов В.А. Основы дискретной математики.-М.:Высш.шк.,1986.-311с.

23. Евдокимов В.Ф. Параллельные вычислительные структуры на основе разрядных методов вычислений./ Евдокимов В.Ф., Стасюк А.И.//-Киев, 1987.-3 Юс.

24. Искусственный интеллект.-В 3-х кн.Кн.2 Модели и методы: Справочник / Под ред. Д. А. Поспелова.// -М.:Радио и связь, 1990.-304с.

25. Искусственный интеллект. В 3-х кн.Кн.З Программные и аппаратные средства / Под ред. В.Н. Захарова, В.Ф. Хорошевского//-М. :Радиои связь, 1990.-368с.

26. Каляев А.В. Многопроцессорные системы с программируемой архитекту-рой.-М.: 1984.-240С.

27. Карцев М.А. Вычислительные системы и синхронная арифметика. / Карцев М.А., Брик

28. B. А,//- М.: Радио и связь, 1981. 360 с, ил.

29. Кирсанов Э.Ю. Аппаратно-программные компоненты нейрокомпьютеров, выполненные на основе транспьютерных технологий // Труды Междунар. науч. техн. конф. "Непре-рывнологические и нейронные сети и модели". -Ульяновск, 1995 г.-т.1, С. 75.

30. Кирсанов Э.Ю. Заказной цифровой нейрочип // Нейрокомпьютер. 1992.-№2.- с.67-72

31. Кирсанов Э.Ю. Оценка производительности нейрокомпьютеров // Нейрокомпьютер. -1992.-№2.- с.37-42

32. Князьков B.C. Общая оценка сложности реализации массивно-клеточных вычислений в итерационно-битовых вычислительных структурах с многомерной организацией. // Известия ТРТУ, N 3,1997,0.218.

33. Князьков B.C. Сложность массивно параллельных вычислений в двумерных итеративно-битовых средах // Материалы Всеросс. научн. техн. конф. «Непрерывная и смежные логики в информатике, экономике и социологии» 30-31 окт., 1997 г., г.Пенза, С.58-60.

34. Князьков B.C. Организация и сложность массивно-конвейерных итерационно-разрядных вычислений в одномерных вычислительных структурах. // Известия ТРТУ, N3,1997,-0.197-199.

35. Князьков B.C. Нейроподобный процессор логике комбинаторной обработки данных: концепция и принципы технической реализации // Труды Международ, науч. техн. конф."Непрерывнологические и нейронные сети и модели".- г. Ульяновск, 1995 Г.-С.38-39.

36. Князьков B.C. Архитектура параллельных вычислительных систем./ Князьков B.C., Бикташев P.A. // Пенза. «Полиграфист», 1993.-166с.

37. Князьков В. С, Бикташев Р. А. Параллельные вычислительные системы с ОКМД архитектурой :уч. пособ. -Пенза, РИО Пензененского Политехнического ин та, 1991.- 51 с.

38. Князьков B.C. Многофункциональный коммутатор. / Князьков B.C. Васин. Л. А. // Патент G06F15/163, 1997 г.

39. Князьков B.C. Организация лаборатории по исследованию нейронных сетей. / Князьков B.C. Васин Л.А.// Тез. док. II Межрегиональная научно-техническая конференция, г. Пенза 24-25 марта 1999 г. С.48-49

40. Кирсанов Э.Ю. Оценка производительности нейрокомпьютеров. // Нейрокомпьютер, N2, 1992 г.

41. Костин А. Б. Организация и обработка структур данных в вычислительных системах. / Костин А. Б., Шангин В.Ф.//М., Высшая школа, 1987 г., 245 с.

42. Коуги П. М. Архитектура конвейерных ЭВМ // М., Радио и связь, 1985, 357 с.

43. Кун Сунь Юань Матричные процессоры на СБИС. М, :Мир, 1991.-672 с.

44. Лобов.О.Ф. Машинная арифметика в числах с плавающей запятой. ./ Лобов.О.Ф., Смирнова Н.П., Стеклов А.А. // Учебное пособие Пенза: 1983 112 с.

45. Минский М. Вычисления и автоматы. // Пер. С англ. Б.Л. Овсиевича и Л.Я. Розенблю-ма.-М.:Мир, 1971.-364с.

46. Миркес Е.М. Нейроинформатика и другие науки // Вестник КГТУ, 1996, вып. 6, с.5-33.

47. Молчанов И.Н. Введение в алгоритмы параллельных вычислений // -Киев, 1990.-127с.

48. Мотоока Т. Компьютеры на СБИС / Мотоока Т., Томита X., и др.// М., Мир.-1988.

49. Мультипроцессорные системы и параллельные вычисления, под ред. Энслоу Ф. Г. // -М. Мир, 1976,384 с.

50. Нейропрограммы. Учебное пособие. В двух частях. Красноярск: изд. КГТУ, 1994.

51. Однородные вычислительные среды. Т. 1 Архитектура однородных вычислительных сред // Шмоилов В.И. Львов: Интеграл, 1993 .-289с.

52. Основы теории вычислительных систем. Под ред. С.А. Майорова. Учебное пособие для вузов. // -М, "Высш. школа", 1978 408 с. с ил.

53. Редько В.Г., Магнитный микроэлектронный нейрокомпьютер // Нейрокомпьютер. -1993.-№1.-с.37-45

54. Прангишвили И. В. и др. Параллельные вычислительные системы с общим управлени-ем.//М., Энергоатомиздат, 1983, 311 с.

55. Прангишвили И.В., Микропроцессорные системы./ Прангишвили И.В., Стецюра Г.Г.// -М.:Наука, 1980,238с.

56. Прангишвили И.В. Современное состояние проблемы создания ЭВМ с нетрадиционной структурой и архитектурой, управляемых потоками данных. / Прангишвили И.В., Сте-цюраГ.Г. // Измерение, контроль, автоматизация.-М.,1981 №1,С.36-48.

57. Программирование на параллельных вычислительных системах // Пер. С англ. Под ред.Р.Бэбба.-М. :Мир, 1991.-372с.

58. Савельев А.Я. Прикладная теория цифровых автоматов. // Учебное пособие для вузов по спец. ЭВМ. М.: Высшая школа, 1987. - 272 с.

59. Самофалов К. Г. Прикладная теория цифровых автоматов./ Самофалов К. Г., Романке-вич А.М. и др.// -Киев: Вища шк., 1987.-374с.

60. Симоне Дж. ЭВМ пятого поколения: компьютеры 90-х годов.// -М.:Финансы и статистика, 1985 г.

61. Систолические структуры: Пер.с анг // Под ред. Мура У., Жаккей Э и др.-М.:Радио и связь, 1993 .-413с.

62. Сложность вычислений и алгоритмов. // Сб. Пер. Под ред В.А. Козмидиади и др. -М.:Мир, 1974.-389С.

63. Тербер К.Дж. Архитектура высокопроизводительных вычислительных систем. // М., Наука, 1985 с.

64. Супер ЭВМ. Аппаратная и программная реализация. // Под ред. С. Фернбаха.-М.:Радио и связь, 1991.-320с.

65. Толковый словарь по вычислительной техники // пер с англ.,-М.: "Русская редакция", 1995.-496 с.

66. Уваров СИ. Вычисление арифметических выражений на многопроцессорной вычислительной системе с общим потоком команд.// М.,1978,вьш. 19, С.67-79.

67. Уоссермен.Ф Нейрокомпьютерная техника. // М:Мир. 1992 240 с.

68. Феррари Д. Оценка производительности вычислительных систем. // Пер. с англ. М.: Мир, 1981.-576с.

69. Фрумкин М.А. Систолические вычисления. // -М.:Наука, 1990.

70. Цыганов В.Д. Нейрокомпьютер и его применение // Под ред. Львова В.А.-М., 1993.-115с.

71. Хокни Р. Параллельные ЭВМ. / Хокни Р., Джессхоуп Н.// М., Радио и связь, 1986, 389с.

72. Paolo lenne. Architecferes for Neura-CompHters: Review and Performance Evalution, Tecni-cal Report. no 93.21 January 1993

73. Cesare Alippi and marley Vellasco. GALATEA neural VLSI architectures: Communication and Control considerations. Microprocessing and Microprogramming, pages 175-180. 1992.

74. Thomas Baker. Artificial neural network and image processing using the Adaptive Solution's architecture/ Paper distributed by Adaptive Solutions, Match 1991.

75. D ARP A Neural Network Study A F C E A International Press, Fairfax, Va., 1988

76. Dan Hammerstrom. A highly parallel digital architecture for neural network emulation. In Jose G.Pelgado-Frias and R. Moore, editors, VLSI for Artifical Intelligence and Neural Network, chapter 5.1, pages 357-360 Plenum Press, New York, 1991.

77. John L. Hennessy and David A. Patterson. Computer Architecture: A Quantitative Approach. Morgan Kaufman Publishers, San Mateo. Calif, 1990

78. Yuza Hirai. VLSI Neural Network System, Japanes Technology Rewiews. Gordon and Breach Seince Publishers, Switzeland,1992.

79. HNC hic, Snata Diego, Calif HNClOO SIMD Neurocomputer Array Processor (SNAP) Chip and System Specification, 1993 Preliminary Data.

80. Paolo lenne and Marc A. Viredaz. The GENES Auxiliary Circuit for the Delta rule. International Report R92.19 Ecole Polytecnigue Federal de Lansanne LAMI, Oktober 1992.

81. S.Jones, K. Sammut, Ch. Nielsen, and J. Straunstrup. Toroidal Neural Network: Architecture, operation, and performance. In II International Conference on Microelectronics for Neural Networs, pages 163-169 1997

82. Robert W.Means and Layne Lisenbee. Extensible linear floating point SIMD neuralcomputer array processor. In International Joint Conference on neural Networks, volume 1, page 587592, Seattle, Wash., July 1991

83. Robert W.Means and Layne Lisenbee. Floating-point SIMD Neuralcomputer array processor. Paper distributed by HNC Lie, 1993

84. U.Ramacher and J.Beichter. Systolic architectures for fas emulation of artifical neural networks. In John McCanny, John McWhirter, and Earl Swartzlander, Jr., editors. Systolic Array Processors, pages 277 286. Prentice Hall, New York, 1989

85. U.Ramacher, J.Beichter, and N. Bruls. Architecture of a general-purpose neural signal processor. In International Joint Conference on Neural Networks, volume I, pages 443-446, Seattle, Wash., July 1991.

86. U.Ramacher, W.Raab, J.Anlauf, U. Hachmann, and M. Wesseling. SYNAPSE-X. A general-purpose neurocomputer. In 2 International conference on Microelectronics for Neural Networks, pages 401-409, 1991.133