автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.15, диссертация на тему:Разработка комплексированных нейросетей и исследование возможностей их применения для решения прикладных задач

кандидата технических наук
Панфилов, Денис Сергеевич
город
Таганрог
год
2002
специальность ВАК РФ
05.13.15
Диссертация по информатике, вычислительной технике и управлению на тему «Разработка комплексированных нейросетей и исследование возможностей их применения для решения прикладных задач»

Оглавление автор диссертации — кандидата технических наук Панфилов, Денис Сергеевич

ВВЕДЕНИЕ.

1 ПРИНЦИПЫ ПОСТРОЕНИЯ ИСКУССТВЕННЫХ НЕЙРОСЕТЕЙ И ВОЗМОЖНОСТИ ИХ КОМПЛЕКСИРОВАНИЯ.

1.1 Принципы построения искусственных нейросетей.

1.2 Методы обучения искусственных нейросетей.

1.3 Возможности построения комплексированных нейросетей.

1.4 Выводы.

2. ИССЛЕДОВАНИЕ МЕТОДОВ ОБРАБОТКИ ГРАФИЧЕСКИХ ИЗОБРАЖЕНИЙ НА ОСНОВЕ КОМПЛЕКСИРОВАННЫХ НЕЙРОСЕТЕЙ.

2.1 Структура комплексированной нейросети для обработки изображений фотороботов.

2.2 Генетические алгоритмы и исследование возможностей их применения для обработки изображений.

2.3 Исследование возможности использования комплексированных нейросетей для сжатия и восстановления данных.

2.4 Исследования возможности применения нейросетей для идентификации изображений.

2.5 Выводы.

3. КОМПЛЕКСИРОВАННАЯ НЕЙРОСЕТЬ ДЛЯ СИСТЕМ ПРОГНОЗИРОВАНИЯ.

3.1 Синтез комплексированной нейросети для решения задач прогнозирования.

3.2 Разработка алгоритмов и методов обучения комплексированной нейросети для решения задач прогнозирования.

3.3 Сравнительный анализ результатов прогнозирования на многослойном перцептроне и комплексированной нейросети.

3.4 Выводы.

4. РЕШЕНИЕ ПРИКЛАДНЫХ ЗАДАЧ НА ОСНОВЕ

КОМП ЛЕКСИРОВ АННОЙ НЕЙРОСЕТИ.

4.1 Применение нейросети для классификации речевых сообщений по их эмоциональной составляющей.

4.2 Постановка задачи прогнозирования изменения уровня грунтовых вод на основе комплексированной нейросети.

4.3 Программа "GeoForecast" для прогнозирования изменения уровня грунтовых вод, состав, описание, полученные результаты.

4.4 Выводы.

Введение 2002 год, диссертация по информатике, вычислительной технике и управлению, Панфилов, Денис Сергеевич

Актуальность темы. Наряду с развитием персональных ЭВМ, сетей ЭВМ и высокопроизводительных суперЭВМ традиционной архитектуры, в последние годы существенно повысился интерес к разработке и созданию компьютеров нетрадиционного типа. Связано это с тем, что, несмотря на высокую производительность современных суперЭВМ, все еще остается много практически важных проблем, для решения которых нужны более мощные и более гибкие вычислительные средства [1]. Использование нейросетевых технологий, применение которых во всем мире приобретает все большие и большие масштабы, как раз и является одним из основных методов разрешения этих проблем [2-15].

Существует большой круг задач, алгоритмы решения которых практически невозможно представить в строго формализованном виде. Искусственные нейронные сети в каком-то смысле имитируют работу мозга, поэтому с их помощью успешно решаются разнообразные "нечеткие" задачи -распознавание зрительных образов, речи, рукописного текста, выявление закономерностей, классификация, прогнозирование, задачи обработки потоков сигналов, преобразование картографической и геодезической информации, задачи адаптивного управления в реальном масштабе времени по большому количеству параметров и другие [16-20]. Даже мозг ребенка может решать задачи, неподвластные современным компьютерам, например, такие как распознавание знакомых лиц в толпе или эффективное управление несколькими десятками мышц при игре в футбол. Уникальность мозга состоит в том, что он способен обучаться решению новых задач - игре в шахматы, вождению автомобиля и т.д. В таких задачах, где традиционные технологии бессильны, нейронные сети часто выступают как единственная эффективная методика решения [21].

Отличиями нейронного подхода от стандартных вычислительных систем являются:

- массовый параллелизм (параллельная работа большого числа простых вычислительных устройств - нейронов);

- способность к обучению и самообучению;

- высокая помехоустойчивость и отказоустойчивость.

Можно выделить три способа моделирования нейронных сетей: полная аппаратная реализация, программно-аппаратная реализация и программные модели нейросетей. Программно-аппаратная реализация происходит за счет дополнительных нейроакселераторных плат вставляемых в слоты расширения стандартных вычислительных комплексов. Наиболее ярко последнее обстоятельство проявилось в структуре шахматного компьютера Deep Blue, который в 1997 году обыграл чемпиона мира Г. Каспарова. Генератор ходов выполняемой им шахматной программы реализован аппаратно на 256 параллельно работающих процессорах. Программные эмуляторы являются на данный момент наиболее употребительным средством моделирования нейросетей.

В настоящее время не существует единой нейросетевой парадигмы, которая была бы способна решать любую предъявляемую ей практическую задачу. Для решения каждой прикладной задачи, в связи с ее спецификой, выбирается одна из известных нейропарадигм. Поэтому развитие нейросетей, вызываемое попытками решения новых, более сложных задач, с решением которых известные нейросетевые парадигмы не в состоянии справиться, в основном идет путем разработки новых архитектур нейросетей, либо путем усложнения используемых нейроэлементов в нейросетевых структурах.

Однако альтернативным путем решения проблем, возникающих при разработке новых архитектур, может служить подход, основанный на объединении уже известных нейропарадигм для достижения искомого результата. Такие нейросетевые структуры, в которых нейропарадигмы объединяются как строительные блоки, могут привести к сетям, более близким к мозгу по архитектуре, чем любые другие однородные структуры. Следовательно, отыскание эффективных способов комплексирования известных нейросетевых парадигм может быть более эффективным и менее трудоемким способом совершенствования нейросетей, чем разработка их новых архитектур. Использование комплексированных нейросетей может существенно расширить область применения искусственных нейросетей. Круг задач, решаемых с их помощью, при этом может существенно возрасти, может увеличиться и сложность таких задач. Следовательно, создание комплексированных нейросетей и комплексов, основанных на различных нейросетевых парадигмах, в настоящее время является весьма актуальной проблемой.

Данная диссертационная работа как раз и посвящена исследованию возможностей построения комплексированных нейросетей и возможностей их использования для решения конкретных прикладных задач. Учитывая то, что в настоящее время еще нет общепринятых теоретических основ, с помощью которых была бы возможна разработка новых нейропарадигм или их комплексирование, исследования в этой области ведутся в основном экспериментальным способом.

Данная работа является дальнейшим развитием результатов исследований, проводимых на кафедре вычислительной техники ТРТУ в области нейрокомпьютеров и искусственного интеллекта под руководством профессора Чернухина Ю.В.

Объект исследований. Объектом исследования являются нейроподобные сети и методы их комплексирования (структура нейросетей, алгоритмы их обучения, функциональные возможности, скорость работы, практические задачи, решаемые на полученных архитектурах).

Цель и задачи работы. Целью диссертационной работы является разработка и исследование методов комплексирования нейросетей для решения задач обработки изображений и решения задачи прогнозирования событий.

Для достижения поставленной цели в работе решаются следующие задачи:

- исследуются возможности совместного использования методов генетического программирования и комплексированных нейроподобных сетей для решения задач составления фоторобота;

- исследуются возможности применения комплексированных нейросетей для сжатия, восстановления и идентификации изображений;

- исследуются возможности применения комплексированных нейросетей для систем прогнозирования событий;

- исследуются возможности комплексированных нейросетей для решения задач классификации речевых сообщений;

- исследуются возможности применения разработанных программных средств на основе комплексированной нейросети для решения задачи прогнозирования геологической информации.

Методы исследований. В работе использованы методы теоретической информатики, теории вычислительных систем, прикладного и системного программирования.

Основные положения, выносимые на защиту. На защиту выносятся следующие положения и результаты:

- обобщенная структура комплекса для решения задачи коллективного составления фоторобота удаленными свидетелями с его последующей идентификацией;

- методика использования генетических алгоритмов для решения задачи составления фоторобота;

- методы использования нейросетей для задач упаковки данных и поиска в базах данных;

- архитектура комплексированной нейросети для систем прогнозирования;

- метод использования комплексированной нейросети для решения задачи прогнозирования.

Научная новизна. Научная новизна заключается в новых архитектурных решениях комплексированных нейросетей и новых методах их использования. Основные научные результаты заключаются в следующем:

- предложен и исследован метод использования генетического программирования для решения задачи коллективного составления фоторобота;

- предложен и исследован метод использования нейросетей для идентификации изображений;

- синтезирована архитектура комплексированной нейросети для систем прогнозирования;

- предложена структура классификатора эмоциональной составляющей информации в речи на основе комплексированной нейросети;

- на программных эмуляторах исследованы функциональные возможности полученных нейросетей.

Практическую ценность работы представляют:

- разработанные программные средства для составления коллективного фоторобота несколькими свидетелями;

- разработанная архитектура комплексированной нейросети для систем прогнозирования;

- разработанная программная модель классификации речевых сообщений по их эмоциональной составляющей;

- разработанный программный нейросетевой комплекс прогнозирования изменения уровня грунтовых вод.

Использование результатов работы. Разработанная программная система прогнозирования уровня грунтовых вод используется в Департаменте Природных Ресурсов по Северо-Кавказскому Региону Министерства

Природных Ресурсов РФ г. Ессентуки. Разработанная программная модель для изучения свойств нейросетей перцептронного типа используется при проведении практических работ по курсу "Системы искусственного интеллекта и нейрокомпьютеры" на кафедре Вычислительной Техники ТРТУ. Теоретические и практические результаты работы использовались при проведении работ по теме "Разработка центра обработки вызовов ЦАСТ "АЛМАЗ" в ООО НПП "Спецстрой-Связь" г. Таганрог.

Апробация работы. Основные результаты работы докладывались и обсуждались на следующих научно - технических конференциях и семинарах: Международной научно-технической конференции "Интеллектуальные многопроцессорные системы" (Таганрог 1999 г.), 5-ой международной конференции "Теория и техника передачи, приема и обработки информации" (Харьков 1999 г.), Всероссийской научно-технической конференции с международным участием "Компьютерные технологии в инженерной и управленческой деятельности" (Таганрог 1999 г., Таганрог 2000 г.), Международной научно-технической конференции и молодежной научной конференции "Интеллектуальные САПР" (Таганрог 2000 г.), 47-ой научно-технической конференции профессорско-преподавательского состава, аспирантов и сотрудников ТРТУ (Таганрог 2000 г.); на научных семинарах кафедры ВТ ТРТУ.

Фрагменты работы представлялись: на конкурс научных работ "Нейрокибернетика, Нейроинформатика, Нейрокомпьютеры'98" (Ростов-на-Дону 1998) (призовое место) и на конкурс научно-исследовательских работ в области системных исследований, математического моделирования и геоэкологической безопасности среди молодых ученых Северного Кавказа (Таганрог 2000) (призовое место).

По теме диссертации опубликовано 10 печатных работ.

Структура и объем работы. Данная работа содержит введение, 4 раздела и заключение общим объемом в 116 страниц. В работе приведен графический материал в объеме 41 рисунка, размещено 8 таблиц, 110 наименований библиографий и 31 страница приложений.

В первом разделе работы описаны этапы развития искусственных нейронных сетей. Показана структурная модель биологического нейрона и приведен алгоритм ее функционирования. Описаны основные принципы построения искусственных нейросетей и их основные архитектурные решения. Показана суть процесса обучения нейросетей. Описаны основные парадигмы и правила обучения искусственных нейронных сетей. Показана необходимость комплексирования отдельных нейросетевых парадигм и предложены методы и способы достижения этой цели.

Во втором разделе описывается постановка задачи коллективного составления фоторобота несколькими свидетелями с его последующей идентификацией. Предложена методика ее решения, с использованием комплексированных нейросетей на основе нейросети Хопфилда и нейросети встречного распространения, а также совместно с методикой генетического программирования. Описаны результаты проведенных исследований предложенных нейропарадигм для решения данной задачи.

В третьем разделе предложена архитектура комплексированной нейросети, предназначенной для решения задачи прогнозирования данных. Приведены алгоритмы обучения предложенной нейросетевой архитектуры. Описаны результаты проведенных экспериментов по сравнению результатов прогноза полученных на стандартном многослойном перцептроне и предложенной нейроструктуре.

В четвертом разделе рассматриваются принципы построения классификатора речевых сообщений по их эмоциональной составляющей с использованием нейросетей. Приведены сравнительные характеристики работы такого классификатора с работой неадаптивного классификатора. Дана постановка задачи прогнозирования изменения уровня грунтовых вод. Описана

11 структура и возможности разработанного программного комплекса для решения задачи прогнозирования изменения уровня грунтовых вод.

В заключении подводятся итоги и делаются выводы об основных научных и практических результатах достигнутых при выполнении данной работы.

Заключение диссертация на тему "Разработка комплексированных нейросетей и исследование возможностей их применения для решения прикладных задач"

4.4 Выводы

В четвертой главе показана возможность использования разработанной комплексированной нейросети для классификации речевых сообщений по их эмоциональной составляющей. Результаты работы предложенного классификатора на основе нейросети превосходили результаты работы неадаптивного классификатора более чем на 30%.

При исследовании возможностей использования нейросетевого подхода было установлено, что совместное использование в качестве классификатора речевых сообщений нейросетей, классических методов обработки сигналов и алгоритмов неадаптивной классификации позволяют увеличить эффективность данного процесса.

Разработан и реализован программный комплекс "ОеоРогесазГ предназначенный для автоматизации процесса выдачи рекомендаций по использованию грунтовых вод (забор воды из скважин), на основе разработанной комплексированной нейросетевой структуры. Данный комплекс позволяет существенно ускорить процесс анализа результатов прогнозирования изменения уровня грунтовых вод для последующего принятия решений по возможностям их использования.

ЗАКЛЮЧЕНИЕ

В диссертационной работе были исследованы вопросы построения комплектированных нейросетевых структур, а также исследованы возможности их применения для решения прикладных задач. В результате проведенных исследований были получены следующие основные научные и практические результаты.

1. Предложена методика решения задачи составления коллективного фоторобота на основе генетических алгоритмов.

2. Исследована возможность использования нейросети встречного распространения для сжатия и восстановления графических данных. На основании проведенных экспериментов получены сравнительные характеристики данного метода относительно стандартных методов сжатия изображений.

3. Исследована возможность использования нейросети Хопфилда для идентификации изображений и выведены формулы для расчета количества выходных векторов в зависимости от вида базисного вектора.

4. Предложена общая структура комплекса средств на основе совместного использования различных нейросетевых парадигм и методов генетического программирования для решения задачи составления фоторобота человеческого лица с его последующей идентификацией из базы данных.

5. Предложена комплексированная нейросетевая структура для решения задач прогнозирования данных, способная улучшить качественные характеристики получаемого прогноза.

6. Полученные результаты экспериментов с синтезированной комплексированной нейросетью показывают, что качество результатов прогнозирования с использованием разработанной нейросетевой структурой улучшаются на треть по отношению к результатам прогнозирования, полученным с использованием стандартного многослойного перцептрона.

106

7. Предложено для классификатора речевых сообщений по их эмоциональной составляющей использовать комплексированную нейросеть. В ходе экспериментов установлено, что классификатор с использованием такой нейросети улучшает качество верного распознавания более чем на 30 %. Также была установлена эффективность совместного использования нейросети и неадаптивного классификатора. Полученные в ходе работы результаты были использованы при проведении работ по теме "Разработка центра обработки вызовов ЦАСТ ""АЛМАЗ" в ООО НПП "Спецстрой-Связь" города Таганрога.

8. На основе синтезированной комплексированной нейросети разработан программный комплекс прогнозирования изменения уровня грунтовых вод "СтеоРогесаэ!;", применяющийся в качестве одного из штатных средств в Департаменте Природных Ресурсов по Северо-Кавказскому Региону МПР РФ города Ессентуки. Полученные при этом статистические данные показывают положительное отличие скоростных и качественных характеристик прогнозирования при использовании данного пакета по сравнению со стандартными процедурами.

Библиография Панфилов, Денис Сергеевич, диссертация по теме Вычислительные машины и системы

1. ЧернухинЮ.В. Нейропроцессоры. Таганрог: ТРТУ, 1994. 175 с.

2. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика: Пер. с англ. М.: Мир, 1992. 240 с.

3. Галушкин А.И., Кирсанов Э.Ю. Нейронные системы памяти. МАИ, 1991.

4. Транспьютерные и нейронные ЭВМ. /Под ред. Левина В.К., Галушкина А.И. Российский Дом знаний, 1992.

5. Мкртчян С.О. Проектирование логических устройств ЭВМ на нейронных элементах. М.: Энергия, 1977.

6. Дискуссия о нейрокомпьютерах. /Под ред. Крюкова В.И. Пущино, 1988.

7. Амосов Н.М. и др. Нейрокомпьютеры и интеллектуальные роботы. /Под ред. Амосова Н.М. АН УССР Ин.-т кибернетики. Киев: Наук. Думка, 1991.

8. Page G. F., Gomm J.B. "Application of Neural Networks to Model", Published by Routledge, 1993.

9. Richard J. Mammone "Neural Network Theory & Application", Academic Press Inc., New York, 1991.

10. Jordanides Т., Torby B. "Expert Systems and Robotics", Springer-Verlag, 1990.

11. Meisel W. S. "Computer-Oriented Approaches to Pattern Recognition", Academic Press, 1972.

12. Chien Y. T. "Interactive Pattern Recognition", Marcel Dekker, 1978.13. 80170NX Electrically Trainable Analog Neural Network. Intel Corporation, Ord.Num 290408-002, June 1991.

13. SYNAPSE -1. A General Purpose Neurocomputer. Siemens AG Proprietary Information, Febraiy 1994.

14. Mead K., Carver S. "Analog VLSI & Neural Systems", Published by Addison Wesley Publishing, 1989.

15. Мкртчян С.О. Нейроны и нейронные сети. М.: Энергия, 1971.

16. Дунин-Барковский В. Л. Информационные процессы в нейронных структурах. М.: Наука, 1978

17. Чернухин Ю.В. Нейропроцессорные ансамбли. Таганрог: ТРТУ, 1995. 149 с.

18. Чернухин Ю.В. Микропроцессорное и нейрокомпьютерное управление адаптивными мобильными роботами. Таганрог: ТРТИ, 1993. 91 с.

19. Мозг: Пер. с англ./ Под ред. Симонова П.В. М.: Мир, 1982. 280 с.

20. Чернухин Ю.В. Нейропроцессорные сети: Монография. Тагарог: Изд-во ТРТУ, 1999. 439 с.

21. R. Rosenblatt, "Principles of Neurodinamics", Spartan Books, New York, 1962. Русский перевод: Розенблатт Ф. Принципы нейродинамики: перцептроны и теория механизмов мозга: Пер. с англ. М.: Мир, 1965. 480 с.

22. М. Minsky and S. Papert "Perceptrons: An Introduction to Computational Geometry", MIT Press, Cambridge, Mass., 1969. Русский перевод: Минский M., Пейперт С. Персептроны: Пер. с англ. М.: Мир, 1971. 440 с.

23. J.J. Hopfield, "Neural Networks and Physical Systems with Emergent Collective Computational Abilities", in Proc. National Academy of Sciences, USA 79, 1982, pp. 2554-2558.

24. P. Werbos, "Beyond Regression: New Tools for Prediction and Analysis in the Behavioral Sciences", Ph.D. Thesis, Dept. Of Applied Mathematics, Harvard University, Cambridge, Mass., 1974.

25. Parallel distributed processing: Explorations in the microstructure of cognition. Volume 1: Foundation. David E. Rumelhart, James L. McClelland, and the PDP research group. London: MIT Press, 1986. 550 p.

26. Haykin Simon. Neural networks : A comprehensive foundation. McMaster University, Hamilton, Ontario, Canada, 1994. 695 p.

27. Grossberg St. Neural Networks & Natural Intelligence, Published by MIT Press, 1988.

28. Grossberg S. Studies of mmd and brain. Boston: Reidel. 1982, 194 p.

29. Кохонен Т. Ассоциативная память. Пер. с англ. М.: Мир, 1980.

30. Кохонен Т. Ассоциативные запоминающие устройства. Пер. с англ. М.: Мир, 1982

31. Kohonen Т. Self-Organization and Associative Memory. Springer Verlag. 1984.

32. Самоорганизующиеся системы. Пер с англ. /Под ред. Соколова Т.Н. М.: Мир, 1964.

33. Принципы самоорганизации. Пер с англ. /Под ред. Лернера А.Я. М.: Мир, 1966.

34. Фролов А.А., Муравьев И.П. Нейронные модели ассоциативной памяти. М.: Наука, 1987.

35. Щербаков П.С. Библиографическая база данных по методам настройки нейронных сетей. Нейрокомпьютер. №3-4, 1993.

36. Криминалистика / Под. редакцией Образцова В.А. VI: Юрист 1995. -592 с.

37. Снетков В.А. и др. Криминалистическое описание внешности человека, М., 1984.

38. Криминалистика: Учеб. для вузов / И.Ф. Герасименко, Л.Я. Драпкин, Е.П. Шецеко и др.; под ред. И.Ф. Герасименко, Л.Я. Драпкина. М.: Высш. шк., 1994. 528 с.

39. Яблоков Н.П. Криминалистика М.: Изадельская группа Норма-ИнфраМ, 2000. - 384 с.

40. Снетков В.А. Габитоскопия. Волгоград, 1979.

41. Костюк А.И. Разработка и исследование алгоритмов и методовидентификации и цифровой обработки изображений на основе многопроцессорных вычислительных систем. Диссертация на соискание ученой степени кандидата технических наук. Таганрог, 1997.

42. Семенков О.И. и др. Обработка и отображение информации в растровых графических системах. Минск: Наука и Техника, 1996.

43. Куссуль Э.М., Байдык Т.Н., Структура нейронных ансамблей. Нейрокомпьютер. №1, 1992.

44. Caudill J., Maureen В. "Understanding Neural Networks Computer", Published by MIT Press, 1991.

45. J. Hertz, A. Krogh, and R.G. Palmer, Introduction to the Theory of Neural Computation, Addison-Wesley, Reading, Mass., 1991.

46. J.A. Anderson and E. Rosenfeld, "Neurocomputing: Foundation of Research", MIT Press, Cambridge, Mass., 1988.

47. D.O. Hebb, The Organization of Behavior, John Wiley & Sons, New York, 1949.

48. Анил К. Джейн, Жианчанг Мао, К М. Моиуддин. Введение в искусственные нейронные сети // Открытые системы. — 1997 г., №4.

49. Hormk К., Stinchcombe М., White Н. Multilayer Feedforward Networks are Universal Approximators//Neural Networks. 1988. Vol.2 p.359-366.

50. IEEE Magazine COMPUTER. Special issue Neural Computing. March 1996.

51. Mohamad H. Hassoun Fundamentals of Artificial Neural Network. A Bredford book. The MIT Press, Cambridge, Massachusetts, USA. 1995. 511 p.

52. E. Barnard and J.W.E. Holm. A comparative study of optimization techniques for backpropagation. Neurocomputing. An International Journal. Volume 6, Number 1, February 1994 pp. 19-31.

53. Горбань A.H. Обучение нейронных сетей. M.: СП «ПараГраф», 1990. 160с.

54. Чернухин Ю.В. Искусственный интеллект и нейрокомпьютеры. Таганрог: Изд-во ТРТУ, 1997. 273 с.

55. Курейчик В.М. Генетические алгоритмы. Монография. Таганрог: Изд.-во ТРТУ, 1998, 242 с.

56. Вороновский Г.К., Махотило КВ., Петрашев С.Н., Сергеев С.Л. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности. Харьков: Основа, 1997, 112 с.

57. Курейчик В.М. Генетические алгоритмы в технике. Методы кибернетики и информационные технологии, РАЕН, Саратов, СГУ: 1997, с.45-54.

58. Курейчик В.М. Генетические алгоритмы. Обзор и состояние. Новости искусственного интеллекта, М: РАИИ, 1998.

59. Г. Шустер "Детерминированный хаос. Введение" VI: Мир, 1988.- 240 с.

60. М.Холодниок и др. "Методы анализа нелинейных динамических моделей" М.: Высшая школа, 1994.-256 с.

61. П. Берже, И. Помо, К. Видаль "Порядок в хаосе. О детерминистском подходе к турбулентности" М.: Мир, 1991,- 368 с.

62. С.М.Ермаков, А.А.Жиглявский "Математическая теория оптимального эксперимента" М.: Высшая школа, 1995.-302 с.

63. Д.-Э. Бэстенс, В.М. Ван Ден Берг, Д. Вуд "Нейронные сети и финансовые рынки" М.: ТВП "Научное издательство", 1997,- 236 с.

64. В.Л. Яковлев, Г.Л. Яковлева, Д.А. Малиевский Нейросетевая экспертная система управления портфелем банка // V Всероссийская конференция "Нейрокомпьютеры и их применение". Сборник докладов 1999, С.291-294.

65. Цуприков С. Нейронные вычисления берутся на вооружение финансистами. / Computerworld Moscow - 1985 - N 7 - с. 57-58.

66. Галушкин А. Современные направления развития нейрокомпьютерных технологий в России // Открытые системы. — 1997 г., №4.

67. Борисов Ю., Кашкаров В., Сорокин С. Нейросетевые методы обработки информации и средства их программно-аппаратной поддержки // Открытые системы. — 1997 г., №4.

68. Киселев M., Соломатин Е. Средства добычи знаний в финансах и бизнесе // Открытые системы. — 1997 г., №4.

69. Соколов E.H., Вайтнявичус Г.Г. Нейроинтеллект: от нейрона к нейрокомпьютеру,-М.: Наука, 1989. С. 283.

70. Суворов C.B., Матихина Н.Ю. Программное моделирование нейроподобных структур./ Распределенная обработка информации.-Улан-Уде, 1989,-с. 28.

71. Трикоз Д.В. Нейронные сети: как это делается?/ Компьютеры + программы 1993 - N 4(5) - с. 14-20.

72. Масалович А.И. От нейрона к нейрокомпьютеру./ Журнал доктора Добба 1992 - N 1 - с. 20-23.

73. Иванченко А.Г. Персептрон системы распознавания образов.// К.: Hay кова думка, 1972.

74. Абу-Мустафа Я. С., Псалтис Д. Оптические нейронно-сетевые компьютеры/ В мире науки, 1987. N 5. С. 42-50.

75. Барцев С.И. Некоторые свойства адаптивных сетей (программная реализация). Красноярск: Институт физики СО АН СССР, - 1987.

76. Барцев С.И., Охонин В.А. Адаптивные сети обработки информации. -Красноярск: Институт физики СО АН СССР, 1986.

77. Гольцев А.Д. Яркостная сегментация изображения при помощи нейроподобной сети./ Автоматика 1965 - N 5 - с. 40-50.

78. Джеффри Е. Хинтон. Как обучаются нейронные сети./ В мире науки -1992-N11 -N12-с. 103-107.

79. Н.Н.Бугаенко, И.В.Карлин, Е.М.Миркес, К.Г.Помренин, Е.В.Смирнова. Нейроинформатика и другие науки.

80. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука, Сибирская издательская фирма РАН, 1996.276 с.

81. Картавцев В.В. Нейронная сеть предсказывает курс доллара? Компьютеры + программы 1993 - N 6(7) - с. 10-13.

82. Тэнк Д.У., Хопфилд Д.Д. Коллективные вычисления в нейроноподобных электронных схемах./ В мире науки. 1988. N 2. С. 44-53.

83. Чертков М., Грималюк А. Методика валютного прогнозирования. Одесские деловые новости 1995 - май N 16 - с. 4.

84. Федоренко О.Г. Разработка и исследование методов повышения эффективности программно-аппаратных вычислительных средств обработки речевых сигналов. Диссертация на соискание ученой степени кандидата технических наук. Таганрог, 1999.

85. Чистович Л.А., Венцов А.В. Физиология речи. Восприятие речи человеком. «Наука», Л. 1976. 388с.

86. Галунов В.И. Манеров В.Х. Связь между психофизическим состоянием говорящего и характеристиками речевого сигнала. Тез. докладов 8-го Всесоюзного семинара «Автоматическое распознавание слуховых образов», Львов, 1974, ч. 4, с. 46-48.

87. Котляр Г.М., Морозов В.П. Особенности восприятия вокальной речи слушателями различных категорий. В кн.: Речь и эмоции. Матер. Симпозиума. Л., 1975. с. 118-124.

88. Котляр Г.М., Морозов В.П. Об акустических коррелятах эмоциональной выразительности речи. Акуст. журн., 1976. т. 22, вып. 3, с 370-376.

89. Рамишвили Г.С., Автоматическое опознавание говорящего по голосу. М. «Радио и связь», 1981. 224с

90. Фант Г., Анализ и синтез речи. Новосибирск. 1970. 291с.

91. Рабинер Л.Р., Шафер Р.В. Цифровая обработка речевых сигналов. Пер с англ. М.: Радио и связь, 1981. 496с.

92. Рабинер Л.Р. Голд Б. Теория и применение цифровой обработки сигналов. М. Мир, 1974. 458 с.

93. Кантер. Л.А. Системный анализ речевой интонации. Учебное пособие. М. «Высшая школа», 1988.84с.

94. Симонов П.В. Теория отражения и психофизиология эмоций. М., 1970. 153с.

95. Психофизические характеристики слуха. В кн. Инженерная психология. М., 1964. с.138-158.

96. Манеров В.Х. Исследование речевого сигнала для определения эмоционального состояния человека. М. «Наука», 1975. 272с.

97. Морозов В.П. Измерение эмоциональной выразительности вокальной речи: возможности и перспективы. В кн.: Речь и эмоции. Материалы симпозиума. Л., 1976. с. 9-10.

98. Ю.В. Чернухин, Д.С. Панфилов. "Исследование однослойной нейросети Хопфилда при ее обучении на один базисный вектор". Известия ТРТУ.116

99. Тематический выпуск: Материалы всероссийской научно-технической конференции с международным участием "Компьютерные технологии в инженерной и управленческой деятельности". Таганрог: ТРТУ, 2001. №3 (21), стр. 83-85.

100. Ю.В. Чернухин., Д.С. Панфилов. "Использование комплексированной нейросети в системе экологического мониторинга". Тезисы доклада, Известия ТРТУ, Таганрог: ТРТУ, 2002.-N1 (24), стр. 72 (в печати).

101. Утверждаю Щтель СК ДПР у^К.Магомедов1. АКТ О ВНЕДРЕНИИ

102. УТВЕРЖДАЮ» Лшюектор по учебной работегского государственного 1йческого университета1. А.Н.Каркищенко 2001г.1. АКТ О ВНЕДРЕНИИ

103. Ответственный за внедрение цр/7 Г1! ^ассистент каф. ВТ ' / Ю.Г.Соловьева

104. Листинг главного модуля программы изучения возможностей сжатия и восстановления изображений с использованием нейросети встречногораспространенияunit main;interfaceuses

105. Windows, Messages, SysUtils, Classes, Graphics, Controls, Forms, Dialogs, StdCtrls, ExtCtrls;type

106. Public declarations } end;var

107. Forml: TForml; implementation uses varib; {$R *.DFM}procedure TForml.btnlClick(Sender: TObject); var i,j:integer, bufbyte; Fl:file; beginif OpenDialogl .Execute then begin

108. FileName:=OpenDialogl .FileName; end;

109. FileName:=OpenDialogl .FileNaine; end; nastr;if OpenDialogl .Execute then begin

110. FileName :=OpenE)ialogl. FileNaine; end;if SaveDialogl.Execute then begin

111. FileJNamel :=Save Dialog 1 .FileNaine;end;

112. Assign Fi I e(FI,File Nam e);1. Reset(FI,l);

113. AssignFüe(FIS,FüeNamel); Rewrile(FlS,l);for i:=l to 18 do BlockWrite(FIS,zagoll1.,l);1. BlockWrite(FIS,niul,2);for i:=l to 2 do BlockWrite(FIS?zagol21.a);

114. Листинг процедур моделирования многослойного перцегарона для задачипрогнозирования данныхunit alnset;

115. Procedure Init; Var ij,l,k: integer; x:double; s: string; begin

116. NlPtr:=NlHead; for i:=l to NN1 do begin

117. With NlPtiA do begin Randomize; NSinPtr:=SinHead; for j:=l toNWl do beginif FlagNew=l then if FlagNewrv=l then begin s:=T;frmRV.Label4.Caption:=s; Sti<i,s);frmRV.Labeli. Caption:=s; Str(.,s);frmRV. Label?. Caption:=s; frmRV.ShowModal;

118. Val(frmRV. edit 1. text,NSinPtx^.W,EnCode); endeke NSinPt^W:=(l-2*Random)*Sc else begin1. Readhi(F, S);1. Val(S,x, EirCode);1. NSinPtr'\W:^c;end;

119. NSinPtr74. DW :=0; NSniPti-.=NSinPti" .next, end;1. P-POROG;kSp:=l;1. Sp:=0;1. C)utF:=0;1. OutFPog:=C);

120. YSp:=0; OutFPogPr:=C); end;1. N1 Ptx:;;N I PtrA.ne.\t;end;for k:=l to kol do begin

121. N2Head:=NSloy2k.; N2Ptr:=N2Head; for i:=l to NN2 do begin1. With N2PtrA do begin

122. Randomize; NSinPtr:=SinHead; for j:=l to NW2 do beginif FlagJNew=l then if Flag Newrv^l then begin1. Str(kol+l,s);fmiRV. Label4. Capti 011: -s; Str(i,s);fimRV. Labels .Captions; Str(j,s);fimRV. Label?. Caption:^; fimRV. ShowModal;

123. Val(fimRV.editl.textNSinPti^.AV3EiTCode); endelse NSinPtiA.W:=( 1 -2 *Random) *Sc else begin

124. Readln(F, S); Val(S,x, EuCode); NSinl>ljA.W--x;' end;1. NSinPtr'\DAV:=0;1. NSinPtr:=NSinPtrA.next;end;

125. P:=POROG; kSp:=l; Sp:=0; (DiitF:=0; OutFPog:=0; YSp:=0; C>utFPogPr:=0; end;1. N2Ptr:=N2Ptr"\next;end;1. N2PtiA.next:=riil;1. NSloy2k.:=N2Head;end;

126. New(N3Ptr); N3Head:=N3Ptr; New(NSmPtr); NSPti-rSmHeadi-NSmPtr; for j:=2 to NW3 do begin New(NSmDop); NSiiiPtr^.next^NSmDop; NSinPtr. NSmDop; end;

127. NSinPtr\next:=nil; for i:=2 to NN3 do begin NEW(N3Dop); N3Pfr\next:=N3Dop; N3Ptr:=N3Dop; New(NSinPtr); N3 PtrA. SmHead:=NSinPti-; for j:=2 to NW3 do begin NewiNSinDop); NSinPtrA.next:=NSinDop; NSinPtr:=NSinDop; end;1. NSinPti^.next:=ml; end;

128. NSPtiAnext^nil; for k:=l to kol do begin1. New(N4Ptr);1. N4Head:=N4Ptr;1. New(NSinPtr);1. N4Ptr^. SinHead:=NSmPtr5for j :=2 to NW4 dobegin

129. New(NSinDop); NSinPtr \ next: =NSinDop; NSinPti':=NSinDop; end;

130. NSinPtr\next=nil; for i:=2 to NN4 do begin

131. NEW (N4Dop); N4PtrA.next:=N4Dop; N4Ptr:=N4Dop; New(NSmPtr);

132. With N21^ do begin {with} NSinPtr:=SmHead; for j:=l to NW2 do begin {for j}

133. N SmPtr. W: =NSiiiPtrA. W +N SmPtrA. DW; NSinPtr^.DW :=0; NSinPtr-NSinPti^.next; end, {for j} end; {with} N4Ptr:=N4PtiA.next; end; {for i) end;end; {main} { }1. Procedure vach;1. Var ij,k,yi5kmas:integer,s 1 :string; begin {main} kmas:=l; 1-0;

134. NlPtr:=NlHead; . frmFile. edit3 .text:="; fimFile.edit6.text:=="; fori: 1 to NN 1 do begin {for i} With NlPtr^ do begin {withl} Sp:=0;

135. NSinPtr:=SinHead; for ji—1 toNWl do147

136. N2Ptr:=N2Ptr"\next; end; {fori} end;if 1=1 then begin Str(ll,sl);if mchi=0 then frmRaspoz. edit 1 .texl: s 1; if ruchr=l then frmRaspozRV.editl ,text:=sl; end;end; {main} { )1. BEGIN1. END.