автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Нейросетевые системы идентификации параметрически неопределенных сигналов

ВВЕДЕНИЕ

Глава 1. ОБЗОР СОВРЕМЕННОГО СОСТОЯНИЯ ИССЛЕДОВАНИЙ И РАЗРАБОТОК СИСТЕМ ИДЕНТИФИКАЦИИ ПАРАМЕТРИЧЕСКИ НЕОПРЕДЕЛЕННЫХ СИГНАЛОВ

1.1. Основные понятия и определения

1.2. Теоретические основы построения нейросетевых систем идентификации параметрически неопределенных сигналов

1.3. Анализ математических моделей процедуры идентификации параметрически неопределенных сигналов на базе нейронных сетей

1.4. Постановка задачи

Актуальность работы.

При определении параметров качества электрической энергии, анализе сейсмических сигналов и контроле параметров технологических процессов в самых различных отраслях производства возникает задача идентификации параметрически неопределенных сигналов (ПНС). В простейшем случае неизвестны только значения отдельных параметров сигналов, и задача идентификации сводится к задаче измерения. В более общем случае кроме значений не определены количество и структура параметров идентифицируемых сигналов. Рассмотрим некоторые практически важные примеры построения систем идентификации ПНС.

Одна из практически важных задач, которая также может быть решена посредством синтеза системы идентификации ПНС, относится к области анализа сейсмических сигналов. Это задача диагностики гидроразрыва пласта и определения его геометрических размеров, решение которой позволяет существенно повысить эффективность нефтедобычи. Сигнал, свидетельствующий о гидроразрыве пласта, поступает с сейсмодатчиков и не определен ни во времени, ни по форме. Можно говорить лишь о том, что в момент гидроразрыва имеет место «резкое изменение формы» сигнала, что позволяет отнести эти сигналы к подклассу ПНС.

Простейшие системы контроля качества электрической энергии анализируют ее параметры на соответствие установленным ГОСТами нормам, более сложные - позволяют диагностировать узлы электрической сети, неисправности которых приводят к ухудшению показателей качества. Принцип действия современных систем контроля качества электрической энергии основывается на последовательном алгоритме, включающем в себя аналоговоцифровое преобразование, накопление результатов преобразования и последующее вычисление значений показателей качества. Недостатком применения последовательного алгоритма обработки информации является то, что значения параметров анализируемого сигнала получаются апостериорно, т.е. несут информацию об уже произошедшем процессе, а, следовательно, не могут быть использованы для оперативного управления. Таким образом, актуальной является задача разработки систем контроля качества электрической энергии, работающих в реальном времени и обеспечивающих оперативную идентификацию ситуации и предсказание ее развития. Данная задача относится к задаче синтеза системы идентификации ПНС.

При контроле параметров технологических процессов в самых различных областях производства особую важность представляет предсказание возникновения предаварийных и аварийных ситуаций. Предварительный анализ показывает, что данная задача может быть решена системой идентификации ПНС.

Обобщая сказанное, можно сделать вывод о практической важности разработки теоретических и практических вопросов построения систем идентификации параметрически неопределенных сигналов.

Первоначально под идентификацией понимался поиск мер сходства и мер различения сигналов в процессе кластерного анализа. Основные идеи решения задач классификации и кластеризации информации принадлежат Б. Дюрану, П. Оделл [70], М.С. Олдендерфу, Р.К. Блэшфилду [98]. Рассмотренные методы основываются на метрике Минковского [98], методах средней связи Кинга [76], методах Уорда [70] и Мак-Куина [107]. Из вероятностных методов идентификации неклассифицированных сигналов к заранее описанным классам наиболее известен метод Байеса [68] и дискриминантный анализ Фишера [104, 77, 110].

Во второй половине двадцатого столетия появляются методы идентификации, основывающиеся на достижении нейробиологии. Первые результаты, полученные в этой области, связаны с именами У. Маккалоха (W. McCulloch), У. Питтса (W. Pitts) [84], Д. Хебба (D. НеЪЪ) [26], Ф. Розенблатта (F. Rosenblatt) [38, 103], С. Пайперта (S. Papert) [89], М. Минского (М Minsky) [89].

Фундаментальные результаты по представлению непрерывных функций нескольких переменных в виде суперпозиции функций одного переменного были получены А.Н. Колмагоровым и

B.И. Арнольдом. А.Н. Колмагоров первым доказал универсальную аппроксимирующую способность нейронных сетей для обработки информации и тем самым определил огромную сферу практического применения искусственных нейронных сетей (ИНС) [78]. В дальнейшем Г. Цыбенко (G. СуЪепко) [19], Дж. Парк (J. Park) и К. Хорник (К. Hornik) [29] доказали теоремы об универсальной аппроксимирующей способности отдельных видов нейронных сетей, чем вызвали еще больший интерес к ним. Дальнейшие исследования в области нейронных сетей проводили Дж. Хопфилд (J. Hopfield) [28], Т. Кохонен (Т. Kohonen) [31,79,80],

C. Гроссберг (S. Grossberg) [23, 41], Д.Е. Румельхарт (D.E. Rumelhart) [39, 40], П.Дж. Вербос (P.J. Werbos) [36], Д. Лове (D. Lowe), С. Чэн (S. Chen) [30], К. Бишоп (С. Bishop), С. Хайкин (S. Haykin). Отличительной особенностью систем идентификации на базе нейронных сетей является реализация процедуры обучения, успех которого существенным образом зависит от обучающей выборки.

Поиск способов преодоления априорной неопределенности исходной информации привел к созданию способов обучения сетей, предъявляющих требования к предварительной обработке исходной информации, архитектуре сети и интерпретатору результата идентификации. Многочисленные результаты в этой области принадлежат Я.З. Цыпкину [114, 115], А.И. Галушкину [55, 56, 57, 58], Ю.И. Журавлеву [73], А.Г. Ивахненко [74, 75],

В.Н. Вапнику [53], М.А. Айзерману [44], А.Н. Горбань [61, 62, 63, 64, 65]. Дальнейшие исследования в области нейронных сетей В.В. Кругловым, В.В. Борисовым [50], Э.Д. Аведьяном,

В.А. Тереховым [106], В.А. Головко направлены на оптимизацию многослойных нейронных сетей.

Основными достоинствами применения ИНС являются параллелизм функционирования, устойчивость работы, простота реализации, однако отсутствие общего решения задачи синтеза архитектуры нейронной сети существенным образом ограничивает их применение для разработки систем идентификации ПНС. Поскольку задача синтеза архитектуры нейронной сети и ее последующего обучения в значительной степени упрощается при уменьшении степени априорной неопределенности исходной информации, предложен ряд способов предварительной обработки исходной информации, методологическую основу которой составляют достижения теории цифровой обработки сигналов (ЦОС). Теория ЦОС, обобщая достижения теории фильтрации, математической статистики и т.д., разрабатывается достаточно изолированно от теории нейронных сетей, что ограничивает возможности применения ее достижений в этой области. Кроме того, в литературе по ЦОС часто опускаются вопросы сигналообразования, т.е получения исходной информации от физического объекта с помощью датчиковой аппаратуры и ее аналого-цифрового преобразования. По умолчанию считается, что на этих этапах информация не теряется, а разрядность аналого-цифрового преобразователя (АЦП) достаточна. Однако, как показано в ряде работ [117, 102, 82, 112] для аналого-цифрового преобразования ПНС, избыточность разрядности АЦП приводит к таким же негативным последствиям, как и недостаточность. Отсутствие модели сигналообразования не позволяет адекватно описать информативную составляющую сигнала, а следовательно оптимальным образом выбрать разрядность АЦП и длительность такта дискретизации. Обычно эти параметры АЦП выбираются с многократным запасом, при этом доля информативной составляющей естественно уменьшается, а эффективность работы системы ЦОС соответственно падает, поскольку значительная часть вычислительной мощности тратится на обработку заведомо неинформативных составляющих.

В работах [117, 102, 82, 112] показано, что теоретической основы построения моделей сигналообразования может служить теория целых функций экспоненциального типа (ЦФЭТ). Одним из важных свойств целых функций (ЦФ) конечного порядка является возможность описания их мультипликативной моделью с использованием нулей функции (корней полинома). В работе [94] показаны пути применения достижений методов теории ЦФЭТ для построения нейронных сетей, однако данные результаты носят обобщенно теоретический характер и не доступны для применения на инженерном уровне.

Параллелизм функционирования ИНС предполагает высокое быстродействие вычислительного процесса. Иногда анализ сигналов представляет собой последовательный процесс (например, анализ качества электрической энергии). Поэтому для того, чтобы сформировать вектор входных значений для ИНС, требуется временный буфер, который накапливает информативные признаки сигнала. Только после этого сформированный вектор подается на вход ИНС. Такой подход снижает скорость вычислительного процесса. Поэтому актуальна задача совершенствования структуры ИНС для решения подобных задач. При этом актуально разработать именно аналитические методы синтеза ИНС, поскольку аналитический синтез опирается на строгое математическое описание как исходного сигнала, так и процедуры идентификации.

Целью данной работы является анализ и синтез нейросете-вых систем идентификации параметрически неопределенных сигналов.

Для достижения поставленной цели необходимо решение следующих основных задач:

1. Анализ тенденций совершенствования систем идентификации сигналов и выявление наиболее перспективных направлений развития.

2. Разработка обобщенной процедуры синтеза систем идентификации параметрически неопределенных сигналов на базе теории цифровой обработки сигналов и искусственных нейронных сетей.

3. Разработка процедуры аналитического синтеза систем идентификации параметрически неопределенных сигналов с учетом моделей сигналообразования на базе теории целых функций экспоненциального типа.

4. Разработка методики инженерного проектирования микропроцессорных систем идентификации параметрически неопределенных сигналов.

Методы исследования. В диссертационной работе методическую основу исследования составляют положения теорий идентификации, цифровой фильтрации, искусственных нейронных сетей, математической теории целых функций экспоненциального типа, а также методы математического и имитационного моделирования.

Научная новизиа работы.

1. В результате анализа тенденций развития систем идентификации параметрически неопределенных сигналов показана необходимость консолидации достижений методов цифровой обработки сигналов и искусственных нейронных сетей (с учетом моделей сигналообразования на базе теории целых функции экспоненциального типа).

2. Предложена и обоснована структура искусственного нейрона и искусственная нейронная сеть на их основе, позволяющая синтезировать систему идентификации параметрически неопределенных сигналов (с учетом моделей сигналообразования на базе теории целых функции экспоненциального типа).

3. Разработаны обобщенная процедура синтеза систем идентификации параметрически неопределенных сигналов, а на ее основе частная процедура аналитического синтеза систем идентификации параметрически неопределенных сигналов (с учетом моделей сигналообразования на базе теории целых функции экспоненциального типа).

4. Разработана библиотека Simulink-элементов для имитационного моделирования нейросетевых систем идентификации параметрически неопределенных сигналов, на основе которой проанализированы основные варианты таких систем.

Практическая ценность работы.

1. Разработана методика инженерного проектирования микропроцессорных систем идентификации параметрически неопределенных сигналов.

2. Разработаны UML-модели программного обеспечения системы идентификации сигналов и само программное обеспечение для систем контроля качества электрической энергии, систем сбора и обработки информации по гидроразрыву пласта.

Реализация и внедрение результатов.

Полученные в диссертационной работе результаты внедрены на предприятиях ОАО АК «Рубин» (г. Москва), ОАО «ОКБ Сухого» (г. Москва), ФГУП НИИ физических измерений Российского авиационно-космического агентства (г. Пенза) и используются в рамках ОКР по созданию сетевых интеллектуальных датчиков для самолетов пятого поколения. Результаты внедрения подтверждены соответствующими документами.

Апробация работы.

Основные положения и результаты диссертационной работы обсуждены и одобрены на следующих научно-технических конференциях: Всероссийском симпозиуме «Обозрение прикладной и промышленной математики» (г. Москва, 2005 г.); Всероссийской научно-технической конференции «Методы и средства измерений» (г. Нижний Новгород, 2002 г.); Международной конференции «Континуальные алгебраические логики, исчисления и нейроин-форматика в науке, технике и экономике» (г. Ульяновск, 2003 г.); Международной научно-технической конференции «Современные информационные технологии» (г. Пенза, 2002-2006 г.).

Публикации.

По теме диссертации опубликовано 16 печатных работ. Из них 8 статей опубликовано в научных сборниках и трудах научных конференций, 8 работ опубликованы в сборниках тезисов научных конференций.

Структура и объем диссертации.

Работа состоит из введения, четырех глав, заключения, списка литературы и приложений.

Основные результаты, полученные в диссертационной работе можно сформулировать следующим образом:

1. Проанализированы основные элементы обобщенной структуры системы идентификации параметрически неопределенных сигналов. Показана перспективность методов идентификации. Отмечено применение нейросетевых методов для построения таких систем.

2. Предложено развитие структуры нейрона первого слоя ИНС, отличительной особенностью которой является наличие модуля памяти, хранящего координату нуля и особой функции активации, по результату которой происходит сохранение координаты нуля в памяти нейрона.

3. Обоснована возможность применения аналитических методов синтеза ИНС на базе нейронов предложенной структуры с использованием теории ЦФЭТ. Выявлено, что основными информативными признаками подобных сигналов являются координаты нулей. t*

4. Разработана структура ИНС, обеспечивающая высокую вероятность идентификации. Приведено рекуррентное аналитическое выражение, описывающее работу первого слоя ИНС, которая заключается в выделении координат нулей.

5. С помощью пакета моделирования Simulink разработана имитационная модель, доказывающая, что вероятность идентификации по нулевым значениям сигнала выше, чем по текущим значениям, так как согласно теории ЦФЭТ, любая целая функция может быть описана своими корнями (нулями). Кроме этого, обеспечить точность измерения интервалов времени, при которых значение амплитуды равно нулю, бывает проще, чем точность измерения амплитуд.

6. Разработана библиотека имитационных моделей системы идентификации ПНС, включающая в себя модели нейрона, слоя и ИНС, позволяющих идентифицировать сигнал по координатам нулей.

7. С применением языка UML разработаны нейросетевые системы идентификации ПНС. С использованием предложенных имитационных моделей с помощью среды программирования Builder С++6.0 разработаны системы идентификации для контроля качества электрической энергии, контроля параметров гидроразрыва пласта и контроля уровня жидкости.

ЗАКЛЮЧЕНИЕ

1. Коновалов А.В. Анализ параметров электрической сети / А.В. Коновалов, Л.Г. Когельман // Информационные технологии в науке, проектировании и производстве: Материалы седьмой Всероссийской научно-технической конференции. - Н.Новгород: НГТУ, 2002. - С. 2.

2. Коновалов А.В. Подсистема определения координат нулей функции / А.В. Коновалов, Н.В. Адаев // Методы и средстваизмерений физических величин: Материалы девятой Всероссийской научно-технической конференции. Н. Новгород: НГТУ, 2004. - С. 15-18.

3. Коновалов А. В. Подсистема выделения координат смещения сигнала // Методы и средства измерений физических величин: Материалы девятой Всероссийской научно-техническая конференции. Н. Новгород: НГТУ, 2004. -С. 20-21.

4. Коновалов А.В. Моделирование и программная реализация нейронной сети // Современные информационные технологии: Сборник статей Международной научно-технической конференции (осенняя сессия). Пенза: ПГТА, 2004. -С. 88-90.

5. Коновалов А. В. Оценка качества электрической энергии. // Обозрение прикладной и промышленной математики: Шестой всероссийский симпозиум. Вып. 2. Т. 12. Москва: Редакция журнала «ОПиПМ», 2005. - С. 395-396.

6. Коновалов А. В. Нейросетевой метод прогнозирования напряжения электрической сети // Современные информационные технологии: Сборник статей Международной научно-технической конференции. Вып. 1. Пенза: ПГТА, 2005. -С. 46-49.

7. Коновалов А. В. Синтез систем обработки сигналов // Современные информационные технологии: Сборник статей

8. Международной научно-технической конференции. Вып. 1. Пенза: ПГТА, 2005. - С. 72.

9. Коновалов А. В. Нейросетевые вероятности распознавания сигналов // Современные информационные технологии: Сборник статей Международной научно-технической конференции. Вып. 1. Пенза: ПГТА, 2005. - С. 161-164.

10. Battiti R. First and second order methods for learning: Between steepest descent and Newton's method.// Neural Computation. 1992. Vol. 4, N 2. P. 141-166

11. Beale E.M.L. A derivation of conjugate gradients in F.A. Lootsma // Numerical methods for nonlinear optimization. London: Academic Press, 1972

12. Cybenko G. Approximation by superposition of a sigmoidal function. Mathematics of Control, Signals, and Systems,1989.

13. Dennis J.E., Schnabel R.B. Numerical Methods for Unconstrained Optimization and Nonlinear Equations. Englewood Cliffs, NJ: Prentice-Hall, 1983.

14. Elman J.L. Finding structure in time // Cognitive Science.1990. Vol. 14. P. 179-211.

15. Fisher R.A. On the mathematical foundations of theoretical statistics. Phil. Trans. Roy. Soc., ser. A. 1921. v. 222.

16. Grossberg S. 1974. Classical and instrumental learning by neural networks. Progress in theoretical biology, vol. 3, pp. 51141. New York: Academic Press.

17. Hagan M.T., Demuth H.B., Beale M.H. Neural Network Design. Boston, MA: PWS Publishing, 1996

18. Hagan M.T., Menhaj M. Training feedforward networks whith the Marquardt algorithm// IEEE Transactions on Neural Networks. 1994. Vol. 5, N 6. P. 989-993.

19. Hebb D. O. 1949. Organization of behavior. New York: Science Editions.

20. Holland John H., Adaptation in Natural and Artificial Systems: An Introductory Analysis with Application to Biology, Control, and Artificial Intelligence. University of Michigan , 1975.

21. Keun-Rong Hsieh and Wen-Tsuen Chen, A Neural Network Model which Combines Unsupervised and Supervised Learning, IEEE Trans, on Neural Networks, vol.4, No.2, march 1993.

22. Kohonen T. 1984. Self-organization and associative memory. Series in Information Sciences, vol. 8. Berlin: Springer verlag.

23. Li J., Michel A.N., Porod W. Analysis and syntesis of a class of neural networks: linear systems operating on a closed hyper-cube// IEEE Transactions on Circuits and Systems. 1989. Vol. 36, N 11. P. 1405-1422.

24. Melanie Mitchell. An Introduction to Genetic Algorithms. Massachusetts Institute of Technology, 1998. 280.

25. Moller M.F. A scaled conjugate gradient algorithm for fast supervised learning// Neural Networks. 1993. Vol. 6. P. 525-533.

26. Nguyen D., Widrow B. Improving the learning speed of 2-layer neural networks by choosing initial values of the adaptive weights// Proceedings of the International Joint Conference on Neural Networks. 1990. Vol 3. P. 21-26

27. Paul J. Werbos, Backpropagation Through Time: What It Does and How to Do It //Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press, 1992, pp.309-319.

28. Riedmiller M., Braun H. A direct adaptive method for faster backpropagation learning: The PROP algorithm// Proceedings of the IEEE International Conference on Neural Networks. 1993.

29. Rosenblatt R. 1959. Principles of neurodynamics. Wasington

30. D.C.: Spartan Press, 1961; Перевод с англ. Розенблатт Ф. Принципы нейродинамики. М.: Мир, 1965.

31. Rummelhart D.E., Hinton G.E., Williams R.J. Learning representations by back-propagating errors // Nature, 1986. V. 323. P. 533-536.

32. The Adaptive Brain/ S. Grossberg (Ed.). North-Holland, 1987. V.l. Cognition, Learning, Reforcement, and Rhythm. 498 p. V.2. Vision, Speech, Language, and Motor Control. 514 p.

33. Wasserman P.D. Advanced Methods in Neural Computing. New York: Van Nostrand Reinhold, 1993.

34. Widrow В., Strns S.D. Adaptive Signal Processing. New York: Prentice-Hall, 1985.

35. Айзерман M.A., Браверман Э.М., Розоноэр JI.И. Метод потенциальных функций в теории обучения машин. М.: Наука, 1970.- 383 с.

36. Алексеев К.А. "Теория и практика шумоподавления в задаче обработки сейсмоакустических сигналов" www.exponenta.matlab.ru

37. Альберг Дж., Нильсон Э., Уолш Дж. Теория сплайнов и ее приложения. М.: Мир, 1972. -292с.

38. Андерсон Т. Введение в многомерный статистический анализ. М,: Гос. Изд-во физико-математической литературы, 1963. - 500 с.

39. Антонью А. Цифровые фильтры: Анализ и проектирование. М.: Радио и связь.- 1983, 320 с.

40. Беркинблит М.Б., Нейронные сети. М.: МИРОС, 1993

41. Боровков А.А. Теория вероятностей. М.: Наука, 1976. 352 с.

42. Буч Г. Рамбо Дж. Джекобсон А. Язык UML. Руководство пользователя: Пер. с англ.-М:ДМК,2000.-432 с.

43. Вапник В.Н., Червоненкис А.Ф. Теория распознавания образов. М.: Наука, 1974.

44. Гайдышев И. Анализ и обработка данных: специальный справочник СПб: Питер, 2001. - 752 е.: ил.

45. Галушкин А.И. Некоторые исторические аспекты развития элементной базы вычислительных систем с массовым параллелизмом (80- и 90-е годы) // Нейрокомпьютер. 2000.

46. Галушкин А.И. Синтез многослойных схем распознавания образов. М.: Энергия, 1974.

47. Галушкин А.И., Теория нейронных сетей. М.: ИПРЖР, 2000. 416 с.

48. Галушкин А.И., Фомин Ю.И. Нейронные сети как линейные последовательные машины. М.: Изд-во МАИ, 1991.

49. Гнеденко Б.В. Курс теории вероятностей. М.: Наука, 1969.400 с.

50. Голд Б., Рейдер Ч. Цифровая обработка сигналов / Пер. с англ.; Под ред. A.M. Трахтмана. М.: Сов. радио, 1973,368 с.

51. Горбань А.Н, НейроКомп или 9 лет нейрокомпьютерных исследований в Красноярске // Актуальные проблемы информатики, прикладной математики и механики, ч. 3, Новосибирск Красноярск: из-во СО РАН, 1996. - с. 13 - 37.

52. Горбань А.Н. Алгоритмы и программы быстрого обучения нейронных сетей. // Эволюционное моделирование и кинетика. Новосибирск: Наука, 1992.

53. Горбань А.Н. Быстрое дифференцирование сложных функций и обратное распространение ошибки // Нейроинформа-тика и ее приложения. Тезисы докладов 5 Всероссийского семинара, 3-5 октября 1997 г. / Под ред. А.Н. Горбаня. Красноярск: изд. КГТУ, 1997.

54. Горбань А.Н. Быстрое дифференцирование, двойственность и обратное распространение ошибки / Нейроинформатика Новосибирск: Наука, Сибирская издательская фирма РАН, 1998.

55. Горбань А.Н. Возможности нейронных сетей / Нейроинформатика Новосибирск: Наука, Сибирская издательская фирма РАН, 1998.

56. ГОСТ 13109-97. Электрическая энергия. Совместимость технических средств электромагнитная. Нормы качества энергии в системах электроснабжения общего назначения.

57. ГОСТ 19705-89. Системы электроснабжения самолетов и вертолетов. Общие требования и нормы качества электроэнергии.

58. Гублер Е.В. Вычислительные методы анализа и распознавания патологических процессов. JI.'.Медицина, 1978. - 296 с.

59. Дэйвисон М. Многомерное шкалирование. Методы наглядного представления данных. М.: Финансы и статистика, 1988. - 346 с.

60. Дюран Б., Одел П. Кластерный анализ. М.'.Финансы и статистика 1977. - 176 с.

61. Дьяконов В. Simulink 4. Специальный справочник. Питер. 2001.

62. Завьялов Ю.С., Квасов Б.И., Мирошниченко B.JI. Методы сплайн-функций. М.: Наука, 1980. - 352с.

63. Журавлев Ю.И. Об алгебраическом подходе к решению задач распознавания и классификации // Проблемы кибернетики.- М.: Наука, 1978, вып. 33.- С. 5-68.

64. Ивахненко А.Г. "Персептроны". Киев: Наукова думка, 1974.

65. Ивахненко А.Г. Самообучающиеся системы распознавания и автоматического регулирования.- Киев: Техника, 1969.- 392 с.

66. Классификация и кластер. М.: Мир, 1980. - 392 с.

67. Клекка У.Р. Дискриминантный анализ // Факторный дис-криминантный и кластерный анализ / Дж. О. Ким, Ч.У. Мюллер, У.Р. Клекка и др. М.: Финансы и статистика, 1989. - 215 .

68. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных. Докл. АН СССР, 1956. Т. 108, №. 2 С.179-182.

69. Кохонен Т. Ассоциативная память. М.: Мир, 1980.

70. Кохонен Т. Ассоциативные запоминающие устройства. М.: Мир, 1982.

71. Кравченко В.Ф., Рвачев В.A. Wavelet системы и их применение в обработке сигналов // Зарубежная радиоэлектроника, 1996. №4. - С.3-20.

72. Левин Б.Я. Распределение нулей целых функций. М.: Гос-техиздат, 1956. - 253 с.

73. Леоненков А.В. Самоучитель UML.- СПб.:БХВ-Петербург,2001.-301 с.

74. МакКаллок У.С., Питтс В. Логическое исчисление идей, относящихся к нервной активности // Нейрокомпьютер, 1992. №3, 4. С. 40-53.

75. Маскет М. Физические основы технологии добычи нефти. -Москва-Ижевск: НИЦ «Регулярная и хаотическая динамика», 2004, 606 стр.

76. Медведев B.C., Потемкин В.Г., Нейронные сети. MATLAB 6. М.ДИАЛОГ-МИФИ, 2002. 496 с.

77. Мизин И.А., Матвеев А.А. Цифровые фильтры. М. : Радио и связь.- 1979, 386 с.

78. Милов В.Р., Структурно-параметрический синтез нейросе-тевых систем обработки информации. Дисс. докт. техн. наук. Н. Новгород, 2003. - 310 с.

79. Минский М., Пайперт С. Персептроны. М.: Мир, 1971.

80. Михеев М.Ю. Применение непрерывно-дискретных элементов в нейроподобных структурах средств измерений // Методы и средства измерений физических величин: Тез. докл. IV Всерос. конф. Н.Новгород, 2000. - 4.V.-C.17

81. Михеев М.Ю. Структурное совершенствование средств измерений с применением нейросетевого подхода // Методы и средства измерений физических величин: Тез. докл. IV Всерос. конф. Н.Новгород, 2000.-4.V.-C16

82. Михеев М.Ю. Нейросетевой подход к структурному совершенствованию средств измерений // Тр. междунар. научно-технической конф.- Ульяновск, "Континуальные логико-алгебраические и нейросетевые методы в науке, технике и экономике" 2000, С.39.

83. Михеев М.Ю., Крысин Ю.М., Сёмочкина И.Ю., Чувы-кин Б.В. Информационно-структурные принципы совершенствования средств измерений / Монография. Пенза: Изд-во Пенз. го. ун-та, 1999. - 132 .

84. Михеев М.Ю., Развитие теории непрерывно-дискретных преобразователей и ее применение для совершенствования средств измерений. Дисс. докт. техн. наук. Пенза, 2001. -383 с.

85. Нейропрограммы. Учебное пособие // JI.B. Гилева, С.Е. Гилев, А.Н. Горбань и др. Красноярск:КГТУ, 1994. -134 с. (4.1), 123 с. (4.2)

86. Новая открытая отечественная платформа проектирования "систем на кристалле" "МУЛЬТИКОР" / http://www.sic-elvis.ru/project.shtml

87. Олденфердер М.С., Блешфилд Р.К. Кластерный анализ / Факторный, дискриминантный и кластерный анализ / Дж. О. Ким, Ч.У. Мюллер, У.Р. Клекка и др. М.: Финансы и статистика, 1989. - 215 с.

88. Политехнический словарь. Изд. 2-е. Под ред. академика АЛО. Ишлинского. М: Сов. энциклопедия, 1980.

89. Рвачев В.J1, Рвачев В.А. Об одной финитной функции // ДАН УССР. Сер.А. -1971. - №9. - С.705-707.

90. Рвачев В.А. Финитные решения функционально-дифференциальных уравнений и их применения // Успехи математических наук. -1990. Т.45. - Вып.1. - С. 77-103.

91. Рекиша А.А. Нули целых функций: Теория и инженерные приложения // ТИИЭР. -1980. Т.68. - №3. - С. 5-29.

92. Розенблатт Ф. Принципы нейродинамики. Перцептрон и теория механизмов мозга. М.: Мир, 1965. 480 с.

93. Романовский В.И. Математическая статистика. Кн. 2. Оперативные методы математической статистики. Ташкент: Изд-во Академии наук УзССР, 1963.

94. Сергеенко А.Б.Цифровая обработка сигналов СПб.: Питер, 2003. - 604 е.: ил.

95. Терехов С.А. Нейросетевые информационные модели сложных инженерных систем / Нейроинформатика Новосибирск: Наука, Сибирская издательская фирма РАН, 1998.

96. Ту Дж., Гонсалес Р. Принципы распознавания образов. М.: Мир, 1978.

97. Уиллиамс У.Т., Ланс Дж.Н. Методы иерархической классификации // Статистические методы для ЭВМ / Под ред. К. Энслейна, Э. Рэлстона, Г.С. Уилфа, М.:Наука, 1986. -С.113-134.

98. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. М: МИФИ, 1992. - 184 с. (http://www.neuropower.de/rus).

99. Фишер Р. Статистические методы для исследователей. М: Гостехиздат, 1958.

100. Хальд А. Математическая статистика с техническими приложениями. М.:Изд. иностр. лит., 1956. - 664 с.

101. Хургин Я.И., Яковлев В.П. Финитные функции в физике и технике.- М.:Наука, 1971.- 408 с.

102. Цыганков В.Д. Нейрокопьютер и его применение.- М.: "Сол Систем", 1993.

103. Цыпкин Я.З. Адаптация и обучение в автоматических системах. М.: Наука, 1968. 400 с.

104. Цыпкин Я.З. Основы теории обучающихся систем. М.: Наука, 1970. 252 с.

105. Черных И. В. Simulink: среда создания инженерных приложений.— М.: ДИАЛОГ-МИФИ, 2003.

106. Чувыкин Б.В. Финитные функции. Теория и инженерные приложения // Под ред. Э.К. Шахова. Пенза: Изд-во Пенз. гос. ун-та, 1999. - 100 е.: ил. 10, табл.6, библиогр. 87 назв.