автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Нейрологические модели и методы решения задач в интеллектуальных системах реального времени

ВВЕДЕНИЕ

1. АНАЛИЗ НЕЙРОСЕТЕВЫХ И ЭКСПЕРТНЫХ МОДЕЛЕЙ РЕШЕНИЯ ЗАДАЧ

1.1. Специфика интеллектуальных систем реального времени

1.2. Основные модели инженерии знаний.

1.2.1. Состав и организация знаний символьно-логического уровня

1.2.2. Логические модели представления знаний

1.2.3. Сетевые модели

1.2.4. Объектное представление знаний

1.2.5. Продукционные модели

1.3. Нейросетевые модели

1.3.1. Общая характеристика.

1.3.2. Нелинейные функции активации

1.3.3. Сеть Хопфилда

1.3.4. Многослойные сети.

1.4. Информационный подход

1.5. Выводы по главе

2. СТРУКТУРЫ ДЛЯ ПРЕДСТАВЛЕНИЯ ЗНАНИЙ

2.1. Представление образов и понятий на основе информационного подхода

2.2. Развитие логических моделей на основе неклассических логик

2.2.1. Модели на основе логики умолчаний

2.2.2. Модели на основе временной логики с часами

2.3. Выводы по главе

3. РЕШАЮЩИЕ ПРОЦЕДУРЫ

3.1. Информация и обучение нейросетей

3.2. Вывод в динамической среде

3.3. Выводы по главе

4. ПРОЕКТИРОВАНИЕ ГИБРИДНЫХ НЕЙРОЭКСПЕРТНЫХ

СИСТЕМ

4.1. Инструментальные средства проектирования нейросетей

4.2. Инструментальные средства реализации динамических экспертных систем.

4.3. Методология проектирования гибридных систем.

4.4. Экспериментальные исследования

4.5. Выводы по главе

Актуальность. Возрастающая сложность управления современными техническими, организационными системами и процессами приводит к необходимости использования, наряду с традиционными аналитическими методами, новых интеллектуальных подходов, основанных на обработке знаний.

В отличие от систем, использующих методы традиционного программирования и базирующихся, как правило, на соответствующем аналитическом аппарате, интеллектуальные системы ориентированы на решение плохоформализуемых слабоструктурированных задач принятия решений и управления, свойственных человеку и характеризующихся неполнотой, нечеткостью, неопределенностью, противоречивостью поступающей информации, субъективизмом процесса принятия решений и т.д., что не позволяет применять известные классические методы и модели теории принятия решений и управления. При поиске решений обычно используются либо экспертные модели (модели человеческих рассуждений), построенные на основе знаний специалистов - экспертов в данной предметной области, либо нейросетевые модели (модели человеческих образов), построенные на основе поведенческих эталонов, задаваемых внешними условиями (ситуациями). Известно, что экспертные системы используются для решения задач в условиях, когда задачи не могут быть заданы в числовой форме, цели не могут быть выражены в терминах точно определенной целевой функции, когда не существует алгоритмического решения задач или его нельзя использовать из-за ограниченности ресурсов компьютера. К сожалению для использования технологии экспертных систем (ЭС) необходимо наличие по крайней мере одного эксперта, который может вербализовать (содержательно выразить) свои знания, т.е, на основе знаний эксперта могут быть выделены основные понятия, отношения и известные (хотя бы эксперту) способы получения решения задачи.

Нейросетевые методы дополняют технологию ЭС, обеспечивая возможность решения даже тех задач, для которых отсутствуют вербализованные экспертные знания и/или алгоритмы решения. Достоинством нейросетей является также минимальная исходная информация об объекте, а это означает возможность широкой перенастройки сети, ее универсальность, возможность применения к самым разным объектам и минимальные затраты со стороны пользователя на изучение объекта. Однако сегодня использование нейронных сетей (НС) в большинстве случаев все еще ограничивается традиционными для нее функциями: распознавание ситуаций и символов, экстраполяция временных последовательностей и т.д.

Место нейронных сетей в системах обработки информации (решения задач) можно определить по аналогии со структурой человеческой психики: оно соответствует низшему, рефлекторному уровню реакций, когда требуется быстрый ответ на достаточно стандартную ситуацию. Если ответ не найден или система сомневается в его правильности, то управление передается более высокому, логическому уровню. Ему соответствует экспертная система, располагающая более широкой базой знаний и способная делать более обоснованные выводы.

Естественным образом возникает вопрос о создании гибридных (нейроэкспертных ) систем, позволяющих решать на компьютере новый класс задач как с описательными, так и не явными (не выражаемыми словами) знаниями. Один из основных аргументов в пользу такой постановки задачи следует из аналогии с человеческим мозгом: экспертные системы можно сравнить с левым полушарием мозга, работающим на основе логических методов и оперирующим символами, нейросети с правым полушарием, оперирующим с образными представлениями.

Такая постановка задачи особенно актуальна для систем реального времени, в которых принятие решения осложняется дефицитом времени (часто время реакции таких систем лежит в пределах 1сек. и даже долей секунды). Это приводит к возрастанию роли нейросетевой компоненты, оперирующей со стереотипными ситуациями, и необходимости явного учета временного фактора при поиске решения.

Несмотря на очевидные преимущества взаимодействия двух уровней обработки информации, проблема интеграции нейронных сетей и экспертных систем в единую гибридную систему до сих пор еще не вышла из стадии постановки задачи. Как подчеркивают многие ведущие специалисты [6, 70, 98, 100], главная принципиальная трудность здесь связана с необходимостью исследования и проектирования системы обработки информации одновременно на двух различных уровнях: уровне символов и уровне обработки образной информации. В настоящей диссертационной работе предпринята попытка создания такого теоретического базиса для проектирования гибридных нейроэкспертных систем.

Основой для создания базиса послужили работы российских и зарубежных ученых Поспелова Г.С., Ларичева О.И., Поспелова Д.А., Попова Э.В., Вагина В.Н., Еремеева А.П., Емельянова В.В., Кузина Е.С., Кузнецова О.П., Осипова Г. С., Финна В.К., Голицина Г.А., Горбань А.Н., Никонова Г.И., Розенблатта Ф., Уоссермена Ф., Хебба Д., Хопфилда Дж., Кохонена Т. и др.

Вышесказанное определяет актуальность тематики диссертации.

Цель и задачи исследования. Основной целью исследования является разработка теоретических, концептуальных и алгоритмических основ построения моделей и методов гибридных нейроэкспертных систем и основных методических рекомендаций по проектирования такого класса систем.

Исходя из поставленной цели в диссертации решаются следующие основные задачи:

1. Разработка теоретических принципов построения гибридных ней-роэкспертных систем

2. Разработка представления образов и понятий на основе единого формализма, обеспечивающего возможность работы с неполной, неточной и противоречивой информацией.

3. Разработка методов моделирования рассуждений, учитывающих временной аспект и появление опровергающей информации.

4. Разработка формализованных процедур принятия решений в гибридных нейроэкспертных системах.

5. Построение методических основ проектирования гибридных нейроэкспертных систем.

Методы исследования. Для решения поставленных задач в работе используются методы математической логики, теории информации, теории вероятностей, теории множеств, теории графов, а также подходы и методы искусственного интеллекта: принципы семиотического моделирования, теория нейронных сетей, теория самоорганизующихся систем, нетрадиционные логики.

Апробация работы. Основные результаты диссертации докладывались и обсуждались более чем на двадцати научных конференциях и семинарах, в том числе на IV, V, VI, VII Национальных конференциях по искусственному интеллекту с международным участием (Рыбинск, сентябрь 1994; Казань, октябрь 1996; Пущино, октябрь 1998; Пере-славль-Залесский, октябрь 2000); Международной конференции по мягким вычислениям и измерениям БСМ' 98 (Санкт-Петербург, июнь 1998),

Международной конференции по интеллектуальным системам управления ИСИУ-2000 (Псков, июнь 2000); Третьей международной конференции "Интеллектуальное управление: Новые интеллектуальные технологии в задачах управления" (1С1Т'99)(Переславль-Залесский, декабрь

1999); Общемосковском семинаре "Динамические интеллектуальные системы в управлении и моделировании" (МИФИ, Москва, январь 1996); Научных сессиях МИФИ (МИФИ, Москва, январь 1999; январь

2000); 1-м семинаре "Отображение образного мышления и интуиции специалиста в системах искусственного интеллекта" ( Переславль-Залесский, март 1998); 1-ой, 2-ой, 3-ей, 4-ой и 5-ой Всероссийской конференции "Бизнес-процесс реинжиниринг и реорганизация предприятий" (МЭСИ, апрель 1996, апрель 1997, апрель 1998, апрель 1999, апрель 2000).

Публикации. Научные результаты диссертации опубликованы в 35 печатных работах, в том числе в двух монографиях; выпущено 17 отчетов по НИР и НИОКР.

Структура диссертации. Диссертация состоит из введения, четырех глав, заключения, списка литературы и приложений.

Основные результаты работы состоят в следующем.

1. На основании совместного использования информационного подхода, экстремальных принципов, временной логики и логики умолчаний сформулирован новый понятийный базис, позволяющий эффективно исследовать и проектировать новый класс гибридных интеллектуальных систем реального времени - нейроэкспертные системы.

2. На основе разработанного понятийного базиса сформулированы теоретические основы построения гибридных нейроэкспертных систем. Они включают новый подкласс немонотонных логик - временную логику умолчаний, позволяющую моделировать рассуждения с наличием фактора времени и умолчаний, и новый формализованный аппарат, основанный на экстремальном принципе максимума информации и обеспечивающий обработку образной информации.

3. На основе информационного подхода и принципа максимума информации разработано новое представление понятий и образов. Показано, что это представление позволяет нейроэкспертной системе функционировать в условиях неполноты и противоречивости поступающей информации, а также служить основой для перспективных исследований в области компьютерного решения нетривиальных (творческих) задач.

4. Предложено теоретическое обобщение некоторых известных алгоритмов обучения и показателей качества нейросетей, основанное на информационном подходе и принципе максимума информации. Показано, что из принципа максимума информации могут быть выведены некоторые целевые функции (в частности, суммарная среднеквадратичная ошибка) и более общее, чем классическое правило Хебба, правило формирования весовых коэффициентов. Предложено новое правило форми

170 рования весовых коэффициентов нейросети, основанное на поиске экстремума целевой функции в пространстве параметров весов.

5. На основе предложенных методов и алгоритмов созданы программы обработки образной и символьно-логической информации, а также разработаны методологические основы проектирования гибридных нейроэкспертных систем, проверенные на ряде экспериментальных и прикладных задач. Разработанные методы, алгоритмы, программы и методология позволяют существенно расширить области автоматизации процессов принятия решений в реальном масштабе времени на динамические проблемные среды с изменяющейся во времени неполной, неточной и противоречивой информацией.

Заключение

В диссертационной работе получены следующие основные научные результаты:

1. Сформулированы теоретические основы построения гибридных нейроэкспертных систем.

2. Сформулирован новый понятийный базис для исследования и проектирования эффективных гибридных нейроэкспертных систем.

3. Предложен новый подкласс немонотонных логик - временная логика умолчаний, позволяющий моделировать рассуждения с фактором времени и наличии умолчаний.

4. Предложено теоретическое обобщение некоторых известных алгоритмов обучения и показателей качества нейросетей, основанное на информационном подходе и принципе максимума информации.

5. На основе принципа максимума получены новые результаты в теории нейросетей. К таким результатам относятся установление связи между известными нейросетевыми алгоритмами и методами статистики, в частности методом максимального правдоподобия. Показано, что из принципа максимума информации могут быть выведены некоторые целевые функции (в частности, суммарная среднеквадратичная ошибка) и более общее, чем классическое правило Хебба, правило формирования весовых коэффициентов.

6. Разработано новое представление понятий и образов на основе информационного подхода. Показано, что это представление позволяет нейроэкспертной системе функционировать в условиях неполноты и противоречивости поступающей информации.

7. Разработаны методические основы проектирования гибридных нейроэкспертных систем.

8. Сформулирован новый метод анализа нейросетей с единообразных теоретических позиций.

9. Разработана классификация нейронных систем с точки зрения информационного подхода.

Научная новизна диссертационного исследования состоит в том, что разработаны и теоретически обоснованы новые модели, методы и алгоритмы гибридных нейроэкспертных систем и показано, что их применение в интеллектуальных системах реального времени позволяет более эффективно решать задачи в условиях недостоверной, неполной и противоречивой информации при жестких временных ограничениях и возможности поступления опровергающей информации.

Практическая ценность работы. Разработанные в диссертации теоретические положения, модели, методы и методология проектирования гибридных нейроэкспертных систем позволяют расширить сферу автоматизации процессов принятия решений в реальном масштабе времени на открытые , динамические проблемные среды с неполной, неточной и противоречивой информацией, изменяющейся во времени. Разработанные методы и методология внедрены в учебные процессы ряда ведущих Вузов России (МЭИ, МГТУ им. Н.Э.Баумана, МИФИ, МЭСИ, МАДИ), а также в научно-исследовательские и опытно-конструкторские разработки ГУП ЦНИИ "Гранит" (г. Санкт-Петербург), АО "Атлантиктрансгазсистема"(г.Москва), МАИ (кафедра "Приборы и измерительно-вычислительные комплексы").

Теоретические и практические результаты диссертационной работы были внедрены в комплекс научно-исследовательских и опытно-конструкторских работ (НИОКР), проводимых в рамках федеральной целевой научно-технической программы Миннауки России на 1996-2000годы "Исследования и разработки по приоритетным направлениям развития науки и техники гражданского назначения" подпрограммы "Перспективные информационные технологии" и "Информатизация России", важнейших НИОКР по государственным заказам, а также плановых НИР и НИОКР Российского НИИ информационных технологий и систем автоматизированного проектирования за период 1993-2000гг. (общее количество НИР и НИОКР, где диссертант является руководитель или ответственным исполнителем работ - 17).

Кроме того, основные направления диссертационного исследования были поддержаны Российским фондом фундаментальных исследований - РФФИ (проекты №95-01-01278, № 96-01-01145, №97-01-00415, № 99-01-00370) и международным научным фондом РФФИ-БРФФИ (проект № 00- 01-81081).

В составе авторского коллектива Фоминых И.Б. присуждена Премия Президента Российской Федерации в области образования за 1999 г. за участие в создании и внедрении учебно-методического комплекса "Методы, модели и программные средства конструирования интеллектуальных систем принятия решений и управления", в котором внедрены основные результаты диссертации, в том числе соответствующее программное обеспечение.

Главным итогом диссертационной работы является разработка теоретических положений, совокупность которых можно квалифицировать как новое крупное достижение в развитии перспективного класса гибридных интеллектуальных систем- нейроэкспертных систем, ориентированных на функционирование в условиях недостоверной, неполной и противоречивой информации при жестких временных ограничениях и возможности поступления опровергающей информации.

1. Абу-Мостафа Я., Псалтис Д. Оптические нейронно-сетевые компьютеры. // В мире науки, 1987, № 5, с. 42-50.

2. Анохин П.К. Биология и нейрофизиология условного рефлекса. М.: Медицина, 1972.

3. Айзерман М.А., Браверман Э.М., Розоноэр Л.И. Метод потенциальных функций в теории обучения машин. М.:Наука, 1970. - 383с.

4. Альтшуллер Г.С. Алгоритм изобретения.- М.: Моск. рабочий, 1972.296 с.

5. Антомонов Ю.Г. Принципы нейродинамики. Киев: Наукова думка, 1975.

6. АрлазаровВ.Л., Журавлев Ю.И., Ларичев О.И., Лохин В.М., Макаров И.М., Рахманкулов В.З., Финн В.К. Теория и методы создания интеллектуальных компьютерных систем// Информационные технологии и вычислительные системы .- М, №1, 1998,с.3-13.

7. Ахапкин Ю.К., Сухомудренко А.Г. Возможное направление развития биокомпьютерных систем. // Биотехника новое направление компьютеризации. / Ред. Иваницкий Г.Р. - М.: Наука, 1990, с. 55-62.

8. Байков A.M., Кузин Е.С., Шамис А.Л. Целостное целенаправленное распознавание изображений в ЭВМ. // Вопросы кибернетики. Автоматизированные системы ввода-вывода графической информации и их приложения. М., 1987, с. 78-90

9. Барцев С.И., Гилев С.Е., Охонин В.А.Принцип двойственности в организации адаптивных сетей обработки информации. // Динамика хим. и биол. систем. Новосибирск: Наука, 1989, с. 6-55.

10. Башлыков А.А., Вагин В.Н., Еремеев А.П. Экспертные системы поддержки интеллектуальной деятельности операторов АЭС, Вестник МЭИ, М.: Изд-во МЭИ, 1995. С. 27-36.

11. Башлыков А.А., Еремеев А.П. Экспертные системы поддержки принятия решений в энергетике. М.: Изд-во МЭИ, 1994.

12. Бикешева Г.Р., Борисов А.Н. Генерация нечетких продукционных правил и функций принадлежности, основанная на использовании нейронных сетей // VI Междунар. конф. "Знание-Диалог-Решение" KDS-97: Сб. науч. тр. Т. I.- Ялта. -1997. -С.136-145.

13. Бутаков В.А. Методы синтеза релейных устройств из пороговых элементов. М.:Сов. Радио, 1970.1 б.Бутковский А.Г. На пути к геометризации управления // Изв. РАН, серия "Теория и системы управления", N 1, 1997, с. 16-27.

14. Буч Г. Объектно-ориентированное проектирование с примерами применения. Пер с англ.- М. ¡Конкорд, 1992.

15. Вавилов Е.И. и др. Синтез схем на пороговых элементах& М.: Сов. Радио, 1970.

16. Agent Systems "DAIMAS"97, June 15-18, 1997,St.-Peterburg, Russia, с. 262-268.

17. Вапник В.Н., Червоненкис А.Н. Об одном классе персептронов. // Изв& АН СССР, Техн. кибернетика. 1964, №1.

18. Васильев В.И. Распознающие системы. Справочник. Киев: Наукова думка, 1983, - 424 с.

19. Веденов A.A. Моделирование элементов мышления. М.: Наука, 1988.-160 с.

20. Гаврилова Т.А., Червинская Ч.Р. Извлечение и структурирование знаний для экспертных систем.- М.: Радио и связь, 1992.-200 с.

21. Галушкин А.И. Синтез многослойных систем распознавания образов. М.: Энергия, 1974. - 308с.

22. Галушкин А.И., Кирсанов Э.Ю. Нейронные системы памяти, ч. 1,2.-М.: МАИ, 1991.

23. Гейн К., Сарсонт Т. Структурный системный анализ: средства и ме-тоды.В 2-х ч. 41. Перевод с англ. п/ред A.B. Козлинского.-М.: Эйтекс, 1993, 188 с.

24. Голицын Г.А., Петров В.М. Гармония и алгебра живого- М.:3нание, 1990. -128с.

25. Голицын Г.А., Петров В.М. Информация поведение - творчество. - М.: Наука, 1991. - 224с.

26. Голицын Г.А., Фоминых И.Б. Отбор полезной информации в нейронной сети. // Динамические интеллектуальные системы в управлении и моделировании. Материалы семинара. М., 1996, с.76-81.

27. Голицын Г.А., Фоминых И.Б. О моделировании интуиции на ЭВМ //Динамические интеллектуальные системы в управлении и моделировании. Материалы семинара. М., 1996, с.81-84.

28. Голицын Г.А., Фоминых И.Б. Интеграция нейросетевой технологии с экспертными системами// Сб. научных трудов V Национальной конференции с международным участием "Искусственный интеллект 96", Казань, 1996.-t.II, с.198-202.

29. Голицын Г.А., Фоминых И.Б. Нейронные сети и экспертные системы: перспективы интеграции// Новости искусственного интеллекта.-М.Д996, №4.- с.121-145.

30. Горбань А.Н. Обучение нейронных сетей. М.: ПараГраф, 1990. -160 с.

31. Гутчин И.Б., Кузичев A.C. Бионика и надежность. М.: Наука, 1967.

32. Гордеев Э.Н., Леонтьев В.К. Задачи выбора в условиях неопределенности // В сб. Компьютер и задачи выбора / Автор предисл. Ю.И. Журавлев.- М.: Наука, 1989, с. 120-143.

33. Денисов В.М., Матвеев Ю.Н., Очин Е.Ф. Принципы организации систем обработки изображений на базе клеточной логики. //Зарубежн. Радиоэлектроника, 1984, 1, с. 3-25.

34. Дертоузос М. Пороговая логика. М.:Мир, 1967.

35. Дискуссия о нейрокомпьютерах. / Под ред. В.И.Крюкова. Пущине, 1988. - 84с.

36. Дискуссия о нейрокомпьютерах. //Научная сессия МИФИ-99. Все-российсая научно-техническая конференция "Нейроинформатика-99".-М.: МИФИ,2000. 224с.

37. Дубинин Ф.Д. Оптоэлектронные модели однородных сред. М.: Радио и связь, 1984. - 227 с.

38. Дуда Р., Харт П. Распознавание образов и анализ сцен. М.: Мир, 1976.-512с.

39. Дункан Р. Инкапсуляция данных и наследование свойств в Си++.-РС Magazine /USSR/, N3, 1991.

40. Дунин-Барковский В.Л. Информационные процессы в нейронных структурах. М.: Наука, 1978. - 257 с.

41. Дунин-Барковский B.JI. Оценки возможностей биомолекулярных вычислений. // Микропроцессорные средства и системы, 1984, № 3, с. 10-17.

42. Дунин-Барковский B.JI. Многонейронные структуры: теория и эксперимент. // УФН, 1986, т. 150, вып.2, с. 321-323.

43. Емельянов В.В., Ясиновский С.И. Введение в имитационное моделирование сложных дискретных систем и процессов.Язык РДО.-М.: АНВИК, 1998.-427с.

44. Емельянов В.В., Штаутмайстер Т. Оперативное управление раскроем лесоматериала на перерабатывающем предприятии.-М.:АНВИК, 1999.-176с.

45. Емельянов-Ярославский Л.Б. Интеллектуальная квазибиологическая система. Индуктивный автомат. М.: Наука, 1990. - 112с.

46. Еремеев А.П. Организация систем поддержки принятия решений семиотического типа для динамических проблемных областей // Сборникдокладов Международной конференции по мягким вычислениям и измерениям 8СМ'98. Санкт-Петербург, 22-26 июня 1998 г. Т.2.

47. Еремеев А.П., Симонов Д.Н., Чибизова Н.В. Реализация прототипа системы поддержки принятия решений реального времени на основе инструментального комплекса 02 // Программные продукты и системы, N3, 1996, с.21-26.

48. Еремеев А.П., Троицкий В.В. Представление временных и причинно-следственных зависимостей в системах поддержки принятия решений реального времени семиотического типа.

49. Зайцева Ж.Н., Никонов В.Г., Шевелев Д.С. Исследование графов, вложимых в 14-куб, и их применение в проектирование РЭА//Тезисы докладов Всесоюзной школы-семинара "Методы искусственного интеллекта в САПР".-Воронеж, 1990.- с.49-52.

50. Ивахненко А.Г. Персептроны. Киев: Наукова думка, 1974.

51. Иоффе Л.Б., Фейгельман М.В. Спиновые стекла и модели памяти. //УФН, 1986, т. 150, вып.2 с. 323-325.

52. Итоги науки и техники. Сер. "Физические и математические модели нейронных сетей" / Под ред. А.А.Веденова. тт. 1-5. М, 1990-92

53. Кастлер Г. Возникновение биологической организации. М.: Мир, 1967.

54. Касти Дж. Большие системы. Связность, сложность и катастрофы.-М.: Мир, 1982.

55. Ковбаса С.И., Ноздрачев А.Д. Информационные характеристики систем нейронов. Л.: Наука, 1990, - 176 с.

56. Колмогоров А.Н. Три подхода к определению "количества информации". // Колмогоров А.Н. Теория информации и теория алгоритмов. М.: Наука, 1987. -304с.

57. Кондрашена Е.Ю., Литвинцева Л.В., Поспелов Д.А. Представление знаний о времени и пространстве в интеллектуальных системах / Под ред. Д.А.Поспелова. М.: Наука, 1989.

58. Копченова Н.В., Марон И.А. Вычислительная математика в примерах и задачах, Наука, М.,1972

59. Кохонен Т. Ассоциативная память. М.: Мир, 1980. - 230с.

60. Кохонен Т. Ассоциативные запоминающие устройства. М.: Мир, 1982.

61. Крайзмер Л.П. и др. Память кибернетических систем. М.: Сов. Радио, 1971

62. Красовский A.A. Аттракторы и синтез управления в критических режимах // Изв. РАН, серия "Теория и системы управления", N 2, 1996, с.5-14.

63. Кузин Е.С., Ройтман А.И., Фоминых И.Б., Хахалин Г.К. Интеллектуализация ЭВМ//Перспективы развития вычислительной техники/Справочное пособие в 11 кн. под ред. Ю.М.Смирнова М.: Высшая школа, 1989.-кн.2.- 159с.

64. Кузнецов О.П. Неклассические парадигмы в искусственном интеллекте// Известия РАН. Теория и системы управления. М: Наука, 1995 -№5.-С. 76-84.

65. Кузнецов О.П. Образное мышление и быстрые процессы // Новости искусств, интеллекта. 1998. - №2. - С. 117-130.

66. Кульбак С. Теория информации и статистика.-М.: Наука, 1967.- 498с.

67. Ларичев О.И., Мошкович Е.М. Качественные методы принятия ре-шений.Вербальный анализ решений.- М.:Наука.Физматлит, 1996.-208с.

68. Ларичев О.И., Петровский А.Б. Системы поддержки принятия решений: современное состояние и перспективы развития//Итоги науки итехники. Техн.кибернетика.- 1987.- т.21.- с. 131-165.

69. Лоскутов А.Ю., Михайлов A.C. Введение в синергетику, М.: Наука, 1990,-272 с.

70. Лукьяница A.A., Олейниченко Л.Г., Торшин А.Д. Тюменцев Ю.В. Искусственные нейронные сети и управление сложными техническими системами//Материалы общемосковского семинара "Экспертные системы реального времени".- М.: ЦРДЗ, 1995.- с.72-80.

71. Маккаллок У.С., Питтс У. Логическое исчисление идей, относящихся к нервной деятельности. М.: ИЛ, 1956.

72. Мальцев A.A. Алгоритмы и рекурсивные функции. М.: Наука, 1965.-391 с.

73. Маслов С.Ю. Обратный метод установления выводимости в классическом исчислении предикатов//Доклады академии наук СССР. 1964. -т. 159, №1.-с. 17-20.

74. Мендельсон Э. Введение в математическую логику. М.: Наука, 1971.-320 с.

75. Михайлов A.C. Аналоговая обработка информации распределенными системами. //Новые физические принципы оптической обработки информации. М.: Наука, 1990, с. 34-82.

76. Минский М.Л., Пейперт С. Персептроны. М.: Мир, 1971.

77. Мкртчан С.О. Проектирование логических устройств ЭВМ на нейронных элементах. -М.: Энергия, 1977.

78. Нильсон Н. Принципы искусственного интеллекта. М.: Радио и Связь, 1985.

79. Нильсен Н. Обучающиеся машины. М.: Мир, 1967.

80. Никонов В.Г. Покрытия Булевых алгебр//Дискретная математика. -М., 1994.-т.6,вып.4, с.21-34.

81. Никонов В.Г. Пороговое представление булевых функций // Обозрение прикладной и промышленной математики.Сер."Дискретная математика".- М.-Научное изд.'ТВП", 1994.- с.402- 457.

82. Осипов Г.С. Приобретение знаний интеллектуальными системами. -М.: Наука, 1997.- 143 с.

83. Розенблатт Ф. Принципы нейродинамики. М.: Мир, 1965.-480с.

84. Соколов E.H., Шмелев JI.A. Нейробионика М.: Наука,1983, 279 с.

85. Соколов E.H., Вайткявичюс Г.Г. Нейроинтеллект: от нейрона к нейрокомпьютеру. М.: Наука, 1989. 238 с.

86. Стратонович P.JI. Теория информации. М.: Сов. Радио, 1975 -424с.

87. Поллард Дж. Справочник по вычислительным методам статистики.-М.: Финансы и статистика, 1982.

88. Попов Э.В., Фоминых И.Б. Извлечение знаний из баз данных// Сб. научных трудов V Национальной конференции с международным участием "Искусственный интеллект 96", Казань, 1996.-Т. И, с.290-293.

89. Попов Э.В., Фоминых И.Б., Кисель Е.Б., Шапот М.Д. Статические и динамические экспертные системы: Учебное пособие/ М.: Финансы и статистика, 1996.- 320с.

90. Попов Э.В., Фоминых И.Б., Кисель Е.Б. Статические и динамические экспертные системы (классификация, состояние, тенденции). Методические материалы. Центральный Российский Дом знаний, М., 1995.

91. Поспелов Г.С., Поспелов Д.А. Искусственный интеллект прикладные системы.- М.: Знание, 1985.-48 с.

92. Поспелов Д.А. Моделирование рассуждений. Опыт анализа мыслительных актов. М.: Радио и связь. - 1989. - 214 с.

93. Поспелов Д.А. Метафора, образ и символ в познании мира // Новости искусственного интеллекта. 1998 - №1. - С.94-114.

94. Поспелов Д.А., Литвинцева Л.В. Как совместить левое и пра-вое?//Новости искусственного интеллекта. 1996. - № 2. - С.66-71.

95. Соколов E.H. Проблема гештальта в нейробиологии // Журнал высшей нерв, де-ят. 1996. - Т.46. - Вып.2. - С.229-240.

96. Тейз А., Грибомон П., Юлен Г. и др. "Логический подход к искусственному интеллекту: от модальной логики к логике баз данных": Пер. с франц./-М.: Мир, 1998.-494с.

97. Тейз А., Грибомон П., Луи Ж. и др. "Логический подход к искусственному интеллекту: от классической логики к логическому программированию": Пер. с франц./-М.: Мир, 1990.-432с.

98. Транспьютерные и нейронные ЭВМ/ Под ред. В.К.Левина и А.И.Галушкина. М.: Российский Дом знаний, 1992.

99. Уоссермен Ф. Нейрокомпьютерная техника. М.: Мир, 1992. - 240с.

100. Файн B.C. Опознавание изображений. М.: Наука, 1970, 296 с.

101. Фано Р. Передача информации. Статистическая теория связи. М.: Мир, 1965. - 440с.

102. Финн В.К. Интеллектуальные системы: проблемы их развития и социальные последствия //Будущее искусственного интеллекта. М.: Наука. - 1991. - С.157-177.

103. Финн В.К. Индуктивные модели//Представление знаний в человеко-машинных и робототехнических системах. М.: ВИНИТИ, 1984. -Т.А. - с. 58-76.

104. Француз А.Г. О влиянии корреляции между признаками на информативность для распознавания образов// Изв. АН СССР, Техн. кибернетика, 1964, № 4, с.68-77.

105. Фролов A.A., Муравьев И.П. Нейронные модели ассоциативной памяти. М.: Наука, 1987. - 160 с.

106. Фролов A.A., Муравьев И.П. Информационные характеристики нейронных сетей. М.: Наука, 1988, - 160 с.

107. Фоминых И.Б. Инструментальные средства построения нейросетей //Сб. научных трудов 4-ой Всероссийской научно-практической конф. "Реинжиниринг бизнес-процессов предприятий на основе соврем, ин-формационныхтехнологий".-М.,2000.- с.62-67.

108. Фоминых И.Б. Интеграция нейронных и символьно-логических моделей в интеллектуальных технологиях// Сб. научных трудов VII Национальной конференции с международным участием "Искусственный интеллект 2000", Переславль-Залесский, 2000,-т. 2, с.588-595.

109. Фоминых И.Б. О теоретико-вероятностном представлении образов и понятий// Сб. научных трудов научной сессии МИФИ "МИФИ-99".-М., 1999.- т.7, с.142-144.

110. Фоминых И.Б. Некоторые формальные аспекты информационного подхода к построению нейроэкспертных систем//Известия РАН. Теория и системы управления.- М: Наука, 1999.- №5.- с.83-86.

111. И8.Фоминых И.Б. О соотношении образной и логической парадигм в системах искусственного интеллекта /Новости искусственного интеллекта. М.: АИИ, №3, 1998.- С.76-85.

112. Фоминых И.Б. Классификация динамических экспертных систем. // Динамические интеллектуальные системы в управлении и моделировании. Материалы семинара. М., 1996. с.38-42.

113. Хакен Г. Синергетика. М.: Мир, 1980. - 404с.

114. Ханин М.А., Дорфман H.JL, Бухаров И.Б., Левадный В.Г. Экстремальные принципы в биологии и физиологии М.: Наука, 1978 -256с.

115. Харкевич АА. О ценности информации. // Проблемы кибернетики. М. Физматгиз, 1960. Вып. 4, с. 53-57.

116. Хорошевский В.Ф. Поведение интеллектуальных агентов: модели и методы реализации // Тр. 4-го междунар. семинара по прикладной семиотике, семиотическому и интеллектуальному управлению ASC/IC'99. -М. 1999. -С.5-20

117. Шеннон К. Работы по теории информации и кибернетике. М.: ИЛ, 1963.-829с.

118. Шилейко A.B., Кочнев В.Ф., Химушин Ф.Ф. Введение в информационную теорию систем. М.: Радио и связь, 1985 - 280с.

119. Эйген М. Самоорганизация материи и эволюция биологических макромолекул. М.: Мир, 1973. - 216с.

120. Эшби У.Р. Введение в кибернетику. М.: ИЛ, 1959. - 432с.

121. Alexander I., Morton H. An Introduction to Neural Computing. -London: Chapman and Hall, 1990.

122. Allen J. F. Towards a General Theory of Action and Time. Artificial Intelligence, 23(2), July 1984, pp. 123-154.

123. Allen J. F. and Ferguson G. Actions and Events in Interval Temporal Logic, Technical Report 521, 1994.

124. Artale A. and Franconi E. A Temporal Description Logic for Reasoning about Actions and Plans. Journal of Artificial Intelligence Research 9 (1998) 463-506.

125. Bezdek J. Fuzzy mathematics in pattern classification: Thesis. Cornell. Univ., Italca. -N.Y. 1973.

126. Burr DJ. Experiments with the Connectionist Text Reader. // Proc. of the 1-st Int. Conf. on Neural Networks. / Eds. M.Gaudill, C.Batler, v. 4. -San Diego, CA: SOS Printing, 1987. pp.717-724.

127. Caliero C., Saake G., Sernadas A. Deriving liveness goals from temporal logic specifications, J. Symbol. Comput. 22 (1996) 521 553.

128. Dayhoff J. Neural Network Architecture. NY.: Van Nostrand, 1990.

129. Dechter R., Meiri I., Pearl J. Temporal Constraint Networks. Artificiallntelligence 49:61-95, 1991.

130. Dong D., Hopfield J.J. Dynamic Properties of Neural Networks with Adapting Synapses. // Network: computation in neural systems. Aug. 1992, v. 3,N3,p. 267.

131. Duda R.O. and others. Subjectiv Bayesian methods for rule-based systems//Proceedings of the AFIPS, 1976, National Computer Conference. -v. 45.-p. 1075-1082.

132. Eberhart R.C., Dobbins R.W. (ed.). Neural Networks PC Tools. A practical Guide. Academic Press, 1990.

133. Feigenbaum E. A. The art of artificial intelligence : Themes and case studies of knowledge engineering//The fifth International Joint Conference on Artificial Intelligence. Boston: MIT, 1977. - p. 1014-1029.

134. Fischer M. J. and Ladner R. E. Propositional Dynamic Logic of Regular Programs. JCSS, 18(2): 194-211,1979.

135. Fominykh I.B. Some Formal Fspects of the Informational Approach to the Construction of Neural Expert Systems//J. of Computer and System Sciences International ISSN 1064-2037, 1999.- No.5.- pp.83-86.

136. Fominykh I.B. Neurological Models in Intellectual Technologies/ZProceeding of the International Conf. "Intelligent Systems and Information Technologies in Control"(IS&ITS-2000), Pscov, June 2000,-St.Peterburg/pskov.-SPbSTU Publishers 2000.- pp.50-52.

137. Fukushima K. Neocognitron: A Hierarchical Neural Network Capable of Networks, 1988, v.l,N2,p. 119-130.

138. Gensym Corp., G2 Course : Part 2 Course Manual. - Cambrige: (Mass., USA), 1993.

139. Gensym Corp., G2 Reference Manual, Version 5.0, Cambridge, Mass., USA, September, 1998.

140. Girard J. E., NASA Applies Gensym to Real-Time Problems, Research Highlights, July 16, 1990.

141. Grabec I. Self-Oganization of Neurons Described by the Maximum Entropy Principle. //Biological Cybernetics, 1990, N 5, pp.403-409.

142. Golitsyn G., Petrov V. Information and Creation.- Basel: Birkhauser Verlag, 1995.- 188 p.

143. Grossberg S. The adaptive Brain, v. 1,2. Amsterdam: North-Holland, 1987.

144. Hanson S.J., Burr D.J. What connectionist models learn: Learning and representatijn in connectionist networks. // Behavioral and Brain Sciences, 1990, N 13, p. 471-518.

145. Hayes P. J. A Catalog of Temporal Theories, MIT Press, 1989.

146. Hebb D.O. The Organization of Behavior.- NY.: Wiley, 1949.

147. Hecht-Nielsen R. Applications of counterpropagation Networks. //Neural Networks, 1, p. 131-139.

148. Hopfield J.J. Neural Network and Physical Systems with Emergent Collective Computational Abilities. //Proc.Nat. Acad. Science USA, 1982, v.79, pp.2554-2558.

149. Hopfield J.J. Olfactory Computation and Object Perception. // Proceed. Nat. Academ. Science, Aug. 1991, v. 88, N 15, p. 6462.

150. Kirani Sh.H., Zualkernan Im. A., Tsai W. Evaluation of Expert System Testing Methods, Communications of the ACM, November 1994, V. 37, № 11.

151. Kohonen T. Self-Organization and Associative Memory. NY: Springer Verlag, 1989.

152. Ladkin P.B., Reinefeld A. Effective solution of qualitative interval constraint problems. Artificial Intelligence 57:105-124, 1992.

153. Land Sh. A., Malin J.T. Making Intelligent Systems Team Players. A Guide to Developing Intelligent Monitoring Systems. NASA Technical Memorandum 104807, July 1995.

154. Linsker R. From Basic Network Principles to Neural Architecture. //Proc. Nat. Acad, of Science USA, v.83, Oct.-Nov. 1986, pp.7508-7512, 8390-8394, 8779-8783.

155. Linsker R. Self-Organization in a perceptual Network. //Computer, March, 1988, N21, pp. 105-117.

156. Linsker R. Local Synaptic Learning Rules Suffice to Maximize Mutual Information in a Linear Network. //Neural Computation, Sep. 1992, v.4, N5, p. 691.

157. Liu C., Orgun M.A. Verification of reactive systems using temporal logic with clocks, Theoretical Computer Science 220 (1999) , 377-408

158. MacGregor RJ. Neural and Brain Modelling. NY: Acad. Press, 1987.

159. Mackworth A.K. , Freuder E.C. The complexity of some polynomial network consistency algorithms for constraint satisfaction problems. Artificial Intelligence,25:65-73, 1985.

160. McDermott D. V. A Temporal Logic for Reasoning about Processes and Plans. Cognitive Science, 6:101-155, 1982.

161. McCarthy J. M., Hayes P. J. Some Philosophical Problems from the Standpoint of Artificial Intelligence.// Readings in Artificial Intelligence. Tioga Publishing Co., Palo Alto, CA, 1981, pp. 431-450.

162. Meiri I. Combining qualitative and quantitative constraints in temporal reasoning. In Proc. of'AAAI-91, 260-267, 1991.

163. Minsky M. A framework for representation knowledge//Psychology computer vision. New York: McGraw-Hill, 1975. (Русский перевод в кн.: Психология машинного зрения. - М.: Мир, 1978).

164. Moor R.L. Expert Systems in Real-Time Applications Experience and Opportunities, Expert System Application in Advanced Control, Proceedingsof the Seventeenth Annual Advanced Control Conference, West Lafayette, Indiana, September 30 October 2, 1991.

165. Moor R.L., Fraleigh S.P. Application of neural nets in process control using G2//Int'1 .Control Eng. Expo.Conference, Chicago,IL, Feb.24-26,1992,p.21-26.

166. Moor R.L. and others. Questions and Answers about G2. Copyright 1993. Gensym Corporation, p. 26-29.

167. Muller B., Reinhardt J. Neural Networks. An Introduction. NY: Springer Verlag, 1990.

168. Nebel B., Burckert H.-J. Reasoning about Temporal Relations: A Maximal Tractable Subclass of Alien's Interval Algebra. Journal of the ACM 42(l)'A3-66.

169. Neural Information on Processing Systems, (ed. D.Z.Anderson).-Denver, 1988.

170. Neural Networks for Computing. Snowbird, 1986.

171. Neural Networks in Finance and Investing (ed.R.R.Trippi,E.Turban).-Chicago: IRVIN Prof.Publishing, 1996.

172. Newell A., Simon M.A. Computer science as empirical enquiry: Symbols and search. Communications of the ACM. - 1976. V. 10, № 3. - P. 133-146.

173. Pospelov D.A., Osipov G.S. Knowledge in semiotic models // Seventh Intern, conf. Ar-tif. Intell. and Information-Control systems of robots: Second workshop on applied semiotics. Smolenice Castle, Slovakia. - 1997. - P. 112.

174. Psichogios D.C., Ungar L.H. A hybrid neural network first principles approach to process modelling. // AIChE Journal, 38 (10), 1499, (1991).

175. Reich A. Intervals, Points, and Brabching Time, Proc. TIME-94, 1994.

176. Reiter R. A logic for default reasoning, Artificial Intelligence, vol. 13, no. 1-2, 1980.- p. 81-131,

177. Rigoll G. Maximum Mutual Information Neural Networks for Hybrid Connectionist-HMM Speech Recognition Systems. // IEEE Trans, on speech and audio processing, Jan. 1994, v. 2, N 1, p. 2.

178. Robinson J.A. A machine-oriented logic based on resolution principle. Journal of the ACM. 1965.- V. 12, №1. P. 23-41. (Русский перевод : Кибернетический сборник. Новая серия. Мир, 1970.).

179. Rumelhart D.E., Hinton G.E., Williams R.J. Learning Representations by Back-propagating Errors. // Nature, 1986, v. 323, pp. 533-536.

180. Rumelhart D.E., McCleland J.L. Parallel Distributed Processing, v. 1,2.-MITPress, 1986.

181. Rumelhart D.E., Widrow В., Lehr M.A. The Basic Ideas in Neural Networks. // Communie, of the ACM, March 1994, v. 37, N 3, pp. 87-92.

182. Kirani Shekhar H., Zualkernan Imran A., Tsai Wei-Tek. Evaluation of Expert System Testing Methods, Communications of the ACM, November 1994, V. 37, № 11.

183. Land Sherry A., Malin Jane T. Making Intelligent Systems Team Players. A Guide to Developing Intelligent Monitoring Systems. NASA Technical Memorandum 104807, July 1995.

184. Shoham Y. Reasoning about Change. MIT Press, Boston, MA, 1988.

185. Shoham Y. and Goyal N. Representing Time and Action in Artificial Intelligence. Frontiers of Artificial Intelligence, MIT Press, 1989.

186. Simpson P.K. Artificial Neural Systems. Oxford: Pergamon Press, 1990.

187. Tin E. and Akman V. Situated nonmonotonic temporal reasoning with BABY-SIT, AI Communication, 10(1997), pp. 3-109.

188. Thompson M.L., Kramer M.A. Modelling chemical processes using prior knowledge and neural networks. I I AIChE Journal, Aug. 1994, vol. 40, No 8. pp. 1328-1340.

189. Vagin V.N. Non-Classical Logics in Semiotic Systems // Proc. of Worcshop Applied Semiotics and Abstracts of CAI'98 Reports. Vol III, 1998. Pushchino, Russia, pp. 34-39.

190. Van Beek P. and Manchak D. W. The Design and Experimental Analysis of Algorithms for Temporal Reasoning. Journal of Artificial Intelligence Research, 4 (1996), pp. 1-18.

191. Whitehead S.D., Lin Long-Ji. Reinforcement Learning of Non-Markov Decision Processes. Artificial Intelligence, 73, 1995, pp. 271- 306.

192. Widrow B., Rumelhart D.E., Lehr M.A. Neural Networks: Applications in Industry, Business and science. // Communic. of the ACM, March 1994, v. 37, N 3, pp. 93-105.

193. Yeremeyev A.P. The Organization of Real Time Decision Support Systems of a Semiotic Type // Proc. of Workshop Applied Semiotics and Abstracts of CAI'98 Reports, Vol III, 1998. Pushchino, Russia, pp. 3-7.

194. Zaden L.A. Fuzzy sets//Information and Control.-V.8.- p.338-353.190