автореферат диссертации по документальной информации, 05.25.05, диссертация на тему:Информационная технология построения экспертной системы на основе нейросетевой модели и с распределенным вводом данных

На правах рукописи

НЕУДАХИН Александр Викторович

ИНФОРМАЦИОННАЯ ТЕХНОЛОГИЯ ПОСТРОЕНИЯ ЭКСПЕРТНОЙ СИСТЕМЫ НА ОСНОВЕ НЕЙРОСЕТЕВОЙ МОДЕЛИ И С РАСПРЕДЕЛЕННЫМ ВВОДОМ ДАННЫХ

05.25.05 - Информационные системы и процессы, правовые аспекты информатики

111111118111111111111

003488561

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Тамбов - 2009

Работа выполнена в Государственном образовательном учреждении высшего профессионального образования «Тамбовский государственный университет имени Г.Р. Державина»

Научный руководитель:

Официальные оппоненты:

доктор технических наук, профессор Арзамасцев Александр Анатольевич

доктор технических наук, профессор Кудинов Юрий Иванович

доктор технических наук, профессор Зайцев Александр Владимирович

Ведущая организация:

ГОУ ВПО «Воронежский государственный университет».

Защита состоится «25» декабря 2009 г. в 15.00 часов на заседании диссертационного совета Д 212.260.05 при ГОУ ВПО «Тамбовский государственный технический университет» по адресу: 392000, г. Тамбов, ул. Советская, д. 106, Большой актовый зал.

Отзыв на автореферат в двух экземплярах, заверенных гербовой печатью, просим направлять по адресу: 392000, г. Тамбов, ул. Советская, д. 106, ТГТУ, ученому секретарю диссертационного совета Д 212.260.05 Селивановой З.М.

С диссертацией можно ознакомиться в научной библиотеке Тамбовского государственного технического университета.

Автореферат разослан «24 ноября 2009 года.

Ученый секретарь диссертационного совета, доктор технических наук, доцент

Селиванова З.М.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность исследования. Необходимость в экспертных системах (ЭС), как в интеллектуальных помощниках, способных решать трудноформали-зуемые задачи, существует во многих сферах человеческой деятельности: промышленности, научных исследованиях, социальной и экономической областях.

В то же время, создание и эксплуатация таких систем характеризуются в настоящее время рядом трудностей и ограничений:

- высокой трудоемкостью процессов построения баз знаний ЭС, связанной с формализацией знаний экспертов и их машинным представлением, а в некоторых случаях невозможностью такой формализации вследствие большого количества невербальных данных, влияющих на оценку эксперта;

- необходимостью привлечения дополнительного круга специалистов -инженеров по знаниям и разработки специализированного программного обеспечения или адаптации существующих ЭС под конкретные условия рассматриваемой предметной области;

- преобладанием локального подхода к организации взаимодействия с ЭС, тогда как в настоящее время все большое распространение и доступность получают сетевые информационные системы, например, веб-ориентированные.

Таким образом, становится актуальной задача разработки новой информационной технологии, позволяющей устранить вышеуказанные трудности и ограничения, путем автоматизированного формирования базы знаний для конкретной предметной области на основе распределенного сетевого ввода данных.

Решение данной задачи возможно за счет использования в качестве системы представления знаний в ЭС моделей искусственных нейронных сетей (ИНС-моделей). Применение таких моделей позволит обеспечить автоматизированное формирование развивающейся (по мере поступления информации от источников) системы представления знаний, отличающейся высокой степенью адаптируемости к эмпирическим данным и существенной гибкостью за счет алгоритмов выбора начальной структуры ИНС и ее модификации.

Поскольку формирование развивающейся системы представления знаний ЭС предполагает ее совершенствование на основе постоянно поступающих новых данных от распределенных терминалов, в качестве одного из главных условий реализации данного класса ЭС является разработка системы сетевого доступа, позволяющей обеспечить передачу информации, а также управление ЭС посредством веб-интерфейса.

Преимуществами предлагаемых способов решения задачи разработки информационной технологии являются: отсутствие пространственных ограничений по взаимному расположению источников данных, самой ЭС и ее пользователей; независимость процедуры формирования базы знаний от области использования ЭС; автоматизированная генерация знаний.

Цель диссертационной работы. Повышение эффективности процесса построения ЭС путем разработки информационной технологии, предполагающей использование развивающейся системы представления знаний на базе ИНС-модели и системы распределенного сетевого ввода данных.

Для достижения поставленной цели необходимо решить следующие основные задачи:

- проанализировать индустрию ЭС: исследовать современные разработки и технологии построения, определить стратегии их совершенствования;

- построить концептуальную модель ЭС, позволяющую использовать развивающуюся систему представления знаний, основанную на ИНС-модели, посредством веб-интерфейса;

- разработать информационную технологию построения ЭС на основе нейросетевых моделей и с распределенным вводом данных;

- создать аналитические модели для планирования процессов формирования развивающейся системы представления знаний ЭС и соответствующую функциональную модель ее жизненного цикла;

- разработать специализированное программное обеспечение (ПО), позволяющее осуществлять построение, совершенствование и эксплуатацию ЭС с распределенным вводом данных и использующей нейросетевую модель знаний;

- провести апробацию ПО на примере создания ЭС для медицинских и социологических исследований.

Объект исследования - аналитическая и функциональная модели для обеспечения процессов разработки экспертных систем.

Предмет исследования - технология построения экспертной системы на основе нейросетевой модели и с распределенным вводом данных.

Научная новизна работы:

- разработана информационная технология построения экспертной системы, использующей нейросетевую модель знаний при распределенном вводе данных, отличающаяся способами организации первичного накопления информации и выбора начальной структуры ИНС-модели, основанными на соответствии числа степеней свободы модели и количества записей в базе данных (БД); технологическим приемом поэтапного совершенствования и модификации ИНС-модели на основе новых данных, поступающих с терминалов;

- предложены аналитические модели для планирования процессов формирования развивающейся системы представления знаний, на основе учета плотности поступления данных с терминалов;

- построена функциональная модель жизненного цикла ЭС, основанная на указанных принципах.

Положения, выносимые на защиту:

- информационная технология построения ЭС на основе нейросетевой модели и с распределенным вводом данных;

- аналитические модели для планирования процессов формирования развивающейся системы представления знаний;

- функциональная модель жизненного цикла указанной ЭС.

Практическая значимость проведенного диссертационного исследования заключается в разработке новой информационной технологии построения ЭС и специализированного программного комплекса, позволяющих повысить уровень адаптируемости ЭС к данным из различных предметных областей (например, медицины, социологии), а также достичь централизованности и оперативности процессов их построения, сопровождения и эксплуатации, упрощения процедуры формирования базы знаний за счет автоматизированного построения и обучения ИНС-моделей.

Реализация и внедрение результатов работы.

Представляемая работа проводилась в рамках научно-исследовательских работ «Разработка параллельных алгоритмов математического моделирования на основе нейросетевых методов и символьных вычислений» (Тамбов, 20092010 гг.). Она также поддержана грантом «Фонда содействия развитию малых форм предприятий в научно-технической сфере» в рамках выполнения проекта «Разработка компьютерных систем для обеспечения наукоемких процессов» государственный контракт № 6379р /8845 от «31» октября 2008 г.

Практические результаты работы внедрены в производственный процесс ООО «КреоВектор» г. Тамбова, ООО «Гранит» г. Тамбова и в учебный процесс Тамбовского государственного университета им. Г.Р. Державина.

Публикация результатов. По результатам диссертации опубликовано 13 научных работ, из них 7 статей (4 статьи в изданиях из перечня ВАК для публикации научных результатов диссертаций на соискание ученой степени доктора и кандидата наук), 5 докладов в материалах Международных, Всероссийских конференций, 1 свидетельство о государственной регистрации программы для ЭВМ.

Научная апробация работы. Основные результаты диссертационной работы представлялись и обсуждались на Всероссийской научно-методической конференции «Инновационные технологии обучения: проблемы и перспективы» (г. Липецк, 2008); XIV Международной открытой научной конференции «Современные проблемы информатизации в проектировании и информационных системах» (г. Воронеж, 2009); XIII Всероссийской научной конференции преподавателей и аспирантов «Державинские чтения» (г. Тамбов, 2008); XII Международной научно-практической конференции-выставки «Актуальные проблемы информатики и информационных технологий» (г. Тамбов, 2008); XIV Всероссийской научной конференции преподавателей и аспирантов «Державинские чтения» (г. Тамбов, 2009).

Структура и объем диссертации. Диссертация состоит из введения, трех глав, заключения, списка литературы (163 наименования), имеет объем 121 машинописную страницу, содержит 35 рисунков, 14 таблиц и приложения.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы диссертации, сформулированы цель и задачи исследования, охарактеризована научная новизна и практическая значимость результатов работы, приведены данные о внедрении и апробации этих результатов, выделены основные положения, выносимые на защиту, приведен краткий обзор содержания диссертации.

В первой главе «Анализ индустрии экспертных систем. Определение цели и постановка задач исследования» приведены основные характеристики областей применения ЭС и их классификация по типу решаемых задач, Представлены примеры существующих разработок ЭС и достигнутые с помощью их применения результаты. Обоснованы позиции практической эффективности использования ЭС и тенденции их дальнейшего развития.

Рассмотрена структура типичных ЭС, основанных на моделях знаний, представленных в символо-логическом виде. Описаны характеристики и функциональные возможности компонентов таких ЭС. Выделены режимы функционирования и круг специалистов, привлекаемых для их построения. Приведены основы традиционной технологии построения ЭС. Охарактеризованы каждый из шести ее этапов (идентификация, концептуализация, формализация, выполнение, тестирование, эксплуатация).

В результате обзора существующих способов компьютерной реализации ЭС охарактеризованы трудности и ограничения, возникающие при их использовании, такие как извлечение экспертных знаний и формализация их в символо-логическом виде, сложность адаптации к условиям различных предметных областей и т.д. Также проведена классификация средств компьютерной реализации ЭС по способу взаимодействия с пользователями, способам представления знаний экспертов и механизмам принятия решений. Таким образом, выделены классы систем, ориентированных на локальное взаимодействие (локальные ЭС), и систем, ориентированных на удаленное использование (веб-ориентированные ЭС). По сравнению с локальным подходом, веб-ориентироваиный обладает следующими преимуществами: простота и оперативность доступа, общедоступность, простота распространения и удобство сопровождения, эффективность и оперативность обновлений базы знаний, цен-трализированность процессов сбора и обработки данных для всего контингента пользователей системы, снижение стоимости управления и модернизации ЭС. По способам представления знаний экспертов и механизмам принятия решений существующие разработки обобщены в 3 класса систем: первый класс - это системы, использующие традиционную базу знаний, основанную на символо-логическом представлении знаний экспертов; второй класс - это системы, использующие математические модели и традиционные базы знаний; третий класс - это системы, использующие аппарат искусственных нейронных сетей для представления знаний экспертов. Определено, что из полученных в результате обобщения классов наиболее приемлемым для использования является третий класс систем, так как обладает следующими отличительными характеристиками: инвариантность предметной области использования, самостоятель-

ная система компьютерного представления знаний экспертов, прогностические свойства.

Вторая глава «Разработка информационной технологии построения экспертной системы на основе нейросетевой модели и с распределенным вводом данных» посвящена разработке информационной технологии построения ЭС, сочетающей в себе функциональные преимущества развивающейся системы представления знаний на основе ИНС-модели и распределенной сетевой системы ввода данных.

Здесь приводятся основы аппарата ИНС, являющегося базой для формирования самостоятельной системы представления знаний экспертов в нейросе-тевых ЭС. Отмечены различия в характере знаний, закладываемых (в формализованном виде) в традиционные ЭС, и знаний, генерируемых нейросетевой ЭС. Выделены основы реализации веб-ориентированных ЭС.

Для объединения функциональных преимуществ нейросетевых и веб-ориентированных ЭС разработана концептуальная модель веб-ориентированной нейросетевой экспертной системы (рис. I). Основными отличительными компонентами такой модели от традиционной являются: веб-интерфейс, позволяющий осуществлять распределенный ввод данных; база данных, используемая для долговременного хранения технической информации; развивающаяся система представления знаний экспертов, основанная на нейросетевой модели. Согласно разработанной модели, решателем является построенная и обученная ИНС, генерирующая решение задачи на основе эмпирических данных, хранящихся в БД.

Рис. 1. Концептуальная модель веб-ориентированной нейросетевой ЭС

Для разработки информационной технологии построения ЭС, соответствующих предлагаемой концептуальной модели, выполнена математическая формализация задач накопления информации и построения на ее основе развивающихся систем представления знаний.

Г Экспертная система

Основные принципы формализации. Пусть имеется распределенная система получения исходной информации, включающая N терминалов, каждый из которых предназначен для ввода п независимых параметров, имеющих m уровней каждый. Работа терминалов организована таким образом, что каждый из них работает лишь часть времени так, что интервалы их простоя являются случайными величинами, заданными плотностями распределений Р\(т), рг(т), ..., Pi^t). Время ввода информации не зависит от номера терминала, но линейно зависит от п, т.е. Ti„put = к\п, где к\ - некоторый коэффициент пропорциональности. Будем считать, что очередная доля информации добавляется к БД в виде одной записи, когда на /-м терминале (i = 1,.., N) каждому независимому параметру Xj (j = 1,.., п) присвоен соответствующий уровень (Ь = 1,.., т). Также учитывается, что передача информации с любого терминала в БД осуществляется мгновенно, т.к. это время на несколько порядков меньше времени, затрачиваемого пользователем на ввод информации.

Тогда среднее время одного цикла работы z-го терминала (ввод + ожидание следующего ввода информации), соответствующее добавлению в базу данных одной записи, может быть вычислено как: f,=k,и+ |гр,(г)Л".

о

Поэтому за период времени Г (например, Т= 24 ч) на i-м терминале могут быть осуществлены п циклов ввода, соответствующие добавлению в базу дан-т

ных г, записей: /; =-—-. Необходимо отметить, что п является целым

|гр,(г-)с/г

о

числом, полученным в результате округления в большую сторону полученного из уравнения значения. Соответственно, общее число записей информации в БД, полученное со всех терминалов за период Т, составит:

N N 1

*=Z'i = rI-^-.

/=1 /.1 г

k/i+ |гр((г)дг о

Выполним оценку периода первичного накопления данных в БД, предшествующего первому обучению ИНС-модели.

В соответствии с теоремами А.Н. Колмогорова1 о представимости функций нескольких переменных с помощью суперпозиций и сумм функций одного переменного, можно утверждать, что каждая непрерывная функция п переменных (в ЭС п соответствует количеству вводимых независимых параметров), заданная на единичном кубе «-мерного пространства, представима в виде:

' Колмогоров А.Н. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных// Докл. АН СССР. 1956. Т. 108. №2. С. 179-182.

Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного// Докл. АН СССР. 1957. Т. 114. № 5. С. 953-956. (Цит. по книге: Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука, 1996).

/(*„лг,...,*„)= 2]А, ^<Рч(хр) , где функции \{и) непрерывны, а функции

'/=1 Ь-' J

Ч>Рч (*Лкроме того, еще и стандартны, т.е. не зависят от выбора функции/

Фактически это означает, что «минимальная» структура ИНС-модели, позволяющая аппроксимировать функцию п переменных, должна иметь следующий вид: входной слой, состоящий из п (п соответствует переменным функции) нейронов, первый скрытый слой, включающий (2п+\)-п функциональных нейронов, второй скрытый слой, состоящий из (2л+1) функциональных нейронов, и выходной, суммирующий нейроны (рис. 2). Указанная нейронная сеть не является полносвязанной и имеет (2п+1 )-п+(2п+1 )-п+2п+1 =(2п+1 )2 связей (степеней свободы при обучении ИНС-модели).

Необходимо заметить, что теоремы А.Н. Колмогорова не несут никакой информации о типе нелинейности функций <р и к. Так, в системе знаний экспертной системы, базируемой на ИНС-модели, используется активационная

функция /(*)=—■• и полносвязанная сеть - многослойный персептрон. Для 1 + е

этого случая число степеней свободы ИНС-модели будет (2п+\)-(Зп2+п+\). Учитывая, что число записей в БД должно быть не меньше, чем число степеней свободы, получим оценку для первичного периода накопления данных:

■Д 1

К ■

к\п + Jт p,(r)dr

\ О J

(1)

где К - параметр, характеризующий число степеней свободы: К = (2л + 1)гдля ИНС-модели, построенной в соответствии с теоремой А.Н. Колмогорова, и К = (2п + 1)(3л2 + п +1) для полносвязанной ИНС-модели.

Процесс обучения модели знаний ЭС заключается в минимизации функционала вида:

£-[Цп)] = ||Д| = \\Г'°Ы -K"wW|| -> min (2)

Вектор w определяется структурой сети, которая, в свою очередь, связана с числом ее входов п (и соответствует числу нейронов входного слоя ИНС-модели) так, что имеется однозначное соответствие л и ve. Поэтому вектор w\ зависящий от структуры сети и минимизирующий функционал (2), соответствует оптимальной ИНС-модели и может быть определен как:

vv* = arg min F(w), (3)

weii

где П - множество векторов весовых коэффициентов нейронов.

Минимизацию функционала (2) осуществляем двумя методами: градиентным, так что последующие значения вектора w вычисляются по формуле = ve' -h(t)grad(E{W)), и методом сканирования. Для указанных методов оценки времени обучения могут быть получены следующим образом:

©?„„, -к2пЯ и ©,ь„ =къЯан. Здесь кг и к3 - коэффициенты, зависящие от технических характеристик используемого оборудования, а - число разбиений диапазона изменения переменной.

Целью обучения ИНС-модели на основе эмпирических данных является нахождение подходящей структуры и коэффициентов ИНС, минимизирующих невязку (2). Указанная структура обобщает в себе знания, полученные на основе данных, поступивших с терминалов в БД.

Данные, используемые для обучения ИНС-модели, могут различаться как в количественном отношении (число записей в БД на момент начала обучения), так и в качественном (дисперсия, наличие ошибок и т.д.). Поэтому разработка аналитической модели обучения для различных объектов не позволяет использовать теоретические подходы. В качестве эмпирической модели обучения предлагается использовать следующее дифференциальное уравнение:

(1ЕЦ) _ г . 1 ^ - л4[£, - МО], с начальным условием: £(0) = Е0, (4)

где £(/), Е0 и Е* - значения приведенной среднеквадратичной погрешности, ее начального значения и уровня, на котором она будет зафиксирована в конце цикла обучения ИНС-модели; к4 - параметр удельной скорости обучения, зависящий от п, объема обучающей выборки и используемого метода минимизации невязки (2); Г - безразмерное время процесса обучения, полученное отнесением реального времени к времени первого цикла обучения (рис. 3, 4). Урав-

нение (4) отражает феноменологию процесса обучения: в начальный момент времени невязка равна Ео и стремится к Е' в конце цикла обучения.

;

/>№) ;

С.....-......... 1

/>...;<•>,);

О--------;

, ■ 1" .О...................

■ о.

\ ?, К '

.....''ту-О--

., д., 1

«"и,)

.о.................

Рис. 2. Представление функции п переменных в виде ИНС-модели

Рис. 3. Корреляция эмпирических данных по среднеквадратичной погрешности обучения сети - Е (треугольники) от времени обучения с результатами расчета по уравнению (5). На графике показаны приведенные безразмерные значения

!г Н Н Н 'с I- г,

Рис. 4. Зависимость накопления первичной информации от безразмерного времени (верхняя часть рисунка): Я - число записей в БД, полученных с терминалов; процесс обучения ИНС-модели (нижняя часть рисунка): Е - приведенная среднеквадратическая ошибка ИНС-модели, Ь - уровни ее обученности

Разделяя переменные в уравнении (4) и интегрируя, получим:

Определив постоянную интегрирования из начальных условий (4), получим решение в виде:

(5)

Предложенные аналитические модели (1), (5) на практике позволяют решить следующие задачи: оценить первичный период накопления информации, необходимой для построения ИНС-модели исследуемого объекта; определить начальную структуру ИНС-модели на основе входных характеристик объекта исследования; сделать оценку количества циклов обучения ИНС-модели в присутствии эксперта. Эти результаты позволили разработать функциональную модель жизненного цикла ЭС на основе ИНС и поддерживающей распределенный сетевой ввод данных (рис. 5). Входом ЭС является запись из совокупности эмпирических данных предметной области, а выходом - номер(а) классов, к которым она принадлежит.

Рис. 5. Функциональная модель жизненного цикла ЭС на основе нейросетевой модели и с распределенным вводом данных

Информационная технология построения ЭС на основе нейросетевой модели и с распределенным вводом данных, соответствующая функциональной модели ЭС (рис. 5), заключается в последовательном выполнении следующих шагов:

- изучение объекта, для которого разрабатывается ЭС; выделение векторов входных характеристик и возможных выходных состояний данного объекта;

- накопление первичной информации об объекте в БД посредством распределенной сетевой системы сбора данных в течение периода, определяемого аналитической моделью (1);

- формирование первичной структуры ИНС-модели в соответствии с теоремой А.Н. Колмогорова и рис. 2;

- планирование поэтапного процесса обучения развивающейся ИНС-модели по предложенному уравнению (5); обучение ИНС-модели согласно предложенным аналитическим моделям;

- совершенствование ИНС-модели на основе вновь поступающих эмпирических данных, под контролем эксперта, который определяет законченность формирования системы представления знаний;

- эксплуатация ЭС (без эксперта).

На основе сравнения разработанной технологии с существующими аналогами выделены ее функциональные преимущества, заключающиеся в следующем: универсальность - применительно к различным предметным областям (без внесения конструктивных изменений в программное обеспечение); многопользовательский доступ к одному объему исследования; автоматизация процесса проектирования базы знаний за счет конструктивных алгоритмов построения ИНС-модели; поддержка сетевых технологий взаимодействия.

Выявлены условия, при которых может быть осуществлено применение разработанной технологии, такие как: возможность формализовать начальную структуру объекта и закодировать примеры его диагностики в числовом виде; наличие эксперта, обладающего высоким профессиональным уровнем (выше уровня рядового специалиста), способного адекватно оценивать параметрические данные объекта; достаточная квалифицированность пользователей, имеющих опыт использования сервисов, .предоставляемых консорциумом WWW.

В третьей главе диссертации «Практическая реализация информационной технологии построения экспертной системы на основе нейросетевой модели. Примеры использования» показана компьютерная реализация информационной технологии на основе разработки специализированного программного комплекса.

Здесь представлено описание программного комплекса, который представляет собой веб-ориентированную интерактивную систему, состоящую из двух подсистем: информационной и интеллектуальной. Структурная схема организации программного комплекса представлена на рис. 6.

Основным назначением информационной подсистемы являются накопление, хранение, визуализация технической информации, а также обеспечение веб-ориентированного интерфейса. Компонентами подсистемы являются про-

граммно-логическое ядро, реализованное с помощью PHP-скриптов, и серверная система управления базами данных MySQL, с помощью которой была разработана структура связанных между собой таблиц, каждая из которых хранит определенную техническую информацию.

Интеллектуальная подсистема предназначена для реализации процессов построения, обучения, модификации, эксплуатации ИНС-моделей, являющихся самостоятельными системами представления знаний в ЭС. Подсистема включает 4 основных компонента: блок мониторинга данных, который обеспечивает передачу входных и выходных данных, отслеживает поступление новой информации в базу данных; преобразователь, осуществляющий подготовку обучающей выборки для сети; конструктор, обеспечивающий автоматизированное построение и обучение интеллектуальной модели (ИНС) исследуемого объекта.

Интеллектуальная подсистема Рис. 6. Структурная схема организации программного комплекса

Для апробации разработанного программного комплекса были построены три экспертные системы в двух предметных областях: медицинской и социологической.

Медицинская ЭС решала проблему общеклинического анализа крови по десяти показателям (уровень гемоглобина (г/л); скорость оседания эритроцитов (мм/ч); лейкоциты (109/л); эритроциты (1012/л); цветовой показатель; лейкоцитарная формула (5 составляющих)). Для построения модели знаний ЭС потребовалась обучающая выборка объемом в 350 примеров, при которой уровень погрешности ИНС-модели достиг допустимого значения и стабилизировался, следовательно, при этом ЭС стала пригодна для использования в режиме эксплуатации. Входными данными для ЭС были значения показателей крови, по рассчитанному ИНС-моделью выходному значению определялось состояние здоровья пациента (выходы: 1 - здоров, 2 - стационарное лечение, 3 - амбулаторное лечение, 4 - экстренная госпитализация (табл. 1)).

Таким образом, получена структура ИНС-модели (рис. 7), включающая 10 входных нейронов, 210 нейронов первого скрытого слоя, 21 нейрон второго скрытого слоя, один выходной суммирующий нейрон (в табл. 2 представлен фрагмент массива значений весовых коэффициентов синаптических связей нейронов, полученного в результате обучения ИНС-модели).

ч

(21}

уо;-

&

Рис. 7. Структурная схема ИНС-модели медицинской ЭС Результаты тестирования медицинской ЭС

Таблица 1

XI *2 Х4 *б *7 X, х9 Х|0 У

1 134 5 5,4 4,19 0,96 0 3 60 30 8 3

2 111 5 5,9 3,82 0,87 0 5 53 36 6 2

50 137 6 3,2 4,28 0,96 1 1 53 30 9 1

Таблица 2

Коэффициенты синаптических связей нейронов входного

и первого скрытого слоев ИНС-модели медицинской ЭС

Номера нейронов 1 2 3 4 5 6 7 8 9 10 11 12 13 14 210

1 0,074 0,052 0,099 0,063 0,076 0,080 0,090 0,034 0,033 0,064 0,071 0,050 0,089 0,078 0,040

2 0,047 0,009 0,039 0,053 0,079 0,036 0,070 0,099 0,068 0,019 0,096 0,090 0,011 0,011 0,038

10 0,013 0,001 0,057 0,006 0,018 0,027 0,076 0,087 0,008 0,017 0,086 0,054 0,074 0,079 0,012

При тестировании ЭС на данных, являющихся результатами общеклинического анализа крови и не участвовавших в процессе построения ИНС-модели, правильно было распознано 70 % введенных данных, для 25 % была дана близкая классификация, в 5 % случаев система ошиблась. Указанные показатели позволяют сделать вывод о применимости разработанной ЭС в медицинских учреждениях в качестве интеллектуального помощника при проведении общеклинического анализа крови начинающими специалистами.

Результаты этого примера применения и других (для социологических исследований), приведенных в диссертации, позволяют сделать вывод о работоспособности программного комплекса, являющегося практической реализацией разработанной автоматизированной технологии.

В заключении приведены основные результаты выполненной диссертационной работы.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

В результате анализа индустрии ЭС исследованы существующие разработки и технологии построения ЭС, выделены их слабые и сильные стороны, выбраны способы модификации существующих разработок за счет использования развивающейся системы представления знаний на основе ИНС-модели и распределенного ввода данных.

На основе характерных свойств аппарата ИНС и систем распределенного ввода данных построена концептуальная модель ЭС, позволяющая использовать развивающуюся систему представления знаний, основанную на ИНС-модели, посредством веб-интерфейса.

Разработана информационная технология построения ЭС на основе ней-росетевой модели и с распределенным вводом данных, позволяющая повысить эффективность разработки ЭС за счет автоматизированного формирования базы знаний, основанной на ИНС-модели, и использования распределенной сетевой системы сбора данных.

Предложены аналитические модели, позволяющие: оценить первичный период накопления информации, необходимой для построения ИНС-модели исследуемого объекта; определить начальную структуру ИНС-модели на основе входных характеристик объекта исследования; сделать оценку количества циклов обучения ИНС-модели в присутствии эксперта, что позволяет эффективно расходовать временные и трудовые ресурсы при разработке ЭС. На основе аналитических моделей разработана функциональная модель жизненного цикла ЭС, предполагающая развитие модели знаний ЭС на основе поступающих данных.

Разработано специализированное программное обеспечение, позволяющее осуществить построение, совершенствование и эксплуатацию ЭС, использующей нейросетевую модель знаний. Программное обеспечение представляет собой инструментальное средство создания экспертных систем посредством веб-интерфейса.

Осуществлена апробация программного комплекса на примере создания ЭС в медицинской и социологической областях, что позволило определить следующие показатели эффективности: для медицинской ЭС - 70 % правильно распознанных данных; для первой социологической ЭС - 72 % правильно распознанных данных; для второй социологической ЭС - 69 % правильно распознанных данных. Указанные показатели позволяют сделать вывод о возможности эффективного практического использования результатов проведенной диссертационной работы.

В приложениях приведены материалы, не вошедшие в основной текст диссертации, но имеющие значимость для проведенного исследования: листинг основных модулей программного комплекса; фрагменты записей медицинских дневников, использованных для составления обучающей выборки медицинской экспертной системы; анкеты для проведения социологических исследований; свидетельство о государственной регистрации программы для ЭВМ; договор на выполнение научно-исследовательских и опытно-конструкторских работ (на

основе результатов конкурса У.М.Н.И.К.); акты о внедрении результатов работы.

Основные результаты диссертации опубликованы в работах:

Статьи в журналах, рекомендованных ВАК для публикации результатов диссертации

1 Арзамасцев, A.A. Прогнозирование периодических временных рядов с помощью аппарата искусственных нейронных сетей / A.A. Арзамасцев, М.Н. Толмачева, С.Н. Толмачева, П.А. Азарова, A.B. Неудахин // Вестн. Тамб. ун-та. Сер. Естеств. и техн. науки. - Тамбов, 2005.-Т. Ю.-Вып. 2.-С. 184-186.

2 Арзамасцев, A.A. Автоматизированная технология построения экспертных систем с интеллектуальным ядром на основе ИНС-моделей / A.A. Арзамасцев, A.B. Неудахин, H.A. Зенкова // Открытое образование. - Москва,

2008. - Вып. 3(68). - С. 35-39.

3 Арзамасцев, A.A. Технология построения медицинской экспертной системы на основе аппарата искусственных нейронных сетей / A.A. Арзамасцев, H.A. Зенкова, A.B. Неудахин // Информационные технологии. - Москва,

2009.-№ 8.-С. 60-63.

4 Неудахин, A.B. Построение нейросетевых экспертных систем с помощью автоматизированной технологии / A.B. Неудахин, A.A. Арзамасцев, H.A. Зенкова // Вопросы современной науки и практики. Университет им. В.И. Вернадского. - Тамбов, 2009. - № 4(18). - С.179-Ш.

Другие издания

5 Неудахин, A.B. Разработка сетевой тестирующей системы / A.B. Неудахин // Вестн. Тамб. ун-та. Сер. Естеств. и техн. науки. - Тамбов, 2007. -Т. 12.-Вып. 5.-С. 640-645.

6 Арзамасцев, A.A. Автоматизированная технология построения экспертных информационных систем / A.A. Арзамасцев, A.B. Неудахин // Вестн. Тамб. ун-та. Сер. Естеств. и техн. науки. - Тамбов, 2008. - Т. 13. - Вып. 1. - С. 83-85.

7 Арзамасцев, A.A. Методика разработки экспертных систем, использующих в качестве интеллектуального ядра ИНС-модели / A.A. Арзамасцев, A.B. Неудахин // Вестн. Тамб. ун-та. Сер. Естеств. и техн. науки. - Тамбов, 2008.-Т. 13.-Вып. 2-3.-С. 219-222.

8 Арзамасцев, A.A. Использование методов математического моделирования и искусственного интеллекта для оценки деятельности научных работников / A.A. Арзамасцев, К.Г. Троич, H.A. Зенкова, A.B. Неудахин // Вестн. Тамб. ун-та. Сер. Естеств. и техн. науки. - Тамбов, 2008. - Т. 13. - Вып. 4. - С. 301— 312.

9 Неудахин, A.B. Разработка и применение WEB-ориентированной системы удаленного тестирования / A.B. Неудахин // Инновационные технологии

обучения: проблемы и перспективы сб. науч. тр. Всерос. науч.-метод. конф., Липецк, 29-30 марта 2008 г. - Липецк: ЛГПУ, 2008. - С. 241-244.

10 Арзамасцев, A.A. Разработка автоматизированной технологии построения экспертных информационных систем / A.A. Арзамасцев, A.B. Неуда-хин, H.A. Зенкова, М.С. Сергеева // Актуальные проблемы информатики и информационных технологий: сб. XII Междунар. науч.-практ. конф., Тамбов, 4-5 сент. 2008 г. - Тамбов: ТГУ им. Г.Р. Державина, 2008. - С. 115-117.

11 Арзамасцев, A.A. Концептуальные основы проектирования экспертных систем / A.A. Арзамасцев, A.B. Неудахин // Вестн. Тамб. ун-та. Сер. Ес-теств. и техн. науки. - Тамбов, 2009. - Т. 14. Вып. 1: сб. XIII Всерос. науч. конф. преподавателей и аспирантов «Державинские чтения». - С. 242-244.

12 Неудахин, A.B. Разработка автоматизированного программного комплекса для построения нейросетевых экспертных систем / A.B. Неудахин // Современные проблемы информатизации в проектировании и информационных системах: сб. тр. - Воронеж: Научная книга, 2009. - Вып. 14. - С. 518-519.

13 Свидетельство о государственной регистрации программы для ЭВМ 2009614144 Российская Федерация. Программа: оболочка для построения экспертных систем с интеллектуальным ядром на основе искусственных нейронных сетей / A.A. Арзамасцев, A.B. Неудахин, H.A. Зенкова (RU); правообладатели A.A. Арзамасцев, A.B. Неудахин, H.A. Зенкова. № 2009614144; заявл. 11.06.09; зарегистрировано в реестре программ для ЭВМ 07.08.09. - 1 с.

Автор выражает благодарность «Фонду содействия развитию малых форм предприятий в научно-технической сфере» за оказанную финансовую поддержку в ходе выполнения исследований по диссертационной работе.

Подписано в печать 20.11.2009 г. Формат 60x84/16. Объем 1,0 усл. печ. л. Тираж 100 экз. Заказ 1376.

Издательский дом Тамбовского государственного университета им. Г.Р. Державина 392008, г. Тамбов, Советская, 190г.

ВВЕДЕНИЕ

1 АНАЛИЗ ИНДУСТРИИ ЭКСПЕРТНЫХ СИСТЕМ. ОПРЕДЕЛЕНИЕ ЦЕЛИ И ПОСТАНОВКА ЗАДАЧ ИССЛЕДОВАНИЯ.

1.1 Области применения экспертных систем и основные достижения.

1.2 Структура и принципы функционирования традиционных экспертных систем.

1.3 Технология разработки и условия применения экспертных систем

1.4 Обзор существующих средств программной реализации экспертных систем.

1.4.1 Инструментальных средства для реализации экспертных систем и их типы.

1.4.2 Экспертные системы с веб-интерфейсом.

1.4.3 Сравнение современных способов представления знаний и механизмов принятия решений в экспертных системах. 3 h

Определение цели и постановка задач исследования.

2 РАЗРАБОТКА ИНФОРМАЦИОННОЙ ТЕХНОЛОГИИ ПОСТРОЕНИЯ ЭКСПЕРТНОЙ СИСТЕМЫ НА ОСНОВЕ НЕЙРОСЕТЕВОЙ МОДЕЛИ И С РАСПРЕДЕЛЕННЫМ

ВВОДОМ ДАННЫХ.

2.1 Основы реализации нейросетевых и веб-ориентированных ЭС.

2.1.1 Основы аппарата искусственных нейронных сетей.

2.1.2 Нейросетевые экспертные системы, структура и технология разработки.

2.1.3 Основы построения и функционирования веб-ориентированных экспертных систем.

2.2 Разработка информационной технологии построения экспертной системы на основе нейросетевой модели и с распределенным вводом данных.

2.3 Оценка функциональных преимуществ разработанной технологии.

2.4 Особенности предметных областей и задач, определяющих возможность применения разработанной технологии.

Выводы.

3 ПРАКТИЧЕСКАЯ РЕАЛИЗАЦИЯ ИНФОРМАЦИОННОЙ ТЕХНОЛОГИИ ПОСТРОЕНИЯ ЭКСПЕРТНОЙ СИСТЕМЫ НА ОСНОВЕ НЕЙРОСЕТЕВОЙ МОДЕЛИ.

ПРИМЕРЫ ИСПОЛЬЗОВАНИЯ.

3.1. Разработка программного комплекса, являющегося практической реализацией предложенной информационной технологии.

3.1.1 Информационная подсистема.

3.1.2 Интеллектуальная подсистема.

3.1.3 Общий механизм работы программного комплекса.

3.2. Апробация программного комплекса.

3.2.1 Медицинская экспертная система.

3.2.2 Экспертные системы для социологических исследований.

Выводы.

Актуальность исследования. Необходимость в экспертных системах (ЭС), как в интеллектуальных помощниках, способных решать трудноформа-лизуемые задачи, существует во многих сферах человеческой деятельности: промышленности, научных исследованиях, социальной и экономической областях.

В то же время, создание и эксплуатация таких систем характеризуются в настоящее время рядом трудностей и ограничений: высокой трудоемкостью процессов построения баз знаний ЭС, связанной с формализацией знаний экспертов и их машинным представлением, а в некоторых случаях невозможностью такой формализации вследствие большого количества невербальных данных, влияющих на оценку эксперта; необходимостью привлечения дополнительного круга специалистов — инженеров по знаниям и разработки специализированного программного обеспечения или адаптации существующих ЭС под конкретные условия рассматриваемой предметной области; преобладанием локального подхода к организации взаимодействия с ЭС, тогда как в настоящее время все большое распространение и доступность получают сетевые информационные системы, например, веб-ориентированные.

Таким образом, становится актуальной задача разработки новой информационной технологии, позволяющей устранить вышеуказанные трудности и ограничения, путем автоматизированного формирования базы знаний для конкретной предметной области на основе распределенного сетевого ввода данных.

Решение данной задачи возможно за счет использования в качестве системы представления знаний в ЭС моделей искусственных нейронных сетей (ИНС-моделей). Применение таких моделей позволит обеспечить автоматизированное формирование развивающейся (по мере поступления информации от источников) системы представления знаний, отличающейся высокой степенью адаптируемости к эмпирическим данным и существенной гибкостью за счет алгоритмов выбора начальной структуры ИНС и ее модификации.

Поскольку формирование развивающейся системы представления знаний ЭС предполагает ее совершенствование на основе постоянно поступающих новых данных от распределенных терминалов, в качестве одного из главных условий реализации данного класса ЭС является разработка системы сетевого доступа, позволяющей обеспечить передачу информации, а также управление ЭС посредством веб-интерфейса.

Преимуществами предлагаемых способов решения задачи разработки информационной технологии являются: отсутствие пространственных ограничений по взаимному расположению источников данных, самой ЭС и ее пользователей; независимость процедуры формирования базы знаний от области использования ЭС; автоматизированная генерация знаний.

Цель диссертационной работы. Повышение эффективности процесса построения ЭС путем разработки информационной технологии, предполагающей использование развивающейся системы представления знаний на базе ИНС-модели и системы распределенного сетевого ввода данных.

Для достижения поставленной цели необходимо решить следующие основные задачи:

- проанализировать индустрию ЭС: исследовать современные разработки и технологии построения, определить стратегии их совершенствования;

- построить концептуальную модель ЭС, позволяющую использовать развивающуюся систему представления знаний, основанную на ИНС-модели, посредством веб-интерфейса;

- разработать информационную технологию построения ЭС на основе нейросетевых моделей и с распределенным вводом данных;

- создать аналитические модели для планирования процессов формирования развивающейся системы представления знаний ЭС и соответствующую функциональную модель ее жизненного цикла;

- разработать специализированное программное обеспечение (ПО), позволяющее осуществлять построение, совершенствование и эксплуатацию ЭС с распределенным вводом данных и использующей нейросетевую модель знаний;

- провести апробацию ПО на примере создания ЭС для медицинских и социологических исследований.

Объект исследования — аналитическая и функциональная модели для обеспечения процессов разработки экспертных систем.

Предмет исследования — технология построения экспертной системы на основе нейросетевой модели и с распределенным вводом данных.

Научная новизна работы:

- разработана информационная технология построения экспертной системы, использующей нейросетевую модель знаний при распределенном вводе данных, отличающаяся способами организации первичного накопления информации и выбора начальной структуры ИНС-модели, основанными на соответствии числа степеней свободы модели и количества записей в базе данных (БД); технологическим приемом поэтапного совершенствования и модификации ИНС-модели на основе новых данных, поступающих с терминалов;

- предложены аналитические модели для планирования процессов формирования развивающейся системы представления знаний, на основе учета плотности поступления данных с терминалов;

- построена функциональная модель жизненного цикла ЭС, основанная на указанных принципах.

Практическая значимость проведенного диссертационного исследования заключается в разработке новой информационной технологии построения ЭС и специализированного программного комплекса, позволяющих повысить уровень адаптируемости ЭС к данным из различных предметных областей (например, медицины, социологии), а также достичь централизованное™ и оперативности процессов их построения, сопровождения и эксплуатации, упрощения процедуры формирования базы знаний за счет автоматизированного построения и обучения ИНС-моделей.

Реализация и внедрение результатов работы.

Представляемая работа проводилась в рамках научно-исследовательских работ «Разработка параллельных алгоритмов математического моделирования на основе нейросетевых методов и символьных вычислений» (Тамбов, 2009-2010 гг.). Она также поддержана грантом «Фонда содействия развитию малых форм предприятий в научно-технической сфере» в рамках выполнения проекта «Разработка компьютерных систем для обеспечения наукоемких процессов» государственный контракт № 6379р /8845 от «31» октября 2008 г.

Практические результаты работы внедрены в производственный процесс ООО «КреоВектор» г. Тамбова, ООО «Гранит» г. Тамбова и в учебный процесс Тамбовского государственного университета им. Г.Р. Державина.

Публикация результатов. По результатам диссертации опубликовано 13 научных работ, из них 7 статей (4 статьи в изданиях из перечня ВАК для публикации научных результатов диссертаций на соискание ученой степени доктора и кандидата наук), 5 докладов в материалах Международных, Всероссийских и конференций, 1 свидетельство о государственной регистрации программы для ЭВМ.

Научная апробация работы. Основные результаты диссертационной работы представлялись и обсуждались на Всероссийской научно-методической конференции «Инновационные технологии обучения: проблемы и перспективы» (г. Липецк, 2008); XIV Международной открытой научной конференции «Современные проблемы информатизации в проектировании и информационных системах» (г. Воронеж, 2009); XIII Всероссийской научной конференции преподавателей и аспирантов «Державинские чтения» г. Тамбов, 2008); XII Международной научно-практической конференции-выставки «Актуальные проблемы информатики и информационных технологий» (г. Тамбов, 2008); XIV Всероссийской научной конференции преподавателей и аспирантов «Державинские чтения» (г. Тамбов, 2009).

Структура и объем диссертации. Диссертация состоит из введения, трех глав, заключения, списка литературы (163 наименования), имеет объем 121 машинописную страницу, содержит 35 рисунков, 14 таблиц и приложения.

Выводы

1. Разработаны структурные компоненты и принципы функционирования специализированного программного комплекса, являющегося практической реализацией автоматизированной технологии построения, сопровождения и эксплуатации веб-ориентированных нейросетевых ЭС.

2. Приведено детальное описание основных функциональных возможностей компонентов программного комплекса, в совокупности обеспечивающих компьютерную реализацию ЭС. Также разработан и описан веб-интерфейс, позволяющий осуществлять удаленное взаимодействие с программным комплексом.

3. Проведено опытное применение программного комплекса на примере трех объектов исследования: один из области медицины - «Общий анализ крови»; два из области социологии — «Социологическое исследование личностных качеств и профессиональных предпочтений школьников старших классов», «Социологическое исследование личностных качеств и профессиональной предрасположенности студентов старших курсов». Результаты опытного применения показали на практике функциональную эффективность разработанной технологии.

Результаты, полученные в ходе реализации третьей главы диссертации, отражены в следующих научных публикациях: [12, 68—71]. Также получено свидетельство о государственной регистрации программы для ЭВМ [99].

ЗАКЛЮЧЕНИЕ

В результате исследования индустрии ЭС были выявлены существующие тенденции ее развития, основные трудности и ограничения, возникающие при построении, сопровождении и эксплуатации ЭС. Определены пути совершенствования существующих технологий реализации ЭС за счет использования развивающихся систем представления знаний и компонентов поддерживающих сетевые технологии доступа.

Проведен анализ принципов организации аппарата ИНС, нейросетевых и веб-ориентированных ЭС. Выяснилось что применение аппарата ИНС для реализации системы представления знаний экспертов в нейросетевых ЭС, дает преимущества, обоснованные основными свойствами искусственных нейронных сетей, а именно прогностическими способностями, универсальностью использования, самостоятельной системой представления знаний. Выявлены принципиальные особенности и функциональные преимущества веб-ориентированных экспертных систем. На основе исследования принципов организации нейросетевых и веб-риентированных экспертных систем, была создана концептуальная модель экспертных систем, позволяющая осуществить совместное использование функциональных преимуществ этих подходов.

Разработана информационная технология построения ЭС на основе нейросетевой модели и с распределенным вводом данных, позволяющая повысить эффективность разработки ЭС за счет автоматизированного формирования базы знаний, основанной на ИНС-модели, и использования распределенной сетевой системы сбора данных.

Предложены аналитические модели, позволяющие: оценить первичный период накопления информации, необходимой для построения ИНС-модели исследуемого объекта; определить начальную структуру ИНС-модели на основе входных характеристик объекта исследования; сделать оценку количества циклов обучения ИНС-модели в присутствии эксперта, что позволяет эффективно расходовать временные и трудовые ресурсы при разработке ЭС. На основе аналитических моделей разработана функциональная модель жизненного цикла ЭС, предполагающая развитие модели знаний ЭС на основе поступающих данных.

Разработан специализированный программный комплекс, являющийся практической реализацией разработанной технологии и соответствующих моделей. Комплекс представляет собой веб-ориентированную интерактивную систему, состоящую из двух подсистем: информационной и интеллектуальной; каждая из которых обеспечивает выполнение определенных задач при разработке ЭС.

Осуществлена апробация программного комплекса на примере трех объектов исследования: один из области медицины — «Общий анализ крови»; два из области социологии — «Социологическое исследование личностных качеств и профессиональных предпочтений школьников старших классов», «Социологическое исследование личностных качеств и профессиональной предрасположенности студентов старших курсов». Практическое применение программного комплекса подтвердило функциональную эффективность разработанной технологии, и позволило оценить отличительные свойства специализированного программного комплекса на практике.

Выражается благодарность организаторам «Фонда содействия развитию малых форм предприятий в научно-технической сфере» за оказанную финансовую поддержку в ходе выполнения исследований по диссертационства циклов обучения ИНС-модели в присутствии эксперта, что позволяет эффективно расходовать временные и трудовые ресурсы при разработке ЭС. На основе аналитических моделей разработана функциональная модель жизненного цикла ЭС, предполагающая развитие модели знаний ЭС на основе поступающих данных.

Разработан специализированный программный комплекс, являющийся практической реализацией разработанной технологии и соответствующих моделей. Комплекс представляет собой веб-ориентированную интерактивную систему, состоящую из двух подсистем: информационной и интеллектуальной; каждая из которых обеспечивает выполнение определенных задач при разработке ЭС.

Осуществлена апробация программного комплекса на примере трех объектов исследования: один из области медицины — «Общий анализ крови»; два из области социологии — «Социологическое исследование личностных качеств и профессиональных предпочтений школьников старших классов», «Социологическое исследование личностных качеств и профессиональной предрасположенности студентов старших курсов». Практическое применение программного комплекса подтвердило функциональную эффективность разработанной технологии, и позволило оценить отличительные свойства специализированного программного комплекса на практике.

Выражается благодарность организаторам «Фонда содействия развитию малых форм предприятий в научно-технической сфере» за оказанную финансовую поддержку в ходе выполнения исследований по диссертационной работе. Договор на выполнение НИОКР по результатам конкурса У.М.Н.И.К. представлен в приложении 5.

1. Абдикеев, Н.М. Проектирование интеллектуальных систем в экономике: учебник / Н.М. Абдикеев; Под ред. Н.П. Тихомирова. М. : Экзамен, 2006. - 528 с.

2. Аверкин, А.Н. Нечеткие множества в моделях управления и искусственного интеллекта / А.Н. Аверкин, И.З. Батыршин, А.Ф. Блишун, В.Б. Силов, В.Б. Тарасов; Под ред. Д.А. Поспелова. — М. : Наука, 1986. -312 с.

3. Андрейчиков, А.В. Интеллектуальные информационные системы / А.В. Андрейчиков, О.Н. Андрейчикова. СПб.: Питер, 2004. - 423 с.

4. Андрейчиков, А.В., Андрейчикова О.Н. Интеллектуальные информационные системы: учебник / А.В. Андрейчиков, О.Н. Андрейчикова. -М. : Финансы и статистика, 2006. 424 с.

5. Арзамасцев, А.А. Автоматизированная технология построения экспертных систем с интеллектуальным ядром на основе ИНС-моделей / А.А. Арзамасцев, А.В. Неудахин, Н.А. Зенкова // Открытое образование. Москва, 2008. - Вып. 3(68). - С. 35-39.

6. Арзамасцев, А.А. Автоматизированная технология построения экспертных информационных систем / А.А. Арзамасцев, А.В. Неудахин // Вестн. Тамб. ун-та. Сер. Естеств. и техн. науки. — Тамбов, 2008. Т. 13. -Вып. 1.-С. 83-85.

7. Арзамасцев, А.А. Методика разработки экспертных систем, использующих в качестве интеллектуального ядра ИНС-модели / А.А. Арзамасцев, А.В. Неудахин // Вестн. Тамб. ун-та. Сер. Естеств. и техн. науки. Тамбов, 2008. - Т. 13. - Вып. 2-3. - С. 219-222.

8. Арзамасцев, А.А. Технология построения медицинской экспертной системы на основе аппарата искусственных нейронных сетей / А.А. Арзамасцев, Н.А. Зенкова, А.В. Неудахин // Информационные технологии. Москва, 2009. - № 8. - С. 60-63.

9. Бельченко, В.Е. Инструментальные средства программирования экспертных систем: Оболочки экспертных систем / В.Е. Бельченко, Т.Г. Дедкова, А.П. Частиков. Краснодар: КГТУ, 1994. — 112 с.

10. Бердж, В. Методы рекурсивного программирования / В. Бердж. М. : Машиностроение, 1983. - 248 с.

11. Берштейн, JI.C. Нечеткие модели для экспертных систем в САПР / JI.C. Берштейн. -М. : Энергоатомиздат, 1991. — 136 с.

12. Борисов, А.Н. Обработка нечеткой информации в системах принятия решений / А.Н. Борисов, А.В. Алексеев, и др. — М. : Радио и связь, 1989.-304 с.

13. Братко, И. Программирование на языке Пролог для искусственного интеллекта / И. Братко. М. : Мир, 1990. — 560 с.

14. Вороновский, Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности / Г.К. Вороновский, К.В. Ма-хотило, С.Н. Петрашев, С.А. Сергеев. -X. : ОСНОВА, 1997. 112 с.

15. Гаврилов, А.В. Системы искусственного интеллекта: учеб. пособие: в 2-х ч./ А.В. Гаврилов. Новосибирск: Изд-во НГТУ, 2001. - Ч. 1. - 67 с.

16. Гаврилова, Т.А. Базы знаний интеллектуальных систем / Т.А. Гаврило-ва, В.Ф. Хорошевский. СПб. : Питер, 2000. - 384 с.

17. Геловани, В.А. Экспертные системы в медицине / В.А. Геловани, О.В. Ковригин.-М. : Знание, 1987. -301 с.

18. Голицын, Г.А. Интеграция нейросетевой технологии с экспертными системами / Г.А. Голицын, И.Б. Фоминых // Тр. пятой нац. конф. по ИИ. Казань, 1996. - С. 68-71.

19. Голицын, Г.А. Применение нейросетевой технологии в ЭС / Г.А. Голицын // Экспертные системы реального времени: материалы семинара. -М. :РДЗ, 1995. С.55-60.

20. Горбань, А.Н. Нейроинформатика / А.Н. Горбань, B.JI. Дунин-Барковский, А.Н. Кирдин и др. Новосибирск: Наука, Сибирское предприятие РАН, 1998. - 296 с.

21. Горбань, А.Н. Нейронные сети на персональном компьютере / А.Н. Горбань, Д.А. Россиев. Новосибирск: Наука, 1996.

22. Горбань, А.Н. Обучение нейронных сетей / А.Н. Горбань. — М. : СП Параграф, 1990.

23. Горелов, И.Н. Разговор с компьютером: Психолингвистический аспект проблемы / И.Н. Горелов. М. : Наука, 1987. — 256 с.

24. Дедкова, Т.Г. Работа с Микроэкспертом / Т.Г. Дедкова, В.И. Ключко, В.А. Морозов, А.П. Частиков // Экспертные системы. М. : Знание, 1990.-С. 32-45.

25. Джарратано, Джозеф. Экспертные системы: принципы разработки и программирование / Джозеф Джарратано, Райли Гари. — М. :Вильямс, 2007. 1152 с.

26. Джексон, П. Введение в экспертные системы / П. Джексон. — М. : Вильяме, 2001.- 624 с.

27. Евсеев, О.В. Продукционная управляющая система для гибких производственных систем / О.В. Евсеев // Техническая кибернетика. — 1987. — №5.-С. 93-112.

28. Емельянов-Барковский, Л.Б. Интеллектуальная квазибиологическая система / Л.Б. Емельянов-Барковский. — М. : Наука, 1990. — 112 с.

29. Ершова, О.В. Построение экспертной системы для управления карбидной печью/ О.В. Ершова, Н.Г. Вальдберг, Т.Б. Чистякова // Математические методы в технике и технологиях: сб. тринадцатой Междунар. науч. конф. ММТТ-2000. СПб., 2000. - Т. 6. - С. 145-146.

30. Интерэксперт: Руководство пользователя / Калинин: НПО «Центрпро-граммсистем», 1989. 150 с.

31. Искусственный интеллект: В 3-х кн. Справочник / Под ред. В.Н. Захарова, В.Ф. Хорошевского. — М. : Радио и связь, 1990 — кн. 1 426 е., кн. 2-304 е., кн. 3 -368 с.

32. Каллан, Роберт. Основные концепции нейронных сетей / Роберт Кал-лан. М. : Вильяме, 2001. - 288 с.

33. Керниган, Б. Язык программирования Си: Задачи по языку Си / Б. Кер-ниган, Д. Ритчи, А. Фьюэр. М. : Финансы и статистика, 1985. — 276 с.

34. Керов, JI.А. Экспертные системы: Инструментальные средства разра1 ботки: учебн. пособие / JI.A. Керов, А.П. Частиков, Ю.В. Юдин, В.А.

35. Юхтенко; Под ред . Ю.В. Юдина. СПб.: Политехника, 1996. - 220 с.

36. Керридж, А.Е. Использование экспертных систем / А.Е. Керридж // Нефть, газ и нефтехимия за рубежом. 1987. — № 9. - С. 107—110.

37. Кирсанов, Б.С. Состояние разработки инструментальных средств и экспертных систем / Б.С. Кирсанов, Э.В. Попов; Под ред. Э.В. Попова. — Искусственный интеллект, 1990.

38. Кисель, Е.Б. Сравнительный анализ инструментальных средств для разработки систем управления реального времени /Е.Б. Кисель // Экспертные системы реального времени: материалы семинара. — М. : ЦРДЗ, 1995.

39. Клещев, А.С. Реализация экспертных систем на основе декларативных моделей представления знаний: Препринт / А.С. Клещев. — Владивосток: ДВО АН СССР, 1988. 45 с.I

40. Клещев, А.С. Экспертная система, моделирующая процесс оптимизации программ. Представление знаний: Препринт. / А.С. Клещев, М.А. Князева. Владивосток: ИАПУ ДВО АН СССР, 1989. - 25 с.

41. Клюксин, У. Программирование на языке Пролог / У. Клюксин, К. Меллиш. М. : Мир, 1987. - 336 с.

42. Козачков, Л.В. Технология и инструментальные средства реализации информационно-экспертных систем / JI.B. Козачков // Сб. науч. тр. -Львов: ВНИИМИУМ, 1989. С. 58-66.

43. Козеренко, Е.Б. Сравнительный анализ оболочек экспертных систем / Е.Б. Козеренко, В.В. Пузанов // Новинтех. 1990. - № 1. - С. 25-32.

44. Компьютер обретает разум: пер. с англ. / Под ред. В.Л. Стефанюка. -М. : Мир, 1990.

45. Крамм, Р. Системы управления базами данных dBASEII и dBASEHI для персональных компьютеров / Р. Крамм. М. : Финансы и статистика, 1988.-283 с.

46. Кричевский, M.JI. Интеллектуальные методы в менеджменте / M.JI. Кричевский. СПб. : Питер, 2005. - 304 с.

47. Круглов, В.В. Искусственные нейронные сети. Теория и практика / В.В. Круглов, В.В. Борисов. М. : Горячая линия - Телеком, 2001. - 382 с.

48. Кузин, А.А. Общая кибернетика / А.А. Кузин. М. : Наука, 1979. - Т. 2.

49. Кузин, Л.Г. Состояние и перспектива развития научно-технического направления "Искусственный интеллект" // Искусственный интеллект, итоги, перспективы: материалы семинара. М. : МДНП, 1985 - С. 419.

50. Куликов, Г.Г. Автоматическое проектирование информационно-управляющих систем. Проектирование экспертных систем на основе системного моделирования / Г.Г. Куликов, А.Н. Набатов, А.В. Речкалов и др.. Уфа, 1999. - 233 с.

51. Лавров, С.С. Автоматическая обработка данных: Язык Лисп и его реализация / С.С. Лавров, Г.С. Силагадзс. М. : Наука, 1978. 176 с.

52. Ларионов, A.M. Вычислительные комплексы, системы и сети / A.M. Ларионов, С.А. Майоров, Г.И. Новиков. Л. : Энергоатомиздат, 1987. -288 с.

53. Ларьер, Ж.-Л. Системы искусственного интеллекта: пер. с франц. / Ж.-Л. Ларьер. -М. : Мир, 1991. -568 с.

54. Логическое программирование: сб. статей / Пер. с англ. ; под ред. В. Н. Агафонова. М. : Мир, 1988. - 368 с.

55. Лощилов, И. Н. Вычислительная техника в военном деле / И.Н. Лощи-лов. -М.: ДОСААФ, 1987. 158 с.

56. Макаров, И.М. Новое поколение интеллектуальных регуляторов / И.М. Макаров, В.М. Лохин, Д.М. Еремин и др.. // ПиСУ. 1997. - № 3. -С. 2-6.

57. Марозов, А.А. Базы знаний в системах ситуационного управления коллективного пользования / А.А. Марозов // УСиМ. — № 4/5. 1995. -С. 91-95.

58. Марселлус, Д. Программирование экспертных систем на Турбо Прологе: пер. с англ. / Д. Марселлус. — М. : Финансы и статистика, 1994. -256 с.

59. Маслов, С.Ю. Теория дедуктивных систем и ее применения / С.Ю. Маслов. -М. : Радио и связь, 1986. — 136 с.

60. Мелихов, А.Н. Ситуационные советующие системы с нечеткой логикой / А.Н. Мелихов, JI.C. Берштейн, С .Я. Коровин. -М. : Наука, 1990.

61. Мешалкин, В.П. Экспертные системы в химической технологии. Основы теории, опыт разработки и применения / В.П. Мешалкин. М. : Химия, 1995.-368 с.

62. Минский, М. Фреймы для представления знаний / М. Минский. М. : Энергия, 1979.

63. Моделирование языковой деятельности в интеллектуальных системах / Под ред. А.Е. Кибрика, А.С.Нариньяни. — М. : Наука, 1987.

64. Нейлор, К. Как построить свою экспертную систему: пер. англ. / К. Нейлор. М.: Энергоатом из-дат, 1991. - 286 с.

65. Неудахин, А.В. Разработка сетевой тестирующей системы / А.В. Не-удахин // Вести. Тамб. ун-та. Сер. Естеств. и техн. науки. — Тамбов, 2007. Т. 12. - Вып. 5. - С. 640-645.

66. Нильсон, Н. Принципы искусственного интеллекта / Н. Нильсон. М. : Радио и связь, 1985.

67. Осовский, С. Нейронные сети для обработки информации / С. Осов-ский; пер. с польского И.Д. Рудинского. М. : Финансы и статистика, 2004. - 344 с.

68. Осуга, С. Обработка знаний: пер. с англ. / С. Осуга. М. : Мир, 1989. -293 с.

69. Петерсон, У. Применение языка Пролог для экспертных систем / У. Пе-терсон, Ю. Пичке // Вычислительная техника соц. стран. — М. : Финансы и статистика, 1988. Вып. 24. - С. 82-93.

70. Пильщиков, В.Н. Язык ПЛЭНЕР / В.Н. Пильщиков. М. : Наука, 1983.

71. Попов, Э.В. Инструментальный комплекс для построения на ПЭВМ эффективных экспертных систем в широком классе приложений / Э.В. Попов, B.C. Кирсанов // Материалы Второй всесоюзной конференции по искусственному интеллекту. Минск. 1990. - Т. 3. — С. 12-14.

72. Попов, Э.В. Общение с ЭВМ на естественном языке / Э.В. Попов. -М. : Наука, 1982.-360 с.

73. Попов, Э.В. Статические и динамические экспертные системы (классификация, состояние, тенденции). Методические материалы. / Э.В. Попов, И.Б. Фоминых, Е.Б. Кисель. М. : Цен-тральный росс, дом знаний, 1995.-126 с.

74. Попов, Э.В. Экспертные системы / Э.В. Попов // Техническая кибернетика. 1987. - № 5. - С. 5-18.

75. Попов, Э.В. Экспертные системы реального времени / Э.В. Попов // Открытые системы. — 1995. — № 2(10).

76. Попов, Э.В. Экспертные системы: Решение неформализованных задач в диалоге с ЭВМ / Э.В. Попов. М. : Наука, 1987. - 252 с.

77. Поспелов, Г.С. Системный анализ и искусственный интеллект / Г.С. Поспелов. М.: Препринт ВЦ АН СССР, 1980.

78. Поспелов, Д.А. Большие системы. Ситуационное управление / Д.А. Поспелов. — М. : Знание, 1975. — 64 с.

79. Поспелов, Д.А. Логико-лингвистические модели в системах управления / Д.А. Поспелов. М. : Энерго-издат, 1981. — 232 с.

80. Поспелов, Д.А. Ситуационное управление: теория и практика / Д.А. Поспелов. М. : Наука, 1986.

81. Построение экспертных систем: пер. с англ. / Под ред. Ф. Хейеса-Рота, Д. Уотермана, Д. Лената. М. : Мир, 1987. - 441 с.

82. Потапова, Т.Б. Структурная модель управления технологическим участком непрерывного производства как база знаний для экспертной системы / Т.Б. Потапова // Приборы и системы управления. — 1996. № 9. - С. 27-29.

83. Представление и использование знаний: пер. с япон. / Под ред. X. Уэно, М. Исидзука. М. : Мир, 1989. - 220 с.

84. Приобретение знаний: пер. с япон. / Под ред. С. Осуги, Ю. Саэки. — М. : Мир, 1990.-304 с.

85. Реальность и прогнозы искусственного интеллекта: сб. статей / Пер. с англ. ; под ред. и с предисловием В.Л. Стефанюка. — М. : Мир, 1987. — 247 с.

86. Розенблатт, Ф. Принципы нейродинамики (перцептрон и теория механизмов мозга) / Ф. Розенблатт. — М. : Мир, 1965. -480 с.

87. Рыбина, Г.В. Интегрированные экспертные системы: современное состояние, проблемы и тенденции / Г.В. Рыбина // Известия РАН. Теория и системы управления. 2002. - №5. — С. 111—126.

88. Рыбина, Г.В. Методы и инструментальные средства разработки веб-ориентированных интегрированных экспертных систем / Г.В. Рыбина, К.В. Сикан, JI.C. Степанов // Программные продукты и системы. -2008 г. —№ 2. — С. 25-28.

89. Рыбина, Г.В. Принципы разработки веб-ориентированной версии комплекса АТ-ТЕХНОЛОГИЯ / Г.В. Рыбина, К.В. Сикан, А.Н. Курдюков // Научная сессия МИФИ-2004: сб. науч. тр. М. : МИФИ, 2003. - Т. 3. -С. 62-63.

90. Сазыкин, В.Г. Особенности решения задач экспертными системами реального масштаба времени / В.Г. Сазыкин // Приборы и системы управления. 1995. - № 10. - С. 11-14.

91. Сафонов, В.О. Экспертные системы интеллектуальные помощники специалистов / В.О. Сафонов. - СПб. : Санкт-Петербургская организация общества «Знания» России, 1992.

92. Смит, Д. Искусственный интеллект: Применение в химии: пер. с англ. / Д. Смит, Ч. Риа, Дж. Стюарт и др.; Под ред. Т. Пирса, Б. Хонн. М. : Мир, 1988.-430 с.

93. Сойер, Б. Программирование экспертных систем на Паскале: пер. с англ. / Б. Сойер, Д.Л. Фосгер; Предисловие В.П. Иванникова. М. : Финансы и статистика, 1990. - 191 с.

94. Татжибаева, О.А. Разработка экспертных систем: методические указания к расчетно-графическим работам по дисциплине "Системы искусственного интеллекта" / О.А. Татжибаева. Оренбург: ГОУ ОГУ, 2005. -23с.

95. Таунсенд, К. Проектирование и программная реализация экспертных систем на персональных ЭВМ / К. Таунсенд, Д. Фохт. М. : Финансы и статистика, 1990.

96. Тельнов, Ю.Ф. Интеллектуальные информационные системы в экономике / Ю.Ф. Тельнов. Московский государственный университет экономики, статистики и информатики. М., 2005. — 174 с.

97. Терехов, В.А. Нейросетевые системы управления / В.А. Терехов, Д.В. Ефимов, И.Ю. Тюкин // Высшая школа. 2002. — С. 184.

98. Трахтенгерц, Э.А. Компьютерная поддержка принятия решений / Э.А. Трахтенгерц. М. : СИНТЕГ, 1998. - 376 с.

99. Турчин, В.Ф. Метаалгоритмический язык / В.Ф. Турчин // Кибернетика. № 4. - С. 45-54.

100. Уинстон, П. Искусственный интеллект / П. Уинстон. — М. : Мир, 1980. -519 с.

101. Уоссермен, Ф. Нейрокомпьютерная техника. Теория и практика / Ф. Уоссермен. -М. : Мир, 1992 240 с.

102. Уотерман, Д. Руководство по экспертным системам: пер. с англ. / Д. Уотерман. -М. : Мир, 1989. 388 с.

103. Финн, В.К. Индуктивные модели / В.К. Финн // Представление знаний в человеко-машинных и робототехнических системах. М. : ВИНИТИ, 1984. Т. А.-С. 58-76.

104. Фрэнк, Дж. Бартос. Искусственный интеллект: принятие решений в сложных системах управления / Дж. Бартос Фрэнк // Мир компьютерной автоматизации. -1997. № 4. - С. 2-27.

105. Хайкин, С. Нейронные сети: полный курс / С. Хайкин ; пер. с англ. -2-е издание- М.: Издательский дом «Вильяме», 2006. 1104 с.

106. Экспертная система СПРИНТ / М. : ЦНИИКА, 1996. 16 с.

107. Экспертные системы для персональных компьютеров. Методы, средства, реализации : справ, пособ. / Под ред. B.C. Крисевич, JT.A. Кузьмич, A.M. Шиф и др.. -Мн. : Высш. шк., 1990. 197 с.

108. Экспертные системы. Принципы работы и примеры: пер. с англ. / Под ред. Р.Форсайса. -М. : Радио и связь, 1987. — 224 с.

109. Экспертные системы: сб. / М. : Знание, 1990.

110. Элти, Дж. Экспертные системы: концепции и примеры: пер. с англ. / Дж. Элти, М. Кумбс. М. : Финансы и статистика, 1987. — 191 с.

111. Ясницкий, JI.H. Введение в искусственный интеллект / JI.H. Ясницкий. Издательский центр «Академия», 2005. — 176 с.

112. A method to estimate the rabidity of expert judgement. / Ed. G. Shresta, S. Rahman // IEEE Sohtheaston 98: Conf. and Exhib. Energy and Information Technologies in the Southeast. Columbia, S.C., Apr. 9-12, 1989: Proc. -N.Y., 1989.-V. 1, —P. 152-157.

113. ART User's Manual / Inference Systems Inc., Ca., 1984

114. Artificial Neural Networks: Concepts and Theory / IEEE Computer Society Press, 1992.

115. Behrous, H. FAR. Distributet web-based expert system for group ware design / H. FAR. Behrous, Zenya KOONO. 1994.

116. Brownston, L. Programming Expert Systems in OPS5: An introduction in Rule-Based Programming / L. Brownston, R. Farrell, et al. — Addison-Wesley Publ. Сотр. Inc., 1985.

117. CATALYST Gensym Corp., G2 // In object-Oriented Technology on Sun Workstations. - Catalist, 1993.

118. Clements, B.R. Evaluting Commercial Real Time Expert System Software for Use in the Process Industries / B.R. Clements, F. Preto. — C&I. — 1993. -P. 107-114.

119. Clocksin, W. Programming in PROLOG / W. Clocksin, C. Mellish. Berlin, Springer Verlag, 1982.

120. Dadhiawala R. Real-time AI systems: A deinition and an architecture / R. Dadhiawala, N. Skidharan, P. Raulefs, C. Pickering // IJCAI-89. // Detroit: Proc. 11th Int. Joint Conf. Artif. Intell,. 1989. - V. 1.

121. Developing a Strategy for Expert System Verification and Validation / Ed. S. Lee, R.M. O'Keefe // IEEE Transactions on Systems, Man and Cybernetics. April 1994. V. 24. № 4. p. 648-655.

122. Duda, R.O. Knowledge-based exspert systems come of age / R.O. Duda, J.G. Gaschnig // BYTE. 1981. - V. 6. - №9. - P. 23 8-281.

123. Huntington, D. Web-Based Expert Systems Are on the Way: Java Based Web Delivery / D. Huntington. — Exsys press, 2001.

124. Erman, L.O. The design and an example use of HEARS AY-III / L.O. Erman // The Seventh International Joint Conference of Artificial Intelligence. -Vancouver: University of British Columbia, 1981. P. 409-415.

125. Expert system saves 20 million L on pipeline management // C&I. — 1994. -July.-P. 31.

126. EXSYS User Manual / EXSYS Inc., 1985.

127. Hayes-Roth, F. The state of Knowledge-Based Systems / F. Hayes-Roth, N. Jacobstein // Communications of the ACM. 1994. - March. - V. 34. -№ 3. P. 27-39.

128. Florentin, J J. Software Review: KEE / J J. Florentin // Epert Systems. — 1987.-V. 4.-№2.-P. 18-120.

129. Greiner, R. A representation language / R. Greiner, D. Lenat // The first national conference on Artificial Intelligence. Stanford: Stanford University Press, 1980.-P. 165-169.

130. Griswold, R. A History of the SNOBOL Programming Language / R. Gris-wold // SIGPLAN Notices. V. 13. - № 8. - P. 275-308.

131. Hall, C. The Intelligent Software Development Tools Market / C. Hall // Part II. Intelligent Software Strategies. 1996. - V. 12. - № 3. - P. 1-16.

132. Hall, C. The Intelligent Software Development Tools Market / C. Hall // Part I. Intelligent Software Strategies. 1996. - February. — V. 12. — № 2. -P. 1-12.

133. Hammer, M. Reengineering the Corporation. A Manifesto for Business Revolution / M. Hammer, J. Champy // Intelligent Software Strategies. -N.Y. : Harper Colins, 1993. № 2.

134. Harmon, P. The market for intelligent software products. Intelligent Software Strategies / P. Harmon. 1992. - V. 8. - № 2. - P. 5-12.

135. Harmon, P. The Size of the Commercial AI Market in the US / P. Harmon // Intelligent Software Strategies. 1994. -V. 10. -№ 1. - P. 1-6.

136. Harmon, P. G2: Gensym's Real-Time Expert System / P. Harmon // Intelligent Software Strategies. 1993. - March. - V. 9. - № 3.

137. Hayes-Roth, F. The State of Knowledge-Based Systems / F. Hayes-Roth, N. Jacobstein //Communications of the ACM. 1994. - March. - V. 37. - № 3. -P. 27-39.

138. John, E.G. NASA Applies Gensym to Real-Time Problems / E.G. John // Research Highlights. 1990. - July.

139. Kleschev, A.S. Expert Systems Based on Metaknowledge: Preprint / A.S. Kleschev. Vladivostok: Far Eastern Division of the Russian Academy of Sciences, 1994. - 13 p.

140. Lauber, R.J. Artificial Intelligence Techniques in Real-time Control Systems / R.J. Lauber // 12 th World Congress International Federation of Automatic Control. Sydney, 1993. - V. 1.

141. Maarten, M. Java Expert System Shell / M. Maarten. Amsterdam: Vrije Universiteit press, 2002.

142. MDBS. Guru User Manual // MDBS Inc., 1986.

143. Moon, D. MACLISP Reference Manual / D. Moon. Cambridge: MIT Press, 1973.

144. Moore, B. Memorandum / B. Moore. Gensym Corporation. -1993. -April.

145. Moore, R. Expert Systems in Real-Time Applications: Experience and Developments / R. Moore // Proceedings of the Seventeenth Annual Advance Control Conferenc. — 1991. October.

146. Nevell, A. Computer science as empirical enquiry: Symbols and search / A. Nevell, M.A. Simon // Communications of the ACM. 1976. - V. 10. -№ 3. — P. 133-146.

147. Nilsson, N.J. Principles of Artificial intelligence / N.J. Nilsson. — Palo Alto: Tioga Press, 1980.

148. Noy, N. F. Creating Semantic Web Contents with Protege-2000 / M. Sintek, S. Decker, M. Crubezy et all. // IEEE Intelligent Systems. -2001.- V. 16(2). -P. 60-71.

149. Richard P. Lippmann. An Introduction to Computing with Neural Nets / Richard P. Lippmann // IEEE Acoustics, Speech, and Signal ProcessingMaga-zine.- 1987.- April.

150. Rock, D. Improving Business Process Reengineering / D. Rock, D. Yu // A1 Expert. 1994. - October.

151. Siegel, D. Introducing G2 4.0 / D. Siegel, D. Riddell // Marketing Bulletin. -Gensym Corporation. 1994-November.

152. Sussman, G.J. From PLANNER to CONNIVER A Genetic Approach / G.J. Sussman, D.U. McDermot // Proc. of 1976 Joint Computer Conference. - AFIPS Press., 1976. - P. 271-278.

153. Taitelman, W. INTERLISP Reference Manual / W. Taitelman // XEROX PARC. 1974.