автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Теоретическое обоснование и разработка регенеративной экспертной системы

На правах рукописи

БЕЛОВ Дмитрий Львович

ТЕОРЕТИЧЕСКОЕ ОБОСНОВАНИЕ И РАЗРАБОТКА РЕГЕНЕРАТИВНОЙ ЭКСПЕРТНОЙ СИСТЕМЫ

05.13.01 - Системный анализ, управление и обработка информации

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Краснодар - 2003

Работа выполнена в Кубанском государственном технологическом

университете

Научный руководитель:

кандидат технических наук, профессор А.П. Частиков

Официальные оппоненты: доктор физико-математических наук,

профессор В.И. Чижиков кандидат технических наук, доцент И.Н. Булатникова

Ведущая организация:

ООО "Информ" (г.Краснодар)

Защита диссертации состоится 8 июля 2003 г. в 14.00 на заседании диссертационного совета Д 212.100.04 в Кубанском государственном технологическом университете (350072, г.Краснодар, ул. Московская, 2, конференц-зал).

С диссертацией можно ознакомиться в библиотеке Кубанского государственного технологического университета по адресу: 350072, г.Краснодар, ул. Московская, 2.

Автореферат разослан 6 июня 2003 г.

Отзывы на автореферат, заверенные печатью учреждения, просим направлять по адресу: 350072, г. Краснодар, ул. Московская, 2, корп. А, к. 208, КубГТУ, ученому секретарю диссертационного совета Д 212.100.04, к.т.н., доценту Зайцеву И.В.

Ученый секретарь

диссертационного совета Д 212.100.04, к.т.н., доцент

^ооН &

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность исследования. Во многих случаях при решен™ конкретных задач в реальных предметных областях необходимо изменять стратегию получения решения экспертными системами в зависимости от изменения некоторых параметров. Предметные области, для которых разрабатываются экспертные системы, как правило, чрезвычайно сложны и обладают фактором изменчивости. На этапе проектирования и разработки системы бывает довольно сложно предусмотреть все возможные ситуации, в которых придется работать системе. Кроме того, нельзя забывать о том, что при эксплуатации системы в предметной области могут происходить изменения, прямо или косвенно влияющие на процесс решения задач экспертной системой. Типичной является ситуация, когда экспертная система на определенной ограниченной тестовой выборке данных превосходно справляется с решением задач, а при эксплуатации в реальных условиях при возникновении незначительных незапланированных изменений в предметной области заходит в тупик. Такую ситуацию можно объяснить тем, что экспертные системы, разработанные по классической архитектуре, либо вообще не способны модифицировать свое поведение в зависимости от изменений, происходящих в предметной области, либо способны выбирать стратегии решения из заранее заданного и весьма ограниченного числа вариантов.

Таким образом, можно утверждать, что для более эффективного использования экспертных систем и их широкого распространения необходимо решить следующие три задачи: разработать методику и инструменты, облегчающие проектирование и создание экспертных систем, разработать технологию, позволяющую гибкое и постепенное совершенствование экспертных систем уже на этапе эксплуатации, наделить экспертные системы способностью адекватно реагировать на изменения, происходящие в предметной области. Первая из перечисленных проблем с переменным успехом решается с помощью так называемых экспертных оболочек, являющихся инструментом, облегчающим создание экспертных систем. Проблема разработки и постепенного развития сложных программных комплексов частично решена благодаря использованию компонентной архитектуры и цикличному методу проектирования и разработки. Однако адаптации данной теории к проблемам разработки экспертных систем до сих пор не существует. Однозначного и эффективного решения для модификации поведения системы в зависимости от изменений, происх ной

области, также не существует. Для решения указанных проблем в данной работе исследуется и разрабатывается новый тип экспертных систем -регенеративные экспертные системы, основные идеи и концепции создания которых были выдвинуты профессором Частиковым А.П.

Диссертационная работа посвящена разработке принципов функционирования, методике и технологии создания регенеративных экспертных систем (РЭС), способных переконфшурироваться и модифицировать свое поведение в зависимости от изменения параметров окружающей среды, а также разработке полнофункциональной диагностической регенеративной экспертной системы, демонстрирующей широкие возможности и эффективность РЭС.

Цель работы. Разработка основных положений регенеративного подхода к построению экспертных систем, теоретическое обоснование и разработка РЭС, а также создание инструментальной среды для разработки РЭС.

Задачи исследования:

- проведение анализа существующих методов модификации поведения экспертных систем и определение общих принципов построения регенеративных экспертных систем;

- разработка математических моделей, описывающих поведение и особенности регенеративных экспертных систем, исследование ограничений построенных моделей;

- разработка языков описания конфигурации и сценариев регенеративной экспертной системы, обеспечивающих изменение поведения системы в процессе ее функционирования;

- разработка и исследование архитектуры регенеративной экспертной системы;

- проведение алгоритмического и программного конструирования инструментальных средств для создания регенеративных экспертных систем;

- разработка общей методики и технологии создания регенеративных экспертных систем для решения задач в произвольных предметных областях;

- исследование эффективности разработанной регенеративной экспертной системы и проведение сравнительного анализа возможностей аналогичных систем.

Методы исследования. Одним из методов модификации поведения системы в процессе функционирования является использование компонентной архитектуры, позволяющей также поэтапную разработку и усовершенствование системы. Функциональность системы распределена мевду конечным множеством модулей системы. Изменение функциональности достигается изменением структурного состава модулей, представляющих текущую конфигурацию РЭС. Теоретическое обоснование и разработка принципов создания и функционирования подобных систем и являлись целью данной работы. Управление модификацией работающей системы осуществляется с помощью конфигурационных файлов, написанных на разработанном языке сценариев регенеративной экспертной системы.

Поставленные задачи решены с применением теории графов, конечных детерминированных автоматов, теории множеств, математического моделирования и продукционных баз знаний.

Научная новизна исследования. В соответствии с целью работы и задачами исследования в диссертационной работе получены следующие новые научные результаты:

- разработаны принципы построения и структура регенеративной экспертной системы, алгоритмы функционирования принципиально нового компонента регенеративной экспертной системы - диспетчера состояний;

- созданы языки описания конфигураций и сценариев, необходимые для управления процессом модификации регенеративной экспертной системы, создан инструмент, позволяющий визуальное создание и тестирование конфигураций системы;

- разработана математическая модель описания поведения регенеративной экспертной системы во времени;

- решен ряд практических проблем, создана технология динамической диспетчеризации команд, метод унифицированного подключения и использования модулей, адаптирован механизм транзакций, позволяющий поддерживать систему в согласованном состоянии;

- спроектирована и реализована инструментальная среда, позволяющая создание регенеративных экспертных систем;

- разработана, создана и внедрена регенеративная экспертная система диагностики финансовой устойчивости предприятия;

- предложена общая методика и технология, позволяющая создавать регенеративные экспертные системы для решения задач в различных предметных областях.

Практическая ценность. Разработанная методика и технология создания РЭС позволяет конструировать более гибкие экспертные системы, способные модифицировать поведение в зависимости от изменений, происходящих в предметной области. Кроме того, разработанная технология позволяет сокращать сроки разработки и внедрения в эксплуатацию экспертных систем, и их поэтапное усовершенствование. Данная работа выполнялась в рамках гранта Российского Фонда Фундаментальных Исследований №00-01-96009 "Исследование и разработка принципов и методологии построения регенеративных экспертных систем" (руководитель проекта - профессор Частиков А.П.).

Реализация и внедрение результатов исследования. В настоящее время в рамках проектов комплексной автоматизации управленческого умета, проводимых ООО НПФ "Новус", система внедрена на 5-х предприятиях Краснодарского края (акт внедрения прилагается).

Апробация работы. Основные положения диссертационной работы докладывались и обсуждались на I Всероссийской научно-практической конференции "Перспективы развития современных информационных технологий" (Краснодар, 2000), VII Всероссийской научно-практической конференции "Инновационные процессы в высшей школе" (Краснодар, 2001), Всероссийской научной конференции грантодержателей РФФИ, РГНФ и администрации Краснодарского края (Туапсе, 2001), III Международной научно-технической конференции "Искусственный интеллект" (Крым, 2002), I Международной научно-методической конференции "Новые информационные технологии в университетском образовании" (Кемерово, 2002), XIII Международной конференции "Применение новых технологий в образовании" (Троицк, 2002), I Международной конференции "Информационные технологии в образовании" (Москва, 2002), VIII Всероссийской научно-практической конференции "Инновационные процессы в высшей школе" (Краснодар, 2002) и других конференциях.

На конференции "Перспективы развития современных информационных технологий" доклад, посвященный результатам данной работы, был удостоен второй премии.

Основные положения, выносимые на защиту:

- принципы построения и архитектура регенеративных экспертных систем;

- язык описания конфигураций и сценариев, необходимый для управления поведением регенеративной экспертной системы адекватно изменениям, происходящим во внешней среде;

- алгоритм работы принципиально нового компонента регенеративной экспертной системы - диспетчера состояний, который анализирует текущее состояние внешней среды и выполняет переконфшурацию, основываясь на заданных сценариях работы;

- технология динамической диспетчеризации команд и унифицированный метод подключения и использования модулей регенеративной экспертной системы;

- механизм транзакций, адаптированный для проведения отказоустойчивой модификации регенеративной экспертной системы;

- методика и технология, позволяющие создавать регенеративные экспертные системы для решения задач в произвольных предметных областях.

Публикации. По теме диссертации опубликовано 20 печатных работ. Из них: 1 учебное пособие, 8 статей и 11 тезисов докладов на международных и российских конференциях.

Структура и объем работы. Диссертационная работа состоит из введения, 4 глав, заключения, списка литературы и приложений. Работа содержит 179 страниц машинописного текста, 45 рисунков, 14 таблиц, список литературы из 122 наименований.

ОСНОВНОЕ СОДЕРЖАНИЕ ДИССЕРТАЦИИ

В первой главе диссертации обоснована необходимость изменения стратегий решения задач экспертными системами в зависимости от изменений, происходящих в предметной области. Приведен ряд примеров, подтверждающих необходимость подобной модификации поведения экспертных систем в процессе решения задач. Введено несколько ключевых определений, таких как: внешняя среда экспертной системы, параметры решаемой задачи, внешние параметры и др.

В данной главе рассмотрены существующие методы модификации поведения экспертных систем при решении задач, к числу которых можно отнести применение продукционных правил с исключениями (К-системы). использование нечеткой логики, влияние на процесс решения с помощью метаправил и стратегий разрешения конфликтных ситуаций, использование мультиагентных интеллектуальных систем, применение динамических

экспертных систем, использование многомерного факторизованного пространства поиска решений и т.д. Проведенный анализ показал, что ни один из перечисленных методов не обеспечивает систему достаточной гибкостью и способностью адекватно реагировать на любые изменения, происходящие в предметной области. Каждый из перечисленных методов имеет определенную направленность и способен решать узкий круг специфичных проблем. Таким образом, модификация поведения экспертных систем ограничена функциональностью реализованного метода.

Данная ситуация подтверждается результатами сравнительного анализа наиболее известных отечественных и зарубежных инструментов для создания экспертных систем, выполненного в данной главе. Обзор подготовлен на основе Интернет-источников, литературы и демо-версий соответствующих программ. Возможность модификации работы экспертных систем оценивалась как способность системы управлять и изменять поведение основных компонентов экспертной системы, таких как база фактов (рабочая память), база знаний и механизм логического вывода. Результаты проведенного анализа подытожены в табл. 1.

Важно отметить, что для проводимого анализа критически важным является не только факт возможности проведения той или иной модификации работы определенного компонента экспертной системы, но и вид такой модификации. В частности, можно выделить следующие типы модификации поведения экспертных систем: в процессе проектирования системы, в процессе создания оболочки, в процессе создания и наполнения базы знаний и в процессе функционирования системы.

Следует обратить внимание, что существует два различных варианта модификации системы в процессе функционирования: модификация, требующая остановки системы и модификация, проходящая без остановки системы, прозрачно для конечного пользователя. Такое разделение обусловлено тем, что определить все возможные типы задач, решаемых в конкретной предметной области, а тем более множество параметров, от которых зависит изменение поведения экспертной системы, бывает довольно сложно, особенно на этапе ее разработки. Зачастую подобные факторы выявляются уже в ходе эксплуатации системы. Это требует дополнительной перестройки экспертной системы или изменения базы знаний. Естественно, что в идеальном случае подобная модификация должна происходить без остановки работы системы и незаметно для пользователя.

Таблица 1 - Возможности модификации поведения ЭС

Средства для создания экспертных систем

Возможности модификации компонентов экспертной системы EMYCIN MicroExpert Jess GURU fS Ü CLIPS HEARSAY-HI Создаваемая РЭС

Модификация рабочей памяти

Изменение значений ✓ ✓ ✓ ✓

Изменение источников данных ✓ ✓ ✓

Изменение структуры рабочей памяти s S ✓

Модш шкация базы знаний

Изменение знаний

Изменение источников знаний ✓ Y

Изменение структуры базы знаний

Модификация поведения механизма логического вывода

Изменение поведения с помощью метаправил V Y ✓

Изменение поведения с помощью стратегий разрешения конфликтов Y Y

Модификация реализации МЛВ Y

Сравнительный анализ возможностей модификации поведения таких систем, как EMYCIN, MicroExpert, Jess, GURU, G2, CLIPS, HEARSAY-III, показал, что ни одна из перечисленных систем не обладает достаточным набором свойств для обеспечения изменения поведения системы в процессе работы в зависимости от изменения внешних параметров предметной области. Кроме того, реализация существующих возможностей модификации поведения в рассмотренных системах оставляет желать лучшего. Так, большинство перечисленных операций, например, изменение структуры

рабочей памяти (CLIPS, HEARSAY-III), изменение источников знаний (G2, CLIPS) модификация механизма логического вывода (HEARSAY-III) требует полной остановки и перезапуска системы, что является чрезвычайно неэффективным решением.

Кроме того, рассмотренные системы не обладают возможностями модификации работы таких компонентов экспертных систем как объяснительного компонента, компонента приобретения знаний, диалогового компонента. Это значительно ограничивает возможности по модификации структуры представления фактов и знаний, механизма логического вывода, т.к. подобные изменения неизбежно приводят к необходимости внесения изменений и в перечисленные выше компоненты.

Проведенный анализ позволяет утверждать, что разработанный регенеративный подход к построению экспертных систем делает возможным создание значительно более гибких и эффективных экспертных систем с принципиально новой возможностью модифицировать свое поведение в процессе работы.

Во второй главе диссертации предложен метод решения проблем, выявленных в предыдущей главе. В отличии от классических экспертных систем при построении регенеративных экспертных систем (рис. 1) применяется особая модульная технология, смысл которой заключается в том, что все основные компоненты экспертной системы рассматриваются как самостоятельные и определенным способом взаимодействующие модули. Каждый такой модуль имеет определенные функциональные обязанности, которые он способен выполнять, но никак не оговаривает, каким именно образом он будет это делать (концепция черного ящика). Способность модифицировать поведение реализуется путем изменения функционального состава модулей, представляющих текущую конфигурацию РЭС.

Для построения математической модели регенеративной экспертной системы использовалась теория графов, теория множеств дискретных элементов, а также набор операций, обеспечивающих изменение структуры РЭС во времени. Модель РЭС в некоторый момент времени будем представлять следующей четверкой элементов:

где

V - множество вершин графа, представляющих модули РЭС

V = {х> 1,х>2-..Уп}-, А - множество ребер графа, представляющих связи

(1)

между модулями А = /Яу } ак = (ак1 >ак2 )>

а к е А; е V; С - множество ограничений на построение графа

С = {с2,С2"-С1} ; Р - множество допустимых операций над графом

Р = {Р1>Р2-Рк}

Рисунок 1 - Структура регенеративной экспертной системы

Где: OK - объяснительный компонент; ДК - диалоговый компонент; КПЗ -компонент приобретения знаний; БФ - база фактов; БЗ - база знаний; MJIB -механизм логического вывода; ДС - диспетчер состояний.

При построении модели был определен приведенный ниже список ограничений, естественно вытекающий из общих свойств регенеративной экспертной системы и используемого модульного подхода. Условие связности:

cj = Vvßak : ак = (vt ,ак: ) v (akj );ак е А;

vi>akj>ak2 ^У

cj = -arltr2...rn : rj и' ...u* rn = г;ц гл г: = 0;

— — (2) i = l,n;j = l,n;r,rj...rn e R

cj = -3rlfr2...rn : rj u...ur„ = r;rf nrj = 0;

i = l,n;j = l,n;r,rj...rn e R

Условие отсутствия кратных связей:

:(а^ ла^ ла^ =а}]);

ai,aj еА;а11,а12,а]1,аь еУ

Условие отсутствия петель:

с3 = -,3ак :ак1=ак2;акеА;а^еК (4)

Условие двунаправленносш связей:

с4 = Чщ (ан ,а12 ) = щ (а¡2) (5)

Условие отсутствие циклов:

с5 = ~3{а1,а2...ап} = {(а^ ,а1г ),(а21 )--(аП1 ,а„2 )}:

а12 = а21^а22 = а31 л - л ап-12 = ап, л ап2 = а11 >' (6)

а1,а2...ап еА;а11,а12,а2],а22...аП1,аП2 еУ Условие отсутствия висящих связей:

с6 = ->3 ак = (ак1 ,у) V (\,ак2 У;ак1 еУ;ак е А; (7)

Для моделирования процесса изменения конфигурации регенеративной экспертной системы во времени был разработан, приведенный ниже, набор операций.

Добавление связи:

Ра, = Ра, а) = г(У,Аи а,С) :а<£А;геИ (8)

Удаление связи:

Ра2 = Ра2 (г>а) = г(У,А\а,С): а е А;г е Я (9)

Замена связи:

Ра3 =Ра3(г,а1,а2) = г(У,(А\а1)иа2,С):а1 еА;а2 £А;г<еК (ю)

Добавление модуля:

ру] = р?1(г,г) = г(у^у,а,с) (11)

Удаление модуля:

Ру2 = ру2 = г(У 1 У,А,С) .уе^геД (12)

Замена модуля:

Ру, = Рг,(г^!,У2) = г((У IV!)их2,А,С) : 3 3 (13)

vi е У;у2 &У;г е /?

При анализе свойств операций установлено, что даже операции из необходимого минимального набора способны вызывать нарушения используемого набора ограничений и приводить модель в несогласованное состояние. В таблице 2 приведена классификация типов нарушений по операциям, способным их вызвать. Пример нарушения ограничения представлен на рис. 2. В результате анализа свойств операций был разработан набор операций, безопасных с точки зрения нарушения ограничений, приведенный во второй главе диссертации.

Таблица 2 - Классификация типов нарушений по операциям

Операции над связями Возможные нарушения Операции над модулями Возможные нарушения

Ра, с2>с3,с5 Р*г Ч

Ра2 1 гг с1,с1,с1 Рг2 с1,с1,с1,с6

Р*з с1,с1,с1,с2>с3,с5 Р*з

Г Г'

У5 У7 У5 Уб у7

Рисунок 2 - Пример нарушения ограничений с^ и с^

Кроме того, в данной главе разработан альтернативный метод выполнения операций, исключающий нарушения ограничений, с помощью, адаптированного для РЭС, механизма выполнения транзакций. Основная идея данного метода заключается в том, что несколько отдельных операций объединяются в некоторую логическую единицу работы. В случае, если после выполнения всех операций, составляющих транзакцию, модель РЭС находится в согласованном состоянии, результаты работы транзакции фиксируются, в

противном случае - результаты выполнения всей транзакции отменяются, и система возвращается в исходное априорно согласованное состояние. Необходимо отметить, что в процессе выполнения транзакции модель теоретически может находиться в несогласованном состоянии.

Для разработки правил регенерации РЭС была разработана математическая модель с учетом типов модулей:

R = {V,A,G,C,P) (15)

где G - множество классификаторов, позволяющих причислить модуль РЭС к

тому или иному тйпу G = {gj, g2•••gn } ■

Для построения моделей, допускающих пересечение множества типов модулей, множество ограничений на построение графа С не требует дополнительных корректировок. При моделях, исключающих пересечение множества типов модулей, требуется дополнительное ограничение Су, общий вид которого приведен ниже:

с7 = Vv;3£A :

vi av; £gi,.-gk-l>gk+l>~gn>'gl>~g„ 6G;vi e V

Кроме того, значительные изменения претерпевают добавления и удаления модулей: С г

- pv(r,v,c) = r(V^ja,A,C^Jc):v^V;rsR,ceC

pCV2 = (r,v,c) = r(V\v,A,C\c):ve V;r zR;cgC

Причем, в данном конкретном случае, с должно иметь следующий bi

с = Vv-i3vj; v 6 gk л vi е «£ A;gk е G

Приведенные вьппе математические модели регенеративной экспертной системы использовались для исследования свойств РЭС, разработки и верификации правил регенерации, задающих сценарии работы. Ниже приведен синтаксис правил регенерации РЭС на основе БНФ-нотации:

Справило регенерации> ::=

IF (<описание прецедента> | <описание изменения>)

[AND (<описание прецедента> | <описание изменения>) [.....]]

THEN <описание модификации системы>

[AND <описание модификации системы> [.....]]

<описание прецедента> ::= <переменная> is <аначение> <описание изменения> ::= CHANGE <переменная> FROM

(16) операции

(17)

(18)

V.

(19)

<эначение1> ТО <аначение2> <описание модификации системы> ::= [CONNECT <модуль> WITH <модуль>] | [DISCONNECT <модуль> WITH <модуль>] | [ADD <модуль> [IN <модуль>] ] | [DELETE <модуль> [IN <модуль>]] | [REPLACE <модуль> WITH <модуль> [IN <модуль>]]

Разработанное множество операций над моделью позволяет описать приведенное выше правило, а множество ограничений проводить верификацию созданных сценариев РЭС.

В третьей главе диссертации проанализированы современные средства разработки экспертных систем и сделан выбор оптимального набора средств, позволяющий осуществить эффективную разработку экспертных систем в рамках предложенного регенеративного подхода. В результате данного анализа в качестве основной технологии реализующей компонентный подход необходимый для разработки модульных приложений была выбрана технология Microsoft COM (Component Object Model). В качестве средств разработки были выбраны Microsoft Visual С++ 6.0 с библиотекой ATL (ActiveX Template Library) и Borland Delphi 6.0 для создания СОМ объектов и интерфейсных элементов соответственно.

Структура разработанной РЭС представлена на рисунке 3. В построенной РЭС реализовано большинство компонентов регенеративной экспертной системы, представленных на рисунке 1: диспетчер состояний, база фактов, база правил, диалоговый компонент, а также простейшие версии таких компонентов как механизм логического вывода, компонента приобретения знаний и объяснительный компонент.

Согласно приведенной структуре модель состоит из одного ехе-файла -загрузчика и нескольких dll-файлов, реализующих модули регенеративной экспертной системы. Загрузчик выполняет функции инициализации библиотеки СОМ, запуска системы, начального конфигурирования с помощью заданных файлов конфигурации, отображения текущего состояния системы списк;) и методов соединения модулей, а так же сообщений системы, необходимых для проведения ее мониторинга.

Рассмотренные выше компоненты представляют собой модули регенеративной экспертной системы верхнего уровня, однако, текущая реализация модели предполагает иерархическую структуру модулей. Это означает, что каждый модуль может содержать в себе произвольное число подмодулей, выполняющих те или иные функции родительского модуля. В качестве основных модулей следующего уровня, реализующих логику работы

модели, следует перечислить следующие: анализатор сценария, 'анализатор правил регенерации, информатор, диспетчер команд, модуль определения приоритета правил, модуль определения необходимости применения правила.

Рисунок 3 - Структура реализованной РЭС

Где: БДМ - база данных модулей; МКД - модуль контроля доступа; БФ - база фактов; БЗ - база знаний; МЛВ - механизм логического вывода; ИМ -интерфейсный модуль; ДС - диспетчер состояний.

В данной главе предложена новая технология динамической диспетчеризации команд, предназначенная для предоставления пользователю различных функциональных возможностей системы в зависимости от ее текущей конфигурации. Суть этой технологии заключается в выделении отдельных функциональных возможностей, зависящих от конфигурации, в отдельные СОМ-объекты. Такие СОМ-объекты инкапсулируются с соответствующими модулями РЭС в одном исполняемом сШ-файлс. Подобный метод объединения данных и методов их обработки на уровне исходных текстов применяется в объектно-ориентированном программировании, и зарекомендовал себя как один из наиболее эффективных и надежных методов создания сложных программных систем. Однако в данном случае речь идет об инкапсуляции на качественно новом уровне - на уровне исполнимых программных компонент. Процесс сопоставления запрошенной пользователем команды с ее конкретной реализацией выполняет дополнительный модуль -диспетчер команд. Схема диспетчеризации команд, реализующая описанные выше возможности приведена на рисунке 4. Данная схема для процесса поиска

необходимой команды и ее динамического подключения использует механизмы категорий СОМ объектов.

В процессе создания РЭС также был разработан унифицированный метод подключения и использования модулей. Данный метод представляет собой спецификацию СОМ-интерфейса, необходимого для установления соединения, и протокол его использования. Кроме того, в третьей главе приведено описание реализации механизма транзакций, предназначенных для поддержания системы в согласованном состоянии и защищающих РЭС от модификаций, нарушающих установленные ограничения и системных сбоев. Для решения проблемы восстановления после общего сбоя системы был применен алгоритм протоколирования транзакций и фиксации произошедших изменений с помощью контрольных точек. Проблемы параллельного выполнения транзакций решены с помощью системы блокировок различных типов и двух этапного подтверждения завершения транзакции.

Управление процессом запуска и конфигурирования системы происходит с помощью конфигурационных файлов. Эти файлы задают сценарий создания начальной конфигурации регенеративной экспертной системы и определяют особенности ее работы в дальнейшем. Файлы конфигурации являются текстовыми файлами, содержащими определения на языке описания сценариев. Анализ этих файлов производит модуль -анализатор сценария. Реализация языка конфигураций целиком зависит от текущей реализации модуля анализатора сценариев и полностью изолирована от остальных модулей системы. На практике это означает, что для модификации этого языка, достаточно использовать другую версию реализации модуля анализатора и при этом не придется вносить какие либо изменения в остальные модули системы. Текущая версия языка задания

Рисунок 4 - Динамическая диспетчеризация команд

начальной конфигурации основана на декларативном подходе. Выражения, использующиеся в текущей версии языка системы в БНФ-нотации, можно представить следующим образом:

<выражение> : := «описание данных> : =

<эначение> <ограничитель> <описание данных> ::= <имя типа модуля>|<имя файла> <значение> ::= <идентификатор модуля>|

<путь к файлу>| lastactive | 1азЬуегз±оп <ограничитель> ::= ; I <конец строки>

Для упрощения создания файлов описания конфигураций был разработан инструмент позволяющий визуальное создание таких файлов и их последующую верификацию.

Четвертая глава диссертации посвящена исследованию надежности и эффективности разработанного регенеративного подхода. В этой главе выбрана конкретная предметная область - диагностика финансового состояния предприятия и обоснована необходимость использования регенеративных экспертных систем. Данная предметная область всесторонне исследована и разработаны основные модули и сценарии функционирования системы, необходимые для решения поставленной задачи. Построена концептуальная модель представления знаний.

Диагностика финансового состояния предприятия с помощью построенной регенеративной экспертной системы проводится в два этапа. На первом этапе выполняется оценка достоверности предоставленной финансовой отчетности, с помощью базы правил и соответствующего механизма логического вывода. Причем в зависимости от отраслевой принадлежности предприятия может потребоваться реконфигурация системы. Результатом работы данного этапа являются выводы о способах, а иногда и целесообразности проведения дальнейшего анализа. Перед вторым этапом работы система проводит переконфигурацию проводит расчет необходимых финансовых коэффициентов и используя соответствующую базу правил формирует вывод о текущем финансовом состоянии предприятия и вероятности его изменения в ближайшее время.

Надежность разработанной регенеративной экспертной системы обеспечивается тщательным контролем вводимых и используемых данных, контролем доступа пользователей к различным возможностям программы, независимостью модулей друг от друга и системой восстановления после сбоев.

Проведено сравнение возможностей и эффективности модификации основных компонент разработанного инструмента для создания экспертных систем с аналогичными возможностями таких популярных экспертных оболочек как CLIPS и JESS. Для проведения анализа эффективности сравнивались скорости модификации таких компонент как база фактов, база знаний и механизма логического вывода. Результаты измерений времени требующегося на соответствующую перестройку систем приведены на рисунке 5. Очевидно, что регенеративная экспертная система обладает значительным превосходством по времени модификации основных компонент системы.

Рисунок 5 - Временная гистограмма модификации основных компонентов

Сравнение эффективности работы систем, проводящих диагностику финансового состояния предприятий, значительно затруднено тем, что подобные системы еще не получили значительное распространение в связи с чрезвычайной трудностью их реализации. Кроме того, большинство из существующих систем, как правило, являются внутренними разработками отдельных аудиторских компаний и составляют их "ноу-хау". Дополнительным фактором, увеличивающим трудность проведения полного анализа эффективности разработанной системы, является тот факт, что набор функциональных возможностей регенеративных экспертных систем несравнимо шире возможностей классических экспертных систем.

Для оценки эффективности работы разработанной регенеративной экспертной системы был выполнен сравнительный анализ с классической

экспертной системой "Аудит". Сравнение полного цикла работы этих двух систем не имеет смысла, так как разработанная РЭС имеет значительно более широкий круг возможностей и выполняет значительно больший объем работ. Сравнение эффективности экспертных систем проводилось с помощью тестировочных данных системы "Аудит". Проводились сравнения таких важных временных показателей как скорость вычисления основных финансовых показателей и скорость формирования выводов о текущем финансовом состоянии, т.е. скорость работы механизма логического вывода, а также скорость изменения содержимого базы фактов и базы правил. Результаты проведенных измерений скорости модификации базы фактов и базы правил представлены на рисунке 6. Полученные результаты говорят о значительном превосходстве регенеративной экспертной системы по сравнению с экспертной системой построенной по классической архитектуре.

0 10 20 30

Рисунок 6 - Временные характеристики модификации содержимого баз

фактов и знаний

Кроме того, необходимо подчеркнуть несколько важных фактов:

- Большое число возможностей, реализованных в диагностической РЭС не имеет аналогов в современных экспертных системах.

- Современные экспертные системы представляют собой завершенные замкнутые системы с ограниченным набором возможностей. Регенеративные экспертные системы подразумевают постоянное развитие, совершенствование и расширение функциональности.

- Ни одна из современных экспертных систем неспособна, в полной мере,

модифицировать свое поведение в зависимости от изменений внешней

среды.

Приведенные доводы говорят о ощутимом преимуществе разработанной системы и регенеративного подхода к построению экспертных систем вообще по сравнению с аналогичными системами, существующими на данный момент.

В заключительном разделе четвертой главы предложена общая методика и технология, позволяющая создавать регенеративные экспертные системы для решения задач в произвольных предметных областях.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ И ВЫВОДЫ

В процессе исследования получены следующие результаты:

1. Разработаны принципы функционирования и архитектура регенеративной экспертной системы, способной модифицировать свое поведение в зависимости от изменений, происходящих в предметной области и заданных сценариев работы.

2. Разработаны алгоритмы функционирования принципиально нового компонента регенеративной экспертной системы - диспетчера состояний.

3. Созданы языки описания конфигураций и сценариев, необходимые для управления процессом модификации регенеративной экспертной системы.

4. Разработаны математические модели описания поведения регенеративной экспертной системы во времени.

5. Разработана технология динамической диспетчеризации команд, принципиально важная для создания регенеративных экспертных систем.

6. Предложен метод унифицированного подключения и использования модулей регенеративной экспертной системы.

7. Разработан механизм транзакций, адаптированный для проведения отказоустойчивой модификации регенеративной экспертной системы.

8. Спроектирована и реализована инструментальная среда для создания регенеративных экспертных систем.

9. Разработана и создана регенеративная экспертная система диагностики финансовой устойчивости предприятия.

10. Проведен сравнительный анализ разработанной регенеративной экспертной системы с существующими экспертными системами, который показал ощутимое преимущество РЭС.

11. Предложена общая методика и технология, позволяющие создавать регенеративные экспертные системы для решения задач в различных предметных областях.

ПЕРЕЧЕНЬ РАБОТ, ОПУБЛИКОВАННЫХ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Частиков А.П., Гаврилова Т.А., Белов Д.Л. Разработка экспертных систем. Среда CLIPS. - СПб.: BHV-Санкт-Петербург, 2003. - 608 с.

2. Частиков А.П., Антипова О.Ю., Белов Д.Л. Модель представления знаний в терминах векторной геометрии//Известия ВУЗов. СевероКавказский регион. Естественные науки. 2000, №4. - с. 15-17.

3. Белов Д.Л., Антипова О.Ю., Частикова В.А. Методы решения задач с конфликтными ситуациями в системах принятия решений//Труды КубГТУ Т. VII. - Краснодар 2000., КубГТУ. - с. 153-159.

4. Частиков А.П., Белов Д.Л., Антипова О.Ю. Представление знаний с использованием трехмерных графов//Труды КубГТУ Т. VIII. -Краснодар 2000., КубГТУ. - с. 278-283.

5. Частиков А.П., Антипова О.Ю., Белов Д.Л. Методы обработки некорректных ситуаций в базах знаний//Труды КубГТУ T.VIII. Краснодар 2000., КубГТУ. - с. 187-193.

6. Частиков А.П., Белов Д.Л. Регенеративные экспертные системы: принципы и методология создания//Наука Кубани. 2002, №2. - с. 6263.

7. Частиков А.П., Белов Д.Л. Регенеративные экспертные системы// Искусственный интеллект. 2002, №3. - с. 198-204.

8. Частиков А.П., Антипова О.Ю., Белов Д.Л. Применение Rete-алгоритма в механизмах логического вывода//Труды КубГТУ T.XVI. -Краснодар 2002., КубГТУ. - с. 215-220.

9. Частиков А.П., Белов Д.Л., Антипова О.Ю. Пространства знаний в регенеративных экспертных системах//Труды КубГТУ T.XVT. -Краснодар 2002., КубГТУ. - с. 239-247.

10. Белов Д.Л. Особенности создания регенеративных экспертных систем. Упорядоченный по времени массив данных и его использование в динамических и регенеративных ЭОУПерспективы развития современных информационных технологий: Сб. тез. докл. науч.-практ. конф. - Краснодар 2000. - с. 77.

11. Частиков А.П., Белов Д.JI. Структура регенеративной экспертной системы//Инновационные процессы в высшей школе: Сб. тез. докл.

VII Междунар. науч.-практ. конф. - Краснодар 2001. - с. 107.

12. Белов Д.Л. Структура, особенности и преимущества регенеративных экспертных систем//Развитие социально-культурной сферы северокавказского региона: Сб. тез. докл. науч.-тех. конф. - Краснодар 2001. -с. 41-42.

13. Белов Д.Л. Регенеративные экспертные системы и методология их создания//Новые информационные технологии в университетском образовании: Сб. тез. докл. Междунар. науч.-практ. конф. - Кемерово 2002.-е. 182-183.

14. Белов Д.Л. Использование регенеративных экспертных систем при разработке интеллектуальных обучающих систем//Информационные технологии в образовании: Сб. тез. докл. Междунар. конф. - Москва 2002. - с. 56-65.

15. Частиков А.П., Белов Д.Л. Перспективы использования регенеративных систем, основанных на знаниях, при разработке интеллектуальных обучающих систем//Применение новых технологий в образовании: Сб. тез. докл. XIII Междунар. конф. - Троицк 2002. - с. 116-118.

16. Белов Д.Л. Применение регенеративных экспертных систем в компьютерном моделировании//Компьютерное и математическое моделирование в естественных и технических науках: Сб. тез. докл. IV Всерос. науч. конф. Вып 16. - Тамбов 2002. - с. 59.

17. Частиков А.П., Белов Д.Л. Регенеративные системы, основанные на знаниях//Инновационные процессы в высшей школе: Сб. тез. докл.

VIII Всерос. науч.-практ. конф. - Краснодар 2002. - с. 107-108.

18. Белов. Д.Л. База данных модулей регенеративной экспертной системы//Информационные технологии в науке, проектировании и производстве: Сб. тез. докл.V Всерос. науч.-тех. конф. МВВО АТН РФ. - Н.Новгород 2002. - с. 31.

19. Белов. Д.Л. Методы диспетчеризации команд регенеративной экспертной систсмы//Информационные технологии в науке, проектировании и производстве: Сб. тез. докл. V Всерос. науч.-тех. конф. МВВО АТН РФ. - Н.Новгород 2002. - с. 32.

20. А.П. Частиков, Д.Л. Белов. Регенеративные экспертные системы// Искусственный интеллект: Сб. тез. докл. Междунар. науч.-тех. конф. -Таганрог 2002. - с. 106-110.

2. po?-А

11 3 7 6

Подписано в печать 04.06.2003. Зак № 342 Тираж 100. Отпечатано на ризографе ООО «Компания «Грэйд-Принт» 350058, Краснодар, ул. Старокубанская 118.

ВВЕДЕНИЕ.

1 СОСТОЯНИЕ ВОПРОСА. ОБЗОР И АНАЛИЗ ЛИТЕРАТУРНЫХ ИСТОЧНИКОВ. СУЩНОСТЬ ПРОБЛЕМЫ.

1.1 Общие сведения.

1.2 Модификация рабочей памяти.

1.2.1 Изменение значений данных.

1.2.2 Смена используемых баз данных.

1.2.3 Изменение способа представления данных.

1.3 Модификация базы знаний.

1.3.1 Изменение содержимого баз знаний.

1.3.2 Смена используемых баз знаний.

1.3.3 Изменение способа представления знаний.

1.4 Модификация работы механизма логического вывода.

1.4.1 Стратегии разрешения конфликтных ситуаций.

1.4.2 Мультиагентные интеллектуальные системы.

1.5 Модификация остальных компонентов экспертной системы.

1.5.1 Компонент приобретения знаний.

1.5.2 Объяснительный компонент.

1.5.3 Интерфейсный модуль.

1.5.4 Модуль управления доступом.

1.6 Сравнительный анализ современных инструментов для создания экспертных систем.

1.7 Выводы.

2 ТЕОРЕТИЧЕСКИЕ ОСНОВЫ ПОСТРОЕНИЯ РЕГЕНЕРАТИВНЫХ ЭКСПЕРТНЫХ СИСТЕМ.

2.1 Понятие РЭС. Архитектура.

2.2 Математическая модель РЭС.

2.2.1 Операции над моделью РЭС.

2.2.2 Множество ограничений модели РЭС.

2.2.3 Допустимые операции над моделью РЭС.

2.2.4 Свойства операций над моделью РЭС.

2.2.5 Нарушения ограничений.

• 2.2.6 Применение механизма транзакций.

2.3 Математическая модель РЭС с учетом типов модулей.

2.3.1 Особенности модели РЭС с учетом типов модулей.

2.3.2 Использование модели РЭС с учетом типов модулей.

2.4 Выводы.

3 АЛГОРИТМИЧЕСКАЯ И ПРОГРАММНАЯ РЕАЛИЗАЦИЯ РЕГЕНЕРАТИВНОЙ ЭКСПЕРТНОЙ СИСТЕМЫ.

3.1 Общие сведения.

3.2 Выбор и обоснование средств разработки.

3.3 Алгоритмическая реализация РЭС.

3.3.1 Структура разработанной РЭС.

3.3.2 Функциональный состав РЭС.

3.3.3 Вспомогательные модули РЭС.

3.4 Особенности программной реализация РЭС.

3.4.1 Загрузка системы. Диспетчер состояний.

3.4.2 Язык сценариев и правила регенерации.

3.4.3 База данных модулей РЭС.

3.4.4 Диспетчеризация команд экспертной системы.

3.4.5 Унифицированный метод подключения и использования модулей

3.4.6 Применение механизма транзакций.

3.4.7 Разработка конфигураций РЭС.

3.5 Выводы.

4 ТЕСТИРОВАНИЕ И ОЦЕНКА ЭФФЕКТИВНОСТИ РАЗРАБОТАННОЙ РЕГЕНЕРАТИВНОЙ ЭКСПЕРТНОЙ СИСТЕМЫ.

4.1 Выбор и обоснование предметной области.

4.2 Анализ предметной области и концептуальная модель знаний.

4.2.1 Первый этап работы диагностической РЭС.

4.2.2 Второй этап работы диагностической РЭС.

4.2.3 Общий алгоритм работы диагностической РЭС.

4.3 Надежность разработанной регенеративной экспертной системы.

4.4 Тестирование и анализ эффективности системы.

4.5 Общая методика и технология построения РЭС.

4.6 Выводы.

Актуальность проблемы

Преимущества и эффективность применения экспертных систем уже не вызывает сомнений. Экспертные системы помогают экономить время при решении достаточно сложных интеллектуальных задач. Кроме того, экспертные системы помогают заменить весьма дорогостоящий труд человека-эксперта. Однако несмотря на очевидные преимущества экспертные системы до сих пор не получили достаточно широкого I распространения, чему препятствуют несколько объективных факторов, в числе которых: высокая сложность разработки, недостаточная гибкость таких систем, а также полное или частичное отсутствие возможностей их постепенного развития и совместимости с уже существующими приложениями.

Предметные области, для которых разрабатываются экспертные системы, как правило чрезвычайно сложны и обладают фактором изменчивости. На этапе проектирования и разработки системы бывает довольно сложно предусмотреть все возможные ситуации, в которых § придется работать системе. Кроме того, нельзя забывать о том, что при эксплуатации системы в предметной области могут происходить изменения, прямо или косвенно влияющие на процесс решения задач экспертной системой. Типичной является ситуация когда экспертная система на определенной ограниченной тестовой выборке данных превосходно справляется с решением задач, а при эксплуатации в реальных условиях при возникновении незначительных незапланированных изменений в предметной области заходит в тупик.

Таким образом, можно утверждать, что для более эффективного

• использования экспертных систем и их широкого распространения необходимо решить следующие три задачи: разработать методику и инструменты, облегчающие проектирование и создание экспертных систем, разработать технологию, позволяющую гибкое и постепенное изменение и совершенствование экспертных систем уже на этапе эксплуатации, наделить экспертные системы способностью адекватно реагировать на изменения, происходящие в предметной области.

Первая из перечисленных проблем с переменным успехом решается уже достаточно давно с помощью так называемых экспертных оболочек, являющихся инструментом, облегчающим создание экспертных систем. Экспертные оболочки фактически представляют собой экспертные системы с пустой базой знаний. Инженеры по знаниям, разрабатывающие экспертную систему в конкретной предметной области, производят наполнение базы знаний данными, использующимися при решении поставленных задач. Экспертные оболочки являются достаточно эффективным инструментом, однако ставят разработчика в строгие рамки реализованных концепций и моделей представления знаний, что зачастую приводит к обратному эффекту и лишь усложняет процесс разработки экспертной системы.

Проблема разработки, сопровождения и постепенного развития сложных программных комплексов частично решена благодаря использованию компонентной архитектуры и цикличному методу проектирования и разработки. Однако адаптации данной теории к проблемам разработки экспертных систем до сих пор не существует.

Диссертационная работа посвящена разработке принципов функционирования и методики и технологии создания регенеративных экспертных систем (РЭС), способных переконфигурироваться и модифицировать свое поведение в зависимости от изменения параметров окружающей среды, а также разработки полнофункциональной диагностической регенеративной экспертной системы, демонстрирующей широкие возможности и эффективность РЭС.

Цель работы

Разработка основных положений регенеративного подхода к построению экспертных систем, теоретическое обоснование методики и технологии разработки РЭС и создание инструментальной среды для создания регенеративных экспертных систем.

Задачи исследования:

• проведение анализа существующих методов модификации поведения экспертных систем в зависимости от изменений среды функционирования;

• определение общих принципов построения регенеративных экспертных систем;

• разработка математических моделей, описывающих поведение и особенности регенеративных экспертных систем;

• исследование ограничений, налагаемых на модель регенеративной экспертной системы;

• разработка языков описания конфигурации и сценариев

• регенеративной экспертной системы, обеспечивающих изменение поведения системы в процессе ее функционирования;

• разработка и исследование архитектуры регенеративной экспертной системы;

• исследование основных модулей предложенной модели регенеративной экспертной системы;

• разработка алгоритмов и сценариев функционирования диагностической регенеративной экспертной системы;

• проведение алгоритмического и программного конструирования

Ф экспертной оболочки, позволяющей создание регенеративной экспертной системы;

• разработка общей методики и технологии создания регенеративных экспертных систем для решения задач в произвольных предметных областях;

• исследование эффективности разработанного регенеративного подхода и диагностической РЭС, проведение сравнительного анализа возможностей аналогичных систем.

Методы исследования

• Одним из методов модификации системы в процессе функционирования является использование компонентной архитектуры, позволяющей также поэтапную разработку и усовершенствование системы. Функциональность системы распределена между конечным множеством модулей системы. Изменение функциональности достигается изменением структурного состава модулей, представляющих текущую конфигурацию регенеративной экспертной системы. Теоретическое обоснование и разработка принципов работы подобных систем и являлось целью данной работы. Управление модификацией работающей системы осуществляется с помощью сценариев,

• написанных на разработанном языке сценариев регенеративной экспертной системы. Контроль текущего состояния системы и окружающей среды выполняет принципиально новый модуль - диспетчер состояний, который в случае возникновения необходимости и выполняет переконфигурацию системы

Поставленные задачи решены с применением теории графов, конечных детерминированных автоматов, теории множеств дискретных элементов, математического моделирования и продукционных баз знаний.

Научная новизна

• разработана математическая модель регенеративной экспертной системы и исследованы ее свойства и ограничения, налагаемые на эту модель;

• разработан язык описания конфигураций и сценариев регенеративной экспертной системы;

• спроектирована и разработана экспертная оболочка, позволяющая создание регенеративных экспертных систем;

• создана принципиально новая технология динамической диспетчеризации команд регенеративной экспертной системы, обеспечивающая подключение новых возможностей;

• разработан метод унифицированного подключения и использования модулей;

• адаптирован механизм применения транзакций поддерживающий регенеративную экспертную систему в согласованном состоянии;

• создана продукционная база знаний, позволяющая производить диагностику финансового состояния предприятия;

• предложена общая методика, позволяющая создавать регенеративные экспертные системы для решения в произвольных предметных областях;

Практическая ценность

Разработка регенеративной экспертной системы проводилась в рамках работы по гранту РФФИ № 00-01-96009 «р2000юг» "Исследование и разработка принципов и методологии построения регенеративных экспертных систем" (руководитель - профессор Частиков А.П.).

Разработанная методика и технология создания РЭС позволяет конструировать более гибкие экспертные системы, способные модифицировать свое поведение в зависимости от изменений, происходящих в предметной области. Кроме того, разработанная технология позволяет сокращать сроки разработки и внедрения в эксплуатацию экспертных систем, и их поэтапное усовершенствование. Практическим приложением разработанной методики создания РЭС стала регенеративная экспертная система диагностики финансового состояния предприятия. Основным достоинством разработанной системы является ее способность адекватно реагировать на изменения происходящие в процессе решении задачи. На первом этапе проведения диагностики финансового состояния предприятия экспертная система формирует вывод о достоверности предоставленной финансовой отчетности, используя отдельный механизм логического вывода и базу знаний. Этот этап необходим для принятия решения о дальнейших методах оценки текущего финансового состояния. На втором этапе РЭС делает вывод о способах, а иногда и целесообразности проведения дальнейших оценок, основываясь на результатах, полученных на предыдущем этапе. В этот момент в качестве базы фактов используются данные в формате Excel и два механизма логического вывода, один из которых производит необходимые вычисления, а другой осуществляет необходимые выводы.

Дополнительным достоинством разработанной системы является ее возможность постепенной модернизации и улучшения уже после ввода системы в эксплуатацию. В случае выявления некоторых новых неучтенных в процессе проектирования и разработки ситуаций, при которых система не может функционировать или функционирует неэффективно, разрабатываются новые модули, и производится изменение сценариев функционирования без остановки работы всей системы.

В настоящее время в рамках проектов комплексной автоматизации управленческого учета, проводимых Научно-производственной фирмой "Новус", разработанная регенеративная экспертная система, проводящая диагностику финансового состояния предприятия, внедрена на 5 предприятиях Краснодарского края (акт внедрения прилагается).

Апробация работы

Основные этапы работы докладывались и обсуждались на I Всероссийской научно-практической конференции "Перспективы развития современных информационных технологий" (Краснодар, 2000), VII Всероссийской научно-практической конференции "Инновационные процессы в высшей школе" (Краснодар, 2001), Всероссийской научной конференции грантодержателей РФФИ, РГНФ и администрации Краснодарского края (Туапсе, 2001), III Международной научно-технической конференции "Искусственный интеллект" (Крым, 2002), I Международной научно-методической конференции "Новые информационные технологии в университетском образовании" (Кемерово, 2002), XIII Международной конференции "Применение новых технологий в образовании" (Троицк, 2002), I Международной конференции "Информационные технологии в образовании" (Москва,* 2002), IV Всероссийской научно-технической, конференции "Компьютерное и математическое моделирование в естественных и технических науках" (Тамбов, 2002), V Всероссийской научно-технической конференции "Информационные технологии в науке, проектировании и производстве" (Н.Новгород, 2002), VIII Всероссийской научно-практической конференции "Инновационные процессы в высшей школе" (Краснодар, 2002)

На научно-практической конференции "Перспективы развития современных информационных технологий" доклад, посвященный результатам данной работы, был удостоен второй премии.

Публикации. По теме диссертации опубликовано 20 печатных работ. Из них: 1 учебное пособие, 8 статей и 11 тезисов докладов на вышеперечисленных конференциях.

Основные положения, выносимые на защиту:

• принципы построения и архитектура регенеративных экспертных систем;

• язык описания конфигураций и сценариев, необходимый для управления поведением регенеративной экспертной системы адекватно изменениям, происходящим во внешней среде;

• алгоритм работы принципиально нового компонента регенеративной экспертной системы - диспетчера состояний, который анализирует текущее состояние внешней среды и выполняет переконфигурацию, основываясь на заданных сценариях работы;

• технология динамической диспетчеризации команд и унифицированный метод подключения и использования модулей регенеративной экспертной системы;

• механизм транзакций, адаптированный для проведения отказоустойчивой модификации регенеративной экспертной системы;

• методика и технология, позволяющие создавать регенеративные экспертные системы для решения в произвольных предметных областях.

Структура и объем работы

Работа содержит 49 рисунков, 14 таблиц, библиографию из 122 наименований на 9 страницах и приложения на 53 страницах.

В первой главе, определены основные отличия регенеративных экспертных систем от классических. Рассмотрены преимущества РЭС и возможные области их применения. Проведен анализ существующих инструментов предназначенных для создания экспертных систем и предоставляемых ими возможностей по модификации работы таких важнейших компонентов, как механизм логического вывода, база фактов, база знаний, компонент приобретения знаний, объяснительный и диалоговый компонент. Определены важнейшие классы модификаций работы экспертных систем. Рассмотрены такие известные методы модификации ф работы механизма логического вывода как метаправила, применение различных стратегий разрешение конфликтных ситуаций и мультиагентные системы. Перечислены недостатки этих методов. Осуществлена постановка задачи и определены методы ее решения.

Во второй главе диссертации приведена предлагаемая модель архитектуры регенеративной экспертной системы. Построена математическая модель, позволяющая исследовать возможности изменения поведения системы во времени. Введено понятие ограничений налагаемых на модель. Введены допустимые операции над математической моделью РЭС и исследованы их свойства. Адаптирован механизм транзакции, примененный для выполнения отказоустойчивых модификаций регенеративной экспертной системы. Построенная математическая модель РЭС с учетом различия типов модулей. Исследованы свойства усовершенствованной модели и введены дополнительные операции. Введен набор ограничений необходимый для работы с моделью учитывающей типы модулей. Исследованы и определены методы использования построенных математических моделей регенеративных экспертных систем.

В третьей главе диссертации приведено описание реализации ключевых компонентов инструмента для создания регенеративных экспертных систем. В ней проанализированы современные средства разработки экспертных систем и сделан выбор оптимального набора средств, позволяющий осуществить эффективную разработку экспертных систем в рамках предложенного регенеративного подхода. Предложены новая технология динамической диспетчеризации команд и унифицированный метод соединения и использования модулей, необходимые для практической реализации РЭС. Рассмотрены языки описания конфигураций и сценариев работы регенеративной экспертной системы. Предложен инструмент для # визуального создания и тестирования конфигураций регенеративных экспертных систем.

Четвертая глава посвящена исследованию надежности и эффективности разработанного регенеративного подхода. В данной главе выбрана конкретная предметная область - диагностика финансового состояния предприятия и обоснована необходимость использования регенеративных экспертных систем. Данная предметная область всесторонне исследована и разработана основные модули сценарии функционирования системы, в необходимые для решения поставленной задачи. Построена концептуальная модель представления знаний. Исследована надежность построенной • регенеративной экспертной системы. Проведен сравнительный анализ разработанной системы с аналогичными существующими системами, который показал ощутимую эффективность примененного подхода. Предложена общая методика позволяющая создавать регенеративные экспертные системы для решения в произвольных предметных областях.

В приложениях приведен полный синтаксис правил регенерации, список графов, используемых для проведения вычислений экономических коэффициентов, спецификации наиболее важных СОМ-интерфейсов основных модулей регенеративной экспертной системы и фрагменты программ, реализующие ключевые возможности системы.

4.6 Выводы

1. Определена предметная область, обоснована ее актуальность и необходимость применения регенеративного подхода при построении экспертных систем в данной области.

2. Исследованы методы проведения оценки достоверности финансовой документации и оценки финансового состояния предприятия.

3. Выбрана методика анализа финансового состояния предприятия, позволяющая проводить интегральную балльную оценку финансового состояния предприятия, анализ ликвидности его баланса, анализ его прибыльности и платежеспособности, а также движения денежных средств.

4. Разработаны сценарии проведения диагностики финансового состояния предприятия. Поставленную задачу было решено решать в два этапа, на первом этапе выполняется необходимая оценка достоверности предоставленной финансовой документации, а на втором основываясь на результатах, полученных на предыдущем этапе, осуществляется диагностика текущего финансового состояния.

5. Подготовлены базы фактов и знаний, а так же механизмы логического вывода необходимые для решения поставленной задачи.

6. Проведена оценка надежности разработанной системы с точки зрения контроля вводимых и используемых данных, независимости модулей системы и сбоев, вызванных внешними факторами.

7. Выполнен анализ возможностей и эффективности разработанной РЭС и современных средств разработки экспертных систем, который выявил значительное превосходство предложенного подхода.

8. Проведен сравнительный анализ разработанной диагностической системы с аналогичными классическими системами, который показал высокую эффективность регенеративных экспертных систем.

9. Предложены общая методика и технология, позволяющие создавать регенеративные экспертные системы для решения в произвольных предметных областях.

ЗАКЛЮЧЕНИЕ

Основным научным результатом диссертационной работы является теоретическое обоснование, исследование методов построения и разработка инструментальной среды для создания регенеративных экспертных систем. Основные теоретические и практические результаты заключаются в следующем:

1. Исследованы возможности современных экспертных систем, позволяющие изменение поведения системы в зависимости от изменения параметров предметной области. Результатом данного исследования является вывод о неспособности современных экспертных систем построенных по классической архитектуре адекватно реагировать на изменения предметной области, по причине ограничений используемой архитектуры.

2. Разработаны принципы построения и структура регенеративной экспертной системы, которая, благодаря использованию модульной архитектуры, позволяет модификацию поведения системы в процессе функционирования путем изменения функционального состава системы.

3. Разработаны алгоритмы функционирования принципиально нового компонента регенеративной экспертной системы - диспетчера состояний. Данный компонент выполняет анализ текущего состояния системы, предметной области, и в зависимости от заданных сценариев выполняет перестройку системы.

4. Созданы языки описания конфигураций и сценариев, необходимые для управления процессом модификации регенеративной экспертной системы.

5. Разработана математическая модель описания поведения регенеративной экспертной системы во времени. Исследовано множество операций, необходимых для модификации модели РЭС. Выявлены и обоснованы ограничения предложенной математической модели.

6. Разработана технология динамической диспетчеризации команд принципиально важная для создания регенеративных экспертных систем. Данная технология обеспечивает предоставление пользователю различных возможностей системы зависящих от текущей конфигурации.

7. Предложен метод унифицированного подключения и использования модулей регенеративной экспертной системы, который фактически является протоколом, обеспечивающим соединение и взаимодействие отдельных модулей регенеративных экспертных систем.

8. Разработан адаптированный механизм транзакций, позволяющий проведение отказоустойчивой, с точки зрения нарушения ограничений математической модели, модификации регенеративной экспертной системы.

9. Проанализированы современные средства разработки экспертных систем и сделан выбор оптимального набора средств позволяющий осуществить эффективную разработку экспертных систем в рамках предложенного регенеративного подхода.

10. Спроектирована и реализована инструментальная среда, позволяющая создание регенеративных экспертных систем. Создан инструмент, позволяющий визуальное формирование и верификацию конфигураций РЭС.

11. Разработана и создана регенеративная экспертная система диагностики финансового состояния предприятия. Проведена оценка надежности разработанной системы с точки зрения контроля вводимых и используемых данных, независимости модулей системы и сбоев, вызванных внешними факторами.

12. Проведен анализ возможностей и эффективности предложенного регенеративного подхода и разработанной РЭС, который выявил значительное преимущество данных систем по сравнению с классическими экспертными системами.

13. Предложена общая методика и технология позволяющая создавать регенеративные экспертные системы для решения задач в различных предметных областях. Разработанная методика позволяет сократить сроки разработки системы и ее поэтапное совершенствование в процессе эксплуатации.

Работа выполнялась в рамках гранта Российского Фонда Фундаментальных Исследований №00-0196009 «Исследование и разработка принципов и методологии построения регенеративных экспертных систем» (руководитель проекта - профессор А.П.Частиков).

По теме диссертации опубликовано 20 печатных работ. Из них: учебное пособие, 8 статей и 11 тезисов докладов на Всероссийских Международных конференциях.

1. АкимиовО.Е. Дискретная математика: логика,группы, графы. М.: Лаборатория Базовых Знаний, 2001. - 376 с.

2. Алиев P.A. Интеллектуальные роботы с нечеткими базами знаний. -М.: Радио и связь, 1994. 176 с.

3. Алиев P.A. Абдикеев Н.М. Шахназаров М.М. Производственные системы с искусственным интеллектом. М.: Радио и связь, 1990. -264 с.

4. АмамияМ., ТанакаЮ. Архитектура ЭВМ и искусственный интеллект. М.: Мир, 1993. - 400 с.

5. Барфилд Э., Брайен У. Программирование «клиент-сервер» в локальных вычислительных сетях. М.: Филинъ, 1997. - 242 с. Барышников Н.П. Организация и методика проведения общего аудита. - М.: Филинъ, 1998. - 528 с.

6. БатищевД.И., Исаев С.А. Оптимизация многоэкстремальных функций с помощью генетических алгоритмов// Высокие технологии в технике, медицине и образовании: Сб. науч. трудов. Воронеж, Изд-во ВГТУ, 1998.-4-17 с.

7. БатищевД.И., Исаев С.А., Ремер Е.К. Эволюционно-генетический подход к решению задач невыпуклой оптимизации// Оптимизация и моделирование в автоматизированных системах: Сб. науч. трудов . — Воронеж, Изд-во ВГТУ, 1998. 20-28 с.

8. Белов Д.Л. База данных модулей регенеративной экспертной системы//Информационные технологии в науке, проектировании и производстве: Сб. тез. докл. V всерос. науч.-тех. конф. МВВО АТН РФ. Н.Новгород 2002. - 31 с.

9. Белов. Д.Л. Использование регенеративных экспертных систем при разработке интеллектуальных обучающих систем//Информационные технологии в образовании: Сб. тез. докл. междунар. конф. МЭСИ. -Москва 2002. 56-65 с.

10. Белов. Д.Л. Методы диспетчеризации команд регенеративной экспертной системы//Информационные технологии в науке, проектировании и производстве: Сб. тез. докл. V всерос. науч.-тех. конф. МВВО АТН РФ. Н.Новгород 2002. - 32 с.

11. Белов. Д.Л. Применение регенеративных экспертных систем в компьютерном моделировании//Компьютерное и математическое моделирование в естественных и технических науках: Сб. тез. докл. IV всерос. науч. конф. Вып 16. ИМФИ ТГУ. Тамбов 2002. - 59 с.

12. Белов Д.Л. Регенеративные экспертные системы и методология их создания//Новые информационные технологии в университетском образовании: Сб. тез. докл. междунар. науч.-практ. конф. КемГУ. -Кемерово 2002. 182-183 с.

13. Белов Д.Л. Структура, особенности и преимущества регенеративных экспертных систем//Развитие социально-культурной сферы северокавказского региона: Сб. тез. докл. науч.-тех. конф. Краснодар 2001. -41-42 с.

14. Белов Д.Л., Антипова О.Ю., Частикова В.А. Методы решения задач с конфликтными ситуациями в системах принятия решений//Труды КубГТУ Т.VII. КубГТУ. Краснодар 2000. - 153-159 с.

15. Бельченко В.Е., Дедкова Т.Г., Частиков А.П. Инструментальные средства программирования экспертных систем. — Краснодар: КубГТУ, 1994. 102 с.

16. Бордецкий А.Б., МасловВ.Г., Хавронина М.А. Декомпозиция пространства поиска в экспертных системах с количественными базами знаний//Техническая кибернетика, 1990, N 6. с. 219-224.

17. Брукс Ф. Мифический человеко-месяц или как создаются программные системы. СПб.: Символ-Плюс, 1999. - 304 с.

18. Буч Г. Объектно-ориентированный анализ и проектирование с примерами приложений на С++. М.: Бином, СПб.: Невский диалект, 1999.-560 с.

19. Вайнер Р., Пинсон Л. С++ изнутри. К.: ДиаСофт, 1993. - 304 с.

20. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. СПб.: Питер, 2000. - 384 с.

21. Гилберт С., Маккарти Б. Программирование на Visual С++. Этюды профессионалов. К.: ДиаСофт, 1999. - 368 с.

22. Гупта С. Экспертные системы способны совершенствовать стратегии управления сетями//Сети, 1989, N1 14-15 с.

23. Данилевский Ю.А., Шапигузов С.М., Ремизов H.A., Старовойтова Е.В. Аудит. М.: ФБК-Пресс, 2002. - 544 с.

24. Дейт К. Дж. Введение в системы баз данных. К.: Диалектика, 1998. - 784 с.

25. Джексон П. Введение в экспертные системы. М.: Вильяме, 2001. -624 с.

26. Дюбуа Д., Прад А. Теория возможностей. Приложения к представлению знаний в информатике. М.: Радио и связь, 1990. -280 с.

27. Искусственный интеллект. Модели и методы: Справочник//Под ред. Д.А. Поспелова. М.: Радио и связь, 1990. - 300 с.

28. Искусственный интеллект: Применение в производственных системах/Под ред. Э. Кьюсиака. М.: Машиностроение, 1991. - 544 с.

29. Искусственный интеллект. Программные и аппаратные средства//Под. ред. В.Н. Захарова, В.Ф. Хорошевского. М.: Радио и связь, 1990.-390 с.

30. Искусственный интеллект: Системы общения и экспертные системы: Справочник // Под ред. Э.В. Попова. М.: Радио и связь, 1990. -464 с.

31. Исследование операций и программирование // Под ред. Б.А. Щербакова Кишинев: Штиница, 1982 - 184 с.

32. Калиниченко Л.А., Рывкин В.М. Машины баз данных и баз знаний. -М.: Наука, 1990.-290 с.

33. Каменова М.С. Системный подход к проектированию сложных систем//Журнал доктора Добба, 1993, N1 9-14 с.

34. Кандрашина Е.Ю., Литвинцева J1.B., Поспелов Д.А. Представление знаний о времени и пространстве в интеллектуальных системах. М.: Наука, 1989.-328 с.

35. Керров Л.А., Частиков А.П., Юдин Ю.В., Юхтенко В.А. Экспертные системы: Инструментальные средства разработки. СПб.: Политехника, 1996. - 220 с.

36. Кини P.Jl., Райфа X. Принятие решений при многих критериях: предпочтения и замещения. М.: Радио и связь, 1981. - 550 с.

37. Коберниченко A. Visual Studio 6. Искусство программирования. М.: Нолидж, 1999.-256 с.

38. Ковальков Ю.А., Дмитриев О.Н. Эффективные технологии маркетинга. М.: Машиностроение, 1994. - 560 с.

39. Кодекс этики профессиональных бухгалтеров и международные стандарты аудита. М.: МЦРСБУ, Технология ЦД, 2002. - 804 с.

40. Кофман А. Введение в теорию нечетких множеств. М.: Радио и связь, 1982.-432 с.

41. Круглински Д. Основы Visual С++. М.: Русская редакция, 1997. -696 с.

42. Кузнецов В.Е. Представление в ЭВМ неформальных процедур. М.: Наука, 1989.- 160 с.

43. Левин В.И. Композиция нечетких множеств и принятие коллективных решений//Гибридные системы. Model Vision Studium: Сб. тез. докл. междунар. науч.-технич. конф. СПб.: СПбГТУ, 2001. -с. 91-94.

44. Левин Р., Дранг Д., Эделсон Б. Практическое введение в технологию искусственного интеллекта и экспертных систем с иллюстрациями на Бейсике. -М.: Финансы и статистика, 1991. -239 с.

45. Лорьер Ж-Л. Системы искусственного интеллекта. М.: Мир., 1991. -568 с.

46. Марселлус Д. Программирование экспертных систем на Турбо Прологе. М.: Финансы и статистика, 1994. - 256 с.

47. Минский М. Фреймы для представления знаний. М.: Энергия, 1979. - 152 с.

48. Нейлор К. Как построить свою экспертную систему. М.: Энергоатомиздат, 1991. - 286 с.

49. Нечеткие множества в моделях управления и искусственного интеллекта//Под ред. Д.А. Поспелова. М.: Наука, 1986. - 312 с

50. Обработка нечеткой информации в системах принятия решений//А.Н. Борисов, A.B. Алексеев, Г.В. Меркурьева и др. М.: Радио и связь, 1989.-304 с.

51. Оберг Р.Д. Технология СОМ+. Основы и програмирование. М.: Вильяме, 2000. - 480 с.

52. Одинцов Б.Е. Проектирование экономических экспертных систем. -М.: ЮНИТИ, 1996. 320 с.

53. Ope О. Теория графов. M.: Наука, 1980. - 336 с.

54. Осипов Г.С. Приобретение знаний интеллектуальными системами: Основы теории и технологии.- М.: Наука. Физматлит, 1997. 112с.

55. Осуга С. Обработка знаний. М.: Мир, 1989. - 293 с.

56. Подольский В.И., Поляк Г.Б., Савин A.A. и др.; Под ред. Подольский В.И. Аудит. М.: ЮНИТИ-ДАНА, 2000. - 655 с.

57. Пол А. Объектно-ориентированное программирование на С++. -СПб.; М.: Невский Диалект; Бином, 1999. 462 с.

58. Попов Э.В., Фоминых И.Б., Кисель Е.Б., Шапот М.Д. Статические и динамические экспертные системы. М.: Финансы и статистика, 1996.-320 с.

59. Представление и использование знаний//Под ред. Х.Уэно, М.Исидзука. М.:Мир, 1989. - 220 с.

60. Приобретение знаний//Под ред. С. Осуги, Ю. Саэки. М.: мир, 1990. - 200 с.

61. Пупков Г.М. Аудит и ревизия. Минск.: Мисанта, 2002. - 429 с.

62. Пьюполо Д. OLE: создание элементов управления. К.: BHV, 1997. -432 с.

63. Роджерсон Д. Основы СОМ. М.: Русская редакция, 1997. - 376 с.

64. Самарский A.A., Михайлов А.П. Математическое моделирование: Идеи. Методы. Примеры. М.: Физматлит, 2001. - 316 с.

65. Скобара В.В. Аудит: методология и организация. М.: Дело и сервис, 1998.-576 с.

66. Сойер Б., Фостер Д.Л. Программирование экспертных систем на Паскале. М.: Финансы и статистика, 1990. - 191 с.

67. Справочник по автоматизации. М.: Русская редакция, 1998. - 440 с.

68. Справочник по Microsoft OLE DB 1.1. M.: Русская редакция, 1997. — 624 с.

69. Татт У. Теория графов. М.: Мир, 1988, 380 с.

70. ТаусендК., Фохт Д. Проектирование и программная реализация экспертных систем на персональных ЭВМ. М.: Финансы и статистика, 1990. - 320 с.

71. Трельсен Э. Модель СОМ и применение ATL 3.0. СПб.: BHV-Санкт-Петербург, 2000. - 928 с.

72. Уотермен Д. Руководство по экспертным системам. М.: Мир, 1989. -300 с.

73. Цегелик Г.Г. Системы распределенных баз данных. Львов: СВИТ, 1990.-300 с.

74. Частиков А.П. Исследование и разработка принципов и методологии построения регенеративных экспертных систем//Наука Кубани. №5, 2000,- 15 с.

75. Частиков А.П., Антипова О.Ю., Белов Д.Л. Методы обработки некорректных ситуаций в базах знаний//Труды КубГТУ T.VIII. КубГТУ. Краснодар 2000. - 187-193 с.

76. Частиков А.П., Антипова О.Ю., Белов Д.Л. Модель представления знаний в терминах векторной геометрии//Известия ВУЗов. СевероКавказский регион. Естественные науки. Ростов-на-Дону 2000. №4. - 15-17 с.

77. Частиков А.П., Антипова О.Ю., Белов Д.Л. Применение Rete-алгоритма в механизмах логического вывода//Труды КубГТУ T.XVI. КубГТУ. Краснодар 2002. - 215-220 с.

78. Частиков А.П., Белов Д.Л. Регенеративные системы, основанные на знаниях//Инновационные процессы в высшей школе: Сб. тез. докл. VIII всероссийской науч.-практ. конф. КубГТУ. Краснодар 2002. -107-108 с.

79. Частиков А.П., Белов Д.Л. Регенеративные экспертные системы//Искусственный интеллект. Донецк 2002 №3. - 198-204 с.

80. Частиков А.П., Белов Д.Л. Регенеративные экспертные системы//Искусственный интеллект-2002: Сб. тез. докл. междунар. науч.-тех. конф. Тагонрог 2002. - 106-110 с.

81. Частиков А.П., Белов Д.Л. Регенеративные экспертные системы: принципы и методология создания//Наука Кубани. Краснодар 2002 №2.-62-63 с.

82. Частиков А.П., Белов Д.Л. Структура регенеративной экспертной системы//Инновационные процессы в высшей школе Сб. тез. докл. VII междунар. науч.-практ. конф. КубГТУ. Краснодар 2001. - 107 с.

83. Частиков А.П., Белов Д.Л., Антипова О.Ю. Представление знаний с использованием трехмерных графов//Труды КубГТУ T.VIII. КубГТУ. Краснодар 2000. - 278-283 с.

84. Частиков А.П., Белов Д.Л., Антипова О.Ю. Пространства знаний в регенеративных экспертных системах//Труды КубГТУ T.XVI. КубГТУ. Краснодар 2002. - 239-247 с.

85. Частиков А.П., Гаврилова Т.А., Белов Д.Л. Разработка экспертных систем. Среда CLIPS. СПб.: BHV-Санкт-Петербург, 2003. - 608 с.

86. Частиков А.П., Леднева И.Ю. Нечеткие экспертные системы//Наука Кубани. Краснодар, 2000. - № 6. - с. 58-63.

87. Чеппел Д. Технология ActiveX и OLE. М.: Русская редакция, 1997. -320 с.

88. Экспертные системы для персональных компьютеров: методы, средства реализации: Справ. Пособие//В.С. Крисевич, Л.А. Кузьмич, A.M. Шиф и др. Минск: Вышэйшая школа, 1990. - 197 с.

89. Элджер Дж. С++: библиотека программиста. СПб: Питер, 1999. -320 с.

90. Элти Дж., Кумбс М. Экспертные системы: концепции и примеры. -М.: Финансы и статистика, 1987. 190 с.

91. Baldwin J.F. Combining Evidences for Evidential Reasoning//International Journal of Intelligent Systems, 1991, Vol.6, No.6. p.p. 569-616.

92. Basal C. et.al. Combining Multiple Knowledge Bases//IEEE Transactions on knowledge and data engineering, 1991, Vol.3, No.2. p.p. 208-220.

93. Berry D.C., Hart A.E. Evaluating Expert Systems//Expert Systems, 1990, Vol.7, No.4. p.p. 199-207.

94. Carver N., Lesser V. The evolution of blackboard control architectures.// Expert System With Application: Special Issue on the Blackboard Paradigm and its Applications, 1994, Vol.7, No.l. p.p. 1-30.

95. CLIPS Reference Manual Volume I: Basic Programming Guide. -Houston. Software Technology Branch. 1998. 376 p.

96. CLIPS Reference Manual Volume II: Advanced Programming Guide. -Houston. Software Technology Branch. 1998. 206 p.

97. CLIPS Reference Manual Volume III: Interfaces Guide. Houston. Software Technology Branch. 1998. - 100 p.

98. Corkill D.D. Blackboard Systems//AI Expert, 1991, Vol.6, No.9. p.p. 4047.

99. Dixit V.V., Moldovan D.I. The Allocation Problem in Parallel Production Systems//Journal of parallel and distributed computing, 1990, Vol.8, No.l, p.p. 20-29.

100. Erman L., Hayes-Roth R., Lesser V., Reddy D. The HEARSAY-II speech understanding system: integrating knowledge to resolve uncertainty//Computing Surveys, 1990, Vol.12, No.2. p.p. 213-253.

101. Giarratano J. CLIPS user's guide. Houston. Software Technology Branch. 1998,- 154 p.

102. Harmon P. A brief overview of software methodologies//Intelligent Software Strategies, 1991, Vol.7, No.l.-p.p. 1-16.

103. Harmon P. CASE and future of Expert Systems building tools//Intelligent Software Strategies, 1991, Vol.7, No.4. - p.p. 1-13.

104. Harmon P. Expert Systems building tools//Intelligent Software Strategies, 1991, Vol.7, No.7. - p.p. 1-12.

105. Harmon P. What's happening in expert systems and AI?//Intelligent Software Strategies, 1991, Vol.7, No.8. p.p. 4-12.

106. Hilal D.K., Soltan H. A suggested descriptive framework for the comparison of knowledge based systems methodologies//Expert Systems, 1991, Vol.8, No.2. - p.p. 107-114.

107. Jae K. Lee, June S. Hong. A regenerative expert system approach for the maintenance of expert systems//Expert System With Application. 1998. No. 14. - cTp. 313-321.

108. Nii H.P. Blackboard Systems (Part 1)//AI Magazine, 1986, Vol.7, No.2. -p.p. 38-53.

109. Nii H.P. Blackboard Systems (Part 2)//AI Magazine, 1986, Vol.7, No.3. -p.p. 82-106.

110. Preece A.D. Towards a methodology for evaluating expert systems//Expert Systems, 1990, Vol.7, No.4. p.p. 215-223.

111. Rice J. The advanced architectures project//AI Magazine, 1989, Vol.10, No.4.-p.p. 26-39.

112. Simmons A.B., Chappel S.G., Artificial Intelligence Definitions and Practice//IEEE Journal of Oceanic Engeneering, 1998, Vol.13, No.2. -p.p. 14-42.

113. Shoval P., Zohn S. Binary-relationship integration methodology//Data & Knowledge engineering, 1991, Vol.6, No.3. p.p. 225-250.

114. Stanley Y.M. Su, Jong H. Park. An Integrated System for Knowledge Sharing Among Heterogeneous Knowledge Derivation Systems//Journal of Applied Intelligence, 1991, Vol. 1, No.3. p.p. 223-245.

115. Summers E. ES: A Public Domain Expert System//BYTE, 1990, No. 10. -p.p. 289-292.

116. Toru I. Parallel Rule Firing in Production Systems//IEEE Transactions on Knowledge and Data Engineering, 1991, Vol.3, No.l. p.p. 11-17.

117. TreurJ. On the Use of Reflection Principles in Modeling Complex Reasoning//Interriational Journal of Intelligent Systems, 1991, Vol.6, No.3. p.p. 277-294.

118. Zhang C., Bell D.A. Hecodes: a framework for HEterogeneous Cooperative Distributed Expert Systems//Data & Knowledge Engineering, 1991, Vol.6, No.3. p.p. 251-273.