автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Модели, методы и программные средства вывода в интегрированных экспертных системах

На правах рукописи

Демидов Дмитрий Витальевич

МОДЕЛИ, МЕТОДЫ И ПРОГРАММНЫЕ СРЕДСТВА ВЫВОДА В ИНТЕГРИРОВАННЫХ ЭКСПЕРТНЫХ СИСТЕМАХ

Специальность 05.13.11 - математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Автор:

00316043Э

Москва - 2007

Работа выполнена в Московском инженерно-физическом инстшуге (государственном университете)

Научный руководитель. доктор технических наук, профессор

Рыбина Галина Валентиновна

Официальные оппоненты: доктор технических наук, профессор

Кузнецов Олег Петрович

кандидат технических наук, доцент Тарасов Валерий Борисович

Ведущая организация: Московский энергетический институт

(технический университет)

Защита состоится «31» октября 2007 г. в 14 час. 00 мин. на заседании диссертационного совета Д 212 130.03 при Московском инженерно-физическом институте (государственном университете) по адресу Москва, Каширское ш , 31 (конференц-зал, 2 этаж главного корпуса)

С диссертацией можно ознакомиться в библиотеке Московского инженерно-физического института (государственного университета).

Отзывы в двух экземплярах, заверенные печатью, просьба направлять по адресу. Каширское ш, 31, Ученый Совет МИФИ.

Автореферат разослан « 2 5 » сентября 2007 г.

Учёный секретарь /_________Шумилов Ю Ю

диссертационного совета 1/1/1'¡у"

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследований. Проблемам обработки знаний в таком классе интеллектуальных систем как экспертные системы традиционно уделялось много внимания, поскольку эффективность процесса интерпретации знаний напрямую влияет на качество получаемых решений С появлением более сложного и широкого класса экспертных систем — интегрированных экспертных систем (ИЭС), связанным со сближением парадигм искусственного интеллекта и традиционного программирования, значимость и актуальность проблемы эффективности и корректности вывода решений только возросла Это связано с многообразием архитектур ИЭС, возрастанием числа стадий и итераций в моделях жизненного цикла построения отдельных компонентов, повышением доли недостоверной информации в базах знаний и др

Значительный вклад в исследование и решение проблем построения экспертных систем и ИЭС внесли отечественные учёные О И Ларичев, Д А Поспелов, Э В Попов, Г С. Осипов, Г В Рыбина, О П Кузнецов, А П Еремеев, И Б Фоминых, Т.А Гаврилова, В Ф Хорошевский, В Л Стефанкж, Б А Кобринский, В Н Вагин, В Б Тарасов, А Н. Аверкин и другие, а также ряд зарубежных учёных Л Заде, У Клэнси, Э Шортлиф, Ф Форсайт, Ф Хейес-Рот, Д Ленат, Д. Уотермен, К. Нейлор, П Джексон и др

Исследование и классификация знаний привели к появлению большого числа подходов для выявления и представления так называемых НЕфакторов знаний (термин введен А С Нариньяни), а также математических аппаратов для их обработки Хотя для отдельных НЕ-факторов знаний разработаны методы их выявления и представления, а также мощные математические аппараты их обработки, существующие подходы учитывают в основном отдельные аспекты обработки НЕ-факторов в процессе принятия решений Проведённый анализ существующих методов обработки знаний, содержащих НЕ-факторы, методов вывода, а также методов построения средств вывода для ИЭС выявил ряд недостатков, важнейшими из которых являются ограниченность области применения некоторых методов и отсутствие в целом решения проблемы совместной обработки НЕ-факторов знаний

В диссертации использован практический опыт разработки прикладных ИЭС на основе задачно-ориентированной методологии (автор Г В Рыбина), который позволил выявить ряд дополнительных проблем, связанных с процессом вывода Основными проблемами являются

• необходимость совместной обработки неопределенных, неточных и нечетких знаний, эксплицитно проявляющихся в рассуждениях экспертов;

• необходимость интеграции средств вывода с разнородными программными средствами в составе ИЭС (в силу масштабируемости их архитектуры), которые в процессе вывода могут являться как источниками, так и потребителями данных;

• существенный рост вычислительных затрат на поиск решения при возрастании объемов баз знаний;

• необходимость гибкой настройки средств вывода на решаемую задачу.

Современные коммерческие инструментальные средства для создания интеллектуальных систем, такие как Level 5 Object, G2, Clips, Exsys и др. в полной мере не решают обозначенные проблемы Практическая значимость ИЭС и необходимость использования в них мощных средств вывода обуславливает актуальность данного диссертационного исследования.

Диссертационная работа посвящена решению проблемы обработки знаний, содержащих различные НЕ-факторы знаний, и повышению эффективности вывода в ИЭС в рамках задачно-ориентированной методологии автоматизированного построения прикладных ИЭС, предложенной Г В Рыбиной в середине 90-х годов

Объектом исследования являются средства вывода в ИЭС, обеспечивающие процессы поиска решения задач на основе ИЭС

Предметом исследования являются методы вывода на знаниях, содержащих неопределенность, неточность и нечеткость, методы совместной обработки недостоверных знаний; методы представления и интерпретации декларативных и процедурных знаний в ИЭС, подходы к построению средств вывода для ИЭС

Целью данной диссертации является исследование и разработка моделей, методов и программных средств вывода в ИЭС Для достижения поставленной цели в диссертации решены следующие основные задачи

• разработан метод вывода, предусматривающий совместную обработку знаний, содержащих неопределенность, неточность и нечеткость,

• на основе анализа существующих методов и средств вывода, подходов к разработке средств вывода выявлена совокупность требований к модели представления знаний, модели рабочей памяти средств вывода, разработана модель вычислений, производимых средствами вывода,

• разработаны алгоритмы взаимодействия средств вывода с подсистемой объяснения, базами данных,

• выполнен анализ системных требований и проектирование инструментальных средств вывода в соответствии с заданно-ориентированной методологией;

• разработаны программные средства вывода, включенные в состав инструментального комплекса АТ-ТЕХНОЛОГИЯ третьего поколения,

• проведена экспериментальная апробация предложенных алгоритмов и разработанных инструментальных программных средств вывода для задач проектирования корпоративных информационно-вычислительных сетей и медицинской диагностики

Методы исследования. Для решения поставленных задач в работе использованы методы искусственного интеллекта (модели представления и обработки знаний, методы инженерии знаний и нечеткой логики), методы дискретной математики (математической логики, математической лингвистики, теории множеств, теории графов), системного анализа, теории построения трансляторов, теории принятия решений

Научная новизна исследования состоит в следующем

1 Разработан оригинальный метод совместной обработки знаний, который отличается тем, что позволяет производить вывод в условиях одновременного наличия знаний с неопределённостью, неточностью и нечеткостью

2 Разработан оригинальный метод дефаззификации многомодальных функций принадлежности лингвистических переменных, который отличается от классических методов тем, что в качестве результата дефаззификации вычисляется в общем случае несколько четких значений, а не одно

3 Предложена новая комбинированная стратегия ведения уточняющих поддиалогов на основе статистического анализа базы знаний, позволяющая более эффективно формировать конфликтное множество гипотез по сравнению с существующими стратегиями

4 Предложена расширенная модель представления знаний в ИЭС, позволяющая представлять декларативные и процедурные знания и метазнания, и опирающаяся на объектно-ориентированную концепцию структурирования проблемной области

5 Разработаны средства вывода (универсальный решатель), включенные с состав инструментального комплекса АТ-ТЕХНОЛОГИЯ, обладающие способностью взаимодействия с разнородными программными средствами в составе ИЭС и обеспечивающие автоматическое построение объяснений получаемого решения Разработан оригинальный программный инструментарий инженера по знаниям, включенный с состав комплекса АТ-

ТЕХНОЛОГИЯ, предназначенный для отладки средств вывода с возможностью управления процессом вывода в пошаговом режиме.

Практическая значимость. Практическая значимость проведенных исследований и полученных результатов заключается в создании эффективных моделей, методов и программных средств вывода для ИЭС Важность решения поставленных задач состоит в повышении точности решений, получаемых с помощью ИЭС, снижении времени вывода при поиске решений в ИЭС, сокращении сроков создания ИЭС.

Практическая значимость работы подтверждается использованием разработанного программного обеспечения в составе инструментального комплекса АТ-ТЕХНОЛОГИЯ, а также в составе нескольких прототипов ИЭС в области проектирования и медицинской диагностики

Достоверность научных результатов Достоверность разработанных методов и алгоритмов обработки знаний в ИЭС в рамках задачно-ориентированной методологии подтверждается соответствием теоретических и экспериментально полученных данных о качественных и количественных характеристиках работы созданных средств вывода, результатами сравнения с существующими средствами вывода, а также актами о практическом внедрении и использовании

Реализация результатов. Результаты работы использованы в НИР, выполненных при поддержке РФФИ в лаборатории "Системы искусственного интеллекта" кафедры кибернетики МИФИ (ГУ) (исполнитель по проектам №00-01-00679, №06-01-00242, №03-01-00924). Результаты диссертации использованы в проекте РФФИ №04-07-90200, выполненном совместно с ФГУП «Концерн «СИСТЕМПРОМ»

Разработанные программные средства вывода используются

• в составе исследовательского прототипа ИЭС для проектирования и моделирования корпоративных информационно-вычислительных сетей, применяемого в исследованиях и разработках ФГУП «Концерн «СИСТЕМПРОМ» (акт об использовании),

• в составе прототипа обучающей ИЭС для диагностики заболеваний дыхательных путей в детской городской поликлинике №109 СЗАО г Москвы (акт об использовании)

Созданные инструментальные программные средства в составе комплекса АТ-ТЕХНОЛОГИЯ используются в учебном процессе Московского инженерно-физического института (МИФИ) на кафедре Кибернетики и Российского государственного социального университета (РГСУ) на кафедре Социальной информатики, что подтверждается

соответствующими актами о внедрении, а также использовались при создании учебного пособия "Лабораторный практикум по курсу "Проектирование систем, основанных на знаниях" (авторы Г.В Рыбина, Д В Демидов, М Г Иващенко, М : МИФИ, 2007).

Апробация работы. Основные положения и результаты диссертационного исследования докладывались и обсуждались на научных конференциях и семинарах.

1 "Интегрированные модели и мягкие вычисления в искусственном интеллекте". И-й Международный научно-практический семинар, Коломна, 2003 г;

2 "Интеллектуальные системы" (AIS-05) V Международная конференция, Геленджик, 2005 г,

3. Научные сессии МИФИ (ГУ), г Москва, 2002, 2003,2004,2005, 2006,2007 гг,

4 "Современнные технологии в задачах управления, автоматики и обработки информации" XIV международный научно-технический семинар, Алушта, 2005 г

Публикации. По теме диссертационного исследования опубликовано 7 печатных работ, в том числе одна статья в журнале, включённом ВАК РФ в перечень ведущих рецензируемых научных журналов и изданий, одна статья в периодическом сборнике и пять докладов в сборниках трудов конференций

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, библиографического списка (99 наименований) и приложений Основная часть диссертации содержит 135 страниц машинописного текста, включая 46 рисунков, 26 таблиц.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы диссертации, ее научная новизна и практическая значимость, сформулирована цель работы.

В первом разделе рассматриваются проблемы построения средств вывода для ИЭС Поскольку подход к построению средств вывода во многом определяет архитектуру, состав, набор и свойства методов и алгоритмов, реализованных в средствах вывода, то анализируются несколько исторически сложившихся подходов к разработке средств вывода для экспертных систем

Проводится обзор методов представления и обработки информации, содержащей НЕ-факторы знаний Поскольку на сегодняшний день выявлено довольно большое количество НЕ-факторов знаний, то исследовались только те из них, для которых в рамках задачно-ориентированной методологии

построения ИЭС удается построить автоматизированные средства приобретения знаний, а именно неопределенность, неточность, нечеткость и недоопределенность частных знаний Среди основных проблем совместной обработки знаний, содержащих НЕ-факгоры, в интегрированных экспертных системах можно выделить следующие:

• классический вывод не учитывает нечеткость некоторых параметров, а нечеткий вывод требует фаззификации всех параметров и не учитывает другие виды НЕ-факторов,

• применение математических методов обработки недоопределенности неуместно для решения неформализованных задач в ИЭС;

• если в ходе вьюода некоторый параметр получает значение в виде многомодальной функции принадлежности, то классические методы дефаззификации в ряде случаев дают неадекватный результат в виде одного четкого значения,

• если в ходе вывода некоторый параметр получает одновременно неточное, нечеткое и неопределенное значение, то выбор метода интерпретации неоднозначен, в частности, неясно как интерпретировать нечеткое значение с неопределенностью, описываемой интервалом,

• проблема установления характеристик результатов арифметических и логических операций, а также импликаций, аргументы которых несут недостоверную информацию разного рода;

• проблема объединения двух свидетельств, несущих недостоверную информацию разного рода.

Проводится сравнение характеристик средств вывода в различных инструментальных средствах для построения экспертных систем. В частности, сравниваются подходы к реализации базовых методов вывода — сопоставления, разрешения конфликтов, выдвижения гипотез, ведения уточняющих поддиалогов. Сравниваются способы организации рабочей памяти, передачи данных и управления при взаимодействии средств вывода с различными источниками данных Рассматриваются проблемы перехода от экспертных систем к ИЭС, в частности проблемы построения объяснений

• проблема нескольких источников данных при формировании ответов на вопрос "Как был получен этот факт?"

• проблема сложной посылки правила (с дизъюнкцией) и длинной посылки, из-за чего поясняющий текст неоднозначен и громоздок для восприятия

В архитектуре ИЭС к традиционным компонентам экспертных систем добавляется все разнообразие программных компонентов, реализующих

методы прикладной математики и информационных систем Поэтому при построении средств вывода для ИЭС необходимо учитывать тот факт, что в процессе вывода в ИЭС могут использоваться несколько гетерогенных источников и/или потребителей данных, таких как базы данных, пакеты прикладных программ, системы имитационного моделирования и др (Рис 1)

Сложность ИЭС и более широкая область применения по сравнению с традиционными экспертными системами обусловила необходимость создания таких инструментальных средств, средства вывода которых обладали бы большой мощностью и универсальностью Задачно-ориентированная методология построения ИЭС предполагает, что разработанные на ее основе инструментальные средства поддерживают все этапы жизненного цикла в рамках единого системного подхода Для удовлетворения описанным выше требованиям, средства вывода в составе базовых инструментальных средств должны, с одной стороны, сочетать в себе множество методов обработки знаний разного вида, а с другой - без вмешательства разработчика инструментальных средств позволять вносить изменения в алгоритмы вывода, обеспечивая достаточную гибкость и обладая разумной сложностью внесения изменений.

Очевидно, интеграция всех известных методов обработки знаний в рамках одной инструментальной среды невозможна в виду их многообразия и гетерогенности Однако, ориентированные на модели и методы решения типовых задач методы автоматизированного извлечения знаний и модель

Рис 1. Место интегрированных экспертных систем

представления знаний, описанные в заданно-ориентированной методологии, ограничивают множество методов обработки знаний до разумных пределов Поэтому приемлемым решением является включение в состав инструментальных средств универсальной машины вывода, реализующей набор модифицируемых алгоритмов обработки знаний, а также способной обрабатывать вместе с достоверными знаниями неопределенность, неточность и нечеткость

Во втором разделе представлены теоретические, методологические и алгоритмические основы построения средств вывода и обработки знаний в ИЭС. В диссертации предлагается обобщенная модель вывода, в который учитывается наличие в базе знаний недостоверной информации разного рода (Рис 2) Особенностью данной модели является то, что вычисления с учетом НЕ-факторов, фаззификация и дефаззификация выполняются по мере необходимости в ходе вывода

Выборка активных правил

>

<2.

Множество фактов

Сопоставление

Г Преобразования НЕ-факторов

Фаззификация ^

База знаний

Множество целей

12.

Конфликтное множество

Разрешение конфликтов Ь*

Исполняемое правило

Выполнение Л (модификация рабочей памяти) )

ТЕ

Дефаззификация

Рис. 2 Модель вывода с учетом обработки НЕ-факторов знаний

В целях максимального использования результатов предыдущего сопоставления на каждом шаге работы средства вывода выполняют

частичные вычисления истинности посылки правила на основе изменений рабочей памяти, где значение истинности принадлежит множеству [0, 1] и NE, где NE (not evaluated) соответствует случаю, когда значение не может быть вычислено из-за нехватки фактов в рабочей памяти Причем, (О, 1] &NE = NE 1 1 NE= 1 ~NE = NE

О & NE = 0 [0, 1) | NE = NE

В отличие от классической модели вывода этап сопоставления дополняется преобразованиями НЕ-факторов знаний в целях совместной обработки знаний, содержащих недостоверную информацию. При необходимости используется ряд методов фаззификации четких величин, несущих различную недостоверную информацию. По результатам анализа экспериментальных данных, полученных в лаборатории "Системы искусственного интеллекта" в ходе разработок прототипов ИЭС медицинской и технической диагностики, знания с нечеткостью составляют 1-2% от общего объема базы знаний В связи с этим, в отличие от нечеткого вывода не происходит полной фаззификации четких значений, так как использование только лишь методов нечеткого вывода не является адекватным и такой подход неприемлем В конце вывода осуществляется дефаззификация соответственно только тех значений, которые в ходе вывода были преобразованы к нечетким

Для того чтобы максимально ускорить процесс выбора лучшего правила из конфликтного набора в диссертации предлагается использовать многокритериальный алгоритм разрешения конфликтов с переносом вычислений оценки полезности правил на этап сопоставления Основными идеями являются переход от неупорядоченного конфликтного набора к упорядоченному по полезности правил и сохранение конфликтного набора между шагами вывода Оценивается общность правил, новизна фактов, достоверность выводимых утверждений.

В диссертации предлагается стратегия ведения уточняющих поддиалогов под управлением алгоритма подтверждения гипотез на основе последовательного применения трех стратегий подтверждения гипотез опровержение, дифференциация и верификация Основными эвристиками, положенными в основу стратегии опровержения и дифференциации, являются следующие

Шаг 1 Выявление значений наиболее часто встречающихся в правилах параметров, так как они больше других уменьшают неопределенность посылок группы правил Например, если такой симптом как "наличие кашля у пациента" встречается в двадцати правилах, а "наличие жара у пациента"

только в пяти, то интуитивно информация о кашле более важна в смысле охвата большего числа ситуаций.

Шаг 2. Выяснение значений тех параметров, которые могут принимать наибольшее число значений, так как эти параметры могут участвовать в большем числе конкурирующих гипотез Информация о значениях таких параметров позволит разделить гипотезы на группы согласующихся и не согласующихся гипотез.

Шаг 3. Выяснение значений тех параметров, которые входят в конъюнкции верхних уровней в посылках правил. Следует отметить, что для повышения скорости разбора конъюнкция свидетельств (утверждений) вида "а & b & с & d" преобразовывается в максимально "вытянутое" дерево "&(а, &(b, &(с, d)))", упорядоченное по важности свидетельств

Шаг 4. Сбор свидетельств, являющихся индикаторами гипотез, присутствующих в посылках двух и более правил вида "а, & В -> Нго" и "~а, & С Н„", где Нт, Н„ - гипотезы, В = bt& .. &bns С = с,& . &с„ -конъюнкты, а, — взвешенное свидетельство При получении информации о свидетельстве а, интерпретатор может отбросить одно из правил

В диссертации предлагается способ представления знаний и метазнаний в рабочей памяти и модель интерпретации (модель вычислений, производимых средствами вывода). На Рис. 3 приведена структура рабочей памяти средств вывода.

Рабочая память состоит из трех разделов внутреннего представления базы знаний, динамического раздела со служебными подразделами и метараздела, содержащего метазнания о выводе, интерпретируемые самими средствами вывода. При этом в мегабазу знаний выносятся ключевые моменты принятия решений, например, стратегии разрешения конфликтов, ведения уточняющих поддиалогов, выдвижения гипотез, преобразования разных видов недостоверных знаний, а все механизмы стандартных вычислений остаются реализованными внутри средств вывода Использование метабазы знаний (как декларативных, так и императивных) позволяет решить проблему гибкости и модифицируемости средств вывода

В диссертации разработаны правила совместной обработки недостоверных знаний По отдельности обработка неопределенности, неточности и недоопределенности сводится к обработке соответствующих коэффициентов, приписываемых правилам и утверждениям, а для обработки нечеткости используется аппарат функций принадлежности

Выделяются пары сопоставляемых сущностей, для каждой из которых определяется своя методика сопоставления условие правила и факт в рабочей

памяти, действие правила и цель (гипотеза) в рабочей памяти, числовой и строковый параметр, числовой и нечеткий параметры, строковый и нечеткий параметры При этом числовой параметр может дополнительно нести в себе элементы неопределенности и неточности

Рис 3 Структура рабочей памяти средств вывода в ИЭС

В Табл 1 указываются типы результатов операций над аргументами различных типов при условии, что вычисление результата возможно В таблице символ #ND (not defined) означает, что операции с аргументами невозможны, ФП - функция принадлежности

В диссертации для интерпретации посылок и действий правил вводятся следующие операции арифметические, логические, сравнения для различных типов операндов Для расчета результатов арифметических операций для числовых параметров применяется классическая арифметика с неопределенностью или неточная арифметика с неопределенностью, если хотя бы один из операндов неточно определен Фаззификация и принцип расширения Заде применяется, если хотя бы один из операндов представлен в виде функции принадлежности Для лингвистических переменных, значения которых представлены лингвистическими термами (строками), выполняется замена термов на соответствующие им функции принадлежности и также применяется принцип расширения Заде

Для расчета результата логических операций применяется бесконечпозначная логика, где значение истинности принадлежит множеству [0;1] ^ МЕ, Фаззификация и нечеткая логика применяются, если хотя бы один из операндов представлен в виде функции принадлежности.

Табл. I. Типы результатов операций

Apr. В Apr. А число неопределенное значение неточное значенне ФП строка - имя ФП строк*

число число

неопределенное значение неопределенное значение неопределенное значение ■ р^й ■ '■ ' - V. - S

неточное значение неточное значение неопределенное и неточное значение неточное значение ■ ■-■'V ■ . ■ V-' -- 3 а

Ф11 ФП ФП ФП ФП

с 1 рока - имя ФИ ФП ФП ФП ФП ФП ■ .> - ■■

строка #ND #ND #ND #ND SJND прока

Для расчета результата операций сравнения применяется метод неточных сравнений с учетом неопределенности, а также нечеткие сравнения, где значения истинности также принадлежат множеству [0;1] о НЕ. Операции над строками делятся па две группы: лексикографические сравнения, дающие результат булевского типа, и операции преобразования строк, дающие результат строкового типа. Арифметические и логические операции над строками не определяются.

В диссертации комбинируются методы фаззификации на основе преобразований функций принадлежности.

Фаззификация неопределённости. Неопределённость представляется факторами уверенности, приписываемыми значению параметра. Если в условии правила параметрам приписываются факторы уверенности и на момент вывода параметры имеют нечёткие значения, то при вычислении результата логической или арифметической операции неясно, каким образом факторы уверенности влияют на результат операции. Для решения этой проблемы применяется метод преобразования функции принадлежности в зависимости от приписанного к ней фактора уверенности, который принимает значение из отрезка [О, !]. В этом случае считается, что фактор уверенности выражает уверенность в том, что обрабатываемый параметр

описывается именно той функцией принадлежности, которая приведена в условии правила

Если фактор уверенности равен 1, то преобразование функций принадлежности не требуется. Если фактор уверенности меньше 1, то все точки функции принадлежности необходимо подвергнуть размытию относительно уровня 0 5 по формуле:

ц,' = + 0 5(1 -к) = (5)к + 0.5, где (Л, — исходная точка функции принадлежности, ц,' — точка функции принадлежности, получаемая в процессе преобразования, к — фактор уверенности

Фаззификация неточности. Неточность представляется при помощи интервала [хь х2], т е значением неточного параметра в центре интервала хс и относительной погрешностью значения 8 В целях простоты для фаззификации неточности используются треугольные функции принадлежности, вид которых определяется с учетом относительной погрешности 6 следующим образом:

ц(х) = {<х - х*6,0>, <х, 1>; <х + х*8,0>}

Таким образом, чем больше относительная погрешность неточной величины, тем шире основание треугольной функции принадлежности.

Фаззификация недоопределё'нности. Отдельные виды недоопределённости на этапе приобретения знаний в задачно-ориентированной методологии сводятся к неточности, поэтому нет необходимости оперировать недоопределенными значениями в чистом виде Поскольку неточные значения представимы в виде интервала, то недоопределенность может быть сведена в процессе вывода к нечеткости

Если какой-либо параметр имеет одновременно неточное и неопределенное значение (Рис 4), то соответствующая функция принадлежности рассчитывается с помощью суперпозиции приведенных выше преобразований по формуле'

ц(х) = {<х - х*е, 0 5*(1-к)>, <х, 0 5*(1+к)>, <х + х*£, 0 5*(1-к)>} Правомерность преобразований обусловлена целью выполнять вывод в таких случаях, где традиционные методы обработки знаний, содержащих НЕфакторы, неадекватны или применение известных методов невозможно Адекватность предложенных методов преобразований может быть оценена процентным соотношением числа адекватных преобразований (совпадающих с интуитивными соображениями) ко всему числу преобразований.

В диссертации предлагается оригинальный метод дефаззификации многомодальных функций принадлежности Известные методы дефаззификации функций принадлежности в целом основываются на вычислении центра тяжести унимодальной функции и вычисляют только одну четкую величину Однако, подобный подход оказывается неприемлемым в некоторых случаях при дефаззификации многомодальных функций принадлежности, когда одно четкое значение, получаемое в результате дефаззификации, не является адекватным отражением исходной функции принадлежности

Рис 4 Фаззификация значения с неопределенностью и неточностью

На Рис 5 иллюстрируется случай, когда ожидаемый интуитивно результат резко отличается от фактически получаемого бимодальная функция принадлежности, представляющая значение "ненормальная температура ", максимальна в точках 35,0 и 39,0

пониженная субфебрильная р(Т) <1 ^ нормальная ^

центр тяжести криволинейной трапеции

ожидаемые езультаты

35 0 36 6 39 0 т

Лингвистическая переменная "Температура тела"

фактический результат

35 0 36 6 39 0 7 Ненормальная температура

Рнс 5 Пример многомодальной функции принадлежности

Критерием необходимости многомодальной дефаззификации функции принадлежности может служить признак того, что геометрический центр тяжести криволинейной трапеции под функцией принадлежности не

принадлежит самой криволинейной трапеции если ус > fix,.), где т (х0, ус) -центр тяжести криволинейной трапеции под функцией принадлежности, то f[x) - многомодальная.

Отметим, что функции, для которых справедливо ус < f(xc), вовсе не обязательно являются унимодальными. Однако, для таких функций принадлежности нет смысла рассчитывать несколько четких значений вместо одного, так как степень уверенности четкого значения, рассчитанного по классическому методу, будет сравнима со степенями уверенности четких значений, рассчитанных по предлагаемому методу дефаззификации многомодальных функций принадлежности.

В случае невыполнения критерия, функция принадлежности дефаззифицируется по методу центра тяжести. В случае выполнения критерия функция принадлежности разбивается в точке центра тяжести на две части, разделяясь, таким образом, на две функции принадлежности, лежащие в интервалах [а, хс] и [х« Ь]. Далее к каждой из полученных функций принадлежности применяется аналогичная процедура. Результатом дефаззификации является совокупность полученных четких значений

Для кусочно-линейных функций принадлежности формулы расчета координат центра тяжести криволинейной трапеции выглядят следующим образом

1 " x'f 1 n Ус =~t, J f'Mdx = ) + /2(*„,) + fix,)/(*,_, -*„,)

■¿O 1=2 Xl l ""J 1-2

Разработанный метод дефаззификации позволяет получать из функции принадлежности в общем случае более одного четкого значения, что для многомодальных функций является адекватным, в то время как результаты дефаззификации по классическим методам оказываются неприемлемыми Метод применим для любого представления функций принадлежности, однако кусочно-линейное представление требует наименее трудоемких вычислений.

В диссертации предложена модель представления знаний, в которой объекты обобщаются до классов, добавляются методы классов, добавляются императивные конструкции (циклы и тп), добавляются конструкции для представления начальной ситуации (первичная объектная структура в рабочей памяти, включая цели и целевые утверждения), добавляются формализмы представления метазнаний (описаний алгоритмов обработки знаний)

В диссертации предлагается расширенная модель объяснений Благодаря расширению множества источников фактов, используемых при формировании объяснений, удается детализировать формируемые объяснения и расширить множество объясняемых действий ИЭС, что в целом повышает уровень доверия конечного пользователя к ИЭС, а также способствует достижению большего взаимопонимания между ИЭС и конечным пользователем

В третьем разделе описываются проектирование и программная реализация универсального решателя комплекса АТ-ТЕХНОЛОГИЯ Рассматривается архитектура и программные решения На Рис 6 показано, что универсальный решатель включает следующие модули управляющий модуль, интерпретирующий модуль, отладочный модуль, интерфейсный модуль, инициализирующий модуль, рабочая память

В задачи управляющего модуля входит применение основных механизмов вывода (сопоставления для прямого и обратного вывода, разрешения конфликтов, генерации целей и гипотез, выбора уточняющих поддиалогов)

Интерпретирующий модуль исполняет действия правил и процедур, а также обеспечивает вызов функций внешних программных средств, оформленных в виде СОМ-объектов через программный интерфейс IDispatch Кроме того, интерпретирующий модуль отвечает за применение метазнаний

Рабочая память представляет собой иерархию объектов для представления данных, требуемых средствам вывода в ходе сеанса консультации с ИЭС, включая ряд служебных контейнеров для работы управляющего модуля.

Модуль инициализации вывода загружает базы знаний из универсального XML-представления во внутреннее представление в рабочей памяти, а также загружает начальную ситуацию для вывода с классной доски

Отладочный модуль входит в состав универсального решателя как инструмент разработчика и реализует ряд служебных механизмов

• пошаговое выполнение вывода, включая откат вывода на шаг назад;

• прямой доступ к рабочей памяти- добавление, редактирование, удаление фактов, целей и целевых утверждений (дерева гипотез),

• просмотр конфликтного набора продукций, трассы вывода;

• сохранение и восстановление рабочей памяти на любом шаге вывода

Рис. 6 Архитектура универсального решателя комплекса АТ-ТЕХНОЛОГИЯ

Интерфейсный модуль обмена сообщениями обеспечивает взаимодействие средств вывода с другими программными средствами в составе прототипа ИЭС, а также с инструментальными средствами комплекса АТ-ТЕХНОЛОГИЯ

На Рис 6 также показаны служебные компоненты, входящие в состав ИЭС: брокер объектов и классная доска Брокер объектов является служебным компонентом, осуществляющим передачу управления между программными средствами в составе ИЭС методом передачи сообщений Классная доска также является служебным компонентом и представляет собой хранилище общих данных со средствами доступа к ним

Через интерфейсный модуль осуществляется передача данных и управления между программными средствами ИЭС Его реализации в разных программных средствах, разработанных в соответствии с требованиями инструментального комплекса АТ-ТЕХНОЛОГИЯ, во многом схожи и отличаются только набором обрабатываемых и отсылаемых сообщений Для универсального решателя основными управляющими сообщениями являются сообщения диалоговому компоненту, инициирующие уточняющие подциалоги, а характерными данными являются начальная ситуация и трасса вывода. Посредством интерфейсного модуля универсальный решатель взаимодействует также с подсистемой объяснения

Универсальный решатель разработан в среде Borland Delphi на языке Object Pascal с использованием СОМ-технологии и оформлен как сервер автоматизации, помещенный в динамическую библиотеку. Разработанные программные средства функционируют на платформе IBM PC под управлением операционных систем семейства MS Windows

В четвёртом разделе рассматриваются результаты внедрений разработанных программных средств

В качестве тестовой выборки для средств вывода был подготовлен ряд баз знаний, разработанных в ходе создания прототипов прикладных ИЭС в среде комплекса АТ-ТЕХНОЛОГИЯ, а также ряд специально построенных баз знаний для тестирования Для сравнения эффективности разработанных программных средств и прежней версии средств вывода в составе инструментального комплекса АТ-ТЕХНОЛОГИЯ использовались

• прототип ИЭС для проектирования корпоративных информационно-вычислительных сетей (совместная разработка с ФГУП «Концерн «СИСТЕМПРОМ»)

• прототип ИЭС для диагностики заболеваний дыхательных путей (совместная разработка с детской городской поликлиникой №109 г Москвы)

• курсовые проекты по дисциплине "Проектирование систем, основанных на знаниях", выполненные студентами лаборатории "Системы искусственного интеллекта" в 2004-2006 гг.

Для оценки работы универсального решателя применялись как прямые методы измерения времени работы механизмов вывода, так и математические методы вычисления сложности алгоритмов Для измерения времени работы алгоритмов был разработан специальный программный компонент, интегрируемый в ИЭС и вызываемый до и после запуска различных механизмов вывода

Оценка эффективности работы средств вывода проводилась для различных баз знаний, сгруппированных по следующим макрохарактеристикам глубина вывода и средняя длина посылки правил. Так, для различных баз знаний отношение невыводимых параметров к выводимым к = Pmitial / Pmferred МОЖвТ МвНЯТЬСЯ (Табл 2).

На Рис. 7, Рис. 8, Рис 9 показаны графики зависимости времени вывода в секундах от количества правил в базе знаний для разработанных средств вывода В роли целевой машины выступал IBM PC-совместимый персональный компьютер на базе процессора AMD Athlon 2500 с 768 Мб оперативной памяти

Табл. 2. Характеристики баз знаний и соотношение невыводимых и

выводимых параметров в БЗ

База знаний Коэффициент к

База знаний с большой глубиной вывода (8-10 правил в цепочке вывода) и с короткими условиями правил (2-3 утверждения)

База знаний, сбалансированная по глубине (4-6 правил в цепочке вывода), где условия правил состоят из 4-6 утверждений к« 0 5

База знаний с малой глубиной вывода (1-2 правила в цепочке вывода) и длинными условиями правил (711 утверждений) 0<к«1

База знаний прототипа ИЭС для проектирования корпоративных информационно-вычислительных сетей представляет собой пример базы знаний, сбалансированной по глубине и длине условий правил Для подобных баз знаний время инициализации медленно растет по отношению к числу правил Смешанный и обратный вывод показывают схожее быстродействие, что соответствует ожиданиям

База знаний прототипа ИЭС для диагностики заболеваний дыхательных путей представляет собой пример базы знаний с большой глубиной вывода Для таких баз знаний время инициализации вывода медленно растет по отношению к числу правил. Прямой, обратный, смешанный вывод показывают примерно равную скорость решения задачи Рост времени вывода с ростом числа правил ускоряется, зависимость близка к квадратичной

Базы знаний, разработанные в рамках курсовых проектов по дисциплине "Проектирование систем, основанных на знаниях", в основном являются примерами базы знаний с малой глубиной вывода Для таких баз знаний время инициализации вывода медленно растет по отношению к числу правил, причем зависимость времени от числа правил близка к линейной

В прямом выводе эффективность разработанных программных средств выше в среднем в 3,4 раза по сравнению с прежней версией средств вывода комплекса АТ-ТЕХНОЛОГИЯ В обратном выводе разработанные средства в целом так же эффективны В смешанном выводе эффективность разработанных средств больше в 1,7 раза С задачей инициализации вывода разработанные программные средства справляются в среднем в 2 раза быстрее для баз знаний с малой глубиной вывода и также эффективны для баз знаний с большой глубиной или сбалансированных по глубине

Время, с 5

Т-7

- Время инициализации прямого вывода, с

-Время работы прямого вывода, с

- Время инициализации обратного вывода, с

- Время работы обратного вывода, с

- Время инициализации смешанного вывода, с

-Время работы смешанного вывода, с

50

100

150

200 240 Число правил

Рис. 7 Графики зависимости времени вывода от числа правил в базе знаний, сбалансированной по глубине вывода

В приложение вынесены акты об использовании результатов диссертационного исследования, формат внутреннего представления базы знаний и рабочей памяти, примеры фрагментов поля знаний и базы знаний,

использованные для экспериментальной проверки разработанных средств вывода, сравнение предложенной модели представления знаний с известными; описание тестовых приложений._

Время, с

—о—Время инициализации прямого вывода, с

—Время работы прямого вывода, с

к Время инициализации обратного вывода, с

ж ■ Время работы

обратного вывода, с

—о—Время инициализации смешанного вывода, с

—|— Время работы

смешанного вывода, с

50 100 150 200 250 300 340 ЧИСЛО правил

Рис 8 Графики зависимости времени вывода от числа правил в базе знаний с большой глубиной вывода

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. Предложен оригинальный метод совместной обработки НЕ-факторов знаний, отличающийся тем, что позволяет производить вывод в условиях наличия в базе знаний совокупности НЕ-факторов знаний, таких как неопределенность, неточность, нечёткость 2 Предложен оригинальный метод дефаззификации многомодальных функций принадлежности лингвистических переменных, отличающийся тем, что в общем случае в качестве результата дефаззификации вычисляется несколько четких значений 3. Предложена новая комбинированная стратегия ведения уточняющих поддиалогов на основе статистического анализа базы знаний, отличающаяся тем, что позволяет более эффективно по сравнению с

существующими стратегиями формировать конфликтное множество гипотез

4 Предложена расширенная модель представления знаний в ИЭС, отличающаяся тем, что позволяет представлять декларативные и процедурные знания, а также поддерживает объектно-ориентированную концепцию структурирования проблемной области

Время, с 16

- Время инициализации прямого вывода, с

-Время работы прямого вывода, с

- Время инициализации обратного вывода, с

-Время работы обратного вывода, с

■ Время инициализации смешанного вывода, с

-Время работы смешанного вывода, с

500 1000 1500 2000 2500 3125 Число правил

Рис. 9 Графики зависимости времени вывода от числа правил в базе знаний с малой глубиной вывода

5.В виде программных средств реализована новая версия универсального решателя, а также оригинальный программный инструментарий инженера по знаниям, предназначенный для отладки средств вывода и позволяющий в пошаговом режиме управлять процессом вывода Разработанные программные средства включены с состав инструментального комплекса АТ-ТЕХНОЛОГИЯ 6 Созданные программные средства использованы при создании исследовательского прототипа ИЭС для проектирования корпоративных информационно-вычислительных сетей, применяемых в исследованиях и

разработках ФГУП "Концерн "СИСТЕМПРОМ", а также при создании прототипа обучающей ИЭС для диагностики заболеваний дыхательных путей в детской городской поликлинике №109 СЗАО г Москвы. 7. Разработанные программные средства в составе инструментального комплекса АТ-ТЕХНОЛОГИЯ используются в учебном процессе МИФИ и РГСУ.

СПИСОК РАБОТ, ОПУБЛИКОВАННЫХ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Г В. Рыбина, ДВ. Демидов Теоретическое и экспериментальное моделирование методов построения решателей нового поколения для комплекса АТ-ТЕХНОЛОГИЯ И Научная сессия МИФИ-2002 Сб. науч тр В 14 томах. Т.З. - М.: МИФИ, 2002. С. 130-131.

2 Г В Рыбина, Д.В Демидов. Метод подтверждения гипотез в универсальном решателе инструментального комплекса АТ-ТЕХНОЛОГИЯ // Научная сессия МИФИ-2003 Сб науч тр. В 14 томах. Т 3 - М : МИФИ, 2003 С. 89-90

3 Г В Рыбина, Р В Душкин, Д.В. Демидов Модели и методы обработки недостоверных знаний в инструментальном комплексе АТ-ТЕХНОЛОГИЯ // Интегрированные модели и мягкие вычисления в искусственном интеллекте Сб. науч тр. - М. Физматлит, 2003. С.401-407.

4 Д.В Демидов Метод дефаззификации многомодальных функций принадлежности лингвистических переменных // Научная сессия МИФИ-2004. Сб. науч тр. В 15 томах Т 14 - М: МИФИ, 2004 С 29-30.

5. Г В. Рыбина, ДВ Демидов Методы построения средств вывода для интегрированных экспертных систем // Научная сессия МИФИ-2006 Сб науч тр В 15 томах. Т 3. - М. МИФИ, 2006 С.48-52

6 Д.В. Демвдов Модель вычислений средств вывода интегрированных экспертных систем // Научная сессия МИФИ-2007 Сб науч тр В 17 томах Т 3. - М МИФИ, 2007. С. 178-179.

7. Г В. Рыбина, Д.В Демидов. Модели, методы и программные средства вывода в интегрированных экспертных системах // Инженерная физика -2007, №2 С 51-60

Подписано в печать 21 09 2007 г Исполнено 24 09 2007 г г Печать трафаретная

Заказ № 762 Тираж 100 экз

Типография «11-й ФОРМАТ» ИНН 7726330900 115230, Москва, Варшавское ш, 36 (495) 975-78-56 www autoreferat ш

СПИСОК СОКРАЩЕНИЙ.

ВВЕДЕНИЕ.

1 ОСОБЕННОСТИ ПОСТРОЕНИЯ СРЕДСТВ ВЫВОДА ДЛЯ ИНТЕГРИРОВАННЫХ ЭКСПЕРТНЫХ СИСТЕМ.

1.1 Подходы к построению средств вывода.

1.2 Методы представления и обработки знаний, содержащих недостоверную информацию.

1.2.1 Классификация НЕ-факторов знаний.

1.2.2 Методы представления и обработки неопределенности.

1.2.3 Методы представления и обработки неточности.

1.2.4 Методы представления и обработки нечеткости.

1.2.5 Методы представления и обработки недоопределенности.

1.2.6 Проблемы совместной обработки знаний, содержащих НЕ-факторы, в интегрированных экспертных системах.

1.3 Особенности представления и обработки знаний в экспертных системах и инструментальных средствах для построения экспертных систем.

1.3.1 Методы вывода и стратегии поиска решений в пространстве состояний.

1.3.2 Эффективные методы сопоставления и разрешения конфликтов.

1.3.3 Стратегии подтверждения гипотез и ведения уточняющих поддиалогов.

1.3.4 Потребность в метауровне: метаархитектуры, метауправление, декларативное описание алгоритмов обработки знаний.

1.3.5 Особенности задачно-ориентированной методологии построения интегрированных экспертных систем.

1.4 Объяснительные способности экспертных систем.

1.4.1 Подходы к формированию объяснений.

1.4.2 Взаимосвязь средств вывода и средств формирования объяснений в интегрированных экспертных системах.

1.4.3 Проблемы построения объяснений в интегрированных экспертных системах.

1.5 Особенности интегрированных экспертных систем, влияющие на архитектуру и требования к средствам вывода.

1.6 План исследования.

Выводы.

2 ТЕОРЕТИЧЕСКИЕ ВОПРОСЫ ПОСТРОЕНИЯ СРЕДСТВ ВЫВОДА И АЛГОРИТМОВ ОБРАБОТКИ ЗНАНИЙ.

2.1 Обобщенная модель вывода.

2.2 Методы вывода.

2.2.1 Особенности методов сопоставления и разрешения конфликтов.

2.2.2 Метод ведения уточняющих поддиалогов.

2.2.3 Подход к обработке знаний, содержащих НЕ-факторы.

2.2.4 Метод дефаззификации многомодальных функций принадлежности.

2.2.5 Методы совместной обработки НЕ-факторов знаний.

2.2.6 Метод интерпретации метапроцедур принятия решений.

2.3 Представление знаний в рабочей памяти.

2.3.1 Представление классов, методов и правил.

2.3.2 Представление типов и структур данных.

2.3.3 Представление значений, переменных, операций, выражений, ссылок.

2.3.4 Представление исполняемых инструкций.

2.3.5 Особенности предложенной модели представления знаний.

2.4 Модель рабочей памяти.

2.4.1 Представление задачи в рабочей памяти.

2.4.2 Представление текущего состояния решения задачи.

2.4.3 Представление контекста вывода.

2.4.4 Представление метазнаний в рабочей памяти.

2.5 Модель вычислений, производимых средствами вывода.

2.5.1 Инициализация рабочей памяти.

2.5.2 Создание экземпляров классов, наследование классов.

2.5.3 Интерпретация правил.

2.5.4 Операционная семантика инструкций.

2.5.5 Алгоритм вычисления выражений.

2.6 Теоретические вопросы взаимодействия средств вывода со средствами формирования объяснений.

2.7 Оптимизация вывода и базы знаний.

2.8 Перспективы построения средств вывода для решения задач в динамических проблемных областях.

Выводы.

3 ПРОЕКТИРОВАНИЕ И ПРОГРАММНАЯ РЕАЛИЗАЦИЯ СРЕДСТВ ВЫВОДА ДЛЯ ИНТЕГРИРОВАННЫХ ЭКСПЕРТНЫХ СИСТЕМ.

3.1 Архитектура универсального решателя.

3.2 Представление базы знаний в рабочей памяти универсального решателя.

3.3 Архитектура средств отладки в универсальном решателе.

3.4 Взаимодействие универсального решателя со средствами поддержки разработки инструментального комплекса АТ-ТЕХНОЛОГИЯ.

3.5 Взаимодействие универсального решателя с другими программными средствами в составе интегрированных экспертных систем.

3.5.1 Схема взаимодействия универсального решателя и компонента интеграции с внешними программными средствами.

3.5.2 Сценарии взаимодействия с базами данных.

3.5.3 Сценарии взаимодействия со средствами формирования объяснений.

3.5.4 Наследование классов от СОМ-объектов.

3.6 Подходы к тестированию средств вывода.

Выводы.

4 АПРОБАЦИЯ И ВНЕДРЕНИЕ РАЗРАБОТАННЫХ ПРОГРАММНЫХ СРЕДСТВ

4.1 Сравнение эффективности алгоритмов вывода универсального решателя с прежней версией средств вывода комплекса АТ-ТЕХНОЛОГИЯ.

4.2 Оценка эффективности работы средств вывода в составе интегрированной экспертной системы проектирования корпоративных информационно-вычислительных сетей

4.3 Использование универсального решателя в составе интеллектуального планировщика инструментального комплекса АТ-ТЕХНОЛОГИЯ.

4.4 Оценка эффективности работы средств вывода в составе интегрированной экспертной системы диагностики заболеваний дыхательных путей МедЭС.

4.5 Внедрения в учебный процесс.

Выводы.

Выводы по диссертации.

Проблемам обработки знаний в таком классе интеллектуальных систем как экспертные системы традиционно уделялось много внимания, поскольку эффективность процесса интерпретации знаний напрямую влияет на качество получаемых решений. С появлением более сложного и широкого класса экспертных систем - интегрированных экспертных систем (ИЭС), связанным со сближением парадигм искусственного интеллекта и традиционного программирования, значимость и актуальность проблемы эффективности и корректности вывода решений только возросла. Это связано с многообразием архитектур ИЭС, возрастанием числа стадий и итераций в моделях жизненного цикла построения отдельных компонентов, повышением доли недостоверной информации в базах знаний и др.

Значительный вклад в исследование и решение проблем построения экспертных систем и ИЭС внесли отечественные учёные О.И. Ларичев, Д.А. Поспелов, Э.В. Попов, Г.С. Осипов, Г.В. Рыбина, О.П. Кузнецов, А.П. Еремеев, И.Б. Фоминых, Т.А. Гаврилова, В.Ф. Хорошевский, В.Л. Стефанюк, Б.А. Кобринский, В.Н. Вагин, В.Б. Тарасов, А.Н. Аверкин и другие, а также ряд зарубежных учёных Л. Заде, У. Клэнси, Э. Шортлиф, Ф. Форсайт, Ф. Хейес-Рот, Д. Ленат, Д. Уотермен, К. Нейлор, П. Джексон и др.

Исследование и классификация знаний привели к появлению большого числа подходов для выявления и представления так называемых НЕ-факторов знаний (термин введен A.C. Нариньяни), а также математических аппаратов для их обработки. Хотя для отдельных НЕ-факторов знаний разработаны методы их выявления и представления, а также мощные математические аппараты их обработки, существующие подходы учитывают в основном отдельные аспекты обработки НЕ-факторов в процессе принятия решений. Проведённый анализ существующих методов обработки знаний, содержащих НЕ-факторы, методов вывода, а также методов построения средств вывода для ИЭС выявил ряд недостатков, важнейшими из которых являются ограниченность области применения некоторых методов и отсутствие в целом решения проблемы совместной обработки НЕ-факторов знаний.

В диссертации использован практический опыт разработки прикладных ИЭС на основе задачно-ориентированной методологии (автор Г.В. Рыбина), который позволил выявить ряд дополнительных проблем, связанных с процессом вывода. Основными проблемами являются:

• необходимость совместной обработки неопределенных, неточных и нечетких знаний, эксплицитно проявляющихся в рассуждениях экспертов;

• необходимость интеграции средств вывода с разнородными программными средствами в составе ИЭС (в силу масштабируемости их архитектуры), которые в процессе вывода могут являться как источниками, так и потребителями данных;

• существенный рост вычислительных затрат на поиск решения при возрастании объемов баз знаний;

• необходимость гибкой настройки средств вывода на решаемую задачу.

Современные коммерческие инструментальные средства для создания интеллектуальных систем, такие как Level 5 Object, G2, Clips, Exsys и др. в полной мере не решают обозначенные проблемы. Практическая значимость ИЭС и необходимость использования в них мощных средств вывода обуславливает актуальность данного диссертационного исследования.

Диссертационная работа посвящена решению проблемы обработки знаний, содержащих различные НЕ-факторы знаний, и повышению эффективности вывода в ИЭС в рамках задачно-ориентированной методологии автоматизированного построения прикладных ИЭС, предложенной Г.В. Рыбиной в середине 90-х годов.

Объектом исследования являются средства вывода в ИЭС, обеспечивающие процессы поиска решения задач на основе ИЭС.

Предметом исследования являются методы вывода на знаниях, содержащих неопределенность, неточность и нечеткость; методы совместной обработки недостоверных знаний; методы представления и интерпретации декларативных и процедурных знаний в ИЭС; подходы к построению средств вывода для ИЭС.

Целью данной диссертации является исследование и разработка моделей, методов и программных средств вывода в ИЭС. Для достижения поставленной цели в диссертации решены следующие основные задачи:

• разработан метод вывода, предусматривающий совместную обработку знаний, содержащих неопределенность, неточность и нечеткость;

• на основе анализа существующих методов и средств вывода, подходов к разработке средств вывода выявлена совокупность требований к модели представления знаний, модели рабочей памяти средств вывода, разработана модель вычислений, производимых средствами вывода;

• разработаны алгоритмы взаимодействия средств вывода с подсистемой объяснения, базами данных;

• выполнен анализ системных требований и проектирование инструментальных средств вывода в соответствии с задачно-ориентированной методологией;

• разработаны программные средства вывода, включенные в состав инструментального комплекса АТ-ТЕХНОЛОГИЯ третьего поколения;

• проведена экспериментальная апробация предложенных алгоритмов и разработанных инструментальных программных средств вывода для задач проектирования корпоративных информационно-вычислительных сетей и медицинской диагностики.

Для решения поставленных задач в работе использованы методы искусственного интеллекта (модели представления и обработки знаний, методы инженерии знаний и нечеткой логики), методы дискретной математики (математической логики, математической лингвистики, теории множеств, теории графов), системного анализа, теории построения трансляторов, теории принятия решений. Научная новизна исследования состоит в следующем:

1. Разработан оригинальный метод совместной обработки знаний, который отличается тем, что позволяет производить вывод в условиях одновременного наличия знаний с неопределённостью, неточностью и нечёткостью.

2. Разработан оригинальный метод дефаззификации многомодальных функций принадлежности лингвистических переменных, который отличается от классических методов тем, что в качестве результата дефаззификации вычисляется в общем случае несколько четких значений, а не одно.

3. Предложена новая комбинированная стратегия ведения уточняющих поддиалогов на основе статистического анализа базы знаний, позволяющая более эффективно формировать конфликтное множество гипотез по сравнению с существующими стратегиями.

4. Предложена расширенная модель представления знаний в ИЭС, позволяющая представлять декларативные и процедурные знания и метазнания, и опирающаяся на объектно-ориентированную концепцию структурирования проблемной области.

5. Разработаны средства вывода (универсальный решатель), включенные с состав инструментального комплекса АТ-ТЕХНОЛОГИЯ, обладающие способностью взаимодействия с разнородными программными средствами в составе ИЭС и обеспечивающие автоматическое построение объяснений получаемого решения. Разработан оригинальный программный инструментарий инженера по знаниям, включенный с состав комплекса АТ-ТЕХНОЛОГИЯ, предназначенный для отладки средств вывода с возможностью управления процессом вывода в пошаговом режиме.

Основные научные результаты, выносимые на защиту

1. Специализированный метод совместной обработки знаний, содержащих неточность, неопределенность, нечеткость.

2. Оригинальный метод дефаззификации многомодальных функций принадлежности.

3. Новый метод подтверждения гипотез на основе комбинирования стратегий и статистического анализа базы знаний.

4. Расширенная модель представления знаний в интегрированных экспертных системах позволяет представлять декларативные и процедурные знания, а также поддерживает объектно-ориентированную концепцию структурирования проблемной области.

5. Обобщенная модель рабочей памяти средств вывода.

Практическая значимость проведенных исследований и полученных результатов заключается в создании эффективных моделей, методов и программных средств вывода для ИЭС. Важность решения поставленных задач состоит в повышении точности решений, получаемых с помощью ИЭС, снижении времени вывода при поиске решений в ИЭС, сокращении сроков создания ИЭС.

Практическая значимость работы подтверждается использованием разработанного программного обеспечения в составе инструментального комплекса АТ-ТЕХНОЛОГИЯ, а также в составе нескольких прототипов ИЭС в области проектирования и медицинской диагностики.

Достоверность разработанных методов и алгоритмов обработки знаний в ИЭС в рамках заданно-ориентированной методологии подтверждается соответствием теоретических и экспериментально полученных данных о качественных и количественных характеристиках работы созданных средств вывода, результатами сравнения с существующими средствами вывода, а также актами о практическом внедрении и использовании.

Результаты работы использованы в НИР, выполненных при поддержке РФФИ в лаборатории "Системы искусственного интеллекта" кафедры кибернетики МИФИ (ГУ) (исполнитель по проектам №00-01-00679, №06-01-00242, №03-01-00924). Результаты диссертации использованы в проекте РФФИ №04-07-90200, выполненном совместно с ФГУП «Концерн «СИСТЕМПРОМ».

Разработанные программные средства вывода используются:

• в составе исследовательского прототипа ИЭС для проектирования и моделирования корпоративных информационно-вычислительных сетей, применяемого в исследованиях и разработках ФГУП «Концерн «СИСТЕМПРОМ» (акт об использовании);

• в составе прототипа обучающей ИЭС для диагностики заболеваний дыхательных путей в детской городской поликлинике №109 СЗАО г. Москвы (акт об использовании).

Созданные инструментальные программные средства в составе комплекса АТ-ТЕХНОЛОГИЯ используются в учебном процессе Московского инженерно-физического института (МИФИ) на кафедре Кибернетики и Российского государственного социального университета (РГСУ) на кафедре Социальной информатики, что подтверждается соответствующими актами о внедрении, а также использовались при создании учебного пособия "Лабораторный практикум по курсу "Проектирование систем, основанных на знаниях" (авторы Г.В. Рыбина, Д.В. Демидов, М.Г. Иващенко, М.: МИФИ, 2007).

Основные положения и результаты диссертационного исследования докладывались и обсуждались на научных конференциях и семинарах:

1. "Интегрированные модели и мягкие вычисления в искусственном интеллекте". П-й Международный научно-практический семинар, Коломна, 2003 г.;

2. "Интеллектуальные системы" (AIS-05). V Международная конференция, Геленджик, 2005 г.;

3. Научные сессии МИФИ (ГУ), г. Москва, 2002,2003,2004,2005, 2006,2007 гг.;

4. "Современнные технологии в задачах управления, автоматики и обработки информации". XIV международный научно-технический семинар, Алушта, 2005 г.

По теме диссертационного исследования опубликовано 7 печатных работ, в том числе одна статья в журнале, включённом ВАК РФ в перечень ведущих рецензируемых научных журналов и изданий, одна статья в периодическом сборнике и пять докладов в сборниках трудов конференций.

Диссертация состоит из введения, четырех глав, заключения, библиографического списка (99 наименований) и приложений. Основная часть диссертации содержит 135 страниц машинописного текста, включая 46 рисунков, 26 таблиц.

Выводы по диссертации

1. Предложены специализированные методы и алгоритмы совместной обработки НЕфакторов знаний, отличающиеся тем, что позволяют производить вывод в условиях наличия в базе знаний совокупности НЕ-факторов знаний, таких как неопределённость, неточность, нечёткость [62, 61].

2. Предложен оригинальный метод дефаззификации многомодальных функций принадлежности лингвистических переменных, отличающийся тем, что в качестве результата дефаззификации вычисляется в общем случае несколько четких значений [18,61].

3. Предложена новая комбинированная стратегия ведения уточняющих поддиалогов на основе статистического анализа БЗ, отличающаяся тем, что позволяет эффективнее по сравнению с аналогами формировать конфликтное множество гипотез [59].

4. Предложена расширенная модель представления знаний в ИЭС, отличающаяся тем, что позволяет представлять декларативные и процедурные знания, а также поддерживает объектно-ориентированную концепцию структурирования проблемной области [60, 61].

5. Реализована новая версия универсального решателя, инструментальные средства поддержки разработки средств вывода, оригинальный программный инструментарий инженера по знаниям, предназначенный для отладки средств вывода и позволяющий в пошаговом режиме управлять процессом вывода [20, 60, 61, 63]. Инструментарий включен с состав инструментального комплекса АТ-ТЕХНОЛОГИЯ.

6. Созданные программные средства использованы при создании исследовательского прототипа ИЭС для проектирования и моделирования корпоративных информационно-вычислительных сетей, применяемых в исследованиях и разработках ФГУП "Концерн "СИСТЕМПРОМ" (акт об использовании) [15], а также при создании прототипа обучающей ИЭС для диагностики заболеваний дыхательных путей в детской городской поликлиники № 109 СЗАО г. Москвы (акт об использовании).

7. Разработанные программные средства в составе инструментального комплекса АТ-ТЕХНОЛОГИЯ использованы в учебном процессе Московского инженерно-физического института и Российского государственного социального университета (акты о внедрении).

1. Аверкин А.Н., Батыршин ИЗ., Блишун А.Ф., Силов В.Б., Тарасов В.Б. Нечеткие множества в моделях управления и искусственного интеллекта /Под ред. Поспелова Д.А. -М: Наука, 1986.-312 с.

2. Алексеев A.B., Борисов А.Н., Вилюмс Э.Р., Слядзь H.H., Фомин С.А. Интеллектуальные системы принятия проектных решений. Рига: Зинатне, 1997. 320 с. ил.

3. Ахо А., Сети Р., Ульман Д. Компиляторы: принципы, технологии и инструменты. Пер. с англ. М. Издательский дом "Вильяме", 2001. - 768 е., ил.

4. Буч Г., РамбоД, Якобсон И. UML. Руководство пользователя, М: ДМК, 2000. 432 с.

5. Вагин В.Н, Головина Е.Ю., Загорянская A.A., Фомина М.В. Достоверный и правдоподобный вывод в интеллектуальных системах / Под ред. Вагина В.Н., Поспелова Д.А. М: ФИЗМАТЛИТ, 2004. - 704 с.

6. Вагин В.Н. Знание в интеллектуальных системах // Новости искусственного интеллекта. 2002. №6. С. 8-18.

7. Вагин В.Н.,. Еремеев А.П. Некоторые базовые принципы построения интеллектуальных систем поддержки принятия решений реального времени // Изв. РАН. ТиСУ, 2001, №6,с. 114-123.

8. Валъкман Ю.Р. НЕ-факторы основа образного мышления // Интегрированные модели и мягкие вычисления в искусственном интеллекте. Сборник трудов 11-го Международного научно-практического семинара. -М.: Физматлит, 2003. с. 26-33.

9. Валъкман Ю.Р. Моделирование НЕ-факторов основа интеллектуализации компьютерных технологий // Новости искусственного интеллекта. 2004. №2. С. 64-81.

10. Гаврилова Т.А. Логико-лингвистическое управление. Как введение в управление знаниями // Новости искусственного интеллекта. 2002. №6. С. 36-40.

11. Гаврилова Т.А. Онтологический подход к управлению знаниями при разработке корпоративных информационных систем // Новости искусственного интеллекта. 2003. №2. С. 24-29.

12. Гаврилова Т. А., Хорошевский В. Ф. Базы знаний интеллектуальных систем. СПб: Питер, 2000.-384 с.

13. Горбатов В.А. Фундаментальные основы дискретной математики М.: Наука. Физматлит, 1999. 544 с.

14. Горелкин Г.А., Хохлачев E.H. Прототип экспертной системы проектирования136информационно-вычислительных сетей. В кн.: Научная сессия МИФИ-2006. Сборник научных трудов. В 16 томах. Т.З. М.: МИФИ, 2006, с. 94-95.

15. Гринберг С.Я,, Яхно Т.М. ДИ*ГЕН: оболочка для создания диагностирующих экспертных систем. В кн.: II Всесоюзная конференция "Искусственный интеллект 90". Тверь: Ротапринт НПО "Центрпрограммсистем", 1990, с. 45-48.

16. Девятков В.В. Системы искусственного интеллекта. М.: Изд-во МГТУ им. Н.Э. Баумана, 2001. 352 с. ил.

17. Демидов Д.В. Метод дефаззификации многомодальных функций принадлежности лингвистических переменных. Научная сессия МИФИ-2004. Сборник научных трудов. В 15 томах. Т. 14. М.: МИФИ, 2004, с.29-30.

18. Демидов Д.В. Модель вычислений средств вывода интегрированных экспертных систем. Научная сессия МИФИ-2007. Сборник научных трудов. В 17 томах. Т.З. Интеллектуальные системы и технологии. М,: МИФИ, 2007. с. 178-179.

19. Джексон П. Введение в экспертные системы. М: Издательский дом "Вильяме", 2001. 624 е., ил.

20. Дракин В.К, Попов Э.В., Преображенский А.Б. Общение конечных пользователей с системами обработки данных.

21. Душкин Р.В., Рыбина Г.В. Об одном подходе к автоматизированному извлечению, представлению и обработке знаний с НЕ-факторами. В кн.: Известия РАН. Теория и системы управления. 1999, N5, с. 34-44.

22. Дымова Л.Г., Севастьянов П.В. Мягкая математика в оптимизации биржевой торговли // Новости искусственного интеллекта. 2004. № 2, с. 35-51.

23. Емельянов В.В., Ясиновский С.И. Введение в интеллектуальное имитационное моделирование сложных дискретных систем и процессов. Язык РДО. -М.: АНВИК, 1998, -427с.

24. Еремеев А.П. , Денисенко JI.C. Обработка недоопределенной информации в системе поддержки принятия решений реального времени применительно к оперативной службе электростанций // Изв. РАН. Энергетика. 2002. № 2, с. 32-43.

25. Жигалов A.B., Никулин М.Б., Чуприпа СИ. Оболочка экспертных систем XG#: концепция построения и реализация // Математика программных систем: Межвуз. сб. научн. тр. Пермь: Перм. ун-т, 2003. - С. 97-106.

26. Капер С., ФолкДж., Нгуен Е.К. Тестирование ПО. К: ДиаСофт, 2000. 544 с.

27. Клоксин У., Меллиш К. Программирование на языке Пролог. Пер. с англ. М.: Мир,1371987.-336 с.

28. Кнут Д. Искусство программирования. В 3-х томах. Т.1 М.: Мир, 1986.

29. Крисевич B.C., Кузьмич JI.A., Шиф A.M., Курманов B.C., Кутян H.H., Краснопрошин

30. B.В., Михайлов В.Н., Валъвачев А.Н., Уткин Ю.А. Экспертные системы для персональных компьютеры: методы, средства, реализации: Справ, пособие. Мн.: Выш. шк., 1990. 197 е., ил.

31. Ларичев О.И. Теория подсознательных решающих правил новый взгляд на экспертное мышление. VIII национальная конференция по искусственному интеллекту с международным участием КИИ-2002. Сб. научных трудов, том 1. М.: Физматлит, 2002.1. C. 1-14.

32. Ларичев О.И, Мечитов А.И., Мошкович Е.И, Фуремс Е.М. Выявление экспертных знаний. М.: Наука, 1989.

33. Лорьер Ж.-Л. Системы искусственного интеллекта. М: Мир, 1991. 568 е., ил.

34. Набебин A.A. Логика и Пролог в дискретной математике. М.: Издательство МЭИ, 1996.-452 с. ил.

35. Наринъяни A.C. Недоопределенность в системах представления и обработки знаний // Изв. АН СССР. Техническая кибернетика. 1986. № 5

36. Нариньяни A.C. НЕ-факторы: неоднозначность (до-формальное исследование) // Новости искусственного интеллекта. 2003. № 5, с. 47-55.

37. Наринъяни A.C. НЕ-факторы: краткое введение // Новости искусственного интеллекта. 2004. № 2, с. 52-63.

38. Нилъсон Н. Принципы искусственного интеллекта. М: Радио и связь, 1985. 376 с.

39. Новицкий П.Ф., Зограф И.А. Оценка погрешностей результатов измерений. 2-е изд., перераб. и доп. - Л.: Энергоатомиздат. Ленингр. отд-ние, 1991. - 304 е.: ил.

40. Осипов Г.С. Искусственный интеллект: основные направления и состояние исследований // Компьютерра №30 (455). 2002.

41. Осипов Г.С. Приобретение знаний интеллектуальными системами. Основы теории и технологии. М.: Наука, Физматлит, 1997. - 112 с.

42. Осипов Г.С. и dp. SIMER + MIR инструментальные программные средства для экспертных систем. В кн.: II Всесоюзная конференция "Искусственный интеллект - 90". Тверь: Ротапринт НПО "Центрпрограммсистем", 1990, с. 58-64.

43. Осуга С., Сажи Ю. и др. Приобретение знаний. М: Мир, 1990. 304 е., ил.

44. Попов Э.В. Корпоративные системы управления знаниями // Новости искусственного интеллекта. 2001. №1. С. 14-25.

45. Попов Э. В. Экспертные системы. Решение неформализованных задач в диалоге с ЭВМ. М: Наука, 1987.-288 с.

46. Попов Э. В., Фоминых И. Б., Кисель Е. Б., Шапот М. Д. Статические и динамические экспертные системы. М: Финансы и статистика, 1996. 320 с.

47. Поспелов Д. А. Моделирование рассуждений. Опыт анализа мыслительных актов. М: Радио и связь, 1989. 184 с.

48. Поспелов ДА. Ситуационное управление. Теория и практика. М: Наука, 1986.-288 с.

49. Пытьев Ю.П. Возможность. Элементы теории и применения. М.: Эдиториал УРСС, 2000.-192 с.

50. Рапопорт Г.Н., Герц А.Г. Искусственный и биологический интеллекты. Общность структуры, эволюция и процессы познания. М.: КомКнига, 2005. - 312 с.

51. Рассел С., Порвиг П. Искусственный интеллект: современный подход, 2-ое изд. Пер. с англ. М.: Издательский дом «Вильяме», 2006. - 1408 е., ил.

52. Рыбина Г. В. Автоматизированное построение баз знаний для интегрированных экспертных систем. В кн.: Известия РАН. Теория и системы управления. 1998, №5, с. 152166.

53. Рыбина Г.В. Введение в интеллектуальные системы: Учебное пособие. М.: МИФИ, 2006. -140 с.

54. Рыбина Г.В. Задачно-ориентированная методология автоматизации построения интегрированных экспертных систем для статических проблемных областей. В кн.: Известия РАН. Теория и системы управления. 1997, N5. 37 с.

55. Рыбина Г.В. Инструментальные средства нового поколения для построения прикладных интеллектуальных систем // Авиакосмическое приборостроение. 2004. № 10.

56. Рыбина Г.В. Приобретение знаний, содержащих НЕ-факторы // Новости искусственного интеллекта. 2004. № 2, с. 82-94.

57. Рыбина Г. В. Проектирование систем, основанных на знаниях. Учебное пособие. М: МИФИ, 2000.-104 с.

58. Рыбина Г.В., Демидов Д.В. Метод подтверждения гипотез в универсальном решателе инструментального комплекса АТ-ТЕХНОЛОГИЯ. В кн.: Научная сессия МИФИ-2003. Сборник научных трудов. В 14 томах. Т.З. М.: МИФИ, 2003, с. 89-90.

59. Рыбина Г.В., Демидов Д.В. Методы построения средств вывода для интегрированных экспертных систем. В кн.: Научная сессия МИФИ-2006. Сборник научных трудов. В 15 томах. Т.З. М.: МИФИ, 2006. с.48-52.

60. Рыбина Г.В., Демидов Д.В. Модели, методы и программные средства вывода в интегрированных экспертных системах // Инженерная физика. №2,2007. с.51-60.

61. Рыбина Г.В., Пышагин C.B. Интеллектуальная поддержка разработки интегрированных экспертных систем. VI национальная конференция с международным участием КИИ-98. Сб. научных трудов, том 2. С.169-175, Пущино, 1998.

62. Рыбина Г.В., Пышагин C.B., Смирнов В.В., Левин Д.Е., Душкин Р.В. Инструментальный комплекс AT-ТЕХНОЛОГИЯ для поддержки разработки интегрированных экспертных систем. М: МИФИ, 2001.

63. Рыбина Г.В., Рудина C.B. Инструментальное средство Level 5 Object для поддержки разработки систем, основанных на знаниях: Учебное пособие. М.: МИФИ, 1999. - 52 с.

64. Справочное руководство по LEVEL5 OBJECT для Microsoft Windows Версия 3.6. Information Builders, Inc., 1995.

65. Справочник. Искусственный интеллект. Т. 2. М.: Радио и связь, 1990.

66. Стерлинг Л., Шапиро Э. Искусство программирования на языке Пролог. М.: Мир, 1990.-235 с. ил.

67. СэвидэюДж. Э. Сложность вычислений. Пер. с англ. М.: изд-во "Факториал", 1998. -368 е.: ил.

68. Тарасов В.Б. НЕ-факторы: от семиотического анализа к методам формализации // Новости искусственного интеллекта. 2004. №2. С. 95-114.

69. Тарасов В. Б. Операции отрицания в моделировании отношений между объектами // Интегрированные модели и мягкие вычисления в искусственном интеллекте. Сборник трудов И-го Международного научно-практического семинара. М.: Физматлит, 2003. с. 63-68.

70. Тарасов В.Б. Управление знаниями в сетях предприятий // Новости искусственного интеллекта. 2003. №3. С. 32-35.

71. Тарасов В.Б. Теория нечетких множеств: новый виток развития В кн.: Научная сессия МИФИ-2006. Сборник научных трудов. В 16 томах. Т.З. М.: МИФИ, 2006. с.16-18

72. Тулупьев А.Л., Николенко СМ., Сироткин А.В. Байесовские сети. Логико-вероятностный подход. СПб.: Наука, 2006. - 607 с.

73. Уэно X, Исидзука М. и др. Представление и использование знаний. М: Мир, 1989. -220 е., ил.

74. Филиппович А.Ю. Интеграция систем ситуационного, имитационного и экспертного моделирования. М.: Изд-во "ООО Эликс+", 2003. 300 с.

75. Форсайт Ф. Экспертные системы. Принципы работы и примеры. М: Радио и связь, 1987.-224 с.

76. Хейес-Рот Ф., Уотермен Д., ЛенатД. Построение экспертных систем. М: Мир, 1987. -441 с.

77. Хорошевский В. Ф. Механизмы вывода решений в экспертных системах. Учебное пособие. М; МИФИ, 1988. 44 с.

78. Хювенен Э., Сеппянен И. Мир Лиспа. В 2-х томах. Введение в язык Лисп и функциональное программирование. Пер. с финск. М.: Мир, 1990. -447 с.

79. Частиков А.П., Гаврилова Т.А. Белов Д.Л. Разработка экспертных систем. Среда CLIPS. СПб.: БХВ - Петербург, 2003. - 608 с.

80. Ярушкина Н.Г. Основы теории нечетких и гибридных систем. М.: Финансы и статистика, 2004. 320 е.: ил.

81. Bourg D.M., Seeman G. AI for game developers. Published by O'Reilly in 2004. ISBN 0596-00555-5. pp.400

82. Chatterjee A., Rakshit A. Influential Rule Search Engine (IRSS) A new fuzzy pattern classifier // IEEE Transactions on Knowledge and Data Engineering Vol. 16, No.8, August 2004, pp. 881-893.

83. Chen S.-M. Weighted fuzzy reasoning using weighted fuzzy Petri nets // IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.2, March/April 2002, pp. 386-397.

84. Dung P.M., Mancarella P. Production systems with negation as failure // IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.2, March/April 2002, pp. 336-352.

85. Hamilton-Wright A., StashukD. Transparent decision support using statistical reasoning and fuzzy inference // IEEE Transactions on Knowledge and Data Engineering Vol. 18, No.8, August 2006, pp. 1125-1137.

86. Leone N„ Scarcello F„ Subrahmanian V.S. Optimal models of disjunctive logic programs: Semantic, complexity, and computation // IEEE Transactions on Knowledge and Data Engineering Vol. 16, No.4, April 2004, pp. 487-504.

87. Li J. Robust rule-based prediction // IEEE Transactions on Knowledge and Data Engineering Vol. 18, No.8, August 2006, pp. 1043-1054.

88. Litman D„ Patel-Schneider P.F., Mishra A., Crawford J., Dvorak D. R++: Adding Path-based rules to С++ // IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.3, May/June 2002, pp. 638-658.

89. Pal S.К., Shiu S.C.K. Foundations of soft case-based reasoning. Wiley series on intelligent systems. Published by John Wiley & sons, Inc., Hoboken, New Jersey in 2004. 274 p.

90. Siler IV., Buckley J.J. Fuzzy expert systems and fuzzy reasoning. Published by John Wiley & sons, Inc., Hoboken, New Jersey in 2005. 405 p.

91. Wuwongse V., Nantajeewarawat E. Declarative programs with implicit implication I I IEEE Transactions on Knowledge and Data Engineering Vol. 14, No.4, July/August 2002, pp. 836849.

92. Zadeh L. Fuzzy logic, neural networks and soft computing. Communications of the ACM, 37-3,1994.1. ИНТЕРНЕТ ИСТОЧНИКИ

93. Веб-ориентированная оболочка Exsys Corvid http://www.exsys.com

94. Среда XG# для обучения дисциплинам по тематике искусственного интеллекта http://ict.edu.ru/vconf/index.php?a^vconf&c=getForm&r=thesisDesc&id sec=l50&id vconf-2 6&id thesis=6096&d=light

95. Среда CLIPS http://www.ghg.net/clips/clips.html