автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Гибридный инструментарий интеллектуальных систем на основе расширенного логического программирования

РГ5 ОД

ГОСКОМИТЕТ РОССИЙСКОЙ ФЕДЕРАЦИИ ПО ВЫСШЕМУ ОБРАЗОВАНИЮ

МОСКОВСКИЙ АВИАЦИОННЫЙ ИНСТИТУТ имени СЕРГО ОРДЖОНИКИДЗЕ

На правах руког УДК 519. 682.3: С. л. 141

ЖУРАВЛЕВА Татьяна Эдуардовна

ГИБРИДНЫЙ ИНСТРУМЕНТАРИЙ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ НА ОСНОВЕ РАСШИРЕННОГО ЛОГИЧЕСКОГО ПРОГРАММИРОВАНИЯ

Специальность: 05.13.11 "Математическое и программное обеспечение вычислительных машин, комплексов, систем и сетей"

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Москва Издательство МАИ 1993

Работа выполнена в Московском авиационном институте имени Серго Орджоникидзе.

Научный руководитель :

кандидат физико-математических наук, доцент В.Е.Зайцев.

Официальные оппоненты :

академик Международной академии информатизации,

доктор технических наук, профессор Л.Г.Райков,

кандидат физико-математических наук А.И.Масалович.

Ведущая организация -

Научно-исследовательский институт математики и механики Санкт-Петербургского государственного университета.

Защита состоится 0'/ 199 /г. в часов на заседа-

нии специализированного Совета К 053.18.09 в Московском авиационном институте имени Серго Орджоникидзе.

С диссертацией можно ознакомиться в библиотеке МАИ.

Адрес института: 125871, Москва, ГСП, Волоколамское шоссе, д.4.

Автореферат разослан ^Л?)_ 1993 г.

Ученый секретарь Совета,

кандидат физико-математических наук,

доцент

М. В. Ротанин;

05ЦАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Прогресс вычислительной техники и информатики привел в пос-педние годы к возникновению и развитие новых информационных техно-югий. Совершенствование аппаратуры и программного обеспечения юзволило перенести центр внимания разработчиков программного >беспечения с идеологии компьютера на идеологию пользователя. Требования концептуальной стройности программных систем и вместе с гем их гибкости и удобства в обращении обусловили появление систем ювого поколения, максимально дружественных к пользователю и поз-юляюцих ему без заметных потерь эффективности общаться с компь->тером на семантическом уровне, в профессиональных терминах его федметной области.

Среди таких систем значительное место занимают интеллектуальнее системы или системы, основанные на знаниях,- программные :редства, решающие сложные и плохо формализуемые задачи на концеп-уальном уровне.

В отличие от традиционного программного обеспечения, в систе-1ах, основанных на знаниях, представление предметной области (база 1наний) обычно явно отделено от управляющего механизма (решателя, 1Нтерпретатора). Знания, содержащиеся в базе, могут быть использо-1аны для различных цепей (решение задач, генерация программ, кон-:ультации, обучение). Для их представления обычно используется ус-оявшийся набор декларативных структур, предназначенных для высо-оуровневой обработки данных. В первую очередь, это фреймы, проекционные правила и логические выражения. Часто обеспечивается юддержка функционального программирования и программирования, ориентированного на доступ.

Экспертные системы прошлых лет в подавляющем большинстве слу-

чаев были продукционными системами обратного вывода, со стандар ной, достаточно узкой функциональностью.

Напротив, для интеллектуальных систем второго поколения х рактерно сочетание и взаимопроникновение различных парадигм и кусственного интеллекта, в совокупности с традиционными средств ми, предоставляемыми фон-Неймановскими языками и системами б данных, в том числе:

- комбинация фреймового (объектно-ориентированного) и проду ционного программирования. Традиционно, фреймы содержат фундаме тальное, статическое знание, а продукции оперируют динамическ знанием о состоянии решения конкретной задачи;

- привнесение немонотонности в классические механизмы выво£ дающее новые возможности представления и использования реальн знаний, в условиях некорректной или неполной информации;

- рассуждения о знаниях и мета-знания, динамический контре стратегий управления выводом, способствующий повышению гибкости универсальности интеллектуальных систем;

- поддержка сервисных средств, образующих функционально пс ную среду для эффективного создания и отладки систем, основам на знаниях.

Гибридные языки представления знаний и их программные сре; в отличие от оболочек первого поколения (expert systen shells) г лучили название expert system development tools, т.е., инструмс тарии.

Подавляющее большинство гибридных инструментариев интеллект апьных систем (особенно в США) использует ЛИСП как базовый язь что накладывает существенный отпечаток на их общую идеологи* синтаксис.

Между тем, Пролог более универсален, обладает ясным синтзкс сом и проще в освоении. Добавление в Пролог дополнительных инст{ ментальных средств для реализации структур высокого уровня дек! ративности значительно улучшило бы его выразительность.

С другой стороны, Пролог может быть существенно усилен счет интерфейсов с фон-Неймановскими языками и реляционными баз; данных. Такие интерфейсы реализуются вполне естественно, благод; возможности процедурного прочтения Пролог-программ с одной сто; ны, и их изначально реляционной природе с другой. Наличие в э языке объектно-ориентированных черт сделало бы его наилуч! 4

редством создания объектно-ориентированных баз данных.

N

Особое место среди интеллектуальных систем общего вида зани-iaoT интеллектуальные обучающие системы (intelligent tutoring ystens).

Традиционные системы автоматизированного обучения (conputer-ided instruction) в большинстве случаев реализуют обычную схему вывод текста - контрольный вопрос - сличение ответа с образцом"; оведение студента жестко регламентируется и весьма унифицировано, ровень этих систем несравним с уровнем проблемного эксперта (пре-одавателя): предметные знания представлены в них пассивно и зна-ительно упрощены. Такие системы не могут эффективно отвечать на етривиальные как- и почему-вопросы студента и обрабатывать его еполные или не вполне корректные ответы.

Сочетание обычных средств автоматизированного обучения с ме-одами и средствами искусственного интеллекта даст новое качество втоматизации обучения, значительно усовершенствует корректируемую братную связь "студент - обучающая система" и позволит диверсифи-ировать подход к каждому конкретному обучаемому, сделать его ин-ивидуальным и нестандартным.

Характерными компонентами интеллектуальных обучающих систем вляются модель студента, каталог ошибок (bugs) и- непониманий misconceptions) и планировщик стратегии обучения.

Если для обычных систем компьютеризованного обучения сущест-уют развитые технологии разработки, то интеллектуальные обучающие истемы все еще находятся в дотехнологической стадии, для них нет и языков, ни инструментариев. Поэтому время разработки таких сис-ем сейчас на порядок больше и достигает сотен часов на один час еанса обучения.

В диссертационной работе предложены ключевые принципы реали-ации интеллектуальных обучающих систем на базе гибридных инстру-ентариев второго поколения.

Таким образом, диссертация посвящена разработке гибридного нструментария интеллектуальных систем на базе языка логического рограммирования Пролог и его реализации на одном из наиболее аспространенных диалектов этого языка, а также проектированию и еализации на основе инструментария объектно-ориентированной обо-очки интеллектуальных обучающих систем.

/ "

Цель работы: разработка концептуальных основ расширенного логического программирования, реализация соответствующего,инструментария интеллектуальных систем и создание на его базе конкретных интеллектуальных систем.

Научная новизна. Новыми результатами диссертации являются:

- принципы расширенного логического программирования;

- структура и состав инструментария расширенного логического программирования Рго1ах;

- метод реализации фреймовой и продукционной компонент инструментария на базе логики предикатов с поддержкой нехарактерного для логического программирования прямого продукционного вывода;

- метод реализации механизмов доски объявлений и контекстов с использованием внутренней базы данных Пролога;

- эффективный алгоритм обработки активных узлов для оперативного опроса рабочей области во время прямого продукционного вывода;

- метод обработки противоречивых ситуаций на базе неклассического вывода, отличающийся нетривиальным использованием управляющих механизмов Пролога;

- проблемно-независимая методика создания интеллектуальных обучающих систем, комбинирующая различные технологии.искусственного интеллекта и автоматизированного обучения и активно использующая управляемые знаниями гипертекстовые базы;

- оригинальное программное обеспечение инструментария расширенного логического программирования, включающее независимый встраиваемый интерпретатор подсистем оперативной документации в режиме гипертекста.

Практическая значимость полученных результатов:

- на основе разработанных алгоритмов и методик появилась реальная возможность эффективной реализации интеллектуальных систем второго поколения на базе функционально полного гибридного инструментария, с развитой интеграцией'систем баз знаний, баз данных, библиотек прикладных процедур и баз проблемной гипердокументации;

- инструментарий применен для создания ряда баз знаний инженерного назначения и объектно-ориентированной оболочки интеллектуальных

. обучающих систем.

Апробация работы. Результаты диссертационной работы докладывались на Международной студенческой научной конференции (Москва, 1990), I Всесоюзной школе по автоматизации научных исследований (Обнинск, 1991), IX научной школе "Программное обеспечение математического моделирования; управления и искусственного интеллекта" (Адлер, 1991), семинарах в МАИ и Международном Научном Центре Технологий Программирования (Киев, 1989,1990).

Публикации. Основные результаты диссертации опубликованы в 5 печатных работах.

Структура и объем работы. Диссертационная работа состоит из введения, 4 глав, заключения и приложения. Список литературы содержит 110 наименований. Без учета приложения работа содержит 144 страницы печатного текста, 5 рисунков. Объем приложений 48 страниц.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обосновывается актуальность темы диссертационной работы и формулируются ее цели и задачи. Приводится аналитический обзор основных парадигм искусственного интеллекта и способов их реализации на основе логического программирования.

В первой главе описаны концептуальные основы организации интеллектуальных систем на базе инструментария расширенного логического программирования Рго1ах и состав инструментальной среды Рго1ах.

Интеллектуальная система на базе Рго1ах состоит из двух основных частей: информационного обеспечения и управляющего механизма.

Информационное обеспечение (наполнение интеллектуальной системы) включает:

(1) базу знаний на языке Рго1ах, в состав которой входят:

- терминологические (фундаментальные) знания: знания о строении предметной области, ее базовых объектах и отношениях между ни-

7

ми (фреймы);

- бихевиористические знания: знания о поведении фреймов и динамическом изменении состояния решаемой проблемы, описанные нг декларативном уровне (продукции: правила и демоны);

- знания об ограничениях целостности и состоятельности базь знаний и рабочей области (продукции);

- знания о поведении фреймов на процедурном уровне; вспомогательные функции управления (Пролог-клозы);

(2) библиотеку внешних Си-процедур пользователя, организующи> поддержку низкоуровневых операций, если это необходимо;

(3) реляционную базу данных, хранящую экстенсионалы объектОЕ и прочую подобную информацию простой структуры и большого объема;

(4) базу проблемной гипердокументации, содержащую тексты н; естественном языке в некотором специальном формате;

(5) доску объявлений, содержащую исходные данные о конкретное проблеме, задаваемые конечным пользователем интеллектуальной системы, и данные, выведенные из них, на основании имеющихся в системе знаний:

PR0LAX

ПРОЛОГ

ТЕРМИНОЛОГИЧЕСКИЕ ЗНАНИЯ: ФРЕЙМЫ

БИХЕВИОРИСТИЧЕСКИЕ ЗНАНИЯ: ПРОДУКЦИИ

ЗНАНИЯ О СОСТОЯТЕЛЬНОСТИ

структуры высокого уровня декларативности

ПРОЦЕДУРНЫЕ ЗНАНИЯ: КЛОЗЫ; • МОДУЛЬ main

— Пролог-предложения

ДОСКА ОБЪЯВЛЕНИЙ

данные от конечного пользователя

ПРИЛ0ЖЕНИ5

БИБЛИОТЕКА СИ-ПРОЦЕДУР

РЕЛЯЦИОННАЯ БАЗА ДАННЫХ

БАЗА ГИПЕРДОКУМЕНТАЦИИ

внешние данные и процедуры

Рис. 1. Архитектура интеллектуальной системы на базе инструментария Рго1ах

8

Управляющий механизм - это системная компонента, поддерживаю щая перечисленные структуры и подсистемы и являющаяся предметом диссертационной работы.

Рго1ах-среда включает следующие подсистемы, предназначенные для создания, отладки и эксплуатации интеллектуальных систем: препроцессор; интерпретатор, включающий подсистему трассировки и объяснений, в том числе интерактивный отладчик баз знаний, и подсистему обработки противоречивых ситуаций; редактор баз знаний, а также подсистема оперативной подсказки и библиотека сервисных предикатов:

РЖАХ ПРОЛОГ

ПРЕПРОЦЕССОР

ИНТЕРПРЕТАТОР

ПОДСИСТЕМА ТРАССИРОВКИ И ОБЪЯСНЕНИЙ

ОТЛАДЧИК

ОБЪЯСНИТЕЛЬ

БИБЛИОТЕКА

РЕДАКТОР

ИНТЕРАКТИВНАЯ СРЕДА

ПОДСИСТЕМА ОПЕРАТИВНОЙ ДОКУМЕНТАЦИИ

ПОДСИСТЕМА ОБРАБОТКИ ПРОТИВОРЕЧИВЫХ СИТУАЦИЙ

Рис. 2. Рго1ах: среда для создания, отладки и использования интеллектуальных систем

Во второй главе описан синтаксис языка представления знаний Рго1ах и охарактеризованы его главные декларативные структуры,-объекты и продукции. Рассмотрены некоторые особенности реализации этих структур на базе Пролога.

9

Описания объектов включают описания атрибутов и методов. Об екты традиционно организуют иерархию, с множественным наследован ем атрибутов и методов от суперкласса к подклассу. Наследован может быть блокировано. Предусмотрены операции с экстенсионала объектов. Для хранения значений атрибутов объектов моделируют отсутствующие в классическом Прологе глобальные переменные. В о щем случае глобальная переменная может принимать любое значен (любой синтаксически правильный терм Пролога кроме локальной пер менной), однако пользователь может задавать фасетные ограничен на тип и диапазон возможных значений. По умолчанию глобальные п ременные, как и локальные, допускают однократное присваивани Присваивание, рассматриваемое как Пролог-цель, может закончить неудачей, если нарушено фасетное ограничение, или если значен переопределяется. Глобальные переменные Рго1ах, как и локальн переменные Пролога, сбрасывают свои значения при бэктрекинге.

В Рго1ах поддерживаются продукции как прямого, так и обрати го вывода. Продукции прямого вывода для краткости называются дем нами, продукции обратного вывода - правилами., Н- и ^еп-час продукций могут включать операции над глобальными переменными (с ответственно извлечение и присваивание им значений), и любые др гие Пролог-предикаты. Необязательная 1гапз1а1е-часть содерж текст на естественном языке, быть может, формируемый динамическ который используется для объяснений. Признаком продукции прямо вывода (демона), является наличие уЬеп-части,- некоторого спис глобальны^;переменных. Демон инициируется тогда, когда всем эт< переменным-присвоены какие-то значения.

Здесь же" описан эффективный алгоритм опроса доски объявлен вр время прямого, логического вывода, в основе которого - компил ция демонов в сеть, обеспечивающую их быстрый просмотр при посту! пении в систему новых данных.

Рго1ах допускает сокращенную запись продукций в виде форму ■формуп вычисления, соответствующих правилам, и формул проверь соответствующих демонам. '1" 1,1

Использование локальных переменных в телах продукций позвол: ет их параметризовать, что существенно с точки зрения их лакони1 ности и универсальности.

В третьей главе подробно описаны встроенные подсистемы РгоЬ

и их взаимодействие.

Доска объявлений содержит информацию о значениях глобальных переменных, простых и квалифицированных, и об их источниках. Различается следующие источники знаний: пользователь, база знаний, продукция, правило наследования, система, данное, эксперт.

Информация, находящаяся на доске объявлений, может быть сгруппирована в контексты. Каждый контекст отражает некоторую точку зрения, активную в данный момент работы инструментария, и содержит значения, непосредственно заданные пользователем в текущем контексте, и производные от них, полученные с применением продукций и правила наследования. Значения из других контекстов и производные от них экранированы вплоть до момента смены активного контекста.

Подсистема обработки противоречий Prolax контролирует корректность применения продукций. Противоречивой с точки зрения Prolax является ситуация, когда условие продукции согласовано успешно, а следствие не может быть выполнено. В этом случае инициируется управляемый глобальный бэктрекинг, в процессе которого Prolax пытается снять противоречие, если это возможно. Если предположить, что в базе знаний ошибок нет, то вероятная причина противоречия -в некорректных действиях пользователя, то есть, в некоторых заданных им значениях. Prolax составляет список потенциальных причин противоречия и предлагает пользователю устранить одну из них, т. е. , пересмотреть соответствующее присваивание.

Таким образом, продукции в Prolax, помимо своих обычных функций выполняют функции правил поддержания истинности. Это касается как правил, так и демонов. Продукция может быть явным правилом поддержания истинности, если в ее условии описан противоречивый набор значений, а следствие содержит единственный Пролог-предикат fail.

Далее описаны программные интерфейсы Prolax с Си-процедурами пользователя и реляционной СУБД Oracle; обсуждаются методы поддержки детерминированных и недетерминированных вычислимых предикатов пользователя с использованием способов списка альтернатив и висящего запроса.

Подсистема оперативной документации состоит из компилятора и интерпретатора гипертекстов; последний встраивается в систему посредством Са11-интерфейса. Описаны входной формат гипертекстов, nail

раметры компилятора и спецификации функций Са11-интерфейса интерпретатора.

В четвертой главе описана объектно-рриентированная оболочка интеллектуальных обучающих систем Prolax Tutor Shell: I-:-:-1

j ИНТЕЛЛЕКТУАЛЬНАЯ ОБУЧАЙСЯ СИСТЕМА j

1 ..... ! ■ | информационное обеспечение | 1 оболочка |

| обучающего курса | 1 1 PROLAX TUTOR SHELL |

1 1 1 1 | | ТЕМЫ И ПРИМЕРЬ! ИЗ | ( БАЗОВЫЕ ОБЪЕКТЫ | |

| | ПРЕДМЕТНОЙ ОБЛАСТИ | | 1 1 1 I i. i I

1 1 1 1 i i I 1 УПРАВЛЯЮЩИЙ МОДУЛЬ 1 I

) | СЦЕНАРИИ ОБУЧЕНИЯ ( | 1 | >1 1 . . . ,. . 1 !

! I I г--1 1 1 1 1 | МОДУЛЬ ПОДСКАЗКИ 1 1

1 I КОНСТРУКТИВНЫЕ I I ' 1 1

1 ) ЗНАНИЯ I I 1 1 I

Г 1-:-—1 1 j ПЛАНИРОВЩИК 1 1 1 1 ]

1 1 . .. . , | | | КАТАЛОГ ( | 1 1 1

| | ИЗВЕСТНЫХ ОШИБОК | | II "II | КОНТРОЛЕР 1 1 1 1 1

] 1 1

>-1МОДЕЛЬ ОБУЧАЕМОГО|-'

l_l

Рис. 3. Архитектура интеллектуальной обучающей системы на базе оболочки Prolax Tutor Shell

Как принято в объектно-ориентированных системах, оболочка представляет собой набор базовых объектов с соответствующими методами и управляющих процедур, реализованных на языке представления знаний Prolax и на Прологе.

Проблемная область, по которой проводится обучение, представляется как иерархия тем и связанных с ними контрольных примеров; определены корневые объекты Тема, Пример и Сценарий.

Объект Тема содержит атрибуты объяснение и примеры и методы вывестиОбъяснение, обучитьТеме, решитьПримеры и обучитьПодтемам.

Объект Пример содержит атрибуты заголовок, данные и цели и методы вывестиФормулировку, решить, демонстрироватьРешение и решит ьСНеизвестнымиДанными. 12

Объект Сценарий содержит атрибут последовательностьДействий и методы провестиОбучение, внестиВСценарий и удалитьИзСценария.

Объяснение Темы и заголовок Примера могут быть формируемыми динамически текстами или гипертекстами (с использованием Са11-ин-терфейса).

Данные Примера представляют собой набор начальных значений некоторых глобальных переменных, может быть, определяемых динамически.

Цели Примера - это глобальные переменные, значения которых должен определить обучаемый.

Определены некоторые специальные классы примеров - примитивы для моделирования большинства типов задач.

Образ обучаемого моделируется средствами доски объявлений.

Каталог известных ошибок представлен в виде набора продукций прямого вывода с неудачно согласующимся следствием, т.е., ошибки соответствуют противоречивым ситуациям Рго1ах.

Конструктивные экспертные знания представлены в виде продукций обратного вывода; возможность и особенности их применения зависят от активного контекста; используются три контекста:

1. главный контекст или контекст пользователя (для оперативной подсказки в рамках одного шага решения примера);

2. контекст эксперта-планировщика (для планирования пошагового решения примера, если это необходимо);

3. контекст эксперта-контролера (дпя контроля неизвестных ошибок путем сравнения значений пользователя с верными значениями, если это необходимо).

Применение правил эксперта и обращение к теоретической информации может быть блокировано; также может быть ограничено время сеанса, что удобно для организации контрольных работ, экзаменов и т. д.

Оценивание правильности действий пользователя при решении примеров проводится с помощью штрафования: изменения значения некоторой системной переменной при каждом вызове правила или демона на величину штрафа, соответствующую степени серьезности ошибки или подсказки, и суммирования баллов за каждый решенный пример.

В заключении подводятся итоги диссертационной работы, формулируются и анализируются ее результаты.

В Приложении 1 описан синтаксис языка представления знаний Prolax в терминах нормальной формы Бэкуса.

Приложение 2 содержит файл-заголовок для установки интерфейса Prolog-C и примеры внешних Си-процедур.

В Приложении 3 содержатся примеры использования базовых управляющих структур Prolax для решения модельной задачи классификации.

Приложение 4 включает тексты Пролог- и Си-процедур, реализующих компиляцию демонов в сеть.

Приложение 5 содержит исходные тексты оболочки Prolax Tutor Shell на языках Prolax и Пролог.

Приложение 6 содержит примеры модельных обучающих систем и фрагменты протокола сеанса обучения.

ОСНОВНЫЕ ВЫВОДЫ И РЕЗУЛЬТАТЫ

В процессе выполнения диссертационной работы проведено исследование принципов логического, объектно-ориентированного и продукционного программирования и вопросов их применения для создания инструментария интеллектуальных систем второго поколения, для работы с базами знаний и базами данных и гипертекстов. В результате исследования:

- разработаны принципы интеграции объектно-ориентированного, продукционного и логического программирования, позволяющие реализовы-вать интеллектуальные системы второго поколения;

- на языках СиПролог и Си в средах VAX/VMS 4.5 и UNIX BSD 4.3 на ЭВМ VAX-11/750 реализован инструментарий расширенного логического программирования Prolax с фреймовой и продукционной компонентами и подсистемой обработки противоречий (3500 строк на Си, 4500 строк на Прологе, 2000 строк гипертекстовой документации);

- на базе инструментария создана объектно-ориентированная оболочка интеллектуальных обучающих систем Prolax Tutor Shell;

- на основании разработанной методики и с использованием оболочки реализована обучающая система по курсу теории вероятностей (на базе компьютерного курса, разработанного в МАИ проф. В.И.Гришиным и доц. В.Л. Латышевым; в реапизации принимала участие студентка МАИ В. В. Сеницкая);

14

- инструментарий применен для создания ряда инженерных баз знаний, зкпючая систему поддержки решения изобретательских задач (на основании Теории Решения Изобретательских Задач Г.С.Альтшуллера; реа-пизовано студентом МАИ И.М.Зориным).

По теме диссертации опубликованы следующие работы:

1. Куравлева (Шевченко) Т.Э. Система поддержки баз знаний инженерного назначения. Тезисы докладов международной студенческой научной конференции. -М. : Изд-во МАИ, 1990, с. 179-180.

2. Методы и средства представления проектно-конструкторских и технологических знаний и создания инженерных баз знаний. Техническая документация на программное изделие. Per. номер 589.2066608.806. 120-02 -Киев: МНЦТП, 1990. -351с.

3. Зайцев В.Е., Сухов C.B., Журавлева (Шевченко) Т.Э. Инструментальные средства для построения и использования инженерных баз знаний. - В сб. : Информатика. Сер. Автоматизация проектирования, Вып. 3-4. -М. : ВИМИ, 1991, с. 41-51.

4. Куравлева (Шевченко) Т.Э. Метод ускорения логического вывода на рреймово-продукционных базах знаний с использованием демонов и семейств продукций. - В сб. : Тезисы IX научной школы "Программное обеспечение математического моделирования, управления и искусственного интеллекта". -Иркутск: ИрВЦ СО АН СССР, 1991, с.121-123.

5. Зайцев В.Е., Сухов C.B., Куравлева (Шевченко) Т.Э. Автоматизированная система решения задач ча базах знаний. - В сб. : Математическое обеспечение интеллектуальных систем / Под ред. проф. В.В.Семенова. -М. : Изд-во МАИ, 1992, с.19-25.