автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Разработка декларативных методов представления знаний для моделирования и исследования нормативных текстов

ВВЕДЕНИЕ.

1. АНАЛИЗ ДЕКЛАРАТИВНЫХ МЕТОДОВ ПРЕДСТАВЛЕНИЯ ЗНАНИЙ, ИСПОЛЬЗУЕМЫХ ДЛЯ ПРОЕКТИРОВАНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ.

1.1. Обзор интеллектуальных систем в области права и анализ методов, применяемых для их проектирования.

1.2. Анализ возможностей применения теории фреймов для разработки систем искусственного интеллекта.

1.3. Исследование логического подхода к представлению знаний в интеллектуальных системах.

1.4. Использование деонтической логики для проектирования интеллектуальных систем.

1.5. Выводы.

2. РАЗРАБОТКА И ИССЛЕДОВАНИЕ МЕТОДОВ ОРГАНИЗАЦИИ ЛОГИЧЕСКОГО ВЫВОДА В ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМАХ, ИСПОЛЬЗУЮЩИХ ДЕОНТИЧЕСКУЮ ЛОГИКУ.

2.1. Исследование проблемы определения значений истинности деонтических высказываний и логических операций над ними.

2.2. Разработка и исследование методов организации логического вывода в деонтической логике.

2.3. Разработка метода резолюций для деонтической логики.

2.4. Выводы.

3. РАЗРАБОТКА ДЕКЛАРАТИВНОГО МЕТОДА ФОРМАЛИЗАЦИИ

ТЕКСТОВ НОРМАТИВНО-ПРАВОВЫХ ДОКУМЕНТОВ ДЛЯ

ПРОЕКТИРОВАНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ.

3.1. Разработка методики извлечения знаний из текстов нормативно-правовых документов и формального их представления.

3.2. Логическое моделирование элементарных норм права.

3.3. Разработка методов композиции логических моделей правовых норм, извлеченных из одного или нескольких документов

3.4. Выводы.

4. ПРАКТИЧЕСКАЯ РЕАЛИЗАЦИЯ ИНТЕЛЛЕКТУАЛЬНОЙ

СИСТЕМЫ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ.

4.1. Структура и состав интеллектуальной системы поддержки принятия решений в сфере наследования жилья.

4.2. Построение базы знаний на основе декларативного метода формализации текстов нормативно-правовых документов.

4.3. Использование схем нормативных рассуждений для организации логического вывода в базе знаний.

4.4. Выводы.

Актуальность работы. Применение средств вычислительной техники для решения задач, возникающих в различных сферах человеческой деятельности, и проведение исследований в этой области послужили основой для формирования целого ряда научных направлений, одним из которых является искусственный интеллект. Согласно П. Уинстону, искусственный интеллект - это наука о концепциях, позволяющих вычислительным машинам делать такие вещи, которые у людей выглядят разумными [1]. Значительный вклад в процесс формирования и дальнейшего развития данного направления внесли такие ученые, как Н. Винер, Л. Заде, А. Колмероэ, Д. Ленат, Дж. Макдермотт, У. Маккалок, Дж. Маккарти, М. Минский, Д.А. Поспелов, А. Прад, Дж. Робинсон, Ф. Розенблат, Э. Шортлифф и многие другие.

В 80-е годы в рамках искусственного интеллекта образовалась самостоятельная область исследований - инженерия знаний, в задачи которой входит разработка методов извлечения и формального представления знаний для построения интеллектуальных систем, а также последующее исследование и использование этих систем [2]. В структуру любой интеллектуальной системы входят две основные части: база знаний и механизм логического вывода. Процесс заполнения базы знаний обычно состоит в получении знаний от некоторого эксперта или извлечении их из текстов каких-либо документов (книг, учебников, инструкций и т.д.) и формальном описании их с помощью специально разработанных методов, называемых способами представления знаний. В настоящее время широко известны следующие традиционные декларативные способы представления знаний: продукционная модель; модель, основанная на логике предикатов; семантическая сеть; модель, основанная на фреймах; модель, созданная по типу «доски объявлений»; ситуационная модель и другие [3]. Все перечисленные способы представления знаний носят универсальный характер и не учитывают особенностей проблем, возникающих при формализации отдельных предметных областей. Это зачастую отражается на качестве проектируемых интеллектуальных систем, поскольку их разработчикам, помимо основных трудностей, связанных непосредственно с процессом извлечения и представления знаний, приходится сталкиваться еще и с проблемами выбора наиболее подходящего из известных стандартных способов представления знаний и модификации его с учетом особенностей, присущих конкретной области приложения.

Одним из путей решений этих проблем является разработка способов представления знаний, специально предназначенных для определенного круга предметных областей. В частности, например, процесс представления знаний в области юриспруденции характеризуется следующими особенностями. Во-первых, при обработке нормативно-правовых документов в качестве источника знаний разработчику интеллектуальной системы, как правило, приходится сталкиваться с так называемыми деонтическими или нормативными высказываниями, истинность которых не определяется обычным способом, поскольку мы можем судить об истинности того, что есть или чего нет, но не о том, что должно или может быть [4]. Во-вторых, различные нормативно-правовые акты зачастую содержат несогласованную и противоречивую информацию, вследствие чего нередко встречается ситуация, когда правила, извлеченные из двух документов, противоречат друг другу. В-третьих, по причинам, связанным с проблемами толкования норм права, наполнение базы знаний носит субъективный характер, т.е., например, одну и ту же статью закона различные субъекты могут толковать по-разному и, соответственно, в процессе формализации формулировать на ее основе различающиеся между собой правила.

Большинство разработанных к настоящему времени интеллектуальных систем в области права, при проектировании которых использовались стандартные способы представления знаний и не учитывались указанные выше особенности, оказались малоэффективными для практического применения и в своем развитии не поднялись выше уровня исследовательского прототипа. Тем не менее, необходимость разработки подобных систем и доведения их до практического уровня сохраняется [5]. Об этом свидетельствует широкое распространение и популярность справочных информационно-поисковых систем в области права, которые могут находить в базе данных нормативно-правовые документы, релевантные сформулированным запросам, и выдавать их тексты пользователям [6]. Однако, в отличие от интеллектуальной системы, поисковая система не способна дать конкретный совет в сложившейся ситуации.

Научные исследования, связанные с применением средств вычислительной техники к юридической области, послужили основой для формирования самостоятельного раздела в рамках информатики - «Правовая информатика». Курсы с таким названием уже включены в учебные планы многих специальностей, по данной дисциплине написан ряд учебников [7-10].

Значительный вклад в развитие теоретических исследований и практических разработок в сфере правовой информатики внесли зарубежные исследователи: T.J.M. Bench-Capon, D.H. Berman, C.D. Hafner, J. Hage, R.W. van Kralingen, L.T. McCarty, L. Philipps, H. Prakken, G. Sartor, M. J. Sergot, R. Susskind, P.R.S. Visser, G.H. von Wright, а также отечественные ученые: Г.И. Бушуев, Н.В. Витрук, О.А. Гаврилов, Н.И. Земляной, А.А. Ивин, В.А. Копылов, В.Н. Кудрявцев, Н.С. Полевой, В.А. Пошкявичус и другие.

Актуальность работ в указанном направлении подтверждается также следующими обстоятельствами: созданием в 1991 г. Международной ассоциации искусственного интеллекта и права (International Association for Artificial Intelligence and Law), которая насчитывает около 100 постоянных членов и 200 участников, которые принимают участие в ее работе время от времени; изданием научных журналов, специализирующихся на данной тематике, например, международного научного журнала «Искусственный интеллект и право» (Artificial Intelligence and Law), который выходит в Голландии с 1992 года; ростом числа научных конференций и семинаров по интеллектуальным системам в области права. Например, регулярно, начиная с 1987 года, проводятся крупные международные конференции «Искусственный интеллект и право» (ICAIL - International Conference on Artificial Intelligence and Law) и «Правовые экспертные системы» (JURIX - International Conference on Legal Knowledge-based Systems).

Из сказанного следует, что в настоящее время является актуальной решаемая в диссертационной работе задача разработки специальных методов представления нормативных знаний, методов извлечения этих знаний из естественно-языковых текстов, а также методов организации логического вывода, моделирующего деонтические рассуждения.

Целью диссертационной работы является разработка методов извлечения и формального представления нормативных знаний и методов организации логического вывода, моделирующего деонтические рассуждения, а также применение полученных результатов для проектирования интеллектуальной системы поддержки принятия решений.

Достижение этой цели требует решения следующих основных задач:

- исследование проблемы организации дедуктивного вывода в случае, когда в качестве антецедента и консеквента выступают деонтические высказывания;

- разработка методов автоматизации логического вывода в интеллектуальных системах, моделирующих нормативные рассуждения;

- исследование проблемы извлечения знаний из нормативных текстов, содержащих деонтические высказывания;

- разработка декларативного метода представления нормативных знаний;

- применение полученных результатов для проектирования интеллектуальной системы поддержки принятия нормативных решений.

Методы исследования. При решении поставленных задач в работе использовались методы теории искусственного интеллекта, инженерии знаний, логики предикатов первого порядка, деонтической логики, теории возможностей, теории фреймов, методы организации дедуктивного логического вывода, а также специализированные программные средства декларативного представления и обработки знаний.

Научная новизна работы определяется следующими результатами:

- предложен метод определения значений истинности деонтических высказываний и введены операции над ними, доказаны теоремы, устанавливающие взаимосвязь значений истинности высказываний, содержащих двойственные деонтические операторы;

- предложены и обоснованы схемы моделирования нормативных рассуждений в интеллектуальных системах, на основе которых построены обобщенные правила вывода modus ponens и modus tollens для деонтической логики;

- разработан метод резолюций для деонтической логики, который позволяет автоматизировать процесс логического вывода в интеллектуальных системах, моделирующих нормативные рассуждения;

- предложена методика извлечения знаний из нормативных текстов, содержащих деонтические высказывания, которая учитывает специфику данных текстов и позволяет осуществлять переход от текстов нормативно-правовых документов к полуформальной записи на языке ^-структур;

- разработан декларативный метод представления нормативных знаний на основе интеграции логических и фреймовых моделей с использованием деонтической логики;

- разработаны структура и состав интеллектуальной системы поддержки принятия решений в области наследственного права.

Практическая ценность. Практическая значимость результатов исследования заключается в том, что предложенные методы извлечения и формального представления нормативных знаний могут быть использованы для проектирования интеллектуальных систем, моделирующих деонтические рассуждения. В частности, на основе предложенных методов разработаны структура и состав интеллектуальной системы поддержки принятия решений в области наследственного права, которая помогает распределять наследуемое имущество между наследниками в соответствии с законом и волей наследодателя, а также объясняет причины такого распределения со ссылкой на действующее законодательство. Эта система может быть использована гражданами для получения юридических консультаций по вопросам, связанным с наследованием жилья.

Реализация результатов работы. Результаты, полученные в диссертации, были использованы и включены в отчет по госбюджетной НИР № 15550/1 «Некоторые теоретико-прикладные проблемы машинного представления нормативно-правовой информации».

Теоретические и практические результаты работы внедрены в учебный процесс кафедры информационного обеспечения ОВД Ростовского юридического института МВД России и кафедры теории права и правовой информатики Таганрогского государственного радиотехнического университета.

Акты об использовании научных и практических результатов прилагаются к диссертации.

Апробация работы. Научные и практические результаты, полученные в диссертации, докладывались и обсуждались на следующих научно-технических конференциях: VIII Международной научной конференции «Информатизация правоохранительных систем - 99», г. Москва, 1999 г.; I Всероссийской научно-технической конференции «Компьютерные технологии в науке, проектировании и производстве», Нижний Новгород, 1999г.; Всероссийской научно-технической конференции «Компьютерные технологии в инженерной и управленческой деятельности», г. Таганрог, 1997 г.; IV-V Всероссийских научно-технических конференциях студентов и аспирантов «Радиоэлектроника, электротехника и энергетика», г. Москва, 1998 - 1999 гг.; I Всероссийской научной конференции молодых ученых и аспирантов «Новые информационные технологии. Разработка и аспекты применения», г. Таганрог, 1998 г.; III-IV Всероссийских научных конференциях студентов и аспирантов, г. Таганрог, 1997-1998 гг.; XLIII научно-технической конференции профессорско-преподавательского состава ТРТУ, г. Таганрог, 1997 г.

Публикации. По теме диссертационной работы опубликовано 15 печатных работ [11-25]. Основные результаты работы также отражены в отчете по госбюджетной НИР № 15550/1 «Некоторые теоретико-прикладные проблемы машинного представления нормативно-правовой информации».

Структура и объем работы. Диссертация состоит из введения, четырех разделов, заключения, списка литературы и приложений. Общий объем работы составляет 172 стр., в том числе основного текста - 151 стр., включая 22 рисунка и 22 таблицы, 10 стр. списка литературы из 118 наименований и приложений на 11 страницах.

4.4. Выводы

На основе проведенного исследования проблем извлечения, формального представления и обработки нормативных знаний в экспертно-правовых системах и возможных путей их решения можно сделать следующие выводы.

1. На основе предложенных в третьем разделе настоящей работы методов извлечения и формального представления нормативных знаний разработаны структура и состав интеллектуальной системы поддержки принятия решений в сфере наследования жилья. Эта система помогает распределять наследуемое имущество между наследниками в соответствии с законом и волей наследодателя, а также объяснять причины такого распределения со ссылкой на действующее законодательство, используя специально разработанную базу знаний.

2. База знаний представляет собой сеть взаимосвязанных фреймов норм, содержащих формализованные нормативные предписания, фреймов деяний, описывающих характеристики предписываемых деяний, и фреймов понятий, формализующих юридически зафиксированные термины и их определения, а также включает специальные процедуры подстановки, запроса недостающей информации и проверки условий. Представление знаний характеризуется высокой степенью декларативности, что позволяет легко изменять и дополнять базу знаний.

3. Логический вывод в базе знаний основывается на использовании схем нормативных рассуждений для деонтических операторов "обязательно" (О), "разрешено" (R) и "запрещено" (F), обобщенных правил вывода modus ponens и modus tollens и метода резолюций для деонтической логики, которые позволяют моделировать нормативные рассуждения, что является особенно важным для проектирования интеллектуальных систем в области права.

4. Разработанная система поддержки принятия решений в сфере наследования жилья реализована на языке логического программирования Пролог и доведена до уровня демонстрационного прототипа. Она может применяться гражданами для получения юридических консультаций по вопросам, связанным с наследованием жилья, а также в учебном процессе.

ЗАКЛЮЧЕНИЕ

В диссертационной работе исследованы особенности извлечения знаний из естественно-языковых текстов, содержащих деонтические высказывания, и формального их представления, а также разработаны методы организации логического вывода в базах знаний интеллектуальных систем поддержки принятия нормативных решений. При этом получены следующие научные результаты.

1. Проведен анализ работ в сфере проектирования интеллектуальных систем в области права, который показал, что при разработке большинства из них не учитывалась специфика формализации нормативных знаний, вследствие чего эффективность практического использования и распространенность подобных систем до сих пор остается крайне низкой по сравнению с интеллектуальными системами в других областях приложения. Проанализированы известные способы представления знаний и обоснована необходимость использования фреймов, логики предикатов и деонтической логики для разработки нового метода представления нормативных знаний на основе интеграции перечисленных методов.

2. Предложен метод определения значений истинности деонтических высказываний, введены операции, позволяющие вычислять значения составных формул логики норм, доказаны теоремы, устанавливающие взаимосвязь значений истинности высказываний, содержащих двойственные деонтические операторы. Это позволило перевести деонтическую логику из разряда содержательных в ряд дедуктивно формализованных теорий и реально использовать ее для проектирования интеллектуальных систем.

3. . Предложены и обоснованы схемы моделирования нормативных рассуждений в интеллектуальных системах. Построены обобщенные правила вывода modus ponens и modus tollens для деонтической логики, которые можно использовать для организации логического вывода в базах знаний интеллектуальных систем поддержки принятия нормативных решений.

4. Разработан метод резолюций для деонтической логики, который дает возможность автоматизировать процесс логического вывода, оперирующего нормативными высказываниями, что, в свою очередь, может привести к созданию специализированных языков программирования, нацеленных на обработку нормативных рассуждений, и, как следствие, послужить основой для дальнейшего развития интеллектуальных систем в области права.

5. На основе использования методов обработки естественно-языковых текстов предложена методика извлечения знаний из нормативных текстов, содержащих деонтические высказывания, которая учитывает специфику данных текстов и позволяет формально представлять их на языке 2,-структур.

6. Разработан декларативный метод представления нормативных знаний на основе интеграции логических и фреймовых моделей с использованием деонтической логики, который позволяет декларативно представлять знания с деонтическими модальностями. Рассмотрены нюансы организации логического вывода в построенных на основе предложенного метода фреймовых сетях, с учетом использования схем нормативных рассуждений. Предлагаемый метод, в отличие от существующих методов, позволяет декларативно представлять знания, содержащие деонтические высказывания, а также свободно оперировать этими знаниями в процессе организации логического вывода на основе схем нормативных рассуждений.

7. Разработаны структура и состав интеллектуальной системы поддержки принятия решений в области наследственного права. Эта система помогает распределять наследуемое имущество между наследниками в соответствии с законом и волей наследодателя, а также объяснять причины такого распределения со ссылкой на действующее законодательство. Представление знаний в системе характеризуется высокой степенью декларативности, что позволяет легко изменять и дополнять базу знаний. Логический вывод в базе знаний основывается на использовании схем нормативных рассуждений, обобщенных правил вывода modus ponens и modus tollens и метода резолюций для деонтической логики, которые позволяют моделировать нормативные рассуждения, что является особенно важным для проектирования интеллектуальных систем в области права.

1. Уинстон П. Искусственный интеллект. М.: Мир, 1980. - 519 с.

2. Построение экспертных систем / Под ред. Ф. Хейса-Рота, Д. Уотермена, Д. Лената. М.: Мир, 1987.-441 с.

3. Осуга С. Обработка знаний. М.: Мир, 1989. - 293 с.

4. Hage J. Defeasible reasoning in the law: an informal introduction to reason-based logic. http://www.rechten.unimaas.nl/metajuridica/hage/Publicaties/ Informal%20rbl.html, 1999. - 14 p.

5. Уотермен Д. Руководство по экспертным системам.-М.: Мир, 1989 388с.

6. Терещенко С.С. Выбор логической структуры и программного обеспечения БД по нормативным документам // НТИ. Серия 1. 1993, № 11, ВИНИТИ.-С. 35-37.

7. Правовая информатика и кибернетика / Под ред. Н.С. Полевого. М.: Юридическая литература, 1993. - 528 с.

8. Рассолов М.М., Элькин В.Д., Рассолов И.М. Правовая информатика и управление в сфере предпринимательства. М.: Юристъ, 1996. - 480 с.

9. Введение в правовую информатику / Под ред. Н.Б. Новикова, В.Л. Камынина. М.: ООО НПО «Вычислительная математика и информатика», 1999.-313 с.

10. Ю.Гаврилов О.А. Курс правовой информатики. М.: НОРМА, 2000. - 432 с.

11. Ельчанинова Н.Б. Логический анализ структуры норм-предписаний // Известия ТРТУ. Таганрог: ТРТУ, 1998. № 1(7). - С. 295-297.

12. Саак А.Э., Иванов И.Г., Ельчанинова Н.Б. К вопросу о логической структуре нормы права // Известия ТРТУ. Таганрог: ТРТУ, 1998. № 1(7). - С. 291-295.

13. Иванов Г.И., Ельчанинова Н.Б. Композиция логических моделей правовых норм // Сб. Теория права и правовая информатика. Выпуск 1. Таганрог: ТРТУ, 2000.-С. 102-119.

14. Баранов П.П., Иванов Г.И., Ельчанинова Н.Б. Исследование проблемы композиции правовых норм // Сб. тезисов докладов VIII международной конференции. Информатизация правоохранительных систем 99. - Москва: МАИ, 1999. - С. 25-27.

15. Саак А.Э., Иванов И.Г., Ельчанинова Н.Б. Логическое моделирование нормы права // Сб. материалов Всероссийской научно-технической конференции Компьютерные технологии в инженерной и управленческой деятельности. Таганрог: ТРТУ, 1998. - С. 89-91.

16. Ельчанинова Н.Б. Формализация и систематизация нормативных документов // Известия ТРТУ. Таганрог: ТРТУ, 1999. № 1(11). - С. 141-143.

17. Ельчанинова Н.Б. Логическое моделирование норм-предписаний // Сб. тезисов докладов Ежегодной научно-технической конференции студентов и аспирантов Радиоэлектроника и электротехника в народном хозяйстве. -М.: МЭИ, 1998.-С. 137-138.

18. Ельчанинова Н.Б. Автоматическая идентификация правовых ситуаций // Сб. тезисов докладов IV Всероссийской научной конференции студентов и аспирантов Техническая кибернетика, радиоэлектроника и системы управления. Таганрог: ТРТУ, 1998. - С. 329-330.

19. Ельчанинова Н.Б. Проблемы извлечения знаний из текстов нормативно-правовых актов и их структурирование // Сб. Теория права и правовая информатика. Выпуск 2. Ростов-на-Дону: Изд-во РЮИ, 2002. - С. 27-45.

20. Кнапп В. О возможности использования кибернетических методов в праве. М.: Прогресс, 1965. - 288 с.

21. Деев А.Ф., Гальперин Л.Б., Иванов Ю.Т. Кибернетика и решение некоторых правовых задач // Сб. Вопросы кибернетики и право / Под ред. В.Н. Кудрявцева. М.: Наука, 1967. - С. 115-133.

22. Агапов А.Б. Новая информационная технология и право // Советское государство и право, 1991, № 11. С. 88-93.

23. Толстошеев В.В. Компьютерная технология и право // Советское государство и право, 1988, № 3. С. 101-106.

24. Копылов В.А. Перспективные информационные технологии в правовой сфере. -М.: НТЦ Информсистема, 1993. 176 с.

25. Гаврилов О.А. Информатизация правовой системы России. Теоретические и практические проблемы. М.: Изд-во «Юрид. книга» и «ЧеРо», 1998.

26. Малышев А.И. Построение онтологий как метод разработки баз знаний экспертных юридических систем // Сб. Теория права и правовая информатика. Выпуск 2. Ростов-на-Дону: Изд-во РЮИ, 2002. - С. 68-80.

27. Пашин С.А., Косовец А.А. Экспертные системы в области правосудия и законотворчества: опыт и перспективы // НТИ. Серия 1. 1992, № 10-11, С. 55-56.

28. Гаврилов О.А. Интеллектуальные системы и технологии в правовой сфере //НТИ. Серия 1. 1993, № 11, ВИНИТИ. С. 24-26.

29. Компьютерные технологии в юридической деятельности / Под ред. Н.С. Полевого, В.В. Крылова. М.: Изд-во БЕК, 1994. - 304 с.

30. Мелихов А.Н., Берштейн JI.C., Коровин С.Я. Ситуационные советующие системы с нечеткой логикой. М.: Наука, 1990. - 271 с.

31. Bench-Capon T.J.M. Legal knowledge representation: what can be done with rules? // Think. Vol. 3. № 2. 1994; http://cwis.kub.nl/~fdl/research/ti/ docs/think/3 -2/bench.htm

32. Coenen F.P., Bench-Capon T.J.M., Smeaton P. Representing visual conditions in a legal knowledge based system // Proceedings of the Fourth International conference on Artificial intelligence and law, 1993. P. 264-271.

33. Чубукова С.Г. Различные подходы к представлению правовых знаний в экспертных системах // Государство и право, 1999, № 3. С. 95-98.

34. Минский М. Фреймы для представления знаний.-М.: Энергия, 1979,—151с.

35. McCarty Т. The TAXMAN project: towards a cognitive theory of legal argument //Computer science and law Cambridge university press, 1980 - P.23-44

36. Paliwala A. An intellectual celebration: A review of the JURIX legal knowledge based systems scholarship // Artificial intelligence and law, 2001, № 8 (4).-P. 317-335.

37. Kakuta Т., Haraguchi M. An actual application of an analogical legal reasoning system dependent on legal purposes // Proceedings of the Eleventh International conference on Legal knowledge-based systems JURIX'98,1998. P. 31-44.

38. Yoshino H., Haraguchi M., Sakurai S., Kagayama S. Towards a legal analogical reasoning system: knowledge representation and reasoning methods // Proceedings of the Fourth International conference on Artificial intelligence and law, 1993.-P. 110-116.

39. Walter C. Expert systems for law // Computer power and legal language. -Greenwood press, 1988. P. 329-350.

40. Berman D., Hafner C. Obstacles to the development of logic-based models of legal reasoning // Computer power and legal language. Greenwood press, 1988.-P. 183-214.

41. Sergot M. J. A brief introduction to logic programming and its applications in law // Computer power and legal language. Greenwood press, 1988 - P.25-38.

42. Bench-Capon T.J.M., Sergot M.J. Toward a rule-based representation of open texture in law // Computer power and legal language. Greenwood press, 1988. -P. 39-60.

43. Кудрявцев B.H., Андреев Б.В. Нечеткая логика при решении криминологических задач // Государство и право, 1999, № 1. С. 106-108.

44. Castaneda Н. The basic logic for the interpretation of legal texts // Computer power and legal language. Greenwood press, 1988. - P. 167-182.

45. Leendert W.N. van der Torre. Diagnosis and decision making in normative reasoning // Artificial intelligence and law, 1999, № 7. P. 51-67.

46. Yoshino H. On the logical foundation of compound predicate formulae for legal knowledge representation //Artificial intelligence and law, 1997, № 5.-P. 77-96

47. Visser P.R.S., Bench-Capon T.J.M. A comparison of four ontologies for the design of legal knowledge systems // Artificial intelligence and law, 1998, № 6(1).-P. 27-57.

48. Kralingen R.W. van, Oskamp E., Reurings E. Norm frames in the representation of laws // Proceedings of the Sixth International conference on Legal knowledge-based systems JURIX'93, 1993. P. 11-22.

49. Visser P.R.S., Kralingen R.W. van, Bench-Capon T.J.M. A method for the development of legal knowledge systems // Proceedings of the Sixth International conference on Artificial intelligence and law, Melbourne, 1997. P. 151-160.

50. Konstantinou V., Sykes J., Yannopoulos G.N. Can legal knowledge be derived from legal texts? // Proceedings of the Fourth International conference on Artificial intelligence and law, 1993. P. 218-227.

51. Поспел OB Д.А. Логико-лингвистические модели в системах управления. -М.: Энергоиздат, 1981. -231 с.

52. Тей А., Грибомон П. Логический подход к искусственному интеллекту: от классической логики к логическому программированию. М.: Мир, 1990. -432 с.

53. Кандрашина Е.Ю., Литвинцева Л.В., Поспелов Д.А. Представление знаний о времени и пространстве в интеллектуальных системах / Под ред. Д.А. Поспелова. М.: Наука, 1989. - 328 с.

54. Ершов Ю.Л., Палютин Е.А. Математическая логика. М.: Наука, 1987. -336 с.

55. Клини С.К. Математическая логика. М.: Мир, 1973. - 480 с.

56. Эндрю А. Искусственный интеллект / Под ред. и с предисл. Д.А. Поспелова.-М.: Мир, 1985.-264 с.

57. Чень Ч., Ли Р. Математическая логика и автоматическое доказательство теорем. М.: Наука, 1983. - 358 с.

58. Нильсон Н. Принципы искусственного интеллекта. М.: Радио и связь, 1985.-376 с.

59. Логические методы в информатике / Сб. научных трудов. Выпуск 148. Науч. ред. ЮЛ. Ершов. Новосибирск: РАН; Сиб. отд-ние, 1993. - 172 с.

60. Земляной Н.И. Некоторые проблемы современной логики в праве // Автореферат дисс. на соискание уч. ст. к.ф.н. Киев: КГУ, 1970. - 25 с.

61. Пошкявичус В.А. Применение математических и логических средств в правовых исследованиях. М., 1974. - С. 174-212.

62. G.H. von Wright Deontic logic // "Mind", 1951, v. 60, № 239.

63. Логический словарь: ДЕФОРТ / Под ред. А.А. Ивина, В.Н. Переверзева, В.В. Петрова. М.: Мысль, 1994. - 268 с.

64. Ивин А.А. Логика норм и теория права // Сб. Правовая кибернетика. М.: Наука, 1973.-С. 116-126.

65. Dignum F. Autonomous agents with norms // Artificial intelligence and law, 1999, №7.-p. 69-79.

66. Krogh C., Herrestad H. Hohfeld in cyberspace and other applications of normative reasoning in agent technology // Artificial intelligence and law, 1999, №7.-P. 81-96.

67. Мелихов А.Н., Берштейн JI.C. Конечные четкие и расплывчатые множества. Ч. 2. Таганрог: Изд-во ТРТИ, 1981. - 90 с.

68. Заде JI. Понятие лингвистической переменной и его применение к принятию приближенных решений. М.: Мир, 1976. - 165 с.

69. Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д.А. Поспелова. М.: Наука, 1986.

70. Душкин Р.В., Рыбина Г.В. Об одном подходе к автоматизированному извлечению, представлению и обработке знаний с НЕ-факторами // Известия Академии наук. Теория и системы управления, 1999, № 5. С. 34-44.

71. Пойа Д. Математика и правдоподобные рассуждения. М.: Иностранная литература, 1957.-535с.

72. Прад А. Модальная семантика и теория нечетких множеств // Нечеткие множества и теория возможностей: Последние достижения. / Под ред. Р. Ягера. М.: Радио и связь, 1986. - С. 161 -175.

73. Дюбуа Д., Прад А. Теория возможностей. Приложения к представлению знаний в информатике. М.: Радио и связь, 1990. - 288 с.

74. Поспелов Д.А. Моделирование рассуждений. Опыт анализа мыслительных актов. М.: Радио и связь, 1989. - 184 с.

75. Доорс Дж., Рейблейн А.Р., Вадера С. Пролог язык программирования будущего. - М.: Финансы и статистика, 1990. - 144 с.

76. Элти Д., Кумбс М. Экспертные системы: концепции и примеры. М.: Финансы и статистика, 1987. - 190 с.

77. Гаврилова Т.А., Червинская К.Р. Извлечение и структурирование знаний для экспертных систем. М.: Радио и связь, 1992. - 200 с.

78. Экспертные системы. Принципы работы и примеры / Под ред. Р. Форсайта. М.: Радио и связь, 1987. - 224 с.

79. Поляков В.Н. Синтез формальных моделей языка и смысла как проблема семантической обработки естественного языка // Новости искусственного интеллекта, 1997, № 1. С. 6-63.

80. Хант Э. Искусственный интеллект. М.: Мир, 1978. - 558 с.

81. Столл Роберт Р. Множества. Логика. Аксиоматические теории. М.: Просвещение, 1968.-231 с.

82. Фейс Р. Модальная логика. М.: Наука, 1974. - 520 с.

83. Воинов А.В., Гаврилова Т.А., Данцин Е.Я. Язык визуального представления знаний и его место в САКЕ-технологии // Известия Академии наук. Теория и системы управления, 1996, № 2. С. 146-151.

84. Логическая семантика и модальная логика / Под ред. П.В. Таванец. М.: Наука, 1967.-278 с.

85. Севбо И.П. Графическое представление синтаксических структур и стилистическая диагностика. Киев: Наукова думка, 1981.

86. Кулагина О.С. Исследования по машинному переводу. Наука, 1979.

87. Мартынов В.В. Кибернетика. Семиотика. Лингвистика. Минск: Наука и техника, 1966.

88. Пумлянский А.А. Информативная роль порядка слов в научной и технической литературе. М.: Наука, 1974.

89. Ковальски Р. Логика в решении проблем. М.: Наука, 1990. - 280 с.

90. Баранов П.П., Иванов Г.И., Костенко М.А. Особенности эквивалентных преобразований текстов нормативно-правовых актов // Сб. Теория права и правовая информатика. Выпуск 1. Таганрог: ТРТУ, 2000. - С. 49-57.

91. Воинов А.В., Гаврилова Т.А. Инженерия знаний и психосемантика: об одном подходе к выявлению глубинных знаний // Техническая кибернетика, 1994, №5.-С. 5-13.

92. Visser P.R.S., Bench-Capon T.J.M., Van Den Herik J. A method for conceptualizing legal domains. An example from the Dutch unemployment benefits act // Artificial intelligence and law, 1997, № 5. P. 207-242.

93. Peek N. Representing law in partial information structures // Artificial intelligence and law, 1997, № 5. p. 263-290.

94. Verheij В. ArguMed a template-based argument mediation system for lawyers // Proceedings of the Eleventh International conference on Legal knowledge-based systems JURIX'98, 1998. - P. 113-130.

95. Kralingen R.W. van. Frame-based conceptual models of statute law. The Hague, the Netherlands: Computer/Law Series, Vol. 16. Kluwer Law International, 1995. -250 p.

96. Bench-Capon T.J.M., Coenen F.P. Isomorphism and legal knowledge based systems // Artificial intelligence and law, 1992, № 1. P. 65-86.

97. Поспелов Д.А. Ситуационное управление. Теория и практика. М.: Наука, 1986.-288 с.

98. Кургаев А.Ф. Логические формы определения понятия // Управляющие системы и машины, 1998, № 2. С. 3-12.

99. Кормен Т., Лейзерсон Ч., Ривест Р. Алгоритмы: построение и анализ. -М.: МЦНМО, 1999.-955 с.

100. Основы применения кибернетики в правоведении / Под ред. Н.С. Полевого, Н.В. Витрука. М.: Юридическая литература, 1977.

101. Теория государства и права / Под ред. Н.И. Матузова и А.В. Малько. -М.: Юристъ, 1997.-672 с.

102. Комаров С.А. Общая теория государства и права. М.: Манускрипт, 1996.-312 с.

103. Алексеев С.С. Теория права. М.: Изд-во БЕК, 1995. - 320 с.

104. Мотовиловкер Е.Я. Опыт логического анализа структуры юридической нормы // Сб. Логические и математические методы в правовой теории и практике. Л.: ЛГУ, 1989. - С. 36-42.

105. Гаврилов О.А. Изучение права методами математической логики. // Сб. Вопросы кибернетики и право / Под ред. В.Н. Кудрявцева. М.: Наука, 1967. - С. 36-60.

106. Козулин А.И. Программирование применения санкций: логико-юридические основы // Сб. Логические и математические методы в правовой теории и практике. Л.: ЛГУ, 1989. - С. 118-126.

107. Алексеев С.С. Государство и право. М.: Юрид. лит., 1994. - 192 с.