автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Модели, методы и программное обеспечение для поддержки принятия решения в системах контроля доступа и обеспечения безопасности на основе агентно-ориентированного подхода и многозначных логик

На правах рукописи

Борисов Алексей Вадимович ииао53224

МОДЕЛИ, МЕТОДЫ И ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ ДЛЯ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЯ В СИСТЕМАХ КОНТРОЛЯ ДОСТУПА И ОБЕСПЕЧЕНИЯ БЕЗОПАСНОСТИ НА ОСНОВЕ АГЕНТНО-ОРИЕНТИРОВАННОГО ПОДХОДА И МНОГОЗНАЧНЫХ ЛОГИК

Специальность 05.13.11 - Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Москва - 2007

003053224

Работа выполнена в ГОУ ВПО Московском энергетическом институте; (техническом университете) на кафедре прикладной математики.

Научные руководители:

кандидат технических наук, профессор

Башмаков Игорь Александрович]

кандидат технических наук, доцент

Тарасов Валерий Борисович

Официальные оппоненты:

доктор технических наук, профессор

Фоминых Игорь Борисович,

кандидат физико-математических наук, доцент

Виноградов Дмитрий Вячеславович

Ведущая организация:

ЗАО «НИИ Центрпрограммсистем» (г.Тверь)

Защита состоится "2" марта в 16.00 час. на заседании диссертационного совета Д 212.157.01 при Московском энергетическом институте (техническом университете) по адресу: Москва, Красноказарменная ул., д. 17, ауд. Г-306.

С диссертацией можно ознакомиться в библиотеке энергетического института (Технического университета).

Московского

Отзывы в двух экземплярах, заверенные печатью, просим направлять по адресу: 111250, Москва, Красноказарменная ул., д.14, Ученый совет МЭИ (ТУ).

Автореферат разослан 1 февраля 2007 г.

Ученый секретарь

диссертационного совета Д 212.157.01

кандидат технических наук, П Г)

профессор Ы/г^-С^О И.И. Ладыгин

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследований. Вопрос защиты имущества организаций или частных лиц от несанкционированного доступа посторонних, к сожалению, не теряет своей актуальности. В настоящее время развитие современных технических средств позволяет существенно повысить защищенность различных объектов. Практика применения автоматизированных систем контроля доступа (СКД) в последние пятнадцать лет получила широкое распространение. Такие системы применяются как на объектах особой важности - в государственных учреждениях, электростанциях, аэропортах, хранилищах, так и на автомобильных стоянках, в магазинах, жилых домах и т.д. Система контроля доступа представляет собой программно-аппаратный комплекс, основной задачей которого является предотвращение доступа нежелательных лиц в контролируемую зону, а в случае если это произошло -незамедлительное оповещение о данном факте. При этом СКД позволяет посредством электронных ключей (магнитных карт, радиокарт и др.) ограничить доступ посторонних лиц на территорию. Программное обеспечение, входящее в состав системы, выполняет функции обеспечения безопасности (ОБ) при возникновении чрезвычайной ситуации.

Развитие индустрии безопасности в сочетании с быстрым ростом технических средств ее обеспечения привело к появлению большого количества средств, повышающих степень защищенности объекта. К таким средствам относятся: системы охранно-пожарной сигнализации (ОПС); системы видеонаблюдения; системы контроля доступа; системы ограничения доступа и учета автотранспорта.

Эти средства в отдельности решают свои конкретные задачи, а в совокупности обеспечивают комплексную безопасность объекта. Зачастую данные системы разрабатываются различными производителями и не являются в полной мере совместимыми друг с другом. Тогда, например, событие, зарегистрированное в одной системе, не будет зарегистрировано в другой. Вследствие этого типовая задача может вызвать технические сложности. Проблемы, возникающие в связи с разобщенностью систем обеспечения безопасности, привели к осознанию актуальности и практической ценности создания интегрированных систем. Разработка подобных интегрированных систем контроля доступа и обеспечения безопасности (СКД и ОБ) предполагает решение ряда фундаментальных теоретических и прикладных проблем, которые рассматриваются в диссертации.

В диссертационной работе предлагается новое решение важной задачи разработки математического обеспечения сложных, интегрированных программных комплексов и компьютерных сетей (на примере построения СКД и ОБ), которая имеет существенное значение для расширения возможностей компьютерных систем поддержки принятия решений в условиях неполной, противоречивой и пересматриваемой информации, повышения эффективности процессов обработки данных и знаний в компьютерных системах.

В диссертации СКД и ОБ моделируется как многоуровневад распределенная система, состоящая из автономных модулей. В связи с этим предлагается агентно-ориентированный подход к ее построению. Среди наиболее известных работ в области теории агентов и многоагентных систем следует отметить публикации К.Хьюитга, М.Вулдриджа, И.Демазо, Н.Дженнингса, Д.Кини, П.Маэс, Ж.Фербе, И.Шоэма, В.ИГородецкого, И.В.Котенко, Д.АЛоспелова, ПО.Скобелева, А.В.Смирнова, В.Б.Тарасова, В.Ф.Хорошевского и др.

Основное содержание диссертационной работы связано с разработке« моделей, методов и программного обеспечения для поддержки принятом решений в СКД и ОБ. Общие проблемы построения систем поддержки принятия решений рассмотрены в монографиях О.М.Ларичева, А.И.Тихонова и В.Я.Цветкова, Э.А.Трахтенгерца и др., а конкретные примеры разработки таких систем даны в работах А.А.Башлыкова, В.Н.Вагина, П.Еремеева, И.Б.Фоминых и др.

В работе используется логический аппарат моделирования неполной и противоречивой информации в СКД и ОБ, опирающийся на методы многозначной логики (логическую семантику Данна-Белнапа, логические матрицы Тарского-Лукасевича, вывод по аналитическим таблицам Смашгаана). Большой вклад в развитие многозначных логик внесли Я. Лукасевич, Ч.Пирс, Э. Пост, Д.А. Бочвар, X. фон Вригт, А. Гейтинг, С.К. Клини, Р.Мак-Нотон, Н. Решер, Н. Белнап, М.Гинсберг, М.Фиттинг, А.В.Кузнецов, С.В.Яблонский, В.К. Финн, О.М.Аншаков, А.С.Карпенко, и др. Логическим средствам в ИИ посвящены монографии В.Н.Вагина и др., Дж.Минкера, А.Тейза и др., Э.Тернера, а логическим подходам к разработке автономных агентов и многоагентных систем - работы Дж.Аллена, М.К.Валиева, М.Дженесерета, М.Джорджефа, К.Конолиге, П.Коэна, А.Левека, Дж.Мозеса, A.Pso, Г.СЛлесневича, Р.Фагина, Дж.Халперна, и др.

Объектом исследования являются распределенные системы контроня доступа и обеспечения безопасности, разрабатываемые как многоагентные системы (MAC).

Предмет исследования составляют модели мнений и оценок автономных агентов, а также методы представления взаимодействий (диалога) между агентами на основе многозначных логик.

Целью диссертационной работы является разработка моделей, методов и программного обеспечения для поддержки принятия решения в интегрированных системах контроля доступа и обеспечения безопасности на основе агентно-ориентированного подхода и многозначных логик.

Отличительной особенностью предлагаемого подхода является реализация требования распределенности системы и применение логических методов искусственного интеллекта при описании встречаемых в процессе работы системы неопределенностей и при разрешении возникающих конфликтов.

В диссертационной работе решаются следующие основные задачи:

1) обоснование целесообразности разработки интегрированной системы контроля доступа и обеспечения безопасности и ее построение как системы с распределенной архитектурой;

2) разработка агентно-ориентированного подхода к построению систем СКД и ОБ, включая разработку конкретной многоагентной архитектуры для СКД и ОБ, построение архитектуры и реализация отдельных агентов;

3) формирование интегральной модели мнений агента, включающей истинностные суждения и модальные оценки, описания и предписания;

4) анализ факторов неопределенности, неполноты, противоречивости информации, циркулирующей в СКД и ОБ; обзор логических методов формализации подобной информации;

5) построение логико-алгебраических моделей мнений и взаимодействий агентов на основе теории решеток и многозначных логик;

6) разработка программной архитектуры СКД и ОБ и средств порождения новых агентов и объектов системы с помощью методов шаблонно-ориентированного и синтезирующего программирования.

Методы исследования. В диссертации использованы методы теории множеств и теории решеток, математической логики и теории программирования, теории агентов и многоагентных систем.

Достоверность научных результатов подтверждена теоретическими выкладками, данными компьютерного моделирования, а также сравнением полученных результатов с результатами, приведенными в научной литературе, положительными результатами внедрения разработанной системы sPARK.

Научная новизна работы заключается в разработке логико-математического аппарата для представления мнений автономных агентов, формализации модальных оценок и разрешения конфликтов в многоагентной системе на базе произведения логик. В диссертации предложена интегральная модель мнения агента, включающая компоненты истинностных суждений и модальных оценок, построена новая логическая структура для унифицированного анализа различных систем модальностей. Данная структура опирается на понятие биупорядоченного множества. Новыми в диссертации являются:

1) распределенная модель СКД и ОБ на основе агентно-ориентированного подхода;

2) конкретная многоагентная архитектура СКД и ОБ, а также гибридная архитектура искусственного агента, сочетающая различные функционально-структурные компоненты индивидуальных и коллективных агентов;

3) интегральная модель мнения автономного агента как единства описаний и предписаний, истинностных суждений и модальных оценок;

4) метод двухкоординатного представления систем модальностей и их формализации с помощью биупорядоченных множеств;

5) логико-математический аппарат (четырехзначная логика ML,\, шестнадцатизначная логика MLu) для описания мнений, формализации модальностей, моделирования диалога, разрешения конфликтов в MAC на базе произведений логик.

Практическая ценность работы определяется широким распространением систем класса СКД и ОБ и связана с разработкой методов, алгоритмов и программных средств поддержки принятия решения в СКД и ОБ. Она подтверждается результатами использования предложенных моделей и методов в разработанной интегрированной системе контроля платного доступа и учета автотранспорта sPARK. Применение предложенной в работе распределенной архитектуры СКД и ОБ и алгоритмов принятия решения о доступе на территорию в составе системы sPARK позволило повысить качество контроля, уровень безопасности, эффективность управления транспортными потоками благодаря росту устойчивости системы к нештатным ситуациям. Практическая ценность разработанных моделей анализа неточной и противоречивой информации и алгоритмов разрешения конфликтов в MAC заключается в том, что их применение возможно не только в СКД и ОБ, но и е. других распределенных системах при формализации диалога узлов сети и разрешении возникающих конфликтов.

Реализация результатов. Автором разработан программный комплекс; sPARK, представляющий собой интегрированную систему контроля платного доступа и учета автотранспорта. Комплекс зарегистрирован в Федеральной службе по интеллектуальной собственности, патентам и товарным знакам РОСПАТЕНТ (свидетельство № 2003610400 от 14.02.2003г., по заявке № 2002612281, дата поступления 19.12.2002).

За период с 2002 по 2006г. система sPARK была внедрена на 41-м объекте в России и СНГ. Например, применение системы sPARK на территории ВВЦ, позволило увеличить пропускную способность контрольно-пропускных пунктов на 25-30%.

Основные результаты диссертации были получены при выполнении работ по гранту Российского фонда фундаментальных исследований № 04-01-0030(5 «Логико-семиотические и алгебраические модели в теории агентов и многоагентных систем». Результаты работы были использованы в учебном процессе кафедры прикладной математики МЭИ (ТУ) и кафедры «Компьютерные системы автоматизации производства» МГТУ им.Н.Э.Баумана Акты о внедрении и использовании результатов работы прилагаются в диссертации.

Апробация работы. По основным положениям и результатам диссертации были сделаны шесть докладов на научных конференция?:: «Радиотехника, электроника, энергетика» (МЭИ (ТУ), г.Москва, 2005г.); Международная конференция «Информационные средства и технологии» (г. Москва, 2005г.); 13-я Всероссийская межвузовская научно-техническая конференция студентов и аспирантов «Микроэлектроника и информатика-2006» (МИЭТ, г.Москва, 2006г.), «Научная сессия МИФИ-2006» (МИФИ, г.Москва, 2006г.).

Публикации. Основные результаты, полученные при выполнении диссертационной работы, опубликованы в 10 печатных работах.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка использованной литературы (185 наименований) и

приложений. Диссертация содержит 165 страниц машинописного текста (без приложений и списка литературы). В работе имеется 49 рисунков и 10 таблиц. На защиту выносятся:

1) децентрализованная модель СКД и ОУ на основе агентно-ориентированного подхода;

2) гибридная архитектура искусственного агента в многоагентной системе, сочетающая структурно-функциональные элементы коллективных и индивидуальных агентов;

3) интегральная модель мнения автономного агента, объединяющая его дескриптивные суждения и прескриптивные оценки;

4) метод двухкоординатного представления систем модальностей и их формального описания с помощью биупорядоченных множеств;

5) четырехзначная логика МЬ4 для работы с модальными суждениями и оценками;

6) шестнадцатизначная логика МЬдля работы с мнениями.

СОДЕРЖАНИЕ РАБОТЫ

Во введении дана обшая характеристика работы, обоснована актуальность темы диссертации, ее научная новизна и практическая значимость, сформулированы цель и задачи, указаны положения, выносимые на защиту, приведены сведения о внедрении.

Глава 1 содержит описание основных проблем разработки СКД и ОБ и обоснование необходимости построения интегрированных систем. В ней отмечается потребность в распределенной обработке информации, которая может быть неполной и противоречивой. Для решения этих проблем предлагается строить СКД и ОБ на основе многоагентного подхода. Предлагается также использовать аппарат неклассических, в первую очередь, многозначных логик в интересах обработки неполной и противоречивой информации, а также разрешения конфликтов мнений агентов в СКД и ОБ.

В первой главе дан обзор и выполнен критический анализ существующих СКД и ОБ. Централизованная организация большинства систем такого класса (рис. 1а) приводит при отключении сервера к потере части возможностей или полной остановке системы. Жесткое задание алгоритмов, относительно низкая степень интеллектуализации приводят к слабой степени адаптации системы к изменениям в среде (например, к разрыву соединений между ее узлами или нештатным действиям персонала). Слабая степень интеграции различных функций в СКД и ОБ, в частности, функций учета людского персонала, контроля автотранспорта, видеонаблюдения и др. не позволяет обеспечить комплексную безопасность объекта.

В главе обоснована необходимость построения интегрированных систем, объединяющих системы контроля доступа, системы охранно-пожарной сигнализации, системы учета автотранспорта, системы видеонаблюдения и обеспечения безопасности. Для решения этой проблемы предлагается концепция интегрированной СКД и ОБ с децентрализованной архитектурой,

основанная на агентно-орнентированном подходе (рис. 16). Отличием данного подхода является то, что в системе, создаваемой на его основе, может присутствовать несколько узлов - центров принятия решения (ЦПР), в качестве которых выступают искусственные агенты. Вся система СКД и ОБ, построенная по такому принципу, представляет собой многоагентную систему, узлы которой (агенты) при решении задачи доступа взаимодействуют между собой.

а б

Рис. 1. Архитектуры систем СКД и ОБ

При реализации такого подхода возникает ряд задач: задача организации нескольких баз мнений в системе (по одной для каждого агента), задача обеспечения взаимодействия одного агента с другими агентами и поддержания их диалога и т.д.

Согласно С.Расселу и П.Норвигу, под агентом понимается «любая сущность, которая находится в некоторой среде, воспринимает ее посредством сенсоров, получая данные, которые отражают события, происходящие в среде, интерпретирует эти данные и действует на среду посредством эффекторов». Таким образом, здесь вычленяются четыре агентообразующих фактора - среда, восприятие, интерпретация, действие,

В системах класса СКД и ОБ в качестве сенсоров выступают датчики состояния оборудования или состояния помещения (датчики объема, датчики движения, датчики индукционных петель и др.). Эффекторами являются исполнительные устройства (шлагбаумы, замки, камеры, лифты) Непосредственное управление этими устройствами осуществляется через; специализированные контроллеры, связанные с ЦПР.

В первой главе выделяется и анализируется важная проблема, возникающая при реализации многоагентного подхода: возможность конфликтных ситуаций при диалоге агентов (в частности, конфликтов мнений) вследствие неполноты и противоречивости информации о событиях доступа. Следует отметить, что данная проблема отнюдь не является частной проблемой

систем класса СКД и ОБ, а характерна для многих других классов систем, работающих с неполной и противоречивой информацией.

В теории агентов существуют различные подходы к моделированию агентов и их взаимодействия. В диссертации основное внимание уделяется логическим моделям агентов. Главной идеей логического подхода к моделированию агентов является представление основных характеристик агента (информационных компонентов и функций) в виде логической теории.

В заключительной части первой главы обоснована целесообразность применения аппарата многозначных логик при моделировании различных характеристик агентов.

Глава 2 содержит обзор текущего состояния исследований в области логического подхода в теории агентов и многозначных логик. Проведен критический анализ работ, относящихся к логическому направлению в теории агентов и многоагентных систем. В частности, отмечено, что логические модели агентов в основном опираются на модальные логики, в недостаточной степени учитывая факторы неопределенности и неполноты информации, «пронизывающие» мнения агентов. Центральное место в данной главе занимает анализ роли описаний и предписаний в функционировании агентов, определение соотношений между понятиями «суждение», «мнение», «оценка», «норма». Для этих понятий в диссертации предложены формальные модели.

В интересах разработки адекватной логической системы для формализации мнений проведен анализ ряда известных трехзначных и четырехзначных логик: логик Лукасевича, Гейтинга, Бочвара, Клини, Белнапа, Финна. На основе алгебраического представления этих логик с помощью логических матриц, анализа интерпретаций промежуточных значений истинности и основных операций над ними делаются выводы о возможности их применения для описания неполноты и противоречивости мнений. Так трехзначная логика Клини Къ является удобным и интуитивно понятным аппаратом для суждений с неполной информацией, но не позволяет выразить противоречивую информацию в мнениях. В свою очередь, четырехзначная логика Финна F4 позволяет формализовать процесс аргументации в MAC.

В диссертации за основу моделирования факторов неполноты и противоречивости информации в СКД и ОУ берутся четырехзначная семантика Данна, аппроксимационная решетка Скотта (рис. 2а) и логическая решетка Белнапа (рис.26).

В Т

FN В

N F

а б

Рис. 2. Представление аппроксимационной (А4) и логической (¿4) решеток с помощью диаграмм Хассе

В заключительной части второй главы на примере трехзначной модальной логики Лукасевича прослежены взаимосвязи между многозначными и модальными логиками. Описаны варианты четырехзначных логик, предложенных Н.Решером, которые основаны на введении составных истинностных значений (модализация истинности).

В главе 2 показано, что ни логическая семантика Белнапа, ни интерпретация истинностных значений по Решеру не соответствуют требованиям к описанию модальностей при формализации мнений агентов,. Намечен подход к использованию составных истинностных значений при описании мнений агентов.

В главе 3 содержатся основные теоретические результаты работы. Предлагается интегральная модель мнения агента, вводятся и анализируются различные варианты формализации мнений (в частности, построен логический аппарат для моделирования суждений и рассуждений на базе четырехзначных логик В4 и МЬц, разработаны методы вывода для применяемых логик, путем произведения этих двух логик 54 и МЬ\ сформирована шестнадцатизначная логика МЬ\6, позволяющая работать с неточно определенной, неполной и противоречивой информацией в рамках одного исчисления).

Интегральная модель мнения агента содержит две составляющие: истинностную и модальную. Для единого представления описаний и предписаний в рамках модели мнения, допускающей работу как с неполной и противоречивой информацией, так и с факторами неопределенности (неуверенности агента) развивается общий подход к формализации различных классов модальностей на базе четырехзначных семантик. Мнение агента понимается как результат интеграции суждения (описания) р = (X есть /<"), характеризующегося некоторой оценкой истинности \{р), с его модальной оценкой т(р). Простые модальные оценки имеют вид: отсесть I7}, т(Хне есть Л), где т(р)еМ4, М4= {V,II,IV,У). Здесь V-сильная положительная модальность, II- слабая положительная модальность, IV- слабая отрицательная модальность, 7- сильная отрицательная модальность.

Формальное описание интегральной модели мнения таково. Предположим, что множество высказываний 5 состоит из множества истинностных суждений 5„ и множества суждений с модальностями 5Ш: 8=Б^иЗт. Будем представлять истинностное суждение в виде пары (р, Ар)), где р - описательное суждение вида: р = (X есть Р), реР. Здесь Р -множество всех описательных суждений, \>(р) - функция мультиоценки (в смысле Дж.Данна) истинности высказывания реР, у: Р->У. Данная модель не накладывает жестких ограничений на множество истинностных значений. В качестве множества V может выступать классическое двухэлементное множество истинностных значений Уг = {Т, Г], множество истинностных значений Белнапа V* ={Т, /\ В, А'} и др.

Любое модальное суждение также можно представить в виде пары: 5„,= (р, т(р)), где т(р) - функция модальной мультиоценки высказывания

реР, т: Р—>М, где М - множество всех оценочных значений. В качестве

множества М может выступать двухэлементное множество модальностей М2 = {II, У), четырехзначное множество модальностей М4={К, и, Ж, У) и др. Элементы множеств модальностей могут интерпретироваться по-разному, например, в доксастической логике II - предположение (гипотеза), V -уверенность, IV- сомнение, 7-заведомо неверное предположение (отверженная гипотеза).

В интегральной модели мнения имеем две функции мультиоценки, т.е. функции "приписывания" суждению значений V и т из множеств V и М соответственно. Тогда мнение агента Ье1(р) есть тройка Ье1(р)= (р, V, т), р еР, где V - истинностная составляющая мнения, V еУ; т - оценочная составляющая мнения, теМ. Таким образом, в диссертации развивается единый подход к моделированию истинностных значений и модальностей на базе многозначных логик.

Для дальнейшей формализации мнения необходимо построить логическую систему для работы с истинностной составляющей и логическую систему для работы с оценочной составляющей. Затем следует осуществить переход к системе, работающей с мнениями, с помощью произведения двух логик, принципы построения которого предложены СЛськовским. Выполнив эти действия, автор предлагает различные варианты формализации истинностной и оценочной составляющих в интегральной модели мнения: модель достоверных мнений (рис.3); модель мнений, допускающая частичную (неполную) информацию; модель мнений, допускающая неуверенность и др. В частности, модель мнения, учитывающая неполноту информации и неуверенность агента, представлена на рис.4.

В качестве основной выбирается модель, допускающая неуверенность, неполноту и противоречивость информации (рис.5), поскольку эти три НЕфактора характерны для распределенных СКД и ОБ.

Рис. 3. Модель мнения на базе произведения двух классических логик У2 х У2

V

Т

4К)

„IV х ^ = 4 =

v

т

2 \Т)

(К Г) 6=

7 = 1 У,АО

6=(У, Г)

У

к

9 = {УЛ

Рис. 4. Модель мнения на базе произведения двух трехзначных логик

Для описания мнения в рамках этой модели используется произведение двух логик: логики Белнапа и предложенной автором специальной четырехзначной логики Ж4 для работы с суждениями, содержащими модальности. Таким образом, осуществляется переход к 16-значной логике мнений.

N

£ х У

и

(тщ

Г

Ж

(Р.У)

(р.и)

Рис. 5. Решетка значений истинности в модели мнений на базе логики Белнапа и четырех модальных оценок

Для построения логики МЬ4 берется двухкоординатное представление модальностей, которое вводится следующим образом. Проинтерпретируем модальности как точки на плоскости, где осями координат являются знак модальности (абсцисса) и сила модальности (ордината). Обозначим единицей по оси абсцисс положительный знак модальности, а нулем - отрицательный. Аналогично обозначим единицей по оси ординат силу модальности, а нулем -слабость. Тогда соотношения между модальностями задаются с помощью табл. 1.

Таблица 1. Интерпретация модальностей как точек на плоскости

Модальность Интерпретация Точка на плоскости

V Агент убежден (1Д)

и Агент предполагает (1,0)

У Агент отвергает (0,1)

Ж Агент сОхМневается (0,0)

Графически введенную привязку модальностей к точкам на плоскости можно отобразить так, как это показано на рис.6. Сила модальности

Г=(0,1)

К=(1Д)

Г =(0,0)

и=( 1.0)

Знак модальности

Рис. 6. График связи модальностей

Зададим отношения <у и <ц на множестве точек Р1 = {(1 П П 0) (10) (0,0)}:

УР, ={х^у,),р2 = (х2,у2)еР*; Р] <( р2о х, < х2 и >', <>'2,

УР1 = (*1> яХл = (*2>У2) е Л; д <,, р2ох, <х2 г< >>, > , где ^ ,<, > - арифметические операции сравнения.

Назовем <у отношением порядка уверенности, а <ц - отношением порядка предположения, так как супремумом на множестве Рг при введении отношения <у является уверенность, а при введении отношения <и -предположение. Множество из четырех модальностей Л/4 с отношением уверенности образует решетку МЬ4 (рис. 7а), а то же множество с отношением предположения - решетку МЬ4*(рис. 76).

W

W а

Рис. 7. Решетки модальностей

Логику MI,4 можно представить с помощью логической матрицы.

LMMU = ({V,U,W,Y}, {I,л, v,®}, {U,V}>, где операции отрицания, конъюнкции и дизъюнкции задаются покоординатно (см. ниже таблицы истинности). Эти операции заданы на решетке предположений следующим образом: 1 = (1,1), л = (min, max), v = (max, min), ® = (min, min),

А v и y w

v v v y у

и v и у w

у г y у у

w г w y w

1 v и у | w

1 w y и ! v

V v и у w

v v и v и

и и и и и

y v и у w

iv и и w w

Вывод как в логике Белнапа, так и в логике МЬц, можно осуществить на базе метода аналитических таблиц, предложенного Р.Смаллианом. В работе на базе аналитических таблиц реализуются два варианта вывода для В4 и один для МЦ. Первый из предложенных автором вариантов вывода для В4 является комбинированным и основан на работах М.Фиттинга; его особенностью является использование эпистемического состояния (см. ниже). Последнее позволяет решить указанную М.Фитгингом проблему критерия замкнутости ветви дерева вывода.

Второй предлагаемый метод для В4 основан на подходе Г.С.Плесневича, соответственно, при построении вывода для МЬа, берутся четыре типа означенных формул. Ниже кратко описан каждый из этих методов.

Комбинированный метод вывода для В4. Применяется следующий вариант означивания формулы X: формула означена как РХ, если она принимает значение F или уУ; формула означена как ТХ, если она принимает значение Т или N. Критерием замкнутости ветви дерева вывода формулы X является достижение в ветви одновременно ТА и РА и выполнение условия для некоторой неозначенной подформулы А. Проверка условия осуществляется через эпистемическое состояние. Правила построения дерева вывода приведены ниже.

a ai a2 P Pi P?

Т(Хл Y) TX TY F(XaY) FX FY

F(XvY) FX FY T(XvY) TX TY

T(X@Y) TX TY T(X®Y) TX TY

F(X®Y) FX FY F(X®Y) FX FX

а__р rlz flz

ai pi | p2 fz tz

ai

Преимуществом данного подхода является сравнительная простота правил и возможность вывода значений "По меньшей мере, истина" (Г или В), "По меньшей мере, ложъ"(Р или В). В то же время, метод не позволяет вывести только истину или только ложь (табл.2).

Таблица 2. Результаты вывода для комбинированного метода

Результат вывода с корнем тх Результат вывода с корнем рх Значение x

Дерево замкнуто Дерево не замкнуто По меньшей мере, т

Дерево замкнуто Дерево замкнуто в

Дерево не замкнуто Дерево замкнуто По меньшей мере, f

Дерево не замкнуто Дерево не замкнуто n

Метод вывода с четырьмя типами означенных формул для i>4. Используются следующие типы означенных формул: ТХ- формула X есть Т, FX-формула X есть F, ВХ- формула X есть В, NX- формула X есть N. Критерием замкнутости ветки будет получение в ветке двух означенных подформул разных типов для одной неозначенной подформулы А. Например, если при выводе получили в некоторой ветви ТА, то критерием замкнутости будет получение в этой же ветви любой из означенных формул: FA, ВА, NA. Для того, чтобы показать, что формула X принимает значение ve V4, необходимо показать, что дерево вывода для означенной формулы vX не является замкнутым, а деревья вывода для остальных трех типов означенных формул v\X, v2X, v^X являются замкнутыми. Здесь vb v2, v3i еК» и v;^ v2^v3 Правила построения дерева вывода:

riz f~\z b~]z nIz

fz tz bz nz

а щ

а2

г. ъ У4 ¿1 Я ¿5 ¿6

Уг ъ Уг ¿4

5 ь <% ¿4 ¿5 ¿6

ЯЛ А В) к'а вв ва ыв ра рв

Т(а V в; ыа вв ва n8 та тв

ща ® в; та рв ра тв ыа ыв

в(а © в) та рв ра тв ва вв

а а. а2

т(а л в) та тв

р(а V в) ра рв

в(а ® в) ва вв

ща ® в) ыа ыв

У Ъ Уг Уз У<

ща л в) ыа ыв тв та

в(а V В,) ва вв рв ра

р(а ® в; ра рв вв ва

в(а А В) ва вв тв та

ы(а V в; ыа ыв рв ра

т(а ® в; та тв вв ва

тул © в; та тв вв ва

р(а © в; ра рв ыв ыа

Метод вывода с четырьмя типами означенных формул для МЬц. При

построении вывода на базе метода аналитических таблиц для МЬц используются следующие типы означенных формул: УХ- уверен, что X; ИХ-сомневаюсь, что X; 11Х~ предполагаю, что X; УХ- отвергаю X.

При построении вывода на базе метода аналитических таблиц используются следующие правила построения дерева вывода:

у\г у] г и\г у] г

п

Ш

кг

иг

а

Л

а, у. ъ У» ¿5 ¿5

О-! У г Уз ъ ¿4

У у. Уз У*

у(а V в; кл ИВ ув уа

у(А А в; уа ув ив иа

\у(а V в; Ш № ув уа

иул а в; Ш № ив иа

д г, 4 35 ¿6

и (а V в; уа № }7а ув иа ив

у (а а в; ш ув уа {тв уа ув

Критерием замкнутости ветки будет получение в ветке двух означенные подформул разных типов для одной неозначенной подформулы А. Например, если при выводе получили в некоторой ветви VA, то критерием замкнутости будет получение в этой же ветви любой из означенных формул: WA, UA, YA. Для того, чтобы показать, что формула X принимает значение veM4, необходимо показать, что дерево вывода для означенной формулы хХ не является замкнутым, а деревья вывода для остальных трех типов означенных формул v\X, v2X, ViXявляются замкнутыми. Здесь vb v2, v3 еМ4,

Разработка вышеизложенных методов и процедур вывода в многозначных логиках позволила перейти к моделированию рассуждений в реальных ситуациях функционирования СКД и ОБ.

В главе 4 содержатся алгоритмы формирования и расширения баз мнений агентов, алгоритмы выявления конфликтов в многоагентных система);. Построены методы работы с предложенной моделью, связанные с наполнение]« базы мнений агентов, внесением в базу информации, заданной составными формулами. Предлагается при работе с истинностными суждениями агента использовать подход Белнапа, опирающийся на понятие «сетап», а при работе с модальностями использовать модифицированный подход, адаптированный под логику ML4.

Пусть X есть конечное множество атомарных формул X = {а, Ъ, с,...\, тогда однозначное соответствие s: Х->Уц называется сетапом, или единичным сетапом, где {Т, F, В, N}. Совокупность сетапов для данного состояния логической системы (агента) образует эпистемическое состояние. При выявлении значения некоторой формулы производится расчет формулы в каждом из сетапов. В качестве значения формулы принимается супремум полученных значений на решетке А4. При комбинированном выводе проверка условия A^N для подформулы осуществляется описанным выше способом.

Поскольку основной целью СКД и ОБ является обеспечение контроля и санкционирования доступа на некоторую территорию, в работе построен алгоритм принятия решения о доступе, который основывается на понятии нормы. Норма, понимаемая как предписание к действию, есть четверка N = (Л, act, Q, W), где А - множество агентов; act - множество возможных действий; Q - множество возможных оценок действия агента; W - множество миров, аа которые распространяется норма.

В ходе принятия решения агент выполняет три основных действия: 1) вырабатывает мнение по некоторому событию в среде или по запросу от другого агента; 2) определяет норму, соответствующую этому мнению; 3) согласно норме выполняет предписанное действие.

Блок-схема алгоритма принятия решения о доступе приведена на рис.8.

Локальные мнения агентов представляются в виде значений ML\6. Каждое из этих значений интерпретируется как пара, состоящая из степени уверенности и степени истинности (табл.3). При выявлении мнения агента по факту, значение которого не задано в явном виде, используются процедуры вывода (см. выше).

При выявлении мнения группы агентов учитываются локальные мнения агентов, входящих в группу. Алгоритм выявления мнения группы представлен на рис.9. Здесь на рис.9а приведена блок-схема алгоритма выявления мнения группы; а на рис.9б показан алгоритм разрешения конфликтов в мнениях участников группы.

( Начало ^

( Конец )

Рис. 8. Алгоритм принятия решения о доступе в СКД и ОБ

Таблица 3. Интерпретация истинностных значений <у,т> логики МЬ\ь

Значение Интерпретация Обозначение

<Т, У> «а\ уверен в том, что х истина» У++

<т, и> «<31 предполагает то, что х истина» У+

<Т, ¥> «Я] сомневается в том, что х истина» У-

<Т, ¥> ««1 отвергает то, что х истина» У~

<Р, Г> «с?! уверен в том, что х ложь» У-

<Р, и> предполагает то, что х ложь» У~

П '> «(31 сомневается в том, что х ложь» У+

<Г, У> <Ш1 отвергает то, что х ложь» У++

<ЛТ, У> «а 1 уверен в том, что об х ничего не известно» н

<лг, и> «а] предполагает то, что об х ничего не известно» н

<Л', \¥> «А] сомневается в том, что об х ничего не известно» н

<АГ, Г> <ш\ отвергает то, что об х ничего не известно» н

<В, У> «а} уверен в том, что х противоречие» п

<в,и> «а] предполагает то, что х противоречие» п

<В, !Р> <Ш\ сомневается в том, что х противоречие» п

<В, ¥> «а] отвергает то, что х противоречие» п

Рис. 9. Алгоритм выявления мнения группы агентов

Результатом процедуры выявления мнения группы является одно из значений логики MLw Это значение используется в качестве совокупного мнения группы в алгоритме принятия решения о действии агента.

В заключительных разделах четвертой главы даны иллюстративные примеры применения системы логических рассуждений в рамках интегрированной СКД и ОБ. Приводится пример работы системы при возникновении конфликтных ситуаций с неполной и противоречивой информацией. Кроме того, рассмотрен реальный пример работы MAC СКД и ОБ на типовом объекте, включающем здание с несколькими помещениями и огороженной территорией. Объект оснащен системой видеонаблюдения, СКД, системой охранной сигнализации, системой пожарной сигнализации, системой ограничения въезда автотранспорта. Пример описывает базу возможны* действий, базу мнений, базу норм агентов для данного объекта.

В заключении приведены основные результаты диссертационной работы и сделаны общие выводы.

В Приложении 1 содержатся материалы по архитектурным решениям при построении СКД и ОБ. В разделе излагается вариант гибридной архитектуры агента, использующей функционально-структурные элементы коллективного агента и индивидуального агента.

Многоагентная система строится по децентрализованному принцип}'. Ядро MAC состоит из трех основных подсистем: распределенное хранилищ!!, фабрика агентов, коммутационная подсистема. Распределенное хранилище

используется для накопления информации о структуре системы, типах агентов, составляющих MAC, и их данных. Доступ к хранилищу предоставляется каждому агенту MAC, т.е. хранилище выполняет функции распределенной общей памяти для агентов. Фабрика агентов выполняет функции создания новых агентов для нужд других агентов или системы в целом. Коммуникационная подсистема предназначена для обеспечения общения между агентами по определенному протоколу. Общая архитектура MAC приведена на рис.10.

Агенты, образующие MAC, имеют архитектуру, показанную на рис. 106. В состав агентов входят: рецепторы, предназначенные для получения сигналов из среды; эффекторы для обеспечения воздействия на среду; акторы, обеспечивающие безусловные реакции агента на некоторые события в среде; модуль принятия решения (МПР), обеспечивающего принятие агентом решения о некотором действии; рабочая память для хранения данных, необходимых агенту для работы.

Рис. 10. Архитектура MAC СКД и ОБ sPARK

Модуль принятия решения реализован по принципам, описанным в главах 3 и 4. В случае принятия решения о действии на основе мнений применяется алгоритм, использующий логический аппарат ML16, MLX и вывод на основе аналитических таблиц. Для описания связи между сложившейся в среде ситуации и действием агента используется база норм, хранящаяся в рабочей памяти агента.

Предложенная модель была реализована в интегрированной системе контроля платного доступа и учета автотранспорта sPARK. Разработка программных модулей была проведена в средах визуального программирования Microsoft Visual Studio и Borland С++ Builder 6.0 под операционную систему Windows® NT/2000/XP.

В приложении 2 приведена часть пользовательской документации для разработанного программного комплекса sPARK.

В приложении 3 приведена часть исходного кода разработанного программного комплекса sPARK.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ ДИССЕРТАЦИОННОЙ РАБОТЫ

1. Разработана интегрированная система контроля доступа и обеспечения безопасности (СКД и ОБ) как система с децентрализованной архитектурой,

2. Предложен агентно-ориентированный подход к построению систем СКД и ОБ. Построена архитектура обобщенного агента, сочетающая функционально-структурные компоненты коллективных и индивидуальных агентов.

3. Обоснована необходимость учета факторов неполноты и противоречивости информации в СКД и ОБ, неопределенности и пересмотра мнений агентов на основе многозначных логик и решеточных семантик.

4. Проведен критический анализ ряда известных трехзначных и четырехзначных логик с целью определения возможности их использования для моделирования неполной, противоречивой и плохо определенной информации в СКД и ОБ.

5. Предложена интегральная модель мнения агента, включающая истинностные суждения и модальные оценки, описания и предписания. Построены варианты логических моделей представления мнений и взаимодействий агентов на основе произведения многозначных логик.

6. Предложен общий подход к формализации различных классов модальностей с помощью четырехзначных семантик на базе двухкоординатного представления модальностей в осях "знак" и "сила". Введена решетка модальностей. Показано, что различные модальные системы допускают единое алгебраическое представление в виде предбирешеток.

7. Построены специальные многозначные логики ML4 MLl6. Разработаны процедуры логического вывода для логики Белнапа В4 и логики МЬц.

8. Разработана программная архитектура СКД и ОБ и средств порождения новых агентов и объектов системы с помощью методов шаблонно-ориентированного и синтезирующего программирования.

Предложенные автором модели и методы применены для решения задачи

построения распределенных систем контроля доступа и обеспечения

безопасности. Разработан программный комплекс sPARK, решающий задачу

построения распределенной системы контроля доступа и учета автотранспорта.

Этот комплекс внедрен на 41-м объекте в России и СНГ.

СПИСОК РАБОТ, ОПУБЛИКОВАННЫХ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Борисов A.B. Модель построения распределенной системы платного доступа автотранспорта// Труды международной научно-техническэй конференции «Информационные средства и технологии». Т.2. - М.: Янус-К, 2005.-С.16-20.

2. Борисов A.B. Многоагентная система для учета автотранспорта. Архитектура агента//Научная сессия МИФИ-2006. Т.З. Интеллектуальные системы и технологии. - М.: МИФИ, 2006. - С.97-99.

3. Борисов A.B. Организация диалога агентов MAC с использованигм модальной логики// Материалы 13-й Всероссийской межвузовской

научно-технической конференции студентов и аспирантов «Микроэлектроника и информатика - 2006». - М.: МИЭТ, 2006.

4. Борисов A.B., Башмаков И.А. Об одном из подходов к организации распределенной системы учета автотранспорта с применением многоагентной теории. Архитектура агента// Радиоэлектроника, электротехника и энергетика: Тезисы докладов XI-й международной научно-технической конференции студентов и аспирантов. - М.: Изд-во МЭИ, 2005. - Т.З . - С. 123-124.

5. Борисов A.B., Казарицкий A.C., Куриленко И.Е. О современных подходах к построению систем учета автотранспорта. Программно-аппаратные средства// Информационные технологии в моделировании и управлении. - 2005. - Вып. 5 (23). - С. 636-642.

6. Борисов A.B., Кин Е.С. Современные подходы к построению систем платного доступа учета автотранспорта// Алгоритмы безопасности. -2005.-№6. -С. 63-70.

7. Борисов A.B., Куриленко И.Е. Модель временных рассуждений в распределенной системе учета автотранспорта// Информационные технологии в моделировании и управлении. - 2005. - №5(23). - С. 786-

8. Борисов A.B., Куриленко И.Е., Хотимчук К.Ю. Модель временных рассуждений в распределенной системе платного доступа автотранспорта// Труды международной научно-технической конференции «Информационные средства и технологии». - М.: Янус-К, 2005 -Т.2 .-С .20-24

9. Борисов A.B., Тарасов В.Б. Моделирование мнений агентов в многоагентных системах на основе четырехзначных семантик// Программные продукты и системы. Приложение к международному журналу «Проблемы теории и практики управления».-2006,- №2.-С.47-

1 О.Тарасов В.Б., Борисов A.B. Логическое моделирование когнитивных и коммуникативных характеристик агентов: единый подход// Труды 10-й национальной конференции по искусственному интеллекту КИИ-2006 (Обнинск, 25-28 сентября 2006 г.). Т.З.- М.: Физматлит, 2006 - С.916-928.

794.

50.

Подписано в печать 29.01.07 Полиграфический центр МЭИ (ТУ) Красноказарменная ул., д. 13

Тир. 100 П.л. 1,5

Список основных сокращений.

Введение.

1. Интегрированные системы контроля доступа и обеспечения безопасности и их моделирование на основе агентно-ориентировапного подхода.

1.1. Структура, функции и задачи системы обеспечения безопасности функционирования организаций.

1.2. Классическая «клиент-серверная» архитектура СКД и ОБ.

1.3. Децентрализованная архитектура СКД и ОБ.

1.4. Многоагентный подход к построению СКД и ОБ. Постановка задачи разрешения конфликтов в МАС.

1.5. Архитектура классического агента.

1.6. Общие принципы и методология построения мноюагентных систем.

161 Многоагентный подход системы распределенного и децентрализованного ИИ

162 Методоюгия Саш

1.7. Использование неклассических многозначных логик для представления мнений и разрешения конфликтов в МАС.

Выводы по 1лаве 1.

2.Анализ многозначных логик и их приложений к описанию мнений и оценок агентов, процессов диалога, аргументации и конфликтных ситуаций в МАС.

2.1. Типы высказываний, используемых в теории агентов.

2.2.0 логическом подходе в теории агентов.

2.3. Многозначные логики и их описание с помощью логических матриц.

2.4. Основные трехзначные логики и их применения в описании НЕ-факторов.

2 41 Логика Лукасевича Ц

2 42 Логика Рейтинга Н}

2 4 3 Логика Бочвара В

2 4 4 Логики Клини К}

2.5. Четырехзначные ло! ики и их применения в описании НЕ-факторов.

2 51 Логика аргументации Финна Г

2 5 2 Логика Белнапа Д4 65 2 6 Связь модальности и многозначности. Модальная трехзначная логика Лукасевича.

2.7. Модализация истинностных значений.

Выводы по главе 2.

3. Формирование интегральной модели мнений агента и построение логико-алгебраических моделей представления мнений на основе теории решеток и многозначных логик.

3.1. Моделирование интенциональных характеристик в МАС.

3.2. Интегральная модель мнения агента.

3.3. Варианты построения интегральной модели мнения агента.

3 31 Произведение чогических матриц 80 3 3 2 Модели достоверных мнений 81 333 Модель мнения, допускающая частичную (неполную) информацию 84 3 3 4 Модель мнения допускающая непочноту информации и неуверенность 85 3 3 5 Модель мнений, допускающая неуверенность, непочноту и противоречивость

3.4.Логика Бел папа #4 как аппарат для работы с истинностной составляющей мнения агента в рамках интегральной модели мнения.

3 41 Интерпретация истинностных значений и логические законы В4 в контексте МАС

3 4 2 Биупорядоченные множества и бирешетки

3 4 3 Вывод в югике В4 на базе метода ана.читических табчиц и бирешеточной семантики

3.5. Разработка четырехзначной логики МЦ для работы с оценочной составляющей мнения.

3 51 Понятие модачьности, сила и знак модальности

Двухкоординатное представление модальностей с позиции знака и силы

Решетка модачьностей

Логические операции над модальностями

3 52 Логическая матрица логики М,

3 5 3 Вывод в югике МЦ на базе метода аналитических таблиц

3.6. Разработка логики MLk, для работы с модальными суждениями, неполной и противоречивой информацией.

3 61 Логика ML\b как декартово произведение чогик Белнапа и МЦ

3 62 Интерпретация истинностных значений и логические операции ML\f,

Выводы по главе 3.

4. Методы и алгоритмы работы с мнениями в MAC, представленными согласно интегральной модели.

4.1. Модель рассуждений агента по Белнапу.

4.2. Модель представления модальных оценок.

4.3. Метод пополнения базы истинностных составляющих мнений.

4.4. Метод пополнения базы модальных составляющих мнений.

4.5. Алгоритм выявления мнения агента на поставленный вопрос с использованием свойств логик i?4 и ML\.

4.6. Алгоритм вьивления ответа группой агентов. Разрешение конфликтов с использованием логики ML\(,.

4.7. Алгоритм принятия агентом решения о доступе в СКД и ОБ.

4.8 Примеры применения системы логических рассуждений в рамках интегрированной системы контроля доступа и обеспечения безопасности.

Выводы по главе 4.

Актуальность темы. Вопрос защиты имущества частных лиц или организаций от несанкционированного доступа посторонних лиц, к сожалению, не теряет своей актуальности. В настоящий момент развитие современных технических средств позволяет существенно повысить защищенность объекта [1,3,8]. Практика применения автоматизированных систем контроля доступа (СКД) [3]* в последние пятнадцать лет получила широкое распространение. Такие системы применяются как на объектах особой важности: государственных учреждениях, электростанциях, аэропортах, хранилищах, так и в жилых домах, автомобильных стоянках, магазинах и т.д. Система контроля доступа представляет собой программно-аппаратный комплекс, основной задачей которого является предотвращение доступа нежелательных лиц в контролируемую зону, а в случае если это произошло - незамедлительное оповещение о данном факте. При этом СКД позволяет посредством электронных ключей (магнитных карт, радиокарт и др.) ограничить доступ посторонних лиц на территорию. Программное обеспечение, входящее в состав системы, обеспечивает функции обеспечения безопасности (ОБ) при возникновении чрезвычайной ситуации.

Развитие индустрии безопасности в сочетании с быстрым ростом технических средств ее обеспечения привело к появлению большого количества средств, повышающих степень защищенности объекта. К таким средствам относятся: системы охранно-пожарной сигнализации [71,72]; системы видеонаблюдения; системы контроля доступа; системы ограничения доступа и учета автотранспорта [18].

Эти средства в отдельности решают свои конкретнуе задачи, а в совокупности обеспечивают комплексную безопасность объекта. Зачастую данные подсистемы разрабатываются различными производителями и не являются в полной мере совместимыми друг с другом. Тогда, например,

Термины "система контроля доступа" и "система управления доступом" являются синонимами событие, зарегистрированное в одной системе, не будет зарегистрировано в другой. Вследствие этого типовая задача может вызвать технические сложности. Например, в случае взлома окна запретить всем выходы из данного помещения и начать запись на видеоаппаратуру.

Описанная выше проблема привела к осознанию актуальности создания интегрированных систем, которые позволяют решать вышеописанную и более сложные задачи, обеспечивая более высокий уровень безопасности. Разработка подобных интегрированных систем контроля доступа и обеспечения безопасности (СКД и ОБ) предполагает решение ряда фундаментальных теоретических и прикладных проблем, которые рассматриваются в диссертации.

В диссертационной работе предлагается новое решение важной задачи разработки математического обеспечения сложных, интегрированных программных комплексов и компьютерных сетей (на примере построения СКД и ОБ), которая имеет существенное значение для расширения возможностей компьютерных систем поддержки принятия решений в условиях неполной, противоречивой и пересматриваемой информации, повышения эффективности процессов обработки данных и знаний в компьютерных системах.

В диссертации СКД и ОБ моделируется как многоуровневая распределенная система, состоящая из автономных модулей. В связи с этим предлагается агентно-ориентированный подход [41,92,109,156,162,176,183] к ее построению. Среди наиболее известных работ в области теории агентов и многоагентных систем следует отметить публикации К.Хьюитта [156], М.Вулдриджа [182, 183], Н.Дженнингса [183], Д.Кини [183], П.Маэс [162], В.И.Городецкого [41,42], Д.А.Поспелова [90, 92], П.О.Скобелева и др. [4], А.В.Смирнова, В.Б.Тарасова [106, 108, 109], Ж.Фербе, В.Ф.Хорошевского [87, 127], И.Шоэма [176] и пр.

Основное содержание диссертационной работы связано с разработкой моделей, методов и программного обеспечения для поддержки принятия решений в СКД и ОБ. Общие проблемы построения систем поддержки принятия решений рассмотрены в монографиях О.М.Ларичева, А.И.Тихонова и В.Я.Цветкова [116], Э.А.Трахтенгерца [118], а конкретные примеры разработки таких систем даны в работах А.Н.Аверкина, О.П.Кузнецова и др. [2],

A.А.Башлыкова [9, 29], В.Н.Вагина, П.Еремеева [9,48,49] и др.

В диссертации в качестве важнейшего компонента проблемы поддержки принятия решений выступает задача информационной подготовки решений, связанная с формированием индивидуальных и коллективных мнений агентов, организацией их нормативного поведения, аргументацией в конфликтных ситуациях. При рассмотрении задач формализации норм и мнений автор опирался на работы Д.А.Поспелова и В.А.Шустер [93], М.Н.Бежанишвили [11],

B.Н.Вагина [27, 28], Е.Е.Ледникова [68], М.А.Михеенковой и В.К.Финна [75], Р.Фейгина и Дж. Халперна [146], М.Джорджеффа и А.Рао [153], У.Селларса [175], П.Сноу [178], Я.Хинтикки [126, 157]. Вопросы аргументации в конфликтных ситуациях исследовались В.Н.Вагиным и др.[28], В.К.Финном [122,-125], А.А.Ивиным [54], Т.А.Таран [105] и др.

В ходе решения задачи построения распределенной интегрированной системы контроля доступа и обеспечения безопасности возникла задача работы с неполной, противоречивой, неточной, неоднозначной информацией, т.е. с "НЕ-факторами" [77,78]. Термин НЕ-факторы, предложенный А.С.Нариньяни, лексически и содержательно отрицает основные свойства формальных систем: определенность, замкнутость, полноту, корректность и пр. Его английский эквивалент (¡т-т-ип'з) впервые появился в работе Ж.П.Дельгранде и Дж.Милопулоса [141]. Помимо рассмотрения свойств и ограничений формальных систем, другими естественными путями систематизации и группировки НЕ-факторов могут быть модификация законов классической логики (исключенного третьего, непротиворечивости, инволютивности); анализ типов экспертных свидетельств и оценок на оппозиционных шкалах и пр.

В работах А.С.Нариньяни проведены главным образом «доформальные исследования», включающие систематизацию НЕ-факторов в естественном языке и анализ взаимодействия между ними. Среди других специалистов, активно занимающихся исследованиями по данной проблематике, можно указать В.Н.Вагина [26-28], Ю.Р.Валькмана [31], Г.В.Рыбину [96], В.Б.Тарасова [107] и др.

В основу разрабатываемой архитектуры СКД и ОБ автор положил принцип построения распределенной вопросно-ответной системы, адаптированной для работы с НЕ-факторами на основе нетрадиционных, многозначных логик. В чем заключается причина обращения к аппарату многозначных логик?

Формализуя достоверные суждения и строгие, монотонные, корректные рассуждения, классическая логика, к сожалению, не принимает во внимание некоторые аспекты «естественных» рассуждений, такие как противоречивость, модифицируемость, неточность, нечеткость [91]. Вопросы построения рассуждений, учитывающих эти аспекты (НЕ-факторы), исследуются в логике достаточно давно [26,27], но остаются по-прежнему актуальными. Неклассические, а, в первую очередь, многозначные логики являются удобным и эффективным аппаратом для описания суждений, оценок и рассуждений, «пронизанных» НЕ-факторами, характерных для агентов, взаимодействующих в многоагентных системах. Большой вклад в развитие многозначных и бесконечнозначных логик внесли Я. Лукасевич, Ч.Пирс, Э. Пост, Д.А. Бочвар, А. Гейтинг, С.К. Клини, Н. Решер, X. фон Вригт, Р.Мак-Нотон, Н. Белнап,

A.В.Кузнецов, С.В.Яблонский, В.К. Финн, О.М.Аншаков, А.С.Карпенко,

B.И.Левин и др. Логическим подходам в ИИ посвящены монографии В.Н.Вагина и др. [28], Дж.Минкера [163], А.Тейза и др. [114, 115], Э.Тернера [179], а логическим подходам к разработке автономных агентов и многоагентных систем - работы Дж.Аллена, М.К.Валиева и др. [30], П.Коэна, А.Левека, Дж.Халперна, М.Дженесерета, М.Джорджефа, А.Рао, К.Конолиге, Дж.Мозеса, Г.С.Плесневича и др.[85, 86], Р.Фагина и др.

Целью диссертационной работы является разработка моделей, методов и программного обеспечения для поддержки принятия решения в интегрированных системах контроля доступа и обеспечения безопасности на основе агентно-ориентированного подхода и многозначных логик.

Объектом диссертационного исследования являются распределенные системы контроля доступа и обеспечения безопасности (СКД и ОБ), моделируемые как многоагентные системы (MAC). Основной предмет исследования составляют формальные модели мнений и оценок автономных агентов, а также методы и модели представления взаимодействий (диалога) между агентами на основе многозначных логик, разрабатываемые в интересах построения распределенной вопросно-ответной системы, адаптированной для работы с НЕ-факторами.

Отличительной особенностью предлагаемого подхода является реализация требования распределенности системы (см. работы по распределенным вычислительным системам и распределенному программированию Ю.П. Кораблина [63], В.П. Кутепова [67], В.В. Топоркова [117]) и применение логических методов искусственного интеллекта [28,114] при описании встречаемых в процессе работы системы неопределенностей и разрешении возникающих конфликтов [105,106,139].

В диссертационной работе решаются следующие основные задачи:

1) обоснование целесообразности разработки интегрированной системы контроля доступа и обеспечения безопасности и ее построение как системы с распределенной архитектурой;

2) разработка агентно-ориентированного подхода к построению систем СКД и ОБ, включая разработку конкретной многоагентной системы для СКД и ОБ, построение архитектуры и реализация отдельных агентов;

3) формирование интегральной модели мнений агента, включающей истинностные суждения и модальные оценки, описания и предписания;

4) анализ факторов неопределенности, неполноты, противоречивости информации, циркулирующей в СКД и ОБ; обзор логических методов формализации подобной информации;

5) построение логико-алгебраических моделей представления мнений и взаимодействий агентов на основе теории решеток и многозначных логик;

6) разработка программной архитектуры СКД и ОБ и средств порождения новых агентов и объектов системы с помощью методов шаблонно-ориентированного и синтезирующего программирования.

Научная новизна работы заключается в разработке логико-математического аппарата для представления мнений автономных агентов, формализации модальных оценок и разрешения конфликтов в многоагентной системе на базе произведения логик. В ходе решения этой основной задачи была введена интегральная модель мнения агента, включающая компоненты истинностных суждений и модальных оценок, построена новая логическая структура для унифицированного анализа различных систем модальностей [52,53,120] через двухкоординатное представление модальностей. Данная структура опирается на понятие биупорядоченного множества.

Новыми в диссертации являются:

1) распределенная модель СКД и ОБ на основе агентно-ориентированного подхода;

2) конкретная многоагентная архитектура СКД и ОБ, а также гибридная архитектура искусственного агента, сочетающая различные функционально-структурные компоненты индивидуальных и коллективных агентов;

3) интегральная модель мнения автономного агента как единства описаний и предписаний, истинностных суждений и модальных оценок;

4) метод двухкоординатного представления систем модальностей и их формализации с помощью биупорядоченных множеств;

5) логико-математический аппарат (четырехзначная логика ML 4, шестнадцатизначная логика ML^) для описания мнений, формализации модальностей, моделирования диалога, разрешения конфликтов в MAC на базе произведений логик;

Практическая ценность работы определяется широким распространением систем класса СКД и ОБ и связана с разработкой методов, алгоритмов и программных средств поддержки принятия решения в СКД и ОБ. Она подтверждается результатами использования предложенных моделей и методов в разработанной интегрированной системе контроля платного доступа и учета автотранспорта sPARK. Применение предложенной в работе распределенной архитектуры СКД и ОБ и алгоритмов принятия решения о доступе на территорию в составе системы sPARK позволило повысить эффективность управления транспортными потоками благодаря повышению устойчивости системы к нештатным ситуациям.

Реализация результатов. Разработанный программный комплекс sPARK, представляющий собой интегрированную систему контроля платного доступа и учета автотранспорта, зарегистрирован в Федеральной службе по интеллектуальной собственности, патентам и товарным знакам РОСПАТЕНТ (свидетельство № 2003610400 от 14.02.2003 г., по заявке № 2002612281, дата поступления 19.12.2002).

За срок с 2002 по 2006 г. система sPARK была внедрена на 41-м объекте в России и СНГ. Так в результате применения системы sPARK на территории ВВЦ удалось увеличить пропускную способность контрольно - пропускных пунктов на 25-30%. Кроме того, практическая ценность предложенной модели анализа неточной и противоречивой информации, алгоритмов разрешения конфликтов в MAC заключается в том, что их применение возможно не только в СКД и ОБ, но и в других распределенных системах при формализации диалога узлов сети и разрешения возникающих конфликтов.

Основные результаты диссертации были получены при выполнении работ по гранту Российского фонда фундаментальных исследований № 04-01-00-36. Они также были использованы в учебном процессе кафедры прикладной математики МЭИ(ТУ) и кафедры "Компьютерные системы автоматизации производства" МГТУ им. Н.Э.Баумана. Акты о внедрении и использовании результатов работы прилагаются.

На защиту выносятся:

1) децентрализованная модель СКД и ОУ на основе агентно-ориентированного подхода;

2) гибридная архитектура искусственного агента в многоагентной системе, сочетающая структурно-функциональные элементы коллективных и индивидуальных агентов;

3) интегральная модель мнения автономного агента, объединяющая его дескриптивные суждения и прескриптивные оценки;

4) метод двухкоординатного представления систем модальностей и их формального описания с помощью биупорядоченных множеств;

5) четырехзначная логика М,4 для работы с модальными суждениями и оценками;

6) шестнадцатизначная логика МЬ^ для работы с мнениями. Структура работы такова:

Выводы по главе 4.

В данной главе получены следующие результаты:

1. Показаны варианты приложений логики Белнапа и построенных в главе 3 четырехзначной логики МЬ4 и шестнадцатизначной логики МЪ\ь к представлению суждений и мнений агентов.

2. В частности, логика МЬц используется для моделирования связи мнений (суждений с истинностными значениями), описываемыми с помощью логики Белнапа, с состояниями мира. Логика М,16 применяется при разрешении спорных ситуаций группой агентов.

3. Представлен метод пополнения базы мнений агента на основе логики Белнапа.

4. Предложен метод изменения оценок агента на основе логики МЬ4.

5. Предложен алгоритм разрешения спорных ситуаций в группе на основании введения операции п-арной конъюнкции в логике МЬ\ь.

6. Предложен алгоритм принятия агентом решения о доступе в СКД и ОБ на основе разработанного логического аппарата и МЬ

Заключение

Результатом выполнения диссертационной работы стала разработка моделей и методов и программного обеспечения для поддержки принятия решений в интегрированной системе контроля доступа и обеспечения безопасности на основе агентно-ориентированного подхода и многозначных логик.

В диссертационной работе решены следующие основные задачи.

1. Разработана интегрированная система контроля доступа и обеспечения безопасности (СКД и ОБ) как система с распределенной архитектурой.

2. Предложен агентно-ориентированный подход к построению систем СКД и ОБ. Разработана архитектура обобщенного агента, сочетающая функционально-структурные компоненты коллективных и индивидуальных агентов.

3. Обоснована необходимость учета факторов неполноты и противоречивости информации в СКД и ОБ, неопределенности и пересмотра мнений агентов на основе многозначных логик и решеточных семантик.

4. Проведен критический анализ ряда известных трехзначных и четырехзначных логик с целью определения возможности их использования для моделирования неполной, противоречивой и плохо определенной информации в СКД и ОБ.

5. Предложена интегральная модель мнения агента, включающая истинностные суждения и модальные оценки, описания и предписания. Построены варианты логических моделей представления мнений и взаимодействий агентов на основе произведения многозначных логик.

6. Предложен общий подход к формализации различных классов модальностей с помощью четырехзначных семантик на базе двухкоординатного представления модальностей в осях "знак" и "сила". Введена решетка модальностей. Показано, что различные модальные системы допускают единое алгебраическое представление в виде предбирешеток.

7. Построены специальные многозначные логики МЦ, МЬ^.Разработана комбинированная процедура логического вывода для логики Белнапа ВА и логики Ж4.

8. Разработана программная архитектура СКД и ОБ и средств порождения новых агентов и объектов системы с помощью методов шаблонно-ориентированного и синтезирующегопрограммирования.

Разработанные автором модели и методы применены для решения задачи построения распределенных систем контроля доступа и обеспечения безопасности. Разработан программный комплекс бРАЯК, решающий задачу построения распределенной системы контроля доступа и учета автотранспорта. Применение предложенной в работе распределенной архитектуры СКД и ОБ и алгоритмов принятия решения о доступе на территорию в составе системы бРАЯК позволили повысить эффективность управления транспортными потоками и ограничить доступ транспорта на территорию различных объектов. В результате применения системы эРАЯК удалось увеличить пропускную способность контрольно-пропускных пунктов на 25-30%. Акты о внедрении прилагаются.

Разработанный программный комплекс внедрен более чем на 40 объектах в России и СНГ.

1. Абрамов А., Никулин О., Петрушин А. Системы управления доступом. -М.: Оберег-РБ, 1998.

2. Аверкин А.Н., Кузнецов О.П., Кулинич A.A., Титова Н.В. Поддержка принятия решений в слабо структурированных предметных областях. Анализ ситуаций и оценка альтернатив// Известия РАН: Теория и системы управления. 2006. - №3. - С.139-149.

3. Алексеенко В. Современная концепция комплексной защиты. Технические средства защиты. М.: АО "Ноулидж Экспресс" и МИФИ, 1994.

4. Андреев В.В., Батищев C.B., Виттих В.А. и др. Методы и средства создания открытых мультиагентных систем для поддержки процессов принятия решений// Известия РАН: Теория и системы управления. 2003. - №1. -С.126-137.

5. Аншаков С.М., Рычков C.B. О многозначных логических исчислениях// Семиотика и информатика. Вып. 19. М.: ВИНИТИ, 1982. - С.90-117.

6. Аристотель. Собрание сочинений. М.: Мысль, 1976.

7. Аршинский A.B. О семантиках классической логики// Электронный журнал Logical Studies. -М:ИЛКиРЛ, 2000.- http://www.Iogic.ru/Russian/LogStud/05/ LS5.html.

8. Барсуков B.C. Безопасность: технологии, средства, услуги. М.: КУДИЦ-ОБРАЗ, 2001.

9. Башлыков A.A., Еремеев А.П. Экспертные системы поддержки принятия решений в энергетике. М.: Изд-во МЭИ, 1994.

10. Башмаков А.И., Башмаков И.А. Интеллектуальные информационные технологии. М.: Изд-во МГТУ им. Н.Э.Баумана, 2005.

11. Бежанишвили М.Н. Логика модальностей знания и мнения М.: КомКнига, 2006.

12. Белнап Н., Стал Т. Логика вопросов и ответов: Пер. с англ./ Под ред. В.А. Смирнова, В.К. Филина. М.: Прогресс 1981.

13. Биркгоф Г. Теория решеток: Пер. с англ. М: Наука, 1984.

14. Борисов A.B. Модель построения распределенной системы платного доступа автотранспорта// Труды международной научно-технической конференции «Информационные средства и технологии». Т.2. М.: Янус-IC, 2005.-С. 16-20.

15. Борисов A.B. Многоагентная система для учета автотранспорта. Архитектура агента// Научная сессия МИФИ-2006. Т.З. Интеллектуальные системы и технологии. М.: МИФИ, 2006. - С. 97-99.

16. Борисов A.B. Организация диалога агентов МАС с использованием модальной логики// Материалы 13-й Всероссийской межвузовской научно-технической конференции студентов и аспирантов «Микроэлектроника и информатика 2006». - М.: МИЭТ, 2006.

17. Борисов A.B., Казарицкий A.C., Куриленко И.Е. О современных подходах к построению систем учета автотранспорта. Программно-аппаратные средства// Информационные технологии в моделировании и управлении. -2005. Вып. 5 (23). - С. 636-642.

18. Борисов A.B., Кин Е.С. Современные подходы к построению систем платного доступа учета автотранспорта// Алгоритмы безопасности. 2005. - №6. - С. 63-70.

19. Борисов A.B., Куриленко И.Е. Модель временных рассуждений в распределенной системе учета автотранспорта// Информационные технологии в моделировании и управлении. 2005. -№5(23). - С. 786-794.

20. Борисов A.B., Куриленко И.Е., Хотимчук К.Ю. Модель временных рассуждений в распределенной системе платного доступа автотранспорта//

21. Труды международной научно-технической конференции «Информационные средства и технологии».-М.:Янус-К,2005.-Т.2.-С.20-24

22. Борисов A.B., Тарасов В.Б. Моделирование мнений агентов в многоагентных системах на основе четырехзначных семантик// Программные продукты и системы. Приложение к международному журналу «Проблемы теории и практики управления».-2006.-№2.-С.47-50.

23. Бочвар Д.А. Об одном трехзначном исчислении и его применении к анализу парадоксов классического расширенного функционального исчисления // Математический сборник. -1938. -Т. 4. С.287-308.

24. Бочвар Д.А., Финн В.К. О многозначных логиках, допускающих формализацию анализа антиномий// Исследования по математической лингвистике, математической логике и информационным языкам. М. Наука, 1972.-С.238-295.

25. Бочвар Д.А., Финн В.К. Некоторые дополнения к статьям о многозначных логиках// Исследования по теории множеств и неклассическим логикам. -М.: Наука, 1976.-С.265-325.

26. Вагин В.Н. Знание в интеллектуальных системах// Новости искусственного интеллекта. 2002. - № 6. - С. 8-18.

27. Вагин В.Н., Головина Е.Ю., Загорянская A.A., Фомина М.В. Достоверный и правдоподобный вывод в интеллектуальных системах. М.: Физматлит, 2004.

28. Вагин В.Н., Еремеев А.П. Конструирование интеллектуальных систем поддержки принятия решений реального времени// Интеллектуальное управление: новые интеллектуальные технологии в задачах управления

29. Труды международной конференции (1С1Т'99, Переславль-Залесский, 6-9 декабря 1999 г.).-М.: Физматлит, 1999.-С.27-32

30. Валькман Ю.Р. Моделирование НЕ-факторов: основа интеллектуализации компьютерных технологий// Новости искусственного интеллекта.- 2004-№2.-С. 64-81.

31. Варшавский В.А., Поспелов Д.А. Оркестр играет без дирижера. Размышления об эволюции некоторых технических систем и управлении ими. М.: Наука, 1984.

32. Виноградов Д.В. Корректные логические программы для правдоподобных рассуждений//Научно-техническая информация.Сер.2.-2001.-№5-С.25-28.

33. Виньков М.М. Аргументационная семантика для шаговых теорий активной логики// Труды 10-й национальной конференции по искусственному интеллекту КИИ-2006 (Обнинск, 25-28 сентября 2006 г.). М.: Физматлит, 2006.-Т. 1.-С.ЗЗ 1-338.

34. Вригт фон Г.Х. Логико-философские исследования. Избранные труды: Пер. с англ. М.: Прогресс, 1986.

35. Гаазе-Раппопорт М.Г., Поспелов Д.А. От амебы до робота: модели поведения. 2-е изд. М.: Едиториал УРСС, 2004.

36. Гетманова А.Д. Логика: Учебник для педагогических учебных заведений. -6-е изд. М.: Высшая школа, 2002.

37. Гинце A.A. Архитектура различных систем управления доступом // Бизнес и Безопасность в России. 1999, февраль, №2, с.8-9.

38. Гинце A.A. Назначение систем управления доступом // Мир Безопасности. -Ноябрь 1999. -С.46-50.

39. Гладков С.А. Фролов Г.В. Программирование в Microsoft Windows: В 2-х ч. -М.: ДИАЛОГ-МИФИ, 1992.

40. Городецкий В.И., Грушинский М.С., Хабалов A.B. Многоагентные системы(обзор)//Новости искусственного интеллекта.-1998.-№2.-С.64-116.

41. Гретцер Г. Общая теория решеток: Пер. с англ. / Под ред. Д.М. Смирнова. -М.: Мир, 1981.

42. Григолия Р.Ш., Финн В.К. Вп-алгебры и соответствующие им пропозиционные исчисления// Семиотика и информатика. Вып. 12. М.: ВИНИТИ, 1979.-С.46-52.

43. Гусакова С.М., Михеенкова М.А., Финн В.К. О логических средствах анализа мнений// Научно-техническая информация. Сер.2 2001- №5-С.4-22.

44. Дейтел Х.М., Дейтел П. Дж. Как программировать на С++ / 3-е изд. Пер. с англ. М.: "Издательство БИНОМ", 2001.

45. Дзегеленок И.И. Логика поиска проектных решений.-М.: Изд-во МЭИ, 1984

46. Еремеев А.П. Об интеграции моделей в интеллектуальных системах поддержки принятия решений// Труды 9-й национальной конференции по искусственному интеллекту КИИ-2004 (Тверь, 28 сентября-2 октября 2004 г.). М.: Физматлит, 2004. -Т.2. - С.815-823.

47. Еремеев А.П. Экспертные модели и методы принятия решений. М.: Изд-во МЭИ, 1995.

48. Заде Л. Понятие лингвистической переменной и его применение к принятию приближенных решений: Пер. с англ. М.: Мир, 1976.

49. Зиновьев A.A. Очерки комплексной логики-М.: Эдиториал УРСС, 2000.

50. Ивин A.A. Логика норм. -М.:МГУ, 1973.

51. Ивин A.A. Модальные теории Яна Лукасевича. М.: ИФ РАН. - 2001.

52. Ивин A.A. Основы теории аргументации. М.: ВЛАДОС, 1997.

53. Ивин А. А., Никифоров А. Л. Словарь по логике. М.: ВЛАДОС, 1997.

54. Ивлев Ю.В. Квазиматричная логика основа теории фактических (физических) модальностей// Логические исследования. Вып.8- М.: Наука, 2001.-С.50-64.

55. Кандрашина Е.Ю., Литвинцева Л.В., Поспелов Д.А. Представление знаний о пространстве и времени в системах искусственного интеллекта. М.: Наука, 1988

56. Карпенко A.C. Логики Лукасевича и простые числа. М.: Наука, 2000.

57. Карпенко A.C. Многозначные логики. М.: Наука, 1997.

58. Карпенко A.C. Некоторые логические идеи В.А.Смирнова// Логические исследования. Вып. 10. М.: Наука, 2003. - С.61-93.

59. Карпенко A.C. Современные исследования в философской логике// Логические исследования. Вып. 5. М.: Наука, 1998. -С.7-18.

60. Клини С. К. Введение в метаматематику: Пер. с англ. М.: Изд. ИЛ. 1957.

61. Кораблин Ю.П. Семантика языков распределенного программирования/ Под ред. В.П.Кутепова. М.: Изд-во МЭИ, 1996.

62. Круглински Д., Уингоу С., Шеферд Дж. Программирование на Microsoft Visual С++ 6.0 для профессионалов: Пер. с англ. СПб.: Питер. - 2001.

63. Кузнецов О.П. Дискретная математика для инженеров. 3-е изд. СПб: Лань, 2004.

64. Кузнецов С.О. Методы теории решеток и анализа формальных понятий в машинном обучении // Новости искусственного интеллекта. 2004. - № 3. -С. 19-31.

65. Кутепов В.П. Об интеллектуальных компьютерах и болыцих копьютерных системах ноаого поколения // Изв. РАН. Теория и системы управления. -1996.- №5.-С. 97-114.

66. Ледников Е.Е. О семантике знания и мнения// Логико-философские штудии-3. СПб: Изд-во СПбГУ, 2005. - С.460-463.

67. Лещев В.А., Семенов, А.Ф, Кеменов H.A. Конюхов И.А. Агентно-ориентированная технология проектирования // Программные продукты и системы. 2006. - № 1. - С.29-23.

68. Лукасевич Я. О детерминизме // Логические исследования. Вып.2. М.: Наука, 1993.-С. 190-205

69. Любимов М.М., Собурь C.B. Пожарная и охранно-пожарная сигнализация. Проектирование, монтаж и обслуживание М.: ПожКнига, 2005.

70. Магауенов Р.Г. Системы охранной сигнализации: основы теории и принципы построения. М.: Горячая линия-Телеком, 2004.

71. Маккарти Дж., Хайес Р. Некоторые философские проблемы в задаче построения искусственного интеллекта // Кибернетические проблемы бионики. М.: Мир, 1973. - С. 40-87.

72. Максимова Л.Л., Рыбаков В.В. Решетки модальных логик// Алгебра и логиика. 1974. -№.13. - С.105-122.

73. Михеенкова М.А., Финн В.К. Анализ мнений и многоагентные системы// Труды 10-й национальной конференции по искусственному интеллекту КИИ-2006 (Обнинск, 25-28 сентября 2006 г.). Т.З. М.: Физматлит, 2006-С.902-907.

74. Нариньяни A.C. Недоопределенность в системе представления и обработки знаний//Известия АН СССР: Техническая кибернетика.-1986.-№5-С.3-28.

75. Нариньяни A.C. НЕ-факторы и инженерия знаний: от наивной формализации к естественной прагматике// Сборник трудов IY-й Национальной конференции по ИИ (КИИ-94, Рыбинск, сентябрь 1994 г.). Т.1. Тверь: АИИ, 1994.-С.9-18.

76. Нариньяни A.C. НЕ-факторы: краткое введение// Новости искусственного интеллекта. 2004. - №2. - С.52-64.

77. Непейвода H.H. Прикладная логика. Новосибирск: Изд-во НГУ, 2000.

78. Осипов Г.С. Специальные знания и синтез механизма рассуждений в задачах концептуального анализа// Известия РАН: Техническая кибернетика. 1992. - №5 - С.

79. Павлов С.А. Классификация трех- и четырехзначных логик в рамках логики ложности РЬ4// Логические исследования. Вып.З. М.: Наука, 1995. -С.98-122.

80. Павлов С.А. Логика ложности как обобщение трехзначной логики Лукасевича//Логические исследования. Вып. 5.-М.: Наука, 1998.-С.206-220.

81. Платон. Сочинения. В 3-х томах/ Под ред. В.Ф.Асмуса и А.Ф.Лосева. Т.1. -М.: Мысль, 1971.

82. Плесневич Г.С. Понятийно-ориентированные языки в инженерии знаний// Новости искусственного интеллекта. 2003. - №6. - С.3-9.

83. Плесневич Г.С., Авдошин С.М., Тарасов В.Б. Концептуальная спецификация многоагентных систем (часть 1)// Информационные технологии. 2002. - №12. - С.25-35.

84. Попов Э.В. Общение с ЭВМ на естественном языке. 2-е изд. М.: Едиториал УРСС, 2004.

85. Поппер К.Р. Объективное знание. М.: Эдиториал УРСС. - 2002.

86. Поспелов Д.А. Многоагентные системы настоящее и будущее// Информационные технологии и вычислительные системы. - 1998. - №1. -С.14-21.

87. Поспелов Д.А. Моделирование рассуждений. Опыт анализа мыслительных актов.-М.: Радио и связь, 1989.

88. Поспелов Д.А. От коллектива автоматов к мультиагентным системам// Труды Международного семинара «Распределенный искусственный интеллект и многоагентные системы» (DAIMAS'97, Санкт-Петербург, Россия, 15-18 июня 1997).-С.319-325.

89. Поспелов Д.А., Шустер В.А. Нормативное поведение в мире людей и машин,-Кишинев: Штиинца, 1990.

90. Рассел С., Норвиг П. Искусственный интеллект: современный подход: Пер. с англ. М: Вильяме, 2006.

91. Рейсдорф К. Borland С++ Builder 3. Освой самостоятельно: Пер. с англ. -М.: БИНОМ, 1999.

92. Рыбина Г.В. Приобретение знаний, содержащих НЕ-факторы// Новости искусственного интеллекта. 2004. - №2. - С.82-94.

93. Рыбина Г.В., Петухов Д.М. Модель взаимодействия интеллектуальных агентов// Труды Международной научно-практической конференции «Знание-диалог решение». Т.2 (KDS-2001, Санкт-Петербург, 19-22 июня 2001 г.).- СПб: Лань, 2001.- С.548-553.

94. Смагин C.B. Исследование и моделирование взаимодействия и самоорганизации агентов на виртуальном предприятии. Магистерская диссертация. -М.: МЭИ, 2005.

95. Смирнова Е.Д. О загадке контекстов мнения. Подход к семантике интенсиональных систем// Логические исследования. Вып.8. М.: Наука, 2001.-С. 199-209.

96. Смирнова Е.Д. Основы логической семантики. М.: Высшая школа, 1990.

97. Собоцинский В.В. Практический курс Turbo С++. Основы объектно-ориентированного программирования. -М.: Изд. Свет. 1992.

98. Специальная техника и информационная безопасность. Учебник/ Под ред. В.И. Кирина.-М., 2000.

99. Стефанюк B.JI. Локальная организация интеллектуальных систем. М.: Физматлит, 2004.

100. Страуструп Б. Язык программирования С++: Пер. с англ. Киев: ДиаСофт, 1993.

101. Таран Т.А. О разрешении конфликтов в многоагентных системах на основе аргументации// Искусственный интеллект (Доценк, Украина). 1997 - №1-2.-С.36-50.

102. Тарасов В.Б. Агенты, многоагентные системы, виртуальные сообщества: стратегическое направление в информатике и искусственном интеллекте // Новости искусственного интеллекта. 1998. -№ 2. - С.5-63.

103. Тарасов В.Б. Нетрадиционные и гибридные логики в моделировании интеллектуальных агентов. I. Искусственные деятели, интенциональные характеристики и пути их моделирования// Известия РАН: Теория и системы управления. 2000. - №5. - С.5-17.

104. Тарасов В.Б. От многоагентных систем к интеллектуальным организациям: философия, психология, информатика. М. Эдиториал УРСС, 2002.

105. Тарасов В.Б. От алгебраической модели Тарского к логико-семиотической матрице// Труды 9-й национальной конференции по искусственному интеллекту КИИ-2004 (Тверь, 28 сентября-2 октября 2004 г.). М.: Физматлит, 2004. - Т. 1. - С.311-322.

106. Тарский А. Введение в логику и методологию дедуктивных наук: Пер. с англ. Биробиджан: ИП Тривиум, 2000.

107. Тарский А. Понятие истины в языках дедуктивных наук. Философия и логика Львовско-Варшавской школы.-М.: РОССПЭН, 1999.- С. 19-155.

108. Тейз А., Грибомон П., Луи Ж. и др. Логический подход к искусственному интеллекту: от классической логики к логическому программированию: Пер. с франц. М.: Мир, 1990.

109. Тейз А., Грибомон П., Юлен Г. и др. Логический подход к искусственному интеллекту: От модальной логики к логике баз данных: Пер с франц. М: Мир, 1998.

110. Тихонов А.И., Цветков В.Я. Методы и системы поддержки принятия решений. М.: МАКС Пресс, 2001.

111. Топорков В.В. Модели распределенных вычислений.-М.: Физматлит, 2004.

112. Трахтенгерц Э.А. Компьютерная поддержка принятия решения. М.: СИНТЕГ, 1998.

113. Трахтенгерц Э.А. Многоагентные системы поддержки принятия решений// Теория и системы управления. 1998. -№5. -С.106-122.

114. Фейс Р. Модальная логика: Пер. с англ. М.: Наука, 1974.

115. Финн В.К. Аксиоматизация некоторых трехзначных исчислений и их алгебр// Философия в современном мире. Философия и логика. М.: Наука, 1974.-С.398-438.

116. Финн В.К. Интеллектуальные системы и общество. -М.: КомКнига, 2006

117. Финн В.К. Об интеллектуальном анализе данных // Новости искусственного интеллекта. 2004. - №3. - С. 3-18.

118. Финн В.К. Об одном варианте логики аргументации// Научно-техническая информация. Серия 2. Информационные процессы и системы. 1996. -№5-6.-С.З-19.

119. Финн В.К. Об одном классе логик аргументации // Труды 10-й национальной конференции по искусственному интеллекту КИИ-2006 (Обнинск, 25-28 сентября 2006 г.). Т.З. М.: Физматлит, 2006. - С.894-901.

120. Хинтикка Я. Семантика пропозициональных установок // Логико-эпистемологические исследования.-М.: Наука, 1980.-С.68-101.

121. Хорошевский В.Ф. Поведение интеллектуальных агентов: модели и методы реализации// Труды 4-го Международного семинара по прикладной семиотике, семиотическому и интеллектуальному управлению (ASC/IC'99). Переславль-Залесский: РАИИ, 1999. - С.5-20.

122. Шрамко Я.В. Американский план для интуиционистской логики. 1// Logical Studies (Online Journal). 2002. - №8.

123. Шрамко Я.В. Обобщенные истинностные значения: решетки и мультирешетки// Логические исследования. Вып.9. М.: Наука, 2002. -С.264-291.

124. Шуман А.Н. Философская логика: Истоки и эволюция. Мн: Экономпресс, 2001.

125. Agha G. Actors: a Model of Concurrent Computation for Distributed Systems. -Cambridge MA: MIT Press, 1986.

126. Allen J.F., Perrault C.R. Analyzing Intentions as Utterances// Artificial Intelligence. 1980.-Vol.15.

127. Avron A. A Note on the Structure of Bilattices// Journal of Mathematical Structures in Computer Science. 1995.-Vol.5.-P.431-458.

128. Belnap N. A Useful Four-Valued Logic// Modern Uses of Multiple-Valued Logic/ Ed. by J.M.Dunn and G.Epstein. Dordrecht: D.Reidel, 1977. - P.8-37.

129. Belnap N.D. How a Computer Should Think. Contemporaiy Aspects of Philosophy// Proceedings of the Oxford International Symposium, 1976.

130. Bishop M. Theft of Information in the Take-Grant Protection System // Journal of Computer Security. 1994/1995. - Vol.3(4).

131. Borkowski L., Slupecki Т., The Logical Works of J. Lukasiewicz// Studia Logica.- 1958. -Vol. 8.

132. Cohen P.R., Levesque H.J. Intention is Choice with Commitment// Artificial Intelligence. 1990. - Vol.42. - P.213-262.

133. Conflicting Agents: Conflict Management in Multi-Agent Systems/ Ed. by C.Tessier, L.Chaudron, H.-J.Müller. Dordrecht: Kluwer Academic Publishers, 2000.

134. David L. Drake, Morse K.L. The Security-Specific Eight-Stage Risk Assessments Methodology// Proceedings of the 17th National Computer Security Conference, 1994.

135. Delgrande J.P., Mylopoulos J. Knowledge Representation: Features of Knowledge// Fundamentals of Artificial Intelligence/ Ed. by W. Bibel and Ph. Jorrand. Berlin: Springer-Verlag, Berlin, 1986. - P.3-36.

136. Dunn J.M. An Intuitive Semantics for First Degree Entailment and Coupled Trees// Philosophical Studies. -1976. Vol.29. - P.149-168.

137. Dunn J.M. Partiality and its Dual// Studia Lógica 2000.- Vol.66. - P.225-256.

138. Dunn J.M., Hardegree G. Algebraic Methods in Philosophical Logic. Oxford: Oxford University Press, 2001.

139. Fagin R., Halpern J.I. Belief, Awareness and Limited Reasoning// Artificial Intelligence. 1988. - Vol.34. - P.39-76.

140. Fitting M. Bilattices and the Theory of Truth // Journal of Philosophical Logic 1989.-Vol.18.-P.225-256.

141. Fitting M. Kleene's Logic, Generalized// Journal of Logic Computation. 1991. - Vol.1.-P.797-810.

142. Fitting M. Kleene's Three-Valued Logics and Their Children // Fundamenta Informaticae. 1994. - № 20. - P. 113-131.

143. Font J. M. Belnap's Four-Valued Logic and De Morgan lattices// Logic Journal of the I.G.P.L. 1997. - Vol.5. - P.413-440.

144. Fraassen Van B. Presuppositions and Free Logic// The Logical Way of Doing Things/ Ed. by K.Lambert K. Yalle: Yalle University Press, 1969.

145. Genesereth M., Nilsson N. Logical Foundations of Artificial Intelligence. New York: Morgan Kaufmann, 1987.

146. Georgeff M.P., Rao A.S. BDI Agents: From Theory to Practice// Proceedings of the First International Conference on Multi-Agent Systems (ICMAS'95)/ Ed. by V.Lesser. AAAI Press/The MIT Press, 1995. - P.312-319.

147. Ginsberg M. Multivalued Logics: a Uniform Approach to Reasoning in Artificial Intelligence//Computational Intelligence. 1988. -Vol.4.- P. 265-316.

148. Haddadi A. Communication and Cooperation in Agent Systems: A Pragmatic Theory. Berlin: Springer Verlag, 1996.

149. Hewitt C. Viewing Control Structures as Patterns of Passing Messages// Artificial Intelligence. 1977. - Vol.8, №3. - P.323-364.

150. Hintikka J. Knowledge and Belief. London: Cornell Press, 1962.

151. Hughes G.E., Cresswell M.J. A New Introduction to Modal Logic. London: Routledge, 1996.

152. Konolige K., Pollack M. A Representationalist Theory of Intention//Proceedings of the 13th International Joint Conference on Artificial Intelligence (Chambery, France, 1993). Vol.1-P.390-395.

153. Kracht M. Tools and Techniques in Modal Logics. Amsterdam: Elsevier Science Publishers, 1999.

154. Lukasiewicz J. On Three-Valued Logic// Selected Works/ Ed. by I.Barkowsky.- Oxford: Oxford University Press, 1970. P. 87-88.

155. Maes P. Agent That Reduces Work and Information Overload//Communications of the ACM. 1994. -Vol.37. - №7.

156. Minker J. Introduction to Logic-Based Artificial Intelligence// Logic-Based Artificial Intelligence/ Ed. by J.Minker. Dordrecht: Kluwer Academic Publishers, 2000.

157. Nwana H. Software Agents: an Overview//The Knowledge Engineering Review.- 1996. -Vol.11, №3. P.205-244.

158. Prior A.N. Many-Valued and Modal Systems: An Intuitive Approach// The Philosophical Review. 1955. - Vol 64. - P.626-630.

159. Pynko A.P. Characterizing Belnap's Logic via De Morgan's Laws // Mathematical Logic Quarterly. 1995. - Vol.41. - P.442-454.

160. Quine W.V. Philosophy of Logic. New York: Englewood Clifs, 1986.

161. Rescher N. An Intuitive Interpretation of Systems of Four-Valued Logic// Notre Dame Journal of Formal Logic. 1965. - Vol IV, №2. - P. 154-156.

162. Rescher N. Many-Valued Logic. New York: McGraw-Hill Book Company, 1969.

163. Restall G. Four-Valued Semantics for Relevant Logics (and Some Their Rivals)//Journal of Philosophical Logic. 1995. - Vol.24, №2. - P. 139-160.

164. Russo A. A Translation Method for Belnap Logic. Imperial College Research Report DoC 98/7

165. Scott D. Continuous Lattices, Toposes, Algebraic Geometry and Logic// Lecture Notes in Mathematics// Ed. by Lawvere. Berlin: Springer-Verlag, 1972. - P. 97-136.

166. Scott D. Scott, D.S. Lattice Theoretic Models for Various Type-Free Calculi// Proceedings of the 4th International Congress in Logic, Methodology and the Philosophy of Science. Bucharest, 1972.

167. Sellars W. Some Problems about Belief// Synthese. 1968. - Vol.19. -№1-2. -C.158-177.

168. Shoham Y. Agent Oriented Programming//Artificial Intelligence—1993.-Vol.60, №l.-P.51-92.

169. Slupecki J., Bryll G., Prucnal T. Some Remarks on Three-Valued Logic of J. Lukasiewicz // Studia Logica. 1967. - Vol. 21. - P.51-54.

170. Snow P. Belief, Logic and Partial Truth// Computational Intelligence. -2003. -Vol. 19/ №2k> - C.204-221.

171. Turner E. Logics for Artificial Intelligence. Chichester: Ellis Norwood, 1984.

172. Weber S. Investigations in Belnaps Logic of Inconsistent and Unknown Information. 1999.

173. Wojcicki R. On Matrix Representation of Consequence Operations of Lukasiewicz's Sentential Calculi // Selected Papers on Lukasiewicz Sentential Calculi/ Ed. by R. Wojcicki. Warshawa.: Wydawnictwo Polskiej Akademii Nauk, 1977.-P. 101-112.

174. Wooldridge M. Reasoning About Rational Agents. Cambridge MA: The MIT Press, 2000.

175. Wooldridge M., Jennings N.R., Kinny D. The Gaia Methodology for Agent-Oriented Analysis and Design// Autonomous Agents and Multi-Agent Systems. Dordrecht: Kluwer Academic Publishers, 2000. - Vol. 3. - P. 285-312.

176. Wright von G.H. An Essay in Modal Logic. Amsterdam: North-Holland Publishing Company, 1951.

177. Zambonelli F., Jennings N.R., Wooldridge M. Developing Multiagent Systems: The Gaia Methodology // ACM Transactions on Software Engineering Methodologies. 2003. - Vol. 12. - P. 317-370.