автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Модели, методы и программные средства организации взаимодействия интеллектуальных агентов

кандидата технических наук
Паронджанов, Сергей Сергеевич
город
Москва
год
2008
специальность ВАК РФ
05.13.11
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Модели, методы и программные средства организации взаимодействия интеллектуальных агентов»

Автореферат диссертации по теме "Модели, методы и программные средства организации взаимодействия интеллектуальных агентов"

На правах рукописи

00345В324

Паронджанов Сергей Сергеевич

МОДЕЛИ, МЕТОДЫ И ПРОГРАММНЫЕ СРЕДСТВА ОРГАНИЗАЦИИ ВЗАИМОДЕЙСТВИЯ ИНТЕЛЛЕКТУАЛЬНЫХ АГЕНТОВ

Специальность 05.13.11 - математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

05

Москва-2008

003456324

Работа выполнена в Московском инженерно-физическом институте (государственном университете)

доктор технических наук, профессор Рыбина Галина Валентиновна

Научный руководитель:

Официальные оппоненты:

доктор технических наук, профессор Евсеев Олег Владимирович

кандидат технических наук, доцент Тарасов Валерий Борисович

Ведущая организация:

Государственное учреждение «Российский государственный научно-исследовательский институт информационных технологий и систем автоматизированного проектирования»

Защита состоится «24» декабря 2008 г. в 13 час. 00 мин. на заседании диссертационного совета Д212.130.03 при Московском инженерно-физическом институте (государственном университете) по адресу. Москва, Каширское ш., 31.

С диссертацией можно ознакомиться в библиотеке Московского инженерно-физического института (государственного университета).

Отзывы в двух экземплярах, заверенные печатью, просьба направлять по адресу: Каширское ш., 31, Диссертационные советы МИФИ.

Автореферат разослан { ¿. 20С&Г.

Л

2

Учёный секретарь диссертационного совета

Шумилов Ю.Ю.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Многоагентные системы (MAC) - это новая технология, формируемая на стыке искусственного интеллекта (ИИ), общей теории систем, информационных и телекоммуникационных технологий. Разработка технологии создания MAC представляет собой одну из наиболее важных и многообещающих областей развития интеллектуальных информационных технологий.

Актуальность распределенного ИИ и MAC определяется сложностью современных организационных и технических систем, разнообразием, сложностью и распределенностью решаемых задач, огромными объемами потоков информации и высокими требованиями к времени обработки информации. Централизованное управление в них становится неэффективным из-за того, что слишком много времени тратится на передачу в центр информации и принятие соответствующих решений. Агентно-ориентированный подход находит широкое применение в различных областях, требующих решения сложных распределенных задач, таких как совмещенное проектирование изделий, реинжиниринг бизнеса и построение виртуальных предприятий, имитационное моделирование интегрированных производственных систем и электронная торговля, организация работы коллективов роботов и распределенная (совмещенная) разработка компьютерных программ.

Теоретические исследования в области MAC ведутся в основном по следующим направлениям: теория агентов; коллективное поведение агентов; архитектура агентов и MAC; методы, языки и средства коммуникации агентов; языки реализации агентов; средства поддержки миграции агентов по сети. В практических задачах построения MAC определяющее значение имеют инструментальные средства и языки построения таких систем, представляющие собой многослойную структуру, включающую пять слоев: языки реализации агентов и MAC; языки коммуникации агентов; языки описания поведения агентов и законов среды; языки представления и управления знаниями; языки формализации и спецификации агентов и MAC. Значительный вклад в исследования в области MAC и интеллектуальных агентов внесли отечественные ученые Д.А. Поспелов, Г.С. Осипов, Э.В. Попов, M.JI. Цетлин, В.И. Городецкий, И.В. Котенко, Г.В. Рыбина, П.О. Скобелев, A.B. Смирнов, B.JI. Стефанюк, В.Б. Тарасов, В.Ф. Хорошевский и другие, а также целый ряд зарубежных ученых М. Вулдридж, И. Демазо, Н. Дженнингс, Т. Кинни, П. Маэс, Ж.-П. Мюллер, Ж. Фербе, Б. Хейес-Рот, К. Хьюитг, К. Цетнарович и др.

Наибольшую сложность в теоретических исследованиях и практических реализациях современных MAC представляют вопросы, связанные с процессами взаимодействия агентов при коллективном решении задач реальной практической сложности и значимости, поскольку каждый агент, решающий конкретную подзадачу, имеет лишь частичное представление об общей задаче и должен постоянно взаимодействовать с другими агентами. Однако, именно процессы взаимодействия агентов, особенно интеллектуальных агентов, являются наименее изученными и исследованными в контексте MAC, что объясняется: наличием неформальных описаний семантики и прагматики языков взаимодействия агентов, практическим отсутствием моделей диалогов/полилогов агентов, логически несовместимыми сценариями коммуникации, обилием разнородных компонентов обработки сообщений и т.д.

Поэтому проблема построения моделей взаимодействия интеллектуальных агентов в MAC является в настоящее время наиболее актуальной в теории и технологии MAC.

Цель исследований. Целью диссертации является исследование и разработка моделей, методов и программных средств организации взаимодействия интеллектуальных агентов в MAC.

Для достижения поставленной цели в диссертации решены следующие основные задачи.

1. На основе анализа существующих подходов к построению современных MAC и исследованию организации взаимодействия между интеллектуальными агентами построены онтологии моделей и архитектур интеллектуальных агентов и MAC с учетом специфики процессов взаимодействия агентов.

2. Проведен эволюционный анализ опыта исследований и разработок в области человеко-машинных интерфейсов на естественном языке и интеллектуальных диалоговых систем и выбрана базисная модель общения, позволяющая в отличие от традиционных моделей коммуникаций агентов поддерживать достаточно сложные процессы взаимодействия интеллектуальных агентов за счет учета знаний о проблемной области (ПрО), языке, структуре диалога и коммуникативной среде.

3. Построена модель взаимодействия интеллектуальных агентов и предложены оригинальные методы и алгоритмы реализации всех компонентов модели.

4. Разработаны модель интеллектуального агента, модели и методы взаимодействия интеллектуальных агентов в MAC и способы их настройки на различные среды.

5. Выполнен анализ системных требований и проектирование инструментальных программных средств поддержки построения архитектур интеллектуальных агентов и организации их взаимодействия.

6. Разработаны инструментальные программные средства системы имитационного моделирования процессов взаимодействия интеллектуальных агентов (система ИМВИА).

7. Проведена экспериментальная апробация предложенных моделей, методов, архитектур и разработанных инструментальных программных средств для различных ПрО, в том числе в виде прототипов MAC для задач контроля состояния химически опасных объектов, оперативного биллинга, инвестиционного планирования и др.

Объект исследования. Объектом исследования являются интеллектуальные агенты и MAC. Предмет исследования. Предметом исследования являются модели взаимодействия и архитектуры интеллектуальных агентов в MAC.

Методы исследования. Для решения поставленных задач в диссертации использованы методы ИИ (модели и методы представления и обработки знаний, методы инженерии знаний), имитационное моделирование, теория множеств, теория графов, теория построения трансляторов, технология разработки программного обеспечения.

Научная новизна результатов работы. В диссертации получены следующие новые результаты.

1. Предложены методы и алгоритмы построения модели взаимодействия интеллектуальных агентов в MAC, расширяющей возможности традиционных моделей коммуникации агентов за

счет учета знаний о ПрО и языке взаимодействия, ПрО других агентов, а также знаний о структуре взаимодействия на глобальном, тематическом и локальном уровнях.

2. На основе развития HTN-формализма (HTN - Hierarchical Task Network) предложена расширенная модель представления планов агента, дополненная введением в описание вершин сети функций качества, а также разработаны оригинальные алгоритмы планирования, координации, разрешения конфликтов, построения последовательности коммуникативных действий агентов и определения совокупности задач, решение которых требуется для достижения цели взаимодействия.

3. Предложены оригинальные методы представления и реализации тематической и локачыюй структуры диалога/полилога интеллектуальных агентов на основе использования эвристических моделей решения типовых задач и формализма раскрашенных сетей Петри.

4. Впервые исследована и показана возможность применения методов имитационного моделирования, обеспечивающих поддержку процессов взаимодействия интеллектуальных агентов в MAC, как основного инструмента концептуального проектирования и прототипирования сложных объектов.

5. Разработаны инструментальные программные средства системы имитационного моделирования процессов взаимодействия интеллектуальных агентов (система ИМВИА) и методические рекомендации по их применению, на основе которых построены прототипы MAC для различных ПрО.

Практическая значимость результатов работы. Практическая значимость результатов диссертации непосредственно связана с созданием новой технологии 21-го века - технологии MAC, поскольку разработка мощных архитектур интеллектуальных агентов и обеспечение эффективных процессов коммуникации агентов являются наиболее важными задачами при разработке любой MAC для таких практически значимых задач как распределенное проектирование изделий, моделирование интегрированных производственных систем, реинжиниринг бизнеса, организация работы коллектива роботов, Интернет-приложения и т.п.

Апробация разработанных моделей, методов и инструментальных программных средств при создании нескольких прототипов MAC для различных ПрО (телекоммуникации, мониторинг химически опасных объектов, инвестиционное планирования, и др.) подтвердила практическую значимость результатов диссертации. На защиту выносятся.

1. Модель взаимодействия интеллектуальных агентов в MAC.

2. Методы и алгоритмы реализации всех компонентов модели взаимодействия интеллектуальных агентов.

3. Комплекс инструментальных программных средств имитационного моделирования процессов взаимодействия интеллектуальных агентов (система ИМВИА).

Достоверность полученных результатов. Достоверность научных результатов подтверждена экспериментальными данными проведенного тестирования разработанных программных средств, а также соответствующими актами о внедрении и использовании результатов диссертации.

Апробация работы. Основные положения и результаты диссертации докладывались и обсуждались на следующих научных конференциях и семинарах: «8-ая Национальная конференция по искусственному интеллекту - КИИ-2002» (Коломна, 2002); «11-ая Национальная конференция по искусственному интеллекту - КИИ-2008» (Дубна, 2008); Международный научно-технический семинар "Современные технологии в задачах управления, автоматики и обработки информации" (Алушта, 2000-2002, 2005, 2008); «Научная сессия МИФИ» (Москва, 2002-2008).

Реализация результатов работы. Результаты диссертации использовались в НИР, выполненных при поддержке РФФИ (проекты № 00-01-00679, № 03-01-00924, № 06-01-00242) в лаборатории «Системы искусственного интеллекта» кафедры Кибернетики МИФИ, и в учебном процессе для практической поддержки курса «Динамические интеллектуальные системы» на кафедре Кибернетики МИФИ.

Результаты диссертационного исследования также использованы при разработке ряда прототипов MAC, в частности: MAC оперативного биллинга, MAC для решения задач контроля состояния химически опасных объектов г. Москвы, MAC управления инвестиционными проектами, MAC управления силами объектовой охраны.

Публикации. Основные результаты диссертации опубликованы в 17 печатных работах, в том числе одна статья в журнале, включенном ВАК РФ в перечень ведущих рецензируемых научных журналов и изданий.

Структура и объём работы. Диссертация состоит из введения, четырёх разделов, заключения, списка использованной литературы (102 наименования) и 6 приложений. Основная часть диссертации содержит 135 страниц машинописного текста, включая 55 рисунков, 15 таблиц.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы диссертации, её научная новизна и практическая значимость, сформулирована цель работы.

Первый раздел диссертации посвящен исследованиям в области MAC и интеллектуальных агентов (Рис. 1). Поскольку на сегодняшний день проблематике интеллектуальных агентов и MAC посвящен целый ряд работ, в которых предлагается большое разнообразие моделей и архитектур агентов, то анализировались только наиболее часто цитируемые работы. Для того чтобы показать, насколько специфично каждый из авторов подходит к пониманию и толкованию термина «агент», были построены две онтологии - онтология моделей и онтология архитектур интеллектуальных агентов.

На основе предложенных в диссертации параметров, проведено сравнение архитектур интеллектуальных агентов, в частности, сравнивались свойства, связанные с представлением знаний, средствами вывода, восприятием, возможностями интеллектуального поведения, средой и внутренней структурой агента. Проведено также сопоставление моделей и архитектур агентов, на основании чего осуществлен выбор базовой модели и архитектуры интеллектуального агента для моделирования процессов взаимодействия агентов в MAC.

Проанализированы наиболее известные модели и методы взаимодействия агентов в MAC, в том числе, модель кооперации Ж.-П. Мюллера, модель Ад. Уокера и М. Вулдриджа, модель

6

«Кооперативные структуры», модель немедленной кооперации. Анализ показал, что при рассмотрении проблемы взаимодействия агентов зарубежные авторы описывшот в моделях взаимодействия только структуру собственного партнерства, иногда включая знания о партнерах по взаимодействию. При этом в стороне остаются вопросы, связанные со знаниями о ПрО, о языке и о коммуникативной среде, которые являются необходимыми для организации достаточно сложного взаимодействия агентов, в частности, при решении задач управления в распределенной среде и др. задач.

Рис. 1. Исследования в области многоагентных систем В этой связи в диссертации был проанализирован отечественный опыт исследований и разработок в области интеллектуальных диалоговых система и организации человеко-машинных интерфейсов в системах обработки данных в целом (в том числе на естественном языке), в рамках которых были созданы наиболее развитые системы общения (взаимодействия) с конечными пользователями.

По результатам сравнительного анализа моделей взаимодействия, описанных в отечественной и зарубежной литературе, сделан вывод о том, что все аспекты взаимодействия интеллектуальных агентов (например, такие факторы как зависимость структуры диалога/полилога от решаемых в ходе взаимодействия задач (тематическая структура диалога), текущего контекста диалога (локальная структура диалога), специфика языка взаимодействия агентов и др.) наиболее полно представлены в обобщенной модели взаимодействия интеллектуальных агентов, предложенной Г.В. Рыбиной, которая и была выбрана в качестве базисной модели взаимодействия.

Теоретико-множественное описание данной модели представляется шестеркой вида: М1=<8А,8Е,8РДЭ1,1,,811А>, где БА - множество агентов А|, участвующих во взаимодействии, 8А={А1}, ЭЕ - множество коммуникативных сред Ек, 8Е={Ек}, к=1ч-К, где происходит

взаимодействие. БР - множество проблемных областей 8Р={РВз}, причем РВ5 =

<Р11,8Т,ТНР>, где РЯ - предметная область, т.е. множество классов, их экземпляров н

связывающих их отношений, т.е. PR=<SK,SOb,SR>, где SK - множество классов, описывающих некоторую предметную область, SOb - множество экземпляров классов, SR - множество отношений, связывающих элементы множеств SK, SOb; ST - множество решаемых задач, где ST={Tm}, m=RM; TRP - отношения соответствия элементов PR решаемым задачам из множества Т; DI -множество сценариев диалога между участниками взаимодействия в MAC, отражающих глобальную, тематическую и локальную структуру диалога, т.е. DI=<DIi,Dl2,Dl3>, где DIi -глобальная структура диалога, зависящая только от целей участников взаимодействия; Dh -тематическая структура диалога, зависящая только от задачи Тт, решаемой в процессе взаимодействия; DI3 - локачьная структура, т.е. структура шага диалога; L - язык взаимодействия, причем L=<V,G,S>, где V - лексический компонент, G - синтаксический компонент, S - семантический компонент; SRA - множество отношений {Rap}, i,j,k=l-Hi, показывающих возможность осуществления процесса взаимодействия между парой участников взаимодействия Aj и Aj в среде Ек, причем SRA определяется как подмножество SAxSAxSE.

В диссертации рассмотрены также языки взаимодействия и инструментальные средства проектирования агентов и MAC, на основании сравнительного анализа которых обоснован выбор языков KQML и KIF как базовых языков взаимодействия интеллектуальных агентов, а системы G2 в качестве базовой инструментальной среды.

Таким образом, показано, что наибольшую сложность в теоретических исследованиях и практических реализациях современных MAC представляют вопросы, связанные с процессами взаимодействия агентов при коллективном решении задач, однако, несмотря на обилие работ в области MAC, в настоящее время, практически, отсутствуют описания исследований, связанных с построением достаточно универсальных моделей взаимодействия интеллектуальных агентов. В связи с этим сделан вывод об актуальности темы диссертационного исследования, направленного на разработку моделей, методов и инструментальных программных средств организации взаимодействия интеллектуальных агентов в MAC.

Сформулирована цель и поставлены конкретные задачи диссертационного исследования.

Во второй разделе представлены теоретические, методологические и алгоритмические основы организации взаимодействия интеллектуальных агентов и проведено исследование возможностей применения методов имитационного моделирования как основного инструмента на этапе концептуального проектирования сложных объектов проектирования, которыми, по сути, являются все программные компоненты, обеспечивающие поддержку процессов взаимодействия интеллектуальных агентов.

Проведенный анализ существующих моделей и архитектур позволил построить оригинальную модель интеллектуального агента. Особенностью данной модели является то, что она наиболее полно позволяет представлять интеллектуального агента как участника взаимодействия, обладающего знаниями о ПрО других агентов, знаниями о структуре диалога/полилога на глобальном, тематическом и локальном уровнях, а именно А=<М, Q, R, Р, Eff, MI, Plan, Aim, Time>, где M={Mj}, i=l+I - множество доступных агенту моделей окружения (моделей ПрО); Q={Qj}, j=l-s-J - множество целей агента; R= {R^}, k=l*K - множество действий, допустимых для агента; Р={Р„}, n=l+N - модель представления планов участника взаимодействия (библиотека частичных планов); Eff={Effz}, z=l^Z - множество допустимых

8

воздействий на агента со стороны окружения; М1 - модель взаимодействия, в рамках которой агент общается с другими агентами; Р1ап(0),МО=Як - функция формирования плана действий агента (формирует упорядоченную последовательность действий агента из множества его допустимых действий Як), исходя из его текущей цели 0,- и модели окружения М,; Ащ1(Ей"г,М|)=0| - механизм целеполагания агента на основе внешних воздействий (активизация той или иной цели 0] агента происходит в результате прямого логического вывода, при этом в качестве рабочей памяти и базы знаний используется модель окружения агента М|, а вывод запускается каждый раз, когда происходит допустимое воздействие ЕЯ1* на агент со стороны окружения (изменение параметров модели окружения М; у данного агента)); Тше(М,Дк) -функция расчета продолжительности выполнения действия агента в зависимости от состояния окружения.

Для реализации модели представления планов агентов-участников взаимодействия выбрана модель НШ (Рис. 2), которая была развита за счет введения в описание вершин НТК-сети функций качества. Это расширение позволило осуществлять процесс планирования, как максимизацию функции качества корневой вершины, причем для расчета функции качества в диссертации разработан специальный метод.

Рис. 2. Иерархическая сеть задач Таким образом, компонент Р вышеописанной модели интеллектуального агента может быть представлен в виде P=<N,E>, где N - множество вершин графа; N=GuM, где G -множество вершин типа «задача», соответствующих задачам, решение которых приводит к решению других задач и/или к достижению цели, G={Gi}, 1=1-hi; Gi=<Tm,Pro,Out,Qual,Dur>, где Тщ -уникальный идентификатор задачи; Pro - входящие параметры; Pro = {Pro,}, i=l+n; Out -исходящие параметры; Out={Outj}, 1=1-hi; Qual - функция качества, показывающая, как вычисляется значение качества задачи на основе показателя качества подзадач; Dur -предполагаемая продолжительность решения задачи, вычисляемая на основе функции качества при построении плана реализации тематической структуры диалога, отражающей специфику решаемой задачи; M - множество вершин типа «метод», соответствующих простейшим действиям, которые может выполнять агент, причем для агента множество методов M=ActuLS, Act={Acti} является подмножеством множества действий, которые может выполнять агент, -т.е. компонент R интеллектуального агента; LS={LSj} - элементы локальной структуры диалога (если для выполнения данного метода требуется взаимодействие с другими агентами);

9

Е - множество дуг графа, E=RuP/0, R - это дуги, соответствующие отношению «разбиения задачи на подзадачи/методы», показывающие, что для решения данной задачи требуется решить другие задачи/методы более низкого уровня. RcGx(GuM); Р/О - дуги, показывающие передачу данных между задачами (входящие/возвращаемые параметры).

В общем случае интеллектуальные агенты могут обсуждать очень широкий спектр задач, однако в диссертации в понятие ПрО включено понятие предметной области (т.е. множество классов и их экземпляров) плюс совокупность из пяти типовых задач (диагностика, проектирование, планирование, управление, обучение), рассматриваемых в рамках задачно-ориентпрованной методологии построения интегрированных экспертных систем, предложенной Г.В. Рыбиной в середине 90-х годов. Для этих типовых задач разработаны эвристические модели решения и методы их реализации, что и было использовано в данной работе. Важно отметить два преимущества выбранного подхода:

• наличие эвристических моделей решения типовых задач (множество МТипз), фактически, описывающих управляющие знания о стратегиях (схемах, способах) решения конкретных классов задач, решающихся сходным образом;

• средствами реализации каждой эвристической модели MTi являются соответствующие сценарии диалога, описывающие тематическую структуру диалога (Dh), определяющую декомпозицию исходной задачи на подзадачи, способы обработки информации на каждом этапе и т.д.

Детально рассмотрена глобальная структура диалога/полилога (DIi), представляющая собой макроструктуру, зависящую только от целей агентов-участников взаимодействия, и которые определяются архитектурой конкретной MAC в зависимости от ПрО. В диссертации предложена следующая модель глобальной структуры: DIi = <Goal, Tasks, Pars, QuantPars >, где Goal - идентификатор цели, процесс достижения которой описывает данный фрагмент глобальной структуры диалога; Tasks=(Taski,...,Task„) - последовательность идентификаторов решаемых задач (для достижения цели требуется решить указанные задачи в указанной последовательности); Pars={Parj} - список имен параметров; QuantPars = {QuantPark} -параметры цели, связанные квантором всеобщности (для достижения цели требуется решить все задачи, в которых данный параметр принимает значение). Поскольку достижение цели интеллектуальным агентом осуществляется путем выявления частных целей, в которых связанные переменные принимают значения, и решением всех задач, указанных для этих частных целей, то для определения списка задач, решение которых требуется для достижения цели, в работе был предложен специальный алгоритм.

Детально рассмотрена тематическая структура диалога/полилога (DI2), зависящая только от специфики задачи, решаемой в процессе взаимодействия интеллектуальных агентов. В диссертации предложена следующая модель тематической структуры: DI2 = <МтИпз, Fynp>, где МтипЗ = <Мц, Мт2, Мтз, Мт4, Мт5> - множество эвристических моделей решения типовых задач (диагностика, обучение, проектирование, планирование, управление); Fy„p =<Fp3, FonB, Fkhi^ - множество функций управления, причем Рр3(Мтипз) = (Мть A„)z - функция распределения задач между агентами А; Р0ш(МтИпз) = (Mti,K)j - функция определения последовательности

выполнения задач (К - порядковый номер выполнения задачи); F^ (М-п) = (М-п,А„) - функция разрешения конфликтов, возникающих в процессе взаимодействия агентов.

Для реализации сценариев диалога/полилога, отражающих DI2, в диссертации предложен метод, суть которого кратко заключается в следующем:

1. Определение декомпозиции задачи, решаемой в процессе взаимодействия агентов.

2. Распределение подзадач между агентами-участниками диалога/полилога.

3. Генерация последовательности вызовов исходных данных и подзадач.

4. Передача управления на уровень локальной структуры (DI3) диалога/полилога агентов.

Для решения вопроса о том, какие подзадачи конкретный агент Aj выполняет сам, а за решением каких необходимо обращение к другим агентам, в диссертации предложены алгоритм выявления взаимосвязей с задачами других агентов и три метода составления совместного плана (метод распределения взаимно избыточных задач, метод распределения избыточных задач, метод распределения взаимно влияющих задач).

Методы выполнения совместного плана (ожидания внешнего события, выполнения задачи, разрешения конфликтов), также разработанные в диссертации, реализуют механизм, осуществляющий генерацию обращений к другим участникам взаимодействия за исходными данными и за значениями атрибутов, получаемых от других участников взаимодействия.

Для моделирования локальной структуры диалога (структуры шага диалога) агентов, в работе предложено использовать формализм раскрашенных сетей Петри, обладающий достаточной мощностью для описания структуры диалога в случае одновременного взаимодействия нескольких участников (полилога), а также обеспечивающий удобную визуализацию процессов моделирования. Модель локальной структуры диалога представляется в виде: DI3 = < L, Р, Т, С, I, О, М, Qual, Time>, где: L - язык взаимодействия (KQML); P={Pj} - конечное множество позиций; Pj=<S, Mark, LAct>, где Se{Si}, i=l-^3 - одно из возможных коммуникативных состояний агента, который выполняет данный шаг диалога: Si -выполнение действия; S2 - ожидание реакции; S3 - заключительное состояние; Mark={<Q,Na>}, где С.еС - раскраска позиции (типы KQML-сообщений); Na - число вхождений цвета Q в раскраску позиции; LAct = {LActi} - множество действий, которые агент должен выполнить на текущем шаге диалога; T={Tj) конечное множество переходов, с каждым из которых может быть связано некоторое условное выражение, использующее типы сообщений языка KQML; Ti=<Pfrom>Pto,Cond>, где PfiomeP - позиция, из которой производится переход; Р(0еР - позиция, в которую производится переход; Cond={<Cj, Na>}, где CisC - тип KQML-сообщения; Nci -число вхождений цвета С-, в раскраску перехода.

Каждое условие вида <Q, Nci> свидетельствует о том, что в раскраске позиции Р&от должен присутствовать элемент <Cj, Ncii>, причем Ncii>= NCl; C={Ck}, k=l*10 - множество типов высказываний на языке KQML (множество цветов). Множество С содержит имена всех перформативов (tell, achieve, advertise и др.) языка KQML, которые используются при взаимодействии; I:T—»{Deik} - переход удаления, отображается во множество точек удаления цветов при осуществлении этого перехода, каэвдая из точек удаления характеризуется позицией, из которой должен быть удален цвет, и, собственно цветом Delk=<Pk,Hk,N^c>, где

РкеР - позиция, из раскраски, которой должен быть удален цвет Цк; Мк-еС - удаляемый цвет; NMk - количество удалений данного цвета; 0:Т—>{Addk} - переход добавления, отображается во множество точек добавления цветов при осуществлении этого перехода, причем каждая из точек добавления характеризуется позицией, в которую должен быть добавлен цвет, и, собственно цветом. Addk=<Pk,Hk>N!A>, где РкбР - позиция, в раскраску которой должен добавиться цвет Цк; Pk£C -добавляемый цвет; N^ - количество добавлений данного цвета; M:P->{<So,Maikc>j} - начальная маркировка позиций.

Qual - функция определения качества модели локальной структуры диалога, Qual = min(LActjj)/|T|. Такой вид функции качества связан со следующими допущениями в предложенной модели: чем больше коммуникативных актов требуется выполнить, тем ниже качество локальной структуры диалога/полилога; число действий на уровне локальной структуры диалога не велико, поэтому качество всего диалога/полилога будет тем меньше, чем меньше качество его компонентов.

Time - функция определения длительности локальной структуры диалога. В качестве возможной функции времени предлагается следующая функция: Time = £(Time(M,LAct)) -длительность всех действий, которые должны быть выполнены в ходе функционирования данного компонента локальной структуры диалога.

Для реализации предложенной модели локальной структуры диалога DI3 в диссертации разработан метод, суть которого заключается в следующем. Каждая позиция сети Петри может быть охарактеризована с помощью трех параметров: коммуникативное состояние агента (выполнение действия, ожидание реакции, завершение диалога); раскраска позиции; множество действий, которые агент должен выполнить при выполнении данного шага диалога. Переход помимо начальной и конечной позиций характеризуется еще и условием перехода, описывающим раскраску начальной позиции, при которой переход возможен. Состав множества цветов зависит от используемого языка взаимодействия (количества типов сообщений). Переход отображается во множества точек удаления и добавления цветов при осуществлении этого перехода. Каждая из точек удаления/добавления характеризуется позицией, из которой должен быть удален/добавлен цвет и собственно цветом.

На основе предложенной модели DI3 и вышеописанного метода разработан алгоритм построения последовательности коммуникативных действий агентов-участников взаимодействия, суть которого заключается в следующем: по сети Петри формируется соответствующие ей база знаний и рабочая память решателя. Целевые утверждения формируются на основе информации о заключительных состояниях в модели локальной структуры диалога. Последовательность действий агента строится путем анализа трассы вывода, определения пройденных позиций сети Петри и включения в итоговую последовательность тех действий, которые описаны в списке действий для данной позиции.

Более детально, алгоритм выглядит следующим образом:

Шаг 1. Построение рабочей памяти решателя. Каждой позиции сети Петри соответствует ровно один объект из рабочей памяти решателя. Список атрибутов у всех объектов, соответствующих позициям, одинаков. Каждый атрибут соответствует одному из цветов (типов KQML - сообщений). Служебный атрибут показывает активность позиции. Тип каждого

атрибута - целое число. Значение атрибута определяется как число вхождений соответствующего цвета в раскраску соответствующей позиции.

Шаг 2. Построение базы знаний. Каждому переходу ставится в соответствие правило, в предусловие которого включается информация о возможности осуществления перехода, а в список действий - действия по удалению или добавлению цвета в соответствующую позицию, что соответствует уменьшению или увеличению значения атрибута, соответствующего данному цвету. Заключительным позициям соответствуют правила, определяющие окончание процесса вывода. Для позиций, коммуникативное состояние которых - ожидание реакции, создается набор правил, по одному для каждого атрибута, которые увеличивают значения этого атрибута на 1, что соответствует приходу сообщения данного типа.

Шаг 3. Ожидание результатов вывода. Происходит срабатывание продукционных правил, причем используется обратный вывод. Основная задача данного этапа - построить последовательность срабатывания правил, которая приводит к целевому состоянию.

Шаг 4. Формирование последовательности коммуникативных действий. На основе построенной последовательности срабатывания продукционных правил по каждому правилу, которое соответствовало переходу, однозначно восстанавливается выполненный переход. По списку сработавших переходов строится последовательность прохода позиций, используя следующую информацию - соседние переходы в последовательности сработавших переходов являются инцидентными одной позиции. Первой позицией в последовательность прохода позиций включается начальная вершина первого перехода из последовательности переходов, i-ая позиция в последовательности позиций - это та позиция, у которой инцидентны i-ый и (i + 1)-ый переходы из последовательности переходов.

Шаг 5. Выполнение последовательности коммуникативных действий. Для каждой позиции, коммуникативное состояние которой - либо выполнение действия, либо заключительное, вызываются процедуры агента, соответствующие его элементарным действиям, причем в том порядке, в каком они описаны в списке действий данной позиции. Для каждой позиции, коммуникативным состоянием которой является ожидание реакции, происходит вызов процедуры агента, ответственной за ожидание сообщения от других агентов.

Финальная часть второго раздела посвящена анализу MAC как объекта моделирования, в результате которого были выделены такие характерные черты, как: большое число параметров модели; неполнота знаний отдельного агента об окружении; потенциальная недетермшшрованность окружения; функционирование в реальном времени; распределенность и др. Наличие этих свойств, а также размерности решаемых агентами задач и неформализуемость сложных объектов, возникающих при создании интеллектуальных агентов, показали, что наиболее эффективным подходом к моделированию взаимодействия интеллектуальных агентов в MAC является имитационное моделирование, что, практически, не рассматривалось в работах по MAC.

В связи с этим в диссертации исследованы классические подходы к способам внутреннего описания имитационных моделей (ИМ) сложных дискретных систем и их дальнейшие развития, в частности, в виде ИМ для сложных технических систем, на основании чего было предложено формальное описание ИМ взаимодействия интеллектуальных агентов. Используя предтоженную

модель и учитывая методику построения ИМ в среде 02, были выделены базовые объекты имитационного моделирования - компоненты модели взаимодействия, а именно: ПрО; архитектура агента; глобальная, тематическая и локальная структура взаимодействия агентов; язык взаимодействия; транспортный уровень. Приводится детальное описание всех предложенных в диссертации моделей, методов и алгоритмов построения компонентов системы имитационного моделирования процессов взаимодействия интеллектуальных агентов (ИМВИА).

На базе стандартных средств, реализованных в инструментальной системе 02, также предложен графический язык описания сценариев имитационных экспериментов, позволяющий определять модели окружения агентов, модели ПрО, реакции на изменения модели окружения агента, базы знаний интеллектуальных агентов, помехи, влияющие на восприятие, и ответные реакции агентов, а также измеряемые параметры имитационной модели взаимодействия интеллектуальных агентов.

В третьей разделе рассматриваются вопросы построения системы имитационного моделирования процессов взаимодействия интеллектуальных агентов (ИМВИА). Представлены общая и детальные архитектуры системы ИМВИА и ее компонентов - подсистемы задания параметров, ИМ интеллектуального агента, подсистемы доставки и обработки сообщений. Рассматриваются основные классы разработанных программных средств.

Подсистема задания параметров моделирования предназначена для ввода параметров ИМ, требуемых ,а;ля идентификации входов модели, таких как: модель ПрО; возможные события в ПрО и вероятность их возникновений; база целей, база планов и база действий; помехи при восприятии и действии агента. Подсистема позволяет конструировать различные сценарии имитационного эксперимента в зависимости от специфики конкретных прикладных задач и целей, которые ставятся при моделировании той или иной ПрО, средствами системы 02.

На Рис. 3 представлена разработанная архитектура интеллектуального агента, которая включает следующие основные компоненты: модель ПрО; рефлектор; компонент вывода; планировщик; исполнительная подсистема; подсистема обработки сообщений; база целей; база планов; база действий.

Рефлектор воспринимает события, происходящие в окружении интеллектуального агента, либо принимает сообщения от других агентов с использованием подсистемы обработки сообщений. На качество восприятия влияют помехи, создаваемые генератором шумов. Так же рефлектор меняет модель ПрО интеллектуального агента в соответствии с произошедшим событием с учетом помех при восприятии, при этом события, воспринимаемые рефлектором, могут быть трех различных типов, а именно: изменение состояния окружения, поступление задач других агентов и результаты выполнения действий. Изменения ПрО интеллектуального агента передаются на вход компоненту вывода для выбора новых целей из базы целей. При поступлении задач от других агентов соответствующая информация передается планировщику для корректировки последовательности собственных действий. Результаты выполнения действий используются для корректировки модели ПрО интеллектуального агента, не вызывая никаких дополнительных действий.

Компонент вывода на основе модели ПрО и базы целей определяет, какие цели требуется достичь интеллектуальному агенту в настоящий момент. Выделенные цели передаются на вход планировщику (Рис. 4), определяющему последовательность задач, которые интеллектуальному агенту необходимо решить, в соответствии с чем для каждой цели раскрываются все квантифицированные параметры, и каждая задача из последовательности задач данной цели, параметры которой означены значениями параметров из получившегося набора, помещается в список задач, затем для каждой из задач на основе базы планов строится предварительное расписание выполнения и определяется прогнозируемое время окончания выполнения.

Рис. 4. Архитектура планировщика системы ИМВИА Информация о предварительном расписании передается другим интеллектуальным агентам с помощью исполнительной подсистемы. В случае, если другой интеллектуальный агент сообщает о том, что выполнит ту же задачу раньше, задача убирается из очереди на исполнение данным интеллектуальным агентом. Исполнительная подсистема либо непосредственно выполняет действия агента в ПрО, либо отправляет сообщения другим агентам с помощью подсистемы обработки сообщений. Для отправки, приема и обработки сообщений используется транспортная подсистема, представленная на Рис. 5.

В состав подсистемы доставки и обработки сообщений входят следующие компоненты: «Транслятор» - предназначен для разбора (понимания) сообщений, выявления адресов агента-отправителя и агента-получателя, передачу разобранного сообщения на отправку, прием и разбор сообщения от приемника и передачу сообщения соответствующему агенту, функционирующему на данном компьютере; «Мост» - осуществляет взаимодействие с

агентами, функционирующими в 02 (производит прием данных из системы 02, их преобразование, передачу для дальнейшей обработки транслятору языка взаимодействия, осуществляет прием данных от транслятора языка взаимодействия и генерацию соответствующих объектов в системе 62); «Отправитель» - обеспечивает отсылку сообщения адресату; «Приемник» - обеспечивает прием сообщений и передачу соответствующему методу транслятора; «Сервер имен агентов» - является специально разработанным реактивным агентом, который обеспечивает регистрацию и разрегистрацию агентов, хранит список имен агентов, адреса агентов, предоставляет сервисные услуги, связанные с именами агентов.

Рис. 5. Архитектура подсистемы доставки и обработки сообщений системы ИМВИА Доставка сообщений от агента-отправителя к агенту-получателю осуществляется следующим образом: на этапе семантического анализа на стороне агента-отправителя происходит запрос адреса агента-получателя (имени машины, на которой он функционирует) у сервера имен агентов. После этого происходит непосредственная отправка сообщения по полученному адресу. На стороне агента-приемника транслятор определяет (по имени агента-получателя), кому оно предназначено, и переадресует сообщение конкретному агенту. Таким образом, достигается возможность функционирования нескольких агентов на одном и/или разных компьютерах.

Представляемая в рамках ИМВИА подсистема хранения статистки содержит подробную информацию об имитации, включая все события, происходящие в модели, временах этих событий, все изменения состояний объектов окружения, времена этих изменений и т.д. Подсистема хранения статистки использовалась для отладки ИМ, ее верификации в процессе разработки, накопления статистики для дальнейшей обработки.

Четвертый раздел диссертации посвящен апробации и внедрению разработанных моделей, методов и прогрхммных средств.

Для апробации разработанной системы ИМВИА для различных ПрО и различных типовых задач было проведено экспериментальное программное моделирование путем создания на базе ресурсов, моделей и методов, предоставляемых системой ИМВИА, нескольких прототипов MAC.

1. Прототип MAC оперативного биллинга предназначен для оперативного учета предоставленных клиентам услуг и их оплаты, контроля состояния лицевых счетов клиентов и управления доступом к ресурсам в режиме реального времени. Прототип построен в виде набора агентов нескольких типов: реактивный агент взаимодействия с БД автоматизированной системы расчетов (АСР) реализует функции уведомления об изменениях, произошедших в БД АСР, и функции приема информации от интеллектуальных агентов системы оперативного биллинга (СОБ), которая должна быть помещена в БД АСР; реактивный агент-сервер имен реализует функции регистрации/разрегистрации агента СОБ в составе MAC, информирует интеллектуального агента СОБ о присутствии других интеллектуальных агентов в системе; интеллектуальные агенты СОБ реализуют функции тарификации абонентов, отслеживания изменений лицевых счетов абонентов, отслеживания изменений тарифных планов, принятия решения об обслуживании, а также синхронизации информации об абонентах с другими интеллектуальными агентами СОБ.

2. Прототип MAC, предназначенный для решения задач контроля состояния химически опасных объектов (ХОО) г. Москвы, представлен в виде набора агентов следующих типов: реактивный агент-ХОО реализует функции приема и обработки данных от датчиков (концентрация химических отравляющих веществ, факт и уровень аварии, и т.д.), а также функции активации средств аварийной цветовой и звуковой сигнализации на химически опасном объекте (ХОО); интеллектуальный агент-округа, реализует функции управления агентами-ХОО, функции расчёта и прогнозирования аварийных ситуаций, расчета уровня аварии и принятия решений о задействовании ресурсов оперативных служб и средств аварийной цветовой и звуковой сигнализации, а также функции постоянной диагностики работоспособности системы; интеллектуальный агент-города реализует функции контроля за агептами-округа и подчиненными ХОО, расчета прогнозов последствий аварийных ситуаций, перераспределения ресурсов в нештатных ситуациях.

3. Прототип MAC, предназначенный для управления инвестиционными проектами, разработан в виде набора агентов различных типов: реактивный агент пользователя реализует функции доступа пользователя к системе, ведения ролей и прав пользователя, ведения настроек пользователя; интеллектуальный агент паспорта инвестиционного проекта (ПП) реализует функции инициирования ПП, определения списка редакторов/согласующих ПП, отслеживания сроков редактирования/согласования, расчета стоимости проекта на основании его технического решения и др.; интеллектуальный агент инвестиционного портфеля (ИП) реализует функции формирования ИП на основе консолидации всех разработанных ПП с определенными характеристиками, ведения базы знаний о ходе реализации ИП, соблюдения бюджета ИП.

4. Прототип MAC «Транспортный паспорт региона» предназначен для сбора и обработки информации, включающей показатели и характеристики деятельности транспортных комплексов всех регионов Российской Федерации, все основные объекты и субъекты транспортного комплекса. При создании прототипа, были выделены следующие типы агентов: реактивный агент пользователя реализует функции доступа пользователя к системе, ведения ролей и прав пользователя, ведения настроек пользователя; интеллектуальный агент паспорта региона реализует функции сбора и обработки показателей и характеристик транспортного комплекса региона Российской Федерации, а также ведение основных объектов и субъектов транспортного комплекса региона; интеллектуальный аналитический агент отвечает за сбор информации по различным разрезам от интеллектуальных агентов паспорта региона и формирование единой отчетности.

5. Прототип MAC управления силами и средствами объектовой охраны является демонстрационным прототипом по курсу «Динамические интеллектуальные системы», читаемого на кафедре Кибернетики МИФИ, и выступает в качестве системы-тренажера по технологии моделирования всех компонентов MAC с помощью средств ИМВИА и системы G2.

В процессе имитационных исследований проводилась трассировка определенного состава показателей для оценки решений (моделей, алгоритмов, схем декомпозиции задач, и т.д.), предлагаемых в техническом задании на прототип, принятия новых технических решений для модификации прототипа, оценки качества функционирования имитируемой MAC. Например, в прототипе MAC управления инвестиционными проектами измерялось количество согласованных проектов, количество автоматически заполненных статей затрат, количество проектов, включенных в инвестиционный портфель, процент изменений списка редакторов и др., а в прототипе MAC оперативного биллинга такие показатели как количество абонентов, одновременно работающих на разном коммуникационном оборудовании, количество изменений лицевого счета и тарифного плана, максимальное время задержки отключения абонента при достижении порога лицевого счета и т.д. Эти и другие данные, полученные в результате имитационных экспериментов, приведены в тексте диссертации и Приложении.

Кроме того отдельные результаты работы были использованы при разработке промышленных систем, таких как: автоматизированная система расчетов «Биллинг-АйТи» (совместно с ЗАО «Аплана»); система контроля и передачи данных о состоянии химически опасных объектов «объект-округ» (совместно с ЗАО «Аплана»); автоматизированная система управления инвестиционным планированием (совместно с ЗАО «Аплана»); информационно-аналитическая система транспортного паспорта региона (совместно с ФГУП «Научный центр по комплексным транспортным проблемам Министерства транспорта РФ»),

В целом, результаты проведенного прототипирования MAC свидетельствуют о том, что по сравнению с традиционными протоколами коммуникаций, модели которых представляются чаще всего в виде недетерминированного конечного автомата, реализация разработанной в диссертации модели взаимодействия интеллектуальных агентов позволила: перейти на новый уровень кооперации интеллектуальных агентов и механизмов последовательного принятия решений за счёт учёта специфики конкретных классов задач; расширить когнитивные и исполнительские возможности интеллектуальных агентов путём предоставления им

эффективного доступа к знаниям партнёров по диалогу; обеспечить условия для распределения и/или перераспределения задач и координации действий по их решению; оперативно преодолевать конфликтные ситуации, управлять общими ресурсами, синхронизировать действия интеллектуальных агентов и т.д.

Например, при разработке прототипа MAC для инвестиционного планирования это позволило впервые решить целый ряд достаточно сложных проблем, которые ранее не могли быть решены без привлечения пользователя, в частности: несогласованность проектов (за счет полилога интеллектуальных агентов, связанного с задержками редактирования и согласования, а также выяснения причин отклоненных инвестиционных проектов и последующей автоматической корректировке свойств проекта); проблема выбора/замены ответственных редакторов и согласующих по проектам (использование знаний других интеллектуальных агентов о зонах ответственности сотрудников); проблема автоматического расчета стоимости проекта (за счет использования знаний о схожих проектах, причинах задержки согласования, а так же анализе успешно согласованных или отклоненных инвестиционных проектов); проблема ввода технического решения и сроков исполнения проекта, и др.

Разработка прототипа MAC для решения задач контроля состояния химически опасных объектов позволила организовать эффективное управление общими ресурсами при принятии решений об использовании специальных служб, а также синхронизировать действия между Агентствами по обеспечению мероприятий 1ражданской защиты и Центром мониторинга и прогнозирования чрезвычайных ситуаций природного и техногенного характера Главного управления МЧС России по г. Москве при составлении плана мероприятий по обеспечению гражданской безопасности населения на окружающей территории и устранению последствий аварий с привлечением сил и средств оперативных служб, оценке уровня аварии, расчете прогноза развития аварийной обстановки.

На основе использования многоагентного подхода и системы ИМВИА при построении прототипа MAC оперативного биллинга удалось повысить уровень обслуживания клиентов за счет возможности ведения единого лицевого счета клиента при одновременном обслуживании абонента на разном коммуникационном оборудовании, реализовать возможность смены тарифного плана без отключения клиента от предоставляемых услуг, при этом исчезла необходимость репликации БД АСР по инициативе СОБ, так как интеллектуальные агенты сами запрашивали необходимую им информацию в реальном времени и сообщали об изменении лицевых счетов клиентов.

В Приложение вынесены акты об использовании результатов диссертационного исследования; описание языков взаимодействия KIF и KQML; описание языка представления знаний, использующегося в системе G2, отображение языка KIF в язык представления знаний, использующийся в системе G2; алгоритмы работы транслятора языков взаимодействия; описание атрибутов и методов классов системы ИМВИА; коды ошибок системы ИМВИА; описание ПрО реализованных прототипов MAC.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. В результате совместного использования методов инженерии знаний, интеллектуальных диалоговых систем и информационного подхода впервые проведены анализ и обобщение моделей и архитектур интеллектуальных агентов и исследованы особенности процессов взаимодействия агентов при коллективном решении задач в MAC.

2. На основе эволюционного развития, формальной спецификации и расширения компонентов выбранной базисной модели взаимодействия интеллектуальных агентов предложены методы и алгоритмы их реализации с целью построения модели взаимодействия интеллектуальных агентов, учитывающей такие факторы как зависимость структуры диалога/полилога от решаемых в ходе взаимодействия задач (тематическая структура диалога), текущего контекста диалога (локальная структура диалога), специфика языка взаимодействия интеллектуатьных агентов и др.

3. Предложена оригинальная модель интеллектуального агента, отличающаяся тем, что позволяет представлять интеллектуального агента как участника взаимодействия, обладающего знаниями о языке взаимодействия и проблемных областях других агентов, а также знаниями о структуре взаимодействия на глобальном, тематическом и локальном уровнях.

4. На основе развития HTN-формализма предложена расширенная модель представления планов интеллектуального агента, дополненная введением в описание вершин сети функций качества, что позволило осуществлять процесс планирования как максимизацию функции качества корневой вершины, а также разработаны оригинальные алгоритмы планирования, координации, разрешения конфликтов, построения последовательности коммуникативных действий агентов и определения совокупности задач, решение которых требуется для достижения цели.

5. Предложены оригинальные методы представления и реализации тематической и локальной структуры диалога/полилога интеллектуальных агентов на основе использования эвристических моделей решения типовых задач и формализма раскрашенных сетей Петри.

6. Впервые показаны целесообразность и эффективность применения методов имитационного моделирования как основного инструмента концептуального проектирования и прототипирования оригинальных объектов проектирования типа программных компонентов, обеспечивающих поддержку процессов взаимодействия интеллектуальных агентов в MAC, а также разработаны язык описания сценариев имитационных экспериментов и средства его реализации в среде G2.

7. На основе предложенных в диссертации моделей, методов и алгоритмов разработаны инструментальные программные средства для системы имитационного моделирования процессов взаимодействия интеллектуальных агентов (ИМВИА).

8. Проведена апробация предложенных моделей, методов и разработанных инструментальных программных средств при создании нескольких прототипов МАС (для решения задач контроля состояния химически опасных объектов г. Москвы, для проектирования и разработки МАС управления инвестиционными проектами и др.).

9. Разработанные модели, методы и программные средства использованы при проектировании и реализации промышленных систем и их отдельных компонентов для различных проблемных областей.

ОСНОВНЫЕ ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Рыбина Г.В., Берзии В.Ю, Петухов Д.М., Паронджанов С.С. Разработка и реализация на основе средств инструментального комплекса G2 модели интеллектуального агента для многоагентной системы//С,овременные технологии в задачах управления, автоматики и обработки информации. Сборник трудов IX международного научно-технического семинара, посвященного 70-летию МАИ и 70-летию МЭИ. М.:Изд-во «Научтехлитиздат», 2000. С. 246247.

2. Рыбина Г.В., Берзин В.Ю., Паронджанов С.С. Имитационное моделирование процессов взаимодействия интеллектуальных агентов/Л'Ш национальная конференция по искусственному интеллекту с международным участием (КИИ 2002). Труды конференции. В 2 томах. М.: Физматлит, 2002. Т. 2. С.692 - 701.

3. Рыбина Г.В., Берзин В.Ю., Паронджанов С.С., Матюхин Д.А. Принципы построения модели диалога интеллектуальных агентов и программные средства ее реализации//Труды XI Международного научно-технического семинара «Современные технологии в задачах управления, автоматики и обработки информации». М.: МГАПИ, 2002. С. 80-81.

4. Паронджанов С.С., Матюхин Д.А. Разработка модуля семантической интерпретации языка взаимодействия системы «ИМВИА»//Научная сессия МИФИ-2004. Сборник научных трудов. В 15 томах. М.:МИФИ, 2004. Т.З. С. 92-94.

5. Берзин В.Ю., Паронджанов С.С. Применение интеллектуальных агентов для решения ресурсных конфликтов//Научная сессия МИФИ-2005. Сборник научных трудов. В 15 томах. М.:МИФИ, 2005. Т.З. С. 202-203.

6. Рыбина Г.В., Паронджанов С.С., Берзин В.Ю. Использование многоагентного подхода при построении систем инвестиционного планирования//Научная сессия МИФИ-2007. Сборник научных трудов. М.:МИФИ, 2007. Т.З. С. 135-136.

7. Паронджанов С.С. Перспективы применения многоагентных систем для решения задач контроля состояния химически опасных объектов города Москвы//Научная сессия МИФИ-2008. Сборник научных трудов. В 15 томах. М.:МИФИ, 2008. Т.10. С. 205-206.

8. Паронджанов С.С. Прототип многоагентной системы контроля состояния химически опасных объектов города Москвы//Современные технологии в задачах управления, автоматики и обработки информации. Труды ХУП Международного научно-технического семинара. СПБ.: ГУАП, 2008. С. 59-60.

9. Рыбина Г.В., Паронджанов С.С. Общая модель взаимодействия интеллектуальных агентов и методы ее реализации/Юдиннадцатая национальная конференция по искусственному интеллекту с международным участием (КИИ 2008). Труды конференции. М.: ЛЕНАНД, 2008. Т.2. С. 382-390.

10. Рыбина Г.В., Паронджанов С.С. Модели, методы и программные средства поддержки взаимодействия интеллектуальных агентов//Информационные технологии и вычислительные системы. 2008. №3. С. 22-29.

Подписано в печать 19.11.2008 г.

Печать трафаретная

Заказ № 1258 Тираж: 100 экз.

Типография «11-й ФОРМАТ» ИНН 7726330900 115230, Москва, Варшавское ш., 36 (499) 788-78-56 www.autoreferat.ru

Оглавление автор диссертации — кандидата технических наук Паронджанов, Сергей Сергеевич

СПИСОК СОКРАЩЕНИЙ.

ВВЕДЕНИЕ.

1. ОСОБЕННОСТИ ПОСТРОЕНИЯМНОГОАГЕНТНЫХ СИСТЕМ И ИНТЕЛЛЕКТУАЛЬНЫХ АГЕНТОВ.

1.1. Области применения и требования, предъявляемые к многоагентным системам и интеллектуальным агентам.

1.1.1. Области применения многоагентных систем.

1.1.2. Требования к многоагентным системам и интеллектуальным агентам.10 —

1.2. Модели и архитектуры интеллектуальных агентов.

1.2.1. Онтологии моделей и архитектур интеллектуальных агентов.

1.2.2. Модели интеллектуальных агентов.

1.2.3. Архитектуры интеллектуальных агентов.

1.2.4. Сравнительный анализ архитектур интеллектуальных агентов.

1.2.5. Сопоставление моделей агентов и архитектур.

1.3. Взаимодействие интеллектуальных агентов в многоагентных системах.

1.3.1. Модели и методы взаимодействия агентов.

1.3.2. Взаимодействие программных систем с конечными пользователями.

1.3.3. Сравнение моделей взаимодействия интеллектуальных агентов.

1.3.4. Языки взаимодействия агентов в многоагентных системах.

1.4. Инструментальные средства проектирования агентов и MAC.

1.4.1. Требования, предъявляемые к языкам и инструментальным средствам построения агентов.

1.4.2. Среды разработки агентов и MAC.

1.5. Постановка задачи диссертационного исследования.

Выводы.

2. ТЕОРЕТИЧЕСКИЕ ОСНОВЫ ОРГАНИЗАЦИИ ВЗАИМОДЕЙСТВИЯ" ИНТЕЛЛЕКТУАЛЬНЫХ АГЕНТОВ И ПОСТРОЕНИЯ СИСТЕМЫ, ИМИТАЦИОННОГО МОДЕЛИРОВАНИЯ.

2.1. Модель интеллектуального агента.

2.1.1. Модель представления планов участников взаимодействия.

2.1.2. Метод расчета продолжительности решения задачи.

2.2. Проблемная область.

2.3. Глобальная структура диалога.72"

2.3.1. Алгоритм выбора задач, решение которых требуется для достижения цели.

2.4. Тематическая структура диалога.

2.4.1. Алгоритм выявления взаимосвязей с задачами других агентов.

2.4.2. Методы составления совместного плана.

2.4.3. Методы выполнения совместного плана.

2.5. Локальная структура диалога.

2.5.1. Алгоритм построения последовательности коммуникативных действий агентов.

2.6. Языки взаимодействия агентов.

2.7. Построение имитационной модели процессов взаимодействия интеллектуальных агентов.

2.7.1. Формальное описание имитационной модели взаимодействия.

2.7.2. Особенности имитационного моделирования взаимодействия агентов в среде G2.

2.7.3. Построение сценария имитационного эксперимента.

Выводы.

3. ПОСТРОЕНИЕ СИСТЕМЫ,ИМИТАЦИОННОГО МОДЕЛИРОВАНИЯ ПРОЦЕССОВ ВЗАИМОДЕЙСТВИЯМНТЕЛЛЕКТУАЛЬНЫХ АГЕНТОВ.

3.1. Особенности проектирования архитектуры системы имитационного моделирования процессов взаимодействия агентов.

3.1.1. Архитектура подсистемы задания параметров моделирования.

3.1.2. Архитектура агента.

3.1.3. Архитектура планировщика.

3.1.4. Архитектура подсистемы доставки и обработки сообщений.

3.1.5. Архитектура подсистемы анализа результатов и хранения статистики.

3.2. Реализация системы имитационного моделирования процессов взаимодействия интеллектуальных агентов.

3.3. Реализация алгоритмов работы с моделями.

3.3.1. Реализация алгоритма планирования.'.

3.3.2. Реализация алгоритма координации.

3.3.3. Реализация алгоритма формирования последовательности коммуникативных действий на основе локальной структуры диалога.

3.3.4. Реализация алгоритма выбора задач, необходимых для достижения цели.

3.4. Реализация подсистемы доставки п обработки сообщений.

3.4.1. Компонент «Мост».

3.4.2. Компонент «Транслятор».

3.4.3. Компонент «Обработчик сообщений пользователя».

3.4.4. Компонент «Имя Машины».

3.4.5. Компонент «Сервер Имен».

3.4.6. Компонент «Отправитель».

3.4.7. Компонент «Приемник».

3.4.8. Компонент «Обработчик сообщений».

3.4.9. Компонент «Интерфейс пользователя».

3.4.10. Обработка ошибок.

3.5. Реализация пользовательского интерфейса системы имитационного моделирования процессов взаимодействия агентов.

3.6. Описание элементов меню основных классов.

3.7. Технические характеристики программного обеспечения.

Выводы.

4. АПРОБАЦИЯ И ВНЕДРЕНИЕ РАЗРАБОТАННЫХ МОДЕЛЕЙ, МЕТОДОВ И ПРОГРАММНЫХ СРЕДСТВ.

4.1. Прототип MAC управления инвестиционными проектами.

4.2. Прототип MAC для решения задач контроля состояния химически опасных объектов города Москвы.

4.3. Прототип MAC оперативного биллинга.

4.4. Прототип MAC «Транспортный паспорт региона».

4.5. Демонстрационный прототип MAC управления силами и средствами объектовой охраны.

Выводы.

Введение 2008 год, диссертация по информатике, вычислительной технике и управлению, Паронджанов, Сергей Сергеевич

Актуальность темы. Многоагентные системы (MAC) - это новая технология, формируемая на стыке искусственного интеллекта (ИИ), общей теории систем, информационных и телекоммуникационных технологий. Разработка технологии создания MAC представляет собой одну из наиболее важных и многообещающих областей развития интеллектуальных информационных технологий.

Актуальность распределенного ИИ и MAC определяется сложностью современных организационных и технических систем, разнообразием, сложностью и распределенностью решаемых задач, огромными объемами потоков информации и высокими требованиями к времени обработки информации. Централизованное управление в них становится неэффективным из-за того, что слишком много времени тратится на передачу в центр информации и принятие соответствующих решений. Агентно-ориентированный подход находит широкое применение в различных областях, требующих решения сложных распределенных задач, таких как совмещенное проектирование изделий, реинжиниринг бизнеса и построение виртуальных предприятий, имитационное моделирование интегрированных производственных систем и электронная торговля, организация работы коллективов роботов и распределенная (совмещенная) разработка компьютерных программ.

Теоретические исследования в области MAC ведутся в основном по следующим направлениям: теория агентов; коллективное поведение агентов; архитектура агентов и MAC; методы, языки и средства коммуникации агентов; языки реализации агентов; средства поддержки миграции агентов по сети. В практических задачах построения MAC определяющее значение имеют инструментальные средства и языки построения таких систем, представляющие собой многослойную структуру, включающую пять слоев: языки реализации агентов и MAC; языки коммуникации агентов; языки описания поведения агентов и законов среды; языки, представления и управления знаниями; языки формализации и спецификации агентов и MAC. Значительный вклад в исследования в области MAC и интеллектуальных агентов внесли отечественные ученые Д.А. Поспелов, Г.С. Осипов, Э.В. Попов, M.JI. Цетлин, В.И. Городецкий, И.В. Котенко, Г.В. Рыбина, П.О. Скобелев, А.В. Смирнов, B.JI. Стефанюк, В.Б. Тарасов, В.Ф. Хорошевский и другие, а также целый ряд зарубежных ученых М. Вулдридж, И. Демазо, Н. Дженнингс, Т. Кинни, П. Маэс, Ж.-П. Мюллер, Ж. Фербе, Б. Хейес-Рот, К. Хьюитт, К. Цетнарович и др.

Наибольшую сложность в теоретических исследованиях и практических реализациях современных MAC представляют вопросы, связанные с процессами взаимодействия агентов при коллективном решении задач реальной практической сложности и значимости, поскольку каждый агент, решающий конкретную подзадачу, имеет лишь частичное представление об общей задаче и должен постоянно взаимодействовать с другими агентами. Однако, именно процессы взаимодействия агентов, особенно интеллектуальных агентов, являются наименее изученными и исследованными в контексте MAC, что объясняется: наличием неформальных описаний семантики и прагматики языков взаимодействия агентов, практическим отсутствием моделей диалогов/полилогов агентов, логически несовместимыми сценариями коммуникации, обилием разнородных компонентов обработки сообщений и т.д.

Поэтому проблема построения моделей взаимодействия интеллектуальных агентов в MAC является в настоящее время наиболее актуальной в теории и технологии MAC.

Цель исследований. Целью диссертации является исследование и разработка моделей, методов и программных средств организации взаимодействия интеллектуальных агентов в MAC.

Для достижения поставленной цели в диссертации решены следующие основные задачи.

1. На основе анализа существующих подходов к построению современных MAC и исследованию организации взаимодействия между интеллектуальными агентами впервые построены онтологии моделей и архитектур интеллектуальных агентов и MAC, с учетом специфики процессов взаимодействия агентов.

2. Проведен эволюционный анализ опыта исследований и разработок в области человеко-машинных интерфейсов на естественном языке и интеллектуальных диалоговых систем и выбрана базисная модель общения, позволяющая- в отличие от традиционных моделей коммуникаций агентов поддерживать достаточно сложные процессы взаимодействия агентов за счет учета знаний о проблемной области (ПрО), языке, структуре диалога и коммуникативной среде.

3. Построена универсальная модель взаимодействия интеллектуальных агентов и предложены оригинальные методы и алгоритмы реализации всех компонентов модели.

4. Разработаны модели интеллектуальных агентов, модели и методы, взаимодействия интеллектуальных агентов в MAC и способы их настройки на различные среды.

5. Выполнен анализ системных требований и проектирование инструментальных программных средств поддержки построения архитектур агентов и организации их взаимодействия.

6. Разработаны инструментальные программные средства системы имитационного моделирования взаимодействия интеллектуальных агентов (система ИМВИА).

7. Проведена экспериментальная апробация предложенных моделей, методов, архитектур и разработанных инструментальных программных средств для различных ПрО, в том числе в виде прототипов MAC для задач контроля состояния химически опасных объектов, оперативного биллинга, инвестиционного планирования и др.

Объект исследования. Объектом исследования являются интеллектуальные агенты и MAC.

Предмет исследования. Предметом исследования являются модели взаимодействия и архитектуры интеллектуальных агентов в MAC.

Методы исследования. Для решения поставленных задач в диссертации использованы методы ИИ (модели и методы представления и обработки знаний, методы инженерии знаний), имитационное моделирование, теория множеств, теория графов, теория построения трансляторов, технология разработки программного обеспечения.

Научная новизна результатов работы. В диссертации получены следующие новые результаты.

1. Предложены методы и алгоритмы построения модели взаимодействия интеллектуальных агентов в MAC, расширяющей возможности традиционных моделей коммуникации агентов за счет учета знаний о ПрО и языке взаимодействия, ПрО других агентов, а также знаний о структуре взаимодействия на глобальном, тематическом и локальном уровнях.

2. На основе развития HTN-формализма предложена расширенная модель представления планов агента, дополненная введением в описание вершин сети функций качества, а также разработаны оригинальные алгоритмы планирования, координации, разрешения конфликтов, построения последовательности коммуникативных действий агентов и определения совокупности задач, решение которых требуется для достижения цели взаимодействия.

3". Предложены оригинальные методы представления и реализации тематической и локальной структуры диалога/полилога интеллектуальных агентов на основе использования эвристических моделей решения типовых задач и формализма раскрашенных сетей Петри.

4. Впервые исследована и показана возможность применения методов имитационного моделирования, обеспечивающих поддержку процессов взаимодействия интеллектуальных агентов в MAC, как основного инструмента концептуального проектирования и прототипирования сложных объектов.

5. Разработаны инструментальные программные средства системы имитационного моделирования процессов взаимодействия интеллектуальных агентов (система ИМВИА) и методические рекомендации по их применению, на основе которых построены прототипы MAC для различных ПрО.

Практическая значимость результатов* работы. Практическая значимость результатов диссертации непосредственно связана с созданием новой технологии 21-го века - технологии MAC, поскольку разработка мощных архитектур интеллектуальных агентов и обеспечение эффективных процессов коммуникации агентов являются наиболее важными задачами при разработке любой MAC для таких практически значимых задач как распределенное проектирование изделий, моделирование интегрированных производственных систем, реинжиниринг бизнеса, организация работы коллектива роботов, Интернет-приложения и т.п.

Апробация разработанных моделей, методов и инструментальных программных средств при создании нескольких прототипов MAC для различных ПрО (телекоммуникации, мониторинг химически опасных объектов, инвестиционное планирования, и др.) подтвердила практическую значимость результатов диссертации. На защиту выносятся.

1. Модель взаимодействия интеллектуальных агентов в MAC.

2. Методы и алгоритмы реализации всех компонентов модели взаимодействия интеллектуальных агентов.

3. Комплекс инструментальных программных средств имитационного моделирования процессов взаимодействия интеллектуальных агентов (система ИМВИА).

Достоверность полученных результатов. Достоверность научных результатов подтверждена экспериментальными данными проведенного тестирования разработанных программных средств, а также соответствующими актами о внедрении и использовании результатов диссертации.

Апробация работы. Основные положения и результаты диссертации докладывались и обсуждались на следующих научных конференциях и семинарах: «8-ая Национальная конференция по искусственному интеллекту - КИИ-2002» (Коломна, 2002); «11-ая Национальная конференция по искусственному интеллекту - КИИ-2008» (Дубна, 2008); Международный научно-технический семинар "Современные технологии в задачах управления, автоматики и обработки информации" (Алушта, 2000-2002, 2005, 2008); «Научная сессия МИФИ» (Москва, 2002-2008).

Реализация результатов работы. Результаты диссертации использовались в НИР, выполненных при поддержке РФФИ (проекты № 00-01-00679, № 03-01-00924, № 06-0100242) в лаборатории "Системы искусственного интеллекта" кафедры Кибернетики МИФИ и в учебном процессе для практической поддержки курса «Динамические интеллектуальные системы» на кафедре Кибернетики МИФИ.

Результаты диссертационного исследования также использованы при разработке ряда прототипов MAC, в частности: MAC оперативного биллинга, MAC для решения задач контроля состояния химически опасных объектов г. Москвы, MAC управления инвестиционными проектами, MAC управления силами объектовой охраны.

Публикации. Основные результаты диссертации опубликованы в 17 печатных работах, в том числе одна статья в журнале, включенном ВАК РФ в перечень ведущих рецензируемых научных журналов и изданий.

Структура и объём работы. Диссертация состоит из введения, четырёх разделов, заключения, списка использованной литературы (102 наименования) и 6 приложений. Основная часть диссертации содержит 135 страниц машинописного текста, включая 55 рисунков, 16 таблиц.

Заключение диссертация на тему "Модели, методы и программные средства организации взаимодействия интеллектуальных агентов"

Выводы

1. Проведена апробация предложенных моделей, методов и разработанных инструментальных программных средств при создании нескольких прототипов MAC.

2. Проведенные эксперименты показали возможность использования разработанных моделей, методов и программных средств при проектировании и реализации промышленных MAC и их отдельных компонентов для различных ПрО.

3. Разработанный прототип MAC управления силами и средствами объектовой охраны использовался в качестве системы-тренажера по технологии моделирования компонентов MAC по курсу «Динамические интеллектуальные системы», читаемого на кафедре Кибернетики МИФИ

4. Разработанные модели, методы и результаты прототипирования использовались в проектировании и разработке системы контроля и передачи данных о состоянии химически опасных объектов «Объект-округ», автоматизированной системы управления инвестиционным планированием, системы оперативного биллинга, а также макета информационно-аналитической системы «Транспортный комплекс региона» .

Заключение

В диссертации представлены материалы, посвященные решению актуальной научной проблемы, связанной с созданием нового класса динамических интеллектуальных систем - многоагентных систем (MAC) для задач реальной практической сложности и значимости. В центре внимания работы находились проблемы, которые до настоящего времени мало исследовались в отечественной и зарубежной практике разработки MAC ввиду их достаточной сложности и неформализованное™, поскольку вопросы организации взаимодействия интеллектуальных программ-агентов в процессе коллективного решения задач затрагивают целый ряд задач из смежных областей (теория речевых актов, когнитология, психология, планирование и т.д.).

Выдвинутые и защищаемые основные научно-технические результаты, полученные в диссертации, заключаются в следующем:

1. В результате совместного использования методов инженерии знаний, интеллектуальных диалоговых систем и информационного подхода впервые проведены анализ и обобщение моделей и архитектур интеллектуальных агентов и исследованы особенности процессов взаимодействия агентов при коллективном решении задач в MAC.

2. На основе эволюционного развития, формальной спецификации и расширения, компонентов выбранных базисных моделей взаимодействия агентов предложены методы и алгоритмы их реализации с целью построения модели взаимодействия агентов, учитывающей такие факторы как зависимость структуры диалога/полилога от решаемых в ходе взаимодействия задач (тематическая структура диалога), текущего контекста диалога (локальная структура диалога), специфика языка взаимодействия агентов и др.

3. Предложена оригинальная модель интеллектуального агента, отличающаяся тем, что позволяет представлять агента как участника взаимодействия, обладающего знаниями о языке взаимодействия и ПрО других агентов, а также знаниями о структуре взаимодействия на глобальном, тематическом и локальном уровнях.

4. На основе развития HTN-формализма предложена расширенная модель представления планов агента, дополненная введением в описание вершин сети функций качества, что позволяет осуществлять процесс планирования как максимизацию функции качества корневой вершины, а также разработаны оригинальные алгоритмы планирования, координации, разрешения конфликтов, построения последовательности коммуникативных действий агентов и определения совокупности задач, решение которых требуется для достижения цели взаимодействия.

5. Предложены оригинальные методы представления и реализации тематической и локальной структуры диалога/полилога агентов на основе использования эвристических моделей решения типовых задач и формализма раскрашенных сетей Петри.

6. Впервые показаны целесообразность и эффективность применения методов имитационного моделирования как основного инструмента концептуального проектирования и прототипирования оригинальных объектов проектирования типа программных компонентов, обеспечивающих поддержку процессов взаимодействия агентов в MAC (включая архитектуру агента), а также разработаны язык описания сценариев имитационных экспериментов и средства его реализации в среде G2.

7. На основе предложенных в диссертации моделей, методов и алгоритмов разработаны инструментальные программные средства для системы имитационного моделирования процессов взаимодействия агентов (ИМВИА).

8. Проведена апробация предложенных моделей, методов и разработанных инструментальных программных средств при создании нескольких прототипов MAC (для решения задач контроля состояния химически опасных объектов г. Москвы, для проектирования и разработки MAC управления инвестиционными проектами и др).

9. Проведенные эксперименты показали возможность использования разработанных моделей, методов и программных средств при проектировании и реализации промышленных MAC и их отдельных компонентов для различных ПрО.

Библиография Паронджанов, Сергей Сергеевич, диссертация по теме Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

1. Тарасов В.Б. От многоагентных систем к интеллектуальным организациям: философия, психология, информатика//М.: Эдиториал УРСС (Науки об искусственном), 2002. 352 с.

2. Jennings N., Wooldridge М. Applications of Agent Technology//In N. R. Jennings and M. Wooldridge, editors, Agent Technology: Foundations, Applications, and Markets. Springer-Verlag, March 1998. 325 p.

3. Laffey Т., Cox P., Schmidt J., Kao S., Read J„ Real-time knowledge-based systems/Ml Magazine, 1988. 9(1). P. 27-45.

4. Городецкий В.И, Грушинский М.С, Хабалов А.С. Многоагентные системы//Новости искусственного интеллекта. 1998. № 2. С. 64-116.

5. Wooldridge М. Intelligent Agents// In G. Weiss, editor: Multiagent Systems, The MIT Press, April 1999. 51 p.

6. Shoham Y., Tannenholtz M. On Social Laws for Artificial Agent Societies: Off-Line Design//Artificial Intelligence. 1995. Vol.73, №1/2. P.231-252.

7. Гаврилова T.A., Хорошевский В.Ф. Базы знаний интеллектуальных систем//СПб.: Питер, 2001. 382 с.

8. Рыбина Г.В., Берзин В.Ю., Ельцов А.С., Митусов А.Ю., Павлов А.О. Имитационное моделирование интеллектуальных агентов средствами системы С2//Научная сессия МИФИ-2002. Сборник научных трудов. В 14 томах. М.:МИФИ, 2002. Т.З. С. 105-106.

9. Тарасов В.Б. Агенты, многоагентные системы, виртуальные сообщества: стратегическое направление в информатике и ИИ//Новости искуственного интеллекта. М.: РАИИ, 1998. №2. С.5-63

10. Emerson Е. A. Temporal and modal logic//In J. van Leeuwen, editor, Handbook of Theoretical Computer Science: Volume B, Formal Models and Semantics, Elsevier Science Publishers and MIT Press, Amsterdam and Cambridge, MA, 1990. P. 995-1072.

11. J. M. Jones. Introduction to Decision Theory//Richard D. Irwin, Inc., Homewood, Illinois, 1977. 369 p.

12. Antonisse J. and Wechsler H. Integrating perception, action and learning//SIGART Bulleting 2, 1991. P. 25-28.

13. Muller, J.P., Pischel M., Thiel M. Modeling Reactive Behaviour in Vertically Layered Agent Architectures // Intelligent Agents / Ed. By M. Wooldridge and N.R. Jennings. Berlin: Springer-Verlag. 1995. P. 261-276.

14. Carbonell, J. G., Knoblock, C. A., Minton, S. PRODIGY: An Integrated Architecture for Prodigy//In K. VanLehn (ed.), Architectures for Intelligence, Lawrence Erlbaum Associates, Hillsdale, N.J. 1991. P. 241-278

15. Brooks, R. A. Intelligence without representation//Artificial Intelligence, 1987. 47. P. 139159.

16. Langely, P., McKusick, K.B., Allen, J.A.,Iba, W.F., Thompson, K. A design for the ICARUS Architecture//SIGART Bulletin 2, 1991. P. 104-109.

17. Hayes-Roth B. Making intelligent systems adaptive/УК. VanLehn (ed.), Architectures for Intelligence, Lawrence Erlbaum Associates, Hillsdale, NJ, 1991. P. 301-321.

18. Collins, G., Birnbaum, L, Kurwich, B. and Freed, M. Model-based integration of planning and learning//SIGART Bulletin 2, 1991. P. 56-60.

19. Vere, S. Organization of the Basic Agent//SIGART Bulletin 2, 1991. P. 151-155.

20. Drummond, M., Bresina, J., Kedar, S. The entropy reduction engine: Integrating planning, scheduling, and controV/SIGART Bulletin 2, 1991. P. 61-65.

21. Schoppers, M. Universal Plans for Reactive Robots in Unpredictable Environments//Proc. of the IEEE. Vol. 77, No. 1. (January). 1987. P. 81-98.

22. Гаазе-Рапопорт М.Г., Поспелов Д.А. От амебы до робота: модели поведения//М.:Наука. 1987. 286 с.

23. Holland J. Н. Adaptation in Natural and Artificial Systems//Ann Arbor: The Univercity of Michigan Press, 1992. 228 p.

24. Barbucheanu M., Fox M.S. The Architecture of Agent Building Shell//IBM Centre for Advanced Studies Conference archive Proceedings of the 1995 conference of the Centre for Advanced Studies on Collaborative research. Canada. 1995. lip.

25. Moffat D., Frijda N. H. Where there's a WILL there's an Agent//Intelligent Agents — Theories, Architecture and Languages. Berlin: Springer, 1994. P 245-260.

26. Simon, H. Cognitive Architectures in a rational analysis: comment//In K. VanLehn (ed.), Architectures for Intelligence, Lawrence Erlbaum Associates, Hillsdale, N.J. 1991. P. 25-39.

27. Newell A. Unified Theories of Cognition//Harvard University Press. Cambridge, Massachusetts. 1990. P.17-36.

28. Попов Э.В., Общение с ЭВМ на естественном языке// М.:Наука, 1982. 360 с.

29. Преображенский А.Б., Рыбипа Г.В. Архитектура и принципы построения интеллектуальных диалоговых систем//М.: МИФИ, 1989. 80 с.

30. Дракин В.И., Попов Э.В., Преображенский А.Б., Общение конечных пользователей с системами обработки данных//М.: Радио и Связь, 1988. 288 с.

31. Рыбина Г.В., Естественно-языковая система для автоматизации расчетных работ в САПР и АСУ ТП//Прикладные и экспериментальные лингвистические процессоры. Новосибирск: ВЦ СО АН СССР, 1982. С. 60-75.

32. Muller J.P. A Cooperation Model for Autonomous Agents//Proceedings of the Third International Workshop on Agent Theories, Architectures, and Languages (ATAL96), Budapest, Hungary, 1996, P. 135-147.

33. Barbuceanu M., Fox M. S. Conflict Management with a Credibility/Deniability Model//In S. Lander Proceedings of AAAI-94 Workshop on Models of Conflict Management for Cooperative Problem Solving, AAAI Technical Report, 1994. 17 p.

34. Рыбина Г.В. Основы теории и технологии построения интеллектуальных диалоговых систем//Курс лекций. М.: МИФИ, 2005. 132 с.

35. Рыбина Г.В., Петухов Д.М. Модель взаимодействия интеллектуальных агентов//Труды Международной научно-практической конференции KDS-2001 "Знание-Диалог-Решение". С.-Петербург: СЗГЗТУ, 2001. Т.2. С.548-553.

36. Рыбина Г.В., Модель диалога в естественно-языковой системе ДИСАР// Автоматизированная информационная технология, М.: Издат-во «Энергоатомиздат», 1990. С. 29-36.

37. Преображенский А.Б., Рыбина Г.В., Хорошевский В.Ф., Генерация многоцелевых интеллектуальных вопрос-ответных систем//Изв. АН СССР. Техническая кибернетика. 1979. №6. С. 142-151.

38. Койт М. Управление процессом общения в диалоговой системе//Труды международного семинара Диалог'99. В 2 томах. Таруса, 1999. Т. 2. С. 124-129.

39. Labrou Y., Finin Т., A proposal for a new KQML specification//TR CS-97-03. February 3, 1997. 46 p.

40. Genesereth M., Fikes E. Knowledge Interchange Format, Version 3.0//Refcrence Manual, Computer Science Department. Stanford University, Technical Report Logic-92-1. June 1992. 165 p.

41. Finnin Т., McKay D., Fritzson R. An overview of KQML: A knowledge query and manipulation language//The DARPA Knowledge Sharing Initiative External Interfaces Working Group 1992. 34 P.

42. Питц-Моултис H., Кирк 4., XML//CII6.: БХВ-Петербург, 2001. 736 с.

43. Barbosa, Fernanda, Cunha, Jos. A coordination language for collective agent based systems: GroupLog//ACM Symposium on Applied computing SAC'2000 Villa Olmo, Como, Italy, 2000. P. 189-195.

44. Паронджанов С.С., Егоров М.В. Особенности реализации транслятора языка KIF//HoBbie информационные технологии. Тезисы докладов VIII международной студенческой школы-семинара. М.: МГИЭМ, 2000. С. 17.

45. Erol К., Hendler J., Nau D. HTN planning: Complexity and expressiv-ity//In Proceedings of the 12th National Conference on Artificial Intelligence (AAAI-94). 1994. P. 94-173.

46. Erol K., Hendler J., Nau D. UMCP: A sound and complete procedure for hierarchical task-network planning//In Proc. 2nd Intl. Conf. on A.I. Planning Systems, June 1994. P. 249-254.

47. Рыбина Г.В., Использование методов имитационного моделирования при создании интегрированных экспертных систем реального времени//Известия РАН. Теория и системы управления. №5. 2000. С. 182-191.

48. Рыбина Г.В. Автоматизированное построение баз знаний для интегрированных экспертных систем // Известия РАН. Теория и системы управления. 1998. №5. С. 152-166

49. Рыбина Г.В. Теория и технология построения интегрированных экспертных систем. М.: ООО Издательство «Научтехлитиздат», 2008. 482 с.

50. Дж. Питерсон. Теория сетей Петри и моделирование систем//Пер. с англ., М.: Мир, 1984. 264 с.

51. Woods W.A. Transition Network Grammars for Natural Language Analysis//Communications of the Association for Computing Machinery. 1976. 13(10). P. 591— 606.

52. Casey B.E., Dasarathy M. Modelling and Validating the Man-mashine Interface//Software Practice and Experience. 1982. Vol. 12, № 6. P. 557-569.

53. Емельянов B.B., Ясиновский С.И. Введение в интеллектуальное имитационное моделирование сложных дискретных систем и процессов. Язык РДО//М.: АВИК, 1998. 427 с.

54. Берзин В.Ю., Паронджанов С.С., Матюхин Д.А. Способ семантической интерпретации языка взаимодействия интеллектуальных агентов системы «ИМВИА»//Научная сессия МИФИ-2003. Сборник научных трудов. В 14 томах. М.: МИФИ, 2003. Т.З. С. 170-171.

55. Паронджанов С.С., Матюхин Д.А. Разработка модуля семантической интерпретации языка взаимодействия системы «ИМВИА»//Научная сессия МИФИ-2004. Сборник научных трудов. В 15 томах. М.:МИФИ, 2004. Т.З. С. 92-94.

56. Берзин В.Ю., Паронджанов С.С. Применение интеллектуальных агентов для решения ресурсных конфликтов//Научная сессия МИФИ-2005. Сборник научных трудов. В 15 томах. М.: МИФИ, 2005. Т.З. С. 202-203.

57. Рыбина Г.В., Берзин В.Ю., Митусов А.Ю. Об одном подходе к имитационному моделированию интеллектуальных агентов//Научная сессия МИФИ-2003. Сборник научных трудов. В 14 томах. М.: МИФИ, 2003. Т.З. С. 56-57.

58. Keith S. Decker and Victor R. Lesser. Quantitative modeling of complex computational task cnvironments//In Proceedings of the Eleventh National Conference on Artificial Intelligence, , Washington, July 1993. P. 217-224.

59. Alan Garvey, Marty Humphrey, and Victor Lesser. Task interdependencies in design-to-time real-time scheduling//In Proceedings of the Eleventh National Conference on Artificial Intelligence, Washington, July 1993. P. 580-585.

60. Попов Э.В., Фоминых И.Б., Кисель Е.Б., Шапот М.Д. Статические и динамические экспертные системы// Москва: "Финансы и статистика", 1996. 320с.

61. Рыбина Г.В., Петухов Д.М., Берзин В.Ю. О некоторых подходах к построению многоагентных систем//Научная сессия МИФИ-2000. Сборник научных трудов. М.: МИФИ, 2000. Т.З. С. 97-98.

62. Рыбина Г.В., Берзин В.Ю. Модель диалога интеллектуальных агентов//Труды Международного семинара Диалог'02 по компьютерной лингвистике и её приложениям в двух томах. Под ред. А.С. Нариньяни. М.: Наука, 2002, Т.2. С.477-483.

63. Рыбина Г.В., Гриценко Ф.А. Некоторые подходы к построению модели взаимодействия интеллектуальных агентов//Научная сессия МИФИ-2001. Сборник научных трудов. М.: МИФИ, 2001. Т.З. С.144-145.

64. Матвеев А.А., Новиков Д.А., Цветков А.В. Модели и методы управления портфелями проектов//М.: ПМСОФТ, 2005. 206 с.

65. Рыбина Г.В., Берзин В.Ю., Паронджанов С.С. Перспективы применения многоагентных систем при решении задач инвестиционного плапирования//Научная сессия МИФИ-2006. Сборник научных трудов. М.: МИФИ, 2006. Т.З. С. 206-207.

66. Паронджанов С.С. Перспективы применения многоагентных систем для решения задач контроля состояния химически опасных объектов города Москвы//Научная сессия МИФИ-2008. Сборник научных трудов. В 15 томах. М.: МИФИ, 2008. Т. 10. С. 205-206.

67. Рыбина Г.В., Паронджанов С.С., Берзин В.Ю. Использование многоагентного подхода при построении систем инвестиционного планирования//Научная сессия МИФИ-2007. Сборник научных трудов. М.: МИФИ, 2007. Т.З. С. 135-136.

68. Рыбина Г.В., Паронджанов С.С. Модели, методы и программные средства поддержки взаимодействия интеллектуальных агентов//Информационные технологии и вычислительные системы.2008. №З.С.22-29.1. Интернет-источники

69. FIPA98 Specifications. Part 12. Ontology Service: http://www.cset.it/fipa

70. Retsina Agent Architecture: http://www-2.cs.emu.edu/~softagents/retsina agent arch.htm 1

71. MeeSook Hyun, Eric W. Miller, Joseph Phillips, Ryan Smith. Cognitive Architectures. University of Michigan, http://ai.eecs.umich.edu/cogarch2/index.html

72. TELESCRIPT. Object-Oriented, remote programming language: http://hopl.murdoch.edu.au/showlanguage.prx?exp;=2565&language=TELESCRIPT

73. AgentBuilder: http://www.agentbuilder.com/

74. Bee-gent, Bonding and Encapsulation Enhancement aGENT: http://www.toshiba.co.jp/rdc/beegent/

75. Distributed, Environment-Centered Agent Framework: http://www.cis.udel.edu/~decaf

76. G2 Platform: http://www.gensym.com/?p=whatitisg2

77. Инструментальные средства G2 создания экспертных систем реального времени: http ://infogoz.vimi. ru/otct/Info goz/KN6/138 .htm