автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Методы и программные средства когнитивной графики для интеллектуальных систем диагностики технологических объектов

На правах рукописи

Новосёлов Юрий Владимирович

МЕТОДЫ И ПРОГРАММНЫЕ СРЕДСТВА КОГНИТИВНОЙ ГРАФИКИ ДЛЯ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ ДИАГНОСТИКИ ТЕХНОЛОГИЧЕСКИХ ОБЪЕКТОВ

Специальность 05.13.11 - Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Москва-2009

003470793

Работа выполнена на кафедре Прикладной математики Московского энергетического института (Технического университета).

Научный руководитель: доктор технических наук, профессор

Вадим Николаевич Вагин

Официальные оппоненты: доктор технических наук, профессор

Фоминых Игорь Борисович

кандидат технических наук, доцент Башлыков Александр Александрович

Ведущая организация: Институт Системного Анализа

Российской Академии Наук

Защита состоится «26» июня_2009 г. в 18 час. 00 мин, на заседании диссертационного совета Д 212.157.01 при Московском энергетическом институте (Техническом университете) по адресу 111250, Москва, Красноказарменная ул., 14 (ауд. М-704).

С диссертацией можно ознакомиться в библиотеке Московского энергетического института (Технического университета).

Автореферат разослан « 25_» мая_2009 г.

Ученый секретарь

диссертационного совета Д 212.157.01 кандидат технических наук, доцент

М.В. Фомина

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследований. Формирование когнитивных образов для систем поддержки принятия решений (СППР) в области атомной энергетики представляет собой актуальную и вместе с тем весьма сложную проблему, возникающую при разработке систем диагностики технологических объектов. Разрабатываемые системы должны обеспечивать принятие решений в условиях неполноты и неточности информации. Актуальность рассматриваемой проблемы определяется также необходимостью повышения эффективности и упрощения формирования заключений о состоянии объекта контроля в режиме реального времени. Сложность проблемы разработки когнитивных образов состоит в том, что объекты, с которыми работают когнитивные образы, как правило, представляют собой внушительные комплексы, состоящие из множества элементов. Как следствие, системы поддержки принятия решений должны оперировать большими объёмами информации о состоянии контролируемого объекта. В связи с этим необходимо использовать различные методы обработки анализируемой информации для предоставления её лицу, принимающему решение (ЛПР), в подходящей для восприятия форме. В то же время разработка когнитивных образов, требует выполнения детального анализа предметной области и возможных вариантов поведения контролируемого объекта.

Традиционно разработка когнитивных образов производится с помощью эвристических подходов, что является сложным и длительным процессом. Для конкретной задачи разрабатывается отдельный когнитивный образ, который не предусматривает возможности повторного использования при решении других задач. Большинство методов и средств описания когнитивных образов, основанные на эвристическом построении, не дают возможности автоматически формировать когнитивный образ и не отвечают современным потребностям отрасли и уровню развития информационных технологий. К тому же, эвристические методы не обеспечивают адаптивности построенного когнитивного образа при изменении состава или структуры контролируемого объекта, с которым он работает. Возникновение новых контролируемых параметров повлечёт необходимость построения нового когнитивного образа, поскольку отсутствие формальных моделей описания когнитивных образов не позволяет провести адаптацию. В результате при повторном построении когнитивного образа потребуется заново провести анализ объекта.

Таким образом, можно сделать вывод, что задача разработки методов и программных средств создания когнитивных образов для систем поддержки принятия решений весьма остро стоит перед специалистами.

Выполненные исследования опираются на результаты работ в области искусственного интеллекта и когнитивной графики Д.А. Поспелова, В.Н. Вагина, А.П. Еремеева, A.A. Башлыкова, И.А. Башмакова, А.И. Башмакова, М.М. Бон-гарда, A.A. Зенкина, В.Л. Стефанюка, B.JI. Цетлина и др., а также зарубежных учёных T.R. Gruber, Daniel Dennett, John Searle, Jerry Fodor, Douglas Hofstadter.

В случае неполноты исходных данных решаемой задачи, когнитивный образ может утратить способность пояснения сформированного диагноза или вообще не сможет построить решение задачи. При этом необходимо применять другие

подходы к решению задачи. В качестве такого метода рассматривается муль-тиагентный подход. Для обеспечения адаптивности процедуры принятия решений к условиям среды необходимо разработать механизмы, позволяющие мультиагентной системе обучаться и в дальнейшем использовать успешный опыт формирования управляющих воздействий. В качестве базового принципа обучения был взят метод подкреплённого обучения. Значительный вклад в разработку и исследование теории агентов и методов подкреплённого обучения внесли такие ученые, как Н.М. Амосов, Д.А. Поспелов, В.Н. Вагин, В.В. Емельянов, А.П. Еремеев, В.Б. Тарасов, а также многие другие.

Объектом исследования данной работы являются системы поддержки принятия решений, основанные на использовании когнитивной графики и мультиагентного подхода.

Предметом исследования являются методы когнитивной графики и муль-тиагентный подход в системах поддержки принятия решений для задач диагностики сложных технологических объектов.

Цель работы. Целью работы является исследование и разработка методов и программных средств когнитивной графики, повышающих эффективность и расширяющих интеллектуальные возможности современных компьютерных СППР для диагностики технологических объектов.

Для достижения этой главной цели в диссертационной работе были поставлены и решены следующие основные задачи:

- проведён обзор существующих подходов к диагностике сложных технологических объектов;

- исследованы методы и модели поиска решений на основе когнитивной графики и на основе мультиагентной технологии;

- проанализированы современные методы когнитивной графики для СППР;

- разработана формальная модель описания когнитивного образа и правила описания когнитивных образов;

- разработан когнитивный образ для решения задачи диагностики подсистемы компенсации давления (КД) ВВЭР, на основе формального описания модели и правил;

- разработан мультиагентный подход для решения задачи диагностики подсистемы компенсации давления ВВЭР, основанный на методе подкреплённого обучения;

- создан программный продукт, реализующий разработанные подходы, использующие когнитивную графику, и мультиагентный подход;

- проведены вычислительные эксперименты и тестирование разработанного программного продукта.

Методы исследования. Поставленные задачи решаются с использованием методов математической логики, искусственного интеллекта, когнитивной графики, мультиагентной технологии, методов подкреплённого обучения и теории языков программирования.

Достоверность результатов. Обоснованность и достоверность научных положений, методов и выводов подтверждается использованием методов ког-

нитивной графики, теории представления знаний, мультиагентных технологий, методов подкреплённого обучения, данными компьютерного моделирования, а также результатами вычислительных экспериментов с помощью разработанного программного комплекса.

Научная новизна. Новые результаты, полученные в работе, заключаются в следующем:

1. предложена формальная модель представления когнитивных образов, обладающая общностью описания и ориентированная на компьютерное представление;

2. предложен когнитивный образ для решения задачи диагностики подсистемы компенсации давления ВВЭР;

3. разработана модификация алгоритма подкреплённого обучения, позволяющая существенно сократить пространство поиска решения;

4. разработана архитектура системы поиска решений на основе мультиа-гентного подхода с использованием подкреплённого обучения для решения задачи диагностики подсистемы компенсации давления ВВЭР.

Практическая ценность.

Практическая значимость работы заключается в решении задачи диагностики сложного технологического объекта с использованием когнитивной графики и мультиагентной технологии. Создан программный комплекс 8по\уЯаке в составе системы поддержки принятия решений «СПРИНТ-РВ», предназначенной для диагностики реакторного блока атомной станции. В программном комплексе достигнуто существенное улучшение отображения состояния контролируемого объекта на основе использования когнитивной графики. Также реализован метод диагностики подсистемы компенсации давления, базирующийся на мультиагентном подходе с использованием подкреплённого обучения.

Разработанный программный комплекс предназначен для решения задачи диагностики подсистемы компенсации давления водо-водяного энергетического реактора на основе методов когнитивной графики и мультиагентного подхода. Выполнены исследования разработанных алгоритмов и функционирования программного комплекса и диагностической системы БпоууАаке. Разработанный программный комплекс для диагностической системы «СПРИНТ-РВ» были установлены и внедрены в ООО «Тасмо-Бит». Тем самым решена важная научно-техническая проблема, имеющая большое значение для отрасли информационных технологий.

Результаты работы использованы в НИР, выполняемых в рамках грантов РФФИ: проект №08-07-00212-а «Исследование и разработка методов и инструментальных средств индуктивного формирования понятий в интеллектуальных системах поддержки принятия решений» (Научный руководитель д.т.н. проф. Вагин В.Н.), проект №05-07-90232-в «Исследование и разработка инструментальных средств создания экспертных систем поддержки принятия решений» (Научные руководители: д.т.н. проф. Вагин В.Н., д.т.н. проф. Еремеев А.П.)

Апробация работы. Основные результаты диссертации докладывались и обсуждались на: 9-й, 10-й, 11-й, 12-й, 13-й, 14-й научных конференциях аспирантов и студентов «Радиотехника, электроника, энергетика» в МЭИ (ТУ), г.

Москва, 2004-2009 гг.; «Научных сессиях МИФИ», г. Москва, 2003-2009 гг.; международных форумах информатизации МФИ-2004, МФИ-2005, МФИ-2006, МФИ-2007, МФИ-2008, МФИ-2009, международные конференции «Информационные средства и технологии», г. Москва, 2004-2009 гг.; конференции «Нечёткие системы и мягкие вычисления», Россия, Тверь, 20-22 сентября, 2006; X национальной конференции по искусственному интеллекту с международным участием КИИ-2006, Обнинск; XXXV юбилейной международной конференции, VI международной конференции молодых ученых, Информационные технологии в науке, образовании, телекоммуникации и бизнесе, Гурзуф, 2008; Международной научно-практической конференции «Технологии электронного обучения: возможности и перспективы.», Москва, 2007; XV Международной студенческой школе-семинаре «Новые информационные технологии». Украина, Крым, Судак, 20-27 мая, 2007; конференции «Технологии Microsoft в теории и практике программирования», Россия, Москва, 2-3 апреля 2007.

Публикации. Основные результаты, полученные при выполнении диссертационной работы, опубликованы в 27 печатных работах, включая 2 работу в изданиях, рекомендуемых ВАК.

Структура диссертационной работы. Диссертация состоит из введения, четырёх глав, заключения, списка использованной литературы (101 наименований) и приложений. Диссертация содержит 154 страницы машинописного текста (без приложений) и 47 страниц приложений.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы диссертации, её научная новизна и практическая значимость, сформулирована цель работы и приведено краткое содержание диссертации по главам.

В первой главе рассмотрены основные понятия и определения технической диагностики, приведено описание принципа диагностирования на основе модели устройств. Формулируется следующая задача диагностики. Имеется дискретный объект, состоящий из компонентов. Объект может находиться в различных состояниях: стабильных и нестабильных. Под диагностикой понимается выявление состояния объекта. Если оно нестабильное, то выполняется поиск дефекта, то есть определение компонента объекта, функционирующего нестабильно. Случай, при котором выявляется стабильность состояния объекта, называется подтверждением стабильности.

Система (1) при i=0 является математической моделью исправного объекта, а при l<i<p объект диагноза, находится в ¡-неисправном состоянии.

(.X., Утек), (1)

где р - количество неисправных состояний, А' - п-мерный вектор, компонентами которого являются значения п входных переменных хь х2,..., х„ (п - количество входных переменных); YmeK является m-мерным вектором текущих значений m внутренних переменных у, тек , угтаа..., уттек, (ш количество внутренних текущих переменных) и в моделях описания состояния объекта определяется, как YmeK = f(Y„a4, t), где t - время работы диагностируемого объекта; Ушч является]-

мерным вектором начальных значений] внутренних переменных у! тч, у2тч,... , У) иач, 0 - количество внутренних начальных переменных); У - функция, входными данными которой являются описание объекта и действие, применяемое к нему, а выходными - состояние объекта и результаты его работы; 2 - к-мерный вектор значений к выходных переменных гь ъ2, ... гк (к - количество выходных переменных). Оценка состояния технологического объекта формируется с помощью набора правил, предназначенных для построения диагноза на основе показаний датчиков диагностируемого объекта. Таким образом, Т - диагноз, выдаваемый СППР для данной конкретной ситуации. Он является результатом применения набора правил Ч* к массиву показаний датчиков.

Далее рассматриваются методы, позволяющие выполнять диагностику сложных технологических объектов, в системах поддержки принятия решений: когнитивной графики, мультиагентной технологии и подкреплённого обучения.

В главе рассматриваются основные понятия данных методов. В большинстве энциклопедических источников понятие когнитивной графики определяется, как совокупность приемов и методов образного представления условий задачи, которое позволяет либо сразу увидеть решение, либо получить подсказку для его нахождения. Под агентом понимается программная сущность, способная действовать в интересах достижения целей, поставленных пользователем. Системы, содержащие группу агентов, которые могут взаимодействовать между собой, называются мультиагентными. Подкреплённое обучение представляет класс задач, в которых автономный агент, действуя в определенной среде, должен найти оптимальную стратегию взаимодействия с ней. Информация для обучения агента предоставляется в форме награды, имеющей определенное количественное значение для каждого перехода среды из одного состояния в другое. Задача агента сводится к максимизации суммарного платежа.

Показана необходимость разработки формальной модели когнитивных образов, для описания и использования когнитивных образов в системах поддержки принятия решений.

Проведённый анализ подходов к диагностике технологических объектов показал, что наиболее перспективным является подход, предполагающий применение когнитивной графики для наглядного отражения текущей ситуации на контролируемом объекте. Учитывая сложность поставленной задачи, сделан вывод о том, что также необходимо использовать мультиагентный подход с подкреплённым обучением для выдачи управляющих рекомендаций операторам технологического объекта.

Во второй главе рассматривается процесс разработки когнитивного образа для диагностики технологического объекта. Он включает следующие основные этапы: 1) определение множества исходных данных задачи диагностики; 2) формирование набора обобщённых характеристик контролируемого объекта, которые предполагается отображать на когнитивном образе; 3) выбор метафоры для когнитивного представления характеристик контролируемого объекта. Далее рассматривается разработка формальной модели когнитивного образа. Предварительно вводится формальное описание решаемой задачи:

О = (Рь ••• , Р„, Рп+1 , •■• >Рп+т, Рп+т+1 > ••• > (2)

где О - решаемая задача, Р, - исходные параметры решаемой задачи: параметрам Pi,... , Р„ соответствуют значения параметров п входных переменных хь х2 ,..., хп формального описания задачи диагностики объекта, параметрам Pn+i, ... ,Pn+m соответствуют значения параметров m внутренних текущих переменных У1 тек > Уг тек, — , Ут тек формального описания задачи диагностики объекта, параметрам Pn+m+i, ... , Pq соответствуют значения к выходных переменных zb z2, ... zk формального описания задачи диагностики объекта.

Формальное определение когнитивного образа для решения задачи диагностики объекта имеет вид:

С1 = (ХЬХ2, ...,XN,Sh0), (3)

где CI - когнитивный образ; Sh0 - шаблон когнитивного образа в целом. X, -обобщённая контролируемая характеристика, составляемая из набора исходных параметров, l<i<N, N - количество контролируемых характеристик. Каждая такая характеристика имеет вид:

Xj = (Zj, Vi, Shi, Posi), (4)

где l<i<N:

• Zj - значение контролируемой характеристики X,. Zj=F(Pjb Pi2, ... , P,q), где F - функция преобразования набора параметров Pib Pl2, ... , PiQ диагностической системы, результатом работы которой является значение контролируемой характеристики Ън Q - количество используемых параметров диагностической системы;

• Vi - представление значения характеристики на когнитивном образе l<i<N;

• Shi — шаблон - изображение, на котором воспроизводятся контролируемые характеристики, l<i<N.

• Posi - позиция фрагмента когнитивного образа. Pos; = (PosXj , PosYj , PosZj), где PosXj - позиция по горизонтальной оси, PosYj - позиция по вертикальной оси, PosZj - позиция по оси глубины, l<i<N.

• Поскольку существуют различные варианты представления значений переменных, поле Vj является расширяемым. Предусмотрены следующие варианты представления информации с помощью значений характеристики когнитивного образа:

Vi = { Li | Cs; | Tsi | Tpi }, (5)

где:

• L; - представление контролируемой характеристики в виде совокупности из R характеристик, l<i<N: L, = (Хп, Xi2, ... , Xir), где R - количество характеристик, необходимое для представления i-й характеристики.

• Csi — цвет области когнитивного образа имеет три составляющие цвета: красный, зеленый, синий и определяется следующей тройкой: Cs; = (Rj, G], Bj), где 0<R;<255 - красная составляющая цвета, 0<Gj<255 - зелёная составляющая цвета, 0<В;<255 - синяя составляющая цвета, l<i<N.

• Tsj - изменение формы фрагмента, l<i<N. Данный параметр определяется следующим образом: Ts; = (Tsx„ Tsyi, Tsz,), где -100<Tsxj<100 - процентное соотношение сжатия или растяжения образа по горизонтальной оси; -100<Tsy¡< 100 - по вертикальной оси; -100<Tszj<100 - по оси глубины, l<i<N.

• Tp¡ - изменение местоположения фрагмента. Параметр имеет вид: Tpj = (Трх1, Тру;, Трг,), где Трх; - смещение фрагмента когнитивного образа по горизонтальной оси; Тру, - по вертикальной оси; Трг; — по оси глубины, 1<1<Ы.

В общем виде формальная модель когнитивного образа представляет собой иерархию понятий, представленную графически на рис. 1. Она позволяет описать когнитивные образы на основе их формального представления. Созданная модель оперирует наиболее широко используемыми параметрами - цвет, форма, положение фрагмента - когнитивного образа. Таким образом, созданы предпосылки для описания практически любых когнитивных образов на формальном уровне.

Далее вводится классификация операторов абстракции и рассматривается применение оператора абстракции для формирования когнитивного образа.

В главе рассматривается разработанная архитектура мультиагентной системы для диагностики технологического объекта, состоящая из следующих основных частей:

• модели виртуального технологического объекта;

• агентов наблюдения и диагностики подсистем анализа и подсистем управления технологическим объектом;

• агентов-координаторов нижнего уровня подсистем анализа и подсистем управления и их баз правил;

• центрального агента-координатора и его базы правил.

Рассматривается модель подкреплённого обучения мультиагентной системы. При взаимодействии со средой агент пользуется некоторой внутренней стратегией, направленной на максимизацию суммы платежей, получаемых им от среды за выполнение определённых действий: Рт^ = ^ ^ г'+п , где у - временной множитель скидки (0<у<1), г, -выплата на ¡-м шаге. Множитель скидки отображает, сколько уделяется внимания выплатам, которые могут встретиться в будущем. Поскольку процесс принятия решений может быть вероятностным, задача агента — найти стратегию, максимизирующую ожидаемый возврат. В роли среды для мультиагентной системы в данной работе выступает модель виртуального технологического объекта. Вначале она выполняет формирование нового состояния системы, которое наступит, в случае применения действия (А) с интенсивностью (I) к контролируемому объекту, на основе исходного состояния, характеризующегося значениями контролируемых параметров, и правил поведения контролируемого объекта, заложенных экспертами в его базу правил. Правила, определяющие поведение виртуального контролируемого объекта, заключаются в изменении характеристик системы в соответствии с

С1

X 1*1 01 Тзх^Тву^в*! Трх^ТруаТрг!

Рис. 1. Формальная модель когнитивного образа

действием и его интенсивностью относительно значений верхних и нижних уставок анализируемой характеристики. При этом отправной точкой для формирования нового значения рассматриваемой характеристики является текущее значение выбранного показателя. Полученное состояние передаётся блоку построения оценки.

Блок построения оценки выполняет построение оценки исходного и нового состояний системы. Для построения каждой оценки блок использует механизмы, позволяющие провести комплексный анализ всех параметров контролируемого объекта.

Показания каждого датчика системы передаются в соответствующую ему оценочную функцию, общий вид которой описывается формулой (6):

= , (6) где х - текущее значение контролируемой переменной; М - середина коридора верхней и нижней уставки; а - величина, характеризующая интервал, на котором построенная функция положительна, а характеризует растяжение значений функции по оси ординат (а=200), Р - характеризует смещение функции по оси ординат (Р=100). На базе данного общего вида строятся функции, характеризующие оценки для каждого из контролируемых параметров, опираясь на значения их верхних и нижних уставок, при этом М выбирается как середина данного интервала, а о определяется с тем расчётом, чтобы в граничных точках интервала функция равнялась нулю. Оценочная функция обладает следующими свойствами. Она возвращает максимальную оценку в случае попадания значения параметра в середину интервала нижних и верхних уставок каждого датчика подсистемы диагностики. Если значения контролируемого параметра находятся внутри коридора нижних и верхних уставок, то функция положительна, в противном случае - отрицательна.

По сути, данная функция представляет оценку качества показаний датчика: чем ближе показания к середине коридора уставок, тем, выше оценка.

После вычисления оценки каждого датчика, вычисляется средняя оценка каждой подсистемы датчиков (диагностики давления, уровня воды, температуры воды, температуры пара). Далее вычисляется интегральная функция оценки, как среднее арифметическое оценок всех подсистем датчиков. Аналогично вычисляется оценка полученного состояния системы.

Итак, в результате работы данного блока будут сформированы две оценки: оценка исходного и построенного состояний. Они передаются блоку формирования выплаты.

Блок формирования выплаты возвращает мультиагентной системе выплату, соответствующую выбранному ей действию. Выплата вычисляется, как половина разности оценки построенного состояния и начального состояния системы. Полученная величина передаётся агенту-координатору.

Результатом работы модели является выплата, на основе значения которой агент формирует заключение о правильности выбранного им действия и его интенсивности в рассматриваемом начальном состоянии.

В главе показан подходов к решению задач подкреплённого обучения, заключающийся в нахождении и поддержании оценочной функции состояний и действий <3(з,а), которая выражается с помощью суммарной выплаты. Оценоч-

ная функция приближает ожидаемый возврат для текущего состояния после выполнения каждого из действий, так чтотах , а')= Рт(1) = £ г"ги„, где Рш(1) - сумма платежей, получаемых агентом с текущего"момента, у - временной множитель скидки (константа между 0 и 1), г( -выплата на ¡-м шаге. Из . этого равенства и определения возврата следует:

где ц - это выплата за выполнение действия а в состоянии $1. Можно итеративно приближать оценочную функцию к оптимальной, используя алгоритм С>-обучения. Для этого надо хранить оценки всех комбинаций состояний и действий в таблице, и обновлять их на основе ощущений (б, а, г, б'), в соответствии с формулой£>(Л,а) = а\г, + /тах()(>/+),а')]+-(1 где а - скорость обучения,

которая соответствует тому, насколько агрессивно новые наблюдения включаются в приближение. Как только оценочная функция получена, определяемая ей стратегия (известная как жадная стратегия) получается выбором действия с максимальной оценкой для данного состояния, = англах а) .

Разработана модификация метода (^-обучения, позволяющая существенно сократить количество анализируемых вершин на каждом шаге построения дерева. Модификация метода основана на анализе выплаты, получаемой при построении каждого узла дерева и анализе оценки состояния модели виртуального технологического объекта в данном узле дерева. На каждом этапе построения уровня дерева решений, применяемые агентом действия (А) и их интенсивности (I) разбиваются на классы. К первому классу относятся пары (А, I), при использовании которых агентом была получена положительная выплата. Обозначим такой класс действий 5,+, 1 — иерархический индекс вершины, к которому применяются действия данного класса. Ко второму классу действий относятся пары (А, I), при использовании которых была получена отрицательная выплата. Обозначим это множество действий БГ. Также вводятся соответствующие множества БУ;+ и БУГ, содержащие вершины, которые были получены в результате применения действий из Я,* и БГ соответственно. Рассмотрим разработанный алгоритм.

Критерий отбора вершин заключается в том, что на следующем шаге построения дерева в рассмотрении участвуют только вершины, обладающие положительными выплатами и максимальными оценками состояний (7). Если множество вершин с положительными выплатами на последнем ярусе пусто, то в этом случае к каждой вершине последнего яруса вновь применяются все возможные действия (8).

* 0)& иЯ'рд))&(04 б : ф) > 0) (За е : (*,а -» У) (7)

(5Г± = 0) & (V*'е и )) & «3» 6 ): ф) < 0) -> (Эв е %) (*, (8)

где: - множество состояний (вершин) к-ого яруса, в которых были получе-

0 ,к

ны положительные выплаты; яу^ - множество состояний (вершин) к-ого яруса, в которых были получены отрицательные выплаты; - множество действий,

О,к

после применения которых были получены состояния с положительными выплатами на к-ом ярусе дерева решения; ^ - множество действий, после при-

менения которых были получены состояния с отрицательными выплатами на ком ярусе дерева решения; э - состояние дерева решения; в' - новое состояние дерева решения; а - действие, применяемое к состояниям дерева решения; г(в) -выплата, полученная в состоянии б.

Данный критерий может быть применён в разработанной модификации метода, поскольку она будет применена для решения большого класса задач (в частности задачи диагностики технологического объекта), обладающих следующим свойством: набор возможных действий в данных задачах можно разделить на две части противоположных действий (9). В большинстве состояний если система получит положительную выплату при выполнении одного действия, то противоположное действие приведёт к отрицательной выплате. (V* е и & (\/а е %) & (3*'е & У) & (ф1) > 0) (9)

н> ((Зя-б & (Э«"е ¿Го^га) & /')): (г(У) < 0) где а - прямое действие, а' - обратное к нему действие.

Поскольку количество действий и противоположных им действий одинаково, можно считать, что после выполнения всех действий как минимум в половине построенных состояний будет получена отрицательная выплата. Данные вершины и действия, приведшие к их получению, можно отбросить и не использовать в дальнейшем построении дерева решений. Поэтому в дальнейшем рассмотрении должны участвовать только те вершины дерева решений, в которых была получена положительная выплата. Также к данным вершинам должны применяться действия, приведшие к положительным выплатам. Данный принцип положен в основу разработанной модификации метода (^-обучения.

В качестве результата из множества вершин со всеми положительными оценками контролируемых параметров выбирается последовательность действий и их интенсивностей, которая привела к максимальной суммарной выплате.

В итоге, алгоритм возвращает последовательность действий, приведшую к максимальной суммарной выплате. В главе также приведён пример работы модифицированного алгоритма С-обучения.

В третьей главе вводится постановка задачи диагностики подсистемы компенсации давления атомной станции. Рассматривается предметная область применения разработанных методов. В качестве технологического объекта диагностики выбрана подсистема компенсации давления атомной станции.

Задача диагностики подсистемы компенсации давления ВВЭР заключается в проверке исправности, работоспособности и правильности функционирования объекта, а также задачи поиска дефектов, нарушающих исправность, работоспособность или правильность функционирования. Исправность компенсатора давления - состояние, при котором он соответствует всем требованиям, установленным технической документацией. Работоспособность компенсатора давления - состояние, при котором он способен выполнять все заданные ему функции с сохранением значений заданных параметров в требуемых пределах. Правильное функционирование компенсатора давления - состояние, при котором он способен выполнять в текущий момент предписанные ему алгоритмы функционирования со значениями параметров, соответствую-

щими установленным требованиям. Диагностику подсистемы компенсации давления ВВЭР предлагается осуществлять с помощью метода когнитивной графики. Для решения задачи диагностики требуется разработать когнитивный образ и создать формальное представление образа, наглядно отображающего состояние контролируемого объекта и позволяющего операторам атомной станции своевременно отслеживать изменения контролируемых параметров для предотвращения критических ситуаций.

С целью обеспечения интеллектуальной информационной поддержки оператора атомного энергоблока организацией ООО «Тасмо-Бит» разработана система «СПРИНТ-РВ», которая использует для формирования диагноза работы контролируемого объекта набор правил, описанных в Центральном научно-исследовательском институте комплексной автоматизации (ОАО «ЦНИИКА»). Диагноз, формируемый с помощью правил, предоставляется операторам в текстовом виде, что не позволяет получить целостное представление о состоянии контролируемого объекта. Также анализ информации, представленной в виде текста, требует значительных временных затрат. В связи с этим для решения задачи диагностики подсистемы компенсации давления предложен разработанный для системы «СПРИНТ-РВ» когнитивный образ. Использование когнитивного образа позволяет наглядно отобразить закономерности и принципы, заложенные в правилах ОАО «ЦНИИКА», на основе которых происходит построение диагноза. Также на образе хорошо виден набор условий, в результате которых и был сформирован определённый диагноз, что позволяет сократить временные затраты оператора атомной электростанции на выявление причин сложившейся ситуации. Входными данными правил ОАО «ЦНИИКА» являются значения контролируемых параметров подсистемы компенсации давления. С помощью последовательного применения правил выполняется построение диагноза на основе данных значений. Разработанный когнитивный образ позволяет наглядно отобразить такую взаимосвязь исходных данных и диагноза. В зависимости от значений контролируемых параметров, формируется цвет соответствующих им фрагментов когнитивного образа.

Разработанный когнитивный образ (рис. 2), позволяет производить диагностику подсистемы компенсации давления в контуре ВВЭР и наглядно представить состояние контролируемого объекта в целом, а также при необходимости отображать детальную оценку показаний каждого анализируемого параметра. Образ представляет собой фрактальное изображение кристалла. Каждый элемент изображения соответствует определённым контролируемым характеристикам подсистемы компенсатора давления. В центре кристалла расположена окружность, цвет которой отображает общее состояние диагностируемого объекта. По периметру когнитивного образа расположены окружности, которые отображают состояние соответствующих им контролируемых параметров.

Формирование цвета данных фрагментов осуществляется по следующим принципам. Если значение контролируемого параметра, соответствующего фрагменту, близко к середине коридора его верхней и нижней уставок, то соответствующий фрагмент изображения закрашивается зелёным цветом. Если значение отклонилось от середины коридора уставок, то фрагмент закрашивается жёлтым. Если значение приблизилось к значениям уставок, то оранжевым. В

том случае, если значение контролируемого параметра вышло за коридор уставок, то фрагмент закрашивается красным цветом. После формирования цвета элементов образа, соответствующих отдельным переменным, происходит построение цветового режима элементов когнитивного образа, находящихся ближе к его центру. С этой целью выполняется алгоритм, формирующий диагноз состояния КД по правилам, разработанным в ОАО «ЦНИИКА». При этом текущие значения контролируемых параметров вводятся в правила, и после запуска цепочки выполнимых правил, системой будет построен диагноз.

Все диагнозы классифицированы на четыре класса по степени стабильности работы подсистемы КД (в первом классе находятся диагнозы, соответствующие наиболее стабильному функционированию системы, в четвёртом классе - соответствующие аномальному режиму работы системы). Отрезки, отходящие от датчиков, участвующих в построении диагноза, закрашиваются в тот цвет, в который закрашены концевые датчики. Данные отрезки заканчиваются в вершинах следующего уровня. Если в эту вершину входит только один задействованный отрезок, то она закрашивается в цвет отрезка. В случае, если в вершину входят несколько задействованных отрезков, её цвет определяется в зависимости от цвета, соответствующего классу полученного диагноза. То есть при возникновении конфликта выбора цвета между ветвями нижнего уровня, выбирается цвет который ближе к цвету, соответствующему классу диагноза. Например, если в вершину входят два отрезка зелёного, и один жёлтого цвета, а диагнозу соответствует красный цвет, то вершина и исходящий из неё отрезок верхнего уровня закрашиваются в жёлтый цвет. Согласно данной методике закрашиваются все ветви вплоть до центральной окружности. Центральная окружность образа закрашивается в цвет, соответствующий классу полученного диагноза: зелёный цвет показывает стабильную работу, жёлтый цвет - отклонение от стабильной работы, оранжевый - предаварийную ситуации, красный -аварийную. При этом вершины, соответствующие задействованным в построении диагноза датчикам мигают. Остальные промежуточные вершины и ветви закрашиваются в нейтральный серый цвет. Согласно рассмотренным принципам разработан программный комплекс 8по\¥Йаке (рис. 2), предназначенный для решения задачи диагностики компенсатора давления ВВЭР.

Рис. 2. Когнитивный образ для диагностики системы компенсации давления ВВЭР в программном комплексе 8по\уАаке

Далее, в третьей главе рассмотрен алгоритм функционирования разработанной мультиагентной системы.

Входными данными для алгоритма являются показания датчиков подсистемы диагностики компенсатора давления ВВЭР. Этапы алгоритма имеют вид:

1. Мультиагентная система считывает значения показаний различных групп датчиков подсистемы компенсации давления ВВЭР. Они проходят первичную обработку агентами наблюдения и диагностики и передаются на следующий уровень мультиагентной системы.

2. Агенты-координаторы нижнего уровня осуществляют верификацию поступивших данных для каждой группы параметров. Например, группа датчиков, отражающих значение температуры КО, анализируется на согласованность соответствующим агентом-координатором. В случае выявления им рассогласования показаний датчиков, осуществляется повторный запрос значений параметров, выбивающихся из общей картины, и анализ кодов ошибок соответствующих датчиков. Также агенты-координаторы нижнего уровня формируют фрагмент левой части правил управления компенсатором давления ВВЭР, которые впоследствии будут сохранены в базе правил. Затем формирование правил продолжает центральный агент-координатор.

3. Центральный агент-координатор осуществляет поиск в базе правила с идентичным фрагментом левой части. Если такое правило найдено, то агент извлекает его и передаёт на исполнение агентам-координаторам нижнего уровня. В противном случае агент выбирает правило с наиболее близким значением фрагмента левой части и использует его в качестве отправной точки при формировании искомого правила. Общий вид правил следующий: <Б> & (А = а) & (I = 0 -> (Ргп = рш), где: Б - набор исходных данных, составленный как конъюнкция простых условий вида: Идентификатор измерительного прибора> = <показания прибора>, а - конкретное управляющее воздействие, 1 - заданная в правиле интенсивность воздействия, рт - конкретная получаемая выплата, А, I, Рш - переменные, предназначенные для хранения соответствующих значений.

3.1. Для формирования нового правила центральный агент-координатор взаимодействует с моделью виртуального компенсатора давления с целью отыскания наиболее удачной последовательности действий, которая приведёт систему в стабильное состояние, при котором все параметры находятся в их допустимых коридорах верхних и нижних уставок.

Исходными данными задачи являются показания различных датчиков подсистемы компенсации давления. Центральный агент-координатор обладает следующим набором действий, которые следует выполнять в конкретных ситуациях: увеличивать или уменьшать температуру ТЭНов в резервуаре компенсации давления; увеличивать или уменьшать расход воды, поступающей в компенсатор давления; увеличивать или уменьшать расход отводимого пара из компенсатора давления. Каждое действие может быть выполнено с различной интенсивностью имеющей числовое отражение на отрезок от 0 до 100.

3.2. Центральный агент-координатор использует найденное правило с наиболее близким к данной ситуации значением фрагмента левой части, и выполняет указанные в нём действия применительно к виртуальной модели компенсатора давления с заданной интенсивностью.

3.3. Виртуальный КД переходит в новое состояние.

3.4. Затем выполняется построение оценки исходного и полученного состояний системы.

3.5. Если новое состояние ближе к стабильному, чем исходное состояние, модель виртуального компенсатора давления возвращает положительную выплату центральному агенту-координатору. Иначе агент получает отрицательную выплату.

3.6. Если центральным-агентом координатором получена положительная выплата, то он пробует применить то же действие с большей или меньшей интенсивностью, с тем, чтобы привести виртуальный компенсатор давления наиболее стабильное состояние, а также с целью увеличения получаемой выплаты. В противном случае агент пробует применить другое действие.

3.7. Действия 3.1 - 3.6. повторяются до тех пор, пока агент не найдёт оптимальную пару (действие, интенсивность), при использовании которых в заданной ситуации им будет получена максимальная выплата.

3.8. Найденное действие, его интенсивность и полученная в случае их применения выплата объединяются с фрагментом левой части правила (исходными параметрами). Так образом создаётся новое правило управления компенсатором давления ВВЭР, которое сохраняется в базе правил. Построенное правило передаётся на нижестоящий уровень мультиагентной системы агентам-координаторам нижнего уровня.

4. Агенты-координаторы нижнего уровня формируют рекомендации по стабилизации состояния компенсатора давления, которые предоставляются оператору атомной станции. Если оператор не принимает никаких действий в течении определённого интервала времени, агент-координатор нижнего уровня передаёт выбранное действие с заданной интенсивностью на выполнение агентам нижнего уровня.

Выходными данными алгоритма являются сформированные рекомендации управляющих воздействий, а также сформированные правила управления компенсатором давления.

Данный алгоритм позволит автоматизировать процесс описания правил работы контролируемого объекта. Правила формируются мультиагентной системой с помощью методов подкреплённого обучения. Это позволяет перейти от построения продукционных правил на основе экспертных знаний к динамическому описанию контролируемого объекта. Возможная неполнота описания предметной области может быть восполнена применением методов подкреплённого обучения.

В четвёртой главе проведено описание разработанного программного комплекса Бпоуу^аИсе (рис. 2), использующего когнитивную графику для отражения текущей ситуации на контролируемом объекте и отображении диагноза данной ситуации. Также рассмотрен комплексный пример работы программного комплекса при диагностике технологического объекта.

К основным достоинствам когнитивного образа относятся: наглядное отражение параметров компенсатора давления ВВЭР; полнота отражения необходимой информации; работа в режиме реального времени без больших

вычислительных затрат; возможность отслеживания тенденций и прогнозирования развития ситуации на атомной станции; иерархичность когнитивного образа. Данный когнитивный образ может быть использован в системах поддержки принятия решений для отображения параметров рабочего тела контуров атомной станции я режиме реального времени.

В рамках данного исследования была выполнена программная реализация разработанного алгоритма подкреплённого обучения мультиа-гентной системы (рис. 3), выполняющей диагностику компенсатора давления ВВЭР.

На основной форме программы расположена таблица, в которой содержится список контролируемых переменных и их текущие значения, а также нижние и верхние уставки. После моделирования данной ситуации, программа выполняет построение оценки текущего состояния, и выдаёт пользователю диагноз данного состояния. В случае, если показания датчиков вышли за пределы коридора уставок, или возможно улучшение текущей ситуации, муль-тиагентная система начинает свою работу. Система выводит рекомендации управляющих воздействий в окно рекомендаций. Также выводится прогнозируемое состояние, которое будет получено в результате применения данных рекомендаций, оценки исходного и прогнозируемого состояний и значение результирующей выплаты.

В главе показаны слабые и сильные стороны каждого подхода. Когнитивный образ позволяет оператору в режиме реального времени анализировать состояние компенсатора давления и делать заключения о тенденциях развития ситуации. Однако когнитивный образ не даёт конкретных рекомендаций пользователю по применению определённых управляющих команд. Метод, использующий мультиагентную технологию и подкреплённое обучение, в случае выхода системы из нормального состояния выдаёт пользователю конкретные управляющие команды для возврата системы в стабильное состояние.

В заключении приведены основные результаты, полученные в диссертационной работе.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. Проведен анализ существующих разработок когнитивных образов для систем поддержки принятия решений. Установлена необходимость разработки формального представления создаваемых когнитивных графических изображений при их практическом использовании в СППР.

в» cnnOMy.B.T.M'w —Г • •• • ......

| Af neOnuMtiff | вгми«км<м| ДгачгамрамтЕ| ewwwiMOMvnMMTTOíííi»«! Агтпыдгидаин»!

Ситуация на коигрониручмом объекте Диагноз

j.V»» fu» . Показания всех датчиков в норме.

jYFIWI-e о МО па Возможно улучшение ситуации.

ípíonú 0 юо •до

3 YFI0Í1M "а * 60

i «" yftwfa jo э» т

; s Tion: s Ш я* г»

5 YFinise 'о 300 390

j 7 vwena а " ха 3» Рекомендации

a vpiene 3 яо "эзо' Следуе г выполнить : очень слабый сброс газа. (Действие 3 с интенсивностью 10/ 100.)

* wwffio эм .343

tó "ÍIITRtÓ 3in яг £5

» Woriíi Л4 ¡M 3<8

« yrotTsi 0 300 ЯП

13 ■*10TI« 0 хп 390

14 • vPÍOTliS я) "Ил"" SS

11 VROTJJS о .3».....

ú RMQ6 Tjj TSBJ "ЯП...... Прогноз

! » ROM7 з 500 г» Оценка исходного состояния

„ nmw i 1мо Z компенсатора давления = 75 Оценка построенного состояния

I M "т7«ят а "ю Р " компенсатора давления = 76

I умеет " vpiasas кг ..... SK Будет получена выплата = 0.5

- _ -

Рис. 3. Программный комплекс Agent_RL

2. Предложены методы диагностики состояний контролируемого объекта, базирующиеся на применении когнитивной графики и мультиагентной технологии с подкреплённым обучением.

3. Разработана формальная модель описания когнитивных образов, позволяющая определить состав и правила поведения когнитивного образа.

4. Создан когнитивный образ для решения задачи диагностики состояния подсистемы компенсации давления водо-водяного энергетического реактора. Разработана модификация метода подкреплённого обучения и архитектура мультиагентной системы для диагностики подсистемы компенсации давления ВВЭР. Разработана модель виртуального компенсатора давления для реализации методов подкреплённого обучения мультиагентной системы.

5. Выполнена реализация программного комплекса использующего когнитивную графику и мультиагентный подход с подкреплённым обучением для решения задачи диагностики подсистемы компенсации давления ВВЭР.

6. Разработанные методы и программные средства применены для решения задач диагностики состояний сложного технологического объекта и обнаружения управляющих воздействий с использованием когнитивной графики и мультиагентного подхода в прототипе СППР для подсистемы компенсации давления в контуре ВВЭР АЭС, а также в учебно-научном процессе кафедры Прикладной математики МЭИ (ТУ), о чем имеются акты о внедрении.

СПИСОК РАБОТ, ОПУБЛИКОВАННЫХ ПО ТЕМЕ ДИССЕРТАЦИИ

1. Новосёлов Ю.В. Когнитивная графика в системах поддержки принятия решений по анализу расхода тепловой энергии. Ученые записки. Издательство РГСУ. 2007. Т.1. с.101-108.

2. Новосёлов Ю.В. Формальная модель когнитивного образа для системы поддержки принятия решений в задаче диагностики объекта. Вестник МЭИ №2 2009, Издательский дом МЭИ. с.183-187.

3. Новоселов Ю.В. Когнитивная графика как абстракция в системах поддержки принятия решений в сфере энергоконтроля, Труды десятой национальной конференции по искусственному интеллекту с международным участием КИИ-2006. М.: Физматлит 2006, т. 3, сс. 799-806

4. Новоселов Ю.В. Когнитивная графика в системах поддержки принятия решений в сфере энергоконтроля с применением мультиагентного подхода. // Труды всероссийской научной конференции «Нечеткие системы и мягкие вычисления», НСВМ-2006. -М.: Физматлит, - 2006. с. 337-344

5. Новоселов Ю.В. Когнитивная графика или метафора в системах поддержки принятия решений в сфере энергоснабжения. Международный форум информатизации МФИ-2006. Труды международной научно-технической конференции «Информационные средства и технологии». В 3-х т. Т. 3. - М.: Янус-К, 2006, с. 131-134.

6. Новосёлов Ю.В. Решение проблемы энергоконтроля с помощью когнитивной графики. Глобализация: настоящее и будущее России: Материалы VI Международного социального конгресса. 2006. Издательство РГСУ. с. 79-80.

7. Новосёлов Ю.В. Применение когнитивной графики в системах поддержки принятия решений в сфере энергоснабжения с использованием мультиагентного подхо-

да. Двенадцатая международная научно-техническая конференция студентов и аспирантов: Радиоэлектроника, электротехника и энергетика. 2006. Издательство МЭИ. с. 406-407.

8. Новосёлов Ю.В. Системы поддержки принятия решений, использующие когнитивную графику в задаче энергоконтроля. Сборник научных трудов. В 17 томах. Т.З. Интеллектуальные системы и технологии. 2007. Т. 3. Издательство МИФИ. с. 204-205.

9. Новоселов Ю.В. Обучение и когнитивная графика в системах поддержки принятия решений диагностики блоков ВВЭР. // Тезисы выступлений участников Международной научно-практической конференции «Технологии электронного обучения: возможности и перспективы. - ¡Издательство ЕАОИ., 2007, с. 88-94.

10. Новоселов Ю.В. Когнитивная графика для систем поддержки принятия решений в вопросе энергетической безопасности страны с применением мультиагентного подхода. // Социальная политика и социология. Издательство РГСУ. 2007. с. 242250.

11. Новоселов Ю.В. Применение когнитивной графики для визуального решения задач. Тринадцатая международная научно-техническая конференция студентов и аспирантов: Радиоэлектроника, электротехника и энергетика. Тезисы докладов. -М.: Издательство МЭИ, 2007. сс. 375-377.

12. Новосёлов Ю.В. Когнитивная графика в задаче урегулирования расхода тепловой энергии. Труды IV Всероссийской конференции студентов, аспирантов и молодых ученых. 2007. Т.1. Издательство Вузовская книга, с. 118-199.

13. Новоселов Ю. В. Реализация когнитивной графики для системы поддержки принятия решений по потреблению ресурсов в сфере. // Тезисы докладов XV Международной студенческой школы-семинара.- М.: Издательство МИЭМ, 2007. сс. 294-295.

14. Новосёлов Ю.В. Когнитивная графика для систем поддержки принятия решений в вопросе энергетической безопасности страны с применением мультиагентного подхода. Социальная политика и социология. 2007. Издательство РГСУ. Т.1. с.242-250.

15. Новосёлов Ю.В. Реализация имитационной когнитивной модели для системы поддержки принятия решений по потреблению ресурсов в сфере энергоснабжения. Международный форум информатизации МФИ-2007. Труды международной научно-технической конференции «Информационные средства и технологии». 2007. Т.З. МЭИ. с.60-64.

16. Вагин В.Н. Новоселов Ю.В. Когнитивная графика в системе поддержки принятия решений для диагностики атомного реактора, Труды XXXV юбилейной международной конференции. VI международной конференции молодых ученых. Информационные технологии в науке, образовании, телекоммуникации и бизнесе. -М.: Гурзуф, 2008. сс. 120-122.

17. Новосёлов Ю.В. Когнитивная графика в системах поддержки принятия решений осуществляющей контроль блоков водо-водяного энергетического реактора. Сборник научных трудов. В 15 томах. Т. 10. Интеллектуальные системы и технологии. 2008. Издательство МИФИ. Т.10. с.177-178.

18. Новосёлов Ю.В. Когнитивная графика в системе управления блоком компенсации давления атомного реактора. III Всероссийская молодежная конференция по проблемам управления (ВМКПУ'2008): Труды / Под ред. Д.А.Новикова, З.К.Авдеевой. 2008. Издательство ИПУ РАН. Т.1. с.265-266.

» \l

19. Новосёлов Ю.В. Когнитивная графика в системе поддержки принятия решений диагностики блоков ВВЭР. Четырнадцатая международная научно-техническая конференция студентов и аспирантов: Радиоэлектроника, электротехника и энергетика. 2008. МЭИ. Т.1. с.303-304.

20. Новосёлов Ю.В. Решение проблемы энергоконтроля с помощью систем поддержки принятия решений с применением когнитивной графики. Качество социальной жизни в изменяющейся России. Материалы зимних научных чтений факультета социологии и информационных технологий. Издательство Логос. 2008. Т.1. с.222-225.

21. Новосёлов Ю.В. Применение когнитивной графики в системах поддержки принятия решений для блока компенсации объема на атомных станциях. Труды одиннадцатой национальной конференции по искусственному интеллекту с международным участием КИИ-2008. ЛЕНАНД. Т.2. с.236-243.

22. Новосёлов Ю.В. Когнитивная графика в системе поддержки принятия решений для диагностики атомного реактора. Труды XVI международной научно-технической конференции . Информационные средства и технологии. МЭИ. 2008. Т.2. с.65-69.

23. Новосёлов Ю.В. Когнитивная графика для диагностики компенсатора объёма в системах поддержки принятия решений на атомных станциях. Сборник научных трудов II всероссийской научной конференции с международным участием «Нечеткие системы и мягкие вычисления», НСВМ-2008. Ульяновск: УлГТУ, 2008.-187с. Т.2. с.40-48.

24. Новоселов Ю.В. Формальная модель представления когнитивного образа для системы поддержки принятия решений в задаче диагностики объекта. Вестник МЭИ, Издательство МЭИ, 2009.

25. Новоселов Ю.В. Разработка мультиагентного подхода для систем поддержки принятия решений с применением когнитивной графики в области атомной энергетики. //Программные продукты и системы. - Издательство МНИИПУ. 2009.

26. Новоселов Ю.В. Формальная модель описания когнитивных образов. // Радиоэлектроника, электроника и энергетика: Пятнадцатая Междунар. науч.-техн. конф. студентов и аспирантов: тез. докл. В 3-х т. Т. 1. М.: Издательский дом МЭИ, 2009. 289-291с.

27. Новосёлов Ю.В. Разработка формального представления когнитивной графики в системах поддержки принятия решений. Научная сессия МИФИ 2009. Информационно-телекоммуникационные системы. Проблемы информационной безопасности в системе высшей школы. Экономика, инновации и управление. М.: МИФИ 2009. Т.З. с.96-97.

Подписано в печать 19.05.09 Зак. 118 Тир. 100 П.л. 1,25

Полиграфический центр МЭИ (ТУ)

Красноказарменная ул., д. 13