автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.11, диссертация на тему:Способы и программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций

На правах рукописи

Сеньков Алексей Викторович

СПОСОБЫ И ПРОГРАММНЫЕ СРЕДСТВА ИНТЕЛЛЕКТУАЛЬНОЙ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ НА ОСНОВЕ РИСК-СИТУАЦИЙ

Специальность: 05.13.11 - Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

2 9 НОЯ 2012

Москва-2012

005055745

Работа выполнена в филиале федерального государственного бюджетного образовательного учреждения высшего профессионального образования «Национальный исследовательский университет «МЭИ» в г. Смоленске на кафедре Вычислительной техники.

Научный руководитель:

Официальные оппоненты:

доктор технических наук, профессор Борисов Вадим Владимирович

Комарцова Людмила Георгиевна,

доктор технических наук, профессор, Калужский филиал ФГОУ ВПО НИУ МГТУ им. Н.Э. Баумана, профессор каф. КСиС

Морозов Андрей Владимирович,

доктор технических наук, доцент, ВА ВПВО ВС РФ им. Маршала Советского Союза A.M. Василевского, зам. нач. каф. АСБУ

Ведущая организация:

ФГАНУ «Центр информационных технологий и систем органов исполнительной власти - ЦИТиС» (г. Москва)

Защита состоится «21» декабря 2012г. в 16 час. 00 мин. на заседании диссертационного совета Д 212.157.01 при Национальном исследовательском университете «МЭИ» по адресу: Москва, Красноказарменная ул., д.13, ауд. М-704.

С диссертацией можно ознакомиться в библиотеке ФГБОУ ВПО «НИУ МЭИ».

Отзывы в двух экземплярах, заверенные печатью организации, просим направлять по адресу: 111250, Москва, Красноказарменная ул., д.14, Ученый совет МЭИ.

Автореферат разослан « 09 » ноября 2012 г.

Ученый секретарь

диссертационного совета Д 212.157.01 кандидат технических наук, доцент

М. В. Фомина

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

В настоящее время активно ведутся исследования в области создания программных средств и систем поддержки принятия решений на основе рисков. Однако их создание и использование наталкивается на ряд проблем, обусловленных, прежде всего, сложностью и масштабами процессов управления рисками, неясными и изменяющимися требованиями, необходимостью учета не только количественных показателей, но и показателей, плохо поддающихся формализации. Низкая структурированность задач управления рисками, их слабая формализуемость и высокая динамика изменений процессов приводит к значительной задержке при создании и адаптации программных средств поддержки принятия решений на основе рисков.

Это обуславливает необходимость расширения возможностей современных и перспективных компьютерных технологий, средств и систем, используемых для поддержки принятия решений на основе рисков. При этом все большее значение приобретает интеллектуальная поддержка принятия решений в условиях комплексного воздействия рискообразующих факторов, неопределенности системных и внешних параметров.

В таких условиях поддержка принятия решений на основе рисков должна носить не только комплексный, но и интеллектуальный характер. Обязательным условием интеллектуальной поддержки принятия решений на основе рисков является минимизация вмешательства в процессы лица, принимающего решение (ЛИР), поскольку такое вмешательство является основным источником рискообразующих факторов, неточности и неопределенности системных и внешних параметров, значительно влияющих на эффективность процессов обработки данных и знаний.

Терминологический аппарат, применяемый в настоящее время для формализации основных понятий при управлении рисками, является довольно разобщенным, термины допускают различную трактовку, терминологическая база характеризуется слабой связанностью. Существует большое количество определений понятия «риск». Наиболее часто под риском понимается сочетание вероятности (частоты) нанесения ущерба и тяжести ущерба. При этом большинство характеристик, традиционно «приписываемых» к рискам (вероятность, ущерб, существенность, уровень значимости, приемлемость), непосредственно к самим рискам отношения не имеет. Так, если уровень риска относится к понятию «риск», то характеристики существенность, категория и приемлемость - к понятию «событие», которое характеризует риск, а уровень последствия — к мероприятиям, направленным на устранение результатов реализации этого события. То есть, существующие трактовки риска не позволяют характеризовать ни собственно события или ситуации, возникающие при появлении риска, ни его последствия и способы воздействия на него.

При этом непосредственно под управлением рисками понимается либо деятельность по снижению итогового ущерба для системы, либо мероприятия по страхованию от потенциального ущерба, либо устранение источников рисков, либо рекомбинация причинно-следственной связанности событий, несущих потенциальной ущерб для системы, что обуславливает необходимость уточнения терминологиче-

ского аппарата и разработки моделей, которые должны стать основой разрабатываемых программных средств под держки принятия решения на основе рисков.

Созданию и программной реализации методов и моделей поддержки принятия решений на основе рисков посвящены работы таких исследователей, как C.B. Артюхов, O.A. Базюкина, В.Ю. Королев, A.A. Кудрявцев, В.Е. Бенинг, С.Я. Шоргин, N. Crockford, Morgan, Granger и др.

Вместе с тем специфика задач интеллектуальной поддержки принятия решений требует, во-первых, развития моделей поддержки принятия решений на основе не просто рисков, а риск-ситуаций, во-вторых, создания способов и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в условиях неопределенности.

Исследования в области теории и практики создания программных средств интеллектуальных систем, в том числе экспертных систем, систем поддержки принятия решений основываются на работах отечественных ученых Д.А. Поспелова, А.Н. Аверкина, A.A. Башлыкова, В.Н. Вагина, В.В. Емельянова, А.П. Еремеева, Н. Г. Загоруйко, О.П. Кузнецова, В.М. Курейчика, О.И. Ларичева, A.C. Нари-ньяни, Г.С. Осипова, А.Б. Петровского, Г.С. Плесневича, В.Э. Попова, Г.В. Рыбиной, В.А. Смирнова, В.Б. Тарасова, В.В. Троицкого, В.К. Финна, И.Б. Фоминых, В.Ф. Хорошевского и др.; зарубежных ученых J. Allen, С. Demetresku, R. Detcher, A. Gereviny, G. Italiano, A. Krokhin, I. Meiri, L. Schubert, T. Saaty, T. Van Allen и др.

Среди подходов к учету различного типа неопределенности при интеллектуальной поддержке принятия решений на основе риск-ситуаций актуальным представляется использование методов теорий нечетких вычислений, нечетких множеств и отношений, нечеткой меры, нечеткой логики, нечеткого вывода и нечеткого моделирования, предложенных в работах JI.A. Заде (L.A. Zadeh), А.Е. Ал-тунина, И.З. Батыршина, А.Н. Борисова, JI.C. Берштейна, С.Я. Коровина, O.A. Крумберга, А.Н. Мелихова, С.А. Орловского, М.В. Семухина, В.Б. Силова, J.C. Bezdek, R. Bellman, J.L. Castro, D. Dubuis, A. Kaufmann, H. Larsen, E. Mamdani, H. Prade, M. Sugeno, T. Takagi, T. Terano, Y. Tsukamoto, R. Yager и др., а также развитие существующих и разработка новых нечетких и гибридных нечетких моделей, существенный вклад в создание которых внесли Л.Г. Комарцова, A.C. Фе-дулов, Н.Г. Ярушкина, R. Fuller, Y. Hayashi, D.J. Hunt, J.-S.R. Jang, J.M. Keller, B. Kosko, R. Krishnapuram, E.T. Lee, H -M. Lee, S.С. Lee, J.M. Mendel, S. Mitra, S. Pal, W. Pedrycz, D. Rutkowski, L. Rutkowski, C.-T. Sun, L.X. Wang и др.

В то же время отсутствуют методики и инструментальное программное обеспечение разработки программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций с использованием моделей, позволяющих учесть комплексное воздействие рискообразующих факторов, неопределенность системных и внешних параметров на всех этапах жизненного цикла этих программных средств.

Таким образом, задача исследования и разработки способов и программных средств интеллектуальной поддержки принятия решений (ИГПТР) на основе риск-ситуаций, представляющих собой совокупность программных инструментальных средств и интеллектуальной системы, является актуальной и практически значимой.

Объектом исследования являются программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Предметом исследования являются способы и модели разработки программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Цель исследования заключается в повышении эффективности процессов обработки данных и знаний в компьютерных системах за счет создаваемых способов и программных средств интеллектуальной поддержки принятия решения на основе риск-ситуаций.

Научной задачей диссертационной работы является исследование и создание способов и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Для этого необходимо решить следующие задачи.

1) Анализ задач и исследование способов, моделей, технологий и программных средств интеллектуальной поддержки принятия решений на основе рисков.

2) Разработка гибридной нечеткой модели риск-ситуации, позволяющей в программных средствах учесть комплексный характер и неопределенность риско-образующих факторов.

3) Разработка методики создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

4) Разработка способа интеллектуальной поддержки принятия решений на основе риск-ситуаций и моделей, предназначенных для программной реализации его этапов.

5) Создание программных инструментальных средств разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

6) Разработка программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

7) Оценка эффективности использования предлагаемых способа и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

В ходе работы над диссертацией использованы следующие методы исследования: методы анализа и проектирования программных средств, теории принятия решений, нечеткого вывода, нечеткого и нейро-нечеткого моделирования.

Обоснованность научных результатов, выводов и рекомендаций, сформулированных в работе, определяется корректным применением методов исследования.

Достоверность научных положений подтверждена соответствием теоретических положений и результатов экспериментов на основе компьютерного моделирования, сопоставлением полученных результатов с результатами, приведенными в научной литературе, а также итогами практического внедрения.

Научная новизна работы заключается в следующем.

1) Предложена методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций, позволяющая унифицировать разработку этих средств, сократить время на их проектирование, создание и ввод в эксплуатацию, а также обеспечивающая расширенные возможности по оперативной адаптации программных средств на всех этапах жизненного цикла этих средств без привлечения разработчика.

2) Спроектированы алгоритмы функционирования программных инструментальных средств разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций, обеспечивающие программную реализацию предложенных способа, моделей и методики.

3) Предложена гибридная модель риск-ситуаций, состоящая из нечеткого дерева отказов и нечеткой байесовой сети, и позволяющая в программных средствах интеллектуальной поддержки принятия решений учесть комплексный характер рискообразующих факторов, а также представление различного типа неопределенности системных и внешних параметров.

4) Разработаны способ интеллектуальной поддержки принятия решений на основе риск-ситуаций и гибридные нечеткие модели, предназначенные для программной реализации его этапов, учитывающие иерархический характер риск-ситуаций, а также возможность организации параллельной и последовательной схем принятия решений.

Практическую значимость работы составляют следующие результаты.

1) Структура базы знаний программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций, ориентированная на представление и реализацию предложенных моделей: риск-ситуаций; оценки риск-ситуаций и необходимости управления риск-ситуациями; формирования ранжированных групп мероприятий.

2) Программные инструментальные средства разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

3) Программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной системе информационного обеспечения управления профессиональными рисками и страхования профессиональных рисков (АС «Профессиональные риски»), обрабатывающие данные о более чем 80 млн. человек.

4) Программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной информационной системе интеграции всех уровней управления и контроля состояния охраны труда, промышленной, пожарной безопасности и охраны окружающей среды в филиалах, ДЗО/ВЗО ОАО «ИНТЕР РАО ЕЭС» (АИС «Контроль»).

На защиту выносятся:

1) Методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

2) Алгоритмы функционирования программных инструментальных средств разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

3) Гибридная нечеткая модель риск-ситуаций, позволяющая в программных средствах интеллектуальной поддержки принятия решений учесть комплексный характер и неопределенность рискообразующих факторов.

4) Способ интеллектуальной поддержки принятия решений на основе риск-ситуаций и модели, предназначенные для программной реализации его этапов.

Реализация результатов работы. По результатам работы разработаны и внедрены в промышленную эксплуатацию программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций:

• в АС «Профессиональные риски» (заказчик Минздравсоцразвития России, Государственный контракт № 244 от 17.09.2009 г.);

• в АИС «Контроль» (заказчик ДЗО/ВЗО ОАО «ИНТЕР РАО ЕЭС», договор № ЗТ-1/05-12 от 12.05.2012 г.).

Основные положения диссертационной работы получены в рамках гранта РФФИ № 10-07-97506-р_центр_а «Методы и распределенные вычислительные алгоритмы нечеткого анализа данных в высокопроизводительных ассоциативных системах», 2010-2011 г.г., № гос. per. 012001171852.

Теоретические и практические результаты работы использованы при разработке нечетких и нейро-нечетких моделей формирования и обработки знаний в интеллектуальных системах поддержки принятия решений, а также при создании научно-методического и программного обеспечения в рамках 10 НИР и НИОКР.

Результаты работы используются в учебном процессе филиала МЭИ в г. Смоленске и Военной академии войсковой ПВО ВС РФ (г. Смоленск), что подтверждено соответствующими актами о внедрении.

Апробация результатов работы. Основные результаты работы докладывались и обсуждались на следующих конференциях: Конференция конкурса научных работ студентов «Росэнергоатом: знания молодых ядерщиков — атомным станциям» (Обнинск, 2008); V и VI межрегиональные научно-технические конференции студентов и аспирантов «Информационные технологии, энергетика и экономика» (Смоленск, 2008, 2009); X и XII международные научные конференции «Системы компьютерной математики и их приложения» (Смоленск, 2009, 2011); XV международная научно-техническая конференция студентов и аспирантов «Радиоэлектроника, электротехника и энергетика» (Москва, 2009); XVIII Военно-научная конференция «Проблемы теории и практики развития войск ПВО СВ в современных условиях» (Смоленск, 2011).

Публикации. По результатам диссертационной работы опубликовано 15 работ, в том числе 3 статьи в изданиях из перечня ВАК. Результаты диссертации также отражены в 10 отчетах о НИР и НИОКР.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы, включающего 111 наименований. Диссертация содержит 134 страницы основного текста, 30 рисунков, 16 таблиц, 2 приложения на 36 страницах.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении диссертации обоснована актуальность темы исследований, определены цель и научная задача диссертационной работы, сформулированы научная новизна и практическая значимость результатов исследований, представлено краткое содержание по разделам.

В первой главе проведен анализ существующих способов, моделей и программных средств для поддержки принятия решений на основе рисков; рассмотрены деловые процессы управления рисками; обоснованы требования к способам, моделям и программным средствам интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Рассмотрены подходы к учету неопределенности. Сделан вывод о том, что условия управления риск-ситуациями, как правило, относятся к условиям нестохастической неопределенности. Представлен анализ способов учета неопределенности и сделан вывод о целесообразности применения методов теории Демпстера-Шеффера для учета неопределенности при управлении риск-ситуациями.

Обоснована целесообразность введения понятий «риск-события» и «риск-ситуации», позволяющих учесть, с одной стороны, комплексный характер рисков, а с другой стороны, все необходимые параметры рисков.

Риск-событие - событие, наступление которого может принести ущерб системе или процессу. Источник риск-события - действие или объект, приводящие к возникновению риск-события с определенной степенью возможности.

Риск-ситуация - совокупность обусловленных причинно-следственными связями риск-событий и источников рисков, а также мероприятий, направленных на источники рисков. Риск-ситуация за счет сложной структуры обеспечивает возможность адекватной оценки возможности наступления риска (на основании сведений о риск-событиях) и его последствий (на основании сведений о мероприятиях по устранению последствий риск-ситуации, описанных в плане реагирования на риск-ситуации), что позволяет эффективно управлять рисками.

Под планом реагирования на наступление риск-ситуации понимается перечень сопоставленных ей мероприятий по устранению последствий риск-ситуации.

Проанализированы деловые процессы управления рисками. Предложена их классификация по сложности, масштабу и степени изменчивости процессов.

Проведен анализ существующих подходов к управлению рисками, включая способы и модели анализа: опасностей; вида и последствий отказа; вида, последствий и критичности отказов; рисков (с применением деревьев отказов, деревьев событий, экспертных оценок, матриц анализа рисков). Сделан вывод о том, что использование этих способов и моделей не позволяет в полной мере учесть требования, предъявляемые к управлению риск-ситуациями.

Проведен анализ подходов и сделан вывод о целесообразности использования для создания обобщенной модели программных средств интеллектуальной поддержки управления риск-ситуациями методов гибридизации нечетких моделей: во-первых, с функциональным замещением (в качестве доминирующей берется одна модель, а ее компоненты замещается компонентами других моделей); во-вторых, с взаимодействием (модели используются относительно независимо и выполняют различные задачи по достижению общей цели).

Рассмотрены средства и программные платформы для управления рисками.

Сформулированы требования к разрабатываемым способам и моделям, а также программным средствам.

На основе анализа особенностей процесса управления комплексными рисками выявлены следующие проблемы при создании программных средств:

• вследствие большой степени изменчивости сложно осуществлять комплексную модификацию автоматизированных процессов;

• вследствие большого числа автоматизируемых процессов, а также большой степени их изменчивости сложно поддерживать полноценный жизненный цикл автоматизации процессов;

• вследствие большой степени связности процессов возникают существенные сложности при их распределенной автоматизации;

• трудоемкость согласования автоматизируемых процессов из различных предметных областей.

Сделан вывод о необходимости создания программных инструментальных средств ИПГГР на основе риск-ситуаций, учитывающих предъявляемые требования.

Во второй главе разработан способ интеллектуальной поддержки принятия решений на основе риск-ситуаций, а также его модификации, позволяющие учесть различные типы иерархической подчиненности системы, и обеспечивающие возможность осуществления как последовательного, так и параллельного управления риск-ситуациями.

Предложенный способ ИППР на основе риск-ситуаций (рисунок 1) включает в себя следующие этапы.

Этап 1. Анализ и классификация требований документации, разработка совокупности моделей для под держки принятия решений на основе риск-ситуаций.

Этап 2. Анализ особенностей функционирования системы, анализ влияний, оказываемых окружением на систем; выявление специфических особенностей функционирования системы; формирование дополнений регламентов, необходимых для корректного функционирования системы.

Этап 3. Мониторинг функционирования системы, в том числе: выполнения функций элементами системы; взаимодействий элементов внутри системы, взаимодействия системы с окружением. В результате этого этапа осуществляется подготовка к идентификации риск-ситуаций.

Этап 4. Управление риск-ситуациями, включающее в себя: идентификацию риск-ситуаций; оценку риск-ситуаций; выработку управляющих решений (мероприятий); мониторинг исполнения управляющих решений.

Этап 5. Консультации по вопросам исполнения (уточнение) распоряжений.

Этап 6. Формирование отчетности по результатам выполнения распоряжений.

Этап 7. Пополнение базы знаний лучших практик.

Предложены разновидности способа интеллектуальной поддержки принятия решений при последовательном (рисунок 2а) и параллельном управлении (рисунок 26) риск-ситуациями.

Лучшие практики

Руководитель | щ

Л 1 и

ф X 1 о. ! 11 «1 ^ ?

о 1 о & 2 £ в-г И

£ в и

т 1 1

Исполнитель Ц^уЦ

Предложения по лучшим практикам

Консультации

ч

Формальная отчетность

У

Орг.единица

Руководитель

№ 1 * 1

К 5 О. О я I ё 11

ё К о 2 1 о г Ь II

1 т

Исполнитель [ Щ

Предложения по лучшим практикам

Распоряжения

Консультации

Формальная отчетность

1 1 11

ф к 1 5 г к

& о 1 5 | о. у 1-1

*

С

4...

НПД и ней (4)

НПД и НСИ (2)

НПД и НСИ (1)

Рисунок 1 — Обобщенная схема способа ИППР на основе риск-ситуаций

Управление на Межуровневое еерхнем уровне управление

гБ

Этап 1. Аиагм*

№

£

Е

лучших практик

Управление на нижнем уровне

I

особенностей функ ГП системы

— Этап 3. Мониторинг

И % ~

Н—Т-

а)

Последовательное управление риск-ситуациями

Межуровневое управление

Управление на нижнем уровне

Управление на верхнем уровне

^ Этап 1. Анализ | _. требований НПД р

| ЭтапАнали,—I

I особенностей фун*. |—'

I Этап 4. Улревленк

Этап 5.

I Этап в. Форьыро Iотчат»«ости

Этап 7. Полол»

_ лучш« чмкт

I Этап«. Упр | дрио-ситуа

I

А Консульта!

Этап 7. Пополнение I

I-ЗТапТл

особенностей фун*. I

Ьз

( Этап 5.

I Этап в.

б)

Параллельное управление риск-ситуациями

Рисунок 2 — Разновидности способа ИППР на основе риск-ситуаций

Для программной реализации этапов способа ИППР на основе риск-ситуаций разработаны следующие модели:

• гибридная модель риск-ситуаций;

• модель оценки риск-ситуаций и необходимости управления риск-ситуациями;

• нейро-нечеткая модель формирования ранжированных групп мероприятий для управления рисками.

Предложена схема взаимодействия разработанных моделей для ИППР на основе риск-ситуаций (рисунок 3). Обобщенный алгоритм взаимодействия этих моделей схематически может быть представлен в следующем виде:

Л/е*,*5',..., А/ет*5'

,.. —> А'еСвд —» RangG

Рю

г

> [Ыес,, Мес']в

у Ргея,-

(1)

где КЕ) -у'-е риск-событие, у е 1,..., у', у' - количество риск-событий; - /'-я риск-ситуация г е1,...,/', /' - количество риск-ситуаций; 57?/п — т-й источник риска, тб1...../и', т' - количество источников рисков; Мсх'^1 - 1-е мероприятие, направленное на устранение /-й риск-ситуации, / е 1,...,/', Г - количество мероприятий, направленных на устранение /'-й риск-ситуации; Ргелж - оценка наличия т-го источника риска, РгеЯц^ е[0,1]; РКЕ - возможность наступления у'-го риск-события, РКЕ е [0,1]; - возможность наступления /-Й риск-ситуации, Р11Х с [0,1]; Ст — оценка последствий от наступления 1-й риск-ситуации; кЙХ - коэффициент значимости 1-й риск-ситуации, кщ е [0,1]; [М?с,, М>с*]„; - граничная оценка необходимости управления г'-й риск-ситуацией, Мес. е. [0,1], Ыес' е [0,1]; Мес^ - оценка необходимости управления ;-й риск-ситуацией, /Уес/(Л. е [0,1]; Яащ^ - ранг к-й группы мероприятий, направленных на источники рисков, RangGrt б[0,1], к е 1,..., к', к'- количество групп мероприятий, направленных на источники рисков; РМе! - уровень применения о-го мероприятия, направленного на источники рисков, е [0,1], о е 1,..., о', о'- количество мероприятий, направленных на источники рисков.

Предлагаемая гибридная модель риск-ситуаций состоит из нечеткого дерева отказов и нечеткой байесовой сети и позволяет компактно представлять сведения об источниках рисков, рисках, их последствиях и взаимосвязях (рисунок 4). На ее выходе формируется оценка возможности возникновения риск-ситуации.

Рисунок 3 - Схема взаимодействия моделей для интеллектуальной поддержки принятия решений на основе риск-ситуаций

Рассмотрены особенности учета различных типов неопределенности и реализация, в зависимости от этого, различных способов введения нечеткости в деревья отказов и байесовые сети модели риск-ситуаций. Описаны процедуры построения и применения модели риск-ситуаций.

Приведено описание разработанной модели оценки риск-ситуаций и необходимости управления риск-ситуациями. Прежде всего, определяются граничные оценки необходимости обработки риск-ситуаций [Ыес„ Ыес]кз , получаемые, например, на

основе положений теории свидетельств, в соответствии со следующей процедурой. Во-первых, характеристики риск-ситуаций рассматриваются как критерии:

т^Ю^Р^, = тс(Щ)= (2)

шах(С )

]=\..т >

Во-вторых, поскольку в рамках одного критерия различные риск-ситуации могут получать одинаковые оценки, то риск-ситуации объединяются в группы с одинаковой оценкой по критерию. Обозначим А*, /)Д Л/-группы по критериям Рк , к„3 и Сю , соответственно, а базовые вероятности для групп - ти(А\), тк{А2]), тс(Аг1).

Нечеткая байесова сеть

Рисунок 4 — Структура модели риск-ситуаций

В-третьих, определяется комбинированная базовая вероятность для риск-ситуаций с использованием правила комбинирования Демпстера

m(RS,) =

1

1 -К

X [тр{А1)-тк{А-)-тс{А1)\

К= £ [тМ1>т№?Утс(А?)\

(3)

(4)

В-четвертых, определяются характеристики Bel и Р1, которые и считаются граничной оценкой необходимости управления риск-ситуацией:

Nec. = Bel(RSi) = £ m(RS/), Nec = Pl(RS,) = £ m(RSj).

(5)

Полученные значения Лес. и Ыес являются исходными данными для ней-ро-нечеткого классификатора, на выходе которого формируется итоговая оценка необходимости управления каждой конкретной риск-ситуацией.

Далее описана предложенная модель формирования ранжированных групп мероприятий для управления риск-ситуациями, а также способ выбора наиболее

рационального мероприятия на ее основе. Модель характеризуется измененной, по сравнению с типовым нейро-нечетким классификатором, структурой, а также модифицированными способами ее построения и применения, основанными на использовании модели риск-ситуаций.

В третьей главе предложены структура и алгоритмы функционирования программных инструментальных средств поддержки принятия решений на основе риск-ситуаций, а также методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Структура программных инструментальных средств поддержки принятия решений на основе риск-ситуаций включает в себя (рисунок 5):

• базу знаний, ориентированную на представление и реализацию предложенных моделей;

• оперативную базу данных, содержащую сведения о системе, выполняемых мероприятиях и лучших практиках;

• детектор риск-ситуаций, предназначенный для оценки (детектирования) возможности возникновения риск-ситуаций;

• модуль ППР, обеспечивающий интеллектуальную поддержку принятия решений на основе сведений о риск-ситуациях;

• ядро «мероприятий», предназначенное для формирования плана, мониторинга выполнения мероприятий.

База знаний ориентирована на представление и реализацию предложенных моделей: риск-ситуаций; оценки риск-ситуаций и необходимости управления риск-ситуациями; формирования ранжированных групп мероприятий. Она обеспечивает детектор необходимой информацией для детектирования риск-ситуаций. Совокупность правил базы знаний реализуется с использованием разработанных моделей. Кроме того, база знаний включает базу фактов в виде источников рисков, риск-событий, риск-ситуаций, плана реагирования на риски, мероприятий и групп мероприятий, критериев риска. Структура базы знаний представлена на рисунке 6.

Рисунок 5 - Структура программных инструментальных средств

Обмен данными Отношение

Модель оценки риск-ситуаций и необходимости управления риск-ситуациями

Меюа:

Оценивание необходимости управления риск-ситуацией

Модель риск-ситуаций

Методы:

Оценивание риск-событий Оценивание риск-ситуаций

Риск-ситуация

Л/ев Мее-

Оценка необходимости

управления

Методы:

Оценить риск-ситуацию

План реагирования

Риск-ситуация Мероприятие Методы:

Среагировать на риск-событие Среагировать на риск-ситуэцию Оценить последствия риск-ситуации

Риск-событие

Свойства:

Наименование

Р

Логическая операция Математическая операция Связанные мероприятия Связанные риск-события Методы: Оценить Р

Критерии рисков Методы:

Оценивание возможности управления риск-ситуацией Оценивание необходимости управления риск-ситуацией

Источник рисков

Свойства:

Наименование

Р

Связанные мероприятия

Связанные исто» ники рисков

Сеязанные риск-события

Метоаы-

Оценить Р

Мероприятие

Наименование Тип мероприятия Риск-событие, последствия которого устраняются И сточ ник-рисков Описание Ответственный Место проведения Процент выполнения

Модель формирования ранжированных групп мероприятий

Метод:

Оценивание групп управляющих воздействий на систему

Рисунок 6 - Структура базы знаний

Детектор риск-ситуаций предназначен для оценки (детектирования) возможности возникновения риск-ситуаций. В его основе лежит предложенная модель риск-ситуаций. Алгоритм функционирования детектора представлен на рисунке 7.

Модуль ППР на основе базы знаний, оперативной базы данных и сведениях о риск-ситуациях из детектора риск-ситуаций, вырабатывает эталонный набор мероприятий, рекомендованных в сложившихся условиях. Он также обеспечивает моделирование применения мероприятий. Алгоритм функционирования модуля ППР представлен на рисунке 8.

Ядро «мероприятий» работает с текущим планом, сигнализирует о сроках выполнения мероприятий, автоматизирует их выполнение (последовательности заполнения документов, ввода данных и т.д.). В процессе выполнения мероприятий, в числе прочего, происходит изменение данных, хранимых в оперативной базе данных. На рисунке 9 представлен алгоритм работы ядра «мероприятий».

Л1 речи ел период\ /Быт изменены^

Детектирования/ \ данные /

Е Агрегирование данных по байесовой се »ходящей в мо, риск-ситуаций ^

/ Получены / характеристики всех ' источников рисков и У риск-событий, с \ непосредственно с нь

Агрегирование [(анных по дереву гкаэое, входящему

ситуаций

/Получены \ / характеристики \ ( всех риск- ) \ событий и рис»- / \ ситуаций /

критерий необходимости упраалемм риск-ситуациями

I—Н—|

Отсутствуют риса-ситуации, требующие управления

Компоновка информации для принятия решений оператором

Риск-ситуации детектированы, оператор

Рисунок 7 - Алгоритм функционирования детектора риск-ситуаций

Рисунок 8 - Алгоритм функционирования модуля ППР

Разработана методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций (ПС ИППР РС), позволяющая унифицировать разработку этих средств и оперативно их адаптировать на всех этапах жизненного цикла без привлечения разработчика (рисунок 10).

В четвертой главе описаны разработанные программные средства ИППР на основе риск-ситуаций и проведена оценка эффективности их использования.

По результатам диссертационной работы разработаны и внедрены в промышленную эксплуатацию программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций: во-первых, в АС «Профессиональные риски» (рисунок 11); во-вторых, в АИС «Контроль».

©

II] Й1

I. II

1111 |!|1|

11111

Рисунок 9 - Алгоритм работы ядра «мероприятий»

............. !®

11 ¡1

19]||

11Ц| И11 з Е 111

II15

С 3

11 -1 § Е

«НИ

!Ш1

с

и_

I а 6

|

I г

Пи

? Ь 1

1?

% 1 1 1 5 & г

1 и :

? з

5 £

в I ■ «

I;11' = "ЩИ

1II1

©

Ь1«в

III-» к

ш

* 8 е

¡1 ее Ш Не [11 ||

'Г 1 г И !!! ¡1

А.

10.

Анализ

| Анализ требований НПД |

Амали» особенностей функционирования

фу ИЩИв ИМ0ОМНМЯ

1 1

с | Выработка проектных |

1

. Адаптация

| Пополнен и* базы знаний |

©

II

Рисунок 10 - Методика создания и использования ПС ИППР РС

Министерство здравоохранения и социального развития Российской федерации (владелец АС «Профессиональные риски*)

Рисунок 11 - Концептуальная схема АС «Профессиональные риски»

Рассмотрены результаты внедрения разработанных программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированные информационные системы.

Управленческий эффект (повышение эффективности) от внедрения программных средств ИППР на основе риск-ситуаций в АС «Профессиональные риски» достигает 43%.

Управленческий эффект от внедрения программных средств ИППР на основе риск-ситуаций в АИС «Контроль» достигает 40%, а экономический эффект (снижение затрат) - 6%.

В заключении приведены основные результаты диссертационной работы.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

В результате выполнения работы решена научная задача исследования и создания способов и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций для повышения эффективности процессов обработки данных и знаний в компьютерных системах.

1) Выполнен анализ задач и исследованы способы, модели, технолопш и программные средства интеллектуальной поддержки принятия решений на основе рисков.

2) Предложен способ интеллектуальной поддержки принятия решений на основе риск-ситуаций, а также его модификации, отличающиеся возможностью учета

различных типов иерархической подчиненности системы, и позволяющие осуществлять как последовательное, так и параллельное управление риск-ситуациями.

3) Предложена гибридная модель риск-ситуаций, состоящая из нечеткого дерева отказов и нечеткой байесовой сети, и позволяющая учесть комплексный характер рискообразующих факторов, а также представление различного типа неопределенности системных и внешних параметров, применяемая как при оценке риск-ситуаций, так и при моделировании мероприятий.

4) Разработаны модели для программной реализации этапов предложенного способа интеллектуальной поддержки принятия решений на основе риск-ситуаций, в том числе модели: оценки риск-ситуаций и необходимости управления риск-ситуациями; формирования ранжированных групп мероприятий.

5) Разработана структура программных инструментальных средств поддержки принятия решений на основе риск-ситуаций, включающая в себя: базу знаний; оперативную базу данных; детектор риск-ситуаций; модуль поддержки принятия решений; ядро «мероприятий».

6) Предложена структура базы знаний программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций, ориентированная на представление и реализацию разработанных моделей: риск-ситуаций; оценки риск-ситуаций и необходимости управления риск-ситуациями; формирования ранжированных групп мероприятий.

7) Разработаны алгоритмы функционирования программных инструментальных средств поддержки принятия решений на основе риск-ситуаций, в том числе, алгоритмы функционирования детектора риск-ситуаций, модуля поддержки принятия решений, ядра «мероприятий».

8) Предложены программные инструментальные средства разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

9) Предложена методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций, позволяющая унифицировать разработку этих средств, сократить время на их проектирование, создание и ввод в эксплуатацию, а также обеспечивающая расширенные возможности по оперативной адаптации программных средств на всех этапах жизненного цикла этих средств без привлечения разработчика.

10) Разработаны программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной системе информационного обеспечения управления профессиональными рисками и страхования профессиональных рисков (заказчик Минздравсоцразвития России).

11) Разработаны программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной информационной системе интеграции всех уровней управления и контроля состояния охраны труда, промышленной, пожарной безопасности и охраны окружающей среды в филиалах, ДЗО/ВЗО ОАО «ИНТЕР РАО ЕЭС».

12) Проведена оценка эффективности и обосновано достижение управленческого и экономического эффекта за счет использования разработанных программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в составе автоматизированных информационных систем АС «Профессиональные риски» и АИС «Контроль».

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

В изданиях, рекомендуемых ВАК Минобрнауки России

1. Сеньков, A.B. Способ анализа рисков в опасных производственных объектах на основе нечетких деревьев отказов [Текст]/ A.B. Сеньков //Нейрокомпьютеры: разработка и применение. - 2009. -№8. -С. 31-37.

2. Сеньков, A.B. Интеллектуальное управление рисками в сложных организационно-технических системах [Текст]/ В.В. Борисов, A.B. Сеньков //Информационные технологии, 2011, № 10. - С. 47-51.

3. Сеньков, A.B. Способ управления рисками в сложных системах [Текст]/ A.B. Сеньков, A.B. Бобряков, М.В. Раскатова и др.// Естественные и технические науки, 2012, № 5 - С. 328-334.

В других изданиях

4. Сеньков, A.B. Развитие методов и моделей анализа и оценки производственных рисков на основе нечеткого подхода [Текст]/ A.B. Сеньков И Сб. трудов V межрег. науч.-техн. конф. студентов и аспирантов/ Филиал МЭИ в г. Смоленске. - Смоленск, 2008. - В 3 т., Т 1. - С. 89-93.

5. Сеньков, A.B. Анализ подходов к оценке принимаемых решений в условиях неопределенности [Текст]/ A.B. Сеньков// Сб. трудов V межрег. науч.-техн. конф. студентов и аспирантов/ Филиал МЭИ в г. Смоленске. - Смоленск, 2008. - В 3 т., Т 1. - С. 99-104.

6. Сеньков, A.B. Анализ рисков в опасных производственных объектах на основе нечеткого дерева отказов [Текст]/ A.B. Сеньков // «Росэнергоатом: знания молодых ядерщиков - атомным станциям»: Тез. докл. Конференции конкурса научных работ студентов/ ИАТЭ. - Обнинск, 2008 - С. 48-49.

7. Сеньков, A.B. Программная модель нечеткого дерева отказов [Текст]/ A.B. Сеньков// Системы компьютерной математики и их приложения: Материалы X меяедунар. науч. конф./ СмолГУ. - Смоленск, 2009. - Вып. 10. - С. 77-79.

8. Сеньков, A.B. Способ оценки производственных рисков на основе нечетких деревьев отказов [Текст]/ A.B. Сеньков// Радиоэлектроника, электротехника и энергетика: Тез. докл. XV междунар. науч.-техн. конф. студентов и аспирантов/ Филиал МЭИ в г. Смоленске. - Смоленск, 2009. - В 3 т., Т 1. -С. 292-295.

9. Сеньков, A.B. Развитие методов и моделей анализа и оценки производственных рисков на основе нечеткого подхода [Текст]/ A.B. Сеньков// Сб. трудов VI межрег. науч.-техн. конф. студентов и аспирантов/ Филиал МЭИ в г. Смоленске. - Смоленск, 2009. - В 3 т., Т 1. - С. 119 -222.

10. Сеньков, A.B. Средства визуального конструирования для создания автоматизированных информационных систем [Текст]/ A.B. Сеньков, А.Г. Забурдаев// Сб. трудов VI Межрег. науч.-техн. конф. студентов и аспирантов/ Филиал МЭИ в г. Смоленске. - Смоленск, 2009. - В 3 т., Т 1. - С. 50-53.

11. Сеньков, A.B. Средства интеллектуального управления рисками в сложных организационно-технических системах [Текст]/ A.B. Сеньков// Материалы XVIII воен.-науч. конф./ ВА ВГ1ВО ВС РФ. -Смоленск, 2011. - В 4 т., Т 4. - С. 67-72.

12. Сеньков, A.B. Комплексное управление рисками в сложных организационно-технических системах [Электронный ресурс]/ В.В. Борисов, A.B. Сеньков// Математическая морфология. Электронный математический и медико-биологический журнал. - Т. 9. - Вып. 4. - 2010. - URL: Режим доступа к жури.: http://www.smolensk.ru/user/sgma/MMORPH/N-28-html/TITL-28.htm.

13. Сеньков, A.B. Способ и средства визуального конструирования автоматизированных информационных систем [Электронный ресурс]/ A.B. Сеньков, А. Г.Забурдаев// Математическая морфология. Электронный математический и медико-биологический журнал. - Т. 9. - Вып. 4. - 2010. - URL: Режим доступа к журн.: http://www.smolensk.ru/user/sgma/MMORPH/N-28-html/TITL-28.htm.

14. Сеньков, A.B. Концепция интеллектуального управления рисками в сложных организационно-технических системах [Текст]/ В.В. Борисов, A.B. Сеньков// Системы компьютерной математики и их приложения: Материалы XII междунар. науч. конф./ СмолГУ. - Смоленск, 2011.- Вып. 12.-С. 125-129.

15. Сеньков, A.B. Методика создания и использования программных средств поддержки принятия решений на основе риск-ситуаций [Текст]/ A.B. Сеньков// Информационный бюллетень Смоленского регионального отделения Академии военных наук, 2012, Вып. 27. - С. 35^2.

Подписано в печать 07.11.2012 г.

Формат 60x84'/,6. Тираж 100 экз. Печ. л. 1,5 Отпечатано в издательском секторе МЭИ в г.Смоленске 214013 г.Смоленск, Энергетический проезд, 1

СОДЕРЖАНИЕ.

Перечень сокращений и обозначений.

ВВЕДЕНИЕ.

1 АНАЛИЗ СПОСОБОВ, МОДЕЛЕЙ И ПРОГРАММНЫХ СРЕДСТВ ДЛЯ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ НА ОСНОВЕ РИСКОВ.

1.1 Анализ задач и деловых процессов управления рисками.

1.1.1 Классификация рисков.

1.1.2 Анализ деловых процессов управления рисками.

1.2 Анализ способов и моделей поддержки принятия решений при управлении рисками.

1.3 Анализ условий и способов учета неопределенности, обоснование использования и выработка требований к моделям интеллектуальной поддержки принятия решений на основе риск-ситуаций.

1.3.1 Условия и способы учета неопределенности при поддержке принятия решений на основе риск-ситуаций.

1.3.2 Обоснование использования гибридных нейро-нечетких моделей для создания программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

1.3.3 Требования к моделям интеллектуальной поддержки принятия решений на основе риск-ситуаций.

1.4 Анализ программных инструментальных средств и интеллектуальных систем поддержки принятия решений на основе рисков.

1.4.1 Анализ интеллектуальных систем поддержки принятия решений на основе рисков.

1.4.2 Анализ программных инструментальных средств разработки интеллектуальных систем поддержки принятия решений на основе рисков.

1.5 Постановка задачи исследования.

1.6 Выводы по разделу.

2 РАЗРАБОТКА СПОСОБА И МОДЕЛЕЙ ДЛЯ ИНТЕЛЛЕКТУАЛЬНОЙ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ НА ОСНОВЕ РИСК-СИТУАЦИЙ.

2.1 Структура и описание процесса управления риск-ситуациями.

2.2 Способ интеллектуальной поддержки принятия решений на основе риск-ситуаций.

2.2.1 Способ интеллектуальной поддержки принятия решений при последовательном управлении риск-ситуациями.

2.2.2 Способ интеллектуальной поддержки принятия решений при параллельном управлении риск-ситуациями.

2.3 Схема и обобщенный алгоритм взаимодействия моделей для интеллектуальной поддержки принятия решений на основе риск-ситуаций.

2.4 Модель риск-ситуаций.

2.4.1 Структура модели риск-ситуаций.

2.4.2 Процедура построения модели риск-ситуаций.

2.4.3 Процедура применения модели риск-ситуаций.

2.4.4 Перечень риск-ситуаций.

2.4.5 Критерий риска.

2.4.6 План реагирования на риски.

2.4.7 Перечень мероприятий.

2.4.8 Перечень состоявшихся риск-ситуаций.

2.5 Модель оценки риск-ситуаций и необходимости управления риск-ситуациями.

2.5.1 Оценка риск-ситуаций.

2.5.2 Оценка необходимости управления риск-ситуациями.

2.5.3 Применение модели.

2.6 Модель формирования ранжированных групп мероприятий для управления риск-ситуациями и способ выбора наиболее рационального мероприятия.

2.6.1 Построение модели.

2.6.2 Применение модели.

2.6.3 Выбор мероприятия из группы.

2.7 Выводы по разделу.

РАЗРАБОТКА ПРОГРАММНЫХ ИНСТРУМЕНТАЛЬНЫХ СРЕДСТВ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ НА ОСНОВЕ РИСК-СИТУАЦИЙ.

3.1 Структура и алгоритмы функционирования программных инструментальных средств поддержки принятия решений на основе риск-ситуаций.

3.1.1 Особенности программных инструментальных средств поддержки принятия решений на основе риск-ситуаций.

3.1.2 Структура программных инструментальных средств поддержки принятия решений на основе риск-ситуаций и структура базы знаний программных средств.

3.1.3 Алгоритмы функционирования программных инструментальных средств поддержки принятия решений на основе риск-ситуаций.

3.2 Методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций

3.3 Выводы по разделу.

4 РАЗРАБОТКА ПРОГРАММНЫХ СРЕДСТВ ИНТЕЛЛЕКТУАЛЬНОЙ

ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ НА ОСНОВЕ РИСК

СИТУАЦИЙ И ОЦЕНКА ЭФФЕКТИВНОСТИ ИХ

ИСПОЛЬЗОВАНИЯ.

4.1 Программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированных информационных системах.

4.1.1 Программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в АС «Профессиональные риски».

4.1.2 Программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в АИС «Контроль».

4.2 Оценка эффективности использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

4.2.1 Оценка эффективности использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в АС « Профессиональные риски».

4.2.2 Оценка эффективности использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в АИС «Контроль».

4.3 Внедрение результатов диссертационной работы в научно-исследовательских и опытно-конструкторских работах.

4.4 Выводы по разделу.

В настоящее время активно ведутся исследования в области создания программных средств и систем поддержки принятия решений на основе рисков. Однако их создание и использование наталкивается на ряд проблем, обусловленных, прежде всего, сложностью и масштабами процессов управления рисками, неясными и изменяющимися требованиями, необходимостью учета не только количественных показателей, но и показателей, плохо поддающихся формализации. Низкая структурированность задач управления рисками, их слабая формализуемость и высокая динамика изменений процессов приводит к значительной задержке при создании и адаптации программных средств поддержки принятия решений на основе рисков.

Это обуславливает необходимость расширения возможностей современных и перспективных компьютерных технологий, средств и систем, используемых для поддержки принятия решений на основе рисков. При этом все большее значение приобретает интеллектуальная поддержка принятия решений в условиях комплексного воздействия рискообразующих факторов, неопределенности системных и внешних параметров.

Неопределенность обусловлена тем, что значимая часть информации доступна в виде экспертных данных или в эвристическом описании процессов. Эта информация может быть разнокачественной, а оценка значений проводиться с помощью различных шкал. Другой аспект неопределенности связан с неясностью или нечеткостью выделения и описания переменных или отдельных состояний, а также входных и выходных воздействий.

В таких условиях поддержка принятия решений на основе рисков должна носить не только комплексный, но и интеллектуальный характер. Обязательным условием интеллектуальной поддержки принятия решений на основе рисков является минимизация вмешательства в процессы лица, принимающего решение (ЛИР), поскольку такое вмешательство является основным источником рискообразующих факторов, неточности и неопределенности системных и внешних параметров, значительно влияющих на эффективность процессов обработки данных и знаний.

Терминологический аппарат, применяемый в настоящее время для формализации основных понятий при управлении рисками, является довольно разобщенным, термины допускают различную трактовку, терминологическая база характеризуется слабой связанностью. Существует большое количество определений понятия «риск». Наиболее часто под риском понимается сочетание вероятности (частоты) нанесения ущерба и тяжести ущерба. При этом большинство характеристик, традиционно «приписываемых» к рискам (вероятность, ущерб, существенность, уровень значимости, приемлемость), непосредственно к самим рискам отношения не имеет. Так, если уровень риска относится к понятию «риск», то характеристики существенность, категория и приемлемость - к понятию «событие», которое характеризует риск, а уровень последствия - к мероприятиям, направленным на устранение результатов реализации этого события.

То есть существующие трактовки риска не позволяют характеризовать ни собственно события или ситуации, возникающие при появлении риска, ни его последствия и способы воздействия на него.

При этом непосредственно под управлением рисками понимается либо деятельность по снижению итогового ущерба для системы, либо мероприятия по страхованию от потенциального ущерба, либо устранение источников рисков, либо рекомбинация причинно-следственной связанности событий, несущих потенциальной ущерб для системы, что обуславливает необходимость уточнения терминологического аппарата и разработки моделей, которые должны стать основой разрабатываемых программных средств поддержки принятия решения на основе рисков.

Созданию и программной реализации методов и моделей поддержки принятия решений на основе рисков посвящены работы таких исследователей, как C.B. Артюхов, O.A. Базюкина, В.Ю. Королев, A.A. Кудрявцев, В.Е. Бенинг, С.Я. Шоргин, N. Crockford, Morgan, Granger и др.

Вместе с тем специфика задач интеллектуальной поддержки принятия решений требует, во-первых, развития моделей поддержки принятия решений на основе не просто рисков, а риск-ситуаций, во-вторых, создания способов и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в условиях неопределенности.

Исследования в области теории и практики создания программных средств интеллектуальных систем, в том числе экспертных систем, систем поддержки принятия решений основываются на работах отечественных ученых Д.А. Поспелова, А.Н. Аверкина, A.A. Башлыкова, В.Н. Вагина, В.В. Емельянова, А.П. Еремеева, Н. Г. Загоруйко, О.П. Кузнецова, В.М. Ку-рейчика, О.И. Ларичева, A.C. Нариньяни, Г.С. Осипова, А.Б. Петровского, Г.С. Плесневича, В.Э. Попова, Г.В. Рыбиной, В.А. Смирнова, В.Б. Тарасова, В.В. Троицкого, В.К. Финна, И.Б. Фоминых, В.Ф. Хорошевского и др.; зарубежных ученых J. Allen, С. Demetresku, R. Detcher, A. Gereviny, G. Italiano, A. Krokhin, I. Mein, L. Schubert, T. Saaty, T. Van Allen и др.

Среди подходов к учету различного типа неопределенности при интеллектуальной поддержке принятия решений на основе риск-ситуаций актуальным представляется использование методов теорий нечетких вычислений, нечетких множеств и отношений, нечеткой меры, нечеткой логики, нечеткого вывода и нечеткого моделирования, предложенных в работах JI.A. Заде (L.A. Zadeh), А.Е. Алтунина, И.З. Батыршина, А.Н. Борисова, JI.C. Бер-штейна, С.Я. Коровина, O.A. Крумберга, А.Н. Мелихова, С.А. Орловского, М.В. Семухина, В.Б. Силова, J.C. Bezdek, R. Bellman, J.L. Castro, D. Dubuis, A. Kaufmann, H. Larsen, E. Mamdani, H. Prade, M. Sugeno, T. Takagi, T. Terano, Y. Tsukamoto, R. Yager и др., а также развитие существующих и разработка новых нечетких и гибридных нечетких моделей, существенный вклад в создание которых внесли Л.Г. Комарцова , A.C. Федулов, Н.Г. Ярушкина,

R. Fuller, Y. Hayashi, D.J.Hunt, J.-S.R. Jang, J.M.Keller, B. Kosko, R. Krishnapuram, E.T. Lee, H.-M. Lee, S.C. Lee, J.M. Mendel, S. Mitra, S. Pal, W. Pedrycz, D. Rutkowski, L. Rutkowski, C.-T. Sun, L.X. Wang и др.

В то же время отсутствуют методики и инструментальное программное обеспечение разработки программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций с использованием моделей, позволяющих учесть комплексное воздействие рискообразующих факторов, неопределенность системных и внешних параметров на всех этапах жизненного цикла этих программных средств.

Таким образом, задача исследования и разработки способов и программных средств интеллектуальной поддержки принятия решений (ИГТПР) на основе риск-ситуаций, представляющих собой совокупность программных инструментальных средств и интеллектуальной системы, является актуальной и практически значимой.

Объектом исследования являются программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Предметом исследования являются способы и модели разработки программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Цель исследования заключается в повышении эффективности процессов обработки данных и знаний в компьютерных системах за счет создаваемых способов и программных средств интеллектуальной поддержки принятия решения на основе риск-ситуаций.

Научной задачей диссертационной работы является исследование и создание способов и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

Для этого необходимо решить следующие задачи.

1) Анализ задач и исследование способов, моделей, технологий и программных средств интеллектуальной поддержки принятия решений на основе рисков. 2) Разработка гибридной нечеткой модели риск-ситуации, позволяющей в программных средствах учесть комплексный характер и неопределенность рискообразующих факторов.

3) Разработка методики создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

4) Разработка способа интеллектуальной поддержки принятия решений на основе риск-ситуаций и моделей, предназначенных для программной реализации его этапов.

5) Создание программных инструментальных средств разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

6) Разработка программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

7) Оценка эффективности использования предлагаемых способа и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

В ходе работы над диссертацией использованы следующие методы исследования: методы анализа и проектирования программных средств, теории принятия решений, нечеткого вывода, нечеткого и нейро-нечеткого моделирования.

Обоснованность научных результатов, выводов и рекомендаций, сформулированных в работе, определяется корректным применением методов исследования.

Достоверность научных положений подтверждена соответствием теоретических положений и результатов экспериментов на основе компьютерного моделирования, сопоставлением полученных результатов с результатами, приведенными в научной литературе, а также итогами практического внедрения.

Научная новизна работы заключается в следующем.

1) Предложена методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций (совокупность программных инструментальных средств и интеллектуальной системы), позволяющая унифицировать разработку этих средств, сократить время на их проектирование, создание и ввод в эксплуатацию, а также обеспечивающая расширенные возможности по оперативной адаптации программных средств на всех этапах жизненного цикла этих средств без привлечения разработчика.

2) Спроектированы алгоритмы функционирования программных инструментальных средств разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций, обеспечивающие программную реализацию предложенных способа, моделей и методики.

3) Предложена гибридная модель риск-ситуаций, состоящая из нечеткого дерева отказов и нечеткой байесовой сети, и позволяющая в программных средствах интеллектуальной поддержки принятия решений учесть комплексный характер рискообразующих факторов, а также представление различного типа неопределенности системных и внешних параметров.

4) Разработаны способ интеллектуальной поддержки принятия решений на основе риск-ситуаций и гибридные нечеткие модели, предназначенные для программной реализации его этапов, учитывающие иерархический характер риск-ситуаций, а также возможность организации параллельной и последовательной схем принятия решений.

Практическую значимость работы составляют следующие результаты.

1) Структура базы знаний программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций, ориентированная на представление и реализацию предложенных моделей: риск-ситуаций; оценки риск-ситуаций и необходимости управления риск-ситуациями; формирования ранжированных групп мероприятий.

2) Программные инструментальные средства разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

3) Программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной системе информационного обеспечения управления профессиональными рисками и страхования профессиональных рисков (АС «Профессиональные риски»), обрабатывающие данные о более чем 80 млн. человек.

4) Программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной информационной системе интеграции всех уровней управления и контроля состояния охраны труда, промышленной, пожарной безопасности и охраны окружающей среды в филиалах, ДЗО/ВЗО ОАО «ИНТЕР РАО ЕЭС» (АИС «Контроль»),

На защиту выносятся:

1) Методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций.

2) Алгоритмы функционирования программных инструментальных средств разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

3) Гибридная нечеткая модель риск-ситуаций, позволяющая в программных средствах интеллектуальной поддержки принятия решений учесть комплексный характер и неопределенность рискообразующих факторов.

4) Способ интеллектуальной поддержки принятия решений на основе риск-ситуаций и модели, предназначенные для программной реализации его этапов.

Положения 1, 3, 4 соответствуют п.п. 9 и 17 паспорта специальности 05.13.11. положение 2 - п. 12.

Реализация результатов работы. По результатам работы разработаны и внедрены в промышленную эксплуатацию программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций:

- в АС «Профессиональные риски» (заказчик Министерство здравоохранения и социального развития Российской Федерации, Государственный контракт № 244 от 17.09.2009 г.);

- в АИС «Контроль» (заказчик ДЗО/ВЗО ОАО «ИНТЕР РАО ЕЭС», договор № ЗТ-1/05-12 от 12.05.2012 г.).

Основные положения диссертационной работы получены в рамках гранта РФФИ № 10-07-97506-рцентра «Методы и распределенные вычислительные алгоритмы нечеткого анализа данных в высокопроизводительных ассоциативных системах», 2010-2011 г.г., № гос. per. 012001171852.

Теоретические и практические результаты работы использованы при разработке нечетких и нейро-нечетких моделей формирования и обработки знаний в интеллектуальных системах поддержки принятия решений, а также при создании научно-методического и программного обеспечения в рамках следующих НИР и НИОКР:

Исследование и разработка нейро-нечетких моделей в сложных организационно-технических системах», НИР, ГОУВПО «МЭИ (ТУ)», договор №1028060, Москва, 2008 г.;

Разработка методического обеспечения оценки качества реализации нечётких вычислений для нейро-нечётких моделей сложных организационно-технических систем», НИР, Филиал ГОУВПО «МЭИ (ТУ)» в г. Смоленске, договор №48/08 от 08.07.2008 г., 2008 г.;

Разработка Концепции создания автоматизированной системы информационного обеспечения управления профессиональными рисками и системы страхования профессиональных рисков», НИР, Минзравсоцразвития России, Мероприятие 19 Ведомственной целевой программы в соответствии с «Перечнем мероприятий по снижению профессионального риска застрахованного по обязательному соцстрахованию от несчастных случаев на производстве и профессиональных заболеваний и оптимизации страховых тарифов на 2009 г.», утв. приказом Минзравсоцразвития России от 30.04.2009 г., № гос.рег. 01200959130, 2009 г.

Построение схемы информационного обмена с учетом требований законодательства Российской Федерации в области информационной безопасности и защиты персональных данных, а также определение состава и структуры данных, обеспечивающих полноту, актуальность и достоверность информации для управления профессиональными рисками, включая установление страховых тарифов (размера страховых взносов) для отдельных организаций в сфере страхования профессиональных рисков», НИР, Минзравсоцразвития России, Мероприятие 20 Ведомственной целевой программы в соответствии с «Перечнем мероприятий по снижению профессионального риска застрахованного по обязательному соцстрахованию от несчастных случаев на производстве и профессиональных заболеваний и оптимизации страховых тарифов на 2009 г.», утв. приказом Минзравсоцразвития России от 30.04.2009 г., № гос.рег. 01200959131, 2009 г.

Разработка перечня сведений для межведомственного информационного обмена по вопросам условий и охраны труда, производственного травматизма, профессиональной заболеваемости и уровням профессиональных рисков на федеральном уровне, уровне субъекта Российской Федерации и хозяйствующего субъекта», НИР, Минзравсоцразвития России, Мероприятие 21 Ведомственной целевой программы в соответствии с «Перечнем мероприятий по снижению профессионального риска застрахованного по обязательному соцстрахованию от несчастных случаев на производстве и профессиональных заболеваний и оптимизации страховых тарифов на 2009 г.», утв. приказом Минзравсоцразвития России от 30.04.2009 г., № гос.рег. 01200959129, 2009 г.

Исследование и разработка нечетких моделей и методов формирования и обработки знаний в интеллектуальных системах поддержки принятия решений», НИР, Федеральное агентство по образованию РФ, Аналитическая ведомственная целевая программа «Развитие научного потенциала высшей школы (2009-2010 годы)», Per. № проекта в программе 1.41.09, № гос.рег. 01200950521, 2009-2010 г.г.

Исследование и разработка методов и моделей распределенного представления и обработки данных и знаний в интеллектуальных системах ассоциативной памяти», НИР, Минобрнауки России, договор № 1042110, № гос. per. 01201067779, 2011-2013 г.г.;

Исследование и разработка методов и моделей интеллектуального управления рисками в сложных организационно-технических системах», НИР, Минобрнауки России, договор № 1043110, № гос. per. 01201067780, 2011-2013 г.г.;

Информационное, научно-методическое сопровождение и адаптация Автоматизированной информационной системы по обработке материалов комплексной аттестации рабочих мест под изменяющееся законодательство РФ», НИОКР, ООО «Газпром информ», договор № 111И-025/505 от 25.08.2011 г.

Организация аттестации рабочих мест по условиям труда работников, занятых в государственных и муниципальных учреждениях сферы образования и культуры, а также в медицинских организациях государственной и муниципальной систем здравоохранения в субъектах Российской Федерации, включая координацию проведения аттестации и оценку её качества, а также сбор, обобщение и анализ результатов аттестации рабочих мест по условиям труда, проведенной в рамках пилотного проекта, и подготовке предложений по использованию результатов аттестации рабочих мест в целях оценки профессиональных рисков», НИР, Минзравсоцразвития России, Государственный контракт № 108 от 17.04.2012 г.

Результаты работы используются в учебном процессе филиала МЭИ в г. Смоленске и Военной академии войсковой ПВО ВС РФ (г. Смоленск), что подтверждено соответствующими актами о внедрении.

Апробация результатов работы. Основные результаты работы докладывались и обсуждались на следующих конференциях: Конференция конкурса научных работ студентов «Росэнергоатом: знания молодых ядерщиков - атомным станциям» (Обнинск, 2008); V и VI межрегиональные научно-технические конференции студентов и аспирантов «Информационные технологии, энергетика и экономика» (Смоленск, 2008, 2009); X и XII международные научные конференции «Системы компьютерной математики и их приложения» (Смоленск, 2009, 2011); XV международная научно-техническая конференция студентов и аспирантов «Радиоэлектроника, электротехника и энергетика» (Москва, 2009); XVIII Военно-научная конференция «Проблемы теории и практики развития войск ПВО СВ в современных условиях» (Смоленск, 2011).

Публикации. По результатам диссертационной работы опубликовано 15 работ, в том числе 3 статьи в изданиях из перечня ВАК. Результаты диссертации также отражены в 10 отчетах о НИР и НИОКР.

Структура и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы, включающего 111 наименований. Диссертация содержит 170 страниц машинописного текста, 47 рисунков, 18 таблиц, 2 приложения.

4.4 Выводы по разделу

Рассмотрены результаты внедрения разработанных программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированные информационные системы АС «Профессиональные риски» (заказчик Минздравсоцразвития РФ) и АИС «Контроль» (заказчик ДЗО/ВЗО ОАО «ИНТЕР РАО ЕЭС»).

Проведена оценка эффективности и обосновано достижение управленческого и экономического эффекта за счет использования разработанных программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в составе автоматизированных информационных систем АС «Профессиональные риски» и АИС «Контроль».

Представлены итоги внедрения результатов диссертации в научно-исследовательских и опытно-конструкторских работах, а также в учебных процессах вузов.

ЗАКЛЮЧЕНИЕ

В результате выполнения работы решена научная задача исследования и создания способов и программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций для повышения эффективности процессов обработки данных и знаний в компьютерных системах.

Основными результатами диссертационной работы являются следующие.

1) Выполнен анализ задач и исследованы способы, модели, технологии и программные средства интеллектуальной поддержки принятия решений на основе рисков.

2) Предложен способ интеллектуальной поддержки принятия решений на основе риск-ситуаций, а также его модификации, отличающиеся возможностью учета различных типов иерархической подчиненности системы, и позволяющие осуществлять как последовательное, так и параллельное управление риск-ситуациями.

3) Предложена гибридная модель риск-ситуаций, состоящая из нечеткого дерева отказов и нечеткой байесовой сети, и позволяющая учесть комплексный характер рискообразующих факторов, а также представление различного типа неопределенности системных и внешних параметров, применяемая как при оценке риск-ситуаций, так и при моделировании мероприятий.

4) Разработаны модели для программной реализации этапов предложенного способа интеллектуальной поддержки принятия решений на основе риск-ситуаций, в том числе модели: оценки риск-ситуаций и необходимости управления риск-ситуациями; формирования ранжированных групп мероприятий.

5) Разработана структура программных инструментальных средств поддержки принятия решений на основе риск-ситуаций, включающая в себя: базу знаний; оперативную базу данных; детектор риск-ситуаций; модуль поддержки принятия решений; ядро «мероприятий».

6) Предложена структура базы знаний программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций, ориентированная на представление и реализацию разработанных моделей: риск-ситуаций; оценки риск-ситуаций и необходимости управления риск-ситуациями; формирования ранжированных групп мероприятий.

7) Разработаны алгоритмы функционирования программных инструментальных средств поддержки принятия решений на основе риск-ситуаций, в том числе, алгоритмы функционирования детектора риск-ситуаций, модуля поддержки принятия решений, ядра «мероприятий».

Предложенные алгоритмы и структура программных инструментальных средств обеспечивают создание таких средств, обладающих возможностью создания на их базе интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

8) Предложены программные инструментальные средства разработки интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

9) Предложена методика создания и использования программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций, позволяющая унифицировать разработку этих средств, сократить время на их проектирование, создание и ввод в эксплуатацию, а также обеспечивающая расширенные возможности по оперативной адаптации программных средств на всех этапах жизненного цикла этих средств без привлечения разработчика.

10) Разработаны программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной системе информационного обеспечения управления профессиональными рисками и страхования профессиональных рисков (заказчик Минздравсоцразвития России).

11) Разработаны программные средства интеллектуальной поддержки принятия решений на основе риск-ситуаций в автоматизированной информационной системе интеграции всех уровней управления и контроля состояния охраны труда, промышленной, пожарной безопасности и охраны окружающей среды в филиалах, ДЗО/ВЗО ОАО «ИНТЕР РАО ЕЭС».

12) Проведена оценка эффективности и обосновано достижение управленческого и экономического эффекта за счет использования разработанных программных средств интеллектуальной поддержки принятия решений на основе риск-ситуаций в составе автоматизированных информационных систем АС «Профессиональные риски» и АИС «Контроль».

Направлениями дальнейших исследований является:

- развитие способов и моделей интеллектуальной поддержки принятия решений при управлении рисками, ориентированных на программную реализацию в различных предметных областях;

- создание инструментальных средств для разработки и адаптации интеллектуальных систем поддержки принятия решений на основе риск-ситуаций.

1. Аверкин А. Н., Костерев В. В. Триангулярные нормы в системах искусственного интеллекта// Известия Академии наук. Теория и системы управления, 2000. №5 С. 106-109.

2. Аверкин А.Н., Прокопчина C.B. Мягкие вычисления и измерения // Интеллектуальные системы, Т. 2, Вып. 14. 1997. С. 93-114.

3. Акулич И. JI. Математическое программирование в примерах и задачах: Учеб. пособие для студентов эконом, пец. вузов. — М.: Высшая школа, 1986.

4. Алтухов A.B. Формирование нечетких правил типа Takagi-Sugeno по результатам нечеткой кластеризации // Вестник ВГУ. Серия системный анализ и информационные технологии. Воронеж, 2008. — №1. С. 44-50.

5. Барсегян A.A., Куприянов М.С., Степаненко В.В., Холод И.И. Методы и модели анализа данных: OLAP и Data Mining. БХВ-Петербург, 2004. - 336 с.

6. Батыршин И.З. Основные операции нечеткой логики и их обобщения. Казань, Отечество, 2001.

7. Бахтизин В.В. Эффективность программных средств и ее оценка // Доклады БГУИР. 2007. №2(18). - С. 128 - 133.

8. Бобряков A.B. Гибридная сеть для реализации нечетких моделей с MIMO-структурой// Нейрокомпьютер: разработка, применение. 2007. №1. - С. 12-16.

9. Борисов А.Н., Алексеев A.B., Крумберг O.A. и др. Модели принятия решений на основе лингвистической переменной. Рига: Зинатне, 1982.

10. Борисов А.Н., Крумберг O.A., Федоров И.П. Принятие решений на основе нечётких моделей: Примеры использования. Рига: Зинатне, 1990. - 184 с.

11. Борисов В.В. Подход к оценке возможностей выполнения задач организационно-техническими системами / В.В.Борисов, О.В.Балашов // Сб. трудов ВУ ВПВО ВС РФ. Смоленск: Изд-во ВУ ВПВО ВС РФ, № 7. 2002.

12. Борисов В.В. Гибридизация интеллектуальных технологий для аналитических задач поддержки принятия решений// Нейрокомпьютеры: разработка, применение, 2011, № 8. С. 4-9.

13. Борисов В.В., Зернов М.М. Определение совокупности нечетких моделей для решения комплексной задачи поддержки принятия решений// Вестник МЭИ, №1, 2011. С. 74—85.

14. Борисов В.В., Сеньков A.B. Интеллектуальное управление рисками в сложных организационно-технических системах // Информационные технологии, 2011, № 10. -С. 47-51.

15. Сеньков A.B., Бобряков A.B., Раскатова M.B. и др. Способ управления рисками в сложных системах // Технические и естественные науки, 2012 (в печати).

16. Борисов В.В., Федулов A.C. Способы интеграции нечетких и нейронных сетей // Нейрокомпьютеры: разработка и применение. 2007. — №1. -С. 5-11.

17. Борисов В.В., Круглов В.В., Федулов A.C. Нечеткие модели и сети. М.: Горячая линия - Телеком, 2007. - 312 с.

18. Варшавский П.Р., Еремеев А.П. Методы правдоподобных рассуждений на основе аналогий и прецедентов для интеллектуальных систем поддержки принятия решений // Новости Искусственного Интеллекта. 2006. № 3. - С. 39 - 62.

19. Вагин В.Н.,Еремеев А.П. Некоторые базовые принципы построения интеллектуальных систем поддержки принятия решений реального времени.// Изв. РАН. Теория и системы управления, 2001, N6, с.114-123.

20. Ветошкин А.Г. Надёжность технических систем и техногенный риск. Пенза: ПГУАиС, 2003.

21. Гайдышев И. Анализ и обработка данных: специальный справочник / И. Гайдышев. -СПб.: Питер, 2001. 752 с

22. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация. Пер. с англ. — М.: Мир, 1985.

23. ГОСТ Р 51897-2002 Менеджмент риска. Термины и определения.

24. ГОСТ Р 51898-2002 Аспекты безопасности. Правила включения в стандарты.

25. Доклад Министерства здравоохранения и социального развития Российской Федерации «О реализации государственной политики в области условий и охраны труда в Российской Федерации в 2008 году». М. 2009.

26. Дюбуа Д., Прад А. Теория возможностей. Приложения к представлению знаний в информатике. - М.: Радио и связь, 1990. - 287 с.

27. Жиглявский А. А., Жилинкас А. Г. Методы поиска глобального экстремума.— М.: Наука, Физматлит, 1991.

28. Заде JI. Понятие лингвистической переменной и его применение к принятию приближенных решений. М.: Мир, 1976.

29. Заде J1.A. Основы нового подхода к анализу сложных систем и процессов принятия решений // Математика сегодня. М.: Знание, 1974. - С. 5—49.

30. Калькис В., Кристинын И., Роя Ж. Охрана труда - Основные направления оценки рисков рабочей среды. - Рига: SLA «Jelgavas tipogräfija» - СПб, 2006.

31. Королев В.Ю., Беннинг В.Е., Шоргин С.Я. Математические основы теории риска: Учебн. пособ. 2-е изд., перераб. и доп. - М.: Физматлит, 2011. - 620 с.

32. Комарцова Л.Г., Максимов A.B. Нейрокомпьютеры: Учеб. пособие для вузов. 2-е изд., перераб. и доп. - М.: Изд-во МГТУ им. Н.Э. Баумана, 2004. - 400 с.37.