автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Методы и алгоритмы исследования эффективности сложных иерархических систем

кандидата технических наук
Моргунова, Ольга Николаевна
город
Красноярск
год
2006
специальность ВАК РФ
05.13.01
Диссертация по информатике, вычислительной технике и управлению на тему «Методы и алгоритмы исследования эффективности сложных иерархических систем»

Автореферат диссертации по теме "Методы и алгоритмы исследования эффективности сложных иерархических систем"

На правах рукописи

Моргунова Ольга Николаевна

МЕТОДЫ И АЛГОРИТМЫ ИССЛЕДОВАНИЯ ЭФФЕКТИВНОСТИ СЛОЖНЫХ ИЕРАРХИЧЕСКИХ СИСТЕМ

05Л3.01 - Системный анализ, управление и обработка информации

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Красноярск — 2006

Работа выполнена в Государственном образовательном учреждении высшего профессионального образования «Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева», г, Красноярск

Научный руководитель:

Официальные оппоненты:

Ведущая организация:

доктор технических наук, профессор Антамошкин Александр Николаевич

доктор технических наук, профессор Охорзин Владимир Афанасьевич

доктор технических наук, профессор Лапко Александр Васильевич

Санкт-Петербургский государственный политехнический университет

Защита состоится «9» ноября 2006 года в 14 часов на заседании диссертационного совета Д 212.249.02 при Сибирском государственном аэрокосмическом университете имени академика М. Ф. Решетнева по адресу: 660014, г. Красноярск, проси, им. газеты «Красноярский рабочий», 31

С диссертацией можно ознакомиться в библиотеке Сибирского государственного аэрокосмического университета им. академика М. Ф. Решетнева

Автореферат разослан « б » октясря 2006 г.

Ученый секретарь диссертационного совета

И. В. Ковалев

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность работы. Эффективность — одно из важнейших качеств, характеризующих системы любой природы. Поэтому проблеме исследования эффективности функционирования систем во всех сферах деятельности человека в последние годы уделяется повышенное внимание. Для проведения таких исследований используются разные подходы, в зависимости от предметной области. Однако разработан и ряд методов, которые используются для оценки эффективности объектов в довольно широких классах систем. Одним из таких методов является Data Envelopment Analysis (DEA), который был разработан в 1978 г. американскими учеными A. Chames, W, W. Cooper, Е. Rhodes. В последние 25 лет он широко применяется для оценки эффективности функционирования сложных объектов в различных сферах. Метод становится все более популярным и в России (см., например, работы В. Е. Кривоножко, Г. В. Выгон, А. Б. Поманского и др.). В качестве его русскоязычного названия предложено такое — «анализ среды функционирования (АСФ)» (В. Е. Кривоножко и др.).

Для получения более обоснованной оценки текущей эффективности функционирования сложной системы и прогнозирования ее будущей эффективности желательно принять во внимание структуру системы. В том случае, когда система является иерархической, это означает, что необходимо учитывать эффективность подсистем на различных уровнях иерархии для того, чтобы получить обоснованную оценку эффективности всей системы. Очевидно, что процедуру оценки эффективности сложных иерархических систем было бы целесообразно представить в виде формализованной методики. Представляется возможным построить такую методику на основе метода DEA-АСФ.

Однако метод DEA-АСФ имеет следующую особенность: он позволяет оценивать только относительную эффективность объектов, т. е. эффективность их по сравнению друг с другом. Следовательно, необходимо модифицировать метод с тем, чтобы получаемые оценки эффективности можно было считать абсолютными (с некоторой долей условности)- Тогда появилась бы возможность агрегировать оценки эффективности объектов в подсистемах на разных уровнях иерархии в единую интегральную оценку внутренней эффективности исследуемой системы.

Таким образом, формализованная методика, построенная на основе модифицированного метода DEA-АСФ, могла бы служить инструментом повышения качества управления сложными иерархическими системами.

Цель работы состоит в повышении качества управлепия сложными иерархическими системами.

Поставленная цель определила следующие задачи.

1. Проанализировать подходы к исследованию эффективности сложных иерархических систем, а также конкретные методы, применяемые для проведения таких исследований.

2. Модифицировать метод DEA-АСФ: разработать комплекс алгоритмов и формализованную методику формирования искусственных эталонных границ эффективности на основе обобщения индивидуальных экспертпых оценок.

3, Разработать формализованную методику исследования эффективности сложных иерархических систем на основе модифицированного метода БЕА-АСФ.

4, Разработать автоматизированную систему поддержки принятия реше-пий (СППР), реализующую предложенную методику.

5, Провести апробацию разработанной методики на примере объектов системы высшего профессионального образования.

Методы исследования. При выполнении диссертационной работы использовались методы системного анализа, метод ЮЕА-АСФ, теория принятия решений, методы экспертных оценок, теория баз данных.

Научная новизна диссертационной работы состоит в следующем.

1. Впервые предложен комплекс алгоритмов формирования искусственных эталонных границ эффективности в методе ОЕА-АСФ на основе обобщения индивидуальных экспертных оценок. Алгоритмы построены с учетом специфики обобщаемых объектов, т. е. границ эффективности, имеющих форму выпуклой оболочки (выпуклого конуса) в многомерном пространстве входных и выходных переменных.

2, Разработана формализованная методика формирования искусственных эталонных границ эффективности для решения задач методом ОЕА-АСФ. Методика включает в себя комплекс предложенных алгоритмов обобщения индивидуальных экспертных оценок, а также ряд вспомогательных алгоритмов, упрощающих работу экспертов. Предложенная методика повышает качество работы экспертов и обоснованность результирующих искусственных эталонпых границ эффективности за счет регламентирования и формализации всех этапов получения групповых экспертных оценок.

3. Предложен новый алгоритм перераспределения ресурсов в подсистеме иерархической системы, построенный на основе метода ОЕА-АСФ. Алгоритм позволяет выработать рекомендации по повышению интегральной эффективности подсистемы за счет минимизации суммарных (по всем объектам в подсистеме) дефицитов выпусков при различных вариантах распределения ресурсов.

4, Разработана формализованная методика исследования эффективности сложных иерархических систем. С основу методики положен метод СЕА-АСФ, модифицированный посредством использования искусственных эталонных границ эффективности, построенных путем обобщения индивидуальных экспертных оценок. Результаты оценки и прогноза эффективности системы, а также рекомендации по ее повышению представляются в наглядной форме благодаря использованию специально разработанных алгоритмов, позволяющих уменьшить объем информации, предоставляемой ЛПР.

Практическая ценность работы и реализация полученных результатов. Разработанная СППР, а также предложенные в диссертационной работе алгоритмы и методики ориентированы на практическое применение в различных предметных областях, в которых сложные объекты организованы в виде иерархических систем, в частности, в сфере высшего профессионального образования (как в органах управления отраслью в целом, так и в системах управления отдельными учреждениями). На основе предложенных алгоритмов и мето-

дик разработано программное обеспечение, позволяющее решать практические задачи, связанные с оценкой и повышением эффективности иерархических систем. Разработанная СППР позволяет повысить обоснованность принимаемых решений по управлению многоуровневыми иерархическими системами.

Результаты диссертационной работы и разработанная СППР используются в ходе курсового и дипломного проектирования в Сибирском государствеп-ном аэрокосмическом университете (СибГАУ), г. Красноярск. Материалы диссертационной работы введены в учебный курс «Проектирование сложных систем» в СибГАУ.

Основные положения, выносимые па защиту:

1. Модифицированный метод DEA-ACO может успешно применяться для разработки методики исследования эффективности сложных иерархических систем.

2. Комплекс алгоритмов формирования искусственных эталонных границ эффективности в методе DEA-ACO позволяет на основе обобщения индивидуальных экспертных оценок сформировать результирующую границу эффективности, удовлетворяющую требованиям метода DEA-АСФ.

3. Формализованная методика формирования искусственных эталонных границ эффективности для решения задач методом DEA—АСФ повышает качество работы экспертов и обоснованность результирующих искусственных эталонных границ эффективности за счет регламентирования и формализации всех этапов получения групповых экспертных оценок.

4. Алгоритм перераспределения ресурсов, построенный на основе метода DEA-ACO, облегчает решение задачи управления ресурсами в сложной иерархической системе.

5. Формализованная методика исследования эффективности сложных иерархических систем, основанная на модифицированном методе DEA-АСФ, является действенным средством повышепия качества управления системами данного класса.

Апробация работы. Основные результаты диссертационной работы докладывались и обсуждались на следующих конференциях:

— IX и X Международные научно-практические конференции «Системный анализ в проектировании и управлении» (г. Санкт-Петербург, Санкт-Петербургский государственный политехнический университет, 2005 и 2006

— VI и VII Всероссийские научно-технические конференции «Теоретические и прикладные вопросы современных информационных технологий» (г. Улан-Удэ, Восточно-Сибирский государственный технологический университет, 2005 и 2006 г.г.);

— Всероссийская научно-практическая конференция «ГГ-инновации в образовании» (г. Петрозаводск, Петрозаводский государственный университет, 2005 г.);

— Международная научно-методическая конференция «Развитие системы образования в России XXI века» (г. Красноярск, Красноярский государственный университет, 2003 г.).

Основные положения диссертационной работы и работа в целом обсуждались на научных семинарах кафедр «Системного анализа и исследования операций» и «Информатики и вычислительной техники» Сибирского государственного аэрокосмического университета (2004-2006 г.г.), а также на заседаниях Научно-технического совета Научно-исследовательского института систем управления, волновых процессов и технологий (2004—2005 г.г.).

Публикации. По результатам работы опубликовало 13 статей и докладов, в т. ч. 2 работы в издании, включенном в список изданий, рекомендованных ВАК для опубликования результатов диссертационных исследований. Список работ автора по теме диссертации приведен в конце автореферата.

Структура и объем работы. Диссертация состоит из введения, трех разделов, заключения, списка использованных источников (110 наименований) и приложения, В приложении представлены дополнительные материалы, поясняющие возможности метода БЕА-АСФ.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность работы, сформулирована цель и поставлены задачи исследования, показапа научная новизпа и практическая ценность выполненных исследований, представлены основные положения, выносимые на защиту.

В первом разделе рассмотрены основные проблемы, возникающие при исследовании эффективности сложных систем в различпых предметных областях. Проведен анализ подходов, применяемых для проведения таких исследований, Показаны различия в подходах и применяемых методах в таких важных областях деятельности человека как техническая сфера и социально-экономическая сфера. Выявлено, что при исследовании эффективности технических систем основным является стохастический подход, при котором показатели эффективности имеют вероятностный характер, т. е. определяются как вероятность достижения заданной цели. При этом вводятся концепции пригодности, оптимальности и адаптивности, па основании которых уточняется цель и производится установление критериев эффективности исследуемых объектов. В социально-экономической сфере преобладающим, но не единственным, является детерминированный подход.

Было предложено относить инструментарий, применяемый для исследования эффективности, к одному из трех уровней: базовому уровню (теория множеств, теория графов, математическое программирование, теория дифференциальных уравнений, статистические методы и др.); уровню специализированных методов исследования эффективности, которые строятся на основе инструментария первого уровня (например, теория производственных функций, имитационное моделирование); макроуровню, к которому можно отнести комплексные методики, включающие целый ряд инструментов первых двух уровней и предназначенные для исследования сложных систем.

Проведенный анализ показал, что инструментарий макроуровня целесообразно дополнить специализированной методикой, предназначенной для ис-

следовгшия эффективности сложных иерархических систем. На основании сравнительного анализа известных методов оценки эффективности в качестве базового метода для разработки методики был выбран метод БЕА-АСФ.

Данный метод является, по сути, способом оценки производственной функции, которая в практической реальности неизвестна. Метод БЕА-АСФ основан на построении так называемой границы эффективности, которая и является аналогом производственной функции для случая, когда выпуск не скалярный» а векторный. Эта граница имеет форму выпуклой оболочки или выпуклого конуса в пространстве входных и выходных переменных, описывающих каждый объект в исследуемой совокупности. Граница эффективности используется в качестве эталона для получения численного значения показателя эффективности каждого из оцениваемых объектов. Степень эффективности объектов определяется степенью их близости к границе эффективности в многомерном пространстве входов/выходов. Способ построения границы эффективности - многократное решение задачи линейного программирования.

Поясним основную идею метода РЕА-АСФ на примере процесса производства одного вида продукции у из двух видов ресурсов и хг (см. рисунок 1), Для упрощения иллюстрации будем считать эффект масштаба постоянным. Это допущение позволит нам использовать двухмерный график, по осям координат которого откладываются удельные затраты ресурсов.

Пусть объект (фирма) Р использует ресурсы в объемах, соответствующих точке Р на рисунке 1. Точка Q является проекцией точки Р на границу эффективности. Длина отрезка QP представляет собой величину, па которую могут быть пропорционально сокращены объемы затрат ресурсов х\ и х% без уменьшения объема выпуска у. Такой подход к определепию эффективности называется ориентированным на вход (в оригинале - input-oriented). Тогда техническая эффективность объекта (фирмы) Р будет определяться как TEF = 0Q/0P. На рисунке 1 точки А, В, С и D - эффективные, а точка Р - неэффективная.

Рассмотрим суть метода DEA-АСФ на примере одной из его моделей. Пусть имеются данные для К входных параметров и М выходных параметров для каждого из N однородных объектов (например, фирм, банков, вузов). Для i-го объекта они представлены вектор-столбцами х( и yt соответственно. Тогда матрица Хразмерности К х N и матрица У размерности My.N представляют со-

бой матрицы входных и выходных параметров для всех N объектов. Модель формулируется в виде задачи линейного программирования в такой форме:

тт^З),

0х{-ХЛ7> О, А >0,

где 0 - скаляр, а X является вектором констант размерпости N х 1. Значение £?, полученное при решении задачи, и будет мерой эффективности /-го объекта. При этом эффективность не может превышать единицы. Аналогичная задача решается N раз, т.е. для каждого объекта. Те объекты, у которых значение показателя эффективности 0= 1, находятся на границе эффективности. Для объектов с О < 1 выдаются рекомендации по выведению таких объектов на границу эффективности за счет пропорционального сокращения объемов затрачиваемых ими ресурсов при сохранении значений выходных переменных на прежнем уровне. Поэтому приведенная модель называется моделью, ориентированной на вход. Часть элементов вектора Я имеют ненулевые значения. Эти элементы соответствуют тем объектам, которые являются эталонными для оцениваемого объекта. Линейная комбинация эталонных объектов (XX, YX) и образует гипотетический объект, находящийся на границе эффективности и являющийся проекцией реального неэффективного объекта и целью для него.

Аналогично строится и модель, ориентированная на выход (в оригинале -output-oriented). Рекомендации, выдаваемые ею для неэффективных объектов, касаются увеличения значений их выходных переменных при сохранении значений входных переменных на прежнем уровне. Показателем эффективности является скаляр

-fat+YX'Z 0, х( - XX £ 0, А £ 0.

Метод DEA—АСФ имеет ряд привлекательных свойств, в том числе:

- он позволяет вычислить один агрегированный показатель эффективности для каждого объекта, не требуя при этом априорного задания весовых коэффициентов для переменных, используемых в анализе;

- метод не налагает никаких ограничений на функциональную форму зависимости между входами и выходами, поскольку кусочно-линейная граница эффективности является непараметрической;

- множество эффективных объектов является оптимальным по Парето.

Метод DEA-ЛСФ, при всех его положительных свойствах, имеет ограничение, а именно: он позволяет получить показатель только относительной эффективности объектов путем сопоставления их друг с другом. Для преодоления указанного ограничения ранее уже предлагалось формировать искусственную границу эффективности для сопоставления с ней реальных объектов. Сформировать искусственную границу эффективности означает — сформировать матрицы входов Хп выходов Г" для совокупности объектов, которые будут служить в качестве эталонных объектов. Такая процедура проводится с привлечением экспертов. Однако каких-либо методов обобщения индивидуальных экспертных оценок при формировании искусственных границ эффективности в известных работах предложено не было. Метод DEA-ЛСФ может стать осповой методики исследования эффективности сложных иерархических систем при условии повышения достоверности искусственных границ эффективности.

Решению этой задачи посвящен второй раздел диссертации. Пусть сформирована группа из Р экспертов рк% к - 1, ,,., Р. Уровни компетентности hk всех экспертов должны быть определены заранее с помощью одного из известных методов. Каждый эксперт pt формирует свою искусственную границу эффективности, т. е. матрицу входов X* размерности К х N^ и матрицу выходов У* размерности Мх Nk для совокупности объектов Ок = i = 1, Nk, которые будут служить в качестве эталонных объектов. Число строк во всех матрицах Xk одинаковое и равно числу входных переменных К. Число строк во всех матрицах Yk также одинаковое и равно числу выходных переменных М. Однако число столбцов в этих матрицах в общем случае не является одинаковым, т. е. Nk & const для всех k ~ 1, Р, поскольку эксперты не обязаны формировать одинаковое число эталонных объектов.

Требуется па основе индивидуальных экспертных границ эффективности:

1) сформировать обобщенную границу эффективности;

2) определить величину разброса мнений экспертов;

3) определить степень несогласованности мнения отдельного эксперта с обобщенным мнением группы.

Отличием поставленной задачи от традиционной задачи обобщения индивидуальных экспертных оценок является структура объектов, подлежащих обобщению: это не точки, а области в многомерном пространстве, имеющие форму выпуклой оболочки или выпуклого конуса.

Особенностью предлагаемого подхода к решению поставленной задачи является то, что обобщенную границу эффективности предполагается сконструировать (собрать)' из эталонных объектов, уже сформированных отдельными экспертами. Таким образом, никаких новых точек в многомерном пространстве входных и выходных переменных не порождается. Идея предлагаемого подхода в том, чтобы сначала разделить все множество индивидуальных границ эффективности на так называемые «слои эффективности», а затем выбрать один из них в качестве обобщенной границы эффективности. Иллюстрация решения данной задачи для случая, когда выход и вход объектов — скалярные, представлена на рисунке 2.

Индивидуальные экспертные Сформированные

границы эффективности «слои эффективности»

Рисунок 2 — Формирование «слоев» в пространстве входов/выходов

Алгоритм формирования «слоев эффективности» в пространстве входов/выходов.

Шаг 1, Сформировать матрицу X = {Хх Х2 ... ХР) размерностиKxN и матрицу У - У2 ... Ур) размерпости Мх N. где N = Х^ЛГ* •

р

Шаг 2. Для полученной объединенной совокупности объектов О0 = ]^}Ок

определить значения показателя эффективности, используя выбранную модель метода ПЕА-ЛСФ.

Шаг 3. Объекты, для которых <9=1, образуют искусственную границу эффективности первого уровня. Объединить их в множество Сформировать совокупность 0\ = Оо \

Если 0{ Ф 0, то переформировать матрицы Хш У путем удаления столбцов, соответствующих эффективным объектам, и перейти к шагу 2. Однако выполнять его следует уже для новой совокупности 0\.

Повторять шаги 2 и 3, формируя искусственные границы Р) и переформировывая совокупность О,, до тех пор, пока 0} Ф 0.

Если О] -- 0, то завершить работу алгоритма.

Результат: множество искусственных границ («слоев») эффективности {^/Ъу = 1» общем случае^^Р).

Алгоритм определения обобщенной границы эффективности (принцип средней арифметической оценки). Получив множество «слоев эффективности», можно перейти к следующему этапу — решению задачи определения обобщенной границы эффективности. В данном случае обобщенная граница является аналогом выборочного среднего в традиционной постановке задачи. Особенность заключается в том, что средняя граница эффективности не формируется, а выбирается из множества Е = {У5}}- Расстояния в пространстве входов/выходов определяются в терминах показателя эффективности в.

Шаг 1. Сформировать совокупность 0^= Оо — 1, У.

Шаг 2. Вычислить О для всех объектов из Oj относительно границы У*}. При этом часть значений $ будут больше 1, а часть — меньше 1 (для внешней границы эффективности все значения в{ будут меньше 1, а для внутренней границы эффективности ^все зпачения будут больше 1).

ШагЗ. Вычислить среднее отклонение значений 0t от 1 (т. е. от среднего).

Если уровни компетентности экспертов одинаковые, то

Hj ¿-1

где rij = card Oj.

Если уровни компетентности hk (k= 1,Р) экспертов неодинаковые, то

Ttj ¡-1

где И — уровень компетентности эксперта, сформировавшего i-ю точку.

Суть предлагаемого способа учета уровней компетентпости экспертов в том, чтобы влияние точек на показатель разброса Д, относительно результирующей границы эффективности было тем больше, чем выше уровень компетентности экспертов, сформировавших эти точки.

Шаг 4. Если значение j < У, то увеличить индекс j на 1 и повторить шаги 1,2 и 3, в противном случае перейти к шагу 5.

Шаг 5. В качестве результирующей (средней) границы Fcp выбрать границу FJt для которой показатель Aj имеет минимальное абсолютное значение:

Д = ттД>|,у' = 1,

Обоснование для указанного способа определения результирующей границы эффективности следующее. Известно, что сумма отклонений значений элементов выборки от среднего равна нулю. В данном случае используется этот же принцип, но с поправкой на то, что точное равенство нулю может быть достигнуто лишь случайным образом, поскольку новых точек в процессе обобщения индивидуальных экспертных границ эффективности не формируется, а используются уже существующие точки. Поэтому приходится ограничиться минимумом абсолютного значепия среднего отклонения.

Определение величины разброса мнений экспертов. Величину разброса мнений экспертов предлагается оценивать с помощью вычисления показателя, аналогичного дисперсии в традиционной постановке задачи. Такой показатель может быть полезен в том случае, когда к работе привлекается две и более групп экспертов и появляется необходимость выбора одной группы, В качестве одного из критериев выбора экспертной группы и может быть использовано значение данного показателя: чем оно меньше, тем выше степень согласованности мнений экспертов группы. Алгоритм вычислений показателя таков.

Шаг 1. Сформировать совокупность О = Oq \ Fcp, где Fcp. — результирующая граница.

Шаг 2. Вычислить значение 0 для всех объектов из О относительно границы Fcp. В общем случае часть значений показателя эффективности будут больше 1, а часть - меньше 1.

Шаг 3. Вычислить среднее значение квадратов расстояний точек совокупности О от границы Fcp.

Если уровни компетентности экспертов одинаковые, то

где и — число объектов (точек) в совокупности О , т. е, п = card О .

Если уровни компетентности Л* (к — 1, ...,Р) экспертов пеодинаковые, то

и <=1

где ht - уровень компетентности эксперта, сформировавшего j'-ю точку.

Использование разности 0t — 1 объясняется тем, что точки, лежащие на границе эффективности Fcpi имеют значение

Определение степени несогласованности мнения отдельного эксперта с обобщенным мнением группы. В качестве такого показателя используем показатель, аналогичный дисперсии в традиционной постановке задачи.

Шаг 1. Вычислить значения 0t для всех точек индивидуальной границы эффективности Ft, сформированной к-и экспертом, относительно границы Fcp. В общем случае часть значений показателя эффективности будут больше 1, а часть —меньше 1.

Шаг 2. Вычислить среднее значение квадратов расстояний этих точек от границы Fcp.

Если уровни компетентности экспертов одинаковые, то Iй*

где щ — число точек, сформированных к-м экспертом.

Если уровни компетентности 7г* (к — 1,Р) экспертов неодинаковые, то

пк м

где hk - уровень компетентности к-го эксперта.

Предложенные алгоритмы объединены в методику формирования искусственных эталонных границ эффективности, основные положения которой представлены ниже.

Этап 1. Подбор экспертов и формирование экспертных групп. Этап 2. Постановка задачи перед экспертами. Возможны два принципиально различных типа задач.

1. Формирование одинарной искусственной границы эффективности для оценки эффективности объектов.

2. Формирование группы искусственных границ эффективности для проведения классификации объектов на основе их эффективности,

Этап 3. Формирование правил определения суммарных оценок на основе оценок отдельных экспертов.

Определить уровни компетентности экспертов hk (к~ 1,F). Этап 4. Работа с экспертами.

Результат: непосредственное получение оценок, сформированных экспертами.

Форма представления информации каждым экспертом р^' матрицы входных и выходных У* переменных для всех эталонных объектов.

Этап 5. Анализ и обработка экспертных оценок.

1. Определить обобщенную границу эффективности с учетом уровней компетентности экспертов.

2. Если были сформированы несколько групп экспертов, то выбрать одну из них на основе показателей согласованности мнений экспертов в каждой группе: разброса индивидуальных оценок и и вариационного размаха К. Выбор провести на основе принципа Пар ето - о пти мал ьности, учитывая, что критерии О и Я негативные.

3. Определить степень несогласованности мнения каждого эксперта «рабочей» группы с обобщенным мнением этой группы. Этот показатель может использоваться для принятая решения о дальнейшем привлечении каждого эксперта к участию в работе экспертной группы.

Третий раздел посвящен описанию предлагаемой методики исследования эффективности сложных иерархических систем. Одним из путей повышения эффективности системы является рациональное (оптимальное в смысле того или иного критерия) распределение ресурсов внутри системы. В диссертации предлагается способ выбора варианта распределения ресурсов между элементами подсистемы. Алгоритм основан на минимизации суммарных (по всем объектам в подсистеме) дефицитов выпусков при различных вариантах распределения ресурсов.

Пусть в подсистеме s имеется N элементов, среди которых распределяется К видов ресурсов и выпускается М видов продуктов (выпусков). В подсистемах различных иерархических уровней могут в общем случае использоваться различные наборы ресурсов и выпусков.

Шаг 1. Сформировать искусственную эталонную границу эффективности

для подсистемы л: = ,

где Iе и Л* - матрицы М х № и К х 14е - число эталонных объектов.

Шаг 2. Сгенерировать У комбинаций Яj распределения К ресурсов между N элементами подсистемы .у:

Я/ — (йу/, ..., Яр, ..., Я^),) = 1, где Яр = , ГуД ... Гу,А) - объем ресурсов, выделенных, /-му объекту. При

Определить для каждого варианта Яд соответствующие объемы выпусков

Шаг 3. Вычислить эффективности пар (Я^ Рр), ] -1, = 1,^, относительно границы Модель метода БЕА-АСФ формулируется в выходной ориентации.

этом: %Л

(=1

Вычислить дефициты выпусков: Ау™ - yji, eff ~ yji,fact * J =u,m = W>i e NE, где NE - ипдекспое множество неэффективных объектов; eff и fact - рекомендуемое и фактическое значения выпуска.

Шаг 4. Найти суммарный дефицит по всем ^объектам:

А; = (Z АУ* >-¿4У Я = f-i i-i i«i

Шаг 5. Выделить из множества {Д/} подмножество Парето-оптимальных векторов с минимальным дефицитом. Окончательный выбор единственного варианта остается за ЛПР.

Теперь приведем описание предлагаемой методики исследования эффективности сложных иерархических систем.

Этап 1. Подготовка к проведению исследования.

1.1. Структуризация системы.

'п

гй

ги

гь-

flNs

riNs

s"s /

где г у = 1, если подсистема л, включает в себя подсистему ¿у; = 0 в противном случае;

1,..., - число под-

систем на всех Ь уровнях иерархии в системе &

1.2. Определение переменных и моделей метода ОЕА-АСФ.

1.3. Сбор исходных данных.

1.4. Формирование искусственных границ эффективности.

Vj, i

Для классификации объектов на основе эффективности формируются наборы искусственных границ эффективности:

=И=

1 8

; j

N,

i-i

где С = №с -1 — число границ; Ыс - число классов эффективности. Этап 2. Оценка уровня эффективности системы.

2.1. Оценка целевой эффективности системы,

2.2. Оценка эффективности подсистем.

Этап 3. Анализ достигнутого уровня эффективности,

3.1. Вычисление агрегированного показателя эффективности.

Интегральная внутренняя эффективность системы S

Разброс значений показателей эффективности _в подсистемах системы S_

Ns "s 1

t-1

i=i i-i <pt

Здесь Wi - «вес» подсистемы sf (2î-Îw< ~Oî и 9t ~ показатели эффективности подсистемы st относительно границы Fs.

Вектор Е = (<$>,Ф,Пэ,Оф) является интегральной оценкой внутренней

эффективности иерархической системы.

3.2. Анализ эффективности в подсистемах.

Анализ проводится па основе значений E = (Q>0>De>£>ф) для всех подсистем.

Этап 4. Формирование прогноза эффективности.

4.1. Определение прогнозных значений показателей эффективности в подсистемах.

Определить на основе временных рядов e's, / = 1,7* для каждой подсистемы Si (здесь е означает в либо <р).

4.2. Вычисление агрегированного показателя эффективности и анализ эффективности в подсистемах.

Определить £, = (©,Ф,£>0,£)ф) на основе значений ej+1. Полученный прогноз — поисковый краткосрочный.

Этап 5. Выработка рекомендаций по повышению эффективности.

5.1. Использование непосредственно тех целевых значений показателей, которые выдает метод DEÂ-АСФ.

5.2. Перераспределение ресурсов в подсистемах.

5.3. Реструктуризация системы.

Этап 6. Представление ЛПР результатов исследования.

6.1. Агрегированная информация.

1. Показатель целевой эффективности системы S в целом.

2. Показатель Е — (0,Ф,De,Пф ) для системы и всех подсистем.

3. Группировка подсистем по классам эффективности, например: число эффективных объектов ~Njf число слабо эффективных объектов - Ni, неэффективных —N3.

6.2. Детализированная информация.

1. Показатели эффективности подсистем.

2. Прогнозпые значения ef+l для подсистем.

6.3. Рекомендации.

1. Целевые значений входных и выходных показателей, которые выдает метод DEA-АСФ для неэффективных объектов (подсистем),

2. Вариант перераспределения ресурсов в подсистемах.

3. Вариапт реструктуризации системы.

Методика реализована в виде системы поддержки принятия решений (СППР), архитектура которой представлена на рисунке 3. СППР состоит из ряда взаимосвязанных подсистем и модулей.

Подсистема «Сбор и хранение данных» включает в себя следующие модули: модуль ручного ввода исходных данных; модуль импорта данных из других источников данных; модуль формирования описаний иерархических взаимосвязей между подсистемами сложной системы. Подсистема «Анализ»: мо-

дуль оценки эффективности системы и подсистем; модуль прогнозирования эффективности системы; модуль формирования варианта перераспределения ресурсов. Подсистема «Метод ОЕА-АСФ»: модуль решения моделей метода ИЕА-АСФ; модуль формирования искусственных эталонных границ эффективности. Подсистема «Вспомогательный математический инструментарий»: модуль решения задачи линейного программирования (используется симплекс-метод); модуль анализа временных рядов. Подсистема «Представление результатов»: модуль представления детализированной информации; модуль представления агрегированной информации; модуль представления рекомендаций по повышению эффективности (в частности, по перераспределению ресурсов в подсистемах).

Интерфейс пользователя

Ядро СППР

Представление результатов

Анализ

Сбор и хранение данных

База данных

Метод БЕА-АСФ

Вспомогательный математический инструментарий

СУБД

Рисунок 3 — Архитектура СППР

Программная реализация СППР выполнена с применением современных информационных технологий. Программы ядра СППР разработаны на языке С, а интерфейс пользователя - на языке С++. При таком выборе языков программирования повышается степень переносимости программ в другие операционные среды. Поскольку информационной основой СППР является база данных, то параметры системы управления базами данных (СУБД) влияют на эффективность работы СППР. В результате проведеппого анализа была выбрана некоммерческая СУБД Ро5С^еБС>Ь версии 8.1, обладающая хорошими параметрами надежности и производительности.

В базе данных СППР отражаются все иерархические взаимосвязи между объектами исследуемой системы (например, факультетами и кафедрами вуза). Связи между объектами устанавливаются за счет наличия в одной из таблиц поля «Объект-родитель», в котором содержится идентификатор объекта, являющегося вышестоящим по отношению к объекту, представленному текущей записью таблицы. Таким образом, образуется структура данных, напоминающая дерево, а также односвязный список.

Предложенная методика исследования эффективности сложных иерархических систем адаптирована для применения в сфере высшего профессионального образования. С ее помощью можно исследовать эффективность российских вузов на основе исходных даиных, представленных на Интернет-сайте Министерства образования и науки. В качестве входных переменных используются данные о численности и квалификации профессорско-преподавательского состава, о площади учебных и учебно-вспомогательных

помещений. Выходные переменные; численность студентов, аспирантов и докторантов, количество специальностей. На основе полученных показателей эффективности может быть сформирован рейтинг вузов, в том числе по видам: классические университеты, технические вузы, медицинские вузы и т. д.

Методика адаптирована и для исследования внутренней эффективности отдельного вуза. В этом случае в качестве объектов исследования выступают подразделения вуза: факультеты, кафедры, преподаватели. Входные и выходные переменные выбираются с учетом специфики оцениваемых объектов. Например, для кафедры такими показателями могут быть: общее число преподавателей и сотрудников, число профессоров, доцентов, число выпущенных учебных пособий, число монографий, число выступлений преподавателей на научных конференциях и др.

В заключении сформулированы основные результаты и сделаны выводы по диссертации,

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ И ВЫВОДЫ

Предложенные в диссертации модификации метода ОЕА-АСФ способствуют повышению качества управления сложными иерархическими системами, поскольку:

- направлены на усовершенствование методов исследования эффективности, которая является важнейшим комплексным свойством сложных систем;

— представлены в виде формализованных методик и алгоритмов, облегчающих практическое применение модифицированного метода БЕА-АСФ;

- предлагают способы агрегирования информации, предоставляемой ДПР, что важно при большом числе уровней и подсистем в иерархической системе;

— предусматривают не только оценку достигнутого уровня эффективности иерархической системы, но также и выработку рекомендаций по повышению ее эффективности.

Основные результаты работы:

1. На основе анализа подходов и методов исследования эффективности сложных иерархических систем показано, что метод ОЕА-АСФ может быть основой формализованной методики исследования эффективности систем такого класса.

2. Метод ОЕА-АСФ модифицирован посредством разработки комплекса алгоритмов и формализованной методики формирования искусственных эталонных границ эффективности на основе обобщения индивидуальных экспертных оценок.

3. На базе модифицированного метода ОЕА-АСФ разработана формализованная методика исследования эффективности сложных иерархических систем. Проведена апробация разработанной методики на примере объектов системы высшего профессионального образования.

4. С использованием современных информационных технологий разработана автоматизированная система поддержки принятия решепий, реализующая предложенную методику исследования эффективности сложных иерархических систем.

Основные положения п результаты диссертационной работы представлены в следующих работах автора (знаком * обозначены работы, опубликованные в издании, включенном в список изданий, рекомендованных ВАК для опубликования результатов диссертационных исследований):

1*. Антамошкин, А. Н. Методика исследования эффективности сложных иерархических систем [Текст] / А. Н. Антамошкин, О. Н. Моргунова, Е. П. Моргунов // Вестник Сиб. гос. аэрокосмич. ун-та. - 2006. — Вып. 2 (9). - С. 9-13.

2*. Моргунов, Е. П. Формирование искусственной границы эффективности в методе Data Envelopment Analysis [Текст] / Е. П. Моргунов, О* II. Моргунова // Вестник Сиб. гос. аэрокосмич. ун-та : сб. науч. тр. / Под общ. ред. проф. Г. П. Белякова. - Красноярск : СибГАУ, 2003. - С. 385-386.

3. Моргунова, О. Н, Экспертные методы формирования искусственных границ эффективности [Текст] / О. Н. Моргунова // Научное обозрение, - 2006. -№ 5.- С. 37—41.

4. Моргунова, О. Н. Теория эффективности сложных систем: некоторые вопросы и предложения [Текст] / О. Н. Моргунова, Е. П. Моргунов // X Международная научно-практич. конф. «Системный анализ в проектировании и управлении», 28 июня — 10 июля 2006 г. (г. Санкт-Петербург) : труды : в 3 ч. / Санкт-Петербургский гос. политехнич. ун-т. — СПб. : Изд-во Политехнич. ун-та, 2006.-Ч. 1.-С. 119-122.

5. Моргунова, О. Н. Компьютерная поддержка принятия решений по оценке эффективности сложных систем [Текст] / О. Н. Моргунова, Е. П. Моргунов // VII Всероссийская научно-технич. конф. «Теоретические и прикладные вопросы современных информационных техпологий», 24-30 июля 2006 г, (г. Улан-Удэ) : материалы : в 2 ч. / Вост.-Сиб. гос. технологии, ун-т. - Улан-Удэ : Изд-во ВСГТУ, 2006.-Ч. 1.-С. 183-186.

6. Моргунова, О. Н. Проблема оценки эффективности сложных иерархических систем [Текст] / О, Н. Моргунова // DC Международная научно-практич. конф. «Системный анализ в проектировании и управлении», 30 июня — 8 июля 2005 г. (г. Санкт-Петербург) : труды / Санкт-Петербургский гос. политехнич. ун-т. - СПб.: Изд-во Политехнич. ун-та, 2005. - С. 48-53.

7. Моргунова, О. Н. Компьютерная поддержка принятия решений по оценке эффективности функционирования вуза [Текст] / О. Н, Моргунова, Е. П. Моргунов // Всероссийская научно-практич. конф. «IT-инновации в образовании», 27-30 июня 2005 г. (г. Петрозаводск) : материалы / ПетрГУ. - Петрозаводск, 2005. - С. 166-169.

8. Моргунова, О. Н. Информационная система как источник данных для оценки уровня эффективности объектов и процессов в сфере высшего образования [Текст] / О. Н. Моргунова // VI Всероссийская научно-технич. конф. «Теоретические и прикладные вопросы современных информационных техно-

логий», 25-31 июля 2005 г. (г. Улан-Удэ) : материалы : в 2 ч. / Вост.-Сиб. гос. технологии, ун-т. - Улан-Удэ : Изд-во ВСГТУ, 2005. - Ч. 2, - С. 286-289.

9. Моргунов, Е, П. Информационная и интеллектуальная поддержка системы управления качеством в университете [Текст] / Е. П. Моргунов, О. Н. Моргунова // Проблемы повышения качества подготовки специалистов : иауч.-метод. сб. - Красноярск : СибГАУ, 2005. - Вып. 2. - С. 202-212.

10. Моргунова, О. Н. Подходы к оценке эффективности сложных иерархических систем [Текст] / О. Н. Моргунова // Вестник университетского комплекса : сб. науч. тр. / Под общ. ред. проф. Н. В. Василенко. - Красноярск : ВСФ РГУИТП; НИИ СУВПТ, 2005. - Вып. 4 (18). - С, 44-55.

11. Моргунов, Е. П. Многомерная классификация сложных объектов на основе оценки их эффективности [Текст] / Е. П. Моргунов, О. Н. Моргунова // Вестник НИИ СУВПТ ; сб. науч. тр. / Под общ. ред. проф. Н. В. Василенко. -Красноярск : НИИ СУВПТ, 2003. - Вып. 14. - С. 222-240.

12. Моргунов, Е. П. Подходы к разработке программного обеспечения для решения задач в области Efficiency and Productivity Analysis [Текст] / E. П. Моргунов, О. Н. Моргунова // Вестник НИИ СУВПТ : сб. науч. тр. / Под общ. ред. проф. Н. В. Василенко. - Красноярск : НИИ СУВПТ, 2003. - Вып. 11. - С. 136-139.

13. Моргунов, Е. П. Применение метода Data Envelopment Analysis в управлении системой образования [Текст] / Е. П. Моргунов, О. Н. Моргунова // Междунар. научно-метод. конф. «Развитие системы образования в России XXI века», 24-26 октября 2003 г. (г. Красноярск) : материалы / Краснояр. гос. ун-т. - Красноярск, 2003. - С. 190-192.

Моргунова Ольга Николаевна

Методы и алгоритмы исследования эффективности сложных иерархических систем

Автореферат

Подписано к печати 22.09.2006 Формат 60x84/16. Бумага писчая. Печ. л. 1.0 Тираж 100 экз. Заказ № ^¿Г

Отпечатано в отделе копировальной и множительной техники СибГАУ 660014, г. Красноярск, просп. им. газеты «Красноярский рабочий», 31

Оглавление автор диссертации — кандидата технических наук Моргунова, Ольга Николаевна

Введение.

1 Анализ подходов к исследованию эффективности сложных систем.

1.1 Проблема исследования эффективности сложных систем. Основные концепции и терминология.

1.2 Методы исследования эффективности.

1.2.1 Теория потенциальной эффективности сложных систем.

1.2.2 Методы исследования эффективности технических систем.

1.2.3 Производственные функции.

1.2.4 Stochastic Frontier Analysis.

1.2.5 Data Envelopment Analysis.

1.3 Подходы к исследованию эффективности иерархических систем.

1.3.1 Определение иерархии и роль иерархических систем.

1.3.2 Подход на основе метода математического моделирования.

1.3.3 Подход на основе метода DEA-ACO.

1.4 Обобщение и формулирование задач исследования.

1.5 Выводы.

2 Модификация метода DEA-АСФ.

2.1 Искусственные эталонные границы эффективности в методе DEA-ACO.

2.2 Обзор методов обработки экспертных оценок.

2.3 Предлагаемые алгоритмы обобщения индивидуальных экспертных оценок при формировании искусственных границ эффективности.

2.4 Методика построения искусственных эталонных границ эффективности.

2.4.1 Вспомогательные методы и алгоритмы.

2.4.2 Описание методики.

2.5 Выводы.

3 Инструментарий для исследования эффективности сложных иерархических систем.

3.1 Вспомогательные алгоритмы.

3.1.1 Алгоритм перераспределения ресурсов в подсистемах сложной системы.

3.1.2 Алгоритм агрегирования оценок эффективности подсистем в интегральную оценку эффективности сложной иерархической системы

3.1.3 Метод прогнозирования эффективности.

3.1.3.1 Традиционные подходы к прогнозированию.

3.1.3.2 Предлагаемый алгоритм прогнозирования эффективности.

3.2 Методика исследования эффективности сложных иерархических систем.

3.2.1 Принципы построения методики и сфера ее применения.

3.2.2 Положения методики.

3.3 Система поддержки принятия решений по исследованию эффективности сложных иерархических систем.

3.3.1 Общие требования к системам поддержки принятия решений.

3.3.2 Архитектура СППР, построенной на основе предложенной методики.

3.3.3 Программная реализация СППР.

3.3.3.1 Выбор средств реализации программного продукта. f. 3.3.3.2 Структура базы данных.

3.3.4 Оценка быстродействия СППР.

3.4 Апробация предложенных решений на примере объектов системы высшего образования.

3.4.1 Пример подхода к оценке эффективности системы высшего профессионального образования.

3.4.2 Адаптация разработанной методики для исследования эффективности объектов системы высшего профессионального образования.

3.4.3 Пример применения методики для оценки эффективности элементов системы высшего профессионального образования.

3.5 Выводы.

Введение 2006 год, диссертация по информатике, вычислительной технике и управлению, Моргунова, Ольга Николаевна

Актуальность темы исследования. Эффективность - одно из важнейших качеств, характеризующих системы любой природы. Поэтому проблеме исследования эффективности функционирования систем во всех сферах деятельности человека в последние годы уделяется повышенное внимание [4, 9, 12, 18, 29, 34, 49, 50, 52, 54, 59, 63, 64, 75, 88, 92, 93, 97, 98, 109]. Для проведения таких исследований используются разные подходы, в зависимости от предметной области. Однако разработан и ряд методов, которые используются для оценки эффективности объектов в довольно широких классах систем. Одним из таких методов является Data Envelopment Analysis (DEA), который был разработан в 1978 г. американскими учеными A. Chames, W. W. Cooper, Е. Rhodes [88]. В последние 25 лет он широко применяется для оценки эффективности функционирования сложных объектов в различных сферах (см., например, [90, 93, 97, 98, 105, 109]). Метод становится все более популярным и в России (см. например, [2, 12, 29]). В качестве русскоязычного эквивалента его названия предложено такое - «анализ среды функционирования (АСФ)» [2].

Для получения более обоснованной оценки текущей эффективности функционирования сложной системы и прогнозирования ее будущей эффективности желательно принять во внимание структуру системы. В том случае, когда система является иерархической, это означает, что необходимо учитывать эффективность подсистем на различных уровнях иерархии для того, чтобы получить обоснованную оценку эффективности всей системы. Очевидно, что процедуру оценки эффективности сложных иерархических систем было бы целесообразно представить в виде формализованной методики. Представляется возможным построить такую методику на основе метода DEA-ACO.

Однако метод DEA-ACO имеет следующую особенность: он позволяет оценивать только относительную эффективность объектов, т. е. эффективность их по сравнению друг с другом. Следовательно, необходимо модифицировать метод с тем, чтобы получаемые оценки эффективности можно было считать аб5 солютными (с некоторой долей условности). Тогда появилась бы возможность агрегировать оценки эффективности объектов в подсистемах на разных уровнях иерархии в единую интегральную оценку внутренней эффективности исследуемой системы.

Таким образом, формализованная методика, построенная на основе модифицированного метода ОЕА-АСФ, могла бы служить инструментом повышения качества управления сложными иерархическими системами.

Цель работы состоит в повышении качества управления сложными иерархическими системами.

Для достижения поставленной цели необходимо решить следующие задачи.

1. Проанализировать подходы к исследованию эффективности сложных иерархических систем, а также конкретные методы, применяемые для проведения таких исследований.

2. Модифицировать метод ОЕА-АСФ: разработать комплекс алгоритмов и формализованную методику формирования искусственных эталонных границ эффективности на основе обобщения индивидуальных экспертных оценок.

3. Разработать формализованную методику исследования эффективности сложных иерархических систем на основе модифицированного метода ОЕА-АСФ.

4. Разработать автоматизированную систему поддержки принятия решений (СППР), реализующую предложенную методику.

5. Провести апробацию разработанной методики на примере объектов системы высшего профессионального образования.

Методы исследования. При выполнении диссертационной работы использовались методы системного анализа, метод ОЕА-АСФ, теория принятия решений, методы экспертных оценок, теория баз данных.

Научная новизна диссертационной работы состоит в следующем.

1. Впервые предложен комплекс алгоритмов формирования искусственных эталонных границ эффективности в методе ОЕА-АСФ на основе обобще6 ния индивидуальных экспертных оценок. Алгоритмы построены с учетом специфики обобщаемых объектов, т. е. границ эффективности, имеющих форму выпуклой оболочки (выпуклого конуса) в многомерном пространстве входных и выходных переменных.

2. Разработана формализованная методика формирования искусственных эталонных границ эффективности для решения задач методом ОЕА-АСФ. Методика включает в себя комплекс предложенных алгоритмов обобщения индивидуальных экспертных оценок, а также ряд вспомогательных алгоритмов, упрощающих работу экспертов. Предложенная методика повышает качество работы экспертов и обоснованность результирующих искусственных эталонных границ эффективности за счет регламентирования и формализации всех этапов получения групповых экспертных оценок.

3. Предложен новый алгоритм перераспределения ресурсов в подсистеме иерархической системы, построенный на основе метода ОЕА-АСФ. Алгоритм позволяет выработать рекомендации по повышению интегральной эффективности подсистемы за счет минимизации суммарных (по всем объектам в подсистеме) дефицитов выпусков при различных вариантах распределения ресурсов.

4. Разработана формализованная методика исследования эффективности сложных иерархических систем. В основу методики положен метод ОЕА-АСФ, модифицированный посредством использования искусственных эталонных границ эффективности, построенных путем обобщения индивидуальных экспертных оценок. Результаты оценки и прогноза эффективности системы, а также рекомендации по ее повышению представляются в наглядной форме благодаря использованию специально разработанных алгоритмов, позволяющих уменьшить объем информации, предоставляемой ЛПР.

Практическая ценность работы и реализация полученных результатов. Разработанная СППР, а также предложенные в диссертационной работе алгоритмы и методики ориентированы на практическое применение в различных предметных областях, в которых сложные объекты организованы в виде иерархических систем, в частности, в сфере высшего профессионального образования (как в органах управления отраслью в целом, так и в системах управления отдельными учреждениями). На основе предложенных алгоритмов и методик разработано программное обеспечение, позволяющее решать практические задачи, связанные с оценкой и повышением эффективности иерархических систем. Разработанная СППР позволяет повысить обоснованность принимаемых решений по управлению многоуровневыми иерархическими системами.

Результаты диссертационной работы и разработанная СППР используются в ходе курсового и дипломного проектирования в Сибирском государственном аэрокосмическом университете (СибГАУ), г. Красноярск. Материалы диссертационной работы введены в учебный курс «Проектирование сложных систем» в СибГАУ.

Достоверность полученных результатов исследования обусловлена корректным применением теории систем и методов системного анализа, математических методов оптимизации и метода БЕА-АСФ, а также теории алгоритмов.

Основные положения, выносимые на защиту:

1. Модифицированный метод ОЕА-АСФ может успешно применяться для разработки методики исследования эффективности сложных иерархических систем.

2. Комплекс алгоритмов формирования искусственных эталонных границ эффективности в методе ЭЕА-АСФ позволяет на основе обобщения индивидуальных экспертных оценок сформировать результирующую границу эффективности, удовлетворяющую требованиям метода БЕА-АСФ.

3. Формализованная методика формирования искусственных эталонных границ эффективности для решения задач методом ОЕА-АСФ повышает качество работы экспертов и обоснованность результирующих искусственных эталонных границ эффективности за счет регламентирования и формализации всех этапов получения групповых экспертных оценок.

4. Алгоритм перераспределения ресурсов, построенный на основе метода DEA-ЛСФ, облегчает решение задачи управления ресурсами в сложной иерархической системе.

5. Формализованная методика исследования эффективности сложных иерархических систем, основанная на модифицированном методе DEA-ACO, является действенным средством повышения качества управления системами данного класса.

Апробация работы. Основные результаты диссертационной работы докладывались и обсуждались на следующих конференциях:

- IX и X Международные научно-практические конференции «Системный анализ в проектировании и управлении» (г. Санкт-Петербург, Санкт-Петербургский государственный политехнический университет, 2005 и 2006 г.г.);

- VI и VII Всероссийские научно-технические конференции «Теоретические и прикладные вопросы современных информационных технологий» (г. Улан-Удэ, Восточно-Сибирский государственный технологический университет, 2005 и 2006 г.г.);

- Всероссийская научно-практическая конференция «IT-инновации в образовании» (г. Петрозаводск, Петрозаводский государственный университет, 2005 г.);

- Международная научно-методическая конференция «Развитие системы образования в России XXI века» (г. Красноярск, Красноярский государственный университет, 2003 г.);

Основные положения диссертационной работы и работа в целом обсуждались на научных семинарах кафедр «Системного анализа и исследования операций» и «Информатики и вычислительной техники» Сибирского государственного аэрокосмического университета (2004-2006 г.г.), а также на заседаниях Научно-технического совета Научно-исследовательского института систем управления, волновых процессов и технологий (2004-2005 г.г.).

Публикации. По результатам работы опубликовано 13 статей и докладов [3, 37-48], в т. ч. 2 работы [3, 38] в издании, включенном в список изданий, рекомендованных ВАК для опубликования результатов диссертационных исследований.

Структура и объем работы. Диссертация состоит из введения, трех разделов, заключения, списка использованных источников (110 наименований) и » приложения. Содержание работы изложено на 148 страницах основного текста,

Заключение диссертация на тему "Методы и алгоритмы исследования эффективности сложных иерархических систем"

Основные результаты работы:

1. На основе анализа подходов и методов исследования эффективности сложных иерархических систем показано, что метод БЕА-АСФ может быть основой формализованной методики исследования эффективности систем такого класса.

2. Метод ОЕА-АСФ модифицирован посредством разработки комплекса алгоритмов и формализованной методики формирования искусственных эталонных границ эффективности на основе обобщения индивидуальных экспертных оценок.

3. На базе модифицированного метода ОЕА-АСФ разработана формализованная методика исследования эффективности сложных иерархических систем. Проведена апробация разработанной методики на примере объектов системы высшего профессионального образования.

4. С использованием современных информационных технологий разработана автоматизированная система поддержки принятия решений, реализующая предложенную методику исследования эффективности сложных иерархических систем.

Заключение

В результате проведенного диссертационного исследования были предложены модификации метода ЭЕА-АСФ, позволяющие повысить качество управления сложными иерархическими системами.

Идея этих модификаций заключается в попытке преодолеть основное ограничение метода ЭЕА-АСФ, состоящее в том, что значения показателей эффективности объектов, определенные на основе оригинального варианта указанного метода, являются относительными. Это означает, что результаты получены путем сравнения объектов между собой. Следовательно, даже объекты, находящиеся на границе эффективности, являются наиболее эффективными только лишь в конкретной группе объектов. Поскольку задать теоретические эталонные границы эффективности без привлечения экспертов не представляется возможным, то усилия были направлены на повышение степени обоснованности и надежности экспертных оценок, в результате выполнения которых и формируются искусственные эталонные границы эффективности. Таким образом, была предложена формализованная методика, позволяющая интегрировать знания группы экспертов при формировании искусственных эталонных границ эффективности. При разработке алгоритмов была учтена специфика метода БЕА-АСФ, а именно: индивидуальные оценки экспертов, подлежащие обобщению, представляют собой не точки, а области в многомерном пространстве, имеющие форму выпуклой оболочки (выпуклого конуса).

С учетом предложенных модификаций стало возможным разработать формализованную методику исследования эффективности сложных иерархических систем на основе метода ОЕА-АСФ. Положительным качеством этой методики является то, что при исследовании эффективности всех подсистем на всех уровнях иерархии применяется один и тот же модифицированный метод БЕА-АСФ, что позволяет формировать агрегированные показатели эффективности системы. Такие показатели дают возможность ЛПР увидеть тенденции внутреннего развития сложной системы в целом. Поскольку одним из способов повышения эффективности является перераспределение ресурсов между подсистемами, то алгоритм для проведения такой процедуры также разработан и включен в состав методики.

Можно сделать вывод, что предложенные в диссертации модификации метода ОЕА-АСФ способствуют повышению качества управления сложными иерархическими системами, поскольку:

- направлены на усовершенствование методов исследования эффективности, которая является важнейшим комплексным свойством сложных систем;

- представлены в виде формализованных методик и алгоритмов, облегчающих практическое применение модифицированного метода ЭЕА-АСФ;

- предлагают способы агрегирования информации, предоставляемой ЛПР, что важно при большом числе уровней и подсистем в иерархической системе;

- предусматривают не только оценку достигнутого уровня эффективности иерархической системы, но также и выработку рекомендаций по повышению ее эффективности.

Библиография Моргунова, Ольга Николаевна, диссертация по теме Системный анализ, управление и обработка информации (по отраслям)

1. Акофф, P. JT. О целеустремленных системах Текст. / P. JI. Акофф, Ф. Эмери. М. : Сов. радио, 1974. - 272 с.

2. Анализ эффективности функционирования сложных систем Текст. / В. Е. Кривоножко, А. И. Пропой, Р. В. Сеньков, И. В. Родченков, П. М. Анохин // Автоматизация проектирования. 1999. - № 1. - С. 2-7.

3. Антамошкин, А. Н. Методика исследования эффективности сложных иерархических систем Текст. / А. Н. Антамошкин, О. Н. Моргунова, Е. П. Моргунов // Вестник Сиб. гос. аэрокосмич. ун-та. 2006. - Вып. 2 (9). - С. 9-13.

4. Багриновский, К. А. Современные методы управления технологическим развитием Текст. / К. А. Багриновский, М. А. Бендиков, Е. Ю. Хрусталев. М. :РОССПЭН, 2001.-272 с.

5. Барсегян, А. А. Методы и модели анализа данных: OLAP и Data Mining Текст. : учеб. пособие / А. А. Барсегян, М. С. Куприянов, В. В. Степаненко, И. И. Холод. СПб. : БХВ-Петербург, 2004. - 336 с.

6. Бешелев, С. Д. Математико-статистические методы экспертных оценок Текст. / С. Д. Бешелев, Ф. Г. Гурвич. 2-е изд., перераб. и доп. - М. : Статистика, 1980.-263 с.

7. Бир, С. Кибернетика и менеджмент Текст. : Пер. с англ. / С. Бир. 2-е изд. - М. : КомКнига, 2006. - 280 с.

8. Бир, С. Мозг фирмы Текст. : Пер. с англ. / С. Бир. М. : Радио и связь, 1993.-416с.

9. Буренок, В. М. Механизмы управления производством продукции во-*г енного назначения Текст. / В. М. Буренок, Г. А. Лавринов, Е. Ю. Хрусталев ;

10. Центр, экон.-мат. ин-т РАН. М. : Наука, 2006. - 303 с.

11. Воронин, А. А. Оптимальные иерархические структуры Текст. / А. А. Воронин, С. П. Мишин. М.: ИПУ РАН, 2003. - 214 с.

12. Выгон, Г. В. Анализ связи технологической эффективности и рыночной капитализации компаний Текст. / Г. В. Выгон, А. Б. Поманский // Экономика и математические методы. 2000. - Т. 36, № 2. - С. 70-87.

13. Голубков, Е. П. Технология принятия управленческих решений Текст. / Е. П. Голубков. М.: Дело и сервис, 2005. - 544 с.

14. Горелова, В. Л. Основы прогнозирования систем : учеб. пособие для инж.-экон. спец. вузов Текст. / В. Л. Горелова, Е. Н. Мельникова. М.: Высш. шк., 1986.-287 с.

15. Гранберг, А. Г. Моделирование социалистической экономики Текст.: учебник для студ. экон. вузов / А. Г. Гранберг. М.: Экономика, 1988. - 487 с.

16. Дейт, К. Дж. Введение в системы баз данных: 6-е издание Текст. : Пер. с англ. / К. Дж. Дейт. К.; М.; СПб.: Вильяме, 1999. - 848 с.

17. Евланов, Л. Г. Экспертные оценки в управлении Текст. / Л. Г. Евла-нов, В. А. Кутузов. М.: Экономика, 1978. - 133 с.

18. Ильичев, А. В. Эффективность проектируемой техники: Основы анализа Текст. /А. В. Ильичев. -М. Машиностроение, 1991.-336 с.

19. Интеллектуальные системы поддержки принятия решений в нештатных ситуациях с использованием информации о состоянии природной среды Текст. / В. А. Геловани, А. А. Башлыков, В. Б. Бритков, Е. Д. Вязилов. М. : Эдиториал УРСС, 2001. - 304 с.

20. Интрилигатор, М. Математические методы оптимизации и экономическая теория Текст.: Пер. с англ. / М. Интрилигатор. М.: Айрис-пресс, 2002. -576 с.

21. Ириков, В. А. Распределенные системы принятия решений. Теория и приложения Текст. / В. А. Ириков, В. Н. Тренев. М. : Наука : Физматлит, 1999.-288 с.

22. Искусство программирования на С. Фундаментальные алгоритмы, структуры данных и примеры приложений: Энциклопедия программиста Текст. : Пер. с англ. / Р. Хэзфилд, Л. Кирби, Д. Корбит и др. К. : Диасофт, 2001.-736 с.

23. Канер, С. Тестирование программного обеспечения Текст. : Пер. с англ. / Сэм Канер, Джек Фолк, Енг Кек Нгуен. К.: ДиаСофт, 2000. - 544 с.

24. Капица, С. П. Синергетика и прогнозы будущего Текст. / С. П. Капица, С. П. Курдюмов, Г. Г. Малинецкий. 3-е изд. - М. : Едиториал УРСС, 2003. -288 с.

25. Карманов, В. Г. Математическое программирование Текст. : учеб. пособие / В. Г. Карманов. 5-е изд., стереотип. - М. : ФИЗМАТЛИТ, 2001. - 264 с.

26. Керниган, Б. Язык программирования С. 2-е издание Текст. : Пер. с англ. / Б. Керниган, Д. Ритчи. М.: Вильяме, 2006. - 304 с.

27. Клейнер, Г. Б. Производственные функции: Теория, методы, применение Текст. / Г. Б. Клейнер. М.: Финансы и статистика, 1986. - 239 с.

28. Клир, Дж. Системология. Автоматизация решения системных задач Текст.: Пер. с англ. / Дж. Клир М.: Радио и связь, 1990. - 544 с.

29. Кузнецов, А. В. Высшая математика: Математическое программирование : учебник Текст. / А. В. Кузнецов, В. А. Сакович, Н. И. Холод ; под общ. ред. А. В. Кузнецова. 2-е изд., перераб. и доп. - Мн.: Вышэйшая школа, 2001. -351 с.

30. Кузнецов, А. В. Руководство к решению задач по математическому программированию : учеб. пособие Текст. / А. В. Кузнецов, Н. И. Холод, Л. С. Костевич ; под общ. ред. А. В. Кузнецова. 2-е изд., перераб. и доп. - Мн. : Вышэйшая школа, 2001. - 448 с.

31. Литвак, Б. Г. Экспертная информация: Методы получения и анализа Текст. / Б. Г. Литвак. М.: Радио и связь, 1982. - 184 с.

32. Малиновский, А. А. Тектология. Теория систем. Теоретическая биология Текст. / А. А. Малиновский. М.: Эдиториал УРСС, 2000. - 448 с.

33. Мезоэкономика переходного периода: Рынки, отрасли, предприятия Текст. / Под ред. Г. Б. Клейнера. М.: Наука, 2001. - 516 с.

34. Месарович, М. Теория иерархических многоуровневых систем Текст. / М. Месарович, Д. Мако, И. Такахара. М.: Мир, 1973. - 344 с.

35. Могилевский, В. Д. Методология систем: вербальный подход Текст. /

36. B. Д. Могилевский. М.: Экономика, 1999. - 251 с.

37. Моргунова, О. Н. Экспертные методы формирования искусственных границ эффективности Текст. / О. Н. Моргунова // Научное обозрение. 2006. -№ 5.-С. 37-41.

38. Петербургский гос. политехнич. ун-т. СПб. : Изд-во Политехнич. ун-та, 2005. -С. 48-53.

39. Надежность и эффективность в технике Текст. : справочник / Ред. совет: В. С. Авдуевский (пред.) и др. В 10 т. Т. 1. Методология. Организация. Терминология / Под ред. А. И. Рембезы. М.: Машиностроение, 1986. - 224 с.

40. Надежность и эффективность в технике Текст. : справочник / Ред. совет: В. С. Авдуевский (пред.) и др. В 10 т. Т. 3. Эффективность технических систем / Под общ. ред. В. Ф. Уткина, Ю. В. Крючкова. М. : Машиностроение, 1988.-328 с.

41. Пантелеев, А. В. Методы оптимизации в примерах и задачах : учеб. пособие Текст. / А. В. Пантелеев, Т. А. Летова. М. : Высшая школа, 2002. -544 с.

42. Петухов, Г. Б. Методологические основы внешнего проектирования целенаправленных процессов и целеустремленных систем Текст. / Г. Б. Петухов, В. И. Якунин. М.: АСТ, 2006. - 504 с.

43. Поиск подходов к решению проблем Текст. / И. В. Прангишвили, Н. А. Абрамова, В. Ф. Спиридонов и др. М.: Синтег, 1999. - 284 с.

44. Прангишвили, И. В. Системный подход и повышение эффективности управления Текст. / И. В. Прангишвили ; Ин-т проблем управления им. В. А. Трапезникова РАН. М.: Наука, 2005. - 422 с.

45. Прангишвили, И. В. Энтропийные и другие системные закономерности: Вопросы управления сложными системами Текст. / И. В. Прангишвили ; Ин-т проблем управления им. В. А. Трапезникова. М.: Наука, 2003. - 428 с.

46. Прангишвили, И. В. Системный подход и общесистемные закономерности Текст. / И. В. Прангишвили. М.: Синтег, 2000. - 528 с.

47. Прикладная статистика. Основы эконометрики Текст.: учебник для вузов: в 2 т. 2-е изд., испр. - Т. 2: Айвазян, С. А. Основы эконометрики / С. А. Айвазян. - М.: ЮНИТИ-ДАНА, 2001. - 432 с.

48. Пропой, А. И. Итеративный метод оценки систем по многим показателям Текст. / А. И. Пропой // Динамика неоднородных систем. Выпуск 8 / Под ред. чл.-корр. РАН Ю. С. Попкова. М.: Едиториал УРСС, 2004. - С. 5-23.

49. Росин, М. Ф. Статистическая динамика и теория эффективности систем управления Текст. / М. Ф. Росин, В. С. Булыгин. М. : Машиностроение, 1980.-312 с.

50. Саати, Т. Принятие решений: Метод анализа иерархий Текст. / Т. Саа-ти ; пер. с англ. Р. Г. Вачнадзе. М.: Радио и связь, 1993.

51. Сио, К. К. Управленческая экономика Текст. : Пер. с англ. / К. К. Сио. М : ИНФРА-М, 2000. - 671 с.

52. Системный анализ и принятие решений : словарь-справочник : учеб. пособие Текст. / Под ред. В. Н. Волковой, В. Н. Козлова. М.: Высшая школа, 2004.-616 с.

53. Смоляк, С. А. Оценка эффективности инвестиционных проектов в условиях риска и неопределенности (теория ожидаемого эффекта) Текст. / С. А. Смоляк. М.: Наука, 2002. - 182 с.

54. Соломонов, Ю. С. Большие системы: гарантийный надзор и эффективность Текст. / 10. С. Соломонов, Ф. К. Шахтарин. М. : Машиностроение, 2003.-368 с.

55. Соммервилл, И. Инженерия программного обеспечения Текст. : 6-е изд.: пер. с англ. / И. Соммервилл. М : Вильяме, 2002. - 624 с.

56. Столлингс, В. Операционные системы: 4-е издание Текст. : Пер. с англ. / В. Столлингс. М.: Вильяме, 2002. - 848 с.

57. Страуструп, Б. Язык программирования С++. Специальное издание Текст.: Пер. с англ. / Бьёрн Страуструп. М.: Бином-Пресс, 2005. - 1104 с.

58. Сухарев, А. Г. Курс методов оптимизации Текст. : учеб. пособие / А. Г. Сухарев, А. В. Тимохов, В. В. Федоров. 2-е изд. - М.: ФИЗМАТЛИТ, 2005. -368 с.

59. Таненбаум, Э. Современные операционные системы Текст. : Пер. с англ. / Эндрю Таненбаум. 2-е изд. - СПб.: Питер, 2002. - 1040 с.

60. Таха, X. Введение в исследование операций: 6-е издание Текст.: Пер. с англ. / X. Таха. -М.: Вильяме, 2001.-912 с.

61. Трахтенгерц, Э. А. Субъективность в компьютерной поддержке управленческих решений Текст. / Э. А. Трахтенгерц. М.: Синтег, 2001. - 256 с.

62. Трахтенгерц, Э. А. Компьютерная поддержка принятия решений Текст. / Э. А. Трахтенгерц. М.: Синтег, 1998. - 376 с.

63. Уорсли, Дж. PostgreSQL. Для профессионалов Текст. / Дж. Уорсли, Дж. Дрейк. СПб.: Питер, 2003. - 496 с.

64. Флейшман, Б. С. Основы системологии Текст. / Б. С. Флейшман. М. : Радио и связь, 1982. - 368 с.

65. Флейшман, Б. С. Элементы теории потенциальной эффективности сложных систем Текст. / Б. С. Флейшман. М.: Сов. радио, 1971. - 224 с.

66. Шилдт, Г. Полный справочник по С: 4-е издание Текст.: Пер. с англ. / Г. Шилдт. М.: Вильяме, 2002. - 704 с.

67. Afriat, S. N. Efficiency Estimation of Production Functions Text. / S. N. Afriat // International Economic Review. 1972, October. - Vol. 13, No. 3. - P. 568598.

68. Aigner, D. J. On Estimating the Industry Production Function Text. / D. J. Aigner, S. F. Chu // The American Economic Review. 1968. - Vol. 58. - P. 826839.

69. Anderson, T. R. Extending Productivity Research Frontiers: DEA Resource of Datasets and Errata Text. / T. R. Anderson, P. Rouse, R. Borja et al. // Journal of Productivity Analysis. 2003. - Vol. 19, No. 2-3. - P. 271-275.

70. Asmild, M. Measuring Inefficiency Via Potential Improvements Text. / M. Asmild, J. L. Hougaard, D. Kronborg, H. K. Kvist // Journal of Productivity Analysis. -2003.-Vol. 19,No. l.-P. 59-76.

71. Banker, R. D. Hypothesis Tests Using Data Envelopment Analysis Text. / R. D. Banker//The Journal of Productivity Analysis. 1996.-Vol. 7.-P. 139-159.

72. Banker, R. D. Maximum Likelihood, Consistency and Data Envelopment Analysis: A Statistical Foundation Text. / R. D. Banker // Management Science. -1993, October.-Vol. 39, No. 10.-P. 1265-1273.

73. Banker, R. D. Some Models for Estimating Technical and Scale Inefficiencies in Data Envelopment Analysis Text. / R. D. Banker, A. Charnes, W. W. Cooper // Management Science. 1984, September. - Vol. 30, No. 9. - P. 1078-1092.

74. Barr, R. S. Parallel and hierarchical decomposition approaches for solving large-scale Data Envelopment Analysis models Text. / R. S. Barr, M. L. Durchholz // Annals of Operations Research. 1997. - Vol. 73. - P. 339 - 372.

75. Bixby, R. Solving real-world linear programs: A decade and more of progress Text. / R. Bixby // Operations research. 2002. - Vol. 50, No. l.-P. 3-15.

76. Blackorby, C. Aggregation of Efficiency Indices Text. / C. Blackorby, R. R. Russell // Journal of Productivity Analysis.- 1999 Vol. 12 - P. 5-20.

77. Charnes, A. Measuring the Efficiency of Decision Making Units Text. / A. Charnes, W. W. Cooper, E. Rhodes // European Journal of Operational Research. -1978.-Vol. 2.-P. 429-444.

78. Coelli, T. An Introduction to Efficiency and Productivity Analysis Text. / T. Coelli, D. S. Prasada Rao, G. E. Battese. Boston : Kluwer Academic Publishers, 1998.-275 p.

79. Colbert, A. Determining the Relative Efficiency of MBA Programs Using DEA Text. / A. Colbert, R. R. Levary, M. C. Shaner // European Journal of Operational Research. 2000.- Vol. 125.- P. 656-669.

80. Cook, W. D. Hierarchies and Groups in DEA Text. / W. D. Cook, D. Chai, J. Doyle, R. Green // Journal of Productivity Analysis. 1998. - Vol. 10. - P. 177— 198.

81. Cooper, W. W. Data Envelopment Analysis Text. : A Comprehensive Text with Models, Applications, References, and DEA-Solver Software / W. W. Cooper, L. M. Seiford, K. Tone Boston : Kluwer Academic Publishers, 2000. - 318 p.

82. Data Envelopment Analysis Text. : Theory, Methodology, and Application / A. Charnes, W. W. Cooper, A. Y. Lewin, L. M. Seiford. Boston : Kluwer Academic Publishers, 1994.-513 p.

83. Dula, J. H. Computations in DEA Text. / J. H. Dula // Pesquisa Opera-cional. 2002. - Vol. 22, No. 2. - P. 165-182.

84. Dula, J. H. A Computational Framework for Accelerating DEA Text. / J. H. Dula, R. M. Thrall // Journal of Productivity Analysis. 2001. - Vol. 16, No. 1. -P. 63-78.

85. Dula, J. H. Effects of excluding the column being scored from the DEA envelopment LP technology matrix Text. / J. H. Dula, B. L. Hickman // Journal of the Operational Research Society. 1997.-Vol. 48.-P. 1001-1012.

86. Farrell, M. J. The Measurement of Productive Efficiency Text. / M.J. Far-rell // Journal of The Royal Statistical Society, Series A (General), Part III. 1957. -Vol. 120.-P. 253-281.

87. Fox, K. J. Identifying Outliers in Multi-Output Models Text. / K. J. Fox, . R. J. Hill, W. E. Diewert // Journal of Productivity Analysis. 2004. - Vol. 22, No.1. V»1.2. P. 73-94.

88. Lozano, S. Centralized Resource Allocation Using Data Envelopment Analysis Text. / S. Lozano, G. Villa // Journal of Productivity Analysis. 2004. -Vol.22, No. 1-2.-P. 143-161.

89. Simar, L. Detecting Outliers in Frontier Models: A Simple Approach Text. / L. Simar // Journal of Productivity Analysis. 2003. - Vol. 20, No. 3. - P. 391-424.

90. Simar, L. Statistical inference for aggregates of Farrell-type efficiencies Text . : Discussion Paper 0324 / L. Simar, V. Zelenyuk ; Institut de Statistique, Université Catholique de Louvain (Belgium). Louvain, 2003.

91. L. Simar. Statistical Inference in Nonparametric Frontier Models: The State of the Art Text. / L. Simar, P. W. Wilson // Journal of Productivity Analysis. -2000.-Vol. 13, No. l.-P. 49-78.

92. Sinuany-Stern, Z. Academic Departments Efficiency via DEA Text. / Z. Sinuany-Stern, A. Mehrez, A. Barboy // Computers Ops Res. 1994. - Vol. 21, No. 5.-P. 543-556.

93. Sowlati, T. Establishing the «practical frontier» in data envelopment analysis Text. / Taraneh Sowlati, Joseph C. Paradi // Omega. 2004. - Vol. 32. - P.261.272.

94. Global S. Consulting Company. Moscow : International Research Institute of Management Sciences, 2002. - P. 32-33.

95. Sowlati, T. Establishing the Practical Frontier in DEA Text. : Ph.D. dissertation / T. Sowlati. University of Toronto, 2001.

96. The Measurement of Productive Efficiency Text. / H. O. Fried, C. A. K. Lovell, S. S. Schmidt, eds. NY : Oxford University Press, 1993. - 426 p.

97. Triantis, K. Fuzzy Pair-wise Dominance and Implications for Technical Efficiency Performance Assessment Text. / K. Triantis, P. V. Eeckaut // Journal of Productivity Analysis. 2000. - Vol. 13, No. 3. - P. 207-230.