автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.10, диссертация на тему:Модели информационного управления в социальных сетях

На правах рукописи

УДК 519.876.2

ГУБАНОВ ДМИТРИЙ АЛЕКСЕЕВИЧ

МОДЕЛИ ИНФОРМАЦИОННОГО УПРАВЛЕНИЯ В СОЦИАЛЬНЫХ СЕТЯХ

Специальности: 05.13.10 -«Управление в социальных и экономических системах»

05.13.11 — «Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей»

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

Москва-2009

003489992

Работа выполнена в Учреждении Российской академии наук Институте проблем управления им. В.А. Трапезникова РАН

Научный руководитель - к.т.н. Микулич Л.И.

Научный консультант - д.ф.-м.н. Чхартишвили А.Г.

Официальные оппоненты - доктор технических наук

Мандель A.C. - кандидат технических наук, доцент Виноградов Г.П.

Ведущая организация - Институт системного анализа РАН

(ИСА РАН)

Защита состоится 8 февраля 2010 г. в 14 часов на заседании Диссертационного Совета Д 002.226.02 Учреждения Российской академии наук Института проблем управления им. В.А. Трапезникова РАН: 117997, Москва, ул. Профсоюзная, 65.

С диссертацией можно ознакомиться в библиотеке ИПУ РАН.

Автореферат разослан 3{ декабря 2009 г.

Ученый секретарь Диссертационного Совета кандидат технических наук

В.Н. Лебедев

{/

Общая характеристика работы

Актуальность темы. Социальные сети (СС) - социальные структуры, состоящие из множества агентов (субъектов -индивидуальных или коллективных, например: индивидов, семей, групп, организаций) и определенного на нем множества отношений (совокупности связей между агентами, например: знакомства, дружбы, сотрудничества, влияния, коммуникации) - являются предметом активных исследований, начиная со второй половины XX века. При моделировании социальных сетей возникает необходимость их анализа, в том числе, как сетей влияния - учета взаимного влияния членов сети, динамики их мнений. С развитием информационно-телекоммуникационных технологий за последние десять лет существенно возросла важность ресурсов нового типа - онлайновых социальных сетей - как средств распространения мнений, влияющих на действия пользователей сети. Исследователи СС (Jackson М, French J.R., Harary F., De Groot M.H., Roberts F.) не рассматривают задачи управления. Известные в теории управления социально-экономическими системами результаты (Кононов Д.А., Кононенко А.Ф., Кульба В.В., Новиков Д.А., Чхартишвили А.Г., Макаров B.JI. и др.) изучения механизмов информационного управления (воздействия на информированность участников системы) не в полной мере учитывают специфику СС, что обусловливает актуальность темы диссертационной работы.

Цель работы состоит в разработке моделей и методов эффективного информационного управления в СС.

Достижение поставленной цели требует решения следующих основных задач:

1. Выявление специфики СС как объектов управления; формулировка и классификация задач информационного управления в СС.

2. Разработка и исследование моделей и методов (механизмов) информационного влияния, управления и противоборства в СС, включая:

- модели информационного влияния в СС, в том числе - с учетом репутации участников;

- модели и методы информационного управления в СС;

- модели и методы информационного противоборства в СС;

- модели информационных эпидемий в СС и методы защиты от

них.

3. Создание программного комплекса для исследования с его помощью разработанных моделей и методов.

Основным методом исследования является математическое моделирование с использованием подходов и результатов теории игр, теории активных систем, теории принятия решений и исследования операций.

Научная новизна работы. В результате проведенных исследований:

1. Разработана и исследована модель влияния в социальных сетях с учетом репутации агентов. В результате анализа динамики мнений агентов в зависимости от репутации и динамики репутации в зависимости от мнений сформулирована и сведена к стандартной задаче оптимизации задача управления - воздействия на агентов социальной сети с целью формирования требуемых мнений агентов.

2. Построена общая теоретико-игровая модель информационного противоборства в социальной сети, исследован ряд ее частных случаев, включая задачу распределенного контроля в социальных сетях, для которой получены условия согласования интересов управляющих органов.

3. Сформулирована и исследована задача информационного противоборства в форме распространения информационной эпидемии и защиты от нее с учетом различной информированности и рефлексии агентов.

4. Разработан использующий онтологический подход программный комплекс для анализа социальных сетей и имитационного моделирования информационного управления в социальных сетях, с помощью которого верифицированы перечисленные выше теоретические результаты моделирования.

Практическая значимость. Результаты диссертационной работы позволяют разрабатьюать и обосновывать механизмы эффективного информационного управления в СС.

Реализация результатов работы. Эффективность использования разработанных в диссертационной работе моделей и методов информационного управления в «Центре технологий безопасности

ИБС» и управлении информатизацией ФГОУ ВПО «Чувашский государственный университет им. И.Н.Ульянова» подтверждены актами и справками о внедрении. Кроме того, результаты работы использовались в ряде проектов по спецтематике.

Личный вклад. Все основные результаты получены автором.

Апробация работы. Результаты диссертационной работы докладывались на: семинарах Института проблем управления им. В.А. Трапезникова РАН и МФТИ, VI Всероссийской школе-семинаре молодых ученых «Управление большими системами» (Ижевск, 2009), рабочем совещании «Networking Games and Management» (Петрозаводск, 2009), международной научно-практической конференции «Теория активных систем» (Москва, 2009), научной сессии Московского инженерно-физического института (Москва, 2008), на IV Всероссийской научно-практической конференции «Перспективные системы и задачи управления» (Домбай, 2009), на III Всероссийской молодежной конференции по проблемам управления (Москва, 2008), на 17-ом всемирном Конгрессе IFAC (Сеул, 2008), на Всероссийской конференции «Знания -Онтологии - Теории» (Новосибирск, 2007) и на региональных научно-студенческих конференциях (Чебоксары, 2005-2007).

Публикации. По теме диссертационной работы автором опубликовано 20 печатных работ общим объемом 13,2 печатных листов, из них автору принадлежат 7,4 печатных листа.

Структура и объем работы. Диссертационная работа состоит из введения, трех глав, заключения, списка литературы и приложения. Работа содержит 181 страницу текста, список литературы включает 156 наименований.

Содержание работы

Во введении обосновывается актуальность темы диссертационной работы, определяется цель исследования, характеризуются используемые методы и описывается структура работы.

Первая глава диссертационной работы «Проблемы моделирования информационного влияния и управления в социальных сетях» содержит обзор основных подходов и результатов разработки проблем информационного влияния и управления в социальных сетях.

В том числе, в разделе 1.1 перечисляются предоставляемые социальной сетью возможности, свойства и эффекты, наблюдаемые в социальных сетях, такие как: наличие собственных мнений агентов, изменение мнений под влиянием других членов социальной сети, различная значимость мнений одних агентов для других, различная степень приверженности агентов влиянию, существование лидеров мнений и другие. Возможности, свойства и эффекты предоставляют основание для классификации классов моделей социальных сетей.

В разделе 1.2 представлен аналитический обзор основных классов современных моделей социальных сетей. Раздел состоит из двух частей.

В разделе 1.3 устанавливается соответствие между моделями и отражаемыми ими свойствами СС. Выделены два обширных класса моделей социальных сетей:

• «Оптимизационные» и «имитационные» модели: модели с порогами, модели независимых каскадов, модели просачивания и заражения, модели Изинга, модели на основе клеточных автоматов, модели на основе цепей Маркова;

• «Теоретико-игровые» модели: модели взаимной

информированности, модели согласованных коллективных действий, модели коммуникаций, модели стабильности сети, модели информационного влияния и управления, модели информационного противоборства.

Вторая глава «Модели информационного влияния, управления и противоборства в социальных сетях» посвящена разработке и исследованию теоретико-игровых и оптимизационных моделей и методов информационного влияния, управления и противоборства в социальных сетях.

Раздел 2.1 посвящен модели информационного влияния, в которой изучается динамика и формирование мнений агентов под действием информационного влияния своих соседей в социальной сети. Агенты (люди, их группы и коллективы), входящие в социальную сеть, описываются множеством {1,2,..., п}. Агенты влияют друг на друга, и степень влияния задается матрицей прямого влияния г размерности пхп, где 0 обозначает степень доверия г'-го агента/-му агенту (влияния у'-го на г'-го). Считается, что выполняется условие нормировки:

(1 =1.

7=1

Если i'-й агент доверяет у'-му, а j-ti доверяет к-му, то это означает следующее: к-й агент косвенно влияет на г-го. Это соображение побуждает к поиску ответа на вопрос о том, кто в итоге формирует мнение в социальной сети. Для ответа на этот вопрос сначала введем понятия: сообщество (множество агентов, которые не подвергаются влиянию агентов вне него), группа (сообщество агентов, в котором каждый агент влияет или подвергается влиянию каждого другого агента группы прямо или косвенно) и спутник (агент, не оказывающий влияния ни на одну из групп).

Мнения агентов в социальной сети формируются следующим образом. У каждого агента в начальный момент времени имеется мнение по определенному вопросу. Мнение всех агентов сети отражает вектор действительнозначных мнений Ь. Агенты в социальной сети взаимодействуют, обмениваясь мнениями. Это приводит к тому, что мнение каждого агента меняется в соответствии с мнениями агентов, которым данный агент доверяет:

jeN

где индекс / означает момент времени, или в векторной записи Ъ[,) = z b. Если взаимодействие агентов продолжается достаточно долго, то их мнения могут сойтись к итоговому мнению в = lim Ь(1) или

/—»се

(3 )B = Zb,

где z = lim z' ■ Далее считается, что выполняется следующее условие: в

каждой группе существует хотя бы один агент / е N, для которого zlV>0. Тогда из известных фактов теории конечных цепей Маркова следует справедливость следующих утверждений:

Утверждение 1. Существует матрица результирующих влияний -

предел z = lim z'.

/—►00

Утверждение 2. Мнения агентов стабилизируются, т.е. существует

предел в = lim ¿<->. /-»00

Утверждение 3. Результирующее влияние любого спутника на любого агента равно нулю. Это, в частности, означает, что начальные

мнения спутников не оказывают никакого влияния на итоговые мнения каких-либо агентов.

Утверждение 4. В матрице результирующих влияний строки, соответствующие членам одной группы, совпадают. Это, в свою очередь, означает, что совпадают итоговые мнения агентов, т.е. каждая группа имеет общее мнение (которое можно считать мнением группы).

Следовательно, мнения спутников определяются мнением групп, а в группах мнения стабилизируются и равны.

На основе этой модели информационного влияния в разделе 2.2 формулируются и решаются задачи информационного управления и противоборства в социальных сетях. Задача информационного управления в социальных сетях понимается как задача формирования требуемого мнения в социальной сети путем информационного воздействия на отдельных агентов. Предположим, что информационное управление заключается в изменении мнения г-го агента с Ь, на Ъ, + и„ / е N. Предположим также, что и, е £/,, / е N. Обозначим [/ = у . Тогда итоговые мнения будут определяться

/еЛГ

уравнением

(4 )ви=г(ь + и),

или, в покоординатном виде,

то есть результирующее мнение агента, сложившееся в результате информационного управления, является суммой его «невозмущенного» результирующего мнения и изменений

у 2 и ' вызванных управляющими воздействиями. В силу (4)

¿ша и У

/бЛ'

«стабильное» состояние социальной сети линейно по управлению. Отметим также, что в соответствии с (3) и (4) «стабилизация» или «нестабилизация» мнений зависит только от матрицы доверия и не зависит от начальных мнений агентов (и, следовательно, от управлений).

Пусть целевая функция центра Ф(Ви, и) - критерий эффективности управления - зависит от итоговых мнений агентов и вектора управлений. Тогда задача управления будет заключаться в выборе

допустимого вектора управлений, максимизирующего критерий эффективности:

(6) Ф(Д , и) = Н(Ви) - с(и) -> шах,

иеи

где //(■) - «доход» центра, зависящий от итоговых мнений агентов, с(-) - затраты на осуществление управляющих воздействий.

В разделе 2.2 показано, что при линейных доходах и затратах задача информационного управления (6) сводится к задаче линейного программирования, в оптимальном решении которой информационные воздействия оказываются, в первую очередь, на наиболее влиятельных агентов, причем характеристиками влияния являются суммы столбцов матрицы Z

Далее в разделе 2.2 для ситуации информационного противоборства, когда несколько управляющих субъектов воздействуют на мнения отдельных участников сети с целью сформировать в сети выгодные управляющим субъектам представления, построена общая теоретико-игровая модель, в которой взаимодействие управляющих органов сведено к игре в нормальной форме.

Также в разделе 2.2 вводится понятие репутации и исследуется ее роль в осуществлении информационных воздействий. Пусть Г;>0 -параметр, описывающий репутацию г'-го агента. Вектор репутаций г = {ги г2,..гД если не говорено особо, будем считать общим знанием среди агентов. Потребуем, чтобы в сети всегда существовал агент с ненулевой репутацией. Также будем считать, что сеть представляет собой полный граф, следовательно, результирующее мнение будет единым для всех агентов, входящих в рассматриваемую социальную сеть.

Определим степень доверия г'-го агентау'-му агенту как

(7) 2

9 I*

каЫ

Обозначим через Я = гк суммарную («коллективную»)

кеН

репутацию членов сети. Тогда выражение (2) примет вид

л ¿аЫ

а выражение (3), соответственно, вид

(?) д=!(г.б), л

Выражения (7)-(9) представляют собой достаточно простую модель влияния в социальной сети с учетом репутации агентов.

Простейшей моделью информационного управления является следующая. Пусть некоторый агент (без ограничения общности будем считать его первым) заинтересован в том, чтобы итоговое мнение агентов было равно В*. Д ля этого, в силу (9), ему достаточно сообщить (при заданном векторе репутаций и фиксированных мнениях остальных агентов)

Г1 к> 1

Из условия неотрицательности начальных мнений (в том числе, и > 0) можно найти нижнюю границу «диапазона манипулирования» первого агента (любого большего значения при неограниченных сверху своих сообщениях и ненулевой репутации он всегда может добиться):

Л *>1

Из выражения (11) следует, в частности, что чем выше репутация активного агента, осуществляющего манипулирование, тем больше его возможности по влиянию на итоговое мнение агентов в социальной сети.

Исследуем теперь возможности манипулирования со стороны первого агента в зависимости от его репутации. Предположим, что значение начального мнения, которое может сообщать первый агент,

ограничено снизу величиной >0. Тогда из (9) получаем оценку репутации первого агента, минимально необходимой для обеспечения равновесия В»при ограничении д""" на свои сообщения:

Из выражения (12) следует, что чем выше репутации других агентов, тем жестче требования к репутации манипулирующего агента.

В реальных социальных сетях агенты зачастую могут сообщать свои мнения в достаточно широком диапазоне, но их репутация в существенной степени зависит от предыстории взаимодействия агентов. Поэтому если некоторый агент хочет осуществлять манипулирование мнениями членов социальной сети, то для этого он должен иметь достаточную репутацию. Необходимо рассмотрение сценария, при котором этот агент сначала предпринимает действия по увеличению своей репутации, а затем использует ее для достижения своих целей - эффективного манипулирования. Следовательно, возникает задача описания, во-первых, динамики репутации и, во-вторых, - процессов целенаправленного ее формирования.

Для моделирования динамики репутации агентов предположим, что описанное выше их взаимодействие повторяется последовательно (при различных «начальных условиях») конечное число раз. Содержательно - агенты могут последовательно обсуждать ряд интересующих их вопросов, причем репутация каждого агента в общем случае зависит от всей предшествующей «истории» обсуждений.

Предположим, что члены социальной сети последовательно рассматривают Т вопросов, по каждому из которых у каждого из

агентов имеется свое начальное мнение Ъ\, / е Ы, / = 1, Т. Начальные

репутации агентов обозначим г/, ; е N. Будем считать, что общим

знанием среди агентов являются репутации, начальные и результирующие мнения всех агентов для текущего и всех прошлых периодов.

Обозначим Я' - суммарную репутацию агентов в начале периода и В'- результирующее одинаковое мнение агентов к концу периода /.

Итак, вопросы, рассматриваемые агентами, независимы, и результирующие мнения будут определяться

(13 )В'=±Г(Г-Ь'), к

где г1 = (г[,..., г'п), Ъ' = (Ъ[,..., Ь'п ) - соответственно, вектора репутаций и начальных мнений агентов в начале периода времени

Для описания всей траектории изменения мнений и репутаций агентов необходимо доопределить, как изменяется репутация каждого из агентов в каждом периоде времени. Будем считать, что репутация любого агента в начале любого периода равна репутации данного агента в конце предыдущего периода времени, поскольку обсуждаемые агентами вопросы принадлежат примерно одной тематике.

В общем случае можно предположить, что репутация i-го агента в момент времени t определяется начальными и результирующими мнениями всех агентов и их репутациями во всех предшествующих периодах:

(14) г' = F{r\ г"\ Ъ\ ...Х\В\..., Г l),isN,t=2J,

причем, логично предположить, как минимум, что функция F{-)

монотонно убывает по разности | b'~l и возрастает по

предыдущим значениям репутации данного агента. В качестве примера зависимости (14) можно использовать, например, следующий закон изменения репутации:

г"

где ае(0; 1], [5>0 - заданные константы. В соответствии с выражением (15) репутация агента в начале некоторого периода времени зависит только от его репутации в предыдущем периоде, которая возрастает (уменьшается) в текущем периода, если итоговое мнение всех агентов оказывается близким к (сильно отличается от) его мнению(я).

Описав информационное влияние и динамику репутации, перейдем к постановке и решению для рассматриваемой модели задачи управления - воздействия на агентов социальной сети с целью формирования требуемых их мнений.

Ограничимся случаем манипулирования со стороны одного (первого) агента, целью которого является такое манипулирование своими начальными мнениями по каждому из вопросов, чтобы (с учетом соответствующей динамики его репутации) добиться определенного результирующего мнения всех членов социальной сети по последнему вопросу.

Итак, имеем динамическую систему (13)-(14). Требуется найти последовательность сообщаемых другим агентам начальных мнений

12 Т

первого агента 5,, ^ ,..., (при манипулировании может

быть 5,' * Ъ\), удовлетворяющую ограничениям ^ > Ъ[тш, 1= \,Т, и минимизирующую заданную монотонную целевую функцию Вт-В11), где формирование итогового мнения В1 по последнему вопросу может интерпретироваться как цель управления.

В общем случае сформулированная задача является задачей динамического программирования и в каждом конкретном случае может быть решена численно. Таким образом, в рамках предложенной модели социальной сети задача информационного противоборства, фактически, сводится к задаче динамической активной экспертизы с репутацией, которая является обобщением классической для теории выбора задачи активной экспертизы.

Перейдем к краткому качественному обсуждению случая информационной рефлексии, основанной на асимметричной информированности агентов. Обозначим Е - множество всевозможных конечных последовательностей индексов из Д г,а - представления г'-го агента о репутации а-агента, г е ТУ, ст е 2. Например, г у -представления г'-го агента о репутации у'-го, гцк - представления г-го агента о представлениях /-го агента о репутации к-то агента и т.д. (в случае общего знания гу = гр г, у е М). К такой конструкции применим аппарат теории рефлексивных игр, при помощи которого можно искать информационные равновесия, исследовать их стабильность и т.д.

Наряду с информационной рефлексией интерес представляет стратегическая рефлексия - процесс и результат размышления агентов о том, какое действие выберут оппоненты. В рамках данной модели агенты являются пассивными участниками ситуации за исключением манипулирующего агента (игрока). В качестве иллюстративного примера рассмотрим следующую модель принятия произвольным агентом из множества //решений о сообщаемом другим агентам своем мнении: пусть он заинтересован в том, чтобы результирующее мнение совпадало с сообщенным им мнением (при этом его репутация в глазах оппонентов будет высока - все сообщество

«соглашается с ним»). Если рефлексия отсутствует, то из (9) следует, что г'-ый агент сообщит «среднее» мнение остальных агентов:

5>А

а —,

к~п

где 6., = (¿ь ¿2, • • 6,-ь Ь1+\,Ь„), /бЖ Вектор (16) можно условно назвать «рефлексивным равновесием». Возникает вопрос, какие предположения о принципах принятия решений оппонентами использует агент. Если предположить, что каждый агент использует принцип принятия решений типа (16), то единственным «равновесием» будет сообщение всеми агентами одного и того же мнения, причем, например, в случае одинаковых репутаций агентов равновесием Нэша это «равновесие» будет только при условии, что и истинные мнения всех агентов одинаковы. Поэтому добавим фактор стратегической рефлексии, то есть, будем считать, что, выбирая свое сообщение в соответствии с выражением (16), г-ый агент полагает, что все остальные агенты честно сообщат свои истинные мнения (это означает, что в рассматриваемом случае все агенты являются «не очень интеллектуальными» игроками). Если все агенты ведут себя так же, то сложится следующее итоговое мнение:

5>А

» , 1 ]

(17) В _к .

ЯЯ Я-П '

Условием стабильности рефлексивного равновесия (17) является совпадение результирующих мнений, определяемых выражениями (9)

/еЛГ

В разделе 2.2 формулируется и исследуется задача распределенного контроля в социальных сетях. Центры осуществляют информационные воздействия на агентов, меняя их мнения, причем на одного и того же агента могут воздействовать одновременно несколько центров.

Обозначим: {./V,}, е к - совокупность подмножеств множества агентов И, где Щ - множество агентов, на которые может оказывать информационные воздействия г'-ый центр, г е К; Щ = {к е К \ / б Щ -множество центров, которые могут оказывать информационные воздействия на ]-го агента, _/ е с,(у", х) - затраты на изменение

мнения /-го агента с у° на х„ причем эти затраты могут в общем

случае зависеть от векторов мнений всех агентов - вектора у0 (начальные мнения до информационного воздействия) и вектора х (начальные мнения после информационного воздействия), / б Щх) - предпочтения /-го центра на множестве мнений агентов, / е К; <3у(у°,х) - затраты /-го центра на осуществление информационных воздействий нау'-го агента,;' е И„ / е К.

Ограничимся анализом условий согласованности интересов управляющих органов - когда они смогут договориться между собой, каковы должны быть формируемые мнения агентов.

Целевая функция /-го центра имеет вид (18) /,*)=",(*)-

а целевая функция у'-го агента:

Порядок функционирования следующий: центры одновременно и независимо выбирают свои управляющие воздействия и сообщают их агентам. Ограничимся, как и выше, рассмотрением множества Парето-эффективных равновесий Нэша игры центров, то есть, исследуем стратегии центров вида

Содержательно, центры договариваются о сотрудничестве, то есть о том, что они будут совместно формировать вектор х мнений агентов и осуществлять совместное стимулирование.

Из условий оптимальности по Парето следует, что сумма вознаграждений, получаемых агентом от центров, должна быть равна его затратам, то есть: (21) *,(/,,)=

>е К,

Условие (21) означает, что центры должны распределить между собой затраты на изменение мнений каждого из агентов.

Полезность /-го центра от «самостоятельного» взаимодействия с агентами равна

(22) IV, = тах

X

(23) IV, = тах

Л,Iс,(/,х)

ШК jeN

Обозначим Я= ||Л7||, (24Ь= хеЭ?; 3Лея? -.Н.М-^ИУ,, ¡еК, с,{у\х)= ^.¡еА

[ 1*1, ]еК, }

- множество таких векторов мнений агентов, для реализации которых сотрудничество выгодно для центров. Множество пар векторов х е 5 и соответствующих матриц затрат центров Я назовем областью компромисса в задаче распределенного управления социальной сетью:

(25) Л = ]*бЮ:1ЗЛеИ?|Л,(*)-2Х2И'/, ¡еК, п,(у°,х) = / е NI ■

Режим сотрудничества (условно говоря, в случае социальных сетей - информационная кооперация) по определению имеет место, если область компромисса (25) не пуста: Л ф 0.

Утверждение 5. Согласование интересов управляющих органов, осуществляющих информационные воздействия на членов социальной сети, возможно тогда и только тогда, когда

(26) тах

1еК

тах

Условие (26) гарантирует возможность согласования интересов управляющих органов. Если оно не выполнено, то имеет место режим конкуренции. Если считать, что воздействия центров не «интерферируют», то есть агент соглашается принять мнение того центра, который предложил максимальное поощрение, не обращая внимания на информацию от других центров, то будет иметь место аукционное решение. Содержательно, режим конкуренции соответствует информационной войне, победителем в которой будет центр, имеющий максимальный ресурс (22).

Обозначим у = агё тах

Л. )-!>,(/,*)

, ¡е. К-

Упорядочим (перенумеруем) центры в порядке убывания величин {W,}\ Щ > W2>... > Wk. Можно доказать справедливость следующего утверждения.

Утверждение 6. Если условие (26) не выполнено, то мнение членов социальной сети, сложившееся в результате информационных воздействий, будет (xNi,y°_Nt)

Умея анализировать модели распределенного контроля в социальных сетях, можно ставить и решать задачу более высокого уровня, а именно - задачу раздела сфер влияния, то есть определения того, какие из подмножеств членов социальной сети будут контролироваться тем или иным управляющим органом.

В разделе 2.3 рассматривается модель информационного противоборства в социальной сети, в которой наряду с «обычными» агентами в ситуации участвуют два игрока -А и В. Между агентами в социальной сети существуют связи, заданные симметричной квадратной матрицей G = fe,„), к, m е N. Элемент gh„ равен 1 (ненулевое доверие), если меяеду агентами к и m имеется связь, либо агенты совпадают (т.е. gmm = 1 для всех т)\ в противном случае = 0.

Игрок В стремится «инфицировать» сеть, т.е. распространить в сети некоторую информацию, мнение и пр. Для этого он может выбрать одного из агентов и инфицировать его. В каждый момент дискретного времени инфицированным оказывается каждый агент, связанный с инфицированным в предыдущий момент. Формально: пусть в момент t имеется множество инфицированных агентов S, с N. Тогда в следующий момент t+ 1 инфицированными окажутся: (27)S,+i = {meN\3 к е Sigia,,^ 1}.

Стратегией игрока В в данной игре является выбор агента j е N, с которого он начинает инфицирование сети.

Игрок А стремится противодействовать инфицированию. Он проводит периодический мгновенный мониторинг сети, в ходе которого выявляет множество инфицированных агентов и мгновенно останавливает дальнейшее распространение инфекции. Стратегией игрока А является выбор периода мониторинга i. Выбор периода / = 1 означает, что инфицированным оказывается - при стратегии j игрока В - агент j. Выбор i = 2 означает, что инфицированными оказываются агент j и все агенты, связанные с ним (т.е. такие агенты m е N, что

gmj =1). Множеству стратегий игрока А принадлежит также элемент со, что означает отсутствие мониторинга.

В общем случае множеством инфицированных агентов при выборе игроками А и В стратегий / и у соответственно является множество определяемое за у шагов из рекуррентного соотношения (27) с начальным значением 51 = /.

Примем следующее предположение: игроки выбирают стратегии одновременно и независимо (игра в нормальной форме).

Далее в разделе 2.3 приводится алгоритм построения биматрицы этой игры. Оказывается, что в игре информационного противоборства может отсутствовать равновесие Нэша в чистых стратегиях. Однако для социальной сети, задаваемой полным графом, справедливо:

Утверждение 7. В произвольной игре информационного противоборства на полном графе существует (хотя бы одно) равновесие Нэша в чистых стратегиях.

Можно задаться вопросом о том, приведет ли стратегическая рефлексия (процесс и результат размышления агентов о том, какое действие выберут оппоненты) в соответствующей биматричной игре (или любой другой) к каким-либо преимуществам для агентов. Оказывается, может привести.

Пусть целевые функции первого и второго агентов задаются матрицей игры (Е, Н)=(^, /гу). Обозначим 1={ 1, 2,.., т} - множество действий первого агента, 3= {1, 2..., п} - множество действий второго агента. Введем следующие предположения. Пусть матрицы выигрышей таковы, что у каждого агента существует единственный наилучший ответ на любое действие оппонента:

(28) V у е 7 = 1' А^ тах = 1

/е/

Пусть, кроме того, МГР каждого агента достигается ровно на одном действии:

(29)

А^тахттИ0

= 1-

Условия (28) и (29), обеспечивающие однозначное соответствие между рангом рефлексии агента и его действием, далее будем считать выполненными.

Каждый агент может выбрать конечный ранг свой рефлексии. Это приводит к выбору соответствующего действия: обладая нулевым рангом, первый агент выбирает гарантирующую стратегию - действие L = arg шах min Л» а обладая рангом к> 1 - действие / = arg max L

0 6 М jiJ ■"> «О ш ■/(/»_, ^

Аналогично для действий второго агента: / = arg max min/г - при

j£j iel IJ

нулевом ранге; / = arg max /, - при ранге к> 1.

JeJ

Утверждение 8. В биматричных играх неограниченное увеличение ранга рефлексии заведомо нецелесообразно, т.е. существует ранг рефлексии, превышение которого не приводит к новым действиям агентов. Максимальный целесообразный ранг рефлексии не превышает шах {min {п, m + 1}, min {m, n + Ij j.

Из утверждения 8 следует, что множество допустимых действий по выбору ранга конечно. Поэтому мы можем перейти из исходной игры к игре рангов стратегической рефлексии, в которой стратегией агента является выбор ранга стратегической рефлексии. Для этой игры справедливы следующие утверждения.

Утверждение 9. Матрица выигрышей в игре рангов является подматрицей матрицы исходной биматричной игры.

Утверждение 10. Для произвольной биматричной игры переход к игре рангов не приводит к появлению новых равновесий.

Относительно количества равновесий в игре рангов справедливо следующее утверждение (которое существенно использует условия (28) и (29)).

Утверждение 11. В игре рангов существует не более двух равновесий.

Следует отметить, что в некоторых случаях любой исход игры рангов дает обоим игрокам лучший результат, чем равновесие Нэша исходной игры.

В третьей главе «Разработка программного комплекса моделирования и анализа социальных сетей» приводится описание программного комплекса, разработанного для представления социальной сети, воспроизведения моделируемых процессов для их анализа, интерпретации, оценки и верификации теоретических моделей.

В разделе 3.1 предложена онтологическая модель социальных сетей, включающая базовую онтологию социальной сети (содержит знания о социальной сети и деятельности ее членов) и онтологию социально-сетевых сервисов (содержит знания о структуре и функциональности конкретных социально-сетевых сервисов). Такая модель организации базы данных программного комплекса позволяет использовать основанные на онтологиях (например, OWL) системы в интернет; использовать при построении модели существующие онтологии, описывающие различные аспекты социальных сетей; легко модифицировать модель в процессе ее использования. Кроме того модель предоставляет выразительные средства для представления структурных и поведенческих свойств объектов в социальных сетях, такие возможности используются в полной мере в подсистеме запросов программного комплекса.

В разделе 3.2 описывается подсистема сбора информации, поддерживающая различные методы сбора и генерации сетевых данных. В частности, для сбора требуемой информации из реальных онлайновых сетей разработан поисковый робот, который использует для определения порядка обхода Web-страниц онлайновой социальной сети и анализа их содержимого онтологию описаний социальной сети. Извлеченные из содержимого страниц объекты и связи сохраняются как экземпляры соответствующих понятий и отношений базовой онтологии в хранилище.

В разделе 3.3 рассматривается подсистема запросов к хранимым данным социальных сетей. Для подсистемы разработан декларативный язык запросов, позволяющий проводить итеративный анализ на больших графах и использующий ранее разработанную онтологическую модель для семантического обогащения запросов.

В разделе 3.4 рассматривается подсистема интерактивной визуализации данных. Подсистема используется для эффективного визуального представления (в виде графа и/или матрицы) результатов запросов к данным социальных сетей, чтобы наглядно довести до пользователя информацию о структуре данных и помочь ему разобраться в больших объемах данных (например, обнаружить полезные и неизвестные ранее факты и закономерности или подтвердить их). Работа пользователя с подсистемой рассматривается как интерактивный процесс, в котором подсистема оказывает

пользователю необходимую поддержку для анализа данных (для этого разработаны различные методы компоновки графов и средства навигации) и их модификации, а пользователь обеспечивает систему обратной связью (например, предоставляет параметры компоновки, фильтрации и пр.).

В разделе 3.5 описывается подсистема моделирования информационного влияния, в разделе 3.6 приводятся некоторые используемые алгоритмы, в разделе 3.7 - результаты имитационного моделирования.

При помощи разработанной системы (см. экранную форму на рис. 1) было проведено имитационное моделирование информационною влияния, информационного управления и информационной эпидемии в реальной социальной сети. Результаты имитационных экспериментов полностью соответствуют теоретическим результатам, полученным при анализе разработанных математических моделей, описанных во второй главе.

:о й- 1 >

Рис. 1. Экранная форма программного комплекса

Основные научные и практические результаты, полученные в диссертационной работе, состоят в разработке, исследовании и апробации комплекса оптимизационных, теоретико-игровых и имитационных моделей информационного управления в социальных сетях (СС). В том числе:

1. Выявлена специфика СС как объектов управления; приведена общая формулировка и предложена система классификаций задач информационного управления в СС.

2. Исследована динамическая марковская модель влияния в СС с учетом репутации агентов. Сформулирована и сведена к стандартной задаче оптимизации задача управления - воздействия на агентов СС с целью формирования требуемых их мнений.

3. Построена общая теоретико-игровая модель информационного противоборства в СС - ситуации, когда несколько управляющих субъектов воздействуют на мнения отдельных участников сети с целью сформировать в сети выгодные им (управляющим субъектам) представления. Для задачи распределенного контроля в СС получены условия согласования интересов управляющих органов.

4. Сформулирована и исследована (посредством сведения к биматричной игре) задача информационного противоборства в условиях инициации информационной эпидемии и защиты от нее.

5. Предложена онтологическая модель представления данных СС и структуры социально-сетевых сервисов, на основе этой модели создана база сетевых данных, предусматривающая различные модели и сценарии использования таких данных. Для базы сетевых данных создан специализированный для графов логический язык запросов. Заполнение базы данных производится разработанным поисковым роботом. Такая онтологическая модель и система управления данными выбраны для реализации программного комплекса, с помощью которого верифицированы теоретические результаты моделирования информационного управления в СС.

6. Разработанные в диссертационной работе модели и методы информационного управления внедрены в «Центре технологий безопасности ИБС» и управлении информатизацией ФГОУ ВПО «Чувашский государственный университет им. И.Н.Ульянова», что подтверждено актами и справками о внедрении.

Основные публикации по теме диссертации

1. Губанов Д.А. Системы, основанные на знаниях: инструментарий и его выбор / Студент. 'Наука. Знания: Сб. трудов региональной научно-студенческой конференции. Чебоксары: ЧТУ, 2005. С. 292 - 293.

2. Губанов Д.А. Нечеткие базы данных: модель представления и хранения данных / Сборник научных трудов молодых ученых и специалистов. - Чебоксары: ЧТУ, 2006. С. 130 -132.

3. Губанов Д.A. Thesus - средство создания и разделения знаний в научном сообществе. / Сборник научных трудов молодых ученых и специалистов. - Чебоксары: ЧТУ, 2007. С. 11 -15.

4. Губанов Д.А. Онтологическая система для компьютеризации языковых знаний / Сборник научных трудов молодых ученых и специалистов. -Чебоксары: ЧТУ, 2007. С. 249 - 253.

5. Губанов Д.А. Подход к разработке инструментария для создания и распределения знаний в научном сообществе / Труды Всероссийской конференции (Знания - Онтологии - Теории». - Новосибирск: НГУ, 2007. Том I. С. 53-58.

6. Губанов Д.А., Микулич Л.И. Использование технологий Web 2.0 для создания систем управления знаниями в научных организациях / Труды III Всероссийской молодежной конференции по проблемам управления. - М.: ИЛУ РАН, 2008. С. 1500 - 1505.

7. Губанов Д.А.,1 Микулич Л.И. Семантическое аннотирование изображений в научных исследованиях - OASIS / Научная сессия МИФИ-

2008. Сборник научных трудов. В 15 томах. Т.10. Интеллектуальные системы и технологии. -М.: МИФИ, 2008. С. 142-143.

8. Губанов Д.А., ¡Микулич Л.И. Управление компетенциями в научной организации / Труда III Всероссийской молодежной конференции по проблемам управления. - М.: ИЛУ РАН, 2008. С. 230 - 231. '

9. GubanovD. Án Approach to Knowledge Management in Research Organization. /Proceedings of the 17-th World Congress. The International Fédération of Automatic Control. Séoul, Korea, July 6-11,2008. P. 8119-8123.

10. Губанов Д.A., Каминская M.H. Управление качеством и достоверностью информации в онлайновых социальных сетях на основе онтологий / Труды четвертой Всероссийской научно-практической конференции «Перспективные системы и задачи управления». - Таганрог: Изд-во ТТИ ЮФУ, 2009. - 92-94 с.

11. Губанов ДА., Новиков Д.А. Модели распределенного контроля в социальных сетях // Системы управления и информационные технологии.

2009. № 3.1 (37). С. 124-129.

12. Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Модели влияния в j социальных сетях (обзор) // Управление большими системами. 2009. № 27.

13. Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Модели информационного влияния и информационного управления в социальных сетях // Проблемы управления. 2009. № 5. С. 28 - 35.

14. Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Модели репутации и информационного управления в социальных сетях // Математическая теория игр и ее приложения. 2009. № 3. С. 14-37.

15. Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Нечеткие модели ! влияния в социальных сетях / Труды VI Всероссийской школы-семинара | молодых ученых «Управление большими системами». - Ижевск: УдГУ, 2009.

; Том 2. С. 141-145.

16. Губанов Д.А., Чхартишвили А.Г. Теоретико-игровые задачи | управления в линейных социальных сетях / Extended abstracto of Workshop

«Networking Games and Management», June 28-30, 2009, Petrozavodsk: IPPM RAS, 2009. P. 18-21.

17. Губанов Д.А., Чхартишвили А.Г. О стратегической рефлексии в биматричных играх // Управление большими системами. 2008. № 21. С. 49 -57.

18. Губанов Д.А. Подход к имитационному моделированию информационного влияния в социальных сетях - SM. Международная научно-практическая конференция (Теория активных систем '2009): Труды /

Í Под ред. Буркова В.Н., Новикова Д. А. - М.: ИПУ РАН, 2009. Том I. С. 84-90.

19. Губанов Д.А., Чхартишвили А.Г. Об одной модели информационного ! противоборства в социальной сети // Системы управления и информационные ; технологии. 2009. № 3 (37). С. 13 -16.

j 20. Губанов À.A., Чхартишвили А.Г. Об одной модели j информационного влияния в социальных сетях. Международная научно-практическая конференция (Теория активных систем 2009): Труды / Под ред.

! Буркова В.Н., Новикова Д.А. - М.: ИПУ РАН, 2009. Том I. С. 91-94.

1

I Личный вклад автора в работах, опубликованньрс в j соавторстве, заключается в разработке моделей управления ¡знаниями в распределенных системах [6-10], а также моделей и ! методов информационного влияния [12,13,15, 20], управления [14, 16, 17] и противоборства [11, 19] в социальных сетях.

ВВЕДЕНИЕ.

1. ПРОБЛЕМЫ МОДЕЛИРОВАНИЯ ИНФОРМАЦИОННОГО ВЛИЯНИЯ И УПРАВЛЕНИЯ В СОЦИАЛЬНЫХ СЕТЯХ.

1.1. Информационное влияние в социальных сетях.

1.2. Обзор моделей информационного влияния в социальных сетях.

1.2.1. Модели влияния и индексы влиятельности в социальных сетях.

1.2.1.2. Определение самых влиятельных агентов в сети.

1.2.1.3. Обнаружение каскадов распространения влияния.

1.2.1.4. Другие модели влияния.

1.2.1.5. Индексы влияния.

1.2.2. Модели общего знания в социальных сетях. Общественное благо и коллективные действия. Игры на сетях.

1.2.2.1. Роль информированности.

1.2.2.2. Общественные блага и индивидуальная специализация.

1.2.2.3. Коммуникация и координация в социальных сетях.

1.2.2.4. Социальный контроль и коллективное действие в социальной сети. Стабильность сети.

1.2.2.5. Игры на сетях. Информационное управление в социальных сетях

1.3. Анализ моделей социальных сетей.

2. МОДЕЛИ ИНФОРМАЦИОННОГО ВЛИЯНИЯ, УПРАВЛЕНИЯ И ПРОТИВОБОРСТВА В СОЦИАЛЬНЫХ СЕТЯХ.

2.1. Модели информационного влияния в социальных сетях.

2.1.1. Прямое и косвенное информационное влияние.

2.1.2. Формирование и динамика мнений агентов.

2.1.3. Группы и сообщества.

2.1.4. Структура результирующих влияний.

2.1.5. Примеры формирования и динамики мнений агентов.

2.2. Модели информационного управления и информационного противоборства в социальных сетях.

2.2.1. Задача информационного управления.

2.2.2. Теоретико-игровая модель информационного противоборства.

2.2.3. Модель информационного управления на основе репутации участников социальной ссети.

2.2.3.1. Модель социальной сети.

2.2.3.2. Динамика репутации.

2.2.3.3. Задача информационного управления.

2.2.3.4. Информационное противоборство.

2.2.3.5. Примеры манипулирования информацией и информационного управления.

2.2.3.6. Рефлексия агентов.

2.2.4. Модель распределенного контроля в социальных сетях.

2.2.4.1. Система с распределенным контролем.

2.2.4.2. Общая технология постановки и решения задач согласования интересов элементов систем с распределенным контролем.

2.2.4.4. Условия согласования интересов управляющих органов.

2.3. Информационная эпидемия в социальной сети и защита от нее.

2.3.1. Исходные данные и предпосылки.

2.3.2. Алгоритм сведения к биматричной игре.

2.3.3. Сеть, являющаяся полным графом.

2.3.4. Стратегическая рефлексия агентов.

3. РАЗРАБОТКА ПРОГРАММНОГО КОМПЛЕКСА МОДЕЛИРОВАНИЯ И АНАЛИЗА СОЦИАЛЬНЫХ СЕТЕЙ.

3.1. Модель данных.

Представления базовой онтологии социальной сети.

3.2. Сбор информации.

3.3. Запросы к хранимым данным.

3.4. Интерактивная визуализация данных.

3.5. Моделирование информационного влияния.

3.6. Некоторые алгоритмы.

3.6.1. Генерация и нахождение статистик графа социальной сети.

3.6.2. Определение свойств модели информационного влияния, управления и противоборства.

3.7. Результаты имитационного моделирования процессов информационного влияния, управления и противоборства в социальных сетях.

3.7.1. Имитационное моделирование информационного влияния.

3.7.2. Имитационное моделирование информационного управления.

3.7.3. Имитационное моделирование информационной эпидемии.

Настоящая работа посвящена теоретико-игровым, оптимизационным и имитационным моделям информационного влияния, репутации, информационного управления и информационного противоборства в социальных сетях.

Актуальность темы. Социальные сети (СС) — социальные структуры, состоящие из множества агентов (субъектов - индивидуальных или коллективных, например: индивидов, семей, групп, организаций) и определенного на нем множества отношений (совокупности связей между агентами, например: знакомства, дружбы, сотрудничества, влияния, коммуникации) - являются предметом активных исследований, начиная со второй половины XX века. При моделировании социальных сетей возникает необходимость их анализа, в том числе, как сетей влияния - учета взаимного влияния членов сети, динамики их мнений. С развитием информационно-телекоммуникационных технологий за последние десять лет существенно возросла важность ресурсов нового типа - онлайновых социальных сетей - как средств распространения мнений, влияющих на действия пользователей сети. Исследователи СС (Jackson М., French J.R., Harary F., De Groot M.H., Roberts F.) не рассматривают задачи управления. Известные в теории управления социально-экономическими системами результаты (Кононов Д.А., Кононенко А.Ф., Кульба В.В., Новиков Д.А., Чхартишвили А.Г., Макаров B.JI. и др.) изучения механизмов информационного управления (воздействия на информированность участников системы) не в полной мере учитывают специфику СС, что обусловливает актуальность темы диссертационной работы.

Цель работы состоит в разработке моделей и методов эффективного информационного управления в СС.

Достижение поставленной цели требует решения следующих основных задач:

1. Выявление специфики СС как объектов управления; формулировка и классификация задач информационного управления в СС.

2. Разработка и исследование моделей и методов (механизмов) информационного влияния, управления и противоборства в СС, включая:

- модели информационного влияния в СС, в том числе — с учетом репутации участников;

- модели и методы информационного управления в СС;

- модели и методы информационного противоборства в СС;

- модели информационных эпидемий в СС и методы защиты от них.

3. Создание программного комплекса для исследования с его помощью разработанных моделей и методов.

Основным методом исследования является математическое моделирование с использованием подходов и результатов теории игр, теории активных систем, теории принятия решений и исследования операций.

Научная новизна работы. В результате проведенных исследований:

1. Разработана и исследована модель влияния в социальных сетях с учетом репутации агентов. В результате анализа динамики мнений агентов в зависимости от репутации и динамики репутации в зависимости от мнений сформулирована и сведена к стандартной задаче оптимизации задача управления - воздействия на агентов социальной сети с целью формирования требуемых мнений агентов.

2. Построена общая теоретико-игровая модель информационного противоборства в социальной сети, исследован ряд ее частных случаев, включая задачу распределенного контроля в социальных сетях, для которой получены условия согласования интересов управляющих органов.

3. Сформулирована и исследована задача информационного противоборства в форме распространения информационной эпидемии и защиты от нее с учетом различной информированности и рефлексии агентов.

4. Разработан использующий онтологический подход программный комплекс для анализа социальных сетей и имитационного моделирования информационного управления в социальных сетях, с помощью которого верифицированы перечисленные выше теоретические результаты моделирования.

Практическая значимость. Результаты диссертационной работы позволяют разрабатывать и обосновывать механизмы эффективного информационного управления в СС.

Реализация результатов работы. Эффективность использования разработанных в диссертационной работе моделей и методов информационного управления в «Центре технологий безопасности ИБС» и управлении информатизацией ФГОУ ВПО «Чувашский государственный университет им. И.Н.Ульянова» подтверждены актами и справками о внедрении. Кроме того, результаты работы использовались в ряде проектов по спецтематике.

Личный вклад. Все основные результаты получены автором.

Апробация работы. Результаты диссертационной работы докладывались на: семинарах Института проблем управления им. В.А. Трапезникова РАН и МФТИ, VI Всероссийской школе-семинаре молодых ученых «Управление большими системами» (Ижевск, 2009), рабочем совещании «Networking Games and Management» (Петрозаводск, 2009), международной научно-практической конференции «Теория активных систем» (Москва, 2009), научной сессии Московского инженерно-физического института (Москва, 2008), на IV Всероссийской научно-практической конференции «Перспективные системы и задачи управления» (Домбай, 2009), на III Всероссийской молодежной конференции по проблемам управления (Москва, 2008), на 17-ом всемирном Конгрессе IFAC (Сеул, 2008), на Всероссийской конференции «Знания - Онтологии — Теории» (Новосибирск, 2007) и на региональных научно-студенческих конференциях (Чебоксары, 20052007).

Публикации. По теме диссертационной работы автором опубликовано 20 печатных работ общим объемом 13,2 печатных листов, из них автору принадлежат 7,4 печатных листа.

Структура и объем работы. Диссертационная работа состоит из введения, трех глав, заключения, списка литературы и приложения. Работа содержит 181 страницу текста, список литературы включает 156 наименований.

ЗАКЛЮЧЕНИЕ

В настоящей работе разработан, исследован и апробирован комплекс оптимизационных, теоретико-игровых и имитационных моделей информационного управления в социальных сетях (СС). В том числе:

1. Выявлена специфика СС как объектов управления; приведена общая формулировка и предложена система классификаций задач информационного управления в СС.

2. Исследована динамическая марковская модель влияния в СС с учетом репутации агентов. Сформулирована и сведена к стандартной задаче оптимизации задача управления - воздействия на агентов СС с целью формирования требуемых их мнений.

3. Построена общая теоретико-игровая модель информационного противоборства в СС - ситуации, когда несколько управляющих субъектов воздействуют на мнения отдельных участников сети с целью сформировать в сети выгодные им (управляющим субъектам) представления. Для задачи распределенного контроля в СС получены условия согласования интересов управляющих органов.

4. Сформулирована и исследована задача информационного противоборства в условиях инициации информационной эпидемии и защиты от нее.

5. Предложена онтологическая модель представления данных СС и структуры социально-сетевых сервисов, на основе этой модели создана база сетевых данных, предусматривающая различные модели и сценарии использования таких данных. Для базы сетевых данных создан специализированный для графов логический язык запросов. Заполнение базы данных производится разработанным поисковым роботом. Такая онтологическая модель и система управления данными выбраны для реализации программного комплекса, с помощью которого верифицированы теоретические результаты моделирования информационного управления в СС.

6. Разработанные в диссертационной работе модели и методы информационного управления внедрены в «Центре технологий безопасности ИБС» и управлении информатизацией ФГОУ ВПО «Чувашский государственный университет им. И.Н.Ульянова», что подтверждено актами и справками о внедрении.

168

1. Bailey N. The Mathematical Theory of 1.fectious Diseases and Its Applications. -New York: Hafner Press, 1975.

2. Barnes J.A. Class and Committees in a Norwegian Island Parish II Human Relations. 1954. №7. P. 39-58.

3. Berger R.L. A Necessary and Sufficient Conditions for Reaching a Consensus using De Groot's method / Journal of American Statistical Assotiation. 1981. Vol. 76. P. 415-419.

4. Bernheim В., Whinston M. Common agency I I Econometrica. 1986. Vol. 54. P. 923 942.

5. Bimber В., Flanagin A., Stohl C. Reconceptualizing Collective Action in the Contemporary Media Environment II Communication Theory. 2005. № 4 (15). P. 365-388.

6. Bineham J. A Historical Account of the Hypodermic Model in Mass Communication II Communication Monographs. 1988. № 55. P. 230-246.

7. Bramoulle Y., Kranton R. Public Goods in Networks II Journal of Economic Theory. 2007. Vol. 135(1). P. 478-494.

8. Burt R.S. Brokerage and Closure. Oxford: Oxford University Press, 2005.

9. Buttle F.A. Word-of-Mouth: Understanding and Managing Referral Marketing II Journal of Strategic Marketing. Vol. 6. P. 241-254.

10. Carnes T., Nagarajan С., Wild S.M., Zuylen A. Maximizing Influence in a Competitive Social Network: A Follower's Perspective / Proceedings of the Ninth International Conference on Electronic Commerce. 2007. P. 351-360.

11. Cern. The Colt Project, http://dsd.lbl.gov/~hoschek/colt/

12. Chatterjee S. SenetaE. Toward Consensus: Some Convergence Theorems on Repeated Averaging II Journal of Applied Probability. 1977. № 14. P. 159 — 164.

13. Chwe M.S. Communication and Coordination in Social Networks II Review of Economic Studies. 2000. № 67. P. 1-16.

14. De GrootM.H. Reaching a Consensus // Journal of American Statistical As-sotiation. 1974. № 69. P. 118 121.

15. De Marzo P., Vayanos D., Zwiebel J. Persuasion Bias, Social Influence and Unidimensional Opinions II Quarterly Journal of Economics. 2003. № 118(3). P. 909-968.

16. Deutsch M., Gerard H.B. A Study of Normative and Informational Social Influences upon Individual Judgment II Journal of Abnormal and Social Psychology.1955. №51. P. 629-636.

17. Dodds P., Watts D.A. Generalized Model of Social and Biological Contagion II Journal of Theoretical Biology. 2005. № 232. P. 587-604.

18. DodsonJ., MullerE. Models of New Product Diffusion through Advertising and Word-of-Mouth //Management Science. 1978. № 24. P. 1568-1578.

19. Domingos P., Richardson M. Mining the Network Value of Customers / Proceedings of the Seventh International Conference on Knowledge Discovery and Data Mining. 2002. P. 57-66.

20. Eguffluz V., Klemm K. Epidemic Threshold in Structured Scale-free Networks II Physical Review Letters. 2002. № 89. P. 108701+.

21. ElihuK., LazarsfeldP. Personal Influence: the Part Played by People in the Flow of Mass Communications. — Glencoe, 111.: Free Press, 1955.

22. Even-Dar E., Shapira A. A Note on Maximizing the Spread of Influence in Social Networks / Internet and Network Economics. 2007. P. 281-286.

23. Felsenthal D., MachoverM. The measurement of voting power: Theory and practice, problems and paradoxes. — London: Edward Elgar, 1998.

24. French J.R. A formal theory of social power I I The Psychological Review.1956. №63. P. 181-194.

25. Friedkin N.E. Structural Cohesion and Equivalence Explanations of Social Homogeneity I I Sociological Methods and Research. 1984. No 12. P. 235-261.

26. Friedkin N.E., Johnson E.C. Social Influence and Opinions II Journal of Mathematical Sociology. 1990. № 15. P. 193-205.

27. Gladwell M. The Tipping Point: How Little Things Can Make a Big Difference. Little Brown & Company, 2000.

28. Godes D., Mayzlin D. Using Online Conversations to Study Word of Mouth Communication II Marketing Science. 2004. № 23. P. 545-560.

29. Goldenberg J., Libai B., Muller E. Talk of the network: A complex systems look at the underlying process of word-of-mouth II Marketing Letters. 2001. № 2. P. 11-34.

30. Golub B., Jackson M. Naive Learning in Social Networks: Convergence, Influence and the Wisdom of Crowds. 2007. http://www.stanford.edu/~jacksonm/naivelearning.pdf.

31. Google (2009) API Google Social Graph, http://code.google.com/intl/ru-RU/apis/socialgraph/

32. Grabisch M., Rusinowska A. A Model of Influence in a Social Network. http://halshs.archives-ouvertes.fr/docs/00/34/44/57/PDF/B08066.pdf.

33. Granovetter M. The Strength of Weak Ties II American Journal of Psychology. 1973. № 78 (6). P. 1360-1380.

34. Granovetter M. Threshold Models of Collective Behavior II American Journal of Sociology. 1978. Vol. 83. No. 6. P. 1420-1443.

35. Gubanov D. An Approach to Knowledge Management in Research Organization. /Proceedings of the 17th World Congress. The International Federation of Automatic Control. Seoul, Korea, July 6-11, 2008. P. 8119-8123.

36. Harary F. A Criterion for Unanimity in French's Theory of Social Power / Studies in Social Power. Michigan: Institute of Sociological Research. 1959. P. 168- 182.

37. Hesgelman R., Krause U. Opinion Dynamics and Bounded Confidence Models, Analysis and Simulation II Journal of Artificial Societies and Social Simulation. 2002. №5:3.

38. Hethcote H. W. The Mathematics of Infectious Diseases II SI AM Review. 2000. Vol. 42. No. 4. P. 599-653.

39. Hewlett-Packard (2009) Jena A Semantic Web Framework for Java.http://jena.sourceforge.net/

40. Hoede C., Bakker R. A Theory of Decisional Power II Journal of Mathematical Sociology. 1982. № 8. P. 309-322.

41. Howard A., Jebara T. Dynamical Systems Trees II Uncertainty in Artificial Intelligence. 2003. P. 260-267.

42. Howard N. Theory of Meta-games II General systems. 1966. № 11. P. 187-200.

43. Introducing JSON. http://www.ison.org

44. Jackson M. The Stability and Efficiency of Economic and Social Networks / Advances in Economic Design. 2003.

45. Jackson M. Social and Economic Networks. — Princeton: Princeton University Press, 2008. 648 p.

46. Janky B., Takács K. Social Control, Participation in Collective Action and Network Stability. HUNNET Working Paper. 2002. http://www.socialnetwork.hu/.

47. Kearns M., Siddharth S., MontfortN. An Experimental Study of the Coloring Problem on Human Subject Networks II Science. 2006. № 313. P. 824-827.

48. Kempe D., Kleinberg J., Tardos E. Maximizing the Spread of Influence through a Social Network / Proceedings of the 9-th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. 2003. P. 137-146.

49. Krause U. A Discrete Nonlinear and Non-autonomous Model of Consensus Formation / Communications in Difference Equations. Amsterdam: Gordon and Breach Publishers, 2000. P. 227 - 236.

50. Latané B., L'Herrou T. Spatial Clustering in the Conformity Game: Dynamic Social Impact in Electronic Groups II Journal of Personality and Social Psychology. 1996. № 70. P. 1218-1230.

51. Leenders R. The Specification of Weight Structures in Network Autocorrelation Models of Social Influence. 2002. http://ideas.repec.Org/p/dgr/rugsom/02b09.html

52. Leskovec J., Krause A., Guestrin C., Faloutsos C., Vanbriesen J., Glance N. Cost-effective Outbreak Detection in Networks / Proceedings of the 13-th ACM

53. SIGKDD International Conference on Knowledge Discovery and Data Mining. 2007. P. 420-429.

54. Leskovec J., Adamic L., Huberman B. The Dynamics of Viral Marketing. 2005. http://arxiv.org/abs/physics/0509Q39.

55. Lewis D. Convention: a Philosophical Study. — Cambridge: Harvard University Press, 1969.

56. LorenzJ. A Stabilization Theorem for Dynamics of Continuous Opinions // Physica A. 2005. № 355. P. 217 223.

57. Mahdian M., Anagnostopoulos A., Kumar R. Influence and Correlation in Social Network II Proceeding of the 14-th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. 2008. P. 7-15.

58. Mas-Colell A. Whinston M.D., Green J.D. Microeconomic theory. N.Y.: Oxford Univ. Press, 1995. - 1008 p.

59. Morris S. Contagion II The Review of Economic Studies. 2000. V. 67. № 1. P. 57-78.

60. Myerson R.B. Game Theory: Analysis of Conflict. — London: Harvard Univ. Press, 1991.

61. Nemhauser G., Wolsey L., Fisher M. An Analysis of the Approximations for Maximizing Submodular Set Functions II Mathematical Programming. 1978. №14. P. 265-294.

62. Newman M., Park J. Why Social Networks Are Different from Other Types of Networks II Physical Review. 2003. Vol. 68.

63. Oliver N., Rosario B., Pentland A. Graphical Models for Recognizing Human Interactions / Proceedings of International Conference on Neural Information and Processing Systems (NIPS). 1998. P. 924-930.

64. Olson M. The Logic of Collective Action: Public Goods and the Theory of Groups. Harvard: Harvard University Press, 1971.

65. OReilly, T. What Is Web 2.0. http://www.oreillynet.eom/pub/a/oreilly/ tim/news/2005/09/30/what-is-web-20.html.

66. Oxford English Dictionary / http://www.askoxford.com.

67. Robins G., Pattison P., Elliot P. Network Models for Social Influence Processes //Psychometrica. 2001. Vol. 66. No. 2. P. 161-190.

68. Robins G., Pattison P., Kalish Y., Lusher D. An Introduction to Exponential Random Graph (/?*) Models for Social Networks II Social Networks. 2007. № 29. P. 173-191.

69. Rogers E.M. Diffusion of Innovations. New York London: Free Press, 1983.

70. Rolfe M. Social networks and threshold models of collective behavior. Preprint. Chicago: University of Chicago, 2004.

71. Romualdo P., Alessandro V. Epidemic Spreading in Scale-Free Networks II Physical Review Letters. 2001. № 14 (86). P. 3200-3203.

72. Rusinowska A., Swart H. Generalizing and Modifying the Hoede-Bakker Index. Theory and Applications of Relational Structures as Knowledge Instruments. № 2. Springer's Lecture Notes in Artificial Intelligence LNAI 4342. Springer, 2007. P. 60-88.

73. Saul L.K., Jordan M.I. Mixed Memory Markov Models: Decomposing Complex Stochastic Processes as Mixtures of Simpler Ones / Machine Learning. 1999. Vol. 37. № LP. 75-87.

74. Schiff J.L. Cellular Automata: A Discrete View of the World. NY: Wiley, 2007.

75. Shapley L.S., Shubik M. A method for Evaluating the Distribution of Power in a Committee System II American Political Science Review. 1954. Vol. 48(3). P. 787-792.

76. Shrager J., Hogg T., Huberman B. Observation of Phase-Transitions in Spreading Activation Networks II Science. 1987. № 236. P. 1092-1094.

77. Tarnow E. Like Water and Vapor — Conformity and Independence in the Large Group. http://cogprints.Org/4274/l/Lar.geGroupOrderTamow.pdf

78. The Internet and the 2008 Election. http://pewinternet.org/pdfs/ PIP2008election.pdf.

79. Tuomela R. Shared Belief. http://www.valt.helsinki.fi/staff/tuomela/papers/Shared.pdf

80. Valente T. Network Models of the Diffusion of Innovations. — Cresskill, NJ: Hampton Press, 1995.

81. W3C (2008) Resource Description Framework (RDF). http://www.w3.org/TR/rdf-sparql-query/

82. Watts D. The «New» Science of Networks II Annual Review of Sociology.2004. № 30. P. 243-270.

83. Watts D., Dodds P. Influential, Networks, and Public Opinion Formation I I Journal of Consumer Research. 2007. № 34. P. 441-458.

84. Wu F., Huberman В., Adamic L., Tyler J. Information Flow in Social Groups И Statistical and Theoretical Physics. 2004. № 337. P. 327-335.

85. Young P. The Spread of Innovations by Social Learning. 2006. http://www.santafe.edU/events/workshops/images/0/0a/Spread21march.pdf.

86. Zhang D., Gatica-Perez D., Bengio S., Roy D. Learning Influence among Interacting Markov Chains II Neural Information Processing Systems (NIPS),2005. P. 132-141.

87. Алескеров Ф.Т., Благовещенский Н.Ю., Сатаров Г.А. и др. Влияние и структурная устойчивость в Российском парламенте (1905-1917 и 19932005 гг.). М.: Физматлит, 2007.

88. Барабаши A.JI. Сети без масштабов II В мире науки. Scientific American. 2003. №8. С. 55-63.

89. Баркалов С.А., Калинина Н.Ю., Новиков Д.А. Механизмы компромисса в моделях функционирования команд управления проектами II Вестник ВГТУ. 2008. Т. 4. № 7. С. 47 50.

90. Бреер В.В. Стохастические модели социальных сетей.

91. Васин А.А. Модели динамики коллективного поведения. — М.: МГУ, 1989.

92. Васин А.А. Некооперативные игры в природе и обществе. — М.: МАКС пресс, 2005.

93. Васин А.А., Краснощеков П.С., Морозов В.В. Исследование операций. — М.: Изд-во Академия, 2008.

94. Гантмахер Ф.Р. Теория матриц. -М.: Наука, 1966.

95. Гермейер Ю.Б. Игры с непротивоположными интересами. — М.: Наука, 1976.-327 с.

96. Глоссарий по теории управления и ее приложениялг / http://glossary.ru.

97. Градосельская Г.В. Анализ социальных сетей. Автореф. дис. . канд. соц. наук. — Москва, 2001.

98. Губанов Д.А. Thesus — средство создания и разделения знаний в научном сообществе // Сборник научных трудов молодых ученых и специалистов. Чебоксары, 2007. С. 11-15.

99. Губанов Д.А. Нечеткие базы данных: модель представления и хранения данных II Сборник научных трудов молодых ученых и специалистов. Чебоксары, 2006. С. 130-132.

100. Губанов Д.А. Обзор онлайновых систем репутации/доверия. — М.: ИЛУ РАН, 2009 / Интернет-конференция по проблемам управления (www.mtas.ru/forum). — 25 с.

101. Губанов Д.А. Онтологическая система для компьютеризации языковых знаний II Сборник научных трудов молодых ученых и специалистов. Чебоксары, 2007. С. 249-253.

102. Губанов Д.А. Подход к разработке инструментария для создания и распределения знаний в научном сообществе //Труды Всероссийской конференции с международным участием "Знания Онтологии - Теории" под ред. Н.Г.Загоруйко. Новосибирск. 2007. Том I, С.53-58.

103. Губанов Д.А. Системы, основанные на знаниях: инструментарий и его выбор II Студент. Наука. Знания: Сб. трудов региональной научно-студенческой конференции. Чебоксары, 2005. С. 292-293.

104. Губанов Д.А. Подход к имитационному моделированию информационного влияния в социальных сетях SIM / Труды международной научно-практической конференции «Теория активных систем». - М.: ИПУ РАН, 2009. Том. 1. С. 84-90.

105. Губанов Д.А., Каминская М.Н. Управление качеством и достоверностью информации в онлайновых социальных сетях на основе онтологий /

106. Труды четвертой Всероссийской научно-практической конференции «Перспективные системы и задачи управления». — Таганрог: Изд-во ТТИ ЮФУ, 2009. 92-94 с.

107. Губанов Д.А., Микулич Л.И. Семантическое аннотирование изображений в научных исследованиях OASIS. Научная сессия МИФИ-2008. Сборник научных трудов. В 15 томах. Т. 10. Интеллектуальные системы и технологии. М.:МИФИ, 2008. - 256 с.

108. Губанов Д.А., Микулич Л.И. Управление компетенциями в научной организации. /III Всероссийская молодежная конференция по проблемам управления (Москва, ИПУ РАН, 7-9 апреля 2008 г.). Труды конференции. М.: ИПУ РАН, 2008. С.230-231.

109. Губанов Д.А., Новиков Д.А. Модели распределенного контроля в социальных сетях II Системы управления и информационные технологии, 2009, 3.1(37).-С.124-129.

110. Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Модели влияния в социальных сетях (обзор) II Управление большими системами. 2009. № 26.

111. Губанов Д.А., Новиков Д.А., Чхартишвили А.Г. Модели информационного влияния и информационного управления в социальных сетях II Проблемы управления. №5. 2009. С. 28-35.

112. Губанов Д.А., Новиков Д.А. , Чхартишвили А.Г. Модели репутации и информационного управления в социальных сетях И Математическая теория игр и ее приложения. 2009. № 3. С. 14-37.

113. Губанов Д.А. , Новиков Д.А. , Чхартишвили А.Г. Нечеткие модели влияния в социальных сетях. / Труды VI Всероссийской школы-семинара молодых ученых «Управление большими системами». Ижевск: УдГУ, 2009. Том 2. С. 141-145.

114. Губанов Д.А., Чхартишвили А. Г. Теоретико-игровые задачи управления в линейных социальных сетях II Extended abstracts of Workshop "Networking Games and Management", June 28-30, 2009, Petrozavodsk. 2009. Pp. 18-21.

115. Губанов Д.А., Чхартишвили А.Г. О стратегической рефлексии в бимат-ричных играх / Управление большими системами. Выпуск 21. М.: ИЛУ РАН, 2008. С.49-57.

116. Губанов Д.А., Чхартишвили А.Г. Об одной модели информационного противоборства в социальной сети II Системы управления и информационные технологии, 3(37), 2009. -С. 13-16.

117. Губанов Д.А., Чхартишвили А.Г. Об одной модели информационного влияния в социальных сетях. Международная научно-практическая конференция (Теория активных систем '2009): Труды / Под ред. Буркова В.Н., Новикова Д.А. М.: ИПУ РАН, 2009. Том I. С. 91-94.

118. Губко М.В., Новиков Д.А. Теория игр в управлении организационными системами. М.: Синтег, 2002. - 148 с.

119. Губко М.В. Задачи управления организационными системами с сетевым взаимодействием участников II Автоматика и Телемеханика. 2004. № 8. С. 102- 129.

120. Губко М.В., Караваев А.П. Согласование интересов в матричных структурах управления II Автоматика и телемеханика. 2001. № 10. С. 112 -119.

121. Губко М.В., Новиков Д.А., Чхартишвили А.Г. Сетевые игры и игры на сетях / Труды международной конференции «Сетевые игры и менеджмент». Петрозаводск: ИПМИ РАН, 2009. С. 13 - 17.

122. Давыденко В.А., Ромашкина Г.Ф. Моделирование социальных сетей II Вестник Тюменского государственного университета. № 1, 2005. С. 68-79.

123. Доценко E.JI. Психология манипуляции: феномены, механизмы и защита. -М.: ЧеРо, 1997.-344 с.

124. Ермаков Н.С., Иващенко A.A., Новиков Д.А. Модели репутации и норм деятельности. М.: ИЛУ РАН, 2005. - 67 с.

125. Иващенко A.A., Новиков Д.А. Модели и методы организационного управления инновационным развитием фирмы. — М.: Ленанд, 2006.

126. Караваев А.П. Модели и методы управления составом активных систем.-М.: ИЛУ РАН, 2003.- 151 с.

127. Кемени Дж., Снелл Дж. Конечные цепи Маркова. -М.: Наука, 1970.

128. Кричевский Р., Дубовская Е. Психология малой группы: теоретический и прикладной аспекты. — М.: Изд-во МГУ, 1991.

129. Кузнецов H.A., КульбаВ.В., МикринЕ.А. и др. Информаицонная безопасность систем организационного управления. — М.: Наука, 2006.

130. Ландау Л.Д., Лифшиц Е.М. Курс теоретической физики. — М.: Физмат-лит, 1968.

131. Майерс Д. Социальная психология. — С.-Пб.: Питер, 2002.

132. Малишевский A.B. Качественные модели в теории сложных систем. — М.: Наука, 1998.

133. Менар К. Экономика организаций. М.: ИНФРА-М, 1996.

134. Мулен Э. Кооперативное принятие решений: аксиомы и модели. — М.: Мир, 1991.

135. Новиков Д.А. Математические модели формирования и функционирования команд, 2008. 188 с.

136. Новиков Д.А. Теория управления организационными системами. 2-е издание. -М.: Физматлит, 2007.

137. Новиков Д.А., Смирнов И.М., Шохина Т.Е. Механизмы управления динамическими активными системами. — М.: ИЛУ РАН, 2002. 124 с.

138. Новиков Д.А., Чхартишвили А.Г. Рефлексивные игры. — М.: Синтег, 2003.-227 с.

139. Новиков Д.А. «Когнитивные игры»: линейная импульсная модель II Проблемы управления. 2008. № 3. С. 14 22.

140. Новиков Д.А. Закономерности итеративного научения. — М.: ИЛУ РАН, 1998.

141. Новиков Д.А Институциональное управление организационными системами. М.: ИЛУ РАН, 2003.

142. Новиков Д.А. Математические модели формирования и функционирования команд. — М.: Физматлит, 2008.

143. Новиков Д.А. Механизмы функционирования многоуровневых организационных систем. — М. : Фонд «Проблемы управления», 1999. 150 с.

144. Новиков Д.А. Теория управления организационными системами. — М.: Физматлит, 2007. 584 с.

145. Новиков Д.А., Цветков A.B. Механизмы функционирования организационных систем с распределенным контролем. — М.: ИПУ РАН, 2001. — 118 с.

146. Новиков Д.А., Чхартишвили А.Г. Прикладные модели информационного управления. М.: ИПУ РАН, 2004.

147. Опойцев В.И. Равновесие и устойчивость в моделях коллективного поведения. -М.: Наука, 1977.

148. Орловский С.А. Проблемы принятия решений в условиях нечеткой исходной информации. — М.: Наука, 1981. — 206 с.

149. Почепцов Г.Г. Информационно-психологическая война. М.: Синтег, 2000.

150. Роберте Ф.С. Дискретные математические модели с приложениями к социальным, биологическим и экологическим задачам / Пер. с англ. A.M. Раппопорта, С.И. Травкина. Под ред. А.И. Теймана. М.: Наука. Гл. ред. физ.-мат. лит., 1986. -496 с.

151. Саймон Г. Науки об искусственном. — М.: Мир, 1972.

152. Словарь иностранных слов. — М.: Русский язык, 1982.

153. Тихонов А.Н., АрсенинВ.Я. Методы решения некорректных задач. — М.: Наука, 1986.

154. Харари Ф. Теория графов. М.: КомКнига, 2006.

155. Харшаньи Д., Зельтен Р. Общая теория выбора равновесия в играх. — СПб.: Экономическая школа, 2001.

156. Чхартишвили А.Г. Теоретико-игровые модели информационного управления. М.: ПМСОФТ, 2005. - 160 с.

157. Ширяев А.Н. Вероятность. В 2-х кн. М.: МЦНМО, 2004.