автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Математическое моделирование терминальных вычислительных сетей на основе нечетких временных рядов

кандидата технических наук
Юнусов, Тагир Рагатович
город
Ульяновск
год
2007
специальность ВАК РФ
05.13.18
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Математическое моделирование терминальных вычислительных сетей на основе нечетких временных рядов»

Автореферат диссертации по теме "Математическое моделирование терминальных вычислительных сетей на основе нечетких временных рядов"

На правах рукописи

ЮНУСОВ Тагир Рагатович

¡МАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕ ТЕРМИНАЛЬНЫХ ВЫЧИСЛИТЕЛЬНЫХ СЕТЕЙ НА ОСНОВЕ НЕЧЕТКИХ ВРЕМЕННЫХ РЯДОВ

Специальность 05 13 18 - «Математическое модечирование,

численные методы и комплексы программ»

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

0031Т7425

Ульяновск - 2007

003177425

Работа выполнена на кафедре «Информационные системы» в Ульяновском государственном техническом университете

Научный руководитель

доктор технических наук, профессор УлГТУ Ярушкина Надежда Глебовна

Официальные оппоненты

доктор физико-математических наук,

профессор УлГТУ

Валсев Султан Галимзянович

кандидат технических наук, программист ООО «Креативная разработка» Негода Дми грий Викторович

Ведущая организация ФНПЦ ОАО «НПО МАРС» j Ульяновск

Защита состоится « 26 » декабря 2007 г в 12 часов на заседании диссертационного совета Д 212 277 02 при Ульяновском государственном техническом университете по адресу 432027 i Ульяновск, у х Северный Венец, 32 (ауд 211, Главный корпус).

С диссертацией можно ознакомиться в библиотеке Ульяновского государственного технического университета

Автореферат разослан « Цо^-^рД 2007г

Ученый секретарь диссертационного совета, доктор технических наук, профессор

В Р Крашенинников

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы

В настоящее время резко возрастает сложность создаваемых и эксплуатируемых технических систем В процессе проектирования и эксплуатации таких систем моделирование является эффективным методом прогнозирования их основных характеристик поведения Сложные технические системы, такие как вычислительные сети, обладают объективной неопределенностью, что требует дальнейшего расширения инструментария прогностики Все чаще используются интеллектуальные методы, которые расширяют классическую классификацию прогностических методов и представляют сочетание формализованных процедур обработки информации, полученной по оценкам специалистов-экспертов Интеллектуальные математические методы прогнозирования применяют в тех случаях, когда невозможно учесть влияние многих факторов из-за значительной сложности объекта прогнозирования или если недоступны объективные результаты измерений поведения объекта В этом случае используются оценки экспертов

Исследования данных и их методов анализа в последние десятилетия оформились в виде отдельного направления, называемого интеллектуальным анализом данных или Data Mining, в котором анализ временных рядов получил понятие интеллектуального анализа временных рядов или Times-Series Data Mining В работах ряда зарубежных ученых (X Танаки, К Хироты, Я Капржика, В Педрича) исследованы методы нечеткой регрессии, анализа данных нечетких временных рядов Среди отечественных ученых данной 1еме посвящены работы ИЗ Батыршина, С М Ковалева, Н Г Ярушкиной и др

Несмотря на перечисленные работы, многие задачи анализа нечетких временных рядов остаются нерешенными, в частности, задачи анализа нечетких тенденций и генерации правил распознавания тенденций Методы анализа нечетких временных рядов могут быть положены в основу создания библиотек имитационных моделей элементов сложных технических систем, в частности вычислительных сетей

Перечисленные особенности делают решение научно-технической задачи исследования и разработки нового инструментария прогностики на основе нечетких временных радов и построения математических моделей конкретных устройств вычислительных сетей актуальным

Цель диссертационной работы

Целью диссертации является исследование прогностических возможностей нечетких тенденций нечетких временных рядов и построение на их основе математических моделей элементов вычислительных сетей

Задачи исследования

Для достижения поставленной цели необходимо решить следующие задачи

1 Провести сравнительный анализ существующих методов анализа нечетких временных рядов, выявить их возможности и ограничения

2 Построить методику распознавания нечетких тенденций временных рядов и методику анализа временного ряда нечетких тенденций

3 Сформировать алгоритм формирования временного ряда нечетких тенденций по исходному временному ряду и обратный алгоритм генерации ряда - представителя нечеткой тенденции

4 Разработать метод генерации знаний о нечетких тенденциях в форме правил

5 Разработать и реализовать программную систему -инструментарий для обработки нечетких временных рядов

6 Разработать модели элементов вычислительных сетей ча основе анализа нечетких временных рядов трафика

Меюды исстедования

Современная теория нечетких систем, теория вероятностей, методы математической статистики, теория имитационного моделирования

Научная новизна

Впервые

1 Предтожено определение временного ряда нечетких тенденций и разработаьа методика распознавания нечетких тенденций

2 Разработаны алгоритмические операции обработки нечетких тенденций а именно, операция формирования временного ияда нечетких тенденций по исходному временному ряду л обрашая операция генерации ряда - представителя нечеткой тенденции

3 Предложен метод 1 операции знаний о нечетких тенденциях в форме правил

4 Разработана математическая имитационная модель терминал-сервера как элемента вычислительной сети, позволяющая оперировать прогнозными данными о трафике и вычислительной загрузке

5 Исследована эффективность моделирования трафика в терминальных фрагментах вычислительной сети

Достоверное гь результатов диссертационной работы.

Достоверность научных положений, выводов и рекомендаций подтверждена результатами экспериментов, а также результатами использования материалов диссертации и разработанной системы в проектной организации в соответствии с актом внедрения

Основные положения, выносимые на защиту

1 Временной ряд нечетких тенденций является результативным индикатором развития моделируемого процесса в сложной технической системе, описанного качественно, в лингвистических терминах

2 Базовыми операциями обработки нечетких тенденций являются алгоритмические операции обработки нечетких тенденций, а именно, операция формирования временного ряда нечетких тенденций по исходному временному ряду и обратная операция генерации ряда - представителя нечеткой тенденции

3 Нечеткая нейронная сеть предложенной архитектуры является эффективным генератором правил прогнозирования нечетких тенденций

4 Разработанная математическая имитационная модель терминал-сервера как элемента вычислительной сети на основе временных рядов нечетких тенденций позволяет прогнозировать трафик сервера

Практическая значимость работы

Разработанные методы и алгоритмы позволяют проектировщикам создавать модели элементов вычислительной сети с улучшенными характеристиками, а также сокращать время, затрачиваемое на проектирование вычислительных сетей, за счет моделирования принятых проектных решений

Реализация результатов работы

Результаты диссертации и практические рекомендации использованы при проектировании вычислительной сети в ФНПЦ ОАО НПО "МАРС" (г Ульяновск 2006 г ), что подтверждается актом внедрения

Апробация работы

Основные положения и результаты диссертации докладывались, обсуждались и получили одобрение на IX национальной конференции по искусственному интеллекту с международным участием (г Ульяновск, 2004 г), на Международных конференциях «Континуальные алгебраические логики, исчисления и нейроинформатика в науке и технике» (г Ульяновск, 2004, 2005 гг) и «Интегрированные модели и мягкие вычисления в искусственном интеллекте» (г Москва, 2005 г и 2007 г)

Публикация результатов работы.

По теме диссертации опубликовано 13 работ, в том числе, 5 тезисов докладов, 7 статей, одна монография в соавторстве Одна статья опубликована в издании, входящем в перечень ВАК

Личный вклад.

Все результаты, составляющие содержание диссертации, получены автором самостоятельно.

Структура и объем диссертации

Диссертационная работа изложена на 172 страницах машинописного текста, содержит 46 рисунков и 7 таблиц, состоит из введения, четырех глав, заключения, списка литературы из 176 наименований и 4 приложений на 16 страницах

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

В первой главе рассмотрены методы анализа временных рядов (ВР) Представлены возможности и ограничения статистических и интеллектуальных моделей Особое внимание уделено использованию теории нечетких множеств Изложены основные положения теории нечетких множеств и описаны модели нечетких временных рядов

Цели анализа ВР различны про: нозирование, управление процессами, определение структуры, описание характерных особенностей и т д Результатом в большинстве случае является идентифицированная и формально описанная модель Процесс построения модели ВР - ото итеративная процедура идентификации, оценки и диагностики

В условиях нечеткости и информационной неопределенное 1 и выделяется класс ВР обладающих свойствами, неоднородность, неопределенность в исходной информации и функционировании системы, нелинейный характер зависимостей, малое количество эпементов выборки, лингвистическое выражение значений В этих условиях применимость классических статистических методов анализа ВР ограничена, так как не выполняются статистические критерии (например, известность распределения, стационарность и тд) Решением задачи анализа такого класса ВР являются интеллектуальные методы, которые не предъявляют к исходным данным жестких требований Адекватным аппаратом для построения нелинейных моделей ВР могут служить методы искусственного интеллекта эволюционное программирование, нейронные сети, деревья решений, нечеткая логика (теория нечетких множеств) Нечеткая логика позволяет использовать не только непосредственно ВР, но и словесные описания типичных значений ряда, особых состояний Нечеткие описания в виде экспертных оценок используются в разностном уравнении

Основные этапы развития теории нечетких ВР этап нечеткой регрессии, этап мягких вычислений, этап нечетких ВР, этап извлечения правил из нечетких (гранулированных) ВР и интеграция с нечеткими базами данных Центральным понятием в использовании теории нечетких множеств в анализе ВР является понятие нечеткого временного ряда (НВР) Нечетким временным рядом называется упорядоченная последовательность наблюдений, если значения, которые принимает

некоторая величина в момент времени, выражена с помощью нечеткой метки

При анализе ВР эксперт представляет свои суждения с помощью нечетких понятий, относящихся ко многим объектам временные области, ранг значений ВР, паттерны ВР, внутренние и внешние атрибуты системы В работах отечественных ученных нечеткие понятия, описывающие временной ряд, представлены разными терминами обобщенные ограничения, нечетко-темпоральные события, нечеткие тенденции На основе анализа нечетких ВР распознавание образцов - паттернов ВР и извлечения ассоциативных правил в лингвистической форме решаются традиционные задачи анализа ВР Основные методы идентификации моделей НВР статистическое формирование правил (меры доверия, частотность, корреляция), нечеткие гибридные системы (нечеткие нейронные сети, генетические алгоритмы)

Перспективным направлением использования мягких вычислений является анализ нечетких тенденций, который заключается в описании и распознавании тенденций, извлечении ассоциативных правил, прогнозирования на основе нечетких тенденций А с развитием нечетко-темпоральных баз данных и систем нечеткого имитационного моделирования приобретет актуальность создание инструмента оперирования нечеткими временными рядами

Во второй главе описана модель нечетких тенденций Для описания развития моделируемого процесса в лингвистических терминах введено понятие временного ряда нечетких тенденций Выделены базовые операции обработки нечетких тенденций и описана их реализация на основе теории нечетких множеств Описана архитектура нечеткой нейронной сети для генерации правил зависимости

Определение 1. Нечеткая тенденция (НТ) Пусть уА = {У,, ,5>„,} -

нечеткий временной ряд лингвистической переменной {У,Ту,иу,Су,Му), }\ = {?д; — множество нечетких временных рядов одинаковой длины Тогда нечеткая тенденция г, определенная на УА, есть совокупность упорядоченных пар т = {7д>//г(5;л)}> где/^Дуд) представляет собой степень принадлежности уА кНТ

Если говорить о тенденции как лингвистической переменной, терм-множеством, которой является множество различных тенденций наблюдаемых на ВР, а универсумом - множество всевозможных функций,

НТ определяется как (т,{т'},¥А,От,Мт), (=1 р, где р - количество видов

НТ, определенных на ВР, Гд - множества НВР переменной длины.

Определяя НТ на всех интервалах [/-/я+1, /] ВР и позиционируя начало или окончание интервала к временной шкале, получим временной ряд нечеткой тенденции.

Определение 2. Временной ряд нечеткой тенденции (ВРНТ). Пусть {у а, } - множество нечетких временных рядов длиной т, где

Ум ~ {}\-ти> >У,}, У, е У t Тогда временной ряд нечеткой тенденции есть упорядоченное во времени нечеткое множество г, = {t,jUT(yfJ)}

Для лингвистической переменной «тенденция» временной ряд определяется совокупностью значений всех видов нечетких тенденций

T,={t, Г,

Делая предположение о развитии системы как результата предыдущих состояний, предполагаем наличие зависимости НТ от значений тенденций в предыдущие моменты времени

Моделью нечетких тенденций (МНТ) с характеризующими параметрами (п, р, т, Г) обозначим совокупность компонент и уравнений у\ = Fuzz&y, ], у, = deFuzzA у\],

т{ =Tend[y,_lni„ ,j7,]f = Лч-\> t,-i),I = 1 п, j = 1 р,m = maх(«у),

где ={?,'} - HBP п - количество термов HBP, /^Mzzy - функционал фаззификации,

г, ={г/} - ВРНТ, р -- количество термов НГ, rrij - интервал определения НГ, Tend- функционал распознавания НТ, /- функциональная зависимость, / - временной лаг,

у', ~{у",} - НВР, полученный из ВРНТ, del end - функционал получения НВР из оценки НТ,

v', - дефаззифицированный BP, deFuzzy - функционал получения четкого BP из НВР

В результате экспертного построения НТ могут возникнуть огк юнения между исходным BP и смоделированным Обозначим данные отклонения как ошибки построения

- ошибка построения НВР

Еив,- = (у, - deFuzz^Fuzzyiy, )))2 ={у,- у', f

- ошибка построения ВРНТ

ЕИ1 = Су] - deTend(Tend(yt ))f = {y't - f\ f

- ошибка построения BP

bBF = (у, -deFuzzy(deTend(Tend{Fuzzy(y, )))))2 ={y, - y,')2 Так выбор функций принадлежности и ее параметров, метода дефаззификапии определяет разницу между исходным BP и преобразованным из НВР Выбор видов тенденций и методов обуславливает несоответствие исходного нечеткого ряда к полученному НВР из ВРНТ

МНТ можно привести к разностному уравнению четкого ВР- Г, =/(г,.в, т,.,)=> у, =г\у,+т_а_,, При этом с целью

недопущения авторегрессии на текущий и будущий период в случае использования МНТ для прогнозирования на модель налагается ограничение а>ш Таким образом, использование функционалов дефаззификации скршгу, получения НВР из тенденций ¿1 сТспс! решает задачу моделирования ВР по функциональной зависимости / Построение оптимальной МШ заключается в минимизации отклонения между значениями по выборке (г,, у,, у,) и вычисленными по модели значениями (г,0,Я0,/) При этом для оптимизации и диагностики функциональных зависимостей /, р /"используем следующие величины.

- ошибка модели НТ £нт = (г,' -/{г,_,, ,тн))2 = (г,1 -г,° )2,

- ошибка модели НВР = (>>,' ~Г(уит-а р Д-^-м))3 = ,

- ошибка модели ВР <?а/> =(у,,у{^м))2 =(у, ~У°)2

В результате оптимизации МНТ, когда ошибка модели НТ стремится к нулю, получаем с,п- —> С => у\ —.► у', еИВР —» ЕИ1 Аналогично получаем сРР -> Екг В итоге при высокой степени аппроксимирующей способности функции / прогнозирующие возможности МНТ ограничиваются ошибками построения Для повышения точности моделирование ВР необходимо минимизировать ошибки построения, что является задачей эксперта при реализации функционалов МНТ

Построение модели ВР - это итеративный процесс идентификации, оценки и проверки модели Идентификация МНТ заключается в описании нечетких переменных и построении соответствующих функционалов На этапе оценки для модели выбирается инструмент нахождения функциональной зависимости и оценивается параметры выбранной функции по обучающей выборке При диагностике проверяется способность модели к аппроксимации и экстраполяции

Можно предложить следующие решения задачи распознавания тенденций методы математической статистики, методы распознавания образов, нечеткая логика Ьсли использовать методы математической статистики, то тенденцию можно представить в виде детерминированной функции, а НТ как критерий (степень) наличия такой функции на выбранном участке.

НТ можно представить как график функций или набор упорядоченных данных, определенных на универсуме всевозможных графиков или наборов данных С этой точки зрения задача распознавания НТ решается как задача распознавания образов, например, нейронной сетью

Нечеткая логика в задаче распознавания НТ позволяет использовать системы логического вывода Эксперту при этом необходимо описать НТ в

виде последовательности нечетких меток, которые формируют правила распознавания

Для реализации МНТ можно использовать различные методы и алгоритмы от классического регрессионного анализа до интеллектуальных методов, как для модели в целом, так и для отдельных функционалов Так каждый вид Ш может быть представлен своим методом расчета значений Тем самым представляется возможным комбинировать различные алгоритмы в рамках одной модели

Таким образом, МНТ имеет следующие достоинства

- позволяет наиболее полно использовать знания об изучаемых данных и прикладной области исследования,

- комбинирование различных методов обработки данных позволяет строить сложные формы нелинейной зависимости в моделях,

- осуществлять одновременное прогнозирование как на краткосрочном, так долгосрочном периоде

Нечеткая логика (теория нечетких множеств) в задаче описания и распознавания НТ позволяет использовать системы логического вывода Опишем Ш в виде последовательности нечетких меток, формирующие правила распознавания, что позволит одновременно описать и дать формулу расчета степени принадлежности четкого ряда ч тенденции Совокупность всех правит определения видов НТ составляет первый уровень общей системы логического вывода МНТ, которая реализует

функционал Tend для получения ВРНТ (в формализованном виде)

т>

Д r^ir^SiTGf^))}

J ы

Множество правил уравнения МНТ составляет второй уровень ьывода

, *=■

Для анализа и построения четкого BP по нечеткой модели (функционал deTend) каждому виду НТ сопоставим НВР, имеющий паиболыщ ,о степень принадлежности Множество таких правил, реализующее функционал преобразования ВРНТ в HBP deTend, формирует третий уровень

s

40 1)=к

Таким образом, МНТ полностью реализуется многоуровневой системой логических отношений Rx=> R2=> где выходы в виде нечетких переменных одного набора правил подаются на входы следующего набора правил без дефаззификации и фаззификации

Преобразования в нечеткие и четкие значения происходит только в отношениях R| и R3 соответственно

В качестве инструмента построения функциональной зависимости (уровень R2) в виде нечетких отношений воспользуемся аппаратом нечетких нейронных сетей (ННС) Для этого введем классические нечеткие нейроны, в которых операции сложения и умножения заменяются триангулярными нормами

- И-нейрон fl = T(S(xt,iv ),S(x2, w2)) импликация предпосылок правила,

- ИЛИ-нейрон <р = S(T(/Ji, z,), Т{@2, z2)) агрегация правил Интерпретация этого в лингвистической форме приводит к записям

если (х/ или wj) и (х2 или w2), то Р, если (Д и Zj) или (Д и Z2), то <р Веса vi' и 2 можно рассматривать как степени влияния соответствующего входа на выход

На основе таких нейронов можно построить сеть логического вывода по Мамдани для нахождения нечеткой тенденции, добавив в весовые коэффициенты Каждому виду НТ соответствует своя сеть ННС состоит из двух слоев (если считать за слой - нейроны) слой конъюнкции нечетких входов и слой дизъюнкции правил Формализованно такую сеть можно выразить следую!;',им обраюм

г-=р,=,

1=1 /М

где г'- значение, рассчитанное для некоторого вида тенденции т, Т-оператор конъюнкции, 5 - оператор дизъюнкции, г - количество правил, /, р - параметры МНТ Основная идея обучения ННС состоит в итерационной процедуре оптимизации весов {zp w,, к) и устранении незначимых связей (сокращении сети), в результате которого формируется необходимый состав п количество правил

Для обучения сети методом обратного распространения ошибки определим функцию ошибки Е-(т'-т)2 ¡2, которую необходимо минимизировать методом снижения градиента Для уменьшения квадратичной ошибки Е необходимо изменять веса (z,, Wja) в направлении антиградиента функции Е

+1 DE ^ 5Е

где г]-скорость обучения Для вычисления производной ошибки необходимо выбрать соответствующие функции í-норм и s-конорм

Порядок выявления нечетких зависимостей на основе ННС следующий- инициализация ННС, обучение - оптимизация весов сети, анализ сети

На этапе инициализации необходимо сгенерировать избыточное число «полных» правил, включающих в себя все входы, с произвольными весами в интервале (0,1)

Этап обучения - это процесс изменения весов ННС по обучающей выборке по описанным выше формулам

На этапе анализа осуществляется обработка ННС с целью ее упрощения В основе алгоритмов сокращения лежит принцип удаления незначимых связей и нейронов из сети Одним из простейших методов сокращения является метод проекций, который реализуется следующим образом Синоптический вес обнуляется, ест и его значение попало в заданный диапазон, где

{\,w^>(\-b) (0,z <s w к=\—J—- z=\--

причем e -некоторая константа На основе выбранного уровня весов е удаляются связи «вход - И-нейрон» при yvv>=1 и «И-нейрон - ИЛЙ-нейрон/> при Zj =0 Так же удаляются неиспользуемые входы и правила В результате получается система лшического вывода, являющаяся объясняющей функцией в модели BP

В третьей главе рассмотрена программная реализация МНТ, содержащая все компоненты системы нечеткого вывода блоки фаззификации и дефаззификации, блок нечеткого вывода, базу знаний Для реализации системы нечеткого вывода выбран объектно-ориентированный метод программирования, позволяющий абстрагировать понятия МНТ в виде иерархии классов

Для анаткза BP по предложенной модели НВР создано профаммное обеспечение (ПО) ГuzzyTendNet Программа написана в среде Microsoft Visual Studio NET 2003 на языке Visual Basic NET Программа реализз'е г всс этапы построения МНГ на основе нечеткой логики Сам процесс построения представлен графическим интерфейсом на основе элементов управления ОС Windows Система решает широкий спектр задач многомерный анализ, графическое представление информации, моделирование и прогнозирование, хранение базы знаний

Функционал Fuzzy реализован в программе трапециевидной формой функции принадлежности с параметрами (А, В, С, D) Функционал deFuzzy реализован методом центра тяжести Функционалы Tend и deTend реализованы логическими правилами Логические связки для Tend и deTend. минимум и максимум Возможность использования нескольких правил распознавания и обратных правил для каждой тенденции позволяет достаточно гибко описывать разнообразные интервальные экспертные оценки

Уравнение модели BP представляет собой ННС, содержащую подсети для каждой выходной тенденции Каждая подсеть - это система логического вывода, состоящая из множества правил Данные правила

можно формировать вручную, что позволяет строить модели по экспертным знаниям о зависимости между переменными, а так же корректировать (редактировать) обученные сети Построение ННС для дальнейшего оптимизации происходит в автоматическом режиме на основе установленных типов («вход», «выход») для BP, HT Обучение реализовано до достижения заданной ошибки или количества итераций (эпох обучения) При этом предусмотрен режим автоматического сокращения ННС после каждой эпохи обучения Так же предусмотрены следующие операции с ННС сокращение сети по заданному пользователю уровню, нормирование сети, повышение интерпретации

Просмотр значений BP, НВР, ВРНТ осуществляется в графическом представлении н виде графиков

Все описания функционалов, ННС, представляют собой экспертную базу знаний, которую можно сохранить во внешнем файпе формата XML -Extensible Markup Language (расширяемый язык разметки) Сохранение сформированной модели во внешнем файле позволяет не только в дальнейшем продолжить рассмотрение модели, но использовать модель в другом программном обеспечении

В четвертой главе изложено применение МНТ для моделирования работы узла вычислительной сети в рамках разработки программной системы автоматизированного проектирования ВС Исследована эффективность моделирования предложенной в работе методики анализа BP по сравнению с дру1 ими методами

ß настоящее время ведется разработка программной системы автоматизированного проектирования и моделирования ВС для ФНПЦ ОАО «НПО МАРС» Наиболее важным этапом проектирования модели является описание рабочей нагрузки Дтя этого необходимо описать генераторы трафика. Учитывая то, что узел эго многокомпонентная сис1ема, необходимо генерировать трафик во взаимосвязи с работой программного и аппаратного обеспечения, внешних источников (пользов<иели, приборы и т д ), - функционирование которых определяется бизнес-процессами, связанными с данным узлом Таким образом, необходимо перед моделированием проанализировать сетевой трафик и параметры работы типовых (существующих) узлов, выявить функциональные зависимости в работе узла В качестве алгоритмического средства можно использовать модель нечетких тенденций, реализованную в программе FuzzuTendNet Использование данной программы позволит не только использовать типовые модели узлов и статистику трафика, но и статистику параметров работы узла

По МНТ проанализирована работа одного из узлов вычислительной сети УлГТУ и создана модель узла, генерирующая нагрузку сетевого интерфейса в зависимости от параметров работы пользователей, программного обеспечения и оборудования Узлом является сервер под операционной системой Microsoft Windows 2003, выполняющий приложения в терминальном режиме Основное пользовательское

приложение базы данных «1С Предприятие», работающее в файл-серверном режиме, где данные расположены на этом же сервере Для описания сервера были выбраны данные из журнала событий прикладного ПО и журнала счетчиков ОС (табл 1). Статистика собрана с 15 секундным интервалом в течение одного дня

Для всех параметров установлены нечеткие переменные НВР, описывающие значения «высокое», «низкое» Установлены НТ независимых параметров «загрузка», «простой» Для трафика определены НТ «рост», «падение», «простой», «скачок»

Для построения модели работы узла ВС были проведены эксперименты (табл 2) В приложении показаны средние ошибки моделей BP, НВР и НТ, а так же оценки точности и адекватности Анализировались модели МНТ от самого простого случая (МНТ(и, р, 1, Г) до моделей, включающих в себя как НВР так и ВРНТ (МНТ(и, 5,3./)

Табчица 1 Onncavue переменных

Параметр Источник данных Описание

Памяп-Юбмен страниц п сек Журнал счетчиков операционной системы число с границ (из оперативной памяти) прочитанных с диска или записанных на диск

Обращений >агыси на диск/сек Ж\рнал счетчиков операционной счсгемы частота выполнения операций записи на физический диск

Обращейий чтения с диска/сек % загруженности процессора Журнач счетчиков операционной системы частота выполнения операций чтения с физического диска

Журнал счетчиков операционной системы доля времени, которую процессор тратит на обработку всех потоков команд

Операции чтения Журнал регистрации событии «1С Предприятие» количество объектов, открыт ых для просмотра в ПО «1С Предприятие», определяется из логов всех ба; данных установленных на сервере

Операции записи Журнал peí истрации событий ПО «1С Предприятие» количество объектов, записанных в ПО «1С Предприятие», определяется из логоз всех баз данных установленных на сервере

Трафик Журнал счетчиков операционной системы Количество байт, которое сервер послал или получил через сеть

На первом этапе рассмафивались модели

- зависимость НВР от НВР и ВРНТ независимых переменных (вариант 1 и 2),

-зависимость НВР от НВР зависимой переменной, НВР и ВРНТ независимых переменных (вариант 5 и 6),

- зависимость НТ от НВР и ВРНТ независимых переменных (вариант 3 и 4)

На втором этапе по наилучшим моделям составлены гибридные модели (варианты 7 и 8) Так же рассмотрены линейные модели BP с распределенным лагом (DL), с авторегрессионной составляющей (ADL) и нелинейные модели на нейронных сетях (НС), полученные в программах Statistica 6 0 и Statistica Neural Networks

Таблица 2. Свод результатов экспериментов

№ варианта Вход Выход Средняя значения варианта

тх ту ту Точность. % 1-критерий

1 1 - 1 16,60 1,72

2 2 - 1 15,91 2,40

3 1 - 2 14,43 0.61

4 2 - 2 13,50 0,24

5 1 1 1 13,38 0,37

б 2 1 1 12,07 0,36

_7 2 - 1 2+1 15,65 2.25

8 2 1 [гн 13.89 1.51

9 ОЬ 19,77 4.93

10 А 01. 16,14 3,03

11 НС 15,68 3,31

Данные по обучению следующие: временной лаг зависимой переменной - 1= 1..2; временной лаг нечетких меток МБР независимых переменных - 1=0.2: временной лаг НТ независимых переменных - /=0..1; размер выборки — 1080; количество итераций обучения — 300; уровень сокращения - 0.01; начальное количество правил для каждой НТ — 30; обучающие коэффициенты - ?7,=0.2. 1. Полученные модели

тестировались по выборке, не участвовавшей в обучении. Для каждого варианта проводилось по три эксперимента.

Среди вариантов (1-4), где зависимая переменная моделируется только независимыми переменными, адекватными моделями являются варианты 3 и 4, наибольшая точность у варианта 4. Можно сделать вывод, что модель на нечетких тенденциях описывает .моделируемый процесс более успешно (точность повышается на 3 Л %). На рисунке 1 представлены графики моделей 1 и 4.

6ай"'° ■ ............■ Исходный ВР

мнт

(вариант 4)

Модель НВР (вариант I)

Рис. 1. Моделирование временного ряда

Исходный ВР МНТ

(вариант 6)

Модель НВР (вариант 5)

Рис. 2. Моделирование временного ряда

Варианты (5, 6), где присутствует авторегрессионная составляющая, адекватны. Нечеткие тенденции так же улучшают модель (на 1.3% по точности). На рисунке 2 представлены графики моделей 5 и 6.

На основании наилучших результатов моделирования нечетких меток НВР и НТ построим модели МНТ, учитывающие зависимость моментных и интервальных оценок BP (гибридные модели). Для этого объединим модели вариантов 2 и б с наилучшими результатами для НТ (модели 3 и 4). Результат представлен вариантом 7 и 8. Полученные модели хорошо описывают работу сервера, а так же дают лингвистическую интерпретацию зависимости. Повысить качество модели можно, удалив связи в сети ниже заданного уровня и убрав влияние весов (рис. 3). Так же отметим, что для НТ получилось меньше правил, чем для НВР. Так, например, тенденция роста и падения трафика определяется 3-4 правилами в зависимости от эксперимента, когда как просто высокий трафик - 7-8 правил. В частности, тенденция роста трафика объясняется следующими причинами:

- загрузка процессора и операций чтения в текущий момент, чтение с диска в предыдущий момент;

- большое количество обмена страниц и операций чтения в текущий момент;

- запись и чтение с диска в текущий момент;

- загрузка процессора в текущий момент.

байт/с

aJ

|

0J

Исходный BP

Смоделированный ряд

Рис. 3. Модель НТ с удаленными весовыми коэффициентами Сравнивая МНТ с регрессионными моделями (варианты 9 и 10), а так же с результатами нейронной сети, можно сказать, что модель нечетких тенденций описывает процесс более успешно (рис. 4). Варианты 9-11 не адекватны, точность ниже: по сравнению с авторегрессионной моделью с распределенными лагами (АБЬ) на 4%, по сравнению с нелинейной моделью на основе нейронной сети на 3.6%.

Исходный ВР МНТ (вариант 8)

Модель DL (ваииаят 9)

НС (вариант 11) 1 '—|

Рис. 4. Сравнение моделей временных рядов

Для моделирования объема трафика сервера экспертом были предложены и описаны следующие режим работы сервера: ввод данных, чтение данных, формирование отчетов, - с высокими значениями тенденций параметров ХГХ6. Для моделирования использовалась МНТ варианта 4. По нечетким тенденциям спрогнозированы низкие и высокие значения трафика, а также его четкие значения при различных режимах работы (рис. 5).

Таким образом, эксперимен гы показывают:

- предложенная И ПС позволяет аппроксимирова ть сложные функциональные зависимости;

- модели с использованием НТ лучше описывают работу;

- построенная модель позволяет моделировать работу узла ВС и интегрировать ее в общую систему моделирования ВС.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

1. Выполнен научный анализ современных работ, посвященных использованию мягких вычислений при описании временных рядов. Проведен сравнительный анализ существующих методов построения моделей нечетких временных рядов, выявлены их возможности и ограничения.

2. Разработана модель нечетких тенденций, формализующая лингвистическую форму выражения временного ряда. Предложена методика распознавания нечетких тенденций временных рядов и методика анализа временного ряда нечетких тенденций.

3. Сформирован алгоритм на основе теории нечетких множеств для построения временного ряда нечетких тенденций по исходному временному ряду и обратный алгоритм генерации ряда - представителя нечеткой тенденции.

4. Разработана архитектура нечеткой нейронной сети для генерации знаний о нечетких тенденциях в форме лингвистических правил.

5. Разработана и реализована программная система обработки нечетких временных рядов и построения модели нечетких тенденций.

6 Разработана математическая имитационная модель элемента вычислительной сети - терминал-сервера. Модель позволяет прогнозировать трафик по вычислительной нагрузке и параметрам работы элемента сети

7 Точность моделирования трафика в терминальных фрагментах сети с использованием методов анализа нечетких временных рядов выше на 34%, чем при использовании линейных регрессионных моделей и нелинейных моделей нейронных сетей

Список публикации

В издании, входящем в перечень ВАК

1 Юнусов Т Р, Ярушкина ИI , Афанасьева Т В Моделирование трафика терминал-сервера на основе анализа нечетких тенденций временных рядов // Программные продукты и системы -2007 -№4 - С 15-19

В других изданиях

1 Юнусов Т Р Нечеткий анализ тенденций как средство интеллегауального анализа данных //' Вузовская на>ка в современных условиях тез. докл 37 »ауч - гехн конф - Ульяновск УлПУ, 2003 - Ч 2 - С 11-12

2 Бушмелев ЮТО, Ютсоп TP Ярушкина НГ Нечепше нейронные огги -когнитивный и прикладной потенциал Труды девятой национальной конференции по искусственному интеллекту ТЗ -М Физма) ип, 2004 - С 1099-1107

3 М С Азов, ЮЮ Бушмелев. ААЛебедве, А С Макеев, И В Семушич, МССунопля, М А Федорова, А ЬШамшев, TP Юнусов. Н Г Ярушкина, А А Стецко Прикладные интеллектуальные системы, основанные на мягких вычислениях/под ред Н Г.Ярушкнной -Ульяновск УлГТУ, 2004 - 139 с

4 Юнусов Т Р Анализ нечетких тенденций, как средство интечлек1уального анализа данных Труды Международной конференции «Континуальные алгебраические логики, исчисления и нейроинформатика в науке и технике» Т 3 Системы искусственного интеллекта и нейроинформатика - Ульяновск УлГТУ, 2004 - С'148-150

5 Юнусов Т Р Проект и реализация системы анализа тенденций временных рядов // Вузовская на>ка в современных условиях тез докл 39 науч-техн конф - Утьяновск УлГТУ,2005 -Ч 1 -С 90

6 Юнусов TP Анализ нечетких тенденции как средство интеллектуального анализа данных Труды III Международной научно-практической конференции «Интегрированные модели и мягкие вычисления в искусственном интеллекте» -М Физматлит, 2005 - С 388-393

7 Юнусов 1 Р Интеллектуальная система анализа тенденций временных рядов на основе нейронных сетей // Континуальные алгебраические логики, исчисления и нейроинформатика в науке и технике тр междунар конф / под ред Л И Волгина - Ульяновск УлГТУ, 2005 - Т 2 - С 191

8 Юнусов TP Использование нечетких тенденций в прогнозировании временных рядов Тезисы докладов XL научно-технической конференции УлГТУ «Вузовская наука в современных условиях» - Ульяновск УлГТУ, 2006 - С 84-85

9 Юнусов Т Р Представление динамики временных рядов на основе нечетких разностных уравнений Тезисы докладов XL научно-технической конференции УлГТУ «Вузовская наука в современных условиях» -Ульяновск УлГТУ, 2006 - С 86-87

10 Юнусов TP Анализ нечетких тенденций Труды IV Международной научно-практической конференции «Интегрированные модели и мягкие вычисления в искусственном интеллекте» - М Физматлит 2007 - С 239-242

11 Юнусов TP Использование нечеткой нейронной сети в процессе прогнозирования временных рядов Научная сессия МИФИ-2007 - ISBN 57262-0710-6 - Том 3 -С 167-168

12 Юнусов Т Р Распознавание нечетких тенденций // Вузовская наука в современных условиях тез докл 41 науч -техн конф - Ульяновск УлГТУ, 2007 - С 119

Юн>сов Тагир Рагатович

МАТЕМА ГИЧЕСКОЕ МОДЕЛИРОВАНИЕ

IЕРМИНА ЛЬНЫХ ВЫЧИСЛИТ ЕЛЬНЫХ СЕТЕЙ

НА ОСНОВЕ НЕЧЕ ПСИХ ВРЕМЕННЫХ РЯДОВ

Автореферат

Подписано в печать 21 11 2007 Формат 60x84/16 Уел гт ч 1,16 Тираж 100 экз Заказ !о£.0

Ульяновский государственный технический университет,

432027, Ульяновск, Сев Венец, 32 Типография У1ГТУ 432027, Ульяновск, Сев Венец, 32

Введение 2007 год, диссертация по информатике, вычислительной технике и управлению, Юнусов, Тагир Рагатович

В настоящее время резко возрастает сложность создаваемых и эксплуатируемых технических систем. В процессе проектирования и эксплуатации таких систем моделирование является эффективным методом прогнозирования их основных характеристик поведения. Сложные технические системы, такие как вычислительные сети, обладают объективной неопределенностью, что требует дальнейшего расширения инструментария прогностики. Все чаще используются интеллектуальные методы, которые расширяют классическую классификацию прогностических методов и представляют сочетание формализованных процедур обработки информации, полученной по оценкам специалистов-экспертов. Интеллектуальные математические методы прогнозирования применяют в тех случаях, когда невозможно учесть влияние многих факторов из-за значительной сложности объекта прогнозирования или если недоступны объективные результаты измерений поведения объекта. В этом случае используются оценки экспертов.

Исследования данных и их методов анализа в последние десятилетия оформились в виде отдельного направления, называемого интеллектуальным анализом данных или Data Mining (DM), в котором анализ временных рядов получил понятие интеллектуальный анализ временных рядов или Times-Series Data Mining (TSDM). В работах ряда зарубежных ученых (X. Танаки, К. Хироты, Я. Капржика, В. Педрича) исследованы методы нечеткой регрессии, анализа данных нечетких временных рядов. Среди отечественных ученых данной теме посвящены работы И.З. Батыршина, С.М. Ковалева, Н.Г. Ярушкиной и др.

Несмотря на перечисленные работы, многие задачи анализа нечетких временных рядов остаются нерешенными, в частности, задачи анализа нечетких тенденций и генерации правил распознавания тенденций. Методы анализа нечетких временных рядов могут быть положены в основу создания библиотек имитационных моделей элементов сложных технических систем, в частности, вычислительных сетей.

Перечисленные особенности делают решение научно-технической задачи исследования и разработки нового инструментария прогностики на основе нечетких временных рядов и построения математических моделей конкретных устройств вычислительных сетей актуальным.

Целью диссертации является исследование прогностических возможностей нечетких тенденций нечетких временных рядов и построение на их основе математических моделей элементов вычислительных сетей.

Для достижения поставленной цели необходимо решить следующие задачи.

1. Провести сравнительный анализ существующих методов анализа нечетких временных рядов, выявить их возможности и ограничения.

2. Построить методику распознавания нечетких тенденций временных рядов и методику анализа временного ряда нечетких тенденций.

3. Сформировать алгоритм формирования временного ряда нечетких тенденций по исходному временному ряду и обратный алгоритм генерации ряда - представителя нечеткой тенденции.

4. Разработать метод генерации знаний о нечетких тенденциях в форме правил.

5. Разработать и реализовать программную систему - инструментарий для обработки нечетких временных рядов.

6. Разработать модели элементов вычислительных сетей на основе анализа нечетких временных рядов трафика.

В диссертационной работе использовались современная теория нечетких систем, теория вероятностей, методы математической статистики, теория имитационного моделирования.

Научная новизна работы заключается в следующем.

1. Предложено определение временного ряда нечетких тенденций и разработана методика распознавания нечетких тенденций.

2. Разработаны алгоритмические операции обработки нечетких тенденций, а именно, операция формирования временного ряда нечетких тенденций по исходному временному ряду и обратная операция генерации ряда - представителя нечеткой тенденции.

3. Предложен метод генерации знаний о нечетких тенденциях в форме правил.

4. Разработана математическая имитационная модель терминал-сервера как элемента вычислительной сети, позволяющая оперировать прогнозными данными о трафике и вычислительной загрузке.

5. Исследована эффективность моделирования трафика в терминальных фрагментах вычислительной сети.

Достоверность научных положений, выводов и рекомендаций подтверждена результатами экспериментов, а также результатами использования материалов диссертации и разработанной системы в проектной организации в соответствии с актом внедрения.

Основные положения, выносимые на защиту

1. Временной ряд нечетких тенденций является результативным индикатором развития моделируемого процесса в сложной технической системе, описанного качественно, в лингвистических терминах.

2. Базовыми операциями обработки нечетких тенденций являются алгоритмические операции обработки нечетких тенденций, а именно, операция формирования временного ряда нечетких тенденций по исходному временному ряду и обратная операция генерации ряда -представителя нечеткой тенденции.

3. Нечеткая нейронная сеть предложенной архитектуры является эффективным генератором правил прогнозирования нечетких тенденций.

4. Разработанная математическая имитационная модель терминал-сервера как элемента вычислительной сети на основе временных рядов нечетких тенденций позволяет прогнозировать трафик сервера.

Разработанные методы и алгоритмы позволяют проектировщикам создавать модели элементов вычислительной сети с улучшенными характеристиками, а также сокращать время, затрачиваемое на проектирование вычислительных сетей, за счет моделирования принятых проектных решений.

Результаты диссертации и практические рекомендации использованы при проектировании вычислительной сети в ФНПЦ ОАО «НПО МАРС» (г. Ульяновск 2006 г.).

Основные положения и результаты диссертации докладывались, обсуждались и получили одобрение на IX национальной конференции по искусственному интеллекту с международным участием (г.Ульяновск, 2004 г.), на Международных конференциях «Континуальные алгебраические логики, исчисления и нейроинформатика в науке и технике» (г.Ульяновск, 2004, 2005 гг.) и «Интегрированные модели и мягкие вычисления в искусственном интеллекте» (г.Москва, 2005 г. и 2007 г.).

В первой главе рассмотрены методы анализа временных рядов. Представлены возможности и ограничения статистических и интеллектуальных моделей. Особое внимание уделено использованию теории нечетких множеств. Изложены основные положения теории нечетких множеств и описаны модели нечетких временных рядов.

Во второй главе описана модель нечетких тенденций. Для описания развития моделируемого процесса в лингвистических терминах введено понятие временного ряда нечетких тенденций. Выделены базовые операции обработки нечетких тенденций и описана их реализация на основе теории нечетких множеств. Описана архитектура нечеткой нейронной сети для генерации правил зависимости.

В третьей главе рассмотрена программная реализация модели нечетких тенденций, содержащая все компоненты системы нечеткого вывода: блоки фаззификации и дефаззификации, блок нечеткого вывода, базу знаний. Для реализации системы нечеткого вывода выбран объектно-ориентированный метод программирования, позволяющий абстрагировать понятия модели нечетких тенденций в виде иерархии классов.

В четвертой главе изложено применение модели нечетких тенденций для моделирования работы узла вычислительной сети в рамках разработки программной системы автоматизированного проектирования ВС. Исследована эффективность моделирования предложенной в работе методики анализа временных рядов по сравнению с другими методами. Изучена возможность применения модели нечетких тенденций в других областях, в частности, в экономике.

Заключение диссертация на тему "Математическое моделирование терминальных вычислительных сетей на основе нечетких временных рядов"

Основные результаты и выводы:

1. Выполнен научный анализ современных работ, посвященных использованию мягких вычислений при описании временных рядов. Проведен сравнительный анализ существующих методов построения моделей нечетких временных рядов, выявлены их возможности и ограничения.

2. Разработана модель нечетких тенденций, формализующая лингвистическую форму выражения временного ряда. Предложена методика распознавания нечетких тенденций временных рядов и методика анализа временного ряда нечетких тенденций.

3. Сформирован алгоритм на основе теории нечетких множеств для построения временного ряда нечетких тенденций по исходному временному ряду и обратный алгоритм генерации ряда - представителя нечеткой тенденции.

4. Разработана архитектура нечеткой нейронной сети для генерации знаний о нечетких тенденциях в форме лингвистических правил.

5. Разработана и реализована программная система обработки нечетких временных рядов и построения модели нечетких тенденций.

6. Разработана математическая имитационная модель элемента вычислительной сети - терминал-сервера. Модель позволяет прогнозировать трафик по вычислительной нагрузке и параметрам работы элемента сети.

7. Точность моделирования трафика в терминальных фрагментах сети с использованием методов анализа нечетких временных рядов выше на 3-4%, чем при использовании линейных регрессионных моделей и нелинейных моделей нейронных сетей.

Разработанные методы и алгоритмы позволяют проектировщикам создавать модели элементов вычислительной сети с улучшенными характеристиками, а также сокращать время, затрачиваемое на проектирование вычислительных сетей, за счет моделирования принятых проектных решений.

Результаты диссертации и практические рекомендации использованы при проектировании вычислительной сети в ФНПЦ ОАО «НПО МАРС» (г. Ульяновск 2006 г.).

Заключение

В работе выполнено исследование прогностических возможностей нечетких тенденций нечетких временных рядов и построена на их основе математическая модель элемента вычислительной сети. Цель диссертационной работы достигнута.

Библиография Юнусов, Тагир Рагатович, диссертация по теме Математическое моделирование, численные методы и комплексы программ

1. Adorni, Poggi, 1993. Adorni G., Poggi A. An Object-Oriented Language for Distributed Artificial Intelligence // International Journal of Man-Machine Studies. — 1993. Vol.38, No3. P.435-453.

2. Aznarte, Benitez, Castro, 2005. J. L. Aznarte, J.M. Benitez, J. L. Castro Equivalence relationships between fuzzy additive systems for time series analysis and smooth transition models//IFSA'05 Fuzzy Logic, Soft Computing and Computational Intelligence

3. Bachimont, 1995. Bachimont B. Artificial Intelligence as the Science of Intentional: a Proposal // Proceedings of the First World Conference on the Fundamentals for Artificial Intelligence (Paris, France, July 1-5, 1991). — Paris: Masson, 1991—P. 57-71.

4. Baldwin at al., 1998. J.F. Baldwin, T.P. Martin, J.M. Rossiter Time series modeling and predistion using fuzzy trend information, in: Proc. Int. Conf. SC Information/Intelligent Syst., 1998, 499-502.

5. Baldwin, Yadav, 1995. Baldwin D., Yadav S. The Process of Research Investigation in AI — an Unified View // IEEE Transactions on Systems, Man and Cybernetics. — 1995. Vol.25, No5. -P.852-861.

6. Bandler, Kohout, 1980. Bandler W., Kohout L. Fuzzy power sets and fuzzy implication operators. Fuzzy Sets and Systems, 4,1980, 13-30.

7. Batyrshin at al., 2002. Batyrshin I., Kaynak O., Rudas I. Fuzzy modeling based on generalized conjunction operations, IEEE Transactions on Fuzzy Systems, Vol. 10, N5, 2002, 678-683.

8. Batyrshin at al., 2007. Batyrshin I., Herrera-Avelar R., Sheremetov L., Panova A. Moving approximation transform and local trend associations in time series data bases. In: Perception-based Data Mining and Decision Making in

9. Economics and Finance. Series: Studies in Computational Intelligence , Vol. 36. 2007, Springer, 55-83.

10. Batyrshin, 1990. Batyrshin I.Z. On fuzzinesstic measures of entropy on Kleene algebras.- Fuzzy Sets and Systems.- V. 34,1, 1990.- P. 47-60.

11. Batyrshin, 2003. Batyrshin I. On the structure of involutive, contracting and expanding negations. Fuzzy Sets and Systems, v. 139,3, 2003, 661 - 672.

12. Batyrshin, Kaynak, 1999. Batyrshin I., Kaynak O. Parametric classes of generalized conjunction and disjunction operations for fuzzy modeling. IEEE Transactions on Fuzzy Systems, 7, 5, 1999, 586-596.

13. Batyrshin, Sheremetov, 2005. I. Batyrshin, L. Sheremetov, Towards perception based time series data mining, in: BISCSE'2005, University of California, Berkeley, USA, 2005, 106-107.

14. Batyrshin, Sheremetov, 2006. I.Z. Batyrshin, L.B. Sheremetov, Perception based associations in time series data bases, in Proceedings of NAFIPS 2006.

15. Batyrshin, Sheremetov, 2007a. I. Batyrshin and L. Sheremetov Perception Based Time Series Data Mining for Decision Making//IFSA'07 Theoretical Advances and Applications of Fuzzy Logic, pp209-219.

16. Bellman, Giertz, 1973. Bellman R.E., Giertz M. On the analytic formalism of the theory of fuzzy sets. Inform. Sci., 5,1973, 149-156.

17. Bothe, 1997. Bothe H.-H. Fuzzy Neural Networks. Prague: IFSA, 1997.

18. Bowennan, O'Connell, 1979. B.L. Bowennan, R.T. O'Connell, Time series and forecasting: an applied approach, Mass. , Duxbury Press, 1979.

19. Celmins, 1987. A. Celmins, Least squares model fitting to fuzzy vector data, Fuzzy Sets and Systems, v.22 n.3, p.245-269, June 1987.

20. Cheung, Stephanopoulos, 1990. J.T. Cheung, G. Stephanopoulos, Representation of process trends. Part I. A formal representation framework, Computers and Chemical Engineering, Vol. 14,1990,495-510.

21. Dadone, 2001. Dadone P. Design Optimization of Fuzzy Logic Systems / Dissertation in partial fulfillment of the requirements for the degree of Doctor of Philosophy in Electrical Engineering. Blacksburg, Virginia, 2001. p. 183.

22. Das at al., 1998. G. Das, K.I. Lin et al, Rule discovery from time series, in: KDD, 1998, 16-22.

23. Deneubourg et al., 1993. Deneubourg J.-Leial. Self-Organization and Life: from Simple Rules to Global Complexity // Proceedings of Second European Conference on Artificial Life (Bruxelles, 1993).

24. Diamond, 1988. Phil Diamond, Fuzzy least squares, Information Sciences: an International Journal, v.46 n.3, p. 141-157, Dec. 1988.

25. Dinsmore, 1992. Dinsmore J. (Ed.) The Symbolic and Connections Paradigms: Closing the Gap. — Hilbdale N.J.: Lawrence Erlbaum Association, 1992.

26. Dubois at al., 2005. D. Dubois, H. Prade, T. Sudkamp, On the representation, measurement, and discovery of fuzzy associations, IEEE Trans. Fuzzy Systems, Vol. 13,2005, 250-262.

27. Dubois, 1979. Dubois D., Prade H. Fuzzy Real Algebra: Some Results // Fuzzy Sets and Systems, 2, 1979.

28. Dubois, 1980. Dubois D., Prade H. Fuzzy Sets and Systems. N.Y., Academic Press, 1980.

29. Elder, Abbott, 1998. John F. Elder, Dean W. Abbott A Comparison of Leading Data Mining Tools // Fourth International Conference on Knowledge Discovery & Data Mining. New York, 1998

30. Errico, Aiello, 1996. Errico В., Aiello L. Intelligent Agents in the Situation Calculus: an Application to User Modelling // Proceedings of International

31. Conference on Formal and Applied Practical Reasoning / Ed. by D. M. Gabbay and H.J.Ohldach. Berlin: Springer Verlag, 1996. - P. 126-140.

32. Esteva, 1986. Esteva F. On Negations and Algebras in Fuzzy Set Theory. Report No. UCB/CSD 87/330, 1986, Berkeley, California.

33. Fanabashi et al., 1995. Fanabashi M., Maeda A., Morooka Y., Mori K. Fuzzy and Neural Hybrid Expert Systems: Synergetic Al // IEEE Expert. 1995 August. — P. 32-40.

34. Feng, 2001. Y.Feng, L.Hu, H.Shu. The variance and covariance of fuzzy random variables, Fuzzy sets and systems 120(2001) 487-497.

35. Fodor, 1994. Fodor J., Roubens M., Fuzzy Preference Modelling and Multicriteria Decision Support. Dordrecht: Kluwer Academic Publishers, 1994.

36. Fyyad at al., 1996. Fyyad, Piatetsky-Shapiro, Smyth and Uthurusamy Advances in Knowledge Discovery and Data Mining, (Charpter 1) AAAI/MIT Press 1996

37. Hand, 2001. D. Hand, H. Manilla, P. Smyth, Principles of Data Mining, MIT Press, Cambridge, 2001

38. Hayes-Roth, 1995. Hayes-Roth B. An Architecture for Adaptive Intelligent Systems//Artificial Intelligence. -1995. Vol.72. - P.329-365.

39. Heckerman, 1997 .Heckerman D Bayesian Networks for Data Mining. Data Mining and Knowledge Discovery. 1997. № 1. P. 79-119

40. Herrere F., Magdalena, 1997. Herrere F., Magdalena L. Genetic fuzzy systems. -Prague: IFSA, 1997

41. Holland, 1975. Holland, J. H. Adaptation in Natural and Artificial Systems. -Ann Arbor: The University of Michigan Press, 1975

42. Hryniewicz, 2007. O. Hryniewicz Looking for dependencies in short time series using imprecise statistical data//IFSA'07 Theoretical Advances and Applications of Fuzzy Logic

43. Jang, 1997. Jang J.-S. Roger, Sun С. Т., Mizutani E. Neuro-Fuzzy and Soft Computing. A Computational Approach to Learning and Machine Intelligence. Prentice-Hall International, 1997.

44. Janson, Frenzel, 1993. Janson D.J., Frenzel J. F. Training Product Unit Neural Networks with Genetic Algorithms// IEEE Expert. — October 1993. — P.26-33.

45. Nahmias, 1979. S.Nahmias. Fuzzy variables in random environment, In: Gupta

46. Programming and Design. 1996. №9 Parsaye, 1998. Parsaye K. A Characterization of Data Mining Technologies and

47. Processes. The Journal of Data Warehousing. 1998. №1 Pedrycz, Smith, 1999. W. Pedrycz, M.H. Smith, Granular correlation analysis in data mining, Proc. IEEE Int. Fuzzy Systems Conf., Korea, 1999, III-1235 IH-1240.

48. Prokhorov at al., 1998. Prokhorov D.V., Saad E.W., Wunsch D.C. Comparative Study of Stock Trend Prediction Using Time Delay, Recurrent and Probabilistic Neural Networks//IEEE Transactions on Neural Networks. -1998. Vol.6, №9. P.1456-1470.

49. Puri, Ralesky ,1986. M.D. Puri, D. Ralesky. Fuzzy random variables, J. Math. Anal. Appl. 114(1986)409-422.

50. Rasmussen et al., 1991. Rasmussen J., Brehmer В., Leplat J. (Eds.). Distributed Decision-Making. Cognitive Models for Cooperative Work. — New York: J. Wiley and Sons, 1991.

51. Rasmussen, 1983. Rasmussen J. Skills, Rules and Knowledge: Signals, Signs and Symbols and Their Distictions in Human Performance Models // IEEE Transactions on Systems, Man and Cybernetics. 1983. - Vol. SMC-133. - P. 257-267.

52. Reinschmidt at al., 1999. Joerg Reinschmidt, Helena Gottschalk, Hosung Kim, Damiaan Zwietering Intelligent Miner for Data: Enhance Your Business Intelligence June 1999, International Technical Support Organization, SG 245422

53. Russell, Norvig, 1995. Russell S.J., Norvig P. Artificial Intelligence: a Modern Approach. — Englewood Cliffs NJ: Prentice Hall, 1995.

54. Sadovnychyy at al., 2007. V. Sadovnychyy, S. Sadovnychiy , V. Ponomaryov Computational Intelligence Models of the Distributed Technological Complexes//IFSA'07 Theoretical Advances and Applications of Fuzzy Logic

55. Shapiro, 2005. A.Shapiro Soft computing and statistical techniques from an insurance perspective//IFSA'05 Fuzzy Logic, Soft Computing and Computational Intelligence

56. Sims, 1980. Sims C.A. Macroeconomics and Reality // Econometrica. 1980. V.48. P.l-48.

57. Skala, 1978. Skala H.J. On many-valued logics, fuzzy sets, fuzzy logics and their applications. Fuzzy Sets and Systems, 1, 1978, 129 - 149.

58. Steinbrecher, Kruse, 2007. M. Steinbrecher and R.f Kruse Visualization of Possibilistic Potentials//IFSA'07 Theoretical Advances and Applications of Fuzzy Logic/

59. Tanaka at al., 1982. H. Tanaka, S. Uejima, K. Asai, Linear regression analysis with fuzzy model, IEEE Trans. Systems Man Cybernet. 12 (1982) 903-907

60. Turner, 1984. Turner Е. Logics for Artificial Intelligence. — Chichester Ellis Norwood, 1984.

61. Velmisov, Stetsko, Yarushkina, 2007. A. Velmisov, A. Stetsko, N. Yarushkina Data mining for fuzzy relational data servers//IFSA'07 Theoretical Advances and Applications of Fuzzy Logic

62. Weber, 1983. Weber S. A general concept of fuzzy connectives, negations and implications based on t-norms and t-conorms.- Fuzzy Sets Syst., 11, 1983, 115134.

63. Yarushkina, Semoushin, 2005. N. Yarushkina, I. Semoushin A Soft computing-based Integration Environment for Assessing the Performance of a Complex Enterprise//IFSA'05 Fuzzy Logic, Soft Computing and Computational Intelligence

64. Yazenin, 1987. Yazenin A.V. Fuzzy and stohastic programming. Fuzzy sets and systems. 1987. V. 22.

65. Yazenin, 1996. A.V.Yazenin, On the problem possibilistic optimization, Fuzzy sets and systems 81(1996) 133-140.

66. Yazenin, 2001. I.A.Yazenin . Minimal risk and efficiency portfolios for fuzzy random data, XXI Seminar on stability problems of stochastic models. Abstracts, Eger, Hungary, 2001, P. 182.

67. Yu at al., 2007. J. Yu, E. Reiter, J. Hunter, C. Mellish, Choosing the content of textual summaries of large time-series data sets, Natural Language Engineering (2007) (To appear)

68. Yu, Pedrycz, Yuan, 2005. F. Yu, W. Pedrycz, J. Yuan Finding Fuzzy Rules from Granular Time series//IFSA'05 Fuzzy Logic, Soft Computing and Computational Intelligence

69. Zadeh, 1965. Zadeh L.A. Fuzzy Sets // Information and Control. 1965. - Vol.8. -P.338 - 353.

70. Zadeh, 1978. L.A.Zadeh. Fuzzy sets as a basis for a theory of possibility, Fuzzy sets and systems 1(1978)3-28.

71. Zadeh, 1979. Zadeh L. A theory of approximate reasoning(AR)// Machine Intelligence, 1979.-V. 9.- P. 149-194

72. Zadeh, 1994. Zadeh L. A. Fuzzy Logic, Neural Network and Soft Computing // Communication of the ACM. 1994. - Vol.37, № 3. - P. 77-84.

73. Zadeh, 1996. Zadeh L. A. Fuzzy Logic = Computing With Words // IEEE Transactions of Fuzzy Systems 1996. — Vol.4. - P. 103-111.

74. Zadeh, 2002. L.A. Zadeh, Toward a perception-based theory of probabilistic reasoning with imprecise probabilities, Journal of Statistical Planning and Inference, vol.105,2002, 233-264.

75. Zhang at al., 2007. L. Zhang, Zh. Pei, and H.Chen Extracting fuzzy linguistic summaries based on including degree theory and FCA//IFSA'07 Theoretical Advances and Applications of Fuzzy Logic

76. Аверкин и др., 1986. Аверкин А. Н., Батыршин И. 3., Блишун А. Ф., Силов В. Б., Тарасов В. Б. Нечеткие множества в моделях управления и искусственного интеллекта. — М.: Наука, 1986.

77. Аверкин, Прокопчина, 1997. Аверкин А. Н., Прокопчина С. В. Мягкие вычисления и измерения // Интеллектуальные системы (МГУ). — 1997 — Т 2 вып. 1-4, —С. 93-114.

78. Аверкин, Тарасов, 1986. Аверкин А. Н., Тарасов В. Б. Нечеткое отношение моделирования и его применение в психологии и искусственном интеллекте. — М.: ВЦ АН СССР, 1986.

79. Аверкин, 1982. Аверкин А.Н. Нечеткое отношение моделирования и его использование для классификации и аппроксимации в нечетких лингвистических пространствах. // Изв. АН СССР. Техническая кибернетика.- 1982.- N 2.- с. 215-217

80. Аверкин, Головина, 1999. Аверкин А. Н., Головина Е. Ю. Нечеткая семиотическая система управления // Интеллектуальное управление: новые интеллектуальные технологии в задачах управления. — М.: Наука, Физматлит, 1999. —С. 141-145.

81. Андерсон, 1976. Андерсон Т. Статистический анализ временных рядов. М: Мир, 1976-751с.

82. Барский, 2002. Барский А.Б. Обучение нейросети методом трассировки //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение»: Сб. докл., 2002. С. 862 - 898.

83. Батыршин и др., 2007. Батыршин И.З., Недосекин А.О., Стецко А.А., Тарасов В.Б., Язенин А.В., Ярушкина Н.Г. Нечеткие гибридные системы. Теория и практика / По ред.Н.Г.Ярушкиной. М.: ФИЗМАТЛИТ, 2007. - 207 с.

84. Батыршин, 1978. Батыршин И.З. О мерах энтропии размытых множеств // Исследование операций и аналитическое проектирование в технике / Под ред. Ю.В. Кожевникова. Казань: Казанск.авиац.ин-т, 1978,40-45.

85. Батыршин, 1987. Батыршин И.З. Меры энтропии и метрические свойства алгебры нечетких множеств //Нечеткие системы: моделирование структуры и оптимизация/Под ред. А.В. Язенина. Калинин:КГУ, 1987, 4 -16.

86. Батыршин, 1995а. Батыршин И.З. Лексикографические оценки правдоподобности с универсальными границами. II. Операции отрицания. Теория и системы управления. Известия РАН, 1995, 5,133-151.

87. Батыршин, 1995b. И.З. Батыршин Методы представления и обработки нечеткой информации в интеллектуальных системах. Новости ИИ. N 5 1995, с. 9-65

88. Батыршин, 1996. Батыршин И.З. Методы представления и обработки нечеткой информации в интеллектуальных системах // Новости искусственного интеллекта. — 1996. — № 2. — С. 9-65.

89. Батыршин, 2001а. Батыршин И.З. Основные операции нечеткой логики и их обобщения. Казань: Отечество, 2001. - 100с.

90. Батыршин, 2001b. Батыршин И.З. Основные операции нечеткой логики // Новости искусственного интеллекта. — 2001. — №4. — С. 18-22.

91. Беллманн, Заде 1976. Беллман Р., Заде Л. Принятие решений в расплывчатых условиях // В кн.: Вопросы анализа и процедуры принятия решений. М.: Мир, 1976

92. Бендат, Пирсол, 1989. Бендат Дж., Пирсол А. Прикладной анализ случайных данных. /Пер. с англ./ Под ред. Коваленко И.Н. М.: Мир, 1989. 540с.

93. Бокс, Дженкинс, 1974. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. /Пер. с англ./ Под ред. В.Ф.Писаренко. М.: Мир, 1974.-406с.

94. Борисов, 1982. Борисов А.Н., Алексеев А.В., Крумберг О.А. и др. Модели принятия решений на основе лингвистической переменной. Рига: Зинатне, 1982.

95. Борисов, Федоров, 1990. Борисов А.Н., Федоров И.П. Формирование технических решений на основе экспертных знаний. Изв. АН СССР, Техническая кибернетика 5 1990, с. 154-164

96. Бранд, 2003. Бранд 3. Анализ данных. Статистические и вычислительные методы для научных работников и инженеров: Пер. с англ. М.: Мир, 2003-686с.

97. Букатова и др., 1991. Букатова И.Л., Михасев Ю.И., Шаров А. М. Эвоинформатика. Теория и практика эволюционного моделирования. — М.: Наука, 1991.

98. Бурдо, Тихонов, 2001. Бурдо А.И., Тихонов Э.Е. К вопросу систематизации методов и алгоритмов прогнозирования // Материалы межрегиональной конференции «Студенческая наука экономика научно-технического прогресса». Ставрополь: СевКавГТУ, 2001. - С.33-34.

99. Бутенко, 2002. Бутенко А.А. и др. Обучение нейронной сети при помощи алгоритма фильтра Калмана. //Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение »: Сб. докл., 2002. С. 1120 - 1125.

100. Бююль, Цефель, 2001. Бююль А., Цефель П. SPSS: искусство обработки информации. СПб.: ДиаСофт, 2001

101. Голицын, Фоминых, 1996. Голицын Г. А., Фоминых И. Б. Нейронные сети и экспертные системы: перспективы интеграции // Новости искусственного интеллекта. — 1996, —№4. —С. 121-145.

102. Головко, 2001. Головко В.А. Нейронные сети: обучение, организация и применение. Кн.4: Учебн.пособие для вузов / Общая ред.Галушкина А.И. -М.: ИПРЖР, 2001.-256с.

103. Горбань и др., 1998. Горбань А.Н., Дунин-Барковский B.JL, Курдин А.Н. и др. Нейроинформатика. Новосибирск: Наука, 1998. - 296с.

104. Горбань, 1998. Горбань А.Н. Обучение нейронных сетей. М.: СП «Параграф», 1990.- 159с.

105. Гусак, 2002. Гусак А.Н. и др. Подход к послойному обучению нейронной сети прямого распространения//Труды VIII Всероссийской конференции «Нейрокомпьютеры и их применение » Сб.докл., 2002. С. 931 - 933.

106. Емельянов, Ясиновский, 1998. Емельянов В. В., Ясиновский С. И. Введение в интеллектуальное имитационное моделирование сложных дискретных систем и процессов. — М.: Анвик, 1998.

107. Заде, 1976. Заде JI.A. Понятие лингвистической переменной и его применение к принятию приближенных решений. М.: 1976. - 165с.

108. Перевод с англ. И.З.Батыршина. «Новости Искусственного Интеллекта», 2001, № 2-3, стр.7-11.

109. Захаров, Ульянов, 1994. Захаров В. Н., Ульянов С. В. Нечеткие модели интеллектуальных промышленных регуляторов и систем управления. IV. Имитационное моделирование // Известия Академии наук: Техническая кибернетика. 1994. - №5. - С. 168-210.

110. Ивахненко, 1975. Ивахненко А.Г. Долгосрочное прогнозирование и управление сложными системами. Киев: Изд.«Техника», 1975 - 312с.

111. Ивахненко, 1981. Ивахненко А.Г. Индуктивный метод самоорганизации моделей сложных систем. Киев: Наук.думка, 1981 - 296с.

112. Кандрашина и др., 1988. Кандрашина В.Ю., Литвинцева JI. В., Поспело Д.А. Представление знаний о пространстве и времени в системах искусственного интеллекта. — М.: Наука, 1988.

113. Кобринский, Фельдман, 1995. Кобринский Б, А., Фельдман А. Е. Анализ и учет ассоциативных знаний в медицинских экспертных системах // Новости искусственного интеллекта. — 1995. — №3. — С. 90-96.

114. Ковалев, 2002. Ковалев С.М. Модели анализа слабо формализованных динамических процессов на основе нечетко-темпоральных систем // Известия вузов: Северо-Кавказский регион: Естественные науки. 2002. №2. -С.10-13.

115. Круглов и др., 2001. Круглов В.В., Дли М.И., Голунов Р.Ю. Нечеткая логика и искусственные нейронные сети. М.: Физматлит, 2001. - 224 с.

116. Круглов, Дли, 2002. Круглов В.В., Дли М.И. Интеллектуальные информационные системы: компьютерная поддержка систем нечеткой логики и нечеткого вывода. М.: Физматлит, 2002. - 256 с.

117. Паклин, 2004. Паклин Н.Б. Адаптивные модели нечеткого вывода для идентификации нелинейных зависимостей в сложных системах: Дис.к-та техн. наук. Ижевск, 2004. - 162 с.

118. Почепцов, 1998. Почепцов Г. Г. Теория и практика коммуникации. — М.: Центр, 1998.

119. Рутковская и др., 2006.Рутковская Д., Пилиньский М., Рутковский J1. Нейронные сети, генетические алгоритмы и нечеткие системы. М.: Горячая линия - Телеком, 2006.

120. Рыбина, 1993. Рыбина Г. В. Принципы создания автоматизированной технологии проектирования интегрированных экспертных систем // Новости искусственного интеллекта. — 1993. — №4.

121. Тарасов, 1986. Тарасов В. Б. Нечеткие отношения и моделирование открытых иерархических систем // Математические методы оптимизации и управления в сложных системах. — Калинин: КРУ, 1986. — С. 3-17.

122. Тарасов, 1997. Тарасов В. Б. Системно-организационный подход в искусственном интеллекте// Программные продукты и системы. — 1997. — №3. —С. 6-13.

123. Тарский, 2000. Тарский JI. Введение в логику и методологию дедуктивных наук. — Биробиджан: ИП «Тривиум», 2000.

124. Тейз и др., 1998. Тейз JL, Грибомон П., Юлен Г. и др. Логический подход к искусственному интеллекту: От модальной логики к логике баз данных: Пер с франц. М: Мир, 1998.

125. Тейл, 1977. Тейл Г. Экономические прогнозы и принятие решений. М.: Статистика, 1977.-282 с.

126. Тихонов, Кузьмищев, 2004. Тихонов Э.Е., Кузьмищев В.А. Методы и алгоритмы прогнозирования экономических показателей на ба:е нейронных сетей и модулярной арифметики. Невинномысск: Издательство НИЭУП, 2004. - 166с.

127. Уоссермен, 1992. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика. М: ЮНИТИ, 1992. - 240с.

128. Фогель и др., 1969. Фогель JL, Оуэне Л., Уояш М. Искусственный интеллект и эволюционное моделирование: Пер, с англ. — М.: Мир, 1969.

129. Хохлов, 2003. М.Ю.Хохлов, А.В.Язенин. Расчет числовых характеристик нечетких случайных величин, Вестник ТвГУ, №2. Серия «Прикладная математика», выпуск №1, 2003г., 39-43.

130. Эделстейн, 1996. Эделстейн Г Интеллектуальные средства анализа, интерпретации и представления данных в информационных хранилищах ComputerWeek-Москва. 1996. № 16. С. 32-33

131. Язенин, 1984. Язенин А.В. Нечеткие переменные и нечеткое математическое программирование // Модели выбора альтернатив в нечеткой среде. Рига, 1984.

132. Язенин, 1986. Язенин А.В. Нечеткое математическое программирование. Калинин: КГУ, 1986

133. Язенин, 1987. Язенин А.В. О непрямых методах нечеткого математического программирования // Нечеткие системы: моделирование структуры и оптимизация. Калинин, 1987.

134. Язенин, 1991. А.В.Язенин. Линейное программирование со случайными нечеткими данными, Изв. АН СССР. Техническая кибернетика 3(1991) 52-58.

135. Язенин, 1997. А.В.Язенин. О методе решения одной задачи линейного программирования со случайными нечеткими данными, Изв. РАН . Теория и системы управления 5(1997) 91-95.

136. Язенин, 1999. А.В.Язенин, К задаче максимизации возможности достижения нечеткой цели, Изв. РАН. Теория и системы управления 4(1999) 120 -123.

137. Янбых, Столяров, 1987. Янбых Г.Ф., Столяров Б. А. Оптимизация информационно-вычислительных систем. М.: Радио и связь, 1987.

138. Янч, 1974. Янч Э. Прогнозирование научно-технического прогресса. М.: Изд.«Прогресс», 1974

139. Ярушкина, 2002b. Ярушкина Н.Г. Гибридные системы, основанные на мягких вычислениях, определение, архитектура, теоретические возможности и опыт практического использования // Программные продукты и системы, №3,2002, с. 19-22

140. Ярушкина, Наместников, 2002. Ярушкина Н.Г., Наместников A.M. Эффективность генетических алгоритмов для задач автоматизированного проектирования // Известия РАН. Теория и системы управления, № 2, 2002, с. 127-134

141. DL* 21 19,77 4,93 150134 X X X X X X 19,77 4,93 150134 X X X X X X

142. ADL** 22 16,14 3,03 121563 X X X X X X 16,14 3,03 121563 X X X X X X11 jjq*** 22 15,68 3,31 112136 X X X X X X 15,68 3,31 112136 X X X X X Xя