автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Алгоритмы генетического программирования для формирования интеллектуальных информационных технологий

На правах рукописи

Лр'

ЛИПИНСКИИ ЛЕОНИД ВИТАЛЬЕВИЧ

Алгоритмы генетического программирования для формирования интеллектуальных информационных технологий

05.13.01 - Системный анализ, управление и обработка информации

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Красноярск -2006

Работа выполнена в Государственном образовательном учреждении высшего профессионального образования «Сибирский государственный аэрокосмический университет имени академика М.Ф. Решетнева»

Научный руководитель: доктор технических наук, профессор

Семенкин Евгений Станиславович

Официальные оппоненты:

доктор технических наук, профессор Терсков Виталий Анатольевич кандидат технических наук Галыпш Артем Николаевич

Ведущая организация:

Томский государственный университет

Защита состоится 21 декабря 2006 г. в 11 часов на заседании диссертационного совета Д 212.249.02 в Сибирском государственном аэрокосмическом университете имени академика М.Ф. Решетнева, по адресу г. Красноярск, пр. им. газеты «Красноярский рабочий», 31.

С диссертацией можно ознакомиться в библиотеке СибГАУ.

Автореферат разослан 20 ноября 2006 г.

Ученый секретарь диссертационного совета

И, В. Ковалев

Общая характеристика работы

Интеллектуальные информационные технологии (ИИТ) широко и успешно используются для решения различных практических задач. В принципе, можно уже говорить о массовом характере их внедрения. Однако в большинстве конкретных случаев реализация ИИТ является, как правило, трудоемким процессом, требующим больших временных затрат и материальных вложений. Каждый раз исследователь, решивший использовать для решения той или иной задачи технологии искусственных нейронных сетей, сталкивается с вопросом об архитектуре нейронной сети. В отличие от настройки весовых коэффициентов, данный вопрос не так широко освещен в литературе. В большинстве случаев основной метод подбора структуры — метод проб и ошибок, который не может гарантировать оптимального решения. Недостаточная сложность архитектуры нейронной сети ведет к недопустимой ошибке и лишает сеть свойства обобщения. Избыточная сложность архитектуры ведет к увеличению скорости срабатывания и аппроксимации шума, что также лишает сеть свойства обобщения. Все это приводит к необходимости создания эффективного метода автоматизированного формирования нейронных сетей, который мог бы повысить обоснованность и снизить трудоемкость нейросетевого моделирования сложных систем.

Проектирование ИИТ другого типа — систем на нечеткой логике — тоже является сложным творческим процессом, требующим значительных затрат, что существенно сужает круг пользователей и разработчиков, которые могут себе это позволить. Инженеру по знаниям необходимо извлечь знания из эксперта, представить их в виде формальной модели, состоящей из двух основных частей: базы нечетких правил и набора лингвистических переменных. Большинство методик извлечения знаний являются слабо формализованными, что существенно сказывается на стоимости и времени разработки. Одной из основных проблем существующих на этапе извлечения является наличие так называемых «скрытых» знаний эксперта, т.е тех знаний, которыми эксперт пользуется не осознанно. Инженеру по знаниям необходимо выявить такие знания и формализовать их в виде некоторой модели. В свою очередь, эксперт должен предоставлять свои знания с учетом особенностей используемых информационных технологий. Таким образом, взаимодействие инженера по знаниям и эксперта превращается во взаимное обучение, на которое и уходит основное время разработки системы. Однако во многих случаях, когда имеются готовые базы данных предметной области, можно было бы избежать значительных временных затрат на разработку рабочих прототипов систем на нечеткой логике.

В этой связи для действительно массового использования ИИТ при решении практических задач разработка алгоритмического обеспечения для автоматизации моделирования сложных систем интеллектуальными

информационными технологиями является актуальной научной проблемой.

Целью данной диссертационной работы является повышение эффективности и обоснованности принятия решений при автоматизированном формировании интеллектуальных информационных технологий.

Для достижения поставленной цели необходимо решить следующие задачи:

1. Проанализировать методы формирования интеллектуальных информационных технологий. Выявить их достоинства и недостатки.

2. Разработать подход, позволяющий автоматически проектировать нейронные сети (подбор структуры, активациоиных функций, весовых коэффициег нов).

3. Разработать подход, автоматически проектирующий базу правил систем на нечеткой логике.

4. Разработать подход, автоматически настраивающий семантику лингвистических переменных в системах на нечеткой логике.

5. Выполнить программную реализацию разработанных методов и проверить их работоспособность на тестовых задачах.

6. Разработать процедуру совместного использования обоих подходов в рамках решения конкретной практической задачи.

7. Проверить работоспособность разработанных подходов и программных систем на реальных практических задачах.

Методы исследования. Результаты проведенных и представленных в дашюй работе исследований получены с использованием методов системного анализа, теории информации, теории оптимизации, нейросетевого моделирования, теории нечетких множеств и нечеткой логики.

Научная новизна работы состоит в следующем:

1. Разработан новый эволюционный алгоритм, автоматически формирующий нейросетевые модели и отличающийся от известных универсальностью подхода к выбору структур нейронных сетей.

2. Разработан новый эволюционный алгоритм, автоматически формирующий нечеткие системы управления и отличающийся комплексностью подхода, позволяющего формировать базы правил и лингвистические переменные одновременно.

3. Разработана интегрированная процедура совместного использования эволюционных алгоритмов автоматически формирующих нечеткие системы управления и нейронные сети, позволяющая осуществлять комплексное моделирование сложных систем интеллектуальными информационными технологиями.

Практическая ценность. Разработаны формальные методики, позволяющие автоматически проектировать интеллектуальные информационные технологии. Разработанные программные системы позволяют пользователю, не обладающему профессиональными знаниями в области ИИТ и

эволюционного моделирования, получать решения для конкретных практических задач. Решены реальные практические задачи из области техники и медицины. Программные системы, разработанные в ходе выполнения работы, используются в качестве лабораторных установок для обучения студентов Сибирского государственного аэрокосмического университета по дисциплинам «Интеллектуальные технологии и принятие решения» и «Интеллектуальный анализ данных», студентов Красноярского государственного университета по дисциплинам «Эволюционные алгоритмы моделирования и оптимизации» и «Интеллектуальные технологии анализа данных».

Работа выполнена в рамках ФЦНТП «Исследования и разработки по приоритетным направлениям развития науки и техники на 2002-2006 годы» по теме 2006-РИ-16.0/001/076 (государственный контракт № 02.438.11.7043) и 2006-РИ-19.0/001/377 (государственный контракт № 02.442.11.7337), в рамках НИР 4422 «Разработка и исследование эффективности гибридных методов оптимизации алгоритмически заданных функций дискретных переменных», выполняемой по ведомственной научной программе «Развитие научного потенциала высшей школы», а также по темилану СибГАУ «Бионические методы идентификации и оптимизации сложных систем» (№ Б1.1.05).

Реализация результатов работы. Разработанные программные системы эволюционного формирования нейросетевых моделей сложных систем и эволюционного формирования интеллектуальных систем на нечеткой логике, а также программная система поддержки принятия решений при комплексной диагностике послеоперационной когнитивной дисфункции зарегистрированы в отраслевом фонде алгоритмов и программ, что делает их доступными для широкого круга пользователей. Первые две программные системы использованы при решении реальных технических задач прогнозирования деградации солнечных электрических батарей космических аппаратов (результаты решения задачи переданы НПО прикладной механики (г. Железногорск) в составе отчета по государственному контракту 02,438.11.7043) и моделирования работы малогабаритной электростанции на водородных топливных элементах (fuel cell). Вторая задача решалась в рамках совместного проекта СибГАУ и Ульмской специальной высшей школы (Fachhochschule Ulm, Германия). Результаты решения получили высокую оценку немецких специалистов, что подтверждено соответствующими документами. Кроме того, все три программы прошли апробацию при решении реальных задач медицинской диагностики и переданы для эксплуатации при проведении клинических исследований Институту последипломного образования ГОУ ВПО «Красноярская государственная медицинская академия» Федерального агентства по здравоохранению и социальному развитию, что подтверждено актом о передаче и использовании.

Апробация. Разрабатываемые подходы и результаты исследований докладывались и обсуждались, па следующих конференциях: X Национальная конференция по искусственному интеллекту с международным участием (КИИ-2006); Международная научно-практическая конференция: «Исследование, разработка и применение высоких технологий в промышленности», Санкт-Петербург, 2006г.; Всероссийская научная конференция «Решетневские чтения», Красноярск, 2003-2006; Межрегиональный научный фестиваль «Молодежь и наука — третье тысячелетие», Красноярск, 2004 г; Региональная конференция "Молодежь и наука - третье тысячелетие", Красноярск, 2006; VIII Международная научно-практическая конференция, Тамбов 2004; Пятая международная конференция молодых ученых, Самара, 2004; Всероссийская научная конференция молодых ученых «Наука. Технологии. Инновации, Новосибирск», 2003. ,

Основные защищаемые положения.

1. Разработанный модифицированный эволюционный алгоритм формирования нейросетей позволяет автоматически проектировать нейронные сети и выявлять входы, слабо влияющие на выходы,

2. Разработанный модифицированный эволюционный алгоритм Проектирования систем на нечеткой логике позволяет автоматически формировать базы правил таких систем и получать обобщенные правила, попятные конечному пользователю.

3. Разработанная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы управления и нейронные сети, позволяет комплексно решать задачу проектирования интеллектуальных информационных технологий для моделирования сложных систем..

Публикации. По теме диссертационного исследования опубликовано 22 работы, среди которых 8 статей, в том числе три в изданиях из Перечня ВАК.

Структура и объем работы. Работа состоит из введения, трех глав, заключения, списка литературы и приложений.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении приведена общая характеристика работы, сформулированы цели и задачи исследования, приведены основные результаты и защищаемые положения.

Первая глава посвящена разработке алгоритма генетического программирования для автоматизированного проектирования нейронных сетей.

Искусственные нейронные сети (НС) представляют собой сеть из элементов ~ искусственных нейронов — связанных между собой синапти-ческими соединениями. Сеть обрабатывает входную информацию и в про-

цессе изменения своего состояния во времени формирует совокупность выходных сигналов. Искусственные нейронные сети возникли на основе знаний о функционировании нервной системы живых существ. Они представляют собой попытку имитации процессов, происходящих в нервных системах, для выработки новых технологических решений.

Выбор структуры НС. Практически в любом нейросетевом пакете пользователю предлагается ввести структуру НС. Существуют два основных направления в вопросе выбора структуры НС.

Первое направление заключается в том, что изначально задается сеть заведомо большего объема, чем необходимо для решения задачи. После того, как сеть с выбранной архитектурой обучилась на задачу, используя различные методики удаляют малозначимые нейроны и связи до тех пор, пока ошибка НС увеличивается незначительно. Второе направление придерживается противоположной точки зрения. Изначально задается НС с малой архитектурой, после чего сеть обучается. Если НС обучилась на задачу, то оставляют архитектуру, иначе добавляют нейроны или связи.

Оба эти подхода являются локальным поиском в пространстве структур НС. Для более эффективного формирования структуры НС необходимо разработать метод, обладающий глобальными свойствами, позволяющий экономить время проектирования НС и получать НС произвольной архитектуры, т.е. содержащую различное число слоев, различное число нейронов с различными передаточными функциями, различное число межнейронных и межслойных связей (не только с соседними слоями). Для получения такого метода предлагается использовать алгоритм генетического программирования. ■ ■

Алгоритм генетического программирования представляет собой адаптивную стохастическую процедуру, имитирующую процессы эволюции, работающую одновременно с группой («популяцией») решений («индивидов»), представленных в виде абстрактных структур данных («хромосом») - строк, деревьев, графов и т.п. — путем применения «генетических» операторов — селекции, мутации, скрещивания и т.д.

Общая схема ГП.

Шаг 1. Создание начальной популяции. Случайным образом генерируется набор деревьев, представляющих собой некоторые решения задачи.

Шаг 2. Оценивание текущей популяции. В соответствии с выбранной функцией пригодности каждому решению в популяции ставится в соответствие число, характеризующее качество данного решения.

Шаг 3. Селекция. Отбираются пары родителей для скрещивания. Родитель отбирается случайным образом так, чтобы индивиды с большей пригодностью отбирались с большей вероятностью. Например, при пропорциональной селекции отбор организован таким образом, чтобы вероятность выбора индивида в качестве родителя была пропорциональна его пригодности.

Шаг 4. Скрещивание. Выбранные пары родителей обмениваются своими поддеревьями. В итоге получается пара потомков. В традиционной схеме ГП только один потомок переходит в следующую популяцию. Выжившего потомка можно выбирать случайно, либо по его пригодности.

Шаг 5. Мутация. Листья дерева выбираются с некоторой вероятностью (как правило, малой) и заменяются на другие, выбранные случайным образом.

Шаг 6. Проверка условия останова. Если условие выполняется, то выбирается лучший индивид, который и считается найденным решением, иначе - переход на шаг 2.

Для использования метода генетического программирования (ГП) при формировании структуры нейронной сети необходимо решить две задачи - кодирование нейронной сети в виде дерева (в общем случае дерево может быть п-арным, но обычно выбирают бинарное) и выбор функции пригодности.

Для кодирования НС при помощи дерева необходимо определить терминальное (Т) и функциональное (Б) множества. При выборе терминального и функционального множеств нужно обеспечить:

- любое дерево, составленное из элементов этих множеств, должно представлять собой некоторое решение из поискового пространства;

- набор множеств (терминального и функционального) должен позволять кодировать любое возможное решение из поискового пространства.

Кроме того, выбранный способ кодирования должен позволять:

- представлять сети с межсловными связями;

- представлять сети с такими связями, при которых не обязательно каждый нейрон предыдущего слоя связан с каждым нейроном последующего слоя;

- допускать на одном слое нейроны с различными активационными функциями.

Эти требования направлены на обеспечение более гибкого поиска структуры НС.

Кодирование НС. Пусть терминальное множество состоит из частей (блоков), из которых (по предположению исследователя) должна состоять нейронная сеть. Это могут быть нейроны различных видов (в том числе входные), нейроны уже объединенные в некоторые блоки (являющиеся частью слоя) и т.п. Функциональное множество состоит из элементов, показывающих, каким образом соотносятся между собой элементы из Т. Поясним сказанное на примере. Пусть имеется следующий набор Т={з11п12, 811п34, б12, з13}, Р={+з1, >}. Здесь 8112 - блок, состоящий из первого и второго входных нейронов, б134 — блок, состоящий из третьего и четвертого входных нейронов, б12 — блок, состоящий из двух нейронов с некоторыми активационными функциями 81 и 82, з13 — блок, состоящий из трех нейро-

нов с функциями активации 83, Б4 и Б5. Тогда дерево (рис. 1а) соответствует нейронной сети (рис. 1Ь). ■ ■

Рисунок 1. Пример дерева (а), кодирующего НС (Ь)

Функции пригодности деревьев также могут выбираться различным образом. Например, функция пригодности может быть равна обратной величине ошибке НС после некоторого, наперед заданного, количества итераций настройки весовых коэффициентов:

fimess в -—J—r— , (1)

1+Е+к*п

Е =

У _

N

(2)

где п - количество уровней в дереве; к - некоторый коэффициент, задаваемый пользователем, либо равна числу итераций настройки весовых коэффициентов, необходимых для получения некоторого заданного уровня ошибки НС:

Шпеаь =---.

1 + К + к-п

где Лг— количество итераций обучения НС, п — количество уровней в дереве; к — некоторый коэффициент, задаваемый пользователем. Могут быть и другие варианты оценки пригодности в зависимости от задачи, решаемой НС.

Настройка весовых коэффициентов таких нейронных сетей произвольной структуры не может производиться стандартными методами, поэтому для этих целей в диссертации разработан и применен гибридный эволюционный алгоритм, сочетающий стандартный генетический алгоритм с методом сопряженных направления.

Далее разработанный алгоритм автоматического формирования ней-росетевых моделей был проверен на тестовых задачах.

Задача прогнозирования вибрационных характеристик турбины выдвигалась в 1999 г. Европейским комитетом по ИИТ на международный конкурс молодых исследователей. Постановка задач состоит в следующем.

Известно, что вибрационные характеристики являются одним из лучших методов для прогнозирования состояния турбины, что позволяет на ранней стадии обнаруживать возможные неполадки. 5 течение определенного времени турбина испытывалась в различных эксплуатационных условиях. Данные о состоянии турбины заносились в таблицу, где первые 11 измерений являются параметрами процесса, а следующие 12 измерений - это вибрационные сигналы, измеренные в различных частях турбины.

Для решения данной задачи было сгенерировано 12 НС, по одной для каждого вибрационного сигнала. При этом средняя квадратическая ошибка по всем выходам составила 0.025, что ненамного хуже результата, полученного в 1999 г, победителем конкурса. Большинство из НС имеют неполный входной слой (некоторые входные нейроны, а значит и связанные с ними входы, отсутствуют). Например, для прогнозирования первого выхода необходимо всего четыре входа, причем ошибка НС равна 0.011. Из этого следует, что оставшиеся входы слабо влияют на выходы либо связаны некоторой зависимостью с другими входами. Таким образом, разрабо-тадшый алгоритм генетического программирования не только смог сформировать конкурентоспособные нейросетевые модели, но и позволил установить некоторые внутренние закономерности базы данных.

Задача прогнозирования выживаемости пациентов после инфаркта миокарда размещена в репозитории тестовых задач (the Reed Institute) в 1999 г. Необходимо по имеющимся данным: количество месяцев прожитых пациентом после инфаркта, информация о том, жив или нет был пациент на момент занесения информации, возраст пациента, перикардиальное излияние (было или нет), фракционное сокращение, Epss (мера сжимаемости сердца), размер сердца в конце диастола, мера того как сегменты левого желудочка перемещаются и т.д., определить проживет ли пациент, перенесший инфаркт, по крайней мере, один год после инфаркта. Предложенным в данной работе алгоритмом получена НС, которая распознала все примеры из тестовой и обучающей выборки.

Таким образом, работоспособность предложенного подхода продемонстрирована на тестовых задачах.

Во второй главе диссертации разрабатывается алгоритм генетического программирования для автоматизированного проектирования систем на нечеткой логике.

При проектирования систем на нечеткой логике (НСУ) разработчику необходимо решить две основные задачи.

Первая задача состоит в создании лингвистических переменных и их настройке. Существует несколько методик создания лингвистических переменных. Например, групповые прямые методы, метод относительных частот, использование типовых форм кривых. Однако все они рассчитаны на длительное взаимодействие с экспертом предметной области и не могут быть автоматизированы.

Вторая задача состоит в проектировании базы правил (БЩ В процессе создания базы правил извлекаются знания из эксперта и сохраняются в том виде, в котором с ними сможет работать компьютер (на этапе нечеткого вывода). Большинство методов извлечения знаний направлены на обучение разработчика (инженера по знаниям) закономерностям и правилам принятия решения предметной области. Обычно этот процесс приводит к тому, что разработчик становится «квазн-экспертом», и затягивается иа длительный срок.

Для решения задачи формирования НСУ методом ГП необходимо выполнить кодирование БП в виде хромосомы (дерева) и выбор функции пригодности.

Для кодирования БП необходимо выбрать терминальное и функциональное множества, удовлетворяющие условиям замкнутости и достаточности. В качестве терминального множества в работе предлагается выбрать значения выходных параметров и их комбинации. Элементами функционального множества предложено выбрать правила разбиения вектора входных параметров на подвектора одинаковой длины.

Функция пригодности выражает количественно, насколько одно решение предпочтительнее другого. Выбор конкретной функции пригодности зависит от задачи. Например, для задачи аппроксимации обычно выбирают (1).

Кроме проектирования базы правил для системы иа нечеткой логике необходимо настраивать лингвистические переменные. Для решения этой задачи предлагается использовать стандартный генетический алгоритм оптимизации.

Предлагаемый подход был проверен на известной тестовой задаче управления перевернутым маятником: необходимо построить нечеткий логический контроллер, управляющий системой «тележка-перевернутый маятник». Целью управления является приведение системы в состояние равновесия, которое характеризуется нулевым значением отклонения маятника от вертикальной оси и нулевым значением позиции тележки, из любого начального допустимого положения тележки и маятника.

В результате применения разработанного в диссертации алгоритма была построена база из восьми правил, которая в результате оптимальной настройки лингвистических переменных обеспечивает эффективное решение задачи, что сопоставимо с решением, получаемым человеком-экспертом.

Кроме того, во второй главе также успешно решены задачи прогнозирования вибрационных характеристик турбины и прогнозирования выживаемости пациентов после инфаркта, решенные ранее с помощью ней-росетей. Были получены сопоставимые по эффективности результаты.

Таким образом, работоспособность предложенного подхода также проверена на множестве тестовых задач.

Третья глава диссертации посвящена практической реализации разработанных методов автоматизированного проектирования интеллектуальных информационных технологий.

Известно, что НС и НСУ являются взаимозаменяемыми, т.е. одну и туже задачу можно решить, как с помощью технологии искусственных НС, так и с помощью НСУ. Однако существуют следующие различия. НС является моделью «черного ящика», поэтому исследователь, обучив НС на решение конкретной задачи, не имеет представления о том, как решается задача. При этом НС успешно применяются в исследованиях и способны решить задачу с хорошей точностно. НСУ являются моделью «белого ящика», поэтому исследователь, настроив НСУ на решение задачи, может получить полное представление о том, каким образом решается задача, имеет представление о внутренней структуре объекта, связанного с задачей. С другой стороны, при решении некоторых практических задач, точность решения некоторых задач технологиями НСУ уступает решению НС. В этом смысле НСУ и НС являются взаимодополняемыми.

В диссертации разработана комплексная процедура использования эволюционных алгоритмов автоматически формирующих НСУ и НС, состоящая в следующей последовательности действий:

1, Сгенерировать и обучить на задачу НСУ. Если задача решается с необходимой точностью, то необходимость применения НС отпадает. Для улучшения точности решения можно варьировать начальными параметрами ГП и лингвистическими переменными. Если полученная точность не удовлетворительна переход к 2.

2, Сгенерировать и обучить на задачу НС. Если НС решает задачу с приемлемой точностью, то проанализировать полученную структуру НС. Необходимо выяснить, какие входы использует НС для решения поставленной задачи. Чем более сложная структура НС получилась, тем более сложной будет БП в НСУ и тем большей глубины необходимо задавать дерево при начальной инициализации БП. Если НС не решает задачу, изменить настройки ГП в эволюционном алгоритме (число индивидов, число поколений, уровень мутации, максимально допустимая глубина дерева и т.д.), увеличить количество шагов оптимизационных алгоритмов настройки параметров НС и НСУ (генетического алгоритма, алгоритма сопряженных градиентов, гибридного) и повторить 2,

3, Обучить НСУ с использованием информации, полученной на шаге 2. Для исследований целесообразнее использовать ту модель, которая дает лучшую точность. Однако даже если в целом НСУ решает задачу с неудовлетворительной точностью, отдельные правила из БП могут достаточно точно решать задачу в своем классе условий. Для выявления таких правил необходимо проанализировать БП в целом, оценить вероятность ошибки каждого правила в отдельности. Вероятность ошибки правила может снизиться, если оно скорректировано экспертом.

Для того, чтобы специалисты, не являющиеся экспертами в интеллектуальных информациошгых технологиях, могли использовать предложенную комплексную процедуру, была выполнена программная реализация обоих подходов в виде лабораторных установок с дружественным к пользователю интерфейсом и интуитивно ясной структурой управления программой. Данные программы прошли апробацию среди студентов в Сибирском государственном аэрокосмическом университете, Красноярском государственном университете и, в заключение, в Красноярской государственной медицинской академии (студенты-медики). Затем программные системы прошли экспертизу отраслевого фонда алгоритмов программ и были зарегистрированы на отраслевом и государственном уровне.

Далее в третьей главе были решены практические задачи моделирования сложных систем интеллектуальными информационными технологиями.

Прогнозирование деградации электрических характеристик солнечных батарей космического аппарата.

Необходимо по имеющимся результатам измерения параметров солнечных батарей (БС) в полёте (параметры секций БСЗ и БС4 па космическом аппарате (КА) ЭКСПРЕСС-А №2) и результатом измерения параметров с КА ЭКСПРЕСС-А и GOES в годы активного Солнца построить модель, прогнозирующую деградацию электрических характеристик БС (напряжение холостого хода Uw и сила тока короткого замыкания. I„ БС) в зависимости от следующих факторов: интегральный флюенс протонов с различными энергиями (от 1 до 100 МеВ); интегральный фшоепс электронов с различными энергиями (от 0,6 до 2 МсВ); ресурс - это параметр, который задан как количество дней с момента контакта отделения КА; коэффициент освещенности КА — величина, характеризующая степень освещенности аппарата, зависит от взаимного положения КА, Земли и Луны. Далее выполняется прогноз параметров БС на конец ресурса для заданных в ТЗ характеристик ИИКП.

Таблица 1. Результат прогнозирования электрических характеристик

Выход Ошибка НС, обучающая выборка Ошибка НС, тестовая выборка Ошибка НСУ, обучающая выборка Ошибка НСУ, тестовая выборка

I БСЗ 0.002174(1.19%) 0.006080 (3.34%) 0.002151 (1.82%) 0.005307 (2.91%)

I БС4 0.000884 (0.48%) 0.005419 (2.97%) 0.001164(0.63%) 0.003771 (2.07%)

Uxx БСЗ 0.000370 (0.30%) 0.001060 (0.87%) 0.000383 (0.31%) 0.001260(1.04%)

U хх БС4 0.000236 (0.19%) 0.000906 (0.75%) 0.000265 (0.21%) 0.001201 (0.99%)

Из таблицы 1 видно, что для прогнозирования силы тока короткого замыкания лучше использовать модели на основе НСУ, а для прогнозирования напряжения холостого хода лучше использовать модели на основе НС. В таблице 2 приведены правила, частота использования которых при прогнозировании деградации электрических характеристики полученными НСУ наибольшая,

Таблица 2. Полученные правила

Правило Ошибка правила Кол-во срабатываний

Если (коэффициент освещения [0.971 1]) ТО сила ток кл. БС4 f0.96 0.977] 0,001512 (1.03%) 79

Если (Интегральный флюенс протонов с энергией > 100 МеВ [1.1*10' 1.9*10т]) в (коэффициент освещения БОЛЕЕ 0.936) ТО напряжение БС4 БОЛЕЕ Г0.9 0.936] 0.000574 (0.47%) 75

В правилах таблицы 2 условия (предпосылки) практически одинаковы, за исключением условия об интегральном флюенсе протонов с энергией больше I МеВ. Различие в этом условии дает существенное различие и в прогнозе, что говорит о значительном влиянии интегрального флюенса протонов с энергией больше 1 МеВ на силу тока в солнечной батарее. Другие правила говорят о существенном влиянии коэффициента освещения на силу тока короткого замыкания. Подобный анализ правил дает исследователю представление о деградации электрических характеристик в процессе эксплуатации солнечной батареи, и он самостоятельно может оценить их значение без использования моделей.

Пример полученной нейросетевой модели приведен ниже на рис. 2.

Рисунок 2. Напряжения холостого хода БСЗ

Здесь, R — ресурс, PI, PIO — интегральный флюенс протонов с энергиями более 1 и 10 МеВ соответственно. Sigm - сигмоидная функция активации нейрона. Из рисунка 2 видно, что для прогнозирования напряжения необходимо три входа из 7. Выявление входов, достаточных для прогнозирования выхода - одно из преимуществ предложенного подхода.

- Результаты решения задачи переданы специалистам НПО прикладной механики (г. Железногорск Красноярского края) в составе научно-технического отчета по государственному контрактуй 02.438.11.7043.

Построение модели электростанции на топливных элементах (ТЭС).

В высшей технической школе города Ульм (Fachhochschule Ulm, Германия) на основе физико-химической теории процессов ТЭС в системе Matlab-Simulink была построена математическая модель, связывающая эффективность работы ТЭС (выход) и входных параметров (расход воздуха в топливном элементе, расход воды на реформере газа, расход природного газа, температура в реформере, давление в топливном элементе, температура воды в топливном элементе, температура высокотемпературного ре-

актора, температура низкотемпературного реактора, давление газа в ре-формере, отношение количества воздуха подводимого до/после блока, расход воды в увлажнителе, расход воды в увлажнителе). Недостатком данной модели являются большие временные затраты (около 20 мин.) для однократного вычисления выхода по введенным входам.

Для ускорения процедуры работы необходимо на основе полученных с имеющейся в РНи модели данных построить модель, связывающую производительность ГЭС и указанные параметры системы и требующую меньших временных затрат при сопоставимой точности вычислений. Исходная выборка, содержащая 605 измерений, была разбита случайным образом на обучающую (517 измерений) и тестовую (88 измерений). Ранее для данной задачи методом генетического программирования была построена также символьная модель (Сопов Е.А,, СибГАУ, 2004). Данный результат, а также результат моделирования предложенным подходом представлены в таблице 3,

Таблица 3. Результат моделирования выхода ТЭС

НС на НС на НСУ на НСУ на Символьная Сим-

обучаю- тестовой обучаю- тестовой модель иа вольная

щей вы- выборке щей вы- выборке обучающей модель

борке борке выборке на тесто-

вой вы-

борке

Ошибка 0.1326 0.4081 0.1560 0.5093 0.1481 0.6821

(0.64%) (1.99%) (0.76%) (2.48%) (0.72%) (Э.33%)

Из таблицы 3 видно, что на обучающей выборке лучше всего обучилась НС, хуже результат у символьной модели, и еще хуже у НСУ. На тестовой выборке лучший прогноз дает нейросетевая модель, хуже НСУ, и хуже вссх тестовую выборку аппроксимирует символьная модель. Таким образом, для исследования эффективности ТЭС на топливных элементах лучше использовать нейросетевуго модель. Однако для анализа влияния параметров ТЭС иа эффективность необходимо использовать НСУ.

Таблица 4. Пример полученных правил

Правило Ошибка правила Кол-во срабатываний

Если (расход воздуха в тошшвном элементе [0,085 0.17]) я (отношение количества воздуха подводимого до/после блока МЕНЕЕ 0.39) ТО эффективность БОЛЕЕ 5 0.1882 (0.81%) 272

Если (расход воздуха в топливном элементе БОЛЕЕ 0,085) и (температура в реформере БОЛЕЕ 1198) (отношение количества воздуха подводимого до/иосле блока БОЛЕЕ 0.39) ТО эффективность БОЛЕЕ 5 0.2701 (1.17%) 188

Результаты решения данной задачи, а также полученные правила переданы сотрудникам РНи (г. Ульм) и получили их высокую оценку.

Задача диагностики послеоперационной когнитивной дисфункции. Одной из актуальных проблем в неврологии является проблема поврежде-

ния центральной нервной системы (ЦНС) после оперативных вмешательств вследствие отрицательного влияния анестезии. Повреждения могут быть различными: психотические реакции, делирий, судорожный синдром, постоперационная когнитивная дисфункция, нарушение цикла «сон-бодрствование», координаторных нарушений, инсульта и Д.р.

Состояние пациента описывается следующими показателями: пол; образование; возраст; длительность анестезии; вид анестезии; тест «интеллектуальная лабильность»; «таблица Крепелина»; тест «таблицы Шульте»; компьютерная электроэнцефалография (КЭЭГ); коэффициент «альфа /тета»; значение доминирующих частот в полосе альфа и тета ритмов (ЗДЧ «альфа/тета»); значение средних частот в полосе альфа и тета ритмов (ЗСЧ «альфа/тета»).

Пациент проходит обследование за 1-2 дня до операции и в послеоперационный период (на 9-10 день после операции). Большая разница в показаниях тестов до операции и после операции говорит об ухудшении состоянии больного и нарушениях ЦНС. На основании полученных данных необходимо построить модель, прогнозирующую разницу в показаниях тестов.

Решение задачи с помощью разработанной процедуры интеллектуального анализа данных дало достаточно хорошие результаты.

Таблица 5. Примеры результатов решения задачи прогнозирования _показателей послеоперационной когнитивной дисфункции

Тест Ошибка НС. обучающая выборка Ошибка НС, тестовая выборка Ошибка НСУ. обучающая выборка Ошибка НСУ. тестовая выборка

интеллектуальная лабильность 0.0527 (0.47%) 0.1934 (1.75%) 0.0927 (0.83%) ' 0.1710 (1,5%)

Таблицы Шульте 4.73 (0.23%) 34.71 (1.73%) 10.86 (0.52%) 20.41 (0.99%)

Компьютерная электроэнцефалография 0.030 (1%) 0.13(4.3%) 0.034 (1.3%) 0.12 (4%)

ЗДЧ «альфа/тета» 0.01398 (0.34%) 0.057(1.43%) 0.02870 (0.70%) 0.1027 (2,5%)

ЗСЧ «альфа/тета» 0.01378 (0.43%) 0.09116 (2.85%) 0.03696 (1.15%) 0.0669 (2.08%)

Из таблицы 5 видно, что в 5 случаях из 7 НС на обучающей выборке показывает лучше результат, чем НСУ, но на тестовой выборке результаты обратные. Однако, в случае прогнозирования коэффициента «альфа/тета», и ЗДЧ «альфа/тета», НС показывает ошибку меньше чем НСУ как на обучающей выборке, так и на тестовой. В этом случае для решения задачи прогнозирования лучше использовать НС, а для выявления знаний НСУ. В таблице б приведены правила, частота использования которых при прогнозировании полученными НСУ наибольшая.

Таблица 6. Примеры полученных правил

Правило Ошиб ка правила Кол-во срабатыа аний

Если (применялся «Танакан») н (тест по табл. «Шульте» БОЛЕЕ 1425 сек) в (КЭЭГ=0) ТО после операции КЭЭГ-0 0.114 (3.8%) 35

Если (применялся «Танакан») в (КЭЭГ=1) ТО лосле операции КЭЭГ-1 0.045 (1.5%) 44

Если (интеллектуальная лабильность БОЛЕЕ 4 итер)и (и выполнение теста Шульте БОЛЕЕ 1425 сек.) ТО разница альфа/тета: [0.006 0.045] 0.0029 (1.45 %) 92

Для сбора данных о явлении послеоперационной когнитивной дисфункции и автоматизации их последующего анализа была разработана специальная программная система поддержки принятия решений для практикующих медиков. С помощью этой программ обычный врач (терапевт, хирург) может провести специализированное тестирование и получить прогноз развития заболевания, а затем принять решение по его предотвращению. Данная программная система прошла тестирование в Институте постдипломного образования Красноярской государстветюй медицинской академии, а затем была передана для использования в клинических исследованиях, о чем имеется акт о передаче и использовании. Кроме того, система получила государственную регистрацию в отраслевом фоцде алгоритмов и программ.

Прогнозирование диагноза при ультразвуковом исследовании почек. Пациент описывается следующими параметрами: возраст, пол, правая или левая почка, длина почки, ширина почки, толщина почки, толщина паренхимы, средняя скорость кровотока, индекс резистентности, ускорение артериального потока в систолу. Диагноз может быть следующим: «здоровая почка», «множественные кисты» и «гидронефроз». В выборке содержатся данные о 74 пациентах.

Для данной задачи ошибка на тестовых выборках составила 21% для обеих моделей. Относительная неточность диагностирования объясняется небольшим числом примеров в выборке. Однако большинство полученных правил срабатывает безошибочно. Ошибку допускает только одно правило, но это единственное правило, прогнозирующее «гидронефроз». Специалистами-медиками полученные результаты признаны успешными, поэтому они были переданы им вместе с программными системами для дальнейшего использования.

Итак, предложенный подход успешно прошел апробацию на достаточно большом числе разнообразных практических задач, что подтверждает его полезность для теории и практики разработки информационных технологий интеллектуального апализа данных.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ И ВЫВОДЫ

В диссертационной работе получены следующие результаты:

1. Разработан алгоритм генетического программирования, позволяющий автоматически формировать нейронные сети (подбирать структуру, активационные функции нейронов, настраивать коэффициенты).

2. Разработан алгоритм генетического программирования, автоматически формирующий базу правил для систем на нечеткой логике.

3. Разработан гибридный эволюционный алгоритм, автоматически настраивающий семантику лингвистических переменных для систем на нечеткой логике.

4. Разработана интегральная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы и нейронные сети, позволяющая комплексно решать задачу интеллектуального анализа данных при моделировании сложных систем.

5. Разработаны, апробированы и внедрены две программные системы, реализующие предложенные алгоритмы.

6. С помощью разработанных программных систем решен целый комплекс реальных практических задач моделирования технических систем и медицинской диагностики.

7. Разработана специальная система поддержки принятия решений врача при тестировании, диагностировании и назначении лечения послеоперационной когнитивной дисфункции, использующая разработанный подход к автоматическому проектированию интеллектуальных информационных технологий.

Таким образом, в данной работе предложено решение задачи автоматизации проектирования интеллектуальных информационных технологий, что имеет существенное значение для теории и практики интеллектуального анализа данных.

Публикации по теме работы

1*. Липинский Л.В. О коэволюционном генетическом алгоритме автоматизированного проектирования системы управления не нечеткой логике / Л.В. Яигошский, В.А. Малько, Е.С, Семегасин // Автоматизация и современные технологии. - № 11. — 2006. — С. 17-24.

2*. Липинский Л.В. Применение алгоритма генетического программирования в задачах автоматизации проектирования интеллектуальных информационных технологий / Л.В. Липинский, Е.С. Семенкин // Вестник Сибирского государственного аэрокосмического университета им. ак. М.Ф. Решетнева. - Вып. 3 (10). - 2006. - С. 22-26.

3*. Липинский Л.В. Подхода к формированию базы правил для нечетких систем управления / Л. В. Липинский, В .А. Малько // Вестник Сибирского государственного аэрокосмического университета им. ак. М.Ф. Решетнева. - Вып. 5. - 2004. - С. 83-91.

1 4. Липинский Л.В. Автоматизация нейросетевого моделирования лрфесса деградации солнечных батарей космического аппарата / Л.В. Ли-пифкий // Вестник университетского комплекса. - Вып. 7(21). - 2006. - С. 20Ж11.

I 5. Липинский Л.В. О формировании структуры нейронной сети метод») генетического программирования. / Л.В. Липинский II Актуальные пройпемы экономики, права и информационных технологий. Сб. иаучн. статей. - Ч. 2. - Красноярск: КФ МЭСИ, 2005. - с. 83-87.

К, Липинский Л.В. Программная система автоматического генерирован« базы знаний нечеткого контроллера. / Л.В. Липинский, В.А. Малько, Е. С. «Семенкин // Вестник КемГУ. Журнал теоретических и прикладных исследований. - Выпуск 1 (17). - Кемерово: КемГУ, 2004. - с.34-40.

I. Липинский ЛЗ. Об автоматическом формировании нечеткого логического контроллера. / Л.В. Липинский, В.А. Малько // Межвуз. сб. науч|тр. «Информатика и информационные технологии». - Красноярск:

ипшсгту, 2004.

18. Липинский Л.В. Программная система автоматического проекти-ровафгя нечеткого контроллера для задачи управления перевернутым ма-ятнифм. / Л.В. Липинский, В А. Малько // Вестник университетского комплект. - Вып. 1 (15). - 2004. - С, 211-218.

Ь. Липинский Л.В. Программная система автоматического формжювания нечеткого логического контролера / Л.В. Липинский, В.А. Мальш // Инновации в науке и образовании. - № 9 (10). - 2005. - С. 13.

10. Липинский Л.В. Интеллектуальные технологии автоматизации проектирования системы управления не нечеткой логике / Л.В. Липинский, В.А. Малько, Е.С. Семенкин Н Инновации в науке и образовании. - № 3 (14). —Е006. — С. 16.

1в Липинский Л.В. Автоматизация проектирования интеллектуальных ифюрмационных технологий методом генетического программирования / ЖВ. Липинский, Е. С. Семенкин // Труды X Национальной конфе-ренцишпо искусственному интеллекту с международным участием. — Том 3. -М.1ФИЗМАТЛИТ, 2006. - С. 1022-1030.

11. Липинский Л.В. Структурная адаптация нейронной сети методом генетифского программирования. / Л.В. Липинский, Е.С. Семенкин // Сб. тр. II тфждунар. науч.-практ. конф, «Исследование, разработка и применение выфких технологий в промышленности» - СПб.: Изд-во Политехи, унта, 200« - С. 39-40.

13.|Липинский Л.В. Проектирование интеллектуальных информационных фхнологий методом генетического программирования. / Л.В. Ли-пинским// Молодежь и наука — третье тысячелетие: Сб. материалов Всероссийской научной молодых ученых. - Т.П. — Красноярск: КРО НС «Интеграции, 2006. - С. 378-385.

14. Липинский Л.В. Алгоритм определения причины падения напряжения в топливных элементах / Л.В. Липинский, Г.-Ю. Ян // Молодежь Сибири — науке России. Сб. тр. науч.-практ. конф. Часть II. — Красноярск: СИБУП, 2005. — С. 384—389.

15. Лишнский Л.В. Использование метода масок для формирования базы правил нечеткой системы управления. / Л.В. Липинский, В.А. Малько // Мат. VIII Междунар. науч.-практ. конф. -Тамбов: ТГУ, 2004. - С. 107-108.

16. Липинский Л.В. Применение коэволгоционного алгоритма для настройки параметров нечеткой системы управления. / Л.В. Липинский, В.А, Малько // Тр. 5-й Междунар. конф. молодых ученых. - Самара: СамГТУ, 2004. - С. 95-98.

17. Липинский Л.В. Разработка программной системы автоматизации проектирования нечеткого контроллера. / Л.В. Липинский, В.А. Малько // Сб, науч. тр. Межрег. науч. фестиваля «Молодежь и наука - третье тысячелетие», Красноярск: СИБУП, 2004.

18. Липинский Л.В. Подходы к формированию базы правил для нечетких систем управления. / Л.В. Липинский, В.А. Малько // Тез. докл. 42-й науч.-практ. конф, молодых ученых, посвященной Всемирному дню авнации н космонавтики. — Красноярск: СибГАУ, 2004.

19. Липинский Л.В. Об автоматическом формировании базы правил для нечетких систем. / Л.В. Липинский, В.А. Малько // Мат. тр. Всерос. науч. конф. молодых ученых. - Часть I.-Новосибирск: Изд-во НГТУ, 2003. С.198-199.

20. Липинский Л.В., Семенкин Е.С., Шнайдер Н.А. Система поддержки принятия решений при комплексной диагностике послеоперационной когнитивной дисфункции. -М.: В ПТИЦ, 2006. - Код ЕСПД.03524577.01695-01.

21. Липинский Л.В., Семенкин Е.С, Система эволюционного формирования интеллектуальных систем на нечеткой логике. — М.: ВНТИЦ, 2006. - Код ЕСПД .03524577.01718-01.

22. Липинский Л.В., Семенкин Е.С. Система эволюционного формирования нейросетевых моделей сложных систем. - М.: ВНТИЦ, 2006. - Код ЕСПД .03524577.01719-01.

Липинский Леонид Витальевич Алгоритмы генетического программирования для формирования интеллектуальных информационных технологий Автореферат

Подписано к печати 20.11.2006. Формат 60x84/16

Уч. изд. Л. 1.0 Тираж 100 экз. Заказ № -0Z?

Отпечатано в отделе копировальной и множительной техники СибГАУ. 660014, г. Красноярск, пр. им. газ. «Красноярский рабочий», 31

Введение.

Глава 1. Нейросетевые технологии.

1.1. Нейросетевые технологии и методы работы с ними.

1.2. Генетический алгоритм.

1.3. Метод генетического программирования.

1.4. Автоматическое формирование нейронной сети.

1.5. Проверка работоспособности на тестовых задачах.

Выводы.

Глава 2. Интеллектуальные системы на нечеткой логике.

2.1. Нечеткая логика и системы на нечеткой логике.

2.2. Автоматизированное формирование базы нечетких правил.

2.3. Настройка семантики лингвистических переменных.

2.4. Тестовая задача построения нечеткого контроллера.

2.5. Формирование базы правил методом генетического программирования.

2.6. Проверка работоспособности на тестовых задачах.

Выводы.

Глава 3. Практическая реализация.

3.1. Комплексная процедура использования эволюционных алгоритмов, автоматически формирующих нечеткие системы управления и нейронные сети.

3.2. Программная система, автоматически генерирующая нейросетевые модели.

3.3. Программная система, автоматически генерирующая нечеткие логические системы.

3.4. Практическая реализация.

Выводы.

Интеллектуальные информационные технологии (ИИТ) широко и успешно используются для решения различных практических задач. В принципе, можно уже говорить о массовом характере их внедрения. Однако в большинстве конкретных случаев реализация ИИТ является, как правило, трудоемким процессом, требующим больших временных затрат и материальных вложений. Каждый раз исследователь, решивший использовать для решения той или иной задачи технологии искусственных нейронных сетей, сталкивается с вопросом об архитектуре нейронной сети. В отличие от настройки весовых коэффициентов, данный вопрос не так широко освещен в литературе. В большинстве случаев основной метод подбора структуры - метод проб и ошибок, который не может гарантировать оптимального решения. Недостаточная сложность архитектуры нейронной сети ведет к недопустимой ошибке и лишает сеть свойства обобщения. Избыточная сложность архитектуры ведет к увеличению скорости срабатывания и аппроксимации шума, что также лишает сеть свойства обобщения. Все это приводит к необходимости создания эффективного метода автоматизированного формирования нейронных сетей, который мог бы повысить обоснованность и снизить трудоемкость нейросетевого моделирования сложных систем.

Проектирование ИИТ другого типа - систем на нечеткой логике -тоже является сложным творческим процессом, требующим значительных затрат, что существенно сужает круг пользователей и разработчиков, которые могут себе это позволить. Инженеру по знаниям необходимо извлечь знания из эксперта, представить их в виде формальной модели, состоящей из двух основных частей: базы нечетких правил и набора лингвистических переменных. Большинство методик извлечения знаний являются слабо формализованными, что существенно сказывается на стоимости и времени разработки. Одной из основных проблем существующих на этапе извлечения является наличие так называемых «скрытых» знаний эксперта, т.е. тех знаний, которыми эксперт пользуется не осознанно. Инженеру по знаниям необходимо выявить такие знания и формализовать их в виде некоторой модели. В свою очередь, эксперт должен предоставлять свои знания с учетом особенностей используемых информационных технологий. Таким образом, взаимодействие инженера по знаниям и эксперта превращается во взаимное обучение, на которое и уходит основное время разработки системы. Однако во многих случаях, когда имеются готовые базы данных предметной области, можно было бы избежать значительных временных затрат на разработку рабочих прототипов систем на нечеткой логике.

В этой связи для действительно массового использования ИИТ при решении практических задач разработка алгоритмического обеспечения для автоматизации моделирования сложных систем интеллектуальными информационными технологиями является актуальной научной проблемой.

Целью данной диссертационной работы является повышение эффективности и обоснованности принятия решений при автоматизированном формировании интеллектуальных информационных технологий.

Для достижения поставленной цели необходимо решить следующие задачи:

1. Проанализировать методы формирования интеллектуальных информационных технологий. Выявить их достоинства и недостатки.

2. Разработать подход, позволяющий автоматически проектировать нейронные сети (подбор структуры, активационных функций, весовых коэффициентов).

3. Разработать подход, автоматически проектирующий базу правил систем на нечеткой логике.

4. Разработать подход, автоматически настраивающий семантику лингвистических переменных в системах на нечеткой логике.

5. Выполнить программную реализацию разработанных методов и проверить их работоспособность на тестовых задачах.

6. Разработать процедуру совместного использования обоих подходов в рамках решения конкретной практической задачи.

7. Проверить работоспособность разработанных подходов и программных систем на реальных практических задачах.

Методы исследования. Результаты проведенных и представленных в данной работе исследований получены с использованием методов системного анализа, теории информации, теории оптимизации, нейросетевого моделирования, теории нечетких множеств и нечеткой логики.

Научная новизна работы состоит в следующем:

1. Разработан новый эволюционный алгоритм, автоматически формирующий нейросетевые модели и отличающийся от известных универсальностью подхода к выбору структур нейронных сетей.

2. Разработан новый эволюционный алгоритм, автоматически формирующий нечеткие системы управления и отличающийся комплексностью подхода, позволяющего формировать базы правил и лингвистические переменные одновременно.

3. Разработана интегрированная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы управления и нейронные сети, позволяющая осуществлять комплексное моделирование сложных систем интеллектуальными информационными технологиями.

Практическая ценность. Разработаны формальные методики, позволяющие автоматически проектировать интеллектуальные информационные технологии. Разработанные программные системы позволяют пользователю, не обладающему профессиональными знаниями в области ИИТ и эволюционного моделирования, получать решения для конкретных практических задач. Решены реальные практические задачи из области техники и медицины. Программные системы, разработанные в ходе выполнения работы, используются в качестве лабораторных установок для обучения студентов Сибирского государственного аэрокосмического университета по дисциплинам «Интеллектуальные технологии и принятие решения» и «Интеллектуальный анализ данных», студентов Красноярского государственного университета по дисциплинам «Эволюционные алгоритмы моделирования и оптимизации» и «Интеллектуальные технологии анализа данных».

Работа выполнена в рамках ФЦНТП «Исследования и разработки по приоритетным направлениям развития науки и техники на 2002-2006 годы» по теме 2006-РИ-16.0/001/076 (государственный контракт № 02.438.11.7043) и 2006-РИ-19.0/001/377 (государственный контракт № 02.442.11.7337), в рамках НИР 4422 «Разработка и исследование эффективности гибридных методов оптимизации алгоритмически заданных функций дискретных переменных», выполняемой по ведомственной научной программе «Развитие научного потенциала высшей школы», а также по темплану СибГАУ «Бионические методы идентификации и оптимизации сложных систем» (№ Б 1.1.05).

Реализация результатов работы. Разработанные программные системы эволюционного формирования нейросетевых моделей сложных систем и эволюционного формирования интеллектуальных систем на нечеткой логике, а также программная система поддержки принятия решений при комплексной диагностике послеоперационной когнитивной дисфункции зарегистрированы в отраслевом фонде алгоритмов и программ, что делает их доступными для широкого круга пользователей. Первые две программные системы использованы при решении реальных технических задач прогнозирования деградации солнечных электрических батарей космических аппаратов (результаты решения задачи переданы НПО прикладной механики (г. Железногорск) в составе отчета по государственному контракту 02.438.11.7043) и моделирования работы малогабаритной электростанции на водородных топливных элементах (fuel cell). Вторая задача решалась в рамках совместного проекта СибГАУ и Ульмской специальной высшей школы (Fachhochschule Ulm, Германия). Результаты решения получили высокую оценку немецких специалистов, что подтверждено соответствующими документами. Кроме того, все три программы прошли апробацию при решении реальных задач медицинской диагностики и переданы для эксплуатации при проведении клинических исследований Институту последипломного образования ГОУ ВПО «Красноярская государственная медицинская академия» Федерального агентства по здравоохранению и социальному развитию, что подтверждено актом о передаче и использовании.

Апробация. Разрабатываемые подходы и результаты исследований докладывались и обсуждались на следующих конференциях: X Национальная конференция по искусственному интеллекту с международным участием (КИИ-2006); Международная научно-практическая конференция: «Исследование, разработка и применение высоких технологий в промышленности», Санкт-Петербург, 2006г.; Всероссийская научная конференция «Решетневские чтения», Красноярск, 2003-2006; Межрегиональный научный фестиваль «Молодежь и наука - третье тысячелетие», Красноярск, 2004 г; Региональная конференция "Молодежь и наука - третье тысячелетие", Красноярск, 2006; VIII Международная научно-практическая конференция, Тамбов 2004; Пятая международная конференция молодых ученых, Самара, 2004; Всероссийская научная конференция молодых ученых «Наука. Технологии. Инновации, Новосибирск», 2003.

Основные защищаемые положения.

1. Разработанный модифицированный эволюционный алгоритм формирования нейросетей позволяет автоматически проектировать нейронные сети и выявлять входы, слабо влияющие на выходы.

2. Разработанный модифицированный эволюционный алгоритм проектирования систем на нечеткой логике позволяет автоматически формировать базы правил таких систем и получать обобщенные правила, понятные конечному пользователю.

3. Разработанная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы управления и нейронные сети, позволяет комплексно решать задачу проектирования интеллектуальных информационных технологий для моделирования сложных систем.

Публикации. По теме диссертационного исследования опубликовано 22 работы, среди которых 8 статей, в том числе три в изданиях из Перечня ВАК.

Структура и объем работы. Работа состоит из введения, трех глав, заключения, списка литературы и приложений. к

ОСНОВНЫЕ РЕЗУЛЬТАТЫ И ВЫВОДЫ

В диссертационной работе получены следующие результаты:

1. Разработан алгоритм генетического программирования, позволяющий автоматически формировать нейронные сети (подбирать структуру, активационные функции нейронов, настраивать коэффициенты).

2. Разработан алгоритм генетического программирования, автоматически формирующий базу правил для систем на нечеткой логике.

3. Разработан гибридный эволюционный алгоритм, автоматически настраивающий семантику лингвистических переменных для систем на нечеткой логике.

4. Разработана интегральная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы и нейронные сети, позволяющая комплексно решать задачу интеллектуального анализа данных при моделировании сложных систем.

5. Разработаны, апробированы и внедрены две программные системы, реализующие предложенные алгоритмы.

6. С помощью разработанных программных систем решен целый комплекс реальных практических задач моделирования технических систем и медицинской диагностики.

7. Разработана специальная система поддержки принятия решений врача при тестировании, диагностировании и назначении лечения послеоперационной когнитивной дисфункции, использующая разработанный подход к автоматическому проектированию интеллектуальных информационных технологий.

Таким образом, в данной работе предложено решение задачи автоматизации проектирования интеллектуальных информационных технологий, что имеет существенное значение для теории и практики интеллектуального анализа данных.

Заключение

1. Абидова С.С. Влияние анестезии пропофолом на содержание продуктов перекисного окисления липидов в сыворотке крови / С.С. Абидова, И.В. Овчинников, J1.A. Назырова, Э.А. Иванчина // Анестезиол. и реаниматол. 2003. - № 2. - С. 22 - 24.

2. Абрамченко В.В. Медикаментозная регуляция посленаркозной депрессии сознания при использовании мононаркоза кетамином / В.В. Абрамченко, В.Н. Моисеев, A.J1. Костюченко // Воен. мед. журн. - 1984. -№ 11.-С. 24-26.

3. Акопян A.M. Генетические алгоритмы для решения задачи глобальной оптимизации. URL: http://www.cp.ni i f.spb.su/inpe/4/gaover/gaover.htm

4. Алуха X., Введение теории нечетких множеств в управление предприятием. / X Алуха., А. Кофман // Минск: Высшая школа, 1992 г. 223 с.

5. Архангельский А.Я. Программирование в C++Builder 6. М.: «Издательство БИНОМ», 2003 г. - 1152 е.: ил.

6. Архангельский А.Я. C++Builder 6. Справочное пособие. Книга 1. Язык С++. М.: Бином-Пресс, 2002. - 544 е.: ил.

7. Архангельский А.Я. C++Builder 6. Справочное пособие. Книга 2. Язык С++. М.: Бином-Пресс, 2002. - 544 е.: ил.

8. Асаи К, Прикладные нечеткие системы: Пер. с япон. / К. Асаи, Д. Ватада, С. Иваи // М.: Мир, 1993. 368 е., ил.

9. Батищев Д. И. Генетические алгоритмы решения экстремальных задач / Под ред. Львовича Я.Е.: Учеб. пособие. Воронеж, 1995.

10. Березин Б.И., Березин С.Б. Начальный курс С и С++. М.: ДИАЛОГ-МИФИ, 1996.-288 с.

11. Бурт А.Ю. Молекулярные механизмы наркотического действия общих анестетиков / А.Ю. Бурт // Анестезиол. и реаниматол. 1982. - №4. -С. 71 -77.

12. Васильев B.B. Мониторинг амнестического компонента общей анестезии у детей. Автореф. дисс. .канд. мед. наук / В.В. Васильев -Ростов на - Дону, 2001. - 22 с.

13. Вдовенко В.В. Язык С.: Учеб. Пособие / В.В. Вдовенко; СибГАУ. -Красноярск, 2002. 252 с.

14. Вороновский Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности / Г.К. Вороновский, К.В. Махотило, С.Н. Петрашев, С.А. Сергеев. X.: ОСНОВА, 1997. - 112 с.

15. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. «Питер», 2001. 384 с.

16. Горбань А.Н. Нейронные сети на персональном компьютере / Горбань А.Н., Россиев Д.А. Новосибирск: Наука, 1996. - 276 С.

17. Женило В.М. Центральные механизмы общего обезболивания / В.М. Женило // Тезисы докладов II Российской конференции по изучению боли.-СПб., 1995.-С. 287-288.

18. Заенцев И.В. Нейронные сети: основные модели. Воронеж 1999 г. 76 стр.

19. Исаев С.А. Популярно о генетических алгоритмах. URL: http://saisa.chat.ru/ga/ga-pop.htiril#top

20. Киселев В.В. Обучение в системах нечеткого управления. / Математические структуры и моделирование, вып.6, 2000. с.78-90.

21. Кириллин В.А. Энергетика. Главные проблемы / В.А. Кириллин. -М.: Знание, 1990.-120 с.

22. Короткий С., Нейронные сети: алгоритм обратного распространения. http://www.neurok.ru

23. Короткий С. Нейронные сети: основные положения. http://www.neurok.ru

24. Круглов В.В., Дли М.И., Голунов Р.Ю. Нечеткая логика и искусственные нейронные сети: Учеб. Пособие. М.Издательство Физико-математической литературы, 2001 г - 224с.

25. Кьоу Дж., Джеанини М. Объектно-ориентированное программирование: Учебный курс. Издательство: Питер, 2005-237 с.

26. Леоненков A.B. Нечеткое моделирование в среде MATLAB иfuzzy TECH. СПб.: БХВ-Петербург, 2003. - 736 с.:ил.

27. Липинский Л.В. Подходы к формированию базы правил для нечетких систем управления. / Л.В. Липинский, В.А. Малько // Вестник Сибирского государственного аэрокосмического университета имени академика М.Ф. Решетнева. Вып. 5. - Красноярск, 2004. - с 83-90.

28. Липинский Л.В., Малько В.А., Семенкин Е.С. Интеллектуальные технологии автоматизации проектирования системы управления на нечеткой логике. М.: ВНТИУ, 2006. - №ЕСПД .03524577.01348-01

29. Липинский Л.В., Семенкин Е.С. Система эволюционного t формирования нейросетевых моделей сложных систем. М.: ВНТИЦ,2006. Код ЕСПД .03524577.01719-01.

30. Ляшков В.И., Кузьмин С.Н. Нетрадиционные и возобновляемые источники энергии: Учебное пособие. Тамбов: Изд-во Тамб. гос. техн. ун-та, 2003. - 96 с.

31. Малько В.А. Автоматизация процесса формирования нечеткого логического контроллера. Красноярск: КФ МЭСИ, 2005, - с. 89-94

32. Мейерс Г. Искусство тестирования программ / Пер. с англ. Под ред. Б.А. Позина. М.: Финансы и статистика, 1982 - 176 с.

33. Миркес Е.М. Нейрокомпьютер, проект стандарта. // "Наука". Новосибирск. 1999.337 с.

34. Оссовский С. Нейронные сети для обработки информации. / Пер. с польского И.Д. Рудинского.-М.: Финансы и статистика, 2002.-344 с.

35. Растригин Л.А. Бинаризация задач оптимизации решений в САПР. -В кн.: Моделирование и оптимизация решений в САПР. Таллин, 1983, ч.2.

36. Растригин Jl.А. Случайный поиск. М.: Знание, 1979.

37. Редько В. Прикладное эволюционное моделирование. Генетический алгоритм. Оценка эффективности генетического алгоритма. URL:http://ww\v.keldysh.ru/BioCvber/Lecture 10.html

38. Семенкин Е.С., Семенкина О.Э., Терсков В.А. Методы оптимизации в управлении сложными системами / Учебное пособие. Красноярск: СибЮИ МВД РФ, 2000. - 254 с.

39. Семенкин Е.С. Системы управления на нечеткой логике.

40. Сергеев С.А. Генетические алгоритмы в синтезе прямонаправленных нейронных сетей. / С.А. Сергеев, К.В. Махотило // Труды XIII межд. Конф. «Новые информационные технологии в науке, образовании и бизнесе». Украина, Крым, Ялта Гурзуф, 1996. сс. 338-342

41. Стариков A. BaseGroup Labs. Генетические алгоритмы-математический аппарат. URL: http://www.basegroup.ru/genetic/math.htrn

42. Степанов М.Ф., Степанова Т.В. Планирующие искусственные нейронные сети для решения задач теории автоматического управления // Труды четвертого международного симпозиума «Интеллектуальные системы». Москва. 2000. Сс. 191-193.

43. Теплоэнергетика и теплотехника: Справочник. Кн. 2: Теоретические основы теплотехники. Теп-лофизический эксперимент. М.: МЭИ, 2001. -564 с.

44. Терано Т. Введение в системотехнику вызов нечетким проблемам. -Токио: Керицу сюпан, 1985 г.

45. Турский В. Методология программирования. / Пер. с англ. Под ред. и с предисл. А.П.Ершова. -М.: Мир, 1981.-264 с.

46. Уоссермен Ф. Нейрокомпьютерная техника. / Теория и практика. -М.: Мир, 1984.

47. Уэно X. Введение в инженерию знаний. Токио: Омск, 1985 г

48. Ф.И. Перегудов, Ф.П. Тарасенко. Введение в системный анализ. М. Высшая школа., 1989. 367 с.

49. Хант Э. Искусственный интеллект. М.: Мир, 1978. - 558с.

50. Холингвэрт, Джарод, Баттерфилд, Ден, Сворт, Боб и др. С++ Builder 5. Руководство разработчика, том 1. Основы: Пер. с англ.: Уч. Пос. М.: Издательский дом «Вильяме», 2001. - 880 е.: ил.

51. Шамис В.А. С++ Builder 5. Техника визуального программирования. -М.: «Нолидж», 1998.-512 с.

52. Шилдт Г. Теория и практика С++. СПб: BHV - Санкт-Петербург, 1996.-416.

53. Шитиков И.И. Практические шаги в решении проблемы безопасности больного во время анестезиологического пособия / И.И. Шитиков // Анестезиол. и реаниматол. 1995. - № 2. - С. 70 - 80.

54. Шнайдер H.A., Салмина А.Б. Неврологические осложнения общей анестезии. Красноярск: Изд-во КрасГМА, 2004. - 383 с.

55. Шнайдер H.A., Шпрах В.В, Салмина А.Б. Постоперационнаякогнитивная дисфункция (диагностика, профилактика, лечение). -Красноярск: ООО «Новые компьютерные технологии», 2005. 95 с.

56. Яноши JI. Теория и практика обработки результатов измерений. -М.: Мир, 1968.-462 с.

57. Adewuya, A. A. New methods in genetic search with real-valued chromosomes. Master's thesis. Massachusetts Institute of Technology, Cambridge. 1996.

58. Aleksandr I. Morton H. An Introduction to Neural Computing London, U.K.: Chapman & Hall, 1990

59. Anderson D., McNeill G. Artificial neural networks technology. DACS report 1992 87 p.

60. Banzhaf W., Francone F. D., Nordin P. «The Effect of Extensive Use of the Mutation Operator on Generalization in Genetic Programming» Department of Computer Science, Dortmund University, Germany

61. Bartlett, P. and Downs, T. Training a neural network with a genetic algorithm. Technical Report, Dept. of Electrical Engineering., University of Queensland. 1990.

62. Booker, L. Improving search in genetic algorithms. In L. Genetic lgorithms and Simulated Annealing. London: Pitman, 1987. p. 61-73.

63. Chen D., Jain C. A robust back propagation learning algorithms for function approximation // IEEE Trans. Neural Networks, 1994. Vol.5. - Pp 467-479.

64. De Jong K. A. Genetic Algorithms: A 10 Year Perspective //In: Procs of the First Int. Conf. on Genetic Algorithms, 1985. —pp.167—177.

65. F. D. Sisler, 'Biochemical Fuel Cells', in "Progress in Industrial Microbiology", D. J. D. Hockenhull (Ed), J. & A. Churchill, London, Vol. 9, pp. 1-11 (1971)

66. Freeman J., Skapura D. Neural Networks. Algorithms, Applications, and Programming Techniques. Houston. University of Houston at Clear Lake. Addison-Wesley Publishing Company. 1991, Pp. 89-125.

67. F. Specht, Polynomial Neural Networks, Neural Networks, Vol.3. No. 1 pp. 1990. pp. 109-118.

68. Girosi F., Jones M., Poggio T. Regularization theory and neural network architecture // Neural Computation, 1995. Vol. 7. - Pp 219-270

69. Goldberg, D. E., A comparative analysis of selection schemes used in genetic algorithms. / D. E. Goldberg, Deb K.// In Foundations of Genetic Algorithms. San Mateo, CA:Morgan Kaufmann, 1991. pp. 69-93.

70. Goldberg D.E. Genetic algorithms in search, optimization and machine learning. / Reading, MA: Addison-Wesley, 1989.

71. Haupt R.L., Haupt S.E. Practical Genetic Algorithms / R.L. Haupt, S.E Haupt // 2ed., Wiley, 2004. 261s

72. Hopfield J. Tank D. Neural computations of decisions in optimization problems // Biological Cybernetics, 1985. Vol. 52. - Ppl41-152.76. http://www.genetic-programming.com

73. Janikow, C. Z. Genetic algorithms simulating nature's methods of• evolving the best design solution. / C. Z. Janikow, D. St. Clair // IEEE Potentials 14 1995 pp. 31-35.

74. J. Park and I. W. Sandberg, Approximation and Radial-Basis-Function Networks, Neural Computation, Vol 5. No. 2. 1993. pp. 305-316.

75. K. S. Narendra and K. Pathasarathy, Identification and Control of Dynamical Systems Using Neural Networks, IEEE Trans. Neural Networks, Vol. 1. 1990. pp.

76. Koza John R. «Genetic programming tutorial» URL: http.V/www.genetic-programming.com/gpaniinatedtutorial.html

77. Koza John R. «Genetic Programming: On Programming Computer by Means of Natural Selection and Genetics» Cambridge, MA: The MIT Press, 1992

78. Koza John R. «The Genetic Programming Paradigm: Genetically Breeding Populations of Computer Programs to Solve Problems» Cambridge, MA: MIT Press, 1992

79. Koza J.R. Genetic programming. The MIT Press Cambridge, Massachusetts London, England, 1998. 609s

80. Koza John R. «Hierarchical genetic algorithms operating on populations of computer programs» Proceedings of the 11th International Joint Conference on Artificial Intelligence. San Mateo: Morgan Kaufman, 1989

81. Lex P. and Jonshagen B. (1999) "The zinc/bromine battery system for utility and remote area applications", Power Engineering Journal, 13(3), 142— 148.

82. M. H. Hassoun, Fundamentals of Artificial Neural Networks, MIT Press, Cambridge, MA. 1995.

83. Poli Riccardo «Exact Schema Theory for Genetic Programming and Variable-Length Genetic Algorithms with One-Point Crossover». Genetic Programming and Evolvable Machines, 2, 2001.

84. Price A., Bartley S., Male S., and Cooley G. (1999) "A novel approach to utility scale energy storage", Power Engineering Journal, 13(3), 122-129.

85. Takagi T., Sugeno M. Fuzzy identification of system and its application to modeling and control // IEEE Trans. SMC, 1985. Pp. 116-132.

86. Verbruggen H.B., Babuska R. Constructing fuzzy models by product space clustering // Fuzzy model identification / Eds. H. Helendorm, D. Driankov. Berlin: Springer, 1998. Pp 53-90

87. Wright,A. Genetic algorithms for real parameter optimization. Foundations of Genetic Algorithms. San Mateo, CA: Morgan Kaufmann, 1991. pp. 205-218.

88. Yuceer C., Oflazer K. A rotation, scaling and translation invariant pattern classification system // Pattern Recognition., 1993. Vol. 26. Pp 687-710

89. Zadeh L.A. Fuzzy sets // Information and control, 1965. Pp 338-353