автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Программный комплекс синтеза нейро-нечетких моделей технологических процессов

кандидата технических наук
Михайлюк, Павел Петрович
город
Санкт-Петербург
год
2007
специальность ВАК РФ
05.13.18
цена
450 рублей
Диссертация по информатике, вычислительной технике и управлению на тему «Программный комплекс синтеза нейро-нечетких моделей технологических процессов»

Автореферат диссертации по теме "Программный комплекс синтеза нейро-нечетких моделей технологических процессов"

На правах рукописи

МИХЛЙЛЮК ПАВЕЛ ПЕТРОВИЧ

!

ПРОГРАММНЫЙ КОМПЛЕКС СИНТЕЗА НЕЙРО-НЕЧЕТКИХ МОДЕЛЕЙ ТЕХНОЛОГИЧЕСКИХ ПРОЦЕССОВ

Специальность 05 13 18 - Математическое моделирование, численные

методы и комплексы программ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата технических наук

ии^07 14ЭЭ

Санкт-Петербург - 2007

003071499

Работа выполнена в Государственном образовательном учреждении высшего профессионального образования «Санкт-Петербургский государственный технологический институт (технический университет)»

Научный руководитель - кандидат технических наук, доцент

Гиляров Владимир Николаевич

Официальные оппоненты- доктор технических наук, профессор

Константинов Игорь Сергеевич, кандидат технических наук, доцент Немцов Леонид Борисович

Ведущая организация - ОАО Научно-производственная фирма «Меридиан»

Защита диссертации состоится 13 0Сгт г в часов на заседании диссертационного совета Д 212 230 03 при Санкт-Петербургском государственном технологическом институте (техническом университете) по адресу 190013, Санкт-Петербург, Московский пр , 26 (ауд 61)

С диссертацией можно ознакомиться в библиотеке института

Отзывы на автореферат, заверенные печатью, просим направлять по адресу 190013, СПб, Московский пр, 26, СПбГТИ(ТУ), Ученый Совет

Автореферат разослан 2007 года

Ученый секретарь диссертационного совета, д т н., доцент *' ' А В И Халимон

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы Во многих областях современной промышленности можно увеличить производительность труда инженеров и ученых Переходя на более эффективный принцип разработки с использованием графического отображения данных, однако продолжая использовать открытую среду программирования в программном комплексе «Синтез нейро-нечетких моделей» можно модернизировать средства разработки нейро-нечетких моделей технологических процессов и сократить временные затраты на всех этапах жизненного цикла моделей Сочетание интуитивно понятного графического интерфейса, поддержки широкого набора функций обработки данных и растущего сообщества пользователей, участвующих в развитии программного комплекса «Синтез нейро-нечетких моделей», делает успешным создание принципиально новых приложений в различных отраслях науки.

При создании математических моделей промышленных процессов часто приходится сталкиваться с элементами неопределенности в данных Не все неточности описания можно списать на ошибку эксперимента, зачастую неопределенность неустранима, является неотъемлемым свойством процесса Неполная, фрагментарная или противоречивая информация порождает неопределенность. Закономерности в реальных моделях сложны и складываются из огромного числа отдельных фактов и явлений. Поэтому учет неопределенности в математической модели позволяет повысить их эффективность Нейронные сети, как универсальные аппроскиматоры, являются мощным средством математического моделирования В совокупности с нечеткой логикой искусственные

нейронные сети дают дополнительную гибкость и функциональность разрабатываемым моделям

Несмотря на широкое распространение различных методов построения нейро-нечетких сетей, они достаточно редко применяются на практике. Это обусловлено практически полным отсутствием унифицированных конструкторских средств для конкретного пользователя Слабо проработан вопрос первичной обработки данных Для преобразования имеющихся на производстве выборок данных в системы, описанные на формальном языке для нейро-нечеткого моделирования, необходимы большие затраты времени Зачастую эти данные конвертируются человеком, поэтому велика вероятность ошибки Отсюда следует, что вопрос создания универсального программного комплекса для разработки нейро-нечетких моделей задач прогнозирования, классификации, контроля качества очень актуален для современного производства Такой комплекс должен сопровождать весь процесс создания нейро-нечеткой модели, от обработки первичных данных до создания готовых программных решений.

Разработанный программный комплекс «Синтез нейро-нечетких моделей» предназначен для создания нейро-нечетких сетей и генерации исходных кодов обученной нейро-нечеткой сети для компиляции их в программном обеспечении конкретного инженерного решения задачи прогнозирования, классификации, контроля качества и тп Он помогает инженеру знаний пройти весь процесс создания модели от первичной обработки данных, до применения нейро-нечеткой сети на производстве Разработанное программное обеспечение ориентировано на инженера знаний, работающего в тесном сотрудничестве с экспертом предметной области в процессе

построения лингвистических моделей объектов на базе нейро-нечеткой сети

Цель работы

Целью настоящей работы является создание универсального программного комплекса «Синтез нейро-нечетких моделей», позволяющего строить нейро-нечеткие модели для построения задач классификации, прогнозирования, настройки параметров и тестирования созданных нейро-нечетких сетей, используемых при построении моделей для статических технологических процессов типа «черный ящик».

Для практической реализации поставленной цели были решены следующие задачи

• Было проанализировано современное состояние проблемы комплексного решения задачи построения нейро-нечеткой модели статических технологических процессов типа «черный ящик» и выявлена недостаточная проработка данного вопроса в аналогичных зарубежных и отечественных программных продуктах,

• Разработана методика и алгоритмы конструирования нечетких лингвистических переменных Методика учитывает варианты синтеза НЛП при различной априорной информации- от полной невозможности экспертом указать границы и количество термов до самостоятельного конструирования экспертом НЛД,

• Адаптированы алгоритмы создания, настройки, обучения и тестирования нейро-нечетких сетей;

• Осуществлена программная реализация вышеназванных алгоритмов в составе пакета модулей под управлением операционной системы класса Windows,

• Проведены испытания предложенных методик, алгоритмов и программ методом реализации практических задач моделирования с помощью разработанных программных средств для иллюстрации их работоспособности.

Ни один из известных инструментариев не поддерживает в полной мере процесс приобретения экспертных знаний. Существует целый ряд предложенных автором алгоритмических и программных решений, которые оправдывают создание совершенно нового оригинального программного пакета для машинной поддержки диалога с инженером знаний в процессе приобретения знаний

Методы и средства исследований. В ходе выполнения диссертационной работы были использованы методы: теории нечетких множеств, нейронных сетей, элементы теории кластерного анализа, программные и языковые средства современных компьютерных технологий

Научной новизной является:

1. Комплексное решение проблемы поддержки инженера знаний на всем пути построения нейро-нечеткой модели, что позволяет увеличить производительность труда инженеров и ученых и сократить временные затраты на всех этапах жизненного цикла модели,

б

2 Ускорение и автоматизация процесса создания, обучения и тестирования нейро-нечетких моделей статических технологических процессов типа «черный ящик»;

3. Разработка новых алгоритмов и методик (алгоритмы предварительной обработки данных, методики обучения и тестирования нейро-нечеткой сети),

4 Модернизация и адаптация существующих алгоритмов генетический, алгоритм обратного распространения ошибки для обучения сети, методы кластерного анализа, методы предварительной обработки данных (нормировка, автомасштабное преобразование, интервальное масштабное преобразование),

5 Повышение уровня значимости метода искусственных нейронных сетей при использовании априорных знаний о входных и выходных переменных как о нечетких лингвистических переменных

Практическая ценность работы. Реализован универсальный инструментальный программный комплекс для сопровождения инженера знаний, работающего в тесном сотрудничестве с экспертом предметной области, на всем пути создания нейро-нечеткой модели, от обработки и конвертации данных в ББ-язык, до создания программного кода нейро-нечеткой сеги, 1 и юного к встраиванию в программное обеспечение на производстве Созданное программное обеспечения может применяться при создании моделей статических технологических процессов типа «черный ящик», для построения моделей систем управления, диагностики и прогнозирования в условиях неоднозначной и неточной информации за счет использования новой методики построения нейро-нечетких сетей.

Реализация и внедрение результатов работы.

Для иллюстрации работоспособности предлагаемой методики и с помощью описанного программного комплекса успешно решены задачи «Интеллектуальный тренажер оператора установки производства сорбента» (НПП «Полихим» г Сосновый Бор, Ленинградская область), «Советчик оператора бетонно-смесительного узла» (КЖБИ 211 г Сертолово, Ленинградская область) Программный комплекс «Синтез нейро-нечетких моделей» внедрен в учебный процесс кафедры САПРиУ.

Апробация работы. Материалы диссертации докладывались и обсуждались в Бохумском университете (Германия), на международных научных конференциях ММТТ-18, Казань, ММТТ-19, Воронеж.

Публикации По теме диссертационной работы опубликовано 4 работы, в том числе одна статья в журнале ВАК

Структура и объем работы. Диссертация состоит из введения, четырех глав, выводов, списка литературы и четырех приложений Работа изложена на 174 страницах основного текста, содержит 75 рисунков, 8 таблиц, библиографический список включает 77 наименований

СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность диссертационной работы, делается анализ состояния проблемы, и формулируются задачи исследования.

В первой главе проведен сравнительный анализ существующих на зарубежном и отечественном рынках программного обеспечения стандартных программных комплексов для конструирования нечетких систем.

Приведенный в первой главе краткий анализ позволяет сделать вывод о существенных недостатках перечисленных выше систем Для преодоления этого «вакуума» предлагается программный комплекс «Синтез нейро-нечетких моделей» В рамках программного комплекса создается универсальная программная среда с функциями предварительной подготовки данных, построения нейро-нечеткой сети, ее обучение и тестирование. Кроме предоставления разнообразных средств глубокого анализа исходных данных в этой же среде решается вопрос генерации созданной модели в исходный код на языке С++.

В заключительном разделе главы сформулирована развернутая постановка задачи исследований

Во второй главе дана характеристика алгоритмических средств, используемых при разработке алгоритмов используемых в программном обеспечении:

1. Нормировка данных;

2 Интервальное масштабное преобразование;

3 Автомасштабное преобразование;

4. Нейро-нечеткие сети;

5 Методы обучения нейронной сети,

6 Методы кластерного анализа,

7. Методика проверки адекватности модели,

В третьей главе автор исследует алгоритмы и описывает программы для построения нейро-нечеткой сети для моделирования

процессов модификации сорбента в печи и управления процессом производства пористого бетона Также рассматриваются алгоритмы и программы предварительной обработки априорных знаний, используемых для настройки таких моделей

Концепция созданного программного пакета состоит в сопровождении всего процесса создания и эксплуатации модели от обработки исходных данных до работы с созданной моделью Для удобства эксплуагации программный комплекс разделен на три модуля- два модуля обработки данных («Предварительная обработка данных» и «Синтез нечеткой лингвистической переменной») и модуль «Создание нейро-нечеткой сети», для создания, обучения и тестирования нейро- нечеткой сети. Программный пакет «Синтез нейро-нечетких моделей» позволяет строить нейро-нечеткие модели для задач классификации, аппроксимации функций принадлежности, прогнозирования, оптимизации и тестирования созданных моделей

Если разбиение данных на термы не известно, но есть экспериментальный материал «вход-выход», то можно определить количество термов и границы между ними Описанные алгоритмы идентификации нечеткой лингвистической переменной реализованы в модуле «Синтез нечеткой лингвистической переменной» В этом модуле пользователь вручную, опираясь на графический интерфейс, или автоматически, при помощи процедуры кластерного анализа, можно установить границы термов нечеткой лингвистической переменной

В программе реализовано четыре класса функций принадлежности, (Р1-функция, трапеция, треугольник, прямоугольник) После того, как все входные лингвистические переменные были обработаны, модель экспортируется в Бв-язык В дальнейшем этот Бв-файл будет использован в качестве банка знаний

при построении нейро-нечеткой сети в модуле «Создание нейро-нечеткой сети»

В случае, если известно разбиение данных на термы (например, с помощью предыдущего алгоритма), то можно уточнить их параметры Для этого необходимо собрать экспертные данные для каждого терма с целью аппроксимации аналитической функции Причем не имеет значения, принадлежат эти термы входной или выходной нечеткой лингвистической переменной Описанные алгоритмы автоматической предварительной обработки данных реализованы в модуле «Предварительная обработка данных»

Для идентификации нечетких лингвистических переменных используются следующие алгоритмы

1. Нормировка,

2. Интервальное масштабное преобразование,

3. Автомасштабное преобразование,

4 Метод полной аппроксимации

Эти алгоритмы были адаптированы к нечетким данным По-сути, они были написаны на основе описанных в первой главе алгоритмов, но с изменениями для оптимального качества для работы с нечеткими лингвистическими переменными

Интервальное масштабное преобразование чувствительно к присутствию выбросов. При работе с данными выборки эти выбросы могут оказать существенное влияние на результат При этом зачастую они могут отражать физическую сущность явления или являться недостоверными данными Поэтому расчетная формула приобрела следующий вид

Х1кпах Хктт

ХЛ ~ ' Хк пнп

ХЛтдх Хк пнп

Хк тпах — Хк тга

,0<*л <1 ,*л >1

Эта формула обеспечивает автоматическую проверку данных на ошибочность и представляет выборку в необходимом для обработки виде.

Для использования алгоритма автомасштабного преобразования применительно к данным с известной информацией о переменных, как о нечетких лингвистических, он был переработан следующим образом.

х,к :

да .<=1

Таким образом, дисперсия для каждой характеристики данных равной 1/(МР — 1) устраняется

Нормализация и масштабное преобразование отличаются точностью при различных данных Если максимальное значение отличается от единицы более чем на 50%, то нормализация сильно искажает остальные данные Автомасшатбное преобразование подготавливает данные для аппроксимации функциями принадлежности, но не нарушает базиса термов, что может быть важно для понимания физической сущности исследуемой переменной. Метод полной аппроксимации наиболее подходит для сильно искаженных данных, в которых могут быть ложные интервалы или выбросы.

Выбор класса функций для аппроксимации "нечеткости" зависит от предметной области и остается эвристической процедурой

при построении моделей В текущей версии программы реализованы четыре вида функций принадлежности треугольник, трапеция, прямоугольник и Р/-функция

В модуле «Модуль создания нейро-нечеткой сети» реализованы два вида нейро-нечетких сетей с известной априорной информацией в виде правил и без них

Сеть «основанная на правилах» - это пятислойная структура, в которой первый слой выполняет фаззификацию входных переменных, второй - агрегирование значений активации условия, третий -агрегирование М правил вывода и генерацию нормализующего сигнала, четвертый слой выполняет дефаззификацию, а выходной слой осуществляет нормализацию, формируя выходной сигнал у(х) Только первый и третий слои являются параметрическими В первом слое это параметры функции фаззификации, а в третьем слое - веса правил Структура нейро-нечеткой сети с «правилами» изображена на

рисунке 1.

Рисунок 1 - Структура нейро-нечеткой сети с «правилами»

Сеть «не основанная на правилах» - это многослойная прямонаправленная сеть, в которой первый слой выполняет фаззификацию входных переменных, второй - агрегирование

значений активации условия, скрытые слоя содержат настраиваемые веса, за счет которых происходит обучение сети, предпоследний слой выполняет дефаззификацию, а выходной слой осуществляет нормализацию, формируя выходной сигнал у(х) Только первый и скрытые слои являются параметрическими

Структура нейро-нечеткой сети «без правил» изображена на рисунке 2

Рисунок 2 - Структура нейро-нечеткой сети «без правил» Инновация состоит в том, что при использовании обоих типов нейронной сети, можно сделать более качественную модель, более глубокие выводы о взаимосвязи данных с распределенным знанием, чем при использовании одного типа сети

Для проведения тестирования нейро-нечеткой сети предложено два метода, «быстрый», основанный на входной выборке и «точный», основанный на значениях, задаваемых экспертом предметной области Точное тестирование помогает избежать такого явления как «оверфитинг», когда сеть выдает корректные значения только в тех точках, по которым она обучалась Так же пользователь может проверить адекватность созданной модели по критерию Фишера

Генератор исходного кода является дополнительным продуктом, который позволяет легко создавать собственные приложения на базе разработанной нейро-нечеткой системы Эта дополнительная функция создает исходный системный код нейро-нечеткой сети в виде файла на языке С++, который можно отдельно скомпилировать и интегрировать в программу пользователя для свободного распространения

В главе описана серия тестов, подтвердившая работоспособность и эффективность предложенных алгоритмов и методик.

Четвертая глава посвящена описанию разработанных приложений использующих нейро-нечеткие модели, созданные при помощи программного комплекса «Синтез нейро-нечеткой модели»

Для иллюстрации работоспособности созданных нейро-нечетких моделей был разработан программный комплекс для интеллектуального тестирования знаний и обучения специалиста. Для этого были решены следующие задачи

• Разработана система опроса с оптимальным количеством вопросов, касающихся производственного процесса;

• Разработана модель процесса производства сорбента при помощи программного комплекса «Синтез нейро-нечетких моделей»,

• Реализован программный комплекс обучающей системы с тестами, удобный для использования персоналом,

• Разработанное программное обеспечение внедрено на производство

Общим недостатком большинства подобных программных средств является их ориентация на тестирование, а не на обучение

персонала В связи с этим особую актуальность приобретает разработка программного инструментария для обучения персонала не только формальным операциям управления, но и логике происходящего производственного процесса.

На основе сгенерированных модулем «Создание нейро-нечеткой сети» исходных файлов был создан программный продукт «Интеллектуальный тренажер оператора установки производства сорбента». Программа условно разделена на две этапа На первом этапе производится тестирование знаний оператора относительно нештатных ситуаций. После прохождения теста, становится доступным второй этап Здесь пользователь может работать с моделью процесса Ему предлагается на рассмотрение ситуация на производстве в виде значений, снимаемых с датчиков и контрольно-измерительной аппаратуры Он дает прогноз качества получаемого продукта, а затем сравнивает его с рассчитанным значением модели Так тренируется способность оператора предвидеть развитие процесса на уровне хорошего эксперта, что в других условиях достигается только многолетней практикой работы на данном производстве

В «Советчике оператора бетонно-смесительного узла» рассматривается контроль за емкостью смесителя. Этот компонент имеет два параметра для регулирования - уровень и температуру, которые необходимо поддерживать в постоянных диапазонах Оператор, наблюдая за происходящим, вносит в процесс управляющие воздействия для поддержания его на заданном технологическом режиме и при выходе из допустимых диапазонов стремиться вернуть процесс в необходимое состояние Контроль уровня заполнения емкостей регулируется путем запроса на транспортно - сырьевой цех о необходимости подачи сырья для производства. Контроль температуры осуществляется подачей

сигнала на исполнительный механизм клапана пара для подогрева и поддержания температуры компонента в пределах нормы, либо подачей холодной воды для охлаждения Контроль температуры зависит от способности оператора, обслуживающего дозаторы бетоносмесительных установок, в буквальном смысле, «ловить» заданное значение при перемещении стрелки по лимбу указателей Управление температурой в ручном режиме «грубо-точно» связано с частыми срабатываниями релейно-контактной аппаратуры, оно приводит к ее неисправной работе и быстрому износу В этой ситуации говорить о качественном соответствии рецепта пенобетона не приходится Налицо видна нечеткая суть процесса. При этом для приготовления качественного раствора производству необходимы опытные операторы-технологи Потеря такого специалиста может повлиять на продуктивность работы всего цеха

Разработанная модель представляет собой систему, имитирующую принятие решения экспертом, наблюдающим за процессом производства и владеющим в совершенстве накопленными знаниями по процессу На вход модели подаются численные значения с датчиков, измерительных преобразователей и приборов. В результате обработки этих значений формируются выходные сигналы, состоящие в рекомендациях по управлению процессом Данная модель может использоваться как для обучения персонала, так и непосредственно в химическом производстве (данные для обучения модели были взяты на КЖБИ 211 г. Сертолово, Ленинградская область)

Использование на производстве разработанной модели позволяет повысить квалификацию персонала и избежать возможных аварийных ситуаций

ВЫВОДЫ

На основании анализа рынка программных средств разработки нейро-нечетких сетей был выявлен общий недостаток большинства известных программных комплексов - в них отсутствует комплексное решение проблемы построения нейро-нечеткой среды и ее внедрения на практике. Они не учитывают размытость данных, а это в свою очередь очень существенно не только из-за погрешности контрольно-измерительной аппараты, но и из-за наличия нечетких переменных, обусловленных их физической или химической природой Другое слабое место этих систем - отсутствие функций автоматизации предварительной обработки данных для идентификации нечетких лингвистических переменных

1 Для комплексного решения задачи разработки нейро-нечетких сетей от прототипа до законченного приложения предложена и реализована структура из трех взаимосвязанных программных продуктов непосредственно для инженера знаний, работающего с экспертом предметной области,

2 Методы предварительной обработки нечетких лингвистических переменных в аналогичных программных комплексах проработаны слабо, поэтому были разработаны алгоритмы и методики обработки данных в случае, если разбиение данных на термы не известно, но есть экспериментальный материал «вход-выход», и, в случае, если разбиение данных на термы известно Это позволяет проще и быстрее обрабатывать исходные данные;

3 Разработаны методики создания, настройки, обучения и тестирования нейро-нечетких сетей двух типов, с учетом априорной информации и без учета, что позволяет повысить надежность создаваемых нейро-нечетких моделей за счет дублирования сетей и сравнения результатов их работы,

4 Для проведения тестирования нейро-нечеткой сети предложено два метода «быстрый» и «точный», что позволяет ускорить тестирование созданных нейро-нечетких моделей, 5. Для подтверждения работоспособности разработанного программного обеспечения проведена серия тестов, анализ которых показал работоспособность предложенных алгоритмов и методик,

6 С применением предложенных алгоритмов и комплекса программ были созданы и опробованы на производстве практические задачи

• «Интеллектуальный тренажер оператора установки производства сорбента», позволяющий тренировать способность оператора предвидеть развитие процесса на уровне хорошего эксперта,

• «Советчик оператора бетонно-смесительного узла» -обучающая система оператора, позволяющая повысить квалификацию персонала и избежать возможных аварийных ситуаций

Задачи доведены до уровня законченных приложений с развитым графическим интерфейсом и успешно внедрены

\

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

1 Чистякова Т Б , Гольцева Л В , Михайлюк П П, Терешков Е С Программный комплекс «Структурно-параметрический синтез математических моделей гидродинамики» (свидетельство об официальной регистрации программы для ЭВМ) // Оффиц. бюллетень Рос агенства по патентам и товарным знакам «Программы для ЭВМ Базы данных Топологии интегральных микро-схем», 2004 Per № 2003610156

2 Михайлюк П П, Гиляров В Н Программа идентификации нечетких лингвистических переменных // Тез докл., Международная научная конференция "Математические методы в технике и технологиях" (ММТТ-18), Казань Казан ГУ, 2005 С 5-6

3 Михайлюк П П. Универсальная программа хранения, обработки и последующего анализа информации // Тез докл, Международная научная конференция "Математические методы в технике и технологиях" (ММТТ-19), Воронеж Воронеж гос. технол акад , 2006 С 6-7

4 Михайлюк П П Нейро-нечеткое моделирование для автоматизации производства пористого бетона // Информационные технологии моделирования и управления №8(33), 2006. с. 1078-1083

5 Михайлюк П.П Программный комплекс синтеза нейро-нечетких моделей технологических процессов // Системы управления и информационные технологии, 2007, №1.3(27) - С 365-369

25 04 07 г Зак 86-70 РТП ИК «Синтез» Московский пр , 26

Оглавление автор диссертации — кандидата технических наук Михайлюк, Павел Петрович

Введение

1 Аналитический обзор

1.1 Актуальность разработки программного комплекса для синтеза нейро-нечетких моделей для производственных процессов

1.2 Обзор зарубежного и отечественного рынков ПО разработки нейро-нечетких систем моделирования

1.2.1 Обзор возможностей пакета нечеткой логики "fuzzy toolbox" в составе «MATLAB»

1.2.2 Система PolyAnalyst

1.2.3 STATISTICA Neural Networks

1.2.4 Программный пакет «Конструктор нечетких моделей»

1.2.5 Lab VIEW

1.2.6 Анализ рассмотренных программных продуктов

1.3 Постановка задачи исследования

2 Методические основы решения задач

2.1 Предварительная обработка данных

2.1.1 Нормировка данных

2.1.2 Интервальное масштабное преобразование

2.1.3 Автомасштабное преобразование

2.2 Искусственные нейронные сети

2.2.1 Искусственный нейрон

2.2.2 Нейро-нечеткие сети

2.2.2.1 Сеть Такаги-Сугено-Канга

2.2.2.2 Сеть Ванга-Менделя

2.2.2.3 Нечеткие сети с самоорганизацией

2.3 Обучение нейронной сети

2.3.1 Генетический алгоритм

2.3.2 Алгоритмы обратного распространения ошибки

2.4 Кластеризация для идентификации нечетких лингвистических переменных

2.4.1 Применяемые метрики

2.4.2 Методы кластерного анализа

2.5 Проверка адекватности модели

3 Алгоритмы и программы построения нейро-нечетких моделей

3.1 Подготовка входных и выходных данных

3.2 Автоматизация предварительной обработки данных

3.3 Выбор количества нейронов и слоев

3.4 Реализация нейро-нечетких сетей

3.5 Алгоритмы оптимальной настройки параметров искусственной нейронной сети

3.5.1 Реализация генетического алгоритма для обучения сети

3.5.2 Реализация алгоритма обратного распространения ошибки для обучения сети

3.6 Описание программного инструментария (программный комплекс «Синтез нейро-нечеткой модели»)

3.6.1 Модуль «Синтез нечеткой лингвистической переменной»

3.6.2 Модуль «Предварительная обработка данных»

3.6.3 Модуль «Создание нейро-нечеткой сети»

3.7 Тестирование программного комплекса «Синтез нейро-нечеткой модели»

3.7.1 Тестирование программного модуля «Синтез нечеткой лингвистической переменной»

3.7.2 Тестирование программного модуля «Предварительная обработка данных»

3.7.3 Тестирование программного модуля «Создание нейро-нечеткой сети»

4 Использование программного комплекса «Синтез нейро-нечеткой модели»

4.1 Постановка задачи для создания программного комплекса интеллектуального тестирования знаний и обучения специалиста

4.2 Описание процесса модификации сорбента

4.3 Нечеткая продукционная модель процесса модификации сорбента

4.4 Разработка нейро-нечеткой сети при помощи программного комплекса «Синтез нейро-нечеткой модели»

4.4.1 Подготовка данных при помощи модуля Синтез нечеткой лингвистической переменной»

4.4.2 Разработка нейро-нечеткой сети при помощи модуля «Создание нейро-нечеткой сети»

4.5 Разработка программного продукта «Интеллектуальный тренажер оператора установки производства сорбента» на основе разработанной нейро-нечеткой модели

4.6 Постановка задачи для создания советчика оператора бетонно-смесительного узла

4.7 Описание технологии изготовления пенобетона

4.8 Нечеткая продукционная модель управления процессом производства пенобетона

4.9 Разработка нейро-нечеткой сети при помощи программного комплекса «Синтез нейро-нечеткой модели»

4.9.1 Подготовка данных при помощи модуля «Предварительная обработка данных»

4.9.2 Разработка нейро-нечеткой сети при помощи модуля «Создание нейро-нечеткой сети»

4.10 Разработка программного продукта «Советчик оператора производства пенобетона» на основе разработанной нейро-нечеткой модели

Выводы

Введение 2007 год, диссертация по информатике, вычислительной технике и управлению, Михайлюк, Павел Петрович

При создании математических моделей промышленных процессов часто приходится сталкиваться с элементами неопределенности в данных. Не все неточности описания можно списать на ошибку измерений или эксперимента, зачастую неопределенность неустранима, является неотъемлемой частью процесса или контрольно-измерительной аппаратуры. Неполная, фрагментарная или противоречивая информация порождает неопределенность. Закономерности в реальных моделях сложны и складываются из огромного числа отдельных фактов и явлений. Поэтому введение элемента неопределенности в модели позволяет более эффективно строить математические модели. Нейронные сети, как универсальные аппроскиматоры, являются мощным средством математического моделирования. Их сочетание с нечеткой логикой дает дополнительную гибкость и функциональность разрабатываемым моделям.

Отсутствие априорной информации о причинно-следственных связях в виде уравнений того или иного типа или логических (лингвистических) правил наталкивает разработчиков на использование моделей «черного ящика» типа системы регрессионных уравнений или искусственных нейронных сетей (ИНС). Повысить уровень значимости метода ИНС может использование априорных знаний (несмотря на модель «черного ящика») о входных и выходных переменных как о нечетких лингвистических переменных. Именно это сочетание - нейронная сеть в пространстве нечетких входных и выходных переменных - является базовой идеей представляемой работы и лежит в основе разработанного программного комплекса.

Целью настоящей работы является создание универсального программного комплекса «Синтез нейро-нечетких моделей», позволяющего строить нейро-нечеткие модели для построения задач классификации, прогнозирования, настройки параметров и тестирования созданных нейронечетких сетей, используемых при построении моделей для статических технологических процессов типа «черный ящик».

Для практической реализации поставленной цели были решены следующие задачи:

• Во второй главе разработана методика и алгоритмы конструирования нечетких лингвистических переменных. Методика учитывает варианты синтеза НЛП при различной априорной информации: от полной невозможности экспертом указать границы и количество термов до самостоятельного конструирования экспертом НЛП;

• В третьей главе адаптированы алгоритмы создания, настройки, обучения и тестирования нейро-нечетких сетей;

• В четвертой главе разработаны тестовые примеры применения разработанного программного комплекса;

• Осуществлена программная реализация вышеназванных алгоритмов в составе пакета модулей под управлением операционной системы класса Windows.

Проведены испытания предложенных методик, алгоритмов и программ методом реализации практических задач моделирования с помощью разработанных программных средств для иллюстрации их работоспособности.

Данные для работы программы берутся либо у эксперта, специалиста в конкретной предметной области, либо материалы эксперимента в форме результатов опытов. Инженер знаний, с учетом полученных данных от эксперта, должен создать адекватную модель процесса. В этом ему поможет описанный в данной работе универсальный программный комплекс. Он поможет пройти весь процесс разработки модели от обработки первичных данных до внедрения сконструированной модели нейро-нечеткой сети в программный код приложения заказчика за счет генерации исходных текстов обученной нейро-нечеткой сети на языке С++.

Ни один из рассмотренных в обзоре программных инструментариев не поддерживает в полной мере процесс приобретения экспертных знаний о лингвистических переменных. Это в свою очередь снижает шансы построить адекватную модель. Поэтому предложен целый ряд дополнительных алгоритмических и программных решений, которые оправдывают создание совершенно нового универсального программного пакета для машинной поддержки диалога с пользователем в процессе приобретения знаний.

Текст диссертации включает в себя четыре главы, выводы, список литературы и четыре приложения.

В первой главе приведено краткое описание известных программных средств моделирования нейронных сетей. Все они не обладают средствами, реализующими в полной мере достоинства нейро-нечеткого моделирования. В них отсутствует комплексное решение проблемы построения нейро-нечеткой среды и ее внедрения на практике. Они не учитывают размытость данных, а это в свою очередь очень существенно не только из-за погрешности контрольно-измерительной аппаратуры, но и из-за наличия существенно нечетких переменных, обусловленных физической или химической природой.

В заключительном разделе главы сформулирована развернутая постановка задачи исследований.

Во второй главе приведено краткое описание известных стратегий и методик предварительной обработки данных, дан обзор нейро-нечетких сетей и методов их обучения.

В третьей главе представлены, разработанные автором алгоритмы предварительной подготовки данных, рассмотрены реализованные нейро-нечеткие сети и методы их обучения. Описано созданное программное, приведено алгоритмическое решение этапов тестирования модели, генерации тестовых массивов и создания конечного продукта в виде автоматически сгенерированного программного кода.

Четвертая глава посвящена описанию разработанного прикладного программного комплекса для иллюстрации работоспособности предлагаемых алгоритмов, методики и инструментальных программных средств.

В качестве первого иллюстративного примера решена задача «Интеллектуальный тренажер оператора установки производства сорбента» (HI II1 «Полихим» г. Сосновый Бор, Ленинградская область). Для этого были решены следующие задачи:

• Разработана система опроса с оптимальным количеством вопросов, касающихся производственного процесса;

• Разработана модель процесса производства сорбента при помощи программного пакета «Синтез нейро-нечетких моделей»',

• Реализован программный комплекс обучающей системы с тестами, удобный для использования персоналом;

• Разработанное программное обеспечение внедрено на производство.

Общим недостатком большинства подобных программных средств является их ориентация на тестирование, а не на обучение персонала. В связи с этим особую актуальность приобретает разработка программного инструментария для обучения персонала не только формальным операциям управления, но и логике происходящего производственного процесса, в чем помогает нейро-нечеткая модель процесса.

Вторая задача, служащая подтверждением эффективности разработанного программного пакета - «Советчик оператора бетонно-смесительного узла» (КЖБИ 211 г. Сертолово, Ленинградская область). Ее цель - проиллюстрировать преимущество использования нейро-нечеткой сети для управления реальным процессом производства изделий из пенобетона.

Обе задачи доведены до уровня прикладных оболочек, которые являются полноценными Windows-приложениями с развитым графическим интерфейсом и с заложенными в них функциями параметрической и структурной перестройки в процессе тестирования и эксплуатации.

Основные положения, выносимые на защиту:

1. Методика поддержки инженера знаний в процессе построения нейро-нечетких моделей от обработки исходных данных до построения исходных текстов модели, готовых для встраивания в приложение заказчика;

2. Структура программного комплекса и принципы взаимодействия трех его модулей от обработки исходных данных, до создания и обучения нейро-нечеткой сети;

3. Алгоритмы идентификации нечетких лингвистических переменных при различной априорной информации;

4. Алгоритм и функции модуля автоматизированного извлечения знаний эксперта в пространстве нечетких лингвистических переменных;

5. Алгоритм и программа создания нейро-нечеткой сети, ее настройка, обучение, тестирование;

6. Методика интеллектуального тренажера и программа «Интеллектуальный тренажер оператора установки производства сорбента»;

7. Методика советчика оператора и программа «Советчик оператора бетонно-смесительного узла».

Для апробации результатов исследований материалы диссертации докладывались и обсуждались на международных научных конференциях: ММТТ-18, Казань, ММТТ-19, Воронеж.

По теме диссертационной работы опубликовано 5 работ, в том числе одна работа опубликована в журнале из перечня ВАК.

Разработанный программный инструментарий используется в качестве учебного комплекса по изучению основ нейро-нечетких сетей при проведении лабораторных работ по курсу «Нечеткие интеллектуальные модели ХТС» для студентов кафедры САПРиУ Санкт-Петербургского государственного технологического института (технического университета).

1 Аналитический обзор

Несмотря на развитое математическое описание методов построения нейро-нечетких сетей, они редко применяются при решении реальных задач. Это обусловлено практически полным отсутствием универсального инструментария для конкретного пользователя. В данной главе рассматриваются наиболее интересные отечественные и зарубежные программные продукты позволяющие строить нейро-нечеткие модели. Описаны методики, алгоритмы и функции этих программ. В конце главы приведен анализ недостатков существующих программных комплексов и сформулирована постановка задачи для их устранения в разрабатываемом программном комплексе.

Заключение диссертация на тему "Программный комплекс синтеза нейро-нечетких моделей технологических процессов"

Выводы

На основании анализа рынка программных средств разработки нейро-нечетких сетей был выявлен общий недостаток большинства известных программных комплексов - в них отсутствует комплексное решение проблемы построения нейро-нечеткой среды и ее внедрения на практике. Они не учитывают размытость данных, а это в свою очередь очень существенно не только из-за погрешности контрольно-измерительной аппаратуры, но и из-за наличия нечетких переменных, обусловленных их физической или химической природой. Другое слабое место этих систем -отсутствие функций автоматизации предварительной обработки данных для идентификации нечетких лингвистических переменных.

1. Для комплексного решения задачи разработки нейро-нечетких сетей от прототипа до законченного приложения предложена и реализована структура из трех взаимосвязанных программных продуктов непосредственно для инженера знаний, работающего с экспертом предметной области;

2. Методы предварительной обработки нечетких лингвистических переменных в аналогичных программных комплексах проработаны слабо, поэтому были разработаны алгоритмы и методики обработки данных в случае, если разбиение данных на термы не известно, но есть экспериментальный материал «вход-выход», и, в случае, если разбиение данных на термы известно. Это позволяет проще и быстрее обрабатывать исходные данные;

3. Разработаны методики создания, настройки, обучения и тестирования нейро-нечетких сетей двух типов: с учетом априорной информации и без учета, что позволяет повысить надежность создаваемых нейро-нечетких моделей за счет дублирования сетей и сравнения результатов их работы;

4. Для проведения тестирования нейро-нечеткой сети предложено два метода: «быстрый» и «точный», что позволяет ускорить тестирование созданных нейро-нечетких моделей;

5. Для подтверждения работоспособности разработанного программного обеспечения проведена серия тестов, анализ которых показал работоспособность предложенных алгоритмов и методик;

6. С применением предложенных алгоритмов и комплекса программ были созданы и опробованы на производстве практические задачи:

• «Интеллектуальный тренажер оператора установки производства сорбента», позволяющий тренировать способность оператора предвидеть развитие процесса на уровне хорошего эксперта;

• «Советчик оператора бетонно-смесительного узла» - обучающая система оператора, позволяющая повысить квалификацию персонала и избежать возможных аварийных ситуаций.

Задачи доведены до уровня законченных приложений с развитым графическим интерфейсом и успешно внедрены.

Список условных обозначений

1. ФП - функция принадлежности

2. ЛП - лингвистическая переменная

3. FS - (fuzzy system) формат файла хранения нечетких моделей

4. LRN - (learning) формат файла хранения массивов обучающих данных

5. EPR - формат файла хранения массивов обучающих данных с известным разделением на термы

6. ИИ - искусственный интеллект

7. БЗ - база знаний

8. ИНС - искусственная нейронная сеть

9. НС - нейронная сеть

10. БП - база правил п. Ма(х)- функция принадлежности

12. N - общее число образцов

13. TSK - сеть Такаги-Сугено-Канга

14. CRISP - входная непрерывная переменная может быть измерена настолько точно, что погрешностью можно пренебречь («четкое» числовое значение - функция принадлежности вырождена в отрезок прямой высотой 1);

15. TERM - (качественно) - входную непрерывную переменную невозможно количественно измерить, а можно лишь качественно оценить (нечеткое множество с функцией принадлежности соответствующего терма НЛП);

16. NONE - (нет данных) - по данному входному каналу (дискретному или непрерывному) нет достоверной информации

17. НЛП - нечеткая лингвистическая переменная

18. ЭС - экспертная система

19. w - вес правила

20. ПО - программное обеспечение

21. аь Ьь Ьг, - параметры Рьфункции (трапеции) при аппроксимации ФП

22. ПДК - предельно допустимая концентрация

23. МАУ - Модифицированный азотсодержащий уголь

24.КЖБИ - Комбинат железо-бетонных изделий

25. БСУ - бетонно - смесительный узел

Библиография Михайлюк, Павел Петрович, диссертация по теме Математическое моделирование, численные методы и комплексы программ

1. Александровский С. В. Теплоизоляционные свойства газобетона. М.: Наука, 1984.- 193 с.

2. Алиев P.A., Абдикеев P.A., Шахназаров М.М. Производственные системы с искусственным интеллектом. М.: Радио и связь, 1990. 264 с.

3. Андрейчиков A.B., Андрейчикова О.Н. Интеллектуальные информационные системы. М.: Финансы и статистика, 2004.

4. Архангельский А .Я. Программирование в С++ Builder 5 М.: ЗАО «Издательство БИНОМ», 2001. - 1152 с.

5. Баранов Д.А., Кутепов A.M. Процессы и аппараты М.: Академия,2005.-303 с.

6. Барский А.Б. Нейронные сети: распознавание, управление, принятие решений. М.: Финансы и статистика, 2004. - 435 с.

7. Безусяк Ю.Л. Проблемы создания и внедрения экспертных систем искусственного интеллекта. К.: Знание, 1990. - 256 с.

8. Бесекерский В.А., Попов Е.П. Теория систем автоматического регулирования. М.: Наука, 1975. -768 с.

9. Бесков B.C. Общая химическая технология М.: ИКЦ "Академкнига",2006.-452 с.

10. Ю.Болдырев М.А. Решение задач с применением нечеткой логики.

11. Софтмаркет, 1996. №23. - С.32-36 П.Борисов А.Н., Алексеев A.B., Крумберг O.A. и др. Модели принятия решений на основе лингвистической переменной. - Рига: Зинатне, 1982. - 256 с.

12. Васильев В.И., Ильясов Б.Г. Интеллектные системы управления с использованием нечеткой логики. Уфа: Уфим. гос. авиац. техн. унив., 1995.-272 с.

13. Гаврилова Т. А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. СПб.: Питер, 2000.

14. Гиляров В.Н. Нечеткая логика: конспект лекций. СПбГТИ. - СПб., 2002.-47с.

15. Гиляров В.Н., Токмаков А.Н. Формализация знаний в нечетких экспертных системах. Приборы и системы. Управление, контроль, диагностика, 2001.- № 9,- С.58-61.

16. Гиляров В.Н., Токмаков А.Н., Князькова Д.Р. Методика извлечения знаний для программного пакета «Конструктор нечетких (fuzzy) моделей» Информационный листок №127.32.154.72 (СПбГТИ). -СПб, 2001.

17. Горбань А.Н. Обучение нейронных сетей. М.: изд. СССР-США СП «ParaGraph», 1990.- 160 с.

18. Горбань А.Н. Решение задач нейронными сетями. Нейроинформатика. Новосибирск: Наука, Сибирская издательская фирма РАН, 1998.

19. ГОСТ 25485—89. Бетоны ячеистые. Технические условия.

20. Джексон П. Введение в экспертные системы. М.: Вильяме, 2001. -624 с.

21. Джонс М.Т., Программирование искусственного интеллекта в приложениях. -М.: ДМК Пресс, 2004. 312 е.: ил.

22. Долгополов H.H. Электрофизические методы в технологии строительных материалов. М.: Стройиздат, 1971.-240 с.

23. Елманова Н.З., Кошель С.П. Введение в C++Builder. -М.: «Диалог-мифи», 1999.-345с.

24. Заде JI.A. Понятие лингвистической переменной и его применение к принятию приближенных решений. М.: Мир, 1976.-165 с.

25. Захарова A.A., ред. Процессы и аппараты химической технологии -М.: Академия, 2006. 522 с.

26. Змитрович А.И. Интеллектуальные информационные системы. -Мн.:НТООО Тетрасистемс, 1997. 368с.

27. Ито. Т. Применение нечеткой логики в управлении. Сб. тезисов докл. технич. конф. по измерительным приборам и управлению. Токио, 1987.-С.261-267.

28. Каплан Р. Основные концепции нейронных сетей. М.:Вильямс, 2001. -288 с.

29. Кафаров В. В., Дорохов И. Н., Марков Е. П. Метод формализации качественного описания химико-технологических процессов с помощью нечетких множеств. Докл. АН СССР. 1979. - 183 с.

30. Кафаров В.В., Дорохов И.Н., Марков Е.П. Системный анализ процессов химической технологии. Применение метода нечетких множеств. М:Наука, 1986. - 359 с.

31. Кинле X., Базер Э. Активные угли и их промышленное применение. -Л., 1984.-215 с.

32. Князькова Д.Р., В.Н. Гиляров, Токмаков А.Н. Тренажер на базе нечеткой логики для обучения персонала. Тез. докл., ММТТ-14, Смоленск, 2001.-С. 184-186.

33. Кофман А. Введение в теорию нечетких множеств.- М.;Радио и связь, 1982.-432 с.

34. Круглов В. В., Дли М. И., Годунов Р. Ю. Нечеткая логика и искусственные нейронные сети ФИЗМАТЛИТ, 2001. - 224 С.

35. Круглов В.В., Дли М.И., Голунов Р.Ю. Методы робастного, нейро-нечеткого и адаптивного управления. Издательство МГТУ им. Н.Э. Баумана, 2002. - 744 с.

36. Кудрявцев Е.М. Исследование операций в задачах, алгоритмах и программах. — М.: Радио и связь, 1984.

37. Кузнецов В.Е. Представление в ЭВМ неформальных процедур: продукционные системы.- М.: Наука, 1989,- 143 с.

38. Леоненков А. Нечеткое моделирование в среде MATLAB и fuzzyTECH —СПб.: БХВ-Петербург, 2003. 736 с.

39. Люггер Д.Ф. Искусственный интеллект: стратегии и методы решения сложных проблем. М.:Вильямс, 2005. - 864 с.

40. Малышев Н.Г., Берштейн Л.С., Боженюк A.B. Нечеткие модели для экспертных систем в САПР. М.: Энергоатомиздат, 1991.-136 с.

41. Мелихов А.Н., Бернштейн Л.С., Коровин С .Я. Интеллектуальные технологии управления. Искусственные нейронные сети и нечеткая логика. М.: Горячая Линия - Телеком, 2004. - 144 с.

42. Мелихов А.Н., Берштейн Л.С., Коровин С.Я. Ситуационные советующие системы с нечеткой логикой.- М.: Наука, 1990.- 272 с.

43. Немцов Л.Б. Решение задач прогнозирования на базе нечеткой логики в системах управления процессами и производством. Автореф. дис./СПБГТИ.-СПб.,1999. 20 с.

44. Орловский С.А. Проблемы принятия решений при нечеткой исходной информации.- М.:Наука, 1981.- 206 с.

45. Осовский С. Нейронные сети для обработки информации — М.: Финансы и статистика, 2004. 344 с.

46. Осу га С. Обработка знаний. М.: Мир, 1989. -253 с.

47. Перов В.Л. Основы теории автоматического регулирования химико-технологических процессов. -М.: Химия, 1970. -352с.

48. Плютто В.П. Практикум по теории автоматического регулирования химико-технологических процессов. -М.:Химия, 1969. -111с.

49. Получение, структура и свойства сорбентов. Межвуз. сб. науч. тр./Редкол.: Н.Ф. Федоров (отв. ред.) и др.; ЛТИ им. Ленсовета. Л., 1988, 155 с.

50. Попов Е.П. Теория система автоматического управления. -М.:Наука, 1966.-С.273.

51. Поспелов Д.А. Моделирование рассуждений: Опыт анализа мыслительных актов. -М.: Радио и связь, 1989.- 286 с.

52. Поспелов Д.А. Ситуационное управление: теория и практика.- М.: Наука, 1986.-288 с.

53. Редько В.Г. Эволюция, нейронные сети, интеллект. Модели и концепции эволюционной кибернетики. М.: КомКнига, 2007. - 325 с.

54. Рутковская Д., Пилиньский М., Рутковский J1. Нейронные сети, генетические алгоритмы и нечеткие системы. М.: Горячая Линия -Телеком, 2007. - 342 с.

55. Саати Т.Д. Принятие решений. Метод анализа иерархий. М.: Радио и связь, 1989.

56. Санитаров A.B. Нечеткая модель управления процессом приготовления газобетонной смеси. ПЗ к дипломной работе-проекту/СПбГТИ. СПб., 2007. - 100с.

57. Серых Р. J1. Производство ячеистого бетона в промышленности. М.: Мир, 1979.-c.127.

58. Смирнов A.A. Интеллектуальный тренажер оператора процесса производства модифицированных сорбентов. ПЗ к дипломной работе-проекту/СПбГТИ. СПб., 2005. - 100с.

59. Сотник С.Л. Основы проектирования систем искусственного интеллекта: конспект лекций. — М.: Мир, 1997. — 70 с.

60. Страуструп Б. Язык Программирования С++.: Пер. с англ. -М.: Радио и связь, 1998.-352с.

61. Тархов Д.А. Нейронные сети. Модели и алгоритмы. Книга 18. М.: Радиотехника, 2005. - 124 с.

62. Технологическая карта производства газобетона. Фирма "HEBEL", 1991.

63. Токмаков А.Н., Гиляров В.Н. Идентификация нечетких лингвистических переменных. Математические методы в интеллектуальных информационных системах ММИИС-2002: Сб. трудов Международ, науч. конф./ Смоленский филиал МЭИ(ТУ). Смоленск, 2002. С. 101

64. ТУ 0320-001-23363751-98. Уголь модифицированный азотсодержащий МАУ.

65. Тюрин Ю.Н., Макаров A.A. Статистический анализ данных на компьютере. М.: ИНФРА-М, 1998. 528 е., ил.

66. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика. — М.: Мир, 1992.-184с.

67. Усков A.A., Кузьмин A.B. Нечеткая логика и искусственные нейронные сети. М.: ФИЗМАТЛИТ, 2001. - 224 с.

68. Хайкин С. Нейронные сети: полный курс. М.:Вильямс, 2006. - 1104 с.

69. Червинский A.B. Алгоритмы мягких вычислений для моделирования систем: ПЗ к дипломной работе-проекту/СПбГТИ. СПб., 2005. - 100с.

70. Чикишева Н.М. Кластерный анализ. СПб., 2000.

71. Шамис В.А. С++ Builder 3. Техника визуального программирования. -М.: «Нолидж», 1998. 512 с.

72. Элти Дж., Кумбс М. Экспертные системы: концепции и примеры. М., Финансы и статистика, 1987. - 486 с.

73. Яблонский C.B. Введение в дискретную математику.- М.: Наука, 1999. -300 с.

74. Ярушкина Н.Г., Основы теории нечетких и гибридных систем. М.: Финансы и статистика, 2004. - 320 е.: ил.

75. Яхъяева Г.Э. Нечеткие множества и нейронные сети. М.: Интернет-университет информационных технологий, Бином. Лаборатория знаний, 2006. - 435 с.

76. Публикации по теме диссертации

77. Михайлюк П.П., Гиляров В.Н. Программа идентификации нечетких лингвистических переменных. // Тез. докл., Международная научная конференция "Математические методы в технике и технологиях" (ММТТ-18), Казань: Казан. ГУ, 2005. С. 5-6.

78. Михайлюк П.П. Универсальная программа хранения, обработки и последующего анализа информации. // Тез. докл., Международная научная конференция "Математические методы в технике и технологиях" (ММТТ-19), Воронеж: Воронеж, гос. технол. акад., 2006. С. 6-7.

79. Михайлюк П.П. Нейро-нечеткое моделирование для автоматизации производства пористого бетона // Информационные технологии моделирования и управления. №8(33), 2006. с. 1078-1083

80. Михайлюк П.П. Программный комплекс синтеза нейро-нечетких моделей технологических процессов // Системы управления и информационные технологии, 2007, №1.3(27). С. 365-369.