автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.06, диссертация на тему:Применение искусственных нейронных сетей в автоматизированных системах анализа и мониторинга химических сред

На правах рукописи

КОМАРОВ Виктор Викторович

ПРИМЕНЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ В АВТОМАТИЗИРОВАННЫХ СИСТЕМАХ АНАЛИЗА И МОНИТОРИНГА ХИМИЧЕСКИХ СРЕД

Специальность 05.13.06 - «Автоматизация и управление технологическими процессами и производствами (промышленность)»

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Липецк - 2004

Работа выполнена в Липецком государственном техническом университете.

Научный руководитель - заслуженный деятель науки РФ,

доктор технических наук, профессор Кузнецов Л.А.

Официальные оппоненты - доктор технических наук,

профессор Кудинов Ю.И.;

кандидат технических наук, Сараев П.В.

Ведущая организация - Воронежский государственный

технический университет

Защита диссертации состоится 9 июня 2004 г. в 12.00 часов на заседании диссертационного совета Д 212.108.02 в Липецком государственном техническом университете по адресу: 398600 Липецк, ул. Московская, 30, ауд. 601.

С диссертацией можно ознакомиться в библиотеке Липецкого государственного технического университета.

Автореферат разослан 7 мая 2004 года

Ученый секретарь диссертационного совета д.т.н., профессор

В.С. Зайцев

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Управление химико-технологическими процессами на производстве и мониторинг состояния окружающей среды базируются на контроле содержания химических компонентов в различных смесях и средах. Для решения этих задач используются системы анализа и мониторинга химических сред. Разработка и автоматизация подобных систем представляет собой сложную научно-техническую задачу, решение которой важно для практических нужд современного общества.

В настоящее время широкое распространение получил подход, заключающийся в интеграции сенсорных систем химического анализа и математических методов обработки данных. Наиболее перспективны в этом отношении мультисенсорные системы с использованием экономичных неселективных или слабоселективных химических сенсоров, сигналы которых обрабатываются при помощи аппарата искусственных нейронных сетей. Нейронные сети позволяют строить сложные нелинейные многопараметрические зависимости для мультисенсорных систем которые, содержат десятки и сотни сенсоров. Нейронные сети устойчивы к погрешностям в экспериментальных данных и обеспечивают высокий уровень точности вычисления прогнозируемых величин.

Современная технология разработки автоматизированных систем анализа и мониторинга химических сред с применением искусственных нейронных сетей имеет недостатки, связанные с отсутствием специальных алгоритмов и низкой эффективностью существующих методик нейросетевого моделирования мультисенсорных систем. Существующий подход характерен разработками уникальных нейросетевых моделей, требует проведения широкомасштабных исследований и привлечения значительных средств.

Таким образом, актуальна задача создания более эффективных и экономичных методик синтеза автоматизированных систем анализа и мониторинга химических сред с использованием нейронных сетей, применимых для широкого класса мультисенс

I гдао

Цель работы состоит в исследовании и совершенствовании методов синтеза автоматизированных систем анализа и мониторинга химических сред на основе систематического применения искусственных нейронных сетей, современных информационных технологий и мультисенсорных систем в качестве источников первичной информации.

Для достижения поставленной пели были определены следующие задачи исследования:

1. Изучить существующие подходы к решению задач синтеза автоматизированных систем анализа и мониторинга химических сред, включая методы выбора структуры систем, технического и программного обеспечения, а также прикладные аспекты моделирования этих систем с использованием искусственных нейронных сетей прямого распространения.

2. Исследовать возможности улучшения существующего подхода к нейросетевому моделированию мультисенсорных систем и выявить направления повышения его эффективности.

3. Определить этапы и формализовать процесс разработки моделей искусственных нейронных сетей прямого распространения, ориентированных на обработку откликов мультисенсорных систем.

4. Разработать алгоритмы: предварительной подготовки обучающих и тестовых данных для построения нейросетевых моделей мультисенсорных систем; конфигурирования нейросетевых моделей мультисенсорных систем; обучения искусственных нейронных сетей прямого распространения для настройки нейросетевых моделей калибровочных функций мультисенсорных систем; оптимизации нейросетевых моделей мультисенсорных систем.

5. Осуществить синтез автоматизированной системы мониторинга воздушной среды с использованием разработанной методики и алгоритмов.

Методы исследования. В работе использованы положения и методы теории автоматического управления, теории искусственных нейронных сетей, теории планирования экспериментов, математического моделирования, системного анализа. Широко применялись методы статистического и

регрессионно-корреляционного анализа данных, вычислительные эксперименты, методы объектно-ориентированного проектирования и программирования, результаты экспериментальных исследований химических сред.

Научная новизна. В диссертации разработаны новые:

- методика синтеза автоматизированных систем анализа и мониторинга химических сред, применимая для широкого класса систем на основе химических сенсоров, позволяющая автоматизировать и повышать эффективность процесса их разработки;

- алгоритм предварительной подготовки экспериментальных данных для построения нейросетевых моделей мультисенсорных систем, который позволяет систематизировать процесс подготовки обучающих данных и повышать его качество;

- специальный алгоритм обучения нейросетевых моделей мультисенсорных систем на основе усовершенствованного алгоритма обратного распространения ошибки, в состав которого введены новые правила коррекции весов, останова и схема инициализации весовых коэффициентов;

- алгоритм построения конфигураций нейросетевых моделей, обеспечивающий структурную оптимальность нейронных сетей при заданных пользователем ограничениях и допусках.

Практическая значимость полученных результатов. Разработанные в диссертации методики, алгоритмы, нейросетевые модели и научно-практические рекомендации использованы для создания прототипа автоматизированной системы мониторинга воздушной среды, позволяющей определять содержание ряда канцерогенов, встречающихся в выбросах химических и металлургических производств. Синтезированная автоматизированная система способна с достаточной точностью осуществлять мониторинг загрязнения воздушной среды группой полиароматических углеводородов.

Практическое применение разработанных в диссертации подходов позволит автоматизировать и повысить эффективность разработки автоматизированных систем анализа и мониторинга химических сред с использованием широкого класса экономичных химических сенсоров.

Реализация результатов работы. Основные теоретические и практические положения диссертационной работы реализованы в виде пакета программ, которые могут быть использованы для синтеза автоматизированных систем анализа и мониторинга сред с использованием широкого класса мультисенсорных систем.

Результаты диссертационной работы используются в учебном процессе ЛГТУ при изучении студентами специальностей «220200 - Автоматизированные системы обработки информации и управления», «351500 - Математическое обеспечение и администрирование информационных систем» специальных дисциплин «Системы искусственного интеллекта», «Идентификация систем», при прохождении производственных практик, при выполнении курсовых и дипломных работ.

Апробация работы. Основные положения и результаты диссертации обсуждались на Ш-й Всероссийской конференции молодых ученых «Современные проблемы теоретической и экспериментальной химии» (Саратов, 2001); на Всероссийской конференции «Актуальные проблемы аналитической химии» (Москва, 2002); на VI Международном симпозиуме молодых ученых, аспирантов и студентов «Техника и технология экологически чистых производств» (Москва, 2002); на II Международной научно-технической конференции «Современные сложные системы управления» (Старый Оскол, 2002); на Ш Международной научно-технической конференции «Современные сложные системы управления» (Воронеж, 2003).

Публикации. По материалам проведенных исследований опубликовано 6 печатных работ.

Структура и объем работы. Диссертационная работа включает в себя введение, список используемых аббревиатур, четыре основных главы,

заключение, библиографический список из 107 наименований. Основная часть работы изложена на 126 страницах машинописного текста, содержит 34 рисунка и 13 таблиц.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ Во введении обосновывается актуальность работы, ее научная новизна, сформулированы цели и задачи диссертационного исследования.

В первой главе среди наиболее перспективных направлений развития автоматизированных систем анализа и мониторинга сред (АСАМ) выделена автоматизация мультисенсорных систем (МС) с использованием методов искусственных нейронных сетей (ИНС). Для решения задачи построения АСАМ требуется реализация нейросетевой модели, аппроксимирующей неизвестную калибровочную функцию МС, в которой будут выражены зависимости входных сигналов сети (откликов МС) У и выходных сигналов (концентраций химических компонентов) X. Анализ работ показал, что наиболее приемлемыми для моделирования МС являются искусственные нейронные сети прямого распространения (ИНС ПР). Нейросеть типа ИНС ПР обычно представляется в виде ориентированного графа (рис.1).

слоя 1 слоя! . , слой! . . . аю!

Рис.1. Искусственная нейронная сеть прямого распространения (модель

мультисенсорной системы) Каждая вершина графа на рис.1 представляет собой нейрон - пороговый элемент, осуществляющий суммирование сигналов и их нелинейное

преобразование. Преобразование входного сигнала - откликов МС (на рис.1 вектор У = (у1,у2,..,ум)) в выходной сигнал - концентрации химических компонентов (на рис.1 вектор X =а(х,,х2,..,хк)) может быть записано выражением *

'я,(ГГ(1\ .. $(№<",..¿(Г(2),$(1Гт,Г))..)..)

52((Г(Ц, .. (,),ЗОР0',Г))..)..) _ > (1)

где X - вектор искомых концентраций компонентов среды (х^х2,..,хк); У = (у1,у2,..,ум) - регистрируемые сигналы МС; 1-1,2,..,Ь - количество слоев нейронной сети; = (и»,'!', ,.., и^'', ч>(£,.., ) - весовые коэффициенты

в слое I; - весовой коэффициент /-го нейрона в слое /, идущий от у-го входа (или у-го нейрона предыдущего слоя); - функция активации (на выходе у'-го нейрона в /-ом слое нейросети).

Один из пунктов главы посвящен анализу методов обучения нейросетевых моделей МС на основе ИНС ПР. Алгоритм обратного распространения ошибки, используемый наиболее часто при обучении нейросетевых моделей МС, требует проведения дополнительных исследований для его усовершенствования.

В конце главы рассмотрены этапы прикладного нейросетевого моделирования - подготовка данных, конфигурирование ИНС, обучение ИНС. Замечено, что, за исключением этапа обучения, другим этапам нейросетевого моделирования в современных работах о прикладном использовании ИНС ПР уделяется недостаточно внимания. Определены приоритетные направления и поставлены задачи исследования.

Во второй главе исследуются способы применения, конфигурирования и обучения ИНС ПР для синтеза АСАМ. Исследование начинается с рассмотрения примера синтеза нейросетевой модели мультисенсорной системы, предназначенной для мониторинга воздушной среды. МС позволяет

определять наличие трех веществ из группы полиароматических углеводородов. Вектор откликов данной МС можно представить как У=(у„у2,у3), вектор искомых концентраций компонентов X = {х„х2,ху). Для этой МС, с использованием существующего подхода и алгоритмов, выполняется построение множества моделей на многослойных ИНС ПР, среди которых находится наиболее адекватная модель - (3-3-3). Для компонента х1 средняя относительная ошибка обобщения Ес,% составила 5.5%, для компонента х2 - 6.9%, для х3 - 2.8% при среднеквадратичных отклонениях соответственно равных: 3.6%, 9.2%, 4.5%. При оценке точности моделей в диссертации используются следующие меры ошибок:

(2)

•100%

1 >*+1 " у=*+1 ^

(3)

где - средняя относительная ошибка обучения; % - средняя

относительная ошибка обобщения; Е^. относительная ошибка по у'-ой выборке (опыту),/'=1,2,.., V; V - число выборок (у=к+п)\ к - число примеров

на которых обучается сеть; п - число тестовых примеров (Хг j=k+l,k+,2,..,k+n; / - вектор значений откликов нейронной сети; У - вектор фактических значений откликов МС; У- среднее значение функции по всей _ ] у

выборке, ^ • Расчет средних ошибок обучения и обобщения

у >1

производится по формулам:

1 V 1 к+п

и

Рассмотренный пример позволил определить наиболее важные для нейросетевого моделирования характеристики и параметры МС: общее количество сенсоров, чувствительность сенсоров, рабочие диапазоны сенсоров, режим работы МС, пределы обнаружения химических компонентов.

В результате анализа проблемы конфигурирования ИНС предложена схема моделирования мультисенсорных систем группами трехслойных ИНС ПР со скалярным выходом - рис.2. Эти нейросети имеют более простую структуру, чем традиционно используемые в МС многослойные многовыходовые ИНС ПР. В ходе экспериментальных исследований нового подхода доказывается возможность нахождения оптимальных конфигураций нейросетевых моделей (см. рис.3) в смысле критерия Еа в формуле (5).

Рис.2. Переход от многослойных нейросетевых моделей МС к трехслойным со скалярным выходом На рис.3 показана нелинейная зависимость точности нейросетевой модели МС (2-7-1) при аппроксимации сложной нелинейной функции с немонотонной поверхностью отклика от числа нейронов второго (скрытого, промежуточного) слоя. Резкий спад уровня ошибок для модели (2-5-1) ,/=5, свидетельствует об ее оптимальности в смысле критерия Ее.

Определены наиболее важные факторы при поиске оптимальной конфигурации, которыми являются качество и объем экспериментальной выборки. Исследованы различные способы подготовки обучающих и тестовых данных. По результатам исследований предложено использование равномерно распределенных выборок по всей допустимой области значений. Предложено

использование положений теории планирования экспериментов как теоретической основы для разработки алгоритма подготовки данных при построении нейросетевых моделей МС.

004

Ь] одев

<5

ода

12345670

] - количество нейронов во 2-м слое сети Рис3. Оценка точности аппроксимации функции

► у=0.1 +х|3т(х2/6.1 )/3 + 2.1сов(х2)8т(х1) - 5со8(7х]/100) нейросетью (2-/-1)

по 100 точкам (при обучении на других 200 точках) В рамках исследований, направленных на поиск путей улучшения алгоритма обратного распространения ошибки (ОРО), был выполнен анализ эффективности использования в нем различных правил коррекции весовых коэффициентов. Предложено использование нового правила коррекции весов нейросетевых моделей, позволяющего сочетать градиентный и стохастический спуск к значению минимума функционала ошибки Ес:

А^ [(] = + // • -1]+(1 - П)ХС, (6)

где // - коэффициент инерции; т] ~ параметр, определяющий скорость

обучения; - величина коррекции весового коэффициента ^; - значение на выходе /-го нейрона (результат вычисления функции активации нейрона); д{р - вспомогательная величина, рассчитанная на текущем слое /; I - номер итерации алгоритма; Хе - изменение веса методом Коши (стохастический метод оптимизации): хс = р-Т(0%(Р(х)), где р - коэффициент скорости обучения; Р(х) - вероятность изменения х, рассчитываемая по формуле

Р(х) =

т

T(tf +х-

-; T(t) - искусственная температура как функция времени

T(t) = у-^-; т0 - начальная искусственная температура; t - искусственное время

- номер итерации в алгоритме обучения ИНС.

Тестирование модифицированного алгоритма ОРО, содержащего новое правило коррекции весов, при нейросетевой аппроксимации сложных нелинейных функций, показало улучшение скорости и точности нейросетевой аппроксимации в два-три раза по сравнению с классическим вариантом алгоритма ОЮ (рис.4).

О 200 400 600 800 1000 1200

Номер итерация

i«

J—- ........ ........ ....... ....... ....

-ш-

200 400 600 800

Номер итерации в

1000 1 200

Рис.4. Графики обучения нейросети (2-5-1) аппроксимации функции у=0.1+х18т(х2/6.1)/3 + 2.1соз(х2)5т(х1) - 5со5(7х)/100): а - классическое правило, б - новое правило На основе исследования динамики процесса обучения нейросетевых моделей с использованием алгоритма ОРО и формулы коррекции весов (6) разработано новое правило автоматического останова:

ЕСЛИ (| Евв - Ео | < (¡Еыь) И {Ес, <Е0'пах) ТО "ОСТАНОВ" ИНАЧЕ "ПРОДОЛЖИТЬ ОБУЧЕНИЕ", где [А,В] - интервал в итерациях обучения (например, 100 эпох); Еа > Есв -оценки ошибки Ес на границах интервала [А,В]\ с1Еыв ~ заданное минимально допустимое приращение точности при обучении. В отличие от классического варианта останова на максимально допустимой итерации или по достижении допустимой ошибки, в новом правиле выполняется параллельный контроль, во-первых, скорости спуска к минимуму ошибки и, во-вторых, общего уровня

ошибки обобщения в процессе спуска. Это позволяет предотвращать явление «переобучения» нейросетевых моделей МС и сокращать время их обучения.

В третьей главе на основе исследований, проведенных и описанных в предыдущих главах, разработана новая методика синтеза АСАМ, состоящая из пяти этапов (рис.5).

Предварительный этап служит для анализа структуры, основных параметров и характеристик автоматизируемой МС. Этот этап позволяет на ранней стадии оценить пригодность конкретной МС для автоматизации в рамках методики.

Этап подготовки обучающих и тестовых данных включает расчет оценок минимально необходимо. объема данных Л^ и условно достаточного объема данных 2УСйт для нейрон етевого моделирования МС:

ЛГ„=А/ + ЗМ1 + ЗМ=4М*+ЗМ, (7)

2УС&т = *-Мш{\ + ^п) = 4(ЛМг+ЪМ)(\ + 1ё(4 М +1)), (8) где Л^ - количество весовых коэффициентов нейросети (М-ЗМ-1), Ып -количество нейронов в сети {М-ЗМ-1), М-размерность вектора откликов МС -У; 2 УС<Ит - удвоенная оценка верхней границы меры Вапника-Червоненкиса для нейросети {М-ЗМ-1). На этом этапе применяется разработанный в диссертации алгоритм подготовки обучающих и тестовых данных (рис.6), который позволяет автоматизировать процесс подготовки выборок.

Входными данными алгоритма являются: множества ^тт =(х1°,т'л'Г,>-,*™ш) и Х^ =(х1тю<,х2т*\.ограничивающие область допустимых значений величины X (концентрации компонентов, которые способна анализировать МС); комбинация из К целых чисел ]-1,2,..,К,

N

произведение V- П «, = • •.. • зк) которых удовлетворяет выражению V < V, где ^ - число уровней фактора хр}-1,2,..,К-

Предварительный анализ задачи

этапы

стратег пи

1-ПШ1 1-тах

И -

II-тш П - шах

• Г

- Ш

П

IV. Оптимизация нейросетевых моделей

IV

Рис.5. Общая схема методики На основе заданного числа уровней варьирования каждого фактора хр ]=1,2,..,К, в алгоритме рассчитываются значения факторов на каждом уровне -матрица С=(с[/,/]), ]=1,2,..К, ¡=1,2,..^ (координаты «сетки» опытов на всей области допустимых значений). Набор точек, в которых все факторы варьируются на определенных в матрице С значениях уровней, представляет собой план полного факторного эксперимента - матрицу £>.

По завершении работы алгоритма и после проведения запланированных опытов, каждому набору опытных значенийX, = {х^,х1,..,хк)п ¡=1,2,..,V' (строкам матрицы £)) соответствует набор измеренных выходных значений У, - (у, ,у2,..,ум),. Таким образом, формируется множество точек {ХьУ,}, ¡=1,2,.., V', необходимое для построения нейросетевой модели МС (строки матрицы Д, соответствуют значениям обучающих выборок, а строки матрицы £>о - значениям тестовых выборок).

целые числа)

Составить матрицу ПФЭ - О

Разбил» матрицу ПФЭ на матрицы ДФЭ £>ги А, (А =2/3 А ¿>0=1/3 £>)

Рис.6. Алгоритм подготовки данных

Предложена схема конфигурирования нейросетевых моделей МС на основе трехслойных ИНС ПР со скалярным выходом, которая позволяет производить настройку моделей в зависимости от требований к точности и

сводит проблему поиска допустимой конфигурации многослойной ИНС к последовательному поиску числа нейронов второго скрытого слоя нейросети -К целых чисел Аг„®®,/=/Д-.Д из диапазона [1.3М], по итерационной формуле: Мп(2)6)= N„(2®+!, которые удовлетворят неравенствам:

Ес?^?)^ £д0^=!,2,..,К, (9)

МН^йЪМ,

где Еа - ошибка обобщения, рассчитываемая по формуле (5), которая представляется как функция от числа нейронов второго слоя при фиксированных параметрах обучения и выборках; - максимально допустимая ошибка обобщения, устанавливаемая на основании требований к точности АСАМ. Методика отличается гибкостью и может использоваться при меньших обучающих выборках, чем требуются для многослойных многовыходовых ИНС.

Разрабатывается специальный алгоритм обучения нейросетевых моделей МС на базе алгоритма ОРО (рис.7). Исходными данными для работы алгоритма обучения нейросетевых моделей МС служат: обучающие выборки {Х„ У,}, 1=1,2,-X полученные на этапе подготовки данных, и тестовые выборки {Х,У}, ¡=к+1,к+2,..,к+п, к+п=У- общее количество выборок данных, формируемое в ходе этапа подготовки обучающих и тестовых данных; ранее сформированная конфигурация нейросети (Ыпа}-Шаг1), (Ыпф - число нейронов в слое I); множество весовых коэффициентов Ц^"1,13^™^ /=7,2,..,^; параметры правила коррекции весовых коэффициентов (а, ц, ц,р, Гв); параметры правила останова (с,^ - максимальное число эпох; е^ - максимально допустимая ошибка обобщения; Ае - минимально допустимая разница между ошибками обобщения на интервале; Ас - число эпох, интервал оценки ошибок обобщения).

Обозначения, используемые в алгоритме обучения: с - номер итерации,

^ = - отклик нейросети при подаче входного сигнала Ху;

вспомогательные значения, / - номер слоя нейросети (/=1,2,3), / - номер

нейрона в слое I (г=7Д..,Л^), Ип0)- число нейронов в слое /; выходное значение /-го нейрона в слое /; - величина коррекции 7-го веса в /-м

нейроне слоя /; Ео[с] - величина ошибки обобщения, рассчитанной по тестовой выборке на итерации с; КсИ(с) - стохастический шаг, вычисленный методом Коши для текущей итерации: КсИ(с) .•= Т ■ tg(P);

^ начало ^

/ЗД, 1=1,2,.ХЫп0гЫпаг1; 1=1,2,3; (<г,у,М>р,Тв);

(Сто» £йоп М-

Инициализировать веса 1=1,2,3; нормализовать данные {ЛГ,7>у,г = 1,2с:=0.

Выбрать примф: гапЖ>пг(1,2,■■,&); с:=с+1.

Вычислить ошибку обучения: Е1 = ^СЧ-*",) - .

Обратное распространение ошибки: = К1 - у)- ^; (3) = у; (1=2,1): ^ = +£<♦■> ^'^ = 1,2, =

Коррекция весов: д^'м - ^^ "15-1.2, .лг^.у-и, ,^„./-1,2.3, «»'и" - 7(^4"-1]+^ ■ - г» - р кст ■

^|Ео[с-Дс] - Ео[с]| < Де) и (Ео < е^ НЕТ

ДА <-—с<стах

ДА

^ конец ^

Рис.7. Алгоритм обучения нейросетевых моделей МС

Т

Г max rr> — 1 л2+5

•=-—-- текущая «температура»; максимальная температура« 1U ;

(1 + с)

Т 7Е 7t

—- вероятность срабатывания машины Коши; R:=rcmdom(-—,—)

случайное число, генерируемое по равномерному закону распределения.

На этапе оптимизации разработана методика поиска оптимальных решений задачи синтеза АСАМ. Согласно методике выполняется поиск нейросетевой конфигурации и набора ее весовых коэффициентов, которые обеспечивают минимальную ошибку нейросетевой аппроксимации, оцениваемой по внешнему критерию Ес, при существующих в задаче ограничениях:

EGw(Nn(2f)->min,

EG0)(Nn(2)0))< £док (10)

1<ЛГл(2)(Л<3 M,j=l,2,.,K.

В четвертой главе приведен пример синтеза АС мониторинга воздушной среды с использованием разработанной в диссертации методики. Процесс синтеза рассматриваемой АС был выполнен за короткий срок и не потребовал проведения дополнительных исследований, что является положительным отличием от существующих в литературе подходов. Оптимальными решениями задачи синтеза АС являются нейросетевые модели (3-1-1), (3-2-1), (3-3-1) для компонентов X/, х2, х3, соответственно.

Параметры этих моделей, полученные в процессе обучения:

1) компонент Ху: конфигурация (3-1-1)

"6.718 -1.797 -5.566 2.798" Wm= -9.668 0.694 6.778 -1.048 , -8.950 -10.406 -1.708 12.446

W<2) = [- 7.292 4.694 10.285 -2.492], Wm =[-12.618 6.493];

2) компоненту: конфигурация(3-2-1)

W(2) =

-3.075 4.027 7.215 -2.457

-5.338 -8.196 -2.505 8.112

-8.731 3.371 5.122 -1.290

0.786 6.798 5.276 2.598

-7.174 7.007 11.379 - 0.465

Wm= [7.473 -14.918 1.349]; 3) компонент x3: конфигурация (3-3-1)

Г(1) =

-0.020 5.399 1.003 -5.414 0.689 - 4.886 1.230 1.237 -0.418 -4.504 1.550 2.032

-4.386 - 2.542 6.820 0.551 1.264 10.667 - 0.517 - 4.184 -2.658 -0.163 3.155 6.688

W™ =[-12.758 7.215 7.722 -1.417].

Точность вычисления концентраций трех анализируемых химических компонентов среды по нейросетевым моделям, синтезированным с применением новой методики, превосходит точность, полученную на моделях, созданных с применением существующего подхода. Сопоставление точности моделей по предлагаемой и известным методикам приведено в табл., где EG,% -средняя относительная ошибка обобщения, D(Ес,%) - оценка дисперсии относительных ошибок по тестовым выборкам, СКО(£о,%) - оценка среднеквадратичного отклонения относительных ошибок обобщения. Все оценки рассчитаны по тестовым выборкам, не участвовавшим в обучении нейросетевых моделей MC.

Таблица

Сравнительный анализ точности нейросетевых моделей

Химические компоненты Новая методика синтеза АСАМ Существующий подход

Ес.% D(£c.%) СК(ХЕа%) Ев.% ЩЕо.%) СКО(Еа%)

Xl 1.66 0.82 0.91 5.5 12.9 3.6

х2 4.59 4.99 2.23 6.9 84.6 9.2

X} 0.59 0.32 0.57 2.8 20.3 4.5

ОСНОВНЫЕ РЕЗУЛЬТАТЫ РАБОТЫ

В результате выполненных в диссертации исследований разработаны:

1. Методика синтеза автоматизированных систем анализа и мониторинга химических сред с использованием одновыходовых трехслойных искусственных нейронных сетей прямого распространения. В отличие от существующих подходов, разработанная методика пригодна для синтеза автоматизированных систем с использованием широкого класса мультисенсорных систем и позволяет практически полностью автоматизировать процесс синтеза.

2. Алгоритм предварительной подготовки экспериментальных данных для построения аппроксимирующих нейросетевых моделей мультисенсорных систем, который позволяет составить выборку обучающих данных при минимальном объеме экспериментов и гарантировать успешность создания нейросетевой модели в целом.

3. Схема конфигурирования нейросетевых моделей мультисенсорных систем, которая позволяет задавать структуру моделей в зависимости от требований к точности, использовать при моделировании небольшие объемы экспериментальных данных и упрощает настройку моделей, снижая размерность задачи обучения по сравнению с задачей, решаемой при обучении многослойных многовыходовых нейронных сетей.

4. Специальный алгоритм обучения нейросетевых моделей мультисенсорных систем. Новый алгоритм более эффективен по сравнению с алгоритмом обратного распространения ошибок и его модификациями за счет введения нового правила коррекции весов, правила останова и алгоритма инициализации весовых коэффициентов. Алгоритм не подвержен явлениям «паралич сети» и «переобучение», свойственным алгоритму обратного распространения ошибок, предоставляет возможность выхода из небольших локальных минимумов и, в целом, обеспечивает высокую скорость сходимости и точность нейросетевой аппроксимации. Новый алгоритм обучения относится к классу комбинированных методов оптимизации, которые считаются одними

из эффективных методов поиска оптимальных решений, близких к глобальному оптимуму.

5. Методика выбора оптимальных нейросетевых моделей, обеспечивающая структурную оптимальность нейронных сетей и достижение ими максимальной точности аппроксимации на имеющихся экспериментальных выборках при заданных пользователем ограничениях и допусках.

6. Пакет прикладных программ, реализующий разработанные алгоритмы и позволяющий автоматизировать процесс синтеза АСАМ. Эти программы могут быть применены и как эффективный инструмент для построения и настройки искусственных нейронных сетей прямого распространения при решении задач моделирования систем методами нейронных сетей.

7. Автоматизированная система мониторинга воздушной среды для количественного анализа загрязнения воздушной среды химическими компонентами из группы полиароматических углеводородов с относительной погрешностью вычисления менее 5%.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК ПУБЛИКАЦИЙ

1. Кузнецов Л.А., Комаров В.В. Система автоматического определения загрязнения воздушной среды с использованием искусственных нейронных сетей // Датчики и системы. - 2003. - №4 - С. 41-46.

2. Кузнецов Л.А., Комаров В.В. Исследование мультисенсорных систем нейронными сетями // Сборник трудов Ш Международной конференции «Современные сложные системы управления».Т.2. - Воронеж: ВГАСУ, 2003. -С. 376-380.

3. Кузнецов Л.А., Комаров В.В. Анализ сред мультисенсорными системами с использованием искусственных нейронных сетей // Сборник трудов П Международной конференции «Современные сложные системы управления» - Старый Оскол, 2002. - С. 233-237.

4. Кузнецов Л.А., Ермолаева Т.Н., Милованов C.B., Комаров В.В. Автоматическая диагностика сред с использованием искусственных нейронных сетей // Материалы VI Международного симпозиума молодых ученых, аспирантов и студентов «Техника и технология экологически чистых производств» - М..-МГУИЭ, 2002. - С.41-43.

5. Кузнецов Л.А., Ермолаева Т.Н., Милованов C.B., Комаров В.В. Мультисенсорные системы на основе пьезокварцевых сенсоров для анализа газовых смесей // Материалы Всероссийской конференции «Актуальные проблемы аналитической химии».Т.1. - Москва, 2002. - С.75-76.

6. Кузнецов Л.А., Ермолаева Т.Н., Милованов C.B., Комаров В.В. Мультисенсорные системы на основе пьезокварцевых датчиков и их применение для диагностики газовых сред // Тез. докл. Ш Всероссийской конференции молодых ученых «Современные проблемы теоретической и экспериментальной химии» - Саратов: СГУ, 2001. - С. 171.

Подписано в печать .^'Формат 60x84 1/16 Бумага офсетная. Ротапринт. Печ. л. 1,0. Тираж 100 экз. Заказ № Типография ЛГТУ. 398600 Липецк, ул. Московская, 30

I

I

4

\

I*

I

i

»-847 1

РНБ Русский фонд

2005-4 5067

ВВЕДЕНИЕ.

1. ОБЗОР ПОДХОДОВ К МОНИТОРИНГУ ХИМИЧЕСКИХ СРЕД И ПОСТРОЕНИЮ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ

1.1. Системы анализа и мониторинга сред.

1.2. Химические сенсоры и мультисенсорные системы.

1.3. Математические методы обработки откликов мультисенсорных систем.

1.4. Применение различных типов искусственных нейронных сетей в задачах аппроксимации.

1.5. Построение моделей мультисенсорных систем на основе искусственных нейронных сетей прямого распространения.

1.6. Выбор алгоритма обучения нейросетевых моделей мультисенсорных систем.

1.7. Конфигурирование нейросетей и подготовка данных для обучения нейросетевых моделей мультисенсорных систем.

1.8. Выводы и постановка задач исследования.

2. ИССЛЕДОВАНИЕ СПОСОБОВ ПРИМЕНЕНИЯ НЕЙРОСЕТЕЙ ДЛЯ СИНТЕЗА АВТОМАТИЗИРОВАННЫХ СИСТЕМ АНАЛИЗА И МОНИТОРИНГА ХИМИЧЕСКИХ СРЕД

2.1. Пример нейросетевого моделирования мультисенсорной системы мониторинга воздушной среды.

2.2. Конфигурирование нейросетевых моделей мультисенсорных систем.

2.3. Исследование проблемы выбора структуры трехслойных нейросетевых моделей мультисенсорных систем.

2.4. Подготовка данных для обучения и оценки адекватности нейросетевой модели мультисенсорной системы.

2.5. Исследование различных правил коррекции весовых коэффициентов в алгоритме обратного распространения ошибки.

2.6. Исследование работы комбинированных методов обучения нейросетевых моделей.

2.7. Применение автоматического останова в алгоритме обучения нейросетевых моделей мультисенсорных систем.

2.8. Выводы.

3. РАЗРАБОТКА МЕТОДИКИ СИНТЕЗА АВТОМАТИЗИРОВАННЫХ СИСТЕМ АНАЛИЗА И МОНИТОРИНГА ХИМИЧЕСКИХ СРЕД

3.1. Общее описание методики синтеза.

3.2. Предварительный анализ задачи синтеза.

3.3. Подготовка обучающих и тестовых данных.

3.4. Конфигурирование нейросетевых моделей мультисенсорных систем.

3.5. Обучение нейросетевых моделей мультисенсорных систем.

3.6. Оптимизация нейросетевых моделей мультисенсорных систем.

3.7. Выводы.

4. ПРАКТИЧЕСКОЕ ПРИМЕНЕНИЕ МЕТОДИКИ СИНТЕЗА АВТОМАТИЗИРОВАННЫХ СИСТЕМ АНАЛИЗА И МОНИТОРИНГА ХИМИЧЕСКИХ СРЕД

4.1. Постановка задачи синтеза АС мониторинга воздушной среды.

4.2. Подготовка данных для моделирования АС.

4.3. Корреляционный анализ чувствительности сенсоров.

4.4. Синтез нейросетевых моделей АС мониторинга воздушной среды.

4.5 Оптимизация нейросетевых моделей АС мониторинга воздушной среды.

4.6. Сравнительный анализ решений.

4.7. Выводы.

Актуальность темы. Управление химико-технологическими процессами на производстве и мониторинг состояния окружающей среды базируются на контроле содержания химических компонентов в различных смесях и средах. Для решения этих задач используются системы анализа и мониторинга химических сред. Разработка и автоматизация подобных систем представляет собой сложную научно-техническую задачу, решение которой важно для практических нужд современного общества.

В настоящее время широкое распространение получил подход, заключающийся в интеграции сенсорных систем химического анализа и математических методов обработки данных. Наиболее перспективны в этом отношении мультисенсорные системы с использованием экономичных неселективных или слабоселективных химических сенсоров, сигналы которых обрабатываются при помощи аппарата искусственных нейронных сетей. Нейронные сети позволяют строить сложные нелинейные многопараметрические зависимости для мультисенсорных систем которые, содержат десятки и сотни сенсоров. Нейронные сети устойчивы к погрешностям в экспериментальных данных и обеспечивают высокий уровень точности вычисления прогнозируемых величин.

Современная технология разработки автоматизированных систем анализа и мониторинга химических сред с применением искусственных нейронных сетей имеет недостатки, связанные с отсутствием специальных алгоритмов и низкой эффективностью существующих методик нейросетевого моделирования мультисенсорных систем. Существующий подход характерен разработками уникальных нейросетевых моделей, требует проведения широкомасштабных исследований и привлечения значительных средств.

Таким образом, актуальна задача создания более эффективных и экономичных методик синтеза автоматизированных систем анализа и мониторинга химических сред с использованием нейронных сетей, применимых для широкого класса мультисенсорных систем.

Цель работы состоит в исследовании и совершенствовании методов синтеза автоматизированных систем анализа и мониторинга химических сред на основе систематического применения искусственных нейронных сетей, современных информационных технологий и мультисенсорных систем в качестве источников первичной информации.

Для достижения поставленной цели были определены следующие задачи исследования:

1. Изучить существующие подходы к решению задач синтеза автоматизированных систем анализа и мониторинга химических сред, включая методы выбора структуры систем, технического и программного обеспечения, а также прикладные аспекты моделирования этих систем с использованием искусственных нейронных сетей прямого распространения.

2. Исследовать возможности улучшения существующего подхода к нейросетевому моделированию мультисенсорных систем и выявить направления повышения его эффективности.

3. Определить этапы и формализовать процесс разработки моделей искусственных нейронных сетей прямого распространения, ориентированных на обработку откликов мультисенсорных систем.

4. Разработать алгоритмы: предварительной подготовки обучающих и тестовых данных для построения нейросетевых моделей мультисенсорных систем; конфигурирования нейросетевых моделей мультисенсорных систем; обучения искусственных нейронных сетей прямого распространения для настройки нейросетевых моделей калибровочных функций мультисенсорных систем; оптимизации нейросетевых моделей мультисенсорных систем.

5. Осуществить синтез автоматизированной системы мониторинга воздушной среды с использованием разработанной методики и алгоритмов.

Методы исследования. В работе использованы положения и методы теории автоматического управления, теории искусственных нейронных сетей, теории планирования экспериментов, математического моделирования, системного анализа. Широко применялись методы статистического и регрессионно-корреляционного анализа данных, вычислительные эксперименты, методы объектно-ориентированного проектирования и программирования, результаты экспериментальных исследований химических сред.

Научная новизна. В диссертации разработаны новые:

- методика синтеза автоматизированных систем анализа и мониторинга химических сред, применимая для широкого класса систем на основе химических сенсоров, позволяющая автоматизировать и повышать эффективность процесса их разработки;

- алгоритм предварительной подготовки экспериментальных данных для построения нейросетевых моделей мультисенсорных систем, который позволяет систематизировать процесс подготовки обучающих данных и повышать его качество;

- специальный алгоритм обучения нейросетевых моделей мультисенсорных систем на основе усовершенствованного алгоритма обратного распространения ошибки, в состав которого введены новые правила коррекции весов, останова и схема инициализации весовых коэффициентов;

- алгоритм построения конфигураций нейросетевых моделей, обеспечивающий структурную оптимальность нейронных сетей при заданных пользователем ограничениях и допусках. Практическая значимость полученных результатов. Разработанные в диссертации методики, алгоритмы, нейросетевые модели и научно-практические рекомендации использованы для создания прототипа автоматизированной системы мониторинга воздушной среды, позволяющей определять содержание ряда канцерогенов, встречающихся в выбросах химических и металлургических производств. Синтезированная автоматизированная система способна с достаточной точностью осуществлять мониторинг загрязнения воздушной среды группой полиароматических углеводородов.

Практическое применение разработанных в диссертации подходов позволит автоматизировать и повысить эффективность разработки автоматизированных систем анализа и мониторинга химических сред с использованием широкого класса экономичных химических сенсоров.

Реализация результатов работы. Основные теоретические и практические положения диссертационной работы реализованы в виде пакета программ, которые могут быть использованы для синтеза автоматизированных систем анализа и мониторинга сред с использованием широкого класса мультисенсорных систем.

Результаты диссертационной работы используются в учебном процессе ЛГТУ при изучении студентами специальностей «220200 -Автоматизированные системы обработки информации и управления», «351500 - Математическое обеспечение и администрирование информационных систем» специальных дисциплин «Системы искусственного интеллекта», «Идентификация систем», при прохождении производственных практик, при выполнении курсовых и дипломных работ.

Апробация работы. Основные положения и результаты диссертации обсуждались на III-й Всероссийской конференции молодых ученых «Современные проблемы теоретической и экспериментальной химии» (Саратов, 2001); на Всероссийской конференции «Актуальные проблемы аналитической химии» (Москва, 2002); на VI Международном симпозиуме молодых ученых, аспирантов и студентов «Техника и технология экологически чистых производств» (Москва, 2002); на II Международной научно-технической конференции «Современные сложные системы управления» (Старый Оскол, 2002); на III Международной научно-технической конференции «Современные сложные системы управления» (Воронеж, 2003).

Публикации. По материалам проведенных исследований опубликовано 6 печатных работ.

Структура и объем работы. Диссертационная работа включает в себя введение, список используемых аббревиатур, четыре основных главы, заключение, библиографический список из 107 наименований. Основная часть работы изложена на 126 страницах машинописного текста, содержит 34 рисунка и 13 таблиц.

4.7. Выводы

Проведено исследование практического применения разработанной в диссертации методики синтеза АСАМ на примере создания автоматизированной системы мониторинга воздушной среды.

Процесс синтеза рассматриваемой АС был выполнен за короткий срок и не потребовал проведения дополнительных исследований, что является существенным отличием от выявленных в литературе работ, в которых, как правило, используются эвристические методы поиска решений. Все реализованные в составе методики алгоритмы и методы показали устойчивую работу.

Разработанная автоматизированная система пригодна для мониторинга и количественного анализа загрязнения воздушной среды группой полиароматических углеводородов с относительной погрешностью вычисления менее 5%. Использование данной АС на практике гарантирует своевременное оповещение о превышении уровня допустимых концентраций этих веществ и обеспечивает безопасность жизнедеятельности человека.

Полученные результаты позволяют рекомендовать данную методику к использованию при построении широкого класса АСАМ на базе сенсорных систем.

ЗАКЛЮЧЕНИЕ

В результате выполненных в диссертации исследований разработаны:

1. Методика синтеза автоматизированных систем анализа и мониторинга химических сред с использованием одновыходовых трехслойных искусственных нейронных сетей прямого распространения. В отличие от существующих подходов, разработанная методика пригодна для синтеза автоматизированных систем с использованием широкого класса мультисенсорных систем и позволяет практически полностью автоматизировать процесс синтеза.

2. Алгоритм предварительной подготовки экспериментальных данных для построения аппроксимирующих нейросетевых моделей мультисенсорных систем, который позволяет составить выборку обучающих данных при минимальном объеме экспериментов и гарантировать успешность создания нейросетевой модели в целом.

3. Схема конфигурирования нейросетевых моделей мультисенсорных систем, которая позволяет задавать структуру моделей в зависимости от требований к точности, использовать при моделировании небольшие объемы экспериментальных данных и упрощает настройку моделей, снижая размерность задачи обучения по сравнению с задачей, решаемой при обучении многослойных многовыходовых нейронных сетей.

4. Специальный алгоритм обучения нейросетевых моделей мультисенсорных систем. Новый алгоритм более эффективен по сравнению с алгоритмом обратного распространения ошибок и его модификациями за счет введения нового правила коррекции весов, правила останова и алгоритма инициализации весовых коэффициентов. Алгоритм не подвержен явлениям «паралич сети» и «переобучение», свойственным алгоритму обратного распространения ошибок, предоставляет возможность выхода из небольших локальных минимумов и, в целом, обеспечивает высокую скорость сходимости и точность нейросетевой аппроксимации. Новый алгоритм обучения относится к классу комбинированных методов оптимизации, которые считаются одними из эффективных методов поиска оптимальных решений, близких к глобальному оптимуму.

5. Методика выбора оптимальных нейросетевых моделей, обеспечивающая структурную оптимальность нейронных сетей и достижение ими максимальной точности аппроксимации на имеющихся экспериментальных выборках при заданных пользователем ограничениях и допусках.

6. Пакет прикладных программ, реализующий разработанные алгоритмы и позволяющий автоматизировать процесс синтеза АСАМ. Эти программы могут быть применены и как эффективный инструмент для построения и настройки искусственных нейронных сетей прямого распространения при решении задач моделирования систем методами нейронных сетей.

7. Автоматизированная система мониторинга воздушной среды для количественного анализа загрязнения воздушной среды химическими компонентами из группы полиароматических углеводородов с относительной погрешностью вычисления менее 5%.

1. Абровский Н.П., Максимова О.М. Системный подход к нейросетевому моделированию // Нейрокомпьютеры: разработка, применение. 2001. - №9. -С.34-39.

2. Аведьян Э.Д., Алгоритмы настройки многослойных нейронных сетей // Автоматика и телемеханика. 1995. - №4. - С. 106-118.

3. Айвазян С. А., В.М. Бухштабер, И.С. Енюков, Л. Д. Мешалкин Классификация и снижение размерности: Справ, изд. М.: Финансы и статистика, 1989. - 607 с.

4. Арнольд В.И. О функциях трех переменных // Докл. АН СССР, 1957.-Т.114. №4. - С.679-681.

5. Асатурян В.И. Теория планирования эксперимента: Учеб. Пособие для вузов. М.: Радио и связь, 1983. - 248 с.

6. Бендат Дж.С., Пирсол А.Дж. Прикладной анализ случайных данных. М.: Мир, 1989.-540 с.

7. Борисов Ю., Кашкаров В., Сорокин С. Нейросетевые методы обработки информации и средства их программно-аппаратной поддержки // Открытые системы, 1997. № 4 - С.25-28.

8. Блохин В.Г., Глудкин О.П., Гуров А.И., Ханин М.А. Современный эксперимент: подготовка, проведение, анализ результатов. М.: Радио и связь, 1997.-232 с.

9. Блюмин С.Л., Шуйкова И.А., Сараев П.В., Черпаков И.В. Нечеткая логика: алгебраические основы и приложения: Монография Липецк: ЛЭГИ, 2002. -111 с.

10. Будников Г. К. Что такое химические сенсоры. // Сорос, образов, журнал. 1998. - №3 - С.72-76.

11. Бэстенс Д.-Э., Ван Денберг В.-М., Вуд Д. Нейронные сети и финансовые рынки. Принятие решений в торговых операциях. М.: ТВП Научное издательство, 1997. - 50 с.

12. Власов Ю.Г. и др. Мультисенсорная система на основе массива неселективных химических сенсоров распознавания образцов// ЖАХ, 1998. -Т71. №9 - С.1483-1486.

13. Вредные вещества в промышленности: Т.1- 2, Справ, изд. для химиков и врачей / под ред. Лазарева Н. В. и Левиной Э. Н. Л.: Химия, 1976. - 540 с.

14. Галушкин А.И. Современные направления развития нейрокомпьютерных технологий в России // Открытые системы, 1997. №4. - С.25-28.

15. Галушкин А.И., Судариков В.А., Шабанов Е.В. Нейроматематика -методы решения на нейрокомпьютерах // Математическое моделирование, 1991. Т.З. - №8. - С.101-106.

16. Галушкин А.И. Теория нейронных сетей Кн,1:Учеб. пособие для вузов / Общая ред. А.И. Галушкина. М.:ИПРЖР, 2000. - 416 с.

17. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация. М.: Мир, 1985.-509 с.

18. Горбань А.Н. Обобщенная аппроксимационная теорема и вычислительные возможности нейронных сетей // Сибирский журнал вычислительной математики. Новосибирск, РАН, Сиб.отд. - 1998, - №1 -С. 11-24.

19. Горбань А.Н., Россиев Д. А. Нейронные сети на персональном компьютере Новосибирск: Наука (Сиб.отд.), 1996. - 276 с.

20. Демиденко Е.В. Линейная и нелинейная регрессии. М.: Финансы и статистика, 1981. -302 с.

21. Джонсон Н., Лион Ф. Статистика и планирование эксперимента в технике и науке: Методы планирования эксперимента. М.: Мир, 1981. - 520 с.

22. Дмитриев М. Т., Казнина Н. И., Пинигина И. А. Санитарно-химический анализ загрязняющих веществ в окружающей среде: Справ, изд. М.: Химия. 1989-368 с.

23. Дубров A.M., Мхитирян B.C., Трошин Л.И, Многомерные статистические методы, -М.: Финансы и статистика, 1998. 352 с.

24. Дубровин В.И., Субботин С.А. Методы повышения эффективности процедур нейросетевой диагностики II Нейрокомпьютеры: разработка, применение, 2002. №3. - С.3-9.

25. Дэннис Д., Шнабель Р., Численные методы безусловной оптимизации и решения нелинейных уравнений. М.: Мир, 1988. - 440 с.

26. Евтушенко Ю.Г. Методы решения задач и их применение в системах оптимизации.-М.-Наука, 1982. 432с.

27. Ефимов В.В., В.А. Яковкин Нейросетевое диагностирование ботового оборудования автономного космического аппарата // Нейрокомпьютеры: разработка, применение, 2001. № 11.- С.54-63.

28. Жиглявский А.А., Жилинскас А.Г. Методы поиска глобального экстремума. -М.: Наука, 1991. 248 с.

29. Золотов Ю. А. Химические сенсоры // ЖАХ, 1990. Т.45. - №7. - С. 1255 - 1258.

30. Зубков А.В. Нейросетевая модель предсказания временных последовательностей // Нейрокомпьютеры: разработка, применение, 2002. -№3. С.29-41.

31. Каллан Р. Основные концепции нейронных сетей: Пер. с англ. М.: Изд. дом «Вильяме», 2001 -287с.

32. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных. // Докл. АН СССР, 1956. Т. 108. -№2. - С. 179-182.

33. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного. // Докл. АН СССР, 1957. Т. 114. - №5. - С.953-956.

34. Комарцова Л.Г. Анализ самоорганизующейся сети Кохонена для решения задач распознавания П Нейрокомпьютеры: разработка, применение, 2001. -№12.-С.3-9.

35. Комарцова Л.Г., Максимов А.В. Нейрокомпьютеры: Учеб. пособие для вузов. М.: Изд-во МГТУ им. Н.Э.Баумана, 2002. - 320 с.

36. Кохонен Т. Ассоциативные запоминающие устройства. М.: Мир, 1982. -340 с.

37. Кудинов Ю.И., Халов Е.А. Использование нейронных сетей в задачах моделирования // Сварка и родственные технологии в машиностроении и электронике: Региональный сборник научных трудов. Липецк, ЛГТУ, 2001. -С.130-136.

38. Кудинов Ю.И., Халов Е.А. Моделирование биологических процессов с помощью нейронных сетей // Экология центрально-черноземной области РФ. -2001.- №2(7) -С.35-39.

39. Кузнецов Л.А., Погодаев А.К., Блюмин С.Л. Статистическая оценка точности оптимизации технологических параметров на основе нелинейной регрессии // Изв.вузов.Черная металлургия. 1992. - №7. - С.69-71.

40. Кузнецов Л.А., Комаров В.В. Анализ сред мультисенсорными системами с использованием искусственных нейронных сетей // Сборник трудов II Международной конференции «Современные сложные системы управления»- Старый Оскол, 2002. С. 233-237.

41. Кузнецов Л.А., Комаров В.В. Система автоматического определения загрязнения воздушной среды с использованием искусственных нейронных сетей // Датчики и системы. 2003. - №4 - С. 41-46.

42. Кузнецов Л.А., Комаров В.В. Исследование мультисенсорных систем нейронными сетями // Сборник трудов III Международной конференции «Современные сложные системы управления».Т.2. Воронеж: ВГАСУ, 2003.- С. 376-380.

43. Кузнецов В.В., Дьяков Н.А. Возможности метода искусственных нейронных сетей для оценки параметров мембранных оптических рН-сенсоров // ЖАХ, 1999. Т.54. -№11.- С.1212-1218.

44. Кулаков М.В. Технологические измерения и приборы для химических производств. Учебник для вузов. Изд. 2-е, перераб. и доп. М.: Машиностроение, 1974. - 464 с.

45. Куравский Л.С., Баранов С.Н. Применение нейронных сетей для диагностики и прогнозирования усталостного разрушения тонкостенных конструкций // Нейрокомпьютеры: разработка, применение, 2001. № 12. -С. 47-63.

46. Ланкин Ю.П., Лалетин А.П. Моделирование изменений экологических объектов с помощью нейронных сетей // Сибирский экологический журнал, 1999. Т6. - №4. - С. 449-452.

47. Майстренко В. Н., Хамитов Р. 3., Будников Г. К. Эколого -аналитический мониторинг супертоксикантов. М.: Химия, 1996. С. 65 - 90.

48. Мартынов В. А., Райков П. Н. Кварцевые резонаторы. Элементы радиоэлектронной аппаратуры. Вып. 34. М.: Советское радио, 1976. - 64 с.

49. Методы классической и современной теории автоматического управления: Учебник в 3-х т. Т.З: Методы современной теории автоматического управления / Под.ред. Н.Д.Егупова. М.: Изд-во МГТУ им.Н.Э.Баумана, 2000. - 748 с.

50. Мину М. Математическое программирование. М.: Наука, 1990. - 488 с.

51. Михалевич B.C., Гупал Ф.М., Норкин В.Н. Методы невыпуклой оптимизации М.:Наука,1987. - 280 с.

52. Муравьева С. И., Казнина Н. И.,. Прохорова Е. К. Справочник по контролю вредных веществ в воздухе: Справ, изд. М.: Химия, 1988 - 320с.

53. Мясоедов Б. Ф., Давыдов А. В. Химические сенсоры: возможности и перспективы // ЖАХ, 1990. Т. 45. - № 7. - С.1259-1278.

54. Нейроинформатика / Горбань А.Н., Дунин-Барковский B.JL, Кирдин и др. -Новосибирск: Наука. Сибирское отделение РАН, 1998. 296 с.

55. Нейронные сети. STATISTICA Neural Networks: Пер. с англ. М.: Горячая линия - Телеком, 2000 - 182 с.

56. Нестеров Ю.Е. Эффективные методы в нелинейном программировании -М.: Радио и связь, 1989. 304 с.

57. Одинаев В.А., Степанов Ю.А., Одинаева И.В. Обучение искусственной нейронной сети управлению сложной технической системой // Нейрокомпьютеры: разработка и применение, 2001. №11. - С.41-43.

58. Осовский С. Нейронные сети для обработки информации / Пер. с польского И.Д. Рудинского. М.:Финансы и статистика, 2002. - 344 с.

59. Погодаев А.К., Блюмин C.JI. Адаптация и оптимизация в системах автоматизации и управления: Монография. Липецк: ЛЭГИ, 2003. - 128 с.

60. Пурмаль А. П. Антропогенная токсикация планеты. Ч. 2 // Сорос, образов, журнал, 1998. № 9. - С. 46 - 48.

61. Реклейтис Г., Рейвиндран А., Рэгсдел К. Оптимизация в технике: В 2-х кн. Кн.1. Пер. с англ. -М.: Мир, 1986. -350с.

62. Сараев П.В. Использование псевдообращения в задачах обучения искусственных нейронных сетей // Исследовано в России: Эл.жур. 2001. -№29. - С.308 - 317. http://zhurnal.ape.relarn.ru/articles/2001/029.pdf

63. Сараев П.В. Моделирование и разработка численных методов обучения нейронных сетей суперпозиционной линейно-нелинейной структуры / Автореферат диссертации на соискание ученой степени кандидата технических наук Воронеж, 2003. - 19 с.

64. Сергеев А.Г., Крохин В.В., Метрология: Учеб. пособие для вузов. М: Логос, 2000 - 408 с.

65. Слотин Ю.С. Композиционное планирование регрессионного эксперимента. М.: Знание, 1983. - 52 с.

66. Степановских А.С. Охрана окружающей среды: Учебник для вузов -М.:ЮНИТИ-ДАНА, 2000 559с.

67. Судариков В.А. Исследование адаптивных нейросетевых алгоритмов решения задач линейной алгебры // Нейрокомпьютер, 1992. № 3-4 - с. 13-20.

68. Сухарев А.Г. Глобальный экстремум и методы его отыскания // Математические методы в исследованиях операций/Под ред.Н.Н.Моисеева, П.С.Краснощекова.-М.:МГУ, 1981. С.4-37.

69. Тхоржевский В.-П. Автоматический анализ газов и жидкостей на химических предприятиях М. Химия, 1976. - 272с.

70. Vs. Уоссермэн Ф. Нейрокомпьютерная техника: Пер. с англ. -М: Мир, 1992. -184 с.

71. Фролов А.А., Муравьев И.П. Нейронные модели ассоциативной памяти -М.: Наука, 1987.- 160 с.

72. Царегородцев В.Г., Погребная Н.А. Нейросетевые методы обработкиiинформации в задачах прогноза климатических характеристик и лесорастительных свойств ландшафтных зон // Методы нейроинформатики. -Красноярск: Издательство КГТУ, 1998. 205 с.

73. Цыпкин Я.З. Информационная теория идентификации М.: Наука, 1995. -340 с.

74. Шумский С.А., Яровой А.В., Зорин O.JI. Ассоциативный поиск текстовой информации Научная сессия МИФИ-99 // Всероссийская научно-техническая конференция «Нейроинформатика-99». Сб. научных трудов. В 3-х частях. -М: МИФИ, 1999. -Ч.З. - с.101-109.

75. Электроаналитические методы в контроле окружающей среды/ Р.Кальвода, Я.Зыка, К.Штулик, и др. Пер. с англ. Под ред. Е.Я. Неймана. -М.:Химия, 1990.-240с.

76. Alder J. F., McCallum J. J. Piezoelectric devices for mass and chemical measurements: an update // Analyst, 1989. V.l 14. - P. 1173-1189.

77. Barko G., Hlavay J. Application of principal component analysis for the characterization of a piezoelectric sensors array // Anal. chem. acta, 1998. V.367, №1-3. —P.135-143.

78. Beltratti, A,, Margarita, S., Terna P. Neural networks for economic and financial modeling. ITCP, 1995. -154c.

79. Chu X., Jiang J.-H. et al. Simultaneous immunoassay using piezoelectric immunosensor array and robust method // Anal. chem. acta, 1996 V.336 — P. 185193.

80. Cao Zh. et al. Mimicking the olfactory system by thickness-shear-mode acoustic sensor array // Anal, chem, acta, 1996 V.335 - P. 117-125.

81. Do J.-S., Chang W.-B. Amperometric nitrogen dioxide gas sensor: preparation of PAn/Au/SPE and sensing behavior // Sensors and Actuators, 2001. B72. -P.101-107.

82. Hecht-Nielsen R. Applications of counterpropagation networks // Neural Networks, 1988.-№1.- P.131-139.

83. Hong H.-K. a. o. Portable electronic nose system with gas sensor array and artificial neural network // Sensors and Actuators, 2000. B66. - P.49-52.

84. Hylcin S. Neural networks, a comprehensive foundation N.Y.: Macmillan College Publishing Company, 1994. - 325 c.

85. Hwang B.J. et al. Recognition of alcohol vapor molecules by simultaneous measurements of resistance changes on polypyrrole-based composite thin films // Sensors and Actuators, 2001. -B75. P. 67-75.

86. Keller P.E. et al. Three neural network based sensor systems for environmental monitoring // Proceedings of the IEEE International Conference Electro'94, Boston, USA, 1994. P.378-381.

87. Keller P.E. et al. Electronic noses and their applications // Proceedings of the IEEE Technical Applications Conference (TAC) Northcon'95, Portland, USA, 1995. P.168-172.

88. Lau K.-T., Micklefield J., Slater J.M. The optimization of sorption sensor arrays for use in ambient conditions // Sensors and Actuators, B50, 1998, pp.69-79.

89. Madani K. Neural networks based intelligent adaptive control: from theoretical aspects to hardware implementation // Нейрокомпьютеры: разработка, применение, 2002. № 5-6. - C.58-78.

90. Natale C.D. et al. Qualitative structure-sensitivity relationship in porphyrins based QMB chemical sensors // Sensors and Actuators, 2000. -B68. P.319-323.

91. Navarro-Villoslada F. et al. Matrix effect modeling in multivariate determination of priority pollutant chlorophenols in urine samples // Anal. chem. acta, 1999.-V381.-P.93-102.

92. Ogawa H., Sugiyama M., Active learning for Optimal Generalization in Trigonometric Polynomial Models // IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences, 2001. №9. - p.2319-2329.

93. Rosier S. et al. Sensor system for the detection of organic pollutants in water by thickness shear mode resonators // Sensors and Actuators, 1998. -B48. P. 415-424.

94. Riedmiller M., Braun H. RPROP a fast adaptive learning algorithm. Technical Report, Karlsruhe: University Karlsruhe, 1992. - P.l-12.

95. Rumelhart D. E., Hinton G. E., and Williams R. J. Learning internal representations by error propagation. In Parallel distributed processing, Cambridge, MA: MIT Press., 1986, V.l - P.318-362.

96. Schmautz A. Application-specific design of a piezoelectric chemo-sensor array // Sensors and Actuators 1992. - № 6. - P.38-44.

97. Sejnowski T.J., Rosenberg C.R. Parallel networks that learn to pronounce English text // Complex Systems, 1987, №1. - P.145-168.

98. Shin J.-S. a. o. Piezoelectric crystal membrane chemical sensors based on fullerene C60 // Sensors and Actuators, 2001. B76. -P.347-353.

99. Thimm G., Fiesler E. Neural network initialization // From Natural to Artificial Neural Computation -Malaga: IWANN, 1995. P.533-542.

100. Vapnik V.N., Chervonenlcis A. On the uniform convergence of relative frequencies of events to their probabilities // Theory of probability and its applications, 1971. V.16-P.264-280.

101. Xing W.-L., He X.-W. Kinetic determination of organic vapor mixtures with single piezoelectric quartz crystal sensor using artificial neural net works and partial least squares // Chem.Lett., 1996. -№12. -P.1065-1066.

102. Zhao Ch., Pan Y. Assay of fish freshness using trimethylamine vapor probe based on a sensitive membrane on PQC // Sensors and Actuators, 2001. B48. -p.1-5.