автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.01, диссертация на тему:Алгоритмы определения необходимой и достаточной разрядности искусственных нейронных сетей в составе систем обработки информации

На правах рукописи

МАКАРОВ МИХАИЛ ВЯЧЕСЛАВОВИЧ

АЛГОРИТМЫ ОПРЕДЕЛЕНИЯ НЕОБХОДИМОЙ И ДОСТАТОЧНОЙ РАЗРЯДНОСТИ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ В СОСТАВЕ СИСТЕМ ОБРАБОТКИ ИНФОРМАЦИИ

Специальность 05.13.01 Системный анализ, управление и обработка информации (промышленность)

2 8 НОЯ 2013

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата технических наук

Муром 2013

005541323

Работа выполнена на кафедре «Системы автоматизированного проектирования» Муромского института (филиала) Федерального государственного бюджетного образовательного учреждения высшего профессионального образования (ФГБОУ ВПО) «Владимирский государственный университет имени Александра Григорьевича и Николая Григорьевича Столетовых» (ВлГУ).

Научный руководитель:

Официальные оппоненты:

Ведущая организация:

Данилин Сергей Николаевич, кандидат технических наук, доцент, доцент кафедры «Системы автоматизированного проектирования» Муромского института (филиала) ВлГУ, г. Муром Владимирской области.

Орлов Алексей Александрович — доктор технических наук, заведующий кафедрой «Физика и прикладная математика» Муромского института (филиала) ВлГУ, г. Муром Владимирской области;

Симаков Роман Александрович - кандидат технических наук, директор по науке ООО «Корпорация Ред Софт»», г. Москва.

Федеральное государственное автономное научное учреждение (ФГАНУ) «Центр информационных технологий и систем органов исполнительной власти» (ЦИТиС), г. Москва.

Защита диссертации состоится «18» декабря 2013 г. в 14 часов на заседании диссертационного совета Д212.025.01 при ВлГУ по адресу: г.Владимир, ул. Горького, 87, корпус 1, ауд. 335-1.

С диссертацией можно ознакомиться в научной библиотеке ВлГУ.

Отзывы на автореферат в двух экземплярах, заверенные печатью, просим направлять по адресу совета университета: 600000, г. Владимир, ул. Горького, 87, ученому секретарю диссертационного совета Д.212.025.01. Автореферат диссертации размещен на сайте ВАК http://vak.ed.gov.ru.

Автореферат диссертации разослан «15» ноября 2013 г.

Ученый секретарь диссертационного совета доктор технических наук

ДАВЫДОВ Н.Н.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследования и степень ее разработанности.

Производственный процесс создания современной промышленной продукции основан на применении технических систем обработки информации.

Совершенствование названных систем, путем применения новых методов обработки информации и современных программно-аппаратных вычислительных средств, является составной частью модернизации производственных объектов.

Как показали исследования, наиболее важной в промышленных системах обработки информации является задача обеспечения заданной техническими условиями точности вычислений. Снижение точности вычислений свойственно этим системам при работе в условиях внешних дестабилизирующих воздействий, являющихся неотъемлемой частью производственной среды. Построение отказоустойчивых промышленных систем обработки информации, обладающих высокими техническими характеристиками и способных функционировать при искажении обрабатываемой информации внешними факторами, является одной из важнейших задач современного системного анализа и имеет большое практическое и общенаучное значение.

Анализ научно-технических публикаций показал, что методы параллельных вычислений позволяют решать вышеназванную задачу. Большинство специалистов сделали вывод, что наилучшие результаты достигаются при использовании математического аппарата искусственных нейронных сетей.

Таким образом, разработка компонентов систем обработки информации на базе искусственных нейронных сетей является одним из перспективных путей модернизации производственного процесса.

Теория и практика инженерного проектирования искусственных нейронных сетей находится в стадии своего становления и развития.

Актуальной задачей на этапе инженерного проектирования аппаратных и (или) программных реализаций искусственных нейронных сетей является обеспечение заданных показателей точности функционирования, на которые оказывает влияние их структура, параметры элементов нейронов, характеристики обрабатываемой информации, а также внутренние и внешние дестабилизирующие факторы.

Процесс определения необходимой и достаточной разрядности входной информации и искусственных нейронных сетей является эффективным средством устранения внешних и собственных шумовых и неинформативных признаков, позволяющего избежать недопустимого снижения обобщающей способности искусственных нейронных сетей и обеспечить требуемую точность их функционирования.

Вопросам проектирования систем обработки информации, в том числе нейросетевых, посвящены работы авторов: Аракеляна С.М., Галушкина А.И., Горбаня А.Н., Еремин Д.М., Жукова JI. А., Ланцова В.Н., Миркеса Е.М., Садыкова С.С., Стогней В.Г., Терехова В.А., Царегородцева В.Г., Callan R., Haykin S., Kubo Y., LeCun Y., Murray A., Ossovski S., Osyczka A., Parser E., Reyneri L.M., Schneider M.H., Takase H., Wasserman P.D. и др.

Объектом исследования'являются методы инженерного проектирования искусственных нейронных сетей в составе систем обработки информации.

Предметом исследования являются алгоритмы обеспечения точности функционирования искусственных нейронных сетей через процесс определения их необходимой и достаточной разрядности.

Научная задача состоит в разработке новых алгоритмов определения необходимой и достаточной разрядности искусственных нейронных сетей, способствующих устранению собственных шумовых и неинформативных признаков, вызывающих искажение обрабатываемой информации.

Цели и задачи. Целью настоящей работы является улучшение технических характеристик промышленных систем обработки информации.

Исходя из цели работы, основными задачами исследования являются:

— аналитический обзор известных методов и алгоритмов определения необходимой и достаточной разрядности искусственных нейронных сетей для обеспечения заданных показателей точности функционирования;

— разработка и исследование теоретико-экспериментальных основ для построения алгоритмов проектирования искусственных нейронных сетей с необходимой и достаточной разрядностью;

— разработка алгоритмов определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей;

- исследование возможности применения разработанных алгоритмов для обеспечения заданных показателей точности функционирования искусственных нейронных сетей;

- исследование возможностей применения искусственных нейронных сетей, разработанных с помощью новых алгоритмов, для решения практических задач в составе промышленных систем обработки информации.

Научная новизна:

- разработана новая научная идея по определению необходимой и достаточной разрядности искусственных нейронных сетей и обеспечению точности их работы;

- предложен нетрадиционный подход к проектированию искусственных нейронных сетей, позволяющий обеспечивать заданные показатели точности функционирования сети с учетом внутренних и внешних факторов, оказывающих влияние на качество обработки информации, объединяющий теоретическое и экспериментальное исследование объекта для определения необходимой и достаточной разрядности входной информации и элементов искусственных нейронных сетей;

— доказана перспективность и практическая значимость исследований для решения задачи по определению необходимой и достаточной разрядности и обеспечению точности работы искусственных нейронных сетей;

- введено понятие необходимой и достаточной разрядности искусственных нейронных сетей, являющееся критерием оптимальности их структуры для обеспечения заданных показателей точности функционирования.

Теоретическая значимость работы:

— доказаны положения и методики, вносящие вклад в расширение представлений об изучаемом явлении изменения точности работы

искусственных нейронных сетей при изменении разрядности входной информации и элементов;

- применительно к теме диссертации результативно (эффективно, то есть с получением обладающих новизной результатов) использован комплекс существующих базовых методов исследования, в т.ч. численных методов моделирования и экспериментальных методик;

- изложены идеи и положения, доказывающие применимость предлагаемого подхода исследования точности работы искусственных нейронных сетей;

- раскрыты противоречия современного представления о точности работы искусственных нейронных сетей и ее изменении при вариации разрядности, а так же при влиянии дестабилизирующих воздействий;

- изучены связи, внутренние и внешние противоречия и факторы, предопределяющие изменение точности работы искусственных нейронных сетей при изменении разрядности входной информации и элементов;

- проведена модернизация существующих подходов к проектированию искусственных нейронных сетей.

Практическая значимость работы:

- разработаны, и внедрены алгоритмы определения необходимой и достаточной разрядности искусственных нейронных сетей, обеспечивающих точность работы нейросетевых компонентов системы обработки информации в составе контрольно-измерительного комплекса на промышленном предприятии ОАО «Производственное объединение Муромский машиностроительный завод», г. Муром;

- определены перспективы практического использования полученных результатов при создании промышленных систем обработки информации на базе искусственных нейронных сетей;

- создана система практических рекомендаций по реализации процесса определения необходимой и достаточной разрядности искусственных нейронных сетей;

- представлены методические рекомендации по дальнейшему совершенствованию и их практическому использованию при реализации систем обработки информации на базе искусственных нейронных сетей.

Методология и методы исследования. В работе использованы методы проектирования искусственных нейронных сетей; математического и программного моделирования; дискретной математики; системного анализа; методы цифровой обработки информации.

Положения, выносимые на защиту:

- технология определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей;

- алгоритм определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей;

- алгоритм определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей с подавлением внешних искажающих факторов;

- результаты экспериментального исследования разработанных алгоритмов;

— результаты практического применения искусственной нейронной сети, созданной с помощью разработанных алгоритмов в виде оценки технических характеристик промышленного объекта внедрения.

Степень достоверности и апробация результатов. Основные полученные результаты представлены в виде алгоритмов, вычислительных схем алгоритмов и структурной схемы устройства на базе искусственной нейронной сети в составе промышленной системы обработки информации. Адекватность предложенных алгоритмов доказывается результатами экспериментов.

Результаты исследований получены автором при выполнении проектов, поддержанных фантами РФФИ №12-08-31064-мол а «Разработка автоматизированных методов оптимизации разрядности устройств с нейросетевой архитектурой или работающих в нейросетевом логическом базисе», №13-08-00348-а «Разработка автоматизированных методов определения оптимальной разрядности устройств с нейросетевой архитектурой или работающих в нейросетевом логическом базисе», №11-08-97551-р_центр_а «Разработка автоматизированных методов определения точности функционирования устройств с нейросетевой архитектурой или работающих в нейросетевом логическом базисе». Научные положения и выводы диссертации используются: в ОАО «ПО Муроммашзавод» при проведении контрольно-измерительных мероприятий; в учебном процессе МИ (филиала) ВлГУ по курсам «Информационные технологии проектирования ЭВС», «Физико-математические основы проектирования ЭВС», «Надежность приборов и систем» для специальностей «Проектирование ЭВС» и «Приборы и методы контроля качества».

Основные результаты диссертационной работы докладывались и обсуждались на X и XI Всероссийской научной конференции «Нейрокомпьютеры и их применение» (г. Москва, 2012, 2013 г.); II и III Всероссийских «Армандовских чтениях» (г. Муром, 2012, 2013 г.), IX международном симпозиуме «Интеллектуальные системы INTELS'2010» (г.Владимир, 2010 г.), VI Всероссийской научно-технической конференции «Виртуальные и интеллектуальные системы» (г. Барнаул, 2011 г.), а так же в рамках НТС секции информационных технологий ФГАНУ ЦИТИС (председатель Галушкин А.И., г. Москва, 2013 г.).

По теме диссертационной работы опубликовано 20 печатных работ, в том числе 10 статей, 6 из которых в журналах, входящих в перечень ВАК, 2 свидетельства об официальной регистрации программ для ЭВМ.

Диссертация состоит из введения, четырех глав, заключения, списка литературы имеющего 170 наименований и приложения. Общий объем диссертации 153 страницы, в том числе 129 страница основного текста. Таблиц 44, рисунков 51.

ОСНОВНОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении обоснована актуальность темы, сформулированы научная проблема, цели и задачи исследования, приведены результаты, выносимые на защиту и аннотация диссертационной работы.

В первой главе «Обзор и анализ возможностей использования искусственных нейронных сетей в технических системах обработки информации» рассмотрены перспективы и трудности применения искусственных нейронных сетей (ИНС) в качестве компонентов технических систем обработки информации, функционирующих в промышленном производстве.

На основе отечественных и зарубежных научно-технических публикаций, проведен анализ состояния вопроса проектирования нейросетевых компонентов систем обработки информации. Выполнен обзор научно-технических источников, рассматривающих известные методы инженерного проектирования ИНС. Произведено обоснование частных задач исследования для достижения цели работы.

Выявлена актуальная задача на этапе проектирования аппаратных или программных реализаций ИНС, которая заключается в обеспечении заданных показателей точности функционирования, через процесс определения необходимой и достаточной разрядности параметров сети. Это позволяет избежать появления искажений информации из-за значительного снижения точности работы сети при возникновении избыточности (присутствии шумовых, неинформативных признаков и нейронов). Определение необходимой и достаточной разрядности параметров ИНС приводит к устранению собственных информационных шумов из процессов обработки информации. Кроме того, удаление лишних признаков и элементов ИНС в большинстве случаев приводит к повышению надежности и снижению стоимости ее аппаратной реализации.

Аналитический обзор литературы посвященной алгоритмам и методам определения необходимой и достаточной разрядности ИНС не позволил найти теоретических или практических методов, позволяющих решать поставленные в работе задачи (таблица 1).

Таблица 1 - Анализ методов и алгоритмов устранения шумовых признаков ИНС.

Контрастирование (OBS, OBD и ДР-) НеГфО- ЭВОЛЮЦИОННЫЙ ПОДХОД (Генетические алгоритмы) Конструктивные алгоритмы Методы исследования целевой функции

Способность решать задачу + + + +

Инвариантность к структуре ИНС - - - -

Инвариантность к решаемой задачи - - - -

Инвариантность к сложности задачи + - + -

Применимость к реальным объектам + - + -

Применимость к параметрам (информации) элементов - - - -

Согласованность со стандартами в области проектирования - - - -

Определены цели и задачи диссертационной работы, направленные на улучшение технических характеристик производственной системы обработки информации путем внедрения ИНС с необходимой и достаточной разрядностью ее параметров и гарантированной точностью функционирования.

Названная прикладная задача непосредственно связана с основной научной целью работы: разработка алгоритмов определения необходимой и достаточной разрядности программных или аппаратных реализаций ИНС для обеспечения заданных показателей точности функционирования.

Вторая глава «Разработка алгоритма определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей» направлена на разработку теоретико-экспериментальных основ определения необходимой и достаточной разрядности ИНС.

Введены условия необходимой и достаточной разрядности ИНС. Необходимым условием, в рамках данной работы, является минимальное количественное значение разрядности, а достаточность разрядности ИНС определена условием обеспечения заданных на этапе проектирования показателей точности функционирования.

Разработана технология, согласующая процесс определения необходимой и достаточной разрядности ИНС с действующими российскими и зарубежными стандартами в области проектирования технических систем обработки информации. Согласно данной технологии, полученная в результате экспериментов информация о работе ИНС, является основой для теоретических расчетов.

Данная технология сводится к последовательному выполнению ряда этапов:

1. Синтез моделей ИНС, удовлетворяющих техническим требованиям;

2. Определение структуры и топологии ИНС согласно имеющимся ограничениям, для выполнения преобразования информации с наивысшими показателями точности функционирования;

3. Определение технических показателей ИНС при максимальной разрядности входной информации и платформы реализации;

4. Составление плана проведения эксперимента по действующим нормативным документам;

5. Пошаговое уменьшение разрядности входной информации и (или) элементов сети до достижения минимально допустимого значения точности функционирования;

6. Получение аналитических оценок границ необходимой и достаточной разрядности проектируемой ИНС.

Моделируется пошаговое уменьшение значения разрядности входной информации и весовых коэффициентов с фиксацией значений относительной погрешности при каждом сочетании разрядности операндов.

Для вариации разрядности применяется операция наложения разрядной сетки на значения входной информации и весовых коэффициентов.

Суть наложения разрядной сетки заключается в том, что некоторый диапазон чисел ставиться в соответствие узлам, соответствующим битовому представлению, т.е. шагу изменения на 2 в степени п, где п — число разрядов.

Разрядность входной информации определяется разрядностью АЦП, либо другими факторами и может равняться любому целому количеству единиц (/V), затем, в процессе эксперимента, уменьшаться на 1,2,..., N единиц путем округления.

Разрядность весовых коэффициентов формируется аналогичным способом, путем наложения на операнд разрядной сетки в диапазоне от 0 до 2 (где N изменяется от 12 до 1), что эквивалентно изменению разрядности представления операндов в том же диапазоне.

Математически данная операция может быть представлена в следующем виде:

А, =

А

2"-1

где

] - операция целочисленного округления;

ТУ-количество разрядов;

А/ - текущее значение операнда;

Атах- максимальное значение диапазона существования.

На основе представленной технологии, разработан алгоритм определения значений необходимой и достаточной разрядности входной информации и весовых коэффициентов ИНС (рисунок 1), позволяющий устранить неинформативные и шумовые признаки, что увеличивает обобщающую способность сети для обеспечения заданных показателей точности функционирования ИНС. Основным достоинством данного алгоритма является его инвариантность к структуре сети и решаемой задаче.

Рисунок 1 Блок-схема алгоритма определения необходимой и достаточной разрядности произвольных ИНС.

Кроме того, в главе рассмотрены принципы синтеза в системе Matlab моделей ИНС с наивысшими показателями точности функционирования: выбор количества слоев и нейронов в каждом слое, выбор функции активации нейронов каждого слоя и функции обучения всей сети, описаны возможные критерии оценки качества работы сети.

В третьей главе «Исследование алгоритма определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей» приведены результаты экспериментального исследования разработанного алгоритма определения необходимой и достаточной разрядности произвольных ИНС. Исследования проводились на моделях, выполняющих аппроксимацию функций, являющихся тестовыми при испытании, регулировки и диагностики технических систем обработки информации: основные математические и тригонометрические функции, а так же различных дифференциальные уравнения.

В ходе исследований синтезировались наилучшие по точности модели ИНС, с последующим применением к ним разработанного алгоритма определения необходимой и достаточной разрядности входной информации и весовых коэффициентов.

В качестве инструментального средства исследований использовался пакет прикладных программ Neural Network Toolbox, функционирующий под управлением ядра системы Matlab версии 7.0.

Результаты работы алгоритма (рисунки 2 и 3) с моделями ИНС представляют собой численные значения разрядности весовых коэффициентов и входной информации, достаточной для обеспечения заданных показателей точности функционирования, характеризуемых относительной погрешностью аппроксимации функций.

в - ! I ! ! S 1

I y-v* ymllx у siB(*) y~!g(A y-ctgix) у aresmCs)

Границы точности аппроксимации функций

Рисунок 2 — Результаты работы разработанного алгоритма.

I

Л

У

У

1 У»агсс<»(л) я»)»«' ГЮ-Чфх*® /Ю-а+Ых ПДл}»ж* }(з?)~а*Шх Я

л. Границы точности аппроксимации функций

Рисунок 3 - Результаты работы разработанного алгоритма.

После определения новых значений разрядности параметров ИНС, модели дообучались и дальнейшие исследования были направлены на количественную оценку свойств ИНС, определяющих точность ее функционирования.

Основным критерием оценки была выбрана обобщающая способность.

В качестве примера результатов исследований обобщающей способности моделей ИНС после дообучения с новыми значениями разрядности входной информации и весовых коэффициентов приведены значения выходного массива модели ИНС, выполняющей аппроксимацию синусоидального дифференциального уравнения. Эти значения показывают (рисунок 4), нижними проекциями на оси, точки, выходящие за пределы допустимых значений до применения к модели разработанного алгоритма и верхними проекциями, точки, выходящие за пределы допустимых значений после дообучения модели с новыми значениями разрядности весовых коэффициентов и входной информации.

Общие результаты по всем исследуемым моделям сведены в таблицу 2. Количество результатов, выходящих за пределы допустимых значений тестовой выборки, понизилось в среднем с 3% до 0,5% и менее.

Рисунок 4 - Обобщающая способность до и после применения алгоритма для модели ИНС выполняющей аппроксимацию синусоидального дифференциального -уравнения.

Таблица 2 — Результаты исследований обобщающей способности моделей.

Аппроксимируемая функция Обобщающая способность модели ИНС (процент решений, выходящих за допустимые границы точности) Аппроксимируемая функция Обобщающая способность модели ИНС (процент решений, выходящих за допустимые границы точности)

До применения алгоритма После применения алгоритма До применения алгоритма После применения алгоритма

II N 3% 0,31 % у = агссов(х) 5,88 % 0,57 %

у = Их 5,35% 0,35 % Г{х) = ахк 3,05 % 0,44 %

у = 8Іп(х) 4,07 % 0,44 % /'(*) = 8т(ох + 6), 2,9 % 0,35 %

у = соє*» 3,43 % 0,44 % /'{х) = а + Ых 3,66 % 0,47 %

у = tg(x) 3,24 % 0,41 % /\х) = 1/а + Ьх 3,12% 0,6 %

У = <%(*) 3,08 % 0,67 % Г(х) = ае>" 3,5 % 0,57 %

у = агс8Іп(х) 3,5 % 0,35 % /'(х) = а + Ь 1п.т 4,93 % 0,32 %

Помимо собственных шумов ИНС на точность вычислений могут влиять внешние искажающие факторы. Изучена возможность снижения шума во входной информации с помощью ИНС, при сохранении заданных показателей точности ее функционирования.

На основе проведенного исследования, разработан алгоритм определения необходимой и достаточной разрядности произвольных ИНС при влиянии искажающих факторов на входную информацию (рисунок 5), инвариантный к

разрядности ИНС при влиянии искажающих факторов на входную

информацию.

Данный алгоритм снижает уровень искажений на выходе ИНС. Такой эффект достигается путем применения процесса дообучения с использованием модифицированной обучающей выборки, содержащей информацию о типе шума и его уровне.

Предложенное решение позволило получать на выходе сети функцию близкую к «идеальной» (отношение сигнал/шум более 80 децибел), при высоком уровне шума во входном аргументе (отношение сигнал/шум менее 40 децибел).

Алгоритм предоставляет возможность выбора переменной «тип шума» из перечня имеющихся в библиотеке пакета Matlab, а так же выбор одного из возможных значений уровня шума характеризуемого переменной «отношение сигнал/шум». После задания основных переменных формируется шум заданного параметра и добавляется к входному вектору и цели обучения (targets). После завершения процесса дообучения сети каждый последующий выходной массив значений ИНС будет лишен шумовой составляющей.

Таким образом, достаточно задать необходимые для обеспечения качества обработки информации границы точности функционирования сети, а процесс пошагового уменьшения разрядности с расчетом относительной погрешности определит необходимую и достаточную, для поддержания заданного уровня точности, разрядность входной информации и весовых коэффициентов.

Проектирование ИНС с помощью данного алгоритма позволяет повысить обобщающую способность и обеспечить заданный показатель точности работы проектируемого устройства обработки информации с нейросетевой архитектурой за счет удаления собственных шумовых и неинформативных признаков и устранения влияния внешних искажающих факторов на входную информацию.

Результаты исследований, на примере модели ИНС, выполняющей решение логарифмического дифференциального уравнения /'(*) = 5+3-log(*) (рисунок 6), разработанного алгоритма показывают, что возможно снижать влияние внешних искажающих факторов на порядок и более.

ШИ5"

k FVjl

ДА* .vw if ' Aiw 1 v *

iiP,¥ й/ir ■ М щ ■

л« га 1!® Я® тИ ию

1« аз !£й се iso о» in а®

а) фрагмент входного массива б) фрагмент выходного массива

Рисунок 6 - Результаты снижения шума разработанным алгоритмом.

Результаты исследований возрастания точности, в связи с устранением внутренних и внешних искажений модели ИНС средствами разработанного алгоритма, показывают, что возможно повысить точность функционирования сети более чем на 2 порядка. В качестве примера приведены показатели точности аппроксимации функции у = агс5т(.т) до применения алгоритма и после (рисунок 7).

а) до применения алгоритма б) после применения алгоритма

Рисунок 7 — Результаты повышения точности с помощью разработанного алгоритма.

Общие результаты, по всем исследуемым моделям ИНС, оценки возможности обеспечения показателей точности близких к максимальным средствами предложенного алгоритма, сведены в таблицу 3.

Таблица 3 - Максимальная абсолютная погрешность до и после применения алгоритма. _____

Аппроксимируемая Функция 1\ у = sin(.x) у = arcsin(jc) II f'(x) = a + b log(.x)

С1 абс max минимизации разрядности 4,6 1 (Г5 7,1 10^ 2,5 10 5 5,8 КГ" 2,8 10^

Еабс max после минимизации разрядности 4,9-10"8 9,8-105 6,3-10"7 4,1 10 7 6,1-10"8

Задачей алгоритма является проектирование программных или аппаратных ИНС производственного назначения, устойчивых к шумовой составляющей во входном сигнале и лишенных избыточности собственной структуры при обеспечении заданной для них точности работы и надежности.

Четвертая глава «Практическое применение созданных алгоритмов при проектировании искусственных нейронных сетей в составе технических систем обработки информации» посвящена описанию практического испытания разработанных алгоритмов инженерного проектирования ИНС.

В качестве объекта промышленного применения результатов данной работы выбрана стационарная координатно-измерительная машина (КИМ) портального типа «HERA» фирмы Coord3, участвующая в технологическом процессе ОАО «ПО Муроммашзавод» при проведении контроля геометрических параметров ответственных деталей сложного профиля.

В ходе системного анализа данного объекта, выявлено, что возрастание количества забракованных изделий и заготовок, возросшее после начала применения КИМ, вызвано ее чувствительностью к внешним дестабилизирующим воздействиям. Кузнечно-штамповочное, сварочное и станочное оборудование создавало помехи высокой интенсивности, которые и оказывают негативное влияние на точность работы КИМ.

При использовании касательного триггерного щупа, влиянию внешних искажающих факторов подвержен датчик касания. В результате к значению координат точки измерения добавляется шумовая составляющая, которая должна быть удалена до того как эти данные поступят в управляющий вычислительный комплекс КИМ.

Была спроектирована ИНС, с использованием новых алгоритмов определения необходимой и достаточной разрядности, обеспечивающая преобразование координат срабатывания щупа измерительного датчика с заданной точностью.

Результаты применения разработанных алгоритмов построения ИНС в составе технической системы обработки информации. Место нейросетевого преобразователя координат срабатывания измерительного щупа в составе КИМ представлено на рисунке 8.

ПЕРСОНАЛЬНАЯ \ ЭВМ

ИЗМЕРИТЕЛЬ

ЙЕ

ПРЕОБРАЗОВАТЕЛЬ КООРДИНАТ

X

Z

/ ИНТЕРФЕЙС /

к

Рисунок 8 - Место нейросетевого преобразователя координат в составе КИМ.

Нейросетевой преобразователь координат реализует программное преобразование координат измеряемой точки в пространстве поля измерения в форму, пригодную для обработки результатов. Данная коррекция работы КИМ реализована программно на базе ЭВМ.

Программный комплекс Matlab/Simulink поддерживает работу со стандартным интерфейсом последовательного порта компьютера и обеспечивает прямой доступ к периферийным устройствам, подключающимся к компьютеру через последовательный порт (СОМ-порт). КИМ «HERA», в свою очередь, обладает богатым выбором интерфейсов. В том числе, узлом вычислительных устройств (UART) предназначенных для связи с персональным компьютером и управлением системой машины через него.

В процессе проектирования преобразователя координат синтезировалась двухслойная ИНС прямого распространения с полными связями. В процессе предварительного анализа были выбраны следующие функции активации: для первого слоя - сигмоидная функция, для второго слоя - линейная функция. В качестве функционала использована сумма квадратов отличий реальных значений от полученных с помощью ИНС (SSE - критерий точности работы КИМ указан в технической документации).

В качестве алгоритма обучения использовался алгоритм Левенберга-Марквардта, дополненный регуляризацией по Байесу. Данный алгоритм находит

широкое применение при решении задач аппроксимации нелинейных зависимостей. Он выполняет обучение, если функции взвешивания, накопления и активации имеют производные.

Синтезированная ИНС с семью нейронами в первом слое и тремя во втором обеспечивает погрешность не выше 5,3 хЮ'6. После применения разработанных алгоритмов определения необходимой и достаточной разрядности весовых коэффициентов и входной информации были получены новые значения, с которыми выполнилось дообучение ИНС. Это позволило обеспечить, требуемый техническим условием, уровень ошибки не превышающий 4,7 х 10~8 в абсолютных значениях данной системы координат.

Результаты практического применения разработанной ИНС в составе промышленного объекта. В ходе испытания модернизированной КИМ были многократно измерены основные размеры каждой детали редуктора привода ТНВД, изготавливаемого в качестве привода топливной рейки для автомобилей «КамАЗ».

В виду случайного характера распределения погрешности каждого размера детали и критерия точности работы КИМ, итоговую оценку эффективности применения нейросетевого преобразователя координат произведем через среднеквадратическое отклонение (рисунок 9).

4 7 10 13 16 19 22 25 28 31 34 37 40 43 46 49 52 55 58 61 64

—- До применения ИНС КОНТрОЛИрувМЫв раЗМврЫ Недопустим знания

После применения ИНС >—1 Допустимые значения

Рисунок 9 - Результаты погрешностей измерения деталей.

Из диаграммы мы видим, как применение разработанной ИНС позволило внести все отклонения в поле допустимых значений, что позволило снизить общий уровень брака конечной продукции в 6 раз.

Для контроля точности исполнения редукторов используемых в корабельной артиллерии применяется более сложный метод измерений, в виду большого числа деталей и заготовок с изогнутыми поверхностями. Измерение дуги окружностей на малых угловых секторах, сегментов сфер, цилиндров и конусов выполнено методом скользящего сканирования.

Результаты измерений показывают (таблица 4), что внедрение ИНС позволяет снижать ошибки на 2-3 порядка. Для примера приведены результаты измерений дуг на различных угловых секторах до внедрения ИНС и после.

Таблица 4 — Отклонения измерений скользящим сканирующим методом.

Угол измеряемого сектора (°) СКО (мм) Максимально отклонение (мм) Минимальное, отклонение (мм) і

До После До После До После

6 0.2214 0.0006 0.0167 0.0037 0.2197 0.0006

11 0.0409 0.0004 0.0079 0.0022 0.0394 0.0004,

22 0.0240 0.0002 0.0006 0.0003 0.0254 0.0002

25 0.0950 0.0008 0.1825 0.0092 0.93547 0.0005

37 0.0231 0.0007 0.0447 0.0073 0.9169 0.0003

45 0.0606 0.0004 0.0615 0.0017 0.41027 0.0001

51 0.0485 0.0008 0.0791 0.0040 0.89365 0.0008

В заключении сформулированы основные результаты, полученные в ходе работы, которые сводятся к следующему:

1. Выполнен аналитический обзор российских и зарубежных научно-технических источников, показавший несовершенство известных методов инженерного проектирования ИНС для решения задачи обеспечения заданных показателей точности их функционирования.

2. Разработана новая технология определения необходимой и достаточной разрядности произвольных ИНС, объединяющая экспериментальное определение разрядности и теоретическое установление границ её минимизации, согласующая данный процесс с действующими стандартами в области точности функционирования технических систем обработки информации.

3. Разработан алгоритм определения необходимой и достаточной разрядности входной информации и весовых коэффициентов, инвариантный к структуре ИНС и решаемой задачи.

4. Разработан алгоритм определения необходимой и достаточной разрядности ИНС, снижающий влияние искажающих факторов на входную информацию и обеспечивающий заданный показатель точности функционирования сети.

5. Проведены исследования разработанных алгоритмов на математических моделях ИНС. Данные исследования доказали превосходство алгоритмов над известными по всем основным показателям.

6. Разработано программное обеспечение на основе созданных алгоритмов определения необходимой и достаточной разрядности произвольных ИНС.

7. Разработана и внедрена в промышленную систему обработки информации ИНС, улучшающая ее технические характеристики.

8. Решена задача обеспечения штатной точности КИМ, функционирующей под воздействием внешних дестабилизирующих факторов.

В приложении приведены копии свидетельств о государственной регистрации программ для ЭВМ, акты о реализации научных положений и выводов диссертации.

ПУБЛИКАЦИИ В ИЗДАНИЯХ, РЕКОМЕНДОВАННЫХ ВАК

1. Макаров, М.В. Алгоритм проектирования нейронных сетей с минимальной разрядностью [Текст] / М.В. Макаров, С.Н. Данилин, СЛ. Щаников // Известия ТулГУ. Технические науки. - 2013. - № 1. - С. 245-251. (Соискатель - 80%).

2. Макаров, М.В. Влияние функции обучения на качество работы нейронных сетей [Текст] / М.В. Макаров, СЛ. Данилин, С.А. Щаников // Радиопромышленность. -2012. - №2. - С. 68-73. (Соискатель - 30%).

3. Макаров, М.В. Исследование влияния значения весовых коэффициентов нейронов на уровень отказоустойчивости нейронных сетей [Текст] / М.В. Макаров, С.Н. Данилин, СЛ. Щаников // Вопросы радиоэлектроники. - 2010. - №1(т. 1). - С. 34-38. (Соискатель -40%).

4. Макаров, М.В. Исследование зависимости результата оценки отказоустойчивости от выбора показателя качества работы нейронных сетей [Текст] / MB. Макаров, СЛ. Данилин, СЛ. Щаников // Проектирование и технология электронных средств. - 2010. - №1. - С. 2-5. (Соискатель - 40%).

5. Макаров, М.В. Метод определения минимальной разрядности искусственных нейронных сетей [Текст] / Макаров М.В., Данилин С.Н. // Радиотехнические и телекоммуникационные системы. - 2013. - №3. - С. 71-75. (Соискатель - 90%).

6. Макаров, MB. Оптимизация разрядности аппаратных средств при обеспечении требуемой точности работы нейронных сетей [Текст] / МБ. Макаров, СЛ. Данилин, СЛ. Щаников //Вопросырадиоэлектроники.-2010. -№1(т. 1).-С. 39-45. (Соискатель-80%).

ПУБЛИКАЦИИ В ЖУРНАЛАХ, СБОРНИКАХ И МАТЕРИАЛАХ НАУЧНО-ТЕХНИЧЕСКИХ КОНФЕРЕНЦИЙ

7. Макаров, М.В. Алгоритм определения коэффициентов влияния погрешностей элементов нейронов на показатели качества работы устройств с нейросетевой архитектурой [Текст] / М.В. Макаров, СЛ. Данилин, СЛ. Щаников // Методы и устройства передачи и обработки информации. — 2011. - №13. - С. 114-118. (Соискатель - 40%).

8. Макаров, М.В. Аппроксимация базовых математических функций с использованием нейросетевых алгоритмов [Текст] / М.В. Макаров, С.Н. Данилин, СЛ. Щаников // Материалы 5-ой Международной научно-практической конференции «Наука и инновации - 2009». - 2009. - №.12. - С. 4-9. (Соискатель - 33%).

9. Макаров, MB. Исследование коэффициентов влияния погрешностей элементов нейронов на показатели точности (качества) работы устройств с нейросетевой архитектурой [Электронный ресурс] / М.В. Макаров, С.Н. Данилин, СЛ. Щаников // Алгоритмы, методы и системы обработки данных. - 2011. - №2 (17). -Режим доступа: http://amisod.ru/irnages/mediacontent/201 l/2/amisod-2011-2-17-danilin-makarov- schyanikov.pdf. (Соискатель - 30%).

10. Макаров, М.В. Искусственные нейронные сети в составе контрольно-измерительных систем [Электронный ресурс] / М.В. Макаров, С.Н. Данилин, СЛ. Щаников // Сб. тез. докладов IV научно-практического семинара: 1ГГ Всероссийские Армандовские чтения. -2013. -1 электрон, опт. диск (CD-ROM). (Соискатель - 80%).

11. Макаров, MB. Методы определения точности работы устройства с нейросетевой архитектурой / MB. Макаров, СЛ Данилин, С.А. Щаников // Методы и устройства передачи и обработки информации. - 2011. — №12. — С. 68-73. (Соискатель -40%).

12. Макаров, MB. Метод оптимизации топологии нейронной сети при идентификации объектов управления [Электронный ресурс] / М.В. Макаров, С.Н. Данилин, СЛ. Щаников // Материалы конференции «Наука и образование в развитии

промышленной, социальной и экономической сфер регионов России». - 2010. С. 347348. - Режим доступа: http://www.mivlgu.nj/coni7 zvorykin2010/woiks/PDF/Sectionl0.pd£ (Соискатель - 50%).

13. Макаров, М.В. Новый метод минимизации разрядности искусственных нейронных сетей [Электронный ресурс] / М.В. Макаров, С.Н. Данилин, С А. Щаников // Сб. тез. докладов IV научно-практического семинара: Ш Всероссийские Армандовские чтения. - 2013. — 1 электрон, опт. диск (CD-ROM). (Соискатель — 80%).

14. Макаров, М.В. Оптимизация разрядности аппаратных средств при обеспечении требуемой точности работы нейронных сетей [Электронный ресурс] / М.В. Макаров, СЛ. Данилин, СА. Щаников // Материалы II Всероссийской научно-практической конференции «Актуальные вопросы развития современной науки, техники и технологии». - 2010. - Режим доступа: http://wwwmivlgaiu/site_arch/confciurom2010/matheriab'seminar/PDF/ 24.pdf. (Соискатель - 80%).

15. Макаров, М.В. Оптимизация точности работы нейронной сети путем изменения разрядности аппаратных средств [Текст] / М.В. Макаров, С.Н. Данилин, С.А. Щаников // Ползуновский альманах. - 2010. - №2. - С. 19-21. (Соискатель - 80%).

16. Макаров, М.В. Перспективный подход к построению математических моделей динамических объектов [Текст] / М.В. Макаров, С.Н. Данилин, С А. Щаников // Материалы 5-ой Международной научно-практической конференции «Достижения высшей школы - 2009». - 2009. - №7. - С. 77-81. (Соискатель - 80%).

17. Макаров, М.В. Получение аналитических оценок точности для оптимизации разрядности нейронных сетей [Текст] / М.В. Макаров СА., Щаников // Тезисы докладов XI всероссийской научной конференции «Нейрокомпьютеры и их применение». -2013. - С. 45-46. (Соискатель - 90%).

18. Макаров, М.В. Преобразование систем координат с использованием нейросетевых алгоритмов [Текст] / М.В. Макаров, С.Н. Данилин, СА. Щаников // Материалы 5-ой Международной научно-практической конференции «Достижения высшей школы - 2009». - 2009 г. - №.7. - С. 73-77. (Соискатель - 30%).

19. Макаров, М.В. Решение нелинейных дифференциальных уравнений в нейросетевых системах автоматического управления [Текст] / М.В. Макаров, СЛ. Данилин, С.А. Щаников // Интеллектуальные системы: Труды Девятого международного симпозиума. - 2010. - С. 94—98. (Соискатель—80%).

20. Макаров, М.В. Решение нелинейных дифференциальных уравнений в радиосистемах в нейросетевом логическом базисе [Текст] / MB. Макаров, СИ Данилин, СА. Щаников // Материалы 5-ой Международной научно-практической конференции «Образование и наука XXI века - 2009». -2009. - №. 12. - С. 39-44. (Соискатель - 30%).

СВИДЕТЕЛЬСТВА О ГОСУДАРСТВЕННОЙ РЕГИСТРАЦИИ

21. Программа автоматизированной оптимизации разрядности нейронных сетей произвольной архитектуры [Текст] [Электронный ресурс] / Макаров М.В., Данилин С.Н. // Свидетельство о государственной регистрации программы для ЭВМ. - 2013. — №2013610463. (Соискатель - 90%).

22. Программа автоматизированной оптимизации разрядности нейронных сетей при влиянии на входную информацию искажающих факторов [Текст] [Электронный ресурс] / Макаров М.В., Данилин С.Н. // Свидетельство о государственной регистрации программы для ЭВМ. -2013. -№2013614204. (Соискатель-90%).

Подписано в печать 14.11.2013. Формат 60x84/16. Бумага для множит, техники. Гарнитура Тайме. Печать ризография. Усл. печ. л. 1,16. Тираж 100 экз. Заказ № 2431. Муромский институт (филиал) федерального государственного бюджетного образовательного учреждения высшего профессионального образования «Владимирский государственный университет имени Александра Григорьевича и Николая Григорьевича Столетовых» Издательско-полиграфический центр Адрес: 602264, Владимирская обл., г. Муром, ул. Орловская, 23.

Муромский институт (филиал) Федерального государственного бюджетного образовательного учреждения высшего профессионального образования «Владимирский государственный университет имени Александра Григорьевича и

Николая Григорьевича Столетовых»

На правах рукописи

МАКАРОВ МИХАИЛ ВЯЧЕСЛАВОВИЧ

АЛГОРИТМЫ ОПРЕДЕЛЕНИЯ НЕОБХОДИМОЙ И ДОСТАТОЧНОЙ РАЗРЯДНОСТИ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ В СОСТАВЕ СИСТЕМ ОБРАБОТКИ ИНФОРМАЦИИ

Специальность 05.13.01 Системный анализ, управление и обработка информации

(промышленность)

Диссертация на соискание ученой степени кандидата технических наук

Научный руководитель: к.т.н., доцент Данилин С.Н.

Муром 2013

ОГЛАВЛЕНИЕ

ВВЕДЕНИЕ

5

ГЛАВА 1 ОБЗОР И АНАЛИЗ ВОЗМОЖНОСТЕЙ ИСПОЛЬЗОВАНИЯ

ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ В ТЕХНИЧЕСКИХ СИСТЕМАХ ОБРАБОТКИ ИНФОРМАЦИИ

1.1 Использование искусственных нейронных сетей в составе технических систем обработки информации 1.1.1 Перспективы применения искусственных нейронных сетей в

1.1.2 Проблематика искусственных нейронных сетей в составе

1.2 Методы инженерного проектирования искусственных нейронных сетей и обеспечение точности их функционирования

1.2.1 Задачи инженерного проектирования искусственных нейронных сетей и обеспечение точности их функционирования .. 15

1.2.2 Перспективы и проблематика разработки новых методов инженерного проектирования искусственных нейронных сетей .... 16

1.3 Обзор и анализ основных методов инженерного проектирования искусственных нейронных сетей

1.3.1 Подход устранения избыточности искусственных нейронных сетей................................................................ 17

1.3.2 Нейроэволюционный подход проектирования искусственных нейронных сетей............................................ 22

1.3.3 Конструктивные методы проектирования искусственных нейронных сетей............................................................... 24

1.3.4 Индивидуальные методы проектирования искусственных нейронных сетей............................................................... 25

1.4 Выводы по главе 1 и постановка задачи исследования.................. 30

составе технических систем обработки информации

11

технических систем обработки информации

13

ГЛАВА 2 РАЗРАБОТКА АЛГОРИТМА ОПРЕДЕЛЕНИЯ НЕОБХОДИМОЙ И ДОСТАТОЧНОЙ РАЗРЯДНОСТИ ПРОИЗВОЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 2.1 Разработка теоретико-экспериментальных основ определения необходимой и достаточной разрядности произвольных

искусственных нейронных сетей........................................... 32

2.2 Проектирование моделей искусственных нейронных сетей с максимальными показателями точности функционирования......... 37

2.3 Разработка алгоритма определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей....... 52

2.4 Оценка точности функционирования моделей искусственных нейронных сетей................................................................ 55

2.5 Выводы по главе 2............................................................. 56

ГЛАВА 3 ИССЛЕДОВАНИЕ АЛГОРИТМА ОПРЕДЕЛЕНИЯ

НЕОБХОДИМОЙ И ДОСТАТОЧНОЙРАЗРЯДНОСТИ ПРОИЗВОЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ

3.1 Выбор и обоснование выбора моделей исследуемых искусственных нейронных сетей........................................... 58

3.2 Аппроксимация базовых математических функций..................... 59

3.3 Аппроксимация тригонометрических функций........................... 63

3.4 Аппроксимация дифференциальных уравнений........................ 74

3.5 Исследование возможности обеспечения отказоустойчивости искусственных нейронных сетей разработанным алгоритмом...... 90

3.6 Разработка алгоритма определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей при влиянии на входную информацию искажающих факторов.......... 94

3.7 Исследование алгоритма определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей при влиянии на входную информацию искажающих факторов....................................................... 101

3.8 Выводы по главе 3............................................................. 104

ГЛАВА 4 ПРАКТИЧЕСКОЕ ПРИМЕНЕНИЕ СОЗДАННЫХ

АЛГОРИТМОВ ПРИ ПРОЕКТИРОВАНИИ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ В СОСТАВЕ ТЕХНИЧЕСКИХ СИСТЕМ ОБРАБОТКИ ИНФОРМАЦИИ 4.1 Системный анализ промышленного объекта практического

применения разработанных алгоритмов.................................. 106

4.2 Внедрение искусственной нейронной сети в составе технической системы обработки информации............................................ 111

4.3 Результаты практического применения искусственной нейронной сети в составе промышленного объект.................................... 114

4.4 Выводы по главе 4............................................................ 127

ЗАКЛЮЧЕНИЕ.............................................................................. 128

СПИСОК СОКРАЩЕНИЙ И УСЛОВНЫХ ОБОЗНАЧЕНИЙ..................... 130

СПИСОК ЛИТЕРАТУРЫ.................................................................. 132

ПРИЛОЖЕНИЕ А. Свидетельство о государственной регистрации

программы для ЭВМ........................................................................ 150

ПРИЛОЖЕНИЕ Б. Свидетельство о государственной регистрации

программы для ЭВМ........................................................................ 151

ПРИЛОЖЕНИЕ В. Акт реализации научных положений диссертации........... 152

ПРИЛОЖЕНИЕ Г. Справка о реализации результатов диссертационного исследования.................................................................................. 153

ВВЕДЕНИЕ

Актуальность темы исследования и степень ее разработанности.

Производственный процесс создания современной промышленной продукции основан на применении технических систем обработки информации.

Совершенствование названных систем, путем применения новых методов обработки информации и современных программно-аппаратных вычислительных средств, является составной частью модернизации производственных объектов.

Как показали исследования, наиболее важной в промышленных системах обработки информации является задача обеспечения заданной техническими условиями точности вычислений. Снижение точности вычислений свойственно этим системам при работе в условиях внешних дестабилизирующих воздействий, являющихся неотъемлемой частью производственной среды. Построение отказоустойчивых промышленных систем обработки информации, обладающих высокими техническими характеристиками и способных функционировать при искажении обрабатываемой информации внешними факторами, является одной из важнейших задач современного системного анализа и имеет большое практическое и общенаучное значение.

Анализ научно-технических публикаций показал, что методы параллельных вычислений позволяют решать вышеназванную задачу. Большинство специалистов сделали вывод, что наилучшие результаты достигаются при использовании математического аппарата искусственных нейронных сетей.

Таким образом, разработка компонентов систем обработки информации на базе искусственных нейронных сетей является одним из перспективных путей модернизации производственного процесса.

Теория и практика инженерного проектирования искусственных нейронных сетей находится в стадии своего становления и развития.

Актуальной задачей на этапе инженерного проектирования аппаратных и (или) программных реализаций искусственных нейронных сетей является обеспечение заданных показателей точности функционирования, на которые оказывает влияние их структура, параметры элементов нейронов, характеристики обрабатываемой информации, а также внутренние и внешние дестабилизирующие факторы.

Процесс определения необходимой и достаточной разрядности входной информации и искусственных нейронных сетей является эффективным средством устранения внешних и собственных шумовых и неинформативных признаков, позволяющего избежать недопустимого снижения обобщающей способности искусственных нейронных сетей и обеспечить требуемую точность их функционирования.

Вопросам проектирования систем обработки информации, в том числе нейросетевых, посвящены работы авторов: Аракеляна С.М., Галушкина А.И., Горбаня А.Н., Еремин Д.М., Жукова JL А., Ланцова В.Н., Миркеса Е.М., Садыкова С.С., Стогней В.Г., Терехова В.А., Царегородцева В.Г., Callan R., I-Iaykin S., Kubo Y., LeCun Y., Murray A., Ossovski S., Osyczka A., Parser E., Reyneri L.M., Schneider M.H., Takase H., Wasserman P.D. и др.

Объектом исследования являются методы инженерного проектирования искусственных нейронных сетей в составе систем обработки информации.

Предметом исследования являются алгоритмы обеспечения точности функционирования искусственных нейронных сетей через процесс определения их необходимой и достаточной разрядности.

Цели и задачи. Целью настоящей работы является улучшение технических характеристик промышленных систем обработки информации.

Исходя из цели работы, основными задачами исследования являются:

- аналитический обзор известных методов и алгоритмов определения необходимой и достаточной разрядности искусственных нейронных сетей для обеспечения заданных показателей точности функционирования;

- разработка и исследование теоретико-экспериментальных основ для построения алгоритмов проектирования искусственных нейронных сетей с необходимой и достаточной разрядностью;

- разработка алгоритмов определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей;

- исследование возможности применения разработанных алгоритмов для обеспечения заданных показателей точности функционирования искусственных нейронных сетей;

- исследование возможностей применения искусственных нейронных сетей, разработанных с помощью новых алгоритмов, для решения практических задач в составе промышленных систем обработки информации.

Научная новизна:

- разработаны новая научная идея по определению необходимой и достаточной разрядности искусственных нейронных сетей и обеспечению точности их работы;

- предложен нетрадиционный подход к проектированию искусственных нейронных сетей, позволяющий обеспечивать заданные показатели точности функционирования сети с учетом внутренних и внешних факторов, оказывающих влияние на качество обработки информации, объединяющий теоретическое и экспериментальное исследование объекта для определения необходимой и достаточной разрядности входной информации и элементов искусственных нейронных сетей;

- доказана перспективность и практическая значимость исследований для решения задачи по определению необходимой и достаточной разрядности и обеспечению точности работы искусственных нейронных сетей;

- введено понятие необходимой и достаточной разрядности искусственных нейронных сетей, являющееся критерием оптимальности их структуры для обеспечения заданных показателей точности функционирования.

Теоретическая значимость работы:

- доказаны положения и методики, вносящие вклад в расширение представлений об изучаемом явлении изменения точности работы искусственных нейронных сетей при изменении разрядности входной информации и элементов;

- применительно к теме диссертации результативно (эффективно, то есть с получением обладающих новизной результатов) использован комплекс существующих базовых методов исследования, в т.ч. численных методов моделирования и экспериментальных методик;

- изложены идеи и положения, доказывающие применимость предлагаемого подхода исследования точности работы искусственных нейронных сетей;

- раскрыты противоречия современного представления о точности работы искусственных нейронных сетей и ее изменении при вариации разрядности, а так же при влиянии дестабилизирующих воздействий;

- изучены связи, внутренние и внешние противоречия и факторы, предопределяющие изменение точности работы искусственных нейронных сетей при изменении разрядности входной информации и элементов;

- проведена модернизация существующих подходов к проектированию искусственных нейронных сетей.

Практическая значимость работы:

- разработаны и внедрены алгоритмы определения необходимой и достаточной разрядности искусственных нейронных сетей, обеспечивающих точность работы нейросетевых компонентов системы обработки информации в составе контрольно-измерительного комплекса на промышленном предприятии ОАО «Производственное объединение Муромский машиностроительный завод», г. Муром;

- определены перспективы практического использования полученных результатов при создании промышленных систем обработки информации на базе искусственных нейронных сетей;

- создана система практических рекомендаций по реализации процесса определения необходимой и достаточной разрядности искусственных нейронных сетей;

- представлены методические рекомендации по дальнейшему совершенствованию и их практическому использованию при реализации систем обработки информации на базе искусственных нейронных сетей.

Методология и методы исследования. В работе использованы методы искусственных нейронных сетей; математического и программного моделирования; дискретной математики; системного анализа; методы цифровой обработки информации.

Положения, выносимые на защиту:

- технология определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей;

- алгоритм определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей;

- алгоритм определения необходимой и достаточной разрядности произвольных искусственных нейронных сетей с подавлением внешних искажающих факторов;

- результаты экспериментального исследования разработанных алгоритмов;

- результаты практического применения искусственной нейронной сети, созданной с помощью разработанных алгоритмов в виде оценки технических характеристик промышленного объекта внедрения.

Степень достоверности и апробация результатов. Основные полученные результаты представлены в виде алгоритмов, вычислительных схем алгоритмов и структурной схемы устройства на базе искусственной нейронной сети в составе

промышленной системы обработки информации. Адекватность предложенных алгоритмов доказывается результатами экспериментов.

Результаты исследований получены автором при выполнении грантов РФФИ №12-08-31064-мол_а «Разработка автоматизированных методов оптимизации разрядности устройств с нейросетевой архитектурой или работающих в нейросетевом логическом базисе», №13-08-00348-а «Разработка автоматизированных методов определения оптимальной разрядности устройств с нейросетевой архитектурой или работающих в нейросетевом логическом базисе», №11-08-97551-р_центр_а «Разработка автоматизированных методов определения точности функционирования устройств с нейросетевой архитектурой или работающих в нейросетевом логическом базисе». Научные положения и выводы диссертации используются: в ОАО «ПО Муроммашзавод» при проведении контрольно-измерительных мероприятий; в учебном процессе МИ (филиала) ВлГУ по курсам «Информационные технологии проектирования ЭВС», «Физико-математические основы проектирования ЭВС», «Надежность приборов и систем» для специальностей «Проектирование ЭВС» и «Приборы и методы контроля качества».

Основные результаты диссертационной работы докладывались и обсуждались на X и XI Всероссийской научной конференции «Нейрокомпьютеры и их применение» (г. Москва, 2012, 2013 г.); II и III Всероссийских «Армандовских чтениях» (г. Муром, 2012, 2013 г.), IX международном симпозиуме «Интеллектуальные системы ШТЕЬ8"2010» (г.Владимир, 2010 г.), VI Всероссийской научно-технической конференции «Виртуальные и интеллектуальные системы» (г. Барнаул, 2011 г.), а так же в рамках НТС секции информационных технологий ФГАНУ ЦИТИС (председатель Галушкин А.И., г. Москва, 2013 г.).

По теме диссертационной работы опубликовано 20 печатных работ, в том числе 15 статей, 6 из которых в журналах, входящих в перечень ВАК, 2 свидетельства об официальной регистрации программ для ЭВМ.

ГЛАВА 1

ОБЗОР И АНАЛИЗ ВОЗМОЖНОСТЕЙ ИСПОЛЬЗОВАНИЯ

ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ В ТЕХНИЧЕСКИХ СИСТЕМАХ ОБРАБОТКИ ИНФОРМАЦИИ

1.1 Использование искусственных нейронных сетей в составе технических систем обработки информации

1.1.1 Перспективы применения искусственных нейронных сетей в составе технических систем обработки информации

Технические системы обработки информации являются неотъемлемой частью любого производства. Практически все управленческие и технологические процессы в той или иной степени используют средства автоматизированной вычислительной техники.

Современный этап развития производства требует использования инновационного подхода к проектированию промышленных систем обработки информации. Степень вовлечения передовых технологий характеризует уровень организационного развития всего производства и эффективность его деятельности. Применение искусственных нейронных сетей (ИНС) в качестве инструмента интеллектуализации и повышения технических характеристик вычислительных технических устройств представляется одним из перспективных направлений развития таких систем.

Технические информационные системы в промышленности имеют дело с орган