автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.17, диссертация на тему:Применение нейрокомпьютеров для представления и визуализации статических и динамических трехмерных данных

ВВЕДЕНИЕ.

ГЛАВА 1. ПРЕДПОСЫЛКИ К ПРИМЕНЕНИЮ НЕЙРОКОМПЬЮТЕРОВ ДЛЯ ПРЕДСТАВЛЕНИЯ И ВИЗУАЛИЗАЦИИ ТРЕХМЕРНЫХ ДАННЫХ.

1.1. Общий вид процесса визуализации трехмерных данных различной природы.

1.2. Вычислительная сложность процесса синтеза 2D проекций.

1.3. Предпосылки к применению нейрокомпьютеров на этапе синтеза 2D проекций.1В

ГЛАВА 2. ПОСТАНОВКА ЗАДАЧИ НЕЙРОСЕТЕВОГО ПРЕДСТАВЛЕНИЯ И ВИЗУАЛИЗАЦИИ ТРЕХМЕРНЫХ ДАННЫХ

2.1. Обзор основных способов представления трехмерных данных.

2.2. Математическая формулировка нейросетевого представления трехмерных данных, заданных в различных форматах.

2.3. Алгоритмы визуализации на основе нейросетевого представления трехмерных данных.

2.3.1. Визуализация триангулированных трехмерных объектов, заданных нейросетевым представлением.

2.3.2. Визуализация воксельных данных в нейросетевом представлении.

ГЛАВА 3. ВАРИАНТЫ НЕЙРОСЕТЕВОЙ ПОСТАНОВКИ ЗАДАЧИ.

3.1. Входной сигнал нейронной сети.

3.2. Типовые входные сигналы.

3.3. Варианты требуемого (желаемого) выходного сигнала.

3.4. Выходной сигнал нейронной сети.

3.5. Функция ошибки.

3.6. Функция активации.

3.7. Структура нейронной сети.

3.8. Функционал оптимизации.

3.9. Выбор обучающей последовательности.

3.10. Алгоритм настройки весовых коэффициентов.

3.11. Выбор начальных значений весовых коэффициентов сети.

ГЛАВА 4. МОДЕЛИРОВАНИЕ НЕЙРОСЕТЕВОГО ПРЕДСТАВЛЕНИЯ ТРЕХМЕРНЫХ ДАННЫХ.

4.1. Исследование алгоритмов настройки весовых коэффициентов.

4.1.1. Простой градиентный спуск групповой.

4.1.2. Простой градиентный спуск - последовательный.

4.1.3. Последовательный градиентный спуск с использованием функционала целевой ошибки.

4.1.4. Групповой градиентный спуск с алгоритмом адаптивной настройки шага - метод RPROP.

4.1.5. Метод сопряженных градиентов (Scaled Conjugate Gradient).

4.1.6. Методь настройки сети с переменной структурой.

4.1.7. Комбинированные методы.

4.1.8. Характеристики методов.

4.1.9. Выводы по характеристикам методов.

4.2. Исследование влияния масштабирования входного сигнала на скорость настройки.

4.3. Исследование влияния структуры нейронной сети на скорость и качество обучения.

4.4. Исследование влияния выбора начальных весовых коэффициентов на скорость настройки.

4.4.1. Метод случайных значений.

4.4.2. Метод «simulated annealing».

4.4.3. Метод «касательных плоскостей».

4.4.4. Метод «от простого к сложному».

4.4.5. Сравнение методов инициализации весовых коэффициентов. 106 4.5. Исследование влияния параметров обучающей последовательности на качество нейросетевого представления поверхностей триангулированных тел.

4.6.0ценка качества получаемого изображения в зависимости от величины достигнутой ошибки.

4.7.Нейросетевое представление динамических триангулированных тел.

4.8. Описание компьютерной модели.

4.8.1. Общая структура программы.

4.8.2. Скорость работы и оптимизирование алгоритмов.

ГЛАВА 5. ПРЕДВАРИТЕЛЬНЫЕ РАСЧЕТЫ ПО РАЗРАБОТКЕ АППАРАТНОГО УСКОРИТЕЛЯ НЕЙРОСЕТЕВОГО АЛГОРИТМА ТРАССИРОВКИ ЛУЧЕЙ.

5.1. Принципиальная схема аппаратного ускорителя нейросетевого алгоритма трассировки лучей.

5.2. Теоретические оценки требований к рабочим параметрам системы и расчет возможной эффективности.

5.3. Распараллеливание НС алгоритмов на несколько СБИС плат.

5.4. План работ с модулем СуперНК.

В настоящее время нейросетевые технологии активно используются в различных областях науки и техники, промышленности для решения широкого спектра проблем: распознавания образов, решения различных математических задач, сжатия изображения, прогнозирования, управления и др. [1].

Данная работа направлена на исследование возможности применения нейрокомпьютеров (искусственных нейронных сетей) для решения задачи представления и визуализации трехмерных данных. Данная задача возникает во многих областях деятельности человека: наблюдение в системах виртуальной реальности, моделирование трехмерных объектов, визуализация медицинских данных, полученных из томографов различного рода, рентгеноскопия, а также в различного рода исследованиях, таких как: визуализация плазмы, различных полей, материалов, и т.п.

Алгоритмы для задач представления и визуализации трехмерных данных вычислительно-интенсивны [2]. В настоящий момент эти задачи решаются, как правило, при помощи однопроцессорных и многопроцессорных ЭВМ, а также некоторых специализированных вычислительных устройств. Применение вычислительных средств малой производительности приводит к большим временным затратам или низкому качеству получаемых изображений, а применение суперкомпьютеров ограничивается их высокой стоимостью.

Сравнение нейрокомпьютеров с другими типами Супер-ЭВМ по критерию отношения производительности к стоимости были произведены известным разработчиком нейрокомпьютеров в США Хехт-Нильсеном и детально проанализированы в работе проф. А. И. Галушкина «О современных направлениях развития нейрокомпьютеров» [3]. Высокая производительность и относительно низкая цена нейрокомпьютеров позволяет предполагать, что применение нейрокомпьютеров позволит снизить цену и улучить качество систем представления и визуализации трехмерных данных.

Целью работы является:

1) Построение математических моделей и методик исследования процессов нейросетевого представления и визуализации трехмерных данных на базе многослойных нейронных сетей прямого распространения сигнала1 с нелинейной функцией активации;

2) Поиск адекватных нейросетевых постановок задачи, изучение закономерностей процессов настройки коэффициентов нейронной сети для представления статических трехмерных данных в зависимости от конфигурации сети, алгоритма настройки весовых коэффициентов, обучающей последовательности, начальных значений коэффициентов, и других параметров. Установление оптимальных параметров, позволяющих сократить время настройки весовых коэффициентов нейронной сети и повысить качество получаемого изображения;

3) Исследование способности нейронной сети к быстрому дообучению в задаче представления и визуализации динамических трехмерных данных.

4) Создание расширяемой, оптимизированной, целевой программной среды с графическим интерфейсом для моделирования процессов нейросетевого представления и визуализации трехмерных данных;

5) Предварительные исследования по возможности создания нейросетевого программно-аппаратного комплекса для решения

1 В зарубежной литературе также обозначаются как MLP (Multi-Layer Perceptron) и Feed-Forward Neural Networks задачи визуализации трехмерных данных в режиме реального времени.

Апробация результатов. Результаты диссертационной работы докладывались на следующих отечественных и зарубежных конференциях:

1) VI Всероссийская конференция «Нейрокомпьютеры и их применение», Москва, 16-18 Февраля 2000г.

2) VIII Всероссийская конференция «Нейрокомпьютеры и их применение», Москва, 21-22 Марта 2002г.

3) International Conference on Neural Processing (ICONIP), Singapure, 1820 November, 2002

4) International Conference on Neural Processing (ICONIP), Istambul, 2003

5) 5-ая Международная научно-техническая конференция и выставка "Цифровая обработка сигналов и её применение" ИЛУ РАН, г. Москва, 12-14 марта 2003 г.

6) Научные конференции Московского Физико-Технического Института, 2000-2002 гг.

На защиту выносятся:

1) Результаты теоретического исследования преимуществ нейросетевого представления трехмерных объектов по сравнению с другими рассмотренными видами представлений (триангуляция, вокселизация);

2) Методика моделирования и исследования нейросетевого представления и визуализации трехмерных данных на базе многослойных нейронных сетей (нейросетевая постановка задачи, компьютерная модель);

3) Практические результаты детальных исследований выбранных нейросетевых задач. Достаточность этих результатов для того, чтобы утверждать о возможности эффективно использовать нейрокомпьютеры для представления статических и динамических трехмерных данных; 4) Методика построения и возможные варианты принципиальной схемы аппаратного ускорителя нейросетевого алгоритма представления и визуализации трехмерных данных.

ЗАКЛЮЧЕНИЕ

Научная новизна работы. В соответствии с поставленными задачами, в работе впервые:

1. Осуществлено моделирование процессов представления многослойной нейронной сетью различных по сложности трехмерных объектов. Исследовались алгоритмы настройки и инициализации весовых коэффициентов, конфигурации нейронных сетей, различные параметры функционала оптимизации и меры ошибки;

2. Установлены оптимальные значения следующих параметров решения нейросетевой задачи аппроксимации функции расстояния C(x,y,z): (а) вид итеративного алгоритма настройки весовых коэффициентов, (б) вариант алгоритма инициализации начальных значений весов, (в) конфигурация сети при фиксированном числе слоев и суммарном числе нейронов, (г) параметры масштабирования входного сигнала нейронной сети, (д) вид обучающей последовательности;

3. Установлены требования по величине ошибки для получения качественных изображений (проекций) трехмерных объектов;

4. Исследован процесс перенастройки нейронной сети для представления трехмерных объектов с малыми изменениями формы, положения, масштаба;

5. Предложена возможная принципиальная схема работы аппаратного ускорителя визуализации трехмерных данных в нейросетевом представлении на базе параллельных СБИС-модулей аппаратного ускорения нейросетевого алгоритма.

Научное и практическое значение диссертационной работы состоит в том, что полученные в ней результаты говорят о возможности построения качественных систем представления и визуализации трехмерных данных на основе нейрокомпьютеров. Полученные в работе результаты дают рекомендации по выбору оптимальных алгоритмов и параметров, необходимых для успешного решения поставленной в работе нейросетевой задачи. Данная работа может являться отправной точкой для дальнейших исследований по построению опытного образца специализированного нейрокомпьютера для хранения и фотореалистичной визуализации трехмерных данных методом трассировки лучей (ray tracing).

Материалы диссертации используются в рамках работ по созданию Супер Нейро Компьютера СуперНК для решения научных задач в рамках программы «Научная Технологическая База» и российско-белорусской программы СКИФ по созданию современных суперкомпьютеров, а также в международном проекте ИНТАС.