автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Исследование почерка на основе анализа динамических кривых

На правах рукописи

Колядин Дмитрий Витальевич

ИССЛЕДОВАНИЕ ПОЧЕРКА НА ОСНОВЕ

АНАЛИЗА ДИНАМИЧЕСКИХ КРИВЫХ

1Саиц

Специальность 05.13.18- «Математическое моделирование, численные методы и комплексы программ»

АВТОРЕФЕРАТ диссертации на соискание учёной степени кандидата физико-математических наук

Москва-2005

Работа выполнена на кафедре информатики Московского физико-технического института (государственного университета)

Научный руководитель:

доктор физико-математических наук, Петров профессор Игорь Борисович

Официальные оппоненты: доктор физико-математических наук, старший научный сотрудник

Рязанов

Владимир Васильевич

кандидат физико-математических наук

Старожилова Татьяна Константиновна

Ведущая организация:

Институт проблем управления им. В.А. Трапезникова РАН

Защита состоится«» ОНЯЦ^^иЯ 2005 г. в Ю час, на заседании диссертационного совета к 212.156.02 при Московском физико-техническом институте по адресу: Московская обл., г. Долгопрудный, Институтский пер., д.9

Автореферат разослан «_ ЬО » САШлЩьЛ_2005 г.

Учёный секретарь

диссертационного совета Федько О.С.

-м

Общая характеристика работы

Возможность отслеживания с помощью современных графических планшетов траектории и динамики движения пера создает предпосылки для всестороннего анализа рукописных кривых. В диссертационной работе поставлена и решена задача о применении рукописных слов в биометрических компьютерных системах контроля доступа. Кроме этого в работе обсуждаются индивидуальные графологические признаки и алгоритмы их выделения в почерковом материале. Актуальность темы

Широкое распространение информационных технологий в современном обществе предъявляет повышенные требования к обеспечению безопасности разного рода операций и сохранности конфиденциальных сведений. Повсеместно распространенная практика использования паролей в ряде практических применений уже не отвечает потребностям текущего момента. Одним из решений, позволяющих повысить общий уровень безопасности, является биометрическая идентификация личности, основанная на измерениях (как прямых, так и косвенных) особенностей человеческого тела. К достоинствам биометрической идентификации следует отнести отсутствие необходимости для пользователя помнить комбинации «имя учетной записи - пароль», что является очень важным преимуществом, если учесть, что практически все сетевые информационные службы в настоящее время в той или иной мере требуют регистрации. Анализ рукописных подписей и слов открывает широкие возможности по разработке и применению компьютерного программного

обеспечения, особенно учитывая рост рынка мобильных компьютеров оборудованных сенсорными экранными панелями.

Разработанный в диссертации подход позволяет оценивать некоторые характеристики почерка, что делает возможным проведение объективных графологических исследований. Стоит особо отметить, что в Советском Союзе и, с высокой долей вероятности, в Российской Федерации не проводились целенаправленные исследования по графологическому анализу рукописных текстов с применением вычислительной техники. Цель работы

Исходя из практической значимости процедуры аутентификации пользователей, целью работы являлась разработка эффективных алгоритмов поиска и верификации рукописных слов и подписей, пригодных для использования в биометрических системах контроля доступа. Предметом основного исследования данной работы являлось изучение вопросов построения быстрого алгоритма сравнения рукописных кривых, и возможности косвенного анализа динамических (поведенческих) биометрических показателей рукописного почерка. Также целью работы было изучение следующих вопросов:

1. Анализ и систематизация почерковых характеристик,

2. Выбор и разработка наилучших, с точки зрения производительности, методов и алгоритмов анализа динамических кривых,

3. Исследование применения верификации рукописной подписи в компьютерных приложениях.

Научная новизна полученных результатов

1. Сформулирован и реализован подход к верификации рукописной подписи как самодостаточного для анализа объекта, не требующего от пользователя предоставления дополнительных уточняющих

сведений. В отличие от существующих методов, предложенный алгоритм не нуждается в предъявлении по отдельности «идентификатора пользователя» и «пароля» (представленного в виде графического рукописного образа).

2. Предложен эффективный иерархический алгоритм поиска эталонной подписи1.

3. Исследован вопрос о возможности независимого анализа формы и динамики исполнения подписи с целью установления подлинности подписи.

4. Сформулирована задача графологического анализа почерков и показаны методы ее решения на основе разработанных алгоритмов выделения почерковых характеристик.

Практическая ценность

Разработанные в диссертационной работе методы анализа динамических кривых могут быть применены в широком классе компьютерных приложений, в частности для построения новых пользовательских интерфейсов в мобильных компьютерах оборудованных сенсорными экранами. Предложенные алгоритмы обладают высокой эффективностью с точки зрения производительности обработки рукописных кривых. Главным достоинством описанного подхода является возможность априорного чадания требований к исполнению рукописных слов и подписей с целью минимизации уровня ошибок.

1. Разработана предварительная версия компьютерной программы по верификации рукописных слов и подписей.

1 Здесь и далее под эталонной подписью подразумевается образец истинной подписи пользователя.

2. Получены результаты, сопоставимые по уровню ошибок с другими методами проверки подписей на аутентичность, учитывая, что динамика и форма исполнения кривых анализировались в предложенном подходе независимо. Также, что немаловажно, сформулированы границы применимости предлагаемой системы верификации подписей и рукописных слов.

3. В диссертации впервые обсуждаются возможности автоматизированного измерения почерковых и графологических признаков на основе динамических кривых; приводится список подобного рода характеристик.

4. Разработанная библиотека классов на языке программирования С++ может быть применена как для верификации рукописных слов и подписей, так и для анализа рукописных кривых в целом.

Методы и методика проведения исследований

1. Предварительно был собран и проанализирован почерковый материал, изучена специализированная литература по почерковедению с целью обоснования предложенного в диссертации подхода к верификации и анализу рукописных кривых.

2. Был реализован метод кусочно-линейного представления исходных подписей, дополненный информацией о форме кривой с помощью кривых Безье.

3. Для верификации подписей по динамике их исполнения было применено преобразование Фурье.

Достоверность и обоснованность

1. При разработке алгоритмов был учтен опыт криминалистических экспертов-почерковедов.

2. Экспериментально был установлен факт постоянства и воспроизводимости индивидуальных особенностей исполнения рукописных кривых, проявляющийся, в частности, в динамике движения пера.

3. Результаты работы были протестированы на публично доступной базе подписей SVC 2004, содержащей 3200 образцов подписей.

На защиту выносятся

1. Методология применения рукописных слов и подписей в системах контроля доступа.

2. Метод предварительной обработки рукописных кривых, основанный на скелетизации исходных рукописных слов и подписей.

3. Алгоритм поиска эталонной кривой на основе итерационного анализа изображений.

4. Алгоритм верификации рукописных подписей и слов на основе динамики их исполнения.

5. Постановка задачи графологического анализа личности и возможные алгоритмы ее решения.

Апробация

Основные положения и результаты работы были доложены и обсуждены на следующих научных конференциях:

1. XI Всероссийская конференция «Математические методы распознавания образов (ММРО-11)», Москва, 2003.

2. ХП Международная конференция «Математика. Компьютер. Образование», Пущино, 2005.

3. XLV научная конференции МФТИ «Современные проблемы фундаментальных и прикладных наук», Долгопрудный, 2002.

4. ХИЛД научная конференции МФТИ «Современные проблемы фундаментальных и прикладных наук», Долгопрудный, 2003. Публикации

Основные результаты диссертации опубликованы в 9 печатных работах.

Структура и объем работы

Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы из 116 наименований и пяти приложений. Общий объем работы составляет 260 страниц, в том числе 139 страниц основного текста.

Краткое содержание работы

Во введении обосновывается актуальность работы, ее новизна и практическая значимость. Обсуждаются варианты биометрической идентификации личности, указывается на корреляции между психологией личности и почерком.

В первой главе излагаются особенности криминалистической экспертизы почерка и графологического анализа. Вводится понятие выработанности почерка, являющегося ключевым для обоснования возможности биометрической идентификации по почерку. Кратко описываются основные этапы формирования почерка. Обсуждаются общие и частные признаки речи и почерка. Более детальное описание системы почерковых характеристик вынесено в приложение А. Во второй части первой главы излагается обоснование графологии. Указывается на опыт экспертов криминалистов по определению темперамента человека по почерку. В этом же разделе, посвященном графологии, приводится обзор существующих программных продуктов ориентированных на составление психологического портрета личности на основе анализа почерка.

Показывается, что все известные в настоящее время компьютерные программы анализируют либо отсканированный (статический) образец почерка, либо строятся по принципу вопросника. В приложении Б приводятся примеры наиболее распространенных графологических признаков.

Во второй главе делается обзор литературы по методам анализа динамических («on-line») кривых. Детальное описание некоторых работ, посвященных методам анализа как статических, так и динамических изображений, а также верификации сканированной рукописной подписи, приводится в приложении В.

Основное содержание второй главы составляют разделы: «Распознавание динамических кривых» и «Верификация рукописной подписи». В подразделе «Двигательные модели» проводится обзор статей посвященных вопросу синтеза рукописного текста. Также в этой главе излагаются различные реализации методы эластичного сопоставления (Dynamic Time Warping). Общим для данных методов является использование идеи динамического программирования для сопоставления временных последовательностей характеристик двух кривых.

Во второй половине второй главы обсуждаются способы верификации рукописной подписи путем выделения характерных особенностей кривой, в совокупности с эластичным сопоставлением траекторий. Альтернативные методы верификации подписи рассматриваются в приложении В.

В третьей главе формулируется постановка задачи и описывается возможное применение верификации рукописных слов и подписей в системах разграничения доступа. При этом в рассмотрение вводятся два последовательных этапа функционирования системы: этап идентификации

(поиска или распознавания предъявленной подписи) и этап верификации (проверки подлинности).

Предложенный в диссертации подход к распознаванию подписей относится к категории функциональных методов. В отличие от нейросетевых и статистических (построенных на скрытых марковских моделях) методов, этот подход базируется на эвристических правилах, связанных между собой определенными функциональными зависимостями. К достоинствам такого подхода следует отнести возможность априорной оценки эффективности работы системы с конкретным типом подписи. В частности, в данной работе были четко определены допустимые вариативные изменения рукописных кривых, которые система способна обрабатывать должным образом. Последнее обстоятельство позволяет повысить общую безопасность применения подобных систем.

В основу предварительной обработки рукописного слова или подписи была положена идея выделения характерных или экстремальных точек. При этом особое внимание уделялось так называемым вертикальным экстремумам - точкам, в которых изменяется направление движение по вертикали. Поскольку от степени точности и корректности представления кривой, передаваемой на вход всем последующим алгоритмам, зависит общее качество работы системы, то описанию алгоритма поиска экстремальных точек отводится достаточно большой объем в третьей главе, а полный текст функций приводится в приложении Д. На рис.1 приводятся примеры скелетного представления подписей, полученные путем последовательного соединения экстремальных точек.

Одной из ключевых проблем в распознавании рукописной подписи является учет вариативных изменений кривой. При этом возможны такие

локальные трансформации траектории, при которых исчезают или появляются • отдельные элементы подписи. Предложенный алгоритм сопоставления траекторий учитывает два наиболее характерных изменения

Рис. 1. Примеры «скелетного» представления подписей.

в написания рукописного слова, возникающих, как показал анализ почеркового материала, в результате пропуска или исчезновения вертикального экстремума.

Определение 1. Вариативным изменением 1-го рода некоторой рукописной кривой будем называть такую вариацию траектории, при которой происходит локальное изменение ее формы. ■ Определение 2. Вариативным изменением 2-го рода некоторой рукописной кривой будем называть такую вариацию траектории, при которой происходит добавление и удаление ее элементов. ■

В случае вариативного изменения кривой первого рода пара вертикальных экстремумов может «схлопнуться» в одну экстремальную точку. Условимся называть такой тип трансформации бифуркационной вариацией. Также в случае вариативного изменения кривой первого рода

вертикальные экстремумы могут перестать являться таковыми (см. рис.2). В этом случае условимся говорить о непрерывной вариации кривой.

Договоримся понимать под эталонной подписью совокупность пространственно-временных характеристик истинной подписи пользователя совместно с историей ее написания (временной последовательностью точек).

Решение задачи поиска эталона по предъявленному образцу проводилось методом отыскания локально-оптимального соответствия между участками кривых, с последующим нахождением суммарной меры сходства двух подписей.

Введенные в рассмотрение вариативные изменения траекторий могут

быть учтены алгоритмами класса «string matching», часто применяемыми для сопоставления рукописных слов и подписей. В подобных алгоритмах, как правило, используется динамическое программирование, как наиболее простой и эффективный способ решения данной задачи. Этот метод позволяет не рассматривать рекурсивно всю подпись целиком, а искать глобально оптимальное решение путем рассмотрения локальных участков траекторий. Для описания атомарных сопоставимых единиц траекторий, введем следующее:

Рис. 2. Вариативное изменение 1-го рода. Рис. 3. Вариативное изменение 2-го рода.

Определение 3. Хордой кривой будем называть отрезок, соединяющий вертикальные экстремальные точки противоположного типа. ■

Таким образом, на вход алгоритма сопоставления двух динамических кривых поступает упорядоченный набор хорд, являющийся допустимым набором пар вертикальных экстремумов (связи вида: «min-min» или «шахтах»). При этом задачей алгоритма является нахождение оптимального соответствия между экстремальными точками, представляющими концы хорд.

В качестве метода решения поставленной задачи было применено динамическое программирование. Первым этапом предлагаемого алгоритма является заполнение таблицы штрафов, в которой на пересечении строк и столбцов находятся величины, характеризующие степень отличия соответствующих элементов рукописных кривых. При этом применялись две метрики: «манхэттенская» (в англоязычной литературе известная так же как «city block») и «по Журавлеву». Первая метрика учитывала положение пары хорд относительно друг друга и относительно места в кривой (1),(2), а также относительные размеры хорд

(3),(4):

(1)

(2)

(3)

Сопоставление по указанной мере производилось из соображений, чтобы различие по одной из

-О - ' К ' Аеаьиь

ж у г

Рис. 4. Схема заполнения таблицы штрафов.

координат не приводило к неверному решению, что, вообще говоря, не исключено при сравнении по евклидовой мере. Формулы (1)-(4) не учитывают поведение кривой на участке, заключенном между парой вертикальных

экстремумов. Поэтому дополнительно к приведенным штрафам была предложена мера структурной схожести («по Журавлеву») участков траекторий, принимающая значение 1 или 0.

Поскольку в прямом проходе алгоритма имеет смысл находить соответствие только между вертикальными экстремумами одинакового типа, то из ячейки (у") возможно продолжение в одну из трех ячеек: (г+1!/'+1), (1+1,7+3), (/+3/+-1). В каждой (у)-той ячейке таблицы может находиться до трех «подтаблиц» (см. рис.4), содержащих штрафы за сопоставления хорд с учетом возможной вариативной трансформации 1-го рода. Таким образом,

Рис. 5. Пример сопоставления двух подписей (предпоследние сегменты пропущены алгоритмом сопоставления).

предложенный способ прямого прохода алгоритма является по своей сути иерархическим: в таблицу штрафов заносятся меры отличия участков с учетом пропуска двух экстремумов. При этом при нахождении штрафов такого рода также ищется оптимальное соответствие между экстремальными точками с той лишь разницей, что это не обязаны быть вертикальные экстремумы. Именно в силу последнего обстоятельства алгоритм поиска экстремальных точек был разработан с особой тщательностью.

В результате работы вышеупомянутого алгоритма сопоставления появляется набор гипотез для отбора кандидата на роль эталонной подписи. В силу того, что мера, по которой находятся структурные несоответствия достаточно «нестрогая» (исключающая лишь грубые несоответствия, поскольку анализируется только скелетная форма представления кривой), то для более тщательного анализа желательно иметь средства позволяющиеся оценивать локальные особенности формы траектории (см. рис.6). Наилучшим способом для этой задачи подходят кривые Безье, позволяющие легко оценивать характеристики, которыми пользуются эксперты в судебной криминалистической практике.

В результате, с целью соблюдения оптимального

баланса между

производительностью и

качеством работы, подпрограмма поиска эталонной подписи была реализована по многоуровневой схеме.

не может быть разрешена в рамках

скелетного представления кривой.

Первым шагом подпрограммы поиска являлся отбор возможных кандидатов для последующего анализа. При этом принимался во внимание следующий набор характеристик:

• Пропорции (ширина и высота) подписи;

• Координаты центра масс подписи;

• Количество сегментов;

• Количество петель;

• Максимальная длина штриха в вертикальном и горизонтальном направлениях;

• Количество вертикальных экстремумов;

• Отношение числа левоориентированных штрихов к правоориентированным.

На следующем шаге алгоритма найденные кандидаты передавались на вход процедуре поиска, описанной выше и работающей на основе скелетных представлений кривых. На третьем шаге найденные три гипотезы проверялись на структурное соответствие с предъявленным

Рис.7. Пример представления рукописных кривых с помощью сплайнов Безье для оценки формы сегментов траекторий.

Т

4

образцом. И только на заключительном этапе сравниваемые рукописные кривые представляются с помощью сплайнов Безье, и таким образом оценивается степень схожести эталона и образца по их форме.

Успехи в области синтеза рукописного текста позволяют высказать гипотезу о том, что поведение «человеческой» рукописной кривой определяется небольшим числом параметров, отражающих физические и физиологические характеристики строения руки, которые могут быть заданы аналитически. С этой точки зрения биометрическая идентификация является решением обратной задачи нахождения характерных параметров по форме и динамике исполнения рукописных знаков. В настоящее время в научной среде приняты две модели порождения рукописных кривых. Delta Log-Normal модель, в которой модуль скорости задается в виде:

V(0 = D,A(t,t,„/j„a^-D2Mt,t0,/j2,(Tl), где функция A(t,r0,/j,a2) задается в виде:

W2 tr(t-t0) [ 2 а2 в которой t0 представляет время активации, D, - амплитуда импульсов, ц, -среднее время задержки, о; - время ответа противодействующих систем; и осциляторная модель синтеза рукописных кривых:

*(') = Л cos^ (t - ta) + фх)+C(t -1„) 'у(1) = Всо5(соу(1-10) + фу)

где угловые скорости сц, и <Dy определяются соотношениями между коэффициентами жестокости и массой, а параметры А, В, С, ф,, фу, t0 -константы интегрирования, определяемые начальными условиями.

Возможность представления траектории написания рукописного элемента в рамках механической модели делает естественной гипотезу о

возможности анализа динамики начертательных движений путем привлечения аппарата преобразования Фурье:

aa=\\f(x)dx, л = 0 L о

=i]/Wco{ir}&' n=ÏJ*

К =} J/(x)sinp

о

'fjdx, n = Q..N

о

В данной работе верификация подписи проводилась по зависимости модуля скорости от времени, которая определялась 17 первыми коэффициентами ряда Фурье. Сравнение профилей скоростей производилось по следующей метрике:

/т

FourierPenalty = ^Jp,

1=0

_Î0, если |М, -г\> О

где JP,=\

\гп в противном случае

l(„tesl „ге/г . (uteM Urcf V „"Я „«/

где г, = -у Vй, ~а, ) ) , где в свою очередь а, и о, -

коэффициенты Фурье-разложения по косинусам, Ь?" и Ь^-коэффициенты Фурье-разложения по синусам, А, - среднее отклонение данной гармоники, k - эвристический коэффициент.

Для каждого сегмента подписи (части подписи исполненной без отрыва пера) решение о подлинности принималось независимо на основе простого правила: FourierPenalty < е • FourierThreshold, где величина FourierThreshold (пороговая величина штрафа) находится по эвристической формуле, учитывающей сумму средних отклонений для гармоник.

Окончательное заключение о подлинности подписи принималось на основе весового голосования по количеству принятых и отклоненных сегментов.

Рис.8. Пример зависимостей модуля скорости от времени для оригинальных подписей (слева), и поддельных (справа).

В четвертой главе излагается методика, по которой проводилось тестирование разработанной системы, приводятся результаты тестирования, обсуждаются существующие ограничения по распознаванию и верификации подписи, указываются дальнейшие шаги по совершенствованию алгоритмов. Приводимые числовые оценки качества работы системы являются экспериментальными значениями, полученными на общедоступной базе данных ЯУС 2004. Предварительно из рассмотрения были исключены те образцы подписей, которые являются «неподходящими» для разработанного алгоритма поиска (главным образом, иероглифические подписи, имеющие произвольное количество сегментов в каждом своем исполнении) - таких подписей оказалось 19 из 80, или примерно 24%. Далее, для некоторых типов подписей были

исключены из рассмотрения отдельные образцы, непригодные для анализа. На полученной таким образом выборке и было произведено тестирование. Для выбора эмпирических пороговых значений для процедуры верификации (фактически, выбора решающего правила) использовался критерий Неймана-Пирсона, с общим требованием минимизации равной ошибки. Нахождение остальных эвристических коэффициентов производилось по критерию минимума средней вероятности ошибочной классификации, где вероятности классификации частных признаков рукописных кривых оценивались на основе частот правильной обработки данных признаков.

Показатель правильно распознанных подписей на этапе поиска эталонной подписи составил 96.7% (было верно распознано 2283 подписей из 2360) по базе данных SVC 2004.

Оценка качества работы алгоритмов идентификации на классе рукописных слов (для которых характерна меньшая межклассовая вариативность) была проведена оценочным образом на основе 25 типов рукописных слов от 5 человек (общим числом образцов в 250 экземпляров). Результат распознавания составил 95.2% (238 из 250).

Оценка вероятностей ошибок верификации 1-го и П-го рода проводилась на той же выборке, что и тестирование алгоритма поиска. В главе 4 диссертации достаточно подробно обсуждаются показатели качества верификации для разных типов кривых. Для некоторых подписей предложенная система демонстрирует нулевые уровни ошибок 1-го и И-го рода, но в среднем система имеет следующие показатели:

• Ошибочное отклонение - ошибка 1-го рода (FRR): 8.1%,

• Ошибочное принятие - ошибка П-го рода (FAR): 7.5%.

Данные уровни ошибок являются приемлемыми, несмотря на свои достаточно большие значения, тем более что имеются возможности по улучшению алгоритмов верификации. Кроме того, следует заметить, что в рамках предложенного подхода динамика подписей рассматривалась отдельно от их формы, что снижает дискриминантные свойства системы.

Предложенная система ориентирована на анализ рукописных кривых определенного класса: написанных скорописью и преимущественно без отрыва пера, и с возможной повышенной вариативностью их исполнения. Именно такие кривые возникают при биометрической идентификации почерка на мобильных компьютерах с сенсорным экраном.

Основные результаты диссертационной работы

1. Предложена и апробирована новая концепция биометрической идентификации на основе динамической рукописной подписи.

2. Введена классификация вариативных изменений почерка.

3. Разработаны эффективные по скорости работы, иерархические алгоритмы распознавания динамических кривых.

4. Исследована возможность биометрической идентификации пользователя по спектральным динамическим характеристикам.

5. Разработана библиотека программных классов, позволяющая реализовать новый интерфейс взаимодействия пользователя с компьютером, оборудованным сенсорным экраном с перьевым вводом.

Основные результаты диссертации опубликованы в работах:

1. Колядин Д.В., Савин A.A. О проблеме верификации подписи в системах контроля доступа. // Обработка информации и моделирование: Сб.ст./Моск.физ.-тех. ин-т. -М., 2002. - С. 81-89.

2. Колядин Д.В. Верификация динамической рукописной подписи в режиме множественного сопоставления с учетом повышенной вариативности почерка. // Моделирование и обработка информации: Сб.ст./Моск.физ.-тех. ин-т. - М., 2003. - С. 124-129.

3. Колядин Д.В. Анализ динамических кривых применительно к задаче верификации рукописной подписи / Доклады XI Всероссийской конференции «Математические методы распознавания образов». -М., 2003.-С. 330-332.

4. Колядин Д.В., Петров КБ. Сопоставление рукописных динамических кривых методом оценки схожести локальных особенностей вблизи экстремальных точек. / Труды международной конференции «Математика. Компьютер. Образование». - Пущино, 2005.-С. 125.

5. Колядин Д.В., Петров КБ. Алгоритм выделения экстремальных точек применительно к задаче биометрической верификации рукописной подписи. // Электронный журнал «Исследовано в России», 2005, 47, С. 532-540. http://zhurnal.ape.relarn.ru/articles/2005/047.pdf

6. Колядин Д.В., Петров КБ. Быстрое сопоставление рукописных динамических подписей в биометрической системе контроля доступа. // Электронный журнал «Исследовано в России», 2005, 83, С. 870-878. http://zhurnal.ape.relarn.ru/articles/2005/083.pdf

7. Колядин Д.В., Петров КБ. О проблеме верификации подписи по динамике ее исполнения // Процессы и методы обработки информации: Сб.ст./Моск.физ.-тех. ин-т. -М., 2005. - С. 168-177.

8. Колядин Д.В. Верификация динамической рукописной подписи с учетом повышенной вариативности почерка. / Труды ХЬУ научной конференции МФТИ «Современные проблемы фундаментальных и прикладных наук». - М.:МФТИ, 2002. - С. 44.

9. Колядин Д.В. Анализ динамических кривых применительно к задаче проверки аутентичности рукописного текста. / Труды ХЬУ1 научной конференции МФТИ «Современные проблемы фундаментальных и прикладных наук». - М. .МФТИ, 2003. - С. 57.

Колядин Дмитрий Витальевич

Исследование почерка на основе анализа динамических кривых

Автореферат

Подписано в печать 02.09.2005. Формат 60x90/16 Усл. печ. л. 1.0. Тираж 70 экз. Заказ № 428 Московский физико-технический институт (государственный университет) Печать на аппаратуре Rex-Rotaiy Сору Printer 1280. НИЧ МФТИ

141700, г. Долгопрудный Московской обл., Институтский пер., д. 9

1 { , " /' РНБ Русский фонд

2006-4 15092

Введение

П о ч е рк ка к объе кт био метрич еског о а на л иза.

Почерк.и,личность.

Глава 1. Криминалистическая экспертиза почерка и графология

Криминалисти

Общие признаки почерка, характеризующие пространственную ориентайию.дгажений.

Общие признаки, отражающие степень и характер сфррмщованности.пис^

0?.$ФМЯГИЯ.1.

Определение.

Обзор, существую.

Глава 2. Обзор работ в области распознавания динами ческих кривых

Ра с п о з на в а ние.отс ка н и p.Q ва н н о го ру ко п и с н о гр. те кета.3.

Р.а спрзна ва ни? ди н амич ее ки х. к р и в ы ^.

Эластичное сопоставление.

Двигательные модели.

Вер. иф и ка ц и я рук.о пи с но й .по дпи си.

Характеристически

Сопоставление.траекторий.

М.еМШСТШ.ежийдодхрд.

Су.ВДествующиек.омме

Глава 3. Система анализа рукописного почерка

Пред на з н а ч е н и е. си с те мы ип остано вка.задач и.

Ш^ентификация .ми.верификация.

Системапочерковыхх^

Q б р а б о т к а. ди н а м ич££ки х. к ри в ых.7.

Этапы обработки.

Предобработка.

Выделение ^кстрем^ьных то

ОтборжсШ^ММШЫх точек.

Постобработка.

Общая схема.программы.

Анализ.динамичес

Выделениехлоб^ьных

Выделениепочеркр^

Ш^ентиф.икадия.и.поиск.

Хараетеристиче^

Метод сопостажения.

В £Р. иф и ка ц ия рук.о п и с но и .п о дпи£и. и. п очерка.10$

Верификация, по.:форме.ЩаеШ)рии.

Вери.фикацияпо ЖШ^Ж?. .нщисания.

Глава 4. Экспериментальная оценка производительности и надежности системы

Метод ика. п ро в ере н и я .а кс п е рим е н то в.1.2.1. зуд ьт а.т ы. ра б о ты а лгор и тм Q в. пои с к а.1.2$ ьтаты онре де ления.п о дд£Льных.подписей.1.23.

Прдделка.фррмы и.динамики.нап^

Требования к исполнению подпи

Результат.тесхир

Спрсобь1.дальнен1и

Проблема анализа рукописного текста не нова. Применительно к истории России палеографы связывают появление почерковедения с утверждением скорописи в XVII веке. В это время письменное дело выходит из стен монастырей, где ему предавалось особое значение, и передается в руки наемных переписчиков, допускающих вольное написание букв. К этому же периоду и относится появление первой, так называемой, каллиграфической судебной экспертизы почерка.

Долгое время предметом исследования являлась рукописная «бумажная» подпись. Но развитие компьютерных технологий позволило перейти от анализа статических изображений к анализу начертательных траекторий. Во втором случае путем применения специальных графических планшетов удается отслеживать движение «электронного пера». В данной диссертации предметом рассмотрения являются именно «динамические» кривые1. При этом объектом анализа является как почерк в целом, так и отдельная рукописная подпись. Область применения данной технологии достаточно широка: от карманных компьютеров до сетевых приложений класса «клиент-сервер».

Почерк как объект биометрического анализа

Под термином «биометрия» принято понимать автоматизированный анализ биологических характеристик человека с целью подтверждения его личности. В значительной степени условно, биометрию можно разделить на «физиологическую» и «поведенческую».

1 В англоязычной литературе для обозначения первого подхода применяется термин: «Off-line» распознавание, а для второго подхода - «On-line» распознавание. В русскоязычной литературе нет четко установившейся терминологии по данному вопросу, поэтому в тексте диссертации принято первый подход называть «статическое» распознавание, а второй подход как «динамическое» распознавание.

Физиологическая биометрия базируется на прямых измерениях характеристик частей человеческого тела. К основным и широко распространенным технологиям в настоящий момент относятся методы распознавания:

• по отпечатку пальца,

• по радужной оболочке глаза,

• по рисунку кровеносных сосудов глазного дна,

• по геометрии ладони.

Поведенческая биометрия основывается на анализе действий, совершаемых человеком. Таким образом, можно утверждать, что, в некоторой степени, данная разновидность биометрических технологий использует косвенное измерение биологических характеристик частей человеческого тела. Лидирующими технологиями в этом направлении являются:

• распознавание голоса,

• анализ «клавиатурного почерка»,

• распознавание рукописной подписи.

Ключевым свойством упомянутых выше методов является наличие временного фактора как основополагающего для проведения анализа.

Под «биометрической системой» понимается интегрированная совокупность программного обеспечения и электронного оборудования, совместно решающие задачи идентификации (распознавания) или верификации (подтверждения)2 личности человека. Таким образом, мы подходим к двум принципиально различным режимам функционирования подобных систем. В первом случае система работает в режиме поиска эталона по образцу, с последующим их сравнением [94]. В то время как во втором слу

2 Отметим, что устоявшихся русскоязычных терминов в данном случае не существует, что вносит определенную путаницу. В англоязычной литературе термин «идентификация» переводится как identification (one-to-many, recognition), а термин «верификация» как - verification (one-to-one matching, authentication). чае система сразу извлекает эталон по предъявленному идентификатору (например, имени пользователя) и производит сравнение образца с эталоном. Все приводимые в диссертации алгоритмы ориентированы именно на режим множественного сопоставления как более сложный, но и обладающий большей функциональностью.

Биометрические методы подтверждения личности имеют целый ряд достоинств. Для работодателей данная технология предоставляет следующие преимущества (приведем далеко не полный их перечень):

• Уменьшение расходов связанных с забывания паролей,

• Устраняется проблема обмана работодателя («buddy punching»),

• Улучшается защищенность, т.к. нет общих и упрощенных паролей,

• Повышается уровень безопасности, т.к. нет магнитных карт-ключей, которые можно похитить.

Для пользователей основное преимущество идентификации на основе биометрических данных заключается в освобождении от необходимости запоминать большое количества разнообразных паролей.

Тем не менее, биометрические методы идентификации не могут преца.

Рис.1. Поддельный отпечаток пальдоставить 100% гарантии в правильности своего функционирования. Методы, основанные на физиологических особенностях тела, могут быть скомпрометированы использованием муляжей. На рис.1 приведен пример поддельного отпечатка пальца. В случае системы, основанной на распознавании человеческого лица известны случаи, когда системе предъявлялась фотография, которую система благополучно «распознавала» в качестве зарегистрированного пользователя. Поэтому одним из основных направлений совершенствования биометрических методов в настоящее время является комбинация различных технологий [60]. Активная исследовательская работа в данном направлении проводится в следующих научных центрах: Michigan State University (США), Fraun-hofer Institute for Integrated Circuits (Германия), Dalle Molle Institute for Perceptual Artificial Intelligence (Швейцария) и др.

Большую защиту для подделки представляют методы, основанные на анализе поведенческих характеристик человека. Однако эти характеристики обладают повышенной вариативностью, что затрудняет работу биометрической системы, и в общем случае снижает ее надежность. Здесь на первое место в плане технической реализации выходит почерк. Действительно, на протяжении столетий подпись и почерк служили целям идентификации личности человека. Подпись является общепринятым методом заверки подлинности бумажных документов. Развитие компьютерных технологий позволяет расширить область применения рукописной подписи. Большое количество разнообразных приложений нуждаются в надежной схеме идентификации личности пользователя. Примерами таких приложений могут служить: ограничение доступа в служебные и охраняемые помещения, пользование компьютерными средствами, осуществление финансовых операций. В работе [106] в сравнительном анализе технологий идентификации личности фигурирует идея составления «психологического личностного профиля». Следует отметить, что в области криминалистической экспертизы почерка эксперт сначала пытается составить «психологический» портрет владельца почерка, определить степень выработанности почерка и только затем проводит графологический анализ. Таким образом, мы подходим к возможности анализа почерка с точки зрения установления некоторых психологических характеристик индивида.

Почерк и личность

Проведение почерковедческого анализа только с целью верификации почерка было бы неполным без рассмотрения взаимосвязи между характеристиками начертательных движений и психологией индивида. Вопросами выявления закономерностей между почерком и характером занимается графология. Как и классический психоанализ, графология носит отпечаток искусства. Подчас одни и те

1831 год, 19 лет

1832 год, 20 лет

1838 год, 26 лет

УОЛ?

1859 год, 47 лет же признаки разные исследователи толкуют по-разному [89]. Следует отметить, что в значительной степени данная область почерковедения еще недостаточно исследована. Целью данной работы служит, в том числе, попытка привнесения точных методов, основанных на современных компьютерных технологиях в сферу графологии. В России, а затем и в Советском Союзе за почти сто лет было издано Рис. 2. Автографы Чарльза Диккенса, только две книги, посвященных выявлению психологического портрета человека по его почерку [93], [108], не считая небольших брошюр [107] и научно-популярных статей [88]. Тем не менее, исследования, проводимые почерковедами [109], выявили связь между характером выполняемых движений пером и психологическим портретом человека. На рис.2 приведены автографы Чарльза Диккенса в разные периоды его жизни. Этот рисунок наглядно демонстри

1870 год, 58 лет рует, как росло самомнение писателя, проявляемое в размашистом росчерке одновременно с его славой, и как к старости его почерк стал более «спокойным».

К сожалению, в Советском Союзе графология часто упоминалась как «лженаука». Это привело фактически к отсутствию отечественной школы графоанализа. На Западе в настоящее время издается большое количество книг посвященных графологии. В этой области работает большое количество экспертов разного уровня квалификации, услугами которых пользуются кадровые и брачные агентства, HR подразделения компаний. Утверждается, что профессиональный графолог может прояснить такие вопросы как, например:

• Психологический настрой испытуемого,

• Эмоциональные реакции,

• Движущую силу и мотивацию,

• Социальные качества,

• Навыки мышления, '

• Трудоспособность,

• Природную талантливость и определенные навыки.

Графологический анализ строится на выявлении устойчивых почерковых характеристик. Применение графических планшетов позволяет автоматизировать предварительную стадию сбора информации для анализа, и тем самым его формализовать, избавившись от субъективных оценок. Подобное программное обеспечение может найти применение в отделах кадров предприятий и организаций. Бесспорно, квалифицированный эксперт всегда сможет лучше проанализировать предъявленный ему образец почерка, тем не менее, указанное программное обеспечение может служить неплохим подспорьем менеджеру по набору кадров при проведении интервью при приеме на работу. Частично обсуждению этого вопроса также посвящена данная диссертационная работа. Тем не менее, проведение большого исследования в области графологии требует больших ресурсов и привлечения квалифицированных психологов, поэтому главным образом в диссертации только производится постановка задачи, и указываются технические возможности ее решения.

В качестве небольшого забавного отступления можно привести случай из практики отечественного графолога Н.А. Чура. На одном из занятий группы из 12 человек он предложил составить психологический портрет владельца почерка, образец которого представлен на рис.3. Интересно, что только один человек из группы узнал во владельце автографа Президента РФ В.В. Путина, а 4 человека вообще пришли к выводу, что почерк принадлежит женщине. Тем не менее, в области криминалистической почерковедческой экспертизы существуют довольно строго полученные результаты по выявлению пола владельца почерка [90].

В заключение скажем, что графология как научная дисциплина находится еще на пути становления, и привлечение численных методов основанных на компьютерных технологиях может придать ей новые качества.

РлГ ^^^

Рис.3. Образец почерка В.В. Путина.

Выход:

4) Для р= 1, 2, . ,ш положим, что узел t[tp*2.\,tp*2] являетсяр-ым ребенком узла t. Вызываем Subtree{t[tp»2-btp»2]»0-Полученное скелетное дерево обладает следующими свойствами:

1) Высота дерева соответствует количеству разбиений исходной кривой по высоте.

2) Листья дерева образуют последовательное перечисление пиков кривой, за исключением тех, которые были исключены из рассмотрения при квантизации.

3) Высота листа дерева соответствует амплитуде соответствующего пика кривой.

4) Наиближайший общий предшественник двух узлов указывает на соответствующую долину кривой.

Для сравнения двух кривых и введения меры их различия предлагается ввести следующие четыре типа операций:

1) расщепление отец-ребенок,

2) слияние отец-ребенок,

3) расщепление брат-брат,

4) слияние брат-брат.

Расщепление отец-ребенок применяется к узлу дерева, в результате чего появляется новый узел - ребенок. В результате узел-ребенок содержит дочерние узлы исходного родительского узла.

Слияние отец-ребенок - операция, обратная к предыдущей.

Расщепление брат-брат приводит к образованию нового узла, имеющего такую же высоту. Новый узел может иметь ноль или несколько подузлов изначального узла.

Слияние брат-брат -обратная операция по отношению к выше описанной. При этом результирующий узел содержит все узлы, ранее принадлежавшие братским узлам. (На рис. В.34 приводятся схемы перечисленных расщеплений и слияний.)

Поскольку с помощью перечисленных операций два произвольных дерева можно свести одно к другому, то идея сопоставления двух кривых на основе их скелетных деревьев заключается в минимизации штрафа — количества действий, которое необходимо совершить, чтобы привести одно дерево в соответствие с другим. Утверждается, что по сравнению с другими алгоритмами string-to-string сопоставления данный метод позволяет отслеживать более существенные отличия между двумя анализируемыми кривыми.

Объединение решающих правил (классификаторов)

Часто при анализе изображений формируются наборы признаков не допускающие совместной обработки и классификации, например, такая ситуация возможна, когда во внимание принимаются глобальные и локальные характеристики. В таком случае приходится организовывать ком

• noon

I ИООТ1 ucnac 17.7-1 а)

11Т« I»

К i iii •

Ъ)

Рис. В.34. Схема четырех типов операций расщепления-слияния. бинацию решающих правил (classifiers) или экспертных заключений, каждое из которых оптимальным образом характеризует определенный набор признаков. Самый простой способ совмещения различных анализируемых характеристик производится путем так называемого раннего связывания (early integration)', когда все вектора исходных данных трактуются как один большой вектор. Тем не менее, такой подход имеет определенные недостатки. Большая размерность входных данных усложняет систему и требует большего числа примеров для достижения заданной точности. Кроме этого источники данных могут иметь различную надежность, что так же следует принимать во внимание. Альтернативный подход заключается в организации так называемого позднего связывания (late integration), когда каждая компонента общей экспертной системы принимает решение, каждое из которых затем комбинируется в окончательное заключение.

Помимо вышеуказанного архитектура сложных классификаторов может строиться несколькими способами: эксперты-классификаторы могут работать параллельно, а могут организовываться в иерархические или многоэтапные дискриминантные процессы. В первом случае проводится «голосование» экспертов и выработка окончательного решения, во втором случае на вход следующему этапу передаются только образцы, прошедшие предварительный отбор на предыдущей стадии.

Ниже приведем различные построения архитектур комбинаций решающих правил. Пусть имеется т «экспертов» и п классов. Тогда обозначим через dJt,je\.m,/el.л апостериорную вероятность принадлежности у-го заключения эксперта к z-му классу. Для каждого решающего правила (эксперта) на вход подается специальное представление исходного сигнала х, которое мы будем обозначать Xj. Рассмотрим различные подходы к определению меры принадлежности входного сигнала х к z-му классу:

В.26) где f— искомая комбинационная функция с некими параметрами у/. Понимая под г,- апостериорную вероятность принадлежности к му классу в качестве окончательного решения мы выбираем класс с наибольшей вероятностью:

Г =arg max г,. (В.27) I

Голосование

Голосование является простейшим способом комбинации нескольких решающих правил. В англоязычной литературе этот метод имеет и другие синонимичные наименования: committees, ensembles или linear opinion pools. Прежде всего, каждый классификатор10 отдельно и независимо обучается, с целью минимизации взаимного влияния. Обозначим через yi желаемый выход от работы dyt -го классификатора на основе анализа соответствующего Xj -го представления входного сигнала х. Обучение проводится путем минимизации функции энтропии для всех образцов, перечисляемых индексом р:

Ej = -X I>f log</„(*;) V/, (В.28)

Р > где yf =1 увели xpj ei-му классу и 0 иначе. Обозначим через Д весу-го классификатора. Тогда у/ = \JmMPj с условием нормировки:

V/,/?,> 0, и (в-29> м

Тогда в соответствии с введенными обозначениями, для правила (В.26) получим следующий вид:

Л = fv (du , А • Д»)=

В.30) j-1

10 Мы допускаем использование синонимичных обозначений понятия выбора оптимального соответствия как то: решающее правило, классификатор, экспертное заключение или просто эксперт.

Если все весовые коэффициенты одинаковы и равны: /3f=\fm, то формула (В.ЗО) будет представлять простое голосование, дающее осред-ненное значение. Композиция экспертов

В основе данного метода лежит схема объединения отдельных экспертных заключений в единое целое. Формула (В.26) принимает вид: м

Этот метод очень напоминает метод голосования с той лишь разницей, что в данном случае веса голосов зависят от входного сигнала. Обучение dji и Pj предлагается осуществлять путем минимизации уравнения:

Смысл указанной процедуры заключается в том, что для данного входного сигнала х, только одно значение Д будет ответственно за голосование у'-го эксперта в получении окончательного результата, иными словами в процессе обучения производится минимизация различия между желаемым итоговым решением и значениями выходных вероятностей у'-го эксперта. Стековое обобщение (stacked generalization)

Данный метод предполагает, что голоса экспертов {обобщение О уровня) не обязательно скомбинированы линейно. Более того, их комбинация {обобщение 1 уровня) также подвергается процедуре обучения. В общем виде функция построения итогового решения выглядит как и в предыдущих случаях: где fs может быть произвольной и не обязательно взвешенной суммой как в случае голосования или композиции экспертов.

В.31)

В.32)

В.ЗЗ)

Обучение dJt и /производится по отдельности. Функция/дает на выход желаемый результат при наличии определенной комбинации своих параметров на входе. Таким образом, обучение функции / производится на наборах данных отличных от используемых при обучении dJh которые сами обучаются по принципу (В.28). Затем комбинационная функция (В.ЗЗ) обучается путем минимации функционала:

E = -ZZynognP, (В.34)

Р i где гкропределяется уравнением (В.ЗЗ).

Метод добавочного улучшения (boosting)

Данный метод применяется, когда частота ошибок классификаторов немного лучше случайного распределения. В отличие от предыдущих подходов, в данном случае классификаторы обучаются последовательно. После того как произведено обучение первого эксперта, проводится обучение второго эксперта на примерах, на которых первый классификатор дал сбой с целью обеспечения уверенности в том, что теперь два классификатора взаимно дополняют друг друга. Затем третий классификатор обучается на тех примерах, на которых заключения предыдущих двух экспертов не совпадают. В результате: г1=/в(с 1»с2»сзХ гДе Cj = arg max d}i, j = 1,2,3 (В .3 5 ) с, если с, = с-, 2 (В.36) сj иначе

Поскольку для обучения необходимо три различных набора данных этот метод объедения решающих правил является вычислительно дорогостоящим.

Каскадный метод

В основе подхода лежит замечание, что большое количество анализируемых образцов допускают обработку простым классификатором, или классификатором, использующим простое представление исходного сигнала. В то время как более сложный классификатор использует более тщательное и детальное решающее правило или представление сигнала и применяется в случаях, с которыми простой классификатор может потенциально не справиться. Основная проблема заключается в определении ситуации, когда сигнал может быть обработан простым классификатором (ds), а когда сложным (dx). В процессе обучения формируются два множества примеров: те образцы, которые предположительно не могут быть достоверно классифицированы простым экспертом, используются для обучения сложного эксперта.

Метод анализа на основе мулыпиагентных технологий

Концепция интеллектуальных агентов взаимодействующих в рамках мультиагентной платформы получила широкое распространение сравнительно недавно, хотя ее корни уходят в 60-е годы XX века. Здесь под агентом мы понимаем программную систему, являющуюся частью среды и существующую в ней, причем эта система (агент) способна получать и обрабатывать информацию из окружающей среды; одновременно сама система существует во времени в соответствии со своим собственным планом и программой поведения и способна передавать сведения в окружающую среду [24,82]. Своим появлением агентная концепция построения программного обеспечения обязана необходимостью обрабатывать разнородные (и, возможно, распределенные) данные.

Эта концепция соответствует идеям задач распознавания образов, когда имеется несколько классификаторов и классифицирующих гипотез, среди которых надо сделать оптимальный выбор. В работе [79] была предложена и описана система анализа рукописного текста, основанная на мультиагентной архитектуре. Традиционный процесс распознавания образа состоит из этапов: предобработки, сегментации, выделения особенностей (характеристик), классификации (см. рис. В.35).

Стадия классификации реализуется, как правило, с помощью нейронных сетей, скрытых марковских моделей, метрических классификаторов и т.п. При этом следует иметь в виду, что производится выделение набора характеристик, специфичных для каждого классификатора.

Основное отличие мультиагентной технологии (МАТ) от ранее описанных методов и способов комбинации решений нескольких классифика

Рис. В.35. Схема мультиагентной архитектуры [57]. торов заключается в том, что в МАТ между агентами всегда присутствует переговорный процесс. Существует несколько стандартов на языки межа-гентного взаимодействия, например, KIF (knowledge interchange format), KQML (knowledge query and manipulation language). Агенты могут взаимодействовать не только между собой, но и с базой знаний (knowledge base) к которой они обращаются для получения необходимых сведений для принятия решения. Для распознавания каждого символа может быть создана группа агентов, например, для отличения буквы <а> от буквы <и>. В процессе распознавания агент может запросить базу знаний на предмет уточнения кривизны нижнего элемента символа или положения концов траектории. Таким образом, в описываемом подходе агенты активируются по соответствующему запросу, а характеристики вычисляются по требованию, что позволяет уменьшить размерность задачи (количество анализируемых характеристик), и в конечном итоге увеличить скорость работы алгоритма.

На рис. В.36 представлены возможные варианты взаимодействия агентов. Головной процесс (на схеме обозначен буквой М — master) выступает в роли поставщика данных, который принимает исходные данные, дем Ж

AAA a) Master-slave point to point

000 b) Master-slave via Router c) Master-slave point to point via Router

Рис. В.36. Виды взаимодействий между агентами. d) Full connectivity лает предобработку и производит их сегментацию. Агентный процесс (АГГ) способен получить данные от головного процесса (ГП), извлечь из них характеристики и сформировать список гипотез. ГП может быть напрямую связан с АП (рис. В.Зба), или взаимодействовать через маршрутизатор (рис. В.ЗбЬ); АП могут иметь двухточечные виртуальные связи, устанавливаемые через маршрутизатор (рис. В.Збс) либо быть полностью связанными (рис. B.36d).

Заключение

Предложенный подход, основанный на разделении пространственной и динамической информации о рукописной подписи в целом показал свою пригодность для коммерческого использования. Тем немее, указанный в диссертационной работе метод не может рассматриваться пригодным к использованию в 100% случаев рукописных кривых. Более того, данный метод имеет достаточно узкую специализацию, и демонстрирует хороший показатели функционирования только на определенном классе рукописных слов. Не смотря на это, разработанный подход идеально подходит к применению в системах контроля доступа, основанных на верификации по рукописным словам. В частности данная система может быть применена в графическом пользовательском интерфейсе нового типа на карманных компьютерах, оборудованных сенсорным экраном.

1. Alimoglu F., Alpaydin E. Combining Multiple Representations for Pen-based Handwritten Digit Recognition. // ELEKTRIK: Turkish Journal of Electrical Engineering and Computer Sciences, 2001, vol. 9, no. 1, pp. 1-12.

2. Badr Al-Badr, Haralick R. M. Symbol Recognition without Prior Segmentation // Proceedings of the IS&T/SPIE Symposium on Electronic Imaging Science and Technology: Document Recognition, San Jose, CA, 1994, vol. 2181, pp. 303-314

3. Bagdanov A.D., Worring M. Granulometric Analysis of Document Images. // In Proceedings of the 16th International Conference on Pattern Recognition, 11-15 August 2002, Quebec, CANADA, vol. 1, pp. 468-473

4. Bastos L.C., Bortolozzi F., Sabourin R., Kaestner C. Mathematical Modelation of Handwritten Signatures by Conies // WACV'96 Third IEEE Workshop on Application of Computer Vision, 1996

5. Bovino L., Impedovo S., Pirlo G., Sarcinella L. Multi-Expert Verification of Hand-Written Signatures // Proceedings of the Seventh International Conference on Document Analysis and Recognition (ICDAR 2003), pp. 932- 936

6. Branston B. Graphology Explained: A Workbook. USA, Maine, Samuel Weiser, Inc., 1991

7. Chan Kam-Fai, Yeung Dit-Yan. Elastic Structural Matching for Recognizing On-line Handwritten Alphanumeric Characters // Pattern Recognition, 1999, vol. 32, no. 7, pp. 1099-1114

8. Chen H., Agazzi O.E., Suen C.Y. Piecewise Liner Modulation Model of Handwriting // Proceedings of the 4th International Conference on Document Analysis and Recognition (ICDAR), Ulm, Germany, August 1997, pp. 363-367

9. Cheng Yao-Chou, Lu Shin-Yee. Waveform Correlation by Tree Matching. // IEEE Transactions on Pattern Analysis and Machine Intelligence, 1985, vol. 7, no. 3, pp. 299-305

10. Chu S., Keogh E., Hart D., Pazzani M. Iterative Deepening Dynamic Time Warping for Time Series // IEEE International Conference on Data Mining, Maebashi City, Japan, 2002

11. Connell S.D., Jain A.K. Template-based Online Character Recognition. // Pattern Recognition, 2001, vol. 34, pp. 1-14

12. Dullink H., van Daalen В., Nijhuis J., Spaanenburg L., Zuidhof H. Implementing a DSP Kernel for Online Dynamic Handwritten Signature Verification Using the TMS320 DSP Family//Technical report, Texas Instruments, 1995

13. Ehrich R.W., Koehler K.J. Experiments in the Contextual Recognition of Cursive Script. // IEEE Transactions on Computers, 1975, no. 24, pp. 182-194

14. El-Yacoubi A., Gilloux M., Sabourin, C.Y. Suen. An HMM-Based Approach for Off-Line Unconstrained Handwritten Word Modeling and Recognition // IEEE Transactions On Pattern Analysis And Machine Intelligence, 1999, vol. 21, no. 8, pp. 752-760

15. Guberman S.A., Lossev I., Pashintsev A.V. Method and Apparatus for Recognizing Cursive Writing from Sequential Input Information, US Patent WO 94/07214, March 1994

16. Guerfali W., Plamondon R. The Delta LogNormal Theory for the Generation and Modeling of Cursive Characters // Int. Conf. on Document Analysis and Recognition (1995), pp. 495-498

17. Gupta G. K., Joyce R.C. A Simple Approach to Dynamic Handwritten Signature Verification //Technical report, James Cook Univ. of North Queensland, 1995

18. Gupta G., McCabe A. A Review of Dynamic Handwritten Signature Verification // Technical Article, James Cook University Computer Science Department, 1997

19. Guyon I. Handwriting Synthesis from Handwritten Glyphs // In Proc. of the 5th International Workshop on Frontiers of Handwriting Recognition, 1995, pp. 309-312

20. Hahgai S., Yamanaka S., Hamamoto T. Writer Verification using Altitude and Direction of Pen Movement // International Conference on Pattern Recognition, 2000, vol. 3, pp. 479482

21. Hao F., Chan C. W. Online Signature Verification Using a New Extreme Points Warping Technique // Pattern Recognition Letters, 2003, vol. 24, no. 16, pp. 2943-2951

22. Hastie Т., Kishon E. A Model for Signature Verification // IEEE International Conference on Decision Aiding for Complex Systems, 1991, pp. 191-196

23. Hayes-Roth В. An Architecture for Adaptive Intelligent Systems. // Artificial Intelligence: Special Issue on Agents and Interactivity, pp. 329-365

24. Hollerbach J. An Oscillation Theory of Handwriting // Biological Cybernetics, 1981, no. 39, pp. 139-156

25. Homayoon S.M. Beigi. Pre-Processing the Dynamics of On-Line Handwriting Data, Feature Extraction and Recognition. // Progress in Handwriting Recognition, A.C. Downton and S. Impedovo (eds.), World Scientific Publishers, New Jersey, 1997, pp. 191-198

26. Hough P.V.C., Machine Analysis of Bubble Chamber Pictures. // International Conference on High Energy Accelerators and Instrumentation, CERN, 195928. http://www.biometricgroup.com/29. http://www.writinganalysis.com/

27. Jain A.K., Griess F.D., Connell S.D, On-line Signature Verification // Pattern Recognition, 2002, vol. 35, no. 12, pp. 2963-2972

28. Jermyn I., Mayer A., Monrose F., Reiter M., Rubin A. The Design and Analysis of Graphical Passwords // 8th Usenix Security Symposium, Washington, USA, 1998

29. Kashi R.S., Hu J., Nelson W.L., Turin W. On-line Handwritten Signature Verification using Hidden Markov Model Features // IJDAR, 1998, no. 2, pp. 319-330

30. Keogh E., Pazzani M. Scaling up Dynamic Time Warping for Datamining Applications // Proc. of the 6th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2000.

31. Kim G., Govindaraju V. Handwritten Phrase Recognition as Applied to Street Name Images // Pattern Recognition, 1998, vol. 31, no.l, pp.41-51

32. Kohonen T. The Self-organizing Map // Proceedings of the IEEE, vol.78, 1990, pp. 14641479

33. Lee D. H., Cho H.G. The Beta-Velocity Model for Simulating Handwritten Korean Scripts // Proceedings of 4th International Conference on Raster Imaging and Digital Typography, St.Malo, France, March 1998, pp. 252-264

34. Li X., Yeung D.Y. On-line Handwritten Alphanumeric Character Recognition Using Dominant Points in Strokes. // Pattern Recognition, 1997, vol. 30, no. 1, pp. 31-44

35. Li Xiaolin, Parizeau Marc, Plamondon Rejean. Detection of Extreme Points of On-line Handwritten Scripts // Progress in Handwriting Recognition, edited by A. C. Downton and S. Impedovo, World Scientific, 1997, pp. 169-176

36. Lowe S. R. The Complete Idiot's Guide to Handwriting Analysis. NY.: Penguin Group: Alpha books, 1999

37. Maddouri S.S., Amiri Hamid, Abdel Belaid. Local Normalization Towards Global Recognition of Arabic Handwritten Script // International Workshop on Frontiers in Handwriting Recognition, 2002

38. Martinez J. R., Alcantara R. S. On-line Signature Verification Based on Optimal Feature Representation and Neural-network-driven Fuzzy Reasoning // SSGRR, L'Aquila, Italy, January 6-12, 2003

39. McCabe A. Hidden Markov Modelling with Simple Directional Features for Effective and Efficient Handwriting Verification // 6th Pacific Rim International Conference on Artificial Intelligence, Melbourne, Australia, August 28 September 1,2000

40. McNichol A., Nelson J. A. Handwriting Analysis: Putting It to Work for You. USA, Illinois, McGraw-Hill Companies: Contemporary Books, 1994

41. Morita M., Bortolozzi F., Facon J., Sabourin R. Morphological Approach of Handwritten Word Skew Correction // X SIBGRAPI'98, International Symposium on Computer Graphics, Image Processing and Vision, Rio de Janeiro, Brazil, October 1998

42. Morris R. Forensic Handwriting Identification: Fundamental Concepts and Principles. — UK, London, Academic Press, 2000

43. Munich M. E., Perona P. Continuous Dynamic Time Warping for Translation-invariant Curve Alignment With Applications to Signature Verification // International Conference on Computer Vision, 20-25 September, 1999, pp. 108-115

44. Munich M. E., Perona P. Visual Signature Verification using Affine Arc-length // IEEE Conference on Computer Vision and Pattern Recognition, 1999, vol. 2, pp. 180-186

45. Nalwa V. S. Automatic On-Line Signature Verification. // Proceedings of the IEEE, 1997, vol. 85, no. 2, pp. 215-239

46. Neskovic P., Davis P. C., Cooper L. N. Interactive Parts Model: an Application to Recognition of On-line Cursive Script // Advances in Neural Information Processing Systems (NIPS), 2000, vol. 13, pp. 974-980

47. Park J. Hierarchical Character Recognition and its Use in Handwritten Word/Phrase Recognition: PhD dissertation. State University of New York at Buffalo, 1999

48. Pavlidis Т., Zhou J. Page Segmentation and Classification // Computer Vision Graphics and Image Processing, 1995, vol. 26, pp. 2107-2123

49. Plamondon R., Lorette G. Automatic Signature Verification and Writer Identification The State of The Art. // Pattern Recognition, 1989, vol. 22, no. 2, pp. 107-131.

50. Pu Y., Shi Z. A Natural Learning Algorithm based on Hough Transform for Text Lines Extraction in Handwritten Documents. // Eighth International Workshop on Frontiers in Handwriting Recognition, KAIST Campus, Taejon City, Korea, Auguest 12-14, 1998

51. Rigoll G., Kosmala A. A Systematic Comparison Between On-Line and Off-Line Methods for Signature Verification with Hidden Markov Models // 14th International Conference on Pattern Recognition, Australia, 1998, vol. 2, pp. 1755-1757

52. Rosenthal A.S., Hu J., Brown M. K. Size And Orientation Normalization Of On Line Handwriting Using Hough Transform // IEEE International Conference on Acoustics, Speech, and Signal Processing, 1997, vol. 4, pp. 3077-3080

53. Rosenthal A.S., Hu J., Brown M. K. Size and Orientation Normalization of On-line Handwriting Using Hough Transform. // In Proc. ICASSP'97, Munich, Germany, April 1997

54. Ross A., Jain A. Information Fusion in Biometrics. // Pattern Recognition Letters, 2003, no. 24, pp.2115-2125

55. Sabourin R., Genest G., Preteux F. J. Off-Line Signature Verification by Local Granu-lometric Size Distributions // IEEE Transactions on Pattern Analysis and Machine Intelligence, 1997, vol. 19, no. 9, pp. 976-988

56. Said H. E. S., Peake G.S., Tan T. N., Baker K. D. Writer Identification from Non-Uniformly Skewed Handwriting Images // Proc. 9th British Mach. Vision Conf., September1998, pp. 478-487

57. Saon G., Belaid A., Gong Y. Stochastic Trajectory Modeling for Recognition of Unconstrained Handwritten Words // In Proceedings of the International Conference on Document Analysis and Recognition, 1995, pp. 508-511

58. Schenkel M., Guyon I., Henderson D. On-Line Cursive Script Recognition using Time Delay Neural Networks and Hidden Markov Models // Machine Vision and Applications, 1995, vol. 8, no. 4, pp. 215-223

59. Schomaker L. Using Stoke- or Character-based Self-organizing Maps in the Recognition of On-line, Connected cursive script // Pattern Recognition, 1993, vol. 26, no. 3, pp. 443-450

60. Sebastian T.B., Kimia B.B. Curves vs. Skeletons in Object Recognition. // In Proceedings of International Conference on Image Processing, 2001, Thessaloniki, Greece, vol.3, pp. 22-25

61. Seni G. Large Vocabulary Recognition of On-line Handwritten Cursive Words: PhD Dissertation, Department of Computer Science. State University of New York at Bufalo, 1995

62. Seni G., Seybold J. Diacritical Processing for Unconstrained On-line Handwriting Recognition Using Forward Search // International Journal on Document Analysis and Recognition,1999, vol. 2, no. l,pp. 24-29

63. Seni G., Shihari R., Nasrabadi N. Large Vocabulary Recognition of On-line Handwritten Cursive Words //IEEE Transactions on Pattern Analysis and Machine Intelligence, 1996, vol. 18, no. 6, pp. 757-762

64. Shaohua P., Deng, Hong-Yuan Mark Liao, Chin Wen Ho, Hsiao-Rong Tyan. Wavelet-Based Off-Line Handwritten Signature Verification. // Computer Vision and Image Understanding, 1999, vol. 76, no. 3, pp. 173-190

65. Sheikholeslami G., Srihari S.N., Govindaraju V. Computer Aided Graphology 11 Fifth International Workshop on Frontiers in Handwriting Recognition Essex, England, September, 1996, pp. 457-460

66. Shi Z., Govindaraju V. Line Separation for Complex Document Images Using Fuzzy Runlength // International Workshop on Document Image Analysis for Libraries, Palo Alto, CA, January 23-24,2004

67. Shi Z., Govindaraju V. Skew Detection for Complex Document Images Using Fuzzy Runlength // In Proceedings of the International Conference on Document Analysis and Recognition, Edinburgh, Scotland, August 2003

68. Singer Y., Tishby N. Dynamical Encoding of Cursive Handwriting // Biological Cybernetics, 1994, vol. 71, no. 3, pp. 227-237

69. Starner Т., Makhoul J., Schwartz R., Chou G. On-line Cursive Handwriting Recognition Using Speech Recognition Methods // IEEE Proceedings International Conference on Acoustics, Speech, and Signal Processing, April 1994, pp. 125-128

70. Steinherz Т., Intrator N. A Special Skeletonization Algorithm for Cursive Words. // Proceedings of the Seventh International Workshop on Frontiers in Handwriting Recognition, September 11-13 2000, Amsterdam, pp. 529-534

71. Tappert C., Suen C., Wakahara T. The State of the Art in On-Line Handwriting Recognition // IEEE Transactions on Pattern Analysis and Machine Intelligence, August, 1990, pp. 787-808

72. Vuuroijl L., Schomaker L. Multiple-agent Architectures for the Classification of Handwritten Text// In Proceedings of IWFHR'98, pp. 335-346

73. Wang J., Wu C., Xu Y. Q., Shum H. Y., Ji L. Learning-based Cursive Handwriting Synthesis // Eighth International Workshop on Frontiers in Handwriting Recognition (IWFHR-8), Ontario, Canada, August, 2002

74. Wessels Т., Omlin C.W. A Hybrid System for Signature Verification. // International Joint Conference on Neural Networks, 2000, vol. 5, pp. 509-514

75. Wooldridge M., Jennings N.R. Agent Theories, Architectures, and Languages: a Survey. // Springer-Verlag, Berlin, Intelligent Agents, 1995, pp. 1-22

76. Yang L., Widjaja B.K., Prasad R. Application of Hidden Markov Models for Signature Verification. // Pattern recognition, 1995, vol.28, no. 2, pp. 161-170

77. Yanikoglu В., Sandon P.A. Segmentation of Off-Line Cursive Handwriting Using Linear Programming // Pattern Recognition, 1998, vol. 31, no. 12, pp. 1825-1833

78. Younes L. Computable Elastic Distances Between Shapes // SIAM Journal on Applied Mathematics, 1998, vol. 58, no. 2, pp. 565 586

79. Zimmer Alessandro, Ling Lee Luan. A Hybrid On/OfF Line Handwritten Signature Verification System // 7th International Conference on Document Analysis and Recognition (ICDAR 2003), Edinburgh, Scotland, UK, 3-6 August 2003, pp. 424-428

80. Айзенк Г.Ю. Структура личности. M.: КСП+, 1999

81. Балла О. Графология вранье или наука? // "Родная Газета" № 11(11), 2003

82. Балла О. Почерк в поисках объяснения и понимания. // М. «Знание-Сила» №4, 1998

83. Винберг А.А., Шванкова М.В. Почерковедческая экспертиза. Учебник для вузов МВД СССР. Высшая следственная школа МВД СССР, Волгоград, 1977 *

84. Винберг А.И. Криминалистическая экспертиза в советском уголовном процессе. — Москва, 1956

85. Губерман Ш.А., Розенцвейт В.В. Алгоритм распознавания рукописных текстов. // М. Автоматика и телемеханика, №5, 1976. с. 122-129

86. Зуев-Инсаров Д.М. Почерк и личность. М.: Изд-во "СТ", 1993

87. Колядин Д.В. Анализ динамических кривых применительно к задаче верификации рукописной подписи / Доклады XI Всероссийской конференции «Математические методы распознавания образов». М., 2003. - с. 330-332

88. Колядин Д.В. Анализ динамических кривых применительно к задаче проверки аутентичности рукописного текста. / Труды XLVI научной конференции МФТИ «Современные проблемы фундаментальных и прикладных наук». М.:МФТИ, 2003. - с. 57

89. Колядин Д.В. Верификация динамической рукописной подписи в режиме множественного сопоставления с учетом повышенной вариативности почерка. // Моделирование и обработка информации: Сб.ст./Моск.физ.-тех. ин-т. М., 2003. - с. 124-129

90. Колядин Д.В. Верификация динамической рукописной подписи с учетом повышенной вариативности почерка. / Труды XLV научной конференции МФТИ «Современные проблемы фундаментальных и прикладных наук». М.:МФТИ, 2002. - с. 44

91. Колядин Д.В., Петров И.Б. Быстрое сопоставление рукописных динамических подписей в биометрической системе контроля доступа. // Электронный журнал «Исследовано в России», 2005, 083, с. 870-878http://zhurnal.ape.relarn.ru/articles/2005/083.pdf

92. Колядин Д.В., Петров И.Б. О проблеме верификации подписи по динамике ее исполнения // Процессы и методы обработки информации: Сб.ст./Моск.физ.-тех. ин-т. -М., 2005.-с. 168-177

93. Колядин Д.В., Петров И.Б. Сопоставление рукописных динамических кривых методом оценки схожести локальных особенностей вблизи экстремальных точек. / Труды международной конференции «Математика. Компьютер. Образование». Пущино, 2005.-с. 125.

94. Колядин Д.В., Савин А.А. О проблеме верификации подписи в системах контроля доступа. // Обработка информации и моделирование: Сб.ст./Моск.физ.-тех. ин-т. -М.,2002.-с. 81-89.

95. Кормен Т., Лейзерсон Ч., Ривест Р. Алгоритмы: построение и анализ // МЦНМО, Москва, 2000

96. Косарев В.И. 12 лекций по вычислительной математике. М., Изд-во МФТИ, 1995

97. Кулагин П.Г., Колонутова А.И. Экспертная методика дифференциации рукописей на мужские и женские: Методическое письмо. М., 1968

98. Ложников П.С. Распознавание пользователей в системах дистанционного образования: обзор. // Educational Technology & Society, № 4(2) 2001, с. 211-216

99. Маяцкий В. Графология. Москва, 1990

100. Моргенштерн И.Ф. Психографология. СПб.: Изд-во «Питер», 1994

101. Наджимов O.K. Как узнать характер человека по его подписи, или практическая графология. Изд-во "Мир экономики и права", Ташкент, 1998

102. Поцепаев Р.В. Восстановление траекторий написания символов по их изображениям. // Электронный журнал "Исследовано в России", 2003, 120, с. 1437-1450, http://zhurnal.ape.relarn.ru/articles/2003/120.pdf

103. Рабинер J1.P. Скрытые марковские модели и их применение в избранных приложениях при распознавании речи: обзор. // ТИИЭР, 1989, т.77, 2, с. 86-120

104. Сара Д. Тайны почерка. М.: Вече, Персей, ACT, 1996

105. Федоренко Р.П. Введение в вычислительную физику. М., Изд-во МФТИ, 1994

106. Фурман Я.И., Кревецкий А.В., Передреев А.К., Роженцов А.А., Хафизов Р.Г., Егоши-на И.Л., Леухин А.Н. Введение в контурный анализ; приложения к обработке изображений и сигналов. М. Физматлит, 2003