автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Математическое моделирование электрического импульса в нервном волокне

На правах рукописи

Макснменко Екатерина Васильевна

МАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕ ЭЛЕКТРИЧЕСКОГО ИМПУЛЬСА В НЕРВНОМ ВОЛОКНЕ

05.13.18 — Математическое моделирование, численные методы и комплексы программ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Ставрополь — 2006

Работа выполнена в Ставропольском государственном университете

Научный руководитель: доктор фгаико-мэтемгггаческих наук, профессор

Каплан Лев Григорьевич

Официальные оппоненты: доктор физико-математических наук, профессор

БорлаковХиса Шамилевич

доктор технических наук, профессор Федорснко Владимир Васильевич

Ведущая организация: Институт информатики и проблем регионального

управления Кабардино-Балкарского научного центра РАН, г, Нальчик '

Защита состоится «26» декабря 2006 года в 15м на заседании регионального диссертационного совета ДМ 212.256.05 при Ставропольском государственном университете по адресу: 355009, г. Ставрополь, ул. Пушкина, 1.

С диссертацией можно ознакомиться в научной библиотеке Ставропольского государственного университета по адресу: 355009, г Ставрополь, уи Пушкина, 1.

Автореферат разослан ноября 2006 г.

Ученый секретарь диссертационного совета^ /

кандидат физико-математических наук —' Л.Б. Копыпсва

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность проблемы. Дня современной науки характерно применение точных математических методов в самых различных областях знания, в том числе и в биологии. В науку о живой природе математика входит различными путями: с одной стороны —; это использование современной вычислительной техники для быстрой обработки результатов биологического эксперимента, с другой — создание математических моделей, описывающих различные живые системы и происходящие в них процессы. Не менее важна и «обратная связь», возникающая между математикой и биологией: последняя не только служит ареной для применения математических методов, ко и становится все более существенным источником новых математических задач.

В последние годы осознанофундаментаяьное значение использования солитокной концепции в качестве базовой для широкого класса моделей биологических процессов. Действительно, живое вещество, представляет собой гетерофазный раствор биополимеров с обилием нелинейных решеток в нем в виде полимерных сеток, цитоскелетов и подобных структур, а его жизнедеятельность тесно связана с движением фронтов фазовых перестроек. Формирование солитонов в этих процессах представляется естественным.

Однако в настоящее время теория солитонов только начинает применяться к описанию биологических явлений. В 70 — 90 годах прошлого века А.С.Давыдов (Давыдов А.С., 1986) исследовал нелинейные механизмы эффективного транспорта энергии на макроскопическое расстояние в живых клетках, разработал модель молекулярного механизма сокращения мышц на основе представления о солитонах. При помощи солитонных уравнений было описано распространения пульсовой волны в кровеносном сосуде. А.Н.Волобуев (Волобуев А.Н. и др., 1991) с соавторами разработал солиток-ную модель электрических процессов в биологических возбудимых средах. Эта работа является единственным примером применения теории солитонов для решения задач электрофизиологии.

Общетеоретическая ценность исследований в этом направлении заключается в формировании нового подхода к биоэлектрическим явлениям, что позволит углубить знания о них и перейти на качественно новую ступень их изучения.

Целью настоящей работы является создание и исследование математической модели изменения трансмембранного потенциала нервного волокна при распространении по нему возбуждения. .

Выделены следующие задачи исследования:

1. Систематизировать и проанализировать основные применяемые в современной электрофизиологии модели трансмембранного потенциала в возбужденном нервном волокне.

2. Теоретически обосновать возможность описания трансмембранного потенциала возбужденного нервного волокна при помощи солитонной модели.

3.Создать математические модели электродинамических явлений в безмие-лшговом и миелинизированном нервных волокнах.

4. На базе предложенных моделей разработать и реализовать в комплексе программ алгоритмы для вычисления трансмембранного потенциала в возбужденном нервном волокне;

5.Провести экспериментальную проверку адекватности предложенных моделей.'

Научная новнзнадиссертациомного исследования состоит в следующем:

1.Предложен новый подход к'терминологическому описанию нервного импульса и потенциала действия,

2. Впервые для моделирования биоэлектрических явлений в нервном волокне предложена активная резистйвно-емкостная цепь и применен солитонный подход на базе решения уравнения Кортевега - де Фриза, достаточно точно описывающего свойства трансмембранного потенциала, динамику его изменения в возбужденном, нервном волокне, допускающего аналитические и численные исследования.

3.Разработано оригинальное' программное обеспечение для вычисления трансмембранного потенциала в возбужденном нервном волокне, позволяющее использовать полученные математические модели в решении различных прикладных задач,'

Практическая ценность диссертационного исследования состоит в том, что его результаты могут быть положены в основу изучения различных случаев распространения возбуждения в биологических системах. Предложенные модели распространения возбуждения в нервных волокнах, соответствующие алгоритмы и программные продукты позволяют наблюдать явления, изучение которых в натурном эксперименте невозможно или затруднительно. Результаты исследования могут быть использованы для решения различных прикладных задач практической медицины, нейробиологии, нейрокибернетики и т.д.

Положения, выносимые на защиту;

1. Теоретическое обоснование возможности математического описания изменения трансмембранного потенциала при распространении возбуждения по нервному волокну при помощи солитонной модели.

2.Солнтонная модель трансмембранного потенциала в безмиелиновом нерв* ком волокне в форме активной резистивно-емкостной цепи.

3.Математическое описание,трансмембранного потенциала в безмиелиновом и миелинизированном нервных волокнах на основе решения уравнения Кортевега - де Фриза.

4. Алгоритмы к комплекс программ для вычисления трансмембранного потенциала в безмиелиновом и миелинизированном нервных волокнах. Исследование трансмёмбранного потенциала, регистрируемого в возбужденном изолированном безмиелиновом волокне седалищного нерва Прудо-

■ вой лягушки, и сопоставление его результатов с теоретическими, полученными при помощи солитонной модели. Апробация полученных результатов:

Основные результаты диссертационной работы докладывались и обсуждались на следующих научно-практических конференциях:

1. Восьмая Всероссийская научная конференция студентов физиков и молодых ученых, Екатеринбург, 29 марта- 4 апреля, 2002 г.

2.Х итоговая (межвузовская) научная конференция студентов и молодых ученых, Ставрополь, 22-26 апреля 2002 г.

3.Региональная научная конференция «Теоретические и прикладные пробле-: мы современной физики», Ставрополь, 20-23 сентября,2002 г.'

4. Международный форум по проблемам науки, техники и образования, Москва, 1-5 декабря 2003 г.

5. Региональная научно-методическая конференция преподавателей и студентов «Университетская наука региону», Ставрополь, 4-6 апреля, 2003 г., 2004 г,

6. XI итоговая (межвузовская) научная конференция студентов и молодых ученых, Ставрополь, 21-25 апреля 2003 г.

По теме диссертации опубликовано 12 печатных работ, четыре из которых - в центральных рецензируемых журналах «Обозрение прикладной и промышленной математики» н «Вестник Северо-Кавказского государственного технического университета».

В 2003 году исследование было поддержано Фондом некоммерческих программ «Династия» и Международным центром фундаментальной физики в Москве. .

Результаты диссертационного исследования внедрены в учебный процесс Ставропольского государственного университета в рамках преподавания на кафедре теоретической физики учебного курса «Линейные и нелинейные уравнения физики» (акт внедрения от 07.09.2004) и в учебный процесс Ставропольской государственной медицинской академии в рамках преподавания на кафедре медицинской и биологической физики с информатикой н медицинской аппаратурой курса медицинской и биологической физики (акт внедрения от 08.10.2004).

Структура и объем диссертации;

Диссертация состоит из введения, четырех глав,'заключения и списка литературных источников, содержащего 122 наименования. Основная часть работы содержит 135 страниц машинописного текста. Диссертация включает 52 рисунка, 13 таблиц и 2 приложения.

СОДЕРЖАНИЕ РАБОТЫ '

Во введении обоснована актуальность диссертационного исследования, сформулированы цель и задачи работы, научная новизна и практическая значимость, указаны основные положения, выносимые на защиту.

В первой главе приведен обзор работ, посвященных математическому моделированию электродинамических явлений в нервных волокнах.

Дана общая характеристика биоэлектрических процессов, описаны основные свойства электрического импульса, распространяющегося по нервному волокну.

Типичная для нервного волокна форма потенциала действия и термины, используемые для обозначения показаны на рисунке 1.

С целью достижения ясности в терминологии, нами предложено разграничить понятия «потенциал действия» и «нервный импульс», для чего введены их оригинальные определения:

- потенциал действия - V(t)

- это изменение трансмембранного потенциала с течением времени в данной конкретной точке возбудимой структуры, связанное с

Рис. 1. Потенциал действия в нервном волокне изменением ионной мембранной проводимости в результате воздействия иадпороговых раздражающих факторов; • нервный импульс - V{x,t) - это изменение трансмембранного потенциала на протяжении возбудимой структуры с течением времени, связанное с изменением ионной мембранной проводимости в результате распространения возбуждения.

Проанализированы некоторые математические модели электродинамических явлений в нервных волокнах. Рассмотрена классическая модель Ход-жкнна-Хаксли (Hodjkin A., Huxley A., Î952). Она хорошо описывает основные феномены электрической активности, ках однородной мембраны, так и без-мислинового нервного волокна в целом, В то же время, математический аппарат рассматриваемой модели отличается большой сложностью. Аналитическое исследование модели невозможно, а численное - затруднительно, даже при условии использования ЭВМ. Кроме того, такие свойства волокна как рефрактсрность, аккомодация, наличие порога и т. д. не введены в модель в явном виде. Модель построена tía основании ограниченного набора экспериментальных данных, полученных на аксоне кальмара в условиях так называемой «фиксации напряжений». Соответствие же между свойствами реального волокна и поведением модели в иных условиях (например, в условиях распространения импульса) в модель не «закладывалось».

Рассмотрены модификации модели Ходжкина-Хаксли (Фитц-Хыо, На-гумо и др., 1959; Цветков О.В. и др., 1998). Большинство из них нацелены'на сокращение числа'переменных, входящих в исходные уравнения. Однако снижение числа параметров, облегчая'схему исследования, одновременно ведет к упрощению моделируемого явления, отражению не всех его свойств.

Особое внимание в обзоре уделено единственному известному нелинейному дифференциальному уравнению для трансмембранного потенциала, имеющему солитонные решения (А.Н. Волобуев и др., 1991). Определенным недостатком описанной модели следует считать использование индуктивности нервного волокна — параметра, экспериментальное измерение которого затруднительно. Это накладывает ограничения на использовании модели для описания и анализа результатов электрофизиологических экспериментов.

Приведена общая характеристика солитонных процессов.

На основании изложенных в первой главе материалов сделан вывод о необходимости создания новой математической модели электрического импульса в нервном волокне, в достаточной степени отражающей его свойства, дающей результаты, согласующиеся с экспериментальными и, при этом, имеющей разумный уровень сложности. • , '

\ Вторая глава посвящена построению солитонноЙ математической мо- ' дели трансмембранного потенциала возбужденного нервного волокна.

Обсуждена необходимость выбора в качестве объекта исследования некоторой обобщенной модели нервного волокна, включающей ряд допущений. Разработана стандартизированная возбудимая среда — гипотетическое волокно. В основе модельного безмиелинового нервного волокна лежат характеристики гигантского аксона кальмара. Для изучения электродинам ических процессов в миелцитированных нервных волокнах разработана модель, основанная па свойствах волокна, изолированного изсевалищиого нерва лягушки.

Теоретически обоснована возможность использования солитонноЙ теории для математического моделирования электрического импульса в нервном волокне.

Рассмотрено нервное волокно, по которому распространяется возбуждение. В нем можно выделить область, в каждой точке которой скорость изменения трансмембранного потенциала отлична от нуля, причем сам транс-мембраниый потенциал может, как отличаться от потенциала покоя, так и быть равным ему. В каждой точке за ее пределами трансмембранный потенциал равен равновесному и не изменяется. Сама указанная область движется : вдоль нервного волокна. Существование такой области - зоны возбуждения -доказывает, что нервный импульс является локальным процессом.

Нервное волокно представляет собой; нелинейную диспергирующую среду. Нелинейность уравновешивает дисперсию, определяющуюся диффузией ионов через мембрану, обеспечивая постоянство формы и амплитуды нервного импульса.

Таким образом, нервный импульс - локальный процесс, существующий в нелинейных активных средах, параметры которого остаются неизменными с течением времени и при распространении в пространстве. Он устойчив к различным возмущениям и сохраняет независимость от аналогичных процессов, распространяющихся в той же среде. Вышесказанное демонстрирует соли-тоикый характер нервного импульса.

В рамках области локализации процесса предложено выделить две зоны: тело импульса и следовой гиперполяризационный хвост. В теле импульса сконцентрирована его энергия, эта зона определяет его сущность и свойства. Изучение тела нервного импульса имеет наибольший практический интерес и в большинстве случаев бывает достаточным.

В современной биофизике для описания проведения в нервном волокне подпороговых импульсов традиционно используется модель в виде резистив-но-емкостной цепи (КС-цепи). Дня отражение процесса распространения нервного импульса при наличии надпорогового сигнала на входе, в эквивалентную схему нами включен усилитель с заданными свойствами и дифференцирующее устройство.

Таким образом, предложена математическая модель нервного волокна в форме активной резистивно-емкостной цепи (рис.2), в которой распределенные параметры нервного волокна представлены как сосредоточенные.

пассивная (*С-цепь ДИФ- Цепь усилитель

Рис.2, Участок активной КС-цепи

Пассивная часть этой цепи включает в себя три одинаковых КС-звена. Усилительный элемент имеет характеристику, включающую в себя зону отсечки при отрицательном входном сигнале, пороговую зону при малых положительных сигналах на входе и зону насыщения при больших амплитудах входного сигнала. Указанные свойства усилительного элемента позволяют моделировать такие явления, присущие нервному волокну, как нечувствительность к поляризующим стимулам, порог раздражения и независимость амплитуды нервного импульса от силы раздражителя.

Показано, что при распространении в описанной цепи устанавливается импульс нормальной.формы. В звеньях пассивной КС-цепи происходит задержка импульса, его расширение и уменьшение амплитуды. Далее уменьшение амплитуды компенсируется активным элементом (усилителем), а расширение импульса • при дифференцировании и последующем ограничении снизу в этом же усилительном элементе (рис.3). . -

На входе пассивной КС-цепи

В

' - V

Д.

1 После первого звена КС-цепи

После второго звена КС-цепи

После дифференцирующего: устройства'

После усилителя, на выходе участка цепи

Рис.3. Прохождение импульса через участок активной КС-цепи

Такая упрощенная модель нервного волокна достаточно полно соответствует реально происходящим в нем физическим процессам. Так сопротивления К^з, входящие в эквивалентную схему представляет собой сопротивление аксоплазмы нервного волокна, - сопротивление мембраны, Сю - емкость клеточной мембраны, а К} и С4 - сопротивление и емкость «открытых» ионных каналов, соответственно. Наличие в схеме усилителя отражает функционирование ионных насосов, сопровождающееся затратой энергии.

При распространении импульса в этой модели его амплитуда и длительность остаются неизменными, а также происходит фильтрация шумовых возбуждений по амплитуде. Важно отметить, что предложенная модель обеспечивает не только полное качественное, но и хорошее количественное соответствие экспериментальным данным и, в отличие от ряда моделей, предложенных другими авторами, не содержит искусственно вносимых элементов.

Оценены параметры эквивалентной схемы, исходя из реальных характеристик нервного волокна. Рассчитана скорость распространения нервного

1

импульса по нервному волокну со —--, где с — удельная емкость кяеточ-

4ср( Ь

ной мембраны, р, - удельная емкость аксоплазмы, с/—диаметр нервного волокна, I - длина участка нервного волокна. Полученная формула хорошо соотносится с известным выражением для скорости, принятым в электрофизиологии, а получаемые с ее помощью данные • с экспериментальными значениями.

Учитывая солитонный характер нервного импульса и для обеспечения преемственности при сравнении с предшествующими результатами в дальнейшем удобно считать форму импульса не гауссовой, а такой, как в решении уравнения Коргевега - де Фриза. Решение уравнения Коргевега — де Фриза можно лолучить, воспользовавшись рассуждениями, основанными на свойствах нервного импульса. ( 1 | Рассмотрен ион-

— ■ - ный ток, протекающий

через мембрану при распространении возбуждения по нервному волокну (рис.4).

Для описания зависимости, отраженной на графике, может быть применено уравнение

Рис.4. Ионный ток

shg

где ig - амплитудное значение тока, а £ =

х-cot

(1)

где ы - скорость распро-

странения нервного импульса. Данное выражение позволяет рассчитывать значение ионного тока с достаточно высокой точностью по отношению к экспериментальным данным.

Используем известное выражение для зависимости между трансмембранным потенциалом (v) и ионным током (/):

dv

— = —п, (2)

дх w

где г =г( + ге. Здесь г, н г, - сопротивление на единицу длины для продольного тока аксоплазмы и внешней среды соответственно. Так как rt » г,, то с достаточной точностью можно записать г г,.

Подставляя (1) в (2), учитывая, что па = у0, где - амплитудное значение трансмембранного потенциала и решая относительно V, получим:

Ф)-

(3)

Выражение (3) соответствует решению КдФ-уравнения. График функции (3) представлен на рисунке 5.

1201->--Далее рассмотрен' трансмембранный

потенциал относительно потенциала покоя: К = V-V

г т покоя

^пчи — ^О — ^

—

Рис.5. График функции *)=- *

Действительно, электрический импульс в нервном волокне представляет собой не-. которое отклонение потенциала от опорной линии - сигнал в инженерном смысле. При таком понимании импульса, величина У, равная в отсутствие сигнала нулю, описывает его более естественно, нежели V. С учетом вышесказанного и наличия не только пространственной, но и временной зависимости трансмембранного потенциала, (3) преобразуется к виду: 1

(4)

Здесь / выражает равновесие между эффектами нелинейности и дисперсии. Этот параметр можно определить из выражения:

3

■■ 4. А5 ■ "■;;"

Рассмотрим изменение потенциала, обусловленное локальными токами, возникающими при распространении электрического импульса по нервному волокну. Допустим, что в точке х-0 У—Умах. Тогда, уровень деполяризации во всех точках х>0 определяется выражением ■;'

" . ; (5)

где X— константа затухания, определяемая формулой

Л- ^

где ги ~ сопротивление мембраны на единицу длины, г(— сопротивление аксо-нлаэмы на единицу длины.

3

г* ■/',-?' П = р,

! 2)г

где (£>,„ ир,- удельные сопротивления «материала» мембраны и аксоплазмы соответственно, а 3 - толщина мембраны. Произведение удельного сопротивления «материала» мембраны на ее толщину - это удельное сопротивление мембраны = ря$. Тогда

Следовательно

График этой функции показан на ри- _

сунке 6. Расстояние от начала коор- ! 1 ' ' "

дннат до точки пересечения графиков

функций У(х) и У= Ут,р соответствует \

расстоянию от вершины спайка (где > \

У= Уяшх) до его фронта. . 1 \

Как видно из формулы (6) ши- > . \ рина зоны возбуждения пропорцио- \

нальна диметру нервного волокна. *

Для отражения этого свойства элек- ........-х^----........................

трического импульса в нервном во- __

л о кие следует использовать параметр ..... урог

А. Интерпретация А как величины

пропорциональной ширине зоны воз- Риа6- Убывание трансмембраиного буждения полностью соответствует потенциала, обусловленного ло-представлению об А как мере диспер- кальпыми токами, при удалении от сии, то есть мере «расползания» соли- точки возбуждения - пассивное тона. Для А нами найдена следующая поведение нервного волокна зависимость: к * ае4, где с1 - диаметр нервного волокна, а- коэффициент пропорциональности, определяемый экспериментально.

Величина - скорость фронта волны в момент времени I отличный от нуля. В рассматриваемом модельном волокне скорость движения области локализации процесса постоянна, н> = и>0.

В таком случае формула (5) принимает следующий вид:

(6)

Выражение (4) представляет собой солктонное уравнение нервного импульса, аппроксимирующее его кривой куполообразной формы. Оно не описывает быстрой деполяризации в области фронта импульса и отрицательного следового потенциала в его хвосте. Применительно к пространственной зависимости трансмембранного потенциала в некоторых случаях пренебрежение этими особенностями реального импульса недопустимо. Всвязи с этим предложена соответствующая модификация модели.

График функции (4) разделен на три области: тело, передний и задний фронты, а сама функция преобразована следующим образом:

= V +—рш-

Здесь Уя — уровень гиперполяризации. Так как это отрицательная величина, график функции (7) пересекает ось ОХ в точках х1 и х2 (рис.7). Правая и левая границы зоны возбуждения обозначены точками хаи X/,, Интервал от х/ до ха соответствует переднему фронту. Здесь функция (7) монотонно убывает; на этом интервале справедливы тождества:

У(х)<0 П У(х)< У(х-Ах). Интервал от хь до X} описывает задний фронт: функция (7) монотонно возрастает; справедливы тождества: У(х)>Уе ПУ(х)<0 С\У(х)>У(х-Ах), Интервал от Хз до х, соответствует телу графика. За пределами зоны возбуждения У(х) =0.

Если обозначить функцию, описывающую нервный импульс Щх), то Ц(х)=У(х) при х2<х<х,. За пределами зоны возбуждения, в области переднего фронта, в точках*;, х2,хаихь и(х)=0. Указанные условия можно записать следующим образом:

У(х)<в (ЛУ(х)<,У(х-Ах). В области заднего фронта имеется- два участка: \ги перполя р иза ци ии реполяризации. Их разделяет точка х.ь в которой Гиперполяризация

х.гат

Чх) Уг

Рис.7. Области графика функции

Ы

сИ

на интервале от до хз хорошо описывается функцией У(х)у поэтому здесь Щх)=У(х). На интервале от до справедливы тождества: ■ .

= У(х)>Ух ПУ(х)-У(х-Ах)<чП У(х)<0, где 7 - коэффициент, характеризующий точность определения точки хь-Реполяризацию можно аппроксимировать прямой ви^ца у(х)~ах+Ь. Тогда на указанном интервале

и(х)=ах+ЬУе, а<0, Ь<0.

Вышесказанное можно обобщить системой уравнений с дополнительными условиями:

{О, если У(х) £0 П У(хг) -ёУ(х-Ах);

ах+ЬУр если У(х)>Уе П У(х)- У(х-Ах)<у Г¥(х)<0; (8)

У1 + Ум /(сИ((х- ьч)/1))г в иных случаях.

График функции (») изображен на рисунке 8.

Функция (8) отражает основные характеристики нервного импульса и позволяет рассчитывать трансмембранный потенциал в каждой точке нервного волокна в любой момент времени. Важно отметить, что, несмотря на введение дополнительных уравнений, функция У(х) сохраняет все свойства, присущие солитону.

Далее найдено выражение, описывающее трансмембранный потен-

X, ГОШ

V«

РисЛ Нервный импульс в безмиелиновом нервном волокне, рассчитанный с учетом быстрой деполяризации в области фронта и отрицательного следового потенциала'

циал в миелинизированном нервном волокне. Его' отличительной особенно-; стью является то, что генерация потенциала действия происходит только в области перехватов Ранвье. Распространение импульса от одного перехвата до другого происходит пассивно, без регенерации. Покрытый миелином участок нервного волокна представляет собой КС-кабель, Следовательно, по мере продвижения по нему импульс расширяется, его амплитуда снижается. Однако на выходе из зоны мнелиннзацин уровень трансмембранного потенциала еще превышает порог возбуждения, и в очередном перехвате Ранвье происходит регенерация нервного импульса. .

Процесс распространения возбуждения от одного перехвата к другому требует определенного времени; оно обозначено как время задержки г. Таким образом, запаздывание генерации нервного импульса в перехвате к по отношению к нулевому определяется как кг.

С учетом вышесказанного, используя (8) записано выражение для трансмембранного потенциала как функции времени и номера перехвата Ранвье:

у

(9)

Применительно к миелинизированному волокну, некоторые переменные в (9) приобретают иной смысл, чем для безмиелинового в (4). Так, величина и, ранее обозначавшая скорость нервного импульса, представляет собой ту скорость, которую имел бы нервный импульс в безмиелиновом волокне такого же диаметра, как аксиальный цилиндр рассматриваемого миелин из нрованного волокна.

Время задержки т является функцией многих аргументов: удельного сопротивления аксоплазмы и миелина, диаметра волокна, толщины миелино-вой оболочки, расстояния между перехватами Ранвье. Для практического использования модели найдено следующее эмпирическое выражение для г

г = 0,12^.

а

где £ - ширина перехвата Ранвье, £> - расстояние между перехватами Ранвье.

Зависимость трансмембранного потенциала от координаты в мнелннн-зированном нервном волокне представлена на рисунке 9.

Уравнения (4), (8) и (9), совокупность способов нахождения входящих в них параметров и условия их применимости составляют математические модели трансмембранного потенциала в безмиелиновом и миелиниэиро-ванном нервных волокнах.

К преимуществам полученных математических моделей следует отнести не только использование солитонного подхода, что представляет общетеоретический интерес, но н относительную простоту математического аппарата, возможность ана-

.«*£!_>

46 60 .

Рис.9. Нервный импульс в миеяинизиро-ваннам нервном волокне

литического исследования функций и удобство численного моделирования.

В третьей главе описана разработка и реализация в программных продуктах алгоритмов для вычисления трансмембранного потенциала в без-миелиновом и миелинизированном нервных волокнах.

Этот подход дает объективные данные для проверки соответствия модели результатам экспериментов над биологическими объектами. Разработка алгоритмов вычисления трансмембранного потенциала необходима для использования полученных математических моделей в решении различных прикладных задач.

Исходными данными для вычисления трансмембраиного потенциала как функции координаты и времени при куполообразной аппроксимации нервного импульса служат: амплитудное значение трансмембранного потенциала, диаметр нервного волокна, удельное сопротивление аксогшазмы, начальное и конечное значения диапазона времени и координаты. На первом этапе вычисляются параметры Ли/, скорость распространения нервного импульса Затем вычисляется трансмембранный потенциал в каждый момент времени для каждой точки. Результатом вычислений по алгоритму является совокупность значений трансмембранного потенциала на заданном участке нервного волокна в заданные моменты времени.

Существенной особенностью алгоритма для вычисления изменения трансмембранного потенциала в возбужденных безм иели новых волокнах с учетом следовой гиперполяризации является выделение тела, переднего и заднего фронтов электрического импульса и выбор для них соответствующих значений трансмембранного потенциала. Данная модификация модели уступает куполообразной аппроксимации нервного импульса как по точности (за счет введения дополнительных эмпирических коэффициентов), так и по удобству использования. В связи с этим, ее применение можно рекомендовать только в случаях, когда по условиям задачи рассмотрение следовой гиперполяризацни имеет принципиальное значение.

. Особенность алгоритма для вычисления зависимости трансмембранного потенциала от хоординаты в заданный момент времени в миелинизированном нервном волокне заключается в организации счетчика ■ номера перехвата Ранвье и вычислении времени задержки г.

' На основе описанных выше алгоритмов, создан программный комплекс для вычисления трансмембраиного потенциала в безмнелиновом н миелинизированном нервных волокнах. С его помощью проведеновычис-ление трансмембраиного потенциала с использованием исходных данных, характерных для реальных нервных волокон. Полученные результаты (форма электрического импульса, скорость его распространения, ширина зоны возбуждения и т.д.) с достаточно высокой точностью соответствуют представленным в литературных источниках экспериментальным данным.

Предлагаемый комплекс программ дня вычисления трансмембраиного потенциала в нервных волокнах пригоден для практического использования. Немало-

важным его преимуществом является возможность наблюдения явлений, изучение которых в натурном эксперименте невозможно или затруднительно.

Четвертая глава посвящена экспериментальному обоснованию адекватности солитонной модели изменения трансмембранного потенциала в возбужденном нервном волокне.

Объектом исследования послужило безмиелиновое нервное волокно Прудовой лягушки (Rana lessonae, семейство Настоящих лягушек - Ranidae), изолированное из седалищного нерва. Регистрацию потенциала действия осуществляли при помощи экспериментальной установки (рис.10), состоящей из пер фуз ион ной камеры (1), комплекта внутриклеточных микроэлектродов (2) с устройствами их позиционирования, внеклеточного электрода (4), микроскопа, блока генерации возбуждающих импульсов, апалогово-цифрового преобразователя и ЭВМ,

Изолированное безмиелиновое нервное волокно (3 на рис.10) помещали в перфузнонную камеру. Под микроскопическим контролем трансмембран но в аксоплазму волокна вводили два микроэлектрода. Расстояние между ними составляло 10-15 мм. Электроды подключали к выходу генератора возбуждающих импульсов и входу АЦП согласно схеме, приведенной на рисунке 7. На стимулирующий микроэлектрод подавали прямоугольный импульс амплитудой 25 мВ, длительностью 10 МС. Изменения трансмембранного Рис-1 Схе.ма экспериментальной потенциала регистрировали с интер- установки

валом в 0,05 мс. Последовательно на одном препарате проводили 5 серий измерений, их результаты усредняли. После исследования трансмембранного потенциала измеряли диаметр нервного волокна при помощи окуляр-микрометра.

Результаты измерения трансмембранного потенциала в изолированном нервном волокне сравнивали со значениями потенциала, вычисленными при помощи уравнения (4) с использованием методов математической статистики.

Проведенное экспериментальное исследование подтвердило пригодность предложенных солитонных моделей для математического описания траисм ем бранного потенциала в возбужденном нервном волокне. Аппроксимация нервного импульса куполообразной функцией достаточно точна

при условии отсутствия необходимости отражения следовых потенциалов (рис. 11), В зоне тела импульса различие экспериментальных и вычисленных значений трансмембранного потенциала статистически не достоверны.

, В случаях, когда для исследователя представляет интерес область следового гиперполярнзационного потенциала, следует использовать модификацию модели, ориентированную на его отображение.

Рис.11. Сравнение потенциала действия, зарегистрированного в эксперименте и рассчитанного по уравнению ,

- --7 7ч'

; ■;.. '''("г1) .

В приложениях приведены исходный текст программы Иептр для . моделирования нервного импульса в безмиелиновом волокне и акты внедрения результатов диссертационного исследования.

ЗАКЛЮЧЕНИЕ

■ Проведенные в диссертационной работе исследования направлены на создание и исследование математической модели изменения трансмембран- -

но го потенциала нервного волокна при распространении по нему возбуждения. Получены следующие научные и практические результаты:

1. Систематизированы и проанализированы основные применяемые в современной электрофизиологии модели биоэлектрических явлений, имеющих место в нейронах. Предложены новые определения терминов «потенциал действия» и «нервный импульс».

2. Теоретически обоснована возможность описания трансмембранного потенциала возбужденного нервного волокна при помощи солнтонной модели.

3. Разработана солитонная модель нервного волокна на основе активной ЯС-цепи. Выполнен расчет соответствующих параметров.

4. Предложено математическое описание трансмембранного потенциала в возбужденном безмиелиновом нервном волокне на основе решения уравнения Кортевега - де Фриза. Предложены способы нахождения входящих в уравнение параметров и произведена их физическая интерпретация.

5. Разработана модификация солитонной модели нервного импульса в безмиелиновом нервном волокне, позволяющая описывать следовой гипер-попяризационный потенциал.

6. Разработана модификация солитонной модели для описания трансмембранного потенциала в возбужденном миелин из ирован ном нервном волокне с учетом сальтаторного характера распространения возбуждения.

7. На базе предложенных моделей и математических описаний разработаны и реализованы в программных продуктах алгоритмы для вычисления трансмембранного потенциала в безмиелнновых и миелинизированных нервных волокнах.

8. Показана адекватность предложенной математической модели экспериментальным результатам. Проведено сравнение вычисленного при помощи солитонной модели потенциала действия с данными, полученными в экспериментах над изолированным из седалищного нерва Прудовой лягушки безмиелиновым нервным волокном.

Таким образом, разработана математическия модель процесса распространения нервного импульса в нервном волокне, точно описывающая его качественные свойства (неизменность с течением времени амплитуды импульса, длительности и скорости распространения) и достаточно удовлетворительно - количественные, допускающая аналитическое исследование и ' удобная для организации численного эксперимента:

СПИСОК ПУБЛИКАЦИЙ ПО ТЕМЕ ДИССЕРТАЦИОННОГО ИССЛЕДОВАНИЯ

1. Максименко Е.В, Моделирование распространения нервного импульса с использованием ЭВМ // Обозрение прикладной и промышленной математики. - 2004. -т.11. - вып.2. - С.368-369

2. Максименко ЕВ* Аналитическая модель нервного импульса // Обозрение прикладной и промышленной математики. - 2003. - т. 10. - выпЗ - С.696-697

,3. Максименко Е.В. Использование уравнения Кортевега-де-Фриза для моделирования трансмембранного потенциала в нервном волокне // Вестник Северо-Кавказского государственного технического университета, серия «Естественнонаучная».-2004.1 (7).-С.234-235

4. Максименко Е.В. Современные подходы к исследованию локального процесса-распространения трансмембранного потенциала по нервному волокну П Труды Международного Форума по проблемам науки, техники н образования. Том 2. / Под ред. В.П.Савиных, В.В.Вишневского. - М.: Академия наук о Земле, 2003. - С. 120-121 ,

5. Максименко Е.В Теоретические аспекты компьютерного моделирования распространения возбуждения по однородному нервному волокну// Сборник тезисов Десятой Всероссийской научной конференции студен. тов-физиков и молодых ученых. - Екатеринбург-Красноярск: Изд. АСФ

России, 2004. - Т.2. - С.839-841

6. Максименко Е.В Об использовании математических методов в биологических исследованиях// Обозрение прикладной и промышленной матема-

; тики. — 2005, — т.12. - вып.2. - С.431-432

7. . Каплап Л.Г., Максименко ЕВ. О биологических электрических локаль-

ных процессах // Проблемы физико-математических наук: Материалы 43 научно-методической конференции преподавателей и студентов «Уни-

, ; верситетская наука — региону». — Ставрополь: Изд. СГУ, 2003, - С.46

8. Максименко КВ. Описание нервного импульса как солитона // Материалы X итоговой научной конференции молодых ученых и студентов. -Ставрополь: Изд. СГМА, 2002. - С.270-271

9. Максименко Е.В. Нервный импульс как локальный электрический процесс // Сборник тезисов Девятой Всероссийской научной конференции студентов-физиков и молодых ученых. - Екатеринбург-Красноярск: Изд.

; АСФ России, 2003. - Т.2. - С.825-826 .

10. Максименко ЕВ. Исследование распространения нервного импульса как солитона // Сборник тезисов Восьмой Всероссийской научной конференции

: студентов-физиков и молодых ученых. - Екатеринбург, 2002. - С.594-596

И. Максименко Е.В. Моделирование локальных электрических процессов в биологических возбудимых средах // Материалы XI итоговой научной конференции молодых ученых и студентов. - Ставрополь: Изд. СГМА, 2003. - С.93-94 ;

12. Капяап Л.Г., Максименко КВ., Максименко Д. В; Моделирование нервного импульса как солитона // Теоретические и прикладные проблемы современной физики: Материалы Региональной научной конференции. — Ставрополь: Изд. СГУ, 2002. - С.204-210

Подписано в печать 20.11.06 Формат 60x84 1/16 Усл.печ.л. 1,22 Уч.-изд.л. 0,97

Бумага офсетная Тираж 100 экз. Заказ 405

Отпечатано в Издательско-полиграфическом комплексе Ставропольского государственного университета. 355009, Ставрополь, ул. Пушкина, 1.

ВВЕДЕНИЕ

ГЛАВА 1. Современные методы математического описания электродинамических процессов в нервных волокнах

1.1. Общая характеристика биоэлектрических явлений

1.2. Математические модели электродинамических процессов в безмиелиновых нервных волокнах

1.3. Общая характеристика солитонных процессов

ГЛАВА 2. Математическое моделирование электрического импульса в нервном волокне как солитона

2.1. Теоретические предпосылки к моделированию электри- ^ ческого импульса в нервном волокне как солитона

2.2. Гипотетические модельные нервные волокна

2.3. Солитонная модель трансмембранного потенциала в ^ возбужденном безмиелиновом волокне

2.4. Солитонная модель трансмембранного потенциала в ^ возбужденном миелинизированном волокне

ГЛАВА 3. Разработка алгоритма для вычисления трансмембранного потенциала в нервном волокне

3.1. Алгоритм для вычисления трансмембранного потенциа- ^ ла в безмиелиновом нервном волокне

3.2. Алгоритм для вычисления трансмембранного потенциа- ^ ла в миелинизированном нервном волокне

3.3. Программный комплекс для вычисления трансмембран- ^ ного потенциала в нервном волокне

ГЛАВА 4. Экспериментальное обоснование адекватности со-литонной модели изменения трансмембранного потенциала в возбужденном нервном волокне

4.1. Общая характеристика и методика экспериментального ^ исследования

4.2. Результаты исследования и их обсуждение 112 ЗАКЛЮЧЕНИЕ 122 СПИСОК ЛИТЕРАТУРЫ 124 ПРИЛОЖЕНИЯ

Актуальность исследования. Для современной науки характерно применение точных математических методов в самых различных областях знания, в том числе и в биологии. В науку о живой природе математика входит различными путями: с одной стороны — это использование современной вычислительной техники для быстрой обработки результатов биологического эксперимента, с другой — создание математических моделей, описывающих различные живые системы и происходящие в них процессы. Не менее важна и «обратная связь», возникающая между математикой и биологией: последняя не только служит ареной для применения математических методов, но и становится все более существенным источником новых математических задач [124].

Одной из областей успешного симбиоза математики и биологии следует считать исследование биоэлектрических явлений. Современная электрофизиология не мыслима без широкого использования математического моделирования процессов, протекающих в живых электровозбудимых структурах.

За более чем пятидесятилетний период, начало которому положил фундаментальный труд А. Ходжкина и А. Хаксли [6], создано немало таких моделей. Большинство из них сегодня представляет лишь историческую ценность, другие - не потеряли своей актуальности и находят практическое применение. Однако, как следует из результатов экспериментальных исследований, проведенных в последнее время, традиционные подходы к математическому описанию электрических явлений в живых организмах оказываются явно недостаточными.

В этом смысле особый общетеоретический и практический интерес представляет применение солитонной теории. Солитоны как устойчивые самолокализующиеся сгустки энергии или вещества известны в физике плазмы, жидких и твердых кристаллов, магнитных и иных доменных структур, классических жидкостей, нелинейных решеток и в других областях науки [34,36, 47, 54, 64, 66, 97, 110]. В последние годы многие авторы указывали на фундаментальное значение использования солитонной концепции в качестве базовой для широкого класса моделей биологических процессов [40, 50, 51, 87]. Действительно, живое вещество представляет собой гетерофазный раствор биополимеров с обилием нелинейных решеток в нем в виде полимерных сеток, цитоскелетов и подобных структур, а его жизнедеятельность тесно связана с движением фронтов фазовых перестроек. Применение солитонной теории для этих процессах представляется естественным [98].

В то же время, известно немного удачных примеров применения теории солитонов к описанию биологических явлений. В 70 - 90 годах прошлого века А.С.Давыдов исследовал нелинейные механизмы эффективного транспорта энергии на макроскопическое расстояние в живых клетках и разработал модель молекулярного механизма сокращения мышц на основе представления о солитонах [42, 43, 44]. При помощи солитонных уравнений было описано распространения пульсовой волны в кровеносном сосуде [22, 92, 101]. В 1991 году А.Н.Волобуев с соавторами разработал солитонную модель электрических процессов в биологических возбудимых средах [37, 94]. Эта модель А.Н.Волобуева является единственным примером применения теории солитонов для решения задач электрофизиологии.

Таким образом, солитонный подход к биоэлектрическим явлениям позволяет перейти на качественно новую ступень их понимания и обеспечить достаточно уверенную оценку количественных параметров нервных процессов.

Практическая значимость солитонного описания процессоре электровозбудимых живых структурах заключается в создании аналитических обобщенных моделей с относительно простым математическим аппаратом, допускающих непосредственное прикладное их использование при решении разнообразных практических задач.

Целью настоящей работы является создание и исследование математической модели изменения трансмембранного потенциала нервного волокна при распространении по нему возбуждения.

В рамках достижения поставленной цели нами выделены следующие частные задачи исследования:

1. Систематизировать и проанализировать основные применяемые в современной электрофизиологии модели трансмембранного потенциала в возбужденном нервном волокне.

2. Теоретически обосновать возможность описания трансмембранного потенциала возбужденного нервного волокна при помощи солитонной модели.

3. Создать математические модели электродинамических явлений в безмие-линовом и миелинизированном нервных волокнах.

4. На базе предложенных моделей разработать и реализовать в комплексе программ алгоритмы для вычисления трансмембранного потенциала в возбужденном нервном волокне.

5. Провести экспериментальную проверку адекватности предложенных моделей.

Научная новизна диссертационного исследования состоит в следующем:

1. Предложен новый подход к терминологическому описанию нервного импульса и потенциала действия.

2. Впервые для моделирования биоэлектрических явлений в нервном волокне предложена активная резистивно-емкостная цепь (RC-цепь) и применен солитонный подход на базе решения уравнения Кортевега - де Фриза, достаточно точно описывающего свойства трансмембранного потенциала, динамику его изменения в возбужденном нервном волокне, допускающего аналитические и численные исследования.

3. Разработано оригинальное программное обеспечение для вычисления трансмембранного потенциала в возбужденном нервном волокне при помощи солитонной модели, позволяющее использовать полученные математические модели в решении различных прикладных задач.

Практическая ценность диссертационного исследования состоит в том, что его результаты могут быть положены в основу изучения различных случаев распространения возбуждения в биологических системах. В частности, предложенные модели распространения возбуждения в нервных волокнах, соответствующие алгоритмы и программные продукты могут быть использованы в практической медицине, нейробиологии и нейрокибернетике.

Разработанное оригинальное программное обеспечение для вычисления трансмембранного потенциала в возбужденном нервном волокне при помощи солитонной модели позволяют использовать полученные математические модели в решении различных прикладных задач, наблюдать явления, изучение которых в натурном эксперименте невозможно или затруднительно.

Положения, выносимые на защиту:

1. Теоретическое обоснование возможности математического описания изменения трансмембранного потенциала при распространении возбуждения по нервному волокну при помощи солитонной модели.

2. Солитонная модель трансмембранного потенциала в безмиелиновом нервном волокне в форме активной резистивно-емкостной цепи.

3. Математическое описание трансмембранного потенциала в безмиелино-вом и миелинизированном нервных волокнах на основе решения уравнения Кортевега - де Фриза.

4. Алгоритмы и комплекс программ для вычисления трансмембранного потенциала в безмиелиновом и миелинизированном нервных волокнах.

5. Исследование трансмембранного потенциала, регистрируемого в возбужденном изолированном безмиелиновом волокне седалищного нерва Прудовой лягушки, и сопоставление его результатов с теоретическими, полученными при помощи солитонной модели.

Апробация полученных результатов:

Основные результаты диссертационной работы докладывались и обсуждались на следующих научно-практических конференциях:

1. Восьмая Всероссийская Научная Конференция Студентов физиков и молодых ученых, Екатеринбург, 29 марта - 4 апреля, 2002 г.

2. X итоговая (межвузовская) научная конференция студентов и молодых ученых, Ставрополь, 22-26 апреля 2002 г.

3. Региональная научная конференция «Теоретические и прикладные проблемы современной физики», Ставрополь, 20-23 сентября, 2002 г.

4. Международный форум по проблемам науки, техники и образования, Москва, 1-5 декабря 2003 г.

5. Региональная научно-методическая конференция преподавателей и студентов «Университетская наука региону», Ставрополь, 4-6 апреля, 2003 г.

6. XI итоговая (межвузовская) научная конференция студентов и молодых ученых, Ставрополь, 21-25 апреля 2003 г.

По теме диссертации опубликовано 12 печатных работ, четыре из которых - в центральных рецензируемых журналах «Обозрение прикладной и промышленной математики» и «Вестник Северо-Кавказского государственного технического университета».

В 2003 году исследование было поддержано Фондом некоммерческих программ «Династия» и Международным центром фундаментальной физики в Москве (МЦФФМ).

Результаты диссертационного исследования внедрены в учебный процесс Ставропольского государственного университета в рамках преподавания на кафедре теоретической физики учебного курса «Линейные и нелинейные уравнения физики» и в учебный процесс Ставропольской государственной медицинской академии в рамках преподавания на кафедре медицинской и биологической физики с информатикой и медицинской аппаратурой курса медицинской и биологической физики (приложение 2).

Структура и объем диссертации:

Диссертация состоит из введения, четырех глав, заключения и списка литературных источников, содержащего 122 наименования. Объем рукописи 148 страниц машинописного текста. Диссертация включает 52 рисунка, 13 таблиц и 2 приложения.

Выводы

В завершении четвертой главы следует отметить, что проведенное экспериментальное исследование подтвердило пригодность предложенных со-литонных моделей для математического описания трансмембранного потенциала в возбужденном нервном волокне.

Аппроксимация нервного импульса куполообразной функцией достаточно точна при условии отсутствия необходимости отражения следовых потенциалов. В случае, когда для исследователя представляет интерес область следового гиперполяризационного потенциала, следует использовать модификацию модели, ориентированную на его отображение. Однако, в силу некоторой громоздкости вычислений в этом случае, расширять показания к применению этой модели не целесообразно.

ЗАКЛЮЧЕНИЕ

Проведенные в диссертационной работе исследования направлены на создание математической модели процесса распространения нервного импульса в нервном волокне. Получены следующие научные и практические результаты:

1. Систематизированы и проанализированы основные применяемые в современной электрофизиологии модели биоэлектрических явлений, имеющих место в нейронах. Предложены новые определения терминов «потенциал действия» и «нервный импульс».

2. Теоретически обоснована возможность описания трансмембранного потенциала возбужденного нервного волокна при помощи солитонной модели.

3. Разработана солитонная модель нервного волокна на основе активной RC-цепи. Выполнен расчет соответствующих параметров.

4. Предложено математическое описание трансмембранного потенциала в возбужденном безмиелиновом нервном волокне на основе решения уравнения Кортевега - де Фриза. Предложены способы нахождения входящих в уравнение параметров и произведена их физическая интерпретация.

5. Разработана модификация солитонной модели нервного импульса в безмиелиновом нервном волокне, позволяющая описывать следовой гиперполяризационный потенциал.

6. Разработана модификация солитонной модели для описания трансмембранного потенциала в возбужденном миелинизированном нервном волокне с учетом сальтаторного характера распространения возбуждения.

7. На базе предложенных моделей и математических описаний разработаны и реализованы в программных продуктах алгоритмы для вычисления трансмембранного потенциала в безмиелиновых и миелинизированных нервных волокнах.

8. Показана адекватность предложенной математической модели экспериментальным результатам. Проведено сравнение вычисленного при помощи солитонной модели потенциала действия с данными, полученными в экспериментах над изолированным из седалищного нерва Прудовой лягушки безмиелиновым нервным волокном.

Таким образом, разработана математическая модель процесса распространения нервного импульса в нервном волокне, точно описывающая его качественные свойства (неизменность с течением времени амплитуды импульса, длительности и скорости распространения) и достаточно удовлетворительно - количественные, допускающая аналитическое исследование и удобная для организации численного эксперимента.

1. Abbott L. F. and Kepler Т. B. Model neurons: from Hodgkin-Huxley to Hopfield // Statistical Mechanics of Neural Networks, L. Garrido, ed., no. 368 in Lecture notes in Physics, Springer-Verlag, 1990. P.5-18

2. Bressloff P. C. and Coombes S. Physics of the extended neuron // International Journal of Modern Physics. 1997. - №11. - P.2343-2392

3. Deliagina T.G., Orlovsky G.N., Selverston A.I., Arshavsky Y.I. // Journal of Neurophysiology. 1999. - N.82. - P.687-699

4. Dominique Debanne. Information processing in the axon // Nature Reviews Neuroscience. 2004. - V.5. - №4. - P.304-316

5. Frankenhaeuser В., Huxley A. The action potential in the myelinated nerve fibre of Xenopus Laevis as computed on the basis of voltage clamp data // J.Physiol. 1964. - N2. - P.302-315

6. Hodjkin A., Huxley A. A quantitative description of membrane current and its application to conduction and excitation in nerve // J.Physiol. (London). -1952. N4. - P.500-544

7. Honert van den C., Mortimer J.T. // Ann. Biomed. Eng. 1979. - V.7. - P. 117

8. Huffier S. W., Nicholls J.G. From neuron to brain: A cellular approach to the function of the nervous system. Sinauer Associates, Inc., Publishers, 1976. -325 pp.

9. Keener J and Sneyd J. Mathematical Physiology. Springer, 1998. - 741 pp.

10. Lax P.D. Integrals of nonlinear equations of evolution and solitary waves // Comm. Pure Appl. Math. 1968. - V.21. - P.467-490

11. Lax P.D. Periodic solutions of the KdV equations // Comm. Pure Appl. Math. -1975. -V.28. -P.141-188

12. Mc Neal D. Analysis of a model for excitation of myelinated nerve // IEEE Trans. On Biomed. Eng. 1983.- V.30. - N4. - P.329-337

13. Mendez С., Мое G.K. // Circul. Res. 1966. - V.19. - P.378

14. Murray J.D. Mathematical Biology. Springer-Verlag, Berlin-Heidelberg-N.Y., Biomathematics, 1993. - V.19. - 767 pp.

15. Noble D. A modification of Hodgkin-Huxley equation applicable to purkinje fiber action and pacemaker potential // J. Physiol. (London). 1962. - V.160. -P. 317-352

16. Qian N and Sejnowski T J. An electro-diffusion model for computing membrane potentials and ionic concentrations in branching dendrites, spines and axons. // Biological Cybernetics. 1989. - V.62. - .1. - P. 15

17. Scott A.C. // Rev. Mod. Phys. 1975. - V.47 -N.2. - P.487

18. Silinsky E. M., Redman R. S. // J. Physiol. (London). 1996. - V.492. -P.815—822

19. Smith G.H. Numerical Solution of Partial Differential Educations: 3rd ed. -Clarendon Press, Oxford, 1985. 632 pp.

20. Wilson H.R. and Cowan J.D.//Kybernetik. 1973. - N13.-P.55-80

21. Wit A.L., Hoffman B.F., Cranefield P.F. // Circul. Res. 1972. - V.30. - P.l

22. Yomosa Shigeo // Comm. Pure Appl. Math. 1986. - V.46. - N.l. - P. 107

23. Zipes D.P., Jalife J. Cardiac Electrophysiology. Philadelphia: W.B. Sanders Company, 1990. - 356 pp.

24. Абдулаев Ф.Х. Динамический хаос солитонов. Ташкент: Фан, 1990. -167 с.

25. Абловиц М.Д., Сигур Харви. Солитоны и метод обратной задачи / Пер. с анг. А.В.Михайлова; под ред. В.Е.Захарова. М.: Мир, 1987. - 487 с.

26. Авраменко Р.Ф., Грачев Л.П., Николаев В.И. Проблемы современной электродинамики и биоэнергетика. М, 1991. - 265 с.

27. Алешкевич В.А., Деденко Л.Г., Караваев В.А. Колебания и волны: Лекции. М.: Изд-во Физического факультета МГУ, 2001. - 421 с.

28. Антомонов Ю.Г. Моделирование биологических систем. Киев: Науко-ва думка, 1977. - 260 с.

29. Антонов В.Ф. Биофизика мембран // Соросовский образовательный журнал. 1996. - №6. - С.4-12

30. Асланиди О.В., Морнев О.А. Об отражении бегущих импульсов // Биофизика. 1996. - том 41. - вып.4. - С.953-959

31. Бериташвили И.С. Вопросы физиологии мышц, нейрофизиологии. -Тбилиси: Мецниереба, 1984. 703 с.

32. Беркенблит М.Б., Глаголева Е.Г. Электричество в живых организмах. -М: Наука, 1988. 285 с.

33. Биофизика: Учеб. для студ. ВУЗов / Антонов В.Ф., Черныш A.M., Пасечник В.И. и др.; под ред. В.Ф. Антонова. 1-е изд. - М.: Гуманит. изд. центр "Владос", 2000. - 288 с.

34. Брыскин В.В. Векторные солитоны в динамике ангармонических моноатомных решеток // ЖТФ. 1998. - т.68. - вып. 11. - С. 1-7

35. Васильев В.А., Романовский Ю.М., Яхно В.Г. Автоволновые процессы. М.: Наука, 1987.- 240 с.

36. Волков С.Н., Савин А.В. Солитонная динамика локальных переходов в бистабильной одномерной системе // Укр. физ. журн. 1992. - №37(4). -С.498-504

37. Волобуев А.Н., Неганов В.А., Нефедов Е.И. Индуктивно-емкостная модель возбудимой биоткани. Часть 1-4 // Вестник новых медицинских технологий. 1996. - № 3,4. - 1997. - № 1,3

38. Гамалий Е.Г. Волновые процессы в современной физике. М.: Изд-во МАИ.-1990.-91 с.

39. Гнатек Ю.Р. Справочник по цифроаналоговым и аналого-цифровым преобразователям. М.: Радио и связь, 1982. - 552 с.

40. Горбачев В.В. Концепция современного естествознания: Учебное пособие. М.: Изд-во МГУП, 2002. - 247 с.

41. Гофман В., Хомоненко A. Delphi 6. СПб.: БХВ-Петербург, 2002. -1152 с.

42. Давыдов А.С. Биология и квантовая механика. Киев: Наукова думка,1979.-296 с.

43. Давыдов А.С. Солитоны в биоэнергетике. Киев: Наукова думка, 1986.- 159 с.

44. Давыдов А.С. Солитоны в молекулярных системах. Киев: Наукова думка, 1988.-303 с.

45. Дейч С. Модели нервной системы. / Пер. с англ. С.Д.Бурцевой; под ред. Н.В.Позина-М.: Мир, 1970. 325 с.

46. Додд Р., Эйлбек Дж., Гиббон Дж., Моррис X. Солитоны и нелинейные волновые уравнения. М.: Мир, 1988. 694 с.

47. Заславский Г.М., Сагдеев Р.З. Введение в нелинейную физику: от маятника до турбулентности и хаоса. М: Наука, 1998. - 368 с.

48. Захаров В.Е., Манаков С.В., Новиков С.П., Питаевский Л.П. Теория солитонов (метод обратной задачи) / Под ред. С.П. Новикова. М.: Наука,1980.-319 с.

49. Захаров В.Е., Фаддеев Л.Д. Уравнение Кортевега-де Фриза вполне интегрируемая гамильтонова система // Функц. анализ и его приложения. -1971.-Т.5. -№4.-С.18-27

50. Иваницкий Г.Р., Кринский В.И. Автоволновые процессы: общие закономерности биологических, химических и физических активных сред // Методологические вопросы теоретической биологии и биофизики. М.: Наука, 1984.-С.275-282

51. Иваницкий Г.Р., Кринский В.И., Морнев О.А. Автоволны: новое на перекрестках наук // Кибернетика живого. М., 1984. - С.24-37

52. Иваницкий Г.Р., Кринский В.И., Сельков Е.Е. Математическая биофизика клетки. М.: Наука, 1978. - 310 с.

53. Ильичев А.Т. Уединенные волны в средах с дисперсией и диссипацией (обзор) // Известия РАН. Механика жидкости и газа. 2000. - N.2. -С.3-27

54. Каданцев В.Н., Лупичев Л.Н., Савин А.В. Образование солитонных состояний в молекулярной цепочке при квантовом учете тепловых колебаний // Укр. физ. журн. 1988. - №33(8). - С. 1135-1139

55. Кадомцев Б.Б., Петвиашвили В.Н. Об устойчивости уединенных волн в слабодиспергирующих средах. // Доклады АН СССР. 1970. - т. 192. -С.753-756

56. Каплан Л.Г. Интегральный подход в теории солитонов // Проблемы физ.-мат. наук.: Мат. XLIV науч.-метод. конф. препод, и студ. «Университетская наука региону». - Ставрополь: Изд-во СГУ, 1999. - с. 136

57. Каплан Л.Г. Локальные процессы в сплошной жидкой среде и атмосфере. Ставрополь: Изд-во «АСОК», 1993. - 246 с.

58. Каплан Л.Г., Максименко Е.В., Максименко Д.В. Моделирование нервного импульса как солитона // Теоретические и прикладные проблемысовременной физики: Мат. Региональной науч. конф. Ставрополь: Изд-во СГУ, 2002, С. 204-210

59. Каплан Л.Г., Максименко Е.В. О биологических электрических локальных процессах // Мат. XLVIII науч.-метод. конф. препод, и студ. «Университетская наука региону». - Ставрополь: Изд-во СГУ, 2003. - С. 46

60. Карпман В.И. Нелинейные волны в диспергирующих средах. М: Наука, 1973.-160 с.

61. Карпухин В.А. Биотехнические особенности проектирования усилителей электрофизиологических сигналов. М.: МГТУ, 1994. 54 с.

62. Кац Б. Нерв, мышца и синапс / Пер. с англ.- М.: Мир, 1968. 224 с

63. Кернер Б.С., Осипов В.В. Автосолитоны: локализованные сильно неравновесные области в однородных диссипативных системах. М.: Наука, 1991.- 197 с.

64. Ковалевич А.С., Усатенко О.В., Горбач А.А. Движение солитонов в модулированных упругих средах // ФТТ. 2001. - т.43. - вып.9. - С. 16001609

65. Костюк П.Г. Механизмы электрической возбудимости нервной клетки. -М.: Наука. 1981.-204 с.

66. Кудряшов Н.А. Нелинейные волны и солитоны // Соросовский Образовательный Журнал. 1997. - №2. - С.85-91

67. Лакомкин А.И., Мягков И.Ф. Электрофизиология. М.: Высшая школа, 1977.-305 с.

68. Лаке П.Д. Интегралы нелинейных эволюционных уравнений и уединенные волны // Математика. 1969. - №5. - С. 128-150

69. Леони Д., Берте Р. Анатомия и физиология человека в цифрах. М: Крон-Пресс, 1995.-128 с.

70. Магура И.С. Проблемы электрической возбудимости нейрональной мембраны. Киев: Наукова думка, 1981.- 208 с.

71. Максименко Е.В. Аналитическая модель нервного импульса // Обозрение прикладной и промышленной математики. 2003. - Т. 10. - вып.З. -С.696-697

72. Максименко Е.В. Использование уравнения Кортевега- де Фриза для моделирования трансмембранного потенциала в нервном волокне // Вестник Северо-Кавказского государственного технического университета, серия «Естественнонаучная». 2004. - №1(7). - С.234-235

73. Максименко Е.В. Исследование распространения нервного импульса как солитона // Сборник тезисов Восьмой Всероссийской научной конференции студентов-физиков и молодых ученых. Екатеринбург, 2002. -с.594-596

74. Максименко Е.В. Моделирование локальных электрических процессов в биологических возбудимых средах // Материалы XI итоговой научной конференции молодых ученых и студентов. Ставрополь: Изд. СГМА, 2003. - с.93-94

75. Максименко Е.В. Моделирование распространения нервного импульса с использованием ЭВМ // Обозрение прикладной и промышленной математики. -2004. Т.П. - вып.2. - С.368-369

76. Максименко Е.В. Нервный импульс как локальный электрический процесс // Сборник тезисов Девятой Всероссийской научной конференции студентов-физиков и молодых ученых. Екатеринбург-Красноярск: Изд. АСФ России, 2003. - Т.2. - с.825-826

77. Максименко Е.В Об использовании математических методов в биологических исследованиях// Обозрение прикладной и промышленной математики. 2005. - т. 12. - вып.2. - с.431-432

78. Максименко Е.В. Описание нервного импульса как солитона // Материалы X итоговой научной конференции молодых ученых и студентов. -Ставрополь: Изд. СГМА, 2002. с.270-271

79. Максимов А.Г., Сомов А.В. Динамика бегущих импульсов сложной формы в системе Фитц-Хью-Нагумо при модуляции параметров // Известия вузов. Радиофизика. 1998. - Т.41. - С.1586-1592

80. Маркин B.C. Теория возбудимых сред / Маркин B.C., Пастушенко В.Ф., Чизмаджев Ю.А.; Ред. М.В.Волькенштейн; АН СССР. М.: Наука, 1981.-276 с.

81. Маркин B.C., Чизмаджев Ю.А. Физика нервного импульса. М.: Знание, 1977.-63 с.

82. Марри Дж. Нелинейные дифференциальные уравнения в биологии. Лекции о моделях. / Пер. с англ. М.: Мир, 1983. - 399 с.

83. Математическая теория биологических процессов / А.Б.Медвинский, М.А.Цыганов, И.Б.Кресьева, Г.Р.Иваницкий. Калининград, 1994. -389 с.

84. Мелконян Д.С. Переходные процессы в нейронных системах. Ереван: Изд-во АН АрмССР, 1987. - 407 с.

85. Механико-химические автоволны в живых клетках / Д.П.Николаев, В.А.Теплов, В.П.Божкова, Ю.М.Романовский // Труды семинара «Время, хаос и математические проблемы». М.: Изд-во МГУ, 1999. - С. 181-202

86. Моделирование физиологических функций организма / Под ред. Б.В.Петровского. М, 1971. - 698 с.

87. Молотков И.А., Вакуленко С. А., Бисярин М. А. Нелинейные локализованные волновые процессы. М.: Янус-К, 1999. 176 с.

88. Морнев О.А., Асланиди О.В., Алиев Р.Р., Чайлахян J1.M. Солитонопо-добный режим в уравнениях Фитц-Хью-Нагумо: Отражение сталкивающихся импульсов возбуждения. // Доклады АН. 1996. - Т.347. - №1. - С.123-125

89. Начала физиологии: Учеб. для вузов / А. Д. Ноздрачев, Ю. И. Баженов, И. А. Баранникова и др.; С.-Петерб. гос. ун-т (СПбГУ); Под ред. А.Д.Ноздрачева. 2-е изд., испр. - СПб.: Лань, 2002. - 1088 с.

90. Некоторые особенности нелинейного моделирования пульсовой волны / А.Н.Волобуев, В.И.Кошев, В.П.Пирогов, Е.С.Петров // Биофизика. -1996. -Т.41. вып.2. - С.453-458

91. Нелинейные волны: самоорганизация / Под ред. А.В. Гапона-Грехова, М.И. Рабиновича. М.: Наука, 1983. - 264 с.

92. Нелинейное моделирование распространения потенциала действия / А.Н.Волобуев, Б.Н.Жуков, Е.Л.Овчинников и др. // Биофизика. 1991. -Т.36. - вып.З. - С.546-551

93. Новиков С.П. Периодическая задача Кортевега-де Фриза // Функц. анализ и его приложения. 1974. - №8. - С.54-66

94. Ньюэлл А. Солитоны в математике и физике / Пер. с англ.; Ред.

95. A.В.Михайлова. Новокузнецк: Изд-во НФМИ, 1998.- 322 с.

96. Петвиашвили В.И., Похотелов О.А. Уединенные волны в плазме и атмосфере. М.: Энергоатомиздат, 1989. - 199 с.

97. Петухов С.В. Биосолитоны тайна живого вещества. Основы солитонной биологии. - М.: "ГП Кимрская типография", 1999. - 288 с.

98. Плонси Р., Барр Р. Биоэлектричество: Количественный подход. / Пер. с англ.; под ред. Л.М.Чайлахяна, Л.И.Титомира М: Мир, 1992 - 366 с.

99. Практикум по нормальной физиологии: Учебное пособие / Под ред. Н.А. Агаджаняна. М.: Изд-во РУДН, 1996.- 339 с.

100. Пульсовая волна с точки зрения солитона / А.Н.Волобуев, И.И.Кошев,

101. B.Н.Пирогов, Е.С.Петров // Биофизика. 1991. - Т.36. - вып.З. - С.552-557

102. Рабинович М.И., Трубецков Д.И. Введение в теорию колебаний и волн. -М.: Наука, 1992.-454 с.

103. Романовский Ю.М., Степанова Н.В., Чернавский Д.С. Математическая биофизика. М.: Наука, 1984. - 304 с.

104. Романовский Ю.М., Степанова Н.В., Чернавский Д.С. Математическое моделирование в биофизике. М.: Наука, 1975.- 342 с.

105. Рубин А.Б. Биофизика. В 2-х кн. Учеб. для биол. спец. вузов. М.: Высш. школа, 1999. - Т. 1.- 448 с.

106. Юб.Рыскин Н. М., Трубецков Д. И. Нелинейные волны: Учеб. пособие. М.: Физматлит. - 2000. - 272 с.

107. Савченко Л.П. Пространственное распределение потенциала на цилиндрической поверхности, имитирующей соматическую мембрану: модельные исследования // Нейрофизиология. — 2000. вып.32. - №5. -С.333-341

108. Самойлов В.О. Медицинская биофизика.- JL: ВМА, 1986.- 490 с.

109. Симонович С., Евсеев Г., Алексеев А. Общая информатика. М.: АСТ-ПРЕСС; Инфорком-Пресс. - 1998. - 592 с.

110. Скотт Э. Волны в активных и нелинейных средах в приложении к электронике. М.: Сов. радио, 1977. - 368 с.

111. Смолянинов В.В. О скорости проведения возбуждения по волокну и синцитию // Биофизика. 1969. - Т. 14. - вып.2. - С.336-347

112. Ш.Солитоны / Под ред. Буллаф, Ф.Кодри; Пер. с англ. Б.А.Дубровина, И.М.Кричевера, С.В.Манатоны и др.; Под ред. С.П.Новикова. М.: Мир, 1983.-408 с.

113. ПЗ.Солитоны в действии / Под ред. А.В.Гапонова-Грехова, Л.А.Островского.-М.: Мир, 1981.-312 с.

114. М.Солитоны: Пер. с англ. / Ред. С.П.Новиков. Новокузнецк: Изд-во НФМИ, 1999.-408 с.

115. Съем и обработка биоэлектрических сигналов: Учеб. пособие // К.В.Зайченко, О.О.Жаринов, А.Н.Кулин и др. СПб., 2001. - 140 с.

116. Табор М. Хаос и интегрируемость в нелинейной динамике. М.: Эдиториал УРСС, 2001. - 320 с.

117. Тихонов А.Н., Самарский А.А. Уравнения математической физики. М.: Наука, 1966.-724 с.

118. Федорков Б.В. Микросхемы ЦАП и АЦП: функционирование, параметры, применение. М.: Энергоатомиздат, 1990. - 320 с.

119. Физиология: Учебник / Под ред. С.А.Георгиевой. 2-е изд.; перераб. и доп. - М.: Медицина, 1986. - 400 с.

120. Физиология: Учеб. для студ. ВУЗов / Под ред. В.М. Покровского. М.: «Медицина», 1998. - Т.1. - 815 с.

121. Физиология человека / Фомин Н.А. -3-е изд. М.: Просвещение, 1995.416 с.

122. Физиология человека: Учеб. для студ. мед. вузов / Н. А. Агаджанян, В. Г. Афанасьев, Н. А. Барбараш и др.; Под ред. В. М. Смирнова. М.: Медицина, 2001.-608 с.

123. Фолкенберри JI. Применения операционных усилителей и линейных ИС. М.:Мир, 1985.-572 с.

124. Фомин С. В., Беркинблит М. Б. Математические проблемы в биологии. -М.: Наука, 1973.-200 с.

125. Ходжкин А. Нервный импульс / Пер. с англ.- М.: Мир, 1965.- 128 с.

126. Ходоров Б.И. Общая физиология возбудимых мембран. М.: Наука, 1975.-406 с.

127. Цветков О.В., Дегтярев Т.М., Смирнова Е.П. Вариант модели Ходжки-на-Хаксли с сокращенным числом параметров // Биофизика. 1998. -т.43. - вып.1. - С.109-114

128. Электрофизиологическая и фотометрическая медицинская техника: Уч. пособие / Е.П. Попечителев, Н.А. Кореневский М.: Высшая школа, 2002.-470 с.