автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Математическое моделирование кинетики клеточной популяции кишечного эпителия

САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

На правах рукописи

Толстая Мария Викторовна

МАТЕМАТИЧЕСКОЕ МОДЕЛИРОВАНИЕ КИНЕТИКИ КЛЕТОЧНОЙ ПОПУЛЯЦИИ КИШЕЧНОГО ЭПИТЕЛИЯ

05.13.18 - Математическое моделирование, численные методы и комплексы программ

03.00.25 - Гистология, цитология, клеточная биология

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Санкт-Петербург - 2005

Работа выполнена на кафедре управления медико-биологическими системами в Санкт-Петербургском государственном университете.

доктор биологических наук, профессор

Токин Иван Борисович; доктор физико-математических наук, профессор

Квитко Александр Николаевич.

доктор физико-математических наук, профессор

Демьянов Владимир Федорович; доктор медицинских наук, профессор

Верин Владимир Константинович.

Ведущая организация: Санкт-Петербургский государственный

электротехнический университет

Защита состоится « 22 » июня 2005г. в 12 час на заседании диссертационного совета Д-212.232.50 по защите диссертаций на соискание ученой степени доктора наук при Санкт-Петербургском государственном университете по адресу: 199034, Санкт-Петербург, Университетская наб., д.7/9, Менделеевский центр.

С диссертацией можно ознакомиться в библиотеке им. М. Горького Санкт-Петербургского государственного университета.

Автореферат разослан « /б » мая 2005г.

Ученый секретарь диссертационного совета, доктор физико-математических наук, профессор

Научные руководители.

Официальные оппоненты:

Г.И. Курбатова.

2,006- ^ 1Ъ$96

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы диссертационного исследования. Актуальность темы диссертационной работы определяется важностью разработки проблемы кинетики клеточных популяций для теории и практики биологии и медицины. Изучение кинетики популяций необходимо для понимания механизмов регенерации тканей и органов, а также для анализа сложных регуляторных процессов поддержания гомеостаза, нарушения которого приводят к патологиям, развивающимся, в частности, при радиационных поражениях и онкогенезе.

Далеко не все аспекты этой важной проблемы решены методами экспериментальной морфологии. Для выяснения многих вопросов представляется целесообразным применение сбалансированного сочетания натурного эксперимента, математического моделирования и численного эксперимента на ЭВМ.

Для изучения сложных регуляторных механизмов поддержания тканевого гомеостаза прекрасной моделью является кишечный эпителий, относящийся к быстро обновляющимся тканевым системам; он интересен как пример клеточной популяции, самообновляющейся на основе общего предшественника -стволовой клетки. Кроме того, клеточная популяция тонкой кишки обладает мощными механизмами защиты от негативных воздействий. К ним относятся: компенсация погибших клеток в ткани благодаря пролиферации; задержка митоза, дающая время для репарации повреждений в клетках (И.Б.Токин, 1994); изменение механизма дифференцирования клеток, направленное на скорейшее восстановление популяции стволовых клеток; увеличение численности клеток, проявляющих клоногенные свойства.

Кишечный эпителий - тканевая система, обладающая свойствами самовосстановления и выхода в стационарное состояние при возмущениях, т.е. свойством целостности и устойчивого самосохранения. Структура и функции кишеч-но]о эпителия детально изучены, что облегчает интерпретацию экспериментальных данных. В качестве повреждающего агента чаще всего использовали ионизирующее излучение, однако, механизмы, вовлеченные в процесс репарации после лучевого повреждения, остаются не до конца выясненными.

Настоящее исследование посвящено разработке математической модели популяции эпителия тонкой кишки в нормальном и пертурбационном состоянии. Подбор параметров модели произведен нами на основе полученных к настоящему времени экспериментальных данных (С.8.РоПеп, 1983, 1994; М.А.\Уп§1и, 2000 а. оЛ.) построенная математическая модель исследована качественно и количественно.

Математическая модель кинетики кишечного эпителия может иметь не только теоретическое, но и прикладное значение; возможно ее применение для изучения действия различных режимов фракционного облучения на клеточную популяцию эпителия при рентгено-радиологических процедурах и аварийных ситуациях, связанных с облучением организма.

Цель работы. Целью данной работы было создание и исследование математической модели пострадиационного восстановления быстро обновляющейся клеточной популяции эпителия тонкой кишки. Для достижения данной цели были поставлены следующие задачи:

1. Построение математической модели динамики клеточной популяции в нормальном и пертурбационном состоянии с учетом процессов пролиферации, дифференциации и апоптоза.

2. Подбор параметров модели на основе экспериментальных данных, полученных для кишечного эпителия лабораторной мыши.

3. Качественное и количественное исследование построенной модели.

4. Обоснование возможного применения построенной модели для изучения действия различных режимов фракционного облучения на клеточную популяцию эпителия.

Методы исследования. В работе использованы методы теории дифференциальных уравнений, теории устойчивости, математической статистики и различные численные методы.

Положения, выносимые на защиту:

1. Математическая модель дозово-временной зависимости динамики клеточной популяции эпителия тонкой кишки в нормальном и пертурбационном состоянии, построенная на основе кинетического подхода с использованием аппарата дифференциальных уравнений.

2. Качественное и количественное исследование построенной модели. Решение задачи идентификации параметров модели на основе экспериментальных данных, полученных для кишечного эпителия лабораторной мыши.

3. Возможность применения построенной модели для изучения действия различных режимов фракционного облучения на клеточную популяцию эпителия.

Научная новизна работы. В отличие от уже существующих моделей в построенной модели учтены два механизма обратной связи (регуляция на уровне стволовых и зрелых клеток), что дает лучшее соответствие экспериментальным кривым. Кроме того, учтено наличие в криптах клоногенных клеток - транзитные клетки 1-го поколения рассматриваются как клетки, способные проявлять клоногенные способности. Установлена связь между длительностью митотиче-ской задержки и уровнем выживаемости делящихся клеток. Построенная модель позволяет исследовать дозово-временную динамику апоптичсских и некротических клеток. Все результаты, изложенные в оригинальной части работы получены впервые и являются новыми.

Достоверность и обоснованность полученных результатов работы базируется на строгом аналитическом исследовании модели, а также на проведении проверки адекватности построенной М9дели на основе сопоставления с экспериментальными данными.

Теоретическая и практическая значимость. Хотя работа носит теоретический характер, ее результаты имеют как теоретическую, так и практическую ценность.

Рассматриваемые проблемы представляют интерес для специалистов в области цитологии, гистологии, клеточной биологии, управлений в медико-биологических системах (на клеточном и тканевом уровнях); специалистов, работающих в области клеточной и тканевой инженерии. Моделирование процессов, регулирующих клеточное деление и тканевый рост необходимо для понимания биофизических процессов в живой материи, а затем и в медицинской технике и клинической практике.

Опубликованные работы. По теме диссертации автором опубликованы 5 научных работ [1-5], список которых представлен в конце автореферата.

Апробация результатов. Основные итоги диссертационных исследований докладывались и обсуждались на 3-й Российской университетско-академической научно-практической конференции (Ижевск, 1997г.) и на XXXII научной конференции «Процессы управления и устойчивость» факультета ПМ-ПУ СПбГУ (Санкт-Петербург, 2001г.).

Структура и объем работы. Диссертационная работа состоит из введения, четырех глав, заключения и списка использованной литературы. Общий объем работы 138 страниц машинописного текста, 36 иллюстраций, 11 таблиц. Библиография включает 137 наименований.

СОДЕРЖАНИЕ РАБОТЫ

Во Введении обоснована актуальность диссертационной работы, сформулированы цели исследования, дана краткая характеристика содержания основных разделов диссертации.

В первой 1лаве представлены биологаческие понятия, необходимые для понимания предмета исследования. В разделе 1.1 описаны особенности строения эпителия тонкой кишки, а также динамика клеточной популяции в обычных условиях функционирования организма.

Поверхность слизистой образует пальцевидные выросты - кишечные ворсинки, между которыми расположены углубления - кишечные крипты. Каждая крипта является обособленной пролиферативной единицей. За счет клеток крипты происходит обновление клеточной популяции ворсинки.

До 90% клеток в кишечном эпшелии составляют столбчатые (эпителио-циты) клетки, играющие ключевую роль в обновлении эпителия. По степени дифференцировки и функциям столбчатые клетки можно разделить на 3 подгруппы: 1) расположенные в основании крипт стволовые клетки - клетки, обладающие способностью к самовосстановлению своей популяции и к производству дифференцированных потомков (клеток отличных по строению и выпол-

няемым функциям); 2) транзитные клетки - быстро пролиферирующие клетки, мигрирующие к устью крипты и далее на ворсинку и претерпевающие по мере миграции от 4 до 6 делений; 3) зрелые клетки (столбчатые каемчатые), мигрирующие до вершины ворсинки и слущивающиеся оттуда в просвет. Стволовые клетки эпителия дают начало четырем клеточным линиям (столбчатым каемчатым, панетовским, энтероэндокринным и слизистым клеткам).

Апикально-зернистые клетки Панета (панетовские клетки), дифференцируясь из стволовых клеток, остаются на постоянных позициях в основании крит, где в течение 2-3 недель функционируют, после чего погибают; погибшие клетки фагоцитируются соседними эпителиальными клетками. Роль слизистых и энтероэндокринных клеток, мигрирующих из крипты, в процессе клеточного обновления незначительна.

Таким образом, в полной системе клеточного обновления кишечного эпителия можно выделить 3 основные части: стволовые клетки; клетки пролифера-тивно-усиливающего и созревающего пулов; зрелые клетки.

В процессе деления стволовые клетки становятся коммитированными, способными развиваться лишь в каком-либо одном направлении (латентная дифференцировка). По мере дифференцировки эти клетки приобретают специфические особенности строения, становятся зрелыми и теряют способность к делению. В пролиферативно-усиливающем и созревающем пулах (делящаяся популяция транзитных клеток) происходит увеличение численности популяции клеток и их постепенная дифференцировка до зрелых клеток.

В разделе 1.2 приведены результаты исследований воздействия радиации на клеточную популяцию эпителия. Описаны типы клеточной гибели, динамика клеток и основные этапы регенерации поврежденной популяции, являющиеся общими для доз любой величины (изменяются только количественные значения).

Первой, обнаруживаемой после облучения реакцией, является гибель клеток. Выделяют два ее типа апоптоз и некроз.

Апоптоз - регулируемая форма программируемой клеточной гибели (ПКГ), при которой клетки активно реализуют генетическую программу контроля, вызывающую суицид. В разделе 1.2.1 охарактеризованы основные формы апопто-за в криптах эпителия тонкой кишки: а) спонтанный апоптоз, проявляющийся в кишечных криптах нормальных здоровых особей и являющийся регулятором гомеостаза клеточной популяции, гарантирующим удаление из крипты тонкой кишки избыточных или генетически измененных стволовых клеток; б) апоптоз, вызванный повреждениями.

Некроз - смергь клеток, являющаяся результатом воздействием на организм каких-либо повреждающих факторов. Причиной смерти клетки являются необратимые повреждения плазматических мембран либо органелл клетки.

Чувствительность клеток к облучению повышается с ростом пролифератив-ной активности клеток. Первоначальным проявлением реакции клеток на облу-

чение является временная зависимая от дозы задержка продвижения клеток в клеточном цикле, а именно в фазе 02 (митотическая задержка). Длительность задержки пролиферации уменьшается по мере дифференцировки клеток. Поврежденная ткань отвечает попыткой репарации, включающей пролиферативную компенсацию погибших клеток, изменение механизма дифференцировки стволовых клеток и увеличение численности клеток, проявляющих клоногенные свойства (И.Б.Токин, 1974).

Во второй главе представлен обзор наиболее извес!ных исследований в области моделирования кинетики клеточной популяции эпителия тонкой кишки после облучения.

Кинетический подход основан на рассмотрении динамики изменения изучаемой системы и знании свойств этой системы; биологические объекты исследуются с помощью аппарата дифференциальных уравнений. Основные различия между существующими моделями огражают несовпадающие представлении исследователей о наличии и природе действия iex или иных механизмов регуляции клеточной динамики и роли отдельных клеточных субпопуляций в этом процессе (G.A.Sacher, 1966; F.Sato, 1972; N.F.Britton, 1982; U.Paulus, 1992).

В третьей главе описан процесс построения математической модели динамики клеточной популяции крипгы и ворсинки на основе кинетического подхода (с помощью аппарата дифференциальных уравнений).

На первом этапе (раздел 3.1) построена модель "идеальной" клеточной популяции эпителия крипты и ворсинки, т.е. популяции, функционирующей в условиях полного отсутствия каких-либо внешних воздействий (система находится в состоянии равновесия).

Пусть А',, /=1,...,11 - среднее количество клеток, находящихся в момент времени I в /'-ой субпопуляции: А, - среднее количес!во стволовых клеток (S); N2 - среднее количество панетовских клеток (Я); Л3-Л'6 - среднее количество транзитных клеток I -4-го поколений соответственно (Т\ - ТА); У7 -среднее количество зрелых клеток (\i); Ns - среднее количество клеток ворсинки (F); ,У9 - среднее количество потенциальных апопгических клеток; Л'10 - среднее количество апопгических 5-клеток; yV,, — среднее количество дегенеративных Р -клеток.

Назовем интенсивностью перехода клеток долю клеток субпопуляции, переходящих в другую субпопуляцию за единицу времени в процессе жизнедеятельности клеточной популяции, т.е. части клеток множества N,, которая переходит во множество N в процессе функционирования системы.

Примем следующие обозначения: а, - интенсивность самообновления 5-клеток; а2-а4 - интенсивности переходов S -клеток в субпопуляции Р-, 71 - и потенциальных апоптических клеток соответственно; ß , <р , р и 4/ - интенсив-

ности деления 71-7" 4 -клеток соответственно; к - интенсивность дегенерации Р-клеток; V,- интенсивность проявления апоптоза потенциальными апоптиче-скими клетками; х ~ интенсивность перехода М -клеток на ворсинку; 5 - интенсивность удаления клеток с ворсинки и оо, т| - интенсивности удаления апоптических и дегенеративных клеток; £ - количество крипт, участвующих в обновлении эпителия одной ворсинки.

_к=1/Г2, Р=1/7з, ф = 1/Г4 , Р=1/Г5, Ч/ = 1/Т6 , 8=1/Т„ где Т1 (¿ = 1,...,6) - длительность клеточного цикла /-ой субпопуляции и Г, -длительность транзита клетки от основания ворсинки до ее вершины в условиях отсутствия негативного внешнего воздействия.

«1=^5 -У орЩ, «2=У г/Т,, а3 ~1т\/Т\ ■, а-А=1ар/Т\, где у 5 - доля дочерних 5 -клеток, остающихся в субпопуляции; у ¡, - доля дочерних 5-клеток, дифференцирующихся в /'-клетки; уп - доля дочерних 5-клеток, дифференцирующихся в Л -клетки; и уар - доля дочерних 5-клеток,

имеющих какие-либо повреждения (потенциальные апоптические клетки).

Блок-схема модели кинетики "идеальной" клеточной популяции эпителия кригпы и ворсинки представлена на рис.1. Она описывается линейной однородной системой дифференциальных уравнений 11-ю порядка с постоянными коэффициентами:

г/УУ,/^ = (а, -а2 -а3 -а4)-Дг|; dN2|dt = 2■aг ■ -к ■ ¿/У,/<# = 2-<х3 • -р -7У3; с1М4 /<Л = 2 • р • /У3 -(р Л^4;

.¿ЛГ6/<Й = 2-р-Л^-ч»-ЛГ6; (1)

dN¡i¡dt = x-0.5-£-Лг7 -8 -Л/8;

dN9|dt^ 2а4 -V, •Л',;

dNnjdt~ к • -т| • Л'п.

Коэффициент 2 в правых частях 2-7 и 9 уравнений системы (1) отражает факт образования двух новых клеток при делении одной клетки. В 8-м уравнении коэффициент 0.5 показывает переход клеток из крипты на 2 ворсинки.

Для системы (1) решаем задачу Коши: требуется найти решение N(1), удовлетворяющее в момент времени / = 0 условию Ы(0) = А'0, где

а,

Рис. 1. Блок-схема динамики клеточной популяции крипты и ворсинки эпителия тонкой кишки в устойчивом состоянии

N0 ={N< N°, N°, N°, Nf0, Л^).

Так как система (1) - линейная однородная система дифференциальных уравнений с постоянными коэффициентами, то она удовлетворяет теоремам Пиано и Пикара и решение задачи Коши для системы (1) всегда существует и единственно.

Вводим необходимость выполнения следующего условия целостности ткани: в каждый момент времени количество жизнеспособных клеток крипты (наиболее важных в системе клеточного обновления) должно быть постоянным, т.е. переменные системы (1) в любой момент времени должны удовлетворять условию:

.V, + Л'2 + Л'з + ,У4 + Л'5 + ,V6 + Д/7 = Nclypl = const (2)

Условие (2) является интегралом системы (I), и совокупность системы дифференциальных уравнений (1) и условия (2) представляет собой математическую модель идеальной клеточной популяции эпителия крипты и ворсинки тонкой кишки.

В разделе 3.1.4 проведено исследование модели идеальной популяции. Доказаны следующие теоремы о выделении областей допустимого изменения параметров модели и о положении равновесия системы:

Теорема 3. 1. В системе (1) существует интеграл целостности (2) тогда и только тогда, когда в системе (1) выполняется равенство

{^,/7;)+(^з/Гз)+ф,У4 + =((2yapN])/T])+KN2+xN1, (3)

отражающее свойство равновесия в процессах деления и удаления клеток

Теорема 3. 2. Система (1) имеет ненулевое положение равновесия, если выполняется условие у s = 0.5 + у ар.

Теорема 3. 3. Ненулевое положение равновесия системы (1) является устойчивым, если выполняется условие у s = 0.5 +у ар

Жизнеспособные клетки

I______________________________

Погибающие клетки

Рис. 2. Блок-схема динамики клеточной популяции, находящейся в пертурбационном состоянии

В разделе 3.2 поставлена задача создания на основании модели, построенной в разделе 3.1, модели репарации клеточной популяции эпителия крипты и ворсинки тонкой кишки после острого у-облучения [рассмотрено действие только низких (0-0.5 Гр) и средних (0.5-9 Гр) доз облучения, не приводящих к массовой стерилизации крипт].

Принимаем, что облучение происходит в нулевой момент времени и длительность облучения Д / -> 0. Облучение в основном приводит к гибели стволовых, транзитных и панетовских клеток. Гибель зрелых клеток крипт и клеток ворсинки не имеет принципиально! о значения для обновления клеточной популяции. После облучения жизнеспособных клеток кроме субпопуляций зрелых клеток крипты и клеток ворсинки делятся на два типа: 1) клетки, неповрежденные облучением, способные к нормальной жизнедеятельности после репарации; и 2) клс! ки, теряющие способность к нормальной жизнедеятельности, погибающие в течение суток.

Аналогично вышеописанной модели блоки Л', - Л^ представляют среднее количество жизнеспособных клеток крипты и ворсинки соответствующих субпопуляций; - среднее количество потенциальных апоптических клеток, проявляющих признаки апоптоза.

Добавляем дополнительные блоки, отражающие появление иод действием радиации нежизнеспособных клеток. Пусть .V,, - Лг|6 - среднее количество по-

врежденных облучением 5-, Р-, 74-, Т 2-, Т 3-й 74-клеток соответственно; /У,, - среднее количество некротических клеток. Вводим новые связи между блоками модели и соответствующие им интенсивности перехода клеток: 1) у2-V 7 — интенсивности проявления признаков некроза поврежденными клетками соответствующих субпопуляций; 2) Р, — интенсивность самообновления суб-нопуляции 71; 3) (32 - интенсивность перехода Т\-клеток в субпопуляцию Т2. Схема расширенной модели изображена на рис.2.

Математическая модель динамики клеточной популяции, находящейся в пертурбационном состоянии, описывается нелинейной системой дифференциальных уравнений 17-го порядка вида

/ей = 2 а2Д ЛГ,, ^з, Л'8 )■ лг, - {\/Т2 )• Ы2;

= +вл(/,ДЛ/|,7У8)-(2г|(Л^,)-1)Лг3;

аИ./сИ = 2- ф(/,р(/, 0) • ЛГ,;

<ЙУ7/Л = 2-у(*,/))-ЛГ6-х-ЛГ7; (4)

dNJclt=0.5■x■L■N^-Ь■Nt■ с1Ыч/Л=2 а4(/, О, /V,. Л8)• Л', йИУ10/<Й=л>, -Л'9 -со-Л'ю;

/=11н-16;

¿У17 М=(1/Г2) +1>,_9 ■ Лг, -П • ЛГ17.

/=п

При решении системы (4) использовали вектор начальных условий, имеющий следующий вид:

< =(1-/(£>))• £"(£>)• .V,, ^ = 5, (О) (, = 2 6), Л^7° = Л^7, = /V,, №9 = /(£>) • /7, + УУ9, =

< = (1 - /(О)) • (1 - 5," (О))- V,, ЛГ,° = (1 - (/ = 12 16), < = М„, где Л',0 = Л-, (7=0); Л'( - среднее количество клеток /'-ой субпопуляции в устойчивом состоянии, соответствующее значению положения равновесия системы (1); $,(0) - доля клеток /'-ой субпопуляции, выживающих после облучения

дозой £>; Б"(О) - доля неподверженных некрозу стволовых клеток; 1(0) - доля стволовых клеток, проявляющих апоптоз, вызванный облучением.

Для описания изменения динамики клеток в пертурбационном состоянии в модели были использованы следующие коэффициенты:

"М-

1. Коэффициент, отражающий отсутствие деления клеток во время ми-тотической задержки

Отсутствие деления клеток во время митотической задержки для /-ой субпопуляции вводим выражением

<*(/- Т„аержки (£>))= а (Г - а, • ехр (-Ь •/))•£>)= а (/ - (£>) • Ь),

где Тзадгржки(0) - длительность митотической задержки; 1г,(П) - коэффициент

пропорциональности; а - начальный уровень коэффициента пропорциональности, Ь - положительная константа;

[О, если х < О, [1 в других случаях.

2. Интенсивности переходов 5- и Т1-клеток

Интенсивности переходов 5- и 71 -клеток представляют собой произведение скорости деления клеток на долю дочерних клеток, переходящих в соответствующую субпопуляцию.

Скорости деления 5- и 71-клеток. Скорости деления 5- и 71 -клеток являются величинами обратно пропорциональными длительностям клеточных циклов. При определении длительностей клеточных циклов 5- и 71-клеток было использовано предположение о двойном механизме регулирования: на уровне стволовых клеток и клеток ворсинки. Для скорости деления ^-клеток (05 (/, Л',, Л'8)) введем данное предположение следующей зависимостью

в, (/, Д Л/,, Лв) = а (/ -щ {И) - Б) ■ (1/7; (.V,, Л'„)) =

\2

<тргт

М

если 7, -I ■=1-N.

■ехр(И (Л8/Л8-!))</;"

| /

а (/-/г, (/})■£>) —

Л?

в других случаях.

Тх ■ уУ,2 • ехр(ц • (л8 /Л^ -1)) Аналогичная зависимость использована и для скорости деления 71 -клеток еп (/, Д ЛГ, „V,) = О (/ - й, (О) • О) ■ (1/7-3 К, )) =

\2

1

если

Л

•ехр(ц.(Л'8/Л'8-1))<^

7-3 ехр(м-(\'8/Л'8-1))

в дру< их случаях,

где 7*|т,п и 7"3тш~ минимально возможная длительность клеточных циклов 6- и ГУ-клеток соответственно; ц - положительная константа.

Распределение дочерних стволовых клеток. На распределение дочерних стволовых клеток оказывает влияние численность 5- и 71-клеток. Определим доли дочерних стволовых клеток, переходящих в ту или иную субпопуляцию. Доля дочерних стволовых клеток, остающихся в субпопуляции Б-клеток

Ух

если л ■

N,

+ 0.5 + уар>у

шах

Ч <

1 /

1-й]

+ 0.5 +уар в других случаях,

1

где 5 - коэффициент чувствительности, у ™м - максимально допустимое значение у 5 (ЛА, ).

Доля дочерних стволовых клеток, дифференцирующихся в панетовские • у™'\ если Л'з/Л'з < 1, УЛ^з) = 'ГГ» если УГ+5р-(^,/^3-1)>УГ,

у ™п + • / Л^з -1) в других случаях, где бр- коэффициент чувствительности; у™п - обычный для необлученной крипты уровень у Р\ у - максимально допустимая доля дочерних клеток, дифференцирующихся в /'-клетки (у "" < 1 - у ).

Доля дочерних стволовых клеток, дифференцирующихся в транзитные•

Значение у п в зависимости от значения вектора переменных N в каждый момент времени I будет у 71 (Л',, ) = 1 - у 5 (Л7,) - у /> (Л^).

Доля дочерних стволовых клеток, имеющих какие-либо повреждения (потенциальные апоптические клетки) (уф) сохраняет постоянное значение.

Итоговые интенсивности переходов клеток из субпопуляции ¿"-клеток будут иметь вид:

Распределение клеток, образующихся в результате деления Т1-клеток.

Доля дочерних клеток, остающихся в субпопуляции 71, определяется зависимостью

О, если О,

г™", если л-71 -(1 - Л', //V, г™"1*, «Т1 • (1 - /\\) в др.сл.,

где £п- коэффициент чувствительности; г,1""- максимально допустимое значение г, (Л',).

Долю дочерних клеток, переходящих в субпопуляцию Т2, получаем из равенства г2(А''|) = I - (Л',). Итоговые интенсивности переходов из субпопуляции Т1 представлены в виде уравнений:

3. Интенсивности переходов транзитных клеток 2-4 поколений.

Ф (/,£>)-о (/-гг4(/;)-«)/74;

р(г,£>) = о(?-Гг,(0) В)/Т,1

4. Интенсивности перехода % и 8 сохраняют постоянные значения, характерные для нормального, устойчивого состояния. Интенсивности vi-v7, со, Г) считаем постоянными, принадлежащими интервалу [0, 1].

В четвертой главе интерпретированы физические параметры моделей устойчивого и возмущенного состояний клеточной популяции эпителия крипты и ворсинки тонкой кишки на примере экспериментальных данных для стандартной лабораторной ВОР1 мыши в возрасте 12-14 недель (раздел 4.1).

Подбор вектора начальных условий модели облученной популяции произведен на основании выбора сштистической модели выживаемости клеток после облучения, наилучшим образом аппроксимирующей экспериментальную кривую. На соответствие проверялись модель многих одноударных мишеней, линейно-квадратичная модель и двухкомпонентная модель. Наилучшую аппроксимацию экспериментальной кривой получили, минимизируя функционал правдоподобия по векторам соответствующих каждой модели параметров. Кроме того, при подборе вектора начальных условий было использовано предположение о связи длительности митшической задержки и выживаемости клеток. Полагаем, что выживаемость клеток двух разных субпопуляций при одинаковой длительности митотической задержки, одинакова, т.е. если Т™д'ржт(Ох) = Т"держкиф2), то 8[(П[) = Я2(02); здесь Я, (£>,)- выживаемость клеток /'-ой субпопуляции при облучении дозой 0;.

Значения большинства параметров модели получены из независимых измерений или предположений. Для оставшихся неопределенными параметров модели !; =(ц,у™ах,у™ах,5,.?/,,57-|) решали задачу идентификации параметров. Задача идентификации при этом формулируется как задача поиска минимума функционала правдоподобия определяемого простой дифференциальной подзадачей для системы уравнений модели. Для решения задачи минимизации на множестве 0'={у™" е(0516,0.96), уе(у, 1 -у); ц>0; 5 > 0; в,, > 0; 5Г, > О} применяли метод вращения осей Розенброка (модифицированный метод покоординатного спуска). Для подбора параметров модели были использованы шесть экспериментальных кривых поведения клеточной популяции после облучения на временном промежутке [0, 120] ч с шагом 1 ч. Результаты сравнения двух из шести использованных кривых экспериментальных данных и соответствующих модельных кривых для оптимального вектора параметров \ показаны на рис. 3 и рис. 4 .

В разделе 4.2 проведен качественный анализ нелинейной системы (4), описывающей модель динамики клеточной популяции эпителия крипты и ворсинки после облучения. Для системы (4) доказаны:

Время после облучения, ч

Рис. 3. Сравнение экспериментальных данных (пунктирная линия) и результатов моделирования для оптимизированного вектора параметров ^ (сплошная линия) для пролиферирующих клеток крипты после облучения в дозе 9 Гр

Время после облучения, ч

Рис. 4. Сравнение экспериментальных данных (пунктирная чиния) и результатов моделирования для оптимизированного вектора параметров \ (сплошная линия) для клеток ворсинки после облучения в дозе 8 Гр

Лемма 4.1. Переменные системы (4) имеют те же значения равновесия, что и

соответствующие им переменные системы (1); Теорема 4.1. Положение равновесия нелинейной системы (4) асимптотически устойчиво (рассматриваем частный случай для коэффициентов, подобранных в разделе 41)

В работе приведены графики поведения решений системы (4) при разных уровнях облучения от 0 до 9 Гр, полученных методом Рунге-Кутга с помощью математического пакета Mathcad 2001 Professional, на которых хорошо видна сходимость значений всех переменных к соответствующим им значениям равновесия на всем исследуемом дозовом интервале (см.пример на рис.5).

В разделе 4.3 показана возможность применения модели для исследования репарационных процессов, происходящих в клеточной популяции эпителия при различных режимах фракционного облучения (обычный курс фракционного облучения, ускоренная фракцинация, гиперфракцинация, разделенный курс фракционного облучения). Описан алгоритм подсчета численности клеток при воздействии на клеточную популяцию фракционного облучения и показано его действие на примере конкретных схем облучения.

В Заключении сформулированы основные выводы и результаты работы.

ли.4

16 ■ 12 8 ■

96

3.2 О

120

Я

9

Рис. 5. График зависимости количества стволовых клеток от доты облучения и времени после обработки

В диссертации получены следующие основные результаты:

1. На основе кинетического подхода с использованием аппарата дифференциальных уравнений построена модель дозово-временной зависимости динамики клеточной популяции эпителия тонкой кишки, описываемая нелинейной системой дифференциальных уравнений 17-го порядка с кусочно-непрерывными коэффициентами. Модель показывает хорошее соответствие эксперимешальным данным в дозовом интервале от 0 до 9 Гр.

2. В отличие от большинства моделей, использующих только один из двух предполагаемых механизмов обратной связи, действующих между субпопуляциями клегок разных типов, в построенной модели учитываются оба механизма (регуляция на уровне стволовых и зрелых клеток), что дает лучшее соответствие экспериментальным кривым. Кроме того, учитывается наличие в криптах тонкой кишки клоногенных клеток - фанзитные клетки 1 -го поколения рассматриваются как клетки, способные в случае больших потерь в численности популяции проявлять клоногенные способности.

3. Проведена идею ификация параметров модели на примере экспериментальных данных для стандартной лабораторной ВОР I мыши возрастом 12-14 недель.

ОСНОВНЫЕ ВЫВОДЫ И РЕЗУЛЬТАТЫ РАБОТЫ

4. Проведено качественное исследование модели. Сформулирована и доказана теорема об асимптотической устойчивости ненулевого положения равновесия системы. Графически показана сходимость (при выбранных параметрах модели) значений всех переменных к соответствующим им значениям равновесия во всем исследуемом дозовом интервале.

5. Установлена связь между длительностью митотической задержки и уровнем выживаемости делящихся клеток. Проведен сравнительный анализ разных моделей клеточной выживаемости применительно к данной клеточной популяции.

6. В векторе начальных условий модели дается возможное 1ь учета индивидуальных особенностей организма на момент облучения.

7. Построенная модель позволяет исследовать дозово-временную динамику апоптических и некротических клеток.

8. Модель может быть использована для изучения динамики клеточной популяции эпителия тонкой кишки при различных режимах фракционного облучения и выбора наиболее благоприятного для нормального функционирования популяции режима облучения (величина дозы на фракцию, время между фракциями).

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ:

1. Токин И.Б., Толстая М.В., Токин И.И., Филимонова Г.Ф. Кишечный эпителий: процессы пролиферации, регуляции и апоптоза. Математические модели. - СПб.: Изд-во С.-Петербургского университета, 1997. - 80 с.

2. Толстая М.В. К проблеме моделирования клеточной популяции. // Тез. докл. 3-й Российской университетско-академической научно-практической конференции. Часть 6, Ижевск: ИЗО Удмуртского ун-та, 1997. - С.135-136.

3. Толстая М.В. Реакция клеточной популяции на радиационное облучение // Тр. XXXII научной конференции студентов и аспирантов факультета ПМ-ПУ "Процессы управления и устойчивость". - СПб.: ООП НИИ Химии СП61-У, 2001. - С.214-218.

4. Tolstaya M.V. Model of crypt and villus cell population kinetics in the small intestine after irradiation // Abstracts Intern. Symposium on Radiation and Homeostasis. - Kyoto, 2002. - P. 12.

5. Tokin I.B., Tolstaya M.V. Mathematical modelling of intestinal epithelium under the irradiation // Proc. Shanghai Intern. Conf. on Physiological Biophysics. -Shanghai, 2004. - P.75-77.

Отпечатано копировально-множительным участком отдела обслуживания учебного процесса физического факультета СПбГУ. Приказ № 571/1 от 14.0S.03. Подписано в печать 13.05.05 с оригинал-макета заказчика. Ф-т 30x42/4, Усл. печ. л. 1. Тираж 100 экз., Заказ № 232/с 198504, СПб, Ст. Петергоф, ул. Ульяновская, д. 3, тел. 428-43-00.

»10992

РНБ Русский фонд

2006-4 13896