автореферат диссертации по информатике, вычислительной технике и управлению, 05.13.18, диссертация на тему:Тестирование распределений в зависимости доза-эффект

На правах рукописи

'Щ<

Криштопенко Дмитрий Сергеевич

ТЕСТИРОВАНИЕ РАСПРЕДЕЛЕНИЙ В ЗАВИСИМОСТИ ДОЗА-ЭФФЕКТ

Специальность 05.13.18 -Математическое моделирование, численные методы и комплексы программ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

- 9 ЛЕН 2010

Нижний Новгород - 2010

004616885

Работа выполнена в Нижегородском государственном университете им. Н.И. Лобачевского.

доктор физико-математических наук, профессор ННГУ, кафедра Прикладной теории вероятностей, г. Н. Новгород Тихов Михаил Семенович

доктор физико-математических наук, профессор БГУ, кафедра Теории вероятностей и математической статистики, г. Минск, Беларусь Труш Николай Николаевич

доктор физико-математических наук, профессор ННГУ, кафедра Математического моделирования экономических систем, г. Н. Новгород Кузнецов Юрий Алексеевич

Ведущая организация: Институт Прикладных Математических Исследований Карельского научного центра РАН, г. Петрозаводск

Защита состоится 24 декабря 2010 г. в 14:40 на заседании Диссертационного Совета Д 212.166.13 при Нижегородском Государственном Университете им. Н.И. Лобачевского по адресу: 603950, Нижний Новгород, проспект Гагарина, 23.

С диссертацией можно ознакомиться в библиотеке Нижегородского Государственного Университета им. Н.И. Лобачевского.

Автореферат разослан «"¡}> » 14(ШИ/!<Х._2010 г.

Научный руководитель:

Официальные оппоненты:

Ученый секретарь диссертационного совета кандидат физико-математических наук доцент ^ / /О

Савельев Владимир Петрович

Актуальность темы исследования. Во многих областях медицины и биологии (фармакологии, токсикологии, радиобиологии, биохимии и др.) фундаментальной проблемой является изучение механизмов действия лекарственных средств, токсических веществ, ионизирующей радиации на биологические, экологические объекты. Наиболее востребовано решение данной проблемы в фармакологии при создании новых лекарственных средств (т.е. фармакологических средств, прошедших клинические испытания), поэтому при разработке новых лекарств анализ связи между дозой и эффектом и их количественное определение имеет большое значение для практики. Несмотря на то, что спектр проявлений токсического процесса определяется строением токсиканта, тем не менее, выраженность развивающегося эффекта является функцией количества действующего агента. Для обозначения количества вещества, воздействующего на биологический объект, используется понятие «доза». Под дозой понимается некоторое количественное значение агента (фактора), изменяющее состояние исследуемого объекта, а под эффектом - наблюдаемый качественный (альтернативный) или количественный отклик объекта на введенную дозу. В некоторых случаях, например, при статистической оценке возраста менархе или возраста менопаузы, когда фиксируется возраст пациента и наличие или нет интересующего нас события, отсутствует понятие дозы, в вышеопределенном смысле, тем не менее, задача оценки возраста менархе или оценки возраста менопаузы укладывается в рассматриваемую в диссертации модель доза-эффект и может быть решена предложенными в ней методами.

Основу решения проблемы количественного оценивания связи между наблюдаемым эффектом и введенной дозой составляет способ построения и анализа функции эффективности по результатам наблюдаемых данных: введенной дозы и наличия или отсутствия эффекта, по которым можно вычислить, например, среднеэффективную дозу ££>50 (доза препарата ЕО50 дает эффект в 50% случаев), а также другие дозы ЕВа, 0 < а < 100. На современном этапе в токсикометрии востребованными являются величины доз, которые вызывают появление эффекта, учитываемого в экспериментальной группе тест-объектов с заданной вероятностью 0,01; 0,05; 0,1; 0,16; 0,5; 0,84; 0,9; 0,95; 0,99. Такие дозы получили название доз ЕП{, ЕВ5, £Д0, £Д6, £084,£0да, ЕБд¡, £ЦМ. Поэтому как среднеэффективная доза ЕОьа, так и другие категории доз: малые (£0,, Ей}, £Х>|0, ЕВХ6) и большие дозы (ЕВи,ЕО90, ЕБ95, ЕИ99), должны в полной мере отвечать максимально жестким критериям корректности, надежности, адекватности и состоятельности. В предложенной диссертации нас интересует проблема нахождения функции эффективности, под которой мы будем понимать зависимость вероятности наблюдения эффекта от воздействия данного значения введенной дозы ('зависимость доза-эффект) по результатам наблюдений и статистические выводы, касающиеся найденной функции эффективности.

Для построения функции эффективности и расчета ED}0 обычно применяется официальная методика пробит-анализа в модификациях Литчфилда-Вилкоксона и Финни (включена в Фармакопею СССР, 1987). Иногда для оценки среднеэффективных доз (называемых также медианными эффективными дозами) используются модели бинарного выбора как замена линейной модели нелинейной (в основном используются пробит- и логит-модели, т.е. нормальная или логистическая функции распределения). В некоторых случаях для построения ФЭ используется сплайн-интерполяция. Однако как при пробит-анализе, так и при использовании других моделей, например, модели бинарного выбора эти функции распределения рассматриваемых случайных величин аппроксимируются линейными функциями, но только в окрестности медианы, ценой больших ошибок на краях распределения, особенно если реальная модель распределения отличается от нормального или логистического распределений. Кроме того, при практической реализации пробит-анализа или его модификаций отсутствует возможность проведения единичных испытаний, эти методы ориентируются, в основном, на оценку среднеэффекгивной дозы EDS0 или близкой к ней и не позволяют состоятельно оценивать малые (ED¡, EDS, EDi0, EDl6) или большие (EDM, ED90,EDgs,EDin) дозы, а эти дозы являются востребованными для практических нужд при оценке количества антидота, где требуется умение адекватно определять указанные уровни доз; для оценки границ безопасности или терапевтического индекса препарата, (ввиду того, что эти границы является эффективными дозами EDa для небольших значений 0<а<10). В ряде случаев, например, при исследовании эффектов сверхмалых доз характерны немонотонные функции эффективности, а пробит-анализ или модели бинарного выбора не позволяют оценивать такие ситуации.

Ввиду того, что случайная величина - минимальная граница, с которой начинается реакция организма, ненаблюдаема, мы не можем использовать эмпирическую функцию распределения для оценки категорий эффективных доз, поэтому в работах: Криштопенко C.B., Тихое М.С, Попова Е.Б. Токсикометрия эффективных доз, 1997; Парадоксальная токсичность, 2003; Доза-эффект, изд-во Медицина, 2008, был предложен метод, который задачу оценки функции эффективности (функции распределения) сводит к задаче оценивания функции регрессии с использованием непараметрических (ядерных) оценок регрессии. Это позволяет по результатам единичных испытаний оценивать среднеэффек-тивную дозу ED50 не хуже, чем методы пробит-анализа, а малые и большие дозы, близкие к 0% или к 100%, оценивать эффективнее, чем с помощью пробит-анализа. Метод, предложенный в работах, Криштопенко C.B. и Тихова М.С. позволяет оценивать и немонотонные функции эффективности.

В первой главе диссертации строится математическая модель зависимости доза-эффект, адекватная условиям воздействия вещества на организм человека, и рассматривается как задача статистического анализа для случая прямых и непрямых наблюдений, т.е. когда вводимая в организм доза измеряется с некото-

рой ошибкой, а реакция организма (эффект) идет на «чистую» вводимую дозу, что отличает ее от подхода Криштопенко C.B. и Тихова М.С. Рассмотрены также случаи фиксированного плана (вводимая доза выбирается заранее и является неслучайной величиной) и случайного плана эксперимента (вводимая доза является случайной величиной). Таким образом, рассмотренные постановки охватывают широкий спектр разнообразных практических ситуаций в проблеме доза-эффект. Если задачи оценки плотности для свертки распределений рассматривались и исследовались в литературе (Parzen Е. On estimation a probability density function and mode. - Ann. Math. Statist. 1962, v. 33, No.3, p. 1065-1076; Rozenblatt V. Remarks on some nonparametric estimates of a density function. -A nn. Math. Statist. 1956, v. 27, No.3, p. 832-837), то задача оценки функции распределения в модели непрямых наблюдений в зависимости доза-эффект рассмотрена впервые. Предложенная модель дает возможность использовать для решения проблем дозозависимых эффектов весь набор мощных средств математической статистики. Построена математическая модель, которая дает возможность решать задачи проверки гипотез и построения соответствующих критериев - задачи, которые ранее не рассматривались в зависимости доза-эффект.

Задача асимптотического поведения непараметрических оценок функции peipecHH была изучена впервые в работе Конакова В.Д. Об одной глобальной мере отклонения оценки линии регрессии. - Теор. вероятн. и ее примен., 1977, Т.22, в.4, с.879-891, где была доказана асимптотическая нормальность интегрированной квадратичной ошибки (ИКО) с весовой функцией, равной квадрату плотности, для статистики Надарая-Ватсона (Надарая Е.А. Об оценке регрессии. — Теор. вероятн. и ее примен., 1964, т. 9, с. 157-159; Watson G.S. Smooth regression analysis. Sankhya, 1964, v. 26, p. 359-372). Доказательство В.Д. Конакова опиралось на асимптотические свойства эмпирических процессов. П. Холл (Hall Р. Central limit theorem for integrated square error properties of multivariate nonparametric density estimators. - J. Multivariate Anal., 1984, v. 14, p. 1-16), используя центральные предельные теоремы для мартингалов и вырожденных {/-статистик, доказал асимптотическую нормальность как для точечных квадратичных ошибок, так и для интегрированных квадратичных ошибок на базе статистик Надарая-Ватсона в ¿2-норме уклонения при более слабых ограничениях, чем в работе Д. Конакова.

Мы рассматриваем и исследуем асимптотическое поведение интегрированных квадратичных ошибок (ИКО) оценок в зависимости доза-эффект в L2~ норме с весом, как для прямых, так и для непрямых наблюдений, как при проверяемой гипотезе, так и при альтернативах, что отличается от постановок В.Д.Конакова и П.Холла. На основе полученных теоретических результатов нами построены конкретные тесты для проверки гипотез согласия и однородности в зависимости доза-эффект. Если у Конакова и Холла в качестве меры отклонения использовалась только ИКО, то в диссертации в качестве мер отклонения мы рассматриваем также суммируемые квадратичные уклонения (СКУ). Это связано с тем, что при компьютерной реализации критериев про-

5

верки гипотез в некоторых случаях предпочтительней рассматривать СКУ вместо ИКО. На основе асимптотических распределений СКУ и ИКО (на базе статистик типа Надарая-Ватсона и асимптотически несмещенных оценок) мы строим статистические критерии проверки гипотез согласия и однородности двух выборок в рассматриваемых математических моделях зависимости доза-эффект. Такие задачи для исследуемой в диссертации постановки являются новыми. Новыми являются и полученные результаты.

При изучении вопросов, связанных с конкретным применением критериев проверки гипотез согласия и однородности, возникает проблема выбора оптимального значения параметра сглаживания, который присутствует в рассматриваемых оценках функции эффективности. Решением этой проблемы в диссертации является адаптивный алгоритм кросс-проверки выбора параметра сглаживания. В условиях каждой из рассматриваемых ситуаций он является состоятельным и приводит к асимптотически нормальным оценкам оптимального значения параметра сглаживания.

Цели и задачи исследования. Целью диссертационной работы является разработка статистических критериев согласия проверки гипотез о виде неизвестной функции распределения, однородности двух выборок и монотонности функции эффективности в зависимости доза-эффект, анализ результатов их практического применения по реальным данным. Задачами исследования являются:

1) построение и анализ статистических критериев проверки гипотез согласия о виде функции эффективности и однородности двух выборок на основе асимптотического поведения теоретически построенных ИКО и СКУ и применение тестов для анализа реальных данных;

2) разработка алгоритма оптимального выбора параметра сглаживания в построенных критериях и рассматриваемых оценках функции эффективности;

3) построение критерия проверки гипотезы о монотонности неизвестной функции эффективности и его применение для анализа реальных данных;

4) исследование свойств построенных критериев численными методами при альтернативных гипотезах;

5) создание ActiveX компонента, позволяющего строить оценку функции эффективности, проверять гипотезу о виде ФЭ и гипотезу о монотонности ФЭ в диалоговом режиме и который может быть использован для написания плагинов для MatLab и др. математических пакетов.

Объект исследования. Объектом исследования являются математические модели зависимости доза-эффект и критерии проверки гипотез согласия и однородности. В качестве примера применения полученных результатов анализируются реальные данные, взятые из работы C.B. Криштопенко и др. Доза-эффект. М.: изд-во Медицина, 2008, с. 285 о результатах клинической эффективности аллок-сима в комплексном лечении отравлений фосфорорганическими инсектицидами. Методы проведенного исследования, достоверность и обоснованность результатов. Для доказательства теоретических результатов диссертационной

работы использовались методы теории вероятностей, математического и функционального анализа, теории мартингалов и распределений {/-статистик, классические и функциональные предельные теоремы, методы имитационного моделирования. Инструментом исследования являются асимптотические методы математической статистики и численные методы компьютерного моделирования, а также асимптотические методы математического и функционального анализа. Достоверность полученных результатов подтверждается корректностью разработанных математических моделей, использованием фундаментальных результатов математической статистики, строгостью рассуждений, адекватностью полученных теоретических результатов с экспериментальными данными, а также с результатами численного моделирования.

Научная новизна н научная значимость полученных результатов.

Все основные результаты диссертационной работы являются новыми и впервые опубликованы в работах диссертанта.

Впервые рассмотрена задача проверки гипотез согласия, однородности и монотонности в зависимости доза-эффект. Построены критерии проверки гипотез согласия о виде функции эффективности, однородности двух выборок. Разработан алгоритм выбора параметра сглаживания, минимизирующий СКУ на базе рассматриваемых оценок. Построен критерий монотонности неизвестной функции эффективности на основе комбинации прямой и обратной оценок, который применен для анализа реальных данных {C.B. Криштопенко и др. Доза-эффект. М.: изд-во Медицина, 2008, с. 285) о проведенных испытаниях аллок-сима в комплексном лечении острых отравлений фосфорорганическими инсектицидами. Численными методами показано, что мощность построенных критериев не ниже 0.3 при уровне значимости 0.05 для реальных данных. Создан ActiveX компонент, позволяющий строить оценку функции эффективности, проверять гипотезу о ее виде и гипотезу о монотонности ФЭ по построенным критериям.

Основной теоретический результат состоит в получении асимптотических распределений ИКО и СКУ рассматриваемых статистик для построения критериев согласия проверки гипотез о виде функции эффективности и гипотезы однородности двух выборок при фиксированном и случайном планах эксперимента для прямых и непрямых наблюдений, а также критерия проверки строгой монотонности неизвестной функции эффективности в рассматриваемых математических моделях по исходным статистическим данным. Практическая значимость полученных результатов.

В токсикометрии важное значение отводится методам определения эффективных доз, так как они являются теми решающими факторами, от которых зависит способ планирования экспериментов, порядок формирования и объем исходных данных, а в конечном итоге качество, эффективность и достоверность искомых показателей токсичности. По этим признакам проблему токсикометри-ческой оценки показателей токсичности можно рассматривать как важнейшую

проблему теоретической токсикологии, имеющей прикладное значение для различных разделов биологии и медицины.

Результаты, полученные в диссертационной работе, были применены для анализа поведения неизвестной функции эффективности и проверки адекватности исходных данных, полученных в результате проведенных испытаний аллок-сима в комплексном лечении острых отравлений фосфорорганическими инсектицидами (С.В. Кригитопенко и др. Доза-эффект. М.: изд-во Медицина, 2008, с. 285). Были обработаны результаты исследований чувствительности к адреналину у людей по теслу капельной накожной пробы (С.В. Кригитопенко, М.С. Тихое, Е.Б. Попова. Парадоксальная токсичность, НГМА, 2001, с. 163).

Показано, что применение построенного критерия однородности для гипотезы о принадлежности двух выборок к одному предельному распределению приводит к тому, что данная гипотеза не отвергается при уровне значимости 0,05. Это дает основание объединить результаты двух экспериментов и по двум выборкам построить одну функцию эффективности, для которой был применен критерий проверки монотонности.

Теоретические результаты, полученные в диссертационной работе, могут быть использованы при планировании клинических испытаний новых лекарственных средств и анализа эффективности их действия, а также в курсах математической и прикладной статистики.

На защиту выносятся:

• Математическая модель как статистическая проблема проверки гипотез согласия, однородности и монотонности в зависимости доза-эффект.

• Критерии проверки гипотез согласия о виде функции эффективности, однородности двух выборок, их асимптотические свойства, а также численные исследования мощности построенных критериев.

• Алгоритм выбора параметра сглаживания и его асимптотические свойства.

• Критерий монотонности неизвестной функции эффективности на основе комбинации прямой и обратной оценок.

• ActiveX компонент, позволяющий строить оценку функции эффективности, проверять гипотезу о ее виде и гипотезу о монотонности функции эффективности по экспериментальным данным с использованием построенных критериев в диалоговом режиме.

Основной теоретический результат состоит в получении асимптотических распределений ИКО и СКУ, на базе которых строятся критерии согласия проверки гипотез о виде функции эффективности, критерий проверки гипотезы однородности двух выборок, а также критерий проверки строгой монотонности неизвестной функции эффективности.

Апробация результатов. Основные результаты диссертации докладывались на: V международной конференции «Предельные теоремы теории вероятностей и их приложения» (Ташкент, 2005 г.); 12-й Всероссийской школе-коллоквиуме по стохастическим методам (ВШКСМ) (Сочи, 2005); 9,h International Vilnius Conference on Probability Theory and Mathematical Statistics (Vilnus, 2006); 7-м Bcepoc-

сийском симпозиуме по прикладной и промышленной математике (ВСППМ) (Йошкар-Ола, 2006); XVII всероссийской научно-технической конференции «Современные проблемы математики и естествознания» (Н. Новгород, 2007); Международной междисциплинарной научной конференции «Синергетика в естественных науках» (Тверь, 2007); XIV международной конференции «Математика. Компьютер. Образование» (Пущино, 2007); III межвузовской научно-практической конференции «Математическое моделирование и информационные технологии в сфере обслуживания потребителей» (Сочи, 2007); XII International Conference on Applied Stochastic Models and Data Analysis (Greece, Chania, 2007); 8-й международной междисциплинарной научно-практической конференции «Современные проблемы науки и образования» (Алушта, 2007); XX международной научной конференции «Математические методы в технике и технологиях» (Ярославль, 2007); 8th International Conference «Computer Data Analysis and Modeling» (Minsk, 2007); 14-й Всероссийской школе-коллоквиуме по стохастическим методам (Адлер, 2007); IV всероссийской научно-практической конференции «Актуальные задачи математического моделирования и информационных технологий» (Сочи, 2008); Международной научной конференции «Современные проблемы математики, механики и информационных технологий» (Ташкент, 2008); XVI международной конференции «Математика. Компьютер. Образование» (Пущино, 2008); International Science Conference «Probability Theory, Random Processes, Mathematical Statistics and Applications» (Minsk, 2008); 7-й Международной конференции «Вероятностные методы в дискретной математике» (ВМДМ) (Петрозаводск, 2008 г.); 15-й Всероссийской школе-коллоквиуме по стохастическим методам (Волгоград, 2008 г.); Международной научной конференции «Вычислительные технологии и математическое моделирование» (Ташкент, 2009); IV всероссийской научной конференции «Проектирование инженерных и научных приложений в среде MATLAB» (Астрахань, 2009); Международной научной конференции «Теория вероятностей, случайные процессы, математическая статистика и приложения» (Минск, 2010).

Диссертация докладывалась на научных семинарах кафедры прикладной теории вероятностей и кафедры теории статистических решений ННГУ им. Н.И. Лобачевского.

Структура и объем диссертации. Работа состоит из введения, шести глав, заключения, списка литературы и приложений. Основное содержание изложено на 149 страницах машинописного текста и иллюстрировано 16 рисунками. Список литературы содержит 129 наименований. Опублнкованность результатов и личный вклад соискателя.

Результаты диссертации опубликованы в 30 работах [1-30], из них 9 работ [1-9] - в журналах из списка ВАК, одна из которых выполнена без соавторов (журналы «Обозрение Прикладной и Промышленной Математики», «Нелинейный мир», «Вестник Нижегородского университета им. Н.И. Лобачевского»), 3 работы [11], [13], [25] в рецензируемом межвузовском сборнике научных тру-

дов «Статистические методы оценивания и проверки гипотез», одна работа [20] в журнале «Computer Modeling and New Technologies» (Latvia, Riga), 20 работ в материалах международных и всероссийских конференций. В совместных работах [1-5, 7-20, 22-30] автору принадлежат полученные в ходе исследования результаты, соавтору - идея работы, а также формулировка и постановка задач. Содержание диссертации.

Во введении показана актуальность задач оценки функции эффективности и межлабораторного сравнения в зависимости доза-эффект. Сформулированы цели и задачи исследования, отмечена научная новизна работы.

В разделе 1.1 главы 1 строится математическая модель зависимости доза-эффект при фиксированном и случайном планах эксперимента для прямых и непрямых наблюдений, которая основана на предположении, что существует некоторая ненаблюдаемая граница X, при повышении которой у тест-объекта проявляется положительный эффект. Если же уровень вводимого вещества ниже этого порога, то эффект отсутствует. Пусть U - введенная доза, a W — наблюдавшийся у тест-объекта эффект. Если испытанная доза больше гипотетической, т.е. U > X, то регистрируется положительный эффект, если U <Х ,то эффект отсутствует. Таким образом, показатель эффекта W служит индикатором события U > X.

Часто из-за несовершенства измерительных приборов на дозу U накладывается некоторая ошибка, т.е. вместо U мы наблюдаем величину Y - реально измеренную дозу. Эта ошибка может накладываться аддитивно, тогда

Y = U + е, где U и £ - независимы, и £ имеет, например, нормальное распределение N(0, стЦ) с некоторой дисперсией (известной или нет).

Таким образом, мы рассматриваем случайную величину X с неизвестной функцией распределения F(x) и плотностью распределения /(х) > 0, а величина U может быть как случайной, так и неслучайной. Если U - случайная величина, то предполагается, что ее функция распределения неизвестна и равна G(x), а плотность g(x) > 0. Тогда эффект W = I(X < U) есть индикатор события (X < U). Мы будем рассматривать также ситуации, когда Р(е = 0) = 1, т.е.

Y = U, как крайний случай нашей модели - этот случай мы будем называть прямыми наблюдениями фиксированного или случайного плана. Нашей основной задачей будет следующее:

1) оценить по выборке (y,,w,), (y2,w2), (y„,wn) или по выборке (t/,,w,'), (u2,w2), ..., (u„,wn) состоятельно (и по возможности эффективно и несмещенно) неизвестную функцию эффективности F(x) = Р(Х < U | U = х);

2) решить задачу межлабораторного сравнения: если мы имеем две выборки объемов щ и пг и считаем, что в общем случае эти две группы имеют функции эффективности Fx(x) и F2(x), то требуется ответить на вопрос: имеют ли они одну и ту же функцию эффективности?

Мы различаем случаи:

1) Прямые измерения - измерение проводится без ошибок и измеренная доза есть введенная доза и.

1а) 1/ - неслучайная величина (фиксированный план эксперимента). 16) и - случайная величина (случайный план эксперимента).

2) Непрямые измерения — измерение проводится с некоторой ошибкой, накладываемой аддитивно, т.е. У = 11 + е, а реакция организма идет на вводимую дозу. В общем случае мы считаем, что есть пара величин (К,£/) с условной плотностью распределения ц{у\и). В этом случае будем считать, что маргинальная плотность распределения случайной величины У равна д(у), а совместная плотность (У,I/) равна ¿(у,и). Если У=[/ + £, то д(у | и) = д(у - и).

Если величины X и и независимы, то F(x) = Р(Х < х), т.е. функция эффективности является функцией распределения случайной величины X. Далее под функцией эффективности £(х) мы будем понимать функцию распределения, специально оговаривая случай, когда X и С/ зависимы. Таким образом, под функцией эффективности мы понимаем условную вероятность Р(х) = Р(Х < и | и = х), которая может быть немонотонной.

Суть предложенного в диссертации метода состоит в том, что на основе построенной модели задача оценки функции эффективности и проверки гипотез сводится к указанным задачам относительно функции регрессии. В качестве оценок функции эффективности мы рассматриваем следующие статистики. Пусть 1/2<а<1 - некоторое заданное число, К(х) - ядерная функция (ядро), А = к(п) > 0 - неслучайная последовательность, сходящаяся к нулю при п —> со. Для случайного плана мы возьмем статистики

$,„,(*) АЛ*)

2Л) пН% ' I А I Л

Для фиксированного плана в качестве оценок функции эффективности мы рассматриваем только числители ^2п11(х) и А$1п(х).

В разделе 1.2 формулируются основные предположения, при которых рассматриваются эти модели.

Пусть \\К( = \К2(х)сЬс, V2 = \х2К(х)с1х и = |»).

Для фиксированного плана эксперимента (Ц. = и, - неслучайная величина) предполагаем, что шах) и, - им ¡= О (»Г1), при п со.

Предположения (Н).

Последовательность Л = /¡(и) такова, что А 0, п1г2 -> оо при л оо. Предположения (К).

Функция .йГ(х)>0 является четной, ограниченной, финитной (К(х) — 0 для

+00

хй[-1,1]), непрерывной на Я, ||АТ| <со, = 1, у2 <со, К{х) на [-1,1]

-00

имеет конечную вариацию. Условия (Ь).

Производная плотности /'(*) есть непрерывная функция, причем

+00

|(/'(;с))2£&<оо, а вторая производная /"(*) непрерывна и ограничена на Л,

-00 +да

|(/'(х))4с6с<со, двумерная плотность ¿(у,и) пары случайных величин (У,С/)

—00

имеет вторые непрерывные ограниченные производные на Дг.

Предположения (А). Весовая функция а (х) есть ограниченная неотрицательная финитная функция на Л; ¡а>2(х)ск<оо; \щ'(х)\<М < <х> для хеЯ.

В разделах 13 и 1.4 производятся асимптотические разложения рассматриваемых оценок при случайном и фиксированных планах эксперимента соответственно, на базе оценок Надарая-Ватсона, а затем проводится анализ главных членов этих разложений и асимптотически несмещенных оценок (их еще называют л/пй—состоятельными оценками), строятся критерии проверки гипотез согласия и однородности. В качестве меры отклонения используются интегрированная квадратичная ошибка (ИКО) для оценок Рп(х) и АРп (х):

-ню -ю

К = I (ад-ВД1^)«!*, А1Я =

где й)(х) - весовая функция, которая удовлетворяет условиям (А).

Другая рассматриваемая мера отклонения - сумма квадратичных уклонений (СКУ) в указанных точках XJ, у' = 1,...,т, для оценок Р„(х) и АГп(х):

^"'¿(ад-^,))2^), AS„,m ^m-'fjAFSx^-FiXjtfoiXj).

М 7=1

На базе асимптотических распределений ИКО и СКУ мы строим критерии проверки гипотез согласия и однородности двух выборок.

В главах 2 и 3 исследуется вопрос об асимптотическом распределении ИКО и СКУ для случаев прямых и непрямых наблюдений. В главе 2 рассматривается фиксированный плана эксперимента, а в главе 3 - случайный план. В качестве оценки неизвестной функции эффективности рассматривается статистика Надарая-Ватсона и асимптотически несмещенная оценка. Показано, что для фиксированного и случайного планов эксперимента ИКО и СКУ рассматриваемых оценок функции эффективности имеют асимптотически нормальное распределение. Приведем основные результаты для случая прямых наблюдений фиксированного плана эксперимента.

Теорема 2.1.1. При условиях (К), (L), (Н) и (А) и в предположении h О, nh -> оо при и —► оо. Если nhs —> Я, то

П-*ао

+00

где с{п) = ¡E(Fn (je) - F{x))2 co{x)dx,

—оо

er,2 = (l/4)u4 |F(x)(l - F(x))(f'(x))2 co\x)dx< «>,

■HO 2

(j32=2 \F1{x)(\-F(x))1co1{x)dxJWv( ¡K(u)K(u + v)du) .

-00

Теорема 2.1.2. При условиях (К), (L), (Н) и (А) и в предположении Л О, и/г5 —»Я при п —>оо, если s(y,u) имеет 4-ые производные, которые ограничены и непрерывны на R2, то

■wo

где Ь(п)= JE(AF„(x)-F(x)fa>(x)dx.

-оо

Теорема 2.1.3. При условиях (К), (L), (Н) и (А), при h -» 0, п -> оо и фиксированном т имеем: если nhs —> Л, то

«4/5СЯ,т-cJn))-^N(0,U1/5a?

л-КС'

где cm{n) = -fiE(F„{xj) - F(Xj))2a (х,), т

2 _У

-1 F(xj )(1 - F(xj ))(f'(Xj ))V (*,-)< со.

y=l

n m

^ ))2 (Xj ) V" + v)dudv.

m j=i

Теорема 2.1.4. При условиях (К), (L), (H) и (A) и в предположении h -» О, «Л5 —>Л при п —>оо « фиксированном т, если s (у,и) имеет 4-ые производные, которые ограничены и непрерывны на R1,

о

где 6» =15вд,(ху)- F(Xj)fm (х,). m j=1

Соответствующие результаты имеют место для случая прямых наблюдений и случайного плана эксперимента.

Теорема 3.1.1. При условиях (К), (А), (Н) и (L) и в предположении /г —> 0, nh2 —> оо при п —> оо и если nhs -+Л,то

п—ко

где ст2 =^-(j{g"(x)}2F3(x)g-3(x)(4 + F(x))«2(X)c& +

+ j{m"(x)}2 F(x)g"3 (x)(4F(x) +1 )a>2 (x)dx -

- 5( Jg'(x)F2(x)g-1 (x)co(x)dxf - 5(Jm"(*)F«fr4(*Mx)dxf ),

ai = 2 JF\y)(F(y) +1 )2g-\y)w\y)dy fdi( \K{u + V)K(y)dvf,

c(n)= \E(Fn(x)-F(x))2<0(x)dx= ¡{F(x)ESl„h(x)-ESl^(x))2g-2(x)co(x)dx +

+ n-xh-\Kf |F(x)g-' (x)(l - F(x))cù(x)dx. Теорема 3.1.2. При условиях (К), (А), (H) и (L) и в предположении А -> О, nh5 —>Л при /7-»со, если s(y,u) имеет 4-ые производные, которые ограничены и непрерывны на R2, то

л—-КС

где Ь{п) = \E{AFn (х) - F(x)f co(x)dx.

Теорема 3.2.1. При условиях (К), (А), (Н) и (L) и в предположении й —> О, nh2 —> оо при л —» оо и фиксированном m и если nhs —> Л, то «4/5(^-k(n))-^N(Q,U)l5al

где сгь =

mi2

4 /и2

¿¡j )}2 (xj )g~3 (xj )(4 + F (х;- ))<а2 (х;. ) -14

-5 )£-'(*,>(*,) -5 Ж*,)£-'(*,>(*,)

ч^1 ) V»

+ £{'я"(дг/)}2^у)г"3(*уХ4Ялгу) +1 )о>\х{) < = + 1)^-2(х;)а2(Х;) \с!и( ¡К(и + м)К(г)^]1,

У-1

'/я"1 ||Л!|2 (хД1- (х,).

•Н

Теорема 3.2.2. При условиях (К), (А), (Н), (Ь) и в предположении Л —> О, и А5 —> Л при п —> оо и фиксированном т, если ${у,и) имеет 4-ые производные, которые ограничены и непрерывны на Я1, то

П—НО

где =

т _/=1

Из этих теорем следует, что при одних и тех же условиях эксперимента, скорость сходимости к своим предельным распределениям у ИКО выше, чем у СКУ, для каждой оценки при одном и том же значении параметра сглаживания.

В главе 4 рассматривается задача априорного выбора оптимального значения параметра сглаживания А, который присутствует в рассматриваемых оценках функции эффективности. Предложен адаптивный алгоритм кросс-проверки выбора параметра сглаживания для каждого рассматриваемого случая. Алгоритм:

1) по результатам наблюдений (г/,, и>,), (г/2, и>2),..., (г/п, ) вычисляем оценку:

2) формируем функцию кросс-проверки:

= - и-.) V«,),

" у»!

где некоторая весовая функция, удовлетворяющая условиям (А).

3) определяем оптимальное значение И: Н = аг§гшп(СГ(/!)).

Показано, что данный алгоритм является состоятельным и приводит к асимптотически оптимальному значению h0. Кроме того, оценка Н параметра сглаживания является асимптотически нормальной, т.е. -ha)—?—>N(0,cr*).

П-+00

В приложении П1 построен и исследован статистический критерий проверки гипотезы о монотонности неизвестной функции эффективности на основе статистики L2 -уклонения, полученной с помощью комбинации монотонной оценки обратной функции эффективности (которая сама является монотонной) и оценок прямой функции эффективности:

= где 5/4</<11/8.

Доказана состоятельность и асимптотическая нормальность этих оценок при нуль-гипотезе Н0: F(x) - строго возрастает. Рассмотрен пример: результаты клинической эффективности аллоксима в комплексном лечении отравлений фосфорорганическими инсектицидами, в котором гипотеза о монотонности отвергается при уровне значимости 0,05.

Пусть Тп = ){фпИ{Р„(х))-х)2ск. о

Она является тестовой статистикой для проверки гипотезы монотонности.

Теорема П1.2. При условиях (К), (Н) и (L), h - МГ1/5, Ме(0,оо), если

1

К(х) дважды непрерывна дифференцируема на [-1,1] и mo

71-

a4V

в.

о

.2 •

*N( ОУ), \f i

где <т2 = ~\ \F2(X)(\-F(x))2f-2(x)(F'(x))-ndx 0 \К\х)К\х + z)dx

у\0\0 I

dz J J

nh 0J f(x){F'(x)}6 -J, " ¿(ПН*)))4

Используя результат теоремы П1.2 мы строим статистический критерий проверки гипотезы монотонности неизвестной функции эффективности на основе статистики Тп. Критерий имеет вид: отклонить гипотезу Н0: F(x) -строго возрастает, если

Т.

> Z

1-2' 2

где Zp - квантиль порядка J3 стандартного нормального распределения. Поскольку функция эффективности F(x) неизвестна, то в <т и Вп вместо нее мы подставляем оценку Fn{x). Асимптотические свойства критерия при этом сохраняются.

В приложении П2 теоретические результаты, полученные в главах 2, 3 и приложении П1, применяются для анализа как модельных, так и реальных экспериментальных данных. С помощью имитационного моделирования производится численная оценка мощности рассмотренных критериев. Моделирование проводится для фиксированного плана эксперимента при наличии погрешности измерения, поскольку именно этот случай в основном отражает применяемую методику проведения клинических испытаний лекарственных препаратов. На основе анализа результатов проведенного моделирования делается вывод о применении статистических критериев, для следующих случаев:

1) Моделируются прямые наблюдения. Методом Монте-Карло производится оценка мощности критерия согласия. Показано, что функция мощности при фиксированном размере критерия зависит от расстояния между проверяемой гипотезой и альтернативой, а также от объема выборки.

2) Используется критерий для прямых наблюдений на выборке непрямых наблюдений. Здесь размер критерия увеличивается по мере роста дисперсии ошибки, а мощность падает. Численными методами показано что, если границы для дисперсии ошибки известны, то уменьшение мощности можно компенсировать за счет устранения погрешности наблюдений и уменьшения уровня значимости.

Таким образом, показано, что построенные тесты являются устойчивыми при отклонении от предполагаемых моделей и незначительно теряют в мощности: при уровне значимости 0,05, при нормальном распределении с единичной дисперсией мощность критериев согласия не ниже 0.3, если разность между математическими ожиданиями нулевой и альтернативной гипотез не менее, чем 0.25. По реальным данным иллюстрируется применение критерия проверки монотонности, рассмотренного в приложении П1, и однородности двух выборок.

В приложениях ПЗ - П6 приводятся доказательства теорем, формулировка которых имеется в основном тексте, но схема доказательств которых повторяет рассуждения основных теорем. Приведен листинг кода ActiveX компонента и разработанной на его основе диалоговой программы, позволяющей строить оценку функции эффективности, проверять простую гипотезу о ее виде и гипотезу о строгой монотонности функции эффективности.

Список опубликованных работ по теме диссертации.

Статьи в журналах, периодических изданиях, включенных в список ВАК РФ

1. Криштопенко, Д. С. Асимптотические распределения интегрированных квадратичных ошибок оценок функции распределения в зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов // Обозрение Прикладной и Промышленной Математики. — М.: изд-во ТВП. - 2005. - Т.12, в.З. - С. 665-667.

2. Криштопенко, Д. С. Оценивание распределений для интегрированных квадратичных ошибок оценок функции распределения в зависимости доза-эффект в случае непрямых наблюдений / Д. С. Криштопенко, М. С. Тихов // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. -т. 13, вып. 6. - 2006. - С. 1089-1090.

3. Криштопенко, Д. С. Распределение интегрированных квадратичных ошибок несмещенных ядерных оценок функции распределения по интервальным цензурированным данным / Д. С. Криштопенко, М. С. Тихов // Нелинейный мир. - М.: РАДИОТЕХНИКА. - Т. 5, № 1-2. - 2007. - С. 20-30.

4. Криштопенко, Д. С. Оценивание распределений в зависимости доза-эффект при фиксированном плане эксперимента в случае непрямых наблюдений / Д. С. Криштопенко, М. С. Тихов II Вестник Нижегородского университета» - Н. Новгород: изд-во Нижегородского ун-та. - № 2,2007. - С. 158-164.

5. Криштопенко, Д. С. Асимптотические распределения суммируемых квадратичных уклонений оценок функции распределения в зависимости доза-эффект У Д. С. Криштопенко, М. С. Тихов // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - Т. 14, в. 4. - 2007. - С. 666668.

6. Криштопенко, Д. С. Асимптотические распределения интегрированных квадратичных ошибок оценок Надарая-Ватсона в зависимости «доза-эффект» / Д. С. Криштопенко // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2007. - Т. 14, в. 5. - С. 834-837.

7. Криштопенко, Д. С. Дискретные аналоги интегрированных квадратичных уклонений оценок функции распределения в зависимости «доза-эффект» / Д. С. Криштопенко, М. С. Тихов // Обозрение Прикладной и Промышленной Математики. - М.: изд-во ТВП. - 2008. - Т. 15, в. 3. - С. 571-572.

8. Криштопенко, Д. С. Тестирование монотонных функций эффективности по неполным наблюдениям в случае непрямых наблюдений / Д. С. Криштопенко, М.С. Тихов // Обозрение Прикладной и Промышленной Математики. -М.: изд-во ТВП. - 2008. - Т. 15, в. 4. - С. 648-649.

9. Криштопенко, Д. С. Критерий монотонности функции эффективности в модели доза-эффект / Д. С. Криштопенко, М.С. Тихов // Вестник Нижегородского университета им. Н.И. Лобачевского. - Н. Новгород: изд-во ННГУ. -2009.-№1.-С. 128-134.

Статьи и материалы конференций

10. Криштопенко, Д. С. Предельные теоремы для интегрированных квадратичных ошибок непараметрических оценок функции распределения в зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов // «Предельные теоремы теории вероятностей и их приложения»: материалы V-й международной Ферганской конференцию. - Ташкент: изд-во НУУЗ. -2005. - С. 168-172.

11 .Криштопенко, Д. С. Оценивание распределений в зависимости доза-эффект при фиксированном плане эксперимента / Д. С. Криштопенко, М. С. Тихов // Статистические методы оценивания и проверки гипотез. - Пермь: изд-во Пермского ун-та. - 2006. - С. 66-77.

12. Tikhov, М. S. Asymptotic distributions for integrated square error at the fixed plan of experiment / M. S Tikhov, D. S. Krishtopenko // «9th Vilnius Conference on Probability Theory and Mathematical Statistics»: Abstract of Communication. - Mat. Inform. Inst. - Vilnius: pub. PC MIL - 2006. - P. 312-314.

13. Криштопенко, Д. С. Асимптотическая нормальность интегрированных квадратичных ошибок ядерных оценок функции в зависимости доза-эффект в модели свертки / Д. С. Криштопенко, М. С. Тихов // Статистические методы оценивания и проверки гипотез. - Пермь: изд-во Пермского ун-та. — 2007. -С. 82-97.

14.Tikhov, М. S. Asymptotic normality of the integrated square error of a distribution function estimators in dependence dose-response indirect observations / M. S Tikhov, D. S. Krishtopenko // Xllth International Conference on Applied Stochastic Models and Data Analysis (ASMDA): book of abstracts. - Chania, Crete, Greece. :ed. С. H. Skiadas. - ed. С. H. Skiadas - 2007. - P. 180.

15. Криштопенко, Д. С. Непараметрический статистический анализ в зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов // Сборник тезисов: XIV Международной конференции «Математика. Компьютер. Образование». -Пущино, М. - Иж.: НИЦ «Регулярная и хаотическая динамика». - в. 142007. - С. 142.

16. Криштопенко, Д. С. Проверка гипотез согласия и однородности в зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов // Материалы 8-й Международной междисциплинарной научно-практической конференции «Современные проблемы науки и образования» - Алушта: изд-во ХаГУ. - 2007. -С. 67.

17. Криштопенко, Д. С. Выбор математической модели зависимости доза-эффект и ее применения / Д. С. Криштопенко, М. С. Тихов // Материалы III Межвузовской научно-практической конференции «Математическое моделирование и информационные технологии в сфере обслуживания потребителей». - Сочи: изд-во СГУТКД. - 2007. - С. 86-88.

18. Криштопенко, Д. С. Исследование оценок функции распределения в зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов, М. В. Ярощук // Материалы XX Международной научной конференции «Математические мето-

ды в технике и технологиях». - Яросл.: изд-во ЯГТУ - 2007. - Т. 3. - С. 171175.

19. Tikhov, М. S. Asymptotic behavior of the summarized square error in dependence dose-effect for indirect observations / M. S Tikhov, D. S. Krishtopenko // Computer Data Analysis and Modeling: Proc. of 8th Intern. Conf. - Minsk: pub. PC BGU - 2007. - b.2. - P. 42-45.

20. Tikhov, M. S. Asymptotic normality of the integrated square error at the fixed plan of experiment for indirect observations / M. S. Tikhov, D. S. Krishtopenko, M. V. Yarochuk // Computer Modeling and New Technologies. - Riga, Latvia: pub. PC TTI - 2007. - Vol. 11, No. 1. - P. 46-56.

21. Криштопенко, Д. С. Непараметрический статистический анализ в зависимости доза-эффект / Криштопенко Д.С., Куликов М.С. // XVII ВНТК «Соврем. Пробл. Мат. и естест.»: материалы ВНТК (Computer-Based Conferences). - Нижний Новгород: ННИМП «Диалог». - 2007,- С. 13.

22. Криштопенко, Д. С. Асимптотическое поведение сумм квадратичных ошибок оценок функции распределения по непрямым наблюдениям в зависимости доза-эффект / Д. С. Криштопенко // Материалы межд. междисц. научн конф. «Синергетика в естеств. науках». - Тверь: изд-во ТвГУ - 2007. -С. 84-87.

23.Криштопенко, Д. С. Предельные распределения суммируемых квадратичных ошибок оценок функции распределения в зависимости доза-эффект при случайном плане эксперимента / Д. С. Криштопенко, М.С. Тихов // Материалы республиканской научной конференции «Современные проблемы математики, механики и информационных технологий». - Ташкент: изд-во НУУЗ. -2008. - С. 262-265.

24. Криштопенко, Д. С. Оценивание монотонных функций эффективности в модели доза-эффект / Д.С. Криштопенко, М.С. Тихов // Актуальные задачи математического моделирования и информационных технологий: материалы IV Всероссийской научно-практической конференции. - Сочи: изд-во СГУТ КД,- 2008.-С. 139-140.

25. Криштопенко, Д. С. Непараметрическая оценка монотонной функции эффективности в зависимости доза-эффект / Д. С. Криштопенко, М.С. Тихов // Статистические методы оценивания и проверки гипотез: межвуз. сб. научн. тр. - Пермь: изд-во Пермского ун-та. - 2008. - С. 107-120.

26. Криштопенко, Д. С. Асимптотическое поведение монотонных оценок функции эффективности в зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов // «Probability Theory, Random Processes, Mathematical Statistics and Applications»: Proc. of the Intern. Scien. Conf. - Minsk: PC BSU-2008. - p. 335343.

27. Криштопенко, Д. С. Моделирование зависимости доза-эффект и численное исследование свойств статистических оценок функции эффективности / Д. С. Криштопенко, М. С. Тихов // Вычислительные технологии и матем.

моделирование: Матер, республ. науч. конф. - Ташкент: НУУз им. М. Улуг-бека, фил. МГУ им. М. В. Ломоносова в г. Ташкенте. - 2009. - С. 111-112.

28. Криштопенко, Д. С. Исследование свойств статистических оценок функции эффективности зависимости доза-эффект в среде МАТЬАВ / Д. С. Криштопенко, М. С. Тихов // Проектирование инженерных и научных приложений в среде МАТЬАВ: Труды IV Всероссийской научной конференции / сост. И. С. Пономарева. - Астрахань: Изд. дом «Астраханский ун-т». - 2009. -С. 672.

29. Криштопенко, Д. С. Статистические оценки функции эффективности зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов II "Проектирование инженерных и научных приложений в среде МАТЬАВ: Труды IV Всероссийской научной конференции / сост. И. С. Пономарева. - Астрахань: Издательский дом «Астраханский университет». - 2009. - С. 645-649.

30. Криштопенко, Д. С. Выбор параметра сглаживания несмещенной оценки функции эффективности в зависимости доза-эффект / Д. С. Криштопенко, М. С. Тихов // Теория вероятностей, математическая статистика и их приложения: сб. научн. статей. - Минск: изд-во РИВШ. - 2010. - С. 332-337.

Криштопенко Дмитрий Сергеевич

ТЕСТИРОВАНИЕ РАСПРЕДЕЛЕНИЙ В ЗАВИСИМОСТИ ДОЗА-ЭФФЕКТ

Подписано в печать 08.11.2010. Формат 60x84 Vi6. Бумага офсетная. Печать офсетная. Усл. печ. л. 1,0. Тираж 100 экз. Заказ № 676.

Отпечатано в Центре цифровой печати Нижегородского госуниверситета. 603950. г. Нижний Новгород, пр. Гагарина, 23.

Введение.

1. Математическая модель и оценка зависимости доза-эффект.

1.1 Математическая модель зависимости доза-эффект.

1.2 Предположения.

1.3 Случайный план эксперимента.

1.4 Фиксированный план эксперимента.

2. Асимптотические распределения зависимости доза-эффект при фиксированном плане эксперимента.

2.1 Прямые наблюдения. Интегрированные квадратичные ошибки.

2.2 Прямые наблюдения. Суммируемые квадратичные уклонения.

2.3 Непрямые наблюдения. Интегрированные квадратичные ошибки

2.4 Непрямые наблюдения. Суммируемые квадратичные уклонения.

3. Асимптотические распределения зависимости доза-эффект при случайном плане эксперимента.

3.1 Прямые наблюдения. Интегрированные квадратичные ошибки.

3.2 Прямые наблюдения. Суммируемые квадратичные уклонения.

3.3 Непрямые наблюдения.

4. Оптимальный выбор параметра сглаживания модели зависимости доза-эффект.

Актуальность темы диссертации.

Во многих областях медицины и биологии (фармакологии, токсикологии, радиобиологии, биохимии и др.) фундаментальной проблемой является изучение механизмов действия лекарственных средств, токсических веществ, ионизирующей радиации на биологические, экологические объекты. Наиболее востребованно решение данной проблемы в фармакологии при создании новых лекарственных средств (т.е. фармакологических средств, прошедших клинические испытания), поэтому при разработке новых лекарств анализ связи между дозой и эффектом и их количественное определение имеет большое значение для практики. Несмотря на то, что спектр проявлений токсического процесса определяется строением токсиканта, тем не менее, выраженность развивающегося эффекта является функцией количества действующего агента. Для обозначения количества вещества, воздействующего на биологический объект, используется понятие доза. Под дозой понимается некоторое количественное значение агента (фактора), изменяющее состояние исследуемого объекта, а под эффектом - наблюдаемый качественный (альтернативный) или количественный отклик объекта на введенную дозу.

В некоторых случаях (например, при статистической оценке возраста менархе или возраста менопаузы, когда фиксируется возраст пациента и наличие или нет интересующего нас события, точный момент наступления которого неизвестен) отсутствует понятие дозы, в вышеопределенном смысле, тем не менее, задача оценки возраста менархе или оценки возраста менопаузы укладывается в рассматриваемую в диссертации модель доза-эффект и может быть решена предложенными в ней методами.

Основу решения проблемы количественного оценивания связи между наблюдаемым эффектом и введенной дозой составляет способ построения и анализа» функции эффективности по результатам наблюдаемых данных: введенной дозы и наличия или отсутствия эффекта, по которым можно вычислить среднеэффективную дозу Ж)50 (доза препарата ЕО50 дает эффект в 50% случаев), а также другие дозы ЕОа, 0 < а < 100.

На современном этапе в токсикометрии востребованными являются величины доз, которые вызывают появление эффекта, учитываемого в экспериментальной группе тест-объектов с заданной вероятностью 0,01; 0,05; 0,1; 0,16; 0,5; 0,84; 0,9; 0,95; 0,99. Такие дозы получили название доз ЕЭХ,

ЕВЪ, ££>10, ЕИХ6, ЕБи, ¿£О90, ЕИ95, ЕВ99. Поэтому как среднеэффективная доза ЕБ50, так и другие категории доз: малые, например ЕВ{, ЕИ5, ЕИ10, Ей16 и большие дозы ( ЕБЫ, ЕО90, ЕВ95, ЕВ99), должны в полной мере отвечать максимально жестким критериям корректности, надежности, адекватности и состоятельности.

Проблема статистической оценки токсического и других эффектов рассматривается как одна из важнейших в токсикометрии и активно разрабатывается исходя из задач экспериментальной практики. В предложенной диссертации нас интересует проблема нахождения функции эффективности (ФЭ), под которой мы будем понимать зависимость вероятности наблюдения эффекта от воздействия данного значения введенной дозы, по результатам наблюдений, и статистические выводы, касающиеся найденной функции эффективности.

Для построения функции эффективности и расчета ЕО50 обычно применяется официальная методика пробит-анализа в модификациях Литч-филда-Вилкоксона [31] и Финни [84 - 88] (включена в Фармакопею СССР, 1987). Иногда для оценки среднеэффективных доз (медианные среднеэф-фективные дозы) используются модели бинарного выбора как замена линейной модели нелинейной (в основном используются пробит- и логит-модели, т.е. нормальная или логистическая функции распределения). В некоторых случаях для построения ФЭ используется сплайн-интерполяция [35]. Однако как при-пробит-анализе, так и при использовании* других моделей, например, модели бинарного выбора, эти функции распределения хорошо аппроксимируются линейными функциями, но только в окрестности медианы, ценой больших ошибок на краях распределения (см: [51]), особенно если реальная модель распределения отличается от нормального или логистического распределений. Кроме того, при практической реализации пробит-анализа или его модификаций отсутствует возможность проведения единичных испытаний, эти методы ориентируются, в основном, на оценку среднеэффективной дозы ЕИ50 или близкой к ней и не позволяют состоятельно оценивать малые (ЕИ], ЕЭ5, ЕВ10, ЕО[6) или большие ( Ейы, ЕО90, ЕБ95, ЕВ99) дозы, а эти дозы являются востребованными для практических нужд при оценке количества антидота, где требуется умение адекватно определять указанные уровни доз; для оценки границ безопасности или терапевтического индекса препарата, ввиду того, что эти границы является эффективными дозами ЕИа для небольших значений 0<а<10. Большинство ЭВМ-программ оценки зависимости доза-эффект не работают при малых или больших значениях а. В ряде случаев, например, при исследовании эффектов сверхмалых доз характерны немонотонные функции эффективности (см. [32], Бурлакова Е.Б.), а пробит-анализ или модели бинарного выбора не позволяют оценивать такие ситуации.

Ввиду того, что случайная величина — минимальная граница, с которой начинается реакция организма, ненаблюдаема, мы не можем использовать эмпирическую функцию распределения для оценки категорий эффективных доз, поэтому в работах [39-41] был предложен метод, который задачу оценки функции эффективности (функции распределения) сводит к задаче оценивания функции регрессии с использованием непараметрических (ядерных) оценок регрессии. Это позволяет по результатам единичных испытаний оценивать среднеэффективную дозу ЕИ50 не хуже, чем методами пробит-анализа, а малые и большие дозы, близкие к 0% или к Л 00%, оценивать эффективнее, чем с помощью пробит-анализа. Метод работ [39-41] позволяет оценивать и немонотонные функции эффективности.

В первой главе диссертации в качестве оценок ФЭ рассматриваются непараметрические оценки Надарая-Ватсона, а также — асимптотически несмещенные оценки, которые для оценок плотности были введены и рассмотрены в работах [97, 125], а для оценок регрессии и оценок функции распределения в зависимости доза-эффект были введены в работе [125]. Область исследования в диссертации — это задачи проверки гипотез согласия и однородности (задача межлабораторного сравнения) на базе указанных оценок в зависимости доза-эффект, т.е. проблемы, которые ранее не рассматривались. Решение данных задач позволяет проверять адекватность рассматриваемых моделей, проводить межлабораторные сравнения, идентифицировать случай монотонной зависимости вероятности эффекта от введенной дозы, проверять гипотезы об уровне эффективности доз. Заметим, что оценки функции эффективности методов пробит-анализа, в частности методов Литчфилда-Вилкоксона [31] и Финни [84 — 88] не позволяют в силу вышеуказанных причин конструировать критерии проверки статистических гипотез согласия и однородности. Однако эти задачи проверки гипотез востребованны на практике (см. [32, 35, 48, 51, 53]), поэтому вышесказанное определяет актуальность нашей диссертационной работы, в которой построены непараметрические критерии согласия, однородности и монотонности на основе ядерных оценок Надарая-Ватсона [49], [125] и других непараметрических оценок. Предложенные в диссертации критерии исследованы как теоретическими, так и численными методами.

В начале диссертации мы строим математическую модель зависимости доза-эффект, адекватную условиям воздействия вещества на организм, и рассматриваем её как задачу статистического анализа для случая прямых и непрямых наблюдений, т.е. когда вводимая в организм доза измеряется с некоторой ошибкой, а реакция организма (эффект) идет на «чистую» вводимую дозу. Рассмотрены также случаи фиксированного, плана (вводимая доза выбирается заранее и является неслучайной величиной) и случайного плана эксперимента (вводимая доза является случайной' величиной). Таким образом; рассмотренные постановки охватывают широкий спектр разнообразных практических ситуаций в проблеме доза-эффект. Если задачи оценки плотности для свертки распределений рассматривались и исследовались в литературе (см.[111,113, 124]), то задача оценки функции распределения в модели непрямых наблюдений в зависимости доза-эффект рассмотрена впервые. Предложенная модель дает возможность использовать для решения проблем дозозависимых эффектов весь набор мощных методов математической статистики.

Задача асимптотического поведения непараметрических оценок функции регресии была изучена впервые в работе В.Д. Конакова [38], где доказана асимптотическая нормальность интегрированной квадратичной ошибки (ИКО) с весовой функцией, равной квадрату плотности, для статистики Надарая-Ватсона. Доказательство В.Д. Конакова опиралось на асимптотические свойства эмпирических процессов. В работе [91] П. Холл, используя центральные предельные теоремы для мартингалов и вырожденных II-статистик, доказал асимптотическую нормальность как для точечных квадратичных ошибок, так и для интегрированных квадратичных ошибок на базе статистик Надарая-Ватсона в Ь2-норме уклонения при более слабых ограничениях, чем в работе Д. Конакова [38].

Мы рассматриваем и исследуем асимптотическое поведение интегрированных квадратичных ошибок (ИКО) оценок в зависимости доза-эффект в Ь2—норме с весом, как для прямых, так и для непрямых наблюдений, как при проверяемой гипотезе, так и при альтернативах, что отличается от постановок В.Д.Конакова [38] и П.Холла [91, 92]. На основе полученных теоретических результатов нами построены конкретные тесты для проверки гипотез согласия и однородности. Если в [38; 91, 92] в качестве меры отклонения использовалась только ИКО, то в диссертации в качестве мер отклонения мы рассматриваем также суммируемые квадратичные уклонения (СКУ). Это связано с тем, что при компьютерной реализации, критериев проверки гипотез, в* некоторых случаях предпочтительней рассматривать СКУ вместо ИКО без потери точности выводов. На основе асимптотических распределений СКУ и ИКО (на базе статистик типа Надарая-Ватсона и асимптотически несмещенных оценок) мы строим статистические критерии проверки гипотез согласия и однородности двух выборок в рассматриваемых математических моделях зависимости доза-эффект. Такие задачи для исследуемой в диссертации постановки являются новыми. Новыми являются и полученные результаты.

При изучении вопросов, связанных с конкретным применением критериев проверки гипотез согласия и однородности, возникает проблема выбора оптимального значения параметра сглаживания, который присутствует в рассматриваемых оценках функции эффективности. Решением этой проблемы в диссертации является адаптивный алгоритм кросс-проверки выбора параметра сглаживания. В условиях каждой из рассматриваемых ситуаций он является состоятельным и приводит к асимптотически нормальным оценкам оптимального значения параметра сглаживания. Цель и задачи исследования.

Целью диссертационной работы является разработка статистических критериев согласия проверки гипотез о виде неизвестной функции распределения, однородности двух выборок и монотонности функции эффективности в зависимости доза-эффект, а также анализ результатов их практического применения по реальным данным.

Задачами исследования являются: 1) построение и анализ статистических критериев проверки гипотез согласия о виде функции эффективности и однородности двух выборок на основе асимптотического поведения теоретически построенных ИКО и СКУ и применение тестов для анализа реальных данных;

2) разработка алгоритма оптимального выбора параметра сглаживания в построенных критериях и рассматриваемых оценках функции эффективности;

3) построение критерия проверки гипотезы о монотонности неизвестной функции эффективности и его применение для анализа реальных данных;

4) исследование свойств построенных критериев численными методами при альтернативных гипотезах;

5) создание ActiveX компонента, позволяющего строить оценку функции эффективности, проверять гипотезу о виде ФЭ и гипотезу о монотонности ФЭ в диалоговом режиме, и который может быть использован для написания плагинов для MatLab и других математических пакетов. Объект исследования.

Объектом исследования являются математические модели зависимости доза-эффект и критерии проверки гипотез согласия и однородности. В качестве примера применения полученных результатов анализируются реальные данные из работы [41] о проведенных испытаниях аллоксима в комплексном лечении острых отравлений фосфорорганическими инсектицидами. Методы проведенного исследования, достоверность и обоснованность результатов.

Для доказательства теоретических результатов диссертационной работы использовались методы теории вероятностей, математического и функционального анализа, теории мартингалов и распределений ¿/-статистик, классические и функциональные предельные теоремы, методы имитационного моделирования. Инструментом исследования являются асимптотические методы математической статистики и численные методы компьютерного моделирования, а также асимптотические методы математического и функционального анализа. Достоверность полученных результатов. подтверждается корректностью разработанных математических моделей, использованием фундаментальных результатов математической статистики, строгостью рассуждений, адекватностью полученных теоретических результатов с экспериментальными данными, а также с результатами численного моделирования.

Научная новизна и научная значимость полученных результатов.

Все основные результаты диссертационной работы являются новыми и впервые опубликованы в работах диссертанта.

Впервые рассмотрена задача проверки гипотез согласия, однородности и монотонности в зависимости доза-эффект. Построены критерии проверки гипотез согласия о виде функции эффективности, однородности двух выборок. Разработан алгоритм выбора параметра сглаживания, минимизирующий СКУ на базе рассматриваемых оценок. Построен критерий монотонности неизвестной функции эффективности на основе комбинации прямой и обратной оценок, который применен для анализа реальных данных [41] о проведенных испытаниях аллоксима в комплексном лечении острых отравлений фосфорорганическими инсектицидами. Численными методами показано, при уровне значимости 0.05, при нормальном распределении с единичной дисперсией мощность критериев согласия не ниже 0.3, если разность между математическими ожиданиями нулевой и альтернативной гипотез не менее, чем 0.25. Создан ActiveX компонент, позволяющий строить оценку функции эффективности, проверять гипотезу о ее виде и гипотезу о монотонности ФЭ по построенным критериям.

Основной теоретический результат состоит в получении асимптотических распределений ИКО и СКУ рассматриваемых статистик для построения критериев согласия проверки гипотез о виде функции эффективности и гипотезы однородности двух выборок при фиксированном и- случайном планах эксперимента для прямых и непрямых наблюдений, а также критерия проверки строгой монотонности неизвестной функции эффективности в рассматриваемых математических моделях по исходным статистическим данным.

Практическая значимость,полученных результатов.

В токсикометрии важное значение отводится методам определения эффективных доз, так как они являются теми решающими факторами, от которых зависит способ планирования экспериментов, порядок формирования и объем исходных данных, а в конечном итоге качество, эффективность и достоверность искомых показателей токсичности. По этим признакам проблему токсикометрической оценки показателей токсичности можно рассматривать как важнейшую проблему теоретической токсикологии, имеющей прикладное значение для различных разделов биологии и медицины.

Результаты, полученные в диссертационной работе, были применены для анализа поведения неизвестной функции эффективности и проверки адекватности исходных данных, полученных в результате проведенных испытаний аллоксима в комплексном лечении острых отравлений фосфороргани-ческими инсектицидами [41]. Были обработаны результаты исследований чувствительности к адреналину у людей по тесту капельной накожной пробы ([40], с. 116).

Показано, что применение построенного критерия однородности для гипотезы о принадлежности двух выборок к одному предельному распределению приводит к тому, что данная гипотеза не отвергается при уровне значимости 0,05. Это дает основание объединить результаты двух экспериментов и по двум выборкам построить одну функцию эффективности, для которой был применен критерий проверки монотонности.

Теоретические результаты, полученные в диссертационной работе, могут быть использованы при планировании клинических испытаний новых лекарственных средств и анализа эффективности их действия, а также в курсах математической и прикладной статистики. s

Основные положения, выносимые на защиту.

На защиту выносятся:

I 1. Критерии проверки согласия и однородности на основе ИКО и СКУ i для рассматриваемых оценок функции эффективности в зависимости доза-эффект при фиксированном и случайном планах эксперимента для случаев прямых и непрямых наблюдений и результаты оценки мощности этих критериев численными методами.

2. Статистические критерии проверки гипотезы о строгой монотонности неизвестной функции эффективности и анализ их практического применения по реальным [41] и моделируемым данным.

3. Алгоритм выбора оптимальной ширины окна и его конкретная реализация в критериях согласия, однородности и монотонности.

4. ActiveX компонент, позволяющий с помощью разработанного диалогового интерфейса анализировать конкретные экспериментальные данные. Опубликованность результатов и личный вклад соискателя.

Результаты диссертации опубликованы в 30 работах [1-30], из них 9 работ [1- 9] - в журналах из списка ВАК (журналы «Обозрение Прикладной и Промышленной Математики», «Нелинейный мир», «Вестник Нижегородского университета им. Н.И.Лобачевского»), 3 работы [11], [13], [25] в рецензируемом межвузовском сборнике научных трудов «Статистические методы оценивания и проверки гипотез», одна работа [20] в журнале «Computer Modeling and New Technologies» (Latvia, Riga), 18 работ в материалах международных и всероссийских конференций: Две работы выполнены без соавторов, одна из которых из списка ВАК. В совместных работах [1-5, 720, 22-30] автору принадлежат полученные в ходе исследования результаты, соавтору — идея работы, а также формулировка и постановка задач.

Общий объем публикаций - 160 стр. Апробация результатов диссертации.

Основные результаты диссертации докладывались на:

V международной конференции «Предельные теоремы теории вероятностей и их приложения» (Ташкент, 2005 г.); I 12-ой Всероссийской, школе-коллоквиуме по стохастическим методам

ВШКСМ) (Сочи, 2005);

9th International Vilnius Conference on Probability Theory and Mathematical Statistics (Vilnius, 2006);

7-м Всероссийском симпозиуме по прикладной и промышленной математике (ВСППМ) (Йошкар-Ола, 2006);

XVII всероссийской научно-технической конференции «Современные ' проблемы математики и естествознания» (Н. Новгород, 2007);

Международной междисциплинарной научной конференции «Синергетика в естественных науках» (Тверь, 2007);

XIV международной конференции «Математика. Компьютер. Образование» (Пущино, 2007);

III межвузовской научно-практической конференции «Математическое моделирование и информационные технологии в сфере обслуживания потребителей» (Сочи, 2007);

XII International Conference on Applied Stochastic Models and Data Analysis (Greece, Chania, 2007);

8-ой международной междисциплинарной научно-практической конференции «Современные проблемы науки и образования» (Алушта, 2007);

XX международной научной конференции «Математические методы в технике и технологиях» (Ярославль, 2007);

8 International Conference «Computer Data Analysis and Modeling» (Minsk, 2007);

14-ой Всероссийской школе-коллоквиуме по стохастическим методам (г.Адлер, 2007);

IV всероссийской научно-практической конференции «Актуальные задачи математического моделирования и информационных технологий» (Сочи, 2008);

Международной научной конференции «Современные проблемы математики, механики и информационных технологий» (Ташкент, 2008);

XVI международной конференции «Математика. Компьютер. Образование» (Пущино, 2008);

International Science Conference «Probability Theory, Random Processes, Mathematical Statistics and Applications» (Minsk, 2008);

7-ой Международной конференции «Вероятностные методы в дискретной математике» (ВМДМ) (Петрозаводск, 2008 г.);

15-ой Всероссийской школе-коллоквиуме по стохастическим методам (Волгоград, 2008 г.);

Международной научной конференции «Вычислительные технологии и математическое моделирование» (Ташкент, 2009);

IV всероссийской научной конференции «Проектирование инженерных и научных приложений в среде MATLAB» (Астрахань, 2009);

Международной научной конференции «Теория вероятностей, случайные процессы, математическая статистика и приложения» (Минск, 2010).

Диссертация докладывалась на научных семинарах кафедры прикладной теории вероятностей и кафедры теории статистических решений ННГУ им. Н.И. Лобачевского.

Структура, объем и краткое содержание диссертации.

Диссертация состоит из введения, шести глав, заключения и приложения. Объем диссертации — 209 стр. текста. Список литературы — 129 источников на 12 стр. Общий объем - 339 стр.

Выводы по Главе 4 В главе 4 рассматривается задача априорного выбора оптимального значения параметра сглаживания к, который присутствует в рассматриваемых оценках функции эффективности. Предложен адаптивный алгоритм кросс-проверки выбора параметра сглаживания для фиксированного плана - прямых и непрямых наблюдений. Показано, что данный алгоритм является состоятельным, приводит к асимптотически оптимальному значению к и является устойчивым относительно выбросов в наблюдаемой выборке. Показано, что оценки оптимального значения параметра сглаживания являются асимптотически нормальными. л

ЗАКЛЮЧЕНИЕ

В диссертации получены следующие результаты:

1. Построены и проанализированы статистические критерии проверки гипотез согласия о виде неизвестной функции эффективности и однородности двух выборок на основе асимптотического поведения теоретически построенных ИКО и СКУ для прямых и непрямых наблюдений при случайном и фиксированном планах эксперимента. Полученные критерии были использованы при решении задачи межлабораторного сравнения реальных данных. Показано, что эти реальные данные не противоречат основным предположениям математической модели, в рамках которой получены эти критерии.

2. Разработан алгоритм оптимального выбора параметра сглаживания, который присутствует в построенных критериях и рассматриваемых оценках функции эффективности. Показано, что данный, алгоритм является состоятельным и устойчивым относительно выбросов в наблюдаемой выборке. Показано, что оценки оптимального значения параметра сглаживания являются асимптотически нормальными.

3. Построен статистический критерий проверки гипотезы о монотонности неизвестной функции эффективности, на основе статистики Ь2-уклонения, полученной с помощью комбинации монотонной оценки обратной функции эффективности и рассматриваемых оценок прямой функции эффективности, который был примененен для анализа реальных данных Доказана состоятельность и асимптотическая нормальность данной статистики Ь2 —уклонения при нуль-гипотезе строгой л монотонности. I

4. Исследованы свойства построенных критериев численными методами при альтернативных гипотезах. Показано, что мощность построенных критериев при альтернативе возрастает. Получено, что для критерия для прямых наблюдений на выборке непрямых наблюдений размер критерия увеличивается по мере роста дисперсии ошибки, а мощность падает. Численными методами показано что, если границы для дисперсии ошибки известны, то уменьшение мощности можно компенсировать за счет предложенного преобразования и уменьшения уровня значимости. Предложен способ устранения ошибки измерения.

Теоретические результаты диссертационной работы легли в основу ActiveX компонента, позволяющего в диалоговом режиме анализировать конкретные экспериментальные данные.

1. Криштопенко, Д. С. Оценивание распределений в зависимости доза-эффект при фиксированном плане эксперимента / Д. С. Криштопенко, М. С. Тихов // Статистические методы оценивания и проверки гипотез. — Пермь: изд-во Пермского ун-та. 2006. - С. 66-77.

2. Криштопенко, Д. С. Тестирование монотонных функций эффективности по неполным наблюдениям в случае непрямых наблюдений / Д. С. Криштопенко, М.С. Тихов // Обозрение Прикладной и Промышленной Математики. -М.: изд-во ТВП. 2008. - Т.15, в.4. - С. 648-649.

3. Криштопенко, Д. С. Критерий монотонности функции эффективности в модели доза-эффект эффект / Д. С. Криштопенко, М.С. Тихов // Вестник Нижегородского университета им. Н.И.Лобачевского. — Н.Новгород: изд-во ННГУ. — 2009. -№1. — С. 128-134.

4. Беленький, M. JI. Элементы количественной оценки фармакологического эффекта / Mi JI. Беленький // JL: Изд-во мед. лит. 1963. — С. 152.

5. Бурлакова, Е. Б. Биоантиоксиданты / Е. Б. Бурлакова // Рос. хим. ж. (Ж. Рос. хим: об-ва им: Д.И.Менделеева) . 2007. - Т. LI, №1. - С. 3-12.

6. Гнеденко, Б. В. Курс теории вероятностей / Б. В. Гнеденко // М:: Едиториал УРСС. 2005. — С. 448.

7. Государственная фармакопея СССР: общие методы анализа. //11 изд., вып. 1. М.: Медицина. - 1987. - С. 337.

8. Гуревич, К. Г. Оценка параметров кривой «доза-эффект» методом сплайн-интерполяции / К. Г. Гуревич // Вестник Моск. Ун-та. Сер.2, Химия. -2000. - Т.41, №200. - С. 69-70.

9. Закс Л. Статистическое оценивание. / Л.Закс / М.: Статистика. 1976 — 598 с.

10. Крамер, Г. Математические методы статистики / Г. Крамер // М.:Наука. — 1975.-С. 648.

11. Конаков, В. Д. Об одной глобальной мере отклонения оценки линии регрессии. / Конаков В.Д. // Теор. вероятн. и ее примен. 1977. - Т.22, в:4. — С. 879-891.

12. Криштопенко, С. В. Токсикометрия эффективных доз / С. В. Криштопенко, М. С. Тихов // Нижний Новгород: Изд-во НГУ. 1997. - С. 156.

13. Криштопенко, С. В. Парадоксальная токсичность / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // Нижний Новгород.: изд-во НГМА. 2001. — С. 164.

14. Криштопенко, С. В. Доза-эффект / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // М.: изд-во Медицина. 2008. - С. 288.

15. Криштопенко, C.B. Статистическое оценивание зависимости доза-эффект при наличии погрешности измерений / С. В. Криштопенко, М. С. Тихов // 3-я Всероссийская школа-коллоквиум по стохастическим методам. — М.: изд-во ТВП. 1996. - С.93-95.

16. Леман, Э. Теория точечного оценивания / Э., Леман // М.: Наука. 1991. - С. 448.

17. Леман, Э. Проверка статистических гипотез / Э. Леман // М.: Наука. 1979. -С. 408.

18. Гнеденко, Б. В. Курс теории вероятностей / Б. В. Гнеденко // М.: Едиториал УРСС. 2005. - С. 448.

19. Государственная фармакопея СССР: общие методы анализа. //11 изд., вып.1. -М.: Медицина. 1987. - С. 337.

20. Гуревич, К. Г. Оценка параметров кривой «доза-эффект» методом сплайн-интерполяции / К. Г. Гуревич // Вестник Моск. Ун-та. Сер.2, Химия. -2000. - Т.41, №200. - С. 69-70.

21. Закс Л. Статистическое оценивание. / Л.Закс / М.: Статистика. 1976 - 598 с.

22. Крамер, Г. Математические методы статистики / Г. Крамер // М.:Наука. -1975.-С. 648.

23. Конаков, В. Д. Об одной глобальной мере отклонения оценки линии регрессии. / Конаков В.Д. // Теор. вероятн. и ее примен. 1977. - Т.22, в.4. - С. 879-891.

24. Криштопенко, С. В. Токсикометрия эффективных доз / С. В. Криштопенко, М. С. Тихов // Нижний Новгород: Изд-во НГУ. 1997. - С. 156.

25. Криштопенко, С. В. Парадоксальная токсичность / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // Нижний Новгород.: изд-во НГМА. 2001. - С. 164.

26. Криштопенко, С. В. Доза-эффект / С. В. Криштопенко, М. С. Тихов, Е. Б. Попова // М.: изд-во Медицина. 2008. - С. 288.

27. Криштопенко, C.B. Статистическое оценивание зависимости доза-эффект при наличии погрешности измерений / С. В. Криштопенко, М. С. Тихов // 3-я Всероссийская школа-коллоквиум по стохастическим методам. М.: изд-во ТВП. - 1996. - С.93-95.

28. Леман, Э. Теория точечного оценивания / Э. Леман // М.: Наука. 1991. - С. 448.

29. Леман, Э. Проверка статистических гипотез / Э. Леман // М.: Наука. 1979. -С. 408.

30. Липцер, Р.Ш. Теория мартингалов / Р. Ш. Липцер., А. Н. Ширяев // М.: Наука.-1986.-С. 512.

31. Лоэв, М. Теория вероятности / М. Лоэв // М.: ИЛ. 1962. - С. 720.

32. Масюк, С. В. Влияние неопределенностей в дозах на оценку радиационных рисков / С. В. Масюк и др.// Радиация и риск (Бюллетень Национального радиационно-эпидемиологического регистра). 2008. — Т. 17, №3. — С. 6475.

33. Надарая, Е.А. Об оценке регрессии / Е. А. Надарая // Теор. вероятн. и ее примен. т. 9. в.1.- 1964.-С. 157-159.

34. Натансон И. П. Теория функций вещественной переменной / И. П. Натансон // М.: Наука. 1974. - С. 480.

35. Осипов, А. Л. Непараметрический метод построения зависимости «доза-эффект» / А. Л. Осипов, С. Н. Аношкин // Журнал «Автометрия» . 2006. -Т.42, №6. - С. 63-69.

36. Рао, С. Р. Линейные статистические методы и их применения / С.Р. Рао // М: Наука.- 1965.-С. 548.

37. Румак В. С. Воздействие диоксинов на окружающую среду и здоровье человека. / B.C. Румак, Г.А. Софронов и др. // Вестник РАН: Проблемы экологии. 2009. - Т.79, №2. - С. 124-130.

38. Смирнов Н.В. Теория вероятностей и математическая статистика: избранные труды. М.: Наука - 1970. -С. 290.

39. Суховольский В.Г. Оценка и прогноз послепожарного состояния лиственницы гмелина на мерзлотных почвах Средней Сибири / А.П. Абаимов, С.Г. Прокушкин, В.Г. Суховольский, Т.М. Овчинникова // журнал «Лесоведение». 2004.- №2, с. 3-11.

40. Тихов М. С. Асимптотически несмещенные оценки функции распределения зависимости доза-эффект в схеме непрямых наблюдений / М.С. Тихов, И.С. Ефименко // Обозрение Прикладной и Промышленной Математики. — М. — 2004. Т.11, в.З. - С. 466-468.

41. Тихов М. С. Статистическое оценивание распределений по интервально цензурированным выборкам в схеме непрямых наблюдений / М. С. Тихов, М. В. Ярощук // Нелинейный мир. М.: изд-во РАДИОТЕХНИКА. - Т.5, №1-2.-2007.-С. 4-8.

42. Тихов М. С. Эконометрические дискретные модели бинарного поиска / Тихов М. С.// Прикладная статистика в социально-экономических проблемах. —

43. H.Новгород.: изд-во Нижегородского ун-та. -Т.1, 2003, с 104-106.

44. Тихов, М. С. Построение и анализ статистических оценок для неполностью известных семейств распределений: дис. д-ра физ.-мат. наук: 01.01.05/ Михаил Семенович Тихов; С.-Петербургский гос. ун-т. СПб. 1993. - 377 л.

45. Хардле В. Прикладная непараметрическая регрессия. / В.Хардле / М.: Мир. -1993.-349 с.

46. Ширяев, А. Н. Вероятность. / А. Н. Ширяев // В 2-х книгах М: МЦНМО, 2007. Кн. 1.-с. 552 .-Кн. 2. - с. 416.

47. Abramson, I.S. On bandwidth variation in kernel edtimates — a square root law /

48. S. Abramson // Annals of Statistics 10. 1982. - P. 1217-1223.

49. Abramson, I.S. Adaptive density flattening metric distortion principle for combining bias in nearest neighbor methods / I.S. Abramson // Annals of Statistics 10. -1984.-P. 880-886.

50. Andrews, D. Asymptotic normality of series estimators for nonparametric and semiparametric regression models / D. Andrews // Econometrica. 1991. - v. 59, no. 2.-P. 307-345.

51. Baten, W. D. Probit analysis applied to Salmonella pitllorium survivai data / W. D. Baten, H. J. Stafseth // J. Bactheoriology. 1956. - 71(2). - P.214-216.

52. Bettermann, H. Bimodal dose-dependent effect on autonomic, cardiac control-after oral administration of Atropa belladonna / H. Bettermann at al. // Auton Neu-rosci. (J. Auton Nerv. Syst.). -2001. -90 (1-2). P. 132-137.

53. Birke, M. Testing Strict Monotonicity in Nonparametric Regression / M. Birke and H. Dette I I Mathematical Methods of Statistics. 2007. - v.16, no.2. - P. 110123.

54. Birke, M. Central limit theorems for the integrated squared error of derivative estimators / M. Birke // Statistics & Probability Letters. 2008. - v.78. - P. 19031913.

55. Birke, M. A note on estimating a monotone regression function by combining kernel and density estimates / M. Birke and H. Dette // Journal of Nonparametric Statistics. 2008. - v.20. - P. 679-691.

56. Bissantz, N. Asymptotic normality and confidence intervals for inverse regression models with convolution-type operators / N. Bissantz, M. Birke // Journal of Multivariate Statistics. -2009. v. 100(10). - P. 2364-2375.

57. Brown, B.M. Martingal central limit theorems. / В. M. Brown // Ann. Math. Statist. 1971.-v.42.-P. 59-66.

58. Brown С. C. The statistical analysis of dose-effect relationships / Brown С. C.// P. 115-148. // In: Principles of Ecotoxilogy, John Wiley & Sons. 1978. -P. 350.

59. Butucea, C. Asymptotic normality of the integrated square error of a density estimator in the convolution model / C. Butucea // SORT. 2004. - 28(1). -P.9-26.

60. Cramer, Н. Mathematical Method of Statistics / H. Cramer // Asia Publishing House. Bombey. - 1962. - P. 575.

61. Debanne, S. M. Evaluation of statistical methodologies for estimation of median effective dose / S. M. Debanne, H. S. Haller // Toxicol., Appl. Pharmacol. 1985. - Vol. 79, N 2. - P. 274 - 282.

62. Dette, H.A simple nonparametric estimator of a monotone regression function / H. Dette, N. Neumeyer, K. F. Pilz // Bernoulli 12. 2006. - P. 469-490.

63. Einmahl, U. Uniform in Bandwidth Consistency of Kernel-type Function Estimators / Einmahl U., Mason D.M. // Ann." Statist. 2005. - v. 33, no 3. - P. 13801403:

64. Fan, J. Asymptotic normality for deconvolution kernel density estimators / J. Fan // Sankhya: The Indian Journal of Statistics. 1991. - v. 53, Series A, Pt.l. - P. 97-110.

65. Fan, J. Global behavior of deconvolution kernel estimates / J. Fan // Statistica Si-nica.-v. 1, no.2. 1991. - P. 541-551.

66. Fan J. A study of variable bandwidth selection for local polynomial regression. / J.Fan, I.Gijbels, T.C.Hu, L.S.Huang // Statistica Sinica. 1996. - v.6, No.l -P.l 13-127.

67. Finney, D. J. Probit analysis, 3rd.edn / D. J. Finney // Cambridge University Press. 1979.

68. Finney, D. J. The median lethal dose and its. estimation / D. J. Finney // Arch. Toxicol. 1985. - Vol. 54, N 4. - P. 215 - 218.

69. Finney, D. J. Statistical Methods in Biological Assay. / D. J. Finney // Charles Griffin & Co. 1978. - P. 508.

70. Finney, D. J. The application of probit analysis to the results of mental tests IID. J. Finney I I Psychometrika. 1944. - v. 9, no.l. - P. 31-39.

71. Finney, D. J. The Estimation from Individual Records of the Relationship Between Dose and Quantal Response / / D. J. Finney // Biometrika. 1947. - v. 34, no. — P.320-334.

72. Gyorh L. Distribution-Free Theory of Nonparametric Regression. /L.Gyorh, M.Kohler, A.Krzyzak, H.Walk/ Springer: NY. - 2002. - 647 p.

73. Hall, P. Central limit theorem for integrated square error properties of multivariate nonparametric density estimators / P. Hall // J. Multivariate Anal. v. 14, no.l.-1984.-P. 1-16.

74. Hall, P. Integrated square error properties of kernel estimators of regression functions / P. Hall II Ann. Statist. 1984. - v. 12, no.l. - P. 241-260:

75. Hall P. Estimation of distribution, moments and quantiles in deconvolution problems / / P. Hall, S. N. Lahiri // Ann. Statist. 2008. - v. 36, no.5. - P. 2110-2134.

76. Hardle, W. How Far Are Automatically Chosen Regression Smoothing Parameters From Their Optimum? / W. Hardle, P. Hall, J. S. Marron // Journal of the Amer. Statist. Assoc. 1988. - v.83, no.401. - P. 86-93.

77. Hardle W. Applied Nonparametric Regression. / W.Hardle / Humbolt-Universitat: Berlin. 1994. - 409 p.

78. Hardle W. Nonparametric and Semiparametric Models. /W.Hardle, M.Muller, S.Sperlich, A.Werwatz / Springer: NY 2004. - 87 p.

79. Hengartner N. W. Asymptotic unbiased density estimators / N. W. Hengartner, E. Matzner-Lober // ESAIM. 2009. - v. 13. - P. 1-14.

80. Hjort, N.L. Nonparametric density estimation with a parametric start / N. L. Hjort, I. K. Glad // Ann. Statist. 1995. - v.23, no.3. - P. 882-904.

81. Hlawka, E. Losung von Integralgleichungen mittls zahlentheoretisher Methoden I. / E. Hlawka // Siztzungsber., Abt. II. Oster. Akad. Wiss., Math.- Naturwiss. Kl. 1962.-v. 171, no. l.-P. 103-123.

82. Hoeffding W. Probability inequalities for sums of bounded random variables. / W. Hoeffding // Journal of the American Statistical Association. — 1963. v.58, — P.13-30.

83. Jones, M. C. On multiplicative bias correction in kernel density estimation / M. C. Jones, D. F. Signorini, N. L. Hjot // Sankhyä:The Indian Journal of Statistics. 1999. -v.61. - Series A, Pt.3. - P. 422-430.

84. Jones M. C. A simple bias reduction for density estimation / M. C. Jones, O. Linton, J. P. Nielsen // Biometrika. 1995. - v.82, no.2. - P. 327-338.

85. Jones, M.C. A simple nonnegative boundary correction method for kernel density estimation / M. C. Jones, P. J. Foster // Statistica Sinica. 1996. - v.6, no.4. — P. 1005-1013.

86. Lehmann, E.L. Theory of Point Estimation / E.L. Lehmann // NY: J. Wiley. -1983.

87. Lehmann, E.L. Testing Statistical Hypotheses / E.L. Lehmann, J. P. Romano // NY.: Springer. 2005. - P. 792.

88. Leung, D. H-Y. Cross-validation in nonparametric regression with outliers / Denis Heng-Yan Leung // Ann. Math. Statist. 2005. - v. 33, no.5. - P. 22912310.

89. Mack, Y. P. Weak and strong uniform consistency of kernel regression estimates / Y. P. Mack, B. W. Silverman // Z. Wahrsch. Verw. Gebiete 61. - 1982. -P. 405-415.

90. Matzio, M. Boosting kernel density estimates: A bias reduction technique? / M. Matzio, C. C. Taylor // Biometrika. 2004. - v.91, no.l. - P. 226-233.

91. McDiarmid C. On the method of bounded differences. / C. McDiarmid // In Surveys in Combinatorics. Cambridge University Press: Cambridge. - 1989 — P.148-188.

92. Niederreiter, H. Random Number Generation and Quasi-Monte Carlo-Method / H. Niederreiter // Pensylvania. Niederreiter H.: SIAM Philadelphia. - 1992. -P. 241.

93. Parzen, E. On estimation a probability density function and mode / E. Parzen // Ann. Math. Statist. 1962. - v. 33, no.3. - P. 1065-1076.

94. Rice, J. Bandwidth choice for nonparametric regression. / Rice J. // Annals of Statistics. 1984. - v.12, no. 4. - P. 1215-1230.

95. Rozenblatt, V. Remarks on some nonparametric estimates of a density function / V. Rozenblatt // Ann. Math. Statist. 1956. - v. 27, no.3. - P. 832-837.

96. Rumak, V. S. The Effect of Dioxins on the Environment and Human Health / V. S. Rumak and at al. // Herald of the Russian Academy of Sciences. v.79, no.l.-P. 50-56.

97. Serfling, R. J. Approximation Theorems of Mathematical Statistics / R. J. Ser-fling // Wiley. New York. - 2001. - P. 400.

98. Sidhu S. Age at Menopause in Educated Women of Amritsar (Punjab) / S. Sidhu, A. Kaur, M. Sidhu // J. Hum. Ecol. 2005. - v. 18, no. 1. - P. 49-51.

99. Slutsky E. Uber stochastische Asymptotem und Grenzwerte / E. Slutsky // J. Metron.- 1925.- 5, w.3 P. 3-89.

100. Stefanski L.A., Caroll R.J. Deconvolutiuon kernel density estimators / L.A. Stefanski, R. J. Caroll // Statistics. 1990. - v.21. -P. 69-184.

101. Takezawa K. Introduction to Nonmparametric Regression. / K. Takezawa / Wiley-Interscince: New Jersey. 2006. — 538 p.

102. Tenreiro, С. Loi asymptotic des erreurs quadratiques integrées des estimateurs a noyau de la densité et de la.regression sous des conditions de dependence / С. Tenreiro // Portugaliae Mathematica. 1997. - v. 54, № 2. - P. 187-213.

103. Tenreiro, C. Asymptotic distribution for a discrete version of integrated square error of multivariate density kernel estimators / C. Tenreiro // Journal of Statistical Planning and Inference. 1998.-v. 69, no.l.-P. 133-151.

104. Tenreiro, C. On asymptotic behavior of the ISE for automatic kernel distribution estimators / C. Tenreiro // Journal of Nonparametric Statistics. 2003. - v. 15, no.4&5.-P. 485-504.

105. Tenreiro, C. On the asymptotic behavior of the integrated square error of kernel density estimators with data-dependent bandwith / C. Tenreiro // Statis-tics&Probability Letters. v.53, no.3. - P. 283-292.

106. Tikhov, M.S. Statistical Estimation on the Basis of Interval-Censored Data / M. S. Tikhov //J. Math. Sciences, v. 119, no. 3. -2004. - P. 321-335.

107. Wand М.Р. Kernel Smoothing. / M/P/Wand, M.C.Jones / Chapman&Hall: NY.-1995.-212 p.

108. Watson, G. S. Smooth regression analysis / G. S. Watson // Sankhyâ. 1964. -v. 26. —P. 359-372.

109. Williams, D. A. Interval Estimation of the Median Lethal Dose / D. A. Williams // Biometrics. v.42, no. 3. - P. 641-645.

110. Yang, S. A central limit theorem for the integrated square error of the kernel density estimators with randomly censored data / S. Yang // Journal of Statistical Planning and Inference. 1993. - v. 37, no.2. - P. 127-143.f161

111. Щ. Статистический критерий монотонности функции эффективности в зависимости доза-эффект.

112. Пусть выполняется гипотеза Н0, тогда определимгде 5/4 </<11/8 фиксировано и выбирается заранее, как оценку для обратной функции Ф1(7), Здесь статистика Надарая-Ватсона Рп(х) определяется как:1 ^пк ;=1х-К1. V л .

113. Заметим, что оценку можно представить в виде:1 1 ' / р (х\ ,. \ 1 ну

114. РпЛ*) = — /И^ТГ— скиЬ=\<Ь \к{гУк =о -001 ^1. О -00поэтому, при п —> 00 ,1 11|/(Ф(х) < о сЬс = Ф"1 (о.о

115. В этом случае последовательность функций ^>п(Еп(х)) при н—»оосходится к функции <р(Ф(х)) = Ф1 (Ф(х)) = *.

116. Проведем эвристические рассуждения, объясняющие способ построения оценки для обратной функции, где для достаточно малого к заменим функцию функцией Кк(х) = (1 / И)К(х / И). Имеем:- == Г дД^

117. Подставив теперь в последнем выражении вместо Е(х) ее оценку Нал iдарая-Ватсона (х), получим оценку для Г (Я). Именно, рассмотрим для F(0) <1< 7<Х1) оценку^ / п) и)с1и ,где1. Р(х) = 0 --.

118. Мы будем рассматривать следующий интеграл1. Тп = |(^(^(х))-х)2^окак статистику теста для проверки гипотезы Н0 строгого возрастания функции эффективности.

119. Из построения оценки для обратной функции видно, что она сама является монотонной функцией, поэтому если оценка Надарая-ВатсонаЛад будет немонотонной функцией, то это отразится на статистике Тп.

120. В следующей лемме показано асимптотическое поведение статистики Тп.

121. Лемма П1.1. При условиях (К), (Н), (Ь) и при п —> оор1. Т —» ТгдеЛ40

122. Доказательство. Имеем: Отсюда следует, что

123. Фп»(0 = )/&(*) ^ + Н\к(г)кдх < |/(^(х) < ^ + //)< 1. '1. О -оо О

124. Рассмотрим разность Тп Т и преобразуем ее следующим образом:

125. Тп~Т= )\фп, (х)) х)2 - {ф(Ф(х)) - х)2 \ьс =о){Фпи (*)) + Ф(Ф(х)) 2х}{фпЬ (Гп (х)) - ф(ф{х))}сЬс.1. Отсюда,

126. Тп Т | < 4 \{фпк (Гп (х)) - ¿(Ф(х)Ж:поскольку 0 < х < 1, фпк{г)< 1 и ф(/) < 1.

127. Покажем теперь, что разность фпИ (Еп (х)) ^(ф(х)) равномерно по вероятности сходится к нулю. Действительно, так как функция К(1) равнанулю вне отрезка -1,1., то ¥п{у)-кг <и<Рп(у) + Ь7 и1. Фп Лад):= ¿г Т\\=1о -00 v ьу у1. Ъ(Х) Г Т? /.Л .Л

128. Делая замену —-= 2, получаем1. И7йисЬ.фАЕЛх))=)1(ЕМ<ЕЛх) + Иг)^(уЬад ^ кv /