第一章 緒論

1.1 常微分方程的統(tǒng)計(jì)推斷簡介
在自然科學(xué)的許多分支, 例如數(shù)學(xué)、生物學(xué)、生物化學(xué)或化學(xué)等, 常微分方程系統(tǒng)有著基礎(chǔ)性的作用. 它通常是依賴某些參數(shù)的, 而這些參數(shù)在實(shí)踐中往往沒有精確值, 甚至是完全未知的. 因此了解這些參數(shù)對研究常微分方程刻畫的動力系統(tǒng)是至關(guān)重要的. 這些參數(shù)在通常情況不能被直接測量, 它們必須從帶有噪聲的觀測數(shù)據(jù)中推斷或者估計(jì)出來. 盡管最小二乘法具有良好的理論特性, 但它在實(shí)際研究中還是有許多局限性.如果(1-1)是一個(gè)非線性高維系統(tǒng)（或  是高維的）, 那么最小二乘法的性能在實(shí)踐中將會大大降低. 在這種情況下, 我們就不得不面臨許多非線性優(yōu)化問題, 在高維參數(shù)空間中搜索最小二乘準(zhǔn)則函數(shù)nR 的一個(gè)全局最小值, 其搜索過程往往是通過某種基于梯度的方法來完成的, 如 Levenberg-Marquardt 方法[2], 或者通過隨機(jī)搜索辦法來實(shí)現(xiàn). 由于非線性系統(tǒng)并沒有一個(gè)封閉的解, 因此在采用基于梯度的方法來搜索時(shí), 必然會遇到計(jì)算積分的巨大困難. 同樣的, 隨機(jī)搜索方法在此問題上也是不可避免的, 用貝葉斯方法[3-4]估計(jì) 的值也會遭遇龐大計(jì)算量的問題.然而, 無論是最小二乘法還是貝葉斯方法, 都需要一個(gè)較為精確的參數(shù)初始值, 否則這兩個(gè)方法就很難在合理的時(shí)間內(nèi)收斂到真實(shí)值. 多年來對傳統(tǒng)方法的改進(jìn)算法已經(jīng)在很多文獻(xiàn)中提出, 特別是用于大規(guī)模非線性規(guī)劃的多射法和內(nèi)點(diǎn)或障礙方法[5]已被證明是相當(dāng)成功的方法. 這兩種方法往往比經(jīng)典的基于梯度的方法穩(wěn)定得多, 即使從一個(gè)較差的初始值也能收斂到真實(shí)值, 并且一般需要的迭代次數(shù)也相對較少. 事實(shí)上, 這些方法仍然需要依靠巨大的計(jì)算量才能完成.
…………

1.2 本文的主要工作和內(nèi)容安排
目前, 常微分方程的統(tǒng)計(jì)推斷問題還有巨大的研究空間. 就參數(shù)估計(jì)問題來說, 傳統(tǒng)算法的計(jì)算量都是非常大的, 因此要在此基礎(chǔ)上進(jìn)行統(tǒng)計(jì)診斷研究將會成為一個(gè)更加困難的課題. 因此本文將基于兩步估計(jì)法研究非線性常微分方程的統(tǒng)計(jì)推斷問題.本文首先根據(jù)兩步估計(jì)法, 把樣條基函數(shù)引入非線性常微分方程的參數(shù)估計(jì)中做進(jìn)一步的驗(yàn)證. 文中選擇B 樣條基函數(shù)對兩步估計(jì)法進(jìn)行理論推導(dǎo), 之后以捕食模型為例進(jìn)行模擬實(shí)驗(yàn)和實(shí)例研究, 通過具體實(shí)驗(yàn)再次檢驗(yàn)兩步估計(jì)法的有效性. 然后在兩步估計(jì)法的基礎(chǔ)上, 分別討論基于數(shù)據(jù)刪除模型和擾動模型的統(tǒng)計(jì)診斷問題. 同樣用捕食模型的模擬和實(shí)際數(shù)據(jù)驗(yàn)證算法的可行性和有效性. 最后, 基于兩步估計(jì)法考慮了常微分方程數(shù)據(jù)變換的參數(shù)估計(jì)問題, 并分別完成了基于對狀態(tài)變量變換和時(shí)間變換的探究, 同時(shí)以捕食模型為例做了相應(yīng)的實(shí)驗(yàn).
……..

第二章 非線性 ODE 的兩步估計(jì)

2.1概述
對非線性 ODE 而言, 在觀測數(shù)據(jù)有噪聲或干擾的情況下, 經(jīng)典的參數(shù)估計(jì)方法采用NLS方法解決. 因?yàn)榍蠓匠痰慕馕鼋馐呛芾щy的, 而數(shù)值解計(jì)算量非常大,若要在此基礎(chǔ)上進(jìn)行統(tǒng)計(jì)診斷研究就更加困難了. Ramsay（2007）引入樣條基函數(shù)的概念, 提出一種新的常微分方程參數(shù)估計(jì)法[9-10]. 該方法是在一種修正的數(shù)據(jù)光滑法和推廣的截面估計(jì)法的基礎(chǔ)上提出來的. 作者通過化學(xué)工程和神經(jīng)學(xué)的實(shí)驗(yàn)論證了該方法是合理的. 這一方法的提出為常微分方程的參數(shù)估計(jì)問題開辟了新道路. Zho（u2012）基于 HIV模型進(jìn)一步討論了常微分方程的兩步估計(jì)法[11-12],同時(shí)構(gòu)造出用于統(tǒng)計(jì)診斷的 Cook 統(tǒng)計(jì)量. 文中通過對模擬數(shù)據(jù)和臨床數(shù)據(jù)的研究發(fā)現(xiàn)該統(tǒng)計(jì)量能夠有效檢測出一定程度的偏移, 并且發(fā)現(xiàn)數(shù)據(jù)的邊界點(diǎn)對 HIV模型的參數(shù)估計(jì)影響比內(nèi)部數(shù)據(jù)更大. 作者指出該方法也可推廣到其他線性常微分方程模型的統(tǒng)計(jì)診斷問題中. Han（2013）對基于遞歸濾波算法的非線性狀態(tài)空間模型的統(tǒng)計(jì)推斷法進(jìn)行了深入的研究[13], 作者利用狀態(tài)空間概念對HIV動力系統(tǒng)進(jìn)行深入討論.本章將通過模擬數(shù)據(jù)和實(shí)際數(shù)據(jù)對非線性 ODE 的兩步估計(jì)法的合理性進(jìn)行驗(yàn)證. 第一節(jié)介紹兩步估計(jì)法的基本步驟, 導(dǎo)出計(jì)算公式. 第二、三節(jié)以捕食模型為例分別進(jìn)行模擬和實(shí)例分析, 進(jìn)一步說明算法的可行性和有效性. 這將為第三章的統(tǒng)計(jì)診斷和第四章的數(shù)據(jù)變換等研究奠定基礎(chǔ).
……….

2.2 模擬實(shí)驗(yàn)
上一節(jié)介紹了非線性 ODE 的兩步估計(jì)法. 從理論上看是可行的. 為了進(jìn)一步驗(yàn)證其有效性, 本節(jié)以捕食模型[40]為例進(jìn)行具體的模擬實(shí)驗(yàn).大自然中的不同種群間存在一種很有趣的生存方式, 它們之間既有相互依存的關(guān)系, 同時(shí)又有制約關(guān)系. 種群 A依靠自然資源生存, 對于種群B , 則靠捕食種群 A為生. 就如野兔和山貓、食用魚和鯊魚、落葉松和蚜蟲等. 種群 A和種群B 在生態(tài)學(xué)上分別被稱食餌(Prey)和捕食者(Predator), 兩者對于該系統(tǒng)都是不可或缺的, 共同組成了食餌—捕食者系統(tǒng)（簡稱 P-P 系統(tǒng)）, 整體地看, 各個(gè)參數(shù)的估計(jì)值在以上不同情況下都是很精確的. 具體地看,若對每個(gè)表格單獨(dú)分析可知: 在噪聲相同的情況下, 觀測點(diǎn)個(gè)數(shù)越多, 參數(shù)的估計(jì)越精確; 若對表格再進(jìn)行縱向比較, 我們發(fā)現(xiàn): 在觀測點(diǎn)個(gè)數(shù)相同的情況下,噪聲越小, 參數(shù)的估計(jì)越精確, 這一結(jié)論很符合實(shí)際.

第三章 基于兩步估計(jì)的 ODE 統(tǒng)計(jì)診斷.......... 13
3.1 數(shù)據(jù)刪除模型....... 13
3.1.1 統(tǒng)計(jì)診斷簡介..... 13
3.1.2 數(shù)據(jù)刪除模型的基本思想.......... 16
3.1.3 廣義 Cook 距離和 Cook 距離..... 17
3.2 基于數(shù)據(jù)刪除模型的 ODE 統(tǒng)計(jì)診斷.......... 19
3.3 擾動模型 ...... 22
3.4 基于擾動模型的 ODE 統(tǒng)計(jì)診斷.......... 24
3.5 模擬實(shí)驗(yàn) ...... 26
3.6 實(shí)例研究 ...... 28
第四章 基于兩步估計(jì)的 ODE 數(shù)據(jù)變換.......... 31
4.1 數(shù)據(jù)變換模型....... 31
4.2 狀態(tài)變量變換....... 35
4.3 時(shí)間變換.......36
4.4 模擬實(shí)驗(yàn).......38
4.5 實(shí)例研究.......41

第四章 基于兩步估計(jì)的 ODE 數(shù)據(jù)變換

第三章研究了 ODE 的兩種統(tǒng)計(jì)診斷方法, 如果數(shù)據(jù)經(jīng)過統(tǒng)計(jì)診斷發(fā)現(xiàn)的問題比較多, 那么就不能簡單地刪除一兩個(gè)有問題的點(diǎn)來改善擬合. 其次, 如果直接對觀測數(shù)據(jù)進(jìn)行擬合的效果并不理想, 那么在此基礎(chǔ)上進(jìn)行統(tǒng)計(jì)診斷也就不會得到很好的效果. 近年來的實(shí)踐證明, 數(shù)據(jù)變換在處理這些問題方面能發(fā)揮巨大的作用.本章基于兩步估計(jì)法, 對常微分方程的數(shù)據(jù)變換問題進(jìn)行詳細(xì)討論. 第一節(jié)介紹了數(shù)據(jù)變換模型的基本思想, 為下文做好理論工作. 第二、三節(jié)分別從狀態(tài)變量變換和時(shí)間變換這兩個(gè)方面估計(jì)變換參數(shù), 從而選擇更適合于數(shù)據(jù)的變換來改進(jìn)擬合效果. 第四、五節(jié)仍以捕食模型為例進(jìn)行模擬和實(shí)例研究, 從實(shí)驗(yàn)的角度證明算法的有效性.
………..

結(jié)束語

非線性常微分方程模型已應(yīng)用到各個(gè)領(lǐng)域的實(shí)際研究中, 比如生物學(xué)和醫(yī)學(xué)等. Ramsay 在其文章中首次將樣條基函數(shù)引入到微分方程中, 為常微分方程的參數(shù)估計(jì)提供了很好的方法. 本文根據(jù)常微分方程的兩步估計(jì)法, 選擇B 樣條基函數(shù), 以非線性常微分方程為研究背景, 詳細(xì)討論了基于兩步估計(jì)法的統(tǒng)計(jì)診斷方法以及常微分方程的數(shù)據(jù)變換問題.文章首先介紹了常微分方程的兩步估計(jì)法, 以捕食模型為例, 分別進(jìn)行了模擬實(shí)驗(yàn)和實(shí)例研究. 為了反應(yīng)噪聲和觀測點(diǎn)個(gè)數(shù)對參數(shù)估計(jì)的影響, 文章在兩部估計(jì)法的模擬實(shí)驗(yàn)中選擇了三種不同的噪聲和觀測點(diǎn)個(gè)數(shù)依次進(jìn)行實(shí)驗(yàn), 再次證明了兩步估計(jì)法的可行性和有效性. 模擬結(jié)果顯示, 在不同噪聲和觀測點(diǎn)個(gè)數(shù)下的參數(shù)估計(jì)都很精確, 并且算法的運(yùn)行效果良好. 與傳統(tǒng)的參數(shù)估計(jì)方法相比,兩步估計(jì)法可直接根據(jù)帶有噪聲的觀測數(shù)據(jù), 對模型的參數(shù)進(jìn)行準(zhǔn)確估計(jì), 避免了以往分析非線性方程中有可能會碰到的一些艱深的理論問題. 另外根據(jù)該算法對加拿大山貓數(shù)據(jù)進(jìn)行了具體實(shí)驗(yàn), 估計(jì)出模型中的參數(shù), 從擬合結(jié)果看效果也是大致合理的. 對基于兩步估計(jì)法的統(tǒng)計(jì)診斷問題的研究是本文的主要工作之一. 在該部分, 本文給出了基于兩個(gè)模型的廣義 Cook 距離, 這使統(tǒng)計(jì)診斷的效率大大提高. 在該部分模擬實(shí)驗(yàn)中為了研究不同偏移對統(tǒng)計(jì)診斷結(jié)果的影響,分別對兩種不同的偏移進(jìn)行了實(shí)驗(yàn), 其結(jié)果充分表明了基于數(shù)據(jù)刪除模型和擾動模型的統(tǒng)計(jì)診斷方法是可行有效性的, 能夠準(zhǔn)確地探測到數(shù)據(jù)中存在的異常點(diǎn). 由實(shí)驗(yàn)結(jié)果還可得出這樣的結(jié)論: 在人為偏移較大時(shí), 檢測效果比偏移較小的情況明顯的多. 該統(tǒng)計(jì)診斷方法也通過對實(shí)際數(shù)據(jù)的實(shí)驗(yàn)得到檢驗(yàn).
…………
參考文獻(xiàn)（略）