目前,深度學(xué)習(xí)特別是卷積神經(jīng)網(wǎng)絡(luò)已經(jīng)成功應(yīng)用到了自然圖像和醫(yī)學(xué)圖像分割任務(wù)中。深度卷積神經(jīng)網(wǎng)絡(luò)可以自動地從圖像中提取特征,且自動提取的特征可以更好地應(yīng)用到相關(guān)任務(wù)中。訓(xùn)練基于卷積神經(jīng)網(wǎng)絡(luò)的圖像分割模型往往需要大量的訓(xùn)練數(shù)據(jù),但在醫(yī)學(xué)圖像分割任務(wù)中,擁有像素級標(biāo)記的訓(xùn)練數(shù)據(jù)非常少,從而制約了卷積神經(jīng)網(wǎng)絡(luò)在醫(yī)學(xué)圖像分割任務(wù)上的應(yīng)用。為了充分發(fā)揮卷積神經(jīng)網(wǎng)絡(luò)在圖像分割任務(wù)中的優(yōu)勢,本文提出了基于委員會查詢（Query-by-committee）的自步多樣性學(xué)習(xí)（Self-paced Learning with Diversity）算法。該算法可以通過選擇從簡單到復(fù)雜的數(shù)據(jù)訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)模型,提升基于卷積神經(jīng)網(wǎng)絡(luò)的醫(yī)學(xué)圖像分割模型的性能。本文提出的自步多樣性學(xué)習(xí)算法模擬學(xué)生學(xué)習(xí)的過程,即由易到難的學(xué)習(xí)知識,充分利用有限的標(biāo)注數(shù)據(jù),在保證知識多樣性的同時(shí),提升算法的準(zhǔn)確性。本文的工作主要包括以下方面:（1）本文提出了基于委員會查詢的自步多樣性學(xué)習(xí)算法框架。該框架使用委員會查詢算法實(shí)現(xiàn)了訓(xùn)練數(shù)據(jù)的選擇,并按照由易到難的順序?qū)⒂?xùn)練數(shù)據(jù)輸入到模型中,提升模型的性能。同時(shí),該框架使用仿射傳播的聚類算法... 

【文章來源】：西北大學(xué)陜西省 211工程院校

【文章頁數(shù)】：63 頁

【學(xué)位級別】：碩士

【部分圖文】：

論文的組織框架

西北大學(xué)碩士學(xué)位論文12習(xí)方法，并且是大數(shù)據(jù)驅(qū)動的方法，在一定范圍內(nèi)數(shù)據(jù)量越大，且數(shù)據(jù)之間的差異性越大，深度學(xué)習(xí)模型可以取得更好的模型性能。這其中暗示了深度學(xué)習(xí)算法需要大量的訓(xùn)練數(shù)據(jù)，而標(biāo)記這些數(shù)據(jù)是耗時(shí)耗力、且乏味枯燥的。因此，如果能將主動學(xué)習(xí)算法嵌入到深度學(xué)習(xí)模型之中，則可以大大減少數(shù)據(jù)標(biāo)記的時(shí)間、經(jīng)濟(jì)成本，并在有限的時(shí)間內(nèi)完成深度學(xué)習(xí)模型的搭建。2.2.1主動學(xué)習(xí)框架主動學(xué)習(xí)算法遵循的框架如圖2所示。圖2主動學(xué)習(xí)算法流程圖在圖2中，說明了主動學(xué)習(xí)經(jīng)典的算法流程。通常情況下，主動學(xué)習(xí)通常包含一個(gè)Oracle、一個(gè)機(jī)器學(xué)習(xí)模型以及帶有標(biāo)記的訓(xùn)練數(shù)據(jù)集和不帶有標(biāo)記的訓(xùn)練數(shù)據(jù)集。一個(gè)完整的主動學(xué)習(xí)流程為，使用目前帶有標(biāo)記的數(shù)據(jù)訓(xùn)練機(jī)器學(xué)習(xí)模型；將模型中的參數(shù)進(jìn)行優(yōu)化之后使用一定的數(shù)據(jù)查詢策略，在不含有標(biāo)記的訓(xùn)練數(shù)據(jù)中挑選對模型訓(xùn)練作用最大的數(shù)據(jù)進(jìn)行查詢請求；Oracle接收到數(shù)據(jù)的查詢請求之后，對需要標(biāo)注的數(shù)據(jù)進(jìn)行人工標(biāo)記，并將標(biāo)記好的數(shù)據(jù)添加到帶有標(biāo)記的數(shù)據(jù)集中。主動學(xué)習(xí)算法如圖2進(jìn)行多次迭代，直到模型收斂或不含有標(biāo)記的數(shù)據(jù)全部被標(biāo)記之后停止循

第二章自步多樣性相關(guān)理論與算法17模型中已經(jīng)提取的特征進(jìn)行了保存，防止了特征丟失。U-Net網(wǎng)絡(luò)在醫(yī)學(xué)圖像分割，如細(xì)胞分割、細(xì)胞壁分割、視網(wǎng)膜血管分割、胸部器官分割等醫(yī)學(xué)問題上取得了強(qiáng)大的性能。U-Net最初被提出時(shí)是應(yīng)用在2D圖像上的分割模型，隨后經(jīng)過改進(jìn)，應(yīng)用到了3D的醫(yī)學(xué)圖像中。通常情況下，3D的U-Net[39]也被稱為V-Net[40]，使用3D卷積實(shí)現(xiàn)對3D醫(yī)學(xué)圖像的分割任務(wù)。傳統(tǒng)的U-Net網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。圖3U-Net示意圖[38]在圖3中，U-Net網(wǎng)絡(luò)中包含一個(gè)含有最大池化層的下采樣編碼器和一個(gè)含有上采樣層的解碼器。編碼器中特征圖的個(gè)數(shù)隨著網(wǎng)絡(luò)的加深逐漸增加，而特征圖的大小隨著網(wǎng)絡(luò)的加深逐漸減��；在解碼器中，特征圖的個(gè)數(shù)和大小變化情況與編碼器相反。隨著網(wǎng)絡(luò)層數(shù)的增加，模型提取的特征由淺層特征變?yōu)樯顚犹卣�。通常情況下，CNN網(wǎng)絡(luò)中淺層特征包括使用卷積核提取的邊緣特征，而深層特征與模型最后的分類任務(wù)相關(guān)。在對深度學(xué)習(xí)特征分析的過程中，通常需要對深層特征進(jìn)行分析：這是因?yàn)�，淺層的邊緣特征等可以通過傳統(tǒng)的圖像濾波器提取，僅對淺層特征分析無法充分利用CNN網(wǎng)絡(luò)自動提取的深層特征。在醫(yī)學(xué)圖像中，分割目標(biāo)大小相比于自然圖像中的物體較小，在使用下采樣層對特征圖進(jìn)行縮放的過程中經(jīng)常會導(dǎo)致特征丟失。例如，假設(shè)原始圖像中有16*16的球體，經(jīng)過4次下采樣之后將會縮放為一個(gè)1*1的像素點(diǎn)，信息在深層網(wǎng)絡(luò)中已經(jīng)丟失。雖然

【參考文獻(xiàn)】：
期刊論文
[1]利用TCGA數(shù)據(jù)庫分析Calpain-9在結(jié)腸癌中的表達(dá)及臨床意義[J]. 田文武,張先林,盧建明,楊曉東.  武漢大學(xué)學(xué)報(bào)(醫(yī)學(xué)版). 2019(02)



本文編號：3369147