基于增強(qiáng)學(xué)習(xí)的醫(yī)學(xué)圖像病變區(qū)域提取方法研究
發(fā)布時間:2021-01-05 18:42
醫(yī)學(xué)圖像處理在醫(yī)學(xué)診斷、臨床治療等方面起著重要的作用,但目前醫(yī)學(xué)圖像的分析和診斷主要是靠放射科醫(yī)師人工閱片完成。受制于落后地區(qū)醫(yī)療水平的限制、病人病理學(xué)的個體差異等諸多因素,傳統(tǒng)的人工閱片存在著極大挑戰(zhàn),使得實現(xiàn)一個能夠自動化準(zhǔn)確提取出醫(yī)學(xué)圖像中病變區(qū)域的技術(shù)至關(guān)重要。另一方面,增強(qiáng)學(xué)習(xí)正在越來越廣泛的領(lǐng)域嶄露頭角,例如游戲博弈、機(jī)器視覺等,在某些領(lǐng)域內(nèi)甚至達(dá)到了超越人類的表現(xiàn),被認(rèn)為是邁向人工智能的重要途徑,因此,增強(qiáng)學(xué)習(xí)具備了被應(yīng)用至醫(yī)學(xué)圖像處理領(lǐng)域的潛力。基于上述原因,本文探究了增強(qiáng)學(xué)習(xí)在醫(yī)學(xué)圖像病變區(qū)域提取中的應(yīng)用。具體而言,本文構(gòu)建了基于增強(qiáng)學(xué)習(xí)的模型,用于BRATS數(shù)據(jù)集的腦腫瘤分割任務(wù),其主要工作如下:(1)對BRATS數(shù)據(jù)集進(jìn)行相關(guān)的分析及預(yù)處理,預(yù)處理包含數(shù)據(jù)標(biāo)準(zhǔn)化和數(shù)據(jù)增強(qiáng)兩個方面。對此,本文探究了幾種主流的處理技術(shù),并通過相關(guān)實驗驗證了Z-score標(biāo)準(zhǔn)化、隨機(jī)旋轉(zhuǎn)、隨機(jī)鏡像翻轉(zhuǎn)的有效性。(2)通過探究分析Mask R-CNN系列模型,提出了一個增強(qiáng)語義分割框架RSF,用于融合語義分割網(wǎng)絡(luò)和增強(qiáng)學(xué)習(xí)網(wǎng)絡(luò),該模型的共享特征提取基干和語義分割分支可以采用任意的主流網(wǎng)絡(luò)...
【文章來源】:電子科技大學(xué)四川省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:94 頁
【學(xué)位級別】:碩士
【部分圖文】:
VGG的改進(jìn)及整體架構(gòu)(a)連續(xù)小卷積代替大卷積;(b)整體架構(gòu)
第二章技術(shù)理論與相關(guān)工作11的值,而舍棄“殘差映射”分支的值,即,在BP訓(xùn)練的階段,“殘差映射”分支中的權(quán)值會被逐漸地更新至0.0。因此,對于ResNet而言,若網(wǎng)絡(luò)已達(dá)到最優(yōu),此時再繼續(xù)加深網(wǎng)絡(luò),新增的殘差單元的“殘差映射”分支輸出值將為0,從而不會損害網(wǎng)絡(luò)性能,使得網(wǎng)絡(luò)一直處于最優(yōu)狀態(tài)。圖2-2ResNet殘差單元示意圖此外,殘差結(jié)構(gòu)還有另一個優(yōu)點,其易于訓(xùn)練,能夠使整體網(wǎng)絡(luò)更快收斂。殘差結(jié)構(gòu)的公式推導(dǎo)如式(2-2)所示。11(,)(,)llllLLliiilxxFxwxxFxw(2-2)其中,lx和l1x分別為第l個殘差單元的輸入和輸出,若連續(xù)堆疊L1個殘差單元,那么遞歸地將上述第一個式子帶入,得到上述第二個公式,即為殘差結(jié)構(gòu)的整體公式。根據(jù)鏈?zhǔn)角髮?dǎo)法則,計算其反向傳播的梯度更新公式,如式(2-3)所示。11(,)LLiilLlLlillosslossxlossFxwxxxxx(2-3)在上述公式中,小括號里的“1”即表示,其可以無損地傳播梯度,而這正是“恒等映射”所對應(yīng)的梯度;與之相加的另一項則是“殘差映射”所對應(yīng)的梯度,這部分的梯度需要經(jīng)過若干權(quán)重層才會最終得到,并且不會恰好全都為-1。因此,就算“殘差映射”部分的梯度非常小甚至為0,由于有“恒等映射”部分的恒定梯度1存在,其總體的梯度也不會消失,因此能夠抑制“梯度彌散”的發(fā)生,使網(wǎng)絡(luò)易于更新權(quán)重、快速收斂。不僅如此,何凱明團(tuán)隊還針對原始的殘差結(jié)構(gòu)提出了一種改進(jìn)形式,稱作“瓶
電子科技大學(xué)碩士學(xué)位論文12頸結(jié)構(gòu)(BottleneckDesign)”,如圖2-3所示。從左至右分別是:通道數(shù)為64的原始結(jié)構(gòu)(raw-64d)、通道數(shù)為256的瓶頸結(jié)構(gòu)(bottleneck-256d)、通道數(shù)為256的原始結(jié)構(gòu)(raw-256d)。圖2-3ResNet瓶頸結(jié)構(gòu)示意圖從圖中不難看出,瓶頸結(jié)構(gòu)改進(jìn)了原始結(jié)構(gòu)中的“殘差映射”分支,具體地,輸入首先經(jīng)過一個1*1大小且通道數(shù)為原始通道數(shù)四分之一的卷積進(jìn)行特征降維,再經(jīng)過一個3*3大小且通道數(shù)為原始通道數(shù)四分之一的卷積提取新特征,最后經(jīng)過一個1*1大小且通道數(shù)為原始通道數(shù)的卷積將新提取特征還原至原始的特征通道數(shù)。對比raw-64d和bottleneck-256d,不難發(fā)現(xiàn)bottleneck-256d在保證參數(shù)量幾乎不變(甚至更少)的情況下,拓寬了特征通道數(shù),這使得在保證參數(shù)量規(guī)模不變的情況下,增強(qiáng)了網(wǎng)絡(luò)的學(xué)習(xí)能力;對比raw-256d和bottleneck-256d,不難發(fā)現(xiàn)bottleneck-256d能夠在維持特征通道數(shù)不變的情況下,大幅降低參數(shù)量消耗(約17倍),這使得網(wǎng)絡(luò)在保證性能的情況下更加易于訓(xùn)練。簡而言之,瓶頸結(jié)構(gòu)通過“特征降維,特征提取,還原特征通道數(shù)”的方式,降低原始結(jié)構(gòu)中的參數(shù)量,使得ResNet的網(wǎng)絡(luò)結(jié)構(gòu)得到進(jìn)一步的加深。至此,ResNet50和ResNet101成為了目前處理計算機(jī)視覺任務(wù)的首選基干模型。例如,著名的二階段(Two-stage)目標(biāo)檢測網(wǎng)絡(luò)R-CNN系列,其最新的研究成果FasterR-CNN、MaskR-CNN以及全景分割基干網(wǎng)絡(luò)PanopticFPN中,都采用了ResNet作為網(wǎng)絡(luò)的特征提取基干。2.2增強(qiáng)學(xué)習(xí)增強(qiáng)學(xué)習(xí)是機(jī)器學(xué)習(xí)領(lǐng)域的另一條重要分支,與端到端一站式處理目標(biāo)任務(wù)的
【參考文獻(xiàn)】:
期刊論文
[1]深度學(xué)習(xí)在醫(yī)學(xué)圖像分析中的應(yīng)用研究綜述[J]. 黃江珊,王秀紅. 圖書情報研究. 2019(02)
[2]卷積神經(jīng)網(wǎng)絡(luò)及其在醫(yī)學(xué)圖像分析中的應(yīng)用研究[J]. 梁蒙蒙,周濤,張飛飛,楊健,夏勇. 生物醫(yī)學(xué)工程學(xué)雜志. 2018(06)
[3]醫(yī)學(xué)影像技術(shù)在醫(yī)學(xué)影像診斷中的臨床應(yīng)用分析[J]. 何飛. 智慧健康. 2018(36)
[4]基于深度學(xué)習(xí)的醫(yī)學(xué)影像診斷綜述[J]. 張巧麗,趙地,遲學(xué)斌. 計算機(jī)科學(xué). 2017(S2)
[5]大數(shù)據(jù)時代下深度學(xué)習(xí)理論綜述[J]. 邱俊玲. 智能制造. 2017(08)
[6]深度學(xué)習(xí)研究綜述[J]. 尹寶才,王文通,王立春. 北京工業(yè)大學(xué)學(xué)報. 2015(01)
本文編號:2959109
【文章來源】:電子科技大學(xué)四川省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:94 頁
【學(xué)位級別】:碩士
【部分圖文】:
VGG的改進(jìn)及整體架構(gòu)(a)連續(xù)小卷積代替大卷積;(b)整體架構(gòu)
第二章技術(shù)理論與相關(guān)工作11的值,而舍棄“殘差映射”分支的值,即,在BP訓(xùn)練的階段,“殘差映射”分支中的權(quán)值會被逐漸地更新至0.0。因此,對于ResNet而言,若網(wǎng)絡(luò)已達(dá)到最優(yōu),此時再繼續(xù)加深網(wǎng)絡(luò),新增的殘差單元的“殘差映射”分支輸出值將為0,從而不會損害網(wǎng)絡(luò)性能,使得網(wǎng)絡(luò)一直處于最優(yōu)狀態(tài)。圖2-2ResNet殘差單元示意圖此外,殘差結(jié)構(gòu)還有另一個優(yōu)點,其易于訓(xùn)練,能夠使整體網(wǎng)絡(luò)更快收斂。殘差結(jié)構(gòu)的公式推導(dǎo)如式(2-2)所示。11(,)(,)llllLLliiilxxFxwxxFxw(2-2)其中,lx和l1x分別為第l個殘差單元的輸入和輸出,若連續(xù)堆疊L1個殘差單元,那么遞歸地將上述第一個式子帶入,得到上述第二個公式,即為殘差結(jié)構(gòu)的整體公式。根據(jù)鏈?zhǔn)角髮?dǎo)法則,計算其反向傳播的梯度更新公式,如式(2-3)所示。11(,)LLiilLlLlillosslossxlossFxwxxxxx(2-3)在上述公式中,小括號里的“1”即表示,其可以無損地傳播梯度,而這正是“恒等映射”所對應(yīng)的梯度;與之相加的另一項則是“殘差映射”所對應(yīng)的梯度,這部分的梯度需要經(jīng)過若干權(quán)重層才會最終得到,并且不會恰好全都為-1。因此,就算“殘差映射”部分的梯度非常小甚至為0,由于有“恒等映射”部分的恒定梯度1存在,其總體的梯度也不會消失,因此能夠抑制“梯度彌散”的發(fā)生,使網(wǎng)絡(luò)易于更新權(quán)重、快速收斂。不僅如此,何凱明團(tuán)隊還針對原始的殘差結(jié)構(gòu)提出了一種改進(jìn)形式,稱作“瓶
電子科技大學(xué)碩士學(xué)位論文12頸結(jié)構(gòu)(BottleneckDesign)”,如圖2-3所示。從左至右分別是:通道數(shù)為64的原始結(jié)構(gòu)(raw-64d)、通道數(shù)為256的瓶頸結(jié)構(gòu)(bottleneck-256d)、通道數(shù)為256的原始結(jié)構(gòu)(raw-256d)。圖2-3ResNet瓶頸結(jié)構(gòu)示意圖從圖中不難看出,瓶頸結(jié)構(gòu)改進(jìn)了原始結(jié)構(gòu)中的“殘差映射”分支,具體地,輸入首先經(jīng)過一個1*1大小且通道數(shù)為原始通道數(shù)四分之一的卷積進(jìn)行特征降維,再經(jīng)過一個3*3大小且通道數(shù)為原始通道數(shù)四分之一的卷積提取新特征,最后經(jīng)過一個1*1大小且通道數(shù)為原始通道數(shù)的卷積將新提取特征還原至原始的特征通道數(shù)。對比raw-64d和bottleneck-256d,不難發(fā)現(xiàn)bottleneck-256d在保證參數(shù)量幾乎不變(甚至更少)的情況下,拓寬了特征通道數(shù),這使得在保證參數(shù)量規(guī)模不變的情況下,增強(qiáng)了網(wǎng)絡(luò)的學(xué)習(xí)能力;對比raw-256d和bottleneck-256d,不難發(fā)現(xiàn)bottleneck-256d能夠在維持特征通道數(shù)不變的情況下,大幅降低參數(shù)量消耗(約17倍),這使得網(wǎng)絡(luò)在保證性能的情況下更加易于訓(xùn)練。簡而言之,瓶頸結(jié)構(gòu)通過“特征降維,特征提取,還原特征通道數(shù)”的方式,降低原始結(jié)構(gòu)中的參數(shù)量,使得ResNet的網(wǎng)絡(luò)結(jié)構(gòu)得到進(jìn)一步的加深。至此,ResNet50和ResNet101成為了目前處理計算機(jī)視覺任務(wù)的首選基干模型。例如,著名的二階段(Two-stage)目標(biāo)檢測網(wǎng)絡(luò)R-CNN系列,其最新的研究成果FasterR-CNN、MaskR-CNN以及全景分割基干網(wǎng)絡(luò)PanopticFPN中,都采用了ResNet作為網(wǎng)絡(luò)的特征提取基干。2.2增強(qiáng)學(xué)習(xí)增強(qiáng)學(xué)習(xí)是機(jī)器學(xué)習(xí)領(lǐng)域的另一條重要分支,與端到端一站式處理目標(biāo)任務(wù)的
【參考文獻(xiàn)】:
期刊論文
[1]深度學(xué)習(xí)在醫(yī)學(xué)圖像分析中的應(yīng)用研究綜述[J]. 黃江珊,王秀紅. 圖書情報研究. 2019(02)
[2]卷積神經(jīng)網(wǎng)絡(luò)及其在醫(yī)學(xué)圖像分析中的應(yīng)用研究[J]. 梁蒙蒙,周濤,張飛飛,楊健,夏勇. 生物醫(yī)學(xué)工程學(xué)雜志. 2018(06)
[3]醫(yī)學(xué)影像技術(shù)在醫(yī)學(xué)影像診斷中的臨床應(yīng)用分析[J]. 何飛. 智慧健康. 2018(36)
[4]基于深度學(xué)習(xí)的醫(yī)學(xué)影像診斷綜述[J]. 張巧麗,趙地,遲學(xué)斌. 計算機(jī)科學(xué). 2017(S2)
[5]大數(shù)據(jù)時代下深度學(xué)習(xí)理論綜述[J]. 邱俊玲. 智能制造. 2017(08)
[6]深度學(xué)習(xí)研究綜述[J]. 尹寶才,王文通,王立春. 北京工業(yè)大學(xué)學(xué)報. 2015(01)
本文編號:2959109
本文鏈接:http://sikaile.net/guanlilunwen/lindaojc/2959109.html
最近更新
教材專著