卷積神經(jīng)網(wǎng)絡(luò)與遷移學(xué)習(xí)的顱腦癌癥識別方法的研究
發(fā)布時間:2021-08-13 18:56
目的探討深度卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)聯(lián)合遷移學(xué)習(xí)(Transfer Learning,TL)輔助識別診斷顱腦癌癥的方法。方法介紹了深度CNN、TL基本原理,建立深度CNN聯(lián)合TL模型,使用FCNN、CNN、AlexNet、VGGNet、GoogLeNet、AlexNet-TL、VGGNet-TL以及GoogLeNet-TL模型對我院顱腦CT圖像進(jìn)行分類,并使用靈敏度、特異性以及準(zhǔn)確率為評價指標(biāo)對不同方法性能進(jìn)行評定。結(jié)果隨機(jī)初始化網(wǎng)絡(luò)參數(shù)的FCNN、CNN、AlexNet、VGGNet以及GoogleNet模型腦腫瘤模式識別準(zhǔn)確率分別為70.2%、76.5%、82.7%、80.9%以及82.5%,而通過利用開源的大數(shù)據(jù)集ImageNet預(yù)訓(xùn)練深度CNN,優(yōu)化模型參數(shù)的AlexNet-TL、VGGNet-TL、GoogleNet-TL腦腫瘤模式識別準(zhǔn)確率分別為86.9%、90.2%以及93.4%。結(jié)論深度CNN聯(lián)合TL模型可實現(xiàn)對顱腦癌癥的智能識別和分類,有助于減少醫(yī)生工作強(qiáng)度,基于深度CNN聯(lián)合TL模型的顱腦癌癥輔助診斷識別方法有...
【文章來源】:中國醫(yī)療設(shè)備. 2020,35(09)
【文章頁數(shù)】:5 頁
【部分圖文】:
卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖
對CNN而言,通過卷積核不斷的對圖像進(jìn)行卷積運(yùn)算,逐層對圖像特征進(jìn)行學(xué)習(xí)和提取,并將低層圖像特征通過不斷卷積核池化轉(zhuǎn)變成高層表達(dá),隨著CNN卷積層數(shù)的增加,會導(dǎo)致圖像特征過度學(xué)習(xí)、過度擬合現(xiàn)象的產(chǎn)生。因此,本文使用Caffe框架搭建CNN,使用Image Net圖像大數(shù)據(jù)集對網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練,訓(xùn)練過程中可以將預(yù)訓(xùn)練模型當(dāng)做特征提取裝置來使用,具體的做法是,將輸出層去掉,然后將剩下的整個網(wǎng)絡(luò)當(dāng)做一個固定的特征提取機(jī),從而應(yīng)用到新的數(shù)據(jù)集中。使用Image Net預(yù)訓(xùn)練的模型可從Caffe Model Zoo網(wǎng)站下載、修改和使用。接著,基于不同的數(shù)據(jù)集進(jìn)行訓(xùn)練、驗證和測試。這是一個微調(diào)的過程。最后,我們將網(wǎng)絡(luò)參數(shù)設(shè)置為迭代次數(shù)104,動量因子為0.9,衰減參數(shù)為0.0005,初始的學(xué)習(xí)率為0.001,其它參數(shù)保持不變。得到CNN網(wǎng)絡(luò)參數(shù)和權(quán)重后將模型遷移至我院采集的腦腫瘤CT序列圖像數(shù)據(jù)訓(xùn)練集進(jìn)行進(jìn)一步訓(xùn)練,并及時修正模型權(quán)重和偏執(zhí)值。最后使用訓(xùn)練后的模型對腦腫瘤CT序列圖像數(shù)據(jù)測試集進(jìn)行測試。模型搭建過程見圖2所示。2 實驗設(shè)計與結(jié)果
本文使用Caffe框架,Tesla V00 GPU上訓(xùn)練,訓(xùn)練時間約為5 h,實驗結(jié)果如圖3和圖4所示。結(jié)果顯示,在不使用TL的情況下,Alex Net-TL模型、VGGNet-TL模型、Google Net-TL模型在靈敏度、特異性以及準(zhǔn)確率上均顯著高于隨機(jī)初始化網(wǎng)絡(luò)參數(shù)的FCNN模型、CNN模型、Alex Net模型、VGGNet模型以及Google Net模型。在數(shù)據(jù)集Image Net訓(xùn)練后的Goole Net-TL模型顱腦癌癥識別準(zhǔn)確率達(dá)93.4%,Alex Net-TL以及VGGNet-TL模型識別準(zhǔn)確率為86.9%和90.2%;未使用TL的FCNN模型、CNN模型、Alex Net模型、VGGNet模型以及Google Net模型模式識別率分別為70.2%、76.5%、82.7%、80.9%以及82.5%。Google Net-TL網(wǎng)絡(luò)訓(xùn)練損失曲線以及驗證曲線,見圖4。橫坐標(biāo)為Google Net-TL模型的訓(xùn)練迭代次數(shù),主縱坐標(biāo)為訓(xùn)練過程中損失值,次縱坐標(biāo)為驗證過程中的準(zhǔn)確率,當(dāng)Google Net-TL模型迭代4100后訓(xùn)練Loss收斂,訓(xùn)練過程中的顱腦驗證集驗證準(zhǔn)確率達(dá)96.5%。
【參考文獻(xiàn)】:
期刊論文
[1]基于深度遷移學(xué)習(xí)的肺結(jié)節(jié)輔助診斷方法[J]. 張馳名,王慶鳳,劉志勤,黃俊,周瑩,劉啟榆,徐衛(wèi)云. 計算機(jī)工程. 2020(01)
[2]深度學(xué)習(xí)算法在腦電信號解碼中的應(yīng)用[J]. 韋夢瑩,李琳玲,黃淦,唐翡,張治國. 中國生物醫(yī)學(xué)工程學(xué)報. 2019(04)
[3]基于ResNet深度網(wǎng)絡(luò)的人類蛋白質(zhì)圖譜圖像分類方法研究[J]. 常川. 醫(yī)學(xué)信息學(xué)雜志. 2019(07)
[4]深度遷移學(xué)習(xí)輔助的阿爾茲海默氏癥早期診斷[J]. 金祝新,秦飛巍,方美娥. 計算機(jī)應(yīng)用與軟件. 2019(05)
[5]深度學(xué)習(xí)在醫(yī)學(xué)超聲圖像分析中的應(yīng)用綜述[J]. 劉盛鋒,王毅,楊鑫,雷柏英,劉立,李享,倪東,汪天富. Engineering. 2019(02)
博士論文
[1]基于醫(yī)學(xué)高光譜影像分析的腫瘤組織分類方法研究[D]. 杜劍.中國科學(xué)院大學(xué)(中國科學(xué)院西安光學(xué)精密機(jī)械研究所) 2018
[2]卷積神經(jīng)網(wǎng)絡(luò)和遷移學(xué)習(xí)在癌癥影像分析中的研究[D]. 余紹德.中國科學(xué)院大學(xué)(中國科學(xué)院深圳先進(jìn)技術(shù)研究院) 2018
[3]面向醫(yī)學(xué)文獻(xiàn)的圖像模式識別關(guān)鍵技術(shù)研究[D]. 于玉海.大連理工大學(xué) 2018
碩士論文
[1]基于卷積神經(jīng)網(wǎng)絡(luò)的醫(yī)學(xué)圖像分類方法研究[D]. 史亮亮.河北科技大學(xué) 2019
[2]基于深度學(xué)習(xí)的醫(yī)學(xué)影像分析與標(biāo)注[D]. 冉靜.北京郵電大學(xué) 2019
[3]基于遷移學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測方法研究[D]. 趙玥.東北財經(jīng)大學(xué) 2018
[4]基于深度學(xué)習(xí)的MR圖像肝臟腫瘤自動化分割方法的研究[D]. 黃賽.南京大學(xué) 2018
[5]基于卷積神經(jīng)網(wǎng)絡(luò)和遷移學(xué)習(xí)的醫(yī)學(xué)影像輔助診斷研究[D]. 顧久馭.山東大學(xué) 2018
本文編號:3340964
【文章來源】:中國醫(yī)療設(shè)備. 2020,35(09)
【文章頁數(shù)】:5 頁
【部分圖文】:
卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖
對CNN而言,通過卷積核不斷的對圖像進(jìn)行卷積運(yùn)算,逐層對圖像特征進(jìn)行學(xué)習(xí)和提取,并將低層圖像特征通過不斷卷積核池化轉(zhuǎn)變成高層表達(dá),隨著CNN卷積層數(shù)的增加,會導(dǎo)致圖像特征過度學(xué)習(xí)、過度擬合現(xiàn)象的產(chǎn)生。因此,本文使用Caffe框架搭建CNN,使用Image Net圖像大數(shù)據(jù)集對網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練,訓(xùn)練過程中可以將預(yù)訓(xùn)練模型當(dāng)做特征提取裝置來使用,具體的做法是,將輸出層去掉,然后將剩下的整個網(wǎng)絡(luò)當(dāng)做一個固定的特征提取機(jī),從而應(yīng)用到新的數(shù)據(jù)集中。使用Image Net預(yù)訓(xùn)練的模型可從Caffe Model Zoo網(wǎng)站下載、修改和使用。接著,基于不同的數(shù)據(jù)集進(jìn)行訓(xùn)練、驗證和測試。這是一個微調(diào)的過程。最后,我們將網(wǎng)絡(luò)參數(shù)設(shè)置為迭代次數(shù)104,動量因子為0.9,衰減參數(shù)為0.0005,初始的學(xué)習(xí)率為0.001,其它參數(shù)保持不變。得到CNN網(wǎng)絡(luò)參數(shù)和權(quán)重后將模型遷移至我院采集的腦腫瘤CT序列圖像數(shù)據(jù)訓(xùn)練集進(jìn)行進(jìn)一步訓(xùn)練,并及時修正模型權(quán)重和偏執(zhí)值。最后使用訓(xùn)練后的模型對腦腫瘤CT序列圖像數(shù)據(jù)測試集進(jìn)行測試。模型搭建過程見圖2所示。2 實驗設(shè)計與結(jié)果
本文使用Caffe框架,Tesla V00 GPU上訓(xùn)練,訓(xùn)練時間約為5 h,實驗結(jié)果如圖3和圖4所示。結(jié)果顯示,在不使用TL的情況下,Alex Net-TL模型、VGGNet-TL模型、Google Net-TL模型在靈敏度、特異性以及準(zhǔn)確率上均顯著高于隨機(jī)初始化網(wǎng)絡(luò)參數(shù)的FCNN模型、CNN模型、Alex Net模型、VGGNet模型以及Google Net模型。在數(shù)據(jù)集Image Net訓(xùn)練后的Goole Net-TL模型顱腦癌癥識別準(zhǔn)確率達(dá)93.4%,Alex Net-TL以及VGGNet-TL模型識別準(zhǔn)確率為86.9%和90.2%;未使用TL的FCNN模型、CNN模型、Alex Net模型、VGGNet模型以及Google Net模型模式識別率分別為70.2%、76.5%、82.7%、80.9%以及82.5%。Google Net-TL網(wǎng)絡(luò)訓(xùn)練損失曲線以及驗證曲線,見圖4。橫坐標(biāo)為Google Net-TL模型的訓(xùn)練迭代次數(shù),主縱坐標(biāo)為訓(xùn)練過程中損失值,次縱坐標(biāo)為驗證過程中的準(zhǔn)確率,當(dāng)Google Net-TL模型迭代4100后訓(xùn)練Loss收斂,訓(xùn)練過程中的顱腦驗證集驗證準(zhǔn)確率達(dá)96.5%。
【參考文獻(xiàn)】:
期刊論文
[1]基于深度遷移學(xué)習(xí)的肺結(jié)節(jié)輔助診斷方法[J]. 張馳名,王慶鳳,劉志勤,黃俊,周瑩,劉啟榆,徐衛(wèi)云. 計算機(jī)工程. 2020(01)
[2]深度學(xué)習(xí)算法在腦電信號解碼中的應(yīng)用[J]. 韋夢瑩,李琳玲,黃淦,唐翡,張治國. 中國生物醫(yī)學(xué)工程學(xué)報. 2019(04)
[3]基于ResNet深度網(wǎng)絡(luò)的人類蛋白質(zhì)圖譜圖像分類方法研究[J]. 常川. 醫(yī)學(xué)信息學(xué)雜志. 2019(07)
[4]深度遷移學(xué)習(xí)輔助的阿爾茲海默氏癥早期診斷[J]. 金祝新,秦飛巍,方美娥. 計算機(jī)應(yīng)用與軟件. 2019(05)
[5]深度學(xué)習(xí)在醫(yī)學(xué)超聲圖像分析中的應(yīng)用綜述[J]. 劉盛鋒,王毅,楊鑫,雷柏英,劉立,李享,倪東,汪天富. Engineering. 2019(02)
博士論文
[1]基于醫(yī)學(xué)高光譜影像分析的腫瘤組織分類方法研究[D]. 杜劍.中國科學(xué)院大學(xué)(中國科學(xué)院西安光學(xué)精密機(jī)械研究所) 2018
[2]卷積神經(jīng)網(wǎng)絡(luò)和遷移學(xué)習(xí)在癌癥影像分析中的研究[D]. 余紹德.中國科學(xué)院大學(xué)(中國科學(xué)院深圳先進(jìn)技術(shù)研究院) 2018
[3]面向醫(yī)學(xué)文獻(xiàn)的圖像模式識別關(guān)鍵技術(shù)研究[D]. 于玉海.大連理工大學(xué) 2018
碩士論文
[1]基于卷積神經(jīng)網(wǎng)絡(luò)的醫(yī)學(xué)圖像分類方法研究[D]. 史亮亮.河北科技大學(xué) 2019
[2]基于深度學(xué)習(xí)的醫(yī)學(xué)影像分析與標(biāo)注[D]. 冉靜.北京郵電大學(xué) 2019
[3]基于遷移學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)的肺結(jié)節(jié)檢測方法研究[D]. 趙玥.東北財經(jīng)大學(xué) 2018
[4]基于深度學(xué)習(xí)的MR圖像肝臟腫瘤自動化分割方法的研究[D]. 黃賽.南京大學(xué) 2018
[5]基于卷積神經(jīng)網(wǎng)絡(luò)和遷移學(xué)習(xí)的醫(yī)學(xué)影像輔助診斷研究[D]. 顧久馭.山東大學(xué) 2018
本文編號:3340964
本文鏈接:http://sikaile.net/yixuelunwen/shenjingyixue/3340964.html
最近更新
教材專著