發(fā)布時(shí)間：2018-01-17 18:22

  本文關(guān)鍵詞：一種基于模擬退火算法改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)　出處：《微電子學(xué)與計(jì)算機(jī)》2017年09期 　論文類型：期刊論文

  更多相關(guān)文章： 卷積神經(jīng)網(wǎng)絡(luò) 模擬退火算法 交叉熵 圖像識別

【摘要】：卷積神經(jīng)網(wǎng)絡(luò)(CNN)是一種深度學(xué)習(xí)技術(shù),其目標(biāo)是構(gòu)建一個(gè)接近人類的智能來執(zhí)行任何知識的任務(wù).使用基于交叉熵?fù)p失函數(shù)的模擬退火算法對dropout正則化,即有些單元值被抑制的CNN進(jìn)行優(yōu)化訓(xùn)練,而在測試階段所使用的模型平均方法則同時(shí)考慮了保留概率和池化區(qū)域內(nèi)單元值所占概率.在MNIST手寫數(shù)據(jù)庫和CMU-PIE的部分圖像庫的實(shí)驗(yàn)結(jié)果表明,在同一CNN結(jié)構(gòu)和相同迭代次數(shù)時(shí),此方法均優(yōu)于其他方法,不僅能夠得到更好的識別率而且更能防止過擬合的問題.
[Abstract]:Convolution Neural Network (CNN) is a kind of deep learning technology. The goal is to construct a human intelligence to perform any knowledge task. The dropout is regularized by simulated annealing algorithm based on cross-entropy loss function. That is, some unit values are suppressed by the CNN for optimization training. The model averaging method used in the test phase takes into account both the retention probability and the probability of cell values in the pool area. The experimental results in MNIST handwritten database and part of the image library of CMU-PIE. To show. In the same CNN structure and the same iteration number, this method is superior to other methods, which can not only obtain better recognition rate but also prevent the problem of over-fitting.
【作者單位】： 江南大學(xué)數(shù)字媒體學(xué)院;
【基金】：國家自然科學(xué)基金(61373055) 江蘇省2015年度普通高校研究生科研創(chuàng)新計(jì)劃項(xiàng)目(KYLX15_1191)
【分類號】：TP183;TP391.41
【正文快照】： 1引言深度學(xué)習(xí)中的一個(gè)主要模型就是卷積神經(jīng)網(wǎng)絡(luò)(CNN),CNN包括卷積層和池化層,其中卷積層中不同的卷積核可用來提取不同的圖像特征,池化層用來降低特征的維數(shù).現(xiàn)代啟發(fā)式算法主要解決科學(xué)、工程等方面的優(yōu)化問題,將其用于優(yōu)化DL的研究成果還很少,You和Pu[1]將遺傳算法與CNN相

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 曠章輝;王甲海;周雅蘭;;用改進(jìn)的競爭Hopfield神經(jīng)網(wǎng)絡(luò)求解多邊形近似問題[J];計(jì)算機(jī)科學(xué);2009年03期

2 高永建 ,吳健康;神經(jīng)網(wǎng)絡(luò)及其識別應(yīng)用簡介[J];電信科學(xué);1990年02期

3 謝國梁;;神經(jīng)網(wǎng)絡(luò):從希望到現(xiàn)實(shí)[J];激光與光電子學(xué)進(jìn)展;1991年01期

4 鄭士貴;文獻(xiàn)自動閱讀神經(jīng)網(wǎng)絡(luò)[J];管理科學(xué)文摘;1996年08期

5 呂芬;趙生妹;;基于Hopfield神經(jīng)網(wǎng)絡(luò)的噪聲字母識別[J];計(jì)算機(jī)與信息技術(shù);2005年12期

6 李毅;童紅俊;宋貴寶;李冬;;神經(jīng)網(wǎng)絡(luò)在飛行器航跡仿真計(jì)算中的應(yīng)用[J];海軍航空工程學(xué)院學(xué)報(bào);2006年05期

7 林鋼;;基于SOM神經(jīng)網(wǎng)絡(luò)對潛在客戶的挖掘[J];南寧職業(yè)技術(shù)學(xué)院學(xué)報(bào);2006年04期

8 楊帆;陳勁杰;唐梅華;陳鑫;;簡論神經(jīng)網(wǎng)絡(luò)在搜索中的應(yīng)用[J];機(jī)械管理開發(fā);2008年01期

9 朱紅斌;;LVQ神經(jīng)網(wǎng)絡(luò)在交通事件檢測中的應(yīng)用[J];計(jì)算機(jī)工程與應(yīng)用;2008年34期

10 李彤巖;李興明;;神經(jīng)網(wǎng)絡(luò)在確定關(guān)聯(lián)規(guī)則挖掘算法權(quán)值中的應(yīng)用研究[J];計(jì)算機(jī)應(yīng)用研究;2008年05期

相關(guān)會議論文 前10條

1 陳文新;王長富;戴蓓倩;;基于神經(jīng)網(wǎng)絡(luò)的漢語四聲識別[A];第一屆全國語言識別學(xué)術(shù)報(bào)告與展示會論文集[C];1990年

2 李睿;李明軍;;一種模糊高斯基神經(jīng)網(wǎng)絡(luò)在數(shù)值逼近上的仿真[A];計(jì)算機(jī)技術(shù)與應(yīng)用進(jìn)展——全國第17屆計(jì)算機(jī)科學(xué)與技術(shù)應(yīng)用（CACIS）學(xué)術(shù)會議論文集（上冊）[C];2006年

3 許旭萍;臧道青;;采用Hopfield神經(jīng)網(wǎng)絡(luò)實(shí)施缸蓋表面點(diǎn)陣字符識別[A];第十五屆全國汽車檢測技術(shù)年會論文集[C];2011年

4 朱長春;;神經(jīng)網(wǎng)絡(luò)用于線性時(shí)固有系統(tǒng)的廣義狀態(tài)轉(zhuǎn)移矩陣的識別[A];中國工程物理研究院科技年報(bào)（1999）[C];1999年

5 王玉斌;李永明;王穎;;用數(shù)據(jù)挖掘和神經(jīng)網(wǎng)絡(luò)技術(shù)預(yù)測工程造價(jià)[A];第十一屆全國電工數(shù)學(xué)學(xué)術(shù)年會論文集[C];2007年

6 應(yīng)捷;袁一方;;神經(jīng)網(wǎng)絡(luò)指紋特征點(diǎn)匹配算法的改進(jìn)[A];2007'中國儀器儀表與測控技術(shù)交流大會論文集（二）[C];2007年

7 謝小良;符卓;;基于Hopfield神經(jīng)網(wǎng)絡(luò)的單周期船舶調(diào)度模型及算法[A];2008年全國開放式分布與并行計(jì)算機(jī)學(xué)術(shù)會議論文集(下冊)[C];2008年

8 陳意;;神經(jīng)網(wǎng)絡(luò)在船舶識別一個(gè)應(yīng)用[A];船舶航泊安全的新經(jīng)驗(yàn)新技術(shù)論文集（上冊）[C];2007年

9 王輝;楊杰;黎明;蔡念;;一種基于神經(jīng)網(wǎng)絡(luò)的圖像復(fù)原方法[A];2006年全國光電技術(shù)學(xué)術(shù)交流會會議文集（D 光電信息處理技術(shù)專題）[C];2006年

10 賈睿;徐啟強(qiáng);劉艷;;基于神經(jīng)網(wǎng)絡(luò)的網(wǎng)殼結(jié)構(gòu)近似分析研究[A];第二十一屆全國振動與噪聲高技術(shù)及應(yīng)用學(xué)術(shù)會議論文集[C];2008年

相關(guān)重要報(bào)紙文章 前1條

1 中國科技大學(xué)計(jì)算機(jī)系　邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類大腦[N];計(jì)算機(jī)世界;2003年

相關(guān)博士學(xué)位論文 前10條

1 李曉剛;基于神經(jīng)網(wǎng)絡(luò)的碼垛機(jī)器人視覺位姿測量及伺服控制研究[D];北京林業(yè)大學(xué);2015年

2 戶保田;基于深度神經(jīng)網(wǎng)絡(luò)的文本表示及其應(yīng)用[D];哈爾濱工業(yè)大學(xué);2016年

3 沈旭;基于序列深度學(xué)習(xí)的視頻分析：建模表達(dá)與應(yīng)用[D];中國科學(xué)技術(shù)大學(xué);2017年

4 諸勇;正交回歸神經(jīng)網(wǎng)絡(luò)及其在控制系統(tǒng)中的應(yīng)用[D];浙江大學(xué);1998年

5 田景文;地下油藏的仿真與預(yù)測[D];哈爾濱工程大學(xué);2001年

6 彭宏京;基于稀疏RAM的神經(jīng)網(wǎng)絡(luò)及其人臉識別應(yīng)用研究[D];南京航空航天大學(xué);2002年

7 王吉權(quán);BP神經(jīng)網(wǎng)絡(luò)的理論及其在農(nóng)業(yè)機(jī)械化中的應(yīng)用研究[D];沈陽農(nóng)業(yè)大學(xué);2011年

8 郭海湘;石油儲層縱向預(yù)測軟硬計(jì)算融合的理論與方法研究[D];中國地質(zhì)大學(xué);2008年

9 葛利;基于過程神經(jīng)網(wǎng)絡(luò)的時(shí)序數(shù)據(jù)挖掘研究[D];哈爾濱工程大學(xué);2012年

10 柴冰華;色貌模型CIECAM02若干問題的研究[D];北京理工大學(xué);2006年

相關(guān)碩士學(xué)位論文 前10條

1 陳彥至;神經(jīng)網(wǎng)絡(luò)降維算法研究與應(yīng)用[D];華南理工大學(xué);2015年

2 蔡邦宇;人臉識別中單次ERP時(shí)空特征分析及其快速檢索的應(yīng)用[D];浙江大學(xué);2015年

3 鄭川;垃圾評論檢測算法的研究[D];西南交通大學(xué);2015年

4 汪濟(jì)民;基于卷積神經(jīng)網(wǎng)絡(luò)的人臉檢測和性別識別研究[D];南京理工大學(xué);2015年

5 彭玲玲;基于不確定理論與機(jī)器學(xué)習(xí)的行人檢測[D];長安大學(xué);2015年

6 楊陳東;BP-Fisher判別分析法[D];長安大學(xué);2015年

7 孟鑫;基于Hadoop云平臺下的客流量預(yù)測研究[D];長安大學(xué);2015年

8 張勇;深度卷積神經(jīng)網(wǎng)絡(luò)在車牌和人臉檢測領(lǐng)域的應(yīng)用研究[D];鄭州大學(xué);2015年

9 宋璐璐;財(cái)經(jīng)職業(yè)技術(shù)學(xué)院票務(wù)管理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D];西安工業(yè)大學(xué);2015年

10 陳銳浩;基于神經(jīng)網(wǎng)絡(luò)的口令屬性分析工具開發(fā)[D];上海交通大學(xué);2015年

，

本文編號：1437438