基于深度學(xué)習(xí)的非限定性路牌識別研究
【學(xué)位單位】:安徽理工大學(xué)
【學(xué)位級別】:碩士
【學(xué)位年份】:2019
【中圖分類】:TP391.41;TP18;U463.6
【部分圖文】:
安徽理工大學(xué)碩士學(xué)位論文( 0,1) 之間,很容易將Sigmoid函數(shù)與概率問題聯(lián)系起來。因此Sigmoi型輸出,標(biāo)識分類的概率。Sigmoid函數(shù)的數(shù)學(xué)形式是如公式2-8所示( )11xf xe +義域內(nèi)處處可導(dǎo)且其導(dǎo)數(shù)為公式2-9:f ' ( x ) f ( x ) (1 f ( x))oid 函數(shù)圖像如圖 2-6 所示:
圖2-7Tanh函數(shù)Fig 2-7 Tanh function)ReLU函數(shù)網(wǎng)絡(luò)層數(shù)的加深,在進(jìn)行反向傳播時(shí),前幾層的網(wǎng)路導(dǎo)數(shù)太小或者接近為 消失現(xiàn)象。如下圖2-8所示,ReLU函數(shù)是一個(gè)分段函數(shù),定義域?yàn)?為 0, + ),并且其導(dǎo)數(shù)恒為1。這樣在進(jìn)行反向傳播時(shí),不會(huì)像 Sigmoid 函散現(xiàn)象,這也更加符合生物神經(jīng)之間的傳播特性。定義域?yàn)? ,0)時(shí),將所為0。這樣的映射方式被稱為單側(cè)映射(單側(cè)抑制),使得網(wǎng)絡(luò)具有了稀疏性據(jù)輸入值的正負(fù),將一部分的神經(jīng)元的輸出強(qiáng)制歸為 0,使得神經(jīng)元之間的緊密,太緊密的連接往往使得網(wǎng)絡(luò)冗余,這樣具有一定的正則化效果。相對于以上兩種激活函數(shù)(Sigmoid和Tanh),ReLu函數(shù)加快了網(wǎng)絡(luò)的迭代為導(dǎo)數(shù)太小而出現(xiàn)的梯度彌散現(xiàn)象,也增加了網(wǎng)絡(luò)的擬合能力。
圖2-8ReLU函數(shù)Fig 2-8 ReLU functionpout 正則化學(xué)習(xí)的模型中,如果模型的參數(shù)太多且訓(xùn)練樣本又太少,則模型容易過對訓(xùn)練集有很好的擬合,但缺少泛化能力,對驗(yàn)證集的擬合誤差太大。得到較小的損失,導(dǎo)致模型訓(xùn)練失敗,如圖 2-9 所示。模型過擬合是訓(xùn)的現(xiàn)象,Dropout正則化便是為了解決這一問題而被提出的[67-69]。訓(xùn)練集驗(yàn)證集誤差
【參考文獻(xiàn)】
相關(guān)期刊論文 前10條
1 黃琳;張尤賽;;應(yīng)用深層卷積神經(jīng)網(wǎng)絡(luò)的交通標(biāo)志識別[J];現(xiàn)代電子技術(shù);2015年13期
2 楊英;劉衛(wèi)國;鐘令;李亞文;;基于AdaBoost行人檢測優(yōu)化算法的研究[J];機(jī)電工程;2014年10期
3 呂國豪;羅四維;黃雅平;蔣欣蘭;;基于卷積神經(jīng)網(wǎng)絡(luò)的正則化方法[J];計(jì)算機(jī)研究與發(fā)展;2014年09期
4 常發(fā)亮;黃翠;劉成云;趙永國;馬傳峰;;基于高斯顏色模型和SVM的交通標(biāo)志檢測[J];儀器儀表學(xué)報(bào);2014年01期
5 衡浩;熊惠霖;;復(fù)雜動(dòng)態(tài)場景下基于道路平面提取的行人檢測[J];計(jì)算機(jī)仿真;2013年09期
6 高晶;吳育峰;吳昆;孫繼銀;;基于角點(diǎn)檢測的圖像匹配算法[J];儀器儀表學(xué)報(bào);2013年08期
7 劉華平;李建民;胡曉林;孫富春;;動(dòng)態(tài)場景下的交通標(biāo)識檢測與識別研究進(jìn)展[J];中國圖象圖形學(xué)報(bào);2013年05期
8 孫志軍;薛磊;許陽明;王正;;深度學(xué)習(xí)研究綜述[J];計(jì)算機(jī)應(yīng)用研究;2012年08期
9 劉建偉;李雙成;羅雄麟;;p范數(shù)正則化支持向量機(jī)分類算法[J];自動(dòng)化學(xué)報(bào);2012年01期
10 馬宗方;程詠梅;潘泉;王慧琴;;基于顏色模型和稀疏表示的圖像型火焰探測[J];光子學(xué)報(bào);2011年08期
本文編號:2836005
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/2836005.html