【摘要】：近些年,ILSVRC大賽逐年刷新圖像識(shí)別準(zhǔn)確率,該競(jìng)賽會(huì)給定一個(gè)包含有大量被人工標(biāo)記的訓(xùn)練數(shù)據(jù)集,讓研究者們自行設(shè)計(jì)算法并且在給定數(shù)據(jù)集上驗(yàn)證自己的算法對(duì)物體檢測(cè)識(shí)別的效果。另一個(gè)主要目標(biāo)是在大規(guī)模圖像集的檢索和標(biāo)記中測(cè)試計(jì)算機(jī)視覺(jué)技術(shù)的進(jìn)步。很多知名的網(wǎng)絡(luò)結(jié)構(gòu)都在該競(jìng)賽中嶄露頭角,比如AlexNet,VGG,GoogleNet,Deep Residual Network等。為了使模型更好的運(yùn)用于特定數(shù)據(jù)集,盡可能的提高圖像分類準(zhǔn)確率,訓(xùn)練過(guò)程中產(chǎn)生較少的震蕩、過(guò)擬合等現(xiàn)象,本文就ILSVRC大賽中的AlexNet模型進(jìn)行研究。主要工作如下:1、提出了一種新的閾值激活函數(shù),解決了訓(xùn)練結(jié)果中出現(xiàn)的數(shù)據(jù)偏離最佳點(diǎn)的問(wèn)題,使網(wǎng)絡(luò)模型更加穩(wěn)定,而且提高了圖片分類準(zhǔn)確率。利用caltech101數(shù)據(jù)集和caltech256數(shù)據(jù)集對(duì)改進(jìn)激活函數(shù)的AlexNet模型進(jìn)行驗(yàn)證,數(shù)據(jù)訓(xùn)練過(guò)程在Linux系統(tǒng)中的Caffe平臺(tái)進(jìn)行。由于Caffe中僅支持lmdb格式的圖片類型,因此要將圖片進(jìn)行格式轉(zhuǎn)換后再進(jìn)行訓(xùn)練。結(jié)果表明caltech101數(shù)據(jù)集的分類精確率從0.977提高到0.993,caltech256數(shù)據(jù)集的分類準(zhǔn)確率從0.654提高到0.923。2、針對(duì)閾值激活函數(shù)分類訓(xùn)練速度慢的問(wèn)題,查找相關(guān)文獻(xiàn)研究網(wǎng)絡(luò)訓(xùn)練的時(shí)間復(fù)雜度,從特征圖的數(shù)量、卷積核的面積、卷積層的數(shù)目三個(gè)方面對(duì)AlexNet模型進(jìn)行改進(jìn)。在不影響分類準(zhǔn)確率的前提下,最后確定了分別適合caltech101數(shù)據(jù)集和caltech256數(shù)據(jù)集分類的最優(yōu)模型。其中caltech101數(shù)據(jù)集通過(guò)減少卷積核的數(shù)目,達(dá)到減少特征圖數(shù)量的目的,訓(xùn)練速度有明顯提高;caltech256數(shù)據(jù)集則是通過(guò)減少卷積層的數(shù)目來(lái)達(dá)到加快收斂速度的目的。本文通過(guò)將實(shí)驗(yàn)數(shù)據(jù)對(duì)比作圖的方法,說(shuō)明了深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)在圖像分類領(lǐng)域的重要作用,在現(xiàn)有卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,提出優(yōu)化激活函數(shù)的卷積神經(jīng)網(wǎng)絡(luò)模型,該模型提高了數(shù)據(jù)集caltech101和數(shù)據(jù)集caltech256的分類準(zhǔn)確率,極大的增強(qiáng)了網(wǎng)絡(luò)的穩(wěn)定能力和抗過(guò)擬合性能,在收斂速度上也有很大提升。
【學(xué)位授予單位】：山西大學(xué)
【學(xué)位級(jí)別】：碩士
【學(xué)位授予年份】：2019
【分類號(hào)】：TP391.41;TP183
【圖文】：

Neocognitron的結(jié)構(gòu)

卷積神經(jīng)網(wǎng)絡(luò)在圖像分類中的網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化Machine，RBM）。1998 年，Yann LeCun 提出了 LeNet-5 模型，這是第一個(gè)實(shí)用經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)，它使用卷積層、池化層和全連接層相組合，用于手寫數(shù)字圖像分類數(shù)據(jù)集，如圖 1.3 是 LeNet-5 的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)示意圖。這一創(chuàng)新還被運(yùn)用到了好多方面，諸如面部識(shí)別與定位[24]，檢測(cè)面部表情[25]，對(duì)文本進(jìn)行檢測(cè)[26]，實(shí)現(xiàn)跟蹤監(jiān)測(cè)[27]等。

圖 1.4 ILSVRC 大賽歷年 top5 錯(cuò)誤率對(duì)比圖目前，各國(guó)的科研人員仍然在研究卷積神經(jīng)網(wǎng)絡(luò)。但是隨著網(wǎng)絡(luò)層級(jí)的逐漸加深，這種訓(xùn)練對(duì)硬件機(jī)器的要求越來(lái)越高，一次訓(xùn)練所耗費(fèi)的時(shí)間從一開(kāi)始的幾個(gè)小時(shí)到幾天，現(xiàn)在已經(jīng)成了幾個(gè)月。雖然成本較高，但是卷積神經(jīng)網(wǎng)絡(luò)給人類生活帶來(lái)的方便卻是巨大的，它被運(yùn)用于各個(gè)行業(yè)，以促進(jìn)科技的發(fā)展，加速人工智能的進(jìn)程。1.3 本文的研究?jī)?nèi)容和結(jié)構(gòu)安排本論文主要就 ILSVRC 大賽中的 AlexNet 模型進(jìn)行研究，對(duì)現(xiàn)有網(wǎng)絡(luò)模型進(jìn)行改進(jìn)優(yōu)化并對(duì)未來(lái)研究方向進(jìn)行規(guī)劃。本文組織結(jié)構(gòu)如下：第一章：緒論。本章首先論述了圖像分類在當(dāng)今社會(huì)的重要性，介紹了圖像分類和卷積神經(jīng)網(wǎng)絡(luò)的研究背景；其次闡述了國(guó)內(nèi)外學(xué)者對(duì)深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展作出的巨大貢獻(xiàn)，并對(duì)代表性網(wǎng)絡(luò)結(jié)構(gòu)做了簡(jiǎn)要概括；最后對(duì)本文各章內(nèi)容安排加以總結(jié)。

【相似文獻(xiàn)】

相關(guān)期刊論文 前10條

1 胡悅;;金融市場(chǎng)中的神經(jīng)網(wǎng)絡(luò)拐點(diǎn)預(yù)測(cè)法[J];金融經(jīng)濟(jì);2017年18期

2 劉高宇;;深度神經(jīng)網(wǎng)絡(luò)在煤質(zhì)數(shù)據(jù)分析與預(yù)測(cè)中的應(yīng)用[J];電腦知識(shí)與技術(shù);2019年28期

3 馮偉業(yè);廖可非;歐陽(yáng)繕;牛耀;;基于膠囊神經(jīng)網(wǎng)絡(luò)的合成孔徑雷達(dá)圖像分類方法[J];科學(xué)技術(shù)與工程;2019年28期

4 溫贊揚(yáng);;基于群智優(yōu)化神經(jīng)網(wǎng)絡(luò)的音樂(lè)風(fēng)格分類模型研究[J];現(xiàn)代電子技術(shù);2019年21期

5 鄭麗;;建筑設(shè)計(jì)中神經(jīng)網(wǎng)絡(luò)技術(shù)與遺傳算法探究[J];湖北農(nóng)機(jī)化;2019年21期

6 易煒;何嘉;鄒茂揚(yáng);;基于循環(huán)神經(jīng)網(wǎng)絡(luò)的對(duì)話系統(tǒng)記憶機(jī)制[J];計(jì)算機(jī)工程與設(shè)計(jì);2019年11期

7 黃為;李永剛;胡上成;汪毅;;基于循環(huán)神經(jīng)網(wǎng)絡(luò)的船搖數(shù)據(jù)實(shí)時(shí)預(yù)測(cè)[J];科學(xué)技術(shù)與工程;2019年31期

8 賴策;魏小琴;;卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方式研究[J];信息與電腦(理論版);2019年22期

9 周濟(jì)民;;基于神經(jīng)網(wǎng)絡(luò)改進(jìn)的元胞自動(dòng)機(jī)分析——美國(guó)阿片類藥物濫用情況[J];信息系統(tǒng)工程;2019年11期

10 馬猛;王明紅;;基于進(jìn)化神經(jīng)網(wǎng)絡(luò)的304不銹鋼車削加工表面粗糙度預(yù)測(cè)[J];輕工機(jī)械;2019年06期

相關(guān)會(huì)議論文 前10條

1 孫軍田;張U

本文編號(hào)：2751488