本文選題：回歸模型　切入點：深度神經(jīng)網(wǎng)絡(luò)　出處：《電子科技大學(xué)》2017年博士論文

【摘要】：回歸模型是一種常用于數(shù)據(jù)預(yù)測的數(shù)學(xué)模型,其在目標(biāo)檢測、人臉識別和行為識別等領(lǐng)域都有廣泛的應(yīng)用。傳統(tǒng)回歸模型可以在少量樣本上擬合相對簡單的非線性函數(shù)。但當(dāng)前回歸任務(wù)需要面臨復(fù)雜的問題和處理大量的數(shù)據(jù),傳統(tǒng)回歸模型在建立復(fù)雜映射關(guān)系和提取高層數(shù)據(jù)特征等方面都面臨巨大挑戰(zhàn)。而深度神經(jīng)網(wǎng)絡(luò)作為一種近期興起的技術(shù),具有從大量數(shù)據(jù)中自動地學(xué)習(xí)復(fù)雜映射關(guān)系和高層數(shù)據(jù)特征的能力。因此,采用基于深度神經(jīng)網(wǎng)絡(luò)的回歸模型能夠有效地減少上述問題對數(shù)據(jù)預(yù)測的影響,提高回歸的準(zhǔn)確度。本文圍繞基于深度神經(jīng)網(wǎng)絡(luò)的回歸模型開展兩個方面的研究,分別為基于深度神經(jīng)網(wǎng)絡(luò)構(gòu)造的回歸模型研究和基于深度神經(jīng)網(wǎng)絡(luò)特征的回歸模型研究,以克服傳統(tǒng)回歸模型在建立復(fù)雜映射關(guān)系和提取高層數(shù)據(jù)特征方面存在的局限性。由于圖像中頭部姿態(tài)估計是計算機視覺領(lǐng)域中典型的回歸問題,視頻中人體行為分類是計算機視覺中廣義的回歸問題。因此,本文針對這兩個不同任務(wù)設(shè)計不同的回歸模型。這樣不僅可以提高頭部姿態(tài)估計和人體行為分類的準(zhǔn)確度,還可以獲得構(gòu)建基于深度神經(jīng)網(wǎng)絡(luò)回歸模型的方法。本文的主要研究內(nèi)容如下:1)為了克服傳統(tǒng)頭部姿態(tài)估計方法對姿態(tài)初始值和人臉特征點準(zhǔn)確定位的依賴問題,本文提出了一種基于級聯(lián)深度神經(jīng)網(wǎng)絡(luò)的頭部姿態(tài)估計方法。該方法采用基于深度神經(jīng)網(wǎng)絡(luò)的級聯(lián)框架和多層次的回歸算法,逐步地對頭部姿態(tài)進行估計。首先,構(gòu)建一種級聯(lián)深度神經(jīng)網(wǎng)絡(luò)模型,逐層地估計人臉圖像的初始姿態(tài)和姿態(tài)偏差值。之后,采用一種多層回歸算法,根據(jù)全局網(wǎng)絡(luò)層的初始姿態(tài)和局部網(wǎng)絡(luò)層的偏差值,由粗到細地微調(diào)頭部姿態(tài)。實驗結(jié)果表明,在無需姿態(tài)初始值和人臉特征點準(zhǔn)確定位的情況下,該方法依然能夠較好地進行頭部姿態(tài)估計。2)為了對頭部姿態(tài)多個自由度之間的關(guān)聯(lián)性進行建模,本文提出了一種基于尺度不變約束深度神經(jīng)網(wǎng)絡(luò)的頭部姿態(tài)估計方法。該方法根據(jù)不同姿態(tài)下臉部變化的規(guī)律,構(gòu)建基于尺度不變約束深度神經(jīng)網(wǎng)絡(luò)的回歸模型,進一步降低頭部姿態(tài)估計的平均絕對誤差。首先,分層地提取人臉圖像的全局特征和局部特征。然后,通過全局網(wǎng)絡(luò)層和多個局部網(wǎng)絡(luò)層分別估計初始姿態(tài)和姿態(tài)偏差值。最后,根據(jù)姿態(tài)偏差不斷地調(diào)整初始姿態(tài),以獲得最終頭部姿態(tài)。另外,分析不同個體不同姿態(tài)下和相同個體不同姿態(tài)下人臉圖像的變化特點,為基于尺度不變約束深度神經(jīng)網(wǎng)絡(luò)的估計方法提供經(jīng)驗依據(jù)。實驗結(jié)果表明,該模型具有較好的泛化能力,不但可以實現(xiàn)頭部姿態(tài)單個自由度的估計,還可以實現(xiàn)頭部姿態(tài)多個自由度的估計。并且,該方法比基于級聯(lián)深度神經(jīng)網(wǎng)絡(luò)的頭部姿態(tài)估計方法取得更好的估計結(jié)果,但是計算時間較長。因此,該方法適用于速度要求一般,準(zhǔn)確率要求稍高的場景中。3)為了克服現(xiàn)有頭部姿態(tài)估計方法在訓(xùn)練數(shù)據(jù)不充分、不完整情況下的估計效果不佳問題,本文提出了一種基于姿態(tài)敏感多變量標(biāo)記分布學(xué)習(xí)的頭部姿態(tài)估計方法。該方法采用深度神經(jīng)網(wǎng)絡(luò)提取的魯棒姿態(tài)特征,構(gòu)建一種基于姿態(tài)敏感多變量標(biāo)記分布學(xué)習(xí)的頭部姿態(tài)估計模型實現(xiàn)頭部姿態(tài)估計。首先,利用深度神經(jīng)網(wǎng)絡(luò)提取人臉圖像的魯棒姿態(tài)征。之后,采用多變量標(biāo)記分布學(xué)習(xí)算法預(yù)測姿態(tài)特征的標(biāo)記分布,并根據(jù)該分布計算最終的頭部姿態(tài)。在多變量標(biāo)記分布學(xué)習(xí)算法中,為每個姿態(tài)標(biāo)記一個分布來描述每個姿態(tài)標(biāo)簽對單張人臉圖像的重要程度,在一定程度上緩解了樣本不充足、不充分的問題。實驗結(jié)果表明,該方法在訓(xùn)練樣本不充分和不均衡的情況下實現(xiàn)不同頭部姿態(tài)的估計。4)為了充分利用鄰近區(qū)域先驗知識并使行為表征有較明確的含義,本文提出一種基于遞歸神經(jīng)網(wǎng)絡(luò)和兩階段回歸的人體行為分類方法。該方法利用回聲狀態(tài)網(wǎng)絡(luò)提取能刻畫行為序列幾何結(jié)構(gòu)的局部特征,并將鄰近區(qū)域的先驗知識融入到兩階段回歸模型中,實現(xiàn)人體行為的分類。首先,利用回聲狀態(tài)網(wǎng)絡(luò)獲得行為骨架數(shù)據(jù)關(guān)節(jié)點每一維坐標(biāo)軌跡的概念子。其次,對同一行為序列的概念子進行編碼,計算行為序列的局部特征。然后,利用第一階段網(wǎng)絡(luò)預(yù)測行為序的融合特征。最后,根據(jù)融合特征運用第二階段回歸網(wǎng)絡(luò)實現(xiàn)人體行為的精確分類。實驗結(jié)果表明,在較復(fù)雜場景中,該算法仍然能有效地進行行為分類。
[Abstract]:......
【學(xué)位授予單位】：電子科技大學(xué)
【學(xué)位級別】：博士
【學(xué)位授予年份】：2017
【分類號】：TP391.41;TP183

【相似文獻】

相關(guān)期刊論文 前10條

1 楊曉帥 ,付玫;神經(jīng)網(wǎng)絡(luò)技術(shù)讓管理更輕松[J];軟件世界;2000年11期

2 云中客;新的神經(jīng)網(wǎng)絡(luò)來自于仿生學(xué)[J];物理;2001年10期

3 唐春明,高協(xié)平;進化神經(jīng)網(wǎng)絡(luò)的研究進展[J];系統(tǒng)工程與電子技術(shù);2001年10期

4 李智;一種基于神經(jīng)網(wǎng)絡(luò)的煤炭調(diào)運優(yōu)化方法[J];長沙鐵道學(xué)院學(xué)報;2003年02期

5 程科,王士同,楊靜宇;新型模糊形態(tài)神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];計算機工程與應(yīng)用;2004年21期

6 王凡,孟立凡;關(guān)于使用神經(jīng)網(wǎng)絡(luò)推定操作者疲勞的研究[J];人類工效學(xué);2004年03期

7 周麗暉;從統(tǒng)計角度看神經(jīng)網(wǎng)絡(luò)[J];統(tǒng)計教育;2005年06期

8 趙奇 ,劉開第 ,龐彥軍;灰色補償神經(jīng)網(wǎng)絡(luò)及其應(yīng)用研究[J];微計算機信息;2005年14期

9 袁婷;;神經(jīng)網(wǎng)絡(luò)在股票市場預(yù)測中的應(yīng)用[J];軟件導(dǎo)刊;2006年05期

10 尚晉;楊有;;從神經(jīng)網(wǎng)絡(luò)的過去談科學(xué)發(fā)展觀[J];重慶三峽學(xué)院學(xué)報;2006年03期

相關(guān)會議論文 前10條

1 徐春玉;;基于泛集的神經(jīng)網(wǎng)絡(luò)的混沌性[A];1996中國控制與決策學(xué)術(shù)年會論文集[C];1996年

2 周樹德;王巖;孫增圻;孫富春;;量子神經(jīng)網(wǎng)絡(luò)[A];2003年中國智能自動化會議論文集（上冊）[C];2003年

3 羅山;張琳;范文新;;基于神經(jīng)網(wǎng)絡(luò)和簡單規(guī)劃的識別融合算法[A];2009系統(tǒng)仿真技術(shù)及其應(yīng)用學(xué)術(shù)會議論文集[C];2009年

4 郭愛克;馬盡文;丁康;;序言(二)[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

5 鐘義信;;知識論:神經(jīng)網(wǎng)絡(luò)的新機遇——紀(jì)念中國神經(jīng)網(wǎng)絡(luò)10周年[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

6 許進;保錚;;神經(jīng)網(wǎng)絡(luò)與圖論[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

7 金龍;朱詩武;趙成志;陳寧;;數(shù)值預(yù)報產(chǎn)品的神經(jīng)網(wǎng)絡(luò)釋用預(yù)報應(yīng)用[A];1999年中國神經(jīng)網(wǎng)絡(luò)與信號處理學(xué)術(shù)會議論文集[C];1999年

8 田金亭;;神經(jīng)網(wǎng)絡(luò)在中學(xué)生創(chuàng)造力評估中的應(yīng)用[A];第十二屆全國心理學(xué)學(xué)術(shù)大會論文摘要集[C];2009年

9 唐墨;王科俊;;自發(fā)展神經(jīng)網(wǎng)絡(luò)的混沌特性研究[A];2009年中國智能自動化會議論文集（第七分冊）[南京理工大學(xué)學(xué)報（增刊）][C];2009年

10 張廣遠;萬強;曹海源;田方濤;;基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的故障診斷方法研究[A];第十二屆全國設(shè)備故障診斷學(xué)術(shù)會議論文集[C];2010年

相關(guān)重要報紙文章 前10條

1 美國明尼蘇達大學(xué)社會學(xué)博士 密西西比州立大學(xué)國家戰(zhàn)略規(guī)劃與分析研究中心資深助理研究員 陳心想;維護好創(chuàng)新的“神經(jīng)網(wǎng)絡(luò)硬件”[N];中國教師報;2014年

2 盧業(yè)忠;腦控電腦 驚世駭俗[N];計算機世界;2001年

3 葛一鳴 路邊文;人工神經(jīng)網(wǎng)絡(luò)將大顯身手[N];中國紡織報;2003年

4 中國科技大學(xué)計算機系　邢方亮;神經(jīng)網(wǎng)絡(luò)挑戰(zhàn)人類大腦[N];計算機世界;2003年

5 記者 孫剛;“神經(jīng)網(wǎng)絡(luò)”：打開復(fù)雜工藝“黑箱”[N];解放日報;2007年

6 本報記者 劉霞;美用DNA制造出首個人造神經(jīng)網(wǎng)絡(luò)[N];科技日報;2011年

7 健康時報特約記者　 張獻懷;干細胞移植：修復(fù)受損的神經(jīng)網(wǎng)絡(luò)[N];健康時報;2006年

8 劉力;我半導(dǎo)體神經(jīng)網(wǎng)絡(luò)技術(shù)及應(yīng)用研究達國際先進水平[N];中國電子報;2001年

9 ;神經(jīng)網(wǎng)絡(luò)和模糊邏輯[N];世界金屬導(dǎo)報;2002年

10 鄒麗梅 陳耀群;江蘇科大神經(jīng)網(wǎng)絡(luò)應(yīng)用研究通過鑒定[N];中國船舶報;2006年

相關(guān)博士學(xué)位論文 前10條

1 包姣;基于深度神經(jīng)網(wǎng)絡(luò)的回歸模型及其應(yīng)用研究[D];電子科技大學(xué);2017年

2 楊旭華;神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用研究[D];浙江大學(xué);2004年

3 李素芳;基于神經(jīng)網(wǎng)絡(luò)的無線通信算法研究[D];山東大學(xué);2015年

4 石艷超;憶阻神經(jīng)網(wǎng)絡(luò)的混沌性及幾類時滯神經(jīng)網(wǎng)絡(luò)的同步研究[D];電子科技大學(xué);2014年

5 王新迎;基于隨機映射神經(jīng)網(wǎng)絡(luò)的多元時間序列預(yù)測方法研究[D];大連理工大學(xué);2015年

6 付愛民;極速學(xué)習(xí)機的訓(xùn)練殘差、穩(wěn)定性及泛化能力研究[D];中國農(nóng)業(yè)大學(xué);2015年

7 李輝;基于粒計算的神經(jīng)網(wǎng)絡(luò)及集成方法研究[D];中國礦業(yè)大學(xué);2015年

8 王衛(wèi)蘋;復(fù)雜網(wǎng)絡(luò)幾類同步控制策略研究及穩(wěn)定性分析[D];北京郵電大學(xué);2015年

9 張海軍;基于云計算的神經(jīng)網(wǎng)絡(luò)并行實現(xiàn)及其學(xué)習(xí)方法研究[D];華南理工大學(xué);2015年

10 李艷晴;風(fēng)速時間序列預(yù)測算法研究[D];北京科技大學(xué);2016年

相關(guān)碩士學(xué)位論文 前10條

1 章穎;混合不確定性模塊化神經(jīng)網(wǎng)絡(luò)與高校效益預(yù)測的研究[D];華南理工大學(xué);2015年

2 賈文靜;基于改進型神經(jīng)網(wǎng)絡(luò)的風(fēng)力發(fā)電系統(tǒng)預(yù)測及控制研究[D];燕山大學(xué);2015年

3 李慧芳;基于憶阻器的渦卷混沌系統(tǒng)及其電路仿真[D];西南大學(xué);2015年

4 陳彥至;神經(jīng)網(wǎng)絡(luò)降維算法研究與應(yīng)用[D];華南理工大學(xué);2015年

5 董哲康;基于憶阻器的組合電路及神經(jīng)網(wǎng)絡(luò)研究[D];西南大學(xué);2015年

6 武創(chuàng)舉;基于神經(jīng)網(wǎng)絡(luò)的遙感圖像分類研究[D];昆明理工大學(xué);2015年

7 李志杰;基于神經(jīng)網(wǎng)絡(luò)的上證指數(shù)預(yù)測研究[D];華南理工大學(xué);2015年

8 陳少吉;基于神經(jīng)網(wǎng)絡(luò)血壓預(yù)測研究與系統(tǒng)實現(xiàn)[D];華南理工大學(xué);2015年

9 張韜;幾類時滯神經(jīng)網(wǎng)絡(luò)穩(wěn)定性分析[D];渤海大學(xué);2015年

10 邵雪瑩;幾類時滯不確定神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[D];渤海大學(xué);2015年

，

本文編號：1708050