多視圖自適應(yīng)半監(jiān)督特征選擇算法研究
發(fā)布時(shí)間:2021-04-08 05:57
近年來(lái),隨著拍照設(shè)備的普及和互聯(lián)網(wǎng)技術(shù)的飛速發(fā)展,網(wǎng)絡(luò)中每天產(chǎn)生數(shù)以億計(jì)的圖像信息并且傳播迅速。海量的圖像所包含的信息冗雜,格式不一,不僅耗費(fèi)了大量的網(wǎng)絡(luò)資源,而且難以有效的進(jìn)行搜索和管理。因此,如何對(duì)網(wǎng)絡(luò)中的圖像進(jìn)行高效的管理,是圖像處理和計(jì)算機(jī)視覺(jué)領(lǐng)域中的一個(gè)研究熱點(diǎn),也是實(shí)際應(yīng)用中急需解決的問(wèn)題。在圖像處理和計(jì)算機(jī)視覺(jué)等領(lǐng)域中,圖像往往是由高維特征向量表示。高維數(shù)據(jù)不僅提高了處理數(shù)據(jù)的時(shí)間和空間要求,甚至有時(shí)候會(huì)產(chǎn)生“維度災(zāi)難”問(wèn)題,使得數(shù)據(jù)難以處理。因此特征選擇技術(shù),尤其是半監(jiān)督特征選擇在過(guò)去十幾年得到了廣泛的研究。其中,基于圖拉普拉斯的半監(jiān)督特征選擇方法憑借其良好的標(biāo)簽傳播能力和計(jì)算成本低等優(yōu)點(diǎn),在圖像處理和識(shí)別等領(lǐng)域中得到廣泛應(yīng)用。雖然基于圖拉普拉斯的半監(jiān)督特征選擇算法在實(shí)際應(yīng)用中獲得了不錯(cuò)的性能,但是它們?nèi)匀淮嬖诰窒扌浴J紫?這些現(xiàn)有算法的性能?chē)?yán)重依賴于所構(gòu)建的拉普拉斯權(quán)重圖的質(zhì)量,而且權(quán)重圖一旦構(gòu)建就無(wú)法更改。其次,當(dāng)面對(duì)圖像的多視圖特征向量時(shí),這些現(xiàn)有算法一般是直接將多個(gè)視圖的特征向量串聯(lián)成一個(gè)長(zhǎng)向量來(lái)處理,忽略了多視圖之間包含的互補(bǔ)信息。為了克服以上缺陷,將自步學(xué)習(xí)...
【文章來(lái)源】:華北理工大學(xué)河北省
【文章頁(yè)數(shù)】:70 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖像的多視圖高維特征向量Fig.1Multi-viewfeaturevectorofimages
第1章緒論-9-步學(xué)習(xí)方法,使得在分類(lèi)任務(wù)中,按照由簡(jiǎn)單樣本到復(fù)雜樣本的順序進(jìn)行學(xué)習(xí)[25]。分類(lèi)器的損失函數(shù)定義為預(yù)測(cè)標(biāo)簽與真實(shí)標(biāo)簽之間的損失,樣本重要性則根據(jù)流形的光滑性來(lái)度量,然后利用新的損失函數(shù)自適應(yīng)地計(jì)算了偽標(biāo)記樣本和未標(biāo)記樣本的重要性,將置信度高的預(yù)測(cè)標(biāo)簽作為未標(biāo)記樣本偽標(biāo)記。Xu等人將SPL和多視圖學(xué)習(xí)融合到聚類(lèi)算法框架中,提出了一個(gè)多視圖自步學(xué)習(xí)算法(Multi-viewSelf-PacedLearning,MSPL)框架[26]。一方面,MSPL通過(guò)引入SPL,克服了優(yōu)化目標(biāo)函數(shù)時(shí),易于陷入局部極小值的缺陷。另一方面,通過(guò)將SPL與多視圖相結(jié)合,使得在學(xué)習(xí)過(guò)程中不但考慮了樣本層次的復(fù)雜性,而且考慮了視圖層次的復(fù)雜性。1.3研究?jī)?nèi)容本文深入研究了特征選擇、半監(jiān)督學(xué)習(xí)、多視圖學(xué)習(xí)以及自步學(xué)習(xí)等理論,然后針對(duì)當(dāng)前基于圖拉普拉斯的半監(jiān)督特征選擇中存在的缺陷,提出了新的多視圖自適應(yīng)半監(jiān)督特征選擇算法,并將其應(yīng)用到圖像標(biāo)注任務(wù)中,如圖2所示。利用自步學(xué)習(xí)思想使所提算法可以根據(jù)當(dāng)前的預(yù)測(cè)標(biāo)記的反饋信息自適應(yīng)更新拉普拉斯權(quán)重圖,更新后的權(quán)重圖可以更精確的表示訓(xùn)練樣本的流形結(jié)構(gòu),進(jìn)而可以選取更稀疏、更具判別性的特征,提升圖像標(biāo)注的準(zhǔn)確率和效率。此外,通過(guò)引入多視圖學(xué)習(xí),充分利用多個(gè)視圖的信息,進(jìn)一步提升了圖像標(biāo)注的準(zhǔn)確率。圖2研究?jī)?nèi)容Fig.2Theresearchcontent
第2章相關(guān)理論介紹-25-式中:f—自步函數(shù);—編碼預(yù)定課程信息的可行域。SPCL與課程學(xué)習(xí)中的“教師驅(qū)動(dòng)”和自步學(xué)習(xí)中的“學(xué)生驅(qū)動(dòng)”都不同,它可以同時(shí)利用訓(xùn)練之前的先驗(yàn)知識(shí)以及訓(xùn)練期間學(xué)習(xí)器的反饋信息。因此該機(jī)制該類(lèi)似于人類(lèi)學(xué)習(xí)過(guò)程中的“教師-學(xué)生-協(xié)作”學(xué)習(xí)模式。2.4多視圖學(xué)習(xí)隨著采集設(shè)備和采集技術(shù)的發(fā)展,可以輕易獲取多視圖數(shù)據(jù),這些數(shù)據(jù)描述了同一個(gè)對(duì)象的不同屬性。例如,一幅圖像可以從顏色相關(guān)圖、顏色矩和邊緣方向直方圖等多個(gè)視圖中進(jìn)行描述。它們之間往往蘊(yùn)含著豐富的相關(guān)和互補(bǔ)信息,為了充分利用這些信息,學(xué)者們對(duì)多視圖學(xué)習(xí)進(jìn)行了廣泛的研究,并且提出了多種多視圖學(xué)習(xí)算法。目前,這些算法分為四類(lèi)[39]:協(xié)同訓(xùn)練、子空間學(xué)習(xí)、多核學(xué)習(xí)和基于圖的多視圖學(xué)習(xí)。2.4.1協(xié)同訓(xùn)練Blum和Mitchell于上世紀(jì)末提出協(xié)同訓(xùn)練算法,該算法本質(zhì)上是SSL中自訓(xùn)練算的一種擴(kuò)展[40]。自訓(xùn)練通過(guò)將當(dāng)前分類(lèi)器中置信度高的樣本作為有標(biāo)簽樣本加入訓(xùn)練過(guò)程,實(shí)現(xiàn)了自己訓(xùn)練自己的目的;協(xié)同訓(xùn)練則是首先在兩個(gè)視圖中分別利用它們各自視圖中的標(biāo)簽數(shù)據(jù)訓(xùn)練一個(gè)分類(lèi)器,然后用分類(lèi)器預(yù)測(cè)該視圖中的未標(biāo)記數(shù)據(jù),在所得到的預(yù)測(cè)標(biāo)簽中取置信度最高的前k個(gè)預(yù)測(cè)標(biāo)簽作為有標(biāo)簽數(shù)據(jù)加入到另一個(gè)視圖中進(jìn)行訓(xùn)練,在兩個(gè)視圖中交替迭代,以此類(lèi)推,直到兩個(gè)視圖中的未標(biāo)記數(shù)據(jù)的個(gè)數(shù)為0,具體流程如圖4所示。圖4協(xié)同訓(xùn)練流程Fig.4Generalprocedureofco-training
【參考文獻(xiàn)】:
期刊論文
[1]基于多視圖半監(jiān)督學(xué)習(xí)的人體行為識(shí)別[J]. 唐超,王文劍,王曉峰,張琛,鄒樂(lè). 模式識(shí)別與人工智能. 2019(04)
[2]基于聚類(lèi)假設(shè)的數(shù)據(jù)流分類(lèi)算法[J]. 李南. 模式識(shí)別與人工智能. 2017(01)
[3]基于顏色矩的圖像檢索算法研究[J]. 張少博,全書(shū)海,石英,楊陽(yáng),李云路,程姝. 計(jì)算機(jī)工程. 2014(06)
[4]多標(biāo)記學(xué)習(xí)的嵌入式特征選擇[J]. 葛雷,李國(guó)正,尤鳴宇. 南京大學(xué)學(xué)報(bào)(自然科學(xué)版). 2009(05)
[5]流形學(xué)習(xí)方法中的若干問(wèn)題分析[J]. 高小方. 計(jì)算機(jī)科學(xué). 2009(04)
[6]普通話語(yǔ)音情感識(shí)別的特征選擇技術(shù)[J]. 謝波,陳嶺,陳根才,陳純. 浙江大學(xué)學(xué)報(bào)(工學(xué)版). 2007(11)
[7]幾種邊界特征描述方法的比較研究[J]. 曹茂永,孫農(nóng)亮,郁道銀. 光學(xué)技術(shù). 2003(03)
博士論文
[1]多視圖特征學(xué)習(xí)方法研究[D]. 吳飛.南京郵電大學(xué) 2016
[2]網(wǎng)絡(luò)空間圖像標(biāo)注中半監(jiān)督稀疏特征選擇算法研究[D]. 史彩娟.北京交通大學(xué) 2015
[3]小波理論在圖像去噪與紋理分析中的應(yīng)用研究[D]. 褚標(biāo).合肥工業(yè)大學(xué) 2008
碩士論文
[1]基于低秩理論的多重集典型相關(guān)分析的研究與應(yīng)用[D]. 倪懷發(fā).南京理工大學(xué) 2017
[2]多標(biāo)簽特征選擇算法研究及應(yīng)用[D]. 印晶.南京師范大學(xué) 2016
[3]過(guò)濾式特征選擇算法研究[D]. 許堯.合肥工業(yè)大學(xué) 2015
[4]文本分類(lèi)特征選擇與分類(lèi)算法的改進(jìn)[D]. 鄭俊飛.西安電子科技大學(xué) 2012
本文編號(hào):3124987
【文章來(lái)源】:華北理工大學(xué)河北省
【文章頁(yè)數(shù)】:70 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖像的多視圖高維特征向量Fig.1Multi-viewfeaturevectorofimages
第1章緒論-9-步學(xué)習(xí)方法,使得在分類(lèi)任務(wù)中,按照由簡(jiǎn)單樣本到復(fù)雜樣本的順序進(jìn)行學(xué)習(xí)[25]。分類(lèi)器的損失函數(shù)定義為預(yù)測(cè)標(biāo)簽與真實(shí)標(biāo)簽之間的損失,樣本重要性則根據(jù)流形的光滑性來(lái)度量,然后利用新的損失函數(shù)自適應(yīng)地計(jì)算了偽標(biāo)記樣本和未標(biāo)記樣本的重要性,將置信度高的預(yù)測(cè)標(biāo)簽作為未標(biāo)記樣本偽標(biāo)記。Xu等人將SPL和多視圖學(xué)習(xí)融合到聚類(lèi)算法框架中,提出了一個(gè)多視圖自步學(xué)習(xí)算法(Multi-viewSelf-PacedLearning,MSPL)框架[26]。一方面,MSPL通過(guò)引入SPL,克服了優(yōu)化目標(biāo)函數(shù)時(shí),易于陷入局部極小值的缺陷。另一方面,通過(guò)將SPL與多視圖相結(jié)合,使得在學(xué)習(xí)過(guò)程中不但考慮了樣本層次的復(fù)雜性,而且考慮了視圖層次的復(fù)雜性。1.3研究?jī)?nèi)容本文深入研究了特征選擇、半監(jiān)督學(xué)習(xí)、多視圖學(xué)習(xí)以及自步學(xué)習(xí)等理論,然后針對(duì)當(dāng)前基于圖拉普拉斯的半監(jiān)督特征選擇中存在的缺陷,提出了新的多視圖自適應(yīng)半監(jiān)督特征選擇算法,并將其應(yīng)用到圖像標(biāo)注任務(wù)中,如圖2所示。利用自步學(xué)習(xí)思想使所提算法可以根據(jù)當(dāng)前的預(yù)測(cè)標(biāo)記的反饋信息自適應(yīng)更新拉普拉斯權(quán)重圖,更新后的權(quán)重圖可以更精確的表示訓(xùn)練樣本的流形結(jié)構(gòu),進(jìn)而可以選取更稀疏、更具判別性的特征,提升圖像標(biāo)注的準(zhǔn)確率和效率。此外,通過(guò)引入多視圖學(xué)習(xí),充分利用多個(gè)視圖的信息,進(jìn)一步提升了圖像標(biāo)注的準(zhǔn)確率。圖2研究?jī)?nèi)容Fig.2Theresearchcontent
第2章相關(guān)理論介紹-25-式中:f—自步函數(shù);—編碼預(yù)定課程信息的可行域。SPCL與課程學(xué)習(xí)中的“教師驅(qū)動(dòng)”和自步學(xué)習(xí)中的“學(xué)生驅(qū)動(dòng)”都不同,它可以同時(shí)利用訓(xùn)練之前的先驗(yàn)知識(shí)以及訓(xùn)練期間學(xué)習(xí)器的反饋信息。因此該機(jī)制該類(lèi)似于人類(lèi)學(xué)習(xí)過(guò)程中的“教師-學(xué)生-協(xié)作”學(xué)習(xí)模式。2.4多視圖學(xué)習(xí)隨著采集設(shè)備和采集技術(shù)的發(fā)展,可以輕易獲取多視圖數(shù)據(jù),這些數(shù)據(jù)描述了同一個(gè)對(duì)象的不同屬性。例如,一幅圖像可以從顏色相關(guān)圖、顏色矩和邊緣方向直方圖等多個(gè)視圖中進(jìn)行描述。它們之間往往蘊(yùn)含著豐富的相關(guān)和互補(bǔ)信息,為了充分利用這些信息,學(xué)者們對(duì)多視圖學(xué)習(xí)進(jìn)行了廣泛的研究,并且提出了多種多視圖學(xué)習(xí)算法。目前,這些算法分為四類(lèi)[39]:協(xié)同訓(xùn)練、子空間學(xué)習(xí)、多核學(xué)習(xí)和基于圖的多視圖學(xué)習(xí)。2.4.1協(xié)同訓(xùn)練Blum和Mitchell于上世紀(jì)末提出協(xié)同訓(xùn)練算法,該算法本質(zhì)上是SSL中自訓(xùn)練算的一種擴(kuò)展[40]。自訓(xùn)練通過(guò)將當(dāng)前分類(lèi)器中置信度高的樣本作為有標(biāo)簽樣本加入訓(xùn)練過(guò)程,實(shí)現(xiàn)了自己訓(xùn)練自己的目的;協(xié)同訓(xùn)練則是首先在兩個(gè)視圖中分別利用它們各自視圖中的標(biāo)簽數(shù)據(jù)訓(xùn)練一個(gè)分類(lèi)器,然后用分類(lèi)器預(yù)測(cè)該視圖中的未標(biāo)記數(shù)據(jù),在所得到的預(yù)測(cè)標(biāo)簽中取置信度最高的前k個(gè)預(yù)測(cè)標(biāo)簽作為有標(biāo)簽數(shù)據(jù)加入到另一個(gè)視圖中進(jìn)行訓(xùn)練,在兩個(gè)視圖中交替迭代,以此類(lèi)推,直到兩個(gè)視圖中的未標(biāo)記數(shù)據(jù)的個(gè)數(shù)為0,具體流程如圖4所示。圖4協(xié)同訓(xùn)練流程Fig.4Generalprocedureofco-training
【參考文獻(xiàn)】:
期刊論文
[1]基于多視圖半監(jiān)督學(xué)習(xí)的人體行為識(shí)別[J]. 唐超,王文劍,王曉峰,張琛,鄒樂(lè). 模式識(shí)別與人工智能. 2019(04)
[2]基于聚類(lèi)假設(shè)的數(shù)據(jù)流分類(lèi)算法[J]. 李南. 模式識(shí)別與人工智能. 2017(01)
[3]基于顏色矩的圖像檢索算法研究[J]. 張少博,全書(shū)海,石英,楊陽(yáng),李云路,程姝. 計(jì)算機(jī)工程. 2014(06)
[4]多標(biāo)記學(xué)習(xí)的嵌入式特征選擇[J]. 葛雷,李國(guó)正,尤鳴宇. 南京大學(xué)學(xué)報(bào)(自然科學(xué)版). 2009(05)
[5]流形學(xué)習(xí)方法中的若干問(wèn)題分析[J]. 高小方. 計(jì)算機(jī)科學(xué). 2009(04)
[6]普通話語(yǔ)音情感識(shí)別的特征選擇技術(shù)[J]. 謝波,陳嶺,陳根才,陳純. 浙江大學(xué)學(xué)報(bào)(工學(xué)版). 2007(11)
[7]幾種邊界特征描述方法的比較研究[J]. 曹茂永,孫農(nóng)亮,郁道銀. 光學(xué)技術(shù). 2003(03)
博士論文
[1]多視圖特征學(xué)習(xí)方法研究[D]. 吳飛.南京郵電大學(xué) 2016
[2]網(wǎng)絡(luò)空間圖像標(biāo)注中半監(jiān)督稀疏特征選擇算法研究[D]. 史彩娟.北京交通大學(xué) 2015
[3]小波理論在圖像去噪與紋理分析中的應(yīng)用研究[D]. 褚標(biāo).合肥工業(yè)大學(xué) 2008
碩士論文
[1]基于低秩理論的多重集典型相關(guān)分析的研究與應(yīng)用[D]. 倪懷發(fā).南京理工大學(xué) 2017
[2]多標(biāo)簽特征選擇算法研究及應(yīng)用[D]. 印晶.南京師范大學(xué) 2016
[3]過(guò)濾式特征選擇算法研究[D]. 許堯.合肥工業(yè)大學(xué) 2015
[4]文本分類(lèi)特征選擇與分類(lèi)算法的改進(jìn)[D]. 鄭俊飛.西安電子科技大學(xué) 2012
本文編號(hào):3124987
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3124987.html
最近更新
教材專(zhuān)著