多視圖自適應(yīng)半監(jiān)督特征選擇算法研究
發(fā)布時間:2021-04-08 05:57
近年來,隨著拍照設(shè)備的普及和互聯(lián)網(wǎng)技術(shù)的飛速發(fā)展,網(wǎng)絡(luò)中每天產(chǎn)生數(shù)以億計的圖像信息并且傳播迅速。海量的圖像所包含的信息冗雜,格式不一,不僅耗費了大量的網(wǎng)絡(luò)資源,而且難以有效的進行搜索和管理。因此,如何對網(wǎng)絡(luò)中的圖像進行高效的管理,是圖像處理和計算機視覺領(lǐng)域中的一個研究熱點,也是實際應(yīng)用中急需解決的問題。在圖像處理和計算機視覺等領(lǐng)域中,圖像往往是由高維特征向量表示。高維數(shù)據(jù)不僅提高了處理數(shù)據(jù)的時間和空間要求,甚至有時候會產(chǎn)生“維度災(zāi)難”問題,使得數(shù)據(jù)難以處理。因此特征選擇技術(shù),尤其是半監(jiān)督特征選擇在過去十幾年得到了廣泛的研究。其中,基于圖拉普拉斯的半監(jiān)督特征選擇方法憑借其良好的標簽傳播能力和計算成本低等優(yōu)點,在圖像處理和識別等領(lǐng)域中得到廣泛應(yīng)用。雖然基于圖拉普拉斯的半監(jiān)督特征選擇算法在實際應(yīng)用中獲得了不錯的性能,但是它們?nèi)匀淮嬖诰窒扌。首?這些現(xiàn)有算法的性能嚴重依賴于所構(gòu)建的拉普拉斯權(quán)重圖的質(zhì)量,而且權(quán)重圖一旦構(gòu)建就無法更改。其次,當(dāng)面對圖像的多視圖特征向量時,這些現(xiàn)有算法一般是直接將多個視圖的特征向量串聯(lián)成一個長向量來處理,忽略了多視圖之間包含的互補信息。為了克服以上缺陷,將自步學(xué)習(xí)...
【文章來源】:華北理工大學(xué)河北省
【文章頁數(shù)】:70 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖像的多視圖高維特征向量Fig.1Multi-viewfeaturevectorofimages
第1章緒論-9-步學(xué)習(xí)方法,使得在分類任務(wù)中,按照由簡單樣本到復(fù)雜樣本的順序進行學(xué)習(xí)[25]。分類器的損失函數(shù)定義為預(yù)測標簽與真實標簽之間的損失,樣本重要性則根據(jù)流形的光滑性來度量,然后利用新的損失函數(shù)自適應(yīng)地計算了偽標記樣本和未標記樣本的重要性,將置信度高的預(yù)測標簽作為未標記樣本偽標記。Xu等人將SPL和多視圖學(xué)習(xí)融合到聚類算法框架中,提出了一個多視圖自步學(xué)習(xí)算法(Multi-viewSelf-PacedLearning,MSPL)框架[26]。一方面,MSPL通過引入SPL,克服了優(yōu)化目標函數(shù)時,易于陷入局部極小值的缺陷。另一方面,通過將SPL與多視圖相結(jié)合,使得在學(xué)習(xí)過程中不但考慮了樣本層次的復(fù)雜性,而且考慮了視圖層次的復(fù)雜性。1.3研究內(nèi)容本文深入研究了特征選擇、半監(jiān)督學(xué)習(xí)、多視圖學(xué)習(xí)以及自步學(xué)習(xí)等理論,然后針對當(dāng)前基于圖拉普拉斯的半監(jiān)督特征選擇中存在的缺陷,提出了新的多視圖自適應(yīng)半監(jiān)督特征選擇算法,并將其應(yīng)用到圖像標注任務(wù)中,如圖2所示。利用自步學(xué)習(xí)思想使所提算法可以根據(jù)當(dāng)前的預(yù)測標記的反饋信息自適應(yīng)更新拉普拉斯權(quán)重圖,更新后的權(quán)重圖可以更精確的表示訓(xùn)練樣本的流形結(jié)構(gòu),進而可以選取更稀疏、更具判別性的特征,提升圖像標注的準確率和效率。此外,通過引入多視圖學(xué)習(xí),充分利用多個視圖的信息,進一步提升了圖像標注的準確率。圖2研究內(nèi)容Fig.2Theresearchcontent
第2章相關(guān)理論介紹-25-式中:f—自步函數(shù);—編碼預(yù)定課程信息的可行域。SPCL與課程學(xué)習(xí)中的“教師驅(qū)動”和自步學(xué)習(xí)中的“學(xué)生驅(qū)動”都不同,它可以同時利用訓(xùn)練之前的先驗知識以及訓(xùn)練期間學(xué)習(xí)器的反饋信息。因此該機制該類似于人類學(xué)習(xí)過程中的“教師-學(xué)生-協(xié)作”學(xué)習(xí)模式。2.4多視圖學(xué)習(xí)隨著采集設(shè)備和采集技術(shù)的發(fā)展,可以輕易獲取多視圖數(shù)據(jù),這些數(shù)據(jù)描述了同一個對象的不同屬性。例如,一幅圖像可以從顏色相關(guān)圖、顏色矩和邊緣方向直方圖等多個視圖中進行描述。它們之間往往蘊含著豐富的相關(guān)和互補信息,為了充分利用這些信息,學(xué)者們對多視圖學(xué)習(xí)進行了廣泛的研究,并且提出了多種多視圖學(xué)習(xí)算法。目前,這些算法分為四類[39]:協(xié)同訓(xùn)練、子空間學(xué)習(xí)、多核學(xué)習(xí)和基于圖的多視圖學(xué)習(xí)。2.4.1協(xié)同訓(xùn)練Blum和Mitchell于上世紀末提出協(xié)同訓(xùn)練算法,該算法本質(zhì)上是SSL中自訓(xùn)練算的一種擴展[40]。自訓(xùn)練通過將當(dāng)前分類器中置信度高的樣本作為有標簽樣本加入訓(xùn)練過程,實現(xiàn)了自己訓(xùn)練自己的目的;協(xié)同訓(xùn)練則是首先在兩個視圖中分別利用它們各自視圖中的標簽數(shù)據(jù)訓(xùn)練一個分類器,然后用分類器預(yù)測該視圖中的未標記數(shù)據(jù),在所得到的預(yù)測標簽中取置信度最高的前k個預(yù)測標簽作為有標簽數(shù)據(jù)加入到另一個視圖中進行訓(xùn)練,在兩個視圖中交替迭代,以此類推,直到兩個視圖中的未標記數(shù)據(jù)的個數(shù)為0,具體流程如圖4所示。圖4協(xié)同訓(xùn)練流程Fig.4Generalprocedureofco-training
【參考文獻】:
期刊論文
[1]基于多視圖半監(jiān)督學(xué)習(xí)的人體行為識別[J]. 唐超,王文劍,王曉峰,張琛,鄒樂. 模式識別與人工智能. 2019(04)
[2]基于聚類假設(shè)的數(shù)據(jù)流分類算法[J]. 李南. 模式識別與人工智能. 2017(01)
[3]基于顏色矩的圖像檢索算法研究[J]. 張少博,全書海,石英,楊陽,李云路,程姝. 計算機工程. 2014(06)
[4]多標記學(xué)習(xí)的嵌入式特征選擇[J]. 葛雷,李國正,尤鳴宇. 南京大學(xué)學(xué)報(自然科學(xué)版). 2009(05)
[5]流形學(xué)習(xí)方法中的若干問題分析[J]. 高小方. 計算機科學(xué). 2009(04)
[6]普通話語音情感識別的特征選擇技術(shù)[J]. 謝波,陳嶺,陳根才,陳純. 浙江大學(xué)學(xué)報(工學(xué)版). 2007(11)
[7]幾種邊界特征描述方法的比較研究[J]. 曹茂永,孫農(nóng)亮,郁道銀. 光學(xué)技術(shù). 2003(03)
博士論文
[1]多視圖特征學(xué)習(xí)方法研究[D]. 吳飛.南京郵電大學(xué) 2016
[2]網(wǎng)絡(luò)空間圖像標注中半監(jiān)督稀疏特征選擇算法研究[D]. 史彩娟.北京交通大學(xué) 2015
[3]小波理論在圖像去噪與紋理分析中的應(yīng)用研究[D]. 褚標.合肥工業(yè)大學(xué) 2008
碩士論文
[1]基于低秩理論的多重集典型相關(guān)分析的研究與應(yīng)用[D]. 倪懷發(fā).南京理工大學(xué) 2017
[2]多標簽特征選擇算法研究及應(yīng)用[D]. 印晶.南京師范大學(xué) 2016
[3]過濾式特征選擇算法研究[D]. 許堯.合肥工業(yè)大學(xué) 2015
[4]文本分類特征選擇與分類算法的改進[D]. 鄭俊飛.西安電子科技大學(xué) 2012
本文編號:3124987
【文章來源】:華北理工大學(xué)河北省
【文章頁數(shù)】:70 頁
【學(xué)位級別】:碩士
【部分圖文】:
圖像的多視圖高維特征向量Fig.1Multi-viewfeaturevectorofimages
第1章緒論-9-步學(xué)習(xí)方法,使得在分類任務(wù)中,按照由簡單樣本到復(fù)雜樣本的順序進行學(xué)習(xí)[25]。分類器的損失函數(shù)定義為預(yù)測標簽與真實標簽之間的損失,樣本重要性則根據(jù)流形的光滑性來度量,然后利用新的損失函數(shù)自適應(yīng)地計算了偽標記樣本和未標記樣本的重要性,將置信度高的預(yù)測標簽作為未標記樣本偽標記。Xu等人將SPL和多視圖學(xué)習(xí)融合到聚類算法框架中,提出了一個多視圖自步學(xué)習(xí)算法(Multi-viewSelf-PacedLearning,MSPL)框架[26]。一方面,MSPL通過引入SPL,克服了優(yōu)化目標函數(shù)時,易于陷入局部極小值的缺陷。另一方面,通過將SPL與多視圖相結(jié)合,使得在學(xué)習(xí)過程中不但考慮了樣本層次的復(fù)雜性,而且考慮了視圖層次的復(fù)雜性。1.3研究內(nèi)容本文深入研究了特征選擇、半監(jiān)督學(xué)習(xí)、多視圖學(xué)習(xí)以及自步學(xué)習(xí)等理論,然后針對當(dāng)前基于圖拉普拉斯的半監(jiān)督特征選擇中存在的缺陷,提出了新的多視圖自適應(yīng)半監(jiān)督特征選擇算法,并將其應(yīng)用到圖像標注任務(wù)中,如圖2所示。利用自步學(xué)習(xí)思想使所提算法可以根據(jù)當(dāng)前的預(yù)測標記的反饋信息自適應(yīng)更新拉普拉斯權(quán)重圖,更新后的權(quán)重圖可以更精確的表示訓(xùn)練樣本的流形結(jié)構(gòu),進而可以選取更稀疏、更具判別性的特征,提升圖像標注的準確率和效率。此外,通過引入多視圖學(xué)習(xí),充分利用多個視圖的信息,進一步提升了圖像標注的準確率。圖2研究內(nèi)容Fig.2Theresearchcontent
第2章相關(guān)理論介紹-25-式中:f—自步函數(shù);—編碼預(yù)定課程信息的可行域。SPCL與課程學(xué)習(xí)中的“教師驅(qū)動”和自步學(xué)習(xí)中的“學(xué)生驅(qū)動”都不同,它可以同時利用訓(xùn)練之前的先驗知識以及訓(xùn)練期間學(xué)習(xí)器的反饋信息。因此該機制該類似于人類學(xué)習(xí)過程中的“教師-學(xué)生-協(xié)作”學(xué)習(xí)模式。2.4多視圖學(xué)習(xí)隨著采集設(shè)備和采集技術(shù)的發(fā)展,可以輕易獲取多視圖數(shù)據(jù),這些數(shù)據(jù)描述了同一個對象的不同屬性。例如,一幅圖像可以從顏色相關(guān)圖、顏色矩和邊緣方向直方圖等多個視圖中進行描述。它們之間往往蘊含著豐富的相關(guān)和互補信息,為了充分利用這些信息,學(xué)者們對多視圖學(xué)習(xí)進行了廣泛的研究,并且提出了多種多視圖學(xué)習(xí)算法。目前,這些算法分為四類[39]:協(xié)同訓(xùn)練、子空間學(xué)習(xí)、多核學(xué)習(xí)和基于圖的多視圖學(xué)習(xí)。2.4.1協(xié)同訓(xùn)練Blum和Mitchell于上世紀末提出協(xié)同訓(xùn)練算法,該算法本質(zhì)上是SSL中自訓(xùn)練算的一種擴展[40]。自訓(xùn)練通過將當(dāng)前分類器中置信度高的樣本作為有標簽樣本加入訓(xùn)練過程,實現(xiàn)了自己訓(xùn)練自己的目的;協(xié)同訓(xùn)練則是首先在兩個視圖中分別利用它們各自視圖中的標簽數(shù)據(jù)訓(xùn)練一個分類器,然后用分類器預(yù)測該視圖中的未標記數(shù)據(jù),在所得到的預(yù)測標簽中取置信度最高的前k個預(yù)測標簽作為有標簽數(shù)據(jù)加入到另一個視圖中進行訓(xùn)練,在兩個視圖中交替迭代,以此類推,直到兩個視圖中的未標記數(shù)據(jù)的個數(shù)為0,具體流程如圖4所示。圖4協(xié)同訓(xùn)練流程Fig.4Generalprocedureofco-training
【參考文獻】:
期刊論文
[1]基于多視圖半監(jiān)督學(xué)習(xí)的人體行為識別[J]. 唐超,王文劍,王曉峰,張琛,鄒樂. 模式識別與人工智能. 2019(04)
[2]基于聚類假設(shè)的數(shù)據(jù)流分類算法[J]. 李南. 模式識別與人工智能. 2017(01)
[3]基于顏色矩的圖像檢索算法研究[J]. 張少博,全書海,石英,楊陽,李云路,程姝. 計算機工程. 2014(06)
[4]多標記學(xué)習(xí)的嵌入式特征選擇[J]. 葛雷,李國正,尤鳴宇. 南京大學(xué)學(xué)報(自然科學(xué)版). 2009(05)
[5]流形學(xué)習(xí)方法中的若干問題分析[J]. 高小方. 計算機科學(xué). 2009(04)
[6]普通話語音情感識別的特征選擇技術(shù)[J]. 謝波,陳嶺,陳根才,陳純. 浙江大學(xué)學(xué)報(工學(xué)版). 2007(11)
[7]幾種邊界特征描述方法的比較研究[J]. 曹茂永,孫農(nóng)亮,郁道銀. 光學(xué)技術(shù). 2003(03)
博士論文
[1]多視圖特征學(xué)習(xí)方法研究[D]. 吳飛.南京郵電大學(xué) 2016
[2]網(wǎng)絡(luò)空間圖像標注中半監(jiān)督稀疏特征選擇算法研究[D]. 史彩娟.北京交通大學(xué) 2015
[3]小波理論在圖像去噪與紋理分析中的應(yīng)用研究[D]. 褚標.合肥工業(yè)大學(xué) 2008
碩士論文
[1]基于低秩理論的多重集典型相關(guān)分析的研究與應(yīng)用[D]. 倪懷發(fā).南京理工大學(xué) 2017
[2]多標簽特征選擇算法研究及應(yīng)用[D]. 印晶.南京師范大學(xué) 2016
[3]過濾式特征選擇算法研究[D]. 許堯.合肥工業(yè)大學(xué) 2015
[4]文本分類特征選擇與分類算法的改進[D]. 鄭俊飛.西安電子科技大學(xué) 2012
本文編號:3124987
本文鏈接:http://sikaile.net/kejilunwen/shengwushengchang/3124987.html
最近更新
教材專著