基于目標(biāo)空間構(gòu)造的人臉識(shí)別研究
發(fā)布時(shí)間:2021-10-30 04:58
人臉識(shí)別是一項(xiàng)被廣泛應(yīng)用于日常生活的身份認(rèn)證技術(shù),在公共安全和快捷支付等領(lǐng)域都有較為成熟的應(yīng)用。人臉識(shí)別的主要應(yīng)用是身份驗(yàn)證,該過程包括面部信息提取和數(shù)據(jù)庫匹配。目前,人臉識(shí)別的研究重點(diǎn)是無約束場(chǎng)景的人臉識(shí)別,低分辨率、遮擋、年齡、姿勢(shì)和光照等因素對(duì)識(shí)別的結(jié)果會(huì)產(chǎn)生較大的影響。近年來,隨著深度學(xué)習(xí)的快速發(fā)展,無約束場(chǎng)景的人臉識(shí)別也取得了較大的突破,其中損失函數(shù)是提升模型性能的重要因素。目前,損失函數(shù)的研究方向分為度量學(xué)習(xí)方法和多分類方法。本文通過分析上述算法的優(yōu)化目的,得出它們最終都是構(gòu)造一個(gè)可區(qū)分性的目標(biāo)空間;跇(gòu)造目標(biāo)空間的分布狀況,本文提出了樣本自聚集算法,該方法能夠通過聚集同類別的樣本構(gòu)建具有可區(qū)分性的目標(biāo)空間。論文的主要工作如下:(1)回顧了近年來基于卷積神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別算法,分別對(duì)度量學(xué)習(xí)和多分類方法進(jìn)行了詳細(xì)的分析。度量學(xué)習(xí)通過直接優(yōu)化目標(biāo)空間的樣本位置,使得目標(biāo)空間中的樣本均能夠服從最大的類內(nèi)距離小于最小的類間距離。多分類方法通過訓(xùn)練多類別分類器間接優(yōu)化樣本在目標(biāo)空間的位置,并在原有損失函數(shù)的基礎(chǔ)上添加邊界懲罰,減小了類內(nèi)距離,使得目標(biāo)空間的樣本特征具有良好的可區(qū)分...
【文章來源】:江西師范大學(xué)江西省
【文章頁數(shù)】:66 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
孿生神經(jīng)網(wǎng)絡(luò)-Chopra結(jié)構(gòu)圖
基于目標(biāo)空間構(gòu)造的人臉識(shí)別研究112ap,0piiiLfxfxLx(2-10)2an,0niiiLfxfxLx(2-11)分析上述梯度可得出,正例樣本的優(yōu)化方向是向錨點(diǎn)靠近,而負(fù)例樣本是在遠(yuǎn)離錨點(diǎn),錨點(diǎn)的優(yōu)化方向是根據(jù)正樣本點(diǎn)和負(fù)樣本點(diǎn)的位置取了一個(gè)折衷,但仍是靠近正樣本點(diǎn)遠(yuǎn)離負(fù)樣本點(diǎn)。該損失函數(shù)優(yōu)化過程如圖2-2所示。圖2-2三元組損失優(yōu)化示意圖圖中的圓圈代表同一類別,分別為錨點(diǎn)和正例點(diǎn),方塊為另外一個(gè)類別的負(fù)例點(diǎn)。當(dāng)上述樣本組合的位置關(guān)系不滿足約束關(guān)系時(shí),它們將根據(jù)損失函數(shù)產(chǎn)生的梯度優(yōu)化自身的位置,使得同類別的樣本間的距離更近,而不同類別的樣本間的距離更遠(yuǎn)。三元組損失的優(yōu)化目標(biāo)是期望任意樣本組合的類內(nèi)距離均小于類間距離。相對(duì)于對(duì)比損失單方面優(yōu)化正例對(duì)或者負(fù)例對(duì),三元組損失采取同時(shí)優(yōu)化正樣本對(duì)和負(fù)樣本對(duì)的方式進(jìn)行訓(xùn)練。但該方法的實(shí)際代價(jià)非常大,三元組的組合數(shù)目會(huì)隨著樣本數(shù)和類別數(shù)的增加呈指數(shù)增加。例如有3個(gè)類別,每個(gè)類別都包含10個(gè)樣本,可訓(xùn)練的三元組組合數(shù)是2700組。若全部訓(xùn)練這些樣本組合,其訓(xùn)練代價(jià)非常龐大。因此如何挑選適當(dāng)?shù)娜M進(jìn)行訓(xùn)練是該方法的一個(gè)難點(diǎn)。因此,F(xiàn)aceNet提出了半困難的樣本組合,即選擇正例對(duì)距離小于負(fù)例對(duì)距離但不滿足邊界約束的樣本組合。但是該樣本組合的生成方式需要依賴提前計(jì)算所有樣本的位置關(guān)系,再挑選出符合條件的樣本組合。該方法的代價(jià)仍然非常巨大,后續(xù)的改進(jìn)方法也從三元組損失的固有缺點(diǎn)出發(fā),分為改良約束條件和改良樣本組合的選擇策略。三元組損失有效利用了正樣本對(duì)和負(fù)樣本對(duì)之間的位置關(guān)系,使得模型優(yōu)化的方向更有利于實(shí)現(xiàn)類內(nèi)距離小于類間距離。該方法存在的主要缺陷是訓(xùn)練的組合數(shù)太過龐大,如何選擇更有效的訓(xùn)練組合
的角度懲罰,使得局部樣本組合的優(yōu)化過程更易于收斂。改進(jìn)約束條件的方法使得模型的收斂速度也有一定的提升。改進(jìn)訓(xùn)練樣本組合的方法近年來發(fā)展迅速,其中LiftedStruct[46]和RankedList[47]兩種方法通過提高批樣本組合的利用率獲取更快的收斂速度。與它們相類似的方法也稱為結(jié)構(gòu)性損失。LiftedStruct的主要?jiǎng)?chuàng)新點(diǎn)在于其高效地利用了批樣本。原先對(duì)比損失和三元組損失的優(yōu)化的是兩個(gè)或三個(gè)樣本的位置關(guān)系,而批樣本內(nèi)部的樣本之間并無直接關(guān)聯(lián)性。LiftedStruct將樣本位置關(guān)系拓展到了整個(gè)批樣本內(nèi)部,具體的改進(jìn)過程如圖2-3所示。圖2-3結(jié)構(gòu)性損失-Song示意圖
【參考文獻(xiàn)】:
期刊論文
[1]角度余量損失和中心損失聯(lián)合的深度人臉識(shí)別[J]. 李振東,鐘勇,陳蔓,王理順. 計(jì)算機(jī)應(yīng)用. 2019(S2)
[2]深度度量學(xué)習(xí)綜述[J]. 劉冰,李瑞麟,封舉富. 智能系統(tǒng)學(xué)報(bào). 2019(06)
[3]基于集成人臉對(duì)距離學(xué)習(xí)的跨年齡人臉驗(yàn)證[J]. 吳嘉琪,景麗萍. 模式識(shí)別與人工智能. 2017(12)
[4]有遮擋人臉識(shí)別綜述:從子空間回歸到深度學(xué)習(xí)[J]. 李小薪,梁榮華. 計(jì)算機(jī)學(xué)報(bào). 2018(01)
[5]多姿態(tài)人臉識(shí)別綜述[J]. 鄒國鋒,傅桂霞,李海濤,高明亮,王科俊. 模式識(shí)別與人工智能. 2015(07)
[6]基于局部二值模式和深度學(xué)習(xí)的人臉識(shí)別[J]. 張?chǎng)?王文偉. 計(jì)算機(jī)應(yīng)用. 2015(05)
[7]基于HOG金字塔人臉識(shí)別方法[J]. 楊冰,王小華,楊鑫,黃孝喜. 浙江大學(xué)學(xué)報(bào)(工學(xué)版). 2014(09)
[8]基于鑒別稀疏保持嵌入的人臉識(shí)別算法[J]. 馬小虎,譚延琪. 自動(dòng)化學(xué)報(bào). 2014(01)
[9]張量局部Fisher判別分析的人臉識(shí)別[J]. 鄭建煒,王萬良,姚曉敏,石海燕. 自動(dòng)化學(xué)報(bào). 2012(09)
[10]基于HMM的單樣本可變光照、姿態(tài)人臉識(shí)別[J]. 胡峰松,張茂軍,鄒北驥,馬俊容. 計(jì)算機(jī)學(xué)報(bào). 2009(07)
本文編號(hào):3466096
【文章來源】:江西師范大學(xué)江西省
【文章頁數(shù)】:66 頁
【學(xué)位級(jí)別】:碩士
【部分圖文】:
孿生神經(jīng)網(wǎng)絡(luò)-Chopra結(jié)構(gòu)圖
基于目標(biāo)空間構(gòu)造的人臉識(shí)別研究112ap,0piiiLfxfxLx(2-10)2an,0niiiLfxfxLx(2-11)分析上述梯度可得出,正例樣本的優(yōu)化方向是向錨點(diǎn)靠近,而負(fù)例樣本是在遠(yuǎn)離錨點(diǎn),錨點(diǎn)的優(yōu)化方向是根據(jù)正樣本點(diǎn)和負(fù)樣本點(diǎn)的位置取了一個(gè)折衷,但仍是靠近正樣本點(diǎn)遠(yuǎn)離負(fù)樣本點(diǎn)。該損失函數(shù)優(yōu)化過程如圖2-2所示。圖2-2三元組損失優(yōu)化示意圖圖中的圓圈代表同一類別,分別為錨點(diǎn)和正例點(diǎn),方塊為另外一個(gè)類別的負(fù)例點(diǎn)。當(dāng)上述樣本組合的位置關(guān)系不滿足約束關(guān)系時(shí),它們將根據(jù)損失函數(shù)產(chǎn)生的梯度優(yōu)化自身的位置,使得同類別的樣本間的距離更近,而不同類別的樣本間的距離更遠(yuǎn)。三元組損失的優(yōu)化目標(biāo)是期望任意樣本組合的類內(nèi)距離均小于類間距離。相對(duì)于對(duì)比損失單方面優(yōu)化正例對(duì)或者負(fù)例對(duì),三元組損失采取同時(shí)優(yōu)化正樣本對(duì)和負(fù)樣本對(duì)的方式進(jìn)行訓(xùn)練。但該方法的實(shí)際代價(jià)非常大,三元組的組合數(shù)目會(huì)隨著樣本數(shù)和類別數(shù)的增加呈指數(shù)增加。例如有3個(gè)類別,每個(gè)類別都包含10個(gè)樣本,可訓(xùn)練的三元組組合數(shù)是2700組。若全部訓(xùn)練這些樣本組合,其訓(xùn)練代價(jià)非常龐大。因此如何挑選適當(dāng)?shù)娜M進(jìn)行訓(xùn)練是該方法的一個(gè)難點(diǎn)。因此,F(xiàn)aceNet提出了半困難的樣本組合,即選擇正例對(duì)距離小于負(fù)例對(duì)距離但不滿足邊界約束的樣本組合。但是該樣本組合的生成方式需要依賴提前計(jì)算所有樣本的位置關(guān)系,再挑選出符合條件的樣本組合。該方法的代價(jià)仍然非常巨大,后續(xù)的改進(jìn)方法也從三元組損失的固有缺點(diǎn)出發(fā),分為改良約束條件和改良樣本組合的選擇策略。三元組損失有效利用了正樣本對(duì)和負(fù)樣本對(duì)之間的位置關(guān)系,使得模型優(yōu)化的方向更有利于實(shí)現(xiàn)類內(nèi)距離小于類間距離。該方法存在的主要缺陷是訓(xùn)練的組合數(shù)太過龐大,如何選擇更有效的訓(xùn)練組合
的角度懲罰,使得局部樣本組合的優(yōu)化過程更易于收斂。改進(jìn)約束條件的方法使得模型的收斂速度也有一定的提升。改進(jìn)訓(xùn)練樣本組合的方法近年來發(fā)展迅速,其中LiftedStruct[46]和RankedList[47]兩種方法通過提高批樣本組合的利用率獲取更快的收斂速度。與它們相類似的方法也稱為結(jié)構(gòu)性損失。LiftedStruct的主要?jiǎng)?chuàng)新點(diǎn)在于其高效地利用了批樣本。原先對(duì)比損失和三元組損失的優(yōu)化的是兩個(gè)或三個(gè)樣本的位置關(guān)系,而批樣本內(nèi)部的樣本之間并無直接關(guān)聯(lián)性。LiftedStruct將樣本位置關(guān)系拓展到了整個(gè)批樣本內(nèi)部,具體的改進(jìn)過程如圖2-3所示。圖2-3結(jié)構(gòu)性損失-Song示意圖
【參考文獻(xiàn)】:
期刊論文
[1]角度余量損失和中心損失聯(lián)合的深度人臉識(shí)別[J]. 李振東,鐘勇,陳蔓,王理順. 計(jì)算機(jī)應(yīng)用. 2019(S2)
[2]深度度量學(xué)習(xí)綜述[J]. 劉冰,李瑞麟,封舉富. 智能系統(tǒng)學(xué)報(bào). 2019(06)
[3]基于集成人臉對(duì)距離學(xué)習(xí)的跨年齡人臉驗(yàn)證[J]. 吳嘉琪,景麗萍. 模式識(shí)別與人工智能. 2017(12)
[4]有遮擋人臉識(shí)別綜述:從子空間回歸到深度學(xué)習(xí)[J]. 李小薪,梁榮華. 計(jì)算機(jī)學(xué)報(bào). 2018(01)
[5]多姿態(tài)人臉識(shí)別綜述[J]. 鄒國鋒,傅桂霞,李海濤,高明亮,王科俊. 模式識(shí)別與人工智能. 2015(07)
[6]基于局部二值模式和深度學(xué)習(xí)的人臉識(shí)別[J]. 張?chǎng)?王文偉. 計(jì)算機(jī)應(yīng)用. 2015(05)
[7]基于HOG金字塔人臉識(shí)別方法[J]. 楊冰,王小華,楊鑫,黃孝喜. 浙江大學(xué)學(xué)報(bào)(工學(xué)版). 2014(09)
[8]基于鑒別稀疏保持嵌入的人臉識(shí)別算法[J]. 馬小虎,譚延琪. 自動(dòng)化學(xué)報(bào). 2014(01)
[9]張量局部Fisher判別分析的人臉識(shí)別[J]. 鄭建煒,王萬良,姚曉敏,石海燕. 自動(dòng)化學(xué)報(bào). 2012(09)
[10]基于HMM的單樣本可變光照、姿態(tài)人臉識(shí)別[J]. 胡峰松,張茂軍,鄒北驥,馬俊容. 計(jì)算機(jī)學(xué)報(bào). 2009(07)
本文編號(hào):3466096
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3466096.html
最近更新
教材專著