人臉美麗預(yù)測(cè)是研究如何讓計(jì)算機(jī)具有與人類相似的人臉美麗判斷或預(yù)測(cè)能力。目前,人臉美麗預(yù)測(cè)存在數(shù)據(jù)樣本少、評(píng)價(jià)指標(biāo)不明確、訓(xùn)練深度網(wǎng)絡(luò)容易過擬合等問題。多任務(wù)遷移學(xué)習(xí)（Multi-task Transfer Learning,MTTL）利用源域和相關(guān)輔助任務(wù)的額外信息,提高主任務(wù)性能。本文提出基于多任務(wù)遷移學(xué)習(xí)的人臉美麗預(yù)測(cè)研究,主要研究內(nèi)容如下:（1）人臉美麗預(yù)測(cè)方法多采用單任務(wù)學(xué)習(xí),忽略了相關(guān)任務(wù)的影響;多任務(wù)學(xué)習(xí)（Multi-task Learning,MTL）利用相關(guān)任務(wù)的輔助信息提高主任務(wù)性能。因此,本文將人臉美麗預(yù)測(cè)作為主任務(wù)、性別識(shí)別作為輔助任務(wù),依托VGG16、VGG19和Resnet50網(wǎng)絡(luò),構(gòu)建了多任務(wù)學(xué)習(xí)人臉美麗預(yù)測(cè)模型,并對(duì)比了不同模型人臉美麗預(yù)測(cè)結(jié)果。實(shí)驗(yàn)結(jié)果表明,性別識(shí)別輔助任務(wù)為人臉美麗預(yù)測(cè)主任務(wù)提供了更豐富的淺層特征,多任務(wù)學(xué)習(xí)的人臉美麗預(yù)測(cè)準(zhǔn)確率優(yōu)于單任務(wù)學(xué)習(xí)。（2）針對(duì)人臉美麗預(yù)測(cè)數(shù)據(jù)量較小、訓(xùn)練深度網(wǎng)絡(luò)易過擬合的問題,本文通過構(gòu)建多任務(wù)遷移學(xué)習(xí)人臉美麗預(yù)測(cè)模型,結(jié)合人臉美麗預(yù)測(cè)和性別識(shí)別,利用在Imagenet上預(yù)訓(xùn)練的模型參數(shù)實(shí)現(xiàn)多任務(wù)遷移學(xué)習(xí)。為... 

【文章來源】：五邑大學(xué)廣東省

【文章頁數(shù)】：63 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

單任務(wù)學(xué)習(xí)與多任務(wù)學(xué)習(xí)的示意圖

目前,參數(shù)共享機(jī)制可分為硬共享、軟共享、分層共享和稀疏共享四種。硬共享是深度多任務(wù)學(xué)習(xí)中應(yīng)用最廣泛的機(jī)制,所有任務(wù)共享網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù),再為每個(gè)任務(wù)設(shè)定特定任務(wù)層獲取任務(wù)的特定表示。Baxter等[59]證明了硬共享機(jī)制可有效降低過擬合的風(fēng)險(xiǎn),但處理弱相關(guān)任務(wù)時(shí)表現(xiàn)較差。軟共享機(jī)制是每個(gè)任務(wù)都學(xué)習(xí)自己的網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù),在進(jìn)行多任務(wù)聯(lián)合訓(xùn)練過程中,各任務(wù)之間互相共享參數(shù),通過對(duì)模型參數(shù)距離進(jìn)行正則化保障參數(shù)的相似性[60];軟共享機(jī)制的約束很大程度上受傳統(tǒng)多任務(wù)學(xué)習(xí)正則化技術(shù)的影響且其參數(shù)量較多。分層共享即網(wǎng)絡(luò)底層學(xué)習(xí)簡單任務(wù)、高層學(xué)習(xí)較困難任務(wù),從底層和高層中共享信息,其所需參數(shù)少但分層結(jié)構(gòu)設(shè)計(jì)需要大量人工經(jīng)驗(yàn)設(shè)計(jì)。稀疏共享是一種最新的參數(shù)高效共享機(jī)制,通過迭代幅度剪枝(Iterative Magnitude Pruning,IMP)技術(shù),可實(shí)現(xiàn)自動(dòng)學(xué)習(xí)多任務(wù)的稀疏共享結(jié)構(gòu),不需要任務(wù)相關(guān)性的先驗(yàn)知識(shí)。該方法不僅能減少參數(shù),還能避免負(fù)遷移,但其訓(xùn)練時(shí)間長[61]。圖2-2分別為多任務(wù)學(xué)習(xí)的參數(shù)硬共享、軟共享、分層共享和稀疏共享機(jī)制結(jié)構(gòu)示意圖。2.3 多任務(wù)遷移學(xué)習(xí)

遷移學(xué)習(xí)利用一些相關(guān)任務(wù)或領(lǐng)域中存在的標(biāo)簽數(shù)據(jù)來處理缺少標(biāo)簽數(shù)據(jù)的場(chǎng)景,將在解決源域任務(wù)時(shí)獲得的知識(shí)存儲(chǔ)起來,并應(yīng)用于感興趣的目標(biāo)域問題,如圖2-3所示。遷移學(xué)習(xí)的目的是,遷移已有的知識(shí)來解決目標(biāo)領(lǐng)域中僅有少量有標(biāo)簽樣本數(shù)據(jù)甚至沒有的問題。在機(jī)器學(xué)習(xí)領(lǐng)域,遷移學(xué)習(xí)可以理解為學(xué)會(huì)學(xué)習(xí)(Learning to learn)、終身學(xué)習(xí)(Life-long learning)、知識(shí)遷移(Knowledge transfer)、歸納遷移(Inductive transfer)、上下文敏感學(xué)習(xí)(Context-sensitive learning)和元學(xué)習(xí)(Meta-learning);還與機(jī)器學(xué)習(xí)的其他幾個(gè)領(lǐng)域密切相關(guān),例如,自學(xué)習(xí)、多任務(wù)學(xué)習(xí)、域適應(yīng)等。文獻(xiàn)[46]對(duì)遷移學(xué)習(xí)給了一個(gè)正式定義,明確了兩個(gè)概念:域和任務(wù)。域D=(c,P(X))包含一個(gè)特征空間c和一個(gè)邊緣概率分布P(X),其中X={x1,,xn}∈c。源域是遷移對(duì)象,具有大量的標(biāo)注數(shù)據(jù)和先驗(yàn)知識(shí);目標(biāo)域是被遷移對(duì)象,其標(biāo)注數(shù)據(jù)少。任務(wù)由域的標(biāo)注空間Y和目標(biāo)預(yù)測(cè)函數(shù)F組成,表示為T=(Y,F);其中,F表示為條件概率分布P(y|x),可從訓(xùn)練數(shù)據(jù)中學(xué)習(xí)得到。

【參考文獻(xiàn)】：
期刊論文
[1]基于雙激活層深度卷積特征的人臉美麗預(yù)測(cè)研究[J]. 甘俊英,翟懿奎,黃聿,曾軍英,姜開永.  電子學(xué)報(bào). 2019(03)
[2]結(jié)合局部二值模式和卷積神經(jīng)網(wǎng)絡(luò)的人臉美麗預(yù)測(cè)[J]. 甘俊英,譚海英,項(xiàng)俐,翟懿奎,曾軍英.  信號(hào)處理. 2019(01)

碩士論文
[1]組稀疏多任務(wù)學(xué)習(xí)方法及其應(yīng)用研究[D]. 孫怡.南京郵電大學(xué) 2019



本文編號(hào)：3547134