小樣本學(xué)習(xí)的目的在于學(xué)習(xí)一個(gè)具有良好泛化性能的分類模型,當(dāng)只有一個(gè)或者幾個(gè)樣本時(shí),該模型也能快速泛化到新的類別上。這在現(xiàn)實(shí)中具有很重要的應(yīng)用價(jià)值,因?yàn)橐环矫婧芏鄷r(shí)候一些新的類別的樣本是很難獲取的,另一方面有些應(yīng)用中的樣本標(biāo)注往往是非常困難的。由于每個(gè)類別中極其有限的樣本個(gè)數(shù)很難有效地表達(dá)類別分布,使得小樣本學(xué)習(xí)問(wèn)題非常具有挑戰(zhàn)性。小樣本學(xué)習(xí)目前主要有三類方法,即基于數(shù)據(jù)擴(kuò)充的方法,基于元學(xué)習(xí)的方法和基于度量的方法。本文主要從基于度量這類方法著手,分析目前小樣本學(xué)習(xí)中主要存在五個(gè)挑戰(zhàn),即知識(shí)的遷移、圖像表征、概念表征、關(guān)系度量和模型魯棒性,并提出相應(yīng)的解決方案。具體地,本文主要提出以下四個(gè)創(chuàng)新方法:（1）提出一種協(xié)方差度量網(wǎng)絡(luò)框架（Covariance Metric Network,簡(jiǎn)稱為Co-vaMNet）。針對(duì)目前小樣本學(xué)習(xí)中主要采用一階統(tǒng)計(jì)信息進(jìn)行概念表征的問(wèn)題,提出了一種二階統(tǒng)計(jì)信息的概念表征方法。因?yàn)槎A統(tǒng)計(jì)信息往往比一階統(tǒng)計(jì)信息包含更多的信息量,更利于小樣本場(chǎng)景下的概念分布表征。具體地,我們采用包含二階信息的協(xié)方差矩陣對(duì)概念類別進(jìn)行表征。為了有效計(jì)算協(xié)方差矩陣表示,我們首次將... 

【文章頁(yè)數(shù)】：114 頁(yè)

【學(xué)位級(jí)別】：博士

【文章目錄】：
中文摘要
英文摘要
1 緒論
    1.1 引言
    1.2 基于數(shù)據(jù)擴(kuò)充的小樣本學(xué)習(xí)
    1.3 基于元學(xué)習(xí)的小樣本學(xué)習(xí)
    1.4 基于度量的小樣本學(xué)習(xí)
    1.5 小樣本分類問(wèn)題的定義和描述
        1.5.1 問(wèn)題形式化
        1.5.2 插曲訓(xùn)練機(jī)制
    1.6 待研究問(wèn)題與本文工作
2 基于協(xié)方差度量的小樣本學(xué)習(xí)
    2.1 引言
    2.2 CovaMNet:協(xié)方差度量網(wǎng)絡(luò)
        2.2.1 局部協(xié)方差表征
        2.2.2 協(xié)方差度量
        2.2.3 模型結(jié)構(gòu)
    2.3 實(shí)驗(yàn)
        2.3.1 miniImageNet上的小樣本分類
        2.3.2 tieredImageNet上的小樣本分類
        2.3.3 細(xì)粒度小樣本分類
    2.4 本章小結(jié)
    本章的主要工作已發(fā)表論文
3 基于對(duì)比分布度量的小樣本學(xué)習(xí)
    3.1 引言
    3.2 CDM:對(duì)比分布度量網(wǎng)絡(luò)
        3.2.1 特征嵌入與局部描述子分布
        3.2.2 基于Wasserstein距離的分布度量
        3.2.3 對(duì)比分布度量
        3.2.4 模型結(jié)構(gòu)
    3.3 實(shí)驗(yàn)
        3.3.1 數(shù)據(jù)集
        3.3.2 實(shí)驗(yàn)設(shè)置
        3.3.3 對(duì)比方法
        3.3.4 miniImageNet上的小樣本分類
        3.3.5 tieredImageNet上的小樣本分類
        3.3.6 消融實(shí)驗(yàn)
    3.4 本章小結(jié)
    本章的主要工作已投稿論文
4 基于圖像到類別度量的小樣本學(xué)習(xí)
    4.1 引言
    4.2 DN4:深度最近鄰神經(jīng)網(wǎng)絡(luò)
        4.2.1 受NBNN啟發(fā)的動(dòng)機(jī)
        4.2.2 模型框架
        4.2.3 網(wǎng)絡(luò)結(jié)構(gòu)
    4.3 實(shí)驗(yàn)
        4.3.1 數(shù)據(jù)集
        4.3.2 實(shí)驗(yàn)設(shè)置
        4.3.3 對(duì)比方法
        4.3.4 miniImageNet上的小樣本分類
        4.3.5 tieredImageNet上的小樣本分類
        4.3.6 細(xì)粒度小樣本分類
        4.3.7 討論
    4.4 本章小結(jié)
    本章的主要工作已發(fā)表論文
5 基于對(duì)抗訓(xùn)練的防御型小樣本學(xué)習(xí)
    5.1 引言
        5.1.1 四個(gè)問(wèn)題
    5.2 預(yù)備知識(shí)
        5.2.1 防御型小樣本學(xué)習(xí)
        5.2.2 相關(guān)符號(hào)
        5.2.3 攻擊方法
    5.3 MDAT:基于多層次分布的對(duì)抗訓(xùn)練
        5.3.1 任務(wù)層分布
        5.3.2 樣本層分布
        5.3.3 統(tǒng)一的評(píng)價(jià)標(biāo)準(zhǔn)
    5.4 實(shí)驗(yàn)
        5.4.1 對(duì)抗防御遷移
        5.4.2 miniImageNet上的對(duì)抗性防御
        5.4.3 CFAR-100上的對(duì)抗性防御
        5.4.4 消融實(shí)驗(yàn)
        5.4.5 定性比較:F_β分?jǐn)?shù)曲線
    5.5 相關(guān)工作的討論
    5.6 本章小結(jié)
    本章的主要工作已投稿論文
6 總結(jié)與展望
    6.1 總結(jié)
    6.2 展望
致謝
參考文獻(xiàn)
簡(jiǎn)歷與科研成果



本文編號(hào)：3705926