隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展,實際應(yīng)用中存在著大量無標(biāo)簽樣本和少量有標(biāo)簽樣本。雖然有標(biāo)簽樣本能夠有效提升監(jiān)督學(xué)習(xí)的性能,但是獲取充足的有標(biāo)簽樣本往往需要耗費大量的時間。在這種情況下,僅使用少量有標(biāo)簽樣本的監(jiān)督學(xué)習(xí)泛化能力不強(qiáng),而完全基于無標(biāo)簽樣本的無監(jiān)督學(xué)習(xí)往往效果不佳。這些傳統(tǒng)的機(jī)器學(xué)習(xí)范式不僅沒有性能上的優(yōu)勢,還浪費了數(shù)據(jù)資源。因此,研究能夠同時利用有標(biāo)簽樣本和無標(biāo)簽樣本的機(jī)器學(xué)習(xí)方法具有重要的意義。在有標(biāo)簽樣本較少時,半監(jiān)督學(xué)習(xí)能夠利用大量無標(biāo)簽樣本改進(jìn)學(xué)習(xí)性能,近年來受到了廣泛的關(guān)注。經(jīng)過二十多年的研究,半監(jiān)督學(xué)習(xí)己經(jīng)成為一類重要的機(jī)器學(xué)習(xí)范式,并被成功應(yīng)用到諸多領(lǐng)域。然而,半監(jiān)督學(xué)習(xí)在無標(biāo)簽樣本的有效使用、高效利用以及在特征選擇中的有效性方面仍然存在一些有待解決的重要問題。本文對這些問題展開研究,主要貢獻(xiàn)總結(jié)如下:（1）對無標(biāo)簽樣本的有效使用進(jìn)行研究,提出了基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)框架以及基于該框架的半監(jiān)督算法SBS2LEM和SBS2LVB。這兩種算法具有良好的稀疏性,能夠在訓(xùn)練過程中自動刪除無關(guān)的無標(biāo)簽樣本,從而更加有效地利用無標(biāo)簽樣本。實驗表明,SBS2LEM和SBS2LV... 

【文章頁數(shù)】：109 頁

【學(xué)位級別】：博士

【文章目錄】：
摘要
abstract
第1章 緒論
    1.1 研究背景
    1.2 國內(nèi)外研究現(xiàn)狀
    1.3 有待研究的問題
    1.4 本文的主要研究內(nèi)容
    1.5 本文的組織結(jié)構(gòu)
第2章 相關(guān)知識介紹
    2.1 貝葉斯方法
    2.2 稀疏貝葉斯方法
    2.3 近似推斷方法
        2.3.1 變分貝葉斯方法
        2.3.2 拉普拉斯近似
    2.4 本章小結(jié)
第3章 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)算法研究
    3.1 引言
    3.2 相關(guān)工作
    3.3 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)算法
        3.3.1 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)框架
        3.3.2 基于最大化后驗估計的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
        3.3.3 基于全貝葉斯估計的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
        3.3.4 預(yù)測樣本標(biāo)簽
    3.4 實驗驗證
        3.4.1 人工數(shù)據(jù)集上的實驗
        3.4.2 基準(zhǔn)數(shù)據(jù)集上的實驗
        3.4.3 UCI數(shù)據(jù)集上的實驗
    3.5 本章小結(jié)
第4章 基于稀疏貝葉斯的可擴(kuò)展半監(jiān)督學(xué)習(xí)算法
    4.1 引言
    4.2 相關(guān)工作
    4.3 基于稀疏貝葉斯的可擴(kuò)展半監(jiān)督學(xué)習(xí)算法
        4.3.1 基于拉普拉斯近似的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
        4.3.2 增量稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
        4.3.3 復(fù)雜度分析
    4.4 魯棒性和泛化誤差分析
    4.5 實驗驗證
        4.5.1 標(biāo)準(zhǔn)數(shù)據(jù)集上的實驗
        4.5.2 參數(shù)敏感性分析
        4.5.3 中等規(guī)模和大規(guī)模數(shù)據(jù)集上的實驗
        4.5.4 可擴(kuò)展性
    4.6 本章小結(jié)
第5章 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
    5.1 引言
    5.2 相關(guān)工作
    5.3 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
        5.3.1 問題描述與分析
        5.3.2 特征參數(shù)與無標(biāo)簽樣本參數(shù)的先驗
        5.3.3 優(yōu)化參數(shù)
    5.4 實驗驗證
        5.4.1 實驗設(shè)置
        5.4.2 算法對噪聲特征和噪聲無標(biāo)簽樣本的魯棒性
        5.4.3 算法在高維數(shù)據(jù)集上的性能
        5.4.4 算法的計算復(fù)雜度和收斂性分析
    5.5 本章小結(jié)
第6章 總結(jié)與展望
參考文獻(xiàn)
附錄A 泛化誤差邊界中的證明
致謝
在讀期間發(fā)表的學(xué)術(shù)論文與取得的研究成果


【參考文獻(xiàn)】：
期刊論文
[1]基于稀疏貝葉斯的流形學(xué)習(xí)[J]. 陳兵飛,江兵兵,周熙人,陳歡歡.  電子學(xué)報. 2018(01)

博士論文
[1]分布式變分貝葉斯算法及其應(yīng)用[D]. 華俊豪.浙江大學(xué) 2018
[2]數(shù)據(jù)驅(qū)動的圖推斷算法研究[D]. 宮辰.上海交通大學(xué) 2016
[3]半監(jiān)督支持向量機(jī)學(xué)習(xí)方法的研究[D]. 李宇峰.南京大學(xué) 2013
[4]貝葉斯學(xué)習(xí)理論及其應(yīng)用研究[D]. 宮秀軍.中國科學(xué)院研究生院（計算技術(shù)研究所） 2002

碩士論文
[1]概率特征選擇分類向量機(jī)[D]. 李昌.中國科學(xué)技術(shù)大學(xué) 2016



本文編號：3691003