基于貝葉斯方法的半監(jiān)督學(xué)習(xí)算法研究
發(fā)布時(shí)間:2022-10-11 17:40
隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展,實(shí)際應(yīng)用中存在著大量無(wú)標(biāo)簽樣本和少量有標(biāo)簽樣本。雖然有標(biāo)簽樣本能夠有效提升監(jiān)督學(xué)習(xí)的性能,但是獲取充足的有標(biāo)簽樣本往往需要耗費(fèi)大量的時(shí)間。在這種情況下,僅使用少量有標(biāo)簽樣本的監(jiān)督學(xué)習(xí)泛化能力不強(qiáng),而完全基于無(wú)標(biāo)簽樣本的無(wú)監(jiān)督學(xué)習(xí)往往效果不佳。這些傳統(tǒng)的機(jī)器學(xué)習(xí)范式不僅沒(méi)有性能上的優(yōu)勢(shì),還浪費(fèi)了數(shù)據(jù)資源。因此,研究能夠同時(shí)利用有標(biāo)簽樣本和無(wú)標(biāo)簽樣本的機(jī)器學(xué)習(xí)方法具有重要的意義。在有標(biāo)簽樣本較少時(shí),半監(jiān)督學(xué)習(xí)能夠利用大量無(wú)標(biāo)簽樣本改進(jìn)學(xué)習(xí)性能,近年來(lái)受到了廣泛的關(guān)注。經(jīng)過(guò)二十多年的研究,半監(jiān)督學(xué)習(xí)己經(jīng)成為一類重要的機(jī)器學(xué)習(xí)范式,并被成功應(yīng)用到諸多領(lǐng)域。然而,半監(jiān)督學(xué)習(xí)在無(wú)標(biāo)簽樣本的有效使用、高效利用以及在特征選擇中的有效性方面仍然存在一些有待解決的重要問(wèn)題。本文對(duì)這些問(wèn)題展開(kāi)研究,主要貢獻(xiàn)總結(jié)如下:(1)對(duì)無(wú)標(biāo)簽樣本的有效使用進(jìn)行研究,提出了基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)框架以及基于該框架的半監(jiān)督算法SBS2LEM和SBS2LVB。這兩種算法具有良好的稀疏性,能夠在訓(xùn)練過(guò)程中自動(dòng)刪除無(wú)關(guān)的無(wú)標(biāo)簽樣本,從而更加有效地利用無(wú)標(biāo)簽樣本。實(shí)驗(yàn)表明,SBS2LEM和SBS2LV...
【文章頁(yè)數(shù)】:109 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
摘要
abstract
第1章 緒論
1.1 研究背景
1.2 國(guó)內(nèi)外研究現(xiàn)狀
1.3 有待研究的問(wèn)題
1.4 本文的主要研究?jī)?nèi)容
1.5 本文的組織結(jié)構(gòu)
第2章 相關(guān)知識(shí)介紹
2.1 貝葉斯方法
2.2 稀疏貝葉斯方法
2.3 近似推斷方法
2.3.1 變分貝葉斯方法
2.3.2 拉普拉斯近似
2.4 本章小結(jié)
第3章 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)算法研究
3.1 引言
3.2 相關(guān)工作
3.3 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)算法
3.3.1 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)框架
3.3.2 基于最大化后驗(yàn)估計(jì)的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
3.3.3 基于全貝葉斯估計(jì)的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
3.3.4 預(yù)測(cè)樣本標(biāo)簽
3.4 實(shí)驗(yàn)驗(yàn)證
3.4.1 人工數(shù)據(jù)集上的實(shí)驗(yàn)
3.4.2 基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)
3.4.3 UCI數(shù)據(jù)集上的實(shí)驗(yàn)
3.5 本章小結(jié)
第4章 基于稀疏貝葉斯的可擴(kuò)展半監(jiān)督學(xué)習(xí)算法
4.1 引言
4.2 相關(guān)工作
4.3 基于稀疏貝葉斯的可擴(kuò)展半監(jiān)督學(xué)習(xí)算法
4.3.1 基于拉普拉斯近似的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
4.3.2 增量稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
4.3.3 復(fù)雜度分析
4.4 魯棒性和泛化誤差分析
4.5 實(shí)驗(yàn)驗(yàn)證
4.5.1 標(biāo)準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)
4.5.2 參數(shù)敏感性分析
4.5.3 中等規(guī)模和大規(guī)模數(shù)據(jù)集上的實(shí)驗(yàn)
4.5.4 可擴(kuò)展性
4.6 本章小結(jié)
第5章 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
5.1 引言
5.2 相關(guān)工作
5.3 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
5.3.1 問(wèn)題描述與分析
5.3.2 特征參數(shù)與無(wú)標(biāo)簽樣本參數(shù)的先驗(yàn)
5.3.3 優(yōu)化參數(shù)
5.4 實(shí)驗(yàn)驗(yàn)證
5.4.1 實(shí)驗(yàn)設(shè)置
5.4.2 算法對(duì)噪聲特征和噪聲無(wú)標(biāo)簽樣本的魯棒性
5.4.3 算法在高維數(shù)據(jù)集上的性能
5.4.4 算法的計(jì)算復(fù)雜度和收斂性分析
5.5 本章小結(jié)
第6章 總結(jié)與展望
參考文獻(xiàn)
附錄A 泛化誤差邊界中的證明
致謝
在讀期間發(fā)表的學(xué)術(shù)論文與取得的研究成果
【參考文獻(xiàn)】:
期刊論文
[1]基于稀疏貝葉斯的流形學(xué)習(xí)[J]. 陳兵飛,江兵兵,周熙人,陳歡歡. 電子學(xué)報(bào). 2018(01)
博士論文
[1]分布式變分貝葉斯算法及其應(yīng)用[D]. 華俊豪.浙江大學(xué) 2018
[2]數(shù)據(jù)驅(qū)動(dòng)的圖推斷算法研究[D]. 宮辰.上海交通大學(xué) 2016
[3]半監(jiān)督支持向量機(jī)學(xué)習(xí)方法的研究[D]. 李宇峰.南京大學(xué) 2013
[4]貝葉斯學(xué)習(xí)理論及其應(yīng)用研究[D]. 宮秀軍.中國(guó)科學(xué)院研究生院(計(jì)算技術(shù)研究所) 2002
碩士論文
[1]概率特征選擇分類向量機(jī)[D]. 李昌.中國(guó)科學(xué)技術(shù)大學(xué) 2016
本文編號(hào):3691003
【文章頁(yè)數(shù)】:109 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
摘要
abstract
第1章 緒論
1.1 研究背景
1.2 國(guó)內(nèi)外研究現(xiàn)狀
1.3 有待研究的問(wèn)題
1.4 本文的主要研究?jī)?nèi)容
1.5 本文的組織結(jié)構(gòu)
第2章 相關(guān)知識(shí)介紹
2.1 貝葉斯方法
2.2 稀疏貝葉斯方法
2.3 近似推斷方法
2.3.1 變分貝葉斯方法
2.3.2 拉普拉斯近似
2.4 本章小結(jié)
第3章 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)算法研究
3.1 引言
3.2 相關(guān)工作
3.3 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)算法
3.3.1 基于稀疏貝葉斯的半監(jiān)督學(xué)習(xí)框架
3.3.2 基于最大化后驗(yàn)估計(jì)的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
3.3.3 基于全貝葉斯估計(jì)的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
3.3.4 預(yù)測(cè)樣本標(biāo)簽
3.4 實(shí)驗(yàn)驗(yàn)證
3.4.1 人工數(shù)據(jù)集上的實(shí)驗(yàn)
3.4.2 基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)
3.4.3 UCI數(shù)據(jù)集上的實(shí)驗(yàn)
3.5 本章小結(jié)
第4章 基于稀疏貝葉斯的可擴(kuò)展半監(jiān)督學(xué)習(xí)算法
4.1 引言
4.2 相關(guān)工作
4.3 基于稀疏貝葉斯的可擴(kuò)展半監(jiān)督學(xué)習(xí)算法
4.3.1 基于拉普拉斯近似的稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
4.3.2 增量稀疏貝葉斯半監(jiān)督學(xué)習(xí)算法
4.3.3 復(fù)雜度分析
4.4 魯棒性和泛化誤差分析
4.5 實(shí)驗(yàn)驗(yàn)證
4.5.1 標(biāo)準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)
4.5.2 參數(shù)敏感性分析
4.5.3 中等規(guī)模和大規(guī)模數(shù)據(jù)集上的實(shí)驗(yàn)
4.5.4 可擴(kuò)展性
4.6 本章小結(jié)
第5章 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
5.1 引言
5.2 相關(guān)工作
5.3 基于貝葉斯的聯(lián)合半監(jiān)督特征選擇與分類算法
5.3.1 問(wèn)題描述與分析
5.3.2 特征參數(shù)與無(wú)標(biāo)簽樣本參數(shù)的先驗(yàn)
5.3.3 優(yōu)化參數(shù)
5.4 實(shí)驗(yàn)驗(yàn)證
5.4.1 實(shí)驗(yàn)設(shè)置
5.4.2 算法對(duì)噪聲特征和噪聲無(wú)標(biāo)簽樣本的魯棒性
5.4.3 算法在高維數(shù)據(jù)集上的性能
5.4.4 算法的計(jì)算復(fù)雜度和收斂性分析
5.5 本章小結(jié)
第6章 總結(jié)與展望
參考文獻(xiàn)
附錄A 泛化誤差邊界中的證明
致謝
在讀期間發(fā)表的學(xué)術(shù)論文與取得的研究成果
【參考文獻(xiàn)】:
期刊論文
[1]基于稀疏貝葉斯的流形學(xué)習(xí)[J]. 陳兵飛,江兵兵,周熙人,陳歡歡. 電子學(xué)報(bào). 2018(01)
博士論文
[1]分布式變分貝葉斯算法及其應(yīng)用[D]. 華俊豪.浙江大學(xué) 2018
[2]數(shù)據(jù)驅(qū)動(dòng)的圖推斷算法研究[D]. 宮辰.上海交通大學(xué) 2016
[3]半監(jiān)督支持向量機(jī)學(xué)習(xí)方法的研究[D]. 李宇峰.南京大學(xué) 2013
[4]貝葉斯學(xué)習(xí)理論及其應(yīng)用研究[D]. 宮秀軍.中國(guó)科學(xué)院研究生院(計(jì)算技術(shù)研究所) 2002
碩士論文
[1]概率特征選擇分類向量機(jī)[D]. 李昌.中國(guó)科學(xué)技術(shù)大學(xué) 2016
本文編號(hào):3691003
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/3691003.html
最近更新
教材專著