基于跨域正則化模型的域適應(yīng)方法研究
發(fā)布時(shí)間:2025-03-19 06:07
傳統(tǒng)的機(jī)器學(xué)習(xí)方法假設(shè)訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)服從獨(dú)立同分布,需要大量與測(cè)試數(shù)據(jù)同分布的有標(biāo)記樣本來(lái)保證學(xué)習(xí)模型的泛化性能。然而,在現(xiàn)實(shí)應(yīng)用中,由于環(huán)境的變化或采樣條件的限制,為某個(gè)特定的應(yīng)用收集足夠的訓(xùn)練樣本是困難的甚至是不可能的。為了解決有標(biāo)記樣本稀缺的問(wèn)題,域適應(yīng)被提出來(lái)并受到了廣泛的關(guān)注。域適應(yīng)屬于遷移學(xué)習(xí)的一個(gè)分支,放寬了傳統(tǒng)機(jī)器學(xué)習(xí)對(duì)于數(shù)據(jù)服從獨(dú)立同分布的要求。給定大量來(lái)自源域的有標(biāo)記樣本和大量來(lái)自目標(biāo)域的無(wú)標(biāo)記樣本,域適應(yīng)假設(shè)源域和目標(biāo)域具有不同的數(shù)據(jù)分布,但是二者的任務(wù)是相同的,即有相同的類別標(biāo)簽,域適應(yīng)的目標(biāo)是利用源域內(nèi)的有標(biāo)記樣本來(lái)幫助學(xué)習(xí)一個(gè)在目標(biāo)域內(nèi)具有較高泛化性能的分類器,以此來(lái)減少對(duì)于目標(biāo)域內(nèi)有標(biāo)記樣本的需求。雖然域適應(yīng)方法的性能較傳統(tǒng)機(jī)器學(xué)習(xí)方法有所提升,但是現(xiàn)有的方法主要側(cè)重于如何減少源域和目標(biāo)域之間的分布差異,忽略了目標(biāo)域內(nèi)無(wú)標(biāo)記樣本在分類器學(xué)習(xí)過(guò)程中的作用,當(dāng)源域和目標(biāo)域數(shù)據(jù)分布差異較大時(shí)難以取得理想的效果�;诮�(jīng)驗(yàn)風(fēng)險(xiǎn)最小化準(zhǔn)則和正則化理論,本文旨在研究如何在最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)的基礎(chǔ)上設(shè)計(jì)并添加合適的正則項(xiàng),提高模型的泛化性能,以提升分類器在目標(biāo)域上的準(zhǔn)確率,...
【文章頁(yè)數(shù)】:117 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景
1.2 遷移學(xué)習(xí)和域適應(yīng)
1.2.1 遷移學(xué)習(xí)的定義
1.2.2 遷移學(xué)習(xí)的分類
1.2.3 域適應(yīng)
1.3 域適應(yīng)的研究現(xiàn)狀
1.3.1 基于樣本的域適應(yīng)
1.3.2 基于分類器的域適應(yīng)
1.3.3 基于特征的域適應(yīng)
1.4 主要研究?jī)?nèi)容及文章結(jié)構(gòu)
1.4.1 主要研究?jī)?nèi)容
1.4.2 文章結(jié)構(gòu)
第2章 解決域適應(yīng)問(wèn)題的跨域正則化模型
2.1 經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化準(zhǔn)則與正則化理論
2.1.1 最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)
2.1.2 正則化
2.2 域適應(yīng)問(wèn)題描述
2.3 跨域正則化模型
2.3.1 分布差異的度量
2.3.2 經(jīng)驗(yàn)風(fēng)險(xiǎn)與結(jié)構(gòu)風(fēng)險(xiǎn)
2.3.3 跨域約束
2.4 跨域正則化學(xué)習(xí)算法
2.4.1 特征學(xué)習(xí)
2.4.2 分類器學(xué)習(xí)
2.5 本章小結(jié)
第3章 基于跨域判別分析和軟標(biāo)簽正則化的域適應(yīng)方法
3.1 引言
3.2 跨域判別分析
3.2.1 減少分布差異
3.2.2 保持?jǐn)?shù)據(jù)的本質(zhì)信息
3.2.3 優(yōu)化
3.3 軟標(biāo)簽正則化
3.3.1 經(jīng)驗(yàn)風(fēng)險(xiǎn)和結(jié)構(gòu)風(fēng)險(xiǎn)
3.3.2 圖拉普拉斯正則項(xiàng)
3.3.3 跨域約束
3.3.4 優(yōu)化
3.4 實(shí)驗(yàn)驗(yàn)證
3.4.1 數(shù)據(jù)集描述
3.4.2 實(shí)驗(yàn)設(shè)置
3.4.3 實(shí)驗(yàn)結(jié)果
3.4.4 性能分析
3.5 本章小結(jié)
第4章 基于結(jié)構(gòu)保持的跨域特征學(xué)習(xí)的域適應(yīng)方法
4.1 引言
4.2 結(jié)構(gòu)保持的跨域特征學(xué)習(xí)
4.2.1 分布匹配
4.2.2 保持源域的判別信息
4.2.3 保持目標(biāo)域的局部結(jié)構(gòu)
4.2.4 優(yōu)化
4.3 與現(xiàn)有方法的關(guān)系
4.3.1 遷移成分分析
4.3.2 聯(lián)合分布適應(yīng)
4.3.3 跨域判別分析
4.4 實(shí)驗(yàn)驗(yàn)證
4.4.1 數(shù)據(jù)集和實(shí)驗(yàn)設(shè)置
4.4.2 實(shí)驗(yàn)結(jié)果
4.4.3 性能分析
4.5 本章小結(jié)
第5章 基于多視角聯(lián)合正則化的域適應(yīng)方法
5.1 引言
5.2 多視角聯(lián)合正則化
5.2.1 經(jīng)驗(yàn)風(fēng)險(xiǎn)和結(jié)構(gòu)風(fēng)險(xiǎn)
5.2.2 跨域約束
5.2.3 跨視角約束
5.2.4 流形約束
5.2.5 優(yōu)化
5.3 實(shí)驗(yàn)驗(yàn)證
5.3.1 數(shù)據(jù)集描述
5.3.2 對(duì)比方法
5.3.3 實(shí)驗(yàn)結(jié)果
5.3.4 性能分析
5.4 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀博士學(xué)位期間發(fā)表的論文及其他成果
致謝
個(gè)人簡(jiǎn)歷
本文編號(hào):4036784
【文章頁(yè)數(shù)】:117 頁(yè)
【學(xué)位級(jí)別】:博士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景
1.2 遷移學(xué)習(xí)和域適應(yīng)
1.2.1 遷移學(xué)習(xí)的定義
1.2.2 遷移學(xué)習(xí)的分類
1.2.3 域適應(yīng)
1.3 域適應(yīng)的研究現(xiàn)狀
1.3.1 基于樣本的域適應(yīng)
1.3.2 基于分類器的域適應(yīng)
1.3.3 基于特征的域適應(yīng)
1.4 主要研究?jī)?nèi)容及文章結(jié)構(gòu)
1.4.1 主要研究?jī)?nèi)容
1.4.2 文章結(jié)構(gòu)
第2章 解決域適應(yīng)問(wèn)題的跨域正則化模型
2.1 經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化準(zhǔn)則與正則化理論
2.1.1 最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)
2.1.2 正則化
2.2 域適應(yīng)問(wèn)題描述
2.3 跨域正則化模型
2.3.1 分布差異的度量
2.3.2 經(jīng)驗(yàn)風(fēng)險(xiǎn)與結(jié)構(gòu)風(fēng)險(xiǎn)
2.3.3 跨域約束
2.4 跨域正則化學(xué)習(xí)算法
2.4.1 特征學(xué)習(xí)
2.4.2 分類器學(xué)習(xí)
2.5 本章小結(jié)
第3章 基于跨域判別分析和軟標(biāo)簽正則化的域適應(yīng)方法
3.1 引言
3.2 跨域判別分析
3.2.1 減少分布差異
3.2.2 保持?jǐn)?shù)據(jù)的本質(zhì)信息
3.2.3 優(yōu)化
3.3 軟標(biāo)簽正則化
3.3.1 經(jīng)驗(yàn)風(fēng)險(xiǎn)和結(jié)構(gòu)風(fēng)險(xiǎn)
3.3.2 圖拉普拉斯正則項(xiàng)
3.3.3 跨域約束
3.3.4 優(yōu)化
3.4 實(shí)驗(yàn)驗(yàn)證
3.4.1 數(shù)據(jù)集描述
3.4.2 實(shí)驗(yàn)設(shè)置
3.4.3 實(shí)驗(yàn)結(jié)果
3.4.4 性能分析
3.5 本章小結(jié)
第4章 基于結(jié)構(gòu)保持的跨域特征學(xué)習(xí)的域適應(yīng)方法
4.1 引言
4.2 結(jié)構(gòu)保持的跨域特征學(xué)習(xí)
4.2.1 分布匹配
4.2.2 保持源域的判別信息
4.2.3 保持目標(biāo)域的局部結(jié)構(gòu)
4.2.4 優(yōu)化
4.3 與現(xiàn)有方法的關(guān)系
4.3.1 遷移成分分析
4.3.2 聯(lián)合分布適應(yīng)
4.3.3 跨域判別分析
4.4 實(shí)驗(yàn)驗(yàn)證
4.4.1 數(shù)據(jù)集和實(shí)驗(yàn)設(shè)置
4.4.2 實(shí)驗(yàn)結(jié)果
4.4.3 性能分析
4.5 本章小結(jié)
第5章 基于多視角聯(lián)合正則化的域適應(yīng)方法
5.1 引言
5.2 多視角聯(lián)合正則化
5.2.1 經(jīng)驗(yàn)風(fēng)險(xiǎn)和結(jié)構(gòu)風(fēng)險(xiǎn)
5.2.2 跨域約束
5.2.3 跨視角約束
5.2.4 流形約束
5.2.5 優(yōu)化
5.3 實(shí)驗(yàn)驗(yàn)證
5.3.1 數(shù)據(jù)集描述
5.3.2 對(duì)比方法
5.3.3 實(shí)驗(yàn)結(jié)果
5.3.4 性能分析
5.4 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀博士學(xué)位期間發(fā)表的論文及其他成果
致謝
個(gè)人簡(jiǎn)歷
本文編號(hào):4036784
本文鏈接:http://sikaile.net/kejilunwen/zidonghuakongzhilunwen/4036784.html
最近更新
教材專著